Infinity recauda USD 15 millones para crear una alternativa a CUDA para chips de IA

Infinity, una empresa emergente de infraestructura de inteligencia artificial (IA), anunció el lunes que recaudó USD 15 millones a una valoración de USD 100 millones. La ronda incluyó a Touring Capital, Principal VC e investigadores de empresas como OpenAI y Anthropic.

La startup está desarrollando software que permite a los chips de IA ejecutar modelos de IA de manera más eficiente. El dominio de Nvidia en hardware de IA no se basa únicamente en sus chips de alto rendimiento, sino también en CUDA (Compute Unified Device Architecture), la capa de software que permite que sus GPU —diseñadas originalmente para gráficos— funcionen como procesadores de propósito general. Los dos principales marcos de desarrollo de IA, PyTorch y TensorFlow, están construidos sobre CUDA, por lo que las aplicaciones escritas en Python con esos marcos se ejecutan por defecto en chips de Nvidia.

La mayoría de las startups de nivel de aplicación no cuentan con los recursos para escribir sus propios kernels —el software de bajo nivel que opera los chips— ni para portar sus productos a otros chips de IA. Infinity intenta construir un software de kernels alternativo a CUDA, diseñado para funcionar en distintos tipos de chips, incluidos SRAM, GPU, chips para teléfonos y arreglos sistólicos (systolic arrays), como parte de una ola más amplia de startups que buscan, producto por producto, erosionar la posición de mercado de Nvidia. La empresa describe su meta como una biblioteca de inferencia universal que permitiría a cualquier chip replicar automáticamente resultados de investigación de vanguardia.

Infinity fue fundada el año pasado por Jeremy Nixon, ex investigador de Google Brain y creador de la comunidad de la red hacker AGI House. Nixon dijo a TechCrunch que fundó la empresa porque estaba obsesionado con la idea de la invención automatizada, la creencia de que, en sus palabras, “los sistemas de IA en realidad pueden ser una metatecnología”. Dijo que anteriormente había inventado Omega, un algoritmo de aprendizaje automático que crea nuevos algoritmos de aprendizaje automático y los evalúa automáticamente en un ciclo de retroalimentación; esa experiencia lo llevó a aplicar el mismo enfoque automatizado al hardware, incluido el código de bajo nivel necesario para operar los chips de manera eficiente.

Ignition, el agente de investigación de IA de Infinity, está pensado para escribir el código de bajo nivel necesario para la inferencia de IA en chips alternativos a los de Nvidia. Prueba, depura y mide el rendimiento del hardware, y luego reescribe automáticamente el código para mejorarlo: un sistema autooptimizante que, según Nixon, se adapta a distintas arquitecturas de chips, incluidas las propietarias. Infinity afirma que el resultado es una pila de software del nivel de CUDA. Entre sus clientes está el fabricante de chips de IA D-Matrix, y la empresa está en conversaciones con otras grandes compañías de chips y de nube, según Nixon.

Los humanos permanecen en el circuito, marcando la dirección de alto nivel mientras el agente se encarga de más del trabajo rutinario. En un caso de estudio, dijo Nixon, el agente funcionó mucho más rápido que un humano solo, reduciendo a horas o días un proceso que podría haber tomado años o meses. Infinity no cobra una tarifa de licencia por adelantado; en cambio, se queda con una parte de las ganancias de rendimiento y del ahorro de costos que genera, medidos en tokens por segundo. La empresa tiene actualmente 26 empleados en diseño, operaciones e ingeniería.

Por qué importa

Infinity forma parte de un número creciente de startups que apuestan a que el software, no solo el silicio, puede aflojar el control de Nvidia sobre la infraestructura de IA, una dinámica que podría reducir los costos para cualquier empresa que ejecute inferencia a gran escala, sin importar el proveedor de chips que elija.