Los creadores de vLLM lanzan Inferact con una ronda semilla de USD 150 millones

Inferact, una empresa emergente que comercializa el proyecto de código abierto vLLM, ha recaudado USD 150 millones en una ronda semilla con una valoración de USD 800 millones. La ronda de financiación fue codirigida por las firmas de capital de riesgo Andreessen Horowitz y Lightspeed Venture Partners. En el sector tecnológico, la financiación semilla representa la inversión de capital en etapa temprana necesaria para transformar un proyecto de código abierto en una empresa comercial. Inferact está utilizando este capital para centrarse en la inferencia, que se define como el proceso de despliegue de modelos de inteligencia artificial (IA) en aplicaciones. Al optimizar este proceso, la empresa busca hacer que la ejecución de cargas de trabajo de IA sea más rápida y asequible para las empresas. La transición de vLLM de una herramienta de código abierto a una empresa emergente respaldada por capital de riesgo representa un paso significativo en la comercialización de la infraestructura de IA.

El debut de Inferact refleja de cerca la reciente comercialización de SGLang, otro proyecto de código abierto diseñado para mejorar la eficiencia de los sistemas de inteligencia artificial. SGLang se ha comercializado como una empresa emergente llamada RadixArk. La rápida transición de estos proyectos académicos a empresas respaldadas por capital de riesgo subraya el intenso interés de los inversionistas en el software que optimiza la fase de despliegue de la inteligencia artificial. Los detalles financieros de estas dos entidades recién formadas demuestran las importantes valoraciones de mercado que se están estableciendo para las empresas emergentes centradas en la inferencia:

• Inferact: La empresa recaudó USD 150 millones en financiación semilla con una valoración de USD 800 millones para comercializar el proyecto vLLM, con Andreessen Horowitz y Lightspeed Venture Partners codirigiendo la inversión.
• RadixArk: La empresa emergente que comercializa SGLang obtuvo capital con una valoración de USD 400 millones, en una ronda de inversión liderada por Accel que se reportó el miércoles.

Tanto vLLM como SGLang comparten un linaje académico común, habiendo sido incubados en 2023 en el laboratorio de investigación de la Universidad de California, Berkeley, de Ion Stoica, quien también es cofundador de Databricks. Si bien SGLang se está comercializando a través de RadixArk, vLLM ya ha logrado una adopción notable entre los principales usuarios corporativos. Según Simon Mo, director ejecutivo de Inferact y uno de los creadores originales del proyecto vLLM, los usuarios existentes de vLLM incluyen el servicio en la nube de Amazon y la aplicación de compras. Esta base de usuarios existente proporciona a Inferact una base establecida a medida que transita de un proyecto de código abierto a una entidad comercial.

Por qué importa

A medida que la industria de la inteligencia artificial cambia su enfoque del entrenamiento de modelos a su despliegue en aplicaciones, las tecnologías que optimizan la inferencia se están convirtiendo en infraestructura crítica. Herramientas como vLLM y SGLang, que hacen que estos sistemas funcionen de manera más rápida y asequible, están atrayendo una atención sustancial de los inversionistas a medida que las empresas buscan gestionar los costos operativos.