Los modelos más pequeños podrían alterar la economía de los laboratorios de IA

La industria de la inteligencia artificial (IA) se enfrenta a un posible cambio en la forma en que las empresas implementan la tecnología, alejándose de la dependencia de los sistemas más grandes disponibles. Brian Armstrong, cofundador de Coinbase, predice que la gran mayoría de las tareas pronto cambiarán a alternativas significativamente más baratas. Según Armstrong: “La demanda de inteligencia es casi infinita, pero el 80% de las cargas de trabajo se ejecutarán en modelos un 99% más baratos en un plazo de 12 a 18 meses”. Según este pronóstico, solo el 20% de las cargas de trabajo seguirán ejecutándose en la última generación de modelos donde el “IQ maxing” (priorizar la mayor inteligencia posible en un modelo) es importante.

Las pruebas empresariales iniciales respaldan la viabilidad de esta transición. Harvey, una startup de IA legal, probó recientemente reducciones de costos en asociación con la plataforma de inferencia Fireworks AI. En la prueba, Harvey pudo reducir los costos de inferencia (el costo de ejecutar un modelo de IA para generar resultados) en 3x sin reducir la calidad. Gabe Pereyra, cofundador de Harvey, señaló que, si bien la calidad sigue siendo el enfoque principal en el sector legal, la definición de calidad está cambiando. En lugar de recurrir por defecto al modelo más potente para cada tarea, las empresas buscan el modelo más eficiente que pueda ofrecer la respuesta correcta.

Este cambio hacia modelos más pequeños y eficientes representa un alejamiento del enfoque de “priorizar la escala” que ha dominado el desarrollo reciente de la industria. Durante años, los principales laboratorios de inteligencia artificial se han centrado en entrenar modelos de frontera cada vez más intensivos en cómputo, que son los modelos más avanzados y exigentes disponibles. Sin embargo, a medida que los usuarios empresariales enfrentan crecientes presiones de costos, la demanda de estas opciones costosas podría disminuir. La tendencia se discute a menudo en el contexto de la competencia entre los principales laboratorios y los proveedores de modelos de pesos abiertos, como DeepSeek, donde los pesos de los modelos están disponibles públicamente. Pero el cambio principal es de modelos grandes a otros más pequeños y eficientes. Si las empresas logran migrar sus cargas de trabajo a estas alternativas más baratas, podría asestar un golpe financiero a los principales laboratorios como OpenAI y Anthropic, que han confiado en la suposición de que los modelos más potentes y costosos dominarían constantemente el mercado.

Por qué importa

El movimiento hacia modelos más pequeños y baratos desafía la suposición de que los modelos más potentes siempre dominarán el mercado. Este cambio podría forzar un reajuste económico importante para los laboratorios de modelos de frontera que han invertido fuertemente en el entrenamiento de sistemas masivos e intensivos en cómputo.