IA y modelos
Musk admite que xAI utilizó destilación en modelos de OpenAI
Elon Musk testificó que xAI utilizó en parte técnicas de destilación en modelos de OpenAI, confirmando que los laboratorios de IA estadounidenses aprovechan frecuentemente la tecnología de otros para entrenar sus propios sistemas.
El jueves, Elon Musk testificó en un tribunal federal de California que su empresa emergente de inteligencia artificial (IA), xAI, utilizó técnicas de destilación en modelos de OpenAI para entrenar a su chatbot Grok. La destilación es el proceso de entrenar nuevos modelos de IA mediante la consulta de chatbots y API de acceso público. Cuando se le preguntó en el estrado durante el juicio si xAI había utilizado estas técnicas de destilación en los modelos de OpenAI, Musk respondió: “En parte”. Además, afirmó que el uso de la destilación es una práctica generalizada entre las empresas de IA, lo que confirma las suposiciones de la industria de que los desarrolladores de EE. UU. aprovechan los sistemas de otros para evitar quedarse atrás.
El testimonio tuvo lugar durante la demanda en curso de Musk contra OpenAI, su director ejecutivo Sam Altman y el cofundador Greg Brockman. La batalla legal, que fue a juicio esta semana en California, presenta a Musk alegando que incumplieron la misión original sin fines de lucro de OpenAI al cambiar la entidad a una estructura con fines de lucro. El juicio comenzó esta semana, con el testimonio del líder tecnológico en el estrado.
La admisión del uso de la destilación se produce en medio de esfuerzos más amplios de la industria para restringir esta práctica. OpenAI, Anthropic y Google han lanzado, según se informa, una iniciativa a través del Frontier Model Forum (un grupo industrial centrado en la seguridad de la IA) para compartir información sobre cómo combatir los intentos de destilación provenientes de China. Estos intentos suelen implicar la consulta sistemática de modelos para comprender su funcionamiento interno. Si bien estas empresas de EE. UU. están trabajando para evitar que usuarios externos realicen consultas masivas sospechosas, el testimonio de Musk indica que técnicas de destilación similares se utilizan activamente de forma interna entre competidores nacionales.
Más adelante en su testimonio, se le preguntó a Musk sobre sus afirmaciones anteriores respecto al posicionamiento competitivo de xAI. En respuesta, clasificó a los principales proveedores de IA, colocando a Anthropic en el primer lugar, seguido por OpenAI, Google y modelos de código abierto chinos. Caracterizó a xAI, que comenzó en 2023, como una operación mucho más pequeña que actualmente funciona con solo unos pocos cientos de empleados.
Por qué importa
La admisión de Musk confirma que los laboratorios de IA estadounidenses utilizan técnicas de destilación en los modelos de los demás. Esta práctica amenaza la ventaja competitiva de los laboratorios de vanguardia al permitir que los competidores creen modelos capaces a un costo menor.