Por qué la IA recursiva sigue siendo una meta lejana para la industria

El concepto de mejora recursiva (RSI, por sus siglas en inglés)—donde un sistema de IA se actualiza continuamente—se ha convertido en el último punto focal para el desarrollo de la IA. Aunque el término se ha convertido en un sinónimo de tres letras para un despegue cataclísmico de la IA, la tecnología real sigue en su infancia. A principios de este mes, el investigador de IA Richard Socher lanzó una startup llamada Recursive Superintelligence para perseguir este objetivo explícito. Socher declaró: “Nuestro enfoque principal es construir una superinteligencia verdaderamente recursiva y que se autooptimice a escala, lo que significa que todo el proceso de ideación, implementación y validación de ideas de investigación sería automático”.

Varios investigadores y startups prominentes persiguen objetivos de automatización similares, aunque su progreso actual depende en gran medida de la ingeniería dirigida por humanos. El investigador de IA Andrej Karpathy ha estado utilizando enjambres de agentes para entrenar modelos de lenguaje extensos en tareas simples para un proyecto llamado Auto-Research. Sin embargo, en marzo, Karpathy señaló que el proyecto aún no era una investigación novedosa o innovadora. De manera similar, la startup Adaption, fundada por Sara Hooker, lanzó una herramienta llamada AutoScientist para automatizar el entrenamiento de frontera. Mientras tanto, Doris Xin, fundadora de la startup Disarray, vio a su agente de aprendizaje automático ganar 28 medallas en una competencia de Kaggle. Xin argumentó que, con cómputo infinito y un horizonte de tiempo infinito, la industria ya llegó a ese punto, describiendo el trabajo como una cuestión de ingeniería fundamental más que como un esfuerzo creativo.

A pesar de estos desarrollos, la industria de la IA no está muy cerca de los sistemas recursivos de ninguna manera significativa. El CEO de Google, Sundar Pichai, señaló que, si bien se está avanzando, el tipo de aceleración descrita como RSI aún no está aquí. Las herramientas actuales todavía requieren supervisión humana. En enero, un programador líder de Anthropic estimó que cerca del 100% del código de su equipo fue escrito por Claude Code. Una encuesta sobre la vista previa de Mythos de Anthropic mostró que cinco de los 18 ingenieros de Anthropic creían que, con mejoras en el banco de pruebas, esta versión de Mythos podría pronto sustituir a un ingeniero L4 (un programador de nivel medio que puede trabajar sin supervisión). Sin embargo, el modelo todavía tenía dificultades con la autodirección, que es la piedra angular de la verdadera RSI.

Expertos del Center for Security and Emerging Technology (CSET) expresan escepticismo. Helen Toner, directora de CSET, señaló que simplemente usar herramientas de IA para hacer investigación de IA es diferente de la definición clásica de RSI, que requiere que no se necesiten humanos. Ajeya Cotra, investigadora de METR (organización de investigación de IA), distinguió entre “adecuación” (realizar investigación sin humanos, incluso si es menos eficiente), “paridad” (igualar la capacidad humana) y “supremacía” (superar la colaboración humano-IA). Si bien la IA puede estar cerca de la adecuación, lograr la verdadera paridad sigue siendo un desafío a más largo plazo.

Por qué importa

La industria está girando hacia la mejora recursiva como una estrella polar, pero la brecha entre las herramientas de IA actuales dirigidas por humanos y los sistemas totalmente autónomos sigue siendo significativa.