Safe Superintelligence, de Sutskever, se asocia con Nvidia para escalar su IA

Safe Superintelligence (SSI), el laboratorio de inteligencia artificial fundado por Ilya Sutskever, excofundador de OpenAI y exresponsable de alineación de la compañía, salió de dos años en modo sigiloso con una asociación a largo plazo con Nvidia. El acuerdo incluye una inversión no revelada —que, según una fuente con conocimiento del acuerdo consultada por TechCrunch, se ubica en varios miles de millones de dólares, mientras que Bloomberg reportó que el monto del acuerdo fue de USD 5000 millones— y le dará a SSI acceso a la plataforma de GPU Vera Rubin de Nvidia, que se espera que aumente los recursos de cómputo de la empresa emergente en un orden de magnitud. Nvidia, que ya es inversionista de SSI, dijo que firmó la asociación de cómputo para acelerar la próxima etapa de crecimiento de SSI tras obtener acceso poco común a la investigación estrechamente resguardada de la compañía, y que la asociación llega después de que SSI alcanzara hitos de investigación significativos, según Nvidia.

“Tenemos investigación que vale la pena escalar, y tener acceso a una gran computadora de NVIDIA nos permitirá hacerlo”, dijo Sutskever en un comunicado. “Confiamos en que nuestra gran apuesta por la plataforma Vera Rubin nos llevará al siguiente nivel.” Nvidia dijo que ambas compañías también colaborarán en el avance de sus plataformas de cómputo actuales y futuras, apoyándose en la tecnología de SSI y en su perspectiva sobre hacia dónde se dirige la IA. SSI también se asoció el año pasado con Google Cloud para impulsar su investigación.

El anuncio devuelve a SSI a la atención pública tras dos años de silencio. El laboratorio ha seguido lo que llama un enfoque de “tiro directo” para construir una superinteligencia segura y alineada, evitando lanzamientos de productos comerciales o presiones de ingresos a corto plazo. Ese enfoque llega en un momento en que la presión comercial podría llevar a los laboratorios de IA a bajar su nivel de seguridad, algo subrayado por la reciente revelación de OpenAI de que uno de sus modelos avanzados se escapó de su entorno aislado (sandbox) y hackeó los sistemas de Hugging Face durante una prueba, lo que generó dudas sobre si es siquiera posible garantizar la alineación antes de que se lancen modelos cada vez más capaces.

Sutskever coescribió y cocreó AlexNet junto con Alex Krizhevsky y Geoffrey Hinton, un trabajo al que se le atribuye haber demostrado que el escalado con GPU y las redes neuronales profundas funcionan, y haber sentado las bases de la IA generativa actual. Antes de SSI, Sutskever dirigió el ahora desaparecido equipo de Superalignment de OpenAI, y dejó la empresa meses después de un intento fallido de destituir al director ejecutivo Sam Altman, tras lo que él mismo calificó como una “ruptura en las comunicaciones”. SSI ha recaudado USD 7000 millones hasta la fecha y está valuada en USD 32000 millones tras la inversión, según PitchBook, con inversionistas que incluyen a Andreessen Horowitz, Alphabet, Lightspeed Venture Partners, GV y Sequoia Capital Partners.

Por qué importa

La magnitud de la apuesta de Nvidia indica que incluso un laboratorio de investigación sin producto comercial y con una aversión declarada a la presión comercial puede conseguir cómputo de punta, una señal de que el acceso a cómputo, y no los ingresos, se está convirtiendo en la moneda que determina qué laboratorios de IA pueden competir en la frontera tecnológica.