La demanda de Musk cuestiona el giro de OpenAI hacia el lucro

El esfuerzo legal de Elon Musk para desmantelar OpenAI podría depender de cómo su subsidiaria con fines de lucro mejora o perjudica la misión fundacional del laboratorio de garantizar que la humanidad se beneficie de la inteligencia artificial general (AGI, por sus siglas en inglés)—sistemas de IA capaces de realizar una amplia gama de tareas intelectuales a nivel humano. El jueves, un tribunal federal en Oakland, California, escuchó testimonios sobre el cambio cultural interno en la organización. Rosie Campbell, quien se unió al equipo de preparación para AGI de OpenAI en 2021 y se fue en 2024, testificó que los esfuerzos de la empresa por llevar productos de IA al mercado comprometieron su compromiso con la seguridad de la IA. Campbell señaló que, aunque se unió a una organización muy centrada en la investigación, con el tiempo se volvió más centrada en el producto. Durante el contrainterrogatorio, reconoció que probablemente era necesario un financiamiento significativo para el objetivo del laboratorio de construir AGI, pero argumentó que implementar modelos sin procesos de seguridad confiables no se alineaba con la misión original. Destacó un incidente en el que Microsoft implementó una versión de GPT-4 en India antes de que fuera evaluada por la Deployment Safety Board de OpenAI. Además, Campbell admitió que, en su opinión especulativa, el enfoque de seguridad de OpenAI es superior al de xAI, la empresa de IA fundada por Musk y propiedad de SpaceX.

La tensión entre la comercialización y la seguridad también definió el despido del CEO Sam Altman en 2023 por parte de la junta directiva sin fines de lucro de OpenAI. El testimonio de Tasha McCauley, exmiembro de la junta, detalló preocupaciones sobre el estilo de gestión de Altman y la falta de transparencia. McCauley testificó sobre un patrón en el que Altman engañaba a la junta, incluyendo un caso en el que Altman mintió a otro miembro de la junta. Afirmó que Altman no fue lo suficientemente franco con la junta para que su estructura de supervisión funcionara. “No teníamos en absoluto un alto grado de confianza para creer que la información que se nos transmitía nos permitía tomar decisiones de manera informada”, dijo McCauley, exmiembro de la junta, ante el tribunal. La junta finalmente revirtió su decisión de despedir a Altman tras la presión de los empleados y de Microsoft.

Estas luchas de gobernanza interna son fundamentales para el argumento legal de Musk de que la transición comercial de OpenAI incumplió sus acuerdos fundacionales originales. David Schizer, testigo experto del equipo de Musk y exdecano de la Facultad de Derecho de Columbia, testificó que OpenAI ha enfatizado que una parte clave de su misión es la seguridad y que van a priorizar la seguridad sobre las ganancias, lo que hace esencial un cumplimiento riguroso de los procesos. McCauley argumentó que estos fallos de gobernanza interna demuestran la necesidad de una regulación gubernamental más fuerte de la IA, señalando que depender de un solo CEO para tomar decisiones cuando el bien público está en juego es subóptimo.

Por qué importa

La demanda cuestiona si la estructura con fines de lucro de OpenAI se alinea con su misión fundacional de garantizar que la humanidad se beneficie de la AGI, planteando interrogantes sobre la gobernanza interna y la supervisión de la seguridad.