La jefa de hardware de OpenAI renuncia citando preocupaciones por el acuerdo con el Pentágono

Caitlin Kalinowski anunció hoy su renuncia al cargo de jefa del equipo de hardware en OpenAI. Su salida responde al acuerdo de la empresa con el Departamento de Defensa de EE. UU. (el Pentágono), anunciado hace poco más de una semana. Kalinowski, quien se unió a OpenAI en noviembre de 2024 tras liderar previamente el equipo que desarrollaba gafas de realidad aumentada en Meta, enfatizó que su decisión se basó en principios y no en personas, y expresó un profundo respeto por el CEO Sam Altman. Sin embargo, planteó importantes preocupaciones éticas y de gobernanza sobre el acuerdo de defensa. Kalinowski aclaró que su problema principal era una preocupación de gobernanza, argumentando que el anuncio se precipitó antes de definir las salvaguardas y que acuerdos tan críticos requieren más tiempo. “La IA tiene un papel importante en la seguridad nacional. Pero la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más deliberación de la que recibieron”, escribió Kalinowski.

Un portavoz de OpenAI confirmó la salida y defendió el acuerdo de defensa. La empresa declaró que el acuerdo crea un camino viable para usos responsables de la IA en la seguridad nacional, al tiempo que establece líneas rojas claras contra la vigilancia doméstica y las armas autónomas. El portavoz añadió que OpenAI reconoce que la gente tiene opiniones firmes y que continuará participando en discusiones con empleados, el gobierno, la sociedad civil y comunidades de todo el mundo. El acuerdo se anunció después de que fracasaran las negociaciones entre el Pentágono y Anthropic. Tras esas conversaciones fallidas, el Pentágono designó a Anthropic como un riesgo para la cadena de suministro. Aunque Anthropic negoció previamente con el Pentágono, su modelo Claude sigue siendo distribuido a clientes ajenos al sector de defensa por Microsoft, Google y Amazon.

La controversia parece haber dañado la reputación de OpenAI entre algunos consumidores. Tras el anuncio del acuerdo con el Pentágono, las desinstalaciones de ChatGPT aumentaron un 295%. Esta reacción negativa de los consumidores también ha cambiado las clasificaciones en la App Store de EE. UU. Hasta la tarde del sábado, Claude de Anthropic y ChatGPT de OpenAI seguían siendo las aplicaciones gratuitas principales, pero Claude había subido al puesto n.º 1, dejando a ChatGPT en el n.º 2.

Por qué importa

La renuncia de Kalinowski subraya la creciente tensión interna y pública respecto a las implicaciones éticas de que las empresas de IA firmen contratos de defensa, específicamente en lo que concierne a la vigilancia y las armas autónomas.