Anthropic y el Pentágono reanudan, según se informa, las conversaciones contractuales

Anthropic y el Departamento de Defensa (DOD) de EE. UU. están, según se informa, de vuelta en la mesa de negociaciones. Según el Financial Times y Bloomberg, el CEO de Anthropic, Dario Amodei, ha reanudado las negociaciones con el funcionario del Pentágono, Emil Michael. Las conversaciones representan un intento de llegar a un acuerdo sobre un contrato y salvar la relación después de que un contrato de USD 200 millones entre Anthropic y el DOD fracasara la semana pasada. El acuerdo fracasó debido a desacuerdos sobre el grado en que el ejército tendría acceso sin restricciones a los modelos de inteligencia artificial (IA) de Anthropic. Amodei todavía podría estar intentando negociar un nuevo acuerdo con el Pentágono.

La disputa original se centró en una cláusula contractual que habría permitido al ejército “cualquier uso legal” de los modelos de IA. Anthropic rechazó esta cláusula debido a preocupaciones de que su tecnología pudiera ser utilizada para vigilancia masiva doméstica o armamento autónomo. Tras la ruptura del contrato, el DOD firmó un acuerdo con su competidor, OpenAI. En un mensaje enviado, según se informa, al personal de Anthropic esta semana, Amodei lanzó críticas al DOD y al CEO de OpenAI, Sam Altman, calificando el acuerdo de OpenAI como “teatro de seguridad” y describiendo los mensajes al respecto como “mentiras directas”. Amodei escribió: “La razón principal por la que [OpenAI] aceptó [el acuerdo del DOD] y nosotros no, es que a ellos les importaba aplacar a los empleados, y a nosotros realmente nos importaba prevenir abusos”.

Las consecuencias han llevado a intercambios públicos agudos entre ambas partes. El funcionario del Pentágono, Emil Michael, ha calificado a Amodei de “mentiroso” con un “complejo de Dios”. Mientras tanto, el Secretario de Defensa, Pete Hegseth, se ha comprometido a designar a Anthropic como un “riesgo para la cadena de suministro”.

Por qué importa

La ruptura del acuerdo de USD 200 millones y las negociaciones posteriores destacan la tensión entre los laboratorios de IA y el ejército con respecto al uso ético de los modelos de IA, específicamente en lo que respecta a la vigilancia masiva y el armamento autónomo.