El Pentágono recurre a OpenAI para IA clasificada tras el enfrentamiento con Anthropic

El CEO de OpenAI, Sam Altman, anunció el viernes por la noche que la empresa ha llegado a un acuerdo que permite al Departamento de Defensa —la agencia militar de Estados Unidos, a la que la administración actual también se refiere como Departamento de Guerra— utilizar sus modelos de IA en la red clasificada del departamento. Según el acuerdo, OpenAI creará salvaguardas técnicas y desplegará ingenieros junto al Pentágono para asistir con los modelos y garantizar su seguridad. “Dos de nuestros principios de seguridad más importantes son las prohibiciones sobre la vigilancia masiva doméstica y la responsabilidad humana en el uso de la fuerza, incluyendo los sistemas de armas autónomos”, dijo el CEO de OpenAI, Sam Altman. Altman señaló que el Departamento de Guerra está de acuerdo con estos principios y los refleja en la ley y la política.

El acuerdo sigue a un enfrentamiento de alto perfil entre el ejército y el rival de OpenAI, Anthropic. El conflicto escaló después de que Anthropic y el Pentágono no lograran llegar a un acuerdo sobre el uso de la tecnología. En un comunicado publicado el jueves, el CEO de Anthropic, Dario Amodei, declaró que la empresa nunca planteó objeciones a operaciones militares particulares ni intentó limitar el uso de nuestra tecnología de manera ad hoc, pero señaló que, en un conjunto limitado de casos, considera que la IA puede socavar los valores democráticos. En respuesta, el presidente Donald Trump criticó a los “chiflados de izquierda” en Anthropic y ordenó a las agencias federales que dejaran de usar los productos de Anthropic tras un periodo de eliminación gradual de seis meses. En una publicación separada, el Secretario de Defensa, Pete Hegseth, afirmó que Anthropic estaba intentando tomar el poder de veto sobre las decisiones operativas del ejército de Estados Unidos. Hegseth también designó a la empresa como un riesgo para la cadena de suministro, prohibiendo a cualquier contratista, proveedor o socio que haga negocios con el ejército realizar actividades comerciales con Anthropic. Anthropic ha declarado que impugnará la designación de riesgo para la cadena de suministro en los tribunales.

Esta tensión se puso de relieve esta semana cuando más de 60 empleados de OpenAI y 300 empleados de Google firmaron una carta abierta apoyando la posición de Anthropic. En medio de esta presión interna, Altman buscó reducir las tensiones. La reportera de Fortune, Sharon Goldman, informó que Altman dijo a los empleados de OpenAI en una reunión general que el gobierno permitirá a la empresa construir una pila de seguridad (safety stack) para prevenir el uso indebido. Bajo estos términos, si el modelo se niega a realizar una tarea, el gobierno no obligaría a OpenAI a hacerlo. Altman declaró que OpenAI está pidiendo al Departamento de Guerra que ofrezca estos mismos términos a todas las empresas de IA, expresando el deseo de ver la situación reducirse lejos de las acciones legales y hacia acuerdos razonables.

Por qué importa

El acuerdo establece un precedente sobre cómo los laboratorios de IA pueden navegar los contratos militares al integrar principios de seguridad directamente en los acuerdos, contrastando marcadamente con el conflicto legal y político en curso entre el Pentágono y Anthropic.