El Pentágono amenaza con incluir a Anthropic en una lista negra por restricciones de IA

El Departamento de Defensa de EE. UU. ha emitido un ultimátum al desarrollador de inteligencia artificial (IA) Anthropic, exigiendo a la empresa que permita el uso de sus modelos de IA para todos los fines legales o se enfrente a la terminación de su asociación. Sean Parnell, portavoz principal del Pentágono, declaró que Anthropic tiene hasta las 5:01 p.m. ET del viernes para decidir sobre la solicitud. «De lo contrario, terminaremos nuestra asociación con Anthropic y los consideraremos un riesgo para la cadena de suministro para el DOW», dijo Parnell. Un riesgo para la cadena de suministro es una designación oficial que puede incluir a las empresas en listas negras para negocios gubernamentales. La demanda del Pentágono de un uso legal —su justificación para utilizar modelos de IA sin restricciones de proveedores— busca eludir las políticas de seguridad internas de Anthropic. Anthropic se niega a permitir que sus modelos de IA se utilicen para la vigilancia masiva de estadounidenses o para armas totalmente autónomas que realicen ataques sin intervención humana.

El secretario de Defensa, Pete Hegseth, ha criticado el enfoque de seguridad primero de Anthropic, calificándolo de «IA woke» y argumentando que el ejército está construyendo sistemas listos para la guerra en lugar de chatbots. Hegseth afirmó que el Departamento de Defensa no debería estar limitado por las reglas de un proveedor y que cualquier uso legal de la tecnología debería estar permitido. En respuesta a las preocupaciones, Parnell declaró el jueves que el Pentágono no tiene interés en realizar vigilancia doméstica masiva ni en desplegar armas autónomas. Sin embargo, el CEO de Anthropic, Dario Amodei, señaló públicamente el jueves que la empresa no dará marcha atrás, a pesar de las amenazas de que podría ser designada como un riesgo para la cadena de suministro. Las políticas de la empresa bloquean específicamente que sus modelos se utilicen para la vigilancia masiva de ciudadanos estadounidenses o para armas totalmente autónomas que ejecuten ataques sin intervención humana.

Si el Pentágono cumple su amenaza, las consecuencias para Anthropic podrían ser graves. Sachin Seth, capitalista de riesgo en Trousdale Ventures, informó que una etiqueta de riesgo para la cadena de suministro podría significar el fin de la empresa. Sin embargo, prescindir de Anthropic también podría crear una brecha de seguridad nacional para el ejército de EE. UU. Seth informó que el Departamento de Defensa tendría que esperar de seis a 12 meses para que proveedores alternativos de IA como OpenAI o xAI (empresa de IA propiedad de Elon Musk) se pongan al día si se prescinde de Anthropic. Durante este periodo, el ejército podría tener que depender de modelos menos capaces mientras espera a que estas alternativas alcancen los niveles de capacidad necesarios.

Por qué importa

La disputa sobre las políticas de uso de IA entre Anthropic y el Pentágono amenaza con incluir a la empresa en una lista negra de contratos gubernamentales. Este enfrentamiento destaca la creciente tensión entre los estándares comerciales de seguridad de la IA y las demandas operativas militares, lo que podría obligar al ejército de EE. UU. a depender de modelos menos capaces mientras espera a que las alternativas se pongan al día.