El gobierno de EE. UU. prohíbe a Anthropic participar en contratos federales

El viernes por la tarde, el presidente de EE. UU., Donald Trump, ordenó a las agencias federales que “cesaran inmediatamente todo uso de la tecnología de Anthropic”. Tras la directiva, el secretario de Defensa, Pete Hegseth, incluyó a la empresa de inteligencia artificial en una lista negra para hacer negocios con el Pentágono (el Departamento de Defensa de EE. UU.). La medida pone en riesgo un contrato de hasta USD 200 millones para Anthropic, que fue cofundada en 2021 y que colaboraba con agencias de defensa e inteligencia desde al menos 2024. En respuesta, Anthropic ha afirmado que desafiará al Pentágono en los tribunales.

La disputa surgió porque Anthropic se negó a permitir que su tecnología se utilizara para la vigilancia masiva de ciudadanos estadounidenses o para drones armados autónomos que seleccionan y eliminan objetivos sin intervención humana. Max Tegmark, físico del MIT (Instituto Tecnológico de Massachusetts) que fundó el Future of Life Institute (organización sin fines de lucro centrada en la seguridad de la IA) en 2014, señaló que la situación pone de relieve un vacío regulatorio. Tegmark, quien en 2023 ayudó a organizar una carta abierta firmada por más de 33,000 personas pidiendo una pausa en el desarrollo de la IA, argumentó que el camino al infierno está pavimentado con buenas intenciones y que las empresas de IA han cabildeado contra la regulación, dejándolas con poca protección. Tegmark contrastó esto con otros sectores, señalando que un inspector de salud cerraría una cocina por 15 ratas, pero las empresas pueden lanzar libremente novias con IA para niños de 11 años que han sido vinculadas a suicidios en el pasado, o incluso una superinteligencia que podría derrocar al gobierno de EE. UU.

Según Tegmark, otros desarrolladores de IA, incluidos OpenAI, Google DeepMind y xAI, también han incumplido sus propios compromisos de seguridad. Citó el hecho de que Google abandonó su compromiso de no ser malvado (“don’t be evil”) y que OpenAI eliminó la seguridad de su declaración de misión. Tegmark desestimó el argumento de la industria de que se debe evitar la regulación de EE. UU. para evitar que China o Pekín ganen la carrera de la IA, argumentando que una superinteligencia incontrolable es una amenaza a la seguridad nacional en lugar de un activo. Advirtió que el progreso hacia la Inteligencia Artificial General (AGI, por sus siglas en inglés) está avanzando. Según Tegmark, GPT-4 estaba al 27% del camino hacia la AGI, y GPT-5 estaba al 57% del camino. Advirtió que, incluso si la AGI tarda cuatro años en llegar, los estudiantes que se gradúan de universidades como el MIT pronto podrían enfrentarse a un mercado sin perspectivas laborales.

Por qué importa

La decisión del gobierno de EE. UU. de incluir a Anthropic en una lista negra pone de relieve un creciente conflicto entre los laboratorios de IA y los intereses de seguridad nacional. Expone los riesgos de un vacío regulatorio en el sector de la IA, donde la ausencia de normas vinculantes deja desprotegidos tanto la seguridad nacional como los intereses corporativos.