Anthropic cierra modelos de IA tras una orden del gobierno de EE. UU.

El viernes, el gobierno de EE. UU. ordenó a Anthropic cerrar de inmediato el acceso a dos de sus modelos de IA, Claude Fable 5 y Claude Mythos 5. Anthropic confirmó que cumplió con la orden gubernamental. La directiva de cierre obliga a la empresa a deshabilitar ambos modelos para todos los usuarios a nivel mundial, lo que representa una escalada significativa en el escrutinio regulatorio.

La directiva del gobierno se emitió como una orden de control de exportaciones, pero la preocupación subyacente es un presunto jailbreak de Fable 5, que Anthropic lanzó hace tres días. Un jailbreak se refiere a inducir a un modelo de IA a eludir sus barreras de seguridad. Según Anthropic, el gobierno solo ha proporcionado evidencia de un “posible jailbreak limitado y no universal” para el modelo. La empresa no estuvo de acuerdo en que el hallazgo de un posible jailbreak limitado deba ser motivo para retirar un modelo comercial desplegado ante cientos de millones de personas. En un comunicado, Anthropic advirtió: “Si este estándar se aplicara en toda la industria, creemos que esencialmente detendría todos los nuevos despliegues de modelos para todos los proveedores de modelos de frontera”. El término modelo de frontera se refiere a modelos de IA altamente capaces y de vanguardia. Fable 5 había sido clasificado recientemente como el modelo disponible públicamente más capaz por Vals AI, una empresa de evaluación comparativa de rendimiento de IA.

El cierre también afecta a Claude Mythos 5, un modelo que Anthropic presentó a principios de abril. Debido a sus capacidades, Anthropic había restringido Mythos 5 a Project Glasswing, que es un programa de acceso controlado. Este programa involucra a aproximadamente 50 organizaciones examinadas, entre las que se incluyen Amazon, Apple, Google, Microsoft y CrowdStrike. La acción regulatoria llega en un momento sensible para Anthropic, que tiene previsto realizar una oferta pública inicial (OPI) este año. La situación destaca los riesgos comerciales del posicionamiento de “seguridad primero” de Anthropic. Sam Altman, director ejecutivo de la empresa rival de IA OpenAI, dijo anteriormente al podcaster Ashlee Vance que la estrategia de Anthropic equivalía a un “marketing basado en el miedo”. Altman argumentó que es un marketing claramente increíble afirmar haber construido una bomba y luego ofrecer vender un refugio antiaéreo por USD 100 millones.

Por qué importa

La orden del gobierno de EE. UU. de cerrar los modelos de IA más potentes de Anthropic representa una escalada significativa en el escrutinio regulatorio sobre la seguridad de los modelos de frontera. Esta acción establece potencialmente un precedente que podría detener futuros despliegues de modelos en toda la industria.