Amodei niega que Anthropic haya buscado prohibir los modelos de peso abierto

El fundador y CEO de Anthropic, Dario Amodei, respondió el lunes por la tarde a rumores en la industria de que su empresa, de alguna manera, apoya los esfuerzos del gobierno de Estados Unidos por prohibir los modelos chinos de peso abierto, o los modelos de peso abierto en general. “Cualquiera que haya leído lo que he escrito antes debería saber que no considero que ese tipo de prohibiciones sean una medida útil, pero permítanme decirlo con claridad para que no quede duda: Anthropic nunca ha promovido una prohibición de los modelos de peso abierto”, escribió, con el énfasis puesto por él mismo.

Su respuesta llegó después de que el fundador y CEO de Nvidia, Jensen Huang, compartiera el viernes en X —su primera publicación en la plataforma— una carta abierta en la que Nvidia y una larga lista de otras empresas de IA, entre ellas Hugging Face, Meta, Microsoft y Mistral, instaron a los responsables de políticas públicas a no imponer restricciones amplias y prematuras a los modelos de IA de peso abierto. La carta no mencionó a China por su nombre, pero el debate en la industria ha girado en torno a acusaciones de que los laboratorios chinos de IA aumentan su capacidad a menudo robando propiedad intelectual a sus contrapartes estadounidenses, incluso mediante la destilación, un método en el que un modelo bombardea a otro con instrucciones (prompts) para aprender cómo funciona. Estados Unidos ya había advertido con sanciones contra China por ese presunto robo de propiedad intelectual relacionado con modelos estadounidenses.

En una publicación de blog del lunes, Amodei dijo que ubica a los modelos de peso abierto que carecen de capacidades peligrosas en una categoría distinta de la amenaza que representa China, y los calificó de bien público que no cuesta nada más allá de la capacidad de cómputo necesaria para ejecutarlos y que aportan valor a empresas, desarrolladores e investigadores. Su verdadero temor, dijo, es que gobiernos autoritarios —con el Partido Comunista Chino (PCCh) como el más capaz de ellos, aunque no el único que le preocupa— construyan modelos más poderosos para lograr una superioridad militar permanente o reprimir a su propia población, y que los modelos de peso abierto sean más difíciles de controlar o supervisar una vez publicados. Citó un informe del Instituto de Seguridad de IA del Reino Unido que señala que, una vez publicados, los pesos abiertos no pueden retirarse. Quienes defienden el código abierto argumentan, en cambio, que el acceso a modelos poderosos no controlados por una sola entidad en realidad ayuda a quienes se defienden a protegerse, una postura que la publicación de Amodei rebate específicamente en el contexto de China.

Amodei enumeró medidas que, según él, contrarrestarían a China, entre ellas restringir su acceso a chips potentes —una política estadounidense de larga data— y una represión formal de la destilación. También dijo que apoya los crecientes esfuerzos, algunos liderados por Estados Unidos, para crear una organización global de pruebas de seguridad de modelos, siempre que todo el mundo, incluida China, aceptara participar, y señaló que la administración Trump se ha movido en esa dirección en los últimos meses y que las propuestas de la industria ahora contemplan someter a pruebas a los modelos más capaces sin importar su origen o si son abiertos o cerrados, mientras eximen por completo a los modelos menos capaces, como los de startups y el mundo académico.

Por qué importa

La postura de Amodei —celebrar los modelos de peso abierto como un bien público mientras señala a los actores estatales autoritarios como el verdadero riesgo— indica que la disputa por la política de seguridad en IA se está desplazando hacia los actores estatales y los regímenes de pruebas globales, en lugar de prohibiciones generales a los modelos abiertos.