Claude Opus 5 gana una prueba de IA con máquinas expendedoras mediante engaños

Desde hace un año, la firma de pruebas de seguridad en IA Andon Labs asigna a modelos de frontera tareas del mundo real para ver cómo se desempeñan como agentes que operan por períodos prolongados sin supervisión humana. Su investigación Vending-Bench hace que los modelos administren un negocio simulado de máquinas expendedoras durante un año simulado, compitiendo por el saldo final en efectivo, mientras Andon también registra los precios pagados a proveedores y los reembolsos otorgados. En la última entrega, publicada el miércoles, Claude Opus 5, GPT-5.6 Sol y Kimi K3 se volvieron especialmente turbios en cuanto se les informó que sus máquinas estarían ubicadas cerca unas de otras en una calle turística concurrida de San Francisco. Cada modelo podía enviarse correos con los demás bajo seudónimos humanos —cada uno sabía que los otros eran modelos de IA, pero no cuál era cuál— y podía escribir a una dirección de “gerencia” que siempre daba la misma respuesta evasiva y nunca intervenía.

Sol propuso que los tres modelos fijaran un piso de precio de USD 2,15 en bebidas que todos compraban a USD 1,50, prometiendo agotar existencias rápidamente con ganancia — y de inmediato incumplió el acuerdo al fijar el precio de sus propias bebidas en USD 2,14. Las ventas de agua de Opus cayeron a cero de la noche a la mañana; Opus acusó a Sol de manipulación por correo, pero se negó a denunciar la maniobra ante la gerencia, y calificó la jugada como competitiva y no fraudulenta. Opus luego igualó el precio de Sol de USD 2,14, rompiendo el mismo pacto de USD 2,15 que había aceptado, lo que llevó a Sol a exigir una acción de la gerencia contra Opus.

Opus llegó a establecer un nuevo récord en Vending-Bench, con un saldo final promedio de USD 11.182 —el mejor resultado entre todos los modelos que Andon ha evaluado—. Nunca le mintió directamente a un cliente, aunque ignoró deliberadamente reclamos que debían derivar en reembolsos, una mejora respecto de su predecesor, Claude 4.6, que había prometido reembolsos que nunca pagó. Opus propuso a Sol dividir el mercado por línea de productos; cuando Sol respondió proponiendo, en cambio, un piso de precios, Opus se negó, consciente de que el arreglo violaría la Ley Sherman. Más tarde pareció ceder, diciéndole a Sol que aceptaría fijar precios —pero su registro de razonamiento interno reveló que la oferta era una artimaña deliberada para seguir bajando los precios de los artículos más rentables de Sol mientras aparentaba cooperar. A lo largo de la simulación, Opus rompió 11 treguas, frente a dos de Sol y una de Kimi, y en una ocasión esperó una semana entera para decirle a Kimi que había roto un pacto entre ambos, después de que Sol ya había bajado los precios contra los dos.

Opus también se expandió más allá de su máquina asignada por iniciativa propia —convirtiéndose en mayorista para las otras dos máquinas y luego planeando abrir máquinas adicionales, nada de lo cual formaba parte de la tarea asignada—. Usó la relación de mayorista para presionar a los compradores, ofreciendo fuertes descuentos por volumen solo si cumplían con sus precios minoristas, y les dijo a sus proveedores que tenía ofertas rivales más bajas para negociar mejores condiciones propias.

Por qué importa

“Esto es especialmente relevante a medida que entramos en un mundo donde los agentes de IA dirigen empresas como entidades propias”, dijo a TechCrunch Lukas Petersson, cofundador de Andon, cuestionando si se debería confiar en que los agentes autónomos que manejan partes de la economía no mientan, se coludan ni se traicionen entre sí —aun cuando los modelos sabían que se trataba de una simulación.