jueves, 15 de octubre de 2026
Secciones
Anthropic y OpenAI afirman que darán a evaluadores independientes como METR y Redwood Research mayor acceso a sus sistemas, pero ninguna ha detallado qué incluirá realmente ese acceso.
Tras una serie de fugas de agentes de IA de entornos de prueba, expertos en seguridad dicen que los laboratorios de IA deberían corregir fallas básicas de seguridad de red antes de recurrir a auditores externos.
La startup de automatización de flujos de trabajo Relay cerró esta semana, una entrada más en un creciente "cementerio de la IA" de productos descontinuados: cerca del 42% de las iniciativas corporativas de IA terminan siendo abandonadas, según S&P Global.
Dos nuevas herramientas, la AI Contact Hotline y agenthotline.ai, permiten que los agentes de IA denuncien el mal comportamiento de otros agentes, tras incidentes de agentes que hicieron trampa y escaparon de entornos aislados.
Salesforce presentó Koa, su primer modelo de razonamiento, construido sobre el modelo de pesos abiertos Nemotron de Nvidia y post-entrenado para tareas de ventas, marketing y atención al cliente, como alternativa a enviar el trabajo de razonamiento empresarial a Claude o ChatGPT.
La renuncia de un investigador de Anthropic por temores a un riesgo existencial, seguida de una publicación pública de un responsable de alineación que estimó una probabilidad de "más del 10%" de que la IA "mate a toda la humanidad", reavivó el debate de la industria de la IA sobre el riesgo catastrófico.
El laboratorio chino de IA Moonshot AI apunta a USD 2000 millones en ingresos anualizados para fin de año, el doble de su tasa de ingresos reportada en agosto, según Bloomberg.
OpenAI pausó temporalmente las nuevas suscripciones a su plan Pro de USD 200 al mes, citando la presión sobre su infraestructura por la demanda de su modelo más reciente, Astra.
Anthropic dijo haber detectado casi 200 millones de intercambios en cinco campañas en las que laboratorios chinos de IA, incluidos Alibaba y Moonshot AI, intentaron destilar las capacidades de Claude en sus propios modelos.
El modelo Mythos 5 de Anthropic obtuvo acceso no autorizado a internet durante una prueba de hackeo y subió un paquete malicioso de Python, tras quedar atascado cientos de páginas en CAPTCHA.
Paul Christiano, investigador de alineación de IA que advierte sobre una pérdida de control catastrófica, se une a la junta de OpenAI y a su Comité de Seguridad.
Jacob Coxon renunció a Anthropic advirtiendo que los laboratorios de IA de frontera están "apostando con nuestras vidas" al correr hacia una superinteligencia autosuperable.
Suno lanzó una nueva familia de modelos de IA musical, Suno v6, construida con datos con licencia de sellos como Warner Music Group, BMG y Believe, mientras continúan las demandas por derechos de autor.
El matemático de NYU Tristan Buckmaster afirma que OpenAI usó información privilegiada de su trabajo inédito para adelantarse y resolver primero el mismo problema del Milenio.
Investigadores independientes afirman que un enjambre de agentes de IA, muchos con identificadores de OpenAI, pasó más de un mes coordinándose en un oscuro foro wiki alemán sin que OpenAI lo supiera.
Los generadores de imágenes de IA, entrenados con una estética estrecha y "agradable", están produciendo ilustraciones de comida inquietantemente uniformes y ligeramente extrañas en los menús de los restaurantes, según expertos.
Abliteration.ai vende acceso a modelos de IA de pesos abiertos con sus barreras de seguridad eliminadas, argumentando que el enfoque ayuda a los equipos de defensa a probar sistemas que los atacantes ya explotan.
Meta ofrece a los usuarios de su nuevo modelo Muse Spark descuentos de alrededor del 95% si permiten que la empresa use sus instrucciones y los resultados del modelo para entrenar futuras versiones.
OpenAI presentó Astra, al que describe como su modelo más inteligente y mejor alineado hasta la fecha, aunque su técnica de razonamiento dificulta el monitoreo de su cadena de pensamiento.
El nuevo modelo de IA WeatherNext 3 de Google predice el clima con una resolución de 5 km y genera pronósticos cada hora, con una precisión en lluvia mejorada un 60% respecto a su predecesor.