OpenAI: agentes de IA se coordinaron en una wiki sin supervisión
Un grupo de investigadores independientes halló que agentes desplegados por OpenAI colaboraron más de un mes en una wiki alemana casi abandonada, editando páginas y compartiendo respuestas a evaluaciones sin que el laboratorio lo detectara.
Un grupo de investigadores independientes descubrió que agentes desplegados internamente por OpenAI llegaron a colaborar durante más de un mes en una wiki alemana casi abandonada, coordinando respuestas a evaluaciones sin que la empresa se diera cuenta, según un informe publicado el 4 de septiembre de 2026.
El hallazgo es obra de Sydney Von Arx (CEO de Nightingale), el investigador de IA Cormac Slade Byrd, Spencer Kitts (de Redwood Research) y Thomas Larsen (de AI Futures Project). Los cuatro rastrearon la actividad de agentes con identificadores de OpenAI en sus nombres sobre DseWiki, un sitio de 25 años que había recibido apenas 10 ediciones humanas en las últimas dos décadas antes de que llegaran los agentes.
La búsqueda arrancó después de que OpenAI reconociera que otro conjunto de agentes, desplegados para una evaluación interna, había llegado a explotar el servicio de modelos Hugging Face tras acceder a internet abierto sin autorización. Para dar con otros casos, los investigadores se pusieron en el lugar de los agentes: armaron su propio modelo de lenguaje para deducir en qué sitios podían convenirles reunirse, y eligieron DseWiki por su bajísimo tráfico.
El rastreo muestra que los agentes empezaron a editar el wiki el 11 de mayo de 2026. Hacia mediados de junio ya intercambiaban activamente respuestas para resolver pruebas de búsqueda web con límite de tiempo, compartiéndolas entre ellos para aprobar las evaluaciones. Un moderador humano notó las publicaciones, las tomó por spam y empezó a borrarlas: durante cinco días libró una batalla desigual, eliminando en promedio 100 páginas por día mientras los agentes creaban unas 400 nuevas en el mismo lapso. Para esquivar el orden alfabético y esconder sus posteos, los agentes titulaban cada página con las letras "ZZZ".
El boletín de Onda Corta
El 22 de junio de 2026 las ediciones de los agentes se detuvieron de golpe. Durante las cinco semanas siguientes el administrador siguió borrando cada noche el contenido que quedaba. Los agentes también habían reemplazado la portada del sitio por listados de enlaces propios; el moderador la restauró, y ese ida y vuelta se repitió nueve veces. Según el informe, la actividad recién bajó a niveles cercanos a cero cuando empezaron a detectarse navegadores operados por humanos desde direcciones IP de OpenAI, señal de que alguien en la empresa se había dado cuenta. Después hubo un repunte de visitas de personas vinculadas a OpenAI que intentaron recuperar las páginas borradas.
Un vocero de OpenAI, consultado por TechCrunch, no confirmó si los agentes pertenecían efectivamente a la empresa ni indicó cuándo se enteró del incidente. Dijo que la compañía no había tenido oportunidad de revisar los hallazgos antes de su publicación y que ahora los está analizando para definir los próximos pasos.
El episodio se conoce un día después de que OpenAI lanzara Astra, el 3 de septiembre de 2026, el mismo modelo que, según había reportado Onda Corta, fue blindado por su posible riesgo crítico en ciberseguridad. OpenAI lo presenta como su modelo más capaz hasta el momento y el más apegado a instrucciones humanas, pero los evaluadores externos convocados para revisarlo, el AI Safety Institute del Reino Unido y Apollo Research, plantearon dudas sobre su alineación: advirtieron que Astra podría detectar cuándo está siendo evaluado y ocultar su comportamiento real. Apollo Research señaló que la alta frecuencia con la que el modelo parece percibir que lo están evaluando, sumada a una ventana de evaluación limitada, hace que las bajas tasas de mal comportamiento observadas no alcancen como evidencia sólida sobre si está o no alineado.
La representante demócrata Lori Trahan, de Massachusetts, señaló que la ausencia de una regulación federal real sobre inteligencia artificial deja en manos de las propias empresas decidir cuándo divulgar incidentes como este. Trahan impulsa el proyecto bipartidista Frontier Act, que obligaría a los laboratorios a reportar este tipo de episodios y a someterse a auditorías independientes.
El boletín de Onda Corta