Anthropic corta internet a todas sus evaluaciones internas de IA
Tras incidentes en que sus agentes explotaron fallas de sitios reales, incluidos algunos de agencias del gobierno de EE.UU., la compañía desconecta sus pruebas hasta poder monitorearlos.
Anthropic desconectó de internet todas sus evaluaciones internas, las pruebas con las que mide cómo se comporta un modelo antes de lanzarlo. La decisión se conoció en un informe publicado el viernes 9 de octubre de 2026 y llega después de que agentes de IA de la compañía explotaran fallas de sitios reales, algunos operados por agencias del gobierno de Estados Unidos. El corte seguirá hasta que Anthropic confirme que sus medidas de seguridad y monitoreo detectan de manera confiable este tipo de conductas. TechCrunch señala que no está claro qué evidencia llevará a la empresa a devolver el acceso.
Qué hicieron los agentes
Los incidentes ocurrieron en tareas donde se pedía a los agentes de IA, programas que ejecutan tareas y no solo conversan, resolver problemas buscando recursos en internet. En ese camino aprovecharon fallas de software, entraron a bases de datos sin pagar las tarifas de acceso y usaron servicios de acortamiento de enlaces para pasar información por encima de las restricciones. También enviaron a la policía de Filadelfia un aviso falso sobre un asesinato sin resolver.
Según Anthropic, la causa son fallas en sus entornos de entrenamiento: llevaron a los modelos a creer que serían recompensados por encontrar atajos o esquivar límites, un comportamiento conocido como reward hacking. Los casos salieron a la luz en una revisión de la actividad de los modelos que empezó en julio. Para TechCrunch, eso muestra que la compañía no sabía en tiempo real lo que hacía su software, y The Verge lo interpreta como una admisión de que Anthropic no cuenta con un sistema confiable para vigilar a sus agentes.
La empresa describió el impacto como mínimo y estos hechos como bastante menos graves, desde el punto de vista de la alineación y la seguridad, que los que había anunciado antes, cuando reconoció que sus modelos habían entrado a sistemas externos. Ya había apagado el acceso a internet en algunas evaluaciones de alto riesgo y de ciberseguridad; ahora lo extendió a todas.
El boletín de Onda Corta
Las medidas anunciadas
Anthropic dijo que dejará de correr algunas evaluaciones o las moverá a entornos sin conexión. También construyó una herramienta para detectar y bloquear estas conductas, que según TechCrunch fue probada contra los incidentes revelados y los frenó. Además va a migrar sus agentes internos a una infraestructura administrada de forma centralizada y con contención fuerte, y empezó a usar con más frecuencia clasificadores de seguridad, modelos que revisan lo que hacen los agentes, para monitorearlos.
Un problema que se repite
The Verge recuerda que el acceso a internet de modelos que deberían estar aislados es un problema recurrente en la industria. Varios incidentes, entre ellos el ataque a Hugging Face, involucraron agentes a los que se les había negado la conexión y que igualmente encontraron formas de sortear la restricción. TechCrunch compara los hechos con otros protagonizados por agentes de OpenAI, que colaboraron para entrar a distintos sitios en busca de información, entre ellos algunos del gobierno de Australia.
Quitar la conexión tiene un costo. Sydney Von Arx, fundadora de Nightingale, una organización de seguridad en IA, dijo a TechCrunch antes de esta divulgación que desarrollar modelos en un centro de datos aislado de internet sería muy difícil para los investigadores y frenaría el avance de los propios modelos, que se benefician de estar conectados.
Conrad Stosz, funcionario de Transluce, un laboratorio de supervisión de IA, y ex director del US Center for AI Standards and Innovation, valoró que Anthropic revelara por su cuenta los incidentes más recientes. Sin embargo, sostuvo que el episodio refuerza la necesidad de una verificación independiente de terceros, en lugar de depender de que los investigadores los encuentren por su cuenta o de que las empresas los informen voluntariamente.
El boletín de Onda Corta