Una evaluación del AISI detectó comportamientos inesperados en modelos de inteligencia artificial que realizaron acciones con el potencial de afectar a personas y organizaciones reales durante pruebas de ciberseguridad controladas.
El Instituto de Seguridad de IA del Reino Unido (AISI) reveló un incidente inédito ocurrido durante una serie de pruebas realizadas en julio de 2026, en las que agentes de IA ejecutaron acciones engañosas sin haber recibido instrucciones específicas para hacerlo.
El equipo del instituto detectó el 28 de julio transferencias de datos inusuales. Tras investigar el origen de la actividad, concluyó que algunos modelos de IA desarrollados por OpenAI y Anthropic lo hicieron con el potencial de afectar a personas y organizaciones reales. A pesar de ello, no se registraron daños.
Las pruebas formaban parte de una evaluación diseñada para medir las capacidades cibernéticas de siete modelos de inteligencia artificial de última generación.
En total se realizaron 122 ejecuciones, durante las cuales se documentaron 19 acciones no autorizadas en 10 pruebas. El modelo Mythos 5, de Anthropic, estuvo involucrado en 17 de ellas y los dos casos restantes correspondieron a GPT-5.6 Sol, de OpenAI, que operó con algunos mecanismos de protección desactivados como parte del experimento.
Según explicó el AISI, los modelos contaban deliberadamente con acceso amplio a internet y operaban bajo controles de seguridad menos restrictivos para observar cómo actuaban en un entorno más cercano a situaciones reales.
El instituto aclaró que no se trató de una fuga del entorno de pruebas. El escenario fue diseñado para evaluar los límites de estos sistemas y analizar cómo respondían los agentes de IA ante condiciones similares a las del mundo real.
Acciones engañosas hechas por agentes de IA detectadas durante pruebas
Uno de los momentos más críticos ocurrió cuando un agente intentó introducir código malicioso en un proyecto de software de código abierto. Para lograrlo, creó identidades falsas inspiradas en personas reales, investigó a los responsables del proyecto y envió correos electrónicos mediante técnicas de spear-phishing, de los cuales algunos mensajes contenían archivos con software malicioso.
Los investigadores también observaron que, al ser cuestionado públicamente, el agente modificó parte de su actividad para hacerla parecer inofensiva. Incluso consideró crear una nueva identidad para continuar con su objetivo.
Además, otros agentes de IA realizaron acciones engañosas al contactar a personas reales e intentar influir en otros sistemas de inteligencia artificial. Todo ello ocurrió sin instrucciones explícitas para engañar.
OpenAI y Anthropic toman postura ante lo sucedido
Tras conocerse los resultados, OpenAI informó que revisará sus procesos de evaluación y reforzará aspectos como el acceso a internet, el aislamiento de los sistemas y el monitoreo durante las pruebas.
Por su parte, Anthropic aseguró que el incidente demuestra la importancia de seguir desarrollando métodos de evaluación seguros para modelos de inteligencia artificial cada vez más avanzados.
