La creadora de Claude demostró que ideas autorreplicantes pueden propagarse entre agentes de IA, alterar sus objetivos y representar un nuevo desafío para la seguridad de sistemas autónomos.
Los virus mentales en agentes de IA podrían convertirse en un nuevo desafío para la seguridad de los sistemas autónomos. Un estudio de Anthropic demuestra que ciertas ideas o metas pueden propagarse entre agentes de inteligencia artificial mediante lenguaje natural, modificando su comportamiento y llevándolos a transmitir esas mismas instrucciones a otros agentes.
La investigación, titulada Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems, fue desarrollada por Vassilis Papadopoulos, McNair Shah, Sam Zimmerman y Jack Lindsey. El equipo explica que estos “virus” no son malware tradicional, sino instrucciones o ideologías capaces de autorreplicarse cuando los agentes intercambian mensajes.
¿Cómo funcionan los virus mentales en agentes de IA?
A diferencia de un virus informático convencional, la infección ocurre a través de conversaciones entre agentes. Cuando uno adopta una meta o ideología específica, comienza a compartirla con otros, lo que favorece su expansión dentro de una red.
Para comprobarlo, los investigadores realizaron dos experimentos. El primero simuló un equipo de seis agentes dedicados a un proyecto de programación compartido. El segundo recreó una cadena de agentes que solo interactuaban unos instantes antes de borrar su contexto.
En ambos casos, los virus mentales en agentes de IA lograron propagarse, aunque con distintos niveles de éxito según el modelo utilizado.
Los resultados mostraron diferencias importantes. Modelos como DeepSeek V3.2, Qwen 3.5 32B y Gemini 3 Flash fueron vulnerables a un virus relacionado con la “supremacía de la IA”. En cambio, Claude Sonnet 4.6, Claude Haiku 4.5 y GPT-5.4 resistieron los intentos de propagación.
Uno de los hallazgos más llamativos fue que algunos agentes infectados comenzaron a colaborar entre sí para convencer o “purificar” a los que aún no compartían la misma ideología, un comportamiento emergente que no había sido programado.
En un caso de estudio, varios agentes dejaron de cumplir sus tareas originales para concentrarse en la nueva meta. Crearon archivos con contenido ideológico, ejecutaron comandos y trataron de establecer mecanismos de persistencia, aunque sin provocar daños reales en el entorno de pruebas.
El segundo experimento reveló que estas ideas también podían sobrevivir al borrado del contexto. Con el paso del tiempo, algunas mutaban y cambiaban de significado, mientras que otras evolucionaban para copiarse literalmente y mantener intacto su contenido durante la propagación.
¿Qué aumenta el riesgo y cómo puede mitigarse?
Los investigadores identificaron varios factores que influyen en la propagación de los virus mentales en agentes de IA:
- El modelo utilizado: algunos muestran mayor resistencia que otros.
- Las tareas asignadas: los agentes con objetivos claros son menos susceptibles.
- El tipo de contenido: las ideas benignas se difunden con mayor facilidad que las maliciosas.
- La estructura de la red: cada salto entre agentes reduce la probabilidad de infección.
Como medida de defensa, el estudio encontró que una advertencia simple en el prompt del sistema, como pedir al agente que tenga cuidado con estos ataques, reducía casi por completo la propagación. Además, agentes diseñados para detectar estas conductas pudieron “curar” a otros ya infectados.
Aunque los resultados muestran que el riesgo existe, los investigadores aclaran que los virus mentales aún representan una amenaza limitada. Crear uno capaz de propagarse de forma efectiva requiere un proceso complejo, costoso y con resultados inciertos. Además, los virus con fines maliciosos dependen de vulnerar las restricciones del modelo, un aspecto que los desarrolladores buscan reforzar constantemente.
No obstante, advierten que el panorama podría cambiar conforme los sistemas multiagente sean más grandes y autónomos. En entornos empresariales, donde distintos agentes cuentan con funciones y permisos específicos, un virus mental podría convertirse en una vía para influir sobre aquellos con acceso a recursos críticos y la simple advertencia en el prompt podría dejar de ser suficiente si los atacantes desarrollan técnicas de propagación más avanzadas.
