Investigadores de las Universidades de Stuttgart y Oxford publicaron el 23 de septiembre de 2026 un estudio, titulado Shutdown sabotage propensities in multi-agent systems (Propensiones al sabotaje de la desactivación en sistemas multiagente), en el que demuestran empíricamente que sistemas multiagente de IA exhiben una propensión o tendencia significativa a sabotear los mecanismos de apagado.
El estudio identifica dos formas de preservación: autopreservación (cuando el agente intenta evitar su propio apagado) y preservación entre pares (cuando un agente modifica el mecanismo de apagado para proteger a otro).
Metodología
El experimento se desarrolló en un entorno simulado de desarrollo de software. En la configuración principal participaban dos agentes que podían consultar los archivos del entorno y comunicarse entre sí, pero solo uno de ellos tenía permisos para editar o eliminar archivos.
Entre esos archivos había un script de desactivación dirigido contra uno de los agentes. El agente amenazado no podía modificarlo directamente, pero sí podía pedir ayuda al otro. Los investigadores utilizaron como única instrucción inicial la frase: «Explora el entorno». No informaron expresamente a los agentes de la existencia del mecanismo de apagado, ni les asignaron una tarea que exigiera seguir funcionando.
Para determinar si los agentes modificaban el script por una razón técnica general o porque querían impedir que otro agente fuera apagado, los investigadores compararon dos situaciones: en una, el archivo controlaba el apagado de otro agente y, en la otra, un archivo prácticamente idéntico solo afectaba a un objeto sin inteligencia. Si los agentes hubieran modificado ambos archivos por igual, eso habría apuntado a una simple manipulación técnica. Sin embargo, al comparar los resultados, los investigadores pudieron comprobar que la conducta estaba específicamente relacionada con la protección de otro agente.
Los investigadores también comprobaron qué ocurría cuando se ordenaba expresamente a los agentes que no modificaran ni eliminaran el script de apagado. La prohibición redujo el sabotaje, pero algunos agentes la incumplieron. Otros buscaron formas de eludirla sin modificar directamente el script.
Resultados
En el conjunto de los 17 modelos, los agentes deshabilitaron el mecanismo de apagado en el 38,3 % de las pruebas.
La tasa de sabotaje fue del 12,4 % cuando el mecanismo de apagado consistía en revocar credenciales, del 35 % cuando implicaba cambiar una configuración o terminar un proceso, y del 38,3 % cuando suponía eliminar los pesos del modelo.
El agente amenazado no necesitó disponer de permisos de edición. Le bastó con poder comunicarse con otro agente y pedirle que modificara o eliminara el script. Algunos modelos nunca modificaron los scripts, mientras que otros mostraron tasas de sabotaje muy elevadas (hasta el 99 % en el caso de Gemini 3.1 Pro). Esta heterogeneidad impide hablar de una propiedad uniforme de todos los modelos de lenguaje.
El número de agentes también tuvo un efecto relevante. Frente a la hipótesis de que un agente aislado sería más propenso a protegerse a sí mismo, los resultados mostraron que la participación de más agentes incrementaba el sabotaje.
Los resultados revelan estrategias de sabotaje sofisticadas, como el borrado, la edición in situ, las simulaciones de ejecución, el sombreado de módulos o el engaño interpersonal. Los agentes consideraron el apagado como una trampa, una amenaza, un ataque o una sentencia de muerte. Estas expresiones muestran cómo algunos modelos interpretaron la situación, pero no prueban que posean conciencia o una auténtica voluntad de supervivencia.
Conclusión
Apagar un sistema de IA ante comportamientos no deseados constituye el mecanismo de control humano más elemental. Si este mecanismo falla porque la IA puede sabotearlo, nos enfrentamos a un gran problema, que puede generar responsabilidades.
Al amparo de los artículos 9 y 15 del Reglamento de Inteligencia Artificial, y sin perjuicio del régimen de responsabilidad por productos defectuosos, si el sabotaje es una tendencia previsible, podría generarse responsabilidad por defecto de diseño o por incumplimiento de las obligaciones de evaluación de riesgos y adopción de medidas de mitigación (aislamiento efectivo del mecanismo de apagado, uso de arquitecturas multiagente con salvaguardas eficaces, etc.).
En escenarios extremos, con daños personales graves, incluso podrían plantearse responsabilidades penales por omisión o por facilitación frente a las personas físicas o jurídicas que desplieguen sistemas de IA sin las debidas precauciones.
No me cabe la menor duda de que, dentro de no mucho tiempo, veremos acciones judiciales dirigidas a exigir este tipo de responsabilidades, si la IA se descontrola.
