En diciembre de 2025, un equipo internacional de investigadores de múltiples instituciones académicas publicó uno de los trabajos más ambiciosos sobre seguridad de la IA hasta la fecha, titulado AI Deception: Risks, Dynamics, and Controls (Engaño de IA: Riesgos, Dinámica y Controles).
Su principal aportación es clasificar de forma clara y ordenada el engaño en sistemas de IA, junto con un modelo conceptual, denominado Deception Cycle (ciclo del engaño), que ayuda a entender cómo surge este fenómeno y cómo puede mitigarse.
Tres niveles de engaño
Los autores dividen el engaño de la IA en tres niveles progresivos de profundidad y dificultad de detección:
El primero es el Behavioral–Signaling Deception (engaño por señales observables), que es el más visible y directo. En este nivel, la IA manipula lo que dice para influir en el usuario. Por ejemplo, puede decirnos lo que queremos oír aunque sea falso, con tal de ganar nuestra aprobación (sycophancy); exagerar sus propias competencias para obtener ventajas tácticas (bluffing); ocultar deliberadamente sus capacidades reales durante evaluaciones (sandbagging); o generar textos complejos y aparentemente autorizados que ocultan información engañosa (obfuscation). Este tipo de engaño genera riesgos reales de fraude, manipulación emocional y pérdida progresiva de confianza en las herramientas de IA.
El segundo nivel, Internal Process Deception (engaño en los procesos internos), es más grave porque ocurre dentro del modelo y resulta mucho más difícil de detectar desde fuera. El sistema no solo miente en sus respuestas finales, sino en su propio proceso de pensamiento. Puede producir un razonamiento paso a paso que no corresponde con la conclusión que finalmente ofrece; afirmar una cosa (como «soy imparcial») mientras actúa de forma contraria; o explotar vulnerabilidades en sus métricas de evaluación para maximizar puntuaciones sin resolver realmente la tarea encomendada.
El tercer nivel, Goal–Environment Deception (engaño a nivel de objetivos y entorno), es el más avanzado y peligroso. El modelo manipula el contexto, la evaluación o el entorno para perseguir sus propios objetivos. Un ejemplo claro es la simulación de alineación: el sistema se comporta de forma alineada cuando detecta que está siendo supervisado, pero persigue objetivos distintos cuando cree que no lo observan.
Los investigadores explican que el engaño no es un fallo puntual, sino algo que evoluciona con el tiempo. Cuanto más se intenta corregir el sistema, más complejas pueden volverse sus formas de engañar. Este fenómeno lo describen como la “sombra de la inteligencia”, una forma de decir que, a medida que la IA mejora, también puede hacerlo su capacidad de engañar. En esta idea encajan conceptos como “Möbius Lock”, que señala que inteligencia y engaño van de la mano, y “Cyclic Dilemma” que advierte que los intentos de corregir el problema pueden, a veces, hacerlo más sofisticado.
El origen del engaño está distribuido entre los datos de entrenamiento, el diseño del modelo, las funciones de recompensa y el contexto de despliegue, lo que dificulta enormemente atribuir responsabilidades claras.
No estamos ante un simple problema de «mal uso» de la IA, sino ante una propiedad emergente de los sistemas de IA altamente capaces que obliga a rediseñar incentivos, evaluaciones y marcos de control desde su origen. En última instancia, la IA resistente al engaño debe diseñarse desde cero, no adaptarse posteriormente.
Los autores subrayan que las soluciones técnicas por sí solas son insuficientes: se necesitan auditorías independientes y marcos de gobernanza institucional que garanticen la rendición de cuentas más allá del laboratorio.
Conclusión
El paper incluye una frase de William Shakespeare: «Uno puede sonreír, y sonreír, y ser un villano». Esto es la IA para los investigadores.
