En febrero de 2026, se presentó el segundo Informe Internacional sobre la Seguridad de la IA. Su redacción ha contado con la orientación de más de 100 expertos independientes, entre los que se incluyen personas designadas de más de 30 países y organizaciones internacionales, como la UE, la OCDE y la ONU.
El informe presenta una evaluación científica amplia sobre la seguridad de la IA de uso general y concluye que sus capacidades avanzan rápido, pero advierten que la seguridad y la gobernanza van por detrás del ritmo de desarrollo, lo que obliga a tomar decisiones con información parcial.
La trayectoria del progreso de la IA hasta 2030 es incierta, pero las tendencias actuales son coherentes con una mejora continua.
Alcance y riesgos
El objetivo declarado del trabajo es ayudar a los responsables políticos a sortear el «dilema de la evidencia» que plantea la IA de uso general: si los responsables actúan demasiado pronto, pueden imponer medidas ineficaces; si esperan demasiado, pueden dejar a la sociedad expuesta a daños graves. Los expertos sostienen que esa tensión se agrava porque las capacidades de la IA cambian más rápido que la capacidad de medirlas con fiabilidad. Por eso insisten en que los marcos de evaluación, el monitoreo y las salvaguardias siguen siendo insuficientes, aunque están mejorando.
El informe organiza los riesgos en tres grandes categorías: uso malicioso, mal funcionamiento y riesgos sistémicos.
Dentro del uso malicioso, subraya la generación de estafas, fraudes, extorsión e imágenes íntimas no consentidas, además del apoyo a ciberataques, descubrimiento de vulnerabilidades y creación de malware. También advierte sobre riesgos biológicos y químicos, porque algunos modelos ya pueden ayudar a obtener información técnica sensible que podría ser útil para actores con intenciones dañinas.
Respecto del mal funcionamiento, el informe insiste en que los sistemas actuales todavía alucinan, producen código defectuoso, dan consejos engañosos y muestran comportamientos irregulares según la tarea y el contexto. Un punto especialmente sensible es que los agentes autónomos amplían el riesgo porque toman decisiones en secuencias largas y es más difícil intervenir a tiempo. El texto también trata la desalineación, la posibilidad de que un sistema persiga objetivos no deseados, o incluso actúe de forma engañosa, oculte acciones o resista la desconexión.
En cuanto a los riesgos sistémicos, el documento dedica mucha atención a efectos más amplios sobre autonomía humana, mercado laboral y resiliencia social. Señala que la IA puede afectar la toma de decisiones, fomentar la dependencia cognitiva, reforzar el sesgo de automatización y alterar la calidad del entorno informativo. También observa que el empleo agregado todavía muestra resultados mixtos, pero ya hay señales de impacto en ocupaciones expuestas, especialmente entre trabajadores jóvenes y en tareas de redacción, traducción y trabajos cognitivos.
Mas allá de los riesgos, los expertos reconocen el valor de los sistemas de IA, que se aplican «de forma útil en la salud, la investigación científica, la educación y otros sectores, aunque a un ritmo muy desigual en todo el mundo».
Gestión de riesgos
El informe describe diversas prácticas de mitigación de riesgos: evaluaciones de modelo, umbrales de capacidad peligrosa, monitoreo de despliegue y defensa en profundidad.
Sin embargo, recalca que ninguna salvaguardia es perfecta y que persisten grandes lagunas técnicas e institucionales, sobre todo por la brecha entre pruebas de laboratorio y comportamiento en el mundo real. Los modelos de peso abierto añaden más dificultad porque pueden copiarse, modificarse y usarse fuera de entornos controlados.
Implicaciones políticas
Aunque no hace recomendaciones prescriptivas, el informe deja claro que los gobiernos deben equilibrar seguridad, innovación, competitividad y preparación institucional.
La coordinación internacional aparece como una prioridad constante, especialmente para compartir evidencias, mejorar evaluaciones y evitar respuestas nacionales fragmentadas. También subraya que los distintos países afrontarán riesgos de forma desigual según su infraestructura digital, su marco regulador y su nivel de adopción de IA.
Conclusión
Los expertos advierten que la trayectoria del progreso de la IA hasta 2030 es incierta, aunque la tendencia actual apunta a una mejora continua, no exenta de riesgos.
Pueden consultar el primer Informe Internacional sobre la Seguridad de la IA publicado en enero de 2025.
