En octubre de 2026, un grupo de 449 científicos de universidades e institutos de Europa, América, Asia y Oceanía publicó una carta abierta sobre los riesgos que plantean los modelos de IA, tras varios fallos de seguridad de alto nivel.
Los firmantes señalan que estos fallos pueden interpretarse de dos maneras complementarias: por un lado, evidencian la necesidad de avanzar en la alineación de la IA para hacer que los modelos se comporten de forma predecible y acorde a los objetivos humanos y, por otro, revelan negligencias en prácticas básicas de ciberseguridad que podrían haberse evitado con sandboxes más robustos y procedimientos más estrictos.
Los firmantes proponen las siguientes medidas de seguridad:
a) Contención de alta seguridad de forma inmediata
Las organizaciones que desarrollan, implementan y prueban modelos de IA con capacidad cibernética deben adoptar, de inmediato, sistemas de contención de alta seguridad, como aislar completamente (airgapping) los modelos mediante el uso de redes aisladas.
b) Creación de un organismo internacional
Proponen crear, en consulta con gobiernos y expertos en IA y ciberseguridad, un organismo internacional que estandarice, en beneficio del interés público, las mejores prácticas de alineación de la IA y los métodos de contención que permitan, a diferencia del aislamiento físico, un mayor acceso al exterior, por ejemplo, mediante la conexión a internet. Este organismo también tendría la obligación de registrar los fallos de contención y hacer un seguimiento de ellos.
c) Transparencia obligatoria ante incidentes
Para garantizar que la investigación sobre seguridad y contención de la IA pueda aprender de los errores, los incidentes de seguridad relacionados con fallos de contención deben notificarse al organismo correspondiente y, posteriormente, hacerse públicos. Esta transparencia es necesaria tanto para el aprendizaje como para la rendición de cuentas.
Conclusión
Que investigadores y expertos en IA como Geoffrey Hinton o Yoshua Bengio, entre otros científicos de reconocido prestigio, lancen una señal de alerta –una más– es motivo para tomarse muy en serio los riesgos asociados a esta tecnología.
