El CEO de Anthropic, Dario Amodei, publicó en septiembre de 2026 en su sitio web un ensayo con el título We Must Pace the Frontier (Debemos marcar el ritmo de la frontera), en el que pide ralentizar el avance de las capacidades de los modelos de frontera. No propone detener el progreso, sino conceder tiempo suficiente para desarrollar mecanismos de alineación y salvaguardas adecuadas. Plantea un plan de tres puntos: la supervisión independiente de los modelos de IA durante su desarrollo, una regulación sectorial y una regulación global de la industria.
Sam Altman –CEO de OpenAI– se pronunció en X: «Coincido con Dario en que debemos marcar el ritmo de la innovación. Este ha sido un tema central en las discusiones que hemos mantenido en OpenAI durante las últimas semanas. Comprometernos a contar con evaluadores independientes, con un acceso comparable al de los empleados, es una excelente idea, y haremos lo mismo. Pronto compartiremos más información».
Elon Musk –CEO de xAI– también se pronunció en X con un mensaje corto y tajante: «Dario tiene razón».
Demis Hassabis, presidente de Google DeepMind, el laboratorio de investigación y desarrollo de IA de Google, respaldó en X la advertencia de Amodei: «El ensayo de Dario apunta al camino correcto a seguir. Aún quedan detalles por definir, pero la dirección es la adecuada para afrontar este momento crítico. Esta es también la razón por la que recientemente presentamos nuestra propuesta para un organismo de normalización a nivel de la industria para la IA de vanguardia».
No cabe duda de que una IA fuera de control entrañaría grandes riesgos para todos. No sé si hasta el punto de provocar la extinción de la raza humana, pero sí podría desestabilizar infraestructuras, servicios y sectores críticos, así como generar perturbaciones graves en una economía global que depende en gran medida de Internet.
Respuestas políticas
La respuesta de Donald Trump no se hizo esperar. Restó importancia a las advertencias sobre los posibles riesgos existenciales de esta tecnología y sostuvo que la prioridad debe ser preservar el liderazgo de Estados Unidos frente a China. No cabía esperar otra reacción, pues conviene recordar que, en su primer día de mandato, revocó la Orden Ejecutiva 14110 de Joe Biden, relativa al desarrollo y uso seguro, fiable y responsable de la inteligencia artificial en Estados Unidos.
Por su parte, el Ministerio de Asuntos Exteriores de China, a través de su portavoz, Guo Jiakun, afirmó en una rueda de prensa, celebrada el 14 de septiembre de 2026, que «la IA es una tecnología trascendental para el futuro de la humanidad. El mundo necesita una IA abierta e inclusiva para el bien común. La incitación al miedo, la confrontación y la competencia feroz obstaculizarían los esfuerzos para lograr una gobernanza global sólida de la IA».
La realidad es que Estados Unidos y China no están dispuestos a parar la carrera de la IA. Esta situación recuerda a la carrera por la energía nuclear, con la diferencia de que entonces la confrontación se producía entre Estados Unidos y la Unión Soviética. Solo tras la Crisis de los Misiles de Cuba, en octubre 1962, se resolvió la lucha entre ambas potencias: el riesgo de destrucción mutua era demasiado elevado, viéndose forzados en 1968 a la firma del Tratado de No Proliferación. Temo que tengamos que llegar al mismo punto con la IA para una gobernanza global.
Conclusión
Circula la teoría de que las grandes tecnológicas piden insistentemente un marco regulatorio para tratar de trasladar o diluir su responsabilidad en caso de que algo salga mal. Algo así como: «Me pase de frenada porque las autoridades no pusieron límites de velocidad». No es excusa válida. A falta de un marco regulador, nada impide que actúen con responsabilidad.
Muchos expertos aseguran que estamos próximos a un punto de no retorno. Si la IA se descontrola, las consecuencias pueden ser irreparables.
