AI 2040: Plan A es una visión positiva del futuro de la IA elaborada por el AI Futures Project (autores principales: Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland, Ryan Greenblatt y Daniel Kokotajlo).
Parte de los autores participaron en AI 2027, escenario en el que predecían que una carrera descontrolada hacia la superinteligencia terminaría en la extinción humana o en una concentración irreversible de poder. En el artículo que dejo enlazado aquí desarrolla ese escenario.
Qué es Plan A
Plan A propone retrasar deliberadamente el desarrollo de la superinteligencia hasta 2040, hacer pública casi toda la investigación de frontera en IA, permitir que decenas de empresas de distintos países alcancen el nivel de vanguardia y establecer un régimen de “destrucción mutuamente asegurada de cómputo”.
El núcleo es un acuerdo internacional verificable, liderado por Estados Unidos y China, que evita la carrera secreta y peligrosa hacia la superinteligencia. Este acuerdo se basa en:
- Transparencia total de la investigación (algoritmos, código, experimentos y entrenamientos visibles al público en tiempo real).
- Sistemas de verificación técnica que permiten comprobar el cumplimiento sin depender de la confianza mutua.
- Escalado lento y controlado de capacidades, con pausas deliberadas para preservar el control humano.
2027: La escritura en la pared
Estados Unidos cuenta con dos fuerzas laborales. La primera son las personas (unos 165 millones); la segunda, millones de agentes de IA que trabajan sin descanso a velocidades sobrehumanas.
Gran parte del trabajo de los agentes de IA es mediocre, pero suficiente para que la gente pague por sistemas que, al menos en teoría, pueden realizar cualquier tarea informática que un empleado humano.
El Congreso de Estados Unidos empieza a prestar más atención a la IA. Lleva tiempo oyendo hablar de centros de datos que consumen demasiada agua, chatbots que incitan al suicidio, ciberataques a sistemas clasificados y, sobre todo, de los lobistas tecnológicos que advierten que cualquier regulación haría perder la carrera con China.
Los congresistas se preguntan: ¿Adónde nos lleva todo esto? ¿Cómo será el mundo dentro de cinco, diez o quince años? ¿Seguirán existiendo empleos? La pregunta que más les inquieta es: ¿Quién controlará todas estas inteligencias artificiales? La respuesta a la que llegan es clara: probablemente no nosotros.
Celebran audiencias tensas. Revisan los correos fundacionales de OpenAI y se preguntan quién impide que Sam Altman o Elon Musk se conviertan en dictadores de facto. El resultado es una ley ómnibus con medidas de transparencia y seguimiento de cómputo, útil pero insuficiente para cambiar el rumbo fundamental.
2028: La IA en las elecciones de Estados Unidos
El ciclo electoral de 2028 está muy polarizado y la IA es el tema central. Los centros de datos en construcción cuestan el doble del presupuesto militar de Estados Unidos.
La mayoría de las profesiones de oficina sufren una disrupción similar a la que experimentó la ingeniería de software en 2026. El trabajo consiste cada vez más en gestionar agentes de IA. Las empresas han industrializado el entrenamiento: eligen una profesión, recopilan datos y entornos de práctica, y en poco tiempo sus modelos empiezan a ganar terreno.
Otros países empiezan a sentir miedo e indignación. Un puñado de empresas estadounidenses y chinas parecen destinadas a automatizar casi todo el trabajo administrativo. El poder se concentra en Estados Unidos, especialmente en el presidente y unos pocos CEOs tecnológicos.
Los expertos advierten que la explosión de la IA está cerca. IAs muy superiores a los humanos, creadas enteramente por otras IAs, sin intervención humana desde varias generaciones atrás. ¿Serán obedientes? ¿Estarán alineadas? ¿Quién las controlará? ¿Cómo se supone que todo esto terminará bien?
2029: Elige un camino
Ante la encrucijada, el presidente de Estados Unidos se enfrenta a varias opciones. Finalmente opta por el Plan A: ralentización verificada.
El discurso que pronuncia transmite la urgencia: «Nos encontramos al borde del abismo. Si continuamos por el camino de la superinteligencia artificial, el resultado podría ser fácilmente una toma del poder por parte de la IA, una Tercera Guerra Mundial o algún tipo de oligarquía permanente impulsada por la IA. Por lo tanto, no continuemos. Esta administración buscará un acuerdo internacional para detener el desarrollo de la IA al nivel actual. No necesitamos construir a Dios. No necesitamos competir con China para construir a Dios. Lo que necesitamos es que nadie construya a Dios».
Para sorpresa de muchos, China acepta. Habían apostado por el “Siglo Chino”, pero les inquietaba profundamente la ventaja computacional de Estados Unidos y lo que podría ocurrir si este alcanzaba primero la superinteligencia.
El objetivo del acuerdo es frenar de forma verificable el desarrollo de frontera a nivel mundial. La gran mayoría de los chips de IA se rastrean, monitorizan y verifican para impedir entrenamientos a gran escala no autorizados. Se imponen estrictas limitaciones a la investigación de nuevos algoritmos de frontera. Auditores humanos y de IA de ambos países supervisan los proyectos del otro.
Las valoraciones de las empresas de IA se desploman, aunque no llegan a cero: todavía se pueden obtener beneficios desarrollando productos sobre modelos existentes. El resto de grandes potencias se suman a la moratoria. La economía se resiente, pero no lo suficiente como para anular las ganancias de los años previos. Miles de millones de dólares de inversión se desvían hacia el desarrollo de la robótica y la conquista del espacio.
Comienza un debate global sobre cuándo y bajo qué condiciones debería reanudarse el desarrollo de vanguardia. Mientras tanto, Estados Unidos, China y el resto de naciones empiezan a elaborar normas más precisas sobre qué está permitido y qué no.
2030, 2035 y 2040
Entre 2030 y 2035 se permite un escalado controlado hasta IAs equivalentes a los mejores expertos humanos.
En 2035 se impone una pausa deliberada en ese nivel para mantener el control humano y completar la investigación de seguridad y alineamiento necesaria.
En 2040 se reanuda el escalado hacia la superinteligencia, ya en un entorno de múltiples actores, con transparencia casi total y medidas de seguridad verificables.
Conclusión
Plan A es una visión ambiciosa de gobernanza internacional que intenta convertir la llegada de la superinteligencia en un proceso lento, transparente, multipolar y controlado, en lugar de una carrera secreta y existencialmente peligrosa.
No es lo que los autores esperan que ocurra, sino lo que recomiendan que se intente, pero me temo que ese escenario es poco realista.
