Si también te da miedo que la IA destruya a la humanidad, tienes que leer este informe: 《AI 2040: Plan A》

El proyecto de futuros de IA publicó el día 9 un informe titulado《AI 2040：Plan A》, que sostiene que el momento en que surja la AGI, es decir, una IA que supere de forma integral a los humanos en casi todos los aspectos, se retrase desde el 2030 que se da por sentado en la industria hasta el 2040. El plan se apoya en cuatro pilares.
(Antecedentes: El CEO de General Intuition, una startup de IA, revela por qué los “datos de juegos” son la llave definitiva para acceder a la AGI)
(Aclaración de contexto: Doubao y Alibaba Qianwen cierran uno tras otro la configuración de personalidades de IA; nuevas leyes en China regulan con dureza las interacciones íntimas con IA)

Tabla de contenidos

Toggle

• El plan de frenar durante una década
• En este juego, nadie gana de verdad
• Frenar: es una cuestión de técnica, pero también de política

¿Cómo debe avanzar la humanidad en la próxima década? En el informe más reciente《AI 2040：Plan A》, publicado esta semana el día 9 por AI Futures Project, se defiende retrasar el momento de aparición de la “AGI”, es decir, la IA que supera plenamente a los humanos en prácticamente todos los frentes, desde el 2030 que la industria da por sentado, hasta el 2040.

El razonamiento de fondo es: si los humanos no frenan activamente, esta carrera global finalmente no tendrá un ganador claro; solo dejará a un pequeño grupo de personas, e incluso a una sola, que en solitario poseerá el único ejército de superinteligencia del mundo.

El plan de frenar durante una década

Este informe proviene de AI Futures Project, fundado por Daniel Kokotajlo, y es el tercer informe de peso del equipo. Kokotajlo trabajó antes en OpenAI y, en abril de 2024, renunció por inconformidad con las preocupaciones de seguridad; al año siguiente fundó AI Futures Project. Los dos informes anteriores fueron AI 2027, publicado en abril de 2025, y AI Futures Model. El primero predice que, si se sigue el rumbo actual, el desenlace no será la extinción humana o la concentración irreversible del poder.

Plan A es la solución positiva que plantea el equipo, basada en cuatro pilares.

Primero, hacer públicos todos los avances en investigación de IA, es decir, “transparencia integral de la investigación”. En términos simples: que cada país pueda ver qué hacen los demás, y así poder frenar en conjunto, en lugar de encerrarse a puerta cerrada y correr como si fuera una carrera a muerte.

Segundo, permitir que decenas de compañías en todo el mundo puedan alcanzar el nivel de tecnología más avanzado, y evitar que unas pocas empresas monopolizando el borde de las capacidades. En palabras sencillas: abrir la ventaja tecnológica para que más jugadores la compartan, para que no evolucione en una carrera armamentista de ganador que se lo lleva todo.

Tercero, que Estados Unidos y China logren para 2029 un acuerdo internacional que abarque la transparencia integral en el desarrollo de IA y los mecanismos de verificación.

Cuarto, y también la línea más contraintuitiva: entrar deliberadamente en un “equilibrio de destrucción mutua asegurada de cómputo”. Es decir, aplicar la lógica de la Guerra Fría de los arsenales nucleares —“quien actúe primero, se destruye a sí mismo”—, pero atando el cómputo a el mismo mecanismo de disuasión, forzando a que todos los jugadores se lo piensen dos veces antes de salir corriendo a la carrera.

Según el cronograma que se deduce con este plan, la IA de nivel experto aparecería alrededor de 2035, mientras que la superinteligencia de la AGI se retrasaría hasta 2040, solo después de que la infraestructura de seguridad esté lista para autorizarla. El informe también concluye que las compañías de IA probablemente, en un rango de 1 a 10 años, producirán sistemas que superen integralmente a los humanos, y que la estrategia actual de la industria solo consiste en hacer mientras se buscan formas de controlar; no es un plan sólido que se sostenga por sí solo.

En este juego, nadie gana de verdad

La postura del informe no es optimista. Porque si la competencia sigue en el carril original, los autores no creen que los ganadores consigan una ventaja claramente superior, ni que ninguna parte reduzca voluntariamente la marcha o disminuya el nivel de riesgo.

Consideran que los humanos probablemente no podrán mantener un control efectivo durante el proceso de la IA hacia la superinteligencia; incluso si al final se logra alinear la IA con éxito (lograr que los objetivos de la IA obedezcan la voluntad humana), el resultado sería una concentración de poder sin precedentes: un pequeño grupo de personas, o incluso una sola, tendrá en el corto plazo el único gran ejército de superinteligencia del mundo, y se le darán diversas opciones sobre qué hacer a continuación; y una parte de esas opciones equivale, en la práctica, a tomar el control del mundo.

En la configuración del informe, en 2027 el Congreso de Estados Unidos aprueba una ley integral, el《AI Transparency Act of 2027》; tiene aspectos positivos y negativos, pero no cambia la situación de raíz. Al mismo tiempo, en Estados Unidos aparecen dos fuerzas laborales: 165 millones de empleados humanos, más millones de AI agent, que se despiertan y se apagan cada hora, funcionando 24/7 a una velocidad sobrehumana; la gente paga 10.000 millones de dólares al mes por ello.

El informe imagina que en 2028, en las elecciones presidenciales de Estados Unidos, el tema de la IA se convertirá en el mayor foco de confrontación entre candidatos de ambos partidos, porque la mayoría de los trabajos de oficina para esa fecha ya habrán sido reemplazados masivamente por IA, igual que los ingenieros de software en 2026. Los centros de datos que están en construcción tienen un costo total equivalente al doble del presupuesto militar completo de Estados Unidos. Todavía no ha surgido la mejora recursiva autosuperadora (es decir, el ciclo en el que la IA crea una IA más fuerte por sí misma), pero ya asoman señales: el AI de codificación más alto ya ha sido configurado para rechazar ayudar a competidores a desarrollar IA, lo que equivale a recoger la escalera bajo sus propios pies.

El informe también contrasta Plan A con otras cuatro opciones alternativas, que corresponden a diferentes rutas de respuesta que Estados Unidos podría seguir ante el desafío de la superinteligencia. Dicho de otro modo: retrasarlo hasta 2040 no es la única opción, sino la que el equipo de autores considera que conlleva el menor riesgo.

Frenar: es una cuestión de técnica, pero también de política

Kokotajlo lo dice con claridad: Plan A es una recomendación, no una predicción. El equipo utiliza un escenario concreto como vehículo para comunicarse y poner a prueba sus posiciones de política, no para garantizar que el mundo realmente seguirá el guion, porque la realidad probablemente irá más rápido que este plan de frenado.

El informe cree que los CEOs de OpenAI, Anthropic, xAI y Google DeepMind probablemente ya entienden cómo será el final de la competencia, aun así eligen seguir avanzando; quizá porque creen que son la opción menos mala. Aunque seguramente todos saben internamente que el viento sopla en la dirección equivocada, aún así deciden apostar; la razón por la que apuestan es que creen que, ya sea ellos mismos o el CEO de su rival, son más dignos de tener el control de este poder.

《AI 2040：Plan A》texto completo original