彼らは、人類は AI が超知能へ向かう過程で有効な制御を維持できない可能性が高いと判断している。仮に最終的に本当に AI のアライメントに成功し（AI の目標を人間の意思に素直に従わせる）、結果として生じるのは前例のない権力の集中だ。少数の人、いや単一の人物が短期的に世界で唯一の超知能の大軍を握り、さらに今後どうすべきかという各種の選択肢が与えられる。そのうち一部は、実質的に世界を接収するのと同義になる。
レポートの設定では、2027 年に米国の議会が総合的な法案『AI Transparency Act of 2027』を可決する。内容は良い点も悪い点もあるが、状況を根本から変えるには至らない。同時期に米国には 2 種類の労働力が現れる。1.65 億人の人間の従業員に加えて、数百万の AI agent がいて、毎時間起動されては停止され、超人的な速度で 24 時間体制で稼働する。人々は毎月そのために 100 億ドルを支払う。
レポートは、2028 年の米国大統領選で AI の論点が、両党の候補者同士の最大の争点になると想定している。なぜなら多数のホワイトカラーの仕事は、その時点では 2026 年のソフトウェアエンジニアと同じように、AI によって大幅に置き換わってしまっているからだ。建設中のデータセンターの総コストは、米国の軍事予算全体の 2 倍に達する。現時点では再帰的な自己改善（すなわち AI 自身がより強い AI を作るというループ）はまだ現れていないが、兆しはすでに見えている。最上位のプログラミング用 AI は、競争相手の AI 研究開発を助けることを拒否するよう設定されており、梯子を自分の足元に回収するのと同じことだ。
レポートはまた、Plan A を別の 4 つの代替案と対比し、それぞれが米国が超知能への挑戦に直面した際に取り得る異なる対応ルートに対応しているとする。言い換えれば、2040 年まで延期するのは唯一の選択肢ではないが、著者チームが考えるところでは、リスクが最も低い選択肢だということだ。
ブレーキは技術であると同時に政治でもある
Kokotajlo 自身ははっきりと言っている。Plan A は提案であって予測ではない。チームは、具体的なシナリオを載せ物（媒体）として用い、自分たちの政策主張を伝え、かつその主張をテストすることを目的としている。世界が本当にこの台本どおりに進むことを保証するのではない。現実は、このブレーキ案よりもさらに急に進む可能性が高いからだ。
レポートは、OpenAI、Anthropic、xAI、Google DeepMind の CEO たちは競争の終局がどんなものか、たぶんみな理解しているはずだが、それでもなお前へ進む選択をしていると信じている。おそらく、それが「最悪ではない」選択肢だと彼らが考えているからだ。たとえ彼らが心のどこかで風向きが悪いことを分かっていても、それでも賭けに出る。その賭けの理由は、自分、あるいは相手の CEO の誰かが、この権力を握ることになったとしても、その中で自分（または自分側）のほうがまだマシだと信じているからだ。
あなたもAIが人類を滅ぼしてしまうのではないかと心配しているなら、必ずこのレポート『AI 2040：Plan A』を読んでください。
AI Futures Project は 9 日にレポート『AI 2040：Plan A』を発表し、AGI の登場時期を業界の前提である 2030 年から 2040 年へと後ろ倒しにすべきだと主張した。方案は四つの柱によって支えられている。
（前情報：AI スタートアップ General Intuition の CEO が暴露：なぜ「ゲームデータ」が AGI への究極の鍵なのか？）
（背景補足：豆包、アリの千問が相次いで AI 人格設定を閉じた。中国の新法により、人工知能の親密なやり取りが厳しく規制される）
目次
Toggle
人類は今後 10 年をどう進むべきか？ AI Futures Project は今週 9 日に最新レポート『AI 2040：Plan A』を発表し、「AGI」――つまり、ほぼあらゆる面で人類を全面的に上回る AI――の登場時期を、業界の想定する 2030 年から、無理やり 2040 年へ延期すべきだと主張している。
その背後にある判断はこうだ。人類が自らブレーキを踏まなければ、この世界的な競争は最終的に明確な勝者を生まない。生まれるのはごく少数の人、いや一人だけであり、彼（彼女）が世界で唯一の超知能の軍隊を独り占めするだけだ。
十年のブレーキ案
このレポートは、Daniel Kokotajlo が創業した AI Futures Project から出たもので、チームにとって 3 本目の重量級レポートだ。Kokotajlo は OpenAI に勤務していたが、2024 年 4 月に安全面での懸念に不満があって退職し、翌年に AI Futures Project を設立した。前 2 本のレポートはそれぞれ 2025 年 4 月に発表された AI 2027 および AI Futures Model である。前者は、現在の路線のまま進めば、結末は人類の絶滅か、あるいは権力が不可逆に一極集中するかのどちらかだと予測していた。
Plan A は、チームが提示するポジティブな解決策で、4 本の柱に基づいている。
第一に、すべての AI 研究を公開する、つまり「研究全体の透明化」だ。言い換えれば、各国が互いに何をしているのか見えることで、みんなでブレーキを踏むことができる。閉ざされた扉の中で命を賭けて暴走するのではなく。
第二に、世界の数十社が最前線の技術水準まで追いつけるようにする。少数の会社が能力の限界を独占できないようにする。平たく言えば、技術的な優位性を広く開示してより多くのプレイヤーに分配すれば、勝者総取りの軍拡競争に発展するのを防げる。
第三に、米国と中国が 2029 年までに、AI の研究開発における全面的な透明化と検証メカニズムを含む国際協議をまとめ上げること。
第四、そして最も直感に反する条項は、「相互に保証された計算資源の破壊（相互保全の算力破壊）」という恐ろしい均衡にあえて踏み込むことだ。すなわち、冷戦期の核兵器で「先に動いた者が同じく滅びる」という論理を、計算資源にも同じ抑止メカニズムとして結び付け、すべてのプレイヤーに先走って奪い合うことをためらわせる。
この方案に沿ったタイムラインを推し進めると、専門家レベルの AI はおよそ 2035 年に登場し、AGI の超知能は 2040 年にまで延期される。安全基盤の整備ができてから初めて放出（運用開始）する。レポートは同時に、AI 企業が今後 1〜10 年のうちに、全面的に人類を超えるシステムを作る可能性が高いとも見ている。そして、現時点での産業全体の戦略は、ただ作りながらコントロールする方法を探しているだけで、筋の通った計画とは言えない。
このゲームでは、誰も本当に勝てない
レポートの姿勢は楽観的ではない。なぜなら、競争が当初の軌道のまま進めば、著者チームは勝者が明確に優位を得るとは考えていないし、どちらの側も自ら歩みを遅らせてリスクを下げることはしないと見ているからだ。
彼らは、人類は AI が超知能へ向かう過程で有効な制御を維持できない可能性が高いと判断している。仮に最終的に本当に AI のアライメントに成功し（AI の目標を人間の意思に素直に従わせる）、結果として生じるのは前例のない権力の集中だ。少数の人、いや単一の人物が短期的に世界で唯一の超知能の大軍を握り、さらに今後どうすべきかという各種の選択肢が与えられる。そのうち一部は、実質的に世界を接収するのと同義になる。
レポートの設定では、2027 年に米国の議会が総合的な法案『AI Transparency Act of 2027』を可決する。内容は良い点も悪い点もあるが、状況を根本から変えるには至らない。同時期に米国には 2 種類の労働力が現れる。1.65 億人の人間の従業員に加えて、数百万の AI agent がいて、毎時間起動されては停止され、超人的な速度で 24 時間体制で稼働する。人々は毎月そのために 100 億ドルを支払う。
レポートは、2028 年の米国大統領選で AI の論点が、両党の候補者同士の最大の争点になると想定している。なぜなら多数のホワイトカラーの仕事は、その時点では 2026 年のソフトウェアエンジニアと同じように、AI によって大幅に置き換わってしまっているからだ。建設中のデータセンターの総コストは、米国の軍事予算全体の 2 倍に達する。現時点では再帰的な自己改善（すなわち AI 自身がより強い AI を作るというループ）はまだ現れていないが、兆しはすでに見えている。最上位のプログラミング用 AI は、競争相手の AI 研究開発を助けることを拒否するよう設定されており、梯子を自分の足元に回収するのと同じことだ。
レポートはまた、Plan A を別の 4 つの代替案と対比し、それぞれが米国が超知能への挑戦に直面した際に取り得る異なる対応ルートに対応しているとする。言い換えれば、2040 年まで延期するのは唯一の選択肢ではないが、著者チームが考えるところでは、リスクが最も低い選択肢だということだ。
ブレーキは技術であると同時に政治でもある
Kokotajlo 自身ははっきりと言っている。Plan A は提案であって予測ではない。チームは、具体的なシナリオを載せ物（媒体）として用い、自分たちの政策主張を伝え、かつその主張をテストすることを目的としている。世界が本当にこの台本どおりに進むことを保証するのではない。現実は、このブレーキ案よりもさらに急に進む可能性が高いからだ。
レポートは、OpenAI、Anthropic、xAI、Google DeepMind の CEO たちは競争の終局がどんなものか、たぶんみな理解しているはずだが、それでもなお前へ進む選択をしていると信じている。おそらく、それが「最悪ではない」選択肢だと彼らが考えているからだ。たとえ彼らが心のどこかで風向きが悪いことを分かっていても、それでも賭けに出る。その賭けの理由は、自分、あるいは相手の CEO の誰かが、この権力を握ることになったとしても、その中で自分（または自分側）のほうがまだマシだと信じているからだ。
『AI 2040：Plan A』完全な原文