Якщо ти також боїшся, що AI знищить людство, тобі обов’язково потрібно прочитати цей звіт «AI 2040: Plan A»

Проєкт AI Futures 9-го числа оприлюднив звіт «AI 2040: Plan A», у якому стверджує, що час появи AGI, який у галузі зазвичай передбачають на 2030 рік, слід перенести на 2040 рік. Схема спирається на чотири опори.
(Попередня довідка: CEO General Intuition, AI-стартапу, розкрив: чому «ігрові дані» є кінцевим ключем до AGI?)
(Додатковий контекст: Doubao, Ali Qianwen одна за одною закривають налаштування AI-персонажів, а в Китаї нові закони жорстко регулюють інтимні взаємодії з AI)

Зміст цієї статті

Toggle

• Прогальмувати рішення на десятиліття
• У цій грі ніхто насправді не виграє
• Гальмо — це технологія, і водночас політика

Куди має рухатися людство впродовж наступних десяти років? 9-го числа цього тижня AI Futures Project опублікував найновіший звіт «AI 2040: Plan A», який стверджує, що час появи «AGI», тобто AI, який у майже всіх аспектах повністю перевершить людей, з 2030 року, передбаченого галуззю за замовчуванням, слід грубо перенести на 2040 рік.

За цим стоїть таке міркування: якщо люди не почнуть активно тиснути на гальма, у цій глобальній гонці врешті не буде чіткого переможця — лише невелика група людей, а можливо, навіть одна людина, яка в самоті триматиме єдине у світі підрозділення суперінтелекту.

Прогальмувати рішення на десятиліття

Цей звіт підготувала AI Futures Project, заснована Daniel Kokotajlo — це третій вагомий звіт команди. Kokotajlo раніше працював в OpenAI; у квітні 2024 року він пішов через незадоволення питаннями безпеки, а наступного року заснував AI Futures Project. Перші два звіти — це AI 2027 і AI Futures Model, опубліковані відповідно у квітні 2025 року; перший прогнозує, що якщо рухатися поточним шляхом, наслідок буде не знищенням людства, так і незворотним зосередженням влади.

Plan A — це позитивне рішення, яке команда пропонує, спираючись на чотири опори.

Перша — зробити всі AI-дослідження публічними, тобто «прозорість фундаментальних досліджень». Простими словами: щоб усі країни бачили, що робить одна одну, і могли разом тиснути на гальма, а не закривали двері та не неслись наввипередки, б'ючись за життя.

Друга — дозволити десяткам компаній у всьому світі наздогнати найпередовіший технологічний рівень, щоб не дати кільком компаніям монополізувати межі можливостей. Мовою повсякденності: розкласти технологічну перевагу так, щоб більше гравців могли відкусити від неї, і щоб це не перетворилося на гонку озброєнь «переможець забирає все».

Третя — США і Китай мають домовитися до 2029 року про міжнародну угоду, що охоплює повну прозорість AI-розробки та механізми верифікації.

Четверта, і найменш інтуїтивна: навмисно ввійти в «взаємно гарантоване знищення обчислювальної потужності» — жахливу рівновагу. Тобто за логікою холодної війни щодо ядерної зброї «хто першим ударить — той і загине разом з іншими»: прив’язати обчислювальну потужність до тієї самої стримувальної системи, змушуючи всіх гравців боятися бездумно рвати вперед.

За цією схемою прогнозований таймлайн такий: експертний рівень AI приблизно з’явиться у 2035 році, а суперінтелект — у 2040 році; і лише після того, як буде підготовлено базову інфраструктуру безпеки, дозволять запуск. Звіт також оцінює, що AI-компанії, найімовірніше, протягом найближчих 1–10 років зможуть створити системи, які повністю перевершать людей, а стратегія всієї індустрії нині — це лише «робимо й водночас думаємо, як контролювати», тож назвати це переконливою програмою не можна.

У цій грі ніхто насправді не виграє

Ставлення звіту не оптимістичне. Бо якщо гонка продовжить рухатися своїм початковим курсом, авторська група не вважає, що переможець матиме помітну перевагу, і не вважає, що будь-яка зі сторін добровільно сповільнить темп і знизить ризики.

Вони вважають, що людям, імовірно, не вдасться зберігати ефективний контроль у процесі того, як AI рухатиметься до суперінтелекту; навіть якщо врешті-решт AI справді вдасться вирівняти (тобто щоб цілі AI слухняно підкорялися волі людей), результатом стане безпрецедентне зосередження влади: невелика група людей, або навіть одна-єдина людина, у короткостроковій перспективі матиме єдине у світі суперінтелектуальне військо — і отримає різні варіанти «що робити далі», серед яких частина фактично означатиме перехоплення управління світом.

У налаштуваннях звіту 2027 року в США Конгрес ухвалює всеохоплюючий законопроєкт «AI Transparency Act of 2027» — у ньому є і добре, і погане, але він не змінює ситуацію по суті. Паралельно в США з’являються дві сили робочої сили: 165 мільйонів людських працівників і, крім того, мільйони AI-agentів, які щогодини прокидаються й вимикаються, працюючи цілодобово надшвидкісно; люди за це щомісяця платять 10 мільярдів доларів.

Звіт припускає, що у 2028 році президентські вибори в США, тема AI стане найбільшим фокусом протистояння між кандидатами від двох партій, тому що більшість офісної роботи до того моменту вже буде, як програмні інженери у 2026 році, значною мірою замінена AI. Центри обробки даних, які зараз будуються, мають загальну вартість, що дорівнює двом вартостям усього військового бюджету США. Наразі ще не з’явилося рекурсивного самовдосконалення (тобто циклу, коли AI сам створює сильніший AI), але ознаки вже з’являються: найтоповіший AI для написання коду вже налаштований відмовлятися допомагати конкурентам у розробці AI, фактично «забираючи сходи» під ноги самим собі.

Звіт також ставить Plan A у порівняння з іншими чотирма альтернативними сценаріями, які відповідають різним шляхам реагування, які США можуть обрати у відповідь на виклик суперінтелекту. Іншими словами, відтермінування до 2040 року — не єдиний варіант, а той, який авторська група вважає найменш ризикованим.

Гальмо — це двері технологій, і водночас політика

Kokotajlo сам дуже чітко це пояснює: Plan A — це рекомендація, а не прогноз. Команда використовує конкретний сценарій як носій, щоб вести комунікацію та проходити стрес-тест власних політичних тез, а не гарантувати, що світ справді піде за сценарієм, бо реальність, імовірно, рухатиметься швидше, ніж ця схема гальм.

Звіт вірить, що керівники OpenAI, Anthropic, xAI, Google DeepMind — приблизно всі вони — розуміють, яким виглядатиме кінцевий підсумок гонки, але все одно обирають продовжувати рух вперед. Можливо, тому що вони вважають себе менш поганим варіантом. Хоча, мабуть, вони всі добре розуміють, що вітер дме не в їхній бік, вони все одно вирішують зіграти й поставити на удачу — а причина цього в тому, що вони вірять: будь-який з людей-CEO або CEO суперника більш заслуговує на те, щоб отримати та контролювати цю владу.

Повний оригінальний текст «AI 2040: Plan A»