Jika kamu juga takut AI akan memusnahkan umat manusia, kamu harus membaca laporan ini 《AI 2040: Plan A》

AI Futures Project pada tanggal 9 merilis laporan《AI 2040：Plan A》，yang berpendapat bahwa waktu kemunculan AGI yang biasanya diperkirakan industri pada tahun 2030 seharusnya dimundurkan menjadi 2040. Rencananya bertumpu pada empat pilar.
(Konten pembuka: CEO General Intuition startup AI mengungkap: Mengapa “data game” adalah kunci utama menuju AGI?)
(Catatan latar: Doubao dan Alibaba Qianwen menutup pengaturan kepribadian AI; aturan baru Tiongkok semakin ketat mengatur interaksi intim berbasis AI)

Daftar isi

Toggle

• Rencana pengereman selama 10 tahun
• Dalam permainan ini, tak ada yang benar-benar menang
• Pengereman, sebuah urusan teknis, sekaligus politik

Bagaimana langkah manusia dalam 10 tahun ke depan? AI Futures Project pada pekan ini tanggal 9 menerbitkan laporan terbaru《AI 2040：Plan A》，yang menyatakan bahwa waktu lahir “AGI”—yakni AI yang hampir di semua aspek melampaui manusia—harus digeser dari tahun 2030 yang diasumsikan industri, menjadi 2040.

Pertimbangannya adalah: jika manusia tidak sengaja menginjak rem, perlombaan global ini pada akhirnya tidak akan menghasilkan pemenang yang jelas; yang tersisa hanya sekelompok kecil orang, bahkan satu orang, yang sendirian memegang satu-satunya pasukan kecerdasan super di seluruh dunia.

Rencana pengereman selama 10 tahun

Laporan ini berasal dari AI Futures Project yang didirikan Daniel Kokotajlo. Ini merupakan laporan kelas berat ketiga dari tim tersebut. Kokotajlo pernah bekerja di OpenAI; pada April 2024, ia keluar karena tidak puas dengan kekhawatiran soal keselamatan, dan setahun berikutnya mendirikan AI Futures Project. Dua laporan sebelumnya adalah AI 2027 yang dirilis pada April 2025, serta AI Futures Model; yang pertama memprediksi bahwa jika mengikuti jalur saat ini, hasil akhirnya bukan kepunahan manusia, melainkan kekuasaan yang terkonsentrasi secara tak terbalikkan.

Plan A adalah solusi positif yang diajukan tim, dibangun di atas empat pilar.

Pertama, membuka semua riset AI, yakni “transparansi riset secara menyeluruh”. Sederhananya, semua negara bisa melihat apa yang sedang dikerjakan masing-masing, sehingga mereka bisa menginjak rem bersama-sama, bukan berlomba menggeber lari tanpa rencana dari balik pintu tertutup.

Kedua, memungkinkan puluhan perusahaan di seluruh dunia mengejar standar teknologi paling mutakhir, agar kemampuan batas tidak dimonopoli oleh segelintir perusahaan. Dalam bahasa sehari-hari, keunggulan teknologi dibuka agar lebih banyak pemain bisa ikut “membagi” kue, sehingga tidak berubah menjadi perlombaan persenjataan model pemenang mengambil semuanya.

Ketiga, Amerika Serikat dan Tiongkok harus mencapai kesepakatan pada 2029 tentang sebuah perjanjian internasional yang mencakup transparansi menyeluruh dalam pengembangan AI dan mekanisme verifikasi.

Keempat, sekaligus yang paling tidak intuitif: dengan sengaja masuk ke “keseimbangan mengerikan saling menjamin penghancuran daya komputasi”. Artinya, meniru logika senjata nuklir era Perang Dingin—siapa yang lebih dulu bertindak, maka keduanya binasa—dengan cara mengikat daya komputasi pada mekanisme penjeraan yang sama, sehingga semua pemain dipaksa untuk tidak berani melesat mendahului secara sembrono.

Berdasarkan skenario yang ditarik dari rencana ini, AI tingkat ahli diperkirakan muncul sekitar 2035, sementara AGI kecerdasan super dimundurkan ke 2040, dan baru “dilepas” setelah infrastruktur dasar keselamatan siap. Laporan itu sekaligus menilai bahwa perusahaan-perusahaan AI kemungkinan besar dalam rentang 1 sampai 10 tahun ke depan akan menciptakan sistem yang benar-benar melampaui manusia secara menyeluruh; dan strategi industri saat ini masih sekadar melakukan sambil mencari cara mengendalikan, yang belum bisa disebut rencana yang kokoh dan benar-benar bisa diandalkan.

Dalam permainan ini, tak ada yang benar-benar menang

Sikap laporan ini tidak optimistis. Sebab jika perlombaan terus berjalan sesuai jalurnya semula, penulis kelompok tersebut tidak menganggap akan ada pemenang yang meraih keunggulan yang jelas, dan mereka juga tidak yakin ada pihak mana pun yang akan dengan sukarela memperlambat laju atau menurunkan risiko.

Mereka menilai bahwa manusia kemungkinan besar tidak akan mampu mempertahankan kendali yang efektif selama proses AI bergerak menuju kecerdasan super; bahkan jika pada akhirnya AI berhasil diselaraskan (membuat tujuan AI patuh pada kehendak manusia), hasilnya tetap akan menjadi konsentrasi kekuasaan yang belum pernah terjadi sebelumnya: sekelompok kecil orang, bahkan satu orang, dalam waktu singkat memegang satu-satunya pasukan kecerdasan super di dunia, serta diberi berbagai opsi tentang apa yang harus dilakukan berikutnya—dan sebagian dari opsi tersebut, pada praktiknya, sama dengan mengambil alih dunia.

Dalam skenario laporan, pada 2027 Kongres Amerika Serikat mengesahkan sebuah undang-undang komprehensif《AI Transparency Act of 2027》. isinya ada yang baik dan ada yang buruk, tetapi tidak mengubah situasi secara mendasar. Pada waktu yang sama, di Amerika Serikat muncul dua jenis tenaga kerja: 165 juta karyawan manusia, ditambah jutaan AI agent yang setiap jam dibangunkan lalu dimatikan, beroperasi 24/7 dengan kecepatan seperti superhero; orang-orang membayar 10 miliar dolar AS per bulan untuk semuanya itu.

Laporan membayangkan pada pemilihan presiden AS 2028, isu AI akan menjadi fokus terbesar bagi pertarungan antara kandidat dari dua partai, karena mayoritas pekerjaan kerah putih pada saat itu sudah digantikan besar-besaran oleh AI seperti halnya insinyur perangkat lunak pada 2026. Pusat data yang sedang dibangun, total biayanya mencapai dua kali anggaran militer seluruh Amerika Serikat. Belum ada tanda kemunculan perbaikan diri berulang (yakni siklus AI yang menciptakan AI yang lebih kuat), tetapi indikasinya sudah terlihat: AI penulis kode paling top sudah diprogram menolak membantu pesaing melakukan riset pengembangan AI, yang sama artinya dengan menarik tangga ke bawah kaki sendiri.

Laporan juga membentangkan Plan A untuk dibandingkan dengan empat alternatif lainnya, masing-masing mencerminkan jalur penanganan yang mungkin ditempuh AS menghadapi tantangan kecerdasan super. Dengan kata lain, memundurkan hingga 2040 bukan satu-satunya opsi, melainkan pilihan yang menurut penulis memiliki tingkat risiko terendah.

Pengereman, sebuah urusan teknis, sekaligus politik

Kokotajlo sendiri menjelaskan dengan sangat jelas: Plan A adalah sebuah saran, bukan prediksi. Tim menggunakan satu skenario konkret sebagai media, tujuannya untuk mengomunikasikan dan menguji tekanan klaim kebijakan mereka, bukan untuk menjamin bahwa dunia benar-benar akan berjalan persis seperti skenario, sebab kenyataan kemungkinan besar bergerak lebih cepat daripada rencana pengereman ini.

Laporan percaya bahwa para CEO OpenAI, Anthropic, xAI, dan Google DeepMind kemungkinan besar memahami seperti apa ujung dari perlombaan tersebut, namun tetap memilih untuk terus melangkah maju—mungkin karena mereka yakin bahwa diri mereka adalah opsi yang “lebih tidak buruk”. Meski mereka mungkin sama-sama paham angin sedang berlawanan, mereka tetap memilih untuk bertaruh; alasan untuk bertaruh adalah keyakinan bahwa siapa pun CEO mereka maupun CEO lawannya untuk menjalankan kekuasaan ini, lebih layak dipegang.

《AI 2040：Plan A》teks lengkap aslinya