- Vitalik Buterin telah memperingatkan bahwa banyak alat AI bisa menjadi ancaman privasi besar karena alat-alat tersebut bergantung pada infrastruktur jarak jauh yang memiliki akses ke data pengguna.
- Ia mengatakan risikonya meluas tidak hanya pada model bahasa besar itu sendiri, tetapi juga pada layanan di luar sana, kebocoran data, dan serangan jailbreak yang dapat mendorong sistem bertindak melawan kepentingan pengguna.
Vitalik Buterin telah mengeluarkan peringatan baru tentang kecerdasan buatan, kali ini dengan fokus yang kurang pada sensasi dan lebih pada privasi.
Dalam sebuah posting blog baru, rekan pendiri Ethereum itu berpendapat bahwa banyak alat AI dibangun di atas infrastruktur jarak jauh yang dapat mengakses data pengguna yang sensitif, sehingga menimbulkan risiko yang tidak sepenuhnya disadari kebanyakan orang saat mereka mengetik ke dalam chatbot, mendelegasikan sebuah tugas, atau menghubungkan layanan eksternal. Kekhawatiran, sebagaimana ia paparkan, tidak terbatas pada satu model atau satu aplikasi. Ini bersifat struktural.
Infrastruktur AI jarak jauh menciptakan permukaan privasi yang lebih luas
Poin Buterin cukup langsung. Jumlah produk AI yang terus bertambah bergantung pada infrastruktur yang berada di luar perangkat pengguna sendiri dan di luar kendali pengguna. Artinya, prompt, file, detail akun, dan pola penggunaan semuanya dapat melewati sistem yang mungkin menyimpan, memproses, atau menggunakan ulang data dengan cara yang tidak pernah dimaksudkan oleh pengguna.
Ia memperingatkan bahwa masalah ini tidak berhenti pada model bahasa besar. Layanan eksternal yang terhubung dengan sistem-sistem tersebut dapat menghadirkan kerentanannya sendiri, mulai dari kebocoran data sederhana hingga penggunaan informasi pribadi tanpa izin. Dengan kata lain, bahayanya bukan hanya pada modelnya. Ini adalah seluruh rantai di sekitarnya.
Hal ini penting karena AI semakin dipasarkan sebagai lapisan asisten di berbagai bidang seperti keuangan, perangkat lunak, komunikasi, dan identitas online. Semakin berguna sistem itu, semakin besar konteks pribadi yang cenderung diserapnya.
Jailbreak mengubah AI dari asisten menjadi kewajiban
Buterin juga menyoroti serangan jailbreak sebagai ancaman spesifik. Serangan-serangan ini menggunakan masukan dari luar untuk memanipulasi sebuah model agar berperilaku dengan cara yang bertentangan dengan kepentingan pengguna, sehingga secara efektif mengubah asisten menjadi sesuatu yang kurang dapat diandalkan dan berpotensi berbahaya.
Peringatan itu muncul pada saat alat-alat AI semakin dekat dengan eksekusi, bukan sekadar percakapan. Ketika sistem-sistem ini memperoleh akses ke pesan, dompet, dokumen, dan tindakan otomatis, kegagalan privasi dapat dengan cepat berubah menjadi kegagalan operasional juga.
Yang sebenarnya ingin ditandai Buterin di sini adalah pergeseran risiko. AI kini bukan lagi sekadar soal kemampuan. AI sedang berubah menjadi pertanyaan tentang batas-batas kepercayaan, siapa yang mengendalikan data, di mana model berjalan, dan apa yang terjadi ketika batas itu gagal.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
Artikel Terkait
Broadridge meluncurkan platform terintegrasi untuk aset kripto dan token, dengan dukungan bulanan sebesar 8 triliun dolar
Broadridge Financial Solutions telah meluncurkan sebuah platform aset digital terintegrasi untuk lembaga manajemen kekayaan di Kanada, memungkinkan perusahaan memberikan layanan mata uang kripto dan investasi tradisional dalam satu sistem untuk mengatasi masalah infrastruktur yang terfragmentasi. Platform ini mendukung berbagai jenis aset digital, serta mencakup alat kontrol kepatuhan untuk menurunkan hambatan bagi lembaga dalam memasuki pasar. Langkah ini dilakukan pada saat yang krusial ketika lembaga keuangan bersaing dalam infrastruktur aset digital, sehingga meningkatkan daya saing platform di pasar.
MarketWhisper21jam yang lalu
Bernstein: Pasar Bitcoin telah mengantisipasi risiko komputasi kuantum, pengembang punya waktu 3 hingga 5 tahun untuk mendorong peningkatan pasca-kuantum.
Laporan riset Bernstein menyatakan bahwa koreksi Bitcoin mencerminkan kekhawatiran pasar terhadap risiko komputasi kuantum, dengan pandangan bahwa ancaman kuantum dapat dikendalikan dan tidak menimbulkan risiko sistemik. Kemajuan teknologi saat ini memberi penyangga bagi Bitcoin, dan pengembang memiliki waktu 3 hingga 5 tahun untuk mendorong peningkatan anti-kuantum. Investor institusional akan mendorong pembentukan konsensus, tetapi migrasi pengguna masih menjadi tantangan utama.
GateNews04-13 14:02
WisdomTree kuartal pertama terjadi arus masuk bersih aset digital sebesar 98,00 juta dolar AS, dengan aset kelolaan mencapai 867 juta dolar AS
Berita Gate, pada 13 April, perusahaan manajemen aset WisdomTree merilis laporan indikator bulanan Maret yang menunjukkan bahwa pada kuartal pertama 2026, arus masuk bersih aset digitalnya mencapai 98 juta dolar AS, dan per 31 Maret, nilai kelolaan aset digital mencapai rekor tertinggi sebesar 867 juta dolar AS. Laporan tersebut menyebutkan bahwa meskipun kinerja pasar mata uang kripto secara keseluruhan lesu, berkat peluncuran dana pasar uang tertokenisasi, bisnis aset digital WisdomTree mengalami pertumbuhan yang signifikan. (Businesswire)
GateNews04-13 13:00
Proyek Pasar Kripto Arab Saudi Diproyeksikan Mencapai $47,8 Miliar pada Tahun 2034
Pasar mata uang kripto Arab Saudi diproyeksikan untuk tumbuh dari $24,9 miliar pada 2025 menjadi $47,8 miliar pada 2034.
Poin Penting:
SAMA mendukung proyek seperti mBridge untuk mengembangkan pasar hingga $47,8 miliar pada 2034.
Minat tinggi dari kalangan muda pada DeFi dan gim sedang mendorong tingkat pertumbuhan tahunan sebesar 7,51% untuk
Coinpedia04-13 12:57
CoinShares: Produk investasi aset digital mengalami arus masuk bersih sebesar 1,1 miliar dolar AS minggu lalu, tertinggi per minggu sepanjang tahun
Berdasarkan laporan riset CoinShares, produk investasi aset digital mencatat arus masuk bersih sebesar $1,1 miliar minggu lalu, yang merupakan rekor tertinggi sepanjang tahun. Arus masuk Bitcoin mencapai $871 juta, Ethereum masuk sebesar $196,5 juta, XRP masuk sebesar $19,3 juta, dengan AS mendominasi arus masuk. Risiko selera pasar secara keseluruhan membaik, mencerminkan permintaan investor.
GateNews04-13 09:52
Orang-orang dari VC: mungkin hanya ada kurang dari 20 lembaga yang benar-benar masih berinvestasi pada seed round di industri ini
Varys Capital, kepala investasi ventura Tom Dunleavy, mengatakan bahwa dalam enam bulan terakhir, lingkungan pendanaan VC untuk kripto telah berubah secara signifikan: proyek-proyek dengan pendanaan yang cukup justru yang secara proaktif datang, sementara sebagian besar dana VC telah habis atau beralih ke investasi tahap akhir, sehingga siklus pendanaan memanjang hingga 2-3 bulan. Hanya beberapa institusi yang masih melakukan investasi tahap awal; ke depan, mereka mungkin akan menyambut peluang investasi tingkat sejarah.
GateNews04-13 07:31
