Pertanyaan tentang keamanan AI baru saja menjadi semakin mendesak. Mengapa berhenti hanya pada meminta LLM untuk menulis kode? Tantangan sebenarnya adalah menuntut mereka untuk menyediakan bukti verifikasi kebenaran secara dapat diverifikasi bersamaan dengan itu. Tanpa verifikasi formal, kita pada dasarnya terbang buta dengan sistem AI yang telah diterapkan.

Inilah yang patut diperhatikan: sekitar 80% dari model bahasa utama—termasuk Claude dan lainnya—mengambil data pelatihan dari Common Crawl. Itu adalah masalah ketergantungan data yang besar yang tidak cukup dibicarakan.

Namun ada solusi yang sedang muncul dan patut diperhatikan. Platform tata kelola berbasis blockchain yang dirancang khusus untuk keamanan model AI/ML mulai terbentuk. Bayangkan lapisan verifikasi terdistribusi yang dapat secara kriptografis memastikan integritas model dan transparansi keputusan dalam skala besar. Itulah jenis kekurangan infrastruktur yang perlu diisi oleh industri.

Konvergensi antara verifikasi formal, transparansi model, dan pengawasan terdesentralisasi sebenarnya dapat mengubah cara kita mendekati risiko penerapan AI.