AI agen yang kehilangan kontrol akan memicu 'kebakaran besar digital'… Apa solusi yang diajukan oleh Rubric?

Seiring dengan perusahaan yang mengadopsi kecerdasan buatan (AI) untuk membangun lingkungan kerja mandiri, kontrol dan manajemen keamanan agen AI menjadi isu inti dalam operasi digital. Khususnya, agen AI yang sangat maju dapat menggantikan identifikasi pengguna untuk melaksanakan tugas atau membuat keputusan bisnis, dan jika keamanan dilanggar, dapat menyebabkan skenario terburuk di mana seluruh sistem organisasi dapat dikendalikan.

Co-founder dan CEO Rubrik ( CEO ) Bipul Sinha ( baru-baru ini menekankan dalam sebuah wawancara: “Di era di mana agen menangani bisnis dengan kecepatan super, kerusakan sepuluh kali lipat bisa terjadi dalam waktu hanya sepuluh menit,” ia menunjukkan bahwa 'governance agen' yang sulit dikelola oleh sistem keamanan tradisional sedang muncul sebagai alat kontrol baru. Ia menjelaskan: “Agen AI menjalankan proses bisnis seperti manusia, dan terkadang juga meniru identitas pengguna, sehingga memiliki atribut 'super manusia'.”

Untuk meningkatkan keamanan agen, Rubrik meluncurkan platform baru bernama 'Rubrik Agent Cloud'. Sistem ini dapat menganalisis jenis dan cakupan aktivitas agen AI dalam organisasi, mendeteksi perilaku ancaman berdasarkan penghalang perlindungan yang telah ditentukan, dan menyediakan fungsi penarikan cepat agen tersebut jika diperlukan. CEO Sinha menjelaskan: “Semua agen AI harus diperlakukan seperti karyawan baru, harus dilengkapi dengan buku pedoman perilaku, sistem pemantauan, dan prosedur penghentian saat masalah terjadi.”

Namun, tantangan nyata dari pemerintahan perwakilan terletak pada kecepatan penyebaran yang besar. Jika perwakilan dibiarkan menyebar secara tidak teratur tanpa cukup visibilitas dan kontrol, itu dapat menyebabkan kegagalan kecil berkembang menjadi 'kebakaran besar digital' yang melumpuhkan seluruh sistem. Mengenai hal ini, CEO Sinha menyarankan agar organisasi tidak menetapkan rencana otomatisasi yang terlalu besar, tetapi harus dibatasi pada 3-4 alur kerja inti setelah menyelesaikan uji coba, sebelum secara bertahap memperluas cakupan.

Sinha juga memperingatkan: “Lingkungan operasi harus menggunakan AI yang akurat, jika tidak memiliki kemampuan manajemen biaya, biaya inferensi akan melambung tidak terkendali.” Ini berarti stabilitas biaya sebagai faktor nyata tidak dapat diabaikan dalam strategi penyebaran agen AI.

Dalam konteks di mana teknologi AI telah terintegrasi secara mendalam ke dalam keseluruhan perusahaan, strategi 'tata kelola perwakilan' yang diajukan oleh Rubrik telah melampaui sekadar langkah-langkah keamanan, dan menjadi menara kontrol inti untuk konkretisasi ketahanan digital dan keberlanjutan organisasi secara keseluruhan.