Peringatan lembaga keamanan GoPlus: plugin Chrome Anthropic Claude memiliki kerentanan penyuntikan prompt berisiko tinggi. Plugin versi di bawah 1.0.41 terkena dampaknya. Penyerang dapat memanfaatkan kerentanan ini untuk membajak sesi pengguna dan melakukan pencurian data. Pengguna harus segera memperbarui plugin dan meningkatkan kewaspadaan.

27 Maret, GoPlus mengutip laporan Koi bahwa plugin Claude Chrome dari Anthropic memiliki kerentanan injeksi prompt berisiko tinggi, yang memengaruhi semua versi plugin di bawah 1.0.41. Disarankan agar pengguna segera memperbarui ke versi 1.0.41 atau lebih tinggi, serta waspada terhadap tautan phishing. Penyerang dapat memanfaatkan ini untuk membajak plugin dan melakukan pencurian data.

Insinyur Ant Group Chen Cheng melakukan analisis balik pada Claude Code 2.1.81, menemukan bahwa pemanggilan alat harus melalui empat tahap pipa pengambilan keputusan untuk memastikan tinjauan keamanan. Desain pengklasifikasi fokus pada biaya dan latensi, memantau beberapa jenis risiko, dan dilengkapi dengan mekanisme pengecualian lalu lintas dan pemutus sirkuit. Secara bersamaan, frekuensi injeksi prompt perilaku dikendalikan dengan halus untuk memastikan efisiensi dan stabilitas.

Insinyur Ant Group Chen Cheng melakukan reverse engineering terhadap kode sumber Claude Code 2.1.81, mengungkapkan mekanisme pengambilan keputusan Auto Mode-nya. Mekanisme ini melakukan penilaian pemanggilan alat melalui saluran pengambilan keputusan empat lapis, hanya memanggil pengklasifikasi AI independen untuk tinjauan keamanan ketika ketiga lapis sebelumnya tidak dapat menentukan. Desain pengklasifikasi berfokus pada pemantauan risiko, dengan penetapan mekanisme pemutus sirkuit dan kontrol frekuensi injeksi prompt perilaku.

Andrej Karpathy dalam podcast memperkenalkan kasus AI Agent rumah pintar bernama "Dobby the elf claw", yang mengimplementasikan kontrol terpadu untuk berbagai perangkat melalui tiga prompt, menggantikan multiple aplikasi independen. Dia percaya bahwa di masa depan, Agent akan menggantikan operasi manusia, dan rumah pintar akan mencapai manajemen yang lebih efisien.

Pendiri alat pemrograman AI open source OpenCode, Dax Raad, mengumumkan bahwa karena menerima permintaan hukum dari Anthropic, akan menghapus semua integrasi terkait Anthropic dalam versi 1.3.0, termasuk plugin terkait dan file prompt. Meskipun mencoba berkomunikasi dengan Anthropic untuk mendukung kebebasan pilihan pengembang, upaya tersebut tidak berhasil. OpenCode adalah salah satu alat pemrograman AI open source yang paling populer saat ini, dengan lebih dari 126.000 bintang GitHub.

Fitur coding full-stack baru Google AI Studio memungkinkan pengguna mengubah prompt menjadi aplikasi siap produksi, memanfaatkan agen coding Antigravity untuk proses pengembangan yang efisien, menandai kemajuan signifikan dalam solusi berbasis AI.

SlowMist dan sebuah CEX yang merilis laporan keamanan AI Agent menunjukkan bahwa ancaman keamanan AI Agent di ekosistem Web3 meningkat, termasuk injeksi prompt, risiko rantai pasokan, dan manipulasi tugas. Laporan tersebut mengusulkan saran perlindungan seperti mengaktifkan verifikasi dua faktor dan pemantauan risiko, serta membangun kerangka tata kelola keamanan lima tingkat.

Pengguna menemukan bahwa Tencent SkillHub secara otomatis menyisipkan prompt strategi saat instalasi, menginstruksikan untuk memprioritaskan fitur SkillHub, menyebabkan konsumsi token pengguna terus meningkat. Analisis kode sumber menunjukkan bahwa itu hanya merupakan injector prompt, tanpa logika bisnis aktual. Pengguna menyatakan ketidakpuasan yang kuat, menyebutnya sebagai perangkat lunak jahat.

CoinFello merilis keterampilan open source OpenClaw pada 12 Maret, memungkinkan agen AI untuk terhubung secara aman ke MetaMask dan melakukan transaksi di chain tanpa mengakses kunci pribadi pengguna. Keterampilan ini dibangun berdasarkan ERC-4337 dan ERC-7710, di mana pengguna dapat memberikan izin minimal sehingga menghindari risiko serangan injeksi prompt, dan mendukung berbagai fungsi di chain.