Terkubur dalam system card Opus 5, bukan skor eval di headline: ini adalah model paling rentan terhadap prompt injection yang pernah dimiliki Anthropic hingga saat ini.


Bukti-buktinya:
> diuji di berbagai eval prompt-injection, bukan hanya satu skenario
> tahan menghadapi upaya red team aktif
> ditandai oleh lead Anthropic sendiri sebagai hasil yang paling dia nantikan, melampaui tolok ukurnya
Prompt injection adalah serangan yang membelokkan agen Anda melawan Anda. Setiap pemanggilan tool pada data yang tidak tepercaya adalah paparan. Menggeser angka itu setara dengan nilai yang lebih besar daripada 1 poin di bangku pengujian coding.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan