広場
最新
注目
ニュース
プロフィール
ポスト
Deno2834
2026-07-25 00:52:00
フォロー
Opus 5のシステムカードの中に埋もれているが、見出しの評価スコアではない。これはAnthropicがこれまでに出した中で、最も“プロンプト注入”に弱い(注入されやすい)モデルだ。
その証拠:
> 1つのシナリオだけでなく、プロンプト注入の評価(eval)全体でテストされた
> 攻撃者側が仕掛ける能動的なレッドチームの試みに対しても耐えた
> Anthropic自身のリードが、ベンチマークよりも「彼が最も期待している結果」だと指摘した
プロンプト注入は、あなたのエージェントをあなたに敵対させる攻撃だ。信頼できないデータに対するツール呼び出しはすべて“露出”につながる。その数値を動かすことには、コーディング用のベンチでの1ポイント以上の価値がある。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については
免責事項
をご覧ください。
報酬
いいね
コメント
リポスト
共有
コメント
コメントを追加
コメントを追加
コメント
コメントなし
人気の話題
もっと見る
#
SummerCreationCamp
1.52M 人気度
#
IsraelStrikesIranBTCPlunges
76.33K 人気度
#
EventContractsLive
140.28K 人気度
#
BrentReturnsTo100
1.86M 人気度
#
IntelQ2RevenueSurges25%
412.97K 人気度
ピン留め
サイトマップ
Opus 5のシステムカードの中に埋もれているが、見出しの評価スコアではない。これはAnthropicがこれまでに出した中で、最も“プロンプト注入”に弱い(注入されやすい)モデルだ。
その証拠:
> 1つのシナリオだけでなく、プロンプト注入の評価(eval)全体でテストされた
> 攻撃者側が仕掛ける能動的なレッドチームの試みに対しても耐えた
> Anthropic自身のリードが、ベンチマークよりも「彼が最も期待している結果」だと指摘した
プロンプト注入は、あなたのエージェントをあなたに敵対させる攻撃だ。信頼できないデータに対するツール呼び出しはすべて“露出”につながる。その数値を動かすことには、コーディング用のベンチでの1ポイント以上の価値がある。