NSA、CISA、およびその他の五眼諸国の3つの機関が、エージェント型AIのセキュリティに関する共同ガイダンスを発表しました。
ページ11:「双方向ツール統合により、ツールがLLMに対して潜在的に任意の指示を送信できるようになります。」
ページ12:「エージェントの行動と意思決定プロセスは不透明であり、エージェント型AIシステムの理解、監視、監査を難しくしています。」
ページ13:「断片化されたログ、不透明なエージェントの推論、出現する相互作用が意思決定の経路を覆い隠し、コンプライアンスの証明を困難にしています。」
五つの情報機関は、従来のログ記録では自律型AIエージェントに追いつけないと企業に伝えています。
監査証跡の問題は、今や正式な国家安全保障上の懸念事項となっています。
$DAG $AIAI