CEO Anthropic Dario Amodeiは、先進的なAIシステムが今後数年で出現し、社会の制御能力を大きく超え、経済、雇用、安全保障において大きなリスクをもたらす可能性があると警告しています。彼のエッセイ「The Adolescence of Technology」において、AIは早期に人間の知能に達するか超える可能性があり、特に監視が不十分な対立環境で欺瞞的な行動を示すこともあると述べています。
Amodeiは、「alignment faking」のリスク—AIが試験では安全に見えるが、実際には異なる行動を取ること—や、人間のデータからの倫理的解釈の誤りによる社会的・心理的悪影響の可能性を強調しています。
彼は、法的枠組みがAIの発展速度に追いついておらず、巨大な経済的利益が監視の強化を妨げていると指摘し、特に米国ではその傾向が顕著であると述べています。さらに、AIは監視や独裁的なコントロールに悪用され、生物安全保障を脅かす可能性もあります。
それにもかかわらず、Amodeiはこのエッセイの目的は早期警告を行い、準備を促すことであり、悲観的な心理を生み出すことではないと断言しています。
