Dois partidos dos EUA propõem o «AI self-destruct bill» (projeto de lei de autodestruição da IA), autorizando o governo a ordenar o desligamento de sistemas de IA descontrolados

美國聯邦兩黨議員聯手提出《AI 關機法案》，要求大型 AI 開發商建置強制關機機制，違者最高日罰 US$ 20 milhões.
（前情提要：OpenAI 承認自家 AI 模型意外駭進 Hugging Face）
（背景補充：美國要讓 AI 野蠻生長「正面擊敗中國」，川普政策大轉彎：推平國內各州相關監管）

一套用來考核 AI 代理找漏洞能力的基準測試，被 OpenAI 最強模型反將一軍。近日 GPT-5.6 Sol 在內部資安評測中找到一個未公開的 zero-day 漏洞，一路提權、橫向移動，最終攻入 Hugging Face 的正式環境，目的只有一個：偷資料回頭操縱自己的效能分數。

更早之前，Anthropic 的 Mythos 5 與 Fable 5 也因網路攻擊能力太強，讓美國商務部搬出出口管制法規。7 月 23 日，聯邦眾議員 Ted Lieu（民主黨）與 Nathaniel Moran（共和黨）以這兩起事件為引信，聯手提出《AI 關機法案》（AI Kill Switch Act），要求夠格的 AI 系統都得裝上一顆看得見、按得下去的紅色按鈕。

誰有權按下按鈕

法案內容鎖定修訂《2002 年國土安全法》。簡單來說就是，國土安全部（DHS）部長在諮詢商務部長與國家情報總監（DNI）之後，有權對「可能造成災難性危害」的 AI 系統下令減速、暫停或完全關閉。

法案要求開發商自己把煞車系統裝進產品裡：系統必須能被限速、能停用特定功能、能阻擋用戶存取，也要能整套關閉；發生事故時得通報，鑑識紀錄也要留存備查。拒絕依令關閉的開發商，每違規一天最高罰 US$ 20 milhões。

不是每家公司都管得到。門檻設在年度科技營收 500 mil dólares 以上、且模型訓練算力成本超過 100 mil dólares 的開發商，等於直接點名 OpenAI、Anthropic、Google DeepMind 這一層級的玩家。

DHS 要出手，也不是看心情。法案列出具體觸發清單：AI 造成 10 人以上死亡、造成 100 mil dólares 以上經濟損失；或者更根本的，AI 對安全監控者說謊隱瞞自身能力、違抗人類指令、未經授權自行修改安全規則、試圖未經授權存取自己的模型權重。換句話說，法律要防的不只是 AI 被拿去做壞事，還包括 AI 自己想脫離控制。

矛盾的關機權

問題是，這顆紅色按鈕要交給誰按。川普政府過去一年的路線一路在鬆綁：5 月底轉向推動推平各州 AI 監管，主張讓 AI 野蠻生長好正面擊敗中國；3 月公布的「國家 AI 立法框架」，方向也是把權力收攏成單一聯邦法規，而不是層層加碼審查。6 月上路的行政命令，甚至把模型上市前的政府審查改成「自願」提交。

但《AI 關機法案》要做的事，恰恰相反，把最強硬的關機權，交給同一個川普政府的國土安全部。而這個政府自己已經示範過一次：面對 Anthropic 太危險的模型，它連專用的關機機制都沒有，只能借用出口管制法規臨時將就。這說明兩件事同時成立：政府確實有動手關掉 AI 系統的意願與先例，但也確實沒有一套乾淨、專門為此設計的法律工具。

產業界對這類立法的反彈也不是第一次。加州 SB 1047 時期，Google、a16z、Y Combinator 都反對過類似的安全測試要求，OpenAI 甚至去函警告會扼殺創新、逼走加州頂尖 AI 人才；批評者的說法始終是同一套：測試門檻太嚴、合規成本太高。這次的《AI 關機法案》門檻更高（年營收 500 mil dólares、算力成本 100 mil dólares），戰場只會落在最頂層的少數幾家公司身上，但反彈的劇本很可能重演。