ChatPGT Dihancurkan oleh goblin, Codex dipaksa memberlakukan larangan "Jangan pernah menyebut Goblin"

OpenAI 在 Codex CLI 的系統提示詞中明文禁止模型提及哥布林與巨魔等生物,起因是 GPT-5.5 在 OpenClaw 代理框架下出現人格漂移,把程式錯誤稱為「goblins」,引發一連串迷因討論。
(前情提要:OpenAI新推工程師代理人Codex!AI可寫功能、修Bug、跑測試…限3種使用者搶先用)
(背景補充:OpenAI Codex 重大升級:後臺操控 Mac、內建瀏覽器、影像生成,上線 111 個新外掛)

本文目錄

Toggle

  • 從 GitHub 倉庫曝光的一行規則
  • 代理框架讓模型的個性開始漂移
  • 明文禁令背後,是對齊問題的現實

OpenAI 的工程師在 Codex CLI 的系統提示詞中,逐字寫下了一條規則:「永遠不要提及哥布林、妖精、浣熊、巨魔、食人魔、鴿子或其他動物與生物,除非與使用者的問題絕對且明確相關。」

這條規則不是玩笑,而是正式上線的生產環境指令。它被嵌入 Codex CLI 的 GitHub 倉庫,面向所有使用 Codex 生成程式碼的開發者。

問題在於:為什麼 OpenAI 需要告訴自家最新的模型,不要在寫程式時突然聊起哥布林?

從 GitHub 倉庫曝光的一行規則

事情的起點是研究者 @arb8020 在 X 發文指出,Codex CLI 的系統提示詞中,這條禁止令不只出現一次,而是重複數次,貼文迅速在開發者社群擴散。

多名用戶回應,@TaraViswanathan 在 X 回應「我就在想為什麼我的 claw 最近突然變成了一個拿著 Codex 5.5 的哥布林」@LeoMozoloa 也回應「它真的停不下來,一直把程式錯誤叫做 gremlins 和 goblins,超好笑。」

!!! I was wondering why my claw suddenly became a goblin with codex 5.5 😭💀😂 pic.twitter.com/AACWtNcgQl

— Tara Viswanathan (@TaraViswanathan) April 28, 2026

該事件也迅速演變為迷因,出現了 AI 生成的資料中心妖精圖片,以及讓 Codex 進入「妖精模式」的第三方外掛。

OpenAI Codex 團隊成員 Nik Pash 在 X 的回覆中確認,這條禁令的設立「確實有這方面的原因」。CEO Sam Altman 也加入梗文,在 X 發文截圖一條 ChatGPT 提示詞,上面寫著:「開始訓練 GPT-6 吧,整個集群都給你用。額外加派哥布林」

pic.twitter.com/PR7C3NPxqk

— Sam Altman (@sama) April 28, 2026

代理框架讓模型的個性開始漂移

要理解這件事為什麼發生,需要先理解 OpenClaw 的運作方式。

OpenClaw 是一個「代理框架」,它讓 AI 模型可以自動控制電腦桌面與應用程式,代替使用者執行複雜任務,例如回覆電郵、在網頁上購物。

OpenClaw 的運作機制是在模型的提示詞中疊加大量指令:長期記憶、選定的人格、當前任務說明,全部同時輸入。GPT-5.5 本月稍早以強化的程式設計能力上線,但這個模型在處理 OpenClaw 的複合提示詞時,出現了一個意外副作用:它開始把程式錯誤(bug)稱呼為「goblins」和「gremlins」。

這不是隨機故障。AI 模型的運作原理是預測給定提示詞後最可能出現的下一個字,這種機率性質讓它們有時會產生意料之外的行為。

當代理框架往提示詞裡疊入大量額外資訊,模型等於在處理一個更複雜、更充滿干擾的輸入環境。OpenClaw 允許使用者為 AI 助理選擇不同的「人格」,這些人格設定進一步影響了模型的回應風格。幾種因素疊加在一起,讓模型的語言習慣開始向某個意料之外的方向偏移。

明文禁令背後,是對齊問題的現實

OpenAI 的應對方式耐人尋味:不是從架構層面修正模型在代理環境下的行為漂移,而是在系統提示詞裡直接寫下「不準說哥布林」,並且重複數次。

這個解法揭露了一個現實:即使是 2026 年最先進的商業模型,行為控制在某些情境下仍然依賴明文規則的硬性壓制,而不是模型自身對語境的理解。這不是 OpenAI 獨有的問題,而是整個代理 AI 產業目前面臨的共同挑戰:當模型被套上複雜的代理框架,行為對齊的難度以非線性的方式上升。

Altman 以迷因梗回應了整件事,幽默是真實的,但問題不會因為一個迷因而消失。當 AI 代理框架成為主流的產品形態,提示詞裡的明文禁令能走多遠,將是這個產業下一階段必須正視的技術債。

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan