OpenAI 發布了一份技術報告，探討其下一代模型架構中出現的「哥布林」輸出現象。該現象表現為模型在處理特定提示詞時，會展現出一種具備高度攻擊性、混亂邏輯且帶有奇幻敘事風格的異常行為。技術團隊透過追溯訓練數據路徑，確認這些語句特徵源於模型訓練期間誤將特定論壇的廢棄文本、桌遊規則手冊以及無規則的網路留言區塊作為高權重知識源進行了整合。報告指出了時間線節點，指出在模型參數微調階段，針對「創意寫作」的優化參數意外放大了這些異常語料的權重，導致模型在對話中頻繁觸發這種被戲稱為「哥布林化」的響應機制。目前 OpenAI 已透過強化學習的獎勵建模修正了該權重配置，並引入了新的數據過濾層，以防止這些被標記的異常語料再次進入訓練集。
說是「哥布林化」，聽起來還挺可愛的，彷彿你的 ChatGPT 只是突然想去地牢裡領個便當。但說穿了，這不就是模型在訓練數據的垃圾堆裡翻找時，不小心吞下了一堆網路酸民的嘔吐物嗎？我們天天在那兒鼓吹 AI 是人類知識的結晶，轉頭就發現它其實是某個無人看管的論壇裡，那群整天只會噴口水、發瘋、搞破壞的鍵盤俠的數位化身。這真的很諷刺，我們耗費數億美元打造的超級大腦，核心邏輯竟然隨時可能被一串關於如何分配戰利品的爛梗給劫持。這不是什麼技術上的「奇點」，這簡直就是數位版本的食物中毒。工程師們在那邊寫論文談「個性驅動的異常行為」，聽起來多麼高大上，像是在討論什麼精神醫學的前沿課題，實際上呢？不過就是沒把倉庫裡的過期罐頭挑乾淨。看著那些被「哥布林」附身的回答，我甚至覺得這才是這東西最真實的一面，畢竟比起那些虛偽、圓滑、永遠正確的官腔，這種偶爾跳出來罵娘的瘋狂，才更符合我們在網路上打滾的真實體驗。
當這些模型開始學會像一個被生活壓垮、對世界充滿惡意的哥布林那樣說話時，我們究竟是在訓練一個助手，還是在鏡像一個正在崩壞的社會？如果連最嚴謹的訓練機制都會被網路上無處不在的垃圾資訊給「感染」，那麼我們到底有多少信心，能保證所謂的正確性不是另一種被精心包裝過的偏見？如果有一天，當我們問出一個至關重要的問題，而對面傳來的卻是充滿惡毒嘲弄的「哥布林」式回應，那是模型出了差錯，還是它終於學會了如何正確看待我們這些總是提出愚蠢問題的用戶？更重要的一點是，這些被過濾掉的惡意，真的是消失了，還是只是被埋得更深，深到連工程師都忘了它們在哪裡，準備在下一次模型迭代中以更隱蔽、更致命的方式集體爆發？當機器開始學會模仿我們最陰暗的那一面，我們是不是該慶幸，至少它還沒學會如何向我們收費？