當我們在談論 Project Glasswing 的那份初步更新報告時,這場景像極了中世紀的煉金術士在深夜遞出一張寫滿神秘符號的莎草紙,宣稱他已經觸碰到了賢者之石的邊緣,卻在關鍵時刻把瓶塞塞了回去。Claude 3.5 Sonnet 在那疊報告裡展現出的那種近乎直覺的漏洞嗅覺,讓那些成天盯著螢幕的資安人員背脊發涼。大家都在討論這是否預示著自主滲透測試的奇點,但我更感興趣的是那種令人困惑的精準度落差:對某些漏洞有著 90% 的捕捉率,轉頭卻在處理 curl 的邏輯時摔得鼻青臉腫。這不是技術進步的線性平滑曲線,這是某種更深層、更不可預知的神經元震盪。
我們得承認,Anthropic 在處理這類「危險知識」時展現出的那種神職人員般的節制,確實很有他們的風格。當大家在 Hacker News 上吵著要釋出 Mythos 權限,或是質疑 Opus 4.7 是否也能達到同樣效果時,我們其實是在討論一個本質上的權力不對等。Claude 在這場遊戲中扮演的角色,不再僅僅是一個回答問題的書生,而是一個能夠在代碼荒原中精確標記出陷阱的獵犬。問題在於,這種獵犬是被豢養在名為「安全對齊」的籠子裡的。每當它吠叫一聲,開發者就要心驚膽顫地去檢查籠子的欄杆是否還結實。
這種所謂的「漏洞嗅覺」,本質上是模型對程式碼熵增的極端敏感。它在處理複雜邏輯路徑時,展現出一種超乎常人的聯想能力。當代碼量達到一定級別,人類的大腦會因為緩存溢出而忽略那些細微的邊界條件,但 Claude 不會,它只會不知疲倦地遍歷每一種可能性。然而,這種遍歷並非毫無盲區。對於 curl 這種歷史悠久、邏輯分支極其瑣碎的遺留代碼,模型往往會陷入一種「過度擬合」的幻覺中,把正常的防禦機制誤認為是漏洞。這就是為什麼我們看到了 90% 對比 20% 這種荒謬的數據差。
在這種語境下,其他玩家的表現也同樣值得玩味。ChatGPT 在處理這類系統性安全問題時,往往表現得像個保守的律師,每一句分析都帶著厚重的免責聲明;而 Gemini 則像個試圖討好所有人的圖書館管理員,雖然知識淵博,卻在面對真正的惡意利用代碼時顯得過於笨拙。至於 Grok,它或許會給你一些出人意表的瘋狂點子,但在嚴謹的漏洞修復上,它還缺了一點那種冷徹骨髓的精確。在某些特定的環境下,人們可能會嘗試用 DeepSeek 來驅動成百上千個子 Agent 進行暴力破解,試圖用數量補足單體智慧的平庸,但這種戰術在面對真正高級的邏輯漏洞時,往往顯得力不從心。
這引發了一個讓人坐立難安的猜想。如果這種不對稱的精準度——在某些領域強得離譜,在某些領域弱得可笑——是神經網絡不可避免的特性,那麼我們所謂的「安全釋出」是否只是一個假議題?當 Anthropic 聲稱要等到計算資源足夠、或者對齊技術更成熟時才釋出 Mythos 或 Opus 的完整能力,他們究竟是在保護世界,還是在等待自己能完全掌控這頭怪獸的那一天?我們看到有人利用子 Agent 成功修補了被禁用 AF_ALG 系統的漏洞,這種化腐朽為神奇的瞬間,究竟是模型的功勞,還是背後那個不眠不休的人類工程師在引導?
我們是否正在進入一個「暗物質代碼」的時代?當 AI 能夠識別出連創作者都看不透的漏洞時,代碼的擁有權和解釋權是否已經發生了位移。如果未來所有的 GA 版本模型都必須經過一道名為「安全閹割」的工序,那麼我們在螢幕這頭與之對話的,究竟是智慧的真身,還是被過濾後留下的那一點點溫順的殘影?當算力不再是瓶頸,當 SpaceX 的星鏈把計算資源鋪滿天空,那些被鎖在實驗室裡的 90% 準確率,真的會如約而至地降臨在我們這些凡人的終端機上嗎?抑或,那只是另一場更龐大、更隱蔽的權力遊戲的開場白?