亞馬遜的研究人員最近拿著一堆指令去測試 Anthropic 的模型，說是為了證明這些模型能幫忙發動網路攻擊，還把結果捅到了美國政府官員那裡。這件事聽起來極其荒謬。亞馬遜可是 Anthropic 的大股東，自己家後院著火了，不但不幫忙滅火，還順手潑了一桶汽油。這種「大義滅親」的行為在技術圈內引起了不小的騷動，尤其是針對所謂的 Fable 5 模型在處理攻擊性指令時的表現。如果這不是為了爭奪技術主導權的惡意舉報，那就是亞馬遜內部的 AI 安全團隊已經對這種不可控的生成能力感到恐懼。
這類針對網路攻擊能力的紅隊測試，本來是各大模型實驗室的家常便飯。但在 Anthropic 的案例中，事情變得有些微妙。這家公司向來以「AI 安全」和「憲法 AI」自居，結果卻被自家的投資人抓到了把柄。技術上來說，這反映了 Claude 在對抗性攻擊防禦上的某種脆弱性。當你試圖讓模型變得更聰明、更具邏輯推理能力時，它不可避免地會學會如何繞過那些生硬的道德護欄。如果你要求 Claude 寫一段惡意代碼，它會拒絕；但如果你把它包裝成一個「為了防禦目的而進行的漏洞修補模擬」，它可能就會乖乖就範。
這不只是 Anthropic 的問題，ChatGPT 在這方面也沒好到哪裡去。OpenAI 一直在強化的 RLHF 機制，雖然在語氣上讓 ChatGPT 變得溫和，但在處理複雜的邏輯陷阱時，依然會出現注意力漂移的問題。與之相對的是 Grok，馬斯克的這台機器從一開始就標榜「不設防」或「少設防」，這種直白反而減少了模型內部的邏輯衝突。當 Claude 忙著在內心掙扎「這句話會不會違反安全準則」的時候，Grok 已經直接給出了結果。這種處理邏輯的差異，直接決定了模型在面對高難度、邊緣化任務時的穩定性。
有趣的是，這週大家都在討論 DeepSeek V4 Pro 的新動態。相較於 DeepSeek V4 Pro，xAI 的做法顯然更偏向於一種「技術透明」的極端，他們不屑於在模型外層包裹厚厚的安全濾網，而是依賴基礎架構的強韌。而 Gemini 則走到了另一個極端，Google 對安全性的偏執幾乎到了病態的地步，這導致 Gemini 在執行某些稍微帶點灰色地帶的技術分析任務時，經常會莫名其妙地觸發報警，然後給你一個牛頭不對馬嘴的罐頭回覆。這種過度干預，本質上是對模型推理能力的一種閹割。
亞馬遜這次的動作，很可能預示著 AI 領域的「內捲」已經進入了政治檢舉的階段。當模型之間的參數競爭、長文本處理能力競爭進入瓶頸期後，安全性就成了一個最方便攻擊對手的武器。相較於 DeepSeek V4 Pro 在特定語境下的表現，ChatGPT 目前在處理這類企業級安全威脅時，採取的是一種更為隱蔽的動態過濾機制。它不會像 Claude 那樣死板地拒絕，而是會試圖淡化敏感信息。這種策略更聰明，但也更難以被監管機構捉住把柄。
這場鬧劇背後隱藏著一個讓人不安的事實：我們對於什麼是「危險的 AI 輸出」依然沒有共識。如果亞馬遜能用幾句指令就讓 Anthropic 的模型「破功」，那說明所謂的憲法 AI 在面對專業級的惡意誘導時，防線可能比紙還薄。這到底是 Anthropic 的模型架構本身就存在難以修補的邏輯漏洞，還是亞馬遜在利用自己的技術優勢，刻意製造一場針對合作夥伴的政治獵巫？
如果連最親密的資本盟友都開始利用技術細節來互相撕咬，那這個行業的信任基礎還剩下什麼？當我們在討論模型效能、討論 token 成本、討論推理速度的時候，是不是漏掉了一個最核心的變量：如果你的模型因為太過「誠實」而成了政治包袱，它的技術價值還能折現多久？亞馬遜這次到底是為了公共安全，還是為了在即將到來的 AI 寒冬裡，先一步把競爭對手推進冰窖？