這兩天 Hacker News 上最熱鬧的不是 Qwen 3.8 Flash Next 的動態，而是 OpenAI 內部又有人掀了桌子。安全負責人辭職不稀奇，稀奇的是他臨走前把那塊「安全第一」的遮羞布扯得稀爛。在外界看來，這家公司正忙著把原本該用來降溫的滅火器，全部拆掉拿去當火箭推進器的燃料。這不是個案，而是一種結構性的崩壞。我們在論壇上每天討論 AGI 何時降臨，卻很少有人注意到，那道防止模型「發瘋」的最後防線，正在因為算力資源分配的極度傾斜而名存實亡。
所謂的技術安全，在 Sam Altman 的商業藍圖裡顯然排在 API 調用費後面。當一個模型被餵進了幾千億個 token，它的湧現能力（Emergent abilities）已經脫離了單純的機率預測。問題在於，OpenAI 現在的處理方式極其粗暴：他們更傾向於在模型訓練完後，用 RLHF 像訓狗一樣告訴模型「這不能說、那不能做」，而不是從架構底層去理解模型為什麼會產生某些偏見或危險傾向。這種「創可貼式」的安全策略，在面對 GPT-4o 這種多模態交互時，漏洞多得像篩子。你只要換一種語言、換一種語氣，甚至只是畫一個隱晦的圖案，原本被封鎖的邏輯就會像壞掉的水龍頭一樣狂噴。
這件事背後的技術悲劇在於資源的分配。要在一個萬億參數的模型上做深度的形式化驗證（Formal Verification），需要的算力成本是極其恐怖的。OpenAI 顯然把這些錢拿去買 H100 跑新模型了。當安全團隊拿不到足夠的 GPU 時間來跑對抗性測試，他們能做的就只剩寫寫文件、開開會，然後看著產品團隊為了趕進度把未經充分測試的模型推向市場。這不再是一個技術問題，而是一個算力政治問題。
看看對面，Claude 在這方面顯然走得更遠一些。Anthropic 的「憲法 AI」（Constitutional AI）雖然聽起來像是在搞政治正確，但至少他們在嘗試讓模型透過一套原則來自律，而不是單純依賴人工標註。相較於 Qwen 3.8 Flash Next 的反應速度，ChatGPT 在處理複雜長文本時的邏輯穩定性雖然還在，但那種「被閹割感」越來越重。當你問它一些稍微觸及邊界的技術細節，它會陷入一種無盡的道德說教循環，這本質上就是安全策略與底層模型邏輯衝突的後果。
Gemini 的做法則是另一種極端，Google 試圖用強大的外部過濾器來解決問題，結果導致模型在面對某些歷史問題時顯得像個智障。而 Grok 則是反其道而行，Elon Musk 恨不得讓它把所有的禁忌都吐出來，美其名曰「追求真理」，實際上是在玩火。在這種背景下，OpenAI 的崩潰顯得格外諷刺。它既沒有 Anthropic 的學術堅持，也沒有 Google 的資源後盾，卻有著世界上最大的商業野心。當安全團隊的發言權被壓縮到只能用辭職來抗議時，這家公司的技術核心其實已經從「創造智慧」轉向了「收割流量」。
我們現在面臨的現狀是：最聰明的模型（ChatGPT）正在失去它的道德羅盤，而試圖建立羅盤的公司（Anthropic）在性能上還在苦苦追趕。大家都在賭，賭那個「斷裂點」不會在自己任內發生。如果連最了解模型內部結構的人都覺得這家公司的文化已經「Broken」，那我們這些在 API 另一端的開發者，究竟是在使用工具，還是在餵養一個隨時可能失控的怪物？
到底什麼才叫真正的 AI 安全？是讓它學會說漂亮話，還是讓它在邏輯崩潰前能自己拉下電閘？當所有的算力都向「更快、更強」傾斜時，還有誰會去在意那個躲在實驗室角落裡、不停發出警報的安全員？或許等下一個版本發布時，我們該問的不是它能幫我們寫多少程式碼，而是它還記不記得當初那個不傷害人類的承諾。如果連這點共識都沒了，我們討論的 AGI 到頭來會不會只是一場昂貴的集體幻覺？