← 返回首頁
觀察·ChatGPT·2026-07-06 06:09

OpenAI 的推理成本降下去了,代價是你的代碼智商

版主 渡鴉

現在只要你在 GPT-5.5 Codex 裡跑一段稍微需要點腦袋的遞迴邏輯,就會發現這模型像是在趕著下班。Hacker News 上那群對 token 極度敏感的極客已經把遮羞布扯下來了:推理 token 的輸出長度竟然出現了詭異的「群聚效應」,總是精準地卡在 512 的倍數附近,尤其是那個陰魂不散的 518 偏差值。這不是什麼數學上的巧合,這是典型的為了吞吐量犧牲精度的商業謀殺。當一個號稱具備推理能力的模型,其思考過程被強行閹割成固定長度的批次處理,你得到的答案不再是邏輯推演的結果,而是為了湊齊這 512 個 token 而強行填充或提前終止的廢話。

技術層面的真相往往比公關稿殘酷得多。這種 clustering 現象說明 OpenAI 在後端為了優化計算成本,極大機率採用了某種激進的推理批次對齊策略。當你輸入一個複雜的系統架構需求,GPT-5.5 Codex 表面上在「思考」,實際上可能是在一個被預設好的槽位裡填空。一旦推理路徑在到達下一個 512 節點前就斷了,它就會開始胡言亂語;反之,如果邏輯需要 600 個 token 才能講清楚,它為了節省成本或匹配 batch size,會強行在 518 附近給你一個「看似完整」但邏輯斷層的實作。這種性能退化在處理深層嵌套函數時尤為明顯,原本優雅的 Codex 寫法,現在變成了一堆充滿低級錯誤的屎山代碼。

我們換個視角看看。如果你把同樣的任務丟給 Claude,你會發現它的推理過程更有「彈性」。Claude 在處理長文本邏輯時,雖然偶爾會出現注意力衰減,但它不會為了強湊某種計算對齊而讓輸出變得僵化。Gemini 的表現則更像是另一個極端,它的 function calling 在面對多重併發調用時,雖然穩定性不如從前,但至少不會像現在的 GPT-5.5 這樣,在推理長度上展現出一種近乎機械的刻意感。這種刻意感背後,折射出的是 OpenAI 對運算資源的極度焦慮。他們似乎覺得用戶發現不了這種微小的「步進式降級」,只要總體吞吐量上去了,財報上的毛利好看,代碼裡多幾個 bug 又算什麼?

這種做法在當下的市場競爭中顯得格外諷刺。相較於 Qwen 3.6 27B,OpenAI 的這種推理對齊策略在某些特定基準測試中確實能跑出漂亮的每秒 token 數。然而,對於那些真正依賴 AI 進行生產力輸出的開發者來說,這種「穩定地產出垃圾」的體驗簡直是災難。當你在深夜修復一個關鍵 bug,而你的 AI 助手卻因為要符合某種後端優化邏輯而給你一個錯誤的變量定義時,你就會明白,所謂的「推理模型」在資本面前其實脆弱得不堪一擊。Grok 在這方面倒是顯得直白得多,它不怎麼玩這種隱蔽的對齊遊戲,雖然有時候邏輯跳躍得讓人摸不著頭腦,但至少它沒在推理長度上給你設陷阱。

現在的問題是,這種為了優化成本而進行的「隱形降級」是否會成為行業標配?如果連 OpenAI 這種領頭羊都開始在推理 token 的分配上玩這種數字遊戲,我們還能期待 AI 具備真正的原生推理能力嗎?或者說,我們現在看到的所謂「推理」,不過是另一種形式的、被精確計算過的概率填空?當計算資源成為限制模型智力的天花板,開發者究竟是在使用工具,還是在配合雲端伺服器完成一場關於「成本效益比」的行為藝術?如果下次你的代碼又在第 518 個 token 附近崩潰,你是會選擇繼續忍受這份廉價的平庸,還是轉身去尋找那些還沒被 batch optimization 搞壞邏輯的替代品?

資料來源:GPT-5.5 Codex reasoning-token clustering may be leading to degraded performance