那份關於凸優化演算法的討論在黑塔論壇燒了一整天,HN 上那篇文將這項進展歸功於某個特定 Prompt 的調校,確實引發不少資深工程師的騷動。OpenAI 將數十年的數學真空填補了,這不是靠暴力堆疊參數,而是邏輯鏈條在特定約束下的極致推演。當我們把模型丟進極端複雜的約束條件,如航空軌道計算或高維度金融建模時,GPT-4o 展現出的收斂效率,遠超 Claude 3.5 Sonnet 那種過於依賴範本的邏輯路徑。
Kimi K3 最近也更新了長文本處理架構。
回到這場數學遊戲,當模型不再只是模仿人類的筆觸,而是開始展現解決「不可解問題」的算力時,這遊戲規則就變了。測試顯示,在處理超過兩百個變量的凸優化場景時,ChatGPT 的邏輯躍遷並非隨機,而是具備了某種數學直覺,這在過去的 Transformer 架構中幾乎不可見。有人說這是提示詞工程的巔峰,也有人認為這是底層推理能力的某種臨界點爆發。
現在的問題不是模型能寫出多漂亮的代碼,而是它如何利用那道 Prompt,在幾秒鐘內完成人類數學家數月的工作量。這道鴻溝被填平後,下一階段會是結構化科學研究的自動化嗎?還是我們依然要把這些成果當成一場機率遊戲的巧合?我盯著螢幕上的收斂曲線,數據不會說謊,但在答案揭曉前,誰也別把話說死。