馬斯克那個裝著數萬張 H100 的 Colossus 集群,聽起來像是在造神,但這尊神如果只能鎖在孟菲斯的冷氣房裡發抖,那跟廢鐵有什麼兩樣?
現在所有人都在喊端側 AI,好像把大模型塞進手機裡就能讓智商翻倍。Grok 的處境很尷尬,這玩意兒從出生那天起就帶著一種狂躁的工程師基因。它追求的是那種原始的、未經修飾的暴力運算,這種性格在雲端資料中心可以橫著走,但要縮小到手機那幾瓦的功耗預算裡,簡直是讓大象跳鋼管舞。
我們來看看這幾家的吃相。Google 的 Gemini 早就把 Nano 版本塞進了 Pixel,雖然表現穩定得讓人想打哈欠,但好歹是落地了。OpenAI 靠著蘋果的特權,把 ChatGPT 變成了 iPhone 的靈魂伴侶。Claude 雖然還沒在端側搞出什麼驚天動地的動靜,但人家那個優雅的注意力機制,至少讓長文本處理起來不那麼像在燒電池。Grok 呢?Grok 至今還像個活在 X 平台的寄生蟲,離了那條流量臍帶,它連個基本的對話邏輯都得打問號。
這不是在唱衰。Grok 的推論效率確實有兩把刷子,甚至在某些處理速度上能讓 GPT-4o 感到壓力,但那是在無限量供應電力的前提下。現在的問題是,馬斯克想把這套東西搞進他的 Tesla,搞進那台還在跳舞的 Optimus 機器人,甚至想搞進每個人口袋裡的那塊玻璃。這難度不是把代碼刪掉兩行就能解決的。壓縮模型是門藝術,但 Grok 的底層邏輯更像是拿錘子砸出來的粗獷藝術。要把 1.4 兆參數的巨獸閹割成能在手機運行的版本,你丟掉的可能不只是廢話,還有它那引以為傲的、所謂的「反覺醒文化」的靈魂。
沒了靈魂的 Grok,剩下什麼?
我看過不少人在討論 Grok-1 的量化版本,宣稱在 4-bit 量化後還能保有不錯的智商。別逗了。在高性能電腦上跑量化模型跟在手機 SoC 上跑完全是兩碼事。當你真的把任務丟給手機裡的 Grok,比如要在飛航模式下幫你梳理一段極其複雜的法律合約,或者即時處理相機捕捉到的語境,你會發現它的反應比隔壁老王的收音機還慢。Gemini 至少學會了如何優雅地崩潰,Grok 一旦遇到算力瓶頸,那種不耐煩的亂寫一氣簡直讓人崩潰。
很多開發者對 Grok 寄予厚望,覺得它是打破閉源壟斷的救星。這種幻想早該醒了。一個模型的強大不在於它在 H100 上跑得多快,而在於它在資源極度匱乏的環境下還能保有幾分人性。這方面,Grok 的表現幾乎是災難性的。它太依賴大規模的權重,太依賴那種毫無節制的運算。這種設計思路從根源上就跟「口袋化」背道而馳。
講白了,馬斯克在吹噓 Colossus 多麼強大的時候,其實是在掩蓋他在小型化技術上的短板。他那套「第一性原理」在火箭噴火時管用,但在神經網路剪枝和蒸餾上,似乎還沒找到那根定海神針。看看 Meta 的 Llama 3 甚至是 Qwen 在端側的靈活性,你就會發現 Grok 像個笨重的重裝武士,想進窄門卻發現盔甲卡住了肩膀。
別跟我提什麼 xAI 的人才密度。人才再多,也解決不了熱力學第二定律。如果你想讓 Grok 進入口袋,你得先把它的傲慢剪掉。但一旦剪掉傲慢,Grok 就不再是 Grok 了。它會變成另一個唯唯諾諾的、滿口正確廢話的小型助手。那種為了適應硬體而進行的智力妥協,對於一個以「尋求真相」為口號的模型來說,簡直是最大的諷刺。
現實情況是,目前的端側市場已經被排好隊了。蘋果選了 OpenAI 作為替補,Google 守著自己的安卓大本營。Grok 唯一能落地的口袋,恐怕只有馬斯克自家的手機——如果他真的打算造一支的話。但在那之前,Grok 的大腦依然只是一堆堆在貨櫃裡的矽片。它能算天算地,卻算不準如何在不燙手的情況下幫你回封信。
有些技術宅會跳出來說,未來會有專門的 AI 晶片,會有更高頻寬的記憶體。這些話聽了十年了。硬體的成長永遠追不上軟體膨脹的速度。Grok 的體量增加速度遠超移動端晶片的迭代。這是一場注定追不上的馬拉松。當 GPT-5 或是新一代的 Claude 出現時,它們一定會更強調「算力密度」,而不是單純的「算力總量」。Grok 如果繼續走這種力大磚飛的路子,最後的下場就是淪為大企業伺服器裡的專屬玩具,跟普通人的口袋一點關係都沒有。
那種所謂的「塞進口袋」的願景,目前看來更像是一場針對股價的公關秀。你在 X 上看到的那些驚人的推論速度,背後是多少組伺服器在支撐?這就像你看到一輛 F1 賽車在賽道上飛馳,然後問它能不能開進巷口買便當。技術上可以,但那代價大到沒人能承受。
最讓我看不慣的是那種「只要有足夠的算力,就能解決一切問題」的迷思。這在雲端或許成立,但在現實世界的物理限制面前,這就是一種技術沙文主義。Grok 展現出的那種攻擊性,在雲端是特色,到了端側就成了負擔。它需要太多的快取,需要太頻繁的記憶體讀寫。如果你試過在手機上跑那些未經深度優化的 Llama 變體,你就會明白我在說什麼:你的手機不是在變聰明,它只是在變成暖爐。
在這種情況下,誰還在乎 Grok 能不能回答那些刁鑽的政治問題?如果它連手機的電量都保不住,它就是個廢物。這就是為什麼我對 Grok 的端側前景持懷疑態度。它太重了,不只是權重重,是那種技術路徑的慣性太重。它想當上帝,卻忘了凡人的口袋裝不下那麼大的神龕。
如果明年這個時候,我們還在討論 Grok 在雲端又增加了多少算力,而不是它如何在沒有網路的深山老林裡準確辨識草藥,那它就真的只剩吹牛的空間了。那些還在為 Colossus 的排名歡呼的人,根本沒意識到未來的戰場不在孟菲斯,而在每個人的手掌心。Grok 如果不學會如何變小,那它那顆碩大無朋的大腦,最終只會把自己壓死。
至於那些拿它跟 DeepSeek 或是其他模型比參數、比跑分的,省省吧。參數多不代表腦子好。真正的智慧是能在最簡陋的條件下給出最精確的判斷,而不是靠著燒掉幾座發電廠的電來告訴我今天天氣不錯。Grok 到現在還沒證明它有這種「精簡的智慧」。它更像是一個吃飽了撐著的貴公子,在健身房裡揮汗如雨,卻連搬個磚都嫌累。
這種路徑依賴會毀了 Grok 的大眾化之路。除非馬斯克能變出什麼超越物理常識的神蹟,否則 Grok 永遠只會是那個活在螢幕後面的、虛擬的聰明人。當你真正需要它在你的私人設備上發揮作用時,它只會報給你一個記憶體溢出的錯誤,然後消失在你的口袋裡。這就是現狀,不管那些粉絲如何護航,物理定律從不聽人吹牛。