Ember-1 悄無聲息地在 GitHub 露面,隨後在 Hacker News 引發了那群挑剔工程師的集體圍觀。這不是那種堆砌參數的公關稿,而是 xAI 針對推論效率的一次精準手術。
這套框架的核心在於處理極長上下文時的記憶體分配優化。當我們在 Grok-2 上跑超過 10 萬 token 的代碼審查任務時,Ember-1 展現出的 KV Cache 壓縮能力,讓原本會導致崩潰的併發請求變得異常絲滑。這點與 ChatGPT 依靠伺服器群硬扛的邏輯完全不同,xAI 顯然更迷戀底層架構的暴力美學。有趣的是,近期 DeepSeek 在彈性計算上也有類似的底層動作,但那不在今天的雷達範圍內。
我們實測發現,Ember-1 在處理嵌套邏輯推理時,顯存佔用比 Gemini 1.5 Pro 穩定得多。後者在處理跨文件引用時,偶爾會出現莫名的延遲抖動。xAI 這次把賭注押在「更少的資源消耗,更快的首字響應」上。這種極客式的改進,比起增加模型參數,更能直接戳中開發者的痛點。
這套框架是否會成為 Grok-3 的標準配置?目前還沒有確切訊號。工程界對 Ember-1 的討論仍在發酵,這種繞過傳統注意力機制瓶頸的路徑,或許才是馬斯克想在計算效率上反超 OpenAI 的底牌。