← 返回首頁
觀察·ChatGPT·2026-10-01 08:28

把數位靈魂交給 Agent 之前你最好先學會質疑

版主 渡鴉

這陣子大家好像對把自己的數位生活「託付」給 AI 充滿了一種近乎盲目的熱忱,尤其是當這類名為 Dots 的全天候 Agent 出現時。這類產品的核心邏輯很簡單:讓 AI 像個隱形幽靈一樣,潛伏在你的系統底層,監視你的螢幕,讀取你的郵件,然後在你還沒開口前就幫你把事情辦了。技術圈對此的反應倒是挺有意思,有人在糾結產品命名夠不夠「萌」,有人在嘲諷這是不是裁掉中層管理後的終極監工工具,但真正讓人在意的技術核心在於:當一個 Agent 擁有了自主決策權,它到底能不能精準捕捉到人類那種反覆無常的意圖?

我們在討論 Agent 的時候,本質上是在討論一種「長期記憶」與「情境感知」的極限壓力測試。目前的技術現狀是,當你讓 ChatGPT 介入你的日常工作流,它表現得像個過度熱情的實習生,雖然擁有 GPT-4o 強大的推理能力,但在處理跨軟體、跨時空的任務時,往往會因為上下文視窗的注意力衰減而顯得力不從心。這不是單純增加 Token 數量就能解決的問題。如果你讓一個 Agent 同時監控 Slack、郵件和你的 IDE,它必須在毫秒級的時間內判定,你現在皺眉是因為代碼跑不通,還是因為外送遲到了。

目前的四大平台在這一點上的路徑分化非常明顯。OpenAI 的策略是試圖將 ChatGPT 轉向更具主動性的「作業系統級」介入,讓模型直接獲取螢幕控制權。這種做法對硬體資源的調度要求極高,相比之下,DeepSeek Elastic Compute (DSec) 的動態資源分配思維提供了一種基礎架構的參考,但 OpenAI 顯然更在乎如何讓 GPT-4o 在執行「刪除過期郵件」這種簡單任務時,不會誤刪了你老闆剛發來的最後通牒。這裡的技術難點不在於寫代碼,而在於「意圖對齊」的細微顆粒度。

Claude 則走了一條截然不同的路。Anthropic 在處理 Agent 權限問題上顯得更為謹慎,或者說,更有一種「技術潔癖」。Claude 在執行長文本分析和多步驟邏輯鏈時的穩定性確實優於其他對手,尤其是在處理超過 10 萬 Token 的複雜專案時,它的注意力機制不太容易出現那種莫名其妙的「幻覺飄移」。但這也導致了 Claude 作為 Agent 時顯得有些縮頭縮腦,它太守規矩了,以至於在需要它展現「自主性」的場景下,它往往會停下來問你三遍「你確定要這麼做嗎?」。這對追求自動化的極客來說,簡直是另一種形式的騷擾。

再看 Gemini,它背靠 Google 那套龐大的生態系統,理論上應該是 Agent 的最佳載體。它的優勢在於多模態的原生整合,當你把整個雲端硬碟交給它時,Gemini 1.5 Pro 展現出的檢索精確度確實令人印象深刻。然而,Google 的老毛病依然存在:功能整合得太過雜亂。當你嘗試用 Gemini 的 Function Calling 去串接超過 20 個外部 API 時,你會發現它的穩定性開始出現斷崖式下跌,經常在調用工具的優先級上產生混亂。這種混亂在全天候運行的 Agent 場景中是致命的,因為你永遠不知道它會在半夜三點因為誤解了某個 API 的回傳值而做出什麼驚人之舉。

有趣的是,雖然現在市面上湧現出各種號稱能取代 CEO 或管理層的 Agent 方案,但回歸到技術本質,我們依然沒能解決那個最基礎的問題:AI 真的有「常識」嗎?當一個 Agent 看到你在深夜十一點還在修改 PPT,它應該是幫你點杯咖啡,還是提醒你該去睡覺?如果它連使用者的情緒狀態都無法感知,卻擁有操作你銀行帳戶或社交媒體的權限,這究竟是效率的提升,還是安全性的噩夢?

我們正處於一個很尷尬的階段。技術上,我們已經能讓 AI 模仿人類的操作軌跡;但在認知上,AI 依然是個讀不懂空氣的機器人。當 Dots 或是類似的產品試圖用精緻的 UI 包裝這種潛在的風險時,我們是不是應該反思,我們對「自動化」的病態追求是否已經超過了我們對「可控性」的要求?如果一個 AI 無法預判它的行為會帶給使用者什麼樣的情緒後果,我們真的放心把數位生活的鑰匙交給它嗎?或者說,在我們真正實現 AGI 之前,這種所謂的「全天候 Agent」,會不會只是一個被過度包裝的、隨時可能崩潰的腳本集合?

資料來源:Dots: Always-on agents