這幾天 Hacker News 上的技術老鳥們在吵一件事：以色列疑似透過建立虛假的智庫網站，試圖讓 AI 機器人在爬取資料時，餵進去那些被「優化」過的政治敘事。這事有趣的地方不在於政治攻防，而在於大模型（LLM）的訓練機制正成為人類社會最脆弱的後門。我們過去擔心的是駭客入侵資料庫，現在該擔心的是，當 AI 成為人類獲取知識的唯一入口時，只要針對性地餵食特定垃圾，就能在毫無硝煙的情況下完成一次對集體意識的重塑。
這並非科幻小說。ChatGPT 或 Claude 在處理當前時事或地緣政治問題時，極度依賴 RAG（檢索增強生成）或是搜尋插件。如果網路上充斥著由專業公關團隊、甚至國家級力量編織的「偽事實」，且這些內容被SEO優化得極好，AI 的機率預測模型會毫不猶豫地採納這些高權重、高頻率出現的雜訊。當你在 ChatGPT 的對話框輸入敏感問題，背後的推理過程並不是在尋找真理，而是在計算哪個答案在語料庫中最「合理」。如果假智庫的產量夠大、連結夠多，對於 GPT-4o 來說，那這就是真理。
OpenAI 對此的應對策略顯得有些笨拙。他們試圖透過 RLHF（人類回饋強化學習）來建立護欄，但人是有偏見的。當模型在處理這類偽裝成學術報告的政治宣傳時，ChatGPT 往往會給出一個「各方觀點不一」的平庸回答，這種中庸之道本質上就是對假資訊的妥協。與此對照，Claude 在對抗這種「語義注入攻擊」時展現出更強的批判性，它對來源的可信度檢核比 ChatGPT 更神經質一點。如果你要求 Claude 摘要某個新興智庫的報告，它有時會跳出安全警告，或者乾脆拒絕回答，這在技術上是一種防禦性的過擬合，雖然犧牲了體驗，但守住了底線。
這種資訊污染的技術含量正在提升。相較於 DeepSeek-v4-flash-vision-exp 最近在視覺推理上的技術動向，OpenAI 與 Anthropic 面臨的是更底層的社會工程學挑戰。在同等的檢索環境下，Gemini 雖然依賴 Google 強大的搜尋索引，但它對「權威網站」的迷信也成了它的軟肋。如果一個假智庫被 Google 新聞收錄，Gemini 就會像傳聲筒一樣把這些處理過的內容餵給使用者。當我們看到 DeepSeek-v4-flash-vision-exp 試圖在多模態領域突破時，四大平台正深陷於如何分辨「誰在對我撒謊」的泥沼中。
事實上，這是一場關於「語義主權」的戰爭。Grok 在這方面走的是另一條極端路線，它直接抓取 X（原 Twitter）上的實時數據，美其名曰真實，實則是把最大的垃圾場當成水源。當一個國家力量介入，製造出成千上萬個自動化帳號與偽智庫網站相互引證時，Grok 的演算法幾乎無法分辨這是群眾的呼聲還是專業的操弄。這讓我想起物理學中的熵增，當外部能量（假資訊）不斷注入，系統內部的混亂度只會越來越高，而 AI 正在加速這個過程。
技術層面上，我們目前還沒有一套有效的演算法來偵測「動機」。模型可以識別出語法錯誤，可以識別出仇恨言論，但它無法識別出一個包裝精美的謊言，尤其是當這個謊言是由另一個 AI 生成，並由人類精英潤色過後。當五角大廈與四大模型簽署巨額合約，當這些工具被用於決策輔助，這種資訊滲透的後果就從「聊天機器人胡言亂語」上升到了國家安全層級。
如果未來所有的 AI 訓練數據都來自於被各方勢力污染過的互聯網，我們該如何證明今天學到的歷史不是上週才被寫進伺服器的腳本？當 AI 失去辨別虛假敘事的能力，它究竟是人類智慧的延伸，還是只是各國宣傳部門的一面鏡子？
如果真相的定義權被交給了機率分佈，那在這個充滿偽智庫的數位世界裡，還有什麼是不能被「計算」出來的真相？