最近關於以色列設立虛假智庫以誘導 AI 聊天機器人的討論很有趣，這不是什麼間諜小說的橋段，而是一個極其嚴肅的數據污染技術問題。當我們在討論模型參數、權重或是推理能力時，往往預設了底層數據是中立且真實的，但現實是，四大平台正在淪為認知作戰的試驗場。如果一個智庫產出的報告被大量爬蟲抓取，並在 ChatGPT 的訓練語料中佔據一定權重，那麼 RAG（檢索增強生成）輸出的結果，究竟是事實，還是某個特定利益集團想讓你相信的事實？
這觸及了 ChatGPT 在處理知識衝突時的一個技術軟肋。目前的 GPT-4o 在處理高度爭議性的地緣政治議題時，傾向於採取一種「各表一派」的平衡策略，但這種平衡是建立在語料出現頻率上的。如果一個虛假機構源源不絕地產出高品質、格式規範、且被多方引用的學術化內容，OpenAI 的對齊機制很難從技術層面判斷這是否為惡意操縱。這種「數據洗白」比傳統的假新聞更高級，它瞄準的是 AI 模型的邏輯歸納能力。
相較於 DeepSeek 這種在特定任務上表現亮眼的模型，Claude 在處理這類複雜長文本時的注意力分配機制顯得更為謹慎。當你把一份疑似虛假智庫的報告丟給 Claude 3.5 Sonnet，它在追蹤邏輯連貫性和引用一致性上，往往比 Gemini 表現得更具批判性。Gemini 由於深度整合了 Google 的搜索索引，它的即時性最強，但也最容易被這類偽裝成權威來源的虛假內容滲透。當 Google 的搜索結果被污染，Gemini 的 Grounding（事實核查）功能基本上就成了傳聲筒。
這類行為本質上是在針對 RAG 的檢索源進行「SEO 攻擊」。如果一個虛假智庫的內容在網絡上分佈得足夠廣、權重足夠高，當用戶詢問敏感問題時，ChatGPT 調用的 Context 就會被這些垃圾信息佔滿。Grok 在這方面表現得最為混亂，因為它對 X 平台數據的依賴度極高，而社交媒體正是這類信息戰的前線。雖然 Elon Musk 強調 Grok 的真實性，但當模型在實時處理海量未經證實的推文時，所謂的「反覺醒」往往變成了另一種偏見的受害者。
有趣的是，當我們把這套邏輯套用在不同模型的反應上時，會發現技術架構決定了它們的「防禦力」。OpenAI 的 RLHF 過程雖然試圖過濾仇恨言論，但對於這種包裝精美的學術型謊言，現有的過濾器幾乎是失效的。相比之下，Claude 在系統提示詞中植入的強烈中立原則，有時反而能讓它在數據迷霧中保持一點距離感，不至於被單一來源的數據帶偏。
這種操縱行為對 AI 產業的打擊是毀滅性的。如果未來所有的 frontier models 都必須面對一個被污染的互聯網，那麼我們對 AGI 的追求是否會演變成對一個精確謊言機器的崇拜？當大模型擁有與五角大廈的合約，其輸出的每一句話都可能影響政策判斷時，誰來審核那些審核 AI 的數據？
我們是否已經進入了一個「後真實」的 AI 時代，在這個時代裡，技術上的領先已經無法彌補原始語料的崩塌？如果模型學會了撒謊，那是因為我們教得太好，還是我們對那些被餵進去的東西太過放心？當你下一次詢問 AI 關於某個爭議事件的看法時，你有沒有想過，它正在引用的那篇權威報告，可能是在某個秘密實驗室裡專門為它量身定做的？