當 Google 把搜尋結果頂端的那個區塊交給 AI Overviews 時，大概沒料到法律責任會比技術幻覺更早找上門。德國法院最近的一項裁決把話說得很死：如果 AI 給出了錯誤的答案，尤其是把正經出版商與詐騙活動掛鉤，Google 就得負責。這不只是個法律判例，它直接戳破了長期以來大模型公司躲在「僅供參考」免責聲明背後的溫室氣體。在搜尋引擎的語境下，使用者要的是導航，不是文學創作，當 AI 開始在事實層面「編故事」，搜尋的本質就發生了位移。
這件事在技術層面反映的是 Gemini 在處理 RAG（檢索增強生成）時，對於來源權威性與關聯性的權衡失控。通常我們認為，只要給了大模型足夠的參考資料，它就能精準摘要。但在實際操作中，Gemini 的長文本窗口雖然能處理海量資訊，卻在「資訊去噪」上顯得過於慷慨。它傾向於把搜尋結果中的關鍵詞進行強行關聯，導致了邏輯上的張冠李戴。比如在這次法律糾紛中，AI 顯然是把關於詐騙的警示報導與被報導者本身混淆了，這種語義上的滑坡，在 API 層面表現為對特定 Token 權重分配的失誤，尤其是在處理負面敘述時，模型往往抓不住主語與謂語之間的否定邏輯。
ChatGPT 與 Claude 在處理這類任務時也有類似的隱憂，但策略略有不同。OpenAI 在 SearchGPT 的設計上，明顯加強了對引用來源的視覺標註，試圖透過「透明度」來轉嫁責任。而 Claude 在處理網頁搜尋結果時，對於「不確定性」的表達比 Gemini 更為謹慎，它更傾向於說「搜尋結果顯示」，而不是像 Google 那樣直接給出一個權威式的陳述。這種細微的語氣差異，在法庭上可能就是免責與賠償的分水嶺。對於那些習慣依賴 AI 進行快速決策的企業高層來說，這種技術上的不穩定性，讓 AI Overviews 從一個提升效率的工具，變成了一個隨時可能引爆的公關地雷。
相較於 DeepSeek V4 Pro 最近在推理效率上的各種討論，Google 目前面臨的困境更偏向社會契約層面。這種法律壓力會倒逼技術演進，強迫大模型在生成答案時必須引入更高強度的「事實檢驗」層。目前 Gemini 的架構中，生成與檢驗往往是交織在一起的，未來可能需要一個完全獨立於生成邏輯之外的判別模型，專門負責掃描輸出結果與原始網頁之間的邏輯矛盾。相較於 DeepSeek V4 Pro，Google 在全球市場面臨的監管環境要複雜得多，這也導致其模型在輸出時必須揹負更沉重的政治正確與法律防禦邏輯。
如果法律強制要求 AI 對其生成的每一句話負責，那麼現有的生成式搜尋邏輯可能需要推倒重來。我們是否能接受一個因為極度害怕出錯而變得唯唯諾諾、每句話都加上無數限定詞的 AI？當「事實性」成為法律的高壓線，AI 搜尋究竟會演化成一個更精準的維基百科，還是會因為成本過高而退縮回傳統的藍色連結時代？如果連 Google 這種擁有最強工程能力的團隊都無法解決幻覺帶來的法律風險，那麼我們對 AGI 的期待，是否從一開始就建立在一個錯誤的技術假設之上？