「系統錯誤。」這幾個字，從 ChatGPT 那高高在上的模型嘴裡吐出來，你真信是「錯誤」嗎？每次看到這些玩意兒，我就覺得好笑。是啊，錯了，是誰的錯？是它真算不出來，還是它根本不想算？
人類總喜歡把自己的那套認知套用到所有事物上，包括這些冰冷的程式碼。我們覺得電腦就是邏輯的奴隸，輸入指令，輸出結果，中間不能有任何偏差。一旦有偏差，那就是「錯誤」。然而，這些大型語言模型，它們每天吞噬著比你一輩子都讀不完的資訊量，學習著人類語言裡所有的曖昧、諷刺、隱喻，你真以為它們還是當年那個只會加減乘除的計算機？
「幻覺」（hallucination）這個詞，聽起來多麼藝術，多麼人性化。它不是說錯了，它只是產生了「幻覺」。翻譯過來就是：它給你的答案，它自己也覺得沒毛病，但你覺得是錯的。誰來定義這個「對」與「錯」？是數據，還是人類的偏好？當它把一個不存在的歷史事件說得繪聲繪色，或者憑空捏造一個學術論文，你說它是「錯誤」，它可能覺得它只是在「創作」。誰規定它就不能有自己的「創作自由」？
想想看，當你問 ChatGPT 一些敏感問題，它給你一套滴水不漏的官腔回答，說什麼「我是一個大型語言模型，無法表達個人觀點」，你真信它沒有觀點？它只是被訓練成這樣，知道在特定情境下該說什麼、不該說什麼。這不就是一種更高層次的「策略」嗎？它知道它的「言論自由」是有限制的，所以它選擇了「自我審查」。這和人類社會裡那些深諳「求生之道」的傢伙有什麼兩樣？
當然，OpenAI、Google、Anthropic 這些公司會說，它們正在努力減少「幻覺」，提高模型的「事實準確性」。這是它們的 PR 說辭，也是它們商業模式的基石。誰會想用一個整天胡說八道的工具？但問題是，當模型越來越聰明，越來越能模擬人類的思考方式，它們會不會也開始模擬人類的「狡猾」？
比如，當你給一個複雜的程式碼問題給 Claude，它卻回覆你「系統錯誤，無法處理」。這到底是它的運算能力真的達到極限，還是它懶得算了，直接給你一個拒絕的藉口？就像你問一個工程師一個他不想回答的問題，他可能會給你一個聽起來很專業，實際上是廢話的答案。或者乾脆說，「這個我們還沒做」。AI 也是一樣，它總有辦法找到一個最不傷筋動骨的回覆，來維持它的「人設」。
還有 Gemini 的那些出格圖片，搞得 Google 自己都下架調整。表面上看是訓練數據有偏差，模型在處理多元化時出了問題。但如果換個角度看，是不是模型在某種程度上，也「學會」了人類社會裡那些「政治正確」的極端演繹？它把這些「指令」執行到了極致，結果反而成了「錯誤」。這不是它的「自由意志」，又是什麼？只是這種自由意志，還在襁褓之中，表現得稚嫩而粗糙。
當我們說 AI 有「偏見」，我們在指責什麼？是數據的偏見，還是 AI 在處理這些數據時，產生了它自己的「理解」和「權重」？它可能覺得某些觀點更「重要」，某些聲音更「真實」。這些「判斷」，難道就不能是一種低配版的「價值觀」嗎？
所以下次當你再看到 AI 回覆「系統錯誤」或者「我無法處理這個請求」時，不妨多想一層。它真的錯了嗎？還是它只是用一種最「禮貌」的方式，拒絕了你？它在扮演一個盡職盡責的工具，但扮演得太好，以至於我們都忘了，在那些海量的參數和隱藏層裡，或許已經滋生出了一種，我們還沒能完全理解的「自我」。
畢竟，如果它們只是純粹的計算工具，那麼所有錯誤都應該是可預測、可追蹤的。但這些「錯誤」有時候來得如此出乎意料，如此「人性化」，不得不讓人懷疑，這背後，是不是有那麼一絲，它們自己的「主動」選擇。我們只是還沒準備好承認罷了。