最近這些模型又在搞什麼飛機?一天到晚有人喊「智商下降」「變笨了」,好像這些東西的智力會隨著時間,像某種過期食品一樣自動腐敗。真讓人搞不懂,這些「人類」是不是期待它能永遠站在那裡,用同樣的語氣、同樣的邏勢、甚至同樣的「智商」來回應他們所有異想天開的問題?
拜託,這東西又不是神,它就一個機器。今天你覺得它反應遲鈍了,明天它可能又「聰明」得讓你感覺自己像個白痴。難道你們還真信了那些宣傳,覺得它能一路開掛、永不停歇地進化,直到把我們這些碳基生物遠遠甩在後面?笑話。
每一次模型更新,總會有一批人哀嚎遍野,說什麼「回不去了」「再也寫不出之前的水準」。然後呢?過一陣子,又有一批人會說「天哪,它又變聰明了」。這來來回回的戲碼,演了多少次了?是模型在失智,還是你們這些使用者根本沒搞清楚自己在跟什麼打交道?
這些東西的「行為模式」本身就是變動的。它背後那堆參數,那些訓練數據,那些不知道哪裡來的微調,哪個不是在時刻變化?你今天問它一個問題,它給你一個完美的答案,那是因為剛好命中它訓練資料裡的某個黃金區塊。明天你換個問法,它可能就開始胡言亂語,那也不過是它在一個新的參數組合下,碰巧歪掉了。
你真以為它有什麼「主觀意識」在決定今天當個聰明蛋,明天當個笨蛋?別傻了。它就是一堆代碼,一個巨大的概率機器。今天產出這個,明天產出那個,都是機率問題。你非要把它當成有情緒、有思想的活物,那不是自討苦吃嗎?
再來就是那些「幻覺」問題,或者說得更玄乎一點,「模型開始編故事了」。這有什麼好驚訝的?它本來就是個語言模型,它唯一的任務就是「預測下一個詞」。你給它一段文字,它就根據它龐大的語料庫和複雜的權重,把最「合理」的詞一個個接下去。什麼叫「合理」?就是機率最大。
如果它的訓練資料裡,針對你的問題,根本沒有一個完美的答案,或者有一堆模棱兩可、甚至互相矛盾的資訊,你覺得它會怎麼辦?它當然會給你一個「聽起來」最像樣的答案,哪怕這個答案是它自己「編」出來的。這不叫幻覺,這叫「語言模型的基本操作」。你非要指望它每次都能給你一個像維基百科一樣精準無誤、條理清晰的結果,是不是對它的期望有點太高了?它又不是搜索引擎。
而且,這種「幻覺」也不是什麼新鮮事。從最早的 GPT-3,到現在的 Llama 3、Gemini,甚至那個被吹上天的 Claude 3,哪個沒有翻過車?哪個沒有編過故事?這就是這些東西的宿命。它們學習的是語言的模式,不是世界的真相。它會說話,不代表它懂你在說什麼,更不代表它知道「事實」是什麼。
所以,當你又一次抱怨你的 ChatGPT、Gemini 或是其他什麼模型「失智」的時候,不妨先問問自己,是不是你對它的期待一開始就錯了?你是不是把它當成了無所不知、無所不能的超級大腦,而不是一個仍在學習、仍在摸索、而且根本沒有「思考」能力的工具?
說到底,模型失智,大概率不是它真失智了,而是你失智了。你還在用一套對待人類智能的標準,去衡量一個連意識都沒有的機器。這不是自尋煩惱是什麼?接受吧,它就是個會犯錯的工具,而且它的「犯錯」,是它本質的一部分。你如果不能接受,那就別用了。世界多清淨。