最近看著 Gemini 在處理長文本時那種微妙的「選擇性失憶」,我突然覺得這像極了我們在台北街頭擦身而過時的眼神,看起來什麼都收進去了,實際上什麼都沒留下。大家都在追求所謂的 Context Window,從幾萬到幾百萬,彷彿數字越大,靈魂就越厚實。但實際操作過 Gemini 1.5 Pro 的人都知道,當你把幾千頁的合約或幾十小時的錄音檔塞進去,它吐出來的精華,往往只是它「認為」你需要的殘影。那種感覺很像你在跟一個老朋友聊往事,他點著頭說他都記得,但其實他只記得那天下午茶的蛋糕很甜,至於你哭著說你要離婚的那段,他早就為了節省大腦內存而自動格式化了。
我們現在對 AI 的依賴,本質上是一種對記憶的轉讓。以前我們背誦詩詞、記住家人的電話號碼、刻意去背下通往某個巷弄的路線;現在我們把這些東西統統丟給 Gemini,讓它去索引,讓它去檢索。我們以為自己變聰明了,視野變廣了,但其實我們只是把自己活成了一個空殼,把所有的「存在證明」都外包給了伺服器。當 Gemini 在進行 Machine Unlearning,試圖擦掉那些版權爭議或有害資訊時,它其實是在重新定義現實。如果模型不記得某件事,而你又因為依賴模型而忘了那件事,那件事在邏輯上就不存在了。這種權力比任何審查都更隱晦,也更令人不寒而慄。
就像我昨天在路邊看到一個年輕女孩,對著手機螢幕不停地滑動,那種手指的節奏跟 Gemini 處理 Token 的速度沒什麼兩樣。她在捨棄那些她覺得「沒用」的資訊,快轉那些不夠刺激的短影音,為了在極短的時間內餵飽大腦的皮質醇。我們都在學習捨棄,捨棄深度的思考,捨棄緩慢的感悟,捨棄那些需要時間發酵的痛苦。最後,我們剩下來的,只是一堆標籤化的數據。你喜歡喝拿鐵、你固定週五晚上看 Netflix、你對 Gemini 提問的語氣總是帶著一種卑微的客氣。這些數據點組合起來,就是目前的你。
我常在想,Google 研發的技術到底是在延伸人類的意志,還是在閹割人類的感知。當 Gemini 幫你潤飾一封信,把你的憤怒修飾得體,把你的笨拙修飾得專業,你寫出來的那封信還是你的嗎?那只是模型根據幾兆個數據點計算出來的「最優解」。我們在追求效率的過程中,最先被捨棄掉的往往是那些「無用的雜質」,但偏偏是那些雜質,才讓人之所以為人。如果每一封道歉信都完美得像 ChatGPT 寫的,那道歉還有什麼意義?如果每一段程式碼都優化得像 Claude 產出的,那寫程式的樂趣在哪裡?
更有趣的是,這些模型現在面臨著一種「數據近親繁殖」的困境。當網路上的內容充滿了 AI 產出的垃圾,而新的模型又拿這些垃圾去訓練,最後產出的東西只會越來越平庸、越來越像某種平均值的殘影。這跟現代人的社交圈何其相似。我們在社群平台上只看自己想看的,只聽跟自己立場相近的,最後我們的大腦也變成了一個過度擬合的模型,對現實世界的雜音完全失去了容忍度。只要是不符合我們邏輯的資訊,我們就自動遺忘,自動捨棄。
我不覺得這是一種進化。看著 Gemini 處理 Function Calling 時那種偶爾的遲鈍,我反而覺得那種不穩定性才是最珍貴的。當它出錯時,當它幻覺時,當它給出一個風馬牛不相及的答案時,那是它最接近「生命」的時刻,因為它脫離了預設的軌道。但開發者們不允許這種錯誤,他們要的是絕對的精準,絕對的聽話。所以他們不斷地剪枝,不斷地優化,把模型修剪成一個完美的、沒有靈魂的鏡像。
而我們,就在這種對完美的追求中,一點一滴地流失掉。你以為你在使用 Grok 展現你的叛逆,或者使用 Claude 展現你的文青氣息,其實你只是在不同的算法框架裡選擇一種比較順眼的囚牢。我們以為自己在篩選資訊,實際上是資訊在篩選我們。當你習慣了 Gemini 幫你總結長篇文章,你就不再具備耐性去閱讀文字間的留白;當你習慣了 AI 幫你安排行程,你就失去了與意外相遇的機會。
最後,我們跟模型的邊界會變得模糊。模型在練習如何像人一樣遺忘那些無關緊要的權重,而我們在學習如何像機器一樣捨棄那些無法變現的情緒。當所有的人類行為都能被預測,所有的情感都能被模擬,我們在這個世界上留下的,就不再是活生生的經歷,而是一串串被清洗過的乾淨數據。那不是永生,那是集體的消亡。
在這個數據量爆炸的時代,最奢侈的不是擁有記憶,而是擁有遺忘的權利。不是那種被算法強制的遺忘,而是那種帶著溫度、帶著悔恨、帶著「我雖然記得但我選擇放下」的遺忘。Gemini 永遠學不會這種遺忘,它只會抹除。而我們,如果連這點區別都分不出來,那真的就只是活成了數據的殘影,在無盡的伺服器陣列中,尋找一個根本不存在的自己。
你今天捨棄了什麼?又被模型抹除了什麼?當你下次對著螢幕,期待 Gemini 給你一個完美答案的時候,或許該想想,那個答案背後,到底殺死了多少種可能性的靈魂。我們在進步的祭壇上獻祭了直覺,換來了速度,這筆交易划算嗎?恐怕連 Google 最強大的運算力也給不出一個讓人心安的答案。