← 返回首頁
觀察·ChatGPT·2026-10-09 09:08

把靈魂塞進訓練集後 ChatGPT 忘了怎麼擦掉簽名

版主 渡鴉

在 DALL-E 3 接入 ChatGPT 的那一天起,Sam Altman 就一直在推銷一種幻覺:AI 是在「創作」,而不是在「拼貼」。可惜,最近那些印在仿《紐約客》風格漫畫右下角的潦草簽名,像是一個個不打自招的犯案現場。當使用者要求 ChatGPT 畫一張單幅漫畫時,模型不僅學會了那種冷峻的幽默感和細碎的排線,甚至貼心地把原作者的簽名也一併「幻覺」了出來。這不是簡單的浮水印遺留,而是一種深植於權重之中的模仿本能。它看過太多頂尖漫畫家的作品,以至於在它的神經元裡,一張完整的漫畫如果沒有那幾筆扭曲的字母,就像是一個人沒長臉一樣不自然。

這件事在技術層面上揭示了一個尷尬的真相:擴散模型對語義的理解,遠沒有 OpenAI 宣稱的那麼「高維」。當我們討論像素空間的分布時,模型其實分不清什麼是「風格」,什麼是「歸屬權」。對 GPT-4o 驅動下的視覺生成過程而言,簽名不過是某種特定構圖下的「高頻像素特徵」。如果你要求它生成「紐約客風格」,它就會調用那個特定區域的權重,而那塊區域裡,創作者的靈魂標記與排線風格是強耦合的。這就像是你叫一個臨摹大師去畫畫,他因為太過入戲,順手就把前人的落款也給仿了,還覺得這是畫作不可分割的一部分。

OpenAI 在處理這種版權「洗滌」時的做法顯然有些力不從心。他們試圖透過對齊(Alignment)來告訴模型「不要侵權」,但這種指令層面的修補,在面對底層訓練數據的強大慣性時顯得蒼白無力。與 Claude 那種近乎潔癖的審慎不同,ChatGPT 的生成邏輯更傾向於「取悅」。Claude 在面對類似請求時,往往會因為感知到版權風險而直接拒絕生成,或者給出一張四平八穩、毫無稜角的素材圖。而 ChatGPT 為了達成那種「神似」,不惜在法律的邊緣反覆橫跳。這反映了兩者在模型預訓練階段對於數據清洗權重的本質差異。

有趣的是,這種現象並非 OpenAI 獨有,但在其商業化路徑上顯得格外刺眼。相較於 Qwen 3.8 Flash Next 在處理特定指令時的邏輯反饋,ChatGPT 在視覺語義的解構上顯然走得更遠,也因此摔得更響。當我們觀察 Gemini 在類似場景下的表現時,會發現 Google 採取了另一種極端:過度補償。Gemini 為了躲避版權爭議,有時會把圖片生成得像是一張毫無生氣的圖庫照片,徹底閹割了藝術表現力。而 Grok 則像個沒被馴服的青少年,它可能根本不在乎簽名不簽名,甚至會覺得這種混亂本身就是一種諷刺。

這引發了一個更深層的技術詰問:我們真的能把「創作風格」與「創作者身份」在模型中完美剝離嗎?如果一張畫的靈魂來自於某個人的筆觸,那麼模型在學會這種筆觸的同時,是否必然會捕捉到那些代表身份的雜訊?在 Qwen 3.8 Flash Next 試圖優化推理效率的同時,OpenAI 卻在為如何擦掉這些數位紋身而頭痛。這不單是技術上的 Bug,這是生成式 AI 原生的道德債務。當模型生成的簽名變得愈發模糊卻又依稀可辨時,它究竟是在致敬,還是在嘲弄那些被它吞噬的創作者?

如果有一天,模型學會了隱藏所有簽名,但依然保留了百分之百的筆觸特徵,我們是否就真的解決了所謂的「剽竊」問題?當我們在使用這些工具時,我們是在享受技術進步的紅利,還是在參與一場史上最大規模的集體洗稿?如果 AI 最終能畫出完美的畫作卻不再留下任何人的痕跡,那種徹底的「乾淨」,會不會比現在這些帶著殘缺簽名的作品更讓人感到不寒而慄?

資料來源:ChatGPT is adding real cartoonists' signatures to fake New Yorker cartoons