微調會觸發大型語言模型對受版權保護書籍的逐字記憶回現

背景

近期在 GitHub 上公開的「Alignment Whack-a-Mole」研究揭示了一個令 AI 業界不安的現象：即使大型語言模型（LLM）在對齊階段被教導不輸出受版權保護的內容，但透過微調（Finetuning）過程，這些被隱藏的記憶會被重新激活。研究人員利用 GPT-4o、Gemini 與 DeepSeek 等模型進行實驗，證明了模型內部其實完整儲存了如《路》（The Road）等版權書籍的逐字內容，這項發現引發了關於 AI 訓練數據合法性與版權保護機制的廣泛討論。

社群觀點

Hacker News 的討論圍繞著「壓縮與智慧」的本質展開。部分評論者認為，這項研究徹底撕下了 AI 擬人化的假面具，證明了 LLM 的核心本質就是一種高效的壓縮技術。這種觀點批評科技巨頭利用「智慧」作為幌子，實則是在未經授權的情況下將全人類的知識經濟集中化，藉此剝奪版權所有者的利益。然而，另一派意見則從技術角度反駁，認為「智慧即壓縮」並非貶義，如果這意味著舊有的版權體系將走向終結，對社會進步反而是件好事。

關於版權體系的存廢，社群內產生了激烈的辯論。有網友指出，版權是「左版權」（Copyleft）與 GPL 等開源協議的基石，若徹底廢除版權，反而會讓開源運動失去法律武器，最終讓追求利潤的企業得以合法地掠奪開源成果。對此，支持變革的觀點認為，版權法的初衷是促進科學與藝術的進步，而非讓迪士尼等大公司無限期壟斷。他們主張應將版權回歸原始的「有限時間」精神，甚至認為應該直接修法保障公眾獲取原始碼與數據的權利，而非依賴過時的版權框架。

此外，討論中也出現了對科技公司雙重標準的諷刺。網友觀察到，像 Anthropic 這樣的公司一方面利用公開數據訓練模型，另一方面卻在自家代碼外洩時頻繁發出 DMCA 下架通知，呈現出「我的版權是版權，你的版權是訓練數據」的矛盾立場。而在實務應用上，有研究者對 LLM 訓練於影子圖書館（Shadow Libraries）表示樂觀，認為這能讓學術研究者更輕易地檢索冷門領域的知識。但也有人預警，隨著法律訴訟的推進，AI 產業可能會面臨類似當年 Napster 的大清算，屆時業界將被迫轉向使用完全授權的語料庫進行訓練。

延伸閱讀

在討論過程中，社群成員分享了幾項與此議題高度相關的研究與資源。首先是關於模型可逆性的學術探討，論文《Language Models are Injective and Hence Invertible》分析了如何從隱藏層激活狀態中還原輸入內容。其次，有網友提到另一篇關於評估模型規模的新研究，該研究透過測量模型記憶冷門事實的數量來估算其參數大小。此外，研究團隊也提供了互動式 Demo 網頁與 Arxiv 論文連結，供大眾檢視模型如何逐字重現版權書籍內容的實證結果。