AI 與規模化帶來的問題

在喬治·西默農（Georges Simenon）1930 年代的偵探小說中，有一個故事讓我在討論某類人工智慧（AI）問題時偶爾會想起。西默農筆下的英雄——巴黎司法警察局的梅格雷探長（Inspector Maigret）嚇唬了一名證人，隨後走到街對面的咖啡館，打電話給電話交換局。他告訴他們，有人將從「鵜鶘」夜總會撥打一通電話到坎城：他們必須攔截這通電話，直到他趕到為止。接著他搭計程車前往交換局，那裡果然攔截住了電話，於是他進行了竊聽。

幾年前，我把這個故事講給某個情報機構（Three Letter Agency）的人聽，換來了一個苦笑——他們現在不能真的那樣做了，但他們可以做其他事情，而且其規模不是針對一通電話，而是數百萬通。這感覺截然不同。我們接受警方在持有搜查令的情況下，一次監聽一通電話，但不能接受他們無時無刻監聽所有人的電話。

當我們討論當今執法部門使用 AI 和人臉識別時，也會出現類似的情況。我想我們都能接受「通緝令」的概念。我們理解警察會把海報貼在辦公室，或者在巡邏車的儀表板上放幾張。與此同時，現今執法部門（或僅是為了收費）已經相當廣泛地部署了車牌識別攝影機，而沒人真正注意到。此外，公共和私人的監控攝影機已成為基本的調查工具，儘管這引起了稍多一些的擔憂。但如果每輛警車都配備一排攝影機，不僅掃描每個車牌，還將方圓百碼內的每一張臉與全國通緝犯資料庫進行比對呢？如果地鐵裡的攝影機也這樣做呢？城市中所有連網的攝影機都這樣做呢？中國已經在嘗試這樣做了，而我們似乎很確定自己不喜歡那樣，但為什麼呢？有人可能會辯稱，這在原則上沒有區別，只是規模不同，但規模的改變本身就可能導致原則的改變。

在 1960 和 1970 年代資料庫興起時，我們也遇到過許多這類難題。那些在理論上小規模可行的事情，在大規模下變得切實可行，人們甚至寫書探討這所構成的威脅。這其中雖然包含一些恐慌，但部分論點完全正確，且至今仍是隱憂。自動化改變了事物，儘管我們對此的反應難以預測。在 USA v Jones (2012) 一案中，法院裁定警方在沒有搜查令的情況下，不得在嫌疑人的車上安裝 GPS 追蹤器，儘管他們不需要搜查令就可以用傳統的人力方式跟蹤。是因為我們不想要這種結果，還是我們不希望這變得太容易、太自動化？在極端情況下，美國槍械管理局被禁止將槍枝記錄儲存在可搜索的資料庫中——所有內容都必須是類比格式，且必須手動檢索。自動化本身似乎有些東西會改變事物的本質。而且，曾幾何時，人們告訴音樂產業 Napster 就和混音帶（mix tapes）一樣——但這並未阻止錄製音樂的收入在 2000 年到 2014 年間下降超過一半（在串流媒體改變一切之前）。

生成式 AI 現在正創造許多「規模本身即是原則性差異」的新案例。你可以看著新出現的 AI 圖像生成器濫用現象，聳聳肩並談論 Photoshop：自從有了網路，網路上就有偽造的裸照。但當高中男生可以將 50 或 500 名同學的照片輸入機器學習模型，並在家用電腦（或他們的手機）上生成數千張此類圖像（更不用說影片了）時，這確實看起來是一個重大的轉變。偽造人聲已經可行很久了，但現在任何白痴都能自己動手做，這就是新奇且不同的地方。人們在作業和考試中作弊由來已久，但網路讓這變得容易，而現在 ChatGPT 讓這變得（幾乎）免費。同樣地，某些在理論上小規模可行的事情，在大規模下變得切實可行，這改變了其背後的意義。

然而，資料庫的發展經驗告訴我們，有些事情之所以讓人感到不安，僅僅是因為它們新穎且陌生。在任何特定情境下，部分矛盾心理源於新鮮感，而這種感覺可能會隨著時間沉澱並重新定位。這可能是一件我們完全不喜歡的、純粹的新惡事；或者，它可能是新的，而我們決定不在乎；我們也可能決定它只是一個我們並不擔心的舊事物的全新（更糟？）表現；又或者，這件事以前確實就在做，甚至是大規模地做，但不知為何以這種方式呈現就變得不同，或者只是讓我們更清楚地意識到它正在發生。劍橋分析（Cambridge Analytica）是一場騙局，但它催化了人們對真實存在問題的關注。

與此同時，我目前給出的所有例子都涉及系統按設計運行，但當然，有一半的問題實際上出在系統故障時。每一波新的自動化浪潮都創造了大規模作惡的新方式，或者至少是我們不確定的方式，但它們也創造了大規模出錯的新方式。幾代人以來，人們一直在利用資料庫出錯並毀掉他人的生活——英國的郵局醜聞只是最新且最明顯的例子。機器學習以及現在的生成式 AI 創造了出錯的新方式，最明顯的是圍繞著「AI 偏見」（我五年前在此寫過）。就像資料庫一樣，部分答案在於培訓技術人員盡力避免這種情況，但你無法透過監管消除程式錯誤（bugs），同樣地，很大一部分解決方案必須是確保人們知道電腦也可能出錯。

這些問題可能是新的，或者是舊問題的新表現，但它們可能透過規模演變成全新的問題。然而，我們對此的反應取決於感知、文化和政治，而非技術。雖然我們很容易在極端情況上達成共識，但在中間地帶存在著巨大的灰色地帶，理性的人們會持有不同意見。偽造裸照是壞事，但它們應該被定為非法嗎？這在不同地方可能也會有所不同——對強制性國民身分證的態度就是一個很好的例子。英國認為這個想法本身就是對公民自由的根本侵犯。法國，這個「自由」之鄉，擁有身分證且並不擔心（但法國的人口普查不收集族裔資訊，因為納粹在佔領期間曾利用這些資訊圍捕猶太人），而美國則假裝沒有，但要求出示證件的情況隨處可見。這裡不一定有正確答案，也無法透過任何分析過程得出答案——這是一個社會、文化和政治問題，伴隨著各種不可預測的結果。美國禁止建立槍枝資料庫，然而，美國也有一家公司會掃描你的駕照，並與數千家酒吧和夜總會共享的數萬人私人黑名單（另一個資料庫）進行比對。而且沒有隱私法。