智能技術正在瓦解隱私

未來將會與現狀大不相同。讓我們來思考一下會如何改變。

具體來說，我們對「什麼是合理的」之預期，是源自於我們過去的經驗，而那些經驗又源自於我們當時擁有的選項（以及社會中其他人擁有的選項）。隨著這些選項的改變，我們的經驗以及對合理性的預期也會隨之改變。我曾經認為拿起電話撥給某人，或是在電話響起時接聽是合理的；現在情況已經變了，而任何思考過可能性的人都能預見這一點。因此，讓我們試著預見更多事情，或許這能讓我們有能力去選擇未來真正的模樣。

我認為隨著技術的發展，許多人對「隱私」的直覺和預期將會受到挑戰，我們應該試著找出一個理想的落腳點。這種思考源於 Anthropic 拒絕跨越的「紅線」之一，這讓國防部對他們感到不滿；即「禁止國內大規模監控」的想法。我想以一種迂迴的方式來探討這個問題，首先退一步問：在這種情況下，我們甚至能期待什麼？

「任何合法用途」

情報獲取的普及將戲劇性地改變隱私預期，因為它允許：1) 更多的信息記錄，2) 更多的記錄信息處理，以及 3) 對這些信息進行更複雜的解讀。

在美國的背景下，執法人員可以獲取關於個人的廣泛信息，但需要獲得許可（「搜查令」）才能查看。如果你是某宗犯罪的嫌疑人，他們可以查看你的手機記錄，以獲取你是否參與犯罪的證據，否則你受到憲法第四修正案的保護，免受不合理的搜查和扣押。但什麼決定了什麼是「合理」的呢？*

一些考量因素：^([1])

• 什麼能保護無辜個人的隱私。擁有執法系統訪問權限的人可能有自己的私人理由去查詢信息——比如看看前女友在做什麼——而社會不希望他們能夠付諸行動。
• 什麼是有信息價值的。如果每當洛杉磯發生謀殺案，你都必須審查洛杉磯地區每個人的手機記錄，你可能會浪費許多小時的調查精力。
• 什麼是廉價的。如果你需要安排一名享有醫療保險和退休金的公務員來審查信息，讓他們審查無關信息是在損害公眾利益（畢竟是公眾在買單！）。

這已經因為技術變得更便宜而發生了改變。讓警察在每個街角埋伏的成本高得令人望而卻步；但讓每個店主安裝監控系統記錄店外的街道並非難事，且這些成本還在持續下降。將這些網絡連接起來，現在一個城市幾乎可以處於完全的監控之下。^([2])

人工智慧延續了這些趨勢。如果大型語言模型（LLM）能以極低的成本審查手機記錄，那麼查看百倍數量的記錄可能就變得有意義。現在，你不再需要讓人逐個攝像頭追蹤個人在城市中的移動，你可以使用具備人臉識別、步態分析和空間建模功能的軟件系統，以可行的成本追蹤整個人群。

因此，從技術層面來看，如果你的手機開著、或者你在車裡、或者你在城市內，感興趣的各方已經可能（或很快就能）以「大規模」而非針對性的方式隨時追蹤你的位置。從社會層面來看，這可能顯得很不禮貌——或者這可能是大多數人願意進行的一種交易。

特別是，技術改變動態的另一種方式是讓攻擊者更容易造成重大破壞，這提高了監控的價值，也提高了在犯罪發生前進行預測和抓捕的價值，而非事後調查和懲罰。

讓我們回到信息的解讀，看看智力的提升將如何以更微妙的方式改變動態。許多事情可以從「公共記錄」中以非顯而易見的方式推斷出來。例如，如果你的攝像頭足夠快且足夠靈敏，你只需觀察某人臉部血液微妙的紅潤與蒼白循環，就能測量其心跳；標準攝像頭已足以勝任，而心跳的變化以及面部外觀的其他微妙變化都能提供關於想法的信息。

但我要談談「同志雷達」（gaydar），因為這涉及到了我們希望社會最終走向何方的更廣泛社會問題。有時，人們僅憑觀察就能猜測另一個人的性取向，利用的是刻意和偶然的特徵。男同志有時受益於看起來像同志（「他右耳的耳環暗示——」或「他的髮型意味著——」），而且他們在發育上也有各種可能表現在外貌上的差異。2018 年，Wang 和 Kosinki 訓練了一個神經網絡，利用交友照片進行識別，其表現大幅優於人類（成功率為 80% 而非 60%）。^([3])

因此，隨著情報獲取變得更加普及——隨著軟件獲得了以前只有人類專家才具備的能力，且該軟件的使用可能變得廣泛——我們開始無法隱藏某些事情。對此我們想做些什麼？

這不包括專家觀察者何時能猜到我是同志的時間線，那可能要早十年。

在我的一生中，世界發生了巨大的變化！當我還是個孩子時，同志身份大多是隱藏的，處理同志身份需要微妙和洞察力。在同志權利組織的堅持下，應對愛滋病危機的部分反應是將患者隱私置於阻止傳播之上。^([4]) 但現在，作為一個成年人，同志身份不再是隱藏的；你不需要在我臉上使用剖析算法，直到 Facebook 在 2022 年移除該功能前，你只需去我的個人資料頁面，就能看到我勾選了「對男性感興趣」。（或者你可以搜索我的 LessWrong 評論，或者——）

所以從 2020 年代美國的角度來看，這感覺其實相當無害。（但這並非普遍現象；在其他國家情況更糟，而且「跨性別調查模型」的前景感覺遠沒那麼無害。）

更廣泛地說，在我看來，對於廣泛知曉以前隱藏的事物，我們大致有三種反應選擇：

• 接受。知道誰是同志、誰是異性戀沒關係，因為兩種選擇都很好，而不困惑或不無知是有用的。（我曾浪費了很多希望在異性戀男生身上，也有一些異性戀女性浪費希望在我身上，這些本來都是可以避免的。）
• 清洗。知道誰是同志、誰是異性戀可以讓你從全男生高中裡移除所有的同志，因為你其實想要的是一所「全異性戀男生」的高中。
• 假裝無知。即使你可以知道誰是同志、誰是異性戀，你仍採取類似「不問，不說」（Don't Ask, Don't Tell）的政策，每個人都試圖表現得好像不知道一樣。（畢竟，只有跟蹤狂才會知道那種事。）

我認為在某些情況下，這三種選擇中的每一種都是最合適的。特別是，我認為性少數群體被接受的程度之所以呈現這種積極趨勢，部分原因在於知識的增加和隱私的減少。了解到許多同志都是「正常人」，對於同志身份的正常化起到了很大作用！

我也認為很容易找到「清洗」或「篩選」顯得相當令人同情的情況。事實上，我會強烈支持當地的地鐵系統追蹤哪些乘客最反社會並禁止他們搭乘，以便系統更乾淨、更安全；如果使用人臉識別技術或類似的「極權監控措施」能更便宜、更好地做到這一點，那似乎可能是值得的。（同樣地，不被恐怖襲擊殺害也是非常好的。）但也很容易看到這類技術如何被部署於不良目的；如果邊境人員查看某人的手機以試圖確定其是否為恐怖網絡成員，他們也可以確定其是否發表過批評川普的社交媒體言論。目前的爭議之一是地方城市應該在多大程度上加入像 Flock 這樣的監控網絡；當許多司法管轄區承諾在移民執法上不與聯邦執法部門合作時，與一個確實與聯邦執法部門合作的承包商簽約，就違背了這些承諾。

作為真相的愛好者和對其效力的信奉者，我對第三種選擇最持有偏見。然而，我們社會中許多被廣泛且強烈珍視的部分正是建立在它之上的！禁止基於種族決策的反歧視法就是一個似乎不宜貿然放棄的例子，然而種族對於人或系統來說通常很容易推斷。^([5]) 歐洲關於隱私的法規在我看來大多是在堅持技術朝這個方向發展。

然而，我的總體感覺是，我們無法長期把頭埋在沙子裡。最高優先級的用途將推動大規模監控技術的採用，我強烈懷疑對恐怖主義、大國衝突和小規模不良行為者的擔憂將足夠嚴重，以至於這些最高優先級的用途不會被放棄。

一旦駱駝的鼻子進了帳篷，整隻駱駝就會跟進。最好的出路是修正我們的目標和偏好；與其希望地方實體能阻止執行顯然不符合其利益的移民規則，不如制定美國各城市願意配合的新移民規則，然後利用先進技術廉價地執行。^([6]) 培養監視「監視者」的人，使得那些擁有大規模監控系統訪問權限並以腐敗方式使用它們的人本身也被發現並受到懲罰。最引起爭議的是，要習慣於良性的偏差（這種偏差事實上將比看起來更普遍），並使刑事標準與實際行為保持一致（在一個真實限速比標示限速高出 20 英里的世界裡，無處不在的車輛追蹤將不會帶來好結果）。或許最重要的是，這可能會有助於你開始表現得好像正被監視著，且關於你的事情比以前更加顯而易見。

• ^(^) 我應該指出，我的思考方式像經濟學家或系統設計師，而不是律師。關於人們目前認為什麼是合理或不合理的，肯定有廣泛的判例法，但那僅因連續性原因而具有相關性。我們是在想像未來，想像人們適應新情況之後的樣子，這很可能涉及對底層法律的重大修改。

• ^(^) 也可以考慮像 EZ Pass 這樣的無現金收費系統的情況，這長期以來一直讓隱私倡導者感到擔憂，因為它們可以（有時確實被！）用來追蹤人們的行程。不過，這裡並沒有根本性的侵權；任何在足夠多的地方擁有足夠多眼睛的人都可以複製這一點。（我們已經同意每輛車都有唯一的識別碼，以便追蹤！）

• ^(^) 「等等，」你可能會說，「對於一個基準盛行率低於 40% 的特徵，成功率有 60%？人類猜測者怎麼會比一直猜『異性戀』還差？」在他們的數據集中，他們平衡了同性戀和異性戀面孔的數量，所以純隨機猜測的得分會是 50%。這仍然是一個虛擬的情況（它們是交友網站的照片，不是街頭照片），沒有考慮到基準率。

• ^(^) 作為一個對公共衛生感興趣的人，這讓我感到恐懼，但我承認我是一個在互聯網陪伴下長大的「溫室花朵」，經歷了接受度的戲劇性上升和不寬容的下降，而 80 年代的決策者有著非常不同的生活經驗和預期。

• ^(^) 當我還是一名數據科學家時，我研究過這裡的合規輪廓。許多不是種族的事物仍然能提供關於種族的信息，因此你可以從單獨使用是合法或合乎道德的信息中構建一個複合指標，而這個指標只是種族的代理，因此該複合指標的使用是非法或不道德的。於是人們開發了統計技巧來試圖確保這種情況不會發生，使複合指標僅由「合法」的影響組成。這涉及為了達到某種社會目的而刻意且蓄意地對世界事實視而不見，但這就是禮貌的無知！

• ^(^) 關於移民及海關執法局（ICE）行為不當、拘留美國公民以及在街頭對人進行種族剖析的恐怖故事太多了。建立全國人臉識別數據庫會使情況改善還是惡化？一方面，Flock 和類似系統將允許 ICE 注意到任何沒有合法居留權的人出現在公共場合；另一方面，將沒有理由不立即檢查數據庫並釋放合法居民。我認為移民改革意味著我們可以獲得後者的好處而無需支付前者的代價；當然，移民改革本身就是一個問題，將會有專門的文章討論。

參與討論