衝突升級與認知

Lesswrong·

衝突的升級對微小的變化與感知極為敏感,即使是錯誤的侵略感知也可能觸發真實且自我強化的升級循環。這種敏感性創造了一個危險的環境,讓敵對立場能在偽裝成單純錯誤的同時,利用合理的推諉藉口進一步助長衝突。

轉載自我的部落格

前言

衝突充斥著世界。衝突可能僅僅源於錯誤,但許多衝突並非單純的錯誤。我們不理解衝突。我們之所以加倍地不理解衝突,是因為有些衝突偽裝成錯誤,而我們希望它們只是錯誤,所以我們樂於接受這種偽裝。這是我們的一個錯誤,哈哈。我們應該研究衝突,直到我們理解它為止。

這篇文章嘗試勾勒出衝突的幾個面向——很大程度上是作為一種希望,期許未來能有機會理解其他面向。

摘要

  • 在醞釀中的衝突中,升級與降級的傾向對「導數」(derivatives)非常敏感,即對方行為的微小變化。

  • 由於各方是根據其「感知」來採取實際行動,因此衝突升級也對單純的感知非常敏感。

  • 通常有充足的素材(燃料)來支撐對升級的感知——要找到對方令人擔憂之處非常容易。

  • 有許多方式會使一方的感知發生扭曲,導致他們誤將對方的行為解讀為升級。

  • 這為衝突立場提供了「合理推諉」(plausible deniability)的掩護,使其能在假裝只是犯錯的同時,推動衝突升級。

升級對導數很敏感

紫色方(Purples)與綠色方(Greens)已達到沸點,即將開戰。目前尚未發生入侵,但雙方的部隊已沿邊境部署,準備在數分鐘內採取行動。隨著緊張局勢溢出,任何事情都可能引發實體戰爭。

紫色方的領導人 Pearl 想要避免砲火交鋒,因為這是一種極度負和的交換。但她也不會單方面從邊境撤回紫色方部隊,以免讓綠色方(如果他們有單方面的敵對意圖)獲得先發制人的優勢。與綠色方指揮官 Grant 的初步降級談判進展順利,但 Grant 的真實意圖被戰前的迷霧所掩蓋。

Pearl 該看什麼來判斷自己應如何應對局勢?或者,一個更明智的問題是:Grant 可以做什麼,好讓如果他想一路降級回到和平,Pearl 也能安全地跟隨他走上這條路?

這是一個簡單的問題,答案也很簡單:Grant 可以開始撤回他的部隊。Pearl 能看到這一點,並推導出一條可能的路徑:Grant 的部隊持續撤退,逐漸但最終完全消除威脅。

在對方的威脅依然存在時,Grant 和 Pearl 都不願意大幅削弱自己的威脅。每一次部隊移動都必須是微小的。但這足以實現降級:

透過選擇指向理想協調軌跡的微小變化,Grant 和 Pearl 可以讓每一個下一步看起來都是正確的一步,從而共同遵循該軌跡。這就是訣竅:你可以透過尋找一條由「微小單方面變化」組成的路徑,來實現「巨大的協調變化」,其中每個變化單獨來看在單方面執行時都是足夠安全的,但卻能沿著更大的軌跡取得進展。Grant 利用了 Pearl 會根據 Grant 的導數進行推演並據此行動的事實;反之亦然,Pearl 也依賴 Grant 的推演。

但由於「軌跡」是基於「導數」建立的,因此軌跡對導數非常敏感。導數上微小的絕對差異會導致軌跡的巨大差異:

如果 Grant 的部隊向前移動了一小步,Pearl 可能會做出同樣的回應,然後我們就開戰了。

升級對感知的導數很敏感

假設 Pearl 誤以為 Grant 將其中一輛坦克向邊境推進。這在 Pearl 看來像是升級。於是她也推進一輛坦克作為回應。所以,回顧一下:Grant 並沒有推進坦克,然後 Pearl 推進了她的坦克。

即使 Pearl 保持謹慎,推進坦克的程度比她「以為」Grant 推進的程度還要「小」,但從 Grant 的角度來看,Pearl 沒來由地推進了坦克。Grant 隨後就會真的推進自己的坦克。單純對坦克推進的感知,導致了坦克推進的現實。

他甚至可能比 Pearl 推進得更多,從他的角度來看這是有道理的:就他所知,Pearl 在未受挑釁的情況下升級了局勢,對這種行為不留餘地可能是適當的。接著從 Pearl 的角度來看,Grant 在她試圖透過相對溫和的回應來降級的情況下,反而進一步升級了。於是 Pearl 進一步升級。

因此,感知到的升級會迅速演變成真實的升級。(參見「寬容的以牙還牙」策略,當玩家有顫抖的手時,這種策略比單純的以牙還牙表現更好。)

有充足的素材來感知升級

這一節的簡單觀點可以用一張圖來總結:

你總能在對方身上看到一些東西,讓你認為他們正在升級、準備升級,或正在策劃長期的升級。隨著對方變得規模更大、更複雜、更不均質且更缺乏自我監管,這一點就越發趨向真實。

(一方或雙方都可能具有源於實際侵略或升級的警示特徵,程度可能相同或不同;我們不應在不存在對稱性的地方假裝對稱。)

詳細說明:

考慮經典的迭代囚徒困境。這是兩個代理人之間非常乾淨俐落的互動。只有單一頻道,有預定義的行動空間,行動有預定義的後果。在這種背景下,理解兩種策略對弈時會發生什麼事是相當直接的。因此,有時設計出表現良好的策略是可行的。我們可以知道「以牙還牙」(Tit-for-Tat)優於「合作機器人」(CooperateBot),因為我們可以透過分析看到它在對抗「背叛機器人」(DefectBot)時表現更好;我們也可以看到,當玩家有顫抖的手時,「寬容的以牙還牙」比純粹的「以牙還牙」表現更好(至少在對抗 TFT 和寬容 TFT 時)。

同樣地,如果 Pearl 和 Grant 「僅僅」透過紫綠邊境的坦克移動進行互動,他們處於一個相當受限的環境中,擁有相當清晰的感知、導數、軌跡以及通往衝突或降級的路徑。我們是把坦克移向邊境還是遠離邊境?僅此而已。

現實生活並非如此。現實生活中的實體是以吻合(anastomotically)的方式相互關聯的:

兩個實體的不同面向會透過各種異質的管道相互影響。如果你有一根香蕉,你可以:

  • 看它,

  • 用手指摸它,

  • 聞它,

  • 進行基因定序,

  • 用質譜儀分析它,

  • 聽它(用超音波),

  • 消化它,

  • 追溯它的個體歷史或演化歷史,

  • 數學分析它的形狀,

  • 把它扔向某人,

  • 種植它,

  • 諸如此類。

現在想像一下,兩個人之間,或人類群體之間,可能存在多少種不同的影響管道。它們就像人類努力的整個範圍一樣多樣。

如果你處於衝突中,你必須考慮來自敵人的所有可能影響管道。一些語錄(由 AI 提醒我):

  • 一戰法國總理喬治·克里蒙梭(George Clemenceau):「將軍們總是準備打上一場戰爭,尤其是如果他們贏了的話。」(敵人會將戰術更新到你未準備好的新管道。)

  • 國防部長詹姆士·馬提斯(James Mattis):「敵人也有一票。」(你的計劃聽起來可能很完美,但敵人正在進行極小化極大搜尋,尋找破壞它的方法。)

  • 麥克·泰森(Mike Tyson):「每個人都有一個計劃,直到嘴巴挨了一拳。」

當你考慮敵人可能接近的多種管道時,你就有了許多機會去感知攻擊,無論其是否真實。以下是一些可能導致感知升級的廣大表面積的方式:

  • 群體規模
    在大群體之間的衝突中,每個群體都包含許多人,每個人都是潛在的升級管道。

例子:如果美國有人犯下體力暴力,他們可能會因其政治傾向而受到調查。然後,相應的政黨整體可能會被歸因於具有敵對意圖。

  • 群體異質性
    群體是異質的,因此有許多具有各種行為立場的人,包括具有真正敵對行為立場的邊緣(或不那麼邊緣)人士。

例子:絕大多數群體中的絕大多數人不會向他人發送死亡威脅。但有些人會。

  • 過度概括
    事件可能會脫離其特定背景而被過度概括。你可以將一個微小的局部衝突解讀為僅此而已——微小且局部,與更大的衝突沒有強烈關聯。或者,你可以將其解讀為更大衝突的一部分。透過這種方式,衝突就像「變形蟲」(the Blob)一樣合併成超級衝突。

例子:如果發生了一起顯然帶有種族仇恨的暴力行為,這可能會被解讀為國家或全球種族戰爭的一步,而不管該衝突的實際主因是否是局部的、僅限於那些人的。由於存在許多局部特定的衝突,任何大群體的成員都有機會捲入與另一個大群體成員的局部衝突中;此類衝突可以被回溯到大群體之間的衝突。

  • 言論的豐富性
    人們喜歡說話。既然人們說了很多,就有大量的素材可供篩選。

  • 例如,你可以斷章取義某人的評論,誤導他人關於其言論的本意。

  • 例如,你可以將某人反對 X 的言論剪輯成影片,並省略其所有支持 X 的言論,虛假地使該人看起來非常反對 X。

  • 例如,如果發生了一個具有高度不確定性的事件(如私人談判、戰爭期間的攻擊、很久以前的事件),會有不同且不清晰的說法,由具有不同偏見或撒謊動機的人提出。

  • 歷史深度
    如果一場衝突已經持續了很長時間,過去的人物、事件和言論都在考慮範圍內。

例子:你可以找到居住在聖地的猶太人和阿拉伯人在不同時間和地點發表的言論,表明對另一方的敵對意圖。有充足的素材將任何一方描繪成秘密計劃除掉另一方。(這並不意味著在任何一種情況下它是真或假;僅憑這些證據你根本無法判斷。)

有充足的偏見會過度強調升級

一方的感知會透過許多方式被扭曲,從而使另一方的升級行動被過度呈現:

(這可能發生在一個或兩個方向上,程度相同或不同;我們不應在不存在對稱性的地方假裝對稱。)

這可能發生的一些原因:

  • 確認偏誤(Confirmation bias)。

  • 敵意是顯著的(Salience)。

「沒壞就注意不到」/「會叫的輪子有油吃」。你不會注意到那些沒製造麻煩的人;你會注意到那些製造麻煩的人。

  • 如果一個你不認識的人費心聯繫你,他們一定有某種實質性的理由。因此,他們是被「憤怒」篩選出來的,因為憤怒是強大到足以讓他們給你發消息的動機之一(儘管還有其他動機)。

  • 衝突模式
    僅僅處於衝突模式就會讓你尋找升級的跡象。

一般來說,我們會感知到我們正在尋找的東西;如果你正試圖計算籃球傳球次數,你就太不太可能看到大猩猩

  • 你能回想起最近幾個例子,是政治立場與你相反的人做了違反規範或對你顯得敵對的事嗎?現在,你能回想起最近的例子,是這樣的人維護了規範,或做了表明真正渴望建設性和平的事嗎?(好吧,也許對方真的大多是破壞規範、大多是敵對的,等等。)

  • 試圖勸阻你的行為看起來像敵對行動
    如果有人想與你講和,他們可能自然地想說服你,他們那一方的行動並不代表整體的升級意圖。但這很容易被解讀為一種長期策略:解除你的武裝、讓你放鬆警惕,以便稍後發動毀滅性的打擊。

  • 當你回絕他們的和平表態時,對方可能會感到不安,即使他們真的想要和平,因為你正在回絕「我們雙方都在走向和平」的共同敘事。如果他們感到不安,你可以看到他們的不安,這看起來很可疑。而且他們事實上可能會開始或增加操縱行為以試圖說服你;那麼你將他們的操縱解讀為源於根本的敵意就是合理的。

  • 參見 https://www.lesswrong.com/posts/n299hFwqBxqwJfZyN/adele-lopez-s-shortform?commentId=zWyC9mDQ9FTxKEqnT

  • 魔鬼帶著他的詭計而來
    出自哥林多後書 11:14-15:「……撒但也裝作光明的天使。所以他的差役,若裝作仁義的差役,也不算希奇。……」

  • 誘導敵意
    你可能沒有追蹤自己是如何誘導敵意的,導致你誤解了敵意的增加。

你可能感知到一些升級。然後你變得更加緊張、警覺。那種姿態帶有輕微且模糊的敵意。你與對方的其他人互動;他們對你的輕微敵意報以輕微敵意。他們大多並不敵對,但你看到的是他們最敵對的一面,因為是你誘導出來的。你誤解了。你以為他們一直都是那樣。而且你以為他們突然之間、一下子變得更加敵對。

  • 參見 Nick Fuentes,也許吧。

  • 過濾氣泡(Filter bubbles)。

  • 割韭菜;吸引注意力的動機
    你可以透過獲得參與度來獲得關注,甚至金錢。

  • 來自對方的敵意(無論真實與否)對人們來說是非常顯著的。例如,激怒能帶來參與度,而對方顯而易見的升級可能是令人憤怒的。

  • 第三方煽動者
    想要導致升級的第三方可以製造假旗行動,或者只是將更多注意力吸引到敵意指標上。

  • 內部的升級派
    任何一方的某些元素可能想要升級,因此可能會放大對另一方敵意的感知。

  • 你這一方的廣播者可能會選擇放大來自另一方的敵意影像。

  • 對方最敵對的元素可能想要顯得具有侵略性,因此可能會放大他們自己的形象。

  • 例如,他們可能想挑釁你這一方的反應,以便隨後挑釁他們自己那一方變得更加團結和敵對。

  • 例如,他們可能只是想引發徹底的衝突。

  • 吹狗哨
    某些元素可能想透過表演性地將注意力吸引到對方看似敵對的元素上,來為升級吹狗哨。

  • 廣播者的偏見
    你那一方有廣播者。那些廣播者控制著你那一方對另一方的感知。那些廣播者也可能因為其廣播者的身份,而具有偏向於看到敵意的感知。

  • 對方最糟糕的人會找上你的廣播者。換句話說,公眾人物充當了敵意的避雷針(一種雲層電壓差的放大鏡,哈哈);然後他們廣播那種經驗。

  • 例如,Matt Walsh(美國右翼政治評論員)說他收到了許多來自左翼人士的死亡威脅。大多數右翼人士不會收到任何死亡威脅,但他作為公眾評論員非常顯著;所以左翼的注意力集中在他身上。他得出結論認為左翼半瘋了,或者類似的結論。然後他向右翼廣播這個結論。

  • 感知敵意的「單邊主義者詛咒」
    對於敵意的感知存在一種單邊主義者詛咒。在紫色方,會存在感知偏見的分佈;有些紫色方人會更偏向於「不」看到綠色方的敵意,有些則更偏向於「看到」敵意。對於那些最偏向於看到敵意的紫色方人,他們會覺得自己進行某種程度的升級是合理的。然後綠色方就會看到來自紫色方的實際升級。

虛假的錯誤感知

回顧一下:綠色方有充足的素材讓紫色方感知到來自綠色方的升級。而且,有許多合理的理由讓紫色方偏向於感知到比實際更多的綠色方升級。因此,紫色方很可能對綠色方有很多扭曲的感知,事實上,有時會錯誤地過度反應。

但此外,一個紫色方人因此可以總是虛假但合理地表現得像是「誤以為」感知到了綠色方的升級。他有充足的談話要點可以依靠——不一定要讓聽者相信關於綠色方的指控,而是要讓聽者相信他只是困惑或搞錯了,作為一種更高層次的關注調侃(concern troll)。

一般的關注調侃者是一個假裝成綠色方的紫色方人。他會說他擔心綠色方正在做的某些事,比如:「如果我們想成為好的綠色方人,我們難道不應該做 XYZ 而不是我們現在正在做的事嗎?」,而 XYZ 並不是一個清晰傳達的好主意。其目標可能是將綠色方推向無效的方向;在綠色方中散播懷疑、缺乏信心和不協調;浪費綠色方領導人的時間和精力;並透過讓綠色方領導人跟著愚蠢的曲調起舞來羞辱他們。

更高層次的關注調侃者是一個假裝成紫色方人的紫色方人。或者更確切地說,是一個想要更多衝突的紫色方人,假裝成一個因為對綠色方的錯誤感知而增加衝突的紫色方人。目標與一般的關注調侃者相同,但在這種情況下,目標聯盟不是綠色方,而是那些試圖進行「錯誤理論」(mistake-theoretic)合作的人。

所以,你有一個想要升級的紫色方人,假裝只是對綠色方有誤解。這個紫色方人可以調侃綠色方的錯誤理論者:他們想要相信這是一個錯誤,所以他們花精力試圖糾正這個所謂的單純錯誤。這個紫色方人也可以用同樣的方式調侃紫色方的錯誤理論者:那些紫色方人浪費時間試圖糾正這個虛假的錯誤。

當然,更簡單地說,這種紫色方的虛假錯誤可以維持合理推諉,同時實際上誤導一些紫色方的錯誤理論者,讓他們認為綠色方的升級程度比實際情況更嚴重。Eukaryote 指出,那些被誤導的紫色方人正在犯錯。

(為什麼錯誤理論者不明白這一點?他們「想要」相信嗎?這是一種轉移性的混亂嗎——其中,一個錯誤理論者看到一個衝突理論者,心想:「啊,他們未能合作糾正錯誤,但他們肯定『想要』這樣做,所以我只需要在對象層級和元層級上糾正他們,讓他們『回到』尋求真理的正軌上。」?)

還有其他的紫色方衝突理論者。他們會呼應、放大、支持並完善紫色方對升級的虛假錯誤感知。

為什麼紫色方想要升級

我不知道為什麼會發生這種事。一些原因:

也就是說,人們感覺到正在發生某種感知不明的「衝突」。他們可能不知道它是什麼、關於什麼、誰參與其中、是什麼引起的、為什麼發生、走向何方、計劃是什麼、是誰與誰之間——他們只能看出存在衝突。既然存在衝突,其中一方就會獲勝,並懲罰任何沒有加入該方的人。他們最好選邊站,否則你肯定不會成為獲勝方的一部分,所以你肯定會受到懲罰。

  • 作為一個類比,想像一位中高層經理感覺到高層管理人員正在大洗牌。有兩個候選人可能接掌權力。你最好至少與其中一個結盟,這樣你就有機會獲得下一任 CEO 的青睞。所以你選擇一個並與之結盟——包括幫助其奪權。你成了這場大洗牌的積極煽動者,而這場洗牌的可能性最初正是促使你走上這條路的原因。

為什麼不立刻全面爆炸?

有時會爆炸,有時不會。

還有一大堆力量阻止事情爆炸。人們是寬容的;人們在避免衝突方面有許多物質利益(個人危險、生活水準的危險、財產危險、商業利益危險、關係危險);人們除了陷入衝突之外還有其他事情要做。

存在著反對衝突的反饋迴路。正和互動會誘導更多的正和互動和相互依賴。信任產生信任。人們記得衝突的破壞性並想要避免它。歷史持續得越久,就有越多的人研究衝突並一點一點地理解它。

所以,在關係中(派系、國家、人、企業之間……),有一堆力量拉向不同的方向,處於某種瘋狂的平衡中,有時向這一邊傾斜,有時向另一邊傾斜。

該怎麼辦?

我不知道。多研究,多理解。背誦參與衝突的祈禱文

.לֹא יִשָּׂא גוֹי אֶל גוֹי חֶרֶב לֹא יִלְมְדוּ עוֹד מִלְחָמָה

Lesswrong

相關文章

  1. 給STEM領域人士的後現代主義:衝突理論的白話指南

    5 個月前

  2. 區分預測與目標追求

    大約 1 個月前

  3. 邁向集體繁榮的漸進之路

    3 個月前

  4. 最新研究顯示:核戰爭因意外發生的機率是AI決策的兩倍

    大約 2 個月前

  5. 為何控制會引發衝突,以及何時該選擇開放

    17 天前

其他收藏 · 0