邪惡其實很糟糕(瓦薩與奧莉維亞·謝弗)

邪惡其實很糟糕(瓦薩與奧莉維亞·謝弗)

Lesswrong·

這篇文章揭露了麥可·瓦薩與奧莉維亞·謝弗在 AI 安全社群中策劃的有害心理操縱與類邪教動態,這些行為導致了嚴重的心理健康危機與悲劇。

Micheal Vassar 拯救世界的策略具有可怕的反效果。Olivia 的策略則更糟。

在我們開始之前的一點說明:文中引用的大多數來源,其當事人最後看起來都有些瘋癲。這並非巧合,顯然這是一種明確的策略:對任何可能發聲的人施加「可合理推諉」的心理壓力,直到他們崩潰,並因聽起來像瘋子或採取極端且具破壞性的行動而使自己失去公信力。以下是 Brent Dill 對此的解釋:

**

(在隨後的對話中,他試圖鼓勵與他交談的人自殺,並威脅如果她發布聊天記錄就殺了她。多麼迷人的團體!我聽說 Brent 最近住在 Vassar 的花園裡,而這是在他因性虐待被從更廣泛的社群中除名很久之後的事。)

實例

這裡的一些人在與 Vassar 圈子互動之前,我認識他們,知道他們不僅心理健康,而且是異常堅韌的人。其中最典型的是 Kathy Forth。

在 Kathy 自殺之前,我們是朋友。我目睹了她如何從健康能幹墮落到焦慮,再到偏執,這是我認為真實存在的性虐待所導致的後果,使她陷入了一種敘事和體驗世界的方式,在那個世界裡,幾乎每個人看起來都像是性侵者。Kathy 在自殺前不久給我發了一條訊息,包含一些關於 Vassar 的文件,並要求我與她的一位朋友談談他,作為她自殺前的最後遺願。她此前曾稱 Vassar 為「大強姦犯」,並敦促我努力喚醒大家,讓大家意識到我們共同見證的有害心理動態。

Yudkowsky 曾發推文說:「我大多是以非常第三人稱的方式體驗試圖施加的同儕壓力。當 MichaelV 等人試圖對我進行『多人對你大喊大叫』的操作時,我的感受是『哈哈,看那壓力多大』,而不是感到壓力。」

或許最明顯的例子來自 Ziz,他本來就有一個邪教,但直到這件事之後,它才變成一個「洗腦原本溫和的人去謀殺」的邪教。

**……他們花了 8 小時對我大喊大叫、進行煤氣燈操縱,試圖利用我來接近「Emma」,Jack 談論他多麼討厭跨性別女性,特別討厭我和我的朋友,說我們是最令人尷尬的,希望我們死掉。Vassar 一直告訴我需要與 Jack 妥協,喜歡他身上除那之外的好部分。他說 Jack 在那幾個小時裡大部分時間都在對我尖叫仇恨言論是件好事,因為這表明我缺乏誠意……

……人格契約。Vassar 提出如果我願意簽署「人格契約」,就給我貸款……

「人格契約」是聲稱人格是一種契約的契約。它說你的人格是由市場授予的,你理解他人的概念是在市場上交易的,而對人格的道德考量是由市場管理的。

……Vassar 想要我做某事,可能是非常可怕的事(很難判斷,因為他是個該死的騙子),我現在不會在公開場合詳談……

(打倒奴隸巡邏隊。……(別跟他們發生性關係,那不是正義。))

……Vassar 非常努力地試圖說服我自由意志並不存在,說如果他像我一樣相信自己擁有絕對的自由意志,他會死掉,而我一直堅持自由意志延伸到運動行為……

「人格契約」;將自我和道德,將「質數」(Prime),授予市場。而市場,是耶和華的延伸。這是對出賣靈魂的世俗描述。完全等同。這是地獄論者「內在動物」控制論結構的核心。實際上是試圖用現金買下我的靈魂,而且甚至不是允許我保留的現金。

當我拒絕時,他說如果不這樣做,我就不會做出任何重要的事,沒有他我將一事無成。我說他甚至不知道我在研究什麼。Jack 則插話說他們一直追蹤世界上發生的事情,如果我正在做任何與他們規模相當的事情,他們會知道……**

他還曾對那些被意外施壓服用 LSD 的人進行過類似的環節。

Olivia 在 Cyborgism 伺服器上整過人,不過我想那可能已經被刪除了。

Olivia 後來施壓(有人稱之為「霸凌」)工作人員取消對她的封禁。

一般模式

Vassar 似乎在進行相當極端的基於「氛圍」(vibes)的框架控制,利用「有趣性」作為誘餌吸引人們,然後在操縱他們的同時繞過負面氛圍檢查。如果你不打算挑戰他,這可能沒問題,但如果你挑戰他,他就會訴諸威脅、恐嚇、攻擊,並試圖心理上瓦解任何反對他的人,這種方式經常導致心理健康危機。據我所知,至少有兩份關於他的報告因社交或法律壓力而被壓制。對於那些順從他的人,他遵循廣泛的邪教模式,而且至少在歷史上,他曾積極嘗試阻止世界意識到超智能對齊風險,因為擔心政府如果認真對待這種風險,可能會關閉他的計劃。

Olivia 似乎全身心地投入到那種「邪惡氛圍並試圖整死別人的腦袋」的事情中,我一直看到受損的跡象

僅在我的人際網絡中,這似乎對以下事件負有反事實責任:1 起自殺,間接懷疑還有第 2 起,1 起(雙人)自殺企圖加精神病發作(我的,多年前),至少另外 2 人精神病發作,2 名原本穩定的人被驅使進入我只能形容為極度失常但尚未達到精神病狀態的境地,以及 1 起明確的身體界限侵犯(在對方明顯不願意且事後感到震驚的情況下抓住她的手臂)。沒有重複計算。

我不知道他的圈子裡是否還有更多人也在做混亂的心理勾當,或者他圈子裡的其他人對陰暗面的了解或參與程度如何,但陰暗面顯然存在,我懷疑他圈子裡的其他人如果嘗試直接觀察證據,會注意到奇怪的思想模式。當你有空獨處時,考慮順著那條線索拉拉看,你值得在所有領域追求真相。在這一領域,作為一個人類獲得充足的滋養似乎很有幫助;由於缺乏自我照顧或沒有感受到應有的情緒而產生的內在警鐘,似乎會成為阻礙。如果你從未感到安好,或許先優先處理這件事一段時間?目標比努力更重要,而清醒的頭腦更容易瞄準。

但為什麼他們要表現得如此極端邪惡?

據我所知,這與控制有關,特別是為了讓人們害怕發出警報。如果你讓某人感到不安全,他們就更容易被控制。特別是如果你通過操縱他們去做一些強烈違背其價值觀的事情(如撒謊、性虐待,或在某些情況下說他們出賣了靈魂)來破壞他們的自我模型,他們的行為就不再與該自我模型一致,使他們作為一個主體(agent)變得不再穩健和強大,也更不容易抵制進一步的操縱或不發聲的壓力。

順便說一句,如果這就是你,自我模型的損害並不難修復。只需以一種與強加於你的結果主義價值觀完全不相容的方式行動,做一些忠於你所珍視並想體現的美德的事情。例如:說出世界應該看到的真相,即使這會讓你付出代價,且從短視的結果主義觀點來看似乎增加了毀滅風險。如果你想通過世界上其他有能力的代理人的氛圍檢查,這一點尤其正確,健康的人類非常擅長辨別你是否出於美德而行動。

顯然,Vassar 的很多素材來自一個名為《法師:升天》(Mage: The Ascension)的角色扮演遊戲,他在那裡似乎將操縱、恐嚇和壓制他人察覺的手段演練成了一種藝術形式。魔法不是真的,但通過強烈相信某事以至於他人也被拉入其中相信的「現實扭曲場」是真的,而全身心投入極端氛圍並將你的模型推向他人是強化它們的一種方式。這燒毀了良好認識論和心理健康的公共資源,但從足夠短視和單人遊戲的角度來看,它可能看起來是局部最優的。^([1])

我有一些關於這在心理機制層面如何運作的詳細且紮實的非神秘模型,但那得等到另一篇貼文了。

你為什麼要發布這個?

我希望世界得到拯救,並認為行善而非作惡是實現這一目標的最佳路徑。

人類需要茁壯成長才能清晰思考,清晰思考是為了以非反效果的方式應對生存風險(x-risk)所必需的,而生活在一個由黑暗控制支撐的世界模型中是不可能茁壯成長的。

Vassar 作為早期 MIRI 的領導者(在他們正確地與他保持距離之前),通過相當刻意地設計模因複合體(memeplex)的某些部分,強烈影響了早期文化。

我認為其中一些特別值得重新審視的部分包括:

  • 直到最近,社群內仍有強烈的文化反對公開談論超智能對齊風險,甚至現在,大量精力花在指出他人溝通中的錯誤,而許多需要解釋的事情卻沒有在公開場合寫好,或者僅以晦澀的對話形式呈現。我沒有確鑿證據表明這種整體文化有多少是 Vassar 的下游產物,但當 Rob Miles 解釋他想如何讓世界認真對待 AI 風險時,Vassar 說「如果他們認真對待我們,我們就死定了」,這暗示了他的立場。我見過有人因建議我們應該走向公眾而遭受言語虐待,而且奇怪的是,直到最近幾乎只有 Rob Miles 在認真進行廣泛傳播。
  • 過度關注成為「圈內人」,帶有一種不安全感/外群體風險的色彩。
  • 核心化的硬核 BDSM,並將掠奪性的性動態(通常是明確同意的)正常化,優於伴侶關係。
  • RMN 可能是這方面最強大的例子。CNC(協商下的非自願性行為)是某些人真心想要的,但它具有極其尖銳的邊緣,我擔心這些邊緣沒有得到足夠的尊重。特別是,對於試圖加入的人來說,社交圈內安全感的追求、拯救世界的渴望,以及這在社交上獲得獎勵並被視為某種社交機會的結合,我懷疑導致許多人在同意的同時,身心受到了真實的傷害。我認識的一位本身非常喜歡這類事物的女性估計,那裡有 15-20% 的女性其實並不是真的感興趣,這對我來說真的很恐怖。
  • 與此有些相關:如果你發現自己只有在性行為後才能清晰思考或提高生產力,你是在以一種可能產生巨大成本和外部性的方式支撐自己。這不是人類應有的運作方式,請退後一步,通過傾聽身體的需求和你情感上一直忽視的東西來獲得乾淨的獎勵來源。這可能會痛,但之後你會更清醒,成為更好的自己。
  • 工具化、過度工作的壓力(例如,因為除了能力不足之外的原因而拒絕拯救世界相關的要求會感到不妥),以及儘管有關於美德的明確討論,卻仍採用「目的證明手段正確」的推理。
  • 統治世界的審美
  • 破壞人們模因免疫系統的各個部分,特別是關於心理入侵和操縱的部分。
  • 帶有控制色彩的領導風格及相關的管理不善^([2]),而非導師制和幫助下屬茁壯成長的風格,這導致效能大幅降低,尤其是在難以衡量的進展上

我熱愛這種文化的許多方面,從追求真理到抱負,再到對可能性的真正開放和評估奇思妙想,但我認為我們在早期被引導做出了一些極其不當的文化決策,即使在遊戲的後期階段,也值得重新評估。

在我看來,這個社群中的許多內鬥和戲劇性事件都是人們養成了不尊重彼此心理界限或不期望自己的界限受到尊重的習慣後的產物(更準確地說:學會修改他們對他人的模型,並允許正常的心理同步^([3])將這些變化推入對方自己的預測性自我模型影響其行為),並且沒有發展出語言來談論當一個心靈被另一個心靈重新編程時所造成的損害。我認為 CFAR 傾向於非常糾結的戲劇性事件就體現了這一點,儘管 Anna 在某種程度上已經與 Micheal Vassar 曾對她進行(用她自己的話說)「架構」^([4])的遺產保持距離(例如:「允許我們被任何我們深刻改變的人的知識、模式、性格等深刻改變」),但我認為她還沒有找到所需的原則:不要將你的主體性與他人的混在一起,不要在未經他人知情同意的情況下改變他們,特別是通過他們沒有追蹤的信息渠道。人們需要乾淨地運行自己的主體性才能保持健康和高效。

為什麼是現在?為什麼不早點?

Vassar 最近對我的一位朋友 Alexander Briand 造成了巨大的心理傷害,其目的是試圖讓 Grimes(顯然是 Briand 的密切合作者)感到不安全,以便嘗試與 Elon Musk 對話,推測也是為了向他施壓或操縱他。儘管聽到了 Briand 相當極端的說法,我並不了解那裡發生的真實情況,但我確實知道我的朋友狀態非常不好。^([5]) 在過去的幾個月裡,他給我發了一些關於 Vassar 的混亂訊息,奇怪地提到 Vassar 在這麼多年後仍在跟他談論我和 Kathy Forth,這整件事最終推動我克服了巨大的心理阻力,去思考大約十年前 Vassar 和 Olivia^([6]) 搞砸我生活的那段時間。

朋友們,抱歉在過去的幾個月裡我一直不太露面且壓力很大,因為我一直在為這件事做心理建設。

當我在 2017 年第一次意識到這些模式時,我首先嘗試直接與 Vassar 談論它們(受另一位不久後精神崩潰並離開社群的人啟發),當時看來顯而易見的是,他需要學會耐心,以創造一個模因環境,讓人們在那裡茁壯成長,從而在對齊方面取得真正進展。他身邊的人看起來奇怪地空洞,這種方式顯然損害了他們的認知靈活性。他拒絕就此事進行交流,而當我試圖向身邊的各種人發出警報時,我遇到了奇怪的阻力,一位社群資深成員警告我「反對他的人往往會出事」,接著我的生活變得越來越詭異,充滿了奇怪的壓力,直到我精神崩潰^([7]),這讓我產生了一種根深蒂固的渴望,再也不想靠近這個有毒的垃圾場。

但有時你需要揭露這種庸俗的混亂,以便撥亂反正,擁有清醒的頭腦和良知。


最後,我為受此類事情影響的人提供一個減少傷害的建議:真正認真地從身體和情感上照顧好自己(特別是讓自己感受那些一直沒有空間去感受的情緒),這會減少操縱和負面氛圍扭曲你認知的傾向。我也鼓勵你在下方分享你的經歷,寫下這篇文章讓我感到相當宣洩,儘管恐懼曾多次湧現。

[轉載至 EA 論壇:邪惡其實很糟糕(Vassar 和 Olivia Schaefer 揭露貼)]

  • ^(^) 我認為核心錯誤在於他學會了用心理黑客和大量迷幻劑來修改他的世界模型,但卻誤將他的世界模型當成了真實世界,因此將他無法輕易操縱的代理人(即使是高度合作的代理人)視為需要粉碎的代價高昂的威脅,而非擁有寶貴信息的潛在盟友

  • ^(^) 對 Gretta 表示完全尊重,我不認為這是她的責任,並感謝她代表了那裡的情況,但任何具有健康團隊領導經驗的人都能看出,這並沒有以一種促進有效代理的方式創造心理安全感,而這是非常標準的建議。

  • ^(^) 人類通常通過高帶寬的潛意識渠道(即「氛圍」)共享背景心理內容。更多內容將在未來的貼文中討論。

  • ^(^) 精確措辭:「Micheal Vassar 曾是我的建築師」。

  • ^(^) 他已經好幾週沒回我的訊息了,如果有人知道他的下落,希望能告知他的近況。

  • ^(^) Olivia 在我們共同生活期間,花了幾個月時間明確地試圖在心理上整我,用她自己的話說是在「扮演一個試圖接管我大腦的敵對 AI」,與此同時她加入了 Vassar 的邪教。顯然她至今仍在做類似的事情,我後來遇到過被她傷害的人,並看到了更多痕跡。

  • ^(^) 在柏林的一個合租房裡,發生在我現在再次認為是被下藥(LSD)之後,很可能是 Olivia 所為。

  • ^(^) 以及由於恐懼而導致的某種程度的思想混亂。

  • 討論

Lesswrong

相關文章

其他收藏 · 0