人工智慧：一場特洛伊木馬式的競賽

我曾論證過，AI 的局勢顯然並非一場「軍備競賽」。我的意思是，即使從自私的角度來看，追求速度也未必是好事。

我覺得這個觀點很難傳達。畢竟，這些人確實在「競賽」。他們說自己在「競賽」。他們正「全速前進」。如果他們停止「競賽」，另一方就會先到達終點。這怎麼可能不是一場「競賽」？

這是一個合理的反應。

這就像我指著一群正在激烈對弈的西洋棋冠軍說：「這不是一場西洋棋比賽。」怎麼可能不是呢？

好吧，也許在這種情況下，所有可獲得的獎項和認可都是基於贏得「跳棋」比賽。那麼從一個非常重要的意義上來說，這就不是一場西洋棋比賽。他們可以隨心所欲地玩西洋棋，但這並不會讓激勵結構變成西洋棋比賽的模式。如果他們想在比賽中獲勝，他們的策略就大錯特錯了。

的確，許多人正試圖以極快的速度開發 AI。但「許多人快速開發 AI」與「處於一個『快速開發是最佳自私戰略舉措』的博弈中」是兩回事。

當「贏得競賽至關重要」成為以下行為的辯護理由時，這一點就變得非常重要：a) 以對他人造成極高成本為代價快速前進；b) 放棄協調其他玩家不要快速前進，因為假設其他玩家由於受到強大激勵，而不可動搖地致力於贏得競賽。

這些辯護理由都要求激勵結構「確實」是一場競賽，而不僅僅是人們正在競賽。

「AI 到底是一場軍備競賽，還是人們只是在競賽？」聽起來像是一個抽象的問題。但如果有人說，他們需要冒著你家人的生命危險，來支持他們贏得一場賭注極高的西洋棋錦標賽，那麼他們是否真的在參加西洋棋錦標賽，就變得非常具體且重要了！

雖然這是一個基本觀點，但我猜測「人們正在做的事」與「符合他們利益的事」之間的區別過於微妙且難以記憶，以至於在對話中難以被追蹤。

因此，我提出一個我認為能更直觀地將「激勵」與「行為」分開的意象：將 AI 視為一場「特洛伊木馬競賽」。

各個團體都在努力將各自的木馬拉進自己的城門，堅決要在敵人拉進這樣的戰利品並以其中的內容超越自己之前完成。至於每匹馬裡面裝的是稀世珍寶，還是一群敵方特務，這仍是一個懸而未決的問題。（在歷史的這一刻，我們甚至相當確定裡面包含某種特務，但對他們的忠誠度完全沒有信心……）

僅僅知道其他城市正在將木馬拉進城門就足夠了嗎？你是否會因為將最大的一匹拉進自己的市鎮廣場而感到滿足？

參與討論