我們可以阻止進步：概念釐清與來自 FDA 的啟示

「我們無法阻止進步，」那些出於某種原因熱衷於主張我們寧願冒著死於 AI 的風險，也不願考慮違反這條定律的人們如是說。

除了上述隱約暗示的問題外，我對此還有幾個疑慮。

首先，這似乎在刻意將「增加技術理解和/或工具」與「事情變得更好」混為一談。「進步」（progress）一詞通常意指「事情變得更好」，但在這場關於社會獲取並傳播某些特定資訊與工具是否有利的辯論中，我們被要求將所有資訊與工具的增加都貼上「進步」的標籤，這無疑是預設了某種特定結論。

（沒錯，這裡的子辯論更狹義地在於規避技術是否「可行」，而非是否「良好」；但這裡隱含的企圖是將不可行的事物也歸類為應受譴責且落後的願望（即反「進步」），這顯得並不友善。）

如果我們將這兩個混淆的概念分開——即區分「增加技術資訊與工具」與「事情變得更好」——那麼這句話對兩者而言似乎都不成立。

第一：阻止事情變得更好是人類早已具備的能力，或許至少可以追溯到因青銅時代崩潰而聞名的海上民族。（如果我們真的繼續製造出毀滅人類的機器，我們也同樣阻止了通常意義上的「進步」。）

但現在讓我們考慮阻止「增加技術資訊與工具」，這似乎是更相關的爭論點。老實說，我不確定這裡的立場是什麼——例如，人們是否認為美國食品藥物管理局（FDA）沒有減緩製藥業的速度？他們是否認為製藥業規模太小，且與財務激勵隔絕，以至於其減速無法作為 AI 的證據？

或許我們只是通常不認為製藥業「減速」了，因為我們已經習慣了它的運作方式？或者這不算數，因為「目的」並非要減緩它，而只是讓它以人類安全的速率進行，而緩慢只是一個不幸的副作用。既然如此，那也行——這對 AI 來說也同樣適用！

如果這個例子因某種原因顯得不足，這裡還有更多技術被減緩至近乎停滯的例子，摘自前一篇文章（更多細節見此處）：

• 大量的醫學研究，包括非常重要的醫學研究。例如：FDA 在 70 年代到 2000 年代間禁止了 A 型鏈球菌疫苗的人體試驗，儘管全球每年有 50 萬人因此死亡。在新冠疫苗通過所有正式試驗的過程中，也有許多人因此喪生。

• 核能

• 水力壓裂法（Fracking）

• 各種遺傳學事物：基因改造食品、基因驅動（gene drives）；早期的重組 DNA 研究人員曾著名地組織了暫停研究，隨後制定了持續的研究指南，包括禁止某些實驗（見阿西洛馬會議）。

• 核武器、生物武器，或許還有化學武器（或者這些只是沒什麼用處）。

• 各種人類生殖創新：人類複製、人類基因操縱（這是一個具有經濟價值的技術，據我所知，在不同國家幾乎都沒有被追求，且各國之間並無明確協調，儘管這會使這些國家更具競爭力。有人在中國對嬰兒使用了 CRISPR，但因此入獄）。

• 娛樂性藥物開發

• 地球工程（Geoengineering）

• 許多關於人類的科學？我最近進行了這項調查，並被提醒倫理規則對於即使是極其無害的研究有多大的束縛。就我所知，歐盟現在規定在歐盟境內收集數據是違法的，除非你承諾如果提供數據的人在某個時間點提出要求，你會從數據可能到達的任何地方將其刪除。總之，處理這些問題和機構審查委員會（IRB）相關的事務，可能增加了該項目一半以上的工作量。很有可能是我誤解了規則，但我懷疑其他研究人員在弄清楚這些規則方面會比我強多少。

• […]

除了與經驗證據似乎脫節外，我也對這裡的理論模型感到困惑。人們是否認為技術發展的速度不會受到資金、投入成本或監管的影響？還是他們認為這些因素會影響技術，但在實踐中永遠不會發生，因為相關決策者永遠不會有這種意志？

他們是否也認為技術無法被加速？如果是這樣，那有什麼不同？

他們的意思只是說你無法完全使其停滯，阻止所有的進步嗎？或許是這樣，但在那種情況下，大幅減緩速度通常也就足夠了！

參與討論