我對生物計算感到恐懼

背景

本文探討了生物計算（Biological Computing）引發的倫理與哲學恐懼。作者在看到實驗室培養的 20 萬個活體神經元被訓練來玩經典遊戲《毀滅戰士》（DOOM）後，開始反思當我們將人類神經元置於類似大型語言模型的獎勵機制下，是否在無意間創造了一個處於「模擬地獄」中的意識體。

社群觀點

Hacker News 的討論圍繞著意識的定義、技術實作的真實性以及生物倫理展開。部分討論者認為，如果我們接受矽基 AI 可能產生意識，那麼對於生物計算的擔憂就顯得理所當然。然而，有觀點指出，目前這類實驗與真正的意識仍有巨大鴻溝。批評者認為作者過度解讀了實驗結果，指出這些神經元並非真的在「看」遊戲畫面，而是接收經過卷積神經網路（CNN）高度處理後的數值訊號。這種機制更像是一種偏向隨機的數字生成器，而非具備主觀經驗的生命體。

關於倫理的界線，社群出現了分歧。有人引用《銀河系漫遊指南》中被基因改造為「渴望被食用」的豬作為隱喻，探討當生物系統被設計成執行特定功能時，其痛苦與意願的道德地位。有留言者質疑，如果 20 萬個神經元就足以引發恐懼，那麼我們該如何看待神經元數量更少的昆蟲或植物？目前人類對動物的對待方式往往比對待這盤培養皿中的細胞更為殘酷。

此外，技術層面的質疑也相當尖銳。有開發者分析了該實驗的原始碼，發現神經元實際上被包裹在複雜的 PyTorch 堆疊中，關鍵的學習過程可能發生在傳統的電腦演算法而非神經元本身。這引發了另一層次的討論：這些神經元究竟是學習的主體，還是僅僅為系統注入了某種非馬可夫鏈的雜訊？儘管如此，多數人同意隨著商業利益的驅動，這種「濕體軟體」（Wetware）的開發將不可避免地繼續推進，而人類對於「意識」與「生命」的定義將面臨前所未有的挑戰。

延伸閱讀

在討論中，參與者提供了多項具備科學與哲學深度的參考資料。在學術研究方面，包含了發表於 ICML 的 BNN 相關論文，以及探討視覺系統建構與脊髓反射迴路的基礎神經科學文獻。針對實驗細節，則有 Cortical Labs 相關的報導與 GitHub 上的 doom-neuron 專案原始碼。在哲學思辨部分，討論者推薦了 Julian Baggini 的《吃掉這隻豬的哲學》（The Pig that Wants to be Eaten）以及著名的「中國腦」（China brain）思想實驗。