我們創立了 Lens Academy：針對超人工智慧風險的可擴展教育平台

Lesswrong·20 天前

我們創立了 Lens Academy，這是一個免費且非營利的教育平台，專門探討失控的超人工智慧為何是核心風險，以及對齊問題為何如此困難。我們透過 AI 導師、主動學習和自動化營運，致力於縮短「聽過 AI 安全」與「真正理解其威脅並能進行戰略思考」之間的差距。

深入理解超級人工智慧（superintelligence）風險的人數實在太少了。雖然進入 AI 安全領域的人才管道正在增長，但大多數現有的入門課程涵蓋範圍過於廣泛，觸及許多主題卻未能深入探討我們認為最重要的部分。人們在接觸 AI 安全概念後，往往無法解釋為什麼對齊（alignment）確實困難，或者無法針對該研究什麼方向進行策略性思考。我們認為，「聽說過 AI 安全」與「理解為什麼這可能終結一切並能清晰闡述」之間的差距，是最需要彌補的重要鴻溝之一。

我們創立了 Lens Academy 來彌補這一差距。Lens Academy 是一個免費、非營利的 AI 安全教育平台，專門關注失控的超級人工智慧：為什麼它是核心風險、為什麼對齊很困難，以及如何思考該投入哪些工作。

教學內容結合了：

閱讀文章與觀看影片
練習與測試（例如：你會收到一個問題和一個自由輸入文本框來回答）
一對一 AI 導師，協助你在整週內梳理概念與論點
每週小組討論，讓想法落地、受到挑戰並變得具體。

成為領航員，幫助 Lens 助力 AI 安全社群

你和 LessWrong 社群能提供幫助的最佳方式之一，就是報名成為領航員（navigators）^([1])。我們將在四月進行 Beta 測試，屆時需要領航員，未來還需要更多。請在此留下你的電子郵件以表達興趣：https://lensacademy.org/enroll ^([2])

旨在觸及數百萬人

Lens 沒有申請流程，也沒有候補名單。一旦我們達到足夠的規模，人們可以在幾天內報名並開始學習。該平台的設計旨在透過消除多種增加成本和時間成本的因素來實現規模化，同時保持（或提升）品質。我們的目標是將每位學生的邊際成本控制在 10 美元以下，並且不設門檻地接受任何人。

我們如何教學

大多數 AI 安全教育衡量的是「接觸度」：你讀過這篇文章嗎？你看過這段影片嗎？相反地，我們嘗試衡量「理解度」：你能解釋這個概念嗎？你能將其應用於新情境嗎？在「感覺」學到了東西與「實際」學到東西之間存在著有據可查的差距。我們利用主動學習、可衡量的學習成果以及（計劃中的）間隔重複，為後者而建構。

在實踐中，學習體驗將內容與主動參與交織在一起。例如：你閱讀某個章節，導師要求你用自己的話解釋某件事；你回答後，導師會協助你完善答案。

我們可以展示帶有自定義註解的文章（部分）、嵌入影片剪輯、挑選播客片段，並運行 AI 語音角色扮演情境。如果某個主題吸引了你，選修材料可以讓你直接在平台上深入研究。這仍是一項進行中的工作：我們已經有了選修的文章（片段）和影片，但我們正致力於在未來提供更個人化、基於興趣的課程大綱。

我們的學習成果定義與課程教材是分開的，這使得專家可以直觀地審查我們的課程是否真的教授了最重要的內容。（目前仍在開發更好的審查介面。）

我們已經建構了什麼

除了課程平台本身和第一版入門課程外，我們還推出了：

AI 導師：具備側邊欄聊天、行內聊天和語音角色扮演模式。
AI 評估測試：由 AI 評估的問題和（語音）角色扮演對話。
全自動化營運：註冊、小組排程、Discord 頻道創建、Google 日曆邀請、進度追蹤、加入另一個小組（單次或永久）、將小組會議推遲一週、出勤追蹤。隨著我們的成長，我們將繼續擴展自動化營運，以便無限期地擴大用戶規模。
Discord 分組討論室：由於 Discord 原生不提供此功能，我們自定義開發了此功能。
引導員面板：用於監控各小組學生的進度。
PromptLab：用於測試和迭代 AI 導師的系統提示詞（system prompts）。
內容驗證工具：用於檢查課程材料的格式和結構。
Lens 編輯器：一個與 Obsidian 兼容的協作式在線 Markdown 編輯器（基本上是一個自定義的 Notion 替代品。更多細節將在未來的文章中發布）。

我們的現況

我們還處於早期階段。我們的 Alpha 測試小組（20 名學生，為期 7 週）即將結束。我們正準備在四月初進行課程的 Beta 運行。團隊規模很小：Luc 是全職創辦人，Chris Lons、Slava、Al 和 Ouro 則兼職負責課程內容和策略。雖然已經建構了很多，但還有更多工作要做。

你可以如何提供幫助

我們非常歡迎反饋。如果你在 AI 安全領域有經驗，請瀏覽我們的課程大綱並告訴我們遺漏或錯誤之處。^([3]) 如果你認識剛進入該領域的人，請向他們推薦我們。如果你有興趣擔任引導員（或作為學生參與），請在 https://lensacademy.org/enroll 留下你的電子郵件。

我們也在尋找一位共同創辦人：最理想是具備代碼、設計和產品思維的全端產品開發者。更多相關信息將在之後的貼文中發布。

未來會有更多更新。想收到通知嗎？請在 https://lensacademy.substack.com/subscribe 留下你的電子郵件。