可規模化的超智能風險教育：Lens Academy

Lesswrong·20 天前

Lens Academy 是一個全新的非營利平台，旨在透過 AI 導師與主動學習，提供可規模化的超智能對齊風險深度教育。我們致力於彌補僅聽說過 AI 安全與真正理解對齊難度之間的差距，並幫助人們進行策略性思考。

深入理解超級人工智慧（Superintelligence）風險的人數實在太少了。雖然進入 AI 安全領域的人才管道正在增長，但大多數現有的入門課程涵蓋範圍過於廣泛，觸及許多主題卻未能深入探討我們認為最重要的部分。人們在接觸 AI 安全概念後，往往仍無法解釋為什麼對齊（Alignment）確實困難，或者無法針對該投入什麼工作進行策略性思考。我們認為，「聽說過 AI 安全」與「理解為什麼這可能終結一切並能清晰闡述」之間的差距，是最需要填補的鴻溝之一。

我們創立了 Lens Academy 來填補這一差距。Lens Academy 是一個免費、非營利的 AI 安全教育平台，專門關注失控的超級人工智慧：為什麼它是核心風險、為什麼對齊很困難，以及如何思考該投入哪些工作。

教學方式結合了：

閱讀文章與觀看影片
練習與測試（例如：你會收到一個問題和一個用於回答的自由文本框）
一對一 AI 導師，幫助你在整週內梳理概念與論點
每週小組討論，讓想法落地、受到挑戰並變得具體。

成為導航員，幫助 Lens 助力 AI 安全社群

你和 LessWrong 社群能提供幫助的最佳方式之一，就是報名成為導航員（Navigators）^([1])。我們將在四月進行測試版運行，屆時需要導航員，未來還需要更多。請在此留下你的電子郵件以表達興趣：https://lensacademy.org/enroll ^([2])

旨在觸及數百萬人

Lens 沒有申請程序，也沒有候補名單。一旦我們達到足夠的規模，人們可以在幾天內報名並開始學習。該平台的設計旨在透過消除多個增加成本和時間精力的因素來實現規模化，同時保持（或提升）品質。我們的目標是將每位學生的邊際成本控制在 10 美元以下，並接受任何人加入，不設門檻。

我們如何教學

大多數 AI 安全教育衡量的是「接觸度」：你讀過這篇文章嗎？你看過這段影片嗎？相反地，我們試圖衡量「理解度」：你能解釋這個概念嗎？你能將其應用於新情境嗎？在「感覺」學到了東西與「實際」學到東西之間存在著公認的差距。我們利用主動學習、可衡量的學習成果以及（計劃中的）間隔重複系統，為後者而建。

在實踐中，學習體驗將內容與主動參與交織在一起。例如：你閱讀某個章節，導師要求你用自己的話解釋某事；你回答後，導師會幫助你完善答案。

我們可以展示帶有自定義註釋的文章（部分）、嵌入影片剪輯、選擇播客片段，並運行 AI 語音角色扮演情境。如果某個主題吸引了你，平台上的選修材料可以讓你深入研究。這項工作仍在進行中：我們已經有了選修的文章（片段）和影片，但未來正致力於開發更個人化、基於興趣的課程體系。

我們的學習成果定義與課程材料分開，這使得專家可以直觀地審查我們的課程是否真正教授了最重要的內容。（目前仍在開發更好的審查界面。）

我們已經構建了什麼

除了課程平台本身和第一版入門課程外，我們還發布了：

AI 導師：具備側邊欄聊天、行內聊天和語音角色扮演模式。
AI 評估測試：由 AI 評估的問題和（語音）角色扮演對話。
全自動化營運：報名、小組排程、Discord 頻道創建、Google 日曆邀請、進度追蹤、加入其他小組參加單次或永久會議、將小組會議推遲一週、出勤追蹤。隨著成長，我們將繼續擴展自動化營運功能，以便無限期地擴大用戶群。
Discord 分組討論室：由於 Discord 原生不提供此功能，我們自定義構建了它。
引導員面板：用於監控各小組學生的進度。
PromptLab：用於測試和迭代 AI 導師的系統提示詞（System Prompts）。
內容驗證工具：用於檢查課程材料的格式和結構。
Lens Editor：一個與 Obsidian 兼容的協作式線上 Markdown 編輯器（基本上是一個自定義的 Notion 替代品。更多細節將在未來的文章中發布）。

我們的現況

我們還處於早期階段。我們的 Alpha 班（20 名學生，為期 7 週）即將結束。我們正準備在四月初進行課程的 Beta 測試。團隊規模很小：Luc 是全職創始人，Chris Lons、Slava、Al 和 Ouro 兼職負責課程內容和策略。雖然已經建成了很多，但還有更多工作待完成。

你可以如何提供幫助

我們非常渴望獲得回饋。如果你在 AI 安全領域有經驗，請瀏覽我們的課程大綱並告訴我們遺漏或錯誤之處。^([3]) 如果你認識剛進入該領域的人，請向他們推薦我們。如果你有興趣擔任引導員（或作為學生參與），請在 https://lensacademy.org/enroll 留下你的電子郵件。

我們也在尋找一位共同創始人：最理想的是一位全端產品開發者，能夠處理代碼、設計和產品思維。更多細節將在之後的文章中發布。

未來會有更多更新。想收到通知嗎？請在 https://lensacademy.substack.com/subscribe 留下你的電子郵件。