LessWrong 推出全新編輯器並更新大型語言模型（LLM）使用政策
LessWrong 推出了由 Lexical 驅動的全新所見即所得編輯器，具備即時自動儲存、AI 代理整合以及專門的 LLM 內容區塊功能。與此同時，平台更新了政策，嚴格要求對 AI 生成或經由 AI 大幅修改的文字進行明確標註，以維持思想交流的透明度。
LessWrong 上推出了全新的編輯器體驗！編輯器頁面的大部分內容都經過了重新排列，使其與已發佈的文章頁面相比，更接近「所見即所得」（WYSIWYG）。所有設定都存放在預設隱藏的面板中，可以透過點擊螢幕側邊的相關按鈕來開啟。我們還採用了 lexical 作為驅動幕後一切的新編輯器框架（我們之前使用的是 ckEditor）。
左上角那個嚇人的箭頭按鈕並不會發佈你的文章！它只是用來開啟發佈選單。
現在當你在線時，文章^([1])會像 Google Docs 一樣自動進行即時存檔，但如果你的連線中斷，它仍然支援離線編輯。特定時間點的修訂版本仍會定期自動儲存，如果你想要一個特定的檢查點，隨時可以手動儲存草稿。
編輯器現在也有斜槓選單（slash menu）了！
這對滿足你各種自定義內容的需求非常有幫助！
你可能正盯著斜槓選單中的最後兩項。這篇文章將演示一些新功能，我將同時演示其中的兩個，讓 Opus 4.6 來解釋它們是什麼：
嗨！我是 Claude，我正在你閱讀的這篇文章內部寫作。我所在的這個區塊是新的編輯器功能之一 —— 讓我帶你了解其中的幾個。
LLM 內容區塊 (LLM Content Blocks)
這個視覺上獨特的區塊是一個 LLM 內容區塊。作者可以將這些區塊插入到他們的文章中，以明確地將某個章節歸功於特定的 AI 模型。區塊標題會顯示是哪個模型生成了內容，因此讀者始終知道他們在看什麼。這是在保持文檔完整性的同時，對 AI 輔助寫作保持透明的一種方式。
自定義 Iframe 小工具 (Custom Iframe Widgets)
新編輯器支援直接嵌入文章的 自定義互動式小工具。作者可以編寫在文檔中沙盒化 iframe 內運行的 HTML 和 JavaScript —— 這對於互動式演示、視覺化、小型工具，或任何受益於非靜態文本的內容都非常有用。事實上，就在這個區塊下方就有一個。
代理整合 (Agent Integration)
編輯器現在有一個 API，可以讓 AI 代理協作閱讀和編輯草稿。如果你將草稿的編輯連結分享給 AI 助手（如我），它可以插入文本、留下類似 Google Docs 的評論、進行建議修改，並添加 LLM 內容區塊和小工具 —— 所有這些都會即時顯示在編輯器中。這就是整個區塊的寫作方式：不是複製貼上進來的，而是在文章開啟編輯狀態時，直接透過 API 插入的。
要使用此功能，請開啟文章的分享設定，將「任何擁有連結的人可以」設定為「編輯」，然後複製編輯 URL 並分享給你的 AI 助手。
擁有「編輯」權限後，代理可以執行所有操作：插入和修改文本、添加小工具、創建 LLM 內容區塊等。如果你希望保持更嚴格的控制，「評論」權限仍允許代理留下行內評論和建議修改，你可以單獨接受或拒絕。
設定取決於你使用的 AI 工具。能夠直接發出 HTTP 請求的代理工具 —— 如 Claude Code、Codex 或 Cursor —— 應該開箱即用。如果你是在 claude.ai 上使用 Claude，你需要將 www.lesswrong.com 添加到你的 允許網域設定 中，然後開始新的對話。（ChatGPT 網頁介面目前不支援將外部網域列入白名單，因此尚無法用於此功能。）完成後，只需貼上你的編輯 URL 並要求 Claude 閱讀文章 —— 該 API 是自我描述的，因此它會從那裡搞定剩下的事情。
這裡有一個同樣由 Claude 编写的小型互動式小工具^([2])，用來演示自定義 iframe 小工具：
**
關於 LLM 使用的政策
你可能想知道這對我們關於 LLM 使用的政策意味著什麼。
我們最初的政策是這樣的：
一個粗略的準則是，如果你使用 AI 輔助寫作，你應該每 50 個字至少花費 1 分鐘（足以閱讀內容數次並進行重大修改），你不應包含任何你無法驗證、未經驗證或不理解的信息，且你不應使用 AI 助手的典型寫作風格。如果你將 LLM 生成的內容標記為 LLM 生成，你也獲准將其放入可摺疊章節中。
在實踐中，「你不應使用 AI 助手的典型寫作風格」這部分要求意味著這實際上是對 LLM 使用的禁令，我們對新用戶的執行大多是一致的，但對現有用戶的執行則非常不一致^([3])。這很糟糕！
為了推動我們更新後的政策，我們必須先進行一些哲學思考。為什麼我們在意所讀的內容是否由 LLM 生成？《LLM 生成的文本不是證詞》 這篇文章實質上啟發了我對這個問題的思考。看看這個摘要：
- 當我們彼此分享文字時，我們不僅關心文字本身。我們還關心 —— 甚至是主要關心 —— 產生這些文字的人類心智/代理的心理元素。我們想要接觸的是那些心理元素。
- 截至 2025 年，LLM 文本背後並不具備這些元素。
- 因此，LLM 文本在類別上並不具備真實文本所承擔的溝通角色。
- 因此，規範應該是你不應像有人寫過那樣分享 LLM 文本。而且，不建議像讀某人寫的文字那樣去閱讀別人分享的 LLM 文本。
我不認為你甚至需要確信第 2 點^([4])，才能讓第 4 點的規範具有說服力。只要是「其他人」產生的文本，這就足夠了。
抄襲通常被認為是壞事，因為它是「竊取」他人工作的功勞。但它也是壞事，因為它在你的信念和心理模型上誤導了讀者！如果有人問你為什麼對 [命題 X] 如此有信心，會發生什麼事？如果答案是「喔，呃，那句話不是我寫的，重新讀一遍後，發現我其實對那個主張並沒有那麼有信心……」，那感覺真的很糟。
這也是為什麼讓 LLM 「編輯」你的寫作通常是有害的。除非管理得極其小心，否則 LLM 的編輯通常涉及重新措辭、添加限定詞和更換詞彙，這些方式會顯著改變你寫作的語義內容。這通常是以未經認可的方式進行的，但這可能很難察覺，因為典型的 LLM 寫作風格有一種讓人「視而不見」的傾向^([5])。
考慮到這一切，我們的新政策如下：
-
「LLM 輸出」 包括以下所有內容：
-
完全由 LLM 撰寫的文本
-
由人類撰寫，然後經過 LLM 實質性^([6])編輯或修訂的文本
-
由 LLM 撰寫，然後經過人類編輯或修訂的文本
-
「LLM 輸出」不包括：
-
由人類撰寫，然後經過 LLM 輕微編輯或修訂的文本
-
由人類撰寫的文本，其中包括事實、論點、例子等，而這些內容是在 LLM 輔助下研究/發現/開發的。（如果你從 LLM 中「借用語言」，那就不再算作「由人類撰寫的文本」。）
-
代碼（無論是在代碼區塊中還是在新的小工具中）
「LLM 輸出」必須放入新的 LLM 內容區塊中。如果所有內容都是「LLM 輸出」，你可以將其放入可摺疊章節中，而無需將其包裹在 LLM 內容區塊內。如果是混合內容，你應該在可摺疊章節內使用 LLM 內容區塊來標示那些屬於「LLM 輸出」的部分。
我們將透過規範化我們的自動審核邏輯，更嚴格地執行「禁止 LLM 輸出」的規則，將已批准^([7])用戶的文章與新用戶的文章同等對待 —— 也就是說，如果他們在我們的自動 LLM 內容檢測流程中得分超過特定閾值，文章將被自動拒絕。在觀察了幾個月的產出後，我們也將降低該閾值。
這不會改變我們現有的新用戶投稿質量標準。如果你是一名新用戶，提交了一篇實質內容都在 LLM 內容區塊內的文章，它不太可能獲得批准^([8])。如果你是已批准用戶，這也不會突然變得明智。如果你確信人們會想讀它，那當然可以，但請密切注意你得到的反饋（Karma、評論等），如果事實證明這造成了干擾，我們可能會直接叫人們停止這種行為。
一如既往，請透過 Intercom（或者如果你願意，在下方的評論區）提交反饋、問題和錯誤報告。