newsence
聯邦 AI 政策框架:有所改進,但我的評價(依然幾乎)是毫無實質內容

聯邦 AI 政策框架:有所改進,但我的評價(依然幾乎)是毫無實質內容

Lesswrong·12 天前

聯邦 AI 政策框架已經發布,雖然在保護言論自由方面有所進展,但我無法支持目前的提案,因為它在最重要的領域取代了州法律,卻幾乎沒有提出實質的替代方案,也未觸及尖端風險或透明度要求。

聯邦人工智慧政策框架(Federal AI Policy Framework)已經發布。好吧,這其實是一份四頁的大綱。 它大多只是重申了現有的類似大綱。但這比我們之前擁有的內容多了四頁。它包含了實際政策提案的雛形,其中一些非常受歡迎且具有積極意義。

或許最重要的是,它肯定了我們是一個共和國,我們制定政策的方式是通過國會通過法律來規定我們的作為;而且我們在試圖禁止其他可能嘗試制定政策的人的同時,也需要真正地「制定政策」。

它還承認,作為一個實際的政治問題,「附加禁止所有州級 AI 法律的暫停令」不能簡單地掛在幾條兒童安全規則之後。

我特別感到振奮的是,文中呼籲保護言論自由,特別是防範聯邦政府的干預,尤其是考慮到目前發生的其他事情。這雖然不能取代其他功能,但非常受歡迎。

唉,我甚至無法支持這份提案即使是強力的執行版本,因為它在最重要的領域廢除了州法律,卻基本上沒有提供任何替代方案。

也就是說,就目前文字而言,這並非應對前沿風險、災難性或生存風險的方法,僅在「國家安全」擔憂的背景下提到它們,且完全沒有提到任何透明度要求。這在很大程度上是試圖在不提供任何補償的情況下,扼殺 SB 53 和 RAISE 法案。

然而,如果這能包含針對處理前沿風險的法律類別的例外條款,且最終法案在其他方面編寫得足夠好並得到執行,我或許會覺得可以接受。

那麼,讓我們來看看內容。

我的評論位於第三層嵌套以及標註為「總體而言(Overall)」的部分。

最令人驚訝的是關於言論自由保護的精彩章節,特別側重於保護我們免受聯邦政府對言論的限制。這是迫切需要且非常受歡迎的。

正如預期的那樣,解決大多數問題的方法是忽視它們,並希望現有法律恰好能發揮作用,包括在幾個地方呼籲讓事情在法庭上解決,主動拒絕為 AI 時代選擇任何政策。

我會說,除非你認為「禁止各州監管 AI,而除了考慮兒童之外實際上不監管大部分 AI,然後可能永遠不採取行動並聽天由命」是一個好計劃,否則你不應該支持這個框架。

  • 保護兒童並賦予家長權利。

    • 《下架法案》(Take It Down Act)。

      • 好的,當然可以。
    • 「國會應賦予父母和監護人強大的工具,以管理其子女的隱私設置、螢幕時間、內容接觸和帳戶控制。」

      • 這甚至不屬於 AI 範疇,雖然這是一個好主意。
    • 「國會應為未成年人可能訪問的 AI 平台和服務建立商業上合理、保護隱私的年齡確認要求(如家長證明)。」

      • 這聽起來很像進入 AI 服務的年齡驗證要求,但我被保證這意味著 AI 輔助的檢測,且國會和業界理解其含義。

      • 假設這確實是其含義,並且有最低平台規模限制以避免過度負擔,那麼好吧,可以接受。現在讓我們對社交媒體也這樣做。

    • 「國會應要求未成年人可能訪問的 AI 平台和服務實施能降低未成年人遭受性剝削和自殘風險的功能。」

      • 這具體意味著什麼?細節決定成敗。
    • 「國會應確認現有的兒童隱私保護措施適用於 AI 系統,包括對模型訓練數據收集和定向廣告的限制。」

      • 確認是好事,是的,好的,沒問題。
    • 「國會應避免設定關於允許內容的模糊標準或開放式責任,以免引發過度訴訟。」

      • 同意,但不確定為什麼這是框架的一部分。
    • 「國會應確保不預先排除(preempt)各州執行其自身保護兒童的普遍適用法律,例如禁止兒童性虐待材料,即使此類材料是由 AI 生成的。」

      • 再次同意,但作為要避免的事項,這範圍窄得令人驚訝。
    • 總體而言: 這大部分是一堆「喝采燈」(applause lights),沒有嘗試真正弄清楚如何執行或解決困難問題。具體的要求是 AI 平台上的年齡確認技術,如果做得正確,這似乎是正確的折衷方案。

  • 維護並加強美國社區

    • AI 數據中心不增加電費成本。

      • 超大規模雲端運算商(Hyperscalers)此前已同意這一點。良好的象徵性舉措。
    • 簡化 AI 基礎設施的聯邦許可。

    • 「國會應加強現有的執法工作,以打擊針對老年人等弱勢群體的 AI 輔助冒名詐騙和欺詐。」

      • 又是那些範圍窄得驚人的特定目標之一,但好吧,當然可以。
    • 「國會應確保國家安全體系內的相關機構擁有足夠的技術能力,以了解前沿 AI 模型的能力及任何相關的國家安全考量,並制定減輕潛在擔憂的計劃,包括通過與前沿 AI 模型開發者協商。」

      • Anthropic 的情況強調了機構理解 AI 模型(尤其是前沿模型)的必要性,因為從戰爭部(DoW)在那裡的聲明可以清楚看出,DoW 根本不知道這一切是如何運作的。

      • 到目前為止,本屆政府「減輕潛在擔憂」的舉措不僅沒有試圖減輕實際擔憂,反而試圖直接引發更多擔憂並使情況惡化。

    • 為小型企業提供 AI 資源。

      • 給我們錢。
    • 總體而言: 如果能執行,這些似乎是好主意。

  • 尊重知識產權並支持創作者。

    • 允許法院處理版權問題。

      • 我很不解為什麼不想澄清這一點?除非是因為國會永遠不會同意他們想要的澄清。
    • 考慮建立許可框架或集體權利系統以協商補償,而不產生反壟斷責任,但這不應涉及何時或是否需要此類許可。

      • 我喜歡促成議價,並希望能更進一步,但我注意到我再次對主動不想澄清法律模糊性感到困惑。

      • 我的推測依然是他們不喜歡國會可能做出的決定?

    • 考慮保護個人免受未經授權傳播其聲音、肖像或其他可識別特徵的侵害,並設有標準的言論自由例外情況和防止抑制網路言論的保護措施。

      • 又是「考慮」。

      • 我確實認為人們應該受到這方面的保護。

    • 國會應監測版權判例的發展,以填補潛在空白並為內容創作者提供保護。

      • 我假設這是為了避免失去參議員 Blackburn 的支持。
    • 總體而言: 這似乎是為了阻止某些事情。

      • 特別是,那件事就是 Blackburn 的《川普美國 AI 法案》(Trump America AI Act),或其他類似會賦予版權持有人更多權力的法案。
  • 防止審查並保護言論自由

    • 「國會應防止美國政府強迫技術提供者(包括 AI 提供者)根據黨派或意識形態議程禁止、強迫或更改內容。」

      • 行政部門目前正在做的正是這件事。

      • 或許他們應該直接停止這樣做,而不需要法律。

      • 但同時,是的,當然,也通過一項法律吧。

    • 「國會應為美國人提供有效手段,就聯邦機構審查 AI 平台上的表達或指令 AI 平台提供的信息的行為,向聯邦政府尋求救濟。」

      • 同意。
    • 總體而言: 很好。甚至可以說太棒了。讓我們堅持這些原則。

  • 推動創新並確保美國 AI 領導地位

    • 建立監管沙盒。

    • 提供資源使聯邦數據集可用。

    • 「國會不應創建任何新的聯邦規則制定機構來監管 AI,而應通過具有專業知識的現有監管機構以及行業主導的標準,支持特定行業 AI 應用的開發和部署。」

      • 這是一個「反框架」,基本上要求不監管 AI,除非是通過並非為 AI 設計的規則順帶監管。

      • 特定行業的監管無法處理生存風險或超人工智慧擔憂,所以這是在說對此無所作為。

    • 總體而言: 前兩項沒問題。第三項是在說我們將完全忽視最重要的問題,並以雜亂無章的方式或通過促成行業監管俘虜(regulatory capture)來處理其他問題。

  • 教育美國人並培養具備 AI 能力的勞動力

    • 「使用非監管方法」讓教育納入 AI 培訓。

      • 你到底打算怎麼做?

      • 不過,我推測這會自然發生,所以不太擔心。

    • 擴大聯邦研究勞動力重組趨勢的努力。

    • 「國會應加強贈地大學(land-grant institutions)的能力,以提供技術援助、啟動示範項目並開發 AI 青少年發展計劃。」

    • 總體而言: 好吧,我想。聽起來大多沒用。我聞到了「豬肉桶」(pork)分贓的味道。

我們可以先在這裡停一下。這些是白宮所謂的六大目標,與實際的主要目標相對立,而第七個目標才是核心:州級行動的暫停令(The Moratorium on state action)。

所謂「聯邦框架」的積極部分並沒有做太多事。其中很大一部分是試圖阻止其他行動,同時基本上無所作為,再加上一些我預計收效甚微的低級讓利計劃。

我們得到的重要東西是受歡迎的基礎設施援助(這不需要框架)和兒童保護(主要是年齡確認)。

巨大的警訊是,這個框架主動排除了建立處理前沿 AI 風險(尤其是生存風險)的方法,同時試圖在第 7 點中禁止各州可能這樣做。唯一的例外是機構應了解「國家安全影響」並嘗試減輕風險,這與目前戰爭部(DoW)加劇這些風險的嘗試形成鮮明對比。

當然,這種領域技能的提升是受歡迎的,但我完全不指望這會被用來認真嘗試理解或處理重要的前沿風險。例如,請注意,這裡完全沒有提到任何透明度要求。

然後我們來到了這個框架存在的原因,即試圖阻止各州出於任何原因對 AI 採取任何行動,只有極少數且無害的例外。

  • 建立聯邦政策框架,預先排除繁瑣的州 AI 法律

    • 「國會應預先排除(preempt)造成過度負擔的州 AI 法律,以確保建立一個與這些建議一致、負擔最小的全國標準,而不是五十個不和諧的標準。」

      • 在實踐中,他們的意思是除了接下來詳述的極少數例外之外的所有州 AI 法律,而「負擔最小」意味著完全不要干預,除非是聯邦政府對他們不喜歡的公司進行干預,就像 DoW 正在發生的情況那樣。
    • 這一全國標準應尊重聯邦制的關鍵原則,且不預先排除:

    • (1) 保留:各州保留的傳統警察權力,以針對 AI 開發者和使用者執行普遍適用的法律,包括保護兒童、防止欺詐和保護消費者的特定法律。

      • 是的,至少 AI 不會成為對抗現有法律的自動盾牌。

      • 這裡的默認結果是,這意味著現有的、甚至不是為 AI 設計的拼湊法律,將在不經修改的情況下,由不理解其含義的法院和機構隨意應用。而且最重要的是,那些適用於其他所有地方的法律也要適用於 AI,增加了整體的監管負擔。

    • (2) 保留:州分區法(zoning laws),包括州政府決定 AI 基礎設施位置的權力。

      • 我推測如果不這樣做,會因為許多原因(包括政治上的強烈反對)而無法推行。
    • (3) 保留:管理州政府自身使用 AI 的要求,無論是通過採購還是其提供的服務(如執法和公共教育)。

      • 觀察入微,你確實必須這麼做。

      • 所以,是的,就 AI 的實際行為而言,這一切都是被禁止的,除非你寫了一部恰好也涵蓋 AI 的通用案例法。

    • 「預先排除必須確保州法律不管理更適合聯邦政府的領域,或採取與美國實現全球 AI 領導地位的國家戰略相悖的行動。」

      • 看起來他們已經不允許這樣做了,但他們打算「超級加倍」地不允許。
    • 防止:「不應允許各州監管 AI 開發,因為這本質上是一種跨州現象,具有關鍵的外交政策和國家安全影響。」

      • 這個聯邦框架完全沒有監管 AI 開發。一點也沒有。

      • 所以是的,他們的開價是「零」。

    • 防止:「各州不應過度負擔美國人將 AI 用於在不使用 AI 的情況下即屬合法的活動。」

      • 我擔心這為事實上的職業許可留下了大門,這基本上是最糟糕的政策。事實上,整個框架似乎都留下了這扇門(例如,「以任何形式行醫都需要……」)。

      • 如果這裡的措辭選擇得當且不留下那扇門,那就太棒了。也就是說,讓任何從事某事的許可成為人類的問題,而不是 AI 的問題,並且在盡可能廣泛的範圍內,絕不禁止為此目的使用 AI 的行為。

      • 同時,它忽視了「摩擦程度」(Levels of Friction)的擔憂。有很多事情在規模不足或邊際成本較高時是好的、沒問題的,但在 AI 出現後就變得有問題了。

    • 防止:「不應允許各州因第三方涉及其模型的非法行為而處罰 AI 開發者。」

      • 這個框架中沒有任何內容在聯邦層面這樣做。

      • 所以是的,再次強調,他們的開價是「零」。

      • 因此,我們所說的是,開發者對使用者的非法行為完全不負責任,無論那些使用者做了什麼,也無論 AI 提供者或開發者有多麼疏忽,句號。

總體結論: 這在事實上仍然主要是一個「預先排除」框架。他們的開價並非完全為零,這裡有一些好的行動,但就所被奪走的東西而言,開價基本上是零。他們不會為了大多數目的做任何有意義的事,而你也不能做任何事。這就是計劃。

那些已經支持禁止所有州法律的「暫停令」的人,正如此前預期的那樣,紛紛支持這個框架。

Dean Ball 表示支持。我們兩人都對同一個章節感到強烈振奮:

Dean W. Ball: 我對這一章節感到特別振奮,並衷心贊同白宮的觀點,即國會應採取行動,防止政府對 AI 開發者和使用者的言論自由權利進行脅迫。

我強烈同意 Samuel Hammond 的觀點,即如果競爭對手是 Blackburn 的那個怪物,這算是一個相當大的進步。

Neil Chilson 稱其為「嚴肅的框架」 並讚揚了所有七個章節。

AI 沙皇 David Sacks 當然很興奮

眾議院議長 Mike Johnson 和多位國會領袖正承諾 將根據該框架採取行動,儘管很難想像他們會不這麼說。

參與討論

https://lesswrong.com/posts/tcoNLbvrpv9KcxzvM/the-federal-ai-policy-framework-an-improvement-but-my-offer