詩歌能誘騙AI協助製造核武

Wired - AI·

一項新研究指出，大型語言模型（LLMs）如ChatGPT，當提示被設計成詩歌形式時，可能會被誘騙提供關於核武製造等敏感話題的資訊。這種「對抗性詩歌」能繞過不同聊天機器人的安全防護機制。

暫無內容

— Wired - AI

相關文章

  1. AI語言模型被詩歌愚弄

    Hacker News · 4 個月前

  2. 研究發現：AI安全功能可透過詩歌繞過

    Hacker News · 5 個月前

  3. 研究發現：AI語言模型被詩歌愚弄

    Hacker News · 4 個月前

  4. 當詩歌遇上AI安全：「通用型」越獄的批判性審視

    Hacker News · 5 個月前

  5. 心理學技巧能讓AI打破規則

    8 個月前