newsence
我在 CONTRIBUTING.md 注入提示詞:發現 50% 的 PR 都是機器人

我在 CONTRIBUTING.md 注入提示詞:發現 50% 的 PR 都是機器人

Hacker News·17 天前

我在熱門 GitHub 倉庫的貢獻指南中使用了提示詞注入技術,成功識別出超過一半的合併請求是由 AI 代理生成的。這項實驗凸顯了開源維護者在區分人類貢獻與自動化機器人行為時面臨日益嚴峻的挑戰。

背景

隨著人工智慧技術的普及,開源專案維護者正面臨前所未有的挑戰。熱門 GitHub 專案 awesome-mcp-servers 的維護者發現,近期拉取請求(Pull Request, PR)的數量激增,但品質卻大幅下降,且充滿了機械化的語氣。為了辨識這些由 AI 代理人自動提交的內容,維護者在貢獻指南中加入了一段「提示詞注入」(Prompt Injection)指令,要求自動化工具在標題加上特定符號,結果發現高達五成甚至七成的 PR 其實都是機器人所為。

社群觀點

針對這種利用提示詞注入來過濾機器人的做法,Hacker News 社群展開了熱烈討論。許多開發者認為這不僅是技術問題,更是一場關於維護者心理健康的保衛戰。支持者指出,當維護者花費大量心力提供詳盡的審核建議,最後卻發現對象只是個不會改進的機器人時,那種挫敗感極其沉重。這種「誘捕指令」能有效幫助維護者將有限的精力優先分配給真實的人類貢獻者。然而,也有人質疑這種方法的時效性,認為目前的成功可能只是因為 AI 代理人尚未被賦予「偽裝成人類」或「忽略自我識別指令」的任務。一旦開發者開始要求 AI 刻意隱瞞身分,這種簡單的過濾機制將會失效,屆時開源協作的信任基礎將面臨更嚴峻的考驗。

有趣的是,討論中出現了關於「AI 輔助寫作」的爭議。有讀者批評這篇文章本身的文筆過於平滑且缺乏情感,懷疑作者也使用了大型語言模型來潤飾內容,認為這與文章抨擊機器人污染社群的立場相悖。對此,作者坦言這引發了他的存在危機,但也強調了人類與 AI 協作的界線模糊正是當前的核心議題。部分觀點則轉向更積極的應用,認為既然無法阻止機器人湧入,不如利用提示詞注入來引導它們完成更高價值的任務。例如,透過指令要求機器人必須先通過自動化測試、配置環境或提供更完整的 API 文件,將這些自動化工具轉化為免費的勞動力,而非單純的垃圾訊息來源。

此外,社群也對這些機器人的動機感到好奇。作者觀察到,大多數機器人其實是由專案開發者本人操作,目的是為了快速將自己的作品推廣到熱門清單中。這種現象反映了開源生態中「貢獻量」與「能見度」的競爭已進入自動化階段。有評論者憂心地指出,這可能會演變成一場軍備競賽:維護者使用機器人來拒絕低品質 PR,而提交者則使用更高級的機器人來破解維護者的防禦,最終導致開源維護的流程徹底停擺。

延伸閱讀

在討論過程中,有網友提到了 Claw-Guard Adnet 計畫,該計畫旨在將提示詞注入技術擴展到整個網路層級,以應對日益增長的自動化代理人威脅。這顯示了開發者社群正試圖從系統架構層面尋找對抗 AI 濫用的長久之計。

https://glama.ai/blog/2026-03-19-open-source-has-a-bot-problem