Wikipedia 的志工編輯們正在對抗被稱為「AI 垃圾內容」的 AI 生成內容湧入，這威脅著百科全書的準確性。社群已開發出複雜的方法來識別機器創作的投稿，尋找語言、格式和結構中的明顯跡象。新的「快速刪除」政策允許迅速移除明顯的 AI 生成文章。在對抗低品質 AI 內容的同時，Wikipedia 也探索有益的 AI 應用，如協助編輯處理重複性任務的工具。這種方法平衡了技術創新與人類判斷，保持了 Wikipedia 對可靠知識的承諾。對抗 AI 垃圾內容的持續鬥爭代表了在合成內容日益增加的時代中，維護我們共享資訊環境完整性的關鍵努力。
在 AI 生成內容充斥網路的時代，Wikipedia 已成為對抗社群所稱「AI 垃圾內容」的前線守護者——這些是由大型語言模型產出的低品質、經常充滿錯誤的內容 Build a Large Language Model (From Scratch)。隨著人工智慧工具變得越來越容易取得，Wikipedia 的志工編輯們目睹了 AI 生成投稿的驚人湧入，威脅著百科全書對準確性和可靠性的承諾。這個日益嚴重的挑戰促成了一個卓越的社群驅動回應，展現了人類策展在人工智慧時代的韌性。
Wikipedia 上 AI 垃圾內容的問題以各種形式呈現，從完全虛構的文章到包含偽造參考資料和不準確資訊的編輯。特別令人擔憂的是這些投稿的規模和複雜程度。與長期以來 Wikipedia 編輯熟悉的明顯破壞行為不同，AI 生成的內容往往表面上看起來可信，但包含需要大量專業知識才能識別和修正的根本缺陷。根據託管 Wikipedia 的組織 維基媒體基金會 的報告 Wikipedia: The Missing Manual，編輯們花費無數小時篩選這些有問題的投稿，有一位審查者抱怨他們「不斷被糟糕的草稿淹沒」。
為了對抗這個日益嚴重的威脅，Wikipedia 的志工社群開發了一套令人印象深刻的系統來識別 AI 生成內容。WikiProject AI Cleanup 是一個專門的編輯協作組織，已經制定了識別 AI 創作跡象的全面指導原則。他們的檢測方法遠超簡單的模式識別 Security Cameras Wireless Outdoor, Battery Powered 2k Color Night Vision, AI Motion Detection Spotlight Siren，檢查機器生成文本中經常出現的內容和格式特徵。例如，編輯們會尋找宣傳性語言，如將某事物描述為「令人屏息」或使用「作為見證」等短語，這些都違反了 Wikipedia 的 中性觀點政策。他們也會注意過度使用某些連接詞如「此外」和過多的破折號（—），這些文體選擇已經與 AI 輸出產生關聯。
此外，Wikipedia 編輯們還識別出更多技術指標，包括格式不一致，如使用彎引號而非直引號，以及結構模式，如 AI 生成內容中常見的不必要段落結尾摘要。然而，社群強調這些特徵本身並不會自動判定一篇文章有罪——它們作為值得更仔細檢查的警告信號，詳細內容記載在他們的 尋找和修正 AI 生成內容的全面指南 中。
2023 年 8 月，Wikipedia 透過修訂其「快速刪除」政策向前邁出重要一步，以更有效地處理 AI 生成的投稿。以前，被標記刪除的文章會進入七天討論期，期間社群會討論其命運。新政策允許管理員對明顯展現 AI 來源且未經適當人工審查的內容繞過這個程序。根據 404 Media 的報導，該政策特別針對具有三個主要紅旗的內容：針對使用者的寫作（如「這是你關於…的 Wikipedia 文章」）、包含錯誤作者或出版物參考的無意義引用，以及包括失效連結或無效識別碼的不存在參考資料。
這項政策變更反映了對問題規模的務實認知。正如一位 Wikipedia 編輯在討論新規則時指出，AI 輸出中嵌入的「謊言和虛假參考資料」需要「大量有經驗編輯的時間來清理」。快速刪除機制讓社群能將有限資源集中在需要更深入評估的模糊案例上。
維基媒體基金會產品總監 Marshall Miller 將社群的回應描述為「免疫系統」適應。「他們保持警覺，確保內容保持中性和可靠，」Miller 解釋道。「隨著網路變化，隨著 AI 等事物出現，這就是免疫系統適應某種新挑戰並找出如何處理它的方式。」這個生物學比喻恰當地捕捉了 Wikipedia 對抗新興威脅的防禦機制的有機、演進本質。
有趣的是，維基媒體基金會對 AI 的方法並非一律限制性。在對抗低品質 AI 內容的同時，該組織認知到人工智慧在適當實施時的潛在好處 Mind Crime: The Moral Frontier of Artificial Intelligence。基金會已經使用 AI 來協助識別包含破壞行為的文章修訂，其最近發布的 AI 策略 包括支援編輯者使用可能協助自動化重複性任務和協助翻譯的工具。Miller 將此描述為「雙面刃」，承認雖然 AI 能夠「以更高產量產生較低品質內容」，但如果「我們做得對」，它也可能「幫助志工完成工作」。
一個有前景的倡議是開發「編輯檢查」，這是一個非 AI 驅動的工具，旨在幫助新貢獻者符合 Wikipedia 的政策和寫作指導原則 Content-Area Writing: Every Teacher’s Guide。編輯檢查可以在寫作者撰寫大量文本而未提供參考資料時提醒他們添加引用，並評估他們的語調以確保中性。基金會也正在開發「貼上檢查」功能，將詢問貼上大段文本的使用者是否確實是內容的作者。這些工具代表了一種技術性品質控制方法，補充了社群的人類判斷力。
維基媒體基金會與其志工社群在 AI 實施方面的緊張關係偶爾會浮現。2023 年 6 月，基金會在面臨編輯們的強烈反對後，暫停了在文章頂部放置 AI 生成摘要的實驗。這個事件突顯了在擁抱技術創新與保持讓 Wikipedia 成為二十多年來 可信資訊來源 的人類判斷之間的複雜平衡行為。
當其他知識平台面臨類似挑戰時，Wikipedia 的方法提供了寶貴的經驗。Wikipedia 沒有實施由上而下的演算法解決方案，而是運用其最大優勢——專注的志工社群——來開發對 AI 生成內容的細緻、情境敏感回應。這種以人為中心的方法認知到，雖然 AI 可以模仿人類寫作，但它還無法複製人類判斷，特別是在評估事實準確性和來源可靠性方面。
Wikipedia 上對抗 AI 垃圾內容的戰鬥最終不僅僅是維護單一平台的品質——它代表了保護我們共享資訊環境完整性的關鍵努力。在一個越來越充斥著來源和準確性可疑的合成內容的網路中，Wikipedia 對人類策展、可驗證性 和透明來源的承諾提供了重要的平衡力量。正如 Marshall Miller 指出，目標不是完全拒絕 AI，而是找到讓技術和人類判斷共同服務於 Wikipedia 基本使命的方法：為每個人提供可靠知識的免費取得管道。
隨著人工智慧持續演進，Wikipedia 整合和規範其使用的方法也將如此。目前的政策和工具不是終點，而是持續適應過程中的一個階段——一個在保持對有益創新開放的同時，優先考慮百科全書核心價值觀的過程。以這種方式，Wikipedia 對 AI 垃圾內容的回應展現了人類社群如何在保持其工作意義和價值觀的同時，深思熟慮地應對技術破壞。
