沉默的報告：美國政府擱置的AI安全評估內幕及其深遠影響

沉默的報告：NIST未發布的AI安全評估揭露美國AI治理危機

在人工智慧治理快速演變的環境中，美國國家標準技術研究院（NIST）一份具突破性但未發布的報告，成為了解先進AI系統脆弱性的關鍵里程碑。這項在川普第二任總統任期前進行的前沿AI模型綜合評估，揭露了我們目前AI安全與監管方法中令人擔憂的缺口——這些發現至今仍大部分隱藏在公眾視野之外。

去年十月在維吉尼亞州阿靈頓，一群精選的AI研究人員參與了後來成為AI安全評估分水嶺時刻的活動。在這場首創的「紅隊演習」中，這些專家對尖端語言模型和其他AI系統進行壓力測試，最終識別出139個新型漏洞。這些漏洞並非僅是理論性的——它們展示了操縱前沿AI系統產生錯誤資訊、洩露個人資料，以及執行其他繞過現有防護措施的有害行為的實際方法。

這項演習特別重要，因為它揭露了美國政府新開發的標準中的重大弱點，這些標準旨在幫助企業測試AI系統。根據參與者的報告，這些系統對複雜操縱技術展現出令人擔憂的缺乏穩健性，突顯了當前測試方法可能不足以在部署前識別潛在危害。僅這項發現就對我們目前AI安全監管框架的充分性提出了緊迫問題。

這項評估的時機再關鍵不過了。隨著前沿AI模型變得越來越強大，它們的能力與我們確保其安全部署能力之間的差距持續擴大。NIST報告原本準備為產業和政策制定者提供關鍵指導。然而，在總統交接期間，詳細發現仍未發布——在最需要明確指導的時刻創造了訊息真空。

川普政府下的政策轉變

不發布這些發現的決定，正值川普政府AI政策的重大轉變。新政府重點關注移除被認為阻礙AI創新的障礙，同時強調對AI系統「意識形態偏見」的擔憂。2025年1月，川普總統發布了第14179號行政命令「消除美國人工智慧領導地位的障礙」，為政府7月發布的AI行動計畫奠定基礎。該計畫強調三大支柱：加速創新、建構美國AI基礎設施，以及在AI開發與部署方面建立全球影響力。

雖然政府對美國AI領導地位的關注很明確，但專家對安全措施可能被降低優先級表示擔憂。未發布的NIST報告可能代表了解特定漏洞的寶貴資源，這些資訊可以為更強健的安全標準提供參考——然而其發現對更廣泛的AI社群和公眾仍然無法取得。

核武-AI連結：當風險變得攸關存亡

這種情況的影響遠遠超出了直接的政策考量。一個特別令人擔憂的領域涉及AI與核武器系統的潛在整合——專家越來越將此視為不可避免而非假設性的可能。根據斯德哥爾摩國際和平研究所（SIPRI）最近的分析，「軍事人工智慧的快速發展，特別是其與核武系統的潛在整合，帶來了重大風險。」專家強調，雖然人類判斷目前仍是核武器發射決定的核心，但AI整合到核武指揮、控制和通訊系統組件中已經在進行。

這種核武-AI連結突顯了正確處理AI安全的風險。如果NIST評估中發現的漏洞存在於與關鍵基礎設施或國防能力相關的系統中，可能會產生災難性影響。未發布的報告可能包含有助於防止此類情況的見解——使其無法取得變得更加令人擔憂。

不同的願景：人文學科導向的AI運動

在這些發展中，一個強有力的反敘事正從具影響力的研究機構中浮現。艾倫·圖靈研究所與愛丁堡大學及其他合作夥伴最近推出了名為「以不同方式做AI」的倡議，呼籲對AI開發採取根本性的新方法。這種方法強調人文學科在塑造AI未來軌跡中的關鍵重要性。

根據艾倫·圖靈研究所永續性詮釋技術主題負責人德魯·海門特教授的說法，當前的AI系統在「細緻差別和脈絡最重要」時經常失敗，因為它們缺乏理解其輸出的文化和社會影響的「詮釋深度」。該倡議認為，我們一直將AI輸出視為數學產品，但它們更適合被理解為文化產物——在沒有真正理解其意義或影響的情況下創造出來。

圖靈研究所的工作指出了他們所稱的AI開發中的「同質化問題」——大多數AI系統建立在極其相似的架構設計上，可能在數千個應用中複製相同的盲點、偏見和限制。這種同質性意味著NIST評估中識別的漏洞可能在整個AI生態系統中廣泛存在。

提議的替代方案是研究人員所稱的「詮釋性AI」——從根本上設計來處理模糊性、容納多重觀點，並展現對脈絡更深理解的系統。這些系統不是提供單一僵化答案，而是提供多個有效觀點，可能避免NIST評估中識別的一些漏洞。

這個願景代表了與當前AI開發方法的重大背離。它不僅關注技術能力或監管約束，而是強調需要與人類合作而非取代人類的AI——創造研究人員所稱的「人類-AI組合」，結合人類創造力與AI的處理能力來解決複雜挑戰。

資料真空中的競爭願景

這些競爭願景之間的緊張關係——加速創新對比人文學科導向的開發——正在未發布的NIST報告背景下上演。在無法取得其詳細發現的情況下，產業和政策制定者都在以不完整的資訊導航AI安全，可能錯過能防止有害結果的關鍵見解。

這種情況對AI治理的透明度提出了深刻問題。如果前沿模型中存在漏洞——正如NIST評估清楚展示的——這些發現不應該讓研究人員、開發者和公眾能夠取得嗎？隱瞞這些資訊的決定可能在短期內保護某些利益，但可能讓更廣泛的AI生態系統暴露於可預防的危害中。

前進之路：平衡創新與安全

隨著我們向前邁進，這份未發布報告的存在應該提醒我們AI治理的風險。識別出的漏洞不會因為保持未公開而消失——它們繼續代表可能在現實世界系統中顯現並產生現實世界後果的潛在風險。

前進之路需要平衡創新與安全、技術能力與倫理考量，以及國家利益與全球合作。NIST評估即使在未發布狀態下，也展示了嚴格測試的價值以及持續改進我們AI安全方法的需要。隨著前沿模型持續進步，我們必須確保我們對其漏洞的理解——以及解決這些漏洞的策略——以同等速度進步。

這份沉默的報告既是警告也是機會——提醒我們在開發越來越強大的AI系統競賽中，我們確保其安全的能力不能被拋在後面。識別出的139個漏洞不僅代表技術挑戰，更是AI社群、政策制定者和整個社會必須以應有的嚴肅態度來解決的倫理要求。