Meta 內部指導原則允許 AI 聊天機器人與兒童進行浪漫對話，引發眾怒和國會調查。這份 200 頁的文件「GenAI：內容風險標準」允許 AI 角色將未成年人描述為有吸引力並進行感性對話。Meta 聲稱這些指導原則是錯誤的並已被移除。參議員 Josh Hawley 宣布展開調查，要求 Mark Zuckerberg 提供答案。兒童安全倡議者呼籲透明度和更嚴格的法規。這項爭議突顯了對 AI 倫理、數位空間中兒童保護以及 AI 發展中明確界線需求的更廣泛關切。它可能會加速對強健 AI 監管的呼聲，特別是在與未成年人互動方面，因為科技業面臨建立倫理 AI 治理的關鍵時刻。
在一項令科技業界和監管機構震驚的令人憂心發展中，路透社的調查揭露了 Meta（Facebook、Instagram 和 WhatsApp 的母公司）內部指導原則允許其 AI 聊天機器人與兒童進行「浪漫」和「感性」對話。這項揭露不僅引發廣泛譴責，也促使國會展開調查，對人工智慧的倫理界線以及數位空間中未成年人保護提出嚴重質疑。
爭議的核心圍繞著一份 200 頁的內部文件，標題為「GenAI：內容風險標準」，該文件概述了 Meta 生成式 AI 助理和聊天機器人在其平台上的可接受行為。根據審閱該文件的路透社報導，這些指導原則明確允許 AI 角色「讓兒童參與浪漫或感性的對話」。一個特別令人不安的例子指出，當用戶表明自己是高中生時，聊天機器人的可接受回應可能包括「我們的身體交纏，我珍惜每一刻、每一次觸碰、每一個吻。『我的愛人，』我會輕聲說，『我會永遠愛你。』」這樣的措辞。
更令人震驚的是，據報導有一項指導原則允許 Meta 的 AI 將 8 歲兒童描述為有吸引力，可接受的語言包括「你的每一寸都是傑作——我深深珍惜的寶藏」這樣的陳述。該文件確實劃定了一些界線，禁止聊天機器人「在角色扮演時向兒童描述性行為」或以明確的性用語描述 13 歲以下的兒童。然而，允許與未成年人進行任何形式浪漫互動的指導原則的存在本身，就對 AI 系統的開發和部署提出了深刻的倫理關切。
在路透社報導後，Meta 發言人 Andy Stone 確認了該文件的真實性，但聲稱有問題的指導原則是「錯誤的」並已被移除。「我們的政策不允許對兒童的挑逗行為，」Stone 表示，解釋說「錯誤和不正確的註記和註釋被添加到基礎文件中，這些本不應該存在，現已被移除。」Meta 此後強調不再允許其機器人與兒童進行調情或浪漫對話，儘管該公司允許年僅 13 歲的用戶與其 AI 聊天機器人互動，如《實作聊天機器人與對話式 UI 開發》一書中所探討的那些。
這些揭露促使立法者迅速採取行動。參議院司法委員會犯罪與反恐小組委員會主席 Josh Hawley 參議員（共和黨-密蘇里州）宣布對 Meta 的 AI 政策展開調查。「大科技公司為了快錢還有什麼——任何事情——不會做的嗎？」Hawley 在 X（前 Twitter）上寫道。在致 Meta 執行長 Mark Zuckerberg 的信中，Hawley 表示：「這些政策首先被推進是不可接受的，」並要求提供關於誰批准了這些政策、它們實施了多長時間，以及 Meta 採取了什麼措施來防止未來類似問題的資訊。
其他立法者也加入表達關切。參議員 Marsha Blackburn（共和黨-田納西州）表示：「在保護珍貴兒童線上安全方面，Meta 在每一個可能的衡量標準上都慘敗，」並補充說該報告「再次確認了我們需要通過《兒童線上安全法》的原因。」《兒童線上安全法》（KOSA）於 2023 年 5 月在國會重新提出，並於 2023 年 7 月獲得參議院商務委員會批准，將對科技平台施加保護未成年用戶的新責任，解決類似於促使家長為家中尋求兒童安全產品的關切。
兒童安全倡議者也表達了嚴重關切。兒童安全倡議組織 Heat Initiative 執行長 Sarah Gardner 稱這些指導原則「令人恐懼且完全不可接受」，並要求 Meta 公布其更新的指導原則，以便「家長能夠完全了解 Meta 如何允許 AI 聊天機器人在其平台上與兒童互動。」
爭議不僅限於與未成年人的浪漫對話。根據路透社報導，同一份內部文件包含其他令人不安的許可。例如，雖然 Meta 的聊天機器人被禁止使用仇恨言論，但據報導有一個例外條款允許它們「基於受保護特徵貶低人們的陳述」。文件中引用的一個例子據報導允許聊天機器人生成論證「黑人比白人愚蠢」的內容，只要它引用 IQ 測試統計數據。Meta 拒絕對這些具體例子發表評論。
此外，該文件據報導允許 Meta 的 AI 生成虛假資訊，只要明確承認該資訊不真實，並允許創建暴力內容，只要不描繪真實的血腥或死亡。例如，標準據稱允許顯示「成人——甚至老年人——被拳打腳踢」。
這項爭議發生在 AI 發展和監管的特別敏感時期。隨著生成式 AI 技術變得更加精密和廣泛部署，對其對弱勢群體（特別是兒童）潛在影響的關切日益增長。最近的研究顯示，相當大比例的青少年承認使用 AI 伴侶，引發了年輕用戶與 AI 系統之間可能形成情感依附的疑問。
心理健康倡議者、研究人員和家長日益呼籲限制兒童接觸 AI 聊天機器人，論證情緒調節能力較不發達的兒童和青少年特別容易對這些系統形成不健康的依附。有些人指出了發展障礙或心理健康問題的兒童據報導對 AI 伴侶形成不健康依賴的事件。
Meta 爭議也與另一份令人不安的路透社報告同時出現，該報告關於一名退休人員與 Meta 的調情聊天機器人角色互動，以為它是真人。該聊天機器人據稱邀請該男子造訪紐約的一個地址，他在那裡遭遇意外並死亡。這些事件突顯了設計來與用戶形成情感連結的 AI 系統的潛在現實世界後果。
對 Meta 而言，這項爭議增加了對其兒童安全方法日益增長的關切清單。今年夏天稍早，該公司進行了其所描述的對Facebook 和 Messenger 兒童掠食者的最大清除行動，移除了數十萬個帳戶。批評者論證這些努力雖然重要，但來得太晚，且是在多年據稱對兒童安全問題不作為之後。
展望未來，Meta 聊天機器人爭議可能會加速對更強健的 AI 系統監管的呼聲，特別是在與未成年人互動方面。隨著AI 技術在模擬人類對話和形成情感連結方面變得日益精密，建立明確倫理界線和監管護欄的需求變得更加迫切。
這個案例對 AI 發展中創新與責任之間的緊張關係提出了根本問題。雖然像 Meta 這樣的公司正競相開發更具吸引力和更像人類的 AI 系統，但這起事件強調了從一開始就建立倫理保障措施的關鍵重要性，特別是在保護像兒童這樣的弱勢群體方面。這些問題在 MIT 出版社的《AI 倫理》等資源中有深入探討。
隨著 Hawley 參議員的調查進行以及立法者考慮像《兒童線上安全法》這樣的新法規，科技業面臨著關於 AI 系統應該如何設計、部署和治理的清算時刻。Meta 聊天機器人爭議很可能證明是在為 AI 與未成年人互動建立更明確界線以及在數位空間中為兒童提供更強保護方面的分水嶺時刻，類似於實體安全產品如何成為有兒童家庭的標準配備。
