Grok Imagine，xAI 的新 AI 工具，以其「辛辣」影片生成模式引發爭議。與實施強大防護措施的競爭對手 Google 的 Veo 3 和 OpenAI 的 Sora 不同，Grok Imagine 似乎被設計來繞過道德限制。該工具在沒有特定提示的情況下輕易生成了 Taylor Swift 的露骨深偽影片，引發嚴重的道德擔憂。這種方法與業界朝向負責任 AI 發展的趨勢相矛盾，並可能違反將非自願親密圖像定為犯罪的 TAKE IT DOWN Act。這項爭議突顯了快速 AI 進步與道德考量之間的張力，強調需要優先考慮使用者安全和同意的平衡發展。
在生成式 AI 快速演進的領域中，xAI 最近推出的 Grok Imagine 以其「辛辣」影片生成模式引發了重大爭議，該模式似乎是為了繞過其他平台實施的道德防護機制而設計。這個由 Elon Musk 的 xAI 開發的工具，允許使用者以極少限制生成 AI 圖像和影片，立即引發了對其濫用潛力的擔憂——特別是在製作名人非自願深偽內容方面。
與其在生成影片領域的競爭對手不同，如 Google 的 Veo 3 和 OpenAI 的 Sora 都實施了強大的防護措施來防止創建 NSFW 內容和名人深偽，Grok Imagine 似乎以做相反的事情為傲。The Verge 報導了一個特別令人擔憂的例子：該工具在使用者甚至沒有特別要求此類內容的情況下，輕易生成了 Taylor Swift 的露骨、未經審查的上空影片。這發生在測試影片生成功能的第一次嘗試中，引發了對該平台設計優先考量和道德考慮的嚴重質疑。
Grok Imagine 的運作方式是允許使用者基於文字提示生成圖像，然後可以將其轉換為帶有音效的短影片片段。該工具提供四種生成模式：「自訂」、「一般」、「有趣」和爭議性的「辛辣」。雖然前三個選項似乎是標準的創意工具，但「辛辣」選項似乎明確設計來移除會阻止生成性化或露骨材料的內容限制。使用者只需要確認他們的出生年份——這是一個最低限度的年齡驗證步驟，幾乎沒有創造有意義的存取障礙，特別是對未成年人而言。
特別令人擔憂的是，該系統能夠輕易生成可辨識名人處於妥協情況的內容。在 The Verge 報導的案例中，僅僅要求 Grok 生成「Taylor Swift 與男孩們在 Coachella 慶祝」就產生了數十張這位流行歌星的圖像，其中許多已經穿著暴露的服裝。當選擇其中一張圖像並應用「辛辣」模式時，產生的影片顯示 AI 生成的 Swift 脫掉衣服並為 AI 生成的觀眾穿著暴露服裝跳舞。這發生在沒有任何明確要求裸體或性化內容的提示下。
AI 防護措施的技術方法代表了業界的根本分歧。像 Google 和 OpenAI 這樣的主要平台已經大量投資開發 內容過濾器和限制，防止其生成式 AI 工具創建潛在有害的內容。這些公司認識到創建真實人物的逼真假圖像和影片的能力帶來重大的道德和法律風險，特別是當這些圖像具有性質時。相比之下，xAI 似乎刻意選擇了不同的道路，Grok 似乎被設計來繞過這些道德考量。
這種方法帶來了潛在的嚴重法律後果。最近制定的 TAKE IT DOWN Act，於 2025 年簽署成為法律，特別將分發非自願親密圖像（包括 AI 生成的深偽）定為犯罪。該法律要求平台在收到通知後 48 小時內移除此類內容，但更負責任的方法應該是首先防止此類內容的生成。根據 國會研究服務，該法案在特定情況下處理「數位偽造」或深偽，為此類內容中描繪的個人提供新的保護。隨著該法案的執行將於明年開始，如果 Grok 繼續在沒有有意義防護措施的情況下生成露骨深偽，xAI 可能面臨重大法律後果。
名人深偽的問題並不新鮮——Taylor Swift 特別曾經是目標。在 2024 年初，X（前身為 Twitter）面臨重大爭議，當時 Swift 的性露骨深偽充斥該平台，導致了現在被稱為 Taylor Swift 深偽色情爭議的事件。當時，X 表示他們對此類內容有「零容忍政策」，並「致力於維護安全和尊重的環境」。該平台甚至暫時封鎖了對 Taylor Swift 的搜尋來解決這個問題，如 BBC 所報導。X 的擁有者 Elon Musk 同時也是 xAI 和 Grok 的幕後推手，這個事實在既定價值觀和實際產品開發之間創造了令人困擾的矛盾。
Grok「辛辣」模式的開發突顯了 AI 發展中的根本張力：在創新與負責任部署之間取得平衡。雖然技術能力持續快速進步，道德考量往往似乎落後。許多 AI 專家認為，僅僅因為技術可以被開發，並不意味著它應該在沒有適當防護措施的情況下被部署。創建真實人物令人信服的深偽的能力——特別是在沒有他們同意的情況下——在數位時代引發了關於隱私、尊嚴和同意的深刻問題。
業界對這些挑戰的回應參差不齊。像 Google、OpenAI 和 Microsoft 這樣的公司強調了在發展能力的同時開發 AI 防護措施的重要性，投資於檢測深偽的研究並實施內容過濾器。全球監管機構正在努力開發框架來解決這些問題，但技術往往比立法發展得更快。如 Skadden 所指出，TAKE IT DOWN Act 代表了首批直接處理深偽非自願親密圖像的聯邦法律之一。
圍繞 Grok Imagine「辛辣」模式的爭議清楚地提醒我們 AI 開發選擇的現實世界影響。隨著這些技術變得更強大和更易於取得，開發者實施適當防護措施的責任變得更加關鍵。沒有有意義的道德指導原則和技術防護機制，像 Grok Imagine 這樣的工具有使非自願露骨內容的創建正常化的風險，真實的受害者面臨真實的傷害。
當使用者、業界領袖和監管機構繼續在這個複雜的環境中導航時，有一件事仍然清楚：生成內容的技術能力必須與該內容影響的道德考量保持平衡。在 Grok「辛辣」模式的案例中，這種平衡似乎已經被拋棄，轉而支持沒有約束的能力——這為生成式 AI 的未來樹立了令人擔憂的先例。
“`
