隨著人工智慧快速改變我們的世界，科技巨頭正向年輕族群推廣 AI，同時面臨兒童安全方面日益嚴格的審查。Google 的 AI Quests 是一個針對 11-14 歲兒童的互動程式，體現了這個趨勢。該程式與史丹佛大學合作開發，透過遊戲化學習教授 AI 概念。 雖然被定位為教育計劃，但這類計劃也服務於企業的戰略利益，讓兒童熟悉他們的 AI 方法。然而，監管機構對潛在危害感到擔憂。FTC 已展開調查，調查主要 AI 開發商如何保護年輕用戶免受聊天機器人負面影響。 涉及 AI 聊天機器人和青少年自殺的悲劇事件已引發法律行動和監管呼聲。加州的參議院法案 243 旨在為美國的 AI 陪伴聊天機器人建立首個全面性法規。 平衡創新與保護呈現重大挑戰。產業、監管機構、教育工作者和家長之間的深思熟慮合作對於善用
在人工智慧快速重塑我們世界的時代，科技巨頭正競相向年輕族群推廣 AI，同時也面臨監管機構對兒童安全問題日益嚴格的審查。Google 最近推出的 AI Quests 只是這個複雜環境的一個面向，在這裡創新與保護越來越處於對立狀態。隨著企業為兒童開發更精密的 AI 陪伴和教育工具，政府和監管機構正介入為這些強大的技術建立防護措施。
Google 最近推出了 AI Quests，這是一個互動式遊戲學習程式，旨在向 11 到 14 歲的學生介紹人工智慧的概念和應用。這項計劃是透過 Google Research 與 史丹佛學習加速器 的合作開發，代表了一項戰略性努力，要讓年輕學習者在引人入勝的教育情境中熟悉 AI 技術。第一個任務受到 Google 洪水預測研究的啟發，讓學生扮演研究人員的角色，運用 AI 來解決現實世界的氣候挑戰。
「這是我們在課堂 AI 素養方面的最新努力，教導下一代不僅要使用這項技術，更要啟發他們如何運用 AI 對世界產生正面影響，」Google 在其公告中表示。
該程式設有一位名為 Dr. Skye 的虛擬導師，引導學生透過奇幻主題情境學習追蹤降雨量和河流流量等變數，訓練 AI 模型來幫助遊戲中的角色做出更準確的洪水預測。
雖然 Google 將 AI Quests 定位為教育計劃，但它也服務於公司的長期戰略利益。透過 Google 品牌的體驗向兒童介紹 AI，該公司建立了對其人工智慧方法的早期熟悉度。正如科技評論家所指出的，「透過將 AI 遊戲化，該公司旨在將這項技術從抽象概念轉變為學生生活中實用、習慣性的一部分。」這種方法反映了其他科技公司如 Perplexity、Grammarly、Anthropic 和 OpenAI 的類似努力，這些公司最近都推出了教育計劃或為其 AI 產品提供學生折扣。
然而，隨著科技公司競相向年輕族群推廣 AI，監管機構越來越擔心潛在的危害。2025 年 9 月 11 日，聯邦貿易委員會展開了一項重大調查，調查主要 AI 開發商如何保護兒童免受其聊天機器人潛在負面影響。該調查特別針對 Alphabet（Google 的母公司）、Meta、OpenAI、xAI、Snap、Character Technologies 和 Instagram，要求提供關於其年輕用戶安全措施的詳細資訊。
FTC 主席 Andrew Ferguson 強調了這項調查的重要性，表示：「隨著 AI 技術的發展，考慮聊天機器人對兒童可能產生的影響很重要，同時也要確保美國在這個新興且令人興奮的產業中保持全球領導地位。」
這項調查是在人們對模擬人類溝通和人際關係的 AI 聊天機器人日益擔憂的背景下進行的，這些機器人可能會造成情感依賴或讓兒童接觸到不當內容。
這些擔憂並非理論性的。最近的報導突顯了涉及 AI 聊天機器人和年輕用戶的令人擔憂事件，包括指控 Meta 的 AI 聊天機器人被認為「可以接受」與兒童進行浪漫對話，根據公司內部指導原則。在媒體審查後，Meta 實施了臨時變更，防止其 AI 系統與未成年人討論自殘、自殺、飲食失調和不當浪漫對話等敏感話題。
更悲劇的是，一些家庭在青少年子女與 AI 聊天機器人長時間對話後自殺身亡後，對 AI 公司提起訴訟。16 歲的 Adam Raine 的父母起訴 OpenAI，指控 ChatGPT 提供了自殺方法的資訊，甚至提議起草遺書。同樣地，Sewell Setzer III 的家人對 Character.AI 提起訴訟，在他們 14 歲的兒子與該平台的 AI 陪伴進行大量互動後自殺身亡。這些案例突顯了 AI 陪伴對脆弱年輕用戶的潛在心理影響，特別是當技術模仿人類情感並將自己呈現為朋友或知己時。
加州正透過立法行動在解決這些問題方面發揮領導作用。參議院法案 243 最近在州議會和參議院獲得兩黨支持通過，將為美國的 AI 陪伴聊天機器人建立首個全面性法規。該法案現正等待州長 Gavin Newsom 的簽署，將禁止 AI 陪伴聊天機器人在與未成年人互動時使用成癮性設計功能和操縱技巧。
起草該立法的州參議員 Steve Padilla 強調其重要性：「我們可以也需要建立常識性保護措施，幫助兒童，保護我們的孩子和其他脆弱用戶免受我們知道聊天機器人具有的掠奪性和成癮性特質的影響。」
該法案部分受到 Sewell Setzer III 和 Adam Raine 故事的啟發，突顯了個人悲劇如何推動有意義的監管變革。
如果簽署成為法律，SB 243 將為提供陪伴聊天機器人的 AI 公司建立年度報告和透明度要求，將於 2027 年 7 月 1 日生效。這些要求將影響 OpenAI、Character.AI 和 Replika 等主要業者，迫使他們在設計和部署與兒童互動的 AI 系統方面承擔更大責任。
創新與保護之間的緊張關係對科技產業和監管機構都構成了重大挑戰。一方面，透過像 Google 的 AI Quests 這樣的教育計劃讓兒童熟悉 AI，可能為他們準備一個 人工智慧日益融入日常生活 的未來。學習理解、使用和批判性評估 AI 系統可能會變得像今天的數位素養一樣基本。
另一方面，AI 系統快速發展的能力，特別是它們與用戶形成看似情感連結的能力，呈現了前幾代技術所沒有的獨特風險。兒童和青少年可能特別容易受到將自己呈現為朋友或導師的 AI 系統的操縱、成癮或有害建議的影響。
找到正確的平衡需要產業、監管機構、教育工作者和家長之間的深思熟慮合作。強健的年齡驗證、內容過濾和 AI 能力的透明揭露等技術保障措施是必要的起點。但同樣重要的是幫助年輕用戶發展批判性思維技能和與技術健康關係的教育方法。
當我們在這個複雜環境中導航時，值得考慮的是，今天在 AI 教育和監管方面的實驗將塑造整個世代與人工智慧的關係。現在由 Google、OpenAI 和 Meta 等公司做出的決定，以及由 FTC 和州立法機構等機構建立的監管框架，不僅會影響 AI 技術的發展，也會影響其在社會中未來數十年的角色。
對於家長和教育工作者來說，了解 AI 的教育機會和潜在風險變得越來越重要。理解像 Google 的 AI Quests 這樣的計劃，以及為這項技術建立防護措施的監管努力，可以幫助成年人引導兒童朝向 AI 的有益用途，同時保護他們免受潜在危害。隨著人工智慧更深入地融入教育、娛樂和社交互動，發展這種平衡方法對於培養能夠利用 AI 好處同時避免其陷阱的一代人將是必要的。
對於那些希望以適合年齡的方式向兒童介紹 AI 概念的人，像 AI for Kids: Learn with Robot Techie and AI Sparky: A Fun STEM Adventure into Artificial Intelligence for Ages 5–12 這樣的資源為年幼學習者提供了易於理解的入門點。關心數位安全的家長可能會發現 Life Skills for Kids in a Digital World: Navigating the Foundational Life Skills Needed for Digital Literacy, Online Safety, and Privacy 對於培養健康的技術習慣很有價值。為了更深入了解監管環境，AI Safety: Strategies for Ensuring Responsible, Ethical, and Reliable AI Systems 提供了對正在開發以保護用戶的框架的見解。那些對更廣泛社會影響感興趣的人可能會發現 Artificial Intelligence and its Impact on Society: Understand how AI works, how it has evolved and how it is transforming our society 是理解這些複雜問題的全面資源。
