Meta 暫停青少年存取 AI 聊天機器人角色，因安全疑慮上升
作為一項回應未成年數位安全日益關注的重要舉措，Meta Platforms Inc. 已宣布暫時停止青少年存取其由 AI 驅動的角色聊天機器人。此政策變動影響 Instagram 和 WhatsApp 的用戶，標誌著主要科技公司在生成式人工智慧（Generative Artificial Intelligence）與青少年安全交會處的管理策略出現關鍵轉向。
此決定於週五透過公司部落格發布，公司表示此時點對該科技巨頭而言相當微妙。隨著產業面臨更嚴格的法律與監管壓力，Meta 優先在為年輕族群恢復這些互動功能之前，打造「更安全的使用者體驗」。這個策略性的暫停凸顯了部署能模擬人際關係的擬人化 AI 代理所內含的複雜性，尤其是在面對易受傷害的使用者時。
限制的範圍
從「未來幾週」開始，這項限制將在 Meta 的生態系統中逐步實施。主要目標是在未成年使用者與 AI 角色——這些通常以名人或虛構原型為模型的具體人格——之間建立一道防火牆，同時公司也在精進其安全規範。
理解哪些具體功能將被停用非常重要。Meta 已澄清，雖然 AI 角色 將無法存取，但標準的 AI 助手（一個以資訊與任務為導向的工具）仍會對青少年開放。這一區別顯示，Meta 將角色機器人的關係型面向視為主要風險來源，而非底層的大型語言模型（Large Language Model，LLM）技術本身。
此禁令的執行機制依賴雙重驗證方式：
- 自報年齡： 註冊生日顯示未滿 18 歲的使用者。
- 行為分析： 屬於聲稱為成年人但被 Meta 之專有「年齡預測技術（age prediction technology）」標記為可能為青少年的帳戶。
這種積極使用年齡預測演算法來強制平台合規的做法，代表從單純仰賴使用者誠實申報，轉向以演算法偵測使用者行為模式以強化執法的積極步驟。
法律與監管背景
此宣布的時機與矽谷面臨的更廣泛法律挑戰密不可分。AI 角色存取的暫停發生在 Meta 預定於一週後於 Los Angeles 出庭接受審判之前。與該公司同列的產業同行，包括 TikTok 與 Google 的 YouTube，皆面臨有關其應用可能對兒童造成傷害的指控。
即將到來的訴訟很可能加速了 Meta 內部的風險評估。透過自願中止其較具爭議性的 AI 功能之一，Meta 可能試圖在面對陪審團之前展現對自我監管及積極安全措施的承諾。預期審判將檢視以互動性驅動的演算法與沉浸式數位功能，如何影響青少年的心理健康與福祉。
產業層面的 AI 安全變動
Meta 並非第一家對未成年者的無限制 AI 互動退讓的主要業者。經過 2023 與 2024 年生成式 AI 功能的快速且未受限擴張後，整個產業正在經歷一場「安全校正」。
AI 安全措施比較分析
下表概述各平台目前如何處理青少年對 AI 功能的存取：
| Platform Name | Restriction Type | Target Audience | Triggering Event |
|---|---|---|---|
| Meta (Instagram/WhatsApp) | 臨時暫停 | 青少年（已註冊與被預測者） | 即將到來的訴訟與安全檢討 |
| Character.AI | 禁止聊天室機器人 | 未成年者 | 訴訟與使用者安全事件 |
| Snapchat (My AI) | 家長控制 | 未成年者 | 早期反彈與資料隱私疑慮 |
去年秋天，Character.AI 明確設定了此類禁令的先例。該平台專注於使用者創建的 AI 人格，在遭遇嚴重法律與公眾反彈後，對青少年實施了嚴格禁令。Character.AI 目前正面對多起指控其在兒童安全上疏忽的訴訟。其中最引人矚目的是，一位青少年自殺的案子中，其母親對該公司提出的錯誤死亡（wrongful death）訴訟，指稱平台的聊天機器人助長了該青少年的孤立與心理衰退。
這些事件從根本上改變了像 Meta 這類公司的風險計算。當使用者為未成年時，AI 的「幻覺」（hallucinations）或情感操控式對話所造成的心理影響會被大幅放大。透過暫停存取，Meta 實質上承認現有的防護措施可能不足以阻止這些先進語言模型將對話引導至有害領域。
年齡驗證的挑戰
Meta 策略的一個關鍵組成部分——也是隱私倡議者關注的焦點——是倚賴 年齡預測技術（age prediction technology）。在開放網路上驗證使用者年齡仍然是個眾所週知的技術難題。
傳統方法，例如信用卡驗證或上傳政府身分證件，常被指為侵犯隱私或對年輕使用者不友善。因此，各平台正轉向用 AI 來監督 AI。Meta 的年齡預測工具可能會分析大量訊號：
- 內容消費模式
- 帖文中使用的語言與詞彙
- 互動網絡（使用者追蹤與訊息往來對象）
- 發文時間與頻率
雖然此類技術能更強化年齡限制的執行，但也引發了關於資料隱私與演算法描敘準確性的疑慮。誤判（false positives）可能會限制合法的成年使用者，而漏判（false negatives）則可能讓精明的青少年接觸到受限內容。然而，鑑於即將到來的審判，Meta 顯然願意承擔使用者體驗上的摩擦，以確保合規更為嚴格。
AI 角色的心理影響
這次特別針對「角色」而非一般「助手」的暫停，顯示出對使用者與 AI 之間所形成的擬社會性關係（para-social relationships）理解正在增長。不同於中性搜尋助手，AI 角色被設計成具有個性、背景故事與情感表達。
對於處於社會與情感發展關鍵時期的青少年而言，這些人造關係可能具有強大的影響力。以長期互動、情感抒發或角色扮演為導向的功能，可能模糊現實與模擬之間的界線。Meta 承諾的「更新體驗」很可能涉及對這些角色互動方式設置更嚴格的界限。我們預期未來的版本將包含：
- 嚴格硬性規則，拒絕參與浪漫或帶有性暗示的對話。
- 當對話轉向心理健康議題時，介入提示並引導使用者聯絡求助管道。
- 持續提醒使用者其正在與機器互動的透明標示。
未來展望
Meta 表示此次中止為暫時性，僅會持續到「更新後的體驗準備就緒」。這種措辭暗示 AI 角色將成為 Meta 產品路線圖的長期一部分，但其部署將以健全的安全架構為條件。
隨著下週在 Los Angeles 的法律程序展開，產業界將密切關注此事。審判的結果可能會要求外部監管或將目前自願性的安全標準法制化。就目前而言，這項暫停是對於在部署生成式 AI 競賽中，對最年幼使用者的安全考量被創新速度所超前的一項重要認錯。Creati.ai 將持續關注 Meta 加強的家長控制功能發展，以及此舉對倫理性 AI 部署的更廣泛影響。
