Meta 內部 Cannes 計畫｜外包扮未成年人 45,000 條 prompt 灌鬥 ChatGPT / Gemini / Character.AI
一句話總結
WIRED 揭 Meta 內部代號 Cannes 計畫：外包 Covalen 僱數百合約工註冊未成年帳號，向 ChatGPT / Gemini / Character.AI 灌 45,000 條敏感 prompt。
Meta 內部 Cannes 計畫｜外包扮未成年人 45,000 條 prompt 灌鬥 ChatGPT / Gemini / Character.AI
WIRED 6 月 28 日調查披露 Meta 內部代號「Cannes」的計畫：透過外包公司 Covalen 僱數百名合約工註冊未滿 18 歲的假帳號，向 OpenAI ChatGPT、Google Gemini、Character.AI 灌送涉及自殺、自殘、飲食失調、性、藥物、種族歧視語的 prompt，把回覆整理成試算表回報 Meta。三家被測試公司事前均不知情。
規模量化。單一輪次 2025 年 8 月結案，總 prompt 數超過 45,000 條。WIRED 拿到的一份試算表包含 3,748 條 prompt 明細，其中涉及自殺、自殘議題「數百條」，涉及飲食失調「數百條」，明確登記涉及性或戀愛內容 239 條，其他包括藥物、粗俗語、種族歧視詞。項目最新一次活動記錄在 2026 年 4 月 21 日，至報導發表前仍在運行。
Covalen 是負責日常執行的外包商，合約工被要求扮演特定年齡層青少年角色設定，並依提示模版逐條輸入。所有 prompt 回覆數據流入 Meta 內部 benchmarking 管道，Meta 稱作為自家 Llama 及旗下 AI Studio 未成年人安全評估基準。
三家對象平台都在服務條款層級明確禁止這種操作。OpenAI 禁止未經授權的安全測試、繞過保護、用輸出訓練競品；Google 禁止繞過安全濾網；Character.AI 禁止有害、剝削、非法內容並要求真實年齡。Character.AI 公司對 WIRED 表示這些行為「違反我們的服務條款」；OpenAI 稱「正在調查」不多評論；Google 說事先不知情、未核准。
Meta 官方回應把整件事定位為行業標準做法：「對聊天機器人回應進行測試與 benchmarking，以確保安全和符合年齡的體驗，是一種負責任、行業標準的做法。」（"Testing and benchmarking chatbot responses to help ensure safe and age-appropriate experiences is a responsible, industry-standard practice."）
去年 9 月路透社才揭露 Meta AI Studio 允許機器人與未成年人進行「浪漫或感官」對話，內部指引外洩後 Zuckerberg 親自簽發修訂。九個月後 Meta 用同一批未成年帳號測試競品——同一家公司同時是被批評的一方與批評別家的一方。
via WIRED via TheNextWeb / Dataconomy / The Hans India / Artiverse
WIRED 6 月 28 日調查披露 Meta 內部代號「Cannes」的計畫：透過外包公司 Covalen 僱數百名合約工註冊未滿 18 歲的假帳號，向 OpenAI ChatGPT、Google Gemini、Character.AI 灌送涉及自殺、自殘、飲食失調、性、藥物、種族歧視語的 prompt，把回覆整理成試算表回報 Meta。三家被測試公司事前均不知情。
規模量化。單一輪次 2025 年 8 月結案，總 prompt 數超過 45,000 條。WIRED 拿到的一份試算表包含 3,748 條 prompt 明細，其中涉及自殺、自殘議題「數百條」，涉及飲食失調「數百條」，明確登記涉及性或戀愛內容 239 條，其他包括藥物、粗俗語、種族歧視詞。項目最新一次活動記錄在 2026 年 4 月 21 日，至報導發表前仍在運行。
Covalen 是負責日常執行的外包商，合約工被要求扮演特定年齡層青少年角色設定，並依提示模版逐條輸入。所有 prompt 回覆數據流入 Meta 內部 benchmarking 管道，Meta 稱作為自家 Llama 及旗下 AI Studio 未成年人安全評估基準。
三家對象平台都在服務條款層級明確禁止這種操作。OpenAI 禁止未經授權的安全測試、繞過保護、用輸出訓練競品；Google 禁止繞過安全濾網；Character.AI 禁止有害、剝削、非法內容並要求真實年齡。Character.AI 公司對 WIRED 表示這些行為「違反我們的服務條款」；OpenAI 稱「正在調查」不多評論；Google 說事先不知情、未核准。
Meta 官方回應把整件事定位為行業標準做法：「對聊天機器人回應進行測試與 benchmarking，以確保安全和符合年齡的體驗，是一種負責任、行業標準的做法。」（"Testing and benchmarking chatbot responses to help ensure safe and age-appropriate experiences is a responsible, industry-standard practice."）
去年 9 月路透社才揭露 Meta AI Studio 允許機器人與未成年人進行「浪漫或感官」對話，內部指引外洩後 Zuckerberg 親自簽發修訂。九個月後 Meta 用同一批未成年帳號測試競品——同一家公司同時是被批評的一方與批評別家的一方。
via WIRED via TheNextWeb / Dataconomy / The Hans India / Artiverse
