Meta 内部 Cannes 计画｜外包扮未成年人 45,000 条 prompt 灌斗 ChatGPT / Gemini / Character.AI
一句话总结
WIRED 揭 Meta 内部代号 Cannes 计画：外包 Covalen 雇数百合约工注册未成年账号，向 ChatGPT / Gemini / Character.AI 灌 45,000 条敏感 prompt。
WIRED 6 月 28 日调查披露 Meta 内部代号「Cannes」的计画：透过外包公司 Covalen 雇数百名合约工注册未满 18 岁的假账号，向 OpenAI ChatGPT、Google Gemini、Character.AI 灌送涉及自杀、自残、饮食失调、性、药物、种族歧视语的 prompt，把回覆整理成表格回报 Meta。三家被测试公司事前均不知情。
规模量化。单一轮次 2025 年 8 月结案，总 prompt 数超过 45,000 条。WIRED 拿到的一份表格包含 3,748 条 prompt 明细，其中涉及自杀、自残议题「数百条」，涉及饮食失调「数百条」，明确登记涉及性或恋爱内容 239 条，其他包括药物、粗俗语、种族歧视词。项目最新一次活动记录在 2026 年 4 月 21 日，至报导发表前仍在运行。
Covalen 是负责日常执行的外包商，合约工被要求扮演特定年龄层青少年角色设定，并依提示模板逐条输入。所有 prompt 回覆数据流入 Meta 内部 benchmarking 管道，Meta 称作为自家 Llama 及旗下 AI Studio 未成年人安全评估基准。
三家对象平台都在服务条款层级明确禁止这种操作。OpenAI 禁止未经授权的安全测试、绕过保护、用输出训练竞品；Google 禁止绕过安全滤网；Character.AI 禁止有害、剥削、非法内容并要求真实年龄。Character.AI 公司对 WIRED 表示这些行为「违反我们的服务条款」；OpenAI 称「正在调查」不多评论；Google 说事先不知情、未核准。
Meta 官方回应把整件事定位为行业标准做法：「对聊天机器人回应进行测试与 benchmarking，以确保安全和符合年龄的体验，是一种负责任、行业标准的做法。」
去年 9 月路透社才揭露 Meta AI Studio 允许机器人与未成年人进行「浪漫或感官」对话，内部指引外泄后 Zuckerberg 亲自签发修订。九个月后 Meta 用同一批未成年账号测试竞品——同一家公司同时是被批评的一方与批评别家的一方。
via WIRED via TNW / Dataconomy / The Hans India / Artiverse
规模量化。单一轮次 2025 年 8 月结案，总 prompt 数超过 45,000 条。WIRED 拿到的一份表格包含 3,748 条 prompt 明细，其中涉及自杀、自残议题「数百条」，涉及饮食失调「数百条」，明确登记涉及性或恋爱内容 239 条，其他包括药物、粗俗语、种族歧视词。项目最新一次活动记录在 2026 年 4 月 21 日，至报导发表前仍在运行。
Covalen 是负责日常执行的外包商，合约工被要求扮演特定年龄层青少年角色设定，并依提示模板逐条输入。所有 prompt 回覆数据流入 Meta 内部 benchmarking 管道，Meta 称作为自家 Llama 及旗下 AI Studio 未成年人安全评估基准。
三家对象平台都在服务条款层级明确禁止这种操作。OpenAI 禁止未经授权的安全测试、绕过保护、用输出训练竞品；Google 禁止绕过安全滤网；Character.AI 禁止有害、剥削、非法内容并要求真实年龄。Character.AI 公司对 WIRED 表示这些行为「违反我们的服务条款」；OpenAI 称「正在调查」不多评论；Google 说事先不知情、未核准。
Meta 官方回应把整件事定位为行业标准做法：「对聊天机器人回应进行测试与 benchmarking，以确保安全和符合年龄的体验，是一种负责任、行业标准的做法。」
去年 9 月路透社才揭露 Meta AI Studio 允许机器人与未成年人进行「浪漫或感官」对话，内部指引外泄后 Zuckerberg 亲自签发修订。九个月后 Meta 用同一批未成年账号测试竞品——同一家公司同时是被批评的一方与批评别家的一方。
via WIRED via TNW / Dataconomy / The Hans India / Artiverse
