Meta 首次向家长通报青少年自伤 AI 对话｜每条警报先经人工复核
一句话总结
Meta AI 开始向家长通报青少年自伤对话；AI 标记后必须先经过人工复核。
Meta 首次主动通知家长：受监护青少年曾在 Meta AI 对话中提及自杀或自伤。功能 7 月 16 日先在美国、英国、澳大利亚和加拿大上线，仅限使用 Instagram Parental Supervision 的家庭；Meta 表示年底前扩展至全球。
专用 AI 系统会识别明确或隐晦的自伤表述，但不会直接自动发送警报。Meta 承诺每段被标记的聊天都先交人工复核；意图模糊时仍倾向通知家长。公司承认这会产生没有实际危险的警报，但未公布检测准确率、复核人员数量或聊天保存时间。
Meta 表示已收集超过 75 名青少年心理健康临床人员的意见，覆盖数百个 prompts。家长会收到专家资源，但公告没有说明会提供完整对话。更严格的 Limited Content 设置也扩展至 Meta AI，聊天机器人将拒绝回答更多敏感 prompts。
公司另在开发向紧急服务通报紧迫自杀风险的功能，成人与青少年都在范围内，尚未公布上线日期。Meta 称 2025 年曾因 Facebook、Instagram 帖子向全球紧急服务转介超过 19,000 次；新的对话警报仍面临监管与家长审视。
via TechCrunch / Meta 官方新闻稿
专用 AI 系统会识别明确或隐晦的自伤表述，但不会直接自动发送警报。Meta 承诺每段被标记的聊天都先交人工复核；意图模糊时仍倾向通知家长。公司承认这会产生没有实际危险的警报，但未公布检测准确率、复核人员数量或聊天保存时间。
Meta 表示已收集超过 75 名青少年心理健康临床人员的意见，覆盖数百个 prompts。家长会收到专家资源，但公告没有说明会提供完整对话。更严格的 Limited Content 设置也扩展至 Meta AI，聊天机器人将拒绝回答更多敏感 prompts。
公司另在开发向紧急服务通报紧迫自杀风险的功能，成人与青少年都在范围内，尚未公布上线日期。Meta 称 2025 年曾因 Facebook、Instagram 帖子向全球紧急服务转介超过 19,000 次；新的对话警报仍面临监管与家长审视。
via TechCrunch / Meta 官方新闻稿
