Meta 首次把青少年自傷 AI 對話交給家長｜每次警報先由人工覆核
一句話總結
Meta AI 開始向家長通報青少年自傷對話；AI 標記後須先經人工覆核。
Meta 首次把青少年自傷 AI 對話交給家長｜每次警報先由人工覆核
Meta 首次主動通知家長：受監護青少年曾在 Meta AI 對話中提及自殺或自傷。功能 7 月 16 日先在美國、英國、澳洲及加拿大上線，限使用 Instagram Parental Supervision 的家庭；Meta 稱年底前擴至全球。
專用 AI 系統會找出明確或隱晦的自傷表述，但不會直接自動發警報。Meta 承諾每段被標記的聊天都先交人工覆核；意圖模糊時仍傾向通知家長。公司承認這會產生無實際危險的警報，未公布偵測準確率、覆核人數或聊天保留時間。
Meta 表示已收集超過 75 名青少年心理健康臨床人員的意見，涵蓋數百個 prompts。家長會收到專家資源，但公告沒有說會提供完整對話。更嚴格的 Limited Content 設定也擴至 Meta AI，聊天機器人會拒答更多敏感 prompts。
公司另在開發向緊急服務通報迫切自殺風險的功能，成人與青少年都在範圍內，尚未公布上線日期。Meta 稱 2025 年曾因 Facebook、Instagram 貼文向全球緊急服務轉介逾 19,000 次；新對話警報仍處於監管與家長檢視之下。
via TechCrunch / Meta Newsroom
Meta 首次主動通知家長：受監護青少年曾在 Meta AI 對話中提及自殺或自傷。功能 7 月 16 日先在美國、英國、澳洲及加拿大上線，限使用 Instagram Parental Supervision 的家庭；Meta 稱年底前擴至全球。
專用 AI 系統會找出明確或隱晦的自傷表述，但不會直接自動發警報。Meta 承諾每段被標記的聊天都先交人工覆核；意圖模糊時仍傾向通知家長。公司承認這會產生無實際危險的警報，未公布偵測準確率、覆核人數或聊天保留時間。
Meta 表示已收集超過 75 名青少年心理健康臨床人員的意見，涵蓋數百個 prompts。家長會收到專家資源，但公告沒有說會提供完整對話。更嚴格的 Limited Content 設定也擴至 Meta AI，聊天機器人會拒答更多敏感 prompts。
公司另在開發向緊急服務通報迫切自殺風險的功能，成人與青少年都在範圍內，尚未公布上線日期。Meta 稱 2025 年曾因 Facebook、Instagram 貼文向全球緊急服務轉介逾 19,000 次；新對話警報仍處於監管與家長檢視之下。
via TechCrunch / Meta Newsroom
