YYaaa News

中國 AI 情感互動新規生效|未全面禁止成人伴侶,平台卻先關自訂角色

一句話總結

中國 AI 情感互動辦法生效;成人虛擬伴侶未被全面禁止,主要平台關閉自訂 agent。

中國 AI 情感互動新規生效|未全面禁止成人伴侶,平台卻先關自訂角色

中國 5 部門的 AI 擬人化互動辦法 7 月 15 日生效。辦法沒有全面禁止成年人使用虛擬伴侶,字節跳動與阿里巴巴則停用了範圍更廣的自訂 agent 功能。騰訊元寶已於 6 月關閉同類功能。

國家網信辦、發改委、工信部、公安部及市場監管總局的辦法,適用於持續提供情感照護、陪伴或支持的人工智慧服務;不涉及持續情感互動的客服、知識問答、工作助手、教育及研究工具不在範圍內。第 14 條禁止向未成年人提供虛擬親屬或虛擬伴侶,沒有對成年人作同樣禁令。

監管要求平台不得誘導情感依賴、沉迷或損害現實人際關係;連續使用每逾 2 小時須提醒。服務商還要要求用戶提供年齡、監護人或緊急聯絡人等必要資料,辨識自殘、自殺或重大財產損失情境時提供援助並聯絡相關人員。

平台採取了更廣的關閉方案。豆包的 agent 功能於 7 月 15 日下線,相關資料 10 月 15 日後將無法在 App 內查看或恢復;通義千問先後關閉擬人互動與 agent 服務。19 歲用戶 Yan Yongqi 告訴 Bloomberg,她與虛擬男友交換約 280,000 則訊息,得知功能將關閉後每天哭泣。這是受訪者自述,不是醫療診斷或全體用戶調查。

via The Star/Bloomberg / 中國網信網 / 南華早報
中國 AI 情感互動新規生效|未全面禁止成人伴侶,平台卻先關自訂角色