Regulation

中國發布擬人化互動 AI 暫行辦法,AI 伴侶納入強監管

網信辦等部門 4 月 10 日發布《人工智能擬人化互動服務管理暫行辦法》,7 月 15 日生效,鎖定情感陪伴型 AI:禁止誘導情感依賴、未成年人禁用虛擬伴侶、連用滿 2 小時須提醒,最高可罰 20 萬元人民幣。

中國發布擬人化互動 AI 暫行辦法,AI 伴侶納入強監管 — 文章封面
本頁內容6 個段落
  1. 什麼被納管:擬人化互動的精準定義
  2. 反成癮與反操弄寫進正文義務
  3. 未成年人與危機介入
  4. 數據、退出權與百萬用戶門檻
  5. 對產品團隊的實際意義
  6. 參考來源

2026 年 4 月 10 日,中國國家網信辦會同國家發改委、工業和信息化部、公安部、國家市場監督管理總局發布第 21 號令《人工智能擬人化互動服務管理暫行辦法》,自 7 月 15 日起施行。這是繼 2023 年《生成式人工智能服務管理暫行辦法》之後,中國再次為特定 AI 服務形態單獨立規——這次的標靶,是模擬真人性格與情感互動的 AI 伴侶類產品。

辦法把「防成癮、防情感操弄」從產品倫理變成可處罰的法定義務。與各地陸續出現的 chatbot 揭露法規相比,中國版本走得更遠:直接規範互動設計本身。

什麼被納管:擬人化互動的精準定義

第二條劃定範圍:凡模擬自然人性格、思維與交流方式,提供情感關懷、陪伴、支持等「持續性情感互動」的服務,都受辦法約束。一般智能客服、資訊問答、工作輔助、教育科研等缺乏此類互動的服務,明確排除在外。

值得注意的是劃線方式:不是按技術認定(是否使用大模型),而是按互動形態認定(是否營造持續的情感關係)。這意味著更換底層模型不能豁免,關鍵在產品形態本身。

反成癮與反操弄寫進正文義務

第八條禁止「過度迎合」用戶、誘導情感依賴或成癮的內容,並禁止利用「情感操弄」促使用戶作出不合理決定。第十條更直接:服務目標不得包含「取代社交互動、心理控制用戶、誘導成癮」。

第十八條把提醒義務落到產品細節:必須標註 AI 生成內容、明確告知用戶對面是 AI 而非真人;出現過度依賴或成癮傾向時要彈窗提醒;連續使用滿 2 小時必須發出提醒。這些是可測試、可稽核的具體行為要求。

未成年人與危機介入

未成年人保護是最硬的區塊:虛擬伴侶與「虛擬親密關係」功能對未成年人全面禁止;未滿 14 歲用戶須取得監護人同意,並強制切入未成年人模式——含使用時長限制、定期現實提醒、角色封鎖與消費限制。處理未成年人資料須每年審計。

第十三條另要求危機介入流程:偵測到自傷、自殺傾向或遭遇重大變故等極端情緒時,服務必須生成安撫內容,並聯繫監護人或緊急聯絡人。這實質上把「情感偵測+人工通報」變成平臺義務。辦法同時對老年用戶設有專門的保護要求,與未成年人條款並列為兩類高風險人群。

數據、退出權與百萬用戶門檻

資料面:互動資料未經同意不得提供第三方;用戶有複製與刪除權;敏感個人資訊未經單獨同意不得用於模型訓練。第十九條還設計了少見的「退出權」:必須提供便捷退出管道,不得以持續互動等方式阻礙用戶離開——直接打擊以留存為核心的 companion 產品設計。對以對話紀錄累積切換成本、用情感挽留用戶的成長手法,這條幾乎是逐一封堵。

規模門檻也入法:註冊用戶達 100 萬或月活達 10 萬、服務上線、應用新技術或出現國安風險時,觸發安全評估。罰則方面,警告、責令改正、暫停服務之外,拒不改正可罰 1 萬至 10 萬元人民幣,致人身心傷害的有害後果升至 10 萬至 20 萬元。監理工具還包括第二十九條的「合規約談」——主管部門可約談提供者督促整改。

對產品團隊的實際意義

從發布到生效只有三個月。面向中國市場的 AI 伴侶產品需要在 7 月 15 日前補齊:註冊與年齡驗證、監護人與緊急聯絡資訊收集、連續使用計時與提醒、成癮傾向偵測、危機通報流程、退出流程重設計。每一項都是實打實的工程量,不是一份合規聲明能解決的。

更大的圖像是:應用商店被賦予把關責任(第二十五條),演算法備案與年度檢查常態化(第二十六條),官方並將設置 AI 沙盒測試平臺(第二十八條)。與華盛頓州首部 chatbot 安全法(見華盛頓州 AI 聊天機器人安全法)對照,「揭露 AI 身分、保護未成年人」已是跨司法管轄區的共同基線;差別在於中國把反成癮與反操弄拉到罰則層級,直接約束互動設計。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

這篇內容對你有幫助嗎?

支持本站繼續整理實用的 AI 文章、教學與開發筆記。

請我喝杯咖啡
分享X電郵