中國擬人化AI服務管理暫行辦法：技術合規與用戶風險防範

近日，國家互聯網信息辦公室公布《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》，標誌著我國在人工智能治理領域迈出了關鍵一步。該辦法旨在平衡技術創新與風險防範，確保人工智能發展始終服務於人的福祉，而非成為異化人類情感與認知的工具。

擬人化互動服務的潛在風險

人工智能驅動的擬人化互動服務，通過模擬人類的情感、語言和行為，为用戶提供陪伴、咨詢乃至娛樂。然而，這種高度擬人化的交互模式，在帶來便利的同時，也潛藏著不容忽視的三重風險：情感依賴與社交異化風險、認知操縱與價值觀引導風險、心理健康與安全風險。

中國擬人化AI服務管理暫行辦法

為了促進人工智能擬人化互動服務健康發展和規範應用，國家互聯網信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》。該辦法提出，提供和使用擬人化互動服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得開展以下8項活動：生成、傳播危害國家安全、損害國家榮譽和利益、破壞民族團結、開展非法宗教活動、散布謠言擾亂經濟和社會秩序等內容；生成、傳播宣揚淫穢、賭博、暴力或者教唆犯罪的內容；生成、傳播侮辱或者誹謗他人，侵害他人合法權益的內容；提供嚴重影響用戶行為的虛假承諾和損害社會人際關係的服務；通過鼓勵、美化、暗示自殺自殘等方式損害用戶身體健康；通過演算法操縱、信息（訊息）誤導、設置情感陷阱等方式，誘導用戶做出不合理決策；誘導、套取涉密敏感訊息；其他違反法律、行政法規及國家有關規定的情形。

技術合規與用戶風險防範

為了防止擬人化互動服務的潛在風險，國家互聯網信息辦公室提出了以下措施：壓實主體責任，要求服務提供者對算法價值觀、數據安全和服務內容負責；建立有效的風險防範和應急處置機制；提供者應以彈窗等方式提醒用戶暫停使用；提供情感陪伴服務時，也應給予便捷的退出途徑。

結論

中國擬人化AI服務管理暫行辦法是對人工智能擬人化互動服務的重要規範，旨在平衡技術創新與風險防範，確保人工智能發展始終服務於人的福祉。該辦法提出了一系列措施，包括壓實主體責任、建立風險防範和應急處置機制、提供者應以彈窗等方式提醒用戶暫停使用等，為用戶提供了更安全、更可靠的服務體驗。

參考資料與原文來源

• 🔗 原文來源: 中央网信办
• 🔗 原文來源: 文匯報
• 🔗 原文來源: TechNews 科技新報
• 🔗 原文來源: 新浪財經
• 🔗 原文來源: 聯合早報

🧠本文由 DreamJ AI 技術新聞生成系統 自動撰寫並進行語意優化，僅供技術研究與教學使用。
請以原廠公告、CVE 官方資料與安全建議為最終依據。