國家互聯網信息辦公室、工業和信息化部、公安部三部門聯合印發了《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），旨在加強對深度合成技術（Deep Synthesis Technology）的規范管理，促進互聯網信息服務健康有序發展，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。這是我國在人工智能治理領域出臺的又一重要法規，標志著對以生成式人工智能為代表的深度合成技術及應用進入精細化、法治化監管的新階段。
一、明確界定與監管范圍，聚焦前沿技術應用
《規定》首先對“深度合成技術”進行了明確界定，指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。具體包括但不限于：
- 生成或者編輯文本內容，如智能寫作、對話生成；
- 生成或者編輯語音、音樂、音頻，如語音克隆、歌曲生成；
- 生成或者編輯圖像、視頻內容，如人臉替換、人物生成、場景生成、視頻增強/修復；
- 生成沉浸式擬真場景，如數字人、虛擬空間構建；
- 其他具有生成或者顯著改變信息內容功能的合成技術。
監管對象涵蓋深度合成服務的提供者、技術支持者以及使用者，特別是強調了對具有輿論屬性或者社會動員能力的深度合成服務提供者的重點監管要求。
二、確立基本管理原則，壓實主體責任
《規定》確立了堅持社會主義核心價值觀、維護國家安全和社會公共利益、促進技術正向應用、防范風險等基本原則。核心是壓實深度合成服務提供者和技術支持者的主體責任，要求其：
- 建立健全管理制度：包括算法機制機理審核、科技倫理審查、信息內容管理、數據安全與個人信息保護、反電信網絡詐騙等制度。
- 落實真實身份認證：對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份認證的用戶提供服務。
- 加強技術管理：采取技術措施保證深度合成過程可追溯，并定期審核、評估、驗證生成合成類算法機制機理。
- 明確標識義務：對使用深度合成技術生成或者編輯的信息內容，必須進行顯著標識（如加水印、添加標識符等），避免公眾混淆和誤認。
三、突出內容安全與標識要求，保障知情權
針對深度合成內容可能引發的虛假信息傳播、侵權詐騙等問題，《規定》設置了專門條款：
- 任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，或從事危害國家安全和利益、損害他人合法權益等活動。
- 深度合成服務提供者應對輸入數據和合成結果進行審核，并記錄相關日志信息不少于六個月。
- 對于可能引發公眾混淆或者誤認的深度合成信息內容（如仿冒他人身份、仿冒新聞播報等），必須在合理位置、區域進行顯著標識，提示系“合成”或“虛擬”內容。
- 提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有交互功能服務的，應當明確提示用戶正在與AI交互。
四、加強數據與個人信息保護，規范訓練數據使用
《規定》要求深度合成服務提供者和技術支持者加強訓練數據管理：
- 提供人臉、人聲等生物識別信息編輯功能的，應當取得被編輯個人的單獨同意。
- 建立完善的數據管理制度，依法依規收集、使用、處理個人信息，并采取必要措施保障數據安全。
- 用于訓練算法的數據若包含個人信息，應遵守個人信息保護相關法律法規。
五、健全監管與法律責任體系
《規定》明確了網信、電信、公安等部門的監督管理職責，要求建立健全監督檢查、技術檢測等機制。對于違反《規定》的行為，相關責任主體將依據《網絡安全法》、《數據安全法》、《個人信息保護法》等法律法規進行處罰；構成犯罪的，依法追究刑事責任。
六、意義與展望
此次《規定》的出臺，是對快速發展的深度合成技術及其廣泛應用（如虛擬主播、AI繪畫、智能寫作、換臉應用等）帶來的安全風險和社會挑戰的積極應對。它既為技術創新和應用劃定了安全底線和倫理紅線，也為產業的健康發展提供了明確的規則指引，有助于構建可信、安全、負責任的深度合成技術生態。隨著技術迭代和應用深化，相關監管措施和標準也將持續完善，以期在防范風險與激勵創新之間取得平衡，推動人工智能技術更好地造福社會。
