國家互聯網信息辦公室等三部門聯合發布《互聯網信息服務深度合成管理規定》(以下簡稱《規定》),自2023年1月10日起正式施行。這是繼《互聯網信息服務算法推薦管理規定》之后,網信辦在人工智能治理領域推出的又一重要法規,標志著我國對生成式人工智能等深度合成技術的監管進入新階段。廣大互聯網信息服務提供者,特別是涉及AI內容生成、語音合成、圖像/視頻處理等業務的企業和平臺,需要及時調整合規策略,重點關注以下核心要求。
一、 明確適用范圍與責任主體
《規定》明確指出,其適用于利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術和服務的提供者、使用者。這涵蓋了當前市場上主流的AIGC(人工智能生成內容)應用、虛擬主播、數字人、換臉軟件、智能對話機器人等。提供者需承擔主體責任,建立健全管理制度和技術保障措施。
二、 強化內容安全與標識義務
《規定》的核心要求之一是“以顯著方式對深度合成信息內容進行標識”。這意味著,凡是利用深度合成技術生成的,有可能造成公眾混淆或者誤認的圖片、視頻、語音等內容,都必須在合理位置、區域進行顯著標識,例如標注“AI生成”或“虛擬形象”等。此舉旨在維護網絡信息真實性,防止虛假信息傳播,保護公眾知情權。
三、 建立健全管理制度與安全評估
互聯網信息服務提供者,尤其是具有“輿論屬性或者社會動員能力”的深度合成服務提供者,應當按照《規定》履行備案手續。需建立健全以下制度:
四、 保障個人信息權益與禁止行為
《規定》強調,深度合成服務提供者和技術支持者應當加強訓練數據管理,采取必要措施保障數據安全和個人信息保護。未經個人單獨同意,不得利用其個人信息制作深度合成內容。明確禁止利用深度合成技術從事以下活動:
五、 對企業的合規建議
面對新規,相關互聯網企業應采取積極應對措施:
《互聯網信息服務深度合成管理規定》的出臺,是我國在新技術浪潮下平衡創新發展與安全風險的必要之舉,為深度合成技術的健康發展劃定了“安全線”和“倫理線”。它不僅是對技術提供方的約束,更是對整個行業生態的規范與引導。互聯網信息服務提供者唯有主動擁抱監管,將合規要求內化為技術研發和產品設計的核心準則,才能在人工智能的新賽道上行穩致遠,共同營造清朗、可信的網絡空間。
如若轉載,請注明出處:http://m.zkpsgzj.cn/product/60.html
更新時間:2026-05-06 10:12:21