互聯網信息服務深度合成(chéng)管理規定

國(guó)家互聯網信息辦公室

中華人民共和國(guó)工業和信息化部

中華人民共和國(guó)公安部

令

第12号

《互聯網信息服務深度合成(chéng)管理規定》已經(jīng)2022年11月3日國(guó)家互聯網信息辦公室2022年第21次室務會議審議通過(guò)，并經(jīng)工業和信息化部、公安部同意，現予公布，自2023年1月10日起(qǐ)施行。

國(guó)家互聯網信息辦公室主任 莊榮文

工業和信息化部部長(cháng) 金壯龍

公安部部長(cháng) 王小洪

2022年11月25日

互聯網信息服務深度合成(chéng)管理規定

第一章 總則

第一條 爲了加強互聯網信息服務深度合成(chéng)管理，弘揚社會主義核心價值觀，維護國(guó)家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國(guó)網絡安全法》、《中華人民共和國(guó)數據安全法》、《中華人民共和國(guó)個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，制定本規定。

第二條 在中華人民共和國(guó)境内應用深度合成(chéng)技術提供互聯網信息服務（以下簡稱深度合成(chéng)服務），适用本規定。法律、行政法規另有規定的，依照其規定。

第三條 國(guó)家網信部門負責統籌協調全國(guó)深度合成(chéng)服務的治理和相關監督管理工作。國(guó)務院電信主管部門、公安部門依據各自職責負責深度合成(chéng)服務的監督管理工作。

地方網信部門負責統籌協調本行政區域内的深度合成(chéng)服務的治理和相關監督管理工作。地方電信主管部門、公安部門依據各自職責負責本行政區域内的深度合成(chéng)服務的監督管理工作。

第四條 提供深度合成(chéng)服務，應當遵守法律法規，尊重社會公德和倫理道(dào)德，堅持正确政治方向(xiàng)、輿論導向(xiàng)、價值取向(xiàng)，促進(jìn)深度合成(chéng)服務向(xiàng)上向(xiàng)善。

第五條 鼓勵相關行業組織加強行業自律，建立健全行業标準、行業準則和自律管理制度，督促指導深度合成(chéng)服務提供者和技術支持者制定完善業務規範、依法開(kāi)展業務和接受社會監督。

第二章 一般規定

第六條 任何組織和個人不得利用深度合成(chéng)服務制作、複制、發(fā)布、傳播法律、行政法規禁止的信息，不得利用深度合成(chéng)服務從事(shì)危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

深度合成(chéng)服務提供者和使用者不得利用深度合成(chéng)服務制作、複制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成(chéng)服務制作發(fā)布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發(fā)布的新聞信息。

第七條 深度合成(chéng)服務提供者應當落實信息安全主體責任，建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。

第八條 深度合成(chéng)服務提供者應當制定和公開(kāi)管理規則、平台公約，完善服務協議，依法依約履行管理責任，以顯著方式提示深度合成(chéng)服務技術支持者和使用者承擔信息安全義務。

第九條 深度合成(chéng)服務提供者應當基于移動電話号碼、身份證件号碼、統一社會信用代碼或者國(guó)家網絡身份認證公共服務等方式，依法對(duì)深度合成(chéng)服務使用者進(jìn)行真實身份信息認證，不得向(xiàng)未進(jìn)行真實身份信息認證的深度合成(chéng)服務使用者提供信息發(fā)布服務。

第十條 深度合成(chéng)服務提供者應當加強深度合成(chéng)内容管理，采取技術或者人工方式對(duì)深度合成(chéng)服務使用者的輸入數據和合成(chéng)結果進(jìn)行審核。

深度合成(chéng)服務提供者應當建立健全用于識别違法和不良信息的特征庫，完善入庫标準、規則和程序，記錄并留存相關網絡日志。

深度合成(chéng)服務提供者發(fā)現違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向(xiàng)網信部門和有關主管部門報告；對(duì)相關深度合成(chéng)服務使用者依法依約采取警示、限制功能(néng)、暫停服務、關閉賬号等處置措施。

第十一條 深度合成(chéng)服務提供者應當建立健全辟謠機制，發(fā)現利用深度合成(chéng)服務制作、複制、發(fā)布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向(xiàng)網信部門和有關主管部門報告。

第十二條 深度合成(chéng)服務提供者應當設置便捷的用戶申訴和公衆投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結果。

第十三條 互聯網應用商店等應用程序分發(fā)平台應當落實上架審核、日常管理、應急處置等安全管理責任，核驗深度合成(chéng)類應用程序的安全評估、備案等情況；對(duì)違反國(guó)家有關規定的，應當及時采取不予上架、警示、暫停服務或者下架等處置措施。

第三章 數據和技術管理規範

第十四條 深度合成(chéng)服務提供者和技術支持者應當加強訓練數據管理，采取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定。

深度合成(chéng)服務提供者和技術支持者提供人臉、人聲等生物識别信息編輯功能(néng)的，應當提示深度合成(chéng)服務使用者依法告知被(bèi)編輯的個人，并取得其單獨同意。

第十五條 深度合成(chéng)服務提供者和技術支持者應當加強技術管理，定期審核、評估、驗證生成(chéng)合成(chéng)類算法機制機理。

深度合成(chéng)服務提供者和技術支持者提供具有以下功能(néng)的模型、模闆等工具的，應當依法自行或者委托專業機構開(kāi)展安全評估：

（一）生成(chéng)或者編輯人臉、人聲等生物識别信息的；

（二）生成(chéng)或者編輯可能(néng)涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會公共利益的特殊物體、場景等非生物識别信息的。

第十六條 深度合成(chéng)服務提供者對(duì)使用其服務生成(chéng)或者編輯的信息内容，應當采取技術措施添加不影響用戶使用的标識，并依照法律、行政法規和國(guó)家有關規定保存日志信息。

第十七條 深度合成(chéng)服務提供者提供以下深度合成(chéng)服務，可能(néng)導緻公衆混淆或者誤認的，應當在生成(chéng)或者編輯的信息内容的合理位置、區域進(jìn)行顯著标識，向(xiàng)公衆提示深度合成(chéng)情況：

（一）智能(néng)對(duì)話、智能(néng)寫作等模拟自然人進(jìn)行文本的生成(chéng)或者編輯服務；

（二）合成(chéng)人聲、仿聲等語音生成(chéng)或者顯著改變個人身份特征的編輯服務；

（三）人臉生成(chéng)、人臉替換、人臉操控、姿态操控等人物圖像、視頻生成(chéng)或者顯著改變個人身份特征的編輯服務；

（四）沉浸式拟真場景等生成(chéng)或者編輯服務；

（五）其他具有生成(chéng)或者顯著改變信息内容功能(néng)的服務。

深度合成(chéng)服務提供者提供前款規定之外的深度合成(chéng)服務的，應當提供顯著标識功能(néng)，并提示深度合成(chéng)服務使用者可以進(jìn)行顯著标識。

第十八條 任何組織和個人不得采用技術手段删除、篡改、隐匿本規定第十六條和第十七條規定的深度合成(chéng)标識。

第四章 監督檢查與法律責任

第十九條 具有輿論屬性或者社會動員能(néng)力的深度合成(chéng)服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續。

深度合成(chéng)服務技術支持者應當參照前款規定履行備案和變更、注銷備案手續。

完成(chéng)備案的深度合成(chéng)服務提供者和技術支持者應當在其對(duì)外提供服務的網站、應用程序等的顯著位置标明其備案編号并提供公示信息鏈接。

第二十條 深度合成(chéng)服務提供者開(kāi)發(fā)上線具有輿論屬性或者社會動員能(néng)力的新産品、新應用、新功能(néng)的，應當按照國(guó)家有關規定開(kāi)展安全評估。

第二十一條 網信部門和電信主管部門、公安部門依據職責對(duì)深度合成(chéng)服務開(kāi)展監督檢查。深度合成(chéng)服務提供者和技術支持者應當依法予以配合，并提供必要的技術、數據等支持和協助。

網信部門和有關主管部門發(fā)現深度合成(chéng)服務存在較大信息安全風險的，可以按照職責依法要求深度合成(chéng)服務提供者和技術支持者采取暫停信息更新、用戶賬号注冊或者其他相關服務等措施。深度合成(chéng)服務提供者和技術支持者應當按照要求采取措施，進(jìn)行整改，消除隐患。

第二十二條 深度合成(chéng)服務提供者和技術支持者違反本規定的，依照有關法律、行政法規的規定處罰；造成(chéng)嚴重後(hòu)果的，依法從重處罰。

構成(chéng)違反治安管理行爲的，由公安機關依法給予治安管理處罰；構成(chéng)犯罪的，依法追究刑事(shì)責任。

第五章 附則

第二十三條 本規定中下列用語的含義：

深度合成(chéng)技術，是指利用深度學(xué)習、虛拟現實等生成(chéng)合成(chéng)類算法制作文本、圖像、音頻、視頻、虛拟場景等網絡信息的技術，包括但不限于：

（一）篇章生成(chéng)、文本風格轉換、問答對(duì)話等生成(chéng)或者編輯文本内容的技術；

（二）文本轉語音、語音轉換、語音屬性編輯等生成(chéng)或者編輯語音内容的技術；

（三）音樂生成(chéng)、場景聲編輯等生成(chéng)或者編輯非語音内容的技術；

（四）人臉生成(chéng)、人臉替換、人物屬性編輯、人臉操控、姿态操控等生成(chéng)或者編輯圖像、視頻内容中生物特征的技術；

（五）圖像生成(chéng)、圖像增強、圖像修複等生成(chéng)或者編輯圖像、視頻内容中非生物特征的技術；

（六）三維重建、數字仿真等生成(chéng)或者編輯數字人物、虛拟場景的技術。

深度合成(chéng)服務提供者，是指提供深度合成(chéng)服務的組織、個人。

深度合成(chéng)服務技術支持者，是指爲深度合成(chéng)服務提供技術支持的組織、個人。

深度合成(chéng)服務使用者，是指使用深度合成(chéng)服務制作、複制、發(fā)布、傳播信息的組織、個人。

訓練數據，是指被(bèi)用于訓練機器學(xué)習模型的标注或者基準數據集。

沉浸式拟真場景，是指應用深度合成(chéng)技術生成(chéng)或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛拟場景。

第二十四條 深度合成(chéng)服務提供者和技術支持者從事(shì)網絡出版服務、網絡文化活動和網絡視聽節目服務的，應當同時符合新聞出版、文化和旅遊、廣播電視主管部門的規定。

第二十五條 本規定自2023年1月10日起(qǐ)施行。