國(guó)家互聯網信息辦公室、工業和信息化部、公安部近日聯合發(fā)布《互聯網信息服務深度合成(chéng)管理規定》（以下簡稱《規定》），強調不得利用深度合成(chéng)服務從事(shì)法律、行政法規禁止的活動，要求深度合成(chéng)服務提供者落實信息安全主體責任，《規定》將(jiāng)于2023年1月10日起(qǐ)施行。
深度合成(chéng)技術，是指利用深度學(xué)習、虛拟現實等生成(chéng)合成(chéng)類算法制作文本、圖像、音頻、視頻、虛拟場景等信息的技術。具體到應用層面(miàn)，視頻換臉、語音合成(chéng)、影像修複、虛拟數字人等越來越多地出現在社交娛樂、影視制作、廣告營銷等領域，商業使用場景愈發(fā)多元化，給用戶和受衆帶來新奇有趣的觀感體驗。但也要看到，深度合成(chéng)技術是一柄雙刃劍。深度合成(chéng)過(guò)于“逼真”使交互變得虛實難辨，耳聽或眼見未必爲實，滋生出一系列安全隐患。比如，不法分子利用有關技術，制作、複制、發(fā)布、傳播違法和不良信息；诋毀、貶損他人名譽、榮譽；僞造音頻、視頻搞變聲、變臉，實施新型詐騙……嚴重損害人民群衆合法權益，嚴重威脅社會信息安全，這(zhè)一切已引起(qǐ)有關部門的高度重視。《規定》的出台，正是爲了加強針對(duì)互聯網信息服務深度合成(chéng)的管理，統籌協調相關監管工作，确保相關技術與應用納入規範化、法治化軌道(dào)，維護國(guó)家安全和社會公共利益。壓實并強化深度合成(chéng)服務提供者的信息安全主體責任，勢在必行。《規定》要求，深度合成(chéng)服務提供者建立健全包括算法機制機理審核、科技倫理審查等管理制度，以及具有安全可控的技術保障措施。從源頭上控制，從制度上保障，是确保深度合成(chéng)技術合理安全應用的前提。在此基礎上，制定公開(kāi)管理規則、平台公約，完善服務協議，則是依法依約履行管理責任，約束使用者承擔信息安全義務，防止别有用心者“胡作非爲”。依法對(duì)深度合成(chéng)服務使用者進(jìn)行真實身份信息認證，建立健全辟謠機制和申訴、投訴、舉報機制等，更使管理與規範系統化、精細化。特别要指出的是，對(duì)于可能(néng)導緻公衆混淆或者誤認的，深度合成(chéng)服務提供者應當在生成(chéng)或者編輯的信息内容的合理位置、區域進(jìn)行顯著标識。這(zhè)一規定十分重要，顯著标識能(néng)夠起(qǐ)到“以正視聽”的作用。簡言之，深度合成(chéng)技術作爲現代科技文明的産物，必須被(bèi)置于以技術倫理規制、以法治文明治理的框架内。行政監督與司法亮劍，同樣(yàng)必不可少。《規定》明确，網信部門和電信主管部門、公安部門依據職責對(duì)深度合成(chéng)服務開(kāi)展監督檢查，發(fā)現較大信息安全風險的，應當依法要求整改，消除隐患。深度合成(chéng)服務提供者違反《規定》，造成(chéng)嚴重後(hòu)果的，依法從重處罰。構成(chéng)犯罪的，依法追究刑事(shì)責任。法有禁止不可爲，任何單位或個人妄圖利用深度合成(chéng)技術“爲非作歹”，必將(jiāng)自食苦果。網絡空間天朗氣清，符合人民利益。規範和引導依法、合理、有效使用深度合成(chéng)技術，是防範化解安全風險的必然要求，是促進(jìn)深度合成(chéng)服務健康發(fā)展的必然選擇，更是維護清朗的網絡生态的必然條件。
