生成(chéng)式人工智能(néng)服務管理暫行辦法

國(guó)家互聯網信息辦公室

中華人民共和國(guó)國(guó)家發(fā)展和改革委員會

中華人民共和國(guó)教育部

中華人民共和國(guó)科學(xué)技術部

中華人民共和國(guó)工業和信息化部

中華人民共和國(guó)公安部

國(guó)家廣播電視總局

令

第15号

《生成(chéng)式人工智能(néng)服務管理暫行辦法》已經(jīng)2023年5月23日國(guó)家互聯網信息辦公室2023年第12次室務會會議審議通過(guò)，并經(jīng)國(guó)家發(fā)展和改革委員會、教育部、科學(xué)技術部、工業和信息化部、公安部、國(guó)家廣播電視總局同意，現予公布，自2023年8月15日起(qǐ)施行。

國(guó)家互聯網信息辦公室主任 莊榮文

國(guó)家發(fā)展和改革委員會主任 鄭栅潔

教育部部長(cháng) 懷進(jìn)鵬

科學(xué)技術部部長(cháng) 王志剛

工業和信息化部部長(cháng) 金壯龍

公安部部長(cháng) 王小洪

國(guó)家廣播電視總局局長(cháng) 曹淑敏

2023年7月10日

生成(chéng)式人工智能(néng)服務管理暫行辦法

第一章 總　則

第一條 爲了促進(jìn)生成(chéng)式人工智能(néng)健康發(fā)展和規範應用，維護國(guó)家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國(guó)網絡安全法》、《中華人民共和國(guó)數據安全法》、《中華人民共和國(guó)個人信息保護法》、《中華人民共和國(guó)科學(xué)技術進(jìn)步法》等法律、行政法規，制定本辦法。

第二條 利用生成(chéng)式人工智能(néng)技術向(xiàng)中華人民共和國(guó)境内公衆提供生成(chéng)文本、圖片、音頻、視頻等内容的服務（以下稱生成(chéng)式人工智能(néng)服務），适用本辦法。

國(guó)家對(duì)利用生成(chéng)式人工智能(néng)服務從事(shì)新聞出版、影視制作、文藝創作等活動另有規定的，從其規定。

行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發(fā)、應用生成(chéng)式人工智能(néng)技術，未向(xiàng)境内公衆提供生成(chéng)式人工智能(néng)服務的，不适用本辦法的規定。

第三條 國(guó)家堅持發(fā)展和安全并重、促進(jìn)創新和依法治理相結合的原則，采取有效措施鼓勵生成(chéng)式人工智能(néng)創新發(fā)展，對(duì)生成(chéng)式人工智能(néng)服務實行包容審慎和分類分級監管。

第四條 提供和使用生成(chéng)式人工智能(néng)服務，應當遵守法律、行政法規，尊重社會公德和倫理道(dào)德，遵守以下規定：

（一）堅持社會主義核心價值觀，不得生成(chéng)煽動颠覆國(guó)家政權、推翻社會主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動分裂國(guó)家、破壞國(guó)家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的内容；

（二）在算法設計、訓練數據選擇、模型生成(chéng)和優化、提供服務等過(guò)程中，采取有效措施防止産生民族、信仰、國(guó)别、地域、性别、年齡、職業、健康等歧視；

（三）尊重知識産權、商業道(dào)德，保守商業秘密，不得利用算法、數據、平台等優勢，實施壟斷和不正當競争行爲；

（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隐私權和個人信息權益；

（五）基于服務類型特點，采取有效措施，提升生成(chéng)式人工智能(néng)服務的透明度，提高生成(chéng)内容的準确性和可靠性。

第二章 技術發(fā)展與治理

第五條 鼓勵生成(chéng)式人工智能(néng)技術在各行業、各領域的創新應用，生成(chéng)積極健康、向(xiàng)上向(xiàng)善的優質内容，探索優化應用場景，構建應用生态體系。

支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成(chéng)式人工智能(néng)技術創新、數據資源建設、轉化應用、風險防範等方面(miàn)開(kāi)展協作。

第六條 鼓勵生成(chéng)式人工智能(néng)算法、框架、芯片及配套軟件平台等基礎技術的自主創新，平等互利開(kāi)展國(guó)際交流與合作，參與生成(chéng)式人工智能(néng)相關國(guó)際規則制定。

推動生成(chéng)式人工智能(néng)基礎設施和公共訓練數據資源平台建設。促進(jìn)算力資源協同共享，提升算力資源利用效能(néng)。推動公共數據分類分級有序開(kāi)放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

第七條 生成(chéng)式人工智能(néng)服務提供者（以下稱提供者）應當依法開(kāi)展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：

（一）使用具有合法來源的數據和基礎模型；

（二）涉及知識産權的，不得侵害他人依法享有的知識産權；

（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；

（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準确性、客觀性、多樣(yàng)性；

（五）《中華人民共和國(guó)網絡安全法》、《中華人民共和國(guó)數據安全法》、《中華人民共和國(guó)個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

第八條 在生成(chéng)式人工智能(néng)技術研發(fā)過(guò)程中進(jìn)行數據标注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的标注規則；開(kāi)展數據标注質量評估，抽樣(yàng)核驗标注内容的準确性；對(duì)标注人員進(jìn)行必要培訓，提升尊法守法意識，監督指導标注人員規範開(kāi)展标注工作。

第三章 服務規範

第九條 提供者應當依法承擔網絡信息内容生産者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

提供者應當與注冊其服務的生成(chéng)式人工智能(néng)服務使用者（以下稱使用者）簽訂服務協議，明确雙方權利義務。

第十條 提供者應當明确并公開(kāi)其服務的适用人群、場合、用途，指導使用者科學(xué)理性認識和依法使用生成(chéng)式人工智能(néng)技術，采取有效措施防範未成(chéng)年人用戶過(guò)度依賴或者沉迷生成(chéng)式人工智能(néng)服務。

第十一條 提供者對(duì)使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能(néng)夠識别使用者身份的輸入信息和使用記錄，不得非法向(xiàng)他人提供使用者的輸入信息和使用記錄。

提供者應當依法及時受理和處理個人關于查閱、複制、更正、補充、删除其個人信息等的請求。

第十二條 提供者應當按照《互聯網信息服務深度合成(chéng)管理規定》對(duì)圖片、視頻等生成(chéng)内容進(jìn)行标識。

第十三條 提供者應當在其服務過(guò)程中，提供安全、穩定、持續的服務，保障用戶正常使用。

第十四條 提供者發(fā)現違法内容的，應當及時采取停止生成(chéng)、停止傳輸、消除等處置措施，采取模型優化訓練等措施進(jìn)行整改，并向(xiàng)有關主管部門報告。

提供者發(fā)現使用者利用生成(chéng)式人工智能(néng)服務從事(shì)違法活動的，應當依法依約采取警示、限制功能(néng)、暫停或者終止向(xiàng)其提供服務等處置措施，保存有關記錄，并向(xiàng)有關主管部門報告。

第十五條 提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公衆投訴舉報并反饋處理結果。

第四章 監督檢查和法律責任

第十六條 網信、發(fā)展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對(duì)生成(chéng)式人工智能(néng)服務的管理。

國(guó)家有關主管部門針對(duì)生成(chéng)式人工智能(néng)技術特點及其在有關行業和領域的服務應用，完善與創新發(fā)展相适應的科學(xué)監管方式，制定相應的分類分級監管規則或者指引。

第十七條 提供具有輿論屬性或者社會動員能(néng)力的生成(chéng)式人工智能(néng)服務的，應當按照國(guó)家有關規定開(kāi)展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

第十八條 使用者發(fā)現生成(chéng)式人工智能(néng)服務不符合法律、行政法規和本辦法規定的，有權向(xiàng)有關主管部門投訴、舉報。

第十九條 有關主管部門依據職責對(duì)生成(chéng)式人工智能(néng)服務開(kāi)展監督檢查，提供者應當依法予以配合，按要求對(duì)訓練數據來源、規模、類型、标注規則、算法機制機理等予以說明，并提供必要的技術、數據等支持和協助。

參與生成(chéng)式人工智能(néng)服務安全評估和監督檢查的相關機構和人員對(duì)在履行職責中知悉的國(guó)家秘密、商業秘密、個人隐私和個人信息應當依法予以保密，不得洩露或者非法向(xiàng)他人提供。

第二十條 對(duì)來源于中華人民共和國(guó)境外向(xiàng)境内提供生成(chéng)式人工智能(néng)服務不符合法律、行政法規和本辦法規定的，國(guó)家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

第二十一條 提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國(guó)網絡安全法》、《中華人民共和國(guó)數據安全法》、《中華人民共和國(guó)個人信息保護法》、《中華人民共和國(guó)科學(xué)技術進(jìn)步法》等法律、行政法規的規定予以處罰；法律、行政法規沒(méi)有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。

構成(chéng)違反治安管理行爲的，依法給予治安管理處罰；構成(chéng)犯罪的，依法追究刑事(shì)責任。

第五章 附　則

第二十二條 本辦法下列用語的含義是：

（一）生成(chéng)式人工智能(néng)技術，是指具有文本、圖片、音頻、視頻等内容生成(chéng)能(néng)力的模型及相關技術。

（二）生成(chéng)式人工智能(néng)服務提供者，是指利用生成(chéng)式人工智能(néng)技術提供生成(chéng)式人工智能(néng)服務（包括通過(guò)提供可編程接口等方式提供生成(chéng)式人工智能(néng)服務）的組織、個人。

（三）生成(chéng)式人工智能(néng)服務使用者，是指使用生成(chéng)式人工智能(néng)服務生成(chéng)内容的組織、個人。

第二十三條 法律、行政法規規定提供生成(chéng)式人工智能(néng)服務應當取得相關行政許可的，提供者應當依法取得許可。

外商投資生成(chéng)式人工智能(néng)服務，應當符合外商投資相關法律、行政法規的規定。

第二十四條 本辦法自2023年8月15日起(qǐ)施行。