人工智能:生成式人工智能服務管理暫行辦法

國家互聯網信息辦公室

中華人民共和國國家發展和改革委員會

中華人民共和國教育部

中華人民共和國科學技術部

中華人民共和國工業和信息化部

中華人民共和國部

國家廣播電視總局

令

第15號

　　《生成式人工智能服務管理暫行辦法》已經2023年5月23日國家互聯網信息辦公室2023年第12次室務會會議審議通過，并經國家發展和改革委員會、教育部、科學技術部、工業和信息化部、部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。

國家互聯網信息辦公室主任  莊榮文

國家發展和改革委員會主任  鄭柵潔

教育部部長  懷進鵬

科學技術部部長  王志剛

工業和信息化部部長  金壯龍

部部長  王小洪

國家廣播電視總局局長  曹淑敏

2023年7月10日

生成式人工智能服務管理暫行辦法

第一章  總　則

汪其香：據Gartner預測到2025年生成式AI產生的數據將占所有數據的10%:金色財經現場報道，在8月8日由金色財經主辦的金色沙龍活動中，亞馬遜云解決方案架構師汪其香發表主題演講《AIGC概述與應用場景》。汪其香表示，從AI（Artificial intelligence）發展到ML(Machine learning )隨著基礎設施算力的提升，出現DL(Deep learning )，整個網絡和模型越來越大、越來越深并且從結構上不斷的創新，直到出現如今熱門的AIGC（Generative AI），帶來的自動內容創作，它改變了生產內容的方式。對比以前AIML在推薦和搜索領域對內容分發方式的改進，對生產力效率進一步提升，AIGC在未來在各個行業領域應用的場景會越來越多。

Gartner預測到2025年生成式AI產生的數據，將占所有數據的10%，而現在不到1%。未來我們所看到的很多內容和素材都會是由AI生成的，這個占比會快速提升10倍。現在很多行業都落地了AIGC的應用。它會覆蓋在各個行業，除了生圖外，還有生成視頻、生成語音，幫我們去寫作，在生活里的各方面，都會有AI創作的素材出現。[2023/8/9 21:34:03]

　　第一條  為了促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。

世界人工智能大會法治論壇舉行，聚焦生成式人工智能治理、元宇宙規制等熱點:金色財經報道，昨天，2023世界人工智能大會法治論壇舉行。本次論壇主題為《數字治理：生成式人工智能之法律回應》。論壇發布了《世界人工智能法治藍皮書（2023）》《人工智能法治發展指數4.0》《中國人工智能法治發展評估報告（2022）》。藍皮書聚焦世界人工智能法治發展最新動態，搜集匯總各國有關人工智能法治發展的戰略、政策、法律、理論研究、重大項目應用、典型司法案例等方面的最新資料，尤其是以ChatGPT為代表的最前沿的生成式人工智能治理、元宇宙規制等熱點問題，通過分析、評估，形成了較為客觀、公正、準確、全面的分析報告。[2023/7/8 22:25:43]

　　第二條  利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智能服務），適用本辦法。

　　國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創作等活動另有規定的，從其規定。

　　行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。

　　第三條  國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

普華永道計劃在未來三年內投資10億美元用于生成式人工智能:金色財經報道，普華永道計劃在未來三年內在其美國業務中投資10億美元用于生成式人工智能技術，與微軟公司和ChatGPT制造商OpenAI合作，使其稅務、審計和咨詢服務的各個方面實現自動化。周三宣布的多年投資包括招募更多AI員工和培訓現有員工的AI能力，同時瞄準AI軟件制造商進行潛在收購。（華爾街日報）[2023/4/26 14:28:12]

　　第四條  提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：

　　（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、穢，以及虛假有害信息等法律、行政法規禁止的內容；

　　（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；

　　（三）尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；

　　（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；

七國集團將在峰會期間討論生成式人工智能并制定治理計劃:金色財經報道，周三的一份公報草案顯示，七國集團（G7）數字部長將在本月晚些時候的一次會議上呼吁加快對生成式人工智能系統（如ChatGPT）的研究，因為此類工具的迅速擴散引起了人們對其對社會潛在影響的擔憂。根據該草案，從4月29日起，在群馬縣高崎市舉行的為期兩天的會談中，部長們旨在制定一項關于人工智能治理的行動計劃。由于日本政府還考慮在5月于廣島舉行的七國集團峰會上討論生成式人工智能，預計該議題也將在領導人的聯合聲明中被提及。[2023/4/20 14:14:59]

　　（五）基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

第二章  技術發展與治理

　　第五條  鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。

　　支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作。

　　第六條  鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。

摩根大通：ChatGPT等生成式人工智能模式短期內可能成為傳統服務的負擔:2月10日，摩根大通分析師今日表示，ChatGPT 等生成式人工智能（Generative AI）模式短期內可能成為傳統服務的負擔，因為它將與傳統服務展開價格競爭，迫使傳統服務對員工再培訓，并導致傳統服務競爭力下降。分析師認為，ChatGPT 對傳統服務的拖累可能最大，對應用服務的拖累最小。進一步地，這類模式還將減緩印度 IT 公司的市場份額增長，并壓低其服務定價。[2023/2/11 12:00:04]

　　推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

　　第七條  生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：

　　（一）使用具有合法來源的數據和基礎模型；

　　（二）涉及知識產權的，不得侵害他人依法享有的知識產權；

　　（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；

　　（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；

　　（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。

　　第八條  在生成式人工智能技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規范開展標注工作。

第三章  服務規范

　　第九條  提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

　　提供者應當與注冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。

　　第十條  提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

　　第十一條  提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

　　提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

　　第十二條  提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。

　　第十三條  提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。

　　第十四條  提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。

　　提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。

　　第十五條  提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結果。

第四章  監督檢查和法律責任

　　第十六條  網信、發展改革、教育、科技、工業和信息化、、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。

　　國家有關主管部門針對生成式人工智能技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。

　　第十七條  提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

　　第十八條  使用者發現生成式人工智能服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。

　　第十九條  有關主管部門依據職責對生成式人工智能服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以說明，并提供必要的技術、數據等支持和協助。

　　參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。

　　第二十條  對來源于中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

　　第二十一條  提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。

　　構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第五章  附　則

　　第二十二條  本辦法下列用語的含義是：

　　（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。

　　（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。

　　（三）生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。

　　第二十三條  法律、行政法規規定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。

　　外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規的規定。

　　第二十四條  本辦法自2023年8月15日起施行。

審核：李佳民

編輯：王宇彤

校對：趙雅

金色財經

金色薦讀

Block unicorn

金色財經 善歐巴

區塊鏈騎士

Foresight News

深潮TechFlow

Tags：人工智能BSPNBSCHAT人工智能幣是真實嗎BSP價格nbs幣最新消息e-Chat

DYDX