重磅!我國首部《生成式人工智能服務管理辦法》即將立法審議
隨著生成式AI的快速發展,全社會開始對該技術存在的隱患擔憂。近日來,全球各國政府都在尋求建立和完善生成式AI的監管機制,以引導未來AI技術的可控和可持續的健康發展。
在這場和AI賽跑的時間爭奪戰中,中國依靠立法走在了AI監管的前列。
6月8日,國務院辦公廳日前印發了《國務院 2023 年度立法工作計劃》,其中顯示,《生成式人工智能服務管理辦法(征求意見稿)》等預備提請全國人大常委會審議。

“AI監管”,正在進行時
目前,由ChatGPT引發的AI熱潮正在全球蔓延。經過多年的技術迭代、樣本積累和算力的爆發增長,生成式人工智能迎來了真正的“涌現能力”節點。
這股潮流被視作“百年來不可錯失之機遇”。國內外科技巨頭、互聯網大廠紛紛下場參戰,大大小小的AI大模型如雨后春筍,霎時間擠滿了生成式AI賽道。

而“野蠻生長”的背后,往往隱藏著不可預知的威脅。自去年底ChatGPT爆火以來,生成式AI從一定程度上降低了相關技術的操作門檻。隨之,有關AI詐騙、AI非法換臉等利用AI技術侵犯人權和財產的犯罪事件層出不窮。
技術層面,AI訓練和處理數據涉及個人信息,隱私泄露和安全問題尤為突出。其次,現階段生成式AI大模型通常采用“黑箱”技術,AI系統無法“解釋”其行為或決策的標準,可能產生誤導性和歪曲性。
此外,數據投毒攻擊、對抗樣本攻擊也對生態和國家安全存在威脅。
面對生成式AI迅猛的發展速度,實行嚴格的監管制度勢在必行。
2023年4月11日,為促進生成式人工智能技術健康發展和規范應用,根據《中華人民共和國網絡安全法》等法律法規,國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(征求意見稿)》(下文簡稱“《征求意見稿》”或“《新規》”),并就《征求意見稿》向社會公開征求意見。
鑒于生成式AI的利弊表現,征求意見稿提出一系列相應要求:生成式人工智能產品提供服務前需申報安全評估;需對生成的圖片、視頻進行標識;內容應當真實準確;不利用生成內容損害他人形象、名譽以及其他合法權益,不進行商業炒作、不正當營銷等。

圖源:中國司法部官網
在征求意見稿公布之前,國際上尚無一部規制生成式人工智能的法律法規。此次意見稿率先發布,也反映了中國在人工智能治理領域的先發位置。
早在ChatGPT爆火之前,我國已對生成式人工智能有所關注,并開始為規范和監管生成式AI布局。
2022年3月,我國頒布實施了《互聯網信息服務算法推薦管理規定》,其中對生成式AI的“深度合成技術”加以關注,將生成合成類算法作為五類算法推薦服務規制對象之首,從而將深度合成算法技術納入我國算法監管體系之中。
2023年1月,我國已經開始施行《互聯網信息服務深度合成管理規定》,這是中國首部專門針對人工智能特定技術制定的法規。
事實上,AI監管這條賽道上,不止有中國。
“AI監管”,下一個增量賽道
類GPT大模型表現出來的不受控和無視規則,讓各界奔走呼吁,加強AI監管。
包括AI“教父”杰弗里 辛頓,“ChatGPT之父”、OpenAI創始人薩姆 奧特曼,Google DeepMind 首席執行官戴米斯 哈薩比斯,以及2018年圖靈獎得主約書亞 本希奧在內的等AI領域的大佬,紛紛在不同場合表達了關于對AI立即采取監管措施的訴求。
關于推進AI監管的公開信,全球也已陸續簽署了多篇。為應對呼吁和督促,世界各國政府也在抓緊推進相關的限制和監管舉措。

4月11日,美國商務部也開始正式公開征求意見,其中包括新人工智能模型在發布前是否應經過認證程序等內容。
5月11日,歐洲議會內部市場委員會和公民自由委員會通過了歐盟委員會提出的“人工智能法案”提案的談判授權草案,該草案將于6月中旬提交歐洲議會全會表決。
5月11日,日本政府召開了“AI戰略會議”,討論如何妥善應對AI的潛力和風險。
5月16日,美國國會召開主題為“AI監管:人工智能規則的聽證會”,首次對OpenAI創始人薩姆 奧特曼質詢,參議院表示該場聽證會開啟了對人工智能先進算法和強大技術的監督和闡釋工作。
5月24日,歐盟委員會宣布其正著手在法律正式生效之前制定一項涉及歐洲和非歐洲公司的AI協議。
6 月 8 日,英國政府宣布,今年秋天將舉辦有史以來第一次人工智能安全全球峰會。這次峰會將邀請關鍵國家、領先的科技公司和研究人員,共同討論評估和監督人工智能帶來的最重大風險的安全措施。

圖源 Pexels
由此可見,AI的“全面監管”時代即將到來。
而對AI進行監管,有業內人士表示,嚴格的監管措施可能會阻礙AI技術的進一步發展。但是要看到,目前為止的AI技術革新,來自于之前已經納入發展規范的各領域技術的融合。合理的監管,是促進技術正向發展的必要條件。
法立于上,則俗成于下。我國出臺的《生成式人工智能服務管理辦法》以及世界各國即將落地的監管政策,將為生成式AI劃定“邊界”和“底線”,同樣也為AI技術圈定適宜的生存空間。
創新技術的存在,是為造福人類。已經開始飛奔的AI技術,不可能按下暫停鍵,但是可以引導他駛向光明的未來。
附《生成式人工智能服務管理辦法(征求意見稿)》:
第一條 為促進生成式人工智能健康發展和規范應用,根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規,制定本辦法。
第二條 研發、利用生成式人工智能產品,面向中華人民共和國境內公眾提供服務的,適用本辦法。
本辦法所稱生成式人工智能,是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
第三條 國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作,鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
第四條 提供生成式人工智能產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗,符合以下要求:
(一)利用生成式人工智能生成的內容應當體現社會主義核心價值觀。
(二)在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中,采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。
(三)尊重知識產權、商業道德,不得利用算法、數據、平臺等優勢實施不公平競爭。
(四)利用生成式人工智能生成的內容應當真實準確,采取措施防止生成虛假信息。
(五)尊重他人合法利益,防止傷害他人身心健康,損害肖像權、名譽權和個人隱私,侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
第五條 利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下稱“提供者”),包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等,承擔該產品生成內容生產者的責任;涉及個人信息的,承擔個人信息處理者的法定責任,履行個人信息保護義務。
第六條 利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估,并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
第七條 提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。
用于生成式人工智能產品的預訓練、優化訓練數據,應滿足以下要求:
(一)符合《中華人民共和國網絡安全法》等法律法規的要求;
(二)不含有侵犯知識產權的內容;
(三)數據包含個人信息的,應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形;
(四)能夠保證數據的真實性、準確性、客觀性、多樣性;
(五)國家網信部門關于生成式人工智能服務的其他監管要求。
第八條 生成式人工智能產品研制中采用人工標注時,提供者應當制定符合本辦法要求,清晰、具體、可操作的標注規則,對標注人員進行必要培訓,抽樣核驗標注內容的正確性。
第九條 提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定,要求用戶提供真實身份信息。
第十條 提供者應當明確并公開其服務的適用人群、場合、用途,采取適當措施防范用戶過分依賴或沉迷生成內容。
第十一條 提供者在提供服務過程中,對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。法律法規另有規定的,從其規定。
第十二條 提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。
第十三條 提供者應當建立用戶投訴接收處理機制,及時處置個人關于更正、刪除、屏蔽其個人信息的請求;發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密,或者不符合本辦法要求時,應當采取措施,停止生成,防止危害持續。
第十四條 提供者應當在生命周期內,提供安全、穩健、持續的服務,保障用戶正常使用。
第十五條 對于運行中發現、用戶舉報的不符合本辦法要求的生成內容,除采取內容過濾等措施外,應在 3 個月內通過模型優化訓練等方式防止再次生成。
第十六條 提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。
第十七條 提供者應當根據國家網信部門和有關主管部門的要求,提供可以影響用戶信任、選擇的必要信息,包括預訓練和優化訓練數據的來源、規模、類型、質量等描述,人工標注規則,人工標注數據的規模和類型,基礎算法和技術體系等。
第十八條 提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容,不利用生成內容損害他人形象、名譽以及其他合法權益,不進行商業炒作、不正當營銷。
用戶發現生成內容不符合本辦法要求時,有權向網信部門或者有關主管部門舉報。
第十九條 提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫停或者終止服務。
第二十條 提供者違反本辦法規定的,由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定予以處罰。
法律、行政法規沒有規定的,由網信部門和有關主管部門依據職責給予警告、通報批評,責令限期改正;拒不改正或者情節嚴重的,責令暫停或者終止其利用生成式人工智能提供服務,并處一萬元以上十萬元以下罰款。構成違反治安管理行為的,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。
第二十一條 本辦法自 2023 年 月 日起實施。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 4 Tesla AI5芯片最新進展總結
- 5 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 8 2026,人形機器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰略
- 10 AI Infra產業鏈卡在哪里了?


分享













