三部門(mén)發(fā)布“深度合成”技術(shù)新規(guī),對(duì)元宇宙、人臉合成等公司影響大
12月11日,國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》),自2023年1月10日起施行。
深度合成技術(shù)涵蓋了內(nèi)容合成、人臉合成、語(yǔ)音合成以及虛擬人全身合成等技術(shù)類型,如今大熱的AI作畫(huà)、AI創(chuàng)作、AI換臉以及虛擬人制作等,都屬于深度合成技術(shù)支持下的應(yīng)用。
12月12日發(fā)布的《<互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定>答記者問(wèn)》提到,《規(guī)定》出臺(tái)主要基于多個(gè)方面考慮,一是深入貫徹落實(shí)黨中央決策部署,進(jìn)一步加強(qiáng)對(duì)新技術(shù)新應(yīng)用新業(yè)態(tài)的管理;二是維護(hù)網(wǎng)絡(luò)空間良好生態(tài),避免影響傳播秩序和社會(huì)秩序,損害人民群眾合法權(quán)益,危害國(guó)家安全和社會(huì)穩(wěn)定。三是促進(jìn)深度合成服務(wù)規(guī)范發(fā)展,明確各類主體的信息安全義務(wù)。
對(duì)于深度合成技術(shù)的監(jiān)管,此前在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī)中均有提及,而《規(guī)定》則對(duì)深度合成內(nèi)容更有針對(duì)性地進(jìn)行規(guī)制,標(biāo)志著監(jiān)管部門(mén)針對(duì)互聯(lián)網(wǎng)信息內(nèi)容監(jiān)管版圖的進(jìn)一步細(xì)化。
明確了哪些規(guī)定?
《規(guī)定》對(duì)深度合成服務(wù)提供者主體責(zé)任進(jìn)行了明確規(guī)定。《規(guī)定》強(qiáng)調(diào),任何人或組織不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息,或從事法律、行政法規(guī)禁止的活動(dòng)。
《規(guī)定》同時(shí)要求,深度合成服務(wù)者需要采取技術(shù)或者人工方式對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核,管理深度合成內(nèi)容,并建立辟謠機(jī)制,并且建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度。
就目前來(lái)看,新規(guī)明顯抬高了合規(guī)要求和合規(guī)成本,因此,對(duì)于提供深度合成服務(wù)的創(chuàng)業(yè)公司來(lái)說(shuō)影響可能較大。
此次《規(guī)定》對(duì)深度合成服務(wù)提供者和技術(shù)支持者提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范。其中包括,深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意。
有業(yè)內(nèi)人士稱,《規(guī)定》雖然目前只做了相對(duì)寬泛的限制,但是至少未來(lái)有不法分子利用AI從事不法行為時(shí)能夠有依據(jù)可以引用。
在具體的項(xiàng)目中,該人士提及,為滿足合規(guī)要求,項(xiàng)目可能需要進(jìn)一步調(diào)試各類圖像/文字生成模型,保證模型不會(huì)輸出暴恐色情內(nèi)容、不會(huì)被人利用制作虛假圖像(換臉)等。
另外, 對(duì)于新規(guī)所強(qiáng)調(diào)的“具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者,應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。”
進(jìn)一步加強(qiáng)“隱私保護(hù)”
清華大學(xué)公共管理學(xué)院教授、人工智能國(guó)際治理研究院副院長(zhǎng)梁正分析,上述條例實(shí)際上是遵循了《個(gè)人信息保護(hù)法》,明確了在深度合成技術(shù)場(chǎng)景中的隱私保護(hù)。比如在AI換臉應(yīng)用中,《規(guī)定》出臺(tái)之后,未經(jīng)他人同意情況下,使用他人照片進(jìn)行AI換臉內(nèi)容制作將是違規(guī)行為。
梁正還提及,在上述條例支持下,人工智能模型的訓(xùn)練不能隨意使用未經(jīng)同意的人臉、聲音等帶有生物特征的數(shù)據(jù)。
在以往,許多人工智能模型的訓(xùn)練通常會(huì)經(jīng)歷“全網(wǎng)爬取數(shù)據(jù)”的階段,許多個(gè)人公布在公共社交媒體的照片、視頻可能會(huì)在不被告知的情況下被機(jī)器學(xué)習(xí),成為某個(gè)模型的養(yǎng)料。《規(guī)定》中對(duì)于人臉、聲音等生物特征信息的使用提出明確的前提條件,一定程度上可以解決這個(gè)問(wèn)題。
此次發(fā)布的《規(guī)定》明確提出,深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí),并依法依規(guī)保存日志信息。
提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示信息內(nèi)容的合成情況,避免公眾混淆或者誤認(rèn);提供非上述深度合成服務(wù)的,應(yīng)當(dāng)提供顯著標(biāo)識(shí)功能,并提示使用者可以進(jìn)行顯著標(biāo)識(shí)。任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。
梁正認(rèn)為,標(biāo)識(shí)可以讓受眾明白內(nèi)容是否屬于深度合成,一定程度上可以減少深度合成內(nèi)容產(chǎn)生的社會(huì)偏差。對(duì)于技術(shù)支持公司來(lái)說(shuō),對(duì)輸出內(nèi)容增加標(biāo)識(shí)難度不大。不過(guò),對(duì)于平臺(tái)型公司而言,如何識(shí)別出不同上傳者的深度合成內(nèi)容標(biāo)識(shí)將成為一個(gè)難點(diǎn)。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-

落地?zé)o錫!京東首個(gè)物流機(jī)器人超級(jí)工廠來(lái)了
-

OpenAI發(fā)布的AI瀏覽器,市場(chǎng)為何反應(yīng)強(qiáng)烈?
-

馬云重返一線督戰(zhàn),阿里重啟創(chuàng)始人模式
-

機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹(shù)機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-

存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-

長(zhǎng)安汽車(chē)母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-

豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-

字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
最新活動(dòng)更多
-
即日-5.20立即下載>> 【限時(shí)免費(fèi)】物理場(chǎng)仿真助力生物醫(yī)學(xué)領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測(cè)未來(lái)·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線下論壇】新唐科技×芯唐南京 2026 年度研討會(huì)
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國(guó)機(jī)器人產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國(guó)機(jī)器人行業(yè)年度評(píng)選
-
精彩回顧立即查看>> 【在線會(huì)議】液冷服務(wù)器信號(hào)完整性及冷卻液關(guān)鍵電參數(shù)測(cè)試
推薦專題
- 1 AI狂歡遇上油價(jià)破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實(shí)測(cè):中文穩(wěn)、細(xì)節(jié)炸,設(shè)計(jì)師慌了
- 3 6000億美元估值錨定:字節(jié)跳動(dòng)的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進(jìn)展總結(jié)
- 5 連夜測(cè)了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個(gè)短板了
- 6 熱點(diǎn)丨AI“瑜亮之爭(zhēng)”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤(pán):9秒刪庫(kù)跑路,全員被封號(hào),還繼續(xù)扣錢(qián)!
- 8 2026,人形機(jī)器人只贏了面子
- 9 DeepSeek降價(jià)90%:價(jià)格屠夫不是身份,是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享





