AI學(xué)會(huì)造假,我們應(yīng)該如何應(yīng)對(duì)?
奧巴馬會(huì)和特朗普說(shuō)一樣的話,信不信?有視頻為證。在一個(gè)對(duì)比視頻中,二人不僅話語(yǔ)一致,連話語(yǔ)節(jié)奏甚至面部肌肉的動(dòng)作都是一致的,但談吐風(fēng)格卻能保持各自特點(diǎn)。
“這是一種被稱為GAN(生成對(duì)抗網(wǎng)絡(luò))的新興技術(shù)。”日前,香山會(huì)議召開(kāi)以“信息隱藏與人工智能”為主題的學(xué)術(shù)討論會(huì),北京電子技術(shù)應(yīng)用研究所副研究員李鵬超介紹,GAN是一種生成模型,通過(guò)將兩個(gè)神經(jīng)網(wǎng)絡(luò)的對(duì)抗作為訓(xùn)練準(zhǔn)則,可以自動(dòng)生成圖像,包括自動(dòng)篡改圖像。實(shí)際上早在2015年,GAN就被用于制作教皇表演“抽桌布”戲法的假視頻,由于過(guò)于逼真,很快就火遍網(wǎng)絡(luò)。
據(jù)統(tǒng)計(jì),大量的合成信息占據(jù)了互聯(lián)網(wǎng),如合成聲音、生成圖像、AI合成不存在的人像等,約占網(wǎng)絡(luò)信息的30%。“眼見(jiàn)為實(shí)”很可能已經(jīng)靠不住了。
機(jī)器人水軍已經(jīng)很成規(guī)模
人們判斷真假,經(jīng)常會(huì)說(shuō)“真的自然”。而人工智能造假,將在盡可能“自然”的前提下,完成自動(dòng)生成。
“淘寶上的機(jī)器人水軍已經(jīng)很成規(guī)模了。”浙江大學(xué)管理學(xué)院教授孔祥維舉例道,例如商品評(píng)價(jià)已經(jīng)由機(jī)器自動(dòng)生成,不再需要雇人“灌水”。
“自動(dòng)生成帶來(lái)的危機(jī)是規(guī)模性、密集度的大幅增加。”孔祥維說(shuō)。以淘寶評(píng)價(jià)為例,如果虛假評(píng)價(jià)如潮水般涌入,它甚至不需要做到真假難辨,就能將真實(shí)評(píng)價(jià)淹沒(méi)。
在社會(huì)事件的輿論方面,“機(jī)器人水軍如果操縱輿論,將使國(guó)家安全置于風(fēng)險(xiǎn)之中。”孔祥維說(shuō)。
除了自動(dòng)生成之外,GAN的開(kāi)源性也帶來(lái)巨大的隱患。開(kāi)源代碼,意味著誰(shuí)都可以用,代碼一經(jīng)開(kāi)源將“變幻無(wú)窮”。相關(guān)研究人員表示:“這就意味著對(duì)這一代碼的研究必須比對(duì)手更透徹,才能以不變應(yīng)萬(wàn)變。”
防造假需嵌入抗編輯水印
抖音等微視頻APP的普及,使得視頻的發(fā)布非常頻繁。有沒(méi)有辦法讓公眾的自拍不像前文提到的視頻一樣被篡改?清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系副教授王道順表示,非法用戶除了借助視頻編輯工具復(fù)制后再修改,甚至未經(jīng)授權(quán)轉(zhuǎn)拍視頻內(nèi)容。這些操作都是為了得到可以任意修改的“白板”,“我們正在探索基于深度學(xué)習(xí)的抗編輯視頻水印技術(shù)。”王道順說(shuō)。
這就要求水印在視頻中是隱藏著的,而且不能夠被編輯,人工智能的深度學(xué)習(xí)技術(shù)被用來(lái)嵌入這些“入木三分”的水印。王道順表示,他的團(tuán)隊(duì)希望能夠完成嵌入和檢測(cè)兩方面的技術(shù)輸出。
網(wǎng)絡(luò)對(duì)抗進(jìn)化為智能化平臺(tái)間的對(duì)抗
GAN的魔力在于兩個(gè)神經(jīng)網(wǎng)絡(luò)之間的競(jìng)爭(zhēng),通過(guò)讓兩個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)抗,人工智能深度學(xué)習(xí)從識(shí)別事物升級(jí)到有能力創(chuàng)造事物。
技術(shù)都有兩面性,人工智能的“造假術(shù)”也可被加以利用。信息隱藏技術(shù)可以借用人工智能技術(shù)和思路,例如利用神經(jīng)網(wǎng)絡(luò)的對(duì)抗生成隱藏信息,獲得人工智能相關(guān)技術(shù)與生俱來(lái)的自適應(yīng)、海量等特點(diǎn)。相關(guān)專家表示,深度學(xué)習(xí)在許多模式識(shí)別領(lǐng)域取得了巨大的成功,給信息隱寫(xiě)和隱寫(xiě)分析帶來(lái)新的方法和挑戰(zhàn)。
對(duì)于信息隱藏的基礎(chǔ)研究者來(lái)說(shuō),因?yàn)椤八悸凡煌保瑐鹘y(tǒng)的分析手段難以發(fā)現(xiàn)的隱藏信息很可能在人工智能的深度學(xué)習(xí)模式下被輕易破解。香山會(huì)議就新課題的緊迫性進(jìn)行了討論,專家認(rèn)為:人工智能的發(fā)展使得網(wǎng)絡(luò)對(duì)抗從人與人的對(duì)抗進(jìn)化為智能化、自動(dòng)化的平臺(tái)間對(duì)抗,作為數(shù)據(jù)保護(hù)和隱蔽通信中的關(guān)鍵技術(shù),信息隱藏技術(shù)必須有所改變。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-

落地?zé)o錫!京東首個(gè)物流機(jī)器人超級(jí)工廠來(lái)了
-

OpenAI發(fā)布的AI瀏覽器,市場(chǎng)為何反應(yīng)強(qiáng)烈?
-

馬云重返一線督戰(zhàn),阿里重啟創(chuàng)始人模式
-

機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹(shù)機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-

存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-

長(zhǎng)安汽車(chē)母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-

豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-

字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
最新活動(dòng)更多
-
即日-5.20立即下載>> 【限時(shí)免費(fèi)】物理場(chǎng)仿真助力生物醫(yī)學(xué)領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測(cè)未來(lái)·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線下論壇】新唐科技×芯唐南京 2026 年度研討會(huì)
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國(guó)機(jī)器人產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國(guó)機(jī)器人行業(yè)年度評(píng)選
-
精彩回顧立即查看>> 【在線會(huì)議】液冷服務(wù)器信號(hào)完整性及冷卻液關(guān)鍵電參數(shù)測(cè)試
推薦專題
- 1 AI狂歡遇上油價(jià)破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實(shí)測(cè):中文穩(wěn)、細(xì)節(jié)炸,設(shè)計(jì)師慌了
- 3 6000億美元估值錨定:字節(jié)跳動(dòng)的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進(jìn)展總結(jié)
- 5 連夜測(cè)了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個(gè)短板了
- 6 熱點(diǎn)丨AI“瑜亮之爭(zhēng)”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤(pán):9秒刪庫(kù)跑路,全員被封號(hào),還繼續(xù)扣錢(qián)!
- 8 2026,人形機(jī)器人只贏了面子
- 9 DeepSeek降價(jià)90%:價(jià)格屠夫不是身份,是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享





