免费久久国产&夜夜毛片&亚洲最大无码中文字幕&国产成人无码免费视频之奶水&吴家丽查理三级做爰&国产日本亚欧在线观看

訂閱
糾錯
加入自媒體

AI芯天下丨深度偽造:AI時代不可避免的風險

2019-07-15 08:57
Ai芯天下
關注

具備極高欺騙性的深度偽造技術引發了諸多爭議,例如AI軟件自動生成裸照,奧巴馬、普京等政治人物的深度偽造視頻等,給個人和社會帶來了相應的風險和挑戰。這是AI來臨后前期不可避免的網絡風險,與此同時該技術的應用如果得到正面的引導,也會給人們帶來許多積極的價值。

AI芯天下丨深度偽造:AI時代不可避免的風險

深度偽造的由來根源

深度偽造技術(Deepfake)是一種利用AI程序和深度學習算法實現視、音頻模擬和偽造的技術,投入深度學習的內容庫越大,合成的視音頻真實性越高,甚至可以達到以假亂真的程度。

深度偽造技術不僅能實現換臉,更可以通過深度學習模擬真人聲音、創造出現實不存在的人物肖像。利用該技術,可以以視頻這一較為可信的方式讓某人說不曾說過的話,做不曾做的事,達到混淆觀眾的目的。

雖然操縱數字文件并不是什么新鮮事兒,但這種可信的偽造行為是通過使用一種人工智能形式的計算機程序完成的。

一個算法被訓練來識別特定人的實際音頻或視覺記錄中的模式,這個過程被稱為深度學習。就像修改過的圖片一樣,一段音頻或視頻內容可以通過更換新元素,比如更換別人的臉或聲音來改變,并無縫地將兩者結合起來。

與語音克隆技術結合使用時,這種手法最容易讓人產生誤導。語音克隆技術將音頻錄音分解成半音節的片段,然后可以重新組合成新詞,與蘋果的Siri和亞馬遜的Alexa等語音助手的創建方法相同。

深度偽造視頻的制作離不開AI技術,而AI技術的實現則離不開機器學習和深度學習技術,通過這個技術,讓計算機在生成具有統計相似性的假實例之前從真實數據中學習,模仿語音和形象,進而創造出另類的現實,讓人們真假難辨。

AI芯天下丨深度偽造:AI時代不可避免的風險

技術的主要風險

隨著AI技術發展,視頻換臉技術門檻降低,普通人也能制作換臉視頻。這項技術被用于惡搞視頻、色情視頻合成上,其不良效應也引發了社會的關注和擔憂:放任自流,可能成為侵害他人合法權益和危害社會公共安全的工具。

①由于深度偽造技術可以運用在包括總統在內的任何官員身上,美國兩黨開始擔心該技術將成為針對美國和其他西方國家發起虛假信息戰爭的最新武器。

②制作虛假的色情視頻是深度偽造技術常見的運用方式之一。利用該技術能實現將一些公眾人物的臉移轉到色情明星的身體上,偽造逼真的色情場景。這些虛假的色情視頻一經傳播,受害人的名譽將嚴重受損,個人隱私還隨時有可能受到侵犯。

③深度偽造技術對企業首次募股(IPO)同樣有不可估量的負面影響。深度偽造技術可以借用企業負責人的公開談話視頻,篡改表情及談話內容,散播虛假信息,讓社會公眾發生錯誤認識,直接影響公司的信譽及經濟利益。

④就像圖片處理軟件Photoshop一樣,深度偽造則是一套由人工智能驅動的視頻偽造軟件,它可以讓人們看起來在做或說他們從未做過的事情。對視頻的數字操縱并不是什么新鮮事,但深度偽造這個工具存在的意義是,被操縱的視頻片段更容易被制作出來,而且還會越來越難被區分為欺詐。

⑤深度偽造技術可能會過度損害聲譽,甚至引發騷亂。想象一下,在偽造的視頻中,總統候選人猥褻兒童,警察局長煽動針對少數群體的暴力行為,或者士兵犯下戰爭罪,結果不堪設想。

AI芯天下丨深度偽造:AI時代不可避免的風險

技術的正面價值

互聯網時代下,先進的AI技術和開放的數據流動給社會帶來巨大的信息紅利。信息流動載體從原始的文本、到語音、至視頻、后進化至如今的虛擬現實,數據的巨大量和更高的開放程度允許越來越多消費者參與進來。而今隨著AI、深度偽造技術的發展,信息更能以重塑現實的方式豐富用戶的體驗。

與AI結合的深度學習算法用于科學研究上,能幫助改善醫學圖像分析,還能用于彌補聽力缺陷,幫助有聽力障礙的人理解別人的話語等。

該技術用于制作、真實還原歷史人物的肖像、相關音頻和視頻,或者讓藝術作品中的靜態的人物角色生活起來,實現教育大眾、豐富人們精神世界的目的。

該技術實際上與深度學習運用的技術一樣,這意味著在面對深度偽造帶來的潛在風險時,不是全部禁止深度偽造技術的應用,而是有效管控其風險,尤其是對可能造成特定傷害的深度偽造的虛假信息進行規制,同時不妨礙其在教育、藝術、社交、虛擬現實、個人發展、醫療等等領域的應用。

深度偽造技術是AI發展到一定階段的產物,技術本身是中立的。技術并不導致社會矛盾,只是技術的出現加劇了這種社會矛盾。所以我們不應該因此而禁止深度偽造技術。與此相比,更重要的是提高針對深度偽造的檢測技術、完善相關認證機制。

AI芯天下丨深度偽造:AI時代不可避免的風險

結尾:

這是一個眼見為實的世界,所有人都相信自己親眼看到的事情,但是隨著人工智能技術的不斷發展,眼見有時也絕非為實,它給人們根深蒂固的觀念帶來了沖擊。

但與此同時也有越來越多人在學習、研發相關的檢測技術,掌握判斷真偽的技能。隨著深度偽造技術越來越成熟,相應的檢測深度偽造的技術也會越來越先進,這將是一場永無休止的競賽。

轉至公眾號——AI芯天下

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

    人工智能 獵頭職位 更多
    掃碼關注公眾號
    OFweek人工智能網
    獲取更多精彩內容
    文章糾錯
    x
    *文字標題:
    *糾錯內容:
    聯系郵箱:
    *驗 證 碼:

    粵公網安備 44030502002758號