一張貼紙 或可迷惑自動駕駛系統(tǒng)
2019-05-13 09:04
來源：
中國科技網(wǎng)
自動駕駛的安全性一直以來受到各方的關注。近日由北京航空航天大學、悉尼大學和劍橋大學的一項新研究表明，一張紙便可以“迷惑”AI自動駕駛系統(tǒng)，將一張用打印機打印出來的涂鴉貼畫貼在路牌上就可以導致AI自動駕駛系統(tǒng)分類錯誤。目前該論文已在全球人工智能頂級會議AAAI 2019上發(fā)表。
在實驗中，研究人員將生成的涂鴉貼畫貼在北航校園中標為“限速20km／h”的真實路牌上后，AI自動駕駛系統(tǒng)完全被誤分類，將其識別為“No Entry”（禁行）。該涂鴉貼畫在論文中被稱為“對抗補丁”，正是這塊補丁“欺騙”了AI自動駕駛系統(tǒng)，讓系統(tǒng)將該路牌誤分類。
經(jīng)實驗證實，用該方法生成的對抗補丁具有穩(wěn)定的攻擊效果，將其貼在路牌上后，不會影響人類對于路牌語義信息的認知，且由于場景語義相關性人類也不會感覺到違和。但是，該對抗補丁對于AI自動駕駛系統(tǒng)則是毀滅性的。例如，這種攻擊可能被惡意地用來攻擊自動駕駛系統(tǒng)，入侵者只要將一小片貼畫貼在路牌上，當自動駕駛汽車駛過時就可能會造成系統(tǒng)的致命錯誤，導致車禍產(chǎn)生。
分享
聲明：
本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載，目的在于信息傳遞，并不代表本站贊同其觀點和對其真實性負責，如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的，請聯(lián)系我們。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百，全球股市還能漲多久？ | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸！ChatGPT Images 2.0實測：中文穩(wěn)、細節(jié)炸，設計師慌了
- 3 6000億美元估值錨定：字節(jié)跳動的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進展總結(jié)
- 5 連夜測了一波DeepSeek-V4，我發(fā)現(xiàn)它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”：既生OpenClaw，何生Hermes？
- 7 AI界的殺豬盤：9秒刪庫跑路，全員被封號，還繼續(xù)扣錢！
- 8 2026，人形機器人只贏了面子
- 9 DeepSeek降價90%：價格屠夫不是身份，是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了？
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)（光器件） 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市
