谷歌AI學(xué)習(xí)系統(tǒng)存嚴(yán)重安全漏洞
近日騰訊安全平臺部預(yù)研團(tuán)隊(duì)發(fā)現(xiàn)谷歌人工智能學(xué)習(xí)系統(tǒng)TensorFlow存在嚴(yán)重安全風(fēng)險(xiǎn),可被黑客利用帶來安全威脅,團(tuán)隊(duì)已向谷歌報(bào)告這一風(fēng)險(xiǎn)并獲得致謝,其官方負(fù)責(zé)人稱,考慮到TensorFlow在AI的廣泛使用,TensorFlow官網(wǎng)將會(huì)像大多數(shù)重要軟件一樣在網(wǎng)站創(chuàng)建安全公告頁面,及時(shí)披露和修復(fù)安全漏洞。
目前,Google的TensorFlow作為開源框架被互聯(lián)網(wǎng)廣泛使用,據(jù)官方介紹,谷歌、ebay、airbnb、twitter、uber、小米、中興等公司均有使用。在TensorFlow中,AI研究者可以復(fù)用他人建好的模型來進(jìn)行AI訓(xùn)練,或直接提供AI服務(wù),大大提高開發(fā)效率。
據(jù)了解,這些公開的模型通常以文件形式提供,也普遍被認(rèn)為是無害的。但騰訊安全平臺部預(yù)研團(tuán)隊(duì)發(fā)現(xiàn),攻擊者可以生成Tensorflow的惡意模型文件,對AI研究者進(jìn)行攻擊,對受害者自身的AI應(yīng)用進(jìn)行竊取或篡改、破壞。
該風(fēng)險(xiǎn)危害面非常大,一方面攻擊成本低,普通攻擊者即可實(shí)施攻擊;另一方面迷惑性強(qiáng),大部分AI研究者可能毫無防備;同時(shí)因?yàn)槔昧薚ensorFlow自身的機(jī)制,其在PC端和移動(dòng)端的最新版本均會(huì)受到影響。AI模型被竊取,損失的是開發(fā)者的心血;而一旦被篡改,造成AI失控,后果更難以想象。
此前,AI已有不少實(shí)際應(yīng)用案例,例如深圳試運(yùn)行的無人駕駛公交、國際會(huì)議的AI同聲傳譯;未來更會(huì)滲透到社會(huì)的方方面面:交通、醫(yī)療、安防、金融……在不遠(yuǎn)的未來,AI安全會(huì)直接影響人們的生命財(cái)產(chǎn)安全,甚至整個(gè)世界的秩序。如電影《復(fù)仇者聯(lián)盟:奧創(chuàng)世紀(jì)》那樣,終極人工智能奧創(chuàng)為人們的生活提供了無數(shù)便利,但當(dāng)他站到人類的對立面時(shí),也會(huì)帶來無數(shù)災(zāi)難甚至毀滅。
據(jù)悉,騰訊安全平臺部安全預(yù)研團(tuán)隊(duì)已就此次發(fā)現(xiàn)的安全風(fēng)險(xiǎn)向谷歌提交報(bào)告,協(xié)助風(fēng)險(xiǎn)早日收斂。該團(tuán)隊(duì)不僅聚焦AI、移動(dòng)及IoT前沿領(lǐng)域的安全問題研究,同時(shí)也向google,apple,微軟,adobe等公司報(bào)告多個(gè)安全漏洞并多次獲得官方致謝。此外,他們對無人機(jī)、無線電、物聯(lián)網(wǎng)、智能樓宇的安全問題也有研究。
發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
精彩回顧立即查看>> 2025中國國際工業(yè)博覽會(huì)維科網(wǎng)·激光VIP企業(yè)展臺直播
-
精彩回顧立即查看>> 【在線研討會(huì)】多通道相參信號的實(shí)現(xiàn)與應(yīng)用
-
精彩回顧立即查看>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
精彩回顧立即查看>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 松下新能源中國布局:鋰一次電池新品介紹
-
精彩回顧立即查看>> 2024 智能家居出海論壇
- 1 森林防火不再“虛驚一場”,海康威視推出森林防火大模型產(chǎn)品
- 2 季報(bào) | 2026Q1中國消費(fèi)級監(jiān)控?cái)z像頭市場小幅衰退;小米、螢石、海康威視、喬安位居線上銷額前四
- 3 季報(bào) | 2026Q1中國智能門鎖全渠道規(guī)模達(dá)385.5萬套,下降5.3%;市場新品聚焦六個(gè)方向
- 4 海康威視,穩(wěn)住就是勝利!
- 5 資產(chǎn)?隱私?還是籌碼?汽車數(shù)據(jù)的身份困局
- 6 海康威視重回兩年高點(diǎn):再不好的生意模式,也能逆風(fēng)翻盤
- 7 一季度家用監(jiān)控?cái)z像頭市場總結(jié):量降額增背后,誰在驅(qū)動(dòng)價(jià)值提升?
- 8 海康威視全新升級安全門禁,多維守護(hù)關(guān)鍵出入口
- 9 海康威視視覺監(jiān)測方案守護(hù)泰州35座國省道橋梁
- 高級軟件工程師 廣東省/深圳市
- 自動(dòng)化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享













