如何防止AI將你認(rèn)成“大猩猩”?光靠膚白可不行
各位是否還記得,兩年前谷歌將黑人認(rèn)成“大猩猩”這個烏龍事件?正因此次事件造成的不良影響,讓Google意識到:與其擔(dān)心AI傷人,更嚴(yán)重的是AI偏見問題。為了防止AI“胡來”,Google為其制定了七項“道德”準(zhǔn)則。
事情的原委是這樣的,2015年,一位名叫Jacky Alciné的黑人軟件開發(fā)人員在推特上透露,Google Photos使用的圖像分類器將一名黑人女性稱為“大猩猩”(Gorillas),引起了軒然大波。事發(fā)后,谷歌為此深表歉意,并著手處理這一漏洞。
不僅如此,谷歌還提出AI技術(shù)的開發(fā)道德準(zhǔn)則,并且成立了專門的機(jī)器學(xué)習(xí)道德部門,對公司的產(chǎn)品和服務(wù)進(jìn)行分析測試,提出改進(jìn)意見,盡可能避免AI偏見的產(chǎn)生。不光是Google,從IBM到Airbnb,每家公司都在努力確保自己的算法不會出現(xiàn)類似的偏差。
為此,今年6月,Google首席執(zhí)行官Sundar Pichai發(fā)布了公司的七項人工智能原則,指導(dǎo)谷歌在這些方面的工作和研究,包括確保Google員工不會制造或加強(qiáng)不公平的AI偏見,并表示AI技術(shù)的開發(fā)和使用將在未來許多年內(nèi)對社會產(chǎn)生重大影響:
對社會有益
避免制造或增強(qiáng)不公平的偏見
建造并測試其安全性
對民眾負(fù)責(zé)
融入隱私設(shè)計原則
堅持科學(xué)卓越的高標(biāo)準(zhǔn)
為符合這些原則的用戶提供
除了那次不愉快的“大猩猩”事件外,哈佛大學(xué)的研究員Latanya Sweeney表示:谷歌搜索中存在種族歧視,當(dāng)搜索類似黑人名字時,會比搜索類似白人名字更有可能出現(xiàn)與“被逮捕”相關(guān)的廣告。這些現(xiàn)象都是我們的部門成立的原因,不應(yīng)該讓我們的用戶看到這些,我們需要首先阻止這些偏見的產(chǎn)生。
實際上,對于AI偏見這件事,一份來自皮尤研究中心近期公布的研究結(jié)果顯示:目前美國有58%的成年人認(rèn)為,人工智能的算法極其程序?qū)冀K包含對人類的偏見,人工智能算出的結(jié)果不能保持中立的態(tài)度。從受調(diào)查者的年齡來看,50歲以上的受訪者中,有63%的人認(rèn)為算法不中立;18-29歲的受訪者中,也有48%的人認(rèn)為算法一定會存在偏見。
如此看來,大眾對AI偏見這件事存有共識。顯然,解決AI偏見光靠Google一家公司還遠(yuǎn)遠(yuǎn)不夠,需要有更多的公司加入其中。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-5.20立即下載>> 【限時免費】物理場仿真助力生物醫(yī)學(xué)領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測未來·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線下論壇】新唐科技×芯唐南京 2026 年度研討會
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國機(jī)器人產(chǎn)業(yè)大會
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國機(jī)器人行業(yè)年度評選
-
精彩回顧立即查看>> 【在線會議】液冷服務(wù)器信號完整性及冷卻液關(guān)鍵電參數(shù)測試
推薦專題
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩(wěn)、細(xì)節(jié)炸,設(shè)計師慌了
- 3 6000億美元估值錨定:字節(jié)跳動的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進(jìn)展總結(jié)
- 5 連夜測了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續(xù)扣錢!
- 8 2026,人形機(jī)器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享













