打開(kāi)人工智能的黑箱,IBM推出云工具檢測(cè)AI偏見(jiàn)
IBM推出了一項(xiàng)軟件服務(wù),可以?huà)呙?span id="kkmkaus" class='hrefStyle'>人工智能系統(tǒng)的工作情況,以便檢測(cè)偏見(jiàn)并為正在做出的自動(dòng)決策提供解釋?zhuān)欢ǔ潭鹊耐该鞫瓤赡苁呛弦?guī)目的所必需的,而不僅僅是公司自己的盡職調(diào)查。
新的信任和透明度系統(tǒng)運(yùn)行在IBM云上,并與從IBM作為各種流行的機(jī)器學(xué)習(xí)框架和AI構(gòu)建環(huán)境所構(gòu)建的模型一兼容,包括自己的Watson技術(shù),以及Tensorflow、SparkML、AWS SageMaker和AzureML。
它表示,可以通過(guò)編程來(lái)定制服務(wù)以滿(mǎn)足特定的組織需求,以考慮“任何業(yè)務(wù)工作流程的獨(dú)特決策因素”。
完全自動(dòng)化的SaaS解釋了決策并在運(yùn)行時(shí)檢測(cè)AI模型中的偏見(jiàn),這意味著它正在捕獲“發(fā)生時(shí)可能產(chǎn)生的不公平結(jié)果”。
它還會(huì)自動(dòng)建議添加到模型中的數(shù)據(jù),以幫助減少已檢測(cè)到的任何偏見(jiàn)。
人工智能決策的解釋包括顯示哪些因素加重了某個(gè)方向的決策、對(duì)建議的信心和信心背后的因素。
IBM還表示該軟件會(huì)記錄AI模型的準(zhǔn)確性、性能和公平性,以及人工智能系統(tǒng)的系譜,這意味著它們可以“以客戶(hù)服務(wù)、監(jiān)管或合規(guī)原因輕松跟蹤和召回”。
關(guān)于合規(guī)方面的一個(gè)例子,歐盟的GDPR隱私框架參考了自動(dòng)決策,并且包括讓人們獲得有關(guān)算法在某些情況下如何工作的詳細(xì)解釋的權(quán)利,這意味著企業(yè)可能需要能夠?qū)徍怂麄兊腁I。
IBM AI掃描儀工具通過(guò)可視化儀表板提供自動(dòng)決策的細(xì)分,這是一種減少對(duì)“專(zhuān)業(yè)AI技能”依賴(lài)的方法。
然而,它也打算讓自己的專(zhuān)業(yè)服務(wù)人員與企業(yè)合作使用新的軟件服務(wù)。因此,它既可以銷(xiāo)售人工智能,也可以解決人工智能的不完美問(wèn)題,當(dāng)企業(yè)試圖修復(fù)他們的AI時(shí),專(zhuān)家可以幫助消除任何問(wèn)題。這表明雖然AI確實(shí)會(huì)刪除一些工作,但自動(dòng)化將忙于創(chuàng)建其他類(lèi)型的工作。
IBM也不是第一家發(fā)現(xiàn)AI偏見(jiàn)商業(yè)機(jī)會(huì)的專(zhuān)業(yè)服務(wù)公司。幾個(gè)月前,埃森哲公開(kāi)了一個(gè)公平的工具,用于識(shí)別和修復(fù)不公平AI。
因此,隨著對(duì)多個(gè)行業(yè)自動(dòng)化的大力推動(dòng),設(shè)置和銷(xiāo)售服務(wù)以解決因增加AI的使用而出現(xiàn)的任何問(wèn)題,看起來(lái)也相當(dāng)龐大。
事實(shí)上,鼓勵(lì)更多企業(yè)對(duì)進(jìn)入自動(dòng)化更有信心。(在這方面,IBM引用了它所進(jìn)行的研究,發(fā)現(xiàn)雖然82%的企業(yè)正在考慮人工智能部署,但60%擔(dān)心責(zé)任問(wèn)題,63%缺乏內(nèi)部人才來(lái)自信地管理技術(shù)。)
除了推出自己的付費(fèi)AI審計(jì)工具之外,IBM表示,其研究部門(mén)將開(kāi)放采購(gòu)AI偏見(jiàn)檢測(cè)和緩解工具包,旨在鼓勵(lì)“圍繞解決AI中的偏見(jiàn)進(jìn)行全球合作”。
“IBM引領(lǐng)行業(yè)建立信任和透明度原則,以開(kāi)發(fā)新的AI技術(shù)。現(xiàn)在是時(shí)候?qū)⒃瓌t付諸于實(shí)踐了,”IBM認(rèn)知解決方案高級(jí)副總裁David Kenny在一份聲明中表示。“我們正在為使用人工智能并面臨任何有缺陷的決策產(chǎn)生最大潛在風(fēng)險(xiǎn)的企業(yè)提供新的透明度和控制權(quán)。”
發(fā)表評(píng)論
登錄
手機(jī)
驗(yàn)證碼
立即登錄即可訪(fǎng)問(wèn)所有OFweek服務(wù)
還不是會(huì)員?免費(fèi)注冊(cè)
忘記密碼請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-

落地?zé)o錫!京東首個(gè)物流機(jī)器人超級(jí)工廠(chǎng)來(lái)了
-

OpenAI發(fā)布的AI瀏覽器,市場(chǎng)為何反應(yīng)強(qiáng)烈?
-

馬云重返一線(xiàn)督戰(zhàn),阿里重啟創(chuàng)始人模式
-

機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹(shù)機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-

存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-

長(zhǎng)安汽車(chē)母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-

豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-

字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
最新活動(dòng)更多
-
即日-5.20立即下載>> 【限時(shí)免費(fèi)】物理場(chǎng)仿真助力生物醫(yī)學(xué)領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測(cè)未來(lái)·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線(xiàn)下論壇】新唐科技×芯唐南京 2026 年度研討會(huì)
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國(guó)機(jī)器人產(chǎn)業(yè)大會(huì)
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國(guó)機(jī)器人行業(yè)年度評(píng)選
-
精彩回顧立即查看>> 【在線(xiàn)會(huì)議】液冷服務(wù)器信號(hào)完整性及冷卻液關(guān)鍵電參數(shù)測(cè)試
推薦專(zhuān)題
- 1 AI狂歡遇上油價(jià)破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實(shí)測(cè):中文穩(wěn)、細(xì)節(jié)炸,設(shè)計(jì)師慌了
- 3 6000億美元估值錨定:字節(jié)跳動(dòng)的“去單一化”突圍與估值重構(gòu)
- 4 Tesla AI5芯片最新進(jìn)展總結(jié)
- 5 連夜測(cè)了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個(gè)短板了
- 6 熱點(diǎn)丨AI“瑜亮之爭(zhēng)”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤(pán):9秒刪庫(kù)跑路,全員被封號(hào),還繼續(xù)扣錢(qián)!
- 8 2026,人形機(jī)器人只贏了面子
- 9 DeepSeek降價(jià)90%:價(jià)格屠夫不是身份,是戰(zhàn)略
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享





