MLPerf公布首輪AI推理基準(zhǔn)測試結(jié)果,平頭哥含光800單芯片推理性能第一
11月7日報道
北京時間11月7日,MLPerf基準(zhǔn)聯(lián)盟公布首輪AI推理基準(zhǔn)測試結(jié)果,阿里巴巴平頭哥的AI芯片含光800在Resnet50基準(zhǔn)測試中獲得單芯片性能第一。
MLPerf 推理基準(zhǔn)測試設(shè)有五個基準(zhǔn),每個對應(yīng)四種場景,重點面向圖像分類、對象檢測和機(jī)器翻譯等常見機(jī)器學(xué)習(xí)任務(wù)。測試者可以選擇提交任何基準(zhǔn)及相應(yīng)場景的結(jié)果。
含光800參加了適用于圖像分類任務(wù)的Resnet50v1.5基準(zhǔn)測試,在離線模式(Offline mode)、服務(wù)模式(Servermode)、多路模式(Multi stream mode)和單路模式(Single stream mode)四個場景都取得了單芯片第一的成績。
離線模式測試的是芯片推理的最大吞吐量,最能考驗芯片的計算、存儲、通信等基本功。含光800的成績?yōu)?9306.60IPS,單芯片性能是谷歌TPUv3的8.5倍、Nvidia T4的12倍。
MLPerf是業(yè)內(nèi)首套衡量機(jī)器學(xué)習(xí)軟硬件性能的通用基準(zhǔn),由圖靈獎得主David?Patterson聯(lián)合谷歌和幾所著名高校于2018年發(fā)起。
MLPerf基準(zhǔn)聯(lián)盟現(xiàn)有50多家成員,包括谷歌、微軟、Facebook、阿里巴巴等企業(yè)和斯坦福、哈佛、多倫多大學(xué)等高校。

繼AI訓(xùn)練基準(zhǔn)v0.5、v0.6之后,MLPerf在今年6月推出AI推理基準(zhǔn)v0.5。參加本輪推理基準(zhǔn)測試并提交結(jié)果的公司共14家,谷歌(TPUv3)、英偉達(dá)(T4、RTX、Xavier)、英特爾(CLX 9282、NNPI-1000)、Habana(Goya)等呈現(xiàn)了當(dāng)前AI推理系統(tǒng)最高水平的競逐。
今年9月問世的含光800是阿里巴巴第一款正式流片的AI芯片,基于臺積電12nm工藝生產(chǎn),其性能突破得益于軟硬件的協(xié)同設(shè)計:采用平頭哥自研架構(gòu),有效降低內(nèi)存訪問延時;集成達(dá)摩院的創(chuàng)新算法,深度優(yōu)化CNN及視覺類算法,大幅提升視覺計算效率。
含光800主要用于云端視覺場景,現(xiàn)已大規(guī)模應(yīng)用于阿里巴巴集團(tuán)內(nèi)多個場景,如視頻圖像識別/分類/搜索、城市大腦等,未來還可應(yīng)用于醫(yī)療影像、自動駕駛等領(lǐng)域。
今后,含光800的算力將通過阿里云對外輸出。
作者:郭亞鑫來源:獵云網(wǎng)
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-5.20立即下載>> 【限時免費(fèi)】物理場仿真助力生物醫(yī)學(xué)領(lǐng)域技術(shù)創(chuàng)新
-
精彩回顧立即查看>> 【直播】 智測未來·2026海克斯康春季產(chǎn)品創(chuàng)新日
-
精彩回顧立即查看>> 【線下論壇】新唐科技×芯唐南京 2026 年度研討會
-
精彩回顧立即查看>> OFweek 2026(第十五屆)中國機(jī)器人產(chǎn)業(yè)大會
-
精彩回顧立即查看>> 維科杯· OFweek 2025中國機(jī)器人行業(yè)年度評選
-
精彩回顧立即查看>> 【在線會議】液冷服務(wù)器信號完整性及冷卻液關(guān)鍵電參數(shù)測試
推薦專題
- 1 特斯拉Optimus Gen3量產(chǎn)在即,哪些環(huán)節(jié)最具確定性?
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩(wěn)、細(xì)節(jié)炸,設(shè)計師慌了
- 3 AI狂歡遇上油價破百,全球股市還能漲多久? | 產(chǎn)聯(lián)看全球
- 4 6000億美元估值錨定:字節(jié)跳動的“去單一化”突圍與估值重構(gòu)
- 5 Tesla AI5芯片最新進(jìn)展總結(jié)
- 6 連夜測了一波DeepSeek-V4,我發(fā)現(xiàn)它可能只剩“審美”這個短板了
- 7 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 8 2026,人形機(jī)器人只贏了面子
- 9 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續(xù)扣錢!
- 10 AI Infra產(chǎn)業(yè)鏈卡在哪里了?
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市


分享













