超越谷歌微軟,阿里達摩院AI預訓練模型M6參數規模破10萬億
11月8日消息,阿里巴巴達摩院公布多模態大模型M6最新進展,其參數已從萬億躍遷至10萬億,規模遠超谷歌、微軟此前發布的萬億級模型,成為全球最大的AI預訓練模型。同時,M6做到了業內極致的低碳高效,使用512塊GPU在10天內即訓練出具有可用水平的10萬億模型。相比去年發布的大模型GPT-3,M6實現同等參數規模,能耗為其1%。

【什么是超大規模預訓練模型】
目前,人工智能正迅速普及并應用到人們的日常生活,但仔細觀察會發現,這些技術主要集中在“感知層面”,比如聽覺、視覺等。但需要外部知識、邏輯推理的“認知層面”,人工智能尚處于初級階段。
“認知智能”被認為是下一代人工智能的關鍵性突破。而超大規模預訓練模型則被認為是認知智能的基礎設施。
當前,企業應用AI技術面臨前期投入大、開發時間長等痛點,AI技術高昂的使用門檻將絕大多數企業拒之門外。Gartner的研究報告顯示,37%的企業已經或即將部署AI模型,但仍有大量中小企業未享受到人工智能技術帶來的利好。大規模預訓練模型的出現或將徹底改變人工智能的應用現狀。
大規模預訓練模型基于復雜的預訓練目標和龐大的模型參數,將豐富的知識存儲到大量參數的隱式編碼中,使其能夠完成多種下游任務,即便是新任務,也能夠通過動態學習來完成。
借助大規模預訓練模型, 企業應用AI技術的前期投入將大幅下降,其不再需要前期就投入大量資金和時間研發定制化模型。

2020年8月,GPT-3模型的面世可謂人類AI史的里程碑事件。GPT-3是美國非盈利機構OpenAI發布的GPT第三代模型,被譽為“最接近通用人工智能”的模型。GPT-3不僅支持多種不同類型的任務, 包括改語法錯誤、寫文章( 寫詩) 、聊天、算數、答題、翻譯等, 還能夠通過小樣本動態學習, 解決從未遇到過的任務, 從而具備成為通用解決方案的能力。
【阿里達摩院的超大規模多模態預訓練模型M6】
鑒于大規模預訓練模型的強大與高效, 國內頭部科研機構如阿里、華為、智源研究院也都先后發布了自研的大規模預訓練模型。
其中,M6是由阿里達摩院聯合清華大學研發,中國首個萬億參數的超大規模多模態預訓練模型。

據悉,M6的優勢在于將大模型所需算力壓縮到極致,通過一系列技術突破,達摩院和阿里云只用了480塊GPU就訓練出了M6,相比英偉達用3072塊GPU訓練萬億模型、谷歌用2048塊TPU訓練1.6萬億模型(1 TPU約等于2~3GPU),M6省了超過八成算力,還將效率提升了近11倍。
阿里達摩院的M6定位是主打多模態、多任務能力,目標是成為全球領先的具有通用性的人工智能大模型。
【M6的商業化應用】
隨著M6參數規模的擴大,AI的認知和創造能力不斷升級。阿里研究人員發現,M6在繪畫、寫作、問答、文字生成圖片領域均有驚人的表現,可以生成1024*1024分辨率宛如實物的高清圖片,比此前海外公司OpenAI最高紀錄提升4倍。
不僅如此,M6更是首個真正進入商用的多模態通用大模型。目前,M6已作為AI小助理在阿里新制造平臺犀牛智造上崗,可實現快速設計、試穿效果模擬。M6還已應用在支付寶、淘寶等平臺,參與跨模態搜索、文案撰寫、圖片設計等工作。

M6根據文本內容,自動設計特定風格圖片
舉個例子,按照淘寶目前的搜索系統,用戶在淘寶上搜索商品名稱或類別時,通常會用到關鍵詞搜索,但對于用戶一些十分特別的商品特征需求,商家未必能夠把特征關鍵詞全部羅列出來。比如,用戶可能想要尋找一個表面凹凸的咖啡杯,但商家一般不會把這樣的細節寫在商品描述中,用戶難以快速搜索到這種商品。
但多模態大模型M6可以做到,目前M6已建立了從文本到圖片的匹配能力。這意味著,AI通過識別圖片就可以知道商品的所有細節特征,AI會把這些細節特征記錄成文本,用戶無論搜索什么“奇葩”的特征,系統都能幫用戶找到相對應的商品。
未來,M6或將建立從文字到視頻內容的認知能力,為搜索形態帶來變革。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 特斯拉Optimus Gen3量產在即,哪些環節最具確定性?
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 4 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 5 Tesla AI5芯片最新進展總結
- 6 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 7 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 8 2026,人形機器人只贏了面子
- 9 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 10 AI Infra產業鏈卡在哪里了?


分享













