Facebook開源Horizon,揭秘其AI強化學習
11月1日,Facebook開源了Horizon,一個由Facebook的AI研究人員、推薦系統專家和工程師共同搭建的強化學習平臺,其框架的構建工作開始于兩年半前,在過去一年中一直被Facebook內部使用。
公司或研究團隊可以在Horizon平臺大規模部署AI執行各種操作,達到同樣的效果可能需要幾千個CPU或GPU訓練數以十億計的觀測報告。而利用Apache Spark進行預處理和PyTorch訓練AI系統,Horizon同樣可以部署在單臺計算機上。
Facebook的產品團隊已經利用Horizon平臺提供諸如M Suggestions的服務,該服務能推薦翻譯工具、Spotify歌單、Food Network食譜,以及各種基于Facebook Messenger對話用詞的其他事物。Horizon還能被用來確定Facebook 360視頻碼率和個性化設置Facebook應用程序的推送通知。
強化學習通過獎勵(rewards)來驅動智能體(agents)的活動以達到預期目標。Facebook開源Horizon主要是為了推進強化學習的發展,同時為AI領域的新手、學生和需要數千臺機器訓練AI系統的大型研究項目提供無監督學習的方法。
谷歌曾利用強化學習訓練DeepMind AI如何導航虛擬酷跑的路線,加州大學伯克利分校的研究人員也曾借此訓練計算機的“好奇心”。對Facebook而言,強化學習將是AI產業的下一個前沿技術,在機器學習中會被廣泛采用,該公司相信強化學習也有助于改進大型系統和應用程序,也希望看到強化學習的新方法和應用,尤其在機器人和游戲領域。
Facebook對開源工具的AI培訓和部署并不陌生,公司在今年10月份把深受歡迎的深度學習框架PyTorch 1.0集合到谷歌云、AWS和Azure機器學習平臺,同期發布的還有用于AI模型訓練的Caffe2和Parlai框架。除了PyTorch和Apache Spark,AI愛好者還能用TensorBoard X進行可視化訓練,在完成訓練之后還可以利用ONNX使AI模型在不同框架之間進行轉移。
不同于其他形式的強化學習,Horizon可以離線訓練AI系統。Horizon使用一種被稱為反事實策略評估(counterfactual policy evaluation)的技術來評估AI系統的離線性能,確定替代方法是否比在線運行的性能更好。
Facebook認為Horizon是第一個“利用強化學習規格化大規模數據集訓練的開源端對端的平臺”,該平臺配有步進式的用法說明,只要具備計算機基礎知識的人士都可以在Faecbook的Horizon GitHub資源庫中進行克隆和嘗試,不局限于大型公司的研究人員和專家。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 4 Tesla AI5芯片最新進展總結
- 5 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 6 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 7 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 8 2026,人形機器人只贏了面子
- 9 DeepSeek降價90%:價格屠夫不是身份,是戰略
- 10 AI Infra產業鏈卡在哪里了?


分享













