近日,第四范式宣布將推出兩項算力黑科技:XGBoost++和pyGDBT。XGBoost是AI開發(fā)者所熟知的工具,XGBoost++可以在前者的基礎上,只修改一行代碼,即可輕松切換到異構計算模式,享受軟硬一體技術帶來的極致算力升級。而將于10月初發(fā)布的pyGDBT則從另一個維度給用戶帶來極致算力體驗,用戶只需基于類似scikit-learn的語法編寫python程序,即可通過智能調參框架,享受異構計算帶來的極致性能。
XGBoost++和pyGDBT的共同點在于,以往的AI開發(fā)中想要使用異構加速或實現(xiàn)高維離散場景的計算需要,必須具備深厚的AI技術基礎,而這兩款工具的易用程度讓數(shù)據(jù)科學家、數(shù)據(jù)分析師、普通AI開發(fā)者即可輕松上手。這也讓第四范式離“AI for Everyone”的愿景更進一步。
第四范式FlashGBM:讓醫(yī)學、金融等高維離散場景計算提速10倍
第四范式FlashGBM是XGBoost++和pyGDBT的底層異構加速引擎,使用基于FPGA開發(fā)的GBM專用加速芯片,定制了配合該加速器的高性能軟件程序,尤其擅長處理復雜的高維離散特征。FlashGBM不僅實現(xiàn)了不同場景下平均10倍以上的加速,而且相比傳統(tǒng)的CPU方案,內置自動參數(shù)優(yōu)化功能,免去專家人工調參過程,自動調整至最優(yōu)性能,降低使用門檻,縮短建模周期。
FlashGBM有如下特性:
1. 為高維離散稀疏場景提供高性能支持,覆蓋傳統(tǒng)GBM難以覆蓋的場景。
2. 引入自動調參技術。用戶不需要手動調參來確定效率最優(yōu)情況下的參數(shù)組合。
3. 針對GBM訓練算法和FPGA本身架構特點做了深入的流水線優(yōu)化,避免cache bank conflict,提升訪存效率。
在測試實驗中(見上表)可以看到,不同場景的加速比從4.0x到26x不等,而平均加速比達到了12.5x。其中,互聯(lián)網(wǎng)廣告點擊率預測是一個典型的高維稀疏離散計算場景;該場景中存在大量離散特征,例如A用戶是否購買X商品,B用戶是否收藏Y商品;海量用戶與海量行為的交叉形成了超高維,例如千萬用戶與上百種行為交叉產(chǎn)生數(shù)十億維。在該場景下,F(xiàn)lashGBM的加速高達26倍。
FlashGBM通過PCIe從宿主機拿到數(shù)據(jù),傳遞給計算核心,計算核心通過和板載內存交互來計算GBM的統(tǒng)計直方圖,并將結果送回宿主機內存。
第四范式XGBoost++:從XGBoost一鍵切換至FlashGBM高性能模式
XGBoost是Gradient Boosting的一種高效系統(tǒng)實現(xiàn),作為開源系統(tǒng), XGBoost的社區(qū)很活躍,被廣泛使用。第四范式XGBoost++在FlashGBM底層框架上實現(xiàn)了與XGBoost兼容的接口。數(shù)據(jù)科學家可以零學習成本地切換到高性能FlashGBM模式,享受FPGA帶來的異構加速優(yōu)勢。
第四范式pyGDBT:打造易用的高維分布式機器學習框架
GDBT是第四范式自主研發(fā)的超大規(guī)模分布式機器學習框架,設計初衷是打造專門為分布式大規(guī)模機器學習設計的計算框架,兼顧開發(fā)效率和運行效率。相比主流開源架構,GBM在高維場景有百倍以上優(yōu)勢。即將發(fā)布的第四范式pyGDBT面向AI科學家的使用習慣,對GDBT進行了進一步整合和優(yōu)化,在建模效率、模型維度與效果、性能、易用性等幾個方面進行了升級:
1) 高效率: 針對反復調參調研的高成本,通過智能調參加速機制降低特征、模型調研周期。
2) 模型維度與效果: 通過集群計算框架和分布式訓練算法支持海量數(shù)據(jù)與高維模型,提升模型表達能力與效果。
3) 高性能:結合FlashGBM底層計算框架,提供了異構加速能力。
4) 易用性:提供了近似scikit-learn的python使用接口,AI建模人員可以快速實現(xiàn)代碼遷移和使用。
- 智駕領域智界就是第一?問界排第幾?
- ChatGPT推出圖片管理功能:AI創(chuàng)作更高效!
- 抵御關稅沖擊,美國PC市場2025年Q1逆襲:出貨量激增12.6%,庫存量將大增
- 全球電車風潮涌動:中國與歐洲領跑,同比增長29%的電動汽車銷量新篇章
- AI編程大勢所趨:半年內90%,一年內幾乎全部代碼由AI編寫
- iPhone 17系列機模意外曝光,小米SU7 Pro交付時間嚇壞用戶
- 福耀科技大學獲批,曹德旺回應:壓力山大,批下來就要做好,求真務實才是關鍵
- 特斯拉Cybertruck新功能:FSD大更新,輕松實現(xiàn)停車啟動、智能召喚與倒車,駕駛更智能!
- 大眾汽車裁員風暴來襲:軟件部門Cariad大刀揮向三成崗位,風雨飄搖中的裁員序幕?
- 保時捷扛不住壓力裁員3900人:全球跑車銷量王也難逃經(jīng)濟寒冬?
免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。