深入了解NVIDIA RAPIDS開源GPU加速平臺

NVIDIA在北京召開溝通會，由亞太區(qū)解決方案架構(gòu)主管趙立威詳解了RAPIDS開源GPU數(shù)據(jù)加速平臺。

該平臺發(fā)布于2018年10月10日的GTC Europe大會上，是一款針對數(shù)據(jù)科學(xué)和機器學(xué)習(xí)的GPU加速平臺，為數(shù)據(jù)科學(xué)家提供標(biāo)準(zhǔn)化的流水線式工具，數(shù)據(jù)處理速度較僅用CPU提升50倍。

溝通會后，我們與NVIDIA中國高級解決方案架構(gòu)師何萍，以及NVIDIA亞太區(qū)解決方案高級總監(jiān)趙立威等高管就RAPIDS平臺和GPU加速數(shù)據(jù)科學(xué)和機器學(xué)習(xí)進行了進一步的交流。

據(jù)分析師估計，面向數(shù)據(jù)科學(xué)和機器學(xué)習(xí)的服務(wù)器市場每年價值約為200億美元，加上科學(xué)分析和深度學(xué)習(xí)市場，高性能計算市場總價值大約為360億美元，且該市場還在持續(xù)快速發(fā)展，幾乎每一家企業(yè)都在用數(shù)據(jù)驅(qū)動來增強自己的核心競爭力。

“數(shù)據(jù)分析和機器學(xué)習(xí)是高性能計算市場中最大的細(xì)分市場，不過目前尚未實現(xiàn)加速，”NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在發(fā)布RAPIDS時提到，“全球最大的行業(yè)均在海量服務(wù)器上運行機器學(xué)習(xí)算法，目的在于了解所在市場和環(huán)境中的復(fù)雜模式，同時迅速、精準(zhǔn)地做出將直接影響其基礎(chǔ)的預(yù)測。”

一個最典型的大數(shù)據(jù)分析流程大致分為數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)合并、數(shù)據(jù)降維三個步驟，很多數(shù)據(jù)特征需要靠行業(yè)或?qū)I(yè)領(lǐng)域的專家去理解，并事先把它們提取出來。因此在Machine Learning中需要訓(xùn)練過程，這是一個不斷的循環(huán)過程，在不斷優(yōu)化、不斷調(diào)整參數(shù)的過程中，提高訓(xùn)練過程的精度，從而得到更準(zhǔn)確的預(yù)測結(jié)果。

為了支持這樣一個大數(shù)據(jù)分析流程，需要用到DASK、PYTHON、PANDAS、SKLEARN、NUMPY、Apache Arrow等組件。RAPIDS構(gòu)建于Apache Arrow、PANDAS和SKLEARN等組件之上，通過CUDF數(shù)據(jù)過濾、CUML機器學(xué)習(xí)、CUGRAPH數(shù)據(jù)圖像化來加速處理數(shù)據(jù)，為最流行的Python數(shù)據(jù)科學(xué)工具鏈帶來了GPU提速。

這三套軟件工具都是基于CUDA開發(fā)，可以把它們看成是CUDA的一部分。其中CUDF與Pandas的功能非常類似，Pandas的所有功能都可以在CUDF里找到對應(yīng)的API；CUML則對應(yīng)SKLEARN，無論是分類、聚類、回歸等算法都可以在CUML里面找到。而CUGRAPH目前尚未正式推出，預(yù)計會在明年正式集成到RAPIDS中。

趙立威向我們透露，RAPIDS非常易與此前的計算框架整合，雖然不能說是“無代碼”過渡，但代價非常小，且數(shù)據(jù)處理效率可提升50倍以上。同時為了將更多的機器學(xué)習(xí)庫和功能引入RAPIDS，NVIDIA廣泛地與開源生態(tài)系統(tǒng)貢獻者展開合作，其中包括Anaconda、BlazingDB、Databricks，以及迅速增長的Python數(shù)據(jù)科學(xué)庫pandas等等。

此外，黃仁勛在GTC Europe大會上展示RAPIDS時用的DGX-2，使用了16塊Tesla V100計算卡，每塊卡配有32GB HBM2顯存，帶寬高達900GB/s，兩塊計算卡之間通過300GB/s的NV Switch總線互聯(lián)，使整臺服務(wù)器擁有了un-block無阻滯通訊能力，總算力高達2PFLOPs（半精度浮點），數(shù)據(jù)處理能力相當(dāng)于5臺DGX-1。

除了DGX-2和DGX-1，NVIDIA還有一系列合作伙伴提供的很多的硬件產(chǎn)品，如一些ODM、OEM廠商基于HGX-1和HGX-2兩種架構(gòu)標(biāo)準(zhǔn)生產(chǎn)的許多不同類型服務(wù)器，甚至包括上一代Pascal架構(gòu)的GPU的服務(wù)器，都可以都可以很好的支撐RAPIDS的運行和使用。

趙立威笑稱，由于此前數(shù)據(jù)處理的速度太慢，數(shù)據(jù)科學(xué)家往往有大量的空閑等待時間，可以悠閑的喝咖啡。應(yīng)用RAPIDS平臺之后，等待時間變短，需要數(shù)據(jù)科學(xué)家創(chuàng)造性參與的部分相應(yīng)變多了，數(shù)據(jù)科學(xué)家這一工作可能不再是美差。

當(dāng)然，數(shù)據(jù)分析和機器學(xué)習(xí)領(lǐng)域的持續(xù)走熱，看中這片市場的也不只NVIDIA一家。上周賽靈思剛剛推出基于UltraScale+ FPGA打造的數(shù)據(jù)中心和AI加速卡Alveo U200和U250，號稱實時推斷吞吐量比高端CPU高出20倍。

賽靈思數(shù)據(jù)中心副總裁Manish Muthal表示，Alveo加速器卡的推出進一步推進了賽靈思向平臺公司的轉(zhuǎn)型，使不斷增長的應(yīng)用合作伙伴生態(tài)系統(tǒng)以比以往更快的速度加速創(chuàng)新，并將與應(yīng)用生態(tài)系統(tǒng)展開合作，共同向客戶推出采用Alveo的各種可產(chǎn)品化的解決方案。

與NVIDIA推出的RAPIDS平臺相比，二者通過一硬一軟的形式覆蓋了幾乎相同的范圍，對此趙立威對我們表示，數(shù)據(jù)分析和機器學(xué)習(xí)市場尚未探明其特定邊界，領(lǐng)域內(nèi)應(yīng)用場景非常多樣化，無論是基于FPGA還是ASIC進行異構(gòu)加速都是可行的，完全取決于針對不同的場景所產(chǎn)生的不同需求。