擁抱開源的Xilinx描繪了AI之下的剛?cè)岵?jì)： Vitis AI平臺正式開放下載

眾所周知，Xilinx（賽靈思）是FPGA的發(fā)明者，而自此之后，Xilinx一直屬于一個著重于硬件的企業(yè)。此前，21ic中國電子網(wǎng)曾報道過Xilinx解鎖全員創(chuàng)新的平臺Vitis™及Vitis™ AI統(tǒng)一軟件平臺，該平臺可突破軟硬件壁壘，使得硬件、軟件、算法工程師均可參與FPGA的開發(fā)之中。

從去年推出ACAP（自適應(yīng)計算加速平臺）到收購深厚學(xué)術(shù)背景加持的深鑒科技，再到近一兩個月前逐漸正式完全開放下載的Vitis和Vitis AI，Xilinx的路線一直很明確——便是“剛?cè)岵?jì)”，軟件硬件兩手都要強。

如今，Vitis與Vitis AI統(tǒng)一軟件平臺已完全正式開放下載，且開源免費。12月3日，在2019賽靈思開發(fā)者大會（2019XDF）亞洲站上，Xilinx針對這款A(yù)I和機器學(xué)習(xí)的統(tǒng)一軟件平臺進(jìn)行了重點介紹。

21ic中國電子網(wǎng)記者受邀參加此次活動的媒體訪談。現(xiàn)場賽靈思軟件與 AI 產(chǎn)品市場營銷副總裁Ramine Roane（羅明）為記者解答了關(guān)于Vitis這個平臺及AI相關(guān)問題。

Vitis AI是兼顧自適應(yīng)和可編程的異構(gòu)平臺

目前來說，擺在行業(yè)面前的趨勢便是異構(gòu)計算、從云到邊緣、AI激增三個趨勢，在此同時便帶來了自適應(yīng)加速引擎的編程與集成、需要可重定目標(biāo)的能力、整體應(yīng)用的加速與集成的挑戰(zhàn)，面對這種挑戰(zhàn)行業(yè)需要一款能夠解決問題的平臺。

Vitis AI則是解決上述問題的平臺，不僅開源，且提供豐富的官方優(yōu)化過的IP、工具、庫、模型和示例設(shè)計。據(jù)Ramine Roane介紹，非常有意思的是，Vitis這一名稱詞源來源于法語，意為生命力，這也充分詮釋了Xilinx在生態(tài)系統(tǒng)方面所要創(chuàng)造的生命力。

圖1：Vitis AI重點信息

眾所周知，2000年以前，半導(dǎo)體芯片遵循著摩爾定律，每隔12個月同等價目的芯片上可集成的器件數(shù)目便會增加一倍；而時至2000年，登納德縮放比例定律（Dennard scaling）逐漸進(jìn)入瓶頸，頻率很難再進(jìn)一步改善，此時所有CPU和計算機最多只能到達(dá)2~4Ghz的速度，并且維持了10年之久仍未有提升；為提升應(yīng)用性能，后使用多核CPU，使得問題從硬件轉(zhuǎn)向軟件，但由于阿達(dá)姆爾定律，效能功率沒有辦法進(jìn)一步提升。

所以，異構(gòu)CPU與加速器便應(yīng)運而生，Ramine Roane表示目前為止，本著這個方向整體是沒有問題的，但難點在于這些架構(gòu)都是固定的，這樣便很難追趕AI的創(chuàng)新速度。他對此解釋表示，現(xiàn)如今很多AI模型經(jīng)過三個月就要改變一次，如若工程師想建立一個ASIC或GPU的架構(gòu)需花費至少一年半的設(shè)計時間，這種設(shè)計周期遠(yuǎn)遠(yuǎn)大于AI模型的更替周期。

因此，Xilinx所打造的這款Vitis統(tǒng)一軟件平臺在自適應(yīng)方面，因其可針對不同應(yīng)用進(jìn)行硬件優(yōu)化，所以開發(fā)者無需等待新芯片到來便可建立特定架構(gòu)應(yīng)用。

圖2：行業(yè)趨勢是異構(gòu)計算

值得注意的是，Xilinx所提出的異構(gòu)，與傳統(tǒng)異構(gòu)并不同，是自適應(yīng)的異構(gòu)，主要是軟件感知架構(gòu)，這種架構(gòu)將不再單純用硬件決定應(yīng)用場景。當(dāng)然Xilinx去年10月發(fā)布的ACAP也已提出軟件自適應(yīng)計算加速平臺，該平臺是為配合ACAP而生。

現(xiàn)今基本大多采用可編程或自適應(yīng)來解決，但大多數(shù)情況下，市面的CPU、GPU、ASSP在可編程和自適應(yīng)上市場還難以做到二者同時存在，Vitis正是這樣一款既可做到可編程，又可做到自適應(yīng)的軟件平臺。

圖3：Vitis AI兼顧可編程和自適應(yīng)

現(xiàn)在來說，自適應(yīng)深度加速這方面，據(jù)Ramine Roane介紹，自去年收購深鑒科技，目前實現(xiàn)了三種不同AI算法的優(yōu)化模型，另外深鑒科技還提供了AI優(yōu)化器、AI量化器、AI 編譯器、AI 分析器不同的工具。在架構(gòu)方面，目前Xilinx焦點放在CNN DPU，因為在云和邊緣器件上現(xiàn)在以CNN為主，明年則逐漸轉(zhuǎn)向LSTM DPU和MLP DPU上。

圖4：Xilinx AI加速 AI 實現(xiàn)

在自適應(yīng)加速平臺結(jié)構(gòu)上，包含四部分（如圖5），紅色部分為FPGA結(jié)構(gòu)，可用于定制的邏輯/內(nèi)存；綠色部分為矢量處理器，矢量處理器是適合高度流水線作業(yè)的處理器，在AI加速上更有效，擅長做算數(shù)、矩陣，主要用于AI運算；藍(lán)色部分可嵌入ARM內(nèi)核子系統(tǒng)；黃色部分的片上網(wǎng)絡(luò)，用于將不同架構(gòu)連接起來。

Romine Roane指出，這個加速平臺雖然從表面看起來像FPGA，也是陣列式排布，但內(nèi)部包含DSP處理器，形成DSP和FPGA的混合體，從而實現(xiàn)可配置的數(shù)據(jù)流。

圖5：自適應(yīng)計算加速平臺

Vitis 是免費開源且全員參與的平臺

Ramine Roane為記者介紹表示，開源作為Xilinx轉(zhuǎn)型戰(zhàn)略的一部分，該平臺便是重要成果之一。他表示，作為用戶自2001年便已是開源產(chǎn)品用戶，而2007開始成為貢獻(xiàn)者，現(xiàn)在開源已經(jīng)成為Xilinx的戰(zhàn)略核心。

他強調(diào)，在賽靈思運行時庫（XRT）方面，則也已在Github也擁有了許多經(jīng)過優(yōu)化的AI模型，其中一些是深鑒公司提供的技術(shù)。值得一提的是，Xilinx還推出了Developer.xilinx.com這樣一網(wǎng)站，主要將Vitis專家和相關(guān)的開發(fā)人員建立聯(lián)系，這也是Xilinx轉(zhuǎn)型戰(zhàn)略的一部分。

據(jù)了解，目前該網(wǎng)站已有50多篇來自于不同領(lǐng)域的開發(fā)人員的專家提供的專業(yè)經(jīng)驗。

那么，Vitis與Vitis AI的正式開放意味著什么？對于硬件工程師來說，可繼續(xù)利用此前Xilinx的 Vivado™設(shè)計套件進(jìn)行開發(fā)；軟件工程師則可利用Vitis平臺所提供的C/C++/Python或Xilinx的V++編譯器進(jìn)行開發(fā)；AI與數(shù)據(jù)科學(xué)家則可利用TensorFlow、Caffe、PyTorch及Xilinx優(yōu)化好的開源模型進(jìn)行開發(fā)，另外還可利用FFmpeg進(jìn)行視頻轉(zhuǎn)碼。

圖6：Vitis是支持所有開發(fā)者構(gòu)建和部署各方面的平臺

需要注意的是，Vitis這款平臺還擁有豐富的開發(fā)工具套件，因此不僅全員可以參與進(jìn)來，在開發(fā)方面，無論擁有任何需求，也可一站式完成。

圖7：豐富的開發(fā)工具套件

使用Vitis AI能創(chuàng)造什么

Vitis AI，顧名思義，必然可在數(shù)據(jù)量大、算法復(fù)雜的場景發(fā)揮重要作用。Ramine Roane為記者介紹了幾個例子：

1、醫(yī)療診斷：illumina是一家生命科學(xué)公司，利用Xilinx的FPGA加速了醫(yī)療診斷。具體來說，重癥新生兒過去在基因組分析上需要用1天，而現(xiàn)在20分鐘就可以進(jìn)行診斷的判定，這也與Vitis的意思“生命力”不謀而合。

2、汽車行業(yè)：DAIMLER汽車公司利用Xilinx的技術(shù)加速實現(xiàn)了AI的決策，具體通過FPGA的I/O獲取攝像頭、激光雷達(dá)、傳感器等信息，另外還可以使用自適應(yīng)器件，最終實現(xiàn)了快速和低延時的決策，增強了安全性。

而據(jù)賽靈思總裁兼首席執(zhí)行官 Victor Peng表示，小馬智行在車輛識別時，遇到GPU延時的問題，通過Vitis AI解決了相關(guān)問題。

另外一個成功案例便是日立公司，它是汽車行業(yè)的一級供應(yīng)商，該公司使用VITIS AI構(gòu)造了汽車前端的攝像頭來進(jìn)行車輛識別。

3、數(shù)據(jù)分析：CERN是位于瑞士的一家歐洲核子研究院，通過粒子碰撞機和質(zhì)子碰撞碎片的分析，發(fā)現(xiàn)希格斯的玻色子，通過Xilinx的技術(shù)加速對碎片進(jìn)行快速分析得出結(jié)論，值得一提的是此發(fā)現(xiàn)還奪得諾貝爾獎。

4、5G：三星在本國進(jìn)行的5G部署，是使用Versal進(jìn)行下一代的5G部署，同時也應(yīng)用了Vitis AI。

圖8：賽靈思軟件與 AI 產(chǎn)品市場營銷副總裁Ramine Roane（羅明）正在為記者講解

總結(jié)

Xilinx從硬件逐漸變“軟”，其實并不是一蹴而就的。就這個問題，Ramine Roane強調(diào)，在此方面，Xilinx籌備了5~6年時間，據(jù)了解Vitis 統(tǒng)一軟件平臺由 1000 位軟件工程師歷經(jīng)五年精心研發(fā)。

目前專門學(xué)習(xí)硬件開發(fā)的人員越來越少，通常是軟硬結(jié)合，并且全球硬件開發(fā)者可能只有10萬~20萬的規(guī)模，而軟件開發(fā)人員則是數(shù)以百萬計的，因此這樣的工具可以讓全員參與進(jìn)設(shè)計之中。

在AI激增的現(xiàn)如今社會下，也許“剛?cè)岵?jì)”才是出路，一方面，要既可編程還要自適應(yīng)，另一方面，能夠調(diào)動軟件、硬件兩方面工程師全面進(jìn)入開發(fā)。

Vitis AI不僅將AI和傳統(tǒng)軟件開發(fā)統(tǒng)一起來了，還將云和邊緣、異構(gòu)計算等全部統(tǒng)一在一起。當(dāng)然，最值得關(guān)注的仍然還是開源免費，這無疑對于開發(fā)者來說是一個“福音”。