擁抱開(kāi)源的Xilinx描繪了AI之下的剛?cè)岵?jì)： Vitis AI平臺(tái)正式開(kāi)放下載

眾所周知，Xilinx（賽靈思）是FPGA的發(fā)明者，而自此之后，Xilinx一直屬于一個(gè)著重于硬件的企業(yè)。此前，21ic中國(guó)電子網(wǎng)曾報(bào)道過(guò)Xilinx解鎖全員創(chuàng)新的平臺(tái)Vitis™及Vitis™ AI統(tǒng)一軟件平臺(tái)，該平臺(tái)可突破軟硬件壁壘，使得硬件、軟件、算法工程師均可參與FPGA的開(kāi)發(fā)之中。

從去年推出ACAP（自適應(yīng)計(jì)算加速平臺(tái)）到收購(gòu)深厚學(xué)術(shù)背景加持的深鑒科技，再到近一兩個(gè)月前逐漸正式完全開(kāi)放下載的Vitis和Vitis AI，Xilinx的路線一直很明確——便是“剛?cè)岵?jì)”，軟件硬件兩手都要強(qiáng)。

如今，Vitis與Vitis AI統(tǒng)一軟件平臺(tái)已完全正式開(kāi)放下載，且開(kāi)源免費(fèi)。12月3日，在2019賽靈思開(kāi)發(fā)者大會(huì)（2019XDF）亞洲站上，Xilinx針對(duì)這款A(yù)I和機(jī)器學(xué)習(xí)的統(tǒng)一軟件平臺(tái)進(jìn)行了重點(diǎn)介紹。

21ic中國(guó)電子網(wǎng)記者受邀參加此次活動(dòng)的媒體訪談?，F(xiàn)場(chǎng)賽靈思軟件與 AI 產(chǎn)品市場(chǎng)營(yíng)銷(xiāo)副總裁Ramine Roane（羅明）為記者解答了關(guān)于Vitis這個(gè)平臺(tái)及AI相關(guān)問(wèn)題。

Vitis AI是兼顧自適應(yīng)和可編程的異構(gòu)平臺(tái)

目前來(lái)說(shuō)，擺在行業(yè)面前的趨勢(shì)便是異構(gòu)計(jì)算、從云到邊緣、AI激增三個(gè)趨勢(shì)，在此同時(shí)便帶來(lái)了自適應(yīng)加速引擎的編程與集成、需要可重定目標(biāo)的能力、整體應(yīng)用的加速與集成的挑戰(zhàn)，面對(duì)這種挑戰(zhàn)行業(yè)需要一款能夠解決問(wèn)題的平臺(tái)。

Vitis AI則是解決上述問(wèn)題的平臺(tái)，不僅開(kāi)源，且提供豐富的官方優(yōu)化過(guò)的IP、工具、庫(kù)、模型和示例設(shè)計(jì)。據(jù)Ramine Roane介紹，非常有意思的是，Vitis這一名稱(chēng)詞源來(lái)源于法語(yǔ)，意為生命力，這也充分詮釋了Xilinx在生態(tài)系統(tǒng)方面所要?jiǎng)?chuàng)造的生命力。

圖1：Vitis AI重點(diǎn)信息

眾所周知，2000年以前，半導(dǎo)體芯片遵循著摩爾定律，每隔12個(gè)月同等價(jià)目的芯片上可集成的器件數(shù)目便會(huì)增加一倍；而時(shí)至2000年，登納德縮放比例定律（Dennard scaling）逐漸進(jìn)入瓶頸，頻率很難再進(jìn)一步改善，此時(shí)所有CPU和計(jì)算機(jī)最多只能到達(dá)2~4Ghz的速度，并且維持了10年之久仍未有提升；為提升應(yīng)用性能，后使用多核CPU，使得問(wèn)題從硬件轉(zhuǎn)向軟件，但由于阿達(dá)姆爾定律，效能功率沒(méi)有辦法進(jìn)一步提升。

所以，異構(gòu)CPU與加速器便應(yīng)運(yùn)而生，Ramine Roane表示目前為止，本著這個(gè)方向整體是沒(méi)有問(wèn)題的，但難點(diǎn)在于這些架構(gòu)都是固定的，這樣便很難追趕AI的創(chuàng)新速度。他對(duì)此解釋表示，現(xiàn)如今很多AI模型經(jīng)過(guò)三個(gè)月就要改變一次，如若工程師想建立一個(gè)ASIC或GPU的架構(gòu)需花費(fèi)至少一年半的設(shè)計(jì)時(shí)間，這種設(shè)計(jì)周期遠(yuǎn)遠(yuǎn)大于AI模型的更替周期。

因此，Xilinx所打造的這款Vitis統(tǒng)一軟件平臺(tái)在自適應(yīng)方面，因其可針對(duì)不同應(yīng)用進(jìn)行硬件優(yōu)化，所以開(kāi)發(fā)者無(wú)需等待新芯片到來(lái)便可建立特定架構(gòu)應(yīng)用。

圖2：行業(yè)趨勢(shì)是異構(gòu)計(jì)算

值得注意的是，Xilinx所提出的異構(gòu)，與傳統(tǒng)異構(gòu)并不同，是自適應(yīng)的異構(gòu)，主要是軟件感知架構(gòu)，這種架構(gòu)將不再單純用硬件決定應(yīng)用場(chǎng)景。當(dāng)然Xilinx去年10月發(fā)布的ACAP也已提出軟件自適應(yīng)計(jì)算加速平臺(tái)，該平臺(tái)是為配合ACAP而生。

現(xiàn)今基本大多采用可編程或自適應(yīng)來(lái)解決，但大多數(shù)情況下，市面的CPU、GPU、ASSP在可編程和自適應(yīng)上市場(chǎng)還難以做到二者同時(shí)存在，Vitis正是這樣一款既可做到可編程，又可做到自適應(yīng)的軟件平臺(tái)。

圖3：Vitis AI兼顧可編程和自適應(yīng)

現(xiàn)在來(lái)說(shuō)，自適應(yīng)深度加速這方面，據(jù)Ramine Roane介紹，自去年收購(gòu)深鑒科技，目前實(shí)現(xiàn)了三種不同AI算法的優(yōu)化模型，另外深鑒科技還提供了AI優(yōu)化器、AI量化器、AI 編譯器、AI 分析器不同的工具。在架構(gòu)方面，目前Xilinx焦點(diǎn)放在CNN DPU，因?yàn)樵谠坪瓦吘壠骷犀F(xiàn)在以CNN為主，明年則逐漸轉(zhuǎn)向LSTM DPU和MLP DPU上。

圖4：Xilinx AI加速 AI 實(shí)現(xiàn)

在自適應(yīng)加速平臺(tái)結(jié)構(gòu)上，包含四部分（如圖5），紅色部分為FPGA結(jié)構(gòu)，可用于定制的邏輯/內(nèi)存；綠色部分為矢量處理器，矢量處理器是適合高度流水線作業(yè)的處理器，在AI加速上更有效，擅長(zhǎng)做算數(shù)、矩陣，主要用于AI運(yùn)算；藍(lán)色部分可嵌入ARM內(nèi)核子系統(tǒng)；黃色部分的片上網(wǎng)絡(luò)，用于將不同架構(gòu)連接起來(lái)。

Romine Roane指出，這個(gè)加速平臺(tái)雖然從表面看起來(lái)像FPGA，也是陣列式排布，但內(nèi)部包含DSP處理器，形成DSP和FPGA的混合體，從而實(shí)現(xiàn)可配置的數(shù)據(jù)流。

圖5：自適應(yīng)計(jì)算加速平臺(tái)

Vitis 是免費(fèi)開(kāi)源且全員參與的平臺(tái)

Ramine Roane為記者介紹表示，開(kāi)源作為Xilinx轉(zhuǎn)型戰(zhàn)略的一部分，該平臺(tái)便是重要成果之一。他表示，作為用戶(hù)自2001年便已是開(kāi)源產(chǎn)品用戶(hù)，而2007開(kāi)始成為貢獻(xiàn)者，現(xiàn)在開(kāi)源已經(jīng)成為Xilinx的戰(zhàn)略核心。

他強(qiáng)調(diào)，在賽靈思運(yùn)行時(shí)庫(kù)（XRT）方面，則也已在Github也擁有了許多經(jīng)過(guò)優(yōu)化的AI模型，其中一些是深鑒公司提供的技術(shù)。值得一提的是，Xilinx還推出了Developer.xilinx.com這樣一網(wǎng)站，主要將Vitis專(zhuān)家和相關(guān)的開(kāi)發(fā)人員建立聯(lián)系，這也是Xilinx轉(zhuǎn)型戰(zhàn)略的一部分。

據(jù)了解，目前該網(wǎng)站已有50多篇來(lái)自于不同領(lǐng)域的開(kāi)發(fā)人員的專(zhuān)家提供的專(zhuān)業(yè)經(jīng)驗(yàn)。

那么，Vitis與Vitis AI的正式開(kāi)放意味著什么？對(duì)于硬件工程師來(lái)說(shuō)，可繼續(xù)利用此前Xilinx的 Vivado™設(shè)計(jì)套件進(jìn)行開(kāi)發(fā)；軟件工程師則可利用Vitis平臺(tái)所提供的C/C++/Python或Xilinx的V++編譯器進(jìn)行開(kāi)發(fā)；AI與數(shù)據(jù)科學(xué)家則可利用TensorFlow、Caffe、PyTorch及Xilinx優(yōu)化好的開(kāi)源模型進(jìn)行開(kāi)發(fā)，另外還可利用FFmpeg進(jìn)行視頻轉(zhuǎn)碼。

圖6：Vitis是支持所有開(kāi)發(fā)者構(gòu)建和部署各方面的平臺(tái)

需要注意的是，Vitis這款平臺(tái)還擁有豐富的開(kāi)發(fā)工具套件，因此不僅全員可以參與進(jìn)來(lái)，在開(kāi)發(fā)方面，無(wú)論擁有任何需求，也可一站式完成。

圖7：豐富的開(kāi)發(fā)工具套件

使用Vitis AI能創(chuàng)造什么

Vitis AI，顧名思義，必然可在數(shù)據(jù)量大、算法復(fù)雜的場(chǎng)景發(fā)揮重要作用。Ramine Roane為記者介紹了幾個(gè)例子：

1、醫(yī)療診斷：illumina是一家生命科學(xué)公司，利用Xilinx的FPGA加速了醫(yī)療診斷。具體來(lái)說(shuō)，重癥新生兒過(guò)去在基因組分析上需要用1天，而現(xiàn)在20分鐘就可以進(jìn)行診斷的判定，這也與Vitis的意思“生命力”不謀而合。

2、汽車(chē)行業(yè)：DAIMLER汽車(chē)公司利用Xilinx的技術(shù)加速實(shí)現(xiàn)了AI的決策，具體通過(guò)FPGA的I/O獲取攝像頭、激光雷達(dá)、傳感器等信息，另外還可以使用自適應(yīng)器件，最終實(shí)現(xiàn)了快速和低延時(shí)的決策，增強(qiáng)了安全性。

而據(jù)賽靈思總裁兼首席執(zhí)行官 Victor Peng表示，小馬智行在車(chē)輛識(shí)別時(shí)，遇到GPU延時(shí)的問(wèn)題，通過(guò)Vitis AI解決了相關(guān)問(wèn)題。

另外一個(gè)成功案例便是日立公司，它是汽車(chē)行業(yè)的一級(jí)供應(yīng)商，該公司使用VITIS AI構(gòu)造了汽車(chē)前端的攝像頭來(lái)進(jìn)行車(chē)輛識(shí)別。

3、數(shù)據(jù)分析：CERN是位于瑞士的一家歐洲核子研究院，通過(guò)粒子碰撞機(jī)和質(zhì)子碰撞碎片的分析，發(fā)現(xiàn)希格斯的玻色子，通過(guò)Xilinx的技術(shù)加速對(duì)碎片進(jìn)行快速分析得出結(jié)論，值得一提的是此發(fā)現(xiàn)還奪得諾貝爾獎(jiǎng)。

4、5G：三星在本國(guó)進(jìn)行的5G部署，是使用Versal進(jìn)行下一代的5G部署，同時(shí)也應(yīng)用了Vitis AI。

圖8：賽靈思軟件與 AI 產(chǎn)品市場(chǎng)營(yíng)銷(xiāo)副總裁Ramine Roane（羅明）正在為記者講解

總結(jié)

Xilinx從硬件逐漸變“軟”，其實(shí)并不是一蹴而就的。就這個(gè)問(wèn)題，Ramine Roane強(qiáng)調(diào)，在此方面，Xilinx籌備了5~6年時(shí)間，據(jù)了解Vitis 統(tǒng)一軟件平臺(tái)由 1000 位軟件工程師歷經(jīng)五年精心研發(fā)。

目前專(zhuān)門(mén)學(xué)習(xí)硬件開(kāi)發(fā)的人員越來(lái)越少，通常是軟硬結(jié)合，并且全球硬件開(kāi)發(fā)者可能只有10萬(wàn)~20萬(wàn)的規(guī)模，而軟件開(kāi)發(fā)人員則是數(shù)以百萬(wàn)計(jì)的，因此這樣的工具可以讓全員參與進(jìn)設(shè)計(jì)之中。

在AI激增的現(xiàn)如今社會(huì)下，也許“剛?cè)岵?jì)”才是出路，一方面，要既可編程還要自適應(yīng)，另一方面，能夠調(diào)動(dòng)軟件、硬件兩方面工程師全面進(jìn)入開(kāi)發(fā)。

Vitis AI不僅將AI和傳統(tǒng)軟件開(kāi)發(fā)統(tǒng)一起來(lái)了，還將云和邊緣、異構(gòu)計(jì)算等全部統(tǒng)一在一起。當(dāng)然，最值得關(guān)注的仍然還是開(kāi)源免費(fèi)，這無(wú)疑對(duì)于開(kāi)發(fā)者來(lái)說(shuō)是一個(gè)“福音”。