英特爾力推計算機視覺開發(fā)工具 加速AI在終端裝置的應用

AI人工智能是現(xiàn)下最熱門的產(chǎn)業(yè)議題。然而，當人們專注于討論深度學習算法、云端資料中心等技術之際，終端裝置的實際AI應用卻仍付之闕如，業(yè)者對于著手導入AI應用也顯得裹足不前。為了加速AI在終端裝置的普及運用，英特爾日前推出了兩款計算機視覺軟件開發(fā)工具(SDK)，能夠把視覺辨識深度學習應用快速地帶到電池供電裝置以及現(xiàn)有廣大的x86架構PC/IPC產(chǎn)品上，將能帶動多樣化的創(chuàng)新應用，并使更多業(yè)者獲益于這波的AI革命。

英特爾業(yè)務營銷事業(yè)群企業(yè)解決方案協(xié)理鄭智成表示，AI技術其實已有近60年的發(fā)展歷程，這波熱潮的興起，主要歸因于深度學習算法的突破，以及大數(shù)據(jù)與運算能力的提升，讓資料的處理成本大幅降低。此外，Caffe、TensorFlow、CNTK、MXNet等Framework的就緒與開放，亦是重要關鍵，讓更多人都能使用這項技術。

「但是，綜觀目前的產(chǎn)業(yè)現(xiàn)況，討論Caffe、TensorFlow的人很多，但實際應用卻才正在起步的階段，這是因為缺乏相關工具，能把在這些Framework上訓練好的模型實際付諸應用。」他強調。

因此，除了多款芯片之外，英特爾亦開發(fā)多款程序庫與平臺，讓這些Framework能夠取得更好的效能。其中，英特爾提供兩個重要的SDK，一個是計算機視覺CV SDK(Intel Computer Vision SDK)，另一個是Intel Movidius MDK，作為英特爾硬件芯片與深度學習實際應用的介接，支持各種Framework訓練好的模型，因此能把推論功能快速帶到閘道器或終端裝置上。

Movidius處理器功率最低僅1瓦，可應用在電池供電的裝置。例如大疆無人機DJI-Spark就是采用英特爾的Movidius Myriad 2視覺處理器以及在業(yè)界知名的框架上訓練好的模型，能實現(xiàn)障礙物閃避、人臉與手勢辨識功能。此外，新款Google Clips迷你AI相機，也是內含Intel Movidius Myriad 2視覺處理器，可直接于相機終端進行實時AI與機器學習運算，提高圖象辨識與處理效能，在離線情況下也能隨時捕捉生活中的精彩瞬間并編輯影像。

針對需持續(xù)供電的裝置，則可利用CV SDK，把訓練好的模型實際付諸應用。例如，英特爾與亞馬遜合作的DeepLens為首款可編程的深度學習無線攝影機，內含Intel Atom X5處理器、Intel深度學習軟件工具，及Intel深度神經(jīng)網(wǎng)絡Compute Library，能在攝影機終端上實時運行計算機視覺模型，支持云端環(huán)境中的AI模型訓練與導入，可降低成本與實時回應，幫助開發(fā)者設計出更多AI與機器學習的創(chuàng)新應用。

鄭智成表示，CV SDK的重要意義在于，它可支持Skylake架構以后的多款處理器，包括PenTIum以及FPGA加速器。也就是說，現(xiàn)有廣大的個人計算機、工業(yè)計算機、攝影機等各種產(chǎn)品，無須再采用特別的深度學習芯片，便能把云端訓練好的模型轉換為實際運用，讓AI視覺辨識應用能夠真正落實在各種裝置上，而不再是遙遠的空談。

在今年獲得Google、亞馬遜等指標性大廠的采用后，英特爾對于推動AI邊緣運算市場更是顯得信心十足。此外，在語音辨識方面，英特爾也已開發(fā)了GNA芯片(Gaussian mixture model and neural network accelerator)與SDK，同樣能以低功耗特性，將現(xiàn)今最熱門的智能語音功能帶到非常低功耗的裝置，目前正尋求主要客戶的采用。

鄭智成表示，把AI推論功能帶到終端裝置勢必會帶動風潮，成為新一波AI運用的重點。這將推動AI在各行各業(yè)的普及使用，特別是對臺灣業(yè)者來說，隨著各種Framework的開放，業(yè)界已無需再投入巨額的成本與時間，從零開始來開發(fā)自己的算法以及建置復雜的硬件架構來訓練神經(jīng)網(wǎng)絡。臺灣業(yè)者更應加緊腳步，考慮如何利用這些現(xiàn)有資源與工具，加速導入實際的AI應用。

以工業(yè)計算機為例，結合視覺辨識功能就可支持自動光學檢測(AOI)作業(yè)，而無須再購買專用設備來提升其制造質量。所以，即使是中小型業(yè)者也能以PC等級工業(yè)用計算機的價格負擔得起AI應用，并能因此真正獲益。這才是臺灣業(yè)者應專注的策略，強化透過AI的實際應用來提升產(chǎn)業(yè)競爭力。

近來積極耕耘AI市場的英特爾，已建構了從云端到閘道器、終端裝置的完整AI運算平臺。鄭智成指出，這波的AI復興，主要是利用神經(jīng)網(wǎng)絡算法，在訓練與推論方面實現(xiàn)了重大的突破。但是，在深度學習的訓練方面，神經(jīng)網(wǎng)絡與傳統(tǒng)IT資料的規(guī)則式概念截然不同，一旦需要加入新的辨識對象或情境，需要再花長時間重新進行訓練，才能加入新的辨識能力。

因此，他相信，未來云端技術還會有很多演進，來縮短訓練時間，讓AI應用更有效率。而對英特爾的布局來說，在云端資料中心，仍將強化Xeon的布署，并運用Nervana平臺作為訓練加速器之用；至于FPGA，則能廣泛運用在云端作為推論加速之用；而在終端裝置，則將透過SDK支持更廣泛的Framework以及topology，來開拓新的應用。

鄭智成總結道，AI深度學習神經(jīng)網(wǎng)絡技術其實涵蓋了很大的范圍，除了算法的開發(fā)，包括資料的收集與標注、分析與前處理等都還是需要CPU來處理。英特爾身為領先的芯片業(yè)者，致力在其中找到各種機會，并強化與學術界的研發(fā)合作，從各個層面來推動AI應用的創(chuàng)新與落實。