英特爾：以靈活萬變制勝人工智能時(shí)代

在AI軟件工具當(dāng)中大量利用到AVX-512指令集，今天在CPU平臺(tái)上，英特爾的至強(qiáng)是唯一能夠支持AVX-512指令集的方案。專家表示，得益于這樣的指令集支持，無論是對(duì)標(biāo)AMD EPYC的產(chǎn)品，還是英偉達(dá)的GPU解決方案，至強(qiáng)處理器在多種人工智能的負(fù)載上都能夠有優(yōu)秀的性能表現(xiàn)。

伴隨數(shù)字化進(jìn)程的發(fā)展，人工智能正在加速企業(yè)的業(yè)務(wù)增長(zhǎng)、加強(qiáng)競(jìng)爭(zhēng)優(yōu)勢(shì)。斯坦福大學(xué)的人工智能研究所根據(jù)2021年AI指數(shù)報(bào)告所做研究顯示，如今出現(xiàn)了全球化AI就業(yè)市場(chǎng)，企業(yè)對(duì)AI的投資猛增至近680億美元。就業(yè)人員與資金不斷涌入推助發(fā)展，人工智能和數(shù)據(jù)分析有可能成為未來10年起決定作用的工作負(fù)載。企業(yè)的網(wǎng)絡(luò)安全和數(shù)據(jù)保護(hù)也正面臨著前所未有的新挑戰(zhàn)，促進(jìn)了數(shù)據(jù)安全逐步被納入合規(guī)市場(chǎng)，針對(duì)數(shù)據(jù)的安全建設(shè)也在另一更高維度促使企業(yè)方不斷關(guān)注。

以此為前提，科技領(lǐng)域正在探索通過技術(shù)手段讓數(shù)據(jù)“可用不可見”，以及使業(yè)務(wù)端發(fā)揮AI數(shù)據(jù)的價(jià)值。英特爾全新第三代至強(qiáng)可擴(kuò)展處理器采用靈活架構(gòu)，通過英特爾深度學(xué)習(xí)加速技術(shù)集成人工智能加速，并采用英特爾軟件防護(hù)擴(kuò)展（Intel SGX），和密碼操作硬件加速，以領(lǐng)先的安全功能為數(shù)據(jù)和應(yīng)用軟件代碼提供嚴(yán)密的保護(hù)，以滿足AI深入應(yīng)用過程中行業(yè)監(jiān)管的需求。

從隱私計(jì)算說起AI應(yīng)用的高安全需求

在行業(yè)中，2020年被稱作國(guó)內(nèi)隱私計(jì)算元年。2020年前國(guó)內(nèi)只有少數(shù)公司關(guān)注此賽道，而2019年下半年不少大數(shù)據(jù)公司被整頓，讓更多人意識(shí)到發(fā)揮數(shù)據(jù)價(jià)值和保護(hù)隱私數(shù)據(jù)之間的矛盾。隱私是信息安全中的機(jī)密性（confidentiality）在不同場(chǎng)景下的重定義；而研究隱私問題的密碼學(xué)和信息安全技術(shù)，或者稱之為“隱私計(jì)算”技術(shù)。從技術(shù)角度，隱私計(jì)算的范圍包含了聯(lián)邦學(xué)習(xí)、密碼學(xué)和隱私保護(hù)芯片（PPU）等領(lǐng)域。

由于金融領(lǐng)域的數(shù)據(jù)敏感性，聯(lián)邦學(xué)習(xí)技術(shù)受到金融行業(yè)的重視。國(guó)內(nèi)金融行業(yè)在做AI應(yīng)用的時(shí)候，迫切需要通過隱私保護(hù)技術(shù)加密的數(shù)據(jù)交換。搭載英特爾在AI業(yè)界開源的技術(shù)Analytics Zoo，中國(guó)銀聯(lián)實(shí)踐端到端數(shù)據(jù)交互網(wǎng)絡(luò)，并實(shí)施基于英特爾軟件防護(hù)擴(kuò)展（SGX），進(jìn)一步加強(qiáng)保護(hù)聯(lián)邦學(xué)習(xí)的整體方案。2020年，英特爾與平安科技就基于Ice Lake前期樣品進(jìn)行深度合作，實(shí)現(xiàn)了基于英特爾SGX技術(shù)加持的云邊協(xié)同的隱私計(jì)算實(shí)踐方案。此外，在對(duì)醫(yī)療數(shù)據(jù)敏感的歐美，德國(guó)的電子醫(yī)保數(shù)據(jù)正在利用英特爾SGX，完成遠(yuǎn)程數(shù)據(jù)加載。在SGX提供的可信任的執(zhí)行環(huán)境里，對(duì)德國(guó)2600萬醫(yī)保用戶可存儲(chǔ)信息以及進(jìn)行隱私集合求交，以及滿足對(duì)數(shù)據(jù)進(jìn)行聯(lián)合運(yùn)算的需求。英特爾表示，可將聯(lián)邦學(xué)習(xí)看作金融行業(yè)保護(hù)資金實(shí)現(xiàn)的規(guī)章制度，SGX可看作金庫(kù)的庫(kù)房，這兩者可以相互配合、有機(jī)結(jié)合。

圖：Intel SGX助力聯(lián)邦學(xué)習(xí)

在AI應(yīng)用中，英特爾關(guān)注到國(guó)際對(duì)隱私數(shù)據(jù)的保護(hù)趨勢(shì)，發(fā)現(xiàn)其中蘊(yùn)藏著算力提升的需求。英特爾以內(nèi)置AI加速的至強(qiáng)可擴(kuò)展處理器為基礎(chǔ)，提供全面的XPU芯片平臺(tái)，以及全面優(yōu)化的軟件，包括OpenVINO、oneAPI、AnalyticsZoo、Tensor Flow等，通過軟件和硬件的綜合數(shù)據(jù)進(jìn)行保護(hù)，在行業(yè)當(dāng)中提供更高的數(shù)據(jù)保護(hù)等級(jí)。在隱私保護(hù)數(shù)據(jù)模型的計(jì)算過程當(dāng)中，英特爾軟件防護(hù)擴(kuò)展（Intel SGX）在云端幫助客戶進(jìn)行數(shù)據(jù)安全加密。

多層次、多角度支持AI工作負(fù)載

人工智能應(yīng)用持續(xù)爆發(fā)，產(chǎn)業(yè)將進(jìn)一步迎來精耕細(xì)作的增長(zhǎng)期，AI工作負(fù)載需要多層次、多角度的支持。英特爾市場(chǎng)營(yíng)銷副總裁兼中國(guó)區(qū)數(shù)據(jù)中心銷售總經(jīng)理陳葆立表示，和上一代相比，全新第三代英特爾至強(qiáng)可擴(kuò)展處理器在主流數(shù)據(jù)中心工作上平均提升46%。在至強(qiáng)平臺(tái)上，Ice Lake架構(gòu)側(cè)重于優(yōu)化AI和安全的負(fù)載。在數(shù)據(jù)安全方面，密碼加速技術(shù)和硬件密碼加速技術(shù)，英特爾SGX可以幫助客戶更好地保護(hù)數(shù)據(jù)。提供新的至強(qiáng)處理器，以幫助客戶更好進(jìn)行人工智能推理運(yùn)算，是英特爾的優(yōu)勢(shì)和主攻方向。

圖：Intel 第三代志強(qiáng)可擴(kuò)展處理器

在至強(qiáng)平臺(tái)上，AI和安全是Ice Lake架構(gòu)側(cè)重去優(yōu)化的負(fù)載。英特爾技術(shù)專家表示，英特爾通過對(duì)Ice Lake架構(gòu)的改進(jìn)，使性能比前一代Cascade Lake系統(tǒng)有74%的提升。英特爾相較于競(jìng)爭(zhēng)對(duì)手AMD的產(chǎn)品，有高達(dá)25倍的性能領(lǐng)先優(yōu)勢(shì)。在AI軟件工具當(dāng)中大量利用到AVX-512指令集，今天在CPU平臺(tái)上，英特爾的至強(qiáng)是唯一能夠支持AVX-512指令集的方案。專家表示，得益于這樣的指令集支持，無論是對(duì)標(biāo)AMD EPYC的產(chǎn)品，還是英偉達(dá)的GPU解決方案，至強(qiáng)處理器在多種人工智能的負(fù)載上都能夠有優(yōu)秀的性能表現(xiàn)。

圖：新一代計(jì)算架構(gòu)

性能提升兩、三倍，精度損失變化微小。在第三代至強(qiáng)可擴(kuò)展處理器上，英特爾進(jìn)一步支持了int8的低精度的推理技術(shù)。深度學(xué)習(xí)的圖像視頻應(yīng)用通常用到int8的指令集加速，保證模型本身的準(zhǔn)確性，英特爾技術(shù)專家表示，一般浮點(diǎn)數(shù)轉(zhuǎn)為int8類型，存在1%以下的性能損失。在實(shí)際的模型從FP32轉(zhuǎn)到int8過程當(dāng)中，性能損失遠(yuǎn)低于1%，甚至是0.01%，這些精度損失會(huì)隨著模型本身差異而有所變化，但是基本上都在1%以下，這種精度差異對(duì)客戶來講完全可以接受，隨之而來的是兩、三倍的性能提升。

除了處理器算力，還有加速方案助攻。在數(shù)據(jù)中心的AI任務(wù)當(dāng)中，業(yè)務(wù)模型需要有其他類型的計(jì)算方案支持，來滿足更高要求的算力。英特爾提供ASIC的加速方案Habana，在至強(qiáng)處理器算力不能滿足AI任務(wù)需要的場(chǎng)景里，實(shí)現(xiàn)AI加速。

在優(yōu)化過程中，英特爾底層提供OneDNN，在低級(jí)的、更靠近硬件層優(yōu)化的算法工具庫(kù)來支撐上層框架，例如TensorFlow、PyTorch等。另外，英特爾提供FPGA層面的AI支持，滿足有更高能效需要的AI部署場(chǎng)景。

最充分的選擇，最合適的軟件方案

圖：AI應(yīng)用案例

英特爾在提供AI算力過程當(dāng)中，發(fā)現(xiàn)市場(chǎng)需要多重解決方案。在數(shù)據(jù)中心、端側(cè)等不同場(chǎng)合，即便是運(yùn)行同樣的AI的任務(wù)，任務(wù)對(duì)性能、算力、功耗要求都有很大差異。在客戶的AI應(yīng)用中，前端、后端和其他類型的計(jì)算任務(wù)有多處的耦合，例如AI計(jì)算訓(xùn)練、推理，前端的數(shù)據(jù)可能來自于大數(shù)據(jù)平臺(tái)，后端的輸出可能是一個(gè)交互型的應(yīng)用環(huán)境。至強(qiáng)平臺(tái)通用性的優(yōu)勢(shì)是能夠把一系列的運(yùn)算任務(wù)整合起來，支持完整的流程?？v觀AI生態(tài)圈，神經(jīng)網(wǎng)絡(luò)、自然語言處理以及深度學(xué)習(xí)進(jìn)一步發(fā)展，相應(yīng)的模型和框架也越來越多。英特爾發(fā)現(xiàn)客戶需要用不同的工具來滿足不同業(yè)務(wù)應(yīng)用開發(fā)的需求，致力于提供完整生態(tài)鏈的支持模式。英特爾希望能讓更多的AI工作負(fù)載，更多的應(yīng)用能夠運(yùn)行在英特爾平臺(tái)上，支撐業(yè)界在AI上面的發(fā)展。

目前，英特爾人工智能在軟硬件上協(xié)同創(chuàng)新、產(chǎn)業(yè)合作以及生態(tài)構(gòu)建等方面均取得積極進(jìn)展。在整體數(shù)據(jù)中心戰(zhàn)略方面，可以看出英特爾已不再是一個(gè)CPU公司。陳葆立表示，在過去數(shù)年，通過收購(gòu)以及資源投入，英特爾在數(shù)據(jù)中心的產(chǎn)品越來越豐富，從CPU 到GPU、FPGA，從內(nèi)存到SSD，從網(wǎng)卡到交換，到硅光——英特爾在該領(lǐng)域唯一一家能夠從CPU到GPU、從FPGA邁到ASIC的企業(yè)，產(chǎn)品線全面。這也順應(yīng)了客戶對(duì)大型數(shù)據(jù)中心更高算力的需求，從而滿足生產(chǎn)的實(shí)際業(yè)務(wù)需求。