國內科技巨頭阿里巴巴也宣布其正在自主研發(fā)AI芯片——Ali-NPU,此前美國科技巨頭谷歌、蘋果、微軟、Facebook也紛紛開始自主研發(fā)AI芯片,其中谷歌的TPU已經升級到了第二代,這是否意味著AI芯片戰(zhàn)即將開打?科技巨頭造芯背后的目的有何不同?
科技巨頭紛紛造“芯”
深度學習運算要求高 谷歌TPU已升級到第二代
從發(fā)布的產品來看,谷歌的AI芯片在各大科技巨頭中稍微領先。據(jù)雷鋒網了解,2011年谷歌開始認真考慮使用深度學習網絡,這些網絡的運算要求是其計算資源變得緊張。更具體來說,谷歌計算發(fā)現(xiàn),如果每位用戶每天使用3分鐘谷歌提供的基于深度學習語音識別模型的語音搜索服務,就必須把現(xiàn)有的數(shù)據(jù)中心擴大兩倍。谷歌需要更強大、更高效的處理芯片,但已有的CPU和GPU都不能滿足需求,因此谷歌決定自己研發(fā)更高效的芯片。
2016年5月的谷歌I/O大會,谷歌首次公布了自主設計的TPU,并稱其在谷歌數(shù)據(jù)中心已使用了一年。發(fā)布一年之后,關于谷歌的機器學習定制芯片的神秘面紗才最終揭開,谷歌資深硬件工程師Norman Jouppi刊文指出,谷歌TPU處理速度要比GPU和CPU快15-30倍(和TPU對比的是英特爾Haswell CPU以及Nvidia Tesla K80 GPU),能效上,TPU更是提升了30到80倍。
2017年谷歌I/O大會上,谷歌就宣布正式推出第二代TPU處理器,第二代TPU處理器加深了人工智能在學習和推理的能力,據(jù)谷歌的內部測試,第二代TPU芯片針對機器學習的訓練速度比目前市場上的 GPU節(jié)省一半時間。
2018年,谷歌傳奇芯片工程師Jeff Dean連發(fā)了十條twitter宣布谷歌TPU首次對外全面開放,第三方廠商和開發(fā)者可以每小時花費6.5美元來使用它,但需要先行填表申請。
外界認為這意味著AI芯片和公有云市場將迎來新的變革。
滿足iPhone應用需求 A11Bionic加入NPU
作為當今的手機巨頭,蘋果的首款人工智能芯片是A11 Bionic。在蘋果2017年秋季新品發(fā)布會上,A11 Bionic隨iPhoneX一起亮相。A11除了在CPU、GPU、ISP方面的提升,還首次搭載了專用于機器學習的硬件 “神經網絡引擎(neural engine)”,該神經網絡引擎采用雙核設計,每秒運算次數(shù)最高可達6000億次,相當于0.6TFlops,以幫助加速人工智能任務,即專門針對Face ID,Animoji和AR等應用程序的ASIC。
有了神經網絡引擎,蘋果高級副總裁Phil Schiller曾表示:基于ASIC的深度學習實現(xiàn)了高準確率之外,還能比基于通用芯片的方案減少功耗。不過蘋果并未披露對這款神經網絡引擎的功耗、實測性能,不過據(jù)GeekBench 跑分庫的數(shù)據(jù),其單核和多核跑分均超過驍龍835。
發(fā)布會后蘋果IC設計團隊總監(jiān)、硬件科技資深副總裁Johny Srouji表示,蘋果著手架構芯片一般從3年前就開始,這意味著A11 Bionic大概在2014年間就進行開發(fā)工作了。
微軟為下一代HoloLens研發(fā)AI芯片
2017年7月,微軟在夏威夷舉辦的 CVPR 大會上公布他們正在為HoloLens開發(fā)新的AI芯片。2017年10月,微軟設備部門全球副總裁Panos Panay接受CNBC采訪時也確認了微軟正在為下一代HoloLens MR頭戴設備研發(fā)AI芯片,并表示微軟不僅擁有一支專注的IC設計團隊,而且還與芯片制造商和其他合作伙伴共同開。
據(jù)悉,HoloLens是目前全球第一臺能識別環(huán)境,在空間中顯示3D圖像的MR設備,支持簡單的3D手勢交互,但HoloLens還缺乏對環(huán)境的深度理解,AI芯片的加入將提升這一能力, 為其提供額外的語音和圖像識別等復雜處理功能力,支持更多手勢交互無法實現(xiàn)的任務。
不過,微軟的AI芯片也將用在其他設備上,還會授權其他第三方廠商。
亞馬遜為Echo定制AI芯片
2018年2月,透露消息一向比較靠譜的外媒 The Information 發(fā)布文章,該文章援引知情人士的消息稱亞馬遜已經在為旗下的 Echo 音箱以及其他搭載亞馬遜旗下的虛擬助手 Alexa 的硬件產品開發(fā)專用的 AI 芯片。
The Information 還表示亞馬遜的 AI 芯片開發(fā)過程起自于兩年前,主要的手段就是招聘和收購,據(jù)稱已經擁有近450名芯片專業(yè)員工。2015 年亞馬遜以 3.5 億美元的價格,收購了一家名為 Annapurna Labs 的以色列公司,該公司其實就是一家不為人知的芯片公司。當然亞馬遜對于這起收購諱莫如深,然而在 2016 年 Annapurna Labs 表示它正在開發(fā)一系列名為 Alpine 的芯片,面向存儲器、WIFI 路由器、智能家居、流媒體等設備類型。根據(jù)那位知情人士的說法,目前正在為亞馬遜開發(fā)AI 芯片的就是 Annapurna Labs,不過亞馬遜方面拒絕評論。
亞馬遜研發(fā)AI芯片的目的也很明確,Echo 音箱的智能語音助理需要靠云端完成,AI芯片可以實現(xiàn)部分數(shù)據(jù)的本地處理,能夠一定程度降低設備對云端指令的依賴,從而大幅度加快設備的響應速度。亞馬遜希望在智能家居硬件市場和面向消費者的人工智能產品領域保持競爭力。
Facebook 正組建AI芯片團隊
2018年4月,從Facebook在其網站發(fā)布的招聘信息看,F(xiàn)acebook正在組建一個新的團隊設計自主芯片。從Facebook網站可以看到,其公司總部加利福尼亞州門洛帕克正在招聘ASIC & FPGA設計工程師,招聘的崗位屬于基礎建設(infrastructure)范疇,應聘者需要具有架構和設計半定制和全定制ASIC的專業(yè)知識,與軟件和系統(tǒng)工程師合作,了解當前硬件的局限性,并利用專業(yè)知識打造針對AI/ML,壓縮,視頻解碼等多種應用的的定制解決方案。除了設計工程師,F(xiàn)acebook也在招聘負責管理ASIC的開發(fā)的經理。
不過Facbook拒絕發(fā)表評論,目前也尚不清楚Facebook會將芯片用于哪些應用,但從招聘可以看出其自主開發(fā)芯片的計劃還處于早期階段。
外媒認為Facbook自主研發(fā)AI芯片的主要目的可能是想降低對NVIDIA、高通、英特爾等芯片廠商的依賴,當然也可能為Facebook的Oculus虛擬現(xiàn)實頭戴設備而研發(fā)。
阿里自研Ali-NPU提升云計算運算效率
除了美國的科技巨頭,上周阿里巴巴也宣布達摩院正在研發(fā)一款名為Ali-NPU的神經網絡芯片,按照設計,Ali-NPU性能將是現(xiàn)在市面上主流CPU、GPU架構AI芯片的10倍,制造成本和功耗僅為一半,性價比超40倍。
據(jù)悉,Ali-NPU為解決圖像、視頻識別、云計算等商業(yè)場景的AI推理運算問題,提升運算效率、降低成本。未來,Ali-NPU的能力也可以通過阿里云進行計算能力的輸出賦能各行各業(yè)。
阿里巴巴基礎設施事業(yè)群首席架構師高山淵表示,阿里巴巴2017年成立了達摩院,并宣布投入1000億到技術研發(fā)。實質上遠在達摩院成立之前阿里就已經開始在AI芯片領域進行投入,目前這個研發(fā)已經進入到一個比較深水區(qū)的階段
另據(jù)了解,阿里研究院還在全球設辦事處,包括位于微軟總部附近的華盛頓州貝爾維尤。2017年,阿里巴巴硅谷辦公室聘請了高通前員工Han Liang為“人工智能芯片架構師”。同時,阿里還在為該辦公室招聘更多人才。
你我都有芯片,AI芯片戰(zhàn)來了嗎?
不難發(fā)現(xiàn),谷歌的TPU已經對外開放,微軟表示其AI芯片也會授權第三方使用,阿里也希望其Ali-NPU能夠賦能各行各業(yè),雖然亞馬遜和Facebook的情況暫不明了,但除了蘋果應該都有希望開放自家的AI芯片。
至于自研AI芯片的目的,一方面在芯片發(fā)展速度變慢的背景下,通過CPU、GPU已經不能滿足科技巨頭的需求,為了擺脫對芯片巨頭的依賴,紛紛開始自研芯片。其次,針對不同的AI應用,定制芯片的性能明顯高于通用芯片,因此自主研發(fā)FPGA或ASIC成為了好選擇。
不過,除了紛紛開始自研AI芯片的科技巨頭,英特爾、高通、英偉達、AMD、賽靈思等在各自領域中有絕對優(yōu)勢的傳統(tǒng)芯片巨頭也都有自家的AI芯片,其中英偉達的GPU被廣泛應用于包括谷歌和Facbook在內多家公司的數(shù)據(jù)中心。
那么,科技巨頭的紛紛入局是否意味著AI芯片戰(zhàn)即將開打?未來還會有哪些巨頭加入爭奪戰(zhàn)?巨頭都有芯片的情況下,誰受到的影響最大?