谷歌TPU之后還有高通,人工智能芯片競(jìng)賽已經(jīng)展開(kāi)
作為機(jī)器學(xué)習(xí)的領(lǐng)軍人物,Yann LeCun(楊立昆)曾在 25 年前開(kāi)發(fā)過(guò)一塊名為 ANNA 的人工智能芯片。而現(xiàn)在,構(gòu)建適用于深度學(xué)習(xí)的計(jì)算芯片已成為所有科技巨頭共同的發(fā)展目標(biāo)。
那是 1992 年,LeCun 還供職于貝爾實(shí)驗(yàn)室,這座位于紐約市郊的研發(fā)機(jī)構(gòu)舉世聞名。他和一群研究者們共同設(shè)計(jì)了一種適用于進(jìn)行深度神經(jīng)網(wǎng)絡(luò)計(jì)算的芯片 ANNA,用于高效處理需要分析大量數(shù)據(jù)的復(fù)雜任務(wù),但 ANNA 從未投入市場(chǎng)。隨后的二十多年里,神經(jīng)網(wǎng)絡(luò)隨著計(jì)算機(jī)性能的不斷提升,開(kāi)始在識(shí)別文字、人臉和語(yǔ)音等任務(wù)中達(dá)到甚至超越了人類(lèi)水平。但人工智能還遠(yuǎn)沒(méi)有達(dá)到威脅人類(lèi)智能的水平,那些用于特定任務(wù)的算法,在執(zhí)行其他種類(lèi)任務(wù)的時(shí)候,不會(huì)產(chǎn)生任何有意義的結(jié)果。
盡管如此,今天的神經(jīng)網(wǎng)絡(luò)還是在重塑著所有科技公司的面貌,谷歌、Facebook、微軟都在做著自己的改變。LeCun 現(xiàn)在已經(jīng)成為 Facebook 人工智能實(shí)驗(yàn)室的主任。在那里,神經(jīng)網(wǎng)絡(luò)被用于識(shí)別人臉、標(biāo)注圖片中的事物、翻譯語(yǔ)言甚至更多。在 25 年后,LeCun 認(rèn)為市場(chǎng)現(xiàn)在非常需要像 ANNA 這樣的芯片,很快,它們將大量涌現(xiàn)。
谷歌剛剛有了自己的人工智能芯片 TPU,這種芯片已經(jīng)廣泛用于谷歌的數(shù)據(jù)中心,成為其網(wǎng)絡(luò)帝國(guó)的引擎。每臺(tái)安卓手機(jī)的谷歌語(yǔ)音搜索指令都會(huì)經(jīng)由 TPU 處理。這只是芯片業(yè)巨大變革的開(kāi)始,CNBC 等媒體 4 月 20 日 的報(bào)道指出,谷歌 TPU 的開(kāi)發(fā)者們正在秘密成立的創(chuàng)業(yè)公司 Groq 重新集結(jié),開(kāi)發(fā)類(lèi)似的人工智能芯片;而傳統(tǒng)芯片廠商,如英特爾、IBM 和高通也在做著同樣的努力。
谷歌在本月初推出 TPU 時(shí)稱(chēng):「它是我們的第一塊機(jī)器學(xué)習(xí)芯片。」在谷歌發(fā)表的論文中,TPU 在一些任務(wù)中的處理速度可達(dá)到英偉達(dá) K80 GPU 與英特爾 Haswell CPU 的 15-30 倍。而在功耗測(cè)試中,TPU 的效率也比 CPU 和 GPU 高 30-80 倍(當(dāng)然,作為對(duì)比的芯片并不是最新產(chǎn)品)。
谷歌 TPU 芯片已經(jīng)成為其數(shù)據(jù)中心的重要組成部分
像谷歌、Facebook 和微軟這樣的科技巨頭當(dāng)然可以把自己的神經(jīng)網(wǎng)絡(luò)任務(wù)交給常規(guī)計(jì)算機(jī)芯片來(lái)處理(如 CPU),但 CPU 是設(shè)計(jì)用來(lái)處理所有類(lèi)型任務(wù)的,這種方式顯得效率很低。當(dāng)使用特殊設(shè)計(jì)的芯片進(jìn)行處理時(shí),神經(jīng)網(wǎng)絡(luò)任務(wù)會(huì)運(yùn)行得更快,消耗更少的電力。谷歌宣稱(chēng)隨著 TPU 的應(yīng)用,它為谷歌節(jié)約的成本可以打造另外 15 個(gè)數(shù)據(jù)中心。而隨著谷歌、Facebook 等公司將神經(jīng)網(wǎng)絡(luò)應(yīng)用于手機(jī)和 VR 頭盔,為了減少延遲,在個(gè)人設(shè)備上的小型智能芯片也變得迫在眉睫了?!冈诟痈咝У膶?zhuān)業(yè)芯片方面,市場(chǎng)還有很大一片空白,」LeCun 說(shuō)道。
技術(shù)巨頭
在收購(gòu)了初創(chuàng)公司 Nervana 之后,英特爾正在打造一款機(jī)器學(xué)習(xí)專(zhuān)用芯片。IBM 也是,它正在創(chuàng)建一個(gè)可以映射(mirror)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的硬件架構(gòu)。最近,高通已經(jīng)開(kāi)始制造執(zhí)行神經(jīng)網(wǎng)絡(luò)的專(zhuān)用芯片,這條消息來(lái)自 LeCun,因?yàn)? Facebook 正幫助高通開(kāi)發(fā)機(jī)器學(xué)習(xí)相關(guān)技術(shù)所以他對(duì)高通的計(jì)劃很了解;高通技術(shù)部副主席 Jeff Gehlhaar 證實(shí)了該計(jì)劃,他說(shuō):「在原型機(jī)研發(fā)方面,我們還有很多路要走。」
高通一直在和 Yann LeCun 在 Facebook AI 研究機(jī)構(gòu)的團(tuán)隊(duì)保持合作,共同開(kāi)發(fā)用于實(shí)時(shí)推理的新型芯片。高通最近宣布計(jì)劃花費(fèi) 470 億美元收購(gòu)荷蘭汽車(chē)芯片公司 NXP。在收購(gòu)宣布之前,NXP 就在致力于解決深度學(xué)習(xí)和計(jì)算機(jī)視覺(jué)難題,看來(lái)高通希望借助收購(gòu)加強(qiáng)自動(dòng)駕駛系統(tǒng)的開(kāi)發(fā)。
自動(dòng)駕駛是深度學(xué)習(xí)與人工智能發(fā)揮作用的主要領(lǐng)域之一。除此之前,內(nèi)置芯片有很多其他選擇以與真實(shí)世界交互,比如手機(jī)和虛擬現(xiàn)實(shí)耳機(jī)。當(dāng)前技術(shù)發(fā)展飛快,我們很快就會(huì)看到其他實(shí)際應(yīng)用的出現(xiàn)。
很多公司想把握住這一藍(lán)海機(jī)遇,比如傳統(tǒng)芯片巨頭英特爾和 IBM。Big Blue 努力在其 Minsky 人工智能服務(wù)器中把 RISC 芯片和英偉達(dá) GPU 結(jié)合起來(lái)的同時(shí),其研究團(tuán)隊(duì)也在探索其他芯片架構(gòu)。IBM Almaden 實(shí)驗(yàn)室探討了其類(lèi)腦芯片 TrueNorth 的性能,該芯片具備 100 萬(wàn)個(gè)神經(jīng)元和 2.56 億個(gè)突觸。IBM 稱(chēng)在若干個(gè)視覺(jué)和語(yǔ)音數(shù)據(jù)集中,TrueNorth 給出了接近當(dāng)前最高分類(lèi)精確度的深度網(wǎng)絡(luò)。
IBM 研究院類(lèi)腦計(jì)算首席科學(xué)家 Dharmendra Modha 在其博文中說(shuō)道:「類(lèi)腦計(jì)算的目標(biāo)是在不斷逼近時(shí)間、空間和能量的根本限制的情況下,給出可擴(kuò)展的神經(jīng)網(wǎng)絡(luò)基礎(chǔ)(substrate)?!?/p>
作為芯片領(lǐng)域最大的玩家,英特爾并沒(méi)有止步不前,它也正在根據(jù)下一代人工智能工作需求開(kāi)發(fā)自己的芯片架構(gòu)。去年,英特爾宣布其第一個(gè)人工智能專(zhuān)用硬件 Lake Crest(其技術(shù)基于 Nervana)將在 2017 年上半年推出,并在稍后接著推出 Knights Mill,它是 Xeon Phi 聯(lián)合處理器架構(gòu)的下一個(gè)迭代。
英偉達(dá)已成為人工智能硬件領(lǐng)域的主力軍之一。在谷歌、Facebook 等公司能夠使用神經(jīng)網(wǎng)絡(luò)翻譯語(yǔ)言之前,他們必須首先用特殊任務(wù)訓(xùn)練神經(jīng)網(wǎng)絡(luò),給神經(jīng)網(wǎng)絡(luò)輸入現(xiàn)有的大量翻譯數(shù)據(jù)集。英偉達(dá)制造了可以加快這一訓(xùn)練進(jìn)程的 GPU 芯片。LeCun 說(shuō),在訓(xùn)練方面,GPU 通??紤]的是市場(chǎng),尤其是英偉達(dá) GPU。但是 Farabet 的出現(xiàn)也許表明,英偉達(dá)正和高通一樣,也在探索一旦接受訓(xùn)練就可運(yùn)行神經(jīng)網(wǎng)絡(luò)的芯片。
GPU 最初的設(shè)計(jì)初衷并非人工智能,而是圖形繪制。但是大約 5 年前,谷歌、Facebook 等公司開(kāi)始使用 GPU 訓(xùn)練神經(jīng)網(wǎng)絡(luò),僅僅因?yàn)?GPU 是現(xiàn)有的最佳選擇。LeCun 相信 GPU 可以持續(xù)發(fā)揮這一作用,他說(shuō),現(xiàn)在程序員和公司對(duì) GPU 相當(dāng)熟悉,他們具備使用 GPU 的所有工具;GPU 很難被替代,因?yàn)樘娲枰獡Q掉全部(整個(gè)生態(tài)系統(tǒng))。但是他也認(rèn)為將會(huì)出現(xiàn)一種新型芯片,從數(shù)據(jù)中心和消費(fèi)設(shè)備兩個(gè)方面,極大地改變大型公司運(yùn)行神經(jīng)網(wǎng)絡(luò)的方式,從而,從手機(jī)到智能割草機(jī)再到真空吸塵器的一切也都將會(huì)改變。
正如谷歌 TPU 展示的,專(zhuān)用 AI 芯片可以將數(shù)據(jù)中心的運(yùn)行效率提高到一個(gè)新的層次,特別是對(duì)于那些需要進(jìn)行圖像識(shí)別的服務(wù)器。在執(zhí)行神經(jīng)網(wǎng)絡(luò)任務(wù)時(shí),它們消耗更少的電力,發(fā)熱更小?!溉绻悴幌胱屢粋€(gè)池塘沸騰,你就需要特殊設(shè)計(jì)的硬件,」LeCun 說(shuō)。
與此同時(shí),隨著 VR 和 AR 技術(shù)的發(fā)展,手機(jī)與頭戴設(shè)備也需要同樣的芯片。Facebook 上周曾展示了它們的新型增強(qiáng)現(xiàn)實(shí)工具,而這種設(shè)備需要神經(jīng)網(wǎng)絡(luò)來(lái)對(duì)周?chē)h(huán)境進(jìn)行識(shí)別。但增強(qiáng)現(xiàn)實(shí)系統(tǒng)的任務(wù)不能基于數(shù)據(jù)中心——傳送數(shù)據(jù)需要時(shí)間,延遲會(huì)破壞用戶(hù)體驗(yàn)。正如 Facebook 首席技術(shù)官 Mike Schroepfer 所解釋的,F(xiàn)acebook 目前正在使用 GPU 和另一種被稱(chēng)為數(shù)字信號(hào)芯片的設(shè)備處理這些任務(wù)。但從長(zhǎng)遠(yuǎn)來(lái)看,這些設(shè)備必須使用全新類(lèi)型的芯片。
現(xiàn)在,需求已經(jīng)出現(xiàn),芯片公司正在爭(zhēng)相占領(lǐng)新的市場(chǎng)。