AI的主戰(zhàn)場在哪里

我只是覺得這一波已經(jīng)接近尾聲——如果不是已經(jīng)過了尾聲——的精實(shí)新創(chuàng)浪潮下，太多投資人和創(chuàng)業(yè)家口中念念有詞的、關(guān)于軟件新創(chuàng)的論點(diǎn)不過是一堆狗屁。比這些關(guān)于軟件新創(chuàng)的狗屁更狗屁的，是毫無根據(jù)就把硬件投資視為過時的、難以產(chǎn)生回報的論點(diǎn)，即使面對了市場上公開資訊的反駁。

別誤會了，如果可以，我也想投資一個SaaS的商用軟件新創(chuàng)，看著他們用很少的資金做出MVP（Minimum Viable Product），然后用社群草根的方式取得眾多使用者，每周根據(jù)使用者的回饋以及搜集到的數(shù)據(jù)改善并更新軟件，然后針對進(jìn)階使用者每月收取費(fèi)用，量測并改善耗損率，然后達(dá)成千萬使用戶、超過百分之百的年成長率以及九成以上的用戶留存率，取得最少五千萬美元的每年重復(fù)營收，然后以五億美元的價格出售給Salesforce這樣令人景仰的SaaS企業(yè)，并將創(chuàng)業(yè)家和Marc Benioff這樣令人景仰的創(chuàng)辦人簽約后握手的照片裱框，放在自己的桌子上朝外給所有進(jìn)到自己辦公室的年輕創(chuàng)業(yè)家看。

等等，去他的投資！我干脆自己創(chuàng)辦這樣的公司好了！

事實(shí)上，在動態(tài)均衡的商業(yè)世界里，沒有任何一種商業(yè)模式或者產(chǎn)業(yè)具有永久的投資優(yōu)勢。興起于2004年的精實(shí)新創(chuàng)風(fēng)潮為我們的世界帶來了臉書、推特、Youtube、Dropbox、Uber和Airbnb等日常生活的應(yīng)用軟件，也連帶讓MVP、iteration和pivot變成熱門單字，更催生了一整個時代非工程背景也未曾創(chuàng)過業(yè)的新型風(fēng)險資本家，他們在各大小新創(chuàng)活動中轉(zhuǎn)來轉(zhuǎn)去，以看似老練的口吻問著創(chuàng)業(yè)家：“你的每月活躍用戶量是多少？”

但在這樣低的創(chuàng)業(yè)和投資進(jìn)入障礙的世界里，伴隨而來的必然是激烈的全面競爭，不管是創(chuàng)業(yè)家彼此，或者風(fēng)險資本家之間。這些競爭也許會反映在燒錢進(jìn)行同業(yè)競爭上，也許反映在平均估值的不斷推升上。最終來說，產(chǎn)業(yè)抵達(dá)了動態(tài)均衡，人們也終于開始發(fā)現(xiàn)軟件精實(shí)新創(chuàng)并沒有比較容易創(chuàng)業(yè)，投資起來也沒有比較好賺。

似乎是歷史重演地，我們看到人工智能的投資趨勢最近也反映出這樣的潮流反轉(zhuǎn)。

和精實(shí)新創(chuàng)經(jīng)歷的一樣，我們不難想象過去兩年間滿手是錢的風(fēng)險資本家們，乘著“人工智能”、“機(jī)器學(xué)習(xí)”和“深度學(xué)習(xí)”的關(guān)鍵字浪潮，追逐著各種宣稱使用人工智能、機(jī)器學(xué)習(xí)或深度學(xué)習(xí)來取代人類世界中某些由勞工負(fù)責(zé)的工作的新創(chuàng)。

而就跟精實(shí)新創(chuàng)投資一樣的，事實(shí)上任何有一點(diǎn)社會經(jīng)驗的人都可以想象出任何一種“用AI取代人類”的新創(chuàng)應(yīng)用。唯一不一樣的地方在于，要開發(fā)這樣的應(yīng)用需要的不只是能夠?qū)戇壿嫵绦虼a的coder，還需要懂得機(jī)器學(xué)習(xí)算法的數(shù)學(xué)專家。

不夠格的投資者們，就像他們在精實(shí)新創(chuàng)浪潮中追著浪尾投資已經(jīng)有數(shù)十家先行者的新創(chuàng)類型一樣，忙不迭地把錢灌進(jìn)“能夠描繪某種AI使用情境”的軟件新創(chuàng)。稍微謹(jǐn)慎一點(diǎn)的投資者們，找來了從事相關(guān)研究的教授或者博士班學(xué)生來幫忙作盡職調(diào)查，以求避開明顯的騙子。

但不管是哪一種，打著“用AI取代人類”嘴炮的軟件新創(chuàng)仍然面臨兩個自己無法解決的挑戰(zhàn)。

其中一個就是我常常講的，就算是絕頂聰明的數(shù)學(xué)家或者資料科學(xué)家，如果無法取得訓(xùn)練模型用的資料，那也是白搭，這也是為什么在Hardware Club我們選擇投資提供從感測器到云端機(jī)器學(xué)習(xí)完整系統(tǒng)的Full-stack AI新創(chuàng)。

另一個純軟件AI新創(chuàng)面臨的挑戰(zhàn)，則是在創(chuàng)業(yè)或者投資初期常常被忽略的硬件計算能力的限制。

我在〈軟件吃掉世界，AI吃掉軟件〉一文中就曾經(jīng)提到過，精實(shí)新創(chuàng)誕生的背景是芯片運(yùn)算能力遠(yuǎn)大于終端應(yīng)用軟件所需，但機(jī)器學(xué)習(xí)的出現(xiàn)瞬間把這個落差給“闔上”了——突然間我們從毫不在乎硬件，又變得必須對硬件規(guī)格斤斤計較。

上面這個影片是史丹佛大學(xué)CS231n課程〈卷積神經(jīng)網(wǎng)路在影像辨識上的應(yīng)用〉第十五堂課的講座影片，主講者是最近剛?cè)〉秒姍C(jī)暨計算機(jī)科學(xué)博士學(xué)位、明年即將在麻省理工開始任教的Song Han，講座的題目就是他的博士論文〈深度學(xué)習(xí)的高效率算法和硬件〉。我強(qiáng)烈建議對于機(jī)器學(xué)習(xí)有興趣的人——不管是創(chuàng)業(yè)家或投資者——把這個講座影片看完，因為看完之后他們就能理解為什么我說AI真正的主戰(zhàn)場在硬件。

舉例來說，這整個講座使用的術(shù)語大約有三四成是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)相關(guān)的，剩下的術(shù)語卻都是所有半導(dǎo)體產(chǎn)業(yè)的“老人”們再熟悉不過的：CPU、GPU、FLOPS、DDR 3、DDR 4、記憶體頻寬??等。事實(shí)上如果直接去閱讀Song Han的博士論文，老半導(dǎo)體人會看到兩個很親切的名字：論文的主要指導(dǎo)教授Bill Dally以及協(xié)同指導(dǎo)教授Mark Horowitz。其中Dally教授所著作的教科書〈Digital Systems Engineering〉幾乎所有電機(jī)本科生人手一本，而Horowitz教授則是我當(dāng)年在半導(dǎo)體的研究領(lǐng)域‘高速數(shù)位串流接口’的權(quán)威，如果把我當(dāng)年閱讀過的他的論文疊在一起，就算沒辦法到頂天花板，最少也夠站在上面換燈泡。

Song Han在這兩位半導(dǎo)體老將的指導(dǎo)下完成這個博士論文，而且還受邀在CS231n〈卷積神經(jīng)網(wǎng)路在影像辨識上的應(yīng)用〉課程給講座的原因非常簡單：我們現(xiàn)在的CPU或者GPU、甚至于谷歌的TPU，都遠(yuǎn)遠(yuǎn)無法應(yīng)付現(xiàn)有機(jī)器學(xué)習(xí)算法“可能”的運(yùn)算需求，因此軟硬件協(xié)同開發(fā)是必要的。

當(dāng)我們說CPU、GPU乃至于TPU無法應(yīng)付機(jī)器學(xué)習(xí)“可能”的運(yùn)算需求，有兩個事情是我們所在乎的：運(yùn)算速度以及耗能。

一般的創(chuàng)業(yè)家和投資者比較能夠理解運(yùn)算速度的重要性，畢竟整個深度學(xué)習(xí)的大躍進(jìn)就是在于過去得花上幾周甚至幾個月才能完成的神經(jīng)網(wǎng)路運(yùn)算，被降到幾天甚至幾小時，但較少創(chuàng)業(yè)家或投資者能夠理解耗能的重要性，因為在過去十余年的精實(shí)新創(chuàng)浪潮中，耗能這種東西百分之百是高通、鴻海、蘋果和三星這些人的問題。

但是在機(jī)器學(xué)習(xí)中“耗能”是一個很大的挑戰(zhàn)，甚至?xí)蔀樾艿恼系K。機(jī)器學(xué)習(xí)的耗能主要來自兩個領(lǐng)域：

（一）矩陣乘法：所建置的神經(jīng)網(wǎng)路越多層，每一層的神經(jīng)元數(shù)越多，所需要運(yùn)算的矩陣乘法就愈多。而半導(dǎo)體邏輯芯片的乘法是由NAND閘組合出來的，每一個電晶體的節(jié)點(diǎn)都會在電壓上下擺動的過程中消耗掉能量?？紤]到矩陣乘法所需要用到的邏輯閘數(shù)量驚人，而且隨著神經(jīng)元和系數(shù)的增加以指數(shù)成長，這部分運(yùn)算的耗能也就指數(shù)成長。

（二）記憶體存?。侯惿窠?jīng)網(wǎng)路的運(yùn)算需要大量而且高速的記憶體存取，主處理器（不論是CPU或者GPU）和記憶體模組通常是不同的芯片，因此存取發(fā)生在印刷電路板上，大量的能量會被耗損在對抗印刷電路板和芯片封裝的雜散容和電阻上。

耗能劇烈的第一個影響是電力成本。以去年擊敗李世乭的AlphaGo為例，該系統(tǒng)使用了1920個CPU和280個GPU，光下一場棋局的電費(fèi)就高達(dá)三千美元，相較之下李世乭本人下這場局可能只需要一兩碗飯的熱量，“電”腦和“人”腦在耗能效率上仍然有天壤之別。

但是如果做多少運(yùn)算就付多少電費(fèi)就能解決的話，那還好說。但耗能的最大問題是：不管是哪一種耗能方式，都會轉(zhuǎn)換成廢熱，這些廢熱必須排出去，才能讓系統(tǒng)正常運(yùn)轉(zhuǎn)。但系統(tǒng)耗能產(chǎn)生廢熱的速度根據(jù)運(yùn)算量成指數(shù)成長，排除廢熱的速度卻受限于熱力學(xué)和流體力學(xué)有著線性的特質(zhì)，因此我們不難想象在邁向泛用型人工智能的路上，我們可能會先被“熵”這個躲也躲不掉的敵人給擋住，而不是算法。

機(jī)器學(xué)習(xí)算法與硬件的優(yōu)化方式（作者提供。擷取自Song Han博士論文第七章）

在Song Han的講座中，他介紹了各種軟件算法和硬件芯片結(jié)構(gòu)的協(xié)同優(yōu)化，以應(yīng)付機(jī)器學(xué)習(xí)中training和inference兩個部分的耗能效率挑戰(zhàn)。但是不管是哪一種方式，不管改善多少運(yùn)算效能和耗能效率，從工程的角度來看都是短期的、貼貼補(bǔ)補(bǔ)之類的解決方案，在摩爾定律多年前早已停止改善耗能的事實(shí)下，這些方案并沒辦法提供一個康莊大道通往真正的人工智能經(jīng)濟(jì)學(xué)終局。

這也是作為風(fēng)險資本投資者，我們致力于尋找著半導(dǎo)體邏輯運(yùn)算以外的解決方案的原因。在之前專欄〈量子電腦春暖花開〉中我所介紹過的量子電腦是一種，而且理論上是最能夠應(yīng)付無限延伸的未來中機(jī)器學(xué)習(xí)運(yùn)算需求的一種。但量子電腦的問題在于，目前不管是新創(chuàng)或者谷歌、IBM乃至于Intel等大廠的系統(tǒng)，都必須把溫度降到絕對零度附近，才能進(jìn)行量子運(yùn)算，地球上的降溫系統(tǒng)本身就是一個極為耗能的裝置，要等到綜合能源效率和建置成本到達(dá)可以和半導(dǎo)體芯片相比擬，恐怕還要不少的時光。

那么有沒有其他的方式能夠比半導(dǎo)體有著高許多的耗能效率，但又沒有量子電腦那接近絕對零度的挑戰(zhàn)呢？答案也許存在自然界里，就像是量子電腦采用物理特性進(jìn)行運(yùn)算，自然界也有許多物理現(xiàn)象包含了矩陣乘法的特質(zhì)，也許我們可以找到一種運(yùn)算方式，是將資料轉(zhuǎn)換成自然界的物理現(xiàn)象，在那里完成運(yùn)算，然后再匯回電腦系統(tǒng)中。這種運(yùn)算統(tǒng)稱為“類比運(yùn)算”（analog compuTIng），其實(shí)是一門很古老的學(xué)問，遠(yuǎn)在數(shù)位芯片高速成長的年代之前，幾乎所有的運(yùn)算都是在類比世界中發(fā)生的。

作為投資者，我尋找著也等待著能夠善用類比運(yùn)算來大幅加速機(jī)器學(xué)習(xí)的創(chuàng)業(yè)家，如果能夠投資到這樣的新創(chuàng)，我不介意錯過Blue Apron這樣的投資機(jī)會一百次！