《連線》雜志主編Kevin 闡述對(duì)人工智能的五大誤解

　　美國(guó)《連線》雜志創(chuàng)始主編凱文-凱利（Kevin Kelly）日前撰文，闡述了當(dāng)今社會(huì)對(duì)人工智能的五大誤解，并對(duì)背后的邏輯和理論展開了詳細(xì)論述。

　　我聽到這樣一種說法：未來，計(jì)算機(jī)主導(dǎo)的人工智能將比我們聰明得多，甚至?xí)Z走我們所有的工作和資源，人類則會(huì)走向滅亡。果真如此嗎？

　　每每談起人工智能，我總是難免聽到這樣的問題。提問者都很認(rèn)真，他們的擔(dān)憂一定程度上源自各路專家的自問自答，其中包含很多當(dāng)今世界上最聰明的人，例如史蒂芬-霍金（Stephen Hawking）、伊隆-馬斯克（Elon Musk）、麥克斯-泰格馬克（Max Tegmark）、山姆-哈里斯（Sam Harris）和比爾-蓋茨（Bill Gates）。

　　他們都相信，這番場(chǎng)景很有可能變成現(xiàn)實(shí)。而在最近的一場(chǎng)關(guān)于人工智能問題的研討會(huì)上，一個(gè)由9位大咖組成的委員會(huì)一致認(rèn)同，這種超人類人工智能已經(jīng)不可避免，而且并不遙遠(yuǎn)。

　　然而，那些認(rèn)同超人類人工智能最終將會(huì)接管世界的人，內(nèi)心其實(shí)都有5個(gè)假設(shè)。然而，如果對(duì)這5個(gè)假設(shè)展開細(xì)致分析就會(huì)發(fā)現(xiàn)，這其實(shí)都是“無稽之談”。這些說法未來或許會(huì)成為現(xiàn)實(shí)，但目前還沒有獲得證據(jù)支撐。關(guān)于超人類智能將快速崛起的5大基本假設(shè)如下：

　　1、人工智能已經(jīng)開始超越人類，而且正在以指數(shù)級(jí)速度發(fā)展。

　　2、我們可以開發(fā)出像自己一樣的通用人工智能。

　　3、我們可以把人類的智能集成在硅片上。

　　4、智能可以無限強(qiáng)化。

　　5、一旦開發(fā)出超級(jí)智能，它就可以為我們解決多數(shù)問題。

　　與這些似是而非的說法相對(duì)的是，我反而認(rèn)為以下5種看似異端邪說的觀點(diǎn)能夠獲得更多的證據(jù)支撐。

　　1、智能并非單一維度，所以“比人類更聰明”這種概念本身就沒有意義。

　　2、人類并沒有通用思維，人工智能同樣不具備這種能力。

　　3、在其他媒介上模擬人類思維將會(huì)受到成本因素的制約。

　　4、智能的維度并不是無限的。

　　5、智能只是推動(dòng)科技和社會(huì)進(jìn)步的諸多因素中的一項(xiàng)而已。

　　如果關(guān)于超人類人工智能接管世界的預(yù)期，完全基于5個(gè)沒有證據(jù)支撐的關(guān)鍵假設(shè)，那么這種想法也就無異于宗教信仰。也就是說，這只能算是一種“神話”。我針對(duì)這5項(xiàng)假設(shè)提出的5種針鋒相對(duì)的說法都有充分的依據(jù)，接下來的段落中將會(huì)詳細(xì)展開。我將以此證明，超人類人工智能的說法只不過是一種“神話”。

　　1

　　關(guān)于人工智能最常見的誤解其實(shí)來自對(duì)自然智能的普遍誤解。很多人認(rèn)為，智能是單一維度的，這種理解其實(shí)并不正確。多數(shù)技術(shù)人員往往會(huì)像尼克-博斯特羅姆（Nick Bostrom）那樣繪制智能進(jìn)化圖譜——他曾在《超級(jí)智能》（Superintelligence）一書中把智能描繪成一種單一維度、呈現(xiàn)線性發(fā)展的東西。

　　例如，一端是低智能的小動(dòng)物，另外一端則是高智能的天才——感覺智能就像是可以用分貝來量化的聲響一樣。當(dāng)然，如果認(rèn)同這種觀點(diǎn)，自然就可以對(duì)其進(jìn)行擴(kuò)展，認(rèn)為智能的強(qiáng)度還會(huì)進(jìn)一步增加，并最終超過我們自己的高智能狀態(tài)，成為一種超強(qiáng)智能，甚至最終爆表。

　　這種模式就像階梯一樣，一層一層逐級(jí)遞進(jìn)，每一個(gè)層次的智能都比前一個(gè)層次更加進(jìn)步。低等動(dòng)物位于我們之下，而智能更高的人工智能必然位于我們之上。具體發(fā)生的時(shí)間并不重要，重要的是等級(jí)——也就是衡量智能優(yōu)劣程度的指標(biāo)。

　　但這種模型的問題在于，這只不過是一種像進(jìn)化階梯一樣的錯(cuò)誤觀念而已。在達(dá)爾文進(jìn)化論誕生之前，人們也認(rèn)為自然界是呈現(xiàn)階梯化發(fā)展的，低等動(dòng)物低于人類。即便是在達(dá)爾文進(jìn)化論誕生后，這種階梯化進(jìn)化理論仍然十分盛行。這種理論認(rèn)為：魚類進(jìn)化成爬行動(dòng)物，然后進(jìn)化為哺乳動(dòng)物，再進(jìn)化為靈長(zhǎng)類動(dòng)物，最終進(jìn)化出人類，每一級(jí)都比上一級(jí)進(jìn)步一點(diǎn)（自然也會(huì)更聰明一些）。所以，智能階梯與物種階梯相互平行。但實(shí)際上，這兩種模型都不符合科學(xué)觀念。

　　上圖這種由內(nèi)向外發(fā)散的圓盤可以更為精確地描述物種的自然進(jìn)化過程，這是美國(guó)德克薩斯大學(xué)的大衛(wèi)-西里斯（David Hillis）率先根據(jù)DNA繪制出來的。這種深入的系譜學(xué)分類模式以最中央的原始生命形態(tài)為起點(diǎn)，然后向外發(fā)散。隨著時(shí)間的推移，逐步形成了如今地球上的生命形態(tài)，也就是最外面的一圈。

　　這張圖強(qiáng)調(diào)了進(jìn)化過程的一個(gè)基本事實(shí)：當(dāng)今世界的所有物種都是平等進(jìn)化的。人類與蟑螂、蛤蜊、蕨類、狐貍、細(xì)菌共同位于最外面的一圈。每一個(gè)物種都經(jīng)歷了長(zhǎng)達(dá)30億年的繁衍生息，成功進(jìn)化到今天。這就意味這當(dāng)今的細(xì)菌和蟑螂與人類擁有同樣的進(jìn)化水平，并不存在所謂的階梯。

　　類似地，智能同樣不存在所謂的階梯。智能并不限于單一維度，而是多種認(rèn)知類型和模式組成的復(fù)合體，每一種類型或模式都是一個(gè)連續(xù)統(tǒng)一體。先來談?wù)労饬縿?dòng)物智能這個(gè)簡(jiǎn)單的任務(wù)。如果智能是單一維度的，那就可以對(duì)鸚鵡、海豚、馬、松鼠、章魚、藍(lán)鯨、貓、大猩猩按照順序進(jìn)行排列。但目前沒有科學(xué)證據(jù)支撐這樣一種排序方式。其中一個(gè)可能的原因在于，動(dòng)物的智能沒有差異，但我們同樣沒有看到這種證據(jù)。

　　有很多跡象都可以說明動(dòng)物之間的思維存在顯著差異。但它們是否都擁有相對(duì)的“通用智能”？可能如此，但并沒有一個(gè)指標(biāo)來衡量這種智能。相反，我們可以通過很多不同類型的指標(biāo)評(píng)估不同類型的認(rèn)知能力。

　　也就是說，沒有一個(gè)類似于分貝的統(tǒng)一指標(biāo)來衡量智能水平，所以更精確的智能模型應(yīng)該是繪制它的“可能性空間”（possibility space）。上圖是使用理查德-道金斯（Richard Dawkins）編寫的算法生成的可能性表格。智能是一系列連續(xù)統(tǒng)一體的集合。各種節(jié)點(diǎn)（每個(gè)節(jié)點(diǎn)都是一個(gè)連續(xù)統(tǒng)一體）共同組成了一個(gè)多維度、多樣化的復(fù)合體。

　　有的智能或許非常復(fù)雜，包含很多象征各種思維模式的子節(jié)點(diǎn)。還有的或許較為簡(jiǎn)單，但卻非常極端，處在可能性空間的角落位置。這些被我們稱作智能的復(fù)合體就像是各種各樣的交響曲，由許多不同類型的樂器共同演奏。它們之間的差異并不僅僅是響度，還體現(xiàn)在音高、旋律、音色、節(jié)拍等因素上。我們可以將其視作一套生態(tài)系統(tǒng)。從這個(gè)意義上講，不同思維模式的節(jié)點(diǎn)相互依賴、共創(chuàng)共生。

　　用馬文-明斯基（Marvin Minsky）的話說，人類思維是“由思維組成的社會(huì)”（the society of mind）。我們?cè)谒季S構(gòu)成的生態(tài)系統(tǒng)上運(yùn)行，其中包含多種認(rèn)知能力，它們就像不同的物種一樣構(gòu)成了一個(gè)個(gè)的生態(tài)系統(tǒng)，而且可以完成種類各異的思考方式：包括演繹、歸納、符號(hào)推理、情商、空間邏輯、短期記憶和長(zhǎng)期記憶。我們體內(nèi)的整套神經(jīng)系統(tǒng)也是一種具備其自身認(rèn)知模式的大腦。我們思考時(shí)并不僅僅使用大腦，而是用整個(gè)身體來思考。

　　不同個(gè)體和不同物種之間的認(rèn)知能力都存在差異。即使在幾年之后，松鼠依然可以精確記住幾千個(gè)橡子所在的具體位置，這種技能甩下人類好幾條街。所以在這種認(rèn)知能力上，松鼠超過了人類。要形成松鼠的思維，需要將這種“超能力”與其他在人類面前相形見絀的思維模式融合在一起。動(dòng)物世界還有很多其他遠(yuǎn)超人類的認(rèn)知能力，但同樣要融合到不同的系統(tǒng)之中。

　　人工智能也很類似。人工智能已經(jīng)在某些維度上超過人類。你可以把計(jì)算器當(dāng)成算數(shù)天才，谷歌（微博）的記憶也已經(jīng)在某些維度上超過人類。我們正在開發(fā)在特定模式上具備卓越能力的人工智能技術(shù)。其中一些模式是人類可以做到，但人工智能表現(xiàn)更好，例如概率統(tǒng)計(jì)或數(shù)學(xué)計(jì)算。還有一些能力是我們根本不具備的——例如，記住60億個(gè)網(wǎng)頁的上的每一個(gè)單詞，而這恰恰是搜索引擎的用途所在。

　　未來，我們還會(huì)發(fā)展人類所不具備的新型認(rèn)知模式，有的甚至是整個(gè)生物界都不曾出現(xiàn)過的模式。當(dāng)我們發(fā)明人造飛行器時(shí)，受到了生物飛行模式的啟發(fā)，主要是不停扇動(dòng)的翅膀。但我們所發(fā)明的飛行器卻在尺寸更大的固定翼上安裝了推進(jìn)器，這是一種生物界前所未有的飛行模式，是一種異形飛行模式。

　　類似地，我們今后也將開發(fā)自然界不曾出現(xiàn)過的全新的思維模式。在很多情況下，這都是針對(duì)具體任務(wù)而設(shè)計(jì)的專用模式——可能是一種僅在統(tǒng)計(jì)和概率上能夠奏效的推理形式。

　　在其他情況下，這種新思維可能會(huì)是一種復(fù)雜的認(rèn)知，可以幫助我們應(yīng)對(duì)那些無法利用自己的智能獨(dú)立解決的問題。商業(yè)和科學(xué)領(lǐng)域碰到的最困難的問題可能需要通過兩個(gè)步驟來解決：第一步：發(fā)明一種新的思維模式與我們的思維進(jìn)行配合。第二步：將二者融合起來，最終解決問題。

　　由于我們正在解決之前無法解決的問題，所以才會(huì)認(rèn)為這種認(rèn)知比自己“更聰明”，但實(shí)際上，它只是跟我們“不一樣”而已。這種思維差異才是人工智能的主要優(yōu)勢(shì)。我認(rèn)為，看待人工智能時(shí)，真正可取的方式是將其視作一種異形智能（或人造異形）。它與我們之間的差異性才是它真正的價(jià)值所在。

　　與此同時(shí)，我們還將把這些不同的認(rèn)知模式融合到更加全面而復(fù)雜的“思維社會(huì)”中。其中有些復(fù)合體比我們更復(fù)雜，而由于它們可以解決我們無法解決的問題，所以有人會(huì)將其定性為“超人類”。但我們不會(huì)將谷歌稱作超人類人工智能，即便它的記憶能力遠(yuǎn)超我們，這是因?yàn)槲覀兡茉诤芏嗍虑樯媳人龅酶谩?/p>

　　這些人工智能復(fù)合體肯定可以在很多維度上超越我們，但沒有一個(gè)實(shí)體能夠在方方面面全面超越人類。這跟體力方面獲得的進(jìn)步有些類似。工業(yè)革命至今已有200年歷史，雖然所有機(jī)器作為一個(gè)整體可以在體力上超越人類的個(gè)體（奔跑速度、舉重能力、精確切割），但沒有一臺(tái)機(jī)器能夠在所有事情上全面超越一個(gè)普通人。

　　即便人工智能中的“思維社會(huì)”變得更加復(fù)雜，目前也很難用科學(xué)方法衡量這種復(fù)雜性。我們并沒有一套可行的復(fù)雜性指標(biāo)來判斷黃瓜是否比波音747更加復(fù)雜，或者判斷它們之間的復(fù)雜方式是否存在差異。

　　想要確定思維A是否比思維B更加復(fù)雜，是一件非常困難的事情。同樣地，要確定思維A是否比思維B更聰明，也非常困難。我們很快就會(huì)明確意識(shí)到，所謂的“聰明”并不是單一維度的問題。我們同時(shí)也會(huì)意識(shí)到，我們真正關(guān)注的其實(shí)是智能的其他運(yùn)行模式——也就是我們尚未發(fā)現(xiàn)的其他所有認(rèn)知節(jié)點(diǎn)。

　　2

　　第二個(gè)關(guān)于人工智能的誤解是，我們認(rèn)為自己擁有通用智能。正由于秉承了這種被人反復(fù)提及的觀念，使得人工智能研究人員經(jīng)常闡述一個(gè)目標(biāo)：開發(fā)通用人工智能技術(shù)（AGI）。然而，如果我們以上文的“可用性空間”來看待智能，那也就沒有通用一說了。

　　人類智能并不處在中心位置，其他專項(xiàng)智能也并不是圍繞它發(fā)展的。相反，人類智能只是一種非常具體的智能形式，經(jīng)過了數(shù)百萬年的進(jìn)化后，使得我們這個(gè)物種在地球上生存下來。如果對(duì)所有可能的智能類型所處的空間進(jìn)行了解后，便會(huì)發(fā)現(xiàn)人類這種智能只是“偏居一隅”，就像我們的世界處在浩瀚的銀河的邊緣一樣。

　　我們肯定可以想象，甚至發(fā)明一種類似于瑞士軍刀的多用途思維。它可以完成很多事情，但卻沒有一種能夠做到極致。人工智能也會(huì)無法突破這種極限：不可能針對(duì)所有維度進(jìn)行優(yōu)化，只能進(jìn)行權(quán)衡，做出妥協(xié)。不可能開發(fā)出在每項(xiàng)具體的功能上都表現(xiàn)優(yōu)異的多功能通用人工智能。

　　一個(gè)龐大的“全能”思維，不可能在所有事情上都像專用人工智能一樣表現(xiàn)出色。由于人們認(rèn)為人類的思維是通用思維，所以往往也認(rèn)為認(rèn)知不必受限于工程師的權(quán)衡妥協(xié)，認(rèn)為完全可以開發(fā)出一種在所有思維模式上都做到極致的智能技術(shù)。

　　但我沒有看到任何證據(jù)支撐這一論調(diào)。我們并沒有開發(fā)足夠多樣的思維模式，因而也就無法看到可能性空間的整體狀況。

　　3

　　人類之所以認(rèn)為可以在通用思維上做到極致，其實(shí)一定程度上源自通用計(jì)算的概念。這個(gè)概念之前在1950年被稱作丘奇-圖靈假說（Church-Turing hypothesis）。這種假說認(rèn)為，達(dá)到特定門檻的所有計(jì)算都是等價(jià)的。因此所有的計(jì)算存在一個(gè)通用的核心：無論組成一臺(tái)機(jī)器的零件速度是快是慢，甚至就算發(fā)生在生物體的大腦中，都會(huì)遵循相同的邏輯過程。這就意味著你可以在任何一臺(tái)能夠進(jìn)行“通用計(jì)算”的機(jī)器上模擬任何的計(jì)算過程（思維）。

　　奇點(diǎn)論者利用這套理論來支撐自己的預(yù)期：他們認(rèn)為，我們可以制作一種具備人類思維的“硅腦”，甚至可以開發(fā)能像人類一樣思考的人工思想，而且遠(yuǎn)比人類更加聰明。我們應(yīng)該對(duì)這種期待心存懷疑，因?yàn)樗麄冋`解了丘奇-圖靈假說。

　　這項(xiàng)理論的出發(fā)點(diǎn)是：“如果擁有無限的磁帶（存儲(chǔ)）和時(shí)間，所有的計(jì)算都是等價(jià)的。”問題在于，在現(xiàn)實(shí)世界中，沒有一臺(tái)計(jì)算機(jī)擁有無限的存儲(chǔ)和時(shí)間。當(dāng)你在現(xiàn)實(shí)世界中進(jìn)行實(shí)時(shí)操作時(shí)，這甚至?xí)a(chǎn)生天壤之別。沒錯(cuò)，如果忽略時(shí)間因素，所有的思維都是等價(jià)的。的確，你可以在任何一個(gè)矩陣中模擬人類思維，前提是你要忽略時(shí)間維度，或者存儲(chǔ)及內(nèi)存等實(shí)實(shí)在在的局限因素。

　　然而，如果把時(shí)間考慮在內(nèi)，就必須重新闡述這條定律：在兩個(gè)差異巨大的平臺(tái)上運(yùn)行的兩套計(jì)算系統(tǒng)不可能實(shí)時(shí)等價(jià)。還可以這樣來說：想要讓不同的思維模式等價(jià)，唯一的方法就是讓它們?cè)诘葍r(jià)的基底上運(yùn)行。你的計(jì)算究竟能夠?qū)崟r(shí)處理好哪些類型的計(jì)算，很大程度上取決于它所依賴的物理因素——隨著復(fù)雜度的提升，這種現(xiàn)象也會(huì)越發(fā)明顯。

　　我會(huì)進(jìn)一步擴(kuò)展這種論調(diào)：想要達(dá)到與人類相似的思維流程，唯一的方法就是在類似于人類的血肉組織上進(jìn)行計(jì)算。這也就意味著，那些在冷冰冰的硅片上構(gòu)造的復(fù)雜的大型人工智能雖然可以生成復(fù)雜的大型思維，但卻不同于人類的思維。如果能使用像人類這樣可以增長(zhǎng)的神經(jīng)開發(fā)出有血有肉的人工大腦，它們的思維或許會(huì)與我們更加相似。這種血肉大腦帶來的好處，與它所依賴的基底跟我們之間的相似程度成正比。創(chuàng)造“濕件”（wetware，指人類的神經(jīng)系統(tǒng)）的成本巨大，而它的組織結(jié)構(gòu)與人腦組織越接近，“制造”人類的成本效率就越高。畢竟，我們只要懷胎9個(gè)月就可以“制造”一個(gè)人。

　　另外，正如上文所說，我使用整個(gè)身體來思考，而不僅僅依賴思維。有很多數(shù)據(jù)都可以顯示人體的神經(jīng)系統(tǒng)如何引導(dǎo)我們的“理性”決策過程，甚至能夠預(yù)測(cè)和學(xué)習(xí)這一過程。我們對(duì)整個(gè)人體系統(tǒng)了解得越深，就越有可能復(fù)制它。處于不同載體上（例如從有血有肉的人體轉(zhuǎn)移到冷冰冰的硅片上）的智能會(huì)產(chǎn)生不同的思考方式。

　　我不認(rèn)為這是個(gè)漏洞，反而認(rèn)為這是一項(xiàng)可以利用的功能。正如我在第2條中所說，與人類擁有不同的思維方式恰恰是人工智能的優(yōu)勢(shì)所在。正因如此，我才認(rèn)為，用“比人類更聰明”這樣的說法來定義它是一種誤導(dǎo)。

　　4

　　超人類人工智能——尤其是認(rèn)為這種人工智能將會(huì)不斷自我提升的觀點(diǎn)——的核心在于，他們認(rèn)為智能可以擁有無限的規(guī)模。我沒有發(fā)現(xiàn)這方面的證據(jù)。同樣地，以單一維度來看待智能的錯(cuò)誤觀念也對(duì)這種看法形成了促進(jìn)，但我們應(yīng)該對(duì)此加以理解。以目前的科學(xué)研究來看，宇宙中還沒有哪一種物理維度是無限的。

　　溫度不是無限的——無論冷熱都有極限?？臻g和時(shí)間也不是無限的，速度同樣也有極限。數(shù)字或許是無限的，但其他的物理屬性都有極限。于是，問題變成了：智能的極限在哪里？我們往往認(rèn)為，這個(gè)極限遠(yuǎn)超自身的能力范圍，肯定“高于”我們，就像我們“高于”螞蟻一樣。

　　暫且拋開單一維度這個(gè)遞歸問題不談，我們有什么證據(jù)證明人類本身不是智能的極限？為什么人類智能就不能是智能的極限呢？或者說，人類智能有沒有可能距離極限水平只有很短的距離？為什么我們認(rèn)為智能可以繼續(xù)無限提升下去？

　　可以通過一種更好的方式來思考這個(gè)問題，那就是把我們的智能看做數(shù)百萬種可能的智能中的一種。所以，雖然每一個(gè)認(rèn)知和計(jì)算維度都有局限，但如果有數(shù)百個(gè)維度，那就會(huì)有數(shù)不清的思維類型——沒有一種思維類型能在任何一個(gè)維度中達(dá)到無限高度。當(dāng)我們建立和遇到這些數(shù)不清的思維模式后，或許會(huì)自然而然地認(rèn)為其中一些超過了我們。在最近出版的新書《The Inevitable》里，我闡述了一些能在某些方面超越我們的思維類型。以下就是其中的部分摘錄：

　　——跟人類思維相似，但回答速度更快（這是最容易設(shè)想的人工智能思維）

　　——思維速度很慢，主要由龐大的存儲(chǔ)和內(nèi)存構(gòu)成

　　——由數(shù)百萬愚蠢的個(gè)體思維合力構(gòu)成的集體超級(jí)思維

　　——由很多極其聰明的思維構(gòu)成的集體思維，但卻并未意識(shí)自己是一個(gè)集體

　　——有很多極其聰明的思維共同構(gòu)成的超級(jí)思維，而且清楚地意識(shí)到自己加入了一個(gè)聯(lián)合體

　　——它經(jīng)過訓(xùn)練，而且專門用于提升你的個(gè)人思維，但對(duì)其他人卻沒有用處

　　——能夠想象更好的思維，但卻無法將其創(chuàng)造出來

　　——能夠創(chuàng)造更好的思維，但卻不具備足夠的自我意識(shí)來想象這種思維

　　——能夠一次性地成功創(chuàng)造更好的思維

　　——能夠創(chuàng)造更好的思維，而這種被創(chuàng)造出來的思維還可以創(chuàng)造比它更好的思維

　　——能夠訪問自己的源代碼，因此可以定期調(diào)整自己的流程。

　　——沒有感情的超級(jí)邏輯思維

　　——具備通用問題解決能力的思維，但卻沒有自我意識(shí)

　　——擁有自我意識(shí)，卻不具備通用問題解決能力的思維

　　——需要經(jīng)過長(zhǎng)時(shí)間來開發(fā)，而且在成熟之前需要一套思維為其充當(dāng)保護(hù)器

　　——分布在龐大的超慢思維之內(nèi)，快速思維似乎“看不見”它

　　——具備快速自我復(fù)制能力的思維

　　——能夠自我復(fù)制，而且仍然可以跟自己的克隆體結(jié)為一體

　　——能夠從一個(gè)平臺(tái)遷移到另一個(gè)平臺(tái)的不朽思維

　　——能夠改變流程和認(rèn)知特點(diǎn)的快速動(dòng)態(tài)思維

　　——具備自我意識(shí)的最?。o論是尺寸還是能量）納米思維

　　——擅長(zhǎng)具體場(chǎng)景和預(yù)測(cè)的思維

　　——永遠(yuǎn)不會(huì)抹去或忘記事情，也不會(huì)搞錯(cuò)任何信息的思維

　　——一半機(jī)器、一半動(dòng)物的共生思維

　　——一半機(jī)器、一半人類的電子人思維

　　——使用量子計(jì)算的思維，它所使用的邏輯無法被我們理解

　　現(xiàn)在有些人可能會(huì)把這些東西稱作超人類人工智能，但這些思維的多樣性和特異性卻會(huì)引導(dǎo)我們使用新的詞匯“智能”和“聰明”，并對(duì)其產(chǎn)生新的認(rèn)識(shí)。

　　其次，相信超人類人工智能的人會(huì)假設(shè)人工智能可以呈現(xiàn)指數(shù)級(jí)增長(zhǎng)（以某些未經(jīng)確認(rèn)的單一參數(shù)為標(biāo)準(zhǔn)），這很可能是因?yàn)樗麄冋J(rèn)為它已經(jīng)實(shí)現(xiàn)了指數(shù)級(jí)增長(zhǎng)。然而，目前沒有任何證據(jù)表明人工智能正在呈現(xiàn)指數(shù)級(jí)增長(zhǎng)——無論用哪種方式衡量都不例外。

　　我所說的指數(shù)級(jí)增長(zhǎng)指的是每過一段時(shí)間，人工智能的性能便可實(shí)現(xiàn)翻番。證據(jù)何在？我找不到。如果現(xiàn)在沒有證據(jù)，為什么認(rèn)定未來會(huì)發(fā)生？唯一能以指數(shù)級(jí)增長(zhǎng)的就是人工智能所獲得的輸入數(shù)據(jù)，也就是用于生成智能的資源。但輸出表現(xiàn)并不能像摩爾定律一樣增長(zhǎng)。人工智能無法做到每過3年性能翻番，甚至連每過10年性能翻番都做不到。

　　我問過很多人工智能專家，有沒有證據(jù)表明人工智能的性能實(shí)現(xiàn)了指數(shù)級(jí)增長(zhǎng)。他們都表示，目前沒有指標(biāo)來衡量智能，而且他們也沒有從事這方面的工作。但當(dāng)我向堅(jiān)定看好人工智能飛速發(fā)展前景的雷-庫茲韋爾（Ray Kurzweil）詢問人工智能呈現(xiàn)指數(shù)級(jí)增長(zhǎng)的證據(jù)時(shí)，他表示，人工智能并沒有實(shí)現(xiàn)爆發(fā)式增長(zhǎng)，而是表現(xiàn)出層級(jí)式增長(zhǎng)模式。

　　他說：“人工智能每上一個(gè)臺(tái)階，都需要計(jì)算和算法的復(fù)雜度實(shí)現(xiàn)指數(shù)級(jí)提升……所以我們可以預(yù)計(jì)線性的層級(jí)式增長(zhǎng)，因?yàn)槊可弦粋€(gè)臺(tái)階都需要在復(fù)雜度上實(shí)現(xiàn)指數(shù)級(jí)增長(zhǎng)，而我們這方面的能力的確實(shí)現(xiàn)了指數(shù)級(jí)進(jìn)步。我們與大腦皮質(zhì)之間相差的層級(jí)不多，所以我認(rèn)為2029年可能實(shí)現(xiàn)。”

　　庫茲韋爾似乎是在說，人工智能本身沒有呈現(xiàn)指數(shù)級(jí)增長(zhǎng)，反而是開發(fā)人工智能所作的努力呈現(xiàn)這種增長(zhǎng)態(tài)勢(shì)，而實(shí)際輸出效果僅僅是一次一個(gè)臺(tái)階地邁進(jìn)。這幾乎與人工智能大爆發(fā)的前提假設(shè)完全相反。這種情況今后可能發(fā)生變化，但人工智能目前顯然沒有呈現(xiàn)爆發(fā)態(tài)勢(shì)。

　　因此，當(dāng)我們?cè)O(shè)想“人工智能爆發(fā)”的情形時(shí)，不應(yīng)該將其視作一種級(jí)聯(lián)式繁榮，而應(yīng)該設(shè)想為新型的散發(fā)式發(fā)展。用一個(gè)更形象的比喻來說明，這更像是寒武紀(jì)物種大爆發(fā)，而不是核爆炸。幾乎可以肯定的是，技術(shù)加速發(fā)展的結(jié)果并不是催生“超級(jí)人類”，而是“超常人類”。換句話說，它會(huì)超脫于我們的經(jīng)驗(yàn)范圍，但未必能“高于”我們。

　　5

　　認(rèn)為超級(jí)人工智能將接管世界人還持有另一個(gè)前提假設(shè)：幾乎擁有無限能力的超級(jí)人工智能可以很快解決很多重大的未解難題。但這種說法卻沒有太多證據(jù)支撐。

　　很多認(rèn)同人工智能將實(shí)現(xiàn)爆發(fā)式增長(zhǎng)的人預(yù)計(jì)，這項(xiàng)技術(shù)將會(huì)實(shí)現(xiàn)高速進(jìn)步。我把這種神話般的觀念稱作“思考主義”（thinkism）。在他們看來：思考能力或智能水平是阻礙未來進(jìn)步的唯一因素。但這完全是第一種謬論。（很多喜歡思考的人也都懷有這樣一種信念：思考是一種神奇的超能力，甚至無所不能。）

　　以治愈癌癥和延長(zhǎng)壽命為例。這些問題不是單憑思考就能解決的。光靠“思考主義”根本無法發(fā)現(xiàn)細(xì)胞的衰老方式和染色體的衰退過程。無論多么言之鑿鑿，也不可能單憑閱讀所有已知的科學(xué)文獻(xiàn)想清楚人體的運(yùn)作模式。沒有一種超級(jí)人工智能可以簡(jiǎn)單地思考現(xiàn)在和過去的所有核裂變實(shí)驗(yàn)，然后在一天之內(nèi)想出核聚變技術(shù)。

　　除了思考之外，想要從未知過渡到已知，還必須輔以很多元素。需要在現(xiàn)實(shí)世界中進(jìn)行很多實(shí)驗(yàn)，每次實(shí)驗(yàn)都會(huì)產(chǎn)生大量相互矛盾的數(shù)據(jù)，因此需要通過進(jìn)一步的實(shí)驗(yàn)來確立正確的假說。單純思考潛在數(shù)據(jù)根本無法得出正確數(shù)據(jù)。

　　思考（智能）只是科學(xué)的一部分，甚至只是一小部分。例如，我們根本沒有足夠的數(shù)據(jù)來解決生老病死的問題，甚至連冰山一角都沒有揭開。具體到生物體的運(yùn)作機(jī)制，多數(shù)實(shí)驗(yàn)都需要用時(shí)間來慢慢醞釀。細(xì)胞新陳代謝速度很慢，無法加速進(jìn)行?？赡苄枰獢?shù)年、數(shù)月，至少也要數(shù)天時(shí)間，才能看到結(jié)果。

　　如果你想知道亞原子微粒的情況，那就不可能單憑思考來獲得答案。必須要建造復(fù)雜的大型物理設(shè)施才行。就算當(dāng)今最聰明的物理學(xué)家比現(xiàn)在再聰明1000倍，如果沒有對(duì)撞機(jī)，他們也無法獲取新的知識(shí)。

　　超級(jí)人工智能無疑可以加速科學(xué)進(jìn)程。我們可以制作原子或細(xì)胞的計(jì)算機(jī)模擬程序，從而大幅加快速度，但有兩個(gè)因素限制了模擬器在獲取瞬間進(jìn)步時(shí)的實(shí)際效果。首先，模擬器和模型之所以能比它們模擬的對(duì)象速度更快，是因?yàn)樗鼈儎h減了一些因素。這是模型或模擬器的自然屬性。同樣值得注意的是：對(duì)這些模型進(jìn)行測(cè)試、審核和驗(yàn)證仍然需要在正常的時(shí)間維度內(nèi)進(jìn)行，從而匹配它們的模擬對(duì)象。換句話說，對(duì)事實(shí)的驗(yàn)證速度無法真正加快。

　　在模擬器中簡(jiǎn)化后的運(yùn)行結(jié)果對(duì)于篩選最有希望的路徑非常有用，因此可以加快進(jìn)度。但在卻無法超越現(xiàn)實(shí)，所有的現(xiàn)實(shí)因素都會(huì)帶來一定的影響，這也是對(duì)“現(xiàn)實(shí)”的一種定義。隨著模型和模擬器中添加的細(xì)節(jié)信息越來越多，便會(huì)碰到局限，以至于模擬對(duì)象的實(shí)際運(yùn)行速度反而比100%復(fù)制現(xiàn)實(shí)元素的模擬器速度更快。這便引出了“現(xiàn)實(shí)”的另外一個(gè)定義：在考慮了所有細(xì)節(jié)和自由度之后，速度最快的那個(gè)版本才是“現(xiàn)實(shí)”。

　　如果你能將細(xì)胞中的所有分子和人體內(nèi)的所有細(xì)胞都融入模型之中，這個(gè)模擬器的速度不會(huì)超過人體。無論你怎么努力思考，仍然需要時(shí)間來完成實(shí)驗(yàn)，無論是現(xiàn)實(shí)系統(tǒng)還是模擬系統(tǒng)都概莫能外。

　　為了體現(xiàn)實(shí)用性，人工智能必須應(yīng)用于現(xiàn)實(shí)世界，而現(xiàn)實(shí)世界往往會(huì)制約它們的創(chuàng)新速度。如果沒有進(jìn)行實(shí)驗(yàn)，沒有開發(fā)原型產(chǎn)品，沒有經(jīng)歷失敗，也沒有與現(xiàn)實(shí)互動(dòng)，人工智能就只能思考，無法得出結(jié)果。所謂的“比人類更聰明的”人工智能也無法在一瞬間獲得任何發(fā)現(xiàn)。雖然發(fā)現(xiàn)速度會(huì)因?yàn)槿斯ぶ悄艿倪M(jìn)步而大幅加快，一定程度上源自這種與眾不同的人工智能會(huì)提出人類不會(huì)提出的問題，但即便具備遠(yuǎn)高于我們的智能，也不意味著可以立刻取得進(jìn)步。想要解決問題，光靠智能是不夠的。

　　不僅治愈癌癥和延長(zhǎng)壽命這樣的問題不能單靠智能解決，智能本身同樣不能光靠智能來解決。奇點(diǎn)論者有一個(gè)理論：一旦你開發(fā)出“比人類更聰明的”人工智能，它就會(huì)突然之間努力思考，并開發(fā)出“比自己更聰明的”人工智能，然后進(jìn)一步開發(fā)更聰明的人工智能，直到能力爆棚，變得跟上帝一樣。

　　沒有證據(jù)表明，僅僅靠思考智能就足以開發(fā)出更高級(jí)的智能。這種“思考主義”是一種信仰。但有很多證據(jù)表明，除了大量的智能外，還需要通過實(shí)驗(yàn)、數(shù)據(jù)、試錯(cuò)、反復(fù)質(zhì)疑，以及各種各樣智能之外的東西，才能成功發(fā)明新的思維。

　　總結(jié)來看，我對(duì)這些說法的分析可能都是錯(cuò)誤的。我們還處在發(fā)展早期，今后可能會(huì)發(fā)現(xiàn)一種通用的智能衡量標(biāo)準(zhǔn)，也可能發(fā)現(xiàn)智能可以在所有維度上變得無限強(qiáng)大。因?yàn)槲覀儗?duì)智能究竟是什么知之甚少（更別提“意識(shí)”了），所以人工智能奇點(diǎn)存在的概率大于零。我認(rèn)為，所有證據(jù)都表明，它存在的概率很低，但仍然大于零。

　　因此，盡管我不認(rèn)同這種可能性，但我的確認(rèn)同OpenAI所秉承的宏觀目標(biāo)，以及那些擔(dān)心超人類人工智能的聰明人所懷有的擔(dān)憂——我們應(yīng)該開發(fā)友好的人工智能，然后搞清楚如何向其灌輸與我們相似的自我復(fù)制價(jià)值觀。

　　雖然我認(rèn)為超人類人工智能在遙遠(yuǎn)的將來可能對(duì)我們的生存構(gòu)成威脅（而且值得考慮這個(gè)問題），但由于這種概率很低（根據(jù)目前的證據(jù)來看），所以不應(yīng)該因此而影響我們的科學(xué)、政策和發(fā)展方向。

　　小行星撞地球必然引發(fā)災(zāi)難，這種事情發(fā)生的概率大于零（所以我們才應(yīng)該支持B612基金會(huì)），但卻不應(yīng)該因?yàn)榇嬖谛⌒行亲驳厍虻目赡苄远绊懳覀冊(cè)跉夂蜃兓?、太空旅行甚至城市?guī)劃方面所做的努力。

　　類似地，目前的證據(jù)表明，人工智能最可能的結(jié)果不是成為“超級(jí)人類”，而是會(huì)出現(xiàn)成百上千的新型“超常人類”思維，這些思維多數(shù)都與人類不同，但沒有一個(gè)是通用智能，也沒有一個(gè)能夠像神一樣瞬間解決我們面臨的重大問題。

　　相反，今后將會(huì)出現(xiàn)無數(shù)種存在局限的智能技術(shù)，在我們并不熟悉的維度從事工作，在很多方面超越我們的思維，并及時(shí)與我們配合，從而解決既有問題，同時(shí)創(chuàng)造新的問題。

　　我理解超人類人工智能的巨大吸引力。我也希望能有超人出現(xiàn)，但與超人一樣，這同樣只是虛構(gòu)的神話。宇宙中的某個(gè)地方或許存在超人，但概率很低。然而，神話也很有用，一旦被發(fā)明出來，就不會(huì)消失。關(guān)于超人的想法永遠(yuǎn)不會(huì)消失。超人類人工智能奇點(diǎn)的想法既然已經(jīng)誕生，肯定就會(huì)永遠(yuǎn)存在下去。

　　但我們也應(yīng)該承認(rèn)，這目前還只是一種類似于宗教信仰的想法，沒有科學(xué)依據(jù)。如果我們認(rèn)真研究目前掌握的關(guān)于人工智能和自然智能的各種證據(jù)，就會(huì)發(fā)現(xiàn)，我們關(guān)于超人類人工智能的設(shè)想只不過是像神話一樣的錯(cuò)誤觀念。

　　與世隔絕的密克羅尼西亞群島上有很多人在二戰(zhàn)期間首次得以跟外界取得聯(lián)系。外來的上帝坐在轟鳴的大鳥身體里面，飛過他們的天空，把食物和物品投放到島上，之后便一去不返。于是，島上出現(xiàn)了一種宗教，他們祈禱上帝能夠回來投放更多物資。

　　即便是在55年后的今天，那里仍有很多人在等待上帝再次投下物資。超人類人工智能可能也會(huì)成為一個(gè)與之類似的宗教。一個(gè)世紀(jì)之后，當(dāng)人們回望這段歷史的時(shí)候，可能會(huì)想，此時(shí)的信仰者開始期待超人類人工智能隨時(shí)出現(xiàn)，為他們帶來不可思議的價(jià)值。年復(fù)一年，他們始終等待著超人類人工智能的出現(xiàn)，相信它很快就能載著“物資”降臨人世。

　　然而并沒有出現(xiàn)真正的超人類人工智能。我們一直在不斷重新定義這項(xiàng)技術(shù)，增加它面臨的困難，甚至可能在未來限制它的發(fā)展。但從異形智能——由多樣化的智能、認(rèn)知、邏輯、學(xué)習(xí)和意識(shí)構(gòu)成的連續(xù)統(tǒng)一體——的廣泛角度來看，人工智能已經(jīng)在這個(gè)星球上普遍存在，而且會(huì)繼續(xù)擴(kuò)散、深化、變異、強(qiáng)化。

　　之前沒有任何一項(xiàng)發(fā)明能像它一樣給我們的世界帶來如此大的改變。到本世紀(jì)末，人工智能可能會(huì)滲透并改變我們生活中的一切。不過，關(guān)于超人類人工智能的神話——既有可能是人類的福祉，也有可能奴役人類（或者二者皆有）——仍將存在下去。畢竟，這種可能性太過神秘，讓人欲罷不能。