Judea Pearl：從機(jī)器學(xué)習(xí)的帶領(lǐng)人到AI領(lǐng)域最堅(jiān)定的反對派

Judea Pearl幫助AI在概率計(jì)算上取得了巨大進(jìn)步，但是仍然嘆息道：AI在因果關(guān)系計(jì)算上無能為力。

AI得以發(fā)展到今天的聰明才智，離不開Judea Pearl的功勞。20世紀(jì)80年代，他帶領(lǐng)一批人實(shí)現(xiàn)了機(jī)器的概率推導(dǎo)。

而現(xiàn)在，他卻成為了AI領(lǐng)域最堅(jiān)定的反對派之一。在他最新的一本書《疑問之書：因果關(guān)系的新科學(xué)》（The Book of Why: The New Science of Cause and Effect）中，他指出AI進(jìn)步最大的一個(gè)掣肘在于，對“智能”到底意味著什么的基本性認(rèn)識不足。

三十年前，AI研究最大的挑戰(zhàn)在于，如何通過編程讓機(jī)器學(xué)會(huì)將潛在的原因與所觀察到的現(xiàn)狀進(jìn)行聯(lián)系。Pearl通過一個(gè)叫做貝葉斯網(wǎng)絡(luò)的方法解決了這個(gè)問題。

貝葉斯網(wǎng)絡(luò)讓機(jī)器能夠?qū)F(xiàn)象與可能的原因聯(lián)系起來：比如有一個(gè)病人剛從非洲回來，有發(fā)熱和頭痛的癥狀，那么最可能的解釋就是他感染了瘧疾。Pearl也因?yàn)檫@項(xiàng)成就獲得了2011年的圖靈獎(jiǎng)——計(jì)算機(jī)科學(xué)界的最高榮譽(yù)。

但正如Pearl所看到的那樣，AI領(lǐng)域陷入了概率關(guān)聯(lián)的泥沼。如今，社會(huì)被各種吹捧機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)最新研究突破的文章所淹沒。我們總是能讀到諸如機(jī)器掌握了傳統(tǒng)游戲的玩法、學(xué)會(huì)了駕駛汽車之類的文章。Pearl對此無動(dòng)于衷，在他看來，如今的AI只不過是上一代機(jī)器的加強(qiáng)版：從一大堆數(shù)據(jù)中找到隱藏的規(guī)律。

“所謂深度學(xué)習(xí)所取得的重大成就，加起來不過就是曲線擬合，”他說道。

81歲的Pearl在他的新書中詳細(xì)闡述了真正擁有智能的機(jī)器的思考方式。他認(rèn)為機(jī)器真正擁有智能的關(guān)鍵在于能夠使用因果推論，而非通過相關(guān)關(guān)系推論。

例如，僅僅做到將“發(fā)熱”和“瘧疾”聯(lián)系起來是不夠的，機(jī)器還要能推導(dǎo)出“瘧疾會(huì)導(dǎo)致發(fā)熱”。一旦這種因果的框架建立起來，機(jī)器就有可能提出一些反事實(shí)問題——如果施加某種干預(yù)，那么因果關(guān)系將會(huì)發(fā)生什么變化——Pearl視之為科學(xué)思考的里程碑。

同時(shí)，Pearl還提出了一套實(shí)現(xiàn)這種思考方式的形式語言——21世紀(jì)版本的貝葉斯框架，讓機(jī)器能夠概率性的思考。

Pearl期望因果推理能夠賦予機(jī)器人類級別的智能。他解釋說，在這種級別的智能下機(jī)器能夠與人類更有效地溝通，甚至進(jìn)行道德層面的交流，因?yàn)樗鼈円呀?jīng)具備了自由意志——當(dāng)然，也會(huì)有罪惡念頭。

Quanta 雜志社最近在圣地亞哥的一個(gè)會(huì)議上與Pearl取得了聯(lián)系，并在會(huì)議后對他進(jìn)行了電話采訪。以下是刪選過的采訪內(nèi)容：

Kevin Hartnett：為什么給新書起名叫作《疑問之書》？

Judea Pearl：這本書涵蓋了我過去25年所做的關(guān)于因果關(guān)系的工作，即因果關(guān)系在一個(gè)人的生命中意味著什么，因果關(guān)系的應(yīng)用，以及我們會(huì)如何根據(jù)固有的因果關(guān)系來答問。奇怪的是，這些問題都被科學(xué)界拋棄了，我在此就是想彌補(bǔ)科學(xué)界對于因果關(guān)系的忽視。

H：科學(xué)界舍棄了因果關(guān)系這種說法還挺讓人驚訝的。這不正是科學(xué)的全部嗎？

P：當(dāng)然，但是你沒法通過科學(xué)方程式實(shí)現(xiàn)這個(gè)愿望。代數(shù)語言是具有相稱性的：如果x能推導(dǎo)出y，那么y就能推導(dǎo)出x。我是在說必然關(guān)系。但是我們沒法使用數(shù)學(xué)語言描述一些簡單的事實(shí)——比如，即將到來的暴風(fēng)雨會(huì)讓氣壓表的讀數(shù)下降，而不是上升。

數(shù)學(xué)中不存在描述不對等關(guān)系的語言，諸如如果x導(dǎo)致了y，并不意味著y一定會(huì)導(dǎo)致x。我知道反對科學(xué)聽起來非常可怕，如果我對我媽這樣說，她可能會(huì)獎(jiǎng)勵(lì)我一巴掌。

但是科學(xué)是非常寬容的：當(dāng)注意到我們?nèi)鄙倜枋霾粚ΨQ關(guān)系的演算之后，科學(xué)會(huì)鼓勵(lì)我們?nèi)?chuàng)造一個(gè)。這時(shí)數(shù)學(xué)就發(fā)揮了很大的作用。當(dāng)我意識到一個(gè)很簡單的因果關(guān)系演算就能解決問題時(shí)，我整個(gè)人都驚呆了，當(dāng)今最厲害的統(tǒng)計(jì)學(xué)家都會(huì)認(rèn)為這個(gè)方法非常糟糕或者根本無法解決問題。但其實(shí)，所有這些我們能很輕松的在高中幾何學(xué)中找到證明。

H：幾十年前，您曾通過指導(dǎo)機(jī)器進(jìn)行概率推導(dǎo)而在AI領(lǐng)域取得了盛名。能解釋一下當(dāng)時(shí)AI界發(fā)生了什么嗎？

P：在20世紀(jì)80年代早期出現(xiàn)的問題是人們對于預(yù)測和分析診斷本質(zhì)的思考。當(dāng)醫(yī)生觀察一個(gè)病人的一系列癥狀時(shí)，他會(huì)得出這個(gè)病人罹患瘧疾或者其他疾病的概率。我們希望自動(dòng)化系統(tǒng)、專家系統(tǒng)能夠代替專家——不論是醫(yī)生、是礦物探尋者、還是別的什么需要付錢聘請的專家。在那個(gè)時(shí)候，我就想著能不能用概率的方式解決這個(gè)問題。

不幸的是，標(biāo)準(zhǔn)的概率計(jì)算模型需要巨量的空間和時(shí)間。我想出了一個(gè)叫做貝葉斯網(wǎng)絡(luò)的算法，只需要多項(xiàng)式時(shí)間，并且過程非常透明。

H：另外，在您的新書中，您稱自己為當(dāng)今AI界的叛徒。這是什么意思呢？

P：事實(shí)上，在創(chuàng)造出了幫助機(jī)器對不確定性進(jìn)行推導(dǎo)的工具之后，我給這個(gè)領(lǐng)域引入了一個(gè)更具挑戰(zhàn)性的任務(wù)：對因果關(guān)系進(jìn)行推導(dǎo)。許多AI界同事還在執(zhí)著于不確定性研究，許多研究還在以分析診斷為核心，無需考慮問題的因果關(guān)系。他們想做的就是得到好的預(yù)測結(jié)果和分析診斷結(jié)果。

我可以舉一個(gè)例子。現(xiàn)在所有我們看到的機(jī)器學(xué)習(xí)的研究都是以診斷模式執(zhí)行的——即，給事物打上“貓”或“老虎”的標(biāo)簽。他們不在乎“例外情況”，他們想要的只是識別物體，以及預(yù)測時(shí)間序列下物體的變化。

當(dāng)我創(chuàng)造出預(yù)測和診斷分析強(qiáng)有力的工具的時(shí)候，我就覺得自己像個(gè)叛徒，因?yàn)槲抑肋@只是人類智能的冰山一角。如果我們想要機(jī)器能夠?qū)δ承└深A(yù)下的“例外情況”進(jìn)行推導(dǎo)（例如，如果我們禁煙會(huì)怎么樣？），或者進(jìn)行反省性思考（例如，我高中畢業(yè)后會(huì)做什么？）時(shí)，我們必須使用隨機(jī)模型。相關(guān)關(guān)系是遠(yuǎn)遠(yuǎn)不夠的——這是因?yàn)閿?shù)學(xué)本身的客觀缺陷導(dǎo)致的，而不是個(gè)人主觀想法。

H：人們都對AI未來可以做到的事情充滿了希望，而你不是？

P：當(dāng)我看到越來越多深度學(xué)習(xí)的研究之后，我覺得他們都在相關(guān)關(guān)系的層級上停止前進(jìn)了，譬如曲線擬合。雖然這聽起來有點(diǎn)殘酷，但所有令人印象深刻的深度學(xué)習(xí)研究成就加起來，實(shí)質(zhì)上不過就是把曲線擬合到數(shù)據(jù)上。從數(shù)學(xué)層級的角度來看，無論在處理數(shù)據(jù)、分析數(shù)據(jù)時(shí)多么熟練，都不過只是一個(gè)曲線擬合練習(xí)，盡管這個(gè)過程復(fù)雜且繁瑣。

H：你談?wù)撉€擬合的方式，讓人覺得機(jī)器學(xué)習(xí)的成就并沒有怎么打動(dòng)你。

P：不，我印象很深，因?yàn)槲覀冊静]有期望能夠通過簡單的曲線擬合能夠解決很多問題，但事實(shí)上它做到了。我抱有懷疑的是關(guān)于未來的發(fā)展——接下來我們能期待什么？我們是否能創(chuàng)造出一個(gè)機(jī)器人科學(xué)家，做出試驗(yàn)計(jì)劃，找到未解決科學(xué)問題的新答案？這是我們接下來要做的事情。

我們同樣希望能夠與機(jī)器進(jìn)行有意義的溝通，而有意義則意味著符合我們的直覺。如果你沒法讓機(jī)器人具備因果關(guān)系的直覺力，那么就無法與之進(jìn)行有意義的溝通。機(jī)器人不會(huì)說出：“我原本可以做的更好”這樣的話，而這是你我天生就能做的。這樣，我們就失去了溝通的一個(gè)重要渠道。

H：那么對于機(jī)器掌握了因果關(guān)系直覺力的未來，我們可以期待什么？

P：我們需要給機(jī)器部署環(huán)境模型。如果機(jī)器沒有現(xiàn)實(shí)模型，那么我們就無法期待機(jī)器在現(xiàn)實(shí)中表現(xiàn)得很智能。首先第一步，也許是10年之內(nèi)會(huì)發(fā)生的事情，就是人類給機(jī)器部署現(xiàn)實(shí)概念模型。

下一步，機(jī)器將基于這些模型，自行基于歷史經(jīng)驗(yàn)驗(yàn)證或定義新的模型。這也就是科學(xué)界的工作方式，例如，我們從由圓形及本輪組成的地心說模型開始，最后以橢圓軌道的日心說結(jié)束。

同樣，機(jī)器人也能彼此交流，并能把這個(gè)假想的、野蠻的世界，轉(zhuǎn)為隱喻式的模型。

H：當(dāng)你和正在AI領(lǐng)域工作的人說起這些想法的時(shí)候，他們是什么反應(yīng)？

P：AI界如今各分天下。如果給那些沉醉于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)以及神經(jīng)網(wǎng)絡(luò)成就的人說我這些想法的話，他們并不會(huì)理解我。他們只想繼續(xù)曲線擬合。但如果和那些在AI界中非統(tǒng)計(jì)學(xué)習(xí)領(lǐng)域工作的人講，他們很快就會(huì)領(lǐng)會(huì)我的意思。過去這兩個(gè)月，我已經(jīng)讀到了幾篇關(guān)于機(jī)器學(xué)習(xí)局限性的論文。

H：你的意思是不是說，在機(jī)器學(xué)習(xí)之外有一些別的趨勢呢？

P：不是趨勢，而是一個(gè)嚴(yán)肅的意志探索之旅，我們需要不斷地自我拷問：我們要去哪？下一步要做什么？

H：這正好是我最想問你的。

P：我很高興你沒問我關(guān)于自由意志的問題。

H：那么，你是怎樣看待自由意志的？

P：我們未來一定會(huì)創(chuàng)造擁有自由意志的機(jī)器人，這點(diǎn)毫無疑問。我們需要思考的是怎么實(shí)現(xiàn)這一點(diǎn)，以及我們希望從中獲得什么。由于某些原因，進(jìn)化讓自由意志之感知在計(jì)算機(jī)層面變得可實(shí)現(xiàn)。

H：怎么說？

P：進(jìn)化讓我們具備了自由意志的感知。顯而易見，進(jìn)化遵從于一些計(jì)算函數(shù)。

H：如果機(jī)器人擁有了自由意志，會(huì)有很明顯的特征和信號嗎？

P：我認(rèn)為第一個(gè)特征就在于，機(jī)器人開始出現(xiàn)一些反事實(shí)的交流，譬如說：“你本應(yīng)該做的更好”。如果一隊(duì)正在踢足球的機(jī)器人開始以這樣風(fēng)格的語言進(jìn)行交流了，那么我們就知道它們某種程度上擁有了自由意志。“你應(yīng)該把那個(gè)球傳給我的——我在等你，但是你沒這樣做！”“你本應(yīng)該……”意味著你本可以做到一些沖動(dòng)和欲望之下你想做的事情，但是你沒能做到。所以第一個(gè)信號會(huì)是交流形式的變化，第二個(gè)會(huì)是行動(dòng)上的改進(jìn)。

H：現(xiàn)在你已經(jīng)談了很多關(guān)于自由意志的內(nèi)容，也許是時(shí)候問一下你關(guān)于罪行的問題了。罪行往往建立在有能力做選擇的基礎(chǔ)之上。什么是罪惡？

P：罪惡就是當(dāng)你的貪婪或者不滿超過了所有常規(guī)社會(huì)標(biāo)準(zhǔn)時(shí)，你內(nèi)心存在的意念。譬如說，一個(gè)人內(nèi)心有類似于軟件模塊的定義說：“你餓了，因此你被準(zhǔn)許采取一些行動(dòng)來滿足你的貪婪或不滿。”但同時(shí)，有別的模塊規(guī)定你需要遵守社會(huì)規(guī)章制度，其中一個(gè)叫做同理心。當(dāng)你把你的不滿提升到這些通常意義上的社會(huì)規(guī)章制度之上時(shí)，罪惡便隨之產(chǎn)生。

H：所以我們?nèi)绾蔚弥狝I具備了犯罪能力？

P：一個(gè)征兆就是機(jī)器人持續(xù)地忽略部分軟件組件，或者當(dāng)機(jī)器人開始遵從一些組件的指令而忽略掉別的組件，尤其是當(dāng)它們忽略了那些讓它們遵守基本行為準(zhǔn)則的組件，而這些組件或者已經(jīng)被部署在它們內(nèi)部，或者本來是希望它們基于歷史學(xué)習(xí)進(jìn)行獲取的。而機(jī)器人卻不再遵從。