AI大佬懟懟懟的背后,究竟暗藏哪些玄機?
四年前,紐約大學(xué)教授Marcus為反駁深度學(xué)習(xí)三巨頭之一Bengio的“有意識先驗”和“解糾纏觀念”理論,發(fā)表了一 篇名為《Deep Learning: A Critical Appraisal》的論文,長達27頁。概括來說,就是針對Bengio和Lecun所認為的“深度學(xué)習(xí)是通向未來AI無可替代路徑”的深度批判。 然而,就在Marcus筆跡未干之際,深度學(xué)習(xí)三巨頭的另一位——Lecun就在推特上回懟: “Thoughtful, perhaps. But mostly wrong nevertheless.(有想法,可能吧。但大部分都錯了)。”在Yann Lecun看來,Gary混淆了“深度學(xué)習(xí)”和“監(jiān)督學(xué)習(xí)”的概念,所以“mostly wrong”。
正因為這段話,有了他們的最新battle。針對近日LeCun在ZDNet的采訪中的自我否定:“已放棄使用生成網(wǎng)絡(luò)從這一幀預(yù)測視頻下一幀的研究,這是一次徹底的失敗”??吹轿羧諏κ值淖宰C失敗,Marcus自然不能錯過“自證清白”的機會,在他看來,LeCun現(xiàn)在說的都是他之前說過的,大部分內(nèi)容都在上述論文中,但LeCun當(dāng)時還嘲笑“mostly wrong”。
而在他發(fā)出此言論之前,Lecun已經(jīng)在采訪中對這位老對手發(fā)起了新一輪“攻擊”:“Gary Marcus不是做AI的,而是一個心理學(xué)家,從未對人工智能做出任何貢獻?!?/span> Marcus當(dāng)然也不能讓他:“LeCun不想讓別人發(fā)現(xiàn)他響應(yīng)過我曾經(jīng)的觀點,也不對這些觀點分享任何credit,這違反學(xué)術(shù)禮儀。另外,為了讓別人不信任我,他在采訪中對我進行了無端的、完全不實的抨擊……” 大佬們吵得熱鬧,但他們究竟在吵什么?能夠這樣十年如一日地吵來吵去,究竟因為哪些原則問題必須如此當(dāng)仁不讓?
爭論的背后:符號、控制、連接學(xué)派哪家強?
在四年前的爭論中,Marcus認為:“深度學(xué)習(xí)必須通過一些借鑒自經(jīng)典符號系統(tǒng)的操作得到增強,也就是說需要充分利用經(jīng)典人工智能技術(shù)(允許顯式地表示層次結(jié)構(gòu)和抽象規(guī)則)的混合模型,并將其同深度學(xué)習(xí)的優(yōu)勢相結(jié)合?!?/span> 事實上,符號學(xué)派的歷史頗為悠久,如果說蒸汽機和發(fā)動機開啟了第一次產(chǎn)業(yè)革命,內(nèi)燃機和電動機發(fā)動了第二次產(chǎn)業(yè)革命。人工智能掀起的新一輪從模擬化到數(shù)字化的革命就是自符號學(xué)派開始的。從機器定理證明,到跳棋程序,再到LSP處理語言和通用問題S求解程序……繼承了圖靈測試的衣缽,符號學(xué)派最初認為人工智能的本質(zhì)是對符號的邏輯運算——邏輯思維通過計算機中邏輯門的運算模擬出來,進而實現(xiàn)機械化的人類認知,形成人工智能。 在人工智能概念提出者McCarthy闡明其數(shù)理邏輯思維模式之后,Newell和Simon將他的觀點進一步推演為“物理符號系統(tǒng)假說”,該假說進一步將數(shù)理邏輯的模式推導(dǎo)至物理模式也可能產(chǎn)生智能行為。和數(shù)理邏輯通過運算模擬不同,因為物理符號聚焦在人類思考的高級行為上,所以認為推理、規(guī)劃、知識等都可以通過符號轉(zhuǎn)化。 從符號學(xué)派的底層認知邏輯不難看出,Lecun為什么會認為Marcus是心理學(xué)家,所以大佬們的撕逼也是從認知的本體論出發(fā)的。既然斷定通過人類思考的符號轉(zhuǎn)化無法達成真正的人工智能,那又有哪路神仙可以點化呢? 時間回到1943年,神經(jīng)科學(xué)家McCulloch和數(shù)學(xué)家Pitts合著論文《神經(jīng)活動中內(nèi)在思想的邏輯演算》,最早開啟通過大腦神經(jīng)元解釋思維過程,并通過大量非線性并行處理器模擬人類神經(jīng)元的實現(xiàn)方法。這一后來發(fā)展為連接學(xué)派的理論,從更為科學(xué)的人腦神經(jīng)出發(fā)解釋人類行為產(chǎn)生的動力機制。但理念誕生雖早,真正實現(xiàn)落地實踐卻是后話,這里只是埋下了伏筆。 上世紀(jì)60年代,隨著機器翻譯的宣告失敗,符號學(xué)派在產(chǎn)業(yè)界逐漸式微。取而代之的是行為學(xué)派。這一派的早期代表人物是控制論創(chuàng)始人Wiener,在二戰(zhàn)期間,他接受了一項與火力控制相關(guān)的研究工作。那時候他的研究主要基于如何讓只有1/3000擊中飛機概率的火炮提升精準(zhǔn)度,在沒有控制論概念的時代,機械思維的結(jié)果只能是無窮盡的提升零件的精度,思考維度大大限制了可達成的目標(biāo)。 Wiener通過汽車的制動原理聯(lián)想:我們在駕駛汽車的時候并不是瞄準(zhǔn)一個方向就一頭扎過去,那為什么發(fā)射出的炮彈不能通過微調(diào)一點點的到達指定目標(biāo)呢?根據(jù)這樣的想法,他和其他科學(xué)家一起設(shè)計了一系列的自動控制裝置和系統(tǒng),從而極大提高了火炮命中的精度。基于在二戰(zhàn)中的嘗試,控制論在1948年正式提出。 控制論的核心在于除了自身因素外,基于外界環(huán)境不斷對各類輸入信息進行反饋,從而達成系統(tǒng)控制的目的。這一理論的誕生,讓我們現(xiàn)在所熟知的傳感器開始應(yīng)用,基于傳感器的第一臺智能機器人也在這個時候誕生。但因為感知性能過于簡單,并沒有開啟AI的大規(guī)模應(yīng)用。 到了80年代,神經(jīng)網(wǎng)絡(luò)開始登上AI的歷史舞臺,這時據(jù)早期通過處理器模擬人類神經(jīng)元的設(shè)想已經(jīng)過去了三十多年。而它得以重現(xiàn)江湖的重要原因在于,隨著理論的不斷完善,科學(xué)家們突然在某天發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)居然具備自主的學(xué)習(xí)能力。 這一發(fā)現(xiàn)的標(biāo)志性事件之一發(fā)生在1986年,美國心理學(xué)家Rumelhart和深度學(xué)習(xí)之父Hinton發(fā)展了由心理學(xué)家Werbos在十二年前提出的BP算法,發(fā)表一篇反向傳播算法的論文。 此后20年,Hinton將神經(jīng)網(wǎng)絡(luò)由一層改進為多層,深度學(xué)習(xí)進入實證。再后來,吳恩達通過機器學(xué)習(xí)訓(xùn)練識別貓,DeepMind的AlphaGo戰(zhàn)勝世界圍棋冠軍,波士頓動力的Atlas和Spot……都是通過不斷的深度學(xué)習(xí)實現(xiàn)視覺、認知、NLP和自主行動的一次次智能化突破。 而量子計算未來能夠為人工智能帶來多大能量,我們?nèi)孕枋媚恳源?/span>
無論什么流派,本質(zhì)還是對人的思考
不得不說,因為神經(jīng)網(wǎng)絡(luò)近二十年來在產(chǎn)業(yè)界所做出的杰出貢獻,讓這一領(lǐng)域的各路AI大佬大放異彩。但通過對人工智能各流派底層邏輯的梳理,我們或許不應(yīng)該對哪個流派過度迷信,畢竟無論是符號、行為,還是連接學(xué)派,本質(zhì)上都是對人的認知方式和行為方式,或基于器質(zhì),或基于意識的思考和實踐。 最后,我們再來吃吃瓜。 其實吧,此次爭論中被Lecun Cue到的遞歸神經(jīng)網(wǎng)絡(luò)之父Jürgen Schmidhuber也是AI界的懟懟紅人了。上面我們提到Rumelhart和Hinton發(fā)展了BP算法這事,還有后續(xù)。2019年,Hinton因為在人工智能深度學(xué)習(xí)方法基礎(chǔ)的反向傳播算法上的貢獻獲得了本田獎。Schmidhuber便發(fā)文對究竟是誰原創(chuàng)反向傳播提出了質(zhì)疑,在他看來,“應(yīng)該是Werbos在1982年明確提出了上述反向傳播算法的首個面向神經(jīng)網(wǎng)絡(luò)的應(yīng)用”。 與此同時,Schmidhuber還申訴:“他(Hinton)的深度前饋神經(jīng)網(wǎng)絡(luò)是我1991年類似工作的翻版;1993年我的方法已經(jīng)能夠解決先前一些無法解決的‘非常深度學(xué)習(xí)’任務(wù)。” 但Lecun顯然是不認的,而且不僅現(xiàn)在說他是“插旗的”,還曾認為“Jürgen對眾人的認可過于癡迷,總是說自己沒有得到應(yīng)得的很多東西。幾乎是慣性地,總是在別人每次講話結(jié)束時都要站起來,說剛剛提出的成果有他的功勞,大體上看,這種行為并不合理?!?/span> Lecun的最新回應(yīng):
“I really have not changed my basic view of the way forward in Al.
It's still based on DL, predictive world models, and self-supervised learning.” “我真的沒有改變對Al發(fā)展方向的基本看法。它仍然是基于DL(Deeplearning,深度學(xué)習(xí)),預(yù)測世界模型和自監(jiān)督學(xué)習(xí)?!?/span> 實際上,無論是哪個時代,科學(xué)大佬們的撕扯都無處不在。遙想三百多年前,牛頓、胡克、萊布尼茲也因為引力、微積分的見解和知識產(chǎn)權(quán)歸屬問題爭得不可開交,而科學(xué)也在他們的爭論中不斷拆解、重塑和進步。 所以,無論是四年前,還是四年后,大佬們的battle永遠喋喋不休……