專訪聯(lián)想AI實(shí)驗(yàn)室負(fù)責(zé)人徐飛玉：深度學(xué)習(xí)的黑盒為何重要

當(dāng)深度學(xué)習(xí)的“魔力”在人工智能研究領(lǐng)域大放異彩之時(shí)，許多相關(guān)領(lǐng)域的研究者癡迷于深度學(xué)習(xí)所帶來的驚人的模型效果，卻往往忽略，或是刻意回避了這樣一個(gè)現(xiàn)實(shí)：經(jīng)過深度學(xué)習(xí)模型得出的結(jié)果，無法用目前所掌握的知識(shí)和邏輯去解釋。深度學(xué)習(xí)的模型，就像“黑盒”一般呈現(xiàn)在人們面前，但依然吸引著無數(shù)的研究人員趨之若鶩。

在聯(lián)想人工智能實(shí)驗(yàn)室負(fù)責(zé)人徐飛玉看來，可解釋性的AI（人工智能）是重要的，研究人員不應(yīng)該單純追求模型的精確預(yù)測(cè)結(jié)果，而忽略了模型的可解釋性，在25日舉辦的人工智能峰會(huì)上，徐飛玉分享了她以及她所帶領(lǐng)的聯(lián)想人工智能實(shí)驗(yàn)室，在可解釋性AI方面所取得的研究成果，在隨后接受騰訊新聞《一線》等媒體的專訪中，徐飛玉進(jìn)一步介紹了她所帶領(lǐng)的聯(lián)想人工智能實(shí)驗(yàn)室在成立兩年來所取得的進(jìn)展以及未來的重點(diǎn)發(fā)展方向。

徐飛玉認(rèn)為，可解釋性AI 對(duì)研究人員提出了更大的挑戰(zhàn)，不應(yīng)該只滿足于模型結(jié)果，應(yīng)該進(jìn)一步挖掘背后的機(jī)理，同時(shí)可解釋AI對(duì)于決策者來說也更加能夠接受，并應(yīng)用到具體的生產(chǎn)經(jīng)營環(huán)節(jié)中。

成立于兩年前的聯(lián)想人工智能實(shí)驗(yàn)室，目標(biāo)定位是做一家世界級(jí)的AI研究所，作為領(lǐng)頭人，她并不滿足于僅僅將AI應(yīng)用納入到聯(lián)想自身的生產(chǎn)經(jīng)營體系中，更大的目標(biāo)是能夠?qū)?shí)驗(yàn)室的人工智能研究能力開放出去，賦能更多的企業(yè)和用戶，最終推動(dòng)社會(huì)福祉向前。

可解釋性AI為何重要

“作為科學(xué)家，實(shí)際上我對(duì)于深度學(xué)習(xí)、黑盒子是不滿足的。”在回答騰訊新聞《一線》的提問時(shí)，徐飛玉說，“如果科學(xué)家只會(huì)解決很簡單的問題，那就不是科學(xué)家了?！?/p>

在當(dāng)天的演講中，徐飛玉表示，目前的深度神經(jīng)網(wǎng)絡(luò)對(duì)人類來說還是一個(gè)“黑盒子”，導(dǎo)致人類不敢用、不能用，阻礙了人工智能的落地和商業(yè)化。因此，可解釋性對(duì)機(jī)器學(xué)習(xí)，特別是深度學(xué)習(xí)是一個(gè)很大的挑戰(zhàn)。

“只有人類理解了AI的決策過程，才能將其應(yīng)用在更廣泛的社會(huì)場(chǎng)景中?！毙祜w玉說。

在接下來的專訪環(huán)節(jié)，徐飛玉進(jìn)一步解釋了她所理解的解釋性AI為何重要。以聯(lián)想自己為例，人工智能實(shí)驗(yàn)室會(huì)于業(yè)務(wù)集團(tuán)進(jìn)行合作，當(dāng)通過深度學(xué)習(xí)模型預(yù)測(cè)出，某個(gè)生產(chǎn)基地的某個(gè)部件的供應(yīng)量需要提高1%或降低1%，在與供應(yīng)鏈管理的具體決策者提出時(shí)，便需要能夠解釋，為何要提高或降低這1%，這一關(guān)鍵決策會(huì)直接影響到最終的生產(chǎn)、銷售環(huán)節(jié)，如果最后終端用戶需求達(dá)不到滿足，相應(yīng)的負(fù)責(zé)人就需要承擔(dān)責(zé)任。

只有當(dāng)預(yù)測(cè)出結(jié)果的模型能夠被清晰地解釋時(shí)，才能夠真正被相關(guān)決策者所接受，并最終實(shí)現(xiàn)模型最初所期望達(dá)到的目標(biāo)。

另外在醫(yī)療領(lǐng)域，越來越多的人工智能技術(shù)開始運(yùn)用到醫(yī)療診斷過程中，如果無法向醫(yī)生解釋診斷結(jié)果，也會(huì)影響這一技術(shù)最終的應(yīng)用。

“和人的生命健康有關(guān)系的那個(gè)黑盒子有可能不是一個(gè)大眾能夠接受的狀態(tài)?！毙祜w玉說，她認(rèn)為，在可解釋性方面，首先需要把“黑盒子”打開，其次是讓“黑盒子”里面的神經(jīng)產(chǎn)生語義，知道里面說的是什么意思，第三個(gè)是生成一些解釋給醫(yī)生。

聯(lián)想從事人工智能研究的獨(dú)特定位與優(yōu)勢(shì)

人工智能的重要性不言而喻，在某種程度上，掌握了人工智能，便掌握了未來科技行業(yè)發(fā)展的制高點(diǎn)，聯(lián)想在2017年3月成立了人工智能實(shí)驗(yàn)室，目的也是為了在這一領(lǐng)域占的先機(jī)。徐飛玉作為該實(shí)驗(yàn)室的負(fù)責(zé)人，對(duì)于實(shí)驗(yàn)室的定位和發(fā)展方向有著明確的把握，在專訪過程中，徐飛玉介紹，目前該實(shí)驗(yàn)室覆蓋的研究領(lǐng)域包括自然語言處理（NLP）、語音識(shí)別、計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)及智慧數(shù)據(jù)、AI訓(xùn)練平臺(tái)及AI開放創(chuàng)新平臺(tái)。

在這些研究領(lǐng)域的基礎(chǔ)上，聯(lián)想目前已經(jīng)形成了人工智能的創(chuàng)新生態(tài)，即通過學(xué)術(shù)合作，將技能、專業(yè)知識(shí)和技術(shù)傳導(dǎo)至人工智能實(shí)驗(yàn)室，充分利用聯(lián)想設(shè)備獲取的大數(shù)據(jù)進(jìn)行相關(guān)研究并部署到聯(lián)想云上，并向商業(yè)合作伙伴提供智能設(shè)備、智能云和智能服務(wù)等，同時(shí)，與合作伙伴合作所獲得的大數(shù)據(jù)，又能反哺聯(lián)想人工智能的研究，形成正向良性循環(huán)。

在業(yè)界各大公司紛紛設(shè)立自己的人工智能實(shí)驗(yàn)室的趨勢(shì)下，聯(lián)想的人工智能實(shí)驗(yàn)室卻展現(xiàn)出了其獨(dú)特性，在回答騰訊新聞《一線》的提問時(shí)，徐飛玉表示，對(duì)于聯(lián)想這樣一個(gè)在個(gè)人電腦領(lǐng)域全球第一的公司，AI Lab設(shè)立的目標(biāo)定位從一開始就是三個(gè)“Pro”，即“Product”（產(chǎn)品、服務(wù)）、“Process”（流程）和“Promotion”（宣傳）。

首先從產(chǎn)品端來看，聯(lián)想的人工智能技術(shù)有語音技術(shù)、自然語言分析技術(shù)、計(jì)算機(jī)視覺技術(shù)，這些技術(shù)可以讓聯(lián)想的設(shè)備、PC和手機(jī)在人機(jī)交互方面做得更好。這運(yùn)用到了兩個(gè)非常重要的技術(shù)，即：多媒體和多模型交互。從軟件和硬件解決方案兩方面，人工智能對(duì)于像聯(lián)想這樣的公司非常重要。

其次對(duì)于業(yè)務(wù)流程，聯(lián)想最顯著的一個(gè)例子是，運(yùn)用機(jī)器學(xué)習(xí)或者是可解釋的人工智能技術(shù)，幫助各層級(jí)的供應(yīng)鏈管理做得更好。

“聯(lián)想是一個(gè)典型的IT制造型公司，如果我們的process做得很好，可以為公司省很多成本。”徐飛玉說。

她表示，在供應(yīng)鏈方面，一般公司50%到70%的資金流都有可能被供應(yīng)鏈占據(jù)。這部分的優(yōu)化，能夠使得成本和效率得到顯著提升。

第三在宣傳方面，徐飛玉表示，聯(lián)想的“promotion”部分也很智能。不管是谷歌、阿里、百度、IBM，還是AlphaGo或者是IBM沃森，都有很好的promotion手段。

“我一直對(duì)聯(lián)想AI Lab團(tuán)隊(duì)有一個(gè)要求：雖然我們的團(tuán)隊(duì)很年輕，但是一定要把成為世界級(jí)AI實(shí)驗(yàn)室作為我們的目標(biāo)?！毙祜w玉說。

她認(rèn)為，盡管現(xiàn)在做人工智能的技術(shù)門檻比以前要簡單很多，因?yàn)橛泻芏嚅_源技術(shù)，但聯(lián)想AI Lab的定位是做一個(gè)世界級(jí)的AI實(shí)驗(yàn)室，參加國際競爭。

“我對(duì)團(tuán)隊(duì)平常工作的要求也很高。直接的結(jié)果就是給公司一個(gè)很好的Promotion。所以聯(lián)想AI Lab和其他公司不一樣的是，聯(lián)想AI Lab的目標(biāo)是把聯(lián)想的產(chǎn)品做得更加智能，并創(chuàng)造新的智能產(chǎn)品，第二個(gè)是幫助公司實(shí)現(xiàn)智能化變革，第三是讓整個(gè)聯(lián)想文化變成data driven smart（數(shù)據(jù)驅(qū)動(dòng)智能）的文化?！毙祜w玉說。

從事人工智能研究須將社會(huì)福祉考慮進(jìn)來

在信息時(shí)代，數(shù)據(jù)隱私已經(jīng)成為一個(gè)繞不開的話題，對(duì)于人工智能研究而言，掌握大量的數(shù)據(jù)是進(jìn)行研究的前提和基礎(chǔ)，如何平衡好數(shù)據(jù)隱私保護(hù)與研究的關(guān)系，徐飛玉在專訪中強(qiáng)調(diào)，作為科學(xué)家乃至整個(gè)公司，在進(jìn)行人工智能研究時(shí)，必須促進(jìn)人類社會(huì)福祉這一重要因素考慮進(jìn)來。

“研發(fā)人員不是在一個(gè)真空的世界里做研發(fā)，應(yīng)該知道我們生活在一個(gè)什么樣的環(huán)境中，”徐飛玉說，“不管是個(gè)人，還是安全，還是可解釋的人工智能，都必須成為我們研發(fā)人員應(yīng)該有的意識(shí)。“

在獲取數(shù)據(jù)方面，徐飛玉認(rèn)為，如果是為了讓研發(fā)項(xiàng)目做得更快，當(dāng)然是數(shù)據(jù)越多越好、數(shù)據(jù)孤島越少越好，但是另一方面，需要考慮到監(jiān)管和法律框架的影響。

但同時(shí)，許多領(lǐng)域由于法律制度還不健全，實(shí)際上阻礙了人工智能的應(yīng)用對(duì)于該領(lǐng)域的貢獻(xiàn)，例如在醫(yī)療領(lǐng)域，其實(shí)很多數(shù)據(jù)根本沒有打通，一個(gè)醫(yī)院里面可能部門和部門之間的數(shù)據(jù)都沒有打通。

“但是，如果要做罕見病的研究，有可能中國有100例，德國有20例，美國有10例，這個(gè)時(shí)候?yàn)榱巳祟惖陌l(fā)展、人類的進(jìn)步、醫(yī)療的進(jìn)步，這些數(shù)據(jù)應(yīng)該是被打通的，且必須打通，我覺得任何最終的發(fā)展都要為人類服務(wù)?！毙祜w玉說。

她提到另一個(gè)例子是肝病的相關(guān)數(shù)據(jù)，中國是世界肝病第一大國，肝病是全世界第三大的腫瘤，中國有如此多的數(shù)據(jù)，通過中國人和專家的經(jīng)驗(yàn)知識(shí)，完全可以賦能國際醫(yī)療研究。

徐飛玉認(rèn)為，在這部分可能不只是一個(gè)企業(yè)，還需要一個(gè)國家或者是整個(gè)學(xué)術(shù)的合作才能建立起來。

“我很高興地看到中國在率先做這個(gè)事情，即國家級(jí)的開放創(chuàng)新平臺(tái)，這個(gè)平臺(tái)也是全世界最先進(jìn)的平臺(tái)。聯(lián)想也愿意貢獻(xiàn)開放創(chuàng)新平臺(tái)生態(tài)和算法模型，賦能整個(gè)社會(huì)和全世界?！毙祜w玉說。