人工智能的黑暗秘密該怎樣解釋

人工智能正滲透到我們現(xiàn)代生活的每一個(gè)角落，人工智能可以在Facebook上給你發(fā)布的圖片上的朋友貼上名字的標(biāo)簽，或者幫你選擇在Instagram上看到的圖片，而材料科學(xué)家和NASA研究人員也開始使用人工智能來幫助發(fā)現(xiàn)新科學(xué)和太空探索。

但這一技術(shù)存在一個(gè)核心問題，無論是在社交媒體上還是在火星漫游車中使用過程中，因?yàn)榻ㄔ焖某绦騿T都不知道人工智能做出每一個(gè)決定的原因。

現(xiàn)代人工智能仍是一種新事物，在過去的5年，大型科技公司對(duì)于人工智能的投資和研究才剛剛開始。而在此之前，已有幾十年歷史的關(guān)于人工智能的理論最終在2012年得到了證實(shí)。受人腦的啟發(fā)，一個(gè)人工神經(jīng)網(wǎng)絡(luò)依賴于“神經(jīng)元”之間的成千上萬個(gè)微小的連接，或者是小范圍一串串的數(shù)學(xué)計(jì)算，這類似于大腦中神經(jīng)元的連接系統(tǒng)。但這種軟件架構(gòu)給我們帶來了一種新的權(quán)衡：由于數(shù)百萬個(gè)連接的變化如此復(fù)雜和微小，研究人員無法準(zhǔn)確地確定正在發(fā)生的連接結(jié)果，他們只會(huì)得到一個(gè)輸出的結(jié)果。

“隨著機(jī)器學(xué)習(xí)在社會(huì)變得越來越普遍而且風(fēng)險(xiǎn)越來越高，人們開始意識(shí)到我們不能把這些系統(tǒng)當(dāng)作可靠和公正的保險(xiǎn)箱，”Hanna Wallach在一封電子郵件中告訴Quartz，他是微軟的高級(jí)研究員，也是會(huì)議的發(fā)言人。“我們需要了解它們內(nèi)部發(fā)生了什么，以及它們是如何被使用的?！?/p> 執(zhí)行關(guān)鍵任務(wù)的人工智能

在美國國家航空航天局的噴氣推進(jìn)實(shí)驗(yàn)室中，人工智能能夠讓火星探測器在探索未知行星表面時(shí)能夠半自主地運(yùn)行。人工智能還被用于進(jìn)行梳理探測器在傳回地球時(shí)拍攝的數(shù)千張照片的過程中。

Kiri Wagstaff是JPL的一名人工智能研究人員和發(fā)言人，他說，由于每一個(gè)決定都帶來了巨大的風(fēng)險(xiǎn)，在使用人工智能之前，我們需要完全理解它的每個(gè)決定。

“如果在火星軌道上有一艘宇宙飛船，這代表說它就在2億英里之外，并且需要數(shù)億美元的費(fèi)用，甚至可能是十億美元。如果出了什么問題，一切都難以挽救了?！盬agstaff說：“不花費(fèi)大量的金錢的話是沒有辦法修復(fù)、訪問、或者替換這些東西的。因此，如果我們想讓機(jī)器學(xué)習(xí)發(fā)揮作用，那么讓機(jī)器執(zhí)行這些任務(wù)的人需要了解它需要做什么，為什么要去做這個(gè)行為，因?yàn)槿绻麢C(jī)器人不知道自己為什么要做出選擇，人們?yōu)槭裁磿?huì)信任它來控制他們昂貴的火星探測器或軌道飛行器呢？”

Wagstaff正致力于通過NASA的各種航天器在太空中捕捉到的圖像建造人工智能對(duì)它們進(jìn)行分類，由于這些圖片的數(shù)量可以達(dá)到數(shù)百萬，所以如果人工智能在這龐大的數(shù)據(jù)庫中識(shí)別出有趣的照片，那么我們可以節(jié)省很多時(shí)間來找到我們想要看到的這些照片——但前提是人工智能知道一個(gè)“有趣”的圖像是什么樣的。

對(duì)Wagstaf而言，他覺得理解人工智能的目的是實(shí)現(xiàn)特定算法的關(guān)鍵。如果執(zhí)行機(jī)器學(xué)習(xí)過程中在如何使用圖像方面存在計(jì)算錯(cuò)誤，那就意味著數(shù)據(jù)轉(zhuǎn)移的任務(wù)成本價(jià)值數(shù)百萬美元以上。

Wagstaff說：“當(dāng)你看到一個(gè)電腦說‘這很有趣，讓我看一看這張圖片’時(shí)，你就會(huì)處于不確定的狀態(tài)，因?yàn)槟阕约簺]有完整的看過這百萬張照片，你不知道這些哪些是有趣的，或者為什么這是有趣的?！薄皥D片有趣是因?yàn)樗念伾?，因?yàn)樗男螤?，或者因?yàn)閳鼍爸形矬w的空間排列順序嗎？”

2007年，康奈爾大學(xué)的人工智能教授安德魯·戈登·威爾遜與一個(gè)團(tuán)隊(duì)合作開發(fā)了一種新型PET掃描機(jī)。由于某些粒子在這臺(tái)機(jī)器上與像其他一般的粒子表現(xiàn)的不一樣，他的任務(wù)是追蹤某個(gè)粒子穿過一盒氙氣的過程。

他的顧問建議嘗試使用神經(jīng)網(wǎng)絡(luò)來進(jìn)行監(jiān)測，而神經(jīng)網(wǎng)絡(luò)在當(dāng)時(shí)還是一種比較模糊的概念。利用這種技術(shù)，威爾遜能夠利用粒子發(fā)出的光將其定位在該盒氙氣中。

當(dāng)他得到了他想要的答案之后，威爾遜表示利用該算法用來理解光如何表示粒子位置的內(nèi)部規(guī)則之后，可能將會(huì)為接下來的研究開辟了一條新的道路。

威爾遜說：“在某種程度上，一個(gè)模型是我們觀察得出的理論，我們不僅可以利用模型進(jìn)行預(yù)測，還可以更好地理解為什么這種預(yù)測方向是正確的，以及這些自然過程是如何運(yùn)作的?！?/p> 解讀能力

不過微軟研究人員Wallach說，要在解釋性語言能力上開辟新領(lǐng)域，最大的挑戰(zhàn)之一就是怎樣簡單地定義它。

解讀能力是否意味著人工智能專家知道為什么Facebook數(shù)據(jù)的算法會(huì)向每個(gè)人展示一個(gè)特定的帖子，或者說，這是一種能讓你了解自己的方式？使用人工智能治療推薦系統(tǒng)的醫(yī)生是否需要知道為什么采用特定的建議治療方案，或者說我們還需要在醫(yī)院里創(chuàng)建另一個(gè)角色——人工智能監(jiān)測人員？

Wallach稱解讀能力是一種潛在的構(gòu)想：一種無法察覺的東西，但卻被測試了真實(shí)的人們?nèi)绾握_或錯(cuò)誤地使用人工智能系統(tǒng)。這不僅僅是提升算法觀察以及引擎運(yùn)行的方式。

了解一種算法并不僅僅是為了防止局限性或確保你的火星漫游者不會(huì)從太空懸崖上掉下來，而是可能可以幫助人工智能研究人員建立更精確的系統(tǒng)。

優(yōu)步公司的Yosinski說：“如果你不知道這個(gè)系統(tǒng)不工作的原因，要提高它的性能是相當(dāng)困難的?！薄巴ǔＧ闆r下，如果你知道它為什么會(huì)工作失敗的話，最后必然會(huì)找到一個(gè)解決方案?！?/p>

為了弄清楚其中一種算法是如何思考的，谷歌正試圖對(duì)每次通過算法處理圖像時(shí)進(jìn)行的數(shù)百萬次計(jì)算過程進(jìn)行層層篩選研究。在NIPS大會(huì)上發(fā)表的一篇論文中，通過觀察樹皮和鳥的互動(dòng)聯(lián)系，谷歌研究人員Maithra Raghu展示了她修復(fù)的之前有問題的啞鈴與機(jī)器人手臂之間的聯(lián)系。

當(dāng)人工智能研究鳥類的圖像時(shí)，我們可以觀察到人工智能網(wǎng)絡(luò)中哪些神經(jīng)元被激活，而Raghu能夠通過這些數(shù)據(jù)確定哪些神經(jīng)元專注于鳥的叫聲或者集中在樹皮上，最后再把樹皮神經(jīng)元關(guān)掉看看會(huì)有什么結(jié)果。取得這一成功意味著盡管人工智能是一個(gè)復(fù)雜的產(chǎn)物，但將神經(jīng)網(wǎng)絡(luò)的工作轉(zhuǎn)化為人類所理解的東西并非是不可能的事情。

Wagstaff說：“在學(xué)校里，我們要求學(xué)生用自己的理解來證明他們學(xué)到的東西，并展示這些來證明他們的理解是正確的?！薄艾F(xiàn)在我們希望機(jī)器也能做同樣的事情?！?/p>