人工智能應(yīng)該有道德意識嗎

經(jīng)典科幻電影《銀翼殺手》中，背景是設(shè)置在2019年。電影中，這個年份已經(jīng)出現(xiàn)一種復(fù)制人，他們與人類幾乎一致，無論美麗的外表還是機(jī)智的判斷力，甚至對愛的感覺、對暴力的嗜好也一樣。當(dāng)然，還有追殺這些復(fù)制人的殺手。

復(fù)制人渴望成為人類，這應(yīng)是死罪么？如果有殺手機(jī)器人，應(yīng)該追究誰的責(zé)任？《銀翼殺手》核心，其實已經(jīng)涉及了一個關(guān)鍵問題：人工智能，應(yīng)該有道德觀么？如今，對比科幻電影，在現(xiàn)實中，我們已經(jīng)到了過去看起來很遙遠(yuǎn)的2019年。上述問題，其實還是沒有妥善答案?，F(xiàn)實中，阿里巴巴發(fā)起的研究機(jī)構(gòu)羅漢堂于2019年6月25日在杭州提出了“最關(guān)乎世界未來的十大問題”，有人稱為“世界終極十問”。

如同盜火的普羅米修斯，科技公司釋放了技術(shù)的能力，帶來物質(zhì)便利以及生活水平的提升；同時，也沖擊了原來的社會形態(tài)，可以說生產(chǎn)關(guān)系已經(jīng)改變。當(dāng)科技公司越來越大，市值萬億的公司開始涌現(xiàn)。在2018年前10大上市公司中，有七名都是科技公司，而且前五名都是科技公司，都來自中美兩國。這個時候，科技公司變得體量更大，也意味著暴露在更多社會關(guān)系中，與監(jiān)管用戶的關(guān)系日益復(fù)雜。

回顧經(jīng)濟(jì)史，創(chuàng)新一直存在，從蒸汽機(jī)到鐵路，對世界帶來的改變巨大，甚至經(jīng)濟(jì)的促進(jìn)作用，也并不亞于互聯(lián)網(wǎng)。隨著人工智能等技術(shù)加持，互聯(lián)網(wǎng)進(jìn)入轉(zhuǎn)折點?？萍脊炯娂娹D(zhuǎn)型平臺經(jīng)濟(jì)，甚至讓“中臺”成為關(guān)鍵詞。

與此同時，平臺經(jīng)濟(jì)也意味著公司規(guī)模擴(kuò)張，利益相關(guān)者增加，對于監(jiān)管以及信息的使用，都帶來各種挑戰(zhàn)。比如這些天，國內(nèi)外都在熱議甚至盛贊的Facebook發(fā)行數(shù)字貨幣Libra，然而在國外Facebook的相關(guān)新聞，不少則集中于隱私丑聞導(dǎo)致活躍度下降等方面。

科技的發(fā)展，對于互聯(lián)網(wǎng)公司管理其實也提出了挑戰(zhàn)。互聯(lián)網(wǎng)公司從邊緣的創(chuàng)新，一躍而為成為社會主流公司，也意味著必須承擔(dān)更多社會責(zé)任。這個時候，科技公司僅僅擁抱平臺戰(zhàn)略或者進(jìn)行中臺整合，已經(jīng)不足以應(yīng)對外界無日無之的打量。在6月羅漢堂年會上，阿里巴巴集團(tuán)CEO張勇和三位諾貝爾經(jīng)濟(jì)學(xué)獎得主由此對話，羅漢堂秘書長陳龍主持。這場對話核心議題之一，其實就在回應(yīng) ，誰是平臺經(jīng)濟(jì)的受益者？張勇表示，平臺不是一個人決定的，平臺是所有利益相關(guān)方的平臺；甚至平臺型公司并不是平臺的所有者，而只是在運營這個平臺，只是平臺的一部分。

這些討論見仁見智，但從超越行業(yè)的視角來看，其實有不一樣的高度。當(dāng)下，類似《黑客帝國》以及《三體》的科幻電影場景正在變?yōu)楝F(xiàn)實，對于人類社會沖擊逐漸展現(xiàn)。從數(shù)據(jù)的隱私安全到個人的職業(yè)保障再到階層的重組，都在接近轉(zhuǎn)折點。人類社會如何應(yīng)對這些挑戰(zhàn)，其實是超越了我們當(dāng)前的知識儲備；換言之，我們并非手握答案。認(rèn)識到這一點，是第一步。

例如開篇談到的人工智能道德觀問題。討論這個問題，常常有個兩難選擇的經(jīng)典場景，比如駕駛一輛失控汽車，假設(shè)必須選擇撞向一邊，左邊是老人，右邊是小孩，怎么辦？

類似的倫理難題，在人類開發(fā)人工智能的歷程中，也會遭遇不少類似的拷問。那就是，在多大的程度上、以怎樣的方式處理人工智能的“類道德問題”？與此相關(guān)，羅漢堂的學(xué)術(shù)委員會成員兩位諾貝爾經(jīng)濟(jì)學(xué)獎得主分別有所闡述。2011年諾獎得主托馬斯.薩金特認(rèn)為，機(jī)器并不是自己在學(xué)習(xí)，所以我們?nèi)祟愒诮o機(jī)器提供數(shù)據(jù)的時候，要努力去除掉一些偏見；2016年本特霍姆斯特羅姆（Bengt Holmstrom）則指出，人工智能也是公司一員，有工作動機(jī)，應(yīng)該給予其正確動機(jī)激勵。

人工智能的道德觀，這個問題并不是空想，不僅重要，甚至越來越迫切的問題。這個問題背后，不僅涉及算法以及道德問題，更是知識邊界拷問的問題。正如站在人類的角度，推進(jìn)人工智能當(dāng)然應(yīng)該有道德觀，但是人工智能會不會有道德觀是另外一個問題，而且人類的道德觀，是否適用人工智能，則是更大的問題。

類似十大問題的提出，其實比起如何回答更有意義。正如藝術(shù)家杜尚所言，沒有問題就沒有答案；反過來說，好的問題往往也意味著解決問題的開始。

比如回顧歷史，知識革命的先驅(qū)，并不一定總是來自于學(xué)院體制。比如在歐洲工業(yè)革命時期，一些民間社團(tuán)對技術(shù)革新發(fā)揮不小作用。比較著名的是英國月光社，他們就是由一些科學(xué)家與工程師甚至槍炮制造商等人自發(fā)組織。他們聚會的目的，不是為了賺錢，聚會的結(jié)果卻往往造成了科學(xué)可能性。制造蒸汽機(jī)的瓦特，就是其中一員。

當(dāng)代智庫或者社群，其實也應(yīng)該發(fā)揮類似的作用。國外有一個社群Edge，也是匯集各路聰明學(xué)者，發(fā)布年度重要問題。其中，一個聰明家伙就說，我足夠聰明到回答這些問題，但是我足夠聰明到提出這些問題么？好的問題，往往是成功的一半，集體智慧好過個人探索。知識邊界的拓展，永遠(yuǎn)從跨界的提問開始。