警惕！機器人開始“殺人”了

機器人開始“殺人”了。

前不久，亞馬遜公司位于新澤西的運營中心發(fā)生了這樣一起事故。由于一個機器人不小心刺破了防熊噴霧，且噴霧恰好從貨架掉了下來，導(dǎo)致防熊噴霧中所含的大量濃縮辣椒素釋放出來，造成了十多名員工呼吸困難，24人住院治療，1人情況十分危急。

盡管最終沒有人因此而喪失生命，但機器人的“謀殺”行為還是再次給人類上了嚴(yán)肅的“一課”。

機器人“殺人”早有前科

其實機器人導(dǎo)致人類受傷、乃至死亡的實例早已數(shù)不勝數(shù)。

早在四十年前的日本廣島，一家工廠的切割機器人在切鋼板時，發(fā)生異常，將一名值班工人當(dāng)做鋼板操作，最終導(dǎo)致了工人的死亡;

事故發(fā)生后的第二年，也就是1979年，美國福特公司在密歇根州的鑄造廠中一名裝配線工人被工業(yè)機器人手臂擊中身亡。福特被法院裁定賠償該員工家人1000萬美元;

到了1982年，日本山梨縣閥門加工廠的工人在調(diào)整停工狀態(tài)的螺紋加工機器人時，機器人突然啟動，釀成悲劇;

更離奇的是，在1989年，前蘇聯(lián)國際象棋冠軍古德柯夫和機器人對弈時，古德柯夫連下3局春風(fēng)得意，說機器人的智力是斗不過人類的。戲劇性的是，機器人對手就在這時突然向金屬棋盤釋放了高強度電流，而古德柯夫的手恰好放在棋盤上。就這樣，知名的國際象棋大師意外的丟了命。

......

而發(fā)生在最近也是最著名的事件就是2015年2月英國首例機器人心瓣修復(fù)手術(shù)。當(dāng)時在手術(shù)過程中達(dá)芬奇機器人出現(xiàn)了“暴走”情況，不僅把患者的心臟縫錯了位置，還戳穿了患者的大動脈。由于機器人主機運行時聲音很大，主刀醫(yī)生和助理交流只能完全依靠吼，期間，機械臂還數(shù)次打到了醫(yī)生的手。

雖然，主刀醫(yī)生Nair和助理見狀由機器人手術(shù)回到了傳統(tǒng)人工手術(shù)，但是正當(dāng)他們要修補機器人犯下的錯誤時，患者的心臟已經(jīng)非常“衰弱”了。一周后，接受這個英國首例機器人心瓣修復(fù)手術(shù)的患者不幸去世了。

這一事件的爆發(fā)引起了全世界范圍內(nèi)的關(guān)注，也讓原本能夠縫合葡萄皮、突破人手極限、在人手無法觸及地方可以進(jìn)行操作的達(dá)芬奇機器人，后續(xù)的推廣應(yīng)用造成了重大影響。英國最終經(jīng)過了三年才搞清楚事故的原因。

主刀醫(yī)生Nair承認(rèn)在這一手術(shù)中自己才做醫(yī)用機器人經(jīng)驗不足，心態(tài)過于著急，在手術(shù)之前根本沒有完成操作的培訓(xùn)課程。同時，Nair也承認(rèn)自己沒有告知患者是英國首位接受機器人修復(fù)二尖瓣手術(shù)的患者，手術(shù)存在很高的風(fēng)險，而采用傳統(tǒng)人工手術(shù)方法存活率會更高。

雖然由于機器人所引發(fā)的事故四十年來不曾斷絕，然而，造成諸多悲劇的最終禍?zhǔn)灼鋵嵾€是人。

這次亞馬遜機器人“謀殺”事件也并不例外。

應(yīng)用廣泛但問題不小的機器人

當(dāng)前，機器人在物流倉儲行業(yè)的應(yīng)用已經(jīng)非常廣泛和成熟。如亞馬遜、阿里巴巴、京東、菜鳥網(wǎng)絡(luò)等電商、物流公司都早已通過大面積使用機器人實現(xiàn)了從傳統(tǒng)物流到智慧物流的升級。機器人應(yīng)用的環(huán)節(jié)也非常普遍，包括倉儲的分揀、打包、傳送、搬運等。甚至，就連物流配送最難實現(xiàn)的自動化最后一公里，也有京東、美團(tuán)等試圖通過無人車和無人機去解決。

與此同時，倉儲物流市場也呈現(xiàn)出井噴式的發(fā)展，有機構(gòu)預(yù)計，近年來國內(nèi)的智能倉儲物流市場規(guī)模將超過1400億元。

本次發(fā)生事故的亞馬遜倉庫，也早在全球范圍內(nèi)投入使用了超過10萬個機器人,機器人的穩(wěn)定性和安全性應(yīng)該十分可靠,但悲劇還是發(fā)生了。

據(jù)悉，亞馬遜在其配送中心部署的這些機器人主要用于整理搬運物品。目前雖然沒有引發(fā)這次事故原因詳細(xì)的報告，但可以預(yù)知的是，引發(fā)事故的原因主要集中于幾個方面。包括員工上崗之前的培訓(xùn)、機器人設(shè)備操作是否遵循守則、以及機器人本身的穩(wěn)定性和智能化是否達(dá)到要求等。

事實上，人類在使用機器人的過程中往往會存在一些問題：

首先，機器人不夠智能、穩(wěn)定性差。日本、德國乃至前蘇聯(lián)早年的科技發(fā)展速度較快，因此也較早使用了機器人這種“黑科技”。但無奈的是，當(dāng)時無論是機器人的設(shè)計、穩(wěn)定性都并不成熟和完善，也因此造成了機器人將工人當(dāng)成鋼板、機器人意外擊中流水線工人、與國際象棋冠軍對弈突然釋放高強度電流等悲劇。

其次，就是人類本身急功近利的心態(tài)、或者操作不當(dāng)?shù)男袨閷?dǎo)致的意外事故。比如，英國手術(shù)的實例。以及同樣發(fā)生在2015年7月德國Baunatal工廠的一場事故。當(dāng)時一名工人負(fù)責(zé)協(xié)助安裝機器人身處在安全籠之中，安全籠將工人與操作金屬的機器人分隔開，但意外是另外一名工人也在現(xiàn)場卻未身處安全籠中，所以這名工人被機器人當(dāng)成了障礙物。由此引發(fā)了悲劇。

此外，還有技術(shù)方面的限制，在無人駕駛領(lǐng)域也尤其明顯。今年3月，Uber的一輛自動駕駛汽車就意外撞死了一名行人。根據(jù)當(dāng)?shù)鼐炀志珠L發(fā)言可知，受害人當(dāng)時是從陰影中突然出現(xiàn)在馬路上，而任何一種模式下的無人駕駛都很難避開這種碰撞。從技術(shù)角度的解釋就是，無人駕駛傳感器融合方案的限制，導(dǎo)致在惡劣天氣以及夜晚等情況下視覺和行人識別有誤甚至無法識別的現(xiàn)狀。

取代人類or解放人類?

在1940年，科幻作家阿西莫夫為了防止機器人傷害人類提出了“機器人三原則”：

1.機器人不能試圖傷害人類，也不能看見人類受傷害袖手旁觀;

2.機器人應(yīng)該服從人的命令，但不得違反第一原則;

3.機器人應(yīng)該保護(hù)自己，但不得違反第一、第二原則。

然而，這三個原則邏輯漏洞明顯，也無法解決實際問題。隨著機器人、人工智能的進(jìn)一步應(yīng)用落地，由其引發(fā)的安全問題成為了許多人關(guān)注的焦點。甚至，還有一部分業(yè)內(nèi)人士為此感到擔(dān)憂。特斯拉CEO馬斯克就曾經(jīng)在Twitter上表示，“我們要非常小心人工智能，它可能比核武器更危險” 。史蒂夫·霍金也曾說，人工智能可能是一個“真正的危險”，機器人可能會找到改進(jìn)自己的辦法，而這些改進(jìn)并不總是會造福人類。”

他認(rèn)為，人工智能的進(jìn)化并不必然是良性的。而一旦機器人達(dá)到能夠自我進(jìn)化的關(guān)鍵階段，人類就無法誤測它們的目標(biāo)是否與人類相同。人工智能可能比人類進(jìn)化速度更快，人類需要確保人工智能的設(shè)計符合道德倫理規(guī)范，保障措施到位。

因此，在2017年人工智能國際會議上，馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克、研發(fā)“阿爾法圍棋”的深度思維公司創(chuàng)始人哈薩比斯等科技界名人兼從業(yè)者簽署了公開信，呼吁聯(lián)合國應(yīng)該像禁止生化武器一樣，禁止在戰(zhàn)爭中使用致命的自主武器和“殺人機器人”。

而亞馬遜也曾向美國聯(lián)邦通信委員會提交過一份報告，該報告表明亞馬遜正在研發(fā)一種保障機器人安全性的新技術(shù)。該技術(shù)可以通過定位有效地防止倉儲中心的機器人意外傷人。

其實，人類對機器人的認(rèn)知和期待可謂千人千面。在普通消費者眼中，機器人發(fā)展太慢，不夠“智能”無法思考;在部分專家眼里機器人發(fā)展很快，進(jìn)化到最后很可能取代人類。

究竟是取代人類or解放人類?

That is a good question。