以人類道德標(biāo)準(zhǔn)來(lái)要求機(jī)器人，行嗎？

當(dāng)無(wú)人駕駛的自動(dòng)車成為現(xiàn)實(shí)，并開(kāi)始吸引更多想象空間，有關(guān)機(jī)器人與“道德” 之間的對(duì)話也開(kāi)始受到重視。例如Gary Marcus在《The New Yorker》發(fā)表“道德機(jī)器”(Moral Machines)，以及Robin Young在全國(guó)公共廣播電臺(tái)(媒體)的訪談均強(qiáng)調(diào)，該建立相關(guān)法規(guī)來(lái)管理未來(lái)可能徹底改變?nèi)祟惿畹臋C(jī)器人了。

Gary Marcus與Robin Young均提及Isaac Asimov所建構(gòu)的機(jī)器人三大 法則，以這些法則在一個(gè)無(wú)人駕駛的汽車世界中意味著什么。例如，如果你的汽車在行經(jīng)一座橋梁時(shí)，剛好遇上一輛校車在你的面 前突然回轉(zhuǎn)。那么，您的無(wú)人駕駛汽車該救你還是校車上的一群學(xué)童？　

以技術(shù)面來(lái)看，這些問(wèn)題中有許多情況(并非全部)應(yīng)該是發(fā)生故障了。因?yàn)?，在未?lái)的世界里，公共汽車并不會(huì)突然回轉(zhuǎn)到你的車道上，因?yàn)楣囓囮?duì)將成為首先配備主動(dòng)式安全電子系統(tǒng)的對(duì)象；或許不見(jiàn)得是無(wú)人駕駛公車，但也絕不容許駕駛?cè)藛T突然改變車道。無(wú)人駕駛汽車在面對(duì)這種關(guān)鍵時(shí)刻的反應(yīng)速度比你個(gè)人更快得多了。

不過(guò)，如果真的為所謂的“機(jī)器人道德”而感到傷腦筋其實(shí)也很可笑：因?yàn)樗日J(rèn)定了人類的道德準(zhǔn)則最優(yōu)越且具普世價(jià)值，而事實(shí)上，他們和人類幾乎完全不相同，在文化上也各異其趣。

就算是每個(gè)人的價(jià)值觀也不盡相同。你曾經(jīng)和孩子或朋友們玩過(guò)道德游戲嗎？例如你提出了一個(gè)問(wèn)題：“你會(huì)去偷食物來(lái)喂飽饑餓的家人嗎？”我想，并不是每個(gè)人都的答案都一樣。

從未來(lái)10年后的技術(shù)發(fā)展趨勢(shì)來(lái)看，我想屆時(shí)機(jī)器人的決策行為對(duì)于社會(huì)的影響可能比起今日的情況更好，對(duì)于道德倫理的考慮也會(huì)更不一樣。這一切可能會(huì)從自動(dòng)偵測(cè)到駕駛?cè)撕忍嗑贫管囎訜o(wú)法發(fā)動(dòng)開(kāi)始。

隨著機(jī)器人技術(shù)變得更智能化、更“人性化”且更普及，還會(huì)出現(xiàn)更多我們無(wú)法想象的種種挑戰(zhàn)。未來(lái)針對(duì)機(jī)器人道德規(guī)則的制定將是不可避免的。

特別是Asimov在“機(jī)器人三大 法則”中的第一條規(guī)則更形重要：機(jī)器人不得傷害人類，或坐視人類受傷害。其次，機(jī)器人必須服從人類的命令。第三，在不違背第一法則及第二法則的情況下，機(jī)器人必須保護(hù)自己。

為什么呢？因?yàn)樵谀承┣闆r下，機(jī)器人可能決定在必要時(shí)必須犧牲你，而拯救一群人，才是對(duì)社會(huì)最好的決定。

對(duì)于必須作出攸關(guān)生死決定的人而言，要建立或編寫這些規(guī)則是十分艱難的。也許我們應(yīng)該委托機(jī)器人來(lái)進(jìn)行。

你認(rèn)為呢？

編譯：Susan Hong