機器人正變得越來越先進(jìn) 對人類控制的依賴程度不斷降低
美媒稱,能夠在沒有人類直接參與的情況下殺人的武器,即所謂的“致命性自主武器”很快就會出現(xiàn)。
據(jù)美國12月15日報道,2019年9月14日,少量無人機襲擊了沙特阿拉伯的胡賴斯油田和布蓋格煉油廠。除了中斷全球5%的原油生產(chǎn)外,這次襲擊還凸顯了使用這些遙控武器所帶來的一些挑戰(zhàn)。
報道稱,首先是難以問責(zé)。在事件發(fā)生近3個月后,仍不清楚是誰制造了這起襲擊事件。就像網(wǎng)絡(luò)戰(zhàn)中的黑客一樣,攻擊者幾乎沒有留下任何蹤跡。另一個問題是,這種武器體積小、成本相對較低,因而可能會對小股武裝分子或恐怖分子以及一些國家具有吸引力。
報道稱,這已經(jīng)夠嚇人了。但鑒于軍火工業(yè)目前的發(fā)展方向,這些擔(dān)憂還無法與未來可能產(chǎn)生的擔(dān)憂相提并論。
正如荷蘭非政府組織“和平”反戰(zhàn)組織在幾周前發(fā)表的一份報告中指出的那樣,世界正處于一條危險的路徑上,那些能夠在沒有人類直接參與的情況下殺人的武器,即所謂的“致命性自主武器”很快就會出現(xiàn)。這類武器更常見的名字叫“殺人機器人”。
報道稱,這個綽號在某種程度上具有誤導(dǎo)性,令人想起科幻電影中的“終結(jié)者”之類的幻想事物。事實上,這些工具類似于更傳統(tǒng)的致命裝置:無人戰(zhàn)機、坦克、潛艇;發(fā)生改變的不是武器的形態(tài),而是其自主程度。目前,完全自主的進(jìn)攻武器還沒有部署到實戰(zhàn)中,但機器正變得越來越先進(jìn),對人類控制的依賴程度不斷降低。
其中一個例子是由土耳其國有企業(yè)STM公司開發(fā)的“卡爾古”自主攻擊型四軸無人機。報道稱,它將于2020年部署在土耳其東部與敘利亞相鄰的邊境地區(qū)。據(jù)土耳其的一篇文章說,每個“卡爾古”機群將由30架無人機組成,它們都配有人工智能和面部識別系統(tǒng)。依靠目標(biāo)的坐標(biāo)或圖像,這些“卡爾古”無人機將能夠自主完成所有任務(wù)。幸運的是,在無人機發(fā)動攻擊的所有階段,人類操作員仍然可以選擇“中止任務(wù)”和“返回基地”。
報道稱,俄羅斯的T-14“阿瑪塔”主戰(zhàn)坦克配備了無人炮塔和計算機化系統(tǒng),因此經(jīng)常被作為另一個很快就能實現(xiàn)完全自主的裝備案例--盡管有些人懷疑這是否真的會使其在戰(zhàn)場上更加有效。
也許并非偶然的是,俄羅斯、以色列和美國等國家強烈反對預(yù)先禁止研發(fā)“殺人機器人”。聯(lián)合國11月在日內(nèi)瓦的一場會議上討論了預(yù)先禁止此類武器的問題。
正如最近的一篇特別報道中所指出的,預(yù)先禁止激光致盲武器的措施取得成功,因此從理論上講,這種禁令有可能同樣適用于“殺人機器人”。公眾的普遍意識和對禁令的強烈支持可能會使情況發(fā)生改變,而這正是目前所缺失的。