“殺手機器人”將成為現(xiàn)實！人類只剩1年時間阻止

據(jù)每日郵報報道，隨著人工智能技術(shù)的進(jìn)步，機器人獨立選擇和射殺目標(biāo)的可能性正日益加大。全自動武器或稱“殺人機器人”正迅速從科幻小說變成現(xiàn)實。但是新技術(shù)突破可能導(dǎo)致人類失去使用致命武器的控制權(quán)，人類現(xiàn)在只剩1年時間可以阻止“殺人機器人”誕生。

“殺人機器人”可被部署在陸海空領(lǐng)域，有望以驚人的方式徹底改變武裝沖突和執(zhí)法現(xiàn)狀。支持者表示，“殺人機器人”的存在很有必要，因為現(xiàn)代戰(zhàn)爭節(jié)奏非?？欤鴻C器人參戰(zhàn)可以確保士兵和警察免受傷害。

可是“殺人機器人”對人類的威脅可能超過任何軍事或執(zhí)法部門獲得的好處，人類失去對執(zhí)法目標(biāo)決策權(quán)將導(dǎo)致世界陷入危險，機器將可自主決定人類生死。平民受到不對稱傷害或被列為錯誤目標(biāo)的危險將大幅增加，而沒人會為此負(fù)責(zé)。

鑒于全自動武器存在的道德、法律以及責(zé)任風(fēng)險，控制它們的研發(fā)、制造以及使用已經(jīng)迫在眉睫。應(yīng)對這種威脅的最好方式就是制定有法律約束力的國際禁 令。至少20個國家已經(jīng)在4月份的聯(lián)合國大會上表態(tài)，支持人類決定執(zhí)法目標(biāo)的選擇。由人權(quán)觀察組織和哈佛法學(xué)院國際人權(quán)診所共同發(fā)布報告，也呼吁禁止全自 動武器。

保持人類對“殺人機器人”的控制具有道德意義。因為人類擁有同情心，可以感受到受害者的情緒變化。他們尊重人類尊嚴(yán)，會慎重考慮行動后果。而機器人缺少這些情緒，包括移情作用。此外，無情的機器并不理解人類生命的價值。由機器人決定是否使用武力將傷害人類尊嚴(yán)。

人類控制“殺人機器人”也會促進(jìn)遵守國際法，后者主要用于保護(hù)平民和士兵。人類可以基于以往的經(jīng)驗和道德規(guī)范做出判斷，可是“殺人機器人”無法復(fù)制這種判斷，無法對它們進(jìn)行可應(yīng)對所有假設(shè)情況的預(yù)先編程。結(jié)果，這些“殺人機器人”無法像“理性指揮官”那樣做出選擇和判斷。

按照國際刑法規(guī)定，人類操作者大多數(shù)情況下不必承擔(dān)武器傷害引發(fā)的責(zé)任。除非人類使用全自動武器實行犯罪，否則讓人類為機器人的行為負(fù)責(zé)是不公平 的，畢竟人類操作員無法預(yù)防或懲罰機器人。此外，尋求讓全自動武器程序員和制造商承擔(dān)責(zé)任也存在法律障礙，比如美國大多數(shù)武器制造商擁有豁免權(quán)。

在4月份的聯(lián)合國會議上，94個國家支持對處理“致命自動武器系統(tǒng)”開始正式討論，以決定這些系統(tǒng)是否受到《常規(guī)武器公約》限制。這些國家將于12月份參加評估會議，為未來工作設(shè)定議程。在12月份評估大會上，加入常規(guī)武器公約的國家有可能提議完全禁止全自動武器。

他們應(yīng)該發(fā)起新的國際協(xié)議談判以應(yīng)對全自動武器威脅，但是制定國際法的過程相當(dāng)緩慢，許多國家應(yīng)該更快行動起來，以應(yīng)對全自動武器的威脅。他們應(yīng)該抓住評估大會的機會，讓技術(shù)失去控制可能產(chǎn)生可怕的、空前的人道主義災(zāi)難。