微軟聯(lián)合創(chuàng)始人比爾蓋茨的愛(ài)好之一就是讀書，從2012年開始，蓋茨每年會(huì)在夏季和圣誕假期前，向公眾推薦值得讀的圖書，內(nèi)容從科幻小說(shuō)到人類歷史、從企業(yè)管理到個(gè)人傳記，其中總會(huì)有讓你感興趣的內(nèi)容。2018年底，蓋茨又為公眾推薦了五本書，本期為大家介紹的是自主武器這個(gè)話題。

Army of None

《無(wú)人軍團(tuán)》（中文名暫譯）

保羅·沙雷

保羅·沙雷以前是游騎兵，曾在伊拉克和阿富汗執(zhí)行過(guò)四次作戰(zhàn)任務(wù)。后來(lái)，他在美國(guó)國(guó)防部從事政策方面的工作，領(lǐng)導(dǎo)了負(fù)責(zé)起草政府自主武器政策的工作組。他現(xiàn)在是新美國(guó)安全中心（位于華盛頓的一個(gè)智庫(kù)）的政策專家。他利用其經(jīng)驗(yàn)和洞察力，用平實(shí)的語(yǔ)言對(duì)自主武器給未來(lái)戰(zhàn)爭(zhēng)的影響進(jìn)行了鞭辟入里的剖析，全面描繪了未來(lái)自主武器時(shí)代的模樣。他巧妙地將未來(lái)武器系統(tǒng)、人工智能和政策要求結(jié)合在一起，給所有對(duì)未來(lái)軍事技術(shù)感興趣的人們一本必讀書。

自主武器（ Autonomous Weapon）是指能夠在無(wú)人干預(yù)的情況下獨(dú)立搜索、識(shí)別并攻擊目標(biāo)的一種新式武器。目前某些防御武器所具有的能夠攔截來(lái)襲導(dǎo)彈、火箭彈、炮彈或鄰近飛機(jī)的自主模式均屬于自主武器的雛形。這個(gè)主題也成了好萊塢電影的常見劇情，諸如《終結(jié)者》和《黑客帝國(guó)》。雖然其運(yùn)用很可能減少平民和部隊(duì)的傷亡，但是如果我們不夠謹(jǐn)慎，它也會(huì)帶來(lái)出乎意料的后果。

沙雷在開頭就清楚地表明，他并不反對(duì)有限制的自主武器的應(yīng)用。自主武器可以比人類操作員作出更快的反應(yīng)。在人類無(wú)法生存的環(huán)境中（例如高重力下的飛行）或通信中斷的情況下，自主武器會(huì)帶來(lái)很大的好處。此外，自主武器可能有助于挽救平民的生命。沙雷引用了機(jī)器人專家的話，“自主武器……它們不會(huì)尋求報(bào)復(fù)。他們不會(huì)生氣或者害怕。他們會(huì)把情緒排除在外。他們可以在必要時(shí)殺人，然后立刻停手。”

盡管有這樣和那樣的優(yōu)勢(shì)，沙雷并不希望軍方將判斷權(quán)轉(zhuǎn)交給計(jì)算機(jī)。在情勢(shì)復(fù)雜的戰(zhàn)場(chǎng)上，人類的判斷對(duì)于防止不必要的殺戮至關(guān)重要。

沙雷在結(jié)尾探究了在國(guó)際上完全禁止自主武器的可能性。他的結(jié)論是，這種絕對(duì)禁令不太可能成功。然而，他希望各國(guó)共同禁止自主武器的一些特定用途，例如針對(duì)個(gè)人的自主武器。他還相信，我們可以更新國(guó)際戰(zhàn)爭(zhēng)法，加入致命武器中人工參與的一般性原則。

正如沙雷所說(shuō)，我們必須防止“被機(jī)器的魅力所誘——它們的速度、它們看上去的完美、它們冷酷的精準(zhǔn)?！?nbsp;我們不應(yīng)該讓軍事規(guī)劃者或編寫軟件的人來(lái)決定將底線劃在哪里。我們需要同全世界的專家和普通公民一道，共同參與這一重要議題的討論。