微軟聯(lián)合創(chuàng)始人比爾蓋茨的愛好之一就是讀書，從2012年開始，蓋茨每年會在夏季和圣誕假期前，向公眾推薦值得讀的圖書，內(nèi)容從科幻小說到人類歷史、從企業(yè)管理到個人傳記，其中總會有讓你感興趣的內(nèi)容。2018年底，蓋茨又為公眾推薦了五本書，本期為大家介紹的是自主武器這個話題。

Army of None

《無人軍團》（中文名暫譯）

保羅·沙雷

保羅·沙雷以前是游騎兵，曾在伊拉克和阿富汗執(zhí)行過四次作戰(zhàn)任務(wù)。后來，他在美國國防部從事政策方面的工作，領(lǐng)導(dǎo)了負責起草政府自主武器政策的工作組。他現(xiàn)在是新美國安全中心（位于華盛頓的一個智庫）的政策專家。他利用其經(jīng)驗和洞察力，用平實的語言對自主武器給未來戰(zhàn)爭的影響進行了鞭辟入里的剖析，全面描繪了未來自主武器時代的模樣。他巧妙地將未來武器系統(tǒng)、人工智能和政策要求結(jié)合在一起，給所有對未來軍事技術(shù)感興趣的人們一本必讀書。

自主武器（ Autonomous Weapon）是指能夠在無人干預(yù)的情況下獨立搜索、識別并攻擊目標的一種新式武器。目前某些防御武器所具有的能夠攔截來襲導(dǎo)彈、火箭彈、炮彈或鄰近飛機的自主模式均屬于自主武器的雛形。這個主題也成了好萊塢電影的常見劇情，諸如《終結(jié)者》和《黑客帝國》。雖然其運用很可能減少平民和部隊的傷亡，但是如果我們不夠謹慎，它也會帶來出乎意料的后果。

沙雷在開頭就清楚地表明，他并不反對有限制的自主武器的應(yīng)用。自主武器可以比人類操作員作出更快的反應(yīng)。在人類無法生存的環(huán)境中（例如高重力下的飛行）或通信中斷的情況下，自主武器會帶來很大的好處。此外，自主武器可能有助于挽救平民的生命。沙雷引用了機器人專家的話，“自主武器……它們不會尋求報復(fù)。他們不會生氣或者害怕。他們會把情緒排除在外。他們可以在必要時殺人，然后立刻停手。”

盡管有這樣和那樣的優(yōu)勢，沙雷并不希望軍方將判斷權(quán)轉(zhuǎn)交給計算機。在情勢復(fù)雜的戰(zhàn)場上，人類的判斷對于防止不必要的殺戮至關(guān)重要。

沙雷在結(jié)尾探究了在國際上完全禁止自主武器的可能性。他的結(jié)論是，這種絕對禁令不太可能成功。然而，他希望各國共同禁止自主武器的一些特定用途，例如針對個人的自主武器。他還相信，我們可以更新國際戰(zhàn)爭法，加入致命武器中人工參與的一般性原則。

正如沙雷所說，我們必須防止“被機器的魅力所誘——它們的速度、它們看上去的完美、它們冷酷的精準。” 我們不應(yīng)該讓軍事規(guī)劃者或編寫軟件的人來決定將底線劃在哪里。我們需要同全世界的專家和普通公民一道，共同參與這一重要議題的討論。