致命性自主武器系統的定義方法

曹華陽， 況曉輝， 李 響， 趙 剛

(北京系統工程研究所 信息系統安全技術重點實驗室, 北京 100101)

致命性自主武器系統的定義方法

曹華陽， 況曉輝， 李 響， 趙 剛

(北京系統工程研究所 信息系統安全技術重點實驗室, 北京 100101)

致命性自主武器系統引發國際社會軍控問題討論，但對于致命性自主武器系統的定義這一核心問題，國際社會難以形成統一認識。針對目前缺乏關于致命性自主武器系統統一定義方法的問題，報告了當前國際上關于致命性自主武器系統的認識現狀，進行了定義方法調查，提出了情境和關鍵特征相結合的致命性自主武器系統定義框架?；谠摽蚣?，可從關鍵特征、應用場景、作戰中發揮的作用3個維度對致命性自主武器系統的概念進行界定，并可對已有定義進行分析。

自主性武器；智能武器；自動化武器；無人武器；定義框架

隨著信息技術的快速發展和世界新軍事革命的逐步深入，信息系統的智能化和武器裝備的無人化趨勢凸顯，各信息大國競相制定發展戰略，發展相關裝備技術，積極謀求智能化無人作戰領域的優勢和主動權，這一趨勢引發國際社會的高度關注。2012年，人權觀察組織發表《失去人性：反對殺人機器人》的報告，呼吁世界各國政府禁止全自主武器系統[1]。隨后，紅十字國際委員會(International Committee of the Red Cross，ICRC)組織發表文章呼吁對此類武器系統進行關注[2]。在此背景下，聯合國特定常規武器公約(Convention on Certain Conventional Weapons，CCW)締約國自2014年起，以非正式專家會議形式專門討論致命性自主武器系統(Lethal Autonomous Weapons Systems，LAWS)問題。2016年的非正式專家會議是在CCW框架下就LAWS問題舉行的第三次會議，重點針對LAWS的定義、人道主義法面臨的挑戰以及對國際安全的影響等問題進行研討。其中LAWS的定義問題旨在界定討論對象的范疇，是其他問題的基礎，已成為LAWS相關討論中的核心問題，并被確定為聯合國CCW下一屆會議關于LAWS問題討論的主要內容之一。

智能化和無人化是當前裝備技術發展的重要趨勢，智能化無人作戰武器的軍備控制問題，尤其是LAWS相關問題已成為擺在國際社會面前的重大現實問題。但是目前國際社會對LAWS定義的認識仍未統一，且各方對定義的制定也沒有統一的方法和參考標準，這已經嚴重阻礙了國際社會對相關問題的研討和相關草案的制定。

本文梳理了現有定義方案和定義方法，分析了LAWS定義中涉及的關鍵特征，并提出了情境和關鍵特征相結合的LAWS定義框架。該框架涵蓋現有定義，具有良好的擴展性，可為推動LAWS問題的國際研討提供參考借鑒。

1 國際社會對LAWS定義的認識

1.1 目前已提出的LAWS定義

美國在無人作戰領域走在前列，并就自主武器系統的定義發布了專門文件。在美國國防部2012年11月發布的編號為DoDD 3000.09的指導文件《Autonomy in Weapons Systems》[3]13中，將自主武器系統定義為：“一旦激活，便能夠在沒有人員進一步操作的情況下，自主選擇目標并與之交戰的武器系統”。同時，這份文件還提出了另外2個相關的概念：有人監督的自主武器系統和半自主武器系統。前者是指“在武器系統發生故障、造成嚴重損失之前，允許人類干預和解除其功能的自主武器系統”，后者是指“一旦激活，便能夠與人類選擇的特定目標或者目標群進行交戰的武器系統”。從聯合國CCW會議的公開文件來看，與美國觀點類似，英國代表認為LAWS是一種機器人武器系統，它能夠在機器控制下(而不是人類控制下)識別、選擇人類作為目標并實施武力攻擊[4]。

此外，一些國家代表則從LAWS本身的功能方面進行界定，如在CCW會議上，法國代表認為，LAWS應當具備自由行動的能力，適應環境的能力，達成目標的能力和產生致命性效果的能力。LAWS應具有完全的自主功能性，而當前的自動化武器并不能歸類于LAWS[5]。與之類似，日本代表認為，LAWS需要在無人為干預的情況下實現自主部署和修復、識別目標、攻擊決策、對目標實施致命性武力攻擊(特別是對人類目標)[6]。

還有國家進一步認為，對LAWS概念的討論還應包括更一般意義的自主武器系統(Autonomous Weapons Systems，AWS)。如加拿大代表認為，當機器人系統能夠有效應對環境復雜性(如空間、植被、地形)、任務復雜性(如識別敵我、克服困難達成目標)、機械控制(如控制機械足、電機、機械鰭)等問題時，就可以說該系統在執行特定任務下具備自主性[7]。瑞士則從法律的角度給出了定義[8]：AWS是一種能夠在國際人道法(International Humanitarian Law，IHL)的規定范圍內部分或全部地替代人類執行武裝行動的武器系統，特別是在目標選擇方面。

可以看到，在CCW會議上，以美國等國家為代表的技術先進國家認為LAWS是一種未來的武器系統，但一些中小發展中國家則持不同觀點。如塞拉利昂認為LAWS并不一定是未來的系統，當前武器系統增加自動化能力就可以具備自主性，考慮到被濫用的風險，不應當發展這類武器系統[9]。巴基斯坦、哥斯達黎加認為LAWS是缺乏人類干涉，并且可以決定人類生死的武器系統，由于武器系統缺乏同情和直覺的能力，且可能引起軍備競賽，應當禁止發展LAWS[10-11]。

與之相對的，以色列、土耳其代表則認為，LAWS相關問題應以給出LAWS明確定義為基礎，且當前LAWS尚未出現，不支持預防性禁止LAWS[12-13]。

除了各國代表，聯合國CCW會議也邀請了國際組織參與討論。紅十字國際委員會在正式文件中，將LAWS定義為任何在關鍵功能方面具備自主性的武器系統，即不需要人類干預而能夠選擇(搜索、探測、識別、追蹤、選擇)和攻擊(如使用武力打擊、抵消、破壞或毀滅)目標的武器系統[14]。Article 36是一個位于英國的非營利組織，該組織給出的LAWS定義為：不需要行使有意義的人類控制(meaningful human control)而能夠自行工作的武器系統[15]4。類似地，人權觀察組織將LAWS定義為：作為一種未來的武器系統，一旦啟動，能夠借助傳感器和人工智能，無須人類控制可以在每次攻擊行動中自行選擇目標并做出致命攻擊決定[16]。

1.2 對定義現狀的分析

總的來看，當前國際社會對于LAWS的定義尚未形成明確而統一的認識。大部分中小發展中國家并未給出明確的LAWS定義，但傾向于認為LAWS無法遵守國際人道主義法的區分原則、比例原則和必要性原則，呼吁禁止發展和使用LAWS。美、英、以色列等技術先進的國家傾向于認為LAWS是未來的武器系統，當前的智能化無人裝備依賴有意義的人的控制或人的判斷功能，能夠遵守國際人道主義法，不應受到限制。

各國間存在分歧的根本原因在于各自的國家利益。智能化、無人化裝備已經在現代軍事行動中展現出特有的優勢，技術先進的國家不希望其自主武器系統相關裝備技術發展受到限制，因而傾向于將LAWS限定為未來的武器系統，從而避免現有無人裝備受到軍備控制，比如美國強調了其現有無人裝備屬于自動化武器而非自主性武器，因此這些武器不會受到DoDD 3000.09的制約和限制；而自主武器系統技術門檻高、經費投入大，廣大中小發展中國家難以超越，為避免在未來戰爭中陷入有人裝備對抗無人系統的不利局面，期望將LAWS的范疇擴大，并通過限制性條款制約此類武器的部署和應用，古巴等國更是在LAWS定義尚未明確的情況下就要求禁止LAWS[17]。

由此可見，當前關于LAWS相關問題的討論不可避免地會涉及LAWS的定義問題，為了推動LAWS相關問題的討論和國際草案的制定，亟須各國之間對LAWS的定義形成統一認識。但目前各國對LAWS的定義缺乏統一的定義方法，各國采用各自習慣方式給出的定義之間難以形成比較和對應關系，不利于各方基于其開展研究和討論，導致CCW會議已召開三屆，仍未就LAWS的定義達成共識。

2 LAWS的定義方法研究

關于致命性自主武器系統的概念，我國尚未見明確定義。本文通過研究常用地給出定義的方式，提出了界定LAWS概念的多維定義框架這一定義方法，并探討了與LAWS相關的情境和關鍵特征。

2.1 定義方式

對于不同的概念，其適用的定義方式也不同。對于LAWS的定義，首先需要確定合適的定義方式。參考維基百科關于定義的總結[18]，采用文字對概念進行定義的方式，常見有如下幾種：

1) 詞法定義：提供一個與原詞相當的表達來描述一個詞或者一個表達的意義。比如“勝利”可以定義為“在斗爭或競賽中打敗對方”。

2) 情境定義：也稱上下文定義。有些詞無法清晰地定義，但可以通過使用一個不出現這個詞的句子來解釋這個詞在上下文的意義。比如“黑客”可以定義為“未經授權進入一個計算機的存儲系統的人”。

3) 內涵定義：將一個物件與其他物件之間不同的所有特征列舉出來。比如“口徑小于6 mm的子彈”是一個特定集合的內涵定義。

4) 外延定義：描述一個概念或者詞的外延，即所有這個概念或者詞所包含的事物。比如“國家”的外延定義是指古今中外一切國家。

5) 列舉定義：是一種外延定義的方式，它列出一個概念或者詞所描寫的所有的物件。比如《孫子·地形篇》列舉定義“地形”為“通，掛，支，隘，險，遠”。

6) 理論定義：使用一個學科的理論對一個詞作一個定義，比如“千克”的最初定義為“4攝氏度時1立方分米純水的質量”。

7) 遞歸定義：又稱歸納定義，它是使用有意義的方式用一個詞來定義這個詞本身。比如以下為自然數的遞歸定義：“1是一個自然數，比自然數大1的數也是自然數，所有其他數都不是自然數”。

8) 循環定義：比如“祖父是父親的父親，父親是祖父的兒子”就是一個循環定義。循環定義需要假設別人已經對被定義項有一定的了解。

由于LAWS及其相關技術還在發展過程中，缺乏成熟理論和技術支撐，循環定義、遞歸定義、理論定義、詞法定義方法顯然不適合用于定義LAWS。外延定義、列舉定義也不適合LAWS這類非有限集合的事物。

目前，LAWS較可行的定義方式包括情境定義和內涵定義。其中，情境定義方式需給出LAWS的使用場景以及作用，內涵定義則需要給出LAWS區別于其他事物的特征。

2.2 定義框架

相比其他軍事裝備只是被作為武器使用，LAWS由于具備了自主性，從而兼具“武器”和“戰斗員”這2個原本獨立的屬性，使得僅采用情境描述或者僅采用內涵特征的方法都不能準確定義LAWS這一概念。我們結合情境定義和內涵定義方式，提出采用情境和關鍵特征相結合的框架方式作為LAWS的定義方法?？蚣芫唧w包括關鍵特征、作戰功能和應用場景3個維度，其中后面2個維度體現了情境定義這一方式。LAWS定義框架如圖1所示。

圖1 LAWS定義框架

從圖1可以看到，LAWS的應用場景涵蓋了攻擊、防御場景，以及自然、電磁、戰術環境，需要說明的是，以上兩者之間可以存在交叉，這里進行一定簡化，將它們放入一個維度考慮。一些國家認為，在攻擊和防御場景下，LAWS所能行使的作戰手段和作戰目標應有所區分，如美國認為，實施攻擊的LAWS應當以電子干擾等方式作為攻擊手段，或者僅以物體為目標進行打擊，而實施防御的LAWS則可以對車輛等目標進行致命打擊[3]3。而自然、電磁、戰術環境則涵蓋了LAWS活動環境中可能需要應對的有形世界、無形世界、與其他系統/人類的交互世界。

定義框架中的作戰功能維度則包括了搜索探測、跟蹤識別、威脅判斷、攻防決策、武力打擊、效果評估。這一維度基本涵蓋了一次戰斗的完整步驟，其中搜索、探測、跟蹤、評估等屬于非致命性的自主功能，而威脅判斷、攻防決策、武力打擊等屬于致命性的自主功能，LAWS具備哪些功能還應當與其使用場景有關。

以上定義框架中，應用場景和作戰功能是所有武器系統使用時的客觀環境和作戰要求，而關鍵特征則是對LAWS特有內涵的描述。下面對這些關鍵特征進行分析。

2.2.1 關鍵自主功能

關鍵自主功能是界定LAWS的關鍵特征。在研究LAWS定義時，詳細分析武器系統與作戰相關的功能，結合情景分析關鍵功能是由人實施、人控制下機器實施還是機器自主實施，是給出LAWS定義的有效途徑，這需要首先明確關鍵自主功能的類型。對于關鍵自主功能的劃分基本有2種觀點：一種認為只有選擇人類作為攻擊目標以及決定是否進行攻擊屬于關鍵自主功能，這種觀點占據主流，根據已公開的政策，美國、英國以及ICRC組織等偏向這一觀點。在2015年7月以霍金等為代表起草，并得到全球數千名科學家和學者簽名的禁止“攻擊性自動武器”的公開信中，也把無須人類命令便能夠選擇并攻擊目標的人工智能武器，與無人機和巡航導彈等人類選擇打擊目標的自動武器有所區別[19]。另一種觀點認為，與作戰相關的功能都屬于要考慮的范圍，如法國、日本、加拿大等國家和Article 36的定義偏向這一觀點，根據這種觀點，LAWS不僅需要具備第一種觀點中的選擇和攻擊能力，而且應當具備如自主導航、搜索、補給、修復等通用功能。

2.2.2 自主程度

自主程度也是LAWS的關鍵特征，它和關鍵自主功能構成了自主性這一概念。目前對自主性開展研究較多的是美國，為了對自主性的定義進行規范，美國國家標準研究院(National Institute of Standards and Technology，NIST)整合了多個部門和領域的需求，成立了無人系統自主級別框架工作組(Autonomy Levels For Unmanned Systems，ALFUS)，并給出了他們對自主性的定義[20]：自主性是無人系統自我管理水平和自我管理質量的量度；是無人系統在預定任務目標實現過程中感知、理解、分析、交流、規劃及決策制定與執行的能力。美國認為，決定武器系統自主程度的因素包括：武器系統執行任務的能力；武器系統遭遇故障和敵方黑客攻擊時的抵抗能力；武器系統進行決策時參考人類決策的設計；武器系統在使用時遵守國際法的能力[21]。

除了上述較抽象的定義，有不同組織分別給出了對自主程度進行比較和評估的分級方法。如ALFUS分級標準將無人系統自主程度劃分為0～10級，0級表示無自主性，即100%由人工控制的程度，第10級表征各種極端環境條件、高復雜度任務、趨近于無人工干預的完全自主程度，從第0級到第10級反映了無人系統自主性從“人工遙控”到“完全自主”的漸進差別[22]。美國空軍AFRL(Air Force Research Laboratory)的項目組提出了ACL(Autonomous Control Levels)分級方法，將自主程度分為10個等級，主要作為無人機系統自主程度的衡量標準[23-25]。美國國家航空宇航局(National Aeronautics and Space Administration，NASA)飛行器系統計劃提出的NASA Smart分級方法，主要從系統與操作人員的交互出發，根據操作人員的干預程度進行級別劃分，共分為8個等級，從系統不參與任何輔助任務執行、完全由操作者完成，到系統和操作人員共同執行操作，系統的任務執行級別不斷提高，其最高級別第8級為系統獨立執行任務[26]。美國陸軍科學委員會(Army Science Board，ASB)提出的自主性分級方法，主要用于地面無人系統的自主性等級描述。共分為10個等級，從自主性最低的第1級到最高的第10級，其中第1級為“人工遠程控制”，第10級為“執行戰場任務時達到甚至超過人類的完全自主功能”[27]。

LAWS屬于軍事領域概念，其自主程度關鍵在于戰場環境中的表現。在上述分級方法中，ALFUS方案描述較為細致，但并非面向作戰環境；ACL分級方法由軍方提出，直接面向軍事作戰領域；NASA Smart和ASB分級方法均面向任務執行描述自主性，因此也可用于描述作戰任務。但ACL、NASA Smart和ASB分級方法對自主性分級的描述比較抽象和模糊，應用其對武器的自主能力級別進行定量評估還比較困難，可作為研究LAWS自主性特性和分級的基礎。

2.2.3 人機關系

人機關系是LAWS定義中的關鍵特性。參加聯合國CCW會議的德國代表就提出，LAWS的定義應該首先明確LAWS所需要的最低程度的來自人類的控制[28]。美國在其政策性指令中也提出[3]7，自主武器系統必須允許人類對機器做出的決策進行“適當水平的干預(appropriate levels of human judgment)”，自主和半自主武器系統“必須設計為在發揮效力時，允許指揮人員或者操作人員行使適當層級的判斷”。指令要求相關人員必須起到監督作用，并能夠在必要時激活或者解除系統功能[3]3。然而機器系統反應迅速，人類在此過程中可能無法實施及時有效干預。Article 36組織認為應當用“有意義”的人為控制來描述LAWS系統中的人機關系，“有意義”的人為控制包括：(1) 采用可預測、可靠和明確的技術；(2) 人類對執行行動的后果、技術和使用環境的明確了解；(3) 人類及時的判斷和行動，以及能夠及時阻止的能力；(4) 能夠根據某種標準進行追責[15]3,4。

界定人機關系無疑是定義LAWS的重要方面，無論是“有意義的人為控制”或者“適當水平的人類決策”，還是人類控制等，都需要結合情境闡述其具體含義，回答“有意義”的具體含義，“人為控制”和“人類決策”具體指什么。

2.2.4 與自動化關系

自動化是與自主性密切相關的概念。區分自動化和自主性，有助于確定LAWS的范疇。ICRC的代表曾在2013年聯合國CCW會議上闡述過自動化武器與遙控武器的概念[2]，認為自動化武器以自足完備和獨立的方式運行，在設定好的可控環境中嚴格執行預編程行動或序列，其攻擊目標、攻擊決策以及攻擊方式都是由人類預先設定的，例如自動崗哨炮、自動地雷以及艦船和陸地上使用的自動防御系統。遙控武器一般由戰區之外的操作員控制進行戰斗，可以被固定在一處(如美軍在阿富汗嘗試過的遙控炮臺)，也可以自行移動(如無人機)。這類武器一般而言自動化程度非常高，但本質上只是擴展了傳統武器的作戰范圍。而自主性武器一個顯著的不同是，在某些關鍵性的能力(如決定人類的生命)方面，機器可能給出并執行自己的決策，而不是按照人類預先設定好的程序或者人類遠程的遙控來執行。

自主性與自動化密切相關。一方面，具有自主性的武器系統應當具有自動化的功能才能形成自主作戰能力；另一方面，自主性起步于自動化，但是在本質上有別于自動化。目前普遍認為，學習能力是自主智能系統相比一般自動化系統的重要差別。但是，學習能力本身又是個模糊概念，自動化的武器系統也可根據環境變化從可能的方式中進行選擇，這也可被視為一種學習能力。因此如何區分自主系統和自動化系統的學習能力，需要結合情景進行闡述。

2.3 基于定義框架對LAWS定義的討論

基于圖1所示的框架，可以對美國DoDD 3000.09給出的自主武器系統定義進行分析，從關鍵特征維度來看：

1) 關鍵自主功能：根據DoDD 3000.09文件，只有是否選擇人類作為攻擊目標以及決定是否進行攻擊屬于關鍵自主功能；

2) 自主程度：根據定義表述來看，該定義需要武器系統達到ALFUS分級標準9級以上的自主級別；

3) 人機關系：該定義中，武器系統需要激活，在激活之后便完全無須人類干預(但是仍需保證人類對其可控)；

4) 與自動化關系：定義中未加表述，在默認情況下，自主武器需要具備自動化能力。

從作戰功能維度來看，定義中僅表述了選擇目標與交戰這2個要素，未明確在完整戰斗步驟中各個環節的自主性，僅大致可映射到定義框架中的識別、決策和武力打擊。

從應用場景來看，美國在DoDD 3000.09其他部分的說明中對攻擊和防御場景進行了區分，但是沒有明確指出在戰術環境、電磁環境、自然環境下的應用情況。

根據定義框架，美國目前給出的定義主要強調了人機關系，其他方面要素要么需要根據相關文件內容推測，要么則完全沒有涉及。類似地可以分析其他已有定義，如加拿大代表給出的定義中涉及了應用場景維度中的自然環境、戰術環境，關鍵特征維度中的關鍵自主功能和作戰功能維度中的識別等要素?？梢钥闯?，目前各國已給出的定義方案要素均可包括在定義框架中，但由于缺乏統一的標準，目前的表述較模糊且不完整，相互間也難以對比。根據定義框架對定義進行擴充后可以就同一要素進行對比，從而有助于形成對定義的統一認識。

3 結 束 語

聯合國框架下關于致命性自主武器系統的討論在舉行了3次非政府專家會議基礎上，2017年可能會進入政府專家組會議階段，并開始討論相關軍控問題。為促成國際社會關于致命性自主武器系統定義問題的統一認識，各國需要采用一致的定義方式從而能夠形成對比和討論。提出情境和內涵特征相結合的定義框架，有助于各國就致命性自主武器系統在應用場景、作戰功能和關鍵特征多個維度充分闡述定義。

References)

[1]Human Rights Watch.Losing humanity:the case against killer robots[EB/OL].(2012-11-19)[2016-11-16].https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killer-robots.

[2]ICRC.Fully autonomous weapon systems[EB/OL].(2013-11-25)[2016-11-16].https://www.icrc.org/eng/resources/documents/statement/2013/09-03-autonomous-weapons.htm.

[3]Department of Defense.Autonomy in weapons systems[EB/OL].(2012-11-21)[2016-11-16].https://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf.

[4]Foreign & Commonwealth Office.United Kingdom of Great Britain and Northern Ireland Statement to the informal meeting of experts on lethal autonomous weapons systems[EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/49456EB7B5AC3769 C1257F920057D1FE/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_United+Kingdom.pdf.

[5]France Country Paper.Non paper mapping of technological developments [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/B9E3E 8041CE4D326C1257F8F005A31E2/MYMfile/2016_LAWSMX_CountryPaper_France+MappingofTechnicalDevelopments+EN.pdf.

[6]Japan Country Paper.Japan’s views on issues relating to LAWS [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/4E8371EAD5E 34263C1257F8C00289B5E/MYMfile/2016_LAWS+MX_CountryPaper+Japan.pdf.

[7]Canada Country Paper.Canadian food for thought paper:mapping autonomy [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/C3EFCE5F7BA8613BC1257F8500439B9F/MYMfile/2016_LAWS+MX_CountryPaper+Canada+FFTP1.pdf.

[8]Switzerland Country Paper.Towards a "compliance-based" approach to LAWS [EB/OL].(2016-03-30)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D2D66A9C427958D6C1257F8700415473/MYMfile/2016_LAWS+MX_CountryPaper+Switzerland.pdf.

[9]Sierra Leone Country Paper.Opening statement by ambassador Yvette Stevens [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/0054AE2FAA24E566C1257F9B004A2CAB/MYMfile/SIER RA+LEONE+GENERAL+STATEMENT+2016+MEETING+ON+LAWS.pdf.

[10]Pakistan Country Paper.Statement by ambassador Tehmina Janjua [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D6F11030CC 982C11C1257F93005933A0/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Pakistan.pdf.

[11]Costa Rica Country Paper.Statement of the delegation of Costa Rica [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/5DF8EE 2B9B3C881BC1257F920057A83B/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Costa+Rica.pdf.

[12]Maya Yaron.Statement on lethal autonomous weapons systems [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/A02C15B2E 5B49AA1C1257F9B0029C454/MYMfile/2016_LAWS_MX_GeneralDebate_Statements_Israel.pdf.

[13]Turkey Country Paper.Statement by Turkey[EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D3C97CBA51D5EF62C 1257F9400422F29/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Turkey.pdf.

[14]ICRC.Views of the International Committee of the Red Cross (ICRC) on autonomous weapon system [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/B3834B2C62344053C 1257F9400491826/MYMfile/2016_LAWS+MX_CountryPaper_ICRC.pdf.

[15]MOYES R.CCW comments [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/07E97E9D93027C78C1257F9B004F532B/MYMfile/2016_LAWS+MX_presentations_towardsaworkingdefinition_moyesnotes.pdf.

[16]GOOSE S.General exchange of views [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006 B8954/(httpAssets)/252007F8C3EB3E1EC 1257FAE002 F4DE5/MYMfile/HRW+intervention+Goose+12+April+2016.pdf.

[17]Campaign to stop killer robots.Country policy positions[EB/OL].(2015-03-25)[2016-11-16].http://www.stopkillerrobots.org/wp-content/uploads/2015/03/KRC_CCWexperts_Countries_25Mar2015.pdf.

[18]Wikipedia.定義[EB/OL].(2016-03-22)[2016-11-16].https://zh.wikipedia.org/zh-hans/定義.

[19]Future of Life Insititute.Autonomous weapons:an open letter from ai & robotics researchers[EB/OL].(2015-07-28)[2016-11-16].http://futureoflife.org/open-letter-autonomous-weapons/.

[20]HUANG H M,ALBUS J,MESSINA E,et al.Specifying autonomy levels for unmanned systems:interim report[C]//Proceedings of SPIE Unmanned Ground Vehicle Technology VI.Orlando:the International Society for Optical Engineering,2004:386-397.

[21]ICRC.Autonomous weapon systems technical,military,legal and humanitarian aspects [EB/OL].(2014-03-26)[2016-11-16].https://www.icrc.org/en/download/file/1707/4221-002-autonomous-weapons-systems-full-report.pdf.

[22] HUANG H M,MESSINA E,ALBUS J.Autonomy levels for unmanned systems (ALFUS) framework volume ii:framework models version 1.0 [EB/OL].(2007-12-01)[2017-03-30].http://www.nist.gov/customcf/get_pdf.cfm?pub_id=823618.

[23]Office of the Secretary of Defense.Unmanned aerial vehicles roadmap 2000—2025 [EB/OL].(2001-04-01)[2016-11-16].http://handle.dtic.mil/100.2/ADA391358.

[24]Office of the Secretary of Defense.Unmanned aerial vehicles roadmap 2002—2027[EB/OL].(2002-12-01)[2016-11-16].http:// handle.dtic.mil/100.2/ADA414908.

[25]Office of the Secretary of Defense.Unmanned Aircraft Systems Roadmap 2005—2030 [EB/OL].(2005-08-04)[2016-11-16].http:// handle.dtic.mil/100.2/ADA445081.

[26]LARRY A Y,JEFFREY A Y,Mark D G.System analysis applied to autonomy:application to high-altitude long-endurance remotely operated aircraft[C]//Proceedings of the AIAA Information and Technology of Aerospace Conference.Arlington:AIAA,2005:1-32.

[27]ARMY SCIENCE BOARD.AD hoc study on human robot interface issues[EB/OL].(2002-09-01)[2017-03-30].http://handle.dtic.mil/100.2/ADA411834.

[28]German Country Paper.German general statement [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/1A10EE8317A92AA4C 1257F9A00447F2E/MYMfile/2016_LAWS+MX_Towardaworkingdefinition_Statements_Germany.pdf.

(編輯：李江濤)

Research on the Definition Method of Lethal Autonomous Weapons Systems

CAO Huayang， KUANG Xiaohui， LI Xiang， ZHAO Gang

(National key Laboratory of Science and Technology on Information System Security, Beijing Institute of System Engineering, Beijing 100101, China)

Lethal autonomous weapons systems attract the attention of international societies, and give rise to debates on corresponding arms control. However, due to the lack of a standard definition method, there is not a unified understanding of the definition of lethal autonomous weapons systems, the prerequisite of arms control, among countries. In light of this, the existing definitions of lethal autonomous weapons systems are summarized in this paper. Through research and analysis of definition methods, a definition framework of lethal autonomous weapons systems, composed of application situations and key features, is proposed. Based on this framework, the concept of lethal autonomous weapons systems can be defined from the three dimensions of key features, application situations and the role played in battlefield, and the existing definition can also be analyzed.

autonomous weapons; smart weapons; automatic weapons; unmanned weapons; definition framework

2017-02-20

部委級資助項目

曹華陽(1984—)，男，助理研究員，博士，主要研究方向為網絡空間安全、人工智能。caohuayangwork@163.com

E920

2095-3828(2017)03-0038-07

A DOI 10.3783/j.issn.2095-3828.2017.03.007