:::

寰宇韜略

【寰宇韜略】自主武器研發爭議 人道考量成關鍵(上)

◎李華強(譯)

 隨著科技的進步,「自主武器」近年來日趨實戰化運用,其不只成為戰場新寵,也引發世人對於法律、人權,乃至於倫理等層面的質疑與辯論,至今仍無定論。以色列智庫「國家安全研究院」安特比博士特撰專文,探討國際社會試圖針對自主武器系統做出規範之努力、未來挑戰,以及後續可能為以色列等無人科技先進國家帶來的影響,青年日報特譯如後,以饗讀者。(編按)

 前言

 自主武器系統,係指無人為干預,或人為介入程度最簡化,即可遂行軍事任務的無人系統或機器人。自2014年起,聯合國「特定傳統武器公約」(1980年簽署)締約國就對自主武器發展進行辯論,迄今討論仍處研議初期,無論是就其定義、禁止或規範的需求、未來影響,乃至於武器管制範疇內外的諸多議題,都呈現難以達成共識的膠著情況。

 自主武器

 「自主武器系統」的定義,早已在科學和法律界掀起廣泛論戰;爭辯則大多聚焦在操作系統時人為介入的程度。然而,對於自主系統之特性,則存在相當普遍的共識,亦即依賴系統內建的電腦軟體與環境之間的互動,在無人為干預下,執行一個或更多任務的能力。

 提倡限縮使用這類系統的國際紅十字會,對其定義如下:自主武器系統是在無人為輸入下,能獨立搜尋、辨識與攻擊目標者。此乃藉由其獨立程度來區隔眾多系統的方式;反之,透過人為介入的程度與形式,可據以界定自主武器。

 21世紀初,許多國家著手探討無人系統在安全需求上的潛能。人工智慧(AI)領域,扮演這類系統的核心要件,若干國家爭相致力於發展和獲取相關能力,促成相關科技一日千里。美國、以色列、英國、法國係該領域的佼佼者,中共、巴西,伊朗、俄國則急起直追,引發世人對全球自主武器系統軍備競賽的憂懼。

 當前運用的大多數軍事作戰武器,仍由人為操作或遠端遙控,主要仍仰賴人為介入。此外,諸如新系統的效率、可靠度、安全性等檢視需求,以及法律等因素限制,當前即使具備完整自主能力的系統,基本上也無法在操作迴路中完全擺脫人工介入的功能,影響程度則視使用國的態度而定。

 儘管相關領域仍處於開發初期,仍不乏早已實戰運用的自主系統,例如美國愛國者與以色列鐵穹等防空飛彈系統。然而,運用這些高度自主化系統的國家,大體上仍要求人工操作者下達開火射擊的決策。此外,有許多存在局限性,且非致命性的自主系統,如自駕載具(配備人為遙控武器)、自主水上與水下載具(部分擁有自主射擊能力)、具備自主起降與加油能力的飛機(如X47-B),以及以色列製哈洛普無人機,可飛行、盤旋、定位、追蹤和攻擊目標(如歸向攻擊雷達發射源),而無需人為干涉。

 若干預測該領域技術可行性的研究顯示,完全自主化載具將在20年內達到技術可行程度,且極可能在現代化軍隊中扮演更重要的角色。單在2017年,該領域即有許多先進作戰用技術問世,如俄羅斯聯邦槍械製造廠宣布,正發展運用神經網路,自動武器系統做出「開火與否」決策之系統;另如美國防部以先進演算法即時同步操作103架無人機飛行路徑,展示機群自主行動,不過是眾多發展的2個例子。

 國際間保留態度

 隨著自主武器系統更趨成熟且泛濫,對於其法律和倫理層面的質疑也與時俱增。相關議題與自主系統操作的領域息息相關,其中鑑於「攸關生死」的考量,尤以軍事領域最引人注目。自主武器系統最為人詬病的顧慮之一,就是「濫用」;國際法禁止使用「濫殺」裝置,相關考量導致「人權觀察組織」在2012年11月發表「泯滅人性」文件,呼籲禁用「殺戮機器人」,指控武裝自主系統的使用係非法行為。同年,「停止殺戮機器人」運動應運而生,其管理委員會的成員包括許多提倡人權、限武的非政府組織。

 2014年起,在許多因素的推波助瀾下,自主武器系統的議題正式登上國際舞台;「特定傳統武器公約」締約國已對此聚會討論,研議採納一新協議方式,禁止或至少規範自主武器系統的可能性。然迄2018年初為止,國際上在該領域的活動,仍未對自主武器系統之發展或使用做出任何法律限制。

 2014年,聯合國在「特定傳統武器公約」框架下,討論自主武器系統的議題。2016年,在一系列會議後,聯合國決議設立一「政府專家小組」;此舉凸顯「特定傳統武器公約」締約國嚴肅看待該議題的態度。該小組原訂在2017年8月舉行首次會議,但因財務問題延至該年11月,後又於2018年4月再度召開會議,惟迄今仍無法提出廣為接受的自主武器定義,或達成其他具體協議。

 相關討論進展緩慢,與技術一日千里的腳步相去甚遠,加上不確定各國是否會達成協議,在「特定傳統武器公約」之外再加上額外協議,如此僅約束那些簽署該協議者;抑或另覓他途,就國際上早已討論多時的議題達成共識,包括在武器操作時要求人為介入的傳統,據此為強制遵守的使用法,俾適用於所有國家—即便是未簽署「特定傳統武器公約」者也不例外。然而,「特定傳統武器公約」僅限於涉及武器系統的範疇,對成就機械自主化的人工智能而言,其軍民兩用的特性,將造成「僅限制軍用」的爭議,執行上亦難落實。

 聯合國面臨的主要挑戰之一,係無法就「自主」一詞的定義達成共識,但對公認的傳統具有普遍共識:允許機器做出生殺決定是不道德之舉。對定義莫衷一是,影響規範的催生進程;另如人權組織「第36條憲章」提出的「有意義的人為控制」概念,成為自主武器議題討論中最廣為接受的說法之一後,近來亦因語言過度簡化(雖易被接受但也引發實用疑義)、政治考量,以及若干國家由人權組織主導的論調而遭到否決。總言之,在術語上爭論不休的現況,導致相關進程遲滯不前。

 自主武器競賽的領先國家

 儘管反對自主武器系統的呼聲不絕於耳,迄今足以影響或強制禁止其使用的力道(如國際武器管制機制)顯然有待加強。造成現況的主因有2:第1,「特定傳統武器公約」的條文,僅限於應付傳統武器的作為,大體上採用國際人道法的觀點,主要探討諸如戰爭時期處理戰鬥人員、戰俘與平民的議題,不宜納入其他主題;其次,科技領域發達的國家,本身並不支持限制,甚或規範自主武器的主張。2015年論壇的結果顯示,許多國家都未認真考慮在該領域設立國際機制的選項,此也意味其在未來任何規範提議時的投票傾向。當前在武裝自主系統領域的最尖端國家,包括美、俄、英、法與以色列,全都反對任何有意改變該領域國際法的討論。(待續)

友善列印

相關新聞

熱門新聞