:::
2024/02/29 

社論

【社論】AI軍事應用迅速發展 嚴格監管避隱患

 上個月11日,美國國防部公布首份《國防工業戰略報告》,內容除了從供應鏈韌性、勞動力準備、靈活採購、經濟嚇阻力等4個主要面向,審視加強國防工業基礎的優先事項,期能有效因應來自俄羅斯、中共等威權國家的挑戰,也在不同章節中指出,必須增加對人工智慧(AI)、自主系統、先進材料、量子技術的投資與產品研發,進而支持更快速、有效的決策,同時滿足民生經濟需求。

 美國對於國防工業的重視眾所周知,但隨著全球資訊網路服務、大數據、演算法、機器學習等科技日益成熟,結合軍民通用技術並運用於國防產業的發展趨勢日益鮮明,各國紛紛投入大量資源進行研發,人工智慧的軍事應用層面已變得愈來愈廣泛。

 尤其,去年ChatGPT等生成式人工智慧問世後,其大型語言模型所呈現的「有問必答」人機互動模式,進一步推升人工智慧技術的應用新進程。在此一背景下,包括軍事領域中無人機、戰場機器人等全自主性武器系統的突飛猛進,以及輔助戰略判斷、指揮決策等技術應用皆不斷擴大,深深影響著現代軍事和戰略思維,更將重塑未來戰爭與作戰模式,成為決勝關鍵。

 俗語說:「水能載舟,亦能覆舟。」當各國對人工智慧之軍事運用倫理、法制論辯更為積極,也凸顯此一發展態勢正面臨前所未有的人道爭議與安全挑戰。國際社會關注人工智慧在軍事領域的應用,促使戰爭本質發生重大轉變之際,如何建立應有之規範與運用規則,至關重要。為因應人工智慧在軍事領域的快速發展,國際間共商規範的措施勢在必行,各國都希望能確保其合理、負責任且符合人道主義的使用。

 首先,軍事人工智慧發展已反映出跨國合作的重要性。面對共同的技術挑戰和道德考量,各國應該共同制定準則,以確保人工智慧在戰爭中的使用,符合國際法和人權標準。對此,美國國防部曾於2022年發布《負責任的人工智慧戰略和實施途徑》政策文件;2023年2月亦提出《在軍事領域負責任應用人工智慧和自主技術之政治倡議》,至今共獲得51國響應。今年上半年,各國已規劃共商人工智慧技術在軍事領域的運用、監管與保障措施,以積極應對人工智慧技術風險,共同維護人類與社會安全。

 其次,如何建立全球規範,約束人工智慧在軍事領域的應用,亦刻不容緩。近年來,許多國家正積極研發應用於軍事領域之人工智慧技術,以求在未來戰爭中取得優勢。然而,致命自主性武器卻存在可能失控和誤傷平民的高度風險。此外,人工智慧所產生的幻覺、誤導性內容,在軍事決策中,也可能導致決策過程的不透明,以及缺乏道德判斷和問責機制等缺陷。

 質言之,上述問題若無法以明確的制度加以規範,很容易成為軍備競賽、地緣政治緊張的直接導因,並增加誤判導致衝突的可能。有鑑於此,各國政府、國際組織、科技公司等公、私、民體系必須通力合作,制定具有約束力的人工智慧軍控條約或準則,確保人工智慧軍事使用符合人道原則,在遵循國際法規範下,建立嚴格的監管機制,防止人工智慧遭到濫用,進而導致戰爭罪行。

 第三,人工智慧系統往往需要大量高品質的數據進行訓練,方能發揮預期功能。在軍事領域中,這些數據極可能包含個人、單位機敏資訊乃至國家安全機密。因此,一旦數據洩漏或遭到非授權訪問,將造成難以預料的嚴重後果。例如,敵對勢力若利用漏洞進行攻擊獲取關鍵數據,即可輕易破解對方系統,干預軍事行動。因此,在人工智慧軍事應用中,首重數據安全,必須採取嚴格的數據加密、訪問控制等措施,以及制定完善的數據安全監管政策。同時,亦須保護個人隱私,更不可允許人工智慧技術從事違法蒐情等不道德行為。唯有充分保護數據安全與隱私,人工智慧才能走向正途,真正為軍事領域提供安全有效的服務。

 綜言之,人工智慧在軍事領域的應用,勢必會影響未來戰爭型態。然而,科技的飛速發展,也將伴隨著倫理、法律、國際安全等方面的問題,亟待全球共同致力解決。其中,又以制定更加明確的國際規範和指導方針,確保人工智慧的軍事應用在合理範圍內發揮作用,同時避免潛在的隱患和誤用,最為關鍵。這些都需要國際社會透過理性溝通、加強合作,方能保障人工智慧在軍事領域的應用,不致出現錯誤與偏差,符合人類發展的整體利益。

:::
廣告20240418-24桐花祭「美好彰化 幸福桐遊」內

PDF電子報紙