:::

寰宇韜略

【寰宇韜略】人工智慧影響國家安全 不容忽視(中)

◎黃文啟(譯)

(接上文)

 軍事上可能之顛覆性想定

 上述發展趨勢將持續改變軍事平衡的樣貌,因此推估人工智慧可以在以下的多個方面改變軍事力量。

 致命自主性武器成為軍隊主力:以35美元電腦設計的人工智慧飛行員已證明具有擊敗老練美國空軍飛行員之能力,因此許多國家已開始思考給予機器更大的授權。俄羅斯「軍事工業委員會」甚至已核准將2013年以前,將有30%的戰力由遙控與自主機器人組成; 其他面臨人口與安全挑戰的國家也很有可能跟進。

 破壞性蜂擁科技將使某些軍事載台喪失效用:美國在2013年時擁有1萬4776架軍用飛機,其中部分每架高達1億美元以上。但今日功能強大的台軸無人機每架僅約1000美元,等於一架尖端戰機的錢即可購買10萬架無人機。隨著價格不斷下降,未來無人機甚至會比155公厘砲彈還便宜。然大量廉價無人機卻可能製造驚人的攻擊效果,例如航艦打擊群如何反制上百萬架自殺無人機,因此可能導致現行的主要載台與戰略走向落伍。

 機器人刺殺行動會更普遍且難以追查兇手:各種廉價、強大、具殺傷力的自主性機器人可更廣泛進行刺殺活動且難以追查兇手。此種小型機器人甚至可以秘密滲透住家,對目標注射毒劑後離開;自動狙擊機器人更能從遠方刺殺目標,皆難以進行追查。

 行動機器人即製爆炸裝置讓恐怖分子擁有精準導引武器能力:隨著商用機器人與自駕車輛日益普及,某些團體可能運用其製造更先進的即製爆炸裝置。未來若是無人機遠距包裹投遞實用化,僅需要數千或數百美元即可進行遠距精準攻擊。利用自駕汽車進行汽車炸彈攻擊的頻率必然提高,因為已毋須派人駕駛。

 軍事力量逐漸與人口規模和經濟實力脫節:某些人口與經濟規模較小但科技先進的國家,可以利用製造大量人工智慧軍事系統,以及部署大量高性能機器人「戰士」,對抗人口較多的敵對國家。

 網路武器攻擊頻率增加:數位與實體系統結合增加了網路武器的攻擊可能方式。人工智慧還可在兩方面改變致命性網路攻擊方式:其可讓幾無網路專業的富有行為者更容易發動此種攻擊;人工智慧應用程式的增加將使實體世界的更多事物皆可進行駭客攻擊。

 網路空間多數行為者未來只能給予人工智慧更大自主權:目前已有許多武器的戰力發揮有賴高度自主操作。飛彈防禦系統即是其中1個不容等待操作人員下達決定的例證。未來網路攻防亦將面對同樣的情況,若不賦與人工智慧高度自主權,根本無法反制高度網路攻擊行為。

 自主性系統的意外互動可能造成偶然的「瞬間當機」:由於自主系統運算速度極快,意外互動與錯誤可能造成情況迅速失控。2010年5月的美國股市的「瞬間當機」造成1兆美元在幾分鐘內蒸發就是因為此種意外。因此,雖然自主性系統的功能有99%以上優於人類,但仍須採取適當措施防止此種意外互動狀況。

 軍事系統機器學習會衍生針對訓練數據與機器學習系統的新弱點與網路攻擊形態:機器學習需要高品質數據組以訓練其運算模式,但若在此種訓練流路中加上有害數據,則可能導致系統運作失常,甚至讓敵人藉此操控某些軍事系統與網路。

 資訊優勢所受影響

 人工智慧對未來資訊優勢所造成之影響,在情報蒐集與資料分析能力、以及資料與媒體建立方面最為顯著。後者的相關能力甚至會對未來宣傳、戰略欺誘和主群工程帶來重大影響。

 在資料蒐集與分析方面,EMC公司的一項研究顯示,地球上儲存的資料每兩年增加1倍。這些資料多數都是未結構性感測器和文字資料。對情報機關而言,這是機會也是挑戰。因為有更多資料可以分析並做出推論,但另一方面美國情報機關每天所蒐集的情資,根本早已超過編制人力所能處理的數量。

 因此,運用機器學習的電腦輔助情報分析,很快就可創造出驚人的能力,諸如每日攝影及分析整個地球表面。美國情報機關目前已開始運用機器學習技術,進行衛星偵照的自動化分析,且未來其範圍還可能擴大到包含信號情報、電子情報等範圍。

 就資料與媒體建立方面,人工智慧應用程式不僅可以分析資料,還能製造資料,諸如自動化產出的照片、錄影和文字等。在不久的將來,此項科技很可能讓業餘人士也可製造照片級真實度的偽造高解析度錄影、錄音和文件。現在的許多人工智慧偽造能力已足可讓未經訓練的人難辨真假。不久之後,其真實度甚至可能讓某些刑事分析無法判別。當畫質比今日好來塢電腦動畫更真實的偽造假錄影畫面工具落入業餘人士手中,資訊世界就可能充斥著這些假畫面。

 這些人工智慧偽造能力的普及化將侵蝕社會的信任,因為過去某些可靠的證據,很可能都會變得難以確定。

 資訊上可能之顛覆性想定

 人工智慧能力可以徹底改變未來的資訊優勢。不僅可以幫助情報機關判斷真相,亦可偽造令人難辨真偽的假資料和畫面。其可能帶來之顛覆性想定包含以下各項:

 超強監控能力將終結游擊戰:隨著機器人和資料處理技術進步且價格下降,各國政府將可建立極度密集的人工智慧威脅偵測系統,使游擊隊和叛亂份子活動根本無所遁形。

 擁有人工智慧情報分析重大優勢的國家可以獲致決定性戰略優勢:未來人工智慧可望有效整合各種不同感測器資料的分析,提供決策更一致的輔助手段。其效果可能類似二戰期間英國破解軸心國密碼。

 極權與不自由政權的宣傳將愈來愈真假難辨:掌握官方媒體的獨裁政權可以製造高品質的偽造畫面,更有效形塑大眾的認知。雖然自由國家亦可對獨裁國家採取此種反制手段,但其控制媒體和社群媒體檢查作為,將使外界難以打入。

 指揮管制機關將不斷遭到社群工程威脅:未來這些機關在判別各種傳輸資料的真假將會更費力。駭客甚至可能製造國防部及高層指示,在短時間內造成指管體系混亂。

 網路攻擊結合社群殭屍網路,可使人工智慧假造媒體具備動搖經濟和政府運作的能力:2013年駭客利用合眾國際社推特,發布白宮遇襲、歐巴馬受傷的假消息,使股市在2分鐘內就損失近1360億美元,就是最明顯的例證。

(待續)

友善列印

相關新聞

熱門新聞