:::

社論

【社論】AI輔助決策 指揮官當「價值優先」

 美國五角大廈近年積極推動「AI」在戰場情資與前線決策應用,盼能借重AI強大的學習運算能力,處理各種情蒐技術取得的資料,在實戰上洞悉形勢,制敵機先。如今年4月執行滿一週年的「大AI計畫」,不只能分析大量無人機在中東地區取得的影像,並已完成遠及非洲的擴大部署,除能驗證機制成效,更讓該機制大量曝光於新情資中,快速學習成長,成果豐碩。

 於此同時,國際資訊巨擘「谷歌」旗下3100位員工卻集體發表聲明,勸告公司切莫涉足戰爭領域,堅守「不助惡」精神。事實上,科學界對人工智慧發展失控的憂慮從未間斷,專家憂心,萬一人工智慧發展出自主意識,恐不利於人類文明的存續。為釐清諸多疑慮,美軍專案副主管、空軍中校佛洛伊德強調,這項計畫旨在應用機器學習技術,分析戰場情資,並不涉及電腦意識與自主能力發展。五角大廈長久以來只將「AI」定位於協助戰場指揮官決策,不會允許電腦具有自主意識。

 由於目前情蒐科技十分進步,除了衛星攝影,日益發展的無人機動載具,也能大量蒐集鉅細靡遺的現場情資;此外,在數位國土中,每日不間斷產出大規模人類網路行為數據,使戰事決策者面臨情資爆量、資料處理產能不足的窘境。

 機器學習的基本原理,是在給定的有限資料中,自動窮舉該條件所能衍生的一切可能,並從中分析,獲得規律的演算法,進一步以所「習得」的規律,處理新取得的資料,預測最有可能的成果;同時亦給予演算法自我修正的建議,隨著處理資料的增加而進步。例如開發新藥時,以往的資料累積與分析比對,往往需要透過漫長時間的臨床實驗、記錄與分析,然而,許多藥廠導入機器學習技術後,即可透過上述機制,在節制的時間內,分析並預測出幾個最有可能成功的配方,及其藥理作用和可能誘發的機轉,並依照分析結果,搭配實際的臨床實驗,剔除多數預估值不高的方案,大幅降低時間與人力。

 此一技術應用在軍事情報分析後,可對戰情的掌握與不必要衝突的避免有所助益。自古以來,優秀的軍事家總以「不戰而屈人之兵」為優先方案;在無法避免的軍事衝突中,也常以最少傷亡、最少成本、最短時間等前提,以己方、甚至雙方百姓的最大福祉進行綜合考量。戰情的掌握與精準分析,正是能制敵於未發,並在其中找出最有效攻略的關鍵。以往,囿於情報科技的限制,最引人注目的科技突破,往往都是資訊取得技術層面,例如通訊攔截、諜報活動等;令人驚豔的戰略,也往往出自於對戰情完整且深入的洞悉。如今,借重衛星、無人載具、網路等工具,要取得巨量資訊的技術門檻已不高。現今的挑戰,反而是該如何從訊息中,解讀出對戰事決策有參考價值的意義。

 在汰除無意義資訊、主動推薦策略方案及評估結果後,決策者當能從容面對戰場。然而,誠如美軍謹慎的態度,機器學習系統對全局的掌握,以及策略方案的分析,不論是設計的方法論或實際應用,都還需要更嚴謹的驗證與判斷。機器學習系統只能擔綱輔助角色,其學習、驗證及成長,都需要人為的介入協助;因此,害怕這類系統發展出自主意識且不受控制,恐怕只是杞人憂天。倒是主事者或決策者若因過度依賴機器而怠於判斷,不僅可能在關鍵時刻,因無法察覺系統的建議並不恰當而盲從,更有可能造成判斷力失準,殊值警惕。

 機器學習系統可能判斷失常的原因,除了演算方法論及監控標注設計上的人為失察外,「價值」的無法規則化,更是其關鍵。既然被處理的是資訊,而系統自身所賴以自我修正與進化的也是資訊,此種「被認知的結果」不僅是一種既成事物,也只是一種被動的事物。雖然有某種程度的隨機性,也看似可以給出開放空間,但在人命的輕重取捨、各方對公共政策的見解等價值選擇上,恐仍無從決斷。而攸關價值與公眾福祉的綜合衡量,正是戰事決策之核心。

 正是因為如此,AI系統在技術限制上,僅能輔助、無法決策。正因為資訊的「被動、既定」特性,當前人工智慧技術,即使在自主學習與資訊處理上有長足進步,但距離真正的「自主」模式,仍有相當空間。面對戰情判斷輔助技術的智慧化,決策者應當秉持「價值優先」,善加利用智慧系統輔助篩選的長處,全盤掌握所有情資,時時驗證、謹慎判斷,才能在軍事運用上獲得致勝的先機。

友善列印

相關新聞

熱門新聞