:::

寰宇韜略

【寰宇韜略】美軍AI發展循序漸進 逐步克服挑戰(中)

目前企業型AI應用軟體的成果,對五角大廈而言並不足,任務支援型和作戰型AI才是美國防部最重要的應用需求。(取自DVIDS網站)
目前企業型AI應用軟體的成果,對五角大廈而言並不足,任務支援型和作戰型AI才是美國防部最重要的應用需求。(取自DVIDS網站)

◎邱榮守(譯)

(接上文)

 AI技術和能力的最新發展

 支持人工智慧(AI)的技術有很多種,如機器學習(ML)、這是計算機科學(CS)的成熟領域,根據統計和優化的深厚技術,可以建立數據的行為模式。在過去的10年來,ML某些子領域(尤其是深度學習)的技術進步神速度。深度學習(DL)採用多層神經網路模型,學習複雜的數據,這種演算法的設計和部署,通常包括一個訓練階段和一個推理階段。訓練階段包括解決優化問題,根據某種學習準則,使模型符合最佳訓練數據;推理階段則在新數據中,使用訓練後的模型查找相似行為模式。

 由於這些模型的複雜性,訓練階段通常需要龐大且經標記的數據集,以及強大的計算能力,而推理階段所需的計算能力需求則低很多。通常這不是一次性的線性過程,而是一系列反覆進行訓練與推理階段,以增強甚至維持演算的效能。由於監督式機器學習(使用標記數據集來訓練模型技術)的長足進步,進而導致分類和預測的任務能力取得突破性進展。眾所周知的圖像分類案例,就是以Image Net數據集為基礎的大規模視覺識別競賽。除圖像處理外,這些進步還促使語音和自然語言處理的重大突破,隨後運用在機器翻譯和文檔分類等領域。最新的突出發展,就是深度強化學習(DRL)。

 強化學習(RL)是一項古典研究領域,其核心是以近似解決處理具有遞延獎勵的順序決策問題。由於DL技術有望提供這些近似解決方案,因此在最近幾年,重新引起人們關注。DRL在策略遊戲方面也帶來新突破,例如演算法被運用在圍棋和星海爭霸II等即時人機對決中,AI系統擊敗世界級冠軍。儘管這些進展令人興奮不已,但值得一提的是,著名學者也提出相關警示。

 美國防部AI的風險和挑戰

 根據最新AI技術發展所提出的問題是:這些最新AI技術如何強化美軍能力及擴大部署運用?從技術角度來看,這些問題的答案,是多數企業型AI應用軟體目前對美國防部而言,仍是微不足道的成果,且大多數任務支援型的部署運用,尤其是作戰型AI系統,仍是遙遙無期。此外,部署和擴大運用這些先進技術正面臨各種挑戰和風險,先進技術對企業型、任務支援型和作戰型的AI系統而言,也呈現出不同的發展趨勢。此文要強調的是,提出這些問題,並不意味著AI只是深度學習或深度強化學習;相反地,正如前所述,很多技術方法都可用來支持AI。

 企業型AI應用軟體相對成熟

 美國防部使用的多數企業型AI應用軟體,在許多方面可與民間和公部門現行AI解決方案相提並論。因此,現有商業解決方案及其成功案例,已證明可運用類似技術解決方案、定制,或專門研發滿足美國防部的作戰需求。儘管目前有些企業型AI應用軟體的技術已存在且相對成熟,但這並不表示在整個組織推廣運用時,不會遇到障礙和困難。

 相對地,擴展AI需要定期對現有技術解決方案進行確認,以及律定投資方案的優先順序,進而大幅改善組織作業能力,或其他關鍵目標的達成。一旦確定優先投資領域,擴大運用AI要採取購買商業版或內部研發的解決方案,則需要明智的抉擇,還要考量維持組織的專業知識和技術能力,以及確保支援這些解決方案的基礎設施可用性。同時,擴大規模需要激勵潛在用戶群的使用率,並提供所需技能培訓。最重要的是,擴展AI需要了解關鍵資源數據,透過系統性收集與管理數據,在組織內共享數據以支持目標達成。

 此外,當前AI技術(尤其是深度學習)大量依賴乾淨且帶有標籤的訓練數據。可用數據的質量和數量,通常會影響AI的方法,以及應用深度學習技術的可行性。更多數據將允許更多方法的運用,同時需要基礎設施支援數據的存儲、管理和處理需求。尤其是,在組織中大規模部署企業型AI,需要與負責數據和管理數據的實體部門(數據長),以及那些負責存儲和計算基礎設施的部門(資訊長)密切合作。它還需要與用戶(從分析長到各級別的用戶)緊密合作,以即時發現及解決最重要的問題。再者,AI工具都是以數位方式來設計和實現,因此,AI的成功需要軟體的成功,儘管後者的成功遠不足以確保前者的成功。

 深度學習演算法缺乏完整性

 任務支援型和作戰型AI,是美國防部最重要的應用需求。例如深度學習在圖像目標識別方面的最新成功技術,使情監偵(ISR)成為任務型AI的當然應用領域。儘管有許多令人鼓舞的技術突破和成功案例,但深度學習演算法仍是片斷脆弱且缺乏完整性。此外,深度學習演算法的設計,目前僅針對商業用途進行優化,而不是針對國防部的各種任務需求。

 針對商業應用優化的性能指標,通常不符合國防部的作戰需求。對於戰場環境而言,除缺乏大型訓練數據集外,合成數據的可行性也尚待觀察。最後,技術專家一直強調深度學習技術是依個案而定,因此不易推廣到其他應用程式。也就是說,在一個應用程式上運行良好的演算法,無法確保在另一個應用程式上也能運作無誤。

 確認、驗證、測試和評估關鍵挑戰

 對所有類型AI的嚴峻挑戰,就是AI的確認和驗證,其配套措施就是測試和評估,此挑戰對以安全為優先考量的任務支援型和作戰型AI系統而言尤為明顯。確認與驗證程序,使系統設計人員能夠信任其設計,而測試與評估,能使管理者能夠評估系統是否滿足所指定的需求,對其他利害關係者(例如用戶和操作員),則可建立對系統的使用信心。

 當前AI的確認、驗證、測試和評估(VVT&E)程序,遠遠不能確保AI應用軟體的性能和安全性,特別在涉及安全關鍵系統情況下。安全關鍵控制系統的確認與驗證,是當前研究主題,通常涉及形式數學分析或廣泛模擬。前者雖優雅高尚,但缺乏擴展能力,且後者在理論上則難以支持結果的信心。兩者所代表的內容也都有其局限性,因此可能會錯過現實世界中的某些關鍵要素,進而導致性能下降,或在實際運作時出現差錯。此外,機器學習和相關方法還涉及很多複雜因素,除模型的驗證外,還需驗證訓練數據的合理性。(待續)  

友善列印

相關新聞

熱門新聞