:::

寰宇韜略

自動化的未來:借鏡愛國者飛彈防空系統(下)

◎李華強(譯)

(接上文)

 「殘留功能」的問題,伴隨人與自動化組件整合的既有困難,造成自動化領域所謂之「危險中間地帶」,亦即在人工控制與完全可靠自動化之間的狀態;當代的自動化系統,尚未企及可靠的自主化境界:在操作中的選定關鍵時刻,毋須任何人工介入─現今的自動化還沒好到那種地步。對於從事監督控制的操作者而言,要在系統異常時執行若干關鍵動作俾適切介入,同樣也是個挑戰。警覺狀態的限制與「跳出迴路」之熟悉度問題,傾向於造成「適當介入」困難重重;現今世人仍處在兩種互斥控制形態之間的「危險中間地帶」,即便在可預見的未來亦將如此。如同伊拉克自由作戰行動時,愛國者飛彈造成的友軍誤擊意外,未來仍可能發生。這類事件必須被視為「正常意外」;(「正常意外」是美國耶魯大學社會學榮譽教授查爾斯‧佩羅創造的名詞,指人在極複雜系統下難免肇生的意外。);亦即考量系統特性、多重與非預期互動後,事與願違是必然的結果。

 對運用自動化系統的組織而言,挑戰係如何在複雜與不可預期的作業環境下,發展出可靠度不墜的能力,這對於配備致命自主化戰力系統的軍事組織尤其重要。即使挑戰格外艱鉅,但確實有些組織已設法達成上述要求,亦即在複雜與不可預期環境下維持高度效能。卡爾‧維克與凱薩琳‧薩克利夫等兩位教授稱這類組織為「高可靠度組織」,例子包括航管單位、核潛艦,以及航艦飛行甲板管制作業等。遺憾的是,美陸軍配備愛國者系統的防空飛彈部隊,過去並非、且目前仍未達到「高可靠度組織」的標準。

 「高可靠度組織」的特色,在於其作為與領導風格較大多數其他組織更能處理非預期事件;這類組織提倡並維繫一種「留心用意」或「兢兢業業」的態度。「留心用意」代表了對細節的了解,以及判斷與防範之能力,能避免錯誤惡化成嚴重後果。要想達到「高可靠度組織」的境界,絕非輕而易舉或一蹴可幾,要求個人或組員長時間對其作業保持審慎留意的態度,也是相當困難的工作;此外,上述「高可靠度組織」多已創造出獨一無二的內部次文化,且很多時候都與其上級組織格格不入。

 ◎審慎運用自動化技術

 儘管前文提到許多有關自動化系統安全與效能的悲觀看法,但筆者並不反對發展高度自動化,能從事近自主化作業的飛彈防空系統。若干情況確實仰賴高度自動化與近自主化作業,例如防禦大量來襲的彈道飛彈,亦即所謂的「飽和攻擊」;在此情況下,處於「人在迴路」或太過投入「人控迴路」的人工操作者將難以招架,無法有效應付並滿足要求標準。太過投入「人控迴路」指的是操作者對自動化的信任程度低,不允許系統擁有接戰情況要求之操作裕度;反之,過度信任自動化,就會衍生前文提到的許多問題。

 安全與有效操作高度自動化與近乎自主化系統的關鍵,就是審慎運用。究竟怎樣才算審慎的態度?「審慎」的正式定義,就是明智的行動,並對未來展現關注和思慮;此定義與「高可靠度組織」呈現的「留心用意」或「兢兢業業」,以及美國防部對「正向人工控制」的要求一致。

 筆者認為,對於自動化系統(如愛國者系統)有3項基本要求,用以確保適當發展和審慎運用。首先,使用者必須接受這類系統可能出錯的觀念;對於自動化的信任程度,必須基於經驗的基礎而逐漸建立,且永遠視情境而定。組員必須透過經驗,學習何時可信任系統,哪時又需要額外的檢查與系統監控作為。

 其次,高度自動化系統仰賴使用者在安全與有效使用方面的高水準專才。專才歷經時間而養成,運用實務的指導規範,不斷以「難題」磨練訓員,藉此挑戰並拓展其技能水準與了解系統之深度。伊拉克自由作戰行動前,美陸軍提供的訓練過於短暫,不足以涵蓋系統的技術與複雜程度,且過於著重訓員的合格認證、急於推行單位作戰成員輪調作業,訓練重點也傾向於對關鍵思考與問題解決能力採「呆板制式訓練」;針對接戰作為與致命資產運用,只透過制式程序的表現,而非正向控制的心智演練來界定和評估操作者與組員角色。成功完成制式化演練與程序,實際上成了訓練完竣與達成戰備的效能評量手段,得以進入單位作戰成員輪調序位。囿於訓練不足且死板僵化,操作者的能力就如同系統的演算機制一樣「脆弱」。但據筆者觀察,美陸軍在訓練時間、方式、標準,以及支持人員的作法上還有長遠的路要走。對未來自動化系統的使用者而言,要避免死板制式演練的作法仍是個挑戰。

 第三個要求涉及發展自動化系統的方式。在軍中,傳統的系統發展作法可能就是研發有效自動化系統之阻礙;這就是所謂的「不可逆轉的瀑布」(irreversible waterfall):從需求界定,透過試驗、作戰測試,到實際運用的一連串流程。美國防部的系統獲得作業,通常從一開始就界定詳細的系統需求與規範設定,隨後展開線性的系統發展、發展試驗、作戰測試、部署與實際運用等作業。這一系列的事件,通常在啟動後就變成上述「不可逆轉的瀑布」;資訊僅能往單方向流動,而不論後續對系統的影響為何,並非一種可隨著技術發展而不斷演進需求和設計解決方案的互動模式。事實上,整個體制延伸了「瀑布」的涵蓋面;專案辦公室大多專注於期程和預算的衡量標準—系統獲得作業「故步自封」的手段:鮮少有機會或預算能回溯,並重新發展概念、設計,或重新測試一個系統。是故,發展與實際運用,就伴隨著太多瑣碎、設計瑕疵,以及未知數一路向前;這個問題存在於過去與目前的愛國者系統,以及後續接替系統的發展計畫中。達到有效的「人與自動化整合」是件困難的技術挑戰,但對於未來軍事系統的發展與成功運用自動化而言,更艱鉅的挑戰將是該如何改善傳統的系統發展作法。

 ◎結論

 過去10年來,各界日益關注自動化與武器系統自主化的議題;推動趨勢的動力,主要來自於突飛猛進的電腦演算能力、軟體工程、人工智能,以及相關科技領域。其中最顯著的例子,當數美國防部的「第三波」戰略:大量著墨於人和機器的協同合作,以及武器系統自主化;許多國防相關刊物都探討武器系統自主化的未來角色。整體而言,這些出版品的論述極佳;然而,筆者認為這些刊物都傾向於淡化系統操作時「人」所面臨的成效挑戰;決策者很容易被一系列假象的期待所迷惑,對於時機、審慎態度,以及自動化與近自主化系統可靠度等欠缺考量,在愛國者系統的過往經驗教訓中,這些占有相當重要的部分。在某些層面上,政策與計畫必須反映技術與操作的有限可行性。

 愛國者系統的友軍誤擊經驗,以及美陸軍研究室在事發後做出的深入評估,正代表這類系統在未來可能且將會發生的問題類型。要達到人與自動化整合,幾無絕對與速成的法則;事實上,大多數的規則或設計規範都是經驗之談。因此,是否達到可接受的人與自動化整合程度,往往必須在原型系統問世後,藉由反覆試驗的實際成果來判定;這類界定有效可用度的工作,仰賴專業人士,或盡可能貼近該程度的工作者,透過即時互動方能達成。美國防部現行的系統獲得作業,通常造成在系統研發期間要執行這類可用度驗證工作困難重重。發展有效的自動化系統,絕非一個單純的技術或工程挑戰;本文提到「人」的因素與組織考量,就是安全並有效運用自動化與近自主化系統之重點所在。(完)

友善列印

相關新聞

熱門新聞