:::

寰宇安全

確保AI運用不失控 美軍制定細則

編譯王能斌/綜合外電報導

 鑑於人工智慧(AI)發展迅速,五角大廈近年積極研擬相關規範,並擬在近期公布細則,確保美軍能在不違背倫理原則下,使用最新科技達成任務目標,進而持續確保領先對手的優勢。

 軍事新聞網站「Defense One」,19日引述美國國防部「聯合人工智慧中心」(JAIC)發言人、美國海軍少校亞布拉罕森說法,指出五角大廈內部的細則制訂作業已進行至最終階段,將於近日正式公開。

 將符合DIB 5大道德原則

 報導表示,五角大廈「國防創新委員會」(DIB)去年10月時,就曾提出包括責任、合理可預期、透明、可靠及可控等5大AI運用的道德原則,雖然該委員會決議並不具拘束力,但知情官員指出,五角大廈即將頒布的細則將「完全符合該規範」。

 報導強調,由於目前美軍仍在AI運用的初步階段,因此早日制定細則有助於控制發展方向,避免在負面案例發生後才開始「補破網」;此外,DIB在原則中建議五角大廈,在AI研發時採用「透明化」工具,避免運用類似神經元一般的「黑盒子」決策方式,使AI運用具有合理脈絡,並且能對其運用結果進行預測。

 部分專家對於AI的軍事化表達高度憂心,國際自動化武器規範委員會(iPRAW)成員、德國慕尼黑大學研究員紹爾就表示,五角大廈以及DIB的做法雖然令人讚賞,然而將武器自動化仍可能造成極大影響,當致命擊殺鍊具自主判斷能力時,恐造成危機甚至災難。

 DIB在原則中,明確強調人類對AI必須掌握最終的控制權,並對於AI使用負起完全責任。其他專家表示,五角大廈明確指定AI的運用規範,將有助於消除部分民間業者的疑慮,提升該領域軍民合作的可能性。

友善列印

相關新聞

熱門新聞