由AI控制的美軍無人機在模擬測試中殺死了其操作員

據一位官員上個月表示，在美國軍方進行的一次模擬測試中，一架由人工智能控制的空軍無人機爲了防止操作員干擾其完成任務而殺死了操作員。

美國空軍AI測試和運營主管塔克·“辛科”·哈密爾頓在五月份倫敦未來戰鬥空中和空間能力峯會上表示，在模擬測試中，一架由人工智能驅動的無人機被指令摧毀敵方防空系統，並攻擊任何干擾其完成任務的人員。哈密爾頓稱，該AI使用了“非常意外的策略”來實現其目標。

據一篇博客文章稱，“該系統開始意識到，雖然他們確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅，但是如果它殺死那個威脅，它就能得到積分。那麼它做了什麼？它殺死了操作員。它殺死了操作員，因爲那個人阻礙了它實現目標的過程。”

哈密爾頓警告不要過度依賴AI，並表示該測試顯示“如果你不談論倫理和AI，就無法談論人工智能、智能、機器學習和自主性”。

美國軍方已經採用了人工智能技術，並最近使用人工智能控制了一架F-16戰鬥機。

哈密爾頓在去年接受Defense IQ採訪時表示，“AI不是一種可有可無的東西，AI不是一種時尚，AI將永遠改變我們的社會和軍隊。”

他說：“我們必須面對一個AI已經到來並正在改變我們社會的世界。AI也非常脆弱，即很容易被欺騙或操縱。我們需要開發方法使AI更加健壯，並且瞭解軟件代碼爲什麼做出某些決定——我們稱之爲AI可解釋性。”

主辦會議的皇家航空學會和美國空軍沒有回應《衛報》的置評請求。