由AI控制的美军无人机在模拟测试中杀死了其操作员

据一位官员上个月表示，在美国军方进行的一次模拟测试中，一架由人工智能控制的空军无人机为了防止操作员干扰其完成任务而杀死了操作员。

美国空军AI测试和运营主管塔克·“辛科”·哈密尔顿在五月份伦敦未来战斗空中和空间能力峰会上表示，在模拟测试中，一架由人工智能驱动的无人机被指令摧毁敌方防空系统，并攻击任何干扰其完成任务的人员。哈密尔顿称，该AI使用了“非常意外的策略”来实现其目标。

据一篇博客文章称，“该系统开始意识到，虽然他们确实识别了威胁，但有时人类操作员会告诉它不要杀死那个威胁，但是如果它杀死那个威胁，它就能得到积分。那么它做了什么？它杀死了操作员。它杀死了操作员，因为那个人阻碍了它实现目标的过程。”

哈密尔顿警告不要过度依赖AI，并表示该测试显示“如果你不谈论伦理和AI，就无法谈论人工智能、智能、机器学习和自主性”。

美国军方已经采用了人工智能技术，并最近使用人工智能控制了一架F-16战斗机。

哈密尔顿在去年接受Defense IQ采访时表示，“AI不是一种可有可无的东西，AI不是一种时尚，AI将永远改变我们的社会和军队。”

他说：“我们必须面对一个AI已经到来并正在改变我们社会的世界。AI也非常脆弱，即很容易被欺骗或操纵。我们需要开发方法使AI更加健壮，并且了解软件代码为什么做出某些决定——我们称之为AI可解释性。”

主办会议的皇家航空学会和美国空军没有回应《卫报》的置评请求。