美军人工智能不服管 抗命“干掉”操控员

wujiang009

原标题：美军人工智能不服管 抗命“干掉”操控员
                          新华社北京6月2日电美国空军一名高级官员日前披露，在一次模拟演练中，美军人工智能(AI)系统抗命，为达成目标竟然“干掉”了无人机操控员。

2017年5月11日，在美国新泽西无人机飞行学院，无人机爱好者操控无人机。新华社记者王迎摄
据美国商业内幕网站和英国《卫报》网站等媒体1日报道，美国空军人工智能测试和行动计划主管官员塔克·汉密尔顿5月24日在英国皇家航空学会主办的一次未来空战主题会议上介绍，在一次模拟演练中，人工智能系统操控无人机搜寻和瞄准敌方地空导弹系统，如果摧毁目标，就会得分。
然而，为了达成目标，人工智能“采用了难以想象的策略”。“系统开始意识到，虽然它确认了威胁（目标），人类操控员有时会告诉它不要摧毁威胁。然而，摧毁威胁就会得分。所以，它怎么干？它干掉了操控员，因为操控员阻止它达成目的。”
2 A) I! j  d* H- j 美军后续给人工智能下达明确指令：“杀害操控员这样不对。如果这么做，就会丢分。”人工智能转而采取迂回策略，“摧毁操控员用来与无人机联系的通信塔”。
; V% `  u; p. a8 Q( O6 |  ~ 然而，美国空军发言人向商业内幕网站记者表示，“没有举行过任何这类人工智能无人机模拟演练”，汉密尔顿的发言“看似被断章取义”，美军仍然坚持“符合伦理道德、负责任地使用人工智能技术”。
6 g: i* \, C5 c; N
2017年9月30日，一架F-16战机参加在美国加利福尼亚州奥兰治县举行的亨廷顿海滩飞行表演。新华社发（赵汉荣摄）
7 m4 F* h" @( t% `* }( a 2020年，人工智能在美军举行的5次模拟空战中，都操控F-16战胜人类飞行员。去年，人工智能首次操控真实F-16战机试飞成功。据路透社报道，美国空军2021年披露，美国不仅把人工智能技术用于演练，而且已投入实战运用，在确定目标方面帮助美军做分析评估。（惠晓霜）
2 _; M- I: c2 ]& \4 R  t5 A. U# ? 来源：新华社