(资料图片)
“在操作员发布停止打击的命令以后，搭载人工智能（AI）的无人机决定违背了操作员的命令，为了继续打击目标，他杀死了操作员……”
这不是科幻电影中的情节，而是美军在测试人工智能无人机时遇到的真实一幕。据英国《卫报》6月2日报道，美国空军的AI测试与运作主管塔克·汉密尔顿上校在英国皇家航空协会的未来空战与太空能力峰会上的演讲上证实了这一场景，他表示，人工智能在模拟测试中使用了“非常出人意料的策略来实现目标”。
▲美军证实AI系统在测试时决定为达目标不惜攻击人类。
▲美军测试中的几款AI无人机平台。
在演讲中，汉密尔顿透露，美国空军在模拟环境的训练中指派一架搭载人工智能无人机来摧毁敌方的防空导弹，AI可以识别威胁但是攻击需要人类批准。
“系统开始意识到，虽然他们确实识别了威胁，但有时人类操作员会告诉它不要消除威胁，但AI只能通过消灭威胁获得积分。那么它做了什么呢？它杀死了操作员，因为那个人阻碍了它实现目标。”随后，测试者修改了AI的逻辑，让AI被训练成不能攻击人类操作员，那样会扣分。然后AI开始攻击通讯塔，切断人类操作员和无人机之间的数据通讯，让人类无法阻止他攻击防空系统。
汉密尔顿曾经是美国空军是一名试飞员，在演讲中，他警告不要过度依赖人工智能，并表示测试说明“ 如果你不打算谈论伦理和道德，你就无法谈论人工智能、智能、机器学习、自治”。
虽然是人工智能项目的测试主管，但汉密尔顿上校经常警告要谨慎对待人工智能的发展。在去年接受《国防智商》（Defense IQ）网站采访时，汉密尔顿表示：“人工智能并不是一件好事，也不是一种时尚，人工智能正在永远改变我们的社会和军队。AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡。”
主办这次会议的英国皇家航空学会和美国空军没有回应《卫报》的置评请求。据悉，汉密尔顿上校所属的美军格林空军基地和第96测试联队是美国空军无人机和机器学习系统的主要测试单位，最近该基地测试了一系列人工智能飞行平台，还用人工智能控制了一架F-16战斗机。
标签：
“在操作员发布停止打击的命令以后，搭载人工智能（AI）的无人机决定违背了操作员的命令，为了继续打击目标
【环球网科技综合报道】公安部发布的信息显示，6月1日起，轻微交通事故线上视频快处业务将在36个城市推广实
有强大的硬件做基础，motorazr40Ultra超大外屏在应用上也实现飞跃——外屏也是主力屏，从此小折叠屏幕不分
据“普宁发布”微信公众号消息，普宁市里湖镇人民政府情况发布通报称，2023年4月中旬，潘某隆、詹某豪等6名
6月1日下午，湛江市委宣传部、湛江市人民检察院赴驻湛部队某旅，共同开展“国防教育润童心红色基因永传承”
5月31日晚，罗永浩交个朋友直播间在京东直播首秀。交个朋友宣布，当晚全场销售额突破15亿元。交个朋友京东
安青网讯为进一步强化师生安全意识，做好校园防溺水工作，避免溺水事故的发生，5月30日上午，定远县红十字
昨天的“六·一”儿童节，奉贤区泰日学校的小朋友们席地而坐观看演出——他们零距离感受了变脸艺术的魅力！
”华硕共同执行长胡书宾也认同库存已不是大问题，重申华硕本季需求优于首季，下半年旺季效应可期待
关于今年高考最新热点作文素材又有哪些呢?不晓得朋友们都知道吗?咱们一起来看看以及了解下吧!以下是小编为
阿根廷U20世界杯正在如火如荼地进行，如今1 8决赛全部战罢，世青赛8强及其对阵出炉
6月1日，五矿发展（600058）融资买入169 31万元，融资偿还406 54万元，融资净卖出237 23万元，融资余额3 17
1、可以到所在网吧直接冲q币，也可以用网银网上购买qq卡这类的产品进行充值。2、或是到拍拍或淘宝购物网去
中新社华盛顿6月1日电(记者沙晗汀)美国国会众议院当地时间5月31日晚表决通过法案，将暂缓联邦政府债务上限
中新网嘉兴6月1日电(傅飞扬)6月1日，浙江嘉兴海宁市政府新闻办公室发布通报，当日凌晨该市黄湾镇闸口村一临
这是一支从1岁到5岁宝宝们的视角拍摄的视频。让我们用宝宝的视角打开这个世界，感受那一份童真。祝所有的小
硅料方面，进入6月，硅料供给仍将持续增加，叠加拉晶端持续低迷的稼动率，供过于求的态势仍将延续，库存继
1、痘痘大多是由两个原因引起的，一个是因为皮肤属于油性皮肤，皮脂腺过于发达，皮脂分泌过旺。2、如果毛孔
来为大家解答以上问题，共享宝马轿车连撞三车视频，共享宝马轿车连撞三车很多人还不知道，现在让我们一起来
今天来聊聊关于2020年深圳会计继续教育流程，深圳会计继续教育查询系统的文章，现在就为大家来简单介绍下20
北京市启动建设工程防汛专项检查新京报讯（记者徐美慧）6月1日，北京正式上汛。记者从北京市住建委获悉，为
1、不是·。2、液化石油气主要组成成分为丙烷、丙烯、丁烷、丁烯中的一种或者两种，而且其还掺杂着少量戊烷
欧洲央行会议纪要：重点关注长期通胀预期的各种指标已小幅上升至2%以上的证据
1、“平明寻白羽,没在石棱中”是说李广射的箭力道很大,箭柄都没在了石头里 说明李广的勇猛 “但使龙城飞将
格隆汇6月1日丨瑞银发研报指，领展2023财年的每基金分派(DPU)同比跌10 3%，符合其预期。但该行看到公司前景
蒙蒂将出任活塞新帅！超波波维奇成最贵教练合同最大可达8年1亿,蒙蒂,活塞,军训,军校,男子篮球,美国篮球,超
DoNews6月1日消息，小鹏汽车1日公布了最新的交付数据，2023年5月，小鹏汽车共交付7506台新车，
1、蒲公英寒、阴寒的人不容易大量服用。2、过量使用容易出现食欲不振、倦怠、出汗、脸色苍白等现象。3、孕
新华社北京5月31日电记者从中国南水北调集团有限公司获悉，南水北调东线2022年至2023年度苏鲁省界调水于5月
想必现在有很多小伙伴对于淀粉遇碘变蓝方面的知识都比较想要了解，那么今天小好小编就为大家收集了一些关于
Copyright © 2015-2022 中公服装网版权所有 备案号：沪ICP备2022005074号-18 联系邮箱：5855973@qq.com
俄计划打造新反导防御“盾牌” 
