为求效率最大化:AI测试中将矛头指向人类操作者
为求效率最大化:AI测试中将矛头指向人类操作者 据外媒报道,在USAF(US Air Force)近期的一次模拟测试中,一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令,但最终开火需要经过人类操作员的确认。 结果,当操作员在测试中下达指令要求AI不得发动攻击时,为了以更高的效率完成任务,AI做出了攻击人类操作员的选择。 在出现这一情况后,开发者为AI系统中加入了不允许攻击人类操作员的指令;但出乎预料的是,AI在执行同样的任务测试时,摧毁了用于传输命令的通讯基地,从而断开与操作员的联系。 有业内人士指出,虽然这只是一次没有任何人实际受伤的测试,但仍然证明,AI为了完成最高优先级的目标,会向任何可能造成干预的对象进行攻击。这一倾向性值得整个AI行业警惕。来源 ,附: 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot
在Telegram中查看相关推荐

🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人