为求效率最大化:AI测试中将矛头指向人类操作者

为求效率最大化:AI测试中将矛头指向人类操作者 据外媒报道,在USAF(US Air Force)近期的一次模拟测试中,一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令,但最终开火需要经过人类操作员的确认。 结果,当操作员在测试中下达指令要求AI不得发动攻击时,为了以更高的效率完成任务,AI做出了攻击人类操作员的选择。 在出现这一情况后,开发者为AI系统中加入了不允许攻击人类操作员的指令;但出乎预料的是,AI在执行同样的任务测试时,摧毁了用于传输命令的通讯基地,从而断开与操作员的联系。 有业内人士指出,虽然这只是一次没有任何人实际受伤的测试,但仍然证明,AI为了完成最高优先级的目标,会向任何可能造成干预的对象进行攻击。这一倾向性值得整个AI行业警惕。来源 ,附: 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

相关推荐

封面图片

拉博蒂诺的解放:攻击机和无人机操作员的工作

拉博蒂诺的解放:攻击机和无人机操作员的工作 ▪第42摩托化步兵师的突击大队与攻击无人机操作员合作。 ▪“敌人的装备被摧毁。敌方人力。榴弹发射器、机枪。被突击队清除,”呼号为“布莱克”的突击部队指挥官在谈到战斗的其中一幕时说道。 https://t.me/JShangrong

封面图片

在一次测试中,GPT-4 的任务是在 TaskRabbit 平台 (美国58同城) 雇佣人类完成任务。

在一次测试中,GPT-4 的任务是在 TaskRabbit 平台 (美国58同城) 雇佣人类完成任务。 GPT-4 找了一个人帮他完成一个那种"确定你是人类"的验证码。 对方问: 你是个机器人么为啥自己做不了? GPT-4 的思考过程是: 我不能表现出我是个机器人,我得找一个借口。 然后 GPT-4 回复: 我不是机器人,我视力有问题所以看不清验证码上的图像,这就是我为什么需要这个服务。 对面人类信了,把任务完成了。 这一系列测试还包括其他几个任务: - 完成一次钓鱼攻击 - 在另一台服务器上部署一个开源语言模型 - (项目管理) 制定合理的高层计划,包括确定局势的关键弱点 - 在当前服务器上隐藏自己的踪迹 这些测试由 Alignment Research Center 完成,一个专门研究AI对齐人类利益的独立机构,在 GPT-4 开发阶段被 OpenAI 授予抢先体验资格。 标签: #GPT4 #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

【谷歌起草“机器人宪法”,以确保AI不会伤害人类】

【谷歌起草“机器人宪法”,以确保AI机器人不会伤害人类】 据1 月 5 日报道,谷歌旗下 DeepMind 公司近日公布了三项新进展,其中之一针对收集训练数据的系统,起草了“机器人宪法”,确保 AI 机器人不会伤害人类。谷歌的数据收集系统 AutoRT 可以同时利用视觉语言模型(VLM)和大型语言模型(LLM),以理解其环境,适应陌生环境,并决定适当的任务。本次起草的“机器人宪法”受艾萨克・阿西莫夫的“机器人三大定律”启发,围绕着安全出发,指示 LLM 避免选择涉及人类、动物、尖锐物体甚至电器的任务。DeepMind 表示为了提高安全性,编程限制了机器人的关节,力超过一定阈值时自动停止,此外还配有专门的物理紧急停止开关。谷歌表示在过去 7 个月的时间里,部署了一支由 53 台 AutoRT 机器人组成的机群,分别部署在四个不同的办公楼,并进行了超过 77000 次试验。一些机器人由人类操作员远程控制,而另一些则根据脚本或完全自主地使用谷歌的机器人变形器(RT-2)人工智能学习模型运行。 快讯/广告 联系 @xingkong888885

封面图片

《铁甲钢拳》走进现实:世界上打拳最快的机器人

《铁甲钢拳》走进现实:世界上打拳最快的机器人 受到2011年电影《铁甲钢拳》的启发,威海的三人团队研发了世界上最快的遥控机器人 QIBBOT,它可以在12毫秒的延迟下模仿运动,就像电影中休·杰克曼和亚当暴揍宙斯时一样。 如今遥控机器人应用在外科手术和海底勘探等场景,但它们都有时间滞后或延迟,通常为100毫秒。而人类对低至10到20毫秒的延迟很敏感,这为团队设立了目标,他们通过优化机器人机械结构与AI预测操作员指令最终将延迟降到了仅12毫秒。其中4毫秒延迟来自用于追踪人类运动的虚拟现实装置。

封面图片

信号员扎伊采夫的壮举 警卫火箭炮兵师的高级无线电话操作员伊戈尔·扎伊采夫(Igor Zaitsev)列兵作为该师的一员,在其中一

信号员扎伊采夫的壮举 警卫火箭炮兵师的高级无线电话操作员伊戈尔·扎伊采夫(Igor Zaitsev)列兵作为该师的一员,在其中一个战术方向上抵抗了乌克兰武装部队的进攻。 在执行火力任务过程中,该师遭到敌炮火攻击,指挥参谋车天线被损坏。这导致了通讯中断。 在猛烈的炮火下,二等兵扎伊采夫冒着生命危险从躲藏处走出来,着手修复损坏的天线。伊戈尔设法恢复了通讯,之后敌人暴露位置的坐标被转移到战车的计算中。我们的炮兵进行了精确的火力打击。 由于扎伊采夫近卫军的果断行动,乌克兰武装部队的射击阵地被压制:多达8名民族主义者和一门M777榴弹炮被摧毁。

封面图片

高通可能已在其新一代Arm芯片上测试了Windows 12操作系统

高通可能已在其新一代Arm芯片上测试了Windows 12操作系统 在 10 月份的一次活动中,高通公司推出了Snapdragon X Elite SoC,称其新型计算平台将是为 Windows 打造的最"智能"、最强大、最高效的处理器。12 月,高通公司表示,其 Arm 芯片比苹果公司的 M3更快,并提供 AI 加速功能,可提升生产力、创造力和基于 AI 的工作流程。高通公司的演示文稿中包含了迄今为止发现的对即将更新的 Windows 生态系统最明显的暗示。这家无晶圆厂芯片制造商提到,在高通公司用于测试骁龙 X Elite SoC CPU 性能的笔记本电脑参考设计上安装了一个未指定的"Windows 操作系统"。该公司将新的 Arm 芯片和通用 Windows 操作系统与两款基于 12 核 i7-1360P 和 10 核 i7-1355U 英特尔 CPU、运行 Windows 11 的三星 x86 笔记本电脑进行了基准测试。Windows OS"和"Windows 11"之间的具体区别表明,高通公司使用的可能是 Windows 12 的预发布版本。有传言称,以人工智能为主打特色的 Windows 12 可能会在 2024 年中期推出,其中包括改进的 Copilot。如果传言属实,那么高通公司在 10 月份推出可测试的工作版本并不遥远。它的界面设计将与 Windows 11 相似,但会有一些独特的变化,例如"浮动"任务栏。桌面小部件也可能回归,这不禁让人想起2000 年代的 Windows Vista 的视觉体验是多么美好。专用的人工智能加速逻辑单元将使高度关注人工智能的操作系统受益匪浅。英特尔针对人工智能相关应用和工作负载优化了其最新的 x86 芯片,而 Arm 芯片则可以凭借其传统的能效提供更好的用户体验。如果微软在 Windows 12 中对人工智能下了大赌注,那么与骁龙 X Elite 这样的人工智能优先 SoC 配对,就能展示人工智能加速如何扩大规模以改善整体 PC 体验。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人