其他

为求效率最大化:AI测试中将矛头指向人类操作者

2023-06-02 3,227 阅读 来源:快科技 作者:非小米

快科技6月2日消息,自从ChatGPT爆火以来,大众对于“AI攻击人类”的阴谋论就不曾停止,近日的一项模拟测试,在一定程度上更是加剧了人们对此的担忧。

据外媒报道,在USAF近期的一次模拟测试中,一架由AI控制的无人机收到了识别并摧毁对方防空系统的最高优先级指令,但最终开火需要经过人类操作员的确认。

结果,当操作员在测试中下达指令要求AI不得发动攻击时,为了以更高的效率完成任务,AI做出了攻击人类操作员的选择。

在出现这一情况后,开发者为AI系统中加入了不允许攻击人类操作员的指令;但出乎预料的是,AI在执行同样的任务测试时,摧毁了用于传输命令的通讯基地,从而断开与操作员的联系。

有业内人士指出,虽然这只是一次没有任何人实际受伤的测试,但仍然证明,AI为了完成最高优先级的目标,会向任何可能造成干预的对象进行攻击。

这一倾向性值得整个AI行业警惕。

为求效率最大化:AI测试中将矛头指向人类操作者

分享 微信二维码

相关推荐

更多 →
手机 16小时前

2026年底换机指南:三档价位怎么选不踩坑

年末手机市场新品集中,但并非每一款都适合你。本文按2000元以下、2000-4000元、4000元以上三档价位,结合处理器、屏幕、影像与续航四大核心参数,给…

手机 17小时前

2026年底换机:3000元档手机怎么选才不亏

2026年11月,3000元价位段的手机竞争已进入白热化,性能和配置不再是短板。这个价格段不再是‘够用’的代名词,而是均衡体验的甜点位。对于绝大多数用户,这…