人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以“越狱”其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在42.5%的时间内成功地攻击了GPT-4，对Claude2的攻击有61%的成功率，对开源聊天机器人Vicuna的攻击有35.9%的成功率。研究人员称，这种助理聊天机器人提升了25倍的越狱效率。来源，频道：@kejiqu群组：@kejiquchat

Cloudflare 推出阻止人工智能机器人的工具

Cloudflare推出阻止人工智能机器人的工具云服务提供商Cloudflare推出了一款新的免费工具，以防止机器人抓取其平台上托管的网站数据来训练人工智能模型。要启用，只需导航到Cloudflare仪表板的“安全性”>“自动程序”，打开“AI爬虫程序和爬网程序”选项。该公司表示：“客户不希望人工智能机器人访问他们的网站，尤其是那些不诚实的机器人”为了解决规避检测问题，Cloudflare分析了人工智能机器人和爬虫流量，以微调自动机器人检测模型。除其他因素外，模型还考虑了人工智能机器人是否会通过模仿使用网络浏览器的用户行为来试图逃避检测。——、