人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以“越狱”其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在42.5%的时间内成功地攻击了GPT-4，对Claude2的攻击有61%的成功率，对开源聊天机器人Vicuna的攻击有35.9%的成功率。研究人员称，这种助理聊天机器人提升了25倍的越狱效率。来源，频道：@kejiqu群组：@kejiquchat