人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能 现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以 “越狱” 其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在 42.5% 的时间内成功地攻击了 GPT-4，对 Claude 2 的攻击有 61% 的成功率，对开源聊天机器人 Vicuna 的攻击有 35.9% 的成功率。研究人员称，这种助理聊天机器人提升了 25 倍的越狱效率。来源 ， 频道：@kejiqu 群组：@kejiquchat

谷歌正在开发基于名人和影响者的人工智能聊天机器人

谷歌正在开发基于名人和影响者的人工智能聊天机器人 谷歌正在基于名人和 YouTube 网红构建新的人工智能聊天机器人。谷歌的名人人工智能聊天机器人将由该公司的 Gemini 大语言模型提供支持。该公司还在尝试与有影响力的明星网红建立合作伙伴关系，并且还在开发一项功能，让人们只需描述自己的个性和外表就可以创建自己的聊天机器人。目前尚不清楚谷歌可能与哪些名人或有影响力的人合作。 、