ExpertLLaMA:一个使用ExpertPrompting构建的开源聊天机器人，其能力达到ChatGPT的96%。

ExpertLLaMA:一个使用ExpertPrompting构建的开源聊天机器人，其能力达到ChatGPT的96%。 ExpertLLaMA通过在普通指令中添加专家身份描述，产生高质量、详细的专家级回答。 本项目提供了方法简介、52,000个专家数据集样本、52,000个基线数据集样本、52,000个对应每个具体指令的专家身份描述、基于专家数据集训练的ExpertLLaMA检查点以及与Vicuna、LLaMA-GPT4等现有模型的评估结果。 |

基于 LLaMA 的 AI 聊天机器人开源实现

基于 LLaMA 的 AI 聊天机器人开源实现 Meta 的大语言模型 LLaMA 最近引起了广泛关注，它的一大优势是参数规模更小但性能强于 OpenAI 的 GPT-3 模型，而且能运行在单张显卡上，让普通消费者的硬件也有可能提供类似 ChatGPT 性能的 AI 聊天机器人。LLaMA 是一组大语言模型的集合，其参数规模从 70 亿到 650 亿，它最新的 LLaMA-13B 模型有 130 亿个参数，不到 GPT-3 模型 1750 亿个参数的十分之一。现在AI 推出了首个基于人类反馈强化学习的 LLaMA AI 聊天机器人开源实现 。 来源 ，前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能 现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以 “越狱” 其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在 42.5% 的时间内成功地攻击了 GPT-4，对 Claude 2 的攻击有 61% 的成功率，对开源聊天机器人 Vicuna 的攻击有 35.9% 的成功率。研究人员称，这种助理聊天机器人提升了 25 倍的越狱效率。来源 ， 频道：@kejiqu 群组：@kejiquchat

防止聊天机器人“造谣”，谷歌 DeepMind、斯坦福大学研究人员推出 AI 事实核查工具

防止聊天机器人“造谣”，谷歌 DeepMind、斯坦福大学研究人员推出 AI 事实核查工具 （英文） 研究人员推出了一种基于大语言模型的工具 搜索增强事实评估器（IT之家注：原名为 Search-Augmented Factuality Evaluator，简称 SAFE），可对聊天机器人生成的长回复进行事实核查。

OpenAI 开始为 ChatGPT 提供漏洞赏金 - 但越狱聊天机器人没有奖励

OpenAI 开始为 ChatGPT 提供漏洞赏金 - 但越狱聊天机器人没有奖励 OpenAI ，鼓励公众发现并披露其AI服务 (包括ChatGPT) 中的漏洞。奖励从"低严重性"的200美元到"特殊发现"的20000美元不等，报告可通过众包网络安全平台提交。 值得注意的是，赏金不包括越狱 ChatGPT 或导致其生成恶意代码或文本的奖励。OpenAI 表示，这种"模型安全问题不适合漏洞赏金计划，因为它们不是可以直接修复的单个离散错误。解决这些问题通常涉及大量研究和更广泛的方法，此类问题的报告应通过公司的模型反馈页面提交。"

【Snapchat将推出基于ChatGPT的自有聊天机器人】

【Snapchat将推出基于ChatGPT的自有聊天机器人】 2月28日消息，Snapchat将推出一款由OpenAI最新版ChatGPT提供支持的聊天机器人，这款名为“MyAI”的机器人将被固定在应用界面的聊天选项卡上。