开源聊天机器人在质量评估上能达到 ChatGPT 的九成

开源聊天机器人在质量评估上能达到 ChatGPT 的九成 加州伯克利、斯坦福、卡内基梅隆和加州圣迭戈的研究团队宣布了开源聊天机器人 Vicuna-13B，它是基于 Meta 的大语言模型 LLaMA，使用了用户通过 ShareGPT 分享的 7 万对话样本进行微调。研究人员让 OpenAI 的 GPT-4 作为裁判去对比 Vicuna-13B 以及 ChatGPT 和 Google Bard，结果显示它在质量评估中能达到 ChatGPT 的九成左右。Vicuna-13B 的训练成本只花了 300 美元。 Vicuna-13B 的代码使用 Apache License 2.0 许可证，研究人员计划释出其模型权重。训练和服务以及(支持中文)可公开用于非商业用途。 来源 ，， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

英国官员警告谨慎使用AI驱动的聊天机器人

英国官员警告谨慎使用AI驱动的聊天机器人 英国官员警告各公司谨慎将人工智能驱动的聊天机器人整合到业务中，称越来越多的研究显示它们可能会被用于执行有害任务。 路透社报道，英国国家网络安全中心（NCSC）星期三（8月30日）发布的博客文章中说，专家们尚未完全掌握与生成类似人类响应的算法相关的潜在安全问题，这些算法被称为大语言模型。 这些AI驱动的工具被用作聊天机器人，不仅可以替代互联网搜索，还可以替代客服和销售电话。 各国当局正在应对大语言模型的崛起，例如ChatGPT，企业正在将其整合到各种服务中，包括销售和客户服务。 NCSC说，这可能带来风险，特别是如果这些模型被插入到公司的业务流程中。学者和研究人员发现了通过向聊天机器人输入恶意指令或欺骗它们绕过内置防护措施的方法。 例如，如果黑客成功更改了它的询问，一家银行的AI驱动的聊天机器人可能会被欺骗进行未经授权的交易。 NCSC说：“使用大语言模型构建服务系统的组织需要谨慎，就像使用测试版产品或代码库一样。他们可能不会允许该产品代表客户进行交易，而且不会完全信任它。”

基于 LLaMA 的 AI 聊天机器人开源实现

基于 LLaMA 的 AI 聊天机器人开源实现 Meta 的大语言模型 LLaMA 最近引起了广泛关注，它的一大优势是参数规模更小但性能强于 OpenAI 的 GPT-3 模型，而且能运行在单张显卡上，让普通消费者的硬件也有可能提供类似 ChatGPT 性能的 AI 聊天机器人。LLaMA 是一组大语言模型的集合，其参数规模从 70 亿到 650 亿，它最新的 LLaMA-13B 模型有 130 亿个参数，不到 GPT-3 模型 1750 亿个参数的十分之一。现在AI 推出了首个基于人类反馈强化学习的 LLaMA AI 聊天机器人开源实现 。 来源 ，前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

ChatGPT宕机5小时，谷歌Gemini聊天机器人搜索激增

ChatGPT宕机5小时，谷歌Gemini聊天机器人搜索激增 当地时间6月4日，AI新锐巨头OpenAI的ChatGPT经历了长达五个半小时的宕机，导致大部分用户无法使用。在此期间，对谷歌聊天机器人Gemini的搜索量激增，体现出Gemini作为替代品的地位或许得到了越来越多的关注。 软件公司QRFY统计的数据显示，在ChatGPT宕机期间，对Gemini的谷歌搜索量飙升至37.2万次，而其在5月4日至6月3日期间的每日平均搜索量为20.5万次，激增近60%。(澎湃新闻) 标签: #OpenAI #Gemini 频道: @GodlyNews1 投稿: @GodlyNewsBot

中国科技公司密集发布各自的类 ChatGPT 聊天机器人

中国科技公司密集发布各自的类 ChatGPT 聊天机器人 4月11日阿里将正式发布通义千问大模型产品。 4月10日，多家科技公司抢跑发布大模型产品，商汤“日日新”，昆仑万维“天工”，以及王小川宣布成立“百川”智能。 怎么说呢，现在做大模型，滥竽充数凑热闹的多，特别是很多跟AI八竿子打不着关系的公司，没算法没数据没算力没场景，啥都没有，还来蹭热点只求股价涨一点。（微博 ） 据消息，商汤科技在4月10日有消息浮出水面之前，该公司股价在几天内已飙升了约 25%。

人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能 现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以 “越狱” 其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在 42.5% 的时间内成功地攻击了 GPT-4，对 Claude 2 的攻击有 61% 的成功率，对开源聊天机器人 Vicuna 的攻击有 35.9% 的成功率。研究人员称，这种助理聊天机器人提升了 25 倍的越狱效率。来源 ， 频道：@kejiqu 群组：@kejiquchat