英国官员警告谨慎使用AI驱动的聊天机器人

英国官员警告谨慎使用AI驱动的聊天机器人英国官员警告各公司谨慎将人工智能驱动的聊天机器人整合到业务中，称越来越多的研究显示它们可能会被用于执行有害任务。路透社报道，英国国家网络安全中心（NCSC）星期三（8月30日）发布的博客文章中说，专家们尚未完全掌握与生成类似人类响应的算法相关的潜在安全问题，这些算法被称为大语言模型。这些AI驱动的工具被用作聊天机器人，不仅可以替代互联网搜索，还可以替代客服和销售电话。各国当局正在应对大语言模型的崛起，例如ChatGPT，企业正在将其整合到各种服务中，包括销售和客户服务。 NCSC说，这可能带来风险，特别是如果这些模型被插入到公司的业务流程中。学者和研究人员发现了通过向聊天机器人输入恶意指令或欺骗它们绕过内置防护措施的方法。例如，如果黑客成功更改了它的询问，一家银行的AI驱动的聊天机器人可能会被欺骗进行未经授权的交易。 NCSC说：“使用大语言模型构建服务系统的组织需要谨慎，就像使用测试版产品或代码库一样。他们可能不会允许该产品代表客户进行交易，而且不会完全信任它。”

在Telegram中查看

相关推荐

基于 LLaMA 的 AI 聊天机器人开源实现

基于 LLaMA 的 AI 聊天机器人开源实现 Meta 的大语言模型 LLaMA 最近引起了广泛关注，它的一大优势是参数规模更小但性能强于 OpenAI 的 GPT-3 模型，而且能运行在单张显卡上，让普通消费者的硬件也有可能提供类似 ChatGPT 性能的 AI 聊天机器人。LLaMA 是一组大语言模型的集合，其参数规模从 70 亿到 650 亿，它最新的 LLaMA-13B 模型有 130 亿个参数，不到 GPT-3 模型 1750 亿个参数的十分之一。现在AI 推出了首个基于人类反馈强化学习的 LLaMA AI 聊天机器人开源实现。来源，前文：来自：雷锋频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

Snapchat 发布由 ChatGPT 驱动的聊天机器人"My AI"

Snapchat 发布由 ChatGPT 驱动的聊天机器人"My AI" Snap 是 OpenAI Foundry 的首批客户之一，该服务允许公司使用专为大型工作负载设计的专用计算运行其最新的 GPT-3.5 模型。聊天机器人"My AI"最初只面向 Snapchat+ 订阅者 (每月3.99美元) ，最终目标是让所有 Snapchat 7.5亿月度用户都能使用。 The Verge 记者测试后认为"My AI"和其它 GPT-3.5 的主要区别在于有更多限制。Snap 员工已经培训它遵守公司的安全准则，不要回应咒骂，暴力，色情或政治等内容。它也被剥夺了一些 ChatGPT 的功能如撰写学术论文。(记者还强调，虽然自己在测试中没"变出"什么东西，但相信其他人会的。)

【英国消费者组织警告：AI聊天机器人使网络诈骗文案愈发专业化】

【英国消费者组织警告：AI聊天机器人使网络诈骗文案愈发专业化】据 10 月 28 日报道，根据英国消费者组织“Which? ”的最新发现，不法分子会利用 ChatGPT 和 Bard 等 AI 聊天机器人制造出更有说服力的骗局，对公众构成威胁，且上述聊天机器人缺乏有效的防御措施。据介绍，当地消费者通常会注意到诈骗短信、邮件使用的英语语法和拼写方面通常很糟糕，长久以来这也是识别诈骗内容的一个重要方法。但随着基于生成式 AI 的聊天机器人出现，不法分子现在可以轻松越过这一障碍。在评论这项调查时，Which? 政策与宣传总监 Rocio Concha 总结称：“我们的调查清楚说明，这项新技术是如何让犯罪分子更容易诈骗他人的。（英国）政府即将召开的 AI 峰会必须考虑如何保护人们免受此时此地发生的危害，而不是仅仅关注前沿 AI 的长期风险。”此前报道，。快讯/广告联系 @xingkong888885

AI 聊天机器人带来的挑战

AI 聊天机器人带来的挑战自 iPhone 以来，还没有一种产品像 ChatGPT 那样引发如此强烈的反响。所有人都感到焦虑不安。Google 也许比其他任何公司都更有理由对 AI 聊天机器人既爱又恨。它已宣布进入“紧急状态”，因为聊天机器人的能力可能对其 1620 亿美元的广告业务造成打击。但 Google 的云计算业务也可能是赢家，因为目前的 AI 聊天机器人是运行在云端。对网络出版商来说，一个严峻的挑战是当聊天机器人从网站上获取信息，但送到网站的访问者变少时，网站应该怎么办？《华尔街日报》已表示，用该报发表的文章来训练 AI 系统需要获得其许可。来源，来自：雷锋频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

腾讯星期四将推出AI聊天机器人

腾讯星期四将推出AI聊天机器人中国互联网巨头腾讯预告，星期四（9月7日）将发布一款人工智能（AI）聊天机器人。腾讯旗下云计算平台“腾讯云”星期三（6日）在微信公众号发布预热文，展示了文案编辑与AI聊天机器人的一段对话。 [Media] 从这段对话来看，腾讯的AI聊天机器人不光能安慰文案编辑，甚至还写出了一段邀请文案。文案写道：“数字生态大会明天开幕，腾讯云邀您共襄盛举……我们将为您解锁一场数字盛宴，探索数字生态的未来。” 腾讯对AI聊天机器人的头像做了马赛克处理，但隐约可见一个“S”的形状。中国从上个月开始批准公开发布AI聊天机器人。百度和商汤等中国大型科技公司分别于上周发布了AI智能聊天机器人。腾讯几个月来一直在开发自己的人工智能模型“混元”，腾讯上个月曾表示，正在内部扩大该模型的测试。据中国证券报早前报道，腾讯将在9月初举行的2023年腾讯全球数字生态大会上正式发布“混元大模型”，但并未提及是否面向公众开放。

ℹDeepAI 提供 AI 聊天机器人、AI 图片生成的免费线上工具，无需注册就能使用#

ℹDeepAI 提供 AI 聊天机器人、AI 图片生成的免费线上工具，无需注册就能使用# DeepAI 是我最近发现到还蛮好用的 AI 线上工具，「聊天机器人」、「图片生成」都有，而且不用注册就能使用，注册则可以获得更进阶的模型...

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人