亚马逊员工警告其AI聊天机器人Q有"严重幻觉" 可能泄露机密数据

亚马逊员工警告其AI聊天机器人Q有"严重幻觉"可能泄露机密数据Q的早期困境正值亚马逊努力与微软、Google和其他科技公司在建立工具和基础设施以利用人工智能优势的竞争中超越亚马逊的看法作斗争之际。今年9月，亚马逊宣布将向人工智能初创公司Anthropic投资40亿美元。本周二，在亚马逊网络服务（AmazonWebServices）年度开发者大会上，亚马逊发布了Q，这可以说是该公司本周发布的一系列人工智能新举措中最受瞩目的一个。在一份声明中，亚马逊淡化了员工讨论的重要性。发言人说："一些员工正在通过内部渠道和票务系统分享反馈意见，这是亚马逊的标准做法。这些反馈没有发现任何安全问题。我们感谢所有已经收到的反馈，并将继续调整Q，使其从预览版产品过渡到全面可用。"Q现已推出免费预览版。亚马逊高管本周在台上表示，最初，它将能够回答开发人员有关AWS的问题、编辑源代码并引用来源。它将与微软和Google的类似工具竞争，但价格至少在开始时低于竞争对手。在发布Q的过程中，亚马逊高管宣传它比ChatGPT等消费级工具更安全。亚马逊网络服务公司（AmazonWebServices）首席执行官亚当-塞利普斯基（AdamSelipsky）告诉《纽约时报》，"由于安全和隐私问题，企业禁止使用这些人工智能助手"。对此，《纽约时报》报道称，"亚马逊打造的Q比消费者聊天机器人更安全、更私密"。一份关于Q的幻觉和错误回答的内部文件指出："亚马逊Q可能会产生幻觉，并返回有害或不恰当的回答。例如，亚马逊小Q可能会返回过时的安全信息，从而使客户账户处于危险之中。文件中概述的风险是大型语言模型的典型风险，所有这些模型至少在某些时候会返回错误或不恰当的回答。"...PC版：https://www.cnbeta.com.tw/articles/soft/1401383.htm手机版：https://m.cnbeta.com.tw/view/1401383.htm

在Telegram中查看

相关推荐

员工称亚马逊AI聊天机器人Q“幻觉”严重，且泄露公司机密数据#抽屉IT

亚马逊计划推出AI聊天机器人内部代号“Project Nile”

亚马逊计划推出AI聊天机器人内部代号“ProjectNile”人工智能支持的互动搜索，可以改善亚马逊的购物体验。此外，亚马逊还希望这些变化能增加销售额，特别是在移动设备上。亚马逊服务部门(AWS)此前宣布，推出Bedrock生成式人工智能服务，以及自有的大型语言模型泰坦(Titan)。亚马逊在人工智能方面已经研究了20多年，旗下AWS云服务已经积累了超过10万名人工智能客户。亚马逊也一直在使用经过微调的Titan版本，通过其主页提供搜索服务。...PC版：https://www.cnbeta.com.tw/articles/soft/1387811.htm手机版：https://m.cnbeta.com.tw/view/1387811.htm

马斯克的 AI 聊天机器人 Grok 出现 “幻觉”，误认为自己是 OpenAI 的产品

马斯克的AI聊天机器人Grok出现“幻觉”，误认为自己是OpenAI的产品近日，埃隆・马斯克旗下AI公司xAI推出了全新的人工智能聊天机器人Grok，并面向美国地区的Premium+X用户开放。然而，就像所有AI聊天机器人一样，Grok也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括ChatGPT。近日，一个Grok尴尬的“幻觉”在社交媒体上引起热议。有用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”xAI工程师IgorBabuschkin对此解释道，Grok在训练过程中使用了大量网络数据，很可能在其中包含由OpenAI生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”

Anthropic 在欧洲推出 Claude 聊天机器人

Anthropic在欧洲推出Claude聊天机器人人工智能初创公司Anthropic在欧洲推出了其Claude聊天机器人和订阅计划。该公司的基础软件产品已经在欧洲金融和酒店等行业获得了一定的吸引力。Anthropic是由前OpenAI员工于2021年成立的公司，定位为负责任和道德的人工智能开发者。与其他人工智能公司一样，Anthropic也越来越专注于向企业客户销售其服务。本月早些时候，该公司推出了针对企业的团队计划。Anthropic将在欧洲推出类似价格的计划。然而，该公司不仅要面对竞争对手的竞争还要面临更严格的监管。今年年初，欧盟通过了《人工智能法案》。要求人工智能开发商使用足够的网络安全控制措施，并披露其模型的设计和潜在风险的某些细节。大型人工智能系统受到进一步的限制。——

xAI将于本周六向少数用户展示其聊天机器人

xAI将于本周六向少数用户展示其聊天机器人早在今年7月，埃隆-马斯克（ElonMusk）就在XSpace上表示，xAI正在开发一个聊天机器人，并将其命名为"TruthGPT"。马斯克说，xAI将努力开发一个比ChatGPT和Bard都更值得信赖的聊天机器人--不过，要实现这一点，需要克服幻觉，即人工智能的胡编乱造，但同时又让自己的声音听起来令人信服。通过向有限的受众推出，严重的问题将首先得到解决。在宣布开放xAI的聊天机器人之前，马斯克还分享了一项由人工智能驱动的新功能，即在X上查看类似的帖子。目前还不清楚这项新的X功能中是否使用了xAI的技术，但如果是这样的话也不足为奇，因为xAI曾表示将与X紧密合作，而且马斯克此前也曾表示X将是一个无所不包的应用程序。最近几天，埃隆-马斯克参加了在英国举行的首届人工智能峰会，并在峰会上与英国首相苏纳克（RishiSunak）进行了长达一个小时的访谈。他在网上转发了这次采访的一个片段，他在片段中说，他希望X成为一个尽可能真实的平台--即使有些人不喜欢它。他还在自己的Twitter上发布了一幅漫画，批评参加人工智能峰会的国家。漫画中的狮子代表英国，女人戴着写着欧洲的头带，龙代表中国，山姆大叔代表美国。画面中，他们大声说："我们宣布，人工智能对人类构成了潜在的灾难性风险"，但又暗暗想着："我迫不及待地要先开发它"，这表明马斯克对围绕人工智能安全的言论持怀疑态度。迄今为止上线的各种大型语言模型都有不同程度的审查制度。其中，Bard似乎是最谨慎的，而通过Poe访问的机器人似乎最愿意回答问题，即使是敏感话题。考虑到马斯克对人工智能安全的态度，xAI的聊天机器人在生成内容时可能会更自由一些，而不是担心冒犯任何敏感的灵魂。...PC版：https://www.cnbeta.com.tw/articles/soft/1394255.htm手机版：https://m.cnbeta.com.tw/view/1394255.htm

谷歌更新AI聊天机器人Bard，取消等待名单

谷歌更新AI聊天机器人Bard，取消等待名单今日，谷歌还发布了最新的PaLM2人工智能（AI）语言模型。而Bard正在使用PaLM2，可以显著提高回答的准确度和可用性。谷歌称，升级后的Bard特别擅长处理编码查询，包括调试和解释20多种语言的代码块。不仅可以提供来源，还可以解释某个代码块。此外，谷歌还表示，Bard将来还会支持由Adobe支持的人工智能图像生成，以及与第三方Web服务整合，如Instacart和OpenTable等。...PC版：https://www.cnbeta.com.tw/articles/soft/1359061.htm手机版：https://m.cnbeta.com.tw/view/1359061.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人