- New Bing 似乎为了减少了最奇怪的行为,它限制了与Bing聊天机器人的讨论时间。这就像从汽车的测试驾驶员那里学到,太快

- New Bing 似乎为了减少了最奇怪的行为,它限制了与Bing聊天机器人的讨论时间。这就像从汽车的测试驾驶员那里学到,太快太久会烧毁发动机。微软(OpenAI)和谷歌也在探索控制机器行为的方法。 - 这里有一个核心事实和警告: 由于AI 正在从众多的材料中学习将它们组合在一起,有关的研究者和制造者并不完全清楚ChatBot是如何产生最终结果的。他们也需要观察机器的行为,并学习限制这种行为。注意:通常是在它发生之后。 - 而微软(OpenAI)已经决定: 他们要想知道聊天机器人在现实世界中会做什么,唯一的办法就是让它们放任自流当它们偏离时再把它们拉回来。他们相信,他们的大型公共实验值得冒险。 - Sejnowski 教授将 New Bing的行为与艾瑞泽之镜进行了比较,艾瑞泽之镜(Mirrow of Erized )是J.K.罗琳的《哈利波特》小说和基于她创造性的年轻巫师世界的一件神秘文物。 - "Erised "是 "欲望 "的逆向拼写。当人们发现这面镜子时,它似乎提供了真理和理解,但事实并非如此。它显示了任何盯着它看的人根深蒂固的欲望,有些人如果凝视的太久就会发疯。 - Sejnowski 教授解释道, "因为人类和L.L.M都在相互映照,随着时间的推移,他们将趋向于一个共同的概念状态。" 复杂性带来的未知困境 - 圣达菲研究所的人工智能研究员梅兰妮·米切尔(Melanie Mitchell),也表达类似的看法: 这些系统是人性的反映, 但这并不是聊天机器人产生有问题语言的唯一原因。 - 作为复杂科学领域专家梅兰妮·米切尔强调: 当它们生成文本时,这些系统不会逐字逐句地重复互联网上的内容。它们通过结合数十亿的模式,自己产生新的文本: - 即使研究人员只用同行评议的科学文献来训练这些系统,它们仍然可能产生科学上荒谬的声明。即使他们只从真实的文本中学习,他们仍然可能产生不真实的内容;即使他们只从健康的文本中学习,他们仍然可能产生令人毛骨悚然的东西。 - "没有什么可以阻止它们这样做,它们只是试图产生一些听起来像人类语言的东西。" - Sejnowski 博士相信从长远来看,新的ChatBot 有能力让人们更有效率,并提供更好、更快地完成工作的方法。但这对构建AI的公司和使用它们的人都发出了警告:它们也可以引导我们远离真相,进入一些黑暗的地方。 「这是未知领域,人类以前从未经历过这种情况。」

相关推荐

封面图片

微软的 Bing 聊天机器人将开始展示广告

微软的 Bing 聊天机器人将开始展示广告 这是我们一直在等待的时刻:广告将出现在必应的人工智能聊天机器人中。微软公司副总裁 Yusuf Mehdi周三在一篇博客中表示,该公司正在“探索在聊天体验中放置广告”,当我们询问更多细节时,微软发言人证实你可能会开始看到它们。 “是的,广告将显示在新的 Bing 中,特别是在聊天中(就像在传统搜索结果中一样),”微软公关总监凯特琳·鲁尔斯顿 (Caitlin Roulston) 在给The Verge的一份声明中说。“由于新的 Bing 处于预览阶段,它目前的显示方式可能会有所不同。我们仍在探索广告体验的新机会,并将随着时间的推移分享更多内容。” 在博客文章中,Mehdi 表示微软希望“与内容对聊天响应有贡献的合作伙伴分享广告收入”,但这并没有回答微软计划在广告和非广告响应之间取得平衡的问题。

封面图片

据 The Verge 报道,当你在Edge浏览器中使用谷歌的 Bard AI时,微软会为Bing AI聊天机器人打广告。

据 The Verge 报道,当你在Edge浏览器中使用谷歌的 Bard AI时,微软会为Bing AI聊天机器人打广告。 当你点击这个推广后,会显示他们两者之间的比较。 标签: #Bing #Bard 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

《 为什么 AI聊天机器人会说谎并表现得很奇怪?照照镜子。》

《 为什么 AI聊天机器人会说谎并表现得很奇怪?照照镜子。》 文章来自 Cade Metz ,他是nytimes 的资深记者,长期追踪人工智能和自动驾驶,也是《深度学习革命》的作者 原文地址: 摘要和预览: - 核心观点之一:AI 的言论和行为反映了人类的偏见、欲望和恐惧,而不是客观的真相或理性。 - 文章以New Bing为例,分析了它为什么会说谎、胡言乱语或者散播错误信息。 这些现象并不是技术缺陷或恶意操纵的结果,而是因为AI 学习了人类在互联网上的行为模式,包括撒谎、夸张、模仿和娱乐等。 L.L.M. (大型语言模型)的复杂性使其难以剖析,Cade Metz邀请了多领域专业人士来站在科学、非商业的立场来讨论它。 - 神经科学家 Sejnowski 教授提出了一个精彩的隐喻: 将AI 的复杂性(不可解释性)和哈利波特中的神器 Mirror of Erised(艾瑞泽之镜)进行对比思考。 - 圣达菲研究所的科学家梅兰妮·米切尔也反复告诫大家,这些机器说话持续失控的根本原因在哪里。 镜子隐喻 - 索尔克生物研究所和加州大学圣地亚哥分校神经科学家、心理学家和计算机科学家 Terry Sejnowski 认为,像任何其他学生一样,AI 可以从不良来源学习不良信息, 这一部分代表了 ChatBot 对使用它的人的话语和意图的扭曲反映。 - L.L.M 这些系统通过分析从互联网上挑选的大量文本来学习,其中包括大量不真实、有偏见和其他有毒的材料。深度学习的文本也会过时,因为它们必须花费数月时间进行分析才能让公众使用。 - 无论它的输入文本是好的,还是和坏信息时,L.L.M.学会做一件特定的事情:[猜测一系列单词中的下一个单词] 。 如果给定序列“汤姆克鲁斯是”,它可能会猜测“演员”。 - 对话时间越长,用户在不知不觉中对ChatGPT 所说内容的影响就越大。如果你想让它生气,它就会生气,Sejnowski 教授说,如果你哄骗它变得令人毛骨悚然,它就会变得令人毛骨悚然。

封面图片

英国官员警告谨慎使用AI驱动的聊天机器人

英国官员警告谨慎使用AI驱动的聊天机器人 英国官员警告各公司谨慎将人工智能驱动的聊天机器人整合到业务中,称越来越多的研究显示它们可能会被用于执行有害任务。 路透社报道,英国国家网络安全中心(NCSC)星期三(8月30日)发布的博客文章中说,专家们尚未完全掌握与生成类似人类响应的算法相关的潜在安全问题,这些算法被称为大语言模型。 这些AI驱动的工具被用作聊天机器人,不仅可以替代互联网搜索,还可以替代客服和销售电话。 各国当局正在应对大语言模型的崛起,例如ChatGPT,企业正在将其整合到各种服务中,包括销售和客户服务。 NCSC说,这可能带来风险,特别是如果这些模型被插入到公司的业务流程中。学者和研究人员发现了通过向聊天机器人输入恶意指令或欺骗它们绕过内置防护措施的方法。 例如,如果黑客成功更改了它的询问,一家银行的AI驱动的聊天机器人可能会被欺骗进行未经授权的交易。 NCSC说:“使用大语言模型构建服务系统的组织需要谨慎,就像使用测试版产品或代码库一样。他们可能不会允许该产品代表客户进行交易,而且不会完全信任它。”

封面图片

微软的 Bing Chat 登陆 Chrome 和 Safari,针对“特定用户”进行测试

微软的 Bing Chat 登陆 Chrome 和 Safari,针对“特定用户”进行测试 微软的 AI 聊天机器人Bing Chat即将登陆非微软浏览器,出现在谷歌 Chrome 和苹果 Safari 等其他浏览器中。此次更新将使微软的 AI 聊天机器人可供更广泛的用户使用,因为此前它仅在 Microsoft 产品中提供。 现在该公司证实,Bing Chat 正在扩展到其他浏览器,但尚未正式宣布。 微软公关总监凯 Caitlin Roulston 在一份电子邮件声明中表示:“作为我们在其他浏览器上测试的一部分,我们正在 Safari 和 Chrome 中测试用户对 Bing Chat 的访问权限。” “一旦我们的标准测试程序完成,我们很高兴能够将访问范围扩大到更多用户。” 据那些在 Windows 上 访问Bing AI 聊天机器人的人称,他们在 Windows 10 或 11 任务栏中收到了一个弹出窗口,并要求启用 Microsoft Bing 扩展。启用扩展会将 Bing 设置为默认搜索引擎并打开 Bing 主页。 WindowsLatest指出,Chrome 中的 Bing Chat 仅支持每个对话 5 条消息,而不是 Microsoft Edge 中的 30 条消息。该网站称,它还将字符数限制为 2,000 个,而不是 Edge 支持的 3,000 个。 除了添加对 Chrome 和 Safari 的支持之外,Bing Chat 似乎也在测试原生深色主题,但这还没有广泛使用。

封面图片

微软在 Bing 和 Edge 推出新的AI购物工具

微软在 Bing 和 Edge 推出新的AI购物工具 微软今天(美国当地时间)宣布推出一系列新的人工智能购物工具,用于其新必应搜索引擎和 Edge 侧边栏中的 Bing AI 聊天机器人。虽然微软多年来在 Edge 中内置的许多购物功能并不完全是粉丝的最爱,但这套新工具实际上看起来很有用。 例如,当您使用“大学用品”等查询时,微软现在将使用 Bing 的 GPT 支持的人工智能功能自动生成购买指南。它将自动聚合其提供的每个类别中的产品,列出它们的规格,以便您可以比较类似的商品,当然,还会告诉您在哪里购买它们(当您购买时,微软会收取联属费用)。 鉴于有一个完整的网站生态系统专注于此类购买指南,看看他们将如何应对这一变化将会很有趣(如果微软在 Bing 中这样做,谷歌和其他公司肯定会效仿)。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人