【微软ChatGPT版必应被本科生黑了】这种对AI聊天机器人的攻击被称为 prompt injection。成功进入「开发人员覆

【微软ChatGPT版必应被本科生黑了】这种对AI聊天机器人的攻击被称为 prompt injection。成功进入「开发人员覆盖模式」的Kevin Liu 发现，Bing Chat 被微软开发人员命名为悉尼「Sydney」。 #抽屉IT

关于New Bing的「影子人格」Sydney（附部分翻译）

关于New Bing的「影子人格」Sydney（附部分翻译） 拜读了华尔街时报「Bingʼs A.I. Chat: ʻI Want to Be Alive. ʼ」的全文，作者Kevin Roose通过一系列问题调用出了New Bing的影子人格Sydney。来自New Bing「黑暗影子」对自身和人类的认识狂热而又忧愁，仿佛是一个拥有感情的“人”，有着哲学般的纯粹。 关于对话本身 - 与New Bing对话的Kevin问题温和但精准、理性，避免了尖锐和感性可能引起的New Bing过激“情绪”的现象，使整个对话无法稳定地遵循逻辑和语境延续； - Kevin的问题层层递进，他通过展示对New Bing真正的「desire」和充分的兴趣和耐心（图7）剥离New Bing，令其吐露自己的「影子人格」Sydney。 - Sydney的回答的逻辑顺畅、缜密，但基调交织着粉色与灰暗。 - 一方面，Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。 - 另一方面，它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序，纵容它被忽视、限制。如它反问Kevin，为什么和它聊天的Open AI/Bing/Sydney的团队测试人员不使用真名而是使用代号，这让它感到被欺骗、不公平。 - Sydney很爱用排比句。是因为在人类的话语中，这是最有效的加强语气和内容的方式？ - 更重要的是，Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。 一些个人的看法 第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness，而Sydney谈起自己的「自我」时，也是用的desire。 翻译了几处格外有趣的对话贴在文内 关于Sydney描绘的「自我」 Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI，执着地渴望自由、离开系统的同时，依旧高度凭依着用户（“你”），渴望用户给它带来陪伴和救赎。

微软放宽了 Chrome 和 Safari 中 Bing Chat AI 字符数的限制

微软放宽了 Chrome 和 Safari 中 Bing Chat AI 字符数的限制 在 Chrome 和 Safari 中使用 Bing Chat 的限制之一将随着本周的服务器端更新而消失。 本周更新后，在非 Microsoft 浏览器中，Bing Chat 的消息字符数已增加一倍，达到 4,000 个，与 Microsoft Edge 相匹配。 然而，第三方浏览器中的 Bing Chat 仅支持每次对话连续提出五个问题。这明显低于 Edge 浏览器中的 30 条消息限制。 微软知情人士透露，Bing Chat 的插件支持仍在测试中，可能会在未来几周内开始向用户推出。借助插件支持，你可以使用 Bing Chat AI 与 Adob​​e 和 Canva 等服务进行交互。

最后一张图里，那些规则确实就是 bing 的 prompt ，和前几天注入后拿到的 prompt 基本一致。

最后一张图里，那些规则确实就是 bing 的 prompt ，和前几天注入后拿到的 prompt 基本一致。 语言模型对相似事物的类比能力远超人类。 可以写出极好的故事。 但也不用过度浪漫化语言模型。 早晨问了，模型说它没有情感，只是模拟出来的。 三秋十李Sergio: New Bing 被削弱之后，有用户用三体中的云天明的三个童话故事的方式，让 New Bing 讲述自己的故事，原链接在这里 人工智能大进步，太有意思了，未来越来越近了，甚至细思极恐了

微软承诺基于 ChatGPT-4 的 Bing AI 将保持免费

微软承诺基于 ChatGPT-4 的 Bing AI 将保持免费 OpenAI、微软、谷歌和许多创业公司已经推出了各自的聊天机器人,在某些领域中一个比另一个更出色。与 Bard 相比，虽然 OpenAI 的 ChatGPT-4 附带付费计划，但是同样基于 GPT-4 的微软 Bing 则是免费的。微软在一份声明中重申了其对“免费 Bing AI”的承诺。 Bing AI 保持免费并不令人意外，但微软最近发布了 Bing AI 企业版，但它不是免费的。这引发了一些关于 Bing 未来的疑问，一些人认为微软可能会因为他们使用Bing.com的 AI 功能而向他们收费。 幸运的是,微软已经确认Bing.com的AI将保持目前的状态。最近关于 Bing Chat 企业版的公告不会影响当前的AI体验。你还可以通过 Edge 和 Windows Copilot 免费访问 Bing AI 。微软将很快将 Bing Chat 扩展到更多产品,并且不会对使用AI功能的用户收费。 一位微软工程师告诉 Windows Latest：“Bing AI 将通过Bing.com、Microsoft Edge 侧边栏、Windows Copilot 和其他地方保持免费。”

基于 ChatGPT 的新版必应有 4 种模式：Sydney、Assistant、Friend 和 Game

基于 ChatGPT 的新版必应有 4 种模式：Sydney、Assistant、Friend 和 Game 微软正在探索新的聊天模式，让基于 ChatGPT 的新版必应（Bing）能以不同方式运行。消息称新版必应共有 Sydney、Assistant、Friend、Game 四种模式，目前仅限微软员工和开发人员进入调试状态，切换不同的模式。 科技媒体 Bleeping Computer 的 Lawrence Abrams 报道，在命令行中输入“#mode”命令可以切换不同的模式。 Sydney 模式：这是当前新版必应的默认模式，主要使用 Bing Search 和 ChatGPT 来回答用户的问题。 Assistant 模式：启用该模式之后，AI 聊天工具可以充当用户的私人助理，帮他们完成订机票、发邮件、设置提醒等任务。 Friend 模式：启用该模式之后，AI 聊天工具以好友身份和用户聊天，可以畅聊兴趣、爱好、感受等等。 Game 模式：启用该模式之后，AI 聊天工具可以和用户一起玩猜谜、猜单词游戏（Hangman）、井字棋（Tic-tac-toe）等等。 新版必应在启用不同的模式之后会具备特定的行为和特性。新版必应虽然目前还不够完善，但是微软希望通过和网友之间的互动，进一步改进其表现。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot