微软正在开发 Xbox AI 聊天机器人

微软正在开发XboxAI聊天机器人微软公司目前正在测试一种新的人工智能驱动的Xbox聊天机器人，可用于自动执行支持任务。Xbox游戏人工智能负责人张海燕在给TheVerge的一份声明中表示：“我们正在测试XboxSupportVirtualAgent，这是一个内部原型阶段的动画角色，可以通过语音或文字查询Xbox支持话题。该原型使得玩家可以使用自然语言获取帮助，相较之前更加便捷快速，这些信息来自现有的Xbox支持页面。”Xbox聊天机器人首先会问玩家“我今天能怎么帮你？”并且可以快速响应Xbox主机故障和帮助解决付费订阅问题以及处理游戏退款等各种支持请求。——

微软开发工具以防 Ai 聊天机器人被教坏

微软开发工具以防Ai聊天机器人被教坏微软(MSFT.O)正努力防止人们欺骗Ai聊天机器人做出奇怪的事情。微软公司周四在一篇博客文章中表示，AzureAIStudio正在内置新的安全功能，允许开发人员使用自己的数据构建定制的人工智能助手。这些工具包括“提示词防护盾”（PromptShields），旨在检测和阻止企图使人工智能模型以意想不到的方式运行的“提示词攻击”或“越狱”。微软还解决了“间接提示词输入”问题，即黑客将恶意指令插入模型所训练的数据中，并诱使其执行诸如窃取用户信息或劫持系统等未经授权的操作。微软负责人工智能的首席产品官SarahBird说，这种攻击是“一种独特的挑战和威胁”。她说，新的防御措施旨在发现可疑输入并实时阻止它们。微软还推出了一项新功能，当Ai模型编造东西或产生错误反应时，它会提醒用户。