Apple 将限制生成式人工智能应用程序

Apple将限制生成式人工智能应用程序苹果将限制应用商店中使用生成式人工智能（AI）的应用。这意味着开发人员在发布使用生成式AI技术的应用之前需要获得苹果的批准。生成式AI是能够自主创建新内容的AI系统，例如图像、音乐或文本。苹果限制生成式AI的原因是为了保护用户免受潜在有害内容的影响，并保持对其平台上可用内容的控制。正在开发生成式AI应用程序的开发人员需要向苹果提交其应用程序进行审查和批准。尚未发布批准的指南，但预计它们将重点关注确保这些应用程序生成的内容适合且安全可用于用户。这些限制最终是为了保护用户并确保应用商店对所有用户都是一个安全可靠的平台。投稿：@ZaiHuabot频道：@TestFlightCN

雅虎将收购人工智能新闻应用程序Artifact

雅虎将收购人工智能新闻应用程序Artifact双方拒绝透露收购成本，但都明确表示雅虎收购的是Artifact的技术而非团队。Artifact的联合创始人MikeKrieger和KevinSystrom将担任雅虎的"特别顾问"，但不会加入雅虎。Artifact剩余的五名员工要么已经找到了其他工作，要么正计划休息一段时间。此次收购距Artifact推出一年多一点，距Systrom和Krieger宣布其死亡约三个月。这对联合创始人在1月份写道："我们打造了一些核心用户喜爱的东西，但我们得出结论，市场机会还不够大，不值得以这种方式继续投资。"他们说，关闭的最大原因是为了专注于"更新、更大、更好的东西，这些东西有能力影响数百万人"。Artifact背后的赌注一直是，人工智能有可能成为一项巨大的、改变互联网的技术；也许有比没有大量新闻受众的新闻应用程序更有趣的事情可以做。收购完成后，Artifact应用程序将消失。但Artifact用于内容分类、策划和个性化的底层技术将很快开始出现在雅虎新闻上，并最终出现在雅虎的其他平台上。在未来几个月内，这些技术会进入雅虎的产品，雅虎的移动应用程序也很有可能随着时间的推移获得Artifact的速度和改进。借此，虎可以开发一个个性化的内容生态系统，即对Artifact用户极具诱惑力的"文本TikTok"，而Artifact可以为未来的新闻服务提供支持。...PC版：https://www.cnbeta.com.tw/articles/soft/1425937.htm手机版：https://m.cnbeta.com.tw/view/1425937.htm

微软的新安全系统可捕捉客户人工智能应用程序中的幻觉

微软的新安全系统可捕捉客户人工智能应用程序中的幻觉"我们知道客户并不都精通提示注入攻击或仇恨内容，因此评估系统会生成模拟这些类型攻击所需的提示。然后，客户可以获得评分并看到结果，"她说。这有助于避免人工智能生成器因不良或意外反应而引发的争议，比如最近出现的明显伪造名人（微软的Designer图像生成器）、历史上不准确的图像（GoogleGemini）或马里奥驾驶飞机撞向双子塔（Bing）等事件。三项功能：提示屏蔽（PromptShields）可阻止提示注入或来自外部文档的恶意提示，这些提示会指示模型违背其训练；基础检测（GroundednessDetection）可发现并阻止幻觉；安全评估（Safetyevaluations）可评估模型的漏洞。用于引导模型实现安全输出和跟踪提示以标记潜在问题用户的其他两项功能即将推出。无论是用户输入的提示信息，还是模型正在处理的第三方数据，监控系统都会对其进行评估，看是否会触发任何禁用词或有隐藏提示，然后再决定是否将其发送给模型回答。之后，系统会查看模型的回答，并检查模型是否幻觉了文件或提示中没有的信息。在GoogleGemini图片的案例中，为减少偏见而制作的过滤器产生了意想不到的效果，微软表示，在这一领域，其AzureAI工具将允许更多的定制控制。伯德承认，有人担心微软和其他公司可能会决定什么适合或不适合人工智能模型，因此她的团队为Azure客户添加了一种方法，可以切换过滤模型看到并阻止的仇恨言论或暴力。未来，Azure用户还可以获得试图触发不安全输出的用户报告。伯德说，这可以让系统管理员找出哪些用户是自己的红队成员，哪些可能是怀有更多恶意的人。伯德说，这些安全功能会立即"附加"到GPT-4和其他流行的模型（如Llama2）上。不过，由于Azure的模型花园包含许多人工智能模型，使用较小、较少使用的开源系统的用户可能需要手动将安全功能指向这些模型。微软一直在利用人工智能来加强其软件的安全性，尤其是随着越来越多的客户开始对使用Azure访问人工智能模型感兴趣。该公司还努力扩大其提供的强大人工智能模型的数量，最近与法国人工智能公司Mistral签订了独家协议，在Azure上提供MistralLarge模型。...PC版：https://www.cnbeta.com.tw/articles/soft/1425454.htm手机版：https://m.cnbeta.com.tw/view/1425454.htm

Favrid是各种人工智能项目和应用程序的聚合器。

Favrid是各种人工智能项目和应用程序的聚合器。该网站每天都在更新，目前仅人工智能助手部分就已经包含了240多个产品。如果您想要回顾我们以前提及的AI产品：#tools