Cloudflare 推出 Cloudflare One for AI 以支持安全使用生成式 AI 工具

Cloudflare 推出 Cloudflare One for AI 以支持安全使用生成式 AI 工具 互联网解决方案公司Cloudflare今天推出了 Cloudflare One for AI，这是其最新的安全控制套件。这些工具使企业能够安全可靠地使用最新的生成式AI工具，同时保护知识产权和客户数据。该公司相信，该套件的功能将为组织提供一种简单、快速和安全的方式来采用生成人工智能，而不会影响性能或安全性。 “Cloudflare One 为任何规模的团队提供了使用互联网上可用的最佳工具的能力，而不会面临管理难题或性能挑战。此外，它还允许组织审核和审查其团队成员已经开始使用的 AI 工具，”Cloudflare 产品副总裁 Sam Rhea 告诉 VentureBeat。“然后，安全团队可以将使用限制为仅允许使用经批准的工具，并且在那些经批准的工具中，使用围绕 [他们组织的] 敏感和独特数据构建的策略，控制和控制如何与这些工具共享数据。” Cloudflare One for AI 通过包括 AI 工具使用情况的可见性和测量、防止数据丢失和集成管理在内的功能为企业提供全面的 AI 安全性。

微软宣布推出Security Copilot早期访问计划 帮助测试基于AI的服务

微软宣布推出Security Copilot早期访问计划 帮助测试基于AI的服务 图 1：Microsoft 365 Defender 中的嵌入式安全 Copilot 体验安全 Copilot 生成的事件报告。图 2：Microsoft 365 Defender 中的嵌入式安全 Copilot 体验复杂脚本分析和总结。在一篇博客文章中，微软披露了一些早期用户使用Security Copilot的情况：Security Copilot 已经帮助我们的预览版客户在核心安全操作任务上节省了多达 40% 的时间，其功能包括仅根据自然语言问题编写复杂查询和总结安全事件。Security Copilot 可以有效地提高安全团队的技能，无论其专业技能如何，都能节省他们的时间，使他们能够找到以前可能错过的内容，并将他们解放出来，专注于最有影响力的项目。Security Copilot 的人工智能生成功能旨在完成几项不同的任务。它可以快速创建安全事件摘要，还可以通过Microsoft 365 Defender 直接帮助应对这些事件。安全管理员可以使用这项新的 Copilot 服务，输入有关新出现的网络威胁和攻击的自然语言问题，分析恶意软件，并追捕对其组织的网络攻击。该公司还宣布，其Microsoft Defender Threat Intelligence 服务及其 API 访问权将免费提供给 Security Copilot 客户。微软表示：Defender Threat Intelligence 是一个威胁情报工作平台，与Microsoft Security 产品深度集成，使安全团队能够了解网络威胁的全貌，包括行为者、工具、漏洞和基础架构。企业和组织现在就可以报名参加Security Copilot 早期访问计划。目前，还没有消息表明该计划将于何时全面推出，也没有消息表明该计划推出时的费用是多少。 ... PC版： 手机版：

Google推出基于AI的实时威胁检测服务 瞄准Android恶意软件的可疑行为

Google推出基于AI的实时威胁检测服务 瞄准Android恶意软件的可疑行为 如果发现可疑行为，Google Play Protect 就会将该应用发送到 Google 进行进一步审查，并对安装了该应用的用户发出警告，甚至在必要时禁用该应用。该检测还利用了Google的私人计算核心（Private Compute Core），这是 2022 年推出的Android隐私基础架构，在Android操作系统内部提供了一个隔离的数据处理环境。私有计算核心（PCC）的理念是让用户控制是否、如何或何时共享他们的数据。通过使用 PCC，新的实时威胁检测功能可以在不收集用户数据的情况下保护用户。Google表示，今年晚些时候将在Google Pixel 设备上部署该系统。其他制造商也将加入，包括 Oppo、荣耀、联想、一加、Nothing、传音、夏普等。这项服务可以让Android用户更放心地从 Google Play 下载和使用应用程序，他们更希望在应用审核过程中发现恶意应用。这也是苹果公司关注的重点，因为苹果公司经常向消费者和开发者宣传其 App Store 的好处。虽然不良行为者经常从苹果的缝隙中溜走，但苹果在允许它们在 App Store 上架之前，会通过更加严格的审查制度淘汰更多的不良应用。例如，在 I/O 大会之前，苹果宣布其已经阻止了 App Store 上 18 亿美元的欺诈行为。除了实时威胁检测服务外，Google还宣布将从通知中隐藏一次性密码，以减少欺诈和间谍软件的常见攻击载体。此外，Google还将扩展 Android 13 的限制设置，现在当用户在设备上侧载应用程序时，需要额外的用户批准才能启用应用程序权限。 ... PC版： 手机版：

Google DeepMind 推出评估AI模型危险性的新框架

Google DeepMind 推出评估AI模型危险性的新框架 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 根据一份与 Semafor 独家分享的声明，DeepMind 将与其他公司、学术界和立法者合作，共同完善该框架。该公司计划在2025年前开始实施其审计工具。如今，评估功能强大的前沿人工智能模型更像是一个临时过程，随着研究人员开发新技术而不断演变。"红队"会花费数周或数月的时间对其进行测试，尝试可能绕过保障措施的不同提示。然后，公司会采用各种技术，从强化学习到特殊提示，使模型符合要求。这种方法对现在的模型很有效，因为它们还不够强大，不足以构成太大的威胁，但研究人员认为，随着模型能力的增强，需要一个更强大的过程。批评者担心，当人们意识到这种技术已经走得太远时，为时已晚。DeepMind 发布的"前沿安全框架"希望解决这个问题。这是包括 Meta、OpenAI 和微软在内的主要科技公司为减轻人们对人工智能的担忧而宣布的几种方法之一。该公司表示："尽管这些风险超出了现有模型的能力范围，但我们希望实施和改进该框架将有助于我们做好应对这些风险的准备。"DeepMind 开发人工智能模型"预警"系统已有一年多时间。它还发表了关于评估模型的新方法的论文，这些方法远远超出了目前大多数公司所使用的方法。前沿模型框架将这些进展纳入一套简洁的协议中，包括对模型的持续评估，以及研究人员在发现所谓"临界能力水平"时应采取的缓解方法。这可能是指模型能够通过操纵人类对其施加意志，在人工智能研究领域被称为"超常代理"，也可能是指模型具有编写复杂恶意软件的能力。DeepMind 为四个领域设定了具体的关键能力级别：自主、生物安全、网络安全和机器学习研发。该公司表示："在降低风险与促进获取和创新之间取得最佳平衡，对于负责任地发展人工智能至关重要。"DeepMind 将于下周在首尔举行的人工智能安全峰会上讨论该框架，届时其他行业领袖也将出席。令人鼓舞的是，DeepMind 的人工智能研究人员正在用更科学的方法确定人工智能模型内部发生了什么，尽管他们还有很长的路要走。研究人员在能力方面取得突破的同时，也在提高他们理解并最终控制这些软件的能力，这对人工智能安全也很有帮助。不过，今天发布的论文对如何进行这些评估的技术细节着墨不多。就目前而言，可以说我们还不知道目前的技术是否能让这个框架取得成功。这其中还有一个有趣的监管因素。由加州参议员斯科特-维纳（Scott Wiener）发起的一项新的人工智能综合法案将要求人工智能公司在训练模型之前对其危险性进行评估。这个框架是目前看到的第一个可能使遵守该法律成为可能的框架。但同样还不清楚技术上是否可行。还有一点：构建这些技术还有另一种用途：它可以帮助公司预测人工智能模型的能力在未来数月或数年内会发生怎样的变化。这些知识可以帮助产品团队更快地设计出新产品，从而为Google和其他有能力进行这些评估的公司带来优势。了解更多： ... PC版： 手机版：

大型 AI 模型已可自动生成小型 AI 工具

大型 AI 模型已可自动生成小型 AI 工具 来自麻省理工学院、加州大学多个校区和 AI 科技公司 Aizip 的科学家团队表示，他们已经能够让大型人工智能模型（如 ChatGPT 运行的模型）基本上实现自我复制。 “目前，我们正在使用大型模型来构建小型模型，就像哥哥帮助弟弟进步一样。这是朝着 AI 自主进化迈出的第一步，”Aizip 首席执行官 Yan Sun 称，“也是首次证明 AI 模型能够自主创造其他 AI 模型。” 研究人员之一 Yubei Chen 补充说：“我们的技术是一个突破，因为我们首次设计了完全自动化的流程，可以在没有人工干预的情况下设计一个 AI 模型。”来源 ， 频道：@kejiqu 群组：@kejiquchat

支付宝推出AI毛发自测工具 拍几张照片就能检测

支付宝推出AI毛发自测工具 拍几张照片就能检测 用户只需上传几张头皮照片，AI即可在半分钟内识别出脱发类型和级别，并提供相应的健康建议，用户可以通过支付宝App搜索“毛发检测”来体验这一服务。项目负责人蔡科发表示，研发这款应用的初衷是帮助人们及时、科学地了解自己的脱发状况，避免盲目听信偏方，错过最佳养护时机。他分享了自己的脱发经历，幽默地提到：“我第一次意识到自己脱发，是看到女儿在幼儿园里画的爸爸，居然只有三根头发。”支付宝AI技术在医疗领域的应用并非首次。此前，支付宝已推出“AI就医助理”解决方案，通过AI大模型、数字人等技术，为医疗机构提供全面的“AI陪伴就诊”服务，而此次推出的AI毛发自测工具，为更多脱发患者带来便利和科学的指导。 ... PC版： 手机版：