Iterate .ai 开源能识别武器的 AI 系统

Iterate .ai 开源能识别武器的 AI 系统 Iterate .ai 开源了能识别武器的 AI 系统 Weapon Detection Web Application (WEPWEB)，源代码采用 MIT 许可证托管在 上。Iterate .ai 的团队使用了逾 2 万个闯入和武装抢劫视频进行训练，并雇佣了 DEA（美国缉毒署）的一名前特工帮助测试，软件运行在英伟达显卡上，能即时检测出数十种枪支类型、防弹背心、巴拉克拉瓦盔式帽和刀具。开源是为了帮助学校和非盈利组织提高安全性，在发生武装入侵的情况下挽救生命。来源 ， 频道：@kejiqu 群组：@kejiquchat

英国机构发布测试人工智能模型安全性的工具

英国机构发布测试人工智能模型安全性的工具 英国人工智能安全机构英国安全研究所发布了一套工具集，旨在通过让行业、研究机构和学术界更容易开发人工智能评估来“加强人工智能安全”。该工具集名为 Inspect，可在开源许可证 (特别是 MIT 许可证) 下使用，旨在评估人工智能模型的某些功能，包括模型的核心知识和推理能力，并根据结果生成分数。英国安全研究所声表示，Inspect 标志着“首次由国家支持的机构牵头的人工智能安全测试平台发布以供更广泛使用”。Inspect 由三个基本组件组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器评估求解器的工作，并将测试中的分数汇总为指标。Inspect 的内置组件可以通过用 Python 编写的第三方包进行增强。   、、

Dot（又名 Deepfake Offensive Toolkit），是 GitHub 上一个开源的 Deepfake AI 换

Dot（又名 Deepfake Offensive Toolkit），是 GitHub 上一个开源的 Deepfake AI 换脸攻击工具包。 针对身份验证、视频会议系统等渗透测试工作而生，可供安全分析师、红队成员和生物识别研究人员使用 | #工具

如何检查一个网站的安全性

如何检查一个网站的安全性 很多网站的保护性不足，因此黑客们经常毫无顾忌地用病毒感染网站，以获取访客的数据。 - 这项服务可以评估网站的安全，核实是否符合标准，进行测试并检查可能的漏洞。 测试需要一点时间。一旦检查完毕，该工具会产生一个安全等级（A+级到F级），并提供一份关于网站上发现的问题的报告。 当您怀疑一个网站时，可以用它来测试。 #tools

英国安全研究所发布人工智能模型安全性测试工具

英国安全研究所发布人工智能模型安全性测试工具 在周五宣布这一消息的新闻稿中，安全研究所声称，Inspect 标志着"由国家支持的机构主导的人工智能安全测试平台首次被广泛使用"。安全研究所主席伊恩-霍加斯（Ian Hogarth）在一份声明中说："人工智能安全测试方面的成功合作意味着要有一个共享的、可访问的评估方法，我们希望Inspect能够成为一个基石。我们希望看到全球人工智能社区利用Inspect不仅开展自己的模型安全性测试，而且帮助调整和构建开源平台，以便我们能够全面开展高质量的评估。"众所周知，人工智能基准很难制定其中最重要的原因是，当今最复杂的人工智能模型几乎都是黑盒，其基础设施、训练数据和其他关键细节都被创建这些模型的公司保密。那么，Inspect 如何应对这一挑战呢？主要是通过可扩展的新测试技术。Inspect 由三个基本部分组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作，并将测试得分汇总为指标。可以通过用 Python 编写的第三方软件包来增强 Inspect 的内置组件。Mozilla 研究员、著名人工智能伦理学家德博拉-拉吉（Deborah Raj）在 X 上发表了一篇文章，称 Inspect "证明了对人工智能问责开源工具的公共投资的力量"。人工智能初创公司Hugging Face的首席执行官克莱门特-德朗格（Clément Delangue）提出了将Inspect与Hugging Face的模型库整合在一起，或利用工具集的评估结果创建一个公共排行榜的想法。Inspect 发布之前，美国政府机构国家标准与技术研究院（NIST）启动了NIST GenAI，该计划旨在评估各种生成式人工智能技术，包括文本和图像生成人工智能。NIST GenAI 计划发布基准，帮助创建内容真实性检测系统，并鼓励开发能识别虚假或误导性人工智能生成信息的软件。今年 4 月，美国和英国宣布建立合作伙伴关系，共同开发先进的人工智能模型测试，这是继去年 11 月英国在布莱切利公园举行的人工智能安全峰会上宣布承诺之后的又一合作。作为合作的一部分，美国打算成立自己的人工智能安全研究所，广泛负责评估人工智能和生成式人工智能的风险。 ... PC版： 手机版：

WhatsApp 开始测试使用 AI 创建和分享贴纸

WhatsApp 开始测试使用 AI 创建和分享贴纸 WhatsApp 开始测试 AI 生成贴纸功能。据 WABetaInfo 报道，测试人员在最新 Android WhatsApp beta 应用中发现了 AI 生成贴纸的功能。用户可用点击“创建”按钮输入文字描述来生成贴纸，并可以把贴纸分享给朋友或群组。 Al 贴纸是通过 Meta 提供的安全技术生成的。你可以随时控制人工智能生成的贴纸，如果你认为某个贴纸不合适或有害，你可以将其报告给 Meta。WABetaInfo 还表示，使用这种新的 AI 功能生成的贴纸“很容易识别”。