蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法

蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法 9 月 1 日下午,在上海“2022 世界人工智能大会-可信 AI 论坛”现场,中国信通院、清华大学、蚂蚁集团联合发布 AI 安全检测平台“蚁鉴”,面向 AI 模型开发者提供从模型对抗测试到防御加固的一站式测评解决方案,帮助开发者一键识别和挖掘模型漏洞,打造更安全可靠的 AI。 记者了解到,这也是行业首个面向工业场景全数据类型的 AI 安全检测产品。该平台基于蚂蚁多年的风险对抗实践,集 1000 多件可信 AI 专利于一身,融合了自研的智能博弈对抗技术,可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。 蚂蚁集团大安全技术部总裁李俊奎介绍,该平台内嵌了自研的 AI 安全计算引擎,计算性能提升了数十倍;内置了 40 余种国内外主流及自研的攻击算法模型,通过模拟黑产及自动进化攻击手段,对 AI 模型“检测 防御 升级”,可有效发现 AI 模型漏洞,减少系统性风险;此外,该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本,更符合工业界应用的攻击评测基准。 李俊奎说,该平台支持零编码测评,用户上传待测模型,选择攻击算法后,平台可自动化评估 AI 安全风险,全面加固模型算法。该平台现已开放 AI 模型鲁棒性测评,未来持续增加模型可解释性、算法公平性、隐私保护等特性的检测服务。 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

相关推荐

封面图片

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。至此,蚁天鉴 2.0 形成了包括大模型基础设施测评、大模型 X 光测评、应用安全测评、AIGC 滥用检测、证件伪造检测、围栏防御等在内的完整技术链条。(全天候科技)

封面图片

在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 A

在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。(界面)

封面图片

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉,蚁

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉,蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。

封面图片

YOLOv8算法原理与实现 | Ultralytics YOLOv8是Ultralytics开发的YOLO目标检测和图像分割模型

YOLOv8算法原理与实现 | Ultralytics YOLOv8是Ultralytics开发的YOLO目标检测和图像分割模型的最新版本。YOLOv8 是一种尖端的、最先进的 (SOTA) 模型,它建立在以前成功的 YOLO 版本的基础上,并引入了新功能和改进以进一步提高性能和灵活性。其中包括一个新的主干网络、一个新的无锚检测头和一个新的损失函数。YOLOv8 也非常高效,可以在从 CPU 到 GPU 的各种硬件平台上运行。 不过,ultralytics 并没有将开源库命名为 YOLOv8,而是直接使用了 ultralytics 这个词,因为 ultralytics 将该库定位为一个算法框架,而不是一个特定的算法,主要侧重于可扩展性。预计该库不仅可以用于 YOLO 模型族,还可以用于非 YOLO 模型和分类分割姿态估计等各种任务。 YOLOv8的核心特征 1.提出了一种新的最先进的 (SOTA) 模型,具有 P5 640 和 P6 1280 分辨率的对象检测模型,以及基于 YOLACT 的实例分割模型。该模型还包括与 YOLOv5 类似的具有 N/S/M/L/X 尺度的不同尺寸选项,以迎合各种场景。 2.主干网络和颈部模块基于YOLOv7 ELAN设计理念,将YOLOv5的C3模块替换为C2f模块。但是,这个C2f模块中有很多操作,比如Split和Concat,不像以前那样对部署友好。 3.Head模块更新为目前主流的解耦结构,将分类头和检测头分离,从Anchor-Based切换到Anchor-Free。 4.loss计算采用TOOD中的TaskAlignedAssigner,在regression loss中引入Distribution Focal Loss。 5.在data augmentation部分,Mosaic在最后10个training epoch中关闭,与YOLOX训练部分相同。 从上面的总结可以看出,YOLOv8主要是指最近提出的YOLOX、YOLOv6、YOLOv7和PPYOLOE等算法的设计。 总的来说,YOLOv8 是一个强大而灵活的对象检测和图像分割工具,它提供了两全其美的优势:SOTA 技术以及使用和比较所有以前的 YOLO 版本的能力。

封面图片

美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞

美国参议院推动人工智能安全法案 旨在防止AI模型出现安全漏洞 该中心将领导研究法案中所说的"反人工智能",即学习如何操纵人工智能系统的技术。该中心还将制定预防反人工智能措施的指南。该法案还将要求国家标准与技术研究院(NIST)和网络安全与基础设施安全局建立一个人工智能漏洞数据库,包括"近乎得手的漏洞"。华纳和蒂利斯提出的法案重点关注对抗人工智能的技术,并将其分为数据中毒、规避攻击、基于隐私的攻击和滥用攻击。数据中毒指的是在人工智能模型刮取的数据中插入代码,破坏模型输出的方法。它是防止人工智能图像生成器在互联网上复制艺术作品的一种流行方法。规避攻击会改变人工智能模型所研究的数据,以至于模型变得混乱。人工智能安全是拜登政府人工智能行政命令的关键项目之一,该命令指示美国国家标准与技术研究院(NIST)制定"红队"指导方针,并要求人工智能开发人员提交安全报告。所谓"红队"(red teaming),是指开发人员故意让人工智能模型对不应该出现的提示做出反应。理想情况下,人工智能模型的开发者会对平台进行安全测试,并在向公众发布之前对其进行广泛的红队测试。一些公司如微软已经创建了一些工具,帮助人工智能项目更容易地添加安全防护措施。《人工智能安全法案》在提交给更大范围的参议院审议之前,必须经过一个委员会的审议。 ... PC版: 手机版:

封面图片

7 月 5 日,蚂蚁集团宣布发布 “隐语 Cloud” 大模型密算平台,通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推

7 月 5 日,蚂蚁集团宣布发布 “隐语 Cloud” 大模型密算平台,通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推理等环节实现数据密态流转,保护模型资产、数据安全和用户隐私。据介绍,隐语 Cloud” 大模型密算平台提供公有云和专有云交付方案,支持市面上主流的通用大模型。以公有云为例,无论用户重新构建新的垂直大模型,或者将已有的大模型重新部署在该平台,只需一键部署和接入,比如 10 分钟即可完成高可用推理服务的发布。在使用过程中,用户按需获取密态算力,即开即得。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人