蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法

蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法 9 月 1 日下午,在上海“2022 世界人工智能大会-可信 AI 论坛”现场,中国信通院、清华大学、蚂蚁集团联合发布 AI 安全检测平台“蚁鉴”,面向 AI 模型开发者提供从模型对抗测试到防御加固的一站式测评解决方案,帮助开发者一键识别和挖掘模型漏洞,打造更安全可靠的 AI。 记者了解到,这也是行业首个面向工业场景全数据类型的 AI 安全检测产品。该平台基于蚂蚁多年的风险对抗实践,集 1000 多件可信 AI 专利于一身,融合了自研的智能博弈对抗技术,可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。 蚂蚁集团大安全技术部总裁李俊奎介绍,该平台内嵌了自研的 AI 安全计算引擎,计算性能提升了数十倍;内置了 40 余种国内外主流及自研的攻击算法模型,通过模拟黑产及自动进化攻击手段,对 AI 模型“检测 防御 升级”,可有效发现 AI 模型漏洞,减少系统性风险;此外,该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本,更符合工业界应用的攻击评测基准。 李俊奎说,该平台支持零编码测评,用户上传待测模型,选择攻击算法后,平台可自动化评估 AI 安全风险,全面加固模型算法。该平台现已开放 AI 模型鲁棒性测评,未来持续增加模型可解释性、算法公平性、隐私保护等特性的检测服务。 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot

相关推荐

封面图片

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。至此,蚁天鉴 2.0 形成了包括大模型基础设施测评、大模型 X 光测评、应用安全测评、AIGC 滥用检测、证件伪造检测、围栏防御等在内的完整技术链条。(全天候科技)

封面图片

在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 A

在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。(界面)

封面图片

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉,蚁

7 月 5 日,在 2024 世界人工智能大会上,蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉,蚁天鉴 2.0 新增 AI 鉴真功能,支持图像、视频等多模态内容真实性及深度伪造检测;并在测评功能上持续升级,打造大模型安全测评 “智能体”,并新增大模型 X 光、大模型基础设施测评功能。

封面图片

【蚂蚁集团开启新一届春招,招聘加密算法、隐私计算等岗位】

【蚂蚁集团开启新一届春招,招聘加密算法、隐私计算等岗位】 3月10日消息,蚂蚁集团3月9日开启2023届春季校园招聘,该次春招,蚂蚁集团继续招聘隐私计算、区块链、图计算等前沿科技人才,同时首次新增加密算法、Golang语言等岗位。 招聘官网信息显示,此次春招面向2022年11月至2023年10月毕业的国内外应届毕业生,开放技术、产品、设计、数据、运营等8大类岗位,共超45种岗位,其中技术领域人才需求占招聘总人数的86%。

封面图片

蚂蚁集团发布大模型密算平台 助力大模型破解数据供给挑战

蚂蚁集团发布大模型密算平台 助力大模型破解数据供给挑战 7 月 5 日,2024 年世界人工智能大会进入第二天,作为数据要素领域的主要技术服务商,蚂蚁集团在大会期间发布了 “隐语 Cloud” 大模型密算平台,通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推理等环节实现数据密态流转,保护模型资产、数据安全和用户隐私。

封面图片

YOLOv8算法原理与实现 | Ultralytics YOLOv8是Ultralytics开发的YOLO目标检测和图像分割模型

YOLOv8算法原理与实现 | Ultralytics YOLOv8是Ultralytics开发的YOLO目标检测和图像分割模型的最新版本。YOLOv8 是一种尖端的、最先进的 (SOTA) 模型,它建立在以前成功的 YOLO 版本的基础上,并引入了新功能和改进以进一步提高性能和灵活性。其中包括一个新的主干网络、一个新的无锚检测头和一个新的损失函数。YOLOv8 也非常高效,可以在从 CPU 到 GPU 的各种硬件平台上运行。 不过,ultralytics 并没有将开源库命名为 YOLOv8,而是直接使用了 ultralytics 这个词,因为 ultralytics 将该库定位为一个算法框架,而不是一个特定的算法,主要侧重于可扩展性。预计该库不仅可以用于 YOLO 模型族,还可以用于非 YOLO 模型和分类分割姿态估计等各种任务。 YOLOv8的核心特征 1.提出了一种新的最先进的 (SOTA) 模型,具有 P5 640 和 P6 1280 分辨率的对象检测模型,以及基于 YOLACT 的实例分割模型。该模型还包括与 YOLOv5 类似的具有 N/S/M/L/X 尺度的不同尺寸选项,以迎合各种场景。 2.主干网络和颈部模块基于YOLOv7 ELAN设计理念,将YOLOv5的C3模块替换为C2f模块。但是,这个C2f模块中有很多操作,比如Split和Concat,不像以前那样对部署友好。 3.Head模块更新为目前主流的解耦结构,将分类头和检测头分离,从Anchor-Based切换到Anchor-Free。 4.loss计算采用TOOD中的TaskAlignedAssigner,在regression loss中引入Distribution Focal Loss。 5.在data augmentation部分,Mosaic在最后10个training epoch中关闭,与YOLOX训练部分相同。 从上面的总结可以看出,YOLOv8主要是指最近提出的YOLOX、YOLOv6、YOLOv7和PPYOLOE等算法的设计。 总的来说,YOLOv8 是一个强大而灵活的对象检测和图像分割工具,它提供了两全其美的优势:SOTA 技术以及使用和比较所有以前的 YOLO 版本的能力。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人