蚂蚁集团开放 AI 安全检测平台：集成 1000 多件专利、40 余种主流对抗算法
蚂蚁集团开放 AI 安全检测平台：集成 1000 多件专利、40 余种主流对抗算法
9 月 1 日下午，在上海“2022 世界人工智能大会-可信 AI 论坛”现场，中国信通院、清华大学、蚂蚁集团联合发布 AI 安全检测平台“蚁鉴”，面向 AI 模型开发者提供从模型对抗测试到防御加固的一站式测评解决方案，帮助开发者一键识别和挖掘模型漏洞，打造更安全可靠的 AI。
记者了解到，这也是行业首个面向工业场景全数据类型的 AI 安全检测产品。该平台基于蚂蚁多年的风险对抗实践，集 1000 多件可信 AI 专利于一身，融合了自研的智能博弈对抗技术，可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。
蚂蚁集团大安全技术部总裁李俊奎介绍，该平台内嵌了自研的 AI 安全计算引擎，计算性能提升了数十倍；内置了 40 余种国内外主流及自研的攻击算法模型，通过模拟黑产及自动进化攻击手段，对 AI 模型“检测 防御 升级”，可有效发现 AI 模型漏洞，减少系统性风险；此外，该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本，更符合工业界应用的攻击评测基准。
李俊奎说，该平台支持零编码测评，用户上传待测模型，选择攻击算法后，平台可自动化评估 AI 安全风险，全面加固模型算法。该平台现已开放 AI 模型鲁棒性测评，未来持续增加模型可解释性、算法公平性、隐私保护等特性的检测服务。
来自：雷锋
频道：@kejiqu
群组：@kejiquchat
投稿：@kejiqubot
