蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法
蚂蚁集团开放 AI 安全检测平台:集成 1000 多件专利、40 余种主流对抗算法 9 月 1 日下午,在上海“2022 世界人工智能大会-可信 AI 论坛”现场,中国信通院、清华大学、蚂蚁集团联合发布 AI 安全检测平台“蚁鉴”,面向 AI 模型开发者提供从模型对抗测试到防御加固的一站式测评解决方案,帮助开发者一键识别和挖掘模型漏洞,打造更安全可靠的 AI。 记者了解到,这也是行业首个面向工业场景全数据类型的 AI 安全检测产品。该平台基于蚂蚁多年的风险对抗实践,集 1000 多件可信 AI 专利于一身,融合了自研的智能博弈对抗技术,可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。 蚂蚁集团大安全技术部总裁李俊奎介绍,该平台内嵌了自研的 AI 安全计算引擎,计算性能提升了数十倍;内置了 40 余种国内外主流及自研的攻击算法模型,通过模拟黑产及自动进化攻击手段,对 AI 模型“检测 防御 升级”,可有效发现 AI 模型漏洞,减少系统性风险;此外,该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本,更符合工业界应用的攻击评测基准。 李俊奎说,该平台支持零编码测评,用户上传待测模型,选择攻击算法后,平台可自动化评估 AI 安全风险,全面加固模型算法。该平台现已开放 AI 模型鲁棒性测评,未来持续增加模型可解释性、算法公平性、隐私保护等特性的检测服务。 来自:雷锋 频道:@kejiqu 群组:@kejiquchat 投稿:@kejiqubot
在Telegram中查看相关推荐

🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人