在 2024 世界人工智能大会上，蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 A

在 2024 世界人工智能大会上，蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。蚁天鉴 2.0 新增 AI 鉴真功能，支持图像、视频等多模态内容真实性及深度伪造检测；并在测评功能上持续升级，打造大模型安全测评 “智能体”，并新增大模型 X 光、大模型基础设施测评功能。（界面）

7 月 5 日，在 2024 世界人工智能大会上，蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉，蚁

7 月 5 日，在 2024 世界人工智能大会上，蚂蚁集团联合清华大学发布大模型安全一体化解决方案 “蚁天鉴 2.0”。据悉，蚁天鉴 2.0 新增 AI 鉴真功能，支持图像、视频等多模态内容真实性及深度伪造检测；并在测评功能上持续升级，打造大模型安全测评 “智能体”，并新增大模型 X 光、大模型基础设施测评功能。

蚂蚁集团开放 AI 安全检测平台：集成 1000 多件专利、40 余种主流对抗算法

蚂蚁集团开放 AI 安全检测平台：集成 1000 多件专利、40 余种主流对抗算法 9 月 1 日下午，在上海“2022 世界人工智能大会-可信 AI 论坛”现场，中国信通院、清华大学、蚂蚁集团联合发布 AI 安全检测平台“蚁鉴”，面向 AI 模型开发者提供从模型对抗测试到防御加固的一站式测评解决方案，帮助开发者一键识别和挖掘模型漏洞，打造更安全可靠的 AI。 记者了解到，这也是行业首个面向工业场景全数据类型的 AI 安全检测产品。该平台基于蚂蚁多年的风险对抗实践，集 1000 多件可信 AI 专利于一身，融合了自研的智能博弈对抗技术，可以实现文本、图像、表格、序列等不同数据类型的自动化测试、量化评分和安全性增强。 蚂蚁集团大安全技术部总裁李俊奎介绍，该平台内嵌了自研的 AI 安全计算引擎，计算性能提升了数十倍；内置了 40 余种国内外主流及自研的攻击算法模型，通过模拟黑产及自动进化攻击手段，对 AI 模型“检测 防御 升级”，可有效发现 AI 模型漏洞，减少系统性风险；此外，该平台覆盖了对模型未知情况下的“随机噪声”、“迁移攻击”等攻击样本，更符合工业界应用的攻击评测基准。 李俊奎说，该平台支持零编码测评，用户上传待测模型，选择攻击算法后，平台可自动化评估 AI 安全风险，全面加固模型算法。该平台现已开放 AI 模型鲁棒性测评，未来持续增加模型可解释性、算法公平性、隐私保护等特性的检测服务。 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

中科创达车路云一体化解决方案亮相 WAIC 2024

中科创达车路云一体化解决方案亮相 WAIC 2024 7 月 4 日，2024 世界人工智能大会（WAIC）暨人工智能全球治理高级别会议在上海世博中心、上海世博展览馆拉开帷幕。中科创达携车路云一体化相关的产品和解决方案精彩亮相 2024WAIC，其领先的技术和卓越的性能获得与会者的一致好评。此外，中科创达还展示了基于英特尔 ® 酷睿™ Ultra 系列处理器的极具竞争力的全息路口方案，以及中科创达和英特尔双方共同研发的多模态大模型目标检索系统。该大模型目标检索系统可以通过自然语言和开放词汇描述，迅速实现对行人、车辆以及各类交通事件的精准快速检索。这极大地提高了交通监控的效率和准确性，为交通管理和安全保障带来了全新的可能。

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24

东南亚“杀猪盘”使用AI：换脸软件提供商在柬埔寨提供7天24 东南亚犯罪集团正在所谓的“杀猪盘”网络诈骗行动中使用生成式人工智能聊天机器人，这种更复杂的手段可以提高诈骗的有效性，并将扩大受害者的范围。 所谓的“杀猪盘”，是网络诈骗的一种新方式，犯罪分子通常潜伏在约会应用程序和社交平台中，将浪漫爱情和赌博心理融入其作案手法。诈骗分子对受害者进行数天甚至数月的网络亲密接触，然后才“收获”诈骗果实，这一过程类似于将猪养肥以供屠宰。 聊天机器人在情绪和感受上“露马脚” 据澳大利亚广播公司（ABC）5月16日报道，犯罪分子过去通常会使用详细的“脚本”来获得受害者的信任，而现在他们利用大语言模型（LLM）或聊天机器人，用不同语言向受害者发送消息，进一步扩大了影响范围。生成式人工智能还可以使对话更有说服力，并减少诈骗分子与多个受害者互动的工作量。 虽然ChatGPT、Gemini和Copilot等主要人工智能聊天机器人都有防止其协助非法活动的护栏，但其他一些正在开发的大语言模型没有此类限制。 网络安全公司Sophos的研究人员贾格迪什·钱德拉亚（Jagadeesh Chandraiah）在一篇博客文章中表示，生成式人工智能将文本、图像、视频与翻译相结合，生成不重复的“定制内容”。它还可用于编写“杀猪脚本”，写出令人信服的网络钓鱼电子邮件，甚至提供如何从头开始进行诈骗的步骤说明，这也可能降低诈骗犯罪的门槛。 然而，犯罪集团似乎还无法熟练地使用人工智能。研究人员发布了一张诈骗目标提供的屏幕截图，显示诈骗分子意外透露了他们正在使用大语言模型来生成消息。骗子在给目标客户发送的WhatsApp消息中写道：“非常感谢您的善意之言！’我’作为一个语言模型，没有像人类那样的感觉或情绪，我被创造出来提供有用和积极的答案帮你。” 钱德拉亚告诉ABC，人工智能的运作仍然需要人类协助，机器人偶尔会发送一些信息，可能表明它们无法与人类交流，尤其是在感受和情绪方面。“就’杀猪盘’而言，目前的模型不太擅长描绘情绪和感受，而这又是此类骗局得以成功的关键。” 但钱德拉亚认为，未来随着人工智能的进一步发展，受害者将很难识别他们正在与机器人进行通信。 AI实时换脸已成精准聊天必备 除了最新的聊天机器人，一些传统的人工智能技术，比如深度造假技术近年来也迅速进步，已达到可以用较高的逼真度完成实时对话的水平。前黑客、越南网络安全专家吴明晓（Ngô Minh Hiu）表示，用户现在可以通过开源软件或付费方式轻松订阅实时换脸技术（一种仅改变对象脸部的深度造假技术）。 全球反诈骗组织（GASO）向ABC提到，一家软件提供商在广告中宣称其“人工智能实时换脸是精准聊天的必备”。广告称，“它解决了好看的（真人）模特难以招募和管理、成本高昂的问题。”该软件还集成了语音克隆功能，对特定目标的模仿相似度可以达到“60％至95％”。 另一家换脸软件提供商在柬埔寨提供7天24小时支持、“送货上门”服务，并声称已在1000多个区域安装了其产品。该广告称，使用该系统只需要提供一张照片，可用于WhatsApp、Messenger、Line等社交平台上的视频通话。 除了“杀猪盘”之外，犯罪分子还利用换脸技术实施其他类型的诈骗，例如冒充名人进行投资诈骗，以及冒充家人或警察来恐吓受害者付钱。它还可以用来逃避一些金融机构要求的基于视频的身份检查。 澳大利亚阳光海岸市市长罗珊娜·纳托利（Rosanna Natoli）最近称，一名诈骗者使用该技术冒充她与她的一位朋友进行Skype通话。她说：“这位朋友告诉我，这看起来像我，但听起来不像我。” “大多数换脸应用程序都无法伪造实时声音。”一位了解柬埔寨诈骗情况的消息人士向ABC表示，技术能力、计算能力和互联网带宽等往往限制了诈骗分子使用换脸技术。“（在许多情况下）聘请东欧模特更为实际。”他说，尽管技术进步，镜头前的真人仍然看起来更合理。 在缅甸，从事加密货币“杀猪盘”业务的Sam在采访中说，他的老板曾短暂尝试过人工智能，因为越南模特逃跑了。老板希望应用程序能够以数字方式改变团队中讲英语成员在视频通话中的外观，但没有足够的源照片来支撑应用程序运行。 “用头脑思考，而不是用心思考” 上个月，澳大利亚竞争和消费者委员会（ACCC）反诈骗中心表示，虽然2023年统计的诈骗数量比2022年有所增加，但损失总额下降了13.1%，至27.4亿澳元（约合132.7亿元人民币）。然而，ACCC发言人仍然对新技术的出现发出警告，“诈骗手段日益复杂，我们应该对人工智能带来的风险保持警惕。这将使得人们更难识别诈骗，平台应继续谨慎处理任何个人信息或金钱请求，并在点击链接时保持谨慎。”