蚂蚁集团成立天象安全实验室，聚焦大模型基础设施及Web3安全

蚂蚁集团成立天象安全实验室，聚焦大模型基础设施及Web3安全PANews6月24日消息，蚂蚁集团宣布成立天象安全实验室，并组织了首次专家研讨。该实验室将围绕大模型、Web3等新技术和场景背后的数字基础设施的安全做重点投入，并关注在人才建设、场景赋能、生态开放以及产学研技术融合落地。同时，实验室成立了专家顾问委员会，来自电子科技大学、华中科技大学等7名高校专家出任委员。据蚂蚁天象安全实验室主任王嘉水介绍，天象安全实验室将重点聚焦下一代基础设施安全前沿探索，构建领先的大模型、Web3基础设施领域的安全研究体系以及自动化安全解决方案。中山大学软件工程学院副院长、蚂蚁天象安全实验室学术顾问郑子彬表示，安全是Web3发展的基石，随着区块链技术的不断进步和发展，未来的web3安全将更加注重综合防御机制的构建，从高效稳定的底层系统架构，智能合约的安全审计，到交易行为的全链条监控，自底向上确保系统的稳定与资金的安全。https://www.panewslab.com/zh/sqarticledetails/y4cydara.html

近期，全球范围多家机构对AI大模型进行安全检测发现，当前市场上的主流AI大模型在内容安全、数据安全等方面存在明显薄弱环节，AI安

近期，全球范围多家机构对AI大模型进行安全检测发现，当前市场上的主流AI大模型在内容安全、数据安全等方面存在明显薄弱环节，AI安全问题引发高度关注。在此背景下，上市公司加大AI大模型检测、内容安全、数据安全业务布局。数据安全市场正加快形成千亿级产业规模。工业和信息化部信息通信科技委委员、网络安全研究所所长闫怀志指出，AI安全建设带来很多市场机会，比如隐私保护技术、风险评估与治理、安全教育与培训、安全咨询与服务方面。随着大模型技术的不断发展，网络安全行业需要不断创新和完善，以满足日益增长的安全需求。（中证报）

国际组织 WDTA 首次就大模型安全发布国际标准，蚂蚁集团、OpenAI、科大讯飞等参编

国际组织WDTA首次就大模型安全发布国际标准，蚂蚁集团、OpenAI、科大讯飞等参编4月17日消息，在第27届联合国科技大会，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。据了解，这两项国际标准为大模型及生成式AI应用方面的安全测试标准，由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。

【蚂蚁集团投资视频生成模型公司爱诗科技，由

【蚂蚁集团投资视频生成模型公司爱诗科技，由#字节前视觉技术负责人王长虎创立】据悉，蚂蚁集团已于近期独家投资了中国视频生成大模型公司爱诗科技的A2轮，该轮金额超过1亿元人民币。接近蚂蚁的人士说，蚂蚁除自研大模型并落地应用外，也在持续关注行业的前瞻探索，围绕大模型技术能力、产业应用和AI算力等核心技术和生态，已陆续投资了智谱AI、月之暗面等大模型创业公司和专注多模态的生数科技等。爱诗科技成立于2023年4月，目前团队约有30人，创始人兼CEO王长虎曾任字节跳动视觉技术负责人，在视频理解、数据处理、内容安全和视频生成等领域都有积累。（《晚点LatePost》）

AI算法能检测大脑缺陷，有助于治疗癫痫疾病

AI算法能检测大脑缺陷，有助于治疗癫痫疾病北京时间8月16日上午消息，据报道，目前，科学家最新研发一种AI算法，能够检测出癫痫患者早期症状，甚至包括经验丰富的资深医师可能忽略的症状。该AI算法能检测出患有一种罕见疾病的患者，准确率达到60%以上，相比之下，核磁共振成像未发现任何隐性症状。研究结果表明，AI算法在扫描中发现了538例FCD症状，其中包括112例放射科医师无法检测到的病例。这种罕见疾病是癫痫，据称，英国和美国居民癫痫发病率达1%，该疾病会导致患者大脑出现不受控制的脑电流爆发，从而引发痉挛抽搐。任何人都可能出现惊厥痉挛，但并不意味着他们必然都患有癫痫，通常癫痫患者确诊之前可能不止一次出现痉挛抽搐。当大脑突然脑电流爆发时，就会出现癫痫，导致大脑运行中断，部分患者癫痫发作时人们仍保持警觉状态，能够感知到周围环境，而部分患者癫痫发作时会完全失去意识，处于极度危险境地。有时癫痫患者会出现不同寻常的感觉、认知和活动，或者身体僵硬摔倒在地板上不断抽搐，在任何年龄时期，中风、脑感染、头部损伤或者出生时导致缺氧的问题都可能诱发癫痫，在超过50%以上的病例中，医师无法找到具体病因，相关治疗癫痫药物也无法完全治愈，但有助于停止或者减少癫痫发作，如果药物治疗仍无效，患者只能选择脑部手术。导致癫痫的一个诱因是耐药性局灶性脑皮质发育不良(FCD)，这是大脑的一种细微异常，会导致大脑信号传输失效。癫痫能通过手术进行治疗，但该疾病对大脑产生的变化非常微妙，即使是经验丰富的放射科医师进行核磁共振扫描时也可能忽略该疾病征兆。但基于英国伦敦大学学院研究团队研发的一种AI算法，可以检测到63%的FCD症状，这是之前医护人员很难检测到的，也是诱发癫痫发作的重要因素之一。研究人员称，他们的AI模型能为更多癫痫患者进行大脑手术，提供最佳治愈机会。据悉，在英国，大约有60万癫痫患者，但仅有20-30%的患者对药物没有反应。脑细胞或者神经元细胞，通常会形成有组织的细胞层，形成大脑皮层。对于FCD患者，其脑细胞是无序紊乱的，从而导致痉挛抽搐的风险更高。在接受手术控制病情的儿童癫痫患者中，FCD症状是最常见的病因，对于需要手术治疗的成年人群，FCD是第三大常见病因。然而，令医务人员棘手的是很难通过核磁共振扫描检测到FCD症状，在最新研究中，研究人员从22项全球癫痫疾病研究中收集了1000多张核磁共振扫描图像，一组放射科专家将扫描结果标记为健康或者FCD症状，之后运行AI算法检测扫描异常现象。这项AI算法涉及患者大脑30万个区域信息，该研究报告发表在《大脑》杂志上，研究结果表明，AI算法在扫描中发现了538例FCD症状，其中包括112例放射科医师无法检测到的病例。研究人员称，这一点非常重要！因为当前局灶性脑皮质发育不良(FCD)症状主要依赖于及时检测发现，再选择手术治疗。伦敦大学学院皇后广场神经学研究所研究员康拉德·瓦格斯蒂尔(KonradWagstyl)博士说：“这种...PC版：https://www.cnbeta.com/articles/soft/1304879.htm手机版：https://m.cnbeta.com/view/1304879.htm

知网AI生成文本检测专利公布 可检测文本是否为AI生成

知网AI生成文本检测专利公布可检测文本是否为AI生成据天眼查，近日，同方知网数字出版技术股份有限公司申请的“一种AI生成文本的检测方法、装置、介质及设备”专利公布。摘要显示，通过将待检测文本输入文本分类模型，得到文本为AI生成的第一概率值；基于待检测文本及目标损失函数，得到文本的偏离度特征；基于待检测文本、预测模型及预设字典，得到文本的扩散度特征值；基于待检测文本，得到文本的句子长度特征及字词分布特征；根据上述第一概率值、偏离度特征、扩散度特征值、句子长度特征及字词分布特征，判定文本是否为AI生成文本。该专利不仅检测效率高，且不受审核人员的主观影响，检测结果更加准确。消息来源: