美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议 美国和英国签署了一项具有里程碑意义的人工智能协议,这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议,列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所 (AISI) 和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估 OpenAI 和谷歌等公司建立的私人人工智能模型。

相关推荐

封面图片

港投公司和思谋集团签战略合作协议 李家超︰有里程碑意义

港投公司和思谋集团签战略合作协议 李家超︰有里程碑意义 香港投资管理有限公司和聚焦人工智能技术创新及应用的港产「独角兽」公司思谋集团,签署战略合作协议。思谋集团创始人兼董事长贾佳亚说,集团坚持立足香港,并会以港交所作为首选上市地。行政长官李家超以视像方式致辞时说,今次是港投公司签署第一份战略合作协议,具有里程碑意义,今次合作涵盖人工智能上下游产业链,将推进大模型创新在大湾区更广泛应用,更将创立香港首个人工智能研究院,意义重大。李家超又说,对港投公司寄予厚望,期望公司推动目标产业发展,和推动新质生产力发展。 2024-06-12 18:28:04

封面图片

港投与思谋集团签合作协议 李家超称具里程碑意义

港投与思谋集团签合作协议 李家超称具里程碑意义 香港投资管理有限公司与专长人工智能业务的港产「独角兽」公司思谋集团签署合作协议,是港投公司首次与科技企业签署协议。行政长官李家超表示,这次合作涵盖人工智能上下游产业链及人才培养等,具有里程碑意义。财政司司长陈茂波表示,这次签约反映政府对人工智能的重视,亦展示当局如何通过港投公司的投资,牵引、驱动、培育更蓬勃的创科生态圈。 2024-06-12 18:34:18

封面图片

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型 两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多(Gina Raimondo)表示,美国政府"致力于与其他国家发展类似的伙伴关系,在全球范围内促进人工智能安全"。雷蒙多在一份声明中说:"这种合作关系将加速我们两家机构在各种风险方面的工作,无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议,两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟,欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在 11 月的全球人工智能峰会前夕成立的,包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试,但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表,以及在发现模型存在风险时的下一步措施。 ... PC版: 手机版:

封面图片

欧盟通过具有里程碑意义的人工智能监管法律

欧盟通过具有里程碑意义的人工智能监管法律 在欧盟立法者支持欧盟委员会 2021 年起草的人工智能立法两个月后,欧盟国家进行了投票,并做出了一些重要修改。近几个月来,随着微软支持的OpenAI 的 ChatGPT 和Google聊天机器人 Gemini 等生成式人工智能系统的日益普及,全球对人工智能助长错误信息、假新闻和受版权保护材料的担忧加剧。比利时数字化大臣马蒂厄-米歇尔(Mathieu Michel)在一份声明中说:"这部具有里程碑意义的法律是世界上第一部此类法律,它解决了一个全球性的技术挑战,同时也为我们的社会和经济创造了机遇。"他说:"通过《人工智能法》,欧洲强调了在处理新技术时信任、透明和问责的重要性,同时确保这一瞬息万变的技术能够蓬勃发展并促进欧洲的创新。"《人工智能法》对高风险的人工智能系统规定了严格的透明度义务,而对通用人工智能模型的此类要求则较轻。它限制政府在公共场所使用实时生物识别监控,仅限于某些犯罪案件、防止恐怖袭击和搜查最严重犯罪嫌疑人。库利律师事务所的帕特里克-范-埃克(Patrick van Eecke)说,新立法的影响将超越 27 国集团。"该法案将覆盖全球。欧盟以外的公司如果在其人工智能平台中使用欧盟客户数据,就需要遵守该法。其他国家和地区很可能会将《人工智能法》作为蓝本,就像他们对待 GDPR 一样,"他指的是欧盟的隐私规则。新法规将于 2026 年生效,但在新法规生效后的六个月内,将禁止在社交评分、预测性警务和从互联网或闭路电视录像中无针对性地获取面部图像的用途中使用人工智能。通用人工智能模型的义务将在 12 个月后适用,嵌入到受监管产品中的人工智能系统的规则将在 36 个月后适用。根据违规类型,对违规行为的罚款从 750 万欧元(820 万美元)或营业额的 1.5% 到 3500 万欧元或全球营业额的 7% 不等。 ... PC版: 手机版:

封面图片

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议 该法将禁止人工智能技术的某些应用,对被认为是高风险的使用案例施加严格限制,并对最先进的软件模型进行约束,要求其承担透明度和压力测试的义务。欧盟是第一个为快速发展的人工智能技术制定具有约束力的规则的国家。尽管许多国家和国际俱乐部从经合组织到七国集团在过去几年里一直在思考如何监管人工智能,但大多数都停留在自愿性指南或实践守则上。当欧盟政策制定者在12月宣布他们已就《人工智能法》的内容达成最终妥协时,这一突破被誉为在 OpenAI 的 ChatGPT 和Google的 Bard 等无处不在的人工智能工具崛起之际,欧洲应该庆祝的开创性一步。但这一成果却引起了一些欧盟国家的不满。在过去几周里,该集团的头号经济体德国和法国以及奥地利都暗示,它们可能会在周五的投票中反对该文本。维也纳的不满在于数据保护条款,而巴黎和柏林则警告说,针对先进人工智能模型的规则将阻碍欧洲新晋人工智能冠军的发展,如法国的 Mistral 和德国的 Aleph Alpha。意大利(有时也是《人工智能法》 的批评者 )对其意图保持沉默,《人工智能法》的命运顿时成了问题,因为四个对立的国家足以让该法永远脱轨。法国经济部长布鲁诺-勒梅尔(Bruno Le Maire)内阁呼吁与欧洲议会进行新一轮谈判,以解决他所关切的问题。由于缺乏进一步谈判的时间,比利时理事会主席对这一前景感到震惊。更糟糕的是,欧洲议会本身也在处理由隐私问题鹰派议员斯文雅-哈恩(Svenja Hahn)引发的关于人工智能法案面部识别规则的争论。最终,通过欧盟惯用的公关攻势和外交手腕,问题得到了解决。欧盟委员会加大了压力,宣布了一揽子针对人工智能领域的重大创新措施,并一举成立了欧盟人工智能办公室一个负责执行《人工智能法》的机构。两位参与谈判的人士透露,奥地利、法国和德国是在委员会将发表正式声明,就其关心的问题作出保证的承诺的诱惑下重返谈判桌的。  这些声明并非法律行为,但由于委员会将监督《人工智能法》的实施,它们将提供某种保证。德国数字部长沃尔克-维辛(Volker Wissing)是德国联合政府中最主要的《人工智能法》怀疑论者,他的发言人告诉媒体:"我们要求欧盟委员会澄清,《人工智能法》不适用于医疗设备中的人工智能应用。"POLITICO 在投票前在欧盟外交官中分发的一份欧盟委员会声明显示,计划成立一个由欧盟成员国当局组成的"专家组"。该小组的职能将是"建议并协助"欧盟委员会应用和实施《人工智能法》。特别是,专家组将协助欧盟委员会避免《人工智能法》与欧盟其他法规之间的重叠,包括《医疗器械法规》、《体外诊断设备法规》和《机械法规》。声明还责成人工智能办公室为高级"通用"人工智能模型的开发者提供"详细指导",说明如何披露用于训练软件的受版权保护的资料摘要。声明还重申委员会致力于促进人工智能领域的创新,并在更新影响高级人工智能的某些文本时"确保建立一个灵活且面向未来的法律框架"。最后,声明允许成员国对面部识别、情感识别和生物识别分类等技术采取限制性更强的规则和保障措施。《人工智能法》仍需欧洲议会的正式批准。该文本将于两周后在委员会一级获得认可,预计将于四月进行全会表决。心怀不满的支持隐私权的立法者可能仍会试图通过提出修正案来阻碍法律的进展如果修正案获得通过,还需要与理事会进行额外的谈判。 但大多数在议会中参与《人工智能法》起草工作的人都相信,该法将在不做任何修改的情况下获得通过。 ... PC版: 手机版:

封面图片

【欧盟就《人工智能法案》达成临时协议】

【欧盟就《人工智能法案》达成临时协议】 欧洲议会、欧盟成员国等在周五就《人工智能法案》达成临时协议,其中包括如何监管聊天机器人ChatGPT等人工智能系统。 欧盟内部市场委员Thierry Breton表示:“随着今天围绕《人工智能法案》政治协议的达成,欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册,也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”未来几天有关方面将讨论细节,这可能会改变最终立法的形式与内容。 路透社及法新社报道称,该协议具有里程碑意义。彭博社报道称,该协议标志着欧盟在人工智能监管方面迈出关键一步。 欧盟委员会于2021年提出《人工智能法案》提案的谈判授权草案,将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。 该草案还要求人工智能公司对其算法保持人为控制,提供技术文件,并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构,确保这些规则得到遵守。 快讯/广告 联系 @xingkong888885

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人