美英签署人工智能安全测试里程碑协议

美英签署人工智能安全测试里程碑协议美国和英国签署了一项具有里程碑意义的人工智能协议，这两个盟国成为首批就如何测试和评估新兴人工智能模型风险进行正式合作的国家。英国科学大臣米歇尔•唐兰和美国商务部长吉娜•雷蒙多周一在华盛顿特区签署了这份协议，列出了两国政府将如何在人工智能安全方面汇集技术知识、信息和人才。该协议是全球首个关于人工智能安全的双边协议。该协议将特别使英国于去年11月成立的新人工智能安全研究所(AISI)和尚未开始工作的美国同类机构能够通过借调两国研究人员来交流专业知识。两家机构还将共同研究如何独立评估OpenAI和谷歌等公司建立的私人人工智能模型。——

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议

欧盟国家就具有里程碑意义的《人工智能法》立法达成协议该法将禁止人工智能技术的某些应用，对被认为是高风险的使用案例施加严格限制，并对最先进的软件模型进行约束，要求其承担透明度和压力测试的义务。欧盟是第一个为快速发展的人工智能技术制定具有约束力的规则的国家。尽管许多国家和国际俱乐部--从经合组织到七国集团--在过去几年里一直在思考如何监管人工智能，但大多数都停留在自愿性指南或实践守则上。当欧盟政策制定者在12月宣布他们已就《人工智能法》的内容达成最终妥协时，这一突破被誉为在OpenAI的ChatGPT和Google的Bard等无处不在的人工智能工具崛起之际，欧洲应该庆祝的开创性一步。但这一成果却引起了一些欧盟国家的不满。在过去几周里，该集团的头号经济体德国和法国以及奥地利都暗示，它们可能会在周五的投票中反对该文本。维也纳的不满在于数据保护条款，而巴黎和柏林则警告说，针对先进人工智能模型的规则将阻碍欧洲新晋人工智能冠军的发展，如法国的Mistral和德国的AlephAlpha。意大利（有时也是《人工智能法》的批评者）对其意图保持沉默，《人工智能法》的命运顿时成了问题，因为四个对立的国家足以让该法永远脱轨。法国经济部长布鲁诺-勒梅尔（BrunoLeMaire）内阁呼吁与欧洲议会进行新一轮谈判，以解决他所关切的问题。由于缺乏进一步谈判的时间，比利时理事会主席对这一前景感到震惊。更糟糕的是，欧洲议会本身也在处理由隐私问题鹰派议员斯文雅-哈恩（SvenjaHahn）引发的关于人工智能法案面部识别规则的争论。最终，通过欧盟惯用的公关攻势和外交手腕，问题得到了解决。欧盟委员会加大了压力，宣布了一揽子针对人工智能领域的重大创新措施，并一举成立了欧盟人工智能办公室--一个负责执行《人工智能法》的机构。两位参与谈判的人士透露，奥地利、法国和德国是在委员会将发表正式声明，就其关心的问题作出保证的承诺的诱惑下重返谈判桌的。 这些声明并非法律行为，但由于委员会将监督《人工智能法》的实施，它们将提供某种保证。德国数字部长沃尔克-维辛（VolkerWissing）是德国联合政府中最主要的《人工智能法》怀疑论者，他的发言人告诉媒体："我们要求欧盟委员会澄清，《人工智能法》不适用于医疗设备中的人工智能应用。"POLITICO在投票前在欧盟外交官中分发的一份欧盟委员会声明显示，计划成立一个由欧盟成员国当局组成的"专家组"。该小组的职能将是"建议并协助"欧盟委员会应用和实施《人工智能法》。特别是，专家组将协助欧盟委员会避免《人工智能法》与欧盟其他法规之间的重叠，包括《医疗器械法规》、《体外诊断设备法规》和《机械法规》。声明还责成人工智能办公室为高级"通用"人工智能模型的开发者提供"详细指导"，说明如何披露用于训练软件的受版权保护的资料摘要。声明还重申委员会致力于促进人工智能领域的创新，并在更新影响高级人工智能的某些文本时"确保建立一个灵活且面向未来的法律框架"。最后，声明允许成员国对面部识别、情感识别和生物识别分类等技术采取限制性更强的规则和保障措施。《人工智能法》仍需欧洲议会的正式批准。该文本将于两周后在委员会一级获得认可，预计将于四月进行全会表决。心怀不满的支持隐私权的立法者可能仍会试图通过提出修正案来阻碍法律的进展--如果修正案获得通过，还需要与理事会进行额外的谈判。但大多数在议会中参与《人工智能法》起草工作的人都相信，该法将在不做任何修改的情况下获得通过。...PC版：https://www.cnbeta.com.tw/articles/soft/1415867.htm手机版：https://m.cnbeta.com.tw/view/1415867.htm

欧盟接近就里程碑式AI法案达成协议 对ChatGPT等AI技术进行监管

欧盟接近就里程碑式AI法案达成协议对ChatGPT等AI技术进行监管知情人士称，来自欧盟委员会、欧洲议会和27个成员国的代表们在周三下午开始的会议上达成了折衷方案，使该集团接近就更广泛的AI法案达成正式协议。由于谈判未公开，知情人士要求匿名。这一协议标志着向具有里程碑意义的人工智能政策获批迈出了关键一步，在美国国会没有采取任何有意义的行动之际，此举为发达国家对OpenAI的ChatGPT和谷歌的Bard等生成式人工智能工具的监管定下基调。决策者几个月来一直在努力敲定AI法案的措辞，并争取在6月的欧洲选举迎来全新的委员会和议会之前获得通过。...PC版：https://www.cnbeta.com.tw/articles/soft/1402623.htm手机版：https://m.cnbeta.com.tw/view/1402623.htm

联合国大会通过里程碑式决议，呼吁让人工智能给人类带来 “惠益”

联合国大会通过里程碑式决议，呼吁让人工智能给人类带来“惠益”联合国大会今天未经表决一致通过了一项具有里程碑意义的决议，呼吁抓住“安全、可靠和值得信赖的”人工智能系统带来的机遇，让人工智能给人类带来“惠益”，并以此促进可持续发展。大会强调，就本决议而言，“安全、可靠和值得信赖的人工智能系统”是指非军事领域的人工智能系统，必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。大会还促请所有会员国及其他利益攸关方“不要使用或停止使用无法按照国际人权法运作或对享受人权构成过度风险的人工智能系统，特别是对于那些处于弱势的人而言”。决议同样提出，“人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内”。决议中文翻译（NewsFW）

审计也进入AI时代 毕马威与微软达成里程碑式协议 将投资20亿美元

审计也进入AI时代毕马威与微软达成里程碑式协议将投资20亿美元毕马威是以经营会计业务为中心的大型国际专业服务网络，主要提供审计、税务、管理顾问及法律服务。这是该公司加倍投资人工智能和云服务的最新举措。该公司周二表示，预计这一合作将在五年内带来超过120亿美元的收入。这相当于毕马威全球年收入的7%左右。截至2022年9月30日，毕马威全球收入总计346.4亿美元。此外，通过这笔新投资，这家约有26.5万名员工的公司将进一步实现税务、审计和咨询服务方面的自动化，旨在使员工能够提供更快的分析，花更多时间提供战略建议，并帮助更多公司将人工智能整合到他们的运营中。毕马威全球董事长兼首席执行官BillThomas在接受采访时表示，该公司并不打算利用技术来消除工作岗位，而是希望通过人工智能技能来增强员工队伍。例如，将员工调到新的岗位或为他们提供培训。“我当然不认为我们会裁掉很多人，因为我们已经在这种合作关系上进行了投资。我预计我们的组织将继续发展，我们将尽可能地重新培训员工，坦率地说，我们将以我们现在甚至无法想象的方式创造各种机会。”作为扩大合作伙伴关系的一部分，毕马威将在微软向公众推出一款名为Microsoft365Copilot的人工智能助手之前，提前使用这款工具。毕马威与微软的协议还包括Azure云平台，这家专业服务公司已经使用OpenAI来构建和运行应用程序。Thomas表示，毕马威投资的很大一部分将用于生成式人工智能，许多企业都渴望将其应用于财务，以降低成本并产生新的效率。微软首席执行官SatyaNaDELLa在接受采访时表示，该技术将使毕马威能够通过统一大量税务报告数据集，分析潜在的ESG相关交易，并更及时地为审计执行数据分析，从而加强与环境、社会和治理问题相关的工作。“无论是ESG报告还是审计，所有这些事情都将发生根本性的转变，因为这些知识工作流程的核心流程将通过人工智能技术得到加速。”他补充说。会计事务所AI化事实上，在过去的十年里，毕马威一直在以各种形式应用AI，最初是为了帮助客户消除决策中的偏见。2019年，毕马威承诺在五年内向技术、人才和创新方面投资50亿美元，其中包括与微软和其他供应商的合作。在这50亿美元中，毕马威对微软的投资占20%，即10亿美元。近年来，其他会计师事务所也在云计算和其他技术上投资了数十亿美元，以加强其审计、咨询和税务业务。它们的网站显示，它们也在向微软寻求人工智能产品。普华永道（PwC）今年4月表示，计划在三年内与微软合作，在其美国业务中投资10亿美元用于生成人工智能。德勤（Deloitte）去年12月表示，将斥资14亿美元对员工进行包括人工智能在内的技术培训。安永会计师事务所（Ernst&Young）去年则表示，在未来四年，该公司将投入10亿美元，建设包括AI在内的审计技术能力。除四大会计师事务所外，咨询公司埃森哲（Accenture）上个月宣布，将在三年内向数据和人工智能领域投资30亿美元。...PC版：https://www.cnbeta.com.tw/articles/soft/1370367.htm手机版：https://m.cnbeta.com.tw/view/1370367.htm

美国和英国将合作测试人工智能安全威胁模型

美国和英国将合作测试人工智能安全威胁模型两国人工智能安全研究所之间的协议立即生效。美国商务部长吉娜-雷蒙多（GinaRaimondo）表示，美国政府"致力于与其他国家发展类似的伙伴关系，在全球范围内促进人工智能安全"。雷蒙多在一份声明中说："这种合作关系将加速我们两家机构在各种风险方面的工作，无论是对我们的国家安全还是对我们更广泛的社会面。"通过该协议，两国承诺在技术研究、人员交流和信息共享方面开展合作。美国和英国的一个潜在合作伙伴是欧盟，欧盟通过了自己的人工智能系统使用全面法规。欧盟的人工智能法要求运行强大的人工智能模型的公司遵守安全标准。英国的人工智能安全研究所是在11月的全球人工智能峰会前夕成立的，包括美国副总统卡马拉-哈里斯在内的多位世界领导人在峰会上讨论了如何利用并在可能的情况下对该技术进行跨境监管。英国已经开始对一些模型进行安全测试，但目前还不清楚它是否能获得最近发布的版本。一些人工智能公司敦促英国人工智能安全研究所进一步明确时间表，以及在发现模型存在风险时的下一步措施。...PC版：https://www.cnbeta.com.tw/articles/soft/1425987.htm手机版：https://m.cnbeta.com.tw/view/1425987.htm