美国政府在制定 AI 监管标准方面迈出第一步

美国政府在制定AI监管标准方面迈出第一步拜登政府周二称正在为安全部署生成式AI以及如何测试和保护系统编制关键标准方面迈出第一步。美国商务部国家标准与技术研究院(NIST)表示，将在2月2日之前征求公众意见，以进行对确保人工智能系统安全至关重要的关键测试。NIST正在制定的测试指南中，包括所谓的“红队”测试——NIST将考虑，“红队”测试在哪些方面对人工智能风险评估和管理最有利，并为此制定最佳实践。“红队”测试是网络安全测试中的一项重要测试环节。它指的是由专家团队模拟真实世界的对手，以测试和增强系统的安全性。

【国际证监会组织发布指导方针，建议各监管当局加强加密行业监管标准】

【国际证监会组织发布指导方针，建议各监管当局加强加密行业监管标准】5月23日消息，国际证监会组织（IOSCO）发布指导方针，要求各国监管当局在一系列加密行业危机尤其是FTX事件爆发后加强加密行业监管标准，其中共计18点计划，涵盖利益冲突、披露规则和治理等领域，要求全球监管机构切实处理相关建立在利益冲突基础上的业务问题。IOSCO秘书长MartinMoloney表示，IOSCO无权强制监管机构采纳这些规则，但“有信心”让这些提议将由IOSCO的成员实施，目前IOSCO成员有130个国家，覆盖全球金融市场的95%。

日本政府将制定AI指导方针：仅供“参考” 不具法律约束力

日本政府将制定AI指导方针：仅供“参考”不具法律约束力相比之下，欧盟计划为这项技术制定详细规则，严格界定从开发者到用户的法律责任。在美国，包括谷歌、OpenAI在内的七家顶级人工智能公司做出承诺，将负责任地开发人工智能技术，且白宫正在积极制定一项“管理人工智能使用”的行政命令。而日本政府仅仅打算提供指导方针，供企业在开发和使用人工智能时参考。为了鼓励采用这些指导方针，日本政府将建立一种认证，证明这些企业正在遵循规范行事。政策制定者还设想要求企业在竞标政府合同时遵守这些指导方针。总之，在对待人工智能的态度上，日本与欧美之间存在着较为明显的差别。据分析称，日本积极拥抱人工智能与少子老龄化问题有着紧密的关系，日本政府期待通过人工智能技术解决日本面对的劳动力不足、医疗保健挑战等问题。此前，日本政府重申，不会对人工智能训练中使用的数据实施版权保护，可见日本的立场很明确。该政策允许人工智能使用任何数据，“无论是出于非营利或商业目的，是否是复制以外的行为，也无论是从非法网站或其他方式获得的内容。”接下来，日本经济产业省等部门将与约100名专家合作，制定具体的指导方针，供各部门和企业参考。据悉，指导方针草案分为两部分，第一部分包括所有企业通用的人工智能规则。这个章节包括指导操作人员意识到生成式人工智能程序的错误信息或偏见风险的基本原则。企业将开发遵守法律并考虑人权的服务，并敦促管理人员建立内部风险管理结构。草案的第二部分概述了针对五类企业的具体规则。五类企业分别是：为生成式人工智能开发基础模型的企业、使用数据训练人工智能的企业、系统开发商、服务提供商和使用人工智能服务的企业。负责人工智能开发和机器学习的运营商应保持一定程度的透明度，披露其人工智能项目所涉及的功能、目的和风险。另外，企业还应该披露用于训练生成式人工智能程序的数据类型。生成式人工智能模型的训练需要大量的数据和计算资源，训练这些模型的初始数据要避免包括有危害或有偏见的内容是至关重要的。了解初始数据的性质也将有助于人工智能服务提供商更好地决定是否采用某个程序。这些披露还将有助于调查与人工智能程序有关的任何问题。日本政府将探索使用外部审计，以确保企业保持透明度。...PC版：https://www.cnbeta.com.tw/articles/soft/1376459.htm手机版：https://m.cnbeta.com.tw/view/1376459.htm