欧洲议会通过部分AI监管措施 迈出AI监管第一步

欧洲议会通过部分AI监管措施迈出AI监管第一步欧洲议会立法者星期四（5月11日）就备受瞩目的《人工智能法》（ArtificialIntelligenceAct）进行投票，针对禁用公共场所面部识别、预测性警示服务等部分人工智能（AI）技术监管措施达成一致。综合路透社和法新社报道，欧盟2021年提出的《人工智能法》将成为首个管理AI技术的全面法案。经过两年的谈判，该法案如今有望取得新进展，进入委员会和成员国谈判阶段。当天的投票开始前，有欧洲议会议员指出，如今，人工智能的重要性显而易见，社会期待立法者对人工智能及其给大众生活带来的影响做出坚定行动。本次投票同意禁用公共场合生物识别监控、情绪识别和预测性警示服务等人工智能系统。法案还寻求对ChatGPT等生成式人工智能系统制定新的透明措施，例如要求相关应用必须告知用户其内容是由机器而非人类生成。在本次会议的提案中，人工智能公司将被要求对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。欧洲议会议员说，这次投票是监管人工智能的一个“里程碑”，人工智能应该为人、社会和环境服务，而不能本末倒置。不过，实施监管措施并不代表要严令禁止人工智能科技，欧盟仍呼吁并支持促进人工智能行业创新。

G7呼吁出台AI技术标准 欧盟再次走在监管前沿

G7呼吁出台AI技术标准欧盟再次走在监管前沿尽管人工智能技术提供了许多好处，但它们的发展速度超过了监管机构能够跟上的速度。5月20日在日本广岛举行的G7领导人会议上发表的一份声明称，人工智能等数字技术的规则应该“符合人们共同的价值观”。峰会还达成共识，在今年年底之前创建一个专门讨论人工智能进展的部长级论坛，讨论围绕生成式人工智能的问题，例如版权和打击虚假信息。七国领导人还敦促经济合作与发展组织（OECD）等国际组织考虑对人工智能政策发展的影响进行分析。欧洲一直走在人工智能监管的前沿。欧盟本月已经接近通过一项人工智能技术监管的立法，这也有望成为全球首部全面的人工智能法案，并可能成为发达经济体的先例。“我们希望人工智能系统准确、可靠、安全且无歧视，无论其来源如何。”欧盟委员会主席乌尔苏拉·冯德莱恩5月19日表示。G7领导人还表示，他们需要尽快评估有关生成式人工智能的机遇和挑战，这也是近期ChatGPT引爆的一个技术热点。尽管各个国家都呼吁加强对人工智能的监管，但各国政府对于人工智能的态度也有差异。美国仍在探索人工智能方面的监管。上周，OpenAI公司CEO萨姆·奥尔特曼在国会听证上表示，美国应该考虑人工智能模型开发的许可和测试要求。美国总统拜登上个月表示，人工智能的威胁还有待观察。日本对于人工智能的态度更为宽松，该国已经承诺支持公共事业部门和工业领域采用人工智能技术。日本首相岸田文雄上周对政府的人工智能委员会表示：“重要的是要妥善处理人工智能的潜力和风险。”此外，生成式AI在某些特定领域方面的应用将面临更加严厉的监管。上周，世界卫生组织呼吁谨慎使用人工智能生成的大型语言模型工具。该组织称：“虽然借助这类工具可便利地获取健康信息，甚至能在资源不足的地区提高诊断能力，但在使用时必须仔细考察其风险。”医疗健康行业是全球监管最严格的行业之一。以美国为例，尽管人工智能在美国医疗保健中的使用发展迅速，但仍缺乏全面监管。“ChatGPT这类生成式AI的使用未来需要遵守相关法律法规，包括说明其预期使用目的、验证AI的准确性以及确认训练数据可靠、具有代表性无偏见。”一位业内人士对第一财经记者表示。相关文章:七国集团呼吁制订与采用人工智能国际技术标准...PC版：https://www.cnbeta.com.tw/articles/soft/1360853.htm手机版：https://m.cnbeta.com.tw/view/1360853.htm

OpenAI开发者建议 美国政府立新机构监管AI发展

OpenAI开发者建议美国政府立新机构监管AI发展先进聊天机器人ChatGPT创始人呼吁美国立法者规范人工智能（AI）的发展和应用。英国广播公司（BBC）报道，美国人工智能公司OpenAI总裁奥特曼（SamAltman）星期二（5月16日）出席参议院司法委员会的听证会，就ChatGPT的潜力和陷阱作证。在OpenAI开发ChatGPT后的短短几个月内，市场上就出现了好几款这类AI模型。38岁的奥特曼说，美国政府应该成立一个新的机构，为人工智能公司颁发许可证。ChatGPT和其他类似的AI程序可以创建极度像人类的答案，但它们在回答问题时，也可能提供大错特错的答案。现已俨然成为AI聊天机器人代言人的奥特曼并没有回避人工智能引发的伦理问题，并推动政府进行更多监管。奥特曼说，人工智能的潜力可能和印刷业技术一样巨大，但他也承认人工智能有潜在的危险。他还承认人工智能可能对经济产生的影响，包括，导致某些领域裁员。奥特曼说：“这将冲击就业机会。我们尽可能非常明白地坦承这一点。”奥特曼也对人工智能对民主的潜在影响，以及在选举期间可能被用来发送有针对性的错误信息，表示担忧。他对成立一个针对人工智能的新机构可以如何监管AI聊天机器人提出了几项建议，包括发放或取消人工智能公司的许可证。他也认为，像OpenAI这样的公司应该接受独立审计。共和党参议员霍利说，AI聊天机器人可能具有革命性，但这项新技术也像原子弹的发明。民主党参议员布卢门撒尔说，由AI聊天机器人主导的未来“不一定是我们想要的未来”。他警告说：“我们需要最大限度地利用它的好处而不是它的坏处。国会现在可以做出一个选择。我们在社交媒体面世时也面对了选择。我们已错过一次机会。”出席星期二听证会的两党参议员明显都支持成立一个新机构来监管AI聊天机器人这一新兴行业。然而，技术发展日新月异，立法者对于新机构能否赶得上先进技术的发展仍心存疑问。

马斯克会见美参院民主党领袖舒默 讨论AI监管问题

马斯克会见美参院民主党领袖舒默讨论AI监管问题马斯克曾警告称，人工智能可能导致“文明毁灭”，他最近成立了一家名为X.AI的新人工智能公司。他还表示，将启动他自己版本的人工智能聊天机器人“TruthGPT”，并阻止人类文明毁灭。自去年AI聊天机器人ChatGPT推出以来，AI成为很多立法者最关心的问题。ChatGPT是由OpenAI公司开发的一款风靡全球的语言模型聊天机器人，已经吸引了数十亿美元的投资，并可能改变经济。近几个月来，舒默一直致力于制定一个“概述人工智能新监管制度的高级框架”。本月早些时候，舒默表示，随着ChatGPT等程序的广泛使用，他已开始建立人工智能（AI）监管规则。他表示，他已经起草并分发了一份框架，概述了一套新的监管制度，该制度将防止AI对国家造成潜在的灾难性损害，同时确保美国在这项变革性技术方面取得进步，并处于领先地位。在华盛顿，越来越多的人正在推动人工智能监管。参议院情报委员会主席、民主党人马克·华纳（MarkWarner）周三致信主要人工智能公司的首席执行官，要求他们采取措施解决人们的担忧。舒默在近一个小时的会面后告诉记者，他们还讨论了马斯克的电动汽车公司特斯拉。“听着，我们进行了一次很好的会谈。我们谈到了布法罗。特斯拉在布法罗有一家大型工厂，我们讨论了人工智能，”舒默表示。位于布法罗的特斯拉超级工厂占地120万平方英尺，于2017年开始生产太阳能电池和模块，随后于2019年开始生产电动汽车充电器的电子元件。今年1月，马斯克在华盛顿会见了两位白宫高级官员，讨论了特斯拉和拜登政府如何共同推动电动汽车生产。今年早些时候，他还会见了众议院议长、共和党人凯文·麦卡锡。...PC版：https://www.cnbeta.com.tw/articles/soft/1357005.htm手机版：https://m.cnbeta.com.tw/view/1357005.htm

美国行业组织推动AI监管：呼吁在隐私立法中制定相关规则

美国行业组织推动AI监管：呼吁在隐私立法中制定相关规则微软是人工智能领域的领导者之一，因其最近投资了OpenAI——生成式AI聊天机器人ChatGPT的开发商。但目前美国在先进AI领域的另一个主要参与者Google并非BSA的成员之一。就在BSA推动AI监管之际，包括美国参议院多数党领袖、纽约州民主党人查克·舒默在内的许多国会议员都已经表达了确保监管跟上AI技术快速发展步伐的兴趣和急迫性。BSA倡导四项关键的保护措施分别是：国会应该明确规定公司何时必须评估人工智能的设计或影响。当人工智能被用于做出“重大决定”时，这些要求应该生效，国会也应该对此做出定义。国会应该指定一个现有的联邦机构来审查公司是否遵守了规定。国会应该要求公司为高风险的人工智能制定风险管理计划。“我们希望国会通过这项立法，”BSA美国政府关系副总裁CraigAlbright表示。“所以我们正试图让更多人关注这件事。我们觉得它没有得到应有的关注。”“它并不是关于人工智能的所有问题的答案，但它是国会可以解决的关于人工智能一个重要问题的重要答案。”Albright表示。ChatGPT等先进人工智能工具的推出加速了推动AI监管。虽然美国已经建立了一个自愿的风险管理框架，但许多倡导者一直在推动更强有力的保护措施。与此同时，欧洲正在努力敲定其人工智能法案，围绕高风险人工智能制定保护措施。Albright表示，随着欧洲和中国推进监管和培育新技术的框架，美国政策制定者需要问问自己，数字转型是否是“经济议程的重要组成部分”。他称，“如果是这样的话，我们应该制定一个国家数字化转型议程”，其中将包括围绕人工智能的规则、国家隐私标准和强有力的网络安全政策。建议在ADPPA中制定AI规则在向国会概述的建议中，BSA组织表示，上届国会众议院能源和商业委员会通过的两党隐私法案《美国数据隐私和保护法》（ADPPA）是制定新人工智能规则的合适工具。尽管该法案要成为法律还有很艰难的路要走，但BSA表示，该法案已经为政府应该建立的那种国家人工智能护栏制定了正确的框架。BSA希望当ADPPA重新修改时，它将包含新的条文来规范人工智能。Albright表示，该组织已经就他们的建议与众议院能源和商业委员会进行了接触，该委员会对许多不同的声音“敞开大门”。虽然ADPPA在成为法律方面仍面临障碍，但Albright表示，通过任何一项立法都是一项艰巨的任务。“我们要说的是，这是可行的。这是两党可以达成协议的事情。”他表示。“所以我们希望，无论他们如何立法，这（AI监管）将是其中的一部分。”...PC版：https://www.cnbeta.com.tw/articles/soft/1356501.htm手机版：https://m.cnbeta.com.tw/view/1356501.htm

ChatGPT威胁版权？42家德国作者和表演者协会呼吁欧盟对AI加强监管

ChatGPT威胁版权？42家德国作者和表演者协会呼吁欧盟对AI加强监管这封信着重强调了对ChatGPT等生成式人工智能技术的担忧，这种技术可以基于用户的提示模仿人类创作文本和图片。“未经授权使用受保护的训练资料、不透明的程序以及生成式人工智能可以预见的输出替代源，引发了责任、义务和薪酬等根本问题。必须在不可逆转的伤害发生前解决这些问题。”信中写道，“对于任何有意义的人工智能市场监管法规而言，生成式人工智能都应该成为关注的核心。”欧盟委员会去年提议起草人工智能法规，他们将在未来几个月与欧盟立法者和欧盟成员国讨论最终细节，之后才会正式立法。上述组织表示，这些法规应当在生成式人工智能的整个生命周期中对其加强监管，尤其是对基础模型提供商进行监管。他们还呼吁这类技术的提供商对其技术生成和传播的所有内容承担责任，特别是当发生侵犯个人权益和版权以及散布虚假信息或歧视性信息时。该信还表示，不应允许微软、谷歌、亚马逊和MetaPlatform等基础模型提供商运营从事数字内容分发的中央平台服务。...PC版：https://www.cnbeta.com.tw/articles/soft/1355789.htm手机版：https://m.cnbeta.com.tw/view/1355789.htm