乔·拜登希望美国政府机构评估与测试算法对公民的潜在危害
乔·拜登希望美国政府机构评估与测试算法对公民的潜在危害备忘录中说："如果好处没有明显超过风险，机构就不应该使用人工智能。但备忘录草案为涉及国家安全的模型划出了豁免范围，并允许各机构在停止使用人工智能模型'会对关键机构的运作造成不可接受的阻碍'的情况下，有效地为自己颁发豁免。"白宫管理和预算办公室在总统拜登签署行政命令两天后发布了该规则草案，该行政命令相当于一项政府范围内的计划，旨在同时增加政府对人工智能的使用，同时寻求防止该技术带来的危害。需要确保人们免受人工智能的危害是该行政令的一大主题，其中的规定包括对大型人工智能模型和计算集群开发者的报告要求。拟议的OMB规则将增加对从私营公司购买的算法进行测试和独立评估，作为联邦合同的一项要求。这些规则将要求政府机构评估和监控正在使用的算法和未来购买的算法，以确定其是否对隐私、民主、市场集中度和政府服务的获取产生负面影响。备忘录草案要求由不直接参与系统开发的人员对算法进行测试和评估，并鼓励对人工智能生成模型进行外部"红队"测试。它还指示联邦机构的领导人探索如何在"不带来过度风险"的情况下使用生成式人工智能，如OpenAI的ChatGPT。拜登的人工智能行政命令要求OMB在未来五个月内向联邦机构提供指导。该办公室正在就政策草案征求公众意见，截止日期为12月5日。OMB负责管理的副主任杰森-米勒（JasonMiller）说："该框架为联邦机构制定了一套具有约束力的要求，以便为人工智能的使用提供保障，从而使我们能够利用人工智能带来的好处，并使公众能够信任联邦政府提供的服务。"备忘录草案强调了人工智能的某些用途，在这些用途中，技术可能会损害权利或安全，包括医疗保健、住房和执法--在这些情况下，算法过去都曾导致歧视或拒绝提供服务。OMB草案中提到的潜在安全风险的例子包括大坝等关键基础设施的自动化和Cruise机器人轴这样的自动驾驶汽车，后者上周在加利福尼亚被关闭，联邦和州监管机构正在对其进行调查，因为一名行人被一辆汽车撞倒，拖行了20英尺。在备忘录草案中，人工智能可能侵犯公民权利的例子包括：预测性警务、可以阻止受保护言论的人工智能、剽窃或情绪检测软件、租客筛选算法，以及可以影响移民或儿童监护权的系统。据OMB称，联邦机构目前使用700多种算法，但联邦机构提供的清单并不完整。米勒说，备忘录草案要求联邦机构更多地分享他们使用的算法。他说："我们的期望是，在未来几周和几个月内，我们将提高各机构识别和报告其使用案例的能力。"美国副总统卡马拉-哈里斯（KamalaHarris）今天在美国驻伦敦大使馆发表讲话时提到了OMB备忘录和其他负责任的人工智能倡议，她此行是为了参加本周在英国举行的人工智能安全峰会。她说，虽然人工智能决策中的一些声音关注的是灾难性风险，比如人工智能有朝一日可能在网络攻击或制造生物武器中发挥作用，但偏见和错误信息已经被人工智能放大，每天都在影响着个人和社区。即将出版的一本关于人工智能采购政策的书的作者、非营利组织人工智能与数字政策中心（CenterforAIandDigitalPolicy）总裁梅尔-希科克（MerveHickok）对OMB备忘录要求各机构证明其使用人工智能的合理性，并指定专人负责这项技术表示欢迎。密歇根大学（UniversityofMichigan）讲师希科克（Hickok）说，这是一种潜在的有效方法，可以确保人工智能不会被强加到每个政府项目中。但她担心，提供豁免可能会破坏这些机制。她说："如果我们开始看到各机构广泛使用这种豁免权，特别是执法、国土安全和监控机构，我会很担心。一旦他们获得豁免，就可能是无限期的"。...PC版：https://www.cnbeta.com.tw/articles/soft/1393885.htm手机版：https://m.cnbeta.com.tw/view/1393885.htm
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人