美国副总统哈里斯：联邦机构必须证明其 AI 工具不损害公众安全与权利

美国副总统哈里斯：联邦机构必须证明其AI工具不损害公众安全与权利按照美国白宫周四公布新规定，美国联邦机构必须证明他们的人工智能工具不会伤害公众，否则就要停止使用它们。美国副总统卡马拉哈里斯在宣布这条规定之前之前告诉记者：“当政府机构使用人工智能工具时，现在我们将要求他们验证这些工具不会危及美国人民的权利和安全。”https://cj.sina.cn/article/norm_detail?url=

美政府推出首个联邦层级AI新规

美政府推出首个联邦层级AI新规美国政府3月28日推出联邦层级使用人工智能（AI）的最新规定，以寻求“促进联邦政府安全、可靠和负责任地使用人工智能”。白宫提供的事实说明指出，该政策将兼顾个人隐私权。例如，在机场时，如果旅客选择不使用美国运输安全管理局的面部识别系统，须确保旅客不会因此造成任何延误或重新排队。此外，美政府机构被要求每年在网上发布一份人工智能系统清单，并评估这些系统可能带来的风险，以及如何管理这些风险。白宫管理和预算办公室主任莎兰达·杨在新闻简报会上指出，这是“有史以来第一个重点关注管理联邦机构对人工智能使用的政策”。线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况美国副总统哈里斯在与记者的一次简报会上宣布了新的行政机构人工智能指南，并表示各机构还必须成立人工智能治理委员会，以协调机构内部如何使用人工智能。所有美国联邦机构都必须有一名高管(CAIO)来监督他们使用的所有人工智能系统，因为政府希望确保人工智能在公共服务领域的使用是安全的。各机构还必须向管理和预算办公室(OMB)提交一份年度报告，列出其使用的所有人工智能系统、与之相关的任何风险，以及计划如何降低这些风险。根据新指南，任何政府拥有的人工智能模型、代码和数据都应向公众发布，除非它们对政府运作构成风险。——

乔·拜登希望美国政府机构评估与测试算法对公民的潜在危害

乔·拜登希望美国政府机构评估与测试算法对公民的潜在危害备忘录中说："如果好处没有明显超过风险，机构就不应该使用人工智能。但备忘录草案为涉及国家安全的模型划出了豁免范围，并允许各机构在停止使用人工智能模型'会对关键机构的运作造成不可接受的阻碍'的情况下，有效地为自己颁发豁免。"白宫管理和预算办公室在总统拜登签署行政命令两天后发布了该规则草案，该行政命令相当于一项政府范围内的计划，旨在同时增加政府对人工智能的使用，同时寻求防止该技术带来的危害。需要确保人们免受人工智能的危害是该行政令的一大主题，其中的规定包括对大型人工智能模型和计算集群开发者的报告要求。拟议的OMB规则将增加对从私营公司购买的算法进行测试和独立评估，作为联邦合同的一项要求。这些规则将要求政府机构评估和监控正在使用的算法和未来购买的算法，以确定其是否对隐私、民主、市场集中度和政府服务的获取产生负面影响。备忘录草案要求由不直接参与系统开发的人员对算法进行测试和评估，并鼓励对人工智能生成模型进行外部"红队"测试。它还指示联邦机构的领导人探索如何在"不带来过度风险"的情况下使用生成式人工智能，如OpenAI的ChatGPT。拜登的人工智能行政命令要求OMB在未来五个月内向联邦机构提供指导。该办公室正在就政策草案征求公众意见，截止日期为12月5日。OMB负责管理的副主任杰森-米勒（JasonMiller）说："该框架为联邦机构制定了一套具有约束力的要求，以便为人工智能的使用提供保障，从而使我们能够利用人工智能带来的好处，并使公众能够信任联邦政府提供的服务。"备忘录草案强调了人工智能的某些用途，在这些用途中，技术可能会损害权利或安全，包括医疗保健、住房和执法--在这些情况下，算法过去都曾导致歧视或拒绝提供服务。OMB草案中提到的潜在安全风险的例子包括大坝等关键基础设施的自动化和Cruise机器人轴这样的自动驾驶汽车，后者上周在加利福尼亚被关闭，联邦和州监管机构正在对其进行调查，因为一名行人被一辆汽车撞倒，拖行了20英尺。在备忘录草案中，人工智能可能侵犯公民权利的例子包括：预测性警务、可以阻止受保护言论的人工智能、剽窃或情绪检测软件、租客筛选算法，以及可以影响移民或儿童监护权的系统。据OMB称，联邦机构目前使用700多种算法，但联邦机构提供的清单并不完整。米勒说，备忘录草案要求联邦机构更多地分享他们使用的算法。他说："我们的期望是，在未来几周和几个月内，我们将提高各机构识别和报告其使用案例的能力。"美国副总统卡马拉-哈里斯（KamalaHarris）今天在美国驻伦敦大使馆发表讲话时提到了OMB备忘录和其他负责任的人工智能倡议，她此行是为了参加本周在英国举行的人工智能安全峰会。她说，虽然人工智能决策中的一些声音关注的是灾难性风险，比如人工智能有朝一日可能在网络攻击或制造生物武器中发挥作用，但偏见和错误信息已经被人工智能放大，每天都在影响着个人和社区。即将出版的一本关于人工智能采购政策的书的作者、非营利组织人工智能与数字政策中心（CenterforAIandDigitalPolicy）总裁梅尔-希科克（MerveHickok）对OMB备忘录要求各机构证明其使用人工智能的合理性，并指定专人负责这项技术表示欢迎。密歇根大学（UniversityofMichigan）讲师希科克（Hickok）说，这是一种潜在的有效方法，可以确保人工智能不会被强加到每个政府项目中。但她担心，提供豁免可能会破坏这些机制。她说："如果我们开始看到各机构广泛使用这种豁免权，特别是执法、国土安全和监控机构，我会很担心。一旦他们获得豁免，就可能是无限期的"。...PC版：https://www.cnbeta.com.tw/articles/soft/1393885.htm手机版：https://m.cnbeta.com.tw/view/1393885.htm

美国白宫要求各联邦机构设置首席人工智能官，公开披露 AI 使用情况

美国白宫要求各联邦机构设置首席人工智能官，公开披露AI使用情况美国联邦行政管理与预算局3月28日发布指令，要求各联邦机构监测、评估和测试人工智能对公众的影响，减轻算法歧视的风险，并为公众提供政府如何使用AI的透明度。各机构还必须建立AI治理委员会，设立首席人工智能官一职，实行风险评估并设定运营和治理指标。白宫表示，“各机构在以可能影响美国人权利或安全的方式使用AI时，将被要求在12月1日前实施具体的保障措施”，包括详细的公开披露，以便公众知道政府如何以及何时使用AI。（界面新闻）

美国白宫发布人工智能行政命令 指示各机构制定安全指南

美国白宫发布人工智能行政命令指示各机构制定安全指南一些政府机构的任务是制定标准，防止利用人工智能设计生物材料，建立内容认证的最佳实践，并建立先进的网络安全计划。国家标准与安全研究所（NIST）将负责制定标准，以便在公开发布之前对人工智能模型进行"红队"测试，而能源部和国土安全部则负责应对人工智能对基础设施的潜在威胁，以及化学、生物、辐射、核和网络安全风险。OpenAI的GPT和Meta的Llama2等大型人工智能模型的开发者必须分享安全测试结果。拜登政府的一位高级官员在一次简报会上告诉记者，安全准则主要适用于未来的人工智能模型。这位官员说："我们不会召回公开的现有模型。现有模型仍需遵守已有的反歧视规则"。为了保护用户隐私，白宫呼吁国会通过数据隐私法规。该命令还寻求联邦政府支持开发"隐私保护"技术和科技。该命令的部分内容计划防止利用人工智能进行歧视，包括解决算法歧视问题，并确保在利用该技术进行判刑、假释和监控时的公平性。它还命令政府机构为房东、联邦福利计划和合同提供指导方针，说明如何防止人工智能加剧歧视。白宫还指示各机构解决失业问题，并就人工智能对劳动力市场的影响编写一份报告。白宫还希望鼓励更多工人在人工智能生态系统中工作，并下令启动国家人工智能研究资源，为学生和人工智能研究人员提供关键信息，并为小企业提供技术援助。它还指示政府迅速聘用人工智能专业人员。拜登政府首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。后来，这些原则被转化为白宫与Meta、Google、OpenAI、NVIDIA和Adobe等多家人工智能公司之间的一系列协议。需要注意的是，行政命令并不是永久性法律，一般只能在拜登执政期间有效。立法者仍在讨论如何监管人工智能，不过一些政治家表示，他们希望在今年年底前通过有关人工智能的法律。行业观察家说，行政命令至少在提供有关生成式人工智能的标准方面向前迈出了一步。CredoAI创始人、国家人工智能咨询委员会成员纳夫里娜-辛格（NavrinaSingh）说，行政命令是一个强烈的信号，表明美国对生成式人工智能是重视的。辛格说："这是目前最正确的举措，因为在立法还在讨论的时候，我们不能指望政策一开始就完美无缺。我相信，这确实表明人工智能是政府的重中之重。"...PC版：https://www.cnbeta.com.tw/articles/soft/1393197.htm手机版：https://m.cnbeta.com.tw/view/1393197.htm