美国国土安全部任命人工智能安全顾问委员会

美国国土安全部任命人工智能安全顾问委员会 美国国土安全部 (DHS) 周五宣布成立一个顾问委员会，他们将就人工智能在16种关键基础设施中的作用向政府提供建议，包括能源、公用事业、交通、国防、信息技术、食品和农业以及金融服务等重要服务。该委员会将为交通运输部门、管道和电网运营商、互联网服务提供商和其他部门制定建议，以“预防和准备应对与人工智能相关的对影响国家或经济安全、公共健康或安全的关键服务的中断”。 该委员会由22名成员组成，其中的科技领袖包括 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei、英伟达首席执行官黄仁勋、IBM 首席执行官 Arvind Krishna、Adobe 首席执行官 Shantanu Narayen、微软首席执行官 Satya Nadella、Alphabet 首席执行官 Sundar Pichai 、思科首席执行官 Chuck Robbins、AWS 首席执行官 Adam Selipsky 、 ​​AMD 首席执行官苏姿丰以及斯坦福大学教授李飞飞。 但意外的是活跃在人工智能领域的 Meta 公司首席执行官马克·扎克伯格和一向公开倡导人工智能安全性的埃隆·马斯克都没有出现在委员会成员名单中。

每个美国联邦机构现在都必须聘请一名首席人工智能官

每个美国联邦机构现在都必须聘请一名首席人工智能官 各机构还必须向管理和预算办公室（OMB）提交一份年度报告，列出其使用的所有人工智能系统、与之相关的任何风险，以及计划如何降低这些风险。"我们已经指示所有联邦机构指定一名首席人工智能官，他要有经验、专业知识和权力来监督该机构使用的所有人工智能技术，这是为了确保人工智能得到负责任的使用，我们明白，我们必须在政府中设立高级领导人，专门负责监督人工智能的采用和使用，"哈里斯告诉记者。首席人工智能官不一定是政治任命的，但这取决于联邦机构的结构。 管理委员会必须在夏季成立。拜登政府的人工智能行政令要求联邦办公室制定安全标准，并增加在政府工作的人工智能人才数量。一些机构甚至在今天的公告发布之前就开始招聘首席人工智能官。司法部今年 2 月宣布乔纳森-梅耶（Jonathan Mayer）为其首位首席人工智能官。他将领导一个网络安全专家团队，研究如何在执法中使用人工智能。据 OMB 主席 Shalanda Young 称，美国政府计划在今年夏天之前招聘 100 名人工智能专业人员。各机构的人工智能官员和管理委员会的部分职责是经常监控其人工智能系统。杨说，各机构必须提交一份机构使用的人工智能产品清单。如果任何人工智能系统被认为足够"敏感"而被排除在清单之外，该机构必须公开提供排除的理由。各机构还必须独立评估其使用的每个人工智能平台的安全风险。联邦机构还必须核实他们部署的任何人工智能是否符合"降低算法歧视风险并向公众提供政府如何使用人工智能的透明度"的保障措施。OMB 的概况介绍举了几个例子，包括：在机场时，旅客可以选择不使用 TSA 面部识别系统，而不会耽误时间或失去排队的位置。在联邦医疗保健系统中使用人工智能来支持重要的诊断决策时，会有专人监督这一过程，以核实工具的结果，避免医疗保健服务的不平等。当人工智能被用于检测政府服务中的欺诈行为时，人类会对有影响的决策进行监督，受影响的个人也有机会就人工智能造成的伤害寻求补救。"如果一个机构不能采用这些保障措施，该机构就必须停止使用人工智能系统，除非该机构的领导层能说明为什么这样做会增加整体安全或权利的风险，或者会对机构的关键业务造成不可接受的障碍，"概况介绍中写道。根据新指南，任何政府拥有的人工智能模型、代码和数据都应向公众发布，除非它们对政府运作构成风险。美国仍然没有规范人工智能的法律。人工智能行政令为行政部门下属的政府机构提供了如何处理这项技术的指导方针。虽然已经提交了几项法案对人工智能的某些方面进行监管，但在人工智能技术立法方面还没有太大的进展。 ... PC版： 手机版：

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况 美国副总统哈里斯在与记者的一次简报会上宣布了新的行政机构人工智能指南，并表示各机构还必须成立人工智能治理委员会，以协调机构内部如何使用人工智能。所有美国联邦机构都必须有一名高管(CAIO)来监督他们使用的所有人工智能系统，因为政府希望确保人工智能在公共服务领域的使用是安全的。各机构还必须向管理和预算办公室(OMB)提交一份年度报告，列出其使用的所有人工智能系统、与之相关的任何风险，以及计划如何降低这些风险。根据新指南，任何政府拥有的人工智能模型、代码和数据都应向公众发布，除非它们对政府运作构成风险。

人工智能公司 OpenAI 宣布任命新董事会成员

人工智能公司 OpenAI 宣布任命新董事会成员 当地时间3月8日，人工智能公司 OpenAI 宣布任命三名新董事会成员，作为实现扩张承诺的第一步：苏珊∙德斯蒙德-赫尔曼 (比尔及梅琳达∙盖茨基金会前首席执行官)、妮科尔·塞利格曼 (索尼公司前执行副总裁兼总法律顾问) 以及 Instacart 首席执行官兼董事长 Fidji Simo。此外，首席执行官萨姆·奥尔特曼将重新加入 OpenAI 董事会。

联合国成立咨询机构解决人工智能治理问题

联合国成立咨询机构解决人工智能治理问题 路透斯德哥尔摩10月26日 - 联合国秘书长安东尼奥·古特雷斯周四宣布成立一个由39名成员组成的咨询机构，以解决人工智能国际治理中的问题。 成员包括科技公司高管、西班牙、沙特阿拉伯的政府官员以及来自美国、俄罗斯和日本等国的学者。代表科技公司的高管包括索尼首席技术官 Hiroaki Kitano、OpenAI 首席技术官 Mira Murati 和微软首席人工智能官 Natasha Crampton。代表们还来自六大洲，背景各异，从美国人工智能专家维拉斯·达尔(Vilas Dhar)到中国的曾毅教授和埃及律师穆罕默德·法拉哈特(Mohamed Farahat)。 古特雷斯在一份声明中表示：“人工智能的变革潜力甚至难以把握。”他说：“如果不对人工智能进行大量的末日预测，恶意使用人工智能显然会破坏人们对机构的信任，削弱社会凝聚力，并威胁到民主本身。” 该联合国机构将于今年年底发布初步建议，并于 2024 年夏季发布最终建议。联合国表示，当前的任务包括就风险和挑战建立全球科学共识，加强人工智能治理国际合作。该机构的第一次会议将于 10 月 27 日举行。

美国司法部任命普林斯顿大学教授、技术法律研究员乔纳森·梅耶为首位首席AI负责人，以研究人工智能如何影响执法。

美国司法部任命普林斯顿大学教授、技术法律研究员乔纳森·梅耶为首位首席AI负责人，以研究人工智能如何影响执法。 司法部长梅里克·加兰在一份声明中表示，任命一名AI官员对于司法部“跟上快速发展的科技发展”非常重要。 标签: #AI #司法部 频道: @GodlyNews1 投稿: @GodlyNewsBot