拜登晤AI公司高层　企业承诺管理人工智能带来的风险

拜登晤AI公司高层企业承诺管理人工智能带来的风险美国总统拜登与7间发展人工智能企业的高层会面，白宫表示，这些企业承诺管理人工智能技术带来的风险。获邀到白宫的企业，包括亚马逊、Google、Meta、微软、OpenAI等。拜登表示，人工智能对社会、经济和国家安全带来巨大风险，但亦带来难以置信的机遇，随著人工智能越来越融入个人和商业活动，这些企业承诺带领负责任的创新。7间企业承诺采取一系列自我监管措施，包括由专家对人工智能系统进行安全测试、定期公开报告人工智能的能力和局限、研究歧视和侵犯私隐等风险。白宫表示，这些措施强调人工智能未来的三个基本原则，分别是安全、保障和信任，意味向开发负责任的人工智能迈出关键一步。2023-07-2207:42:37

拜登誓言防范AI风险：巨头们自愿承诺还不够 政府将采取更多行动

拜登誓言防范AI风险：巨头们自愿承诺还不够政府将采取更多行动他还详细介绍了新的公司保障措施。此前不久，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现AI技术安全、可靠和透明的发展。公告中称，这些公司做出的自愿承诺强调了AI未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。拜登说，“这些承诺是真实而具体的。他们将帮助该行业履行对美国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会，维护我们的价值观。”拜登指出，公司的措施只是第一步，并承诺采取行政行动，同时与国会合作制定有关人工智能的规章制度。他说，“我们必须对这些威胁保持清醒和警惕。”拜登的助手说，人工智能一直是总统的首要任务，他经常在与顾问的会议上提出这个话题。他还指示内阁部长研究这项技术可能如何与他们的机构交叉。“这是一个不断变化的目标，”白宫幕僚长JeffZients在接受采访时说，“我们不仅要执行和实施这些承诺，而且随着技术的变化，我们还必须弄清楚下一轮的承诺。”Zients和其他政府官员表示，如果没有国会的立法，将很难跟上新兴技术的步伐，这些立法规定了更严格的规定，并包括为监管机构提供专门资金。拜登则强调，“他们将需要一些新的法律、法规和监督。”...PC版：https://www.cnbeta.com.tw/articles/soft/1372415.htm手机版：https://m.cnbeta.com.tw/view/1372415.htm

AI 公司承诺将为 AI 生成内容打上水印

拜登政府周五表示，美国主要AI公司如OpenAI、Alphabet、MetaPlatform、亚马逊、Anthropic、Inflection和微软已经向白宫承诺将自愿为AI生成内容实现水印等措施，以帮助提高AI技术的安全性。主要AI公司还承诺在发布新AI系统前进行彻底地测试，并分享诸如如何降低风险等信息。随着OpenAI的聊天机器人ChatGPT风靡世界，世界各国的立法者开始考虑如何缓解这项新兴技术对国家安全和经济的危险。()投稿：@ZaiHuaBot频道：@TestFlightCN

白宫催促下 美AI头部企业周五将承诺“无害发展”

白宫催促下美AI头部企业周五将承诺“无害发展”这将是科技公司的一次主动承诺，而并非拜登政府的强制性要求，这也表明拜登政府在确保AI不被滥用方面，所能做的事情很有限。美国国会正准备针对AI制定新法律，议员们最近多次开会学习AI技术的知识，但是在未来如何约束AI企业方面，国会议员可能很难达成共识。除了AI企业之外，白宫周五也将公布对AI技术发展的一些承诺和计划。据报道，今年5月，美国AI头部企业参加了副总统哈里斯召集的一次会议。哈里斯和其他白宫官员对这些企业表示，他们有责任确保AI技术的安全发展。白宫办公厅主任JeffZients表示，美国AI建立监管流程可能会慢一些，但是各界不能再等待一年或两年的时间。根据一份白宫文件的内容草案，这些AI公司作出的保证，有效期一直延续到美国国会正式颁布AI新法律。AI厂商的保证主要聚焦于最新的生成式AI（比如ChatGPT），以及AI大语言模型。消息人士表示，在周五正式发布之前，白宫和科技公司的承诺文件内容可能还会修改。白宫发言人对此事并未置评。目前美国科技巨头们对于AI技术展开激烈争夺，但是他们也警告AI可能带来不可预知风险。之前，拜登政府出台了一些指导文件，涉及到AI技术的开发，比如美国国家标准技术研究院曾经和科技行业头部企业进行了几个月的沟通，制定了一个AI技术的“风险管理框架”。在周五发布的这份承诺文件中，白宫将建议包括AI安全、社会责任等方面的承诺，一些内容如下：——企业允许独立的专家，让AI模型故意实施恶意行为，即所谓的“红队测试”；——企业向政府和其他公司分享AI的安全信息；——在音频和视频内容中使用水印技术，以便识别是否是AI所创作；——AI企业在网络安全领域进行投资；——鼓励第三方企业发现系统安全漏洞；——对外报告AI社会风险，比如信息偏差和不恰当应用；——把AI的社会风险研究放在更重要位置；——利用最先进的“边缘计算AI系统”，来解决社会面临的急迫问题。对于这些承诺，OpenAI、微软和谷歌并未发表评论。在AI技术方面，全世界许多国家的政府呼吁能够建立全球统一的监管框架。早前在日本的峰会上，西方七国集团表示要协调成员国AI技术监管，另外在年底前，英国将会举办一次AI的国际峰会。但是需要指出，目前AI技术发展十分迅速，厂商你追我赶，全球的AI监管体系建设已经远远落后技术发展。在这样的背景下，各国政府希望AI头部企业能够首先“自己管住自己”。在立法进程上，欧盟的“AI法”领先于美国国会立法，但是在正式发布颁布之前，欧盟国家也意识到需要让AI企业作出自愿性的承诺保证。在过去三个月，欧盟负责内部市场的委员ThierryBreton拜会了多家科技公司，他呼吁AI开发企业达成一个“AI公约”，囊括一些非约束性的规范发展指引。相关文章:白宫宣布成立美国国家AI倡议办公室...PC版：https://www.cnbeta.com.tw/articles/soft/1372169.htm手机版：https://m.cnbeta.com.tw/view/1372169.htm

拜登：AI对国家安全和经济的风险必须得到解决

拜登：AI对国家安全和经济的风险必须得到解决美国总统拜登说，人工智能（AI）对国家安全和经济构成的风险必须得到解决，他将在这方面寻求专家的建议。路透社报道，拜登星期二（6月20日）在加利福尼亚州旧金山的一场活动中说：“我的政府致力于在保护隐私的同时，维护美国人的权利和安全，解决偏见和错误信息，确保AI系统安全才推出市场。”拜登会见了一组公民社会领袖和倡导者，与他们讨论AI技术。这些人曾批评过大型科技公司的影响力。拜登说：“我想直接听取专家的意见。”一些国家的政府正在考虑如何降低AI新兴技术带来的风险，在美国人工智能研发公司OpenAI发布ChatGPT后，近几个月来，AI技术成为了投资者和消费者的宠儿。拜登星期二会见的人包括人道技术中心（CenterforHumaneTechnology）执行主任哈里斯（TristanHarris）、算法正义联盟（AlgorithmicJusticeLeague）创始人布兰维尼（JoyBuolamwini）和斯坦福大学教授赖希（RobReich）。全球监管机构一直在努力制定管理生成式AI使用的规则，这项技术可以创建文本和图像，影响力已能与互联网分庭抗礼。拜登最近还与其他世界领导人讨论了AI问题，包括英国首相苏纳克。英国政府将于今年晚些时候举行首个AI安全全球峰会。预计拜登将与到美国访问的印度总理莫迪讨论这一议题。欧盟议员上周同意修改欧盟委员会提出的AI规则草案，旨在为从自动化工厂、自动驾驶汽车、聊天机器人等各种AI技术制定一套全球标准。

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——