白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

AI巨头“自控”条例承诺确保产品安全 拜登放话必须警惕AI威胁

AI巨头“自控”条例承诺确保产品安全拜登放话必须警惕AI威胁在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面，他们承诺要尽量降低AI技术带来的风险。美东时间7月21日周五，白宫公布，拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。白宫称，政府目前在指定一项总统行政令，寻求两党达成立法议案，帮助引导国内开展负责任的创新活动。上述七家公司公布的具体承诺内容如下：在对公众发布产品前，先确保产品安全。企业承诺，在发布AI系统前，先进行内部和外部的安全测试；全行业共享有关管理AI风险的信息，也对政府、民间的社会和学术界分享这些信息。打造AI系统时，将安全放在第一位。企业承诺，投资针对网络安全和内部人士威胁的防护措施，保护专有的和未发布的模型权重；推动第三方发现及报告企业AI系统的漏洞。赢得公众的信任。企业承诺，推出强大的技术机制，确保用户知道内容何时由AI生成，例如水印系统；公开报告企业AI系统的功能、局限性、适当和不当使用的领域，包括将覆盖安全风险和社会风险，例如在公平和偏见方面的影响。企业承诺，优先研究AI系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私；开发及部署先进的AI系统，帮助解决最严重的社会问题。上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。发布承诺后，拜登周五表示，这些承诺是切实的，将帮助AI行业履行对国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会。拜登说，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。白宫的幕僚长JeffZients同日称，这是一个不断变化的目标。不但必须执行和落实这些企业的承诺，还必须随着技术的变革，厘清下一轮的承诺。...PC版：https://www.cnbeta.com.tw/articles/soft/1372363.htm手机版：https://m.cnbeta.com.tw/view/1372363.htm

七家头部AI企业共同承诺：将添加数字水印 并开放第三方审查

七家头部AI企业共同承诺：将添加数字水印并开放第三方审查这七家公司分别是谷歌、OpenAI、微软、Meta、亚马逊、AI创业公司Inflection、Anthropic。这些公司的代表将在周五齐聚白宫，举行签字仪式，他们是谷歌全球事务主管肯特·沃克(KentWalker)、OpenAI总裁格雷格·布洛克曼(GregBrockman)、微软总裁布拉德·史密斯(BradSmith)、Meta全球事务主管尼克·克雷格(NickClegg)、亚马逊云计算服务AWSCEO亚当·塞利普斯基(AdamSelipsky)、InflectionCEO穆斯塔法·弗莱曼(MustafaSuleyman)、AnthropicCEO达里奥·阿莫德(DarioAmodei)。这些公司承诺，在向公众发布AI系统前允许独立安全专家测试他们的系统，并与政府和学术界分享有关他们系统安全的数据。他们还将开发系统，当图像、视频或文本是由AI生成时向公众发出警告，采用的方法是“加水印”。以下是自愿承诺的要点：·为消费者开发一种识别AI生成内容的方法，例如加水印。·在向公众发布AI工具之前，聘请独立专家评估这些工具的安全性。·与其他行业参与者、政府和外部专家分享有关最佳实践的信息，以及试图绕过保障措施的行为。·允许第三方查找并报告其系统漏洞。·报告其技术的局限性，并对AI工具的适当使用进行指导。·优先研究AI的社会风险，包括歧视和隐私。·带着帮助降低气候变化和疾病等社会挑战的目标开发AI。由于这些公司是自愿签订上述承诺的，因此即便他们未能履行承诺，他们目前也不会承担任何后果。一些承诺预计也不会在周五立即得到执行。此前，签署该承诺的一些公司已经采取了类似行动。例如，OpenAI在大范围推出GPT-4模型前已经组建了一支“红队”，聘请了50名学者和专家来测试GPT-4，通过对抗测试找出AI的不足，然后进行改进。谷歌也已经在一篇博客文章中表示，公司正在开发一种水印技术，以此标识AI生成内容。企业和政策制定者目前正在大力宣传水印技术，把它视为解决AI加剧错误信息担忧的一种方式。一位不愿透露姓名的白宫高级官员表示，自愿承诺将提高整个AI行业的标准。“这将挑战企业开发AI的极限，提高AI的安全和信任标准。”该官员表示。与此同时，白宫官员对记者表示，拜登政府目前正在制定一项AI行政命令，支持国会推出监管AI技术的两党立法，以解决AI带来的一些风险。该官员没有透露该行政令的具体细节，也没有披露该行政令的发布时间，但他表示政府正在评估AI在政府机构中的作用，这是拜登的“高度优先事项”。过去几个月，拜登政府官员已经会见了科技公司高管、劳工和民权领袖讨论AI。今年5月，白宫宣布为AI开发公司提供更多资金和政策指导，其中包括向国家科学基金会提供1.4亿美元以启动七个新的国家AI研究所。谷歌、微软、英伟达、OpenAI和其他公司也同意在今年的DefCon极客安全会议上允许他们的语言模型接受公开评估。...PC版：https://www.cnbeta.com.tw/articles/soft/1372311.htm手机版：https://m.cnbeta.com.tw/view/1372311.htm

15 家美国公司现承诺负责任地开发人工智能

15家美国公司现承诺负责任地开发人工智能今天，Adobe、Nvidia、IBM、Palantir、Stability、Salesforce、Cohere和Scale与OpenAI、亚马逊、谷歌、Meta、微软、Anthropic和Inflection一起做出了承诺，开发技术来识别人工智能生成的图像，并与政府和学术界共享定期安全数据。来源：¹²投稿：@ZaiHuaBot频道：@TestFlightCN

拜登誓言防范AI风险：巨头们自愿承诺还不够 政府将采取更多行动

拜登誓言防范AI风险：巨头们自愿承诺还不够政府将采取更多行动他还详细介绍了新的公司保障措施。此前不久，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现AI技术安全、可靠和透明的发展。公告中称，这些公司做出的自愿承诺强调了AI未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。拜登说，“这些承诺是真实而具体的。他们将帮助该行业履行对美国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会，维护我们的价值观。”拜登指出，公司的措施只是第一步，并承诺采取行政行动，同时与国会合作制定有关人工智能的规章制度。他说，“我们必须对这些威胁保持清醒和警惕。”拜登的助手说，人工智能一直是总统的首要任务，他经常在与顾问的会议上提出这个话题。他还指示内阁部长研究这项技术可能如何与他们的机构交叉。“这是一个不断变化的目标，”白宫幕僚长JeffZients在接受采访时说，“我们不仅要执行和实施这些承诺，而且随着技术的变化，我们还必须弄清楚下一轮的承诺。”Zients和其他政府官员表示，如果没有国会的立法，将很难跟上新兴技术的步伐，这些立法规定了更严格的规定，并包括为监管机构提供专门资金。拜登则强调，“他们将需要一些新的法律、法规和监督。”...PC版：https://www.cnbeta.com.tw/articles/soft/1372415.htm手机版：https://m.cnbeta.com.tw/view/1372415.htm

领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺英国和韩国政府宣布，领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的OpenAI和马斯克的xAI以及中国开发商智谱AI，这些公司将发布框架，概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕，两国政府在峰会开幕前表示，这些公司承诺，如果无法缓解严重风险，他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前，以及在训练之前和期间。”——