【美国白宫：英伟达等八家公司自愿承诺管理AI风险 包括展开安全测试、添加数字水印等】

【美国白宫：英伟达等八家公司自愿承诺管理AI风险包括展开安全测试、添加数字水印等】2023年09月12日07点32分老不正经报道，美国白宫9月12日发布声明称，当日，美国商务部长雷蒙多等政府高官将在白宫召集AI行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、ScaleAI和Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

白宫催促下 美AI头部企业周五将承诺“无害发展”

白宫催促下美AI头部企业周五将承诺“无害发展”这将是科技公司的一次主动承诺，而并非拜登政府的强制性要求，这也表明拜登政府在确保AI不被滥用方面，所能做的事情很有限。美国国会正准备针对AI制定新法律，议员们最近多次开会学习AI技术的知识，但是在未来如何约束AI企业方面，国会议员可能很难达成共识。除了AI企业之外，白宫周五也将公布对AI技术发展的一些承诺和计划。据报道，今年5月，美国AI头部企业参加了副总统哈里斯召集的一次会议。哈里斯和其他白宫官员对这些企业表示，他们有责任确保AI技术的安全发展。白宫办公厅主任JeffZients表示，美国AI建立监管流程可能会慢一些，但是各界不能再等待一年或两年的时间。根据一份白宫文件的内容草案，这些AI公司作出的保证，有效期一直延续到美国国会正式颁布AI新法律。AI厂商的保证主要聚焦于最新的生成式AI（比如ChatGPT），以及AI大语言模型。消息人士表示，在周五正式发布之前，白宫和科技公司的承诺文件内容可能还会修改。白宫发言人对此事并未置评。目前美国科技巨头们对于AI技术展开激烈争夺，但是他们也警告AI可能带来不可预知风险。之前，拜登政府出台了一些指导文件，涉及到AI技术的开发，比如美国国家标准技术研究院曾经和科技行业头部企业进行了几个月的沟通，制定了一个AI技术的“风险管理框架”。在周五发布的这份承诺文件中，白宫将建议包括AI安全、社会责任等方面的承诺，一些内容如下：——企业允许独立的专家，让AI模型故意实施恶意行为，即所谓的“红队测试”；——企业向政府和其他公司分享AI的安全信息；——在音频和视频内容中使用水印技术，以便识别是否是AI所创作；——AI企业在网络安全领域进行投资；——鼓励第三方企业发现系统安全漏洞；——对外报告AI社会风险，比如信息偏差和不恰当应用；——把AI的社会风险研究放在更重要位置；——利用最先进的“边缘计算AI系统”，来解决社会面临的急迫问题。对于这些承诺，OpenAI、微软和谷歌并未发表评论。在AI技术方面，全世界许多国家的政府呼吁能够建立全球统一的监管框架。早前在日本的峰会上，西方七国集团表示要协调成员国AI技术监管，另外在年底前，英国将会举办一次AI的国际峰会。但是需要指出，目前AI技术发展十分迅速，厂商你追我赶，全球的AI监管体系建设已经远远落后技术发展。在这样的背景下，各国政府希望AI头部企业能够首先“自己管住自己”。在立法进程上，欧盟的“AI法”领先于美国国会立法，但是在正式发布颁布之前，欧盟国家也意识到需要让AI企业作出自愿性的承诺保证。在过去三个月，欧盟负责内部市场的委员ThierryBreton拜会了多家科技公司，他呼吁AI开发企业达成一个“AI公约”，囊括一些非约束性的规范发展指引。相关文章:白宫宣布成立美国国家AI倡议办公室...PC版：https://www.cnbeta.com.tw/articles/soft/1372169.htm手机版：https://m.cnbeta.com.tw/view/1372169.htm

AI 公司承诺将为 AI 生成内容打上水印

拜登政府周五表示，美国主要AI公司如OpenAI、Alphabet、MetaPlatform、亚马逊、Anthropic、Inflection和微软已经向白宫承诺将自愿为AI生成内容实现水印等措施，以帮助提高AI技术的安全性。主要AI公司还承诺在发布新AI系统前进行彻底地测试，并分享诸如如何降低风险等信息。随着OpenAI的聊天机器人ChatGPT风靡世界，世界各国的立法者开始考虑如何缓解这项新兴技术对国家安全和经济的危险。()投稿：@ZaiHuaBot频道：@TestFlightCN

拜登誓言防范AI风险：巨头们自愿承诺还不够 政府将采取更多行动

拜登誓言防范AI风险：巨头们自愿承诺还不够政府将采取更多行动他还详细介绍了新的公司保障措施。此前不久，美国白宫发布公告称，已与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等，来控制误导信息的传播和其他风险。白宫表示，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家主要人工智能公司做出自愿承诺，帮助实现AI技术安全、可靠和透明的发展。公告中称，这些公司做出的自愿承诺强调了AI未来的三个基本原则：安全、保障和信任，这标志着朝着开发负责任的人工智能迈出了关键一步。拜登说，“这些承诺是真实而具体的。他们将帮助该行业履行对美国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会，维护我们的价值观。”拜登指出，公司的措施只是第一步，并承诺采取行政行动，同时与国会合作制定有关人工智能的规章制度。他说，“我们必须对这些威胁保持清醒和警惕。”拜登的助手说，人工智能一直是总统的首要任务，他经常在与顾问的会议上提出这个话题。他还指示内阁部长研究这项技术可能如何与他们的机构交叉。“这是一个不断变化的目标，”白宫幕僚长JeffZients在接受采访时说，“我们不仅要执行和实施这些承诺，而且随着技术的变化，我们还必须弄清楚下一轮的承诺。”Zients和其他政府官员表示，如果没有国会的立法，将很难跟上新兴技术的步伐，这些立法规定了更严格的规定，并包括为监管机构提供专门资金。拜登则强调，“他们将需要一些新的法律、法规和监督。”...PC版：https://www.cnbeta.com.tw/articles/soft/1372415.htm手机版：https://m.cnbeta.com.tw/view/1372415.htm

AI巨头“自控”条例承诺确保产品安全 拜登放话必须警惕AI威胁

AI巨头“自控”条例承诺确保产品安全拜登放话必须警惕AI威胁在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面，他们承诺要尽量降低AI技术带来的风险。美东时间7月21日周五，白宫公布，拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。白宫称，政府目前在指定一项总统行政令，寻求两党达成立法议案，帮助引导国内开展负责任的创新活动。上述七家公司公布的具体承诺内容如下：在对公众发布产品前，先确保产品安全。企业承诺，在发布AI系统前，先进行内部和外部的安全测试；全行业共享有关管理AI风险的信息，也对政府、民间的社会和学术界分享这些信息。打造AI系统时，将安全放在第一位。企业承诺，投资针对网络安全和内部人士威胁的防护措施，保护专有的和未发布的模型权重；推动第三方发现及报告企业AI系统的漏洞。赢得公众的信任。企业承诺，推出强大的技术机制，确保用户知道内容何时由AI生成，例如水印系统；公开报告企业AI系统的功能、局限性、适当和不当使用的领域，包括将覆盖安全风险和社会风险，例如在公平和偏见方面的影响。企业承诺，优先研究AI系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私；开发及部署先进的AI系统，帮助解决最严重的社会问题。上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。发布承诺后，拜登周五表示，这些承诺是切实的，将帮助AI行业履行对国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会。拜登说，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。白宫的幕僚长JeffZients同日称，这是一个不断变化的目标。不但必须执行和落实这些企业的承诺，还必须随着技术的变革，厘清下一轮的承诺。...PC版：https://www.cnbeta.com.tw/articles/soft/1372363.htm手机版：https://m.cnbeta.com.tw/view/1372363.htm