NVIDIA、Adobe、IBM 等公司向白宫承诺采取措施降低人工智能风险

NVIDIA、Adobe、IBM等公司向白宫承诺采取措施降低人工智能风险Adobe、IBM、NVIDIA、Palantir、Stability、Salesforce、Scale和Cohere加入了拜登总统提出的原则的现有签署方行列。这些承诺要求签署公司采取一些措施，比如给人工智能生成的媒体打上水印或贴上标签，让人们知道这些媒体不是人类创造的。人工智能公司还承诺在与人工智能合作时促进公平、非歧视、透明、隐私和安全。白宫幕僚长杰夫-齐恩斯（JeffZients）赞扬了更多公司加入这一努力，并表示拜登已将利用人工智能的好处同时管理其风险作为首要任务。今天，这八家领先的人工智能公司承诺：这些公司承诺在人工智能系统发布之前对其进行内部和外部安全测试。这些公司承诺在整个行业内，并与政府、民间社会和学术界共享有关管理人工智能风险的信息。这些公司承诺投资网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些公司承诺为第三方发现和报告其人工智能系统中的漏洞提供便利。两家公司承诺开发强大的技术机制，确保用户知道内容是人工智能生成的，例如水印系统。这些公司承诺公开报告其人工智能系统的能力、局限性以及适当和不适当使用的领域。这些公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。这些公司承诺开发和部署先进的人工智能系统，以帮助解决社会面临的最大挑战。然而，许多人担心人工智能服务的兴起。这些承诺的自愿性质被视为一种临时解决方案。8月底，微软公司董事长兼执行副总裁布拉德-史密斯（BradSmith）对此表示支持，他呼吁制定一项"监管计划"，以确保人工智能始终处于人类控制之下。此外，该公司还发布了它认为应该如何管理人工智能的蓝图。...PC版：https://www.cnbeta.com.tw/articles/soft/1383433.htm手机版：https://m.cnbeta.com.tw/view/1383433.htm

拜登晤AI公司高层　企业承诺管理人工智能带来的风险

拜登晤AI公司高层企业承诺管理人工智能带来的风险美国总统拜登与7间发展人工智能企业的高层会面，白宫表示，这些企业承诺管理人工智能技术带来的风险。获邀到白宫的企业，包括亚马逊、Google、Meta、微软、OpenAI等。拜登表示，人工智能对社会、经济和国家安全带来巨大风险，但亦带来难以置信的机遇，随著人工智能越来越融入个人和商业活动，这些企业承诺带领负责任的创新。7间企业承诺采取一系列自我监管措施，包括由专家对人工智能系统进行安全测试、定期公开报告人工智能的能力和局限、研究歧视和侵犯私隐等风险。白宫表示，这些措施强调人工智能未来的三个基本原则，分别是安全、保障和信任，意味向开发负责任的人工智能迈出关键一步。2023-07-2207:42:37

拜登首席科学顾问：多次与总统讨论AI问题 将尽快出台防范风险措施

拜登首席科学顾问：多次与总统讨论AI问题将尽快出台防范风险措施普拉巴卡尔正在帮助美国政府制定国家人工智能发展战略，以防范错误信息和该技术的其他潜在缺点，部分依赖于亚马逊、谷歌、微软和Meta等美国大型科技公司的合作。在上个月，亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等七家主要人工智能公司将做出自愿承诺，承诺内容包括在公开发布之前测试它们人工智能系统的安全性和能力，投资研究该技术对社会的风险，以及促进针对它们的系统漏洞的外部审查。拜登政府表示，为了遏制快速发展的人工智能技术带来的误导和其他风险，已与大型科技公司达成一项为这种技术设置更多防护措施的协议，包括开发水印系统，帮助用户识别人工智能生成的内容。对此，普拉巴卡尔指出，世界上最先进的人工智能公司大多在美国，这是美国国家发展的一个巨大的优势。但我们也必须清楚，必须要制定相应的规则，七家主要人工智能公司的自愿承诺只是在履行自己的责任。普拉巴卡尔补充道，政府部门也必须加强行动，无论是行政部门还是立法部门，如此才能使相关技术和公司行稳致远，也希望更多的公司和国家加入进来。她表示：“已经与拜登多次谈论过人工智能的话题，他非常专注于理解人工智能是什么，以及人们是如何使用它的。”普拉巴卡尔指出，拜登非常关注人工智能技术带来的社会影响和可能的结果，这些谈话很有探索性和前瞻性，但他也非常关注具体的行动。对于人工智能可能的风险，普拉巴卡尔表示，这些深度学习系统有一个技术特点，那就是它们是不透明的，它们本质上是黑盒子。而作为人类，我们面临的大多数风险都来自无法解释的事情。普拉巴卡尔提到，要特别关注人工智能系统的武器化、隐私问题、歧视性决策，以及人工智能生成的内容扰乱选举等风险。而防范风险方面，她认为不会有完美的措施，但在对这些系统的安全性和有效性有足够的了解之后，可以真正使用它们，并获得新兴技术所能提供的价值。普拉巴卡尔还表示，虽然还不能给出一个具体的时间表，但总统已经明确表示，这是一个非常急迫的问题，将会尽快出台防范风险的措施。...PC版：https://www.cnbeta.com.tw/articles/soft/1378529.htm手机版：https://m.cnbeta.com.tw/view/1378529.htm

科技巨头签署自愿承诺，打击滥用人工智能干扰选举

科技巨头签署自愿承诺，打击滥用人工智能干扰选举当地时间2月16日，在第60届慕尼黑安全会议上，微软、Meta、谷歌、亚马逊、Adobe和IBM在内的供应商签署了一项协议，表明他们打算采用一个通用框架来应对人工智能生成的旨在误导选民的深度伪造内容。其他13家公司，包括人工智能公司OpenAI、Anthropic和StabilityAI，以及社交媒体平台X、TikTok和Snap，以及芯片设计公司ARM等也加入了该协议的签署行列。签署者表示，当误导性政治深度伪造内容在他们的平台上创建和传播时，他们将使用各种方法来检测和标记这些深度伪造内容，相互分享最佳实践，并在这些内容开始传播时提供“迅速和相应的回应”。——

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

AI巨头“自控”条例承诺确保产品安全 拜登放话必须警惕AI威胁

AI巨头“自控”条例承诺确保产品安全拜登放话必须警惕AI威胁在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面，他们承诺要尽量降低AI技术带来的风险。美东时间7月21日周五，白宫公布，拜登政府得到了亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。白宫称，政府目前在指定一项总统行政令，寻求两党达成立法议案，帮助引导国内开展负责任的创新活动。上述七家公司公布的具体承诺内容如下：在对公众发布产品前，先确保产品安全。企业承诺，在发布AI系统前，先进行内部和外部的安全测试；全行业共享有关管理AI风险的信息，也对政府、民间的社会和学术界分享这些信息。打造AI系统时，将安全放在第一位。企业承诺，投资针对网络安全和内部人士威胁的防护措施，保护专有的和未发布的模型权重；推动第三方发现及报告企业AI系统的漏洞。赢得公众的信任。企业承诺，推出强大的技术机制，确保用户知道内容何时由AI生成，例如水印系统；公开报告企业AI系统的功能、局限性、适当和不当使用的领域，包括将覆盖安全风险和社会风险，例如在公平和偏见方面的影响。企业承诺，优先研究AI系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私；开发及部署先进的AI系统，帮助解决最严重的社会问题。上述承诺内容和华尔街见闻周四提到的媒体披露草案内容大体一致。发布承诺后，拜登周五表示，这些承诺是切实的，将帮助AI行业履行对国人的基本义务，开发安全、可靠和值得信赖的技术，造福社会。拜登说，这些企业的承诺将立即实行，体现了安全、保障和信任这三个基本原则，但他们的承诺只是第一步，“我们必须对（AI的）威胁保持清醒和警惕。”拜登承诺，要采取行政行动，同时与国会合作，出台针对AI的法规。他说，新兴的技术需要一些新的法律、监管法规和监督。白宫的幕僚长JeffZients同日称，这是一个不断变化的目标。不但必须执行和落实这些企业的承诺，还必须随着技术的变革，厘清下一轮的承诺。...PC版：https://www.cnbeta.com.tw/articles/soft/1372363.htm手机版：https://m.cnbeta.com.tw/view/1372363.htm