NVIDIA、Adobe、IBM 等公司向白宫承诺采取措施降低人工智能风险

NVIDIA、Adobe、IBM等公司向白宫承诺采取措施降低人工智能风险Adobe、IBM、NVIDIA、Palantir、Stability、Salesforce、Scale和Cohere加入了拜登总统提出的原则的现有签署方行列。这些承诺要求签署公司采取一些措施，比如给人工智能生成的媒体打上水印或贴上标签，让人们知道这些媒体不是人类创造的。人工智能公司还承诺在与人工智能合作时促进公平、非歧视、透明、隐私和安全。白宫幕僚长杰夫-齐恩斯（JeffZients）赞扬了更多公司加入这一努力，并表示拜登已将利用人工智能的好处同时管理其风险作为首要任务。今天，这八家领先的人工智能公司承诺：这些公司承诺在人工智能系统发布之前对其进行内部和外部安全测试。这些公司承诺在整个行业内，并与政府、民间社会和学术界共享有关管理人工智能风险的信息。这些公司承诺投资网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些公司承诺为第三方发现和报告其人工智能系统中的漏洞提供便利。两家公司承诺开发强大的技术机制，确保用户知道内容是人工智能生成的，例如水印系统。这些公司承诺公开报告其人工智能系统的能力、局限性以及适当和不适当使用的领域。这些公司承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。这些公司承诺开发和部署先进的人工智能系统，以帮助解决社会面临的最大挑战。然而，许多人担心人工智能服务的兴起。这些承诺的自愿性质被视为一种临时解决方案。8月底，微软公司董事长兼执行副总裁布拉德-史密斯（BradSmith）对此表示支持，他呼吁制定一项"监管计划"，以确保人工智能始终处于人类控制之下。此外，该公司还发布了它认为应该如何管理人工智能的蓝图。...PC版：https://www.cnbeta.com.tw/articles/soft/1383433.htm手机版：https://m.cnbeta.com.tw/view/1383433.htm

论人工智能风险与机遇 拜登将呼吁立法保护儿童

论人工智能风险与机遇拜登将呼吁立法保护儿童美国总统拜登星期二（4月4日）在白宫与科技顾问会面时，将讨论人工智能对人、社会和国家安全带来的“风险和机遇”。路透社报道，一名白宫官员在拜登的会议之前发声明说，拜登将讨论保护权利和安全的重要性，以确保负责任的创新和适当的保障措施。”他（拜登）将呼吁国会通过两党的隐私立法，以保护儿童并限制科技公司对我们所有人的个人数据收集。”人工智能正成为美国政策制定者的热门话题。科技伦理团体“人工智能和数码政策中心”要求美国联邦贸易委员会阻止OpenAI发布新的GPT-4商业版本；GPT-4以类似人类的能力生成对请求的书面答复，令用户惊叹不已。去年，拜登政府发布了一份“权利法案”蓝图，以确保用户的权利在技术公司设计和开发人工智能系统时得到保护。另一方面，前任总统特朗普将于星期二下午2时15分左右（新加坡时间星期三凌晨2时15分）在纽约曼哈顿出庭应讯。特朗普被起诉，与他在2016年竞选总统期间，通过他当时的私人律师科恩，向色情片女星暴风女丹尼尔斯支付13万美元（约17万4000新元）的封口费有关。拜登拒绝对特朗普的法律困境发表评论。民主党策略人士说，在特朗普处理法律挑战之际，拜登则关注执政事宜，在政治上形成有利的对比。

外电称中美将在日内瓦举行会议讨论人工智能带来的风险

外电称中美将在日内瓦举行会议讨论人工智能带来的风险路透社引述美国官员表示，美国和中国星期二将于日内瓦举行会议，讨论人工智能(AI)问题，强调会谈将讨论人工智能带来的风险，但不会就华府政策进行磋商。官员明确指出，会谈不是促进任何形式的技术合作，也不是在任何问题上进行前沿研究合作。美国的技术保护政策没有商量余地。官员说，中国在民用、军事和国家安全领域快速部署人工智能，损害美国及其盟友的安全，会谈将使华盛顿能够直接表达担忧。报道指出，美国国务院已敦促中国和俄罗斯做出和美国类似的声明，即只有人类而绝非人工智能作出部署核武的决定。报道说，美国总统拜登政府一直寻求与中国就一系列问题进行接触，以减少彼此误解。国务卿布林肯和中国外长王毅4月在北京讨论人工智能议题，并同意就该问题进行首次正式双边会谈。2024-05-1317:42:34

【拜登敦促科技公司应对人工智能的风险】

【拜登敦促科技公司应对人工智能的风险】美国总统拜登周二表示，人工智能（AI）的安全性仍存在不确定性，并强调科技公司在向公众发布产品之前应确保其产品安全。在与总统科技顾问委员会(PCAST​​)的会议开始时，他表示，科技公司必须确保其产品在向公众发布之前是安全的。当被问及人工智能的潜在危害时，他回答说，“还没有确定，有可能。”根据总统的说法，社交媒体已经证明了强大的技术在没有适当的保护措施的情况下可能产生的负面影响。“缺乏保障措施，我们看到了对心理健康、自我形象和感觉以及绝望的影响，尤其是在年轻人中。”

【美联储沃勒：美联储正与银行讨论管理人工智能风险】

【美联储沃勒：美联储正与银行讨论管理人工智能风险】2023年04月21日12点42分老不正经报道，美联储理事沃勒4月20日表示，随着越来越多的金融机构将人工智能用于客户服务应用、欺诈监控和承保，美联储与其监管的银行就管理与人工智能相关的风险进行了“定期讨论”。沃勒警告称，虽然人工智能可以为银行流程带来新的效率，但它也涉及新的风险。沃勒还表示，所谓的智能合约—或区块链上的自动执行交易，其结果取决于预编程的输入—可以为交易结算的现代化带来“相当大的希望”。不过，他指出，智能合约也会带来风险，例如网络漏洞。

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示，OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示，OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试，并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺，随着人工智能的发展，将重点保护用户的隐私，并确保该技术不存在偏见，不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——