NVIDIA、Adobe、IBM 等公司向白宫承诺采取措施降低人工智能风险

NVIDIA、Adobe、IBM等公司向白宫承诺采取措施降低人工智能风险Adobe、IBM、NVIDIA、Palantir、Stability、Salesforce、Scale和Cohere加入了拜登总统提出的原则的现有签署方行列。这些承诺要求签署公司采取一些措施,比如给人工智能生成的媒体打上水印或贴上标签,让人们知道这些媒体不是人类创造的。人工智能公司还承诺在与人工智能合作时促进公平、非歧视、透明、隐私和安全。白宫幕僚长杰夫-齐恩斯(JeffZients)赞扬了更多公司加入这一努力,并表示拜登已将利用人工智能的好处同时管理其风险作为首要任务。今天,这八家领先的人工智能公司承诺:这些公司承诺在人工智能系统发布之前对其进行内部和外部安全测试。这些公司承诺在整个行业内,并与政府、民间社会和学术界共享有关管理人工智能风险的信息。这些公司承诺投资网络安全和内部威胁保障措施,以保护专有和未发布的模型权重。这些公司承诺为第三方发现和报告其人工智能系统中的漏洞提供便利。两家公司承诺开发强大的技术机制,确保用户知道内容是人工智能生成的,例如水印系统。这些公司承诺公开报告其人工智能系统的能力、局限性以及适当和不适当使用的领域。这些公司承诺优先研究人工智能系统可能带来的社会风险,包括避免有害的偏见和歧视,以及保护隐私。这些公司承诺开发和部署先进的人工智能系统,以帮助解决社会面临的最大挑战。然而,许多人担心人工智能服务的兴起。这些承诺的自愿性质被视为一种临时解决方案。8月底,微软公司董事长兼执行副总裁布拉德-史密斯(BradSmith)对此表示支持,他呼吁制定一项"监管计划",以确保人工智能始终处于人类控制之下。此外,该公司还发布了它认为应该如何管理人工智能的蓝图。...PC版:https://www.cnbeta.com.tw/articles/soft/1383433.htm手机版:https://m.cnbeta.com.tw/view/1383433.htm

相关推荐

封面图片

IBM称赞欧洲议会批准《人工智能法案》

IBM称赞欧洲议会批准《人工智能法案》虽然必须开展重要工作以确保该法案成功实施,但IBM相信该法规将促进对人工智能系统的信任和信心,同时促进创新和竞争力。"我赞扬欧盟在通过全面、智能的人工智能立法方面发挥的领导作用。基于风险的方法与IBM对人工智能道德实践的承诺相一致,将有助于建立开放、可信的人工智能生态系统,"IBM副总裁兼首席隐私与信任官ChristinaMontgomery说。"IBM随时准备提供我们的技术和专业知识(包括我们的watsonx.governance产品),帮助我们的客户和其他利益相关者遵守欧盟人工智能法案和全球即将出台的立法,以便我们都能释放负责任人工智能的巨大潜力。"欲了解更多有关IBM应对AI监管的信息,请访问:https://www.ibm.com/products/watsonx-governancehttps://www.ibm.com/consulting/ai-governance相关文章:欧洲议会通过《人工智能法案》成为全球首部全面的AI监管法规...PC版:https://www.cnbeta.com.tw/articles/soft/1423574.htm手机版:https://m.cnbeta.com.tw/view/1423574.htm

封面图片

15 家美国公司现承诺负责任地开发人工智能

15家美国公司现承诺负责任地开发人工智能今天,Adobe、Nvidia、IBM、Palantir、Stability、Salesforce、Cohere和Scale与OpenAI、亚马逊、谷歌、Meta、微软、Anthropic和Inflection一起做出了承诺,开发技术来识别人工智能生成的图像,并与政府和学术界共享定期安全数据。来源:¹²投稿:@ZaiHuaBot频道:@TestFlightCN

封面图片

科技巨头签署自愿承诺,打击滥用人工智能干扰选举

科技巨头签署自愿承诺,打击滥用人工智能干扰选举当地时间2月16日,在第60届慕尼黑安全会议上,微软、Meta、谷歌、亚马逊、Adobe和IBM在内的供应商签署了一项协议,表明他们打算采用一个通用框架来应对人工智能生成的旨在误导选民的深度伪造内容。其他13家公司,包括人工智能公司OpenAI、Anthropic和StabilityAI,以及社交媒体平台X、TikTok和Snap,以及芯片设计公司ARM等也加入了该协议的签署行列。签署者表示,当误导性政治深度伪造内容在他们的平台上创建和传播时,他们将使用各种方法来检测和标记这些深度伪造内容,相互分享最佳实践,并在这些内容开始传播时提供“迅速和相应的回应”。——

封面图片

白宫表示,OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全

白宫表示,OpenAI、谷歌和其他公司承诺为人工智能内容添加水印以确保安全拜登政府表示,OpenAI、谷歌和Meta等顶级人工智能公司已向白宫自愿承诺实施对人工智能生成的内容加水印等措施,以帮助提高技术的安全性。承诺在发布AI系统之前对其进行彻底测试,并分享有关如何降低风险和投资于网络安全的信息。拜登总统就人工智能风险问题周五在白宫接待了来自七家公司的高管。作为自愿承诺的一部分,7家公司承诺会开发内容“水印”系统,对AI生成的文字、图像、音频和视频等内容进行标记。这种技术性的嵌入水印可以让用户知道内容是AI生成的。这有助于提高对AI内容的透明度和可信度。两家公司还承诺,随着人工智能的发展,将重点保护用户的隐私,并确保该技术不存在偏见,不被用来歧视弱势群体。开发人工智能解决方案来解决医学研究和缓解气候变化等科学问题。——

封面图片

拜登晤AI公司高层 企业承诺管理人工智能带来的风险

拜登晤AI公司高层企业承诺管理人工智能带来的风险美国总统拜登与7间发展人工智能企业的高层会面,白宫表示,这些企业承诺管理人工智能技术带来的风险。获邀到白宫的企业,包括亚马逊、Google、Meta、微软、OpenAI等。拜登表示,人工智能对社会、经济和国家安全带来巨大风险,但亦带来难以置信的机遇,随著人工智能越来越融入个人和商业活动,这些企业承诺带领负责任的创新。7间企业承诺采取一系列自我监管措施,包括由专家对人工智能系统进行安全测试、定期公开报告人工智能的能力和局限、研究歧视和侵犯私隐等风险。白宫表示,这些措施强调人工智能未来的三个基本原则,分别是安全、保障和信任,意味向开发负责任的人工智能迈出关键一步。2023-07-2207:42:37

封面图片

IBM推出Granite生成式人工智能功能和模型

IBM推出Granite生成式人工智能功能和模型IBM几乎没有提供有关Granite的详细信息,因此无法将这些模型与竞争对手的LLM(包括IBM自己的LLM)进行比较。但该公司声称,它将在2022年第三季度推出Granite系列模型之前,披露用于训练该模型的数据,以及用于过滤和处理这些数据的步骤。希望该公司能做到这一点。在Watsonx.ai(Watsonx的组件,可让客户在部署后测试、部署和监控模型)的其他部分,IBM正在推出TuningStudio,这是一款允许用户根据自己的数据定制生成式人工智能模型的工具。利用TuningStudio,IBMWatsonx的客户可以对模型进行微调,以适应新任务,只需100到1000个示例。一旦用户指定了任务并提供了所需数据格式的标注示例,他们就可以通过IBM云的API部署模型。Watsonx.ai即将推出的还有表格数据(关系数据库中的行和列集合)合成数据生成器。IBM在一份新闻稿中称,通过从自定义数据模式和内部数据集生成合成数据,公司可以使用生成器提取洞察力,用于人工智能模型的训练和微调,同时"降低风险"。目前还不清楚"降低风险"的确切含义,因为使用合成数据训练人工智能存在一系列隐患。IBM还将在Watsonx.data中推出新的生成式人工智能功能,该公司的数据存储允许用户访问数据,同时应用查询引擎、治理、自动化以及与现有数据库和工具的集成。从2023年第四季度开始,作为技术预览的一部分,客户将能够通过一个类似聊天机器人的自助服务工具,为人工智能"发现、增强、可视化和完善"数据。IBM对具体细节再次语焉不详。但能够想象的是一种类似于ChatGPT的体验,尽管它以数据可视化和转换为重点。IBM表示,大约在同一时间(2023年第四季度),Watsonx.data将获得矢量数据库功能,以支持检索增强生成(RAG)。RAG是一个人工智能框架,通过将模型建立在外部知识源的基础上,提高LLM生成的响应质量,这对IBM的企业客户来说显然非常有用。在其他重大新闻方面,IBM正在进行Watsonx.governance的技术预览,这是一个工具包--用该公司相当含糊的话说--提供了保护客户隐私、检测模型偏差和漂移以及帮助组织满足道德标准的机制。从下周开始,IBM将推出智能修复(IntelligentRemediation)功能,该公司表示,该功能将利用生成式人工智能模型来帮助IT团队总结事件并提出工作流程建议,以帮助实施解决方案。IBM产品高级副总裁DineshNirmal在一份新闻稿中说:"正如watsonx平台在推出后短短几个月内不断发展所证明的那样,我们将在整个人工智能生命周期内为客户提供支持。作为转型合作伙伴,IBM正在与客户合作,帮助他们以安全、可信的方式扩展人工智能--从帮助他们建立数据战略的基础要素,到为他们的特定业务用例调整模型,再到帮助他们管理模型。"当然,IBM也面临着压力,需要证明自己能够在拥挤的人工智能领域有所作为。在公司第二财季,IBM公布的营收不及分析师预期,原因是公司基础设施业务部门的增长放缓幅度超过预期。营收缩减至154.8亿美元,同比下降0.4%,略低于分析师一致预期的第二季度销售额155.8亿美元。在财报电话会议上,IBM首席执行官阿尔文德-克里希纳(ArvindKrishna)反复强调了人工智能对IBM未来增长的重要性,并断言企业正在以健康的速度签约使用IBM的混合云和人工智能技术,包括Watsonx。克里希纳说,截至7月Watsonx开始推出时,已有150多家企业客户在使用Watsonx,其中包括三星和花旗。"我们将继续满足客户寻求值得信赖的企业人工智能解决方案的需求,我们对最近推出的Watsonx人工智能平台的反响尤为兴奋。最后,我们对今年全年的收入和自由现金流增长预期仍然充满信心,"克里希纳在财报电话会议上说。...PC版:https://www.cnbeta.com.tw/articles/soft/1382305.htm手机版:https://m.cnbeta.com.tw/view/1382305.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人