领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺 英国和韩国政府宣布,领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的 OpenAI 和马斯克的 xAI 以及中国开发商智谱AI,这些公司将发布框架,概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕,两国政府在峰会开幕前表示,这些公司承诺,如果无法缓解严重风险,他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前,以及在训练之前和期间。”

相关推荐

封面图片

Stability AI 获得新一轮投资

Stability AI 获得新一轮投资 过去半年深陷困境的生成式 AI 公司 Stability AI 获得了新一轮投资,稳定了局面,将加速其文本图像生成产品的开发。Stability AI 新一轮的投资者包括风险投资公司 Greycroft 和 Coatue Management,以及前 Facebook 总裁 Sean Parker 和特效公司 WETA Digital 前 CEO Prem Akkaraju,以及前 Google CEO Eric Sc​​hmidt 和知名投资人 Robert Nelsen。Sean Parker 将担任 Stability AI 的执行主席,Akkaraju 将担任 CEO。自创始人 Emad Mostaque 于 3 月离职后,Stability AI 一直没有任命新 CEO,原因是投资者对其财务状况感到不满,它的财务状况非常糟糕,甚至难以支付云服务账单。 via Solidot

封面图片

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列 去年11月,英国召开首届全球AI安全峰会,有近30个国家的官方代表,以及超过80个学术研究机构、企业和公民组织与会。今年5月,英国与南韩合办在线峰会,规模较小,下一场实体峰会则由法国主办,明年召开。根据英国科学创新暨科技部(DSIT)释出的资料,峰会尚未正式展开,已有16家AI科技企业签署安全承诺,要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构,以及向大众揭露各企业对前沿AI(frontier AI)科技安全的应处策略。这16家签署“前沿AI安全承诺”(Frontier AI Safety Commitments)的企业包括OpenAI、亚马逊(Amazon)、Google(Google)及其旗下DeepMind、Meta、马斯克(ElonMusk)去年创办的xAI、微软(Microsoft)、IBM。另外还有三星电子(Samsung Electronics)、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”(Technology InnovationInstitute)等。英国科技部指出,这16家企业名单包含AI两大强权:美国和中国。科技部表示,这些企业将各自发布AI安全框架,向大众说明未来将如何测算自家前沿AI模型的安全风险,包括遭恶意行为者滥用的风险,以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下,若企业在采取补救措施后,仍未能将AI模型或系统的安全风险保持在门坎以下,则不得继续发展或进一步部署该模型或系统。英国科技部指出,在订定前沿AI安全风险门坎时,相关企业已承诺将寻求“受信任行为者”的意见,包括本国政府(前提为若情况适当)。根据议程,英国首相苏纳克(Rishi Sunak)和南韩总统尹锡悦,以及英国科技大臣唐萃兰(MichelleDonelan)和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。 ... PC版: 手机版:

封面图片

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局 据了解,谷歌2019年宣布了对Fitbit的收购,当时Fitbit是全球出货量第五大的可穿戴技术公司,在100多个国家和地区拥有2900万用户。由于担心谷歌在美国和欧洲获取个人数据,监管机构一度对收购案进行了严厉的审查。谷歌还宣布,将与印度医疗中心Apollo Radiology International展开合作,在当地提供针对肺结核、肺癌和乳腺癌的人工智能筛查。谷歌称,一旦Apollo获得监管部门的批准,这项合作将在未来10年内免费提供300万次扫描。公司还表示,正在改进谷歌搜索和旗下视频网站YouTube中的健康信息。谷歌首席健康官Karen DeSalvo在接受采访时表示,最新的举措是谷歌承诺的一部分,即确保在消费者和公司使用的所有产品中传递高质量的健康信息。在AI+医疗领域,谷歌走在前列。DeSalvo补充道,公司一直在探索如何将其技术在一些“最大的健康挑战”上发挥作用。在前一年的“The Check Up”活动上,谷歌推出了医疗大型语言模型“Med-PaLM 2”。去年,谷歌的云业务与美国妙佑医疗国际达成合作协议,扩大生成式人工智能在医疗保健领域中的使用。在周二的会议上,谷歌表示正在研究微调其Gemini模型,在医疗应用领域解锁其高级推理、理解大量上下文等新功能。谷歌资深科学家、Google Brain联合创始人Greg Corrado表示,对AI激增的兴趣奠定了医疗应用的基础,“它的崛起是打开了一扇门,有可能成为一个全新的领域。”谷歌需要与医生、患者、保险公司等多方进行对话,“这种对话将在未来十年推动变革。”值得一提的是,英伟达也在昨日的GTC大会上推出了基于医疗场景的25个新的微服务(NIM),帮助全球的医疗保健公司可以基于生成式AI进行效率提升。先前,英伟达医疗保健副总裁Kimberly Powell也曾提到,英伟达的目标是为更多生物技术公司提供芯片、云基础设施与其他工具。“有人说,我们是英伟达下一个数十亿美元级业务。” ... PC版: 手机版:

封面图片

融资超10亿美金 AI公司“月之暗面”获红杉、小红书、美团、阿里新一轮投资

融资超10亿美金 AI公司“月之暗面”获红杉、小红书、美团、阿里新一轮投资 AI创业公司“月之暗面”近期已完成新一轮超10亿美金融资,投资方包括红杉中国、小红书、美团、阿里,老股东跟投。月之暗面的上一轮融资为2023年获得的超2亿美金融资,投资方包括红杉中国、真格基金等。本轮融资后,月之暗面估值已达约25亿美金,为国内大模型领域的头部企业之一。自ChatGPT掀起全球浪潮以来,这也是国内AI大模型公司迄今获得的单轮最大金额融资。月之暗面(Moonshot AI)成立于2023年3月,是国内大模型领域的关键玩家,目前月之暗面团队人数已超80人。

封面图片

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新募集了 70 亿美元的产业基金,相当一部分专注于 AI 应用。 不是给内行讲的,煽动性挺强,可以学一下他的表述方法。 我整理了一个文字版,翻译了视频,可以选择自己喜欢的方式观看。 文字版: 人工智能新浪潮的激动人心的经济学 人工智能已经存在很长时间了,在解决各种曾被认为是人类智能领域的问题方面有着成功的历史。从20世纪50年代和60年代用于医疗诊断的专家系统,到80年代和90年代在国际象棋中击败俄罗斯人,再到图像检测和机器人技术,人工智能已经在一系列应用中证明了其能力。在许多情况下,人工智能解决方案甚至超越了人类的表现。 尽管如此,投资界对缺乏类似于移动和互联网的平台转变感到困惑。研究指出了几个原因,包括许多人工智能解决方案的利基性质、某些应用(如机器人技术)中正确性的高度重要性、某些情况下对硬件的需求,以及人工智能常常与人脑令人难以置信的效率和低成本竞争的事实。 然而,当前的人工智能浪潮,其特点是大型模型或基础模型,在经济学方面有着根本的不同。这些模型可以从简单的输入生成图像、文本、对话等。它们擅长以前人工智能未涉及的领域,如创造力、自然语言推理,以及充当普通在线任务的 "副驾驶"。 阻碍传统人工智能应用的原因不适用于这些新模型。它们的应用市场是巨大的,在许多情况下正确性不是大问题,使用案例主要是基于软件的,最令人惊讶的是,计算机在曾经被认为是人类独有的任务上远比人类更便宜和更好。例如,使用人工智能将自己生成为皮克斯角色的图像成本约为1/100美分,只需一秒钟,而雇佣一名图形艺术家每小时需要100美元。类似地,使用人工智能语言模型来理解复杂的法律文件比与律师合作要便宜四到五个数量级,而且速度更快。 这种经济错位正在推动互联网历史上增长最快的公司。历史上,这种边际成本的下降创造了平台转变并改变了行业,正如微芯片将计算成本降至零,互联网将分销成本降至零一样。大型模型现在正在将图像生成和语言理解等广泛领域的创作边际成本降至零。 虽然这种经济破坏会引起人们对就业错位的担忧,但微芯片和互联网时代的经验表明,如果需求是有弹性的,正如计算和分销的情况一样,总吞吐量和使用量会大幅增加,从而导致增长扩大,而不是失业。人工智能的这一新浪潮可能也会发生同样的情况。

封面图片

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新募集了 70 亿美元的产业基金,相当一部分专注于 AI 应用。 不是给内行讲的,煽动性挺强,可以学一下他的表述方法。 我整理了一个文字版,翻译了视频,可以选择自己喜欢的方式观看。 文字版: 人工智能新浪潮的激动人心的经济学 人工智能已经存在很长时间了,在解决各种曾被认为是人类智能领域的问题方面有着成功的历史。从20世纪50年代和60年代用于医疗诊断的专家系统,到80年代和90年代在国际象棋中击败俄罗斯人,再到图像检测和机器人技术,人工智能已经在一系列应用中证明了其能力。在许多情况下,人工智能解决方案甚至超越了人类的表现。 尽管如此,投资界对缺乏类似于移动和互联网的平台转变感到困惑。研究指出了几个原因,包括许多人工智能解决方案的利基性质、某些应用(如机器人技术)中正确性的高度重要性、某些情况下对硬件的需求,以及人工智能常常与人脑令人难以置信的效率和低成本竞争的事实。 然而,当前的人工智能浪潮,其特点是大型模型或基础模型,在经济学方面有着根本的不同。这些模型可以从简单的输入生成图像、文本、对话等。它们擅长以前人工智能未涉及的领域,如创造力、自然语言推理,以及充当普通在线任务的 "副驾驶"。 阻碍传统人工智能应用的原因不适用于这些新模型。它们的应用市场是巨大的,在许多情况下正确性不是大问题,使用案例主要是基于软件的,最令人惊讶的是,计算机在曾经被认为是人类独有的任务上远比人类更便宜和更好。例如,使用人工智能将自己生成为皮克斯角色的图像成本约为1/100美分,只需一秒钟,而雇佣一名图形艺术家每小时需要100美元。类似地,使用人工智能语言模型来理解复杂的法律文件比与律师合作要便宜四到五个数量级,而且速度更快。 这种经济错位正在推动互联网历史上增长最快的公司。历史上,这种边际成本的下降创造了平台转变并改变了行业,正如微芯片将计算成本降至零,互联网将分销成本降至零一样。大型模型现在正在将图像生成和语言理解等广泛领域的创作边际成本降至零。 虽然这种经济破坏会引起人们对就业错位的担忧,但微芯片和互联网时代的经验表明,如果需求是有弹性的,正如计算和分销的情况一样,总吞吐量和使用量会大幅增加,从而导致增长扩大,而不是失业。人工智能的这一新浪潮可能也会发生同样的情况。 我们正处于标志性公司新时代的风口浪尖,这不仅是由开创性技术推动的,也是由令人信服的经济案例推动的。尽管具体结果难以预测,但我们可以从社会秩序、创造力和生产力等领域的变化中瞥见未来。有史以来第一次,经济上可行的具身AGI成为现实,可以解决现实世界的问题。 充分发挥这一人工智能浪潮的潜力将需要风险投资界、科技界和华盛顿政策制定者之间的伙伴关系和合作。这是一个令人兴奋的时刻,我们都应该为人工智能在未来几年的变革性影响做好准备。 视频链接: Invalid media:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人