领先科技公司签署新一轮AI安全承诺

领先科技公司签署新一轮AI安全承诺 英国和韩国政府宣布,领先的人工智能公司签署了有关人工智能安全的新一轮自愿承诺。包括科技巨头亚马逊、谷歌、Meta、微软、萨姆•奥尔特曼领导的 OpenAI 和马斯克的 xAI 以及中国开发商智谱AI,这些公司将发布框架,概述他们将如何衡量其“前沿”人工智能模型的风险。全球人工智能峰会周二在首尔开幕,两国政府在峰会开幕前表示,这些公司承诺,如果无法缓解严重风险,他们将“根本不开发或部署相关模型”。这些人工智能公司将“评估自己的前沿模型或系统构成的风险……包括在部署该模型或系统之前,以及在训练之前和期间。”

相关推荐

封面图片

马斯克xAI估值增至1126亿 新一轮筹资募得280亿

马斯克xAI估值增至1126亿 新一轮筹资募得280亿 马斯克旗下的人工智能(AI)新创公司xAI,在最新一轮筹资中募得60亿美元(约280亿令吉),将让这家成立仅一年多的公司,一跃成为最具实力挑战OpenAI的竞争对手。

封面图片

Stability AI 获得新一轮投资

Stability AI 获得新一轮投资 过去半年深陷困境的生成式 AI 公司 Stability AI 获得了新一轮投资,稳定了局面,将加速其文本图像生成产品的开发。Stability AI 新一轮的投资者包括风险投资公司 Greycroft 和 Coatue Management,以及前 Facebook 总裁 Sean Parker 和特效公司 WETA Digital 前 CEO Prem Akkaraju,以及前 Google CEO Eric Sc​​hmidt 和知名投资人 Robert Nelsen。Sean Parker 将担任 Stability AI 的执行主席,Akkaraju 将担任 CEO。自创始人 Emad Mostaque 于 3 月离职后,Stability AI 一直没有任命新 CEO,原因是投资者对其财务状况感到不满,它的财务状况非常糟糕,甚至难以支付云服务账单。 via Solidot

封面图片

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列 去年11月,英国召开首届全球AI安全峰会,有近30个国家的官方代表,以及超过80个学术研究机构、企业和公民组织与会。今年5月,英国与南韩合办在线峰会,规模较小,下一场实体峰会则由法国主办,明年召开。根据英国科学创新暨科技部(DSIT)释出的资料,峰会尚未正式展开,已有16家AI科技企业签署安全承诺,要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构,以及向大众揭露各企业对前沿AI(frontier AI)科技安全的应处策略。这16家签署“前沿AI安全承诺”(Frontier AI Safety Commitments)的企业包括OpenAI、亚马逊(Amazon)、Google(Google)及其旗下DeepMind、Meta、马斯克(ElonMusk)去年创办的xAI、微软(Microsoft)、IBM。另外还有三星电子(Samsung Electronics)、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”(Technology InnovationInstitute)等。英国科技部指出,这16家企业名单包含AI两大强权:美国和中国。科技部表示,这些企业将各自发布AI安全框架,向大众说明未来将如何测算自家前沿AI模型的安全风险,包括遭恶意行为者滥用的风险,以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下,若企业在采取补救措施后,仍未能将AI模型或系统的安全风险保持在门坎以下,则不得继续发展或进一步部署该模型或系统。英国科技部指出,在订定前沿AI安全风险门坎时,相关企业已承诺将寻求“受信任行为者”的意见,包括本国政府(前提为若情况适当)。根据议程,英国首相苏纳克(Rishi Sunak)和南韩总统尹锡悦,以及英国科技大臣唐萃兰(MichelleDonelan)和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。 ... PC版: 手机版:

封面图片

16家AI巨头在韩国举行峰会 将做出新的安全承诺

16家AI巨头在韩国举行峰会 将做出新的安全承诺 16家AI巨头在韩国首尔举行全球峰会,将共同做出新的安全承诺,提供开发AI的透明度和问责制。 法新社报道,为期两天的峰会在星期二(5月21日)开展,韩国总统尹锡悦和英国首相苏纳克将于星期二晚些时候共同主持线上会议。 苏纳克与会前发声明说,AI公司将承诺为开发安全的人工智能方面,提供透明度和问责制。 与会的公司包括美国科技巨头微软、亚马逊、IBM和脸书母公司Meta、法国的Mistral AI和来自中国的Zhipu.ai。 这些公司将达成安全协议,包括将制定框架,用以评估技术风险。当中涵盖哪些风险被“视为无法接受”,以及公司将采取哪些措施来确保不跨越这些门槛。 在最极端的情况下,如果公司不能将风险保持在门槛以下,将无法开发新模型或系统。 除了AI的安全之外,首尔峰会将讨论政府如何帮助刺激创新,包括大学的人工智能研究。 另外,参与者也将考虑如何确保AI技术向所有人开放,并有助于解决气候变化和贫困等问题。 2024年5月21日 7:51 PM

封面图片

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局 据了解,谷歌2019年宣布了对Fitbit的收购,当时Fitbit是全球出货量第五大的可穿戴技术公司,在100多个国家和地区拥有2900万用户。由于担心谷歌在美国和欧洲获取个人数据,监管机构一度对收购案进行了严厉的审查。谷歌还宣布,将与印度医疗中心Apollo Radiology International展开合作,在当地提供针对肺结核、肺癌和乳腺癌的人工智能筛查。谷歌称,一旦Apollo获得监管部门的批准,这项合作将在未来10年内免费提供300万次扫描。公司还表示,正在改进谷歌搜索和旗下视频网站YouTube中的健康信息。谷歌首席健康官Karen DeSalvo在接受采访时表示,最新的举措是谷歌承诺的一部分,即确保在消费者和公司使用的所有产品中传递高质量的健康信息。在AI+医疗领域,谷歌走在前列。DeSalvo补充道,公司一直在探索如何将其技术在一些“最大的健康挑战”上发挥作用。在前一年的“The Check Up”活动上,谷歌推出了医疗大型语言模型“Med-PaLM 2”。去年,谷歌的云业务与美国妙佑医疗国际达成合作协议,扩大生成式人工智能在医疗保健领域中的使用。在周二的会议上,谷歌表示正在研究微调其Gemini模型,在医疗应用领域解锁其高级推理、理解大量上下文等新功能。谷歌资深科学家、Google Brain联合创始人Greg Corrado表示,对AI激增的兴趣奠定了医疗应用的基础,“它的崛起是打开了一扇门,有可能成为一个全新的领域。”谷歌需要与医生、患者、保险公司等多方进行对话,“这种对话将在未来十年推动变革。”值得一提的是,英伟达也在昨日的GTC大会上推出了基于医疗场景的25个新的微服务(NIM),帮助全球的医疗保健公司可以基于生成式AI进行效率提升。先前,英伟达医疗保健副总裁Kimberly Powell也曾提到,英伟达的目标是为更多生物技术公司提供芯片、云基础设施与其他工具。“有人说,我们是英伟达下一个数十亿美元级业务。” ... PC版: 手机版:

封面图片

融资超10亿美金 AI公司“月之暗面”获红杉、小红书、美团、阿里新一轮投资

融资超10亿美金 AI公司“月之暗面”获红杉、小红书、美团、阿里新一轮投资 AI创业公司“月之暗面”近期已完成新一轮超10亿美金融资,投资方包括红杉中国、小红书、美团、阿里,老股东跟投。月之暗面的上一轮融资为2023年获得的超2亿美金融资,投资方包括红杉中国、真格基金等。本轮融资后,月之暗面估值已达约25亿美金,为国内大模型领域的头部企业之一。自ChatGPT掀起全球浪潮以来,这也是国内AI大模型公司迄今获得的单轮最大金额融资。月之暗面(Moonshot AI)成立于2023年3月,是国内大模型领域的关键玩家,目前月之暗面团队人数已超80人。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人