英韩合办AI峰会 16家企业签署AI安全承诺 中国入列

英韩合办AI峰会 16家企业签署AI安全承诺 中国入列 去年11月，英国召开首届全球AI安全峰会，有近30个国家的官方代表，以及超过80个学术研究机构、企业和公民组织与会。今年5月，英国与南韩合办在线峰会，规模较小，下一场实体峰会则由法国主办，明年召开。根据英国科学创新暨科技部（DSIT）释出的资料，峰会尚未正式展开，已有16家AI科技企业签署安全承诺，要点包括不得发展或部署安全风险无法获充分缓解的AI模型或系统、建立可供问责的安全管理架构，以及向大众揭露各企业对前沿AI（frontier AI）科技安全的应处策略。这16家签署“前沿AI安全承诺”（Frontier AI Safety Commitments）的企业包括OpenAI、亚马逊（Amazon）、Google（Google）及其旗下DeepMind、Meta、马斯克（ElonMusk）去年创办的xAI、微软（Microsoft）、IBM。另外还有三星电子（Samsung Electronics）、Anthropic、Inflection AI、Mistral AI、Cohere、G42、Naver、智谱AI、阿拉伯联合酋长国的“科技创新研究院”（Technology InnovationInstitute）等。英国科技部指出，这16家企业名单包含AI两大强权：美国和中国。科技部表示，这些企业将各自发布AI安全框架，向大众说明未来将如何测算自家前沿AI模型的安全风险，包括遭恶意行为者滥用的风险，以及各家企业对安全风险的最高容忍极限为何、如何确保AI模型的安全风险不会超越此预设门坎。在极端情况下，若企业在采取补救措施后，仍未能将AI模型或系统的安全风险保持在门坎以下，则不得继续发展或进一步部署该模型或系统。英国科技部指出，在订定前沿AI安全风险门坎时，相关企业已承诺将寻求“受信任行为者”的意见，包括本国政府（前提为若情况适当）。根据议程，英国首相苏纳克（Rishi Sunak）和南韩总统尹锡悦，以及英国科技大臣唐萃兰（MichelleDonelan）和南韩科技部长李宗昊将在21和22日分别共同主持一场高阶会议。 ... PC版： 手机版：

16家AI巨头在韩国举行峰会 将做出新的安全承诺

16家AI巨头在韩国举行峰会 将做出新的安全承诺 16家AI巨头在韩国首尔举行全球峰会，将共同做出新的安全承诺，提供开发AI的透明度和问责制。 法新社报道，为期两天的峰会在星期二（5月21日）开展，韩国总统尹锡悦和英国首相苏纳克将于星期二晚些时候共同主持线上会议。 苏纳克与会前发声明说，AI公司将承诺为开发安全的人工智能方面，提供透明度和问责制。 与会的公司包括美国科技巨头微软、亚马逊、IBM和脸书母公司Meta、法国的Mistral AI和来自中国的Zhipu.ai。 这些公司将达成安全协议，包括将制定框架，用以评估技术风险。当中涵盖哪些风险被“视为无法接受”，以及公司将采取哪些措施来确保不跨越这些门槛。 在最极端的情况下，如果公司不能将风险保持在门槛以下，将无法开发新模型或系统。 除了AI的安全之外，首尔峰会将讨论政府如何帮助刺激创新，包括大学的人工智能研究。 另外，参与者也将考虑如何确保AI技术向所有人开放，并有助于解决气候变化和贫困等问题。 2024年5月21日 7:51 PM

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局

新一轮发力 科技巨头谷歌对“AI+医疗”赛道加码布局 据了解，谷歌2019年宣布了对Fitbit的收购，当时Fitbit是全球出货量第五大的可穿戴技术公司，在100多个国家和地区拥有2900万用户。由于担心谷歌在美国和欧洲获取个人数据，监管机构一度对收购案进行了严厉的审查。谷歌还宣布，将与印度医疗中心Apollo Radiology International展开合作，在当地提供针对肺结核、肺癌和乳腺癌的人工智能筛查。谷歌称，一旦Apollo获得监管部门的批准，这项合作将在未来10年内免费提供300万次扫描。公司还表示，正在改进谷歌搜索和旗下视频网站YouTube中的健康信息。谷歌首席健康官Karen DeSalvo在接受采访时表示，最新的举措是谷歌承诺的一部分，即确保在消费者和公司使用的所有产品中传递高质量的健康信息。在AI+医疗领域，谷歌走在前列。DeSalvo补充道，公司一直在探索如何将其技术在一些“最大的健康挑战”上发挥作用。在前一年的“The Check Up”活动上，谷歌推出了医疗大型语言模型“Med-PaLM 2”。去年，谷歌的云业务与美国妙佑医疗国际达成合作协议，扩大生成式人工智能在医疗保健领域中的使用。在周二的会议上，谷歌表示正在研究微调其Gemini模型，在医疗应用领域解锁其高级推理、理解大量上下文等新功能。谷歌资深科学家、Google Brain联合创始人Greg Corrado表示，对AI激增的兴趣奠定了医疗应用的基础，“它的崛起是打开了一扇门，有可能成为一个全新的领域。”谷歌需要与医生、患者、保险公司等多方进行对话，“这种对话将在未来十年推动变革。”值得一提的是，英伟达也在昨日的GTC大会上推出了基于医疗场景的25个新的微服务（NIM），帮助全球的医疗保健公司可以基于生成式AI进行效率提升。先前，英伟达医疗保健副总裁Kimberly Powell也曾提到，英伟达的目标是为更多生物技术公司提供芯片、云基础设施与其他工具。“有人说，我们是英伟达下一个数十亿美元级业务。” ... PC版： 手机版：

首届全球人工智能峰会召开 吁国际合作解决AI安全问题

首届全球人工智能峰会召开 吁国际合作解决AI安全问题 首届全球人工智能峰会在英国召开，与会各国就人工智能安全问题发表联合声明，强调协力解决一系列人工智能安全问题的必要性和紧迫性，并继续为促进人工智能发展进行包容性的全球对话。 当地时间星期三（11月1日），第一届全球人工智能（AI）峰会在伦敦布莱切利公园（Bletchley Park）召开。包括东道国英国在内的28个国家和区域集团代表与会，马斯克等AI企业高管也出席峰会。 与会各国（包括欧盟）当天发布《布莱切利声明》（Bletchley Declaration），一致承诺推动全球合作努力，确保AI安全问题得到解决。 声明指出，“AI带来了巨大的全球机遇，有可能改变和增进人类福祉、和平与繁荣”，也拥有“变革性的积极潜力”。 不过，AI的发展也伴随着巨大的风险，涉及人们生活的多个方面，比如隐私、透明度、数据保护、公平、问责、监管、道德、偏见和欺骗性内容等。 声明说，AI技术的“前沿”领域，即一些能力很强的通用AI模型等，尤其具有安全风险。与会各国特别关注“网络安全”和“生物技术”等领域的风险，以及“前沿AI系统可能放大虚假信息”等风险的情况。这些模型最重要的能力有可能造成“严重甚至灾难性的伤害”，无论是蓄意产生还是无意制造。 声明强调，AI带来的许多风险其实具有国际性，因此“最好通过国际合作加以应对”。与会国家“将以包容的方式共同努力，通过现有的国际论坛和其他相关倡议，确保AI能够以人为本、值得信赖、负责人、安全可靠并造福所有人”。 声明呼吁各国基于风险制定自己的政策，提高AI前沿能力的开发者的透明度，并指定适当的评估指标和安全测试工具，同时也要培养相关公共部门的能力和科学研究。 与会国家在声明中宣布，“决心支持建立一个具有国际包容性的AI前沿安全科学研究网络”。这一网络将“包含并补充现有的和新的多边、诸边和双边合作”。 此外，英国数码部长多兰（Michelle Donelan）在星期三的开幕式上宣布，韩国将在半年后主办第二届全球人工智能峰会，法国将于一年后主办第三届峰会。 2023年11月1日 8:57 PM

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新

a16z 合伙人 Martin Casado 的演讲主要举例阐述 AI 将催生新一轮技术革命和产业变革。他们确实挺看重 AI 新募集了 70 亿美元的产业基金，相当一部分专注于 AI 应用。 不是给内行讲的，煽动性挺强，可以学一下他的表述方法。 我整理了一个文字版，翻译了视频，可以选择自己喜欢的方式观看。 文字版： 人工智能新浪潮的激动人心的经济学 人工智能已经存在很长时间了，在解决各种曾被认为是人类智能领域的问题方面有着成功的历史。从20世纪50年代和60年代用于医疗诊断的专家系统，到80年代和90年代在国际象棋中击败俄罗斯人，再到图像检测和机器人技术，人工智能已经在一系列应用中证明了其能力。在许多情况下，人工智能解决方案甚至超越了人类的表现。 尽管如此，投资界对缺乏类似于移动和互联网的平台转变感到困惑。研究指出了几个原因，包括许多人工智能解决方案的利基性质、某些应用（如机器人技术）中正确性的高度重要性、某些情况下对硬件的需求，以及人工智能常常与人脑令人难以置信的效率和低成本竞争的事实。 然而，当前的人工智能浪潮，其特点是大型模型或基础模型，在经济学方面有着根本的不同。这些模型可以从简单的输入生成图像、文本、对话等。它们擅长以前人工智能未涉及的领域，如创造力、自然语言推理，以及充当普通在线任务的 "副驾驶"。 阻碍传统人工智能应用的原因不适用于这些新模型。它们的应用市场是巨大的，在许多情况下正确性不是大问题，使用案例主要是基于软件的，最令人惊讶的是，计算机在曾经被认为是人类独有的任务上远比人类更便宜和更好。例如，使用人工智能将自己生成为皮克斯角色的图像成本约为1/100美分，只需一秒钟，而雇佣一名图形艺术家每小时需要100美元。类似地，使用人工智能语言模型来理解复杂的法律文件比与律师合作要便宜四到五个数量级，而且速度更快。 这种经济错位正在推动互联网历史上增长最快的公司。历史上，这种边际成本的下降创造了平台转变并改变了行业，正如微芯片将计算成本降至零，互联网将分销成本降至零一样。大型模型现在正在将图像生成和语言理解等广泛领域的创作边际成本降至零。 虽然这种经济破坏会引起人们对就业错位的担忧，但微芯片和互联网时代的经验表明，如果需求是有弹性的，正如计算和分销的情况一样，总吞吐量和使用量会大幅增加，从而导致增长扩大，而不是失业。人工智能的这一新浪潮可能也会发生同样的情况。

马斯克xAI估值增至1126亿 新一轮筹资募得280亿

马斯克xAI估值增至1126亿 新一轮筹资募得280亿 马斯克旗下的人工智能（AI）新创公司xAI，在最新一轮筹资中募得60亿美元（约280亿令吉），将让这家成立仅一年多的公司，一跃成为最具实力挑战OpenAI的竞争对手。