英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈

英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈在2024年台北电脑展上,英伟达CEO黄仁勋提出生成式人工智能将引发一场新的产业革命,特别在软件行业。英伟达推出的NIM(NvidiaInferenceMicroservices)旨在简化AI模型的部署,缩短上市时间,并使用行业标准API来抽象化开发和生产包装的复杂性。NIM是一套优化的云原生微服务,支持在云、数据中心和GPU加速工作站上运行预训练的AI模型。此外,英伟达还发布了llama3大模型的NIM容器,现已在官网上线供用户下载并部署。这标志着AI工厂概念的进一步实现,通过提供易于部署的AI服务,英伟达助力企业加速AI应用的开发和部署,推动全栈软件的创新和转型。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

相关推荐

封面图片

英伟达推出新创收产品 NIM 每个 GPU 4500 美元 / 年

英伟达推出新创收产品NIM每个GPU4500美元/年英伟达CEO黄仁勋在GTC宣布,将在其企业软件订阅中增加一款名为NIM的新产品。NIM可以更容易地使用旧的英伟达GPU进行推理,并允许公司继续使用他们已经拥有的数亿个英伟达GPU。该产品将使新人工智能模型的初始训练推理所需的算力更少。该公司的策略是让购买英伟达服务器的客户注册英伟达企业版,每个GPU每年收取费用4500美元。黄仁勋表示,该软件还将帮助在配备GPU的笔记本电脑上运行人工智能,而不是在云服务器上运行。

封面图片

【英伟达推出面向大语言模型和生成式 AI 的云服务产品】

【英伟达推出面向大语言模型和生成式AI的云服务产品】英伟达宣布推出一组云服务产品,能够使企业构建、优化和运行定制的大型语言模型和生成式AI模型。GettyImages、Morningstar、Quantiphi和Shutterstock等公司将创建和使用利用新的NVIDIAAIFoundations服务构建的AI模型、应用和服务。企业还可使用NVIDIANeMo™语言服务和NVIDIAPicasso图像、视频和3D服务来构建专用的、特定领域的生成式AI应用,用于智能聊天和客户支持、专业内容创作、数字模拟等。英伟达还宣布了用于生物学的NVIDIABioNeMo™云服务的新模型。此外,英伟达还推出了针对生成式AI应用进行优化的四种推理平台,可帮助开发者快速构建专门的、由AI驱动的应用。

封面图片

英伟达收购 GPU 编排软件提供商 Run:ai

英伟达收购GPU编排软件提供商Run:ai4月25日消息,英伟达(NVIDIA)已就收购基于Kubernetes的工作负载管理与编排软件提供商Run:ai达成最终协议,具体收购金额暂未披露。英伟达计划暂时保留Run:ai目前的商业模式,Run:ai员工将加入英伟达位于以色列的研发中心。此外,英伟达DGX和DGXCloud客户将获得Run:ai为其AI工作负载(尤其是大型语言模型部署)提供的功能。目前Run:ai的解决方案已与英伟达DGX、英伟达DGXSuperPOD、英伟达BaseCommand、NGCcontainers和英伟达AI企业软件等产品集成。

封面图片

英伟达将推出生成式 AI 专业认证

英伟达将推出生成式AI专业认证据英伟达官微消息,英伟达将在GTC大会上正式推出生成式AI专业认证,能够使开发者、职场人士和其他相关人员证明和展示自己在生成式AI方面的技能和专业实力。目前新推出的专业认证计划包含两项入门级(associate-level)生成式AI认证,这两项认证专注于考察对大语言模型和多模态工作流技能的掌握程度。GTC2024大会将于3月18日至21日在美国加州圣何塞举行。这是5年来GTC大会首次重返线下。

封面图片

云原生微服务架构集成实战课程

名称:云原生微服务架构集成实战课程描述:全新微服务云架构高级,非常适合想要拔高以及快速增加大厂高级技术经验的同学们研习,课程将云原生及相关新技术进行抽丝剥茧,相信同学们学习完成后一定会有开云见雾的感觉。建议先收藏保存,不定时失效。链接:https://pan.quark.cn/s/27ff252fc08f大小:NG标签:#quark#学习#资源#课程#实战频道:@yunpanshare群组:@yunpangroup

封面图片

英伟达宣布收购 GPU 编排软件提供商 Run:ai

英伟达宣布收购GPU编排软件提供商Run:ai当地时间4月24日,英伟达宣布,已就收购Run:ai达成一项最终协议。Run:ai成立于2018年,是一家基于开源容器编排平台Kubernetes的工作负载管理和编排软件提供商。英伟达表示,将继续投资Run:ai产品路线图,以作为AI平台NVIDIADGXCloud的一部分,该平台提供针对生成式AI进行优化的集成全栈服务。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人