英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈
英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈在2024年台北电脑展上,英伟达CEO黄仁勋提出生成式人工智能将引发一场新的产业革命,特别在软件行业。英伟达推出的NIM(NvidiaInferenceMicroservices)旨在简化AI模型的部署,缩短上市时间,并使用行业标准API来抽象化开发和生产包装的复杂性。NIM是一套优化的云原生微服务,支持在云、数据中心和GPU加速工作站上运行预训练的AI模型。此外,英伟达还发布了llama3大模型的NIM容器,现已在官网上线供用户下载并部署。这标志着AI工厂概念的进一步实现,通过提供易于部署的AI服务,英伟达助力企业加速AI应用的开发和部署,推动全栈软件的创新和转型。关注频道@ZaiHuaPd频道爆料@ZaiHuabot