英伟达推出新创收产品 NIM 每个 GPU 4500 美元 / 年

英伟达推出新创收产品NIM每个GPU4500美元/年英伟达CEO黄仁勋在GTC宣布,将在其企业软件订阅中增加一款名为NIM的新产品。NIM可以更容易地使用旧的英伟达GPU进行推理,并允许公司继续使用他们已经拥有的数亿个英伟达GPU。该产品将使新人工智能模型的初始训练推理所需的算力更少。该公司的策略是让购买英伟达服务器的客户注册英伟达企业版,每个GPU每年收取费用4500美元。黄仁勋表示,该软件还将帮助在配备GPU的笔记本电脑上运行人工智能,而不是在云服务器上运行。

相关推荐

封面图片

英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈

英伟达推出NIM云原生微服务,推动生成式AI重塑软件全栈在2024年台北电脑展上,英伟达CEO黄仁勋提出生成式人工智能将引发一场新的产业革命,特别在软件行业。英伟达推出的NIM(NvidiaInferenceMicroservices)旨在简化AI模型的部署,缩短上市时间,并使用行业标准API来抽象化开发和生产包装的复杂性。NIM是一套优化的云原生微服务,支持在云、数据中心和GPU加速工作站上运行预训练的AI模型。此外,英伟达还发布了llama3大模型的NIM容器,现已在官网上线供用户下载并部署。这标志着AI工厂概念的进一步实现,通过提供易于部署的AI服务,英伟达助力企业加速AI应用的开发和部署,推动全栈软件的创新和转型。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

封面图片

英伟达黄仁勋:Blackwell 是史上最成功产品

英伟达黄仁勋:Blackwell是史上最成功产品英伟达6月26日举行股东会,公司所提出的四个议案,股东全数通过。首席执行官黄仁勋特别强调英伟达新的Blackwell平台的优越性,同时展望公司在人工智能技术进化过程中能够得到的发展机会。英伟达向股东报告,黄仁勋在2024会计年度获得的薪酬合计3,420万美元,较前一个年度增加近60%。黄仁勋表示,英伟达已经将重心从游戏移至数据,公司寻求为人工智能创造新市场,如工业机器人等领域,将与各家电脑制造商和云服务从业者合作来达成目标。黄仁勋在会上表示,“Blackwell可能是我们史上最成功的产品,也可能是电脑史上最成功的产品。”——

封面图片

英伟达首次宣布下一代 GPU 架构 “Rubin”

英伟达首次宣布下一代GPU架构“Rubin”6月2日晚间,英伟达创始人兼首席执行官黄仁勋在台北国际电脑展(COMPUTEX)开幕前发表主题演讲。黄仁勋分享了新半导体技术路线图,该路线图将每年更新。他首次宣布了Rubin平台,它将配备新GPU、基于Arm的新CPU—Vera,以及采用NVLink6、CX9SuperNIC和X1600、并融合InfiniBand/以太网交换机的高级网络平台。Rubin将作为Blackwell的下一代平台。黄仁勋透露,将于2026推出的Rubin平台采用HBM4高带宽内存产品。

封面图片

英伟达预告2026年推出下一代Rubin GPU架构,包括HBM4显存和Vera CPU

英伟达预告2026年推出下一代RubinGPU架构,包括HBM4显存和VeraCPU在2024年台北电脑展上,英伟达CEO黄仁勋宣布了下一代RubinGPU架构的预告,计划于2026年推出。英伟达致力于数据中心规模的GPU发展,遵循一年一更新的节奏,并使用统一架构覆盖整个产品线。2024年,Blackwell芯片已开始生产;2025年,将推出BlackwellUltra产品;2026年,推出Rubin产品;2027年,推出RubinUltra产品。RubinGPU架构的主要特点包括8SHBM4显存、VeraCPU、NVLink6Switch(速率达3600Gbps,是NVLink5的两倍)以及CX9SuperNIC和X1600IB/EthernetSwitch。RubinUltraGPU预计将在2027年推出,配备12SHBM4显存。黄仁勋确认所有预告产品都在积极开发中,展示了英伟达在高性能计算和网络技术方面的持续创新和发展。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

封面图片

AI狂潮正将英伟达推向“万亿美元俱乐部” 但对英特尔和AMD助力不大

AI狂潮正将英伟达推向“万亿美元俱乐部”但对英特尔和AMD助力不大以美股盘初的最高涨幅计算,其市值一度暴涨约2000亿美元——大约相当于1.3个AMD(1744亿美元市值)、大约2个英特尔(1210亿美元市值)、3个美光(728亿美元市值)。由于英伟达生产的图形处理器(GPU)需求激增,英伟达的AI芯片销售额以及整体销售额预期急剧飙升。英伟达生产的图形处理器为OpenAI、谷歌以及微软等科技公司的人工智能应用提供最重要的芯片硬件支持。包括AI服务器在内的数据中心市场对人工智能(AI)芯片的需求促使英伟达对于本季度的销售额预期高达110亿美元,远远超过了分析师71.5亿美元的预期。在英伟达公布业绩后,围绕人工智能的投资狂潮(AIhype)似乎愈演愈烈。“AIhype”推动英伟达等公司股价屡创辉煌,但是这一波由“生成式AI革命”主导的“AI科技股”长牛行情可能远没有结束。摩根大通分析师HarlanSur重申了对英伟达的“增持”评级,同时将目标价从250美元提高了一倍,达到500美元,指出该业绩指引表明生成式人工智能需求将迎来第一次“大规模浪潮”。CraigHallum分析师RichardShannon将英伟达评级上调至“买入”,并将目标价从190美元大幅上调至500美元,他指出,就市场共识而言,这一业绩指引“史无前例”。Needham分析师RajvindraGill将英伟达目标价从300美元上调至460美元,维持“买入”评级。该分析师表示,英伟达过去面临的几乎所有不利因素现在都已成为过去,该公司将转向真正的人工智能相关需求。BMOCapital分析师AmbrishSrivastava将英伟达目标价从350美元上调至450美元,维持“跑赢大盘”评级。英伟达CEO黄仁勋在业绩公布后接受采访时表示:“引爆点(flashpoint)是生成式人工智能。”“我们知道CPU的算力扩展速度已经放缓,我们还知道加速计算是前进的道路,然后需要更高算力的杀手级应用程序出现了。”在英伟达看来,它正在经历算力制造模式的一个明显转变,这可能会带来更大规模的增速——数据中心的芯片等重要零部件甚至可能成为一个1万亿美元的市场,黄仁勋表示。从历史上看,计算机或服务器中最重要的部分是中央处理器(CPU)。该市场由曾经的芯片领域王者——英特尔(INTC.US)所主导,AMD是英特尔的主要竞争对手。随着需要大量计算能力的人工智能应用——生成式AI的最终问世,GPU算力芯片正在占据中心舞台,最先进的AI服务器系统使用多达8个GPU和1个CPU。英伟达目前在人工智能GPU市场占据绝对的主导地位。“过去的数据中心主要是用于文件检索的CPU,未来将是生成数据,”黄仁勋表示。“你需要的不是检索部分数据,而是必须使用人工智能生成大部分数据。”黄仁勋继续说道:“因此,CPU数量将大幅度减少,而不是数以百万计的CPU,但它们将与数以百万计的GPU相连。”例如,英伟达自己的DGX系统,本质上是一台用于训练的人工智能计算机,使用了8个英伟达的高端H100GPU,但是只有两个CPU。谷歌旗下的A3超级计算机配备了8个H100GPU和一个英特尔的高端至强(Xeon)处理器。在一些分析人士看来,这就是为什么英伟达的数据中心业务在第一日历季度增长了14%,而AMD的数据中心部门增长几乎持平,英特尔的人工智能和数据中心业务部门则下降了39%。此外,英伟达的GPU往往比许多中央处理器更昂贵。英特尔最新一代的至强(Xeon)CPU标价高达1.7万美元。在二级市场上,单台英伟达H100GPU芯片设备可以卖到4万美元。不过,随着人工智能芯片市场的升温,英伟达可能将面临更激烈的竞争。AMD的GPU业务很有竞争力,尤其是在游戏领域,英特尔也有自己的GPU产品线。一些具有潜力的初创公司正在专门为人工智能应用场景制造AI专有芯片,苹果(AAPL.US)和高通(QCOM.US)等专注于移动设备的科技公司制造新型的专有芯片继续推动这项AI技术,以便有一天AI芯片可以在你的口袋里运行,而不是在一个巨大的服务器集群里。此外,谷歌和亚马逊正在设计自己的人工智能芯片。但英伟达的高端GPU仍然是目前公司构建ChatGPT等应用程序的首选AI芯片,这些应用程序需要处理数TB级别的数据,训练成本很高,而且在随后的“推理”和机器学期过程中运行成本也很高,该过程使用该模型生成文本、图像或进行预测。有分析人士表示,英伟达将长期在人工智能芯片领域仍处于领先地位,因为它拥有专有软件,可以更轻松地将所有GPU硬件功能用于人工智能应用。黄仁勋在周三表示,该公司的软件不容易复制。他在与分析师的电话会议上表示:“你必须设计所有的软件、所有的库和所有的算法,将它们集成到框架中并优化框架,并针对架构进行优化。因此研发者需要的不仅仅是一个芯片,而是整个数据中心的架构。”...PC版:https://www.cnbeta.com.tw/articles/soft/1361705.htm手机版:https://m.cnbeta.com.tw/view/1361705.htm

封面图片

【英伟达CEO持有的英伟达股份价值从5年前的30亿美元飙升至900亿美元】

【英伟达CEO持有的英伟达股份价值从5年前的30亿美元飙升至900亿美元】2024年05月30日10点35分老不正经报道,英伟达CEO黄仁勋五年前持有英伟达价值约30亿美元的股份;周四股价上涨,创下历史新高,黄仁勋的持股价值已超900亿美元。英伟达股价今年已翻倍,2023年翻了三倍,过去五年涨了约28倍。黄仁勋在2022年增加了他的持股,当时股价相对低迷。OpenAI在英伟达GPU上进行大部分人工智能开发。其他公司如微软、谷歌和Meta也在加强在人工智能领域的投资。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人