英伟达发布新一代 AI 芯片 H200

英伟达发布新一代AI芯片H200H200利用了美光等公司推出的HBM3e内存，提供了141GB内存容量(H100的1.8倍)和4.8TB/s内存带宽(H100的1.4倍)。大型语言模型推理速度方面，GPT-3175B是H100的1.6倍(A100的18倍)，LLaMA270B是H100的1.9倍。英伟达同时宣布2024年的H100产量翻倍，2024年第4季度发布基于新一代Blackwell架构的B100。投稿：@ZaiHuaBot频道：@TestFlightCN

英伟达发布新一代数据中心超级芯片

英伟达发布新一代数据中心超级芯片在周二的主题演讲中，黄仁勋介绍了下一代DGXGH200GraceHopper超级芯片，专为OpenAI的ChatGPT等大内存生成性人工智能模型设计，以扩展全球的数据中心。在发布会前的新闻发布会上，英伟达的超大规模和高性能计算部门主管IanBuck告诉记者，GH200比该公司的H100数据中心系统容纳了更多的内存和更大的带宽。GH200采用了英伟达的HopperGPU架构，并将其与ArmLtd.的GraceCPU架构结合起来。该芯片拥有141GB的HBM3内存，以及每秒5TB的带宽。GH200可以在NVLink的双GH200系统中叠加使用，使内存增加3.5倍，带宽增加两倍。这两种产品都将在2024年第二季度上市，但英伟达没有透露定价。——