戴尔在一个机架服务器内塞了72块NVIDIA B200 GPU加速卡

戴尔在一个机架服务器内塞了72块NVIDIAB200GPU加速卡即便如此，戴尔依然宣称GPU密度提高了33％，PCIe5.0通道多了20％，网络扩展能力翻倍。B200加速卡单个功耗达1000W，八卡就是8000W，再加上处理器、内存、硬盘、网卡等其他硬件，风冷自然是无法压制的，而是上了高效水冷，CPU、GPU全覆盖。针对更大规模的GPU计算部署需求，戴尔还支持在单个机架内配备多达72块B200加速卡，依然是水冷。戴尔PowerEdgeXE9680L服务器将在下半年上市。...PC版：https://www.cnbeta.com.tw/articles/soft/1431941.htm手机版：https://m.cnbeta.com.tw/view/1431941.htm

英伟达新一代 AI 芯片 B200 功耗将达 1000W 预计 2025 年问世

英伟达新一代AI芯片B200功耗将达1000W预计2025年问世服务器制造商戴尔透露了英伟达即将推出的人工智能（AI）GPU，代号为Blackwell。这些芯片的功耗高达1000W，比上一代芯片的功耗增加40%。戴尔首席运营官JeffClarke表示，戴尔为配合B200服务器GPU的推出，届时也将提供旗舰级的PowerEdgeXE9680机架服务器。另外，采用Blackwell架构B100与B200最快要到2025年才会推出，与先前预期推出的时间有所落差。

英伟达新一代架构Blackwell来了：RTX 50、B200都要用 功耗将超1000W

英伟达新一代架构Blackwell来了：RTX50、B200都要用功耗将超1000W按照最新爆料，B100将采用两个基于台积电CoWoS-L封装技术的芯片，连接到8个8-HiHBM3e显存堆栈，总容量为192GB，而这还不是唯一。爆料中还提到，B200的下一代BlackwellGP更新将利用12-Hi来实现更高的容量，显存达到了288GB，但不确定是否是HBM4。之前，戴尔首席运营官JeffClarke就曾爆料：英伟达将于2025年推出载有“Blackwell”架构的B200产品，功耗或将达到1000W。事实上基于这个架构的RTX50系列功耗也不会太乐观，之前有消息称，RTX5090用PCIeGen6的16-Pin供电接口后，功耗可以超过600W，而高端系列可以超过450W，中端功耗在300-350W之间。所以在这样架构的功耗下，RTX5090显卡将比RTX4090快60%到70%（近一倍）也不稀奇吧？...PC版：https://www.cnbeta.com.tw/articles/soft/1424050.htm手机版：https://m.cnbeta.com.tw/view/1424050.htm

NVIDIA B200 GPU加速器明年到来 功耗高达1000W

NVIDIAB200GPU加速器明年到来功耗高达1000WB100之后，还有更强大的升级版B200，一如现在H100、H200的关系。戴尔首席运营官兼副董事长在最近的一次会议中确认了B200的存在，发布时间在明年。他没有披露更具体的规格，比如升级之处，但声称戴尔有能力搞定单颗GPU1000W的功耗，甚至不需要液冷，这无疑是在暗示B200的功耗将大幅提高。相比之下，H100SMX版本的峰值功耗为700W。NVIDIAGTC2024图形技术大会将于3月18-21日举行，必然会披露新一代GPU加速器的情况，甚至有可能正式宣布。...PC版：https://www.cnbeta.com.tw/articles/soft/1422180.htm手机版：https://m.cnbeta.com.tw/view/1422180.htm

NVIDIA“最强AI芯片”Blackwell B200 GPU令业内惊呼新的摩尔定律诞生

NVIDIA“最强AI芯片”BlackwellB200GPU令业内惊呼新的摩尔定律诞生在GTC直播中，黄仁勋左手举着B200GPU，右手举着H100此外，将两个B200GPU与单个GraceCPU结合在一起的GB200，可以为LLM推理工作负载提供30倍的性能，并且显著提高效率。黄仁勋还强调称：“与H100相比，GB200的成本和能耗降低了25倍！关于市场近期颇为关注的能源消耗问题，B200GPU也交出了最新的答卷。黄仁勋表示，此前训练一个1.8万亿参数模型，需要8000个HopperGPU并消耗15MW电力。但如今，2000个BlackwellGPU就可以实现这一目标，耗电量仅为4MW。在拥有1750亿参数的GPT-3大模型基准测试中，GB200的性能是H100的7倍，训练速度是H100的4倍。值得一提的是，B200GPU的重要进步之一，是采用了第二代Transformer引擎。它通过对每个神经元使用4位（20petaflopsFP4）而不是8位，直接将计算能力、带宽和模型参数规模翻了一倍。而只有当这些大量的GPU连接在一起时，第二个重要区别才会显现，那就是新一代NVLink交换机可以让576个GPU相互通信，双向带宽高达1.8TB/秒。而这就需要英伟达构建一个全新的网络交换芯片，其中包括500亿个晶体管和一些自己的板载计算：拥有3.6teraflopsFP8处理能力。在此之前，仅16个GPU组成的集群，就会耗费60%的时间用于相互通信，只有40%的时间能用于实际计算。一石激起千层浪，“最强AI芯片”的推出让网友纷纷赞叹。其中英伟达高级科学家JimFan直呼：Blackwell新王诞生，新的摩尔定律已经应运而生。DGXGrace-BlackwellGB200：单个机架的计算能力超过1Exaflop。黄仁勋交付给OpenAI的第一台DGX是0.17Petaflops。GPT-4的1.8T参数可在2000个Blackwell上完成90天的训练。还有网友感叹：1000倍成就达成！Blackwell标志着在短短8年内，NVIDIAAI芯片的计算能力实现了提升1000倍的历史性成就。2016年，“Pascal”芯片的计算能力仅为19teraflops，而今天Blackwell的计算能力已经达到了20000teraflops。相关文章:全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场英伟达扩大与中国车企合作为比亚迪提供下一代车载芯片英伟达进军机器人领域发布世界首款人形机器人通用基础模型台积电、新思科技首次采用NVIDIA计算光刻平台：最快加速60倍NVIDIA共享虚拟现实环境技术将应用于苹果VisionPro黄仁勋GTC演讲全文：最强AI芯片Blackwell问世推理能力提升30倍...PC版：https://www.cnbeta.com.tw/articles/soft/1424217.htm手机版：https://m.cnbeta.com.tw/view/1424217.htm