全球首块英伟达H200 AI超级芯片交付 黄仁勋给OpenAI“送货上门”

全球首块英伟达H200 AI超级芯片交付 黄仁勋给OpenAI“送货上门” H200基于英伟达Hopper架构打造，并配备英伟达H200 Tensor Core GPU，处理速度为4.8TB/秒。H200拥有141GB的内存，与前代产品H100相比，H200的容量几乎翻了一番，运行大模型的综合性能相比前代H100提升了60%到90%。英伟达此前表示，H200在运行GPT-3时的性能，将比原始A100高出18倍，同时也比H100快11倍左右。值得一提的是，H200还将与H100兼容，使用H100训练/推理模型的AI企业，可以无缝更换成最新的H200芯片。 ... PC版： 手机版：

英伟达最新人工智能芯片H200开始供货

英伟达最新人工智能芯片H200开始供货 3月27日，英伟达宣布，开始供货尖端图像处理半导体 (GPU) “H200”。H200 是面向人工智能的半导体，性能超过现在的主打 GPU “H100”。英伟达相继推出最新的人工智能半导体，目的是保持较高的市场份额。英伟达3月27日公布了 H200 的性能评测结果。用 Meta 的大规模语言模型 (LLM) “Llama 2”进行了比较，结果显示，与 H100 相比，H200 使生成式人工智能导出答案的处理速度最高提高了45％。

英伟达发布下一代AI计算芯片 HGX H200 GPU

英伟达发布下一代AI计算芯片 HGX H200 GPU NVIDIA 今天宣布推出 NVIDIA HGX™ H200，为全球领先的 AI 计算平台带来强大动力。该平台基于 NVIDIA Hopper™ 架构，配备 NVIDIA H200 Tensor Core GPU 和高级内存，可处理生成 AI 和高性能计算工作负载的海量数据。 NVIDIA H200 是首款提供 HBM3e 的 GPU，HBM3e 是更快、更大的内存，可加速生成式 AI 和大型语言模型，同时推进 HPC 工作负载的科学计算。借助 HBM3e，NVIDIA H200 以每秒 4.8 TB 的速度提供 141GB 内存，与前一代 NVIDIA A100 相比，容量几乎翻倍，带宽增加 2.4 倍。 全球领先的服务器制造商和云服务提供商采用 H200 的系统预计将于 2024 年第二季度开始发货。

英特尔正式推出至强6系列处理器 力图赶超英伟达

英特尔正式推出至强6系列处理器 力图赶超英伟达 英特尔展示了其新一代至强数据中心处理器，首次启用全新的命名方式“至强6（Xeon 6）”，将从现在到明年一季度分批次陆续登场。至强6系列分为E和P系列。其中，P系列主要针对高性能计算、数据库与分析、人工智能、网络、边缘和基础设施/存储等计算密集型和AI工作负载，最多配备128个性能核心，包括6900P/6700P/6500P/6300P等。E系列主要面向高密度、可扩展负载等，优化应用的效率表现，最多配备288个核心，包括6700E/6900E处理器。据悉，“至强6”系列处理器虽然没有采用消费端的P核+E核的异构架构设计，但彼此共享硬件平台、软件开发堆栈。新的至强6系列处理器拥有更高效的内核，可以让数据中心运营商将特定任务所需的空间减少到上一代硬件的三分之一。另外，与AMD（AMD.US）、高通（QCOM.US）等竞争对手一样，英特尔也吹嘘其新的系列处理器的性能明显好于现有产品。与此同时，英特尔正式发布了Lunar Lake笔记本处理器，用于下一代AI PC，号称相比上一代产品AI性能提升3倍。英特尔还推出了AI PC开发套件，搭载Lunar Lake处理器、32GB LPDDR5内存、512GB存储。英特尔表示，AI PC开发套件后续可以升级到Panther Lake芯片（预计明年推出）。英伟达首席执行官黄仁勋曾表示，在人工智能时代，英特尔等传统处理器正在失去动力。但Pat Gelsinger表示，作为领先的个人电脑芯片制造商，英特尔将在人工智能的扩张中发挥重要作用。在AI加速器方面，英特尔表示，包含八块AI芯片的Gaudi 3加速器套件售价大约为12.5万美元，相较于上一代Gaudi 2的6.5万美元标价有所上升；该系统将由戴尔科技（DELL.US）和Inventec Corp．等合作伙伴提供。不过，英特尔还强调，与竞争对手的产品相比，其价格仍然具有显著优势。根据供应商Thinkmate的估算，配备八个英伟达 H100 AI芯片的同类服务器系统成本可能超过30万美元。据悉，英特尔表示，相比英伟达 H100，Gaudi 3的人工智能推理性能平均提高50%，能效平均提高40%。基准测试中，Gaudi 3可以在Llama2-7B、Llama2-13B模型中将训练时间缩短到英伟达 H100 的一半，同时推理吞吐量也比后者平均高出了50%。不过，英特尔Gaudi 3的这些优势可能不足以推翻英伟达在数据中心处理器领域的领先地位。neXt Curve分析师Leonard Lee表示：“单个加速器的性能不再是最重要的事情。英伟达最大的优势在于它拥有一个有凝聚力的集成生态系统，以及像NVLink这样的专有技术，可以确保其计算集群作为一个整体运行。它的力量在于能够创造一个巨大的逻辑加速器。”由于落后于竞争对手，英特尔的收入在过去两年中有所下滑。三年前，为了扭转颓势，Pat Gelsinger重回英特尔，并斥巨资振兴公司产品、建立了一个工厂网络。Pat Gelsinger表示，这将重新夺回英特尔在芯片设计和制造领域的领先地位。尽管英特尔的销售额已经停止萎缩，但分析师并不认为会迅速反弹，且该公司到2024年底的年度收入将比2021年减少200亿美元。与此同时，据估计，英伟达的销售额将翻一番、AMD的销售额增长率将超过10%，因为这两家公司将更好地利用企业在人工智能计算硬件上的大规模支出。 ... PC版： 手机版：

传 联发科 携手 英伟达 进击 AI PC，开发 Arm 架构处理器

传 联发科 携手 英伟达 进击 AI PC，开发 Arm 架构处理器 据悉，双方合作的AI PC处理器，采用 ARM 架构设计，以台积电3奈米制程生产，预计第3季完成设计定案（tape out），第4季进入验证，明年上半年量产。

AMD 正式发布 MI300 加速器，性能较英伟达 H100 芯片提高 60%

AMD 正式发布 MI300 加速器，性能较英伟达 H100 芯片提高 60% 在美国加州圣何塞举行的 AI 特别活动中，AMD 宣布正式推出其旗舰 AI GPU 加速器 MI300X，并称其性能比英伟达的 H100 芯片提高了 60%。 据 AMD 介绍，新芯片为性能最高的芯片，拥有超过 1500 亿个晶体管。与英伟达 H100 芯片相比，AMD 新芯片的内存为其 2.4 倍，内存带宽为其 1.6 倍，训练性能与 H100 芯片相当，在运行 AI 模型方面则比英伟达快得多。 、