你见过晶圆大小的芯片吗？这家AI独角兽推新品对标英伟达H100

你见过晶圆大小的芯片吗？这家AI独角兽推新品对标英伟达H100据悉，该款芯片将4万亿个晶体管组织在90万个核心中。该芯片针对人工智能训练的工作负载进行了优化。Cerebras公司声称，配备了2048个WSE-3芯片的服务器集群可以在一天内训练出市场上最先进的开源语言模型之一Llama270B。替代英伟达Cerebras是一家美国人工智能芯片的独角兽企业，它背后的投资团队也都实力够硬。最新一笔融资是在2021年由AlphaWaveVenture和阿布扎比增长基金领投，融资金额2.5亿美元，其他的投资人士包括：OpenAI创始人山姆·奥特曼、AMD前首席技术官FredWeber等。2021年，Cerebras公司首次亮相了WSE-2芯片，集成了1.2万亿个晶体管、40万个核心。在同行都在将晶圆分割成数百颗独立芯片之时，Cerebras公司则是选择将整个晶圆做成一颗芯片。而最新发布的WSE-3则是从WSE-2改进而来的。它较WES-2又增加了1.4万亿个晶体管，并拥有90万个计算核心、44GB的板载SRAM内存。强化部分是通过从7纳米制造工艺更新到5纳米节点所实现的。据该公司称，WSE-3在人工智能工作负载方面的性能是其前身的两倍，它的峰值速度可以达到每秒125千万亿次计算。Cerebras还将WSE-3定位为比英伟达显卡更为高效的替代品。根据Cerebras官网的数据，该芯片4万亿个晶体管数完全碾压了英伟达H100GPU的800亿个；核处理器数是单个英伟达H100GPU的52倍；片上存储量是H100的880倍。WSE-3芯片为Cerebras公司的CS-3超级计算机提供动力，CS-3可用于训练具有多达24万亿个参数的人工智能模型，对比由WSE-2和其他常规人工智能处理器驱动的超级计算机，这一数据是个重大飞跃。加速数据传输虽说将晶圆大小的芯片和单个英伟达H100GPU相比较并不公平，不过若从数据传输速度的角度来看，不将晶圆切割成单独的芯片确实有它的优势。根据Cerebras公司的说法，使用单一的大型处理器可以提高人工智能训练工作流程的效率。当WSE-3上的4万亿个晶体管在晶圆上互连时，将会大大加快生成式人工智能的处理时间。人工智能模型就是相对简单的代码片段的集合，这些代码片段被称为人工神经元。这些神经元被重新组织成集合（称为层）。当人工智能模型接收到一个新任务时，它的每一层都会执行任务的一部分，然后将其结果与其他层生成的数据结合起来。由于神经网络太大，无法在单个GPU上运行，因此，这些层需要分布在数百个以上的GPU上，通过频繁地交换数据来协调它们的工作。基于神经网络架构的具体特性，只有获得前一层的全部或部分激活数据，才能在开始分析数据，并提供给下一层。也就意味着，如果这两层的数据运行在不同的GPU上，信息在它们之间传输可能需要很长时间。芯片之间的物理距离越大，数据从一个GPU转移到另一个GPU所需的时间就越长，这会减慢处理速度。而Cerebras的WSE-3有望缩短这一处理时间。如果一个人工智能模型的所有层都在一个处理器上运行，那么数据只需要从芯片的一个角落传输到另一个角落，而不是在两个显卡之间传输。减少数据必须覆盖的距离可以减少传输时间，从而加快处理速度。该公司指出，在如今的服务器集群中，数以万计的GPU被用来处理一个问题，而若是将芯片数量减少50倍以上，就可以降低互连成本以及功效，同时或许也可以解决消耗大量电力的问题。Cerebras联合创始人兼CEOAndrewFeldman称，“当我们八年前开始这一旅程时，每个人都说晶圆级处理器是白日梦…WSE-3是世界上最快的人工智能芯片，专为最新的尖端人工智能工作而打造。”对于新推出地WSE-3芯片，分析公司Intersect360Research首席执行官AddisonSnell认为，Cerebras的WSE-3人工智能芯片和CS-3系统可以使部分高性能计算用户受益。他指出，“该芯片在相同的成本和功率下将性能提高了一倍。”不过，TiriasResearch创始人JimMcGregor则较为现实地指出，尽管这家初创公司增长迅速，并且有能力提高其平台的可扩展性，但与占主导地位的人工智能供应商英伟达相比，它仍然是一家规模较小的公司。他还指出，Cerebras专注于人工智能的一个方面，那就是训练，不过训练只是大型语言模型市场的一个利基市场。而英伟达提供了许多其他方面产品。...PC版：https://www.cnbeta.com.tw/articles/soft/1423681.htm手机版：https://m.cnbeta.com.tw/view/1423681.htm

在Telegram中查看

相关推荐

英伟达最新人工智能芯片H200开始供货

英伟达最新人工智能芯片H200开始供货3月27日，英伟达宣布，开始供货尖端图像处理半导体(GPU)“H200”。H200是面向人工智能的半导体，性能超过现在的主打GPU“H100”。英伟达相继推出最新的人工智能半导体，目的是保持较高的市场份额。英伟达3月27日公布了H200的性能评测结果。用Meta的大规模语言模型(LLM)“Llama2”进行了比较，结果显示，与H100相比，H200使生成式人工智能导出答案的处理速度最高提高了45％。——

Cerebras 发布了第三代晶圆级AI加速芯片“WSE-3”

Cerebras发布了第三代晶圆级AI加速芯片“WSE-3”人工智能超级计算机公司Cerebras表示，其下一代晶圆级人工智能芯片可以在消耗相同电量的情况下将性能提高一倍。WSE-3与前代产品一样使用整个晶圆制造，包含4万亿个晶体管，由于使用了台积电5nm工艺，比数量增加了50%以上。AI核心数量进一步增加到90万个，缓存容量达到44GB，外部搭配内存容量可选1.5TB、12TB、1200TB，峰值AI算力高达125PFlops。该公司表示将在新一代人工智能计算机中使用WSE-3，这些计算机目前正在达拉斯的一个数据中心安装，形成一台能够执行8exaflops（每秒80亿次浮点运算）的超级计算机。——

发布H200芯片之际英伟达股价已连涨十日

发布H200芯片之际英伟达股价已连涨十日作为全球市值最高的芯片制造商，英伟达股票今年已累计上涨超过240%，成为纳斯达克100指数和标准普尔500指数上表现最佳的成分股，人工智能热潮推动了股价上涨。最新的涨势正值科技股反弹，人们对美联储的利率已经达到顶峰抱有希望。英伟达刚刚宣布推出名为H200的新芯片，该芯片将能够利用高带宽内存（HBM3e），更好地处理开发和实施人工智能所需的大型数据集。沃尔夫研究公司分析师克里斯·卡索在（ChrisCaso）一份报告中写道：“过去，英伟达并未更新过之前的数据中心GPU。因此，这进一步证明了英伟达在应对人工智能市场增长和性能需求方面加快产品发布的能力，从而扩大了其竞争优势。”目前的英伟达H100处理器已经受到高度需求。“该公司加快发布H200等产品的步伐，预计将有助于保护其市场份额，”彭博行业研究分析师库简·索哈尼（KunjanSobhani）表示。“这款新的人工智能处理器配备了高带宽内存，可能成为市场上性能最出色的GPU，提高了竞争门槛。”英伟达将于11月21日公布财报。上个月，由于美国新规禁止向中国销售其尖端人工智能芯片，英伟达承受了一定压力。...PC版：https://www.cnbeta.com.tw/articles/soft/1397011.htm手机版：https://m.cnbeta.com.tw/view/1397011.htm

人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能

人工智能公司MosaicML称不要迷信英伟达芯片AMD芯片提供类似性能目前在人工智能热潮下英伟达股价水涨船高，之前业内基本都认同英伟达的A100/H100加速卡提供最佳的性能，所以英伟达的这些专用加速卡被各大公司哄抢。人工智能初创公司MosaicML在后称大家不应该迷信英伟达芯片,因为AMD米兰芯片的性能并不差。该公司使用多种工具对英伟达A100加速卡和AMDMI250加速卡进行测试，测试显示MI250加速卡也足够用。MosaicML称在基于实际工作负载测试中，AMDMI250加速卡的每GPU数据吞吐量相当于英伟达A10040GB版的80%，是A10080GB版的73%。因此确实有差距但差距并不算大，对人工智能公司来说并不是非得高价抢购英伟达显卡，其他加速卡也能用。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

英伟达跌超 2% 创近一个月新低，英特尔称推出超英伟达 H100 的 AI 芯片

英伟达跌超2%创近一个月新低，英特尔称推出超英伟达H100的AI芯片英伟达(NVDA.US)美股盘中一度跌逾4%，最终收跌2.04%报853.54美元，创近一个月新低，成交427.1亿美元。消息上，英特尔推出升级款人工智能(AI)芯片Gaudi3，将于三季度大范围供应。这款芯片用于提升“帮助训练AI系统”和“运行软件成品”这两大关键领域的性能，前者包括用数据“轰炸”AI系统。此外，英特尔称该芯片性能超过英伟达H100。

英伟达正利用AI系统帮助公司提升制造芯片效率

英伟达正利用AI系统帮助公司提升制造芯片效率据《华尔街日报》报道，英伟达自去年（2023年）10月推出ChipNeMo后，为图设计团队提供了不少帮助，对于英伟达而言建构人工智能产品的确也是个好兆头，在周一时这家芯片巨头的股价就上涨了4%，创下历史新高，而高盛的分析师预计，该涨幅或将可以持续到2025年上半年。当然英伟达也并不是唯一一家使用人工智能技术加速半导体设计的公司，在去年7月GoogleDeepMind也制造了一个人工智能系统，Google公司还表示可以运用该技术提高设计效率，几个月后软件巨头新思科技也推出了一款提高芯片工程师生产效率的人工智能工具。据悉，作为为人工智能领域“无可争议的领导者”，最新的数据显示，英伟达在全球人工智能芯片市场的份额预计最高可能已经达到了90%，创下新高纪录。今日黄仁勋还入选了美国工程院院士，美国国家工程院（NationalAcademyofEngineering,NAE）给出的理由是：“用高性能图形处理单元，推动了人工智能革命。”...PC版：https://www.cnbeta.com.tw/articles/soft/1416689.htm手机版：https://m.cnbeta.com.tw/view/1416689.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人