微软将于11月推出其首款人工智能芯片

微软将于11月推出其首款人工智能芯片微软的这款芯片是为训练和运行大型语言模型(LLM)的数据中心服务器设计的。微软的数据中心服务器目前使用英伟达的GPU为云客户提供先进的LLM,包括OpenAI和Intuit,以及支持微软生产力应用程序中的人工智能功能。微软芯片与英伟达GPU类似,专为训练和运行大型语言模型的资料中心伺服器而设计,大型语言模型是OpenAI的ChatGPT等对话式AI功能背后的软体。早前其他媒体指出,微软从2019年开始即开发自家AI芯片,代号为“Athena”,旨在降低对英伟达依赖,微软真正的目地并非直接取代英伟达芯片,而是希望通过降低成本,并于多项服务中持续加入AI功能。微软7月发布的年度报告更新一项风险因素显示,微软资料中心取决于获得许可和可建造的土地、可预测的能源、网路供应和伺服器,包括GPU和其他零件,凸显GPU对资料中心的重要性。瑞银8月表示,微软受到其可使用的GPU数量的限制是一个现实,可能会影响他们明年产生AI营收的能力。如果它能够打造自家GPU,就可以降低这种风险。市场今年9月盛传,微软开始下修英伟达H100芯片订单,且拉货放缓,足见微软AI芯片已研发测试成熟,将摆脱对英伟达的重度依赖。如果微软推出自己的AI芯片,它将与亚马逊(AMZN-US)和Google(GOOGL-US)处于同一水平,这两家公司都有自研AI芯片,分别是Inferentia和TPU。微软(MSFT-US)周五上扬2.47%至每股327.26美元。英伟达(NVDA-US)收红2.40%至每股457.62美元。亚马逊(AMZN-US)扬升1.59%至每股127.96美元。Google(GOOGL-US)收高1.86%至每股137.58美元。...PC版:https://www.cnbeta.com.tw/articles/soft/1388469.htm手机版:https://m.cnbeta.com.tw/view/1388469.htm

相关推荐

封面图片

【美媒:微软将于下个月推出其首款人工智能芯片】

【美媒:微软将于下个月推出其首款人工智能芯片】2023年10月07日08点11分老不正经报道,据TheInformation报道,一位知情人士透露,微软(MSFT.O)计划在下个月的年度开发者大会上推出该公司首款为人工智能设计的芯片。此举是多年努力的成果,可能有助于微软减少对英伟达(NVDA.O)设计的人工智能芯片的依赖。随着需求激增,这些芯片一直供不应求。微软的这款芯片是为训练和运行大型语言模型(LLM)的数据中心服务器设计的。微软的数据中心服务器目前使用英伟达的GPU为云客户提供先进的LLM,包括OpenAI和Intuit,以及支持微软生产力应用程序中的人工智能功能。

封面图片

外媒:微软将于下个月推出其首款人工智能芯片

封面图片

Nvidia将推出一款新的必备人工智能芯片-H200

Nvidia正在推出一款用于人工智能工作的新一代顶级芯片,即HGXH200。这款新的GPU在广受需求的H100的基础上进行了升级,内存带宽提升了1.4倍,内存容量提升了1.8倍,提高了处理密集生成式人工智能工作的能力。重要的问题是公司是否能够获得这些新芯片,或者它们是否会像H100一样供应不足,对此Nvidia并没有确切的答案。首批H200芯片将于2024年第二季度发布,Nvidia表示正在与“全球系统制造商和云服务提供商”合作,以使其可用。H200在外观上与H100基本相同,除了内存方面有所改变。但是对内存的改变使其升级更有意义。新的GPU是第一个使用名为HBM3e的新型更快内存规格的GPU。这使得GPU的内存带宽从H100的每秒3.35TB提升到每秒4.8TB,并且总内存容量从80GB增加到141GB。H200也被设计为与已经支持H100s的系统兼容。Nvidia表示,云服务提供商在添加H200时不需要进行任何更改。亚马逊、谷歌、微软和甲骨文等云计算服务提供商将是明年首批提供新型GPU的公司。标签:#Nvidia#英伟达频道:@GodlyNews1投稿:@GodlyNewsBot

封面图片

业内人士称台积电已获得大量人工智能芯片代工订单

业内人士称台积电已获得大量人工智能芯片代工订单而从相关媒体最新的报道来看,在晶圆代工领域走在行业前列的台积电,已经获得了大量AI芯片代工订单。相关媒体是援引业内人士的透露,报道台积电获得大量AI芯片代工订单的。业内人士称在生成式AI应用需求激增之际,台积电凭借7nm及以下制程工艺,获得了大量AI芯片订单。在生成式AI带动的芯片需求中,英伟达高性能GPU是其中重要的一项。在3月份就曾有报道称,OpenAI在训练ChatGPT时使用了10000个GPU,在推出之后,为了满足服务器的需求,在3月份时就已使用了约2.5万个英伟达的GPU。而市场消息人士近期也透露,英伟达A100和H100这两款针对数据中心的高性能GPU的订单在增加,他们也增加了在台积电的投片量。...PC版:https://www.cnbeta.com.tw/articles/soft/1361177.htm手机版:https://m.cnbeta.com.tw/view/1361177.htm

封面图片

OpenAI正在探索制造自己的人工智能芯片

OpenAI正在探索制造自己的人工智能芯片这些方案包括打造自己的AI芯片,与包括英伟达在内的其他芯片制造商更紧密地合作,以及在英伟达之外实现供应商多元化。OpenAI拒绝发表评论。公司首席执行官山姆-奥特曼(SamAltman)已将收购更多人工智能芯片作为公司的首要任务。他曾公开抱怨图形处理器稀缺,而这一市场由英伟达(NVIDIA)主导,英伟达控制着全球最适合运行人工智能应用的芯片市场80%以上的份额。奥特曼之所以努力获取更多芯片,是因为他发现了两大问题:为OpenAI的软件提供动力的先进处理器短缺,以及运行为其工作和产品提供动力的硬件所需的"令人瞠目"的成本。自2020年以来,OpenAI一直在一台大型超级计算机上开发其人工智能生成技术,这台超级计算机由其最大的支持者之一微软公司建造,使用了1万个英伟达(NVIDIA)图形处理器(GPU)。运行ChatGPT对公司来说非常昂贵。根据伯恩斯坦分析师斯泰西-拉斯冈(StacyRasgon)的分析,每次查询大约需要4美分。如果ChatGPT的查询量增长到Google搜索规模的十分之一,那么最初将需要价值约481亿美元的GPU,并且每年需要价值约160亿美元的芯片来维持运营。定制芯片时代努力开发自己的人工智能芯片将使OpenAI成为Alphabet旗下Google和亚马逊公司等少数大型科技公司中的一员,这些公司一直在寻求控制对其业务至关重要的芯片设计。目前尚不清楚OpenAI是否会推进制造定制芯片的计划。据业内资深人士称,这样做将是一项重大的战略举措,而且投资巨大,每年的成本可能高达数亿美元。即使OpenAI将资源投入到这项任务中,也不能保证成功。收购一家芯片公司可以加快OpenAI打造自有芯片的进程--就像亚马逊公司在2015年收购AnnapurnaLabs时所做的那样。据一位熟悉OpenAI计划的人士透露,OpenAI已经考虑过这条路,并对潜在的收购目标进行了尽职调查。目前尚无法得知OpenAI正在研究收购的公司的身份。即使OpenAI继续推进定制芯片计划(包括收购),这项工作也可能需要数年时间,在此期间,该公司将依赖于英伟达(NVIDIA)和AMD等商业供应商。一些大型科技公司多年来一直在制造自己的处理器,但成果有限。据路透社报道,Meta的定制芯片工作一直问题不断,这让该公司不再使用部分人工智能芯片。这家Facebook的所有者目前正在开发一种更新的芯片,它将涵盖所有类型的人工智能工作。据TheInformation报道,OpenAI的主要支持者微软也在开发一种定制的人工智能芯片,OpenAI正在对其进行测试。这些计划可能预示着两家公司的关系将进一步疏远。自去年推出ChatGPT以来,对专用AI芯片的需求激增。专用芯片或人工智能加速器是训练和运行最新生成式人工智能技术所必需的。英伟达是少数几家生产实用人工智能芯片的芯片制造商之一,在市场上占据主导地位。...PC版:https://www.cnbeta.com.tw/articles/soft/1388305.htm手机版:https://m.cnbeta.com.tw/view/1388305.htm

封面图片

英伟达发布用于人工智能的“世界上最强大芯片”Blackwell B200 GPU

英伟达发布用于人工智能的“世界上最强大芯片”BlackwellB200GPU英伟达的H100AI芯片使其成为价值数亿美元的公司,其价值可能超过Alphabet和亚马逊,而竞争对手一直在奋力追赶。但也许英伟达即将通过新的BlackwellB200GPU和GB200“超级芯片”扩大其领先地位。该公司在加州圣何塞举行的GTC大会上表示,新的B200GPU拥有2080亿个晶体管,可提供高达20petaflops的FP4算力,而GB200将两个GPU和单个GraceCPU结合在一起,可为LLM推理工作负载提供30倍的性能,同时还可能大大提高效率。英伟达表示,在具有1750亿个参数的GPT-3LLM基准测试中,GB200的性能是H100的7倍,而英伟达称其训练速度是H100的4倍。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人