Meta新一代AI芯片亮相：优化推荐系统 但不能训练大模型

Meta新一代AI芯片亮相：优化推荐系统 但不能训练大模型 这款芯片是Meta训练与推理加速器项目(MTIA)的最新版本，MTIA是Meta专门为AI工作负载设计的定制芯片系列，可以对Facebook和Instagram上的内容进行排名和推荐。该公司去年发布了首款MTIA产品。据Meta介绍，新一代AI芯片由台积电代工，采用了其5纳米工艺制程。MTIA也是该公司更广泛产品开发的一部分，针对Meta独特的工作负载和系统进行了优化。与前一个版本相比，新的MTIA在计算能力和内存带宽上都提高了一倍多，同时保持了与其工作负载的紧密联系，可以更好地服务全球用户，提供个性化的推荐和优化的用户体验。Meta表示：“为了实现我们定制芯片的雄心壮志，我们不仅要投资于计算芯片，还要投资于内存带宽、网络、容量以及其他下一代硬件系统。”Meta转向AI服务使其对计算能力的需求不断增长，一方面，该公司要让Facebook、Instagram等应用接入AI功能，另一方面，Meta正在开发自己的大语言模型，以期与OpenAI的ChatGPT展开竞争。去年10月，Meta表示，将在支持AI的基础设施上投入多达350亿美元，包括数据中心和硬件。“到2024年，AI将成为我们最大的投资领域，”首席执行官扎克伯格当时告诉投资者。后续发展也确如扎克伯格所言，但这笔支出的很大一部分流向了英伟达。据悉，此前Meta已经购买了数十万张英伟达上一代芯片H100，以支持其升级内容推荐系统和生成式AI产品。到2024年底，Meta的基础设施将包括35万张H100，每张售价为2.5万-3万美元。当然，不单单是Meta，越来越多的公司都在开发AI芯片，包括微软、谷歌、亚马逊等科技公司。不过，这显然不是一个快速解决方案。到目前为止，这些努力并没有减少业界对英伟达AI芯片的需求。AI热潮使英伟达成为世界第三大最有价值的科技公司，仅次于微软和苹果公司。在2024财年，该公司数据中心业务营收475亿美元，而前一年仅为150亿美元。分析人士预测，到2025财年，这一数字将再增加一倍以上。相关文章:Meta推出新款AI芯片 旨在降低对英伟达的依赖 ... PC版： 手机版：

Meta 公司推出新一代定制 AI 芯片

Meta 公司推出新一代定制 AI 芯片 当地时间周三，Meta 公布了其芯片开发的最新成果。该芯片被称为“下一代”Meta 训练和推理加速器 (MTIA)，是去年 MTIA v1 的后继产品。目前，MTIA 主要训练排名和推荐算法，但 Meta 表示，其目标是最终扩展芯片功能，开始训练生成式人工智能，如其 Llama 语言模型。Meta 表示，新的 MTIA 芯片将“从根本上”侧重于提供计算、内存带宽和内存容量之间的适当平衡。该芯片拥有 256MB 的片上内存和 1.35GHz 的主频，采用 5 纳米工艺制造，相较于 MTIA v1 的 128MB 和 800MHz 整体性能提高了 3 倍。 、

英伟达发布新一代数据中心超级芯片

英伟达发布新一代数据中心超级芯片 在周二的主题演讲中，黄仁勋介绍了下一代 DGX GH200 Grace Hopper 超级芯片，专为 OpenAI 的 ChatGPT 等大内存生成性人工智能模型设计，以扩展全球的数据中心。 在发布会前的新闻发布会上，英伟达的超大规模和高性能计算部门主管 Ian Buck 告诉记者，GH200 比该公司的 H100 数据中心系统容纳了更多的内存和更大的带宽。GH200 采用了英伟达的 Hopper GPU 架构，并将其与 Arm Ltd. 的 Grace CPU 架构结合起来。该芯片拥有 141 GB 的 HBM3 内存，以及每秒 5 TB 的带宽。 GH200 可以在 NVLink 的双 GH200 系统中叠加使用，使内存增加 3.5 倍，带宽增加两倍。这两种产品都将在 2024 年第二季度上市，但英伟达没有透露定价。

AMD新一代旗舰显卡本计划性能翻倍 可惜流产了

AMD新一代旗舰显卡本计划性能翻倍 可惜流产了 按照AMD GPU目前的结构布局，9个SE引擎可能对应144个或者180个CU单元，但是曝料称其实超过了200个，很可能是216个，也就是每个引擎包含24个CU单元，只是因为良品率问题不一定能全部启用。相比于RX 7900 XTX 96个CU单元，这样的规模翻了一番还多，理论上完全可以做到性能翻倍！按照之前曝光的结构图，AMD新旗舰核心采用Chiplet小芯片设计，总计三个GCD模块，每个之内有三个SE引擎，AMD称之为SED(着色器引擎芯片)，同时还有一个MID(多媒体与输入输出芯片)、三个AID(主动中介层芯片)。至于这一设计为何取消，目前仍无确切说法，但也不难猜测：要么性能达不到预期，要么功耗超过了预期。模拟渲染图 ... PC版： 手机版：