Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型

Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型 这款芯片是Meta训练与推理加速器项目(MTIA)的最新版本,MTIA是Meta专门为AI工作负载设计的定制芯片系列,可以对Facebook和Instagram上的内容进行排名和推荐。该公司去年发布了首款MTIA产品。据Meta介绍,新一代AI芯片由台积电代工,采用了其5纳米工艺制程。MTIA也是该公司更广泛产品开发的一部分,针对Meta独特的工作负载和系统进行了优化。与前一个版本相比,新的MTIA在计算能力和内存带宽上都提高了一倍多,同时保持了与其工作负载的紧密联系,可以更好地服务全球用户,提供个性化的推荐和优化的用户体验。Meta表示:“为了实现我们定制芯片的雄心壮志,我们不仅要投资于计算芯片,还要投资于内存带宽、网络、容量以及其他下一代硬件系统。”Meta转向AI服务使其对计算能力的需求不断增长,一方面,该公司要让Facebook、Instagram等应用接入AI功能,另一方面,Meta正在开发自己的大语言模型,以期与OpenAI的ChatGPT展开竞争。去年10月,Meta表示,将在支持AI的基础设施上投入多达350亿美元,包括数据中心和硬件。“到2024年,AI将成为我们最大的投资领域,”首席执行官扎克伯格当时告诉投资者。后续发展也确如扎克伯格所言,但这笔支出的很大一部分流向了英伟达。据悉,此前Meta已经购买了数十万张英伟达上一代芯片H100,以支持其升级内容推荐系统和生成式AI产品。到2024年底,Meta的基础设施将包括35万张H100,每张售价为2.5万-3万美元。当然,不单单是Meta,越来越多的公司都在开发AI芯片,包括微软、谷歌、亚马逊等科技公司。不过,这显然不是一个快速解决方案。到目前为止,这些努力并没有减少业界对英伟达AI芯片的需求。AI热潮使英伟达成为世界第三大最有价值的科技公司,仅次于微软和苹果公司。在2024财年,该公司数据中心业务营收475亿美元,而前一年仅为150亿美元。分析人士预测,到2025财年,这一数字将再增加一倍以上。相关文章:Meta推出新款AI芯片 旨在降低对英伟达的依赖 ... PC版: 手机版:

相关推荐

封面图片

Meta 公司推出新一代定制 AI 芯片

Meta 公司推出新一代定制 AI 芯片 当地时间周三,Meta 公布了其芯片开发的最新成果。该芯片被称为“下一代”Meta 训练和推理加速器 (MTIA),是去年 MTIA v1 的后继产品。目前,MTIA 主要训练排名和推荐算法,但 Meta 表示,其目标是最终扩展芯片功能,开始训练生成式人工智能,如其 Llama 语言模型。Meta 表示,新的 MTIA 芯片将“从根本上”侧重于提供计算、内存带宽和内存容量之间的适当平衡。该芯片拥有 256MB 的片上内存和 1.35GHz 的主频,采用 5 纳米工艺制造,相较于 MTIA v1 的 128MB 和 800MHz 整体性能提高了 3 倍。 、

封面图片

英伟达发布新一代数据中心超级芯片

英伟达发布新一代数据中心超级芯片 在周二的主题演讲中,黄仁勋介绍了下一代 DGX GH200 Grace Hopper 超级芯片,专为 OpenAI 的 ChatGPT 等大内存生成性人工智能模型设计,以扩展全球的数据中心。 在发布会前的新闻发布会上,英伟达的超大规模和高性能计算部门主管 Ian Buck 告诉记者,GH200 比该公司的 H100 数据中心系统容纳了更多的内存和更大的带宽。GH200 采用了英伟达的 Hopper GPU 架构,并将其与 Arm Ltd. 的 Grace CPU 架构结合起来。该芯片拥有 141 GB 的 HBM3 内存,以及每秒 5 TB 的带宽。 GH200 可以在 NVLink 的双 GH200 系统中叠加使用,使内存增加 3.5 倍,带宽增加两倍。这两种产品都将在 2024 年第二季度上市,但英伟达没有透露定价。

封面图片

Meta正在招募芯片工程师以开发下一代AI和ML专用加速器

Meta正在招募芯片工程师以开发下一代AI和ML专用加速器 根据最近在网上发布的招聘信息,Meta 公司希望招聘高技能的硬件工程师来开发新一代专用集成电路(ASIC)设计。ASIC 芯片在硬件层面为特定的计算用途而定制,这意味着它们不像传统 CPU 那样用于通用用途。但是,ASIC 在其设计用途上也非常高效,例如为人工智能工作负载和聊天机器人服务提供机器学习算法。Meta公司最新招聘职位分布在印度班加罗尔和加利福尼亚桑尼维尔。在印度,Facebook 母公司正在招聘一名ASIC 工程师,为其数据中心构建硬件加速器。招聘信息称,这名新员工将成为 ASIC 团队不可或缺的一员,该团队致力于开发最先进的芯片架构,以加速人工智能/机器学习算法。尽管人工智能应用对能源的需求巨大,但 Meta 仍希望打造"绿色"数据中心加速器。新任 ASIC 工程师需要开发新的先进硬件架构和算法,以支持和测试这些新芯片。该职位的职责包括开发性能和功能模型以验证新架构,创建机器学习内核以分析 ASIC 芯片,以及针对 ML 工作负载优化架构。Facebook 公司正在寻找至少拥有计算机科学或工程学士学位、10 年以上工作经验并了解处理器、内存系统和片上互连网络等计算机架构概念的人才。应聘者还需要在 C++(和 C)等低级面向对象编程语言方面有丰富的经验。Meta的一些与ASIC架构相关的招聘信息最早是在2023年12月发布的,但两周前又重新发布了。该公司此前曾表示,希望开发自己的"推理加速器",并将于 2024 年上线。据 NVIDIA 首席执行官黄仁勋(Jensen Huang)称,GPU 在改善 Meta 的"推荐引擎"和公司整体收入方面发挥了关键作用。但 NVIDIA 也表示,在不久的将来,它很可能无法为任何从事人工智能业务的人提供足够的 GPU 加速器。Meta 似乎也在研究人工通用智能 (AGI)这一难以捉摸的概念,这对于最新的 GPU 技术来说是一项极其艰巨的任务,但对于专用的 ASIC 芯片设计来说,却能从中获益匪浅。 ... PC版: 手机版:

封面图片

NVIDIA 宣布对其所有平台进行优化,以加速最新一代大语言模型 Meta Llama 3。开源模型与 NVIDIA 加速计算相

NVIDIA 宣布对其所有平台进行优化,以加速最新一代大语言模型 Meta Llama 3。开源模型与 NVIDIA 加速计算相结合,使开发人员、研究人员和企业能够在各种应用程序中负责任地进行创新。 接受过 NVIDIA AI 培训的 Meta 工程师在包含 24,576 个 NVIDIA H100 Tensor Core GPU(与 RoCE 和 NVIDIA Quantum-2 InfiniBand 网络连接)的计算机集群上训练 Llama 3。在 NVIDIA 的支持下,Meta 为其旗舰模型调整了网络、软件和模型架构。为了进一步推进生成式 AI 的最先进水平,Meta 最近透露了将其基础设施扩展到 350,000 个 H100 GPU 的计划。 开发人员可以通过浏览器在上试用 Llama 3。 标签: #NVIDIA #Meta #AI 频道: @GodlyNews1 投稿: @GodlyNewsBot

封面图片

Meta将率先使用英伟达最新人工智能芯片

Meta将率先使用英伟达最新人工智能芯片 英伟达首席财务官科莱特·克雷斯(Colette Kress)周二告诉金融分析师,“我们将在今年晚些时候上市”,但也表示,新GPU的出货量要到2025年才会增加。而社交媒体巨头 Meta 是英伟达最大的客户之一,此前该公司购买了英伟达公司数十万上一代芯片。Meta 首席执行官马克·扎克伯格 在 1 月份就曾透露,该公司计划会在今年年底前将大约 350,000 个早期芯片(称为 H100)储存在库存中。本次Meta社交平台的发言人向外媒公布的最新消息显示,在今年晚些时候,会收到英伟达推出的全新的人工智能芯片,而且还透露,收到的将是英伟达的首批出货。此前,扎克伯格在周一的一份声明中表示,Meta 计划使用 Blackwell 来训练该公司的骆驼模型。该公司目前正在上周宣布的两个GPU集群上训练第三代模型,每个集群包含约24,000个H100 GPU。Meta 发言人表示,Meta 计划继续使用这些集群来训练 Llama 3,并将 Blackwell 用于该模型的未来几代。 ... PC版: 手机版:

封面图片

高通可能已在其新一代Arm芯片上测试了Windows 12操作系统

高通可能已在其新一代Arm芯片上测试了Windows 12操作系统 在 10 月份的一次活动中,高通公司推出了Snapdragon X Elite SoC,称其新型计算平台将是为 Windows 打造的最"智能"、最强大、最高效的处理器。12 月,高通公司表示,其 Arm 芯片比苹果公司的 M3更快,并提供 AI 加速功能,可提升生产力、创造力和基于 AI 的工作流程。高通公司的演示文稿中包含了迄今为止发现的对即将更新的 Windows 生态系统最明显的暗示。这家无晶圆厂芯片制造商提到,在高通公司用于测试骁龙 X Elite SoC CPU 性能的笔记本电脑参考设计上安装了一个未指定的"Windows 操作系统"。该公司将新的 Arm 芯片和通用 Windows 操作系统与两款基于 12 核 i7-1360P 和 10 核 i7-1355U 英特尔 CPU、运行 Windows 11 的三星 x86 笔记本电脑进行了基准测试。Windows OS"和"Windows 11"之间的具体区别表明,高通公司使用的可能是 Windows 12 的预发布版本。有传言称,以人工智能为主打特色的 Windows 12 可能会在 2024 年中期推出,其中包括改进的 Copilot。如果传言属实,那么高通公司在 10 月份推出可测试的工作版本并不遥远。它的界面设计将与 Windows 11 相似,但会有一些独特的变化,例如"浮动"任务栏。桌面小部件也可能回归,这不禁让人想起2000 年代的 Windows Vista 的视觉体验是多么美好。专用的人工智能加速逻辑单元将使高度关注人工智能的操作系统受益匪浅。英特尔针对人工智能相关应用和工作负载优化了其最新的 x86 芯片,而 Arm 芯片则可以凭借其传统的能效提供更好的用户体验。如果微软在 Windows 12 中对人工智能下了大赌注,那么与骁龙 X Elite 这样的人工智能优先 SoC 配对,就能展示人工智能加速如何扩大规模以改善整体 PC 体验。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人