马斯克：训练Grok 3用了10万块英伟达H100 年底上线 会很特别

马斯克：训练Grok 3用了10万块英伟达H100 年底上线 会很特别 这里所说的H100是英伟达开发的图形处理单元，也称为Hopper，是专门用于处理大语言模型（LLMs）数据的AI芯片。随着科技公司竞相开发更智能的AI产品，这些芯片成了硅谷的热门商品。每块英伟达H100人工智能芯片的价格估计在3万美元左右，也有人估计价格高达4万美元，如果批量购买的话可能会有折扣。通过简单计算，单单训练Grok 3就用了价值30亿至40亿美元的人工智能芯片，目前不确定这些芯片是否是马斯克公司直接购买的，此前报道称，马斯克旗下的xAI公司正在与甲骨文谈判，计划在未来几年内花费100亿美元租用云服务器。近年来，马斯克的公司已直接购买了大量的H100芯片。据报道，马斯克曾将原本供特斯拉使用的价值5亿美元的H100芯片转给了X公司。相较于Grok 2，使用10万块H100训练Grok 3无疑是一个巨大的提升。今年4月，马斯克在接受挪威主权基金负责人尼科莱·坦根(Nicolai Tangen)的采访时表示，训练Grok 2需要大约2万块H100。目前，xAI已发布了Grok-1和Grok-1.5版本，最新版本仅对X平台上的早期测试者和现有用户开放。马斯克在周一的帖子中透露，Grok 2计划于今年8月推出，并暗示Grok 3将于年底发布。xAI没有回应置评请求。10万块H100芯片听起来很多，但其他科技巨头，如Meta，也在大量购买GPU芯片。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）今年1月曾表示，到2024年底，Meta将购买约35万块英伟达H100芯片，并表示包括其他类型的GPU在内，Meta将拥有约60万块芯片。如果是这样的话，Meta将为构建自家人工智能能力花掉大约180亿美元。这些芯片的积累也导致了过去一年中顶尖AI人才的招聘竞争变得异常激烈。AI初创公司Perplexity的创始人兼首席执行官阿拉文德·斯里尼瓦斯（Aravind Srinivas）谈到了他试图从Meta挖角一位资深研究人员的经历，但对方因扎克伯格拥有大量AI芯片而拒绝了他的邀请。“我试图聘请一位非常资深的Meta研究员，他们的回答是：‘等你有了1万块H100 GPU再来找我。’”斯里尼瓦斯说。 ... PC版： 手机版：

马斯克梦想AI超算霸权 旗下公司却疯狂采购英伟达芯片

马斯克梦想AI超算霸权 旗下公司却疯狂采购英伟达芯片 面对是否跟进的问题，英伟达CEO黄仁勋在一次全体员工会议上给出了既坚定又充满了外交技巧的回应。他明确表示，英伟达已经很久没有在X平台上投放广告，且目前无此计划。同时，他强调英伟达不会公开评论其他公司的决策。值得注意的是，黄仁勋并未提及英伟达与马斯克商业帝国之间日益紧密的合作关系。目前，随着英伟达GPU及其相关硬件和服务需求的激增，公司市值已经远超2万亿美元大关。英伟达芯片等产品正在为生成式人工智能、机器人技术、科研和数据中心项目提供强大的算力支持。最近一个财季，英伟达的收入飙升至221亿美元，增长率高达265%。去年，其销售额甚至超过了业界巨头英特尔。与此同时，马斯克旗下的公司也在大规模采购英伟达的硬件，以支持他们复杂的人工智能开发计划。在本周于加州圣何塞举行的英伟达年度开发者大会上，英伟达与马斯克旗下公司之间的紧密关系再次得到了凸显。这场盛会吸引了约16万名参与者，包括众多名人和行业领袖。马斯克于2023年7月成立的人工智能初创公司xAI的高管也参与了其中的两场讨论会。xAI联合创始人兼研究科学家克里斯蒂安·塞格迪（Christian Szegedy）曾在谷歌工作，他和英伟达的数据科学家博扬·通古兹（Bojan Tunguz）就如何利用英伟达的GPU加速其人工智能聊天机器人Grok的训练和推理能力进行了深入的对话。xAI另一位联合创始人兼研究工程师伊戈尔·巴布什金（Igor Babuschkin）曾是OpenAI和谷歌的资深人士，他分享了这家初创公司如何使用英伟达技术加速Grok的训练和提升推理能力。在英伟达新一代人工智能芯片Blackwell的发布活动上，马斯克公开表达了对英伟达技术的高度赞赏。他称：“在当前市场上，没有任何人工智能硬件能与英伟达的产品相媲美。”马斯克虽曾是OpenAI的创始人之一，但由于与其他创始人的分歧，他选择另辟蹊径，创立了xAI，致力于开发更多人工智能模型和软件。同时，马斯克的电动汽车公司特斯拉，多年来一直在积极开发人工智能软件，以实现其汽车的自动驾驶化。此外，特斯拉还在研发“擎天柱”人形机器人，旨在执行复杂的工作。尽管特斯拉的主营业务收入主要来自汽车销售，马斯克却经常提醒股东们以不同的角度看待公司。他在今年1月在X平台上发表的一篇帖子中写道：“在很多人看来，特斯拉是一家汽车公司，但实际上，我们是一家致力于人工智能和机器人技术的公司。”特斯拉在2021年8月的人工智能日（AI Day）活动中，首次披露了构建“Dojo”超级计算机的计划，该计算机旨在利用特斯拉汽车收集的海量视频和数据来训练人工智能模型。在特斯拉的人工智能项目中，英伟达的硬件扮演了核心角色。去年8月，特斯拉前人工智能工程师蒂姆·扎曼（Tim Zaman）在X平台上透露，由1万块英伟达H100芯片构成的人工智能集群已经准备就绪，即将启用。马斯克在今年1月的一篇文章中透露，尽管构建Dojo超级计算机的成本高达5亿美元，但“特斯拉今年在英伟达硬件上的投入将远超这个数字。”他补充说：“在当前的人工智能领域，保持竞争力至少需要每年数十亿美元的投入。”今年1月的特斯拉第四季度财报电话会议上，一位分析师询问了关于Dojo最新进展及特斯拉是否有“足够的英伟达GPU供应来训练该系统”的问题。马斯克回应表示，特斯拉正在同时采用英伟达和Dojo两条路径，暗示在构建Dojo的过程中，特斯拉不会完全依赖英伟达的技术。他称Dojo是一个“值得尝试的长期项目，因为它的潜在回报极大，但这还存在不确定性。”马斯克的亲密好友、前特斯拉董事会成员、X的投资者、甲骨文创始人拉里·埃里森（Larry Ellison）去年12月在公司财报电话会议上表示，xAI在开发首个版本的Grok时，尽管已从甲骨文获取了英伟达GPU，但马斯克对GPU的需求远超所提供的数量。埃里森当时称：“哎，他们对GPU的渴求远远超出了我们的供应。我们已经提供了不少，但他们还想要更多。我们正在努力，确保能满足他们的这一需求。”尽管马斯克与黄仁勋保持着长期联系，且两家公司的合作比以往任何时候都更紧密，但两者关系并非总是一帆风顺。去年6月，马斯克在X平台上批评英伟达在GPU供应短缺时哄抬价格的行为，并称英伟达为“垄断企业”。他强调，竞争性的芯片正在开发中，"英伟达不能永远垄断大规模训练和推理领域。”然而，这些评论似乎并未对黄仁勋造成太大影响。几个月后，在《纽约时报》举办的DealBook峰会上，黄仁勋对马斯克及OpenAI表达了赞赏。他提到，英伟达花了约五年时间来完善首台人工智能超级计算机DGX系统，并亲自交给了马斯克，供OpenAI使用。黄仁勋在讲台上回忆说：“当马斯克看到这台设备时，他的反应是‘我也想要一个’。正是他向我介绍了OpenAI的。那一天，我将世界上第一台人工智能超级计算机交给了OpenAI。”对这些信息，英伟达的发言人拒绝发表评论，特斯拉和xAI也没有回应评论请求。 ... PC版： 手机版：

消息称马斯克旗下人工智能公司 xAI 即将完成 60 亿美元最大融资

消息称马斯克旗下人工智能公司 xAI 即将完成 60 亿美元最大融资 新一轮的融资有助于 xAI 获得更多 AI 算力资源以同 OpenAI、Anthropic 对手展开模型竞争：马斯克近日表示，xAI 的下一代 Grok 模型正在 2 万块英伟达 H100 上进行训练，而未来的 Grok 3 对 AI GPU 的需求还将增长至 10 万块。 2024-03-18 2023-07-13

【​马斯克：公司继续大量购买英伟达的GPU】

【​马斯克：公司继续大量购买英伟达的GPU】 特斯拉CEO马斯克表示，当前宏观经济环境仍然具有不确定性；预计将于第三季度举行Cybertruck交付活动；最好还是按更低的价格大量发货；现在是进一步扩大公司领先优势的好时机；公司继续大量购买英伟达的GPU。

据 CNBC 获得的芯片制造商的电子邮件显示，马斯克下令将原本为特斯拉准备的数千个英伟达制造的 AI 芯片转移到他的社交媒体公司

据 CNBC 获得的芯片制造商的电子邮件显示，马斯克下令将原本为特斯拉准备的数千个英伟达制造的 AI 芯片转移到他的社交媒体公司 X。该举动可能会导致特斯拉获取价值 5 亿美元的处理器的时间推迟数月。 据马斯克称，特斯拉正在囤积英伟达的 H100 人工智能芯片，以推动其转型为“人工智能和机器人领域的领导者”。在今年早些时候的特斯拉财报电话会议上，他表示公司将在今年年底前将 H100 的采购量从 35,000 增加到 85,000。随后，马斯克在 X 平台上发文称，特斯拉将在“综合训练和推理 AI”上花费 100 亿美元，其中主要用于汽车。 但 CNBC 获得的英伟达员工的邮件显示，马斯克在夸大为特斯拉购买 AI 芯片的情况。实际上，很多这些处理器现在正运往 X 公司 主要用于其 AI 子公司 xAI。 根据 CNBC 报道，Nvidia 在 12 月的一份备忘录中提到：“埃隆优先考虑在 X 部署 H100 GPU 集群，而不是特斯拉，将原本计划发给特斯拉的 1.2 万块 H100 GPU 转给 X。”作为交换，原本计划在 1 月和 6 月发给 X 的 1.2 万块 H100 将转给特斯拉。在后续的消息中，Nvidia 的员工指出，马斯克在财报电话会议上的评论以及随后在 X 上的帖子“与预订情况相冲突。” 在 CNBC 的报道发布后，马斯克在 X 上发文表示，特斯拉无法接收英伟达的 GPU，因为公司在德克萨斯州奥斯汀的工厂尚未完工。他还估计，特斯拉将在 2024 年花费 30 到 40 亿美元购买英伟达的 AI 芯片。 将 AI 芯片从特斯拉转移到 X 公司可能会激怒特斯拉的投资者，他们押注于马斯克兑现其完全自动驾驶汽车的承诺。该公司计划在8月份的一次活动中推出其首款自动驾驶出租车。与此同时，特斯拉的自动驾驶仪(Autopilot)和全自动驾驶(Full driving)驾驶辅助功能(作为该公司自动驾驶工作的基石)因数百起撞车事故而受到审查，其中数十起导致人员死亡。 马斯克的人工智能初创公司 xAI 正在与 OpenAI、谷歌等公司竞赛，争取开发出有用的生成式人工智能应用及其背后的大型语言模型。上个月，该公司宣布了一轮 60 亿美元的融资，承诺将推出先进的产品和支持这些产品的基础设施。 标签: #xAI #X #特斯拉 频道: @GodlyNews1 投稿: @GodlyNewsBot

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备

特斯拉可能拥有多达十余万片英伟达H100 而xAI也拥有大量高性能GPU储备 X 帐户"技术兄弟"最近发布消息称，马克-扎克伯格的 Meta 公司目前已拥有全球最大的 H100 GPU “武器库”之一，数量约为 35 万个。不过，马斯克对该表格中特斯拉和 xAI 的排名不以为然，他指出："如果衡量正确的话，特斯拉会排在第二位，X/xAI 会排在第三位。"假设其他条件不变，这意味着特斯拉现在拥有 3 万到 35 万块英伟达 H100 GPU。另一方面，xAI 现在可能拥有 2.6 万到 3 万块英伟达AI计算卡。早在今年 1 月，埃隆-马斯克（Elon Musk）在确认对特斯拉 Dojo 超级计算机投资 5 亿美元（相当于约 1 万个 H100 GPU）的同时，还宣布这家电动汽车巨头"今年在英伟达硬件上的花费将超过这个数字"，因为"在人工智能领域具有竞争力的赌注目前每年至少有几十亿美元"。在马斯克从DeepMind、OpenAI、Google研究院、微软研究院、特斯拉和多伦多大学聘请人才，从头开始建立自己的人工智能企业时，xAI曾在2023年购买了大约1万台英伟达的GPU。不过，可以合理推断，这些采购很可能与 A100 GPU 有关。此后，从马斯克最新发布的 X 帖子中可以推断，xAI 似乎还积累了大量的 H100 GPU。当然，考虑到人工智能领域的创新速度，这些 H100 GPU 很快就会过时。早在今年 3 月，英伟达就发布了GB200 Grace Blackwell 超级芯片，将一个基于 Arms 的 Grace CPU 与两个 Blackwell B100 GPU 结合在一起。该系统可以部署一个包含27 万亿个参数的人工智能模型，在执行聊天机器人提供答案等任务时，速度有望提高30 倍。 ... PC版： 手机版：