马斯克：训练Grok 3用了10万块英伟达H100 年底上线 会很特别

马斯克：训练Grok 3用了10万块英伟达H100 年底上线 会很特别 这里所说的H100是英伟达开发的图形处理单元，也称为Hopper，是专门用于处理大语言模型（LLMs）数据的AI芯片。随着科技公司竞相开发更智能的AI产品，这些芯片成了硅谷的热门商品。每块英伟达H100人工智能芯片的价格估计在3万美元左右，也有人估计价格高达4万美元，如果批量购买的话可能会有折扣。通过简单计算，单单训练Grok 3就用了价值30亿至40亿美元的人工智能芯片，目前不确定这些芯片是否是马斯克公司直接购买的，此前报道称，马斯克旗下的xAI公司正在与甲骨文谈判，计划在未来几年内花费100亿美元租用云服务器。近年来，马斯克的公司已直接购买了大量的H100芯片。据报道，马斯克曾将原本供特斯拉使用的价值5亿美元的H100芯片转给了X公司。相较于Grok 2，使用10万块H100训练Grok 3无疑是一个巨大的提升。今年4月，马斯克在接受挪威主权基金负责人尼科莱·坦根(Nicolai Tangen)的采访时表示，训练Grok 2需要大约2万块H100。目前，xAI已发布了Grok-1和Grok-1.5版本，最新版本仅对X平台上的早期测试者和现有用户开放。马斯克在周一的帖子中透露，Grok 2计划于今年8月推出，并暗示Grok 3将于年底发布。xAI没有回应置评请求。10万块H100芯片听起来很多，但其他科技巨头，如Meta，也在大量购买GPU芯片。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）今年1月曾表示，到2024年底，Meta将购买约35万块英伟达H100芯片，并表示包括其他类型的GPU在内，Meta将拥有约60万块芯片。如果是这样的话，Meta将为构建自家人工智能能力花掉大约180亿美元。这些芯片的积累也导致了过去一年中顶尖AI人才的招聘竞争变得异常激烈。AI初创公司Perplexity的创始人兼首席执行官阿拉文德·斯里尼瓦斯（Aravind Srinivas）谈到了他试图从Meta挖角一位资深研究人员的经历，但对方因扎克伯格拥有大量AI芯片而拒绝了他的邀请。“我试图聘请一位非常资深的Meta研究员，他们的回答是：‘等你有了1万块H100 GPU再来找我。’”斯里尼瓦斯说。 ... PC版： 手机版：

消息称马斯克旗下人工智能公司 xAI 即将完成 60 亿美元最大融资

消息称马斯克旗下人工智能公司 xAI 即将完成 60 亿美元最大融资 新一轮的融资有助于 xAI 获得更多 AI 算力资源以同 OpenAI、Anthropic 对手展开模型竞争：马斯克近日表示，xAI 的下一代 Grok 模型正在 2 万块英伟达 H100 上进行训练，而未来的 Grok 3 对 AI GPU 的需求还将增长至 10 万块。 2024-03-18 2023-07-13

马斯克旗下xAI完成60亿美元融资 A16Z、红杉资本参投

马斯克旗下xAI完成60亿美元融资 A16Z、红杉资本参投 主要投资者包括Valor Equity Partners、Vy Capital、Andreessen Horowitz、Sequoia Capital、Fidelity Management & Research Company、Prince Alwaleed Bin Talal和Kingdom Holding等。该公司表示：“本轮融资的资金将用于将xAI的首批产品推向市场，建设先进的基础设施，并加速未来技术的研发。”马斯克在回应电动汽车分析师索耶·梅瑞特分享这条消息的帖子时透露，xAI的投前估值为160亿美元。不过，马斯克稍后又发帖进行了更正：“为我打错字道歉，投前估值是180亿美元。”资料显示，xAI于2023年7月成立，去年11月推出首款产品Grok聊天机器人。近期，xAI展示了Grok-1.5 Vision多模态模型，除文本外也可处理图像、文档和表格内容。新一轮的融资有助于xAI获得更多AI算力资源以同OpenAI、Anthropic等对手展开模型竞争。马斯克此前表示，xAI的下一代Grok模型正在2万块英伟达H100上进行训练，而未来的Grok 3对AI GPU的需求还将增长至10万块。 ... PC版： 手机版：

马斯克梦想AI超算霸权 旗下公司却疯狂采购英伟达芯片

马斯克梦想AI超算霸权 旗下公司却疯狂采购英伟达芯片 面对是否跟进的问题，英伟达CEO黄仁勋在一次全体员工会议上给出了既坚定又充满了外交技巧的回应。他明确表示，英伟达已经很久没有在X平台上投放广告，且目前无此计划。同时，他强调英伟达不会公开评论其他公司的决策。值得注意的是，黄仁勋并未提及英伟达与马斯克商业帝国之间日益紧密的合作关系。目前，随着英伟达GPU及其相关硬件和服务需求的激增，公司市值已经远超2万亿美元大关。英伟达芯片等产品正在为生成式人工智能、机器人技术、科研和数据中心项目提供强大的算力支持。最近一个财季，英伟达的收入飙升至221亿美元，增长率高达265%。去年，其销售额甚至超过了业界巨头英特尔。与此同时，马斯克旗下的公司也在大规模采购英伟达的硬件，以支持他们复杂的人工智能开发计划。在本周于加州圣何塞举行的英伟达年度开发者大会上，英伟达与马斯克旗下公司之间的紧密关系再次得到了凸显。这场盛会吸引了约16万名参与者，包括众多名人和行业领袖。马斯克于2023年7月成立的人工智能初创公司xAI的高管也参与了其中的两场讨论会。xAI联合创始人兼研究科学家克里斯蒂安·塞格迪（Christian Szegedy）曾在谷歌工作，他和英伟达的数据科学家博扬·通古兹（Bojan Tunguz）就如何利用英伟达的GPU加速其人工智能聊天机器人Grok的训练和推理能力进行了深入的对话。xAI另一位联合创始人兼研究工程师伊戈尔·巴布什金（Igor Babuschkin）曾是OpenAI和谷歌的资深人士，他分享了这家初创公司如何使用英伟达技术加速Grok的训练和提升推理能力。在英伟达新一代人工智能芯片Blackwell的发布活动上，马斯克公开表达了对英伟达技术的高度赞赏。他称：“在当前市场上，没有任何人工智能硬件能与英伟达的产品相媲美。”马斯克虽曾是OpenAI的创始人之一，但由于与其他创始人的分歧，他选择另辟蹊径，创立了xAI，致力于开发更多人工智能模型和软件。同时，马斯克的电动汽车公司特斯拉，多年来一直在积极开发人工智能软件，以实现其汽车的自动驾驶化。此外，特斯拉还在研发“擎天柱”人形机器人，旨在执行复杂的工作。尽管特斯拉的主营业务收入主要来自汽车销售，马斯克却经常提醒股东们以不同的角度看待公司。他在今年1月在X平台上发表的一篇帖子中写道：“在很多人看来，特斯拉是一家汽车公司，但实际上，我们是一家致力于人工智能和机器人技术的公司。”特斯拉在2021年8月的人工智能日（AI Day）活动中，首次披露了构建“Dojo”超级计算机的计划，该计算机旨在利用特斯拉汽车收集的海量视频和数据来训练人工智能模型。在特斯拉的人工智能项目中，英伟达的硬件扮演了核心角色。去年8月，特斯拉前人工智能工程师蒂姆·扎曼（Tim Zaman）在X平台上透露，由1万块英伟达H100芯片构成的人工智能集群已经准备就绪，即将启用。马斯克在今年1月的一篇文章中透露，尽管构建Dojo超级计算机的成本高达5亿美元，但“特斯拉今年在英伟达硬件上的投入将远超这个数字。”他补充说：“在当前的人工智能领域，保持竞争力至少需要每年数十亿美元的投入。”今年1月的特斯拉第四季度财报电话会议上，一位分析师询问了关于Dojo最新进展及特斯拉是否有“足够的英伟达GPU供应来训练该系统”的问题。马斯克回应表示，特斯拉正在同时采用英伟达和Dojo两条路径，暗示在构建Dojo的过程中，特斯拉不会完全依赖英伟达的技术。他称Dojo是一个“值得尝试的长期项目，因为它的潜在回报极大，但这还存在不确定性。”马斯克的亲密好友、前特斯拉董事会成员、X的投资者、甲骨文创始人拉里·埃里森（Larry Ellison）去年12月在公司财报电话会议上表示，xAI在开发首个版本的Grok时，尽管已从甲骨文获取了英伟达GPU，但马斯克对GPU的需求远超所提供的数量。埃里森当时称：“哎，他们对GPU的渴求远远超出了我们的供应。我们已经提供了不少，但他们还想要更多。我们正在努力，确保能满足他们的这一需求。”尽管马斯克与黄仁勋保持着长期联系，且两家公司的合作比以往任何时候都更紧密，但两者关系并非总是一帆风顺。去年6月，马斯克在X平台上批评英伟达在GPU供应短缺时哄抬价格的行为，并称英伟达为“垄断企业”。他强调，竞争性的芯片正在开发中，"英伟达不能永远垄断大规模训练和推理领域。”然而，这些评论似乎并未对黄仁勋造成太大影响。几个月后，在《纽约时报》举办的DealBook峰会上，黄仁勋对马斯克及OpenAI表达了赞赏。他提到，英伟达花了约五年时间来完善首台人工智能超级计算机DGX系统，并亲自交给了马斯克，供OpenAI使用。黄仁勋在讲台上回忆说：“当马斯克看到这台设备时，他的反应是‘我也想要一个’。正是他向我介绍了OpenAI的。那一天，我将世界上第一台人工智能超级计算机交给了OpenAI。”对这些信息，英伟达的发言人拒绝发表评论，特斯拉和xAI也没有回应评论请求。 ... PC版： 手机版：

马斯克：AI竞赛好比扑克游戏 每年要投资数十亿美元

马斯克：AI竞赛好比扑克游戏 每年要投资数十亿美元 马斯克在社交平台X上发帖称：“5亿美元，这显然不是一笔小数目，但也只相当于大约10000块英伟达的H100 AI芯片。”马斯克还称：“特斯拉今年将在英伟达硬件上投入更多资金。要想在AI领域具有竞争力，每年至少要投入数十亿美元。”当前，世界上最大的科技公司现在都在争先恐后地获得尽可能多的英伟达H100图形处理器。该芯片的价格在2.5万美元到3万美元之间，在eBay上甚至达到了4万美元。本月早些时候，Meta CEO马克·扎克伯格曾表示，Meta正在建立一个巨大的GPU库存，目标是在今年年底前积累总计60万块AI芯片。特斯拉也是如此，马斯克称，除了英伟达，特斯拉今年还将从AMD购买AI芯片。马斯克之前曾表示，特斯拉是一家AI和机器人公司，而不只是汽车制造商。 ... PC版： 手机版：

AI芯片抢购将延续 马斯克：企业每年需投数十亿美元才能保持竞争力

AI芯片抢购将延续 马斯克：企业每年需投数十亿美元才能保持竞争力 马斯克表示，仅2024年，特斯拉就将在英伟达AI芯片上花费超5亿美元，但他警告称，特斯拉需要价值“数十亿美元”的硬件才能赶上其最大的竞争对手。“虽然5亿美元显然是一大笔钱，但只相当于大约10000颗英伟达H100芯片。”马斯克在X上的一篇帖子中表示。“特斯拉今年在英伟达硬件上的支出将超过这一数字。要想在AI领域具有竞争力，每年至少要投入数十亿美元。”科技巨头纷纷囤积AI芯片眼下，全球最大的科技公司正在竞相购买英伟达H100 GPU。这款芯片对于构建和训练为ChatGPT等聊天机器人提供支持的大型语言模型至关重要。Meta首席执行官马克·扎克伯格本月早些时候也表示，公司正在建立一个庞大的GPU库存，到2024年底，公司拥有的基础设施将包括35万张来自英伟达的H100显卡。据投行Raymond James的分析师估计，英伟达的H100售价为2.5万至3万美元，如果Meta支付的是价格区间的低端，那么这笔支出将接近90亿美元。尽管英伟达在AI芯片领域占据了霸主地位，但其竞争对手研发的AI芯片也日益受欢迎。去年12月，Meta、OpenAI和微软等科技公司表示，他们将使用AMD最新开发的人工智能芯片Instinct MI300X一款直接对标英伟达H100的芯片。特斯拉也在囤积芯片，马斯克表示，除了英伟达，特斯拉今年还将从AMD购买AI芯片。马斯克之前曾表示，特斯拉是一家AI和机器人公司，而不只是汽车制造商。他表示，特斯拉计划斥资逾10亿美元建造一台巨型“Dojo”超级计算机。马斯克去年7月宣布成立一家名为xAI的人工智能公司，目标是挑战OpenAI。去年11月，xAI发布了自己的聊天机器人Grok。 ... PC版： 手机版：