马斯克的xAI拿下60亿美元融资 准备对决OpenAI

马斯克的xAI拿下60亿美元融资 准备对决OpenAI 融到 60 亿美金，就意味着能做出比肩 OpenAI 的大模型吗？因为他是马斯克。能吸引到最优秀的 AI 人才，能搞定大算力和大笔融资做 Scaling Law（缩放定律，被视为大模型的秘诀），除了他，你很难想到还有第二个人。况且，背靠自动驾驶这个被视为大模型最大的应用场景、X.com ToC 流量入口，以及作为曾经的 OpenAI 联合创始人身份，马斯克的入场，势必冲击大模型的制高点。01 马斯克：钱和卡，我搞得定2023 年 2 月，微软向 OpenAI 投资了 100 亿美元，你或许觉得这笔钱应该能花好一阵子。但在今天，100 亿美金几乎才是 2024 年做大模型的起平线。撇开现金流充足的Google，OpenAI、Anthropic 和 xAI 分别获得了约 130 亿美元、70 亿美元、60 亿美元融资额，来“卷”新一代大模型。这主要是由于做大模型所需要的算力一再扩张，尤其是随着多模态融合成为新的 AGI 大模型路线。如果说去年做大模型的算力门槛是 1 万张英伟达 H100 的算力集群，那么，今年这个数字变成了至少 10 万张 H100，这是马斯克筹集 60 亿美元资金的主要用途。据 The Information 采访的一位投资者，马斯克在最近与潜在和现有 xAI 投资者的通话中表示，公司将把大部分资金用于租用 AI 芯片，并帮助其在 2025 年下半年达到 10 万个 GPU，以便改进 Grok 背后的模型。这位人士说，马斯克暗示，他是仅有的几位能筹集到足够资金与领先的人工智能公司竞争的高管之一。上个月，马斯克在上的现场音频聊天中表示，xAI 将需要 10 万个 NVIDIA H100 GPU 来训练 Grok 3.0。他表示，该公司目前正在大约 20,000 个 H100 芯片上训练 Grok 2.0。图片来源：视觉中国英伟达没有公布过其芯片的成本，但研究公司 SemiAnalysis 的首席分析师 Dylan Patel 表示，租用 10 万台 H100 每年可能花费约 17 亿美元；即将推出的被称为 GB200 的 NVIDIA AI 芯片可能比前代产品贵 50%。能不能“借”到钱买算力是一方面，有了钱能不能买到算力又是另一方面。当前，英伟达最高端的 GPU 系列仍旧供不应求，云厂商能用来训练大模型的算力集群有限。马斯克将目光锁定在了三大云厂商之外的另一家甲骨文 Oracle。与亚马逊云 AWS、Google云、微软云 Azure 不同，甲骨文与 OpenAI 或 Anthropic 没有业务往来，这可能使其对马斯克作为合作伙伴更具吸引力。同时，马斯克也是甲骨文联合创始人埃里森的老朋友，埃里森此前曾担任马斯克的另一家公司特斯拉的董事会董事，并出资帮助马斯克接管了当时还被称为 Twitter 的 X。据直接知情人士透露，XAI 已经是 Oracle 最大的 H100 客户，使用了超过 15000 个芯片。现在，马斯克已经明确 xAI 将需要多达 10 万个专用半导体来训练和运行下一代 Grok。他告诉投资者，xAI 计划将所有这些芯片串联成一台大型计算机，他称之为“算力超级工厂”（gigafactory of compute）。马斯克希望在 2025 年秋天之前让这台超级计算机投入运行，并将亲自负责按时交付。他称，这些连接起来的 H100 集群，建成后的规模将至少是目前最大 GPU 集群的四倍。在“算力超级工厂”的计划下，XAI 可能与甲骨文公司合作开发超级计算机，也可能选择其他合作方或合作形式。一个细节体现在本轮融资的出资方包括红杉、A16Z 等基金，唯独没有甲骨文的身影。相比之下，其他三大云厂商和大模型公司之间的合作则通过投资来“锁定”云客户。无论如何，“算力超级工厂”给了 Grok 上一线牌桌的起点，这场 AI 背后的算力竞赛，还将继续加码。此前，扎克伯格表示，到 2024 年底，Meta 将拥有 35 万台 H100，其中一些将用于训练公司的 Llama 开源大模型。微软计划在今年和明年为 OpenAI 提供容纳数十万个 GPU 的服务器。OpenAI 和微软已经在讨论到 2028 年开发一台价值 1000 亿美元的超级计算机。02 Grok，马斯克商业版图不可或缺的一环马斯克曾于 2015 年联合创办了非营利机构OpenAI，2018 年 2 月，马斯克辞去了 OpenAI 董事会席位，理由是与他作为特斯拉 CEO 的角色存在“潜在的未来利益冲突”。去年，马斯克创办了 xAI，再度下场做大模型，以开发一种他认为与Google和 OpenAI 相比不那么“清醒（woke）”，不那么容易受到政治正确或其他审查制度影响的替代方案。在今天融资官宣的博客里，xAI 再次重申了这一点，称 xAI 专注于开发真实、有能力且对全人类最大利益的先进 AI 系统，公司使命是了解宇宙的真实本质。图片来源：视觉中国过去一年，xAI 从 2023 年 7 月公司发布，到 11 月在 X 上发布 Grok-1，再到最近宣布的具有长上下文能力的改进型 Grok-1.5 模型，再到具有图像理解功能的 Grok-1.5V，xAI 的模型能力得到了快速提升。在马斯克的构想中，Grok 对语音的限制比 OpenAI 和Google的 AI 助手要少。马斯克表示，该公司目前正在 2 万个 GPU 上训练 Grok 2，最近的一个版本可以处理文档、图表和现实世界中的物体。马斯克计划将该模型扩展到音频和视频领域。马斯克在向潜在投资者推介时说，xAI 比 Anthropic 和 OpenAI 更有优势，因为这两家公司没有直接向客户销售其模型的明确途径，而是依赖云提供商转售其技术。他称，xAI 将通过包括特斯拉在内的其他公司销售 Grok，从而更直接地接触用户。而自动驾驶也被视为大模型最大的应用场景。融资消息官宣后，马斯克在为 xAI 招聘人才。｜截图来源：X.comxAI 官网中，该公司正在招聘数据、多模态、模型训练的人才。｜图片来源：xAI值得注意的是，xAI 大约有 50 名员工，其员工相关成本仅是对手的一小部分。今天，xai 也在官网寻求更多 AI 人才，释放了一众招聘岗位。一边狂裁特斯拉，一边疯狂为 xAI 招人，马斯克的 AI 之路，走的依然是他自己的风格。 ... PC版： 手机版：

马斯克用行动反击 开源自家顶级大模型 压力给到OpenAI

马斯克用行动反击 开源自家顶级大模型 压力给到OpenAI 有意思的是，Grok-1宣布开源的封面图为Midjourney生成，可谓“AI helps AI”。一直吐槽OpenAI不open的马斯克，自然要在社交平台上含沙射影一番，“我们想了解更多OpenAI的开放部分。”Grok-1遵照Apache 2.0协议开放模型权重和架构。这意味着它允许用户自由地使用、修改和分发软件，无论是个人还是商业用途。这种开放性鼓励了更广泛的研究和应用开发。项目发布至今，已经在GitHub上揽获6.5k星标，热度还在持续增加。项目说明中明确强调，由于Grok-1是一个规模较大（314B参数）的模型，需要有足够GPU内存的机器才能使用示例代码测试模型。网友表示这可能需要一台拥有628 GB GPU内存的机器。此外，该存储库中MoE层的实现效率并不高，之所以选择该实现是为了避免需要自定义内核来验证模型的正确性。目前已开源的热门大模型包括Meta的Llama2、法国的Mistral等。通常来说，发布开源模型有助于社区展开大规模的测试和反馈，意味着模型本身的迭代速度也能加快。Grok-1是一个混合专家（Mixture-of-Experts，MOE）大模型，由马斯克旗下的AI创企xAI在过去4个月里开发。回顾该模型的开发历程：在宣布成立xAI之后，相关研究人员首先训练了一个330亿参数的原型语言模型（Grok-0），这个模型在标准语言模型测试基准上接近LLaMA2（70B）的能力，但使用了更少的训练资源；之后，研究人员对模型的推理和编码能力进行了重大改进，最终开发出了Grok-1并于2023年11月发布，这是一款功能更为强大的SOTA语言模型，在HumanEval编码任务中达到了63.2%的成绩，在MMLU中达到了73%，超过了其计算类中的所有其他模型，包括ChatGPT-3.5和Inflection-1。与其他大模型相比，Grok-1的优势在哪呢？xAI特别强调，Grok-1是他们自己从头训练的大模型，即从2023年10月开始使用自定义训练堆栈在JAX和Rust上训练，没有针对特定任务（如对话）进行微调；Grok-1的一个独特而基本的优势是，它可以通过X平台实时了解世界，这使得它能够回答被大多数其他AI系统拒绝的辛辣问题。Grok-1发布版本所使用的训练数据来自截至2023年第三季度的互联网数据和xAI的AI训练师提供的数据；3140亿参数的Mixture-of-Experts模型，其对于每个token，活跃权重比例为25%，这一庞大的参数量为其提供了强大的语言理解和生成能力。xAI此前介绍，Grok-1将作为Grok背后的引擎，用于自然语言处理任务，包括问答、信息检索、创意写作和编码辅助。未来，长上下文的理解与检索、多模态能力都是该模型将会探索的方向之一。 ... PC版： 手机版：

OpenAI在法庭文件中反击：称马斯克无理取闹 担忧他趁机窃密

OpenAI在法庭文件中反击：称马斯克无理取闹 担忧他趁机窃密 这份文件是OpenAI针对马斯克今年2月起诉该公司、首席执行官萨姆·奥特曼（Sam Altman）及总裁格雷格·布罗克曼（Greg Brockman）的首次法律回应。马斯克控诉该公司背离了旨在构建“负责任人工智能”的创始理念，并对其最大投资方微软表现出过分的依赖。在递交给旧金山法院的文件中，OpenAI坚决驳斥了马斯克提出的指控，明确指出公司并未违背任何协定。OpenAI强调，“正如诉讼文件所明确指出的，我们与马斯克之间并不存在所谓的创立合同，也未曾形成任何协议。”在此之前，OpenAI已经通过内部通讯和博客文章对马斯克的指责做出了回应。OpenAI在文件中进一步指出：“马斯克所要求的赔偿之离谱，正如他那编造的指控一般，简直令人难以置信。他请求法院发布命令，迫使OpenAI根据他所想象的合同条款，对公司进行重组并开源技术。”在诉讼发起前，OpenAI与马斯克之间的纷争已众所周知。马斯克作为公司的早期支持者和创始团队成员，最后选择与OpenAI分道扬镳。他对OpenAI的商业化策略及与微软的紧密合作持批评立场。博客文章中，OpenAI透露马斯克曾试图促使该公司并入其汽车制造巨头特斯拉。而在法庭文件中，OpenAI指出马斯克曾支持以营利性公司的形式运作OpenAI，但条件是他必须掌控该公司。OpenAI的律师在文件中表示：“马斯克见证了OpenAI取得的重大技术进展后，现在欲分享这番成功。”马斯克和OpenAI均未立即回应评论请求。马斯克与OpenAI的争端触及了人工智能安全和可访问性的核心议题，影响波及整个创业界。OpenAI投资者、风险资本家维诺德·科斯拉（Vinod Khosla）最近表示，马斯克无法单凭个人力量在通用人工智能（AGI）领域实现突破。OpenAI在法庭文件中进一步辩称，如果此案启动预审调查和信息共享（即发现程序），马斯克可能利用诉讼获取OpenAI的“专有记录和技术”。OpenAI对此表示担忧，并警告，对发现程序的请求“需谨慎处理”，以防止敏感信息泄露和滥用。此外，OpenAI还请求法院将此案定性为“复杂案件”，这样可以避免对法院及相关各方造成不必要的负担。加州法律规定，当案件涉及复杂的技术问题、多个当事人及众多索赔时，通常会被视为复杂案件，并指派有专门知识和经验的法官处理。 ... PC版： 手机版：

【马斯克起诉OpenAI及其CEO奥特曼】

【马斯克起诉OpenAI及其CEO奥特曼】 当地时间周四晚间，特斯拉CEO埃隆·马斯克向旧金山高等法院，以违反合同为由起诉OpenAI及其CEO萨姆·奥特曼。马斯克在诉讼中表示，奥特曼和OpenAI违背了这家人工智能研究公司成立时达成的一项协议，即开发技术以造福人类而不是利润。马斯克声称 OpenAI最近与科技巨头微软的关系损害了该公司最初致力于公共、开源的通用人工智能。 快讯/广告 联系 @xingkong888885