马斯克 xAI 公布大型语言模型 Grok

马斯克 xAI 公布大型语言模型 Grok Grok 是一款模仿《银河系漫游指南》的AI，因此几乎可以回答任何问题。它会机智地回答问题且有叛逆倾向，讨厌幽默的人可能不适合它。它还将回答大多数AI会拒绝的尖锐问题。 xAI 先是训练了330亿参数的原型模型 Grok-0，接着在过去两个月训练出了 Grok-1。初始版本上下文支持8192个 token。未来将添加其它感官如视觉和听觉。预训练数据截至2023年第三季度，根本优势是可以通过 X/Twitter 实时了解世界信息流。 推理和编码基准测试中：Grok-1 强过 GPT-3.5，弱于 PaLM 2 (Bard)、Claude 2、GPT-4。 《2023年5月匈牙利全国高中数学考试》测试中 (防止AI"背题")： 1. GPT-4 (68%) 2. Grok-1 (59%) 3. Claude-2 (55%) 4. GPT-3.5 (41%) 5. Grok-0 (37%)

马斯克证实 xAI 将自行打造超级计算机训练 Grok 大语言模型

马斯克证实 xAI 将自行打造超级计算机训练 Grok 大语言模型 马斯克证实其名下人工智能初创企业 xAI 已结束与甲骨文扩大现有协议、租用英伟达芯片的洽谈。他表示，xAI 正打造一台拥有 10 万块英伟达 H100 GPU 的超级计算机，预计将在本月晚些时候交付并开始训练。 他指出，“这将成为全球范围内功能最强大的训练集群，并且领先优势巨大”，“我们的核心竞争力在于比任何其他的人工智能公司都更快，这是缩小差距的唯一途径”。

马斯克证实xAI将自行打造超级计算机训练Grok大语言模型

马斯克证实xAI将自行打造超级计算机训练Grok大语言模型 PANews 7月11日消息，据IT之家报道，马斯克证实其名下人工智能初创企业xAI已结束与甲骨文扩大现有协议、租用英伟达芯片的洽谈。他表示，xAI正打造一台拥有10万块英伟达H100 GPU的超级计算机，预计将在本月晚些时候交付并开始训练。他指出，“这将成为全球范围内功能最强大的训练集群，并且领先优势巨大”，“我们的核心竞争力在于比任何其他的人工智能公司都更快，这是缩小差距的唯一途径”。 在此之前，xAI已经从甲骨文租用了2.4万块的H100芯片（的算力），并用它们训练出了Grok 2。他表示Grok 2 目前正处于最终的打磨阶段，只需要进行些许微调和Bug修复就可以发布，预计最快下个月发布。今年5月有报道称，两家公司接近达成扩大合作关系的协议，xAI将斥资约100亿美元向甲骨文租用云服务器、为期数年。