无问芯穹 Infini-AI 云平台宣布支持千卡混训，具备万卡扩展能力

无问芯穹 Infini-AI 云平台宣布支持千卡混训，具备万卡扩展能力 近日，无问芯穹联合创始人兼 CEO 夏立雪发布了无问芯穹大规模模型异构分布式混合训练系统，该系统千卡异构混合训练集群算力利用率最高达 97.6%。同时，无问芯穹 Infini-AI 云平台宣布已集成大模型异构千卡混训能力，可进行单任务千卡规模异构芯片混合训练，具备万卡扩展性，支持包括 AMD、华为升腾、天数智芯、沐曦、摩尔线程、NVIDIA 六种异构芯片在内的大模型混合训练。据介绍，7 月起，通过试训申请的用户，已可在 Infini-AI 上一键发起 700 亿参数规模的大模型训练。（新浪科技）

7 月 4 日，在 2024 年世界人工智能大会 AI 基础设施论坛上，无问芯穹联合创始人兼 CEO 夏立雪发布了全球首个千卡规

7 月 4 日，在 2024 年世界人工智能大会 AI 基础设施论坛上，无问芯穹联合创始人兼 CEO 夏立雪发布了全球首个千卡规模异构芯片混训平台，千卡异构混合训练集群算力利用率最高达到了 97.6%。 据悉，无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力，是全球首个可进行单任务千卡规模异构芯片混合训练的平台，具备万卡扩展性，支持包括 AMD、华为升腾、天数智芯、沐曦、摩尔线程、NVIDIA 六种异构芯片在内的大模型混合训练。 无问芯穹率先构建了 “MxN” 中间层的生态格局，实现多种大模型算法在多元芯片上的高效、统一部署。 截止目前，Infini-AI 已支持了 Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3 系列等共 30 多个模型，以及 AMD、华为升腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA 等 10 余种计算卡。 7 月起，通过试训申请的用户，已可在 Infini-AI 上一键发起 700 亿参数规模的大模型训练。

摩尔线程国产GPU千卡集群完成30亿参数大模型实训

摩尔线程国产GPU千卡集群完成30亿参数大模型实训 本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性，同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式。据悉，这次的MT-infini-3B模型训练总共用时13.2天，全程稳定无中断，集群训练稳定性达到100％，千卡训练和单机相比扩展效率超过90％。目前，实训出来的MT-infini-3B性能在同规模模型中跻身前列，相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型，在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。无问芯穹正在打造“M种模型”和“N种芯片”之间的“M x N”中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署，已与摩尔线程达成深度战略合作。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司，夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配，完成LLama2 700亿参数大模型的训练测试。T-infini-3B的训练，则是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。就在日前，基于摩尔线程的夸娥千卡集群，憨猴集团也成功完成了7B、34B、70B不同参数量级的大模型分布式训练，双方还达成战略合作。经双方共同严苛测试，兼容适配程度高，训练效率达到预期，精度符合要求，整个训练过程持续稳定。 ... PC版： 手机版：

摩尔线程夸娥智算中心解决方案升级，从千卡级别大幅扩展至万卡规模

摩尔线程夸娥智算中心解决方案升级，从千卡级别大幅扩展至万卡规模 7 月 3 日，摩尔线程重磅宣布其 AI 旗舰产品夸娥（KUAE）智算集群解决方案实现重大升级，从当前的千卡级别大幅扩展至万卡规模。摩尔线程夸娥万卡智算集群，以全功能 GPU 为底座，旨在打造国内领先的、能够承载万卡规模、具备万 P 级浮点运算能力的国产通用加速计算平台，专为万亿参数级别的复杂大模型训练而设计。此外，摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司分别就三个万卡集群项目进行了战略签约，多方共同构建好用的国产 GPU 集群。摩尔线程创始人兼 CEO 张建中表示，当前正处在生成式人工智能的黄金时代，技术交织催动智能涌现，GPU 成为加速新技术浪潮来临的创新引擎。摩尔线程致力于向全球提供加速计算的基础设施和一站式解决方案，为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。（澎湃新闻）

【阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造】

【阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造】 阿里巴巴集团董事会主席兼 CEO、阿里云智能集团 CEO 张勇在云峰会上表示，阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造。阿里云已经累积了从飞天云操作系统、芯片到智算平台的“AI+ 云计算”的全栈技术实力，阿里云将把这些 AI 基础设施和大模型能力向所有企业开放，共同推动 AI 产业的发展。

美国政府将向格芯拨款15亿美元 为芯片法案迄今为止规模最大的拨款

美国政府将向格芯拨款15亿美元 为芯片法案迄今为止规模最大的拨款 “今天的投资将通过扩大用于卫星和空间通信等技术的芯片的国内生产，来保护我们的国家安全，”白宫国家经济委员会主任Lael Brainard在与记者的电话会议上表示。格芯是一家防务和工业承包商，其合作伙伴包括通用汽车和洛克希德·马丁。一位高级别政府官员表示，在这些工厂生产的芯片预计将出口到全球，以确保长期经济效益。参议院多数党领袖、来自纽约州的民主党人查克·舒默表示，这是《芯片法案》下迄今为止规模最大的初步拨款，并补充说对其落地纽约州感到很自豪。美国商务部称，这些项目预计将在未来十年创造约1500个制造业和9000个建筑业就业岗位。 ... PC版： 手机版：