7 月 4 日,在 2024 年世界人工智能大会 AI 基础设施论坛上,无问芯穹联合创始人兼 CEO 夏立雪发布了全球首个千卡规

7 月 4 日,在 2024 年世界人工智能大会 AI 基础设施论坛上,无问芯穹联合创始人兼 CEO 夏立雪发布了全球首个千卡规模异构芯片混训平台,千卡异构混合训练集群算力利用率最高达到了 97.6%。 据悉,无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括 AMD、华为升腾、天数智芯、沐曦、摩尔线程、NVIDIA 六种异构芯片在内的大模型混合训练。 无问芯穹率先构建了 “MxN” 中间层的生态格局,实现多种大模型算法在多元芯片上的高效、统一部署。 截止目前,Infini-AI 已支持了 Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3 系列等共 30 多个模型,以及 AMD、华为升腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA 等 10 余种计算卡。 7 月起,通过试训申请的用户,已可在 Infini-AI 上一键发起 700 亿参数规模的大模型训练。

相关推荐

封面图片

无问芯穹 Infini-AI 云平台宣布支持千卡混训,具备万卡扩展能力

无问芯穹 Infini-AI 云平台宣布支持千卡混训,具备万卡扩展能力 近日,无问芯穹联合创始人兼 CEO 夏立雪发布了无问芯穹大规模模型异构分布式混合训练系统,该系统千卡异构混合训练集群算力利用率最高达 97.6%。同时,无问芯穹 Infini-AI 云平台宣布已集成大模型异构千卡混训能力,可进行单任务千卡规模异构芯片混合训练,具备万卡扩展性,支持包括 AMD、华为升腾、天数智芯、沐曦、摩尔线程、NVIDIA 六种异构芯片在内的大模型混合训练。据介绍,7 月起,通过试训申请的用户,已可在 Infini-AI 上一键发起 700 亿参数规模的大模型训练。(新浪科技)

封面图片

无问芯穹发布千卡规模异构芯片混训平台

无问芯穹发布千卡规模异构芯片混训平台 7 月 4 日,在 2024 年世界人工智能大会 AI 基础设施论坛上,无问芯穹联合创始人兼 CEO 夏立雪发布千卡规模异构芯片混训平台,千卡异构混合训练集群算力利用率最高达 97.6%。目前,无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力。

封面图片

摩尔线程国产GPU千卡集群完成30亿参数大模型实训

摩尔线程国产GPU千卡集群完成30亿参数大模型实训 本次实训充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性,同时也在行业内率先开启了国产大语言模型与国产GPU千卡智算集群深度合作的新范式。据悉,这次的MT-infini-3B模型训练总共用时13.2天,全程稳定无中断,集群训练稳定性达到100%,千卡训练和单机相比扩展效率超过90%。目前,实训出来的MT-infini-3B性能在同规模模型中跻身前列,相比在国际主流硬件上(尤其是NVIDIA)训练而成的其他模型,在C-Eval、MMLU、CMMLU等3个测试集上均实现性能领先。无问芯穹正在打造“M种模型”和“N种芯片”之间的“M x N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,已与摩尔线程达成深度战略合作。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司,夸娥千卡集群已与无穹Infini-AI顺利完成系统级融合适配,完成LLama2 700亿参数大模型的训练测试。T-infini-3B的训练,则是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。就在日前,基于摩尔线程的夸娥千卡集群,憨猴集团也成功完成了7B、34B、70B不同参数量级的大模型分布式训练,双方还达成战略合作。经双方共同严苛测试,兼容适配程度高,训练效率达到预期,精度符合要求,整个训练过程持续稳定。 ... PC版: 手机版:

封面图片

芯原创始人直言百模大战就是“群模乱舞”:是在浪费电

芯原创始人直言百模大战就是“群模乱舞”:是在浪费电 戴伟民指出,自ChatGPT引发生成式AI热潮以来,众多企业纷纷投入大模型研发,但这种"群模乱舞"的现象实际上并不经济。他强调,要实现超越人脑智能的AI,需要不断扩大模型参数规模,这对计算力的需求呈指数级增长,将导致巨大的电力消耗。他预测,到2028年,中国基础大模型的数量将少于10个,更理想的状态是5个。戴伟民还提到,目前全球有超过100款AI大模型,但这种模式并不可持续,他认为,应该集中资源发展更高效、更环保的AI技术,而不是盲目追求模型数量。此外,戴伟民还探讨了生成式AI所需的算力芯片发展趋势,他认为未来将有更多专用芯片出现,挑战现有的GPU/GPGPU架构。 ... PC版: 手机版:

封面图片

摩尔线程创始人张建中:从今年开始,万卡将成为智算中心最低标配

摩尔线程创始人张建中:从今年开始,万卡将成为智算中心最低标配 2024 世界人工智能大会(WAIC 2024)期间,摩尔线程宣布 AI 旗舰产品夸娥(KUAE)智算集群解决方案实现升级,从当前的千卡级别扩展至万卡规模。此外,摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团等公司就三个万卡集群项目进行了战略签约,将共同构建国产 GPU 集群。摩尔线程创始人兼 CEO 张建中表示:“当前,我们正处在生成式人工智能的黄金时代,技术交织催动智能涌现,GPU 成为加速新技术浪潮来临的创新引擎。” 在他看来,“多元趋势下,AI 模型训练的主战场,万卡已是标配。”(新浪科技)

封面图片

近日,初创公司 Odyssey(奥德赛)联合创始人兼 CEO Oliver Cameron 为其 “好莱坞级别的” 人工智能(A

近日,初创公司 Odyssey(奥德赛)联合创始人兼 CEO Oliver Cameron 为其 “好莱坞级别的” 人工智能(AI)系统启动 900 万美元种子轮融资。 通过这个模型,人们可以视觉控制一个故事(情节)按自己的想象发展。 Cameron 相信,自家的文生视频平台将产生高质量电影、节目秀、视频游戏。 相比 OpenAI 的 Sora 或谷歌公司的 Veo,平台让用户能够按自己的需要直接控制视觉效果。 该公司还对标 Runway 的 Alpha Gen 3 和快手的 Kling。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人