壁仞科技 AI 软件首席架构师丁云帆:国产 AI 芯片单个算力即使看起来不够强,也能通过综合手段提升集群算力

壁仞科技 AI 软件首席架构师丁云帆:国产 AI 芯片单个算力即使看起来不够强,也能通过综合手段提升集群算力 7 月 5 日消息,在上海举办的世界人工大会(WAIC)上,壁仞科技副总裁兼 AI 软件首席架构师丁云帆在论坛演讲中提到,当前解决算力瓶颈问题需要从三个维度考虑,分别是硬件集群算力、软件有效算力、异构聚合算力。他认为,做好这三个维度的工作,即使国产 AI 芯片单个算力不强,也能通过综合手段提升算力,满足国内大模型训练的需求。

相关推荐

封面图片

壁仞科技丁云帆:做好三类工作,国产 AI 芯片也可用于大模型训练

壁仞科技丁云帆:做好三类工作,国产 AI 芯片也可用于大模型训练 在刚结束的 2024 世界人工智能大会上,壁仞科技副总裁兼 AI 软件首席架构师丁云帆在谈及计算瓶颈时表示,解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。“从这三个维度把相应的工作做好了,即使国产 AI 芯片单个算力看起来不够强,也能通过综合手段提升算力,满足国内大模型训练的需求。”(新浪科技)

封面图片

壁仞 科技首款通用GPU 芯片BR100 发布,打破全球算力纪录

壁仞 科技首款通用GPU 芯片BR100 发布,打破全球算力纪录 官方称,BR100 创出全球算力纪录,16 位浮点算力达到 1000T 以上,8 位定点算力达到 2000T 以上,单芯片峰值算力达到 PFLOPS 级别。 采用 Chiplet 技术、新一代 PCIe 5.0、率先支持 CXL 互连协议 这东西是 GPGPU,只能跑计算不能3D渲染的

封面图片

摩尔线程升级智算集群解决方案,万卡集群成 AI 主战场标配

摩尔线程升级智算集群解决方案,万卡集群成 AI 主战场标配 7 月 3 日,芯片设计公司摩尔线程宣布其 AI 旗舰产品夸娥(KUAE)智算集群解决方案实现重大升级,从当前的千卡级别大幅扩展至万卡规模。摩尔线程是国内明星初创企业之一,其核心产品是图形处理器(GPU)。随着大模型参数越来越多,对算力的需求越来越高,GPU 成为当前市场备受追捧的产品。摩尔线程创始人兼 CEO 张建中表示,在多元趋势下,万卡已是 AI 模型训练主战场的标配。随着计算量不断攀升,大模型训练亟需超级工厂,即一个 “大且通用” 的加速计算平台,以缩短训练时间,实现模型能力的快速迭代。当前,国际科技巨头都在通过积极部署千卡乃至超万卡规模的计算集群,以确保大模型产品的竞争力。随着模型参数量从千亿迈向万亿,模型能力更加泛化,大模型对底层算力的诉求进一步升级,万卡甚至超万卡集群成为这一轮大模型竞赛的入场券。(中国日报)

封面图片

【新造车游戏,又要变了?】AI 日上曝光的 3000 块自研计算芯片 D1 组成的超级计算机集群 Dojo ExaPOD,马斯克

【新造车游戏,又要变了?】AI 日上曝光的 3000 块自研计算芯片 D1 组成的超级计算机集群 Dojo ExaPOD,马斯克对于计算能力的「破壁」,又将看似明确的智能电动车竞争从「三电」系统转到了「算力」上,拉到了另一个维度。 #抽屉IT

封面图片

中国发放“算力券”助力AI初创企业

中国发放“算力券”助力AI初创企业 中国正在采取措施为其人工智能初创企业创造公平的竞争环境。其背景是,中国科技巨头正在抢占已经因美国芯片限制措施而受到挤压的用于AI训练的计算资源。 包括最大的城市上海在内,至少有17个城市的政府承诺提供“算力券”,以补贴AI初创企业。由于关键芯片供应日益稀缺,AI初创企业面临着数据中心成本上升的问题。 ()

封面图片

【ChatGPT算力消耗惊人,能烧得起的中国公司寥寥无几】中国企业用于云基础设施的资本支出有限,投资投资智算集群、AI大模型需要

【ChatGPT算力消耗惊人,能烧得起的中国公司寥寥无几】中国企业用于云基础设施的资本支出有限,投资投资智算集群、AI大模型需要从有限的预算中分走支出。更大的挑战是,中短期内不仅无法盈利,还要亏更多钱。 #抽屉IT

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人