壁仞科技丁云帆:做好三类工作,国产 AI 芯片也可用于大模型训练

壁仞科技丁云帆:做好三类工作,国产 AI 芯片也可用于大模型训练 在刚结束的 2024 世界人工智能大会上,壁仞科技副总裁兼 AI 软件首席架构师丁云帆在谈及计算瓶颈时表示,解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。“从这三个维度把相应的工作做好了,即使国产 AI 芯片单个算力看起来不够强,也能通过综合手段提升算力,满足国内大模型训练的需求。”(新浪科技)

相关推荐

封面图片

壁仞科技 AI 软件首席架构师丁云帆:国产 AI 芯片单个算力即使看起来不够强,也能通过综合手段提升集群算力

壁仞科技 AI 软件首席架构师丁云帆:国产 AI 芯片单个算力即使看起来不够强,也能通过综合手段提升集群算力 7 月 5 日消息,在上海举办的世界人工大会(WAIC)上,壁仞科技副总裁兼 AI 软件首席架构师丁云帆在论坛演讲中提到,当前解决算力瓶颈问题需要从三个维度考虑,分别是硬件集群算力、软件有效算力、异构聚合算力。他认为,做好这三个维度的工作,即使国产 AI 芯片单个算力不强,也能通过综合手段提升算力,满足国内大模型训练的需求。

封面图片

壁仞 科技首款通用GPU 芯片BR100 发布,打破全球算力纪录

壁仞 科技首款通用GPU 芯片BR100 发布,打破全球算力纪录 官方称,BR100 创出全球算力纪录,16 位浮点算力达到 1000T 以上,8 位定点算力达到 2000T 以上,单芯片峰值算力达到 PFLOPS 级别。 采用 Chiplet 技术、新一代 PCIe 5.0、率先支持 CXL 互连协议 这东西是 GPGPU,只能跑计算不能3D渲染的

封面图片

#视频 为追赶美国的芯片开发技术,中国政府承诺投入1,800亿美元以支持国内芯片行业。中国科技初创企业壁仞开发出的BR100芯片

#视频 为追赶美国的芯片开发技术,中国政府承诺投入1,800亿美元以支持国内芯片行业。中国科技初创企业壁仞开发出的BR100芯片据称已可以与英伟达强大的A100芯片相匹敌。本则视频介绍了上述两种图形处理芯片的设计与运算性能,并解读两个超级大国争夺人工智能领域主导地位之战。

封面图片

壁仞科技创始人张文:下次创业会选择不被美国制裁的餐饮业

壁仞科技创始人张文:下次创业会选择不被美国制裁的餐饮业 徐冰在讨论中指出,尽管目前中国与美国在算力上存在约10倍的差距,但这一差距有望随着资金的大量投入而逐渐缩小。他认为,随着国产芯片的快速发展,算力作为商品,其差距是可以弥补的。徐冰还提到,过去十年AI创造的价值高达2万亿美元,相当于英伟达的市值,这表明中国在AI领域仍具有巨大的发展潜力。与商汤、科大讯飞一同被列入美国商务部的“实体清单”的壁仞科技创始人张文表示,下一次创业他不想再从事AI行业,而是可能会选择进入餐饮业,一个不会被美国制裁的领域。他幽默地说:“我不知道(这个企业)对美国的麦当劳是不是有影响”。 ... PC版: 手机版:

封面图片

【新造车游戏,又要变了?】AI 日上曝光的 3000 块自研计算芯片 D1 组成的超级计算机集群 Dojo ExaPOD,马斯克

【新造车游戏,又要变了?】AI 日上曝光的 3000 块自研计算芯片 D1 组成的超级计算机集群 Dojo ExaPOD,马斯克对于计算能力的「破壁」,又将看似明确的智能电动车竞争从「三电」系统转到了「算力」上,拉到了另一个维度。 #抽屉IT

封面图片

Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型

Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型 这款芯片是Meta训练与推理加速器项目(MTIA)的最新版本,MTIA是Meta专门为AI工作负载设计的定制芯片系列,可以对Facebook和Instagram上的内容进行排名和推荐。该公司去年发布了首款MTIA产品。据Meta介绍,新一代AI芯片由台积电代工,采用了其5纳米工艺制程。MTIA也是该公司更广泛产品开发的一部分,针对Meta独特的工作负载和系统进行了优化。与前一个版本相比,新的MTIA在计算能力和内存带宽上都提高了一倍多,同时保持了与其工作负载的紧密联系,可以更好地服务全球用户,提供个性化的推荐和优化的用户体验。Meta表示:“为了实现我们定制芯片的雄心壮志,我们不仅要投资于计算芯片,还要投资于内存带宽、网络、容量以及其他下一代硬件系统。”Meta转向AI服务使其对计算能力的需求不断增长,一方面,该公司要让Facebook、Instagram等应用接入AI功能,另一方面,Meta正在开发自己的大语言模型,以期与OpenAI的ChatGPT展开竞争。去年10月,Meta表示,将在支持AI的基础设施上投入多达350亿美元,包括数据中心和硬件。“到2024年,AI将成为我们最大的投资领域,”首席执行官扎克伯格当时告诉投资者。后续发展也确如扎克伯格所言,但这笔支出的很大一部分流向了英伟达。据悉,此前Meta已经购买了数十万张英伟达上一代芯片H100,以支持其升级内容推荐系统和生成式AI产品。到2024年底,Meta的基础设施将包括35万张H100,每张售价为2.5万-3万美元。当然,不单单是Meta,越来越多的公司都在开发AI芯片,包括微软、谷歌、亚马逊等科技公司。不过,这显然不是一个快速解决方案。到目前为止,这些努力并没有减少业界对英伟达AI芯片的需求。AI热潮使英伟达成为世界第三大最有价值的科技公司,仅次于微软和苹果公司。在2024财年,该公司数据中心业务营收475亿美元,而前一年仅为150亿美元。分析人士预测,到2025财年,这一数字将再增加一倍以上。相关文章:Meta推出新款AI芯片 旨在降低对英伟达的依赖 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人