院士郑纬民:国产AI芯片如果生态改善 哪怕60%性能也有人用

院士郑纬民:国产AI芯片如果生态改善 哪怕60%性能也有人用 郑纬民强调,算力是大模型产业的主要开销,占据了大模型训练成本的70%以及推理成本的95%。他指出,如果国产AI芯片生态系统得到改善,哪怕只能达到国外芯片60%的性能,用户也会愿意使用。他进一步阐释了生态系统的重要性,认为如果一个原本在英伟达平台上开发的人工智能软件能够轻松移植到国产系统上,这就意味着生态系统是良好的。反之,如果移植过程困难重重,耗时长达一年或两年,那么生态系统就是不成熟的。为了改善国产AI芯片的生态系统,郑纬民提出了需要做好的“十个软件”,包括编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配系统、容错系统和存储系统。他相信,只要这些方面得到优化,即使硬件性能不是顶尖,用户也会因为良好的使用体验而选择使用国产AI芯片。 ... PC版: 手机版:

相关推荐

封面图片

中国工程院院士郑纬民:开展基于国产AI芯片大模型基础设施研究 要关注整体系统工程化和超算租赁

中国工程院院士郑纬民:开展基于国产AI芯片大模型基础设施研究 要关注整体系统工程化和超算租赁 在第二届开放原子开源基金会OpenHarmony技术大会,中国工程院院士郑纬民表示,要大力开展基于国产AI芯片大模型基础设施研究,要改变国产卡的生态系统不好的局面,做好整体系统工程化,关注软硬件协同设计,解决大模型基础设施的部分问题,同时他提醒,国内超级计算机租赁也能进行大模型训练。

封面图片

TON基金会分享了其2023年的生态系统计划。

TON基金会分享了其2023年的生态系统计划。 TON基金会发表了,对TON的发展历史和生态系统形成进行了回溯,并展望2023年的发展计划。 TON生态系统的优先事项: ▪改善生态系统,发挥其最大潜力。 ▪获得新的用户(通过新颖的技术和用例)。 ▪制定一般网络标准和团队准则。 ▪为开发者提供更多支持。 ▪开发其余的Web3组件。,,TON Storage,和跨链桥。 你可以在这里阅读 。

封面图片

AMD称定制小芯片设计是未来 UCIe将创建完整生态系统

AMD称定制小芯片设计是未来 UCIe将创建完整生态系统 近日,AMD高级副总裁、企业研究员兼产品技术架构师Sam Naffziger与AMD首席技术官Mark Papermaster在一次视频对话中表示,UCIe规范可以创建完整生态系统,实现定制的小芯片设计。Sam Naffziger称,AMD的Infinity Fabric接口打造了独特的EPYC、Ryze和Instinct MI300系列产品,提供了无与伦比的核心数量、性能和功能集,“(接口)延迟太高,功耗太高,但我们有一个有能力的工程师团队,他们说,‘我知道如何解决这个问题’,‘我将提供一个轻量级的接口’,‘我将使它变校’,‘我将消除延迟周期’,如果我们达到了这些目标,现在我们就有了一个多芯片解决方案,就像一个单芯片SoC,我们设定了这些目标,然后监督团队的执行以实现目标,它是如此具有变革性”。Sam Naffziger认为,UCIe可以做的是拥有一个小芯片生态系统和库,为第三方开发模块化设计能力提供了机会,那么一个定制平台就能合理利用其他公司的某一个小芯片并连接起来。未来将看到更多这样的产品涌现,但这需要标准和经过深思熟虑的设计平台能力。UCIe全称为Universal Chiplet Interconnect Express,即通用小芯片互连通道,这是一种开放的行业标准,旨在封装级别建立互连。AMD是开发UCIe规范的团队之一,但是否计划开发与UCIe兼容的芯片仍有待观察。去年在美国加利福利亚州圣何塞举办的“Intel Innovation”峰会上,英特尔CEO帕特-基尔辛格(Pat Gelsinger)展示了世界上首个采用UCIe连接的芯片,代号“Pike Creek”。其带有采用英特尔自家Intel 3工艺制造的UCIe IP模块,同时还有台积电(TSMC)N3E工艺制造的新思科技(Synopsys)UCIe IP模块,两个模块之间通过英特尔EMIB先进封装技术进行连接。 ... PC版: 手机版:

封面图片

【SEC举报人称Chai支付应用未在Terra生态系统中使用加密货币】

【SEC举报人称Chai支付应用未在Terra生态系统中使用加密货币】 一位向美国证券交易委员会(SEC)的举报人透露,Chai支付应用在推广Terra生态系统时,并未实际使用加密货币。这一指控如果属实,可能揭示了Terra生态系统中潜在的不透明实践。此举报可能会引起监管机构的进一步审查,并对Terra生态系统产生重要影响。 快讯/广告 联系 @xingkong888885

封面图片

MetaGamers,游戏玩家所属的生态系统!

MetaGamers,游戏玩家所属的生态系统! https://metagamers.ai MetaGamers 计划将最惊人的生态系统带入 Metaverse 的新世界,专为游戏玩家而设! 他们的计划是从 6 个重要元素开始授权和构建这一创新理念,这些元素将能够与彼此和周围环境互动,旨在创造有利的盈利机制。 上图中可视化的生态系统 KYC 和由 Dessert Finance 和 AuditRateTech 双重审计。 https://poocoin.app/tokens/0xfe41170d4b9eca684af0756200226ff205a7c6f4 CMC & CG 即将上市 http://t.me/metagamerstoken

封面图片

AMD 正式发布 MI300 加速器,性能较英伟达 H100 芯片提高 60%

AMD 正式发布 MI300 加速器,性能较英伟达 H100 芯片提高 60% 在美国加州圣何塞举行的 AI 特别活动中,AMD 宣布正式推出其旗舰 AI GPU 加速器 MI300X,并称其性能比英伟达的 H100 芯片提高了 60%。 据 AMD 介绍,新芯片为性能最高的芯片,拥有超过 1500 亿个晶体管。与英伟达 H100 芯片相比,AMD 新芯片的内存为其 2.4 倍,内存带宽为其 1.6 倍,训练性能与 H100 芯片相当,在运行 AI 模型方面则比英伟达快得多。 、

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人