北京智源人工智能研究院林咏华:国内 AI 芯片的大模型训练性能与国外约有三年差距

北京智源人工智能研究院林咏华:国内AI芯片的大模型训练性能与国外约有三年差距北京智源人工智能研究院副院长、总工程师林咏华表示,当前中国AI芯片的大模型集群训练性能,只有个别接近英伟达A100/A800,大多数不到50%。此外是生态差距巨大,我国AI芯片公司有40余家,但中国AI芯片整体的市场占有率加起来不超过10%,各家AI芯片软件各异、生态十分零碎割裂。(蓝鲸记者黄心怡)

相关推荐

封面图片

每日人工智能动态汇总(2023-11-29)

每日人工智能动态汇总(2023-11-29)1.TheInformation:OpenAI预计不会向微软等外部投资者提供董事会席位。2.亚马逊发布升级款AI系统处理器Trainium2,AWS与英伟达拓展伙伴关系。3.亚马逊推出一款人工智能聊天机器人。4.阿里达摩院裁撤量子实验室,负责人施尧耘发声:希望继续的事业,超越任何一家公司。5.百度何俊杰:AI原生应用将成创新增长的“弹簧板”。6.商汤科技与上海联通签署战略合作框架协议,共同打造世界级人工智能产业集群。7.报告:预计2027年中国人工智能加速服务器将达134亿美元,五年年复合增长率21.8%。8.北京智源人工智能研究院林咏华:国内AI芯片的大模型训练性能与国外约有三年差距。

封面图片

人工智能公司MosaicML称不要迷信英伟达芯片 AMD芯片提供类似性能

人工智能公司MosaicML称不要迷信英伟达芯片AMD芯片提供类似性能目前在人工智能热潮下英伟达股价水涨船高,之前业内基本都认同英伟达的A100/H100加速卡提供最佳的性能,所以英伟达的这些专用加速卡被各大公司哄抢。人工智能初创公司MosaicML在后称大家不应该迷信英伟达芯片,因为AMD米兰芯片的性能并不差。该公司使用多种工具对英伟达A100加速卡和AMDMI250加速卡进行测试,测试显示MI250加速卡也足够用。MosaicML称在基于实际工作负载测试中,AMDMI250加速卡的每GPU数据吞吐量相当于英伟达A10040GB版的80%,是A10080GB版的73%。因此确实有差距但差距并不算大,对人工智能公司来说并不是非得高价抢购英伟达显卡,其他加速卡也能用。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

华为高管:升腾人工智能算力性能已超过英伟达A100

华为高管:升腾人工智能算力性能已超过英伟达A100近期举行的2024世界半导体大会暨南京国际半导体博览会的一场分论坛上,江苏鲲鹏·升腾生态创新中心首席运营官王陶透露,升腾集群是国内唯一已完成训练千亿参数大模型的技术路线,性能已经超过了英伟达A100。王陶表示,中国大模型里面,有近50%选择了升腾技术路线。与英伟达A100相比,升腾人工智能芯片在训练效率层面最高是英伟达的1.1倍。尤其在训练MetaLlama、BloomGPT等模型方面,升腾人工智能算力训练效率大大优于英伟达A100,甚至10倍领先其他国产友商。——

封面图片

【OpenAI将用新方法来训练模型,以对抗人工智能“幻觉】

【OpenAI将用新方法来训练模型,以对抗人工智能“幻觉】6月1日消息,OpenAI发布的最新研究论文显示,该公司正在用一种新的方法来训练人工智能(AI)模型,以对抗人工智能“幻觉”。人工智能幻觉指的是人工智能模型生成内容的能力,这些内容不是基于任何现实世界的数据,而是模型自己想象的产物。人们担心这种幻觉可能带来的潜在问题,包括道德、社会和实际问题。OpenAI的研究人员在报告中表示,即使是最先进的人工智能模型也很容易产生谎言,它们在不确定的时刻往往表现出捏造事实的倾向。而这些幻觉在需要多步骤推理的领域尤其严重,因为一个逻辑错误就足以破坏一个更大的解决方案。该公司提出的新策略是:训练人工智能模型时,奖励每个正确的推理步骤,而不仅仅是简单地奖励正确的最终结论。根据研究人员的说法,这种方法被称为“过程监督”,而不是结果监督,它可能会提高人工智能的性能与准确性,因为这种策略鼓励模型更多地遵循类似人类的“思维链”。

封面图片

海通证券:小模型展现性能,边缘 AI 芯片有望加速落地

海通证券:小模型展现性能,边缘AI芯片有望加速落地小模型展现性能,边缘AI芯片有望加速落地。边缘AI芯片有望搭载小模型弥补大模型局限。尽管云端大模型在性能上全面超越小模型,但它们也存在一些局限性,包括较高的成本、运行速度以及对互联网连接的依赖。相比之下,Phi—3mini的小模型允许用户在没有网络的情况下与虚拟助手进行互动,能够在不上传数据的前提下实现内容总结,解决了AI领域的一部分弊端。未来这类模型有望与智能手机集成,甚至可能内置于常用家电中,为用户的生活提供个性化建议。在AI时代浪潮下,边缘AI芯片具有独特的部署优势且市场前景可观。

封面图片

OpenAI 正在探索制造自己的人工智能芯片

OpenAI正在探索制造自己的人工智能芯片据路透社报道,随着训练人工智能模型的芯片短缺情况日益恶化,公司内部关于人工智能芯片战略的讨论至少从去年开始就一直在进行。据报道,OpenAI正在考虑采取多种策略来推进其芯片雄心,包括收购一家AI芯片制造商或加大内部设计芯片的力度。据路透社报道,OpenAI首席执行官SamAltman已将收购更多人工智能芯片作为公司的首要任务。目前,OpenAI与大多数竞争对手一样,依靠基于GPU的硬件来开发ChatGPT、GPT-4和DALL-E3等模型。GPU并行执行多项计算的能力使其非常适合训练当今最强大的人工智能。但生成式人工智能的蓬勃发展——对于Nvidia等GPU制造商来说是一笔意外之财——却给GPU供应链带来了巨大压力。微软正在与AMD合作开发一款名为Athena的内部AI芯片,据说OpenAI正在测试该芯片。OpenAI在研发方面的大力投资处于有利地位。该公司已筹集超过110亿美元的风险投资,年收入接近10亿美元。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人