,主要为本科生高年级、硕博研究生、AI系统从业者设计。

,主要为本科生高年级、硕博研究生、AI系统从业者设计。 这个开源项目英文名字叫做 Deep Learning System 或者 AI System(AISys),中文名字叫做 深度学习系统 或者 AI系统。 本开源项目主要是探讨和学习人工智能、深度学习的系统设计,而整个系统是围绕着 ZOMI 在工作当中所积累、梳理、构建 AI 系统全栈的内容。 课程主要包括以下五大模块: 第一部分,AI基础知识和AI系统的全栈概述的AI系统概述,以及深度学习系统的系统性设计和方法论,主要是整体了解AI训练和推理全栈的体系结构内容。 第二部分,硬核篇介绍AI芯片,这里就很硬核了,从芯片基础到AI芯片的范围都会涉及,芯片设计需要考虑上面AI框架的前端、后端编译,而不是停留在天天喊着吊打英伟达,被现实打趴。 第三部分,进阶篇介绍AI编译器原理,将站在系统设计的角度,思考在设计现代机器学习系统中需要考虑的编译器问题,特别是中间表达乃至后端优化。 第四部分,实际应用推理系统,讲了太多原理身体太虚容易消化不良,还是得回归到业务本质,让行业、企业能够真正应用起来,而推理系统涉及一些核心算法和注意的事情也分享下。 第五部分,介绍AI框架核心技术,首先介绍任何一个AI框架都离不开的自动微分,通过自动微分功能后就会产生表示神经网络的图和算子,然后介绍AI框架前端的优化,还有最近很火的大模型分布式训练在AI框架中的关键技术。 第六部分,汇总篇介绍大模型,大模型是全栈的性能优化,通过最小的每一块AI芯片组成的AI集群,编译器使能到上层的AI框架,中间需要大量的集群并行、集群通信等算法在软硬件的支持。

相关推荐

封面图片

北航本科生芯片设计团队打造基于龙架构的Lain和EULA处理器

北航本科生芯片设计团队打造基于龙架构的Lain和EULA处理器 其中,Lain处理器侧重于验证多发射、乱序、多核等现代CPU主流微架构技术,EULA处理器则侧重于验证芯片敏捷开发环境及其全流程设计支持。本次北航成功流片是基于“北航-龙芯百芯计划”实现,该计划于2020年正式启动,以本科生开发和流片为目标导向,由计算机学院主导,联合集成电路学院、软件学院,共同探索与实践跨学院、跨学科、跨专业的交叉学科人才培养模式。为国家培养具备从CPU、操作系统、编译器到芯片实现等全流程能力的紧缺拔尖创新人才。龙芯中科首席架构师汪文祥表示:“此次北航本科生芯片设计团队完成了从CPU核心、SoC芯片的硬件前后端设计,直至操作系统、编译器乃至应用程序的软件开发任务,贯通了整个处理器芯片设计的技术栈,彰显出极高的完成度,实现了国产自主可控处理器芯片设计能力的全栈式贯通。” ... PC版: 手机版:

封面图片

院士郑纬民:国产AI芯片如果生态改善 哪怕60%性能也有人用

院士郑纬民:国产AI芯片如果生态改善 哪怕60%性能也有人用 郑纬民强调,算力是大模型产业的主要开销,占据了大模型训练成本的70%以及推理成本的95%。他指出,如果国产AI芯片生态系统得到改善,哪怕只能达到国外芯片60%的性能,用户也会愿意使用。他进一步阐释了生态系统的重要性,认为如果一个原本在英伟达平台上开发的人工智能软件能够轻松移植到国产系统上,这就意味着生态系统是良好的。反之,如果移植过程困难重重,耗时长达一年或两年,那么生态系统就是不成熟的。为了改善国产AI芯片的生态系统,郑纬民提出了需要做好的“十个软件”,包括编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配系统、容错系统和存储系统。他相信,只要这些方面得到优化,即使硬件性能不是顶尖,用户也会因为良好的使用体验而选择使用国产AI芯片。 ... PC版: 手机版:

封面图片

| #指南 #论文本系列报告面向刚刚开始从事科学研究或者将要从事科学研究的研究生和本科生,介绍科学研究的基本信息(意义、目标、大

| #指南 #论文 本系列报告面向刚刚开始从事科学研究或者将要从事科学研究的研究生和本科生,介绍科学研究的基本信息(意义、目标、大体流程、一些小建议等),重点以一些具体论文实例介绍学术论文写作规范和科学方法,旨在帮助学生形成科学、系统、规范的科研和写作思维与方法。 本系列报告提供一次规范且系统的“科研与英文论文写作”入门学习,你将收获: (1)从内容组织上看,本次报告并非笼统的介绍论文写作方法论,而是以一系列鲜活的论文实例对比一篇论文高水平论文和一篇普通论文的各组成部分(标题、摘要、引言、相关工作、研究方法、实验分析、总结与展望、参考文献等),详细分析他们在写作逻辑、英文规范、图表等各方面的差别,并总结形成论文各部分的写作可规范建议,为刚刚开始英文写作的学生提供具有实操参考价值的写作范例; (2)从讲者讲述方式看,讲者在报告中贯穿了本人从学生走到科研道路上的经验、教训和心路历程,让学生对高水平学术论文的写作不再停留于“表面套路和繁荣”,而是通过规范的写作思维和方法深入理解科学问题、清晰展现科研成果,形成一套自身可不断迭代完善的科研方法,同时严格遵守学术道德。 本系列报告包括以下几方面内容: (1)首先介绍学术研究与学术论文写作的关系,引出刚刚开始从事科学研究的低年级研究生和高年级本科生在英文学术论文写作中常见的问题及原因; (2)报告重点以一些具体论文实例介绍高水平英文学术论文的科学思维、写作规范和修改过程,详细剖析一篇高水平论文在标题、摘要、引言、相关工作、研究方法、实验分析、总结与展望、参考文献等各部分的写作思路、相互关系、常见问题及改进方法,分享论文写作和论文修改的关键时间节点和建议; (3)如何确定论文引言和方法的写作逻辑和内容?报告将详细剖析如何通过画好论文研究动机示意图和模型框架图梳理论文立意、贡献和方法,并通过一些论文从0到1十几个版本画图的修改过程介绍论文逐步完善的写作过程; (4)如何写出语言规范、简洁、严谨的英文学术论文?报告将介绍基本的写作规范,并通过实例分析常见问题; (5)如何在日常研究中循序渐进积累、把握科研节奏、从容面对 deadline?报告重点围绕如何找论文、讲论文、梳理论文介绍5List的积累方法和有效工具,包括 Paper List、Idea List、Math List、English List、Code List。

封面图片

《外贸全能商务英语课,学完轻松谈生意 轻松拿订单》|简介:《外贸全能商务英语课,学完轻松谈生意 轻松拿订单》是专为外贸从业者设计

《外贸全能商务英语课,学完轻松谈生意 轻松拿订单》|简介:《外贸全能商务英语课,学完轻松谈生意 轻松拿订单》是专为外贸从业者设计的实用课程。课程内容全面系统,涵盖了外贸业务中的各个环节,包括商务谈判、合同签订、产品介绍、客户沟通等方面的英语表达和技巧。通过模拟真实的外贸场景,进行口语和书面语的训练,帮助学员提高英语应用能力,掌握外贸业务中的专业词汇和常用句型,从而在实际工作中能够自信地与国际客户交流,顺利达成交易。|标签:#外贸商务英语课#英语学习#外贸业务|文件大小:NG|链接:

封面图片

Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型

Meta新一代AI芯片亮相:优化推荐系统 但不能训练大模型 这款芯片是Meta训练与推理加速器项目(MTIA)的最新版本,MTIA是Meta专门为AI工作负载设计的定制芯片系列,可以对Facebook和Instagram上的内容进行排名和推荐。该公司去年发布了首款MTIA产品。据Meta介绍,新一代AI芯片由台积电代工,采用了其5纳米工艺制程。MTIA也是该公司更广泛产品开发的一部分,针对Meta独特的工作负载和系统进行了优化。与前一个版本相比,新的MTIA在计算能力和内存带宽上都提高了一倍多,同时保持了与其工作负载的紧密联系,可以更好地服务全球用户,提供个性化的推荐和优化的用户体验。Meta表示:“为了实现我们定制芯片的雄心壮志,我们不仅要投资于计算芯片,还要投资于内存带宽、网络、容量以及其他下一代硬件系统。”Meta转向AI服务使其对计算能力的需求不断增长,一方面,该公司要让Facebook、Instagram等应用接入AI功能,另一方面,Meta正在开发自己的大语言模型,以期与OpenAI的ChatGPT展开竞争。去年10月,Meta表示,将在支持AI的基础设施上投入多达350亿美元,包括数据中心和硬件。“到2024年,AI将成为我们最大的投资领域,”首席执行官扎克伯格当时告诉投资者。后续发展也确如扎克伯格所言,但这笔支出的很大一部分流向了英伟达。据悉,此前Meta已经购买了数十万张英伟达上一代芯片H100,以支持其升级内容推荐系统和生成式AI产品。到2024年底,Meta的基础设施将包括35万张H100,每张售价为2.5万-3万美元。当然,不单单是Meta,越来越多的公司都在开发AI芯片,包括微软、谷歌、亚马逊等科技公司。不过,这显然不是一个快速解决方案。到目前为止,这些努力并没有减少业界对英伟达AI芯片的需求。AI热潮使英伟达成为世界第三大最有价值的科技公司,仅次于微软和苹果公司。在2024财年,该公司数据中心业务营收475亿美元,而前一年仅为150亿美元。分析人士预测,到2025财年,这一数字将再增加一倍以上。相关文章:Meta推出新款AI芯片 旨在降低对英伟达的依赖 ... PC版: 手机版:

封面图片

美国50亿美元芯片研发投资落地 英伟达市值逼近谷歌亚马逊

美国50亿美元芯片研发投资落地 英伟达市值逼近谷歌亚马逊 美国芯片股集体上涨与美国政府针对芯片研发的投资款项落地有关。2月9日,美国商务部长网站消息宣布,下一阶段对CHIPS研发计划的投资预计超过50亿美元,其中包括国家半导体技术中心(NSTC)的建设。CHIPS是美国芯片研发计划,NSTC的建设是美国芯片研发计划的核心部分。CHIPS的其他研发项目还包括:美国国家先进包装制造项目、CHIPS计量项目和CHIPS美国制造业研究所。这些计划为美国建立了必要的创新生态系统,以确保美国半导体制造设施可以生产世界上最复杂、最先进的技术。推动芯片研发是美国《芯片与科学法案》 的重要部分。该法案于2022年8月获得美国国会批准,其中包括390亿美元的半导体生产补贴和110亿美元的芯片研发补贴,总共涉及补贴资金规模超过500亿美元。美国商务部还计划在两个月内为芯片制造提供资金。据美国商务部长雷蒙多介绍,NSTC将进行先进半导体技术的研究和原型设计,目前美国商务部正在与一些公司进行谈判,希望带动高端半导体制造相关供应链的发展。该中心还将设立投资基金,帮助新兴半导体公司推进技术商业化。另据介绍,这些投资都属于面向新一代技术的投资,无论从规模还是复杂性来看,都是空前的。美国政府对芯片研发制造投入巨额补贴,正处于半导体行业格局发生巨大变化之际。受人工智能芯片需求的推动,很多科技公司都开始加大芯片研发的力度,尤其是云计算巨头,谷歌、亚马逊和微软都已经公开了其自研芯片的计划。目前在高端AI芯片市场,英伟达仍然掌控了超过80%的份额。近日有消息称,英伟达正在建立一个新的业务部门,主要用于帮助云计算公司设计包括AI芯片在内的定制芯片。不过英伟达方面尚未就此作出回应。据研究公司650 Group的预测数据,数据中心定制芯片市场规模在2024年将增长至100亿美元,到2025年还将翻一番。目前,数据中心定制芯片设计市场主要由博通和Marvell两家公司主导。 ... PC版: 手机版:

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人