Nvidia (英伟达) CEO 黄仁勋谈 ChatGPT 对人类的影响

Nvidia (英伟达) CEO 黄仁勋谈 ChatGPT 对人类的影响 英伟达对AI的发展做出了非常重要的贡献，大部分AI底层代码是基于 Nvidia 的CUDA。目前该公司市值约为英特尔的五倍。这是最近 JENSEN HUANG穿着标志性的皮夹克 在伯克莱加大回答学生们提问时就 ChatGPT 阐述的观点。看来 ChatGPT的出现也惊艳到了英伟达的创始人。他说ChatGPT 将实现计算的民主化。如果说之前世界人口分为计算者与计算盲，今后所有人都能掌握计算。#视频 （） 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

《焦虑症的自救（演讲访谈篇）》

《焦虑症的自救（演讲访谈篇）》 简介：焦虑症的自救（演讲访谈篇）是一门系统性的学习课程，涵盖相关领域的核心知识。通过详尽的讲解和案例分析，帮助学习者深入理解课程主题，提高实践应用能力，适合希望扩展知识储备、提升专业技能的学员。 标签： #知识#学习资源#技能提升 文件大小：NG|链接：

全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场

全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场 在这场两个小时的演讲中，黄仁勋公布了搭载B200芯片的GB200 Grace Blackwell超级芯片系统，以及英伟达在AI软件（NIM微服务）、Omiverse云、具身智能方面的最新进展。以下为演讲内容回顾：黄仁勋登台，对观众们强调：我希望你们搞清楚今天这里不是演唱会，而是一场开发者大会。黄仁勋介绍了本届GTC的一些参与者，并强调这些公司不只是来参会，而是有自己的东西要来展示。黄仁勋展示英伟达发展史，又提了将首台DGX One送给OpenAI的故事。黄仁勋：今天我们将讨论这个新行业的许多问题。我们要谈谈如何进行计算、我们要谈谈你所构建的软件类型，你将如何看待这个新软件，新行业中的应用 然后，也许（再谈谈）下一步是什么，我们如何从今天开始做准备，下一步会发生什么。黄仁勋：我们使用仿真工具来创造产品，并不是为了降低计算成本，而是为了扩大计算规模。我们希望能够以完全保真、完全数字化的方式模拟我们所做的整个产品。从本质上讲，我们称之为数字孪生。老黄开始介绍一系列“新加速生态系统”合作伙伴，包括ANSYS、Synopsis、Cadence等。他也提及，台积电和Synopsys将突破性的英伟达计算光刻平台投入生产。随着transformer模型被发明，我们能以惊人的速度扩展大型语言模型，实际上每六个月就能翻一番。而为了训练这些越来越大的模型，我们也需要更强的算力。“非常强大”的Blackwell架构GPU登场老黄现场对比Blackwell架构和Grace Hopper架构的GPU老黄现场展示Grace-Blackwell系统（两个Blackwell GPU、四个die与一个Grace Cpu连接在一起）。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。新芯片拥有2080亿个晶体管，所有这些晶体管几乎同时访问与芯片连接的内存。为了处理大规模数据中心的GPU交互问题，也需要更强的连接（NVlink）能力。这个GB200新系统提升在哪里呢？老黄举例称，如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，同样跑90天只要消耗四分之一的电力。当然不只是训练，生成Token的成本也会随之降低。把芯片做大的好处：单GPU每秒Token吞吐量翻了30倍毫无疑问，微软Azure、AWS、Google云等一众科技巨头都是Blackwell架构的首批用户。接下来应该是应用侧的部分，先展示的是生物医药的部分，包括NVIDIA DGX云中的多项更新。黄仁勋宣布新的AI微服务，用于开发和部署企业级生成式AI应用。老黄表示，未来如何开发软件？与现在写一行行代码不同，未来可能就要靠一堆NIMs（NVIDIA inference micro service），用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。英伟达的AI微服务NIM网站已经上线。NIM微服务提供了最快、性能最高的AI生产容器，用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。NVIDIA AI Enterprise软件平台更新，包括NIM、构建RAG应用程序的工具等。随后老黄又分享了西门子科技、日产汽车等用如何在工作流中将Omiverse Cloud应用在工作流中。黄仁勋宣布，现在支持将Omniverse云推流至Vision Pro。可能是时间不太够了，老黄开始加速官宣一系列合作。其中提到全球最大电动车公司比亚迪将采用英伟达下一代智能汽车芯片Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练，以及英伟达Isaac来设计/模拟智能工厂机器人。开始提机器人了。黄仁勋表示，在我们的世界里，类人机器人很有可能会发挥更大的作用，我们设置工作站、制造和物流的方式，并不是为人类设计的，而是为人类设计的。因此，这些人类或机器人的部署可能会更有成效。黄仁勋同时宣布一项名为GR00T的项目，旨在进一步推动英伟达在机器人和具身智能的突破性工作。由GR00T驱动的机器人可以理解自然语言，并通过观察人类动作来模拟运动。除了机器人影像外，迪士尼的orange和green机器人也来到现场，这款机器人用的是英伟达为机器人设计的首款AI芯片Jetson。黄仁勋带着机器人下场，现场播放ending影片黄仁勋返场告别，全场发布会结束。 ... PC版： 手机版：

黄仁勋最新访谈：AI不会完全取代人类工作

黄仁勋最新访谈：AI不会完全取代人类工作 他说：“工人们为公司工作，因此，当公司变得更有效率时，盈利就会增长。我从来没有见过一家公司盈利增长而不招更多的人。”黄仁勋说，即使有些工作被淘汰了，“我相信你仍然希望人类参与其中，因为我们有很好的判断力，因为有些情况机器是无法理解的。”在吹捧英伟达最新的GPU芯片Blackwell的计算能力时，黄仁勋说，当谈到人工智能的能力时，天空是极限。“我们希望它能给我们带来惊喜。这才是重点。在某些领域，比如药物发现，设计更轻、更强的更好的材料。我们需要AI来帮助我们在我们自己无法做到的地方探索宇宙。” ... PC版： 手机版：

黄仁勋加州理工毕业典礼演讲：人工智能是我们这个时代最重要的技术

黄仁勋加州理工毕业典礼演讲：人工智能是我们这个时代最重要的技术 今天是无比自豪和喜悦的一天。这是你们所有人的梦想成真。但不仅仅是你们。因为你们的父母和家人为看到你们达到这一里程碑做出了无数的牺牲。所以让我们抓住这个机会，祝贺他们，感谢他们，让他们知道你爱他们。你不想忘记这一点，因为你不知道自己会在家里住多久。你今天要非常感激。作为一个骄傲的父母，我真的很喜欢我的孩子们没有搬出去。每天见到他们真是太好了。但现在他们搬出去了，这让我很难过。所以希望你们能花点时间和父母在一起。你们在这里的旅程证明了你们的性格、决心和为梦想做出牺牲的意愿。你应该感到自豪。做出牺牲、忍受痛苦和磨难的能力，这些品质在生活中是必需的。你和我有一些共同点。首先，NVIDIA 的两位首席科学家都来自加州理工学院。我今天发表演讲的原因之一是我在招聘。所以我想告诉你们，NVIDIA 是一家非常棒的公司。我是个非常好的老板，深受大家喜爱。来 NVIDIA 工作吧。你和我都对科学和工程充满热情。虽然我们相差约 40 年，但我们都处于职业生涯的巅峰。对于所有关注 NVIDIA 和我的人，你们都知道我的意思。只是对于你们来说，你们还有许多许多的巅峰要走。我只希望今天不是我的巅峰。不是巅峰。所以我会像以前一样努力工作，确保我未来还有更多的巅峰。去年我发表毕业典礼演讲，分享了几个关于 NVIDIA 旅程的故事和我们学到的可能对毕业生有价值的经验教训。我不得不承认我不喜欢给建议，尤其是对别人的孩子。所以我今天的建议将主要隐藏在一些我喜欢的故事和我享受的一些生活经历中。我相信我是当今世界上任职时间最长的科技 CEO。在这 31 年的时间里，我成功地做到了不破产、不厌倦、不被解雇。因此，我很荣幸能够享受人生的很多经历，从创建 NVIDIA 开始，从无到有，再到今天。所以我谈到了创建 CUDA的漫长道路。我们花了 20 多年时间发明的编程模型，它正在彻底改变当今的计算。我谈到了我们曾经参与的一个非常公开的、被取消的世嘉游戏机项目，以及知识诚实。我知道理查德·费曼非常关心并经常谈论这一点，知识诚实和谦逊拯救了我们的公司。以及如何撤退，战略性撤退，是我们最好的策略之一。所有这些都是我在毕业典礼上谈到的违反直觉的教训。但我鼓励毕业生参与人工智能，这是我们这个时代最重要的技术。我稍后会再谈一点，但你们都知道人工智能。很难不沉浸其中，被它包围，不被大量关于它的讨论所包围。当然，我希望你们所有人都在使用它，玩弄它，并取得一些令人惊讶的结果，有些是神奇的，有些是令人失望的，有些是令人惊讶的。但你必须享受它，你必须参与其中，因为它发展得如此之快。这是我所知道的唯一一项同时以多个指数级发展的技术。所以这项技术变化得非常非常快。所以我建议学生们奔跑，不要走路，参与人工智能革命。然而，一年后，它发生了令人难以置信的变化。所以今天，我想做的是从我的角度与你们分享我对你们即将毕业的一些重要事情的看法。这些是正在发生的非凡的事情，你们应该有一个直观的理解，因为这对你很重要，对行业也很重要，希望你们能抓住眼前的机会。计算机行业正在从基础开始转型，确切地说是从螺柱开始转型。一切都在从头开始改变。在每个层面，很快，每个行业也都将发生改变。原因很明显，因为如今计算机是最重要的知识工具。它是每个行业和每个科学领域的基础。如果我们如此深刻地改变计算机，那么当然会对每个行业产生影响。我稍后会谈到这一点。当你进入行业时，了解正在发生的事情很重要。现代计算可以追溯到 IBM System 360。那是我从中学习的架构手册。这是一本你不需要学习的架构手册。从那时起，已经提出了很多更好的文档和更好的计算机和架构描述。但 System 360 在当时非常重要。事实上，System 360 的基本思想、架构和原则至今仍主导着计算机行业。它是在我出生一年后推出的。80 年代，我是第一代 VLSI 工程师之一，他们从 Mead 和 Conway 的里程碑式教科书中学习设计芯片。我不确定这里是否还在教授这本教科书。它应该在 VLSI 系统的介绍中。基于 Carver Mead 在加州理工学院的芯片设计方法和教科书方面的开创性工作，彻底改变了 IC 设计。它使我们这一代人能够设计超巨型芯片，并最终设计出CPU。CPU带来了计算的指数级增长。性能、令人难以置信的技术进步，即所谓的摩尔定律，推动了信息技术革命。我们这一代人参与的工业革命见证了世界从未见过的大规模生产。看不见的东西的大规模生产，易于复制，软件的大规模生产。它导致了一个价值3万亿美元的产业。当我坐在你这个位置上时，IT行业还很小，而通过销售软件赚钱的想法只是幻想。然而，今天，软件是我们行业生产的最重要的商品、最重要的技术和产品创造之一。然而，Dennard缩放、晶体管缩放和指令级并行性的极限已经降低了CPU性能。而CPU性能增长放缓正发生在计算需求继续呈指数级增长的时候。如果不加以解决，计算需求和计算机能力之间呈指数级增长的差距，计算能耗和成本、通货膨胀最终将扼杀每个行业。我们可以看到计算通货膨胀的明显迹象。经过二十年的发展，NVIDIA的CUDA，NVIDIA的加速计算为我们指明了前进的道路。这就是我来这里的原因。因为行业终于意识到了加速计算的惊人有效性，而就在我们目睹了几十年后的计算通货膨胀之时。通过将耗时的算法卸载到专门用于并行处理的GPU，我们通常可以实现十倍、百倍甚至千倍的加速，从而节省资金、成本和能源。我们现在加速了从计算机图形、光线追踪（当然还有基因测序、科学计算、天文学、量子电路模拟、SQL数据处理，甚至熊猫数据科学）等应用领域。加速计算已经达到了一个临界点。这是我们对计算机行业的第一个伟大贡献。我们对社会的第一个伟大贡献。这就是我们进行加速计算的原因。它现在为我们提供了一条可持续计算的前进道路，随着计算需求的不断增长，成本将继续下降。加速计算带来的时间、成本或能源节省的百倍、千倍，肯定会在其他地方引发新的发展。直到深度学习进入我们的意识，我们才知道它是什么。一个全新的计算世界出现了。Geoffrey Hinton、Alex和Ilya 使用NVIDIA CUDA GPU训练AlexNet，并在2012年ImageNet挑战赛中获胜，震惊了计算机视觉社区。这是深度学习的重要时刻，是大爆炸，标志着人工智能革命开始的关键时刻。我们在AlexNet改变了公司之后做出的决定值得注意。我们在AlexNet改变了公司和其他一切之后做出的决定。我们看到了深度学习的潜力，并且相信，只是通过原则思维相信，通过我们自己对深度学习可扩展性的分析相信，我们相信这种方法可以学习其他有价值的功能。也许深度学习是一种通用函数学习器。有许多问题很难或不可能用基本的第一原理来表达。所以当我们看到这一点时，我们认为，这是一项我们真正需要关注的技术，因为它的局限性可能仅受模型和数据规模的限制。然而，当时也存在挑战。这是2012年，2012年刚过不久。如果不构建这些庞大的GPU集群，我们如何探索深度学习的极限？当时我们是一家相当小的公司。构建这些庞大的GPU集群可能要花费数亿美元。但如果我们不这样做，就无法保证在扩大规模后会有效。但是，没有人知道深度学习可以扩展到多远。如果我们不构建它，我们永远不会知道。这就是其... PC版： 手机版：

英伟达继续狂飙 黄仁勋回应Sam Altman

英伟达继续狂飙 黄仁勋回应Sam Altman 媒体指出，上一次英伟达的市值超过亚马逊是在 2002 年，当时两家公司的市值均低于 60 亿美元。因为市场对强劲人工智能需求的押注，推动了英伟达股价的上涨，使其成为所谓的“七巨头”中表现最好的股票，在过去 12 个月内飙升了 223%。今年迄今为止，Nvidia 的股价已上涨 46%。但对于这家可能是有史以来最强的芯片巨头，英伟达的创造历史之路，似乎还远未结束。人工智能改变了数据中心和英伟达Nvidia成立的目的是彻底改变游戏和多媒体领域的 3D 计算机图形技术。该公司最初在各种芯片上取得了成功，随后在 1999 年推出了世界上第一个图形处理单元 （GPU） Nvidia GeForce 256，并取得了重大飞跃。这一里程碑在最新的 GeForce RTX 40 系列中达到了顶峰，该系列可以借助深度学习超级采样 （DLSS）（Nvidia 的一项令人难以置信的创新）为数字内容提供逼真的图形。DLSS 使用人工智能（AI） 在视频游戏场景中创建额外的帧并增强图像质量。直到 2022 财年（截至 2022 年 1 月 30 日），游戏一直是 Nvidia 最大的收入驱动力。该部门当年的销售额为 125 亿美元，占公司总收入的 46%。但后来，一切都变了：数据中心曾经是公司存储有价值信息的地方，但后来发展成为在线操作的集中中心（也称为云计算）。如今，数据中心拥有 Nvidia 设计的强大芯片，用于处理人工智能工作负载。这种转变始于 2016 年，当时 Nvidia 向 OpenAI 交付了第一台 AI 超级计算机，该计算机用于开发早期的生成式 AI模型，最终形成了著名的 ChatGPT 在线聊天机器人。现在，Nvidia 领先的 H100 数据中心 GPU 售价高达 40，000 美元。微软和亚马逊等集中式数据中心运营商订购了数十万个数据中心，为云客户提供开发人工智能所需的计算能力。这使得 Nvidia 的数据中心收入在 2024 财年第三季度（截至 2023 年 10 月 29 日）同比飙升 279%。数据中心业务目前占英伟达总收入的 80%，将游戏业务远远甩在身后。Nvidia 现在是一个价值 1.8 万亿美元的庞然大物，其中 1 万亿美元的价值是在过去 12 个月内创造的。目前看来，英伟达的股价可能仍会走高。每个国家都要AI，数据中心将继续飚NVIDIA 创始人兼首席执行官黄仁勋周一在迪拜举行的世界政府峰会上对与会者表示，每个国家都需要拥有自己的情报生产能力。黄在与阿联酋人工智能部长艾尔·奥拉马（Al Olama）阁下进行炉边谈话时发表讲话，他将主权人工智能（强调一个国家对其数据及其产生的情报的所有权）描述为世界领导人的巨大机遇。“它记录了你的文化、你的社会智慧、你的常识、你的历史你拥有自己的数据，”黄在他们的谈话中告诉 Al Olama，这是来自 150 个国家的 4，000 多名代表参加的活动的亮点。黄敦促领导人不要被人工智能“迷惑”。人工智能具有前所未有的接受普通人类指导的能力，这使得各国拥抱人工智能、为其注入当地语言和专业知识变得至关重要。黄甚至反驳了多年来许多有远见的人提出的建议，他们敦促年轻人学习计算机科学，以便在信息时代竞争。“事实上，情况几乎完全相反，”黄仁勋说。“我们的工作是创造无需任何人编程的计算技术，并且编程语言是人类的：现在世界上的每个人都是程序员，这就是奇迹。”在同一场峰会上，黄仁勋还表示，我们正处于这个新时代的开始，将会发生的是，全球数据中心的安装基础价值将达到一万亿美元，在未来 4-5 年内，我们将拥有价值 2 万亿美元的数据中心，它们这为世界各地的软件提供动力，所有这些都将得到加速，这种加速计算的架构非常适合称为生成式人工智能的下一代软件。对于 NVIDIA 作为一家商业公司而言，Jensen 表示，“通用计算”并不是我们想要快速、高效且经济高效的人工智能的最佳方式，他描述了这一点通过描绘这样一个事实，我们在现代看到的加速计算促进了人工智能的增长甚至进入市场。他表示，该行业过渡到“下一代”状态的唯一途径是升级加速计算，而需要巨大的经济资源和高效的硬件作为关键武器。进军定制芯片设计业务，赢者通吃在英伟达最初的生意规划里，他们是希望用统一的GPU，去拿下所有的客户。但现在他们在看到客户纷纷逃离他们自研芯片之后。如文章开头所说，有传言指出，英伟达正在进军定制芯片业务，希望通过给他们的客户定制芯片，以进一步加固自己在AI市场的低位。据报道，Nvidia 成立的这个小组，负责打造新的商业模式，帮助客户使用 Nvidia IP 甚至小芯片构建自己的解决方案。通过这一举措，英伟达开始打造一个人工智能授权巨头。熟悉芯片行业的读者应该知道，许多自行设计芯片以降低成本或为计算需求提供更定制解决方案的公司已经与 Broadcomm 和 Marvell 等公司进行后端物理设计、SerDes 块或 IP（例如 Marvell 的高性能 Arm CPU 内核）的合作。Cadence 和 Synopsys 等 EDA 解决方案提供商在提供 IP 块方面做得很好，SOC 设计人员可以将这些 IP 块放入他们的芯片中，从而节省资金并加快上市时间。但这并不是什么新消息。例如，Sima.ai 在其边缘 AI 芯片中使用了 Synopsys 的图像处理器。Jim Keller 领导的初创公司 Tenstorrent 看到了这个机会，并将这家总部位于多伦多和奥斯汀的公司从 Nvidia 的潜在竞争对手转变为 IP 和设计商店，为 Kia 和 LG 等公司提供小芯片和知识产权。而在人工智能领域，我们又看到了一种新趋势，电视、汽车或网络设备的设计者希望构建定制解决方案以降低成本或提供包括人工智能在内的差异化解决方案，但他们没有必要或专业知识来构建整个芯片。至于谷歌、亚马逊 AWS、Meta（预计将在今年晚些时候使用自己的芯片）和微软 Azure 等大客户，它们已经拥有自己的用于内部人工智能的定制芯片以及面向云客户的 Nvidia GPU。他们可以与 Nvidia 合作进行未来的设计吗？我们可以假设，这些 Nvidia 定制芯片客户能否利用 Nvidia 的内部和 AWS 超级计算机来加速和优化这些设计工作？这将是一笔不错的额外收入，也是一个令人难以置信的差异化因素。如果是这样，这可能就是为什么 Nvidia 将其最新的“内部”超级计算机 Project Cieba 托管在 AWS 数据中心，那里已经提供了安全云服务的基础设施。Nvidia 可以在 Cieba 上提供芯片设计优化服务。虽然这种猜测可能有点太过分了，但这样做表明英伟达看到了不祥之兆，并且已经准备好再次改变这个行业。虽然这个猜测有点大胆，但是随着时间的推移，所有技术都会商品化，这是必然的。尤其是前几代硅。当 Nvidia 有意收购Arm 时，笔者就认为这次收购将使 Nvidia 有可能通过许可协议将他们不想产品化的产品货币化。看起来这正是 Nvidia 现在正在做的事情。回应Sam Altman，七万亿能买下全部对AI芯片行业而言，最近的热点之一，当然绕不开传言OPEN AI CEO Sam Altman计划募集七万亿美元资金，计划颠覆AI芯片和芯片制造。首先，我们必须说，这是好大一笔钱。其次，这也当然不会是一件容易的事情。姑勿论整个先进芯片制造很难，经过多年发展，全球仅有台积电、三星和英特尔能够进入领先的芯片制造市场。何况，投资一个先进晶圆厂要100亿美元（相对七万亿而言，九牛一毛？）。更重要的是，行业高管表示，寻找工程师来运营大量新工厂、获得机器来填充工厂以及获得足够的订单来证明这些工厂的合理性都存在不确定性。即使建造了大量新的芯片工厂，也不一定能解决 Altman 的近期问题生产 OpenAI 的 ChatGPT 等系统所需的人工智能芯片短缺。英伟达人工智能芯片生产的最... PC版： 手机版：