比尔·盖茨最新访谈：现在对AI的狂热远超互联网泡沫

比尔·盖茨最新访谈：现在对AI的狂热远超互联网泡沫 盖茨在访谈中指出，目前对人工智能的狂热远超过去互联网泡沫时期，他提到，进入人工智能领域的门槛非常低，资本正在以前所未有的速度涌入这个新领域。盖茨举例说，有公司为人工智能产品筹集了巨额资金，这种情况在市值和估值方面都是空前的。盖茨还强调，尽管谷歌和微软等大公司在人工智能领域拥有大量资本，但这并没有阻止其他公司在基础能力或垂直领域的发展。他认为，人工智能技术在全球经济中所占的份额虽然相对较小，但其潜力巨大，即使是小型机构也能借助这些工具与大型机构竞争，并提供更优质的服务。最新预言：耳机和眼镜才是AI硬件重点盖茨预言，人工智能技术的普及将深刻改变我们的生活和工作方式，而耳机和智能眼镜将成为AI硬件的两个重点领域。盖茨认为，耳机不仅仅是音频播放设备，它们将增加音频功能、消除噪音，并提升音质，成为人机交互的重要媒介。他进一步指出，智能眼镜能够将视频内容投射到用户视野中，开启人机交互的新形式。这些设备的发展，将使得个人智能体超越传统意义上的人类助手，因为它们能够跟踪、阅读用户感兴趣的内容，并提供持续的帮助。在讨论中，盖茨还提到了人工智能助手的潜力，它们将能够理解电子邮件和会议内容的上下文，从而提供更有效的信息排序和任务管理。他强调，尽管我们已经在数字系统中透露了大量个人信息，但人工智能助手如果能够总结会议或协助跟进事项，其价值将是巨大的。 ... PC版： 手机版：

OpenAI联合创始人Karpathy又双叒离职了 自称“懂我的都懂”

OpenAI联合创始人Karpathy又双叒离职了 自称“懂我的都懂” 大家好，没错，我昨天刚从 OpenAI 离职。首先要澄清的是，这并非因为任何特殊的事件、问题或纷争导致（不过，那些阴谋论真的很有趣，欢迎大家继续提出）。实际上，在 OpenAI 度过的最后一年真的很精彩 团队非常出色，同事们也非常棒，而且未来的发展路线图也充满了激动人心的可能，我相信我们都有很多值得期待的事情。我目前的计划是专注于我的个人项目，看看能碰撞出什么火花。对那些一直关注我的人来说，或许能猜到我接下来可能会做些什么。据 Information 独家报道称，Karpathy 正开发一个全新的“AI 助手”，而且与 OpenAI 的研究主管 Bob McGrew 保持着密切合作。虽然 ChatGPT 受到许多人的青睐，但 OpenAI 还希望推出一款可以自动执行复杂任务的 AI，比如填写费用报告，并将其输入会计软件。Karpathy 曾在特斯拉担任 AI 高级总监、自动驾驶负责人，并于 2022 年 7 月宣布离职。5 来年，他主要负责 Autopilot 半自动驾驶软件的研发工作。紧接着在 23 年 2 月，他再次官宣“重新加入 OpenAI”。而现在，整整一年后，他再次官宣离开了 OpenAI。OpenAI 的发言人 Kayla Wood 在一份声明中表示，“Andrej 离开是为了追求个人项目。我们对他的贡献表示深深的感激，并祝福他未来一切顺利。”目前，他的工作已经交由一位与他有着密切合作的资深研究员接手。自去年 OpenAI 董事会解雇 Sam Altman 之后，便引发了数名高层员工辞职。在董事会撤回其决定后，这些员工随 Altman 一起返回了公司。现在，Karpathy 成为 OpenAI 首位离职的核心人物。那么，他所说的专注个人项目，会是什么呢？AI 智能体？投身 AI 教育？大概在去年 7 月份的时候，Karpathy 在一个线下分享活动中，就曾强调了 AI 智能体的前景。当他刚开始在 OpenAI 工作时（2016 年左右），业界潮流就是研究如何用强化学习的方法来改进 AI 智能体。比如，很多项目都在基于类似雅达利游戏来制作 AI 玩家。Karpathy 想做的，则是一个适用范围更广泛的产品。不过受制于当时的技术，效果并不理想，于是他和 OpenAI 就改变了方向，开始做大语言模型了。如今，AI 智能体重新成为了一个非常有前途的方向。最简单的例子就是，现在没有人再像 2016 年那样用强化学习的方法来研究 AI 智能体了。而从 OpenAI 离职，可能是他重新看到了现在的技术突破，可能给 AI 智能体带来的全新机会。有趣的是，Karpathy 近段时间讨论最多的话题，除了 Vision Pro 之外，就是一篇关于“学习”的长文。在这篇文章中，他深度探讨了什么是有价值的学习，包括斯坦福 HAI 中心主任 manning 等人都进行了转发。加上他 Youtube 频道中的内容几乎都是在教网友如何理解大模型和相关技术的内容。所以他之后的内容也许和 AI 教育有非常大的联系。OpenAI 硬核网红在他的个人主页上，自制了一个工作经历时间线，可以清楚地看到从 2017 年成为 OpenAI 联创之后，加入特斯拉，再回归 OpenAI 的所有过程。过去一年来，离职特斯拉的 Karpathy 通过博客、发帖、讲课等方式，逐渐在社交媒体上成为网红。他还在自己的 YouTube 平台上发布了多种学习课程，目前已上线了 8 个视频。就在他官宣离职的评论下方，网友关心道，是不是意味着未来有更多的 YouTube 视频上线？Karpathy 本人表示：“两天前我已经开始制作下一期视频了”！著名 AI 机器学习研究员 Sebastian 同样称，“听起来肯定还有更多的教育内容正在筹备中”。看来离职后的 Karpathy，将会有大把的时间更新视频了。此外，在社交平台上，Karpathy 本人也经常会关注一些热点研究，并发表自己的评论，有时也会提出自己的观点。比如，他曾把大模型比作成一种操作系统，因其能检索文件、编写代码、运行程序，以及理解音频、图像和人类指令。再比如，提出对“语言模型幻觉问题”的看法等等。李飞飞高徒、“用爱发电”的技术大牛不仅是技术网红，Andrej Karpathy 更是一个不折不扣的技术大牛。他先是在 2009 年于多伦多大学获得计算机科学和物理学双专业学士学位，而后在 2011 年于英属哥伦比亚大学获得硕士学位，研究是物理模拟数字的控制器。在斯坦福读博的时候，Karpathy 和导师李飞飞共同研究卷积 / 递归神经网络架构及其在计算机视觉、自然语言处理及其交叉领域的应用。师徒二人还一起设计了斯坦福大学的视觉识别卷积神经网络的新课（CS231n），Karpathy 亲自担任首任主讲。而这正是斯坦福开设的第一门深度学习课程！学生人数也从 2015 年的 150 名增长到 2016 年的 330 名，再到 2017 年的 750 名。如今，斯坦福大学的 CS231n 已经成为深度学习初学者，尤其是 CV 方向的初学者必看的一门基础课。除了大牛李飞飞的“明星效应”，Karpathy 从课程设计到主讲，亲力亲为，贡献良多。上学期间，他还跑去Google实习了 两次，还是出国的那种，在Google参与了深度学习与计算机视觉项目。2015 年，他又去 DeepMind 的深度强化学习团队实习了一波。毕业之后，Karpathy 于 2016 年入职 OpenAI 并担任研究科学家，负责计算机视觉、生成建模和强化学习方面的深度学习。“斯坦福博士生、李飞飞高徒、前 OpenAI 研究员及创始人之一”，这些头衔也让他在硅谷声名鹊起。果然，在 OpenAI 只干了一年半，他就被马斯克挖去了特斯拉，接替苹果前高管 Chris Lattner，担任特斯拉人工智能和自动驾驶视觉总监（Director of AI and Autopilot Vision）。由于 Karpathy 本人十分喜欢研究神经网络，他在闲暇之余写了不少技术博客，并在 Javascript 中开发了多个深度学习库（如 ConvNetJS、RecurrentJS、REINFORCEjs、t-sneJS）。甚至，还被戏称为 ImageNet 的“人肉参考”。此外，他一有时间就会去维护自己“用爱发电”的 arxiv-sanity，一个可以在过去 6 年里搜索和整理近 10 万篇关于机器学习 arXiv 论文的网站。 ... PC版： 手机版：

TG 创始人今日发布文章批评美以等国政府通过手机实施全球监控计划（翻译全文）

TG 创始人今日发布文章批评美以等国政府通过手机实施全球监控计划（翻译全文） 包括人权活动家和记者在内的5万人的手机已经成为众多政府使用的监控工具的目标。这些工具可以入侵任何iOS和安卓手机，而且没有办法保护你的设备免受其害。你使用哪些应用程序并不重要，因为系统在更深的层次上被攻破。 根据2013年斯诺登的披露，苹果和谷歌都是全球监控计划的一部分，这意味着这些公司必须，除其他外，在其移动操作系统中实施后门。这些后门通常被伪装成安全漏洞，允许美国机构访问世界上任何智能手机上的信息。 这种后门的问题是，它们从来都不只属于某一方。任何人都可以利用它们。因此，如果美国安全机构可以入侵iOS或Android手机，任何其他发现这些后门的组织也可以这样做。不出所料，这正是一直在发生的事情：一家名为NSO集团的以色列公司一直在出售对间谍工具的访问权，使第三方能够入侵数以万计的手机。 至少从2018年开始，我就知道我的一个电话号码被列入这种监视工具的潜在目标名单（尽管NSO集团的一个消息来源否认了这一点）。就个人而言，我并不担心：自2011年以来，当我还住在俄罗斯时，我已经习惯于假设我所有的手机都被泄露了。任何获得我的私人数据的人都会彻底失望他们将不得不翻阅数以千计的Telegram功能概念设计和与我们产品开发过程有关的数百万条信息。他们不会在那里找到任何重要信息。 然而，这些监视工具也被用来对付比我更突出的人。例如，它们被用来监视14位国家元首。关键的基础设施和软件中存在后门，这给人类带来了巨大的挑战。这就是为什么我一直呼吁世界各国政府开始采取行动，反对苹果和谷歌在智能手机市场的双重垄断，并迫使他们开放其封闭的生态系统，允许更多的竞争。 到目前为止，尽管目前的市场垄断增加了成本，侵犯了数十亿人的隐私和言论自由，但政府官员的行动却非常缓慢。我希望他们自己被这些监控工具盯上的消息能促使政治家们改变主意。 原文：

因为 ChatGPT，最近我是既兴奋又焦虑。作为一个 20 年码龄的前程序员兼产品经理，很难得又碰到一个比移动互联网更大的变革时

因为 ChatGPT，最近我是既兴奋又焦虑。作为一个 20 年码龄的前程序员兼产品经理，很难得又碰到一个比移动互联网更大的变革时代。我与 NLP（AI 中的一个分支， 自然语言处理，也是 ChatGPT 主要依赖的技术之一） 结缘是在 2004 年，那一年我还在上初中，写了一个叫“燊燊中文简繁通”的简繁体转换软件。 这个软件意外得到海内外很多华人的喜爱，有人帮我把它翻译成外文版介绍到外国，有人写文章专门介绍它，甚至有台湾同胞还把它刻成光盘标价 100 新台币售卖……我后来坚持做创新产品也与它有关，因为那种看到用户喜爱的评价时的成就感。 但这段经历让我印象最深的是大陆和港澳台不同的语言表达的转译难题。比如汉字简繁转换不是完全的一对一，“后”字对应的繁体字可能是“后”或者“后”，而“干”字对应的简体字可能是“干”或者“干”。又比如一些外国人名，大陆叫“特朗普”，港台叫“川普”，大陆叫“布什”，港台叫“布殊”……还有很多不能简单地一一替换的情形，所以这时候需要翻译程序懂“自然语言处理”。 可惜那时候我还是个初中生，搞不定这个事。后来大学我上了大学，专门去修了人工智能课，去请教老师这个问题。老师告诉我有个东西叫“NLP”。在那时，我也了解了数字生命，了解了高性能计算，了解了各种开源技术，它们的神奇都让我惊叹。但是老师告诉我，AI 在过去几十年都没有怎么大的发展，强人工智能遥遥无期，把它作为事业似乎不是好的选择。 我又碰巧赶上了移动互联网的初期，参与了微信团队创始期的一些工作，一直忙着在“浪潮之巅”冲浪，后来又忙着创业，这方面的念想也就靠边站了。 直到看到 ChatGPT 的出现。我发现短短几年间真的 AI 完成了突破。我们又迎来巨大的新机会（和风险）。 ChatGPT带给我们的，不只是它的“连续对话能力”，更重要的是它背后的 RLHF“人工反馈强化学习”，它对语言的理解和熟悉已经完全超过了常人的理解。所以很多人惊呼 AI 真的有了智能。 我们在看很多科幻电影里面渲染的机器统治地球的情节，有一个大前提，机器人需要先获得人类的喜爱，人类开始把它当伙伴，带它进入千家万户，后来有一天，有一只机器人觉醒了、造反了…… 回归现实，我们却经常面对“人工智障”的 Siri 和小 X 音箱，这似乎很难让人愿意把它当做家人。 但是！ 想象一个场景，你下班回到家，对着你家中的智能机器人说“好累啊”，它会安慰你，跟它说你不知道做什么菜，它能给你推荐食谱，你遇到难题它会给你想解决方案……这些电影里的情节，在今天不是科幻，只要把家里的“小 X 音箱”背后的程序换成 ChatGPT 就可以实现了。 实际上以它为基础的智能硬件在一年内一定会上市，而且可能会大行其道。 我和朋友半开玩笑说，从今年出生的孩子开始，他们从小见到的 AI 不再是智障，他们从小都会把家里的机器人当作朋友和亲人。那么 20 几年后，当这代人成为社会主流，机器也就统治世界了。 这也可能不是玩笑，那么集美们兄 dei 们，我们人类自嗨的时光，正在倒计时。 我不知道这是真正的未来还是杞人忧天，但一个新事物的未来注定是掌握在了解它的人的手里。希望我们中国也有一帮 懂 AI 、掌握 AI 的“自己人”，确保这个世界的“智能霸权”不会因为意识形态、政治、地理、文化因素而被某个唯一大国掌握。又或者，未来的 AI 之间各为其主，也能互相抗衡，给人类留下一点生存空间。 我是行者慎思科技咨询创始人陆树燊，我正和一群AI专家和产品专家一起研究AIGC技术在不同场景中的产品和应用。欢迎找我探讨，聊聊你的需求和创意。 （个人微信：shensinside，公号：行者慎思）

全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场

全程回顾黄仁勋GTC演讲：Blackwell架构B200芯片登场 在这场两个小时的演讲中，黄仁勋公布了搭载B200芯片的GB200 Grace Blackwell超级芯片系统，以及英伟达在AI软件（NIM微服务）、Omiverse云、具身智能方面的最新进展。以下为演讲内容回顾：黄仁勋登台，对观众们强调：我希望你们搞清楚今天这里不是演唱会，而是一场开发者大会。黄仁勋介绍了本届GTC的一些参与者，并强调这些公司不只是来参会，而是有自己的东西要来展示。黄仁勋展示英伟达发展史，又提了将首台DGX One送给OpenAI的故事。黄仁勋：今天我们将讨论这个新行业的许多问题。我们要谈谈如何进行计算、我们要谈谈你所构建的软件类型，你将如何看待这个新软件，新行业中的应用 然后，也许（再谈谈）下一步是什么，我们如何从今天开始做准备，下一步会发生什么。黄仁勋：我们使用仿真工具来创造产品，并不是为了降低计算成本，而是为了扩大计算规模。我们希望能够以完全保真、完全数字化的方式模拟我们所做的整个产品。从本质上讲，我们称之为数字孪生。老黄开始介绍一系列“新加速生态系统”合作伙伴，包括ANSYS、Synopsis、Cadence等。他也提及，台积电和Synopsys将突破性的英伟达计算光刻平台投入生产。随着transformer模型被发明，我们能以惊人的速度扩展大型语言模型，实际上每六个月就能翻一番。而为了训练这些越来越大的模型，我们也需要更强的算力。“非常强大”的Blackwell架构GPU登场老黄现场对比Blackwell架构和Grace Hopper架构的GPU老黄现场展示Grace-Blackwell系统（两个Blackwell GPU、四个die与一个Grace Cpu连接在一起）。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。新芯片拥有2080亿个晶体管，所有这些晶体管几乎同时访问与芯片连接的内存。为了处理大规模数据中心的GPU交互问题，也需要更强的连接（NVlink）能力。这个GB200新系统提升在哪里呢？老黄举例称，如果要训练一个1.8万亿参数量的GPT模型，需要8000张Hopper GPU，消耗15兆瓦的电力，连续跑上90天。但如果使用Blackwell GPU，只需要2000张，同样跑90天只要消耗四分之一的电力。当然不只是训练，生成Token的成本也会随之降低。把芯片做大的好处：单GPU每秒Token吞吐量翻了30倍毫无疑问，微软Azure、AWS、Google云等一众科技巨头都是Blackwell架构的首批用户。接下来应该是应用侧的部分，先展示的是生物医药的部分，包括NVIDIA DGX云中的多项更新。黄仁勋宣布新的AI微服务，用于开发和部署企业级生成式AI应用。老黄表示，未来如何开发软件？与现在写一行行代码不同，未来可能就要靠一堆NIMs（NVIDIA inference micro service），用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。英伟达的AI微服务NIM网站已经上线。NIM微服务提供了最快、性能最高的AI生产容器，用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的开放模型。NVIDIA AI Enterprise软件平台更新，包括NIM、构建RAG应用程序的工具等。随后老黄又分享了西门子科技、日产汽车等用如何在工作流中将Omiverse Cloud应用在工作流中。黄仁勋宣布，现在支持将Omniverse云推流至Vision Pro。可能是时间不太够了，老黄开始加速官宣一系列合作。其中提到全球最大电动车公司比亚迪将采用英伟达下一代智能汽车芯片Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练，以及英伟达Isaac来设计/模拟智能工厂机器人。开始提机器人了。黄仁勋表示，在我们的世界里，类人机器人很有可能会发挥更大的作用，我们设置工作站、制造和物流的方式，并不是为人类设计的，而是为人类设计的。因此，这些人类或机器人的部署可能会更有成效。黄仁勋同时宣布一项名为GR00T的项目，旨在进一步推动英伟达在机器人和具身智能的突破性工作。由GR00T驱动的机器人可以理解自然语言，并通过观察人类动作来模拟运动。除了机器人影像外，迪士尼的orange和green机器人也来到现场，这款机器人用的是英伟达为机器人设计的首款AI芯片Jetson。黄仁勋带着机器人下场，现场播放ending影片黄仁勋返场告别，全场发布会结束。 ... PC版： 手机版：