谷歌痛失大将：“AI教父” Geoffrey Hinton离职，只为给人类敲响警钟？

谷歌痛失大将：“AI教父” Geoffrey Hinton离职，只为给人类敲响警钟？ #出海资讯就在加入谷歌的第十年、深度学习迎来爆发式发展的当下，几周前，现年75岁的Geoffrey Hinton辞去了他在谷歌的工作。而离职的原因，用他的原话来讲，是想要没有任何负担的给所有人讲一些他关于人工智能发展的“真心话”。 结合整个采访来看，Hinton主要有以下几个方面的担忧。 一是在人工智能技术的支持下，他认为互联网将很快被各种虚假信息淹没。 二是就业市场可能在就业市场还没有准备好的情况下被颠覆，造成失业潮的爆发。 此外，他还担心人工智能技术的接下来的发展会对人类社会构成威胁。 谷歌和微软以及其他大型公司之间的竞争，将很快升级为一场全球性竞争，如果没有某种监管，这场竞争将不会停止，人工智能发展的速度会远超我们的想象，并最终走向失控。

“AI教父”辛顿：AI将操控人类

“AI教父”辛顿：AI将操控人类 人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（Geoffrey Hinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。 记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）在2023年11月曾试图解雇该公司首席执行官(CEO) 山姆·奥特曼（Sam Altman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。 辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。 频道：@kejiqu 群组：@kejiquchat

“AI教父”辛顿最新预言：AI将操控人类

“AI教父”辛顿最新预言：AI将操控人类 辛顿相信，机器人武器可能会像核武器一样被限制，但要实现这一点，可能需要等到人们意识到其在战场上使用会带来多么悲惨的后果。此外，辛顿还提到了防止AI失控的观点，尽管许多人认为只需关闭电源开关即可，但他指出，超越人类智慧的AI可能会用语言操纵我们，试图说服我们不要关闭它。辛顿曾在英国剑桥大学攻读实验心理学，并于1978年在英国爱丁堡大学获得AI博士学位。在过去的半个世纪里，他一直引领着全球AI研究，他的许多学生参与了最尖端的生成式AI的开发。他还在2013年至2023年间在美国谷歌工作。 ... PC版： 手机版：

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补 辛顿在接受英国广播公司《新闻之夜》节目采访时说，他"非常担心人工智能会抢走很多平凡的工作"。因此，他向英国政府建议，全民基本收入是个好主意，每个人都能获得固定金额的收入。他说："唐宁街的人咨询过我的意见。"辛顿同意的另一个人工智能预测是，虽然技术将提高生产力和财富，但如果没有政府干预，这些钱将流向那些已经富裕的人，"而不是那些失去工作的人，这对社会将非常不利"。辛顿在 2023 年离开了Google，这样他就可以在不影响自己工作的公司的情况下谈论人工智能的危险。"看看五年前的情况和现在的情况，"辛顿谈到人工智能的现状时说。他说："把两者之间的差异向前推广。这太可怕了。"辛顿还担心，人工智能的发展可能导致的不仅仅是失业。这位教授重申了他的担忧，即人工智能可能会导致灭绝级的事件，尤其是当这项技术越来越多地应用于军事武器和车辆时。此外，风险还在于科技公司为了击败竞争对手进入市场和实现技术里程碑而放弃安全。辛顿说："我猜测，从现在开始的5到20年内，我们有一半的可能不得不面对人工智能试图取代人类的问题这种情况将导致生物大灭绝，因为我们创造了一种比生物智能更好的智能……这让我们非常担忧，不断进化的人工智能可能会发展出获得控制权的子目标。"他说："我最担心的是，这些系统何时能自主做出杀人的决定。"辛顿的话是在美国承诺永远不会让人工智能控制其核武器系统，并敦促中国和俄罗斯做出同样承诺数周后说的。辛顿对人工智能的看法与他的人工智能"教父"Yann LeCun教授形成了鲜明对比，后者去年曾表示，所谓的人工智能对人类的威胁"荒谬绝伦"，而且失业不会是永久性的。辛顿还建议，由于与人工智能相关的工作岗位流失，将需要归化全民基本收入的行业专家。ChatGPT开发商OpenAI的首席执行官萨姆-阿尔特曼（Sam Altman）自2016年以来一直在为这项福利奔走呼号，当时他开展了一项实验，为3000名参与者提供每月1000美元或每月50美元，为期三年。研究结果将于今年晚些时候公布。上周，奥特曼说，他想知道全民基本收入是否能被全民基本计算所取代，在全民基本计算中，"每个人都能从GPT-7的计算中分得一杯羹，他们可以使用它，可以转售它，也可以把它捐给别人用于癌症研究"。估计没有多少人会选择这个方案，毕竟直接拿钱更实惠。 ... PC版： 手机版：

“AI教父”杨立昆：辛顿错了，AI不是核弹

“AI教父”杨立昆：辛顿错了，AI不是核弹 北京时间5月23日凌晨，钛媒体App编辑在巴黎见到了杨立昆，针对相关问题，杨立昆对钛媒体App直接回应称，辛顿错了，AI 并不是“核弹”。“它（AI）不是炸弹，它不是用来杀人的，AI 是为了让他们（人类）更聪明。所以，我根本不明白这个类比。而且，AI 也没那么危险。我认为这些系统比实际情况要聪明得多。现在 AI 的问题是，未来的力量是否足够，你认为它是否也会破坏一些东西？我们可以触及到人类智能的系统，我们可以考虑如何让它更加安全。”杨立昆对钛媒体App表示。当钛媒体App问他当AI未来力量达到足够强大能影响人类时，还会坚持开源吗，杨立昆也非常坚定的回答是的。杨立昆强调，开源（AI 技术）很重要，是非常有意义的。5月23日上午，杨立昆在推文中再次强调，大型语言模型（LLMs）无法达到人类智能。如果你是一名对构建下一代 AI 系统感兴趣的学生，请不要攻读大模型相关专业。“我自己正在研究下一代 AI 系统，而不是LLM。 所以从技术上讲，我告诉你‘与我竞争’，或者更确切地说，‘与我做同样的事情，因为这是正确的做法，而且理论上更快乐’。”杨立昆称。公开信息显示，杨立昆出生于1960年，是一名法国计算机科学家，2018年图灵奖得主。他曾在巴黎电子工程师高等学校获得了工程师学位，1987年在巴黎第六大学获得计算机科学博士学位。博士就读期间，他提出了神经网络的反向传播算法学习算法的原型。随后到多伦多大学在杰弗里·辛顿的指导下完成了博士后工作。杨立昆在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络，他也被称为卷积网络之父。他共同创建了DjVu图像压缩技术，以及联合开发Lush语言。2019年，他同约书亚·本希奥、杰弗里·辛顿共同获得计算机学界最高奖项图灵奖。随着生成式 AI 的迅猛发展，杨立昆所在的Meta公司已经投入数十亿美元来开发Llama等多模态模型，旨在迎头赶上微软、OpenAI、Google等其他竞争对手。目前，杨立昆在Meta的基础人工智能研究(Fair)实验室管理着一个约500人的团队。致力于创造下一代 AI 技术，这种 AI 可以发展常识，并以与人类类似的方式学习世界是如何运作的，这种方法被称为“世界建模”（World Models）。一直以来，杨立昆与另一位“深度学习”教父 辛顿对于 AI 未来的看法恰恰相反。辛顿近日对外表示，尽管ChatGPT将使 AI 研究变得更加高效，影响 AI 研究过程，但长期来看，AI 发展太快了，容易超越人类，人类需要把控好 AI 技术带来的风险。而且他认为，模型实际上必须执行一定程度的推理，而不是像很多人所说的大模型并不具备推理能力。随着模型规模的增加，这种推理能力也将变得越来越强。这是一个值得全力以赴的方向。杨立昆却始终否定辛顿的这种看法。杨立昆认为，大模型不是 AI 技术真正的发展方向。ChatGPT等生成式 AI 产品永远无法实现像人类一样的推理和计划能力，而是认为在机器中创造“超级智能”，才是真正的通用人工智能（AGI）。但他也坦言，这一技术愿景可能需要十年的时间才能实现。杨立昆指出，他反对依靠提升大模型来制造人类水平的智能，因为这些模型只有在获得正确的训练数据后才能准确回答提示，因此“本质上是不安全的”。“不要学习大模型，这些技术掌握在大公司的手中，你没有什么可以做的。你应该研究下一代 AI 系统，以突破大模型的局限性。”杨立昆在对话中表示。杨立昆表示，大模型的这种进化是肤浅和有限的，只有当人类工程师介入并根据这些信息进行训练时，模型才会学习，而不是像人类那样自然地得出结论。杨立昆曾于2022年首次发表一篇关于他的“世界建模”愿景论文，此后，Meta基于该方法发布了两个研究模型。他称，实验室正在测试不同的想法，以实现人类级别的智能，因为“这其中有很多不确定性和探索，（所以）我们无法判断哪一个会成功或最终被采纳”。“我们正处于下一代 AI 系统的风口浪尖。”杨立昆指出。杨立昆认为，从长远来看，“世界建模”技术将为用户通过可穿戴技术、肌电“手环”等与之互动的AI Agent（代理）应用场景提供动力。“要想让 AI 真正有用，就需要具备类似人类水平的智能。”杨立昆表示。 ... PC版： 手机版：

人工智能教父 Geoffrey Hinton 离职谷歌

人工智能教父 Geoffrey Hinton 离职谷歌 Geoffrey Hinton 是人工智能领域最具影响力的先驱之一，离职谷歌使他可以自由地谈论人工智能风险，现在正式加入了批评者阵营。 Geoffrey Hinton : "我现在对自己的毕生工作感到非常后悔。我常用借口安慰自己，如果我不做，还有其他人会做。我以为这种东西超越人类智能还有30到50年甚至更长的时间，显然我不再这么认为了。很难看出如何才能防止坏人利用它来做坏事。" 他最关心的是，互联网上将充斥着虚假的照片、视频和文字，普通人再也无法知道什么是真实的。他还担心人工智能技术会及时颠覆就业市场，它虽然带走了苦差事，但也可能带走更多东西。如今个人和公司允许人工智能系统不仅生成自己的计算机代码，还能自主运行这些代码。他担心有一天，该技术的未来版本会对人类构成威胁，真正的自主武器，那些杀手机器人将成为现实。