谷歌痛失大将：“AI教父” Geoffrey Hinton离职，只为给人类敲响警钟？

谷歌痛失大将：“AI教父” Geoffrey Hinton离职，只为给人类敲响警钟？ #出海资讯就在加入谷歌的第十年、深度学习迎来爆发式发展的当下，几周前，现年75岁的Geoffrey Hinton辞去了他在谷歌的工作。而离职的原因，用他的原话来讲，是想要没有任何负担的给所有人讲一些他关于人工智能发展的“真心话”。 结合整个采访来看，Hinton主要有以下几个方面的担忧。 一是在人工智能技术的支持下，他认为互联网将很快被各种虚假信息淹没。 二是就业市场可能在就业市场还没有准备好的情况下被颠覆，造成失业潮的爆发。 此外，他还担心人工智能技术的接下来的发展会对人类社会构成威胁。 谷歌和微软以及其他大型公司之间的竞争，将很快升级为一场全球性竞争，如果没有某种监管，这场竞争将不会停止，人工智能发展的速度会远超我们的想象，并最终走向失控。

“AI教父”辛顿：AI将操控人类

“AI教父”辛顿：AI将操控人类 人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（Geoffrey Hinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。 记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）在2023年11月曾试图解雇该公司首席执行官(CEO) 山姆·奥特曼（Sam Altman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。 辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。 频道：@kejiqu 群组：@kejiquchat

“AI教父”杨立昆：辛顿错了，AI不是核弹

“AI教父”杨立昆：辛顿错了，AI不是核弹 北京时间5月23日凌晨，钛媒体App编辑在巴黎见到了杨立昆，针对相关问题，杨立昆对钛媒体App直接回应称，辛顿错了，AI 并不是“核弹”。“它（AI）不是炸弹，它不是用来杀人的，AI 是为了让他们（人类）更聪明。所以，我根本不明白这个类比。而且，AI 也没那么危险。我认为这些系统比实际情况要聪明得多。现在 AI 的问题是，未来的力量是否足够，你认为它是否也会破坏一些东西？我们可以触及到人类智能的系统，我们可以考虑如何让它更加安全。”杨立昆对钛媒体App表示。当钛媒体App问他当AI未来力量达到足够强大能影响人类时，还会坚持开源吗，杨立昆也非常坚定的回答是的。杨立昆强调，开源（AI 技术）很重要，是非常有意义的。5月23日上午，杨立昆在推文中再次强调，大型语言模型（LLMs）无法达到人类智能。如果你是一名对构建下一代 AI 系统感兴趣的学生，请不要攻读大模型相关专业。“我自己正在研究下一代 AI 系统，而不是LLM。 所以从技术上讲，我告诉你‘与我竞争’，或者更确切地说，‘与我做同样的事情，因为这是正确的做法，而且理论上更快乐’。”杨立昆称。公开信息显示，杨立昆出生于1960年，是一名法国计算机科学家，2018年图灵奖得主。他曾在巴黎电子工程师高等学校获得了工程师学位，1987年在巴黎第六大学获得计算机科学博士学位。博士就读期间，他提出了神经网络的反向传播算法学习算法的原型。随后到多伦多大学在杰弗里·辛顿的指导下完成了博士后工作。杨立昆在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络，他也被称为卷积网络之父。他共同创建了DjVu图像压缩技术，以及联合开发Lush语言。2019年，他同约书亚·本希奥、杰弗里·辛顿共同获得计算机学界最高奖项图灵奖。随着生成式 AI 的迅猛发展，杨立昆所在的Meta公司已经投入数十亿美元来开发Llama等多模态模型，旨在迎头赶上微软、OpenAI、Google等其他竞争对手。目前，杨立昆在Meta的基础人工智能研究(Fair)实验室管理着一个约500人的团队。致力于创造下一代 AI 技术，这种 AI 可以发展常识，并以与人类类似的方式学习世界是如何运作的，这种方法被称为“世界建模”（World Models）。一直以来，杨立昆与另一位“深度学习”教父 辛顿对于 AI 未来的看法恰恰相反。辛顿近日对外表示，尽管ChatGPT将使 AI 研究变得更加高效，影响 AI 研究过程，但长期来看，AI 发展太快了，容易超越人类，人类需要把控好 AI 技术带来的风险。而且他认为，模型实际上必须执行一定程度的推理，而不是像很多人所说的大模型并不具备推理能力。随着模型规模的增加，这种推理能力也将变得越来越强。这是一个值得全力以赴的方向。杨立昆却始终否定辛顿的这种看法。杨立昆认为，大模型不是 AI 技术真正的发展方向。ChatGPT等生成式 AI 产品永远无法实现像人类一样的推理和计划能力，而是认为在机器中创造“超级智能”，才是真正的通用人工智能（AGI）。但他也坦言，这一技术愿景可能需要十年的时间才能实现。杨立昆指出，他反对依靠提升大模型来制造人类水平的智能，因为这些模型只有在获得正确的训练数据后才能准确回答提示，因此“本质上是不安全的”。“不要学习大模型，这些技术掌握在大公司的手中，你没有什么可以做的。你应该研究下一代 AI 系统，以突破大模型的局限性。”杨立昆在对话中表示。杨立昆表示，大模型的这种进化是肤浅和有限的，只有当人类工程师介入并根据这些信息进行训练时，模型才会学习，而不是像人类那样自然地得出结论。杨立昆曾于2022年首次发表一篇关于他的“世界建模”愿景论文，此后，Meta基于该方法发布了两个研究模型。他称，实验室正在测试不同的想法，以实现人类级别的智能，因为“这其中有很多不确定性和探索，（所以）我们无法判断哪一个会成功或最终被采纳”。“我们正处于下一代 AI 系统的风口浪尖。”杨立昆指出。杨立昆认为，从长远来看，“世界建模”技术将为用户通过可穿戴技术、肌电“手环”等与之互动的AI Agent（代理）应用场景提供动力。“要想让 AI 真正有用，就需要具备类似人类水平的智能。”杨立昆表示。 ... PC版： 手机版：

有人工智能“教父”之称的杰弗里·辛顿（Geoffrey Hinton）早前辞去在Google的职务。他警告称，人工智能领域的发展

有人工智能“教父”之称的杰弗里·辛顿（Geoffrey Hinton）早前辞去在Google的职务。他警告称，人工智能领域的发展带来越来越大的危险。这位认知心理学家及计算机科学家告诉BBC，聊天机器人可能很快就会比人类更聪明。

“AI教父”辛顿最新预言：AI将操控人类

“AI教父”辛顿最新预言：AI将操控人类 辛顿相信，机器人武器可能会像核武器一样被限制，但要实现这一点，可能需要等到人们意识到其在战场上使用会带来多么悲惨的后果。此外，辛顿还提到了防止AI失控的观点，尽管许多人认为只需关闭电源开关即可，但他指出，超越人类智慧的AI可能会用语言操纵我们，试图说服我们不要关闭它。辛顿曾在英国剑桥大学攻读实验心理学，并于1978年在英国爱丁堡大学获得AI博士学位。在过去的半个世纪里，他一直引领着全球AI研究，他的许多学生参与了最尖端的生成式AI的开发。他还在2013年至2023年间在美国谷歌工作。 ... PC版： 手机版：

“AI教父”呼吁普遍基本收入 马斯克称未来将是普遍高收入

“AI教父”呼吁普遍基本收入 马斯克称未来将是普遍高收入 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 辛顿说：“唐宁街的人向我咨询，我建议他们普遍基本收入是一个好主意。”辛顿还强调了不受监管的人工智能的潜在风险，他指出，目前的发展轨迹可能会导致人类面临“灭绝级别的威胁”。他还建议，禁止AI的军事用途可能是一个更好的解决方案。一位X用户分享了辛顿的这番言论，特斯拉CEO埃隆·马斯克回应称：“将会有普遍高收入（不是基本收入）。”另一位用户在马斯克的帖子下评论称：“所有人的富足是加速之路。”马斯克回应称：“话虽如此，一个理想的结果是不确定的。”去年11月，马斯克在与英国首相苏纳克的一次对话中表示，人工智能最终可能会让所有人都无需工作，未来人们面临的挑战将是如何找到生活的意义。 ... PC版： 手机版：