“AI教父”辛顿：AI将操控人类

“AI教父”辛顿：AI将操控人类 人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（Geoffrey Hinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。 记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（Ilya Sutskever）在2023年11月曾试图解雇该公司首席执行官(CEO) 山姆·奥特曼（Sam Altman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。 辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。 频道：@kejiqu 群组：@kejiquchat

AI 教父杰弗里・辛顿从谷歌离职

AI 教父杰弗里・辛顿从谷歌离职 他担忧 AI 可能会导致某些工作机会减少，并创造一个许多人分不清什么是真实的世界，强调 AI 以惊人的速度进步、远超他和其他人的预期。 谷歌和微软以及其他大型公司之间的竞争将很快升级为一场全球性竞争。 频道 @WidgetChannel 投稿 @WidgetPlusBot

“AI教父”杨立昆：辛顿错了，AI不是核弹

“AI教父”杨立昆：辛顿错了，AI不是核弹 北京时间5月23日凌晨，钛媒体App编辑在巴黎见到了杨立昆，针对相关问题，杨立昆对钛媒体App直接回应称，辛顿错了，AI 并不是“核弹”。“它（AI）不是炸弹，它不是用来杀人的，AI 是为了让他们（人类）更聪明。所以，我根本不明白这个类比。而且，AI 也没那么危险。我认为这些系统比实际情况要聪明得多。现在 AI 的问题是，未来的力量是否足够，你认为它是否也会破坏一些东西？我们可以触及到人类智能的系统，我们可以考虑如何让它更加安全。”杨立昆对钛媒体App表示。当钛媒体App问他当AI未来力量达到足够强大能影响人类时，还会坚持开源吗，杨立昆也非常坚定的回答是的。杨立昆强调，开源（AI 技术）很重要，是非常有意义的。5月23日上午，杨立昆在推文中再次强调，大型语言模型（LLMs）无法达到人类智能。如果你是一名对构建下一代 AI 系统感兴趣的学生，请不要攻读大模型相关专业。“我自己正在研究下一代 AI 系统，而不是LLM。 所以从技术上讲，我告诉你‘与我竞争’，或者更确切地说，‘与我做同样的事情，因为这是正确的做法，而且理论上更快乐’。”杨立昆称。公开信息显示，杨立昆出生于1960年，是一名法国计算机科学家，2018年图灵奖得主。他曾在巴黎电子工程师高等学校获得了工程师学位，1987年在巴黎第六大学获得计算机科学博士学位。博士就读期间，他提出了神经网络的反向传播算法学习算法的原型。随后到多伦多大学在杰弗里·辛顿的指导下完成了博士后工作。杨立昆在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络，他也被称为卷积网络之父。他共同创建了DjVu图像压缩技术，以及联合开发Lush语言。2019年，他同约书亚·本希奥、杰弗里·辛顿共同获得计算机学界最高奖项图灵奖。随着生成式 AI 的迅猛发展，杨立昆所在的Meta公司已经投入数十亿美元来开发Llama等多模态模型，旨在迎头赶上微软、OpenAI、Google等其他竞争对手。目前，杨立昆在Meta的基础人工智能研究(Fair)实验室管理着一个约500人的团队。致力于创造下一代 AI 技术，这种 AI 可以发展常识，并以与人类类似的方式学习世界是如何运作的，这种方法被称为“世界建模”（World Models）。一直以来，杨立昆与另一位“深度学习”教父 辛顿对于 AI 未来的看法恰恰相反。辛顿近日对外表示，尽管ChatGPT将使 AI 研究变得更加高效，影响 AI 研究过程，但长期来看，AI 发展太快了，容易超越人类，人类需要把控好 AI 技术带来的风险。而且他认为，模型实际上必须执行一定程度的推理，而不是像很多人所说的大模型并不具备推理能力。随着模型规模的增加，这种推理能力也将变得越来越强。这是一个值得全力以赴的方向。杨立昆却始终否定辛顿的这种看法。杨立昆认为，大模型不是 AI 技术真正的发展方向。ChatGPT等生成式 AI 产品永远无法实现像人类一样的推理和计划能力，而是认为在机器中创造“超级智能”，才是真正的通用人工智能（AGI）。但他也坦言，这一技术愿景可能需要十年的时间才能实现。杨立昆指出，他反对依靠提升大模型来制造人类水平的智能，因为这些模型只有在获得正确的训练数据后才能准确回答提示，因此“本质上是不安全的”。“不要学习大模型，这些技术掌握在大公司的手中，你没有什么可以做的。你应该研究下一代 AI 系统，以突破大模型的局限性。”杨立昆在对话中表示。杨立昆表示，大模型的这种进化是肤浅和有限的，只有当人类工程师介入并根据这些信息进行训练时，模型才会学习，而不是像人类那样自然地得出结论。杨立昆曾于2022年首次发表一篇关于他的“世界建模”愿景论文，此后，Meta基于该方法发布了两个研究模型。他称，实验室正在测试不同的想法，以实现人类级别的智能，因为“这其中有很多不确定性和探索，（所以）我们无法判断哪一个会成功或最终被采纳”。“我们正处于下一代 AI 系统的风口浪尖。”杨立昆指出。杨立昆认为，从长远来看，“世界建模”技术将为用户通过可穿戴技术、肌电“手环”等与之互动的AI Agent（代理）应用场景提供动力。“要想让 AI 真正有用，就需要具备类似人类水平的智能。”杨立昆表示。 ... PC版： 手机版：

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补 辛顿在接受英国广播公司《新闻之夜》节目采访时说，他"非常担心人工智能会抢走很多平凡的工作"。因此，他向英国政府建议，全民基本收入是个好主意，每个人都能获得固定金额的收入。他说："唐宁街的人咨询过我的意见。"辛顿同意的另一个人工智能预测是，虽然技术将提高生产力和财富，但如果没有政府干预，这些钱将流向那些已经富裕的人，"而不是那些失去工作的人，这对社会将非常不利"。辛顿在 2023 年离开了Google，这样他就可以在不影响自己工作的公司的情况下谈论人工智能的危险。"看看五年前的情况和现在的情况，"辛顿谈到人工智能的现状时说。他说："把两者之间的差异向前推广。这太可怕了。"辛顿还担心，人工智能的发展可能导致的不仅仅是失业。这位教授重申了他的担忧，即人工智能可能会导致灭绝级的事件，尤其是当这项技术越来越多地应用于军事武器和车辆时。此外，风险还在于科技公司为了击败竞争对手进入市场和实现技术里程碑而放弃安全。辛顿说："我猜测，从现在开始的5到20年内，我们有一半的可能不得不面对人工智能试图取代人类的问题这种情况将导致生物大灭绝，因为我们创造了一种比生物智能更好的智能……这让我们非常担忧，不断进化的人工智能可能会发展出获得控制权的子目标。"他说："我最担心的是，这些系统何时能自主做出杀人的决定。"辛顿的话是在美国承诺永远不会让人工智能控制其核武器系统，并敦促中国和俄罗斯做出同样承诺数周后说的。辛顿对人工智能的看法与他的人工智能"教父"Yann LeCun教授形成了鲜明对比，后者去年曾表示，所谓的人工智能对人类的威胁"荒谬绝伦"，而且失业不会是永久性的。辛顿还建议，由于与人工智能相关的工作岗位流失，将需要归化全民基本收入的行业专家。ChatGPT开发商OpenAI的首席执行官萨姆-阿尔特曼（Sam Altman）自2016年以来一直在为这项福利奔走呼号，当时他开展了一项实验，为3000名参与者提供每月1000美元或每月50美元，为期三年。研究结果将于今年晚些时候公布。上周，奥特曼说，他想知道全民基本收入是否能被全民基本计算所取代，在全民基本计算中，"每个人都能从GPT-7的计算中分得一杯羹，他们可以使用它，可以转售它，也可以把它捐给别人用于癌症研究"。估计没有多少人会选择这个方案，毕竟直接拿钱更实惠。 ... PC版： 手机版：

“AI教父”呼吁普遍基本收入 马斯克称未来将是普遍高收入

“AI教父”呼吁普遍基本收入 马斯克称未来将是普遍高收入 访问：NordVPN 立减 75% + 外加 3 个月时长 另有NordPass密码管理器 辛顿说：“唐宁街的人向我咨询，我建议他们普遍基本收入是一个好主意。”辛顿还强调了不受监管的人工智能的潜在风险，他指出，目前的发展轨迹可能会导致人类面临“灭绝级别的威胁”。他还建议，禁止AI的军事用途可能是一个更好的解决方案。一位X用户分享了辛顿的这番言论，特斯拉CEO埃隆·马斯克回应称：“将会有普遍高收入（不是基本收入）。”另一位用户在马斯克的帖子下评论称：“所有人的富足是加速之路。”马斯克回应称：“话虽如此，一个理想的结果是不确定的。”去年11月，马斯克在与英国首相苏纳克的一次对话中表示，人工智能最终可能会让所有人都无需工作，未来人们面临的挑战将是如何找到生活的意义。 ... PC版： 手机版：

用基本收入应对 AI 对人类工作的影响

用基本收入应对 AI 对人类工作的影响 英国公共政策研究所创建了一个模型，分析了涵盖所有工作类型的 22,000 项任务，预测未来 3-5 年内，目前由人类尤其是女性和年轻人完成的任务有 59% 可能会受到 AI 的影响。在最坏的情况下可能会引发“就业的大灾难”，仅仅在英国就会有 800 万人失业。如何应对这种情况？有人提议推行基本收入 UBI。但 UBI 的钱从哪里来？他们认为 AI 企业会分享其收入，因为人类工作愈来愈少了，企业的利润和股息可以捐给有需要的人。很多人对此表示怀疑，认为历史告诉我们企业是不会这么做的，股东会拿走 100% 的利润。 via Solidot