“AI教父”辛顿最新预言：AI将操控人类

“AI教父”辛顿最新预言：AI将操控人类辛顿相信，机器人武器可能会像核武器一样被限制，但要实现这一点，可能需要等到人们意识到其在战场上使用会带来多么悲惨的后果。此外，辛顿还提到了防止AI失控的观点，尽管许多人认为只需关闭电源开关即可，但他指出，超越人类智慧的AI可能会用语言操纵我们，试图说服我们不要关闭它。辛顿曾在英国剑桥大学攻读实验心理学，并于1978年在英国爱丁堡大学获得AI博士学位。在过去的半个世纪里，他一直引领着全球AI研究，他的许多学生参与了最尖端的生成式AI的开发。他还在2013年至2023年间在美国谷歌工作。...PC版：https://www.cnbeta.com.tw/articles/soft/1424637.htm手机版：https://m.cnbeta.com.tw/view/1424637.htm

人工智能教父后悔研发AI　忧对社会和人类构成风险

人工智能教父后悔研发AI忧对社会和人类构成风险有人工智能（AI）教父之称的科学家辛顿认为，人工智能领域的进步对社会和人类构成深远风险，坦言对研发人工智能技术感到后悔。75岁的辛顿早前辞去在Google的职务。他说，离开除了因为年龄，亦是为了毋须在考虑对Google的影响下，谈论人工智能的危险，他担心人工智能会创造出令人信服的虚假图像和文本，从而创造一个人类无法再知道甚么是真的世界，亦担心会有坏人利用它来做坏事。辛顿又说，曾经认为人工智能起码要30至50年才能够进化到较人类更聪明，但他现在认为这个情况不再遥远。Google首席科学家迪恩回应表示，公司仍然致力对人工智能采取负责任态度，在不断学习了解新风险的同时，亦大胆创新。2023-05-0217:23:58

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补

AI教父杰弗里-辛顿：面对人工智能导致的失业需要全民基本收入来弥补辛顿在接受英国广播公司《新闻之夜》节目采访时说，他"非常担心人工智能会抢走很多平凡的工作"。因此，他向英国政府建议，全民基本收入是个好主意，每个人都能获得固定金额的收入。他说："唐宁街的人咨询过我的意见。"辛顿同意的另一个人工智能预测是，虽然技术将提高生产力和财富，但如果没有政府干预，这些钱将流向那些已经富裕的人，"而不是那些失去工作的人，这对社会将非常不利"。辛顿在2023年离开了Google，这样他就可以在不影响自己工作的公司的情况下谈论人工智能的危险。"看看五年前的情况和现在的情况，"辛顿谈到人工智能的现状时说。他说："把两者之间的差异向前推广。这太可怕了。"辛顿还担心，人工智能的发展可能导致的不仅仅是失业。这位教授重申了他的担忧，即人工智能可能会导致灭绝级的事件，尤其是当这项技术越来越多地应用于军事武器和车辆时。此外，风险还在于科技公司为了击败竞争对手进入市场和实现技术里程碑而放弃安全。辛顿说："我猜测，从现在开始的5到20年内，我们有一半的可能不得不面对人工智能试图取代人类的问题这种情况将导致生物大灭绝，因为我们创造了一种比生物智能更好的智能……这让我们非常担忧，不断进化的人工智能可能会发展出获得控制权的子目标。"他说："我最担心的是，这些系统何时能自主做出杀人的决定。"辛顿的话是在美国承诺永远不会让人工智能控制其核武器系统，并敦促中国和俄罗斯做出同样承诺数周后说的。辛顿对人工智能的看法与他的人工智能"教父"YannLeCun教授形成了鲜明对比，后者去年曾表示，所谓的人工智能对人类的威胁"荒谬绝伦"，而且失业不会是永久性的。辛顿还建议，由于与人工智能相关的工作岗位流失，将需要归化全民基本收入的行业专家。ChatGPT开发商OpenAI的首席执行官萨姆-阿尔特曼（SamAltman）自2016年以来一直在为这项福利奔走呼号，当时他开展了一项实验，为3000名参与者提供每月1000美元或每月50美元，为期三年。研究结果将于今年晚些时候公布。上周，奥特曼说，他想知道全民基本收入是否能被全民基本计算所取代，在全民基本计算中，"每个人都能从GPT-7的计算中分得一杯羹，他们可以使用它，可以转售它，也可以把它捐给别人用于癌症研究"。估计没有多少人会选择这个方案，毕竟直接拿钱更实惠。...PC版：https://www.cnbeta.com.tw/articles/soft/1431631.htm手机版：https://m.cnbeta.com.tw/view/1431631.htm

“AI教父”警告：人工智能可能取代人类

“AI教父”警告：人工智能可能取代人类在上周日的一次电视采访中，辛顿继续强调了人工智能进步可能带来的负面影响。辛顿说：“也许我们回顾过去，把这看作是一种转折点，人类必须做出决定，是否进一步发展这些东西，如果他们这样做了，该如何保护自己。”辛顿说，人工智能可能有好有坏，接下来会发生什么还不得而知。“我们需要认真思考接下来会发生什么。我们只是不知道。”辛顿在这次采访中警告称，人工智能有可能取代人类。他说：“如果我们能阻止他们这么做，那就太好了，但目前还不清楚我们能否阻止他们这么做。”辛顿的担忧包括人工智能带来的就业流失，以及假新闻的兴起，有偏见的人工智能程序提供的信息被当作事实。辛顿警告说，人工智能系统可能编写自己的计算机代码来修改自己，“这是我们需要认真担心的事情。”尽管对人工智能相关的风险感到担忧，但辛顿说，他对帮助开发系统和推动人工智能的兴起并不后悔。他在谈到人工智能可能带来的好处是说：“因此，医疗保健显然是一个巨大的好处。在理解医学图像的情况方面，人工智能已经可以与放射科医生相提并论。它将非常擅长设计药物。”辛顿说，可能无法找到一条可以确保人类未来安全的人工智能发展道路，“我们正在进入一个非常不确定的时期，我们正在处理以前从未处理过的事情。”他警告称，我们负担不起出错。...PC版：https://www.cnbeta.com.tw/articles/soft/1388979.htm手机版：https://m.cnbeta.com.tw/view/1388979.htm

“AI 教父” 呼吁实施普遍基本收入，马斯克称未来将是普遍高收入

“AI教父”呼吁实施普遍基本收入，马斯克称未来将是普遍高收入“AI教父”杰弗里・辛顿最近在采访中表达了对人工智能对就业安全的影响的担忧，建议政府考虑实施普遍基本收入，以解决失业导致的潜在不平等。辛顿还强调了不受监管的人工智能的潜在风险，他指出，目前的发展轨迹可能会导致人类面临“灭绝级别的威胁”。一位X用户分享了辛顿的言论，马斯克回应称：“将会有普遍高收入（不是基本收入）。”去年11月，马斯克在与英国首相苏纳克的对话中表示，人工智能最终可能会让所有人都无需工作，未来人们面临的挑战将是如何找到生活的意义。（环球市场播报）

AI教父Geoffrey Hinton表示人工智能“有 50-50 的机会”战胜人类

AI教父GeoffreyHinton表示人工智能“有50-50的机会”战胜人类AI教父GeoffreyHinton近日呼吁科技行业应该拨出大量资金来应对生存威胁——如果人工智能变得比人类更聪明，会发生什么？GeoffreyHinton认为未来20年人工智能有50-50的机会变得比人类更聪明，而因为人类从来没处理过比自己还聪明的东西，所以现在起应该花费20%-30%的计算资源来研究人工智能是如何最终如何逃脱人类的控制。“一旦人工智能有了自身利益，进化就会开始，”Hinton说道。Hinton将这种风险与人工智能带来的潜在收益并列起来，认为这是导致OpenAI联合创始人IlyaSutskever最近离开公司的关键矛盾之一。“对安全感兴趣的人，如IlyaSutskever，希望在安全上投入大量资源。对利润感兴趣的人，如SamAltman，不想在这方面花费太多资源。他补充说到。关注频道@ZaiHuaPd频道爆料@ZaiHuabot