AI教父：人工智能可能会重写自己的代码来“逃脱控制”

AI教父：人工智能可能会重写自己的代码来“逃脱控制”辛顿指出，人工智能系统可能逃脱控制的方法之一是自己编写“自己的计算机代码”，这是我们需要认真担心的事情。辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合著了一篇开创性的论文《通过反向传播误差来学习表征》，这是人工智能技术基础神经网络发展的一个里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。今年4月，在谷歌工作了10年之后，辛顿辞去了副总裁兼工程研究员的职位，这样他就可以自由地谈论人工智能带来的风险。在离职后，辛顿声称对自己在开发人工智能这项技术中的角色感到遗憾。他特别强调，人类，包括像他这样构建人工智能系统的顶尖科学家，仍然没有完全理解这项技术是如何工作和发展的。许多人工智能研究人员也坦率地承认对此缺乏理解。今年4月份，谷歌首席执行官桑达尔·皮查伊将其称为人工智能的“黑匣子”问题。正如辛顿所描述的那样，科学家为人工智能系统设计算法，从“数据集”中提取信息，比如互联网。他说：“当这种学习算法与数据产生交互时，它会产生擅长做某些事情的复杂神经网络。但说实话，我们并不真正了解它们是如何做到这些的。”皮查伊和其他人工智能专家似乎并不像辛顿那样担心机器失控的问题。另一位图灵奖得主YannLeCun称，任何有关人工智能可能取代人类的警告都是“荒谬可笑的”，因为人类总是可以阻止任何变得过于危险的技术。但辛顿认为，最坏的情况并不确定，医疗保健等行业已经从人工智能中受益匪浅。此外，人工智能制造的错误信息、假照片和视频在网上广泛传播。他呼吁进行更多的研究来了解人工智能，政府应该出台法规来控制这项技术，并在全球范围内禁止人工智能军用机器人。在上个月，美国科技大佬齐聚国会山，参加了由参议院多数党领袖舒默举办的人工智能峰会，商讨未来人工智能的监管方式。尽管科技巨头呼吁美国国会通过立法加强对人工智能的监管，但在如何进行监管上，各科技公司仍然存在分歧。辛顿指出，无论人工智能护栏是由科技公司，还是在美国联邦政府的强制要求下实施的，都需要尽快出台相关的监管措施。他认为，人类可能正处于“某种转折点”，接下来会发生什么存在巨大的不确定性。并补充说，科技圈和政府领导人必须决定“是否进一步发展这些东西，以及如果他们这样做该如何保护自己。”...PC版：https://www.cnbeta.com.tw/articles/soft/1389365.htm手机版：https://m.cnbeta.com.tw/view/1389365.htm

数百名顶级音乐家警告不要用人工智能取代人类艺术家

数百名顶级音乐家警告不要用人工智能取代人类艺术家超过200名音乐艺术家，包括怪奇比莉、凯蒂·佩里和斯摩奇·罗宾逊等重量级人物，向人工智能开发商、科技公司和数字平台撰写了一封公开信，要求“停止使用人工智能(AI)侵犯和贬低人类艺术家的权利”。信中写道：“我们呼吁所有人工智能开发者、科技公司、平台和数字音乐服务承诺，不会开发或部署会削弱或取代人类词曲作者和艺术家艺术性的人工智能音乐生成技术、内容或工具，也不会剥夺我们应得的报酬。”——

人工智能教父后悔研发AI　忧对社会和人类构成风险

人工智能教父后悔研发AI忧对社会和人类构成风险有人工智能（AI）教父之称的科学家辛顿认为，人工智能领域的进步对社会和人类构成深远风险，坦言对研发人工智能技术感到后悔。75岁的辛顿早前辞去在Google的职务。他说，离开除了因为年龄，亦是为了毋须在考虑对Google的影响下，谈论人工智能的危险，他担心人工智能会创造出令人信服的虚假图像和文本，从而创造一个人类无法再知道甚么是真的世界，亦担心会有坏人利用它来做坏事。辛顿又说，曾经认为人工智能起码要30至50年才能够进化到较人类更聪明，但他现在认为这个情况不再遥远。Google首席科学家迪恩回应表示，公司仍然致力对人工智能采取负责任态度，在不断学习了解新风险的同时，亦大胆创新。2023-05-0217:23:58

就业专家警告：完全远程工作人员最有可能被人工智能取代

就业专家警告：完全远程工作人员最有可能被人工智能取代斯坦福大学研究远程就业的经济学教授尼古拉斯-布鲁姆（NicholasBloom）告诉《商业内幕》（BusinessInsider），保护自己不被人工智能抢走饭碗的最好办法就是从事需要一些面对面互动的工作，即使这种互动很少发生。布鲁姆说，与同事会面、管理或指导，哪怕只是每月一次，都会产生人工智能无法完成的活动。这位教授的研究表明，60%的美国人和北欧人在工作中没有完全远程的选择。另外30%的人是混合型员工，这也是许多将员工召回办公室的科技公司正在采用的方案。剩下的10%是完全远程办公。包括亚马逊和Roblox在内的大多数企业都要求员工每周至少有三天到办公室上班。员工希望在家工作至少三天，但布鲁姆说，高级管理人员希望这个数字更像一天。这样的规定可能会给亚马逊带来很多问题，因为自从亚马逊推出混合计划以来，公司员工已经大量外流。布鲁姆说，在未来五到十年内，重复性、完全远程的工作最有可能被人工智能取代：数据录入、呼叫中心、人力资源、薪资等。至于混合型员工，人工智能在短期内不会构成威胁。该领域的一些研究认为，人工智能将增加更多的工作，而不是取代更多的工作。其他报告显示，实体的、面对面的工作，尤其是那些需要专业技能的工作，更不会受到被人工智能取代的威胁。但一些技能要求较低的职业可能会被机器人或其他形式的自动化取代。埃隆-马斯克（ElonMusk）认为，终有一天会不需要工作，因为人工智能将能胜任一切。今年10月，亚马逊开始在其仓库中试用更多的机器人，其中包括类似人类的Digit，它可以向前、向后、向两侧行走，下蹲和弯曲，并使用类似手臂/手掌的夹子移动、抓取和处理物品。最早的一份研究报告称，生成式人工智能可能会影响全球3亿个工作岗位，而9月份的一份更乐观的报告称，到2030年，该技术将取代美国240万个工作岗位，并影响1100多万个工作岗位。今年早些时候，一位首席执行官用生成式人工智能取代了他90%的支持人员，然后在Twitter上介绍自己的系统，他警告说，复制粘贴的工作已经死亡。...PC版：https://www.cnbeta.com.tw/articles/soft/1404253.htm手机版：https://m.cnbeta.com.tw/view/1404253.htm

AI教父：人工智能对世界的威胁比气候变化“更紧迫”

AI教父：人工智能对世界的威胁比气候变化“更紧迫”辛顿此前也证实，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合著了一篇开创性的论文《通过反向传播误差来学习表征》，这是人工智能技术基础神经网络发展的一个里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。但现在，越来越多的科技前沿人物公开表示，如果机器获得比人类更强的智能并控制地球，人工智能将对人类生存构成威胁，辛顿就是其中之一。在周五的采访中，辛顿表示，我不想贬低应对气候变化的价值，我不想说，你不应该担心气候变化，因为这也是一个巨大的风险，但人工智能的风险确实更加紧迫。他补充道，人类应对气候变化，相对而言，更容易提出一些有效的应对策略，比如说减少碳的排放，如果你这样做，最终一切都会好起来的。但对于人工智能的风险，你根本不知道如何下手。去年11月，微软支持的OpenAI公司向公众推出了人工智能聊天机器人ChatGPT，开始了一场技术竞赛。ChatGPT很快成为了历史上增长最快的应用程序，在两个月内月活用户就达到了1亿。今年4月份，包括马斯克在内的许多科技产业人士联署了一封公开信，呼吁所有相关实验室立即暂停训练人工智能系统至少6个月。虽然辛顿也担心这种威胁，但他不同意暂停研究。辛顿指出，这完全不现实，我认为人工智能技术存在巨大的风险，而且已经非常接近了，我们现在应该非常努力地工作，投入大量资源，找出我们能做些什么。此前一天，美国总统拜登会见了领先的人工智能公司谷歌、微软、OpenAI和Anthropic的首席执行官。拜登政府警告人工智能技术对公共安全、隐私和民主构成的危险，同时表示对其监管的权力有限。副总统卡马拉·哈里斯称，这项技术“有可能极大地增加对安全和安保的威胁，侵犯公民权利和隐私，并侵蚀公众对民主的信任和信心”。她补充说，企业有责任遵守现有的法律，以及“伦理、道德和法律责任，以确保其产品的安全和保障”。辛顿表示：“科技行业的领导人最了解人工智能的风险，政府也必须参与进来。它影响到我们所有人，所以我们都必须考虑如何应对它。”...PC版：https://www.cnbeta.com.tw/articles/soft/1358379.htm手机版：https://m.cnbeta.com.tw/view/1358379.htm

英国军情六处：人工智能无法取代人类间谍

英国军情六处：人工智能无法取代人类间谍摩尔称人工智能使得信息的获取变得无限容易，有人问AI是否会让军情六处这样的情报服务机构倒闭？他回答：“事实上，情况可能恰恰相反。随着人工智能在开放代码的海洋中遨游，精心捕捉互联网之外的信息，将会有更大价值。”摩尔此前曾警告，西方国家在人工智能的竞赛中正落后于竞争对手。他认为，人类特工在适当位置的独特性将变得更加重要。此次发言，是摩尔担任军情六处负责人近三年来，首次公开谈论人工智能的力量与威胁。在2021年11月的演讲中，他斥责西方国家对人工智能的颠覆性影响认识过缓，落后于在人工智能等尖端技术上“倾注资金与雄心”的竞争对手。...PC版：https://www.cnbeta.com.tw/articles/soft/1371849.htm手机版：https://m.cnbeta.com.tw/view/1371849.htm