超人类作家预测2045年将出现人工超级智能与永生的奇点

超人类作家预测2045年将出现人工超级智能与永生的奇点 在最近接受《卫报》采访时，库兹韦尔介绍了他的新书《奇点临近》，这是他 2005 年的畅销书《奇点临近》的续集：当人类超越生物学》的续篇。库兹韦尔预测，人工智能将在 2029 年达到人类水平的智能，而计算机与人类的融合（奇点）将在 2045 年实现。如今，人工智能已成为人们谈论最多的话题，但他认为自己的预测仍然有效。库兹韦尔认为，五年后，机器学习将在几乎所有领域拥有与最熟练的人类相同的能力。少数能够写出奥斯卡级别剧本或构思出新的深刻哲学见解的"顶尖人类"仍将能够击败人工智能，但当人工通用智能（AGI）最终在所有领域都超越人类时，一切都将改变。要将大型语言模型（LLM）提升到更高水平，只需要更强的计算能力。库兹韦尔指出，我们今天的计算模式"基本上是完美的"，随着时间的推移，它只会越来越好。作者并不认为量子计算会颠覆世界。他说，有太多方法可以继续改进现代芯片，比如 3D 和垂直堆叠设计。库兹韦尔预测，机器学习工程师最终将通过在更多数据基础上训练出的更先进的算法，解决幻觉、人工智能生成的不可思议的图像以及其他人工智能异常现象所带来的问题，一旦人们开始将大脑与云融合，奇点就会到来。脑机接口（BCIs）的进步已经出现。这些 BCIs 最终将由通过毛细血管"无创"进入大脑的纳米机器人组成，它们将使人类拥有自然智能和控制论智能的结合。库兹韦尔作为一名图书作者和热情的超人类主义者，他的想象力是显而易见的。科学界仍未找到将药物直接送入大脑的有效方法，因为人类的生理机能并不像这位未来学家所想的那样。不过，他仍然坚信，在未来二十年内，纳米机器人将使人类的智能提高"一百万倍"。库兹韦尔承认，人工智能将从根本上改变社会，并创造全球自动化经济。人们将失去工作，但也将适应先进技术带来的新的就业角色和机会。全民基本收入也将减轻人们的痛苦。他预计，第一批切实可行的变革计划将在 2030 年代出现。不可避免的"奇点"将使人类长生不老，或无限期地延长我们的寿命。技术甚至可以通过人工智能化身和虚拟现实让死者复活。库兹韦尔说，人们对人工智能的担忧是错误的："这不会是我们与人工智能的对决：人工智能正在进入我们的内部。它将让我们创造出以前无法实现的新事物。这将是一个非常美妙的未来。" ... PC版： 手机版：

给炒作泼盆冷水：人工智能正在遭遇一道难以逾越的天花板

给炒作泼盆冷水：人工智能正在遭遇一道难以逾越的天花板 访问：Saily - 使用eSIM实现手机全球数据漫游 安全可靠 源自NordVPN 过去几个月，对人工智能的炒作已经到了疯狂的地步。什么特斯拉在一两年内就要实现全自动驾驶了，人工智能明年将会变得比人类更聪明了，到 2040 年会有十亿台人工智能机器人取代人类工人了，这些还只是埃隆·马斯克今年迄今为止对人工智能许下的海口之一。整个人工智能圈都充斥着这样的预测和承诺，给人感觉人工智能的发展已走上不可阻挡的指数轨迹曲线上，已经到了我们人类根本无法阻止的地步。但是事实并非如此。要我说，人工智能正开始触碰到收益递减的发展天花板，从而令这些夸张的承诺变成一张废纸。下面我会解释的。要想理解这个问题，我们得先了解一点人工智能的基本工作原理。现代人工智能运用的是深度学习算法与人工神经网络，借此来发现数据当中的趋势。然后，人工智能就可以根据这些数据推断或沿着同一趋势线生成新的数据。这首先需要“训练”人工智能，将大量数据喂给它进行分析，让它去发现这些趋势。之后，你就可以抛问题给人工智能来获得输出。这个基本概念为计算机视觉、自动驾驶汽车、聊天机器人以及生成式人工智能提供了动力。这个解释有点简化了，但现在我们只需要了解这些就够了。过去几年，人工智能的能力有了显著增强。这部分要归功于有了更好的编程和算法。但 90% 要归功于用了更大的数据集对人工智能进行训练。从而使得人工智能可以更准确地了解数据趋势，从而更准确地生成结果。但有个问题：我们正目睹相对于所需的数据和算力，训练人工智能带来的回报正在急剧递减。我们先从数据讲起。假设我们开发了一个简单的计算机视觉人工智能，它可以识别出狗和猫，我们已经用 100 只狗和猫的图像和视频对其进行了训练，它可以在 60% 的时间内正确识别这些动物。如果我们将训练的图像和视频数量增加一倍，达到 200 个，其识别率就会提高，但只能略微提高到 65% 左右。如果我们再次将训练图像和视频增加一倍，达到 400 个，那么其改进将更加微乎其微，只能达到 67.5% 左右。这其中的部分原因在于，如果你手头的数据集比较小时，相对于较大的数据集，往里面添加一张新的训练图像，所提供的新数据会更多。不过，这也是因为人工智能处理小的数据集可以迅速建立新的连接与趋势，因为它只需找到适用于几个示例的趋势即可。但随着数据集的增长，找到对整个数据集都适用的新趋势和连接变得越来越难。这些来自较更大数据集的新趋势和连接让人工智能变得更好、能力更强。因此，随着训练人工智能的收益递减，我们看到将人工智能改进到一定程度所需要的训练数据量急剧增加。但这里面还有一个问题。训练人工智能对算力的需求非常大。人工智能必须将每个单独的数据点与数据集所有其他数据点进行比较，这样才能找到它们的关联和趋势。这意味着，每往人工智能训练数据库添加一位数据，用这个数据库训练人工智能所需的计算工作量都会呈指数级增长。因此，就算你有能力获取到训练这些不断改进的人工智能所需的大量数据，它所需的物理计算能力和能源最终也会增长到难以为继的地步。可悲的是，有证据表明，我们现在正处在这样一个阶段：一方面训练数据集扩大带来的回报在递减，一方面用所述数据集所需的算力又呈指数级增长，这些都会给人工智能的发展制造刚性的上限。就拿 OpenAI 的旗舰人工智能产品 ChatGPT4 来说吧，但它相对于 ChatGPT3 的改进要小于 ChatGPT3 相对于 ChatGPT2 的改进，尽管它的准确率提高了，但仍然存在跟 ChatGPT3 一样的幻觉与缺乏理解的问题。虽说OpenAI 对自己的人工智能开发方式守口如瓶，但专家调查发现，ChatGPT3 使用的训练数据集比 ChatGPT2 大了 78 倍，而ChatGPT4 所用的数据集比 ChatGPT3 要大 571 倍！可是，尽管训练数据集的大小有了显著提升， 但ChatGPT4 仍然存在重大缺陷，大大限制了它的使用场景。比方说，还是不能信任它能写出任何以事实为基础的东西，因为它仍然在编造事实。有人估计 ChatGPT4 的原始训练数据集有 45 TB 的纯文本。这意味着，下一次迭代要想取得 ChatGPT4 相对于 ChatGPT3 那样的巨大进步，训练数据集需要达数万 TB 之巨 。即便采用OpenAI 存疑的方法，获取和准备如此大量的纯文本数据也很不切实际。然而，就算真用这个数据集来训练人工智能也可能要消耗大量能源，大到这种成本令人工智能变得完全不可行的地步，那怕你是一家非营利组织也不可行。这么说并不夸张。 OpenAI 首席执行官山姆·阿尔特曼 (Sam Altman) 九层公开表示，先进的人工智能要想变得可行，需要能源技术取得突破，比如核聚变。可悲的是，就算我们确实实现了核聚变，在本世纪乃至下世纪这种技术也不太可能比我们目前的能源便宜。事实上，任何形式的能源都不会比我们目前所拥有的能源便宜得多。因此，针对人工智能能源问题提出的解决方案具有很大的误导性。这个观点得到了一些非常严肃的研究的支持。马萨诸塞大学阿默斯特分校曾做过一项研究，他们分析了将图像识别人工智能性能提高到准确率达 95% 以上所需的计算和能源成本。研究发现，训练这样一个模型将需要花费 1000 亿美元，其所产生的碳排放量相当于纽约市一个月的碳排放量。请记住，这是针对仍有 5% 的时间会出现灾难性错误的人工智能而言的。该研究还强调，将准确率提高到 99% 需要的成本和碳排放还会成倍增加。这就是为什么特斯拉永远不会用当前的方式开发全自动驾驶汽车的原因所在。他们的Autopilot和FSD只能通过这种人工智能计算机视觉来感知周围的世界，而FSD要想实现全自动驾驶，其图像识别精度需要接近100%的准确度。正如那项研究所表明那样，要想让特斯拉的人工智能变得那么好，其所需要的资金也许远非特斯拉能负担得起。换句话说，除非人工智能行业能够找到一种更高效的方法来提高训练人工智能以及计算负载的效率，否则就无法突破这个限制，然后人工智能的发展就将完全停滞。目前可能的解决方案即将出现，比方说结合了模拟与量子技术的更高效的人工智能硬件，以及需要训练数据集个更小的新的人工智能架构。不过，这些概念仍处在起步阶段，距离应用到现实世界可能还需要几十年的时间。简而言之，大家得有个心理准备，未来几年人工智能的发展肯能会大幅低于预期。 ... PC版： 手机版：

孙正义豪言壮语：All In AI打造超级人工智能 能力比人类强1万倍

孙正义豪言壮语：All In AI打造超级人工智能 能力比人类强1万倍 他预言，超级人工智能可能会在10年内出现，其能力将会是人类的1万倍。无论输赢都要投资AI本周四，孙正义就对投资人工智能表达出“孤注一掷”的决心。他表示，他的下一个大项目可能会大获成功，也可能惨败但软银别无选择，只能尝试。孙正义在股东大会上放出豪言：“我们需要寻找下一个重大举措，而不必担心它会成功还是失败。”软银首席财务官后藤芳光最近也发表了类似言论，声称软银需要承担更多风险，尤其是在人工智能发展加速的情况下。孙正义补充说，虽然该公司因押注 WeWork 而损失了数十亿美元，但“软银集团的活力源于寻找新的进化种子，尤其是在海外。”而对于孙正义来说，这枚“新的进化种子”显然就是人工智能。之前一切都只是热身？本周五 ，孙正义继续发表对于人工智能前景的看好，并豪迈宣称，该集团的使命就是通过实现人工超级智能来帮助人类进步。孙正义表示：“软银集团到目前为止做了很多事情，这些都是我实现人工智能的伟大梦想的热身。”孙正义计划打造一个“超级人工智能”时代。他声称，届时该公司芯片将支持一个由机器人和强大数据中心组成的生态系统，可以治疗癌症、打扫房屋和与孩子一起玩耍。他预计，超级人工智能可能在10年内出现，并放出豪言称，超级人工智能的能力将超过人类1万倍。AI底气来源于Arm孙正义表示，他对人工智能的雄心壮志取决于其子公司、芯片设计巨头Arm Holdings。乘着AI浪潮的“东风”，芯片设计公司Arm自去年9月首次公开募股以来，市值节节攀升。截至目前，Arm公司的股价已较发行价翻了一番，市值超过1000亿美元。尽管此前曾因Wework等失败投资而一度爆亏，但目前软银集团已连续两个季度实现盈利。而在这背后，Arm等投资项目的资产价值飙升功不可没。目前，Arm已经俨然成为孙正义继阿里巴巴之后的第二棵“摇钱树”，而孙正义显然也因此准备继续对人工智能投下重注。截至3月底，软银已经积累了6.2万亿日元（约合390亿美元）的现金储备。据今年2月份的一篇报道，孙正义正在寻求高达1000亿美元的资金来投资一家芯片企业，以生产人工智能半导体，并与当前全球芯片“霸主”英伟达竞争。 ... PC版： 手机版：

谷歌等科技巨头承认：AI可能会损害它们的业务

谷歌等科技巨头承认：AI可能会损害它们的业务 这些大型科技公司一直在公开宣布他们加入人工智能竞赛的计划，但最近，他们也开始正视并低调应对该技术可能对各自业务造成的不利影响。在2023年年度财报中，谷歌母公司Alphabet表示，其人工智能产品和服务“引发了道德、技术、法律、监管和其他方面的挑战，可能会对我们的品牌形象和市场需求产生负面影响”。同样，Meta、微软和甲骨文也在提交给美国证券交易委员会（SEC）的文件中，在“风险因素”部分阐述了他们对人工智能的担忧。微软表示，其生成式人工智能功能“可能容易受到来自老练对手的意外安全威胁”。Meta在2023年年度财报中称：“在开发和部署人工智能功能的过程中，我们面临着重大风险。这些风险包括但不限于人工智能的应用未必能增强我们的产品或服务，或对我们的业务产生正面影响，如提升效率或盈利能力。”Meta接着列举了一些具体因素，强调生成式人工智能可能带来的负面影响，如错误信息的广泛传播（尤其在大选等敏感时期）、有害内容的滋生、侵犯知识产权以及数据隐私泄露等，这些都可能对用户造成不利影响，并使公司面临法律诉讼的风险。与此同时，公众对于人工智能技术的担忧也日益加剧，主要聚焦于其可能导致的工作岗位流失、基于个人数据的大语言模型训练引发的隐私顾虑，以及错误信息快速传播对社会的潜在危害。6月4日，多位来自OpenAI的在职和离职员工签署了一封致科技公司的信，要求它们采取更多措施来减轻人工智能的风险，并保护对其安全性提出质疑的员工。信中写道，这些威胁包括“加剧现有的不平等、操纵和扩散错误信息，以及失去对可能导致人类灭绝的自主人工智能系统的控制”。截至本文发布，Meta、谷歌和微软都还没有回应置评请求。 ... PC版： 手机版：

AI正让管理者紧张：它管理比我强，我可能会降薪

AI正让管理者紧张：它管理比我强，我可能会降薪 这种担忧并非无的放矢，部分源于人们对人工智能能力的高度认可。高达64%的受访者认为，人工智能的产出和生产率与人类管理者所能产出的工作质量“相当”，甚至“可能更好”。事实上，人工智能技术已经越来越强大和多样化。例如，ChatGPT自2022年11月推出以来，已经能够生成视频、创建营销材料以及编写课程计划等。3月初，初创公司Cognition推出了Devin，并称其为“第一位人工智能软件工程师”，它能够修复漏洞并训练其他人工智能模型。此外，高管们似乎也对这些工具可能导致员工薪资降低感到不安。Beautiful.ai的调查显示，62%的受访高管表示，他们的员工认为人工智能最终会导致他们失业。同时，45%的高管认为，这项技术将促使整个员工队伍薪酬降低。调查还指出：“毫无疑问，人工智能工具的引入已经让员工开始质疑它们对公司的价值。”越来越多的研究揭示了一个共同的观点：员工普遍认为人工智能技术将对其收入产生影响。去年5月，市场研究软件平台Pollfish发布的一项调查结果显示，近79%的美国员工对人工智能技术的采用表示担忧，包括这会导致他们的薪资水平下降。不仅如此，这项技术似乎已经开始对某些工作岗位构成威胁。根据失业追踪机构Layoffs.fyi的数据，截至4月28日，科技行业在2024年已经有超过7万名员工被解雇。分析人士指出，这一现象可能与人工智能投资的增加密切相关。例如，一位电子商务公司的首席执行官透露，他利用人工智能聊天机器人取代了90%的支持人员。一位自由撰稿人抱怨称，她的客户开始被ChatGPT等人工智能抢走。然而，人工智能技术并非全然带来负面影响，它同样有可能成为提高薪酬的助力。科技咨询公司AccessPartnership去年12月进行的一项研究发现，雇主愿意为那些具备人工智能技能的员工提供至少30%的加薪。为了吸引这些人才，大公司甚至开出了远超六位数的薪水。此外，生成式人工智能还催生了全新的职业，如ChatGPT课程指导和内容编辑等。尽管人工智能将如何彻底改变工作领域仍充满未知，但Beautiful.ai的数据显示，64%的管理人员表示，自2024年初以来，他们已经开始在日常或每周的员工管理中运用人工智能技术。该调查指出：“企业可以期待在未来从人工智能中看到更多可能。现在的问题不再是是否应该在工作场所采用这项技术，而是何时以及如何有效地将其融入日常运营中。” ... PC版： 手机版：

“即使人类被AI消灭，我也会直面” 马斯克最新访谈讽刺OpenAI不Open

“即使人类被AI消灭，我也会直面” 马斯克最新访谈讽刺OpenAI不Open 图片来源：现场视频截图马斯克：即使人类被AI消灭，我也会直面在谈到“人工智能是否真的会为我们处理所有事务”时，马斯克表示：我们不能盲目乐观或过度悲观。我非常赞同杰夫·辛顿（Jeff Hinton，人工智能教父）的观点。他认为有10%到20%的可能性会出现一些令人担忧的情境。然而，我们更应关注那80%的积极可能性。因此，我认为最有可能的未来是，我们将进入一个物质极度丰富的时代，商品和服务将普及到地球上的每一个人。这不仅仅意味着全民基本收入，而是全民都能享受高收入。工作将变得可选，人们将拥有选择是否工作的自由。这样的前景虽然诱人，却也可能引发一场有关生命意义的危机。当人工智能能够胜任我们所能做的所有工作，甚至做得更好时，我们做事的动机和意义又何在呢？这可能会引发一种存在主义式的困惑，即我们为何还要去做任何事情？所以，我认为我们正迈向一个前所未有的繁荣时代。同时，我们也正处于历史上最为有趣的时刻。有句谚语说的好，“愿你生活在有趣的时代”，这看似是一种诅咒，但我认为我们正身处于这样一个时代。我的意思是，即使面对人工智能可能带来的最坏结果，即人类被消灭，我也会选择直面而非逃避。我想，我可能真的愿意亲眼见证这一切的发展。马斯克：人工智能将会拥有创造力，包括原创能力当主持人问马斯克：你认为人工智能能否具备创造力？马斯克表示自己坚信人工智能将会拥有创造力，包括原创能力。马斯克表示：事实上，我认为人工智能将可以提升人类智力，而这正是Neuralink所追求的目标。通过提升人类智力，使我们能够跟上人工智能的发展步伐，或实现更和谐的人工智能与人类的共生关系。之后，马斯克进一步表示：人工智能无疑会极大地增强我们的创造力。在积极的应用场景中，人工智能会竭尽全力让你感到幸福快乐，因此，这可能是一个极好的发展。换句话说，如果某种超级智能致力于让你快乐，它很可能会成功。然而，就像我之前提到的，这是一个有趣的时代，我们既要期待它的美好，也要警惕其潜在的负面影响。马斯克认为这些变化将会非常迅速地发生。最早在明年，你就可能会看到人工智能带来的显著改变，而在未来五年，你会看到更激进的改变。OpenAI的初衷是为了与谷歌在人工智能领域形成制衡马斯克在现场访问中表示，OpenAI的初衷是为了与谷歌在人工智能领域形成制衡。当时，谷歌在这一领域占据了绝对的主导地位，且缺乏有效的竞争，形成了单极世界。我担心拉里·佩奇（Larry Page，谷歌联合创始人）对人工智能安全性的重视程度不足。起初，OpenAI有着诸多崇高的愿景，其名字“OpenAI”即意味着开放源代码。而OpenAI的名字也是他起的，其中的‘开放’寓意着‘开源’。然而，如今它却为了利润最大化而转变为闭源人工智能公司，这与最初的宗旨背道而驰。我不知道它是怎么变成这样的。马斯克：全球将有200亿台这样的人形机器人在访问现场谈及擎天柱时，马斯克表示：擎天柱旨在成为一款功能全面的人形机器人，它能够执行多种任务。基本上，你可以让它遛狗、看家、照顾孩子、教孩子编程、做饭甚至弹奏钢琴。因此，它是一款通用人形机器人。我相信每个人都会想要拥有一台这样的机器人，为何不呢？而且，我认为每个人至少会拥有一个机器人。而在工业领域，我们将制造更多的擎天柱。我预测，全球将有200亿台这样的人形机器人。马斯克：我对长生不老不感兴趣访问现场有观众提问马斯克：你是否投资了长寿技术？毕竟，很多西海岸的人都渴望长寿，他们想要永生，不是吗？对此，马斯克回答道：永生是一个遥远的概念。我并没有投资任何长寿技术。我认为，重要的是我们至少在某个时刻能够自然地离世。当然，我们可以努力活得更久一些，尤其是在精神和身体都保持健康的状态下。但如果我们活得太久，我认为这会对社会产生负面影响。许多人会变得不愿改变自己的想法，这将会抑制新思想的产生。目前，我们正看到这种情况的苗头。所以，当你想到世界上一些最坏的人时，你真的希望他们永生吗？ ... PC版： 手机版：