AI教父发出警告：新版人工智能会让杀人机器人变为现实

AI教父发出警告：新版人工智能会让杀人机器人变为现实对毕生工作感到有些后悔欣顿周一正式加入到人工智能批评者的行列。批评者们认为，那些积极开发基于人工智能的产品的企业是在加速走向危险。欣顿说，他已辞去谷歌的工作，并对自己一生致力于人工智能开发感到有些后悔，欣顿已为谷歌效力长达十年。欣顿从人工智能奠基人到末日预言者的转变，标志着科技产业的一个关键时刻，该行业正处于几十年来最重要的转折点。业界领袖认为，人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美，并可能给从制药到教育等一系列领域带来突破。但许多业内人士担心，这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快，它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为，人工智能可能对人类构成威胁。欣顿说：“很难找到防止坏人用它做坏事的方法。”在旧金山初创企业开放人工智能研究中心(OpenAI)今年3月发布新版ChatGPT之后，1000多名技术领袖和研究人员签署公开信，呼吁在6个月内暂停开发人工智能新系统。几天后，有40年历史的人工智能促进会的19名现任和前任领导人发表公开信，警告人工智能存在风险。人工智能“变得越来越危险”1972年，作为英国爱丁堡大学的一名研究生，欣顿接受了所谓人工神经网的概念，即通过分析数据学习技能的系统，并以研发该系统作为主要工作。20世纪80年代，欣顿在卡内基-梅隆大学计算机系担任教授，但后来离开该大学前往加拿大，因为他不想接受五角大楼的经费资助。当时，美国的大部分人工智能研究都是由国防部资助的。但欣顿强烈反对在战场上使用人工智能，即他所说的“机器士兵”。2012年，欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网，它可以通过分析数千张照片建立自己识别物体的能力，比如认识花、狗和汽车。谷歌斥资4400万美元收购了由欣顿博十及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术包括聊天机器人ChatGPT和谷歌的巴德(Bard)。苏茨克韦尔后来成为OpenAI的首席科学家。大约同一时间，谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年，谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为，这些系统在某些方面仍然不如人脑，但在其他方面已经超过了人类智力。他认为，随着企业逐渐升级人工智能系统，它们将变得越来越危险。杀人机器人或会变为现实现在，微软用聊天机器人加强了必应搜索引擎，谷歌也想采用同样的技术。欣顿说，科技巨头们已经陷入一场可能无法停止的竞争。他眼下最担心的是，互联网上将充斥着各种虚假照片、虚假视频和文字普通人“再也无法知道什么是真的了。”他还担心人工智能会颠覆就业市场。目前，ChatGPT这样的聊天机器人还是人类的助手，但它们已经可以胜任一些死记硬背的工作。欣顿说：“这不仅会夺走工作机会，它会夺走更多。”欣顿担心，新版本的人工智能会对人类构成威胁，因为它们往往会通过分析海量数据学会令人意想不到的本领。他说这会带来问题因为技术人员和公司不仅允许人工智能系统自己生成代码，而且还允许它们自行运行代码。他担心，有朝一日这会使杀人机器人变为现实。他说：“过去，有人认为这种东西会变得比人更聪明，我认为这样想为时过早，成为现实至少还需要30到50年甚至更长时间。显然我现在不这么认为了。”欣顿博士认为，谷歌和微软等公司之间的竞争将升级为一场全球竞赛，除非有某种形式的全球监管，否则竞赛不会停止。但他说，监管不太可能，因为与核武器不同，目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说：“我认为，不应再升级该技术，直到人们确定是否能控制住人工智能。”...PC版：https://www.cnbeta.com.tw/articles/soft/1358583.htm手机版：https://m.cnbeta.com.tw/view/1358583.htm

人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以“越狱”其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在42.5%的时间内成功地攻击了GPT-4，对Claude2的攻击有61%的成功率，对开源聊天机器人Vicuna的攻击有35.9%的成功率。研究人员称，这种助理聊天机器人提升了25倍的越狱效率。来源，频道：@kejiqu群组：@kejiquchat

科学家创造人工突触 搭配水和盐制造出一种类脑计算机

科学家创造人工突触搭配水和盐制造出一种类脑计算机为了提高传统计算机的能效，科学家们长期以来一直从人脑中寻找灵感。他们希望通过各种方式模仿人脑的非凡能力。这些努力导致了类脑计算机的开发，它摆脱了传统的二进制处理方式，采用了类似于我们大脑的模拟方法。然而，我们的大脑是以水和称为离子的溶解盐粒子为介质运行的，而目前大多数受大脑启发的计算机则依赖于传统的固体材料。这就提出了一个问题：我们是否可以通过采用相同的媒介来更忠实地复制大脑的工作原理？这种引人入胜的可能性正是离子神经形态计算这一新兴领域的核心所在。突触的图示。突触由胶体球组成，球体之间有纳米通道。资料来源：乌得勒支大学在《美国国家科学院院刊》（PNAS）发表的最新研究中，科学家们首次展示了一个依靠水和盐的系统，它具有处理复杂信息的能力，与我们大脑的功能如出一辙。这一发现的核心是一个150×200微米的微小装置，它模仿了突触的行为--突触是大脑中负责在神经元之间传递信号的重要组成部分。乌特勒支大学理论物理研究所和数学研究所的博士生蒂姆-卡姆斯马（TimKamsma）是这项研究的第一作者，他兴奋地表示："虽然能够处理复杂信息的人工突触已经存在，但我们现在首次表明，利用水和盐也能实现这一创举。我们利用与大脑相同介质的系统，有效地复制了神经元的行为"。该装置由韩国科学家开发，被称为离子电子忆阻器，由一个锥形微通道组成，通道内充满水和盐溶液。在接收电脉冲时，液体中的离子会通过通道迁移，从而导致离子浓度的改变。根据脉冲的强度（或持续时间），通道的电导率会相应调整，从而反映出神经元之间连接的加强或减弱。电导的变化程度是输入信号的可测量代表。另一项发现是，通道的长度会影响浓度变化消散所需的持续时间。"卡姆斯马阐述说："这表明有可能定制通道，使其在不同的持续时间内保留和处理信息，这与我们大脑中观察到的突触机制类似。人工突触的显微图片。资料来源：乌得勒支大学这一发现的起源可以追溯到卡姆斯马不久前开始博士研究时的一个想法。他将这个以利用人工离子通道完成分类任务为中心的想法转化为一个强大的理论模型。卡姆斯马回忆说："巧合的是，在此期间，我们与韩国的研究小组有了交集。他们以极大的热情接受了我的理论，并迅速启动了基于该理论的实验工作。令人惊讶的是，仅仅三个月后，初步研究结果就出来了，与卡姆斯马理论框架中的预测非常吻合。见证从理论猜想到实际成果的转变，最终产生这些漂亮的实验结果，令人无比欣喜。"卡姆斯马强调了这项研究的基础性，并着重指出，离子神经形态计算虽然发展迅速，但仍处于起步阶段。设想中的结果是，与当今技术相比，计算机系统在效率和能耗方面具有极大的优势。然而，这一愿景能否实现，目前仍是猜测。不过，卡姆斯马认为该出版物是向前迈出的重要一步。他断言："这标志着计算机不仅能够模仿人脑的通信模式，而且还能利用相同的媒介，这是一个至关重要的进步。或许，这最终将为计算系统更忠实地复制人脑的非凡能力铺平道路。"编译来源：ScitechDaily...PC版：https://www.cnbeta.com.tw/articles/soft/1429167.htm手机版：https://m.cnbeta.com.tw/view/1429167.htm

机器人的灵魂和"垃圾代码"：人工智能应该被赋予人类的良知吗？

机器人的灵魂和"垃圾代码"：人工智能应该被赋予人类的良知吗？人类已经策划了最好的人类智能来指导人工智能，希望能创造出完美无缺的机器--但我们遗漏的缺陷会不会是确保机器人不叛变所需的缺失部分？一位作者建议，一个没有被充分探索的选项是将更多的人性编码到机器人中，赋予机器人同理心和同情心等特质。人性是答案吗？在8月出版的一本名为《机器人的灵魂》（RobotSouls）的新书中，作家兼学者EvePooleOBE博士探讨了这样一个观点：社会关于如何确保人工智能符合道德的难题的解决方案在于人性。她认为，在追求完美的过程中，人类剥离了"垃圾代码"，包括情感、自由意志和目的感。她说："正是这些'垃圾'才是人类的核心所在。我们的垃圾代码包括人类的情感，我们的错误倾向，我们讲故事的倾向，我们不可思议的第六感，我们应对不确定性的能力，对我们自己的自由意志的不可动摇的意识，以及我们看到我们周围世界的意义的能力。"这种垃圾代码实际上对人类的繁荣至关重要，因为在所有这些片状和异想天开的特性背后，是一个协调的尝试，以保持我们的物种安全。它们共同充当了一系列具有共同主题的改善剂：它们使我们保持在社区中，这样就有了大部分人的安全。"机器人的灵魂随着人工智能在我们的日常生活中越来越多地发挥决策作用，以及人们对人工智能中的偏见和歧视的担忧不断增加，普尔博士认为，答案可能就在我们首先试图从自主机器中剥离的东西中。她说："如果我们能破译这段代码，即让我们都想作为一个物种一起生存和发展的部分，我们可以与机器分享它。在所有的意图和目的上，赋予它们一个'灵魂'。"在新书中，普尔建议采取一系列下一步措施来实现这一目标，包括商定一个严格的监管程序，并立即禁止自主武器，同时建立一个许可制度，规定将任何有关人类生死的最终决定权保留给人类同伴。她认为，我们还应该商定合法人格的标准和实现这一标准的路线图。人类的蓝图"因为人类是有缺陷的，所以我们在建造人工智能时忽略了很多特性，"普尔解释说。"人们认为，具有情感和直觉等特征的机器人，会犯错误并寻找意义和目的，不会有好的效果。但在考虑为什么所有这些非理性的特性都存在时，似乎它们是从灵魂的源代码中出现的。因为实际上正是这种'垃圾'代码使我们成为人类，并促进那种使人类保持活力和繁荣的互惠利他主义"。《机器人的灵魂》着眼于人工智能的发展，回顾了意识和灵魂思想的出现，它将我们的"垃圾代码"置于这一背景之下，并认为现在是将这一代码置于首位的时候了，并利用它来重新审视我们如何对人工智能进行编程。...PC版：https://www.cnbeta.com.tw/articles/soft/1366029.htm手机版：https://m.cnbeta.com.tw/view/1366029.htm