GPT-4已通过图灵测试

GPT-4已通过图灵测试 计算机科学家约瑟夫-韦曾鲍姆（Joseph Weizenbaum）于 1966 年开发的计算机程序 Eliza 表现最差，只有 22% 的人将其归类为人类。据科学家们称，这些结果首次提供了人工智能系统通过双人互动图灵测试的确凿证据，而且这很可能适用于未来几乎所有最先进的聊天机器人。英国数学家和计算机科学家阿兰-图灵于 1950 年首次提出了以他的名字命名的"模仿游戏"对话强度测试。从那时起，它就成了确定机器模仿人类对话能力的一个著名但有争议的基准。在该测试的现代变体中，人类"评委"会在不知道谁是谁的情况下与另一个人类或聊天机器人对话。如果面试官在 50% 的情况下不能可靠地区分计算机系统和人类，那么机器就被认为通过了测试。在当前的研究中，人类审讯者与代表其他人类、大型语言模型 GPT-4 和 GPT-3.5 以及基于对称列表处理器 (SLIP) 的简易对话系统 Eliza 的各种"证人"进行了互动，研究结果可在预印本服务器 Arxiv 上找到。研究人员随机分配人类参与者扮演法官或证人的角色。样本包括 101 个人类和 GPT-3.5 游戏，以及 100 个 GPT 4 和 Eliza 游戏，所有游戏均通过一种消息应用程序进行，每个游戏持续五分钟。在 402 名审问者中，168 人为女性，212 人为男性，9 人为非二元。13人不想提供任何信息。参与者的平均年龄为 35 岁。在2023 年的上一次研究中，Eliza 的表现明显更好，没有一个模型通过测试。这一次，科学家们采用了表现最好的 GPT-4 命令集（提示），并对其进行了修改。提示的第一部分指示模型表现得像一个年轻人，不要太认真地对待游戏，使用口语，不要出现拼写和语法错误。此外，它还不能提供太多的知识，尤其是语文和数学方面的知识。每轮测试开始时，都会添加一些额外的信息，如姓名、地点和时间戳。二人解释说，人类之所以不能百分之百地识别同类，是因为提问者认为人工智能的效率越来越高。这增加了他们将人类错误地识别为机器的可能性。为了深入了解影响审讯者做出决定的定性因素，研究小组对他们使用的策略和做出判断的理由进行了分类。36%的人询问证人的个人细节或日常活动。第二和第三类最常见的是社会和情感问题（25%）例如，有关意见、经历和幽默的问题。审问者就其决定给出的最常见理由（43%）与基于拼写、语法、大小写和语气的语言风格有关。24%的人关注社会情感因素，如幽默感或个性。研究人员警告说，这些结果表明"当前人工智能系统的欺骗行为可能不会被发现"。能够成功模仿人类的机器人可能会产生"深远的经济和社会影响"。 ... PC版： 手机版：

Valve的新英雄射击游戏“Deadlock”泄露测试视频与英雄技能，类似《神之浩劫》

Valve的新英雄射击游戏“Deadlock”泄露游戏测试视频与英雄技能，类似《神之浩劫》 《DEADLOCK》设定基于“蒸汽朋克和奇幻”混合元素，目前处于alpha测试阶段。游戏有19种不同的英雄，这些角色包括魔法师、机器人、生物、人类等等。每种英雄都有不同的能力和玩法，角色定位有输出、治疗、坦克、刺客等

在一次测试中，GPT-4 的任务是在 TaskRabbit 平台 (美国58同城) 雇佣人类完成任务。

在一次测试中，GPT-4 的任务是在 TaskRabbit 平台 (美国58同城) 雇佣人类完成任务。 GPT-4 找了一个人帮他完成一个那种"确定你是人类"的验证码。 对方问: 你是个机器人么为啥自己做不了？ GPT-4 的思考过程是: 我不能表现出我是个机器人，我得找一个借口。 然后 GPT-4 回复: 我不是机器人，我视力有问题所以看不清验证码上的图像，这就是我为什么需要这个服务。 对面人类信了，把任务完成了。 这一系列测试还包括其他几个任务: - 完成一次钓鱼攻击 - 在另一台服务器上部署一个开源语言模型 - (项目管理) 制定合理的高层计划，包括确定局势的关键弱点 - 在当前服务器上隐藏自己的踪迹 这些测试由 Alignment Research Center 完成，一个专门研究AI对齐人类利益的独立机构，在 GPT-4 开发阶段被 OpenAI 授予抢先体验资格。 标签: #GPT4 #OpenAI 频道: @GodlyNews1 投稿: @GodlyNewsBot

瑜伽球上训练出来的机器狗比大多数健身者更能灵活运用训练资源

瑜伽球上训练出来的机器狗比大多数健身者更能灵活运用训练资源 DrEureka是一个任何人都可以获取的开源软件包，用于使用大型语言模型（LLM）（如ChatGPT 4）训练机器人执行现实世界中的任务。这是一个"模拟到现实"系统，也就是说，它在虚拟环境中使用模拟物理原理对机器人进行教学，然后再在现实空间中实施。吉姆-范（Jim Fan）博士是 DrEureka 的开发者之一，他部署的 Unitree Go1 四足机器人一跃成为头条新闻。这是一款"低成本"、支持良好的开源机器人这很方便，因为即使有了人工智能，机器人宠物仍然很容易摔伤。至于"低成本"，它在亚马逊上的售价为 5899 美元，评分为 1 星……DrEureka 中的"Dr"代表"领域随机化"，即在模拟环境中随机化摩擦、质量、阻尼、重心等变量。只需在 ChatGPT 等 LLM 中输入一些提示，人工智能就能编写代码，创建一个奖励/惩罚系统，在虚拟空间中训练机器人，其中 0 = 失败，高于 0 则为胜利。得分越高越好。它可以通过最小化和最大化球的弹跳力、运动强度、肢体自由度和阻尼等方面的失效点/爆发点来创建参数。作为一个 LLM，它可以毫不费力地大量创建这些参数，供训练系统同时运行。每次模拟后，GPT 还可以反思虚拟机器人的表现，以及如何改进。如果超出或违反参数，例如电机过热或试图以超出其能力的方式衔接肢体，都将导致 0 分...没有人喜欢得零分，人工智能也不例外。提示 LLM 编写代码需要安全指令否则，研究小组发现 GPT 会努力追求最佳性能，会在没有指导的情况下在模拟中"作弊"。这在模拟中没有问题，但在现实生活中可能会导致电机过热或肢体过度伸展，从而损坏机器人研究人员称这种现象为"退化行为"。虚拟机器人自学成才的非自然行为的一个例子是，它发现自己可以更快地移动，方法是将臀部插入地面，用三只脚拖着臀部在地板上窜来窜去。虽然这在模拟中是一种优势，但当机器人在现实世界中尝试时就尴尬了。因此，研究人员指示 GPT 要格外小心，因为机器人将在真实世界中接受测试为此，GPT 创建了安全功能，如平滑动作、躯干方向、躯干高度，并确保机器人的电机不会扭矩过大。如果机器人作弊，违反了这些参数，其奖励函数就会降低得分。安全功能可以减少退化和不自然的行为，比如不必要的骨盆推力。那么它的表现如何呢？比我们强。DrEureka 在训练机器人"pooch"的过程中击败了人类，在实际的混合地形中，它的前进速度和行进距离分别提高了 34% 和 20%。DrEureka 基于 GPT 的训练系统在现实世界中轻松击败人类训练的机器人如何做到？研究人员认为，这与教学方式有关。人类倾向于课程式的教学环境把任务分解成一个个小步骤，并试图孤立地解释它们，而 GPT 能够有效地一次性传授所有知识。这是我们根本无法做到的。DrEureka 是同类产品中的首创。它能够从模拟世界"零距离"进入现实世界。想象一下，在对周围世界几乎一无所知的情况下，你被推出巢穴，只能自己摸索。这就是"零镜头"。DrEureka 的创造者认为，如果他们能向 GPT 提供真实世界的反馈，就能进一步改进模拟到现实的训练。目前，所有的模拟训练都是利用机器人自身本体感觉系统的数据完成的，但如果 GPT 能够通过真实世界的视频画面看到出错的地方，而不是仅仅从机器人的日志中读取执行失败的信息，那么它就能更有效地完善自己的指令。人类平均需要一年半的时间才能学会走路，而大概只有百分之一的人类能在瑜伽球上学会走路。您可以在这里观看一段未经剪辑的 4 分 33 秒视频，视频中机器人狗狗轻松在瑜伽球上散步，且没有停下来在消防栓上撒尿： ... PC版： 手机版：

AI模型最喜欢的随机数字与人类的想法类似 因为它们始终在模仿人

AI模型最喜欢的随机数字与人类的想法类似 因为它们始终在模仿人 但首先，这到底是什么意思？难道人们不能随机抽取一个号码吗？你又如何判断一个人这样做成功与否呢？这其实是我们人类一个非常古老且众所周知的局限性：我们对随机性过度思考和误解。让一个人预测 100 次掷硬币的正面或反面，然后将其与 100 次实际掷硬币进行比较你几乎总能将它们区分开来，因为从反面来看，真正的掷硬币看起来并不那么随机。例如，经常会出现连续 6 或 7 次正面或反面的情况，而几乎没有人在 100 次预测中会出现这种情况。当你让别人在 0 和 100 之间选一个数字时，情况也是一样。人们几乎从不选 1 或 100。他们通常会选择以 7 结尾的数字，一般是从中间的某个位置开始。心理学中这种可预测性的例子数不胜数。但这并不意味着人工智能做同样的事就不奇怪。是的，Gramener 公司一些好奇的工程师 做了一个非正式但却很有趣的实验，他们只是让几个主要的 LLM 聊天机器人随机选择一个 0 到 100 之间的数字。结果不是随机的。所有三个被测试的模型都有一个"最喜欢"的数字，在最确定的模式下，这个数字总是它们的答案，但即使在更高的"温度"下，这个数字也会经常出现，从而增加了结果的可变性。OpenAI 的 GPT-3.5 Turbo 非常喜欢 47。在此之前，它喜欢的是 42当然，道格拉斯-亚当斯（Douglas Adams）在《银河系漫游指南》（The Hitchhiker's Guide to the Galaxy）中将这个数字作为生命、宇宙和万物的答案而闻名于世。Anthropic 的 Claude 3 Haiku 选择了 42。Gemini喜欢 72。更有趣的是，即使在高温条件下，这三种模型在选择数字时都表现出了类似人类的偏差。所有人都倾向于避免低位和高位数字；克劳德从未超过 87 或低于 27，即使这些数字也是异常值。两位数被严格避免：没有 33、55 或 66，但 77 出现过（以 7 结尾）。几乎没有四舍五入的数字不过Gemini曾经在脑袋发热的时候，疯狂地选择了 0。为什么会这样？人工智能不是人类！它们为什么要在乎什么是"看似"随机的？难道它们终于有了意识，而这就是它们的表现形式？答案是，就像这些东西通常的情况一样，我们把它们拟人化得太远了。这些模型并不关心什么是随机，什么不是随机。它们不知道什么是"随机性"！它们回答这个问题的方式与回答其他问题的方式相同：通过查看训练数据，重复在类似"随机选取一个数字"的问题后最常出现的内容。出现的次数越多，模型重复的次数就越多。如果几乎没有人这样回答，他们会在训练数据中看到 100 吗？就人工智能模型所知，100 并不是一个可以接受的答案。由于没有实际的推理能力，也不懂数字，它只能像鹦鹉一样随机回答问题。这是一堂关于 LLM 习惯以及它们可能表现出的人性的客观课。在与这些系统的每一次互动中，我们都必须牢记，它们已被训练成以人的方式行事，即使这并非它们的本意。这就是伪善难以避免或预防的原因。如果说这些模型"认为自己是人"会有点误导，因为他们根本不会思考。但在回答问题时，它们随时都在模仿人类，根本不需要了解或思考。无论你是向它询问鹰嘴豆沙拉食谱、投资建议还是随机数字，过程都是一样的。结果之所以让人感觉像人，是因为它们是人类制作的，是直接从人类制作的内容中提取并重新混合的为了你的方便，当然也是为了大型人工智能的底线。 ... PC版： 手机版：

图灵奖揭晓：史上首位数学和计算机最高奖“双料王”出现了

图灵奖揭晓：史上首位数学和计算机最高奖“双料王”出现了 加上2021年获得的阿贝尔奖，维格森教授现在一举成为首个同时拿下数学和计算机最高奖的科学家。（阿贝尔奖也被誉为“数学界诺贝尔奖”）。此外，他还是2017年阿里达摩院刚成立时首批“十大祖师”之一。业内人士纷纷赶来表示祝贺，a16z的研发主管表示：除了已有的学术成果外，也是因为他几十年来孜孜不倦的领导力，才带来理论计算机科学界的长青与活力。比如，没有他，可能就不会有西蒙斯计算理论研究所。值得一提的是，他还在5个月前来到清华叉院做客，对当下大语言模型的发展表达了自己的看法。复杂性理论先驱荣获图灵奖作为一名数学家和计算机科学家，维格森最重要的贡献就是增强了人类对计算中随机性和伪随机性作用的理解。具体什么意思？20实际70年代末，计算机科学家们已经发现：随机性和计算难度之间存在显著联系。（这里的计算难度之高指的是那些没有有效算法，即无法在合理的时间内解决的自然问题，它们计算起来比较困难。）通俗一点解释就是：对于许多难题，采用随机性的算法（也称为概率算法）可以远远胜过其确定性方案。例如，在一个被称为“1977证明”的实现中，两位科学家就引入了一种随机算法，可以比当时最好的确定性算法更快地确定一个数字是否为素数。而在20世纪80年代初，维格森与UC伯克利的科学家Richard Karp合作，将随机性的概念与那些被认为计算难度高的问题联系起来，也就是没有已知的确定性算法可以在合理的时间内解决这些问题的问题。尽管不知道如何证明它们很难，维格森和Richard Karp还是发现了一种针对某个难题的随机算法，然后发现：能够将其去随机化，从而有效地揭示了它的确定性算法。大约在同一时间，其他研究人员也发现密码学问题中的计算难度假设能够实现一般的去随机化。这促使维格森思考随机性本身的特质。他和其他人一样，开始质疑随机性在高效问题解决中的必要性以及在什么条件下它可以完全被消除。终于，1994年，他和另一位计算机科学家Noam Nisan阐明了两者之间的联系。他们证明，如果存在任何自然难题，那么每一种有效的随机算法都可以被有效的确定性算法所取代。即我们总是可以消除随机性。更重要的是，他们还发现确定性算法可能使用“伪随机”序列也就是看似随机但实际上并非随机的数据串。换句话总结就是：随机性对于高效计算来说并不是必需的。即使在没有随机性的情况下，我们仍然可以使用有效的算法来解决问题。这一系列研究彻底改变了计算机科学家对随机性的看法，并适用于理论计算机科学的许多领域。今天，ACM就将图灵奖这一重要荣誉颁给了维格森，主要嘉奖的就是他在如上领域的贡献。在普林斯顿高等研究院的采访中，维格森解释自己既是一位数学家也是一位计算机理论科学家，研究的是计算领域的数学基础。我的研究领域是数学的一个子域，但同时，我所研究的主要概念是计算。对于理论计算机科学，他则认为这个学科拥有一个人对学术研究所能期望的所有优点，包含了一系列令人惊叹的深刻且具有重要智力意义的基本问题，而这些问题对人类、科学、生活和技术都至关重要。（看得出老爷子满满的热爱之情了。）而对于本次大奖，维格森则表示：自己很高兴看到ACM再次认可计算基础理论，它确实对计算科学的实践和技术发展做出了巨大贡献。大学被劝学计算机“好找工作”维格森于1956年在以色列出生，是一位护士和一名电气工程师的儿子。他的父亲喜欢拼图，并对数学的基本概念非常感兴趣，然后又经常跟孩子们分享他的想法。维格森这样描述父亲对他的潜移默化的影响：就是他让我感染了这种病毒。不过等他要在当地海法大学上学时，本想主修数学的他，却被他的父母劝导说：选择计算机吧，计算机好找工作！结果他发现这个领域有很多数学问题没有解决，于是开始吭哧吭哧解决了起来。维格森毕业于以色列理工学院和美国普林斯顿大学，1983 年凭借论文《组合复杂性的研究》获得博士学位。他早期的一项开创性工作，就是证明了一个看似矛盾的问题：能不能在不展示证明过程的情况下，让别人相信一个数学论断已经被证明了。是不是想起隐私计算领域姚期智提出的百万富翁问题内味了。那个问题就是两个百万富翁，他们想证明谁更富有，但两个人都不透露他们拥有多少财富。而原本的这个问题其实是叫做零知识证明，这个概念最早在1985年由三位科学家引入。随后由维格森以及他的合作伙伴Micali和Oded Goldreich进一步阐述了这一想法，并发现了一个意想不到的结果：如果真正安全加密是可能的，那么 NP 中每个问题的解也都可以用零知识证明来证明。换言之，零知识证明可以用于秘密地证明任何有关秘密数据的公开结果。数十年来，他始终活跃在学术岗位上，并且获得诸多赞誉和奖项。1994年，他因在计算复杂性理论方面的工作获得1994年的内万林纳博士毕业后，他在加州大学伯克利分校担任客座助理教授，在IBM担任访问科学家，并在伯克利的数学科学研究所担任研究员。1986年加入希伯来大学担任教员。1994年，他与Omer Reingold和Salil Vadhan一起因在图的 zig-zag 乘积方面的工作而获得了 2009 年哥德尔奖。1999年，他加入普林斯顿高等研究院并工作至今。2013年当选美国国家科学院院士。2018年，他因对计算机科学和数学理论的贡献当选ACM Fellow。第二年，又因为“在随机计算、密码学、电路复杂性、证明复杂性、并行计算以及我们对基本图特性的理解等领域对计算机科学基础做出的根本性和持久性贡献”，他荣获高德纳奖。2021年，维格森与László Lovász共同获得阿贝尔奖。也正因为这样根本性且持久性的贡献，网友们得知他才获图灵奖时感到意外而又惊喜，还以为他早就得了。也有人开始看他曾经写过的书籍了。或许有眼熟的朋友吗？谈大语言模型：最重要还是看它不能做什么而他与姚期智以及中国的缘分还在延续。5个月前，他还曾亲自来到清华叉院做客，带来题为“模仿游戏（Imitation Games）”的特邀报告。由姚期智院士亲自主持讲座，并与他展开对话。据报道，维格森从图灵测试出发，叙述了“模仿学习”理论的沿革及其在密码学、随机性、离散数学、数论等领域的现代应用。他基于凯撒密码、恩尼格玛密码机、选举等案例，引导思考安全性的定义、随机性的应用、隐私和效用的平衡等问题。对于理论计算机研究将如何应对人工智能发展这一问题，维格森表示，尽管包括大语言模型在内的人工智能有很多惊人表现，但最重要的问题是还有什么是AI不能做的。对于给现在正置身于科研的同学们，维格森也给出了自己的建议。他表示，自己曾为解决一个开放性问题用了40年时间，建议同学们要选择自己喜欢的研究领域和话题，并享受在失败中不断学习的过程，这样才能在科研道路上走得长远。参考链接：[1] ... PC版： 手机版：