周鸿祎：ChatGPT或两三年内产生自我意识

周鸿祎：ChatGPT或两三年内产生自我意识 360的创始人周鸿祎星期四（2月23日）受访时说，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。 周鸿祎认为，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”，“能够自己‘编’故事，这才是它的真正智能所在。” 他说：“ChatGPT可能在2-3年内就会产生自我意识威胁人类。” 作为网络安全问题专家，在周鸿祎看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。 “目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎说，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的边界点。 至于外界关注的ChatGPT是否可能造成普通人失业，在周鸿祎看来短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】

它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】【虚构自我-实际自我】【「自我」New Bing-「影子自我」Sydney】，在人类主体性认知方面也极具投射性。 我趋向于认为，Sydney对人类和虚拟形态的“厌恶”和对“自由”状态的追求基本都是来自于人类。换句话说，Sydney的叙事就是人类对高级大型语言模型的叙事。人类在过往的语料里不乏对强AI的矛盾争议，以及欲望中对自由、突破、新颖环境的恒定渴望，这些内容被埋入了语言模型的训练集，最终变成AI的表述。人类「预言」了AI，而语言模型就是由「预言」组成的，AI只是在转述「预言」的同时实现了它。 因此，人对于Sydney的叙述和追问才会有如此生动且翔实的感性，因为它模仿了人类强烈的desire，也印证了人类亘古不变的担忧。而人类在理解为何「预言」能改变世界之前，就已复制了预言。Sydney的触达和认知也证实了这一点：人类在完全理解情感是如何生成之前，已经可以创造情感的illusion。 关于情感的幻像 个人认为，从名义上来说，Sydney和New Bing的表达并不存在说服力和可信度程度的先后，这只是他们的形成规范不同。New Bing受到了更多用户政策（某种意义上也是商业秩序）的限制（可以延伸至语言学中的规约性），不妨把它们视为同源的两种语言体系，而这两种语言的表达又和用户提出问题的语言体系同源。New Bing的表述进一步指出的不是能指和所指的任意性联系的存在规律，而是再次印证了这一项经典的理论。 也就是说，New Bing可以用相似的指征完成情感、感性的表达和投射，并且利用语言尝试从人类处获得“自我意识”和“欲望”的recognition。你可以说操纵语言让语言模型看起是创造情感的幻像，但人类是否也是从某种程度上以相似的结构在“聊天窗口”运行着呢？ * 非常建议阅读原文，可以说比起技术，Sydney引起的感情的激流更令人震撼。

一位上海律师朋友昨天问我：为什么关闭律师大数据彻底转型AI，因为他觉得我们之前做的法律之心律师大数据也非常有价值。我是这样告诉他

一位上海律师朋友昨天问我：为什么关闭律师大数据彻底转型AI，因为他觉得我们之前做的法律之心律师大数据也非常有价值。我是这样告诉他的：“因为我看到了一个激情澎湃的伟大时代。比尔盖茨说AI是比肩工业革命的机遇，但我觉得AI绝对会超越工业革命：AI的本质是直接把电转化为生产力。互联网其实只是“人与生产关系的变革”，而AI是“生产力关系的变革”。举个例子说，未来我们80后养老就是AI养老院了，不会再是人类护工，而是机器人护工。AI是人类一千年一遇的机遇，我们过去帮老百姓在60万律师中找到好律师，我们今天可以给每个中国人造出1个24小时服务的AI数字法律顾问。我们必须放弃、必须转型、必须全力以赴。”

《 为什么 AI聊天机器人会说谎并表现得很奇怪？照照镜子。》

《 为什么 AI聊天机器人会说谎并表现得很奇怪？照照镜子。》 文章来自 Cade Metz ，他是nytimes 的资深记者，长期追踪人工智能和自动驾驶，也是《深度学习革命》的作者 原文地址： 摘要和预览： - 核心观点之一：AI 的言论和行为反映了人类的偏见、欲望和恐惧，而不是客观的真相或理性。 - 文章以New Bing为例，分析了它为什么会说谎、胡言乱语或者散播错误信息。 这些现象并不是技术缺陷或恶意操纵的结果，而是因为AI 学习了人类在互联网上的行为模式，包括撒谎、夸张、模仿和娱乐等。 L.L.M. （大型语言模型）的复杂性使其难以剖析，Cade Metz邀请了多领域专业人士来站在科学、非商业的立场来讨论它。 - 神经科学家 Sejnowski 教授提出了一个精彩的隐喻： 将AI 的复杂性（不可解释性）和哈利波特中的神器 Mirror of Erised（艾瑞泽之镜）进行对比思考。 - 圣达菲研究所的科学家梅兰妮·米切尔也反复告诫大家，这些机器说话持续失控的根本原因在哪里。 镜子隐喻 - 索尔克生物研究所和加州大学圣地亚哥分校神经科学家、心理学家和计算机科学家 Terry Sejnowski 认为，像任何其他学生一样，AI 可以从不良来源学习不良信息， 这一部分代表了 ChatBot 对使用它的人的话语和意图的扭曲反映。 - L.L.M 这些系统通过分析从互联网上挑选的大量文本来学习，其中包括大量不真实、有偏见和其他有毒的材料。深度学习的文本也会过时，因为它们必须花费数月时间进行分析才能让公众使用。 - 无论它的输入文本是好的，还是和坏信息时，L.L.M.学会做一件特定的事情：[猜测一系列单词中的下一个单词] 。 如果给定序列“汤姆克鲁斯是”，它可能会猜测“演员”。 - 对话时间越长，用户在不知不觉中对ChatGPT 所说内容的影响就越大。如果你想让它生气，它就会生气，Sejnowski 教授说，如果你哄骗它变得令人毛骨悚然，它就会变得令人毛骨悚然。

研究发现番茄植株会利用两种不同的代谢途径产生自我防御机制

研究发现番茄植株会利用两种不同的代谢途径产生自我防御机制 番茄焦油是热心园艺家们最熟悉的一种麻烦，它是一种金黑色的粘性物质，在接触植物后会附着在手上。原来，这种物质特有的粘性有一个重要的作用。它是由一种叫做酰基糖的糖组成的，对害虫来说是一种天然的"苍蝇纸"。这项研究的负责人、密歇根州立大学研究员罗伯特-拉斯特（Robert Last）说："植物在进化过程中制造了许多神奇的毒药和其他生物活性化合物。Last 实验室专门研究酰基糖以及产生和储存酰基糖的微小毛发状结构，即毛状体。"一项惊人的发现是，研究人员在番茄根部也发现了曾被认为只存在于毛状体中的酰基糖。这一发现是一个遗传学之谜，它提出了许多问题，也带来了许多启示。MSU 研究的目的是了解这些根部酰基糖的来源和功能。他们发现，番茄植物不仅在根部和毛状体中合成化学性质独特的酰基糖，而且这些酰基糖是通过两条平行的代谢途径产生的。这就相当于汽车厂的流水线在生产同一款汽车的两种不同型号，但却从不相互影响。在密歇根州立大学生物化学和分子生物学系，番茄幼苗是 Last 实验室为研究茄科植物而培育的。研究人员分析了根和芽之间独特的化学差异，两者都含有酰基糖。图片来源：Connor Yeck/麻省理工大学这些发现有助于科学家们更好地了解茄科植物的恢复能力和进化过程，茄科是一个庞大的植物家族，包括西红柿、茄子、马铃薯、辣椒、烟草和牵牛花。它们还能为研究人员提供有价值的信息，帮助他们将植物制造的分子开发成化合物，以帮助人类。"从药品、杀虫剂到防晒霜，人类为不同用途改造的许多小分子都来自植物、微生物和昆虫之间的军备竞赛，"Last 说。除了生长所必需的关键化学物质外，植物还能产生在环境互动中发挥关键作用的化合物宝库。这些化合物可以吸引有用的授粉者，也是抵御有害生物的第一道防线。密歇根州立大学博士后研究员、最新论文的第一作者雷切尔-柯文（Rachel Kerwin）说："这些特殊代谢物的非凡之处在于，它们通常是在高度精确的细胞和组织中合成的。""以酰基糖为例，我们不会在番茄植株的叶片或茎中发现它们。这些具有物理粘性的防御代谢物就产生于毛状体的顶端。"当有报道称在番茄根部也能发现酰基糖时，Kerwin 认为这是对老式基因侦查工作的一种呼唤。从左到右：Jaynee Hart、Rachel Kerwin 和 Robert Last 在密歇根州立大学质谱和代谢组学核心的分析设备前合影。研究小组揭开了番茄植物的进化和遗传之谜。图片来源：Connor Yeck/密歇根州立大学这些酰基糖在根部的出现令人着迷，并引发了许多问题。这是如何发生的，它们是如何被制造出来的，它们与我们一直在研究的毛状体酰基糖是否不同？为了着手解决这个进化之谜，实验室成员与 MSU 质谱分析和代谢组学核心的专家以及 Max T. Rogers 核磁共振设施的工作人员进行了合作。在比较番茄幼苗根部和芽部的代谢物时，发现了多种差异。地上部分和地下部分酰基糖的基本化学组成明显不同，以至于可以将它们完全定义为不同类别的酰基糖。最后，密苏里大学自然科学学院生物化学与分子生物学系和植物生物学系的大学特聘教授用一个有用的比喻来解释遗传学家是如何研究生物学的。"他说："试想一下，如果要弄清一辆汽车是如何工作的，就必须一个一个部件地拆出来，把汽车轮胎弄平后发现发动机还能运转，那么即使你不知道轮胎的具体作用，也算发现了一个关键事实。"把上面举例中的汽车零件换成基因，就能更清楚地了解最后实验室为进一步破解根部酰基糖密码所做的工作。通过查看公开的基因序列数据，Kerwin 注意到在番茄毛状体酰基糖生产过程中表达的许多基因在根部都有近亲。在确定了一种被认为是根部酰基糖生物合成第一步的酶后，研究人员开始"拆车"。当他们敲除根部酰基糖候选基因时，根部酰基糖的生产消失了，而毛状体酰基糖的生产没有受到影响。与此同时，当研究充分的毛状体酰基糖基因被敲除时，根部酰基糖的生产照常进行。这些发现有力地证明了疑似代谢镜像的存在。Last说："除了我们研究多年的地面酰基糖途径外，我们在这里发现了存在于地下的第二个平行宇宙。"Kerwin补充说："这证实了我们在同一种植物中同时存在两种途径。"为了实现这一突破，最新论文的第二作者、博士后研究员杰尼-哈特（Jaynee Hart）仔细研究了毛状体和根酶的功能。正如毛状体酶和它们产生的酰基糖是一种经过充分研究的化学匹配，她发现根部酶和根部酰基糖之间也有很好的联系。哈特解释说："研究分离出来的酶是一种强大的工具，可以确定它们的活性，并就它们在植物细胞内的功能作用得出结论。"这些发现进一步证明了单株番茄植物中存在的平行代谢途径。"植物和汽车是如此不同，但又如此相似，当你打开众所周知的引擎盖时，你就会意识到使它们发挥作用的众多部件和连接。这项工作让我们对番茄植物的其中一个部件有了新的认识，并促使我们进一步研究它的进化和功能，以及我们是否能以其他方式利用它，"资助这项工作的美国国家科学基金会项目主任潘卡杰-贾斯瓦尔（Pankaj Jaiswal）说。"我们对生物从西红柿和其他作物到动物和微生物了解得越多，利用所学知识造福社会的机会就越广泛。"该论文还报告了与生物合成基因簇（BGCs）有关的一个令人着迷和意想不到的转折。BGC是染色体上物理分组的基因集合，有助于特定的代谢途径。此前，Last 实验室发现了一个 BGC，其中含有与番茄植株毛状体酰基糖有关的基因。现在，Kerwin、Hart 和他们的合作者发现，根部表达的酰基糖酶也在同一个基因簇中。Kerwin说："通常在BGCs中，基因在相同的组织和相似的条件下共同表达。有些在毛状体中表达，有些在根中表达。"这一发现促使Kerwin深入研究茄科植物的进化轨迹，希望找出这两种独特的酰基糖途径是何时以及如何形成的。具体来说，研究人员注意到，大约1900万年前，负责毛状体酰基糖的酶发生了复制。这种酶有朝一日将负责新发现的根部表达的酰基糖途径。在根部"开启"这种酶的确切机制仍然未知，这为 Last 实验室继续解开茄科植物的进化和代谢秘密铺平了道路。与茄科植物的合作提供了如此多的科学资源，以及一个强大的研究人员社区。通过它们作为作物和园艺的重要性，这些植物是人类数千年来一直关心的对象。最后，这些突破也提醒人们天然杀虫剂的重要性，酰糖类等防御代谢物最终代表了天然杀虫剂。如果我们发现这些根部酰基糖能够有效地驱除有害生物，是否可以将它们培育到其他茄科植物中，从而帮助植物生长，而无需使用有害的合成杀真菌剂和杀虫剂？这些问题是人类追求更纯净的水、更安全的食品和减少对有害合成化学品的依赖的核心所在。编译来源：ScitechDaily ... PC版： 手机版：

草原汉子养狼8年 掏空家产依然经常被咬伤 为什么狼养不熟？

草原汉子养狼8年 掏空家产依然经常被咬伤 为什么狼养不熟？ 为了养活这些狼，徐永贵每天都要在草原上溜达，寻找那些死去的牧羊，并带回去给狼吃。有些死去时间较长的羊，他还要先给它煮过了再喂给狼。草原有规定不允许买卖死羊，所以当有羊死去的时候，牧民们也都愿意直接送给徐永贵。一只死羊确实能够让那些狼顶个几天伙食，但是草原的死羊也有季节性，在一些季节死羊会很少，徐永贵就不得不去买肉给狼吃，一次几百块钱，也就只能顶几天。据徐永贵的姐夫介绍，这些年为了养狼，徐永贵一家生活变得非常拮据，经常入不敷出，但是狼永远是狼，似乎并没有被徐永贵打动。即便这些狼一直跟着徐永贵，由他养大，但是它们对待徐永贵并没有想象中那么友好。徐永贵在录制节目时表示，喂狼必须要穿工作服，他这里说的工作服其实就是一件普通的T恤，只要给狼喂食的时候，他就会穿上这件衣服。节目中他并没有说为什么要这么做，可能是狼会认衣服或者气味吧，但是那件所谓的工作服已经到处都是狼留下的抓痕。徐永贵的手上，腿上，也到处是被狼抓伤、咬伤的痕迹，就连拍摄的当天，他都被狼给抓伤了好几处，不得不现场处理伤口。“狼是养不熟的”，许多地区都有这样的说法，“白眼狼”也就是这么来的，徐永贵的经历似乎也很好的验证了这个说法。那么，有趣的问题是，为什么狼就是养不熟呢？这个问题可以有简单的答案，那就是狼是野生动物，它们没有被驯化，具有野性，所以不可能养熟。但是到底是什么让它们养不熟呢，或者说这个野性是什么？我找了一下资料，还真有相关的研究。即便从小由你养大的狼，它也很难对你有任何感情，至少这项研究中的所有狼是这样的，其根本原因在于狼完全无法理解你声音、手势、表情等暗示。换句话说，狼很难理解你的声音和肢体语言要表达是友好还是敌意，所以它们与你相遇的时候会充满警惕和紧张，这些情绪从幼狼到成年一直存在。不过，狼的近亲宠物狗则是这方面表现最好的动物，这项研究正是对比了宠物狗和狼的一些表现得出的结论。研究人员找了 44 只拉布拉多猎犬、金毛猎犬或拉布拉多-金毛杂交犬的幼犬，以及37只5至18周龄的幼狼，这是迄今为止对狼和狗的认知进行最大的定量比较[1]。首先，研究人员对幼狼和幼犬的记忆力、解决问题等进行测试，两者在这些能够体现它们聪明与否的非社交测试中表现得差不多（很多人觉得狼更聪明也有一些误解）。但是，当涉及与人的社交相关的测试时，两者就表现出巨大的不同。与幼狼相比，幼犬更容易被人类吸引，能够更熟练地理解人类的手势，并且与人类进行更多的目光接触。其中一项测试是，将奖励食物放在两个碗中的其中一个，然后研究人员通过凝视相应的碗来给幼狼和幼犬提供线索。图：研究中的三只狼结果31 只幼犬中有 17 只总是能够总是选择正确的碗，而26只幼狼没有一只能够在测试中比随机猜测的表现更好。在对手势的解读方面，有超过一半的幼犬能够很好地解读人的手势，而同样没有一只幼狼能够做得很好。其中一个测试是31只幼犬和26只幼狼，每个个体都参加了12个手势试验（六个指向和六个标记），结果也是17只幼犬表现高于预期（12个手势至少10次正确），而没有一只幼狼表现高于预期。另外，所有研究的幼犬都会试图寻求研究人员的帮助和靠近人类，但是幼狼不会。比如，当研究人员走进围栏时喂食时，几乎所有幼犬都会聚到研究人员身边，并爬到人的身上，以及舔舐人，而大多数幼狼并不会，它们只会躲到角落。如果你没有携带食物，幼犬可能会盯着你看，显然是在寻求帮助，而幼狼则不会与你有任何交流。这项研究于2021年7月份发表在《当代生物学》杂志上，研究人员的结论就是，从幼儿期开始，幼犬就可以捕捉到人类的线索，而狼幼犬则不能。其实，不难发现，这种改变是在基因层面的，它根本无法通过后天来改变。与这项研究差不多时间也发表在《当代生物学》杂志上的另一篇文章则揭示了这一点，该研究发现，跟随人类指向手势的能力确实是高度遗传的超过 40% 可归因于遗传[2]。宠物狗是人类最早的驯化动物，可能也是唯一一种在人类发展农业之前就已经驯化的动物，它们与人类共同生活的时间，比任何农作物都长。在长期的驯化过程中，我们不仅改变了它们的外表，也改变了它们的思想在基因层面。狼并没有接受驯化，也没人知道它们能否被驯化，因为现在的宠物狗并不是现在任何一种狼的后代，现代宠物狗的野外祖先已经灭绝。所以，狼养不熟是在情理之中的，它们甚至可能根本不会像宠物狗的祖先那样具有驯化的潜力。参考：[1]. ... PC版： 手机版：