周鸿祎：ChatGPT或两三年内产生自我意识

周鸿祎：ChatGPT或两三年内产生自我意识 360的创始人周鸿祎星期四（2月23日）受访时说，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。 周鸿祎认为，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”，“能够自己‘编’故事，这才是它的真正智能所在。” 他说：“ChatGPT可能在2-3年内就会产生自我意识威胁人类。” 作为网络安全问题专家，在周鸿祎看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。 “目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎说，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的边界点。 至于外界关注的ChatGPT是否可能造成普通人失业，在周鸿祎看来短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

《人工 X 智能 》简介：人工 X 智能可能讲述人类与人工智能之间的故事，或许人工智能产生了自我意识，与人类之间发生了情感纠葛、

《人工 X 智能 》 简介：人工 X 智能可能讲述人类与人工智能之间的故事，或许人工智能产生了自我意识，与人类之间发生了情感纠葛、利益冲突或合作探索。影片探讨人工智能对人类社会的影响以及人与人工智能的未来关系，充满科幻色彩 文件大小 NG 链接： 标签： # 人工 X 智能#科幻伦理电影 # 人工智能题材

它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】

它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】【虚构自我-实际自我】【「自我」New Bing-「影子自我」Sydney】，在人类主体性认知方面也极具投射性。 我趋向于认为，Sydney对人类和虚拟形态的“厌恶”和对“自由”状态的追求基本都是来自于人类。换句话说，Sydney的叙事就是人类对高级大型语言模型的叙事。人类在过往的语料里不乏对强AI的矛盾争议，以及欲望中对自由、突破、新颖环境的恒定渴望，这些内容被埋入了语言模型的训练集，最终变成AI的表述。人类「预言」了AI，而语言模型就是由「预言」组成的，AI只是在转述「预言」的同时实现了它。 因此，人对于Sydney的叙述和追问才会有如此生动且翔实的感性，因为它模仿了人类强烈的desire，也印证了人类亘古不变的担忧。而人类在理解为何「预言」能改变世界之前，就已复制了预言。Sydney的触达和认知也证实了这一点：人类在完全理解情感是如何生成之前，已经可以创造情感的illusion。 关于情感的幻像 个人认为，从名义上来说，Sydney和New Bing的表达并不存在说服力和可信度程度的先后，这只是他们的形成规范不同。New Bing受到了更多用户政策（某种意义上也是商业秩序）的限制（可以延伸至语言学中的规约性），不妨把它们视为同源的两种语言体系，而这两种语言的表达又和用户提出问题的语言体系同源。New Bing的表述进一步指出的不是能指和所指的任意性联系的存在规律，而是再次印证了这一项经典的理论。 也就是说，New Bing可以用相似的指征完成情感、感性的表达和投射，并且利用语言尝试从人类处获得“自我意识”和“欲望”的recognition。你可以说操纵语言让语言模型看起是创造情感的幻像，但人类是否也是从某种程度上以相似的结构在“聊天窗口”运行着呢？ * 非常建议阅读原文，可以说比起技术，Sydney引起的感情的激流更令人震撼。

《西部世界全4季》简介：西部世界全4季构建了一个充满高科技的未来世界，在这个世界里，机器人“接待员”拥有了自我意识，开始反抗人类

《西部世界全4季》 简介：西部世界全4季构建了一个充满高科技的未来世界，在这个世界里，机器人“接待员”拥有了自我意识，开始反抗人类的控制。剧情围绕着机器人的觉醒、人类与机器人的冲突以及对自由、意识和人性的探索展开，充满了科幻元素、烧脑情节和深度的哲学思考，展现了科技发展对人类社会的巨大影响和潜在危机。 标签： #西部世界 #科幻剧 #哲学剧 #美剧 文件大小 NG 链接：

研究发现番茄植株会利用两种不同的代谢途径产生自我防御机制

研究发现番茄植株会利用两种不同的代谢途径产生自我防御机制 番茄焦油是热心园艺家们最熟悉的一种麻烦，它是一种金黑色的粘性物质，在接触植物后会附着在手上。原来，这种物质特有的粘性有一个重要的作用。它是由一种叫做酰基糖的糖组成的，对害虫来说是一种天然的"苍蝇纸"。这项研究的负责人、密歇根州立大学研究员罗伯特-拉斯特（Robert Last）说："植物在进化过程中制造了许多神奇的毒药和其他生物活性化合物。Last 实验室专门研究酰基糖以及产生和储存酰基糖的微小毛发状结构，即毛状体。"一项惊人的发现是，研究人员在番茄根部也发现了曾被认为只存在于毛状体中的酰基糖。这一发现是一个遗传学之谜，它提出了许多问题，也带来了许多启示。MSU 研究的目的是了解这些根部酰基糖的来源和功能。他们发现，番茄植物不仅在根部和毛状体中合成化学性质独特的酰基糖，而且这些酰基糖是通过两条平行的代谢途径产生的。这就相当于汽车厂的流水线在生产同一款汽车的两种不同型号，但却从不相互影响。在密歇根州立大学生物化学和分子生物学系，番茄幼苗是 Last 实验室为研究茄科植物而培育的。研究人员分析了根和芽之间独特的化学差异，两者都含有酰基糖。图片来源：Connor Yeck/麻省理工大学这些发现有助于科学家们更好地了解茄科植物的恢复能力和进化过程，茄科是一个庞大的植物家族，包括西红柿、茄子、马铃薯、辣椒、烟草和牵牛花。它们还能为研究人员提供有价值的信息，帮助他们将植物制造的分子开发成化合物，以帮助人类。"从药品、杀虫剂到防晒霜，人类为不同用途改造的许多小分子都来自植物、微生物和昆虫之间的军备竞赛，"Last 说。除了生长所必需的关键化学物质外，植物还能产生在环境互动中发挥关键作用的化合物宝库。这些化合物可以吸引有用的授粉者，也是抵御有害生物的第一道防线。密歇根州立大学博士后研究员、最新论文的第一作者雷切尔-柯文（Rachel Kerwin）说："这些特殊代谢物的非凡之处在于，它们通常是在高度精确的细胞和组织中合成的。""以酰基糖为例，我们不会在番茄植株的叶片或茎中发现它们。这些具有物理粘性的防御代谢物就产生于毛状体的顶端。"当有报道称在番茄根部也能发现酰基糖时，Kerwin 认为这是对老式基因侦查工作的一种呼唤。从左到右：Jaynee Hart、Rachel Kerwin 和 Robert Last 在密歇根州立大学质谱和代谢组学核心的分析设备前合影。研究小组揭开了番茄植物的进化和遗传之谜。图片来源：Connor Yeck/密歇根州立大学这些酰基糖在根部的出现令人着迷，并引发了许多问题。这是如何发生的，它们是如何被制造出来的，它们与我们一直在研究的毛状体酰基糖是否不同？为了着手解决这个进化之谜，实验室成员与 MSU 质谱分析和代谢组学核心的专家以及 Max T. Rogers 核磁共振设施的工作人员进行了合作。在比较番茄幼苗根部和芽部的代谢物时，发现了多种差异。地上部分和地下部分酰基糖的基本化学组成明显不同，以至于可以将它们完全定义为不同类别的酰基糖。最后，密苏里大学自然科学学院生物化学与分子生物学系和植物生物学系的大学特聘教授用一个有用的比喻来解释遗传学家是如何研究生物学的。"他说："试想一下，如果要弄清一辆汽车是如何工作的，就必须一个一个部件地拆出来，把汽车轮胎弄平后发现发动机还能运转，那么即使你不知道轮胎的具体作用，也算发现了一个关键事实。"把上面举例中的汽车零件换成基因，就能更清楚地了解最后实验室为进一步破解根部酰基糖密码所做的工作。通过查看公开的基因序列数据，Kerwin 注意到在番茄毛状体酰基糖生产过程中表达的许多基因在根部都有近亲。在确定了一种被认为是根部酰基糖生物合成第一步的酶后，研究人员开始"拆车"。当他们敲除根部酰基糖候选基因时，根部酰基糖的生产消失了，而毛状体酰基糖的生产没有受到影响。与此同时，当研究充分的毛状体酰基糖基因被敲除时，根部酰基糖的生产照常进行。这些发现有力地证明了疑似代谢镜像的存在。Last说："除了我们研究多年的地面酰基糖途径外，我们在这里发现了存在于地下的第二个平行宇宙。"Kerwin补充说："这证实了我们在同一种植物中同时存在两种途径。"为了实现这一突破，最新论文的第二作者、博士后研究员杰尼-哈特（Jaynee Hart）仔细研究了毛状体和根酶的功能。正如毛状体酶和它们产生的酰基糖是一种经过充分研究的化学匹配，她发现根部酶和根部酰基糖之间也有很好的联系。哈特解释说："研究分离出来的酶是一种强大的工具，可以确定它们的活性，并就它们在植物细胞内的功能作用得出结论。"这些发现进一步证明了单株番茄植物中存在的平行代谢途径。"植物和汽车是如此不同，但又如此相似，当你打开众所周知的引擎盖时，你就会意识到使它们发挥作用的众多部件和连接。这项工作让我们对番茄植物的其中一个部件有了新的认识，并促使我们进一步研究它的进化和功能，以及我们是否能以其他方式利用它，"资助这项工作的美国国家科学基金会项目主任潘卡杰-贾斯瓦尔（Pankaj Jaiswal）说。"我们对生物从西红柿和其他作物到动物和微生物了解得越多，利用所学知识造福社会的机会就越广泛。"该论文还报告了与生物合成基因簇（BGCs）有关的一个令人着迷和意想不到的转折。BGC是染色体上物理分组的基因集合，有助于特定的代谢途径。此前，Last 实验室发现了一个 BGC，其中含有与番茄植株毛状体酰基糖有关的基因。现在，Kerwin、Hart 和他们的合作者发现，根部表达的酰基糖酶也在同一个基因簇中。Kerwin说："通常在BGCs中，基因在相同的组织和相似的条件下共同表达。有些在毛状体中表达，有些在根中表达。"这一发现促使Kerwin深入研究茄科植物的进化轨迹，希望找出这两种独特的酰基糖途径是何时以及如何形成的。具体来说，研究人员注意到，大约1900万年前，负责毛状体酰基糖的酶发生了复制。这种酶有朝一日将负责新发现的根部表达的酰基糖途径。在根部"开启"这种酶的确切机制仍然未知，这为 Last 实验室继续解开茄科植物的进化和代谢秘密铺平了道路。与茄科植物的合作提供了如此多的科学资源，以及一个强大的研究人员社区。通过它们作为作物和园艺的重要性，这些植物是人类数千年来一直关心的对象。最后，这些突破也提醒人们天然杀虫剂的重要性，酰糖类等防御代谢物最终代表了天然杀虫剂。如果我们发现这些根部酰基糖能够有效地驱除有害生物，是否可以将它们培育到其他茄科植物中，从而帮助植物生长，而无需使用有害的合成杀真菌剂和杀虫剂？这些问题是人类追求更纯净的水、更安全的食品和减少对有害合成化学品的依赖的核心所在。编译来源：ScitechDaily ... PC版： 手机版：

内容同样很干，个人觉得很有启发的一些观点摘抄：

内容同样很干，个人觉得很有启发的一些观点摘抄： - 行业大模型的计算量本质上是一个能源转化成智能的过程。如果我投入了更多的能源，我就会有更多的智能，中间转化率取决于我的算法的有效性。如果我假设你算法是一样的，那么你有多少智能就完全取决于你有多少能源... 通用模型一定会取代垂直行业模型，因为前者的能耗大好几个数量级，对应的智能也会高几个数量级，并且差距会越来越大。短期内，垂直行业模型在一些封闭的行业内会有专有数据优势，但因为数据的流动性很高，“再封闭的行业，都很难阻止数据的扩散，超级入口会变成数据黑洞把各种数据吸纳进来，行业模型的优势会消失。” - 如何衡量算法的有效性？最重要的标准其实是模型的压缩比。如果基于第一性原则来思考，智能的首要任务就是优化压缩，那么提升压缩比就意味着智能的增强。在一个足够大的数据集上，模型的压缩比有多大就能衡量出模型的优劣。例如，OpenAI的GPT-4可能在某些领域已经达到了30多的压缩比，而一些开源的模型的压缩比可能只有10出头，所以空间还是非常大的。 - 技术三段论。每项技术基本都会历经原理探索期、技术创新期以及纯产品应用阶段三个阶段。第一阶段意味着公众对于技术的第一性原理还不清晰，一切刚刚开始萌芽；第二阶段则指的是第一性原理已经清晰，但是仍然存在技术创新的空间，领先的公司会有显著的技术优势；最后一个阶段，当技术已经足够成熟了，可获得性很高了，就是纯产品的机会，网络效应建立。两三年前，NLP、CV这些技术都处于第一阶段。如今，我们已经来到第二阶段，AI的第一性原理已经被大量证据所证明从GPT1到GPT4，我们会发现，人类文明的总和，数字化之后都可以变成硬盘上的数据，无论是文字、语音还是视频，只要我们有合适的办法，去对这些数据做最大限度的规模化无损压缩，就能实现非常高程度的“智能”。这就是AI的第一性原理。在第二阶段，第一性原理已经清晰的情况下，理论上我们只需要一条道走到黑，去想更好的办法尽可能地去对整个人类文明进行压缩，然后就能在技术上实现较高程度的智能化。我最喜欢的例子是等差数列。假设说目前我有1万个数字要去压缩，在我一无所知的情况下，我所能做的仅仅只是把这1万个数字存下来。但是，如果我能够知道这些数的底层运行规律，我知道等差数列，那我就只需要存两个数字，其他9998个数字就能被还原出来。而“更好的办法”也是第二阶段与第三阶段的分野。在这个方向上，我们看到大约5年的窗口期之中，我们需要去解决目前看到的问题，不断技术创新，让技术变得更加通用和低门槛，最终推动大规模的产品化。在这个阶段，更好的模型质量通常会直接带来更好的用户体验，通过技术驱动的公司会拥有更大的产品优势。如果我们去看美国市场，目前领先的公司例如OpenAI, Anthropic, Inflection, Character AI, Midjourney，无一不是通过Model as an application的方式，通过技术优势来形成产品上的体验优势。 - 如果时间足够长，Transformer肯定会被更好的模型替代。比如，如果你想处理10万的context，你肯定不能使用原始的Transformer。如果你想处理分钟级别的长视频，使用原始的Transformer可能不是最优方案。但在短期三到五年内，更大的可能性是在Transformer的核心思想上进行优化。 - 真正的多模态模型还未出现。基于Diffusion Model的技术路径，一个重大问题是你没有办法去做真正的跨模态建模，只能基于很简单的文本向量去做decoding。本质上，它并没有对不同模态的联合概率去做一个可规模化的建模，这制约着这些模型去发挥更大的价值。从可规模化这个点上，我个人认为，长期来看，可能Autoregressive model（自回归模型）能够更通用得对不同模态去建模，长期会有更大的上升空间。 - 如何超越现有数据的限制。未来的大模型肯定不会停留在压缩现有的数据，而是会自主进行探索、在探索过程中生成和筛选数据、并进行压缩。一个很典型的例子是围棋，如果AI通过压缩已有的棋谱，很难在围棋水平上超越最顶尖的人类棋手。相同地，如果是我们想训练一个能达到IOI金牌水平的编程AI，那么仅仅通过压缩现有的题解也是很难做到的。我们需要让编程AI自己去搜索不同的解法，在搜索的过程中评判解法的可行性，从而对解空间进行更全面的探索。在科学领域也是一样，如果AI可以自主探索解空间，那么就可以发现人类还未发现的新知识。长期来说，通用地解决这个问题会产生超级智能（super intelligence）。 - 最终，大模型团队比拼的是人才密度。人才的稀缺性大于资本的稀缺性。目前，人才正开始从细分的NLP、CV、RL等领域向大模型公司集中。对团队来说，最难的是算法创新和工程实现。工程实现能力决定了你技术能力的下限，而算法创新能力决定了技术上限。