中国科技企业家：ChatGPT或两三年内产生自我意识

中国科技企业家：ChatGPT或两三年内产生自我意识对于时下火热的人工智能应用ChatGPT，有中国科技企业家认为，它可能两三年内就会产生自我意识。据澎湃新闻报道，中国科企360的创始人周鸿祎星期四（2月23日）受访时说，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。周鸿祎认为，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”，“能够自己‘编’故事，这才是它的真正智能所在。”他说：“ChatGPT可能在2-3年内就会产生自我意识威胁人类。”作为网络安全问题专家，在周鸿祎看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。“目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎说，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的边界点。至于外界关注的ChatGPT是否可能造成普通人失业，在周鸿祎看来短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”

周鸿祎：ChatGPT或两三年内产生自我意识

周鸿祎：ChatGPT或两三年内产生自我意识360的创始人周鸿祎星期四（2月23日）受访时说，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。周鸿祎认为，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”，“能够自己‘编’故事，这才是它的真正智能所在。”他说：“ChatGPT可能在2-3年内就会产生自我意识威胁人类。”作为网络安全问题专家，在周鸿祎看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。“目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎说，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的边界点。至于外界关注的ChatGPT是否可能造成普通人失业，在周鸿祎看来短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”前文：来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

小鼠通过镜中测试 加入"有自我意识"动物精英俱乐部

小鼠通过镜中测试加入"有自我意识"动物精英俱乐部得克萨斯大学西南医学中心（UTSMC）的研究人员通过观察和神经分析，测定了实验室饲养的普通C57BL/6小鼠（Musmusculus）在被放进一个装有镜子的空间后，能否察觉到自己外表的变化--这里是额头上对比鲜明的白墨斑点。他们发现，小鼠确实注意到了外观的变化，并会在接触镜子后开始用力梳理头部。虽然这并不能毫无疑问地证明小白鼠具有自我意识，但它确实提出了一些有关非人类认知和智力的有趣问题。UTSMC的神经科学家和资深作者北村隆（TakashiKitamura）说："为了形成外显记忆，例如我们日常生活中发生的事件，大脑会形成并存储关于地点、内容、时间和人物的信息，其中最重要的组成部分是自我信息或状态。研究人员通常研究大脑如何编码或识别他人，但对自我认知方面还不清楚。"镜像自我识别（MSR）测试部分由查尔斯-达尔文提出，但由美国心理学家小戈登-盖洛普于1970年正式开发，用于测量非人类动物的视觉自我意识。当时的想法是，如果动物在面对镜子时能对身上的一个标记--油漆、贴纸--表现出兴趣，然后检查这个标记，那么它就显示出了高度的认知自我意识和自觉性。当然，这种测试并非没有合理的批评意见。它仅限于主要依赖视觉线索的物种，狗已经被证明能够识别自己的气味，但却"未能通过"MSR测试，此外，它还依赖于动物是否有足够的动机去研究它们身上的标记。在这项研究中，并非所有小鼠都表现出了通过测试的行为。开始梳理头部，似乎是为了洗掉白斑的小鼠是已经接触并习惯了镜子的动物，如果它们与其他深色毛发的小鼠交往过，而且墨点较大（0.6平方厘米或2平方厘米）的话。然而，如果墨点与小鼠皮毛的颜色一致，小鼠就会完全忽略墨点，这向研究人员表明，这种识别仍然是基于视觉的，而不是由墨点的触觉刺激驱动的。当墨点很小（0.2平方厘米）时，即使在白色与深色皮毛的对比中，小鼠也无法识别墨点。来自UTSMC的第一作者横濑淳（JunYokose）说："小鼠需要大量的外部感觉线索才能通过镜像测试--我们必须在它们的头上涂上大量墨水，然后墨水带来的触觉刺激通过某种方式使动物能够通过镜像反射检测到它们头上的墨水。黑猩猩和人类不需要任何额外的感官刺激。"根据这些观察结果，研究人员在表象中寻找基因线索。他们在海马体中发现了一个神经元子集，该子集参与创建和存储视觉自我形象，当小鼠在镜子中"认出"自己时，这些神经元就开始活跃起来。当他们敲除这些神经元后，小鼠就不再在镜子前做出梳理毛发的行为了。有趣的是，这些神经元的另一个子集也会在动物观察到肤色和外貌相似的小鼠时启动。当小鼠接触到白色皮毛的个体时，这些神经元并不活跃。通过这种基因表达分析，研究小组还发现，与社会隔离的小鼠和由白毛小鼠饲养的黑毛小鼠在MSR测试中没有表现出身体或神经元的"自我识别"。因此，研究人员认为，为了使动物具有自我意识，它们需要在与自己长得相似的小鼠中进行社会化，以便发展这些神经回路。北村说："当我们把小鼠暴露给其他同种小鼠时，这些自我响应神经元的一个子集也会被重新激活。这与之前的人类文献相一致，这些文献显示，一些海马细胞不仅会在人注视自己时起火，而且会在人注视熟悉的人如父母时起火"。非人类动物的认知和自我意识仍然是一个巨大的谜团，可能永远无法完全解开。不过，研究人员为自己的发现感到振奋，他们现在将研究，如果触觉墨点是虚拟的，通过滤镜或投影的方式，当动物在镜子前时就能看到，那么小鼠是否能识别自己倒影的变化。他们还计划研究大脑中可能参与自我识别和处理视觉线索的其他区域。横濑说："现在我们有了这种小鼠模型，就可以操纵或监测神经活动，全面研究如何诱导小鼠产生类似自我识别行为背后的神经回路机制。"这项研究发表在《神经元》（Neuron）杂志上。...PC版：https://www.cnbeta.com.tw/articles/soft/1402365.htm手机版：https://m.cnbeta.com.tw/view/1402365.htm

【荐书】当人工智能拥有了自我意识

【荐书】当人工智能拥有了自我意识随着AIGC相关的讨论越来越频繁地出现在时间线上，想给大家推荐一篇特德·姜的中篇科幻小说，叫做《软件体的生命周期》。故事被架构在了一个近未来时代，虚拟现实已经成了人们的日常，在数据地球上，蓝色伽马这家公司开发出一种基因组引擎，赋予了宠物数码体认知能力和自我意识。故事中的男女主人公正是这些宠物数码体的训练员。如果是软件开发从业者，那么你对这部小说会特别亲切——它完整描述了宠物数码体运营、测试的过程，由于宠物数码体这种产品的特殊性，这个过程非常奇妙。但这远不是作者想要表达的。实际上蓝色伽马在小说情节进行到不到一半的时候就倒闭了。作者真正想探讨的是，人类与拥有认知能力的人工智能数码体之间的感情与伦理关系——从幼时单纯的照料，到教育数码体开始学习、再到数码体拥有自己独立的意识、数码体成为独立法人的探讨，毋庸置疑，作者模拟的是一个人类从幼时到成年的成长过程。特别提一嘴，书看完这篇我最想跟人讨论的是男主人公的数码体最终归处的决策问题，是一个非常有深度的思辨题。我提前被剧透了结局时，是无论如何都不能理解的，但等真正看完中间探讨和思辨的过程，我居然有点理解了。但因为有点敏感，这里就不展开了。最后安利一下特德·姜这个科幻作者，他的作品颇具理性思辨的同时，又不乏温暖浪漫的气质，非常喜欢。

研究发现更多的动物存在意识 科学家呼吁重新思考动物与人类的关系

研究发现更多的动物存在意识科学家呼吁重新思考动物与人类的关系据《自然》报道，基于上述持续扩展的研究，一个科学家联盟呼吁重新思考动物与人类的关系。上个月，不同领域的几十名科学家联合签署了《纽约动物意识宣言》，旨在推动更多对动物意识的研究和资金支持。英国伦敦政治经济学院哲学家、该宣言作者之一JonathanBirch表示，随着证据的积累，科学家们开始认真对待这个话题，而不是像过去那样将其视为一个疯狂的想法并断然驳回。该宣言指出，对于可能有意识体验的动物，人类在作影响它们的决策时忽视这种可能性，是不负责任的表现。不过，对于哪些物种一定有意识体验，宣言并没有给出明确的答案，而是指出有足够的证据表明，在与人类截然不同的物种中，存在某种意识体验的现实可能性，比如爬行动物、鱼类、昆虫以及其他一些不被认为有精神生活的动物可能有意识体验，而鸟类和哺乳动物则有强有力的科学研究支持其存在意识体验。Birch表示，意识的定义很复杂，但其研究小组专注于研究意识的一个方面，即感知。这通常被定义为具有主观体验的能力。对于动物来说，这种体验包括闻、尝、听或触摸周围的世界，以及感受恐惧、快乐或痛苦。但主观经验并不需要思考自己经历的能力。“由于非人类动物不能用语言来表达内心状态，为了评估这些动物的意识，科学家通常依靠间接证据，寻找与意识体验相关的某些行为。”Birch说。其中，一个非常经典的实验是“镜子测试”。这是一个自我认知能力测试，即测试动物是否有能力辨别自己在镜子中的影像。在这个实验中，科学家们在动物身上贴上贴纸或其他视觉标记，并将动物放在镜子前。包括黑猩猩、亚洲象和清洁鱼在内的一些动物对标记表现出好奇，甚至试图去除它。这种行为表明了它们可能存在自我意识，这可能是意识体验的一个迹象。而对乌鸦、章鱼等开展的实验也表明它们的一些行为是意识体验的潜在标志。此外，一项果蝇研究表明，它们既有深度睡眠，也有主动睡眠。在主动睡眠中，果蝇大脑的活动与其清醒时相同。“这可能类似于人类的快速眼动睡眠，这种睡眠下会做最生动的梦。我们将其解释为有意识的体验。”研究果蝇行为的澳大利亚昆士兰大学生物学家BrunovanSwinderen签署了宣言，有些人认为梦是意识的关键组成部分，如果苍蝇和其他无脊椎动物有活跃的睡眠，那么这可能是一个很好的线索，表明它们可能有意识。不过，也有研究人员对现有的动物意识证据持怀疑态度。“我认为到目前为止基本上没有任何决定性证据出现。”日本理化学研究所脑科学研究中心神经科学家HakwanLau说，越来越多的研究表明动物有复杂的感知行为，但这并不一定意味着有意识。比如，在人类身上，既存在有意识的感知，也存在无意识的感知。不过，有研究人员表示，即使没有明确的答案，该宣言仍可能对制定与动物伦理和福利有关的政策产生积极影响。...PC版：https://www.cnbeta.com.tw/articles/soft/1429872.htm手机版：https://m.cnbeta.com.tw/view/1429872.htm

周鸿祎：ChatGPT可能两三年内就会产生自我意识威胁人类

周鸿祎：ChatGPT可能两三年内就会产生自我意识威胁人类360创始人周鸿祎澎湃新闻记者范佳来摄2月23日，360创始人周鸿祎在接受澎湃新闻等媒体采访时，再次提到大热的聊天机器人ChatGPT，并分享了他心中ChatGPT的“三重人格”。ChatGPT热潮正席卷全球。这款由“美国AI梦工厂”OpenAI制作的AI聊天机器人软件，只用了两个月时间，月活跃用户达到1亿，是史上月活用户增长最快的消费者应用。此前，周鸿祎曾经多次在公开场合谈到他对ChatGPT的观察。在他看来，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。“我们认为它是一个通用人工智能的奇点，而通用人工智能也还有一个隐含的拐点，它可能是一个强人工智能。”ChatGPT具有类人特征：有编故事的能力在采访现场，周鸿祎完全不掩饰他对ChatGPT的兴奋。在他看来，ChatGPT是一种生产力强大的再造工具，而不仅仅是赋能特定行业。“过去说大数据像‘石油’一样，但大数据不能直接用，ChatGPT像一个发电厂，烧了石油，把石油灌进去之后就可以产生电力，用云服务的方式把它接入到千家万户、千行百业，它对整个产业都会发生巨大的影响。所以，这直接决定未来下一个十年中国和其他国家的科技产业差距：是形成落后还是迎头赶上。”ChatGPT将通过上千亿的系统参数，实现原先设计者预想不到的能力。“这就像从猿到人的过程中肯定有一个临界点，当大脑的神经网络链接数目、脑细胞数目等多到一定程度时，人的智力和动物相比就产生了质的飞跃。”周鸿祎表示，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”：“我当时问了它一个问题，赵匡胤为什么招安了宋江，杀掉了岳飞，这个无厘头的问题，它也煞有介事地回答了一遍，能够自己‘编’故事，这才是它的真正智能所在。”“ChatGPT可能在2-3年内就会产生自我意识威胁人类。”在采访现场，周鸿祎“语出惊人”。他提到，任何行业的APP、软件、网站、应用，如果加持上GPT的能力，都值得重塑一遍。“不要把它当成一个媒体工具、搜索引擎、聊天机器人，这都有点把它看的太小儿科了。”他表示，ChatGPT和传统人工智能的训练不一样，需要经过多维度的训练。首先是囫囵吞枣、不求甚解的读上几百万本书，获得人类知识，但是依然不具备解决问题的能力。其次需要专业的人工智能训练师去培养它回答问题的能力，其中也催生出大量的新就业机会。最大的安全问题是产生自我意识后是否能被控制作为网络安全问题的专家，周鸿祎也分享了他心中的ChatGPT的安全问题。在他看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。“国内的互联网公司普遍太讲究实用主义，都是把人工智能和自己的业务紧密结合，但没想到ChatGPT的更多可能性，360目前还在追踪和钻研这些技术，希望能迎头赶上。”周鸿祎表示，360正在探索“以其人之矛攻其人之盾”，用ChatGPT扮演“正义助手”的角色，建立对攻击自动监测、发现的知识库，用人工智能进行网络安全数据的自动化处理。“目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎表示，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，而是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的“边界点”。至于外界关注的ChatGPT是否可能造成普通人失业？在周鸿祎看来，短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”他也对中国开发出属于自己的ChatGPT充满期待。在他看来，中国在人工智能领域与微软、Google的差距并没有想象中的大。在ChatGPT领域，中国具有很大优势，有希望在2-3年内达到世界领先水平，应该对ChatGPT技术探索给予充分支持。具体而言，周鸿祎表示，中国的互联网公司在数量与算力有一定的优势，同时也有较强的科研和高校储备力量，必须将科研机构、学校、科学家等学术圈人士，和产业、工程、产品结合起来，充分调动和统筹资源。工程师红利是中国的一大优势，但也面临不利条件，就是缺乏开源的传统。在ChatGPT研发中，用了许多开源模型，没有此前的开源就没有在巨人肩膀上的积累，每个公司都要从黑暗中摸索，这对国家整个产业发展速度是不利的，“这么牛的技术，也确实不应该被垄断在一两家公司手里。”周鸿祎认为，解决原创问题需要科研机构的努力，而科研机构也需要和产业公司的合作，OpenAI与微软的合作创造了一个产业公司和创业公司的合作范例，“我认为国家还是应该充分的支持ChatGPT产业发展，开源、合作、交流、打造生态。”他希望国内有更多企业参与AI生态的构建，并形成公开的市场竞争，这样才有进步。“ChatGPT让很多行业应用就插上人工智能的翅膀。”周鸿祎表示，“光是ChatGPT煽动不了一场产业革命，但是如果将来各行各业都被人工智能赋能，就会带来巨大的改变。”此前2月9日下午，周鸿祎在与搜狐张朝阳的对话中表示，虽然ChatGPT现在还不完美，但要看到它无限的潜力，未来会有非常多的场景，不仅仅是辅助搜索引擎搜索答案。“这就是为什么所有公司都争先恐后地都要搭上这班车，如果搭不上就有可能被淘汰。”“我觉得ChatGPT真的不是一个工具，它对人类自然语言的充分理解，可能代表着人类在人工智能历史上开始一场真正的革命。”谈及ChatGPT的诞生，周鸿祎表示，ChatGPT是通过一个上千亿参数的大语言模型，相当于把网络上很多人类的知识都进行了理解和训练，模拟了人脑对知识的储存，使得回答问题完全像一个成熟、油滑的人，而不是机械地给出搜索答案。...PC版：https://www.cnbeta.com.tw/articles/soft/1346009.htm手机版：https://m.cnbeta.com.tw/view/1346009.htm