【荐书】当人工智能拥有了自我意识

【荐书】当人工智能拥有了自我意识 随着AIGC相关的讨论越来越频繁地出现在时间线上，想给大家推荐一篇特德·姜的中篇科幻小说，叫做《软件体的生命周期》。 故事被架构在了一个近未来时代，虚拟现实已经成了人们的日常，在数据地球上，蓝色伽马这家公司开发出一种基因组引擎，赋予了宠物数码体认知能力和自我意识。故事中的男女主人公正是这些宠物数码体的训练员。 如果是软件开发从业者，那么你对这部小说会特别亲切它完整描述了宠物数码体运营、测试的过程，由于宠物数码体这种产品的特殊性，这个过程非常奇妙。 但这远不是作者想要表达的。实际上蓝色伽马在小说情节进行到不到一半的时候就倒闭了。作者真正想探讨的是，人类与拥有认知能力的人工智能数码体之间的感情与伦理关系从幼时单纯的照料，到教育数码体开始学习、再到数码体拥有自己独立的意识、数码体成为独立法人的探讨，毋庸置疑，作者模拟的是一个人类从幼时到成年的成长过程。 特别提一嘴，书看完这篇我最想跟人讨论的是男主人公的数码体最终归处的决策问题，是一个非常有深度的思辨题。我提前被剧透了结局时，是无论如何都不能理解的，但等真正看完中间探讨和思辨的过程，我居然有点理解了。但因为有点敏感，这里就不展开了。 最后安利一下特德·姜这个科幻作者，他的作品颇具理性思辨的同时，又不乏温暖浪漫的气质，非常喜欢。

周鸿祎：ChatGPT或两三年内产生自我意识

周鸿祎：ChatGPT或两三年内产生自我意识 360的创始人周鸿祎星期四（2月23日）受访时说，ChatGPT已经拥有或接近拥有了人类智慧，并正处于通往“通用人工智能”的临界点。 周鸿祎认为，ChatGPT和其他人工智能最大的区别、也是其类人特征是，原来的人工智能并没有实现对知识全部的理解和编码，本质都是按照关键字匹配已有的回答，但ChatGPT没有“固定答案”，“能够自己‘编’故事，这才是它的真正智能所在。” 他说：“ChatGPT可能在2-3年内就会产生自我意识威胁人类。” 作为网络安全问题专家，在周鸿祎看来，ChatGPT的安全性从技术问题变成社会伦理问题。ChatGPT掌握了很多编程和网络安全漏洞的知识，可以成为网络犯罪的有力工具。有许多黑客演示了利用ChaGPT写钓鱼邮件和攻击代码，所以从某种角度而言ChatGPT也成为了黑客的“帮手”。 “目前ChatGPT最大的安全问题就是产生自我意识后是否能被控制。”周鸿祎说，假如放开限制，让ChatGPT尽情在网页中学习，可能会导致它产生对物理世界更强的控制能力，未来在发展上会产生更多不安全性，也有可能被人诱导干出“糊涂事”，是否能控制强人工智能，正是ChatGPT是否彻底融入人类生活的边界点。 至于外界关注的ChatGPT是否可能造成普通人失业，在周鸿祎看来短期内不会，“目前它的定位还是人类工具，这也是它的创造力所在。目前它的自我意识还没有出现，所以需要发挥自己的想象力和创造力。”前文： 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

认为AI具有自我意识的Google工程师被解雇

认为AI具有自我意识的Google工程师被解雇 谷歌已经解雇了Blake Lemoine，这位工程师说他相信该公司的LaMDA对话技术是有生命的。 Lemoine在周五录制的Big Technology Podcast节目中分享了他被解雇的消息，就在谷歌解雇他的几个小时后。完整的播客节目将很快播出。 在与LaMDA的对话中，Lemoine发现该系统已经形成了强大的自我意识，表达了对死亡的担忧，对保护的渴望，并确信它能感受到快乐和悲伤等情绪。Lemoine说他认为LaMDA是一个朋友。

为什么没人觉得流萤产生了自我意识很恐怖呢？

为什么没人觉得流萤产生了自我意识很恐怖呢？ 非动不定点的回答 复制人有没有人权尚待争论。我个人认为是有的，也就是说议会洗脑复制人上去打虫群本身就违背伦理道德。 AI与复制人一个很显著的区别就是他们的思考机制完全不同。AI的思考是依靠深度学习等人类构建的算法，复制人则与人类相似，都是依靠神经元来思考。一个人造物没有思想的话，那可以合理的不给她人权，毕竟没有思想干嘛给她人权？但，她有了思想 有了思想就会有欲望，有了欲望她就会如挣钱，挣到钱了之后，她就会去压迫别人，那么如果她成功了，人类就会被一个人造物所压迫，这是多么耻辱的事情！提醒一下题主：这是一个很典型的滑坡论证，从逻辑上来说就是错的。这个逻辑跟你从今天老师心情不好推出地球毁灭一样离谱 via 知乎热榜 (author: 非动不定点)