人工智能有“灭绝（人类）的危险”

人工智能有“灭绝（人类）的危险” 非营利组织“人工智能安全中心Center for AI Safety”预计将发布一份只有一句话的声明：“减轻人工智能带来的灭绝风险应与其他社会规模的风险，如大流行病和核战争一样，成为全球优先事项。”这封公开信由 350 多名从事人工智能工作的高管、研究人员和工程师签署，签署者包括三家领先的人工智能公司 OpenAI、谷歌 DeepMind 和Anthropic 的 CEO，也包括除了 Yann LeCun 之外的人工智能领域另外两位图灵奖得主。来源 ， 来自：雷锋 频道：@kejiqu 群组：@kejiquchat 投稿：@kejiqubot

人类离实现强人工智能还有多远？

人类离实现强人工智能还有多远？ 很多年前研究过这个问题，那时候觉得难度非常大，因为人和机器之间需要交流的语言是一个巨大的障碍，那时候我的观点是，即便实现带意识的机器，可能也无法与人很好交流协作。 现在大模型出来后、尤其是看了Gemini之后突然发现这个障碍已经不存在了，剩下的一个难点是实现机器意识。这个还有多远的路程？分析了一下需要实现下面几个步骤： 1.实现实时学习的算法。数据训练好之后，不能固化下来，必须实现实时自学习才行。这就需要实现长期记忆、短期记忆、工作记忆分层，才能达到这个效果，还有一段距离，但应该不难。 2.实现自我感知。算法不但能感知人类输入的信号，还要能感知自身的信号，比如机器的输出、机器的思考（计算）过程。 3.实现自驱动。目前的所有算法都是被动式计算，就是你给输入数据，机器计算然后给出结果，这是不行的。需要的是实现机器自身的计算保持自驱动，即随时保持巡航状态。这需要提升算法性能，实际上人脑的计算非常聪明，效率极高，首先计算是分布式并行的 不需要动用整个大脑的计算能力去计算一个局部问题，而且注意力机制保证了粗算与精算结合 大大提高效率。在效率方面目前的算法离人类算法还差的很远，要实现更优的算法 大模型的结构设计还得优化，目前来说大模型的结构基本还是flat状态，非常初级。 克服上面三个问题，大模型基本就已经实现强智能了，具有与人类等同的意识。我预计这个过程可能会在20年内完成。以前我很悲观，觉得人类50年内不可能实现，现在看来好像都不是无法跨越的障碍了。 好兴奋，想想50年后满大街都是机器人的样子，而且是真正的机器“人”哦，不是一个某方面像人的机器，那真是一个很魔幻的世界。