“ChatGPT之父”关于人工智能有哪些新观点？

“ChatGPT之父”关于人工智能有哪些新观点？ 人工智能会降低我们对彼此的关注吗？1997年，当IBM公司研制的人工智能系统“深蓝”击败国际象棋世界冠军加里·卡斯帕罗夫时，有评论员预测“这将是国际象棋的终结”，此后没有人会再费心看棋或下棋。但时至今日，“我们仍对人类所做的事情非常感兴趣，几乎没人观看两个人工智能对弈，”奥尔特曼说，他在读完自己喜欢的书后，第一件事就是了解作者的生活，“我想感受到与那个引起我共鸣的人之间的联系”。奥尔特曼说，人类始终在获得更好的工具，但有一点不会改变，那就是“今天我们仍然非常关注彼此”。需要担心人工智能取代人类工作吗？奥尔特曼认为，人工智能将对人类工作产生巨大影响。如今，人工智能已经成为“令人难以置信的生产力工具”，但尚未以经济学家担心的规模取代工作岗位。人类还能从事哪些工作？奥尔特曼以自己为例说，“我并不是人工智能研究人员，我的角色是弄清楚我们将做些什么，然后与其他人合作并实现目标。”他认为，未来，人类将在更高的抽象层次工作，也将获得更多能力。人工智能监管是好事情吗？奥尔特曼表示对人工智能技术实施监管表示欢迎。他认为各方在发展人工智能技术过程中“遵守高标准是件好事”，科技行业有责任将社会意见纳入诸如价值观和安全阈值等决策中，以保证收益大于风险。奥尔特曼强调，“应让社会和技术共同发展，构建这些（人工智能）系统时，应通过非常严格的反馈循环和路线修正使其逐步发展，在符合安全要求的同时提供巨大价值”。比技术更难的问题奥尔特曼指出，对人工智能进行“迭代部署”意味着社会可以逐渐习惯这项技术，并让“我们的机构有时间展开讨论，以弄清楚如何监管”。奥尔特曼认为， GPT-3和GPT-4在对价值观保持一致方面取得了“巨大进展”。但他认为，比技术更难的问题是：谁来决定这些价值观、默认价值观是什么、界限是什么？它在不同国家如何运作？用它可以做什么以及不可以做什么？“这是一个重大社会问题。”他说。AGI是不是“严重危害”？通用人工智能（AGI）是人工智能的重要研究方向。去年2月，奥尔特曼曾警告通用人工智能（AGI）的“严重危害”。在世界经济论坛上，奥尔特曼的态度有所软化。与微软首席执行官萨蒂亚·纳德拉对话时，奥尔特曼表示，AGI将是一个“令人惊讶的持续性事物”，“每年我们都会推出一个新模型，而且会比前一年好得多”。在另一场对话中，奥尔特曼认为，AGI可能会在“相当近的未来”得到开发，但“对世界的改变将比我们想象得要小得多，对工作的改变也比我们想象得要小得多” 。相关文章:OpenAI奥特曼：无论谁赢得白宫 美国和人工智能都将“很好”OpenAI CEO山姆·奥特曼希望建立全球芯片制造工厂网络 ... PC版： 手机版：

美国拟遏制中国对人工智能和科技领域投资

美国拟遏制中国对人工智能和科技领域投资 美国6月21日发布规则草案，禁止或要求通知中国在人工智能和其他技术领域的某些可能威胁美国国家安全的投资。去年8月，美国总统乔·拜登签署行政命令，经过初步评论期后，美国财政部公布了拟议规则和一系列例外情况。这些规则要求美国个人和公司自行决定限制或禁止哪些交易。拜登的行政命令要求对美国在半导体和微电子、量子计算和人工智能领域的某些投资进行监管，这是美国更广泛举措的一部分，旨在防止美国技术帮助中国开发尖端技术并主导全球市场。美国预计在今年年底前实施相关法规。公众意见征询截止日期为8月4日。

人类离实现强人工智能还有多远？

人类离实现强人工智能还有多远？ 很多年前研究过这个问题，那时候觉得难度非常大，因为人和机器之间需要交流的语言是一个巨大的障碍，那时候我的观点是，即便实现带意识的机器，可能也无法与人很好交流协作。 现在大模型出来后、尤其是看了Gemini之后突然发现这个障碍已经不存在了，剩下的一个难点是实现机器意识。这个还有多远的路程？分析了一下需要实现下面几个步骤： 1.实现实时学习的算法。数据训练好之后，不能固化下来，必须实现实时自学习才行。这就需要实现长期记忆、短期记忆、工作记忆分层，才能达到这个效果，还有一段距离，但应该不难。 2.实现自我感知。算法不但能感知人类输入的信号，还要能感知自身的信号，比如机器的输出、机器的思考（计算）过程。 3.实现自驱动。目前的所有算法都是被动式计算，就是你给输入数据，机器计算然后给出结果，这是不行的。需要的是实现机器自身的计算保持自驱动，即随时保持巡航状态。这需要提升算法性能，实际上人脑的计算非常聪明，效率极高，首先计算是分布式并行的 不需要动用整个大脑的计算能力去计算一个局部问题，而且注意力机制保证了粗算与精算结合 大大提高效率。在效率方面目前的算法离人类算法还差的很远，要实现更优的算法 大模型的结构设计还得优化，目前来说大模型的结构基本还是flat状态，非常初级。 克服上面三个问题，大模型基本就已经实现强智能了，具有与人类等同的意识。我预计这个过程可能会在20年内完成。以前我很悲观，觉得人类50年内不可能实现，现在看来好像都不是无法跨越的障碍了。 好兴奋，想想50年后满大街都是机器人的样子，而且是真正的机器“人”哦，不是一个某方面像人的机器，那真是一个很魔幻的世界。