AI教父Geoffrey Hinton表示人工智能“有 50-50 的机会”战胜人类

AI教父GeoffreyHinton表示人工智能“有50-50的机会”战胜人类AI教父GeoffreyHinton近日呼吁科技行业应该拨出大量资金来应对生存威胁——如果人工智能变得比人类更聪明，会发生什么？GeoffreyHinton认为未来20年人工智能有50-50的机会变得比人类更聪明，而因为人类从来没处理过比自己还聪明的东西，所以现在起应该花费20%-30%的计算资源来研究人工智能是如何最终如何逃脱人类的控制。“一旦人工智能有了自身利益，进化就会开始，”Hinton说道。Hinton将这种风险与人工智能带来的潜在收益并列起来，认为这是导致OpenAI联合创始人IlyaSutskever最近离开公司的关键矛盾之一。“对安全感兴趣的人，如IlyaSutskever，希望在安全上投入大量资源。对利润感兴趣的人，如SamAltman，不想在这方面花费太多资源。他补充说到。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

Meta AI负责人LeCun表示生成型人工智能仍不如狗聪明

MetaAI负责人LeCun表示生成型人工智能仍不如狗聪明LeCun昨天在巴黎举行的VivaTech会议上说，我们今天使用的生成性人工智能的问题在于它非常有限，而且纯粹是在文本上进行训练。他说，相比之下，人类的很多知识都与语言无关。因此，人类经验的一部分没有被人工智能捕捉到。他还说，虽然生成性人工智能可以通过美国的律师考试--成为律师所需的考试，但它的先天缺陷决定了它不能装载洗碗机，而这是一个孩子可以在5分钟内就可以学会的。"它告诉你[是]我们缺少一些真正的大东西......不仅要达到人类水平的智能，甚至是狗的智能。"在另一个人类发展的直觉的例子中，还没有被复制到人工智能中；YannLeCun说，一个五个月大的婴儿会看到一个物体漂浮着，并不会太在意，但仅仅四个月后，婴儿会意识到这个东西不应该漂浮，并会表示惊讶。他承认，研究人员仍然不知道如何在人工智能中复制这种类型的东西，在研究人员捉摸不透的同时，在动物和人类智能方面也不会取得重大进展。自从去年生成性人工智能以ChatGPT的形式迸发以来，有两种担心已经凸显出来，它是否会取代人类工作者，是否会对人类构成危险？LeCun认为不会。他想象在未来，每个人都会有自己的人工智能助手，比他们更聪明，会协助你的日常生活。他说，人工智能将被设计成可以控制并服从于人类，而且聪明和想要接管世界之间没有任何关联。...PC版：https://www.cnbeta.com.tw/articles/soft/1365531.htm手机版：https://m.cnbeta.com.tw/view/1365531.htm

Meta首席科学家杨立昆：目前人工智能还不如狗聪明

Meta首席科学家杨立昆：目前人工智能还不如狗聪明Meta首席人工智能(AI)科学家杨立昆（YannLeCunn）在巴黎举行的VivaTech会议上表示：“那些AI系统仍然非常有限，它们对现实世界的基本现状没有任何理解，只是纯粹基于大量的文本进行训练。但大部分人类知识与语言无关，所以这部分人类经验不会被人工智能捕捉到。我们(目前的技术发展)正在错过一些非常重要的东西。AI不仅应该达到人类水平的智能，甚至还要先达到狗的智能水平才行。”他认为，当前的人工智能系统对现实世界的理解非常有限，缺乏对非语言知识的捕捉能力。杨立昆还提到了Meta正在努力通过视频内容训练人工智能，他认为这比语言训练更为艰难。关于未来的展望，杨立昆认为将会出现比人类更聪明的机器，并将其视为非常有益的事情。他预测每个人都将拥有一个像随从一样的AI助手，这个AI助手将比人类更聪明，并在日常生活中为人们提供帮助。他表示这些AI助手需要被设计为可控且基本上服从于人类，同时驳斥了机器人接管世界的观点。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

斯坦福大学发布人工智能状况报告

斯坦福大学发布人工智能状况报告虽然现在人工智能发展之快，让任何与人工智能有关的报告一发布就面临过期的风险，但是我们仍然能从这份386页的中得到一些有用的信息：·在过去的十年里，人工智能的发展已经从学术界主导翻转到了工业界主导，而且这没有改变的迹象。·在传统基准上测试模型正变得困难，这里可能需要一种新的模式。·人工智能训练和使用的能源占用正在变得相当大，但我们还没有看到它如何在其他地方增加效率。·与人工智能相关的技能和工作岗位正在增加，但没有你想象的那么快。·政策制定者们正在努力编写一个明确的人工智能法案，如果有的话，这是一个愚蠢的差事。·投资已经暂时停滞，但这是在过去十年的天文数字般的增长之后。·超过70%的中国、沙特和印度受访者认为人工智能的好处多于坏处。美国人呢？35%。来源，，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

比尔·盖茨：人工智能的风险可控 最终会让生活变得更轻松

比尔·盖茨：人工智能的风险可控最终会让生活变得更轻松盖茨表示，他相信人工智能是科技的未来，但他也在炒作和歇斯底里中提出了一些现实和务实的观点。盖茨在他的博客GatesNotes上表示：“人工智能的未来并不像某些人想象的那样严峻，也不像其他人想象的那样美好。风险是真实存在的，但我乐观地认为这些风险是可以控制的。”但是他也并没有低估人工智能。他他将人工智能的引入与汽车、计算机和计算器等其他创新进行了对比，这些进步最初可能会引起混乱，但最终会让人们的生活变得更轻松。在谈到几十年前计算器和计算机的引入时，盖茨表示，当时的教师都担心这些工具会妨碍学生的学习。随后，他将这些担忧与对学生使用人工智能写作文的担忧又进行了比较，并引用了在课堂上使用人工智能的教师切丽·希尔德（CherieShields）所说的话。盖茨写道：“教师必须接受人工智能技术，将其作为学生可以使用的另一种工具。就像我们曾经教学生如何进行正确地使用谷歌搜索一样，教师应该围绕ChatGPT机器人如何帮助论文写作设计清晰的课程。”然而，盖茨并不认为课堂会发生天翻地覆的改变。今年3月，盖茨预测人工智能将给许多领域带来革命性的变化，但“学习仍将取决于学生和教师之间的良好关系”。人工智能对人们的工作将产生哪些影响？最近的一项调查显示，许多员工，甚至包括一些高管，都担心人工智能会抢走他们的工作。由员工筛选服务公司Checkr委托进行的一项调查发现，79%的员工担心人工智能会威胁到他们的收入和工作。然而，86%的受访者表示，如果这意味着他们可以减少工作，他们愿意接受减薪。盖茨写道：“在我们过渡到人工智能驱动的工作场所的过程中，一些工人确实需要支持和重新培训。这是政府和企业的职责所在，它们需要妥善管理，以免工人被抛弃。”高盛的研究得出了一个结论，人工智能和文本生成程序（如ChatGPT）可能会影响3亿人的工作。虽然这并不一定意味着3亿人将失去工作，但这确实表明，对于许多人来说，他们工作的某些方面可能会实现自动化。盖茨表示：“我并不认为人工智能会像工业革命那样产生巨大的影响，但它肯定会像个人电脑的问世那样影响深远。文字处理应用程序并没有取代办公室工作，但它们将永远地改变办公室工作。雇主和员工必须适应，而他们也做到了。”研究表明，法律、行政和金融业等白领职业将可能受到人工智能相关变化的最大影响，而建筑、制造和贸易等蓝领职业受到影响的可能较小。...PC版：https://www.cnbeta.com.tw/articles/soft/1370543.htm手机版：https://m.cnbeta.com.tw/view/1370543.htm

研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。

研究发现：用人工智能生成的图像训练出的人工智能产生了糟糕的结果。斯坦福大学和莱斯大学的研究人员发现，生成式人工智能模型需要“新鲜的真实数据”，否则输出的质量就会下降。这对摄影师和其他创作者来说是个好消息，因为研究人员发现，训练数据集中的合成图像会放大人工痕迹，使人工智能画出的人类看起来越来越不像真人。研究小组将这种状况命名为“模型自噬障碍”。如果自噬循环的每一代都没有足够的新鲜真实数据，未来的生成模型注定会逐渐降低其质量或多样性。如果该研究论文是正确的，那么这意味着人工智能将无法开发出无穷无尽的数据源。人工智能仍然需要真实、高质量的图像来不断进步，而不是依赖自己的输出。这意味着生成式人工智能将需要摄影师。——