王小川炮轰李彦宏：活在自己的幻觉中

王小川炮轰李彦宏：活在自己的幻觉中百度创始人李彦宏不止一次对外说过：百度的AI很牛。多数人听了李彦宏的话，只是会心一笑。毕竟没有谁会真觉得百度AI牛到这种地步了，也就没有人出来公开戳破李彦宏。除了王小川——原搜狗创始人，现百川智能创始人，已经不止一次在公开场合明里暗里内涵李彦宏王小川最近接受腾讯新闻采访时犀利吐槽：李彦宏很魔幻主义，去年2月就喊出比OpenAI只差两个月，已经够有幻觉了。有意思的是，这篇文章发出后不久就被修改，魔幻主义被改成了幻觉主义。

王小川评价李彦宏：活在自己的幻觉中

王小川评价李彦宏：活在自己的幻觉中百度创始人李彦宏不止一次对外说过：百度的AI很牛。多数人听了李彦宏的话，只是会心一笑。毕竟没有谁会真觉得百度AI牛到这种地步了，也就没有人出来公开戳破李彦宏，除了王小川——原搜狗创始人，现百川智能创始人，已经不止一次在公开场合明里暗里内涵李彦宏。王小川最近接受采访时吐槽：李彦宏很魔幻主义（现在已改为幻觉主义），去年2月就喊出比OpenAI只差两个月，已经够有幻觉了。王小川说：“你得问他（李彦宏）的团队怎么汇报工作，他怎么形成这样一个输入。这个人是一个正直，聪明的人，更多是信息输入不太对。”——

解密视觉：光学幻觉如何照亮神经通路

解密视觉：光学幻觉如何照亮神经通路我们都熟悉视错觉，有些是新奇的现象，而有些就在我们身边。即使你看着眼前的屏幕，也会被欺骗，以为自己看到的是白色。实际上，你看到的是许多红色、绿色和蓝色元素紧密地挤在一起，给人一种白色的感觉。另一个例子是快速旋转的轮子或螺旋桨，当它加速到全速时，会短暂地看起来像是在逆转方向。无论如何，人们可能会惊奇地发现，光学幻觉不仅有趣，而且还是了解眼睛、神经、思维和大脑的有用工具。你看到了什么？这是一种典型的霓虹灯色彩扩散幻觉，与这些实验中使用的幻觉不同。你有可能一眼就看到一个浅蓝色的圆圈，与原本白色的背景形成了微弱的对比。但实际上，背景完全是白色的；就好像黑色细丝蓝色部分的蓝色渗入了蓝色线条末端所暗示的圆形。图片来源：Wikimedia/blebspot，已编辑东京大学系统创新系副教授渡边正孝（MasatakaWatanabe）的任务是进一步了解意识的本质。这是一个广阔的学科领域，因此自然有许多方法来探索它，其中包括他使用的光学幻觉。他最近的研究着眼于某种对人类有效的幻觉是否对小鼠也有效。结果证明，确实如此。这有什么意义呢？渡边说："知道这种被称为霓虹色扩散幻觉的幻觉对小鼠和人类都有效，对像我这样的神经科学家来说是非常有用的，因为这意味着小鼠可以作为有用的测试对象，来测试人类无法测试的情况，要想真正了解感知体验过程中大脑内部发生了什么，我们需要使用某些无法在人身上使用的方法。这些方法包括电生理学（用电极记录神经活动）和光遗传学（用光脉冲激活或关闭活体大脑中特定神经元的发射）。"渡边的实验是首次在动物实验对象身上同时使用电生理学和光遗传学进行霓虹灯色彩蔓延幻觉的实验，这使他的团队能够准确地看到大脑中哪些结构负责处理这种幻觉。视觉刺激落在眼睛上后，会通过神经传入大脑，然后被称为V1、V2等一系列神经元层接收，其中V1是第一层，也是最基础的一层，V2及以上则被视为更高层。"在神经科学领域，关于高级神经元在亮度感知中的作用的争论由来已久。我们在小鼠身上进行的实验表明，V1神经元不仅对幻觉有反应，而且对所显示的同类图案的非幻觉版本也有反应。但是，只有在向小鼠展示幻觉版本时，V2神经元才发挥了关键作用：即调节V1神经元的活动，从而证明V2神经元确实在亮度感知中发挥作用"。这项实验表明，小鼠模型在神经科学领域是有效的。渡边希望这仅仅是个开始，这样的实验将有助于实现他阐明意识神经机制的宏伟目标。编译来源：ScitechDaily查阅文献：https://www.nature.com/articles/s41467-024-46885-6...PC版：https://www.cnbeta.com.tw/articles/soft/1429489.htm手机版：https://m.cnbeta.com.tw/view/1429489.htm

“幻觉”被选为《剑桥词典》年度词汇

“幻觉”被选为《剑桥词典》年度词汇词典网站上的一篇文章称，之所以选择这个词，是因为它的新含义"直指人们谈论人工智能的核心原因"。生成式人工智能是一种"强大"但"远非完美"的工具，"我们仍在学习如何安全有效地与之互动--这意味着既要认识到它的潜在优势，也要认识到它目前的弱点"。词典今年增加了许多与人工智能相关的词条，包括大型语言模型（或LLM）、生成式人工智能（或GenAI）和GPT（生成式预训练转换器的缩写）。"人工智能的幻觉提醒我们，人类在使用这些工具时仍需具备批判性思维能力。"大型语言模型的可靠性取决于其算法所学习到的信息。可以说，人类的专业知识比以往任何时候都更加重要，因为只有这样，才能创造出权威的最新信息，供LLM训练使用。图为生成式AI在报道时事时出现"幻觉"的一个例子"人工智能"被柯林斯词典评为2023年最值得关注的词汇剑桥大学的人工智能伦理学家亨利-谢夫林（HenryShevlin）说，令人"震惊"的是，词典团队没有选择"glitch"或"bugs"这样的计算机专用词来描述法律硕士们所犯的错误，而是决定使用一个"生动的心理动词"。他说，这可能是因为"人们很容易将这些系统拟人化，把它们当作有自己思想的系统"。谢夫林还说，今年可能会成为人工智能幻觉"担忧的高点"，因为人工智能公司正在努力通过吸取人类的反馈意见来遏制错误的发生频率，用户也在了解哪些任务可以信任人工智能，而且人工智能模型正变得越来越专业化。该词典提供了两个与人工智能相关的"幻觉"用法示例："法学硕士因产生AI幻觉而臭名昭著--生成完全错误的答案，通常还辅以虚构的引文"，以及"最新版本的聊天机器人有了很大改进，但仍会产生幻觉"。在剑桥做出这一决定之前，柯林斯词典将其年度词汇命名为"人工智能"。...PC版：https://www.cnbeta.com.tw/articles/soft/1397815.htm手机版：https://m.cnbeta.com.tw/view/1397815.htm

人工智能的错误不是“幻觉”，而是“一本正经地胡说八道”

人工智能的错误不是“幻觉”，而是“一本正经地胡说八道”格拉斯哥大学的研究人员最近指出，人工智能生成的不准确内容，最好被理解为“胡说八道”（bullshit），而非“幻觉”（hallucinations）。相较于多线程的人类大脑，LLMs目标更为单一：生成与人类语言非常相似的文本，即复制人类言语和写作模式和结构，而非理解或传达事实信息。“AI幻觉”这一术语表明LLMs存在感知错误，类似于人类看到不存在的东西。然而，一些学者认为这个比喻具有误导性，因为它暗示人工智能有感知和传达真理的视角或意图，但它们并没有信念、意图或理解——模型只是纯粹根据从训练数据中得出的统计模式对文本进行处理，而非关注事实性。这也就让LLMs看起来在“胡言乱语”：其言论看似有理，但却没有任何事实依据。研究最后指出，AI产生的错误称为“幻觉”并不是无害的，因为这会让人感到困惑，误以为机器在某种程度上产生了误解，但仍然试图传达它们相信或已经感知到的东西。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

马斯克的 AI 聊天机器人 Grok 出现 “幻觉”，误认为自己是 OpenAI 的产品

马斯克的AI聊天机器人Grok出现“幻觉”，误认为自己是OpenAI的产品近日，埃隆・马斯克旗下AI公司xAI推出了全新的人工智能聊天机器人Grok，并面向美国地区的Premium+X用户开放。然而，就像所有AI聊天机器人一样，Grok也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括ChatGPT。近日，一个Grok尴尬的“幻觉”在社交媒体上引起热议。有用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”xAI工程师IgorBabuschkin对此解释道，Grok在训练过程中使用了大量网络数据，很可能在其中包含由OpenAI生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”