新神经网络在语言归纳能力上接近人类

新神经网络在语言归纳能力上接近人类研究人员在AI领域取得了一项突破,他们开发出一种神经网络系统,具有类似人类的语言归纳能力。AI系统能将新学到的单词应用于现有词汇和新的上下文背景中。这种能力被称为系统归纳,是人类认知的重要组成部分。研究人员测试了ChatGPT使用的模型,虽然ChatGPT具有令人称奇的自然语言对话能力,但在语言归纳上要远逊于新的神经网络或人类。这项研究发表在最新一期的《自然》期刊上。来源:https://mp.weixin.qq.com/s/73206Vz2rkxZVwJZoYehVw投稿:@ZaiHuaBot频道:@TestFlightCN

相关推荐

封面图片

AI 越来越神奇了,大型语言模型在内部可以存储和模拟其他神经网络,不需要额外训练就能获得新的能力。

AI越来越神奇了,大型语言模型在内部可以存储和模拟其他神经网络,不需要额外训练就能获得新的能力。MITCSAIL: MITresearchersfoundthatmassiveneuralnets(e.g.largelanguagemodels)arecapableofstoringandsimulatingotherneuralnetworksinsidetheirhiddenlayers,whichenablesLLMtoadapttoanewtaskwithoutexternaltraining:

封面图片

WorldBrain 神经网络 beta 系统 APP 正式上线

WorldBrain神经网络beta系统APP正式上线6月21日消息,WorldBrain神经网络系统AndroidAPP已于6月20日正式上线。WorldBrain神经网络系统APP涵盖WBC激活质押、每日交互奖励、邀请奖励等交互激励,利用先进的神经网络算法,为用户带来了丰富的交互体验。据悉,WorldBrain神经网络系统beta版上线两个月以来,目前注册用户近300万,链上持币地址超过15万。在WorldBrain生态,用户可以更直接地参与到去中心化人工智能网络中,享受更安全、更高效、去中心化的智能交互和价值创造。

封面图片

生物启发的神经网络模型令其记忆能力大大提升

生物启发的神经网络模型令其记忆能力大大提升电信号和生物化学信号的错综复杂的相互作用,以及神经元和其他细胞类型之间的连接网络,为记忆的形成创造了基础结构。尽管如此,由于对大脑基础生物学的了解有限,将大脑的复杂生物学编码到计算机模型中进行进一步研究已被证明是一项困难的任务。冲绳科学与技术研究所(OIST)的研究人员通过纳入生物学的见解,对广泛使用的记忆计算机模型(称为霍普菲尔德网络)进行了改进。这一改变启发了一个神经网络,它不仅更好地反映了神经元和其他细胞在大脑中的连接方式,而且还有能力储存更多的记忆。深井智树教授小组的博士生托马斯-伯恩斯说,网络中增加的复杂性使其更加现实,深井教授是OIST神经编码和脑计算部门的负责人。"为什么生物学会有这么多的复杂性?记忆能力可能是一个原因,"伯恩斯先生说。在经典的霍普菲尔德网络(左)中,每个神经元(I、j、k、l)都以成对的方式与其他神经元相连。在伯恩斯和深井教授制作的改良网络中,三个或更多的神经元组可以同时连接。资料来源:托马斯-伯恩斯(OIST)霍普菲尔德网络将记忆存储为系统中不同神经元之间的加权连接模式。网络被"训练"来编码这些模式,然后研究人员可以通过呈现一系列模糊或不完整的模式来测试它对这些模式的记忆,观察这一网络是否能将它们识别为它已经知道的模式。然而,在经典的霍普菲尔德网络中,模型中的神经元与网络中的其他神经元相互连接,形成一系列所谓的"配对"连接。成对连接代表了两个神经元在突触处的连接方式,突触是大脑中两个神经元的连接点。但在现实中,神经元有复杂的分支结构,称为树突,提供多个连接点,因此大脑依靠更复杂的突触安排来完成其认知工作。此外,神经元之间的连接是由称为星形胶质细胞的其他细胞类型调节的。伯恩斯解释说:"大脑中只存在神经元之间的成对连接,这根本不现实。他创建了一个改良的霍普菲尔德网络,其中不仅有成对的神经元,而且有三组、四组或更多的神经元也可以连接起来,例如在大脑中可能通过星形胶质细胞和树突树发生。"尽管新的网络允许这些所谓的"集合式"连接,但总的来说,它包含的连接总数与以前一样。研究人员发现,一个包含成对连接和集合连接的混合网络表现最好,保留的记忆数量也最多。他们估计它的效果是传统霍普菲尔德网络的两倍以上。"事实证明,你实际上需要在某种程度上平衡各种特征的组合,"伯恩斯说,"单独的突触是必要的,但也应该需要一些树突树和一些星形胶质细胞。"霍普菲尔德网络对于模拟大脑过程非常重要,但它们也有强大的其他用途。例如,被称为变形金刚的非常类似的网络类型是基于人工智能的语言工具,如ChatGPT,所以伯恩斯和深井教授所确定的改进也可能使这类工具更加强大。伯恩斯和他的同事们计划继续研究他们修改后的霍普菲尔德网络,以使它们更加强大。例如,在大脑中,神经元之间的连接强度通常在两个方向上是不一样的,所以研究人员想知道这种不对称的特点是否也能提高网络的性能。此外,他还想探索使网络的记忆相互作用的方法,就像它们在人脑中的作用一样。我们的记忆是多方面的,而且很庞大。我们仍然有很多东西需要发掘。"...PC版:https://www.cnbeta.com.tw/articles/soft/1348821.htm手机版:https://m.cnbeta.com.tw/view/1348821.htm

封面图片

汇集各种神经网络的庞大数据库 ——

汇集各种神经网络的庞大数据库——对于使用神经网络的人来说,Supertools是一个真正的宝库。它是一个神经网络库,适用于从编码、创业到娱乐等各种任务。您可以在该网站上按类别对神经网络进行分类,并选择适合您项目的神经网络。此外,您还可以无限制地使用免费的神经网络。神经网络库会不断更新,因此您不难在这里找到与您的项目最相关的神经网络和工具。https://supertools.therundown.ai/#AI#tools

封面图片

在水中进行神经网络计算的离子电路问世

在水中进行神经网络计算的离子电路问世美国哈佛大学工程与应用科学学院 (SEAS)团队与生物技术初创公司DNA Script合作,开发出一种由数百个离子晶体管组成的离子电路,并执行了神经网络计算的核心过程。该研究发表在最近的《先进材料》上。PC版:https://www.cnbeta.com/articles/soft/1322795.htm手机版:https://m.cnbeta.com/view/1322795.htm

封面图片

MIT研究人员发现深层神经网络并不会像人类一样看待世界

MIT研究人员发现深层神经网络并不会像人类一样看待世界该研究的资深作者麦克德莫特说:“这篇论文表明,你可以使用这些模型来导出非自然信号,这些信号最终可以对模型中的表征进行诊断。这项测试将成为我们这个领域用来评估模型的一系列测试的一部分。”JenelleFeather博士22岁,现任Flatiron研究所计算神经科学研究中心研究员,是这篇开放获取论文的主要作者,该论文今天发表在《自然神经科学》杂志上。麻省理工学院研究生GuillaumeLeclerc和麻省理工学院Cadence设计系统计算教授AleksanderMądry也是该论文的作者。近年来,研究人员训练了深度神经网络,可以分析数百万个输入(声音或图像)并学习共同特征,使他们能够像人类一样准确地对目标单词或物体进行分类。这些模型目前被认为是生物感觉系统的领先模型。人们相信,当人类感觉系统执行这种分类时,它会学会忽略与物体核心身份无关的特征,例如照射在物体上的光线数量或从什么角度观看物体。这被称为不变性,意味着即使对象在那些不太重要的特征上表现出差异,也会被认为是相同的。“传统上,我们对感觉系统的思考方式是,它们为同一事物的不同示例可能具有的所有变异来源建立了不变性,”Feather说。“有机体必须认识到它们是同一件事,即使它们表现为非常不同的感官信号。”研究人员想知道,经过训练来执行分类任务的深度神经网络是否可能会产生类似的不变性。为了尝试回答这个问题,他们使用这些模型来生成刺激,这些刺激在模型内产生与研究人员给予模型的示例刺激相同的反应。当这些神经网络被要求生成图像或单词并将其与特定输入(例如熊的图片)归为同一类别时,它们生成的大部分内容对于人类观察者来说是无法识别的。右侧是模型分类为“熊”的示例。图片来源:麻省理工学院研究人员他们将这些刺激称为“模型同色异体”,复兴了经典感知研究中的一个想法,即系统无法区分的刺激可以用来诊断其不变性。同色异谱的概念最初是在人类感知研究中发展起来的,用于描述看起来相同的颜色,即使它们是由不同波长的光组成的。令他们惊讶的是,研究人员发现,以这种方式产生的大多数图像和声音看起来和听起来都与模型最初给出的例子完全不同。大多数图像都是一堆看起来随机的像素,声音类似于难以理解的噪音。当研究人员向人类观察者展示图像时,在大多数情况下,人类不会将模型合成的图像分类为与原始目标示例相同的类别。“人类根本无法识别它们。它们看起来或听起来都不自然,而且不具有人们可以用来对物体或单词进行分类的可解释特征,”Feather说。研究结果表明,这些模型以某种方式发展出了自己的不变性,与人类感知系统中发现的不变性不同。这导致模型将成对的刺激视为相同,尽管它们与人类截然不同。研究人员在许多不同的视觉和听觉模型中发现了相同的效果。然而,这些模型中的每一个似乎都发展出了自己独特的不变性。当一个模型的同色异谱显示给另一个模型时,第二个模型和人类观察者一样无法识别同色异谱。“从中得出的关键推论是,这些模型似乎具有我们所说的特殊不变性,他们已经学会了对刺激空间中的这些特定维度保持不变,并且它是特定于模型的,因此其他模型不具有相同的不变性。”研究人员还发现,他们可以通过使用一种称为对抗性训练的方法,使模型的同色异聚体更容易被人类识别。这种方法最初是为了克服对象识别模型的另一个限制而开发的,即对图像引入微小的、几乎难以察觉的变化可能会导致模型误识别它。研究人员发现,对抗性训练涉及在训练数据中包含一些稍微改变的图像,产生的模型的同色异体更容易被人类识别,尽管它们仍然不如原始刺激那么容易识别。研究人员表示,这种改进似乎与训练对模型抵抗对抗性攻击的能力的影响无关。“这种特殊形式的训练有很大的效果,但我们真的不知道为什么会产生这种效果,”Feather说。“这是未来研究的一个领域。”研究人员表示,分析计算模型产生的同色异体可能是一个有用的工具,可以帮助评估计算模型对人类感官知觉系统底层组织的模仿程度。“这是一个行为测试,你可以在给定的模型上运行,看看模型和人类观察者之间是否共享不变性,它还可以用来评估给定模型中不变性的特殊性,这可以帮助发现未来改进我们模型的潜在方法。”...PC版:https://www.cnbeta.com.tw/articles/soft/1393463.htm手机版:https://m.cnbeta.com.tw/view/1393463.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人