可调谐忆阻器的研发进展有助于人工神经网络更高效处理随时间变化的数据

可调谐忆阻器的研发进展有助于人工神经网络更高效处理随时间变化的数据 人工神经网络也许很快就能更高效地处理随时间变化的信息,如音频和视频数据。密歇根大学领导的一项研究在今天的《自然-电子学》(Nature Electronics)杂志上报告了首个具有可调节"弛豫时间"的忆阻器。忆阻器是一种将信息存储在电阻中的电子元件,与当今的图形处理单元相比,它可以将人工智能的能源需求降低约 90 倍。预计到 2027 年,人工智能的耗电量将占全球总耗电量的一半左右,而且随着越来越多的公司销售和使用人工智能工具,这一比例还有可能进一步上升。"现在,人们对人工智能很感兴趣,但要处理更大、更有趣的数据,方法就是扩大网络规模。这效率并不高,"麻省理工大学詹姆斯-R-梅勒工程学教授 Wei Lu 说,他与麻省理工大学材料科学与工程学副教授 John Heron 是这项研究的共同通讯作者。图形处理器的问题问题在于,GPU 的运行方式与运行人工智能算法的人工神经网络截然不同整个网络及其所有互动都必须从外部存储器中顺序加载,这既耗时又耗能。相比之下,忆阻器可以节省能源,因为它们模仿了人工神经网络和生物神经网络在没有外部存储器的情况下运行的主要方式。在某种程度上,忆阻器网络可以体现人工神经网络。麻省理工学院材料科学与工程系应届博士毕业生 Sieun Chae 与麻省理工学院电气与计算机工程系应届博士毕业生 Sangmin Yoo 是这项研究的共同第一作者。在生物神经网络中,计时是通过放松来实现的。每个神经元都会接收电信号并将其发送出去,但这并不能保证信号会向前推进。在神经元发送自己的信号之前,必须先达到接收信号的某个阈值,而且必须在一定时间内达到该阈值。如果时间过长,神经元就会随着电能的渗出而松弛。神经网络中具有不同松弛时间的神经元有助于我们理解事件的顺序。忆阻器如何工作忆阻器的工作原理略有不同。改变的不是信号的存在与否,而是有多少电信号可以通过。接触到一个信号,忆阻器的电阻就会降低,从而允许更多的下一个信号通过。在忆阻器中,弛豫意味着随着时间的推移,电阻会再次上升。Lu 的研究小组过去曾探索过在忆阻器中加入弛豫时间,但这并不是可以系统控制的。但现在,Lu 和 Heron 的团队已经证明,基础材料的变化可以提供不同的弛豫时间,从而使忆阻器网络能够模仿这种计时机制。材料成分和测试研究小组在超导体 YBCO(由钇、钡、碳和氧制成)的基础上构建了这些材料。YBCO在零下292华氏度的温度下没有电阻,但他们想要它的晶体结构。它引导着镁氧化物、钴氧化物、镍氧化物、铜氧化物和锌氧化物在忆阻器材料中的组织。赫伦称这种熵稳定氧化物为"原子世界的厨房水槽"添加的元素越多,它就越稳定。通过改变这些氧化物的比例,研究小组获得了 159 到 278 纳秒(即万亿分之一秒)的时间常数。他们构建的简单忆阻器网络学会了识别 0 到 9 数字的发音。一旦经过训练,它就能在音频输入完成之前识别出每个数字。未来展望这些忆阻器是通过能源密集型工艺制造的,因为研究小组需要完美的晶体来精确测量它们的特性,但他们预计,更简单的工艺也适用于大规模制造。赫伦说:"到目前为止,这只是一个愿景,但我认为有一些途径可以使这些材料具有可扩展性,而且价格合理。这些材料是地球上丰富的资源,无毒、廉价,你几乎可以把它们喷洒在上面。"编译来源:ScitechDailyDOI: 10.1038/s41928-024-01169-1 ... PC版: 手机版:

相关推荐

封面图片

澳门理工学院研发神经网络分类系统提升人工智能精准度

澳门理工学院研发神经网络分类系统提升人工智能精准度 #澳门理工学院 澳门理工学院机器翻译暨人工智能应用技术教育部工程研究中心的研究团队探究串联式神经网络的结构及其对影像特征的提取方法,开发以多个分类器接入神经网络,以提取影像在各神经网络层中的形态及特征,并把分类器的结果通过研发出的标准化算法组合后,为最终预测作精确识别。是次研究由博士研究生陈家豪、教授严肇基及副教授柯韦负责,有效应用于日常生活中识别及分类影像物件,并能显著提升其准确性和稳定性...

封面图片

研究人员在高精度计算中释放忆阻器的威力

研究人员在高精度计算中释放忆阻器的威力 麻省理工大学阿默斯特分校制作的集成芯片示例照片,其中包含不同尺寸的忆阻器横条阵列。图片来源:Can Li马萨诸塞大学阿默斯特分校电气与计算机工程系教授、《科学》(Science)杂志上发表的这项研究的通讯作者之一夏强飞解释说,在当前的计算方法下,每次要存储信息或给计算机布置任务时,都需要在内存和计算单元之间移动数据。当复杂的任务需要移动大量数据时,处理过程中就会出现"交通堵塞"。传统计算解决这一问题的方法之一是增加带宽。相反,Xia 和他在阿默斯特大学、南加州大学以及计算技术制造商 TetraMem 公司的同事们利用模拟忆阻器技术实现了内存计算,通过减少数据传输次数来避免这些瓶颈。该团队的内存计算依赖于一种名为"忆阻器"的电子元件它是内存和电阻器(控制电路中的电流)的结合体。忆阻器可以控制电路中的电流流向,同时还能"记忆"先前的状态,即使在电源关闭的情况下也是如此,这与当今基于晶体管的计算机芯片不同,后者只能在有电的情况下保存信息。忆阻器装置可编程为多个电阻等级,从而提高了一个单元的信息密度。当这种忆阻器电路被组织成一个交叉棒阵列时,就能以大规模并行的方式利用物理定律进行模拟计算,从而大大加快矩阵运算的速度,而矩阵运算是神经网络中最常用但却非常耗电的计算。计算在设备现场进行,而不是在内存和处理之间移动数据。夏用交通作类比,把内存计算比作大流行病高峰期几乎空无一人的道路:"你消除了交通,因为(几乎)每个人都在家工作,"他说。"我们同时工作,但只将重要数据/结果发送出去"。此前,这些研究人员已经证明,他们的忆阻器可以完成低精度计算任务,如机器学习。其他应用还包括模拟信号处理、射频传感和硬件安全。夏说:"在这项工作中,我们提出并演示了一种新的电路架构和编程协议,它可以使用多个相对低精度的模拟器件(如忆阻器)的加权和来有效地表示高精度数,与现有的量化方法相比,大大降低了电路开销、能耗和延迟。这篇论文的突破在于,我们进一步推动了这一领域的发展。这项技术不仅适用于低精度的神经网络计算,也适用于高精度的科学计算"。在原理验证演示中,忆阻器解决了静态和时变偏微分方程、纳维-斯托克斯方程和磁流体力学问题。他说:"我们突破了自己的舒适区,从边缘计算神经网络的低精度要求扩展到高精度科学计算。"马萨诸塞大学阿默斯特分校的团队和合作者花了十多年时间才设计出合适的忆阻器设备,并为模拟内存计算构建了相当规模的电路和计算机芯片。"我们过去十年的研究使模拟忆阻器成为一项可行的技术。现在是时候把这样一项伟大的技术推向半导体行业,使广大的人工智能硬件社区受益了。"编译自:ScitechDaily ... PC版: 手机版:

封面图片

一种新型AI芯片可能将能效提高六倍 显著减少电力足迹

一种新型AI芯片可能将能效提高六倍 显著减少电力足迹 电子工程与计算机科学助理教授 Sieun Chae 正致力于帮助减少该技术的电力消耗。她正在研究一种基于新型材料平台的芯片,这种芯片可以同时进行计算和数据存储,模仿生物神经网络处理信息存储和处理的方式。她的研究成果最近发表在《自然电子学》上。"随着人工智能的出现,计算机不得不快速处理和存储大量数据,"Chae 说。"人工智能芯片的设计目的是在内存中计算任务,从而最大限度地减少数据在内存和处理器之间的穿梭;因此,它们可以更高效地执行人工智能任务。"这些芯片采用的元件被称为忆阻器(memristors)记忆电阻器的简称。大多数忆阻器由两种元素组成的简单材料系统制成,但这项研究中的忆阻器采用了一种称为熵稳定氧化物(ESO)的新型材料系统。ESO由半数以上的元素组成,可以对其记忆能力进行微调。Memristors 与生物神经网络类似,都没有外部记忆源,因此数据从内部移动到外部再返回时不会损失能量。Chae说,通过优化最适合特定人工智能工作的ESO成分,基于ESO的芯片在执行任务时的能耗远远低于计算机的中央处理单元。另一个结果是,人工神经网络将能够处理随时间变化的信息,如音频和视频数据,这要归功于调整了 ESO 的组成,使设备能够在不同的时间尺度上工作。这项研究由美国国家科学基金会资助,由密歇根大学的研究人员领导;Chae 在加入俄勒冈州立大学教师队伍之前,作为密歇根大学的博士生参与了这项研究。参与合作的还有俄克拉荷马大学、康奈尔大学和宾夕法尼亚州立大学的研究人员。编译自/scitechdailyDOI: 10.1038/s41928-024-01169-1 ... PC版: 手机版:

封面图片

【资料】基于AI芯片的神经网络优化实战|简介:《基于AI芯片的神经网络优化实战》详细讲解了人工智能和编程技术的核心理念与实践应用

【资料】基于AI芯片的神经网络优化实战|简介:《基于AI芯片的神经网络优化实战》详细讲解了人工智能和编程技术的核心理念与实践应用。内容覆盖了从基础入门到高级编程技巧,为技术爱好者提供了丰富的实践案例和实战教程,帮助读者提升技术水平,掌握开发技能。|标签:#基于A#基于AI芯片的神经网络优化实战#资源|文件大小:NG|链接:

封面图片

用于神经网络高效训练的数据流库(PyTorch)

用于神经网络高效训练的数据流库(PyTorch) Streaming是一个与PyTorch兼容的数据集,它允许用户从基于云的对象存储中流式传输培训数据。流可以从本地磁盘或基于云的对象存储读取文件。作为PyTorch IterableDataset类的替代品,很容易获得流媒体 ||| | #机器学习

封面图片

识别神经网络创建的内容(深度造假检测)

识别神经网络创建的内容(深度造假检测) 1. AI or Not () - 识别图片、视频或语音记录; 2. Content at Scale () - 识别人工智能生成的图像; 3. Illuminarty () - 通过对比分析识别图片或文本; 4. V7 Deepfake Detector () - 检测赝品。可申请试用版; 5. AI Text Classifier () - 检测由 ChatGPT 模型编写的文本; 6. GPTZero () - 可检测任何热门AI模型编写的文本; 7. AI Content Detector () - 就是它的名字所描述的意思,是的用来检测文本。 #AI #tools (跟随或搜索该标签可在本站找到更多神经网络工具)

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人