清华新闻网1月19日电 储备池计算(Reservoir Computing, RC)是一种适用于处理时序信号的高效人工神经网络,其衍生于传统的递归神经网络(RNN),但具有更低的训练代价和更简易的硬件实现,已经在动态系统识别、时间序列预测等领域得到广泛应用。最新研究发现,复杂连接的递归神经网络可以被一个非线性的动态物理系统等效替代,这表明完整储备池计算系统有望基于少数几个元器件便可实现。
忆阻器作为一种新型信息处理器件,具有仿生的模拟阻变特性和存算一体的优势,近年来在实现人工神经网络等应用中取得了显著进展。与此同时,界面型忆阻器固有的动态特性和非线性,使其具有实现储备池计算系统的巨大潜力。
1月18日,清华大学微电子所、未来芯片技术高精尖创新中心教授钱鹤、吴华强团队与合作者在《自然•通讯》(Nature Communications)上在线发表了题为“面向高效时序信号处理的动态忆阻器储备池计算系统”(Dynamic Memristor-based Reservoir Computing for High-Efficiency Temporal Signal Processing)的研究论文,利用忆阻器固有的动态特性和非线性构建了新型储备池计算系统,在语音识别和混沌信号预测任务上分别实现了极低的错词率和预测误差,结果优于已有的储备池计算系统,能够更高效、更低成本地处理复杂时序任务。
基于动态忆阻器的并行储备池计算系统示意图
研究团队将单个动态忆阻器设计为一个复杂的物理系统,从而实现了完整的储备池功能,并以此为基本单元提出了基于多个动态忆阻器的并行储备池计算系统。该系统通过引入不同的时分复用过程来产生丰富的储备池状态,并且可以通过调节掩膜序列(Mask)的长度来控制储备池计算系统的状态丰富程度和反馈强度,从而达到优化系统性能的目的。为了验证该系统的可行性,研究团队演示了数字语音识别、混沌序列预测等时序信号处理任务,基于动态忆阻器的储备池计算系统最终实现了极低的错词率(WER = 0.4%)和预测误差(NRMSE = 0.046),为构建可实时处理复杂时序任务的高效忆阻器储备池计算系统提供了一个可行的实现方案。
利用忆阻器的动态特性等效地实现复杂递归网络,当输入信号的单位时间步长小于器件的特征时间时不同历史时刻的状态(虚拟节点)之间开始相互耦合
基于动态忆阻器的并行储备池计算系统在数字语言识别和混沌信号预测任务上的表现,通过调节Mask长度使系统性能最优化
钱鹤、吴华强教授团队长期致力于基于忆阻器的存算一体芯片技术研究,从器件性能优化、工艺集成、电路设计及架构与算法等多层次实现创新突破,先后在《自然》(Nature)、《自然电子》(NatureElectronics)、《自然通讯》(Nature Communications)、《科学进展》(Science Advances)、《先进材料》(Advanced Materials)等顶级期刊以及国际电子器件会议(IEDM)、国际固态半导体电路大会(ISSCC)等领域内顶级国际学术会议上发表多篇论文。
清华大学微电子所助理教授唐建石和教授吴华强是本论文的共同通讯作者,清华大学微电子所博士后仲亚楠为论文的第一作者。该研究得到了国家自然科学基金委、科技部重点研发计划、北京市科委、北京信息科学与技术国家研究中心、高精尖创新中心“未来芯片学者支持计划”等支持。
文章链接:https://www.nature.com/articles/s41467-020-20692-1
供稿:微纳电子系