据中国科学院自动化研究所消息,该所一研究团队与其他单位合作设计了新型类脑神经形态系统级芯片Speck,展示了神经形态计算在融合高抽象层次大脑机制时的天然优势,相关研究日前在线发表于国际学术期刊《自然·通讯》。
“人脑是非常复杂庞大的神经网络系统,总功耗仅为20瓦,远小于现有的人工智能系统。”中国科学院自动化研究所研究员李国齐说,因此,在算力比拼加速、能耗日益攀升的当下,借鉴人脑的低功耗特性发展新型智能计算系统成为极具潜力的方向。
人脑中的一个重要功能是根据外界刺激的重要程度,动态分配其有限的注意力资源,重要的刺激往往会获得更多的关注,这被称为注意力机制。该研究提出了“神经形态动态计算”的概念,将人脑中的高抽象层次注意力机制应用于类脑芯片设计,进一步挖掘了类脑芯片在性能和能效上的潜力。
李国齐表示,Speck是在一块芯片上集成了动态视觉传感器和神经形态芯片,具有极低的静息功耗。典型视觉场景任务功耗可低至0.7毫瓦,为人工智能应用提供了高能效、低延迟和低功耗的类脑智能解决方案。
在本项研究中,合作团队提出“神经形态动态计算”的概念,通过设计一种类脑神经形态芯片Speck来实现基于注意力机制的动态计算,在硬件层面做到“没有输入,没有功耗”,在算法层面做到“有输入时,根据输入重要性程度动态调整计算”,从而在典型视觉场景任务功耗可低至0.7毫瓦,进一步挖掘出神经形态计算在性能和能效上的潜力。
Speck是一款异步感算一体类脑神经形态系统级芯片,采用全异步设计,在一块芯片上集成了动态视觉传感器(DVS相机)和类脑神经形态芯片,具有极低的静息功耗(仅为0.42毫瓦)。它能够以微秒级的时间分辨率感知视觉信息,以全异步方式设计抛弃了全局时钟控制信号,避免时钟空翻带来的能耗开销,仅在有事件输入时才触发稀疏加法运算。
李国齐指出,针对脉冲神经网络(SNN)在更高层面,比如时间维度中不能根据输入难易度调整其脉冲发放等“动态失衡”问题,这项研究基于注意力机制的神经形态脉冲动态计算框架,在多种粒度上实现对不同的输入进行有区分地动态响应。同时,Speck软件工具链编程框架支持动态计算脉冲神经网络算法训练和部署。
该研究的实验结果表明,注意力机制可使得脉冲神经网络具备动态计算能力,即根据输入难易度调整其脉冲发放模式解决“动态失衡”问题,在显著降低功耗的同时,提升任务性能。在一个动态视觉传感数据集上,融合脉冲动态计算的Speck在任务精度提升9%的同时,平均功耗由9.5毫瓦降低至3.8毫瓦。