通过整合非易失性突触阵列和超深度神经元实现可重构的神经形态计算模块

以下文章来源于Artificial Synapse ，作者Synapse

研究背景

深度神经网络(DNN)已在图像分类或自然语言处理等多个领域显示出超越人类的性能。特别是，模仿生物视觉系统的卷积神经网络(CNN)已成为视觉领域实现高性能的基础技术。然而，冯-诺依曼计算架构的面积和功耗开销不断增加，主要是由处理单元和内存之间的数据通信引起的，这也成为 DNNs 的关键问题。在这方面，受生物神经系统启发的神经形态计算(NC)架构的关注度迅速上升。采用模拟非易失性存储单元的 NC 架构通过在存储器域进行模拟计算来减少数据通信，从而提高系统效率 (图1A)。此外，根据基尔霍夫定律和欧姆定律，数控架构可执行大规模并行操作，同时具有较高的能效并减小了面积。

然而，使用新兴存储单元的传统数控架构在器件和电路层面面临着一些挑战。用于突触器件的新兴存储单元，如 ReRAM (电阻式随机存取存储器)或PCRAM(相变 RAM)，在单元器件和阵列层面都存在可靠性问题，包括有限的开/关比率、器件间差异和潜行路径问题。模数转换器(ADC)功耗高、面积大，导致 ADC在 NC 块中共享，从而降低了系统效率。此外，要执行可靠而精确的矢量矩阵乘法(VMM)运算，需要对 ADC 进行精确校准，这就需要额外的模块或外部控制器来进行校准。因此，有必要开发一种新型数控架构，既能有效解决这些限制，又能表现出高性能。

研究成果

人们一直在积极研究受生物神经系统启发的神经形态计算(NC)架构，以克服传统冯-诺依曼架构的局限性。在这项工作中，首尔大学Sung Yun Woo &  Jong-Ho Lee教授等人利用非易失性突触阵列、新兴的正反馈(PF)神经元器件和 CMOS 外围电路，提出了一种可重构的 NC 模块，并将它们集成在同一基板上，通过实验演示了所提出的 NC 模块的运行。闪存中的电导调制使数控模块能够轻松校准输出信号。此外，由于 PF 神经元器件的超陡峭开关特性，拟议的数控模块使用了更少的模数转换器件，从而大大减少了数控模块的面积开销。该数控模块能效高 (37.9TOPS/W)，CIFAR10图像分类准确率高(91.80%)，优于之前的研究成果。这项工作显示了集成突触和神经元在系统效率和高性能方面的巨大工程潜力。相关研究以“ Reconfigurable neuromorphic computing block through integration of flash synapse arrays and super-steep neurons”为题发表在Science Advances期刊上。

图文导读

Fig. 1. Proposed NC block.

Fig. 2. Implemented NC block.

Fig. 3. Device and array characterization.

Fig. 4. Operations of implemented NC block.

Fig. 5. Example of an operation scheme of the NC block.

Fig. 6. Calibration results and accuracy evaluation.

总结与展望

总之，作者提出了一种可重新配置的数控模块,它包含一个 AND 型非易失性突触阵列、超阶 PF神经元器件和 CMOS 外围电路。每个元件都集成并连接在同一基板上，从而高效地实现了数控模块。由于 PF 器件和闪存技术的超阶跃特性，所提出的数控块具有较高的能效(37.9TOPS/W)，同时减少了模数转换的面积开销。此外，所制造的数控模块可重新配置输出代码不仅能轻松校准数控模块，还能实现各种激活函数。这些优势使得数控块在 CIFAR- 10图象分类中表现出很高的分类准确率 (91.80%)。该工作为有效克服现有数控架构的局限性提供了重要的技术进步，并验证了集成突触和神经元在提高系统效率方面的巨大潜力。

文献链接

Reconfigurable neuromorphic computing block through integration of flash synapse arrays and super-steep neurons

https://www.science.org/doi/10.1126/sciadv.adg9123

转自：“i学术i科研”微信公众号

如有侵权，请联系本站删除！