清华团队在忆阻器边缘学习取得重要突破
学习对于边缘智能设备适应不同的应用场景和用户非常重要。目前训练神经网络的技术需要在计算和存储单元之间移动大量数据，这阻碍了在边缘设备上实现学习。
9月14日，清华大学集成电路学院吴华强教授、高滨副教授作为共同通讯作者在全球顶级科研期刊《Science》在线发表题为“Edge learning using a fully integrated neuro-inspired memristor chip”的研究论文，该研究开发了一种全集成记忆电阻芯片，提高了学习能力，降低了能耗。清华大学集成电路学院博士生张文彬、博士后姚鹏为论文的共同第一作者。
STELLAR架构中的方案，包括其学习算法、硬件实现和并行电导调谐方案，是通过使用忆阻器交叉棒阵列促进片上学习的通用方法，而不考虑忆阻器器件的类型。在这项研究中执行的任务包括运动控制、图像分类和语音识别。总之，该研究是迈向未来具有高能效和广泛学习能力的芯片的重要一步，有可能能够加速未来智能边缘设备的发展，以适应不同的应用场景和用户。
人类的学习能力在智力增长和快速适应未知场景或动态变化的环境中起着至关重要的作用。边缘人工智能(AI)应用也需要具有这种学习能力的硬件，以使相关设备能够适应新的场景或用户习惯。然而，深度神经网络(DNN)训练通常使用基于von Neumann计算架构和高精度数字计算范式的传统硬件实现。处理器芯片和片外主存储器之间广泛的数据移动会产生大量的能量消耗，并且占整个训练过程的大部分延迟。因此，尽管云计算平台可以处理这种高能耗的训练，它们的高能耗阻碍了在功率有限的边缘计算平台上实现学习。相比之下，基于忆阻器的神经启发计算通过其颠覆性的内存计算架构和模拟计算范式消除了这种广泛的数据移动。
忆阻器交叉棒阵列利用欧姆定律和基尔霍夫定律，可以在一个时间步内存储模拟突触权值，并在一个时间步内并行执行原位向量矩阵乘法运算。集成多个忆阻器交叉棒阵列和互补金属氧化物半导体(CMOS)电路的神经启发计算芯片可以轻松实现深度神经网络推理，并且具有很大的潜力，可以完全处理片上学习，而无需任何片外存储器的帮助。基于记忆电阻器的神经启发计算提供了大量的能源效率提高，使这种范式有望开发未来的芯片，使低功耗学习设备成为可能。
▲图1：基于忆阻器存算一体实现高效片上学习的通用算法和架构
一些研究已经通过实验证明了使用忆阻器横条阵列进行原位权值调谐的学习，尽管使用软件或外部数字处理器来实现反向传播(BP)算法。然而，实现具有强学习能力和低能耗的完整全集成忆阻器芯片仍然具有挑战性。关键的挑战在于将BP算法映射到片上硬件的效率低下。首先，由于器件的非理想性，如器件可变性和非线性电导调制，在内存中实现BP算法需要昂贵的电导调谐操作和写入验证。其次，通过写入验证很难实现高效的并行电导调谐，这使得片上学习更加耗时和耗能。第三，在权重更新计算过程中需要的高精度数据处理操作需要较大的电路面积和高能耗，导致不可接受的开销。
该研究展示了一种基于记忆电阻器的神经启发计算芯片，该芯片能够实现完全的片上学习，为此提出了一种基于记忆电阻器的符号和阈值学习(STELLAR)架构。在此架构中，首次提出片上更新方案，无需验证即可调整忆阻器。与写验证方案相比，该方案节省了电导调谐操作中过多的读写成本，并且可以解决器件的非线性和非对称调谐问题，实现软件可比的精度。
▲图2：控制任务样本增量学习演示
其次，设计片上计算模块确定权值更新方向，该过程只涉及输入、输出和误差的符号，而不涉及它们的高精度格式。该设计减少了电路设计的负担，避免了片上学习的大量开销。第三，提出了一种周期并联电导调谐方案，其中电导调谐以逐行并联方式进行。该方案进一步降低了诱导能量消耗和延迟，并适应了记忆电阻器有限的续航能力。这项研究是迈向未来具有高能效和广泛学习能力的芯片的重要一步，有可能能够加速未来智能边缘设备的发展，以适应不同的应用场景和用户。
西湖大学科研团队发现嗜酸性粒细胞介导神经肽NMU调节小肠粘膜免疫
9月14日，西湖大学徐和平研究员作为唯一通讯作者在Science期刊发表了题为：Neuromedin U programs eosinophils to promote mucosal immunity of the small intestine 的研究论文。西湖大学-浙江大学联培项目博士研究生李瑜（2019级）为本文第一作者。
该研究揭示了肠道神经系统信号可通过调控嗜酸性粒细胞的活性进而调节小肠上皮细胞稳态和粘膜免疫力。该研究为神经-免疫-上皮系统之间的交互提供给了新的见解，也为理解嗜酸性粒细胞的新功能以及相关临床疾病的研究开辟了新的思路。
传统观念认为嗜酸性粒细胞是一类异质性低、功能较单一、生命周期短、只在疾病状态下才会发挥促炎功能的终末分化细胞。因此，相对于淋巴细胞、巨嗜细胞等其他免疫细胞而言，嗜酸性粒细胞一直是免疫学领域的“冷门”细胞，不是免疫学家关注和研究的重点和热点。然而，在健康人以及动物模型中，以小肠为代表的粘膜组织内含有大量的嗜酸性粒细胞。早年有报道发现人体小肠中的酸性粒细胞在稳态下会释放其内部的颗粒；而近期也有研究表明这些在组织稳态中存在的嗜酸性粒细胞可以参与调节了小肠肠绒毛的形态。这些现象暗示着嗜酸性粒细胞可能在小肠中存在着未被发现的作用。因此从2019年开始，徐和平课题组博士生李瑜就围绕小肠稳态下嗜酸性粒细胞的功能以及细胞活性调节信号开展了研究工作。
为了探究小肠嗜酸性粒细胞的分子特征，作者首先优化了实验流程和方法，克服了嗜酸性粒细胞内含有的RNA酶等其他对转录研究不兼容的胞内介质带来的困难，成功地对小鼠模型中小肠、骨髓、皮肤等7个主要组织中嗜酸性粒细胞的转录组进行了采集；通过数据分析揭示了一系列具有组织特异性的嗜酸性粒细胞分子特征。比如，对比其他组织中的嗜酸性粒细胞，发现了神经肽NMU 1类受体分子 （neuromedin U receptor 1，NMUR1） 仅在小肠嗜酸性粒细胞中特异性的表达。进一步通过全组织荧光共聚焦成像、以及扫描电镜分析，发现小肠中嗜酸性粒细胞与肠道内的神经纤维存在着非常紧密的接触。这一特殊的基因表达模式以及组织定位关系，提示了嗜酸性粒细胞可能可以直接接收肠道内神经信号的调控并发挥特殊的功能。
NMU 是一种结构上高度保守的神经肽，广泛分布在下丘脑、垂体以及胃肠道系统中，具有刺激平滑肌收缩、抑制摄食、抑制胃酸分泌等多种功能。近些年NMU受体NMUR1在免疫系统中的研究取得了较多进展。比如，研究发现NMU-NMUR1可以直接促进2型先天样淋巴细胞（group 2 innate lymphoid cells, ILC2s）的活性 。此外近期有课题组报道认为NMUR1是ILC2特征性表达的分子，不在ILC2之外的任何细胞中表达 。显然这一结论与作者的转录分析结果并不一致。为了明确NMUR1在不同组织、细胞中的表达模式，作者构建了内源NMUR1表达报告小鼠模型（Nmur1iCre-TdT小鼠），并分析明确了在ILC2之外，小肠中嗜酸性粒细胞的确表达NMUR1。同时作者进一步分析发现NMUR1也在人的小肠嗜酸性粒细胞上特异性表达。
于是接下来作者利用Nmur1iCre-TdT小鼠对表达NMUR1的嗜酸性粒细胞的特性进行探究。发现NMUR1+嗜酸性粒细胞存在特殊的理化性质以及蛋白表达特征。比如其细胞核主要有双叶与椭圆两种形态，而小肠NMUR1-嗜酸性粒细胞主要为环形核；NMUR1+嗜酸性粒细胞表达更高的组织适应性特征分子以及脱颗粒特征分子。进一步结合透射电镜结果证实NMUR1+嗜酸性粒细胞在静息状态下的确有更强的脱颗粒活动。这些差异暗示NMUR1+嗜酸性粒细胞具有更高的活化程度以及更高的组织适应性改变。
随后作者通过探究NMUR1+嗜酸性粒细胞的发育情况以及炎症状态下该细胞群的动态变化，揭示了NMUR1在嗜酸性粒细胞的表达由小肠特殊的微环境调控并在炎症情况下上调表达。为了探究这群特殊的NMUR1+嗜酸性粒细胞活动的功能，作者通过构建多种遗传学小鼠模型发现NMUR1是参与维持小肠中嗜酸性粒细胞数量，并调控嗜酸性粒细胞脱颗粒活动。并且进一步通过组成成像分析发现嗜酸性粒细胞缺失NMUR1会减少小肠上皮杯状细胞的分化以及减弱抗寄生虫感染免疫力。
最后，作者采用体内化学遗传学方法操纵NMU+神经元活性、以及体外建立嗜酸性粒细胞-小肠上皮类器官共培养系统，揭示嗜酸性粒细胞直接调控小肠杯状细胞分化，且NMU-NMUR1信号通过调控嗜酸性粒细胞参与该过程。
总的来说，该研究揭示了 NMU-NMUR1信号特异地驱动小肠嗜酸性粒细胞进行转录、蛋白和功能层面的适应性改变，并在稳态和炎症状态下调节小肠上皮细胞的分化 。该研究为神经-免疫-上皮系统之间的交互提供给了新的见解，也为理解嗜酸性粒细胞的新功能以及相关临床疾病的研究开辟了新的思路。
转自：“TOP大学来了”微信公众号
如有侵权，请联系本站删除！
