躯体感受系统中的多模态感知可以帮助人们获得更全面的物体属性，并对物体的状态做出准确判断。例如，压力和温度的信息可以被机械感受器和热感受器分别感知并通过传入神经元编码成动作电位序列。特别地，不同受体的感觉信号在一定的条件下还可以被神经元整合并发送到大脑皮层作进一步处理（图1a）。与单模态感知相比，多模态融合感知在评估物体属性和提高物体识别精度方面具有明显优势。然而，在传统的人工感知系统中，多模态信息的处理多采用串行计算架构，传感信号需要转换为数字模式才能被处理器处理，产生了较大的功耗和通信带宽开销。此外，传统半导体技术在脉冲域构建这种多模态感知系统还面临着器件集成和电路复杂性方面的挑战。因此，迫切需要开发更高效的多模态融合感知硬件方案。生物感知系统具有并行分布式感官信息处理、低能耗、高容错性等特点，显示出克服传统困境的巨大潜力。
受此启发，近日，复旦大学刘琦教授团队报道了一种结构紧凑的多模态融合感知脉冲神经元（MFSN）阵列，该阵列由异质集成的压力传感器和NbOx忆阻器构成（图1b），其中压力传感器用来感知压力，NbOx忆阻器用来产生脉冲输出并感知温度变化。当压力和温度两种激励同时作用于MFSN时，多模态的模拟感觉信息可以融合为一个脉冲序列，显示了其优异的数据压缩和脉冲转换能力。此外，通过解耦输出脉冲的频率和振幅，还可以从融合信号中获得独立的压力和温度信息，支持了神经元对于单模态信息的保真度和多模态感知能力。作者进一步将MFSN阵列与脉冲神经网络（SNN）结合构建了一种人工多模态感知系统，成功地模拟了人体躯体感觉系统中的多模态信息（温度和压力）感知和多模态物体（不同温度、重量和形状的物体）的分类能力。该工作使构建高效的多模态脉冲感知系统成为可能，为发展高智能机器人技术提供了新思路。
上述成果于2022年4月份以题“A Heterogeneously Integrated Spiking Neuron Array for Multimode-Fused Perception and Object Classification”发表在国际知名学术期刊《Advanced Materials》上。中国科学院微电子研究所博士生朱佳雪为本文的第一作者，复旦大学芯片院刘琦教授和博士后张续猛为共同通讯作者。上述工作得到了国家重点研发计划、国家自然科学基金委、国家重大科技专项、中国博士后科学基金等项目的资助。
1.生物躯体感觉系统与人工体躯体感觉系统。(a)人手感知杯子的温度、重量和水杯形状的示意图。(b)由MFSN阵列和SNN分类器组成的人工躯体感觉系统模拟触觉感知的示意图。
原文链接：https://onlinelibrary.wiley.com/doi/abs/10.1002/adma.202200481
