基于神经元时序编码的全新ANN-SNN转换方法

SynSense时识科技于近日提出一种基于神经元时序编码的全新ANN-SNN转换方法，克服了类脑芯片上因传统频率编码造成突触操作数过多而导致的较高能耗问题，能够大大降低类脑芯片上有效突触操作和存储访问，从而显著降低了类脑芯片的实时推理功耗及延迟。这一全新方案提供了一种可行的、代价极低的脉冲神经网络训练方法，为构建大规模深层类脑芯片铺平了道路。

该方法由SynSense时识科技瑞士团队及创始人兼CEO乔宁博士提出，目前已获得发明专利授权。自成立以来，SynSense时识科技多项成果获得发明专利授权。以市场需求为导向，SynSense时识科技在启发自大脑的高能效计算基础上，通过全方位创新，保证了类脑芯片的超低延迟、超低功耗潜力，不仅进一步凸显了知识产权市场价值及自主技术竞争力，还将有助于设备性能的大幅提升，并使用户最终受益。

基于神经元时序编码的全新ANN-SNN转换方法

显著降低芯片功耗

“为了充分发挥类脑芯片事件驱动、低功耗的潜力，SynSense时识科技提出利用TTFS的神经元脉冲编码方式和增加额外的1或2个突触，即可实现10-50倍网络运算稀疏度的提升。”

脉冲神经网络（SNN）是一种高度仿生的第三代神经网络，通过利用时间和空间稀疏性而实现超低功耗应用。在类脑硬件上执行时，其功耗与脉冲的数量/突触操作数成比例。目前，将ANN转换SNN的方案中，对于神经元的转换，大多数转换方法依赖于频率编码来表示ANN的ReLU激活，需要大量的脉冲以及用于编码信息的精度表达。对于类脑硬件而言，其消耗的能量与脉冲发放数量呈正相关关系。频率编码导致的神经元频繁发放脉冲，这显然会导致较高的能量消耗。因此，更为稀疏的神经元编码转换机制是迫切亟需的。

目前，常见的脉冲编码方法有频率编码（rate coding）、首个脉冲时间编码（TTFS）、群编码（Population Coding）等。

频率编码

主要考察脉冲发放率，刺激的强弱程度由神经元发放脉冲的频率反映，强烈的刺激导致高频脉冲序列。频率编码的主要缺点是信息传输效率不高但鲁棒性好，因此是一种广泛使用的编码方案。这也目前ANN转SNN方案，使用SNN中的脉冲频率近似代替ANN中ReLU激活值的理论基础。

首个脉冲时间编码

关注从接受刺激到发放首个脉冲的时间，一般刺激越强，脉冲发放越早。TTFS中每个神经元仅使用一个脉冲，是一种高效简洁的编码方案。但TTFS方案面临神经元激活过早进而导致SNN精度降低的困境。多数TTFS方案会采用动态膜电压阈值以阻止神经元过早被激活。

对此，SynSense时识科技提出了一种名为Quartz的全新ANN-SNN方法：

为了充分发挥类脑芯片事件驱动、低功耗的潜力，SynSense时识科技提出利用TTFS的神经元脉冲编码方式和增加额外的1或2个突触，即可实现10-50倍网络运算稀疏度的提升。

与需要复杂的神经元模型或计算操作的方法不同，该方法使用简单的神经元和突触模型，依赖额外的突触连接来维持神经元激活的稳定性：

突触1有助于防止早期发放并减少量化误差。突触2则在特定时间点上强制神经元发放脉冲，作为时间等效的整流操作。其目标是在保持脉冲数量和能量消耗最小的情况下，缩小ANN和转换后的SNN之间的准确性差距。   这一方案为芯片实现提供诸多显著优势。在CIFAR10数据集上，配置预训练的VGG‑11网络、Tmax =64参数，使用本发明方案的SNN精度相比于ANN网络精度，仅下降0.01%，而突触操作数为180万次，相比于传统频率编码下降1‑2个数量级。在Loihi芯片上验证，尤其当核心数量占用少时，该方案明显胜于频率编码方案，动态功耗更低。 这一方案支持高效地将已有ANN低损地转化为SNN，且无需复杂的神经元模型或高资源消耗的计算操作，功耗及带宽需求更小，成本代价更低，为构建大规模深层类脑芯片铺好了低功耗实施路径。为使类脑技术的独特优势在实际的运用过程中得以发挥，一直以来，SynSense时识科技持续技术创新，从而使类脑芯片功耗降低100-1000倍、实时性提升10-100倍且成本降低10倍成为现实，最终为置入SynSense时识科技类脑芯片的电子设备带来超低功耗、永远在线的智能信息处理能力。

　　

      审核编辑：彭静