CN111582445B - 一种基于脉冲神经网络的高效学习***及学习方法 - Google Patents

Abstract

本发明公开了一种基于脉冲神经网络的高效学习***及其学习方法，属于人工神经网络技术领域，该学习***由数据预处理模块、网络构建模块、学习模块和推理模块组成；数据预处理模块支持静态图像数据和动态神经形态数据两种类型；网络构建模块支持多种类型的脉冲神经网络；学习模块由前馈网络计算、误差反向传播和权重更新组成；在每个时刻，随机数发生器产生随机值，由开关控制是否进行误差反向传播和权重更新步骤；推理模块加载模型文件进行前馈网络计算。本发明中的学习***兼容自动微分工具，易于实现；支持多种脉冲神经网络类型，容易灵活配置。本发明中的学习模块加入开关结构，忽略了大量的计算步骤，节省了计算资源，提高了学习效率。

Description

一种基于脉冲神经网络的高效学习***及学习方法

技术领域

本发明涉及人工神经网络技术领域，具体涉及一种基于脉冲神经网络的高效学习***及学习方法。

背景技术

近年来，脉冲神经网络(Spiking Neural Network,SNN)的研究和应用越来越广泛。与人工神经网络(Artificial Neural Network,ANN)不同的是，脉冲神经网络采用与生物可塑性相近的神经元作为计算单元，能够更好得表征动态时间和空间信息。脉冲神经网络的信息传递方式是离散的脉冲，使其能够应用到低功耗、高效率的神经形态硬件中。由于缺乏有效的学习***，脉冲神经网络在许多应用上的表现仍比不上人工神经网络。

当前的脉冲神经网络的学习算法可以归为三类：基于脉冲时间依赖可塑性的非监督式算法、基于ANN转SNN的非直接式监督算法和基于误差反向传播的直接式监督算法。基于脉冲时间依赖可塑性的非监督式算法主要通过局部的神经元活动来改变突触权重，很难实现高性能。基于ANN转SNN的非直接式监督算法主要将训练好的ANN模型转化为对应的SNN模型，使SNN模型几乎实现与ANN模型一致的应用效果。然而，这样的转化方法对ANN模型要求满足很多约束条件，例如没有偏置权重、只允许ReLU激活函数等等。基于误差反向传播的直接式监督算法通过时间和空间上的误差进行反向传播来改变突触权重，常用基于时间的反向传播算法(Backpropagation-Through-Time,BPTT)进行突触权重的学习。该类算法在不同时序上的时间和空间有耦合，需要较高的计算资源和存储资源，学习效率不高。

因此在时间上解耦，构建时序无关的高效学习***来优化学习过程，能够大大提高学习效率，节省消耗的资源，有利于扩大脉冲神经网络的应用前景。

发明内容

为了克服现有技术中的脉冲神经网络学习算法需要较高的计算资源和存储资源、学习效率低的缺陷，本发明提供了一种基于脉冲神经网络的学习***及其学习方法，该学习***由数据预处理模块、网络构建模块、学习模块和推理模块组成；数据预处理模块支持静态图像数据和动态神经形态数据两种类型；网络构建模块根据基本网络框架支持多种类型的脉冲神经网络；学习模块由前馈网络计算子模块、误差反向传播子模块和权重更新子模块组成；在每个时刻，随机数发生器产生随机数值，由开关控制是否进行误差反向传播和权重更新步骤；推理模块根据学习模块得到的模型文件进行前馈网络计算，使其能够支持脉冲神经网络的高效学习。

为了实现上述目的，本发明具体采用如下技术方案：

一种基于脉冲神经网络的学习***，包括：

数据预处理模块：用于将输入数据转化为脉冲序列；

网络构建模块：用于根据基本网络框架配置多种脉冲神经网络；

学习模块：用于根据数据预处理模块得到的脉冲序列，对网络构建模块得到的脉冲神经网络进行学习，并生成模型文件；

推理模块：读取网络构建模块配置的脉冲神经网络结构，并加载学习模块生成的模型文件来获得脉冲神经网络参数，得到训练好的脉冲神经网络模型，并将数据预处理模块输出的脉冲序列作为脉冲神经网络模型的输入，得到推理结果；

所述的数据预处理模块、网络构建模块、学习模块、推理模块顺次连接，且学习模块设有第一开关，当学习***处于学习模式时，第一开关控制学习模块开启，网络构建模块的输出经学习模块后进入推理模块；当学习***处于推理模式时，第一开关控制学习模块关闭，网络构建模块的输出直接进入推理模块。

作为本发明的优选，所述的数据预处理模块包括静态图像数据处理模式和动态神经形态数据处理模式；当数据预处理模块处于静态图像数据处理模式时，将输入的静态图像数据缩放至[0,1]区间，等效为概率值后生成基于泊松分布或伯努利分布的脉冲序列；当数据预处理模块处于动态神经形态数据处理模式时，将输入的动态神经形态数据直接处理成脉冲序列。

作为本发明的优选，所述的网络构建模块根据基本网络框架配置多种脉冲神经网络；所述的基本网络框架由一层或多层的脉冲神经元层和一层感知机神经元输出层组成；所述的脉冲神经元层采用LIF神经元模型。

作为本发明的优选，所述的LIF神经元模型具体为：

其中，U表示膜电位，S表示脉冲，Q、P和R分别表示注入电流、膜电位和不应期的变化量，α、β和γ是衰减因子，τ_s、τ_m和τ_r是时间常数，Θ表示阶跃函数，[t]表示在t时刻，

表示第l-1层第j个神经元的注入电流变化量，/>

表示第l-1层第j个神经元的膜电位变化量，/>

表示第l-1层第j个神经元的不应期变化量，/>

表示第l层第i个神经元的膜电位，

表示第l层第i个神经元与表示第l-1层第j个神经元连接的突触权重，/>

表示第l层第i个神经元发放的脉冲；

所述的感知机神经元输出层根据最后一层脉冲神经元层发放的脉冲来输出目标，表示为：

其中，Y_m[t]表示在t时刻，输出层第m个神经元的输出目标；G_mn表示最后一层脉冲神经元层第n个神经元与输出层第m个神经元连接的权重，

表示在t时刻，最后一层脉冲神经元层第n个神经元发放的脉冲，L表示脉冲神经元的层数。/>

作为本发明的优选，所述的学习模块包含前馈网络计算子模块、误差反向传播子模块和权重更新子模块；

所述的前馈网络计算子模块根据数据预处理模块提供的脉冲数据作为输入，依次根据LIF神经元模型和网络连接方式计算脉冲神经元层，然后由感知机神经元输出层根据脉冲神经元层的输出脉冲计算输出目标；

所述的误差反向传播子模块根据设定的损失函数计算输出目标和设定目标之间的误差，进行反向传播；

所述的权重更新子模块根据设定的学习率和误差进行权重的更新。

作为本发明的优选，所述的学习模块设有第二开关和随机数发生器，所述的第二开关用于控制误差反向传播子模块和权重更新子模块是否执行，第二开关的开启和关闭状态由随机数发生器产生的随机数值与预设数值比较决定。

作为本发明的优选，所述的推理模块由模型加载子模块和前馈网络计算子模块组成；所述的模型加载子模块读取网络构建模块配置的脉冲神经网络结构，并加载由学习模块生成的模型文件，获得训练好的脉冲神经网络模型；所述的前馈网络计算子模块根据数据预处理模块提供的脉冲数据作为输入，计算脉冲神经网络模型中的脉冲神经元层，然后由感知机神经元输出层根据脉冲神经元层的输出脉冲得到输出目标。

相对于现有技术，本发明具有如下有益效果：

(1)本发明所述学习***中的网络构建模块支持多种形式的网络，可以基于基本的网络框架灵活配置。

(2)本发明提供了一种简化后的LIF神经元模型，由该神经元模型构成的脉冲神经网络实现了在时间上的解耦，能够构建时序无关的高效学习脉冲神经网络模型，且支持自动微分，兼容现有的自动微分工具包，且基于本发明的学习***易于实现。

(3)本发明提供的学习***具有学习和推理两种工作模式，不同的工作模式运行不同的模块，减少了不必要的运行程序，且本发明中的数据预处理模块能够处理静态图像数据和动态神经形态数据，所述的学习模块通过开关控制是否执行误差反向传播和权重更新步骤，忽略了大量的计算步骤，节省了计算资源，提高了学习效率。

附图说明

图1为本发明所提供的学习***的结构示意图。

图2为本发明中学习模块的学习过程示例图。

具体实施方式

通过以下具体实例对本发明作进一步的说明，其目的在于帮助更好的理解本发明的内容。本发明中各个实施方式的技术特征在没有相互冲突的前提下，均可进行相应组合。

如图1所示，一种基于脉冲神经网络的学习***，所述的学习***由数据预处理模块101、网络构建模块102、学习模块103和推理模块104组成；所述的学习***包含学习和推理两种工作模式，通过开关控制。当学习***为学习模式时，过程为数据预处理模块、网络构建模块、学习模块到推理模块；当学习***为推理模式时，过程为数据预处理模块、网络构建模块到推理模块。

数据预处理模块101用于将输入数据转化为脉冲序列，支持静态图像数据和动态神经形态数据的处理。对于静态图像数据，将像素值缩放到区间[0,1]后，将像素值等效为对应的概率值，根据此概率值生成基于泊松分布或伯努利分布的脉冲序列；对于动态神经形态数据，则直接处理成脉冲序列。

网络构建模块102根据基本的网络框架支持构建多种形式的脉冲神经网络，包括全连接网络、卷积神经网络和残差网络。网络框架由一层或多层的脉冲神经元层与一层感知机神经元输出层构成。网络构建完毕后，由数据预处理模块提供的脉冲数据作为网络的输入。

在本发明的一个具体实施中，所述的脉冲神经元层采用LIF神经元模型，具体为：

其中，U表示膜电位，S表示脉冲，Q、P和R分别表示注入电流、膜电位和不应期的变化量，α、β和γ是衰减因子，τ_s、τ_m和τ_r是时间常数；在t时刻，第l层的神经元i接收到第l-1层的神经元j的脉冲刺激后，其膜电位

由突触权重/>

与膜电位变化量/>

加权求和后，减去不应期变化量得到。Θ表示阶跃函数，当膜电位的值大于0时，发放脉冲；否则不发放。[t]表示在t时刻，/>

表示第l-1层第j个神经元的注入电流变化量，/>

表示第l-1层第j个神经元的膜电位变化量，/>

表示第l-1层第j个神经元的不应期变化量，/>

表示第l层第i个神经元的膜电位，/>

表示第l层第i个神经元与表示第l-1层第j个神经元连接的突触权重，/>

表示第l层第i个神经元发放的脉冲；

所述的感知机神经元输出层根据最后一层脉冲神经元层(L)的输出脉冲

与固定的权重G_mn加权后，预测输出目标，表示为：

其中，Y_m[t]表示在t时刻，输出层第m个神经元的输出目标；G_mn表示最后一层脉冲神经元层第n个神经元与输出层第m个神经元连接的权重，

表示在t时刻，最后一层脉冲神经元层第n个神经元发放的脉冲，L表示脉冲神经元的层数。所述的LIF神经元模型每个时刻自动传播，支持自动微分，可以用现有的自动微分工具实现。

如图2所示，学习模块103由前馈网络计算子模块、误差反向传播子模块和权重更新子模块组成。前馈网络计算时，在每个时刻t，输入脉冲S^I[t]输入到脉冲神经元层后，每个神经元根据式(1)-(3)依次计算当前t时刻Q[t]、P[t]和R[t]的值，然后根据式(4)计算当前时刻膜电位U[t]的值，最后根据式(5)判断当前神经元是否产生脉冲。当U[t]>0时，该神经元发放脉冲；否则，不发放。当前时刻计算完毕后，存储当前时刻的Q、P和R值，用于下一时刻的计算。脉冲神经元层计算完毕后，最后一层的脉冲神经元输出脉冲S^L[t]输入输出层，根据式(6)得到输出目标Y[t]。根据设定的损失函数计算输出目标Y[t]与设定目标

的误差，进行误差反向传播。误差反向传播后，根据设定的学习率更新权重。

为了进一步优化学习过程，误差反向传播和权重更新通过开关控制是否执行。当随机数发生器产生的随机数值小于预设数值p时，执行误差反向传播和权重更新；否则，不执行。优选的，通过设定预设数值p，所述的学习过程中的误差反向传播和权重更新步骤忽略，节省了大量的计算资源，提高了学习效率。在本发明的一个具体实施中，设置随机数发生器的随机区间为[0,1]，设置开关的开启预设数值p为0.1至0.5之间，此时可以将预设数值p理解为概率值，当随机数值小于预设数值p时，执行误差反向传播和权重更新，即有p的概率执行误差反向传播和权重更新步骤。

推理模块104由模型加载子模块和前馈网络计算子模块组成；所述的模型加载子模块读取网络构建模块配置的脉冲神经网络结构，并加载由学习模块生成的模型文件，获得训练好的脉冲神经网络模型；所述的前馈网络计算子模块根据数据预处理模块提供的脉冲数据作为输入，计算脉冲神经网络模型中的脉冲神经元层，然后由感知机神经元输出层根据脉冲神经元层的输出脉冲得到输出目标。

上述脉冲神经网络的高效学习***的学习方法，包括以下步骤：

步骤1：数据预处理模块自动判断输入数据的类型，当输入为静态图像数据时，首先将像素值缩放到区间[0,1]，然后将像素值等效为对应的概率值，根据此概率值生成基于泊松分布或伯努利分布的脉冲序列；当输入为动态神经形态数据时，直接生成脉冲序列；

步骤2：通过网络构建模块配置脉冲神经网络，包括一层或多层的脉冲神经元层和一层感知机神经元输出层；所述的脉冲神经元层采用LIF神经元模型。

步骤3：开启第一开关，并设置随机数发生器的随机区间为[0,1]，设置第二开关的开启预设数值p为0.1至0.5之间，即有p的概率执行误差反向传播和权重更新步骤。通过学习模块对构建的脉冲神经网络进行学习，首先由前馈网络计算子模块根据步骤1得到的脉冲序列，计算步骤2构建的脉冲神经网络中的脉冲神经元层的输出脉冲，由感知机神经元输出层根据脉冲神经元层的输出脉冲计算输出目标；

当随机数发生器生成的随机数值p′小于预设数值p时，误差反向传播子模块和权重更新子模块处于工作状态，由误差反向传播子模块根据设定的损失函数计算输出目标和设定目标之间的误差，进行反向传播；最后由权重更新子模块根据设定的学习率和误差进行权重的更新；

当随机数发生器生成的随机数值p′大于等于预设数值p时，误差反向传播子模块和权重更新子模块处于关闭状态，跳过误差反向传播子模块和权重更新子模块，进行下一时刻的学习，循环该学习过程；

根据预设的学习轮数，当到达设定的最大轮数时，学习结束，生成模型文件；

步骤4：关闭第一开关，通过推理模块读取网络构建模块配置的脉冲神经网络结构，并加载学习模块生成的模型文件来获得脉冲神经网络参数，得到训练好的脉冲神经网络模型，并将数据预处理模块输出的脉冲序列作为脉冲神经网络模型的输入，得到推理结果。

根据本学***。预设数值p设定区间从0.5至0.1时，可减少约4.2％至21.0％的学习时间，大大提高了学习效率。

由简化后的LIF神经元模型构成的脉冲神经网络实现了在时间上的解耦，能够构建时序无关的高效学习脉冲神经网络模型，使得本发明中的学习***支持自动微分，兼容各种自动微分工具，易于实现；支持多种形式的脉冲神经网络，可以灵活配置；通过开关控制是否执行误差反向传播和权重更新步骤，忽略了大量的计算步骤，节省了计算资源，提高了学习效率。

以上列举的仅是本发明的具体实施例。显然，本发明不限于以上实施例，还可以有许多变形。本领域的普通技术人员能从本发明公开的内容直接导出或联想到的所有变形，均应认为是本发明的保护范围。

Claims (7)

1.一种基于脉冲神经网络的学习***，其特征在于，包括：

数据预处理模块：用于将输入数据转化为脉冲序列；所述的数据预处理模块包括静态图像数据处理模式和动态神经形态数据处理模式；当数据预处理模块处于静态图像数据处理模式时，将输入的静态图像数据缩放至[0,1]区间，等效为概率值后生成基于泊松分布或伯努利分布的脉冲序列；当数据预处理模块处于动态神经形态数据处理模式时，将输入的动态神经形态数据直接处理成脉冲序列；

网络构建模块：用于根据基本网络框架配置多种脉冲神经网络；

学习模块：用于根据数据预处理模块得到的脉冲序列，对网络构建模块得到的脉冲神经网络进行学习，并生成模型文件；

推理模块：读取网络构建模块配置的脉冲神经网络结构，并加载学习模块生成的模型文件来获得脉冲神经网络参数，得到训练好的脉冲神经网络模型，并将数据预处理模块输出的脉冲序列作为脉冲神经网络模型的输入，得到推理结果；

所述的数据预处理模块、网络构建模块、学习模块、推理模块顺次连接，且学习模块设有第一开关，当学习***处于学习模式时，第一开关控制学习模块开启，网络构建模块的输出经学习模块后进入推理模块；当学习***处于推理模式时，第一开关控制学习模块关闭，网络构建模块的输出直接进入推理模块。

2.根据权利要求1所述的基于脉冲神经网络的学习***，其特征在于，所述的网络构建模块根据基本网络框架配置多种脉冲神经网络；所述的基本网络框架由一层或多层的脉冲神经元层和一层感知机神经元输出层组成；所述的脉冲神经元层采用LIF神经元模型。

3.根据权利要求2所述的基于脉冲神经网络的学习***，其特征在于，所述的LIF神经元模型具体为：

其中，U表示膜电位，S表示脉冲，Q、P和R分别表示注入电流、膜电位和不应期的变化量，α、β和γ是衰减因子，τ_s、τ_m和τ_r是时间常数，Θ表示阶跃函数，[t]表示在t时刻，

表示第l-1层第j个神经元的注入电流变化量，/>

表示第l-1层第j个神经元的膜电位变化量，

表示第l-1层第j个神经元的不应期变化量，/>

表示第l层第i个神经元的膜电位，/>

表示第l层第i个神经元与表示第l-1层第j个神经元连接的突触权重，/>

表示第l层第i个神经元发放的脉冲；

所述的感知机神经元输出层根据最后一层脉冲神经元层的输出脉冲，计算得到输出目标，表示为：

其中，Y_m[t]表示在t时刻，输出层第m个神经元的输出目标；G_mn表示最后一层脉冲神经元层第n个神经元与输出层第m个神经元连接的权重，

表示在t时刻，最后一层脉冲神经元层第n个神经元的输出脉冲，L表示脉冲神经元的层数。

4.根据权利要求2所述的基于脉冲神经网络的学习***，其特征在于，所述的学习模块包含前馈网络计算子模块、误差反向传播子模块和权重更新子模块；

所述的前馈网络计算子模块根据数据预处理模块提供的脉冲数据作为输入，依次根据LIF神经元模型和网络连接方式计算脉冲神经元层，然后由感知机神经元输出层根据脉冲神经元层的输出脉冲计算输出目标；

所述的误差反向传播子模块根据设定的损失函数计算输出目标和设定目标之间的误差，进行反向传播；

所述的权重更新子模块根据设定的学习率和误差进行权重的更新。

5.根据权利要求4所述的基于脉冲神经网络的学习***，其特征在于，所述的学习模块设有第二开关和随机数发生器，所述的第二开关用于控制误差反向传播子模块和权重更新子模块是否执行，第二开关的开启和关闭状态由随机数发生器产生的随机数值与预设数值比较决定。

6.根据权利要求1所述的基于脉冲神经网络的学习***，其特征在于，所述的推理模块由模型加载子模块和前馈网络计算子模块组成；所述的模型加载子模块读取网络构建模块配置的脉冲神经网络结构，并加载由学习模块生成的模型文件，获得训练好的脉冲神经网络模型；所述的前馈网络计算子模块根据数据预处理模块提供的脉冲数据作为输入，计算脉冲神经网络模型中的脉冲神经元层，然后由感知机神经元输出层根据脉冲神经元层的输出脉冲得到输出目标。

7.一种基于权利要求5所述脉冲神经网络的学习***的学习方法，其特征在于，包括以下步骤：

步骤1：数据预处理模块自动判断输入数据的类型，当输入为静态图像数据时，首先将像素值缩放到区间[0,1]，然后将像素值等效为对应的概率值，根据此概率值生成基于泊松分布或伯努利分布的脉冲序列；当输入为动态神经形态数据时，直接生成脉冲序列；

步骤2：通过网络构建模块配置脉冲神经网络，包括一层或多层的脉冲神经元层和一层感知机神经元输出层；

步骤3：开启第一开关，并设置随机数发生器的随机区间为[0,1]，设置第二开关的开启预设数值p为0.1至0.5之间；通过学习模块对构建的脉冲神经网络进行学习，首先由前馈网络计算子模块根据步骤1得到的脉冲序列，计算步骤2构建的脉冲神经网络中的脉冲神经元层的输出脉冲，由感知机神经元输出层根据脉冲神经元层的输出脉冲计算输出目标；

当随机数发生器生成的随机数值p^′小于预设数值p时，误差反向传播子模块和权重更新子模块处于工作状态，由误差反向传播子模块根据设定的损失函数计算输出目标和设定目标之间的误差，进行反向传播；最后由权重更新子模块根据设定的学习率和误差进行权重的更新；

当随机数发生器生成的随机数值p^′大于等于预设数值p时，误差反向传播子模块和权重更新子模块处于关闭状态，跳过误差反向传播子模块和权重更新子模块，进行下一时刻的学习，循环该学习过程；

根据预设的学习轮数，当到达设定的最大轮数时，学习结束，生成模型文件；

步骤4：关闭第一开关，通过推理模块读取网络构建模块配置的脉冲神经网络结构，并加载学习模块生成的模型文件来获得脉冲神经网络参数，得到训练好的脉冲神经网络模型，并将数据预处理模块输出的脉冲序列作为脉冲神经网络模型的输入，得到推理结果。

Images