CN115063597A - 一种基于类脑学习的图像识别方法 - Google Patents

Abstract

一种基于类脑学习的图像识别方法，对原始图片数据进行预处理得到输入向量；建立脉冲神经网络模型进行学习，模型包括输入层、类脑学习算子和输出层；先对所述输入向量进行脉冲时序编码得到脉冲神经网络的输入数据，再将所述输入数据输入到脉冲神经网络的输入层，然后通过类脑学习算子学习输入向量的特征，最后将脉冲神经网络的输出层最先激发的脉冲神经元作为网络识别的类别，经过多次训练学习后，得到最后的识别网络；将待识别的原始图片数据进行预处理，用识别网络进行图片识别。本发明在脉冲神经网络中使用类脑学习算子，优化了脉冲神经网络计算能耗高，可解释性差的缺陷，符合对类脑网络的预期。

Description

一种基于类脑学习的图像识别方法

技术领域

本发明属于图像识别技术领域，同时涉及类脑智能与机器学习技术领域；特别涉及一种基于类脑学习的图像识别方法。

背景技术

在现在发展飞快的社会，模式识别是人工智能的一个重要任务。其中最常用的就是图像识别。现有的图像识别技术一般是通过人工神经网络来实现的，主要是通过反向传播算法搭配人工神经网络来实现。但反向传播算子有一些缺陷：首先，反向传播学习算法需要占用大量的计算资源；其次，这种反向传播的方式并没有在生物大脑中被观察到，其结构、计算方式和学习规则与大脑存在根本差异；最后，通过人工神经网络进行图像识别的过程是没有可解释性的。同时，人工神经网络也有其他缺点，首先是人工神经网络解决图像识别任务结构过于复杂，能耗较高；其次是人工神经元并非仿生神经元，不具有生物可解释性。

发明内容

为了解决现有方法的缺点，本发明通过了一种基于类脑学习的图像识别方法，采用类脑学习算子搭配脉冲神经网络来完成图像识别，这种类脑学习算子以强化学习为基础，通过仿真实现大脑内部的奖励学习机制来达到学习和识别的功能。而类脑学习算子也和脉冲神经网络原生的学习算子不同，类脑学习算子在全局信用分配、能耗降低和生物可解释性上都比原生的学习算子更加优越。

为了实现上述目的，本发明采用的技术方案是：

一种基于类脑学习的图像识别方法，其特征在于，包括如下步骤：

步骤1：对原始图片数据进行预处理得到输入向量；所述原始图片数据指训练脉冲神经网络所用的训练数据，其包括了图片和标签两个部分；

步骤1.1：将原始输入图片直接放入三层卷积神经网络中进行卷积处理，得到大小为24×24的处理后的图片；

步骤1.2：将处理后的图片送入三层卷积神经网络的池化层中进行池化处理，得到1×576的行向量，将该行向量作为输入向量。

步骤2：建立脉冲神经网络模型进行学习，所述脉冲神经网络模型包括输入层、类脑学习算子和输出层；先对所述输入向量进行脉冲时序编码得到脉冲神经网络的输入数据，再将所述输入数据输入到脉冲神经网络的输入层，然后通过类脑学习算子学习输入向量的特征，最后将脉冲神经网络的输出层最先激发的脉冲神经元作为网络识别的类别，经过多次训练学习后，得到最后的识别网络；

步骤2.1：构建两层脉冲神经网络，将步骤1得到的输入向量经过脉冲时序编码后作为脉冲神经网络的输入；

步骤2.2：利用类脑学习算子学习输入向量的特征，经过多轮训练学习后得到具有识别能力的脉冲神经网络。

步骤2.2.1：脉冲神经网络通过类脑学习算子调整权值进行更新，类脑学习算子通过选择动作a_t来实现权值调整，a_t∈A＝{-α_s,0,α_s},0<α_s<1，其中，α_s表示学习率。权值变化公式为公式1：

其中，

表示突触前一层的第i个神经元和突触后一层第j个神经元相连的突触k的权值；

步骤2.2.2：类脑学习算子通过奖励指导脉冲神经网络学习图片特征，奖励是根据前两个时间步的训练损失的变化来定义的，两个时间步中损失函数减少得到奖励，反之得到惩罚，定义为公式2：

其中，R_t表示奖励，sign(x)函数表示符号函数，即x>0，sign(x)＝1，x<0，sign(x)＝-1，L_t-1、L_t分别表示t时刻和t-1时刻的训练损失。

步骤2.2.3：在脉冲神经网络学习完图片特征后，需要验证脉冲神经网络的识别能力，通过输出层最先激活的神经元序号和图片的标签进行对比，若一致则表示网络已经学习到一张图片的特征，需要更多不同图片多次训练达到更好的效果；若不一致则进行下一步骤；

步骤2.2.4：通过策略加速类脑学习算子进行动作选择，达到更快学习图片特征的目的。类脑学习算子通过Q函数得到给定状态和动作的预期总回报，并选择使总回报最大时的动作，Q函数和策略π的数学表达为公式3和公式4：

Q(s_t,a)＝R_t+1+γmax_a′Q(s_t+1,a) 公式3

其中，s_t表示脉冲神经网络当前状态，a表示当前时刻类脑学习算子选择的动作，γ表示折扣率，max_a′Q(s_t+1,a)表示在t+1时刻Q函数取得最大值时候类脑学习算子选择的动作，π(s_t)表示在t时刻类脑学习算子的策略，argmax_a∈AQ(s_t,a)表示Q(s_t,a)取得最大值时动作a的取值，random-uniform(a∈A)表示从集合A中随机选择一个元素作为动作a。对于策略π的选择上，使用ε-greedy策略(ε-贪婪策略)扩大类脑学习算子的探索能力。

步骤2.2.5：重复步骤2.2.1-2.2.4，对网络进行多次训练学习，最终得到具有识别能力的脉冲神经网络。

步骤2.2.5.1：在通过步骤2.2.1-步骤2.2.4更新一次脉冲神经网络权值之前，计算得到网络的初始误差L_old；

步骤2.2.5.2：重复步骤2.2.1-2.2.4，更新所有网络权值参数，计算得到网络的更新误差L_new；

步骤2.2.5.3：计算L_old和L_new的差值，如果L_old<L_new说明网络误差在变大，是错误的变化方向，网络的学习没有收敛；如果L_old>L_new，说明网路误差在减小，是正确的变化方向，需要继续学习；直到两次学习后网络误差几乎不变，结束学习，完成训练。

步骤3：将待识别的原始图片数据进行预处理，用识别网络进行图片识别。

步骤3.1：将未知类别的图片数据先进行卷积神经网络的预处理，得到输入向量；

步骤3.2：利用ROC编码方式对输入向量进行脉冲时序编码，得到能作为具有识别能力的脉冲神经网络的时序数据；

步骤3.3：将时序数据输入具有识别能力的脉冲神经网络中，得到最先激发的神经元；

步骤3.4：和已经知道类别的时序数据进行对比，具有相同的最先激发神经元的为同一类图像，结束识别过程。

与现有技术相比，本发明的有益效果是：

1)、本发明利用类脑学习算子进行图像识别的学习过程，使得识别过程可以解释，补充了现有的图像识别方法在生物可解释性上的空白

2)、本发明利用脉冲神经网络进行图像识别，使得整个学习识别过程节约大量计算资源，降低能耗。

3)、本发明在构建智能体的状态空间时，将正确的标签也作为状态的一部分，因此本发明在图像识别任务的学习过程中可以更快地收敛，极大提高了任务效率。

4)、本发明作为一个模型迭代方法，具有普适性，可以在所有应用场景，所有脉冲神经网络模型中替换原有地模型迭代方法。同时，本发明的类脑强化学习算子也是可更换的，很多类脑学习算子都是可以使用到本发明中的，因此本发明能够在很多场景展现出卓越地性能。不论从简单地非线性二维决策，到手写数字数据识别，本发明的类脑学习方法都有很优秀的表现。

附图说明

图1是本发明结构示意图。

具体实施方式

下面结合附图和实施例详细说明本发明的实施方式。

如图1所示，一种基于类脑学习的图像识别方法，首先，构建卷积神经网络层对原始图片数据进行预处理，卷积神经网络包括三层，分别是输入层、卷积处理层和输出层。输入层接收原始图片数据，原始图片数据为元素表示像素值的方阵。而后，输入层将原始图片数据输入卷积处理层先进行卷积处理后进行池化处理。而后，输出层输出一个行向量，将这个行向量作为输入向量。至此，预处理结束。其次，将构建使用类脑学习算子的脉冲神经网络，脉冲神经网络包括三个结构，分别是输入层、类脑学习算子和输出层。先将输入向量进行脉冲时序编码，将编码后的输入向量输入输入层中，让输入层神经元产生脉冲序列。而后，脉冲序列通过不同突触以及突触权值在输出层脉冲神经元上累积，类脑学习算子引导权值变化，直到输出层最先激发的脉冲神经元和输入的原始图片是一类的。至此，基于类脑学习的脉冲神经网络完成了学习过程。最后，将学习完成的脉冲神经网络进行图像识别，直接将原始图片数据预处理后输入脉冲神经网络的输入层，通过输出层最先激活的神经元作为识别类别。

参考图1，以图像识别为例，本发明包括如下步骤：

步骤1：对原始图片数据进行预处理得到输入向量；所述原始图片数据指训练脉冲神经网络所用的训练数据，其包括了图片和标签两个部分；

步骤1.1：将原始输入图片直接放入三层卷积神经网络中进行卷积处理，得到大小为24×24的处理后的图片；

步骤1.2：将处理后的图片送入三层卷积神经网络的池化层中进行池化处理，得到1×576的行向量，将该行向量作为输入向量。

步骤2：建立脉冲神经网络模型进行学习，脉冲神经网络模型包括输入层、类脑学习算子和输出层三个部分。先对输入向量进行脉冲时序编码得到脉冲神经网络的输入数据，随后将输入数据输入到脉冲神经网络的输入层后通过类脑学习算子学习输入向量的特征，最后将脉冲神经网络的输出层最先激发的脉冲神经元作为网络识别的类别。经过多次训练学习后，得到最后的识别网络。

步骤2.1：构建两层脉冲神经网络模型，将步骤1得到的输入向量经过脉冲时序编码后作为脉冲神经网络的输入；

步骤2.2.1：脉冲神经网络通过类脑学习算子调整权值进行更新，类脑学习算子通过选择动作a_t来实现权值调整，a_t∈A＝{-α_s,0,α_s},0<α_s<1，其中，α_s表示学习率。权值变化公式为公式1：

其中，

表示突触前一层的第i个神经元和突触后一层第j个神经元相连的突触k的权值；

和

分别为

变化后和变化前的值；

步骤2.2.2：类脑学习算子通过奖励指导脉冲神经网络学习图片特征，奖励是根据前两个时间步的训练损失的变化来定义的，两个时间步中损失函数减少得到奖励，反之得到惩罚，定义为公式2：

其中，R_t表示奖励，sign(x)函数表示符号函数，即x>0，sign(x)＝1，x<0，sign(x)＝-1，L_t-1、L_t分别表示t时刻和t-1时刻的训练损失。

步骤2.2.3：在脉冲神经网络学习完图片特征后，需要验证脉冲神经网络的识别能力，通过输出层最先激活的神经元序号和图片的标签进行对比，若一致则表示网络已经学习到一张图片的特征，需要更多不同图片多次训练达到更好的效果；若不一致则进行下一步骤；

步骤2.2.4：通过策略加速类脑学习算子进行动作选择，达到更快学习图片特征的目的。类脑学习算子通过Q函数得到给定状态和动作的预期总回报，并选择使总回报最大时的动作，Q函数和策略π的数学表达为公式3和公式4：

Q(s_t,a)＝R_t+1+γmax_a′Q(s_t+1,a) 公式3

其中，s_t表示脉冲神经网络当前状态，a表示当前时刻类脑学习算子选择的动作，γ表示折扣率，max_a′Q(s_t+1,a)表示在t+1时刻Q函数取得最大值时候类脑学习算子选择的动作，π(s_t)表示在t时刻类脑学习算子的策略，argmax_a∈AQ(s_t,a)表示Q(s_t,a)取得最大值时动作a的取值，random-uniform(a∈A)表示从集合A中随机选择一个元素作为动作a。对于策略π的选择上，使用ε-greedy策略(ε-贪婪策略)扩大类脑学习算子的探索能力。

步骤2.2.5：重复步骤2.2.1-2.2.4，对网络进行多次训练学习，最终得到具有识别能力的脉冲神经网络。

步骤2.2.5.1：在通过步骤2.2.1-步骤2.2.4更新一次脉冲神经网络权值之前，计算得到网络的初始误差L_old；

步骤2.2.5.2：重复步骤2.2.1-2.2.4，更新所有网络权值参数，计算得到网络的更新误差L_new；

步骤2.2.5.3：计算L_old和L_new的差值，如果L_old<L_new说明网络误差在变大，是错误的变化方向，网络的学习没有收敛；如果L_old>L_new，说明网路误差在减小，是正确的变化方向，需要继续学习；直到两次学习后网络误差几乎不变，结束学习，完成训练。

步骤3：将待识别的原始图片数据进行预处理，用识别网络进行图片识别；

步骤3.1：将未知类别的图片数据先进行卷积神经网络的预处理，得到输入向量。

步骤3.2：利用ROC编码方式对输入向量进行脉冲时序编码，得到能作为具有识别能力的脉冲神经网络的时序数据。

步骤3.3：将时序数据输入具有识别能力的脉冲神经网络中，得到最先激发的神经元序号；

步骤3.4：利用最先激发的神经元序号，得到识别结果，完成识别过程。

步骤3.4：和已经知道类别的时序数据进行对比，具有相同的最先激发神经元的为同一类图像，完成手写数字的识别。

以下是本发明在识别手写数字0-9中的一个具体应用案例。将50000张0-9手写数字图片作为实验数据，通过带有类脑学习算子的脉冲神经网络进行图像识别，确认为止的手写数字图片具体所述的数字类别。

在该例中，每张手写数字图片的大小为28×28，将50000张带有数字标签的图片全部作为训练集，训练脉冲神经网络识别未知数字类别的图片。首先，构建卷积神经网络层对原始图片数据进行预处理，卷积神经网络包括三层，分别是输入层、卷积处理层和输出层。输入层接收原始图片数据，原始图片数据为元素表示像素值的28×28方阵。而后，输入层将原始图片数据输入卷积处理层先进行卷积处理后，得到24×24的方阵，再进行池化处理。而后，输出层输出一个1×576行向量，将这个行向量作为输入向量。随后，按照本发明所述的步骤2，将输入向量进行脉冲时序编码后送入脉冲神经网络中依靠类脑学习算子进行学习。下一步，按照步骤2.1所述构建三层脉冲神经网络进行学习。下一步，按照步骤2.2.1-2.2.5加速学习过程并提高网络识别的准确率。学习结束后，按照本发明的步骤3进行未知数字类别的手写数字图像识别。将未知数字类别的图片预处理后送入脉冲神经网络的输入层，输出层最先激发的神经元的序号就表示图像识别的结果。

同时，本发明还可以用于其他维度的数据，比如视频流数据，视频流数据包括了三个维度，图像、时间和音轨，比上述案例中的图像高了两个维度。可以先舍去音轨维度，利用图像和时间两个维度进行图像识别和时间对应，这样就可以对不同视频中的同一个人进行识别。

Claims (8)

1.一种基于类脑学习的图像识别方法，其特征在于，包括如下步骤：

步骤1：对原始图片数据进行预处理得到输入向量；所述原始图片数据指训练脉冲神经网络所用的训练数据，其包括了图片和标签两个部分；

步骤2：建立脉冲神经网络模型进行学习，所述脉冲神经网络模型包括输入层、类脑学习算子和输出层；先对所述输入向量进行脉冲时序编码得到脉冲神经网络的输入数据，再将所述输入数据输入到脉冲神经网络的输入层，然后通过类脑学习算子学习输入向量的特征，最后将脉冲神经网络的输出层最先激发的脉冲神经元作为网络识别的类别，经过多次训练学习后，得到最后的识别网络；

步骤3：将待识别的原始图片数据进行预处理，用识别网络进行图片识别。

2.根据权利要求1所述基于类脑学习的图像识别方法，其特征在于，所述步骤1具体包括以下步骤：

步骤1.1：将原始输入图片直接放入三层卷积神经网络中进行卷积处理，得到大小为24×24的处理后的图片；

步骤1.2：将处理后的图片送入三层卷积神经网络的池化层中进行池化处理，得到1×576的行向量，将该行向量作为输入向量。

3.根据权利要求1所述基于类脑学习的图像识别方法，其特征在于，所述步骤2具体包括以下步骤：

步骤2.1：构建两层脉冲神经网络，将步骤1得到的输入向量经过脉冲时序编码后作为脉冲神经网络的输入；

步骤2.2：利用类脑学习算子学习输入向量的特征，经过多轮训练学习后得到具有识别能力的脉冲神经网络。

4.根据权利要求3基于类脑学习的图像识别方法，其特征在于，所述步骤2.1，两层脉冲神经网络中，前一层为输入层，接受脉冲时序数据输入，后一层为输出层，将最先激发的神经元作为响应类别；所述脉冲时序编码的方法为ROC方法。

5.根据权利要求3基于类脑学习的图像识别方法，其特征在于，所述步骤2.2具体包括以下步骤：

步骤2.2.1：脉冲神经网络通过类脑学习算子调整权值进行更新，类脑学习算子通过选择动作a_t来实现权值调整，a_t∈A＝{-α_s,0,α_s},0<α_s<1，其中，α_s表示学习率，权值变化公式为公式1：

其中，

表示突触前一层的第i个神经元和突触后一层第j个神经元相连的突触k的权值；

和

分别为

变化后和变化前的值；

步骤2.2.2：类脑学习算子通过奖励指导脉冲神经网络学习图片特征，奖励是根据前两个时间步的训练损失的变化来定义的，两个时间步中损失函数减少得到奖励，反之得到惩罚，定义为公式2：

其中，R_t表示奖励，sign(x)函数表示符号函数，即x>0，sign(x)＝1，x<0，sign(x)＝-1，L_t-1、L_t分别表示t时刻和t-1时刻的训练损失；

步骤2.2.3：在脉冲神经网络学习完图片特征后，需要验证脉冲神经网络的识别能力，通过输出层最先激活的神经元序号和图片的标签进行对比，若一致则表示网络已经学习到一张图片的特征，需要更多不同图片多次训练达到更好的效果；若不一致则进行下一步骤；

步骤2.2.4：通过策略加速类脑学习算子进行动作选择，达到更快学习图片特征的目的；

步骤2.2.5：重复步骤2.2.1-2.2.4，对网络进行多次训练学习，最终得到具有识别能力的脉冲神经网络。

6.根据权利要求5基于类脑学习的图像识别方法，其特征在于，所述步骤2.2.4中，类脑学习算子通过Q函数得到给定状态和动作的预期总回报，并选择使总回报最大时的动作，Q函数和策略π的数学表达为公式3和公式4：

Q(s_t,a)＝R_t+1+γmax_a′Q(s_t+1,a) 公式3

其中，s_t表示脉冲神经网络当前状态，a表示当前时刻类脑学习算子选择的动作，γ表示折扣率，max_a′Q(s_t+1,a)表示在t+1时刻Q函数取得最大值时候类脑学习算子选择的动作，π(s_t)表示在t时刻类脑学习算子的策略，argmax_a∈AQ(s_t,a)表示Q(s_t,a)取得最大值时动作a的取值，random-uniform(a∈A)表示从集合A中随机选择一个元素作为动作a，对于策略π的选择上，使用ε-greedy策略(ε-贪婪策略)扩大类脑学习算子的探索能力。

7.根据权利要求5基于类脑学习的图像识别方法，其特征在于，所述步骤2.2.5，对网络进行多次训练学习，包括如下具体步骤：

步骤2.2.5.1：在通过步骤2.2.1-步骤2.2.4更新一次脉冲神经网络权值之前，计算得到网络的初始误差L_old；

步骤2.2.5.2：重复步骤2.2.1-2.2.4，更新所有网络权值参数，计算得到网络的更新误差L_new；

步骤2.2.5.3：计算L_old和L_new的差值，L_old和L_new分别表示网络初始误差和更新误差，如果L_old<L_new说明网络误差在变大，是错误的变化方向，网络的学习没有收敛；如果L_old>L_new，说明网路误差在减小，是正确的变化方向，需要继续学习；直到两次学习后网络误差几乎不变，结束学习，完成训练。

8.根据权利要求5基于类脑学习的图像识别方法，其特征在于，所述步骤3，用识别网络进行图片识别包括如下步骤：

步骤3.1：将未知类别的图片数据先进行卷积神经网络的预处理，得到输入向量；

步骤3.2：利用ROC编码方式对输入向量进行脉冲时序编码，得到能作为具有识别能力的脉冲神经网络的时序数据；

步骤3.3：将时序数据输入具有识别能力的脉冲神经网络中，得到最先激发的神经元；

步骤3.4：和已经知道类别的时序数据进行对比，具有相同的最先激发神经元的为同一类图像，结束识别过程。

Images