CN109102000B - 一种基于分层特征提取与多层脉冲神经网络的图像识别方法 - Google Patents

一种基于分层特征提取与多层脉冲神经网络的图像识别方法 Download PDF

Info

Publication number
CN109102000B
CN109102000B CN201810782122.9A CN201810782122A CN109102000B CN 109102000 B CN109102000 B CN 109102000B CN 201810782122 A CN201810782122 A CN 201810782122A CN 109102000 B CN109102000 B CN 109102000B
Authority
CN
China
Prior art keywords
layer
neural network
information
pulse
max
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810782122.9A
Other languages
English (en)
Other versions
CN109102000A (zh
Inventor
徐小良
卢文思
方启明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dianzi University
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN201810782122.9A priority Critical patent/CN109102000B/zh
Publication of CN109102000A publication Critical patent/CN109102000A/zh
Application granted granted Critical
Publication of CN109102000B publication Critical patent/CN109102000B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2136—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on sparsity criteria, e.g. with an overcomplete basis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Neurology (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于分层特征提取与多层脉冲神经网络的图像识别方法。本发明根据视觉皮层对视觉信息的处理方式，在HMAX模型基础上，引入稀疏特性与特征自主学习方法，使得层次化特征提取结果能合理保留有效信息，并通过基于STDP和反向传播算法的多层脉冲神经网络模型，实现对提取数据的训练与识别。并且采用相位编码作为层次化特征提取与多层脉冲神经网络连接的桥梁，有效地将像素信息转换为时间信息，提高识别精度。本发明的图像识别方法不仅满足生物特性并且具有良好的分类性能；在层次化特征提取过程中，将手工特征与自主学习特征结合，能更好地满足不同需求；同时利用多层脉冲神经网络进行识别分类，能有效处理复杂数据。

Description

一种基于分层特征提取与多层脉冲神经网络的图像识别方法
技术领域
本发明涉及脉冲神经网络领域，具体涉及一种基于分层特征提取与多层脉冲神经网络的图像识别方法。
背景技术
当前已有一系列计算模型用于模拟视觉信息在视觉皮层区域的输入输出关系。这些模型关注信息的表现形式、运动状态、颜色纹理等或是关注具体的功能，如对象识别、边界检测、动作识别等。虽然这些模型解释了视觉基础计算机制，却缺乏具有生物依据的解释性。为了模拟大脑视觉皮层对视觉信息处理的高效和低功耗特性，将生物神经网络应用于计算机视觉计算模型，以视觉***的生物原理为依托，构建一个具有生物拟态的计算模型是当前探索视觉***的研究重点。
在计算机视觉中，层次化视觉信息处理方式能够模拟视觉皮层中V1到V4区的处理过程：由点到线到面逐级抽象，还原成高级模型。正如深度学习当中，低层的Gabor滤波器能模拟V1区识别图像像素级局部特征的功能，在高级区域中会利用其他方式将低级特征组合成全局特征，形成复杂模式。但目前计算机对于视觉信息的编解码操作较为简单，如采用Gabor金字塔建立感受野模型，采用不同尺度的小方块来逼近视觉感受野。这些方式只适用于初级视觉皮层，对于处理高级视觉皮层之间信息的联系依然不够深入。同时目前对视觉信息的层次化处理方式依旧存在着计算量大、耗时长的缺陷。
脉冲神经网络属于第三代神经网络模型，实现了更高级的生物神经模拟水平。作为生物神经网络的代表，脉冲神经网络以膜电压升降产生的脉冲实现神经元之间的通信机制，而非人工神经网络中的数值运算。因此，与传统人工神经网络相比，脉冲神经网络更能够模仿生物神经元之间的连接与通信，能够进行复杂的时空信息处理。脉冲神经网络能通过对神经元建模，利用监督学习、非监督学习、强化学习等方式对网络进行训练，形成一些具体的应用功能。但对于脉冲神经网络的研究，尤其是对多层脉冲神经网络的研究，仍然面临很大困难，主要原因是在脉冲神经网络中脉冲发放不连续，导致反向传播困难，不利于网络层级之间权重的调整。
发明内容
本发明的主要目的在于能够通过层次化信息处理与脉冲神经网络结合，构建一个具有神经拟态的图像识别方法。同时在层次化信息处理过程中添加稀疏特性从而达到降低计算量的目的。利用概率方式解决多层脉冲神经网络中脉冲发放不连续，导致反馈困难的问题。其具体内容如下：
1层次化视觉信息处理
对视觉信息进行层次化建模，能够提取到更加高级的特征。HMAX以S层(simplecells)和C层(complex cells)交替的形式构建层次化模型。在HMAX基础上，本发明加入稀疏特性对其进行改进。
1.1 S1、C1层实现选择性与不变性
在HMAX模型当中，根据初级视觉皮层(V1)区域的细胞对视野内的边缘信息敏感的特性，在S1层利用Gabor滤波器实现边缘信息的提取。为了简化操作，本发明利用4个方向及2个尺度的Gabor滤波器组对输入图像进行滤波，得到8个响应图(response map)。采用的Gabor滤波器的公式为：
Figure BDA0001732870590000021
s.t.x0＝x cosθ+y sinθ
and y0＝-x sinθ+y cosθ
其中σ表示相位偏移，γ表示长宽比，λ表示波长，θ表示方向。在本发明中所选择的4个方向为(0°，45°，90°，135°)，选择的两个尺度(滤波器大小)则根据需要处理的图像大小确定。
图像在经过S1层实现了边缘信息的选择后，在C1层则利用Max-Pooling方法在同个方向的响应图内按滑动窗口大小求窗口内响应的最大值，然后在两个不同尺度的最大值图上，对各自对应的像素再求一次最大值。利用这两步操作得到空间相邻和尺度相邻的最大值图，得到具有不变性的响应，同时达到数据降维的目的。
1.2 S2、C2层实现稀疏性以及自主学习
为了在S2层中能提取更多的图像信息以及不局限于提取边缘信息，在C1的结果图上采用FastICA对其进行学习，且满足了稀疏编码的特性。稀疏编码的代价函数为
SC＝AS
Figure BDA0001732870590000031
Figure BDA0001732870590000032
其中SC表示输入向量，A表示系数矩阵，S表示基向量矩阵，λ为常数。a和s分别是矩阵A和矩阵S当中的元素，||·||F表示Forbenius范式。根据FastICA算法，可将代价函数转换为
Figure BDA0001732870590000033
为了简化计算，假定A为可逆矩阵，则W＝A-1。
Figure BDA0001732870590000034
表示W当中第j行，sci表示SC当中第i列，fj(·)表示稀疏概率分布函数。
利用FastICA算法以及上述代价函数迭代计算出S2层的结果后，在C2层利用Max-Pooling将经过FastICA处理等到的线性特征转换成非线性特征，具体表示为
C2(xi,yj)＝max S2(xi,...i+m-1,yi,...,i+m-1)
其中m表示滑动窗口的大小。在C1层采用的Max-Pooling操作滑动窗口在移动过程中有m/2的窗口重叠，而在C2层的Max-Pooling当中移动过程窗口无重叠。
2像素信息到时间信息的转换
本发明将相位编码作为连接层次化特征信息与脉冲神经网络的桥梁。该编码采用两种类型的编码神经元，分别是兴奋性(excitatory)编码神经元和抑制性(inhibitory)编码神经元。根据像素值信息以及相应的位置信息，像素被判断为是激活状态还是抑制状态，其所对应的神经元利用规则将像素信息编码成对应的时间信息，具体规则如下
step1:
Figure BDA0001732870590000041
xi∈jth encoding neuron
step2:if ti>tmax
ti＝ti-tmax
step3:
Figure BDA0001732870590000042
其中xi表示图像当中第i个像素，ti表示第i个像素对应的时间，tmax表示时间窗口，t_step表示时间间隔，jth表示第j类编码神经元，n表示编码神经元类别数。step3实现了编码后的时间信息与脉冲神经网络中输入神经元之间的映射，其中k表示第i个输入神经元包含了k个时间脉冲序列。该编码过程类似于动作电位的周期震荡，具有周期性。
3利用多层脉冲神经网络进行训练学习
在本发明中，为了构造一个具有生物特性的图像识别方法，采用多层脉冲神经网络作为分类学习器。该多层脉冲神经网络以概率方法解决了层级之间权重调整的问题，构建的输入层-隐含层、隐含层-输出层的函数如下
Figure BDA0001732870590000043
Figure BDA0001732870590000044
其中x表示输入的时间序列，y表示隐含层输出的脉冲序列，zo表示输出层输出的脉冲序列，zref表示输出层的目标脉冲序列，T为学习周期。
Figure BDA0001732870590000048
为脉冲序列q的形式化表示，具体形式为
Figure BDA0001732870590000045
Figure BDA0001732870590000046
Figure BDA0001732870590000047
其中tf表示第f个脉冲发放的时间。ρ为噪声逃逸率(escape noise)，表示了膜电压大于阈值会产生脉冲的概率强度，其表达式为
Figure BDA0001732870590000052
u表示膜电压，
Figure BDA0001732870590000053
表示阈值电压。多层脉冲神经网络的简要训练过程如下
Figure BDA0001732870590000051
其中Θ表示脉冲序列作用于神经元，使其产生电压的核函数。经过多层脉冲神经网络的训练和学习，最后利用vRD(van Rossum Distance)指标进行类别判定，实际输出脉冲序列与最接近的目标脉冲序列归为同一类。
与现有技术相比，本发明有如下优点：
本发明受到生物视觉***对视觉信息处理方式的启发，将层次化特征处理与多层脉冲神经网络相结合，构造了一个具有生物启发性的图像识别方法。一方面，在层次化特征提取部分，利用FastICA实现稀疏性，并且不同于S1层的处理方式，该方法使得C1层到S2层的处理不受手工特征的限制，能够自主学习特征。并且利用C2层的最大池化操作将提取的线性特征转换为非线性特征，更符合实际的视觉信息处理。另一方面，利用多层脉冲神经网络作为实现图像分类功能的分类器，使得整个识别方法更具生物特性。在脉冲神经网络当中以概率方法构建目标函数，从而能够采用STDP算法和反向传播算法进行多层权值的调整，从而提高了网络计算能力。
附图说明
图1是本发明方法总体流程图；
图2是层次化特征提取的整体结构图；
图3是相位编码策略的概念图；
图4是采用多层脉冲神经网络进行学习，输入层、隐藏层、输出层以及采用Adam方法对学习进行优化的结果图。
具体实施方式
下面结合附图对本发明进一步说明。
图1至图4分别展示了整个图像识别过程的每个阶段，该过程可分为3个步骤，具体内容如下：
步骤1层次化特征提取
其中图2描述了层次化特征提取的整体过程。在这个过程当中采用了一个四层的模型，分别是S1层、C1层、S2层和C2层，这里所涉及的参数值大小主要针对MNIST数据集，其中各层的具体操作如下：
1.1S1层：Gabor滤波对边缘信息的提取
初级视觉皮层区域的细胞对边缘信息具有强烈敏感性，而Gabor滤波器的频率和方向表达被认为与人类视觉***相似，因此在这一步骤中使用二维的Gabor滤波模拟simple cells的感受野情况。采用4个方向及2个尺度的Gabor滤波器组对输入图像进行滤波，得到8个响应图(response map)。采用的Gabor滤波的核函数为：
Figure BDA0001732870590000061
s.t.x0＝x cosθ+y sinθ
and y0＝-x sinθ+y cosθ
其中λ表示波长，σ表示相位偏移，γ表示长宽比，取值分别3.5,0.3,0.8λ。θ表示方向，在本发明中所选择的4个方向为(0°，45°，90°，135°)，选择的两个尺度(滤波器大小)分别是5×5和7×7。
1.2C1层：Max-Pooling操作
在经过S1层实现了边缘信息的选择后，获得两个尺度四个方向的响应图。C1层先采用Max-Pooling在同个方向不同尺度的响应图上取各个像素的最大值，即求“尺度相邻”意义下的最值。再在这个结果上根据滑动窗口大小，取在该窗口内响应的最大值，即求“空间相邻”意义下的最值，其中该窗口的每次移动都有1/2窗口重叠。通过S1层和C1层的组合，得到具有选择性和不变性的响应，同时达到数据降维的目的。
1.3 S2层：利用FastICA自主学习特征
在S2层采用FastICA的操作是因为它既满足了稀疏性又能够自主学习特征，与S1层的手工特征能很好的结合。在稀疏编码中，代价函数为
SC＝AS
Figure BDA0001732870590000071
Figure BDA0001732870590000072
根据FastICA算法，将代价函数转换为
Figure BDA0001732870590000073
FastICA算法迭代地求出一组W值后，根据需求将W当中的基向量从大到小排列。在本发明中选择前6个基向量作为特征模板对C1结果进行处理，最终C1的每个结果得到相应的6个响应图。
1.4 C2层：Max-Pooling
C2层的操作同C1层操作相似，将S2层得到的6个响应图拼接成一张大图，在这个大图上，在滑动窗口内求空间相邻的像素最大值，其中C2层采用的滑动窗口在滑动过程当中窗口不重叠。
步骤2利用脉冲编码将像素信息转换成时间信息
该编码策略采用两种类型的编码神经元，分别是兴奋性(excitatory)编码神经元和抑制性(inhibitory)编码神经元。根据像素值信息以及相应的位置信息，像素被判断为是激活状态还是抑制状态。每个像素都对应着一个编码神经元，根据一定规则将像素信息编码成对应的时间信息。该规则涉及三个步骤，分别是在周期震荡函数上进行编码，微调时间信息为t_step的倍数以及将时间信息按一定规律映射到输入神经元上，使得每个输入神经元对应一个脉冲序列。具体过程如下
step1:
Figure BDA0001732870590000081
xi∈jth encoding neuron
step2:if ti>tmax
ti＝ti-tmax
step3:
Figure BDA0001732870590000082
其中tmax＝500ms，t_setp＝1ms，n＝2，Input neurons＝220。
步骤3利用多层脉冲神经网络进行训练学习
为了提高脉冲神经网络的分类性能，本发明选择一个多层学习算法。该算法以概率方法构建输入层-隐含层、隐含层-输出层的函数：
Figure BDA0001732870590000083
Figure BDA0001732870590000084
在该方法中设置阈值电压Vthr＝15mV，每次产生脉冲重置电压的变化量为Vrest＝-15mV，设置不同层的逃逸率为Δuh＝0.5mV，Δuo＝5mV。膜时间常数和突触时间常数分别设置为10和5。用随机生成的泊松脉冲序列验证该算法的性能，结果如图4所示。可见原先散乱分布的脉冲，在经过隐含层和输出层的训练学习之后，逐渐能在设定的目标脉冲序列的周围产生脉冲。在最后的分类判定中，使用vRD(van Rossum Distance)指标判断实际输出脉冲序列与目标脉冲序列的距离，取距离小者为对应类别。简要的算法描述如下：
Figure BDA0001732870590000091
STDP根据实际输出脉冲与目标脉冲之间的误差计算权值变化量。再根据反向传播方法，使得在计算出输出层的权值变化量后，隐含层也能作相应的变化。在step2当中使用Adam算法调整学习率，从3(d)图中可以看出调整学习率后，实际输出的脉冲序列与目标脉冲序列的距离更加接近。

Claims (1)

1.一种基于分层特征提取与多层脉冲神经网络的图像识别方法，其特征在于该方法包括以下步骤：
步骤1.层次化视觉信息处理
步骤1.1.S1、C1层实现选择性与不变性
在S1层利用Gabor滤波器实现边缘信息的提取，主要操作是利用四个方向及两个尺度的Gabor滤波器组对输入图像进行滤波，得到八个响应图，采用的Gabor滤波器的公式为：
Figure FDA0003111503480000011
s.t.x0＝x cosθ+y sinθ
and y0＝-x sinθ+y cosθ
其中σ表示相位偏移，γ表示长宽比，λ表示波长，θ表示方向所选择的四个方向为0°，45°，90°，135°，选择的两个尺度则根据需要处理的图像大小确定；
图像在经过S1层实现边缘信息选择后，在C1层则利用Max-Pooling方法在同个方向的响应图内按滑动窗口大小求窗口内响应的最大值，然后在两个不同尺度的最大值图上，对各自对应的像素再求一次最大值；利用这两步操作得到空间相邻和尺度相邻的最大值图，得到具有不变性的响应，同时达到数据降维的目的；
步骤1.2.S2、C2层实现稀疏性以及自主学习
为了在S2层中能提取更多的图像信息以及不局限于提取边缘信息，在C1层的结果图上采用FastICA算法对其进行学习，且满足稀疏编码特性；稀疏编码的代价函数为
SC＝AS
Figure FDA0003111503480000012
Figure FDA0003111503480000013
其中SC表示输入向量，A表示系数矩阵，S表示基向量矩阵，λ为常数；a和s分别是矩阵A和矩阵S当中的元素，||·||F表示Forbenius范式；
根据FastICA算法，将代价函数转换为
Figure FDA0003111503480000021
A为可逆矩阵，W可表示为W＝A-1；
Figure FDA0003111503480000022
表示W当中第j行，sci表示SC当中第i列，fj(·)表示稀疏概率分布函数；
利用FastICA算法以及上述代价函数迭代计算出S2层的结果后，在C2层利用Max-Pooling将经过FastICA算法处理得到的线性特征转换成非线性特征，具体表示为
C2(xi,yj)＝max S2(xi,...i+m-1,yi,...,i+m-1)
其中m表示滑动窗口大小；在C1层采用的Max-Pooling操作滑动窗口在移动过程中有m/2的窗口重叠，而在C2层的Max-Pooling当中移动过程窗口无重叠；
步骤2.像素信息到时间信息的转换
将相位编码作为连接层次化特征信息与脉冲神经网络的桥梁；该编码采用两种类型的编码神经元，分别是兴奋性编码神经元和抑制性编码神经元；根据像素值信息以及相应的位置信息，像素被判断为是激活状态还是抑制状态，其所对应的神经元利用规则将像素信息编码成对应的时间信息，具体过程如下
step1:
Figure FDA0003111503480000023
step2:if ti>tmax
ti＝ti-tmax
step3:
Figure FDA0003111503480000024
其中xi表示图像当中第i个像素，ti表示第i个像素对应的时间，tmax表示时间窗口，t_step表示时间间隔，jth表示第j类编码神经元，n表示编码神经元类别数；step3实现了编码后的时间信息与脉冲神经网络中输入神经元之间的映射，其中k表示第i个输入神经元包含了k个时间脉冲序列；该编码过程类似于动作电位的周期震荡，具有周期性；
步骤3.利用多层脉冲神经网络进行训练学习
采用多层脉冲神经网络作为分类学习器，构建的输入层-隐含层、隐含层-输出层的目标函数如下
Figure FDA0003111503480000031
Figure FDA0003111503480000032
其中x表示输入的时间序列，y表示隐含层输出的脉冲序列，zo表示输出层输出的脉冲序列，zref表示输出层的目标脉冲序列，T为学习周期；
Figure FDA0003111503480000033
为脉冲序列q的形式化表示，具体形式为
Figure FDA0003111503480000034
Figure FDA0003111503480000035
Figure FDA0003111503480000036
其中tf表示第f个脉冲发放的时间；ρ为噪声逃逸率，表示膜电压大于阈值会产生脉冲的概率强度；
多层脉冲神经网络的简要训练过程如下：
输入脉冲在神经元的作用下，转换成动作电位在神经元之间传递，并且通过层与层之间的权值连接产生不同的强弱作用；最终根据输出层神经元产生脉冲的概率强度生成相应的输出脉冲；为了使输出脉冲序列接近目标脉冲序列，根据定义的目标函数，求解令隐含层-输出层目标函数有最大似然值的权值W；隐含层-输出层权值的调整导致输入层-隐含层权值也需做相应的调整，根据权值的链式求导，求得输入层-隐含层权值调整值；两层的权值调整值如下：
Figure FDA0003111503480000037
Figure FDA0003111503480000038
其中Δwhi，Δwoh分别表示输入层-隐含层，隐含层-输出层的权值调整值，Θ表示脉冲序列作用于神经元，使其产生电压的核函数；为了提高计算效率以及使权值调整更具生物性，隐含层-输出层的权值调整利用STDP算法进行优化；η表示学习率，为了更有效的调整权值，采用Adam算法对学习率进行优化；每轮计算后，投入到下一轮进行计算的权值为：
W←W+η·Δw
最后利用vRD指标判断实际输出脉冲序列与目标脉冲序列之间距离收敛或者训练周期结束来停止对网络的训练；在类别判定过程中，利用求得的权值以及vRD指标进行分类；实际输出脉冲序列与vRD最小值所对应的目标脉冲序列归为同一类。
CN201810782122.9A 2018-09-05 2018-09-05 一种基于分层特征提取与多层脉冲神经网络的图像识别方法 Active CN109102000B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810782122.9A CN109102000B (zh) 2018-09-05 2018-09-05 一种基于分层特征提取与多层脉冲神经网络的图像识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810782122.9A CN109102000B (zh) 2018-09-05 2018-09-05 一种基于分层特征提取与多层脉冲神经网络的图像识别方法

Publications (2)

Publication Number Publication Date
CN109102000A CN109102000A (zh) 2018-12-28
CN109102000B true CN109102000B (zh) 2021-09-07

Family

ID=64846417

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810782122.9A Active CN109102000B (zh) 2018-09-05 2018-09-05 一种基于分层特征提取与多层脉冲神经网络的图像识别方法

Country Status (1)

Country Link
CN (1) CN109102000B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109803096B (zh) * 2019-01-11 2020-08-25 北京大学 一种基于脉冲信号的显示方法和***
US11228758B2 (en) 2016-01-22 2022-01-18 Peking University Imaging method and device
CN110210563B (zh) * 2019-06-04 2021-04-30 北京大学 基于Spike cube SNN的图像脉冲数据时空信息学习及识别方法
CN110659666B (zh) * 2019-08-06 2022-05-13 广东工业大学 一种基于相互作用的多层脉冲神经网络的图像分类方法
CN112784976A (zh) * 2021-01-15 2021-05-11 中山大学 一种基于脉冲神经网络的图像识别***及方法
CN113111758B (zh) * 2021-04-06 2024-01-12 中山大学 一种基于脉冲神经网络的sar图像舰船目标识别方法
CN113313919B (zh) * 2021-05-26 2022-12-06 中国工商银行股份有限公司 使用多层前馈网络模型的报警方法、装置及电子设备
CN115171221B (zh) * 2022-09-06 2022-12-06 上海齐感电子信息科技有限公司 动作识别方法及动作识别***
CN115545190B (zh) * 2022-12-01 2023-02-03 四川轻化工大学 一种基于概率计算的脉冲神经网络及其实现方法
CN115841142B (zh) * 2023-02-20 2023-06-06 鹏城实验室 基于深度脉冲神经网络的视觉皮层模拟方法及相关设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103235937A (zh) * 2013-04-27 2013-08-07 武汉大学 一种基于脉冲耦合神经网络的交通标志识别方法
CN105760930A (zh) * 2016-02-18 2016-07-13 天津大学 用于aer的多层脉冲神经网络识别***
CN106845541A (zh) * 2017-01-17 2017-06-13 杭州电子科技大学 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法
CN107092959A (zh) * 2017-04-07 2017-08-25 武汉大学 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型
CN107194426A (zh) * 2017-05-23 2017-09-22 电子科技大学 一种基于Spiking神经网络的图像识别方法
CN108304912A (zh) * 2017-12-29 2018-07-20 北京理工大学 一种运用抑制信号实现脉冲神经网络监督学习的***和方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103235937A (zh) * 2013-04-27 2013-08-07 武汉大学 一种基于脉冲耦合神经网络的交通标志识别方法
CN105760930A (zh) * 2016-02-18 2016-07-13 天津大学 用于aer的多层脉冲神经网络识别***
CN106845541A (zh) * 2017-01-17 2017-06-13 杭州电子科技大学 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法
CN107092959A (zh) * 2017-04-07 2017-08-25 武汉大学 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型
CN107194426A (zh) * 2017-05-23 2017-09-22 电子科技大学 一种基于Spiking神经网络的图像识别方法
CN108304912A (zh) * 2017-12-29 2018-07-20 北京理工大学 一种运用抑制信号实现脉冲神经网络监督学习的***和方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"Visual Pattern Recognition Using Enhanced Visual Features and PSD-Based Learning Rule";X.Xu等;《IEEE Transactions on Cognitive and Developmental Systems》;20171102;第10卷(第2期);第205-212页 *
"基于视觉分层的前馈多脉冲神经网络算法研究";金昕;《万方数据库》;20180831;第2-5章 *
X.Xu等."A hierarchical visual recognition model with precise-spike-driven synaptic plasticity" .《2016 IEEE Symposium Series on Computational Intelligence》.2017,第1-7页. *

Also Published As

Publication number Publication date
CN109102000A (zh) 2018-12-28

Similar Documents

Publication Publication Date Title
CN109102000B (zh) 一种基于分层特征提取与多层脉冲神经网络的图像识别方法
Gamboa Deep learning for time-series analysis
Qin et al. A dual-stage attention-based recurrent neural network for time series prediction
Kuremoto et al. Time series forecasting using a deep belief network with restricted Boltzmann machines
CN111858989A (zh) 一种基于注意力机制的脉冲卷积神经网络的图像分类方法
Khodayar et al. Robust deep neural network for wind speed prediction
Khalifa et al. Particle swarm optimization for deep learning of convolution neural network
CN108304912B (zh) 一种运用抑制信号实现脉冲神经网络监督学习的***和方法
CN114186672A (zh) 一种用于脉冲神经网络的高效高精度训练算法
Kim et al. Building deep random ferns without backpropagation
Sellat et al. Semantic segmentation for self-driving cars using deep learning: a survey
CN111967567A (zh) 具有求解半定规划的层的神经网络
Gao et al. Road Traffic Freight Volume Forecast Using Support Vector Machine Combining Forecasting.
CN111310816A (zh) 基于无监督匹配追踪编码的仿脑架构图像识别方法
Saleem et al. Optimizing Steering Angle Predictive Convolutional Neural Network for Autonomous Car.
Zhang et al. Deep Learning for EEG-Based Brain–Computer Interfaces: Representations, Algorithms and Applications
Chen Neural networks in pattern recognition and their applications
Paudel et al. Resiliency of SNN on black-box adversarial attacks
CN115546556A (zh) 用于图像分类的脉冲神经网络的训练方法
Murtagh Neural networks and related'massively parallel'methods for statistics: A short overview
Zhang et al. A fast evolutionary knowledge transfer search for multiscale deep neural architecture
Desai et al. A deep dive into deep learning
Prasad et al. Comparative study and utilization of best deep learning algorithms for the image processing
Krishna et al. Hybridizing teaching learning based optimization with genetic algorithm for colour image segmentation
Mohapatra et al. SpikiLi: A Spiking Simulation of Lidar based Object Detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant