CN110837776A - 一种基于stdp的脉冲神经网络手写汉字识别方法 - Google Patents
一种基于stdp的脉冲神经网络手写汉字识别方法 Download PDFInfo
- Publication number
- CN110837776A CN110837776A CN201910954627.3A CN201910954627A CN110837776A CN 110837776 A CN110837776 A CN 110837776A CN 201910954627 A CN201910954627 A CN 201910954627A CN 110837776 A CN110837776 A CN 110837776A
- Authority
- CN
- China
- Prior art keywords
- neuron
- pulse
- neurons
- neural network
- stdp
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 36
- 238000000034 method Methods 0.000 title claims abstract description 27
- 210000002569 neuron Anatomy 0.000 claims abstract description 81
- 239000012528 membrane Substances 0.000 claims abstract description 20
- 238000012549 training Methods 0.000 claims abstract description 15
- 230000001242 postsynaptic effect Effects 0.000 claims abstract description 10
- 230000003518 presynaptic effect Effects 0.000 claims abstract description 10
- 230000008859 change Effects 0.000 claims abstract description 8
- 230000008569 process Effects 0.000 claims abstract description 8
- 230000000946 synaptic effect Effects 0.000 claims abstract description 6
- 238000007781 pre-processing Methods 0.000 claims abstract description 4
- 230000002401 inhibitory effect Effects 0.000 claims description 26
- 210000000225 synapse Anatomy 0.000 claims description 20
- 230000002964 excitative effect Effects 0.000 claims description 18
- 230000005284 excitation Effects 0.000 claims description 11
- 230000000284 resting effect Effects 0.000 claims description 10
- 230000005764 inhibitory process Effects 0.000 claims description 8
- 210000005215 presynaptic neuron Anatomy 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 7
- 210000002364 input neuron Anatomy 0.000 claims description 7
- 230000001537 neural effect Effects 0.000 claims description 6
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 claims description 6
- 230000036279 refractory period Effects 0.000 claims description 4
- 230000036749 excitatory postsynaptic potential Effects 0.000 claims description 3
- 230000003068 static effect Effects 0.000 claims description 3
- 230000007246 mechanism Effects 0.000 abstract description 5
- 210000001320 hippocampus Anatomy 0.000 abstract description 2
- 210000001176 projection neuron Anatomy 0.000 abstract description 2
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 241000238371 Sepiidae Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 210000003050 axon Anatomy 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010304 firing Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000013138 pruning Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 238000012421 spiking Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/32—Digital ink
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Character Discrimination (AREA)
Abstract
本发明涉及一种基于STDP的脉冲神经网络手写汉字识别方法，所述方法包括以下步骤：S1：下载离线数据集，即离线手写汉字数据集；S2：对离线数据集做预处理：对数据集中的每张图片进行归一化处理；S3：确定用于训练的神经元数目；S4：构建网络结构；S5：对神经网络中的每一个像素进行脉冲编码；S6：确定神经元模型；S7：采用STDP的学习规律对神经元模型进行学习；S8：将数据集依次放入网络进行训练，迭代3次后，完成脉冲神经网络的训练；本发明所述识别方法可提高手写汉子识别的效率。本发明采用的STDP学习机制最早存在海马体的锥体神经元中，突触前后脉冲发放的相对时序将诱导不同的突触变化过程，从而影响神经元的膜电位。
Description
技术领域
本发明涉及图像识别技术领域，更具体地，涉及一种基于STDP的脉冲神经网络手写汉字识别方法。
背景技术
长期以来，手写汉字识别(Handwritten Chinese Character Recognition,HCCR)问题引起了人们的广泛关注和研究，并在各种应用中发挥着重要作用。如银行支票识别、邮件自动分拣、文件数字化、智能教育等。以往的手写汉字识别工作可分为不同类型，包括数字、英文字符、中文字符、法文字符等识别任务。HCCR问题已被广泛研究了40多年，并可进一步分为两类:在线识别和离线识别。在线识别器使用笔的数字化轨迹来识别书写过程中的字符，而离线识别则处理先前手写字符的扫描图像。通常情况下，在线识别任务比离线识别任务更容易，因为有大量的数字化跟踪信息可用来训练模型。然而，离线识别有更广泛的应用，例如，自动分类邮件和编辑旧文件。
近年来，有很多研究工作和比赛致力于汉字离线识别，伴随着计算能力的飞速增长、训练数据的海量积累以及非线性激活函数的不断完善，深度卷积神经网络在许多计算机视觉任务中都取得了显著的进步。在手写汉字识别中也取得很好的结果。然而，深度卷积神经网络总是伴随着数十亿的参数和乘法累加。如此巨大的计算成本和存储需求仍然阻碍了CNN模型在实际应用上的发展。在手写汉字中，一般的的模型都需要训练上亿个参数，并且训练时间长，耗能高，不能在日常生活中得到运用。虽然多位研究者通过对手写汉字识别的网络进行剪枝、权值量化和网络结构优化，但也无法在不丢失大量精度的情况下将参数的数量级降至百万级别以下。如何做到高效率，存储小且适用于硬件，这些都是目前手写汉字识别所要解决的问题。
脉冲神经网络由于其在模式识别、图像处理、计算机视觉等方面展现出惊人的生物相似性和强大的计算能力。在图像识别中，只有当膜电位达到阈值时神经元才会被激活，并且不需要设置大量的标签和调整大量的参数，所以其低能耗和高效率的特性成为当代研究者重点关注技术之一。同时脉冲神经网络与现场可编程门列阵(FPGA)的集成电路上有着很好的契合，为脉冲神经网络在硬件上提供了低功耗，体积小，高速并行处理的硬件模型。在脉冲神经网络中，神经元以脉冲序列形式进行信息传播，STDP学***衡。利用STDP学习规律，可以对脉冲神经网络进行训练。
发明内容
本发明为克服上述现有技术所述的手写汉子识别效率低的缺陷，提供一种基于STDP的脉冲神经网络手写汉字识别方法。
所述方法包括以下步骤：
S1：下载离线数据集，即离线手写汉字数据集；
S2：对离线数据集做预处理：对数据集中的每张图片进行归一化处理；
S3：确定用于训练的神经元数目；
S4：构建网络结构；
S5：对神经网络中的每一个像素进行脉冲编码；
S6：确定神经元模型；即采用漏电Integrate-and-fire模型(Leaky Integrate-and-fire，LIF)作为神经元模型；
S7：采用STDP的学习规律对神经元模型进行学习；
S8：将数据集依次放入网络进行训练，迭代3次后，完成脉冲神经网络的训练；
优选地，S3具体为：在离线数据集中，将N类标签{z1,z2,…zn},每类标签采用ISODATA无监督学习进行相似性聚类，在聚类后，每种标签聚类后的数量为M＝{Mi；i＝1,2,…,N},总的聚类数量S。
优选地，IOSDATA相似性聚类算法包括以下步骤：S3.1：初始化参数，包括预期的聚类中心数目、每一聚类域中最少的样本数目、一个聚类域中样本距离分布的标准差；
S3.2：进行近邻聚类，计算聚类中心、均值；
S3.3：判定是否满足预期指标，若不满足预期则进行***计算，***计算后返回S3.2，若满足预期且满足合并条件则进行合并运算，合并预算后输出结果。在聚类后，每种标签聚类后的数量为M＝{Mi；i＝1,2,…,N},总的聚类数量为S。
优选地，S4具体为：第一层为输入层，输入神经元数量设置为64*64；第二层为兴奋层，兴奋性的神经元数量设置为S；第三层为抑制层，抑制性的神经元数量设置为S；将输入层的神经元与兴奋层的神经元全连接，兴奋层的神经元与抑制层的神经元一对一连接，抑制层的神经元反向抑制全部兴奋层的神经元。
优选地，S5中由于每一个像素对应每一个输入神经元，故脉冲编码具体为：设置以350ms为一周期，每一个像素编码成服从泊松分布的脉冲序列，脉冲发射率与输入图像中相应像素的强度成正比。
优选地，S6中Integrate-and-fire模型(Leaky Integrate-and-fire,LIF)的膜电位V的变化过程由下面的一阶微分方程描述：
其中Erest为静膜电位，Eexc和Einh为兴奋性突触和抑制性突触的平衡电位，ge和gi分别为兴奋性突触和抑制性突触的电导；τ为时间常数(兴奋性神经元的周期长于抑制性神经元)；
Vthresh_e为兴奋性神经元阈值Vrest_e为兴奋性神经元静息电位，Vthresh_i为抑制性神经元阈值Vrest_i为抑制性神经元静息电位，分别可以表示为：
当神经元的膜电位超过膜阈值Vthres时，神经元发射脉冲并且膜电位恢复至静息电位Vrest，在复位后的几毫秒内，神经元处于不应期，不会再产生脉冲；
若突触前神经元是兴奋性神经元，其电导率ge的一阶公式：
这里的时间常数τge是兴奋性突触后电位，相同地，如果突触前神经元是抑制性神经元，电导gi的更新也使用相同地方程，但抑制性突触后的时间常数为τgi可以表示为：
优选地，S7具体为：
记录每个突触权值，并记录每个突触前的迹Xpre，每当突触前的脉冲到达突触时，迹就会增加1，否则Xpre呈指数衰减；当突触后脉冲到达突触时，根据突触前的迹计算出权值变化Δw：
Δw＝η(xpre-xtar)(wmax-w)μ
η是学习速率，wmax是最大权值，μ确定对先前权重的依赖性。并确定更新对之前的权值的依赖。xtar是当突触后神经元生成脉冲时记录当前xpre的值。
与现有技术相比，本发明技术方案的有益效果是：
(1)脉冲神经网络的结构模型对比传统的卷积神经网络相比，模型简单，占用的内存小，训练与识别的速度快。如传统的HCCR-GoogLeNet-Ensemble-10汉字识别模型，需要占用270.0MB，而本文的脉冲神经网络的结构模型仅占用约35MB。
(2)脉冲神经网络对比传统的卷积神经网络更具有生物可塑性，脉冲神经网络是由更具生物可解释性的脉冲神经元模型为基本单元构成，被称为第三代神经网络的脉冲神经网络是今后人工智能发展研究的重点关注技术之一，Hodgkin等人通过对乌贼轴突进行分析与建模提出了Hodgkin-Huxley高维度非线性神经元模型，本文采用途的LIF模型根据Hodgkin-Huxley神经元模型简化而成。本发明采用的STDP学习机制最早存在海马体的锥体神经元中，突触前后脉冲发放的相对时序将诱导不同的突触变化过程，从而影响神经元的膜电位。本发明采用的脉冲神经元模型与学习方法对比传统的人工神经网络更符号生物学上的特性。
附图说明
图1为实施例1所述基于STDP的脉冲神经网络手写汉字识别方法流程图。
图2为IOSDATA相似性聚类算法示意图。
图3为脉冲神经网络结构示意图。
具体实施方式
附图仅用于示例性说明，不能理解为对本专利的限制；
为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；
对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。
下面结合附图和实施例对本发明的技术方案做进一步的说明。
实施例1：
本实施例提供一种基于STDP的脉冲神经网络手写汉字识别方法，如图1所示，所述方法包括以下步骤：
S1：下载中科院CASIA手写中文库中的HWDB1.1离线数据集；
S2：对离线手写汉字数据集做预处理：数据集的每张图片尺寸不一，无法统一将图片放入输入层编为脉冲序列，因此需要将图片进行归一化，统一大小为64*64像素。
S3：确定用于训练的神经元数目：在离线数据集中，将N类标签{z1,z2,…zn},每类标签采用ISODATA无监督学习进行相似性聚类，IOSDATA相似性聚类算法如图2所示，主要步骤分为三步：S3.1：初始化参数，包括预期的聚类中心数目、每一聚类域中最少的样本数目、一个聚类域中样本距离分布的标准差等；S3.2：进行近邻聚类，计算聚类中心，均值等；S3.3：判定是否满足预期指标，若不满足预期则进行***计算，***计算后返回S3.2，若满足预期且满足合并条件则进行合并运算，合并预算后输出结果。在聚类后，每种标签聚类后的数量为M＝{Mi；i＝1,2,…,N},总的聚类数量为S。
S4：构建脉冲神经网络拓扑结构：如图3所示，第一层为输入层，输入神经元数量设置为64*64；第二层为兴奋层，兴奋性的神经元数量设置为S；第三层为抑制层，抑制性的神经元数量设置为S。将输入层的神经元与兴奋层的神经元全连接，兴奋层的神经元与抑制层的神经元一对一连接，抑制层的神经元反向抑制全部兴奋层的神经元。
S5：脉冲编码：每一个数据集中图片的像素对应每一个输入神经元。设置以350ms为一周期，每一个像素编码成服从泊松分布的脉冲序列，脉冲发射率与输入图像中相应像素的强度成正比。
S6：确定神经元模型：神经元模型采用漏电Integrate-and-fire模型(LeakyIntegrate-and-fire,LIF)，其膜电位V的变化过程由下面的一阶微分方程描述：
其中Erest为静膜电位，Eexc和Einh为兴奋性突触和抑制性突触的平衡电位，ge和gi分别为兴奋性突触和抑制性突触的电导。τ为时间常数(兴奋性神经元的周期长于抑制性神经元)。当神经元的膜电位超过膜阈值Vthres时，神经元发射脉冲并且膜电位恢复至静息电位Vrest，在复位后的几毫秒内，神经元处于不应期，不会再产生脉冲。
Vthresh_e为兴奋性神经元阈值Vrest_e为兴奋性神经元静息电位，Vthresh_i为抑制性神经元阈值Vrest_i为抑制性神经元静息电位，分别可以表示为：
当神经元的膜电位超过膜阈值Vthres时，神经元发射脉冲并且膜电位恢复至静息电位Vrest，在复位后的几毫秒内，神经元处于不应期，不会再产生脉冲；
若突触前神经元是兴奋性神经元，其电导率ge的一阶公式：
这里的时间常数τge是兴奋性突触后电位，相同地，如果突触前神经元是抑制性神经元，电导gi的更新也使用相同地方程，但抑制性突触后的时间常数为τgi可以表示为：
S7：确定学习规则：采用STDP的学习规律。
从输入神经元到兴奋性神经元的所有突触都建立在STDP学习规律之上。突触前的迹为xpre，它记录了最近的突触前神经元生成脉冲至突触的过程。每当突触前的脉冲到达突触时，迹就会增加1，否则xpre呈指数衰减。当突触后脉冲到达突触时，根据突触前的迹计算出权值变化Δw：
Δw＝η(xpre-xtar)(wmax-w)μ
η是学习速率，wmax是最大权值，μ确定对先前权重的依赖性。并确定更新对之前的权值的依赖。xtar是当突触后神经元生成脉冲时记录当前xpre的值。当目标值越高，突触权值越低。这种偏差计算减少突触前神经元对突触后神经元的发放脉冲越来越弱的影响。
本实施例将图片的每一个像素与输入层的神经元一一对应，每个像素编码成服从泊松分布的脉冲序列输入至输入层的神经元，输入层的神经元根据脉冲序列有概率的对兴奋层神经元发送脉冲，当兴奋层的神经元接收到脉冲后，根据上述公式的迹记录脉冲前后收发情况以改变突触的权值w。
S8：将数据集依次放入网络进行训练，迭代3次后，完成脉冲神经网络的训练。
附图中描述位置关系的用语仅用于示例性说明，不能理解为对本专利的限制；
显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。
Claims (7)
1.一种基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，所述方法包括以下步骤：
S1：下载离线数据集，即离线手写汉字数据集；
S2：对离线数据集做预处理：对数据集中的每张图片进行归一化处理；
S3：确定用于训练的神经元数目；
S4：构建网络结构；
S5：对神经网络中的每一个像素进行脉冲编码；
S6：确定神经元模型；即采用漏电Integrate-and-fire模型作为神经元模型；
S7：采用STDP的学习规律对神经元模型进行学习；
S8：将数据集依次放入网络进行训练，经过迭代后，完成脉冲神经网络的训练。
2.根据权利要求1所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，S3具体为：在离线数据集中，将N类标签{z1,z2,…zn},每类标签采用ISODATA无监督学习进行相似性聚类，在聚类后，每种标签聚类后的数量为M＝{Mi；i＝1,2,…,N},总的聚类数量S。
3.根据权利要求2所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，IOSDATA相似性聚类算法包括以下步骤：
S3.1：初始化参数，包括预期的聚类中心数目、每一聚类域中最少的样本数目、一个聚类域中样本距离分布的标准差；
S3.2：进行近邻聚类，计算聚类中心、均值；
S3.3：判定是否满足预期指标，若不满足预期则进行***计算，***计算后返回S3.2，若满足预期且满足合并条件则进行合并运算，合并预算后输出结果；在聚类后，每种标签聚类后的数量为M＝{Mi；i＝1,2,…,N},总的聚类数量为S。
4.根据权利要求1所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，S4具体为：第一层为输入层，输入神经元数量设置为64*64；第二层为兴奋层，兴奋性的神经元数量设置为S；第三层为抑制层，抑制性的神经元数量设置为S；将输入层的神经元与兴奋层的神经元全连接，兴奋层的神经元与抑制层的神经元一对一连接，抑制层的神经元反向抑制全部兴奋层的神经元。
5.根据权利要求1所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，S5中由于每一个像素对应每一个输入神经元，故脉冲编码具体为：设置以350ms为一周期，每一个像素编码成服从泊松分布的脉冲序列，脉冲发射率与输入图像中相应像素的强度成正比。
6.根据权利要求5所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，S6中Integrate-and-fire模型的膜电位V的变化过程由下面的一阶微分方程描述：
其中Erest为静膜电位，Eexc和Einh为兴奋性突触和抑制性突触的平衡电位，ge和gi分别为兴奋性突触和抑制性突触的电导；τ为时间常数；
Vthresh_e为兴奋性神经元阈值Vrest_e为兴奋性神经元静息电位，Vthresh_i为抑制性神经元阈值Vrest_i为抑制性神经元静息电位；
当神经元的膜电位超过膜阈值Vthres时，神经元发射脉冲并且膜电位恢复至静息电位Vrest，在复位后的几毫秒内，神经元处于不应期，不会再产生脉冲；
若突触前神经元是兴奋性神经元，其电导率ge的一阶公式：
其中，时间常数τge是兴奋性突触后电位，相同地，如果突触前神经元是抑制性神经元，电导gi的更新也使用相同地方程，但抑制性突触后的时间常数为τgi表示为：
7.根据权利要求6所述的基于STDP的脉冲神经网络手写汉字识别方法，其特征在于，S7具体为：
记录每个突触权值，并记录每个突触前的迹Xpre，每当突触前的脉冲到达突触时，迹就会增加1，否则Xpre呈指数衰减；当突触后脉冲到达突触时，根据突触前的迹计算出权值变化Δw：
Δw＝η(xpre-xtar)(wmax-w)μ
η是学习速率，wmax是最大权值，μ确定对先前权重的依赖性；并确定更新对之前的权值的依赖；xtar是当突触后神经元生成脉冲时记录当前xpre的值。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910954627.3A CN110837776A (zh) | 2019-10-09 | 2019-10-09 | 一种基于stdp的脉冲神经网络手写汉字识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910954627.3A CN110837776A (zh) | 2019-10-09 | 2019-10-09 | 一种基于stdp的脉冲神经网络手写汉字识别方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110837776A true CN110837776A (zh) | 2020-02-25 |
Family
ID=69575179
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910954627.3A Pending CN110837776A (zh) | 2019-10-09 | 2019-10-09 | 一种基于stdp的脉冲神经网络手写汉字识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110837776A (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111858989A (zh) * | 2020-06-09 | 2020-10-30 | 西安工程大学 | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 |
| CN112541578A (zh) * | 2020-12-23 | 2021-03-23 | 中国人民解放军总医院 | 视网膜神经网络模型 |
| CN112906828A (zh) * | 2021-04-08 | 2021-06-04 | 周士博 | 一种基于时域编码和脉冲神经网络的图像分类方法 |
| CN113033782A (zh) * | 2021-03-31 | 2021-06-25 | 广东工业大学 | 一种手写数字识别模型训练方法和*** |
| CN113408714A (zh) * | 2021-05-14 | 2021-09-17 | 杭州电子科技大学 | 基于stdp法则的全数字脉冲神经网络硬件***及方法 |
| CN113536989A (zh) * | 2021-06-29 | 2021-10-22 | 广州博通信息技术有限公司 | 基于摄像视频逐帧分析的制冷机结霜监控方法及*** |
| CN113989818A (zh) * | 2021-12-27 | 2022-01-28 | 中科南京智能技术研究院 | 一种基于类脑计算平台的字符分类方法及*** |
| CN115048979A (zh) * | 2022-04-29 | 2022-09-13 | 贵州大学 | 一种基于正则化的机器人触觉脉冲数据分类方法 |
| CN112749637B (zh) * | 2020-12-29 | 2023-09-08 | 电子科技大学 | 一种基于snn的分布式光纤传感信号识别方法 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107092959A (zh) * | 2017-04-07 | 2017-08-25 | 武汉大学 | 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型 |
| CN108764242A (zh) * | 2018-05-21 | 2018-11-06 | 浙江工业大学 | 基于深层卷积神经网络的离线手写汉字体识别方法 |
| CN108875846A (zh) * | 2018-05-08 | 2018-11-23 | 河海大学常州校区 | 一种基于改进的脉冲神经网络的手写数字识别方法 |
-
2019
- 2019-10-09 CN CN201910954627.3A patent/CN110837776A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107092959A (zh) * | 2017-04-07 | 2017-08-25 | 武汉大学 | 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型 |
| CN108875846A (zh) * | 2018-05-08 | 2018-11-23 | 河海大学常州校区 | 一种基于改进的脉冲神经网络的手写数字识别方法 |
| CN108764242A (zh) * | 2018-05-21 | 2018-11-06 | 浙江工业大学 | 基于深层卷积神经网络的离线手写汉字体识别方法 |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111858989A (zh) * | 2020-06-09 | 2020-10-30 | 西安工程大学 | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 |
| CN111858989B (zh) * | 2020-06-09 | 2023-11-10 | 西安工程大学 | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 |
| CN112541578A (zh) * | 2020-12-23 | 2021-03-23 | 中国人民解放军总医院 | 视网膜神经网络模型 |
| CN112749637B (zh) * | 2020-12-29 | 2023-09-08 | 电子科技大学 | 一种基于snn的分布式光纤传感信号识别方法 |
| CN113033782A (zh) * | 2021-03-31 | 2021-06-25 | 广东工业大学 | 一种手写数字识别模型训练方法和*** |
| CN113033782B (zh) * | 2021-03-31 | 2023-07-07 | 广东工业大学 | 一种手写数字识别模型训练方法和*** |
| CN112906828A (zh) * | 2021-04-08 | 2021-06-04 | 周士博 | 一种基于时域编码和脉冲神经网络的图像分类方法 |
| CN113408714A (zh) * | 2021-05-14 | 2021-09-17 | 杭州电子科技大学 | 基于stdp法则的全数字脉冲神经网络硬件***及方法 |
| CN113536989A (zh) * | 2021-06-29 | 2021-10-22 | 广州博通信息技术有限公司 | 基于摄像视频逐帧分析的制冷机结霜监控方法及*** |
| CN113989818A (zh) * | 2021-12-27 | 2022-01-28 | 中科南京智能技术研究院 | 一种基于类脑计算平台的字符分类方法及*** |
| CN115048979A (zh) * | 2022-04-29 | 2022-09-13 | 贵州大学 | 一种基于正则化的机器人触觉脉冲数据分类方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110837776A (zh) | 一种基于stdp的脉冲神经网络手写汉字识别方法 | |
| CN108875846B (zh) | 一种基于改进的脉冲神经网络的手写数字识别方法 | |
| Bawa et al. | Linearized sigmoidal activation: A novel activation function with tractable non-linear characteristics to boost representation capability | |
| Dasgupta et al. | Nonlinear dynamic Boltzmann machines for time-series prediction | |
| Nessler et al. | STDP enables spiking neurons to detect hidden causes of their inputs | |
| CN111858989B (zh) | 一种基于注意力机制的脉冲卷积神经网络的图像分类方法 | |
| Goodfellow et al. | Spike-and-slab sparse coding for unsupervised feature discovery | |
| Shrestha et al. | Stable spike-timing dependent plasticity rule for multilayer unsupervised and supervised learning | |
| Ledinauskas et al. | Training deep spiking neural networks | |
| Fu et al. | An ensemble unsupervised spiking neural network for objective recognition | |
| Battleday et al. | From convolutional neural networks to models of higher‐level cognition (and back again) | |
| Cios | Deep neural networks—A brief history | |
| Yi et al. | Learning rules in spiking neural networks: A survey | |
| Fatahi et al. | Towards an spiking deep belief network for face recognition application | |
| Panda et al. | Convolutional spike timing dependent plasticity based feature learning in spiking neural networks | |
| Lagani et al. | Training convolutional neural networks with competitive hebbian learning approaches | |
| Tekir et al. | Deep learning: Exemplar studies in natural language processing and computer vision | |
| Lu et al. | Deep unsupervised learning using spike-timing-dependent plasticity | |
| Dong et al. | Research and application of local perceptron neural network in highway rectifier for time series forecasting | |
| He et al. | Leaf classification utilizing a convolutional neural network with a structure of single connected layer | |
| Rekabdar et al. | A scale and translation invariant approach for early classification of spatio-temporal patterns using spiking neural networks | |
| Li et al. | Pattern recognition of spiking neural networks based on visual mechanism and supervised synaptic learning | |
| Zhao et al. | AdaptCL: Adaptive continual learning for tackling heterogeneity in sequential datasets | |
| Sun et al. | A Review of AIoT-based Edge Devices and Lightweight Deployment | |
| Deng et al. | Stdp and competition learning in spiking neural networks and its application to image classification |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200225 |
|
| RJ01 | Rejection of invention patent application after publication |