CN106845541A - 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法 - Google Patents

一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法 Download PDF

Info

Publication number
CN106845541A
CN106845541A CN201710036419.6A CN201710036419A CN106845541A CN 106845541 A CN106845541 A CN 106845541A CN 201710036419 A CN201710036419 A CN 201710036419A CN 106845541 A CN106845541 A CN 106845541A
Authority
CN
China
Prior art keywords
image
sigma
pulse
value
gabor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710036419.6A
Other languages
English (en)
Inventor
徐小良
金昕
卢文思
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Dianzi University
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN201710036419.6A priority Critical patent/CN106845541A/zh
Publication of CN106845541A publication Critical patent/CN106845541A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提出了一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法。本发明受到生物视觉分层***的启发,在图像的特征提取部分,采用HMAX模型模拟感受野的细胞运行机制,先利用Gabor滤波强化图像的边缘信息,再对经过Gabor滤波后的各个方向的图像进行max pooling处理,达到提取最主要的特征及降维处理的目的。在特征图像数据处理方法,选用了相位编码技术,将图像的像素信息转换为脉冲现象,这样不仅考虑了图像的空间信息,还考虑了图像的时间信息。本发明有一定的生物性基础,具有良好的可行性与鲁棒性,并且其对于图像的识别与分类,尤其是在噪声图像中的准确性大大的提高了。

Description

一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法
技术领域
本发明涉及模式识别和类脑计算领域,具体涉及一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法。
背景技术
模式识别是人工智能领域的目前最热的话题之一,它的目标通过对采集的图像进行一定的处理以获得目标场景的相关信息。但中科院谭铁牛院士在2016中国人工智能大会(CCAI 2016)上指出:通用的模式识别***任重道远——其主要瓶颈在于鲁棒性、自适应性和可泛化性三个方面。这些技术难题使得模式识别的发展无法适应社会与当前市场的需求。
而类脑计算不仅模拟人的大脑,而且综合了其他学科,其中包括信号处理科学、计算机技术、统计学、物理学、应用数学、认知科学神和经生理学等,引起了各国政府和研究机构的广泛关注,并在模式识别的三大瓶颈问题方面有了重大的突破。美国和欧盟对此也投入了巨资,先后推出了各自的人脑研究计划:美国的“人类大脑计划”(Human BrainProject)致力于从神经元层面探索神经元、神经回路与大脑功能间的关系,欧盟的“大脑活动图谱计划”(Brain Activity Map Project,或称Brain Initiative)则致力于模拟整个人脑。
脉冲神经网络是类脑计算领域的专家和学者提出的第三代神经网络,其与基于脉冲频率编码信息的传统人工神经网络相比,拥有更强大的计算能力,可以模拟各种神经信号和任意的连续函数,非常适合实现大脑神经信号的处理问题,是进行复杂时空信息处理的有效工具。虽然当前对应技术难题的基于脉冲神经网络的模式识别***研究才刚刚起步,国内外的文献不是很多,但是学者们已经开始提出富有成效和创新十足的推荐方法。并且基于神经网络模式识别理论的研究一直被认为是神经网络应用最成功的一个方面,它的发展与神经网络理论可以说是相辅相成的,而且在几乎所有现有的脉冲神经网络物理模型都在模式识别领域得到了成功的应用。脉冲神经网络理论取得进步会给模式识别理论的发展带来鼓舞;相反,模式识别理论的进步又会大大推动脉冲神经网络理论的长期发展。
发明内容
本发明主要的目的在于针对现有模式识别***鲁棒性、自适应性和可泛化性的三大瓶颈,构建一个基于生物视觉与精确脉冲驱动神经网络的图像识别方法。在对不同的图像进行预处理,包括图像特征提取,物体描述的过程中,模拟人类视觉分层***,利用HMAX模型实现操作;之后根据得到的图像数据将其转换成脉冲的输入,从而便于后续的基于类脑计算的处理;最后通过脉冲神经网络学习算法进行分类决策。其具体内容如下:
1 生物视觉***的特征提取
为了提高物体识别的实用性,采用了一种视觉分层***,用于图像特征的提取。HMAX模型和传统的SR(Sparse Repesentaiton,稀疏表示)相比,能更好的描述数据的整体结构,从而在诸如图像特征提取之类的数据问题中,都有明显的优势。
1.1 S1层的Gabor滤波处理
S1层代表的是视觉皮层感受野(Receptive Field)中的简单细胞处理图像信号的方式。感受野的V1区简单细胞进行单元的匹配时,利用稀疏编码的高阶滤波器提取特征。许多研究人员使用二维Gabor滤波器函数建立了稀疏编码的计算模型。稀疏编码的一般形式是:
SC=AH
其中sci,ai,hj是单位稀疏块SC的元素,A为稀疏编码的基函数,H是稀疏稀疏。A的最常用的表达形式是:
||·||f是Frobenius范式,μ是正常数。Gabor响应G(x,y)可以近似的转换成稀疏编码的形式:
G(x,y)=S(x,y)·K(x,y),
其中S(x,y)表示复杂的sine函数,它的取值范围是[-1,1],因此满足上述基函数A的形式。K(x,y)是二维离散高斯方程的包络函数,λ表示波长,它的值不能超过图像长宽的1/5。是相位偏移,取值在[-180°,180°],γ表示长宽比,决定了图像经过Gabor滤波后的形状。σ取决于带宽b:
为了简便起见,利用Gabor滤波的实部部分对图像特征进行学习:
x'=x cosθ+y sinθ,y'=-x sinθ+y cosθ
在本发明中,分别设偏移相位波长λ和带宽b为0°,10与1,因此σ=0.56λ。
在S1层中,选取(0°,45°,90°,135°)四个方向的Gabor滤波,并将其结果归一化至[-1,1]。
1.2 C1层的最大池处理
图像经S1层后强化了其的边缘信息,在C1层利用最大池进行特征的提取与降维,其具体表达如下:
其中m是最大池的滑动窗口的大小。
2 脉冲编码
在本发明中,选择相位编码算法(一种时间编码方案)来产生脉冲序列。编码单元的结构由三部分组成:阳性神经元(POS),阴性神经元(NEG),输出神经元(EOUT)。在整个编码过程中,每一个传入的尖峰信号代表一个神经元活动,连接到一个感受野区域,即一个编码单元连接到一个像素。阈下膜电位振荡(SMOS)也与动作电位相关,在RF中每个像素的强度值被转换成一个精心处理的时间动作电位的周期振荡,这被描述为余弦函数:
其中是第i个编码神经元的震荡函数,呈周期性;A是振幅,ω代表角速度,φ0是初始相位,第i个编码神经元的偏移相位φi的计算公式是:
φi=φ0+(i-1)·Δφ
其中Δφ是最小的偏移单位,其值为2π/n,n为神经元的个数。设置震荡周期tmax为200ms。图像各个像素点与时间的关系如下述公式表示:
其中xi代表图像第i个像素的像素值。当像素传入编码层,便会引起向上或者向下的膜振荡,如果膜电位超过阈值,刺激产生。可以通过调节振幅和阈值来控制脉冲序列的产生。
3 脉冲神经网络学习
脉冲神经网络主要对图像产生的脉冲序列进行学习,脉冲序列可表示为:
其中,tf表示第f个脉冲发放时间,δ(x)表示Dirac delta函数,当时x=0,δ(x)=1,否则δ(x)=0。本发明采用脉冲神经网络的监督学习算法,其目的是:对于给定的多个输入脉冲序列Si(t)和多个目标脉冲序列Sd(t),寻找脉冲神经网络合适的突触权值矩阵w,使神经元的输出脉冲序列So(t)与对应的目标脉冲序列Sd(t)尽可能接近,即两者的误差评价函数值最小。
Precise-spike-driven synaptic plasticity(PSD)利用精确时间脉冲编码信息对图像的脉冲序列进行学习,其基础是leaky integrate-and-fire模型。当利用这个学习规则调整权重时,突触后电位(PSP)是所有输入脉冲的传入神经的权重的总和:
其中ωi和ti分别是第i次输入的突触权重及点火时间,Vrest是重置电压。K是双指数形式的核函数:
其中tf是第i个神经元产生的第f个脉冲;V0是归一化参数,它使K的取值不大于1;τs表示缓慢衰减常数,而τf指快速衰减常数,令τsf=4。突触后电流是PSD规则中一个重要的参数,它满足下面的公式:
其中是第i次输入的突触电流;H(x)是Heaviside函数,当x<0时其值为0,当x=0时其值为0.5,当x>0时其值为1。Widrow-Hoff规则的突触权重变化规律是:
而权重变化通常可表示为:
PSD规则改变突触权重受到了Widrow-Hoff规则的启发,其形式为:
在学习阶段,将脉冲神经网络的步长设为100次。
4 分类判别
图像序列经过PSD规则学习后,会产生一组脉冲输出序列,采用van Rossummetric对结果进行分类判别。这个方法依赖于输出序列与目标序列之间的距离:
其中τ是一个常数,取τ=10,f(t)和g(t)分别是两个脉冲序列的滤波函数。选择最小的Dis所对应的类别作为最后分类的结果。
与现有技术相比,本发明有如下优点:
本发明受到生物视觉分层***的启发,在图像的特征提取部分,利用人眼处理接收图像的形式,采用HMAX模型模拟感受野的细胞运行机制,先利用Gabor滤波强化图像的边缘信息,再对经过Gabor滤波后的各个方向的图像进行最大池处理,达到提取最主要的特征及降维处理的目的。这使得本发明具有一定的生物性基础。在特征图像数据处理方法,选用了相位编码技术,将图像的像素信息转换为脉冲现象,这样不仅考虑了图像的空间信息,还考虑了图像的时间信息。在学习算法中,选用了脉冲神经网络(SNN),这是第三代神经网络,更形象地模拟了生物的神经信息传输方式,也大大降低了实验的功耗。
本发明提出了一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法。实验证明,本发明有一定的生物性基础,具有良好的可行性与鲁棒性,并且其对于图像的识别与分类,尤其是在噪声图像中的准确性大大的提高了。
附图说明
图1是本发明所述基于生物视觉与精确脉冲驱动神经网络的图像识别方法的***结构图;
图2是感受野中的细胞相互作用的关系图;
图3是PSD规则如何通过输出脉冲序列及目标脉冲序列改变突触权重的示意图;
图4是利用不同学习规则,对有10%的噪声图像进行分类就结果对比图。
具体实施方式
下面结合附图对本发明进一步说明。
图1中,描述了基于生物视觉与精确脉冲驱动神经网络的图像识别方法的***结构图,下面结合图1给出详细说明。
步骤S1,特征提取
1.1 Gabor滤波处理
感受野的V1区简单细胞进行单元的匹配时,利用稀疏编码的高阶滤波器提取特征,并使用二维Gabor滤波器函数建立了稀疏编码的计算模型。稀疏编码的一般形式是:
SC=AH
其中sci,ai,hj是单位稀疏块SC的元素,A为稀疏编码的基函数,H是稀疏稀疏。A的最常用的表达形式是:
||·||f是Frobenius范式,μ是正常数。但是稀疏编码一般采用独立成分分析方法对图像进行处理,这使得计算图像数据是需要很大的内存空间,不利于实际操作。而Gabor滤波所需的内存空间小,并且Gabor响应G(x,y)可以近似的转换成稀疏编码的形式:
G(x,y)=S(x,y)·K(x,y),
其中S(x,y)表示复杂的sine函数,它的取值范围是[-1,1],因此她满足上述基函数A的形式。K(x,y)是二维离散高斯方程的包络函数,λ表示波长,它的值不能超过图像长宽的1/5。是相位偏移,取值在[-180°,180°],γ表示长宽比,它决定了图像经过Gabor滤波后的形状。σ取决于带宽b:
为了简便起见,利用Gabor滤波的实部部分对图像特征进行学习:
x'=x cosθ+y sinθ,y'=-x sinθ+y cosθ
分别设偏移相位波长λ和带宽b为0°,10与1,因此σ=0.56λ。
在Gabor滤波中,选取(0°,45°,90°,135°)四个方向的Gabor滤波,并将其结果归一化至[-1,1]。
1.2 最大池处理
图像经Gabor滤波后强化了其的边缘信息,利用最大池进行特征的提取与降维,其具体表达如下:
其中m是最大池操作的滑动窗口的大小。在原HMAX模型中,最大池操作是对经Gabor滤波后的4个方向取整体最大值,而本发明中考虑人眼对各个方向的敏感度是不同的及其相关文献,对4个方向的图片都进行了最大池操作。
步骤S2,相位编码
选择相位编码算法(一种时间编码方案)来产生脉冲序列。在RF中每个像素的强度值被转换成一个精心处理的时间动作电位的周期振荡,这被描述为余弦函数:
其中是第i个编码神经元的震荡函数,呈周期性;A是振幅,ω代表角速度,φ0是初始相位,第i个编码神经元的偏移相位φi的计算公式是:
φi=φ0+(i-1)·Δφ
其中Δφ是最小的偏移单位,其值为2π/n,n为神经元的个数。设置震荡周期tmax为200ms。图像各个像素点与时间的关系如下述公式表示:
其中xi代表图像第i个像素的像素值。当像素传入编码层,便会引起向上或者向下的膜振荡,如果膜电位超过阈值,刺激产生。可以通过调节振幅和阈值来控制脉冲序列的产生。
步骤S3,脉冲学习
脉冲神经网络主要对图像产生的脉冲序列进行学习,脉冲序列可表示为:
其中,tf表示第f个脉冲发放时间,δ(x)表示Dirac delta函数,当时x=0,δ(x)=1,否则δ(x)=0。
PSD规则利用精确时间脉冲编码信息对图像的脉冲序列进行学习,其基础是leakyintegrate-and-fire模型。当利用这个学习规则调整权重时,突触后电位(PSP)是所有输入脉冲的传入神经的权重的总和:
其中ωi和ti分别是第i次输入的突触权重及点火时间,Vrest是重置电压。K是双指数形式的核函数:
其中tf是第i个神经元产生的第f个脉冲;V0是归一化参数,它使K的取值不大于1;τs表示缓慢衰减常数,而τf指快速衰减常数,令τsf=4。突触后电流是PSD规则中一个重要的参数,它满足下面的公式:
其中是第i次输入的突触电流;H(x)是Heaviside函数,当x<0时其值为0,当x=0时其值为0.5,当x>0时其值为1。Widrow-Hoff规则的突触权重变化规律是:
而权重变化通常可表示为:
PSD规则改变突触权重受到了Widrow-Hoff规则的启发,其形式为:
在学习阶段,将脉冲神经网络的步长设为100次。
步骤S4,分类判别
图像序列经过PSD规则学习后,会产生一组脉冲输出序列,采用van Rossummetric对结果进行分类判别。这个方法依赖于输出序列与目标序列之间的距离:
其中τ是一个常数,取τ=10,f(t)和g(t)分别是两个脉冲序列的滤波函数。选择最小的Dis所对应的类别作为最后分类的结果。
生物视觉分层***的结构如图2所示,感受野中的细胞可以分为两种:简单细胞(simple cell)和复杂细胞(complex cell)。简单细胞进行稀疏编码操作,复杂细胞进行最大池操作。HMAX是一个真正能够仿视觉结构工作的物体识别模型,它基于生物上得到证实的Gabor小波基及多层特征组合,并使用相邻空间及尺度上的滤波响应取最大值来提取,使得图像表现出尺度及平移不变等特征,并且将每张图片转换为一个向量。
在图3中描述的是PSD规则如何通过输出脉冲序列及目标脉冲序列改变突触权重。对于给定的多个输入脉冲序列Si(t)和多个目标脉冲序列Sd(t),寻找脉冲神经网络合适的突触权值矩阵w,使神经元的输出脉冲序列So(t)与对应的目标脉冲序列Sd(t)尽可能接近,即两者的误差评价函数值最小。
图4是实验结果的展示,本发明提出的视觉分层***结合PSD规则的图像识别及分类算法,具有良好鲁棒性。其具体操作如下:
对一张大小为n×n的图片来说,其表示为:
将其二值化后分别输入方向[0°,45°,90°,135°],窗口大小为mG×mG的Gabor滤波中,得到四幅大小均为n×n的滤波图像:
将这四幅图像分别传入窗口大小为mp×mp的最大池中,并将得到的图像一次拼接,然后将新图像转换为一个向量:
将这个向量输入到相位编码中得到脉冲序列将其输入到PSD算法中,利用监督学习的规则,得到突触权重矩阵:
其中c为分类的类别总数。
在对测试集图像进行分类时,将输入脉冲序列传进PSD神经网络中,与突触权重矩阵进行相应的计算得到组输出脉冲序列分别将其与期望脉冲序列Sd(t)计算Dis,根据分类规则到最终结果。从图4中可以得出,本发明优于一般的图像识别及分类算法,有良好的鲁棒性及识别精度。

Claims (1)

1.一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法,其特征在于该方法包括以下步骤:
步骤1.生物视觉***的特征提取
步骤1.1.S1层的Gabor滤波处理
S1层代表的是视觉皮层感受野中的简单细胞处理图像信号的方式;感受野的V1区简单细胞进行单元的匹配时,利用稀疏编码的高阶滤波器提取特征;稀疏编码的形式是:
sc i = &Sigma; i , j a i h j ,
SC=AH
其中sci,ai,hj是单位稀疏块SC的元素,A为稀疏编码的基函数,H是稀疏稀疏;A的表达形式是:
m i n | | S C - A H | | f 2 + &mu; &Sigma; j = 1 k | | s j | | 1 ,
s . t . | | a i | | 2 &le; 1 , &ForAll; i = 1 , ... , m
||·||f是Frobenius范式,μ是正常数;Gabor响应G(x,y)可以近似的转换成稀疏编码的形式:
G(x,y)=S(x,y)·K(x,y),
K ( x , y ) = exp ( - x 2 + &gamma; 2 y 2 2 &sigma; 2 )
其中S(x,y)表示复杂的sine函数,它的取值范围是[-1,1],因此满足上述基函数A的形式;K(x,y)是二维离散高斯方程的包络函数,λ表示波长,它的值不能超过图像长宽的1/5;是相位偏移,取值在[-180°,180°],γ表示长宽比,它决定了图像经过Gabor滤波后的形状;σ取决于带宽b:
b = log 2 &sigma; &lambda; + l n 2 2 &sigma; &lambda; - l n 2 2 , &sigma; &lambda; = 1 &pi; l n 2 2 &CenterDot; 2 b + 1 2 b - 1
利用Gabor滤波的实部部分对图像特征进行学习:
x'=x cosθ+y sinθ,y'=-x sinθ+y cosθ
并分别设偏移相位波长λ与带宽b为0°,10与1,因此σ=0.56λ;
在S1层中,对一张大小为n×n的图片,选取0°,45°,90°,135°四个方向,窗口大小为mG×mG的Gabor滤波,得到四幅大小均为n×n的滤波图像:
步骤1.2. C1层的max pooling处理
图像经S1层后强化了其的边缘信息,在C1层利用max pooling进行特征的提取与降维,其具体表达如下:
其中m是max pooling的滑动窗口的大小;将得到的图像一次拼接,然后将新图像转换为一个向量:
I 1 &times; &lsqb; ( n m p ) 2 &times; 4 &rsqb; &prime; = x 11 &prime; ... x &lsqb; ( n m p ) 2 &times; 4 &rsqb; &prime; 1 &times; &lsqb; ( n m p ) 2 &times; 4 &rsqb;
步骤2.脉冲编码
选择相位编码来产生脉冲序列;编码单元的结构由三部分组成:阳性神经元,阴性神经元,输出神经元;在整个编码过程中,每一个传入的尖峰信号代表一个神经元活动,连接到一个感受野区域,即一个编码单元连接到一个像素;阈下膜电位振荡也与动作电位相关,在RF中每个像素的强度值被转换成一个精心处理的时间动作电位的周期振荡,描述为余弦函数:
P O S C i = A c o s ( &omega;t i + &phi; i )
其中是第i个编码神经元的震荡函数,呈周期性;A是振幅,ω代表角速度,φ0是初始相位,第i个编码神经元的偏移相位φi的计算公式是:
φi=φ0+(i-1)·Δφ
其中Δφ是最小的偏移单位,其值为2π/n,n为神经元的个数;设置震荡周期tmax为200ms;图像各个像素点与时间的关系如下述公式表示:
t i = ( i - 1 ) &CenterDot; t max n , i f x = 1 ( i - 1 ) &CenterDot; t max n + t max 2 , i f x = 0 , a n d i &le; n 2 ( i - 1 ) &CenterDot; t max n - t max 2 , i f x = 0 , a n d i > n 2
其中xi代表图像第i个像素的像素值;当像素传入编码层,便会引起向上或者向下的膜振荡,如果膜电位超过阈值,刺激产生;可以通过调节振幅和阈值来控制脉冲序列的产生;
步骤3.脉冲神经网络学习
脉冲神经网络主要对图像产生的脉冲序列进行学习,脉冲序列表示为:
S ( t ) = &Sigma; f = 1 F &delta; ( t - t f )
其中,tf表示第f个脉冲发放时间,δ(x)表示Dirac delta函数,当时x=0,δ(x)=1,否则δ(x)=0;
PSD规则利用精确时间脉冲编码信息对图像的脉冲序列进行学习,其基础是leakyintegrate-and-fire模型;当利用这个学习规则调整权重时,突触后电位是所有输入脉冲的传入神经的权重的总和:
V ( t ) = &Sigma; i w i &Sigma; t i K ( t - t i ) + V r e s t
其中ωi和ti分别是第i次输入的突触权重及点火时间,Vrest是重置电压;K是双指数形式的核函数:
K ( t - t f ) = V 0 &CenterDot; ( exp ( - ( t - t f ) &tau; s ) - exp ( - ( t - t f ) &tau; f ) )
其中tf是第i个神经元产生的第f个脉冲;V0是归一化参数,它使K的取值不大于1;τs表示缓慢衰减常数,而τf指快速衰减常数,令τsf=4;突触后电流是PSD规则中一个重要的参数,它满足下面的公式:
I P S C i = &Sigma; f = 1 F ( t - t i f ) H ( t - t i f )
其中是第i次输入的突触电流;H(x)是Heaviside函数,当x<0时其值为0,当x=0时其值为0.5,当x>0时其值为1;Widrow-Hoff规则的突触权重变化规律是:
&Delta;w i = &eta; &lsqb; S d ( t ) - S o ( t ) &rsqb; I P S C i ( t )
而权重变化可表示为:
&Delta;w i = dw i ( t ) d t
PSD规则改变突触权重受到了Widrow-Hoff规则的启发,其形式为:
&Delta;w i = &eta; &lsqb; &Sigma; g = 1 G &Sigma; f = 1 F K ( t d g - t i f ) H ( t d g - t i f ) - &Sigma; h = 1 G &Sigma; f = 1 F K ( t o h - t i f ) H ( t o h - t i f ) &rsqb;
在学习阶段,将脉冲神经网络的步长设为100次;将上述得到脉冲序列输入到PSD规则中,利用监督学习的规则,得到突触权重矩阵:
其中c为分类的类别总数;
步骤4.分类判别
图像序列经过PSD规则学习后,会产生一组脉冲输出序列,采用van Rossum metric对结果进行分类判别;其依赖于输出序列与目标序列之间的距离:
D i s = 1 &tau; &Integral; 0 &infin; &lsqb; f ( t ) - g ( t ) &rsqb; 2 d t
其中τ是一个常数,f(t)和g(t)分别是两个脉冲序列的滤波函数;选择最小的Dis所对应的类别作为最后分类的结果。
CN201710036419.6A 2017-01-17 2017-01-17 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法 Pending CN106845541A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710036419.6A CN106845541A (zh) 2017-01-17 2017-01-17 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710036419.6A CN106845541A (zh) 2017-01-17 2017-01-17 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法

Publications (1)

Publication Number Publication Date
CN106845541A true CN106845541A (zh) 2017-06-13

Family

ID=59124308

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710036419.6A Pending CN106845541A (zh) 2017-01-17 2017-01-17 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法

Country Status (1)

Country Link
CN (1) CN106845541A (zh)

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107403154A (zh) * 2017-07-20 2017-11-28 四川大学 一种基于动态视觉传感器的步态识别方法
CN108010046A (zh) * 2017-12-14 2018-05-08 广西科技大学 基于改进经典感受野的仿生轮廓检测方法
CN108197711A (zh) * 2017-12-13 2018-06-22 中国科学院自动化研究所 基于类脑多感觉注意切换的计算方法
CN108416391A (zh) * 2018-03-16 2018-08-17 重庆大学 基于视觉皮层处理机制及脉冲监督学习的图像分类方法
CN108446757A (zh) * 2017-12-29 2018-08-24 北京理工大学 一种基于脉冲神经网络的多级延时级联的速度识别***与方法
CN108710770A (zh) * 2018-05-31 2018-10-26 杭州电子科技大学 一种面向多脉冲神经网络监督学习的精确突触调整方法
CN108985447A (zh) * 2018-06-15 2018-12-11 华中科技大学 一种硬件脉冲神经网络***
CN109102000A (zh) * 2018-09-05 2018-12-28 杭州电子科技大学 一种基于分层特征提取与多层脉冲神经网络的图像识别方法
CN109522448A (zh) * 2018-10-18 2019-03-26 天津大学 一种基于crbm和snn进行鲁棒性语音性别分类的方法
CN109616104A (zh) * 2019-01-31 2019-04-12 天津大学 基于关键点编码和多脉冲学习的环境声音识别方法
CN109803096A (zh) * 2019-01-11 2019-05-24 北京大学 一种基于脉冲信号的显示方法和***
CN110223263A (zh) * 2019-04-23 2019-09-10 上海上湖信息技术有限公司 成像方向检测方法及装置、可读存储介质
CN110427823A (zh) * 2019-06-28 2019-11-08 北京大学 基于视频帧与脉冲阵列信号的联合目标检测方法与装置
CN110555523A (zh) * 2019-07-23 2019-12-10 中建三局智能技术有限公司 一种基于脉冲神经网络的短程跟踪方法及***
CN110826749A (zh) * 2018-08-07 2020-02-21 中国农业大学 基于snn的溶解氧含量预测方法、电子设备及***
CN111046954A (zh) * 2019-12-12 2020-04-21 电子科技大学 基于动态阈值的spiking学习模型的图像分类方法
CN111488908A (zh) * 2020-03-10 2020-08-04 天津大学 基于增强脉冲的仿脑图像识别方法
CN111797968A (zh) * 2020-06-19 2020-10-20 武汉大学 一种基于脉冲神经网络的重加权稀疏重建方法
CN112580737A (zh) * 2020-12-25 2021-03-30 航天科工网络信息发展有限公司 基于多尺度特征融合的脉冲神经网络特征提取方法
CN112597980A (zh) * 2021-03-04 2021-04-02 之江实验室 一种面向动态视觉传感器的类脑手势序列识别方法
US11228758B2 (en) 2016-01-22 2022-01-18 Peking University Imaging method and device
CN114202068A (zh) * 2022-02-17 2022-03-18 浙江大学 面向类脑计算芯片的自学习实现***
CN116541680A (zh) * 2023-07-06 2023-08-04 北京航空航天大学 基于轻量化时间序列缩减的工业设备状态预测方法与装置
CN116989800A (zh) * 2023-09-27 2023-11-03 安徽大学 一种基于脉冲强化学习的移动机器人视觉导航决策方法
CN117152637A (zh) * 2023-10-30 2023-12-01 中国海洋大学 基于fy-4a卫星云图预测序列的强对流云识别方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105404902A (zh) * 2015-10-27 2016-03-16 清华大学 基于脉冲神经网络的图像特征描述和记忆方法
CN105760930A (zh) * 2016-02-18 2016-07-13 天津大学 用于aer的多层脉冲神经网络识别***

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105404902A (zh) * 2015-10-27 2016-03-16 清华大学 基于脉冲神经网络的图像特征描述和记忆方法
CN105760930A (zh) * 2016-02-18 2016-07-13 天津大学 用于aer的多层脉冲神经网络识别***

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
XIAOLIANG XU ET AL.: "A Hierarchical Visual Recognition Model with Precise-Spike-Driven Synaptic Plasticity", 《COMPUTATIONAL INTELLIGENCE IEEE,2016》 *
张玉平: "递归脉冲神经网络的监督学习及图形识别研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11800098B2 (en) 2016-01-22 2023-10-24 Spike Vision (Beijing) Technology Co., Ltd. Imaging method and device
US11228758B2 (en) 2016-01-22 2022-01-18 Peking University Imaging method and device
CN107403154A (zh) * 2017-07-20 2017-11-28 四川大学 一种基于动态视觉传感器的步态识别方法
CN108197711A (zh) * 2017-12-13 2018-06-22 中国科学院自动化研究所 基于类脑多感觉注意切换的计算方法
CN108197711B (zh) * 2017-12-13 2020-02-28 中国科学院自动化研究所 基于类脑多感觉注意切换的计算方法
CN108010046A (zh) * 2017-12-14 2018-05-08 广西科技大学 基于改进经典感受野的仿生轮廓检测方法
CN108446757A (zh) * 2017-12-29 2018-08-24 北京理工大学 一种基于脉冲神经网络的多级延时级联的速度识别***与方法
CN108446757B (zh) * 2017-12-29 2020-09-01 北京理工大学 一种基于脉冲神经网络的多级延时级联的速度识别***与方法
CN108416391A (zh) * 2018-03-16 2018-08-17 重庆大学 基于视觉皮层处理机制及脉冲监督学习的图像分类方法
CN108416391B (zh) * 2018-03-16 2020-04-24 重庆大学 基于视觉皮层处理机制及脉冲监督学习的图像分类方法
CN108710770A (zh) * 2018-05-31 2018-10-26 杭州电子科技大学 一种面向多脉冲神经网络监督学习的精确突触调整方法
CN108985447A (zh) * 2018-06-15 2018-12-11 华中科技大学 一种硬件脉冲神经网络***
CN110826749A (zh) * 2018-08-07 2020-02-21 中国农业大学 基于snn的溶解氧含量预测方法、电子设备及***
CN109102000B (zh) * 2018-09-05 2021-09-07 杭州电子科技大学 一种基于分层特征提取与多层脉冲神经网络的图像识别方法
CN109102000A (zh) * 2018-09-05 2018-12-28 杭州电子科技大学 一种基于分层特征提取与多层脉冲神经网络的图像识别方法
CN109522448A (zh) * 2018-10-18 2019-03-26 天津大学 一种基于crbm和snn进行鲁棒性语音性别分类的方法
CN109522448B (zh) * 2018-10-18 2021-07-13 天津大学 一种基于crbm和snn进行鲁棒性语音性别分类的方法
CN109803096A (zh) * 2019-01-11 2019-05-24 北京大学 一种基于脉冲信号的显示方法和***
CN109803096B (zh) * 2019-01-11 2020-08-25 北京大学 一种基于脉冲信号的显示方法和***
US10937132B2 (en) 2019-01-11 2021-03-02 Peking University Spike signal-based display method and system
CN109616104B (zh) * 2019-01-31 2022-12-30 天津大学 基于关键点编码和多脉冲学习的环境声音识别方法
CN109616104A (zh) * 2019-01-31 2019-04-12 天津大学 基于关键点编码和多脉冲学习的环境声音识别方法
CN110223263B (zh) * 2019-04-23 2021-07-13 上海上湖信息技术有限公司 成像方向检测方法及装置、可读存储介质
CN110223263A (zh) * 2019-04-23 2019-09-10 上海上湖信息技术有限公司 成像方向检测方法及装置、可读存储介质
CN110427823A (zh) * 2019-06-28 2019-11-08 北京大学 基于视频帧与脉冲阵列信号的联合目标检测方法与装置
CN110555523A (zh) * 2019-07-23 2019-12-10 中建三局智能技术有限公司 一种基于脉冲神经网络的短程跟踪方法及***
CN110555523B (zh) * 2019-07-23 2022-03-29 中建三局智能技术有限公司 一种基于脉冲神经网络的短程跟踪方法及***
WO2021012752A1 (zh) * 2019-07-23 2021-01-28 中建三局智能技术有限公司 一种基于脉冲神经网络的短程跟踪方法及***
CN111046954A (zh) * 2019-12-12 2020-04-21 电子科技大学 基于动态阈值的spiking学习模型的图像分类方法
CN111488908A (zh) * 2020-03-10 2020-08-04 天津大学 基于增强脉冲的仿脑图像识别方法
CN111797968A (zh) * 2020-06-19 2020-10-20 武汉大学 一种基于脉冲神经网络的重加权稀疏重建方法
CN112580737A (zh) * 2020-12-25 2021-03-30 航天科工网络信息发展有限公司 基于多尺度特征融合的脉冲神经网络特征提取方法
CN112597980A (zh) * 2021-03-04 2021-04-02 之江实验室 一种面向动态视觉传感器的类脑手势序列识别方法
CN114202068A (zh) * 2022-02-17 2022-03-18 浙江大学 面向类脑计算芯片的自学习实现***
CN114202068B (zh) * 2022-02-17 2022-06-28 浙江大学 面向类脑计算芯片的自学习实现***
CN116541680A (zh) * 2023-07-06 2023-08-04 北京航空航天大学 基于轻量化时间序列缩减的工业设备状态预测方法与装置
CN116541680B (zh) * 2023-07-06 2023-09-12 北京航空航天大学 基于轻量化时间序列缩减的工业设备状态预测方法与装置
CN116989800A (zh) * 2023-09-27 2023-11-03 安徽大学 一种基于脉冲强化学习的移动机器人视觉导航决策方法
CN117152637A (zh) * 2023-10-30 2023-12-01 中国海洋大学 基于fy-4a卫星云图预测序列的强对流云识别方法

Similar Documents

Publication Publication Date Title
CN106845541A (zh) 一种基于生物视觉与精确脉冲驱动神经网络的图像识别方法
CN107273845B (zh) 一种基于置信区域和多特征加权融合的人脸表情识别方法
KR102224253B1 (ko) 심층 네트워크와 랜덤 포레스트가 결합된 앙상블 분류기의 경량화를 위한 교사-학생 프레임워크 및 이를 기반으로 하는 분류 방법
CN104537393B (zh) 一种基于多分辨率卷积神经网络的交通标志识别方法
CN103996056B (zh) 一种基于深度学习的纹身图像分类方法
US11531876B2 (en) Deep learning for characterizing unseen categories
US10387774B1 (en) Method for neuromorphic implementation of convolutional neural networks
CN107657204A (zh) 深层网络模型的构建方法及人脸表情识别方法和***
Tavanaei et al. Acquisition of visual features through probabilistic spike-timing-dependent plasticity
Boughrara et al. MLP neural network based face recognition system using constructive training algorithm
CN105760930A (zh) 用于aer的多层脉冲神经网络识别***
CN105095833A (zh) 用于人脸识别的网络构建方法、识别方法及***
CN109102000A (zh) 一种基于分层特征提取与多层脉冲神经网络的图像识别方法
CN106485259A (zh) 一种基于高约束高分散主成分分析网络的图像分类方法
CN106980830A (zh) 一种基于深度卷积网络自亲缘关系识别方法与装置
Peemen et al. Efficiency optimization of trainable feature extractors for a consumer platform
CN105894018A (zh) 基于深度多示例学习的极化sar图像分类方法
Wan et al. A novel face recognition method: Using random weight networks and quasi-singular value decomposition
Mermillod et al. Neural computation as a tool to differentiate perceptual from emotional processes: The case of anger superiority effect
Anselmi et al. Magic materials: a theory of deep hierarchical architectures for learning sensory representations
Sun et al. A spiking neural network for extraction of features in colour opponent visual pathways and FPGA implementation
CN114241458A (zh) 一种基于姿态估计特征融合的驾驶员行为识别方法
Ribeiro et al. Extreme learning classifier with deep concepts
Kumar et al. Discriminating real from fake smile using convolution neural network
Poggio The computational magic of the ventral stream

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170613

RJ01 Rejection of invention patent application after publication