CN112949454B - 一种基于小样本学习的虹膜识别方法 - Google Patents
一种基于小样本学习的虹膜识别方法 Download PDFInfo
- Publication number
- CN112949454B CN112949454B CN202110216895.2A CN202110216895A CN112949454B CN 112949454 B CN112949454 B CN 112949454B CN 202110216895 A CN202110216895 A CN 202110216895A CN 112949454 B CN112949454 B CN 112949454B
- Authority
- CN
- China
- Prior art keywords
- iris
- maml
- learning
- training
- original model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/197—Matching; Classification
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Ophthalmology & Optometry (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于小样本学习的虹膜识别方法,应用于机器学习技术领域,具体步骤包括如下:获取虹膜图像,并对虹膜图像进行预处理,得到数据集;在MAML框架下嵌套特征提取网络,构造虹膜图像识别模型;对构造的虹膜识别模型进行训练,获取原模型参数值并更新原模型参数值;同时对损失函数引入L2正则化;得到最优虹膜图像识别模型,进行虹膜识别。本发明基于元学习的模型无关自适应算法的基础上进行了改进,对MAML的交叉熵损失函数进行改进,引入L2正则化,在内循环内部进行更为充分的学习,减少训练过程的过拟合现象,提高算法的泛化性以更好地适应新任务;同时使元学习变简,进一步嵌套特征提取网络,增强内嵌网络的特征提取能力。
Description
技术领域
本发明涉及机器学习技术领域,更具体的说是涉及一种基于小样本学习的虹膜识别方法。
背景技术
生物识别***在不断地发展,并有望在自动***中用于有效地识别或认证一个人的身份,而无需用户携带或记住任何东西,这不同于传统方法,例如密码、ID。在这方面,虹膜识别已被用于许多关键应用中,例如限制区域的访问控制、数据库访问、国民身份证和金融服务,并且被认为是最可靠和准确的生物识别特征之一。多项研究表明,虹膜特征相比其他生物特征(例如面部,指纹)具有许多优势,这使其在高可靠性和准确性的生物特征***中得到了普遍认可。这显示了在安全领域中虹膜识别的巨大潜力,并且可以作为自动识别***的强大补充部分。随着计算机科学技术的不断发展,有关深度学习领域的研究越来越多,相对于传统的图像识别方法,基于深度学习的图像识别取得了巨大的突破,比如卷积神经网络能够从图像的低层到高层,逐步提取能够代表图像的高级语义结构化特征,同时将特征提取过程与分类过程融为一体,显著提高了图像分类的准确度。但卷积神经网络通常包含成千上万的训练参数,因此使用深度学习网络训练虹膜识别模型需要依赖大量的数据样本。其他生物特征例如人脸拥有数百万张人脸图像的大型数据集可供训练,然而虹膜特征现在仍然遭受数据集不足的困扰,因此难以利用深度学习的强大能力来进行训练。此外,某些情况下需要快速识别身份,但往往仅有有限的虹膜数据。当前机器学习从几个示例中快速学习新概念的能力还远不如人类,这通常被称为小样本学习问题。在这种情况下,有关小样本学习的研究逐渐得到人们的关注,并迅速成为图像分类的热点研究领域。
深度学***移等不适用于虹膜纹理图像,会导致增强后的数据空间严重偏离原始空间,反而导致识别率下降。
因此,如何提供一种不仅保证识别效果,而且保证识别率的基于小样本学习的虹膜识别方法是本领域技术人员亟需解决的问题。
发明内容
有鉴于此,本发明提供了一种基于小样本学习的虹膜识别方法,显著提高基于深度学习技术样本数量不足情况下虹膜图像的识别率。
为了实现上述目的,本发明提供如下技术方案:
一种基于小样本学习的虹膜识别方法,具体步骤包括如下:
获取虹膜图像,并对所述虹膜图像进行预处理,得到数据集;
在MAML框架下嵌套特征提取网络,构造虹膜图像识别模型;
对构造的所述虹膜识别模型进行训练,获取原模型参数值,利用梯度下降得到期望参数值,并更新原模型参数值;同时对损失函数引入L2正则化;得到最优虹膜图像识别模型,进行虹膜识别。
优选的,在上述的一种基于小样本学习的虹膜识别方法中,所述预处理的具体步骤包括:
定位完成对虹膜图像进行分割,并保存分割后的虹膜图像;
进一步,使用Daugman方法进行虹膜图像归一化处理;
获得归一化的虹膜图像后对进行直方均衡化处理,预处理完成。
优选的,在上述的一种基于小样本学习的虹膜识别方法中,所述特征提取网络在MAML内嵌的网络模型的基础上增加2个卷积层,其中每个卷积层为具有32个大小为3×3卷积核,一个批归一化处理单元,一个ReLU激活函数。
进一步,所提MAML的基础上,为了在内循环内部进行更为充分的学习,减少训练过程的过拟合现象,提高算法的泛化性以更好地适应新任务;同时随着内循环中梯度步数的增加,模型参数对元参数的依赖关系会缩小和消失,从而使元学习变得困难。于是在损失函数中引入正则化约束,在原有交叉熵损失函数的基础上加入L2正则化。
优选的,在上述的一种基于小样本学习的虹膜识别方法中,对损失函数引入L2正则化具体步骤如下:
引入L2正则化的交叉熵损失函数为:
优选的,在上述的一种基于小样本学习的虹膜识别方法中,更新原模型参数值具体步骤如下:
从给定的分布任务Ti~p(T)中选取组成训练所用的task,其中每个task包含K个类别,每个类别包含N个样本;
其中α为内循环使用的元训练学习率,此时通过计算来获得它在对应的task上的期望参数θi;
其中,β为原模型参数θ更新中的学习率。
优选的,在上述的一种基于小样本学习的虹膜识别方法中,引入L2正则化的原模型参数值更新步骤如下:
原模型参数θ,fθ为原模型中原模型参数θ的映射,即原模型参数值,新任务ti时,期望参数为θi′,通过一次或多次的梯度更新计算得到,考虑到加入的L2正则化约束,一次单独的梯度更新计算如下所示:
其中,θ为原模型参数,fθ′为期望参数值,通过从分布p(T)中采样的任务训练进行优化,元目标表示为:
通过使用随机梯度下降,元学习的优化通过任务Ti~p(T)来进行,原模型参数θ如下调整:
其中β表示原模型参数θ更新中的学习率,等式(3)代入(5),得到
进一步,对MAML内嵌的网络模型做了改进,MAML算法内嵌的模型架构包含4个模块,每个模块具有32个大小为3×3卷积核,一个批归一化处理单元,一个ReLU激活函数以及一个大小为2×2的最大池化处理单元。此外,最后一层使用softmax函数来进行分类。MAML内嵌的网络模型是一个浅层的卷积网络,特征提取能力还有进一步提升的空间。
在原先四层的基础上增加了两个模块,以增强内嵌网络的特征提取能力,新增加的两个模块其余的组成与前几个模块的组成相同,只是不经过最大池化处理。
经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种基于小样本学习的虹膜识别方法,基于元学习的模型无关自适应(Model-Agnostic Meta-Learning以下简称MAML)算法的基础上进行了改进,对MAML的交叉熵损失函数进行改进,引入L2正则化,在内循环内部进行更为充分的学习,减少训练过程的过拟合现象,提高算法的泛化性以更好地适应新任务;同时使元学习变简,进一步嵌套特征提取网络,增强内嵌网络的特征提取能力。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1附图为本发明的方法流程图;
图2附图为本发明的盘状内核示意图;
图3(a)附图为本发明的虹膜图像的原始图像;
图3(b)附图为本发明的虹膜图像的二进制掩码图;
图3(c)附图为本发明的虹膜图像的分割后的图像;
图4附图为本发明的虹膜图像归一化图像;
图5附图为本发明的虹膜图像直方均衡化图像;
图6(a)为CASIA-Iris-Interval数据集使用MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图6(b)为CASIA-Iris-Interval数据集使用改进MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图7(a)为CASIA-Iris-Lamp使用MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图7(b)为CASIA-Iris-Lamp使用改进后的MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图7(c)为CASIA-Iris-Lamp使用MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线;
图7(d)为CASIA-Iris-Lamp使用改进后MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线;
图8(a)为JLU-V1.0使用MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图8(b)为JLU-V1.0使用改进后的MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;
图8(c)为JLU-V1.0使用MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线;
图8(d)为JLU-V1.0使用改进后MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线;
图9附图为本发明的特征提取网络结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种基于小样本学习的虹膜识别方法,如图1所示,具体步骤包括如下:
S101获取虹膜图像,并对所述虹膜图像进行预处理,得到数据集;
S102在MAML框架下嵌套特征提取网络,构造虹膜图像识别模型;
S103对构造的所述虹膜识别模型进行训练,获取原模型参数值,利用梯度下降得到期望参数值,并更新原模型参数值;同时对损失函数引入L2正则化;
S104得到最优虹膜图像识别模型,进行虹膜识别。
为了进一步优化上述技术方案,S101中,获取虹膜图像,并对所述虹膜图像进行预处理,得到数据集;
使用的虹膜数据集来自中国科学院自动化研究所免费公开的数据库CASIA V4.0虹膜库中的CASIA-Iris-Interval子集,从中选取了200组作为实验使用的数据集,其中每组的虹膜样本数均为5,共计1000个样本。
实验过程中将200组样本分为三部分,分别为训练组、验证组以及测试组。其中用于训练的组数为128,用于验证的组数为32,用于测试的组数为40。每组所含样本数均为5,有各自对应的类别标签,类别标签存储在CSV文件里。每组为同一个人的虹膜样本。元训练阶段的每个task随机选择5个类别的虹膜样本,每个类选取1个样本组成训练样本,即5way1 shot。CASIA-Iris-Interval数据集因数据体量过小,只用于5-way 1-shot实验。所谓5-way 1-shot,即元训练阶段每个task随机选择5个类别的虹膜样本,每个类选取1个样本组成训练样本。
进一步,其中预处理的过程如下:
需要了解的是:虹膜区域的精确定位对于提高虹膜识别***的准确性和可靠性起着重要的作用,因为***后续各阶段的性能,将直接取决于被检测到的虹膜图像质量。虹膜定位的目的是检测虹膜区域的两个边界:内(瞳孔-虹膜)边界和外(虹膜-巩膜)边界。通过质量评价后得到人眼图像,下一步进行的操作为进行虹膜定位,即将位于瞳孔和巩膜之间的虹膜区域提取出来,顺带去除噪声(如眼睫毛的干扰和眼皮)的影响。瞳孔、巩膜和虹膜三者之间的根本性差异在于像素分布上有所不同,瞳孔部分在灰度直方图中更趋近于黑色,巩膜更趋近于白色,而虹膜区域的灰度值在巩膜和瞳孔之间。
进一步,本发明的实施例采用Osiris v4.1***对虹膜虹膜区域进行定位与分割,并将分割后的图像进行归一化处理。
(1)虹膜图像的定位与分割
瞳孔的定位是分割步骤的第一步,在Osiris v4.1中使用两个标准来定位瞳孔:
为了加快搜索速度,对图像进行降采样操作,然后以过滤器的形式重写上面提到的两个条件。假设已经知道瞳孔的半径r。如图2所示,第一个标准对应于找到由大小为r2的盘状内核过滤的图像中的最小值,该过滤操作等效于对盘状邻域中的所有像素求和。为了使所得的结果值的区间落在0到1范围内,需要进行标准化处理,并且将结果取反,以便使结果值0对应于良好的瞳孔样本,结果值1对应于效果欠佳的瞳孔样本。
第一个标准改写为:
第二个准则通过以下方式实现:
1、使用Sobel算子计算图像的水平和垂直梯度图XGp和YGp。
2、构建两个尺寸为r2的环形内核XOP和YOP。
3、使用XOP和YOP分别对XGp和YGp进行过滤操作。
4、在两个过滤的总和中找到最大值的位置。
第二个标准得出的值在0(轮廓上的梯度不是径向=>效果欠佳瞳孔)和1(优良瞳孔)之间,与第一个标准相同。因此,可以简单地将两个标准的值相加,并且最大值指示瞳孔中心的位置。由于瞳孔半径r不是先验已知的,所以需要在不断变化的半径r上不断重复此过程,得出总的最大值就是瞳孔的中心(0,r)。
为了检索虹膜轮廓,将Viterbi算法应用在通过各向异性平滑处理的图像的梯度图上。Viterbi算法有两种分辨率:一种是高分辨率,可以找到精确的轮廓;另一种是低分辨率,能够检索出能进一步提高归一化圆精度的粗轮廓。这里Osiris v4.1使用第二种。分割完成后如图3(a)-(c)所示,Osiris v4.1可以保存分割后的图像。瞳孔和虹膜圆用绿色绘制,而蒙版指示的非虹膜像素则用红色着色。该图像仅有助于查看结果,而未用于进一步处理。
(2)虹膜图像归一化
检测到虹膜边界并对其定位后,将虹膜进行归一化处理,虹膜归一化过程主要是消除不同光照条件下瞳孔扩张导致虹膜区域拉伸所造成的尺寸不一致性的问题。造成尺寸不一致的原因包括成像距离的改变,虹膜纹理的弹性变形,相机或眼睛的旋转等等。为了解决上述问题,使用Daugman方法,进行虹膜归一化处理,将虹膜图像从极坐标转换为直角坐标,将原始虹膜区域图像的每个点I(r,θ)映射在归一化直角坐标I(x,y)上。虹膜区域的归一化映射可以用数学方法定义,如下所示:
I(r,θ)→I(x(r,θ),y(r,θ));
x(r,θ)=(1-r)xp(θ)rxi(θ);
y(r,θ)=(1-r)yp(θ)ryi(θ);
归一化后的虹膜图像用直角坐标系下坐标I(x,y)表示。参数xp,xi,yp,yi,是瞳孔和虹膜边界沿着θ的方向的坐标,图4展示了虹膜图像归一化后的图像。
虹膜图像通过归一化操作后,虹膜纹理区域从环状变成了矩形区域,由于虹膜前期
预处理经过很多步骤,虹膜图像会受采集光照、定位误差等不利因素的影响。所以归一化后的图像清晰度不是很高,需要对归一化后的图像做一下增强处理,增加图像的对比度。直方图均衡化(Histogram Equalization)是一种增强图像对比度的方法,其主要思想是将图像的直方图分布变成近似均匀分布,从而增强图像的对比度。直方图均衡化虽然只是数字图像处理里面的基本方法,但是其作用很强大,是一种很经典的算法,在获得归一化的虹膜图像后对其进行直方均衡化处理,处理后的虹膜图像样例如图5所示。
训练阶段,迭代次数统一设置为20000步,每经过500步进行一次验证,meta_batch_size大小统一设置为2,即一次迭代中包含两个task,MAML及改进MAML训练阶段实验的具体参数设置见对应表1。
表1训练阶段相关设置
相关参数 | 参数值 |
内部更新学习率 | <![CDATA[1.0x10<sup>-2</sup>]]> |
内部更新次数 | 5 |
内部更新抽取任务个数 | 5 |
单个任务中每类抽取数据帧数 | 1 |
meta-batchsize | 2 |
外部更新学习率 | <![CDATA[1.0x10<sup>-3</sup>]]> |
优化器 | Adam |
表2 MAML及改进MAML训练实验结果
图6其中(a)(b)为CASIA-Iris-Interval数据集使用MAML以及改进后的MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线。
从表2中可以看出,改进后的MAML较MAML相比,准确度提高了5.39%;在图6训练阶段的train_acc及train_loss的变化曲线图上,可以看到在train_acc变化曲线上,改进后的MAML较MAML相比,曲线更加平稳,波动幅度更小,更早达到高点;在train_loss变化曲线上,改进后的MAML loss值曲线整体一直位于MAML loss值曲线下,且更快收敛。以上实验结果显示了改进MAML方法在CASIA-Iris-Interval数据集上较MAML相比识别性能得到了提高。
实施例二:
实验使用的虹膜数据集来自CASIA V4.0虹膜库中的CASIA-Iris-Lamp子集,从中选取了200组作为实验使用的数据集,其中每组的虹膜样本数均为20,共计4000个样本。
虹膜图像同例一一样进行预处理,经过归一化处理后的虹膜图像首先统一处理为大小为84×84大小的正方形图片。
实验过程中将200组样本分为三部分,分别为训练组、验证组以及测试组。其中用于训练的组数为128,用于验证的组数为32,用于测试的组数为40。每组所含样本数均为20,有各自对应的类别标签,类别标签存储在CSV文件里。每组为同一个人的虹膜样本。之后进行5-way 1-shot及5-way 5-shot实验。
训练的迭代次数设为20000步,每经过500步进行一次验证,meta_batch_size大小设置为2,即一次迭代中包含两个task。元训练阶段,5-way1-shot实验每个task随机选择5个类别的虹膜样本,每个类选取1个样本组成训练样本;5-way 5-shot实验每个task随机选择5个类别的虹膜样本,每个类选取5个样本组成训练样本;学习率设置为0.001。MAML及改进MAML 5-way1-shot训练阶段实验的具体参数设置见对应表3,MAML及改进MAML 5-way5-shot训练阶段实验的具体参数设置见对应表4。
表3 5-way 1-shot训练阶段相关设置
相关参数 | 参数值 |
内部更新学习率 | <![CDATA[1.0x10<sup>-2</sup>]]> |
内部更新次数 | 5 |
内部更新抽取任务个数 | 5 |
单个任务中每类抽取数据帧数 | 1 |
meta-batchsize | 2 |
外部更新学习率 | <![CDATA[1.0x10<sup>-3</sup>]]> |
优化器 | Adam |
表4 5-way 5-shot训练阶段相关设置
相关参数 | 参数值 |
内部更新学习率 | <![CDATA[1.0x10<sup>-2</sup>]]> |
内部更新次数 | 5 |
内部更新抽取任务个数 | 5 |
单个任务中每类抽取数据帧数 | 1 |
meta-batchsize | 2 |
外部更新学习率 | <![CDATA[1.0x10<sup>-3</sup>]]> |
优化器 | Adam |
表5 MAML及改进MAML训练实验结果
图7其中(a)(b)为CASIA-Iris-Lamp使用MAML以及改进后的MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;(c)(d)为CASIA-Iris-Lamp使用MAML以及改进后的MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线。
表5显示,在CASIA-Iris-Lamp数据集在5-way 1-shot实验中,改进后的MAML较MAML相比,准确度提高了3.39%;5-way 5-shot实验中,改进后的MAML较MAML相比,准确度提高了0.7%。在图7所示的5-way 1-shot,5-way 5-shot实验过程train_acc及train_loss变化曲线中,改进后的MAML较MAML相比,train_acc曲线更加平稳,波动幅度更小;在train_loss变化曲线上,改进后的MAML loss值曲线一直位于MAML loss值曲线下,且波动更小,更快收敛。实验结果证明了改进MAML方法在CASIA-Iris-Lamp数据集上较MAML相比识别性能得到了提高。
实施例三:
实验使用JLU-V1.0虹膜数据集,JLU-V1.0是吉林大学计算机科学与技术学院,生物识别与信息安全技术研究室用自主研发的采集设备建立的第一代虹膜库,库中包含300类70618幅图像。从中选取了193组用于实验,每组所含的虹膜样本数为20,共计3860个样本。以上数据集每组所含的虹膜样本均属于同一人,即每组样本归属于同一类。虹膜图像同例二一样进行预处理,经过归一化处理后的虹膜图像首先统一处理为大小为84×84大小的正方形图片;
实验过程中将193组样本分为三部分,分别为训练组、验证组以及测试组。其中用于训练的组数为127,用于验证的组数为30,用于测试的组数为36。每组所含样本数均为20,有各自对应的类别标签,类别标签存储在CSV文件里。之后进行5-way 1-shot及5-way 5-shot实验。
训练的迭代次数设为20000步,每经过500步进行一次验证,meta_batch_size大小设置为2,即一次迭代中包含两个task。元训练阶段,5-way1-shot实验每个task随机选择5个类别的虹膜样本,每个类选取1个样本组成训练样本;5-way 5-shot实验每个task随机选择5个类别的虹膜样本,每个类选取5个样本组成训练样本;学习率设置为0.001。MAML及改进MAML 5-way1-shot及5-way 5-shot训练阶段参数同实验二MAML及改进MAML 5-way1-shot及5-way 5-shot训练阶段的参数保持一致。
表6 MAML及改进MAML训练实验结果
图8(a)(b)为JLU-V1.0使用MAML以及改进后的MAML进行5-way 1-shot实验,实验过程train_acc及train_loss的变化曲线;(c)(d)为JLU-V1.0使用MAML以及改进后的MAML进行5-way 5-shot实验,实验过程train_acc及train_loss的变化曲线。
在JLU-V1.0数据集在5-way 1-shot实验中,改进后的MAML较MAML相比,准确度提高了0.14%;5-way 5-shot实验中,改进后的MAML较MAML相比,准确度提高了0.11%。在图8所示的5-way 1-shot,5-way 5-shot实验过程train_acc及train_loss变化曲线中,改进后的MAML较MAML相比,train_acc曲线更加平稳,波动幅度更小,尤其在5-way 5-shot实验时,改进后的MAML训练过程中的train_acc值一直保持1;在train_loss变化曲线上,改进后的MAML loss较MAML loss值曲线波动更小,更快收敛,以上实验结果证明了改进MAML方法在JLU-V1.0数据集上较MAML相比识别性能得到了提高。
为了验证改进方案实验的鲁棒性,使用CASIA-Iris-Interval数据集图片进行了不同程度的旋转,旋转角度的范围步长为正负2度,作为实验的测试图片输入,下表记录了实验结果,为了更好在鲁棒性方面做对比,使用DeepIrisNet-A模型作为baseline,使用相同的数据集进行训练并对测试集进行相同旋转操作记录实验结果作为对照。
表7测试图像旋转准确率
-8 | -6 | -4 | -2 | 0 | +2 | +4 | +6 | +8 | |
Baseline | 67 | 69 | 72.5 | 71.5 | 73.5 | 73.5 | 71.5 | 69.5 | 68 |
Ours(1-shot) | 98.69 | 98.49 | 98.89 | 98.99 | 99.26 | 98.97 | 98.83 | 98.89 | 98.10 |
从表7可以看出,改进的方法在测试阶段,测试集的准确率受测试图片旋转角度的影响不大,能保持较高的准确率而且都要优于baseline所取得的实验结果,从而证明了提出方法可以对可能范围内的旋转变化进行补偿。
进一步,还评估了输入图像尺寸对准确率的影响,输入图片的尺寸设置为以下五种尺寸60×60、84×84、100×100、128×128以及140×140,根据实验结果来看本文采用的84×84准确率最高,增大或减小尺寸都会带来准确率的降低。
表8测试图像旋转准确率
对MAML网络模型的改进过程中也做了许多其他的尝试,如考虑结合残差卷积模块或者以及考虑引入inception模块等,但最终的效果都没有最终采用的方案效果好,下表是使用CASIA-Iris-Lamp作为数据集在网络模型修改尝试实验时取得准确率的记录。
表9不同MAML内嵌网络结构在Lamp数据集上的结果
还使用深度学习的方法在同样小样本虹膜数据集上进行实验,选取具有代表性的网络模型做特征提取结构,作为提出小样本虹膜识别方法的评价标准。
表10各深度学习方法在数据集上的识别准确率
表11小样本学习方法在不同数据集上的准确率
在小样本学习方法中,MAML(improve)在CASIA-Iris-Interval数据集上达到的最高识别准确率为99.09%,在CASIA-Iris-Lamp上最高实现了98.9%的识别准确率;MAML在在CASIA-Iris-Lamp上最高实现了98.2%的识别准确率,均高于深度学习方法中DeepirisNet-B在CASIA-Iris-Interval上取得的最高识别准确率84.5%以及Inception-V3在CASIA-Iris-Lamp上取得的96.87%。在JLU-V1.0数据集上,MAML(improve)取得了的最高99.95%的识别准确率,MAML取得了的最高99.84%的识别准确率,均高于深度学习方法中DenseNet在JLU-V1.0上取得的最高准确率98.12%,证明了MAML及其改进方法在小样本虹膜识别上的有效性。通过以上实验结果也进一步验证了对MAML网络结构的改进以及对交叉熵损失函数添加L2正则化的有效性。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (5)
3.根据权利要求1所述的一种基于小样本学习的虹膜识别方法,其特征在于,所述特征提取网络在MAML内嵌的网络模型的基础上增加2个卷积层,其中每个卷积层为具有32个大小为3×3卷积核,一个批归一化处理单元,一个ReLU激活函数。
5.根据权利要求1所述的一种基于小样本学习的虹膜识别方法,其特征在于,引入L2正则化的原模型参数值更新步骤如下:
原模型参数θ,fθ为原模型中原模型参数θ的映射,即原模型参数值,新任务ti时,期望参数为θ′i,通过一次或多次的梯度更新计算得到,考虑到加入的L2正则化约束,一次单独的梯度更新计算如下所示:
其中,θ为原模型参数,f′θ为期望参数值,通过从分布p(T)中采样的任务训练进行优化,α为内循环使用的元训练学习率,因此元目标表示为:
通过使用随机梯度下降,元学习的优化通过任务Ti~p(T)来进行,原模型参数θ如下调整:
其中β表示原模型参数θ更新中的学习率,等式(3)代入(5),得到
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110216895.2A CN112949454B (zh) | 2021-02-26 | 2021-02-26 | 一种基于小样本学习的虹膜识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110216895.2A CN112949454B (zh) | 2021-02-26 | 2021-02-26 | 一种基于小样本学习的虹膜识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112949454A CN112949454A (zh) | 2021-06-11 |
CN112949454B true CN112949454B (zh) | 2023-04-18 |
Family
ID=76246445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110216895.2A Active CN112949454B (zh) | 2021-02-26 | 2021-02-26 | 一种基于小样本学习的虹膜识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112949454B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114047691A (zh) * | 2022-01-10 | 2022-02-15 | 杭州海康威视数字技术股份有限公司 | 自适应学习率协同优化的目标识别方法、装置及电子设备 |
CN115083006A (zh) * | 2022-08-11 | 2022-09-20 | 北京万里红科技有限公司 | 虹膜识别模型训练方法、虹膜识别方法及装置 |
CN117877103B (zh) * | 2024-03-13 | 2024-05-24 | 宁波市眼科医院 | 一种基于深度元学习的角膜炎智能筛查方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2945102A1 (en) * | 2014-05-15 | 2015-11-18 | Ricoh Company, Ltd. | Image processing apparatus, method of processing image, and program |
CN109447099A (zh) * | 2018-08-28 | 2019-03-08 | 西安理工大学 | 一种基于pca降维的多分类器融合方法 |
CN109961089A (zh) * | 2019-02-26 | 2019-07-02 | 中山大学 | 基于度量学习和元学习的小样本和零样本图像分类方法 |
CN111242063A (zh) * | 2020-01-17 | 2020-06-05 | 江苏大学 | 基于迁移学习的小样本分类模型构造方法及虹膜分类应用 |
-
2021
- 2021-02-26 CN CN202110216895.2A patent/CN112949454B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2945102A1 (en) * | 2014-05-15 | 2015-11-18 | Ricoh Company, Ltd. | Image processing apparatus, method of processing image, and program |
CN109447099A (zh) * | 2018-08-28 | 2019-03-08 | 西安理工大学 | 一种基于pca降维的多分类器融合方法 |
CN109961089A (zh) * | 2019-02-26 | 2019-07-02 | 中山大学 | 基于度量学习和元学习的小样本和零样本图像分类方法 |
CN111242063A (zh) * | 2020-01-17 | 2020-06-05 | 江苏大学 | 基于迁移学习的小样本分类模型构造方法及虹膜分类应用 |
Non-Patent Citations (5)
Title |
---|
MetaMix: Improved Meta-Learning with Interpolation-based Consistency Regularization;Yangbin Chen等;《arXiv》;20200929;第1-8页 * |
Meta-Regularization by Enforcing Mutual-Exclusiveness;Edwin Pan等;《arXiv》;20210124;第1-13页 * |
元学习研究综述;李凡长等;《计算机学报》;20210215;第44卷(第2期);第422-446页 * |
基于Res-MSRN的遥感图像少样本对象识别方法研究;习思;《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》;20200315;C028-151 * |
面向无人机小样本目标识别的元学习方法研究;李宏男等;《无人***技术》;20191115(第06期);第17-22页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112949454A (zh) | 2021-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112949454B (zh) | 一种基于小样本学习的虹膜识别方法 | |
CN111178432B (zh) | 多分支神经网络模型的弱监督细粒度图像分类方法 | |
Li et al. | Multi-task deep learning for fine-grained classification and grading in breast cancer histopathological images | |
Li et al. | SAR image change detection using PCANet guided by saliency detection | |
US20240202871A1 (en) | Three-dimensional point cloud upsampling method, system and device, and medium | |
CN107871322B (zh) | 虹膜图像分割方法和装置 | |
CN110175615B (zh) | 模型训练方法、域自适应的视觉位置识别方法及装置 | |
CN111274915B (zh) | 一种指静脉图像的深度局部聚合描述子提取方法及*** | |
CN114359998B (zh) | 一种人脸口罩佩戴状态下的识别方法 | |
CN110490915B (zh) | 一种基于卷积受限玻尔兹曼机的点云配准方法 | |
CN114492619B (zh) | 一种基于统计和凹凸性的点云数据集构建方法及装置 | |
CN114743259A (zh) | 位姿估计方法、位姿估计***、终端、存储介质及应用 | |
CN111507239B (zh) | 一种基于图像金字塔的局部特征人脸识别方法 | |
CN111369605A (zh) | 一种基于边缘特征的红外与可见光图像的配准方法和*** | |
Zhang et al. | A context-aware locality measure for inlier pool enrichment in stepwise image registration | |
CN111860834B (zh) | 一种神经网络调优方法、***、终端以及存储介质 | |
CN111507297B (zh) | 一种基于度量信息矩阵的雷达信号识别方法及*** | |
Das et al. | Hybrid descriptor definition for content based image classification using fusion of handcrafted features to convolutional neural network features | |
George et al. | Deep learned nucleus features for breast cancer histopathological image analysis based on belief theoretical classifier fusion | |
CN112070116B (zh) | 一种基于支持向量机的艺术画作自动分类***及方法 | |
CN110532867B (zh) | 一种基于黄金分割法的人脸图像聚类方法 | |
CN112232119A (zh) | 一种遥感纹理图像分割方法及装置 | |
CN106940786B (zh) | 一种基于lle和pso的使用虹膜模版的虹膜重构方法 | |
Guo et al. | Image guided fuzzy clustering for image segmentation | |
CN113051901B (zh) | 一种身份证文本识别方法、***、介质及电子终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |