CN113723238B - 一种人脸轻量网络模型构建方法和人脸识别方法 - Google Patents

一种人脸轻量网络模型构建方法和人脸识别方法 Download PDF

Info

Publication number
CN113723238B
CN113723238B CN202110947540.0A CN202110947540A CN113723238B CN 113723238 B CN113723238 B CN 113723238B CN 202110947540 A CN202110947540 A CN 202110947540A CN 113723238 B CN113723238 B CN 113723238B
Authority
CN
China
Prior art keywords
face
face recognition
network
lightweight
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110947540.0A
Other languages
English (en)
Other versions
CN113723238A (zh
Inventor
吴翔
苏晓生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Shenshen Technology Co ltd
Xiamen Ruiwei Information Technology Co ltd
Original Assignee
Beijing Shenshen Technology Co ltd
Xiamen Ruiwei Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Shenshen Technology Co ltd, Xiamen Ruiwei Information Technology Co ltd filed Critical Beijing Shenshen Technology Co ltd
Priority to CN202110947540.0A priority Critical patent/CN113723238B/zh
Publication of CN113723238A publication Critical patent/CN113723238A/zh
Application granted granted Critical
Publication of CN113723238B publication Critical patent/CN113723238B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本发明公开了一种基于嵌入空间蒸馏的人脸识别轻量级网络模型构建方法和人脸识别方法，包括：A、获取指定数量的标记有人脸身份类别信息的人脸数字图像作为训练数据集；B、基于softmax损失函数，利用所述的训练数据集对一个重量的人脸识别卷积神经网络进行训练，获取训练后的模型；C、基于嵌入空间蒸馏损失函数，利用B阶段所获取的训练模型和训练数据集对轻量级的人脸识别卷积神经网络进行训练，获取训练后的轻量级人脸识别模型。本发明可以充分利用重量模型训练获取的先验知识，有效提升轻量级人脸识别模型的准确度，以适应计算资源有限的嵌入式平台的人脸识别任务。

Description

一种人脸轻量网络模型构建方法和人脸识别方法
技术领域
本发明涉及计算机视觉、人脸识别、模式识别、机器学习、深度学习等技术领域，特别涉及一种人脸轻量网络模型的构建方法和人脸识别方法。
背景技术
人脸识别技术(Face Recognition)的发展从20世纪70年代开始兴起，是计算机视觉领域(Computer Vision)迄今为止最热门的研究问题之一。作为一种最易普及的生物特征识别技术，人脸识别的应用场景众多，其最传统的场景莫过于安防、门禁、监控领域。无论是在安检进出关的闸口，还是银行保险柜的安全门锁，都出现了人脸识别的身影。相较于传统的密码、证件、门卡等安全手段，人脸识别因为是一个天然的贴在脸上的“身份证”，具有极难伪造的属性。基于面部识别的技术在军事和民用领域得到了广泛应用。此外，运用“交互式指令+连续性判定+3D判定”的技术，人脸识别技术还被广泛应用于线上、线下刷脸支付***。随着人脸识别技术的广泛应用，移动端和嵌入式设备的算法需求越来越多，当前人脸识别算法主要基于卷积神经网络(Convolutional Neural Networks,简称CNN)模型。而CNN模型普遍模型比较大，同时在计算能力较弱的手机移动端和嵌入式平台上，推理速度慢。
基于上述问题，目前亟需一种轻量级的人脸卷积神经网络的构建方法，以实现满足移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以精准有效的识别出人脸信息。
发明内容
本发明所要解决的技术问题之一在于提供一种基于嵌入空间蒸馏的人脸轻量网络模型构建方法，使用该方法训练轻量级人脸卷积神经网络模型，可以既在移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以保证人脸卷积网络模型的精度，精确有效的识别出人脸信息。
本发明所要解决的技术问题之二在于提供一种人脸识别方法，可以既在移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以保证人脸卷积网络模型的精度，精确有效的识别出人脸信息。
本发明是这样实现的：
一种人脸轻量网络模型构建方法，包括如下步骤：
步骤A、获取指定数量的标记有人脸身份类别信息的人脸数字图像作为训练数据集；
步骤B、基于softmax损失函数，利用所述训练数据集对一个重量的人脸识别卷积神经网络T进行训练，获取训练后的模型；
步骤C、基于嵌入空间蒸馏损失函数，利用步骤B阶段所获取的训练模型和训练数据集对轻量级的人脸识别卷积神经网络S进行训练，获取训练后的轻量级人脸识别模型。
进一步地，所述步骤B，具体包括：
步骤B1、利用所述训练数据集训练后，获取一个人脸识别卷积网络T；
步骤B2、定义zT为所述人脸识别卷积网络T最后一个全连接层的输出；定义pT为所述人脸识别卷积网络T经过softmax获取的输出概率，则
其中，表示所述人脸识别神经网络T输出概率pT的第i维输出；/>表示所述人脸识别卷积网络T最后一个全连接输出zT的第i维输出；/>表示所述人脸识别卷积网络T最后一个全连接输出zT的第j维输出；K表示所述训练数据集的总类别数；zT、pT均为K维的列向量；
步骤B3、定义fT为所述人脸识别神经网络T的输出特征；定义为所述人脸识别卷积网络T对应第yi类的特征向量的中心向量，/>表示为
其中，表示所述训练数据集第yi类的样本数量；/>表示所述人脸识别卷积网络T对应第j个样本的输出特征；/>均为D维的列向量；D为所述人脸识别卷积网络T特征向量的维度。
进一步地，所述步骤C包括：
步骤C1、随机初始化一轻量级人脸识别卷积网络S，定义zS为所述轻量级人脸识别卷积网络S最后一个全连接层的输出；定义pS为所述轻量级人脸识别卷积网络S经过softmax获取的输出概率；定义fS为所述轻量级人脸识别卷积网络S的输出特征；
步骤C2、定义目标函数1，所述目标函数1为：
其中，N表示所述训练数据集样本总数；yi表示第i个样本对应的类别标签；表示第i个样本对应所述轻量级人脸识别卷积网络S的最后一个全连接层的第yi维输出；/>表示第i个样本对应所述轻量级人脸识别卷积网络S最后一个全连接层的第j维输出；K表示所述训练数据集的总类别数；τ和λ分别表示给定的常数；
步骤C3、定义目标函数2，所述目标函数2为：
其中，N表示所述训练数据集样本总数；yi表示第i个样本对应的类别标签；fi S表示第i个样本对应所述轻量级人脸识别卷积网络S的输出特征；表示所述人脸识别卷积网络T对应第yi类的中心向量；/>表示表示所述人脸识别卷积网络T对应第j类的中心向量；
步骤C4、根据步骤C2、步骤C3所述，该方法的目标函数表示为：
Ltotal＝λ1L1+λ2L2
其中，λ1和λ2为常数；
步骤C5、将步骤C4的所述目标函数Ltotal作为损失函数，利用所述训练数据集，根据基于随机梯度下降的反向传播算法，更新所述轻量级人脸识别卷积网络S中可学习的模型参数，以获取更新处理后的基于嵌入空间蒸馏的人脸轻量网络模型。
进一步地，所述步骤C5，还包括：
在使用随机梯度下降的反向传播算法优化更新网络时，由于直接固定来自所述人脸识别卷积网络T的中心向量容易造成模型收敛困难甚至不收敛，所述基于嵌入空间蒸馏的人脸轻量网络模型采用一种近似更新中心向量/>的策略：
其中，表示第t次迭代后所述人脸识别卷积网络T对应第yi类的中心向量；表示当前迭代的批量下所述训练数据集中类别标签为yi的样本数；/>表示第j个样本对应所述轻量级人脸识别卷积网络S的输出特征。
进一步地，所述步骤C5的所述基于嵌入空间蒸馏的人脸轻量网络模型的判断方法为：
获取指定数量的标记有人脸身份信息标签的人脸数字图像，并且根据人脸身份信息标签，构建测试的正样本对和负样本对，作为测试数据集；利用步骤C5所述基于嵌入空间蒸馏的人脸轻量网络模型对所有测试数据集中的人脸数字图像提取特征，并且利用提取到的特征计算测试数据集各个样本对的余弦距离；根据正负样本对的余弦距离，利用接受者操作特征曲线(Receiver Operating Characteristic curve)，评估所述基于嵌入空间蒸馏的人脸轻量网络模型。
一种人脸识别方法，基于如上所述的一种人脸轻量网络模型构建方法，包括：
步骤1、获取待识别的人脸数字图像；
步骤2、将所述人脸数字图像输入所述基于嵌入空间蒸馏的人脸轻量网络模型中，通过所述基于嵌入空间蒸馏的人脸轻量网络模型提取人脸特征，并与预存的人脸数字图像特征进行匹配识别。
本发明的优点在于：该基于嵌入空间蒸馏的人脸轻量网络模型的构建方法可以有效的提升轻量级人脸卷积网络的识别性能。使用该方法训练轻量级人脸卷积神经网络模型，可以既在移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以保证人脸卷积网络模型的精度，精确有效的识别出人脸信息。
附图说明
图1是发明的一种基于嵌入空间蒸馏的人脸轻量网络学习的构建方法的示意图；
图2为发明的一种基于嵌入空间蒸馏的人脸轻量网络学习的构建方法的流程图。
具体实施方式
为了使本发明的目的、技术实现方案以及效果更加清楚，以下结合实施例，对本发明进行详细说明。应当理解为此处所描述的具体实施例仅用来解释本发明中提出的方法，并不用于限制本发明的保护范围。
本发明为了提升在移动端和嵌入式设备等低算力平台下轻量级人脸卷积网络的人脸识别性能，提出了基于嵌入空间蒸馏的人脸轻量网络学习的构建方法。本申请基于嵌入空间蒸馏损失函数，使用重量人脸识别卷积神经网络T提供的监督信息约束轻量级的人脸识别卷积神经网络S，可以有效的保证轻量级人脸卷积网络模型的精度。
实施例一
如图1和图2所示，本发明提出了一种基于嵌入空间蒸馏的人脸轻量网络模型的构建方法，该方法可以用于轻量级的人脸卷积网络的训练，完成移动端或嵌入式平台的人脸识别任务，所述构建方法包括：
步骤S101，获取规定数量的具有人脸身份信息标签的人脸数字图像作为训练数据集。本发明使用私有数据集作为人脸识别训练数据集，该数据集包含979,403人11,416,230张人脸数字图像；
步骤S102，基于softmax损失函数，使用步骤S101中构建的训练数据集对一重量的人脸卷积网络模型进行训练，获取训练后的模型T并提取其相关嵌入空间信息。其中，所述重量人脸卷积网络模型由101个卷积层由浅到深排列，使用maxout作为激活函数；
具体的，包括：
步取S1021，使用步骤S101中构建的训练数据集对重量人脸卷积网络进行训练，获取训练后的重量人脸卷积网络模型T。
步骤S1022，使用步骤S1021中训练后的模型T进行嵌入空间信息的提取，
其中，zT为人脸识别卷积网络T最后一个全连接层的输出；pT为人脸识别卷积网络T经过softmax获取的输出概率，pT可以表示为
其中，表示所述人脸识别神经网络T输出概率pT的第i维输出；/>表示所述人脸识别卷积网络T最后一个全连接输出zT的第i维输出；/>表示所述人脸识别卷积网络T最后一个全连接输出zT的第j维输出；K表示所述的训练数据集的总类别数；zT、pT均为K维的列向量；
步骤S1023，使用步骤S1021中训练后的模型T进行嵌入空间信息的提取，
其中fT为人脸识别神经网络T的输出特征；定义为人脸识别卷积网络T对应第yi类的特征向量的中心向量；/>可以表示为
其中，表示训练数据集第yi类的样本数量；/>表示人脸识别卷积网络T对应第j个样本的输出特征；/>均为D维的列向量；D为人脸识别卷积网络T特征向量的维度；
步骤S103，基于嵌入空间蒸馏损失函数，利用步骤S102阶段所获取的训练模型T、嵌入空间信息zT、pT、和训练数据集对轻量级的人脸识别卷积神经网络S进行训练，获取训练后的轻量级人脸识别模型S；
具体的，包括：
步骤S1031，定义目标函数1；
其中，目标函数1为：
其中，N表示训练数据集样本总数；yi表示第i个样本对应的类别标签；表示第i个样本对应轻量级人脸识别卷积网络S的最后一个全连接层的第yi维输出；/>表示第i个样本对应轻量级人脸识别卷积网络S最后一个全连接层的第j维输出；K表示训练数据集的总类别数；τ和λ分别表示给定的常数；
步骤S1032，定义目标函数2；
其中，目标函数2为：
其中，N表示训练数据集样本总数；yi表示第i个样本对应的类别标签；fi S表示第i个样本对应轻量级人脸识别卷积网络S的输出特征；表示人脸识别卷积网络T对应第yi类的中心向量；/>表示表示人脸识别卷积网络T对应第j类的中心向量；
步骤S1033，根据S1031和S1032，该方法的目标函数可以表示为：
Ltotal＝λ1L1+λ2L2
其中，λ1和λ2为常数；
S1034，将目标函数Ltotal作为损失函数，利用训练数据集，根据基于随机梯度下降的反向传播算法，更新轻量级人脸识别卷积网络S中可学习的模型参数，以获取更新处理后的基于嵌入空间蒸馏的人脸轻量网络模型；
步骤S104，在使用随机梯度下降的反向传播算法优化更新网络时，由于直接固定来自人脸识别卷积网络T的中心向量容易造成模型收敛困难甚至不收敛，本文所述基于嵌入空间蒸馏的人脸轻量网络学习采用了一种近似更新中心向量/>的策略：
其中，表示第t次迭代后人脸识别卷积网络T对应第yi类的中心向量；/>表示当前迭代的批量下所述训练数据集中类别标签为yi的样本数；/>表示第j个样本对应轻量级人脸识别卷积网络S的输出特征；
步骤S105，判断是否需要继续优化更新所述的轻量级人脸卷积神经网络的可学习参数，判断为是时，返回执行步骤S103。判断为否时，执行步骤S106；
具体的，对于判断是否需要继续迭代优化更新的方法是：
从步骤S101中获取的训练数据集中分出指定数量的带有人脸身份标签信息的人脸数字图像，构建验证数据集；
利用步骤S1034更新处理后的基于嵌入空间蒸馏的人脸轻量网络模型S对所述的验证数据集进行分类测试；当所述的验证数据集的测试分类准确率未达到规定准确率时，则判断为需要继续迭代优化，则重复步骤S103-S104步骤。当判断所述的验证数据集的测试分类准确率达到规定准确率时，执行步骤S106；
步骤S106，保存所述的基于嵌入空间蒸馏的人脸轻量神经网络模型S。
为了更加清晰地说明本申请构建的人脸轻量模型与现有人脸识别算法的显著优越性，现在将本发明的人脸识别模型测试结果公开如下：
本发明共提供两个测试数据集,其一，从公开数据集Labeled Face in the Wild(简称LFW)中获取13,233张人脸数字图像，总计5,749人，将其作为测试集1；其二，构建一个私有数据集，其包含52,404人总计136,603张人脸数字图像，将其作为测试集2。利用所述的两个测试数据集对所述的训练后的轻量级人脸卷积神经网络模型进行测试。
其中，表1为本发明的人脸识别模型与另外5个现有的人脸识别模型在错误识别率为千分之一的正确识别率(TPR@FPR＝0.1％)、以及错误识别率为百分之一时检测命中率(DIR@FAR＝1％)在测试集1上的比较结果。表2为本发明的人脸识别模型与另外5个现有的人脸识别模型在错误识别率为万分之一的正确识别率(TPR@FPR＝0.01％)、错误识别率为十万分之一的正确识别率(TPR@FPR＝0.001％)、以及首选命中率(Rank-1)的比较结果。表3为本发明的轻量级人脸识别模型与另外5个现有的人脸识别模型在Intel(R)Core(TM)i9-9820X [email protected]、Intel(R)Xeon(R)CPU [email protected]、以及Hi3516C上的速度测试结果。根据表1和表2的对比可以发现，本发明的方法在两个数据集上的识别率均优于选取的5个对比模型。根据表3可以发现，本发明的方法训练处的模型速度均快于选取的5个对比模型。因此，本发明的模型可以既在移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以保证人脸卷积网络模型的精度，精确有效的识别出人脸信息。
表1：
表2：
表3：
实施例二
基于实施例一的一种基于嵌入空间蒸馏的人脸轻量网络模型的构建方法，本发明还提供了一种人脸识别方法，包括：
步骤D1、获取待识别的人脸数字图像；
步骤D2、将所述人脸数字图像输入实施一所述的基于嵌入空间蒸馏的人脸轻量网络模型中，通过所述的基于嵌入空间蒸馏的人脸轻量网络模型提取人脸特征，并与预存的人脸数字图像特征进行匹配识别。
综上所述，本发明的基于嵌入空间蒸馏的人脸轻量网络模的构建方法，基于嵌入空间蒸馏，使用该方法训练轻量级人脸卷积神经网络模型，可以既在移动端和嵌入式设备等低算力情况下快速推理满足实时计算要求，又可以保证人脸卷积网络模型的精度，精确有效的识别出人脸信息。同时，本发明所提出的创新方法，也可以应用到行人再识别、车辆再识别与其他物体识别任务中。
以上所述的仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围内。

Claims (4)

1.一种人脸轻量网络模型构建方法，其特征在于，包括如下步骤：
步骤A、 获取指定数量的标记有人脸身份类别信息的人脸数字图像作为训练数据集；
步骤B、基于softmax损失函数，利用所述训练数据集对一个重量的人脸识别卷积神经网络进行训练，获取训练后的模型；
所述步骤B具体包括：
步骤B1、利用所述训练数据集训练后，获取一个人脸识别卷积网络；
步骤B2、定义为所述人脸识别卷积网络/>最后一个全连接层的输出；定义/>为所述人脸识别卷积网络/>经过softmax获取的输出概率，则
其中，表示所述人脸识别神经网络/>输出概率/>的第/>维输出；/>表示所述人脸识别卷积网络/>最后一个全连接输出/>的第/>维输出；/>表示所述人脸识别卷积网络/>最后一个全连接输出/>的第/>维输出；/>表示所述训练数据集的总类别数；/>、/>均为/>维的列向量；
步骤B3、定义为所述人脸识别神经网络/>的输出特征；定义/>为所述人脸识别卷积网络/>对应第/>类的特征向量的中心向量，/>表示为
其中，表示所述训练数据集第/>类的样本数量；/>表示所述人脸识别卷积网络/>对应第/>个样本的输出特征；/>、/>均为D维的列向量；D为所述人脸识别卷积网络/>特征向量的维度；
步骤C、基于嵌入空间蒸馏损失函数，利用步骤B阶段所获取的训练模型和训练数据集对轻量级的人脸识别卷积神经网络进行训练，获取训练后的基于嵌入空间蒸馏的人脸轻量网络模型；包括：
步骤C1、随机初始化一轻量级人脸识别卷积网络，定义/>为所述轻量级人脸识别卷积网络/>最后一个全连接层的输出；定义/>为所述轻量级人脸识别卷积网络/>经过softmax获取的输出概率；定义/>为所述轻量级人脸识别卷积网络/>的输出特征；
步骤C2、定义目标函数1，所述目标函数1为：
其中，表示所述训练数据集样本总数；/>表示第/>个样本对应的类别标签；/>表示第个样本对应所述轻量级人脸识别卷积网络/>的最后一个全连接层的第/>维输出；/>表示第/>个样本对应所述轻量级人脸识别卷积网络/>最后一个全连接层的第/>维输出；/>表示所述训练数据集的总类别数；/>和/>分别表示给定的常数；
步骤C3、定义目标函数2，所述目标函数2为：
其中，表示所述训练数据集样本总数；/>表示第/>个样本对应的类别标签；/>表示第/>个样本对应所述轻量级人脸识别卷积网络/>的输出特征；/>表示所述人脸识别卷积网络/>对应第/>类的中心向量；/>表示所述人脸识别卷积网络/>对应第/>类的中心向量；
步骤C4、根据步骤C2、步骤C3所述，该方法的目标函数表示为：
其中，和/>为常数；
步骤C5、将步骤C4的所述目标函数作为嵌入空间蒸馏损失函数，利用所述训练数据集，根据基于随机梯度下降的反向传播算法，更新所述轻量级人脸识别卷积网络/>中可学习的模型参数，以获取更新处理后的基于嵌入空间蒸馏的人脸轻量网络模型。
2.根据权利要求1所述的一种人脸轻量网络模型构建方法，其特征在于，所述步骤C5，还包括：
在使用随机梯度下降的反向传播算法优化更新网络时，由于直接固定来自所述人脸识别卷积网络的中心向量/>容易造成模型收敛困难甚至不收敛，所述基于嵌入空间蒸馏的人脸轻量网络模型采用一种近似更新中心向量/>的策略：
其中，表示第/>次迭代后所述人脸识别卷积网络/>对应第/>类的中心向量；/>表示当前迭代的批量下所述训练数据集中类别标签为/>的样本数；/>表示第/>个样本对应所述轻量级人脸识别卷积网络/>的输出特征。
3.根据权利要求1所述的一种人脸轻量网络模型构建方法，其特征在于，所述步骤C5的所述基于嵌入空间蒸馏的人脸轻量网络模型的判断方法为：
获取指定数量的标记有人脸身份信息标签的人脸数字图像，并且根据人脸身份信息标签，构建测试的正样本对和负样本对，作为测试数据集；利用步骤C5所述基于嵌入空间蒸馏的人脸轻量网络模型对所有测试数据集中的人脸数字图像提取特征，并且利用提取到的特征计算测试数据集各个样本对的余弦距离；根据正负样本对的余弦距离，利用接受者操作特征曲线 (Receiver Operating Characteristic curve)，评估所述基于嵌入空间蒸馏的人脸轻量网络模型。
4.一种人脸识别方法，基于如权利要求1-3任一项所述的一种人脸轻量网络模型构建方法，其特征在于，包括：
步骤1、获取待识别的人脸数字图像；
步骤2、将所述人脸数字图像输入所述基于嵌入空间蒸馏的人脸轻量网络模型中，通过所述基于嵌入空间蒸馏的人脸轻量网络模型提取人脸特征，并与预存的人脸数字图像特征进行匹配识别。
CN202110947540.0A 2021-08-18 2021-08-18 一种人脸轻量网络模型构建方法和人脸识别方法 Active CN113723238B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110947540.0A CN113723238B (zh) 2021-08-18 2021-08-18 一种人脸轻量网络模型构建方法和人脸识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110947540.0A CN113723238B (zh) 2021-08-18 2021-08-18 一种人脸轻量网络模型构建方法和人脸识别方法

Publications (2)

Publication Number Publication Date
CN113723238A CN113723238A (zh) 2021-11-30
CN113723238B true CN113723238B (zh) 2024-02-09

Family

ID=78676221

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110947540.0A Active CN113723238B (zh) 2021-08-18 2021-08-18 一种人脸轻量网络模型构建方法和人脸识别方法

Country Status (1)

Country Link
CN (1) CN113723238B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116453201B (zh) * 2023-06-19 2023-09-01 南昌大学 基于相邻边缘损失的人脸识别方法及***
CN116959064B (zh) * 2023-06-25 2024-04-26 上海腾桥信息技术有限公司 一种证件验证方法、装置、计算机设备和存储介质
CN117275076B (zh) * 2023-11-16 2024-02-27 厦门瑞为信息技术有限公司 基于特征的人脸质量评估模型的构建方法及应用

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108664893A (zh) * 2018-04-03 2018-10-16 福州海景科技开发有限公司 一种人脸检测方法及存储介质
CN109190521A (zh) * 2018-08-17 2019-01-11 北京亮亮视野科技有限公司 一种基于知识提纯的人脸识别模型的构建方法及应用
CN110674688A (zh) * 2019-08-19 2020-01-10 深圳力维智联技术有限公司 用于视频监控场景的人脸识别模型获取方法、***和介质
CN111259738A (zh) * 2020-01-08 2020-06-09 科大讯飞股份有限公司 人脸识别模型构建方法、人脸识别方法及相关装置
CN112183492A (zh) * 2020-11-05 2021-01-05 厦门市美亚柏科信息股份有限公司 一种人脸模型精度矫正方法、装置及存储介质
WO2021023202A1 (zh) * 2019-08-07 2021-02-11 交叉信息核心技术研究院(西安)有限公司 一种卷积神经网络的自蒸馏训练方法、设备和可伸缩动态预测方法
CN112766422A (zh) * 2021-03-15 2021-05-07 山东大学 一种基于轻量级人脸识别模型的隐私保护方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108664893A (zh) * 2018-04-03 2018-10-16 福州海景科技开发有限公司 一种人脸检测方法及存储介质
CN109190521A (zh) * 2018-08-17 2019-01-11 北京亮亮视野科技有限公司 一种基于知识提纯的人脸识别模型的构建方法及应用
WO2021023202A1 (zh) * 2019-08-07 2021-02-11 交叉信息核心技术研究院(西安)有限公司 一种卷积神经网络的自蒸馏训练方法、设备和可伸缩动态预测方法
CN110674688A (zh) * 2019-08-19 2020-01-10 深圳力维智联技术有限公司 用于视频监控场景的人脸识别模型获取方法、***和介质
CN111259738A (zh) * 2020-01-08 2020-06-09 科大讯飞股份有限公司 人脸识别模型构建方法、人脸识别方法及相关装置
CN112183492A (zh) * 2020-11-05 2021-01-05 厦门市美亚柏科信息股份有限公司 一种人脸模型精度矫正方法、装置及存储介质
CN112766422A (zh) * 2021-03-15 2021-05-07 山东大学 一种基于轻量级人脸识别模型的隐私保护方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Francesco Guzzi ; Luca De Bortoli等.Distillation of a CNN for a high accuracy mobile face recognition system.《2019 42nd International Convention on Information and Communication Technology, Electronics and Microelectronics (MIPRO)》.2019,989-994. *
基于深度特征蒸馏的人脸识别;葛仕明;赵胜伟;***;李晨钰;;北京交通大学学报(06);全文 *

Also Published As

Publication number Publication date
CN113723238A (zh) 2021-11-30

Similar Documents

Publication Publication Date Title
CN113723238B (zh) 一种人脸轻量网络模型构建方法和人脸识别方法
CN111695415B (zh) 图像识别方法及相关设备
CN103605972B (zh) 一种基于分块深度神经网络的非限制环境人脸验证方法
CN109344731B (zh) 基于神经网络的轻量级的人脸识别方法
WO2021022521A1 (zh) 数据处理的方法、训练神经网络模型的方法及设备
CN112766158A (zh) 基于多任务级联式人脸遮挡表情识别方法
CN112464865A (zh) 一种基于像素和几何混合特征的人脸表情识别方法
CN110222718B (zh) 图像处理的方法及装置
CN109190521B (zh) 一种基于知识提纯的人脸识别模型的构建方法及应用
CN113628059A (zh) 一种基于多层图注意力网络的关联用户识别方法及装置
CN112084895B (zh) 一种基于深度学习的行人重识别方法
CN113095370A (zh) 图像识别方法、装置、电子设备及存储介质
Zhou et al. Improved softmax loss for deep learning‐based face and expression recognition
CN113139499A (zh) 一种基于轻量注意力卷积神经网络的步态识别方法和***
CN106355210B (zh) 基于深度神经元响应模式的绝缘子红外图像特征表达方法
CN116226785A (zh) 目标对象识别方法、多模态识别模型的训练方法和装置
CN116248392A (zh) 一种基于多头注意力机制的网络恶意流量检测***及方法
CN116797895A (zh) 面向司法场景的多模态融合身份鉴别方法、介质及设备
Barbhuiya et al. Gesture recognition from RGB images using convolutional neural network‐attention based system
CN108496174B (zh) 用于面部识别的方法和***
Ali et al. Attendance System Optimization through Deep Learning Face Recognition
CN114495163A (zh) 基于类别激活映射的行人重识别生成学习方法
CN108427967B (zh) 一种实时影像聚类方法
Dhamija et al. An approach to enhance performance of age invariant face recognition
Rachman et al. Implementation of Convolutional Neural Network and Long Short-Term Memory Algorithms in Human Activity Recognition Based on Visual Processing Video

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20230926

Address after: B1f-112, Zone C, Huaxun building, software park, torch hi tech Zone, Xiamen City, Fujian Province, 361000

Applicant after: XIAMEN RUIWEI INFORMATION TECHNOLOGY CO.,LTD.

Applicant after: Beijing Shenshen Technology Co.,Ltd.

Address before: 100000 1708, floor 17, No. 1, Zhichun Road, Haidian District, Beijing

Applicant before: Beijing Shenshen Technology Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant