CN106384080A - 一种基于卷积神经网络的表观年龄估计方法及装置 - Google Patents

Abstract

本发明公开一种基于卷积神经网络的表观年龄估计方法，其包括：步骤a，人脸检测，确定人脸图片大小；步骤b，图像预处理，在训练集上计算每个像素的RGB均值；步骤c，将每个像素的RGB均值输入到多卷积层；步骤d，池化层，进行池化操作；步骤e，进入全连接层，将相邻两层通过权值全连接；步骤f，使用softmax loss函数深度监督结构；步骤g，采用延时反向传导减少信息丢失；步骤h：使用hinge loss函数进行回归监督，减少信息丢失；步骤i：概率矩阵。这样，通过采用softmax loss函数进行深度监督结构；延时传导机制减少传导层来减少信息损失；hinge loss模块减少传导层，减少了信息丢失；采用SVR中的支持向量能够找到更好的分界面，使得分类平面更优，泛化能力更强。

Description

一种基于卷积神经网络的表观年龄估计方法及装置

技术领域

本发明属于图像识别技术领域，具体涉及一种基于卷积神经网络的表观年龄估计方法及装置。

背景技术

尽管自动年龄估计十分重要，但是与表情识别、人脸识别等面相研究工作相比，自动年龄估计技术起步较晚。最初的研究文献可以追溯到1994年Kwon和Lobo发表的论文，真正意义上的研究可以追溯到2002年Lanities的工作。迄今为止，无论在国内还是国外，关注年龄估计的研究还是相对较少的。

年龄估计是回归问题，传统线性回归和SVR都是线性模型，只能处理线性可分的情况。即使加上核函数的SVR可以处理线性不可分的情况，但是核函数是手工设定的固定的，不能够从大量数据中学习，泛化能力较差。

鉴于上述缺陷，本发明创作者经过长时间的研究和实践终于获得了本发明。

发明内容

为解决上述技术缺陷，本发明采用的技术方案在于，提供一种基于卷积神经网络的表观年龄估计方法，其包括：

步骤a，人脸检测，确定人脸图片大小；

步骤b，图像预处理，在训练集上计算每个像素的RGB均值；

步骤c，将每个像素的RGB均值输入到多卷积层；

步骤d，进入池化层，进行池化操作；

步骤e，进入全连接层，将相邻两层通过权值全连接；

步骤f，使用softmax loss函数深度监督结构；

步骤g，采用延时反向传导减少信息丢失；

步骤h：使用hinge loss函数进行回归监督，减少信息丢失；

步骤i：概率矩阵。

较佳的，所述步骤f中，softmax函数的表达式为：

α_i＝∑_kh_kW_ki

上式中h表示倒数第二层节点的激励函数，W表示连接倒数第二层和softmax层的权值。

较佳的，所述步骤g中采用减少传导的层数减少信息丢失。

较佳的，所述步骤h中hinge loss回归函数为：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量，为了处理异常值引入了松弛变量ξ_i，最优化下式求解W和b：

${\min }_{\mathrm{\ω},b}P=\frac{1}{2}{W}^{T}W+{\mathrm{C\Σ}}_{i=1}^l({\mathrm{\ξ}}_i+{\mathrm{\ξ}}_i^{*})$

5、一种基于卷积神经网络的表观年龄估计装置，其包括：

人脸检测模块采用人脸检测器检测原图像和离散旋转后的图像，正确标定人脸，人脸图片大小归一化为256×256个像素，作为后续跟踪识别的输入图像；

图像预处理模块，在训练集上计算每个像素的RGB均值；

池化层模块4，通过池化来降低卷积层输出的特征向量，同时改善结果，不易出现过拟合：

全连接层模块5，将相邻两层通过权值全连接；

softmax loss模块，采用softmax函数进行深度监督结构；

延时传导模块，采用延时传导，减少传导的层数，减少信心损失；

hinge loss模块，采用回归损失函数hinge loss，反向传导到前一层，减少信息丢失；

概率矩阵模块，全连接层的输出使得softmax层得到此样本属于每类的概率矩阵，通过概率矩阵中的最大概率值达到该测试图像的类别。

较佳的，所述softmax loss模块采用softmax函数的表达式为：

α_i＝Σ_kh_kW_ki

上式中h表示倒数第二层节点的激励函数，W表示连接倒数第二层和softmax层的权值。

较佳的，所述延时反向传导模块采用减少传导的层数减少信息丢失。

较佳的，所述hinge loss模块采用hinge loss回归函数为：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量，为了处理异常值引入了松弛变量ξ_i，最优化下式求解W和b：

${\min }_{\mathrm{\ω},b}P=\frac{1}{2}{W}^{T}W+{\mathrm{C\Σ}}_{i=1}^l({\mathrm{\ξ}}_i+{\mathrm{\ξ}}_i^{*})$

与现有技术比较本发明的有益效果在于：通过采用softmax loss函数进行深度监督结构；延时传导机制减少传导层来减少信息损失；hinge loss模块减少传导层，减少了信息丢失；采用SVR中的支持向量能够找到更好的分界面，使得分类平面更优，泛化能力更强。

附图说明

为了更清楚地说明本发明各实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。

图1为本发明实施例一的一种基于卷积神经网络的表观年龄估计方法的流程图；

图2为本发明实施例6的一种基于基于卷积神经网络的表观年龄估计装置的功能示意图。

具体实施方式

以下结合附图，对本发明上述的和另外的技术特征和优点作更详细的说明。

实施例一

图1为本发明一种基于卷积神经网络的表观年龄估计方法的流程图，其中，所述基于卷积神经网络的表观年龄估计方法包括：

步骤a：人脸检测，确定人脸图片大小；

步骤b：图像预处理，在训练集上计算每个像素的RGB均值；

步骤c：将每个像素的RGB均值输入到多卷积层；

步骤d：池化层，进入池化层，进行池化操作；

步骤e，进入全连接层，将相邻两层通过权值全连接；

步骤f：使用softmax loss函数深度监督结构；

步骤g：采用延时反向传导减少信息丢失；

步骤h：使用hinge loss函数进行回归监督，减少信息丢失；

步骤i：概率矩阵。

基于卷积神经网络的表观年龄估计方法的有益效果在于：在SVR和线性回归的结构前端加上CNN深度网络结构，从大量数据中学***面更优，泛化能力更强。

实施例二

如上所述的基于卷积神经网络的表观年龄估计方法，本实施例与其不同之处在于，在步骤a中，人脸检测是整个人脸***最基础的一部分。针对所有的训练和测试图片，采用人脸检测器来获得人脸的确切位置。为了更正确标定人脸，在原图像和旋转后的图像都采取人脸检测器获得更好的效果。由于计算机资源的限定性，使用离散旋转的图像，在多角度旋转图像得到的检测结果中，选择得分最高的人脸图像，并且将其旋转至面部正上方向。如果在人脸图像中找不到人脸目标，就采取整幅图像进行训练和测试。检测出人脸后，在上下左右四个方向扩展人脸尺寸，增加信息以便获得更好的效果。假如人脸已经包含足够的信息，直接在边界处进行0填充，以此确保检测到的人脸图片大小与原图片相同。最后的人脸图片大小归一化为为256×256个像素，作为后续跟踪识别的输入图像。

实施例三

如上所述的基于卷积神经网络的表观年龄估计方法，本实施例与其不同之处在于，步骤f中在全连阶层后采用softmax loss函数进行深度监督结构，softmaxloss函数如下式，式中h表示倒数第二层节点的激励函数，W表示连接倒数第二层和softmax层的权值，α表示softmax函数：

α_i＝Σ_kh_kW_ki

然后，

$p_i=\frac{\exp \left({\mathrm{\α}}_i\right)}{{\mathrm{\Σ}}_j^l\exp \left({\mathrm{\α}}_i\right)}$

预测的类别为：

i＝arg max_i p_i＝arg max_iα_i

为了改进预测识别率，计算softmax概率的期望值，

$E\left(O\right)={\mathrm{\Σ}}_{i=0}^n{y}_i{o}_i$

其中，O＝0,1,…,n表示n+1个输出层的年龄维度，o_i表示softmax的输出概率，y_i表示第i个类别的离散年龄值，E表示此样本预测离散年龄值。

实施例四

如上所述的基于卷积神经网络的表观年龄估计方法，本实施例与其不同之处在于，步骤g中延时反向传导机制原理为：尽管更深的网络有更高水平的表达能力，但越深的神经网络未必能得到更好的表现效果，甚至有所降低，仅通过增加网络深度可能会损害最终的预测性能；根据信息传导理论，信息传导过程会导致信息损失，反向传导的层数越多，会造成更多的信息损失。为了减少信息丢失，引进延时传导减少传导的层数，限制反向传导中的误差只传播一定数量的层数；延时传导通过引入额外的监督信号来进行反向传导，每个监督信号只负责反向传播到一定层数就停止，然后由另外一个监督信号接力，向底层反向传播误差，依此继续下去；两个相邻监督信号之间有部分重叠，有重叠的层，就采用加权平均的方式计算梯度，没有重叠的层，就直接采用计算得到的传导梯度，这样，通过随机梯度下降就可以对整个网络进行求解。

实施例五

如上所述的基于卷积神经网络的表观年龄估计方法，本实施例与其不同之处在于步骤h中使用损失回归函数Hinge Loss监督延时传导路径。

SVR是指满足连续值的回归函数，其损失函数为Hinge Loss。Hinge Loss回归函数为：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量。为了处理异常值引入了松弛变量ζ_i,最优化下列方程求解W和b：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量，为了处理异常值引入了松弛变量ξ_i，最优化下式求解W和b：

${\min }_{\mathrm{\ω},b}P=\frac{1}{2}{W}^{T}W+{\mathrm{C\Σ}}_{i=1}^l({\mathrm{\ξ}}_i+{\mathrm{\ξ}}_i^{*})$

SVR结构通过映射Φ将输入模式映射到特征空间，然后将映射后的训练模式和核进行点乘运算，然后对不同的项进行加权求和。最后增加常数项b来得到最终的预测结果输出。为了避免延时反向传导的信息丢失，回归监督只反向传导到前一层，回归监督使用支持向量回归监督。

实施例六

本实施例为一种基于卷积神经网络的表观年龄估计装置，其与所述的基于卷积神经网络的表观年龄估计方法相对应，如图2所示，其包括：

人脸检测模块，采用人脸检测器检测原图像和离散旋转后的图像，正确标定人脸，人脸图片大小归一化为256×256个像素，作为后续跟踪识别的输入图像；

图像预处理模块，在训练集上计算每个像素的RGB均值；

多卷积层模块，将每个像素的RGB均值输入到多卷积层：

池化层模块4，通过池化来降低卷积层输出的特征向量，同时改善结果，不易出现过拟合：

全连接层模块5，将相邻两层通过权值全连接；

softmax loss模块6，采用softmax函数进行深度监督结构；

延时传导模块7，采用延时传导，减少传导的层数，减少信心损失；

hinge loss模块8，采用回归损失函数hinge loss，反向传导到前一层，减少信息丢失；

概率矩阵模块9，全连接层的输出使得softmax层得到此样本属于每类的概率矩阵，通过概率矩阵中的最大概率值达到该测试图像的类别。

通过采用softmax loss函数进行深度监督结构；延时传导机制减少传导层来减少信息损失；hinge loss模块减少传导层，减少了信息丢失；采用SVR中的支持向量能够找到更好的分界面，使得分类平面更优，泛化能力更强。

以上所述仅为本发明的较佳实施例，对本发明而言仅仅是说明性的，而非限制性的。本专业技术人员理解，在本发明权利要求所限定的精神和范围内可对其进行许多改变，修改，甚至等效，但都将落入本发明的保护范围内。

Claims (8)

1.一种基于卷积神经网络的表观年龄估计方法，其特征在于，包括：

步骤a，人脸检测，确定人脸图片大小；

步骤b，图像预处理，在训练集上计算每个像素的RGB均值；

步骤c，将每个像素的RGB均值输入到多卷积层；

步骤d，进入池化层，进行池化操作；

步骤e，进入全连接层，将相邻两层通过权值全连接；

步骤f，使用softmax loss函数深度监督结构；

步骤g，采用延时反向传导减少信息丢失；

步骤h：使用hinge loss函数进行回归监督，减少信息丢失；

步骤i：概率矩阵。

2.根据权利要求1所述的基于卷积神经网络的表观年龄估计方法，其特征在于，所述步骤f中，softmax函数的表达式为：

α_i＝∑_kh_kW_ki

上式中h表示倒数第二层节点的激励函数，W表示连接倒数第二层和softmax层的权值。

3.根据权利要求2所述的基于卷积神经网络的表观年龄估计方法，其特征在于，所述步骤g中采用减少传导的层数减少信息丢失。

4.根据权利要求3所述的基于支持向量机的人脸特征识别方法，其特征在于，所述步骤h中hinge loss回归函数为：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量，为了处理异常值引入了松弛变量ξ_i，最优化下式求解W和b：

${\min }_{\mathrm{\ω},b}P=\frac{1}{2}{W}^{T}W+{\mathrm{C\Σ}}_{i=1}^l({\mathrm{\ξ}}_i+{\mathrm{\ξ}}_i^{*})$

5.一种与权利要求1-4中任一所述的基于卷积神经网络的表观年龄估计方法对应的装置，其特征在于，所述基于支持向量机的人脸特征识别装置包括：

人脸检测模块采用人脸检测器检测原图像和离散旋转后的图像，正确标定人脸，人脸图片大小归一化为256×256个像素，作为后续跟踪识别的输入图像；

图像预处理模块，在训练集上计算每个像素的RGB均值；

多卷积层模块，将每个像素的RGB均值输入到多卷积层：

池化层模块4，通过池化来降低卷积层输出的特征向量，同时改善结果，不易出现过拟合：

全连接层模块5，将相邻两层通过权值全连接；

softmax loss模块，采用softmax函数进行深度监督结构；

延时传导模块，采用延时传导，减少传导的层数，减少信心损失；

hinge loss模块，采用回归损失函数hinge loss，反向传导到前一层，减少信息丢失；

概率矩阵模块，全连接层的输出使得softmax层得到此样本属于每类的概率矩阵，通过概率矩阵中的最大概率值达到该测试图像的类别。

6.根据权利要求5所述的基于卷积神经网络的表观年龄估计装置，其特征在于，所述softmax loss模块采用softmax函数的表达式为：

α_i＝∑_kh_kW_ki

上式中h表示倒数第二层节点的激励函数，W表示连接倒数第二层和softmax层的权值。

7.根据权利要求6所述的基于卷积神经网络的表观年龄估计装置，其特征在于，所述延时反向传导模块采用减少传导的层数减少信息丢失。

8.根据权利要求7所述的基于卷积神经网络的表观年龄估计装置，其特征在于所述hinge loss模块采用hinge loss回归函数为：

在特征空间F中，W是F中的一个向量，将输入x映射为F中的一个向量，为了处理异常值引入了松弛变量ξ_i，最优化下式求解W和b：

${\min }_{\mathrm{\ω},b}P=\frac{1}{2}{W}^{T}W+{\mathrm{C\Σ}}_{i=1}^l({\mathrm{\ξ}}_i+{\mathrm{\ξ}}_i^{*})$