CN103310229B - 一种用于图像分类的多任务机器学习方法及其装置 - Google Patents

Abstract

本发明公开了一种用于图像分类的多任务机器学习方法及其装置，本发明特点在于同时利用残差结构和回归矩阵协方差阵的低秩逼近，并对残差结构、回归矩阵、回归矩阵的低秩分解矩阵及回归矩阵的协方差矩阵进行概率建模，最后通过变分推断或者采样的方法对概率模型的参数进行学习，最后得到准确度较高的回归矩阵并用其进行图像分类。通过利用本发明所述的方案，一方面，残差结构中存在的多任务间相关关系信息得到了利用能提高参数学习准确度以提高分类精度，另一方面通过对回归矩阵协方差矩阵进行低秩逼近能有效的降低算法的计算复杂度。

Description

一种用于图像分类的多任务机器学习方法及其装置

技术领域

本发明属于图像处理技术领域，涉及一种图像分类的多任务机器学习方法，特别涉及一种利用残差结构和回归矩阵协方差矩阵低秩逼近进行图像分类的多任务机器学习方法。

背景技术

随着大数据时代的到来，海量数据挖掘显得尤为重要。在海量数据挖掘中，如何利用从已有数据中挖掘出来的信息来指导新数据的挖掘已成为一个新的研究热点。特别是当某些任务的样本数量较少时，利用多任务学习能够有效的减少海量数据挖掘的时间成本并提高信息获取准确度。例如，在图像数据分类任务中，利用图像数据不同分类任务之间的相关性可以提高任务的分类精度；在生物信息学中，利用DNA不同检测任务之间的相关性可以提升任务的检测精度。

多任务机器学习问题可以被视为如下的多输出回归问题：

$Y=WX+\mathrm{\μ}{1}_N^T+\∈$

为N样本d输出的标签矩阵；

为N样本D维特征的观测矩阵；为回归矩阵；为任务的偏置向量；1_N为N维全1列向量，上标T表示矩阵的转秩；∈为d×N的残差矩阵。其中维数N，d是自然数。传统的多任务机器学习方法通过求解误差损失函数加上回归系数矩阵正则约束的优化问题来学习W：

$\underset{W}{\min }|Y-WX{|}_F^2+R\left(W\right)$

其中|·|_F为矩阵F范数；R(W)为W的正则约束，常见的约束是矩阵F范数，矩阵l_2，1范数，矩阵l_p，q范数等。但这一类范数的正则约束项只引入了任务之间的正相关性，而没有建立任务之间的负相关性。

为了引入任务之间的负相关性，有必要对W进行任务之间相关性的建模。一种常用的约束是tr(Σ^-1WΩ^-1W^T)+R(Σ，Ω)。这里将W视为一个服从矩阵高斯分布的随机变量，其中是矩阵Kronecker乘积符号。此时求解误差损失函数加上回归矩阵协方差矩阵约束的优化问题来学习W。

但上述的机器学习方法都忽略了残差矩阵∈的结构。残差矩阵中也包含了任务之间的相关信息，如果能够进一步利用残差矩阵中所包含的任务之间相关性信息能进一步提升学习回归矩阵W的准确度。同时由于协方差矩阵∑和Ω维数可能较大，若不能对其进行有效的逼近，可能会使多任务机器学习算法复杂度过大。

发明内容

本发明的目的在于克服上述已有技术缺点，提出一种基于残差结构和回归矩阵协方差矩阵低秩逼近的图像分类的多任务机器学习方法及其装置，从而能够有效的提升回归矩阵的预测准确度进而提升图像数据分类的精度。

为实现上述目的，本发明的用于图像分类的多任务机器学习方法首先引入几十幅各个分类任务的图像数据及其相对应的标签数据；进而对上述数据建立概率模型，通过利用残差结构和回归矩阵协方差矩阵低秩逼近的多任务机器学习方法，对回归矩阵进行学习；最后利用多任务学习到的回归矩阵对测试图像进行分类。具体步骤包括：

S10，输入分类任务的训练图像数据及其对应的标签数据，对图像数据使用图像处理的方法提取特征，得到图像数据的观测矩阵和标签矩阵；

S20，通过计算标签矩阵和回归矩阵乘以观测矩阵之间的差，对残差结构进行概率建模，即设定残差矩阵服从某一概率分布∈～F(·)，由此标签矩阵Y服从均值为的分布F(·)；

S30，对回归矩阵W的协方差矩阵低秩逼近进行概率建模，其中：

S301，设定回归矩阵的低秩分解为W＝VZ，其中V和Z为低秩矩阵，以VV^T的形式逼近行协方差矩阵∑，以Z^TZ的形式逼近列协方差矩阵Ω。并对W，V，Z进行概率建模：

W～F_W(VZ)

V～F_v(Σ)

Z～F_z(Ω)

其中F_W,F_v,F_z分别为W，V，Z设定的概率分布；

S302，对回归矩阵W的行协方差矩阵∑和列协方差矩阵Ω分别设定概率分布F_∑，F_Ω；

S40，通过变分推断或采样的方法对S20及S30中所述的概率模型中的参数进行学习。

S50，重复步骤S40，直至诸参数收敛。

S60，利用多任务机器学习方法学习得到的回归矩阵W，乘以输入的测试图像的观测矩阵得到测试图像标签矩阵的估计值，以此估计标签矩阵对测试图像数据进行分类。

本发明的另一目的还在于提供一种用于图像分类的多任务机器学习分类器，其特征在于，包括以下三个模块：

1)图像数据预处理模块，其输入为图像数据及其对应的标签数据，输出分别为图像数据的观测矩阵和标签矩阵,用于对图像数据使用图像处理的方法提取特征得到图像数据的观测矩阵和标签矩阵；

2)概率建模参数学习模块，其输入为图像数据的观测矩阵及其对应的标签矩阵，其输出为回归矩阵；用于：

通过计算标签矩阵和回归矩阵乘以观测矩阵之间的差得到残差矩阵，对残差矩阵进行概率建模，并设定残差矩阵服从某一概率分布；

对回归矩阵进行低秩矩阵二分解，其中每个分解矩阵分别作为回归矩阵的行协方差矩阵和列协方差矩阵的逼近矩阵；对回归矩阵及其两个分解矩阵进行概率建模；

通过变分推断或采样的方法对上述概率模型中的参数进行学习；

3)图像数据分类模块，其输入为回归矩阵和测试图像数据观测矩阵，其输出为测试图像标签矩阵的估计值，用于利用多任务机器学习方法学习得到的回归矩阵W，乘以输入的测试图像的观测矩阵得到测试图像的标签矩阵估计值，以此估计标签矩阵对测试图像数据进行分类。

本发明的优点是：同时利用残差结构和回归矩阵协方差矩阵的低秩逼近进行多任务机器学习能有效的挖掘图像数据分类任务之间的相关性并降低协方差矩阵学习的算法复杂度；通过概率模型的参数更新，能有效的提高回归矩阵的学习精度，从而能提高图像数据分类的精度。

附图说明

图1为高斯矩阵广义逆高斯模型的概率图模型；

图2为本发的用于图像分类的多任务机器学习方法实施例的流程图；

图3本发明一种用于图像分类的多任务机器学习分类器实施例的示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

相反，本发明涵盖任何由权利要求定义的在本发明的精髓和范围上做的替代、修改、等效方法以及方案。进一步，为了使公众对本发明有更好的了解，在下文对本发明的细节描述中，详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本发明。

本发明实施例一提供一种用于图像分类的多任务机器学习方法，其包括以下步骤：

S10，输入图像特征数据和每个数据所对应的标签数据，对图像数据进行滤波、提取颜色、纹理、尺度不变特征等；

S20，通过计算标签矩阵Y和回归矩阵W乘以观测矩阵X之间的差得到残差矩阵，对残差结构进行概率建模，其中设定残差矩阵服从矩阵高斯分布由此标签矩阵服从均值为的矩阵高斯分布

其中σ²为大于零的实数，I_N表示N×N的单位矩阵。

S30，对回归矩阵的协方差矩阵低秩逼近进行概率建模，得到高斯矩阵广义逆高斯模型(Gaussian Matrix Generalized Inverse GaussianModel)。其定义如下：

设为D×D正定矩阵的集合，VZ，Ω，Ψ₁，∑，Ψ₂，若

Ω～MGIG_D(Ψ₁,Φ_v,v₁)

Σ～MGIG_d(Ψ₂，Φ₂，v₂)

则称这一系列相关变量构成了高斯矩阵广义逆高斯模型。其中表示高斯分布，MGIG表示矩阵广义逆高斯分布。κ₁，κ₂为正数，维数d，D，K都是自然数。V和Z构成回归矩阵W的低秩分解，从而其行协方差矩阵∑和列协方差矩阵Ω分别存在低秩逼近VV^T和Z^TZ。则将此分布关系同高斯矩阵广义逆高斯分布结合在一起就可以得到高斯矩阵广义逆高斯回归模型(Gaussian Matrix Generalized Inverse GaussianRegression Model)，其概率图模型如附图1所示。

S40，通过变分推断的方法对概率模型中的参数进行学习。S401，在期望步(E-phase)更新下得到

$W=(<V><Z><{\mathrm{\&Omega;}}^{-1}>+{\mathrm{\&sigma;}}^{-2}(Y-\mathrm{\&mu;}{1}_N^T\left)X^T\right){\mathrm{\&Omega;}}_W$

$V=<W><{\mathrm{\&Omega;}}^{-1}><Z{>}^T{({\mathrm{\&kappa;}}_1^{-1}{I}_K+<{\mathrm{Z\&Omega;}}^{-1}{Z}^T>)}^{-1}$

$Z={({\mathrm{\&kappa;}}_2^{-1}{I}_K+<V^T{\&Sigma;}^{-1}V>)}^{-1}<V{>}^T<{\&Sigma;}^{-1}><W>$

$\mathrm{\&Omega;}~{\mathrm{MGIG}}_D({\widehat{\mathrm{\&Psi;}}}_1,{\mathrm{\&Phi;}}_1,{\hat{v}}_1)$

$\mathrm{\&Sigma;}~{\mathrm{MGIG}}_d({\widehat{\mathrm{\&Psi;}}}_2,{\mathrm{\&Phi;}}_2,{\hat{v}}_2)$

其中〈·〉表示在其他参数给定的情况下参数的期望，Ω_W＝(<Ω^-1〉+σ^-2XX^T)^-1；Ω和∑的更新通过采样的方式进行估计；

S402，在最大化步(M-phase)更新下得到

${\widehat{\mathrm{\&Psi;}}}_1={\mathrm{\&Psi;}}_1+{\mathrm{\&kappa;}}_2^{-1}<Z^{T}Z>+<{(W-VZ)}^T(W-VZ)>$

$\begin{array}{c}{\widehat{\mathrm{\&Psi;}}}_2={\mathrm{\&Psi;}}_2+{\mathrm{\&kappa;}}_1^{-1}<{\mathrm{VV}}^T>+<(W-VZ){\mathrm{\&Omega;}}^{-1}{(W-VZ)}^T>\\ +{\mathrm{\&sigma;}}^{-2}<(Y-WX-\mathrm{\&mu;}{1}_N^T){(Y-WX-\mathrm{\&mu;}{1}_N^T)}^T>\end{array}$

${\hat{v}}_1=v_1-(d+K)/2$

${\hat{v}}_2=v_2-(d+N+D+K)/2$

S403，重复更新算法S401，S402直至诸参数收敛。

S50，利用学习到的回归矩阵W，乘以测试图像数据的观测矩阵得到测试图像标签矩阵的估计值以此估计矩阵对图像数据进行分类。

S40的参数学习也可通过采样的方法实现。采用采样方法，即是使用大量训练图像数据统计样本频数的方法对参数进行更新，属于常规方法，在此不做例举。

图3所示为一种用于图像分类的多任务机器学习分类器。该装置包括三个模块：图像数据预处理模块；概率建模参数学习模块；图像数据分类模块。

图像数据预处理模块的输入为图像数据及其对应的标签数据，输出分别为图像数据的观测矩阵及其对应的标签矩阵，其完成的功能和实施方式与上述用于图像分类的多任务机器学习方法中对图像数据进行滤波、提取颜色、纹理、尺度不变特征的方法所述的功能和实施方式相同。

概率建模参数学习模块的输入包括图像数据的观测矩阵及其对应的标签矩阵，其输出为回归矩阵。其完成的功能和实施方式与上述用于图像分类的多任务机器学习方法中对残差结构、回归矩阵协方差矩阵低秩逼近的概率建模及对参数使用变分推断进行学习的方法所述的功能和实施方式相同。

图像数据分类模块，其输入为回归矩阵和图像数据观测矩阵，其输出为标签矩阵的估计值，其完成的功能和实施方式与上述用于图像分类的多任务机器学习方法中对测试图像观测矩阵进行测试图像标签矩阵估计的方法所述的功能和实施方式相同。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种用于图像分类的多任务机器学习方法，其特征在于包括如下步骤：

S10，输入分类任务的图像数据及其对应的标签数据，对图像数据使用图像处理的方法提取特征，得到图像数据的观测矩阵和标签矩阵；

S20，通过计算标签矩阵和回归矩阵乘以观测矩阵之间的差得到残差矩阵，对残差矩阵进行概率建模，并设定残差矩阵服从矩阵高斯分布；

S30，对回归矩阵进行低秩矩阵二分解，其中每个分解矩阵分别作为回归矩阵的行协方差矩阵和列协方差矩阵的逼近矩阵；对回归矩阵及其两个分解矩阵进行概率建模；

S40，通过变分推断或采样的方法对S20及S30中所述的概率模型中的参数进行学习；

S50，重复步骤S40，直至诸参数收敛；

S60，利用多任务机器学习方法学习得到的回归矩阵W，乘以输入的测试图像的观测矩阵得到测试图像的标签矩阵估计值，以此估计标签矩阵对测试图像数据进行分类。

2.一种用于图像分类的多任务机器学习分类器，其特征在于，包括：

图像数据预处理模块，其输入为图像数据及其对应的标签数据，输出分别为图像数据的观测矩阵和标签矩阵,用于对图像数据使用图像处理的方法提取特征得到图像数据的观测矩阵和标签矩阵；

概率建模参数学习模块，其输入为图像数据的观测矩阵及其对应的标签矩阵，其输出为回归矩阵；用于：

通过计算标签矩阵和回归矩阵乘以观测矩阵之间的差得到残差矩阵，对残差矩阵进行概率建模，并设定残差矩阵服从矩阵高斯分布；

对回归矩阵进行低秩矩阵二分解，其中每个分解矩阵分别作为回归矩阵的行协方差矩阵和列协方差矩阵的逼近矩阵；对回归矩阵及其两个分解矩阵进行概率建模；

通过变分推断或采样的方法对上述概率模型中的参数进行学习；

图像数据分类模块，其输入为回归矩阵和测试图像数据观测矩阵，其输出为测试图像标签矩阵的估计值，用于利用多任务机器学习方法学习得到的回归矩阵W，乘以输入的测试图像的观测矩阵得到测试图像的标签矩阵估计值，以此估计标签矩阵对测试图像数据进行分类。