CN110008828A - 基于差异正则化的成对约束成分分析度量优化方法 - Google Patents

Abstract

本发明涉及一种基于差异正则化的成对约束成分分析度量优化方法，包括：步骤S1：用摄像头采集多张行人图片形成训练样本集，提取每张样本图片中行人目标的颜色特征，形成一个d维的特征向量x_i，最终构成一个包含N个d维特征向量的训练集，其中，N为样本图片的数目；步骤S2：对训练集中的特征向量进行降维处理；步骤S3：计算降维后的样本之间的欧氏距离，并基于各训练样本与测试样本之间的欧氏距离，将训练样本分为正样本和负样本；步骤S4：通过对目标优化函数增加差异正则化项，并基于约束条件创建优化问题；步骤S5：使用梯度下降法求解优化问题。与现有技术相比，本发明具有避免过拟合现象的发生，提高度量学习算法的泛化能力等优点。

Description

基于差异正则化的成对约束成分分析度量优化方法

技术领域

本发明涉及智能信息处理技术领域，尤其是涉及一种基于差异正则化的成对约束成分分析度量优化方法。

背景技术

近年来，视频监控***大量普及。视频监控***的建设与应用，在打击犯罪、维护稳定实践中正发挥着越来越重要的作用，视频侦察已成为公安机关侦查破案的新手段。在视频侦察应用中，针对特定嫌疑目标的检索是重要需求。在海量的视频数据面前，完全依靠人工的方法来完成上述工作不仅需要消耗大量的人力资源，还不能保证结果的准确性和实时性。操作者的匹配结果受个体经验的影响，而不同操作者的经验差异很大，有些操作者不能有效的利用多种信息，依靠传统的人工的方法很难得到好的识别效果。随着摄像机网络的日益增大，依靠人工的方法进行再识别也变得越来越不现实。因此，迫切的需要一种技术来减轻有限的人力资源的负担、增强识别的能力。

行人目标再识别研究的根本目的在于如何有效地利用行人的外观信息对指定目标进行跨摄像机搜索匹配。在计算机视觉和模式识别等领域，通常使用特征向量来表征样本。在众多衡量特征向量相似性的方法中，距离度量是最基本的方法。距离度量学习算法在机器学习、模式识别和计算机视觉等领域有着广泛的应用。因此，研究距离度量学习算法具有非常重要的理论意义和应用价值。

虽然现有的度量学习方法已经在许多实验中显示出不错的效果，但是加强对度量学习的理论解释仍然是一项非常重要的任务。其中一个主要的问题就是度量学习的泛化性能，评估所学度量的泛化性能目前仍然是一个具有挑战性的问题。由于目前大多的度量学习方法都是一种两步式的学习，度量学习的泛化性能分析主要包含两个方面：第一是关于所学度量自身的一致性，也就是通过在训练数据上的学习，分析所得度量函数针对特定的损失函数能否在新数据上获得好的期望误差；第二是考虑所学度量在后续的结果学习器上的性能，从理论上分析两者之间的联系，理解这一联系将更有助于提升结果学习器的泛化性能。

综上所述，距离度量方法是行人再识别领域的研究重点，尽管目前国内外的研究已经取得了很多优秀的研究成果，但是随着大规模摄像头网络发展，拍摄条件的恶化，以及安防要求的提高，目前已有距离度量算法在行人再识别匹配正确率方面的表现并不能满足实际应用的需求，因此，本项目对距离度量学习算法的研究将具有非常重要的理论意义和应用价值。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于差异正则化的成对约束成分分析度量优化方法。

本发明的目的可以通过以下技术方案来实现：

一种基于差异正则化的成对约束成分分析度量优化方法，包括：

步骤S1：用摄像头采集多张行人图片形成训练样本集，提取每张样本图片中行人目标的颜色特征，形成一个d维的特征向量x_i，最终构成一个包含N个d维特征向量的训练集，其中，N为样本图片的数目；

步骤S2：对训练集中的特征向量进行降维处理；

步骤S3：计算降维后的样本之间的欧氏距离，并基于各训练样本与测试样本之间的欧氏距离，将训练样本分为正样本和负样本；

步骤S4：通过对目标优化函数增加差异正则化项，并基于约束条件创建优化问题；

步骤S5：使用梯度下降法求解优化问题。

所述步骤S2具体为：使用线性变换矩阵L将训练集中的样本向量映射到一个低维空间。

所述步骤S3中，将训练样本分为正样本和负样本的过程具体为：使用一个阈值t对样本之间的距离进行约束，若训练样本与测试样本属于同一行人目标，即训练样本为正样本，则两样本之间的阈值小于t，反之，若训练样本与测试样本不属于同一行人目标，即训练样本为负样本，则两样本之间的阈值大于t。

所述步骤S4中差异正则化项的数学表达式为：

Ω(L)＝Ψ(L)-Π(L)

其中：Ω(L)为差异正则化项，Ψ(L)为所有角对的均值，Π(L)为所有角对的方差，L为线性变换矩阵。

所述角对的数学表达式为：

其中：a_i,a_j为线性变换矩阵中第i行和j行向量元素，θ(a_i,a_j)为a_i,a_j对应的角对。

所述步骤S4中，当输入的样本向量在低维空间中不是线性可分离时，通过使用核方法，将样本向量在核空间进行投影，得到一个新的矩阵来表示样本向量，将低维空间中的线性不可分问题转化为在高维空间中线性问题。

所述目标优化函数具体为：

其中：为目标优化函数，l_β为广义损失函数，y_n表示样本对(x_in,x_jn)是否属于同一目标，若样本对属于同一目标，则y_n＝1，若样本对不属于同一目标，则y_n＝-1，D_L为为样本对在投影空间内的欧式距离的平方 为目标样本，为候选匹配样本，λ为正则参数，n为样本之间约束c的索引。

所述广义损失函数的具体为：

其中：β为锐度参数。

与现有技术相比，本发明具有以下有益效果：本发明行人目标再识别度量学习方法，使用高维特征作为输入，在特征降维的同时利用稀疏的成对约束使同类样本在低维空间中具有相近的特征距离；针对由于正负样本数量不对称而产生的过拟合现象，采用对目标优化函数增加差异正则化项的方法，增强算法的识别率。

附图说明

图1为本发明的结构示意图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

一种基于差异正则化的成对约束成分分析度量优化方法，包括对数据集中样本进行降维处理、对目标优化函数增加差异正则化项增强泛化特性，使用核技术提高分类。

如图1所示，包括：

步骤S1：用摄像头采集多张行人图片形成训练样本集，提取每张样本图片中行人目标的颜色特征，形成一个d维的特征向量x_i，最终构成一个包含N个d维特征向量的训练集，其中，N为样本图片的数目；

采集特征向量建立训练数据集具体为：对数据库中的所有训练样本提取特征，建立集合X＝{x₁,x₂......x_n}∈R^d×N，表示训练集中N个样本点的特征向量集合，其中每个样本点的维度均为d，对X中样本点添加约束C＝{(i_k,j_k,y_k)|k＝1,...c}，i_k,j_k∈{1...N}²为两样本点在约束k下的索引，y_k∈{-1,1}表示两样本但是否属于同一类别，若两样本为同一类别则y_k＝1，反之y_k＝-1；

步骤S2：对训练集中的特征向量进行降维处理，具体为：使用线性变换矩阵L将训练集中的样本向量映射到一个低维空间。

即：使用线性变换L将训练集中的样本映射到一个维数d’远远小于d的低维空间，线性变换为x'＝Lx，使用欧式距离公式计算降维后的样本对之间的距离其中x_i是训练集中目标i的特征向量。

步骤S3：计算降维后的样本之间的欧氏距离，并基于各训练样本与测试样本之间的欧氏距离，将训练样本分为正样本和负样本，其中，将训练样本分为正样本和负样本的过程具体为：使用一个阈值t对样本之间的距离进行约束，若训练样本与测试样本属于同一行人目标，即训练样本为正样本，则两样本之间的阈值小于t，反之，若训练样本与测试样本不属于同一行人目标，即训练样本为负样本，则两样本之间的阈值大于t。

步骤S4：通过对目标优化函数增加差异正则化项，从而提升算法由于正负样本不对称带来的泛化能力差的问题，并基于约束条件创建优化问题，其中，差异正则化项Ω(L)越大表示潜在因子更加多样化，所计算两向量元素相互正交时达到全局最大，其数学表达式为：

Ω(L)＝Ψ(L)-Π(L)

其中：Ω(L)为差异正则化项，Ψ(L)为所有角对的均值，Π(L)为所有角对的方差，L为线性变换矩阵。

角对的数学表达式为：

其中：a_i,a_j为线性变换矩阵中第i行和j行向量元素，θ(a_i,a_j)为a_i,a_j对应的角对。

目标优化函数具体为：

其中：为目标优化函数，l_β为广义损失函数，y_n表示样本对是否属于同一目标，若样本对属于同一目标，则y_n＝1，若样本对不属于同一目标，则y_n＝-1，D_L为样本对在投影空间内的欧式距离的平方 为目标样本，为候选匹配样本，λ为正则参数，n为样本之间约束c的索引。

广义损失函数的具体为：

其中：β为锐度参数。

使用核技巧提高算法的分类性能，即使用L在核空间的投影进行学习，即L＝AX^T,这等价于将L的每行看作为矩阵X元素的线性组合，所以样本之间的距离公式更新为：定义K＝X^TX核矩阵，所以投影到核空间的样本对之间的距离公式为：其中k_i为和矩阵K的第i列；

此外，约束条件可以有：

C＝{(i_k,j_k,y_k)|k＝1,...c}对X中样本点添加约束，其中i_k,j_k∈{1...N}²为两样本点在约束k下的索引。

步骤S5：使用梯度下降法求解优化问题。

通过上述方法得到的行人目标再识别度量学***衡的问题，对训练样本赋予不同的权重，通过对样本进行不同的处理；利用样本提供的更多区分性的信息，从而可以对样本对进行有效的区分，以加强度量模型的判别性。通过上述方法得到的行人目标再识别度量学习算法可以有效的提高无重叠视域的行人目标再识别的效率和准确率，具体可应用在：

(1)应用于大型公共场所视频监控：可以根据本行人目标再识别度量学习算法有效的对监控网络中的行人目标身份关联性判别，对监控中的行人进行行为分析、目标跟踪等；

(2)应用于刑侦工作：可以利用本算法代替人力对目标嫌疑人进行寻找识别、定位，减少破案时间，增强破案效率；

(3)应用于目标检索：可以根据本行人目标再识别算法对海量视频中的指定目标进行检索。

Claims (8)

1.一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，包括：

步骤S1：用摄像头采集多张行人图片形成训练样本集，提取每张样本图片中行人目标的颜色特征，形成一个d维的特征向量x_i，最终构成一个包含N个d维特征向量的训练集，其中，N为样本图片的数目；

步骤S2：对训练集中的特征向量进行降维处理；

步骤S3：计算降维后的样本之间的欧氏距离，并基于各训练样本与测试样本之间的欧氏距离，将训练样本分为正样本和负样本；

步骤S4：通过对目标优化函数增加差异正则化项，并基于约束条件创建优化问题；

步骤S5：使用梯度下降法求解优化问题。

2.根据权利要求1所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述步骤S2具体为：使用线性变换矩阵L将训练集中的样本向量映射到一个低维空间。

3.根据权利要求1所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述步骤S3中，将训练样本分为正样本和负样本的过程具体为：使用一个阈值t对样本之间的距离进行约束，若训练样本与测试样本属于同一行人目标，即训练样本为正样本，则两样本之间的阈值小于t，反之，若训练样本与测试样本不属于同一行人目标，即训练样本为负样本，则两样本之间的阈值大于t。

4.根据权利要求2所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述步骤S4中差异正则化项的数学表达式为：

Ω(L)＝Ψ(L)-Π(L)

其中：Ω(L)为差异正则化项，Ψ(L)为所有角对的均值，Π(L)为所有角对的方差，L为线性变换矩阵。

5.根据权利要求4所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述角对的数学表达式为：

其中：a_i,a_j为线性变换矩阵中第i行和j行向量元素，θ(a_i,a_j)为a_i,a_j对应的角对。

6.根据权利要求1所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述步骤S4中，当输入的样本向量在低维空间中不是线性可分离时，通过使用核方法，将样本向量在核空间进行投影，得到一个新的矩阵来表示样本向量，将低维空间中的线性不可分问题转化为在高维空间中线性问题。

7.根据权利要求4所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述目标优化函数具体为：

其中：为目标优化函数，l_β为广义损失函数，y_n表示样本对是否属于同一目标，若样本对属于同一目标，则y_n＝1，若样本对不属于同一目标，则y_n＝-1，D_L为样本对在投影空间内的欧式距离的平方，为目标样本，为候选匹配样本，λ为正则参数，n为样本之间约束c的索引。

8.根据权利要求7所述的一种基于差异正则化的成对约束成分分析度量优化方法，其特征在于，所述广义损失函数的具体为：

其中：β为锐度参数。