CN103793721B - 一种基于区域相关反馈的行人重识别方法及*** - Google Patents
一种基于区域相关反馈的行人重识别方法及*** Download PDFInfo
- Publication number
- CN103793721B CN103793721B CN201410076028.3A CN201410076028A CN103793721B CN 103793721 B CN103793721 B CN 103793721B CN 201410076028 A CN201410076028 A CN 201410076028A CN 103793721 B CN103793721 B CN 103793721B
- Authority
- CN
- China
- Prior art keywords
- region
- feedback
- feedback samples
- weight
- query
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 238000005259 measurement Methods 0.000 claims abstract description 14
- 239000013598 vector Substances 0.000 claims description 36
- 238000010801 machine learning Methods 0.000 claims description 18
- 238000013461 design Methods 0.000 claims description 10
- 239000012141 concentrate Substances 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 claims 1
- 210000003141 lower extremity Anatomy 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000000875 corresponding effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 239000000203 mixture Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000011840 criminal investigation Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 206010008190 Cerebrovascular accident Diseases 0.000 description 1
- 208000006011 Stroke Diseases 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000000205 computational method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000035800 maturation Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供一种基于区域相关反馈的行人重识别方法及***,进行初次查询匹配和反馈样本收集,选取不相关图像作为反馈样本并标记类型;确定近邻集合、区域权重调整和特征权重调整;进行特征表达和距离度量,得到查询匹配结果;查询匹配结果,如果符合要求则输出结果,如果不符合要求,则返回进行迭代更新反馈样本,直到符合要求。本发明提出的基于区域相关反馈的技术,是充分了利用行人图像的局部特征信息,从局部特征出发,结合其他信息实时动态地调整局部特征权重,并结合传统行人重识别方法最终实现准确快速地找出并成功匹配目标嫌疑人。
Description
技术领域
本发明涉及视频侦查领域中的监控视频中对目标嫌疑人进行重识别的过程,属于一种基于区域相关反馈的行人重识别的方法及***。
背景技术
随着平安城市的广泛建设和各种场所面临监控的普及,视频监控数据量变得越来越大,这给刑侦破案带来了巨大的挑战,如何快速准确地从这些海量数据库提取出目标嫌疑人成为破案的关键。
传统的行人重识别方法能有效解决长时间人工手动检索可能带来的漏检和误检的问题,但是匹配效率相对较低,其主要是通过特征表达和距离度量的方法来对改善原始检索排序的,是一种非交互的查询方法。近年来有一些交互式的相关反馈方法应用于行人重识别***,但大都是基于正样本图像的一个整体关联匹配,没有考虑行人样本库中的不相关样本以及其局部特征对改善查询排序结果的影响。
在现有的行人重识别方法中,基于特征表达的方法在实际中应用比较广泛。在进行行人重识别过程中,通过对目标的各个不同外观特征以及运动信息特征进行提取,找出一个合适的表达方式,然后在行人样本库中直接对有相似或相同的特征表达的样本进行匹配,直到找出嫌疑目标。
专利号“CN102663366A”,名称为“行人目标识别方法及***”的专利,提出了一种基于特征表达的行人目标识别方法,该方法包括采集视频帧、提取视频帧的HOG特征等步骤,提取出的视频帧包含了行人方向和强度信息的LBP特征,然后根据所述HOG特征和所述LBP特征来识别监控视频场景中的特定的行人目标,这种方法算法比较简单、效率也很高,但是鲁棒性不是很好,对摄像头的拍摄方位角度和不同的光照条件变化比较敏感,很容易导致错误匹配,不适于在复杂环境下用于进行行人重识别;
相关反馈的方法在基于内容的图像检索中使用也很广泛。不同于在行人重识别特定的应用范围,在基于内容的图像检索中,存在着数量较多的用于匹配的正样本图像,这样就比较容易对大量的不相关的样本图像进行学习,在人机交互过程中,根据相关特征包含的信息量和图像场景,选取相对应的特征表达,通过比较、匹配、排序后反馈给识别子***,从而实现优化初始检索结果的目的。这种方法实现效果很好,鲁棒性好,但是需要对大量样本的所有特征进行训练学习,***开销较大,算法相对复杂,实时性方面难以达到要求,不适于在行人重识别***中应用。
专利号“CN 101539930 A”,名称为“一种相关反馈图像检索方法”的专利,通过基于分段相似性度量和多伦次联合反馈的图像检索方法来实现对目标图像进行检索的,这种方法检索出的匹配效果比较好,但是运算过程相对复杂,需要反复对图像中多个特征进行训练学习,不适于在行人重识别***中进行实战部署。
发明内容
本发明的目的在于克服现有技术缺陷,提出一种基于区域相关反馈的行人重识别方法和***。
本发明的技术方案提供一种基于区域相关反馈的行人重识别方法,包括以下步骤,
步骤S1,进行初次查询匹配和反馈样本收集,包括以下子步骤,
步骤S1.1,进行初次查询匹配,包括将输入目标人物图像作为查询图像,进行初始查询并输出初始查询排序结果;
步骤S1.2,进行反馈样本收集,在第一次执行步骤S1.2时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集;后续执行步骤S1.2时,从上一轮迭代执行步骤S4的所得查询排序结果中选取不相关图像作为反馈样本并标记类型,加入反馈样本集;
标记类型方式为,设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似;对反馈样本进行标记时,按照区域的划分,在每个区域提取视觉特征,设得到M维特征向量,其中任一维记为第m维,根据特征向量与查询图像中对应区域分别进行相似性比较;
步骤S2,进行确定近邻集合、区域权重调整和特征权重调整,包括以下子步骤,
步骤S2.1,对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合;
步骤S2.2,更新区域权重和特征权重,
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;代表第j个区域部位在第m维特征向量;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;j的取值为1、2…U,
步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 式二
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 式三
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数;
步骤S3,根据步骤S2中所得调整后的区域权重和式一,进行特征表达和距离度量,得到查询匹配结果;
步骤S4,显示步骤S3所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则返回步骤S1.2进行迭代,直到符合要求。
而且,对反馈样本按照区域的划分,与查询图像中对应区域分别进行相似性比较时,各区域分别所采用的相似性度量计算如下式,
其中,表示第j个区域部位的特征权重,初次执行步骤S1.2采用预设初值,后续执行步骤S1.2时采用上一轮迭代时执行步骤S2更新的权重值;代表第j个区域部位的第m维特征向量;代表查询图像p与反馈样本gi之间的基于第j个区域部位在第m维特征值下的相似度。
而且,设划分2个区域,包括躯干和腿部,与查询图像中对应区域分别进行相似性比较时,躯干和腿部分别所采用的相似性度量计算如下式,
其中,和分别代表腿部和躯干部位的特征权重,和分别代表腿部和躯干部位m维特征向量;和分别代表查询图像与反馈样本之间基于腿部在第m维特征值下的相似度和基于躯干部位在第m维特征值下的相似度;St(p,gi)为躯干部位相似性度量的值,Sl(p,gi)为腿部部位相似性度量的值。
而且,查询图像p与反馈样本集中第i个样本的图像之间相似性采用如下计算公式,
其中,和分别代表腿部和躯干部位的在m维特征向量下的特征权重;和分别代表腿部和躯干部位m维特征向量;Wl(p,gi)和Wt(p,gi)分别代表嫌疑目标与样本之间的基于腿部区域和躯干部位区域权重;和则分别代表嫌疑目标与样本之间的基于腿部区域在第m维特征值下的相似度和基于躯干部位在第m维特征值下的相似度。
而且,步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wt,l(p,gi)=Wt,l(p,gi)×β1 β1>1 式九
Wt,l(p,gi)=Wt,l(p,gi)×β2 0<β2<1 式十
其中,Wt,l(p,gi)表示Wt(p,gi)或Wl(p,gi),β1、β2为预设系数。
而且,步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数。
本发明还相应提供一种基于区域相关反馈的行人重识别***,包括以下模块,
反馈模块,用于进行初次查询匹配和反馈样本收集,包括以下子模块,
初次查询匹配子模块,用于将输入目标人物图像作为查询图像,进行初始查询并输出初始查询排序结果;
反馈样本收集子模块,用于在第一次执行反馈样本收集时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集;后续执行反馈样本收集时,从上一轮迭代时结果显示模块所得查询排序结果中选取不相关图像作为反馈样本并标记类型,加入反馈样本集;
标记类型方式为,设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似;对反馈样本进行标记时,按照区域的划分,在每个区域提取视觉特征,设得到M维特征向量,其中任一维记为第m维,根据特征向量与查询图像中对应区域分别进行相似性比较;
权值模块,用于进行确定近邻集合、区域权重调整和特征权重调整,包括以下子模块,确定近邻集合子模块,用于对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合;
更新区域权重和特征权重子模块,用于执行以下操作,
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;代表第j个区域部位在第m维特征向量;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;
利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 式二
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 式三
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数;
查询匹配模块,用于根据权值模块所得调整后的区域权重和式一,进行特征表达和距离度量,得到查询匹配结果;
结果显示模块,显示查询匹配模块所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则通知反馈样本收集子模块更新反馈样本集,直到符合要求。
本发明可提高行人重识别***进行匹配识别的有效性和准确性,创新点主要有以下两点:
1.将图像的局部区域作为反馈单元而不是整幅图像应用于行人重识别***,并且每一部分对应一个权重值;
2.运用动态K近邻规则的方法来调整每一部分及其对应特征的权重值,然后依据总的相似度值来优化和改进排序结果的。
附图说明
图1为本发明实施例的流程图。
具体实施方式
本发明所提供的一种基于区域相关反馈的行人重识别方法,是针对视频监控场景下的行人图像与其他情况下各种图像的显著差异性,依据人在行走状态下身体各部位组成结构特点,将其分为几个固定的组成区域,将区域作为基本处理单元,根据每个区域所包含特征信息的不同以及不同区域对最终匹配结果的影响大小,及时更新并反馈调整后的动态权重值,最后依据优化后的相似度大小进行重排序,实现基于区域的相关反馈方法的全过程。具体实施时可采用计算机软件技术,支持流程运行。参见图1,实施例的流程包括步骤如下:
步骤S1,初次查询匹配和反馈样本收集:按照区域的划分,标记区域相似和区域不相似的样本,实现反馈信息收集具体过程。
可采用以下子步骤实现:
步骤S1.1,进行初次查询匹配,包括输入目标人物图像作为查询图像,例如刑侦破案涉及的嫌疑目标人图像,进行初始查询并输出初始查询排序结果,具体实施时,可采用传统方法进行查询图像的初始查询匹配,例如欧式距离或者L1距离的方法,将查询匹配结果根据相似性从高到低排列得到初次排序结果;
步骤S1.2,进行反馈信息收集,第一次执行步骤S1.2时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集。其中,不相关图像是指行人图像不是被查询的目标人物图像,即使外貌非常相似。设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似。在后续迭代时,如果某轮执行到步骤S4的当前查询排序结果不满足要求,则返回执行步骤S1.2时,在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,并加入到反馈样本集内,然后基于扩大后的反馈样本重复步骤S2-S4的操作。
实施例划分为躯干部位和腿部部位两个区域。每个反馈样本的类型标记为基于躯干部位相似的样本(PSNt)、基于躯干部位不相似样本(PDNt)、基于腿部部位相似的样本(PSNl)或基于腿部部位不相似样本(PDNl)。
具体实施时为提高效率起见,可由用户自行选择非查询目标的图像作为不相关图像,并根据视觉和先验知识进行标记。为便于用户选择参考起见,也可自动基于区域进行相似性度量并输出结果,度量实现方式,可由本领域技术人员自行指定。例如,按照人体结构组成特点,将行人身体结构分为上部的躯干部分(torso part)和下部的双腿部分(legpart),按照两个区域的划分,分别在每个区域提取出基于视觉所包含的外观形状及颜色特征,设得到M维特征向量,其中任一维记为第m维。
设查询图像p,未作标记的样本库为G,其中设:G={gi|i=1,…,n},其中n代表样本库中样本个数。标记后反馈样本集有n个反馈样本。对反馈样本按照区域的划分,与查询图像中对应区域分别进行相似性比较时,各区域分别所采用的相似性度量计算如下式,
其中,表示第j个区域部位的特征权重,初次执行步骤S1.2采用预设初值,后续执行步骤S1.2时采用上一轮迭代时执行步骤S2更新的权重值;代表第j个区域部位的m维特征向量;代表查询图像p与反馈样本gi之间的基于第j个区域部位在第m维特征值下的相似度。
实施例中,在不相关图像类中,按照躯干和腿部两部分的划分,与查询图像中嫌疑目标对应区域分别进行相似性比较,躯干和腿部分别所采用的相似性度量计算方法如下:
和分别代表腿部和躯干部位的特征权重,初次执行步骤S1.2采用的初值可由用户依据行人图像与反馈样本之间具体不同特征下的相似性自行预设,后续执行步骤S1.2时可采用上一轮迭代时执行步骤S2更新的权重值;和分别代表腿部和躯干部位m维特征向量;和则分别代表嫌疑目标与样本之间的基于腿部区域和躯干部位在第m维特征值下的相似度;St(p,gi)为躯干部位相似性度量的值,Sl(p,gi)为腿部部位相似性度量的值。
根据相似性度量值得到初次排序结果后,通过人机交互,用户可根据视觉和先验判断,标记出基于躯干部位相似的样本(PSNt)和不相似样本(PDNt)以及基于腿部部位相似的样本(PSNl)和不相似样本(PDNl)。
步骤S2,包括确定近邻集合、区域权重调整、特征权重调整:
本步骤通过区域K近邻集合的方法寻找出类似基于区域相似的区域相似和区域不相似的样本集合,对于每一种区域,都可以找出这样的一对集合;对找出的每一对集合,运用动态K近邻的方法,分别重新确定其新的K个近邻,调整不同区域对应的权重。对于不同区域内所包含的特征信息对最终行人重识别的匹配结果的影响程度不同,所以不同的区域具有不同的权重值,而针对相同的区域,由于包含很多特征信息,其中某些特征能够显著地区别于其他样本,对最终的匹配结果影响较大,因而具有较大的权重值,而另外一些特征则与其他样本没有显著区别,对最终匹配结果影响很小,因而具有较小的权重。为此,本发明实施例先找出近邻集合,然后再调整权重大小。针对区域不相似近邻的集合,找出该区域内所有的特征信息,并将所有特征表达组成一个多维的特征向量,对于更新后的新的K个近邻,依据不同的维度上对应的特征值变动大小确定该特征值对匹配结果的影响,对那些能够很好代表查询目标共有性质的特征赋予较大的权重;反之,对那些不能够很好代表查询目标性质的特征,赋予较小的权重值,以此来调整不同特征的特征权重。
可采用以下子步骤实现:
步骤S2.1,对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合。具体实现方法如下:
对每一种区域,根据公式(1)可知,都可得一个基于该区域相似性大小的排序,设对查询图像通过区域K近邻集合的方法寻找后,分别用和代表组成基于腿部相似和不相似的一对近邻集合,用SetPSNt和SetPDNt代表组成基于躯干相似和不相似的一对近邻集合;这些近邻集合所包含的K个样本都是通过K-近邻规则从反馈样本中获取的,K值可预先设定,实施例中取K的值为K=5。
对每一个标记为某区域相似的样本,将该区域不相似的近邻集合作为分界依据,从排序结果的最前面依次往后面选择样本,直到所选取的样本属于该区域不相似的近邻集合,通过这种方法可以得到新的包含k个近邻的区域相似的集合;同理,对每一个标记为某区域不相似的样本,将该区域相似的近邻集合作为分界依据,运用相同方法,可以得到新的包含k个近邻的该区域不相似的集合。k值根据具体分界选取的情况动态调整。
步骤S2.2,更新区域权重值和特征权重:
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;代表第j个区域部位在第m维特征向量;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;j的取值为1、2…U,
步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 (5)
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 (6)
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数。
实施例中,
设嫌疑目标(图像p)与反馈样本集中第i个样本的图像之间相似性的可用如下计算公式:
其中:
和分别代表腿部和躯干部位的在m维特征向量下的特征权重;和分别代表腿部和躯干部位m维特征向量;Wl(p,gi)和Wt(p,gi)分别代表嫌疑目标与样本之间的基于腿部区域和躯干部位区域权重值;和则分别代表嫌疑目标与样本之间的基于腿部区域和躯干部位的在m维特征值下的相似度。
步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重值,
通过公式(4)和(5)来更新区域权重值:
Wt,l(p,gi)=Wt,l(p,gi)×β1 β1>1 (9)
Wt,l(p,gi)=Wt,l(p,gi)×β2 0<β2<1 (10)
其中,Wt,l(p,gi)表示Wt(p,gi)或Wl(p,gi),第一次执行本步骤时,计算前Wt(p,gi)、Wl(p,gi)的初值可依据用户所选取的查询行人图像(嫌疑目标的图像p)与反馈样本在不同区域的差异性自行预设,比如在某些环境下,衣服颜色比较鲜明,而且外观差异变化不大,这样上身的权重就更大一些。后续执行本步骤时,计算前Wt(p,gi)、Wl(p,gi)的值可采用上一轮迭代执行本步骤时根据计算所得更新的权重值。在上述公式(9)中β1>1是针对标记为区域相似的样本,使其组成新的k个近邻更加接近所选取的查询图像,从而增加这部分区域的区域权重值;在上述公式(10)中0<β2<1则针对区域不相似的样本,使其组成的新的k个近邻更加远离所选取的查询图像,从而减小这部分区域的区域权重值,实施例中预设取值为:系数β1=100,系数β2=0.01。因为得到新的K个近邻样本是计算机依据动态K近邻规则重新选取的,那么与原来样本相比较,会有一部分在某些区域的特征比较明显(比如体型比较大)样本包含到新形成的集合中,于是对应于查询图像,这些样本在进行匹配时,这些区域对结果影响较大,所以区域权重随之发生变化(β1增大)
对于区域不相似的近邻集合,原来相同。
步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重值,
通过以下公式来调整更新特征权重:
在公式(11)和(12)中,第一次执行本步骤时,计算前和的初值可由用户依据行人图像与反馈样本之间具体不同特征下的相似性自行预设,μm、σm分别表示第m维特征值的均值和方差,预设参数α一般在范围[0.5,1]内取值,例如取值0.5。后续执行本步骤时,计算前和的值可采用上一轮迭代执行本步骤时根据计算所得更新的权重值。在更新后得到新的包含k个近邻的区域不相似集合中,当相似性的值和较大时,则表明该维度向量下的特征不能真实反映用户的实际意图,应当减小其关联匹配权重;并将所有相似性序列的值和堆叠起来,形成一个Lpn×(2M)矩阵,其中,2M代表特征的个数,上述矩阵的列即为相似性序列和在某个特征值下的长度Lpn,当标记的所有区域不相似样本在该特征值下的具有相近的相似性值时,则代表该特征值很好代表查询目标共有性质,于是该序列标准差的倒数成为特征权重的无偏估计量,当参数μm取值在前M/4时,运用公式(11)和(12)来调整更新特征权重。当在第m维特征值下,样本中的某幅图像与查询图像反而有较大的相似度,这并没有反应用户真实意图(用户目标是尽可能找到那些差异比较大的特征值的样本,使他们尽可能远离聚类中心,那么相似的样本的排序就会相应靠前,接近聚类中心),因此根据经验约定在参数μm取值在前M/4范围内情况下运用公式(11)、(12)。μm、σm是从新得到的近邻样本集合中提取出特征组成的特征向量的均值和方差(他们依据样本的不同而变化)于是,特征权重就会自动更新。
步骤S3,包括特征表达和距离度量,得到查询匹配结果:
特征表达和距离度量可采用现有行人重识别技术里面的成熟方法。
特征表达是基于在图像已提取出的特征的前提下,通过调整后的权重值,并对不同特征进行多次的训练学习,选出能够很好表征图像与其他样本之间差异的特征。
距离度量中可通过以上步骤S2中得出的调整后的权重值,利用公式(4)重新进行相似性度量,得出新的查询匹配结果。这样可以充分利用上述经过调整后权重值增大的区域及其所包含的特征值,找出相似度更高的样本,提高行人重识别的准确性;
步骤S4,显示步骤S3所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则返回步骤S1.2进行迭代,直到符合要求。具体实施时,可在交互界面上,输出显示优化匹配后的排序结果,用户可自行结合匹配目标和其他各方面的信息,综合判断决定查询匹配结果是否符合要求。
一种基于区域相关反馈的行人重识别***,利用相关反馈技术来优化排序结果,具体实施时可提供人机交互界面方便用户选择不相关的图像,并在图像上标记与查询图像相似或不相似的区域,利用这些信息进行相关反馈,基于区域的相关反馈技术,是充分了利用行人图像的局部特征信息,并结合传统行人重识别方法来实现优化排序结果的。其***可采用软件模块化方式实现,包括以下模块:
反馈模块,用于进行初次查询匹配和反馈样本收集,包括以下子模块,
初次查询匹配子模块,用于将输入目标人物图像作为查询图像,进行初始查询并输出初始查询排序结果;
反馈样本收集子模块,用于在第一次执行反馈样本收集时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集;后续执行反馈样本收集时,从上一轮迭代时结果显示模块所得查询排序结果中选取不相关图像作为反馈样本并标记类型,加入反馈样本集;
标记类型方式为,设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似;对反馈样本进行标记时,按照区域的划分,在每个区域提取视觉特征,设得到M维特征向量,其中任一维记为第m维,根据特征向量与查询图像中对应区域分别进行相似性比较;
权值模块,用于进行确定近邻集合、区域权重调整和特征权重调整,包括以下子模块,确定近邻集合子模块,用于对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合;
更新区域权重和特征权重子模块,用于执行以下操作,
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;代表第j个区域部位在第m维特征向量;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;
利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 (5)
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 (6)
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数;
查询匹配模块,用于根据权值模块所得调整后的区域权重和式(4),进行特征表达和距离度量,得到查询匹配结果;
结果显示模块,显示查询匹配模块所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则通知反馈样本收集子模块更新反馈样本集,直到符合要求。
各模块具体实现参见方法流程的各步骤,本发明不予赘述。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代,但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。
Claims (7)
1.一种基于区域相关反馈的行人重识别方法,其特征在于:包括以下步骤,
步骤S1,进行初次查询匹配和反馈样本收集,包括以下子步骤,
步骤S1.1,进行初次查询匹配,包括将输入目标人物图像作为查询图像,进行初始查询并输出初始查询排序结果;
步骤S1.2,进行反馈样本收集,在第一次执行步骤S1.2时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集;后续执行步骤S1.2时,从上一轮迭代执行步骤S4的所得查询排序结果中选取不相关图像作为反馈样本并标记类型,加入反馈样本集;
标记类型方式为,设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似;对反馈样本进行标记时,按照区域的划分,在每个区域提取视觉特征,设得到M维特征向量,其中任一维记为第m维,根据特征向量与查询图像中对应区域分别进行相似性比较;
步骤S2,进行确定近邻集合、区域权重调整和特征权重调整,包括以下子步骤,
步骤S2.1,对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合;
步骤S2.2,更新区域权重和特征权重,
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;j的取值为1、2…U,
步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 式二
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 式三
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数;
步骤S3,根据步骤S2中所得调整后的区域权重和式一,进行特征表达和距离度量,得到查询匹配结果;
步骤S4,显示步骤S3所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则返回步骤S1.2进行迭代,直到符合要求。
2.根据权利要求1所述基于区域相关反馈的行人重识别方法,其特征在于:对反馈样本按照区域的划分,与查询图像中对应区域分别进行相似性比较时,各区域分别所采用的相似性度量计算如下式,
式五
其中,表示第j个区域部位的特征权重,初次执行步骤S1.2采用预设初值,后续执行步骤S1.2时采用上一轮迭代时执行步骤S2更新的权重值;代表第j个区域部位的第m维特征向量;代表查询图像p与反馈样本gi之间的基于第j个区域部位在第m维特征值下的相似度。
3.根据权利要求2所述基于区域相关反馈的行人重识别方法,其特征在于:设划分2个区域,包括躯干和腿部,与查询图像中对应区域分别进行相似性比较时,躯干和腿部分别所采用的相似性度量计算如下式,
其中,和分别代表腿部和躯干部位的特征权重,和分别代表腿部和躯干部位m维特征向量;和分别代表查询图像与反馈样本之间基于腿部在第m维特征值下的相似度和基于躯干部位在第m维特征值下的相似度;St(p,gi)为躯干部位相似性度量的值,Sl(p,gi)为腿部部位相似性度量的值。
4.根据权利要求3所述基于区域相关反馈的行人重识别方法,其特征在于:查询图像p与反馈样本集中第i个样本的图像之间相似性采用如下计算公式,
其中,和分别代表腿部和躯干部位的在m维特征向量下的特征权重;和分别代表腿部和躯干部位m维特征向量;Wl(p,gi)和Wt(p,gi)分别代表嫌疑目标与样本之间的基于腿部区域和躯干部位区域权重;和则分别代表嫌疑目标与样本之间的基于腿部区域在第m维特征值下的相似度和基于躯干部位在第m维特征值下的相似度。
5.根据权利要求4所述基于区域相关反馈的行人重识别方法,其特征在于:步骤S2.2.1,利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wt,l(p,gi)=Wt,l(p,gi)×β1 β1>1 式九
Wt,l(p,gi)=Wt,l(p,gi)×β2 0<β2<1 式十
其中,Wt,l(p,gi)表示Wt(p,gi)或Wl(p,gi),β1、β2为预设系数。
6.根据权利要求4所述基于区域相关反馈的行人重识别方法,其特征在于:步骤S2.2.2,利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数。
7.一种基于区域相关反馈的行人重识别***,其特征在于:包括以下模块,
反馈模块,用于进行初次查询匹配和反馈样本收集,包括以下子模块,
初次查询匹配子模块,用于将输入目标人物图像作为查询图像,进行初始查询并输出初始查询排序结果;
反馈样本收集子模块,用于在第一次执行反馈样本收集时,从初次排序结果在排名最靠前的一定预设数目的图像中选取不相关图像作为反馈样本并标记类型,构成反馈样本集;后续执行反馈样本收集时,从上一轮迭代时结果显示模块所得查询排序结果中选取不相关图像作为反馈样本并标记类型,加入反馈样本集;
标记类型方式为,设划分U个区域1、2…U,每个反馈样本分别标记为2U个类型之一,即与查询图像基于区域1相似、基于区域1不相似、基于区域2相似、基于区域2不相似…基于区域U相似、基于区域U不相似;对反馈样本进行标记时,按照区域的划分,在每个区域提取视觉特征,设得到M维特征向量,其中任一维记为第m维,根据特征向量与查询图像中对应区域分别进行相似性比较;
权值模块,用于进行确定近邻集合、区域权重调整和特征权重调整,包括以下子模块,确定近邻集合子模块,用于对查询图像,首先通过区域K近邻集合的方法寻找出基于区域相似的区域相似和区域不相似的样本集合;然后运用动态k近邻规则,对每一个标记为某区域相似的样本,更新调整并得到新的包含k个近邻的区域相似的集合,对每一个标记为某区域不相似的样本,更新调整并得到新的包含k个近邻的该区域不相似的集合;
更新区域权重和特征权重子模块,用于执行以下操作,
设查询图像p与反馈样本集中第i个反馈样本的图像之间相似性Sa(p,gi)采用如下计算公式,
其中,代表第j个区域部位在m维特征向量下的特征权重;Wj(p,gi)代表查询图像p与反馈样本之间的基于第j个区域部位区域权重;其中设代表查询图像p与反馈样本之间的基于第j个区域部位在第m维特征值下的相似度;
利用机器学习中距离度量的方法,更新区域权重采用如下计算公式,
Wj(p,gi)=Wj(p,gi)×β1 β1>1 式二
Wj(p,gi)=Wj(p,gi)×β2 0<β2<1 式三
其中,Wj(p,gi)表示第j个区域部位的区域权重,β1、β2为预设系数;
利用机器学习中距离度量的方法,更新特征权重采用如下计算公式,
其中,μm、σm分别表示第m维特征值的均值和方差,α为预设参数;
查询匹配模块,用于根据权值模块所得调整后的区域权重和式一,进行特征表达和距离度量,得到查询匹配结果;
结果显示模块,显示查询匹配模块所得查询匹配结果,如果符合要求,则输出结果;如果不符合要求,则通知反馈样本收集子模块更新反馈样本集,直到符合要求。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410076028.3A CN103793721B (zh) | 2014-03-04 | 2014-03-04 | 一种基于区域相关反馈的行人重识别方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410076028.3A CN103793721B (zh) | 2014-03-04 | 2014-03-04 | 一种基于区域相关反馈的行人重识别方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103793721A CN103793721A (zh) | 2014-05-14 |
CN103793721B true CN103793721B (zh) | 2017-05-10 |
Family
ID=50669363
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410076028.3A Expired - Fee Related CN103793721B (zh) | 2014-03-04 | 2014-03-04 | 一种基于区域相关反馈的行人重识别方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103793721B (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104200206B (zh) * | 2014-09-09 | 2017-04-26 | 武汉大学 | 一种基于双角度排序优化的行人重识别方法 |
CN104376334B (zh) * | 2014-11-12 | 2018-05-29 | 上海交通大学 | 一种多尺度特征融合的行人比对方法 |
CN104376212B (zh) * | 2014-11-17 | 2016-12-21 | 深圳市银雁金融服务有限公司 | 评估作业正确率的方法及装置 |
CN104462550B (zh) * | 2014-12-25 | 2017-07-11 | 武汉大学 | 基于相似性和不相似性融合排序优化的行人重识别方法 |
CN106557533B (zh) * | 2015-09-24 | 2020-03-06 | 杭州海康威视数字技术股份有限公司 | 一种单目标多图像联合检索的方法和装置 |
CN105488502B (zh) * | 2015-11-27 | 2018-12-21 | 北京航空航天大学 | 目标检测方法与装置 |
CN108229521B (zh) * | 2017-02-23 | 2020-09-15 | 北京市商汤科技开发有限公司 | 对象识别网络的训练方法、装置、***及其应用 |
CN108960013B (zh) * | 2017-05-23 | 2020-09-15 | 深圳荆虹科技有限公司 | 一种行人再识别方法及装置 |
CN107563327B (zh) * | 2017-08-31 | 2021-07-20 | 武汉大学 | 一种基于自步反馈的行人重识别方法及*** |
CN109697391A (zh) | 2017-10-23 | 2019-04-30 | 北京京东尚科信息技术有限公司 | 封闭场所内人物再识别的方法、***及终端设备 |
CN108052665B (zh) * | 2017-12-29 | 2020-05-05 | 深圳市中易科技有限责任公司 | 一种基于分布式平台的数据清洗方法及装置 |
CN108710824A (zh) * | 2018-04-10 | 2018-10-26 | 国网浙江省电力有限公司信息通信分公司 | 一种基于局部区域划分的行人识别方法 |
CN110909565B (zh) * | 2018-09-14 | 2023-06-16 | 阿里巴巴集团控股有限公司 | 图像识别和行人再识别方法及装置,电子和存储设备 |
CN109740541B (zh) * | 2019-01-04 | 2020-08-04 | 重庆大学 | 一种行人重识别***与方法 |
CN110377774B (zh) * | 2019-07-15 | 2023-08-01 | 腾讯科技(深圳)有限公司 | 进行人物聚类的方法、装置、服务器和存储介质 |
CN110536305B (zh) * | 2019-08-29 | 2023-09-12 | 武汉赛可锐信息技术有限公司 | WiFi热点侦查方法、装置、终端设备及存储介质 |
CN111914241B (zh) * | 2020-08-06 | 2024-01-30 | 上海熙菱信息技术有限公司 | 一种动态识别非结构化对象身份信息的方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101539930A (zh) * | 2009-04-21 | 2009-09-23 | 武汉大学 | 一种相关反馈图像检索方法 |
CN102663366A (zh) * | 2012-04-13 | 2012-09-12 | 中国科学院深圳先进技术研究院 | 行人目标识别方法及*** |
CN103325122A (zh) * | 2013-07-03 | 2013-09-25 | 武汉大学 | 基于双向排序的行人检索方法 |
-
2014
- 2014-03-04 CN CN201410076028.3A patent/CN103793721B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101539930A (zh) * | 2009-04-21 | 2009-09-23 | 武汉大学 | 一种相关反馈图像检索方法 |
CN102663366A (zh) * | 2012-04-13 | 2012-09-12 | 中国科学院深圳先进技术研究院 | 行人目标识别方法及*** |
CN103325122A (zh) * | 2013-07-03 | 2013-09-25 | 武汉大学 | 基于双向排序的行人检索方法 |
Non-Patent Citations (3)
Title |
---|
"Interactive person re-identification in TV series";Fischer M. et al.;《2010 International Workshop on Context-based Multimedia Indexing》;20101231;第1-6页 * |
"POP: Person Re-Identification Post-Rank Optimisation";Chunxiao Liu et al.;《Proceeding of the IEEE International Conference on Computer Vision》;20131231;第441-448页 * |
"Relevance Feedback for CBIR: A New Approach Based on Probabilistic Feature Weighting With Positive and Negative Examples";Kherfi M.L. et al.;《IEEE TRANSACTIONS ON IMAGE PROCESSING》;20060430;第15卷(第4期);第1017-1030页 * |
Also Published As
Publication number | Publication date |
---|---|
CN103793721A (zh) | 2014-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103793721B (zh) | 一种基于区域相关反馈的行人重识别方法及*** | |
JP6831769B2 (ja) | 画像検索装置、画像検索方法、及び、それに用いる設定画面 | |
CN106469299B (zh) | 一种车辆搜索方法及装置 | |
CN106778604B (zh) | 基于匹配卷积神经网络的行人再识别方法 | |
CN103778227B (zh) | 从检索图像中筛选有用图像的方法 | |
CN108595636A (zh) | 基于深度跨模态相关性学习的手绘草图的图像检索方法 | |
Yang et al. | Unik: A unified framework for real-world skeleton-based action recognition | |
Liang et al. | Cross-modality transformer with modality mining for visible-infrared person re-identification | |
CN110503076B (zh) | 基于人工智能的视频分类方法、装置、设备和介质 | |
CN109191455A (zh) | 一种基于ssd卷积网络的大田作物病虫害检测方法 | |
CN103336835B (zh) | 基于权值color‑sift特征字典的图像检索方法 | |
CN105718960A (zh) | 基于卷积神经网络和空间金字塔匹配的图像排序模型 | |
CN109472191A (zh) | 一种基于时空上下文的行人重识别与追踪方法 | |
CN108109055B (zh) | 一种基于图像渲染的跨场景服装检索方法 | |
CN109101938A (zh) | 一种基于卷积神经网络的多标签年龄估计方法 | |
CN108898269A (zh) | 基于度量的电力图像环境影响评估方法 | |
CN113361542A (zh) | 一种基于深度学习的局部特征提取方法 | |
CN106844739A (zh) | 一种基于神经网络协同训练的遥感图像变化信息检索方法 | |
CN113159826A (zh) | 基于深度学习的服装流行元素预测的***及方法 | |
CN109784295B (zh) | 视频流特征识别方法、装置、设备及存储介质 | |
CN107622071B (zh) | 通过间接相关反馈在无查源下的衣服图像检索***及方法 | |
CN110532409B (zh) | 基于异构双线性注意力网络的图像检索方法 | |
CN107563327B (zh) | 一种基于自步反馈的行人重识别方法及*** | |
CN107578069B (zh) | 图像多尺度自动标注方法 | |
CN115953834A (zh) | 面向仰卧起坐的多头注意力姿态估计方法及检测*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170510 |