CN103970771A - 一种人体的检索方法和*** - Google Patents

一种人体的检索方法和*** Download PDF

Info

Publication number
CN103970771A
CN103970771A CN201310035131.9A CN201310035131A CN103970771A CN 103970771 A CN103970771 A CN 103970771A CN 201310035131 A CN201310035131 A CN 201310035131A CN 103970771 A CN103970771 A CN 103970771A
Authority
CN
China
Prior art keywords
human body
retrieval
result
rise
checked
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310035131.9A
Other languages
English (en)
Other versions
CN103970771B (zh
Inventor
常虹
李�浩
王亮
刘国翌
山世光
陈熙霖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC China Co Ltd
Institute of Computing Technology of CAS
Original Assignee
NEC China Co Ltd
Institute of Computing Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC China Co Ltd, Institute of Computing Technology of CAS filed Critical NEC China Co Ltd
Priority to CN201310035131.9A priority Critical patent/CN103970771B/zh
Publication of CN103970771A publication Critical patent/CN103970771A/zh
Application granted granted Critical
Publication of CN103970771B publication Critical patent/CN103970771B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour

Landscapes

  • Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种人体的检索方法和***。包括:图片存在判断步骤,判断是否存在待查询人体的图片,如果存在进入第一检索步骤,否则进入第二检索步骤;第一检索步骤,使用待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在第一检索结果中,使用待查询人体的人体高层属性特征的集合,对第一检索结果中的人体进行筛选,生成最终检索结果,检索结束;第二检索步骤,确定检索方式,根据检索方式使用待查询人体的人体高层属性特征对人体数据库中的人体进行筛选,生成人体数据库的最终检索结果,检索结束。本发明实现了更准确和更快速地进行人体检索。

Description

一种人体的检索方法和***
技术领域
本发明涉及计算机视觉领域,特别是涉及一种基于人体底层表观特征和人体高层属性特征的人体检索技术。
背景技术
近年来,随着譬如“7/7伦敦***案”和“莫斯科机场***案”等社会恐怖事件的出现,公共场所的安防问题被提升到一个新的高度。而监控摄像设备的普及,为预防和处理安防问题提供了一种新的途径,即通过检测同一个人在不同区域的出现频率和状态。一方面,在预防安防问题中,通过分析行人在不同位置上的出现频率和外观状况变化(比如:从有背包到丢包),可以找到可疑的、具有犯罪倾向的对象;另一方面,通过对发生犯罪的场所周围的监控摄像进行排查,搜索曾经出现过的行人的行走路线和出现时间,可以辅助搜索犯罪嫌疑人。由于视频数量非常庞大,通过人工查找的方法来处理这些问题变得非常困难;于是,设计自动的机器算法来在不同的时间、不同的摄像机和摄像环境下检索同一个人就成为了一个重点问题。除了安全防范之外,这种自动化的人体检索方法还可以应用于其它问题中,比如:搜索失踪或走失人员。
多摄像机网络的监控视频下的人体检索面临以下几方面的难点:首先,不同摄像机所处环境不同,不同时间光照情况不同,当行人在不同时间不同地点出现时,人体的表观受光照影响有较大差异;其次,不同摄像机下由于视角的差异导致外形差别较大,在无法将身体部分对齐的情况下,传统的基于人体底层表观特征的人体表观模型匹配准确性较差。在已有监控环境下的人体检索方面的研究中,已有工作大多数从设计区分能力较强的特征或者距离度量学习入手。但是,这些特征抽取方法往往只针对准正面的人体设计,而不适合进行跨视角的人体匹配;同时,利用人体底层表观特征的检索结果往往获得与待查询人体相似但明显不同的人体,例如:待查询人体为男性,搜索结果中的女性肯定不符合要求;最后,这些方法通常计算复杂性较高,不适合处理大量数据, 无法在线快速获取检索结果。
根据网络检索工具使用的一些经验,在大规模检索问题上,可以使用尽可能多的检索结果来提供充分的和被检索内容相似、相关的内容,但是在检索结果排序上要进行考究,尽可能让用户关注的检索结果处于比较靠前的位置上。
发明内容
本发明的主要目的是针对现有的基于示例的人体(待查询人体)的人体检索技术中人体底层表观特征匹配的不准确、实时性差等问题,提出了一种基于人体底层表观特征和人体高层属性特征的人体的检索方法和***,在通过传统人体底层表观特征进行检索的结果中,使用视角鲁棒的人体高层属性特征过滤掉一些与待查询人体的人体高层属性特征不同的检索结果,和/或根据人体高层属性特征的匹配程度对检索结果进行重新排序,来获得更加准确的检索结果。
本发明提供了一种人体的检索方法,包括:
图片存在判断步骤,判断是否存在待查询人体的图片,如果存在进入第一检索步骤,否则进入第二检索步骤;
第一检索步骤,使用所述待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在所述第一检索结果中,使用所述待查询人体的人体高层属性特征的集合,对所述第一检索结果中的人体进行筛选,生成最终检索结果,检索结束;
第二检索步骤,确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果,检索结束。
所述第一检索步骤进一步为:
第一检索结果生成子步骤,计算所述人体数据库中的人体与所述待查询人体的所述人体底层表观特征的第一相似度,根据所述第一相似度对所述人体数据库中的人体进行筛选,生成所述第一检索结果;
第二检索结果生成子步骤,计算所述第一检索结果中的所述人体与所述待查询人体的每种人体高层属性特征的第二相似度,根据每种所述第二相似度对所述第一检索结果中的人体进行筛选,生成所述第二检索结果;
最终检索结果生成子步骤,计算所述第二检索结果中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第一总属性距离,根据所述总属性距离对所述第二检索结果中的人体进行筛选,生成第三检索结果;使用所述第三检索结果中的所述人体的所述第一相似度和全部所述人体高层属性特征的第二相似度,计算所述第三检索结果中的所述人体的总相似度,根据所述总相似度对所述第三检索结果中的人体进行筛选,生成所述最终检索结果;其中,所述第一总属性距离为:所述第二检索结果中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
所述第二检索步骤进一步为:
根据所述待查询人体的所述人体高层属性特征的数值类型确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果。
所述根据待查询人体的所述人体高层属性特征的数值类型确定检索方式进一步为:当所述数值类型为二值输出时,针对每种所述人体高层属性特征,对所述人体数据库中的所述人体建立倒排索引,采用一个或多个所述倒排索引的结果作为所述最终检索结果;当所述数值类型为概率输出时,计算所述人体数据库中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第二总属性距离,根据所述第二总属性距离对所述人体数据库中的所述人体进行筛选,生成所述最终检索结果;其中,所述第二总属性距离为:所述人体数据库中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
使用离线训练的人体属性分类器提取所述人体高层属性特征。
本发明还提供了一种人体的检索***,包括:
图片存在判断模块,用于判断是否存在待查询人体的图片,如果存在进入第一检索模块,否则进入第二检索模块;
第一检索模块,用于使用所述待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在所述第一检索结果中,使用所述待查询人体的人体高层属性特征的集合,对所述第一检索结果中的人体进行筛选,生成最终检索结果,检索结束;
第二检索模块,用于确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果,检索结束。
所述第一检索模块进一步为:
第一检索结果生成子模块,用于计算所述人体数据库中的人体与所述待查询人体的所述人体底层表观特征的第一相似度,根据所述第一相似度对所述人体数据库中的人体进行筛选,生成所述第一检索结果;
第二检索结果生成子模块,用于计算所述第一检索结果中的所述人体与所述待查询人体的每种人体高层属性特征的第二相似度,根据每种所述第二相似度对所述第一检索结果中的人体进行筛选,生成所述第二检索结果;
最终检索结果生成子模块,用于计算所述第二检索结果中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第一总属性距离,根据所述第一总属性距离对所述第二检索结果中的人体进行筛选,生成第三检索结果;使用所述第三检索结果中的所述人体的所述第一相似度和全部所述人体高层属性特征的第二相似度,计算所述第三检索结果中的所述人体的总相似度,根据所述总相似度对所述第三检索结果中的人体进行筛选,生成所述最终检索结果;其中,所述第一总属性距离为:所述第二检索结果中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
所述第二检索模块进一步为:
根据所述待查询人体的所述人体高层属性特征的数值类型确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果。
所述根据待查询人体的所述人体高层属性特征的数值类型确定检索方式进一步为:当所述数值类型为二值输出时,针对每种所述人体高层属性特征,对所述人体数据库中的所述人体建立倒排索引,采用一个或多个所述倒排索引的结果作为所述最终检索结果;当所述数值类型为概率输出时,计算所述人体数据库中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第二总属性距离,根据所述第二总属性距离对所述人体数据库中的所述人体进行筛选,生成所述最终检索结果;其中,所述第二总属性距离为:所述人体数据 库中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
使用离线训练的人体属性分类器提取所述人体高层属性特征。
本发明的有益效果在于:
(1)利用基于人体高层属性特征的人体图像索引可以在较短的时间内完成检索,使得在线人体检索和大规模人体检索成为可能。
(2)使用人体高层属性特征对通过人体底层表观特征的检索结果进行过滤和/或重排序,减少了无关搜索结果的数量,提高了相关人体的结果排名,降低了用户查询负担。
(3)结合人体底层表观特征和人体高层属性特征来表示人体,获得了一种比较完备的人体表示,检索结果和待查询人体具有充分的一致性,提升了检索***的准确性。
(4)在没有待查询人体图像的情况下,可以利用人体高层属性特征的描述进行人体检索,去除对于待查询人体图像的依赖性。
附图说明
图1为本发明的一种人体的检索方法的示意图。
图2为本发明的一种人体的检索***的示意图。
图3为利用人体底层表观特征进行检索得到的结果。
图4、图5、图6和图7为逐步增加人体高层属性特征进行过滤的结果。
图8和图9为给定待查询人体的人体高层属性特征的值后进行过滤的结果。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白,下面参照附图并举实施例,对本发明做进一步详细说明。
本发明以智能视频监控为应用背景,给定输入监控视频数据,使用一个在线的人体检测器检测视频中每一帧出现的行人,并记录下行人出现的图像位置,然后,离线地计算这些检测到的行人的人体底层表观特征和人体高层属性特征,将行人的图像位置、人体底层表观特征和人体高层属性特征存储到人体 数据库,该行人为人体数据库中一个检测到的人体。
图1为本发明的一种人体的检索方法的示意图。包括:图片存在判断步骤(S10)、第一检索步骤(S20)和第二检索步骤(S30)。其中,
图片存在判断步骤(S10),判断是否存在待查询人体的图片,如果存在进入第一检索步骤,否则进入第二检索步骤。
第一检索步骤(S20),使用待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在第一检索结果中,使用待查询人体的人体高层属性特征的集合,对第一检索结果中的人体进行筛选,生成最终检索结果,检索结束。包括:
第一检索结果生成子步骤(S201),计算人体数据库中的人体与待查询人体的人体底层表观特征的第一相似度,根据第一相似度对人体数据库中的人体进行筛选,生成第一检索结果;
第二检索结果生成子步骤(S202),计算第一检索结果中的人体与待查询人体的每种人体高层属性特征的第二相似度,根据每种第二相似度对第一检索结果中的人体进行筛选,生成第二检索结果;
最终检索结果生成子步骤(S203),计算第二检索结果中的人体和待查询人体的人体高层属性特征的集合的第一总属性距离,根据第一总属性距离对第二检索结果中的人体进行筛选,生成第三检索结果;使用第三检索结果中的人体的第一相似度和全部人体高层属性特征的第二相似度,计算第三检索结果中的人体的总相似度,根据总相似度对第三检索结果中的人体进行筛选,生成最终检索结果;其中,第一总属性距离为:第二检索结果中的人体的全部人体高层属性特征分别与待查询人体的人体高层属性特征的差的绝对值和的平均值。
第二检索步骤(S30),确定检索方式,根据检索方式使用待查询人体的人体高层属性特征对人体数据库中的人体进行筛选,生成人体数据库的最终检索结果,检索结束。
根据待查询人体的人体高层属性特征的数值类型确定检索方式,根据检索方式使用待查询人体的人体高层属性特征对人体数据库中的人体进行筛选,生成人体数据库的最终检索结果。
根据待查询人体的人体高层属性特征的数值类型确定检索方式进一步为:当数值类型为二值输出时,针对每种人体高层属性特征,对人体数据库中的人 体建立倒排索引,采用一个或多个倒排索引的结果作为最终检索结果;当数值类型为概率输出时,计算人体数据库中的人体和待查询人体的人体高层属性特征的集合的第二总属性距离,根据第二总属性距离对人体数据库中的人体进行筛选,生成最终检索结果;其中,第二总属性距离为:人体数据库中的人体的全部人体高层属性特征分别与待查询人体的人体高层属性特征的差的绝对值和的平均值。其中,使用离线训练的人体属性分类器提取人体高层属性特征。
下面结合图3、图4、图5、图6、图7、图8和图9对本发明进行详细说明。
图片存在判断步骤(S10),判断是否存在待查询人体的图片,如果存在进入第一检索步骤,否则进入第二检索步骤。
在第一检索步骤(S20)的第一检索结果生成子步骤(S201)中,人体底层表观特征使用颜色直方图来表示,具体来说,对于待查询人体和人体数据库中的人体,分别用一个人体检测框来表示,将其对应的人体检测框内的每个像素的颜色值转换到HSV空间;再将人体检测框进行分块处理。分块处理,也就是将人体检测框平均划分为m*n的棋盘格块,最好为6*6的棋盘格块,再计算每个块对应的HSV颜色直方图,其中,每个颜色通道(H颜色通道、S颜色通道或V颜色通道)被量化为p个离散量级,最好为8个离散量级。颜色直方图记录了格块中每个颜色通道在其每个离散量级的出现频率(即格块中分布在每个颜色通道的每个离散量级的像素点的数量)。其中,m、n和p为自然数。
举例说明生成格块HSV颜色直方图的方法。对一帧720*576的图像划分成6*6的棋盘格块,那么每个格块的大小为120*96,即每个格块有11520个像素点。对图像的(i,j)格块进行如下处理来计算每种颜色通道的颜色直方图,其中,i、j为1至6中的自然数:
步骤1,获得格块的每个像素点的H、S和V颜色通道的像素值;
步骤2,将像素点的每种颜色通道的像素值换算成对应的颜色通道的离散量级;
步骤3:针对每种颜色通道,分别统计8个离散量级中每个离散量级对应的像素点的数量,每种颜色通道对应的8个离散量级对应的像素点的数量构成该种颜色通道的颜色直方图,是一个8元组。例如:待查询人体的人体检测框 的(i,j)格块的H颜色通道的颜色直方图为(Xh1,Xh2,Xh3,Xh4,Xh5,Xh6,Xh7,Xh8),人体数据库中的人体检测框的(i,j)格块的H颜色通道的颜色直方图为(Yh1,Yh2,Yh3,Yh4,Yh5,Yh6,Yh7,Yh8),S颜色通道的颜色直方图和V颜色通道的颜色直方图依此类推。
在第一检索步骤(S20)的第一检索结果生成子步骤(S201)的具体实现过程如下:根据待查询人体和人体数据库中的人体的人体底层表观特征,使用距离度量函数(例如:欧式距离或者余弦角度距离)来计算待查询人体和人体数据库中的人体的人体底层表观特征(颜色直方图)之间的第一相似度,并根据第一相似度从大到小将人体数据库中的人体进行排序,生成人体数据库的第一检测结果。
以距离度量函数的欧式距离为例,说明使用距离度量函数来计算待查询人体和人体数据库中的人体的人体底层表观特征(颜色直方图)的第一相似度的过程。其中,待查询人体的人体检测框的(i,j)格块的H颜色通道的颜色直方图为(Xh1,Xh2,Xh3,Xh4,Xh5,Xh6,Xh7,Xh8),人体检测框的(i,j)格块的S颜色通道的颜色直方图为(Xs1,Xs2,Xs3,Xs4,Xs5,Xs6,Xs7,Xs8),人体检测框的(i,j)格块的V颜色通道的颜色直方图为(Xv1,Xv2,Xv3,Xv4,Xv5,Xv6,Xv7,Xv8);人体数据库中的人体的人体检测框的(i,j)格块的H颜色通道的颜色直方图为(Yh1,Yh2,Yh3,Yh4,Yh5,Yh6,Yh7,Yh8),人体检测框的(i,j)格块的S颜色通道的颜色直方图为(Ys1,Ys2,Ys3,Ys4,Ys5,Ys6,Ys7,Ys8),人体检测框的(i,j)格块的V颜色通道的颜色直方图为(Yv1,Yv2,Yv3,Yv4,Yv5,Yv6,Yv7,Yv8)。
那么,待查询人体和人体数据库中的人体的人体检测框的(i,j)格块的3种颜色通道的欧式距离为:
H颜色通道的距离dLh(公式1):
( X h 1 - Y h 1 ) 2 + ( X h 2 - Y h 2 ) 2 + ( X h 3 - Y h 3 ) 2 + ( X h 4 - Y h 4 ) 2 + ( X h 5 - Y h 5 ) 2 + ( X h 6 - Y h 6 ) 2 + ( X h 7 - Y h 7 ) 2 + ( X h 8 - Y h 8 ) 2 ,
S颜色通道的距离dLs(公式2):
( X s 1 - Y s 1 ) 2 + ( X s 2 - Y s 2 ) 2 + ( X s 3 - Y s 3 ) 2 + ( X s 4 - Y s 4 ) 2 + ( X s 5 - Y s 5 ) 2 + ( X s 6 - Y s 6 ) 2 + ( X s 7 - Y s 7 ) 2 + ( X s 8 - Y s 8 ) 2 ,
V颜色通道的距离dLv(公式3):
( X v 1 - Y v 1 ) 2 + ( X v 2 - Y v 2 ) 2 + ( X v 3 - Y v 3 ) 2 + ( X v 4 - Y v 4 ) 2 + ( X v 5 - Y v 5 ) 2 + ( X v 6 - Y v 6 ) 2 + ( X v 7 - Y v 7 ) 2 + ( X v 8 - Y v 8 ) 2 ,
待查询人体和人体数据库中的人体的人体检测框的人体底层表观特征的总距离DL(公式4):
D L = w Lh Σ i = 1 m * n d Lhi + w Ls Σ i = 1 m * n d Lsi + w Lv Σ i = 1 m * n d Lvi ,
其中,wLh、wLs和wLv分别为dLh、dLs和dLv权重,不小于0的实数,且wLh+wLs+wLv=1;i为1至m*n之间的自然数。
待查询人体和人体数据库中的人体的人体底层表观特征之间的第一相似度S1为(公式5):
S1=1/DL
根据S1对人体数据库中的人体进行排序,生成人体数据库的第一检索结果。其中,排序方式为从大到小。
图3为利用人体底层表观特征进行检索得到的结果,即第一检索结果。
在第一检索步骤(S20)的第二检索结果生成子步骤(S202)中,对于人体高层属性特征的提取,本发明使用多个离线训练的人体属性分类器来做人体高层属性特征的分类。其中,对于每种人体高层属性特征的所有可能值,训练一个分类器,训练数据的正例来自于人体高层属性特征标注为正的上述人体检测框,负例来自于人体高层属性特征标注为其他值的上述人体检测框,人体属性分类器的输入特征为人体检测框的梯度方向直方图(HOG)。本发明的一实施例中,使用性别、年龄、上下半身衣服款式、背包类型作为人体高层属性特征,采用SVM(Support Vector Machine)分类器作为人体属性分类器。图像的(i,j)格块的梯度方向直方图(HOG)的计算方法与颜色直方图的计算方法类似,不同之处在于:在上述颜色直方图的计算方法的步骤1中获得格块的每个像素点的梯度方向值,再对梯度方向值进行后续的步骤2和3的操作。作为人体属性分类器的输入特征的人体检测框的梯度方向直方图(HOG)是根据m*n个格块的梯度方向直方图(HOG)生成的。
在第一检索步骤(S20)的第二检索结果生成子步骤(S202)的具体实现过程如下:根据待查询人体和第一检索结果中的人体的人体高层属性特征(使用人体属性分类器计算的人体高层属性特征),使用距离度量函数来计算待查询人体和第一检索结果中的人体的每种人体高层属性特征的第二相似度;过滤掉人体高层属性特征的第二相似度小于人体高层属性特征的第一阈值的第一检索结果中的人体,生成人体数据库的第二检索结果(在本发明的实验里,第一检测结果中与待查询人体具有不同人体底层表观特征的人体中,50%以上的 人体能够被作为误检而过滤掉)。
以距离度量函数的欧式距离为例,说明计算第一检索结果中的人体的人体高层属性特征和待查询人体的第二相似度的过程。计算人体高层属性特征距离dH,dH=(待查询人体的人体属性分类器的输出结果-第一检索结果中的人体的人体属性分类器的输出结果)的绝对值(公式6)。根据距离dH计算第一检索结果中的人体的人体高层属性特征和待查询人体的人体高层属性特征的第二相似度sH,sH=1/dH(公式7)。如果人体高层属性特征的第二相似度小于人体高层属性特征的第一阈值,则将其从第一检索结果中过滤掉,生成人体数据库的第二检索结果。
在第一检索步骤(S20)的最终检索结果生成子步骤(S203)的具体实现过程如下:计算第二检索结果中的人体与待查询人体之间的第一总属性距离;过滤掉第一总属性距离大于第二阈值的第二检索结果中的人体,生成人体数据库的第三检索结果;使用每个第三检索结果中的人体的第一相似度和全部所述人体高层属性特征的第二相似度计算总相似度,根据总相似度对第三检索结果中的人体进行排序获得最终检索结果。
首先,计算第二检索结果中的人体与待查询人体之间的第一总属性距离。第二检索结果中的人体和待查询人体的第一总属性距离为:全部人体高层属性特征距离dH的和的平均值。
接着,过滤掉第一总属性距离大于第二阈值的第二检索结果中的人体,生成第三检索结果。
然后,计算第三检索结果中的人体与待查询人体的总相似度S2。计算方法为:人体底层表观特征的第一相似度与全部人体高层属性特征的第二相似度和的线性加权和,即(公式8),其中q为人体高层属性特征的种类数,w1和w2分别为第一相似度和第二相似度和的权重,w1+w2=1,w1和w2为不小于0的实数,q为自然数。在本发明的一实施例中,w1和w2相等为0.5。
最后,根据总相似度S2对第三检索结果中的人体进行排序获得最终检索结果。其中,排序方式为从大到小。
图4、图5、图6和图7为逐步增加人体高层属性特征进行过滤的结果。其中,图4的待查询人体的人体高层属性特征为“男性”,图5的待查询人体的 人体高层属性特征为“男性”和“短袖”,图6的待查询人体的人体高层属性特征为“男性”、“短袖”和“长裤”,图7的待查询人体的人体高层属性特征为“男性”、“短袖”、“长裤”和“背包”。
第二检索步骤(S30)的具体实现过程如下:针对没有待查询人体图片的情况,需要给定待查询人体的人体高层属性特征,根据人体高层属性特征的数值类型采用不同的检索方式,若数值类型为二值输出,则根据每种人体高层属性特征,为人体数据库中的人体建立倒排索引,并采用一种或多种人体高层属性特征的倒排索引的结果作为最终检索结果;若数值类型为概率输出,则对人体数据库中的人体图像进行第二总属性距离计算,并根据第二总属性距离从小到大对人体数据库中的人体进行排序。
其中,人体数据库中的人体的人体高层属性特征的提取方法与在第一检索步骤(S20)的第二检索结果生成子步骤(S202)的相同。
人体数据库中的人体和待查询人体的第二总属性距离为:人体数据库中的人体的全部人体高层属性特征分别与待查询人体的相应的人体高层属性特征的差的绝对值和的平均值。
图8和图9为给定待查询人体的人体高层属性特征后对人体数据库中的人体进行过滤的结果。其中,图8的待查询人体的人体高层属性特征为“红色上衣”和“黑色裤子”,图9的待查询人体的人体高层属性特征为“白色上衣”、“黑色裤子”和“女性”。
图2为本发明的一种人体的检索***的示意图。包括:图片存在判断模块(M1)、第一检索模块(M2)和第二检索模块(M3)。其中,
图片存在判断模块(M1),用于判断是否存在待查询人体的图片,如果存在进入第一检索模块(M2),否则进入第二检索模块(M3)。
第一检索模块(M2),用于使用待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在第一检索结果中,使用待查询人体的人体高层属性特征的集合,对第一检索结果中的人体进行筛选,生成最终检索结果,检索结束。包括:
第一检索结果生成子模块(M21),用于计算人体数据库中的人体与待查询人体的人体底层表观特征的第一相似度,根据第一相似度对人体数据库中的人体进行筛选,生成第一检索结果;
第二检索结果生成子模块(M22),用于计算第一检索结果中的人体与待查询人体的每种人体高层属性特征的第二相似度,根据每种第二相似度对第一检索结果中的人体进行筛选,生成第二检索结果;
最终检索结果生成子模块(M23),用于计算第二检索结果中的人体和待查询人体的人体高层属性特征的集合的第一总属性距离,根据第一总属性距离对第二检索结果中的人体进行筛选,生成第三检索结果;使用第三检索结果中的人体的第一相似度和全部人体高层属性特征的第二相似度,计算第三检索结果中的人体的总相似度,根据总相似度对第三检索结果中的人体进行筛选,生成最终检索结果;其中,第一总属性距离为:第二检索结果中的人体的全部人体高层属性特征分别与待查询人体的人体高层属性特征的差的绝对值和的平均值。
第二检索模块(M3),用于确定检索方式,根据检索方式使用待查询人体的人体高层属性特征对人体数据库中的人体进行筛选,生成人体数据库的最终检索结果,检索结束。
根据待查询人体的人体高层属性特征的数值类型确定检索方式,根据检索方式使用待查询人体的人体高层属性特征对人体数据库中的人体进行筛选,生成人体数据库的最终检索结果。
根据待查询人体的人体高层属性特征的数值类型确定检索方式进一步为:当数值类型为二值输出时,针对每种人体高层属性特征,对人体数据库中的人体建立倒排索引,采用一个或多个倒排索引的结果作为最终检索结果;当数值类型为概率输出时,计算人体数据库中的人体和待查询人体的人体高层属性特征的集合的第二总属性距离,根据第二总属性距离对人体数据库中的人体进行筛选,生成最终检索结果;其中,第二总属性距离为:人体数据库中的人体的全部人体高层属性特征分别与待查询人体的人体高层属性特征的差的绝对值和的平均值。
其中,使用离线训练的人体属性分类器提取人体高层属性特征。
以上所述,仅是本发明的较佳实施例,并非对本发明作任何形式上的限制,任何所属技术领域的技术人员,若在不脱离本发明所提出技术特征的范围内,利用本发明所公开的技术内容所作出局部更动或修改的等效实施例,并且未脱离本发明的技术特征内容,均仍属于本发明技术特征的范围内。

Claims (10)

1.一种人体的检索方法,其特征在于,包括:
图片存在判断步骤,判断是否存在待查询人体的图片,如果存在进入第一检索步骤,否则进入第二检索步骤;
第一检索步骤,使用所述待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在所述第一检索结果中,使用所述待查询人体的人体高层属性特征的集合,对所述第一检索结果中的人体进行筛选,生成最终检索结果,检索结束;
第二检索步骤,确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果,检索结束。
2.如权利要求1所述的人体的检索方法,其特征在于,所述第一检索步骤进一步为:
第一检索结果生成子步骤,计算所述人体数据库中的人体与所述待查询人体的所述人体底层表观特征的第一相似度,根据所述第一相似度对所述人体数据库中的人体进行筛选,生成所述第一检索结果;
第二检索结果生成子步骤,计算所述第一检索结果中的所述人体与所述待查询人体的每种人体高层属性特征的第二相似度,根据每种所述第二相似度对所述第一检索结果中的人体进行筛选,生成所述第二检索结果;
最终检索结果生成子步骤,计算所述第二检索结果中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第一总属性距离,根据所述第一总属性距离对所述第二检索结果中的人体进行筛选,生成第三检索结果;使用所述第三检索结果中的所述人体的所述第一相似度和全部所述人体高层属性特征的第二相似度,计算所述第三检索结果中的所述人体的总相似度,根据所述总相似度对所述第三检索结果中的人体进行筛选,生成所述最终检索结果;其中,所述第一总属性距离为:所述第二检索结果中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
3.如权利要求1所述的人体的检索方法,其特征在于,所述第二检索步骤进一步为:
根据所述待查询人体的所述人体高层属性特征的数值类型确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果。
4.如权利要求3所述的人体的检索方法,其特征在于,所述根据待查询人体的所述人体高层属性特征的数值类型确定检索方式进一步为:当所述数值类型为二值输出时,针对每种所述人体高层属性特征,对所述人体数据库中的所述人体建立倒排索引,采用一个或多个所述倒排索引的结果作为所述最终检索结果;当所述数值类型为概率输出时,计算所述人体数据库中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第二总属性距离,根据所述第二总属性距离对所述人体数据库中的所述人体进行筛选,生成所述最终检索结果;其中,所述第二总属性距离为:所述人体数据库中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
5.如权利要求1所述的人体的检索方法,其特征在于,使用离线训练的人体属性分类器提取所述人体高层属性特征。
6.一种人体的检索***,其特征在于,包括:
图片存在判断模块,用于判断是否存在待查询人体的图片,如果存在进入第一检索模块,否则进入第二检索模块;
第一检索模块,用于使用所述待查询人体的人体底层表观特征对人体数据库中的人体进行筛选,生成第一检索结果;在所述第一检索结果中,使用所述待查询人体的人体高层属性特征的集合,对所述第一检索结果中的人体进行筛选,生成最终检索结果,检索结束;
第二检索模块,用于确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果,检索结束。
7.如权利要求6所述的人体的检索***,其特征在于,所述第一检索模块进一步为:
第一检索结果生成子模块,用于计算所述人体数据库中的人体与所述待查询人体的所述人体底层表观特征的第一相似度,根据所述第一相似度对所述人体数据库中的人体进行筛选,生成所述第一检索结果;
第二检索结果生成子模块,用于计算所述第一检索结果中的所述人体与所述待查询人体的每种人体高层属性特征的第二相似度,根据每种所述第二相似度对所述第一检索结果中的人体进行筛选,生成所述第二检索结果;
最终检索结果生成子模块,用于计算所述第二检索结果中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第一总属性距离,根据所述总属性距离对所述第二检索结果中的人体进行筛选,生成第三检索结果;使用所述第三检索结果中的所述人体的所述第一相似度和全部所述人体高层属性特征的第二相似度,计算所述第三检索结果中的所述人体的总相似度,根据所述总相似度对所述第三检索结果中的人体进行筛选,生成所述最终检索结果;其中,所述第一总属性距离为:所述第二检索结果中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
8.如权利要求6所述的人体的检索***,其特征在于,所述第二检索模块进一步为:
根据所述待查询人体的所述人体高层属性特征的数值类型确定检索方式,根据所述检索方式使用所述待查询人体的所述人体高层属性特征对人体数据库中的人体进行筛选,生成所述人体数据库的最终检索结果。
9.如权利要求8所述的人体的检索***,其特征在于,所述根据待查询人体的所述人体高层属性特征的数值类型确定检索方式进一步为:当所述数值类型为二值输出时,针对每种所述人体高层属性特征,对所述人体数据库中的所述人体建立倒排索引,采用一个或多个所述倒排索引的结果作为所述最终检索结果;当所述数值类型为概率输出时,计算所述人体数据库中的所述人体和所述待查询人体的所述人体高层属性特征的集合的第二总属性距离,根据所述第二总属性距离对所述人体数据库中的所述人体进行筛选,生成所述最终检索结果;其中,所述第二总属性距离为:所述人体数据库中的所述人体的全部所述人体高层属性特征分别与所述待查询人体的所述人体高层属性特征的差的绝对值和的平均值。
10.如权利要求6所述的人体的检索方法,其特征在于,使用离线训练的人体属性分类器提取所述人体高层属性特征。
CN201310035131.9A 2013-01-29 2013-01-29 一种人体的检索方法和*** Active CN103970771B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310035131.9A CN103970771B (zh) 2013-01-29 2013-01-29 一种人体的检索方法和***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310035131.9A CN103970771B (zh) 2013-01-29 2013-01-29 一种人体的检索方法和***

Publications (2)

Publication Number Publication Date
CN103970771A true CN103970771A (zh) 2014-08-06
CN103970771B CN103970771B (zh) 2016-12-28

Family

ID=51240283

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310035131.9A Active CN103970771B (zh) 2013-01-29 2013-01-29 一种人体的检索方法和***

Country Status (1)

Country Link
CN (1) CN103970771B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016134666A1 (zh) * 2015-02-28 2016-09-01 华为技术有限公司 图像匹配发现好友的方法和装置
CN106033549A (zh) * 2015-03-16 2016-10-19 北京大学 一种车辆检索中的重排序方法及装置
CN106033443A (zh) * 2015-03-16 2016-10-19 北京大学 一种车辆检索中的扩展查询方法及装置
CN106528568A (zh) * 2015-09-11 2017-03-22 中兴通讯股份有限公司 一种信息提供方法及***
WO2018170695A1 (zh) * 2017-03-20 2018-09-27 华为技术有限公司 一种表观特征的描述属性识别方法及装置
CN108960412A (zh) * 2018-06-29 2018-12-07 北京京东尚科信息技术有限公司 图像识别方法、装置及计算机可读存储介质
CN109101922A (zh) * 2018-08-10 2018-12-28 广东电网有限责任公司 作业人员着装分析方法、装置及电子设备
CN110163106A (zh) * 2019-04-19 2019-08-23 中国科学院计算技术研究所 一体式纹身检测与识别方法和***
CN111078993A (zh) * 2019-09-24 2020-04-28 上海依图网络科技有限公司 一种通过扩展查询提升检索召回率的方法及***
CN111126102A (zh) * 2018-10-30 2020-05-08 富士通株式会社 人员搜索方法、装置及图像处理设备
CN112148924A (zh) * 2019-06-28 2020-12-29 杭州海康威视数字技术股份有限公司 一种行李箱检索方法、装置及电子设备
CN114202710A (zh) * 2020-08-26 2022-03-18 中国电信股份有限公司 目标的识别方法、装置和***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090316983A1 (en) * 2008-06-20 2009-12-24 Feng Han Real-Time Action Detection and Classification
CN101650728A (zh) * 2009-08-26 2010-02-17 北京邮电大学 视频高层特征检索***及其实现

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090316983A1 (en) * 2008-06-20 2009-12-24 Feng Han Real-Time Action Detection and Classification
CN101650728A (zh) * 2009-08-26 2010-02-17 北京邮电大学 视频高层特征检索***及其实现

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
***: "基于时空分析和多粒度特征表示的人体检测方", 《中国博士学位论文全文数据库 信息科技辑》 *
李浩: "跨摄像机的人体重现检测", 《NSTL国家科技图书文献中心》 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016134666A1 (zh) * 2015-02-28 2016-09-01 华为技术有限公司 图像匹配发现好友的方法和装置
CN106033549A (zh) * 2015-03-16 2016-10-19 北京大学 一种车辆检索中的重排序方法及装置
CN106033443A (zh) * 2015-03-16 2016-10-19 北京大学 一种车辆检索中的扩展查询方法及装置
CN106033443B (zh) * 2015-03-16 2019-05-07 北京大学 一种车辆检索中的扩展查询方法及装置
CN106033549B (zh) * 2015-03-16 2019-05-07 北京大学 一种车辆检索中的重排序方法及装置
CN106528568A (zh) * 2015-09-11 2017-03-22 中兴通讯股份有限公司 一种信息提供方法及***
US11410411B2 (en) 2017-03-20 2022-08-09 Huawei Technologies Co., Ltd. Method and apparatus for recognizing descriptive attribute of appearance feature
WO2018170695A1 (zh) * 2017-03-20 2018-09-27 华为技术有限公司 一种表观特征的描述属性识别方法及装置
CN108960412A (zh) * 2018-06-29 2018-12-07 北京京东尚科信息技术有限公司 图像识别方法、装置及计算机可读存储介质
CN109101922A (zh) * 2018-08-10 2018-12-28 广东电网有限责任公司 作业人员着装分析方法、装置及电子设备
CN111126102A (zh) * 2018-10-30 2020-05-08 富士通株式会社 人员搜索方法、装置及图像处理设备
CN110163106A (zh) * 2019-04-19 2019-08-23 中国科学院计算技术研究所 一体式纹身检测与识别方法和***
CN112148924A (zh) * 2019-06-28 2020-12-29 杭州海康威视数字技术股份有限公司 一种行李箱检索方法、装置及电子设备
CN111078993A (zh) * 2019-09-24 2020-04-28 上海依图网络科技有限公司 一种通过扩展查询提升检索召回率的方法及***
CN114202710A (zh) * 2020-08-26 2022-03-18 中国电信股份有限公司 目标的识别方法、装置和***

Also Published As

Publication number Publication date
CN103970771B (zh) 2016-12-28

Similar Documents

Publication Publication Date Title
CN103970771A (zh) 一种人体的检索方法和***
Toulouse et al. Computer vision for wildfire research: An evolving image dataset for processing and analysis
Nam et al. Pest detection on traps using deep convolutional neural networks
CN108520226B (zh) 一种基于躯体分解和显著性检测的行人重识别方法
CN102982313B (zh) 烟雾检测的方法
CN107301380A (zh) 一种用于视频监控场景中行人重识别的方法
CN107315795B (zh) 联合特定人物和场景的视频实例检索方法及***
CN109359625A (zh) 基于头肩检测和人脸识别技术判断顾客身份的方法和***
CN104392232B (zh) 一种交通场景下视频元数据的校正方法
CN110852222A (zh) 一种基于目标检测的校园走廊场景智能监控方法
CN109190475A (zh) 一种人脸识别网络与行人再识别网络协同训练方法
CN108960124A (zh) 用于行人再识别的图像处理方法及装置
TW201140502A (en) System and method for monitoring objects
CN109460787A (zh) 入侵检测模型建立方法、装置及数据处理设备
CN106295585A (zh) 一种兼顾实时性及人脸质量的过滤选择方法及***
TW201140470A (en) System and method for monitoring objects and key persons of the objects
CN111539257B (zh) 人员重识别方法、装置和存储介质
KR101092472B1 (ko) 감시카메라를 활용한 비디오 색인 시스템 및 그 색인 방법
CN110245592A (zh) 一种用于提升监控场景的行人重识别率的方法
CN102156881A (zh) 基于多尺度图像相位信息的海难搜救目标检测方法
KR101113515B1 (ko) 감시카메라를 이용한 비디오 색인 시스템 및 방법
CN111462310A (zh) 一种基于多视几何的螺栓缺陷空间定位方法
Jangade et al. Study on deep learning models for human pose estimation and its real time application
CN107123126A (zh) 一种人流运动场景热度估计方法
CN102244769A (zh) 物件及其关键人监控***与方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant