CN110619280B - 一种基于深度联合判别学习的车辆重识别方法及装置 - Google Patents
一种基于深度联合判别学习的车辆重识别方法及装置 Download PDFInfo
- Publication number
- CN110619280B CN110619280B CN201910783507.1A CN201910783507A CN110619280B CN 110619280 B CN110619280 B CN 110619280B CN 201910783507 A CN201910783507 A CN 201910783507A CN 110619280 B CN110619280 B CN 110619280B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- network
- sub
- image
- loss function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 239000013598 vector Substances 0.000 claims abstract description 108
- 230000006870 function Effects 0.000 claims abstract description 102
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 50
- 238000012549 training Methods 0.000 claims abstract description 42
- 238000004590 computer program Methods 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 241000764238 Isis Species 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/54—Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/08—Detecting or categorising vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例提供了基于深度联合判别学习的车辆重识别及装置,所述方法包括:基于深度卷积神经网络搭建***网络架构;通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。通过本发明实施例,能够提高车辆重识别的效率及准确性。
Description
技术领域
本发明属于计算机视觉与智慧交通技术领域,具体是涉及到一种基于深度联合判别学习的车辆重识别方法、装置、终端设备及计算机可读介质。
背景技术
随着人工智能、计算机视觉和硬件技术的不断发展,视频图像处理技术已经广泛应用于智能交通***(ITS)中。近年来,随着公路视频监控的推广,图像处理方法已经开始应用到交通分析领域,包括交通事件检测、交通队列监测、车型识别、车辆分类、车流量统计等。车辆重识别(Re-ID)是计算机视觉领域的一个重要研究方向,着眼于在不显示借助车牌信息的情况下在无公共视域的摄像头下特定目标车辆的识别工作。车辆重新识别目标是识别由摄像机网络拍摄的再现车辆。它有可能解决智能监控等具有挑战性的问题,例如,视频分析和处理。它对于智能交通和智能城市的有前途的应用也很重要,例如寻找和跟踪特定车辆。
随着监控录像的数据量越来越大,相关部门从这些监控录像中获得所需线索时往往需要对海量录像数据进行搜索,然而现有的车辆重识别方法过于低效,且存在准确度不高的问题。例如,公安部门若需要得到嫌疑车辆(未知车牌号或***辆)近一个月内的行驶记录,需要观看各大街道、马路上近一个月内的监控录像,并利用已有的嫌疑车辆的照片,通过人眼或者简单图像匹配的方式识别出嫌疑车辆所在的画面,从而归纳出嫌疑车辆的行驶轨迹,这种嫌疑车辆的识别方式过于简单,识别效率及准确性都难以保证。
发明内容
有鉴于此,本发明实施例提供一种基于深度联合判别学习的车辆重识别方法、装置、终端设备及计算机可读介质,能够提高车辆重识别的效率和准确性。
本发明实施例的第一方面提供了一种基于深度联合判别学习的车辆重识别方法,包括:
基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络;
通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值;
将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
本发明实施例的第二方面提供了一种基于深度联合判别学习的车辆重识别装置,包括:
搭建模块,用于基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络;
训练模块,用于通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值;
搜索模块,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
本发明实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述基于深度联合判别学习的车辆重识别方法的步骤。
本发明实施例的第六方面提供了一种计算机可读介质,所述计算机可读介质存储有计算机程序,所述计算机程序被处理执行时实现上述基于深度联合判别学习的车辆重识别方法的步骤。
本发明实施例提供的基于深度联合判别学习的车辆重识别方法中,可基于深度卷积神经网络搭建***网络架构,通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数,并可将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,最后通过特征向量的对比搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像,从而可提高车辆重识别的效率和准确度。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种基于深度联合判别学习的车辆重识别方法的流程图;
图2是本发明实施例提供的一种基于深度联合判别学习的车辆重识别装置的结构示意图;
图3是图2中的搭建模块的细化结构示意图;
图4是图2中的训练模块的细化结构示意图;
图5是图2中的搜索模块的细化结构示意图;
图6是本发明实施例提供的终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为了说明本发明所述的技术方案,下面通过具体实施例来进行说明。
请参阅图1,图1是本发明实施例提供的基于深度联合判别学习的车辆重识别方法。如图1所示,本实施例的基于深度联合判别学习的车辆重识别方法包括以下步骤:
S101:基于深度卷积神经网络搭建***网络架构。
在本发明实施例中,所构建的***网络架构可包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络。具体地,可基于深度卷积神经网络构建车辆身份识别子网络,使所述车辆身份识别子网络的损失函数为:
其中,fi为目标车辆图像的特征向量,pj为对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络第j次输入的车辆图像的车辆身份属于特征向量fi对应的车辆身份的概率的预测值,n为对所述车辆身份识别子网络的损失函数进行训练的总次数,为非pj。还可基于所述深度卷积神经网络构建车辆属性识别子网络,使所述车辆属性识别子网络的损失函数为:
其中,为针对所述车辆属性识别子网络的损失函数所进行的第k次训练集中在所述深度卷积神经网络第j次输入的车辆图像的车辆属性属于所述特征向量fi对应的车辆属性的概率,nattri为对所述车辆属性识别子网络的损失函数进行训练的训练集的总数,nk为所述第k次训练集中在所述深度卷积神经网络中输入车辆图像的总次数。还可基于所述深度卷积神经网络构建车辆认证子网络,使所述车辆认证子网络的损失函数为:
其中,α是幅度参数,用于使具有不同车辆身份的图片之间的距离远大于α,fj也为所述目标车辆图像的特征向量,vi表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fi的距离,vj表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fj的距离;车辆认证子网络限制的是车辆身份之间的绝对距离,即目标车辆图像和积极(positive)图像(与目标图像具有相同的车辆身份)的距离较小,和消极(negative)图像(与目标图像具有不同的车辆身份)的距离较大。再者,还可基于所述深度卷积神经网络构建三元组子网络,使所述三元组子网络的损失函数为:
其中,fk也为所述目标车辆图像的特征向量,β是幅度参数,用于使得目标车辆图像与积极(positive)图像的距离和消极(negative)图像的距离远大于β。三元组子网络限制的是车辆身份之间的相对距离。需要指出的是,所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的损失函数的确定,代表着各个子网络的模型的搭建成功,后续通过输入相应的车辆图像,可使各个子网络输出相关的特征向量。
S102:通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数。
在本发明实施例中,所述***网络架构的参数包括权重参数矩阵和偏置值。通常地,如果一开始同时训练车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络四个子网络,可能会导致子网络的参数很难收敛。所以本发明实施例采取针对不同子网络的一步一步地分批训练方式,所述深度卷积神经网络中的卷积层将由不同的子网络共享,并在针对不同子网络的多个分类训练任务中对所述***网络架构的相关参数进行微调,内存(RAM)的每个分支都可通过具有softmax损失的单独分类任务进行训练,这可使得RAM在多个分类任务中进行优化,最终训练出所述***网络架构的确定的参数以及满足需要的特征向量模型。具体地,可通过视频车辆数据库,并利用所述深度卷积神经网络中的卷积层(由所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络共享)分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络进行训练,以分别对所述车辆身份识别子网络的参数、车辆属性识别子网络的参数、车辆认证子网络的参数和三元组子网络的参数的取值范围进行微调;再可使所述***网络架构的整体目标损失函数取极小值,以获得所述***网络架构的参数的最终确定值,即获得所述车辆身份识别子网络的参数、车辆属性识别子网络的参数、车辆认证子网络的参数和三元组子网络的参数;所述整体目标损失函数L(θ)为:
L(θ)=λ1Lidenti+λ2Lattri+λ3Lverif+λ4Litriplet (5)
其中θ为所述***网络架构的参数,λ1为所述车辆身份识别子网络Lidenti的损失函数的权重,λ2为所述车辆属性识别子网络的权重,λ3为所述车辆认证子网络的权重,λ4为所述三元组子网络的权重。权重λ1、λ2、λ3和λ4通常可根据不同的应用场景自行设定。
S103:将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
在本发明实施例中,将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,通过与确定出所述参数后的***网络架构相关的特征向量模型,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量;再可将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,计算出所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量的相似度,所述特征向量的相似度的计算公式为:
在计算出所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量的相似度之后,可根据所述特征向量的相似度,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。在搜索出与待识别车辆相似度最高的车辆之后,可结合相关地理区域范围内的道路分部,自动分析归纳出嫌疑车辆的行驶轨迹。
在图1提供的基于深度联合判别学习的车辆重识别方法中,可基于深度卷积神经网络搭建***网络架构,通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数,并通过将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中提取相关特征向量,根据特征向量的相似度搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像,从而可提高车辆重识别的效率和准确度。
请参阅图2,图2是本发明实施例提供的一种基于深度联合判别学习的车辆重识别装置的结构框图。如图2所示,本实施例的基于深度联合判别学习的车辆重识别装置20包括搭建模块201、训练模块202和搜索模块203。搭建模块201、训练模块202和搜索模块203分别用于执行图1中的S101、S102和S103中的具体方法,详情可参见图1的相关介绍,在此仅作简单描述:
搭建模块201,用于基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络。
训练模块202,用于通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值。
搜索模块203,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
进一步地,可参见图3,搭建模块201可具体包括身份识别单元2011、属性识别单元2012、认证单元2013和三元组单元2014:
身份识别单元2011,用于基于深度卷积神经网络构建车辆身份识别子网络,使所述车辆身份识别子网络的损失函数为:
其中,fi为目标车辆图像的特征向量,pj为对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络第j次输入的车辆图像的车辆身份属于特征向量fi对应的车辆身份的概率的预测值,n为对所述车辆身份识别子网络的损失函数进行训练的总次数,为非pj。
属性识别单元2012,用于基于所述深度卷积神经网络构建车辆属性识别子网络,使所述车辆属性识别子网络的损失函数为:
其中,为针对所述车辆属性识别子网络的损失函数所进行的第k次训练集中在所述深度卷积神经网络第j次输入的车辆图像的车辆属性属于所述特征向量fi对应的车辆属性的概率,nattri为对所述车辆属性识别子网络的损失函数进行训练的训练集的总数,nk为所述第k次训练集中在所述深度卷积神经网络中输入车辆图像的总次数。
认证单元2013,用于基于所述深度卷积神经网络构建车辆认证子网络,使所述车辆认证子网络的损失函数为:
其中,α是幅度参数,用于使具有不同车辆身份的图片之间的距离远大于α,fj也为所述目标车辆图像的特征向量,vi表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fi的距离,vj表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fj的距离;
三元组单元2014,用于基于所述深度卷积神经网络构建三元组子网络,使所述三元组子网络的损失函数为:
其中,fk也为所述目标车辆图像的特征向量,β是幅度参数,用于使得目标车辆图像与positive图像的距离和negative图像的距离远大于β。
进一步地,可参见图4,训练模块202可具体包括分批训练单元2021和参数获取单元2022:
分批训练单元2021,用于通过视频车辆数据库,并利用由所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络共享的所述深度卷积神经网络中的卷积层分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络进行训练,以分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数的取值范围进行微调。
参数获取单元2022,用于使所述***网络架构的整体目标损失函数取极小值,获得所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数;所述整体目标损失函数L(θ)为:
L(θ)=λ1Lidenti+λ2Lattri+λ3Lverif+λ4Litriplet (5)
其中,λ1为所述车辆身份识别子网络Lidenti的损失函数的权重,λ2为所述车辆属性识别子网络的权重,λ3为所述车辆认证子网络的权重,λ4为所述三元组子网络的权重。
进一步地,可参见图5,搜索模块203可具体包括图像输入单元2031、计算单元2032和搜索单元2033:
图像输入单元2031,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量。
计算单元2032,用于计算所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量的相似度。
搜索单元2033,用于根据所述特征向量的所述相似度,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
图2提供的基于深度联合判别学习的车辆重识别装置,可基于深度卷积神经网络搭建***网络架构,通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数,并通过将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中提取相关特征向量,根据特征向量的相似度搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像,从而可提高车辆重识别的效率和准确度。
图6是本发明一实施例提供的终端设备的示意图。如图6所示,该实施例的终端设备6包括:处理器60、存储器61以及存储在所述存储器61中并可在所述处理器60上运行的计算机程序62,例如进行基于深度联合判别学习的车辆重识别的程序。所述处理器60执行所述计算机程序62时实现上述方法实施例中的步骤,例如,图1所示的S101至S103。或者,所述处理器60执行所述计算机程序62时实现上述各装置实施例中各模块/单元的功能,例如图2所示模块201至203的功能。
示例性的,所述计算机程序62可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器61中,并由所述处理器60执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序62在终端设备6中的执行过程。例如,所述计算机程序62可以被分割成搭建模块201、训练模块202和搜索模块203。(虚拟装置中的模块),各模块具体功能如下:
搭建模块201,用于基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络。
训练模块202,用于通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值。
搜索模块203,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
所述终端设备6可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。终端设备6可包括,但不仅限于,处理器60、存储器61。本领域技术人员可以理解,图6仅仅是终端设备6的示例,并不构成对终端设备6的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所述处理器60可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable GateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器61可以是终端设备6的内部存储单元,例如终端设备6的硬盘或内存。所述存储器61也可以是终端设备6的外部存储设备,例如所述终端设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器61还可以既包括终端设备6的内部存储单元也包括外部存储设备。所述存储器61用于存储所述计算机程序以及终端设备6所需的其他程序和数据。所述存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于深度联合判别学习的车辆重识别方法,其特征在于,包括:
基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络;
通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值;
将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
2.根据权利要求1所述的基于深度联合判别学习的车辆重识别方法,其特征在于,所述基于深度卷积神经网络搭建***网络架构,包括:
基于深度卷积神经网络构建车辆身份识别子网络,使所述车辆身份识别子网络的损失函数为:
其中,fi为目标车辆图像的特征向量,pj为对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络第j次输入的车辆图像的车辆身份属于特征向量fi对应的车辆身份的概率的预测值,n为对所述车辆身份识别子网络的损失函数进行训练的总次数,为非pj;
基于所述深度卷积神经网络构建车辆属性识别子网络,使所述车辆属性识别子网络的损失函数为:
其中,为针对所述车辆属性识别子网络的损失函数所进行的第k次训练集中在所述深度卷积神经网络第j次输入的车辆图像的车辆属性属于所述特征向量fi对应的车辆属性的概率,nattri为对所述车辆属性识别子网络的损失函数进行训练的训练集的总数,nk为所述第k次训练集中在所述深度卷积神经网络中输入车辆图像的总次数;
基于所述深度卷积神经网络构建车辆认证子网络,使所述车辆认证子网络的损失函数为:
其中,α是幅度参数,用于使具有不同车辆身份的图片之间的距离远大于α,fj也为所述目标车辆图像的特征向量,vi表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fi的距离,vj表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fj的距离;
基于所述深度卷积神经网络构建三元组子网络,使所述三元组子网络的损失函数为:
其中,fk也为所述目标车辆图像的特征向量,β是幅度参数,用于使得目标车辆图像与积极图像的距离和消极图像的距离远大于β,所述积极图像与所述目标车辆图像具有相同的车辆身份,所述消极图像与所述目标车辆图像具有不同的车辆身份。
3.根据权利要求1所述的基于深度联合判别学习的车辆重识别方法,其特征在于,所述通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数,包括:
通过视频车辆数据库,并利用由所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络共享的所述深度卷积神经网络中的卷积层分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络进行训练,以分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数的取值范围进行微调;
使所述***网络架构的整体目标损失函数取极小值,获得所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数;所述整体目标损失函数L(θ)为:
L(θ)=λ1Lidenti+λ2Lattri+λ3Lverif+λ4Litriplet
其中,λ1为所述车辆身份识别子网络Lidenti的损失函数的权重,λ2为所述车辆属性识别子网络的权重,λ3为所述车辆认证子网络的权重,λ4为所述三元组子网络的权重。
4.根据权利要求1所述的基于深度联合判别学习的车辆重识别方法,其特征在于,所述将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像,包括:
将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量;
计算所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量的相似度;
根据所述特征向量的所述相似度,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
5.一种基于深度联合判别学习的车辆重识别装置,其特征在于,包括:
搭建模块,用于基于深度卷积神经网络搭建***网络架构;所述***网络架构包括车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络;
训练模块,用于通过视频车辆数据库对所述***网络架构的整体目标损失函数进行训练,确定所述***网络架构的参数;所述整体目标损失函数由所述车辆身份识别子网络的损失函数、车辆属性识别子网络的损失函数、车辆认证子网络的损失函数和三元组子网络的损失函数构造而成;所述参数包括权重参数矩阵和偏置值;
搜索模块,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量,并将所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量进行对比,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
6.根据权利要求5所述的基于深度联合判别学习的车辆重识别装置,其特征在于,所述搭建模块包括:
身份识别单元,用于基于深度卷积神经网络构建车辆身份识别子网络,使所述车辆身份识别子网络的损失函数为:
其中,fi为目标车辆图像的特征向量,pj为对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络第j次输入的车辆图像的车辆身份属于特征向量fi对应的车辆身份的概率的预测值,n为对所述车辆身份识别子网络的损失函数进行训练的总次数,为非pj;
属性识别单元,用于基于所述深度卷积神经网络构建车辆属性识别子网络,使所述车辆属性识别子网络的损失函数为:
其中,为针对所述车辆属性识别子网络的损失函数所进行的第k次训练集中在所述深度卷积神经网络第j次输入的车辆图像的车辆属性属于所述特征向量fi对应的车辆属性的概率,nattri为对所述车辆属性识别子网络的损失函数进行训练的训练集的总数,nk为所述第k次训练集中在所述深度卷积神经网络中输入车辆图像的总次数;
认证单元,用于基于所述深度卷积神经网络构建车辆认证子网络,使所述车辆认证子网络的损失函数为:
其中,α是幅度参数,用于使具有不同车辆身份的图片之间的距离远大于α,fj也为所述目标车辆图像的特征向量,vi表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fi的距离,vj表示对所述车辆身份识别子网络的损失函数进行训练时在所述深度卷积神经网络输入的车辆图像的特征向量与所述特征向量fj的距离;
三元组单元,用于基于所述深度卷积神经网络构建三元组子网络,使所述三元组子网络的损失函数为:
其中,fk也为所述目标车辆图像的特征向量,β是幅度参数,用于使得目标车辆图像与积极图像的距离和消极图像的距离远大于β,所述积极图像与所述目标车辆图像具有相同的车辆身份,所述消极图像与所述目标车辆图像具有不同的车辆身份。
7.根据权利要求5所述的基于深度联合判别学习的车辆重识别装置,其特征在于,所述训练模块包括:
分批训练单元,用于通过视频车辆数据库,并利用由所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络共享的所述深度卷积神经网络中的卷积层分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络进行训练,以分别对所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数的取值范围进行微调;
参数获取单元,用于使所述***网络架构的整体目标损失函数取极小值,获得所述车辆身份识别子网络、车辆属性识别子网络、车辆认证子网络和三元组子网络的参数;所述整体目标损失函数L(θ)为:
L(θ)=λ1Lidenti+λ2Lattri+λ3Lverif+λ4Litriplet
其中,λ1为所述车辆身份识别子网络Lidenti的损失函数的权重,λ2为所述车辆属性识别子网络的权重,λ3为所述车辆认证子网络的权重,λ4为所述三元组子网络的权重。
8.根据权利要求5所述的基于深度联合判别学习的车辆重识别装置,其特征在于,所述搜索模块包括:
图像输入单元,用于将待识别车辆图像与有效地理区域范围内的车辆图像输入到确定出所述参数后的***网络架构中,提取所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量;
计算单元,用于计算所述待识别图像的特征向量与所述有效地理区域范围内的车辆图像的特征向量的相似度;
搜索单元,用于根据所述特征向量的所述相似度,搜索出所述有效地理区域范围内的车辆图像中的与所述待识别车辆图像的相似度最高的车辆图像。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-4中任一项所述方法的步骤。
10.一种计算机可读介质,所述计算机可读介质存储有计算机程序,其特征在于,所述计算机程序被处理执行时实现如权利要求1-4中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910783507.1A CN110619280B (zh) | 2019-08-23 | 2019-08-23 | 一种基于深度联合判别学习的车辆重识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910783507.1A CN110619280B (zh) | 2019-08-23 | 2019-08-23 | 一种基于深度联合判别学习的车辆重识别方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110619280A CN110619280A (zh) | 2019-12-27 |
CN110619280B true CN110619280B (zh) | 2022-05-24 |
Family
ID=68922455
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910783507.1A Active CN110619280B (zh) | 2019-08-23 | 2019-08-23 | 一种基于深度联合判别学习的车辆重识别方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110619280B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111158790B (zh) * | 2019-12-31 | 2021-04-13 | 清华大学 | 面向云端深度学习推理的fpga虚拟化方法 |
CN111652293B (zh) * | 2020-05-20 | 2022-04-26 | 西安交通大学苏州研究院 | 一种多任务联合判别学习的车辆重识别方法 |
CN113033282B (zh) * | 2020-12-15 | 2024-05-28 | 广州云从鼎望科技有限公司 | 基于小物体检测的图像识别方法、装置以及介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709528A (zh) * | 2017-01-10 | 2017-05-24 | 深圳大学 | 基于多目标函数深度学习的车辆重识别方法及装置 |
CN107729818A (zh) * | 2017-09-21 | 2018-02-23 | 北京航空航天大学 | 一种基于深度学习的多特征融合车辆重识别方法 |
AU2018100321A4 (en) * | 2018-03-15 | 2018-04-26 | Chen, Jinghan Mr | Person ReID method based on metric learning with hard mining |
CN109190513A (zh) * | 2018-08-14 | 2019-01-11 | 中山大学 | 结合图像显著性检测和神经网络的车辆重识别方法与*** |
CN110084139A (zh) * | 2019-04-04 | 2019-08-02 | 长沙千视通智能科技有限公司 | 一种基于多分支深度学习的车辆重识别方法 |
-
2019
- 2019-08-23 CN CN201910783507.1A patent/CN110619280B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709528A (zh) * | 2017-01-10 | 2017-05-24 | 深圳大学 | 基于多目标函数深度学习的车辆重识别方法及装置 |
CN107729818A (zh) * | 2017-09-21 | 2018-02-23 | 北京航空航天大学 | 一种基于深度学习的多特征融合车辆重识别方法 |
AU2018100321A4 (en) * | 2018-03-15 | 2018-04-26 | Chen, Jinghan Mr | Person ReID method based on metric learning with hard mining |
CN109190513A (zh) * | 2018-08-14 | 2019-01-11 | 中山大学 | 结合图像显著性检测和神经网络的车辆重识别方法与*** |
CN110084139A (zh) * | 2019-04-04 | 2019-08-02 | 长沙千视通智能科技有限公司 | 一种基于多分支深度学习的车辆重识别方法 |
Non-Patent Citations (3)
Title |
---|
Group-Sensitive Triplet Embedding for Vehicle Reidentification;Yan Bai et al.;《IEEE Transactions on Multimedia》;20180123;2385-2399 * |
Vehicle Re-Identification an Efficient Baseline Using Triplet Embedding;Ratnesh Kumar et al.;《Computer Vision and Pattern Recognition》;20190808;1-12 * |
基于深度学习的车辆重识别方法;邹雷;《中国优秀硕士学位论文全文数据库 (工程科技Ⅱ辑)》;20190415;C034-320 * |
Also Published As
Publication number | Publication date |
---|---|
CN110619280A (zh) | 2019-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107609497B (zh) | 基于视觉跟踪技术的实时视频人脸识别方法及*** | |
Wang et al. | Vehicle type recognition in surveillance images from labeled web-nature data using deep transfer learning | |
WO2021139324A1 (zh) | 图像识别方法、装置、计算机可读存储介质及电子设备 | |
CN109117879B (zh) | 图像分类方法、装置及*** | |
Lavi et al. | Survey on deep learning techniques for person re-identification task | |
CN109145742B (zh) | 一种行人识别方法及*** | |
CN110175615B (zh) | 模型训练方法、域自适应的视觉位置识别方法及装置 | |
CN110619280B (zh) | 一种基于深度联合判别学习的车辆重识别方法及装置 | |
CN109711416B (zh) | 目标识别方法、装置、计算机设备和存储介质 | |
CN110689043A (zh) | 一种基于多重注意力机制的车辆细粒度识别方法及装置 | |
Cepni et al. | Vehicle detection using different deep learning algorithms from image sequence | |
JP2022521038A (ja) | 顔認識方法、ニューラルネットワークのトレーニング方法、装置及び電子機器 | |
Huang et al. | Multiple objects tracking in the UAV system based on hierarchical deep high-resolution network | |
CN111709313A (zh) | 基于局部和通道组合特征的行人重识别方法 | |
Farag | A lightweight vehicle detection and tracking technique for advanced driving assistance systems | |
Ouchra et al. | Object detection approaches in images: a survey | |
Arróspide et al. | A study of feature combination for vehicle detection based on image processing | |
CN113378675A (zh) | 一种同时检测和特征提取的人脸识别方法 | |
Gu et al. | Embedded and real-time vehicle detection system for challenging on-road scenes | |
CN116152870A (zh) | 人脸识别方法、装置、电子设备及计算机可读存储介质 | |
CN111767839B (zh) | 一种车辆行驶轨迹确定方法、装置、设备及介质 | |
Zhang et al. | A deep neural network-based vehicle re-identification method for bridge load monitoring | |
CN117237757A (zh) | 一种人脸识别模型训练方法、装置、电子设备及介质 | |
Rokonuzzaman et al. | Automatic vehicle identification system using machine learning and robot operating system (ROS) | |
Tao et al. | Pedestrian Identification and Tracking within Adaptive Collaboration Edge Computing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230426 Address after: Rooms 01 and 02, 11th Floor, Business Office Building, Block B, Tianxin Software Industrial Park, No. 66-68 Xinling Road, Tianxin District, Changsha City, Hunan Province, 410004 Patentee after: Hunan qianshitong Information Technology Co.,Ltd. Address before: 410000 room 4002 - (C019), building AB, Hunan Lugu information port, No. 658 Lugu Avenue, high tech Development Zone, Changsha, Hunan Patentee before: Changsha Qianshitong Intelligent Technology Co.,Ltd. |
|
TR01 | Transfer of patent right |