CN112016534B - 车辆违停检测的神经网络的训练方法、检测方法和装置 - Google Patents
车辆违停检测的神经网络的训练方法、检测方法和装置 Download PDFInfo
- Publication number
- CN112016534B CN112016534B CN202011152342.7A CN202011152342A CN112016534B CN 112016534 B CN112016534 B CN 112016534B CN 202011152342 A CN202011152342 A CN 202011152342A CN 112016534 B CN112016534 B CN 112016534B
- Authority
- CN
- China
- Prior art keywords
- feature map
- neural network
- distance
- average
- loss function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/08—Detecting or categorising vehicles
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
技术领域
本申请涉及人工智能技术领域,且更为具体地,涉及一种用于车辆违停检测的神经网络的训练方法、车辆违停检测方法、训练装置、检测装置和电子设备。
背景技术
智慧城市是把新一代信息技术充分应用在城市中各行各业的城市信息化高级形态。随着城市化的不断加快,大量人口涌入城市,私家车的数量迅速增加,导致城市车辆数量迅速增加,而城市停车位紧缺,导致车辆违停现象十分严重,城市交通混乱甚至瘫痪,造成巨大的经济损失。因此,必须要对车辆进行有效监管,才能保证城市交通的正常运行,监管车辆最直接有效的方法是对违停车辆进行抄牌。
传统的车辆违停检测与抄牌要依靠交警巡逻贴罚单完成,这种人工监管车辆的方法费时费力,而且覆盖面不广,容易漏检。
目前,深度学***。
深度学习以及神经网络的发展(尤其是机器视觉技术的发展),为车辆违停检测提供的解决思路和方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种用于车辆违停检测的神经网络的训练方法、车辆违停检测方法、训练装置、检测装置和电子设备,其通过包含停放车辆的街景图像和不包含停放车辆的所述街景图像作为训练用图像集来训练用于车辆违停检测的神经网络,以减少特征图在其图像空间内的低概率样本点的数目,从而提高分类准确性。
根据本申请的一个方面,提供了一种用于车辆违停检测的神经网络的训练方法,其包括:
获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;
将所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;
将所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;
计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数;
将所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量,并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;;
基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络。
在上述用于车辆违停检测的神经网络的训练方法中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数,包括:
基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值。
在上述用于车辆违停检测的神经网络的训练方法中,计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值,包括:
以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
在上述用于车辆违停检测的神经网络的训练方法中,所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离是L1距离或者L2距离。
在上述用于车辆违停检测的神经网络的训练方法中,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络,包括:在基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络的同时更新所述第二卷积神经网络。
根据本申请的另一方面,提供了一种车辆违停的检测方法,其包括:
获取包含停放车辆的街景图像;
将所述街景图像输入根据如上所述的用于车辆违停检测的神经网络的训练方法所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及
基于所述第一概率和所述第二概率确定所述停放车辆是否违停。
根据本申请的再一方面,提供了一种用于车辆违停检测的神经网络的训练装置,其包括:
训练用图像集获取单元,用于获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;
第一特征图生成单元,用于将所述训练用图像集获取单元获得的所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;
第二特征图生成单元,用于将所述训练用图像集获取单元获得的所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;
距离损失函数计算单元,用于计算用于表示所述第一特征图生成单元获得的所述第一特征图与所述第二特征图生成单元获得的所述第二特征图之间的特征图的空间距离的距离损失函数;
Softmax损失函数生成单元,用于将基于所述第一特征图生成单元获得的所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;
参数更新单元,用于基于所述距离损失函数计算单元获得的所述距离损失函数和所述Softmax损失函数生成单元获得的所述Softmax损失函数的加权和更新所述第一卷积神经网络。
在上述用于车辆违停检测的神经网络的训练装置中,所述距离损失函数计算单元,进一步包括:
第一平均特征图生成子单元,用于基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
第二平均特征图生成子单元,用于基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
距离计算子单元,用于计算所述第一平均特征图子单元获得的所述第一平均特征图与所述第二平均特征图子单元获得的所述第二平均特征图之间的距离以获得所述距离损失函数值。
在上述用于车辆违停检测的神经网络的训练装置中,所述距离计算子单元,进一步用于:以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
在上述用于车辆违停检测的神经网络的训练装置中,所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离是L1距离或者L2距离。
在上述用于车辆违停检测的神经网络的训练装置中,所述参数更新单元进一步用于:在基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络的同时更新所述第二卷积神经网络。
根据本申请的又一方面,提供了一种车辆违停的检测装置,其包括:
街景图像获取单元,用于获取包含停放车辆的街景图像;
分类单元,用于将所述街景图像获取单元获得的所述街景图像输入至如上所述的用于车辆违停检测的神经网络的训练装置所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及
确定单元,用于基于所述分类单元获得的所述第一概率和所述第二概率确定所述停放车辆是否违停。
根据本申请的再又一方面,提供了一种电子设备,包括:处理器;以及,存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的用于车辆违停检测的神经网络的训练方法或者如上所述的车辆违停的检测方法。
根据本申请的又一方面,提供了一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的用于车辆违停检测的神经网络的训练方法或者如上所述的车辆违停的检测方法。
与现有技术相比,本申请提供的用于车辆违停检测的神经网络的训练方法、车辆违停检测方法、训练装置、检测装置和电子设备,其通过包含停放车辆的街景图像和不包含停放车辆的所述街景图像作为训练用图像集来训练用于车辆违停检测的神经网络,以减少特征图在其图像空间内的低概率样本点的数目,从而提高分类准确性。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法和车辆违停检测方法的应用场景图。
图2图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法的流程图。
图3图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法的***架构的示意图。
图4图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数的流程图。
图5图示了根据本申请实施例的车辆违停的检测方法的流程图。
图6图示了根据本申请实施例的用于车辆违停检测的神经网络的训练装置的框图示意图。
图7图示了根据本申请实施例的用于车辆违停检测的神经网络的训练装置中距离损失函数计算单元的框图。
图8图示了根据本申请实施例的车辆违停的检测装置的框图。
图9图示了根据本申请实施例的电子设备的框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
场景概述
如上所述,传统的车辆违停检测与抄牌要依靠交警巡逻贴罚单完成,这种人工监管车辆的方法费时费力,而且覆盖面不广,容易漏检。深度学习以及神经网络的发展(尤其是机器视觉技术的发展),为车辆违停检测提供的解决思路和方案。
具体来说,在进行道路上车辆的违停检测时,可以获得大量的包含停放车辆的街景图像。对于车辆是否违停可以看作一个针对上述图像的二元分类问题。现有一些基于深度神经网络的解决方案,其简单地通过卷积神经网络 + Softmax分类器的网络结构来进行二元分类,检测正确率不高,无法实际应用。
本申请发明人发现,上述方案影响到检测率的部分原因在于所获得的特征图在其图像空间中包含大量的低概率样本点。这是因为在包含有停放车辆的街景图像中,可能多个图像对应同一街景,因此,大量的包含有停放车辆的街景图像存在在其背景上类似而停放车辆的细节上不同的情况,也就是说,总体上类似而在细节上有差异。而当将这些街景图像作为图像集通过卷积神经网络时,在由通过卷积神经网络所获得的图像空间中就会存在大量的低概率样本点,从而影响后续分类的准确性。
针对上述技术问题,本申请的基本思路是通过包含停放车辆的街景图像和不包含停放车辆的所述街景图像作为训练用图像集来训练用于车辆违停检测的神经网络,以减少特征图在其图像空间内的低概率样本点的数目,从而提高分类准确性。
基于此,本申请提供了一种用于车辆违停检测的神经网络的训练方法,其包括:获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;将所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;将所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数;将所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量,并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;;以及,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络。
具体来说,通过不包含停放车辆的图像作为标签图像,并通过相同结构的卷积神经网络映射到图像空间中,可以获得包含相对少量的低概率样本点的所述第二特征图。进而,通过计算所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数并以此更新所述第一卷积神经网络和所述第二卷积神经网络,可以使得所述第一特征图所在的图像空间内的样本点分布向着所述第二特征图所在的图像空间内的样本点的分布靠近,从而减少低概率样本点的数目,提高分类准确性。
相应地,所述特征图的目的是用于进行对车辆违停进行分类,而在第二集合的图像中不包含违停车辆,因此,需要在以所述第一特征图通过Softmax分类器获得Softmax损失函数之后,与距离损失函数联立对所述第一卷积神经网络进行训练,从而提高对于车辆违停检测的准确率。
相应地,根据本申请的另一方面,还提供一种车辆违停的检测方法,其,包括:获取包含停放车辆的街景图像;将所述街景图像输入根据如上所述的用于车辆违停检测的神经网络的训练方法所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及,基于所述第一概率和所述第二概率确定所述停放车辆是否违停。
图1图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法和车辆违停检测方法的应用场景图。
如图1所示,在该应用场景中,在训练阶段,摄像头(例如,如图1中所示意的C)采集包含停放车辆和不包含停放车辆的街景图片;并将其作为训练用图像集输入至用于车辆违停检测的神经网络的训练服务器中(例如,图1中所示意的S)。在训练完成后,在检测阶段中,由摄像头所采集的包含有停放车辆的街景图像被输入至用于车辆违停检测的服务器中,其中,在所述服务器上部署于训练完成的卷积神经网络模型(例如,如图1所示意的S),以输出停放车辆是否违停的判定结果。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图2图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法的流程图。
如图2所示,根据本申请实施例的用于车辆违停检测的神经网络的训练方法,包括:S110,获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;S120,将所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;S130,将所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;S140,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数;S150,将所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量,并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;;以及,S160,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络。
图3图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法的***架构的示意图。在本申请实施例中,所述***结构,包括:第一卷积神经网络(例如,如图3所示意的CNN1)、第二卷积神经网络(例如,如图3所示意的CNN2)、全连接层(例如,如图3所示意的Fcl)、Softmax函数(例如,如图3所示意的S)、以及,距离损失函数(例如,如图3所示意的Dl),其中,包含停放车辆的街景图像的第一集合(例如,如图3所示意的IN0)被输入至所述第一卷积神经网络,所述第一卷积神经网络用于对所述第一集合中的图像进行卷积处理,以生成第一特征图(例如,如图3所示意的F1);不包含停放车辆的所述街景图像的第二集合(例如,如图3所示意的IN1)被输入至与所述第一卷积神经网络具有相同网络结构的所述第二卷积神经网络,所述第二卷积神经网络用于对所述第二集合中的图像进行卷积处理,以生成第二特征图。相应地,在获得所述第一特征图和所述第二特征图后,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数。所述全连接层,用于将基于所述第一特征图转换的特征向量转化为用于分类的特征向量(例如,如图3所示意的V),其中,该用于分类的特征向量以Softmax函数进行分类以获得Softmax损失函数。然后,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络。
在步骤S110中,获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合。也就是,在本申请实施例中,训练用图像数据集,包括两类:包含停放车辆的街景图像集和不包含停放车辆的街景图像集。优选地,在包含停放车辆的街景图像集中,应尽可能地包括不同类型、不同尺寸的车辆,以提高训练效果。
在步骤S120中,将所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图。应可以理解,在包含有停放车辆的街景图像中,可能多个图像对应于同一街景。因此,大量的包含有停放车辆的街景图像存在在背景上类似而在停放车辆的细节上不同的情况,也就是说,总体上类似而在细节上有差异,而当将这些街景图像作为图像集通过所述第一卷积神经网络时,在由通过所述第一卷积神经网络所获得的所述第一特征图在其图像空间中就会存在大量的低概率样本点。
在步骤S130中,将所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构。相应地,通过以不包含停放车辆的图像作为标签图像,并通过相同结构的所述第二卷积神经网络映射到图像空间中,可以获得包含相对少量的低概率样本点的第二特征图。
在步骤S140中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数。相应地,通过计算所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数并以此更新所述第一卷积神经网络和所述第二卷积神经网络,可以使得第一特征图所在的图像空间内的样本点分布向着第二特征图所在的图像空间内的样本点的分布靠近,从而减少低概率样本点的数目,提高分类准确性。
具体来说,在本申请一示例中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数的过程,包括:首先基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
接着,基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
然后,计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值。
这里,由于所述街景图像的第一集合和第二集合可能包含不同数目的图像,但是图像的宽和高相同(由相同的摄像头拍摄而成),而所述第一卷积神经网络和所述第二卷积神经网络具有相同的结构,即具有相同的通道数,因此,所述第一特征图和所述第二特征图的宽、高和通道数相同,仅在样本数目的维度上存在差异。相应地,通过在样本数目维度上进行加权平均,可以获得可用于直接计算距离的所述第一平均特征图和所述第二平均特征图。这样,一方面可以简化计算,提高计算效率,另一方面,也可以由所述距离损失函数值直接反映所述第一特征图在其所在的图像空间的样本点分布与所述第二特征图在其所在的图像空间内的样本点分布之间的差异。
图4图示了根据本申请实施例的用于车辆违停检测的神经网络的训练方法中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数的流程图。如图4所示,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数,包括:S210,基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图;S220,基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;以及,S230,计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值。
更具体地,在该示例中,计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值,包括:
以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
相应地,通过计算所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离再进行加和平均以获得所述距离损失函数值,可以使得所述距离损失函数值能够以像素级将所述第一特征图在其所在的图像空间内的样本点分布向着所述第二特征图在其所在的图像空间内的样本点分布进行迁移,从而降低所述第一特征图在其所在的图像空间内的低概率样本点的数目。
在该示例中,可基于以下等式计算所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离:
其中,为所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离,为所述第一平均特征图中的每个位置的值,为所述第二平均特征图中的每个位置的值,x指所述特征图的宽度维度,y指所述特征图的高度维度,c指所述特征图的通道维度,且n指所述特征图的样本编号维度。
相应地,通过计算所述第一平均特征图与所述第二平均特征图的每个位置之间的L1距离,可以从数值维度上反映出所述第一平均特征图与所述第二平均特征图的每个位置之间的特征差异。
在该示例中,也可以基于以下等式计算所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离:
其中,为所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离,为所述第一平均特征图中的每个位置的值,为所述第二平均特征图中的每个位置的值,x指所述特征图的宽度维度,y指所述特征图的高度维度,c指所述特征图的通道维度,且n指所述特征图的样本编号维度。
相应地,通过计算所述第一平均特征图与所述第二平均特征图的每个位置之间的L2距离,可以从空间距离维度上反映出所述第一平均特征图与所述第二平均特征图的每个位置之间的特征差异。
在步骤S150中,将所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量,并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数。这里,所述第一特征图的目的是用于进行对车辆违停进行分类,因此,需要在以第一特征图通过Softmax分类器获得Softmax损失函数之后,与所述距离损失函数联立对所述第一卷积神经网络进行训练,从而提高对于车辆违停检测的准确率。
在步骤S160中,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络。优选地,在本申请实施例中,在基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络的同时更新所述第二卷积神经网络。
通过在训练第一卷积神经网络的同时训练第二卷积神经网络,可以使得第二卷积神经网络提取出的特征有助于对违停车辆进行分类,具体地,所述第二卷积神经网络提取出的特征可以有助于识别用于判定车辆是否违停,比如车道线位置,马路位置,是否具有停车位画线等。
综上,基于本申请实施例的用于车辆违停检测的神经网络的训练方法被阐明,其通过包含停放车辆的街景图像和不包含停放车辆的所述街景图像作为训练用图像集来训练用于车辆违停检测的神经网络,以减少用于分类的特征图在其图像空间内的低概率样本点的数目,从而提高分类准确性。
进一步地,根据本申请的另一方面,还提供一种车辆违停的检测方法。如图5所示,所述车辆违停的检测方法,包括:S310,获取包含停放车辆的街景图像;S320,将所述街景图像输入根据如上所述的用于车辆违停检测的神经网络的训练方法所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及,S330,基于所述第一概率和所述第二概率确定所述停放车辆是否违停。
示例性装置
图5图示了根据本申请实施例的用于车辆违停检测的神经网络的训练装置的框图示意图。
如图5所示,根据本申请实施例的用于车辆违停检测的神经网络的训练装置600,包括:训练用图像集获取单元 610,用于获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;第一特征图生成单元 620,用于将所述训练用图像集获取单元 610获得的所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;第二特征图生成单元 630,用于将所述训练用图像集获取单元 610获得的所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;距离损失函数计算单元 640,用于计算用于表示所述第一特征图生成单元 620获得的所述第一特征图与所述第二特征图生成单元 630获得的所述第二特征图之间的特征图的空间距离的距离损失函数;Softmax损失函数生成单元 650,用于将基于所述第一特征图生成单元 620获得的所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;以及,参数更新单元 660,用于基于所述距离损失函数计算单元 640获得的所述距离损失函数和所述Softmax损失函数生成单元 650获得的所述Softmax损失函数的加权和更新所述第一卷积神经网络。
在一个示例中,如图7所示,在上述用于车辆违停检测的神经网络的训练装置 600中,所述距离损失函数计算单元 640,进一步包括:
第一平均特征图生成子单元 641,用于基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
第二平均特征图生成子单元 642,用于基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
距离计算子单元 643,用于计算所述第一平均特征图子单元获得的所述第一平均特征图与所述第二平均特征图子单元获得的所述第二平均特征图之间的距离以获得所述距离损失函数值。
在一个示例中,在上述用于车辆违停检测的神经网络的训练装置 600中,所述距离计算子单元 643,进一步用于:以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
在一个示例中,在上述用于车辆违停检测的神经网络的训练装置 600中,所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离是L1距离或者L2距离。
在一个示例中,在上述用于车辆违停检测的神经网络的训练装置 600中,所述参数更新单元 660进一步用于:在基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络的同时更新所述第二卷积神经网络。
根据本申请的又一方面,提供了一种车辆违停的检测装置。
图8图示了根据本申请实施例的车辆违停的检测装置的框图。
如图8所示,根据本申请实施例的所述违停车辆的检测装置 800,包括:街景图像获取单元 810,用于获取包含停放车辆的街景图像;分类单元 820,用于将所述街景图像获取单元 810获得的所述街景图像输入至如上所述的用于车辆违停检测的神经网络的训练装置所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及,确定单元 830,用于基于所述分类单元 820获得的所述第一概率和所述第二概率确定所述停放车辆是否违停。
这里,本领域技术人员可以理解,上述用于车辆违停检测的神经网络的训练装置600和所述车辆违停的检测装置 800中的各个单元和模块的具体功能和操作已经在上面参考图1到图5的用于车辆违停检测的神经网络的训练方法和车辆违停的检测方法的描述中得到了详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的用于车辆违停检测的神经网络的训练装置600和所述车辆违停的检测装置 800可以实现在各种终端设备中,例如用于车辆违停检测的服务器等。在一个示例中,根据本申请实施例的用于车辆违停检测的神经网络的训练装置600和/或所述车辆违停的检测装置 800可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该用于车辆违停检测的神经网络的训练装置600和/或所述车辆违停的检测装置 800可以是该终端设备的操作***中的一个软件模块,或者可以是针对于该终端设备所开发的一个应用程序;当然,该用于车辆违停检测的神经网络的训练装置600和/或所述车辆违停的检测装置 800同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该用于车辆违停检测的神经网络的训练装置600和/或所述车辆违停的检测装置 800与该终端设备也可以是分立的设备,并且该用于车辆违停检测的神经网络的训练装置600和/或所述车辆违停的检测装置 800可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
示例性电子设备
下面,参考图9来描述根据本申请实施例的电子设备。
图9图示了根据本申请实施例的电子设备的框图。
如图9所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的用于车辆违停检测的神经网络的训练方法和车辆违停的检测方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如距离损失函数值、街景图像等各种内容。
在一个示例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
该输入装置13可以包括例如键盘、鼠标等等。
该输出装置14可以向外部输出各种信息,包括车辆违停的检测结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图9中仅示出了该电子设备10中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于车辆违停检测的神经网络的训练方法和车辆违停的检测方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的用于车辆违停检测的神经网络的训练方法和车辆违停的检测方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (7)
1.一种用于车辆违停检测的神经网络的训练方法,其特征在于,包括:
获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;
将所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;
将所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;
计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数;
将所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量,并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;以及
基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络;
其中,计算用于表示所述第一特征图与所述第二特征图之间的特征图的空间距离的距离损失函数,包括:
基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值;
其中,计算所述第一平均特征图与所述第二平均特征图之间的距离以获得所述距离损失函数值包括:
以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
2.根据权利要求1所述的用于车辆违停检测的神经网络的训练方法,其中,所述第一平均特征图与所述第二平均特征图的每个位置的元素之间的距离是L1距离或者L2距离。
3.根据权利要求1所述的用于车辆违停检测的神经网络的训练方法,其中,基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络包括:
在基于所述距离损失函数和所述Softmax损失函数的加权和更新所述第一卷积神经网络的同时更新所述第二卷积神经网络。
4.一种车辆违停的检测方法,其特征在于,包括:
获取包含停放车辆的街景图像;
将所述街景图像输入根据权利要求1到3中任意一项所述的用于车辆违停检测的神经网络的训练方法所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及
基于所述第一概率和所述第二概率确定所述停放车辆是否违停。
5.一种用于车辆违停检测的神经网络的训练装置,其特征在于,包括:
训练用图像集获取单元,用于获取每个包含停放车辆的街景图像的第一集合和不包含停放车辆的所述街景图像的第二集合;
第一特征图生成单元,用于将所述训练用图像集获取单元获得的所述第一集合的街景图像输入第一卷积神经网络以获得第一特征图;
第二特征图生成单元,用于将所述训练用图像集获取单元获得的所述第二集合的街景图像输入第二卷积神经网络以获得第二特征图,所述第二卷积神经网络具有与所述第一卷积神经网络相同的结构;
距离损失函数计算单元,用于计算用于表示所述第一特征图生成单元获得的所述第一特征图与所述第二特征图生成单元获得的所述第二特征图之间的特征图的空间距离的距离损失函数;
Softmax损失函数生成单元,用于将基于所述第一特征图生成单元获得的所述第一特征图转换的特征向量通过全连接层后获得用于分类的特征向量并以Softmax函数对所述用于分类的特征向量进行分类以获得Softmax损失函数;以及
参数更新单元,用于基于所述距离损失函数计算单元获得的所述距离损失函数和所述Softmax损失函数生成单元获得的所述Softmax损失函数的加权和更新所述第一卷积神经网络;
其中,所述距离损失函数计算单元,进一步包括:
第一平均特征图生成子单元,用于基于所述第一特征图的样本数目n对所述第一特征图进行样本数目维度的加权平均以获得第一平均特征图:
第二平均特征图生成子单元,用于基于所述第二特征图的样本数目m对所述第二特征图进行样本数目维度的加权平均以获得第二平均特征图;
距离计算子单元,用于计算所述第一平均特征图子单元获得的所述第一平均特征图与所述第二平均特征图子单元获得的所述第二平均特征图之间的距离以获得所述距离损失函数值;
所述距离计算子单元,进一步用于:以如下等式计算所述第一平均特征图与所述第二平均特征图之间的距离:
6.一种车辆违停的检测装置,其特征在于,包括:
街景图像获取单元,用于获取包含停放车辆的街景图像;
分类单元,用于将所述街景图像获取单元获得的所述街景图像输入至如权利要求5所述的用于车辆违停检测的神经网络的训练装置所训练的第一卷积神经网络,全连接层和Softmax函数,所述Softmax函数的输出为表示所述停放车辆属于违停的第一概率和所述停放车辆不属于违停的第二概率;以及
确定单元,用于基于所述分类单元获得的所述第一概率和所述第二概率确定所述停放车辆是否违停。
7. 一种电子设备,包括:
处理器;以及
存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-3中任一项所述的用于车辆违停检测的神经网络的训练方法或者如权利要求4所述的车辆违停的检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011152342.7A CN112016534B (zh) | 2020-10-26 | 2020-10-26 | 车辆违停检测的神经网络的训练方法、检测方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011152342.7A CN112016534B (zh) | 2020-10-26 | 2020-10-26 | 车辆违停检测的神经网络的训练方法、检测方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112016534A CN112016534A (zh) | 2020-12-01 |
CN112016534B true CN112016534B (zh) | 2021-02-05 |
Family
ID=73527760
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011152342.7A Active CN112016534B (zh) | 2020-10-26 | 2020-10-26 | 车辆违停检测的神经网络的训练方法、检测方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112016534B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112541462A (zh) * | 2020-12-21 | 2021-03-23 | 南京烨鸿智慧信息技术有限公司 | 用于有机废气的光净化效果检测的神经网络的训练方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804470A (zh) * | 2017-05-04 | 2018-11-13 | 上海荆虹电子科技有限公司 | 一种图像检索方法及装置 |
CN109784293A (zh) * | 2019-01-24 | 2019-05-21 | 苏州科达科技股份有限公司 | 多类目标对象检测方法、装置、电子设备、存储介质 |
CN110135356A (zh) * | 2019-05-17 | 2019-08-16 | 北京百度网讯科技有限公司 | 违章停车的检测方法及装置、电子设备、计算机可读介质 |
-
2020
- 2020-10-26 CN CN202011152342.7A patent/CN112016534B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108804470A (zh) * | 2017-05-04 | 2018-11-13 | 上海荆虹电子科技有限公司 | 一种图像检索方法及装置 |
CN109784293A (zh) * | 2019-01-24 | 2019-05-21 | 苏州科达科技股份有限公司 | 多类目标对象检测方法、装置、电子设备、存储介质 |
CN110135356A (zh) * | 2019-05-17 | 2019-08-16 | 北京百度网讯科技有限公司 | 违章停车的检测方法及装置、电子设备、计算机可读介质 |
Non-Patent Citations (2)
Title |
---|
Tianfu He 等.Detecting Vehicle Illegal Parking Events using Sharing Bikes’Trajectories.《ACM》.2018,第1-11页. * |
吴玉枝 等.基于卷积神经网络的违章停车事件检测.《图形图像》.2018,第22-27页. * |
Also Published As
Publication number | Publication date |
---|---|
CN112016534A (zh) | 2020-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111368687B (zh) | 一种基于目标检测和语义分割的人行道车辆违停检测方法 | |
Li et al. | Coda: A real-world road corner case dataset for object detection in autonomous driving | |
Wang et al. | A Vision‐Based Video Crash Detection Framework for Mixed Traffic Flow Environment Considering Low‐Visibility Condition | |
He et al. | Obstacle detection of rail transit based on deep learning | |
EP3806064A1 (en) | Method and apparatus for detecting parking space usage condition, electronic device, and storage medium | |
CN110533046B (zh) | 一种图像实例分割方法、装置、计算机可读存储介质及电子设备 | |
CN111898491B (zh) | 一种车辆逆向行驶的识别方法、装置及电子设备 | |
CN110689043A (zh) | 一种基于多重注意力机制的车辆细粒度识别方法及装置 | |
Yang et al. | Effective contexts for UAV vehicle detection | |
Zhang et al. | Detecting small Chinese traffic signs via improved YOLOv3 method | |
CN112016534B (zh) | 车辆违停检测的神经网络的训练方法、检测方法和装置 | |
CN117218622A (zh) | 路况检测方法、电子设备及存储介质 | |
CN112101302B (zh) | 非法张贴物检测方法、***和电子设备 | |
CN112115928B (zh) | 基于违停车辆标签的神经网络的训练方法和检测方法 | |
Yang et al. | A multi-scale feature fusion spatial–channel attention model for background subtraction | |
CN117274926A (zh) | 交通信号设备的控制方法及*** | |
CN110555425A (zh) | 一种视频流实时行人检测方法 | |
CN111340139A (zh) | 一种图像内容复杂度的判别方法及装置 | |
Alam et al. | Faster RCNN based robust vehicle detection algorithm for identifying and classifying vehicles | |
Venkatesh et al. | An intelligent traffic management system based on the Internet of Things for detecting rule violations | |
Sankaranarayanan et al. | Improved Vehicle Detection Accuracy and Processing Time for Video Based ITS Applications | |
Vellaidurai et al. | A novel oyolov5 model for vehicle detection and classification in adverse weather conditions | |
CN116541715B (zh) | 目标检测方法、模型的训练方法、目标检测***及装置 | |
Li et al. | Multifeature fusion vehicle detection algorithm based on choquet integral | |
CN112837326B (zh) | 遗留物检测方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |