CN117079242A - 减速带确定方法、装置、存储介质、电子设备及车辆 - Google Patents
减速带确定方法、装置、存储介质、电子设备及车辆 Download PDFInfo
- Publication number
- CN117079242A CN117079242A CN202311268312.6A CN202311268312A CN117079242A CN 117079242 A CN117079242 A CN 117079242A CN 202311268312 A CN202311268312 A CN 202311268312A CN 117079242 A CN117079242 A CN 117079242A
- Authority
- CN
- China
- Prior art keywords
- deceleration strip
- image
- target
- training
- key point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000012549 training Methods 0.000 claims description 200
- 238000012545 processing Methods 0.000 claims description 44
- 239000011159 matrix material Substances 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 12
- 238000010586 diagram Methods 0.000 claims description 12
- 238000012217 deletion Methods 0.000 claims description 2
- 230000037430 deletion Effects 0.000 claims description 2
- 238000004891 communication Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000000605 extraction Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 239000000725 suspension Substances 0.000 description 2
- KLDZYURQCUYZBL-UHFFFAOYSA-N 2-[3-[(2-hydroxyphenyl)methylideneamino]propyliminomethyl]phenol Chemical compound OC1=CC=CC=C1C=NCCCN=CC1=CC=CC=C1O KLDZYURQCUYZBL-UHFFFAOYSA-N 0.000 description 1
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 201000001098 delayed sleep phase syndrome Diseases 0.000 description 1
- 208000033921 delayed sleep phase type circadian rhythm sleep disease Diseases 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种减速带确定方法、装置、存储介质、电子设备及车辆。所述方法包括:获取待处理的目标图像;利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。由此,通过特征图可以快速地确定目标图像中减速带的关键点位置,有利于提升确定减速带的速度,并且,通过减速带关键点将减速带简化为线形,进而通过多个减速带关键点确定减速带,通过多个减速带关键点的连接实现对减速带的高精度拟合,简单高效,且能保证准确性。
Description
技术领域
本公开涉及车辆技术领域,具体地,涉及一种减速带确定方法、装置、存储介质、电子设备及车辆。
背景技术
减速带作为一种重要的地面交通标志,主要用于减少交通事故和道路管制。在驾驶场景中,减速带检测技术是重要的组成部分,通过对减速带的识别,可以在车辆通过减速带时执行一系列辅助动作,例如,在车辆通过减速带之前降低车速、在车辆通过减速带前后调整和测量前后悬架***的状态等,以保证车辆安全、提升车内驾乘人员的乘车体验。由此可见,对于减速带的确定在驾驶场景中具有十分重要的作用。相关技术中,在确定减速带时,通常确定减速带的轮廓或边框,准确性不足,同时,在多样、复杂的实际行车场景中,缺乏稳定性。
发明内容
本公开的目的是提供一种减速带确定方法、装置、存储介质、电子设备及车辆,以快速、准确地实现对减速带的检测。
为了实现上述目的,根据本公开的第一方面,提供一种减速带确定方法,所述方法包括:
获取待处理的目标图像;
利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;
根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;
根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。
可选地,所述利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图,包括:
将处理图像输入至所述关键点识别模型,得到所述关键点识别模型输出的第一数量的特征图,一个所述特征图对应于所述目标图像中的一个图像区域,且一个所述特征图用于指示该特征图所对应图像区域的特征信息,其中,所述特征信息包括用于指示是否存在减速带关键点的第一信息和用于指示减速带关键点位置的第二信息,所述处理图像为对所述目标图像处理所得到的目标格式的图像。
可选地,所述关键点识别模型通过以下方式生成:
获取训练样本,每一所述训练样本包括训练图像和所述训练图像对应的第一数量的训练特征图,所述训练图像为所述目标格式,一个所述训练特征图对应于所述训练图像中的一个图像区域,且一个所述训练特征图用于指示该特征图对应图像区域的训练特征信息,所述训练特征信息包括用于指示是否存在减速带关键点的第一标签信息和用于指示减速带关键点位置的第二标签信息;
通过将所述训练图像作为模型的输入,并将所述第一数量的训练特征图作为模型的目标输出的方式进行模型训练,以得到训练完成的所述关键点识别模型。
可选地,所述训练图像通过以下方式得到:
获取初始样本,每一所述初始样本包括初始图像和所述初始图像对应的减速带标记信息,所述减速带标记信息包括至少一个点集,一个所述点集用于指示所述初始图像中的一条减速带;
针对每一所述初始图像,从所述初始图像中提取出至少一个局部图像,其中,每一所述局部图像包含减速带;
针对每一所述局部图像,对所述局部图像进行处理,得到目标格式的所述训练图像。
可选地,所述训练图像对应的第一数量的训练特征图通过以下方式确定:
针对每一所述局部图像,从所述局部图像所在初始图像对应的目标减速带标记信息中,提取与所述局部图像中减速带对应的局部标记信息,所述局部标记信息包括所述目标减速带标记信息中至少一个点集的子集;
针对每一所述局部图像,将所述局部图像划分为第一数量的训练特征图,并根据所述局部图像对应的局部标记信息,确定各个所述训练特征图的第一标签信息和第二标签信息。
可选地,若所述目标减速带标记信息中点集的数量超过第二数量,对所述目标减速带标记信息中的部分点集进行删除处理,以使减速带标记信息中点集的数量不超过所述第二数量。
可选地,在每一次的模型训练中,模型对输入的训练图像处理得到的输出结果包括第一数量的输出特征图,一个所述输出特征图对应于输入的训练图像中的一个图像区域,且一个所述输出特征图用于指示该输出特征图所对应图像区域的输出特征信息,其中,所述输出特征信息包括用于指示是否存在减速带关键点的第三信息和用于指示减速带关键点位置的第四信息;
在一次模型训练中,通过以下中的至少一者确定用于更新模型的损失值:
根据第一训练特征图和第一特征图确定的第一损失值,所述第一训练特征图为本次模型训练所使用的训练图像对应的训练特征图中存在减速带关键点的训练特征图,所述第一特征图为本次训练的输出结果中与所述第一训练特征图对应的输出特征图;
根据第二训练特征图和第二特征图确定的第二损失值,所述第二训练特征图为本次模型训练所使用的训练图像对应的训练特征图中不存在减速带关键点的训练特征图,所述第二特征图为本次训练的输出结果中与所述第二训练特征图对应的输出特征图;
根据本次模型训练所使用的训练图像对应的训练特征图的第一标签信息和所述第三信息确定的第三损失值;
根据第二标签信息所指示的减速带关键点位置在第一坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第一坐标轴的坐标值确定的第四损失值;
根据第二标签信息所指示的减速带关键点位置在第二坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第二坐标轴的坐标值确定的第五损失值。
可选地,所述处理图像通过以下方式获得:
将所述目标图像转换为灰度图,得到第一中间图像;
对所述第一中间图像进行归一化处理,得到第二中间图像;
根据所述第二中间图像,通过插值处理,生成新图像,并将所述新图像作为所述处理图像。
可选地,所述特征图为多通道图像,所述特征图包括用于存储第一信息的多个第一通道和用于存储第二信息的多个第二通道,所述第一通道的数量为第二数量与1之和,所述第二通道的数量为第二数量的二倍,所述第二数量为所述关键点识别模型通过一个特征图能够识别出的减速带的最大数量;
在所述多个第一通道中,包括对应于表征特征图是否存在减速带关键点的第一置信度的第一通道、以及对应于表征是否存在第N个减速带的第二置信度的第二数量的第一通道;
在所述多个第二通道中,包括对应于表征第N个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第N个减速带在第二坐标轴的坐标值的第二通道;
其中,N包括从1到第二数量的正整数。
可选地,所述根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息,包括:
在所述目标图像对应的第一数量的特征图中,确定第一置信度达到第一阈值、且第二置信度达到第二阈值的目标特征图;
针对每一目标特征图,通过目标通道的坐标值,确定所述目标特征图中的减速带关键点在所述目标图像中对应的位置坐标,其中,所述目标通道为与达到所述第二阈值的第一通道对应的第二通道;
对确定出所述位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定所述多个关键点的位置信息。
可选地,所述对确定出所述位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定所述多个关键点的位置信息,包括:
针对每一所述目标特征图,将确定出位置坐标的减速带关键点添加与所述目标特征图对应的关键点矩阵中,所述关键点矩阵中包含非空点列,所述非空点列中包含有确定出位置坐标的减速带关键点;
沿所述第一坐标轴的方向,在所述关键点矩阵中确定首个非空点列;
根据首个非空点列所包含的减速带关键点,分别针对每个减速带关键点生成带有该减速带关键点的减速带关键点序列;
沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列;
分别将目标点列中的每一减速带关键点作为目标关键点,并执行以下步骤:确定目标关键点与目标元素在所述第二坐标轴方向上的距离,所述目标元素为已存在的每一减速带关键点序列各自的尾部元素;将确定出的距离中的最小值与预设阈值进行比较;若所述最小值小于所述预设阈值,将所述目标关键点添加到所述最小值对应的减速带关键点序列的尾部;若所述最小值大于或等于所述预设阈值,生成带有所述目标关键点的减速带关键点序列;
在所述关键点矩阵中还存在未被作为目标点列的非空点列的情况下,再次执行所述沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列的步骤,直至所述关键点矩阵中不再存在未被作为目标点列的非空点列;
在所述关键点矩阵中不再存在未被作为目标点列的非空点列的情况下,在已存在的减速带关键点序列中,确定所述多个关键点的位置信息。
可选地,所述在已存在的减速带关键点序列中,确定所述多个关键点的位置信息,包括:
确定已存在的每一减速带关键点序列中元素的数量;
将元素的数量达到预设值的减速带关键点序列作为备选序列,并根据所述备选序列包含的关键点,确定所述多个关键点的位置信息。
根据本公开的第二方面,提供一种减速带确定装置,所述装置包括:
第一获取模块,用于获取待处理的目标图像;
生成模块,用于利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;
第一确定模块,用于根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;
第二确定模块,用于根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。
根据本公开的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开第一方面所述方法的步骤。
根据本公开的第四方面,提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现本公开第一方面所述方法的步骤。
根据本公开的第五方面,提供一种车辆,包括本公开第四方面所述的电子设备。
通过上述技术方案,获取待处理的目标图像,利用预先生成的关键点识别模型,生成与目标图像对应的特征图,根据特征图,确定减速带上呈线状分布的多个关键点的位置信息,根据多个关键点的位置信息,确定目标图像中的目标减速带。由此,通过特征图可以快速地确定目标图像中减速带的关键点位置,有利于提升确定减速带的速度,并且,通过减速带关键点将减速带简化为线形,进而通过多个减速带关键点确定减速带,通过多个减速带关键点的连接实现对减速带的高精度拟合,简单高效,且能保证准确性。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本公开的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本公开,但并不构成对本公开的限制。在附图中:
图1是根据本公开的一种实施方式提供的减速带确定方法的流程图;
图2是本公开初始图像和局部图像的一种示例性的示意图;
图3是本公开局部图像和训练特征图的一种示例性的示意图;
图4是根据本公开的一种实施方式提供的减速带确定装置的框图;
图5是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
以下结合附图对本公开的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本公开,并不用于限制本公开。
道路场景中,减速带一般以长线型且与道路延伸方向垂直的形式设置于道路当中。如背景技术所述,确定减速带在驾驶场景中具有十分重要的作用。相关技术中,通常采用两种方式确定减速带在图像中的位置,一种是通过目标检测的方式确定减速带的外框信息,进而得到图像中是否有减速带、减速带在图像中的位置等;另一种则是通过图像分割的方式得到语义分割图像,再对语义分割图像进行图像处理得到减速带轮廓在图像中的位置信息。然而,在前一种方式中,是通过目标检测的方式确定多条减速带组成区域的外接矩形框,当减速带间长度差别较大时,这一方式极易产生漏检情况,而当减速带弯曲或倾斜时,还存在检测精度低、处理复杂等问题;后一种方式中,在实际的应用场景中,极易受到路面老化、光照、雨水、沙土等因素干扰,存在精度低的问题。
为了解决上述技术问题,本公开提供一种减速带确定方法、装置、存储介质、电子设备及车辆,以快速、准确地实现对减速带的检测。
图1是根据本公开的一种实施方式提供的减速带确定方法的流程图。如图1所示,该方法可以包括步骤11至步骤14。
在步骤11中,获取待处理的目标图像。
目标图像可以为反映车辆周边环境的图像,例如道路图像。示例地,目标图像可以在车辆行驶过程中通过车辆的前视相机采集。
在步骤12中,利用预先生成的关键点识别模型,生成与目标图像对应的特征图。
在一种可能的实施方式中,步骤12可以通过以下方式实现:
将处理图像输入至关键点识别模型,得到关键点识别模型输出的第一数量的特征图。
其中,处理图像为对目标图像处理所得到的目标格式的图像。目标格式为关键点识别模型的输入格式。在模型处理过程中,通常对输入内容的格式有一定要求,将目标图像转换为目标格式的处理图像,有利于模型的推理。
可选地,处理图像可以通过以下方式获得:
将目标图像转换为灰度图,得到第一中间图像;
对第一中间图像进行归一化处理,得到第二中间图像;
根据第二中间图像,通过插值处理,生成新图像,并将新图像作为处理图像。
对于目标图像,可以对各像素的RGB通道的值加权平均得到像素对应的灰度值,以将目标图像转化为灰度图,也就是第一中间图像。
基于第一中间图像,可以通过将每个像素值除以255,将像素值映射到0到1之间的范围,以实现归一化,得到第二中间图像。
在得到第二中间图像后,可以通过插值处理,生成新图像,以获得处理图像。可选地,可以基于第一尺寸,通过插值处理,将第二中间图像转换为第一尺寸的新图像,以得到上述处理图像。示例地,可以通过双线性插值进行上述插值处理。举例来说,若目标图像的高度为1080、宽度为1920,第一尺寸可以为高度320、宽度640。
一个特征图可以对应于目标图像中的一个图像区域,且一个特征图可以用于指示该特征图所对应图像区域的特征信息。
其中,特征信息可以包括用于指示是否存在减速带关键点的第一信息和用于指示减速带关键点位置的第二信息。由此,特征图可以反映目标图像中某个图像区域是否包含减速带,并在包含减速带的情况下,能够进一步反映减速带所在的位置。
第一数量可以为1或多于1的整数。在第一数量为1的情况下,关键点识别模型所生成的与目标图像对应的特征图对应的就可以是目标图像的整个图像区域。
特征图的图像尺寸可以小于处理图像的图像尺寸(即,第一尺寸),有利于降低模型输出维度,降低数据处理过程中的计算复杂度。并且,特征图越小,上述效果越明显。示例地,若处理图像的图像尺寸为高度320、宽度640,则特征图的尺寸可以为高度10、宽度20。
在一种可能的实施方式中,特征图可以为多通道图像,特征图可以包括用于存储第一信息的多个第一通道和用于存储第二信息的多个第二通道。其中,第一通道的数量可以为第二数量与1之和,第二通道的数量可以为第二数量的二倍。以及:
在多个第一通道中,可以包括对应于表征特征图是否存在减速带关键点的第一置信度的第一通道、以及对应于表征是否存在第N个减速带的第二置信度的第二数量的第一通道;
在多个第二通道中,可以包括对应于表征第N个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第N个减速带在第二坐标轴的坐标值的第二通道。
其中,N可以包括从1到第二数量的正整数。第二数量可以为关键点识别模型通过一个特征图能够识别出的减速带的最大数量。
示例地,若在生成关键点识别模型的过程中,设置关键点识别模型最多能够识别出3条减速带,则N为3,相应地:
特征图为10通道图像,其中包括4个第一通道和6个第二通道。第一通道中包括:对应于用于表征特征图是否存在减速带关键点的第一置信度的第一通道、对应于用于表征是否存在第1个减速带的第二置信度的第一通道、对应于用于表征是否存在第2个减速带的第二置信度的第一通道、对应于用于表征是否存在第3个减速带的第二置信度的第一通道。第二通道中包括:对应于表征第1个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第1个减速带在第二坐标轴的坐标值的第二通道、对应于表征第2个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第2个减速带在第二坐标轴的坐标值的第二通道、对应于表征第3个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第3个减速带在第二坐标轴的坐标值的第二通道。
其中,第一坐标轴可以为图像中的x轴,第二坐标轴可以为图像中的y轴。
基于此,特征图不仅能够通过其第一置信度反映特征图中是否存在减速带关键点,还能通过第二置信度反映有几个减速带的关键点,例如,若上述示例中3个第二置信度中有两个第二置信度能表征存在减速带关键点、另一个第二置信度表征不存在减速带关键点,则可以确定通过特征图识别出了两个减速带关键点。进而,再通过对应的第二通道获取坐标值以分别确定这两个减速带关键点的位置。
可选地,关键点识别模型可以通过以下方式生成:
获取训练样本;
通过将训练图像作为模型的输入,并将第一数量的训练特征图作为模型的目标输出的方式进行模型训练,以得到训练完成的关键点识别模型。
其中,每一训练样本可以包括训练图像和训练图像对应的第一数量的训练特征图。训练图像为目标格式,一个训练特征图对应于训练图像中的一个图像区域,且一个训练特征图用于指示该特征图对应图像区域的训练特征信息,训练特征信息包括用于指示是否存在减速带关键点的第一标签信息和用于指示减速带关键点位置的第二标签信息。
需要说明的是,训练特征图与前文有关于特征图的记载本质上相同,区别仅在于,训练阶段的特征信息是已知的,从而,训练特征图的第一置信度、第二置信度为0(表征不存在减速带关键点)或1(表征存在减速带关键点),而实际推理阶段关键点识别模型所生成的与目标图像对应的特征图的第一置信度、第二置信度为在[0,1]数值区间的实数。对于二者相同的部分,此处不再赘述。
在一种可能的实施方式中,训练图像可以通过以下方式得到:
获取初始样本;
针对每一初始图像,从初始图像中提取出至少一个局部图像;
针对每一局部图像,对局部图像进行处理,得到目标格式的训练图像。
可选地,目标格式的图像可以为第一尺寸。
其中,每一初始样本可以包括初始图像和初始图像对应的减速带标记信息,减速带标记信息可以包括至少一个点集,一个点集用于指示初始图像中的一条减速带。
初始图像可以从车辆在实际行驶过程中采集的道路视频中获取,例如,从道路视频中按照一定的时间间隔抽取图像帧,并保留含有减速带的图像帧作为初始图像。
减速带标记信息可以用于标记减速带中包括其两个端点在内的不低于两个的点。示例地,对于直线型减速带,其减速带标记信息中对应的点集可以包括减速带的两个端点。再例如,对于存在弯曲的减速带,其减速带标记信息中对应的点集需要更多的点,并且,为了保证准确性,减速带的弯曲程度越大,该减速带在减速带标记信息中对应点集中点的数量应当越多。此外,在确定减速带标记信息时,还可以基于标记减速带的点,对减速带进行差值处理,以使相邻的点之间的距离小于2px,以便于后续的数据处理。从而,减速带标记信息中同一点集中的相邻点之间的距离小于2px。
在获取到初始样本后,可以针对初始样本中的每一初始图像,从初始图像中提取出至少一个局部图像。其中,局部图像包含减速带。可选地,局部图像可以为第一尺寸。
可选地,第一尺寸的宽高比可以与初始图像相同。
可选地,第一尺寸对应的区域面积与初始图像的图像面积的比值可以大于预设比值,以保证局部图像能尽可能多地提取到初始图像中的减速带信息,而不会过多遗漏。示例地,预设比值可以为1/4。
在一种可能的实施方式中,可以生成第一尺寸的滑动窗口,并在初始图像上滑动生成的滑动窗口,以提取至少一个局部图像。
在通过多次提取,获得多个局部图像后,可以针对每一局部图像,对局部图像进行预处理,得到目标格式的训练图像。
其中有关预处理的方式在前文中对目标图像的预处理的内容中已有记载,此处不赘述。
在一种可能的实施方式中,训练图像对应的第一数量的训练特征图可以通过以下方式确定:
针对每一局部图像,从局部图像所在初始图像对应的目标减速带标记信息中,提取与局部图像中减速带对应的局部标记信息;
针对每一局部图像,将局部图像划分为第一数量的训练特征图,并根据局部图像对应的局部标记信息,确定各个训练特征图的第一标签信息和第二标签信息。
其中,训练特征图的尺寸可以为第二尺寸。示例地,若局部图像的图像尺寸为高度320、宽度640,训练特征图的尺寸可以为第二尺寸(例如,高度10、宽度20)。
其中,局部标记信息可以包括目标减速带标记信息中至少一个点集的子集。点集的子集可以包括元素数量少于点集所包含元素的总数量的集合,也可以包括点集本身。
如图2所示,其示出了从初始图像中提取局部图像时的场景,其中A为初始图像,B为用于提取局部图像的滑动窗口,C1、C2、C3、C4均为减速带,假设滑动窗口通过当前所处的位置提取出了局部图像,从图2中可知减速带C1、C2的部分减速带关键点位于局部图像中,减速带C3的全部减速带关键点位于局部图像中,减速带C4未在局部图像中,基于此,可以从目标减速带标记信息所包含的点集中,取出减速带C3对应的点集F1,并取出减速带C1的点集F2中对应于E1到E2部分的子集F3,再取出减速带C2的点集F4中对应于E3到E4部分的子集F5,进而,可以得到局部标记信息F1、F3和F5。
此外,由于局部图像中可能包含多条减速带信息,这些减速带对车辆的影响程度不同,同时确定过多数量的减速带也可能会降低识别减速带的准确性,不利于减速带的确定。因此,若目标减速带标记信息中点集的数量超过第二数量,可以对目标减速带标记信息中的部分点集进行删除处理,以使减速带标记信息中点集的数量不超过第二数量。
示例地,由于处理的是车辆行驶过程中的道路图像,减速带在图像y轴(即第二坐标轴)通常能够表征减速带距离车辆的远近,也就是,减速带在y轴上的坐标值越小,说明该减速带距离车辆越近,也就越应该被注意到,因此,在目标减速带标记信息中点集的数量超过第二数量时,可以对这些点集按y轴方向进行排序,并保留y轴坐标值较小的第二数量的点集,作为最终需要参与数据处理的目标减速带信息。由此,不仅能够使减速带的确定更准确,还能简化处理过程,有利于优先确定出距离车辆更近的减速带,有利于车辆行驶安全的提升。
在提取出局部标记信息后,可以针对每一局部图像,将局部图像划分为第一数量的第二尺寸的训练特征图,并根据局部图像对应的局部标记信息,确定各个训练特征图的第一标签信息和第二标签信息。
在将局部图像划分为第一数量的训练特征图后,对于每一减速带,可以将减速带经过的训练特征图标记为存在减速带关键点,也就是第一标签信息,同时也可以基于训练特征图中减速带的数量生成第二标签信息。对于存在减速带关键训点的训练特征图,可以进一步针对训练特征图中的每个减速带分别生成第二标签信息。示例地,可以将训练特征图中的边界点或中心点用于生成第二标签信息。
图3示出了局部图像被划分为多个训练特征图的场景,其中存在减速带的两个减速带关键点G1和G2,可见,该减速带经过G1、H1、H2、G2所在的格子(即,训练特征图),因此,可以为G1、H1、H2、G2所在的训练特征图生成与该减速带对应的标签信息,而为图3中其他的训练特征图生成不存在减速带的标签信息。示例地,图3中所示减速带的在一个训练特征图中的标签信息可以为[1,x_,y_],其中,1表征存在减速带关键点,x_表征减速带关键点在训练特征图对应于x轴的坐标值,y_表征减速带关键点在训练特征图对应于y轴的坐标值,依次对应于上文中的第二置信度、减速带在第一坐标轴的坐标值、减速带在第二坐标轴的坐标值。基于此,可以确定每一训练特征图中所包含的减速带的相关信息。
需要说明的是,第一标签信息与前文的第一信息原理相同,第二标签信息与前文的第二信息原理相同,此处不再赘述。
通过上述方式,基于初始样本,通过多次采样提取局部图像的方式,获得多样的带有减速带的图像,从而可以实现大规模的数据增强,无需多次标记。
在获取到用于生成关键点识别模型的训练样本后,就可以用于关键点识别模型的生成。也就是,将训练图像作为模型的输入,并将第一数量的训练特征图作为模型的目标输出的方式进行模型训练,以得到训练完成的所述关键点识别模型。
可选地,可以以神经网络模型为基础训练关键点识别模型。示例地,可以采用pytorch搭建深度学习全卷积神经网络,用于关键点识别模型的生成。初始化的关键点识别模型中,可以包括多个卷积层,且最后不包含全连接层,其中,最后一个卷积层使用sigmoid函数对结果归一化,其余卷积层后连接BN和Relu函数。BN和Relu函数可以让Relu函数更好地产生特征选择作用,同时,不设置全连接层可以避免全连接层丢失特征,保证特征提取的全面、准确性,提升关键点识别的准确性。
在每一次的模型训练中,模型对输入的训练图像处理得到的输出结果可以包括第一数量的输出特征图,一个输出特征图可以对应于输入的训练图像中的一个图像区域,且一个输出特征图可以用于指示该输出特征图所对应图像区域的输出特征信息,其中,输出特征信息可以包括用于指示是否存在减速带关键点的第三信息和用于指示减速带关键点位置的第四信息。其中,输出特征图可以参考前文中有关对应于目标图像的特征图的记载,第三信息可以参考前文中有关第一信息的记载,第四信息可以参考前文中有关第二信息的记载,此处不再赘述。
在一次模型训练中,可以通过以下中的至少一者确定用于更新模型的损失值:
根据第一训练特征图和第一特征图确定的第一损失值,第一训练特征图为本次模型训练所使用的训练图像对应的训练特征图中存在减速带关键点的训练特征图,第一特征图为本次训练的输出结果中与第一训练特征图对应的输出特征图;
根据第二训练特征图和第二特征图确定的第二损失值,第二训练特征图为本次模型训练所使用的训练图像对应的训练特征图中不存在减速带关键点的训练特征图,第二特征图为本次训练的输出结果中与第二训练特征图对应的输出特征图;
根据本次模型训练所使用的训练图像对应的训练特征图的第一标签信息和第三信息确定的第三损失值;
根据第二标签信息所指示的减速带关键点位置在第一坐标轴的坐标值和第四信息所指示的减速带关键点位置在第一坐标轴的坐标值确定的第四损失值;
根据第二标签信息所指示的减速带关键点位置在第二坐标轴的坐标值和第四信息所指示的减速带关键点位置在第二坐标轴的坐标值确定的第五损失值。
示例地,可以将上述第一损失值、第二损失值、第三损失值、第四损失值、第五损失值之和作为用于更新模型的损失值。再例如,还可以为上述每一项损失值分配权重,通过加权求和的方式生成用于更新模型的损失值。
通过这一方式,在模型的训练过程中,从多个角度考虑到了可能导致模型推理性能不佳的因素,并通过不同的角度计算损失值,以用于模型的更新,由此,有利于模型的性能提升,保证关键点识别模型的准确性。
回到图1,在步骤13中,根据特征图,确定减速带上呈线状分布的多个关键点的位置信息。
其中,每一减速带由呈现状分布的多个关键点构成,根据这些关键点的位置信息,再基于一定的位置连接顺序,就可以确定出减速带。
在一种可能的实施方式中,步骤13可以包括以下步骤:
在目标图像对应的第一数量的特征图中,确定第一置信度达到第一阈值、且第二置信度达到第二阈值的目标特征图;
针对每一目标特征图,通过目标通道的坐标值,确定目标特征图中的减速带关键点在目标图像中对应的位置坐标;
对确定出位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定多个关键点的位置信息。
如上文所述,第一置信度表征特征图内是否存在减速带,第二置信度表征第N条减速带是否存在,也就是反映特征图内减速带的数量。从而,第一置信度达到第一阈值、且第二置信度达到第二阈值,说明至少存在一条减速带,因而将这样的特征图提取出来作为目标特征图,用于进一步确定减速带。
至于第一置信度未达到第一阈值的特征图,无论该特征图的第二置信度是否存在达到第二阈值的第二置信度,均说明该特征图内不存在减速带,因此,可以确定这样的特征图内不包含减速带,不必再处理。
针对每一目标特征图,通过目标通道的坐标值,确定目标特征图中的减速带关键点在目标图像中对应的位置坐标。其中,目标通道为与达到第二阈值的第一通道对应的第二通道。也就是说,在特征图存在减速带的情况下,可能存在一条,也可能存在多于一条(这取决于第二数量),因此,可以通过第二置信度确定存在几个减速带关键点,并分别针对每个减速带关键点,分别从对应的第二通道中提取位置信息。
进而,根据确定出位置坐标的减速带关键点,通过聚类处理方法,即可确定出至少一个减速带关键点序列。
在一种可能的实施方式中,可以基于各个减速带关键点的位置进行聚类,以聚类出至少一条减速带对应的减速带关键点序列,以确定多个关键点的位置信息。
在另一种可能的实施方式中,对确定出位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定多个关键点的位置信息,可以包括以下步骤:
针对每一目标特征图,将确定出位置坐标的减速带关键点添加与目标特征图对应的关键点矩阵中,关键点矩阵中包含非空点列,非空点列中包含有确定出位置坐标的减速带关键点;
沿第一坐标轴的方向,在关键点矩阵中确定首个非空点列;
根据首个非空点列所包含的减速带关键点,分别针对每个减速带关键点生成带有该减速带关键点的减速带关键点序列;
沿第一坐标轴的方向,确定下一非空点列,作为目标点列;
分别将目标点列中的每一减速带关键点作为目标关键点,并执行以下步骤:确定目标关键点与目标元素在第二坐标轴方向上的距离,目标元素为已存在的每一减速带关键点序列各自的尾部元素;将确定出的距离中的最小值与预设阈值进行比较;若最小值小于预设阈值,将目标关键点添加到最小值对应的减速带关键点序列的尾部;若最小值大于或等于预设阈值,生成带有目标关键点的减速带关键点序列;
在关键点矩阵中还存在未被作为目标点列的非空点列的情况下,再次执行沿第一坐标轴的方向,确定下一非空点列,作为目标点列的步骤,直至关键点矩阵中不再存在未被作为目标点列的非空点列;
在关键点矩阵中不再存在未被作为目标点列的非空点列的情况下,在已存在的减速带关键点序列中,确定多个关键点的位置信息。
示例地,若目标特征图为多个,可以针对每个目标特征图分别执行上述过程,也就是分别针对每个目标特征图确定减速带上呈线状分布的多个关键点的位置信息,也可以将目标特征图按照各自的相对位置还原到一个大的关键点矩阵中,再执行上述过程,以得到减速带上呈线状分布的多个关键点的位置信息。需要说明的是,后者的关键点矩阵大于前者的关键点矩阵。
示例地,沿第一坐标轴的方向,可以是沿第一坐标轴正向的方向。
对于首个非空点列,根据该非空点列所包含的减速带关键点,分别针对每个减速带关键点生成带有该减速带关键点的减速带关键点序列,也就是初始化多条减速带。进而,在下一个非空点列中,可以通过确定下一个非空点列中每一减速带关键点各自与已生成的减速带关键点序列的尾部元素(也就是减速带关键点序列中的最后的一个减速带关键点)在第二坐标轴方向上的距离,并选取距离中的最小值。计算出该最小值的减速带关键点序列就是本减速带关键点最有可能被添加到的序列,因此,可以将该最小值与预设阈值进行比较,若小于预设阈值,说明本减速带关键点属于计算出该最小值的减速带关键点序列的可能性极高,因此,可以将其添加到减速带关键点序列的尾部,若大于或等于该预设阈值,说明该减速带关键点仍然与已存在的减速带存在一定距离,可能是新的减速带,从而,可以以本减速带为基础初始化一条新的减速带。其中,预设阈值可以根据实际的需求进行设置。
基于上述处理过程,遍历关键点矩阵中的每个点列,即可基于减速带关键点生成一系列减速带关键点队列。
进而,可以在已存在的减速带关键点序列中,确定多个关键点的位置信息。
在一种可能的实施方式中,可以将已存在的减速带关键点序列均确定为减速带上的多个关键点的位置信息。
在另一种可能的实施方式中,在已存在的减速带关键点序列中,确定多个关键点的位置信息,可以包括以下步骤:
确定已存在的每一减速带关键点序列中元素的数量;
将元素的数量达到预设值的减速带关键点序列作为备选序列,并根据备选序列包含的关键点,确定多个关键点的位置信息。
考虑到可能因为光线等原因导致图像中部分区域被误识别为减速带,在确定出上述减速带关键点序列后,还可以确定已存在的每一减速带关键点序列中元素的数量,并将元素数量达到预设值的减速带关键点序列确定为减速带上的多个关键点的位置信息。这样,对于误识别的情况,可以因其在减速带关键点序列中的元素数量未达到预设值而被删除,从而,可以保证减速带确定的准确性。示例地,预设值可以设置为4。
在步骤14中,根据多个关键点的位置信息,确定目标图像中的目标减速带。
根据步骤13确定出的多个关键点的位置信息后,可以对其中的减速带关键点进行连接,以形成表征减速带的线,基于形成的表征减速带的线,可以进一步确定目标图像中的减速带,也就是目标减速带。示例地,由于减速带具有一定的宽度,则在形成的表征减速带的线后,可以以该线为轴线(例如,中轴线),确定具有一定宽度的减速带,以实现对图像中减速带的定位。
通过上述技术方案,获取待处理的目标图像,利用预先生成的关键点识别模型,生成与目标图像对应的特征图,根据特征图,确定减速带上呈线状分布的多个关键点的位置信息,根据多个关键点的位置信息,确定目标图像中的目标减速带。由此,通过特征图可以快速地确定目标图像中减速带的关键点位置,有利于提升确定减速带的速度,并且,通过减速带关键点将减速带简化为线形,进而通过多个减速带关键点确定减速带,通过多个减速带关键点的连接实现对减速带的高精度拟合,简单高效,且能保证准确性。
图4是根据本公开的一种实施方式提供的减速带确定装置的框图。如图4所示,该装置50包括:
第一获取模块51,用于获取待处理的目标图像;
生成模块52,用于利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;
第一确定模块53,用于根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;
第二确定模块54,用于根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。
可选地,所述生成模块52用于将处理图像输入至所述关键点识别模型,得到所述关键点识别模型输出的第一数量的特征图,一个所述特征图对应于所述目标图像中的一个图像区域,且一个所述特征图用于指示该特征图所对应图像区域的特征信息,其中,所述特征信息包括用于指示是否存在减速带关键点的第一信息和用于指示减速带关键点位置的第二信息,所述处理图像为对所述目标图像处理所得到的目标格式的图像。
可选地,所述关键点识别模型通过以下模块生成:
第二获取模块,用于获取训练样本,每一所述训练样本包括训练图像和所述训练图像对应的第一数量的训练特征图,所述训练图像为所述目标格式,一个所述训练特征图对应于所述训练图像中的一个图像区域,且一个所述训练特征图用于指示该特征图对应图像区域的训练特征信息,所述训练特征信息包括用于指示是否存在减速带关键点的第一标签信息和用于指示减速带关键点位置的第二标签信息;
训练模块,用于通过将所述训练图像作为模型的输入,并将所述第一数量的训练特征图作为模型的目标输出的方式进行模型训练,以得到训练完成的所述关键点识别模型。
可选地,所述训练图像通过以下模块得到:
第三获取模块,用于获取初始样本,每一所述初始样本包括初始图像和所述初始图像对应的减速带标记信息,所述减速带标记信息包括至少一个点集,一个所述点集用于指示所述初始图像中的一条减速带;
第一提取模块,用于针对每一所述初始图像,从所述初始图像中提取出至少一个局部图像,其中,每一所述局部图像包含减速带;
第一处理模块,用于针对每一所述局部图像,对所述局部图像进行处理,得到目标格式的所述训练图像。
可选地,所述训练图像对应的第一数量的训练特征图通过以下模块确定:
第二提取模块,用于针对每一所述局部图像,从所述局部图像所在初始图像对应的目标减速带标记信息中,提取与所述局部图像中减速带对应的局部标记信息,所述局部标记信息包括所述目标减速带标记信息中至少一个点集的子集;
第三确定模块,用于针对每一所述局部图像,将所述局部图像划分为第一数量的训练特征图,并根据所述局部图像对应的局部标记信息,确定各个所述训练特征图的第一标签信息和第二标签信息。
可选地,还包括删除模块,用于若所述目标减速带标记信息中点集的数量超过第二数量,对所述目标减速带标记信息中的部分点集进行删除处理,以使减速带标记信息中点集的数量不超过所述第二数量。
可选地,在每一次的模型训练中,模型对输入的训练图像处理得到的输出结果包括第一数量的输出特征图,一个所述输出特征图对应于输入的训练图像中的一个图像区域,且一个所述输出特征图用于指示该输出特征图所对应图像区域的输出特征信息,其中,所述输出特征信息包括用于指示是否存在减速带关键点的第三信息和用于指示减速带关键点位置的第四信息;
在一次模型训练中,通过以下中的至少一者确定用于更新模型的损失值:
根据第一训练特征图和第一特征图确定的第一损失值,所述第一训练特征图为本次模型训练所使用的训练图像对应的训练特征图中存在减速带关键点的训练特征图,所述第一特征图为本次训练的输出结果中与所述第一训练特征图对应的输出特征图;
根据第二训练特征图和第二特征图确定的第二损失值,所述第二训练特征图为本次模型训练所使用的训练图像对应的训练特征图中不存在减速带关键点的训练特征图,所述第二特征图为本次训练的输出结果中与所述第二训练特征图对应的输出特征图;
根据本次模型训练所使用的训练图像对应的训练特征图的第一标签信息和所述第三信息确定的第三损失值;
根据第二标签信息所指示的减速带关键点位置在第一坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第一坐标轴的坐标值确定的第四损失值;
根据第二标签信息所指示的减速带关键点位置在第二坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第二坐标轴的坐标值确定的第五损失值。
可选地,所述处理图像通过以下模块获得:
第二处理模块,用于将所述目标图像转换为灰度图,得到第一中间图像;
第三处理模块,用于对所述第一中间图像进行归一化处理,得到第二中间图像;
第四处理模块,用于根据所述第二中间图像,通过插值处理,生成新图像,并将所述新图像作为所述处理图像。
可选地,所述特征图为多通道图像,所述特征图包括用于存储第一信息的多个第一通道和用于存储第二信息的多个第二通道,所述第一通道的数量为第二数量与1之和,所述第二通道的数量为第二数量的二倍,所述第二数量为所述关键点识别模型通过一个特征图能够识别出的减速带的最大数量;
在所述多个第一通道中,包括对应于表征特征图是否存在减速带关键点的第一置信度的第一通道、以及对应于表征是否存在第N个减速带的第二置信度的第二数量的第一通道;
在所述多个第二通道中,包括对应于表征第N个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第N个减速带在第二坐标轴的坐标值的第二通道;
其中,N包括从1到第二数量的正整数。
可选地,所述第一确定模块53,包括:
第一确定子模块,用于在所述目标图像对应的第一数量的特征图中,确定第一置信度达到第一阈值、且第二置信度达到第二阈值的目标特征图;
第二确定子模块,用于针对每一目标特征图,通过目标通道的坐标值,确定所述目标特征图中的减速带关键点在所述目标图像中对应的位置坐标,其中,所述目标通道为与达到所述第二阈值的第一通道对应的第二通道;
第三确定子模块,用于对确定出所述位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定所述多个关键点的位置信息。
可选地,所述第三确定子模块,包括:
添加子模块,用于针对每一所述目标特征图,将确定出位置坐标的减速带关键点添加与所述目标特征图对应的关键点矩阵中,所述关键点矩阵中包含非空点列,所述非空点列中包含有确定出位置坐标的减速带关键点;
第四确定子模块,用于沿所述第一坐标轴的方向,在所述关键点矩阵中确定首个非空点列;
生成子模块,用于根据首个非空点列所包含的减速带关键点,分别针对每个减速带关键点生成带有该减速带关键点的减速带关键点序列;
第五确定子模块,用于沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列;
第五处理子模块,用于分别将目标点列中的每一减速带关键点作为目标关键点,并执行以下步骤:确定目标关键点与目标元素在所述第二坐标轴方向上的距离,所述目标元素为已存在的每一减速带关键点序列各自的尾部元素;将确定出的距离中的最小值与预设阈值进行比较;若所述最小值小于所述预设阈值,将所述目标关键点添加到所述最小值对应的减速带关键点序列的尾部;若所述最小值大于或等于所述预设阈值,生成带有所述目标关键点的减速带关键点序列;
循环子模块,用于在所述关键点矩阵中还存在未被作为目标点列的非空点列的情况下,再次执行所述沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列的步骤,直至所述关键点矩阵中不再存在未被作为目标点列的非空点列;
第六确定子模块,用于在所述关键点矩阵中不再存在未被作为目标点列的非空点列的情况下,在已存在的减速带关键点序列中,确定所述多个关键点的位置信息。
可选地,所述第六确定子模块,包括:
第七确定子模块,用于确定已存在的每一减速带关键点序列中元素的数量;
第八确定子模块,用于将元素的数量达到预设值的减速带关键点序列作为备选序列,并根据所述备选序列包含的关键点,确定所述多个关键点的位置信息。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开还提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现本公开任意实施例所提供的减速带确定方法的步骤。
本公开还提供一种车辆,包括本公开任意实施例所提供的电子设备。
图5是根据一示例性实施例示出的一种电子设备700的框图。如图5所示,该电子设备700可以包括:处理器701,存储器702。该电子设备700还可以包括多媒体组件703,输入/输出(I/O)接口704,以及通信组件705中的一者或多者。
其中,处理器701用于控制该电子设备700的整体操作,以完成上述的减速带确定方法中的全部或部分步骤。存储器702用于存储各种类型的数据以支持在该电子设备700的操作,这些数据例如可以包括用于在该电子设备700上操作的任何应用程序或方法的指令,以及应用程序相关的数据,例如联系人数据、收发的消息、图片、音频、视频等等。该存储器702可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件703可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器702或通过通信组件705发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口704为处理器701和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件705用于该电子设备700与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near FieldCommunication,简称NFC),2G、3G、4G、NB-IOT、eMTC、或其他5G等等,或它们中的一种或几种的组合,在此不做限定。因此相应的该通信组件705可以包括:Wi-Fi模块,蓝牙模块,NFC模块等等。
在一示例性实施例中,电子设备700可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的减速带确定方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的减速带确定方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器702,上述程序指令可由电子设备700的处理器701执行以完成上述的减速带确定方法。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的减速带确定方法的代码部分。
以上结合附图详细描述了本公开的优选实施方式,但是,本公开并不限于上述实施方式中的具体细节,在本公开的技术构思范围内,可以对本公开的技术方案进行多种简单变型,这些简单变型均属于本公开的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本公开对各种可能的组合方式不再另行说明。
此外,本公开的各种不同的实施方式之间也可以进行任意组合,只要其不违背本公开的思想,其同样应当视为本公开所公开的内容。
Claims (16)
1.一种减速带确定方法,其特征在于,所述方法包括:
获取待处理的目标图像;
利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;
根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;
根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。
2.根据权利要求1所述的方法,其特征在于,所述利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图,包括:
将处理图像输入至所述关键点识别模型,得到所述关键点识别模型输出的第一数量的特征图,一个所述特征图对应于所述目标图像中的一个图像区域,且一个所述特征图用于指示该特征图所对应图像区域的特征信息,其中,所述特征信息包括用于指示是否存在减速带关键点的第一信息和用于指示减速带关键点位置的第二信息,所述处理图像为对所述目标图像处理所得到的目标格式的图像。
3.根据权利要求2所述的方法,其特征在于,所述关键点识别模型通过以下方式生成:
获取训练样本,每一所述训练样本包括训练图像和所述训练图像对应的第一数量的训练特征图,所述训练图像为所述目标格式,一个所述训练特征图对应于所述训练图像中的一个图像区域,且一个所述训练特征图用于指示该特征图对应图像区域的训练特征信息,所述训练特征信息包括用于指示是否存在减速带关键点的第一标签信息和用于指示减速带关键点位置的第二标签信息;
通过将所述训练图像作为模型的输入,并将所述第一数量的训练特征图作为模型的目标输出的方式进行模型训练,以得到训练完成的所述关键点识别模型。
4.根据权利要求3所述的方法,其特征在于,所述训练图像通过以下方式得到:
获取初始样本,每一所述初始样本包括初始图像和所述初始图像对应的减速带标记信息,所述减速带标记信息包括至少一个点集,一个所述点集用于指示所述初始图像中的一条减速带;
针对每一所述初始图像,从所述初始图像中提取出至少一个局部图像,其中,每一所述局部图像包含减速带;
针对每一所述局部图像,对所述局部图像进行处理,得到目标格式的所述训练图像。
5.根据权利要求4所述的方法,其特征在于,所述训练图像对应的第一数量的训练特征图通过以下方式确定:
针对每一所述局部图像,从所述局部图像所在初始图像对应的目标减速带标记信息中,提取与所述局部图像中减速带对应的局部标记信息,所述局部标记信息包括所述目标减速带标记信息中至少一个点集的子集;
针对每一所述局部图像,将所述局部图像划分为第一数量的训练特征图,并根据所述局部图像对应的局部标记信息,确定各个所述训练特征图的第一标签信息和第二标签信息。
6.根据权利要求5所述的方法,其特征在于,若所述目标减速带标记信息中点集的数量超过第二数量,对所述目标减速带标记信息中的部分点集进行删除处理,以使减速带标记信息中点集的数量不超过所述第二数量。
7.根据权利要求3所述的方法,其特征在于,在每一次的模型训练中,模型对输入的训练图像处理得到的输出结果包括第一数量的输出特征图,一个所述输出特征图对应于输入的训练图像中的一个图像区域,且一个所述输出特征图用于指示该输出特征图所对应图像区域的输出特征信息,其中,所述输出特征信息包括用于指示是否存在减速带关键点的第三信息和用于指示减速带关键点位置的第四信息;
在一次模型训练中,通过以下中的至少一者确定用于更新模型的损失值:
根据第一训练特征图和第一特征图确定的第一损失值,所述第一训练特征图为本次模型训练所使用的训练图像对应的训练特征图中存在减速带关键点的训练特征图,所述第一特征图为本次训练的输出结果中与所述第一训练特征图对应的输出特征图;
根据第二训练特征图和第二特征图确定的第二损失值,所述第二训练特征图为本次模型训练所使用的训练图像对应的训练特征图中不存在减速带关键点的训练特征图,所述第二特征图为本次训练的输出结果中与所述第二训练特征图对应的输出特征图;
根据本次模型训练所使用的训练图像对应的训练特征图的第一标签信息和所述第三信息确定的第三损失值;
根据第二标签信息所指示的减速带关键点位置在第一坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第一坐标轴的坐标值确定的第四损失值;
根据第二标签信息所指示的减速带关键点位置在第二坐标轴的坐标值和所述第四信息所指示的减速带关键点位置在所述第二坐标轴的坐标值确定的第五损失值。
8.根据权利要求2所述的方法,其特征在于,所述处理图像通过以下方式获得:
将所述目标图像转换为灰度图,得到第一中间图像;
对所述第一中间图像进行归一化处理,得到第二中间图像;
根据所述第二中间图像,通过插值处理,生成新图像,并将所述新图像作为所述处理图像。
9.根据权利要求2-8中任一项所述的方法,其特征在于,
所述特征图为多通道图像,所述特征图包括用于存储第一信息的多个第一通道和用于存储第二信息的多个第二通道,所述第一通道的数量为第二数量与1之和,所述第二通道的数量为第二数量的二倍,所述第二数量为所述关键点识别模型通过一个特征图能够识别出的减速带的最大数量;
在所述多个第一通道中,包括对应于表征特征图是否存在减速带关键点的第一置信度的第一通道、以及对应于表征是否存在第N个减速带的第二置信度的第二数量的第一通道;
在所述多个第二通道中,包括对应于表征第N个减速带在第一坐标轴的坐标值的第二通道、以及对应于表征第N个减速带在第二坐标轴的坐标值的第二通道;
其中,N包括从1到第二数量的正整数。
10.根据权利要求9所述的方法,其特征在于,所述根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息,包括:
在所述目标图像对应的第一数量的特征图中,确定第一置信度达到第一阈值、且第二置信度达到第二阈值的目标特征图;
针对每一目标特征图,通过目标通道的坐标值,确定所述目标特征图中的减速带关键点在所述目标图像中对应的位置坐标,其中,所述目标通道为与达到所述第二阈值的第一通道对应的第二通道;
对确定出所述位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定所述多个关键点的位置信息。
11.根据权利要求10所述的方法,其特征在于,所述对确定出所述位置坐标的减速带关键点进行聚类处理,以确定出至少一个减速带关键点序列,以确定所述多个关键点的位置信息,包括:
针对每一所述目标特征图,将确定出位置坐标的减速带关键点添加与所述目标特征图对应的关键点矩阵中,所述关键点矩阵中包含非空点列,所述非空点列中包含有确定出位置坐标的减速带关键点;
沿所述第一坐标轴的方向,在所述关键点矩阵中确定首个非空点列;
根据首个非空点列所包含的减速带关键点,分别针对每个减速带关键点生成带有该减速带关键点的减速带关键点序列;
沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列;
分别将目标点列中的每一减速带关键点作为目标关键点,并执行以下步骤:确定目标关键点与目标元素在所述第二坐标轴方向上的距离,所述目标元素为已存在的每一减速带关键点序列各自的尾部元素;将确定出的距离中的最小值与预设阈值进行比较;若所述最小值小于所述预设阈值,将所述目标关键点添加到所述最小值对应的减速带关键点序列的尾部;若所述最小值大于或等于所述预设阈值,生成带有所述目标关键点的减速带关键点序列;
在所述关键点矩阵中还存在未被作为目标点列的非空点列的情况下,再次执行所述沿所述第一坐标轴的方向,确定下一非空点列,作为目标点列的步骤,直至所述关键点矩阵中不再存在未被作为目标点列的非空点列;
在所述关键点矩阵中不再存在未被作为目标点列的非空点列的情况下,在已存在的减速带关键点序列中,确定所述多个关键点的位置信息。
12.根据权利要求11所述的方法,其特征在于,所述在已存在的减速带关键点序列中,确定所述多个关键点的位置信息,包括:
确定已存在的每一减速带关键点序列中元素的数量;
将元素的数量达到预设值的减速带关键点序列作为备选序列,并根据所述备选序列包含的关键点,确定所述多个关键点的位置信息。
13.一种减速带确定装置,其特征在于,所述装置包括:
第一获取模块,用于获取待处理的目标图像;
生成模块,用于利用预先生成的关键点识别模型,生成与所述目标图像对应的特征图;
第一确定模块,用于根据所述特征图,确定减速带上呈线状分布的多个关键点的位置信息;
第二确定模块,用于根据所述多个关键点的位置信息,确定所述目标图像中的目标减速带。
14.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该程序指令被处理器执行时实现权利要求1-12中任一项所述方法的步骤。
15.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现权利要求1-12中任一项所述方法的步骤。
16.一种车辆,其特征在于,包括权利要求15所述的电子设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311268312.6A CN117079242B (zh) | 2023-09-28 | 2023-09-28 | 减速带确定方法、装置、存储介质、电子设备及车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311268312.6A CN117079242B (zh) | 2023-09-28 | 2023-09-28 | 减速带确定方法、装置、存储介质、电子设备及车辆 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117079242A true CN117079242A (zh) | 2023-11-17 |
CN117079242B CN117079242B (zh) | 2024-01-26 |
Family
ID=88715519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311268312.6A Active CN117079242B (zh) | 2023-09-28 | 2023-09-28 | 减速带确定方法、装置、存储介质、电子设备及车辆 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117079242B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117579789A (zh) * | 2024-01-16 | 2024-02-20 | 西昌学院 | 一种基于大数据采集的学校监控*** |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108520251A (zh) * | 2018-04-20 | 2018-09-11 | 北京市商汤科技开发有限公司 | 关键点检测方法及装置、电子设备和存储介质 |
CN110532984A (zh) * | 2019-09-02 | 2019-12-03 | 北京旷视科技有限公司 | 关键点检测方法、手势识别方法、装置及*** |
WO2020134010A1 (zh) * | 2018-12-27 | 2020-07-02 | 北京字节跳动网络技术有限公司 | 对图像关键点提取模型的训练及图像关键点提取 |
CN111738040A (zh) * | 2019-06-25 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 一种减速带识别方法及*** |
US20210241015A1 (en) * | 2020-02-03 | 2021-08-05 | Beijing Sensetime Technology Development Co., Ltd. | Image processing method and apparatus, and storage medium |
CN114119717A (zh) * | 2021-10-22 | 2022-03-01 | 东风柳州汽车有限公司 | 智能识别减速带方法、装置、设备及存储介质 |
CN116385529A (zh) * | 2023-04-14 | 2023-07-04 | 小米汽车科技有限公司 | 确定减速带位置的方法、装置、存储介质以及车辆 |
CN116740382A (zh) * | 2023-05-08 | 2023-09-12 | 禾多科技(北京)有限公司 | 障碍物信息生成方法、装置、电子设备和计算机可读介质 |
-
2023
- 2023-09-28 CN CN202311268312.6A patent/CN117079242B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108520251A (zh) * | 2018-04-20 | 2018-09-11 | 北京市商汤科技开发有限公司 | 关键点检测方法及装置、电子设备和存储介质 |
WO2020134010A1 (zh) * | 2018-12-27 | 2020-07-02 | 北京字节跳动网络技术有限公司 | 对图像关键点提取模型的训练及图像关键点提取 |
CN111738040A (zh) * | 2019-06-25 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 一种减速带识别方法及*** |
CN110532984A (zh) * | 2019-09-02 | 2019-12-03 | 北京旷视科技有限公司 | 关键点检测方法、手势识别方法、装置及*** |
US20210241015A1 (en) * | 2020-02-03 | 2021-08-05 | Beijing Sensetime Technology Development Co., Ltd. | Image processing method and apparatus, and storage medium |
CN114119717A (zh) * | 2021-10-22 | 2022-03-01 | 东风柳州汽车有限公司 | 智能识别减速带方法、装置、设备及存储介质 |
CN116385529A (zh) * | 2023-04-14 | 2023-07-04 | 小米汽车科技有限公司 | 确定减速带位置的方法、装置、存储介质以及车辆 |
CN116740382A (zh) * | 2023-05-08 | 2023-09-12 | 禾多科技(北京)有限公司 | 障碍物信息生成方法、装置、电子设备和计算机可读介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117579789A (zh) * | 2024-01-16 | 2024-02-20 | 西昌学院 | 一种基于大数据采集的学校监控*** |
Also Published As
Publication number | Publication date |
---|---|
CN117079242B (zh) | 2024-01-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111652217B (zh) | 文本检测方法、装置、电子设备及计算机存储介质 | |
CN117079242B (zh) | 减速带确定方法、装置、存储介质、电子设备及车辆 | |
CN111460936A (zh) | 基于U-Net网络的遥感影像建筑物提取方法、***、电子设备 | |
CN111488879B (zh) | 利用双嵌入构成的用于提高分割性能的方法及装置 | |
CN113762209A (zh) | 一种基于yolo的多尺度并行特征融合路标检测方法 | |
CN113780243A (zh) | 行人图像识别模型的训练方法、装置、设备以及存储介质 | |
CN110781948A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN112381057A (zh) | 手写文字识别方法及装置、存储介质、终端 | |
CN112381092B (zh) | 跟踪方法、装置及计算机可读存储介质 | |
CN114913498A (zh) | 一种基于关键点估计的并行多尺度特征聚合车道线检测方法 | |
CN112329761A (zh) | 文本检测方法、装置、设备及存储介质 | |
CN111507337A (zh) | 基于混合神经网络的车牌识别方法 | |
CN111932577A (zh) | 文本检测方法、电子设备及计算机可读介质 | |
CN114037640A (zh) | 图像生成方法及装置 | |
CN112183542A (zh) | 基于文本图像的识别方法、装置、设备和介质 | |
CN110472655B (zh) | 一种用于跨境旅游的标志物机器学习识别***及方法 | |
CN111967449B (zh) | 文本检测方法、电子设备及计算机可读介质 | |
CN111401360B (zh) | 优化车牌检测模型的方法及***、车牌检测方法及*** | |
CN112560856A (zh) | 车牌检测识别方法、装置、设备及存储介质 | |
CN115565148B (zh) | 道路图像的检测方法、装置、存储介质和电子装置 | |
JPS60153574A (ja) | 文字読取方法 | |
CN114943834B (zh) | 一种少标注样本下基于原型队列学习的全场景语义分割方法 | |
CN115424243A (zh) | 基于yolov5-shufflenetv2的车位号码识别方法、设备和介质 | |
CN116071557A (zh) | 一种长尾目标检测方法、计算机可读存储介质及驾驶设备 | |
CN115953744A (zh) | 一种基于深度学习的车辆识别追踪方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |