CN118262099A - 图像遮挡识别方法、装置、设备及介质 - Google Patents
图像遮挡识别方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN118262099A CN118262099A CN202211676469.8A CN202211676469A CN118262099A CN 118262099 A CN118262099 A CN 118262099A CN 202211676469 A CN202211676469 A CN 202211676469A CN 118262099 A CN118262099 A CN 118262099A
- Authority
- CN
- China
- Prior art keywords
- image
- area
- image area
- candidate
- occlusion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 230000003287 optical effect Effects 0.000 claims abstract description 103
- 238000004590 computer program Methods 0.000 claims description 11
- 238000012163 sequencing technique Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000003874 inverse correlation nuclear magnetic resonance spectroscopy Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本公开实施例涉及一种图像遮挡识别方法、装置、设备及介质,其中该方法包括:获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域;识别每个候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域;计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数确定当前图像是否为遮挡图像。在本公开的实施例中,结合光流跟踪图像关键点,基于关键点的光流信息识别遮挡图像,保证了遮挡图像的识别精度,保证了驾驶安全。
Description
技术领域
本公开涉及自动驾驶技术领域,尤其涉及一种图像遮挡识别方法、装置、设备及介质。
背景技术
随着自动驾驶技术的进步,人们对自动驾驶安全的关注度越来越高,在自动驾驶时,基于车载相机拍摄的道路信息图像等来进行有关道路信息的读取,进而,根据信息读取结果来进行自动驾驶处理。
然而,上述依赖于拍摄的道路信息图像等进行自动驾驶的场景中,当拍摄道路信息图像时相机存在遮挡,拍摄出来的道路图像为遮挡图像,则显然会导致识别到的有关道路信息不可靠,从而对自动驾驶的安全带来隐患,因此,亟需一种可以准确识别拍摄的图像是否存在遮挡的方法。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开提供了一种图像遮挡识别方法、装置、设备及介质,结合光流跟踪图像关键点,基于关键点的光流信息识别遮挡图像,保证了遮挡图像的识别精度,保证了驾驶安全。
本公开实施例提供了一种图像遮挡识别方法,所述方法包括:获取相机拍摄的当前图像,并将所述当前图像划分为多个候选图像区域;识别每个所述候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个所述第一图像区域;计算每个所述第一图像区域中包含的候选图像关键点的光流信息,确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数确定所述当前图像是否为遮挡图像。
本公开实施例还提供了一种图像遮挡识别装置,所述装置包括:划分模块,用于获取相机拍摄的当前图像,并将所述当前图像划分为多个候选图像区域;第一获取模块,用于对每个所述候选图像区域进行关键点检测,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个所述第一图像区域;第二获取模块,用于计算每个所述第一图像区域中包含的候选图像关键点的光流信息,确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;遮挡确定模块,用于计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数确定所述当前图像是否为遮挡图像。
本公开实施例还提供了一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现如本公开实施例提供的图像遮挡识别方法。
本公开实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行如本公开实施例提供的图像遮挡识别方法。
本公开实施例还提供了一种车辆,包括上述实施例提到的电子设备和计算机可读存储介质。
本公开实施例提供的技术方案与现有技术相比具有如下优点:
本公开实施例提供的图像识别方案,获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域,识别每个候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域,计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域,进而,计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数确定当前图像是否为遮挡图像。由此,结合光流跟踪图像关键点,基于关键点的光流信息识别遮挡图像,保证了遮挡图像的识别精度,保证了驾驶安全。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例提供的一种图像遮挡识别方法的流程示意图;
图2为本公开实施例提供的一种图像识别场景示意图;
图3A为本公开实施例提供的一种第一图像区域的示意图;
图3B为本公开实施例提供的另一种第一图像区域的示意图;
图4为本公开实施例提供的另一种图像遮挡识别方法的流程示意图;
图5为本公开实施例提供的一种图像遮挡识别装置的结构示意图;
图6为本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
为了解决上述问题,本公开实施例提供了一种图像遮挡识别方法,下面结合具体的实施例对该方法进行介绍。
图1为本公开实施例提供的一种图像遮挡识别方法的流程示意图,该方法可以由图像遮挡识别装置执行,其中该装置可以采用软件和/或硬件实现,一般可集成在电子设备中,该电子设备可以是车载设备等。如图1所示,该方法包括:
步骤101,获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域。
在本公开的一个实施例中,获取相机拍摄的当前图像,比如,获取车载相机拍摄的当前道路图像等,为了识别当前图像是否存在遮挡,在本实施例中,将当前图像划分为多个候选图像区域,以图像区域为粒度进行遮挡识别。
其中,在不同的应用场景中,将当前图像划分为多个候选图像区域的方式不同,在一些可能的实施例中,根据预设的划分尺寸将当前图像划分n*n个均匀的候选图像区域,其中,n为任意大于1的自然数。
其中,在一些可能的实施例中,为了保证当前图像的有效性,还可以判断当前图像对应的车辆状态是否静止,若是静止,则确认当前图像无效,则跳过当前图像不识别,直到获取到下一个有效的当前图像。
在一些可能的实施例中,还可以判断当前图像的亮度信息,在当前图像的亮度信息低于预设亮度阈值时,则认为当前图像无效,则跳过当前图像不识别,直到获取到下一个有效的当前图像。
其中,为了进一步提升遮挡识别效果,在获取到有效的当前图像后,还可以对当前图像进行去噪处理,比如,对当前图像进行高斯滤波等。
步骤102,识别每个候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域。
在本公开的一个实施例中,可以对多个候选区域进行图像关键点的确定,并且在多个候选图像区域中确定至少一个第一图像区域,其中,每个第一图像区域中包含至少一个候选图像关键点。
另外,在不同的应用场景中,识别候选图像区域中的关键点的方式不同,在一些可能的实施例中,根据预设的关键点识别算法,识别每个候选图像区域中的候选图像关键点。
其中,预设的关键点识别算法可以为任意实现关键点识别功能的算法,举例而言,在本实施例中,如图2所示,可以使用一个圆形模板来识别候选图像区域,通过检测模板中的像素与中心位置像素的偏离程度,来判断中心位置像素是否为边缘或角点,如果周边像素与中心位置像素偏差较小,则认为周边像素与中心位置像素相似,中心位置为非边缘;如果周边像素与中心位置偏差较大,则认为中心位置为边缘或角点,其中,本实施例中的边缘或者角点可以看作为本实施例中的候选图像关键点。
在本实例中,可采用如下公式(1)来识别候选图像关键点,其中,在公式(1)中,I(r0)为当前圆形模板中的中心位置的像素,I(r)为周边像素点c为布尔结果,用于表示相似或者是不相似,s表示像素偏差阈值。
进一步地,根据关键点数量在多个候选图像区域中确定至少一个第一图像区域。
在一些可能的实施例中,可统计每个候选图像区域中包含的关键点的数量,确定关键点数量大于预设数量阈值的候选图像区域为第一图像区域,其中,预设数量阈值为0时,则可以将所有的候选图像区域作为第一图像区域,预设数量阈值大于0时,可以将包含关键点数量较多的一些候选图像区域作为第一图像区域,由此,有利用提升图像遮挡识别的效率。
在一些可能的实施例中,为了进一步提升图像遮挡识别的效率,还可以根据关键点数量由高到低的顺序对多个候选图像区域排序,确定排序属于前预设个数的候选图像区域为第一图像区域,由此,在本实施例中,可以筛选出部分候选图像区域作为第一图像区域进行后续遮挡的判断,提升了图像遮挡识别的效率。
步骤103,计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域。
需要说明的是,光流是由于场景中前景物体本身的移动、相机的运动,或者两者的共同运动所产生的。当人的眼睛观察运动物体时,物体的景象在人眼的视网膜上形成一系列连续变化的图像,这一系列连续变化的信息不断“流过”视网膜(即图像平面),好像一种光的“流”,故称之为光流。在本实施例中,光流包含了物体运动的信息,因此,在本实施例中,通过候选关键点的光流信息来确定相机被遮挡的情况,这是因为在车辆行驶等场景中,若是相机没有被遮挡,车载的相机拍摄的前景物体是运动的,则对应的候选图像关键点也必然是运动的,该运动可以通过光流信息反应,反之,若是相机被遮挡,则车载相机拍摄的遮挡区域内的候选图像关键点是没有运动的,也可以通过光流信息反应出来。
在本实施例中,计算每个第一图像区域中包含的候选图像关键点的光流信息,该光流信息可以通过计算每个第一图像区域中包含的候选图像关键点,和第一图像区域相邻的上一帧图像区域中的同一个候选图像关键点的运动矢量场得到,其中,光流信息的计算方式可通过现有技术的算法实现,比如,可以通过Dense Inverse Search-basedmethod光流法、Lucas-Kanade光流法等计算得到,在此不一一列举。
在一些可能的实施例中,可确定每个第一图像区域中包含的候选图像关键点,在第一图像区域中的第一像素亮度信息,获取与当前图像相邻的上一图像,确定每个第一图像区域中包含的候选图像关键点在上一图像的第二像素亮度信息,根据第一像素亮度信息和第二像素亮度信息,确定每个第一图像区域中包含的候选图像关键点的光流信息。比如,可以将第一像素亮度信息和第二像素亮度信息输入预先训练的深度学***方向x方向上的偏导数,以及在竖直方向y上的偏导数,根据两个偏导数获取候选图像关键点的光流信息。
举例而言,当候选图像关键点为a,当前第一图像区域为A,上一帧包含a的第一图像区域为B,当通过Lucas-Kanade光流法计算得到a的光流信息时,可以通过公式(2)来计算光流信息,其中,在公式(2)中,u代表坐标x方向上的矢量,v标识在y方向上的矢量,I'x,I'y分别为a在对应的像素亮度在x方向和y方向的偏导数(可以根据a在A的第一像素亮度信息,以及在B中的第二像素亮度信息,根据第一像素亮度信息和第二像素亮度信息计算a在对应的像素亮度在x方向和y方向的偏导数),即在x方向和y方向上的图像梯度,It'为t时刻a对时间的导数,It'Δt可以看作图A和图B之间a的光流信息(即亮度差)。
进一步地,在计算得到每个第一图像区域中包含的候选图像关键点的光流信息后,正如以上分析的,由于光流信息反映了相机遮挡情况,因此,根据光流信息在至少一个第一图像区域中确定满足预设区域遮挡条件的至少一个第二图像区域。
当然,在计算每个第一图像区域中包含的候选图像关键点的光流信息时,若是当前图像为首帧图像,则由于当前图像没有上一图像,因此,可以针对首帧图像,仅仅识别其中包含的候选图像关键点,记录候选关键点所在的像素亮度信息以及像素位置,以便于作为下一帧图像进行光流信息计算的参考。
步骤104,计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数。
在本公开的一个实施例中,在确定了满足预设区域遮挡条件的至少一个第二图像区域后,根据至少一个第二图像区域对当前图像进行遮挡识别,以根据识别结果确定当前图像是否为遮挡图像。在本实施中,计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数确定当前图像是否为遮挡图像。
需要说明的是,在不同的应用场景中,计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数的方式不同,具体示例如下:
在一些可能的示例中,确定当前图像中的至少一个第二图像区域的区域数量,计算区域数量和所有候选图像区域的区域总量的第一比值作为区域占比参数,在该第一比值大于预设数量比值阈值的情况下,确定当前图像为图遮挡图像,其中,预设比值阈值可根据场景需要预先标定。在本实施例中,为了避免遮挡图像的判断误差,将存在较大比例的第二图像区域时,确定当前图像为遮挡图像。
在一些可能的示例中,确定当前图像中所有第二图像区域的总面积作为遮挡面积,计算遮挡面积和所有候选图像区域的总面积的第二比值,当该第二比值大于预设面积比值阈值的情况下,确定当前图像为遮挡图像。
进一步地,在确定当前图像为遮挡图像以后,为了实现对遮挡的精细化管理,还可以进一步确定当前图像的遮挡等级,比如,在上述根据区域数量和所有候选图像区域的区域总量的比值来确定遮挡图像的实施例中,可在上述根据区域数量和所有候选图像区域的区域总量的比值大于预设比值阈值的情况下,计算该比值和预设比值阈值的差值,根据该差值确定遮挡图像的遮挡等级,其中,可以根据该差值查询预设的对应关系,该预设的对应关系中包含了每个预设遮挡等级和对应的差值范围;还可以在确定当前图像为遮挡图像后,计算第二图像区域占据所有候选图像区域的面积比值,根据面积比值确定对遮挡图像的遮挡等级,其中,可以根据该比值查询预设的对应关系,该预设的对应关系中包含了每个预设遮挡等级和对应的比值范围。
在确定当前图像的遮挡等级后,若是遮挡等级大于预设等级阈值,则可以继续连续检测多帧图像,若是连续多帧图像的遮挡等级均大于预设等级阈值,则发送相机遮挡的提醒消息,以保证安全驾驶。
综上,本公开实施例的图像遮挡识别方法,获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域,识别每个候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域,计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域,进而,计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数确定当前图像是否为遮挡图像。由此,结合光流跟踪图像关键点,基于关键点的光流信息识别遮挡图像,保证了遮挡图像的识别精度,保证了驾驶安全。
下面参考具体实施例来说明如何根据光流信息在至少一个第一图像区域中确定满足预设区域遮挡条件的至少一个第二图像区域:
在本公开的一个实施例中,正如以上分析的,光流信息反映了候选图像关键点的运动情况,从而,该运动情况可以体现对相机的遮挡情况,因此,确定光流信息小于第一预设光流阈值的第一图像区域,为满足预设区域遮挡条件的第二图像区域。
需要强调的是,在本实施例中,可能第一图像区域中包含一个候选图像关键点,也可能包含多个候选图像关键点,如图3A所示,当第一图像区域中包含一个候选图像关键点时,该光流信息指的是该单个候选图像关键点的光流信息,在该单个候选图像关键点的光流信息小于第一预设光流阈值时,认为该第一图像区域为满足预设区域遮挡条件的第二图像区域。
如图3B所示,当第一图像区域中包含多个候选图像关键点时,该光流信息可以为其中任意一个候选图像关键点的光流信息,当其中任意一个候选图像关键点的光流信息小于第一预设光流阈值时,认为该第一图像区域为满足预设区域遮挡条件的第二图像区域;或者是,可以计算所有候选图像关键点的光流信息的均值,当光流信息的均值小于第一预设光流阈值时,认为该第一图像区域为满足预设区域遮挡条件的第二图像区域等。
在本公开的一个实施例中,如图4所示,根据光流信息在至少一个第一图像区域中确定满足预设区域遮挡条件的至少一个第二图像区域,包括:
步骤401,根据光流信息确定每个第一图像区域的当前遮挡参考值。
在本实施例中,以区域为粒度确定第二图像区域。在本实施例中,以遮挡参考值来标记每个第一图像区域,以便于根据累计的标记结果来确定每个第一图像区域是否为满足预设区域遮挡条件的第二图像区域,保证了确定的第二图像区域的精确度。
在本实施例中,根据光流信息确定每个第一图像区域的当前遮挡参考值,在一些可能的实施例中,可在光流信息小于第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第一预设单位值,其中,第一预设单位值用于标记该第一图像区域为初步遮挡图像区域,在光流信息大于等于第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第二预设单位值,其中,第二预设单位值用于标记该第二图像区域不为初步遮挡图像区域,其中,第二预设单位值为第一预设单位值的负数值,其中,第二预设光流阈值可以和上述实施例中提到的第一预设光流阈值相同,也可以不同,根据第二预设光流阈值确定对应的第一图像区域是否为初步遮挡图像区域的方式,可以参照根据第一预设光流阈值确定对应的第一图像区域是否为遮挡图像区域的方式,在不再赘述。其中,第一预设单位值可以为1,第二预设单位值可以为-1等,通过第一预设单位值和第二预设单位值之间的负数关系,可以使得对应的第一图像区域的当前遮挡参考值是否存在初步遮挡情况。
步骤402,获取当前图像之前的至少一帧参考图像,根据至少一帧参考图像确定与每个第一图像区域对应的历史遮挡参考总值。
容易理解的是,即使当前图像的第一图像区域的当前遮挡参考值为第一预设单位值,也仅仅意味着可能是由于偶发性的情况等导致对应第一图像区域的初步遮挡,并不意味着该第一图像区域始终被遮挡。
因此,为了保证确定第一图像区域是否被遮挡的准确性,在本公开的一个实施例中,获取当前图像之前的至少一帧参考图像,根据至少一帧参考图像确定与每个第一图像区域对应的历史遮挡参考总值,其中,至少一帧参考图像可以为当前图像之前的所有图像,也可以为当前图像之前相邻的连续多帧图像等。
在一些可能的实施例中,确定与每个参考图像中与每个第一图像区域对应的参考图像区域,其中,第一图像区域对应的参考图像区域,为对应的参考图像中与第一图像区域属于同一个拍摄区域的图像区域,获取参考图像区域的历史遮挡参考值,对与每个第一图像区域对应的所有历史遮挡参考值求和以获取每个第一图像区域对应的历史遮挡参考总值。
在一些可能的实施例中,可以确定与每个第一图像区域对应的计数器,其中,计数器对至少一帧参考图像中与每个第一图像区域对应的所有参考图像区域的所有历史遮挡参考值之和进行累计计数,其中,第一图像区域对应的参考图像区域,为对应的参考图像中与第一图像区域属于同一个拍摄区域的图像区域,进而,读取计时器的历史累计计数结果以获取与每个所述第一图像区域对应的历史遮挡参考总值。
举例而言,当第一图像区域s8对应的参考图像区域为s1-s7时,其中,s1-s7对应的遮挡参考值分别为1,-1,1,1,1,1,1则对应的历史遮挡参考总值为1+-1+1+1+1+1+1之和为5。
步骤403,计算每个第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值。
其中,在本公开的一个实施例中,在通过计时器对至少一帧参考图像中与每个第一图像区域对应的所有参考图像区域的所有历史遮挡参考值之和进行累计计数时,还根据当前遮挡参考总值更新所述计时器的历史累计计数结果。
步骤404,确定当前遮挡参考总值大于预设遮挡参考阈值的第一图像区域,为满足预设区域遮挡条件的第二图像区域。
在本实施例中,计算每个第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值,进而,确定当前遮挡参考总值大于预设遮挡参考阈值的第一图像区域,为满足预设区域遮挡条件的第二图像区域,其中,预设遮挡参考与之可以根据场景需要标定。即在本实施例中,结合参考图像的初步遮挡判定结果来确定当前图像中的第一图像区域是否为遮挡图像,提升了对遮挡图像的确定精确度。
综上,本公开实施例的图像遮挡识别方法,以区域为粒度进行遮挡图像的识别,提升了遮挡图像识别的精确度。
为了实现上述实施例,本公开还提出了一种图像遮挡识别装置。
图5为本公开实施例提供的一种图像遮挡识别装置的结构示意图,该装置可由软件和/或硬件实现,一般可集成在电子设备中进行图像识别。如图5所示,该装置包括:划分模块510、第一获取模块520、第二获取模块530和遮挡确定模块540,其中,
划分模块510,用于获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域;
第一获取模块520,用于对每个候选图像区域进行关键点检测,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域;
第二获取模块530,用于计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;
遮挡确定模块540,用于计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数确定所述当前图像是否为遮挡图像。
在一些可选的实施例中,第一获取模块520具体用于:
根据预设的关键点识别算法,识别每个候选图像区域中的候选图像关键点,
统计每个候选图像区域中包含的候选关键点的关键点数量;
根据关键点数量在多个候选图像区域中确定至少一个第一图像区域,或,根据所述关键点数量由高到低的顺序对所述多个候选图像区域排序以得到排序结果,确定所述排序结果位于前预设个数的候选图像区域为所述第一图像区域。
在一些可选的实施例中,第二获取模块530具体用于:
确定每个所述第一图像区域中包含的候选图像关键点,在所述第一图像区域中的第一像素亮度信息;
获取与所述当前图像相邻的上一图像,确定每个所述第一图像区域中包含的候选图像关键点在所述上一图像的第二像素亮度信息;
根据所述第一像素亮度信息和所述第二像素亮度信息,确定每个所述第一图像区域中包含的候选图像关键点的光流信息。
在一些可选的实施例中,第二获取模块530,具体用于:
根据所述光流信息确定每个所述第一图像区域的当前遮挡参考值;
获取所述当前图像之前的至少一帧参考图像,根据所述至少一帧参考图像确定与每个所述第一图像区域对应的历史遮挡参考总值;
计算每个所述第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值;
确定所述当前遮挡参考总值大于预设遮挡参考阈值的第一图像区域,为满足所述预设区域遮挡条件的所述第二图像区域。
在一些可选的实施例中,第二获取模块530,具体用于:
在所述光流信息小于第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第一预设单位值;
在所述光流信息大于等于所述第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第二预设单位值,其中,所述第二预设单位值为所述第一预设单位值的负数值。在一些可选的实施例中,遮挡确定模块540,具体用于:
确定与每个所述参考图像中与每个所述第一图像区域对应的参考图像区域;
获取所述参考图像区域的历史遮挡参考值,对与每个所述第一图像区域对应的所有所述历史遮挡参考值求和以获取每个所述第一图像区域对应的历史遮挡参考总值。
在一些可选的实施例中,遮挡确定模块540,具体用于:,确定与每个所述第一图像区域对应的计数器,其中,所述计数器对所述至少一帧参考图像中与每个所述第一图像区域对应的所有参考图像区域的所有历史遮挡参考值之和进行累计计数;
读取所述计时器的历史累计计数结果以获取与每个所述第一图像区域对应的历史遮挡参考总值。
在一些可选的实施例中,还包括:
更新模块,用于在计算每个第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值之后,根据当前遮挡参考总值更新计时器的历史累计计数结果。
在一些可选的实施例中,遮挡确定模块540,具体用于:
确定所述当前图像中的所述至少一个第二图像区域的区域数量;
计算所述区域数量和所述多个候选图像区域的区域总量的第一比值作为所述区域占比参数,
在所述第一比值大于预设数量比值阈值的情况下,确定所述当前图像为遮挡图像;或,
确定所述当前图像中的所述至少一个第二图像区域的遮挡面积,
计算所述遮挡面积和所述多个候选图像区域的总面积的第二比值作为所述区域占比参数,
在所述第二比值大于预设面积比值阈值的情况下,确定所述当前图像为遮挡图像。
本公开实施例所提供的图像遮挡识别装置可执行本公开任意实施例所提供的图像遮挡识别方法,具备执行方法相应的功能模块和有益效果。
为了实现上述实施例,本公开还提出一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现上述实施例中的图像遮挡识别方法。
图6为本公开实施例提供的一种电子设备的结构示意图。
下面具体参考图6,其示出了适于用来实现本公开实施例中的电子设备600的结构示意图。本公开实施例中的电子设备600可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理器(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储器608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储器608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储器608被安装,或者从ROM 602被安装。在该计算机程序被处理器601执行时,执行本公开实施例的图像遮挡识别方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
获取相机拍摄的当前图像,并将当前图像划分为多个候选图像区域,识别每个候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个第一图像区域,计算每个第一图像区域中包含的候选图像关键点的光流信息,确定光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域,进而,计算至少一个第二图像区域相对多个候选图像区域的区域占比参数,并根据区域占比参数确定当前图像是否为遮挡图像。由此,结合光流跟踪图像关键点,基于关键点的光流信息识别遮挡图像,保证了遮挡图像的识别精度,保证了驾驶安全。
电子设备可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本公开实施例还提供了一种车辆,包括上述实施例提到的电子设备和计算机可读存储介质。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (14)
1.一种图像遮挡识别方法,其特征在于,包括以下步骤:
获取相机拍摄的当前图像,并将所述当前图像划分为多个候选图像区域;
识别每个所述候选图像区域中的候选关键点,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个所述第一图像区域;
计算每个所述第一图像区域中包含的候选图像关键点的光流信息,确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;
计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数确定所述当前图像是否为遮挡图像。
2.如权利要求1所述的方法,其特征在于,所述将包含至少一个候选关键点的候选图像区域确定为第一图像区域,包括:
统计每个所述候选图像区域中包含的候选关键点的关键点数量,
确定所述关键点数量大于预设数量阈值的候选图像区域为所述第一图像区域,或,根据所述关键点数量由高到低的顺序对所述多个候选图像区域排序以得到排序结果,确定所述排序结果位于前预设个数的候选图像区域为所述第一图像区域。
3.如权利要求1所述的方法,其特征在于,所述计算每个所述第一图像区域中包含的候选图像关键点的光流信息,包括:
确定每个所述第一图像区域中包含的候选图像关键点,在所述第一图像区域中的第一像素亮度信息;
获取与所述当前图像相邻的上一图像,确定每个所述第一图像区域中包含的候选图像关键点在所述上一图像的第二像素亮度信息;
根据所述第一像素亮度信息和所述第二像素亮度信息,确定每个所述第一图像区域中包含的候选图像关键点的光流信息。
4.如权利要求1所述的方法,其特征在于,所述确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,包括:
确定所述光流信息小于第一预设光流阈值的第一图像区域,为满足所述预设区域遮挡条件的所述第二图像区域。
5.如权利要求1所述的方法,其特征在于,所述确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,包括:
根据所述光流信息确定每个所述第一图像区域的当前遮挡参考值;
获取所述当前图像之前的至少一帧参考图像,根据所述至少一帧参考图像确定与每个所述第一图像区域对应的历史遮挡参考总值;
计算每个所述第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值;
确定所述当前遮挡参考总值大于预设遮挡参考阈值的第一图像区域,为满足所述预设区域遮挡条件的所述第二图像区域。
6.如权利要求5所述的方法,其特征在于,所述根据所述光流信息确定每个所述第一图像区域的当前遮挡参考值,包括:
在所述光流信息小于第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第一预设单位值;
在所述光流信息大于等于所述第二预设光流阈值的情况下,确定对应的第一图像区域的当前遮挡参考值为第二预设单位值,其中,所述第二预设单位值为所述第一预设单位值的负数值。
7.如权利要求5或6所述的方法,其特征在于,所述根据所述至少一帧参考图像确定与每个所述第一图像区域对应的历史遮挡参考总值,包括:
确定与每个所述参考图像中与每个所述第一图像区域对应的参考图像区域;
获取所述参考图像区域的历史遮挡参考值,对与每个所述第一图像区域对应的所有所述历史遮挡参考值求和以获取每个所述第一图像区域对应的历史遮挡参考总值。
8.如权利要求5或6所述的方法,其特征在于,所述根据所述至少一帧参考图像确定与每个所述第一图像区域对应的历史遮挡参考总值,包括:
确定与每个所述第一图像区域对应的计数器,其中,所述计数器对所述至少一帧参考图像中与每个所述第一图像区域对应的所有参考图像区域的所有历史遮挡参考值之和进行累计计数;
读取所述计时器的历史累计计数结果以获取与每个所述第一图像区域对应的历史遮挡参考总值。
9.如权利要求8所述的方法,其特征在于,在所述计算每个所述第一图像区域的当前遮挡参考值和对应的历史遮挡参考总值之和以获取当前遮挡参考总值之后,还包括:
根据所述当前遮挡参考总值更新所述计时器的历史累计计数结果。
10.如权利要求1所述的方法,其特征在于,所述计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数,包括:确定所述当前图像中的所述至少一个第二图像区域的区域数量,
计算所述区域数量和所述多个候选图像区域的区域总量的第一比值作为所述区域占比参数,
在所述第一比值大于预设数量比值阈值的情况下,确定所述当前图像为遮挡图像;或,
确定所述当前图像中的所述至少一个第二图像区域的遮挡面积,
计算所述遮挡面积和所述多个候选图像区域的总面积的第二比值作为所述区域占比参数,
在所述第二比值大于预设面积比值阈值的情况下,确定所述当前图像为遮挡图像。
11.一种图像遮挡识别装置,其特征在于,包括:
划分模块,用于获取相机拍摄的当前图像,并将所述当前图像划分为多个候选图像区域;
第一获取模块,用于对每个所述候选图像区域进行关键点检测,将包含至少一个候选关键点的候选图像区域确定为第一图像区域,以获取至少一个所述第一图像区域;
第二获取模块,用于计算每个所述第一图像区域中包含的候选图像关键点的光流信息,确定所述光流信息满足预设区域遮挡条件的第一图像区域为第二图像区域,以获取至少一个第二图像区域;
遮挡确定模块,用于计算所述至少一个第二图像区域相对所述多个候选图像区域的区域占比参数,并根据所述区域占比参数确定所述当前图像是否为遮挡图像。
12.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述可执行指令以实现上述权利要求1-10中任一所述的图像遮挡识别方法。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-10中任一所述的图像遮挡识别方法。
14.一种车辆,其特征在于,所述车辆包括:
如权利要求12所述的电子设备;
如权利要求13所述的计算机可读存储介质。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211676469.8A CN118262099A (zh) | 2022-12-26 | 2022-12-26 | 图像遮挡识别方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211676469.8A CN118262099A (zh) | 2022-12-26 | 2022-12-26 | 图像遮挡识别方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118262099A true CN118262099A (zh) | 2024-06-28 |
Family
ID=91609875
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211676469.8A Pending CN118262099A (zh) | 2022-12-26 | 2022-12-26 | 图像遮挡识别方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118262099A (zh) |
-
2022
- 2022-12-26 CN CN202211676469.8A patent/CN118262099A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6893564B2 (ja) | ターゲット識別方法、装置、記憶媒体および電子機器 | |
CN112101305B (zh) | 多路图像处理方法、装置及电子设备 | |
CN109711241B (zh) | 物体检测方法、装置与电子设备 | |
CN111222509B (zh) | 目标检测方法、装置及电子设备 | |
CN115409881A (zh) | 图像处理方法、装置及设备 | |
CN110852258A (zh) | 物体检测方法、装置、设备及存储介质 | |
CN109102026A (zh) | 一种车辆图像检测方法、装置及*** | |
CN110740315B (zh) | 摄像头矫正方法、装置、电子设备及存储介质 | |
CN113610034B (zh) | 识别视频中人物实体的方法、装置、存储介质及电子设备 | |
CN110866524A (zh) | 车牌检测方法、装置、设备及存储介质 | |
CN112258647B (zh) | 地图重建方法及装置、计算机可读介质和电子设备 | |
CN110321854B (zh) | 用于检测目标对象的方法和装置 | |
CN115086538B (zh) | 一种拍摄位置确定方法、装置、设备及介质 | |
CN113077396B (zh) | 直线段检测方法及装置、计算机可读介质和电子设备 | |
CN118262099A (zh) | 图像遮挡识别方法、装置、设备及介质 | |
CN115086541B (zh) | 一种拍摄位置确定方法、装置、设备及介质 | |
CN110348374B (zh) | 车辆检测方法、装置、电子设备及存储介质 | |
CN118262100A (zh) | 相机遮挡识别方法、装置、设备及介质 | |
CN110796144B (zh) | 车牌检测方法、装置、设备及存储介质 | |
CN112037280A (zh) | 物体距离测量方法及装置 | |
CN111383337A (zh) | 用于识别对象的方法和装置 | |
JP4818430B2 (ja) | 移動物体認識方法及び装置 | |
CN117437288B (zh) | 摄影测量方法、装置、设备及存储介质 | |
CN117037502B (zh) | 车辆处理信息生成方法、装置、设备和计算机可读介质 | |
CN110660134B (zh) | 三维地图构建方法、三维地图构建装置及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination |