CN117036403A - 图像处理方法、装置、电子设备和存储介质 - Google Patents
图像处理方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN117036403A CN117036403A CN202310988515.6A CN202310988515A CN117036403A CN 117036403 A CN117036403 A CN 117036403A CN 202310988515 A CN202310988515 A CN 202310988515A CN 117036403 A CN117036403 A CN 117036403A
- Authority
- CN
- China
- Prior art keywords
- image
- feature
- vehicle
- characteristic
- points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 55
- 230000009466 transformation Effects 0.000 claims abstract description 44
- 239000011159 matrix material Substances 0.000 claims abstract description 35
- 238000000034 method Methods 0.000 claims abstract description 33
- 230000008447 perception Effects 0.000 claims description 40
- 238000013528 artificial neural network Methods 0.000 claims description 25
- 238000000605 extraction Methods 0.000 claims description 17
- 125000004122 cyclic group Chemical group 0.000 claims description 16
- 238000013507 mapping Methods 0.000 claims description 13
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 10
- 230000003068 static effect Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 230000007613 environmental effect Effects 0.000 description 8
- 230000006399 behavior Effects 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 240000004050 Pentaglottis sempervirens Species 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 241001300198 Caperonia palustris Species 0.000 description 1
- 235000000384 Veronica chamaedrys Nutrition 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000802 evaporation-induced self-assembly Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本申请实施例提供了一种图像处理方法、装置、电子设备和存储介质,该方法通过获取第一特征图像、第二特征图像和车辆的移动数据,第一特征图像为第二特征图像的前一帧,车辆的移动数据为从第一时刻至第二时刻的移动数据;根据车辆的移动数据,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵;针对第一特征图像中多个特征点中的每个特征点,根据特征点在第一特征图像中的第一位置和变换矩阵,确定特征点在第二特征图像中的第二位置,得到多个第二位置,第一位置和第二位置均为特征点相对于车辆的位置;根据多个第二位置,对第二特征图像进行修正,得到目标图像。这样,可以提升得到的车辆周围环境图像的鲁棒性。
Description
技术领域
本申请涉及车载图像技术领域,尤其涉及一种图像处理方法、装置、电子设备和存储介质。
背景技术
车辆身周围能覆盖该车辆周边视场范围内可以安装多个摄像头,通过多个摄像头实时采集的图像可以对车辆周围的场景进行重建,使得驾驶员能够了解车辆周围的情况。
一些实现中,通过静态感知模型对车辆上安装的多个摄像头在当前时刻采集的图像进行处理,得到当前时刻车辆周围的场景图像,静态感知模型是基于深度学习网络构建的。将该环境图像进行显示,或者,基于该环境图像进行目标处理。
然而,上述实现中得到的车辆周围的环境图像的鲁棒性较差。
发明内容
本申请实施例提供了一种图像处理方法、装置、电子设备和存储介质,可以提升得到车辆周围环境图像的鲁棒性。
第一方面,本申请实施例提供了一种图像处理方法,所述图像处理方法包括:
获取第一特征图像、第二特征图像和车辆的移动数据,所述第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,所述第二特征图像对第二时刻采集到的图像进行特征处理得到的,且所述第一特征图像为所述第二特征图像的前一帧,车辆的移动数据为从所述第一时刻至所述第二时刻的移动数据;
根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,所述第一位置和所述第二位置均为所述特征点相对于所述车辆的位置;
根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像。
一种可能的实现方式中,所述车辆的移动数据包括所述第一时刻所述车辆在世界坐标系下的第一坐标,和,所述第二时刻所述车辆在世界坐标系下的第二坐标;
所述根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵,包括:
根据公式确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
其中,表示所述变换矩阵,/>表示所述第一坐标,/>表示所述第二坐标。
一种可能的实现方式中,所述第一位置包括在所述第一特征图像中,所述特征点相对于车辆的第三坐标,所述第二位置包括在所述第二特征图像中,所述特征点相对于车辆的第四坐标;
所述针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,包括:
针对所述第一特征图像中多个特征点中的每个特征点,根据公式确定所述特征点在所述第二特征图像中的第四坐标,得到多个第四坐标;
其中,egot0表示所述第三坐标,egot1表示所述第四坐标。
一种可能的实现方式中,所述根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像,包括:
根据所述多个第四坐标,将所述多个特征点映射到所述第二特征图像中,得到目标图像。
一种可能的实现方式中,所述根据所述多个第二位置,将所述多个特征点映射到所述第二特征图像中,得到目标图像,包括:
根据所述多个第四坐标,在所述多个特征点确定目标特征点,所述目标特征点为所述第二时刻所述车辆周围环境对应的特征点;
将所述第二特征图像中目标位置处的特征点替换为所述目标特征点,得到目标图像,所述目标位置为所述目标特征点在所述第二特征图像中的位置。
一种可能的实现方式中,所述时序感知模型中包括空间循环神经网络,所述得到目标图像,包括:
将修正后的第二特征图像、所述第一特征图像和所述第一特征图像之前的至少一帧特征图像输入至所述空间循环神经网络;
所述空间循环神经网络根据所述第一特征图像和所述第一特征图像之前的至少一帧特征图像,对所述修正后的第二特征图像进行特征提取,得到特征提取之后的特征图像对应的目标图像。
一种可能的实现方式中,所述方法还包括:
获取多张图像,所述多张图像为安装在车辆周围能覆盖所述车辆周边视场范围的多个摄像头采集的;
对所述多张图像中的每张图像进行特征点提取,得到所述图像对应的特征点;
根据所述特征点的深度和所述特征点所属的摄像头的位姿,将所述特征点由二维空间映射到三维空间中,得到鸟瞰视图视角下的第二特征图像。
第二方面,本申请实施例提供了一种图像处理装置,所述图像处理装置包括:
获取模块,用于获取第一特征图像、第二特征图像和车辆的移动数据,所述第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,所述第二特征图像对第二时刻采集到的图像进行特征处理得到的,且所述第一特征图像为所述第二特征图像的前一帧,车辆的移动数据为从所述第一时刻至所述第二时刻的移动数据;
处理模块,用于根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
处理模块,还用于针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,所述第一位置和所述第二位置均为所述特征点相对于所述车辆的位置;
修正模块,用于根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像。
一种可能的实现方式中,所述车辆的移动数据包括所述第一时刻所述车辆在世界坐标系下的第一坐标,和,所述第二时刻所述车辆在世界坐标系下的第二坐标;
所述处理模块,具体用于根据公式确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
其中,表示所述变换矩阵,/>表示所述第一坐标,/>表示所述第二坐标。
一种可能的实现方式中,所述第一位置包括在所述第一特征图像中,所述特征点相对于车辆的第三坐标,所述第二位置包括在所述第二特征图像中,所述特征点相对于车辆的第四坐标。
所述处理模块,具体用于针对所述第一特征图像中多个特征点中的每个特征点,根据公式确定所述特征点在所述第二特征图像中的第四坐标,得到多个第四坐标;
其中,egot0表示所述第三坐标,egot1表示所述第四坐标。
一种可能的实现方式中,所述修正模块,具体用于根据所述多个第四坐标,将所述多个特征点映射到所述第二特征图像中,得到目标图像。
一种可能的实现方式中,所述修正模块,具体用于根据所述多个第四坐标,在所述多个特征点确定目标特征点,所述目标特征点为所述第二时刻所述车辆周围环境对应的特征点;将所述第二特征图像中目标位置处的特征点替换为所述目标特征点,得到目标图像,所述目标位置为所述目标特征点在所述第二特征图像中的位置。
一种可能的实现方式中,所述时序感知模型中包括空间循环神经网络,所述处理模块,还用于将修正后的第二特征图像、所述第一特征图像和所述第一特征图像之前的至少一帧特征图像输入至所述空间循环神经网络;所述空间循环神经网络根据所述第一特征图像和所述第一特征图像之前的至少一帧特征图像,对所述修正后的第二特征图像进行特征提取,得到特征提取之后的特征图像对应的目标图像。
一种可能的实现方式中,所述获取模块,还用于获取多张图像,所述多张图像为安装在车辆周围能覆盖所述车辆周边视场范围的多个摄像头采集的。所述处理模块,还用于对所述多张图像中的每张图像进行特征点提取,得到所述图像对应的特征点;根据所述特征点的深度和所述特征点所属的摄像头的位姿,将所述特征点由二维空间映射到三维空间中,得到鸟瞰视图视角下的第二特征图像。
第三方面,本申请实施例还提供了一种电子设备,该电子设备包括:处理器,以及与所述处理器通信连接的存储器;
所述存储器存储计算机执行指令;
所述处理器执行所述存储器存储的计算机执行指令,以实现上述第一方面任一种可能的实现方式中所述的方法。
第四方面,本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现上述第一方面任一种可能的实现方式中所述的方法。
第五方面,本申请实施例还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时,实现上述第一方面任一种可能的实现方式中所述的方法。
由此可见,本申请实施例提供了一种图像处理方法、装置、电子设备和存储介质,该图像处理方法通过获取第一特征图像、第二特征图像和车辆的移动数据,第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,第二特征图像对第二时刻采集到的图像进行特征处理得到的,且第一特征图像为第二特征图像的前一帧,车辆的移动数据为从第一时刻至第二时刻的移动数据;根据车辆的移动数据,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵;针对第一特征图像中多个特征点中的每个特征点,根据特征点在第一特征图像中的第一位置和变换矩阵,确定特征点在第二特征图像中的第二位置,得到多个第二位置,第一位置和第二位置均为特征点相对于车辆的位置;根据多个第二位置,对第二特征图像进行修正,得到目标图像。这样,通过相邻两帧特征图像中特征点的变换矩阵和特征点在前一帧特征图像中的位置,确定特征点在后一帧特征图像中的位置,并通过确定的特征点在后一帧特征图像中的位置对后一帧特征图像进行修正。使得后一帧特征图像中特征点的位置的准确度更高,提升得到的车辆周围环境图像的鲁棒性。
附图说明
图1为本申请实施例提供的现有技术中车辆周围环境图像的示意图;
图2为本申请实施例提供的一种通过时序感知模型进行图像处理的方法流程示意图;
图3为本申请实施例提供的一种图像处理方法的流程示意图;
图4为本申请实施例提供的一种车辆周围环境图像的示意图;
图5为本申请实施例提供的另一种图像处理方法的流程示意图;
图6为本申请实施例提供的一种图像处理装置的结构示意图;
图7为本申请提供的一种电子设备结构示意图。
通过上述附图,已示出本公开明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本申请的实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,其中A,B可以是单数或者复数。在本申请的文字描述中,字符“/”一般表示前后关联对象是一种“或”的关系。
随着深度学习的兴起和电子设备计算能力的增强,基于深度神经网络的感知模型取得了显著的进展。感知模型可以对环境特征进行深层次的表示和抽取,具备较强的表达能力和适应性。
一些实现中,通过静态的感知模型对车辆周围的场景进行重建。具体的,安装在车辆上的多个摄像头可以实时采集图像,车辆上的电子设备可以获取摄像头采集到的多张图像,并将多张图像输入到静态感知模型中,利用静态感知模型对多张图像进行处理,得到一帧车辆周围的场景的图像,并可以将达到的图像显示在车辆的屏幕上,以使用户能够及时理解车辆周围的环境情况。
上述实现中,然而,车辆周围可能出现较为复杂的场景,例如,当车辆A的右侧有车辆B时,若车辆A的右侧与车辆B之间,有车辆C行驶过,则车辆C对车辆B造成遮挡,车辆A上安装的摄像头采集的图像中不存在车辆B,使用上述实现的静态感知模型得到的图像中不存在车辆B。如图1所示的场景。图1为本申请实施例提供的现有技术中得到的车辆周围环境图像的示意图。
在图1中,车辆A为自车。图1中的a为在时刻1,基于安装在车辆A上的摄像头采集的图像得到的车辆周围环境图像的示意图。图1中的b为在时刻2,基于安装在车辆A上的摄像头采集的图像得到的车辆周围环境图像的示意图。
如图1所示,在时刻1时,车辆A采集的图像中包括车辆B,即车辆B未被遮挡,而在时刻2时,车辆C行驶入车辆A和车辆B之间,针对于车辆A,车辆C对车辆B造成遮挡,因此,通过上述实现所述的方法,可以得到如图1中的b所示的图像,得到的图像的准确性和鲁棒性较差。
或者,车辆周围也能会由于车辆的实行速度较快而存在车辆周围环境快速变化的情况,由于静态感知模型是根据当前的多张图像生成一帧特征图像的,当车辆周围环境快速变化时,使用静态感知模型得到的图像中可能存在图像内容模糊或者出现重影等情况。因此,上述实现中,对车辆周围的场景进行重建的方法,得到的车辆周围的环境图像的鲁棒性较差。
基于此,本申请实施例提供了一种图像处理方法,考虑到感知模型得到的相邻两帧特征图像中,相邻两帧特征图像之间环境场景的变化是由于车辆移动引起的。因此,本申请实施例对车辆周围的场景进行重建可以通过时序感知模型实现,时序感知模型可以根据相邻两帧特征图像之间车辆移动的情况,确定相邻两帧特征图像中特征点的变换矩阵。这样,可以根据该变换矩阵将相邻两帧特征图像中前一帧特征图像的特征映射到后一帧特征图像中,使得相邻两帧特征图像具有时间相关性,可以提升得到的车辆周围的环境图像的鲁棒性。
本申请实施例提供的图像处理方法可以通过时序感知模型实现,时序感知模型可以是运行在车辆的电子设备中。车辆中的电子设备通过时序感知模型进行图像处理的流程可参见图2所示。图2为本申请实施例提供的一种通过时序感知模型进行图像处理的方法流程示意图。
如图2所示,电子设备可以将车辆上安装的多个摄像头采集的多张图像输入至时序感知模型中,时序感知模型可以对多张图像进行处理。时序感知模型可以对多张图像进行合成以及特征提取处理,得到多张图像对应的特征图像。进一步的,时序感知模型可以通过前一帧场景重建图像对该特征图像进行修正,得到该特征图像对应的场景重建图像,并输出场景重建图像。
示例性的,时序感知模型可以通过前一帧场景重建图像对该特征图像进行修正,可以将前一帧特征图像中的特征映射到当前帧的特征图像中,例如,将前一帧特征图像中物体A对应的特征映射到当前帧的特征图像中,物体A可以为在当前帧的图像中被另一个物体遮挡全部或部分,而在前一帧特征图像中未被遮挡的物体。
需要说明的是,车辆上安装的多个摄像头能覆盖车辆周边视场范围,这样,可以得到车辆周围360°的场景图像。
下面,将通过具体的实施例对本申请提供的图像处理方法进行详细地说明。可以理解的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
图3为本申请实施例提供的一种图像处理方法的流程示意图。该图像处理方法可以由软件和/或硬件装置执行,例如,该硬件装置可以为图像处理装置,该图像处理装置可以为电子设备或者电子设备中的处理芯片。示例的,请参见图3所示,该图像处理方法可以包括:
S301、获取第一特征图像、第二特征图像和车辆的移动数据。
其中,第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,第二特征图像对第二时刻采集到的图像进行特征处理得到的,且第一特征图像为第二特征图像的前一帧,车辆的移动数据为从第一时刻至第二时刻的移动数据。
时序感知模型可以是由至少一个深度学习神经网络形成的,时序感知模型可以对输入的图像进行处理,使得输出的多帧特征图像之间是根据时间进行排列的,本申请实施例对于时序感知模型不做具体限定。
第一特征图像和第二特征图像中均可以包括多个特征点,多个特征点是通过时序感知模型进行体征提取得到的高级语义特征,与车辆周围的环境相关,本申请实施例对于特征点不做具体限定。
示例性的,第一特征图像和第二特征图像可以是根据摄像头采集的图像得到的鸟瞰视图(Bird Eye View,简称BEV)。
车辆的移动数据可以包括车辆的移动方向和位移的数据,例如,车辆的移动数据可以为车辆从第一时刻至第二时刻直行5米,或者,车辆从第一时刻至第二时刻向右转60°等,本申请实施例对于车辆的移动数据不做限定。
示例性的,车辆的移动数据可以是根据第一时刻车辆的位置和第二时刻车辆的位置得到,不同时刻车辆的位置可以是通过全球定位***(Global Positioning System,简称GPS)获取到的。车辆的移动数据也可以是通过获取车辆内的传感器等设备的数据得到的,例如,里程计、转向计等。本申请实施例对于车辆的移动数据的获取不做限定。
S302、根据车辆的移动数据,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵。
一种可能的实现中,车辆的移动数据可以包括第一时刻车辆在里程计坐标系(ODOM坐标系)下的坐标,和第二时刻车辆在ODOM坐标系下的坐标。
另一种可能的实现中,车辆的移动数据可以包括第一时刻车辆在世界坐标系下的第一坐标,和,第二时刻车辆在世界坐标系下的第二坐标。
示例性的,根据车辆的移动数据,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵时,可以根据公式,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵;
其中,表示变换矩阵,表示第一坐标,表示第二坐标。
由于不同时刻的特征图像会随着车辆的移动而发生变化,车辆的移动可以包括车辆的旋转角度和位移。这样,通过计算相邻两个时刻之间车辆的坐标对应的变换矩阵,可以得到相邻两帧特征图像中的前一帧特征图像和后一帧特征图像之间的特征点的坐标的变换情况,以便于后续将前一帧特征图像中的特征点映射到后一帧特征图像中,使得后一帧特征图像中的特征点的位置的准确度更高,可以提升得到的车辆周围环境图像的鲁棒性。
得到第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵之后,可以执行下述步骤S303:
S303、针对第一特征图像中多个特征点中的每个特征点,根据特征点在第一特征图像中的第一位置和变换矩阵,确定特征点在第二特征图像中的第二位置,得到多个第二位置,第一位置和第二位置均为特征点相对于车辆的位置。
在本申请实施例中,特征点在特征图像中的位置可以通过特征点在特征图像中的坐标表示。特征点在第一特征图像中的第一位置可以包括在第一特征图像中,特征点相对于车辆的第三坐标。特征点在第二特征图像中的第二位置可以包括在第二特征图像中,特征点相对于车辆的第四坐标。
示例性的,第三坐标和第四坐标是特征点在图像坐标系中相对于车辆的坐标,可以为特征点在世界坐标系中相对于车辆的坐标,本申请实施例对于第三坐标和第四坐标不做具体限定。
示例性的,针对第一特征图像中多个特征点中的每个特征点,根据特征点在第一特征图像中的第一位置和变换矩阵,确定特征点在第二特征图像中的第二位置时,可以根据公式,确定特征点在第二特征图像中的第四坐标。通过确定每个特征点在第二特征图像中的第四坐标,可以得到多个第四坐标;
其中,表示第三坐标,表示第四坐标。
由于图像中的物体,例如路边的树、其他车辆等物体,可以通过特征点表示,且随着车辆的移动,同一特征点在相邻两帧静态图像中后一帧特征图像中的位置可能存在偏差。这样,通过确定相邻两帧特征图像中的前一帧特征图像中的特征点在后一帧特征图像中对应的位置,以便于依据确定的位置对后一帧特征图像中该特征点的位置进行修正。
S304、根据多个第二位置,对第二特征图像进行修正,得到目标图像。
目标图像可以是修正后的第二特征图像对应的图像,可以是车辆周围环境的鸟瞰图。本申请实施例对此不做限定。
示例性的,根据多个第二位置,对第二特征图像进行修正时,可以对同时处于第一特征图像和第二特征图像中的特征点进行位置修正,和/或,对第一特征图像中未被其他物体遮挡,而在第二特征图像中被其他物体遮挡的物体的特征点进行位置修正。
这样,通过将第一特征图像中的特征点映射到第二特征图像中,即可以将第一特征图像中的物体映射到第二特征图像中,使得特征点对应的物体在第二特征图像中的坐标的准确度更高,可以提升时序感知模型得到的图像的准确度和鲁棒性。
由此可见,本申请实施例提供的图像处理方法,通过相邻两帧特征图像中特征点的变换矩阵和特征点在前一帧特征图像中的位置,确定特征点在后一帧特征图像中的位置,以便于根据该位置对后一帧特征图像进行修正。这样,可以对同时处于相邻两帧特征图像中的特征点在后一帧特征图像中的位置进行修正,使得该特征点在后一帧特征图像中的位置更加符合实际情况,准确度更高。并且对于在后一帧特征图像中被遮挡的可以根据该变换矩阵将相邻两帧特征图像中前一帧特征图像的特征映射到后一帧特征图像中,使得相邻特征两帧特征图像具有时间相关性,可以提升得到的车辆周围的环境图像的鲁棒性。实现了对车辆、行人和障碍物的动静态判断、轨迹预测、动态行为分析和交互判断等。
在本申请实施例中,对于上述步骤S304中,根据多个第二位置,对第二特征图像进行修正,得到目标图像时,可以根据多个第四坐标,将多个特征点映射到第二特征图像中,得到目标图像。
由于特征点可以是用于表示车辆周围的物体的,因此,特征点的坐标可以为车辆周围的物体的坐标。这样,根据相邻两帧特征图像中的前一帧特征图像中的多个特征点在后一帧特征图像中的第四坐标,将前一帧特征图像中的多个特征点映射到后一帧特征图像中。使得相邻两张特征图像之间具有时间关联性,可以提升后一帧特征图像中特征点的位置的准确度,提升得到的车辆周围环境图像的鲁棒性。
由于随着车辆的移动,可能存在车辆周围的物体的全部出现在相邻两张特征图像中的前一帧特征图像中,而后一帧特征图像中仅包括该物体的部分的情况,或者物体进存在于相邻两张特征图像中的一张特征图像中的情况。因此,本申请实施例中在进行特征点映射时,可以将存在于相邻两张特征图像中的后一帧特征图像中特征点从前一帧特征图像中映射到后一帧特征图像中。
示例性的,根据多个第二位置,将多个特征点映射到第二特征图像中,得到目标图像时,可以根据多个第四坐标,在多个特征点确定目标特征点;将第二特征图像中目标位置处的特征点替换为目标特征点,得到目标图像,目标位置为目标特征点在第二特征图像中的位置。其中,目标特征点为第二时刻车辆周围环境对应的特征点。
第二时刻车辆周围环境对应的特征点包括第二时刻车辆上的摄像头能够采集到图像中物体对应的特征点,以及车辆周围被其他物体遮挡的物体对应的特征点,例如,上述图1中的场景中被车辆C遮挡的车辆B对应的特征点。本申请实施例对此不做限定。
例如,物体A存在于第一特征图像和第二特征图像中,且物体A在第一特征图像中相对应车辆的位置和在第二特征图像中相对应车辆的位置不同。可以通过确定物体A对应的特征点在第二特征图像的坐标,将第一特征图像中的物体A对应的特征点的信息映射到第二特征图像对应的位置。
这样,通过将前一帧特征图像中的特征点映射到后一帧特征图像中,使得前后两帧特征图像之间具有时间相关性,使得特征图像中的特征点的位置更接近实际位置,可以提升得到的车辆周围环境的目标图像的鲁棒性和稳定性。
结合上述实施例所示,当存在如上述图1所示的场景时,通过本申请实施例提供的图像处理方法可以改善物体被遮挡的情况。图4为本申请实施例提供的一种车辆周围环境图像的示意图。
图4中的a与图1中的a相同,为在时刻1,基于安装在车辆A上的摄像头采集的图像得到的车辆周围环境图像的示意图。图4中的b为通过本申请实施例的方法得到的,在时刻2,基于安装在车辆A上的摄像头采集的图像得到的车辆周围环境图像的示意图。
如图4所示,在时刻1时,车辆A采集的图像中包括车辆B,即车辆B未被遮挡,而在时刻2时,车辆C行驶入车辆A和车辆B之间,针对于车辆A,车辆C对车辆B造成遮挡。通过本申请实施例提供的方法,针对时刻2对应的图像,可以将时刻1对应的图像中的关于车辆B的特征点映射到相应的位置,使得在得到的特征图像中存在被遮挡的车辆B。
在本申请实施例中,第二特征图像是通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的。结合上述实施例所述,通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的第二特征图像的方法可以如下所示。
电子设备可以获取多张图像,多张图像为安装在车辆周围能覆盖车辆周边视场范围的多个摄像头采集的;对多张图像中的每张图像进行特征点提取,得到图像对应的特征点;根据特征点的深度和特征点所属的摄像头的位姿,将特征点由二维空间映射到三维空间中,得到鸟瞰视图视角下的第二特征图像。
这样,通过使用深度信息进行映射,使得特征点在三维空间中的位置与真实世界中的位置比较接近,使得得到的鸟瞰图中特征点的位置的准确度较高。并且通过鸟瞰图进行表征,具备良好的模态可拓展性,不需要在三维空间的直接建模。因此,结合BEV和时序的深度学习感知模型具备很高的潜力,能为自动驾驶解决方案提供更安全、高效的支持。
在本申请实施例中,时序感知模型中包括空间循环神经网络,空间循环神经网络可以用于对图像进行进一步的特征提取,通过对过去观测结果的记忆和整合,预测和理解未来的状态和行为。
示例性的,对第二特征图像进行修正之后,可以将修正后的第二特征图像、第一特征图像和第一特征图像之前的至少一帧特征图像输入至空间循环神经网络;空间循环神经网络根据第一特征图像和第一特征图像之前的至少一帧特征图像,对修正后的第二特征图像进行特征提取,得到特征提取之后的特征图像对应的目标图像。
第一特征图像之前的至少一帧特征图像可以是第一特征图像之前的2帧特征图像,或者3帧特征图像,本申请实施例对此不做限定。例如,空间循环神经网络可以根据第一特征图像和第一特征图像之前的2帧特征图像,对第二特征图像进行进一步的特征提取,得到目标图像。
由于车辆周围的场景是随着时间动态变化的,且空间循环神经网络可以通过学习,捕捉长期依赖关系,这样,通过空间循环神经网络对修正后的第二特征图像进行进一步的特征提取,可以进一步提升图像中特征点的位置的准确度,提升得到的车辆周围环境图像的鲁棒性。
需要说明的是,本申请实施例得到的目标图像可以用于进行目标跟踪、动作识别、行为预测以及显示在车辆的电子设备的屏幕上等,本申请实施例对于目标图像的处理方式不做限定。当电子设备可以根据特征提取之后得到的特征图像,进行目标跟踪、动作识别、行为预测等,本申请实施例对此不做限定。
结合上述实施例所述,下面,对本申请实施例的图像处理的全过程进行描述。图5为本申请实施例提供的另一种图像处理方法的流程示意图。
如图5所示,该图像处理方法可以是通过时序感知模型实现的,该方法可以包括下述步骤:
S501、获取多个摄像头采集的多张图像。
示例性的,多张图像与多个摄像头可以是一一对应的,多张图像可参见上述实施例所述,在此不再赘述。
S502、对多张图像进行特征提取,得到特征图像。
示例性的,可以通过深度学习网络对多张图像进行特征提取,得到特征图像。
S503、对多张特征图像进行单目视觉几何处理,得到单目特征图像中的特征点的信息和摄像头参数。
单目特征图像为多张特征图像中任一张特征图像。特征点的信息可以为特征点的深度,摄像头参数可以为摄像头的位姿。
示例性的,对多张特征图像进行单目视觉几何处理,得到单目特征图像中的特征点和摄像机参数,可以获取多张单目特征图像中每一张单目特征图像中多个特征点的深度和该单目特征图像对应的摄像头的位姿。
S504、根据特征点的信息和摄像头参数对特征图像进行几何投影变换,将特征点映射到三维空间。
示例性的,可以根据特征点的深度和摄像头的位姿,通过几何投影变换,将特征图像中的多个特征点从图像平面映射到三维空间。几何投影变换考虑了图像的投影几何关系,通过使用深度信息,使得特征点保持与真实世界中对应点的几何关系。
S505、通过鸟瞰图表示三维空间。
经过几何投影变换后,可以经过深度神经网络将特征点从三维空间投影鸟瞰图中,实现通过鸟瞰图表示三维空间。
这样,通过鸟瞰图表示三维空间,可以实现对特征图像的信息量的压缩,提升算法模型的效率。并且通过鸟瞰图表示三维空间有助于进一步的三维感知任务,如目标检测、跟踪和路径规划等。
S506、将相邻的两张鸟瞰图视角下的特征图像进行特征对齐与融合。
随着车辆行驶位置的变化,不同时刻之间的BEV视角下的特征图像会发生随着车辆移动而变化的移动,例如,出现旋转和/或平移的移动。特征对齐可以通过计算车辆在不同帧特征图像之间的移动来消除相同的特征在不同帧特征图像之间的移动。特征对齐后,使得同一静态特征点在不同特征图像中出现在相同坐标下,以提高得到的车辆周围环境图像的鲁棒性。将相邻的两张鸟瞰图视角下的特征图像进行特征对齐与融合的方法可参见上述实施例中步骤S302-S304所述的相关内容,在此不再赘述。
S507、将特征对齐之后的多帧特征图像输入空间循环神经网络进行进一步特征提取。
空间循环神经网络可以运用GRU(Gated Recurrent Unit)的结构,对特征对齐之后的多帧特征图像进行进一步的特征提取。
由于随着时间的变化,车辆周围的环境是动态变化的,目标的运动和行为可能涉及到时间上的延迟和长期的依赖,感知数据可能是时间序列数据,例如连续的图像序列或传感器数据流,通过空间循环神经网络中循环的连接和隐藏状态的传递,能够记忆和利用先前时刻的信息,更好地对当前帧特征图像进行理解和建模。这样,通过对过去观测结果的记忆和整合,预测和理解未来的状态和行为,对于目标跟踪、动作识别和行为预测等任务非常有益。
综上所述,本申请实施例的图像处理方法能够以时序的方式对车辆周围的场景进行时空建模,时序感知模型通过对时序信息的综合分析,能够更好地应对复杂和动态的交通场景,能够在各种条件下保持准确的感知能力。这种综合数据融合能力提高了时序感知模型对环境信息的准确性和全面性,提高了得到的车辆周围环境图像的鲁棒性和稳定性。并且该方法能够融合多模态(视觉、毫米波雷达、激光雷达)特征在时间以及空间纬度上的重要信息,具备极强的可拓展性,同时具备实际落地的可行性。
图6为本申请实施例提供的一种图像处理装置60的结构示意图,示例的,请参见图6所示,该图像处理装置60可以包括:
获取模块601,用于获取第一特征图像、第二特征图像和车辆的移动数据,第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,第二特征图像对第二时刻采集到的图像进行特征处理得到的,且第一特征图像为第二特征图像的前一帧,车辆的移动数据为从第一时刻至第二时刻的移动数据。
处理模块602,用于根据车辆的移动数据,确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵。
处理模块602,还用于针对第一特征图像中多个特征点中的每个特征点,根据特征点在第一特征图像中的第一位置和变换矩阵,确定特征点在第二特征图像中的第二位置,得到多个第二位置,第一位置和第二位置均为特征点相对于车辆的位置。
修正模块603,用于根据多个第二位置,对第二特征图像进行修正,得到目标图像。
一种可能的实现方式中,车辆的移动数据包括第一时刻车辆在世界坐标系下的第一坐标,和,第二时刻车辆在世界坐标系下的第二坐标;
处理模块602,具体用于根据公式确定第二特征图像中的特征点相对于第一特征图像中特征点的变换矩阵。
其中,表示变换矩阵,/>表示第一坐标,/>表示第二坐标。
一种可能的实现方式中,第一位置包括在第一特征图像中,特征点相对于车辆的第三坐标,第二位置包括在第二特征图像中,特征点相对于车辆的第四坐标。
处理模块602,具体用于针对第一特征图像中多个特征点中的每个特征点,根据公式确定特征点在第二特征图像中的第四坐标,得到多个第四坐标。其中,egot0表示第三坐标,egot1表示第四坐标。
一种可能的实现方式中,修正模块603,具体用于根据多个第四坐标,将多个特征点映射到第二特征图像中,得到目标图像。
一种可能的实现方式中,修正模块603,具体用于根据多个第四坐标,在多个特征点确定目标特征点,目标特征点为第二时刻车辆周围环境对应的特征点;将第二特征图像中目标位置处的特征点替换为目标特征点,得到目标图像,目标位置为目标特征点在第二特征图像中的位置。
一种可能的实现方式中,时序感知模型中包括空间循环神经网络,处理模块602,还用于将修正后的第二特征图像、第一特征图像和第一特征图像之前的至少一帧特征图像输入至空间循环神经网络;空间循环神经网络根据第一特征图像和第一特征图像之前的至少一帧特征图像,对修正后的第二特征图像进行特征提取,得到特征提取之后的特征图像对应的目标图像。
一种可能的实现方式中,获取模块601,还用于获取多张图像,多张图像为安装在车辆周围能覆盖车辆周边视场范围的多个摄像头采集的。处理模块602,还用于对多张图像中的每张图像进行特征点提取,得到图像对应的特征点;根据特征点的深度和特征点所属的摄像头的位姿,将特征点由二维空间映射到三维空间中,得到鸟瞰视图视角下的第二特征图像。
本申请实施例提供的图像处理装置,可以执行上述任一实施例中的图像处理方法的技术方案,其实现原理以及有益效果与图像处理方法的实现原理及有益效果类似,可参见图像处理方法的实现原理及有益效果,此处不再进行赘述。
图7为本申请提供的一种电子设备结构示意图。如图7所示,该电子设备70可以包括:至少一个处理器701和存储器702。
存储器702,用于存放程序。具体地,程序可以包括程序代码,程序代码包括计算机操作指令。
存储器702可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
处理器701用于执行存储器702存储的计算机执行指令,以实现前述方法实施例所描述的图像处理方法。其中,处理器701可能是一个中央处理器(Central ProcessingUnit,简称为CPU),或者是特定集成电路(Application Specific Integrated Circuit,简称为ASIC),或者是被配置成实施本申请实施例的一个或多个集成电路。具体的,在实现前述方法实施例所描述的图像处理方法时,该电子设备例如可以是终端、服务器等具有处理功能的电子设备。在实现前述方法实施例所描述的图像处理方法时,该电子设备例如可以是车辆上的电子控制单元。
可选的,该电子设备700还可以包括通信接口703。在具体实现上,如果通信接口703、存储器702和处理器701独立实现,则通信接口703、存储器702和处理器701可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(Industry StandardArchitecture,简称为ISA)总线、外部设备互连(Peripheral Component,简称为PCI)总线或扩展工业标准体系结构(Extended Industry Standard Architecture,简称为EISA)总线等。总线可以分为地址总线、数据总线、控制总线等,但并不表示仅有一根总线或一种类型的总线。
可选的,在具体实现上,如果通信接口703、存储器702和处理器701集成在一块芯片上实现,则通信接口703、存储器702和处理器701可以通过内部接口完成通信。
本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random AccessMemory)、磁盘或者光盘等各种可以存储程序代码的介质,具体的,该计算机可读存储介质中存储有程序指令,程序指令用于上述实施例中的方法。
本申请还提供一种程序产品,该程序产品包括执行指令,该执行指令存储在可读存储介质中。电子设备的至少一个处理器可以从可读存储介质读取该执行指令,至少一个处理器执行该执行指令使得电子设备实施上述的各种实施方式提供的图像处理方法。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取第一特征图像、第二特征图像和车辆的移动数据,所述第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,所述第二特征图像对第二时刻采集到的图像进行特征处理得到的,且所述第一特征图像为所述第二特征图像的前一帧,车辆的移动数据为从所述第一时刻至所述第二时刻的移动数据;
根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,所述第一位置和所述第二位置均为所述特征点相对于所述车辆的位置;
根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像。
2.根据权利要求1所述的方法,其特征在于,所述车辆的移动数据包括所述第一时刻所述车辆在世界坐标系下的第一坐标,和,所述第二时刻所述车辆在世界坐标系下的第二坐标;
所述根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵,包括:
根据公式确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
其中,表示所述变换矩阵,/>表示所述第一坐标,/>表示所述第二坐标。
3.根据权利要求2所述的方法,其特征在于,所述第一位置包括在所述第一特征图像中,所述特征点相对于车辆的第三坐标,所述第二位置包括在所述第二特征图像中,所述特征点相对于车辆的第四坐标;
所述针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,包括:
针对所述第一特征图像中多个特征点中的每个特征点,根据公式 确定所述特征点在所述第二特征图像中的第四坐标,得到多个第四坐标;
其中,egot0表示所述第三坐标,egot1表示所述第四坐标。
4.根据权利要求3所述的方法,其特征在于,所述根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像,包括:
根据所述多个第四坐标,将所述多个特征点映射到所述第二特征图像中,得到目标图像。
5.根据权利要求4所述的方法,其特征在于,所述根据所述多个第二位置,将所述多个特征点映射到所述第二特征图像中,得到目标图像,包括:
根据所述多个第四坐标,在所述多个特征点确定目标特征点,所述目标特征点为所述第二时刻所述车辆周围环境对应的特征点;
将所述第二特征图像中目标位置处的特征点替换为所述目标特征点,得到目标图像,所述目标位置为所述目标特征点在所述第二特征图像中的位置。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述时序感知模型中包括空间循环神经网络,所述得到目标图像,所述包括:
将修正后的第二特征图像、所述第一特征图像和所述第一特征图像之前的至少一帧特征图像输入至所述空间循环神经网络;
所述空间循环神经网络根据所述第一特征图像和所述第一特征图像之前的至少一帧特征图像,对所述修正后的第二特征图像进行特征提取,得到特征提取之后的特征图像对应的目标图像。
7.根据权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
获取多张图像,所述多张图像为安装在车辆周围能覆盖所述车辆周边视场范围的多个摄像头采集的;
对所述多张图像中的每张图像进行特征点提取,得到所述图像对应的特征点;
根据所述特征点的深度和所述特征点所属的摄像头的位姿,将所述特征点由二维空间映射到三维空间中,得到鸟瞰视图视角下的第二特征图像。
8.一种图像处理装置,其特征在于,包括:
获取模块,用于获取第一特征图像、第二特征图像和车辆的移动数据,所述第一特征图像为通过电子设备中的时序感知模型对第一时刻采集到的图像进行处理得到的,所述第二特征图像对第二时刻采集到的图像进行特征处理得到的,且所述第一特征图像为所述第二特征图像的前一帧,车辆的移动数据为从所述第一时刻至所述第二时刻的移动数据;
处理模块,用于根据所述车辆的移动数据,确定所述第二特征图像中的特征点相对于所述第一特征图像中特征点的变换矩阵;
处理模块,还用于针对所述第一特征图像中多个特征点中的每个特征点,根据所述特征点在所述第一特征图像中的第一位置和所述变换矩阵,确定所述特征点在所述第二特征图像中的第二位置,得到多个第二位置,所述第一位置和所述第二位置均为所述特征点相对于所述车辆的位置;
修正模块,用于根据所述多个第二位置,对所述第二特征图像进行修正,得到目标图像。
9.一种电子设备,其特征在于,包括存储器和处理器;其中,
所述存储器,用于存储计算机程序;
所述处理器,用于读取所述存储器存储的计算机程序,并根据所述存储器中的计算机程序执行上述权利要求1-7任一项所述的一种图像处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现上述权利要求1-7任一项所述的一种图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310988515.6A CN117036403A (zh) | 2023-08-07 | 2023-08-07 | 图像处理方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310988515.6A CN117036403A (zh) | 2023-08-07 | 2023-08-07 | 图像处理方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117036403A true CN117036403A (zh) | 2023-11-10 |
Family
ID=88622110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310988515.6A Pending CN117036403A (zh) | 2023-08-07 | 2023-08-07 | 图像处理方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117036403A (zh) |
-
2023
- 2023-08-07 CN CN202310988515.6A patent/CN117036403A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11030525B2 (en) | Systems and methods for deep localization and segmentation with a 3D semantic map | |
EP2208021B1 (en) | Method of and arrangement for mapping range sensor data on image sensor data | |
CN111830953B (zh) | 车辆自定位方法、装置及*** | |
CN111448591A (zh) | 不良光照条件下用于定位车辆的***和方法 | |
US10896542B2 (en) | Moving body image generation recording display device and program product | |
KR20220004754A (ko) | 포토리얼리스틱 합성 데이터를 사용한 머리 포즈 및 응시 추정을 위한 신경망 | |
WO2021237471A1 (en) | Depth-guided video inpainting for autonomous driving | |
KR101573576B1 (ko) | Avm 시스템의 이미지 처리 방법 | |
CN111401133A (zh) | 目标数据增广方法、装置、电子设备和可读存储介质 | |
CN113887400B (zh) | 障碍物检测方法、模型训练方法、装置及自动驾驶车辆 | |
CN110794844A (zh) | 自动驾驶方法、装置、电子设备及可读存储介质 | |
CN115147328A (zh) | 三维目标检测方法及装置 | |
CN112257668A (zh) | 主辅路判断方法、装置、电子设备及存储介质 | |
CN114248778A (zh) | 移动设备的定位方法和定位装置 | |
Chiu et al. | Augmented reality driving using semantic geo-registration | |
CN111833443A (zh) | 自主机器应用中的地标位置重建 | |
CN112381876B (zh) | 一种交通标志标注方法、装置及计算机设备 | |
CN112800822A (zh) | 利用结构约束和物理约束进行3d自动标记 | |
CN116681965A (zh) | 一种目标检测模型的训练方法及目标检测方法 | |
CN114004957B (zh) | 增强现实图片的生成方法、装置、设备和存储介质 | |
WO2023283929A1 (zh) | 双目相机外参标定的方法及装置 | |
CN117036403A (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN113011212B (zh) | 图像识别方法、装置及车辆 | |
CN117870716A (zh) | 地图兴趣点的显示方法、装置、电子设备及存储介质 | |
CN118429558A (zh) | 场景地图重建方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |