CN111670417A - 语义地图的构建方法、***、可移动平台和存储介质 - Google Patents
语义地图的构建方法、***、可移动平台和存储介质 Download PDFInfo
- Publication number
- CN111670417A CN111670417A CN201980007922.6A CN201980007922A CN111670417A CN 111670417 A CN111670417 A CN 111670417A CN 201980007922 A CN201980007922 A CN 201980007922A CN 111670417 A CN111670417 A CN 111670417A
- Authority
- CN
- China
- Prior art keywords
- movable platform
- semantic
- images
- semantic map
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010276 construction Methods 0.000 title claims abstract description 107
- 230000011218 segmentation Effects 0.000 claims abstract description 157
- 238000000034 method Methods 0.000 claims abstract description 59
- 238000013527 convolutional neural network Methods 0.000 claims description 28
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 24
- 230000009194 climbing Effects 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 12
- 230000009286 beneficial effect Effects 0.000 description 35
- 238000010586 diagram Methods 0.000 description 25
- 230000000007 visual effect Effects 0.000 description 19
- 230000002035 prolonged effect Effects 0.000 description 16
- 230000002349 favourable effect Effects 0.000 description 9
- 230000004888 barrier function Effects 0.000 description 8
- 238000009877 rendering Methods 0.000 description 8
- 238000000926 separation method Methods 0.000 description 6
- 239000003086 colorant Substances 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 3
- 235000012736 patent blue V Nutrition 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000001066 destructive effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 229910052594 sapphire Inorganic materials 0.000 description 2
- 239000010980 sapphire Substances 0.000 description 2
- 239000000835 fiber Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/08—Control of attitude, i.e. control of roll, pitch, or yaw
- G05D1/0808—Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Abstract
一种语义地图的构建方法、一种语义地图的构建***、一种可移动平台、一种计算机可读存储介质和一种可移动平台、一种搜索降落点的方法。其中,语义地图的构建方法,包括:获取多个图像的语义分割信息(S102);对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图(S104)。所述语义地图的构建方法,通过获取多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,使得根据多个图像的语义分割信息获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
Description
技术领域
本申请涉及智能识别技术领域,具体而言,涉及一种语义地图的构建方法、一种语义地图的构建***、一种可移动平台、一种计算机可读存储介质和一种可移动平台、一种搜索降落点的方法。
背景技术
目前的飞机、无人机等设备的场景由于背景信息复杂、视角多变,很难做到精确的场景理解,进而无法更有效地指导飞行器等设备进行飞行。因此,亟需构建一个语义地图来指导飞行器等设备进行后续运动。
申请内容
本申请实施例提供了语义地图的构建方法、***、可移动平台和存储介质,能够构建更为完整的语义地图。
为此,本申请的第一个方面在于,提出一种语义地图的构建方法。
本申请的第二个方面在于,提出一种语义地图的构建***。
本申请的第三个方面在于,提出一种可移动平台。
本申请的第四个方面在于,提出一种计算机可读存储介质。
本申请的第五个方面在于,提出一种可移动平台。
本申请的第六个方面在于,提出一种搜索降落点的方法。
有鉴于此,根据本申请的第一方面,提供了一种语义地图的构建方法,方法包括:获取多个图像的语义分割信息;对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
本申请提供的语义地图的构建方法,通过获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
本申请的第二方面,提出了一种语义地图的构建***,其中,包括:存储器,用于存储计算机程序;处理器,用于执行计算机程序以实现:获取多个图像的语义分割信息;对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
本申请提供的语义地图的构建***,通过令处理器获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过处理器对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
本申请的第三方面,提出了一种可移动平台,包括上述任一技术方案的语义地图的构建***;以及采集装置,采集装置与构建***相连接,采集装置用于采集图像并将图像发送至处理器。由于可移动平台包括上述任一技术方案的语义地图的构建***,因此具有上述任一技术方案的语义地图的构建***的全部有益效果,在此不再赘述。
本申请的第四方面,提出了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述任一技术方案的语义地图的构建方法。因此具有上述任一技术方案的语义地图的构建方法的有益效果,在此不再赘述。
本申请的第五方面,提出了一种可移动平台,包括机体、设于机体上的供电电池、动力***、采集装置和控制器,供电电池,用于为动力***供电,动力***,用于可移动平台提供飞行动力;采集装置,用于在可移动平台飞行过程中,获取多个图像;控制器,用于获取多个图像的语义分割信息;对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
本申请的第六方面,提供了一种搜索降落点的方法,适用于一可移动平台,包括步骤:
根据以上任一项所述的语义地图的构建方法获取语义地图;
根据语义地图,确定可移动平台的降落点;
根据可移动平台的降落点,控制可移动平台进行降落。
本申请提供的可移动平台包括:机体、设于机体上的供电电池、动力***、采集装置和控制器,其中,供电电池用于为动力***供电,动力***用于为可移动平台提供飞行动力;采集装置用于在可移动平台飞行过程中,获取多个图像,通过控制器获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于控制器通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过控制器对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,使得控制器通过语义地图能够精准的获取位置信息。
本申请的附加方面和优点将在下面的描述部分中变得明显,或通过本申请的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
图1示出了本申请的一个实施例的语义地图的构建方法的示意流程图;
图2示出了本申请的一个实施例的获取的一个图像;
图3示出了本申请的一个实施例的语义识别图;
图4示出了本申请的一个实施例的遮挡的渲染图;
图5示出了本申请的另一个实施例的语义地图的构建方法的示意流程图;
图6示出了本申请的再一个实施例的语义地图的构建方法的示意流程图;
图7示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图8示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图9示出了本申请的另一个实施例的获取的一个图像;
图10示出了本申请的另一个实施例的语义识别图;
图11示出了本申请的另一个实施例的遮挡的渲染图;
图12示出了本申请的一个实施例的降落点的示意图;
图13示出了本申请的另一个实施例的降落点的示意图;
图14示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图15示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图16示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图17示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图18示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图19示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图20示出了本申请的又一个实施例的语义地图的构建方法的示意流程图;
图21示出了本申请的一个实施例的语义地图的构建***的示意框图;
图22示出了本申请的一个实施例的可移动平台的结构示意图;
图23示出了本申请的又一个实施例的可移动平台的结构示意图;
图24示出了本申请的一个实施例的图像的语义识别过程示意图;
图25示出了本申请的一个实施例的获取降落点位置信息的过程示意图。
其中,图21至图23中附图标记与部件名称之间的对应关系为:
12存储器,14处理器,22采集装置,24机体,26供电电池,28动力***,21控制器,20可移动平台,10语义地图的构建***。
具体实施方式
为了能够更清楚地理解本申请的上述目的、特征和优点,下面结合附图和具体实施方式对本申请进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是,本申请还可以采用其他不同于在此描述的其他方式来实施,因此,本申请的保护范围并不受下面公开的具体实施例的限制。
下面参照图1至图25描述根据本申请一些实施例的语义地图的构建方法、语义地图的构建***、可移动平台、计算机可读存储介质和可移动平台、搜索降落点的方法。
根据本申请的第一方面的实施例,提供了一种语义地图的构建方法,图1示出了根据本申请一个实施例的语义地图的构建方法的示意流程图。如图1所示,该语义地图的构建方法包括:
S102,获取多个图像的语义分割信息;
例如,以视觉传感器为例,如图2所示,为任意时刻获取得到的任一图像,对图2进行语义分割后,生成如图3所示的单帧图像语义识别图,该图像语义识别图包括天空、地面和树。将语义识别图遮挡在原始图像上,即可获得如图4所示的遮挡的渲染图。
具体实施例中,获取遮挡的渲染图的过程如图2至图4所示,其中,图2所示的图像为任意时刻获取得到的图像,对图2所示的图像进行语义分割后生成如图3所示的单帧图像语义识别图,将语义识别图遮挡在原始图像上,即可获得如图4所示的遮挡的渲染图,其中,图3中不同的背景色指代不同的语义识别结果,例如,具体实施例中可以通过彩色进行示例,设置天蓝色代表天空,蓝紫色代表地面,宝石蓝代表树,湖蓝代表水,黄色代表建筑物,白色代表其他实体。可以理解的是,也可以用其他不同的颜色来表示不同的语义识别结果。
S104,对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
优选地,将单帧图像的语义识别图覆盖在拼接图像上,即可获得拼接图像的语义地图。
本申请提供的语义地图的构建方法,通过获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
具体实施例中,通过图像采集装置采集多个图像,多个图像的采集时间为连续的,图像采集装置包括并不限于:视觉传感器、雷达、多光谱传感器。
在本申请的一个实施例中,优选地,获取多个图像的语义分割信息具体为:通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息。
在该实施例中,通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息,能够完整、精确地获得图像中的实体内容的信息,进而有利于根据多个图像的语义分割信息获取的语义地图完整、精确地体现了真实场景的多个实体内容,具有较高的置信度,提高场景理解的精确度。
可以理解的是,也可以通过其他方法获得多个图像的语义分割信息。具体地,卷积神经网络(CNN,Convolutional Neural Networks)适用于各种场景任务,特别是场景目标语义信息、位置信息的获取,因此CNN可以被用来识别航拍场景的各种目标的语义信息和位置信息。
具体实施例中,通过图像采集装置进行连续采集多个图像,将多个图像输入预设的卷积神经网络模块进行语义分割以得到语义分隔信息,根据语义分隔信息和多个图像进行拼接生成的拼接图像构建出语义地图。通过连续采集图像,可以获得更完整和详细的语义地图;进一步通过卷积神经网络获取多个图像的语义分割信息,可以更准确的获取图像中的实体场景,进而得到更精确的语义地图。
图5示出了根据本申请另一个实施例的语义地图的构建方法的示意流程图。如图5所示,该语义地图的构建方法包括:
S202,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S204,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S206,对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
在该实施例中,由于多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,在对多个图像进行拼接生成拼接图像的步骤之前,通过获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得根据多个图像的语义分割信息获取的语义地图具有较高的置信度,能够完整、精确地体现真实场景的实体内容,提高场景理解的精确度,使得通过语义地图能够精准的获取位置信息。
进一步地,语义识别结果可以为与图像对应的真实场景中的实体内容,可以理解的是,语义识别结果可以为多个,对应于真实场景中的多个实体内容。具体实施例中,语义识别结果可以对应于实体场景中的天空、地面、树及建筑物等,通过根据不同实体对应不同的像素点对图像中的实体进行语义识别。
可以理解的是,语义分割信息包括若干个像素点的语义识别结果和语义识别结果对应的置信度,通过置信度与预设阈值的比较,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得通过语义地图能够精准的获取位置信息。
在本申请的实施例中,语义地图的构建方法适用于可移动平台,图6示出了根据本申请再一个实施例的语义地图的构建方法的示意流程图。如图6所示,该语义地图的构建方法包括:
S302,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S304,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S306,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S308,根据多个图像的语义分割信息,获取拼接图像的语义地图。
在该实施例中,语义地图的构建方法适用于可移动平台,可移动平台可以为飞机、无人机,也可以为满足要求的其他可移动平台。通过根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像,有利于保证生成的拼接图像具有较高的清晰度和还原度,各实体的高度真实体现在拼接图像中,进而有利于获取的拼接图像的语义地图具有较高的置信度,并提高了场景理解的精确度。
优选地,实体的高度信息由可移动平台上的单目摄像头、双目摄像头或激光器等测量得到。
进一步地,通过根据可移动平台相对于多个图像所对应的实体的高度信息和语义分割信息的识别结果进行二维语义地图的拼接,使得通过拼接图像的语义地图能够精确地获取场景中的目标语义信息和距离信息,使得通过语义地图获取的位置信息更加准确,进而有利于可移动平台根据目标语义信息和距离信息准确移动,提高了可移动平台移动的安全性和准确性,有利于提高产品的可靠性。其中,目标语义信息可以为与图像相对应的多个实体内容中的目标实体的信息,距离信息可以为可移动平台与目标实体的距离。具体实施例中,可移动平台为无人机,目标语义信息为图像中的地面所对应的语义信息,距离信息为无人机与地面之间的距离,通过根据地面的语义信息及无人机与地面之间的距离,能够精准地获取地面的位置信息,进而使无人机能够安全、准确地降落在地面上。
具体地,可以对任一图像进行单帧识别来获取每一个像素点的语义识别结果,进行连续采集多个图像并结合可移动平台相对于多个图像所对应的实体的高度信息,进行图像拼接,实现多帧构建实时的语义地图。可以理解的是,也可以通过其他方式获取每一个像素点的语义识别结果。具体地,当可移动平台为无人机时,高度为图像对应的实体结构与无人机的距离。具体地,图像拼接时,多个图像重叠的部分可以进行融合,例如,对多个图像重叠部分的每一个像素点的识别结果的置信度进行比较,通过保留置信度较高的图像、删除置信度较低的图像对重叠部分的图像进行融合,即最大限度的提取每个图像中的有利信息,能够使融合后的拼接图像保证了场景的完整度和真实性,进而使语义地图具有较高的置信度。在本申请的一个实施例中,优选地,语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
在该实施例中,语义识别结果包括建筑物、天空、树、水面、地面中的一种或多种,语义识别结果的多种类型包括了与图片对应的真实场景中的多种实体内容,进而使得语义结果能够真实、完整地体现图像对应的实体内容,有利于提高场景理解的精确度。
进一步地,语义识别结果也可以包括满足要求的其他内容。
图7示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图7所示,该语义地图的构建方法包括:
S402,按照预设频率采集多个图像;
S404,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S406,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S408,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S410,根据多个图像的语义分割信息,获取拼接图像的语义地图。
在该实施例中,通过按照预设频率采集多个图像,可以得到不同视角、不同背景信息的场景的图像,使得通过多个图像能够完整、精确地反映真实场景中不同视角、不同位置、不同背景信息的实体内容,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景中的多个实体内容,进而保证语义地图的可靠性和准确性。
图8示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图8所示,该语义地图的构建方法包括:
S502,按照预设频率采集多个图像;
例如,以视觉传感器为例,如图9所示,为任意时刻获取得到的任一图像,对图9进行语义分割后,生成如图10所示的单帧图像语义识别图,该图像语义识别图包括天空、地面、树、水、建筑物。将语义识别图遮挡在原始图像上,即可获得如图11所示的遮挡的渲染图。
具体实施例中,获取遮挡的渲染图的过程如图9至图11所示,图9所示的图像为任意时刻获取得到的图像,进行语义分割后生成如图10所示的单帧图像语义识别图,将语义识别图遮挡在原始图像上,即可获得如图11所示的遮挡的渲染图,其中,图10所示的不同的背景色指代不同的语义识别结果,例如,具体实施例中可以通过彩色进行示例,如设置天蓝色代表天空,蓝紫色代表地面,宝石蓝代表树,湖蓝代表水,黄色代表建筑物,白色代表其他实体。可以理解的是,也可以用其他不同的颜色来表示不同的语义识别结果。
S504,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S506,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S508,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S510,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S512,根据语义地图,确定可移动平台的降落点。
优选地,将单帧图像的语义识别图覆盖在拼接图像上,即可获得如图12所示的单帧拼接图像的语义地图,图12中的A代表单帧拼接图像中显示的可降落区域,可以理解的是,图12中的A也可以为具体的一点,该点代表降落点。
优选地,将多帧图像的语义识别图覆盖在拼接图像上,即可获得如图13所示的多帧拼接图像的语义地图,图13中的B代表多帧拼接图像中显示的可降落区域,可以理解的是,图13中的B也可以为具体的一点,该点代表降落点。通过图12和图13的降落区域进行对比可见,图13所示实施例通过多个图像能够完整、精确地反映真实场景中的实体内容,进而构建出较为完整、精确及详细的语义地图,进而通过利用较为完整、详细的语义地图对可移动平台进行指导飞行,以提升可移动平台飞行的可控性。
S514,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,通过根据语义地图,确定可移动平台的降落点,使得根据置信度较高、场景理解精确度较高的语义地图能够精准地获取位置信息,进而确定可移动平台的降落点,且降落点安全可靠,并根据可移动平台的降落点控制可移动平台进行降落,使得可移动平台能够安全、可靠、精准地降落至通过语义地图确定的降落点,避免了相关技术中可移动平台降落在水中、树上、建筑物上等损坏或损毁可移动平台的问题,大大延长了可移动平台的使用寿命,提高可移动平台使用的安全性,并提高产品的可靠性。
图14示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图14所示,该语义地图的构建方法包括:
S602,按照预设频率采集多个图像;
S604,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S606,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S608,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S610,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S612,根据语义地图,确定可移动平台的可降落区域;
S614,根据可移动平台的状态信息,在可降落区域中选定降落点;
S616,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,通过根据语义地图,确定可移动平台的可降落区域,可降落区域可以为根据语义地图得到的安全、可靠的允许可移动平台降落的区域,即,不包括能够使可移动平台降落存在危险或破坏性的区域,如水、树、建筑物等区域,进而避免了可移动平台在降落时损坏或损毁,有利于延长可移动平台的使用寿命;通过根据可移动平台的状态信息,在可降落区域中选定降落点,有利于结合可移动平台的状态信息,使选择的降落点能够保证可移动平台安全、可靠地降落,避免由于可移动平台的自身的状态无法满足顺利抵达降落点或无法在降落点顺利完成降落,进一步保证了可移动平台能够安全、顺利、可靠、精准地降落在降落点,提高可移动平台的可靠性。
图15示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图15所示,该语义地图的构建方法包括:
S702,按照预设频率采集多个图像;
S704,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S706,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S708,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S710,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S712,根据语义地图,确定可移动平台的可降落区域;
S714,获取可移动平台的电池的剩余电量;
S716,根据剩余电量和语义地图,在可降落区域中选定降落点;
S718,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,具体限定了根据可移动平台的状态信息,在可降落区域中选定降落点的步骤。通过获取可移动平台的电池的剩余电量,根据剩余电量和语义地图,在可降落区域中选定降落点,使得选定的降落点能够保证可移动平台利用剩余电量顺利降落在降落点,避免了电池的剩余电量无法使可移动平台顺利抵达降落点而损坏或损毁可移动设备,使得选定的降落点具有较高的准确性,进而保证了可移动平台能够可靠、安全地完成降落,延长可移动平台的使用寿命。
图16示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图16所示,该语义地图的构建方法包括:
S802,按照预设频率采集多个图像;
S804,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S806,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S808,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S810,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S812,根据语义地图,确定可移动平台的可降落区域;
S814,获取可移动平台的电池的剩余电量;
S816,获取可移动平台的飞行轨迹,根据飞行轨迹和剩余电量,选定降落点;
S818,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,通过获取可移动平台的飞行轨迹和可移动平台的电池的剩余电量,根据飞行轨迹和剩余电量选定降落点,使得选定的降落点与飞行轨迹相适配,有利于可移动平台依照飞行轨迹实现返航,提高可移动平台返航的准确性,同时能够保证可移动平台利用剩余电量顺利降落在降落点,进而提高可移动平台降落的可靠性和安全性。
图17示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图17所示,该语义地图的构建方法包括:
S902,按照预设频率采集多个图像;
S904,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S906,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S908,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S910,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S912,根据语义地图,确定可移动平台的可降落区域;
S914,获取可移动平台的电池的剩余电量;
S916,根据电池的剩余电量确定电池的剩余续航里程;
S918,获取可移动平台的飞行轨迹;
S920,根据剩余续航里程和飞行轨迹,选定降落点;
S922,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,根据语义地图分别获取可移动平台的电池的剩余电量和获取可移动平台的飞行轨迹,通过根据电池的剩余电量确定电池的剩余续航里程,将电池的剩余电量具体量化为电池的剩余续航里程,并根据剩余续航里程和飞行轨迹,选定降落点,使得根据量化的剩余续航里程和飞行轨迹,准确、合理地选定降落点,有利于提高降落位置信息的精确性,既能够保证可移动平台安全、可靠地降落在降落点,并基于剩余电量确定的剩余续航里程最大限度的依照飞行轨迹完成返航,进而提高可移动平台返航的准确性。
图18示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图18所示,该语义地图的构建方法包括:
S1002,按照预设频率采集多个图像;
S1004,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S1006,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S1008,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S1010,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S1012,根据语义地图,确定可移动平台的可降落区域;
S1014,获取可移动平台的电池的剩余电量;
S1016,根据电池的剩余电量确定电池的剩余续航里程;
S1018,获取可移动平台的飞行轨迹;
S1020,根据飞行轨迹和语义地图,确定可移动平台的预估返航里程;
S1022,基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点;
基于预估返航里程大于剩余续航里程的情况下,根据剩余续航里程和起飞点,在可降落区域中选定降落点;
S1024,根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,具体限定了根据剩余续航里程和飞行轨迹,选定降落点的步骤。根据语义地图分别获取可移动平台的电池的剩余电量和获取可移动平台的飞行轨迹,并通过根据飞行轨迹和语义地图,确定可移动平台的预估返航里程,即预估返航里程为可移动平台返回至飞行轨迹的起飞点的里程,基于预估返航里程小于或等于剩余续航里程和预估返航里程大于剩余续航里程两种情况,一方面,基于预估返航里程小于或等于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台能够返回至飞行轨迹的起飞点,进而将飞行轨迹的起飞点作为降落点,进一步提高降落点的精确性,使得可移动平台能够安全、可靠、精准地降落在起飞点,提高了可移动平台返航的精准度。
另一方面,基于预估返航里程大于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台无法返回至飞行轨迹的起飞点,通过在可降落区域中选定降落点,保证可移动平台能够顺利完成降落,并能够实现安全、可靠降落,避免预估返航里程大于剩余续航里程,而将降落点设为飞行轨迹的起飞点而使可移动平台无法顺利完成降落而存在损坏或损毁的问题,进一步提高了可移动平台的可靠性,延长了可移动平台的使用寿命。
可以理解的是,起飞点可以为飞行轨迹的起始点,也可以为指定的home点,也可以为指定飞行计划中的点,如靠近home点设定的其他点。
图19示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图19所示,该语义地图的构建方法包括:
S1102,按照预设频率采集多个图像;
S1104,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S1106,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S1108,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S1110,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S1112,根据语义地图,确定可移动平台的可降落区域;
S1114,获取可移动平台的电池的剩余电量;
S1116,根据电池的剩余电量确定电池的剩余续航里程;
S1118,获取可移动平台的飞行轨迹;
S1120,根据飞行轨迹和语义地图,确定可移动平台的预估返航里程;
S1122,基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点;基于预估返航里程大于剩余续航里程的情况下,根据剩余续航里程和起飞点,在可降落区域中选定降落点;
S1124,根据可移动平台的降落点,控制可移动平台进行降落;
S1126,根据语义地图,控制可移动平台进行避障飞行;其中,避障飞行包括绕道飞行或爬升飞行。
在该实施例中,根据语义地图分别确定可移动平台的可降落区域和控制可移动平台进行壁障飞行,通过根据语义地图,控制可移动平台进行避障飞行,由于语义地图具有较高的置信度,能够完整、精确地获取真实场景的障碍物的位置信息,控制可移动平台进行障碍飞行避开障碍物,有利于提高可移动平台飞行的可靠性,进而延长可移动平台的使用寿命,提高产品的可靠性。
其中,避障飞行包括绕道飞行或爬升飞行,绕道飞行即绕过障碍物飞行,爬升飞行即向上飞行越过障碍物,可以理解的是,也可以包括其他飞行方式,如绕道飞行和爬行飞行同时进行。
进一步地,避障飞行可以在返航过程中进行避障飞行,也可以是可移动平台根据语义地图进行避障飞行,进一步提高飞行的可靠性。
在本申请的一个实施例中,优选地,可移动平台包括采集装置,构建方法还包括:控制采集装置采集多个图像。
在该实施例中,具体限定了语义地图的构建方法中采集多个图像的方式,通过控制可移动平台的采集装置采集多个图像,操纵简单,易于实现。
可以理解的是,采集装置可以为多个,多个采集装置能够采集不同视角、不同背景信息的场景的图像,进而有利于提高语义地图的置信度。可以理解的是,多个采集装置设置在可移动平台的不同位置,以便于采集可移动平台不同飞行姿态、不同视角、不同背景信息的图像。
在本申请的一个实施例中,优选地,还包括:根据可移动平台的飞行姿态,控制可移动平台朝向地面一侧的采集装置采集多个图像。
在该实施例中,由于可移动平台的降落点一般设置在地面上,即可移动平台最终是降落在地面上的降落点,通过根据可移动平台的飞行姿态,控制可移动平台朝向地面一侧的采集装置采集多个图像,进而获得地面一侧的语义地图,有利于使可移动平台安全、可靠、精准地降落在地面上的降落点,可操作强,易于实现,适于推广应用。
可以理解的是,也可以根据理想的降落点的方位,使靠近理想降落点的方位的一侧的采集装置采集多个图像,进而使可移动平台能够安全、可靠、精准地降落在理想降落点,进一步扩大产品的使用范围。
在本申请的一个实施例中,优选地,采集装置包括:雷达、视觉传感器或多光谱传感器。
在该实施例中,采集装置可以为雷达、视觉传感器或多光谱传感器,采集装置的多种类型能够满足采集装置不同安装位置、采集不同视角图像、采集不同背景信息图像的需求,同时能够满足可移动平台不同成本的需求,有利于扩大产品的使用范围。
可以理解的是,采集装置也可以为满足要求的其他装置。
图20示出了根据本申请又一个实施例的语义地图的构建方法的示意流程图。如图20所示,该语义地图的构建方法包括:
S1202,接收起飞指令,控制采集装置启动,以采集多个图像;
S1204,获取多个图像的语义分割信息,其中,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果;
S1206,获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除;
S1208,根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像;
S1210,根据多个图像的语义分割信息,获取拼接图像的语义地图;
S1212,接收返航指令或检测到可移动平台发生故障,控制采集装置关闭;
S1214,根据语义地图,确定可移动平台的可降落区域;
S1216,获取可移动平台的电池的剩余电量;
S1218,根据电池的剩余电量确定电池的剩余续航里程;
S1220,获取可移动平台的飞行轨迹;
S1222,根据飞行轨迹和语义地图,确定可移动平台的预估返航里程;
S1224,基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点;
基于预估返航里程大于剩余续航里程的情况下,根据剩余续航里程和起飞点,在可降落区域中选定降落点;
S1226,根据可移动平台的降落点,控制可移动平台进行降落;
S1228,根据语义地图,控制可移动平台进行避障飞行;其中,避障飞行包括绕道飞行或爬升飞行。
在该实施例中,通过接收起飞指令,控制采集装置启动,以采集多个图像,即当可移动平台起飞时就开始采集多个图像,并实时构建语义地图,通过接收返航指令或检测到可移动平台发生故障,控制采集装置关闭,即当可移动平台需要返航时,控制采集装置关闭,停止采集图像,并根据构建语义地图精准地获取位置信息,进而确定可移动平台的降落点,即降落位置信息,使可移动平台能够安全、可靠、精准地降落在降落点,完成返航,避免了相关技术中可移动平台降落在水中、树上、建筑物上等损坏或损毁可移动平台的问题,大大延长了可移动平台的使用寿命,提高可移动平台使用的安全性,并提高产品的可靠性。
进一步地,一方面,返航指令可以为用户选择的返航键触发的返航指令,另一方面,返航指令为可移动平台飞行至飞行轨迹的返航点时可移动平台的控制器发送的返航指令。返航指令的不同方式能够满足可移动平台不同工况的需求,进而扩大产品的使用范围,同时,有利于灵活控制可移动平台安全返航,进一步提高可移动平台的可靠性。
如图21所示,本申请的第二方面的实施例,提出了一种语义地图的构建***10,包括:存储器12,用于存储计算机程序;处理器14,用于执行计算机程序以实现:获取多个图像的语义分割信息;对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
本申请实施例提供的语义地图的构建***10,包括存储器12和处理器14,存储器12用于存储计算机程序,通过令处理器14获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过处理器14对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
具体实施例中,通过图像采集装置采集多个图像,多个图像的采集时间为连续的,图像采集装置包括并不限于:视觉传感器、雷达、多光谱传感器。
在本申请的一个实施例中,优选地,处理器14用于执行获取多个图像的语义分割信息具体为:通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息。
在该实施例中,处理器14用于执行获取多个图像的语义分割信息具体为:处理器14通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息,能够完整、精确地获得图像中的实体内容的信息,进而有利于根据多个图像的语义分割信息获取的语义地图完整、精确地体现了真实场景的多个实体内容,具有较高的置信度,提高场景理解的精确度。
可以理解的是,处理器14也可以通过其他方法获得多个图像的语义分割信息。具体地,卷积神经网络(CNN,Convolutional Neural Networks)适用于各种场景任务,特别是场景目标语义信息、位置信息的获取,因此CNN可以被用来识别航拍场景的各种目标的语义信息和位置信息。
具体实施例中,处理器14通过图像采集装置进行连续采集多个图像,将多个图像输入预设的卷积神经网络模块进行语义分割以得到语义分隔信息,根据语义分隔信息和多个图像进行拼接生成的拼接图像构建出语义地图。处理器14通过连续采集图像,可以获得更完整和详细的语义地图;进一步处理器14通过卷积神经网络获取多个图像的语义分割信息,可以更准确的获取图像中的实体场景,进而得到更精确的语义地图。
在本申请的一个实施例中,优选地,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,处理器14用于执行在对多个图像进行拼接生成拼接图像的步骤之前,还用于:获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除。
在该实施例中,由于多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,处理器14在对多个图像进行拼接生成拼接图像的步骤之前,通过获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得根据多个图像的语义分割信息获取的语义地图具有较高的置信度,能够完整、精确地体现真实场景的实体内容,提高场景理解的精确度,使得通过语义地图能够精准的获取位置信息。
进一步地,语义识别结果可以为与图像对应的真实场景中的实体内容,可以理解的是,语义识别结果可以为多个,对应于真实场景中的多个实体内容。
可以理解的是,语义分割信息包括若干个像素点的语义识别结果和语义识别结果对应的置信度,通过置信度与预设阈值的比较,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得通过语义地图能够精准的获取位置信息。
在本申请的一个实施例中,优选地,适用于可移动平台,其中,处理器14用于实现:根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像。
在该实施例中,语义地图的构建***10适用于可移动平台,可移动平台可以为飞机、无人机,也可以为满足要求的其他可移动平台。处理器14通过根据可移动平台相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像,有利于保证生成的拼接图像具有较高的清晰度和还原度,各实体的高度真实体现在拼接图像中,进而有利于获取的拼接图像的语义地图具有较高的置信度,并提高了场景理解的精确度。
优选地,实体的高度信息由可移动平台上的双目摄像头测量得到。
进一步地,处理器14通过根据可移动平台相对于多个图像所对应的实体的高度信息和语义分割信息的识别结果进行二维语义地图的拼接,使得通过拼接图像的语义地图能够精确地获取场景中的目标语义信息和距离信息,使得通过语义地图获取的位置信息更加准确,进而有利于可移动平台根据目标语义信息和距离信息准确移动,提高了可移动平台移动的安全性和准确性,有利于提高产品的可靠性。其中,目标语义信息可以为与图像相对应的多个实体内容中的目标实体的信息,距离信息可以为可移动平台与目标实体的距离。具体实施例中,可移动平台为无人机,目标语义信息为图像中的地面所对应的语义信息,距离信息为无人机与地面之间的距离,通过根据地面的语义信息及无人机与地面之间的距离,能够精准地获取地面的位置信息,进而使无人机能够安全、准确地降落在地面上。
具体地,处理器14可以对任一图像进行单帧识别来获取每一个像素点的语义识别结果,进行连续采集多个图像并结合可移动平台相对于多个图像所对应的实体的高度信息,进行图像拼接,实现多帧构建实时的语义地图。可以理解的是,处理器14也可以通过其他方式获取每一个像素点的语义识别结果。具体地,当可移动平台为无人机时,高度为图像对应的实体结构与无人机的距离。具体地,图像拼接时,多个图像重叠的部分可以进行融合,例如,对多个图像重叠部分的每一个像素点的识别结果的置信度进行比较,通过保留置信度较高的图像、删除置信度较低的图像对重叠部分的图像进行融合,即最大限度的提取每个图像中的有利信息,能够使融合后的拼接图像保证了场景的完整度和真实性,进而使语义地图具有较高的置信度。
在本申请的一个实施例中,优选地,语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
在该实施例中,语义识别结果包括建筑物、天空、树、水面、地面中的一种或多种,语义识别结果的多种类型包括了与图片对应的真实场景中的多种实体内容,进而使得语义结果能够真实、完整地体现图像对应的实体内容,有利于提高场景理解的精确度。进一步地,语义识别结果也可以包括满足要求的其他内容。
在本申请的一个实施例中,优选地,处理器14还用于实现:按照预设频率采集多个图像。
在该实施例中,处理器14通过按照预设频率采集多个图像,可以得到不同视角、不同背景信息的场景的图像,使得通过多个图像能够完整、精确地反映真实场景中不同视角、不同位置、不同背景信息的实体内容,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景中的多个实体内容,进而保证语义地图的可靠性和准确性。
在本申请的一个实施例中,优选地,处理器14还用于实现:根据语义地图,确定可移动平台的降落点;根据可移动平台的降落点,控制可移动平台进行降落。
在该实施例中,处理器14通过根据语义地图,确定可移动平台的降落点,使得根据置信度较高、场景理解精确度较高的语义地图能够精准地获取位置信息,进而确定可移动平台的降落点,且降落点安全可靠,处理器14并根据可移动平台的降落点控制可移动平台进行降落,使得可移动平台能够安全、可靠、精准地降落至通过语义地图确定的降落点,避免了相关技术中可移动平台降落在水中、树上、建筑物上等损坏或损毁可移动平台的问题,大大延长了可移动平台的使用寿命,提高可移动平台使用的安全性,并提高产品的可靠性。
在本申请的一个实施例中,优选地,处理器14用于实现根据语义地图,确定可移动平台的降落点具体为:根据语义地图,确定可移动平台的可降落区域;根据可移动平台的状态信息,在可降落区域中选定降落点。
在该实施例中,处理器14通过根据语义地图,确定可移动平台的可降落区域,可降落区域可以为根据语义地图得到的安全、可靠的允许可移动平台降落的区域,即,不包括能够使可移动平台降落存在危险或破坏性的区域,如水、树、建筑物等区域,进而避免了可移动平台在降落时损坏或损毁,有利于延长可移动平台的使用寿命;处理器14通过根据可移动平台的状态信息,在可降落区域中选定降落点,有利于结合可移动平台的状态信息,使选择的降落点能够保证可移动平台安全、可靠地降落,避免由于可移动平台的自身的状态无法满足顺利抵达降落点或无法在降落点顺利完成降落,进一步保证了可移动平台能够安全、顺利、可靠、精准地降落在降落点,提高可移动平台的可靠性。
在本申请的一个实施例中,优选地,处理器14用于实现:根据可移动平台的状态信息,在可降落区域中选定降落点的步骤,具体为:获取可移动平台的电池的剩余电量;根据剩余电量和语义地图,在可降落区域中选定降落点。
在该实施例中,具体限定了处理器14根据可移动平台的状态信息,在可降落区域中选定降落点的步骤。处理器14通过获取可移动平台的电池的剩余电量,根据剩余电量和语义地图,在可降落区域中选定降落点,使得选定的降落点能够保证可移动平台利用剩余电量顺利降落在降落点,避免了电池的剩余电量无法使可移动平台顺利抵达降落点而损坏或损毁可移动设备,使得选定的降落点具有较高的准确性,进而保证了可移动平台能够可靠、安全地完成降落,延长可移动平台的使用寿命。
在本申请的一个实施例中,优选地,处理器14还用于实现:获取可移动平台的飞行轨迹,根据飞行轨迹和剩余电量,选定降落点。
在该实施例中,处理器14通过获取可移动平台的飞行轨迹,根据飞行轨迹和剩余电量选定降落点,使得选定的降落点与飞行轨迹相适配,有利于可移动平台依照飞行轨迹实现返航,提高可移动平台返航的准确性,同时能够保证可移动平台利用剩余电量顺利降落在降落点,进而提高可移动平台降落的可靠性和安全性。
在本申请的一个实施例中,优选地,处理器14还用于实现:根据电池的剩余电量确定电池的剩余续航里程,根据剩余续航里程和飞行轨迹,选定降落点。
在该实施例中,处理器14通过根据电池的剩余电量确定电池的剩余续航里程,将电池的剩余电量具体量化为电池的剩余续航里程,使得根据量化的剩余续航里程和飞行轨迹,准确、合理地选定降落点,有利于提高降落位置信息的精确性,既能够保证可移动平台安全、可靠地降落在降落点,并基于剩余电量确定的剩余续航里程最大限度的依照飞行轨迹完成返航,进而提高可移动平台返航的准确性。
在本申请的一个实施例中,优选地,处理器14用于实现根据剩余续航里程和飞行轨迹,选定降落点的步骤,具体为:根据飞行轨迹和语义地图,确定可移动平台的预估返航里程;基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点。
在该实施例中,具体限定了处理器14根据剩余续航里程和飞行轨迹,选定降落点的步骤。处理器14通过根据飞行轨迹和语义地图,确定可移动平台的预估返航里程,即预估返航里程为可移动平台返回至飞行轨迹的起飞点的里程,处理器14基于预估返航里程小于或等于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台能够返回至飞行轨迹的起飞点,进而将飞行轨迹的起飞点作为降落点,进一步提高降落点的精确性,使得可移动平台能够安全、可靠、精准地降落在起飞点,提高了可移动平台返航的精准度。
可以理解的是,起飞点可以为飞行轨迹的起始点,也可以为指定的home点,也可以为指定飞行计划中的点,如靠近home点设定的其他点。
在本申请的一个实施例中,优选地,基于预估返航里程大于剩余续航里程的情况下,处理器14还用于实现:根据剩余续航里程和起飞点,在可降落区域中选定降落点。
在该实施例中,处理器14基于预估返航里程大于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台无法返回至飞行轨迹的起飞点,通过在可降落区域中选定降落点,保证可移动平台能够顺利完成降落,并能够实现安全、可靠降落,避免预估返航里程大于剩余续航里程,而将降落点设为飞行轨迹的起飞点而使可移动平台无法顺利完成降落而存在损坏或损毁的问题,进一步提高了可移动平台的可靠性,延长了可移动平台的使用寿命。
在本申请的一个实施例中,优选地,处理器14还用于实现:根据语义地图,控制可移动平台进行避障飞行;其中,避障飞行包括绕道飞行或爬升飞行。
在该实施例中,处理器14通过根据语义地图,控制可移动平台进行避障飞行,由于语义地图具有较高的置信度,能够完整、精确地获取真实场景的障碍物的位置信息,处理器14控制可移动平台进行障碍飞行避开障碍物,有利于提高可移动平台飞行的可靠性,进而延长可移动平台的使用寿命,提高产品的可靠性。
其中,避障飞行包括绕道飞行或爬升飞行,绕道飞行即绕过障碍物飞行,爬升飞行即向上飞行越过障碍物,可以理解的是,也可以包括其他飞行方式,如绕道飞行和爬行飞行同时进行。
进一步地,避障飞行可以在返航过程中进行避障飞行,也可以是可移动平台根据语义地图进行避障飞行,进一步提高飞行的可靠性。
在本申请的一个实施例中,优选地,可移动平台包括采集装置,处理器14还用于实现:控制采集装置采集多个图像。
在该实施例中,具体限定了语义地图的构建方法中采集多个图像的方式,通过控制可移动平台的采集装置采集多个图像,操纵简单,易于实现。
可以理解的是,采集装置可以为多个,多个采集装置能够采集不同视角、不同背景信息的场景的图像,进而有利于提高语义地图的置信度。可以理解的是,多个采集装置设置在可移动平台的不同位置,以便于采集可移动平台不同飞行姿态、不同视角、不同背景信息的图像。
在本申请的一个实施例中,优选地,处理器14还用于实现:根据可移动平台的飞行姿态,控制可移动平台朝向地面一侧的采集装置采集多个图像。
在该实施例中,由于可移动平台的降落点一般设置在地面上,即可移动平台最终是降落在地面上的降落点,处理器14通过根据可移动平台的飞行姿态,控制可移动平台朝向地面一侧的采集装置采集多个图像,进而获得地面一侧的语义地图,有利于使可移动平台安全、可靠、精准地降落在地面上的降落点,可操作强,易于实现,适于推广应用。
可以理解的是,处理器14也可以根据理想的降落点的方位,使靠近理想降落点的方位的一侧的采集装置采集多个图像,进而使可移动平台能够安全、可靠、精准地降落在理想降落点,进一步扩大产品的使用范围。
在本申请的一个实施例中,优选地,处理器14还用于实现:接收起飞指令,控制采集装置启动,以采集多个图像;以及接收返航指令或检测到可移动平台发生故障,控制采集装置关闭。
在该实施例中,处理器14通过接收起飞指令,控制采集装置启动,以采集多个图像,即当可移动平台起飞时就开始采集多个图像,并实时构建语义地图,处理器14通过接收返航指令或检测到可移动平台发生故障,控制采集装置关闭,即当可移动平台需要返航时,控制采集装置关闭,停止采集图像,并根据构建语义地图精准地获取位置信息,进而确定可移动平台的降落点,即降落位置信息,使可移动平台能够安全、可靠、精准地降落在降落点,完成返航,避免了相关技术中可移动平台降落在水中、树上、建筑物上等损坏或损毁可移动平台的问题,大大延长了可移动平台的使用寿命,提高可移动平台使用的安全性,并提高产品的可靠性。
进一步地,一方面,返航指令可以为用户选择的返航键触发的返航指令,另一方面,返航指令为可移动平台飞行至飞行轨迹的返航点时可移动平台的控制器发送的返航指令。返航指令的不同方式能够满足可移动平台不同工况的需求,进而扩大产品的使用范围,同时,有利于灵活控制可移动平台安全返航,进一步提高可移动平台的可靠性。
如图22所示,本申请的第三方面的实施例提出了一种可移动平台20,包括上述任一实施例的语义地图的构建***10;以及采集装置22,采集装置22与构建***相连接,采集装置22用于采集图像并发送至处理器。由于可移动平台20包括上述任一实施例的语义地图的构建***10,因此具有上述任一实施例的语义地图的构建***10的全部有益效果,在此不再赘述。
在本申请的一个实施例中,采集装置22包括:雷达、视觉传感器或多光谱传感器。
在该实施例中,采集装置22可以为雷达、视觉传感器或多光谱传感器,采集装置22的多种类型能够满足采集装置22不同安装位置、采集不同视角图像、采集不同背景信息图像的需求,同时能够满足可移动平台20不同成本的需求,有利于扩大产品的使用范围。可以理解的是,采集装置22也可以为满足要求的其他装置。
本申请的第四方面的实施例提出了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述任一实施例的语义地图的构建方法。因而具备上述任一技术方案的语义地图的构建方法的有益效果,在此不再赘述。
具体地,计算机可读存储介质可以包括能够存储或传输信息的任何介质。计算机可读存储介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
如图23所示,本申请的第五方面的实施例提出了一种可移动平台20,包括机体24、设于机体24上的供电电池26、动力***28、采集装置22和控制器21,供电电池26,用于为动力***28供电,动力***28,用于可移动平台20提供飞行动力;采集装置22,用于在可移动平台20飞行过程中,获取多个图像;控制器21,用于获取多个图像的语义分割信息;对多个图像进行拼接操作生成拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图。
本申请的实施例提供的可移动平台20包括:机体24、设于机体24上的供电电池26、动力***28、采集装置22和控制器21,其中,供电电池26用于为动力***28供电,动力***28用于为可移动平台20提供飞行动力;采集装置22用于在可移动平台20飞行过程中,获取多个图像,通过控制器21获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过控制器21对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
具体实施例中,通过图像采集装置22采集多个图像,多个图像的采集时间为连续的,图像采集装置22包括并不限于:视觉传感器、雷达、多光谱传感器。
在本申请的一个实施例中,优选地,控制器21具体用于:通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息。
在该实施例中,控制器21通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息,能够完整、精确地获得图像中的实体内容的信息,进而有利于根据多个图像的语义分割信息获取的语义地图完整、精确地体现了真实场景的多个实体内容,具有较高的置信度,提高场景理解的精确度。
可以理解的是,控制器21可以通过其他方法获得多个图像的语义分割信息。具体地,卷积神经网络(CNN,Convolutional Neural Networks)适用于各种场景任务,特别是场景目标语义信息、位置信息的获取,因此CNN可以被用来识别航拍场景的各种目标的语义信息和位置信息。
具体实施例中,通过图像采集装置22进行连续采集多个图像,控制器21将多个图像输入预设的卷积神经网络模块进行语义分割以得到语义分隔信息,根据语义分隔信息和多个图像进行拼接生成的拼接图像构建出语义地图。控制器21通过图像采集装置22连续采集图像,可以获得更完整和详细的语义地图;进一步控制器21通过卷积神经网络获取多个图像的语义分割信息,可以更准确的获取图像中的实体场景,进而得到更精确的语义地图。
在本申请的一个实施例中,优选地,多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,控制器21在对多个图像进行拼接生成拼接图像的步骤之前,控制器21还用于:获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除。
在该实施例中,由于多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,控制器21在对多个图像进行拼接生成拼接图像的步骤之前,通过获取每一个像素点的语义识别结果的置信度,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得根据多个图像的语义分割信息获取的语义地图具有较高的置信度,能够完整、精确地体现真实场景的实体内容,提高场景理解的精确度,使得通过语义地图能够精准的获取位置信息。
进一步地,语义识别结果可以为与图像对应的真实场景中的实体内容,可以理解的是,语义识别结果可以为多个,对应于真实场景中的多个实体内容。
可以理解的是,语义分割信息包括若干个像素点的语义识别结果和语义识别结果对应的置信度,通过置信度与预设阈值的比较,将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,即语义分割信息能够真实、完整地体现图像对应的实体内容的信息,进而使得通过语义地图能够精准的获取位置信息。
在本申请的一个实施例中,优选地,控制器21具体用于:根据可移动平台20相对于多个图像所对应的实体的与高度信息,对多个图像进行拼接生成拼接图像。
在该实施例中,控制器21通过根据可移动平台20相对于多个图像所对应的实体的高度信息,对多个图像进行拼接生成拼接图像,有利于保证生成的拼接图像具有较高的清晰度和还原度,各实体的高度真实体现在拼接图像中,进而有利于获取的拼接图像的语义地图具有较高的置信度,并提高了场景理解的精确度。
优选地,实体的高度信息由可移动平台上的双目摄像头测量得到。
进一步地,控制器21通过根据可移动平台20相对于多个图像所对应的实体的高度信息和语义分割信息的识别结果进行二维语义地图的拼接,使得通过拼接图像的语义地图能够精确地获取场景中的目标语义信息和距离信息,使得通过语义地图获取的位置信息更加准确,进而有利于可移动平台20根据目标语义信息和距离信息准确移动,提高了可移动平台20移动的安全性和准确性,有利于提高产品的可靠性。其中,目标语义信息可以为与图像相对应的多个实体内容中的目标实体的信息,距离信息可以为可移动平台20与目标实体的距离。具体实施例中,可移动平台为无人机,目标语义信息为图像中的地面所对应的语义信息,距离信息为无人机与地面之间的距离,通过根据地面的语义信息及无人机与地面之间的距离,能够精准地获取地面的位置信息,进而使无人机能够安全、准确地降落在地面上。
具体地,控制器21可以对任一图像进行单帧识别来获取每一个像素点的语义识别结果,控制采集装置22进行连续采集多个图像,并结合可移动平台20相对于多个图像所对应的实体的高度信息,进行图像拼接,实现多帧构建实时的语义地图。可以理解的是,控制器21也可以通过其他方式获取每一个像素点的语义识别结果。具体地,当可移动平台20为无人机时,高度为图像对应的实体结构与无人机的距离。具体地,图像拼接时,多个图像重叠的部分可以进行融合,例如,对多个图像重叠部分的每一个像素点的识别结果的置信度进行比较,通过保留置信度较高的图像、删除置信度较低的图像对重叠部分的图像进行融合,即最大限度的提取每个图像中的有利信息,能够使融合后的拼接图像保证了场景的完整度和真实性,进而使语义地图具有较高的置信度。
在本申请的一个实施例中,优选地,语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
在该实施例中,语义识别结果包括建筑物、天空、树、水面、地面中的一种或多种,语义识别结果的多种类型包括了与图片对应的真实场景中的多种实体内容,进而使得语义结果能够真实、完整地体现图像对应的实体内容,有利于提高场景理解的精确度。进一步地,语义识别结果也可以包括满足要求的其他内容。
在本申请的一个实施例中,优选地,采集装置22具体用于按照预设频率采集多个图像。
在该实施例中,通过采集装置22按照预设频率采集多个图像,可以得到不同视角、不同背景信息的场景的图像,使得控制器21通过多个图像能够完整、精确地反映真实场景中不同视角、不同位置、不同背景信息的实体内容,有利于通过多个图像的语义分割信息得到完整的、精确的真实场景中的多个实体内容,进而保证语义地图的可靠性和准确性。
在本申请的一个实施例中,优选地,控制器21具体用于:根据语义地图,确定可移动平台20的降落点;根据可移动平台20的降落点,控制可移动平台20进行降落。
在该实施例中,控制器21通过根据语义地图,确定可移动平台20的降落点,使得根据置信度较高、场景理解精确度较高的语义地图能够精准地获取位置信息,进而确定可移动平台20的降落点,且降落点安全可靠,控制器21并根据可移动平台20的降落点控制动力***28工作使可移动平台20进行降落,使得可移动平台20能够安全、可靠、精准地降落至通过语义地图确定的降落点,避免了相关技术中可移动平台20降落在水中、树上、建筑物上等损坏或损毁可移动平台20的问题,大大延长了可移动平台20的使用寿命,提高可移动平台20使用的安全性,并提高产品的可靠性。
在本申请的一个实施例中,优选地,控制器21根据语义地图,确定可移动平台20的降落点具体为:根据语义地图,确定可移动平台20的可降落区域;根据可移动平台20的状态信息,在可降落区域中选定降落点。
在该实施例中,控制器21通过根据语义地图,确定可移动平台20的可降落区域,可降落区域可以为根据语义地图得到的安全、可靠的允许可移动平台20降落的区域,即,不包括能够使可移动平台20降落存在危险或破坏性的区域,如水、树、建筑物等区域,进而避免了可移动平台20在降落时损坏或损毁,有利于延长可移动平台20的使用寿命;控制器21通过根据可移动平台20的状态信息,在可降落区域中选定降落点,有利于结合可移动平台20的状态信息,使选择的降落点能够保证可移动平台20安全、可靠地降落,避免由于可移动平台20的自身的状态无法满足顺利抵达降落点或无法在降落点顺利完成降落,进一步保证了可移动平台20能够安全、顺利、可靠、精准地降落在降落点,提高可移动平台20的可靠性。
在本申请的一个实施例中,优选地,控制器21根据可移动平台20的状态信息,在可降落区域中选定降落点的步骤,具体为:获取供电电池26的剩余电量;根据剩余电量和语义地图,在可降落区域中选定降落点。
在该实施例中,具体限定了控制器21根据可移动平台20的状态信息,在可降落区域中选定降落点的步骤。控制器21通过获取可移动平台20的供电电池26的剩余电量,根据剩余电量和语义地图,在可降落区域中选定降落点,使得选定的降落点能够保证可移动平台20利用供电电池26剩余电量顺利降落在降落点,避免了供电电池26的剩余电量无法使可移动平台20顺利抵达降落点而损坏或损毁可移动设备,使得选定的降落点具有较高的准确性,进而保证了可移动平台20能够可靠、安全地完成降落,延长可移动平台20的使用寿命。
在本申请的一个实施例中,优选地,控制器21具体还用于:获取可移动平台20的飞行轨迹,根据飞行轨迹和剩余电量,选定降落点。
在该实施例中,控制器21通过获取可移动平台20的飞行轨迹,根据飞行轨迹和供电电池26剩余电量选定降落点,使得选定的降落点与飞行轨迹相适配,有利于可移动平台20依照飞行轨迹实现返航,提高可移动平台20返航的准确性,同时能够保证可移动平台20利用供电电池26剩余电量顺利降落在降落点,进而提高可移动平台20降落的可靠性和安全性。
在本申请的一个实施例中,优选地,控制器21具体还用于:根据供电电池26的剩余电量确定供电电池26的剩余续航里程,根据剩余续航里程和飞行轨迹,选定降落点。
在该实施例中,控制器21通过根据供电电池26的剩余电量确定电池的剩余续航里程,将供电电池26的剩余电量具体量化为电池的剩余续航里程,使得根据量化的剩余续航里程和飞行轨迹,准确、合理地选定降落点,有利于提高降落位置信息的精确性,既能够保证可移动平台20安全、可靠地降落在降落点,并基于剩余电量确定的剩余续航里程最大限度的依照飞行轨迹完成返航,进而提高可移动平台20返航的准确性。
在本申请的一个实施例中,优选地,控制器21根据剩余续航里程和飞行轨迹,选定降落点的步骤,具体为:根据飞行轨迹和语义地图,确定可移动平台20的预估返航里程;基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点。
在该实施例中,控制器21通过根据飞行轨迹和语义地图,确定可移动平台20的预估返航里程,即预估返航里程为可移动平台20返回至飞行轨迹的起飞点的里程,基于预估返航里程小于或等于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台20能够返回至飞行轨迹的起飞点,进而控制器21将飞行轨迹的起飞点作为降落点,进一步提高降落点的精确性,使得可移动平台20能够安全、可靠、精准地降落在起飞点,提高了可移动平台20返航的精准度。
可以理解的是,起飞点可以为飞行轨迹的起始点,也可以为指定的home点,也可以为指定飞行计划中的点,如靠近home点设定的其他点。
在本申请的一个实施例中,优选地,基于预估返航里程大于剩余续航里程的情况下,控制器21具体还用于:根据剩余续航里程和起飞点,在可降落区域中选定降落点。
在该实施例中,基于预估返航里程大于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台20无法返回至飞行轨迹的起飞点,控制器21通过在可降落区域中选定降落点,保证可移动平台20能够顺利完成降落,并能够实现安全、可靠降落,避免预估返航里程大于剩余续航里程,而将降落点设为飞行轨迹的起飞点而使可移动平台20无法顺利完成降落而存在损坏或损毁的问题,进一步提高了可移动平台20的可靠性,延长了可移动平台20的使用寿命。
在本申请的一个实施例中,优选地,控制器21具体还用于:根据语义地图,控制可移动平台20进行避障飞行;其中,避障飞行包括绕道飞行或爬升飞行。
在该实施例中,控制器21通过根据语义地图,控制可移动平台20进行避障飞行,由于语义地图具有较高的置信度,能够完整、精确地获取真实场景的障碍物的位置信息,控制器21控制可移动平台20进行障碍飞行避开障碍物,有利于提高可移动平台20飞行的可靠性,进而延长可移动平台20的使用寿命,提高产品的可靠性。
其中,避障飞行包括绕道飞行或爬升飞行,绕道飞行即绕过障碍物飞行,爬升飞行即向上飞行越过障碍物,可以理解的是,也可以包括其他飞行方式,如绕道飞行和爬行飞行同时进行。
进一步地,避障飞行可以在返航过程中进行避障飞行,也可以是可移动平台根据语义地图进行避障飞行,进一步提高飞行的可靠性。
在本申请的一个实施例中,优选地,控制器21还用于:根据可移动平台20的飞行姿态,控制可移动平台20朝向地面一侧的采集装置22采集多个图像。
在该实施例中,由于可移动平台20的降落点一般设置在地面上,即可移动平台20最终是降落在地面上的降落点,控制器21通过根据可移动平台20的飞行姿态,控制可移动平台20朝向地面一侧的采集装置22采集多个图像,进而获得地面一侧的语义地图,有利于使可移动平台20安全、可靠、精准地降落在地面上的降落点,可操作强,易于实现,适于推广应用。
可以理解的是,控制器21也可以根据理想的降落点的方位,使靠近理想降落点的方位的一侧的采集装置22采集多个图像,进而使可移动平台20能够安全、可靠、精准地降落在理想降落点,进一步扩大产品的使用范围。
在本申请的一个实施例中,优选地,采集装置22包括:雷达、视觉传感器或多光谱传感器。
在该实施例中,采集装置22可以为雷达、视觉传感器或多光谱传感器,采集装置22的多种类型能够满足采集装置22不同安装位置、采集不同视角图像、采集不同背景信息图像的需求,同时能够满足可移动平台20不同成本的需求,有利于扩大产品的使用范围。可以理解的是,采集装置22也可以为满足要求的其他装置。
在本申请的一个实施例中,优选地,控制器21还用于:接收起飞指令,控制动力***28和采集装置22启动,以控制可移动平台20飞行及采集装置22采集多个图像;以及接收返航指令或检测到可移动平台20发生故障,控制采集装置22关闭。
在该实施例中,控制器21通过接收起飞指令,控制动力***28启动,可移动平台起飞,并控制采集装置22启动以采集多个图像,即当可移动平台20起飞时采集装置22就开始采集多个图像,控制器21并实时构建语义地图,控制器21通过接收返航指令或检测到可移动平台20发生故障,控制采集装置22关闭,即当可移动平台20需要返航时,控制采集装置22关闭,停止采集图像,并停止构建语义地图,并根据构建语义地图精准地获取位置信息,进而确定可移动平台20的降落点,使可移动平台20能够安全、可靠、精准地降落在降落点,完成返航,避免了相关技术中可移动平台20降落在水中、树上、建筑物上等损坏或损毁可移动平台20的问题,大大延长了可移动平台20的使用寿命,提高可移动平台20使用的安全性,并提高产品的可靠性。
进一步地,一方面,返航指令可以为用户选择的返航键触发的返航指令,另一方面,返航指令为可移动平台20飞行至飞行轨迹的返航点时可移动平台20的控制器21发送的返航指令。返航指令的不同方式能够满足可移动平台20不同工况的需求,进而扩大产品的使用范围,同时,有利于灵活控制可移动平台20安全返航,进一步提高可移动平台20的可靠性。
在具体实施例中,本申请的可移动平台20为无人机,而相关技术中的无人机,无人机场景由于复杂的环境,返航时通常不能找到安全可靠的降落环境而出现掉落水中、树上、建筑物之上等情况使得无人机出现损毁,而本申请的无人机,包括机体24、设于机体24上的供电电池26、动力***28、采集装置22和控制器21,控制器21通过接收起飞指令,控制动力***28启动,无人机起飞,并控制采集装置22启动,即在起飞时通过采集装置22(如雷达、视觉传感器、多光谱传感器)实时采集多个图像,并实时将多个图像进行拼接操作。而多个图像可以为连续采集的不同视角、不同背景信息的场景的图像,如可以为无人机遮挡场景时采集的图像,控制器21通过预设的卷积神经网络模块对多个图像进行语义分割以得到多个图像的语义分割信息,其中,任一图像对应的语义分割信息包括若干个像素点的语义识别结果。具体图像的语义识别过程可以为,将预处理之后的图像数据以RGB(Red Green Blue,色彩模式)三通道数据送入网络模型中,依次由前向传播后即经过网络模型的迭代后得到网络输出结果。具体过程如图24所示,图像数据输入的格式为N×4×H×W,将输入数据经过由多个“Conv+bn+Relu”运算层构成的卷积神经网络的处理后,得到网络输出结果为一个N×K×H×W的张量,对其进行处理后得到识别结果和识别置信度,通过将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果,语义识别结果可以包括:建筑、天空、树、水面、地面等,即语义分割信息能够真实、完整地体现图像对应的实体内容。然后,控制器21通过根据无人机相对于多个图像所对应的实体的高度信息和语义分割信息的识别结果进行二维语义地图的拼接,具体地,采用多帧图像并结合无人机相对于多个图像所对应的实体的高度进行拼接,而对于多个图像重叠的部分进行融合得到拼接图像,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容的信息,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,通过语义地图能够精准的获取位置信息。
当无人机控制器21接收返航指令或检测到无人机发生故障时,控制采集装置22停止采集图像,根据当前时刻构成的语义地图,通过语义地图的构建方法实现了对无人机场景内语义信息和降落点信息的精确获取。具体地,通过获取无人机的飞行轨迹和无人机的供电电池26的剩余电量,根据飞行轨迹和剩余电量选定降落点,获取精准的降落位置信息,避免了相关技术中无人机降落在水中、树上、建筑物上等损坏或损毁无人机的问题,大大延长了无人机的使用寿命,提高无人机使用的安全性,并提高产品的可靠性。其中,选定的降落点与飞行轨迹相适配,有利于无人机依照降落位置信息实现返航,提高无人机返航的准确性,同时能够保证无人机利用剩余电量顺利降落在降落点,进而提高无人机降落的可靠性和安全性。
由于语义地图具有较高的置信度,能够完整、精确地获取真实场景的障碍物的位置信息,通过控制器21控制无人机在返航时进行避障飞行避开障碍物,有利于提高无人机飞行的可靠性,进而延长无人机的使用寿命,提高产品的可靠性。
本申请的第六方面的实施例提供了一种搜索降落点的方法,适用于一可移动平台,包括步骤:根据以上任一项实施例提供的语义地图的构建方法获取语义地图;根据语义地图,确定可移动平台的降落点;根据可移动平台的降落点,控制可移动平台进行降落。
本申请提供的可移动平台包括:机体、设于机体上的供电电池、动力***、采集装置和控制器,其中,供电电池用于为动力***供电,动力***用于为可移动平台提供飞行动力;采集装置用于在可移动平台飞行过程中,获取多个图像,通过控制器获取多个图像的语义分割信息,而多个图像可以为不同视角、不同背景信息的场景的图像,有利于控制器通过多个图像的语义分割信息得到完整的、精确的真实场景的多个实体内容的信息,通过控制器对多个图像进行拼接操作生成拼接图像,有利于保证场景的完整度和真实性,根据多个图像的语义分割信息,获取拼接图像的语义地图,使得语义地图较好的趋于真实场景,并完整、精确地体现了真实场景的多个实体内容,进而使得获取的语义地图具有较高的置信度,提高了场景理解的精确度,使得控制器通过语义地图能够精准的获取位置信息。
进一步地,通过根据语义地图,确定可移动平台的降落点,使得根据置信度较高、场景理解精确度较高的语义地图能够精准地获取位置信息,进而确定可移动平台的降落点,且降落点安全可靠,并根据可移动平台的降落点控制可移动平台进行降落,使得可移动平台能够安全、可靠、精准地降落至通过语义地图确定的降落点,避免了相关技术中可移动平台降落在水中、树上、建筑物上等损坏或损毁可移动平台的问题,大大延长了可移动平台的使用寿命,提高可移动平台使用的安全性,并提高产品的可靠性。
本申请的一个实施例中,根据语义地图,确定可移动平台的降落点具体为:根据语义地图,确定可移动平台的可降落区域;根据可移动平台的状态信息,在可降落区域中选定降落点。
在该实施例中,通过根据语义地图,确定可移动平台的可降落区域,可降落区域可以为根据语义地图得到的安全、可靠的允许可移动平台降落的区域,即,不包括能够使可移动平台降落存在危险或破坏性的区域,如水、树、建筑物等区域,进而避免了可移动平台在降落时损坏或损毁,有利于延长可移动平台的使用寿命;通过根据可移动平台的状态信息,在可降落区域中选定降落点,有利于结合可移动平台的状态信息,使选择的降落点能够保证可移动平台安全、可靠地降落,避免由于可移动平台的自身的状态无法满足顺利抵达降落点或无法在降落点顺利完成降落,进一步保证了可移动平台能够安全、顺利、可靠、精准地降落在降落点,提高可移动平台的可靠性。
本申请的一个实施例中,根据可移动平台的状态信息,在可降落区域中选定降落点的步骤,具体为:获取可移动平台的电池的剩余电量;根据剩余电量和语义地图,在可降落区域中选定降落点。
在该实施例中,具体限定了根据可移动平台的状态信息,在可降落区域中选定降落点的步骤。通过获取可移动平台的电池的剩余电量,根据剩余电量和语义地图,在可降落区域中选定降落点,使得选定的降落点能够保证可移动平台利用剩余电量顺利降落在降落点,避免了电池的剩余电量无法使可移动平台顺利抵达降落点而损坏或损毁可移动设备,使得选定的降落点具有较高的准确性,进而保证了可移动平台能够可靠、安全地完成降落,延长可移动平台的使用寿命。
在本申请的一个实施例中,搜索降落点的方法还包括:获取可移动平台的飞行轨迹,根据飞行轨迹和剩余电量,选定降落点。
在该实施例中,通过获取可移动平台的飞行轨迹和可移动平台的电池的剩余电量,根据飞行轨迹和剩余电量选定降落点,使得选定的降落点与飞行轨迹相适配,有利于可移动平台依照飞行轨迹实现返航,提高可移动平台返航的准确性,同时能够保证可移动平台利用剩余电量顺利降落在降落点,进而提高可移动平台降落的可靠性和安全性。
在本申请的一个实施例中,搜索降落点的方法还包括:根据电池的剩余电量确定电池的剩余续航里程,根据剩余续航里程和飞行轨迹,选定降落点。
在该实施例中,根据语义地图分别获取可移动平台的电池的剩余电量和获取可移动平台的飞行轨迹,通过根据电池的剩余电量确定电池的剩余续航里程,将电池的剩余电量具体量化为电池的剩余续航里程,并根据剩余续航里程和飞行轨迹,选定降落点,使得根据量化的剩余续航里程和飞行轨迹,准确、合理地选定降落点,有利于提高降落位置信息的精确性,既能够保证可移动平台安全、可靠地降落在降落点,并基于剩余电量确定的剩余续航里程最大限度的依照飞行轨迹完成返航,进而提高可移动平台返航的准确性。
在本申请的一个实施例中,根据剩余续航里程和飞行轨迹,选定降落点的步骤,具体为:根据飞行轨迹和语义地图,确定可移动平台的预估返航里程;基于预估返航里程小于或等于剩余续航里程的情况下,将飞行轨迹的起飞点作为降落点;基于预估返航里程大于剩余续航里程的情况下,根据剩余续航里程和起飞点,在可降落区域中选定降落点。
在该实施例中,具体限定了根据剩余续航里程和飞行轨迹,选定降落点的步骤。根据语义地图分别获取可移动平台的电池的剩余电量和获取可移动平台的飞行轨迹,并通过根据飞行轨迹和语义地图,确定可移动平台的预估返航里程,即预估返航里程为可移动平台返回至飞行轨迹的起飞点的里程,基于预估返航里程小于或等于剩余续航里程和预估返航里程大于剩余续航里程两种情况,一方面,基于预估返航里程小于或等于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台能够返回至飞行轨迹的起飞点,进而将飞行轨迹的起飞点作为降落点,进一步提高降落点的精确性,使得可移动平台能够安全、可靠、精准地降落在起飞点,提高了可移动平台返航的精准度。
另一方面,基于预估返航里程大于剩余续航里程的情况下,说明利用电池的剩余电量可移动平台无法返回至飞行轨迹的起飞点,通过在可降落区域中选定降落点,保证可移动平台能够顺利完成降落,并能够实现安全、可靠降落,避免预估返航里程大于剩余续航里程,而将降落点设为飞行轨迹的起飞点而使可移动平台无法顺利完成降落而存在损坏或损毁的问题,进一步提高了可移动平台的可靠性,延长了可移动平台的使用寿命。
可以理解的是,起飞点可以为飞行轨迹的起始点,也可以为指定的home点,也可以为指定飞行计划中的点,如靠近home点设定的其他点。
在具体实施例中,可移动平台20获取降落点的位置信息的具体过程如图25所示,可移动平台20的控制器21控制采集装置22实时获取的多个图像输入至卷积神经网络(CNN)模块,并对多个图像进行语义分割得到语义分割信息,输出的语义分割信息包括多个图像中的任一图像的若干个像素点的语义识别结果和语义识别置信度。进一步地,根据语义置信度将置信度低于预设阈值的语义识别结果删除,使得语义分割信息中仅包括置信度较高的语义识别结果。通过对多个图像进行拼接生成拼接图像,对拼接图像中的重叠部分进行融合,再将体现有语义识别结果的多帧图像的语义识别图覆盖在拼接图像上,即可获得多帧拼接图像的实时语义地图。根据构建的语义地图,一方面,通过语义地图的构建方法对目标降落点进行语义判断,即可获得精准的降落点的位置信息,另一方面,通过语义地图的构建方法对目标降落点进行语义判断和智能搜索(如可移动平台20的电池的剩余电量、飞行轨迹等),即可获得精准的降落点的位置信息,进而有利于可移动平台20安全、可靠地降落,延长可移动平台20的使用寿命。
在本申请中,术语“多个”则指两个或两个以上,除非另有明确的限定。术语“安装”、“相连”、“连接”、“固定”等术语均应做广义理解,例如,“连接”可以是固定连接,也可以是可拆卸连接,或一体地连接;“相连”可以是直接相连,也可以通过中间媒介间接相连。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。
在本说明书的描述中,术语“一个实施例”、“一些实施例”、“具体实施例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或实例。而且,描述的具体特征、结构、材料或特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上仅为本申请的优选实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (62)
1.一种语义地图的构建方法,所述方法包括:
获取多个图像的语义分割信息;
对所述多个图像进行拼接操作生成拼接图像,根据所述多个图像的语义分割信息,获取所述拼接图像的语义地图。
2.根据权利要求1所述的语义地图的构建方法,其中,所述获取多个图像的语义分割信息具体为:
通过预设的卷积神经网络模块对所述多个图像进行语义分割以得到所述多个图像的语义分割信息。
3.根据权利要求2所述的语义地图的构建方法,其中,所述多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,在对所述多个图像进行拼接生成拼接图像的步骤之前,还包括:
获取每一个像素点的语义识别结果的置信度,将所述置信度低于预设阈值的语义识别结果删除。
4.根据权利要求3所述的语义地图的构建方法,适用于可移动平台,所述方法还包括:
根据所述可移动平台相对于所述多个图像所对应的实体的高度信息,对所述多个图像进行拼接生成所述拼接图像。
5.根据权利要求3所述的语义地图的构建方法,其中,所述语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
6.根据权利要求1所述的语义地图的构建方法,所述方法还包括:
按照预设频率采集所述多个图像。
7.根据权利要求4所述的语义地图的构建方法,所述方法还包括:
根据所述语义地图,确定所述可移动平台的降落点;
根据所述可移动平台的降落点,控制所述可移动平台进行降落。
8.根据权利要求7所述的语义地图的构建方法,其中,根据所述语义地图,确定所述可移动平台的降落点具体为:
根据所述语义地图,确定所述可移动平台的可降落区域;
根据所述可移动平台的状态信息,在所述可降落区域中选定降落点。
9.根据权利要求8所述的语义地图的构建方法,其中,所述根据所述可移动平台的状态信息,在所述可降落区域中选定降落点的步骤,具体为:
获取所述可移动平台的电池的剩余电量;
根据所述剩余电量和所述语义地图,在所述可降落区域中选定所述降落点。
10.根据权利要求9所述的语义地图的构建方法,所述方法还包括:
获取所述可移动平台的飞行轨迹,根据所述飞行轨迹和所述剩余电量,选定所述降落点。
11.根据权利要求10所述的语义地图的构建方法,所述方法还包括:
根据所述电池的剩余电量确定所述电池的剩余续航里程,根据所述剩余续航里程和所述飞行轨迹,选定所述降落点。
12.根据权利要求11所述的语义地图的构建方法,其中,所述根据所述剩余续航里程和所述飞行轨迹,选定所述降落点的步骤,具体为:
根据所述飞行轨迹和所述语义地图,确定所述可移动平台的预估返航里程;
基于所述预估返航里程小于或等于所述剩余续航里程的情况下,将所述飞行轨迹的起飞点作为所述降落点。
13.根据权利要求12所述的语义地图的构建方法,其中,基于所述预估返航里程大于所述剩余续航里程的情况下,还包括:
根据所述剩余续航里程和所述起飞点,在所述可降落区域中选定所述降落点。
14.根据权利要求7至13中任一项所述的语义地图的构建方法,其中,所述方法还包括:
根据所述语义地图,控制所述可移动平台进行避障飞行;
其中,所述避障飞行包括绕道飞行或爬升飞行。
15.根据权利要求7至13中任一项所述的语义地图的构建方法,其中,所述可移动平台包括采集装置,所述构建方法还包括:
控制所述采集装置采集所述多个图像。
16.根据权利要求15所述的语义地图的构建方法,其中,还包括:根据所述可移动平台的飞行姿态,控制所述可移动平台朝向地面一侧的所述采集装置采集所述多个图像。
17.根据权利要求15所述的语义地图的构建方法,其中,
所述采集装置包括:雷达、视觉传感器或多光谱传感器。
18.根据权利要求15所述的语义地图的构建方法,其中,还包括:接收起飞指令,控制所述采集装置启动,以采集所述多个图像;以及
接收返航指令或检测到所述可移动平台发生故障,控制所述采集装置关闭。
19.一种语义地图的构建***,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序以实现:
获取多个图像的语义分割信息;
对所述多个图像进行拼接操作生成拼接图像,根据所述多个图像的语义分割信息,获取所述拼接图像的语义地图。
20.根据权利要求19所述的语义地图的构建***,其中,所述处理器用于执行获取多个图像的语义分割信息具体为:
通过预设的卷积神经网络模块对所述多个图像进行语义分割以得到所述多个图像的语义分割信息。
21.根据权利要求20所述的语义地图的构建***,其中,所述多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,所述处理器用于执行在对所述多个图像进行拼接生成拼接图像的步骤之前,还用于:
获取每一个像素点的语义识别结果的置信度,将所述置信度低于预设阈值的语义识别结果删除。
22.根据权利要求21所述的语义地图的构建***,适用于可移动平台,其中,所述处理器用于实现:
根据所述可移动平台相对于所述多个图像所对应的实体的高度信息,对所述多个图像进行拼接生成所述拼接图像。
23.根据权利要求21所述的语义地图的构建***,其中,所述语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
24.根据权利要求19所述的语义地图的构建***,其中,所述处理器还用于实现:
按照预设频率采集所述多个图像。
25.根据权利要求22所述的语义地图的构建***,其中,所述处理器还用于实现:
根据所述语义地图,确定所述可移动平台的降落点;
根据所述可移动平台的降落点,控制所述可移动平台进行降落。
26.根据权利要求25所述的语义地图的构建***,其中,所述处理器用于实现:
根据所述语义地图,确定所述可移动平台的降落点具体为:
根据所述语义地图,确定所述可移动平台的可降落区域;
根据所述可移动平台的状态信息,在所述可降落区域中选定降落点。
27.根据权利要求26所述的语义地图的构建***,其中,所述处理器用于实现:
所述根据所述可移动平台的状态信息,在所述可降落区域中选定降落点的步骤,具体为:
获取所述可移动平台的电池的剩余电量;
根据所述剩余电量和所述语义地图,在所述可降落区域中选定所述降落点。
28.根据权利要求27所述的语义地图的构建***,其中,所述处理器还用于实现:
获取所述可移动平台的飞行轨迹,根据所述飞行轨迹和所述剩余电量,选定所述降落点。
29.根据权利要求28所述的语义地图的构建***,其中,所述处理器还用于实现:
根据所述电池的剩余电量确定所述电池的剩余续航里程,根据所述剩余续航里程和所述飞行轨迹,选定所述降落点。
30.根据权利要求29所述的语义地图的构建***,其中,所述处理器用于实现所述根据所述剩余续航里程和所述飞行轨迹,选定所述降落点的步骤,具体为:
根据所述飞行轨迹和所述语义地图,确定所述可移动平台的预估返航里程;
基于所述预估返航里程小于或等于所述剩余续航里程的情况下,将所述飞行轨迹的起飞点作为所述降落点。
31.根据权利要求30所述的语义地图的构建***,其中,基于所述预估返航里程大于所述剩余续航里程的情况下,所述处理器还用于实现:
根据所述剩余续航里程和所述起飞点,在所述可降落区域中选定所述降落点。
32.根据权利要求25至31中任一项所述的语义地图的构建***,其中,所述处理器还用于实现:根据所述语义地图,控制所述可移动平台进行避障飞行;
其中,所述避障飞行包括绕道飞行或爬升飞行。
33.根据权利要求25至31中任一项所述的语义地图的构建***,其中,所述可移动平台包括采集装置,所述处理器还用于实现:控制所述采集装置采集所述多个图像。
34.根据权利要求33所述的语义地图的构建***,其中,所述处理器还用于实现:根据所述可移动平台的飞行姿态,控制所述可移动平台朝向地面一侧的所述采集装置采集所述多个图像。
35.根据权利要求33所述的语义地图的构建***,其中,所述处理器还用于实现:
接收起飞指令,控制所述采集装置启动,以采集所述多个图像;以及
接收返航指令或检测到所述可移动平台发生故障,控制所述采集装置关闭。
36.一种可移动平台,其中,包括如权利要求19至35中任一项所述的语义地图的构建***;以及
采集装置,所述采集装置与所述构建***相连接,所述采集装置用于采集所述图像并发送至所述处理器。
37.根据权利要求36所述的可移动平台,其中,
所述采集装置包括:雷达、视觉传感器或多光谱传感器。
38.一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1至18中任一项所述的语义地图的构建方法。
39.一种可移动平台,其中,包括机体、设于所述机体上的供电电池、动力***、采集装置和控制器,其中,
所述供电电池,用于为所述动力***供电;
所述动力***,用于所述可移动平台提供飞行动力;
所述采集装置,用于在所述可移动平台飞行过程中,获取多个图像;
所述控制器,用于获取所述多个图像的语义分割信息;对所述多个图像进行拼接操作生成拼接图像,根据所述多个图像的语义分割信息,获取所述拼接图像的语义地图。
40.根据权利要求39所述的可移动平台,其中,所述控制器具体用于通过预设的卷积神经网络模块对所述多个图像进行语义分割以得到所述多个图像的语义分割信息。
41.根据权利要求40所述的可移动平台,其中,所述多个图像中的任一图像对应的语义分割信息包括若干个像素点的语义识别结果,所述控制器在对所述多个图像进行拼接生成拼接图像的步骤之前,所述控制器还用于:
获取每一个像素点的语义识别结果的置信度,将所述置信度低于预设阈值的语义识别结果删除。
42.根据权利要求41所述的可移动平台,其中,所述控制器具体用于:
根据所述可移动平台相对于所述多个图像所对应的实体的与高度信息,对所述多个图像进行拼接生成所述拼接图像。
43.根据权利要求41所述的可移动平台,其中,所述语义识别结果包括以下至少一种:建筑物、天空、树、水面、地面。
44.根据权利要求39所述的可移动平台,其中,
所述采集装置具体用于按照预设频率采集所述多个图像。
45.根据权利要求42所述的可移动平台,所述控制器具体用于:
根据所述语义地图,确定所述可移动平台的降落点;
根据所述可移动平台的降落点,控制所述可移动平台进行降落。
46.根据权利要求45所述的可移动平台,其中,所述控制器根据所述语义地图,确定所述可移动平台的降落点具体为:
根据所述语义地图,确定所述可移动平台的可降落区域;
根据所述可移动平台的状态信息,在所述可降落区域中选定降落点。
47.根据权利要求46所述的可移动平台,其中,所述控制器根据所述可移动平台的状态信息,在所述可降落区域中选定降落点的步骤,具体为:
获取所述供电电池的剩余电量;
根据所述剩余电量和所述语义地图,在所述可降落区域中选定所述降落点。
48.根据权利要求47所述的可移动平台,其中,所述控制器具体还用于:
获取所述可移动平台的飞行轨迹,根据所述飞行轨迹和所述剩余电量,选定所述降落点。
49.根据权利要求48所述的可移动平台,所述控制器具体还用于:
根据所述供电电池的剩余电量确定所述供电电池的剩余续航里程,根据所述剩余续航里程和所述飞行轨迹,选定所述降落点。
50.根据权利要求49所述的可移动平台,其中,所述控制器根据所述剩余续航里程和所述飞行轨迹,选定所述降落点的步骤,具体为:
根据所述飞行轨迹和所述语义地图,确定所述可移动平台的预估返航里程;
基于所述预估返航里程小于或等于所述剩余续航里程的情况下,将所述飞行轨迹的起飞点作为所述降落点。
51.根据权利要求50所述的可移动平台,其中,基于所述预估返航里程大于所述剩余续航里程的情况下,所述控制器具体还用于:
根据所述剩余续航里程和所述起飞点,在所述可降落区域中选定所述降落点。
52.根据权利要求39至51中任一项所述的可移动平台,其中,所述控制器具体还用于:
根据所述语义地图,控制所述可移动平台进行避障飞行;
其中,所述避障飞行包括绕道飞行或爬升飞行。
53.根据权利要求39至51中任一项所述的可移动平台,其中,所述控制器还用于:根据所述可移动平台的飞行姿态,控制所述可移动平台朝向地面一侧的所述采集装置采集所述多个图像。
54.根据权利要求39至51中任一项所述的可移动平台,其中,
所述采集装置包括:雷达、视觉传感器或多光谱传感器。
55.根据权利要求39至51中任一项所述的可移动平台,其中,所述控制器还用于:接收起飞指令,控制所述动力***和所述采集装置启动,以控制所述可移动平台飞行及所述采集装置采集所述多个图像;以及
接收返航指令或检测到所述可移动平台发生故障,控制所述采集装置关闭。
56.一种搜索降落点的方法,适用于一可移动平台,其中,包括步骤:
根据如权利要求1至6中任一项所述的语义地图的构建方法获取所述语义地图;
根据所述语义地图,确定所述可移动平台的降落点;
根据所述可移动平台的降落点,控制所述可移动平台进行降落。
57.根据权利要求56所述的搜索降落点的方法,其中,根据所述语义地图,确定所述可移动平台的降落点具体为:
根据所述语义地图,确定所述可移动平台的可降落区域;
根据所述可移动平台的状态信息,在所述可降落区域中选定降落点。
58.根据权利要求57所述的搜索降落点的方法,其中,所述根据所述可移动平台的状态信息,在所述可降落区域中选定降落点的步骤,具体为:
获取所述可移动平台的电池的剩余电量;
根据所述剩余电量和所述语义地图,在所述可降落区域中选定所述降落点。
59.根据权利要求58所述的搜索降落点的方法,所述方法还包括:
获取所述可移动平台的飞行轨迹,根据所述飞行轨迹和所述剩余电量,选定所述降落点。
60.根据权利要求59所述的搜索降落点的方法,所述方法还包括:
根据所述电池的剩余电量确定所述电池的剩余续航里程,根据所述剩余续航里程和所述飞行轨迹,选定所述降落点。
61.根据权利要求60所述的搜索降落点的方法,其中,所述根据所述剩余续航里程和所述飞行轨迹,选定所述降落点的步骤,具体为:
根据所述飞行轨迹和所述语义地图,确定所述可移动平台的预估返航里程;
基于所述预估返航里程小于或等于所述剩余续航里程的情况下,将所述飞行轨迹的起飞点作为所述降落点。
62.根据权利要求61所述的搜索降落点的方法,其中,基于所述预估返航里程大于所述剩余续航里程的情况下,还包括:
根据所述剩余续航里程和所述起飞点,在所述可降落区域中选定所述降落点。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2019/094799 WO2021003587A1 (zh) | 2019-07-05 | 2019-07-05 | 语义地图的构建方法、***、可移动平台和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111670417A true CN111670417A (zh) | 2020-09-15 |
Family
ID=72381601
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980007922.6A Pending CN111670417A (zh) | 2019-07-05 | 2019-07-05 | 语义地图的构建方法、***、可移动平台和存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111670417A (zh) |
WO (1) | WO2021003587A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022199344A1 (zh) * | 2021-03-24 | 2022-09-29 | 北京三快在线科技有限公司 | 无人机降落 |
CN115496930A (zh) * | 2022-11-08 | 2022-12-20 | 之江实验室 | 一种图像处理方法、装置、存储介质及电子设备 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112907574B (zh) * | 2021-03-25 | 2023-10-17 | 成都纵横自动化技术股份有限公司 | 一种飞行器的降落点寻找方法、装置、***及存储介质 |
CN113359810B (zh) * | 2021-07-29 | 2024-03-15 | 东北大学 | 一种基于多传感器的无人机着陆区域识别方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107444665A (zh) * | 2017-07-24 | 2017-12-08 | 长春草莓科技有限公司 | 一种无人机自主降落方法 |
CN108596974A (zh) * | 2018-04-04 | 2018-09-28 | 清华大学 | 动态场景机器人定位建图***及方法 |
DE102018113672A1 (de) * | 2017-06-09 | 2018-12-13 | Lg Electronics Inc. | Mobiler Roboter und Steuerverfahren dafür |
CN109559320A (zh) * | 2018-09-18 | 2019-04-02 | 华东理工大学 | 基于空洞卷积深度神经网络实现视觉slam语义建图功能的方法及*** |
CN109737974A (zh) * | 2018-12-14 | 2019-05-10 | 中国科学院深圳先进技术研究院 | 一种3d导航语义地图更新方法、装置及设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2825814B1 (fr) * | 2001-06-07 | 2003-09-19 | Commissariat Energie Atomique | Procede de creation automatique d'une base de donnees images interrogeable par son contenu semantique |
US10452927B2 (en) * | 2017-08-09 | 2019-10-22 | Ydrive, Inc. | Object localization within a semantic domain |
CN109117718B (zh) * | 2018-07-02 | 2021-11-26 | 东南大学 | 一种面向道路场景的三维语义地图构建和存储方法 |
-
2019
- 2019-07-05 WO PCT/CN2019/094799 patent/WO2021003587A1/zh active Application Filing
- 2019-07-05 CN CN201980007922.6A patent/CN111670417A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102018113672A1 (de) * | 2017-06-09 | 2018-12-13 | Lg Electronics Inc. | Mobiler Roboter und Steuerverfahren dafür |
CN107444665A (zh) * | 2017-07-24 | 2017-12-08 | 长春草莓科技有限公司 | 一种无人机自主降落方法 |
CN108596974A (zh) * | 2018-04-04 | 2018-09-28 | 清华大学 | 动态场景机器人定位建图***及方法 |
CN109559320A (zh) * | 2018-09-18 | 2019-04-02 | 华东理工大学 | 基于空洞卷积深度神经网络实现视觉slam语义建图功能的方法及*** |
CN109737974A (zh) * | 2018-12-14 | 2019-05-10 | 中国科学院深圳先进技术研究院 | 一种3d导航语义地图更新方法、装置及设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022199344A1 (zh) * | 2021-03-24 | 2022-09-29 | 北京三快在线科技有限公司 | 无人机降落 |
CN115496930A (zh) * | 2022-11-08 | 2022-12-20 | 之江实验室 | 一种图像处理方法、装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2021003587A1 (zh) | 2021-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111670417A (zh) | 语义地图的构建方法、***、可移动平台和存储介质 | |
CN108496129B (zh) | 一种基于飞行器的设施检测方法及控制设备 | |
JP7274674B1 (ja) | 無人航空機による3次元再構成の実行 | |
CN112710318B (zh) | 地图生成方法、路径规划方法、电子设备以及存储介质 | |
WO2022095067A1 (zh) | 路径规划方法、路径规划装置、路径规划***和介质 | |
CN110998466A (zh) | 用于无人驾驶交通工具的导航路径确定的***和方法 | |
CN107065894A (zh) | 无人飞行器、飞行高度控制装置、方法以及程序 | |
KR20210007830A (ko) | 우발 사고 시나리오에서의 무인 항공기 착륙 | |
CN112927264A (zh) | 一种无人机跟踪拍摄***及其rgbd跟踪方法 | |
KR20210155833A (ko) | 다중 센서 및 인공지능에 기반하여 맵을 생성하고 노드들의 상관 관계를 설정하며 맵을 이용하여 주행하는 로봇 및 맵을 생성하는 방법 | |
EP3686776B1 (en) | Method for detecting pseudo-3d bounding box to be used for military purpose, smart phone or virtual driving based on cnn capable of converting modes according to conditions of objects | |
Bartolomei et al. | Autonomous emergency landing for multicopters using deep reinforcement learning | |
CN116661497A (zh) | 一种智能飞行汽车 | |
JP2021177144A (ja) | 情報処理装置、情報処理方法及びープログラム | |
Okada et al. | Huecode: A meta-marker exposing relative pose and additional information in different colored layers | |
Ngo et al. | UAV Platforms for Autonomous Navigation in GPS-Denied Environments for Search and Rescue Missions | |
CN111401337B (zh) | 一种车道跟随探索建图方法、存储介质及机器人 | |
CN117612135A (zh) | 一种基于transform的点云和图像融合的行驶区域判断方法 | |
CN116594426A (zh) | 一种变电站无人机巡检航线规划方法及*** | |
KR101777019B1 (ko) | 영상 기반의 가상 울타리를 이용하는 이동 로봇의 주행 방법 및 주행 제어 장치 | |
Carff et al. | Human-robot team navigation in visually complex environments | |
CN114407030B (zh) | 一种自主导航配网带电作业机器人及其工作方法 | |
CN115158606B (zh) | 一种水面救生方法、***和介质 | |
EP4024155B1 (en) | Method, system and computer program product of control of unmanned aerial vehicles | |
CN117311367B (zh) | 自移动设备的控制方法、控制单元及自移动设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200915 |