CN114355378B - 无人机的自主导航方法、装置、无人机及存储介质 - Google Patents

Abstract

本发明提供了一种无人机的自主导航方法、装置、无人机及存储介质，包括：获取目标任务的任务信息；其中，任务信息包括多个坐标值；当监听到无人机航行至当前坐标值匹配的初始任务位置时，基于初始任务位置采集第一下视点云数据和第一前视图像数据；根据当前坐标值对应的下一坐标值、第一下视点云数据和第一前视图像数据中的一种或多种，确定当前坐标值对应的目标航行方向；控制无人机按照目标航行方向，航行至下一坐标值匹配的初始任务位置，并确定下一坐标值对应的目标航行方向，直至目标任务执行完毕。本发明可以实现无人机的自主导航，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

Description

无人机的自主导航方法、装置、无人机及存储介质

技术领域

本发明涉及无人机技术领域，尤其是涉及一种无人机的自主导航方法、装置、无人机及存储介质。

背景技术

无人机是利用无线电遥控设备和自备的程序控制装置操纵的不载人飞机。目前，无人机的控制方式包括人为控制和自主控制，其中，人为控制也即由操作员控制无人机飞行或执行任务，自主控制需要将预先配置的飞行路径载入无人机，以使无人机按照飞行路径实现自主飞行。但是，配置飞行路径需要大量前期准备和人工参与，较为费时费力，从而导致无人机执行任务的整体效率较低。

发明内容

有鉴于此，本发明的目的在于提供一种无人机的自主导航方法、装置、无人机及存储介质，可以实现无人机的自主导航，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

第一方面，本发明实施例提供了一种无人机的自主导航方法，所述方法应用于无人机的控制端，所述方法包括：获取目标任务的任务信息；其中，所述任务信息包括多个坐标值；当监听到所述无人机航行至当前坐标值匹配的初始任务位置时，基于所述初始任务位置采集第一下视点云数据和第一前视图像数据；根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向；控制所述无人机按照所述目标航行方向，航行至所述下一坐标值匹配的初始任务位置，并确定所述下一坐标值对应的目标航行方向，直至所述目标任务执行完毕。

在一种实施方式中，所述无人机搭载有前视图像采集设备和下视激光雷达；所述基于所述初始任务位置采集第一下视点云数据和第一前视图像数据的步骤，包括：通过所述下视激光雷达采集所述初始任务位置处的第二下视点云数据，对所述第二下视点云数据进行点云分割处理得到第二点云分割结果；如果所述第二点云分割结果包含目标对象，基于所述目标对象调整所述初始任务位置得到目标任务位置，并控制所述无人机航行至所述目标任务位置处；通过所述下视激光雷达采集所述目标任务位置处的第一下视点云数据，以及通过所述前视图像采集设备采集所述目标任务位置处的第一前视图像数据。

在一种实施方式中，所述根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向的步骤，包括：根据所述当前坐标值与所述当前坐标值对应的下一坐标值之间的相对位置关系，确定第一候选航行方向；对所述第一下视点云数据进行点云分割处理得到第一点云分割结果，并基于所述第一点云分割结果确定第二候选航行方向；通过预先训练得到检测网络对所述第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向；比对所述第一候选航行方向、所述第二候选航行方向、所述第三候选航行方向和所述第四候选航行方向的一致性，并基于一致性比对结果确定所述当前坐标值对应的目标航行方向。

在一种实施方式中，所述检测网络包括特征提取子网络，以及与所述特征提取子网络分别连接的线路检测子网络和杆塔检测子网络；所述通过预先训练得到检测网络对所述第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向的步骤，包括：通过所述特征提取子网络对所述第一前视图像数据进行特征提取确定第一特征信息；通过所述线路检测子网络基于所述第一特征信息，检测所述第一前视图像数据包含的线路，并基于各个所述线路的走向信息确定第三候选航行方向；以及，通过所述杆塔检测子网络基于所述第一特征信息，检测所述第一前视图像数据包含的杆塔，并基于各个所述杆塔与所述无人机之间的相对位置关系确定第四候选航行方向。

在一种实施方式中，所述基于各个所述线路的走向信息确定第三候选航行方向的步骤，包括：获取前视图像采集设备的内参数和预设的线路弧垂模型；对于每个所述线路，基于该线路的像素坐标值、所述内参数和所述线路弧垂模型，拟合该线路对应的直线方程；其中，所述直线方程用于表征该线路的走向信息；基于各个所述线路对应的所述直线方程，将各个所述线路划分为至少一个线路集合，并统计每个所述线路集合包含的线路数量；其中，所述线路集合包含的各个所述线路之间相互平行；根据所述线路数量从所述线路集合中确定目标线路集合，并基于所述目标线路集合中所述线路的走向信息确定第三候选航行方向。

在一种实施方式中，所述基于各个所述杆塔与所述无人机之间的相对位置关系确定第四候选航行方向的步骤，包括：根据每个所述杆塔相对于所述第一前视图像数据的尺寸信息，从所述杆塔中筛选出至少一个候选杆塔；对于每个所述候选杆塔，确定该候选杆塔的中心点与所述无人机之间的方向向量，并计算所述方向向量与所述第三候选航行方向之间的夹角值；基于每个所述候选杆塔对应的夹角值，从所述候选杆塔中确定目标杆塔，并将所述目标杆塔对应的方向向量确定为第四候选航行方向。

在一种实施方式中，所述检测网络还包与所述特征提取子网络连接的交跨检测子网络；所述方法还包括：在所述无人机航行过程中，采集第三下视点云数据和第二前视图像数据；通过所述特征提取子网络对所述第二前视图像数据进行特征提取确定第二特征信息；以及，通过所述交跨检测子网络基于所述第二特征信息，确定所述第二前视图像数据的交跨检测结果；其中，所述交跨检测结果是基于各个线路之间的相交关系确定得到的；对所述第三下视点云数据进行点云分割处理得到第三点云分割结果；根据所述交跨检测结果和/或所述第三点云分割结果控制所述无人机航行。

在一种实施方式中，所述根据所述交跨检测结果和/或所述第三点云分割结果控制所述无人机航行的步骤，包括：如果所述交跨检测结果表征所述第二前视图像数据包含所述交跨线路，控制所述无人机提高航行高度；如果所述交跨检测结果表征所述第二前视图像数据不包含所述交跨线路，控制所述无人机基于提高后的所述航行高度继续航行；如果所述第三点云分割结果表征所述第三下视点云数据不包含所述交跨线路，控制所述无人机恢复所述航行高度，并基于恢复后的所述航行高度继续航行。

第二方面，本发明实施例还提供一种无人机的自主导航装置，所述装置应用于无人机的控制端，所述装置包括：信息获取模块，用于获取目标任务的任务信息；其中，所述任务信息包括多个坐标值；数据采集模块，用于当监听到所述无人机航行至当前坐标值匹配的初始任务位置时，基于所述初始任务位置采集第一下视点云数据和第一前视图像数据；方向确定模块，用于根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向；航行控制模块，用于控制所述无人机按照所述目标航行方向，航行至所述下一坐标值匹配的初始任务位置，并确定所述下一坐标值对应的目标航行方向，直至所述目标任务执行完毕。

第三方面，本发明实施例还提供一种无人机，所述无人机搭载有控制端，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的计算机可执行指令，所述处理器执行所述计算机可执行指令以实现第一方面提供的任一项所述的方法。

第四方面，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现第一方面提供的任一项所述的方法。

本发明实施例提供的一种无人机的自主导航方法、装置、无人机及存储介质，应用于无人机的控制端，首先获取目标任务的任务信息（包括多个坐标值），当监听到无人机航行至当前坐标值匹配的初始任务位置时，基于初始任务位置采集第一下视点云数据和第一前视图像数据，并根据当前坐标值对应的下一坐标值、第一下视点云数据和第一前视图像数据中的一种或多种，确定当前坐标值对应的目标航行方向，再控制无人机按照目标航行方向，航行至下一坐标值匹配的初始任务位置，并确定下一坐标值对应的目标航行方向，直至目标任务执行完毕。上述方法可以在无人机航行至当前坐标值匹配的初始任务位置后，可以根据采集的第一下视点云数据、第一前视图像数据或当前坐标值对应的下一坐标值，确定出目标航行方向，以使无人机按照该目标航行方向航行，重复这一过程直至目标任务完毕，从而实现无人机的自主导航，本发明实施例仅需要配置包含有多个坐标值的任务信息，极大地减少了前期准备工作和人工参与，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种无人机的自主导航方法的流程示意图；

图2为本发明实施例提供的一种无人机的结构示意图；

图3为本发明实施例提供的一种检测网络的结构示意图；

图4为本发明实施例提供的一种线路示意图；

图5为本发明实施例提供的一种杆塔示意图；

图6为本发明实施例提供的一种仿线飞行主程序的示意图；

图7为本发明实施例提供的一种无人机的自主导航装置的结构示意图；

图8为本发明实施例提供的一种控制端的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合实施例对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

目前，为无人机配置飞行路径需要大量前期准备和人工参与，较为费时费力，从而导致无人机执行任务的整体效率较低，基于此，本发明实施提供了一种无人机的自主导航方法、装置、无人机及存储介质，可以实现无人机的自主导航，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

为便于对本实施例进行理解，首先对本发明实施例所公开的一种无人机的自主导航方法进行详细介绍，方法应用于无人机的控制端，参见图1所示的一种无人机的自主导航方法的流程示意图，该方法主要包括以下步骤S102至步骤S108：

步骤S102，获取目标任务的任务信息。其中，任务信息包括多个坐标值，坐标值可以为目标对象的精确坐标或粗略坐标，目标对象可以为诸如杆塔、线路等任务对象。另外，各个坐标值可以标注有顺序编号，从而可以表征无人机的大致飞行路径。

在一种实施方式中，可以为用户提供上传通道，从而通过该上传通道获取目标任务的任务信息。

步骤S104，当监听到无人机航行至当前坐标值匹配的初始任务位置时，基于初始任务位置采集第一下视点云数据和第一前视图像数据。其中，初始任务位置可以为当前坐标值对应的任务位置，也可以为前一坐标值对应的目标航行方向的终止点，第一下视点云数据可以理解为无人机下方的点云数据，第一前视图像数据可以理解为无人机前方的图像数据。

在一种实施方式中，无人机搭载有前视图像采集设备和下视激光雷达，前视图像采集设备可以采用FPV（First Person View，第一人称主视角）。具体的，当无人机航行至当前坐标值匹配的初始任务位置时，可以通过下视激光雷达采集初始任务位置处的第二下视点云数据，并基于第二下视点云数据确定目标对象的实际坐标值，控制无人机航行至该实际坐标值对应的目标任务位置处后，即可利用下视激光雷达采集第一下视点云数据，以及利用前视FPV采集第一前视图像数据。

步骤S106，根据当前坐标值对应的下一坐标值、第一下视点云数据和第一前视图像数据中的一种或多种，确定当前坐标值对应的目标航行方向。其中，目标航行方向可通过角度表示。

在一种实施方式中，可以根据当前坐标值对应的下一坐标值确定一条第一候选航行方向，也可以根据第一下视点云数据确定另一条第二候选航行方向，也可以根据第一前视图像数据确定第三候选航行方向和/或第四候选航行方向，比对各个候选航行方向是否一致，并选择比对结果一致的候选航行方向作为目标航行方向。例如，第一候选航行方向、第二候选航行方向和第三候选航行方向均一致，而第四候选航行方向与另外三条候选航行方向存在一定偏差，因此，可以将第一候选航行方向、第二候选航行方向或第三候选航行方向确定为目标航行方向。

步骤S108，控制无人机按照目标航行方向，航行至下一坐标值匹配的初始任务位置，并确定下一坐标值对应的目标航行方向，直至目标任务执行完毕。在一种实施方式中，控制无人机按照目标航行方向进行飞行的过程中，可以实时采集第三下视点云数据和第二前视图像数据，并基于第三下视点云数据和第二前视图像数据实现交跨避障。当无人机航行至下一坐标值匹配的初始任务位置时，将重复前述步骤S104至步骤S106，得到下一坐标值对应的目标航行方向，继续控制无人机航行直至目标任务执行完毕。可选的，当无人机航行至任务信息中最后一个坐标值对应的位置时，即可确定目标任务执行完毕。

本发明实施例提供的无人机的自主导航方法，可以在无人机航行至当前坐标值匹配的初始任务位置后，可以根据采集的第一下视点云数据、第一前视图像数据或当前坐标值对应的下一坐标值，确定出目标航行方向，以使无人机按照该目标航行方向航行，重复这一过程直至目标任务完毕，从而实现无人机的自主导航，本发明实施例仅需要配置包含有多个坐标值的任务信息，极大地减少了前期准备工作和人工参与，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

在一种实施方式中，无人机搭载有前视图像采集设备和下视激光雷达，参见图2所示的一种无人机的结构示意图，图2示意出无人机下方搭载有下视激光雷达，无人机机头处设置有前视FPV。在硬件上，无人机搭载NVIDIA Jetson Xavier NX，NX作为无人机的算力中枢，拥有8GB LPDDR4高速内存，GPU算力达到6.8TFlop，功耗为15W，可以较好地对前视图像数据和下视点云数据进行处理。

在图2的基础上，本发明实施例提供了一种基于初始任务位置采集第一下视点云数据和第一前视图像数据的实施方式，参见如下（1）至（3）：

（1）通过下视激光雷达采集初始任务位置处的第二下视点云数据，对第二下视点云数据进行点云分割处理得到第二点云分割结果。在实际应用中，首先获取任务信息（也可称之为，基础台账），将第一坐标值上方100米处确定为该第一坐标值匹配的初始任务位置，并控制无人机飞行至初始任务位置。通过下视激光雷达采集第二下视点云数据，调用点云分割模型对第二下视点云数据进行点云分割处理，其中，点云分割模型可以采用聚类算法，点云分割结果可以包括多个点云聚类簇。

（2）如果第二点云分割结果包含目标对象，基于目标对象调整初始任务位置得到目标任务位置，并控制无人机航行至目标任务位置处。其中，目标任务位置也即目标对象所处的位置或与目标对象相距指定高度的位置。示例性的，以目标对象是杆塔为例，判断是否存在杆塔类型的点云聚类簇，如果存在，则确定第二点云分割结果包含杆塔，并根据杆塔类型的点云聚类簇计算杆塔的实际坐标值，然后基于该实际坐标值控制无人机航行至杆塔正上方20米处；如果不存在，则控制无人机提升高度，以增大无人机的视野，从而采集到更大范围的第二下视点云数据，当第二点云分割结果存在杆塔类型的点云聚类簇时即可停止升高，并计算杆塔的实际坐标值，然后基于该实际坐标值控制无人机航行至杆塔正上方20米处。

（3）通过下视激光雷达采集目标任务位置处的第一下视点云数据，以及通过前视图像采集设备采集目标任务位置处的第一前视图像数据。其中，第一前视图像数据为可见光图像数据。在具体实现时，前视FPV可以配置有可见光相机，可见光相机可以感知周围环境的色彩及纹理，从而可以从第一前视图像数据中提取出丰富的环境数据。激光雷达可以用于直接测量环境的三维结构，在白天和黑夜均可以稳定地完成环境感知。因此，本发明实施例结合可见光相机与激光雷达的优缺点，利用激光雷达采集第一下视点云数据，以及利用FPV采集第一前视图像数据，从而可以更加安全、可靠地实现多种环境下的无人机自主导航。

对于前述步骤S106，本发明实施例提供了一种根据当前坐标值对应的下一坐标值、第一下视点云数据和第一前视图像数据中的一种或多种，确定当前坐标值对应的目标航行方向的实施方式，参见如下步骤1至步骤4：

步骤1，根据当前坐标值与当前坐标值对应的下一坐标值之间的相对位置关系，确定第一候选航行方向。在一种实施方式中，可以计算当前坐标值与下一坐标值之间的方向向量，将该方向向量作为第一候选航行方向。在另一种实施方式中，任务信息还可以包含各个坐标值之间的线路方向，从而将当前坐标值与下一坐标值之间的线路方向作为第一候选航行方向。

步骤2，对第一下视点云数据进行点云分割处理得到第一点云分割结果，并基于第一点云分割结果确定第二候选航行方向。在一种实施方式中，调用点云分割模型对第一下视点云数据进行点云分割处理，并根据第一点云分割结果中线路类型的点云聚类簇的走向得到第二候选航行方向。

由于图像数据通常只包含了画面的二维信息，可以精确地分割出线路的像素坐标，而激光雷达可以直接获得空间中的三维信息，无需推导过程。输电线路中线路与地面点间存在数米以上的安全距离，因此可以准确的从点云中分割出输电线，并计算出线路走向。因此本发明实施例利用点云分割算法或聚类算法直接分割得到点云中的线路点，并拟合出走向方程，并与图像检测得到的杆塔方向，线路走向进行比较，对比一致后即可进一步增加线路走向的置信度。

步骤3，通过预先训练得到检测网络对第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向。在一种实施方式中，可以利用检测模型检测第一前视图像数据中包含的线路，从而根据线路走向确定第三候选航行方向。在另一种实施方式中，可以利用检测模型检测第一前视图像数据中包含的杆塔，如果第一前视图像数据仅包含一个杆塔，则将无人机与该杆塔中心点之间的方向向量作为第四候选航行方向；如果第一前视图像数据包括多个杆塔，则分别确定无人机与各个杆塔中心点之间的方向向量，并选择方向向量与前述第三候选航行方向之间夹角最小的杆塔作为目标杆塔，将无人机与目标杆塔中心点之间的方向向量作为第四候选航行方向。

步骤4，比对第一候选航行方向、第二候选航行方向、第三候选航行方向和第四候选航行方向的一致性，并基于一致性比对结果确定当前坐标值对应的目标航行方向。其中，一致性比对结果用于表征方向一致的多个候选航行方向及其数量，在具体实现时，可以将方向一致且方向一致数量最多的候选航行方向作为目标航行方向，例如，第一候选航行方向、第二候选航行方向和第三候选航行方向一致，方向一致数量为3，则可以将第一候选航行方向、第二候选航行方向或第三候选航行方向确定为目标航行方向。另外，一致性比对结果还可以表征目标航信方向的置信度，方向一致数量与置信度呈正相关，也即方向一致数量越大则置信度越高。

在实际应用中，可以分别训练用于线路检测的神经网络、用于杆塔检测的神经网络、用于交跨检测的神经网络。优选的，为减小算法复杂度，可以使线路检测、杆塔检测、交跨检测共享图像骨干网络，该图像骨干网络可以为特征提取子网络，并在图像骨干网络后分别连接实现各个检测功能的子网络。为便于理解，本发明实施例提供了如图3所示的一种检测网络的结构示意图，检测网络包括特征提取子网络，以及与特征提取子网络分别连接的线路检测子网络、杆塔检测子网络和交跨检测子网络。其中，特征提取子网络的输入为前视图像数据，输出为特征信息；线路检测子网络的输入为特征信息，输出为线路走向（或角度）；杆塔检测子网络的输入为特征信息，输出为目标塔杆；交跨检测子网络的输入为特征信息，输出为交跨检测结果，交跨检测结果用于表征图像数据中是否包含交跨线路。

在前述图3的基础上，本发明实施例提供了一种前述步骤3的实施方式，参见如下步骤3.1至步骤3.3：

步骤3.1，通过特征提取子网络对第一前视图像数据进行特征提取确定第一特征信息。在一种实施方式中，将第一前视图像数据输入至特征提取子网络，特征提取子网络即可提取第一前视图像数据的第一特征信息。

步骤3.2，通过线路检测子网络基于第一特征信息，检测第一前视图像数据包含的线路，并基于各个线路的走向信息确定第三候选航行方向。在一种实施方式中，线路检测子网络可以基于第一特征信息确定第一前视图像数据中包含的线路包围框（聚类实例化）和像素坐标值，并基于线路包围框和像素坐标值所表征的走向信息确定第三候选航行方向。其中，图4示意出一种线路示意图。具体的，可以按照如下步骤3.2.1至步骤3.2.4执行基于各个线路的走向信息确定第三候选航行方向的步骤：

步骤3.2.1，获取前视图像采集设备的内参数和预设的线路弧垂模型。

步骤3.2.2，对于每个线路，基于该线路的像素坐标值、内参数和线路弧垂模型，拟合该线路对应的直线方程。其中，直线方程用于表征该线路的走向信息。在一种实施方式中，可以根据像素坐标值、内参数和线路弧垂模型拟合该线路在相机平面内的直线方程。

步骤3.2.3，基于各个线路对应的直线方程，将各个线路划分为至少一个线路集合，并统计每个线路集合包含的线路数量。其中，线路集合包含的各个线路之间相互平行。在具体实现时，可以通过各个线路的直线方程，判断各个线路之间是否平行，将相互平行的线路划分为一个线路集合，并统计各个线路集合包含线路的数量。

步骤3.2.4，根据线路数量从线路集合中确定目标线路集合，并基于目标线路集合中线路的走向信息确定第三候选航行方向。在实际应用中，基于一幅前视图像数据只有一个第三候选航行方向（也可称之为，主方向）的原则，选择线路数量最多的线路集合作为目标线路集合，并将该目标线路集合对应的方向确定为第三候选航行方向。另外，可以根据无人机的当前姿态和FPV安装参数（诸如，云台安装参数），确定无人机将机头调整至该第三候选航行方向所需旋转的角度。

步骤3.3，通过杆塔检测子网络基于第一特征信息，检测第一前视图像数据包含的杆塔，并基于各个杆塔与无人机之间的相对位置关系确定第四候选航行方向。在一种实施方式中，杆塔检测子网络可以基于第一特征信息确定第一前视图像数据中包含的杆塔包围框，并基于杆塔包围框与无人机之间的相对位置关系确定第四候选航行方向。其中，图5示意出一种杆塔示意图。具体的，可以按照如下步骤3.3.1至步骤3.3.3执行基于各个杆塔与无人机之间的相对位置关系确定第四候选航行方向的步骤：

步骤3.3.1，根据每个杆塔相对于第一前视图像数据的尺寸信息，从杆塔中筛选出至少一个候选杆塔。在一种实施方式中，杆塔包围框占据第一前视图像数据的尺寸信息，可以表征杆塔与无人机之间的距离远近，尺寸大小与距离远近呈负相关，也即尺寸信息越大，则杆塔与无人机相距越远。因此，可以尺寸信息由大到小的顺序从杆塔中选择一个或多个候选杆塔。

步骤3.3.2，对于每个候选杆塔，确定该候选杆塔的中心点与无人机之间的方向向量，并计算方向向量与第三候选航行方向之间的夹角值。在以中实施方式中，连接候选杆塔中心点与无人机得到方向向量，并计算该方向向量与第三候选航行方向之间的夹角值，夹角值越小，表明该方向向量越接近正确的航行方向。

步骤3.3.3，基于每个候选杆塔对应的夹角值，从候选杆塔中确定目标杆塔，并将目标杆塔对应的方向向量确定为第四候选航行方向。在一种实施方式中，可以选择夹角值最小的候选杆塔作为目标杆塔，并将无人机与该目标杆塔中心点之间的方向向量确定为第四候选航行方向。

进一步的，杆塔检测子网络还可以检测出目标杆塔的杆塔类型，杆塔类型包括直线塔或转角塔，可以通过杆塔类型辅助确定第四候选航行方向，增加目标航行方向的置信程度。例如，当目标杆塔为直线塔时，当前坐标值对应的目标航行方向应与前一坐标值对应的目标航行方向一致；当目标杆塔为转角塔时，当前坐标值对应的目标航行方向应与前一坐标值对应的目标航行方向差异较大。本发明实施例可以通过杆塔方向为下一次的目标航行方向变更奠定基础。

交跨是无人机电力巡检中的常见现象，也是造成无人机炸机的重要原因之一，因此本发明实施例提供的检测网络还包括交跨检测子网络。在一种实施方式中，无人机可以基于交跨检测子网络输出的交跨检测结果实现自主避障，具体可参见如下步骤a至步骤d：

步骤a，在无人机航行过程中，采集第三下视点云数据和第二前视图像数据。在具体实现时，通过下视激光雷达采集第三下视点云数据，以及通过前视FPV采集第二前视图像数据。

步骤b，通过特征提取子网络对第二前视图像数据进行特征提取确定第二特征信息；以及，通过交跨检测子网络基于第二特征信息，确定第二前视图像数据的交跨检测结果。其中，交跨检测结果是基于各个线路之间的相交关系确定得到的。在一种实施方式中，交跨检测子网络可以检测出第二前视图像数据中包含的每条线路包围框，当有两个以上的线路包围框同时出现，且其方向垂直于无人机的目标航行方向，则确定交跨检测结果为第二前视图像数据包含交跨线路。在实际应用中，为避免交跨线路与目标航行方向混淆，可以对检测得到的线路包围框的方向进行计算，以此区分线路包围框中的交跨线路。

在具体实现时，检测算法及模型的训练与杆塔检测的一致，主要区别在数据的标注上，具体的，为了提高判别准确率，本发明实施例对交跨的每一相线路单独标注。

步骤c，对第三下视点云数据进行点云分割处理得到第三点云分割结果；

步骤d，根据交跨检测结果和/或第三点云分割结果控制无人机航行。本发明实施例提供了一种步骤d的实施方式，参见如下步骤d1至步骤d3：

步骤d1，如果交跨检测结果表征第二前视图像数据包含交跨线路，控制无人机提高航行高度。在一种实施方式中，当第二前视图像数据包含交跨线路时，将控制无人机停止前行并提升航行高度，在提升航行高度的过程中继续采集第二前视图像数据和第三下视点云数据，直至交跨检测结果表征第二前视图像数据不包含交跨线路时，或直至交跨线路的最上层地线在前视FVP地平线的下方，控制无人机停止提升高度。

步骤d2，如果交跨检测结果表征第二前视图像数据不包含交跨线路，控制无人机基于提高后的航行高度继续航行。在一种实施方式中，当第二前视图像数据不包含交跨线路时，可以按照提升后的航行高度继续航行，同时继续采集第二前视图像数据和第三下视点云数据，并利用第三下视点云数据判断无人机是否跨越交跨线路。

步骤d3，如果第三点云分割结果表征第三下视点云数据不包含交跨线路，控制无人机恢复航行高度，并基于恢复后的航行高度继续航行。在一种实施方式中，可以对第三下视点云数据进行点云分割处理，并判断第三点云分割结果中是否包含交跨类型的点云聚类簇，如果存在则保持该航行高度继续航行，如果不存在则控制无人机恢复至原本的航行高度，并基于恢复后的航行高度继续航行。

为便于对前述实施例进行理解，本发明实施例提供了一种无人机的自主航行方法的应用示例，无人机的控制端配置有仿线飞行主程序，参见图6所示的一种仿线飞行主程序的示意图，仿线飞行主程序包括仿线飞行子程序和交跨避障子程序。在实际应用中，仿线飞行子程序用于负责无人机的仿线飞行，可以调用线路检测算法、杆塔检测算法和点云分割算法，交跨避障子程序用于负责无人机的交跨避障，可以调用交跨检测算法和点云分割算法。

示例性的，无人机接收基础台账，并依据基础台账飞到第一坐标值上方100米处，并启动仿线飞行子程序。仿线飞行子程序调用点云分割算法，判断下视点云数据中是否包含杆塔。当包含杆塔时无人机可以基于下视点云数据计算得到杆塔的实际坐标，并航行到杆塔正上方20米处。当不包含杆塔时无人机将提升航行高度，增大视野，直至下视点云数据包含杆塔。

当无人机达到一号塔上方20米后，无人机调整机头方向朝向第二坐标值方向，并采集下视点云数据和前视图像数据，仿线飞行子程序调用杆塔检测算法、线路检测算法和点云分割算法，得到至少四条候选航行方向，并从中确定目标航行方向，目标航行方向也即二号塔方向，无人机将调整机头方向朝向二号塔方向。

无人机在沿目标航行方向航行过程中，将持续采集下视点云数据和前视图像数据，以检测无人机下方的线路及杆塔，确保无人机在航行到二号塔之前可以安全地进行仿线飞行。当无人机接近第二坐标值后，仿线飞行子程序将继续调用点云分割算法，判断下视点云数据中是否包含杆塔，开始下一次仿线循环。

在仿线飞行过程中，交跨避障子程序将持续调用交跨检测算法和点云分割算法，避免仿线飞行过程中因交跨线路而导致的炸机风险。

对于前述实施例提供的无人机的自主导航方法，本发明实施例提供了一种无人机的自主导航装置，该装置应用于无人机的控制端，参见图7所示的一种无人机的自主导航装置的结构示意图，该装置主要包括以下部分：

信息获取模块702，用于获取目标任务的任务信息；其中，任务信息包括多个坐标值；

数据采集模块704，用于当监听到无人机航行至当前坐标值匹配的初始任务位置时，基于初始任务位置采集第一下视点云数据和第一前视图像数据；

方向确定模块706，用于根据当前坐标值对应的下一坐标值、第一下视点云数据和第一前视图像数据中的一种或多种，确定当前坐标值对应的目标航行方向；

航行控制模块708，用于控制无人机按照目标航行方向，航行至下一坐标值匹配的初始任务位置，并确定下一坐标值对应的目标航行方向，直至目标任务执行完毕。

本发明实施例提供的一种无人机的自主导航装置，可以在无人机航行至当前坐标值匹配的初始任务位置后，可以根据采集的第一下视点云数据、第一前视图像数据或当前坐标值对应的下一坐标值，确定出目标航行方向，以使无人机按照该目标航行方向航行，重复这一过程直至目标任务完毕，从而实现无人机的自主导航，本发明实施例仅需要配置包含有多个坐标值的任务信息，极大地减少了前期准备工作和人工参与，从而显著改善了因配置飞行路径而导致的无人机执行任务效率低下的问题。

在一种实施方式中，无人机搭载有前视图像采集设备和下视激光雷达；数据采集模块704还用于：通过下视激光雷达采集初始任务位置处的第二下视点云数据，对第二下视点云数据进行点云分割处理得到第二点云分割结果；如果第二点云分割结果包含目标对象，基于目标对象调整初始任务位置得到目标任务位置，并控制无人机航行至目标任务位置处；通过下视激光雷达采集目标任务位置处的第一下视点云数据，以及通过前视图像采集设备采集目标任务位置处的第一前视图像数据。

在一种实施方式中，方向确定模块706还用于：根据当前坐标值与当前坐标值对应的下一坐标值之间的相对位置关系，确定第一候选航行方向；对第一下视点云数据进行点云分割处理得到第一点云分割结果，并基于第一点云分割结果确定第二候选航行方向；通过预先训练得到检测网络对第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向；比对第一候选航行方向、第二候选航行方向、第三候选航行方向和第四候选航行方向的一致性，并基于一致性比对结果确定当前坐标值对应的目标航行方向。

在一种实施方式中，检测网络包括特征提取子网络，以及与特征提取子网络分别连接的线路检测子网络和杆塔检测子网络；方向确定模块706还用于：通过特征提取子网络对第一前视图像数据进行特征提取确定第一特征信息；通过线路检测子网络基于第一特征信息，检测第一前视图像数据包含的线路，并基于各个线路的走向信息确定第三候选航行方向；以及，通过杆塔检测子网络基于第一特征信息，检测第一前视图像数据包含的杆塔，并基于各个杆塔与无人机之间的相对位置关系确定第四候选航行方向。

在一种实施方式中，方向确定模块706还用于：获取前视图像采集设备的内参数和预设的线路弧垂模型；对于每个线路，基于该线路的像素坐标值、内参数和线路弧垂模型，拟合该线路对应的直线方程；其中，直线方程用于表征该线路的走向信息；基于各个线路对应的直线方程，将各个线路划分为至少一个线路集合，并统计每个线路集合包含的线路数量；其中，线路集合包含的各个线路之间相互平行；根据线路数量从线路集合中确定目标线路集合，并基于目标线路集合中线路的走向信息确定第三候选航行方向。

在一种实施方式中，方向确定模块706还用于：根据每个杆塔相对于第一前视图像数据的尺寸信息，从杆塔中筛选出至少一个候选杆塔；对于每个候选杆塔，确定该候选杆塔的中心点与无人机之间的方向向量，并计算方向向量与第三候选航行方向之间的夹角值；基于每个候选杆塔对应的夹角值，从候选杆塔中确定目标杆塔，并将目标杆塔对应的方向向量确定为第四候选航行方向。

在一种实施方式中，检测网络还包与特征提取子网络连接的交跨检测子网络；上述装置还包括交跨检测模块，用于：在无人机航行过程中，采集第三下视点云数据和第二前视图像数据；通过特征提取子网络对第二前视图像数据进行特征提取确定第二特征信息；以及，通过交跨检测子网络基于第二特征信息，确定第二前视图像数据的交跨检测结果；其中，交跨检测结果是基于各个线路之间的相交关系确定得到的；对第三下视点云数据进行点云分割处理得到第三点云分割结果；根据交跨检测结果和/或第三点云分割结果控制无人机航行。

在一种实施方式中，交跨检测模块还用于：如果交跨检测结果表征第二前视图像数据包含交跨线路，控制无人机提高航行高度；如果交跨检测结果表征第二前视图像数据不包含交跨线路，控制无人机基于提高后的航行高度继续航行；如果第三点云分割结果表征第三下视点云数据不包含交跨线路，控制无人机恢复航行高度，并基于恢复后的航行高度继续航行。

本发明实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。

本发明实施例提供了一种无人机，无人机搭载有控制端，具体的，该控制端包括处理器和存储装置；存储装置上存储有计算机程序，计算机程序在被所述处理器运行时执行如上所述实施方式的任一项所述的方法 。

图8为本发明实施例提供的一种控制端的结构示意图，该控制端100包括：处理器80，存储器81，总线82和通信接口83，所述处理器80、通信接口83和存储器81通过总线82连接；处理器80用于执行存储器81中存储的可执行模块，例如计算机程序。

其中，存储器81可能包含高速随机存取存储器（RAM，Random Access Memory），也可能还包括非不稳定的存储器（non-volatile memory），例如至少一个磁盘存储器。通过至少一个通信接口83（可以是有线或者无线）实现该***网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。

总线82可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图8中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

其中，存储器81用于存储程序，所述处理器80在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器80中，或者由处理器80实现。

处理器80可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器80中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器80可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessing，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器81，处理器80读取存储器81中的信息，结合其硬件完成上述方法的步骤。

本发明实施例所提供的可读存储介质的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见前述方法实施例，在此不再赘述。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种无人机的自主导航方法，其特征在于，所述方法应用于无人机的控制端，所述方法包括：

获取目标任务的任务信息；其中，所述任务信息包括多个坐标值；

当监听到所述无人机航行至当前坐标值匹配的初始任务位置时，基于所述初始任务位置采集第一下视点云数据和第一前视图像数据；

根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向；

控制所述无人机按照所述目标航行方向，航行至所述下一坐标值匹配的初始任务位置，并确定所述下一坐标值对应的目标航行方向，直至所述目标任务执行完毕；

所述根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向的步骤，包括：

根据所述当前坐标值与所述当前坐标值对应的下一坐标值之间的相对位置关系，确定第一候选航行方向；

对所述第一下视点云数据进行点云分割处理得到第一点云分割结果，并基于所述第一点云分割结果确定第二候选航行方向；

通过预先训练得到检测网络对所述第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向；

比对所述第一候选航行方向、所述第二候选航行方向、所述第三候选航行方向和所述第四候选航行方向的一致性，并基于一致性比对结果确定所述当前坐标值对应的目标航行方向。

2.根据权利要求1所述的方法，其特征在于，所述无人机搭载有前视图像采集设备和下视激光雷达；

所述基于所述初始任务位置采集第一下视点云数据和第一前视图像数据的步骤，包括：

通过所述下视激光雷达采集所述初始任务位置处的第二下视点云数据，对所述第二下视点云数据进行点云分割处理得到第二点云分割结果；

如果所述第二点云分割结果包含目标对象，基于所述目标对象调整所述初始任务位置得到目标任务位置，并控制所述无人机航行至所述目标任务位置处；

通过所述下视激光雷达采集所述目标任务位置处的第一下视点云数据，以及通过所述前视图像采集设备采集所述目标任务位置处的第一前视图像数据。

3.根据权利要求1所述的方法，其特征在于，所述检测网络包括特征提取子网络，以及与所述特征提取子网络分别连接的线路检测子网络和杆塔检测子网络；

所述通过预先训练得到检测网络对所述第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向的步骤，包括：

通过所述特征提取子网络对所述第一前视图像数据进行特征提取确定第一特征信息；

通过所述线路检测子网络基于所述第一特征信息，检测所述第一前视图像数据包含的线路，并基于各个所述线路的走向信息确定第三候选航行方向；

以及，通过所述杆塔检测子网络基于所述第一特征信息，检测所述第一前视图像数据包含的杆塔，并基于各个所述杆塔与所述无人机之间的相对位置关系确定第四候选航行方向。

4.根据权利要求3所述的方法，其特征在于，所述基于各个所述线路的走向信息确定第三候选航行方向的步骤，包括：

获取前视图像采集设备的内参数和预设的线路弧垂模型；

对于每个所述线路，基于该线路的像素坐标值、所述内参数和所述线路弧垂模型，拟合该线路对应的直线方程；其中，所述直线方程用于表征该线路的走向信息；

基于各个所述线路对应的所述直线方程，将各个所述线路划分为至少一个线路集合，并统计每个所述线路集合包含的线路数量；其中，所述线路集合包含的各个所述线路之间相互平行；

根据所述线路数量从所述线路集合中确定目标线路集合，并基于所述目标线路集合中所述线路的走向信息确定第三候选航行方向。

5.根据权利要求3所述的方法，其特征在于，所述基于各个所述杆塔与所述无人机之间的相对位置关系确定第四候选航行方向的步骤，包括：

根据每个所述杆塔相对于所述第一前视图像数据的尺寸信息，从所述杆塔中筛选出至少一个候选杆塔；

对于每个所述候选杆塔，确定该候选杆塔的中心点与所述无人机之间的方向向量，并计算所述方向向量与所述第三候选航行方向之间的夹角值；

基于每个所述候选杆塔对应的夹角值，从所述候选杆塔中确定目标杆塔，并将所述目标杆塔对应的方向向量确定为第四候选航行方向。

6.根据权利要求3所述的方法，其特征在于，所述检测网络还包与所述特征提取子网络连接的交跨检测子网络；

所述方法还包括：

在所述无人机航行过程中，采集第三下视点云数据和第二前视图像数据；

通过所述特征提取子网络对所述第二前视图像数据进行特征提取确定第二特征信息；以及，通过所述交跨检测子网络基于所述第二特征信息，确定所述第二前视图像数据的交跨检测结果；其中，所述交跨检测结果是基于各个线路之间的相交关系确定得到的；

对所述第三下视点云数据进行点云分割处理得到第三点云分割结果；

根据所述交跨检测结果和/或所述第三点云分割结果控制所述无人机航行。

7.根据权利要求6所述的方法，其特征在于，所述根据所述交跨检测结果和/或所述第三点云分割结果控制所述无人机航行的步骤，包括：

如果所述交跨检测结果表征所述第二前视图像数据包含交跨线路，控制所述无人机提高航行高度；

如果所述交跨检测结果表征所述第二前视图像数据不包含所述交跨线路，控制所述无人机基于提高后的所述航行高度继续航行；

如果所述第三点云分割结果表征所述第三下视点云数据不包含所述交跨线路，控制所述无人机恢复所述航行高度，并基于恢复后的所述航行高度继续航行。

8.一种无人机的自主导航装置，其特征在于，所述装置应用于无人机的控制端，所述装置包括：

信息获取模块，用于获取目标任务的任务信息；其中，所述任务信息包括多个坐标值；

数据采集模块，用于当监听到所述无人机航行至当前坐标值匹配的初始任务位置时，基于所述初始任务位置采集第一下视点云数据和第一前视图像数据；

方向确定模块，用于根据所述当前坐标值对应的下一坐标值、所述第一下视点云数据和所述第一前视图像数据中的一种或多种，确定所述当前坐标值对应的目标航行方向；

航行控制模块，用于控制所述无人机按照所述目标航行方向，航行至所述下一坐标值匹配的初始任务位置，并确定所述下一坐标值对应的目标航行方向，直至所述目标任务执行完毕；

所述方向确定模块还用于：

根据所述当前坐标值与所述当前坐标值对应的下一坐标值之间的相对位置关系，确定第一候选航行方向；

对所述第一下视点云数据进行点云分割处理得到第一点云分割结果，并基于所述第一点云分割结果确定第二候选航行方向；

通过预先训练得到检测网络对所述第一前视图像数据进行目标检测，确定第三候选航行方向和第四候选航行方向；

比对所述第一候选航行方向、所述第二候选航行方向、所述第三候选航行方向和所述第四候选航行方向的一致性，并基于一致性比对结果确定所述当前坐标值对应的目标航行方向。

9.一种无人机，其特征在于，所述无人机搭载有控制端，包括处理器和存储器，所述存储器存储有能够被所述处理器执行的计算机可执行指令，所述处理器执行所述计算机可执行指令以实现权利要求1至7任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现权利要求1至7任一项所述的方法。

Images