CN115294539A - 多任务检测方法及装置、存储介质、终端 - Google Patents
多任务检测方法及装置、存储介质、终端 Download PDFInfo
- Publication number
- CN115294539A CN115294539A CN202210582263.2A CN202210582263A CN115294539A CN 115294539 A CN115294539 A CN 115294539A CN 202210582263 A CN202210582263 A CN 202210582263A CN 115294539 A CN115294539 A CN 115294539A
- Authority
- CN
- China
- Prior art keywords
- kth
- task
- detection
- network
- networks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/766—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using regression, e.g. by projecting features on hyperplanes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Analysis (AREA)
Abstract
一种多任务检测方法及装置、存储介质、终端,所述方法包括:获取输入数据,并将输入数据输入至训练得到的多任务检测模型,多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,预测网络和任务一一对应,且调整网络和预测网络一一对应;采用特征提取网络对输入数据进行特征提取,以得到通用特征向量;采用第k个调整网络对通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为任务的数量;采用第k个预测网络对第k特征向量进行计算,以得到第k个任务的检测结果。通过上述方案,能够减少多任务检测过程的计算量,提高检测效率。
Description
技术领域
本发明涉及深度学习技术领域,尤其涉及一种多任务检测方法及装置、存储介质,终端。
背景技术
近年来,自动驾驶技术得到快速发展。目前,自动驾驶***主要由环境感知***、定位导航***、路径规划***、速度控制***和运动控制***等组成。其中,环境感知***是自动驾驶***的重要组成部分,作为整个自动驾驶的上游环节,其检测性能直接影响规划、决策等自动驾驶的后续环节。
雷达作为感知设备,具有较好的稳定性和适应性,现有技术中通常将雷达部署于自动驾驶车辆上来进行3D目标检测,以实现环境感知。自动驾驶的环境感知会涉及障碍物检测、车道线检测和可行驶区域分割等多个检测任务,现有方案中通常是分别独立地处理这些检测任务,考虑到有限的计算资源,单独处理这些任务极大地增加了车载计算资源的消耗,检测效率较低。
因此,亟需一种多任务检测方法,能够减少多任务检测过程的计算量,提高检测效率。
发明内容
本发明解决的技术问题是如何减少多任务检测过程的计算量,提高检测效率。
为解决上述技术问题,本发明实施例提供一种多任务检测方法,所述方法包括:获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型,所述多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,所述预测网络和所述任务一一对应,且所述调整网络和所述预测网络一一对应;采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为所述任务的数量;采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
可选的,所述输入数据为雷达采集的点云数据,所述特征提取网络包括卷积层,所述卷积层执行稀疏卷积计算。
可选的,所述多任务检测模型是预先采用训练数据对预设模型进行训练得到的,所述预设模型包括:单个初始特征提取网络、多个初始调整网络和多个初始预测网络,所述训练数据包括:第k个任务对应的样本数据,获取输入数据之前,所述方法还包括:步骤一:采用所述训练数据对所述预设模型进行有监督训练,当满足第一预设条件时,得到中间检测模型,其中,所述中间检测模型包括所述特征提取网络、多个中间调整网络和多个中间预测网络;步骤二:采用第k个任务对应的样本数据对第k个中间调整网络和第k个中间预测网络进行有监督训练,当满足第二预设条件时,得到所述多任务检测网络;其中,所述第一预设条件包括:总损失小于或等于第一预设损失,所述第二预设条件包括:每个任务的损失小于或等于第二预设损失,所述总损失是根据M个任务的损失计算得到的。
可选的,采用下列公式计算所述总损失:
L为所述总损失,σk为所述第k个初始调整网络的权重,σk为可学习的参数,Lk为所述第k个任务的损失。
可选的,所述步骤一采用的学习率为第一学习率,步骤二采用的学习率为第二学习率,所述第一学习率大于第二学习率。
可选的,所述样本数据集还包括:无标注样本数据,步骤一之前,所述方法还包括:采用所述无标注样本数据对所述预设模型进行无监督训练,当满足第三预设条件时,得到用于进行所述有监督训练的预设模型。
可选的,所述无标注样本数据包括多帧第一点云数据,所述无监督训练的约束条件包括:匹配点之间的特征距离最小化和/或非匹配点之间的特征距离最大化,采用所述无标注样本数据对所述预设模型进行无监督训练之前,所述方法还包括:对每帧第一点云数据进行数据增强处理,以得到该帧第一点云数据对应的第二点云数据,其中,所述第一点云数据中的点和所述第二点云数据中的点一一对应;在每帧第一点云数据及其对应的第二点云数据中确定匹配点和非匹配点;其中,所述匹配点是指具有对应关系的点,所述非匹配点是指不具有对应关系的点。
为解决上述技术问题,本发明实施例还提供一种多任务检测方法装置,所述装置包括:获取模块,用于获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型,所述多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,所述预测网络和所述任务一一对应,且所述调整网络和所述预测网络一一对应;特征提取模块,用于采用特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;调整模块,用于采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为所述任务的数量;检测模块,用于采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
本发明实施例还提供一种存储介质,其上存储有计算机程序,所述计算机程序被处理器运行时,执行上述的多任务检测方法的步骤。
本发明实施例还提供一种终端,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时执行上述的多任务检测方法的步骤。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
在本发明实施例的方案中,获取输入数据并将输入数据输入至训练得到的多任务检测模型。其中,多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,预测网络和所述任务一一对应,且调整网络和所述预测网络一一对应。进一步地,采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;采用第k个调整网络对通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量;采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。由此,本发明实施例的方案中,可以仅对每帧的输入数据进行单次的特征提取,然后基于提取到的通用特征向量得到多个检测任务的检测结果,从而完成多个检测任务。也即,多个检测任务共享特征提取网络。一方面,相较于现有的多任务检测模型,多个检测任务共用特征提取网络,减少了模型容量和计算复杂度。另一方面,针对每个检测任务采用相应的调整网络,以对通用特征向量进行域适应转换,从而确保每个预测网络的检测效果。因此,本发明实施例的方案可以在确保检测效果的情况下,减少计算复杂度,提高检测效率。
进一步,本发明实施例的方案中,采用训练数据对预设模型进行有监督训练,当满足第一预设条件时,得到中间检测模型;然后采用第k个任务对应的样本数据对第k个中间调整网络以及第k个中间预测网络进行有监督训练,当满足第二预设条件时,得到多任务检测网络;其中,第一预设条件包括:总损失小于或等于第一预设损失,第二预设条件包括:每个任务的损失小于或等于第二预设损失,总损失是根据M个任务的损失计算得到的。相较于现有技术中各个任务检测模型是互相独立训练的,采用上述方案可以对采用联合训练的方法训练得到特征提取网络,能够挖掘出各个检测任务之间的关联信息,有利于提高特征提取网络提取特征的能力,从而提升了多任务检测的准确度和泛化能力。
进一步,本发明实施例的方案中,在采用有监督训练之前,先进行无监督训练,以得到用于进行有监督训练的预设模型。采用这样的方案,将无监督训练和有监督训练进行结合,有利于可以减少对有标注样本数据的需求,也有利于提高网络的准确度和泛化能力。
附图说明
图1是现有技术中一种多任务检测模型的结构示意图;
图2是本发明实施例中一种多任务检测方法的流程示意图;
图3是本发明实施例中一种多任务检测模型的结构示意图;
图4是本发明实施例中一种多任务检测模型的训练方法的流程示意图;
图5是本发明实施例中一种多任务检测装置的结构示意图。
具体实施方式
如背景技术所述,亟需一种多任务检测方法,能够减少多任务检测过程的计算量,提高检测效率。
在自动驾驶感知***的应用场景中,由于自动驾驶感知***对于实时性的要求,通常需要对于同一帧点云数据同时执行多个检测任务。现有的多任务检测模型通常包括多个互相独立的检测模型。如图1所示,第一检测模型11、第二检测模型12和第三检测模型13可以分别用于执行不同的检测任务。例如,可以将同一帧点云数据分别输入至第一检测模型11、第二检测模型12和第三检测模型13中,以得到不同检测任务的检测结果,从而完成多任务检测。
另外,执行多任务检测时,需要将多个检测模型均读取至内存中同时进行任务检测。因此,现有的方案需占用大量的内存,计算量也十分庞大,容易造成卡顿,检测效率较低。
为了解决上述技术问题,本发明实施例提供一种多任务检测方法,在本发明实施例的方案中,可以仅对每帧的输入数据进行单次的特征提取,然后基于提取到的通用特征向量得到多个检测任务的检测结果,从而完成多个检测任务。也即,多个检测任务共享特征提取网络。一方面,相较于现有技术中的多任务检测模型,本发明实施例的方案中多个检测任务可以共用特征提取网络,减少了模型容量和计算复杂度。另一方面,针对每个检测任务采用相应的调整网络,以对通用特征向量进行域适应转换,从而确保每个预测网络的检测效果。因此,本发明实施例的方案可以在确保检测效果的情况下,减少计算复杂度,提高检测效率。
为使本发明的上述目的、特征和有益效果能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
参照图2,图2是本发明实施例中一种多任务检测方法的流程示意图。图2示出的方法可以由终端执行,所述终端可以是现有的各种具有数据接收和数据处理功能的设备。
在一个应用场景中,所述终端可以是车载终端,例如,可以是车辆的电子控制单元(Electronic Control Unit,ECU),其中,所述车辆可以配置有雷达,本发明实施例对于车辆的类型并不进行限制,例如,可以是自动引导车(Automated Guided Vehicles,AGV)、自动驾驶汽车(Autonomous vehicles)等,但并不限于此。
在另一个应用场景中,所述终端还可以是服务器,例如,服务器与车辆通信连接,所述车辆可以配置有雷达,服务器可以从车辆处接收雷达采集的点云数据,并执行本发明实施例提供的多任务检测方法,以得到检测结果。
需要说明的是,本发明实施例的方案中,所述雷达可以是激光雷达,也可以是毫米波雷达。
还需要说明的是,本发明实施例中多任务检测是指同时处理多个检测任务。具体而言,对同一个输入数据(例如,同一帧点云数据)进行处理,以得到多个检测任务的检测结果,而并非是在得到其中一个检测任务的检测结果之后再进行下一个检测任务,也并不是对不同的点云数据分别执行不同的检测任务。
还需要说明的是,本发明实施例提供的方法能够应用于多个技术领域,例如,自动驾驶、增强现实、虚拟现实和智能机器人等技术领域,本发明实施例仅以自动驾驶领域为例进行描述,并不构成对本发明实施例提供方法的应用场景的限制。
图2示出的多任务检测方法可以包括以下步骤:
步骤S11:获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型;
步骤S12:采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;
步骤S13:采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量;
步骤S14:采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
可以理解的是,在具体实施中,所述方法可以采用软件程序的方式实现,该软件程序运行于芯片或芯片模组内部集成的处理器中;或者,该方法可以采用硬件或者软硬结合的方式来实现。
参照图3,图3是本发明实施例中一种多任务检测模型的结构示意图。如图3所示,多任务检测模型可以包括:单个特征提取网络31、多个调整网络32和多个预测网络33。
下面结合图2和图3对本发明实施例提供的多任务检测方法进行非限制性的说明。
在步骤S21的具体实施中,可以获取当前时刻待处理的输入数据,所述输入数据可以是雷达采集到的点云数据。在车辆的行驶过程中,雷达可以对行驶环境进行感知,以得到点云数据。也即,输入数据可以是点云数据。
在其他实施例中,输入数据也可以是摄像头采集到的图像,本发明实施例对此并不进行限制。
在输入数据为点云数据的情况下,在将点云数据输入至多任务检测模型之前,需要先对点云数据进行预处理,以得到处理后的点云数据,并将处理后的点云数据输入至多任务检测模型。
具体而言,点云数据为N×C维数据,其中,N为点云数据中点的数量,C为点云数据的维度。对点云数据进行预处理可以包括:将三维空间进行体素分块,以得到多个体素格,然后将点云数据中的点投影至体素格中,以得到体素特征图;将点云数据沿鸟瞰方向进行投影,以得到鸟瞰图(Bird-Eye View,BEV);将点云数据沿深度方向进行投影,以得到深度图(Range Image)。由此,处理后的点云数据可以包括:体素特征图、鸟瞰图和深度图。
相应的,还可以一并保存点云数据和处理后的点云数据之间的投影关系,以便后续处理根据所述投影关系进行反变换。其中,所述投影关系可以包括点云数据和体素特征图之间的投影关系、点云数据和鸟瞰图之间的投影关系以及点云数据和深度图之间的投影关系。更具体地,在语义分割任务对应的调整网络中,可以根据所述投影关系进行反变换,以便计算每个点的预测结果。
进一步地,可以将输入数据输入至预先训练得到的多任务检测模型中。也即,可以将输入数据输入至图3示出的多任务检测模型中。
所述多任务检测模型可以包括:单个特征提取网络31,特征提取网络31用于对输入数据进行特征提取。
多任务检测模型还可以包括:多个调整网络32和多个预测网络33。其中,调整网络32和预测网络33的数量是相同的,调整网络32和预测网络33一一对应。更具体地,每个调整网络32的输入端和特征提取网络31的输出端连接,输出端和其对应的预测网络33的输入端连接。
其中,调整网络32和预测网络33的数量M可以是根据实际的应用需求确定。更具体地,调整网络32和预测网络33的数量是根据检测任务的数量确定的,预测网络33和检测任务一一对应,也即,调整网络32也和检测任务一一对应。
其中,调整网络32的结构和预测网络33的结构是根据对应的检测任务确定的。
在步骤S22的具体实施中,可以采用多任务检测模型中的特征提取网络对输入数据进行特征提取,以得到通用特征向量。
在具体实施中,特征提取网络31的结构可以是输入数据的类型来确定。在一个具体的例子中,输入数据为点云数据的情况下,特征提取网络包括卷积层,且卷积层执行稀疏卷积(Sparse Convolution)计算。进一步地,特征提取网络输出的通用特征向量可以是四维的特征数据,其中,通用特征向量的通道方向可以用于指示点云数据中的点的属性信息。
在另一个具体的例子中,输入数据为图像的情况下,特征提取网络31的卷积层可以执行全卷积(Fully Convolution)计算。
更具体地,相较于图1示出的多个特征提取网络,图3中示出的特征提取网络可以是图1中多个特征提取网络的结构相同的部分。
在步骤S23的具体实施中,可以将特征提取网络输出的通用特征向量传输至多个调整网络中,并采用每个调整网络执行对应的计算,以得到该调整网络对应的检测任务所需的特征向量。
更具体地,可以采用第k个调整网络对通用特征向量进行特征提取和/或维度变化,以得到第k个任务对应的特征向量,记为第k特征向量。其中,1≤k≤M,k、M为正整数,M为检测任务的数量。
一方面,可以采用第k个调整网络对通用特征向量进行特征提取,以得到第k特征向量。需要说明的是,与特征提取网络进行特征提取相比,第k个调整网络是对通用特征向量进行进一步的特征提取,以得到更深层次的特征向量。
在具体实施中,多个检测任务可以包括:目标检测任务。相应的,目标检测任务对应的调整网络可以包括:特征金字塔网络(Feature Pyramid Network,FPN)和跨阶段局部网络(Cross Stage Partial Networks,CSPNet)。可以将通用特征向量输入至目标检测任务对应的调整网络,FPN和CSPNet可以对通用特征向量进行进一步地特征提取,以得到该调整网络输出的特征向量,该特征向量可以是二维的特征图。进一步地,目标检测任务对应的预测网络可以包括分类网络和回归网络,分类网络可以根据调整网络输出的特征向量得到目标中心点的位置,回归网络可以根据调整网络输出的特征向量得到目标的长宽高和朝向角度,从而得到每个目标的检测结果(x,y,z,dx,dy,dz,heading)。其中,x,y,z为目标中心点的三维位置,dx,dy和dz分别为目标外接三维矩形框的长宽高,heading为目标的旋转角度(也即上述的朝向角度)。
另一方面,可以采用第k个调整网络对通用特征向量进行维度变化,以得到第k特征向量。
在一个具体的例子中,多个检测任务也可以包括:语义分割任务。相应的,语义分割任务对应的调整网络可以包括特征投影网络,特征投影网络可以用于将特征提取网络输出的通用特征向量投影到点云数据中的每一个点。采用调整网络对通用特征向量进行维度变换可以是指采用特征投影网络将通用特征向量投影到点云数据中的每一个点。
在具体实施中,特征投影网络可以根据对点云数据进行预处理时采用的投影关系对通用特征向量进行反变换,以将通用特征向量投影到点云数据中的每一个点,从而得到第k特征向量。其中,第k特征向量包括N个点的特征向量。进一步地,可以采用语义分割任务对应的预测网络根据每个点的特征向量,计算得到该点的预测类别。进一步地,语义分割任务对应的预测网络可以为2层全连接网络,该预测网络可以根据调整网络输出的特征向量得到每个点的类别。所述类别可以是以下任意一项:水雾、灰尘、树枝和其他。
在步骤S24的具体实施中,可以采用第k个预测网络对第k特征向量进行计算,以得到第k个任务的检测结果。其中,第k个预测网络的具体结构可以是根据对应的检测任务确定的,本实施例对此并不进行限制。
由上,本发明实施例提供的方案中,可以仅对每帧的输入数据(例如,点云数据)进行单次的特征提取,然后基于提取到的通用特征向量得到多个检测任务的检测结果,从而完成多个检测任务。一方面,相较于图1示出的现有的多任务检测模型,本发明实施例的方案中多个检测任务可以共用特征提取网络,减少了模型容量和计算复杂度。另一方面,本发明实施例的方案中,针对每个检测任务采用相应的调整网络,以对通用特征向量进行域适应转换,从而提高每个预测网络的训练效果和检测效果。因此,本发明实施例的方案可以在确保检测效果的情况下,减少计算复杂度,提高检测效率。
在实际应用中,在无人驾驶过程中,车载激光雷达会实时获取点云数据,输入到图3示出的多任务检测模型,得到各个任务的检测结果。进一步地,可以对检测结果进行格式转换后输入给预测模块和规划模块等下游模块。
下面对图3示出的多任务检测模型的训练过程进行非限制性的说明。
具体而言,可以采用训练数据对预测模型进行训练,其中,预设模型为训练之前的模型,预测模型可以包括:单个初始特征提取网络、多个初始调整网络和多个初始预测网络。所述训练数据可以包括多个任务对应的样本数据。其中,初始特征提取网络为训练之前的特征提取网络,初始调整网络和调整网络一一对应,初始调整网络是训练之前的调整网络,初始预测网络和预测网络一一对应,初始预测网络是训练之前的预测网络。
参照图4,图4是本发明实施例中一种多任务检测模型的训练方法的流程示意图。下面结合图4对图3中示出的多任务检测模型的训练过程进行非限制性的说明。图4示出的训练方法可以包括以下步骤:
步骤S41:采用无标注样本数据对预设模型进行无监督训练,当满足第三预设条件时,得到用于进行有监督训练的预设模型;
步骤S42:采用训练数据对预设模型进行有监督训练,当满足第一预设条件时,得到中间检测模型;
步骤S43:采用第k个任务对应的样本数据对第k个中间调整网络和第k个中间预测网络进行有监督训练,当满足第二预设条件时,得到所述多任务检测网络。
图4示出的训练方法中,用于训练的训练数据可以包括:多个任务对应的样本数据,更具体的,每个任务对应的样本数据可以包括:无标注样本数据和有标注样本数据。更具体地,每个任务对应的有标注样本数据可以是对该任务对应的无标注样本数据进行标注得到的,也可以是对该任务对应的无标注样本数据以外的其他样本数据进行标注得到的,本实施例对此并不进行限制。
在步骤S41的具体实施中,可以先确定匹配点和非匹配点。
具体而言,无标注样本数据可以包括多帧第一点云数据,可以先对每帧第一点云数据进行数据增强处理,以得到该帧点云对应的第二点云数据。其中,数据增强处理可以包括以下一项或多项:加入随机噪声、随机翻转、随机噪声和随机的尺度变换(例如,随机缩放)。
由于第二点云数据是由第一点云数据生成的,第一点云数据中的点和第二点云数据中的点一一对应,因此,可以在每帧第一点云数据及其对应的第二点云数据中确定匹配点和非匹配点。其中,匹配点可以是指具有对应关系的点,非匹配点是指不具有对应关系的点。
进一步地,可以对预设模型进行无监督训练。其中,无监督训练的损失函数可以为三元组损失函数,无监督训练的约束条件可以包括:匹配点之间的特征距离最小化和/或非匹配点之间的特征距离最大化。其中,特征距离可以是余弦距离、切比雪夫距离和曼哈顿距离等,本实施例对此并不进行限制。
进一步地,当满足第三预设条件时,可以停止无监督训练,并得到用于有监督训练的预设模型。其中,第三预设条件可以包括无监督训练的训练损失小于或等于预设值,本实施例对此并不进行限制。
在步骤S42的具体实施中,可以采用训练数据对预设模型进行有监督训练。其中,训练数据可以包括多个任务对应的有标注样本数据。需要说明的是,步骤S42中的预设模型是指执行步骤S41之后得到的预设模型。换言之,有监督训练可以将无监督训练得到的预设模型作为训练的初始模型。
进一步地,在训练过程中,每批训练数据可以包括多个任务对应的有标注样本数据,将所有任务的有标注样本数据输入至初始特征提取网络,然后将初始特征提取网络输出的每个任务对应的样本通用特征向量分别输入至对应的初始调整网络和初始预测网络中,以得到每个任务的样本预测结果。
进一步地,对于每个检测任务,可以根据该任务对应的样本数据的标签和样本预测结果,计算该任务的损失。
进一步地,可以根据多个任务的损失计算总损失,并根据总损失更新预设网络模型的参数。
在一个非限制性的例子中,可以采用下列公式计算所述总损失:
其中,L为所述总损失,σk为所述第k个初始调整网络的权重,σk为可学习的参数,Lk为所述第k个任务的损失,M为任务的总数。
需要说明的是,σk为可学习的参数。具体而言,在进行第一次有监督训练(也即,步骤S42)的过程中,每次更新各个网络的参数时,也会一并更新各个调整网络的权重σk。其中,σk的初始值可以是预先设置的。需要说明的是,σk用于计算总损失,通过优化σk来优化总损失,从而优化特征提取网络的训练效果。
进一步地,在步骤S42的训练过程中,可以采用随机梯度下降的方法(也即,SGD优化器)更新参数。
进一步地,当满足第一预设条件时,得到中间检测模型,其中,所述中间检测模型包括所述特征提取网络、多个中间调整网络和多个中间预测网络。其中,第一预设条件包括:总损失小于或等于第一预设损失。
在步骤S42中,对每个调整网络采用可学习的自适应权重,可以减少人为超参数设定,有利于网络自动优化参数梯度权重,从而提高特征提取网络训练效果。
在步骤S43的具体实施中,采用第k个任务对应的样本数据对第k个中间调整网络和第k个中间预测网络进行有监督训练,当满足第二预设条件时,得到所述多任务检测网络。
需要说明的是,执行完成步骤S42时(也即,满足第一预设条件时),可以得到特征提取网络,也即,特征提取网络的训练完成。在步骤S43中,仅对调整网络和预测网络进行训练,并不对特征提取网络进行训练。也即,特征提取网络的参数在满足第一预设条件时已经被固定,在步骤S43中仅对调整网络和预测网络的参数进行更新。
进一步地,由于步骤S43中分别采用各个任务对应的样本数据对该任务对应的调整网络和预测网络进行训练,因此,在步骤S43中也无需计算总损失,而是分别计算每个任务的损失,并根据每个任务的损失更新该任务对应的中间调整网络和中间预测网络的参数。
在具体实施中,步骤S42采用的学习率为第一学习率,步骤S43采用的学习率为第二学习率,第一学习率大于第二学习率。
进一步地,当满足第二预设条件时,即可得到上述的多任务检测模型。其中,第二预设条件包括:每个任务的损失小于或等于第二预设损失。
在一个具体的例子中,在每个训练周期后可以采用验证集数据进行验证,观察验证效果和损失变化,如果验证效果不再提升且loss上升,即时停止训练训练。
由上,本发明实施例的方案中,采用无监督和有监督训练结合的方法,可以减少对样本数据的需求,有利于提高网络的准确度和泛化能力。
在训练数据为点云数据的情况下,容易出现难以标注的问题。具体而言,现有的标注通常是人为的标注,在自动驾驶场景下,点云数据中的点通常包括水雾、灰尘对应的点,人为标注时通常难以判断是否为水雾或灰尘对应的点。为此,采用上述将无监督和有监督训练结合的方法,也可以有效应对有标注样本缺乏的问题。
需要说明的是,在其他实施例中,也可以仅采用有监督的训练方法。也即,可以通过执行步骤S42和步骤S43得到多任务检测模型。
如上文所述,现有的任务检测模型之间是互相独立的,训练过程也是互相独立的。然而,在自动驾驶的感知场景中,不同的检测任务之间具有关联性。例如,车道往往是可行驶区域的边界,可行驶区域通常紧密围绕着交通目标。本发明实施例中构建图3所示的多任务检测模型,并进行联合训练。这样的训练过程可以通过多个任务之间的共享信息来学习更好的表示,训练得到的特征提取网络能够提取更多的信息,从而提升每一个检测任务的性能。
在实际应用中,可以采用pytorch进行训练,训练完成后可以通过tensorrt库对训练得到的多任务检测模型进行量化加速,用C++语言进行模型实现和线上部署。
参照图5,图5是本发明实施例中一种多任务检测装置的结构示意图。图5示出的装置可以包括:
获取模块51,用于获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型,所述多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,所述预测网络和所述任务一一对应,且所述调整网络和所述预测网络一一对应;
特征提取模块52,用于采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;
调整模块53,用于采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为所述任务的数量;
检测模块54,用于采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
在具体实施中,上述的多任务检测装置可以对应于终端内具有数据处理功能的芯片;或者对应于终端中具有数据处理功能的芯片模组,或者对应于终端。
关于图5示出的多任务检测装置的工作原理、工作方式和有益效果等更多内容,可以参照上文关于图1至图4的相关描述,在此不再赘述。
本发明实施例还提供一种存储介质,其上存储有计算机程序,所述计算机程序被处理器运行时,执行上述的多任务检测方法的步骤。所述存储介质可以包括ROM、RAM、磁盘或光盘等。所述存储介质还可以包括非挥发性存储器(non-volatile)或者非瞬态(non-transitory)存储器等。
本发明实施例还提供一种终端,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时执行上述的多任务检测方法的步骤。所述终端可以是车载终端。
本发明实施例还提供一种车辆,该车辆可以包括上述的终端,所述终端可以执行上述的多任务检测方法。
应理解,本申请实施例中,所述处理器可以为中央处理单元(central processingunit,简称CPU),该处理器还可以是其他通用处理器、数字信号处理器(digital signalprocessor,简称DSP)、专用集成电路(application specific integrated circuit,简称ASIC)、现成可编程门阵列(field programmable gate array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
还应理解,本申请实施例中的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-only memory,简称ROM)、可编程只读存储器(programmable ROM,简称PROM)、可擦除可编程只读存储器(erasable PROM,简称EPROM)、电可擦除可编程只读存储器(electricallyEPROM,简称EEPROM)或闪存。易失性存储器可以是随机存取存储器(random accessmemory,简称RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的随机存取存储器(random access memory,简称RAM)可用,例如静态随机存取存储器(staticRAM,简称SRAM)、动态随机存取存储器(DRAM)、同步动态随机存取存储器(synchronousDRAM,简称SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,简称DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,简称ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,简称SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,简称DR RAM)。
上述实施例,可以全部或部分地通过软件、硬件、固件或其他任意组合来实现。当使用软件实现时,上述实施例可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令或计算机程序。在计算机上加载或执行所述计算机指令或计算机程序时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以为通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机程序可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机程序可以从一个网站站点、计算机、服务器或数据中心通过有线或无线方式向另一个网站站点、计算机、服务器或数据中心进行传输。
在本申请所提供的几个实施例中,应该理解到,所揭露的方法、装置和***,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的;例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式;例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理包括,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。例如,对于应用于或集成于芯片的各个装置、产品,其包含的各个模块/单元可以都采用电路等硬件的方式实现,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于芯片内部集成的处理器,剩余的(如果有)部分模块/单元可以采用电路等硬件方式实现;对于应用于或集成于芯片模组的各个装置、产品,其包含的各个模块/单元可以都采用电路等硬件的方式实现,不同的模块/单元可以位于芯片模组的同一组件(例如芯片、电路模块等)或者不同组件中,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于芯片模组内部集成的处理器,剩余的(如果有)部分模块/单元可以采用电路等硬件方式实现;对于应用于或集成于终端的各个装置、产品,其包含的各个模块/单元可以都采用电路等硬件的方式实现,不同的模块/单元可以位于终端内同一组件(例如,芯片、电路模块等)或者不同组件中,或者,至少部分模块/单元可以采用软件程序的方式实现,该软件程序运行于终端内部集成的处理器,剩余的(如果有)部分模块/单元可以采用电路等硬件方式实现。
应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,表示前后关联对象是一种“或”的关系。
本申请实施例中出现的“多个”是指两个或两个以上。
本申请实施例中出现的第一、第二等描述,仅作示意与区分描述对象之用,没有次序之分,也不表示本申请实施例中对设备个数的特别限定,不能构成对本申请实施例的任何限制。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。
Claims (10)
1.一种多任务检测方法,其特征在于,所述方法包括:
获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型,所述多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,所述预测网络和所述任务一一对应,且所述调整网络和所述预测网络一一对应;
采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;
采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为所述任务的数量;
采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
2.根据权利要求1所述的多任务检测方法,其特征在于,所述输入数据为雷达采集的点云数据,所述特征提取网络包括卷积层,所述卷积层执行稀疏卷积计算。
3.根据权利要求2所述的多任务检测方法,其特征在于,所述多任务检测模型是预先采用训练数据对预设模型进行训练得到的,所述预设模型包括:单个初始特征提取网络、多个初始调整网络和多个初始预测网络,所述训练数据包括:第k个任务对应的样本数据,获取输入数据之前,所述方法还包括:
步骤一:采用所述训练数据对所述预设模型进行有监督训练,当满足第一预设条件时,得到中间检测模型,其中,所述中间检测模型包括所述特征提取网络、多个中间调整网络和多个中间预测网络;
步骤二:采用第k个任务对应的样本数据对第k个中间调整网络和第k个中间预测网络进行有监督训练,当满足第二预设条件时,得到所述多任务检测网络;
其中,所述第一预设条件包括:总损失小于或等于第一预设损失,所述第二预设条件包括:每个任务的损失小于或等于第二预设损失,所述总损失是根据M个任务的损失计算得到的。
5.根据权利要求3所述的多任务检测方法,其特征在于,所述步骤一采用的学习率为第一学习率,步骤二采用的学习率为第二学习率,所述第一学习率大于第二学习率。
6.根据权利要求3所述的多任务检测方法,其特征在于,所述样本数据集还包括:无标注样本数据,步骤一之前,所述方法还包括:
采用所述无标注样本数据对所述预设模型进行无监督训练,当满足第三预设条件时,得到用于进行所述有监督训练的预设模型。
7.根据权利要求6所述的多任务检测方法,其特征在于,所述无标注样本数据包括多帧第一点云数据,所述无监督训练的约束条件包括:匹配点之间的特征距离最小化和/或非匹配点之间的特征距离最大化,采用所述无标注样本数据对所述预设模型进行无监督训练之前,所述方法还包括:
对每帧第一点云数据进行数据增强处理,以得到该帧第一点云数据对应的第二点云数据,其中,所述第一点云数据中的点和所述第二点云数据中的点一一对应;
在每帧第一点云数据及其对应的第二点云数据中确定匹配点和非匹配点;其中,所述匹配点是指具有对应关系的点,所述非匹配点是指不具有对应关系的点。
8.一种多任务检测方法装置,其特征在于,所述装置包括:
获取模块,用于获取输入数据,并将所述输入数据输入至训练得到的多任务检测模型,所述多任务检测模型包括:单个特征提取网络、多个调整网络和多个预测网络,其中,所述预测网络和所述任务一一对应,且所述调整网络和所述预测网络一一对应;
特征提取模块,用于采用所述特征提取网络对所述输入数据进行特征提取,以得到通用特征向量;
调整模块,用于采用第k个调整网络对所述通用特征向量进行特征提取和/或维度变换,以得到第k个任务对应的特征向量,记为第k特征向量,其中,1≤k≤M,k、M为正整数,M为所述任务的数量;
检测模块,用于采用第k个预测网络对所述第k特征向量进行计算,以得到第k个任务的检测结果。
9.一种存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时,执行权利要求1至7中任一项所述的多任务检测方法的步骤。
10.一种终端,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时执行权利要求1至7中任一项所述的多任务检测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210582263.2A CN115294539A (zh) | 2022-05-26 | 2022-05-26 | 多任务检测方法及装置、存储介质、终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210582263.2A CN115294539A (zh) | 2022-05-26 | 2022-05-26 | 多任务检测方法及装置、存储介质、终端 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115294539A true CN115294539A (zh) | 2022-11-04 |
Family
ID=83821278
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210582263.2A Pending CN115294539A (zh) | 2022-05-26 | 2022-05-26 | 多任务检测方法及装置、存储介质、终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115294539A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115984804A (zh) * | 2023-03-14 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 一种基于多任务检测模型的检测方法及车辆 |
CN116385825A (zh) * | 2023-03-22 | 2023-07-04 | 小米汽车科技有限公司 | 模型联合训练方法、装置及车辆 |
CN117392633A (zh) * | 2023-12-11 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 一种目标检测方法、计算机可读存储介质及智能设备 |
-
2022
- 2022-05-26 CN CN202210582263.2A patent/CN115294539A/zh active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115984804A (zh) * | 2023-03-14 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 一种基于多任务检测模型的检测方法及车辆 |
CN115984804B (zh) * | 2023-03-14 | 2023-07-07 | 安徽蔚来智驾科技有限公司 | 一种基于多任务检测模型的检测方法及车辆 |
CN116385825A (zh) * | 2023-03-22 | 2023-07-04 | 小米汽车科技有限公司 | 模型联合训练方法、装置及车辆 |
CN116385825B (zh) * | 2023-03-22 | 2024-04-30 | 小米汽车科技有限公司 | 模型联合训练方法、装置及车辆 |
CN117392633A (zh) * | 2023-12-11 | 2024-01-12 | 安徽蔚来智驾科技有限公司 | 一种目标检测方法、计算机可读存储介质及智能设备 |
CN117392633B (zh) * | 2023-12-11 | 2024-03-26 | 安徽蔚来智驾科技有限公司 | 一种目标检测方法、计算机可读存储介质及智能设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11704817B2 (en) | Method, apparatus, terminal, and storage medium for training model | |
CN111666921B (zh) | 车辆控制方法、装置、计算机设备和计算机可读存储介质 | |
CN112990211B (zh) | 一种神经网络的训练方法、图像处理方法以及装置 | |
CN115294539A (zh) | 多任务检测方法及装置、存储介质、终端 | |
CN111507150B (zh) | 利用基于深度神经网络的多重图像块组合识别人脸的方法 | |
US11940803B2 (en) | Method, apparatus and computer storage medium for training trajectory planning model | |
US11107229B2 (en) | Image processing method and apparatus | |
CN111797893A (zh) | 一种神经网络的训练方法、图像分类***及相关设备 | |
US11783500B2 (en) | Unsupervised depth prediction neural networks | |
US11074438B2 (en) | Disentangling human dynamics for pedestrian locomotion forecasting with noisy supervision | |
CN111476343B (zh) | 利用掩蔽参数的方法和装置 | |
US11960294B2 (en) | Self-supervised attention learning for depth and motion estimation | |
CN114022799A (zh) | 一种自监督单目深度估计方法和装置 | |
CN115019060A (zh) | 目标识别方法、目标识别模型的训练方法及装置 | |
Zheng et al. | CLMIP: cross-layer manifold invariance based pruning method of deep convolutional neural network for real-time road type recognition | |
CN113763412B (zh) | 图像处理方法、装置及电子设备、计算机可读存储介质 | |
CN111008622B (zh) | 一种图像对象检测方法、装置以及计算机可读存储介质 | |
CN113744280A (zh) | 图像处理方法、装置、设备及介质 | |
US20230105331A1 (en) | Methods and systems for semantic scene completion for sparse 3d data | |
Zhai et al. | Geometry understanding from autonomous driving scenarios based on feature refinement | |
CN115249269A (zh) | 目标检测方法、计算机程序产品、存储介质及电子设备 | |
CN114882372A (zh) | 一种目标检测的方法及设备 | |
CN114119757A (zh) | 图像处理方法、装置、设备、介质和计算机程序产品 | |
CN114140660A (zh) | 一种车辆检测方法、装置、设备及介质 | |
CN111507154A (zh) | 使用横向滤波器掩膜来检测车道线元素的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |