CN113326786B - 数据处理方法、装置、设备、车辆和存储介质 - Google Patents
数据处理方法、装置、设备、车辆和存储介质 Download PDFInfo
- Publication number
- CN113326786B CN113326786B CN202110610587.8A CN202110610587A CN113326786B CN 113326786 B CN113326786 B CN 113326786B CN 202110610587 A CN202110610587 A CN 202110610587A CN 113326786 B CN113326786 B CN 113326786B
- Authority
- CN
- China
- Prior art keywords
- target
- vehicle
- sample
- running state
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 238000001514 detection method Methods 0.000 claims abstract description 104
- 238000012545 processing Methods 0.000 claims abstract description 46
- 238000012549 training Methods 0.000 claims description 34
- 238000000034 method Methods 0.000 claims description 30
- 230000003042 antagnostic effect Effects 0.000 claims description 7
- 230000001133 acceleration Effects 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 13
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 17
- 238000004590 computer program Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000008485 antagonism Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000013097 stability assessment Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本公开提供了一种数据处理方法、装置、电子设备、车辆和非瞬时计算机可读存储介质,涉及人工智能技术领域,尤其涉及深度学习、自动驾驶和智能交通技术领域。具体实现方案为:对行车场景中所采集的初始视频进行识别,得到至少一个目标对象;根据目标对象生成对抗样本;根据对抗样本和初始视频,生成目标视频;根据目标视频对车辆的目标检测模型进行处理。根据本公开的技术,提高了所训练目标检测模型的鲁棒性和准确度,从而有助于提高车辆的行车安全。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及机器学习、自动驾驶和智能交通技术领域。
背景技术
自动驾驶车辆(Autonomous vehicles;Self-driving automobile)又称无人驾驶车辆、电脑驾驶汽车、或轮式移动机器人,是一种通过电脑***实现无人驾驶的智能汽车。
相关技术中,通常采用车辆行驶过程的场景图片,直接对车辆中的目标检测模型进行训练。
发明内容
本公开提供了一种数据处理方法、装置、电子设备、车辆和非瞬时计算机可读存储介质。
根据本公开的一方面,提供了一种数据处理方法,包括:
对行车场景中所采集的初始视频中的至少一个候选帧进行识别,得到至少一个候选目标对象;
从至少一个候选对象中选取目标对象,并根据目标对象生成对抗样本;
根据对抗样本和初始视频,生成目标视频;
根据目标视频对车辆的目标检测模型进行处理训练。根据本公开的另一方面,还提供了一种数据处理装置,包括:
候选目标对象识别模块,用于对行车场景中所采集的初始视频中的至少一个候选帧进行识别,得到至少一个候选目标对象对初始视频中的至少一个候选帧进行识别,得到至少一个候选对象;
对抗样本生成模块,用于根据目标对象生成对抗样本从至少一个候选对象中选取目标对象生成对抗样本;
目标视频生成模块,用于根据对抗样本和初始视频,生成目标视频;
目标检测模型处理训练模块,用于根据目标视频对车辆的目标检测模型进行处理训练。
根据本公开的另一方面,还提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开实施例所提供的任意一种数据处理方法。
根据本公开的另一方面,还提供了一种车辆,其中,车辆设置有本公开实施例所提供的任意一种电子设备。
根据本公开的另一方面,还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开实施例所提供的任意一种数据处理方法。
根据本公开的另一方面,还提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本公开实施例所提供的任意一种数据处理方法。
根据本公开的技术,提高了所训练目标检测模型的鲁棒性和准确度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1A是本公开实施例提供的一种数据处理方法的流程图;
图1B是本公开实施例提供的一种障碍物新增类对抗样本的生成过程示意图;
图2是本公开实施例提供的另一种数据处理方法的流程图;
图3是本公开实施例提供的一种数据处理装置的结构图;
图4是用来实现本公开实施例的数据处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开实施例所体用的各数据处理方法和数据处理装置,适用于对无人驾驶车辆中的目标检测模型进行训练的应用场景中,从而避免了采用相关技术的方式对目标检测模型进行训练,导致的目标检测模型结果准确度较差的情况发生。本公开中的各数据处理方法,可以由数据处理装置执行,该装置采用软件和/或硬件实现,并具体配置于电子设备中,该电子设备可以是终端设备或服务器。在一个可选实施例中,该电子设备可以是车载设备,可设置于车辆中。特别的,设置有该电子设备的车辆可以是无人驾驶车辆。
为了便于理解,本公开首先对各数据处理方法进行详细解释和说明。
参见图1A所示的一种数据处理方法,包括:
S101、对行车场景中所采集的初始视频进行识别,得到至少一个目标对象。
其中,初始视频可以为车辆行驶过程中实时采集的行车场景视频,还可以是预先存储在电子设备本地或与电子设备关联的其他存储设备中的行车场景中所采集的视频。需要说明的是,进行初始视频采集的车辆和后续所训练目标检测模型的所属车辆可以相同或不同。
其中,目标对象可以理解为初始视频中至少一个图片帧中所包含的对象,例如可以是树木、行人、车辆、天空或其他障碍物等。
在一个可选实施例中,可以对初始视频进行抽帧处理,得到至少一个候选帧。本公开对抽帧方式不作任何限定,例如可以依照实际需求或预设频率进行候选帧抽取。
可选的,针对每一候选帧,对该候选帧进行对象分割,得到至少一个目标对象。
在一个可选实施例中,可以对初始视频中的至少一个候选帧进行识别,得到至少一个候选对象;从至少一个候选对象中选取目标对象,从而可以根据实际需求,能够有针对性的进行目标对象的选取。
示例性的,可以采用语义分割模型来提取候选帧中的各对象,得到至少一个候选对象。其中,语义分割模型可以基于机器学习模型训练得到,本公开对语义分割模型的具体模型结构不作任何限定。
为了避免由于候选帧质量较差,导致后续所生成对抗样本质量较低,进而影响对目标检测模型的处理效果,在一个可选实施例中,可以识别初始视频中各图片帧的质量,并选取质量满足设定质量条件的图片帧作为候选帧,然后识别各候选帧中的候选对象。
可选的,质量满足设定质量条件可以包括下述至少一种:图片帧的清晰度大于设定清晰度阈值、图片帧的亮度大于设定亮度阈值、图片帧中候选对象的面积占比大于设定面积阈值、和图片帧的信噪比大于设定信噪比阈值等。其中,设定清晰度阈值、设定亮度阈值、设定面积阈值和设定信噪比阈值的各数值可以由技术人员根据经验值或大量试验加以确定。
S102、根据目标对象生成对抗样本。
其中,对抗样本(Adversarial examples)是指在数据集中通过故意添加细微的干扰所形成的输入样本,会导致模型以高置信度给出一个错误的输出。
在一个可选实施例中,可以根据对抗样本生成需求,基于目标对象生成对抗样本。示例性的,可以从前述各候选对象中选取目标对象,进而基于目标对象生成对抗样本。
示例性的,为了降低目标检测模型的漏识别率,或对目标检测模型进行漏识别率评估,可以根据障碍物类的目标对象,并基于该类目标对象生成障碍物消隐类的对抗样本,从而达到障碍物隐身的效果。其中,障碍物类的目标对象可以包括车辆、行人、动物、路桩和树木等中的至少一种。
在一个具体实现方式中,可以选取车辆作为目标对象,并在该目标对象中添加非障碍物(如天空)的扰动信息,生成对抗样本,从而使得该对抗样本容易被识别为非障碍物,达到障碍物隐身的效果。
示例性的,为了降低目标检测模型的误识别率,或对目标检测模型进行误识别率评估,可以根据非障碍物类的目标对象,并基于该目标对象生成障碍物新增类的对抗样本,从而达到障碍物无中生有的效果。其中,非障碍物类的目标对象可以是天空和道路交通标线(如线条、箭头和文字等)等中的至少一种。
在一个具体实现方式中,可以选取天空作为目标对象,并在该目标对象中添加障碍物(如动物)的扰动信息,生成对抗样本,从而使得该对抗样本容易被识别为障碍物,达到障碍物无中生有的效果。
举例说明,参见图1B所示的障碍物新增类对抗样本的生成过程示意图。将(a)图中候选帧中目标对象,添加(b)图所示的干扰信息,得到(c)图所示的对抗样本,该对抗样本容易被目标检测模型识别为车辆,而实际人眼观测时,该对抗样本为(d)图所示效果。
示例性的,可以预先根据对抗样本生成需求,确定目标对象和扰动信息对照表,并根据该对照表进行对抗样本的自动化生成。
在一个可选实施例中,可以采用FGSM(Fast Gradient Sign Method,快速梯度下降法)、JSMA(Jacobian-based Saliency Map Approach,基于雅可比矩阵的显著性映射法)等方式,基于目标对象生成对抗样本。当然,还可以采用现有技术的其他方式进行对抗样本的生成,本公开对对抗样本生成的具体实现方式不作任何限定。
在一个具体实现方式中,可以通过设置预设约束条件,让对抗样本和目标对象的距离尽可能小,也即扰动小,从而让人眼无法察觉,而容易让目标检测模型出现错误识别的情况。在进行对抗样本生成时,可以通过设置合理的攻击步长和迭代次数,并选取合适的优化算法,例如Adam(adaptive moment estimation,适应性矩估计)算法对生成过程进行迭代优化。
可以理解的是,通过不同方式进行对抗样本的生成,丰富了对抗样本的多样性,从而为目标检测模型的处理提供了丰富的数据支撑,从而有助于提高目标检测模型训练样本的多样性或评价样本的全面性,进而有助于提高目标检测模型处理结果的准确度。
S103、根据对抗样本和初始视频,生成目标视频。
示例性的,将对抗样本替换初始视频中对应图片帧中的目标对象,从而达到更新初始视频的目的,并将更新后的初始视频作为目标视频,以供后续使用。
S104、根据目标视频对车辆的目标检测模型进行训练。
其中,目标检测模型用于对车辆所输入图片帧中的障碍物进行检测或追踪。
可选的,可以将目标视频作为车辆的目标检测模型的输入数据,以实现对目标检测模型的训练,从而适配对车辆的目标检测模型的模型参数进行训练优化的场景。
可选的,还可以将目标视频作为车辆的目标检测模型的输入数据,以实现对目标检测模型的性能评估,从而适配对车辆的目标检测模型的模型性能进行评价的场景。例如,模型性能可以包括检测结果准确度、灵敏度和特异性等。
可以理解的是,由于目标视频中携带有对抗样本,同时还携带有初始视频中未进行对抗样本生成的原始图片帧对应的原始样本,从而使得目标视频中携带有不同类型的样本数据。需要说明的是,对抗样本和原始样本的比例,可以由技术人员根据需求设置,或通过大量试验确定。
本公开通过对行车场景中所采集的初始视频进行识别,得到至少一个目标对象;根据目标对象生成对抗样本;根据对抗样本和初始视频,生成目标视频,从而根据携带对抗样本的目标视频对车辆的目标检测模型进行训练。上述技术方案在目标检测模型的处理过程中引入对抗样本,避免了目标检测模型仅采用初始视频进行处理导致目标检测模型鲁棒性较差或鲁棒性评估结果不准确的情况,提高了目标检测模型处理结果的准确度,从而有助于提高车辆的行驶安全。
在上述各技术方案的基础上,为了在进行目标检测模型训练过程中,提高目标检测模型的稳定性,或实现对目标检测模型的稳定性评估,在一个可选实施例中,将候选对象识别操作,细化为对初始视频中的连续候选帧序列进行识别,得到连续候选帧序列的各候选帧中的候选对象;相应的,将对抗样本生成操作,细化为将连续候选帧序列的各候选帧中的候选对象分别作为目标对象,生成对抗样本流。
其中,连续候选帧序列中候选帧的数量可以由技术人员根据需要或经验值进行确定,或通过大量试验确定。
可以理解的是,通过基于初始视频中的连续候选帧序列,进行对抗样本流的生成,从而使得目标视频中携带有连续的对抗样本数据,进而在基于目标视频对车辆的目标检测模型进行训练时,实现了对目标检测模型的连续攻击,提高了目标检测模型的鲁棒性。在基于目标视频对车辆的目标检测模型进行评价时,通过对目标检测模型的连续攻击,实现了对目标检测模型的稳定性评价。
在上述各技术方案的基础上,可以将初始视频的采集过程以及对目标检测模型的处理过程集成在相同时段,从而实现对车辆的目标检测模型的实时在线处理,有助于提高初始视频的场景真实性和对目标检测模型处理的及时性。另外,在车辆行驶过程进行目标检测模型的处理,从而可以将该处理过程与车辆的路测过程相结合,减少了车辆投入使用前的准备周期。
在一个可选实施例中,可以在对初始视频中的至少一个候选帧进行识别之前,在车辆行驶时,采集初始视频,相应的,在根据目标视频对车辆的目标检测模型进行处理时,根据目标视频对行驶中的车辆的目标检测模型进行诸如训练或评价等处理。
在上述各技术方案的基础上,本公开还提供了一个可选实施例。在该可选实施例中,将对目标检测模型的处理过程进行了优化改进。
参见图2所示的一种数据处理方法,包括:
S201、对行车场景中所采集的初始视频中的至少一个候选帧进行识别,得到至少一个目标对象。
S202、根据目标对象生成对抗样本。
S203、根据对抗样本和初始视频,生成目标视频。
S204、将目标视频的各图片帧输入至车辆的目标检测模型,并获取车辆在目标视频的各图片帧下的应对行驶状态。
其中,车辆的应对行驶状态可以理解为车辆对所输入图片帧的行驶状态响应。示例性的,车辆的应对行驶状态可以是停车止步、减速行驶、避让行驶、保持原有行驶状态等中的至少一种。
示例性的,针对目标视频的每一图片帧,将该图片帧输入至车辆的目标检测模型,得到目标检测结果;车辆基于目标检测结果,将当前行驶状态变更为应对行驶状态。
S205、根据各应对行驶状态和车辆在对应对抗样本下的期望行驶状态,对目标检测模型进行训练。
其中,对抗样本的期望行驶状态可以理解为将对抗样本输入至车辆的目标检测模型时,车辆应当呈现的正确行驶状态。
在一个可选实施例中,对抗样本的期望行驶状态可以由技术人员根据实际情况人为设定。
在另一可选实施例中,可以将目标视频中的对抗样本所属图片帧输入目标检测模型时车辆的行驶状态作为当前行驶状态;根据车辆的当前行驶状态和对抗样本的类型,确定对抗样本的期望行驶状态。
可以理解的是,通过期望行驶状态自动化确定的方式,能够提高期望行驶状态确定效率,从而有助于提高目标检测模型的处理效率。
需要说明的是,车辆的当前行驶状态不同,相应的对抗样本的期望行驶状态相同或不同。
示例性的,若对抗样本为障碍物消隐类,且当前行驶状态为起步或减速行驶,则对抗样本的期望行驶状态为停车止步;若对抗样本为障碍物消隐类,且当前行驶状态为匀速行驶或加速行驶,则对抗样本的期望行驶状态为减速行驶或避让行驶;若对抗样本为障碍物新增类,则对抗样本的期望行驶状态为保持当前行驶状态。
在一个具体实现方式中,可以预先将不同行驶状态进行编码,进而根据当前行驶状态和期望行驶状态之间的对应关系,建立行驶状态对照表,以便基于该行驶状态对照表,对目标检测模型进行训练。
示例性的,行驶状态对照表可以存储在电子设备本地或与电子设备关联的其他存储设备或云端中,并在需要对目标检测模型进行处理时,进行该行驶状态对照表的查找使用。
在一个可选实施例中,根据各应对行驶状态和对应对抗样本的期望行驶状态,对目标检测模型进行训练,可以是:根据各应对行驶状态和对应对抗样本的期望行驶状态,确定预先构建的目标损失函数的损失值;基于目标损失函数的损失值,调整目标检测模型中的网络参数。
在另一可选实施例中,还可以根据各应对行驶状态和对应对抗样本的期望行驶状态,对目标检测模型进行评价。示例性的,统计各应对行驶状态和对应对抗样本的期望行驶状态的一致数据或差异数据;根据一致数据或差异数据,确定目标检测模型的准确度、漏识别率、误识别率、灵敏度、特异性和拟合度等中的至少一个,用于对目标检测模型进行评价。其中,一致数据可以包括一致数量和一致率;差异数据可以包括差异数量和差异率。
本公开通过将对目标检测模型的处理过程,细化为将目标视频的各图片帧输入至车辆的目标检测模型,并获取车辆在目标视频的各图片帧下的应对行驶状态;根据各应对行驶状态和车辆在对应对抗样本下的期望行驶状态,对目标检测模型进行训练。基于上述方案,完善了对目标检测模型的处理机制,能够适配有监督训练场景下的目标检测模型的训练。同时,上述技术方案在对目标检测模型进行训练时,提高了目标检测模型的鲁棒性。可选的,在对目标检测模型进行评价时,有助于提高评价结果的准确度。
作为上述各数据处理方法的实现,本公开还提供了一个实施各数据处理方法的执行装置的可选实施例。
参见图3所示的一种数据处理装置300,包括:目标对象识别模块301、对抗样本生成模块302、目标视频生成模块303和目标检测模型训练模块304。其中,
目标对象识别模块301,用于对行车场景中所采集的初始视频进行识别,得到至少一个目标对象;
对抗样本生成模块302,用于根据目标对象生成对抗样本;
目标视频生成模块303,用于根据对抗样本和初始视频,生成目标视频;
目标检测模型训练模块304,用于根据目标视频对车辆的目标检测模型进行处理。
本公开通过目标对象识别模块对行车场景中所采集的初始视频进行识别,得到至少一个目标对象;通过对抗样本生成模块根据目标对象生成对抗样本;通过目标视频生成模块根据对抗样本和初始视频,生成目标视频;通过目标检测模型训练模块根据携带对抗样本的目标视频对车辆的目标检测模型进行处理。上述技术方案在目标检测模型的处理过程中引入对抗样本,避免了目标检测模型仅采用初始视频进行处理导致目标检测模型鲁棒性较差或鲁棒性评估结果不准确的情况,提高了目标检测模型处理结果的准确度,从而有助于提高车辆的行驶安全。
在一个可选实施例中,目标检测模型训练模块304,包括:
应对行驶状态收集单元,用于将目标视频的各图片帧输入至车辆的目标检测模型,并获取车辆在目标视频的各图片帧下的应对行驶状态;
目标模型处理单元,用于根据各应对行驶状态和车辆在对应对抗样本下的期望行驶状态,对目标检测模型进行训练。
在一个可选实施例中,装置,还包括:
当前行驶状态确定模块,用于将目标视频中的对抗样本所属图片帧输入目标检测模型时车辆的行驶状态作为当前行驶状态;
期望行驶状态确定模块,用于根据当前行驶状态和对抗样本的类型,确定对抗样本的期望行驶状态。
在一个可选实施例中,期望行驶状态确定模块,包括:
第一期望行驶状态确定单元,用于若对抗样本为障碍物消隐类,且当前行驶状态为起步或减速行驶,则对抗样本的期望行驶状态为停车止步;
第二期望行驶状态确定单元,用于若对抗样本为障碍物消隐类,且当前行驶状态为匀速行驶或加速行驶,则对抗样本的期望行驶状态为减速行驶或避让行驶;
第三期望行驶状态确定单元,用于若对抗样本为障碍物新增类,则对抗样本的期望行驶状态为保持当前行驶状态。
在一个可选实施例中,对抗样本生成模块302,包括:
障碍物消隐类对抗样本生成单元,用于根据障碍物类的目标对象,并基于该类目标对象生成障碍物消隐类的对抗样本;和/或,
障碍物新增类对抗样本生成单元,用于根据非障碍物类的目标对象,并基于该类目标对象生成障碍物新增类的对抗样本。
在一个可选实施例中,目标视频生成模块304,包括:
目标视频得到单元,用于将对抗样本替换初始视频中对应图片帧中的目标对象,得到目标视频。
在一个可选实施例中,目标对象识别模块301,包括:
候选对象识别单元,用于对行车场景中所采集的初始视频中的至少一个候选帧进行识别,得到至少一个候选对象;
目标对象选取单元,用于从至少一个候选对象中选取目标对象。
在一个可选实施例中,候选对象识别单元,包括:
连续帧识别子单元,用于对初始视频中的连续候选帧序列进行识别,得到连续候选帧序列的各候选帧中的候选对象;
对抗样本生成模块302,包括:
对抗样本流生成子单元,用于将连续候选帧序列的各候选帧中的候选对象分别作为目标对象,生成对抗样本流。
在一个可选实施例中,装置,还包括:
初始视频采集模块,用于在车辆行驶时,采集初始视频;
目标检测模型训练模块304,包括:
行驶中训练单元,用于根据目标视频对行驶中的车辆的目标检测模型进行处理。
上述数据处理装置可执行本公开任意实施例所提供的数据处理方法,具备执行数据处理方法相应的功能模块和有益效果。
需要说明的是,本公开的技术方案中,所涉及的初始视频、车辆的当前行驶状态的获取、存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图4示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图4所示,设备400包括计算单元401,其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序,来执行各种适当的动作和处理。在RAM 403中,还可存储设备400操作所需的各种程序和数据。计算单元401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
设备400中的多个部件连接至I/O接口405,包括:输入单元406,例如键盘、鼠标等;输出单元407,例如各种类型的显示器、扬声器等;存储单元408,例如磁盘、光盘等;以及通信单元409,例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理,例如数据处理方法。例如,在一些实施例中,数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元408。在一些实施例中,计算机程序的部分或者全部可以经由ROM 402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元401可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
在上述各技术方案的基础上,本公开还提供了一种车辆,在该车辆中,设置有如图4所示的一种电子设备。在一个可选实施例中,该车辆可以是无人驾驶车辆。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术及机器学习/深度学习技术、大数据处理技术、知识图谱技术等几大方向。
云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作***、网络、软件、应用和存储设备等,并可以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开提供的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (17)
1.一种数据处理方法,所述方法由无人驾驶车辆中的车载设备执行,方法包括:
对行车场景中所采集的初始视频进行识别,得到至少一个目标对象;
根据所述目标对象生成对抗样本;
根据所述对抗样本和所述初始视频,生成目标视频;
根据所述目标视频对车辆的目标检测模型进行训练;
其中,所述根据所述目标视频对车辆的目标检测模型进行训练,包括:
将所述目标视频的各图片帧输入至所述车辆的目标检测模型,并获取所述车辆在目标视频的各图片帧下的应对行驶状态;
根据各所述应对行驶状态和所述车辆在对应对抗样本下的期望行驶状态,对所述目标检测模型进行训练;
其中,所述根据所述目标对象生成对抗样本,包括:
根据障碍物类的目标对象,并基于该类目标对象生成障碍物消隐类的对抗样本;和/或,
根据非障碍物类的目标对象,并基于该类目标对象生成障碍物新增类的对抗样本。
2.根据权利要求1所述的数据处理方法,还包括:
将所述目标视频中的对抗样本所属图片帧输入所述目标检测模型时所述车辆的行驶状态作为当前行驶状态;
根据所述当前行驶状态和所述对抗样本的类型,确定所述对抗样本的期望行驶状态。
3.根据权利要求2所述的数据处理方法,其中,所述根据所述当前行驶状态和所述对抗样本的类型,确定所述对抗样本的期望行驶状态,包括:
若所述对抗样本为障碍物消隐类,且所述当前行驶状态为起步或减速行驶,则所述对抗样本的期望行驶状态为停车止步;
若所述对抗样本为障碍物消隐类,且所述当前行驶状态为匀速行驶或加速行驶,则所述对抗样本的期望行驶状态为减速行驶或避让行驶;
若所述对抗样本为障碍物新增类,则所述对抗样本的期望行驶状态为保持所述当前行驶状态。
4.根据权利要求1所述的数据处理方法,其中,所述根据所述对抗样本和所述初始视频,生成目标视频,包括:
将所述对抗样本替换所述初始视频中对应图片帧中的目标对象,得到所述目标视频。
5.根据权利要求1-4任一项所述的数据处理方法,其中,所述对行车场景中所采集的初始视频进行识别,得到至少一个目标对象,包括:
对行车场景中所采集的所述初始视频中的至少一个候选帧进行识别,得到至少一个候选对象;
从所述至少一个候选对象中选取所述目标对象。
6.根据权利要求5所述的数据处理方法,其中,
所述对行车场景中所采集的所述初始视频中的至少一个候选帧进行识别,得到至少一个候选对象,包括:
对车场景中所采集的所述初始视频中的连续候选帧序列进行识别,得到所述连续候选帧序列的各候选帧中的候选对象;
所述根据所述目标对象生成对抗样本,包括:
将所述连续候选帧序列的各候选帧中的候选对象分别作为目标对象,生成对抗样本流。
7.根据权利要求1所述的数据处理方法,还包括:
在所述车辆行驶时,采集所述初始视频;
所述根据所述目标视频对车辆的目标检测模型进行训练,包括:
根据所述目标视频对行驶中的所述车辆的目标检测模型进行训练。
8.一种数据处理装置,所述装置安装在无人驾驶车辆中的车载设备中,装置包括:
目标对象识别模块,用于对行车场景中所采集的初始视频中的至少一个候选帧进行识别,得到至少一个候选目标对象;
对抗样本生成模块,用于根据所述目标对象生成对抗样本;
目标视频生成模块,用于根据所述对抗样本和所述初始视频,生成目标视频;
目标检测模型训练模块,用于根据所述目标视频对车辆的目标检测模型进行训练;
其中,所述目标检测模型训练模块,包括:
应对行驶状态收集单元,用于将所述目标视频的各图片帧输入至所述车辆的目标检测模型,并获取所述车辆在所述目标视频的各图片帧下的应对行驶状态;
目标模型训练单元,用于根据各所述应对行驶状态和所述车辆在对应对抗样本下的期望行驶状态,对所述目标检测模型进行训练;
其中,所述对抗样本生成模块,包括:
障碍物消隐类对抗样本生成单元,用于根据障碍物类的目标对象,并基于该类目标对象生成障碍物消隐类的对抗样本;和/或,
障碍物新增类对抗样本生成单元,用于根据非障碍物类的目标对象,并基于该类目标对象生成障碍物新增类的对抗样本。
9.根据权利要求8所述的数据处理装置,还包括:
当前行驶状态确定模块,用于将所述目标视频中的对抗样本所属图片帧输入所述目标检测模型时所述车辆的行驶状态作为当前行驶状态;
期望行驶状态确定模块,用于根据所述当前行驶状态和所述对抗样本的类型,确定所述对抗样本的期望行驶状态。
10.根据权利要求9所述的数据处理装置,其中,所述期望行驶状态确定模块,包括:
第一期望行驶状态确定单元,用于若所述对抗样本为障碍物消隐类,且所述当前行驶状态为起步或减速行驶,则所述对抗样本的期望行驶状态为停车止步;
第二期望行驶状态确定单元,用于若所述对抗样本为障碍物消隐类,且所述当前行驶状态为匀速行驶或加速行驶,则所述对抗样本的期望行驶状态为减速行驶或避让行驶;
第三期望行驶状态确定单元,用于若所述对抗样本为障碍物新增类,则所述对抗样本的期望行驶状态为保持所述当前行驶状态。
11.根据权利要求8所述的数据处理装置,其中,所述目标视频生成模块,包括:
目标视频得到单元,用于将所述对抗样本替换所述初始视频中对应图片帧中的目标对象,得到所述目标视频。
12.根据权利要求8-11任一项所述的数据处理装置,其中,所述目标对象识别模块,包括:
候选对象识别单元,用于对行车场景中所采集的所述初始视频中的至少一个候选帧进行识别,得到至少一个候选对象;
目标对象选取单元,用于从所述至少一个候选对象中选取所述目标对象。
13.根据权利要求12所述的数据处理装置,其中,
所述候选对象识别单元,包括:
连续帧识别子单元,用于对行车场景中所采集的所述初始视频中的连续候选帧序列进行识别,得到所述连续候选帧序列的各候选帧中的候选对象;
所述对抗样本生成模块,包括:
对抗样本流生成子单元,用于将所述连续候选帧序列的各候选帧中的候选对象分别作为目标对象,生成对抗样本流。
14.根据权利要求8所述的数据处理装置,还包括:
初始视频采集模块,用于在所述车辆行驶时,采集所述初始视频;
所述目标检测模型训练模块,包括:
行驶中训练单元,用于根据所述目标视频对行驶中的所述车辆的目标检测模型进行训练。
15. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的一种数据处理方法。
16.一种车辆,其中,所述车辆设置有如权利要求15所述的一种电子设备。
17.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行根据权利要求1-7中任一项所述的一种数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110610587.8A CN113326786B (zh) | 2021-06-01 | 2021-06-01 | 数据处理方法、装置、设备、车辆和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110610587.8A CN113326786B (zh) | 2021-06-01 | 2021-06-01 | 数据处理方法、装置、设备、车辆和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113326786A CN113326786A (zh) | 2021-08-31 |
CN113326786B true CN113326786B (zh) | 2024-07-05 |
Family
ID=77423139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110610587.8A Active CN113326786B (zh) | 2021-06-01 | 2021-06-01 | 数据处理方法、装置、设备、车辆和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113326786B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113762397B (zh) * | 2021-09-10 | 2024-04-05 | 北京百度网讯科技有限公司 | 检测模型训练、高精度地图更新方法、设备、介质及产品 |
CN115588131B (zh) * | 2022-09-30 | 2024-02-06 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
CN115909020B (zh) * | 2022-09-30 | 2024-01-09 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
CN115526055B (zh) * | 2022-09-30 | 2024-02-13 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102637257A (zh) * | 2012-03-22 | 2012-08-15 | 北京尚易德科技有限公司 | 一种基于视频的交通车辆检测识别***和方法 |
CN112633306A (zh) * | 2019-09-24 | 2021-04-09 | 杭州海康威视数字技术股份有限公司 | 对抗图像的生成方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102393901B (zh) * | 2011-11-18 | 2013-10-30 | 东南大学 | 基于混杂特征的交通流信息感知方法及*** |
CN106296692A (zh) * | 2016-08-11 | 2017-01-04 | 深圳市未来媒体技术研究院 | 基于对抗网络的图像显著性检测方法 |
CN107563274A (zh) * | 2017-07-10 | 2018-01-09 | 安徽四创电子股份有限公司 | 一种基于对抗网络学习的视频的车辆检测方法和计数方法 |
CN112132113A (zh) * | 2020-10-20 | 2020-12-25 | 北京百度网讯科技有限公司 | 车辆再识别的方法、装置、训练方法以及电子设备 |
-
2021
- 2021-06-01 CN CN202110610587.8A patent/CN113326786B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102637257A (zh) * | 2012-03-22 | 2012-08-15 | 北京尚易德科技有限公司 | 一种基于视频的交通车辆检测识别***和方法 |
CN112633306A (zh) * | 2019-09-24 | 2021-04-09 | 杭州海康威视数字技术股份有限公司 | 对抗图像的生成方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN113326786A (zh) | 2021-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113326786B (zh) | 数据处理方法、装置、设备、车辆和存储介质 | |
EP3852008A2 (en) | Image detection method and apparatus, device, storage medium and computer program product | |
CN114120253B (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN112966742A (zh) | 模型训练方法、目标检测方法、装置和电子设备 | |
CN113361710B (zh) | 学生模型训练方法、图片处理方法、装置及电子设备 | |
CN113642431A (zh) | 目标检测模型的训练方法及装置、电子设备和存储介质 | |
CN113205041B (zh) | 结构化信息提取方法、装置、设备和存储介质 | |
CN113378712B (zh) | 物体检测模型的训练方法、图像检测方法及其装置 | |
CN113392793A (zh) | 用于识别车道线的方法、装置、设备、存储介质以及无人车 | |
CN111950345A (zh) | 摄像头的识别方法、装置、电子设备和存储介质 | |
CN113177497B (zh) | 视觉模型的训练方法、车辆识别方法及装置 | |
CN111959526B (zh) | 基于无人车的控制方法、装置、无人车和电子设备 | |
CN113920158A (zh) | 跟踪模型的训练与交通对象跟踪方法、装置 | |
CN113591569A (zh) | 障碍物检测方法、装置、电子设备以及存储介质 | |
CN113379750A (zh) | 语义分割模型的半监督学习方法、相关装置及产品 | |
CN114549961B (zh) | 目标对象的检测方法、装置、设备以及存储介质 | |
CN114429631B (zh) | 三维对象检测方法、装置、设备以及存储介质 | |
CN113920273B (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN113344121B (zh) | 训练招牌分类模型和招牌分类的方法 | |
CN113936158A (zh) | 一种标签匹配方法及装置 | |
CN114119972A (zh) | 模型获取及对象处理方法、装置、电子设备及存储介质 | |
CN113989300A (zh) | 车道线分割的方法、装置、电子设备和存储介质 | |
CN113806361B (zh) | 电子监控设备与道路的关联方法、装置及存储介质 | |
CN113807236B (zh) | 车道线检测的方法、装置、设备、存储介质及程序产品 | |
CN116051919A (zh) | 对比学习模型的训练方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |