CN112949470A - 车辆变道转向灯识别方法、装置、设备及存储介质 - Google Patents

车辆变道转向灯识别方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN112949470A
CN112949470A CN202110221209.0A CN202110221209A CN112949470A CN 112949470 A CN112949470 A CN 112949470A CN 202110221209 A CN202110221209 A CN 202110221209A CN 112949470 A CN112949470 A CN 112949470A
Authority
CN
China
Prior art keywords
vehicle
lane
detection
determining
video stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110221209.0A
Other languages
English (en)
Inventor
赵永磊
谭发兵
朱铖恺
龙磊
武伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sensetime Intelligent Technology Co Ltd
Original Assignee
Shanghai Sensetime Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sensetime Intelligent Technology Co Ltd filed Critical Shanghai Sensetime Intelligent Technology Co Ltd
Priority to CN202110221209.0A priority Critical patent/CN112949470A/zh
Publication of CN112949470A publication Critical patent/CN112949470A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Biology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

本公开提供一种车辆变道转向灯识别方法、装置、设备及存储介质,其中方法包括:获取待测视频流;其中,所述待测视频流中包括至少两个车道;基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。

Description

车辆变道转向灯识别方法、装置、设备及存储介质
技术领域
本公开涉及计算机视觉技术领域,具体涉及一种车辆变道转向灯识别方法、装置、设备及存储介质。
背景技术
目前,车辆仍然是交通运输领域的重要参与对象,车辆的行驶行为也是交通领域的研究热点。实际生活中,部分车辆存在变道不打转向灯的行驶行为,严重影响或危害了正常的交通秩序。而现场执法或者远程人工巡视等方法存在识别效率低和覆盖面小的问题,亟需基于视频的车辆变道时进行转向灯识别的方法,来辅助识别存在变道不打转向灯的违规车辆。
发明内容
本公开提供了一种车辆变道转向灯识别方法、装置、设备及存储介质。
根据本公开实施例的第一方面,提供一种车辆变道转向灯识别方法,所述方法包括:获取待测视频流;其中,所述待测视频流中包括至少两个车道;基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
在一些可选实施例中,所述基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道,包括:基于对所述待测视频流的车辆检测与跟踪检测,获得车辆跟踪序列图像;确定所述车辆跟踪序列图像中的车辆所在的车道;所述对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测,包括:对所述变道时刻前后预设时长的车辆跟踪序列图像分别进行转向灯检测。
在一些可选实施例中,对所述车辆跟踪序列图像进行转向灯检测,包括:将所述车辆跟踪序列图像输入预先训练的包括至少一个检测分支的检测模型;基于所述检测模型输出的转向灯亮和/或灭的概率,确定所述转向灯的开启状态。
在一些可选实施例中,在所述检测模型包括多个检测分支的情况下,对所述车辆跟踪序列图像进行转向灯检测的步骤,包括:将所述车辆跟踪序列图像分别输入所述检测模型的多个检测分支;对所述多个检测分支输出的转向灯亮和/或灭的概率进行融合,得到所述车辆跟踪序列图像的转向灯的开启状态。
在一些可选实施例中,对所述车辆跟踪序列图像进行转向灯检测,包括:将所述车辆跟踪序列图像输入包括至少一个检测分支的所述检测模型,其中,每一分支包含自注意力模块;基于所述自注意力模块生成的权重更新所述车辆跟踪序列图像中的图像特征,其中,在所述车辆跟踪序列图像中,转向灯区域的权重不同于其他区域的权重;基于所述车辆跟踪序列图像的图像特征,确定所述转向灯的开启状态。
在一些可选实施例中,所述基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道,包括:对所述待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得所述车辆的多帧车辆前景图;基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道。
在一些可选实施例中,所述基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道,包括:对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域;其中,所述车辆区域用于表示所述车辆所占据的路面区域;根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道。
在一些可选实施例中,所述对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域,包括:将所述车辆前景图输入预先训练得到的关键点检测网络,由所述关键点检测网络检测出所述图像中所述车辆的车轮关键点;基于所述车轮关键点围成的多边形,确定所述图像中所述车辆的车辆区域。
在一些可选实施例中,所述根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道,包括:将所述车辆区域与所述车道的重叠区域,确定为第一区域;将所述第一区域占所述车辆区域的比例,确定为车辆重叠度;在所述车辆重叠度大于预设的重叠度阈值的情况下,将所述车辆重叠度对应的车道确定为所述车辆所在的车道。
在一些可选实施例中,在所述确定所述车辆变道未打转向灯之后,还包括:发起告警和/或保存所述车辆变道未打转向灯的图像帧。
根据本公开实施例的第二方面,提供一种车辆变道转向灯识别装置,所述装置包括:视频流获取模块,用于获取待测视频流;其中,所述待测视频流中包括至少两个车道;车辆车道确定模块,用于基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;时刻确定模块,用于将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;转向灯检测模块,用于对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;未打转向灯确定模块,用于在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
在一些可选实施例中,所述车辆车道确定模块,在用于基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道时,包括:基于对所述待测视频流的车辆检测与跟踪检测,获得车辆跟踪序列图像;确定所述车辆跟踪序列图像中的车辆所在的车道;所述转向灯检测模块,在用于对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测时,包括:对所述变道时刻前后预设时长的车辆跟踪序列图像分别进行转向灯检测。
在一些可选实施例中,所述转向灯检测模块,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像输入预先训练的包括至少一个检测分支的检测模型;基于所述检测模型输出的转向灯亮和/或灭的概率,确定所述转向灯的开启状态。
在一些可选实施例中,在所述检测模型包括多个检测分支的情况下,所述转向灯检测模块,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像分别输入所述检测模型的多个检测分支;对所述多个检测分支输出的转向灯亮和/或灭的概率进行融合,得到所述车辆跟踪序列图像的转向灯的开启状态。
在一些可选实施例中,在所述检测模型包括多个检测分支的情况下,所述转向灯检测模块,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像输入包括至少一个检测分支的所述检测模型,其中,每一分支包含自注意力模块;基于所述自注意力模块生成的权重更新所述车辆跟踪序列图像中的图像特征,其中,在所述车辆跟踪序列图像中,转向灯区域的权重不同于其他区域的权重;基于所述车辆跟踪序列图像的图像特征,确定所述转向灯的开启状态。
在一些可选实施例中,所述车辆车道确定模块,包括:前景图获得子模块,用于对所述待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得所述车辆的多帧车辆前景图;车道确定子模块,用于基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道。
在一些可选实施例中,所述车道确定子模块,包括:车辆区域确定子模块,用于对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域;其中,所述车辆区域用于表示所述车辆所占据的路面区域;车辆所在车道确定子模块,用于根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道。
在一些可选实施例中,所述车辆区域确定子模块,在用于对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域时,包括:将所述车辆前景图输入预先训练得到的关键点检测网络,由所述关键点检测网络检测出所述图像中所述车辆的车轮关键点;基于所述车轮关键点围成的多边形,确定所述图像中所述车辆的车辆区域。
在一些可选实施例中,所述车辆所在车道确定子模块,在用于根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道时,包括:将所述车辆区域与所述车道的重叠区域,确定为第一区域;将所述第一区域占所述车辆区域的比例,确定为车辆重叠度;在所述车辆重叠度大于预设的重叠度阈值的情况下,将所述车辆重叠度对应的车道确定为所述车辆所在的车道。
在一些可选实施例中,所述装置还包括:结果处理模块,用于发起告警和/或保存所述车辆变道未打转向灯的图像帧。
根据本公开实施例的第三方面,提供一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现第一方面中任一项所述的车辆变道转向灯识别方法。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现第一方面中任一所述的车辆变道转向灯识别方法。
根据本公开实施例的第五方面,提供一种计算机程序产品,包括计算机程序,所述程序被处理器执行时实现第一方面中任一所述的车辆变道转向灯识别方法。
本公开实施例中,在确定车辆的变道时刻后,可以对车辆变道过程中预设时长的视频流中的车辆进行转向灯检测,并在预设时长内车辆的转向灯均未被打亮的情况下,确定车辆变道未打转向灯。该方式,在确定车辆进行变道后可以进一步检测出车辆在变道过程中是否打转向灯,可以在车辆变道过程中不打转向灯的情况下,及时发出告警信息以进行提示。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种车辆变道转向灯识别流程图;
图2是根据一示例性实施例示出的一种车辆变道示意图;
图3是根据一示例性实施例示出的一种转向灯检测方法流程图;
图4是根据一示例性实施例示出的一种第一检测模型和第二检测模型示意图;
图5是根据一示例性实施例示出的一种车道确定方法流程图;
图6是根据一示例性实施例示出的一种待测视频流中图像示意图;
图7是根据一示例性实施例示出的一种车辆前景图示意图;
图8是根据一示例性实施例示出的又一种车道确定方法流程图;
图9是根据一示例性实施例示出的一种车辆区域确定方法流程图;
图10是根据一示例性实施例示出的一种关键点检测网络的网络结构示意图;
图11是根据一示例性实施例示出的又一种车道确定方法流程图;
图12是根据一示例性实施例示出的一种车辆变道转向灯识别装置示意图;
图13是根据一示例性实施例示出的又一种车辆变道转向灯识别装置示意图;
图14是根据一示例性实施例示出的一种转向灯检测模块示意图;
图15是根据一示例性实施例示出的又一种转向灯检测模块示意图;
图16是根据一示例性实施例示出的一种车辆车道确定模块示意图;
图17是根据一示例性实施例示出的一种车道确定子模块示意图;
图18是根据一示例性实施例示出的又一种车辆变道转向灯识别装置示意图;
图19是根据一示例性实施例示出的一种计算机设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的具体方式并不代表与本公开相一致的所有方案。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本公开使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本公开可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
为了使本公开提供的车辆变道转向灯识别方法更加清楚,下面结合附图和具体实施例对本公开提供的方案执行过程进行详细描述。
参见图1,图1是本公开提供的实施例示出的一种车辆变道转向灯识别方法流程图。如图1所示,该流程包括:
步骤101,获取待测视频流;其中,所述待测视频流中包括至少两个车道。
本公开实施例中,可以将需要进行车辆变道转向灯识别的视频流称为待测视频流。并且,待测视频流的画面中包括至少两个车道。其中,视频流画面中的车辆可以在不同车道之间实现变道行驶。
其中,获取待测视频流的具体方式可以包括多种,本公开实施例并不限制。示例性的,以高速公路上识别车辆连续变道为例,本步骤中可以复用高速公路上已安装的视频采集设备,获取待测视频流。该方式,可以复用原有的视频采集设备,减少了硬件成本。
步骤102,基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道。
本步骤可以对待测视频流进行检测,确定待测视频流中包括的车辆以及车辆所在的车道。其中,对待测视频流进行检测可以包括车辆检测和跟踪检测,对应可获得多个车辆检测框。通过对待测视频流的车辆检测,可以识别出待测视频流中包括的车辆。可以理解的是,对待测视频流进行车辆检测的具体方式本公开实施例并不限制。例如,可以利用相关技术中已有可进行车辆检测的网络模型,实现对待测视频流中车辆的车辆检测。或者,可以根据采集的样本数据,基于深度神经网络模型训练得到符合检测要求的车辆检测网络,并利用训练得到的该车辆检测网络实现对待测视频流中车辆的车辆检测。
对待测视频流进行车辆检测后,待测视频流中包括的不同图像帧中可能包括多个不同的车辆。但是,不同图像帧之间相同的车辆并未进行关联,即并不能识别出不同图像帧中的同一辆车辆。所以,在对待测视频流进行车辆检测的基础上,本步骤还包括对待测视频流进行跟踪检测。通过跟踪检测可以将待测视频流中出现的相同车辆进行关联,即可结合之前获得的车辆检测框得到每一车辆的车辆跟踪序列图像。例如,可以识别出不同图像帧中包括的同一辆车辆,即可以识别出待测视频流中同一辆车辆。可以理解的是,对待测视频流进行跟踪检测的具体方式可以包括多种,本公开实施例并不限制。类似对待测视频流进行车辆检测,对待测视频流进行跟踪检测的具体方式,可以基于相关技术中的跟踪算法实现对待测视频流的跟踪检测;或者可以基于深度神网络自行训练得到符合要求的跟踪检测模型,从而可以利用该跟踪检测模型实现对待测视频流的跟踪检测。
在对待测视频流进行车辆检测与跟踪检测的基础上,本步骤在确定待测视频流中的车辆后,还可以进一步确定出车辆所在的车道。具体根据待测视频流确定车辆所在车道的详细过程,将在后续进行详细介绍,在此暂不赘述。
步骤103,将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻。
在确定待测视频流中的车辆以及车辆所在的车道之后,本步骤可以进一步确定车辆由原来所在的原行驶车道变为相邻车道的时刻,作为车辆的变道时刻。其中,原行驶车道是车辆在变道之前所在的车道。相邻车道是车辆从原行驶车道变道后所在的车道。并且,原行驶车道与相邻车道是相邻的不同的两个车道。
图2示出一种车辆行驶过程中变道示意图。其中,图2中包括3个车道:L1、L2和L3;车辆在Car1位置时,正从车道L1变道至车道L2,而车辆在Car2位置时,正从车道L2变道至车道L3,以实现从车道L1变道至车道L3。以图2为例,本步骤可以将车道L1作为原行驶车道,将车道L2作为相邻车道,将车辆由车道L1进入车道L2的时刻作为变道时刻。或者,本步骤可以将车道L2作为原行驶车道,将车道L3作为相邻车道,将车辆由车道L2进入车道L3的时刻作为变道时刻。
在一些可选实施例中,可以根据待测视频流中图像帧对应的时刻,结合图像帧中车辆所在车道的变化,确定车辆的变道时刻。具体的,可以将待测视频流中的图像帧中的车辆所在的车道从原行驶车道变为相邻车道的图像帧,确定为对应该车辆从原行驶车道变道至相邻车道的图像帧,并将该图像帧对应的时刻作为该车辆的变道时刻。
步骤104,对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测。
本公开实施例中,可以基于变道时刻预先设置一定的预设时长,以对预设时长内的待测视频流中的车辆进行转向灯检测。其中,预设时长的具体设置方式,本公开实施例并不限制。示例性的,可以在变道时刻前后均取2秒钟时长,共4秒的时长作为设置的预设时长。本步骤可以对包括变道时刻的总共4秒时长对应的待测视频流中的车辆进行转向灯检测。
其中,对待测视频流中车辆进行转向灯识别的具体方式,本公开实施例并不限制。例如,可以利用相关技术中可对视频流中的车辆进行转向灯识别的已有检测模型进行检测。或者,可以基于训练样本利用可学习的深度神经网络训练得到符合要求的转向灯检测网络,以利用该转向灯检测网络对待测视频流中的车辆的转向灯进行检测。
步骤105,在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
对预设时长的待测视频流中的车辆进行转向灯检测后,如果预设时长内车辆的转向灯均未打亮,则可以确定车辆在变道的过程中未打转向灯。即,车辆未按照行驶规范在变道过程中打转向灯。
此时,可以适当形式发出告警信息,以提示车辆变道未打转向灯。在一种可能的实现方式中,可以发起告警和/或保存所述车辆变道未打转向灯的图像帧。其中,发起告警的具体方式可以包括多种实现方式,本公开实施例并不限制。例如,可以向交通检测部门的检测***发送告警提示信息,以提醒相关工作人员检测到车辆变道未打转向灯。又例如,可以直接向驾驶员所用设备发起告警,以直接提醒驾驶员谨慎驾驶。比如,可以直接向驾驶员所用手机进行短信或其他方式发送告警信息。另外,在检测到车辆变道未打转向灯后,进一步的还可以将变道未打转向灯的车辆的相关图像帧或视频流保存下来,以在进行处理过程中作为证明使用。
本公开实施例中,在确定车辆的变道时刻后,可以对车辆变道过程中预设时长的视频流中的车辆进行转向灯检测,并在预设时长内车辆的转向灯均未被打亮的情况下,确定车辆变道未打转向灯。该方式,在确定车辆进行变道后可以进一步检测出车辆在变道过程中是否打转向灯,可以在车辆变道过程中不打转向灯的情况下,及时发出告警信息以进行提示。
另一方面,本公开实施例在识别车辆变道未打转向灯的过程,与对车辆进行变道识别的过程,是完全解耦的两个过程。即,对车辆进行变道识别的过程可以单独进行优化或改善,而对车辆变道转向灯识别的过程也可以单独进行优化或改善,方便分别对两者进行优化。
在一些可选实施例中,步骤102的具体实现可以包括:基于对所述待测视频流的车辆检测与跟踪检测,获得车辆跟踪序列图像;确定所述车辆跟踪序列图像中的车辆所在的车道。
由于待测视频流是由多帧连续的图像构成,所以对待测视频流进行检测的过程,实际上是对待测视频流包括的多帧图像分别进行检测,确定多帧图像中车辆所在的车道的过程。
上述实施例中,可以基于对待测视频流的车辆检测和跟踪检测,获得车辆跟踪序列图像。车辆跟踪序列图像中包括同一辆车辆的多张车辆前景图,并且包括的多张车辆前景图按照时间顺序进行排序。其中,车辆前景图中仅包括一辆车辆。在一种可能的实现方式中,可以基于从图像中检测出的车辆的车辆检测框,将图像裁剪为预设尺寸的车辆前景图。
在获得车辆跟踪序列图像后,可以直接对车辆跟踪序列图像进行检测,确定车辆所在的车道。在对变道时刻前后预设时长的待测视频流中的车辆进行转向灯检测时,可以直接对变道时刻前后预设时长的车辆跟踪序列图像分别进行转向灯检测。
在一些可选实施例中,对所述车辆跟踪序列图像进行转向灯检测,包括:将所述车辆跟踪序列图像输入预先训练的包括至少一个检测分支的检测模型;基于所述检测模型输出的转向灯亮和/或灭的概率,确定所述转向灯的开启状态。
上述实施例中,可以预先利用训练样本训练得到符合要求的检测模型,以利用该检测模型对车辆跟踪序列图像进行检测,确定该车辆跟踪序列图像中车辆的转向灯亮的概率,或确定该车辆跟踪序列图像中车辆的转向灯灭的概率,从而根据确定的概率值确定车辆的转向灯的开启状态。
并且,检测模型中可以包括一个或多个检测分支。其中,任一个检测分支可以根据输入的车辆跟踪序列图像,检测确定该车辆跟踪序列图像中车辆的转向灯亮的概率,或者确定该车辆跟踪序列图像中车辆的转向灯灭的概率。
在一些可选实施例中,在所述检测模型包括多个检测分支的情况下,对所述车辆跟踪序列图像进行转向灯检测的步骤,包括:将所述车辆跟踪序列图像分别输入所述检测模型的多个检测分支;对所述多个检测分支输出的转向灯亮和/或灭的概率进行融合,得到所述车辆跟踪序列图像的转向灯的开启状态。
检测模型包括多个检测分支的情况下,可以将需要检测的车辆跟踪序列图像分别输入多个检测分支中,由不同的检测分支根据输入的车辆跟踪序列图像分别得到对应车辆的转向灯亮或灭的概率值。由于检测模型包括多个检测分支,所以同一个车辆跟踪序列图像中同一车辆可以得到对应的多个检测结果,即得到对应的多个转向灯是否亮或灭的概率值。
进一步的,本公开实施例中可以将不同检测分支得到的多个概率值进行融合,以得到该车辆的转向灯是否亮或灭的最终概率值,从而根据最终的概率值确定该车辆的转向灯的开启状态。其中,将多个概率值进行融合的具体方式本公开实施例并不限制。例如,可以将多个检测分支得到的转向灯亮的多个概率值取平均值,得对应车辆的转向灯亮的最终概率值,如果该最终概率值大于预设的概率阈值的情况下,可以确定该车辆的转向灯处于开启状态。
在一些可选实施例中,对所述车辆跟踪序列图像进行转向灯检测,如图3所示,可以包括以下步骤:
步骤301,将所述车辆跟踪序列图像输入包括至少一个检测分支的所述检测模型,其中,每一分支包含自注意力模块。
本公开实施例中,检测模型包括的检测分支中可以融合自注意力机制,以增强所述车辆跟踪序列图像中转向灯区域的图像特征。例如,可以在检测模型包括的每一个分支中增加自注意力模块。在一种可能的实现方式中,可以在检测模型包括的部分检测分支中增加自注意力模块;在其他实现方式中,也可以在检测模型的每以检测分支中分别增加自注意力模块,在此,不做具体限定。
步骤302,基于所述自注意力模块生成的权重更新所述车辆跟踪序列图像中的图像特征,其中,在所述车辆跟踪序列图像中,转向灯区域的权重不同于其他区域的权重。
本步骤可以基于检测分支中包含的自注意力模块生成对应特征图的权重,以更新车辆跟踪序列图像的图像特征。其中,可以基于自注意力模块,将车辆跟踪序列图像中转向灯区域的权重与其他区域的权重进行区别,以增强车辆跟踪序列图像中转向灯区域的图像特征。例如,可以基于自注意力机制使车辆跟踪序列图像中转向灯区域的权重大于其他区域的权重。或者,可以基于自注意力机制使车辆跟踪序列图像中转向灯区域的权重小于其他区域的权重。
步骤303,基于所述车辆跟踪序列图像的图像特征,确定所述转向灯的开启状态。
基于自注意力机制更新车辆跟踪序列图像后得到的图像特征,可以更加明显突出车辆的转向灯区域,使得检测模型在对车辆跟踪序列图像进行检测过程中增强了对转向灯区域的关注,从而可以更加准确的检测确定车辆跟踪序列图像中车辆的开启状态。
以下以检测模型中包括两个检测分支:第一检测模型和第二检测模型为例,对车辆跟踪序列图像进行转向灯检测的过程进行示例性说明。可以理解的是,本公开实施例中检测模型中并不限制于包括两个检测分支,以下仅作为示例性说明。
其中,对车辆跟踪序列图像进行转向灯检测的过程,可以包括:将所述车辆跟踪序列图像输入预先训练的第一检测模型,由所述第一检测模型输出所述车辆跟踪序列图像的第一转向灯检测结果;将所述车辆跟踪序列图像输入预先训练的第二检测模型,由所述第二检测模型输出所述车辆跟踪序列图像的第二转向灯检测结果;将所述第一转向灯检测结果和所述第二转向灯检测结果进行融合,得到所述车辆跟踪序列图像的最终转向灯检测结果。
本公开实施例中,可以预先利用训练数据分别进行单独训练,得到两个检测模型:第一检测模型和第二检测模型。其中,第一检测模型或第二检测模型可以根据输入的车辆跟踪序列图像,检测车辆跟踪序列图像中车辆的转向灯是否被打亮,得到第一转向灯检测结果或第二转向灯检测结果。
其中,第一转向灯检测结果或第二转向灯检测结果的具体呈现形式本公开实施例并不限制。示例性的,第一检测模型可以输出车辆跟踪序列图像中车辆的转向灯被打亮的概率值,作为第一转向灯检测结果。示例性的,第二检测模型可以输出车辆跟踪序列图像中车辆的转向灯未被打亮的概率值,作为第二转向灯检测结果。
在一种可能的实现方式中,第一检测模型得到的第一转向灯检测结果可以包括:转向灯亮的概率值和/或转向灯灭的概率值。同样的,第二检测模型得到的第二转向灯检测结果也可以包括:转向灯亮的概率值和/或转向灯灭的概率值。
在一些可选实施例中,在对车辆跟踪序列图像进行转向灯检测之前,还包括:对基础检测模型的模型参数取第一比例,得到所述第一检测模型;对所述基础检测模型的模型参数取第二比例,得到所述第二检测模型。
基础检测模型包括可用于对车辆跟踪序列图像进行转向灯检测的网络模型。例如,可以将ResNet18模型作为基础检测模型。上述实施例中,可以对ResNet18模型的模型参数取第一比例,得到所述第一检测模型;对ResNet18模型的模型参数取第二比例,得到所述第二检测模型。可选的,第一比例与第二比例的和小于1,这样两个检测模型的参数数量小于完整的ResNet18模型的模型参数,可以减少计算量,提升检测效率。
示例性的,可以对ResNet18模型的模型参数中的通道数取1/2,得到第一检测模型,对ResNet18模型的模型参数取中的通道数取1/4,得到第二检测模型。在利用ResNet18模型得到第一检测模型和第二检测模型后,需要利用训练数据对两个检测模型分别单独进行训练,以得到可用于对车辆跟踪序列图像进行转向灯检测的两个检测模型。
在一些可选实施例中,可以在所述第一检测模型和所述第二检测模型中分别融合自注意力机制,以强化所述车辆跟踪序列图像中车辆的转向灯区域。在一种可能的实现方式中,在所述将所述车辆跟踪序列图像输入预先训练的第一检测模型之后,还包括:基于自注意力机制,更新所述第一检测模型的特征图中对应转向灯区域的权重值;和/或,在所述将所述车辆跟踪序列图像输入预先训练的第二检测模型之后,还包括:基于自注意力机制,更新所述第二检测模型的特征图中对应转向灯区域的权重值。
示例性的,如图4所示,可以在第一检测模型和第二检测模型中分别融合自注意力机制,通过最大池化和卷积得到特征图中车辆转向灯区域的权重值,强化车辆跟踪序列图像中车辆的转向灯区域。从而,使得第一检测模型或第二检测模型,可以更加准确的检测出车辆跟踪序列图像中车辆的转向灯的信息,更加准确的检测出车辆的转向灯是否被点亮。该方式中,对光照等外部条件更加鲁棒,优化了恶劣条件下算法效果。
在得到第一转向灯检测结果和第二转向灯检测结果后,本公开实施例可以将两个转向灯检测结果进行融合,得到最终的车辆的转向灯检测结果。例如,可以将转向灯点亮的两个概率值取平均值得到平均概率值,从而根据平均概率值确定车辆的转向灯检测结果,确定车辆的转向灯是否被打亮。
由于第一转向灯检测结果可以包括转向灯亮的概率值和转向灯灭的概率值,并且第二转向灯检测结果也可以包括转向灯亮的概率值和转向灯灭的概率值。所以,在对概率值进行融合的过程中,可以对转向灯亮的概率值和转向灯灭的概率值分别进行融合。
示例性的,可以将第一转向灯检测结果中包括的转向灯亮的概率值和第二转向灯检测结果中包括的转向灯亮的概率值,取平均值得到融合后的转向灯亮的最终概率值;将第一转向灯检测结果中包括的转向灯灭的概率值和第二转向灯检测结果中包括的转向灯灭的概率值,取平均值得到融合后的转向灯灭的最终概率值。从而,可以根据融合后得到的转向灯亮和灭的最终概率值,确定车辆的转向灯检测结果,确定车辆的转向灯是否被打亮。
本公开实施例中,可以通过第一检测模型和第二检测模型分别对车辆跟踪序列图像进行检测,得到第一转向灯检测结果和第二转向灯检测结果;再将第一转向灯检测结果和第二转向灯检测结果进行融合,得到车辆跟踪序列图像的最终转向灯检测结果。该检测方式相对于一个检测模型对图像进行检测,对图像中车辆的转向灯检测更加准确,从而可以更加准确的识别车辆进行变道过程中是否打转向灯。
在一些可选实施例中,步骤102中基于待测视频流确定车辆所在车道的具体实现,如图5所示,可以包括以下步骤:
步骤501,对所述待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得所述车辆的多帧车辆前景图。
由于待测视频流是由多帧连续的图像构成,所以对待测视频流进行检测的过程,实际上是对待测视频流包括的多帧图像分别进行检测,确定多帧图像中车辆所在的车道的过程。
在对待测视频流包括的多帧图像分别进行检测的过程中,可以预先对待测视频流进行预处理,以减少视频流中包括的图像帧的数量,从而可以减少检测计算量、提高检测效率。在一些可选实施例中,可以从待测视频流中按照预设规则抽取多帧图像;将抽取的多帧图像按照时间顺序排序,得到车辆的图像集合;对图像集合中包括的多帧图像分别进行检测,确定多帧图像中车辆所在的车道。
上述实施例中,可以预先设置图像抽取规则,从待测视频流中按照预设规则抽取图像帧,将抽取得到的车辆的图像集合作为新的待测视频流,对其中包括的图像进行检测。例如,可以从视频流每1秒中均匀抽取5帧图像,然后将一定时间段抽取得到的图像按照待测视频流中图像的时间顺序进行排序,得到车辆的图像集合,作为新的待测视频流并对其中的图像进行检测。
该方式中,可以基于预设规则对待测视频流中的图像进行抽取,可以一定程度上减少待测视频流中图像帧的数量,从而可以降低对待测视频流中图像进行检测的计算量,提高检测车辆所在的车道的检测效率。
本公开实施例中,待测视频流中包括的图像是图像采集设备采集的原尺寸图像。由于图像采集设备的差异,可能导致采集得到的图像的尺寸存在差异。所以,本步骤可以通过对待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得车辆的多帧预设尺寸的车辆前景图。其中,车辆前景图中仅包括一辆车辆。
例如,可以基于从图像中检测出的车辆的车辆检测框,将图像裁剪为预设尺寸的车辆前景图。该方式将图像裁剪为尺寸统一的车辆前景图,可以更加方便的对车辆前景图中的车辆进行进一步的检测。示例性的,本步骤可以将如图6所示的图像进行裁剪,得到如图7所示的车辆前景图。其中,图7所示的车辆前景图可以是预设尺寸大小的图像,并且该车辆前景图中仅包括一辆车辆。
步骤502,基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道。
在根据待测视频流包括的多帧图像获得车辆的多帧前景图后,本步骤可以进一步对车辆前景图中的车辆进行检测,并确定该图像中车辆所在的车道。
在一些可选实施例中,步骤502的具体实现,如图8所示可以包括以下步骤:
步骤801,对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域;其中,所述车辆区域用于表示所述车辆所占据的路面区域。
车辆在路面上行驶的过程中,车辆所占据路面的区域最能代表车辆的实际位置。本步骤中,可以对车辆前景图进行检测并将车辆前景图像中车辆所占据的路面区域,作为车辆前景图像中车辆的车辆区域。
图6所示,为待测视频流包括的多帧图像中的其中一张图像。其中Box1是相关图像检测技术中确定的车辆检测框,而本步骤对车辆前景图进行检测确定的车辆区域是Region1。如图6所示,Region1所表示的区域可以更加贴近实际车辆所占据路面的区域,因此车辆区域可以更加准确的表示车辆的实际位置。
步骤802,根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道。
在确定车辆前景图中车辆的车辆区域后,本步骤可以进一步根据车辆区域与车道的相对位置,确定车辆所在的车道。参照图6所示图像,其中包括车道L1和车道L2。以Region1作为车辆的车辆区域。本步骤可以根据Region1与车道L2的相对位置,确定车辆是否位于L2上。
其中,根据车辆区域与车道的相对位置确定车辆所在的车道的具体方式,可以根据具体应用灵活实现,本实施例并不限制。示例性的,可以在车辆区域与车道的重叠区域足够大的情况下,确定车辆所处在的车道。
本公开实施例中,可以对车辆前景图进行检测并确定车辆前景图中车辆占据的路面区域作为车辆区域,从而可以进一步根据车辆区域与车道的相对位置确定车辆所在的车道。该方式中,由于从车辆前景图中检测出车辆占据的路面区域作为车辆区域,可以更加准确的表示出车辆的实际位置,从而可以更加准确的判断出车辆所在的车道。在准确确定车辆所在的车道的基础上,可以更加准确对车辆连续变道进行识别。
在一些可选实施例中,步骤801的具体实现,如图9所示,可以包括以下步骤:
步骤901,将所述车辆前景图输入预先训练得到的关键点检测网络,由所述关键点检测网络检测出所述图像中所述车辆的车轮关键点。
本公开实施例中,可以预先训练得到可以检测出车辆前景图中车辆的车轮关键点的关键点检测网络。其中,关键点检测网络可以基于任一可学习的机器学习模型或神经网络模型进行训练得到。本公开实施例中,并不限制关键点检测网络的具体形式。
示例性的,如图10给出一种关键点检测网络的网络结构示意图。其中,使用ResNet作为提取图片特征的骨干网络。其中,骨干网络的输入可以是一张车辆前景图,经过骨干网络的卷积操作以后特征图的空间分辨率逐步降低,语义特征愈发明显。可以理解的是,骨干网络除ResNet之外还可以包括更多其他形式的骨干网络,例如可以是GoogLeNet、VGGNet或ShuffleNet等其他类型的通用卷积神经网络结构。
进一步,可以使用特征金字塔网络(FPN)提取多尺度的特征。具体的,可以将低分辨率的特征图通过逆卷积和元素级别相加的操作进行分辨率复原,FPN的输出是分辨率相当于原图四分之一大小的32*32的特征图。
再进一步,可以对FPN的输出进一步卷积运算后,用于预测5个定位热力图。其中,5个定位热力图分别对应为车辆的左前轮、左后轮、右后轮、右前轮和背景。根据定位热力图可以进一步确定车辆前景图中的车轮关键点。
在一种可能的实现方式中,车轮关键点包括车轮与路面直接接触的位置点,或者包括车轮中心点。其中,车轮关键点用于表示车轮的位置。可以理解的是,不同车辆具有不同数量的车轮,所以车轮关键点的数量也可以根据车辆的不同而改变。
例如,可以得到4个车轮关键点的位置坐标。示例性的,所述车轮关键点包括:左前轮关键点、左后轮关键点、右后轮关键点和右前轮关键点。如图7所示,车辆的车轮关键点可以包括左前轮关键点S1、左后轮关键点S2、右后轮关键点S3和右前轮关键点S4。
步骤902,基于所述车轮关键点围成的多边形,确定所述图像中所述车辆的车辆区域。
由于车辆在路面上行驶过程中,车轮是与路面直接接触的具***置,所以由车轮关键点构成的车辆区域可以更加准确的表示出车辆占据的路面区域。本步骤可以根据车辆前景图中检测出的车轮关键点,确定车辆的车辆区域。其中,根据车轮关键点确定车辆区域的具体方式,可包括多种实现,本实施例并不限制。
在一种可能的实现方式中,可以将多个车轮关键点构成的多边形区域作为车辆区域。以图7所示,车辆包括4个车轮关键点的情况下,可以将4个车轮关键点构成的四边形区域作为车辆的车辆区域,即四边形S1S2S3S4作为车辆的车辆区域。
本公开实施例中,通过检测车辆前景图中车辆的车轮关键点,可以根据车轮关键点确定车辆的车辆区域,更加准确的表示出车辆所占据的路面区域,进而可以根据车辆区域与车道的相对位置,准确确定车辆所在的车道。
在一些可选实施例中,步骤802的具体实现,如图11所示,可以包括以下步骤:
步骤1101,将所述车辆区域与所述车道的重叠区域,确定为第一区域;
步骤1102,将所述第一区域占所述车辆区域的比例,确定为车辆重叠度。
以图6为例进行说明,其中包括车辆区域Region1、车道L2,其中车辆区域Region1与车道L2的重叠区域为R1。该重叠区域R1可以称为第一区域。本步骤可以将第一区域R1占车辆区域Region1的比例,确定为车辆重叠度,即车辆重叠度的计算方式为:R1/Region1。
在一种可能的实现方式中,在得到车辆区域与车道的重叠区域即确定第一区域后,可以进一步计算第一区域的面积,并在第一区域的面积大于预设的面积阈值的情况下,确定车辆位于对应的车道。其中,预设的面积阈值可以根据车辆区域的总面积确定。示例性的,可以预先规定预设的面积阈值为车辆区域的总面积的一半,所以面积阈值可以根据车辆区域总面积的不同而不同。
步骤1103,在所述车辆重叠度大于预设的重叠度阈值的情况下,将所述车辆重叠度对应的车道确定为所述车辆所在的车道。
本公开实施例可以预先设置重叠度阈值,作为车辆重叠度的对比值,以判断车辆是否在对应车道。例如,可以将重叠度阈值设置为0.5,在车辆重叠度R1/Region1大于0.5的情况下,则可以确定车辆位于车道L2。
本公开实施例中,可以将车辆区域与车道的重叠区域占车辆区域的比例定义为车辆重叠度,将车辆重叠度与预设的重叠度阈值进行比较,并在车辆重叠度大于重叠度阈值的情况下,确定车辆位于对应的车道。该确定车辆所在车道的方式中,由于车辆区域本身是车辆占据的路面区域,以重叠区域占据车辆区域的比例作为判断基础,可以更加准确判断出车辆所在的车道。在准确确定车辆所在的车道后,可以更加准确的检测出车辆的变道行为,更加准确的识别出车辆的连续变道行为。
图12所示,本公开提供了一种车辆变道转向灯识别装置,该装置可以执行本公开任一实施例的车辆变道转向灯识别方法。该装置可以包括视频流获取模块1201、车辆车道确定模块1202、时刻确定模块1203、转向灯检测模块1204和未打转向灯确定模块1205。其中:
视频流获取模块1201,用于获取待测视频流;其中,所述待测视频流中包括至少两个车道;
车辆车道确定模块1202,用于基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;
时刻确定模块1203,用于将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;
转向灯检测模块1204,用于对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;
未打转向灯确定模块1205,用于在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
可选的,所述车辆车道确定模块1202,在用于基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道时,包括:基于对所述待测视频流的车辆检测与跟踪检测,获得车辆跟踪序列图像;确定所述车辆跟踪序列图像中的车辆所在的车道;
所述转向灯检测模块1204,在用于对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测时,包括:对所述变道时刻前后预设时长的车辆跟踪序列图像分别进行转向灯检测。
可选的,所述转向灯检测模块1204,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像输入预先训练的包括至少一个检测分支的检测模型;基于所述检测模型输出的转向灯亮和/或灭的概率,确定所述转向灯的开启状态。
可选的,在所述检测模型包括多个检测分支的情况下,所述转向灯检测模块1204,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像分别输入所述检测模型的多个检测分支;对所述多个检测分支输出的转向灯亮和/或灭的概率进行融合,得到所述车辆跟踪序列图像的转向灯的开启状态。
可选的,在所述检测模型包括多个检测分支的情况下,所述转向灯检测模块1204,在用于对所述车辆跟踪序列图像进行转向灯检测时,包括:将所述车辆跟踪序列图像输入包括至少一个检测分支的所述检测模型,其中,每一分支包含自注意力模块;基于所述自注意力模块生成的权重更新所述车辆跟踪序列图像中的图像特征,其中,在所述车辆跟踪序列图像中,转向灯区域的权重不同于其他区域的权重;基于所述车辆跟踪序列图像的图像特征,确定所述转向灯的开启状态。
可选的,如图13所示,所述转向灯检测模块1204包括:
第一检测子模块1301,用于将所述车辆跟踪序列图像输入预先训练的第一检测模型,由所述第一检测模型输出所述车辆跟踪序列图像的第一转向灯检测结果;
第二检测子模块1302,用于将所述车辆跟踪序列图像输入预先训练的第二检测模型,由所述第二检测模型输出所述车辆跟踪序列图像的第二转向灯检测结果;
结果融合子模块1303,用于将所述第一转向灯检测结果和所述第二转向灯检测结果进行融合,得到所述车辆跟踪序列图像的最终转向灯检测结果。
可选的,如图14所示,所述第一检测子模块1301,包括:第一权重更新子模块1401,用于基于自注意力机制,更新所述第一检测模型的特征图中对应转向灯区域的权重值;和/或,所述第二检测子模块1302,包括:第二权重更新子模块1402,用于基于自注意力机制,更新所述第二检测模型的特征图中对应转向灯区域的权重值。
可选的,如图15所示,所述转向灯检测模块1204还包括:
第一模型生成子模块1501,用于对基础检测模型的模型参数取第一比例,得到所述第一检测模型;
第二模型生成子模块1502,用于对所述基础检测模型的模型参数取第二比例,得到所述第二检测模型。
可选的,如图16所示,所述车辆车道确定模块1202,包括:
前景图获得子模块1601,用于对所述待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得所述车辆的多帧车辆前景图;
车道确定子模块1602,用于基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道。
可选的,如图17所示,所述车道确定子模块1602,包括:
车辆区域确定子模块1701,用于对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域;其中,所述车辆区域用于表示所述车辆所占据的路面区域;
车辆所在车道确定子模块1702,用于根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道。
可选的,所述车辆区域确定子模块1701,在用于对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域时,包括:将所述车辆前景图输入预先训练得到的关键点检测网络,由所述关键点检测网络检测出所述图像中所述车辆的车轮关键点;基于所述车轮关键点围成的多边形,确定所述图像中所述车辆的车辆区域。
可选的,所述车辆所在车道确定子模块1702,在用于根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道时,包括:将所述车辆区域与所述车道的重叠区域,确定为第一区域;将所述第一区域占所述车辆区域的比例,确定为车辆重叠度;在所述车辆重叠度大于预设的重叠度阈值的情况下,将所述车辆重叠度对应的车道确定为所述车辆所在的车道。
可选的,如图18所示,所述装置还包括:结果处理模块1801,用于发起告警和/或保存所述车辆变道未打转向灯的图像帧。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本公开至少一个实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
本公开还提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时能够实现本公开任一实施例的车辆变道转向灯识别方法。
图19示出了本公开实施例所提供的一种更为具体的计算机设备硬件结构示意图,该设备可以包括:处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本说明书实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory,只读存储器)、RAM(Random AccessMemory,随机存取存储器)、静态存储设备,动态存储设备等形式实现。存储器1020可以存储操作***和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器1020中,并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块,以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出),也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等,输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出),以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路,在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是,尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050,但是在具体实施过程中,该设备还可以包括实现正常运行所必需的其他组件。此外,本领域的技术人员可以理解的是,上述设备中也可以仅包含实现本说明书实施例方案所必需的组件,而不必包含图中所示的全部组件。
本公开还提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时能够实现本公开任一实施例的车辆变道转向灯识别方法。
其中,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等,本公开并不对此进行限制。
在一些可选实施例中,本公开实施例提供了一种计算机程序产品,包括计算机可读代码,当计算机可读代码在设备上运行时,设备中的处理器执行用于实现如上任一实施例提供的车辆变道转向灯识别方法。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。
本领域技术人员在考虑说明书及实践这里申请的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
以上所述仅为本公开的较佳实施例而已,并不用于限制本公开,凡在本公开的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本公开保护的范围之内。

Claims (13)

1.一种车辆变道转向灯识别方法,其特征在于,所述方法包括:
获取待测视频流;其中,所述待测视频流中包括至少两个车道;
基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;
将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;
对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;
在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
2.根据权利要求1所述的方法,其特征在于,所述基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道,包括:
基于对所述待测视频流的车辆检测与跟踪检测,获得车辆跟踪序列图像;
确定所述车辆跟踪序列图像中的车辆所在的车道;
所述对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测,包括:
对所述变道时刻前后预设时长的车辆跟踪序列图像分别进行转向灯检测。
3.根据权利要求2所述的方法,其特征在于,对所述车辆跟踪序列图像进行转向灯检测,包括:
将所述车辆跟踪序列图像输入预先训练的包括至少一个检测分支的检测模型;
基于所述检测模型输出的转向灯亮和/或灭的概率,确定所述转向灯的开启状态。
4.根据权利要求3所述的方法,其特征在于,在所述检测模型包括多个检测分支的情况下,对所述车辆跟踪序列图像进行转向灯检测的步骤,包括:
将所述车辆跟踪序列图像分别输入所述检测模型的多个检测分支;
对所述多个检测分支输出的转向灯亮和/或灭的概率进行融合,得到所述车辆跟踪序列图像的转向灯的开启状态。
5.根据权利要求3或4所述的方法,其特征在于,对所述车辆跟踪序列图像进行转向灯检测,包括:
将所述车辆跟踪序列图像输入包括至少一个检测分支的所述检测模型,其中,每一分支包含自注意力模块;
基于所述自注意力模块生成的权重更新所述车辆跟踪序列图像中的图像特征,其中,在所述车辆跟踪序列图像中,转向灯区域的权重不同于其他区域的权重;
基于所述车辆跟踪序列图像的图像特征,确定所述转向灯的开启状态。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道,包括:
对所述待测视频流包括的多帧图像分别进行车辆检测与跟踪检测,获得所述车辆的多帧车辆前景图;
基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道。
7.根据权利要求6所述的方法,其特征在于,所述基于每一帧所述车辆前景图中车辆与所述车道的相对位置,确定所述每帧图像中所述车辆所在的车道,包括:
对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域;其中,所述车辆区域用于表示所述车辆所占据的路面区域;
根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道。
8.根据权利要求7所述的方法,其特征在于,所述对所述车辆前景图进行检测,确定所述车辆前景图中所述车辆的车辆区域,包括:
将所述车辆前景图输入预先训练得到的关键点检测网络,由所述关键点检测网络检测出所述图像中所述车辆的车轮关键点;
基于所述车轮关键点围成的多边形,确定所述图像中所述车辆的车辆区域。
9.根据权利要求7或8所述的方法,其特征在于,所述根据所述车辆区域与所述车道的相对位置,确定所述车辆所在的车道,包括:
将所述车辆区域与所述车道的重叠区域,确定为第一区域;
将所述第一区域占所述车辆区域的比例,确定为车辆重叠度;
在所述车辆重叠度大于预设的重叠度阈值的情况下,将所述车辆重叠度对应的车道确定为所述车辆所在的车道。
10.根据权利要求1至9中任一项所述的方法,其特征在于,在所述确定所述车辆变道未打转向灯之后,还包括:
发起告警和/或保存所述车辆变道未打转向灯的图像帧。
11.一种车辆变道转向灯识别装置,其特征在于,所述装置包括:
视频流获取模块,用于获取待测视频流;其中,所述待测视频流中包括至少两个车道;
车辆车道确定模块,用于基于对所述待测视频流的车辆检测与跟踪检测,确定所述待测视频流中的车辆以及所述车辆所在的车道;
时刻确定模块,用于将所述车辆所在的车道从原行驶车道变为相邻车道的时刻,确定为所述车辆的变道时刻;
转向灯检测模块,用于对所述变道时刻前后预设时长的所述待测视频流中的所述车辆进行转向灯检测;
未打转向灯确定模块,用于在所述变道时刻前后预设时长内所述车辆的转向灯均未打亮的情况下,确定所述车辆变道未打转向灯。
12.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至10中任一项所述的方法。
13.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现权利要求1至10中任一项所述的方法。
CN202110221209.0A 2021-02-26 2021-02-26 车辆变道转向灯识别方法、装置、设备及存储介质 Pending CN112949470A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110221209.0A CN112949470A (zh) 2021-02-26 2021-02-26 车辆变道转向灯识别方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110221209.0A CN112949470A (zh) 2021-02-26 2021-02-26 车辆变道转向灯识别方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN112949470A true CN112949470A (zh) 2021-06-11

Family

ID=76246690

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110221209.0A Pending CN112949470A (zh) 2021-02-26 2021-02-26 车辆变道转向灯识别方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN112949470A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113822146A (zh) * 2021-08-02 2021-12-21 浙江大华技术股份有限公司 目标检测方法、终端设备及计算机存储介质
CN113887539A (zh) * 2021-12-06 2022-01-04 浙江大华技术股份有限公司 车辆变道识别方法、电子设备及存储介质

Citations (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10322557A1 (de) * 2003-05-20 2004-12-09 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerinformation bei Verlassen der Fahrspur
CN103116748A (zh) * 2013-03-11 2013-05-22 清华大学 基于路面标识识别违规驾驶行为的方法及***
CN103942960A (zh) * 2014-04-22 2014-07-23 深圳市宏电技术股份有限公司 一种车辆变道检测方法及装置
CN106128096A (zh) * 2016-06-29 2016-11-16 安徽金赛弗信息技术有限公司 一种机动车未按规定开启转向灯违章变道智能识别方法及其装置
CN106650730A (zh) * 2016-12-14 2017-05-10 广东威创视讯科技股份有限公司 汽车变道过程中的转向灯检测方法和***
CN106981202A (zh) * 2017-05-22 2017-07-25 中原智慧城市设计研究院有限公司 一种基于车道模型的车辆来回变道检测方法
CN107180460A (zh) * 2017-04-01 2017-09-19 深圳市元征科技股份有限公司 车辆变道识别方法及***
CN107886030A (zh) * 2016-09-30 2018-04-06 比亚迪股份有限公司 车辆识别方法、装置及车辆
CN107886770A (zh) * 2016-09-30 2018-04-06 比亚迪股份有限公司 车辆识别方法、装置及车辆
CN108875902A (zh) * 2017-12-04 2018-11-23 北京旷视科技有限公司 神经网络训练方法及装置、车辆检测估计方法及装置、存储介质
CN109606284A (zh) * 2018-11-27 2019-04-12 北京千方科技股份有限公司 一种不良驾驶行为检测方法及装置
CN110021192A (zh) * 2018-01-09 2019-07-16 深圳市航盛电子股份有限公司 车道偏离告警方法、智能告警装置以及车辆
CN110532990A (zh) * 2019-09-04 2019-12-03 上海眼控科技股份有限公司 转向灯使用状态识别方法、装置、计算机设备及存储介质
CN110599499A (zh) * 2019-08-22 2019-12-20 四川大学 基于多路卷积神经网络的mri图像心脏结构分割方法
CN110834582A (zh) * 2019-10-28 2020-02-25 武汉格罗夫氢能汽车有限公司 转向灯自动关闭方法、装置、氢能汽车及存储介质
CN110853356A (zh) * 2019-11-29 2020-02-28 南京慧尔视智能科技有限公司 一种基于雷达和视频联动的车辆变道检测方法
CN111341114A (zh) * 2020-03-10 2020-06-26 北京以萨技术股份有限公司 基于物联网的车载视频交通违章检测方法、装置及***
CN111368639A (zh) * 2020-02-10 2020-07-03 浙江大华技术股份有限公司 车辆越线判定方法、装置、计算机设备和存储介质
CN111382704A (zh) * 2020-03-10 2020-07-07 北京以萨技术股份有限公司 基于深度学习的车辆压线违章判断方法、装置及存储介质
CN111462503A (zh) * 2019-01-22 2020-07-28 杭州海康威视数字技术股份有限公司 车辆测速方法、装置及计算机可读存储介质
CN111724607A (zh) * 2020-07-01 2020-09-29 上海眼控科技股份有限公司 转向灯使用检测方法、装置、计算机设备和存储介质
CN111783536A (zh) * 2020-05-29 2020-10-16 北京百度网讯科技有限公司 变道合理性评估方法、装置、设备以及存储介质
CN111845542A (zh) * 2019-05-21 2020-10-30 北京嘀嘀无限科技发展有限公司 提示方法、提示装置、终端和计算机可读存储介质
CN111931715A (zh) * 2020-09-22 2020-11-13 深圳佑驾创新科技有限公司 识别车灯状态的方法、装置、计算机设备和存储介质
CN111959507A (zh) * 2020-07-06 2020-11-20 江铃汽车股份有限公司 一种变道控制方法、***、可读存储介质及车辆
CN112347971A (zh) * 2020-11-18 2021-02-09 合肥湛达智能科技有限公司 一种基于嵌入式终端的深度学习实线变道检测方法

Patent Citations (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10322557A1 (de) * 2003-05-20 2004-12-09 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerinformation bei Verlassen der Fahrspur
CN103116748A (zh) * 2013-03-11 2013-05-22 清华大学 基于路面标识识别违规驾驶行为的方法及***
CN103942960A (zh) * 2014-04-22 2014-07-23 深圳市宏电技术股份有限公司 一种车辆变道检测方法及装置
CN106128096A (zh) * 2016-06-29 2016-11-16 安徽金赛弗信息技术有限公司 一种机动车未按规定开启转向灯违章变道智能识别方法及其装置
CN107886030A (zh) * 2016-09-30 2018-04-06 比亚迪股份有限公司 车辆识别方法、装置及车辆
CN107886770A (zh) * 2016-09-30 2018-04-06 比亚迪股份有限公司 车辆识别方法、装置及车辆
CN106650730A (zh) * 2016-12-14 2017-05-10 广东威创视讯科技股份有限公司 汽车变道过程中的转向灯检测方法和***
CN107180460A (zh) * 2017-04-01 2017-09-19 深圳市元征科技股份有限公司 车辆变道识别方法及***
CN106981202A (zh) * 2017-05-22 2017-07-25 中原智慧城市设计研究院有限公司 一种基于车道模型的车辆来回变道检测方法
CN108875902A (zh) * 2017-12-04 2018-11-23 北京旷视科技有限公司 神经网络训练方法及装置、车辆检测估计方法及装置、存储介质
CN110021192A (zh) * 2018-01-09 2019-07-16 深圳市航盛电子股份有限公司 车道偏离告警方法、智能告警装置以及车辆
CN109606284A (zh) * 2018-11-27 2019-04-12 北京千方科技股份有限公司 一种不良驾驶行为检测方法及装置
CN111462503A (zh) * 2019-01-22 2020-07-28 杭州海康威视数字技术股份有限公司 车辆测速方法、装置及计算机可读存储介质
CN111845542A (zh) * 2019-05-21 2020-10-30 北京嘀嘀无限科技发展有限公司 提示方法、提示装置、终端和计算机可读存储介质
CN110599499A (zh) * 2019-08-22 2019-12-20 四川大学 基于多路卷积神经网络的mri图像心脏结构分割方法
CN110532990A (zh) * 2019-09-04 2019-12-03 上海眼控科技股份有限公司 转向灯使用状态识别方法、装置、计算机设备及存储介质
CN110834582A (zh) * 2019-10-28 2020-02-25 武汉格罗夫氢能汽车有限公司 转向灯自动关闭方法、装置、氢能汽车及存储介质
CN110853356A (zh) * 2019-11-29 2020-02-28 南京慧尔视智能科技有限公司 一种基于雷达和视频联动的车辆变道检测方法
CN111368639A (zh) * 2020-02-10 2020-07-03 浙江大华技术股份有限公司 车辆越线判定方法、装置、计算机设备和存储介质
CN111341114A (zh) * 2020-03-10 2020-06-26 北京以萨技术股份有限公司 基于物联网的车载视频交通违章检测方法、装置及***
CN111382704A (zh) * 2020-03-10 2020-07-07 北京以萨技术股份有限公司 基于深度学习的车辆压线违章判断方法、装置及存储介质
CN111783536A (zh) * 2020-05-29 2020-10-16 北京百度网讯科技有限公司 变道合理性评估方法、装置、设备以及存储介质
CN111724607A (zh) * 2020-07-01 2020-09-29 上海眼控科技股份有限公司 转向灯使用检测方法、装置、计算机设备和存储介质
CN111959507A (zh) * 2020-07-06 2020-11-20 江铃汽车股份有限公司 一种变道控制方法、***、可读存储介质及车辆
CN111931715A (zh) * 2020-09-22 2020-11-13 深圳佑驾创新科技有限公司 识别车灯状态的方法、装置、计算机设备和存储介质
CN112347971A (zh) * 2020-11-18 2021-02-09 合肥湛达智能科技有限公司 一种基于嵌入式终端的深度学习实线变道检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
言有三: "深度学习之人脸图像处理 核心算法与案例实战", 31 July 2020, 北京:机械工业出版社, pages: 246 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113822146A (zh) * 2021-08-02 2021-12-21 浙江大华技术股份有限公司 目标检测方法、终端设备及计算机存储介质
CN113887539A (zh) * 2021-12-06 2022-01-04 浙江大华技术股份有限公司 车辆变道识别方法、电子设备及存储介质

Similar Documents

Publication Publication Date Title
JP5577398B2 (ja) 車両の周辺監視装置
US20190122059A1 (en) Signal light detection
US10943141B2 (en) Object detection device and object detection method
US8199971B2 (en) Object detection system with improved object detection accuracy
JP6700373B2 (ja) ビデオ動画の人工知能のための学習対象イメージパッケージング装置及び方法
CN112949470A (zh) 车辆变道转向灯识别方法、装置、设备及存储介质
JP4988781B2 (ja) 車両の周辺監視装置
US11250279B2 (en) Generative adversarial network models for small roadway object detection
WO2020007589A1 (en) Training a deep convolutional neural network for individual routes
CN114419552A (zh) 基于目标检测的违章车辆追踪方法及***
CN112092809A (zh) 一种辅助倒车方法、装置、***及车辆
CN111191482A (zh) 一种刹车灯识别方法、装置及电子设备
CN112784817B (zh) 车辆所在车道检测方法、装置、设备及存储介质
JP2017182139A (ja) 判定装置、判定方法、および判定プログラム
CN112733864A (zh) 模型训练方法、目标检测方法、装置、设备及存储介质
CN111126406A (zh) 车辆行驶区域识别方法及装置
CN113752940B (zh) 进出隧道车灯控制方法、设备、存储介质及装置
CN117237907A (zh) 交通信号灯识别方法、装置、存储介质及电子设备
CN112949465A (zh) 车辆连续变道识别方法、装置、设备及存储介质
JP6935690B2 (ja) 検出プログラム、方法、及び装置
JP2011237933A (ja) 移動体識別装置、コンピュータプログラム及び移動体識別方法
US20230230344A1 (en) Signal color determination device and signal color determination method
CN113642533B (zh) 车道级定位方法及电子设备
US20230245325A1 (en) Moving object detection device, moving object detection method, system, and storage medium
KR102039814B1 (ko) 측후방 차량 검출 방법 및 그 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination