CN115973163A - 基于信号灯的车辆控制方法、装置、电子设备及存储介质 - Google Patents
基于信号灯的车辆控制方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115973163A CN115973163A CN202310094610.1A CN202310094610A CN115973163A CN 115973163 A CN115973163 A CN 115973163A CN 202310094610 A CN202310094610 A CN 202310094610A CN 115973163 A CN115973163 A CN 115973163A
- Authority
- CN
- China
- Prior art keywords
- signal lamp
- environment image
- image acquired
- moment
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Traffic Control Systems (AREA)
Abstract
本申请提供一种基于信号灯的车辆控制方法、装置、电子设备及存储介质。该方法应用于车辆,包括:获取当前时刻采集的环境图像;环境图像表示车辆前方环境;从当前时刻采集的环境图像中确定信号灯的状态信息并存储;状态信息包括信号灯颜色和信号灯在环境图像中的实际位置;获取信号灯在上一时刻采集的环境图像中的实际位置,根据信号灯在上一时刻采集的环境图像中的实际位置,确定信号灯在当前时刻采集的环境图像中的预测位置;若确定信号灯在当前时刻采集的环境图像中的实际位置与预测位置之间的差值小于预设的偏移量,则根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶。本申请对信号灯进行精确识别,提高车辆控制精度。
Description
技术领域
本申请涉及自动驾驶技术,尤其涉及一种基于信号灯的车辆控制方法、装置、电子设备及存储介质。
背景技术
自动驾驶技术是当前全球汽车企业与智慧交通出行领域智能化和网联化发展的主要技术方向,现已成为各国争抢和竞争的战略制高点。在车辆驾驶时,通过多种传感器共同作用,帮助自动驾驶汽车实时识别交通信号灯等道路上的物体。交通信号灯是车辆行驶中非常重要的工具,因此交通信号灯的精确识别对汽车驾驶的控制十分重要。
现有技术中,在车辆自动驾驶的过程中获取道路图片,识别图片上的红绿灯,确定车辆是否减速或继续驾驶。但是,红绿灯可能会被物体进行遮挡或受到外界环境中光照等因素的影响,使红绿灯的识别结果错误,影响车辆的控制精度,进而影响驾驶安全。
发明内容
本申请提供一种基于信号灯的车辆控制方法、装置、电子设备及存储介质,用以提高车辆驾驶的控制精度。
第一方面,本申请提供一种基于信号灯的车辆控制方法,该方法应用于车辆,包括:
获取当前时刻采集的环境图像;其中,所述环境图像用于表示车辆前方的环境;
从所述当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,所述状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置;
获取信号灯在上一时刻采集的环境图像中的实际位置,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置;
若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶。
第二方面,本申请提供一种基于信号灯的车辆控制装置,该装置应用于车辆,包括:
环境图像获取模块,用于获取当前时刻采集的环境图像;其中,所述环境图像用于表示车辆前方的环境;
状态信息确定模块,用于从所述当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,所述状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置;
预测位置确定模块,用于获取信号灯在上一时刻采集的环境图像中的实际位置,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置;
车辆控制模块,用于若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶。
第三方面,本申请提供一种电子设备,包括:处理器,以及与所述处理器通信连接的存储器;
所述存储器存储计算机执行指令;
所述处理器执行所述存储器存储的计算机执行指令,以实现如本申请第一方面所述的基于信号灯的车辆控制方法。
第四方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如本申请第一方面所述的基于信号灯的车辆控制方法。
第五方面,本申请提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如本申请第一方面所述的基于信号灯的车辆控制方法。
本申请提供的一种基于信号灯的车辆控制方法、装置、电子设备及存储介质,通过获取当前时刻的环境图像,从环境图像中识别信号灯的颜色和信号灯在环境图像中的实际位置。获取上一时刻的信号灯在当时的环境图像中的实际位置,预测信号灯的轨迹,若得到信号灯在当前时刻的预测位置与当前时刻的实际位置一致,则说明当前时刻的环境图像中的信号灯就是车辆进行行驶控制的依据,可以根据该信号的颜色对车辆进行控制。解决了现有技术中,单张环境图像受到外界环境中光照等因素的影响导致识别错误或无法识别的问题,提高信号灯的识别精度,进而提高车辆行驶的控制精度和安全性。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1为本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图;
图2为本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图;
图3为本申请实施例提供的信号灯识别模型骨干网络示意图;
图4为本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图;
图5为本申请实施例提供的一种基于信号灯的车辆控制装置的结构框图;
图6为本申请实施例提供的一种基于信号灯的车辆控制装置的结构框图;
图7为本申请实施例提供的一种电子设备的结构框图;
图8为本申请实施例提供的一种电子设备的结构框图。
通过上述附图,已示出本申请明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本申请构思的范围,而是通过参考特定实施例为本领域技术人员说明本申请的概念。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施例方式作进一步地详细描述。
应当明确,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请的描述中,需要理解的是,术语“第一”、“第二”、“第三”等仅用于区别类似的对象,而不必用于描述特定的顺序或先后次序,也不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本申请中的具体含义。此外,在本申请的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
需要注意的是,由于篇幅所限,本申请说明书没有穷举所有可选的实施方式,本领域技术人员在阅读本申请说明书后,应该能够想到,只要技术特征不互相矛盾,那么技术特征的任意组合均可以构成可选的实施方式。下面对各实施例进行详细说明。
自动驾驶技术是传统汽车行业与先进的人工智能技术、物联网技术、高性能计算等新一代信息技术深度融合的产物,是当前全球汽车企业与智慧交通出行领域智能化和网联化发展的主要方向,现已成为各国争抢和竞争的战略制高点。而自动驾驶感知***相当于自动驾驶汽车的“眼睛”,通过多种传感器共同作用帮助自动驾驶汽车实时识别可行驶区域、其他车辆、行人、交通信号灯及其他障碍物等。而交通信号灯已成为交通行驶安全和交通枢纽中非常重要的工具,因此,交通信号灯的精确识别对自动驾驶汽车的安全驾驶十分重要。
目前,对交通信号灯的识别方案是对信号灯的颜色特征进行提取,但是,信号灯的颜色容易受到外界环境中光照等因素的影响,使识别结果错误。另外,信号灯可能存在被树叶等物体遮挡的情况,识别的错误率较高。
本申请提供的一种基于信号灯的车辆控制方法、装置、电子设备及存储介质,旨在解决现有技术的如上技术问题。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图1是根据本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图,该方法应用于车辆,可以由一种基于信号灯的车辆控制装置执行。如图1所示,该方法包括以下步骤:
S101、获取当前时刻采集的环境图像;其中,环境图像用于表示车辆前方的环境。
示例性地,车辆上可以安装有图像采集设备,例如,图像采集设备可以是摄像头。图像采集设备可以安装在车辆的前方,例如,可以安装在车头的位置。在车辆行驶的过程中,图像采集设备可以实时或定时地进行图像采集,得到环境图像,即,环境图像中可以表示车辆前方的环境,例如,环境图像中可以包括道路、树木、行人、其他车辆以及交通信号灯等。
车辆可以实时或定时获取摄像头在当前时刻采集到的环境图像,例如,摄像头在当前时刻采集到环境图像,车辆实时获取到该环境图像,作为当前时刻的环境图像。车辆也可以预设图像获取的周期,定时获取环境图像,例如,车辆可以每0.1秒获取一帧环境图像。
S102、从当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置。
示例性地,车辆在获取到当前时刻的环境图像后,对当前时刻的环境图像进行信号灯的识别,即,从当前时刻的环境图像中确定是否存在信号灯,并确定信号灯的状态信息。状态信息可以包括信号灯的颜色和信号灯在环境图像中的实际位置,信号灯的颜色的类别可以包括红色、绿色、黄色、黑色和未知,信号灯在环境图像中的实际位置可以是指信号灯在环境图像中所处的坐标位置。信号灯的颜色为黑色是指信号灯不亮,信号灯的颜色为未知可以是指信号灯的颜色是除红绿黄黑之外的其他颜色,例如,信号灯被物体遮挡,根本识别不到信号灯时,信号灯颜色可以是未知;或者因光照等因素导致信号灯颜色不清楚时,信号灯颜色可以是未知。
可以预先设置神经网络模型,神经网络模型可以用于识别环境图像中的信号灯。例如,可以基于颜色分割与特征匹配相结合的方法,对环境图像的颜色进行分割,提取到信号灯的基本几何特征,从而找到信号灯的位置,并对信号灯的颜色进行分类识别。
在得到当前时刻的环境图像中信号灯的状态信息后,可以将当前时刻与信号灯的状态信息进行关联存储。例如,可以存储中午12点时,环境图像中信号灯的颜色和信号灯在环境图像中的实际的坐标位置。
若环境图像中包括多个信号灯,则可以识别各个信号灯的状态信息,并为各个信号灯分配唯一的标识,将当前时刻下,各个信号灯的状态信息进行存储。
S103、获取信号灯在上一时刻采集的环境图像中的实际位置,根据信号灯在上一时刻采集的环境图像中的实际位置,确定信号灯在当前时刻采集的环境图像中的预测位置。
示例性地,上一时刻是位于当前时刻之前的时刻,上一时刻可以是与当前时刻连续的时刻。可以根据图像获取的周期,确定上一时刻。例如,车辆每0.1秒获取一次环境图像,当前时刻为12点整,则上一时刻是12点之前0.1秒的时刻。即,上一时刻采集的环境图像就是车辆在获取当前时刻的环境图像之前,最后采集到的那张环境图像。
由于车辆在获取到各张环境图像后,存储了各张环境图像中,信号灯的状态信息,因此,可以直接获取到上一时刻采集的环境图像的信号灯的状态信息。例如,可以获取上一时刻采集的环境图像中信号灯的实际位置。
可以对环境图像中的信号灯进行跟踪,即,根据上一时刻采集的环境图像中信号灯的实际位置,推测出该信号在当前时刻的环境图像中的位置,将推测出的位置确定为预测位置。即,可以根据信号灯在上一时刻采集的环境图像中的实际位置,确定该信号灯在当前时刻采集的环境图像中的预测位置。例如,车辆在道路上向前行驶,上一时刻的环境图像中,信号灯的位置偏下,下一时刻的环境图像中,由于车辆向前且道路为上坡,信号灯的位置偏上且信号灯位置的所在区域变大。
本实施例中,获取信号灯在上一时刻采集的环境图像中的实际位置,包括:若在上一时刻采集的环境图像中不存在信号灯,则获取在上一时刻之前,至少一张环境图像中信号灯的实际位置。
具体的,车辆获取的各张环境图像中可能不存在信号灯,例如,信号灯被物体遮挡,或道路上不存在信号灯。在获取上一时刻采集的环境图像后,若确定该环境图像对应存储的信号灯状态信息中不存在信号灯的实际位置,即不存在信号灯,则可以继续获取上一时刻之前的环境图像。例如,可以获取在上一时刻的前一时刻所采集的环境图像。
在获取上一时刻采集的环境图像时,可以是获取当前时刻之前的多张环境图像,例如,可以获取当前时刻之前连续五张环境图像。在获取上一时刻之前的环境图像时,也可以获取多张环境图像。获取各张环境图像中各个信号灯的实际位置。
这样设置的有益效果在于,若上一时刻的环境图像中不存在信号灯,则可以继续向前面的时刻获取,实现对信号灯轨迹的跟踪计算,提高信号灯位置的确定精度,进而提高驾驶的安全性。
S104、若确定信号灯在当前时刻采集的环境图像中的实际位置与预测位置之间的差值小于预设的偏移量,则根据当前时刻采集的环境图像中所述信号灯的颜色,控制车辆行驶。
示例性地,在得到信号灯在当前时刻的预测位置后,确定在当前时刻采集的环境图像中,信号灯的实际位置是否就是该预测位置,若是,则确定对该信号灯的轨迹跟踪成功。即,该信号灯就是在车辆前方的信号灯,根据当前时刻采集的环境图像中,该信号灯的颜色,控制车辆行驶。可以预设车辆行驶控制规则,根据该信号灯的颜色和车辆行驶控制规则,控制车辆行驶。例如,车辆行驶控制规则可以是绿灯加速,红灯减速。若当前时刻采集的环境图像中不存在与预测位置一致的实际位置,则不根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶。可以继续获取新一时刻的环境图像,进行信号灯的重新识别。
还可以根据信号灯在当前时刻的环境图像中的颜色以及在上一时刻的环境图像中的颜色进行车辆的控制。若该信号灯在当前时刻的环境图像中的颜色以及在上一时刻的环境图像中的颜色一致,则可以根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶;若不一致,则可以继续获取下一时刻的环境图像,将当前时刻的环境图像作为新的上一时刻的环境图像,将下一时刻的环境图像作为新的当前时刻的环境图像,再次进行信号灯的识别。
还可以将信号灯的预测位置与当前时刻采集的环境图像中,信号灯的实际位置进行比较,确定预测位置与实际位置之间的坐标差值。预先设置一个偏移量,将坐标差值与偏移量进行比较,若该差值小于偏移量,则确定对该信号灯的轨迹跟踪成功。即,该信号灯就是在车辆前方的信号灯,根据当前时刻采集的环境图像中,该信号灯的颜色,控制车辆行驶。若该差值等于或大于偏移量,则不根据当前时刻采集的环境图像中,该信号灯的颜色,控制车辆行驶。继续获取新一时刻的环境图像,进行信号灯的重新识别。还可以根据信号灯在当前时刻的环境图像中的颜色以及在上一时刻的环境图像中的颜色进行车辆的控制。
本申请实施例提供的一种基于信号灯的车辆控制方法,通过获取当前时刻的环境图像,从环境图像中识别信号灯的颜色和信号灯在环境图像中的实际位置。获取上一时刻的信号灯在当时的环境图像中的实际位置,预测信号灯的轨迹,若得到信号灯在当前时刻的预测位置与当前时刻的实际位置一致,则说明当前时刻的环境图像中的信号灯就是车辆进行行驶控制的依据,可以根据该信号的颜色对车辆进行控制。解决了现有技术中,单张环境图像受到外界环境中光照等因素的影响导致识别错误或无法识别的问题,提高信号灯的识别精度,进而提高车辆行驶的控制精度和安全性。
图2为本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图,该实施例是在上述实施例基础上的可选实施例。
本实施例中,从当前时刻采集的环境图像中确定信号灯的状态信息,可细化为:将当前时刻采集的环境图像输入至预设的信号灯识别模型;根据信号灯识别模型,从当前时刻的环境图像中识别信号灯,输出信号灯的状态信息。
如图2示,该方法包括以下步骤:
S201、获取当前时刻采集的环境图像;其中,环境图像用于表示车辆前方的环境。
示例性地,本步骤可以参见上述步骤S101,不再赘述。
S202、将当前时刻采集的环境图像输入至预设的信号灯识别模型。
示例性地,预先训练一个信号灯识别模型,信号灯识别模型可以是深度学习的神经网络模型,可以用于输出环境图像中信号灯的颜色和信号灯在环境图像中的实际位置等状态信息。在得到当前时刻采集的环境图像后,可以将环境图像输入到信号灯识别模型中。
本实施例中,在将当前时刻采集的环境图像输入至预设的信号灯识别模型之前,还包括:获取预先采集的信号灯图片;其中,信号灯图片上标注有信号灯的实际目标框、信号灯的实际圆心坐标以及信号灯的实际颜色;将信号灯图片输入至预先构建的信号灯识别模型中,输出得到信号灯的预测颜色、预测圆心坐标以及预测圆心坐标对应的四个距离参数;其中,距离参数用于表示圆心坐标与目标框的四条边框之间的距离;根据预测圆心坐标以及预测圆心坐标对应的四个距离参数,确定信号灯的预测目标框;若预测目标框与实际目标框的位置一致,以及预测颜色与实际颜色一致,则确定信号灯识别模型训练完成。
具体的,在使用信号灯识别模型之前,需要对信号灯识别模型进行训练。预先采集多张信号灯图片作为训练对象,各张信号灯图片中信号灯的大小、颜色和位置可以不同。预先为信号灯图片标注信号灯的颜色类别,颜色类别可以包括红色、绿色、黄色、黑色和未知五种类别标签。预先标注的颜色类别为各信号灯在信号灯图片中的实际颜色。
预先在各张信号灯图片上画出目标框,一个目标框中包括一个信号灯,目标框可以是矩形框,目标框的四条边可以与信号灯的圆形相切。在信号灯图片上预先画出的目标框为信号灯的实际目标框。还要在信号灯图片上标注信号灯的圆心坐标,作为实际圆心坐标。即,需要预先对信号灯图片进行处理,确定每张信号灯图片中信号灯的实际目标框、信号灯的实际圆心坐标以及信号灯的实际颜色。
将处理后的信号灯图片输入预先构建的信号灯识别模型中,信号灯识别模型可以识别各信号灯图片中信号灯的颜色,作为信号灯的预测颜色,还可以得到信号灯图片中信号灯的圆心坐标,为预测圆心坐标,还可以得到预测圆心坐标的四个距离参数。距离参数是指圆心坐标与目标框的四条边框之间的垂直距离,例如,距离参数可以包括圆心坐标与目标框上边框之间的距离、圆心坐标与目标框下边框之间的距离、圆心坐标与目标框左边框之间的距离以及圆心坐标与目标框右边框之间的距离。
在得到预测圆心坐标对应的四个距离参数后,根据预测圆心坐标的位置和四个距离参数,可以对信号灯图片上进行画框,画出的框为预测目标框。若预测目标框的位置与实际目标框的位置一致,且预测颜色与实际颜色一致,则说明信号灯识别模型训练完成。可以预先设置损失函数,根据损失函数确定信号灯识别模型是否训练完成。例如,损失函数可以是分类损失函数、定位损失函数和Center-ness损失函数。Center-ness的作用可以是抑制低质量的目标框边框,提升识别性能。在训练圆心坐标的确定时,可以采用Center-ness分支,Center-ness分支在信号灯图片的每个位置点上都会预测1个参数,反映的是该点距离实际圆心坐标的远近程度,这个参数的值域为[0,1]。距离实际圆心坐标越近,则参数值越接近于1,反之接近于0。
信号灯识别模型在进行特征提取时,可以自己设计骨干网络。本实施例中,骨干网络中包括五层,分别为C1、C2、C3、C4、C5,C1有一层卷积层,C2有两个卷积层,C3有两个卷积层,C4有三个卷积层,C5有三个卷积层,共11层。图3为本实施例提供的信号灯识别模型骨干网络示意图。其中,输入到C1的图像为640×640×3,其中,640×640表示图像的像素大小,3表示图像的RGB通道;C1通过卷积得到320×320×64的图像,并输出给C2,其中,320×320表示C1输出的图像大小,64表示C1输出的图像的RGB通道数;C2通过卷积得到160×160×256的图像,并输出给C3,其中,160×160表示C2输出的图像大小,256表示C2输出的图像的RGB通道数;C3通过卷积得到80×80×512的图像,并输出给C4,其中,80×80表示C3输出的图像大小,256表示C3输出的图像的RGB通道数;C4通过卷积得到40×40×1024的图像,并输出给C5,其中,40×40表示C4输出的图像大小,1024表示C4输出的图像的RGB通道数;C5通过卷积得到20×20×2048的图像,其中,20×20表示C5输出的图像大小,2048表示C5输出的图像的RGB通道数。实现对图像的多层特征提取,提高特征提取的精度,进而提高信号灯的识别精度。
这样设置的有益效果在于,通过预先训练信号灯识别模型,可以提高信号灯的识别效率。且信号灯识别模型可以采用anchor-free(不基于锚点)的网络结构,提高计算速度。
在对信号灯图片进行训练之前,还可以采用SAHI(切片辅助推理)方法对远距离的红绿灯进行小目标物体进行增强,提高对小目标的识别精度。
S203、根据信号灯识别模型,从当前时刻的环境图像中识别信号灯,输出信号灯的状态信息。
示例性地,通过训练好的信号灯识别模型,识别出环境图像中的信号灯,并得到信号灯的颜色和位置等状态信息。即,信号灯识别模型的输出可以是信号灯的颜色和位置等状态信息。
本实施例中,根据信号灯识别模型,从当前时刻的环境图像中识别信号灯,输出信号灯的状态信息,包括:根据信号灯识别模型中的特征金字塔网络结构,对当前时刻的环境图像进行特征提取,确定当前时刻的环境图像中的目标框;其中,一个目标框中包括一个信号灯;确定目标框中信号灯的颜色,以及确定目标框在当前时刻的环境图像中的位置,为信号灯在环境图像中的实际位置。
具体的,信号灯识别模型中可以采用FPN(Feature Pyramid Networks,特征金字塔网络)结构,FPN可以用于在骨干网络得到各层输出的特征向量后,对特征向量进行融合。FPN结构可以对不同大小尺寸的特征图进行特征融合,从而达到对远距离红绿灯进行小目标的精确识别。通过FPN结构进行特征融合和提取,得到最终的特征向量。根据最终的特征向量确定环境图像中的目标框,即识别出环境图像中的信号灯。
例如,对C5输出的图像进行1×1卷积,得到的图像为P5,1×1卷积的作用可以是降低通道数,减少参数量,降低计算量。对P5进行下采用,得到P6。对C4输出的图像进行1×1卷积,对P5进行上采样,然后将上采样后的P5与1×1卷积后的C4进行融合,得到P4。还可以对C3输出的图像进行1×1卷积,然后对P4进行上采样,将上采样后的P4和1×1卷积后的C3进行融合。本实施例中,融合可以是指特征向量矩阵相加。
根据目标框中的像素点大小,确定目标框中信号灯的颜色。还可以确定目标框在当前时刻的环境图像中的坐标位置,作为信号灯在环境图像中的实际位置。
这样设置的有益效果在于,通过采用FPN结构进行特征融合,避免遗漏特征信息,提高信号灯识别的精度。
S204、获取信号灯在上一时刻采集的环境图像中的实际位置,根据信号灯在上一时刻采集的环境图像中的实际位置,确定信号灯在当前时刻采集的环境图像中的预测位置。
示例性地,本步骤可以参见上述步骤S103,不再赘述。
S205、若确定信号灯在当前时刻采集的环境图像中的实际位置与预测位置之间的差值小于预设的偏移量,则根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶。
示例性地,本步骤可以参见上述步骤S104,不再赘述。
本申请实施例提供的一种基于信号灯的车辆控制方法,通过获取当前时刻的环境图像,从环境图像中识别信号灯的颜色和信号灯在环境图像中的实际位置。获取上一时刻的信号灯在当时的环境图像中的实际位置,预测信号灯的轨迹,若得到信号灯在当前时刻的预测位置与当前时刻的实际位置一致,则说明当前时刻的环境图像中的信号灯就是车辆进行行驶控制的依据,可以根据该信号的颜色对车辆进行控制。解决了现有技术中,单张环境图像受到外界环境中光照等因素的影响导致识别错误或无法识别的问题,提高信号灯的识别精度,进而提高车辆行驶的控制精度和安全性。
图4为本申请实施例提供的一种基于信号灯的车辆控制方法的流程示意图,该实施例是在上述实施例基础上的可选实施例。
本实施例中,根据信号灯在上一时刻采集的环境图像中的实际位置,确定信号灯在当前时刻采集的环境图像中的预测位置,可细化为:获取车辆的当前行驶信息;其中,当前行驶信息包括行驶速度、行驶加速度和行驶轨迹;根据信号灯在上一时刻采集的环境图像中的实际位置,以及车辆的当前行驶信息,对信号灯的轨迹进行预测,得到信号灯在当前时刻采集的环境图像中的预测位置。
如图4示,该方法包括以下步骤:
S401、获取当前时刻采集的环境图像;其中,环境图像用于表示车辆前方的环境。
示例性地,本步骤可以参见上述步骤S101,不再赘述。
S402、从当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置。
示例性地,本步骤可以参见上述步骤S102,不再赘述。
S403、获取信号灯在上一时刻采集的环境图像中的实际位置,以及获取车辆的当前行驶信息;其中,当前行驶信息包括行驶速度、行驶加速度和行驶轨迹。
示例性地,存储每个时刻获取的环境图像,以及各张环境图像中信号灯的状态信息。在得到当前时刻的环境图像中信号灯的状态信息后,获取上一时刻的环境图像中信号灯的状态信息,例如,可以获取上一时刻采集的环境图像中信号灯的实际位置。
车辆上安装有多种传感器,例如,安装有速度传感器和加速度传感器等,各传感器可以实时监测车辆的当前行驶信息。车辆可以实时获取当前行驶信息,例如,当前行驶信息可以包括车辆当前的行驶速度、行驶加速度和行驶轨迹等。
本实施例中,环境图像中包括至少两个信号灯;获取信号灯在上一时刻采集的环境图像中的实际位置,包括:获取上一时刻采集的环境图像中,各信号灯的实际位置,以及为各信号灯分配的跟踪标识。
具体的,一张环境图像中可以存在多个信号灯,若上一时刻的环境图像中存在多个信号灯,则获取上一时刻的环境图像中各个信号灯的实际位置,以及各个信号灯的跟踪标识。信号灯的跟踪标识在存储环境图像时已经分配好,同一个信号灯的跟踪标识相同。例如,在两张环境图像中,出现的信号灯为同一个信号灯,则该信号灯在两张环境图像中的跟踪标识相同。
可以在采集到第一张环境图像时,为第一张环境图像中的信号灯随机分配跟踪标识,在后续的环境图像中,若存在与第一张环境图像中同样的信号灯,则将第一张环境图像中信号灯的跟踪标识赋予给后续的环境图像中同样的信号灯。若后续的环境图像中出现了新的信号灯,则为新的信号灯分配随机的跟踪标识。不同信号灯的跟踪标识不同。也就是说,在同一张环境图像中,若存在多个信号灯,则多个信号灯的跟踪标识不同。
这样设置的有益效果在于,道路上可能存在多个信号灯,确定一张环境图像中各个信号灯的位置和跟踪标识,便于对各信号灯进行区分,避免将不同的信号灯混淆,提高车辆控制的精度。
S404、根据信号灯在上一时刻采集的环境图像中的实际位置,以及车辆的当前行驶信息,对信号灯的轨迹进行预测,得到信号灯在当前时刻采集的环境图像中的预测位置。
示例性地,在得到信号灯在上一时刻采集的环境图像中的实际位置,以及车辆的当前行驶信息后,可以基于预设的轨迹跟踪算法,对信号灯的轨迹进行预测,即,预测出信号灯在当前时刻采集的环境图像中的位置,作为预测位置。轨迹跟踪算法可以是采用卡尔曼滤波和匈牙利算法及马氏距离,对信号灯进行轨迹跟踪。本实施例中,对轨迹跟踪算法不做具体限定。
例如,根据车辆的当前行驶信息,可以确定车辆正在以一定的速度向前加速行驶,上一时刻为12点34分,当前时刻为12点34分2秒,则可以根据12点34分时,信号灯在环境图像中的实际位置,预测两秒钟后,信号灯在环境图像中的位置。
若上一时刻的环境图像中存在多个信号灯,则根据各信号灯在上一时刻采集的环境图像中的实际位置,以及车辆的当前行驶信息,对各信号灯的轨迹进行预测,得到各信号灯在当前时刻采集的环境图像中的预测位置。
S405、若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶。
示例性地,在得到信号灯在当前时刻采集的环境图像中的预测位置之后,将该预测位置与当前时刻的环境图像中信号灯的实际位置进行比较,判断当前时刻的环境图像中,信号灯的实际位置与该预测位置之间的差值是否小于偏移量。若是,则根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶。若否,则继续获取下一时刻的环境图像,根据当前时刻的环境图像中信号灯的实际位置,预测下一时刻的环境图像中信号灯的预测位置。
本实施例中,若确定信号灯在当前时刻采集的环境图像中的实际位置与预测位置之间的差值小于预设的偏移量,包括:将上一时刻采集的环境图像中,各信号灯对应的预测位置,与当前时刻采集的环境图像中,各信号灯的实际位置进行比较;若当前时刻采集的环境图像中,存在信号灯的实际位置与上一时刻采集的环境图像中,任一信号灯的预测位置之间的偏差小于预设的偏移量,则确定信号灯为目标灯,并将上一时刻采集的环境图像中,与目标灯对应的信号灯的跟踪标识分配给目标灯。
具体的,若上一时刻的环境图像或当前时刻的环境图像中存在多个信号灯,则在得到各信号灯的预测位置后,将各信号灯的预测位置与当前时刻的环境图像中,各信号灯的实际位置进行比较。判断在当前时刻采集的环境图像中,是否存在信号灯的实际位置与上一时刻采集的环境图像中,任一信号灯的预测位置之间的偏差小于预设的偏移量。若存在,则该信号灯确定为目标灯。确定目标灯在上一时刻的环境图像中的跟踪标识,将该跟踪标识赋予给当前时刻的环境图像中的目标灯。
若上一时刻和当前时刻的环境图像中,不存在相匹配的信号灯,则继续获取下一时刻的环境图像,根据当前时刻的环境图像中信号灯的实际位置,预测下一时刻的环境图像中信号灯的预测位置。
这样设施的有益效果在于,对信号灯进行跟踪,确定不同环境图像中同样的信号灯,从而对信号灯的状态进行确认,不使用单帧图片判断红绿灯的类别,提高信号灯的识别精度,进而提高车辆控制精度。
若当前时刻的环境图像中有多个信号灯的实际位置与预测位置相匹配,则可以继续获取下一时刻的环境图像,再次进行信号灯的识别。
本实施例中,根据当前时刻采集的环境图像中信号灯的颜色,控制车辆行驶,包括:根据当前时刻采集的环境图像中目标灯的颜色,基于预设的车辆行驶控制规则,控制车辆行驶。
具体的,预先设置的车辆行驶控制规则,例如,车辆行驶控制规则可以是红灯减速,绿灯加速。还可以根据信号灯中显示的倒计时和箭头来设置车辆行驶控制规则,本实施例中,可以根据实际需求确定车辆行驶控制规则。
在确定当前时刻采集的环境图像中目标灯的颜色后,根据目标灯的颜色和车辆行驶控制规则,控制车辆行驶。例如,目标灯为红灯,则可以控制车辆减速,并行驶到红灯前停止。
这样设置的有益效果在于,通过目标灯的颜色控制车辆行驶,避免当前时刻的环境图像中其他信号灯的干扰,提高车辆控制精度。
本申请实施例提供的一种基于信号灯的车辆控制方法,通过获取当前时刻的环境图像,从环境图像中识别信号灯的颜色和信号灯在环境图像中的实际位置。获取上一时刻的信号灯在当时的环境图像中的实际位置,预测信号灯的轨迹,若得到信号灯在当前时刻的预测位置与当前时刻的实际位置一致,则说明当前时刻的环境图像中的信号灯就是车辆进行行驶控制的依据,可以根据该信号的颜色对车辆进行控制。解决了现有技术中,单张环境图像受到外界环境中光照等因素的影响导致识别错误或无法识别的问题,提高信号灯的识别精度,进而提高车辆行驶的控制精度和安全性。
图5为本申请实施例提供的一种基于信号灯的车辆控制装置的结构框图。为了便于说明,仅示出了与本公开实施例相关的部分。该装置应用于车辆,参照图5,该装置包括:环境图像获取模块501、状态信息确定模块502、预测位置确定模块503和车辆控制模块504。
环境图像获取模块501,用于获取当前时刻采集的环境图像;其中,所述环境图像用于表示车辆前方的环境;
状态信息确定模块502,用于从所述当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,所述状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置;
预测位置确定模块503,用于获取信号灯在上一时刻采集的环境图像中的实际位置,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置;
车辆控制模块504,用于若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶。
图6为本申请实施例提供的一种基于信号灯的车辆控制装置的结构框图,在图5所示实施例的基础上,如图6所示,状态信息确定模块502包括模型输入单元5021和信息输出单元5022。
模型输入单元5021,用于将所述当前时刻采集的环境图像输入至预设的信号灯识别模型;
信息输出单元5022,用于根据所述信号灯识别模型,从所述当前时刻的环境图像中识别信号灯,输出所述信号灯的状态信息。
一个示例中,信息输出单元5022,具体用于:
根据所述信号灯识别模型中的特征金字塔网络结构,对所述当前时刻的环境图像进行特征提取,确定所述当前时刻的环境图像中的目标框;其中,一个目标框中包括一个信号灯;
确定所述目标框中信号灯的颜色,以及确定所述目标框在所述当前时刻的环境图像中的位置,为所述信号灯在环境图像中的实际位置。
一个示例中,该装置还包括:
模型训练模块,用于在将所述当前时刻采集的环境图像输入至预设的信号灯识别模型之前,获取预先采集的信号灯图片;其中,所述信号灯图片上标注有信号灯的实际目标框、信号灯的实际圆心坐标以及信号灯的实际颜色;
将所述信号灯图片输入至预先构建的信号灯识别模型中,输出得到信号灯的预测颜色、预测圆心坐标以及所述预测圆心坐标对应的四个距离参数;其中,所述距离参数用于表示圆心坐标与目标框的四条边框之间的距离;
根据所述预测圆心坐标以及所述预测圆心坐标对应的四个距离参数,确定信号灯的预测目标框;
若所述预测目标框与实际目标框的位置一致,以及所述预测颜色与实际颜色一致,则确定所述信号灯识别模型训练完成。
一个示例中,预测位置确定模块503,包括:
实际位置获取单元,用于若在上一时刻采集的环境图像中不存在信号灯,则获取在上一时刻之前,至少一张环境图像中信号灯的实际位置。
一个示例中,预测位置确定模块503,包括:
行驶信息获取单元,用于获取车辆的当前行驶信息;其中,所述当前行驶信息包括行驶速度、行驶加速度和行驶轨迹;
位置预测单元,用于根据所述信号灯在上一时刻采集的环境图像中的实际位置,以及所述车辆的当前行驶信息,对所述信号灯的轨迹进行预测,得到所述信号灯在当前时刻采集的环境图像中的预测位置。
一个示例中,环境图像中包括至少两个信号灯;
预测位置确定模块503,包括:
标识分配单元,用于获取上一时刻采集的环境图像中,各信号灯的实际位置,以及为各信号灯分配的跟踪标识。
一个示例中,车辆控制模块504,具体用于:
将上一时刻采集的环境图像中,各信号灯对应的预测位置,与当前时刻采集的环境图像中,各信号灯的实际位置进行比较;
若所述当前时刻采集的环境图像中,存在信号灯的实际位置与上一时刻采集的环境图像中,任一信号灯的预测位置之间的偏差小于预设的偏移量,则确定所述信号灯为目标灯,并将上一时刻采集的环境图像中,与所述目标灯对应的信号灯的跟踪标识分配给所述目标灯。
一个示例中,车辆控制模块504,具体用于:
根据所述当前时刻采集的环境图像中所述目标灯的颜色,基于预设的车辆行驶控制规则,控制所述车辆行驶。
图7为本申请实施例提供的一种电子设备的结构框图,如图7所示,电子设备包括:存储器71,处理器72;存储器71;用于存储处理器72可执行指令的存储器。
其中,处理器72被配置为执行如上述实施例提供的方法。
电子设备还包括接收器73和发送器74。接收器73用于接收其他设备发送的指令和数据,发送器74用于向外部设备发送指令和数据。
图8是根据一示例性实施例示出的一种电子设备的框图,该设备可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)接口812,传感器组件814,以及通信组件816。
处理组件802通常控制设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为设备800的各种组件提供电力。电源组件806可以包括电源管理***,一个或多个电源,及其他与为设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为设备800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为设备800的显示器和小键盘,传感器组件814还可以检测设备800或设备800一个组件的位置改变,用户与设备800接触的存在或不存在,设备800方位或加速/减速和设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于设备800和其他设备之间有线或无线方式的通信。设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由设备800的处理器820执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质,当该存储介质中的指令由终端设备的处理器执行时,使得终端设备能够执行上述终端设备的基于信号灯的车辆控制方法。
本申请还公开了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如本实施例中所述的方法。
本申请以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或电子设备上执行。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据电子设备)、或者包括中间件部件的计算***(例如,应用电子设备)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和电子设备。客户端和电子设备一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-电子设备关系的计算机程序来产生客户端和电子设备的关系。电子设备可以是云电子设备,又称为云计算电子设备或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。电子设备也可以为分布式***的电子设备,或者是结合了区块链的电子设备。应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求书指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求书来限制。
Claims (13)
1.一种基于信号灯的车辆控制方法,其特征在于,所述方法应用于车辆,所述方法包括:
获取当前时刻采集的环境图像;其中,所述环境图像用于表示车辆前方的环境;
从所述当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,所述状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置;
获取信号灯在上一时刻采集的环境图像中的实际位置,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置;
若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶。
2.根据权利要求1所述的方法,其特征在于,从所述当前时刻采集的环境图像中确定信号灯的状态信息,包括:
将所述当前时刻采集的环境图像输入至预设的信号灯识别模型;
根据所述信号灯识别模型,从所述当前时刻的环境图像中识别信号灯,输出所述信号灯的状态信息。
3.根据权利要求2所述的方法,其特征在于,根据所述信号灯识别模型,从所述当前时刻的环境图像中识别信号灯,输出所述信号灯的状态信息,包括:
根据所述信号灯识别模型中的特征金字塔网络结构,对所述当前时刻的环境图像进行特征提取,确定所述当前时刻的环境图像中的目标框;其中,一个目标框中包括一个信号灯;
确定所述目标框中信号灯的颜色,以及确定所述目标框在所述当前时刻的环境图像中的位置,为所述信号灯在环境图像中的实际位置。
4.根据权利要求2所述的方法,其特征在于,在将所述当前时刻采集的环境图像输入至预设的信号灯识别模型之前,还包括:
获取预先采集的信号灯图片;其中,所述信号灯图片上标注有信号灯的实际目标框、信号灯的实际圆心坐标以及信号灯的实际颜色;
将所述信号灯图片输入至预先构建的信号灯识别模型中,输出得到信号灯的预测颜色、预测圆心坐标以及所述预测圆心坐标对应的四个距离参数;其中,所述距离参数用于表示圆心坐标与目标框的四条边框之间的距离;
根据所述预测圆心坐标以及所述预测圆心坐标对应的四个距离参数,确定信号灯的预测目标框;
若所述预测目标框与实际目标框的位置一致,以及所述预测颜色与实际颜色一致,则确定所述信号灯识别模型训练完成。
5.根据权利要求1所述的方法,其特征在于,获取信号灯在上一时刻采集的环境图像中的实际位置,包括:
若在上一时刻采集的环境图像中不存在信号灯,则获取在上一时刻之前,至少一张环境图像中信号灯的实际位置。
6.根据权利要求1-5中任一所述的方法,其特征在于,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置,包括:
获取车辆的当前行驶信息;其中,所述当前行驶信息包括行驶速度、行驶加速度和行驶轨迹;
根据所述信号灯在上一时刻采集的环境图像中的实际位置,以及所述车辆的当前行驶信息,对所述信号灯的轨迹进行预测,得到所述信号灯在当前时刻采集的环境图像中的预测位置。
7.根据权利要求6所述的方法,其特征在于,所述环境图像中包括至少两个信号灯;
获取信号灯在上一时刻采集的环境图像中的实际位置,包括:
获取上一时刻采集的环境图像中,各信号灯的实际位置,以及为各信号灯分配的跟踪标识。
8.根据权利要求7所述的方法,其特征在于,若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,包括:
将上一时刻采集的环境图像中,各信号灯对应的预测位置,与当前时刻采集的环境图像中,各信号灯的实际位置进行比较;
若所述当前时刻采集的环境图像中,存在信号灯的实际位置与上一时刻采集的环境图像中,任一信号灯的预测位置之间的偏差小于预设的偏移量,则确定所述信号灯为目标灯,并将上一时刻采集的环境图像中,与所述目标灯对应的信号灯的跟踪标识分配给所述目标灯。
9.根据权利要求8所述的方法,其特征在于,根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶,包括:
根据所述当前时刻采集的环境图像中所述目标灯的颜色,基于预设的车辆行驶控制规则,控制所述车辆行驶。
10.一种基于信号灯的车辆控制装置,其特征在于,所述装置应用于车辆,所述装置包括:
环境图像获取模块,用于获取当前时刻采集的环境图像;其中,所述环境图像用于表示车辆前方的环境;
状态信息确定模块,用于从所述当前时刻采集的环境图像中确定信号灯的状态信息,并进行存储;其中,所述状态信息包括信号灯的颜色和信号灯在环境图像中的实际位置;
预测位置确定模块,用于获取信号灯在上一时刻采集的环境图像中的实际位置,根据所述信号灯在上一时刻采集的环境图像中的实际位置,确定所述信号灯在当前时刻采集的环境图像中的预测位置;
车辆控制模块,用于若确定信号灯在当前时刻采集的环境图像中的实际位置与所述预测位置之间的差值小于预设的偏移量,则根据所述当前时刻采集的环境图像中所述信号灯的颜色,控制所述车辆行驶。
11.一种电子设备,其特征在于,包括:处理器,以及与所述处理器通信连接的存储器;
所述存储器存储计算机执行指令;
所述处理器执行所述存储器存储的计算机执行指令,以实现如权利要求1-9中任一项所述的基于信号灯的车辆控制方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1-9中任一项所述的基于信号灯的车辆控制方法。
13.一种计算机程序产品,其特征在于,包括计算机程序,该计算机程序被处理器执行时实现如权利要求1-9中任一项所述的基于信号灯的车辆控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310094610.1A CN115973163A (zh) | 2023-01-19 | 2023-01-19 | 基于信号灯的车辆控制方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310094610.1A CN115973163A (zh) | 2023-01-19 | 2023-01-19 | 基于信号灯的车辆控制方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115973163A true CN115973163A (zh) | 2023-04-18 |
Family
ID=85972473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310094610.1A Pending CN115973163A (zh) | 2023-01-19 | 2023-01-19 | 基于信号灯的车辆控制方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115973163A (zh) |
-
2023
- 2023-01-19 CN CN202310094610.1A patent/CN115973163A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108596116B (zh) | 测距方法、智能控制方法及装置、电子设备和存储介质 | |
US11875574B2 (en) | Object recognition method of autonomous driving device, and autonomous driving device | |
US20200272835A1 (en) | Intelligent driving control method, electronic device, and medium | |
CN112419328A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
US20210150232A1 (en) | Method and device for detecting a state of signal indicator light, and storage medium | |
CN107627969B (zh) | 更换车身颜色的方法、装置及计算机存储介质 | |
CN109218598B (zh) | 一种相机切换方法、装置及无人机 | |
CN114620072B (zh) | 车辆控制方法、装置、存储介质、电子设备及车辆 | |
WO2021057244A1 (zh) | 光强调节方法及装置、电子设备和存储介质 | |
Dewangan et al. | Talk2BEV: Language-enhanced Bird's-eye View Maps for Autonomous Driving | |
CN111507973A (zh) | 目标检测方法及装置、电子设备和存储介质 | |
EP3309711A1 (en) | Vehicle alert apparatus and operating method thereof | |
WO2023072093A1 (zh) | 虚拟车位确定方法、显示方法、装置、设备、介质及程序 | |
CN109255784B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN114419572B (zh) | 多雷达目标检测方法、装置、电子设备及存储介质 | |
CN114554391A (zh) | 一种停车场寻车方法、装置、设备和存储介质 | |
CN111402610B (zh) | 一种识别红绿灯亮灯状态的方法、装置、设备及存储介质 | |
CN115973163A (zh) | 基于信号灯的车辆控制方法、装置、电子设备及存储介质 | |
CN114723715B (zh) | 车辆目标检测方法、装置、设备、车辆及介质 | |
CN113505674B (zh) | 人脸图像处理方法及装置、电子设备和存储介质 | |
CN115965935A (zh) | 目标检测方法、装置、电子设备、存储介质和程序产品 | |
CN115407355A (zh) | 库位地图的验证方法、装置及终端设备 | |
CN116834767A (zh) | 运动轨迹生成方法、装置、设备及存储介质 | |
CN114627443B (zh) | 目标检测方法、装置、存储介质、电子设备及车辆 | |
CN114633764B (zh) | 交通信号灯检测方法、装置、存储介质、电子设备及车辆 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |