CN111443707A - 自主引导车辆到利用远程设备选择的期望停放位置 - Google Patents

自主引导车辆到利用远程设备选择的期望停放位置 Download PDF

Info

Publication number
CN111443707A
CN111443707A CN201911394582.5A CN201911394582A CN111443707A CN 111443707 A CN111443707 A CN 111443707A CN 201911394582 A CN201911394582 A CN 201911394582A CN 111443707 A CN111443707 A CN 111443707A
Authority
CN
China
Prior art keywords
vehicle
image
location
remote device
electronic processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911394582.5A
Other languages
English (en)
Inventor
J.S.米勒
S.A.A.科利尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of CN111443707A publication Critical patent/CN111443707A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0242Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using non-visible light signals, e.g. IR or UV signals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/06Automatic manoeuvring for parking
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/14Traffic control systems for road vehicles indicating individual free spaces in parking areas
    • G08G1/141Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces
    • G08G1/144Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces on portable or mobile units, e.g. personal digital assistant [PDA]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3602Input other than that of destination using image analysis, e.g. detection of road signs, lanes, buildings, real preceding vehicles using a camera
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3605Destination input or retrieval
    • G01C21/3623Destination input or retrieval using a camera or code reader, e.g. for optical or magnetic codes

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Electromagnetism (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Traffic Control Systems (AREA)

Abstract

提供了自主引导车辆到利用远程设备选择的期望停放位置。用于自主停放在经由远程设备选择的期望停放位置中的车辆。所述车辆包括第一相机、车辆控制***和第一电子处理器。第一电子处理器被配置为从第一相机接收第一图像,确定第一图像中的多个特征,以及从远程设备接收第二图像和第二图像中的期望停放位置。第一电子处理器还被配置为确定第二图像中的多个特征,将第二图像中的所确定特征与第一图像中的所确定特征进行匹配,以及确定所述车辆相对于期望停放位置的位置。第一电子处理器还被配置为确定从所述车辆的当前位置到期望停放位置的路线,以及自主地操控所述车辆到期望停放位置。

Description

自主引导车辆到利用远程设备选择的期望停放位置
技术领域
实施例涉及用于车辆的自动化停放。
背景技术
现代车辆包括各种部分自主驾驶功能,例如自适应巡航控制、碰撞避免***、自行停放等。完全自主驾驶是目标,但尚未实现,至少在市场准备、商业可行的规模上尚未实现。
发明内容
用于车辆的自动化控制的一个方面是自行停放。一些现代车辆能够在由停放线或其他车辆限定的位置中自行停放。例如,一些车辆能够执行平行停放操控。这种自行停放是有用的,因为许多驾驶员发现平行停放难以手动执行。然而,大多数自行停放操控必须在驾驶员处于驾驶座中时执行。在一些情形中,对于用户(或驾驶员)而言,在用户不处于车辆中时停放车辆可能是合期望的。在一个示例中,归因于可见性方面的遮挡物(诸如车辆中的柱、树、其他车辆和其他对象),用户可能无法从车辆内部确定停放位置是否合适。因此,对于用户而言,从车辆外部选择停放空间是合期望的。在另一个示例中,如果用户希望将车辆停放在狭窄的空间中,对于用户而言,在车辆移动到停放空间中之前从车辆出来可能是合期望的。除了其他事物之外,本文描述的实施例还提供允许用户从车辆外部选择停放空间并命令车辆自主移动到停放空间中的机制(即,没有驾驶员使用位于车辆内部的控件(例如,方向盘、制动踏板和油门踏板)来控制转向、制动和加速)。
除了其他事物之外,实施例还提供一种车辆和一种用于将车辆停放在不由停放线或周围车辆限定的位置中的方法。一个实施例提供一种用于自主停放在经由远程设备选择的期望停放位置中的车辆。所述车辆包括第一相机、车辆控制***和第一电子处理器。第一电子处理器被配置为从第一相机接收第一图像,确定第一图像中的多个特征,以及从远程设备接收第二图像和第二图像中的期望停放位置。第一电子处理器还被配置为确定第二图像中的多个特征,将第二图像中的所确定特征与第一图像中的所确定特征进行匹配,以及使用匹配的特征确定所述车辆相对于期望停放位置的位置。第一电子处理器还被配置为使用期望停放位置相对于所述车辆的位置的位置来确定从所述车辆的当前位置到期望停放位置的路线,以及使用车辆控制***自主地操控所述车辆到期望停放位置。
另一个实施例提供一种自主地控制车辆移动到经由远程设备选择的期望停放位置的方法。所述方法包括:利用第一电子处理器从车辆中包括的第一相机接收第一图像,利用第一电子处理器确定第一图像中的多个特征,以及从远程设备接收第二图像和第二图像中的期望停放位置。所述方法还包括:利用第一电子处理器确定第二图像中的多个特征,利用第一电子处理器将第二图像中的所确定特征与第一图像中的所确定特征进行匹配,以及利用第一电子处理器使用匹配的特征确定期望停放位置相对于车辆的位置。所述方法还包括利用第一电子处理器使用期望停放位置相对于车辆的位置,确定从车辆当前位置到期望停放位置的路线,以及利用车辆控制***自主地操控车辆到期望停放位置。
又一实施例提供一种使用远程设备控制车辆运动的方法。所述方法包括:利用车辆的第一电子处理器从车辆的第一相机接收图像,以及将图像发送到远程设备。所述方法还包括:利用第一电子处理器从远程设备接收基于图像的多个车辆运动参数,以及基于所述多个车辆运动参数控制车辆的移动。
又一实施例提供一种使用口头描述为车辆指定期望停放位置的方法。所述方法包括:利用第一电子处理器或第二电子处理器接收对停放区域中期望停放位置的口头描述;将期望停放位置的口头描述传输到电子计算设备;以及利用电子计算设备的第三电子处理器分析期望停放位置的口头描述。所述方法还包括:利用第三电子处理器将期望停放位置的口头描述关联到停放区域中的对象;当车辆到达停放区域时,利用车辆的相机捕获停放区域的一个或多个图像;以及利用第三电子处理器将计算机视觉处理技术应用于停放区域的一个或多个图像,以标识大***置的一个或多个图像中的对象和区。所述方法还包括:通过使用根据口头描述和在停放区域的一个或多个图像中标识的对象确定的关系信息,利用第三电子处理器标识停放区域中的期望停放位置;以及利用第一电子处理器向车辆控制***发送指令,以自主地操控车辆到期望停放位置。
通过对详细描述和附图的考虑,其他方面、特征和实施例将变得清楚。
附图说明
图1是根据一个实施例的用于自主地控制车辆移动到经由远程设备选择的期望停放位置的***的框图。
图2是根据一个实施例的图1的***的远程设备的框图。
图3是根据一个实施例的图1的***的电子控制器的框图。
图4是根据一个实施例的图1的***的环境检测***的框图。
图5是根据一个实施例的包括在图1的***的车辆中的车辆控制***的框图。
图6是根据一个实施例的使用图1的***自主地控制车辆移动到经由远程设备选择的期望停放位置的方法的流程图。
图7是用户经由远程设备选择期望停放位置的说明性示例。
图8是图1的***执行图6的方法的说明性示例。
图9是图2的远程设备显示包括从图1***的车辆接收的确定路线的图像的说明性示例。
图10是使用移动计算设备控制车辆运动的方法的流程图。
图11是根据一个实施例的图1的***的电子计算设备的框图。
图12是根据一个实施例的使用口头描述为车辆指定期望停放位置的方法的流程图。
具体实施方式
在详细解释任何实施例之前,要理解,本公开不意图在其应用方面限于在以下描述中阐述的或在以下附图中图示的组件的构造和布置细节。实施例能够具有其他配置,并且能够以各种方式被实践或被施行。
可以使用多个基于硬件和软件的设备以及多个不同的结构组件来实现各种实施例。此外,实施例可以包括硬件、软件和电子组件或模块,出于讨论的目的,所述电子组件或模块可以被图示和描述为如同大多数组件仅在硬件中实现那样。然而,本领域普通技术人员并且基于对本详细描述的阅读将认识到,在至少一个实施例中,本发明的基于电子的方面可以在可由一个或多个处理器执行的软件(例如,存储在非暂时性计算机可读介质上)中实现。例如,说明书中描述的“控制单元”和“控制器”可以包括一个或多个电子处理器、一个或多个包括非暂时性计算机可读介质的存储器模块、一个或多个通信接口、一个或多个专用集成电路(ASIC)以及连接各种组件的各种连接(例如,***总线)。
图1图示了用于自主地控制车辆移动到经由远程设备选择的期望停放位置的***100。***100包括车辆105、远程设备110和电子计算设备113。车辆105、远程设备110和电子计算设备113通过一个或多个有线或无线通信网络115通信。无线通信网络115的部分可以使用诸如因特网的广域网、诸如Wi-Fi网络的局域网、诸如蓝牙TM网络的短程无线网络、近场通信连接以及其组合或衍生物来实现。应当注意,虽然某些功能性在本文被描述成由***100的一个组件执行,但是在一些实施例中,该功能性可以由***100的不同组件或***100的组件的组合来执行。应当理解,***100可以包括任何数量的电子计算设备,并且图1中图示的单个电子计算设备113纯粹是为了说明性目的。
尽管被图示为四轮车辆,但是车辆105可以涵盖各种类型和设计的车辆。例如,车辆105可以是汽车、摩托车、卡车、公共汽车、半拖拉机等。车辆105包括至少一些自主功能性,但是也可能需要驾驶员或操作员执行驾驶功能。在图示的示例中,车辆105包括若干硬件组件,包括车辆控制***120、电子控制器125、环境检测***130、第一显示设备135和第一输入设备140。第一显示设备135可以是例如触摸屏、液晶显示器(“LCD”)、发光二极管(“LED”)显示器、有机LED(“OLED”)显示器、电致发光显示器(“ELD”)等。第一输入设备140可以是例如键盘、鼠标、触摸屏(例如,作为第一显示设备135的部分)、麦克风、相机等。将在下面进一步详细描述车辆控制***120、电子控制器125和环境检测***130。车辆105的组件可以具有各种构造,并且可以使用各种通信类型和协议。
电子控制器125可以经由各种有线或无线连接而通信地连接到车辆控制***120、环境检测***130、第一显示设备135和第一输入设备140。例如,在一些实施例中,电子控制器125经由专用引线直接耦合到车辆105的上面列出的组件中的每个。在其他实施例中,电子控制器125经由诸如车辆通信总线(例如,控域网(CAN)总线)之类的共享通信链路或无线连接而通信地耦合到一个或多个组件。应当理解,车辆105的每个组件可以使用各种通信协议与电子控制器125通信。图1中图示的实施例仅提供车辆105的组件和连接的一个示例。然而,这些组件和连接可以以除了本文图示和描述的那些方式之外的其他方式来构造。
远程设备110是诸如智能电话、智能手表、平板计算机、膝上型计算机等电子设备,其包括第二电子处理器200(例如,微处理器、专用集成电路(ASIC)或另一合适的电子设备)、第二存储器205(例如,非暂时性计算机可读存储介质)、用于通过通信网络115和可选地一个或多个附加通信网络或连接进行通信的第二通信接口210(诸如收发器)、第二相机215、第二显示设备220以及输入设备225。第二显示设备220可以是例如触摸屏、液晶显示器(“LCD”)、发光二极管(“LED”)显示器、有机LED(“OLED”)显示器、电致发光显示器(“ELD”)等。输入设备225可以是例如键盘、鼠标、触摸屏(例如,作为第二显示设备220的部分)、麦克风、相机等。第二电子处理器200、第二存储器205、第二相机215、第二显示设备220、第二通信接口210和输入设备225通过一个或多个通信线路或总线通信。应当理解,远程设备110可以在各种配置中包括除了图2中图示的那些组件之外的附加组件,并且可以执行除了本申请中描述的功能性之外的附加功能性。例如,远程设备110可以包括比单个输入设备225更多的输入设备。远程设备110还可以包括比图2中图示的那些组件更少的组件。例如,尽管在图2中图示为包括相机,但是远程设备110可以是包括允许第二电子处理器200从远程相机而不是远程设备110本地的相机访问图像的应用的电子设备,所述应用诸如地图应用或安全应用。
图3是图1的***的电子控制器125的框图。电子控制器125包括多个电气和电子组件,所述电气和电子组件向电子控制器125内的组件和模块提供电力、操作控制和保护。除了其他事物之外,电子控制器125还包括第一电子处理器305(诸如可编程电子微处理器、微控制器或类似设备)、第一存储器310(例如,非暂时性机器可读存储器)和第一通信接口315。第一电子处理器305通信地连接到第一存储器310和第一通信接口315。与第一存储器310和第一通信接口315协作的第一电子处理器305被配置为——除了其他事物之外——还实现本文描述的方法。
电子控制器125可以在若干独立的控制器(例如,可编程电子控制器)中实现,每个控制器被配置为执行特定的功能或子功能。附加地,电子控制器125可以包含子模块,所述子模块包括附加的电子处理器、存储器或专用集成电路(ASIC),用于处置通信功能、信号处理以及下面列出的方法的应用。在其他实施例中,电子控制器125包括附加的、更少的或不同的组件。
图4是车辆105的环境检测***130的框图。除了其他事物之外,环境检测***130还包括一个或多个电磁辐射传感器。这样的传感器的示例包括激光雷达传感器400、第一相机405和雷达传感器410。附加于电磁辐射传感器,环境检测***130还可以包括机械波传感器,例如超声传感器415。在一个实施例中,仅使用一个传感器(例如第一相机405)来检测车辆的环境。在其他实施例中,环境检测***130与第一相机405组合地使用多个传感器,诸如激光雷达传感器400、雷达传感器410或超声传感器415。可以存在多于一个的每种传感器,并且它们可以位于车辆105的内部或外部的不同位置处。例如,第一相机405或其组件可以外部安装到车辆105的部分(诸如在侧镜或后备箱门上)。可替换地,第一相机405或其组件可以内部安装在车辆105内(例如,通过后视镜定位)。应当注意,第一相机405(以及环境检测***130中包括的任何其他相机)被校准,使得第一相机405相对于车辆105的位置和取向是已知的。第一相机405的镜头参数也是已知的。环境检测***130的传感器被配置为:当车辆105从一个点移动到另一个点时,接收指示车辆距车辆周围环境中的要素的距离以及相对于所述要素的位置的信号。
图5图示了车辆控制***120的示例。车辆控制***120包括车辆105的自主或手动控制中涉及的组件。例如,在一些实施例中,车辆控制***120包括转向***500、制动器505和加速器510。图5中图示的实施例仅提供车辆控制***120的组件的一个示例。在其他实施例中,车辆控制***120包括附加的、更少的或不同的组件。
图6图示了自主地控制车辆移动到经由远程设备选择的期望停放位置的示例方法600。虽然在图6中作为示例指示了步骤的特定顺序,但是在不否定本文详细阐述的示例的目的和优点的情况下,步骤的定时、次序和包括可以在适当的情况下变化。
在一些实施例中,在步骤605处,远程设备110从第二相机215接收第二图像。在其他实施例中,第二电子处理器200经由例如从远程存储位置检索图像的应用接收第二图像,所述远程存储位置诸如是远离远程设备110的服务器或相机。应用可以是例如地图应用或安全应用。在步骤608处,第二电子处理器200在第二显示设备220上显示第二图像。在步骤610处,第二电子处理器200经由远程设备110的输入设备225接收第二图像内的期望停放位置。例如,当用户通过将代表车辆105的形状拖动到第二图像中的期望停放位置来选择第二图像中的位置时,第二电子处理器200接收期望停放位置。
图7提供了用户经由远程设备110选择期望停放位置的示例。在图7中图示的示例中,远程设备110被图示为智能电话。在智能电话的屏幕(第二显示设备220)上显示第二图像。覆盖在第二图像上的是矩形形状700。形状700在第二图像中的位置说明了期望停放位置,并且形状700的大小是车辆105在期望停放位置中所占据的面积。用户可以能够经由输入设备225改变形状700在第二图像中的位置和形状700的大小。例如,在图7中,屏幕可以是触摸屏,并且用户可以能够通过触摸形状700来选择形状700,并且通过将形状700拖动到屏幕上的新位置来将形状700移动到第二图像中的不同位置。第二电子处理器200可以从输入设备225接收形状700在期望位置中的确认。例如,当用户按压远程设备110中包括的按钮(输入设备225)时,输入设备225可以向第二电子处理器200发送确认信号。
在步骤625处,第一电子处理器305从第一相机405接收第一图像,并且在步骤630处,第一电子处理器305确定第一图像中的多个特征。第一电子处理器305分析第一图像以确定图像中包括“强”特征的一个或多个区。强特征可以是例如拐角或线,诸如标记停放空间、路边缘、树枝等的线。第一电子处理器305然后分析包括强特征的图像的所确定区内的像素,以产生针对该强特征的特征描述符。一般来说,特征描述符是尺度和取向不变的。应当注意,当特征在本文被描述为是匹配的时,匹配的是特征描述符。在步骤632处,第二电子处理器200以与上面关于第一图像描述的类似方式确定第二图像中的多个特征描述符。在一些实施例中,在步骤620处,第一电子处理器305经由第一通信接口315从远程设备110接收第二图像和期望停放位置。在其他实施例中,第一电子处理器305而不是第二电子处理器200确定第二图像中的多个特征描述符,并且第一电子处理器305接收第二图像、期望停放位置和第二图像中的多个特征描述符。
在一些实施例中,远程设备110包括例如GPS(全球定位***)接收器,并且第一电子处理器305接收远程设备110的位置。同样地,车辆105可以包括GPS接收器,并且第一电子处理器305可以将当捕获第二图像时远程设备110的位置与车辆105的位置进行比较。如果当捕获第二图像时远程设备110的位置和车辆105的位置并不近似相同,则第一电子处理器305:使用车辆控制***120将车辆105自主移动到靠近当捕获第二图像时远程设备110的位置;例如经由包括在车辆105中的第一显示设备135或扬声器向车辆105的驾驶员提供指令,所述指令指示驾驶员将车辆105移动到更靠近当捕获第二图像时远程设备110位置的位置;或其组合。在一些实施例中,一旦车辆105的当前位置靠近所接收的远程设备110的位置,第一电子处理器305就接收第一图像。当捕获第二图像时靠近远程设备110的位置可以是例如距当捕获第二图像时远程设备110的位置至多阈值距离(诸如十米)的位置。
在步骤635处,第一电子处理器305将第二图像中的所确定特征与第一图像中的所确定特征进行匹配。在特征匹配期间,将第一相机405的镜头参数以及第一相机405在车辆105上的位置和取向考虑在内。在一些实施例中,第一电子处理器305利用特征匹配算法来匹配第一图像和第二图像中的特征。特征匹配算法的一个示例是尺度不变特征变换(SIFT)方法,其能够标识由第二相机215和第一相机405捕获的图像内的匹配特征,尽管第一相机405的姿态与第二相机215的姿态相比、第一图像的尺度与第二图像的尺度相比、第一相机405的镜头特性与第二相机215的镜头特性相比以及第一图像的照明与第二图像的照明相比有差异。特征匹配算法的其他示例包括旋转不变特征变换(RIFT)方法、梯度位置和取向直方图(GLOH)方法、加速鲁棒特征(SURF)、蒙特卡罗定位(MCL)方法、局部束调整(LBA)方法以及同时定位和映射(SLAM)方法。应当注意,上面列出的特征匹配算法的组合可以用于将第一图像中的特征与第二图像中的特征进行匹配。附加地,应当理解,除了上述那些之外的特征匹配算法可以用于将第一图像中的特征与第二图像中的特征进行匹配。
应当注意,在一些实施例中,第一相机405、第二相机215或两者捕获多个图像或视频。通过增加特征匹配算法中使用的期望停放位置的图像数量而增加特征匹配算法的准确性。附加地,匹配算法的准确性可以随着方法600被执行和从用户接收反馈的次数的增加而增加。
在一些实施例中,需要在完成匹配之前确定预定数量的匹配特征。在一些实施例中,当第一电子处理器305将第一图像中少于预定数量的特征与第二图像中的特征进行匹配时,第一电子处理器305将第一图像发送到远程设备110。第二电子处理器200经由第二显示设备220显示接收到的第一图像,并经由输入设备225提示用户在第一图像中选择期望停放位置。当第二电子处理器200接收到对第一图像中期望停放位置的选择时,第二电子处理器200将具有期望停放位置的第一图像发送到第一电子处理器305。第一电子处理器305利用车辆控制***120和环境检测***130基于在第一图像中确定的多个特征自主地操控车辆105到期望停放位置。特征的预定数量可以是例如确定车辆105相对于期望停放位置的位置所需的特征数量。在步骤640处,第一电子处理器305使用期望停放位置相对于车辆105位置的位置,来确定从车辆105的当前位置到期望停放位置的路线。在步骤645处,第一电子处理器305向车辆控制***120发送指令,以自主地操控车辆105到期望停放位置。
图8图示了***100执行方法600的示例。在图8的图示示例中,第一相机405位于车辆105的后部处,并且第一组虚线800图示了第一相机405的视场。第二相机215被包括在由用户805持有的远程设备110中,并且第二组虚线810图示了第二相机215的视场。期望停放位置被图示为矩形815。并且标记820图示了通过第一电子处理器305匹配的第一图像和第二图像中的特征。
在一些实施例中,当车辆105移动到期望停放位置时,车辆105的第一显示设备135可以显示来自第一相机405的图像。在一些实施例中,显示在车辆105的第一显示设备135上的图像可以具有覆盖在其上的期望停放位置、车辆105到覆盖在其上的期望位置的路径或者两者。
在一些实施例中,第一电子处理器305可以将图像发送到远程设备110,所述图像示出用于车辆105行进到期望停放位置的确定路线。图9图示了远程设备110(在图9中图示为蜂窝设备)经由第二显示设备220(图示为蜂窝设备的屏幕)显示来自第一电子处理器305的图像900的示例。在图9中,到期望停放位置的确定路线的图形表示905覆盖在图像900上。在一些实施例中,第二电子处理器200可以从输入设备225接收确定路线的确认、或者不同路线的选择。在一个示例中,当用户不认可确定路线时,用户可以经由远程设备110的输入设备225(显示在蜂窝设备屏幕上的控件910)在显示设备220上移动图形表示905,以更改确定路线并创建不同路线。远程设备110可以经由通信网络115向车辆105发送不同路线,并且车辆105可以采用到期望停放位置的不同路线而不是确定路线。在另一个示例中,当用户认可确定路线时,用户可以经由输入设备225指示他们对确定路线的认可。例如,当用户认可路线时,用户可以按压包括在远程设备110中的按钮。输入设备225可以向第二电子处理器200发送确认信号,并且远程设备110可以从远程设备110向车辆105发送该信号。在从远程设备110接收到确认信号后,第一电子处理器305使用车辆控制***120经由确定路线自主地操控车辆105到期望停放位置。
在一些实施例中,当第一电子处理器305从环境检测***130接收到已经沿着确定路线检测到遮挡物或障碍物的信号时,第一电子处理器305确定用于车辆105到期望停放位置采用的不同路线,向远程设备110发送通知,或者两者。在一些实施例中,第一电子处理器305确定期望停放位置是否足够大以停放车辆105。例如,第一电子处理器305可以从环境检测***130的超声传感器415接收一个或多个信号,所述一个或多个信号允许第一电子处理器305确定期望停放位置在墙壁和另一车辆之间,并且在墙壁和该另一车辆之间没有足够的空间用于车辆105在它们之间停放。当第一电子处理器305确定期望停放位置不足够大以停放车辆105时,第一电子处理器305可以向远程设备110发送信号,以通知用户期望停放位置不足够大以停放车辆105。
图10图示了用于使用移动计算设备控制车辆运动的示例方法1000。方法1000可以使用上述***100来实现。在方法1000中,远程设备110可以是诸如智能电话的移动计算设备。当第一电子处理器305从第一相机405接收到车辆105周围环境的图像时,方法1000在步骤1005处开始。在步骤1010处,第一电子处理器305将图像发送到远程设备110。第二电子处理器200经由显示设备220显示图像。应当注意,在一些实施例中,第二电子处理器200接收并在显示设备220上显示从第一相机405馈送的视频。第二电子处理器200从输入设备225接收基于图像的指示多个车辆运动参数的输入。多个车辆运动参数可以包括例如距离、速度和方向。在一个示例中,用户可以选择图像区域来指示他们希望车辆移动的方向和来自可用速度列表的速度。在步骤1015处,第一电子处理器305从远程设备110接收多个车辆运动参数。在步骤1020处,第一电子处理器305使用车辆控制***120基于多个车辆运动参数来控制车辆105的移动。在一些实施例中,重复步骤1005至1020,直到第一电子处理器305从远程设备110接收到指示车辆要停放在其当前位置中并关闭或断电的信号。应当理解,在一些实施例中,用户可以选择图像区域作为期望的停放空间,而不是多个车辆运动参数,并且第一电子处理器305使用车辆控制***120基于图像中的所选区域(期望的停放空间)来移动车辆105。附加地,在一些实施例中,当第一电子处理器305正在执行方法1000的步骤1015和1020并且从环境检测***130接收到已经在车辆105的路径中检测到遮挡物或障碍物的信号时,第一电子处理器305使用车辆控制***120来避开检测到的遮挡物,向远程设备110发送通知,或者两者。如图11中图示的,电子计算设备113包括电子处理器1100(例如,微处理器、专用集成电路(ASIC)或另一合适的电子设备)、存储器1105(非暂时性计算机可读存储介质)以及用于通过通信网络115和可选地一个或多个附加通信网络或连接进行通信的通信接口1110(诸如收发器)。电子处理器1100、存储器1105和通信接口1110通过一个或多个通信线路或总线或其组合进行无线通信。应当理解,电子计算设备113可以在各种配置中包括除了图11中图示的那些组件之外的附加组件,并且可以执行除了本申请中描述的功能性之外的附加功能性。此外,本文描述为由电子计算设备113执行的功能性可以分布在***100内的多个设备间。
电子计算设备113可以在第三存储器1105中包括计算机可执行指令或程序。例如,存储器1105可以包括自然语言处理程序1115和图像识别程序1120。
图12图示了使用口头描述(例如,经由麦克风捕获并在语音到文本处理程序中转换成文本的口语描述)为车辆指定期望停放位置的示例方法1200。当第一电子处理器305或第二电子处理器200接收到停放区域中期望停放位置的口头描述(停放区域例如是期望停放位置的街道地址)时,方法1200在步骤1205处开始。在步骤1210处,第一电子处理器305或第二电子处理器200将期望停放位置的口头描述传输到电子计算设备113。在步骤1215处,电子计算设备113的第三电子处理器1100执行自然语言处理程序1115来分析期望停放位置的口头描述。在步骤1220处,第三电子处理器1100将期望停放位置的口头描述关联到停放区域中的对象。例如,第三电子处理器1100可以确定期望停放位置是“在卡车后面”、“在车道上”或“在树左边的草地上”。
在步骤1225处,当车辆(例如,车辆105)到达停放区域时,车辆中包括的相机(例如,第二相机215)捕获停放区域的一个或多个图像,并且电子控制器125将大***置的一个或多个图像发送到电子计算设备113。在步骤1230处,第三电子处理器1100执行图像识别程序1120,以将诸如对象识别和定位或语义分割之类的计算机视觉处理技术应用于停放区域的一个或多个图像,来标识大***置的一个或多个图像中的对象和区。在一些实施例中,环境检测***130中包括的传感器(例如,激光雷达传感器400、雷达传感器410、超声传感器415或前述的组合)也向电子计算设备113提供对象位置信息,以辅助第三电子处理器1100检测停放区域的一个或多个图像中的对象。在步骤1235处,通过使用根据口头描述和在停放区域的一个或多个图像中标识的对象确定的关系信息,第三电子处理器1100标识停放区域中的期望停放位置。电子计算设备113向车辆105发送停放区域的一个或多个图像中的期望停放位置的指示。在步骤1240处,第一电子处理器305向车辆控制***120发送指令,以自主地操控车辆105到期望停放位置。
因此,除了其他事物之外,本文描述的实施例还提供用于自主地控制车辆移动到经由远程设备选择的停放位置的***和方法。在所附权利要求中阐述了实施例的各种特征和优点。

Claims (20)

1.一种用于自主停放在经由远程设备选择的期望停放位置中的车辆,所述车辆包括:
第一相机;
车辆控制***;以及
第一电子处理器,被配置为:
从第一相机接收第一图像;
确定第一图像中的多个特征;
从远程设备接收第二图像和第二图像中的期望停放位置;
确定第二图像中的多个特征;
将第二图像中的所确定特征与第一图像中的所确定特征进行匹配;
使用匹配的特征确定所述车辆相对于期望停放位置的位置;
使用期望停放位置相对于所述车辆的位置的位置,来确定从所述车辆的当前位置到期望停放位置的路线;以及
使用车辆控制***自主地操控所述车辆到期望停放位置。
2.根据权利要求1所述的车辆,其中,第一电子处理器还被配置为经由包括在所述车辆中的第一显示设备显示期望停放位置。
3.根据权利要求1所述的车辆,其中,第一电子处理器还被配置为当在到期望停放位置的路线上检测到障碍物时,确定到期望停放位置的不同路线。
4.根据权利要求1所述的车辆,其中第一电子处理器还被配置为:
将所接收的远程设备的位置与所述车辆的当前位置进行比较;以及
当远程设备的位置和所述车辆的当前位置并不近似相同时,将所述车辆移动到与远程设备的位置近似相同的位置、向所述车辆的驾驶员提供指令以将所述车辆移动到与远程设备的位置近似相同的位置、或者两者。
5.根据权利要求1所述的车辆,其中所述车辆通信地耦合到远程设备,并且远程设备包括:
第二相机;
第二显示设备;以及
第二电子处理器,被配置为:
从第二相机接收第二图像;
在第二显示设备上显示第二图像;以及
接收对第二图像中期望停放位置的选择。
6.根据权利要求5所述的车辆,其中第二电子处理器还被配置为:
显示包括所确定的路线的图像,其中所确定的路线被表示为覆盖在图像上的图形对象;以及
当图形对象在第二显示设备上移动时,经由远程设备的输入设备接收不同路线的选择。
7.根据权利要求1所述的车辆,其中第一电子处理器还被配置为:
向远程设备发送包括所确定的路线的图像;以及
当从远程设备接收到所确定的路线的确认时,经由所确定的路线自主地操控所述车辆到期望停放位置;以及
当从远程设备接收到不同路线时,经由不同路线自主地操控所述车辆到期望停放位置。
8.根据权利要求1所述的车辆,其中远程设备从由与地图应用相关联的相机和与安全应用相关联的相机组成的组中的一个接收第二图像。
9.根据权利要求1所述的车辆,第一电子处理器还被配置为:
当第一图像中少于预定数量的特征与第二图像中的特征进行匹配时,将第一图像发送到远程设备;
从远程设备接收对第一图像中期望停放位置的选择;
自主地操控所述车辆到第一图像中的期望停放位置。
10.一种自主地控制车辆移动到经由远程设备选择的期望停放位置的方法,所述方法包括:
利用第一电子处理器从车辆中包括的第一相机接收第一图像;
利用第一电子处理器确定第一图像中的多个特征;
从远程设备接收第二图像和第二图像中的期望停放位置;
利用第一电子处理器确定第二图像中的多个特征;
利用第一电子处理器将第二图像中的所确定特征与第一图像中的所确定特征进行匹配;
利用第一电子处理器使用匹配的特征确定期望停放位置相对于车辆的位置;
利用第一电子处理器使用期望停放位置相对于车辆的位置,确定从车辆当前位置到期望停放位置的路线;以及
利用车辆控制***自主地操控车辆到期望停放位置。
11.根据权利要求10所述的方法,所述方法还包括经由车辆中包括的第一显示设备显示期望停放位置。
12.根据权利要求10所述的方法,所述方法还包括当在到期望停放位置的路线上检测到障碍物时,确定到期望停放位置的不同路线。
13.根据权利要求10所述的方法,所述方法还包括:
将所接收的远程设备的位置与车辆的当前位置进行比较;以及
当远程设备的位置和车辆的当前位置并不近似相同时,将车辆移动到与远程设备的位置近似相同的位置、向车辆的驾驶员提供指令以将车辆移动到与远程设备的位置近似相同的位置、或者两者。
14.根据权利要求10所述的方法,所述方法还包括:
利用远程设备中包括的第二电子处理器从第二相机接收第二图像;
利用第二电子处理器在第二显示设备上显示第二图像;以及
利用第二电子处理器接收对第二图像中期望停放位置的选择。
15.根据权利要求14所述的方法,所述方法还包括:
在第二显示设备上显示包括所确定的路线的图像,其中所确定的路线被表示为覆盖在图像上的图形对象;以及
当图形对象在第二显示设备上移动时,利用第一电子处理器经由远程设备的输入设备接收不同路线的选择。
16.根据权利要求10所述的方法,所述方法还包括:
向远程设备发送包括所确定的路线的图像;以及
当从远程设备接收到所确定的路线的确认时,经由所确定的路线自主地操控车辆到期望停放位置;以及
当从远程设备接收到不同路线时,经由不同路线自主地操控车辆到期望停放位置。
17.根据权利要求10所述的方法,其中远程设备从由与地图应用相关联的相机和与安全应用相关联的相机组成的组中的一个接收第二图像。
18.根据权利要求10所述的方法,所述方法还包括:
当第一图像中少于预定数量的特征与第二图像中的特征进行匹配时,将第一图像发送到远程设备;
从远程设备接收对第一图像中期望停放位置的选择;
自主地操控车辆到第一图像中的期望停放位置。
19.一种使用远程设备控制车辆运动的方法,所述方法包括:
利用车辆的第一电子处理器从车辆的第一相机接收图像;
将图像发送到远程设备;
利用第一电子处理器从远程设备接收基于图像的多个车辆运动参数;以及
基于所述多个车辆运动参数控制车辆的移动。
20.一种使用口头描述为车辆指定期望停放位置的方法,所述方法包括:
利用第一电子处理器或第二电子处理器接收对停放区域中期望停放位置的口头描述;
将期望停放位置的口头描述传输到电子计算设备;
利用电子计算设备的第三电子处理器分析期望停放位置的口头描述;
利用第三电子处理器将期望停放位置的口头描述关联到停放区域中的对象;
当车辆到达停放区域时,利用车辆的相机捕获停放区域的一个或多个图像;
利用第三电子处理器将计算机视觉处理技术应用于停放区域的一个或多个图像,以标识大***置的一个或多个图像中的对象和区;
通过使用根据口头描述和在停放区域的一个或多个图像中标识的对象确定的关系信息,利用第三电子处理器标识停放区域中的期望停放位置;以及
利用第一电子处理器向车辆控制***发送指令,以自主地操控车辆到期望停放位置。
CN201911394582.5A 2018-12-31 2019-12-30 自主引导车辆到利用远程设备选择的期望停放位置 Pending CN111443707A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/237539 2018-12-31
US16/237,539 US10745002B2 (en) 2018-12-31 2018-12-31 Autonomously guiding a vehicle to a desired parking location selected with a remote device

Publications (1)

Publication Number Publication Date
CN111443707A true CN111443707A (zh) 2020-07-24

Family

ID=71079906

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911394582.5A Pending CN111443707A (zh) 2018-12-31 2019-12-30 自主引导车辆到利用远程设备选择的期望停放位置

Country Status (3)

Country Link
US (1) US10745002B2 (zh)
CN (1) CN111443707A (zh)
DE (1) DE102019220048A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018004150B4 (de) * 2017-09-13 2023-12-28 Robert Bosch Gesellschaft mit beschränkter Haftung Anhängerrückwärtsfahrassistenzsystem
US11107354B2 (en) * 2019-02-11 2021-08-31 Byton North America Corporation Systems and methods to recognize parking
US10515401B1 (en) * 2019-02-19 2019-12-24 Capital One Services, Llc Utilizing machine learning to generate vehicle information for a vehicle captured by a user device in a vehicle lot
JP7155047B2 (ja) * 2019-03-07 2022-10-18 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
DE102019210015B3 (de) * 2019-07-08 2020-10-01 Volkswagen Aktiengesellschaft Verfahren und System zum Bereitstellen eines Navigationshinweises für eine Route von einem aktuellen Standort einer mobilen Einheit zu einer Zielposition
DE102019215524A1 (de) * 2019-10-10 2021-04-15 Ford Global Technologies, Llc Verfahren und Anordnung zum Visualisieren eines Fahrwegs, Computerprogrammprodukt und computerlesbares Speichermedium
US11435756B2 (en) * 2019-12-01 2022-09-06 Nvidia Corporation Visual odometry in autonomous machine applications
US11348282B1 (en) * 2021-02-04 2022-05-31 GM Global Technology Operations LLC Systems and methods for calibrating vehicle cameras using external smart sensor
CN114013425B (zh) * 2021-09-29 2024-01-26 江铃汽车股份有限公司 远程泊车控制方法、***、存储介质及设备
US11845424B2 (en) 2022-02-22 2023-12-19 Ford Global Technologies, Llc Remote trailer backup assist multiple user engagement
US20240051519A1 (en) * 2022-08-09 2024-02-15 Aptiv Technologies Limited Vehicle Localization Based on Pose Corrections from Remote Cameras
DE102022130010A1 (de) 2022-11-14 2024-05-16 Valeo Schalter Und Sensoren Gmbh Verfahren zum lokalisieren eines fahrzeugs

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105539430A (zh) * 2015-12-29 2016-05-04 北京理工大学 一种基于手持终端的人车交互智能泊车方法
CN105916758A (zh) * 2014-01-15 2016-08-31 罗伯特·博世有限公司 用于车辆的自主泊车的方法、用于执行所述方法的驾驶员辅助设备以及具有所述驾驶员辅助设备的车辆
CN105989744A (zh) * 2015-03-19 2016-10-05 现代自动车株式会社 提供可用停车位的车辆及其控制方法
US20180045535A1 (en) * 2016-08-10 2018-02-15 Samsung Electronics Co., Ltd. Method for providing parking location information of vehicle and electronic device thereof
CN108128245A (zh) * 2016-12-01 2018-06-08 通用汽车环球科技运作有限责任公司 车辆环境成像***及方法
CN108266033A (zh) * 2016-12-30 2018-07-10 现代自动车株式会社 自动停车***和自动停车方法
US20180364737A1 (en) * 2017-06-16 2018-12-20 Ford Global Technologies, Llc Mobile device initiation of vehicle remote-parking
CN109067925A (zh) * 2018-10-09 2018-12-21 北京智行者科技有限公司 一种远程遥控的泊车方法和***
CN109104502A (zh) * 2018-10-09 2018-12-28 北京智行者科技有限公司 一种远程遥控的泊车方法和***
CN109558957A (zh) * 2017-09-26 2019-04-02 通用汽车环球科技运作有限责任公司 选择车辆上车位置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6120371B2 (ja) * 2013-10-23 2017-04-26 クラリオン株式会社 自動駐車制御装置および駐車支援装置
US20160371983A1 (en) 2015-06-22 2016-12-22 Garmin Switzerland Gmbh Parking assist system and method
US9778341B2 (en) 2015-08-25 2017-10-03 International Business Machines Corporation Automatic indoor parking system using collaborative smartphone sensing
KR101850795B1 (ko) * 2015-11-09 2018-04-20 엘지전자 주식회사 주차 수행 장치 및 차량
US20170253237A1 (en) * 2016-03-02 2017-09-07 Magna Electronics Inc. Vehicle vision system with automatic parking function
US10606272B2 (en) 2016-07-20 2020-03-31 Hyundai Motor Company Method for guiding parking mode in remote automatic parking support system
US10308243B2 (en) 2016-07-26 2019-06-04 Ford Global Technologies, Llc Vehicle remote park assist with occupant detection
KR102463740B1 (ko) 2016-12-09 2022-11-07 현대자동차주식회사 자율주차보조장치 및 그의 주차 지원 방법
US10593212B2 (en) * 2017-06-12 2020-03-17 GM Global Technology Operations LLC Autonomous parking methods and systems for autonomous vehicles
US10747218B2 (en) * 2018-01-12 2020-08-18 Ford Global Technologies, Llc Mobile device tethering for remote parking assist

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105916758A (zh) * 2014-01-15 2016-08-31 罗伯特·博世有限公司 用于车辆的自主泊车的方法、用于执行所述方法的驾驶员辅助设备以及具有所述驾驶员辅助设备的车辆
CN105989744A (zh) * 2015-03-19 2016-10-05 现代自动车株式会社 提供可用停车位的车辆及其控制方法
CN105539430A (zh) * 2015-12-29 2016-05-04 北京理工大学 一种基于手持终端的人车交互智能泊车方法
US20180045535A1 (en) * 2016-08-10 2018-02-15 Samsung Electronics Co., Ltd. Method for providing parking location information of vehicle and electronic device thereof
CN108128245A (zh) * 2016-12-01 2018-06-08 通用汽车环球科技运作有限责任公司 车辆环境成像***及方法
CN108266033A (zh) * 2016-12-30 2018-07-10 现代自动车株式会社 自动停车***和自动停车方法
US20180364737A1 (en) * 2017-06-16 2018-12-20 Ford Global Technologies, Llc Mobile device initiation of vehicle remote-parking
CN109131313A (zh) * 2017-06-16 2019-01-04 福特全球技术公司 移动设备发起车辆远程停放
CN109558957A (zh) * 2017-09-26 2019-04-02 通用汽车环球科技运作有限责任公司 选择车辆上车位置
CN109067925A (zh) * 2018-10-09 2018-12-21 北京智行者科技有限公司 一种远程遥控的泊车方法和***
CN109104502A (zh) * 2018-10-09 2018-12-28 北京智行者科技有限公司 一种远程遥控的泊车方法和***

Also Published As

Publication number Publication date
US20200207333A1 (en) 2020-07-02
DE102019220048A1 (de) 2020-07-02
US10745002B2 (en) 2020-08-18

Similar Documents

Publication Publication Date Title
US10745002B2 (en) Autonomously guiding a vehicle to a desired parking location selected with a remote device
US11136022B2 (en) Road marker detection method
US10392009B2 (en) Automatic parking system and automatic parking method
EP3676161B1 (en) Automated parking for virtual parking spot
CN110831819B (zh) 泊车辅助方法以及泊车辅助装置
EP3343438A1 (en) Automatic parking system and automatic parking method
US20200117926A1 (en) Apparatus, method, and system for controlling parking of vehicle
US11334754B2 (en) Apparatus and method for monitoring object in vehicle
US20180107207A1 (en) Automatic parking system and automatic parking method
US11691619B2 (en) Automatic parking system and automatic parking method
JP6137081B2 (ja) 車載機器
EP3676752A1 (en) Information processing apparatus, information processing method, program, and movable object
US11485354B2 (en) Parking control method and parking control device
US20190135169A1 (en) Vehicle communication system using projected light
US10854084B2 (en) Parking control method and parking control device
JP6166249B2 (ja) 交通支援装置
US20190197322A1 (en) Obstacle Determination Method, Parking Support Method, Dispatch Support Method, and Obstacle Determination Device
KR20180007412A (ko) 멀티센서 기반의 융합형 물체 감지 장치 및 방법
JP2018531175A (ja) 自動車両を駐車するための駐車エリアを特定するための方法、運転者支援システム、及び自動車両
JP2015219721A (ja) 動作支援システム及び物体認識装置
US11981343B2 (en) Autonomous vehicle, control system for remotely controlling the same, and method thereof
US11702140B2 (en) Vehicle front optical object detection via photoelectric effect of metallic striping
US20230141584A1 (en) Apparatus for displaying at least one virtual lane line based on environmental condition and method of controlling same
CN116508083B (zh) 停车辅助方法及停车辅助装置
US20230251652A1 (en) Autonomous vehicle, method for requesting control remotely thereof

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination