JP6892464B2 - 自動運転車両に用いられる検知支援 - Google Patents

自動運転車両に用いられる検知支援 Download PDF

Info

Publication number
JP6892464B2
JP6892464B2 JP2019026741A JP2019026741A JP6892464B2 JP 6892464 B2 JP6892464 B2 JP 6892464B2 JP 2019026741 A JP2019026741 A JP 2019026741A JP 2019026741 A JP2019026741 A JP 2019026741A JP 6892464 B2 JP6892464 B2 JP 6892464B2
Authority
JP
Japan
Prior art keywords
adv
obstacle
interest
blind spot
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019026741A
Other languages
English (en)
Other versions
JP2019182402A (ja
Inventor
タオ、ジアミン
ジャン、リアンリアン
リ、ドン
ジアン、イーフェイ
フー、ジアンタオ
ヂュ、ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of JP2019182402A publication Critical patent/JP2019182402A/ja
Application granted granted Critical
Publication of JP6892464B2 publication Critical patent/JP6892464B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0223Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/003Transmission of data between radar, sonar or lidar systems and remote stations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • G05D1/024Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0257Control of position or course in two dimensions specially adapted to land vehicles using a radar
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/027Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising intertial navigation means, e.g. azimuth detector
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/0278Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/865Combination of radar systems with lidar systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9315Monitoring blind spots
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9316Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles combined with communication equipment with other vehicles or with base stations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9318Controlling the steering
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/93185Controlling the brakes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9319Controlling the accelerator
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9322Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles using additional data, e.g. driver condition, road state or weather data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9323Alternative operation using light waves

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本開示の実施形態は主に自動運転車両の操作に関する。具体的に、本開示の実施形態は、自動運転車両(ADV)に用いられる検知支援に関する。
自動運転モードで走行する(例えば、セルフドライビング)車両は、乗員、特に運転者を運転に関する幾つかの役割から解放可能である。車両は、自動運転モードで走行する場合に、車載センサにより各位置までナビゲーションされることにより、最も少ないヒューマンマシンインタラクションで、又は乗客が一人もいない状態などで運転することが可能になる。
自動運転車両のセンサシステムのみに依存すると、自動運転車両は、検知が非常に限られている。例えば、自動運転車両は、限られた距離内の周囲の環境を検出可能である。また、自動運転車両は、従来のセンサの技術によれば、異常の道路状況に対する検出漏れ、例えば、一時道路工事の領域に対する検出漏れが生じる恐れがある。
交差点に沿って検出する場合に、ADVが異なる方向における交通をモニターする必要があるため、状況は更に悪化する恐れがある。ADVはある角度と距離において、検知が限られているため、各種の障害物(例えば、ADVの付近における車両)によりADVの肝心な検知が妨げられる恐れがある。
本開示は、自動運転車両を操作するための方法、システム及び不揮発的な機器に読取可能な媒体を提供した。
本開示の一局面は、自動運転車両を操作するためのコンピュータ実施方法であって、前記自動運転車両に取り付けられた複数のセンサにより前記自動運転車両の周囲の運転環境を検知することと、検知された前記自動運転車両の周囲の運転環境に基いて盲点を認識することと、前記盲点が認識されたことに応じて、前記盲点から所定の距離内に設置された画像撮影装置から前記盲点がカバーされた画像を受信することと、前記画像に基いて前記自動運転車両の前記盲点における注目障害物を認識することと、前記盲点における前記注目障害物に基いて軌跡を生成して前記自動運転車両を前記注目障害物を回避するように制御することとを含む方法を提供する。
本開示の実施形態によれば、検知された前記自動運転車両の周囲の運転環境に基いて盲点を認識することは、前記自動運転車両のビューフィールドを特定することと、検知された運転環境に基いて一つ又は複数の障害物を特定することと、前記盲点を、前記ビューフィールドにおける、前記一つ又は複数の障害物により妨げられる一つ又は複数のビューとして認識することとを含む。
本開示の実施形態によれば、前記画像撮影装置には、交差点に取り付けられる一つ又は複数のカメラが含まれる。
本開示の実施形態によれば、前記一つ又は複数のカメラは、前記交差点において、一つ又は複数の交通流方向に取り付けられて、前記一つ又は複数の交通流方向において進入する車両をモニターする。
本開示の実施形態によれば、前記注目障害物には、車両、障害物及び歩行者の少なくとも一つが含まれる。
本開示の実施形態によれば、前記自動運転車両を前記注目障害物を回避するように制御することは、前記自動運転車両の通常操作まで回復される前に、前記注目障害物が前記自動運転車両のルートに位置しなくなるまで、前記自動運転車両を停止するように減速して待機することを含む。
本開示の実施形態によれば、前記注目障害物が存在すると、前記画像撮影装置から前記盲点がカバーされた後続画像を受信し、前記後続画像により前記注目障害物を追跡して前記注目障害物が前記自動運転車両の路線に位置するか否かを判定し、前記注目障害物が前記自動運転車両の路線に位置していると判定されると、検知された運転環境と前記盲点がカバーされた前記後続画像に基いて第二軌跡を生成して前記自動運転車両を前記注目障害物を回避するように制御する。
本開示の実施形態によれば、所定の時間帯に追跡された注目障害物と前記自動運転車両の軌跡とが重なると予測されると、前記注目障害物が前記自動運転車両の路線に位置する。
本開示の他の局面は、指令が記憶されている不揮発的な機器に読取可能な媒体であって、前記指令が一つ又は複数のプロセッサにより実行されると、前記一つ又は複数のプロセッサに、前記自動運転車両に取り付けられた複数のセンサにより前記自動運転車両の周囲の運転環境を検知することと、検知された前記自動運転車両の周囲の運転環境に基いて盲点を認識することと、前記盲点が認識されたことに応じて、前記盲点から所定の距離内に設置された画像撮影装置から前記盲点がカバーされた画像を受信することと、前記画像に基いて前記自動運転車両の前記盲点における注目障害物を認識することと、前記盲点における前記注目障害物に基いて軌跡を生成して前記自動運転車両を前記注目障害物を回避するように制御することとを含む操作を実行させる不揮発的な機器に読取可能な媒体を提供する。
本開示のもう一つの局面は、データ処理システムであって、一つ又は複数のプロセッサと、前記一つ又は複数のプロセッサに接続されて指令を記憶するメモリと、を備え、前記指令が前記一つ又は複数のプロセッサにより実行されると、前記一つ又は複数のプロセッサに、前記自動運転車両に取り付けられた複数のセンサにより前記自動運転車両の周囲の運転環境を検知することと、検知された前記自動運転車両の周囲の運転環境に基いて盲点を認識し、前記盲点が認識されたことに応じて、前記盲点から所定の距離内に設置された画像撮影装置から前記盲点がカバーされた画像を受信することと、前記画像に基いて前記自動運転車両の前記盲点における注目障害物を認識することと、前記盲点における前記注目障害物に基いて軌跡を生成して前記自動運転車両を前記注目障害物を回避するように制御することとを含む操作を実行させるデータ処理システムを提供する。
本開示の実施形態は、各図面において制限ではなく列挙的に示される。図面において同じ符号は類似の部品を示す。
一実施形態によるネットワークシステムを示したブロック図である。
一実施形態による自動運転車両の例示を示したブロック図である。
一実施形態による自動運転車両と共に使用される検知/計画システムの例示を示したブロック図である。 一実施形態による自動運転車両と共に使用される検知/計画システムの例示を示したブロック図である。
一実施形態による検知支援モジュールの例示を示したブロック図である。
幾つかの実施形態による、ADVが検知支援に用いられる画像を受信する場合のシナリオの例示を示したブロック図である。 幾つかの実施形態による、ADVが検知支援に用いられる画像を受信する場合のシナリオの例示を示したブロック図である。
一実施形態によるADVにより実行される方法を示したフローチャートである。
一実施形態によるADVにより実行される方法を示したフローチャートである。
一実施形態によるデータ処理システムを示したブロック図である。
以下に記載される詳細を参照して本開示の各実施形態と局面を説明する。図面に前記各実施形態が示される。下記の記載と図面は、本開示の説明であり、本開示に対する制限として解釈すべきではない。多くの特定の詳細を説明して本開示の各実施形態の全体的な理解を提供する。ところが、幾つかの場合には、本開示の実施形態に対する簡潔的な説明を提供するために、周知又は常用の詳細が説明されていない。
本明細書において「一実施形態」又は「実施形態」を言及することは、当該実施形態に説明された特定的な特徴、構成又は特性を組合わせて本開示の少なくとも一つの実施形態に含ませることが可能であると意味する。単語である「一実施形態において」は、本明細書の各箇所での出現が全て同一の実施形態を指すことではない。
幾つかの実施形態によれば、自動運転車両(ADV)に用いられる検知支援は、リアルタイムな交通状況を検出する場合にADVの検知システムを支援し又は強化する。
一局面によれば、ADVシステムは、ADVに取り付けられた複数のセンサによりADVの周囲の運転環境を検出する。システムは検知されたADVの周囲の運転環境に基いて盲点を認識する。システムは盲点が認識されたことに応じて、盲点から所定の距離内に設置された画像撮影装置から盲点を有する画像を受信する。幾つかの実施形態において、システムは、画像撮影装置に通信接続されたリモートサーバから、盲点を有する画像を受信する。システムは画像に基いてADVの盲点における注目障害物を認識する。その後に、システムは盲点における注目障害物に基いて軌跡を生成してADVが注目障害物を回避するように制御する。
他の局面によれば、注目障害物が存在する場合に、システムは画像撮影装置から盲点を有する後続画像を受信する。システムは後続画像により注目障害物を追跡することにより、注目障害物がADVの路線に位置しているか否かを判定する。注目障害物がADVの路線に位置していると判定されると、システムは検知された運転環境と盲点を有する後続画像とに基いて、第二軌跡を生成して、ADVが注目障害物を回避するように制御する。
図1は、本開示の一実施形態による自動運転車両のネットワーク構成を示したブロック図である。図1を参照すると、ネットワーク構成100には、ネットワーク102を介して一つ又は複数のサーバ103〜104に通信接続される自動運転車両101が備えられる。一つの自動運転車両が示されたが、複数の自動運転車両がネットワーク102を介して互いに接続され、及び/又はサーバ103〜104に接続可能である。ネットワーク102は、任意のタイプのネットワーク、例えば、有線又は無線のローカルエリアネットワーク(LAN)、インターネットのようなワイドエリアネットワーク(WAN)、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせであっても良い。サーバ103〜104は、任意のタイプのサーバ又はサーバグループ、例えば、ネットワーク又はクラウドサーバ、アプリサーバ、バックエンドサーバ又はそれらの組み合わせであっても良い。サーバ103〜104は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図/興味点(MPOI)サーバ又は位置サーバなどであっても良い。
自動運転車両は、自動運転モードとして配置可能な車両であり、前記自動運転モードにおいて運転者からの入力が非常に少なく又はない場合に車両がナビゲーションで環境を通過する。このような自動運転車両はセンサシステムを備えても良い。前記センサシステムは、車両の走行環境に関する情報を検出するように配置される一つ又は複数のセンサを備える。前記車両と関連するコントローラとは検出された情報を使用して前記環境をナビゲーションで通過する。自動運転車両101は、手動モード、オートマチック運転モード、又は一部の自動運転モードにおいて走行することができる。
一実施形態において、自動運転車両101には、検知/計画システム110と、車両制御システム111と、無線通信システム112と、ユーザインターフェースシステム113と、センサシステム115とが含まれるが、それらに限定されない。自動運転車両101には、通常の車両に備えられている幾つかの常用的な部品、例えばエンジン、車輪、ハンドル、変速機などが更に備えられても良い。前記部品は、車両制御システム111及び/又は検知/計画システム110により複数種の通信信号及び/又は指令を使用して制御可能である。当該複数種の通信信号及び/又は指令は、例えば、加速信号又は指令、減速信号又は指令、操舵信号又は指令、ブレーキ信号又は指令などである。
部品110〜115は、インターコネクタ、バス、ネットワーク或いはそれらの組み合わせにより互いに通信接続することができる。例えば、部品110〜115は、コントローラローカルエリアネットワーク(CAN)バスを介して互いに通信接続することができる。CANバスは、マイクロコントローラと装置がホストコンピュータのないアプリにおいて互いに通信することを許すように設定される車両バス基準である。それは最初に車両内におけるマルチプレックス電気配線のために設計された、メッセージによるプロトコルであるが、他の環境にも広く用いられる。
ここで図2を参照し、一実施形態において、センサシステム115は一つ又は複数のカメラ211、グローバルポジションシステム(GPS)ユニット212、慣性測定ユニット(IMU)213、レーダユニット214及び光学探測/距離測定(LIDAR)ユニット215を含むが、それらに限定されない。GPSシステム212は送受信機を含むことができる。前記送受信機は、操作により自動運転車両の位置に関する情報を提供可能である。IMUユニット213は慣性加速度に基いて自動運転車両の位置及び方位変化を探測することができる。レーダユニット214は、無線電気信号を利用して自動運転車両のローカル環境におけるオブジェクトを検知するシステムとして表すことができる。幾つかの実施形態において、オブジェクトの検知以外、レーダユニット214は、付加的にオブジェクトの速度及び/又は進行方向も検知することができる。LIDARユニット215は、レーザを使用して自動運転車両の位置する環境におけるオブジェクトを検知することができる。他のシステム部品以外に、LIDARユニット215は更に一つ又は複数のレーザ光源、レーザスキャナ及び一つ又は複数の検出器を含んでも良い。カメラ211は、自動運転車両の周囲環境の画像を採集する一つ又は複数の装置を含んでも良い。カメラ211は静止物カメラ及び/又はビデオカメラであっても良い。カメラは機械的に移動できるものであっても良く、例えば、カメラを回転的及び/又は傾斜的な仕事台に装着することができる。
センサシステム115には、他のセンサ、例えばソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ及びラジオセンサ(例えば、マイクロフォン)が含まれても良い。ラジオセンサは、自動運転車両の周囲の環境から音声を取得するように配置されても良い。ステアリングセンサはハンドル、車両の車輪又はそれらの組み合わせの操舵角を検出するように配置されても良い。スロットルセンサとブレーキセンサはそれぞれ車両のスロットル位置とブレーキ位置を検出する。ある場合に、スロットルセンサとブレーキセンサは集積型のスロットル/ブレーキセンサとして集積されても良い。
一実施形態において、車両制御システム111はステアリングユニット201、スロットルユニット202(加速ユニットとも呼ばれる)とブレーキユニット203を含むが、それらに限定されない。ステアリングユニット201は車両の方向又は進行方向を調整するために用いられる。スロットルユニット202は電動機又はエンジンの速度を制御するために用いられ、電動機又はエンジンの速度により更に車両の速度と加速度を制御するために用いられる。ブレーキユニット203は、摩擦を提供して車両の車輪又はタイヤを減速させることにより車両を減速させる。注意すべきなのは、図2に示された部品はハードウェア、ソフトウェア或いはそれらの組み合わせで実施することができる。
図1に戻し、無線通信システム112は、自動運転車両101と装置、センサ、他の車両などのような外部システムとの通信を許す。例えば、無線通信システム112は、一つ又は複数の装置と直接的に無線通信しても良く、或いは通信ネットワークを経由して無線通信し、例えばネットワーク102を経由してサーバ103〜104と通信しても良い。無線通信システム112は、如何なるセルラー通信ネットワーク又は無線ローカルエリアネットワーク(WLAN)、例えばWiFi(登録商標)を使用して他の部品又はシステムと通信することができる。無線通信システム112は、例えば赤外線リンク、ブルートゥース(登録商標)などを使用して装置(例えば、乗客の携帯装置、表示装置、車両101内のスピーカ)と直接的に通信する。ユーザインターフェースシステム113は、車両101内に実施される周辺機器の部分であっても良く、例えばキーボード、タッチパネル表示装置、マイクロフォン及びスピーカなどを含む。
自動運転車両101は、特に自動運転モードで操作される場合に、その機能のうちの一部又は全部が、検知/計画システム110により制御し又は管理することができる。検知/計画システム110は、センサシステム115、制御システム111、無線通信システム112及び/又はユーザインターフェースシステム113から情報を受信し、受信された情報を処理し、開始点からオブジェクト点までの路線又はルートを計画した後に、計画と制御情報に基づいて車両101を運転するように、必要なハードウェア(例えば、プロセッサ、メモリ、記憶デバイス)とソフトウェア(例えば、操作システム、計画と路線設定プログラム)を含む。その代わりに、検知/計画システム110は車両制御システム111と一体に集積されても良い。
例えば、乗客であるユーザは、例えばユーザインターフェースを介してトリップの開始位置と目的地を指定することができる。検知/計画システム110はトリップに関連するデータを取得する。例えば、検知/計画システム110は、MPOIサーバから位置と路線情報を取得することができる。前記MPOIサーバはサーバ103〜104の一部であっても良い。位置サーバは位置サービスを提供し、MPOIサーバは地図サービスとある位置のPOIを提供する。その代わりに、このような位置とMPOI情報は、ローカルで検知/計画システム110の非揮発的な記憶装置にキャッシュされても良い。
自動運転車両101が路線に沿って移動している場合に、検知/計画システム110は交通情報システム又はサーバ(TIS)からリアルタイムの交通情報を取得することもできる。注意すべきなのは、サーバ103〜104は第三者のものに操作されても良い。その代わりに、サーバ103〜104の機能は検知/計画システム110と一体に集積されても良い。検知/計画システム110は、リアルタイム交通情報、MPOI情報と位置情報、及びセンサシステム115により検出され又は検知されるリアルタイムのローカル環境データ(例えば、障害物、オブジェクト、付近の車両)に基いて、最適な路線を計画し且つ計画された路線に従って、例えば制御システム111を介して車両101を運転することにより、所定の目的地まで安全的且つ効率的に到達可能である。
サーバ103は、各種のクライアントに対してデータ解析サービスを実行するデータ解析システムであっても良い。一実施形態において、データ解析システム103は、データ採集器121と、機器学習エンジン122とを含む。データ採集器121は、複数種の車両(自動運転車両又は人間の運転者により運転される通常の車両)から運転統計データ123を採集する。運転統計データ123には、配布される運転指令(例えば、スロットル指令、ブレーキ指令、操舵指令)を示す情報及び異なるタイミングで車両のセンサにより採集される車両の応答(例えば、速度、加速、減速、方向)を示す情報が含まれる。運転統計データ123は更に、異なるタイミングにおける運転環境を記述する情報、例えば、路線(出発位置と目的地の位置を含む)、MPOI、天気状況、道路状況(例えば、高速道路における徐行、渋滞、交通事故、道路工事、一時迂回、未知の障害物など)を含んでも良い。
機器学習エンジン122は、各種の目的のために、運転統計データ123に基いてルールセット、アルゴリズム及び/又は、構成モデル及び/又は処理モデルを含む予測モデル124を生成し訓練することにより、撮影画像のソース又は位置(例えば、画像撮影装置の取付位置)に基づいて撮影画像を構成し処理する。モデル124は、更にどのぐらい繰り上げて撮影画像をADVへ送信し始めるかについてモデルを予測して構築することができる。例えば、モデル124は、ADVが低速道路における交差点から10メートル手前の環境を検知可能となり、高速道路における交差点から50メートル手前の環境を検知可能となるために、撮影画像をADVへ送信する方がよいと判定することが可能である。予測モデルはADVの車両モデルに依存可能である。例えば、異なる車両モデルは、異なる距離の長さ以内に停止することができる。他の実施形態において、各ADVは、まず複数の画像撮影装置との距離が所定の距離内(画像撮影装置の位置を予めADVにロードしても良い)であるか否かを判定することにより、画像要求を送信するタイミングを特定することができる。ADVが画像撮影装置の所定の距離内にあると判定されると、特定の撮影装置からの画像を要求する。検知支援サービス125は、ADVが一つ又は複数の撮影装置(例えば、街道カメラ)から撮影画像を要求し受信できるように、アプリケーションインターフェース(API)を介してADVと無線通信することができる。他の実施形態において、ADVはネットワークを介して一つ又は複数の撮影装置と直接に通信することができる。
図3Aと図3Bは、一実施形態による自動運転車両と共に使用される検知/計画システムの例示を示したブロック図である。システム300は、図1の自動運転車両101の一部として実施されても良く、検知/計画システム110、制御システム111とセンサシステム115を含むが、それらに限定されない。図3A〜図3Bを参照し、検知/計画システム110には、ポジショニングモジュール301、検知モジュール302、予測モジュール303、決定モジュール304、計画モジュール305、制御モジュール306、路線設定モジュール307、検知支援モジュール308、及び画像処理エンジン309が含まれるが、それらに限定されない。
モジュール301〜309のうち一部又は全部は、ソフトウェア、ハードウェア或いはそれらの組み合わせで実施されても良い。例えば、これらのモジュールは、非揮発的な記憶装置352にインストールされ、又はメモリ351にロードされ、且つ一つ又は複数のプロセッサ(図示しない)により実行されても良い。注意すべきなのは、これらのモジュールのうち一部又は全部は、図2の車両制御システム111の一部又は全部のモジュールに通信可能に接続され、或いはそれらと一体に集積されても良い。モジュール301〜309のうち一部は、一体に集積モジュールとして集積可能である。
ポジショニングモジュール301は、自動運転車両300の現在位置を特定し(例えば、GPSユニット212を利用する)、ユーザのトリップ又は路線に関する如何なるデータを管理する。ポジショニングモジュール301(地図/路線モジュールと呼ばれる)はユーザのトリップ又は路線に関連する如何なるデータを管理する。ユーザは例えばユーザインターフェースを経由して登録してトリップの開始位置と目的地を指定することができる。ポジショニングモジュール301は自動運転車両300における地図と路線情報311のような他の部品と通信してトリップに関するデータを取得する。例えば、ポジショニングモジュール301は位置サーバと地図/POI(MPOI)サーバから位置と路線情報を取得することができる。位置サーバは位置サービスを提供し、MPOIサーバは地図サービスとある位置のPOIを提供する。これらは地図と路線情報311の一部としてキャッシュされることができる。自動運転車両300が路線に沿って移動する際に、ポジショニングモジュール301は交通情報システム又はサーバからリアルタイムな交通情報を取得することもできる。
検知モジュール302は、センサシステム115により提供されたセンサデータと、ポジショニングモジュール301により取得されたポジショニング情報に基づいて、周囲の環境への検知を特定する。検知情報は、通常のドライバーがドライバーにより運転されている車両周囲において検知すべきものを示すことができる。検知は、例えばオブジェクトの形を採用する車線配置(例えば、直線車線又はカーブ車線)、信号機信号、他の車両の相対位置、歩行者、建築、横断歩道又は他の交通関連標識(例えば、停止標識、譲り標識)などを含むことができる。
検知モジュール302は、一つ又は複数のカメラにより採集される画像を処理し解析して自動運転車両の環境におけるオブジェクト及び/又は特徴を識別するように、コンピュータ視覚システム又はコンピュータ視覚システムの機能を含むことができる。前記オブジェクトは、交通信号、道路の境界、他の車両、歩行者及び/又は障害物などを含むことができる。コンピュータ視覚システムは、オブジェクト識別アルゴリズム、ビデオトラッキング及び他のコンピュータ視覚技術を使用することができる。幾つかの実施形態において、コンピュータ視覚システムは、環境地図を描画し、オブジェクトを追跡し、及びオブジェクトの速度などを推定することができる。検知モジュール302は、レーダ及び/又はLIDARのような他のセンサにより提供される他のセンサデータに基いてオブジェクトを検出することもできる。
オブジェクトごとについて、予測モジュール303はこの場合にオブジェクトがどのように動くかを予測する。前記予測は地図と路線情報311と交通ルール312のセットにより当該タイミングで運転環境が検知された検知データにより実行される。例えば、オブジェクトが反対の方向における車両であって且つ現在の運転環境に交差点が含まれている場合に、予測モジュール303は車両が直進し、又は曲がる可能性を予測する。検知データにより交差点において信号機がないと示された場合に、予測モジュール303は、車両が交差点に入る前に完全に停車する必要があると予測可能である。検知データにより車両が現在に左折車線又は右折車線に位置すると示された場合に、予測モジュール303は車両が左折又は右折の可能性が大きいと予測可能である。
オブジェクトごとに対して、決定モジュール304はオブジェクトをどのように処置するかについての決定を下す。例えば、特定のオブジェクト(例えば、交差の路線における他の車両)及びオブジェクトを描画するメタデータ(例えば、速度、方向、操舵角度)について、決定モジュール304は前記オブジェクトとどのように出会うか(例えば、追い越し、譲り、停止、追い抜き)を決定する。決定モジュール304は交通ルール又は運転ルール312のルールセットに基づいてこのような決定を下すことができる。前記ルールセットは非揮発的な記憶装置352に記憶されても良い。
路線設定モジュール307は、起点から終点までの一つ又は複数の路線又はルートを提供するように配置される。(例えばユーザから受け取られた)開始位置からオブジェクト位置までの所定のトリップについて、路線設定モジュール307は路線/地図情報311を取得し、開始位置からオブジェクト位置までの全ての走行可能な路線又はルートを特定する。路線設定モジュール307は、地形図において、特定された開始位置からオブジェクト位置までの各路線に対して基準線を生成することができる。基準線は、例えば他の車両、障碍物又は交通状況からの干渉を受けない理想的な路線又はルートである。つまり、道路において他の車両、歩行者又は障害物がない場合に、ADVは基準線に従って精確的に又は緊密的に追随すべきである。そして、地形図を決定モジュール304及び/又は計画モジュール305に提供する。決定モジュール304及び/又は計画モジュール305は、他のモジュールにより提供された他のデータ(例えばポジショニングモジュール301からの交通状況、検知モジュール302により検知された運転環境及び予測モジュール303により予測された交通状況)に応じて、全ての走行可能な路線を検査して最適路線のうちの何れか一つを選択し更新する。タイミングにおける特定の運転環境によっては、ADVを制御するための実際のルート又は路線は、路線設定モジュール307から提供された基準線と異なり又は近い可能性がある。
計画モジュール305は、検知されたオブジェクトのそれぞれに対する決定に基づいて、路線設定モジュール307により提供された基準線を基礎として、自動運転車両に対してルート又は路線及び運転パラメータ(例えば、距離、速度及び/又は操舵角度)を計画する。つまり、所定のオブジェクトについて、決定モジュール304は当該オブジェクトに対してなにをするかを決定し、計画モジュール305はどのようにするかを決定する。例えば、所定のオブジェクトについて、決定モジュール304は前記オブジェクトを追い越すことを決定することができ、計画モジュール305は前記オブジェクトの左側か右側に追い越すことを決定することができる。計画/制御データは、計画モジュール305により生成され、車両300が次の移動循環(例えば、次の路線/経路区間)においてどのように移動するかを描画する情報を含む。例えば、計画/制御データは、車両300が30マイル/時間(mph)の速度で10メートルだけ移動し、その後に25mphの速度で右側の車線に変更するように指示することができる。
制御モジュール306は、計画/制御データに基づいて、計画/制御データにより限定された路線又はルートに応じて適当な指令又は信号を車両制御システム111に送信することにより自動運転車両を制御し運転する。前記計画/制御データは、ルート又は路線に沿って異なるタイミングで適当な車両設置又は運転パラメータ(例えば、スロットル、ブレーキと操舵指令)を使用することにより車両を路線又はルートの第一の点から第二の点まで運転するように十分な情報を有する。
一実施形態において、複数の計画周期(指令周期とも呼ばれる)(例えば、時間間隔が100ミリ秒(ms)である)において計画期間を実行する。各計画周期又は指令周期ごとに、計画データと制御データに基いて一つ又は複数の制御指令を送信する。つまり、100ms毎に、計画モジュール305は、例えば、オブジェクト位置とADVがオブジェクト位置まで所要の時間を含み、次の路線区間又は経路区間を計画する。その代わりに、計画モジュール305は更に具体的な速度、方向及び/又は操舵角などを規定することもできる。一実施形態において、計画モジュール305は、次の予定時間帯(例えば5秒)に対して路線区間又は経路区間を計画する。計画モジュール305は各計画周期に対し、前の周期において計画されたオブジェクト位置に基いて現在の周期(例えば、次の5秒)に用いるオブジェクト位置を計画する。そして、制御モジュール306は、現在の周期における計画データと制御データに基いて一つ又は複数の制御指令(例えば、スロットル、ブレーキ、操舵の制御指令)を生成する。
注意すべきなのは、決定モジュール304と計画モジュール305は、集積モジュールとして集積することができる。決定モジュール304/計画モジュール305は、自動運転車両の運転ルートを特定するように、ナビゲーションシステム又はナビゲーションシステムの機能を具備することができる。例えば、ナビゲーションシステムは、自動運転車両が下記のルートに沿って移動することを実現する一連の速度と進行方向を特定することができる。前記ルートは、自動運転車両を最終の目的地まで走行させる車線によるルートに沿って進行させると共に、基本的に検知された障害物を回避する。目的地は、ユーザインターフェースシステム113を経由して行われたユーザ入力に基づいて設定されても良い。ナビゲーションシステムは自動運転車両が運転していると同時に動的に運転ルートを更新することができる。ナビゲーションシステムは、自動運転車両のための運転ルートを特定するように、GPSシステムと一つ又は複数の地図からのデータを合併することができる。
決定モジュール304/計画モジュール305は、自動運転車両の環境における潜在の障害物を、識別、推定及び回避、或いは他の手段により越えるように、更に衝突回避システム又は衝突回避システムの機能を具備する。例えば、衝突回避システムは、以下の手段で自動運転車両のナビゲーションにおける変化を実現することができる。即ち、操作制御システム111のうち一つ又は複数のサブシステムは操舵操作、回転操作、制動操作などを採用する。衝突回避システムは、周囲の交通モード、道路状況などに基いて自動的に実現可能な障害物回避操作を特定することができる。衝突回避システムは、他のセンサシステムにより自動運転車両が方向変更して進入しようとする隣接領域における車両や、建築障害物などが検出された時に操舵操作を行わないように配置することができる。衝突回避システムは、使用可能で且つ自動運転車両の乗員の安全性を最大化させる操作を自動的に選択することができる。衝突回避システムは、自動運転車両の車室に最小値の加速度が発生させるように予測される回避操作を選択することができる。
一実施形態によれば、検知支援モジュール308は、インターフェースを提供して一つ又は複数の撮影装置(例えば、街道カメラ321)から道路及び/又は交差点におけるリアルタイム画像を要求し受信する。幾つかの実施形態において、一つ又は複数の撮影装置は街道及び/又は交通カメラであっても良い。そして、画像処理エンジン309により受信されたリアルタイム画像(例えば、撮影画像313)を処理して注目のオブジェクト及び/又は特徴を認識することができる。画像処理エンジン309は、車線配置(例えば、直線又は曲線車線)、信号機、車両、歩行者、建築、横断歩道又は他の交通標識(例えば、停止標識、譲り標識)などに対して、例えば、オブジェクト及び/又は特徴として撮影画像を処理することにより、ADVの検知モジュール302により検知された、又は検知すべき内容を強化することができる。画像処理エンジン309は、コンピュータ視覚システム又はコンピュータ視覚システムの機能を備えて撮影画像313を処理/解析し、オブジェクト認識アルゴリズム、ビデオ追跡及び、例えばエッジ検出アルゴリズムの他のコンピュータ視覚技術を使用して例えば移動オブジェクトの注目オブジェクト及び/又は特徴を認識することができる。画像処理エンジン309及び/又は検知支援モジュール308は、単一のモジュールとして検知モジュール302と集積されても良く、独立のモジュールであっても良い。
図4は、一実施形態による検知支援モジュールの例示を示したブロック図である。図4を参照し、検知支援モジュール308は、撮影画像を要求し受信して検知モジュール302により観察された環境を強化し、例えば、撮影画像を検知モジュール302により観察された内容に追加することができる。検知支援モジュール308には、画像受信装置401と、盲点認識装置モジュール403と、障害物認識装置モジュール405と、障害物追跡モジュール407とが備えられても良い。画像受信装置401は、撮影画像及び/又はビデオ入力、例えば連続的なビデオ画像ストリームを受信することができる。盲点認識装置モジュール403は、ADVの一つ又は複数の盲点を認識することができる。障害物認識装置モジュール405は、撮影画像及び/又は画像処理エンジン309により認識されたオブジェクトに基いて注目障害物を認識することができる。障害物追跡モジュール407は、注目障害物を追跡し及び/又はトレースすることにより、将来のある時の所定の時間帯におけるそれらの位置を予測することができる。一実施形態において、検知支援モジュール308は、無線通信インターフェース411に接続されて検知支援サービス125と通信することにより、例えば街道カメラ321の撮影装置に画像を要求し、当該撮影装置から画像を受信する。他の実施形態において、無線通信インターフェース411は、ネットワークを介して撮影装置と直接に通信可能である。他の実施形態において、無線通信インターフェース411は、街道カメラ321にアクセスする第三者のプロバイダー(例えば、交通コントローラ555)と通信することができる。他の実施形態において、無線通信インターフェース411は、検知支援サービス125及び/又は交通コントローラ555により街道カメラ321と通信可能である。
図5A〜図5Bは、幾つかの実施形態による、ADVが検知支援に用いられる画像を受信する場合のシナリオの例示を示したブロック図である。図5A〜図5Bを参照し、当該シナリオにおいて、ADV101が交差点へ近づいている。交差点において一つ又は複数の街道カメラ321が備えられる。街道カメラ321は、ADV検知に用いられる交通カメラ又は専用カメラであっても良い。一実施形態において、街道カメラ321には、周囲のオブジェクト及び/又は特徴を良く認識できるように深さ情報を検知するように設置されるステレオカメラが含まれる。他の実施形態において、街道カメラ321には単眼カメラが備えられる。一実施形態において、街道カメラ321は、各交通方向に向ける(例えば、四つの方向の交差点に用いられる四つのカメラ取付箇所)ように取り付けられる。他の実施形態において、360度に亘る視野を有するカメラが交差点に設置し取り付けられる。
一実施形態において、ADV101が道路区間及び/又は交差点へ近づくと、検知支援モジュール308は街道カメラ321へ道路区間及び/又は交差点の撮影画像を要求して検知支援を行うことができる。そして、受信された撮影画像は、ADV101の検知モジュール302により観察されていない内容が強化することができる。
他の実施形態において、ADV101に一つ又は複数の盲点があると判定された場合のみ、ADV101は街道カメラ321へ検知支援を要求する。例えば、図5A〜図5Bを参照し、ADVが側面の車両(例えば、障害物501)により妨げられる。盲点認識装置モジュール403は、障害物501により盲点503が形成されたと認識することができる。盲点認識装置モジュール403は、ADVのビューフィールドを(例えば、ADVにおける動作センサの視野に基づいて)特定し、それから、ADVにより検知された一つ又は複数の障害物(例えば、障害物501)があると判定した後、盲点(例えば、盲点503)を、一つ又は複数の障害物(例えば、障害物501)により妨げられたビューフィールドの一つ又は複数のビューとして認識することより、障害物を認識することができる。障害物501によりADV101による盲点503の情報の収集が妨げられたため、検知支援モジュール308は、街道カメラ321へ周囲の環境に関する撮影画像(例えば、盲点503をカバーする画像)を要求して盲点503の任意の欠如情報を補充することができる。
一実施形態において、検知支援モジュール308に例えばカメラ標識子IDのような街道カメラ情報が予めロードされているため、検知支援モジュール308はカメラID(例えば、異なる交差点の取付箇所におけるカメラID)により撮影画像を要求することができる。他の実施形態において、検知支援モジュール308は、検知支援サービス125及び/又は交通コントローラ555により検知支援(図5Bに示されたように)を要求することができる。一実施形態において、検知支援モジュール308は、ADV101の現在の地理位置、検知支援サービス125及び/又は検知支援サービス125のために用いられる交通コントローラ555への要求を提供してADV101の地理位置に関する任意のカメラIDを特定することができる。カメラIDが特定されると、検知支援サービス125及び/又は交通コントローラ555は、続いて街道カメラ321により撮影されたリアルタイム画像又はビデオ画像をADV101の検知支援モジュール308へ送信することができる。
ADV101により撮影された画像又はビデオ画像が受信されると、画像処理エンジン309は撮影画像を処理して画像におけるオブジェクト及び/又は特徴を認識する。一実施形態において、画像におけるオブジェクト及び/又は特徴は、検知モジュール302により観察された、或いは観察されていない内容により強化されても良い。他の実施形態において、検知モジュール302からのオブジェクトにより、盲点(例えば、盲点503)に対応する画像における認識されるオブジェクト及び/又は特徴が強化される。障害物認識装置モジュール405は、盲点におけるオブジェクトにより、任意のオブジェクト及び/又は特徴がADVの注目障害物のタイプに属するか否かを認識することができる。ADVの注目障害物は、ADVの現在の計画軌跡のルートと交差可能な任意の移動又は非移動のオブジェクトとして定義可能である。注目障害物は、歩行者、車両、自転車、バイクと任意の移動物体であっても良い。オブジェクトがADVの計画軌跡のルート507へ近づいている場合に、或いはADVの計画軌跡がオブジェクトへ近づいている場合に、オブジェクトがルートと交差する。例えば、図5A〜図5Bを参照し、交通に進入する歩行者511と車両513は第一撮影画像に出現する。第一撮影画像に続く第二撮影画像(受信された画像がビデオストリームにおける複数の画像であっても良い)は歩行者511と車両513をADV101の現在のルート507に向けており且つ最終的に通過する移動オブジェクトとして認識することができる。そして、障害物認識装置モジュール405は歩行者511と車両513を注目障害物として認識する。
注目障害物が認識されると、障害物追跡モジュール407はこれらの障害物を追跡することができる。例えば、障害物追跡モジュール407は画像撮影装置から盲点を有する後続画像又はビデオを受信する。障害物追跡モジュール407は後続画像を使用してこれらの注目障害物を継続して追跡し又はモニターすることにより、注目障害物のそれぞれがADVの路線に位置するか否か、例えば、ADVの現在の計画軌跡(地点と時間)に一致するか否かを判定する。歩行者511と車両513がADV101の路線に位置すると判定されると、障害物追跡モジュール407は、決定モジュール304と計画モジュール305が検知された運転環境と盲点を有する後続画像に基づいて第二軌跡を計画してADVを歩行者511と車両513を回避するように制御するように、決定モジュール304と計画モジュール305に通知することができる。他の実施形態において、歩行者511と車両513がADV101の路線に存在すると判定されると、障害物追跡モジュール407は、ADVの通常操作が回復する前に、ADVを単純に停止まで減速させるとともに、追跡された障害物がADVの路線に位置しなくなるまで(例えば、歩行者511が既に横断歩道を通過しており、且つ車両513が既に交差点を通過した、或いは減速して交差点に停止したようになるまで)ADVを待機させることができる。
他の実施形態において、検知支援モジュール308により受信される撮影画像は、検知モジュール302がオブジェクト及び/又は特徴(例えば、歩行者511と車両513)の撮影画像を処理するように、検知モジュール302に転送されても良い。そして、検知モジュール302は、歩行者511と車両513がADVの路線に出現するか否かを予測するように予測モジュール303をトリガーすることができる。これにより、決定モジュール304と計画モジュール305は、これらの情報と盲点情報を有する任意の後続画像に基づいて第二軌跡を計画してADVを歩行者511と車両513を回避するように制御することができる。
図6は一実施形態による、ADVにより実行される方法を示したフローチャートである。手順600は処理ロジックにより実行可能である。処理ロジックにはソフトウェア、ハードウェア又はそれらの組合せが含まれても良い。例えば、手順600は図3Aの検知支援モジュール308により実行可能である。図6を参照し、ブロック601において、処理ロジックは、ADVに取り付けられた複数のセンサによりADVの周囲の運転環境を検知する。ブロック602において、処理ロジックは検知されたADVの周囲の運転環境に基づいて盲点を認識する。ブロック603において、処理ロジックは、盲点が認識されたことに応じて、盲点から所定の距離内に設置された画像撮影装置から盲点を有する画像を受信する。ブロック604において、処理ロジックは画像に基づいてADVの盲点における注目障害物を認識する。ブロック605において、処理ロジックは盲点における注目障害物に基づいて軌跡を生成して、ADVが注目障害物を回避するように制御する。
一実施形態において、検知されたADVの周囲の運転環境に基づいて盲点を認識することは、ADVのビューフィールドを特定し、検知された運転環境に基づいて一つ又は複数の障害物を特定し、盲点をビューフィールドにおける一つ又は複数の障害物により妨げられる一つ又は複数のビューとして認識することを含む。一実施形態において、画像撮影装置には交差点に取り付けられる一つ又は複数のカメラが備えられる。他の実施形態において、一つ又は複数のカメラは、一つ又は複数の交通流の方向において交差点に取り付けられることにより、これらの方向において進入する車両をモニターする。
一実施形態において、注目障害物には、車両、障害物と歩行者の少なくとも一つが備えられる。一実施形態において、ADVが注目障害物を回避するように制御することは、ADVの通常操作が回復される前に、ADVを停止まで減速させてるとともに、障害物がADVの路線に位置しなくなるまで、ADVを待機させることを含む。
図7は一実施形態によるADVにより実行される方法を示したフローチャートである。手順700は処理ロジックにより実行可能である。処理ロジックは、ソフトウェア、ハードウェア又はそれらの組合せを含んでも良い。例えば、手順700は図3Aの検知支援モジュール308により実行可能である。図7を参照し、ブロック701において、処理ロジックは注目障害物があるか否かを判定する。肯定の場合に、ブロック702において、処理ロジックは画像撮影装置から盲点を有する後続画像を受信する。ブロック703において、処理ロジックは後続画像により注目障害物を追跡して注目障害物がADVの路線に位置するか否かを判定する。ブロック704において、注目障害物がADVの路線に位置していると判定されると(例えば、ADVの現在の計画軌跡と交差する)、処理ロジックは検知された運転環境と盲点を有する後続画像に基づいて第二軌跡を生成して、ADVが注目障害物を回避するように制御する。
注意すべきなのは、いままで示され説明された部品における一部又は全部がソフトウェア、ハードウェア又はそれらの組み合わせで実施可能である。例えば、このような部品は非揮発的な記憶装置にインストールされ記憶されるソフトウェアとして実施可能である。前記ソフトウェアは、プロセッサ(図示しない)によりメモリにロードされてメモリに実行されることにより本開示の全文に記述されたプロセス又は操作を実施することができる。その代わりに、このような部品は、専用ハードウェア(例えば、集積回路(例えば、専用集積回路又はASIC)、デジタル信号プロセッサ(DSP)或いはフィールドプログラマブルゲートアレイ(FPGA))にプログラミングされ、或いは組み込まれた実行可能なコードとして実施可能である。前記実行可能なコードは、アプリからの相応するドライブプログラム及び/又は操作システムを介してアクセス可能である。また、そのような部品はプロセッサ又はプロセッサのコアにおける特定なハードウェアロジックとして実施され、ソフトウェア部品により一つ又は複数の特定なコマンドを介してアクセスされるコマンドセットの一部とすることができる。
図8は本発明の一実施形態と共に使用可能なデータ処理システムの例示を示したブロック図である。例えば、システム1500は、以上で説明された前記プロセス又は方法の何れか一つを実行する如何なるデータ処理システム、例えば、図1の検知/計画システム110、検知支援サービス125、又はサーバ103〜104のうちの何れか一つを示すことができる。システム1500は異なる部品を多く具備することができる。これらの部品は、集積回路(IC)、集積回路の一部、独立な電子装置又はプリント基板(例えば、コンピュータシステムのマザーボード又はインサートカード)に適用される他のモジュールとして実行可能、或いは他の方式でコンピュータシステムのフレームに設置される部品として実施可能である。
注意すべきなのは、システム1500はコンピュータシステムの複数の部品のハイレベルビューを示すことが意図される。理解すべきなのは、幾つかの実施例に付加的な部品を具備しても良く、また他の実施例に示された部品の異なる配置を具備しても良い。システム1500は、デスクトップコンピュータ、ノードパソコン、タブレット、サーバ、モバイルフォン、メディアプレーヤ、パーソナルデジタルアシスタント(PDA)、スマート腕時計、パーソナル通信機、ゲーム装置、ネットワークルータ又はハブ、無線アクセスポイント(AP)又はリピータ、セットトップボックス或いはそれらの組み合わせを示すことができる。また、単一の機器又はシステムが示されたが、単語「機器」又は「システム」は更に一つ(又は複数の)コマンドセットを単独で或いは協同的に実行することにより、本文に説明された任意の一つ又は複数の方法を実行する機器或いはシステムの如何なるセットを含むと理解すべきである。
一実施形態において、システム1500は、バス又はインターコネクタ1510を介して接続されるプロセッサ1501、メモリ1503及び装置1505〜1508を具備する。プロセッサ1501は、そのうちに単一のプロセッサコア、又は複数のプロセッサコアの単一のプロセッサ、又は複数のプロセッサが含まれることを表すことができる。プロセッサ1501は、一つ又は複数の汎用プロセッサ、例えばマイクロプロセッサ、中央処理ユニット(CPU)などを表すことができる。具体的に、プロセッサ1501は複雑コマンドセット演算(CISC)マイクロプロセッサ、簡単コマンドセット演算(RISC)マイクロプロセッサ、超長コマンドワード(VLIW)マイクロプロセッサ、或いは他のコマンドセットを実施するプロセッサ、或いはコマンドセットの組み合わせを実施するプロセッサであっても良い。プロセッサ1501は更に一つ又は複数の専用プロセッサ、例えば専用集積回路(ASIC)、セルラー又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、デジタル信号プロセッサ(DSP)、ネットワークプロセッサ、図形プロセッサ、通信プロセッサ、暗号化プロセッサ、セカンドプロセッサ、組み込みプロセッサ、或いはコマンドを処理可能な任意の他のタイプのロジックであっても良い。
プロセッサ1501(ローパワーマルチコアプロセッサソケット、例えば超低電圧プロセッサであっても良い)は前記システムの各部品と通信用のメイン処理ユニットと中央ハブとして使用可能である。このようなプロセッサは、チップ上システム(SoC)として実施可能である。プロセッサ1501は、本文に説明された操作及びステップを実行するためのコマンドを実行するように配置される。システム1500は更に選択可能な図形サブシステム1504と通信するための図形インターフェースを含んでも良い。図形サブシステム1504は、表示コントローラ、図形プロセッサ及び/又は表示装置を含んでも良い。
プロセッサ1501はメモリ1503と通信可能である。一つの実施形態において、メモリ1503は複数のメモリ装置を介して実施されることにより、定量のシステム記憶が提供可能である。メモリ1503は、一つ又は複数の揮発的な記憶(或いはメモリ)装置、例えばランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、同期DRAM(SDRAM)、スタティックRAM(SRAM)又は他のタイプの記憶装置を含んでも良い。メモリ1503はプロセッサ1501又は他の任意の装置により実行されるコマンドシーケンスを含む情報を記憶可能である。例えば、各操作システム、装置ドライブプログラム、ファームウェア(例えば、入出力基盤システム又はBIOS)及び/又はアプリの実行可能なコード及び/又はデータは、メモリ1503にロードされ且つプロセッサ1501により実行可能である。操作システムは、任意のタイプの操作システム、例えばロボット操作システム(ROS)、Microsoft会社からのWindows(登録商標)操作システム、アップル会社からのMac OS/iOS、Google会社からのAndroid(登録商標)、LINUX(登録商標)、UNIX(登録商標)、或いは他のリアルタイム又は組み込み操作システムであっても良い。
システム1500は更にIO装置、例えばネットワークインターフェース装置1505、選択可能な入力装置1506、及び他の選択可能なIO装置1507を含む装置1505〜1508を含む。ネットワークインターフェース装置1505は、無線送受信機及び/又はネットワークインターフェースカード(NIC)を含んでも良い。前記無線送受信機は、WiFi送受信機、赤外線送受信機、ブルートゥース送受信機、WiMax送受信機、無線セルラー電話送受信機、衛星送受信機(例えば、グロバールポジションシステム(GPS)送受信機)、他の無線周波数(RF)送受信機或いはそれらの組み合わせであっても良い。NICはイーサネット(登録商標)カードであっても良い。
入力装置1506は、マウス、タッチパネル、タッチセンシティブスクリーン(表示装置1504と一体化に集積可能)、指示装置(例えばスタイラス)及び/又はキーボード(例えば、物理キーボード又はタッチセンシティブスクリーンの一部として表示される仮想キーボード)を含んでも良い。例えば、入力装置1506はタッチパネルに接続されるタッチパネルコントローラを含んでも良い。タッチパネルとタッチパネルコントローラは、例えば複数種のタッチセンシティブ技術(コンデンサ、抵抗、赤外と表面弾性波技術を含むが、それらに限定されない)のうちの何れか一つ、及び他の近隣センサアレイ又はタッチパネルと接触する一つ又は複数のポイントを特定するための他の素子を利用してその接触、移動又は中断を検出する。
IO装置1507はラジオ装置を含んでも良い。ラジオ装置は、例えば音声識別、音声複製、デジタル記録及び/又は電話機能のような音声機能に対するサポートを促進するように、スピーカ及び/又はマイクロフォンを含んでも良い。他のIO装置1507は、ユニバーサルシリアルバス(USB)ポート、パラレルポート、シリアルポート、プリンター、ネットワークインターフェース、バスブリッジ(例えば、PCI−PCIブリッジ)、センサ(例えば、加速度計のような運動センサ、ジャイロ、磁力計、光センサ、コンパス、近接センサなど)或いはそれらの組み合わせを更に含んでも良い。装置1507は画像形成処理サブシステム(例えば、カメラ)を含んでも良い。前記画像形成処理サブシステムは、カメラ機能(例えば、写真とビデオセグメントを記録する)を促進するための光学センサ、例えば電荷結合装置(CCD)又は相補型金属酸化物半導体(CMOS)の光学センサを含んでも良い。幾つかのセンサはセンサハブ(図示しない)を介してインターコネクタ1510に接続されても良い。キーボード又は熱センサのような他の装置は、システム1500の具体的な配置又は設計に応じて組み込みコントローラ(図示しない)により制御されても良い。
例えばデータ、アプリ、一つ又は複数の操作システムなどの情報の非揮発的な記憶を提供するために、大容量の記憶デバイス(図示しない)はプロセッサ1501に接続されても良い。各実施形態において、より薄い且つより軽いシステム設計を実現すると共にシステムの応答性を改善するために、このような大容量の記憶デバイスは、ソリッドステートデバイス(SSD)により実施されても良い。ところが、他の実施形態において、大容量の記憶デバイスは、主にハードディスクドライバー(HDD)を使用して実施されても良い。そのうち、容量の小さいSSD記憶デバイスは、SSDキャッシュとして使用されて断電の間にコンテキスト及び他の類似の情報の非揮発的な記憶を実現することにより、システムの動作が再起動される時に快速給電を実現することができる。また、フラッシュメモリは、例えばシリアルペリフェラルインターフェース(SPI)を介してプロセッサ1501に接続されても良い。このようなフラッシュメモリは、システムソフトウェアの非揮発的な記憶を提供することができる。前記システムソフトウェアには、前記システムのBIOS及び他のファームウェアが含まれる。
記憶装置1508は、本文に記載された任意の一つ又は複数の方法或いは機能を表す一つ又は複数のコマンドセット又はソフトウェア(例えば、モジュール、ユニット及び/又はロジック1528)が記憶されるコンピュータアクセス可能な記憶媒体1509(機器読取可能な記憶媒体或いはコンピュータ読取可能な媒体とも呼ばれる)を含んでも良い。処理モジュール/ユニット/ロジック1528は、前記部品のうちの何れか一つ、例えば図3Aの検知支援モジュール308と画像処理エンジン309を示すことができる。処理モジュール/ユニット/ロジック1528は、データ処理システム1500、メモリ1503及びプロセッサ1501により実行される間に完全的又は少なくとも一部的にメモリ1503内及び/又はプロセッサ1501内に保存されても良い。データ処理システム1500、メモリ1503及びプロセッサ1501も機器読取可能な記憶媒体として構成される。処理モジュール/ユニット/ロジック1528は、ネットワークによりネットワークインターフェース装置1505を介して伝送し又は受信可能である。
コンピュータ読取可能な記憶媒体1509は、以上で説明された幾つかのソフトウェア機能を永遠に記憶しても良い。コンピュータ読取可能な記憶媒体1509は、例示的な実施形態において単一の媒体として示されたが、「コンピュータ読取可能な記憶媒体」という用語は前記一つ又は複数のコマンドセットを記憶する単一の媒体又は複数の媒体(例えば、集中式又は分散式のデータベース及び/又は関連のキャッシュ及びサーバ)を含むと理解すべきである。「コンピュータ読取可能な記憶媒体」という用語は、コマンドセットを記憶し又はコーディング可能な任意の媒体を含むと理解すべきである。前記コマンドセットは、機器により実行され且つ前記機器に本開示の任意の一つ又は複数の方法を実行させるために用いられる。従って、「コンピュータ読取可能な記憶媒体」という用語は、固体メモリ及び光学媒体及び磁気媒体、或いは如何なる他の非揮発的な機器読取可能な媒体を含むと理解すべきであるが、それらに限定されない。
本文に記載の処理モジュール/ユニット/ロジック1528、部品及び他の特徴は、独立なハードウェア部品として実施され、又はハードウェア部品(例えば、ASICS、FPGA、DSP又は類似の装置)の機能に集積されるように実施可能である。また、処理モジュール/ユニット/ロジック1528は、ハードウェア装置におけるファームウェア又は機能回路として実施可能である。また、処理モジュール/ユニット/ロジック1528は、ハードウェア装置とソフトウェア部品の如何なる組み合わせで実施されても良い。
注意すべきなのは、システム1500はデータ処理システムの各部品を備えると示されたが、部品の接続の如何なる特定な構成又は手段を示すわけではない。これは、このような詳細が本開示の実施形態と緊密な関係を有していないからである。更に、より少ない部品を持ち、或いはより多い部品を持ち可能なネットワークコンピュータ、携帯コンピュータ、モバイルフォン、サーバ及び/又は他のデータ処理システムも本開示の実施形態と共に使用可能と理解すべきである。
前記の詳しい説明における幾つかの部分は、既にコンピュータメモリ内にデータビットに対する演算のアルゴリズムと符号標記により表された。これらのアルゴリズムの説明及び標記は、データ処理分野における技術者により使用される方式であり、彼らの作業の意図を効率的に当分野の他の技術者に伝達する。本文において、アルゴリズムは一般的に所望の結果を引き起こすセルフコンシステント操作シーケンスであると考えられる。これらの操作は物理量に対する物理的な制御の必要がある操作である。
ところが、理解すべきなのは、全てのこれらと類似する用語は、何れも適当な物理量に関連させると意味し、且つこれらの量に適用する便利な標識に過ぎない。上記の論述に他の方式で明確に指定される場合以外、全明細書において、用語(例えば付加の特許請求の範囲に記載される用語)で行われた論述はコンピュータシステム又は類似の電子演算装置の動作及び処理であると理解すべきである。前記コンピュータシステム又は電子演算装置は、コンピュータシステムのレジスタとメモリにおいて物理(電子)量として表されるデータを制御し、前記データをコンピュータシステムメモリ、レジスタ、他の類似の情報記憶デバイス、伝送又は表示装置に同様に物理量として表される他のデータに変換する。
本開示の実施形態は更に本文における操作を実行するデバイスに関する。このようなコンピュータプログラムは非揮発的なコンピュータ読取可能な媒体に記憶される。機器読取可能な媒体は、機器(例えば、コンピュータ)読取可能な形で情報を記憶する如何なる機構を含む。例えば、機器読取可能(例えば、コンピュータ読取可能)な媒体は、機器(例えば、コンピュータ)読取可能な記憶媒体(例えば、読み出し専用メモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、ディスク記憶媒体、光記憶媒体、フラッシュメモリ装置)を含む。
前記の図面に描画されるプロセス又は方法は処理ロジックにより実行されても良い。前記処理ロジックは、ハードウェア(例えば、回路、専用ロジック等)、ソフトウェア(例えば、非揮発的なコンピュータ読取可能な媒体として表す)或いは両者の組み合わせを含む。前記過程又は方法は前記の記載において所定の順序に従う操作として説明されたが、前記操作のうちの一部が異なる順序に従って実行可能と理解すべきである。また、一部の操作は順序での実行ではなく、並行に実行可能である。
本開示の実施形態は、如何なる特定のプログラミング言語に従って説明することではない。理解すべきなのは、複数のプログラミング言語を使用して本文に記載された本開示の実施形態を実施することができる。
以上の明細書において、既に本開示の具体的な例示的実施形態を参照して本開示の実施形態を説明した。明らかに、付加の特許請求の範囲に記載の本開示のより広い主旨及び範囲から逸脱されない場合に、本開示に対する各修正が可能である。よって、制限的な意味ではなく、説明的な意味で本明細書及び図面を理解すべきである。

Claims (18)

  1. 自動運転車両(ADV)を操作するためのコンピュータ実施方法であって、
    前記ADVに取り付けられた複数のセンサにより前記ADVの周囲の運転環境を検知することと、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することと、
    前記盲点が認識されたことに応じて、前記ADVの現在の地理位置に基づいて前記盲点から所定の距離内に設置された画像撮影装置を特定し、特定された画像撮影装置から前記盲点がカバーされた画像を受信することと、
    前記画像に基いて前記ADVの前記盲点における注目障害物を認識することと、
    前記盲点における前記注目障害物に基いて軌跡を生成して、前記ADVが前記注目障害物を回避するように制御することと、を含み、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することは、
    前記ADVのビューフィールドを特定することと、
    検知された運転環境に基いて一つ又は複数の走行車両を特定することと、
    前記盲点を、前記ビューフィールドにおける、前記一つ又は複数の走行車両により妨げられる一つ又は複数のビューとして認識することと、
    を含む方法。
  2. 前記画像撮影装置には、交差点に取り付けられる一つ又は複数のカメラが含まれる請求項1に記載のコンピュータ実施方法。
  3. 前記一つ又は複数のカメラは、前記交差点において、一つ又は複数の交通流方向に取り付けられて、前記一つ又は複数の交通流方向において進入する車両をモニターする、請求項2に記載のコンピュータ実施方法。
  4. 前記注目障害物には、車両、障害物及び歩行者の少なくとも一つが含まれる請求項1に記載のコンピュータ実施方法。
  5. 前記ADVが前記注目障害物を回避するように制御することは、
    前記ADVの通常操作が回復する前に、前記ADVを停止するように減速させるとともに、前記注目障害物が前記ADVのルートに位置しなくなるまで前記ADVを待機させることを含む、請求項1に記載のコンピュータ実施方法。
  6. 前記注目障害物が存在すると、
    前記画像撮影装置から前記盲点がカバーされた後続画像を受信し、
    前記後続画像により前記注目障害物を追跡して前記注目障害物が前記ADVの路線に位置するか否かを判定し、
    前記注目障害物が前記ADVの路線に位置していると判定されると、検知された運転環境と前記盲点がカバーされた前記後続画像に基いて第二軌跡を生成して、前記ADVが前記注目障害物を回避するように制御する、
    ことを更に含む請求項1に記載のコンピュータ実施方法。
  7. 所定の時間帯に追跡された注目障害物と前記ADVの軌跡とが重なると予測されると、前記注目障害物が前記ADVの路線に位置する、請求項1に記載のコンピュータ実施方法。
  8. 指令が記憶されている非一時的な機器可読媒体であって、
    前記指令が一つ又は複数のプロセッサにより実行されると、前記一つ又は複数のプロセッサに、
    前記ADVに取り付けられた複数のセンサにより前記ADVの周囲の運転環境を検知することと、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することと、
    前記盲点が認識されたことに応じて、前記ADVの現在の地理位置に基づいて前記盲点から所定の距離内に設置された画像撮影装置を特定し、特定された画像撮影装置から前記盲点がカバーされた画像を受信することと、
    前記画像に基いて前記ADVの前記盲点における注目障害物を認識することと、
    前記盲点における前記注目障害物に基いて軌跡を生成して、前記ADVが前記注目障害物を回避するように制御することと、を含み、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することは、
    前記ADVのビューフィールドを特定することと、
    検知された運転環境に基いて一つ又は複数の走行車両を特定することと、
    前記盲点を、前記ビューフィールドにおける、前記一つ又は複数の走行車両により妨げられる一つ又は複数のビューとして認識することと、
    を含む操作を実行させる非一時的な機器可読媒体。
  9. 前記画像撮影装置には、交差点に取り付けられる一つ又は複数のカメラが含まれる、請求項8に記載の非一時的な機器可読媒体。
  10. 前記一つ又は複数のカメラは、前記交差点において、一つ又は複数の交通流方向に取り付けられて、前記一つ又は複数の交通流方向において進入する車両をモニターする、請求項9に記載の非一時的な機器可読媒体。
  11. 前記注目障害物には、車両、障害物及び歩行者の少なくとも一つが含まれる請求項8に記載の非一時的な機器可読媒体。
  12. 前記ADVを前記注目障害物を回避するように制御することは、
    前記ADVの通常操作が回復する前に、前記ADVを停止するように減速させるとともに、前記注目障害物が前記ADVのルートに位置しなくなるまで前記ADVを待機させることを含む、請求項8に記載の非一時的な機器可読媒体。
  13. 前記注目障害物が存在すると、
    前記画像撮影装置から前記盲点がカバーされた後続画像を受信し、
    前記後続画像により前記注目障害物を追跡して注目障害物が前記ADVの路線に位置するか否かを判定し、
    前記注目障害物が前記ADVの路線に位置していると判定されると、検知された運転環境と前記盲点がカバーされた前記後続画像に基いて第二軌跡を生成して、前記ADVが前記注目障害物を回避するように制御する、
    ことを更に含む、請求項8に記載の非一時的な機器可読媒体。
  14. 所定の時間帯に追跡された注目障害物と前記ADVの軌跡とが重なると予測されると、前記注目障害物が前記ADVの路線に位置する、請求項8に記載の非一時的な機器可読媒体。
  15. データ処理システムであって、
    一つ又は複数のプロセッサと、前記一つ又は複数のプロセッサに接続されて指令を記憶するメモリと、を備え、
    前記指令が前記一つ又は複数のプロセッサにより実行されると、前記一つ又は複数のプロセッサに、
    前記ADVに取り付けられた複数のセンサにより前記ADVの周囲の運転環境を検知することと、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することと、
    前記盲点が認識されたことに応じて、前記ADVの現在の地理位置に基づいて前記盲点から所定の距離内に設置された画像撮影装置を特定し、特定された画像撮影装置から前記盲点がカバーされた画像を受信することと、
    前記画像に基いて前記ADVの前記盲点における注目障害物を認識することと、
    前記盲点における前記注目障害物に基いて軌跡を生成して、前記ADVが前記注目障害物を回避するように制御することと、を含み、
    検知された前記ADVの周囲の運転環境に基いて盲点を認識することは、
    前記ADVのビューフィールドを特定することと、
    検知された運転環境に基いて一つ又は複数の走行車両を特定することと、
    前記盲点を、前記ビューフィールドにおける、前記一つ又は複数の走行車両により妨げられる一つ又は複数のビューとして認識することと、
    を含む操作を実行させるデータ処理システム。
  16. 前記画像撮影装置には、交差点に取り付けられる一つ又は複数のカメラが含まれる請求項15に記載のデータ処理システム。
  17. 前記注目障害物が存在すると、
    前記画像撮影装置から前記盲点がカバーされた後続画像を受信し、
    前記後続画像により前記注目障害物を追跡して前記注目障害物が前記ADVの路線に位置するか否かを判定し、
    前記注目障害物が前記ADVの路線に位置していると判定されると、検知された運転環境と前記盲点がカバーされた前記後続画像に基いて第二軌跡を生成して、前記ADVが前記注目障害物を回避するように制御する、
    ことを更に含む請求項15に記載のデータ処理システム。
  18. コンピュータプログラムであって、
    前記コンピュータプログラムがプロセッサにより実行されると、請求項1〜7のいずれか一項に記載の方法を実現させるコンピュータプログラム。
JP2019026741A 2018-04-03 2019-02-18 自動運転車両に用いられる検知支援 Active JP6892464B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/944,775 2018-04-03
US15/944,775 US10943485B2 (en) 2018-04-03 2018-04-03 Perception assistant for autonomous driving vehicles (ADVs)

Publications (2)

Publication Number Publication Date
JP2019182402A JP2019182402A (ja) 2019-10-24
JP6892464B2 true JP6892464B2 (ja) 2021-06-23

Family

ID=68055402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019026741A Active JP6892464B2 (ja) 2018-04-03 2019-02-18 自動運転車両に用いられる検知支援

Country Status (3)

Country Link
US (1) US10943485B2 (ja)
JP (1) JP6892464B2 (ja)
CN (1) CN110347145B (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10816979B2 (en) * 2018-08-24 2020-10-27 Baidu Usa Llc Image data acquisition logic of an autonomous driving vehicle for capturing image data using cameras
US11231501B2 (en) * 2019-09-26 2022-01-25 Baidu Usa Llc Front and side three-LIDAR design for autonomous driving vehicles
US11945434B2 (en) * 2019-11-08 2024-04-02 Baidu Usa Llc Delay decision making for autonomous driving vehicles in response to obstacles based on confidence level and distance
US11584377B2 (en) * 2019-11-21 2023-02-21 Gm Cruise Holdings Llc Lidar based detection of road surface features
KR20210088780A (ko) * 2020-01-06 2021-07-15 주식회사 만도 운전자 보조 장치 및 그 방법
US11360488B2 (en) * 2020-01-07 2022-06-14 International Business Machines Corporation Dynamic relative position reassignment of vehicle in autonomous vehicles ecosystem
CN111242986B (zh) * 2020-01-07 2023-11-24 阿波罗智能技术(北京)有限公司 跨相机的障碍物跟踪方法、装置、设备、***及介质
JP7478552B2 (ja) * 2020-03-02 2024-05-07 本田技研工業株式会社 車両通信システム、プログラム、及び監視対象物検知方法
DE102020107108A1 (de) * 2020-03-16 2021-09-16 Kopernikus Automotive GmbH Verfahren und System zum autonomen Fahren eines Fahrzeugs
CN111489564A (zh) * 2020-04-23 2020-08-04 新石器慧通(北京)科技有限公司 无人驾驶交通工具的驾驶方法、装置及***
CN111582173A (zh) * 2020-05-08 2020-08-25 东软睿驰汽车技术(沈阳)有限公司 一种自动驾驶的方法及***
US20220019225A1 (en) * 2020-07-14 2022-01-20 Argo AI, LLC Smart node for autonomous vehicle perception augmentation
US11473917B2 (en) * 2020-07-14 2022-10-18 Argo AI, LLC System for augmenting autonomous vehicle perception using smart nodes
WO2022015797A1 (en) * 2020-07-14 2022-01-20 Argo AI, LLC Method and system for augmenting autonomous vehicle perception using smart nodes
US11403943B2 (en) * 2020-07-14 2022-08-02 Argo AI, LLC Method and system for vehicle navigation using information from smart node
CN112158197B (zh) * 2020-08-21 2021-08-27 恒大新能源汽车投资控股集团有限公司 一种车辆盲区障碍物规避方法、装置及***
US11726471B2 (en) * 2020-08-27 2023-08-15 Waymo Llc Methods and systems for gradually adjusting vehicle sensor perspective using remote assistance
CN112652176B (zh) * 2020-12-09 2022-05-10 东风汽车集团有限公司 基于相邻车辆运动状态的预警方法、***及车辆
US11462021B2 (en) * 2021-01-13 2022-10-04 GM Global Technology Operations LLC Obstacle detection and notification for motorcycles
JP7484758B2 (ja) 2021-02-09 2024-05-16 トヨタ自動車株式会社 ロボット制御システム
CN114348023A (zh) * 2022-01-25 2022-04-15 北京三快在线科技有限公司 一种基于盲区的无人驾驶设备控制方法及装置
WO2023178661A1 (zh) * 2022-03-25 2023-09-28 京东方科技集团股份有限公司 数据共享方法、车载设备、云服务器、***、设备和介质

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001315603A (ja) * 2000-05-09 2001-11-13 Matsushita Electric Ind Co Ltd 運転支援装置
JP4604683B2 (ja) 2004-11-25 2011-01-05 日産自動車株式会社 危険状況警報装置
US8050863B2 (en) * 2006-03-16 2011-11-01 Gray & Company, Inc. Navigation and control system for autonomous vehicles
JP5053776B2 (ja) 2007-09-14 2012-10-17 株式会社デンソー 車両用視界支援システム、車載装置、及び、情報配信装置
JP5208203B2 (ja) * 2008-03-27 2013-06-12 パナソニック株式会社 死角表示装置
JP5045812B2 (ja) * 2008-06-24 2012-10-10 トヨタ自動車株式会社 死角表示装置及び運転支援装置
US9586525B2 (en) * 2011-11-28 2017-03-07 Robert Bosch Gmbh Camera-assisted blind spot detection
US20150002642A1 (en) * 2013-07-01 2015-01-01 RWD Consulting, LLC Vehicle visibility improvement system
JP6065296B2 (ja) * 2014-05-20 2017-01-25 パナソニックIpマネジメント株式会社 画像表示システム、および画像表示システムに用いられるディスプレイ
JP6349987B2 (ja) * 2014-06-09 2018-07-04 日本精機株式会社 死角補助装置
US9409644B2 (en) * 2014-07-16 2016-08-09 Ford Global Technologies, Llc Automotive drone deployment system
JP6424611B2 (ja) * 2014-07-24 2018-11-21 日本精機株式会社 死角補助装置
JP6222137B2 (ja) * 2015-03-02 2017-11-01 トヨタ自動車株式会社 車両制御装置
US20160288788A1 (en) * 2015-03-31 2016-10-06 Toyota Motor Engineering & Manufacturing North America, Inc. Gap-based speed control for automated driving system
SE539097C2 (en) * 2015-08-20 2017-04-11 Scania Cv Ab Method, control unit and system for avoiding collision with vulnerable road users
KR101619838B1 (ko) * 2015-12-09 2016-05-13 공간정보기술 주식회사 다수 스테레오 카메라를 이용한 피사체 공간이동 추적 시스템
US20170287338A1 (en) * 2016-04-05 2017-10-05 Ford Global Technologies, Llc Systems and methods for improving field of view at intersections
US20180087907A1 (en) * 2016-09-29 2018-03-29 The Charles Stark Draper Laboratory, Inc. Autonomous vehicle: vehicle localization
US10377375B2 (en) * 2016-09-29 2019-08-13 The Charles Stark Draper Laboratory, Inc. Autonomous vehicle: modular architecture
US10209718B2 (en) * 2017-03-14 2019-02-19 Starsky Robotics, Inc. Vehicle sensor system and method of use
US20180372875A1 (en) * 2017-06-27 2018-12-27 Uber Technologies, Inc. Sensor configuration for an autonomous semi-truck
CN107807633A (zh) * 2017-09-27 2018-03-16 北京图森未来科技有限公司 一种路侧设备、车载设备以及自动驾驶感知方法及***
US20190100145A1 (en) * 2017-10-02 2019-04-04 Hua-Chuang Automobile Information Technical Center Co., Ltd. Three-dimensional image driving assistance device
US11052913B2 (en) * 2017-10-23 2021-07-06 Uatc, Llc Cargo trailer sensor assembly
WO2019113531A1 (en) * 2017-12-07 2019-06-13 Ouster, Inc. Installation and use of vehicle light ranging system
US10902165B2 (en) * 2018-01-09 2021-01-26 The Charles Stark Draper Laboratory, Inc. Deployable development platform for autonomous vehicle (DDPAV)
US10761534B2 (en) * 2018-01-30 2020-09-01 Uatc, Llc Fused sensor view for self-driving truck
US10882521B2 (en) * 2018-02-21 2021-01-05 Blackberry Limited Method and system for use of sensors in parked vehicles for traffic safety
US10884119B2 (en) * 2018-06-08 2021-01-05 Ford Global Technologies, Llc Object tracking in blind-spot
US10688985B2 (en) * 2018-06-15 2020-06-23 Pony Ai Inc. Systems and methods for implementing a preemptive control for an autonomous vehicle to improve ride quality
US10845806B2 (en) * 2018-07-31 2020-11-24 GM Global Technology Operations LLC Autonomous vehicle control using prior radar space map
IT201800009792A1 (it) * 2018-10-25 2020-04-25 Ambarella Inc Obstacle detection in vehicle using wide angle camera and radar sensor fusion
US20200167573A1 (en) * 2018-11-27 2020-05-28 GM Global Technology Operations LLC Method and apparatus for object detection in camera blind zones
US10996680B2 (en) * 2018-12-31 2021-05-04 Siemens Industry Software Inc. Environmental perception in autonomous driving using captured audio
WO2020150079A1 (en) * 2019-01-16 2020-07-23 Gentex Corporation Blind spot reduction system

Also Published As

Publication number Publication date
JP2019182402A (ja) 2019-10-24
CN110347145A (zh) 2019-10-18
CN110347145B (zh) 2022-07-22
US10943485B2 (en) 2021-03-09
US20190304310A1 (en) 2019-10-03

Similar Documents

Publication Publication Date Title
JP6892464B2 (ja) 自動運転車両に用いられる検知支援
JP6845894B2 (ja) 自動運転車両におけるセンサー故障を処理するための方法
JP6975512B2 (ja) 自動運転車両の周辺車両の挙動に基づくリアルタイム感知調整と運転調整
JP6906011B2 (ja) オブジェクトの二次元境界枠を自動運転車両の三次元位置に転換するための方法[method for transforming 2d bounding boxes of objects into 3d positions for autonomous driving vehicles (advs)]
JP6894471B2 (ja) 自動運転車(adv)のサブシステムによるパトロールカーのパトロール
JP6754856B2 (ja) 自動運転車両のためのセンサー集約フレームワーク
JP7030044B2 (ja) 自律走行車(adv)に対して車両とクラウド間のリアルタイム交通地図を構築するためのシステム
CN111076732B (zh) 基于车辆行驶的轨迹标记和生成高清地图的标记方案
JP7141370B2 (ja) 標準的なナビゲーション地図と車両の過去の軌跡に基づいて決定された車線構成を利用した自動運転
KR102062608B1 (ko) 자율 주행 차량의 제어 피드백에 기초한 맵 업데이트 방법 및 시스템
KR102279078B1 (ko) 자율 주행 차량의 v2x 통신 기반의 차량 차로 시스템
JP6831419B2 (ja) 自動運転車と警告サービスの操作方法、システム及び機械可読メディア
JP6975775B2 (ja) 自動運転車両の高速道路における自動運転に用いる、地図及びポジショニングなしで車線に沿う走行方法
JP2021501714A (ja) 自動運転車両のための低速シーンにおける歩行者インタラクションシステム
JP6972150B2 (ja) 自動運転車両のための歩行者確率予測システム
JP6779326B2 (ja) 複数のスレッドを使用して自動運転車両に用いられる基準線を生成するための方法及びシステム
JP2020523552A (ja) 自動運転車両の経路計画のための運転シナリオに基づく車線ガイドライン
JP2018077827A (ja) 自律走行車の決定の評価フレームワーク
JP2020060552A (ja) 自動運転車両のための以前の運転軌跡に基づくリアルタイムマップ生成方法
CN111857119A (zh) 用于停放自动驾驶车辆的停车管理架构
JP2021502914A (ja) 自律走行車に用いられるトンネルに基づく計画システム
JP7009490B2 (ja) 自動運転車両のための制御主導型の3ポイントターン計画
JP2021511998A (ja) 自動運転車両のための螺旋曲線に基づく垂直駐車計画システム
JP2021501921A (ja) 自動運転車両のための螺旋経路に基づく3ポイントターン計画
JP2021518822A (ja) 自律走行車中の非回避計画システムにおける障害物フィルタリングの方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200526

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210330

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210330

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210407

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210527

R150 Certificate of patent or registration of utility model

Ref document number: 6892464

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150