JP7407213B2 - 方角特定装置、及び方角特定方法 - Google Patents

方角特定装置、及び方角特定方法 Download PDF

Info

Publication number
JP7407213B2
JP7407213B2 JP2022025265A JP2022025265A JP7407213B2 JP 7407213 B2 JP7407213 B2 JP 7407213B2 JP 2022025265 A JP2022025265 A JP 2022025265A JP 2022025265 A JP2022025265 A JP 2022025265A JP 7407213 B2 JP7407213 B2 JP 7407213B2
Authority
JP
Japan
Prior art keywords
predetermined target
viewpoint axis
photographed image
indicating
viewpoint
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022025265A
Other languages
English (en)
Other versions
JP2023121914A (ja
Inventor
隆介 玉那覇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2022025265A priority Critical patent/JP7407213B2/ja
Priority to CN202310026004.6A priority patent/CN116643302A/zh
Priority to US18/159,795 priority patent/US20230267645A1/en
Publication of JP2023121914A publication Critical patent/JP2023121914A/ja
Application granted granted Critical
Publication of JP7407213B2 publication Critical patent/JP7407213B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42Determining position
    • G01S19/45Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Navigation (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、方角特定装置、及び方角特定方法に関する。
GPS(Global Positioning System)衛星が送信する測位信号を受信するGPS受信器を備え、当該測位信号に基づいて現在位置を検出し、現在位置の検出結果を用いて自律的に走行する移動体が知られている(例えば、特許文献1参照)。
特開2019-144668号公報
しかしながら、測位信号を受信し難い環境を移動体が移動する場合、測位精度が低下することで、移動体が移動している方角の特定精度が低下し、所定の移動経路から外れた箇所を移動する、という問題がある。この問題の対策として、GPS受信機を改良して測位信号の受信感度を高めることが考えられるが、GPS受信機のコストが増大する、という新たな問題が生じる。
本発明は、測位を用いずに方角を特定できる方角特定装置、及び方角特定方法を提供することを目的とする。
本発明の一態様は、移動体に設けられたカメラによる撮影画像を取得する撮影画像取得部と、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する方角情報取得部と、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定部と、方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識部と、を備え、前記視点軸方角特定部は、前記所定物標認識部により、前記識別標識が付されて方角を示唆するポール群である前記所定物標が検出された場合に、前記ポール群の配列方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ポール群の配列方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定することを特徴とする方角特定装置である。
本発明の一態様は、移動体に設けられたカメラによる撮影画像を取得する撮影画像取得部と、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する方角情報取得部と、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定部と、方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識部と、を備え、前記視点軸方角特定部は、前記所定物標認識部により、前記識別標識が付されて方角を示唆するガードレールである前記所定物標が検出された場合に、前記ガードレールの延在方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ガードレールの延在方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定することを特徴とする方角特定装置である。
本発明の一態様は、上記方角特定装置において、前記視点軸が指向している方角に基づいて、前記移動体の前方が指向している方角を特定する前方方角特定部を備える、ことを特徴とする。
本発明の一態様は、上記方角特定装置において、前記移動体が所定エリアにいる場合、及び、前記移動体が移動している場合の少なくともいずれか1つの場合に、前記視点軸が指向している方角の特定が前記視点軸方角特定部によって行われることを特徴とする。
本発明の一態様は、方角を特定する方角特定装置による方角特定方法おいて、前記方角特定装置が、移動体に設けられたカメラによる撮影画像を取得するステップと、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得するステップと、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定ステップと、方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識ステップと、を備え、前記視点軸方角特定ステップは、前記所定物標認識ステップにより、前記識別標識が付されて方角を示唆するポール群である前記所定物標が検出された場合に、前記ポール群の配列方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ポール群の配列方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定することを特徴とする。
本発明の一態様は、方角を特定する方角特定装置による方角特定方法おいて、前記方角特定装置が、移動体に設けられたカメラによる撮影画像を取得するステップと、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する視点軸方角特定ステップと、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定するステップと、方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識ステップと、を備え、前記視点軸方角特定ステップは、前記所定物標認識ステップにより、前記識別標識が付されて方角を示唆するガードレールである前記所定物標が検出された場合に、前記ガードレールの延在方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ガードレールの延在方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定することを特徴とする。
本発明の一態様によれば、測位を用いずに方角を特定できる。
本発明の実施形態に係る車両の構成を模式的に示す図である。 方角特定装置の機能的構成を示す図である。 方角特定システムの動作を示すフローチャートである。 撮影画像の例と、視点軸が指向している方角とを示す模式図である。 撮影画像の例と、視点軸が指向している方角とを示す模式図である。
以下、図面を参照して本発明の実施形態について説明する。
なお、以下の説明において、「前方」及び「後方」の用語が示す向きはそれぞれ、車両1の「前進方向」及び「後進方向」に相当し、それぞれに符号D1、D2を付す。
図1は、本実施形態に係る車両1の構成を模式的に示す図である。
車両1は、移動体の一例であり、移動体本体に対応する車体10と、駆動力を出力する電動機及び内燃機関の少なくともいずれか一方を有する駆動部12と、当該駆動部12の駆動力によって駆動され、車体10を推進(本実施形態では走行)させる複数の車輪14と、を備える。本実施形態の車両1は、車輪14の数が4つである四輪自動車であるが、当該車輪14の数及び車体10の形状は任意である。
また、本実施形態の車両1は、方角を特定する方角特定システム20と、当該方角を利用する車載装置である方角利用機器22とを備える。方角利用機器22は、例えば、ナビゲーション装置や、自律航法によって車両1の走行を制御する自動運転装置といった適宜の装置である。
方角特定システム20は、カメラ30と、位置検出装置32と、計時装置34と、方角特定装置36と、を備える。
カメラ30は、車両1の周辺を撮影し、当該撮影による撮影画像A1を方角特定装置36に出力する。本実施形態において、カメラ30は、視点軸K(注視軸や光軸とも呼ばれる)を車両1の前方D1と一致させて車体10に設置されており、視点軸Kが指向している方角が、車体10の前方D1が指向している方角(車両1の前進時には車両1が向かっている方角)と見做せるようになっている。
なお、カメラ30は、所定フレームレートで撮影された撮影画像A1から成る動画像を撮影してもよいし、撮影画像A1として静止画像を適宜の間隔で撮影してもよい。
ここで、方角は、車両1の現在位置A2を基準として、カメラ30の視点軸Kが指向している方向を、所定の基準方向との関係で表した方向であり、本実施形態において、所定の基準方向には「東」、「西」、「南」、「北」の4方向が用いられる。
位置検出装置32は、車両1の現在位置A2を検出し、当該現在位置A2を方角特定装置36に出力する装置である。本実施形態の位置検出装置32は、複数の測位衛星から発信される測位信号を受信し、これらの測位信号に基づいて現在位置A2を特定するGNSS(Global Navigation Satellite System:全球測位衛星システム)受信装置を備えている。
計時装置34は、現在の日付及び時刻である現在日時A3を計時し、当該現在日時A3を方角特定装置36に出力する。
方角特定装置36は、撮影画像A1に写っている所定物標F(図4)に基づき方角を特定し、当該方角を方角利用機器22に出力する装置である。また、方角特定装置36は、所定物標Fの種類に応じて、現在位置A2及び現在日時A3の少なくともいずれか1つの情報を撮影画像A1とともに用いて方角を特定する。
所定物標Fは、撮影画像A1に写っている被写体のうち、方角を示唆する地物(天然物又は人工物)であり、その具体例については後述する。
本実施形態において、方角特定装置36は、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)などのプロセッサと、ROM(Read Only Memory)やRAM(Random Access Memory)などのメモリデバイス(主記憶装置とも呼ばれる)と、HDD(hard disk drive)やSSD(Solid State Drive)などのストレージ装置(副記憶装置とも呼ばれる)と、カメラ30や位置検出装置32、計時装置34、センサ類、周辺機器などが接続されるインターフェース回路と、を備えたコンピュータを備える。本実施形態の車両1において、当該コンピュータにはECU(Electronic Control Unit)が用いられる。そして、方角特定装置36は、プロセッサがメモリデバイス又はストレージ装置に記憶されているコンピュータプログラムを実行することで、方角特定に係る各種の機能を実現する。なお、方角特定装置36が複数のコンピュータを備え、それぞれのコンピュータが協同して、方角特定に係る各種の機能を実現してもよい。
図2は、方角特定装置36の機能的構成を示す図である。
方角特定装置36は、カメラ30から撮影画像A1を取得する撮影画像取得部40と、位置検出装置32から現在位置A2を取得する現在位置取得部42と、計時装置34から現在日時A3を取得する現在日時取得部44と、を備える。
また、方角特定装置36は、物標データソース46と、所定物標認識部48と、方角情報取得部50と、視点軸方角特定部52と、前方方角特定部54と、を備える。
物標データソース46は、物標データベース46Aを予め記憶する。物標データベース46Aは、上記所定物標Fが示唆する方角を示す情報(以下、方角情報Gと言う)が所定物標Fごとに記録されたデータである。
所定物標Fには、向日葵や太陽、月、物体に生じた影などの天然物、及び、方角を示唆する形状、配列、又は標識を伴う人工物(天然物を加工した物を含む)が含まれる。
例えば、太陽及び月は、その位置によって方角を示唆する天然物である。太陽及び月は、その位置が現在位置A2及び現在日時A3によって変化するため、太陽及び月の方角情報Gには、現在位置A2及び現在日時A3をパラメータとして、太陽及び月が位置する方角を導出するための計算式や数値テーブルなどのデータが格納される。
また例えば、物体から延びる影は、その延びる方向によって方角を示唆する天然物である。延びる方向は、そのときの太陽の位置、すなわち、現在位置A2及び現在日時A3によって変化するため、影の方角情報Gには、上述の太陽と同様に、現在位置A2及び現在日時A3をパラメータとして、太陽が位置する方角を導出するための計算式や数値テーブルなどのデータが格納される。
また例えば、向日葵は十分に成長すると常に東を向いて咲くという性質を有することから、その向きによって方角を示唆する天然物である。そこで、向日葵の方角情報Gには、向日葵の向きが示唆する方角である「東」が格納される。なお、十分に成長していない向日葵は、太陽の動きに合わせて向く方向が変わるという性質を有する。したがって、十分に成長していない向日葵の方角情報Gには、上述の太陽や影と同様に、現在位置A2及び現在日時A3をパラメータとして、太陽が位置する方角を導出するための計算式や数値テーブルなどのデータが格納される。
人工物の例には、延在方向によって特定の方角を示唆するガードレールや車線といった物や、配列方向によって特定の方角を示唆するポール群などの物体群、特定の方角を指し示す形状(矢印形状など)の建造物が例に挙げられる。所定物標Fとなる人工物の方角情報Gには、延在方向や配列方向、形状が示唆する方角が予め格納されている。
なお、本実施形態において、所定物標Fとなる人工物には、方角を示唆しない人工物と識別可能にする識別標識Fa(図4:例3)が付されている。また、延在方向や配列方向によって方角を示唆する所定物標Fには、これら延在方向や配列方向における起点から終点への向きを識別可能にする方向指示標識Fb(図5:例4)が付されている。
所定物標認識部48は、所定物標Fを画像認識によって撮影画像A1から検出する。具体的には、所定物標認識部48は、天然物の所定物標Fについては形状のパターンマッチングにより当該所定物標Fを検出する。また、所定物標認識部48は、人工物の所定物標Fについては識別標識Faを認識し、又は、当該人工物の形状のパターンマッチングにより当該所定物標Fを検出する。なお、所定物標認識部48は、AI(Artificial Intelligence)を用いた認識処理によって所定物標Fを検出してもよい。
方角情報取得部50は、所定物標Fが撮影画像A1から所定物標認識部48によって検出された場合(すなわち、所定物標Fが撮影画像A1に写っている場合)、当該所定物標Fに対応する方角情報Gを物標データソース46から取得する。
視点軸方角特定部52は、方角情報Gと、撮影画像A1における所定物標Fとカメラ30の視点軸Kとの位置関係と、に基づいて当該視点軸Kが指向している方角を特定する。
前方方角特定部54は、視点軸Kが指向している方角を、視点軸Kと車体10の前方D1の基準軸(車両中心軸)とが成す角度αに基づき補正することで、車体10の前方D1が指向している方角を特定する。
より具体的には、本実施形態では、上述の通り、カメラ30の視点軸Kが車両1の前方D1と一致するため角度αはゼロである。これに対し、例えば、カメラ30の視点軸Kが車体10の側方に向けて設置され、角度αがゼロでない場合は、前方方角特定部54は、視点軸Kが指向している方角を角度α分だけ変位させることで、車体10の前方D1が指向している方角を特定する。
前方方角特定部54によって特定された方角が方角利用機器22に入力され、当該方角利用機器22における各種の制御(ナビゲーション制御や自律走行制御など)に利用される。これにより、方角利用機器22は、方角を検出する方角検出手段(例えばジャイロセンサなど)を別途に備えていなくとも、方角を特定することができる。また、方角利用機器22が方角を検出する方角検出手段を備える場合でも、方角特定装置36によって特定された方角を用いて方角検出手段の検出結果を補正することができ、方角検出手段の検出感度が悪い環境や状況においても、高精度な方角検出を実現することができる。
図3は、方角特定システム20の動作を示すフローチャートである。
車両1において、適宜のタイミング(パワースイッチやイグニッションキーがオンになったタイミングや走行開始タイミングなど)で、方角特定システム20の各部が動作を開始する。そして、先ず、方角特定装置36において、上記プロセッサが所定の動作開始条件が成立しているか否かを判断する(ステップS1)動作開始条件は、方角特定の有効性が高い状況であることに対応した条件である。具体的には、動作開始条件は、所定の車両1が所定エリアにいる場合、及び、車両1が走行(移動)している場合の少なくともいずれか1つの場合である。所定エリアは、測位信号の受信状況が好ましくないエリアや、方角の拠り所となる3次元地図情報が存在しないエリアなどである。かかる動作開始条件が満足されたことを条件に、方角特定装置36が方角を特定する動作を実行することで、方角特定の有効性が低い状況下での動作が抑えられる。
動作開始条件が満足されている場合(ステップS1:Yes)、撮影画像取得部40がカメラ30から撮影画像A1を取得する(ステップS2)。次いで、所定物標認識部48が撮影画像A1を画像認識することで所定物標Fを検出する(ステップS3:所定物標検出処理)。
所定物標Fが撮影画像A1から検出された場合(すなわち、所定物標Fが撮影画像A1に写っている場合)(ステップS4:Yes)、方角情報取得部50は、検出された所定物標Fに対応する方角情報Gを物標データソース46から取得する(ステップS5)。そして、視点軸方角特定部52は、所定物標Fが示唆する方角を方角情報Gに基づいて特定し、当該方角と、撮影画像A1における所定物標Fとカメラ30の視点軸Kとの位置関係と、に基づいて、視点軸Kが指向している方角を特定する(ステップS6)。
このステップS6において、所定物標Fが示唆する方角の特定に、現在位置A2及び現在日時A3が必要な場合、すなわち、方角情報Gが現在位置A2及び現在日時A3をパラメータとした方角を示す場合、視点軸方角特定部52は、現在位置取得部42によって取得された現在位置A2、及び、現在日時取得部44によって取得された現在日時A3を用いて、所定物標Fが示唆する方角を特定する。次いで、視点軸方角特定部52は、当該方角と、撮影画像A1における所定物標Fとカメラ30の視点軸Kとの位置関係と、に基づいて、視点軸Kが指向している方角を特定する。
なお、ステップS6における角度特定の具体的態様については、後に詳述する。
次に、前方方角特定部54は、視点軸Kが指向している方角を、視点軸Kと車体10の前方の基準軸(車両中心軸)とが成す角度α(本実施形態ではα=ゼロ度)に基づき補正することで、車体10の前方が指向している方角を特定し(ステップS7)、この方角を方角利用機器22に出力する(ステップS8)。
これにより、測位を用いることなく、カメラ30の撮影画像A1に基づいて、カメラ30の視点軸Kが指向している方角や車体10の前方が指向している方角が特定される。したがって、これらの方角を測位の精度によらずに特定することができる。
図4及び図5は、撮影画像A1の例と、視点軸Kが指向している方角とを示す模式図である。
例1の撮影画像A1には、十分に成長した向日葵が所定物標Fとして写っている。この場合、視点軸方角特定部52は、撮影画像A1において、向日葵が向いている方角H1が「東」であると特定し、また、向日葵とカメラ30との位置関係に基づき、視点軸Kが向いている方角が「北」であると特定する。
例2の撮影画像A1には、建物の影が所定物標Fとして写っている。この場合、視点軸方角特定部52は、現在位置A2及び現在日時A3に基づいて、太陽が位置する方角を特定し、当該太陽が位置する方角と、建物から延びる影の方向H2とに基づいて、影が延びる方向H2の方角を特定する(図示例では「東」)。そして、視点軸方角特定部52は、影とカメラ30との位置関係に基づき、視点軸Kが向いている方角(図示例では「北」)を特定する。
例3の撮影画像A1には、方角を示唆する人工物であるポール群が所定物標Fとして写っている。この場合、視点軸方角特定部52は、ポール群の配列方向H3が示唆する方角を方角情報Gに基づいて特定する(図示例では「南」)。そして、視点軸方角特定部52は、ポール群とカメラ30との位置関係に基づき、視点軸Kが向いている方角(図示例では「南」)を特定する。
なお、例3において、ポール群には、上述の識別標識Faが付されており、視点軸方角特定部52は、この識別標識Faを画像認識することで、当該ポール群が所定物標Fであると判定する。また、ポール群のうち、配列方向H3の起点に対応するポールには当該起点を示す起点標識Fb1が付されており、終点に対応するポールには当該終点を示す終点標識Fb2が付されている。これら起点標識Fb1及び終点標識Fb2は、配列方向H3における起点から終点への向きを示す上述の方向指示標識Fbの一例であり、視点軸方角特定部52は、これら起点標識Fb1及び終点標識Fb2に基づいて、配列方向H3が指す方向を特定する。
例4の撮影画像A1には、ガードレールが所定物標Fとして写っている。この場合、視点軸方角特定部52は、ガードレールの延在方向H4が示唆する方角を方角情報Gに基づいて特定する(図示例では「北」)。そして、視点軸方角特定部52は、ガードレールの延在方向とカメラ30との位置関係に基づき、視点軸Kが向いている方角(図示例では「北」)を特定する。なお、ガードレールにも、例3のポール群と同様に、方角を示唆する人工物であることを示す識別標識Faと、延在方向H4の向きを示す方向指示標識Fbとが付されている。
例5の撮影画像A1には、路面に描かれた標識である路面標識が所定物標Fとして写っている。この場合、視点軸方角特定部52は、路面標識の表示に基づいて、当該路面標識が示唆する方角を特定する(図示例では「北」)。そして、視点軸方角特定部52は、路面標識とカメラ30との位置関係に基づき、視点軸Kが向いている方角(図示例では「北」)を特定する。なお、所定物標Fが標識である場合には、その標識自体が他の地物と識別可能であるため、識別標識Faの付与は不要であり、また、その標識が示唆する方角が上記方角情報Gに予め格納される。
ここで、例3から例5のように、所定物標Fが人工物である場合、所定物標認識部48は、図3のステップS3及びS4において、車両1が走行中の走行路Mの傍ら(より正確には、所定距離の範囲内であり、例5のように走行路Mの範囲内も含む)に位置する所定物標Fを検出し、視点軸方角特定部52は、かかる所定物標Fに基づき、視点軸Kが指向している方角を特定する。
この動作によれば、示唆する方角が走行路Mの方角を示す所定物標Fが所定物標認識部48によって検出されるため、視点軸Kが指向している方角の特定によって、走行路Mの方角も特定される。したがって、例えば、方角利用機器22が走行路Mをトラッキングする機能を有した機器である場合、かかる方角利用機器22は、地図データ等に記録された走行路Mが示す方角と、方角特定装置36から出力された方角とを比較することで、トラッキング中の走行路Mの正誤を判定するといったことが可能になる。
本実施形態によれば、次の効果を奏する。
本実施形態の方角特定装置36は、車両1に設けられたカメラ30による撮影画像A1を取得する撮影画像取得部40と、方角を示唆する所定物標Fが撮影画像A1に写っている場合に、当該所定物標Fが示唆する方角を示す方角情報Gを取得する方角情報取得部50と、方角情報Gと、撮影画像A1における所定物標Fとカメラ30の視点軸Kとの位置関係と、に基づいて、当該視点軸Kが指向している方角を特定する視点軸方角特定部52と、を備える。
この構成によれば、GNSS受信機などによる測位を用いずに、カメラ30の視点軸Kが指向している方角を特定できる。これにより、測位に適さない環境を車両1が走行中であっても方角を特定できる。
本実施形態の方角特定装置36は、現在位置A2を取得する現在位置取得部42と、現在日時A3を取得する現在日時取得部44と、を備える。そして、上記視点軸方角特定部52は、所定物標Fが示唆する方角が現在位置A2及び現在日時A3によって変わる場合、現在位置取得部42及び現在日時取得部44によって取得された現在位置A2及び現在日時A3に基づいて所定物標Fが示唆する方角を特定し、当該方角に基づいて視点軸Kが指向している方角を特定する。
この構成によれば、示唆する方角が現在位置A2及び現在日時A3に応じて変わる地物も所定物標Fとして扱うことができる。これにより、所定物標Fとして扱うことが可能な地物の選択肢が増え、方角特定装置36の利便性を向上させることができる。
本実施形態の方角特定装置36は、方角を示唆する物標であることを示す識別標識Faが付されているか否かに基づいて、撮影画像A1から所定物標Fを検出する所定物標認識部48を備える。
この構成によれば、撮影画像A1から所定物標Fを正確に検出することができる。
本実施形態の方角特定装置36において、視点軸方角特定部52は、撮影画像A1において車両1が走行中の走行路Mの傍らに位置する所定物標Fに基づき、視点軸Kが指向している方角を特定する。
この構成によれば、示唆する方角が走行路Mの方角を示す所定物標Fに基づき、視点軸Kが指向している方角を特定される。これにより、視点軸Kが指向している方角によって、当該走行路Mの方角も特定することができる。
本実施形態の方角特定装置36は、視点軸Kが指向している方角に基づいて、車両1の前方D1が指向している方角を特定する前方方角特定部54を備える。
この構成によれば、車両1の前方D1が指向している方角を、測位を用いずに特定することができる。
本実施形態の方角特定装置36は、車両1が所定エリアにいる場合、及び、車両1が走行している場合の少なくともいずれか1つの場合に、視点軸Kが指向している方角の特定が視点軸方角特定部52によって行われる。
この構成によれば、方角特定の有効性が低い状況下での動作が抑えられる。
なお、上述した実施形態は、あくまでも本発明の一態様の例示である。すなわち、本発明の主旨を逸脱しない範囲において、上述した実施形態は任意に変形、及び応用が可能であり、かつ、これら実施形態、変形、及び応用に係る各態様は、任意に組み合わせが可能である。
上述した実施形態において、カメラ30の設置台数は1台に限らず、2台以上であってもよい。この場合、方角特定装置36は、カメラ30のそれぞれの撮影画像A1に対して図3に示す処理を施すことで、各カメラ30の視点軸Kが指向している方角を特定することができる。また、方角特定装置36は、各カメラ30の視点軸Kが指向している方角の特定結果を用いて、より精度良く、車両1の前方D1が指向している方角を特定することもできる。
上述した実施形態において、方角特定装置36が備える物標データソース46は、車両1が備える他の車載装置、又は、インターネットなどの電気通信回線に接続された外部のコンピュータに設けられてもよい。
上述した実施形態において、方角特定装置36は方角利用機器22に組み込まれてもよい。
上述した実施形態において、所定物標Fとなる人工物には、識別標識Faを付与する場合を例示した。しかしながら、当該人工物(その部分を含む)が他の物体と識別可能な固有の形状、模様若しくは色彩、又は、これらの結合(以下、「形状など」という)を有する場合は、当該形状などが識別標識Faの代替に用いられても良い。
上述した実施形態において、所定の動作開始条件が成立している場合に(図3:ステップS1:Yes)、視点軸Kが指向している方角の特定が視点軸方角特定部52によって行われる構成を例示したが、視点軸方角特定部52は、所定の動作開始条件の正否にかかわらずに視点軸Kが指向している方角の特定を行てってもよい。さらに、この場合において、前方方角特定部54は、図3に示すステップS1の所定の動作開始条件が成立したときに、前方D1が指向している方角を特定する処理(図3:ステップS7)を実行してもよい。
上述した実施形態において、移動体は車両1ではなく、飛行機、船舶、ドローンやロボットなどでもよい。
に示す機能ブロックは、本願発明を理解容易にするために、方角特定装置36の構成要素を主な処理内容に応じて分類して示した概略図であり、方角特定装置36の構成要素は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。
また、方角特定装置36の各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアにより実行されてもよい。また、各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
(本明細書の開示によりサポートされる構成)
本明細書の開示は、以下の構成をサポートする。
(構成1)
移動体に設けられたカメラによる撮影画像を取得する撮影画像取得部と、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する方角情報取得部と、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定部と、を備えることを特徴とする方角特定装置。
構成1によれば、測位を用いずに方角を特定できる。
(構成2)
現在位置を取得する現在位置取得部と、現在日時を取得する現在日時取得部と、を備え、前記視点軸方角特定部は、前記所定物標が示唆する方角が前記現在位置及び前記現在日時によって変わる場合、前記現在位置取得部及び前記現在日時取得部によって取得された前記現在位置及び前記現在日時に基づいて前記所定物標が示唆する方角を特定し、当該方角に基づいて前記視点軸が指向している方角を特定することを特徴とする構成1に記載の方角特定装置。
構成2によれば、所定物標として扱うことが可能な地物の選択肢が増え、方角特定装置の利便性を向上させることができる。
(構成3)
方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識部を備えることを特徴とする構成1または2に記載の方角特定装置。
構成3によれば、撮影画像から所定物標を正確に検出することができる。
(構成4)
前記視点軸方角特定部は、前記撮影画像において前記移動体が移動中の移動経路の傍らに位置する前記所定物標に基づき、前記視点軸が指向している方角を特定することを特徴とする構成1から3のいずれかに記載の方角特定装置。
構成4によれば、視点軸が指向している方角の特定によって、移動経路の方角も特定される。
(構成5)
前記視点軸が指向している方角に基づいて、前記移動体の前方が指向している方角を特定する前方方角特定部を備える、ことを特徴とする構成1から4のいずれかに記載の方角特定装置。
構成5によれば、移動体の前方が指向している方角を、測位を用いずに特定することができる。
(構成6)
前記移動体が所定エリアにいる場合、及び、前記移動体が移動している場合の少なくともいずれか1つの場合に、前記視点軸が指向している方角の特定が前記視点軸方角特定部によって行われることを特徴とする構成1から構成5のいずれかに記載の方角特定装置。
構成6によれば、方角特定の有効性が低い状況下での動作が抑えられる。
(構成7)
方角を特定する方角特定装置による方角特定方法おいて、前記方角特定装置が、移動体に設けられたカメラによる撮影画像を取得するステップと、方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得するステップと、前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定するステップと、を備えることを特徴とする。
構成7によれば、測位を用いずに方角を特定できる。
1 車両(移動体)
20 方角特定システム
22 方角利用機器
30 カメラ
36 方角特定装置
40 撮影画像取得部
42 現在位置取得部
44 現在日時取得部
48 所定物標認識部
50 方角情報取得部
52 視点軸方角特定部
54 前方方角特定部
A1 撮影画像
A2 現在位置
A3 現在日時
D1 前方
F 所定物標
Fa 識別標識
G 方角情報
K 視点軸

Claims (6)

  1. 移動体に設けられたカメラによる撮影画像を取得する撮影画像取得部と、
    方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する方角情報取得部と、
    前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定部と、
    方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識部と、を備え、
    前記視点軸方角特定部は、前記所定物標認識部により、前記識別標識が付されて方角を示唆するポール群である前記所定物標が検出された場合に、前記ポール群の配列方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ポール群の配列方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定する
    方角特定装置。
  2. 移動体に設けられたカメラによる撮影画像を取得する撮影画像取得部と、
    方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得する方角情報取得部と、
    前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定部と、
    方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識部と、を備え、
    前記視点軸方角特定部は、前記所定物標認識部により、前記識別標識が付されて方角を示唆するガードレールである前記所定物標が検出された場合に、前記ガードレールの延在方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ガードレールの延在方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定する
    方角特定装置。
  3. 前記視点軸が指向している方角に基づいて、前記移動体の前方が指向している方角を特定する前方方角特定部を備える、
    ことを特徴とする請求項1又は請求項2に記載の方角特定装置。
  4. 前記移動体が所定エリアにいる場合、及び、前記移動体が移動している場合の少なくともいずれか1つの場合に、前記視点軸が指向している方角の特定が前記視点軸方角特定部によって行われる
    ことを特徴とする請求項1から請求項3のうちいずれか1項に記載の方角特定装置。
  5. 方角を特定する方角特定装置による方角特定方法おいて、
    前記方角特定装置が、
    移動体に設けられたカメラによる撮影画像を取得するステップと、
    方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得するステップと、
    前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定ステップと、
    方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識ステップと、を備え、
    前記視点軸方角特定ステップは、前記所定物標認識ステップにより、前記識別標識が付されて方角を示唆するポール群である前記所定物標が検出された場合に、前記ポール群の配列方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ポール群の配列方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定する
    方角特定方法。
  6. 方角を特定する方角特定装置による方角特定方法おいて、
    前記方角特定装置が、
    移動体に設けられたカメラによる撮影画像を取得するステップと、
    方角を示唆する所定物標が前記撮影画像に写っている場合に、当該所定物標が示唆する方角を示す方角情報を取得するステップと、
    前記方角情報と、前記撮影画像における前記所定物標と前記カメラの視点軸との位置関係と、に基づいて、当該視点軸が指向している方角を特定する視点軸方角特定ステップと、
    方角を示唆する物標であることを示す識別標識が付されているか否かに基づいて、前記撮影画像から前記所定物標を検出する所定物標認識ステップと、を備え、
    前記視点軸方角特定ステップは、前記所定物標認識ステップにより、前記識別標識が付されて方角を示唆するガードレールである前記所定物標が検出された場合に、前記ガードレールの延在方向が示唆する方角を前記方角情報に基づいて特定し、前記撮影画像における前記ガードレールの延在方向と前記カメラの視点軸との位置関係に基づいて、前記視点軸が指向している方角を特定する
    方角特定方法。
JP2022025265A 2022-02-22 2022-02-22 方角特定装置、及び方角特定方法 Active JP7407213B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022025265A JP7407213B2 (ja) 2022-02-22 2022-02-22 方角特定装置、及び方角特定方法
CN202310026004.6A CN116643302A (zh) 2022-02-22 2023-01-09 方位确定装置和方位确定方法
US18/159,795 US20230267645A1 (en) 2022-02-22 2023-01-26 Angular direction identifying device and angular direction identifying method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022025265A JP7407213B2 (ja) 2022-02-22 2022-02-22 方角特定装置、及び方角特定方法

Publications (2)

Publication Number Publication Date
JP2023121914A JP2023121914A (ja) 2023-09-01
JP7407213B2 true JP7407213B2 (ja) 2023-12-28

Family

ID=87574670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022025265A Active JP7407213B2 (ja) 2022-02-22 2022-02-22 方角特定装置、及び方角特定方法

Country Status (3)

Country Link
US (1) US20230267645A1 (ja)
JP (1) JP7407213B2 (ja)
CN (1) CN116643302A (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157778A (ja) 2007-12-27 2009-07-16 Kenwood Corp 車載器,出力可否判定方法,道路通信システムおよびプログラム
JP2011002346A (ja) 2009-06-19 2011-01-06 Fujitsu Ten Ltd 信号処理装置、及びレーダ装置
JP2012122760A (ja) 2010-12-06 2012-06-28 Aisin Aw Co Ltd 自車位置認識システム、自車位置認識プログラム、及び自車位置認識方法
JP2015165246A (ja) 2010-05-07 2015-09-17 クアルコム,インコーポレイテッド 方位センサの較正
WO2018142533A1 (ja) 2017-02-02 2018-08-09 三菱電機株式会社 位置姿勢推定装置および位置姿勢推定方法
US20210206403A1 (en) 2020-01-03 2021-07-08 Westinghouse Air Brake Technologies Corporation Systems and methods for vehicle orientation determination

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157778A (ja) 2007-12-27 2009-07-16 Kenwood Corp 車載器,出力可否判定方法,道路通信システムおよびプログラム
JP2011002346A (ja) 2009-06-19 2011-01-06 Fujitsu Ten Ltd 信号処理装置、及びレーダ装置
JP2015165246A (ja) 2010-05-07 2015-09-17 クアルコム,インコーポレイテッド 方位センサの較正
JP2012122760A (ja) 2010-12-06 2012-06-28 Aisin Aw Co Ltd 自車位置認識システム、自車位置認識プログラム、及び自車位置認識方法
WO2018142533A1 (ja) 2017-02-02 2018-08-09 三菱電機株式会社 位置姿勢推定装置および位置姿勢推定方法
US20210206403A1 (en) 2020-01-03 2021-07-08 Westinghouse Air Brake Technologies Corporation Systems and methods for vehicle orientation determination

Also Published As

Publication number Publication date
US20230267645A1 (en) 2023-08-24
CN116643302A (zh) 2023-08-25
JP2023121914A (ja) 2023-09-01

Similar Documents

Publication Publication Date Title
CN110869700B (zh) 用于确定车辆位置的***和方法
JP7082545B2 (ja) 情報処理方法、情報処理装置およびプログラム
JP7240367B2 (ja) 車両の位置特定に用いられる方法、装置、電子デバイス及び記憶媒体
JP6241422B2 (ja) 運転支援装置、運転支援方法、および運転支援プログラムを記憶する記録媒体
US9767372B2 (en) Target detection apparatus and target detection method
CN110889808B (zh) 一种定位的方法、装置、设备及存储介质
US9779315B2 (en) Traffic signal recognition apparatus and traffic signal recognition method
AU2005250916B2 (en) Image-augmented inertial navigation system (IAINS) and method
CN112051590A (zh) 激光雷达与惯性测量单元的检测方法及相关装置
CN112051591B (zh) 一种激光雷达与惯性测量单元的检测方法及相关装置
US10254767B1 (en) Determining position or orientation relative to a marker
Yan et al. Opencalib: A multi-sensor calibration toolbox for autonomous driving
JP6479296B2 (ja) 位置姿勢推定装置および位置姿勢推定方法
US20170199038A1 (en) Flight guidance system
CN107044853B (zh) 用于确定地标的方法和装置以及用于定位的方法和装置
JP6989284B2 (ja) 車両位置推定装置及びプログラム
CN103344979A (zh) 一种旷野目标的无人机搜索定位方法
JP2023521700A (ja) 視覚キュー型ランダムアクセスlidarシステム、並びに、所在特定及びナビゲーションのための方法
CN210038170U (zh) 一种紧耦合的自动驾驶感知***
KR20210073281A (ko) 운동 정보 추정 방법 및 장치
JP2009177666A (ja) 追尾装置及び追尾方法
US20210190509A1 (en) Position estimating apparatus and position estimating method
WO2017199369A1 (ja) 地物認識装置、地物認識方法およびプログラム
WO2014020949A1 (ja) 通信装置、通信機、通信システム、通信方法、位置特定方法および記録媒体
EP3885706B1 (en) Real-time localization error correction by consumer automated vehicles

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R150 Certificate of patent or registration of utility model

Ref document number: 7407213

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150