JP7192907B2 - 俯瞰映像生成装置及び俯瞰映像生成方法 - Google Patents

俯瞰映像生成装置及び俯瞰映像生成方法 Download PDF

Info

Publication number
JP7192907B2
JP7192907B2 JP2021062961A JP2021062961A JP7192907B2 JP 7192907 B2 JP7192907 B2 JP 7192907B2 JP 2021062961 A JP2021062961 A JP 2021062961A JP 2021062961 A JP2021062961 A JP 2021062961A JP 7192907 B2 JP7192907 B2 JP 7192907B2
Authority
JP
Japan
Prior art keywords
map
display
bird
eye view
view image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021062961A
Other languages
English (en)
Other versions
JP2021107820A (ja
Inventor
拓之 照内
紘史 谷山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2021062961A priority Critical patent/JP7192907B2/ja
Publication of JP2021107820A publication Critical patent/JP2021107820A/ja
Application granted granted Critical
Publication of JP7192907B2 publication Critical patent/JP7192907B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、俯瞰映像生成装置及び俯瞰映像生成方法に関する。
従来、車両の周囲に設置された複数のカメラで車両周辺を撮影し、撮影した複数の映像に視点変換処理を行い合成した俯瞰映像を、例えば車両の後退時にモニタに表示させる技術が知られている(例えば、特許文献1参照)。この技術では、一般的に、表示画面内の中央部に車両を示すアイコンが表示され、俯瞰映像内で車両に対する周囲との位置関係が明確に認識可能となっている。また、一般的に、俯瞰映像は、車両の前方向が表示画面内の上方向と一致するように表示される。
特開2014-129093号公報
上記特許文献1に記載のような俯瞰映像は、車両の後進時に限られず、幅員の狭い道路の走行時といった様々なシチュエーションでモニタに表示される。また、近年、車両における情報表示用モニタの大型化や高精細化が進み、一つのモニタに様々な情報を同時に表示させることがある。例えば、ナビゲーションシステムによる地図の表示と、俯瞰映像の表示とを同時に行う場合がある。上述したように、俯瞰映像については、車両の前方向を表示画面内の上方向とされることが一般的であることに対し、ナビゲーションシステムによる地図は、北方向を表示画面内の上方向としたノースアップ等、種々の向きで表示される。このように、地図の表示向きと俯瞰映像の表示向きとが異なっていると、ユーザがモニタに表示される情報を速やかに認識することができないおそれがある。
本発明は、上記に鑑みてなされたものであって、車両において表示部に表示される車両の俯瞰映像及び地図の情報を、ユーザが速やかに認識可能とすることを目的とする。
上述した課題を解決し、目的を達成するために、本発明に係る俯瞰映像生成装置は、車両の周辺を撮影した周辺映像データを取得する映像データ取得部と、表示部の表示画面に表示される地図の縮尺情報および前記表示画面の上方に設定される方向を示す表示向き情報を取得する地図表示情報取得部と、前記映像データ取得部で取得した前記周辺映像データに対して視点変換処理および合成処理を行うことで俯瞰映像を生成し、前記表示部の前記表示画面に表示させる制御部と、を備え、前記制御部は、前記地図表示情報取得部で取得した前記地図の縮尺が所定値以上であるとき、前記俯瞰映像に表示されている自車両アイコンの前方向の表示向きに、前記地図の表示向きを一致させる表示向き調整処理を実行することを特徴とする。
さらに、前記制御部は、前記地図を取得し、前記地図表示情報取得部で取得した縮尺が前記所定値以上であるとき、前記表示向き調整処理を実行すると共に、そのままの前記縮尺で前記地図を前記表示部に表示させ、前記地図表示情報取得部で取得した前記縮尺が前記所定値未満であるとき、前記表示向き調整処理を実行すると共に、前記所定値以上の縮尺に変更して前記地図を前記表示部に表示させることを特徴とする。
さらに、前記制御部は、前記地図を取得し、前記地図及び前記俯瞰映像の双方を同一の前記表示部に表示させることを特徴とする。
上述した課題を解決し、目的を達成するために、本発明に係る俯瞰映像生成方法は、車両の周辺を撮影した周辺映像データを取得する映像データ取得ステップと、表示部の表示画面に表示される地図の、前記表示画面の上方に設定される方向を示す表示向き情報を取得する地図表示情報取得ステップと、前記映像データ取得ステップで取得した前記周辺映像データに対して視点変換処理および合成処理を行うことで俯瞰映像を生成し、前記表示部の表示画面に表示させる制御ステップと、を含み、前記制御ステップにおいては、前記地図表示情報取得ステップで取得した前記地図の縮尺が所定値以上であるとき、前記俯瞰映像に表示されている自車両アイコンの前方向の表示向きに、前記地図の表示向きを一致させる表示向き調整処理を実行することを特徴とする。
本発明に係る俯瞰映像生成装置及び俯瞰映像生成方法は、車両において表示部に表示される車両の俯瞰映像及び地図の情報を、ユーザが速やかに認識可能とすることができる、という効果を奏する。
図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。 図2は、第一実施形態に係る俯瞰映像生成システムにおける仮想視点の位置の一例を説明する概略図である。 図3は、第一実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図の一例を示す説明図である。 図4は、第一実施形態に係る俯瞰映像生成システムにおいて表示向き調整処理を行った場合の俯瞰映像及び地図の一例を示す説明図である。 図5は、第一実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。 図6は、第二実施形態に係る俯瞰映像生成システムにおいて生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。 図7は、第二実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。 図8は、第三実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。 図9は、第四実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。 図10は、第四実施形態に係る俯瞰映像生成システムにおける仮想視点の位置の一例を示す説明図である。 図11は、第四実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。 図12は、第四実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図の他の例を示す説明図である。 図13は、第五実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。 図14は、第五実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。
以下に添付図面を参照して、本発明に係る俯瞰映像生成装置40、俯瞰映像生成システム1、俯瞰映像生成方法及びプログラムの実施形態を図面に基づいて詳細に説明する。なお、以下の実施形態によりこの発明が限定されるものではない。
以下の説明においては、前後方向とは、車両直進時の進行方向と平行な方向であり、運転席からウインドシールドに向かう側を前後方向の「前」、ウインドシールドから運転席に向かう側を前後方向の「後」とする。前後方向を、X軸方向とする。左右方向とは、前後方向に対して水平に直交する方向である。ウインドシールドへ向かって、左手側が「左」、右手側が「右」である。左右方向を、Y軸方向とする。上下方向とは、前後方向および左右方向に対して直交する方向である。上下方向を、Z軸方向とする。したがって、前後方向、左右方向および鉛直方向は、3次元で直交する。以下の説明における前後、左右、上下は、俯瞰映像生成システム1を車両に搭載した状態での前後、左右、上下である。
[第一実施形態]
図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。俯瞰映像生成システム1は、車両Vに搭載されている。俯瞰映像生成システム1は、車両Vに搭載されているものに加えて、可搬型で車両Vにおいて利用可能な装置であってもよい。
図1を用いて、俯瞰映像生成システム1について説明する。俯瞰映像生成システム1は、前方カメラ11と、後方カメラ12と、左側方カメラ13と、右側方カメラ14と、地図情報記憶部21と、現在位置情報検出部22と、設定操作部23と、表示パネル(表示部)30と、俯瞰映像生成装置40と、ナビゲーション処理装置50とを有する。俯瞰映像生成システム1は、車両Vの俯瞰映像100(図3参照)を生成する。
図2を用いて、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とについて説明する。図2は、第一実施形態に係る俯瞰映像生成システムにおける仮想視点の位置の一例を説明する概略図である。前方カメラ11は、車両Vの前方に配置され、車両Vの前方を中心とした周辺を撮影する。前方カメラ11は、例えば、180°程度の撮影範囲A1を撮影する。前方カメラ11は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。
後方カメラ12は、車両Vの後に配置され、車両Vの後方を中心とした周辺を撮影する。後方カメラ12は、例えば、180°程度の撮影範囲A2を撮影する。後方カメラ12は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。
左側方カメラ13は、車両Vの左側方に配置され、車両Vの左側方を中心とした周辺を撮影する。左側方カメラ13は、例えば、180°程度の撮影範囲A3を撮影する。左側方カメラ13は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。
右側方カメラ14(図1参照)は、車両Vの右側方に配置され、車両Vの右側方を中心とした周辺を撮影する。右側方カメラ14は、例えば、180°程度の図示しない撮影範囲を撮影する。右側方カメラ14は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。
このような前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで、車両Vの全方位を撮影する。
図1に戻って、地図情報記憶部21は、地図情報を記憶する。地図情報は、例えば、交差点を含む道路地図である。地図情報記憶部21は、記憶している地図情報をナビゲーション処理装置50の案内地図生成部(地図生成部)53へと出力する。地図情報記憶部21は、図示しない通信機能を介して地図情報を取得する外部サーバ等の記憶装置であってもよい。
現在位置情報検出部22は、車両Vの現在位置を検出する。現在位置情報検出部22は、例えば、GPS(Global Positioning System)受信機を含み、GPSからの信号に基づいて現在位置を演算することで現在位置を検出する。現在位置情報検出部22は、検出した車両Vの現在位置情報をナビゲーション処理装置50の現在位置取得部51へと出力する。
設定操作部23は、ナビゲーション処理装置50の設定操作をユーザが入力可能なインターフェースである。設定操作部23は、例えば、リモートコントローラ等である。設定操作部23は、例えば、タッチパネルとされた表示パネル30と兼用されてもよい。設定操作部23は、音声認識機能を備え、音声入力を行うインターフェースであってもよい。設定操作部23は、ユーザから入力された設定操作情報をナビゲーション処理装置50の案内設定部52に出力する。ユーザから入力された設定操作情報は、例えば、表示パネル30に表示される地図200(図3参照)の表示向きの設定操作の内容や、地図200の縮尺の設定操作の内容、目的地の設定操作の内容等が含まれる。
表示パネル30は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイを含むディスプレイである。表示パネル30は、例えば、タッチパネル式のディスプレイである。表示パネル30は、ユーザから視認容易な位置に配置されている。
表示パネル30は、俯瞰映像生成システム1の俯瞰映像生成装置40から出力された映像信号に基づいて、俯瞰映像100を表示する(図3参照)。また、本実施形態において、表示パネル30は、俯瞰映像100に加えて、ナビゲーション処理装置50から出力された信号に基づいて、地図200を表示する(図3参照)。地図200には、経路案内表示が含まれる。表示パネル30は、俯瞰映像100を表示するための表示パネルと、地図200を表示するための表示パネルとを含む複数の表示パネルから構成されてもよい。この場合、表示パネル30は、スマートフォンといった携帯通信機器のディスプレイであってもよい。また、表示パネル30は、回転可能な可動式のディスプレイであってもよく、自らの回転にあわせて画面内の表示情報を回転させて表示可能なものであってもよい。
表示パネル30は、本実施形態では、横長の矩形状のパネルである。なお、表示パネル30は、縦長の矩形状のパネルであってもよいし、矩形状以外の形状であってもよい。表示パネル30は、本実施形態では、複数の表示範囲に分割される。表示パネル30は、俯瞰映像100を表示する表示範囲と、俯瞰映像100の表示範囲の側方に配置された地図200を表示する表示範囲とを有する。本実施形態において、俯瞰映像100を表示する表示範囲は、縦横比が1対1とされた矩形状の範囲である。すなわち、制御部41は、縦横比が1対1とされた俯瞰映像100を表示パネル30に表示させる。なお、俯瞰映像100を表示する表示範囲は、矩形状に限られず、縦横比が1対1とされた円形状や菱形形状であってもよいし、縦横比が1対1でなくてもよい。表示パネル30は、オーディオ画面といった他の情報を表示する表示範囲を含んでもよい。
俯瞰映像生成装置40は、制御部41と、記憶部49とを有する。
制御部41は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置である。制御部41は、記憶部49に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。制御部41は、映像データ取得部42と、地図表示情報取得部43と、車両情報取得部44と、俯瞰映像生成部45と、表示制御部46とを有する。
映像データ取得部42は、車両Vの周辺を撮影した周辺映像データを取得する。より詳しくは、映像データ取得部42は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とが出力した周辺映像データを取得する。映像データ取得部42は、取得した周辺映像データを俯瞰映像生成部45に出力する。
地図表示情報取得部43は、ナビゲーション処理装置50の案内地図生成部53から地図200の表示向き情報を取得する。地図表示情報取得部43は、取得した地図表示情報を表示制御部46に出力する。
ここで、「地図200の表示向き」は、表示パネル30において画面内の上方に設定される方向を意味する。より詳しくは、「表示向き」は、ヘッディングアップの場合と、ヘッディングアップ以外の場合とがある。「ヘッディングアップの場合」とは、車両Vの前側が画面内の上方に設定される場合をいう。「ヘッディングアップ以外の場合」とは、ノースアップ、目的地アップ及びユーザ操作に従った場合等がある。「ノースアップ」とは、北方向が画面内の上方に設定される場合をいう。「目的地アップ」とは、地図200において設定される目的地が画面内の上方に設定される場合をいう。「ユーザ操作に従った場合」とは、ユーザが任意に設定した方向が画面内の上方に設定される場合をいう。
車両情報取得部44は、車両Vのギア操作情報など、俯瞰映像100を表示させるためのトリガとなる車両情報を、CAN(Controller Area Network)や車両Vの状態をセンシングする各種センサなどから取得する。本実施形態では、車両情報は、車両Vの進行方向を示す情報を含む。車両情報取得部44は、地図200を生成するナビゲーション処理装置50の案内地図生成部53から、例えば車両Vが所定幅未満の幅員の狭い道路を走行している旨といった俯瞰映像100の表示トリガとなる車両情報を取得する。車両情報取得部44は、取得した車両情報を俯瞰映像生成部45に出力する。
俯瞰映像生成部45は、映像データ取得部42が取得した周辺映像データに視点変換処理を行い合成することで、車両Vの上方を仮想視点Pとした俯瞰映像100を生成する。
図2を用いて、仮想視点Pについて説明する。仮想視点Pは、車両Vの中央の上方に位置している。仮想視点Pは、車両Vの中央の真上から見下すような視点である。車両Vの中央とは、車両Vの車幅方向の中央、かつ、前後方向の中央である。車両Vの真上とは、車両Vの基準面の垂線上の位置である。基準面とは、車両Vが水平かつ平坦な路面上に位置しているときに路面と水平な平面である。仮想視点Pの位置を(x,y,z)とする。
図3を用いて、生成された俯瞰映像100について説明する。図3は、第一実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図の一例を示す説明図である。俯瞰映像100は、表示範囲A(図2参照)の周辺映像を、仮想視点Pとして視点変換処理をした映像を合成して表示する。本実施形態において、俯瞰映像生成部45は、基本的に、表示向きがヘッディングアップ、すなわち車両Vの前側が画面内の上方に設定された俯瞰映像100を生成する。俯瞰映像生成部45は、種々の条件に応じて、表示向きがヘッディングアップ以外、すなわち車両Vの前側が画面内の上方以外の方向に設定された俯瞰映像100を生成してもよい。俯瞰映像100は、前方映像101と後方映像102と左側方映像103と右側方映像104とを含む。前方映像101の表示面積と後方映像102の表示面積とは同じ広さである。左側方映像103の表示面積と右側方映像104の表示面積とは同じ広さである。俯瞰映像100の中央部は、車両Vを示す自車両アイコン110が表示されている。自車両アイコン110は、車両Vを真上から見下した形態を示す。
図3においては、前方映像101と左側方映像103との合成境界B1と、前方映像101と右側方映像104との合成境界B2と、後方映像102と左側方映像103との合成境界B3と、後方映像102と右側方映像104との合成境界B4とを示す斜めの破線を説明のために図示しているが、実際に表示パネル30に表示される俯瞰映像100には当該破線は表示されても表示されなくてもよい。他の図も同様である。
俯瞰映像生成部45は、俯瞰映像表示を開始するとき、映像データ取得部42が取得した周辺映像を、車両Vが俯瞰できるように、車両Vの真上に位置する仮想視点Pから視点変換処理を行って合成した俯瞰映像を生成する。「俯瞰映像表示を開始するとき」とは、例えば、車両Vが所定幅未満の幅員の狭い道路を走行するときや、車両Vが後退するとき、ユーザからの操作部に対する俯瞰映像表示開始の操作の検出がなされたとき等である。「操作部」は、例えば、タッチパネル式の表示パネル30であってもよい。「操作部」は、設定操作部23と兼用されてもよい。
俯瞰映像生成部45は、視点変換処理部451と、切出処理部452と、合成処理部453とを有する。
視点変換処理部451は、映像データ取得部42で取得した周辺映像データに対して、車両Vを上方の仮想視点Pから見下ろすように視点変換処理を行う。より詳しくは、視点変換処理部451は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで撮影した周辺映像データに基づいて、視点変換処理を行った映像を生成する。視点変換処理の方法は、公知のいずれの方法でもよく、限定されない。視点変換処理部451は、視点変換処理を行った周辺映像データを切出処理部452に出力する。
切出処理部452は、視点変換処理を行った周辺映像データから所定の範囲の映像を切出す切出処理を行う。切出処理部452は、視点変換処理を行った前方カメラ11からの周辺映像データから、前方切出範囲を切出す。切出処理部452は、視点変換処理を行った後方カメラ12からの周辺映像データから、後方切出範囲を切出す。切出処理部452は、視点変換処理を行った左側方カメラ13からの周辺映像データから、左側方切出範囲を切出す。切出処理部452は、視点変換処理を行った右側方カメラ14からの周辺映像データから、右側方切出範囲を切出す。切出処理部452は、切出処理を行った映像の映像データを合成処理部453に出力する。
前方切出範囲は、視点変換処理を行った周辺映像データから前方映像101を切出す範囲である。前方切出範囲は、車両Vの前端部から前方の範囲である。後方切出範囲は、視点変換処理を行った周辺映像データから後方映像102を切出す範囲である。後方切出範囲は、車両Vの後端部から後方の範囲である。左側方切出範囲は、視点変換処理を行った周辺映像データから左側方映像103を切出す範囲である。左側方切出範囲は、車両Vの左側部から左方の範囲である。右側方切出範囲は、視点変換処理を行った周辺映像データから右側方映像104を切出す範囲である。右側方切出範囲は、車両Vの右側部から右方の範囲である。
合成処理部453は、切出処理部452で切出した複数の映像を合成し、俯瞰映像100を生成する。合成処理部453は、生成した俯瞰映像100を表示制御部46に出力する。
合成処理部453は、視点変換処理を行った映像を合成する場合、合成した俯瞰映像の中央部に、仮想視点から見た自車両の形態を模した自車両アイコン110を合成する。仮想視点位置を車両Vの真上から見下した場合の仮想視点Pとした場合の自車両アイコンは、図3に示す自車両アイコン110のように自車両を真上から見たような形態である。自車両アイコンは、自車両アイコンによる死角が生じないような表示形態とすることが好ましい。例えば、自車両アイコンは、半透過としてもよい。例えば、自車両アイコンは、外形を示す枠状としてもよい。
図1に戻って、表示制御部46は、俯瞰映像100を表示パネル30に表示させる。本実施形態において、表示制御部46は、ナビゲーション処理装置50で生成された地図200を表示パネル30に表示させる。すなわち、本実施形態において、俯瞰映像生成装置40とナビゲーション処理装置50とは、表示制御部46を兼用する。なお、ナビゲーション処理装置50は、表示制御部46とは別に、地図200を表示パネル30に表示させるための表示制御部を有してもよい。
表示制御部46は、地図200の表示向きがヘッディングアップ以外であるとき、地図200の表示向きと俯瞰映像100の表示向きとを一致させる表示向き調整処理を実行する。より詳しくは、表示制御部46は、図4に示すように、地図200において画面内に自車両アイコン210として示される車両Vの前方向(図中の二点鎖線矢印に沿った方向)と、俯瞰映像100において自車両アイコン110として示される車両Vの前方向(図中の一点鎖線矢印に沿った方向)とを一致させる。図4は、第一実施形態に係る俯瞰映像生成システムにおいて表示向き調整処理を行った場合の俯瞰映像及び地図の一例を示す説明図である。図4に示す例では、地図200の表示向きがノースアップに設定されている。図示するように、地図200の表示向きがノースアップであり、自車両アイコン210として示される車両Vの前方向が画面内の上下方向に対して傾斜している。この場合、表示制御部46は、表示向き調整処理の実行により、俯瞰映像100における車両Vの前方向も、自車両アイコン210として示される車両Vの前方向と同一の角度で、画面内の上下方向に対して傾斜させるように、俯瞰映像100を回転させる。表示制御部46は、地図200の表示向きが目的地アップの場合、ユーザ操作に従ったものである場合にも、同様の表示向き調整処理を実行する。表示制御部46は、表示向き調整処理により地図200と表示向きが一致した俯瞰映像100を表示パネル30に出力する。
表示制御部46は、地図200の表示向きがヘッディングアップであるとき、表示向き調整処理を実行しない。表示制御部46は、地図200の表示向きがヘッディングアップであるとき、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向き(本実施形態ではヘッディングアップの表示向き)で表示パネル30に出力する。
記憶部49は、俯瞰映像生成装置40における各種処理に要するデータおよび各種処理結果を記憶する。記憶部49は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。
ナビゲーション処理装置50は、現在位置取得部51と、案内設定部52と、案内地図生成部(地図生成部)53とを有する。なお、ナビゲーション処理装置50は、各種処理に要するデータおよび各種処理結果を記憶する図示しない記憶部を有する。図示しない記憶部は、記憶部49と兼用されてもよい。
現在位置取得部51は、現在位置情報検出部22から車両Vの現在位置情報を取得する。現在位置取得部51は、取得した車両Vの現在位置情報を案内地図生成部53へと出力する。
案内設定部52は、設定操作部23からナビゲーション処理装置50の設定操作情報を取得する。案内設定部52は、取得した設定操作情報に基づいて、地図200の表示向きや、地図200の縮尺、目的地等を設定し、設定した地図200の設定情報を案内地図生成部53に出力する。
案内地図生成部53は、地図情報記憶部21から地図情報を取得する。案内地図生成部53は、現在位置取得部51から車両Vの現在位置情報を取得する。案内地図生成部53は、案内設定部52から地図200の設定情報を取得する。案内地図生成部53は、取得した地図情報と、車両Vの現在位置情報と、設定情報とに基づいて、地図200を生成する。より詳しくは、案内地図生成部53は、車両Vの現在位置を示す自車両アイコン210を地図情報に重ねて描画した地図200を生成する。案内地図生成部53は、地図200の設定情報にユーザが設定した目的地が含まれる場合、車両Vの現在位置から設定情報に含まれる目的地までの案内経路を生成し、生成した案内経路を地図200にさらに重ねて描画する。案内地図生成部53は、生成した地図200を表示制御部46に出力する。案内地図生成部53は、生成した地図200の表示向き情報を俯瞰映像生成装置40の地図表示情報取得部43に出力する。案内地図生成部53は、生成した地図200に基づいて、例えば車両Vが所定幅未満の幅員の狭い道路を走行している旨といった俯瞰映像100の表示トリガとなる車両情報を俯瞰映像生成装置40の車両情報取得部44に出力する。
次に、図5を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図5は、第一実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。図5に示すフローチャートは、制御部41により実行される。
制御部41は、俯瞰映像表示を開始するか否かを判定する(ステップS11)。本実施形態では、制御部41は、表示トリガ、後退トリガ及び操作部に対する俯瞰映像表示開始の操作の検出の有無に基づいて、俯瞰映像表示を開始するか否かを判定する。「表示トリガ」とは、上述したように、例えば、車両Vが所定幅未満の幅員の狭い道路を走行している旨といった車両情報である。「後退トリガ」とは、例えば、シフトポジションが「リバース」とされたことをいう。または、「後退トリガ」とは、車両Vの進行方向が車両Vの後方となったことをいう。制御部41は、俯瞰映像表示を開始しないと判定したとき(ステップS11でNo)、ステップS11の処理を再度実行する。制御部41は、俯瞰映像表示を開始すると判定したとき(ステップS11でYes)、ステップS12に進む。
制御部41は、地図200の表示向きを取得する(ステップS12)。より詳しくは、制御部41は、地図表示情報取得部43で案内地図生成部53から地図200の表示向き情報を取得し、ステップS13に進む。
制御部41は、地図200の表示向きがヘッディングアップであるか否かを判定する(ステップS13)。より詳しくは、制御部41は、地図表示情報取得部43で取得した地図200の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかを判定する。制御部41は、地図200の表示向きがヘッディングアップであると判定したとき(ステップS13でYes)、ステップS14に進む。制御部41は、地図200の表示向きがヘッディングアップでないと判定したとき(ステップS13でNo)、ステップS15に進む。
制御部41は、ヘッディングアップの俯瞰映像100を生成し表示する(ステップS14)。より詳しくは、制御部41は、俯瞰映像生成部45において、映像データ取得部42で取得した周辺映像データから車両Vを仮想視点Pで上方から見下ろすように視点変換処理を行い、表示向きがヘッディングアップとされた俯瞰映像100を生成させ、表示制御部46へと出力させる。制御部41は、図3に示すように、表示制御部46で俯瞰映像生成部45から取得した俯瞰映像100を、そのままの表示向きで表示パネル30に出力し、表示させる。制御部41は、ステップS16に進む。
制御部41は、地図200の表示向きにあわせた俯瞰映像100を生成し表示する(ステップS15)。すなわち、制御部41は、地図表示情報取得部43で取得した地図200の表示向き情報に基づいて、地図200の表示向きと俯瞰映像100の表示向きとを一致させる表示向き調整処理を実行する。より詳しくは、制御部41は、俯瞰映像生成部45において、映像データ取得部42で取得した周辺映像データから車両Vを仮想視点Pで上方から見下ろすように視点変換処理を行い、表示向きがヘッディングアップとされた俯瞰映像100を生成させ、表示制御部46へと出力させる。制御部41は、表示制御部46で俯瞰映像生成部45から取得した俯瞰映像100を回転させて、地図200において画面内に自車両アイコン210として示される車両Vの前方向と、俯瞰映像100における車両Vの前方向とを一致させ、表示パネル30に出力し、表示させる。制御部41は、ステップS16に進む。
制御部41は、俯瞰映像表示を終了するか否かを判定する(ステップS16)。より詳しくは、制御部41は、表示終了トリガ、後退終了トリガ及び操作部に対する俯瞰映像表示終了の操作の検出の有無に基づいて、俯瞰映像表示を終了するか否かを判定する。「表示終了トリガ」とは、例えば、車両Vが所定幅未満の幅員の狭い道路を走行している旨といった表示トリガとなる車両情報が車両情報取得部44に出力されなくなったことをいう。「後退終了トリガ」とは、例えば、シフトポジションが「リバース」から他のポジションとなったことをいう。制御部41は、俯瞰映像表示を終了しないと判定したとき(ステップS16でNo)、ステップS12に戻って処理を継続する。制御部41は、俯瞰映像表示を終了すると判定したとき(ステップS16でYes)、処理を終了する。
以上説明したように、本実施形態は、地図200の表示向きと俯瞰映像100の表示向きとを一致させる表示向き調整処理を実行し、表示向きが地図200の表示向きと一致した俯瞰映像100を表示パネル30に表示させる(ステップS15)。
この構成によれば、地図200における車両Vの前方向と、俯瞰映像100における車両Vの前方向とを一致させることができる。その結果、車両Vの周辺の道路や建物等の情報を含めて、ユーザが地図200に表示される情報と俯瞰映像100に表示される情報とを視覚的に対応づけて捉えることが可能となる。従って、本実施形態は、車両Vにおいて表示パネル30に表示される車両Vの俯瞰映像100及び地図200の情報を、ユーザが速やかに認識可能とすることができる。
また、制御部41は、地図表示情報取得部43で取得した地図200の表示向きがヘッディングアップ以外であるとき(ステップS13でNo)、表示向き調整処理を実行し(ステップS15)、地図表示情報取得部43で取得した地図200の表示向きがヘッディングアップであるとき(ステップS13でYes)、表示向き調整処理を実行しない(ステップS14)。
この構成によれば、地図200の表示向きが例えばノースアップ等であり、地図200における車両Vの前方向が時々刻々と変化し得る場合、俯瞰映像100においても、車両Vの前方向を地図200と同じ方向を取らせることができる。従って、車両Vにおいて表示パネル30に表示される車両Vの俯瞰映像100及び地図200の情報を、ユーザがより確実に認識可能とすることができる。また、地図200の表示向きがヘッディングアップであり、地図200における車両Vの前方向が常に一定の方向を取る場合には、表示向き調整処理を実行しないことで、俯瞰映像100を状況に合わせた表示向き(本実施形態では、ヘッディングアップ)で表示させることができる。なお、俯瞰映像100を状況に合わせた表示向きで表示させるとは、ヘッディングアップに限られず、種々の条件に合わせて設定された仮想視点を用いた視点変更処理により俯瞰映像100を生成し、表示させること等を含む。
また、制御部41は、縦横比が1対1とされた俯瞰映像100を表示パネル30に表示させる。
この構成によれば、俯瞰映像100の表示向きを地図200の表示向きと一致させるために俯瞰映像100を回転させたことで、車両Vの前方向が画面内のいずれの方向を向いている場合であっても、車両Vの周辺の情報を俯瞰映像100に十分に表示させることができる。
また、制御部41は、表示制御部46で地図200を取得し、地図200及び俯瞰映像100の双方を同一の表示パネル30に表示させる。
この構成によれば、同一の表示パネル30において接近して表示される地図200及び俯瞰映像100について、表示向き調整処理によって表示向きを一致させることができるため、ユーザが地図200と俯瞰映像100とを関連付けて認識しやすくすることが可能となる。
[第二実施形態]
図6を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図6は、第二実施形態に係る俯瞰映像生成システムにおいて生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。第二実施形態に係る俯瞰映像生成システム1は、地図表示情報取得部43及び表示制御部46における処理の内容が第一実施形態に係る俯瞰映像生成システム1と異なる。
地図表示情報取得部43は、案内地図生成部53から、地図200の表示向き情報に加えて、地図200の縮尺情報をさらに取得する。地図表示情報取得部43は、取得した地図200の縮尺情報を表示制御部46に出力する。
表示制御部46は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が所定値以上であるとき、第一実施形態と同様の表示向き調整処理を実行する。表示制御部46は、表示向き調整処理により地図200と表示向きが一致した俯瞰映像100を表示パネル30に出力する(例えば図4参照)。表示制御部46は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が所定値未満であるとき、表示向き調整処理を実行しない。この場合、表示制御部46は、図6に示すように、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向き(本実施形態ではヘッディングアップの表示向き)で表示パネル30に出力する。所定値は、値1/1000であることが好ましい。所定値は、値1/500であることが、より好ましい。
表示制御部46は、地図200の表示向きがヘッディングアップの場合、第一実施形態と同様に、表示向き調整処理を実行しない。表示制御部46は、地図200の表示向きがヘッディングアップであるとき、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向き(本実施形態ではヘッディングアップの表示向き)で表示パネル30に出力する(例えば図3参照)。
図7は、第二実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。図7に示すフローチャートは、制御部41により実行される。
ステップS21からステップS23の処理は、第一実施形態におけるステップS11からステップS13の処理と同じ処理である。ステップS24及びステップS26の処理は、第一実施形態におけるステップS14及びステップS15の処理と同じ処理である。ステップS27の処理は、第一実施形態におけるステップS16の処理と同じ処理である。
制御部41は、地図200の表示向きがヘッディングアップでないと判定したとき(ステップS23でNo)、ステップS25に進む。制御部41は、地図200の縮尺が所定値以上であるか否かを判定する(ステップS25)。より詳しくは、制御部41は、地図表示情報取得部43で案内地図生成部53から地図200の縮尺情報を取得する。制御部41は、地図表示情報取得部43で案内地図生成部53から取得した地図200の縮尺が所定値以上であるか否かを判定する。所定値は、上述したように、値1/1000であることが好ましい。所定値は、値1/500であることが、より好ましい。制御部41は、地図200の縮尺が所定値未満であると判定したとき(ステップS25でNo)、ステップS24に進む。制御部41は、地図200の縮尺が所定値以上であると判定したとき(ステップS25でYes)、ステップS26に進む。
以上説明したように、本実施形態において、地図表示情報取得部43は、地図200の縮尺をさらに取得し、制御部41は、地図表示情報取得部43で取得した縮尺が所定値以上であるとき(ステップS25でYes)、表示向き調整処理を実行し(ステップS26)、地図表示情報取得部43で取得した縮尺が所定値未満であるとき(ステップS25でNo)、表示向き調整処理を実行しない(ステップS24)。
この構成によれば、地図200の縮尺が所定値以上であり、車両Vの周辺の道路や建築物といった情報を含めて、ユーザが地図200と俯瞰映像100とを関連付けて認識しやすい場合に、地図200と俯瞰映像100との表示向きを一致させて、俯瞰映像100を表示パネル30に表示させることができる。また、地図200の縮尺が所定値未満であり、ユーザが地図200と俯瞰映像100とを関連付けて認識しにくい場合には、表示向き調整処理を実行しないことで、俯瞰映像100を状況に合わせた表示向き(本実施形態では、ヘッディングアップ)で表示させることができる。
[第三実施形態]
本実施形態に係る俯瞰映像生成システム1について説明する。第三実施形態に係る俯瞰映像生成システム1は、表示制御部46における処理が第二実施形態に係る俯瞰映像生成システム1と異なる。
表示制御部46は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が上記所定値以上であるとき、地図表示情報取得部43から取得した縮尺で地図200を表示パネル30に出力する。また、このとき、表示制御部46は、第一実施形態及び第二実施形態と同様の表示向き調整処理を実行し、地図200と表示向きが一致した俯瞰映像100を表示パネル30に出力する(例えば図4参照)。表示制御部46は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が上記所定値未満であるとき(例えば図6参照)、上記所定値以上の縮尺で地図200を表示パネル30に出力する(例えば図4参照)。また、このとき、表示制御部46は、第一実施形態及び第二実施形態と同様の表示向き調整処理を実行し、地図200と表示向きが一致した俯瞰映像100を表示パネル30に出力する(例えば図4参照)。
表示制御部46は、地図200の表示向きがヘッディングアップの場合、第一実施形態及び第二実施形態と同様に、表示向き調整処理を実行しない。表示制御部46は、地図200の表示向きがヘッディングアップであるとき、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向き(本実施形態ではヘッディングアップの表示向き)で表示パネル30に出力する(例えば図3参照)。
図8は、第三実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。図8に示すフローチャートは、制御部41により実行される。
ステップS31からステップS33の処理は、第二実施形態におけるステップS21からステップS23の処理と同じ処理である。また、ステップS34、ステップS35及びステップS37の処理は、第二実施形態におけるステップS24、ステップS25及びステップS26の処理と同じ処理である。また、ステップS38の処理は、第二実施形態におけるステップS27の処理と同じ処理である。
制御部41は、地図200の縮尺が上記所定値未満であると判定したとき(ステップS35でNo)、ステップS36に進む。制御部41は、地図200の縮尺が上記所定値以上であると判定したとき(ステップS35でYes)、ステップS37に進む。
制御部41は、地図200の縮尺を変更する(ステップS36)。より詳しくは、制御部41は、表示制御部46で地図200の縮尺を上記所定値以上の値に変更する。その結果、所定値以上の縮尺とされた地図200が表示制御部46から表示パネル30に出力されて、表示パネル30に表示される。制御部41は、ステップS37に進む。
以上説明したように、本実施形態において、地図表示情報取得部43は、地図200の縮尺情報をさらに取得し、制御部41は、地図200を取得し、地図表示情報取得部43で取得した縮尺が所定値以上であるとき(ステップS35でYes)、表示向き調整処理を実行する(ステップS37)と共に、そのままの縮尺で地図200を表示パネル30に表示させ、地図表示情報取得部43で取得した縮尺が所定値未満であるとき(ステップS35でNo)、表示向き調整処理を実行する(ステップS37)と共に、所定値以上の縮尺に変更して地図200を表示パネル30に表示させる(ステップS36)。
この構成によれば、表示向き調整処理を行う場合、地図200の縮尺が所定値以上であるか所定値未満であるかに関わらず、所定値以上の縮尺とされた地図200と、俯瞰映像100とを表示向きを合わせて表示パネル30に表示させることができる。その結果、地図200と俯瞰映像100との表示向きを一致させる場合、ユーザが常に地図200と俯瞰映像100とを関連付けて認識しやすくすることが可能となる。
また、第三実施形態の変形例として、地図表示情報取得部43で取得した縮尺が所定値未満であると判定したとき(ステップS35でNo)、後述する第五実施形態の図13に示すように、所定値以上の縮尺である拡大地図300を地図200に重ねて表示させてもよい。この場合、制御部41は、図8のステップS36において、地図の縮尺を変更した拡大地図300を表示させる。
[第四実施形態]
図9を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図9は、第四実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。第四実施形態に係る俯瞰映像生成システム1は、俯瞰映像生成部45及び表示制御部46の処理が第二実施形態に係る俯瞰映像生成システム1と異なる。
俯瞰映像生成部45は、地図表示情報取得部43から地図200の表示向き情報及び縮尺情報を取得する。俯瞰映像生成部45は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が上記所定値以上であるとき、図9に示すように、表示パネル30に表示される地図200の画面内における車両Vの下方側に位置し、かつ、地図200における車両Vの前方向と、俯瞰映像100における車両Vの前方向とが一致するように設定された仮想視点PF(図10参照)から車両Vを見た視点変換処理を行って、俯瞰映像100を生成する。それにより、俯瞰映像生成部45は、地図200の表示向きと俯瞰映像100の表示向きとを一致させる表示向き調整処理を実行する。
俯瞰映像生成部45は、地図200の表示向きがヘッディングアップであるとき、及び、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が上記所定値未満であるとき、表示向き調整処理を実行しない。この場合、俯瞰映像生成部45は、車両Vを上方の仮想視点Pから見下ろすように視点変換処理を行って俯瞰映像100を生成する(例えば図3参照)。
図9及び図10を参照しながら、仮想視点PFについて説明する。図10は、第四実施形態に係る俯瞰映像生成システムにおける仮想視点の位置の一例を示す説明図である。視点変換処理部451は、地図200の表示向きがヘッディングアップ以外であり、かつ、地図200の縮尺が所定値以上であるとき、図10に示すように、車両Vの真上に位置する仮想視点Pから、車幅方向または前後方向の少なくともいずれかに離間して仮想視点PFが位置するように視点変換処理を行って映像を生成する。仮想視点PFの位置は、(xF,yF,zF)で表される。図9に示す例では、地図200の表示向きがノースアップであり、自車両アイコン210として示される車両Vの前方向(図中の二点鎖線矢印に沿った方向)が画面内の上下方向に対して傾斜している。仮想視点PFは、俯瞰映像100において自車両アイコン110として示される車両Vの前方向(図中の一点鎖線矢印に沿った方向)が、自車両アイコン210として示される車両Vの前方向と同一の角度で、画面内の上下方向に対して傾斜するように、車両Vを見る位置に設定される。また、図9に示す例において、地図200の画面内における車両Vの下方側に位置する仮想視点PFは、図10に示すように、車両Vの斜め後方の位置に設定されることになる。仮想視点PFの位置は、図9に示すように、自車両アイコン110として示される車両Vを斜めに見下ろす位置に設定されることが好ましい。
表示制御部46は、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向きで表示パネル30に出力する。
図11は、第四実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。図11に示すフローチャートは、制御部41により実行される。
ステップS41からステップS43の処理は、第二実施形態におけるステップS21からステップS23の処理と同じ処理である。また、ステップS44及びステップS45の処理は、第二実施形態におけるステップS24及びステップS25の処理と同じ処理である。また、ステップS47の処理は、第二実施形態におけるステップS27の処理と同じ処理である。
制御部41は、地図200の縮尺が所定値以上であると判定したとき(ステップS45でYes)、ステップS46に進む。制御部41は、地図200の表示向きに合わせ、仮想視点位置を変更した俯瞰映像100を生成して表示させる(ステップS46)。より詳しくは、制御部41は、俯瞰映像生成部45で、表示パネル30に表示される地図200の画面内における車両Vの下方側に位置し、かつ、地図200における車両Vの前方向と、俯瞰映像100における車両Vの前方向とが一致するように設定された仮想視点から車両Vを見た視点変換処理を行って、図9に示す俯瞰映像100を生成させる。制御部41は、俯瞰映像生成部45で生成した図9に示す俯瞰映像100を表示制御部46に出力させる。制御部41は、表示制御部46で、俯瞰映像生成部45で生成した俯瞰映像100を、そのままの表示向きで表示パネル30に出力させる。
以上説明したように、本実施形態において、制御部41は、表示向き調整処理として、表示パネル30に表示される地図200の画面内における車両V(自車両アイコン210)の下方側に位置し、かつ、地図200における車両Vの前方向と、俯瞰映像100における車両Vの前方向とが一致するように設定された仮想視点PFから車両Vを見た視点変換処理を行って、俯瞰映像100を生成する(ステップS46)。
この構成によれば、車両Vを真上から見下ろしたような俯瞰映像100(図3等参照)に限られず、図9に示すように、車両Vを例えば斜め後ろから見下ろしたような俯瞰映像100を用いつつ、地図200と俯瞰映像100との表示向きを一致させて表示パネル30に表示させることができる。その結果、図9に示すように、俯瞰映像100において、車両Vの周辺情報をより詳しく表示させることができる。
なお、案内地図生成部53は、地図200を三次元で生成してもよく、制御部41は、図9に示す俯瞰映像100と併せて、俯瞰映像100と同様の仮想視点から見たような三次元の地図200を表示パネル30に表示させてもよい。それにより、ユーザが地図200と俯瞰映像100とをより容易に関連付けて認識することが可能となる。
図12は、第四実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図の他の例を示す説明図である。制御部41は、ステップS46で、図12に示すように、車両Vを後方から見たような仮想視点を用いた視点変換処理を行って生成された俯瞰映像100を生成し、表示パネル30に表示させてもよい。
[第五実施形態]
図13を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図13は、第五実施形態に係る俯瞰映像生成システムで生成されて表示パネルに表示される俯瞰映像及び地図を示す説明図である。第五実施形態に係る俯瞰映像生成システム1は、設定操作部23、案内設定部52、案内地図生成部53、地図表示情報取得部43及び表示制御部46の処理が第一実施形態に係る俯瞰映像生成システム1と異なる。
設定操作部23は、ユーザから入力された設定操作情報として、拡大地図300を地図200に重ねて描画する設定操作がなされた旨を案内設定部52に出力する。拡大地図300は、少なくとも地図200の縮尺未満の縮尺で、車両Vの周辺を拡大して表示した地図である。
案内設定部52は、拡大地図300を地図200に重ねて描画する設定操作がなされた旨を取得すると、拡大地図300を生成及び描画する設定を案内地図生成部53に出力する。
案内地図生成部53は、拡大地図300を生成及び描画する設定を取得すると、拡大地図300を生成する。なお、案内地図生成部53は、例えば、目的地の近辺に到着した際や、所定幅未満の幅員の狭い道路を走行するとき等に、拡大地図300を自動的に生成してもよい。本実施形態において、拡大地図300は、地図200と同一の表示向きで生成される。拡大地図300の表示向きは、設定操作部23を介してユーザにより設定されてもよい。案内地図生成部53は、生成した拡大地図300を地図200に重ねて描画し、表示制御部46に出力する。案内地図生成部53は、拡大地図300の表示向きと地図200の表示向きとを地図表示情報取得部43に出力する。
地図表示情報取得部43は、取得した拡大地図300の表示向きと、地図200の表示向きとを表示制御部46に出力する。
表示制御部46は、案内地図生成部53から拡大地図300及び地図200を取得したとき、拡大地図300を地図200に重ねて表示パネル30に表示させる。
表示制御部46は、拡大地図300の表示向きがヘッディングアップ以外であるとき、拡大地図300の表示向きと俯瞰映像100の表示向きとを一致させる処理を実行する。より詳しくは、表示制御部46は、図13に示すように、拡大地図300において画面内に自車両アイコン310として示される車両Vの前方向(図中の二点鎖線矢印に沿った方向)と、俯瞰映像100において自車両アイコン110として示される車両Vの前方向(図中の一点鎖線矢印に沿った方向)とを一致させる。図13に示す例では、地図200及び拡大地図300の表示向きがノースアップに設定されている。図示するように、拡大地図300の表示向きがノースアップであり、自車両アイコン310として示される車両Vの前方向が画面内の上下方向に対して傾斜している。この場合、表示制御部46は、俯瞰映像100における車両Vの前方向も、自車両アイコン310として示される車両Vの前方向と同一の角度で、画面内の上下方向に対して傾斜させるように、俯瞰映像100を回転させる。表示制御部46は、拡大地図300と表示向きが一致した俯瞰映像100を表示パネル30に出力する。
表示制御部46は、拡大地図300の表示向きがヘッディングアップであるとき、拡大地図300の表示向きと俯瞰映像100の表示向きとを一致させる処理を実行しない。本実施形態において、表示制御部46は、拡大地図300の表示向きがヘッディングアップであるとき、俯瞰映像生成部45から取得した俯瞰映像100をそのままの表示向き(本実施形態ではヘッディングアップの表示向き)で表示パネル30に出力する。
次に、図14を用いて、俯瞰映像生成システム1の処理の流れについて説明する。図14は、第五実施形態に係る俯瞰映像生成システムにおける処理の流れを示すフローチャートである。図14に示すフローチャートは、制御部41により実行される。
制御部41は、拡大地図表示を開始するか否かを判定する(ステップS51)。本実施形態では、制御部41は、表示制御部46に拡大地図300が出力されているとき、拡大地図表示を開始すると判定し、表示制御部46に拡大地図300が出力されていないとき、拡大地図表示を開始しないと判定する。制御部41は、拡大地図表示を開始しないと判定したとき(ステップS51でNo)、ステップS51の処理を再度実行する。制御部41は、拡大地図表示を開始すると判定したとき(ステップS51でYes)、ステップS52に進む。
制御部41は、拡大地図300の表示向きを取得する(ステップS52)。より詳しくは、制御部41は、地図表示情報取得部43において、案内地図生成部53から拡大地図300の表示向き情報を取得し、ステップS53に進む。
制御部41は、拡大地図300の表示向きがヘッディングアップであるか否かを判定する(ステップS53)。より詳しくは、制御部41は、地図表示情報取得部43で取得した拡大地図300の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかを判定する。制御部41は、拡大地図300の表示向きがヘッディングアップであると判定したとき(ステップS53でYes)、ステップS54に進む。制御部41は、拡大地図300の表示向きがヘッディングアップでないと判定したとき(ステップS53でNo)、ステップS55に進む。
制御部41は、ヘッディングアップの俯瞰映像100を生成し表示する(ステップS54)。より詳しくは、制御部41は、俯瞰映像生成部45において、映像データ取得部42で取得した周辺映像データから車両Vを仮想視点Pで上方から見下ろすように視点変換処理を行い、表示向きがヘッディングアップとされた俯瞰映像100を生成させ、表示制御部46へと出力させる。制御部41は、図3に示すように、表示制御部46で俯瞰映像生成部45から取得した俯瞰映像100を、そのままの表示向きで表示パネル30に出力し、表示させる。制御部41は、ステップS56に進む。
制御部41は、拡大地図300の表示向きに合わせた俯瞰映像100を生成し表示する(ステップS55)。すなわち、制御部41は、地図表示情報取得部43で取得した拡大地図300の表示向き情報に基づいて、拡大地図300の表示向きと俯瞰映像100の表示向きとを一致させる処理を実行する。より詳しくは、制御部41は、俯瞰映像生成部45において、映像データ取得部42で取得した周辺映像データから車両Vを仮想視点Pで上方から見下ろすように視点変換処理を行い、俯瞰映像100を生成させ、表示制御部46へと出力させる。制御部41は、表示制御部46で俯瞰映像生成部45から取得した俯瞰映像100を回転させて、拡大地図300において画面内に自車両アイコン310として示される車両Vの前方向と、俯瞰映像100において自車両アイコン110として示される車両Vの前方向とを一致させ、表示パネル30に表示させる。制御部41は、ステップS56に進む。
制御部41は、拡大地図表示を終了するか否かを判定する(ステップS56)。より詳しくは、制御部41は、表示制御部46に拡大地図300が出力されなくなったとき、拡大地図表示を終了すると判定し、表示制御部46に拡大地図300が出力されている間は、拡大地図表示を終了しないと判定する。制御部41は、拡大地図表示を終了しないと判定したとき(ステップS56でNo)、ステップS52に戻って処理を継続する。制御部41は、拡大地図表示を終了すると判定したとき(ステップS56でYes)、ステップS57に進む。
制御部41は、俯瞰映像表示を終了させる(ステップS57)。より詳しくは、制御部41は、俯瞰映像生成部45での俯瞰映像100の生成処理及び表示制御部46での俯瞰映像100の表示処理を終了させ、処理を終了する。
以上説明したように、本実施形態において、地図表示情報取得部43は、地図200に重ねて描画されると共に地図200の一部を拡大した拡大地図300の表示向き情報をさらに取得し、制御部41は、地図表示情報取得部43で取得した拡大地図300の表示向き情報に基づいて、拡大地図300の表示向きと俯瞰映像100の表示向きとを一致させる。
この構成によれば、車両Vの周辺を拡大して表示する拡大地図300が表示されるとき、拡大地図300と俯瞰映像100との表示向きを一致させて、俯瞰映像100を表示パネル30に表示させることができる。その結果、車両Vの周辺の道路や建築物といった情報を含めて、ユーザが拡大地図300と俯瞰映像100とを関連付けて認識しやすい場合に、ユーザが表示パネル30に表示される情報を速やかに認識可能とすることができる。
さて、これまで本発明に係る俯瞰映像生成システム1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。
図示した俯瞰映像生成システム1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。
俯瞰映像生成システム1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。
上記に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記に記載した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。
第一実施形態において、ステップS13及びステップS14の処理は、省略してもよい。すなわち、制御部41は、地図表示情報取得部43で取得した地図200の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかに関わらず、表示向き調整処理を実行してもよい。
第二実施形態において、ステップS23の処理は、省略してもよい。すなわち、制御部41は、地図200の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかに関わらず、地図表示情報取得部43で取得した縮尺が所定値以上であるとき、表示向き調整処理を実行し、地図表示情報取得部43で取得した縮尺が所定値未満であるとき、表示向き調整処理を実行しないものとしてもよい。
第三実施形態において、ステップS33及びステップS34の処理は、省略してもよい。すなわち、制御部41は、地図200の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかに関わらず、地図表示情報取得部43で取得した縮尺が所定値以上であるとき、表示向き調整処理を実行すると共に、そのままの縮尺で地図200を表示パネル30に表示させ、地図200の縮尺が所定値未満であるとき、表示向き調整処理を実行すると共に、所定値以上の縮尺に変更して地図200を表示パネル30に表示させてもよい。
第四実施形態において、ステップS43またはステップS45の処理は、省略してもよい。すなわち、制御部41は、地図200の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかに関わらず、または、地図200の縮尺が所定値以上であるか所定値未満であるかに関わらず、図9に示すような、仮想視点PFから車両Vを見た俯瞰映像100を生成することで、表示向き調整処理を実行してもよい。
第五実施形態において、ステップS53及びステップS54の処理は、省略してもよい。すなわち、制御部41は、地図表示情報取得部43で取得した拡大地図300の表示向きがヘッディングアップであるか、ヘッディングアップ以外であるかに関わらず、拡大地図300と俯瞰映像100との表示向きを一致させてもよい。
第五実施形態において、制御部41は、ステップS55で、第四実施形態のステップS46の処理のように、表示向き調整処理として、表示パネル30に表示される拡大地図300の画面内における車両Vの下方側に位置し、かつ、拡大地図300における車両Vの前方向と、俯瞰映像100における車両Vの前方向とが一致するように設定された仮想視点から車両Vを見た視点変換処理を行って、俯瞰映像100を生成し、表示パネル30に表示させてもよい。
第五実施形態において、制御部41は、ステップS51の処理の前に、ステップS11の処理を実行してもよい。また、制御部41は、図5、図7、図8及び図11のいずれかに示すフローチャートと、図14に示すフローチャートとを並列的に実行してもよい。この場合、制御部41は、図5、図7、図8及び図11のいずれかのフローチャートを実行している最中に、拡大地図表示を開始すると判定したとき(ステップS51でYes)、図5、図7、図8及び図11のいずれかに示すフローチャートの実行を一旦終了すると共に、図14に示すステップS52以降の処理を実行し、図14に示すフローチャートの実行が終了すると、再び図5、図7、図8及び図11のいずれかに示すフローチャートの実行を開始すればよい。
第一実施形態から第三実施形態及び第五実施形態において、制御部41は、俯瞰映像生成部45においてヘッディングアップの表示向きとされた俯瞰映像100を生成し、表示制御部46において俯瞰映像100を地図200の表示向きに合わせて回転させ、俯瞰映像100の表示向きと地図200と表示向きを一致させる表示向き調整処理を実行するものとした。制御部41は、表示向き調整処理として、俯瞰映像生成部45において予め地図200または拡大地図300の表示向きに合わせた俯瞰映像100を生成し、表示制御部46において俯瞰映像生成部45で生成された俯瞰映像100をそのままの表示向きで表示パネル30に表示させてもよい。
また、第一実施形態から第三実施形態において、制御部41は、表示向き調整処理として、地図200を回転させて、地図200の表示向きと俯瞰映像100との表示向きを一致させてもよい。例えば、制御部41は、ステップS15、ステップS26またはステップS37の処理において、俯瞰映像100はそのままの表示向き(本実施形態では、ヘッディングアップ)で表示パネル30に表示させると共に、地図200をヘッディングアップの表示向きとして表示パネル30に表示させてもよい。第五実施形態においても、同様に、制御部41は、拡大地図300を回転させて、拡大地図300の表示向きと俯瞰映像100との表示向きを一致させてもよい。例えば、制御部41は、ステップS55の処理において、俯瞰映像100はそのままの表示向き(本実施形態では、ヘッディングアップ)で表示パネル30に表示させると共に、拡大地図300をヘッディングアップの表示向きとして表示パネル30に表示させてもよい。
第一実施形態から第五実施形態において、制御部41は、図5、図7、図8、図11及び図14のフローチャートを実行している間、地図200を常に表示パネル30に表示するものでなくてもよい。例えば、制御部41は、ユーザからの操作部に対する俯瞰映像100を表示パネル30の全画面に表示する旨の操作が検出されたとき、一時的に地図200の表示を停止させてもよい。
第一実施形態から第五実施形態において、案内地図生成部53は、車両Vの現在位置を示す自車両アイコン210を地図情報に重ねて描画した地図200を生成するものとしたが、案内地図生成部53により生成される地図200は、これに限られない。案内地図生成部53は、自車両アイコン210を描画することなく、常に車両Vよりも前側を表示した地図200を生成してもよい。
第一実施形態から第五実施形態において、案内地図生成部53が生成する地図を平面地図の例として説明したが、いずれの実施形態においても、立体的な地図、俯瞰的な地図など、様々な表示形態が適用可能である。
1 俯瞰映像生成システム
11 前方カメラ
12 後方カメラ
13 左側方カメラ
14 右側方カメラ
21 地図情報記憶部
22 現在位置情報検出部
23 設定操作部
30 表示パネル
40 俯瞰映像生成装置
41 制御部
42 映像データ取得部
43 地図表示情報取得部
44 車両情報取得部
45 俯瞰映像生成部
451 視点変換処理部
452 切出処理部
453 合成処理部
46 表示制御部
49 記憶部
50 ナビゲーション処理装置
51 現在位置取得部
52 案内設定部
53 案内地図生成部
P,PF 仮想視点
V 車両

Claims (4)

  1. 車両の周辺を撮影した周辺映像データを取得する映像データ取得部と、
    表示部の表示画面に表示される地図の縮尺情報および前記表示画面の上方に設定される方向を示す表示向き情報を取得する地図表示情報取得部と、
    前記映像データ取得部で取得した前記周辺映像データに対して視点変換処理および合成処理を行うことで俯瞰映像を生成し、前記表示部の前記表示画面に表示させる制御部と、
    を備え、
    前記制御部は、前記地図表示情報取得部で取得した前記地図の縮尺が所定値以上であるとき、前記俯瞰映像に表示されている自車両アイコンの前方向の表示向きに、前記地図における自車両アイコンの前方向の表示向きを一致させる表示向き調整処理を実行することを特徴とする俯瞰映像生成装置。
  2. 前記制御部は、前記地図を取得し、前記地図表示情報取得部で取得した縮尺が前記所定値以上であるとき、前記表示向き調整処理を実行すると共に、そのままの前記縮尺で前記地図を前記表示部に表示させ、前記地図表示情報取得部で取得した前記縮尺が前記所定値未満であるとき、前記表示向き調整処理を実行すると共に、前記所定値以上の縮尺に変更して前記地図を前記表示部に表示させることを特徴とする請求項1に記載の俯瞰映像生成装置。
  3. 前記制御部は、前記地図を取得し、前記地図及び前記俯瞰映像の双方を同一の前記表示部に表示させることを特徴とする請求項1または2に記載の俯瞰映像生成装置。
  4. 車両の周辺を撮影した周辺映像データを取得する映像データ取得ステップと、
    表示部の表示画面に表示される地図の、前記表示画面の上方に設定される方向を示す表示向き情報を取得する地図表示情報取得ステップと、
    前記映像データ取得ステップで取得した前記周辺映像データに対して視点変換処理および合成処理を行うことで俯瞰映像を生成し、前記表示部の表示画面に表示させる制御ステップと、
    を含み、
    前記制御ステップにおいては、前記地図表示情報取得ステップで取得した前記地図の縮尺が所定値以上であるとき、前記俯瞰映像に表示されている自車両アイコンの前方向の表示向きに、前記地図における自車両アイコンの前方向の表示向きを一致させる表示向き調整処理を実行することを特徴とする俯瞰映像生成方法。


JP2021062961A 2017-05-23 2021-04-01 俯瞰映像生成装置及び俯瞰映像生成方法 Active JP7192907B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021062961A JP7192907B2 (ja) 2017-05-23 2021-04-01 俯瞰映像生成装置及び俯瞰映像生成方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017102072A JP6866765B2 (ja) 2017-05-23 2017-05-23 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法及びプログラム
JP2021062961A JP7192907B2 (ja) 2017-05-23 2021-04-01 俯瞰映像生成装置及び俯瞰映像生成方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017102072A Division JP6866765B2 (ja) 2017-05-23 2017-05-23 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021107820A JP2021107820A (ja) 2021-07-29
JP7192907B2 true JP7192907B2 (ja) 2022-12-20

Family

ID=64663859

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017102072A Active JP6866765B2 (ja) 2017-05-23 2017-05-23 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法及びプログラム
JP2021062961A Active JP7192907B2 (ja) 2017-05-23 2021-04-01 俯瞰映像生成装置及び俯瞰映像生成方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017102072A Active JP6866765B2 (ja) 2017-05-23 2017-05-23 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法及びプログラム

Country Status (1)

Country Link
JP (2) JP6866765B2 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011027730A (ja) 2009-07-02 2011-02-10 Sanyo Electric Co Ltd 画像処理装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011027730A (ja) 2009-07-02 2011-02-10 Sanyo Electric Co Ltd 画像処理装置

Also Published As

Publication number Publication date
JP2018197687A (ja) 2018-12-13
JP2021107820A (ja) 2021-07-29
JP6866765B2 (ja) 2021-04-28

Similar Documents

Publication Publication Date Title
US10282915B1 (en) Superimposition device of virtual guiding indication and reality image and the superimposition method thereof
JP5798392B2 (ja) 駐車支援装置
JPWO2016067574A1 (ja) 表示制御装置及び表示制御プログラム
WO2013108371A1 (ja) 画像処理装置、画像処理サーバ、画像処理方法、画像処理プログラム、及び記録媒体
JP5697512B2 (ja) 画像生成装置、画像表示システム及び画像表示装置
JP2007080060A (ja) 対象物特定装置
JP6257978B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2012039341A (ja) 画像表示システム、画像生成装置、及び、画像表示方法
JP2015184839A (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2016063390A (ja) 画像処理装置、及び画像表示システム
JP2021075219A (ja) 表示制御装置及び表示制御プログラム
JP2018142884A (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP5460635B2 (ja) 画像処理判定装置
JP2014234139A (ja) 車載表示装置およびプログラム
JP6113006B2 (ja) 車両情報表示制御装置
JP4857159B2 (ja) 車両運転支援装置
JP2016042704A (ja) 画像表示システム、画像処理装置及び画像表示方法
JP7192907B2 (ja) 俯瞰映像生成装置及び俯瞰映像生成方法
JP5702476B2 (ja) 表示装置、制御方法、プログラム、記憶媒体
US10602078B2 (en) Display control device which controls video extraction range
JP2014223824A (ja) 表示装置、表示方法および表示プログラム
JPWO2011121788A1 (ja) ナビゲーション装置、情報表示装置、ナビゲーション方法、ナビゲーションプログラムおよび記録媒体
JP2012216997A (ja) 画像表示システム、画像生成装置及び画像生成方法
JP5438172B2 (ja) 情報表示装置、情報表示方法、情報表示プログラムおよび記録媒体
JP5301639B2 (ja) ナビゲーション情報の表示装置、ヘッドアップディスプレイ、及びナビゲーション情報の表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220701

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221121

R150 Certificate of patent or registration of utility model

Ref document number: 7192907

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150