JP4729522B2 - ナビゲーション装置、ナビゲーション方法、およびプログラム - Google Patents

ナビゲーション装置、ナビゲーション方法、およびプログラム Download PDF

Info

Publication number
JP4729522B2
JP4729522B2 JP2007074832A JP2007074832A JP4729522B2 JP 4729522 B2 JP4729522 B2 JP 4729522B2 JP 2007074832 A JP2007074832 A JP 2007074832A JP 2007074832 A JP2007074832 A JP 2007074832A JP 4729522 B2 JP4729522 B2 JP 4729522B2
Authority
JP
Japan
Prior art keywords
line
sight
gaze
behavior
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007074832A
Other languages
English (en)
Other versions
JP2008232912A (ja
Inventor
帝演 金
ウィドド アリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2007074832A priority Critical patent/JP4729522B2/ja
Publication of JP2008232912A publication Critical patent/JP2008232912A/ja
Application granted granted Critical
Publication of JP4729522B2 publication Critical patent/JP4729522B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両に搭載して用いられるナビゲーション装置に関する。
従来から、ドライバの視線を検出してドライバの見ている建築物等の対象物を認識し、対象物に関する情報を提供することによって運転を支援するナビゲーション装置が知られている(特許文献1)。
特許文献1に記載されたナビゲーション装置は、ドライバの視線を検出するための視線検出カメラとドライバの音声を取得するマイクを備えている。ナビゲーション装置は、マイクにてドライバの音声を取得する。取得した音声を解析し、例えば「あれは何?」等のトリガとなるキーワードを認識すると、ナビゲーション装置は、カメラで撮影した映像からドライバの視線を検出し、ドライバの視線方向にある建物等の対象物を画面に表示する。次に、ナビゲーション装置は、「右」「後ろ」等の修正コマンドをマイクにて取得し、修正コマンドに応じて対象物を選択する。ナビゲーション装置は、選択された対象物に基づいて、経路設定やガイド情報の表示等を行なう。
特開平2005−24313号公報
上記した特許文献1に記載のナビゲーション装置では、視線方向だけで対象物を特定できないことを前提として、音声によるトリガや修正コマンドを受け付けることにより、対象物を特定している。
しかしながら、ドライバの発する言葉は様々であるので、トリガや修正コマンドを誤認識するおそれがある。トリガや修正コマンドとして特定のキーワードをあらかじめ設定しておくことも可能であるが、利便性が低下する。
また、特許文献1に記載のナビゲーション装置では、ドライバは、トリガとなる音声を発すると同時に、視線方向が特定されるまで対象物を見ていなくてはならないので、運転に支障をきたすおそれがある。
そこで、本発明は上記背景に鑑み、ドライバの視線の動きを用いて適切に対象物を特定できるナビゲーション装置を提供することを目的とする。
本発明のナビゲーション装置は、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部と、ドライバの視線を検出する視線検出部と、前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出する注視対象物検出部とを備える。
このようにドライバの視線の動きを求め、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。
本発明のナビゲーション装置において、前記視線パターン記憶部は、前記対象物に関連付けて、環境ごとに異なる複数の視線パターンを記憶しておき、前記注視対象物検出部は、前記視線の動きを求めた環境に応じて前記視線パターンを選択し、選択された視線パターンを用いて前記注視対象物を検出してもよい。
このように前記対象物に関連付けて環境ごとに異なる複数の視線パターンを視線パターン記憶部に記憶しておくことにより、環境によって視線の動き方が変化する場合にも適切に対応できる。ここで、環境には、例えば、車両の走行速度、ドライバの運転経験、外部の明るさ等が含まれる。なお、ナビゲーション装置は、各種のセンサ等から環境の情報を取得する。例えば、車両の走行速度の情報は速度センサから取得し、外部の明るさの情報は照度センサから取得する。また、ドライバの運転経験の情報はドライバに運転経験年数を入力させる入力デバイスから情報を取得する。
本発明のナビゲーション装置は、ドライバの運転行動に先立って注視される複数の注視対象物とその注視順序を注視行動パターンとして当該運転行動に関連付けて記憶した注視行動パターン記憶部と、前記注視対象物検出部にて検出した注視対象物の情報に基づいて注視行動を求め、前記注視行動に合致する注視行動パターンに対応する運転行動を前記注視行動パターン記憶部から読み出し、読み出した運転行動を注視行動に続いて行なわれる予測運転行動として決定する予測運転行動決定部と、前記予測運転行動を支援するための運転支援信号を送信する運転支援信号送信部とを備えてもよい。
このようにドライバの注視行動を求め、注視行動に基づいて決定した予測運転行動を支援するための運転支援信号を送信することにより、ドライバの視線から得た情報に基づいて適切に運転を支援できる。
本発明のナビゲーション装置において、前記注視行動パターン記憶部は、前記運転行動に関連付けて、環境ごとに異なる複数の注視行動パターンを記憶しておき、前記予測運転行動決定部は、前記注視行動を検出した環境に応じて前記注視行動パターンを選択し、選択された注視行動パターンを用いて前記予測運転行動を決定してもよい。
このように運転行動に関連付けて環境ごとに異なる複数の注視行動パターンを注視行動パターン記憶部に記憶しておくことにより、環境によって運転行動が変化する場合にも適切に対応できる。ここで、環境には、例えば、車両の走行速度、ドライバの運転経験、外部の明るさ等が含まれる。
本発明のナビゲーション装置において、前記予測運転行動決定部は、前記注視対象物検出部にて検出した注視対象物の情報から注視行動を求め、前記注視行動が前記注視行動パターン記憶部に記憶された注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を読み出してもよい。
このようにドライバの注視行動が注視行動パターンの一部に合致する場合に、ドライバの予測運転行動を決定することにより、ドライバの予測運転行動を早い段階で決定できる。
本発明のナビゲーション装置は、車両の動作から運転行動を検知する運転行動検知部と、前記運転行動検知部にて運転行動を検知したときに、前記運転行動の前に行われた注視行動を求め、前記注視行動を用いて前記注視行動パターン記憶部に記憶された情報を更新する注視行動パターン学習部とを備えてもよい。
このように注視行動パターン記憶部に記憶された情報を、実際の運転行動および注視行動に基づいて学習することにより、注視行動パターン記憶部の情報をそれぞれのドライバに適合させることができる。
本発明のナビゲーション装置は、前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに最も類似する視線パターンを前記視線パターン記憶部から検索し、検索された視線パターンを前記ドライバの視線の動きを用いて更新する視線パターン学習部とを備えてもよい。
このように視線パターン記憶部に記憶された情報を、実際の視線パターンから検出された類似の視線パターンを用いて学習することにより、視線パターン記憶部の情報をそれぞれのドライバに適合させることができる。
本発明のナビゲーション方法は、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部を準備するステップと、ドライバの視線を検出するステップと、検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップとを備える。
これにより、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。なお、本発明のナビゲーション装置の各種の構成を、本発明のナビゲーション方法に適用することも可能である。
本発明のプログラムは、ドライバの視線を検出する機能を備えたナビゲーション装置に、ドライバの視線を検出するステップと、検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、前記視線の動きに合致する視線パターンに対応する対象物を、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップとを実行させる。
これにより、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。なお、本発明のナビゲーション装置の各種の構成を、本発明のプログラムに適用することも可能である。
本発明は、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。
以下、本発明の実施の形態に係るナビゲーション装置について図面を参照して説明する。
(第1の実施の形態)
図1は、第1の実施の形態のナビゲーション装置1の構成を示す図である。ナビゲーション装置1は、ドライバを撮影するカメラ10と、カメラ10にて撮影した映像に基づいてドライバの視線を検出する視線検出部12と、視線検出部12にて検出した視線に基づいて注視対象物を検出する注視対象物検出部14と、注視対象物検出部14にて検出した注視対象物の情報に基づいて、ドライバが行うと予測される運転行動(「予測運転行動」という)を決定する予測運転行動決定部16と、予測運転行動決定部16にて決定された運転行動を支援するための運転支援信号を車両に送信する運転支援信号送信部18とを備えている。なお、図1には示していないが、第1の実施の形態のナビゲーション装置1は、ナビゲーションに必要な地図情報を記憶した地図情報記憶部、車両位置を検出する車両位置検出部、地図情報を表示するディスプレイ、ナビゲーションのメッセージを出力するスピーカ等、通常のナビゲーション装置が備える構成も有している。
以下、図1に示すナビゲーション装置1の各構成について説明する。カメラ10は、ドライバの顔を撮影可能な位置、例えば、ダッシュボードやルームミラー等に設置される。カメラ10としては、例えば、CCDカメラ10を用いることができる。
視線検出部12は、カメラ10にて撮影された映像に基づいて、ドライバの頭部の位置および向きと、頭部に対する眼球の位置を求めることによってドライバの視線を検出する。
注視対象物検出部14は、視線検出部12にて検出されたドライバの視線の情報と視線パターン記憶部20に記憶された情報に基づいて、ドライバが注視した対象物を検出する機能を有する。
図2は、視線パターン記憶部20に記憶された情報の例を示す図である。視線パターン記憶部20には、例えば、「路側」「ナビ」等の注視対象物ごとにその注視対象物を注視するときの視線パターンの情報が記憶されている。視線パターンには、注視対象物に応じて、水平方向の視線の動きのパターンまたは垂直方向の視線の動きのパターン、あるいは水平方向および垂直方向の視線の動きのパターンが含まれる。図2では、水平方向の視線の動きのパターンのみを記憶した例を示しているが、例えば、注視対象物が「高層ビル」である場合には、垂直方向の視線の動きのパターンも関連付けて記憶する。図2に示す例では、視線パターン記憶部は、車両の進行方向から見た視線の角度θの時間的な変化を視線パターンとして記憶している。
図3は、視線パターン記憶部20に記憶された情報の例を詳しく示す図である。図3では、注視対象物が「路側」の場合の水平方向の視線パターンを例として示している。図3に示すように、視線パターン記憶部20には、車両の速度に応じて、複数の異なる視線パターンが記憶されている。図3に示す例では、車両の速度が「高速」の場合には、閾値Xを超えて視線を移動した回数がT=D4秒間に2回以上であって、その合計時間がF秒より大きい場合に「路側」を注視したことを検知する。車両の速度が「中速」の場合には、判定に用いる時間TがT=D3秒間である点で「高速」の場合と視線パターンが異なる。なお、図3に示す例では、判定に用いる時間Tは、D1≧D2≧D3≧D4の関係を有している。従って「路側」の注視が検出されるためには、車両速度が高速になるほど短時間に上記視線のパターンが現れることが必要になる。このように車両の速度に応じて、複数の異なる視線パターンを記憶しておくことにより、車両の速度に応じて視線の動きが異なる場合にも適切に注視対象物を検出することができる。
なお、図2および図3に示す注視対象物検出のための視線パターンは一例であり、注視対象物に応じて適切な判定式を用いることができる。例えば、注視対象物がビルやレストラン等の車両外の対象物である場合には、車両の進行方向に対する視線のずれ角度θが、θ<θn+1(nは、対象物を見たのが何回目かを示す数値)を満たすことを注視対象物検出の条件としてもよい。走行中の車両から車両の外にある対象物を見るときの視線の角度θは、車両が進むに従って大きくなるので、θ<θn+1を条件として用いることにより、車両の外にある対象物を見ていることを適切に検知できる。
次に、注視対象物検出部14の処理について説明する。注視対象物検出部14は、まず、車速情報取得部24にて車両の速度に関する情報を図示しない速度センサから取得し、車速情報に基づいて、注視対象物の検出に用いる視線パターンを選択する。例えば、車両が高速で走行している場合には、図3に示す「高速」に対応する視線パターンを選択する。図3では注視対象物が「路側」である場合の視線パターンを示しているが、注視対象物検出部14は、例えば、「ナビ」や「ルームミラー」等のその他の注視対象物についても、複数の視線パターンの中から「高速」の場合の視線パターンを選択する。
車速に応じた視線パターンを選択した後、注視対象物検出部14は、視線検出部12にて検出した視線の情報を一時的に蓄積し、蓄積した視線の情報を用いてドライバの視線の動きを求める。続いて、注視対象物検出部14は、ドライバの視線の動きと選択したいずれかの視線パターンとが合致するか否か判定し、視線パターンに合致する場合には、その視線パターンに対応した対象物を注視対象物として検出する。
次に、予測運転行動決定部16について説明する。予測運転行動決定部16は、注視対象物検出部14にて検出された注視対象物の情報と注視行動パターン記憶部22に記憶された情報に基づいて、注視行動に続いて行なうと予測される予測運転行動を決定する機能を有する。
図4は、注視行動パターン記憶部22に記憶された情報の例を示す図である。注視行動パターン記憶部22には、運転行動に先立って行なわれるドライバの注視行動パターンが記憶されている。図4に示す例では、「車線変更」という運転行動に、「(1)前方→(2)ルームミラー→(3)前方→(4)サイドミラー→(5)前方」という注視行動パターンが関連付けられている。従って、この注視行動パターンに続いて「車線変更」が行われると予測される。
次に、予測運転行動決定部16の処理について説明する。予測運転行動決定部16は、注視対象物検出部14にて検出された注視対象物の情報を一時的に蓄積して、蓄積した注視対象物の情報を用いてドライバの注視行動を求める。注視行動とは、ドライバが注視した注視対象物およびその注視順序である。例えば、注視行動は、注視対象物A→注視対象物B→注視対象物A→注視対象物Cのような情報である。
続いて、予測運転行動決定部16は、ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致するか否か判定し、注視行動パターンに合致する場合には、その注視行動パターンに対応した運転行動を読み出して運転行動を決定する。
運転支援信号送信部18は、予測運転行動決定部16にて決定された運転行動を支援するための運転支援信号を車両に送信する。例えば、運転行動が「左折」であった場合には、運転支援信号送信部18は、車両に対して左のウィンカーを出すように指示する運転支援信号を送信する。
次に、本実施の形態のナビゲーション装置1の動作について説明する。本実施の形態のナビゲーション装置1は、目的地までの経路探索や、設定された経路に従ったナビゲーションの動作に加え、ドライバの視線の動きに基づいて注視対象物を特定し、注視対象物の情報に基づいて運転支援を行う。以下、ナビゲーション装置1による運転支援の動作について説明する。
図5は、本実施の形態のナビゲーション装置1による運転支援の動作を示す図である。ナビゲーション装置1の視線検出部12は、まず、カメラ10にて撮影した映像を用いて、ドライバの視線を検出する(S10)。ナビゲーション装置1の注視対象物検出部14は、視線検出部12にて検出した視線の情報を一時的に蓄積し、蓄積した視線の情報に基づいて視線の動きを求める(S12)。注視対象物検出部14は、車両の走行速度に応じて視線パターンを選択する(S14)。注視対象物検出部14は、ドライバの視線の動きが選択された視線パターンに合致するか否かを判定し、ドライバの視線の動きがいずれかの視線パターンに一致する場合には、その視線パターンに対応する対象物を注視対象物として検出する(S16)。
ナビゲーション装置1の予測運転行動決定部16は、注視対象物検出部14にて検出した注視対象物の情報を一時的に蓄積し、蓄積した注視対象物の情報からドライバの注視行動を検出する(S18)。予測運転行動決定部16は、ドライバの注視行動に合致する注視行動パターンを注視行動パターン記憶部22から検索する。ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致した場合には(S20でYES)、予測運転行動決定部16は、その注視行動パターンに対応する運転行動を読み出し、予測運転行動を決定する(S22)。そして、ナビゲーション装置1の運転支援信号送信部18は、予測運転行動決定部16にて決定された予測運転行動を支援するための運転支援信号を車両に対して送信する(S24)。
ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれの注視行動パターンにも合致しない場合には(S20でNO)、注視行動を検出するステップS16に戻って、再びドライバの注視行動を検出する(S18)。以上、第1の実施の形態のナビゲーション装置1の構成および動作について説明した。
本実施の形態のナビゲーション装置1は、ドライバの視線の動きを求め、視線の動きに基づいて注視対象物を検出するので、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出できる。これにより、運転に支障をきたすことなく、注視対象物を検出できる。
また、本実施の形態のナビゲーション装置1は、視線パターン記憶部20は、車両の走行速度に応じて異なる複数の視線パターンを記憶しており、車両の走行速度に応じて、注視対象物を検出するための視線パターンを変えているので、車両の走行速度に応じて異なる視線の動きに対応して適切に注視対象物を検出することができる。
また、本実施の形態のナビゲーション装置1は、注視対象物検出部14にて検出された注視対象物の情報に基づいてドライバの注視行動を求め、ドライバの注視行動に続いて行なわれると予測される予測運転行動を決定する。そして、予測運転行動を支援する運転支援信号を車両に送信するので、ドライバが音声等によって意識的に指示をしなくても適切に運転を支援できる。
(第2の実施の形態)
図6は、本発明の第2の実施の形態のナビゲーション装置2の構成を示す図である。第2の実施の形態のナビゲーション装置2の基本的な構成は、第1の実施の形態のナビゲーション装置1と同じであるが、第1の実施の形態のナビゲーション装置1の構成に加え、注視行動パターン記憶部22に記憶された情報の学習を行うための構成として、車両動作情報取得部26、運転行動検知部28、注視行動学習部30を備えている。以下、これらの構成について説明する。
車両動作情報取得部26は、車両の動作の情報を車両から取得する機能を有する。車両の動作情報には、例えば、ハンドルの動き、ウィンカー、エアコン、オーディオ、窓の開閉等の様々な機器の動作情報が含まれる。
運転行動検知部28は、車両動作情報取得部26にて取得した車両情報に基づいて、運転行動を求める機能を有する。例えば、左ウィンカーが出された後にハンドルが左に切られたことを検知した場合には、左折の運転行動を検知する。
注視行動学習部30は、運転行動検知部28にて運転行動を検知したときに、検知した運転行動と、その運転行動に先立って行なわれた注視行動とに基づいて、注視行動パターンの学習を行う。
図7(a)および図7(b)は、注視行動パターンの学習について説明するための図である。図7(a)は、運転行動検知部28にて検知した運転行動と、その運転行動の前になされた注視行動の例を示す図である。図7(a)に示す情報は、注視行動パターン記憶部22の情報の学習に用いられるいわゆる「教師信号」である。図7(b)は、注視行動パターン記憶部22に記憶される情報の例を示す図である。注視行動パターン記憶部22には、「運転行動」「注視行動」「重み付け」の情報が記憶されている。「重み付け」は、例えば注視行動パターンP2と注視行動パターンP3のように、異なる運転行動に対して同じ注視行動パターンが記憶されている場合に、予測運転行動を決定するための情報である。予測運転行動決定部16は、重み付けに所定の閾値(例えば、「4」)以上の開きがある場合には、重み付けの大きい方の予測運転行動であると判断し、そうでない場合にはドライバの注視行動に合致した注視行動パターンがあった場合にも予測運転行動を決定しない。
注視行動学習部30は、図7(a)に示す教師信号が入力されたときには、図7(b)に下線を引いて示すように、教師信号に対応する注視行動パターンP2の重み付けを大きくする。この学習によって注視行動パターンP2と注視行動パターンP3の重み付けの差が「4」になる。例えば、同じ注視行動パターンに関連付けられた複数の運転行動の中から予測運転行動を決定するための閾値が「4」であるとすると、注視行動パターンP2に合致する注視行動を検出したときに、運転行動が「車線変更」であると決定することができる。ここでは、注視行動パターン記憶部22にすでに記憶されている注視行動パターンと同じ注視行動が教師信号として入力された例について説明したが、注視行動パターン記憶部22に記憶されたいずれの注視行動パターンとも合致しない注視行動が教師信号として入力された場合には、新しい注視行動パターンとして登録する。以上、第2の実施の形態のナビゲーション装置2について説明した。
第2の実施の形態のナビゲーション装置2は、注視行動学習部30にて学習を行い、注視行動パターン記憶部22に記憶された情報を更新するので、ナビゲーション装置2は、ドライバの癖等に応じて予測運転行動を適切に決定できる。
(第3の実施の形態)
図8は、本発明の第3の実施の形態のナビゲーション装置3の構成を示す図である。第3の実施の形態のナビゲーション装置3の基本的な構成は、第2の実施の形態のナビゲーション装置2と同じであるが、第2の実施の形態のナビゲーション装置2の構成に加え、視線パターン記憶部20に記憶された情報の学習を行うための視線パターン学習部32を備えている。
視線パターン学習部32は、視線検出部12にて検出されたドライバの視線の情報に基づいて視線の動きを求める。次に、視線パターン学習部32は、求めた視線の動きに類似する視線パターンを視線パターン記憶部20の中から検索する。視線パターン学習部32は、ドライバの視線の動きを教師信号として、類似する視線パターンの学習を行う。
図9(a)は視線パターン記憶部20に記憶された視線パターンの例を示す図、図9(b)は求めた視線の動きの例を示す図である。なお、図9(a)に示す視線パターンは、注視対象物が「路側」の場合の視線パターンである。図9(a)に示すように視線パターン記憶部20に記憶された視線パターンは、視線の角度θが閾値xを超える時間tnの合計がF秒より大きいのに対し、ドライバの視線の動きは図9(b)に示すように時間tnの合計はF秒より小さいF´秒であった。この場合、視線パターン学習部32は、検出されたドライバの視線の動き(図9(b)参照)を用いて、図9(a)に示す視線パターンを更新する。具体的には、例えば、合計時間の判定に用いるF秒という時間をF´秒に更新する、あるいは(F+F´)/2秒に更新する等の更新方法が考えられる。以上、第3の実施の形態のナビゲーション装置3について説明した。
第3の実施の形態のナビゲーション装置3は、視線パターン学習部32にて学習を行い、視線パターン記憶部20に記憶された情報を更新するので、ナビゲーション装置3は、ドライバの癖等に応じて、対象物を注視するときの視線パターンをそれぞれのドライバに適合させることができる。
以上、本発明のナビゲーション装置について実施の形態を挙げて詳細に説明したが、本発明のナビゲーション装置は、上記した実施の形態に限定されるものではない。
上記した実施の形態では、ナビゲーション装置およびナビゲーション方法について説明したが、本発明は、上記した実施の形態のナビゲーション方法の各ステップを実行するためのプログラムも含む。
上記した実施の形態では、ドライバの視線を検出する構成として、カメラ10で撮像した映像からドライバの視線を検出する例を説明したが、例えば、アイマークカメラ10を用いてドライバの視線を検出してもよい。
上記した実施の形態では、予測運転行動決定部16は、ドライバの注視行動が、注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致する場合に、その注視行動パターンに対応する運転行動を予測運転行動として決定する例について説明したが、ドライバの注視行動が注視行動パターンに完全一致しない場合にも予測運転行動を決定してもよい。例えば、ドライバの注視行動が注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を予測運転行動として決定してもよい。すなわち、例えば、注視対象物A→注視対象物B→注視対象物C→注視対象物Bの注視行動が検出されたときに、注視対象物A→注視対象物B→注視対象物C→注視対象物B→注視対象物Dの注視行動パターンの一部に合致するので、この注視行動パターンに関連付けられた運転行動を予測運転行動とすることができる。これにより、注視対象物Dの注視を検出する前に、予測運転行動を決定できるので、より早い段階で運転支援を行なうことができる。
なお、この構成を採用した場合にドライバの注視行動が、複数の注視行動パターンの一部に合致する場合が起こり得るが、上記した第2の実施の形態で述べた重み付けのパラメータに基づいて、複数の注視行動パターンの中から一の注視行動パターンを選択してもよい。
また、上記した実施の形態では、視線パターン記憶部20に車速に応じて異なる複数の視線パターンを記憶した例について説明したが、車速以外の環境のパラメータに応じて複数の視線パターンを記憶してもよい。環境のパラメータとしては、例えば、ドライバの運転経験年数や、運転時間が昼か夜か等のパラメータを用いることができる。
また、上記した実施の形態では、環境に応じて、注視対象物を検出するための視線パターンを変更する例について説明したが、環境に応じて、予測運転行動を求めるために用いる注視行動パターンを変更してもよい。すなわち、ナビゲーション装置は、注視行動パターン記憶部に、運転行動に関連付けて環境ごとに異なる複数の注視行動パターンを記憶しておく。そして、ナビゲーション装置は、注視行動パターン記憶部に記憶された注視行動パターンの中から環境に対応した注視行動パターンを選択し、選択された注視行動パターンを用いて予測運転行動を決定する。
本発明は、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができるという効果を有し、ドライバの注視している対象物の情報に基づいて運転支援を行う機能を有するナビゲーション装置等として有用である。
第1の実施の形態のナビゲーション装置の構成を示す図である。 視線パターン記憶部に記憶された情報の例を示す図である。 視線パターン記憶部に記憶されたデータの例を詳しく示す図である。 注視行動パターン記憶部に記憶された情報の例を示す図である。 本実施の形態のナビゲーション装置1による運転支援の動作を示す図である。 第2の実施の形態のナビゲーション装置の構成を示す図である。 (a)注視行動パターンの学習に用いられるいわゆる「教師信号」を示す図である。(b)注視行動パターン記憶部に記憶される情報の例を示す図である。 第3の実施の形態のナビゲーション装置の構成を示す図である。 (a)視線パターン記憶部に記憶された視線パターンの例を示す図である。(b)求めた視線の動きの例を示す図である。
符号の説明
1〜3 ナビゲーション装置
10 カメラ
12 視線検出部
14 注視対象物検出部
16 予測運転行動決定部
18 運転支援信号送信部
20 視線パターン記憶部
22 注視行動パターン記憶部
24 車速情報取得部
26 車両情報取得部
28 運転行動検知部
30 注視行動学習部
32 視線パターン学習部

Claims (9)

  1. 車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部と、
    ドライバの視線を検出する視線検出部と、
    前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出する注視対象物検出部と、
    を備えるナビゲーション装置。
  2. 前記視線パターン記憶部は、前記対象物に関連付けて、環境ごとに異なる複数の視線パターンを記憶しておき、
    前記注視対象物検出部は、前記視線の動きを求めた環境に応じて前記視線パターンを選択し、選択された視線パターンを用いて前記注視対象物を検出する請求項1に記載のナビゲーション装置。
  3. ドライバの運転行動に先立って注視される複数の注視対象物とその注視順序を注視行動パターンとして当該運転行動に関連付けて記憶した注視行動パターン記憶部と、
    前記注視対象物検出部にて検出した注視対象物の情報に基づいて注視行動を求め、前記注視行動に合致する注視行動パターンに対応する運転行動を前記注視行動パターン記憶部から読み出し、読み出した運転行動を注視行動に続いて行なわれる予測運転行動として決定する予測運転行動決定部と、
    前記予測運転行動を支援するための運転支援信号を送信する運転支援信号送信部と、
    を備える請求項1または2に記載のナビゲーション装置。
  4. 前記注視行動パターン記憶部は、前記運転行動に関連付けて、環境ごとに異なる複数の注視行動パターンを記憶しておき、
    前記予測運転行動決定部は、前記注視行動を検出した環境に応じて前記注視行動パターンを選択し、選択された注視行動パターンを用いて前記予測運転行動を決定する請求項3に記載のナビゲーション装置。
  5. 前記予測運転行動決定部は、前記注視対象物検出部にて検出した注視対象物の情報から注視行動を求め、前記注視行動が前記注視行動パターン記憶部に記憶された注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を読み出す請求項4に記載のナビゲーション装置。
  6. 車両の動作から運転行動を検知する運転行動検知部と、
    前記運転行動検知部にて運転行動を検知したときに、前記運転行動の前に行われた注視行動を求め、前記注視行動を用いて前記注視行動パターン記憶部に記憶された情報を更新する注視行動パターン学習部と、
    を備える請求項3〜5のいずれかに記載のナビゲーション装置。
  7. 前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに最も類似する視線パターンを前記視線パターン記憶部から検索し、検索された視線パターンを前記ドライバの視線の動きを用いて更新する視線パターン学習部と、
    を備える請求項1〜6のいずれかに記載のナビゲーション装置。
  8. 車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部を準備するステップと、
    ドライバの視線を検出するステップと、
    検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、
    前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップと、
    を備えるナビゲーション方法。
  9. ドライバの視線を検出する機能を備えたナビゲーション装置に、
    ドライバの視線を検出するステップと、
    検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、
    前記視線の動きに合致する視線パターンに対応する対象物を、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップと、
    を実行させるプログラム。
JP2007074832A 2007-03-22 2007-03-22 ナビゲーション装置、ナビゲーション方法、およびプログラム Expired - Fee Related JP4729522B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007074832A JP4729522B2 (ja) 2007-03-22 2007-03-22 ナビゲーション装置、ナビゲーション方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007074832A JP4729522B2 (ja) 2007-03-22 2007-03-22 ナビゲーション装置、ナビゲーション方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2008232912A JP2008232912A (ja) 2008-10-02
JP4729522B2 true JP4729522B2 (ja) 2011-07-20

Family

ID=39905872

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007074832A Expired - Fee Related JP4729522B2 (ja) 2007-03-22 2007-03-22 ナビゲーション装置、ナビゲーション方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP4729522B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10994745B2 (en) 2016-07-22 2021-05-04 Panasonic Intellectual Property Management Co., Ltd. Information estimating system, information estimating method and recording medium

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2256667B1 (en) * 2009-05-28 2012-06-27 Honda Research Institute Europe GmbH Driver assistance system or robot with dynamic attention module
KR101648021B1 (ko) * 2014-11-28 2016-08-23 현대자동차주식회사 시선 인식 기능을 갖는 차량 및 그 제어방법과 시선 인식 시스템
JP6503285B2 (ja) * 2015-12-02 2019-04-17 株式会社デンソーアイティーラボラトリ 運転制御装置、運転制御方法及びプログラム
JP2018097398A (ja) * 2016-12-07 2018-06-21 トヨタ自動車株式会社 視線推定システム
JP6645618B2 (ja) * 2017-03-28 2020-02-14 三菱電機株式会社 情報提供装置
JP7094254B2 (ja) * 2019-09-17 2022-07-01 本田技研工業株式会社 車両制御システム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000010722A (ja) * 1998-06-18 2000-01-14 Mr System Kenkyusho:Kk 視線ユーザ・インタフェース装置、そのインタフェース方法、コンピュータ装置、その制御方法、およびプログラム記憶媒体
JP2001260776A (ja) * 2000-03-22 2001-09-26 Mazda Motor Corp 車両用障害物警報装置
JP3790680B2 (ja) * 2001-05-25 2006-06-28 株式会社東芝 画像処理システム及びこれを用いた運転支援システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10994745B2 (en) 2016-07-22 2021-05-04 Panasonic Intellectual Property Management Co., Ltd. Information estimating system, information estimating method and recording medium

Also Published As

Publication number Publication date
JP2008232912A (ja) 2008-10-02

Similar Documents

Publication Publication Date Title
JP4729522B2 (ja) ナビゲーション装置、ナビゲーション方法、およびプログラム
CN108349503B (zh) 驾驶辅助装置
JP2008082822A (ja) 注視対象物検出装置および注視対象物検出方法
US20140350942A1 (en) Vehicle human machine interface with gaze direction and voice recognition
KR102480416B1 (ko) 차선 정보를 추정하는 방법 및 전자 장치
US7751970B2 (en) Information providing apparatus, information providing method, and computer product
JP5098438B2 (ja) 情報表示装置
JP2018173862A (ja) 走行支援装置及びコンピュータプログラム
JP2007082594A (ja) 疲労検出装置
JP6090340B2 (ja) ドライバ感情推定装置
CN111243332A (zh) 信息提供***和方法、服务器、车载装置以及存储介质
JP2017122640A (ja) 情報制御装置
KR20200131664A (ko) 차량의 주행을 보조하는 전자 장치 및 방법
JP2014120114A (ja) 走行支援システム、走行支援方法及びコンピュータプログラム
JP6825433B2 (ja) 虚像表示装置及びコンピュータプログラム
WO2018180756A1 (ja) 運転支援システム
JP2020016968A (ja) 情報処理システム、プログラム、及び制御方法
JP2010009484A (ja) 車載機器制御装置および車載機器制御方法
JP2017129973A (ja) 運転支援装置および運転支援方法
JP2016224717A (ja) 運転支援装置及び運転支援方法
US20160282133A1 (en) Drive support system and drive support method
JP2020035437A (ja) 車両システム、車両システムで実行される方法、および運転者支援システム
JP2010256554A (ja) 情報処理装置及び画像表示制御方法
JP2007225282A (ja) 情報提示装置、情報提示プログラム及び情報提示方法等
JP2017083308A (ja) 電子装置、施設特定方法および施設特定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110412

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

R150 Certificate of patent or registration of utility model

Ref document number: 4729522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees