JP6206022B2 - 運転支援装置 - Google Patents

運転支援装置 Download PDF

Info

Publication number
JP6206022B2
JP6206022B2 JP2013189663A JP2013189663A JP6206022B2 JP 6206022 B2 JP6206022 B2 JP 6206022B2 JP 2013189663 A JP2013189663 A JP 2013189663A JP 2013189663 A JP2013189663 A JP 2013189663A JP 6206022 B2 JP6206022 B2 JP 6206022B2
Authority
JP
Japan
Prior art keywords
driving
topic
feature
distribution
feature quantity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013189663A
Other languages
English (en)
Other versions
JP2015056058A (ja
Inventor
一仁 竹中
一仁 竹中
誉司 坂東
誉司 坂東
万寿三 江川
江川  万寿三
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013189663A priority Critical patent/JP6206022B2/ja
Publication of JP2015056058A publication Critical patent/JP2015056058A/ja
Application granted granted Critical
Publication of JP6206022B2 publication Critical patent/JP6206022B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、自車両の状況に応じた情報提供を行う運転支援装置に関する。
従来、周辺車両の速度や距離、衝突余裕時間など、自車両の状況に応じて安全に運転するための各種情報をドライバに提示することが行われている。
こういった情報を提示する技術の一つとして、自車両の後方を撮影したカメラ画像において、後方車両にモーションブラーを加えたり、各種センサでの検出結果等に基づいて設定される危険度に応じて道路に色を付けたりする等して、ドライバに提示したい情報を自然な形で可視化する技術が知られている(例えば、非特許文献1参照)。
従来技術は、センサ等での検出結果から把握される外部状況が、予め定義された運転シーン(例えば「信号待ち」「急停車」など)のいずれと類似しているかを判定し、その運転シーンに対して予め定義された部位に予め定義された態様で情報提示を行うものである。このため、設計者は、情報を提示したい全ての運転シーンについて、その運転シーンの判定基準を事前に明確に定義しておく必要がある。
しかし、実際の運転シーンは極めて多様であるため、運転開始から終了までのあらゆる運転シーンを想定することは困難であり、現実的には設計者が想定可能である限られた特定の運転シーンでしか情報を提示することができないという問題があった。
また、外部状況(例えば、車速や他車両との位置関係)が同じであっても、ドライバの運転意図(例えば、車線変更の意志の有無)によっては、ドライバの注意を喚起すべき部位は異なったものとなる。しかし、センサ等で検出される瞬時的な外部状況だけでは、このようなドライバの運転意図も含めた総合的な状況(以下「運転文脈」ともいう)の違いを識別することができない。つまり、従来技術は、運転意図を除外した特定の運転文脈しか扱うことができないという問題もあった。
更に、ある外部状況が検出された時に、その外部状況をとり得る複数の運転文脈のそれぞれで提示すべき情報を、全て提示することも考えられるが、その場合、情報過多になり、ドライバにどの情報が本当に必要な情報なのかを理解させることができないという問題があった。
本発明は、上記問題点を解決するために、運転支援装置において、ドライバの運転意図等も含めた総合的な状況に応じた情報提示を実現することを目的とする。
本発明の運転支援装置は、運転挙動データ収集手段と、環境データ収集手段と、シーン分割手段と、特徴量分布生成手段と、報知手段とを備える。
運転挙動データ収集手段は、車両の運転挙動に関わる運転挙動データを繰り返し収集し、環境データ収集手段は、車両周辺の環境を表す環境データを繰り返し収集する。シーン分割手段は、運転挙動データ収集手段にて収集された運転挙動データの系列を、各々が何等かの運転シーンを表す複数の部分系列に分割する。特徴量分布生成手段は、運転挙動データ収集手段によって収集された運転挙動データから得られる一種類以上の特徴量を運転特徴量、環境データ収集手段によって収集された環境データから得られる局所的な特徴量を環境特徴量として、部分系列毎かつ特徴量毎に、該特徴量の値域を複数に分割したビンのいずれに該特徴量が所属するかのインデックス毎の出現頻度を表す特徴量分布を生成する。そして、報知手段は、特徴量分布群における運転特徴量分布と環境特徴量分布の間の共起性を利用して環境データの局所領域に関する報知を制御する。
このように構成された本発明によれば、シーン分割手段によって得られたドライバの運転意図に基づいた運転シーンごとに、運転特徴量分布と環境特徴量分布の共起性に基づいて環境データと運転挙動データとの間の関連の強さを求めるため、報知手段は運転シーンごとに適切な環境データの局所領域を設定することができる。そのため本発明によって、ドライバの運転意図等も含めた総合的な状況に応じた情報提示を実現することができる。
なお、報知手段は、例えば、トピック記憶手段、割合演算手段、確率分布生成手段、報知制御手段によって構成することができる。この場合、部分系列毎に特徴量分布生成手段で生成される複数種類の特徴量分布を特徴量分布群として、トピック記憶手段には、特徴量分布群を表現する際の基底分布として使用される複数の運転トピックからなる運転トピック群が記憶されている。言い換えれば、運転トピックは運転特徴量と環境特徴量のそれぞれの基底分布のセットであり、部分系列毎に生成される特徴量分布群は複数の運転トピックの混合として表現される。この時、この運転トピックの混合比をトピック割合とよぶ。
割合演算手段は、特徴量分布群を運転トピック群によって表現した場合の混合比であるトピック割合を、部分系列毎に算出する。確率分布生成手段は、部分系列毎に、トピック割合および運転トピック群に基づいて、環境特徴量毎に、該環境特徴量を有した局所領域が、どの運転トピックに由来するかを確率的に示す割当用確率分布を生成する。報知制御手段は、環境特徴量および割当用確率分布に従って、局所領域毎に運転トピックを割り当てると共に、予め設定された提示条件を満たす運転トピックが割り当てられた局所領域に関する報知を制御する。
なお、運転トピック群を構成する個々の運転トピックは、運転時に繰り返し出現する特定の状況を表しており、それぞれの部分系列における特徴量分布群は、個々の運転トピックあるいは運転トピックの組合せによって表現される。今後、それぞれの部分系列が持っている運転に関する情報を運転文脈とよぶ。すなわち本発明では、運転トピックとトピック割合によって運転文脈を表現する。
本発明では、運転挙動データの系列を、それぞれが何等かの運転シーンを表す部分系列に分割し、部分系列毎に、運転挙動データや環境データに基づいて生成された特徴量分布から把握される運転トピックとトピック割合という形式で運転文脈を抽出し、その抽出された運転文脈に対応づけられる局所領域を推定し、その推定された局所領域に関する報知を行っている。
このように、本発明によれば、事前に定義された運転シーンのいずれに現在の状況が類似しているかを判定するのではなく、切り出された運転シーンがどのような運転トピックで構成されているかを解析することによって運転文脈を抽出している。このため、本発明では、従来装置とは異なり、事前に定義された限られた運転シーンに限らず、運転開始から運転終了までに出現するあらゆる運転シーンについて、運転文脈に応じた情報提供を実現することができる。
なお、特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本発明の技術的範囲を限定するものではない。
また、本発明は、前述した運転支援装置の他、運転支援装置を構成要素とする各種システム、運転支援装置を構成する各手段としてコンピュータを機能させるためのプログラム、運転支援方法など、種々の形態で実現することができる。
運転支援装置の全体構成図である。 特徴量分布を例示するヒストグラムである。 潜在的ディリクレ配分法(LDA:Latent Dirichlet Allocation )で仮定されるグラフィカルモデルである。 運転トピックの生成過程、および運転トピックを利用したトピック割合の演算過程を示す説明図である。 運転挙動データに関する基底特徴分布を例示した説明図である。 (a)がトピック割合から割当用確率分布を生成する過程、(b)が割当用確率分布に従って局所領域毎に運転トピックを割り当てる過程を示す説明図である。 基底特徴分布における出現頻度を尤度比に変換した特徴強調分布を例示した説明図である。 運転文脈に応じた強調表示を例示する図であり、強調表示の対象となる顕著トピックとして、(a)は「高ブレーキトピック」(b)は「高速走行トピック」が指定されている場合を示す。 運転文脈に応じた強調表示を例示する図であり、(a)は距離画像データを使用した場合、(b)は画像データを使用した場合を示す。
以下に本発明の実施形態を図面と共に説明する。
<全体構成>
運転支援装置1は、図1に示すように、運転挙動データ収集部2と、環境データ収集部9と、運転シーン離散化部3と、特徴量分布生成部4と、運転トピックデータベース5と、トピック割合演算部6と、割当用確率演算部7と、強調領域設定部8とを備えている。
運転支援装置1は、マイクロコンピュータ(マイコン)によって実現され、運転トピックデータベース5を除く各部は、マイコンが備える図示しないCPUが所定のプログラムを実行することによって実現されるものである。つまり、CPUによって実現される各種機能を機能ブロック毎に分けて図示したものが図1である。但し、これら各部は必ずしもソフトウェアにて実現されている必要はなく、その全部または一部をロジック回路等のハードウェアにて実現してもよい。
<運転挙動データ収集部>
運転挙動データ収集部2は、運転者による運転操作に関する運転操作データや、その運転操作の結果として現れる車両の挙動に関する車両挙動データを、車両に搭載された各種センサを介して繰り返し収集すると共に、運転操作データや車両挙動データをそれぞれ微分した微分データ(ダイナミックフィーチャ)を生成し、これら、運転操作データ,車両挙動データ,微分データからなる多次元データを運転挙動データとして出力する。
なお、運転操作データとしては、例えば、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操作量(操舵角)、方向指示器の操作状態、トランスミッションのシフト位置などを用いることができる。また、車両挙動データとしては、例えば、車両の速度、ヨーレートなどを用いることができる。以下では、これら運転挙動データを構成する個々のデータを個別データともいう。
<環境データ収集部>
環境データ収集部9は、車両の前方、側方、後方などの車両周辺を撮影するように設置された車載カメラ11から出力される画像データを繰り返し取得して、特徴量分布生成部4に出力する。
<運転シーン離散化部>
運転シーン離散化部3は、ドライバの環境認知から操作に至るモデルを利用して、運転挙動データ収集部2から得られる運転挙動データを統計解析し、ドライバ個人(もしくは一般のドライバ)が感じる運転シーンの切り替わり点を抽出することにより、運転挙動データの時系列を、それぞれが何等かの運転シーンを表す複数の部分系列に分節化(離散化)する。
具体的には、二重分節構造を利用した教師なし運転シーン分割法によって分節化を行う二重分節解析器(DAA:Double Articulation Analyzer)を利用する。
DAAは、まず、運転挙動データの値域を表す多次元の空間で運転挙動データから把握される各種の車両の状態を表すクラスタと、各クラスタ間の遷移確率とを予め定義しておき、これらの情報を用いて、運転挙動データ収集部2から取得した運転挙動データがいずれのクラスタに属するかを統計的に処理することにより、運転挙動データの時系列を、区分単位となる車両の状態毎(つまり、クラスタ毎)に区分けする。但し、各クラスタには予め識別用の記号を対応づけておくことにより、運転挙動データの時系列は、どのクラスタに属しているかを表す記号列に変換される。この記号列の生成には、例えば、隠れ状態とその状態間の確率的遷移で表現されるモデルの一つである階層ディリクレ過程隠れマルコフモデル(HDP−HMM:Hierarchical Dirichlet Process Hidden Markov Model)を利用することができる。但し、HDP−HMMにおいてはクラスタ、および各クラスタ間の遷移確率は、学習によってあらかじめ生成されたものを使用する。
次に、DAAは、生成された記号列を、統計情報を利用した離散文字列の教師なしチャンク化手法の1例であるNested Pitman-Yor Language Model(NPYLM)を用いて、所定の運転シーンを意味する部分系列に分節化する。この際、部分系列の並びからなる記号列全体の生成確率が最大となるようにする。これにより、運転挙動データの運転シーンへの分節化を行うことが可能になる。但し、部分系列間の遷移確率、および部分系列の生成確率は、学習によって予め生成されたものを使用する。
なお、HDP−HMMやNPYLMを適用したDAAについては、本願出願人が別途発表した非特許文献、T. Taniguchi et al, "Semiotic Prediction of Driving Behavior using Unsupervised Double Articulation Analyzer," IEEE Intelligent Vehicles Symposium, 2012、および、K. Takenaka et al, " Contextual Scene Segmentation of Driving Behavior based on Double Articulation Analyzer," IEEE/RSJ International Conference on Intelligent Robots and Systems, 2012、等に詳述されているため、ここでは説明を省略する。但し、記号の生成や記号の分節化に用いる手法は、HDP−HMMやNYLMに限定されるものではなく他の手法を用いてもよい。
<特徴量分布生成部>
特徴量分布生成部4は、運転特徴算出部41と、画像特徴算出部42とを備えている。
運転特徴算出部41は、運転挙動データ収集部2から出力される時系列の運転挙動データに基づき、運転シーン離散化部3で分節化された部分系列(すなわち、何等かの運転シーン)毎に、その部分系列中に現れる特徴量の分布を生成する。
本実施形態では、運転挙動データを構成する8種類の個別データ(アクセルペダルの操作量(accel)、ブレーキペダルの操作量(brake)、ステアリングの操作量(steering)、車速(velocity)、およびそれらの微分データΔaccel、Δbrake、Δsteering、Δvelocity)のそれぞれを特徴量として、特徴量分布を生成する。
特徴量分布は、図2に示すように、特徴量の値域を表す特徴空間を複数に分割(図では特徴量の最小値〜最大値を20等分)したものをビンとして、そのビンのインデックス毎に、特徴量の出現頻度を表現したヒストグラムからなる。図において(a)は車速V、(b)は車速の微分値(加速度)ΔVの特徴量分布を例示したものである。
画像特徴算出部42は、環境データ収集部9から供給される画像データを、運転シーン離散化部3で分節化された部分系列に従って分節化し、その画像データの部分系列中に現れる特徴量の分布を生成する。ここでは、入力画像を所定サイズ(例えば、320×240ピクセル)に圧縮し、その圧縮画像データを、一定間隔(例えば、5ピクセル)毎に所定サイズ(例えば、24×24ピクセル)を有する複数(ここでは3072点)の局所領域を設定し、その局所領域毎に求めたSIFT(Scale-Invariant Feature Transform )特徴量を、特徴量分布の生成対象としている。特徴量分布のインデックスは予め学習によって決定したものを利用する。例えば、SIFT特徴量の値域を表す特徴空間を、k-means 等のクラスタリング手法を用いてクラスタリングし、その結果として得られた各クラスタを特徴量分布のインデックスとして使用する。但し、画像データから分布を生成する特徴量はSIFT特徴量に限定されるものではなく他の局所特徴量抽出手法を用いてもよい。
以下では、運転特徴算出部41が生成する特徴量分布を運転特徴量分布、画像特徴算出部が生成する特徴量分布を画像特徴量分布とも呼ぶ。つまり、特徴量分布生成部4は、それぞれが運転シーンに対応する部分系列毎に、個別データ毎(ここでは8個)の運転特徴量分布と1個の画像特徴量分布からなる特徴量分布群を生成し、画像特徴量分布の生成に用いた画像特徴量(SIFT特徴量)と共にして後段に出力する。
<運転トピックデータベース>
運転トピックデータベース5には、特徴量分布生成部4で生成される特徴量分布群を、複数の分布の混合によって表現する場合に基底として使用される複数(例えば100個)の運転トピックが予め格納されている。
ここで運転トピックの生成方法について説明する。
運転トピックの生成には、それぞれが運転シーンのいずれかに対応する各部分系列を「一つの文書」、観測された特徴(運転特徴量やSIFT特徴量など)を「一つの単語」と見なすことで、自然言語処理分野で利用されているトピック推定手法を利用する。
特に、ここでは、運転挙動データ(運転特徴量分布)、画像データ(画像特徴量分布)からなる複数のモダリティに跨る運転トピックを推定するため、潜在的ディリクレ配分法(LDA:Latent Dirichlet Allocation )を拡張した手法であるマルチモーダルLDAを利用する。
LDAでは、図3に示すようなグラフィカルモデルを仮定する。但し、Dがシーン総数、Mdがd番目のシーンでのフレーム総数、Kがトピック総数、wd,m がd番目のシーンのmフレームで観測された特徴(すなわち運転特徴量)、zd,m が特徴wd,mに対して割り当てられるトピックを指示するトピック指示変数(1〜Kの自然数をとる)、θがd番目のシーンに含まれるトピックの割合を示す多項分布パラメータ、φはk番目のトピックから各特徴量が生成される割合を示す多項分布パラメータ、α,βはそれぞれθ、φのパラメータである。また、θ,φ、zd,md,m は、Dirをディリクレ分布、Multを多項分布として、(1)〜(4)式で定義される。
このモデルを利用してθ、φを推定することになるが、これらの推定には変分ベイズ、ギブスサンプリングなどの近似手法を使用することができる。これらの手法の詳細については、例えば、D. Blei et al, "Latent Dirichlet Allocation," Journal of Machine Learning Research, 2003、や、T. Griffiths & M. Steyvers, "Finding Scientific Topics," Proceedings of the National Academy of Sciences,2004などに記載されているため、ここでは説明を省略する。またマルチモーダルLDAへの拡張についても、T. Nakamura, et al, "Grounding of word meanings in multimodal concepts using LDA," IEEE/RSJ International Conference on Intelligent Robots and Systems, 2009などに記載されているため、ここでは説明を省略する。
但し、運転トピックの生成時に使用する学習用の特徴量分布(運転特徴量分布、画像特徴量分布)は、例えば、次のようにして生成されたものを使用する。
まず、実際に車両を走行させて、車載カメラ11にて学習用画像の撮影を行うと共に、運転挙動データ収集部2、運転シーン離散化部3、特徴量分布生成部4を作動させることで、学習用画像に対応した学習用の特徴量分布を生成する。次に、生成された学習用の特徴量分布を用いてマルチモーダルLDAにより、基底となる分布を推定した結果が運転トピックとなる。
なお、運転トピックは、図4に示すように、個々の個別データ(運転特徴量分布)にそれぞれ対応した複数の運転基底分布と、画像データ(画像特徴量分布)に対応した画像基底分布とによって構成されている。以下では、運転基定分布および画像基底分布を区別しない場合は、これらを総称して基底特徴分布ともいう。
図5は、生成された運転トピックのうち、5種類の運転トピックTP1〜TP5について、運転基底分布を例示したものである。特徴量のインデックス毎の出現頻度をトーンで表しており、トーンが白いほど出現頻度が高いことを意味する。
このようにして生成された運転基底分布によって構成される各運転トピックは、それぞれが運転時に繰り返し出現する特定の状況を表している。例えば、運転トピックTP1は、他の運転トピックと比較して、低速域でステアリング操作を頻繁に行う状況において出現するものである。そして、これら個々の運転トピックあるいは運転トピックの組合せによって、何等かの運転文脈が表現される。
<トピック割合演算部>
トピック割合演算部6では、特徴量分布生成部4から出力される特徴量分布が、運転トピックデータベース5に格納された運転トピック群を混合することで表現されるものとして、その混合比であるトピック割合(各運転トピックの含有割合)を算出する(図4参照)。なお、トピック割合は、具体的には、マルチモーダルLDAの推定を実現するEステップおよびMステップの処理のうち、Eステップだけを実行することで求めることができる。
<割当用確率演算部>
割当用確率演算部7では、図6(a)に示すように、トピック割合演算部6で求められたトピック割合と、運転トピックデータベース5に格納された運転トピックの一部である画像基底分布とに基づき、割当用確率分布を求める。
具体的には、TPを識別子kで識別される運転トピック、wを識別子iで識別される画像特徴量分布/画像基底分布のビンに所属する画像特徴量、φkiを運転トピックTPの画像基底分布を表す多項分布のi成分、Kをトピックの総数、θをトピック割合における運転トピックTPの比率として、画像特徴量wを有した画像上の領域が、運転トピックTPに由来する確率Pikを、(5)式に従って算出する。
これにより、画像特徴量分布/画像基底分布のインデックス毎に、インデックスBINに属する画像特徴量を有する局所領域が、どの運転トピックに由来するかを表す割当用確率分布P={Pi1,Pi2,…PiK}が求められる。但し、図中の確率分布は、確率分布の合計が1となるように正規化する前の値(すなわち、(5)式の分子のみを演算した結果)を示したものである。
<強調領域設定部>
強調領域設定部8では、図6(b)に示すように、画像特徴算出部42で局所領域毎に算出された特徴量に基づき、その特徴量が属するインデックスの割当用確率分布(割当用確率演算部7での演算結果)に従って、その特徴量が算出された局所領域(画像上の領域)に、確率的に運転トピックを割り当てる。但し、割り当ての方法は確率的に割り当てなくてもよく、例えば割当用確率に従って最大の確率をもつ運転トピックを割り当ててもよい。
更に、運転トピックのうち、所定の提示条件を満たすものを顕著トピックとして、顕著トピックが割り当てられた画像上の領域を、その顕著トピックに予め対応づけられた態様(色,ハッチングパタン等)で強調表示するための強調表示データを生成する。ここでは、顕著トピックとして予め指定されていることを提示条件とする。また、強調表示の態様は、顕著トピック毎に予め定義されているものとする。
そして、強調領域設定部8は、生成した強調表示データを、車載カメラ11から供給される画像データに基づく画像表示を行う表示装置12に出力する。なお、表示装置12は、強調表示データに従って、画像データに基づく画像を強調表示する。
ここで、顕著トピックに指定する運転トピックの抽出方法について説明する。
まず、各運転トピックを構成する運転基底分布(図5参照)を用いて、各運転トピックに特有な特徴を抽出する。その抽出には尤度比を利用する。具体的には、wをjで識別されるビンに所属する運転特徴量、TPを識別子kで識別される運転トピック、φkjを運転トピックTPの運転基底分布を表す多項分布のj成分として、(6)式に従って尤度比Ljkを求める。ただし(6)式中の分母は多項分布の成分φkjについてk以外の成分の和をとることを意味している。なお、尤度比Ljkは、ある特徴が他の運転トピックには含まれずに特定の運転トピックに含まれている度合いを示すいわゆる逆文書頻度(IDF:Inverse Document Frequency)と呼ばれる指標である。
図7は、各運転トピックにおいて、尤度比Ljkが一定以上(ここでは5)のもののみ表示した特徴強調分布であり、ここでは、図面を見やすくするため、アクセル、ブレーキ、ステアリング、速度についてのみ示している。
この特徴強調分布に基づき、所定条件を満たす運転トピックを顕著トピックに指定する。具体的には、所定条件として、例えば、(1)アクセル開度のヒストグラムにおいて、アクセル開度の値が50%以上となるビンの尤度比が5以上であること、(2)速度ヒストグラムにおいて、速度値が80km以上となるビンの尤度比が5以上であること等を用いることができる。(1)の場合、図7ではトピックTP3が顕著トピックに指定される。この顕著トピックは、アクセルの踏み込み時等に出現する運転トピック(高加速トピック)であると解釈できる。(2)の場合、図7ではトピックTP5が顕著トピックに指定される。この顕著トピックは、高速走行時等に出現する運転トピック(高速走行トピック)であると解釈できる。つまり、様々な運転文脈が、個々の顕著トピックや、顕著トピックの組合せによって表現されることになる。
顕著トピックは、これに限らず、例えば、ブレーキの踏み込み時等に出現する運転トピック(高ブレーキトピック)、低速走行時に出現する運転トピック(低速走行トピック)、車線変更時に出現する運転トピック(車線変更トピック)、車両が前方に割り込んできた時に出現する運転トピック(被割込トピック)等、特徴強調分布から意味のある解釈を導くことができる運転トピックであればよい。
図8は表示装置12が表示する画像を例示したものであり、(a)は顕著トピックとして「高ブレーキトピック」が指定されている場合に、先行車に衝突しないようにドライバがブレーキを踏み込んだ時の状況、(b)は顕著トピックとして「高速走行トピック」が指定されている場合に、高速道路を走行した時の状況を例示したものである。これらの図からは、それぞれの運転文脈(顕著トピック)において、ドライバの注意を喚起すべき領域が強調表示されていることがわかる。これは特定の運転特徴量とそれに関連する画像特徴量が繰り返し発生しており、これを顕著トピックとして抽出できているためである。
なお、図8では、図面を見やすくするため、顕著トピックが一つである場合について例示したが、顕著トピックが複数設定されている場合は、各顕著トピックに対応する領域がそれぞれ異なった態様(例えば色,ハッチングパタン)で強調表示されたものとなる。
<効果>
以上説明したように、運転支援装置1では、教師なしの分割法であるDDAによって運転挙動データの時系列を、それぞれが何等かの運転シーンを表す部分系列に分割し、部分系列毎に運転挙動データや画像データに基づいて生成された特徴量分布から把握される運転文脈(運転トピック)を抽出し、その抽出された運転文脈に対応づけられる局所領域を強調表示している。
このように、運転支援装置1によれば、事前に定義された運転シーンのいずれに現状の状況が類似しているかを判定するのではなく、切り出された運転シーンがどのような運転トピックで構成されているかを解析することによって運転文脈を抽出しているため、運転開始から運転終了までに出現するあらゆる運転シーンについて、事前に定義された情報ではなく運転文脈に応じた情報提供を実現することができる。
しかも、運転シーンの分割にDAAを利用することで、ドライバの直感に適合した単位で運転シーンが抽出されるため、抽出された運転シーンは、安定したドライバの意志を含んだ車両の状況、すなわち、特定の運転文脈が強く反映されたものとなり、運転文脈の抽出を精度よく行うことができる。
<他の実施形態>
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
(1)上記実施形態では、特徴量分布の生成対象として、運転挙動データおよび画像データを用いているが、これに限るものではない。例えば、全地球測位システム(GPS:Global Positioning System)や慣性計測装置(IMU:Inertial Measurement Unit)によって取得される自車両の位置に関する位置データの他、時間帯を表すデータ,天候を表すデータ等、ドライバの運転操作や車両の挙動に影響を及ぼす可能性のあるデータであればどのようなデータを車両挙動データや環境データとして用いてもよい。
(2)上記実施形態では、情報提示に用いるデータとして画像データを用いているが、これに限るものではなく、例えば、各種レーダによって検出される物体までの距離や方位を表すデータや周知の距離画像センサによって検出される距離画像データ等を用いてもよい。これらのデータを用いた場合でも、使用するセンサに応じた局所特徴量を求めることで、通常の画像データを用いた場合と同様に処理をすることができる。その一例として、図9には、高速道路を走行している状況で先行車両が強調表示の対象となっているものとして、(a)は距離画像データを使用した場合の情報提示イメージ、(b)は比較のために通常の画像データを使用した場合の情報提示イメージを示す。なお、距離画像データを用いる場合、局所特徴として、SPIN特徴量やSHOT特徴量など、3次元点群に対する局所特徴記述子を用いることができる。
(3)上記実施形態では、提示条件として、「顕著トピックとして予め指定されていること」を用いているが、これに限るものではない。例えば、何等かの状況に応じて顕著トピックが切り替わるような提示条件を用いてもよい。また、顕著トピックの指定は、ユーザが任意に設定できるように構成してもよい。
(4)上記実施形態では、顕著トピックが割り当てられた局所領域を画面上で強調表示することによって、視覚的に情報を提示しているが、これに限るものではない。例えば、顕著トピックが割り当てられた局所領域が存在する方向、すなわち、ドライバの注意を促したい方向に音像定位させた音源によって警報音を発生させる等して、聴覚的に情報を提示したり、シートやハンドルを振動させるなど触覚的に情報を提示したりする等してもよい。
(5)本発明の各構成要素は概念的なものであり、上記実施形態に限定されない。例えば、一つの構成要素が有する機能を複数の構成要素に分散させたり、複数の構成要素が有する機能を一つの構成要素に統合したりしてもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。
1…運転支援装置 2…運転挙動データ収集部 3…運転シーン離散化部 4…特徴量分布生成部 5…運転トピックデータベース 6…トピック割合演算部 7…割当用確率演算部 8…強調領域設定部 9…環境データ収集部 11…車載カメラ 12…表示装置 41…運転特徴算出部 42…画像特徴算出部

Claims (7)

  1. 車両の運転挙動に関わる運転挙動データを繰り返し収集する運転挙動データ収集手段(2)と、
    車両周辺の環境を表す環境データを繰り返し収集する環境データ収集手段(9)と、
    前記運転挙動データ収集手段にて収集された前記運転挙動データの系列を、各々が何等かの運転シーンを表す複数の部分系列に分割するシーン分割手段(3)と、
    前記運転挙動データ収集手段によって収集された前記運転挙動データから得られる一種類以上の特徴量を運転特徴量、前記環境データ収集手段によって収集された環境データから得られる局所的な特徴量を環境特徴量として、前記部分系列毎かつ前記特徴量毎に、該特徴量の出現頻度を表す特徴量分布を生成する特徴量分布生成手段(4)と、
    前記部分系列毎に前記特徴量分布生成手段で生成される複数の特徴量分布を特徴量分布群として、該特徴量分布群における運転特徴量分布と環境特徴量分布の間の共起性を利用して環境データの局所領域に関する報知を制御する報知手段(5,6,7,8)と、
    を備えることを特徴とする運転支援装置。
  2. 前記報知手段は、
    前記特徴量分布群を表現する際の基底分布として使用される複数種類の運転トピックからなる運転トピック群を記憶するトピック記憶手段(5)と、
    前記特徴量分布群を、前記運転トピック群を用いて表現した場合の混合比であるトピック割合を、前記部分系列毎に算出する割合演算手段(6)と、
    前記部分系列毎に、前記トピック割合および前記運転トピック群に基づいて、前記環境特徴量毎に、該環境特徴量を有した局所領域が、どの運転トピックに由来するかを確率的に示す割当用確率分布を生成する確率分布生成手段(7)と、
    前記環境特徴量および前記確率分布に従って、前記局所領域毎に前記運転トピックを割り当てると共に、予め設定された提示条件を満たす前記運転トピックが割り当てられた局所領域に関する報知を制御する報知制御手段(8)と、
    を備えることを特徴とする請求項1に記載の運転支援装置。
  3. 前記報知制御手段は、前記提示条件を満たす運転トピックが複数存在する場合、該運転トピック毎に異なる態様で前記報知を行うことを特徴とする請求項1または請求項2に記載の運転支援装置。
  4. 前記報知制御手段は、前記環境データに基づく画像上で、報知対象となる前記局所領域を強調表示することを特徴とする請求項1ないし請求項3のいずれか1項に記載の運転支援装置。
  5. 前記環境データ収集手段は、前記環境データとして画像データまたは距離画像データを収集することを特徴とする請求項1ないし請求項4のいずれか1項に記載の運転支援装置。
  6. 前記シーン分割手段は、二重分節構造を利用した教師なし運転シーン分割法によって分節化を行う二重分節解析器(DAA:Double Articulation Analyzer)からなることを特徴とする請求項1ないし請求項5のいずれか1項に記載の運転支援装置。
  7. 前記割合演算手段は、潜在的ディリクレ配分法(LDA:Latent Dirichlet Allocation )またはマルチモーダルLDAによって、前記トピック割合を求めることを特徴とする請求項1ないし請求項6のいずれか1項に記載の運転支援装置。
JP2013189663A 2013-09-12 2013-09-12 運転支援装置 Active JP6206022B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013189663A JP6206022B2 (ja) 2013-09-12 2013-09-12 運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013189663A JP6206022B2 (ja) 2013-09-12 2013-09-12 運転支援装置

Publications (2)

Publication Number Publication Date
JP2015056058A JP2015056058A (ja) 2015-03-23
JP6206022B2 true JP6206022B2 (ja) 2017-10-04

Family

ID=52820409

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013189663A Active JP6206022B2 (ja) 2013-09-12 2013-09-12 運転支援装置

Country Status (1)

Country Link
JP (1) JP6206022B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6307356B2 (ja) * 2014-06-06 2018-04-04 株式会社デンソー 運転コンテキスト情報生成装置
JP6511982B2 (ja) * 2015-06-19 2019-05-15 株式会社デンソー 運転操作判別装置
JP6749775B2 (ja) * 2016-03-28 2020-09-02 清水建設株式会社 クラス判定装置、クラス判定方法、および、クラス判定プログラム
JP6929260B2 (ja) * 2018-11-01 2021-09-01 株式会社東芝 時系列特徴抽出装置、時系列特徴抽出方法及びプログラム
JP7099368B2 (ja) * 2019-03-07 2022-07-12 株式会社デンソー 支援時間提示システム
CN111126438B (zh) * 2019-11-22 2023-11-14 北京理工大学 一种驾驶行为识别方法及***
JP7318504B2 (ja) * 2019-11-26 2023-08-01 株式会社デンソー シーン分析支援装置、方法、及びプログラム
JP7446605B2 (ja) 2020-03-31 2024-03-11 株式会社ユピテル システム、プログラム、学習済みモデル、学習モデルの生成方法および生成装置等
CN111717217B (zh) * 2020-06-30 2022-11-08 重庆大学 一种基于概率修正的驾驶员意图识别方法
JP7247993B2 (ja) * 2020-08-28 2023-03-29 株式会社デンソー 走行試験パタン作成装置および方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6879969B2 (en) * 2001-01-21 2005-04-12 Volvo Technological Development Corporation System and method for real-time recognition of driving patterns
JP5187307B2 (ja) * 2007-07-24 2013-04-24 日産自動車株式会社 車両用運転支援装置および車両用運転支援方法
JP2009129318A (ja) * 2007-11-27 2009-06-11 Fuji Heavy Ind Ltd 画像処理装置
JP5161643B2 (ja) * 2008-04-23 2013-03-13 富士重工業株式会社 安全運転支援システム
JP5821580B2 (ja) * 2011-12-01 2015-11-24 トヨタ自動車株式会社 車両ドライバの特定装置及び車両ドライバの特定方法
JP6026959B2 (ja) * 2013-06-03 2016-11-16 株式会社デンソー 運転シーンラベル推定装置

Also Published As

Publication number Publication date
JP2015056058A (ja) 2015-03-23

Similar Documents

Publication Publication Date Title
JP6206022B2 (ja) 運転支援装置
JP6026959B2 (ja) 運転シーンラベル推定装置
JP6307356B2 (ja) 運転コンテキスト情報生成装置
EP3602489B1 (en) Machine-vision method to classify input data based on object components
JP2016118906A (ja) 異常検出装置
US20210089762A1 (en) Learning actions with few labels in the embedded space
JP6511982B2 (ja) 運転操作判別装置
Bender et al. An unsupervised approach for inferring driver behavior from naturalistic driving data
JP6451583B2 (ja) 運転支援装置
CN113159105B (zh) 一种驾驶行为无监督模式识别方法及数据采集监控***
JP6519434B2 (ja) 運転支援装置
US11440555B2 (en) Systems and methods for detecting and classifying an unsafe maneuver of a vehicle
JP2013250663A (ja) 運転シーン認識装置
JP5895728B2 (ja) 車群管理装置
CN112466118A (zh) 车辆驾驶行为识别方法、***、电子设备及存储介质
US11594042B1 (en) Systems and methods for utilizing models to detect dangerous tracks for vehicles
GB2539548A (en) Traffic complexity estimation
JP7024577B2 (ja) 走行場面学習装置、走行場面推定装置、および走行場面推定システム
JP5360143B2 (ja) 走行場面認識モデル生成装置、運転支援装置、及びプログラム
JP6365035B2 (ja) 交通オブジェクト検出装置
JP2011123552A (ja) 類似運転時画像検索装置及びプログラム
WO2022045001A1 (ja) 走行試験パタン作成装置および方法
JP2016149013A (ja) 運転支援情報生成装置、運転支援装置
WO2022265741A1 (en) Generation and management of notifications providing data associated with activity determinations pertaining to a vehicle
JP2018022469A (ja) 異常推定装置および表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160616

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170821

R151 Written notification of patent or utility model registration

Ref document number: 6206022

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250