JP5330444B2 - 自動車の車載機器操作装置における手の判定方法および判定装置 - Google Patents

自動車の車載機器操作装置における手の判定方法および判定装置 Download PDF

Info

Publication number
JP5330444B2
JP5330444B2 JP2011069627A JP2011069627A JP5330444B2 JP 5330444 B2 JP5330444 B2 JP 5330444B2 JP 2011069627 A JP2011069627 A JP 2011069627A JP 2011069627 A JP2011069627 A JP 2011069627A JP 5330444 B2 JP5330444 B2 JP 5330444B2
Authority
JP
Japan
Prior art keywords
hand
white
operation command
hidden
black
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011069627A
Other languages
English (en)
Other versions
JP2012201301A (ja
Inventor
篤樹 柿沼
俊明 細貝
武雄 徳永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Access Corp
Original Assignee
Honda Access Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Access Corp filed Critical Honda Access Corp
Priority to JP2011069627A priority Critical patent/JP5330444B2/ja
Priority to TW100125006A priority patent/TW201239676A/zh
Priority to KR1020110077016A priority patent/KR101293313B1/ko
Priority to CN201210030493.4A priority patent/CN102700479B/zh
Publication of JP2012201301A publication Critical patent/JP2012201301A/ja
Application granted granted Critical
Publication of JP5330444B2 publication Critical patent/JP5330444B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • B60R16/027Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems between relatively movable parts of the vehicle, e.g. between steering wheel and column
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、複数個のマークが設けられたステアリングハンドルを撮像手段で撮像した画像を明度によって白・黒に2値化し、白の領域を手であると判定する、自動車の車載機器操作装置における手の判定方法および手の判定装置に関する。
従来、ステアリングハンドル上の乗員の手の位置、動きを読み取るCCDカメラ等の撮像手段と、その撮像手段が読み取った手の位置、動きに基づいて車載機器に対する操作コマンドを出力できるようにした操作指令手段とを備えたゼスチャーリモコン式操作装置が知られている。
例えば、下記特許文献1には、操作者のゼスチャー、即ち手の位置や手の動きに基づいて車載機器に対する操作コマンドを出力するものが記載されている。
また下記特許文献2には、ステアリングに設けた貫通孔が運転者の手で塞がれるのに応じてゼスチャーリモコンの作動を開始することで、ゼスチャーリモコンの作動が誤って開始されないようにしたものが記載されている。
特許第3941786号公報 特開2006−312347号公報
ところで、従来のこの種のゼスチャーリモコン式操作装置では、撮像手段で撮像した画像に基づき、比較的に明度が低い(暗い)ステアリングハンドルと比較的に明度が高い(明るい)操作者の手とを、予め設定した固定の閾値に基づいて黒(ステアリングハンドル)と白(手)とに2値化し、これにより得られた白・黒の2値化画像から、所定面積以上の白の領域を手であると判定することが行われていた。
しかしながら、手が光の影の部分に入ったり、操作者が暗色の手袋を装着しているような場合、従来の固定の閾値を用いた2値化画像では、操作者の手とステアリングハンドルとが共に黒に2値化されてしまい、手を確実に判定できない場合があった。また逆に、ステアリングハンドルに直射日光が当たって白く光ったような場合、従来の固定の閾値を用いた2値化画像では、操作者の手とステアリングハンドルとが共に白に2値化されてしまい、手を確実に判定できない場合があった。
本発明は前述の事情に鑑みてなされたもので、操作者の手およびステアリングハンドルを白・黒に的確に2値化して手の判定精度を高めることを目的とする。
上記目的を達成するために、請求項1に記載された発明によれば、車載の撮像手段から出力される撮像データに基づいて、ステアリングハンドルに設けた複数個のマークの何れかが手によって隠されたか否かを該マーク毎に個別に判定可能な判定手段と、前記判定手段による判定結果に基づいて車載機器に対する操作コマンドを出力する操作指令手段とを備え、且つ前記操作指令手段が待機状態にあるときに、前記複数個のマークのうちの特定マークが手で隠されたことが判定されると、該操作指令手段が作動モードに切換わるようにした自動車の車載機器操作装置において用いられて、前記撮像手段で撮像した画像を明度によって白・黒に2値化し、白の領域を手であると判定する手の判定方法であって、
前記特定マークが手で隠されたときの前記ステアリングハンドルの所定領域であって通常、手で隠される領域と隠されない領域とを含む領域の明度ヒストグラムを、前記操作指令手段が前記待機状態にあるときに作成する工程と、前記明度ヒストグラムの二つの山部の間に白・黒を判定する明度の閾値を、前記操作指令手段が前記待機状態にあるときに設定する工程と、前記閾値よりも明度が高い領域を白の領域であると判定する工程とを含むことを特徴とする、自動車の車載機器操作装置における手の判定方法が提案される。
また請求項2に記載された発明によれば、請求項1の構成に加えて、前記ステアリングハンドルの色は黒に近い暗色系であり、また前記特定マークは黒を白で縁取りしたものであることを特徴とする自動車の車載機器操作装置における手の判定方法が提案される。
また請求項3に記載された発明によれば、車載の撮像手段から出力される撮像データに基づいて、ステアリングハンドルに設けた複数個のマークの何れかが手によって隠されたか否かを該マーク毎に個別に判定可能な判定手段と、前記判定手段による判定結果に基づいて車載機器に対する操作コマンドを出力する操作指令手段とを備え、且つ前記操作指令手段が待機状態にあるときに、前記複数個のマークのうちの特定マークが手で隠されたことが判定されると、該操作指令手段が作動モードに切換わるようにした自動車の車載機器操作装置に付設されて、前記撮像手段で撮像した画像を明度によって白・黒に2値化し、白の領域を手であると判定する手の判定装置であって、
前記特定マークが手で隠されたときの前記ステアリングハンドルの所定領域であって通常、手で隠される領域と隠されない領域とを含む領域の明度ヒストグラムを、前記操作指令手段が前記待機状態にあるときに作成する明度ヒストグラム作成手段と、前記明度ヒストグラムの二つの山部を判定する山部判定手段と、前記二つの山部の間に白・黒を判定する明度の閾値を、前記操作指令手段が前記待機状態にあるときに設定する閾値設定手段と、前記画像を前記閾値に基づいて白・黒の2値化画像に変換する2値化画像変換手段と、前記2値化画像における白の領域を手であると判定する手判定手段と、を備えることを特徴とする、自動車の車載機器操作装置における手の判定装置が提案される。
また請求項4に記載された発明によれば、請求項3の構成に加えて、前記ステアリングハンドルの色は黒に近い暗色系であり、また前記特定マークは黒を白で縁取りしたものであることを特徴とする、請求項3に記載の自動車の車載機器操作装置における手の判定装置が提案される。
尚、実施の形態のオーディオAU、ビデオDVDおよびカーナビCNは本発明の車載機器に対応し、実施の形態のカメラCAは本発明の撮像手段に対応する。
請求項1の構成によれば、第1工程で、マークが手で隠されたときのステアリングハンドルの所定領域の明度ヒストグラムを、操作指令手段が待機状態にあるときに作成し、第2工程で、明度ヒストグラムの二つの山部の間に白・黒を判定する明度の閾値を、操作指令手段が待機状態にあるときに設定し、第3工程で、閾値よりも明度が高い領域を白の領域であると判定する。よってステアリングハンドルの明度に対して手の明度が相対的に明るければ、ステアリングハンドルを黒に、且つ手を白に確実に2値化できる適切な閾値を設定することができ、白の領域を手であると判定することで判定精度を大幅に高めることが可能となる。また特にステアリングハンドルの所定領域は、特定マークを手で隠すときに、通常手で隠される領域と隠されない領域とを含むので、明度ヒストグラムに二つの山部を確実に形成することが可能となり、その明度ヒストグラムから的確な閾値を設定して手の判定精度を更に高めることができる。
また請求項2,4の各構成によれば、ステアリングハンドルの色は黒に近い暗色系であり、また特定マークは黒を白で縁取りしたものであるため、特定マークと運転者の手を容易に認識できる。
また請求項3の構成によれば、明度ヒストグラム作成手段が、マークが手で隠されたときのステアリングハンドルの所定領域の明度ヒストグラムを、操作指令手段が待機状態にあるときに作成し、山部判定手段が、明度ヒストグラムの二つの山部を判定し、閾値設定手段が、二つの山部の間に白・黒を判定する明度の閾値を、操作指令手段が待機状態にあるときに設定し、2値化画像変換手段が、画像を閾値に基づいて白・黒の2値化画像に変換し、手判定手段が、2値化画像における白の領域を手であると判定する。よってステアリングハンドルの明度に対して手の明度が相対的に明るければ、ステアリングハンドルを黒に、且つ手を白に確実に2値化できる適切な閾値を設定することができ、白の領域を手であると判定することで判定精度を大幅に高めることが可能となる。また特にステアリングハンドルの所定領域は、特定マークを手で隠すときに、通常手で隠される領域と隠されない領域とを含むので、明度ヒストグラムに二つの山部を確実に形成することが可能となり、その明度ヒストグラムから的確な閾値を設定して手の判定精度を更に高めることができる
自動車の車室内を示す概略図。 インストルメントパネル付近を運転者側から見た正面図。 図2の3−3線拡大断面図。 制御系のブロック図。 操作指令手段の待機モードから第1の作動モードへの切換操作過程を簡略的に示す説明図。 操作指令手段の第1の作動モードから第2の作動モードへの切換操作過程を簡略的に示す説明図。 車載機器に対する走行中操作の規制を解除して、走行中であっても運転者以外の同乗者による車載機器への手動操作を可能とするための操作過程を簡略的に示す説明図。 手を判定するロジックを示すブロック図。 明度ヒストグラムの一例を示す図。 ボリューム調整操作を行うための操作手順を示すステップ概要図。 ソース選択操作を行うための操作手順を示すステップ概要図。 アルバム名・曲名の選択操作を行うための操作手順を示すステップ概要図。 音声検索モードへの移行操作を行うための操作手順を示すステップ概要図。
以下、図1〜図13に基づいて本発明の実施の形態を説明する。
先ず、図1〜図3において、車室のインストルメントパネルIには、速度計等の各種計器の他、オーディオAU、ビデオDVD、カーナビCN等の車載機器のための表示部Lや、これら車載機器AU,DVD,CNを手動操作するための操作部1等が設けられ、更にその各種計器の正面側には、運転者により操向操作されるステアリングハンドルSが配設される。
ステアリングハンドルSは、操向軸(図示せず)に連結された中央ハブ部Saと、その中央ハブ部Saを円環状に取り囲むリム部Smと、そのリム部Smおよび中央ハブ部Sa間を連結する3本のスポーク部Sb1〜Sb3とを備える。中央ハブ部Saの外面にはホーンカバー2が着脱可能に被着され、そのホーンカバー2の中央外面には、デザイン処理されたH字状の第1マークM1が装着される。
また前記スポーク部Sb1〜Sb3には、これらの外面を体裁よく覆うスポークカバー3が着脱可能に装着される。このスポークカバー3は、図示例では可撓性のあるシート状の金属板をスポーク部Sb1〜Sb3に対応した展開形状に形成して構成されており、その裏面には貼付用の接着剤または接着シートが設けられる。このスポークカバー3をスポーク部Sb1〜Sb3に取付ける際には、該カバー3をスポーク部Sb1〜Sb3の外面に倣わせるように巻き付けて貼付し、且つ該カバー3の自由端縁3eを図3に示すように内方に折り曲げるようにして、スポーク部Sb1〜Sb3に固定する。
前記スポークカバー3の、左側のスポーク部Sb1に対応する部分には、第2〜第4マークM2〜M4(図示例ではM2がボリュームマーク、M3がソースマーク、M4がセレクトマークに該当)がそれぞれ接着または印刷により一列に付設されており、またスポークカバー3の、右側のスポーク部Sb3に対応する部分には、第5〜第7マークM5〜M7(図示例ではM5がボイスマーク、M6がアップマーク、M7がダウンマークに該当)がそれぞれ接着または印刷により、第5マークM5を内寄りとしたジグザグの配列で付設されている。
車室内の適所、図示例では運転者のやや斜め後方の天井部には、各マークM1〜M7を撮像し得る撮像手段としてのモノクロのカメラCAが設置される。このカメラCAは、運転者が何れかのマークM1〜M7を隠したときには、その隠されたことが明確に認識可能となる撮像データを電子制御装置ECU(図4参照)に出力する。
カメラCAの撮像データから第1〜第7マークM1〜M7および運転者の手Hを容易に認識できるように、ステアリングハンドルSの色は黒に近い暗色系であることが望ましく、第1〜第7マークM1〜M7は黒を白で縁取りしたものであることが望ましい。
図4に示すように、電子制御装置ECUは、車室内の適所、例えばインストルメントパネルIの内部に設置されるものであり、それは、カメラCAから出力される撮像データを分析し、その分析データに基づいてマークM1〜M7が隠されたか否かをマークM1〜M7毎に個別に判定可能な判定手段C1と、その判定手段C1による判定結果に基づいて車載機器(即ちオーディオAU、ビデオDVD、カーナビCN)に対する操作コマンドとしての操作指令信号を出力する操作指令手段C2と、この操作指令手段C2の出力信号を前記車載機器に対する駆動信号に変換して車載機器AU,DVD,CNに出力する信号出力部C3と、カメラCAから出力される撮像データに基づいて乗員の手Hを認識し得る認識手段C4とを備えている。
前記カメラCAは、判定手段C1および認識手段C4の各入力側に接続される。また操作指令手段C2の入力側には、判定手段C1および認識手段C4の各出力側、ならびに外部の前記操作部1、舵角センサSE1および車速センサSE2がそれぞれ接続される。更に信号出力部C3の入力側には操作指令手段C2の出力側が接続されるとともに、その信号出力部C3の出力側には前記車載機器AU,DVD,CNが接続されている。
操作指令手段C2は、前記外部の操作部1による車載機器AU,DVD,CNの操作入力を可能とする待機モードと、その操作入力を禁止する第1,第2の作動モードの何れかとを選択的にとることができ、前記待機モードでは、第1マークM1および第5マークM5以外のマーク(即ち第2〜第4マークM2〜M4、第6マークM6および第7マークM7)が隠されても操作指令手段C2は応答せず、即ち操作コマンドが発せられることはなない。
また操作指令手段C2は、該操作指令手段C2が第1または第2の作動モードにある時に、車両において、予め設定した状態(図示例では所定角以上の舵角操作があった状態、あるいは所定時間内の急激な車速変化があった状態、あるいは第1,第2の何れかの作動モードに切換わってから一定時間以上、第2〜第7マークM2〜M7の何れかを隠す操作が無く、放置された状態、あるいは第1または第2の作動モードにあるにも拘わらず第1マークM1が再度隠される操作がなされた状態)になるのに応じて前記待機モードに自動的に切換わる。
図8に示すように、認識手段C4は、明度ヒストグラム作成手段P1と、山部判定手段P2と、閾値設定手段P3と、2値化画像変換手段P4と、手判定手段P5とを備える。明度ヒストグラム作成手段P1および2値化画像変換手段P4にはカメラCAが接続され、明度ヒストグラム作成手段P1は山部判定手段P2に接続され、山部判定手段P2は閾値設定手段P3に接続され、閾値設定手段P3は2値化画像変換手段P4に接続され、2値化画像変換手段P4は手判定手段P5に接続される。
図2に示すように、ステアリングハンドルSには、中央の第1領域RCと、その左右両側に位置する第2、第3領域RL,RRとが設定される。第1領域RCおよび第2、第3領域RL,RRは何れも仮想的な領域であり、第1領域RCは第1マークM1をカバーする位置に設定され、第2、第3領域RL,RRは第1領域RCから所定距離離間した位置に設定される。言い換えると、第1領域RCは、運転者が第1マークM1を手で隠そうとしたときに覆われる位置に設定され、第2、第3領域RL,RRは、運転者が第1マークM1を手で隠そうとしたときに覆われ難い位置に設定される。
図8に戻り、認識手段C4の明度ヒストグラム作成手段P1は、カメラCAの画像から前記第1領域RCおよび第2、第3領域RL,RRに対応する画素を抽出し、それを明度ごとに並べることで、図9に示す明度ヒストグラムを操作指令手段C2が前記待機モードにあるときに作成する。運転者が第1マークM1を手で隠そうとしたとき、第1領域RCの大部分は明色の手で覆われるため、その画素の明度は高い傾向になり、第2、第3領域RL,RRの大部分は明色の手で覆われず、暗色のステアリングハンドルSのホーンカバー2が露出するため、その明度は低い傾向になる。その結果、明度ヒストグラムには、第1領域RCの画素に対応する明度が高い領域に一つの山部が生じるとともに、第2、第3領域RL,RRの画素に対応する明度が低い領域に他の一つの山部が生じることになる。
山部判定手段P2は前記二つの山部を判定し、閾値設定手段P3は前記二つの山部の間に2値化のための明度の閾値を、操作指令手段C2が前記待機モードにあるときに設定する。この閾値は車室の環境等に応じて変化する値であり、例えば車室が暗い場合には第1〜第3領域RC,RL,RRの画素の明度が全体的に低くなるために閾値は低い(暗い)方に移動し、車室が明るい場合には第1〜第3領域RC,RL,RRの画素の明度が全体的に高くなるために閾値は高い(明るい)方に移動することになる。
2値化画像変換手段P4は、カメラCAで撮像した画像の全ての画素を前記閾値によって振り分け、閾値よりも明るい画素を白にし、閾値よりも暗い画素を黒に2値化することで、カメラCAの画像を白および黒の2色で構成された2値化画像に変換する。そして手判定手段P5は、2値化画像の白の領域のうち、所定値以上の面積を持って纏まっている部分を運転者の手Hであると判定する。
このように、明度ヒストグラム作成手段P1で、第1マークM1が手Hで隠されたときのステアリングハンドルSの第1領域RCおよび第2、第3領域RL,RRの明度ヒストグラムを作成し、山部判定手段P2で、明度ヒストグラムの二つの山部を判定し、閾値設定手段P3で、二つの山部の間に白・黒を判定する明度の閾値を設定し、2値化画像変換手段P4で、画像を閾値に基づいて白・黒の2値化画像に変換し、手判定手段P5で、2値化画像における所定面積以上の白の領域を手Hであると判定するので、ステアリングハンドルSの明度に対して手Hの明度が相対的に高ければ、ステアリングハンドルSを黒に、且つ手Hを白に確実に2値化できる適切な閾値を設定することができ、判定精度を大幅に高めることが可能となる。
而して、判定手段C1は、操作指令手段C2が待機モードにある状態では、カメラCAの撮像データに基づき、図5の(A)に示すようにステアリング本体Smの輪郭(丸)を認識して監視対象範囲とし、次いで図5の(B)に示すように中央の第1マークM1を認識しているので、この認識中に、図5の(C)に示すように第1マークM1が運転者の手Hで隠された場合にはそのことを迅速確実に認識でき、その認識結果を操作指令手段C2に出力することで、該手段C2が第1の作動モードに切り換わる。
また判定手段C1は、操作指令手段C2が第1または第2の作動モードにある状態では、図6の(A)に示すようにスポーク部Sb1,Sb2の第2〜第7マークM2〜M7を認識しているので、この認識中に、例えば図6の(B)に示すように複数個の第2のマーク(即ち第2〜第5マークM2〜M5)が運転者の手Hで隠された場合にはそのことを迅速確実に認識でき、この認識結果に基づいて操作指令手段C2が第2の作動モードに切り換わる。更にこの第2の作動モードの状態で、図6の(C)に示すように複数個の第3のマーク(即ち第6,第7マークM6,M7)が運転者の手Hで隠されたことを迅速確実に認識でき、その認識結果を操作指令手段C2に出力する。
更に認識手段C4は、操作指令手段C2が何れのモードにある場合でも、カメラCAの撮像データに基づき、図7の(A)に示すようにステアリング本体Smの輪郭を認識して監視対象範囲としている。そして操作指令手段C2は、それが車速センサSE2の検出信号に基づき自動車が走行中であると判断しているときに、認識手段C4がリム部Sm上に手Hが2つ有ることを認識しない場合には前記操作部1からの少なくとも一部の操作信号を無効にするが、認識手段C4が図7の(B)に示すようにリム部Sm上に手Hが2つ有ることを認識した場合には前記操作信号を無効にしないように構成される。
よって、走行中においては従来と同様、安全運転の観点から車載機器AU,DVD,CNの操作部1への手動操作の少なくとも一部を無効にできる。しかしながら走行中であってもリム部Sm上に手Hが2つ有ることを認識手段C4が認識した場合には、前記操作部1から操作信号が出力されても、それは運転者以外の乗員により操作されたものと見做せることから、操作指令手段C2は前記操作信号を無効にしないようにして、運転者以外の乗員による操作を有効としている。これにより、自動車が走行中であっても、運転者が両手HでステアリングSを握っておれば、運転者以外の同乗者による車載機器AU,DVD,CNへの操作が可能となり、使い勝手、利便性が向上する。
操作指令手段C2は、これが待機モードにある時に第1マークM1が隠されたと判定手段C1が判定するのに基づいて第1の作動モードに切換わり、その第1の作動モードでは、第2〜第5マークM2〜M5の1つが隠されることで車載機器における操作対象(図示例では「ボリューム」と、ビデオ・オーディオを選択する「ソース」と、アルバム名・曲名を選択する「セレクト」と、カーナビの音声検索モードを選択する「ボイス」と)を任意に選択可能となる。
また操作指令手段C2は、これが第1の作動モードにある時に、第2〜第5マークM2〜M5の何れかが隠されたと判定手段C1が判定するのに基づいて第2の作動モードに切換わり、その第2の作動モードでは、第6,第7マークM6,M7の1つが隠されることで前記操作対象に関係した複数の操作パラメータの1つを選択可能である。その操作パラメータとは、前記操作対象に関連して操作者がより具体的に選択操作すべき操作内容を意味しており、図示例では第2マークM2が隠されたことで「ボリューム」が選択された場合には、第6マークM6を隠すことが「音量上げ」に、また第7マークM7を隠すことが「音量下げ」にそれぞれ対応する。
また第3マークM3が隠されたことで「ソース」が選択された場合には、第6マークM6を隠すことがOFF・ビデオ・オーディオの「一方向順送り」に、また第7マークM7を隠すことが「他方向の順送り」にそれぞれ対応する。
更に第4マークM4が隠されたことで「セレクト」が選択された場合には、第6マークM6を長く(例えば2秒)隠すことがアルバム名の「一方向順送り」に、また第6マークM6を短く隠すことが曲名の「一方向順送り」に、また第7マークM7を長く(例えば2秒)隠すことがアルバム名の「他方向順送り」に、また第7マークM7を短く隠すことが曲名の「他方向順送り」にそれぞれ対応する。
次に前記操作装置の操作手順について、図10〜図13を参照して、より具体的に説明する。
[1]ボリューム調整操作
操作指令手段C2が前記待機モードにあるときは、図10のステップS10に示すように表示部Lは通常のカーナビ画面となっており、この状態から操作者が第1マークM1を隠すと(ステップS11)、「操作をどうぞ」のアナウンスと共に画面下半分に次に選択操作すべきマークM2〜M5の表示が強調して現れる(ステップS12)。そこで第2マークM2を隠すと(ステップS13)、「ボリューム」のアナウンスと共に画面下半分に次に選択操作すべきマークM6,M7の表示が強調して現れ(ステップS14)、次いで所定時間(例えば3秒)経過すると、現時点でのボリューム表示が現れる(ステップS15)。そこで第6マークM6または第7マークM7の何れかを隠すと(ステップS16)、隠したマークに対応して音量調整が実行され、その調整後のボリューム表示が現れる(ステップS17)。
[2]ソース選択操作
図11に示すように、ステップS20〜S22までは、前記ステップS10〜S12と同じであり、そのステップS22の状態から第3マークM3を隠すと(ステップS23)、「ソース選択」のアナウンスと共に画面下半分に次に選択操作すべきマークM6,M7の表示が強調して現れ(ステップS24)、次いで所定時間(例えば3秒)経過すると、現時点でのソース表示(図では「OFF」の選択表示)が現れる(ステップS25)。そこで第6マークM6または第7マークM7の何れかを隠すと(ステップS26)、隠したマークに対応してOFF・ビデオ・オーディオの一方向または他方向の順送りが実行され、「ソース選択〇〇〇〇」のアナウンスと共にその選択後のソース表示が現れる(ステップS27)。
[3]アルバム名・曲名の選択操作
図12に示すように、ステップS30〜S32までは、前記ステップS10〜S12と同じであり、そのステップS32の状態から第4マークM4を隠すと(ステップS33)、「アルバム名・曲名選択」のアナウンスと共に画面下半分に次に選択操作すべきマークM6,M7の表示が強調して現れ(ステップS34)、次いで所定時間(例えば3秒)経過すると、現時点でのアルバム名・曲名ソース表示が現れる(ステップS35)。そこで第6マークM6または第7マークM7の何れかを長く(例えば2秒間)隠すようにすれば、アルバム名の一方向順送りまたは他方向順送りが実行され(ステップS36)、また第6マークM6または第7マークM7の何れかを短く隠すようにすれば、曲名の一方向順送りまたは他方向順送りが実行され(ステップS36)、それらの実行と共に新たに選択されたアルバム名・曲名の表示が現れる(ステップS37)。その表示が現れてから、所定時間(例えば5秒)放置すれば、新たに選択されたアルバム名・曲名が確定する。
[4]音声検索モードへの移行操作
図13に示すように、ステップS40〜S42までは、前記ステップS10〜S12と同じであり、そのステップS42の状態から操作者が第5マークM5を隠すと(ステップS43)、「音声検索」のアナウンスと共に、カーナビCNを従来公知の音声検索モードに移行させることができる。
以上説明した本実施の形態によれば、カメラCAから出力される撮像データに基づいて複数のマークM1〜M7が隠されたか否かをマーク毎に個別に判定可能な判定手段C1と、その判定手段C1による判定結果に基づいて車載機器AU,DVD,CNに対する操作コマンド(操作指令信号)を出力する操作指令手段C2とを備えるので、各々のマークM1〜M7が操作者の手HでカメラCAから隠された否かに基づいて車載機器AU,DVD,CNに対する操作コマンドを正確に出力できるだけでなく、操作者の操作手順も判り易く、操作者の認識違いによる誤操作も効果的に防止可能となる。
しかもその操作指令手段C2における判断ロジックは比較的単純であってコスト節減が図られる上、演算処理も迅速に行うことができる。また前記複数個のマークM1〜M7は車室内の被取付部材(図示例ではステアリングSに着脱可能なホーンカバー2、スポークカバー3)に設けられていて、それらカバー2,3やステアリングSに読み取り用の貫通孔を特別に穿設する必要はないため、後付けのオプション対応が比較的容易であるばかりか、各マークM1〜M7およびカメラCAの設置位置の自由度も比較的高くなり、更にステアリングSを持つ運転者が手元でマークM1〜M7を隠す操作を容易且つ迅速に行うことができる。
その上、操作者は、第1マークMを隠すだけで操作指令手段C2を待機モードから第1の作動モードに迅速且つ確実に切換えることができ、更にその第1の作動モードでは、複数個のマークM2〜M5の1つを隠すだけで車載機器AU,DVD,CNにおける操作対象を迅速且つ確実に選択することができる。更に操作者は、操作指令手段C2が前記第2の作動モードにある時に、第6,第7マークM6,M7の1つを隠すだけで、操作対象に関係して指定すべき複数の操作パラメータ、即ち操作内容の1つを迅速且つ確実に選択できる。
ところで操作指令手段C2は、該手段が何れかの作動モードにある時に、車両が予め設定した状態(図示例では所定角以上の舵角操作があった状態、あるいは所定時間内の急激な車速変化があった状態、あるいは第1,第2の何れかの作動モードに切換わってから一定時間以上、第2〜第7マークM2〜M7が隠されず放置された状態、あるいは第1または第2の作動モードにあるにも拘わらず第1マークM1が再度隠される操作がなされた状態)になるのに応じて待機モードに自動的に切換わる。これにより、カーブ走行時や急加速時等の、運転に専念すべき特別な走行状態等の場合や、一定時間以上放置の場合、更には運転者が即座に待機モードに戻したいと希望する場合に、操作指令手段C2を自動的に待機モードに戻すことができるため、それらの場合に操作者の誤操作により操作指令手段C2がコマンドを出力するのを未然に確実に防止することができる。
以上、本発明の実施の形態を説明したが、本発明は上記実施の形態に限定されるものではなく、特許請求の範囲に記載された本発明を逸脱することなく種々の設計変更を行うことが可能である。
例えば、実施の形態では、第1領域RCおよび第2、第3領域RL,RRの三つの領域を相互に離間するように設定しているが、それらが連続する一つの領域となるように設定しても良い。領域の設定の仕方は任意であるが、その一部に必ず第1マークM1が含まれることが必要である。
また実施の形態では、本発明操作装置によりオーディオAU、ビデオDVD、カーナビCN等を操作できるようにしたものを示したが、本発明では、操作対象を車載の他の機器、例えばエアコン等の空調装置、テレビ等にしてもよい。
また実施の形態では、操作指令手段C2は、マークM1〜M7が隠されたことについての判定手段C1の判定結果に基づいて車載機器AU,DVD,CNに対する操作コマンド(操作指令信号)を出力するようにしたものを示したが、本発明では、マークM1〜M7が隠されたことについての判定手段C1の判定結果と、認識手段C4が手Hを認識した結果とを組み合わせた判断ロジックに基づき車載機器AU,DVD,CNに対する操作コマンド(操作指令信号)を出力するようにしてもよい。この場合においても、認識手段C4は、手Hを手H以外の身体部位(頭、腕等)と識別するだけであるため、従来技術のように判断ロジックが複雑化することはない。
また実施の形態では所定面積以上の白の領域を手と判定しているが、白の領域の中心位置から放射状に延びる突起が1本以上あることを手の判定条件としても良い。
AU オーディオ(車載機器)
C1 判定手段
C2 操作指令手段
CA カメラ(撮像手段)
CN カーナビ(車載機器)
DVD ビデオ(車載機器)
H 手
M1 特定マークとしての第1マーク
M1〜M7 複数個のマーク
P1 明度ヒストグラム作成手段
P2 山部判定手段
P3 閾値設定手段
P4 2値化画像変換手段
P5 手判定手段
S ステアリングハンドル

Claims (4)

  1. 車載の撮像手段(CA)から出力される撮像データに基づいて、ステアリングハンドル(S)に設けた複数個のマーク(M1〜M7)の何れかが手(H)によって隠されたか否かを該マーク(M1〜M7)毎に個別に判定可能な判定手段(C1)と、前記判定手段(C1)による判定結果に基づいて車載機器(AU,DVD,CN)に対する操作コマンドを出力する操作指令手段(C2)とを備え、且つ前記操作指令手段(C2)が待機状態にあるときに、前記複数個のマーク(M1〜M7)のうちの特定マーク(M1)が手で隠されたことが判定されると、該操作指令手段(C2)が作動モードに切換わるようにした自動車の車載機器操作装置において用いられて、
    前記撮像手段(CA)で撮像した画像を明度によって白・黒に2値化し、白の領域を手(H)であると判定する手の判定方法であって、
    前記特定マーク(M1)が手(H)で隠されたときの前記ステアリングハンドル(S)の所定領域であって通常、手(H)で隠される領域と隠されない領域とを含む領域の明度ヒストグラムを、前記操作指令手段(C2)が前記待機状態にあるときに作成する工程と、前記明度ヒストグラムの二つの山部の間に白・黒を判定する明度の閾値を、前記操作指令手段(C2)が前記待機状態にあるときに設定する工程と、前記閾値よりも明度が高い領域を白の領域であると判定する工程とを含むことを特徴とする、自動車の車載機器操作装置における手の判定方法。
  2. 前記ステアリングハンドル(S)の色は黒に近い暗色系であり、また前記特定マーク(M1)は黒を白で縁取りしたものであることを特徴とする、請求項1に記載の自動車の車載機器操作装置における手の判定方法。
  3. 車載の撮像手段(CA)から出力される撮像データに基づいて、ステアリングハンドル(S)に設けた複数個のマーク(M1〜M7)の何れかが手(H)によって隠されたか否かを該マーク(M1〜M7)毎に個別に判定可能な判定手段(C1)と、前記判定手段(C1)による判定結果に基づいて車載機器(AU,DVD,CN)に対する操作コマンドを出力する操作指令手段(C2)とを備え、且つ前記操作指令手段(C2)が待機状態にあるときに、前記複数個のマーク(M1〜M7)のうちの特定マーク(M1)が手で隠されたことが判定されると、該操作指令手段(C2)が作動モードに切換わるようにした自動車の車載機器操作装置に付設されて、
    前記撮像手段(CA)で撮像した画像を明度によって白・黒に2値化し、白の領域を手(H)であると判定する手の判定装置であって、
    前記特定マーク(M1)が手(H)で隠されたときの前記ステアリングハンドル(S)の所定領域であって通常、手(H)で隠される領域と隠されない領域とを含む領域の明度ヒストグラムを、前記操作指令手段(C2)が前記待機状態にあるときに作成する明度ヒストグラム作成手段(P1)と、前記明度ヒストグラムの二つの山部を判定する山部判定手段(P2)と、前記二つの山部の間に白・黒を判定する明度の閾値を、前記操作指令手段(C2)が前記待機状態にあるときに設定する閾値設定手段(P3)と、前記画像を前記閾値に基づいて白・黒の2値化画像に変換する2値化画像変換手段(P4)と、前記2値化画像における白の領域を手(H)であると判定する手判定手段(P5)とを備えることを特徴とする、自動車の車載機器操作装置における手の判定装置。
  4. 前記ステアリングハンドル(S)の色は黒に近い暗色系であり、また前記特定マーク(M1)は黒を白で縁取りしたものであることを特徴とする、請求項3に記載の自動車の車載機器操作装置における手の判定装置。
JP2011069627A 2011-03-28 2011-03-28 自動車の車載機器操作装置における手の判定方法および判定装置 Expired - Fee Related JP5330444B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011069627A JP5330444B2 (ja) 2011-03-28 2011-03-28 自動車の車載機器操作装置における手の判定方法および判定装置
TW100125006A TW201239676A (en) 2011-03-28 2011-07-14 Hand determination method, hand determination system and operation apparatus for on-board devices in automobile
KR1020110077016A KR101293313B1 (ko) 2011-03-28 2011-08-02 손의 판정 방법, 손의 판정 장치 및 자동차에서의 차재 기기의 조작 장치
CN201210030493.4A CN102700479B (zh) 2011-03-28 2012-02-10 手的判断方法及判断装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011069627A JP5330444B2 (ja) 2011-03-28 2011-03-28 自動車の車載機器操作装置における手の判定方法および判定装置

Publications (2)

Publication Number Publication Date
JP2012201301A JP2012201301A (ja) 2012-10-22
JP5330444B2 true JP5330444B2 (ja) 2013-10-30

Family

ID=46893655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011069627A Expired - Fee Related JP5330444B2 (ja) 2011-03-28 2011-03-28 自動車の車載機器操作装置における手の判定方法および判定装置

Country Status (4)

Country Link
JP (1) JP5330444B2 (ja)
KR (1) KR101293313B1 (ja)
CN (1) CN102700479B (ja)
TW (1) TW201239676A (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5548643B2 (ja) * 2011-03-28 2014-07-16 株式会社ホンダアクセス 自動車における車載機器の操作装置
JP5593339B2 (ja) 2012-02-07 2014-09-24 日本システムウエア株式会社 自動車のステアリングハンドルを用いるジェスチャー認識装置と手の認識方法及びそのプログラム
CN103777741B (zh) * 2012-10-19 2017-08-01 原相科技股份有限公司 基于物件追踪的手势辨识方法及***
CN102982655B (zh) * 2012-12-06 2014-10-22 南京邮电大学 手机平台汽车驾驶疲劳预警方法
GB2525840B (en) * 2014-02-18 2016-09-07 Jaguar Land Rover Ltd Autonomous driving system and method for same
GB2541514B (en) * 2014-02-18 2018-01-10 Jaguar Land Rover Ltd Autonomous driving system and method for same
CN104267802A (zh) * 2014-08-29 2015-01-07 福州瑞芯微电子有限公司 人机交互式虚拟触控装置、***及方法
US10035539B2 (en) * 2014-12-31 2018-07-31 Harman International Industries, Incorporated Steering wheel control system

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4264601B2 (ja) * 1998-10-21 2009-05-20 ソニー株式会社 情報入力装置、情報入力方法及びゲーム装置
JP3624768B2 (ja) * 1999-12-24 2005-03-02 株式会社豊田自動織機 縦列駐車支援装置
JP4228530B2 (ja) * 2000-02-09 2009-02-25 富士通株式会社 画像処理方法及び画像処理装置
JP2005242694A (ja) * 2004-02-26 2005-09-08 Mitsubishi Fuso Truck & Bus Corp ハンドパターンスイッチ装置
JP2005301669A (ja) * 2004-04-12 2005-10-27 Seiko Epson Corp 情報処理装置および情報処理プログラム
JP2005321948A (ja) * 2004-05-07 2005-11-17 Fujitsu Ten Ltd 操作入力装置
JP4462305B2 (ja) * 2007-08-17 2010-05-12 ソニー株式会社 撮像装置、方法、およびプログラム
JP5228439B2 (ja) * 2007-10-22 2013-07-03 三菱電機株式会社 操作入力装置
CN101764922B (zh) * 2009-08-03 2012-01-25 北京智安邦科技有限公司 亮度阈值的自适应生成的方法及装置

Also Published As

Publication number Publication date
KR101293313B1 (ko) 2013-08-06
TW201239676A (en) 2012-10-01
KR20120109964A (ko) 2012-10-09
CN102700479A (zh) 2012-10-03
JP2012201301A (ja) 2012-10-22
CN102700479B (zh) 2015-09-02

Similar Documents

Publication Publication Date Title
JP5330444B2 (ja) 自動車の車載機器操作装置における手の判定方法および判定装置
JP5005758B2 (ja) 自動車における車載機器の操作装置
US20160144785A1 (en) Information display apparatus
US20160334876A1 (en) In-Vehicle Input Apparatus And Vehicle
JP5286035B2 (ja) 車速制御装置
CN101676152A (zh) 车辆周围监视装置
JP2004067031A (ja) 操作者判別装置およびこれを用いた車載装置
JPWO2011043006A1 (ja) 制御装置および車両周囲監視装置
US10484651B2 (en) Image display control device
CN112298038A (zh) 周边监视装置
JP5382313B2 (ja) 車両用操作入力装置
JP5342588B2 (ja) 自動車における車載機器の操作装置
JP5681542B2 (ja) 自動車における車載機器の操作装置
JP5437302B2 (ja) 自動車における車載機器の操作装置
JP5450495B2 (ja) 手の判定方法、手の判定装置および自動車における車載機器の操作装置
JP5450491B2 (ja) 自動車における車載機器の操作装置
CN112937430B (zh) 一种车辆a柱盲区预警方法、***和车辆
JP5450492B2 (ja) 自動車における車載機器の操作装置
JP5681543B2 (ja) 自動車における車載機器の操作装置
JP5342587B2 (ja) 自動車における車載機器の操作装置
JP5484384B2 (ja) 自動車における車載機器の操作装置
JP5548643B2 (ja) 自動車における車載機器の操作装置
JP2019202556A (ja) 車両用表示装置、車両用表示装置の制御方法、車両用表示装置の制御プログラム
JP5018238B2 (ja) 車両用駐車支援装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130725

R150 Certificate of patent or registration of utility model

Ref document number: 5330444

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees