上記本発明の構成によると、プロンプター方式の操作入力装置において、操作パネルがステアリングホイールに設けられているので、運転者による操作がし易くなっている。また、表示装置に操作する手画像が表示されるので、その操作は一層容易なものとなる。また、近年の車両の多機能化に伴い、車両には様々な機器が搭載されるようになってきており、各種機器及びそれらの操作部を配置するスペースが狭くなってきている中で、プロンプター方式の操作入力装置は、表示される操作アイコンを表示切替により別の制御内容の操作アイコンに変更することができるから、タッチ操作面が占める面積以上の多数の操作入力部を実現することができる点にも利点がある。
なお、表示手段の表示画面と操作パネルのタッチ操作面との間には対応関係を予め定めておき、一方の面内位置に対応する他方の面内位置が一義的に特定可能としておくことができる。これにより、操作性のより優れた操作入力装置とすることができる。
上記構成によると、運転者の生体状態に応じた制御を実施できるとともに、生体情報を特定するための顔画像撮影手段を、上記の手画像撮影手段に兼用させ、撮影手段を1つで構成することができる。これにより、プロンプター方式の操作入力装置と、運転者の生体状態に応じた制御を実施する機能との双方を搭載した車両において、その全体コストを効果的に抑制できる。また、近年の車両の多機能化に伴い、車両には様々な機器が搭載されるようになってきており、各種機器及びそれらの操作部を配置するスペースが狭くなってきている中で、撮影手段1台分のスペースが空くことは大きな利点となる。なお、本発明における顔画像は、顔全体を含む画像に限られず、顔の少なくとも一部(例えば目画像や鼻画像)が含まれた画像であればよい。
なお、運転状態特定手段は、撮影手段により撮影された顔画像に基づいて、生体状態として、運転者の車両走行への注意力が低下した運転注意力低下状態を特定する運転注意力低下状態特定手段を有して構成することができる。この場合、生体状態対応制御情報には、運転注意力低下状態に対し、運転者に注意喚起を与えるための予め定められた注意喚起動作をする注意喚起手段に当該注意喚起動作を実行させる制御内容が対応付けられており、生体状態対応制御実行手段は、生体状態として運転注意力低下状態が特定された場合に、生体状態対応制御情報に基づいて、注意喚起動作を実行するものとして構成することができる。これにより、注意力が低下した運転者に対し注意喚起を与えることが可能となる。注意喚起動作を実際に実行する注意喚起動作実行手段は、運転者の注意力低下を音声報知する音声出力手段や、運転者の注意力低下をブザー音にて報知するブザー等とすることができる。また、注意喚起動作として、運転注意力低下状態からの覚醒を促す形で注意喚起を行う警告覚醒動作をこともできる。具体的には、次で述べる空調出力を警告覚醒動作として実行することができる。
また、生体状態特定手段は、撮影手段により撮影された顔画像に基づいて、生体状態として、運転者の発汗状態を特定する発汗状態特定手段を有して構成することができる。この場合、生体状態対応制御情報には、発汗状態に対し、車載空調出力手段に現在よりも強風又は低温、あるいは強風かつ低温の空調出力を実行させる制御内容が対応付けておき、生体状態対応制御実行手段は、生体状態として発汗状態が特定された場合に、生体状態対応制御情報に基づいて、空調出力を実行するものとして構成することができる。これにより、発汗状態の運転者に対し自動的に涼感を与えることが可能となる。
プロンプター方式の操作入力装置と、運転者の生体状態に応じた制御を実施する機能との双方を搭載し、双方に必要な撮影手段を兼用化した場合、顔よりも近い位置に手があると、手が顔を遮って顔が映らなくなり、運転者の生体状態の検出を正確に検出できなくなる。この場合、運転者の生体状態が誤って特定され、これに伴い誤った制御内容が実行される可能性がある。上記構成によれば、タッチ操作面に近接した手が検出された場合、即ち、運転者の顔の撮影を妨害する手が検出された場合には、運転者の生体状態に応じた制御の実行が禁止されるので、誤った制御内容が実行されることがない。
また、運転者の生体状態の検出が検出できなくなった状況において、検出処理を継続していることは意味の無いことであるから、生体状態特定手段は、生体状態対応制御禁止モードが設定された場合に、顔画像撮影手段により撮影された顔画像に基づいて運転者の生体状態を特定する生体状態特定処理の実行を禁止するように構成することで、無駄な処理を省略し、制御負荷を軽減できる。
また、接近対象物検出手段は、手画像特定手段に兼用する形で構成することができる。具体的には、手画像撮影手段は、操作パネルのタッチ操作面側に近接する、操作者の手を含む接近対象物を撮影可能に構成され、接近対象物検出手段は、手画像特定手段による撮影画像から接近対象物の画像を特定する形で、該接近対象物を検出するように構成することができる。これにより、撮影手段を利用した形で接近対象物検出手段を設けることができるので、接近対象物検出手段を別装置として設ける必要がなく、コストの抑制につながる。
ところで、本発明においては、車室内に固定配置され、撮影範囲内に入り込む撮影対象に対し予め定められた波長帯の光を照射する撮影用光源を設けることができ、手画像撮影手段は、撮影用光源から照射される光の反射光を捉える形で撮影対象を撮影するものとできる。光源の設置した撮影により、撮影画像からの顔画像や手画像の抽出を高い精度で行うことが可能となる。手の合成表示の精度や、運転者の生体状態の特定精度も高くなる。なお、撮影用光源は、操作パネルの裏面側に配置し、操作者の目から隠すことができる。また、光源は、例えば赤外光光源とすることで、暗所での撮影も良好となる。この場合、操作パネルは赤外光のみを透過可能なものとすることができる。
上記モード切替手段を執した構成において、生体状態対応制御実行モードにおいて撮影用光源の輝度を第一レベルに設定し、他方、生体状態対応制御禁止モードにおいては撮影用光源の輝度を第一レベルよりも低い第二レベルに設定することができる。手画像の合成表示に使用される撮影画像はそれほど精度の高いものでなくともよく、少なくとも手の輪郭が特定可能であればよいので、光源の明るさはそれほど必要ない。むしろ、光源の明るさを最低限のレベルに抑えることで、タッチ操作面に接近していない不要な背景画像が映りにくくなるので、手の輪郭特定が容易となるメリットが得られる。これに対し、運転者の顔画像は、生体状態を検出するものであるから比較的遠方にある顔が詳細に撮影できなければならないので、光源が明るいほどよい。上記構成によると、手画像が撮影される場合よりも顔画像が撮影される場合の方が光源の輝度が増すように設定されており、双方のモードにおける光源輝度の利点を効果的に利用することができる。
また、本発明においては、手画像撮影手段により撮影された画像上において、反射光の強度が予め定められた閾強度を上回る光反射領域を特定する光反射領域特定手段を設けることができ、入力受付手段は、特定された光反射領域に基づいて、当該光反射領域へのタッチ入力を受け付けるものとして構成できる。上記構成によると、タッチ操作の位置検出を、カメラ等の撮影手段により撮影された撮影画像に対する画像処理により行うことができるから、操作パネルとして、タッチパネル等の操作入力装置は必要なく、透光性を有した板材等でよく、コストを抑制できる。
また、この場合の入力受付手段は、光反射領域特定手段により特定された光反射領域が、予め定められた閾面積を上回った場合に、当該光反射領域へのタッチ操作入力を受け付けるものとすることができる。タッチ操作面の所定位置に操作入力する際には、操作者がパネル面上で指を目的の位置まで移動させる形でなされることがある。このとき、場合によってはパネル面に軽く触れてなぞってしまうこともある。ところが、この接触は、あくまで操作入力すべき位置を探す際に偶然行われたものであり、なぞって接触した全領域への操作入力を意図したものではない。上記構成によると、操作パネルへの接触面積が小さいようなとき、つまり、操作パネル面上に軽く触れているだけのときには、操作入力として受け付けられないので、上記のようななぞりながらの操作が可能となる。また、誤って操作パネル面に軽く触れてしまった場合も、その操作が操作入力として受け付けられることはない。
本発明の表示手段は、車載ナビゲーション装置において地図画像等が表示される表示装置に兼用される形で設けることができる。兼用化することで、コストを抑制できる。
表示手段は、ウィンドシールドガラスの運転者正面領域を表示画面とし、当該ウィンドシールドガラスに向けて表示光を放射する表示器を備える車両用ヘッドアップディスプレイ装置とすることができる。表示画面が運転者の正面(前方)に位置する、即ち、ステアリングホイールの正面奥側に位置することで、操作アイコンが表示される表示画面を運転しながらでも視認し易く、タッチ操作面へのブラインド操作性が増す。
本発明の操作パネルは、ステアリングホイールのボス部に設けることができる。ステアリングホイールにおいてタッチ操作面を広く取ることが可能となる。また、タッチ操作面は、表示画面と相似の形状をなして構成できる。これにより、操作アイコンの位置をタッチ操作面上で特定し易くなり、操作が容易となる。なお、操作パネルは、ステアリングホイールのリング部の回転に対し非回転となる形で車体側に固定して設けることにより、ステアリング回転操作に伴い操作パネルが回転しないので操作がし易い。
以下、本発明のタッチ式操作入力装置の一実施形態を、図面を参照して説明する。
図1は、本発明のタッチ式操作入力装置を用いた車両用ナビゲーション装置の構成を示すブロック図である。本実施形態においては、タッチ式操作入力装置1として、操作用のスイッチ画像(操作アイコン)を表示する表示部15とそのスイッチ画像に対する操作入力を行う操作パネル12とが別位置に設けられてなるプロンプター方式操作装置を採用している。なお、本実施形態のタッチ式操作入力装置の操作対象は、ナビゲーション機能のみに限られず、車内LAN50を介して(経由して)接続する他の車載電子機器の機器機能も含むことができる。図1においては、ナビゲーション装置10が車内LAN50を介してエアコンECU101と接続している。
エアコンECU101は、車載空調装置100の主制御部をなすものであり、図4に示すように、空調用センサ120、空調用駆動部130、及び空調用操作部(空調出力状態設定操作部)140が接続するとともに、LAN I/F190を介して車両内LAN50(図1参照)に接続する構成を有している。なお、図4は、エアコンECU101と、該エアコンECU101により制御されるエアコンユニットUとからなる車載空調装置100の全体構成を概略的に示す図である。エアコンユニットUは、いわゆるHVAC(Heating, Ventilating and Air-Conditioning)ユニットであり、車室内の空調状態を左座席側と右座席側(本実施形態においては運転席側と助手席側)とで独立して調整可能に構成されている。
エアコンユニットUのダクト28には、車内空気を循環させるための内気吸込口42と、車外の空気を取込む外気吸込口41とが形成されており、内外気切替ダンパー24によりいずれかに切り替えて使用される。これら内気吸込口42ないし外気吸込口41からの空気は、ブロワ21によってダクト28内に吸い込まれる。ダクト28内には、吸い込まれた空気を冷却して冷気を発生させるためのエバポレータ22が設けられている。そして、エバポレータ22よりも下流側(吹出口側)は、運転席側の吹出口43〜45へ至る経路と助手席側の吹出口46,47へ至る経路に分岐している。
なお、図2に示すように、エアコンユニットUには吹出口として、フロントガラス曇り止め用のデフロスタ吹出口43がフロントガラスの内面下縁に対応するインパネ上方奥に、運転席側フェイス吹出口45がインパネの正面中央右寄りと右隅に、助手席側フェイス吹出口46がインパネの正面中央左寄りと左隅に、運転席側フット吹出口44がインパネ下面右奥の運転席側足元に、助手席側フット吹出口47がインパネ下面左奥の助手席側足元に、それぞれ開口しており、図4の吹出口切替用ダンパー32〜36によってそれぞれ開閉状態が切り替えられる。
エアコンECU101に接続する空調用駆動部130(図4)は、上記吹出口切替用ダンパー32〜36や該ダンパー32〜36の開閉状態を切り替えるダンパー駆動ギア機構31、エアミックスダンパー25,26、内外気切替ダンパー24、及びそれらを駆動するサーボモータ71〜74等である。これらサーボモータ(アクチュエータ)71〜74は、エアコンECU101によって回転制御されるとともに、ロータの回転位置や回転速度等の情報を検出してエアコンECU101にフィードバックする。具体的には、駆動回路131〜134がエアコンECU101から駆動指令信号の入力を受けて、対応するサーボモータ71〜74を駆動する。
なお、これらサーボモータ71〜74の他、ブロワ21やコンプレッサもエアコンECU101に接続する空調用駆動部130ということができる。ただし、コンプレッサの直接の駆動源は車載エンジンであり、エアコンECU101はその駆動制御を実行するものである。
エアコンECU101に接続される空調用センサ120(図4)は、車内温度を検出する内気温センサ(車内温度検出手段)121、車外温度を検出する外気温センサ(車外温度検出手段)122、エバポレータを通過した直後の空気の温度を検出するエバポレータ後センサ123、及び日射量を検出する日射センサ124等の周知の空調用センサからなる。
エアコンECU101に接続される空調用操作部140(図4)は、運転者及び助手席搭乗者により操作可能なインパネ正面中央に設けられたエアコンパネル20に設けられており、AUTOスイッチ141,OFFスイッチ142,吹出口切替スイッチ(MODEスイッチ)143,内外気切替スイッチ144,デフロスタスイッチ147,A/Cスイッチ148,独立/一括制御切替スイッチ(DUALスイッチ)149といったスイッチとを備えている。これらのスイッチは、各々周知の押圧操作部やダイアル操作部として構成されている。他方、風量切替スイッチ145及び温度設定スイッチ146は、本実施形態においては、後述するように、タッチパネルに割り付けられたタッチスイッチとして出現するように構成されている。
エアコンECU101は、CPU、ROM、RAM等を備える周知の構成を有し、各種空調用操作部140の操作状態や各種空調用センサ120の検出結果に基づいて空調用駆動部130を駆動制御することにより、吹き出し温度制御、吹き出し風量制御、内気吸気・外気吸気切替制御、及び吹出口切替制御等の周知の空調制御を実行する。これらの空調制御は、エアコンECU101のCPUが自身のROMに格納される空調制御プログラムを実行する形で実行される。
図1に戻る。図1のナビゲーション装置10は、車両の現在位置を検出する位置検出器11と、運転者等の操作者からの各種指示を入力するための操作情報入力部12と、地図データや各種の情報を記録した外部記録媒体から地図データ等を入力する地図データ入力器14と、地図表示画面やTV(Television)画面等の各種表示を行うための表示部15と、各種のガイド音声等を出力したり運転者等の操作者の音声を入力したりするための音声入出力装置16と、車両情報等の各種のデータを記憶するためのハードディスク記憶装置17と、車両情報の授受を行うための車両I/F(Interface)部19と、他の通信装置13aと近距離無線通信を行うための無線通信機13と、これら11〜19と接続する制御部18とを備えている。
位置検出器11は、GPS(Global Positioning System)用の人工衛星からの送信電波をGPSアンテナを介して受信し、車両の位置,方位,速度等を検出するGPS受信機11aと、車両に加えられる回転運動の大きさを検出するジャイロスコープ11bと、車両の前後方向の加速度等から走行した距離を検出する距離センサ11cと、地磁気から進行方位を検出する地磁気センサ11dとを備えている。そして、これら各センサ等11a〜11dは、各々が性質の異なる誤差を有しているため、互いに補完しながら使用するように構成されている。なお、精度によっては、上述したうちの一部のセンサで構成してもよく、また、ステアリングの回転センサや各転動輪の車輪センサ等(図示せず)を用いてもよい。
操作情報入力部12は、図5に示すように、表面12a1がタッチ操作面をなす透光性を有した操作パネル12aと、該操作パネル12aを撮影範囲に含む形で該操作パネル12aの裏面12a2側から撮影するカメラ12bと、該撮影範囲に入り込む撮影対象に向けて予め定められた波長帯の光を照射する光源(撮影用光源)12cと、を備えて構成されている。
操作パネル12aは、少なくとも光源12cから照射される光に対して透光性を有した板材からなる。光源12cは、自身の照射する光が操作パネル12aの裏面12a2から表面12a1に向けて透過する形で配置されている。そして、カメラ12bは、光源12cから照射された光の反射光を捉える形で、操作パネル12aの裏面12a2側から、予め定められた撮影範囲を撮影するよう車体側に固定されている。
なお、操作パネル12aは、図3に示すように、ステアリングホイール6のボス部61の中央に配置されており、運転者によるタッチ操作が可能とされている。具体的に言えば、ステアリングホイール6は、運転者がハンドリング操作を行うための把持部となるリング部62と、リング部62の中央に位置するボス部61と、リング部62とボス部61とを連結する3以上のスポーク部とを有して形成されており、筐体12eの前端部12fの開口に操作パネル12aを嵌め込んだ操作情報入力部12が、ボス部61の中央開口に嵌め込まれた形で配置されている。
また、カメラ12bは、図6に示すように、運転席2Dに着座する運転者DRの顔Fが撮影可能となるように撮影範囲を定めて固定されている。さらに、本実施形態のカメラ12bは、図5に示すように、光源12cから照射された光の反射光を反射装置12rに反射させたい光を捉える形で撮影する構成となっている。反射装置12rに反射させた光を捉えて撮影することで、撮影画像を左右反転する画像処理を省略できる。左右反転処理を行うのであれば、光源12cから照射された光の反射光を直接捉える形で撮影を行ってもよい。
また、本実施形態の光源12cは、赤外光光源である。また、本実施形態のカメラ12bは、暗所での撮影にも適した赤外線カメラ(可視光をシャットアウトする図示しない赤外線フィルタを備え、これを介して撮影を行う)であり、赤外光光源12cから照射された光(赤外線)が撮影範囲内に存在する撮影対象物にて反射した反射光を捉える形で撮影を行う。なお、操作パネル12aを、光源の光に対してのみ透光性を有した材料にて構成すれば、カメラ12b内の赤外線フィルタは不要となる。また、本発明ではデータ処理の容易さを考え赤外線カメラを使用したが、特に赤外線カメラに限定するものではない。この場合、光源12cも赤外光光源である必要はない。
このように操作情報入力部12が構成されることで、カメラ12bは、通常時は運転者DRの顔Fが位置する領域を撮影領域として撮影を行い、少なくとも運転中の運転者の顔画像を撮影する顔画像撮影手段として機能する一方で、操作パネル12aのタッチ操作面12a1側に何がしかの接近対象物があると、その接近対象物を撮影する接近対象物撮影手段として機能する(接近対象物が手であれば手画像撮影手段として機能する)。つまり、タッチ操作面12a1を被うように位置する接近対象物(例えば手等)Hが存在しない限り、光源12cからの光(照射光)は該タッチ操作面12a1から外に通過し、所定の撮影範囲内に存在する撮影対象物に反射し、その光(反射光)の一部が裏面12a2側に戻ってカメラに捉えられる。一方で、タッチ操作面12a1に対向する形で接近した接近対象物Hがある場合には、当該接近対象物Hに反射して、その光(反射光)の一部が裏面12a2側に戻り、カメラ12bに捉えられる。そして、接近対象物Hがタッチ操作面12a1に接触していれば、その接触領域(接触面)において最も多くの光が反射して、裏面12a2側に戻る。詳細は後述するが、本実施形態における当該操作パネル12aへのタッチ操作は、この接触領域(光反射領域)を検出する形なされる。
図7は、カメラ12bにて撮影した映像150の一例である。図7のうち、符号150Hは接近対象物Hが映った領域、符号150HAは接近対象物Hとタッチ操作面12a1との接触領域が映った光反射領域、符号150eは筐体前端部12fの裏面が映った領域である。なお、符号150aは,操作パネル12aの接近対象物Hの背景(遠景)が映し出されている領域となっている。図7においては、背景領域150aに、運転者DRの顔画像150Fが映っているが、その一部が接近対象物H(手画像)により、隠されている。接近対象物が移されていないときには、図9のように、運転者DRの顔画像150Fが撮影される。
図1に戻り、表示部15は、運転席の前方に設置された表示装置であり、液晶ディスプレイ,プラズマディスプレイ,有機ELディスプレイ等のいずれを用いてもよい。表示部15の表示画面は、位置検出器11にて検出した車両の現在位置と地図データ入力器14より入力された地図データとから特定した現在地を示すマーク,目的地までの誘導経路,名称,目印,各種施設のマーク等の付加データとを重ねて表示することができる。また、施設のガイド等も表示できる。なお、この表示部15が本発明の表示手段に相当する。
また、表示部15は、上述のとおり、操作パネル12aのタッチ操作面12a1上への入力位置を示すための操作系座標と一義的な対応関係を有する表示座標系を有している。当該表示座標系上の予め定められた位置にはスイッチ画像(操作アイコン)201が表示され、これに対応するタッチ操作面12a1上の操作入力位置にタッチ入力がなされると、当該スイッチ画像201に対応する制御内容が実行される。つまり、本実施形態においては、表示部15の表示画面は、操作パネル12aのタッチ操作面12a1と相似の形状をなしており、当該表示画面上に定められる二次元座標系と、該操作パネル12aのタッチ操作面12a1上に定められる二次元座標系との間には一義的な対応関係が予め定められており、一方の面内位置に対応する他方の面内位置が一義的に特定可能とされているから、その対応関係に基づいて、タッチ操作面12a1へのタッチ入力により、表示画面上に表示されるスイッチ画像201をタッチ操作することが可能となっている。なお、表示部15の表示画面及び操作パネル12aのタッチ操作面12a1の形状は、上記のような表示形状に限られず、少なくとも上記のように、双方の面内位置の対応関係が定められてさえいればよい。
表示部15としては、図2に示すようなセンターコンソールC内に配置されるものに限られず、例えばフロントガラスFG下縁よりも上方に設置されるものであってもよい。具体的には、車両のフロントガラスFGに、上述の画像・データを表示するヘッドアップディスプレイ(HUD)等を例示できる。
また、表示部15としては、図2に示すようなセンターコンソールC内に配置されるものに限られるものではない。例えば、表示部15の表示画面を運転者正面位置に設けることで、その視認性を増すことができる。例えば、表示部15をメーター表示装置とし、表示画面をステアリングホイール6の奥に位置するメーター表示領域内に設けてもよい。また、表示部15の表示画面が、フロントガラスFG下縁よりも上方に設置されることで、一層視認性が増す。例えば、図18及び図19に示すように、ウィンドシールドガラスFGの運転者正面領域を表示画面15aとし、当該ウィンドシールドガラスに向けて表示光を放射する表示器15bを備える車両用ヘッドアップディスプレイ(HUD)装置を表示部15とすることもできる。
図1に戻り、地図データ入力器14は、ネットワークデータとしての道路データ,位置特定の精度向上のためのいわゆるマップマッチング用データ等の地図データ,施設を示すマークデータ,案内用の画像や音声データ等を含む各種のデータを入力するための装置である。これらのデータの記録媒体としては、CD−ROM,DVD−ROM,ハードディスク,メモリ,メモリカード等を用いることができる。
音声入出力装置16は、地図データ入力器14より入力した施設のガイドや各種案内の音声や、I/F19を介して取得した情報の読み上げ音声を出力することができる。また、音声入出力装置16は、図示しないマイクおよび周知の音声認識ユニットを含み、運転者等の操作者の音声をコマンド等として制御部18に入力することができる。
無線通信機13は、他の通信装置13aと狭帯域通信を行うためのものであり、例えばDSRC(Dedicated Short Range Communications),Bluetooth(登録商標),無線LAN(Local Area Network),UWB(Ultra Wideband)などが使用されている。
LAN I/F19は、車内LAN50を介して他の車載電子機器やセンサとのデータの遣り取りを行うためのインターフェース回路である。また、LAN I/F19を介して、例えば他のECUからのデータ取り込みを行ってもよい。
制御部18は、図示しない周知のCPU,ROM,RAM,I/O(Input/Output)およびこれらの構成を接続するバスラインなどからなる周知のマイクロコンピュータを中心に構成されており、ROM等の記憶部に記憶されたプログラムに基づいて、位置検出器11からの各検出信号に基づき座標および進行方向の組として車両の現在位置を算出し、地図データ入力器14を介して読み込んだ現在位置付近の地図や、操作情報入力部12の操作によって指示された範囲の地図等をメイン画像(動画・静止画を含む)200Bとして表示部15に画面表示する地図表示処理や、地図データ入力器14に格納された地点データに基づき、操作情報入力部12の操作に従って目的地となる施設を選択し、現在位置から目的地までの最適な経路を自動的に求める経路計算を行って経路案内を行う経路案内処理等を行う。このように自動的に最適な経路を設定する手法は、ダイクストラ法等の手法が知られている。
また、制御部18は、ROM等の記憶部に記憶されたプログラムに基づいて、スイッチ画像(操作アイコン)201と、操作情報入力部12から取得した接近対象物画像150Hに基づく加工画像200Hとの双方をサブ画像とし、これらをメイン画像200B(地図操作用画像等)に重畳するための画像合成部18aを有しており、図8に示すように、生成された合成映像200を表示部15の表示画面上に表示する。つまり、制御部18は、本発明の手画像合成表示制御手段として機能する。
なお、接近対象物画像150Hに基づく加工画像200Hとは、当該接近対象物画像150Hの外形形状が視認されるよう加工・生成された接近対象物外形反映画像200Hである。この画像200Hが合成されていることにより、運転者等の操作者は、操作パネル12aのタッチ操作面12a1に対面させる形で、例えば手の指等を移動させると、これに併せて、表示部15の表示画面上にはその手形状を反映した加工画像200Hが移動して表示され、あたかも表示部15の表示画面に操作パネル12aが存在しているかのような感覚で操作を行うことができる。
また、記憶装置17の所定記憶領域には、スイッチ画像201を表示するためのスイッチ画像データが記憶されており、スイッチ画像201の合成表示には用いられている。一方で、同じく記憶装置17の所定記憶領域には、各スイッチ画像201に対応付けた形で、各々への操作入力(対応するタッチ操作面12a1上の領域へのタッチ入力)により実施される制御内容も記憶されている。制御部18により、表示画面上において、メイン画像200B上にスイッチ画像201を合成した合成映像200が表示され、それに伴い操作パネル12aのタッチ操作面12a1には、該表示画面上におけるスイッチ画像201の表示位置に対応する領域に、当該スイッチ画像201に対応する操作入力受付範囲(操作入力位置)が設定される(操作入力位置設定手段)。スイッチ画像201に対応する操作入力受付範囲に対しタッチ操作がなされてその入力が受け付けられた場合には(入力受付手段)、当該スイッチ画像201に対応する制御内容が実施されるようになっている。具体的には、対応する制御内容に基づく制御信号を出力する(制御手段)。タッチ入力の有無は、表示部15の表示画面と対応関係を有する操作パネル12aのタッチ操作面12a1上に対しなされたタッチ操作による接触領域を、カメラ12bの撮影画像150から検出する形で判定される。
なお、この制御部18は、本発明の手画像合成表示制御手段、入力受付手段、生体状態特定手段(運転注意力低下状態特定手段、発汗状態特定手段)、生体状態対応制御実行手段、モード設定手段、光反射領域特定手段として機能する。なお、画像合成部18aも手画像合成表示制御手段としての機能の一部を担っている。
ところで、本発明のタッチ式操作入力装置は、操作パネル12aが車両のステアリングホイール6に設けられる一方で、ステアリングホイール6とは異なる位置に表示部15の表示画面が設けられており、操作性向上のために、操作パネル12aに対向する操作者の手を、表示画面上の対応する位置に合成表示することができる(手画像合成表示制御手段)。そして、表示画面上の操作アイコンに対応する、操作パネル12a上の操作入力位置にタッチ操作がなされると、当該位置に対応する操作入力が受け付けられる(入力受付手段)。さらに、本実施形態においては、手画像を撮影するカメラ12bにより運転席に着座する運転者の顔画像(顔全体や顔の輪郭、顔の一部(目や鼻等)だけの画像も含む:本実施形態においては顔全体)の撮影も可能とされており、撮影される顔画像に基づいて運転者が予め定められた生体状態にあることを特定することができる(生体状態特定手段)。そして、記憶装置17の所定の記憶領域(制御内容記憶手段)には、各種生体状態に対応する車載電子機器の制御内容を対応付けた生体状態対応制御情報が記憶されており、所定の生体状態が特定された場合には、生体状態対応制御情報に基づいて、特定された生体状態に対応する制御内容を実行することができる(生体状態対応制御実行手段)。
そして、本実施形態においては、操作パネルのタッチ操作面への接近対象物の検出の有無に基づいて、生体状態対応制御禁止モードと、生体状態対応制御実行モードとを切り替えて設定する(モード設定手段)。このモード設定処理は、制御部18において、ROMに記憶されたプログラムをCPUが実行する形で開始されるものである。以下、図10のフローチャートを用いて説明する。
イグニッションスイッチ(IG)のオン操作等のエンジン始動操作がなされるに伴いカメラ12bによる撮影が開始される。この状態において、制御部18は、S101にて接近対象物Hの検出を行う。なお、接近対象物Hの検出は、例えば赤外線センサ等の周知の近接センサを別途設けて行っても可能であるが、本実施形態においては、カメラ12bの撮影画像150に基づく検出を行う。
即ち、カメラ12bは、当該光源12cの反射光を捉える形で撮影を行うものであるから、撮影画像150に現れる色の階調には反射光強度が反映されており、高強度の反射光を捉えたところほど階調レベルが高く現れる。特に、カメラ12bに近接する物ほど、カメラ12bはより強い強度の反射光を捉えるため、操作パネル12aに対し接近する近接物が映し出されると、その領域は、その他の領域よりも高い階調レベル領域として現れる。このため、本実施形態においては、撮影画像150に現れる色の階調に予め閾値を設けておき、その閾値を超える領域に接近対象物Hがあると検出する。つまり、本実施形態のカメラ12bにより撮影される撮影映像150は、多階調の撮影画像(本実施形態ではモノクロの撮影画像)であり、これを予め定められた第一の階調閾値を用いて各画素の階調レベルを2値化し、当該第一の階調閾値を上回る領域を接近対象物画像150Hとして特定する。制御部18は、この接近対象物画像150Hを特定する形で接近対象物を検出するものであり、カメラ12bとともに接近対象物検出手段として機能する。
接近対象物が検出された場合には、S103に進む。S103では、制御部18が生体状態に対応する制御内容の実行を禁止する生体状態対応制御禁止モードを設定するとともに、画像合成部18aによる上述した手画像の合成表示処理を開始する。ただし、S103にて生体状態対応制御禁止モードが設定された場合には、カメラ12bにより撮影された顔画像に基づいて運転者の生体状態を特定する処理の実行も禁止されており、当該処理を行わない。他方、接近対象物が検出されなかった場合には、S102に進む。S102では、制御部18が生体状態に対応する制御内容を実行する生体状態対応制御実行モードを設定するとともに、上述した手画像の合成表示処理に係る処理を停止した状態とする。つまり、制御部18は、S102及びS103の実行によりモード設定手段として機能する。以上の処理は、所定周期で繰り返し実行される。
次に、生体状態対応制御実行モードが設定された際に、制御部18により実行される生体状態対応制御実行処理について、図11のフローチャートを用いて説明する。この生体状態対応制御実行処理は、制御部18において、ROMに記憶されたプログラムをCPUが実行する形で開始されるものである。なお、S111は本実施形態においては省略している。
まず、S112では、制御部112が、カメラ12bによる撮影画像50を取得し、S113にて、その撮影画像150の中から運転者DRの顔画像150Fを特定する。なお、顔画像の特定は、撮影画像150を基に、2値化処理や濃淡情報によるパターンマッチング等の画像処理を行い、顔画像を特定する。本実施形態においては、記憶装置17に予め記憶されている各種の基本顔形状データ(運転手の様々な顔の向きの顔形状を反映した複数のデータ)とのパターンマッチング等により特定する。パターンとのS114では、S113で顔画像150Fが特定されなければ、S119に進む。他方、S113で顔画像150Fが特定されていればS115に進む。
S115では、制御部112が、顔画像150Fを撮影された運転者DRが予め定められた生体状態にあるか否かを特定する。本実施形態においては、運転者DRが運転注意力低下状態にある場合と、発汗状態にある場合とを、予め定められた生体状態として特定するものとする。具体的に言えば、カメラ12bにて撮像された運転者DRの顔画像150Fを基に、2値化処理や濃淡情報によるパターンマッチング等の画像処理を行い、運転者DRの目の位置、まばたき、開き具合、発汗等を認識して運転者DRの脇見や居眠り、発汗といった生体状態を特定する。本実施形態においては、制御部18が、本処理とは別に、特定の生体状態を検出する処理として図13〜図16に示すような処理を実行しており、記憶装置17の所定記憶部(運転者生体状態記憶部)に、それら各処理における検出結果情報がそれぞれ記憶されているので、この記憶部から検出結果情報を読み出す形で、現在の運転者の生体状態を特定する。つまり、制御部18は、ROMに記憶された各種プログラムをCPUが実行する形で、図13〜図16に示すような処理を実行し、生体状態特定手段(運転注意力低下状態特定手段、発汗状態特定手段)として機能する。
図13は、運転注意力低下状態を検出する処理の一例である。ここでは、図9(d)のような脇見の検出数が定められた時間内において所定回数を上回った場合を、運転注意力低下状態であると特定する。当該処理による運転注意力低下状態の検出結果情報は、記憶装置17に設けられた第一の運転者生体状態記憶部に記憶される。
S201では、制御部18が初期化処理として、自身に設けられた後述するタイマー18bやカウンタ18cのリセット、記憶装置17(第一の運転者生体状態記憶部)に記憶されている運転注意力低下状態の検出結果情報の初期化(運転者の生態状態が通常状態にあることを示す記憶状態とする)を行う。続くS202ではタイマー18bを起動する。
S203〜S206では、カメラ12bが撮影する顔画像150Fから、目の瞳孔が目の中心位置にあるか否かを判定することで、運転者DRの脇見を特定する。S203では、カメラ12bの撮影画像150から顔画像150Fを抽出・取得する。S204では、取得した顔画像150Fから目頭の位置を特定する。目頭の位置特定は、図9(d)に示すように、顔画像150Fから目画像150Eの輪郭形状をパターンマッチング等の画像処理により抽出し、目の内側角部(150C)を目頭位置として特定する形で行う。S205では、取得した顔画像150Fから同じくパターンマッチング等の画像処理により瞳孔位置を特定する。瞳孔位置の特定は、同じく図9(d)に示すように、顔画像150Fにおける目(目画像150E)の内部の黒色部分(150P)の重心位置を特定する形で行う。S206では、S203及びS204で取得した情報に基づいて、運転者DRの脇見を判定する。本実施形態においては、目全体に対する瞳孔の相対位置を特定する形で行っており、具体的には、目頭位置から瞳孔の重心位置までの距離を算出し、瞳孔の重心位置の左右への偏りを特定する形で行う。なお、目の重心位置(目の輪郭の重心位置)と瞳孔の重心位置との距離で、瞳孔位置の左右への偏りを特定しても良い。図9(d)に示すような所定以上の偏りが検出された場合には、S207にて、これを脇見と判定してS208に進む。他方、図9(a)のように、所定以上の偏りが検出されなかった場合には、S211に進む。
S208では、制御部18の記憶部に設けられたカウンタ18cのカウント値をアップする。このカウント値は、所定時間(S202にてタイマー18bが起動してからS211で予め定められた閾時間が経過したと判定するまでの間)の中で、運転者DRの脇見が何回検出されたかを反映した値である。つまり、この値が多い場合は脇見時間が多い状況であり、運転への注意力が低下した状況といえるので、S209では、そのカウント値が所定の値を超えたか否かを判定し、所定回数を超えていればS210に進んで、運転者の生態状態の検出結果情報として運転注意力低下状態を記憶装置17(第一の運転者生体状態記憶部)に記憶する。S209にて所定回数を超えていなければS211に進む。
S211では、タイマー18bから経過時間を読み出し、S202で起動してから所定の時間が経過したか否かを判定する。所定時間が経過していなければS203に戻り、再び脇見の検出を開始する。所定時間が経過していればS212に進み、S209と同様、カウント値が所定の値を超えたか否かを判定する。所定回数を超えていなければS213に進み、運転者の生態状態の検出結果情報として通常状態を記憶装置17(第一の運転者生体状態記憶部)に記憶して、S214に進む。所定回数を超えていればS213をスキップしてS214に進む。S214では、当該検出処理の終了条件が成立したか否かを判定する。ここでは、IGのオフを終了条件とし、終了条件が成立した場合は本処理を終了し、終了条件が成立していなければS215に進み、タイマー18bをリセットした上でS202に戻り、再度タイマー18bを起動して脇見の検出を再開する。
図14も、運転注意力低下状態を検出する処理の一例である。ここでも、図9(e)のような脇見の検出数が定められた時間内において所定回数を上回った場合を、運転注意力低下状態であると特定する。当該処理による運転注意力低下状態の検出結果情報は、記憶装置17に設けられた第二の運転者生体状態記憶部に記憶される。
S221では、制御部18が初期化処理として、自身に設けられた後述するタイマー18bやカウンタ18cのリセット、記憶装置17(第二の運転者生体状態記憶部)に記憶されている運転注意力低下状態の検出結果情報の初期化(運転者の生態状態が通常状態にあることを示す記憶状態とする)を行う。続くS222ではタイマー18bを起動する。
S223〜S226では、カメラ12bが撮影する顔画像150Fから、顔の向きが正面を向いているか否かを判定することで、運転者の脇見を特定する。S223では、カメラ12bの撮影画像150から顔画像150Fを抽出・取得する。S224では、取得した顔画像150Fから鼻の重心位置を特定する。鼻の重心位置の特定は、図9(e)に示すように、顔画像150Fからパターンマッチング等の画像処理により鼻画像150Nの輪郭形状を抽出し、その輪郭形状に対する重心位置を特定する形で行う。S225では、取得した顔画像150Fから同じくパターンマッチング等の画像処理により両目の瞳孔位置を特定する。瞳孔位置の特定は、図9(e)に示すように、顔画像150Fにおける目(目画像150E)の内部の黒色部分150Pの重心位置を特定する形で行う。S226では、S223及びS224で取得した情報に基づいて、運転者DRの脇見を判定する。本実施形態においては、両目と鼻との距離を特定し、目全体に対する瞳孔の相対位置を特定する形で行っており、具体的には、左右それぞれの目(目画像150E)の重心位置から鼻(鼻画像150N)の重心位置までの距離を算出し、双方の距離の差を算出する形で行う。図9(e)に示すように、所定以上の距離の差が検出された場合には、S227にて、これを脇見と判定してS228に進む。他方、図9(a)に示すように、所定以上の距離の差が検出されず、距離がほぼ一致した場合にはS231に進む。
なお、S228〜S235は、図13のS208〜S215までと同様の処理であるから説明を省略する。ただし、当該処理による運転注意力低下状態の検出結果情報は、記憶装置17に設けられた、第一の運転者生体状態記憶部とは異なる第二の運転者生体状態記憶部に記憶される。
図15も、運転注意力低下状態を検出する処理の一例である。ここでは、図9(a)に示すような目を閉じた回数が定められた時間内において所定回数を上回った場合(まばたきの回数が多い場合や連続して目を閉じ続けている居眠りの場合等)を、運転者DRの意識レベルが低下した運転注意力低下状態であると特定する。当該処理による運転注意力低下状態の検出結果情報は、記憶装置17に設けられた第三の運転者生体状態記憶部(第一及び第二の運転者生体状態記憶部とは異なる記憶領域)に記憶される。
S241では、制御部18が初期化処理として、自身に設けられた後述するタイマー18bやカウンタ18cのリセット、記憶装置17(第三の運転者生体状態記憶部)に記憶されている運転注意力低下状態の検出結果情報の初期化(運転者の生態状態が通常状態にあることを示す記憶状態とする)を行う。続くS242ではタイマー18bを起動する。
S243〜S246では、カメラ12bが撮影する顔画像150Fから、目の開閉状態を判定することで、運転者のまばたきの回数や居眠りを特定する。S243では、カメラ12bの撮影画像150から顔画像150Fを取得する。S244では、取得した顔画像150Fからパターンマッチング等の画像処理により両目の目画像150Eを抽出する。ここでの目画像150Eの抽出は、図9(a)に示すように、上まぶた画像150LUと下まぶた画像150LDを同じくパターンマッチング等の画像処理により特定し、その間の領域を目画像150Eとして特定する。S245では、取得した目画像150Eから目の開度を特定する。目の開度の特定は、目画像150Eの面積を算出する形で特定する。上まぶた画像150LUと下まぶた画像150LDとのそれぞれの最下端位置の上下方向における距離を目の開度として特定してもよい。S246では、S244で取得した情報に基づいて、運転者DRの目が閉じているか否かを判定する。本実施形態においては、目画像150Eの面積を算出し、その面積が予め定められた閾面積を上回ったか否かに基づいて行う。閾面積を上回った場合には、S247にて、これを目を閉じた状態と判定してS248に進む。他方、閾面積を上回らなかった場合には、S250に進む。
S248では、制御部18の記憶部に設けられたカウンタ18cのカウント値をアップする。このカウント値は、所定時間(S242にてタイマー18bが起動してからS250で予め定められた閾時間が経過したと判定するまでの間)の中で、運転者DRの目が閉じた状態を何回検出されたかを反映した値である。つまり、この値が多い場合は目を閉じていた時間が多い状況であり、運転への注意力が低下した、意識レベルの低い状況といえるので、S249では、そのカウント値が所定の値を超えたか否かを判定し、所定回数を超えていればS250に進んで、運転DR者の生態状態の検出結果情報として運転注意力低下状態を記憶装置17(第三の運転者生体状態記憶部)に記憶する。他方、S249にて所定回数を超えていなければS251に進む。
S251では、タイマー18bから経過時間を読み出し、S242で起動してから所定の時間が経過したか否かを判定する。所定時間が経過していなければS243に戻り、再び目が閉じた状態の検出を開始する。所定時間が経過していればS252に進み、S248と同様、カウント値が所定の値を超えたか否かを判定する。所定回数を超えていなければS253に進み、運転者の生態状態の検出結果情報として通常状態を記憶装置17(第三の運転者生体状態記憶部)に記憶して、S254に進む。他方、S252にて所定回数を超えていればS253をスキップしてS254に進む。S254では、当該検出処理の終了条件が成立したか否かを判定する。ここでは、IGのオフを終了条件とし、終了条件が成立した場合は本処理を終了し、終了条件が成立していなければS255に進み、タイマー18bをリセットした上でS242に戻り、再度タイマー18bを起動して、運転者の目が閉じた状態の検出を再開する。
図16も、運転注意力低下状態を検出する処理の一例である。ここでは、図9(b)に示すような運転者DRの発汗状態であると特定する。当該処理による運転注意力低下状態の検出結果情報は、記憶装置17に設けられた第四の運転者生体状態記憶部(第一〜第三の運転者生体状態記憶部とは異なる記憶領域)に記憶される。
S281では、制御部18が初期化処理として、自身に設けられた記憶装置17(第四の運転者生体状態記憶部)に記憶されている運転注意力低下状態の検出結果情報の初期化(運転者の生態状態が通常状態にあることを示す記憶状態とする)を行う。S282〜S286では、カメラ12bが撮影する顔画像150Fから、発汗状態を特定する。S282では、カメラ12bの撮影画像150から顔画像150Fを取得する。S283では、取得した顔画像150Fからパターンマッチング等の画像処理により汗画像150Kを抽出する。ここでの汗画像150Kの抽出は、図9(b)に示す顔画像150Fのうち目(目画像150E)よりも外側に位置する領域において、通常の肌よりも階調が高くなっている液体反射領域を特定し、これを汗画像150Kとして特定する。S284では、S283で取得した情報に基づいて、運転者DRが発汗状態にあるか否かを、汗画像150Kの有無に基づいて判定する。汗画像150Kが抽出された場合には、これを運転者DRの発汗状態と判定してS285に進んで、運転者DRの生態状態の検出結果情報として発汗状態を(第四の運転者生体状態記憶部)に記憶し、S287に進む。他方、汗画像150Kが抽出されなかった場合には、運転者DRは通常状態にあると判定してS286に進み、運転者DRの生態状態の検出結果情報として通常状態を(第四の運転者生体状態記憶部)に記憶し、S287に進む。
S287では、当該検出処理の終了条件が成立したか否かを判定する。ここでは、IGのオフを終了条件とし、終了条件が成立した場合は本処理を終了し、終了条件が成立していなければS282に戻り、汗検出処理を再開する。
図11に戻る。S115では、図13〜図16の処理の検出結果情報を記憶装置17の各運転者生体状態記憶部から読み出して、現在の運転者DRが運転注意力低下状態にあるか、発汗状態にあるかを特定する。なお、各検出結果情報は個別の記憶領域(第一〜第四の運転者生体状態記憶部)に記憶されているので、運転者がどのような種類の生体状態にあるかは、各記憶領域を見れば明らかであり、それらに応じて個別の制御内容を実施してもよい。ただし、本実施形態においては、運転注意力低下状態と発汗状態との二つのみを区別する形で認識し、両者に応じた制御内容が以下の処理で実施される。
続くS116では、S115において運転注意力低下状態ないし発汗状態のいずれかが検出されている場合にはS117に進み、いずれも検出されていなければS119に進む。なお、S119では、生体状態に対応した制御が既に実施されている場合に、その制御を終了する処理を行う。そして、図10の処理に戻る。
S117では、S115にて特定された生体状態に対応する制御内容を特定し、S118にて特定された制御内容を実行する(生体状態対応制御実行手段生体)。本実施形態においては、運転注意力低下状態のいずれかが検出された場合には、音による注意喚起動作が実行され、発汗状態が検出された場合には、予め定められた空調条件に従う空調出力が実行される。具体的に言えば、記憶装置17の所定記憶領域(制御内容記憶手段)には、運転者DRの予め定められた生体状態に対し、車載電子機器の制御内容を対応付けた生体状態対応制御情報を記憶しており、生体状態が特定された場合には、この生体状態対応制御情報に基づいて、特定された生体状態に対応する制御内容を実行する。
本実施形態の注意喚起動作は、運転者DRに注意力が低下している旨を音声出力する形でなされる。記憶装置17には、これら運転注意力低下状態に対応付けた形で注意喚起音声データが記憶されており、これに基づいて音声出力装置16から音声出力がなされる。なお、注意喚起動作は、上記音声出力とは異なる他の動作であってもよく、ブザー音にて報知するものであったり、注意力低下状態からの覚醒を促す警告覚醒用の動作(例えば運転席側の窓を開ける等)であってもよい。
他方、本実施形態の、発汗状態に対応する空調出力は、現在の空調条件よりも強風又は低温、あるいは強風かつ低温の空調条件に変更する形で実行される。記憶装置17には、発汗状態に対応付けた形で空調条件データが記憶されており、これに基づいて空調ECU101に対し空調条件の変更を指示する。具体的に言えば、マニュアルないしオートで現在設定されている目標吹き出し温度の設定値を予め定められた値だけ減じて設定し、かつ同じくマニュアルないしオートで現在設定されている目標吹き出し風量の設定値を予め定められた値だけ増じて設定する。そして、それら設定後の目標吹き出し温度及び目標吹き出し風量の設定値に基づいて、吹き出し温度制御及び吹き出し風量制御を実行させることで、上記の発汗状態に対応する空調出力が実行される。なお、設定後の値が設定下限値を下回る、あるいは設定上限値を上回る場合は、それら設定下限値ないし設定上限値を設定するものとする。
S118の処理が終了すると図10に戻る。図10のモード設定処理は繰り返し実行されるので、S101にて接近対象物が検出されない限り、この生体状態対応制御実行処理は繰り返されるとともに、上記した生体状態が検出され続ける限り、対応する制御内容も継続して実行され続ける。
次に、制御部18による表示制御処理(手画像合成表示処理)について、図12のフローチャートを用いて説明する。なお、S121は本実施形態においては省略している。S122では、制御部112が、カメラ12bによる撮影画像を取得し、その撮影画像の中から手画像を抽出・特定する。手画像であるか否かの判定は、撮影された接近対象物画像150Hの形状に基づいて行う。人の手画像を抽出する手法については、公知の任意の手法(例えば、特開2003−346162号公報参照)を使用することができる。S123にて、手画像が抽出・特定された場合にはS124に進み、手とは異なる画像が特定された場合には、本処理を終了する。
S124では、抽出された手画像に基づいて、表示部15の画面に図5に示すような合成映像200を表示する。具体的に言えば、抽出された手画像150Hに対し半透状態とする加工を施した上で、画像合成部18aにより、これをメイン画像200B(ここでは地図操作画像)上に合成し、図5のような合成映像200を表示する。なお、手画像150Hのメイン画像200Bへの加工・合成表示については、上述のような半透過合成表示に限らず、種々の変形例を考えることができる。
上述の表示制御処理が実行されることにより、撮影された手画像200Hを表示画面上の対応する位置に合成表示する手画像合成表示手段として機能する。
次に、制御部18によるタッチ入力受付処理について説明する。図17は、その流れを示すフローチャートである。
まず、S1では、カメラ12bにより撮影される撮影画像150から、操作パネル12aのタッチ操作面12a1に手Hが接触した手接触領域を特定する(光反射領域特定手段)。手Hがタッチ操作面12a1と物理的に接触した領域においては、光源12cからの照射光がそれ以外の領域よりも多く反射するので、撮影映像150上においては、上述した第一の階調閾値を十分に上回る階調レベルの光反射領域150HAとして現れる。さらに言えば、その光反射領域150HAの階調レベルは、接近対象物Hに応じて異なるものの、撮影映像150内においてある程度一定のレベルで現れる。本実施形態においては、このような高い階調レベルのみを特定できるよう第一の階調閾値よりも高い階調レベルとして第二の階調閾値を定めており、これを用いて各画素の階調レベルを2値化することで、撮影映像150上において当該第二の階調閾値を上回る光反射領域150HAを接触領域として特定する。
S2では、その光反射領域150HAの面積を算出し、算出された面積が予め定められた方法によって求められる閾面積を上回るか否かを判定する。光反射領域150HAの面積が閾面積を上回らなかった場合には、その光反射領域(接触領域)へのタッチ入力はなかったと判定してその領域への操作入力を受け付けず、本処理は終了する一方で、光反射領域150HAの面積が閾面積を上回った場合には、その光反射領域(接触領域)にタッチ入力があったと判定し、S3にてその領域への操作入力を受け付け、S4に進む(入力受付手段)。なお、接触領域が特定された場合に、その面積とは無関係にその領域への操作入力を受け付ける構成としてもよいが、誤入力の可能性が高くなるので、本実施形態においては、上記のように、操作入力を受け付ける閾面積を予め規定している。
S4では、操作入力を受け付けた接触領域が、表示部15の画面上に表示されるスイッチ画像(操作アイコン)201に対応する領域にあるか否かを判定する。接触領域がスイッチ画像201に対応する領域でなかった場合は、本処理を終了する。他方、接触領域がスイッチ画像201に対応する領域であった場合は、S5に進む。
S5では、タッチ操作された接触領域に応じて、実行すべき制御内容を特定し、S6にて、特定された制御内容を実行する。本実施形態においては、各スイッチ画像201に対し制御内容が対応付けて記憶されているので、この記憶情報に基づいて対応する制御内容を特定し、実施する(制御手段)。S6が終了すると、この入力受付処理は終了するが、当該処理は所定周期で繰り返し実施される。
以上、本発明の一実施形態を説明したが、これはあくまでも例示にすぎず、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を逸脱しない限りにおいて、当業者の知識に基づく種々の変更が可能である。
例えば、上記実施形態においては、撮影用光源12cの輝度は、運転者の顔画像を生体状態を特定できるレベルに固定的に設定されているが、生体状態対応制御実行モードにおいて撮影用光源の輝度を第一レベルに設定し、他方、生体状態対応制御禁止モードにおいては撮影用光源の輝度を第一レベルよりも低い第二レベルに設定することができる。この場合、図11及び図12にてS111及びS121の処理を実行するようにする。そして、図10のS101における接近対象物の検出に関しては、そのときのモードが生体状態対応制御実行モードである場合には、第一レベルの輝度で発光する光源12cのもとでカメラ12bにより撮影された撮影画像から接近対象物を抽出できるか否かに基づいて検出がなされ、生体状態対応制御禁止モードである場合には、第二レベルの輝度で発光する光源12cのもとでカメラ12bにより撮影された撮影画像から接近対象物を抽出できるか否かに基づいて検出がなされる。ただし、S101において接近対象物の抽出に使用される階調の閾値は、そのとき設定されているモードに応じた閾値に切り替えられ、その上で接近対象物の抽出判定が行われる。
また、本実施形態においては、従来のタッチパネルを使用せず、操作パネル上の手接触領域を、カメラ12bにより撮影された撮影画像を解析して特定し、特定された場合に当該位置への入力を受け付ける構成となっているが、従来のタッチパネルを採用してもよい。タッチパネルとしては、抵抗膜方式、静電容量方式、振動検出方式等といった様々な方式のタッチパネルを適用することができる。
また、上記実施形態において、タッチ操作によるタッチ操作面12a1上との接触領域が、表示部15の画面上にて特定できるよう、当該接触領域を、図20に示すように、メイン画像200B上に重畳表示してもよい(符号200HA)。これにより、タッチ入力位置を視認することが可能となり、操作性が増す。具体的には、第二の階調閾値を用いてカメラ12bの撮影映像を2値化し、当該第二の階調閾値を上回る接触領域を抽出する。そして、画像合成部18aにより、抽出された接触領域画像150HAを加工し、これを接近対象物画像200H上に合成し、さらにこれをメイン画像200Bに合成(ここでは半透過合成)し、図20に示すような合成画像を表示する。
また、上記本発明は、運転者の特定の生体状態を顔画像から検出することを特徴としている。生体状態としては、上記の運転注意力低下状態や発汗状態の他の生体状態を特定し、それに対応する予め定められた制御を実行しても良い。また、上記実施形態においては、運転注意力低下状態が特定された際には、これに対する注意喚起動作が実行されるが、注意喚起だけではなく通常状態に戻るために覚醒を促す動作も同時に実行してもよい。