JP2007164517A - 図形中心検出方法、楕円検出方法、画像認識装置、制御装置 - Google Patents

図形中心検出方法、楕円検出方法、画像認識装置、制御装置 Download PDF

Info

Publication number
JP2007164517A
JP2007164517A JP2005360645A JP2005360645A JP2007164517A JP 2007164517 A JP2007164517 A JP 2007164517A JP 2005360645 A JP2005360645 A JP 2005360645A JP 2005360645 A JP2005360645 A JP 2005360645A JP 2007164517 A JP2007164517 A JP 2007164517A
Authority
JP
Japan
Prior art keywords
ellipse
target
image
center
contour
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005360645A
Other languages
English (en)
Other versions
JP4645433B2 (ja
Inventor
Naoki Fukaya
直樹 深谷
Hironobu Fujiyoshi
弘亘 藤吉
Yusuke Sakashita
祐輔 坂下
Takanori Takamaru
尚教 高丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005360645A priority Critical patent/JP4645433B2/ja
Priority to US11/512,482 priority patent/US7668337B2/en
Publication of JP2007164517A publication Critical patent/JP2007164517A/ja
Application granted granted Critical
Publication of JP4645433B2 publication Critical patent/JP4645433B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】入力画像中の楕円を少ない処理量で検出する楕円の検出方法及びその検出方法を実行する画像認識装置、入力画像から検出された楕円を用いた各種制御を、画像の撮影から小さなタイムラグで実行する制御装置の提供。
【解決手段】画像データ中の対象図形を一つ抽出し、対象図形に内接したうえ、第一距離と第二距離が一致した状態におけるA点、B点、C点、D点を頂点とした平行四辺形の重心を検出する。そして、画像データの画素位置と対応した座標系を有し、予めメモリ上に設定された中心点候補マップの平行四辺形の重心の位置に対応した位置におけるカウントを増加させ、中心点候補マップ上のカウントが多い中心点の位置を対象図形の中心点として抽出する。さらに、対象図形の中心点の位置と同一の位置である重心を有した複数の平行四辺形の頂点位置を用いて楕円方程式を解き、復元した楕円と候補図形を比較することで楕円を検出する。
【選択図】図2

Description

本発明は、入力画像中の図形から、図形の中心を検出する図形中心検出方法、楕円を検出する楕円検出方法及び画像認識装置、楕円の検出結果に基づき各種制御を実行する制御装置に関する。
近年、自動車などの車両を運転する運転者の顔面等を撮影した画像から運転者の挙動を推定し、推定結果に対応した様々な制御(具体的には、運転支援や警報を発する等)を行うための研究がなされている。
なお、運転者の挙動を把握するには、運転者の視線を特定することが有効であり、そのためには、撮影した画像から運転者の虹彩または瞳孔を検知することが重要である。そして、現在のところ、目の周辺を撮影した画像から楕円を検出し、この楕円を運転者の虹彩または瞳孔として認識することが試みられている。
ところで、撮影される画像には、虹彩や瞳孔が必ずしも完全な楕円として示されるわけではなく、図6(a)に示すようにまぶたが瞳孔にかかったり、図6(b)に示すように瞳孔に光が映り込んだりすることにより、輪郭の一部が欠損した不完全な図形として示される場合がある。
したがって、この種の制御では、輪郭の一部が欠損していても、検出すべき図形(ここでは楕円)を復元できることが要求される。
このように輪郭の一部から図形を復元する方法としては、一般化ハフ変換が知られている(特許文献1)。
この一般化ハフ変換を用いてある形状の図形を検出する場合、検出すべき図形と同一形状のテンプレート図形を用意し、このテンプレート図形の特徴を表す複数(M個)の特徴点Pi(i=1〜M)を、予め設定された基準点に対する極座標ベクトル(Ri,αi)で表し、その極座標ベクトル(Ri,αi)を列挙したテーブルをテンプレートとして設定する。
なお、Riは、予め設定された基準点からの距離、αiは、基準点を通る基準軸に対する角度である。また、検出すべき図形が楕円である場合、特徴点として楕円の輪郭点、基準点として楕円中心を用いればよい。
そして、入力画像から図形の輪郭上に位置する複数(N個)の検査点Pj(j=1〜N)を抽出し、この検査点Pjを入力画像上に設定された直交座標系(Xj,Yj)で表し、更に、この直交座標(Xj,Yj)を(1)、(2)式を用いて座標変換する。但し、θは、テンプレート図形の傾きを表す。
この座標変換は、検査点Qj=(Xj,Yj)がテンプレートに示された特徴点Pi=(Ri,αi)に相当すると仮定して、入力画像上での基準点の位置を求めるものである。従って、検査点Qjを固定して、テーブルに列挙された全ての極座標ベクトルについて座標変換を行えば、基準点候補の軌跡が求められることになる。特に、θを固定して考えた場合には、この基準点候補の軌跡は、テンプレートと同じ形状となる。
つまり、複数の検査点Qjについて、同様の座標変換を実行することにより、図10に示すように、基準点候補の軌跡21が複数求められ、その複数ある全ての軌跡21が1点にて重なり合う地点が、検出すべき図形の基準点23となる。なお、図10における点線20は、検査対象の図形としての楕円であり、点22は、検査点Qjを表したものである。
特開平8−69533
ところで、図4(a)、(b)に示すような車両内に固定されたカメラによって運転者の目の周辺を撮影した画像では、その画像中に示される運転者の目(虹彩または瞳孔)の大きさや形状、即ち、検出すべき楕円の大きさ(長軸の長さ)や楕円の長軸と短軸の比率、楕円の傾き(長軸の傾斜角度)が、運転者の着座位置や運転者の顔面の向きによって様々に異なったものとなる。
例えば、図11(a)に示すように、テンプレートの楕円と入力画像の楕円とで傾きθは同じであるが、テンプレートの楕円と入力画像の楕円とで大きさが異なる場合や、図11(b)に示すように、テンプレートの楕円と入力画像の楕円とで大きさが同じであるが、テンプレートの楕円と入力画像の楕円とで傾きθが異なる場合は、軌跡25が一点において重ならず楕円の中心(基準点)は、検出されない。ただし、図11における点線27は、検査対象の図形としての楕円であり、点26は、検査点Qjである。
このように、大きさや形状が一定しない楕円を一般化ハフ変換で検出しようとすると、長軸と短軸の比率が異なる楕円毎にテンプレートを用意する必要があるだけでなく、座標変換を行う際には、楕円の傾きを考慮して(1)、(2)式のθを変化させると共に、楕円の大きさ(長軸の長さ)を考慮してテンプレートの拡大/縮小を行う必要があり、楕円の中心を検出するまでの処理量が膨大なものとなるという問題があった。
そして、特に、画像処理のために車両に搭載されるプロセッサは、安価であること、耐ノイズ性に優れていることが要求されるため、十分に高速なものを用いることができない。このため、運転者の虹彩または瞳孔を検出して、その検出結果に基づいて運転者支援等を行う車載制御装置において、虹彩または瞳孔の検出に一般化ハフ変換を用いると、制御に遅延が生じてしまい、実用に耐えうるものを実現できないという問題があった。
そこで、本発明は、入力画像中の図形から、図形の中心を少ない処理量で検出する図形中心検出方法、入力画像中の楕円を少ない処理量で検出する楕円の検出方法及び、それらの検出方法を実行する画像認識装置、入力画像から検出された楕円を用いた各種制御を、画像の撮影から小さなタイムラグで実行する制御装置の提供を目的とする。
上記目的を達成するためになされた請求項1に記載の図形中心検出方法は、輪郭抽出過程において入力画像からその入力画像中に示された図形の輪郭を抽出し、重心位置検出過程において、輪郭抽出過程により輪郭が抽出された図形を対象図形とし、対象図形の輪郭に内接する互いに異なった複数の平行四辺形のそれぞれについて、平行四辺形の重心位置を検出する。
そして、中心位置決定過程では、重心位置検出過程によって検出された重心位置の中で、出現頻度が最も高い重心位置を、対象図形の中心位置とする。
このような本発明の図形中心検出方法によれば、一般化ハフ変換を用いた中心位置の検出とは異なり、対象図形の輪郭点の座標変換を行うことなく、対象図形の中心位置を検出することができる。このため、画像の入力から対象図形の中心位置の検出までの画像処理における処理量を大幅に削減できる。
また、請求項2に記載の楕円検出方法は、輪郭抽出過程において入力画像からその入力画像中に示された図形の輪郭を抽出し、重心位置検出過程において、輪郭抽出過程により輪郭が抽出された図形を対象図形とし、対象図形の輪郭に内接する互いに異なった複数の平行四辺形のそれぞれについて、平行四辺形の重心位置を検出する。
そして、中心位置決定過程では、重心位置検出過程によって検出された重心位置の中で、出現頻度が最も高い重心位置を、対象図形の中心位置とし、楕円パラメータ算出過程では、中心位置決定過程で対象図形の中心位置を決定する際に用いられた複数の前記平行四辺形の頂点位置から、対象図形の輪郭を近似した楕円を表す楕円パラメータを算出する。
このような本発明の楕円検出方法によれば、一般化ハフ変換を用いた楕円検出とは異なり、対象図形の輪郭点の座標変換を行うことなく、楕円を検出することができる。このため、画像の入力から楕円の検出までの画像処理における処理量を大幅に削減できる。
ところで、入力画像中には、直線や長方形のように楕円とは程遠い図形も含まれていることがあり、これらの図形が楕円として検出されると検出精度の低下を招いてしまう。
そこで、請求項3に記載の楕円検出方法は、適合率算出過程において、楕円パラメータ算出過程により算出された楕円パラメータから生成される楕円と、対象図形の輪郭との一致度合いを表す適合率を算出し、楕円外図形除去過程において、適合率算出過程により算出された適合率が、予め設定された閾値より小さい場合に、対象図形が楕円以外の形状を有する図形であるものとして除去する。
このような本発明の楕円検出方法によれば、楕円パラメータに基づいた楕円と適合しない対象図形は、楕円以外の図形として除去されるため、楕円のみを確実に検出することができる。
また、請求項4に記載の画像認識装置は、請求項1に記載の図形中心検出方法を実現するための装置である。そして、請求項5に記載の画像認識装置は、請求項2に記載の楕円検出方法を実現するための装置であり、請求項6に記載の画像認識装置は、請求項3に記載の楕円検出方法を実現するための装置である。
従って、請求項4に記載の画像認識装置によれば、請求項1に記載の図形中心検出方法により得られる効果と同様の効果を得ることができる。
そして、請求項5及び請求項6に記載の画像認識装置によれば、請求項2及び請求項3に記載の楕円検出方法により得られる効果と同様の効果を得ることができる。
また、請求項7に記載の画像認識装置のように、入力画像は、少なくとも人間の顔面を含む画像であり、対象図形は、画像中の人間の虹彩または瞳孔であってもよい。
また、請求項8に記載の画像認識装置のように、入力画像は、赤外線撮影された画像であってもよい。
このように構成された画像認識装置によれば、入力画像として暗室のような暗い場所で撮影された画像を用いても、楕円を検出することができる。
特に、赤外線撮影された画像の中でも、入力画像として人間の顔面を含む画像を用いれば、虹彩または瞳孔は、浮き上がったように撮像されるため、画像内のその他の部位との識別が容易である。
さらに、請求項9に記載の制御装置は、請求項7に記載の画像認識装置を備え、瞳孔検出手段が、楕円パラメータ算出手段により算出された楕円パラメータから生成される楕円の動きを、入力画像中の人間の虹彩または瞳孔の動きとして検出し、制御実行手段が、瞳孔検出手段により検出された虹彩または瞳孔の動きから、入力画像中の人間の挙動を推定し、その推定結果に適合した制御を実行する。
このように構成された制御装置によれば、楕円の動きから人間の動きを推定し、推定結果に応じた制御を行うことができる。このため、例えば、このような制御装置を自動車などの車両に搭載した場合、画像処理結果に基づき運転者の挙動を推定し、運転者が脇見運転や居眠り運転をしていると判定した場合には、警報を発することや車両を減速させることなどの制御が可能である。
以下、本発明の実施形態について図面と共に説明する。
図1は、自動車などの車両に搭載され、運転者の挙動を検出し運転者に対する警報などを発生させる車載制御装置1の概略を示すブロック図である。
車載制御装置1は、画像を撮影するためのカメラ11と、被写体を照らすライト12と、撮影した画像を画像処理する画像認識装置としての画像処理部13と、プログラムに基づき各部を制御する制御部14とを少なくとも備えている。
そして、ライト12は、被写体である運転者が運転席のどのような位置に着座しても、被写体を的確に照射できる位置及び向きに配置されており、夜間であっても適切な画像が撮影できるよう近赤外光を発光する近赤外のLEDからなる。なお、ライト12は、被写体を的確に照射するため複数設けられてもよい。
また、カメラ11は、被写体を撮像可能なCCD素子またはCMOS素子を有し、少なくとも運転者の顔面を含む画像を撮影できる位置及び向きに配置(例えば、ダッシュボード上)され、ライト12が照射した近赤外光が被写体である運転者に反射された像のみを撮影できるように、近赤外光のみを通過させるフィルタが取り付けられている。
ここで、図5(a)は、可視光領域における運転者の目の周辺画像であり、図5(b)は、近赤外光領域における運転者の目の周辺画像である。図5に示されるように、可視光領域において撮影された画像は、虹彩内に反射した光が入り込んでいたり、画像内にまつげが入り込んでいたりと、瞳孔と画像内の他の部位とを区別しにくい画像であるが、近赤外領域において撮影された画像では、瞳孔が黒く浮き出て撮影されており画像内の他の部位と区別しやすい画像である。つまり、カメラ11及びライト12は、瞳孔の検出に適した画像が得られるように設定されている。
また、制御部14は、少なくともCPU、ROM、RAM、及びこれらを接続するバスからなる周知のマイクロコンピュータを中心に構成されたものである。
そして、制御部14には、警報音を発するスピーカー15と、警告を文字や図形で表示するモニター16とが接続されている。なお、スピーカー15及びモニター16は、車載制御装置1専用のものでもよいし、予め車両に搭載されているものや他の車載装置に付属されたものでもよい。
次に、画像処理部13は、制御部14からの指令に従って、カメラ11で撮影された画像から目の周辺を切り出す画像切出処理や画像切出処理により切り出された運転者の目の周辺画像から楕円(人間の瞳孔)を検出する楕円検出処理等を実行する画像処理専用のプロセッサからなる。
そして、画像処理部13では、画像が撮影されると、画像切出処理を実行し、運転者の目の周辺の画像を切り出す。なお、この処理は、周知の技術であり、本発明の要旨ではないため、詳しい説明は省略する。
以下、楕円検出処理について、図2に示すフローチャートを用いて説明する。
但し、制御部14のRAM上には、各要素が画像データの各画素位置と対応づけられたマップ(以下、中心点候補マップ)が用意されているものとする。
まず、本処理が実行されると、S110では、運転者の目の周辺における画像(画像切出処理により切り出された画像)を画像データとして取得する。
続くS120では、S110において取得された画像データを二値化し、画像データ中の図形の輪郭を明確にするためのエッジ処理を行う。即ち、二値化処理により、画像データ内における図形の形状が明確となり、図6(c)、図6(d)に示すような検出対象である運転者の瞳孔が画像内の他の部位と大きく異なる画像を得ることができる。
また、エッジ処理では、画像データ中の図形の輪郭に位置する画素(以下、輪郭に位置する画素を輪郭画素とする)を強調する処理が行われる。つまり、エッジ処理により、図6(e)、図6(f)に示すような運転者の瞳孔の輪郭が示された画像を得ることができる。
続くS130では、画像データの中から検査対象とする図形(以下、対象図形とする)を一つ抽出する。そして、図3(a)に示すように、対象図形(ここでは楕円)の輪郭点を表す画素(以下、輪郭画素という)のうち、図中の座標Yが最も大きい画素から一または数画素だけ座標Yが小さい輪郭画素を、後述する中心点の探査に用いるA点の初期値として設定し、図中の座標Yが最も小さい輪郭画素を、同じく中心点の探査に用いるB点の初期値として設定する。
そして、S140では、A点から水平に延びる第一水平線と対象図形の輪郭画素との交点(以下、C点とする)を検出し、A点とC点との間の第一距離を算出する。
同様に、S150では、B点から水平に延びる第二水平線と対象図形の輪郭画素との交点(以下、D点とする)を検出し、B点とD点との間の第二距離を算出する。
続くS160では、S140及びS150において算出された第一距離と第二距離とが一致するか否かを判定する。
つまり、図3(b)に示すように、A1点とC1点との間の第一距離(L11)と、B1点とD1点との間の第二距離(L12)とが一致するか否かを判定する。なお、図3(b)におけるA1点、B1点、C1点、D1点とは、ある検査位置におけるA点、B点、C点、D点である。
この判定の結果、第一距離と第二距離とが一致しない場合には、S260へ進み、B点を座標Yが大きくなる方向へ一または数画素だけ移動させた輪郭点の画素を新たなB点として再設定し、S150へと戻る。つまり、第二距離が長くなって第一距離に近づくようにB点を移動させる。
また、S160での判定の結果、第一距離と第二距離とが一致する場合、S170へと進み、A〜D点は、対象図形に内接した平行四辺形の各頂点を形成するものとして、その平行四辺形の重心の位置を求め、その重心の位置を、A〜D点の位置と対応付けて制御部14のRAM上に記憶する。
なお、平行四辺形の重心の位置は、A点、B点、C点、D点の画素の位置に基づき、平行四辺形の対角線の交点となる位置の画素を算出することで求められる。
続く、S180では、中心点候補マップのうち、S170で検出された平行四辺形の重心の位置に対応した位置(要素)のカウントを増加させる。
そして、S190では、A点とB点とが一致するか否かを判定し、一致しない場合にはS270へ進み、現在のA点から座標Yが小さくなる方向へ一または数画素下方へと移動させた輪郭画素を新たなA点として再設定し、S140へと戻る。つまり、第一距離が長くなるようにA点を移動させ、上述したS140〜S180の処理を繰り返す。
これにより、例えば、図3(b)に示されたA1点、C1点、D1点、B1点は、A2点、C2点、D2点、B2点へと移動され、A2点とC2点との距離(L21)と、D2点とB2点との距離(L22)とが一致する場合には、A2点、C2点、D2点、B2点を頂点とした新たな平行四辺形の重心が検出され、中心点候補マップ上のカウントが加算される。
また、S190における判定の結果、A点とB点とが一致する場合には、S200へと進み、中心点候補マップ上のカウントが多い要素に対応する位置を対象図形の中心点として抽出する。ただし、中心点候補マップにおける全ての位置のカウントが予め設定された規定値よりも低い場合には、その対象図形の中心位置を検出できないものとし、その対象図形を除去する。
続く、S210では、S160にてRAMに記憶させたA〜D点のうち、S200で抽出された対象図形の中心の位置を重心の位置として対応づけられているものを、対象図形の輪郭点として読み出す。
そして、この読み出した複数の輪郭点の位置を用いてガウスニュートン法により、(3)式に示した楕円方程式を解き、楕円パラメータA〜Fを算出する。ただし、ここで言う輪郭点は、A〜D点を一つの組として取り扱い、(3)式に示した楕円方程式は、最低でも5組の輪郭点を用いて解かれる。
続く、S220では、S210において算出された楕円パラメータ及び楕円方程式から楕円を復元し、対象図形の輪郭と復元された楕円との一致度合いを表す適合率を算出する。なお、ここでは、復元された楕円を構成する全画素のうち、対象図形の輪郭の画素と重なり合う画素の割合を適合率として求めている。
そして、S230では、S220において算出された適合率が、予め設定された閾値(ここでは、適合率70%とする)を超えるか否かについて判定し、判定の結果、超えていなければS280へと進む。
そして、このS280では、S130にて選択した対象図形の形状は楕円ではないものとして、この対象図形を画像データから削除し、S250へと進む。
また、S230における判定の結果、適合率が閾値を超えていた場合には、S240へと進み、S130にて選択した対象図形は楕円(即ち、運転者の瞳孔)であるものとして抽出する。
そして、その後S250では、画像データ中に対象図形とすべき図形が残っているか否かを判定する。判定の結果、そのような図形が存在する場合には、S130へと戻り、そのような図形が存在しない場合には、楕円検出処理を終了する。
次に、制御部14は、楕円検出処理により検出された楕円(即ち、運転者の瞳孔)の位置等の情報を画像処理部13より取得し、楕円検出結果やその他の画像処理結果に基づき運転者の視線や居眠りなどの運転者の状態を判定する。そして、制御部14が運転者が居眠りをしているなど運転にふさわしい状態でないと判定した場合には、スピーカー15を鳴動させ運転者に警報を発し、モニター16に文字や図形等の警告を表示する。
以上説明したように、車載制御装置1によれば、一般化ハフ変換のように座標変換することなく入力画像から楕円を検出しているため、画像の入力から楕円の検出までの処理量を削減でき、結果として処理時間を短縮することができる。
その結果、車載制御装置1では、画像の撮影から大きなタイムラグなく、警報音を発したり、警告を文字や図で表示したりできるため、運転者に安全な運転をするよう促すことができる。
また、車載制御装置1によれば、対象図形から復元した楕円と対象図形との適合度が低い場合には、その対象図形は楕円以外の図形であるものとして除去するようにされているため、楕円のみを確実に検出することができる。
更に、車載制御装置1では、対象図形に内接する平行四辺形の重心位置を楕円の中心位置として求めると共に、楕円パラメータを算出する際には、重心位置が楕円の中心位置と一致しない平行四辺形を構成する輪郭点を排除するようにされている。
従って、車載制御装置1によれば、対象図形が図6(a)、(b)に示すような輪郭の一部が欠損した楕円であっても、欠損した部分を構成する輪郭(アウトライア)が、楕円パラメータの算出に用いられることがなく、ガウスニュートン法を用いた楕円パラメータの算出を速やかに収束させることができると共に、対象図形の輪郭である楕円を正しく復元することができる。
なお、図4に示す画像(640×480画素)を用いて実験を行った結果、楕円(瞳孔)の検出に、車載制御装置1ではおよそ0.007秒を要し、これに対して、従来技術である一般化ハフ変換ではおよそ90秒を要した。この結果から、車載制御装置1によれば、非常に高速な楕円の検出が可能であることがわかる。
また、対象図形の輪郭(楕円)の欠損率を変化させて実験を行った結果、車載制御装置1では、輪郭の欠損が全周上で連続して25%以下であれば、良好な楕円中心の検出精度が得られ、また、全周上で25%以上の欠損がある場合でも、それが連続した欠損でなければ、楕円中心は正確に検出できることが確認された。
なお、ここで述べた輪郭の連続欠損率は、図6(e)、(f)に示すようなエッジ処理後の画像について述べている。また、瞳孔に照明が映り込んだような画像では、楕円の連続欠損率が非常に高くなる傾向にある。
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において様々な態様にて実施することが可能である。
例えば、本実施形態では、運転者の瞳孔を楕円として検出し、その検出結果から運転者の視線などを推定したが、運転者及び同乗者の頭部を楕円として検出し、エアバックの開閉タイミングまたはスピードの制御を行ってもよい。さらに、運転者及び同乗者の頭部を楕円として検出し、乗車しているときには、運転者及び同乗者にシートベルトの着用などを促すような制御を行ってもよい。
また、本実施形態では、楕円検出処理により検出された楕円から運転者の視線や居眠りなどの運転者の状態を判定し、運転者の状態によっては、スピーカー15を鳴動させ運転者に警報を発するなどの制御を行ったが、運転者の状態によっては、ブレーキを作動し車両を減速させることやアクセルの開度を緩めること等の制御を行ってもよい。
また、平行四辺形の重心を求める方法としては、平行四辺形の相対する辺の中点を結ぶ直線を算出し、その直線の交点を算出することで求めてもよい。
なお、本実施形態では、A点、B点を楕円の上下方向(座標Yの増減方向)に移動させ、第一水平線及び第二水平線の長さを(即ち、平行四辺形の大きさ)変化させることで、複数の平行四辺形の重心を設定したが、A点、B点は、それぞれ楕円の左右両端から楕円の左右方向に移動させることで、複数の平行四辺形の重心を設定してもよい。なお、A点、B点を楕円の左右方向に移動させる場合、第一水平線及び第二水平線の代わりに、それぞれA点、B点から垂直方向に延びる第一垂直線及び第二垂直線を用いてもよい。
また、楕円パラメータを算出する数値解析手法は、ガウスニュートン法に限られるものではなく、最急降下法のように、小さな誤差で算出できるものであればどのような方法であってもよい。
また、本実施形態では、カメラ11の設置場所の一例としてダッシュボード上を挙げたが、車両に配置された、メータ内、ハンドルカラム上、ルームミラー付近等であってもよい。つまり、カメラ11は、少なくとも運転者の顔面を含む画像を撮影できる位置及び向きであればどのような位置でもよい。
また、適合率に対する閾値を70%としたが、楕円を検出する目的に応じて変更してもよい。
また、入力画像は、近赤外領域において撮影された画像に限られない。つまり、一般的な可視光領域において撮影されたものでも、赤外線領域において撮影されたものでもよい。
また、本実施形態では、運転者の虹彩または瞳孔を検出したが、検出する楕円は、運転者の虹彩または瞳孔に限られるものではない。つまり、図7に示すような楕円やその他の図形(対象図形50)を含んだ画像から楕円のみを抽出するようなものでもよい。
そして、この場合、対象図形の中心51が検出できないものは入力画像のデータから除去されるため、図8に示す図形のみが残る。さらに、対象図形50の輪郭と復元された楕円52との適合率がある閾値以下の場合には、その対象図形が除去されるため、図9のように楕円のみを検出することができる。
このような応用例から、形状の異なる複数の工具の中から楕円を含む工具を選択し、使用する工作機械などにも適用できる。
画像認識装置の概略を示すブロック図。 楕円検出処理のフローチャート。 楕円中心検出の説明図。 検出対象をとする運転者の目の周辺画像。 可視光領域における撮影画像と近赤外領域における撮影画像の説明図。 対象図形の輪郭が欠損した画像による楕円の検出の説明図。 実施形態の一例を示す説明図。 実施形態の一例を示す説明図。 実施形態の一例を示す説明図。 一般化ハフ変換の説明図。 一般化ハフ変換の説明図。
符号の説明
1…画像認識装置 11…カメラ 12…ライト 13・・・画像処理部 14…制御部 15…スピーカー 16…モニター 20、27・・・対象図形の輪郭 21、25・・・基準点候補の軌跡 22、26・・・検査点 23・・・検出された基準点

Claims (9)

  1. 入力画像からその入力画像中に示された図形の輪郭を抽出する輪郭抽出過程と、
    前記輪郭抽出過程により輪郭が抽出された図形を対象図形とし、前記対象図形の輪郭に内接する互いに異なった複数の平行四辺形のそれぞれについて、前記平行四辺形の重心位置を検出する重心位置検出過程と、
    前記重心位置検出過程によって検出された重心位置の中で、出現頻度が最も高い重心位置を、前記対象図形の中心位置とする中心位置決定過程と、
    を有することを特徴とする図形中心検出方法。
  2. 入力画像からその入力画像中に示された図形の輪郭を抽出する輪郭抽出過程と、
    前記輪郭抽出過程により輪郭が抽出された図形を対象図形とし、前記対象図形の輪郭に内接する互いに異なった複数の平行四辺形のそれぞれについて、前記平行四辺形の重心位置を検出する重心位置検出過程と、
    前記重心位置検出過程によって検出された重心位置の中で、出現頻度が最も高い重心位置を、前記対象図形の中心位置とする中心位置決定過程と、
    前記中心位置決定過程で前記対象図形の中心位置を決定する際に用いられた前記複数の平行四辺形の頂点位置から、前記対象図形の輪郭を近似した楕円を表す楕円パラメータを算出する楕円パラメータ算出過程と、
    を有することを特徴とする楕円検出方法。
  3. 前記楕円パラメータ算出過程により算出された前記楕円パラメータから生成される楕円と、前記対象図形の輪郭との一致度合いを表す適合率を算出する適合率算出過程と、
    前記適合率算出過程により算出された適合率が、予め設定された閾値より小さい場合に、前記対象図形が楕円以外の形状を有する図形であるものとして除去する楕円外図形除去過程と、
    を有することを特徴とする請求項2に記載の楕円検出方法。
  4. 入力画像からその入力画像中に示された図形の輪郭を抽出する輪郭抽出手段と、
    前記輪郭抽出手段により輪郭が抽出された図形を対象図形とし、前記対象図形の輪郭に内接する互いに異なった複数の平行四辺形のそれぞれについて、前記平行四辺形の重心位置を検出する重心位置検出手段と、
    前記重心位置検出手段によって検出された重心位置の中で、出現頻度が最も高い重心位置を、前記対象図形の中心位置とする中心位置決定手段と、
    を備えることを特徴とする画像認識装置。
  5. 前記中心位置決定手段で前記対象図形の中心位置を決定する際に用いられた複数の前記平行四辺形の頂点位置から、前記対象図形の輪郭を近似した楕円を表す楕円パラメータを算出する楕円パラメータ算出手段を備えることを特徴とする請求項4に記載の画像認識装置。
  6. 前記楕円パラメータ算出手段により算出された前記楕円パラメータから生成される楕円と、前記対象図形の輪郭との一致度合いを表す適合率を算出する適合率算出手段と、
    前記適合率算出手段により算出された適合率が、予め設定された閾値より小さい場合に、前記対象図形が楕円以外の形状を有する図形であるものとして除去する楕円外図形除去手段と、
    を備えることを特徴とする請求項5に記載の画像認識装置。
  7. 前記入力画像は、少なくとも人間の顔面を含む画像であり、前記対象図形は、画像中の人間の虹彩または瞳孔であることを特徴とする請求項5または請求項6に記載の画像認識装置。
  8. 前記入力画像は、赤外線撮影された画像であることを特徴とする請求項4ないし請求項7のいずれかに記載の画像認識装置。
  9. 請求項7に記載の画像認識装置と、
    前記楕円パラメータ算出手段により算出された楕円パラメータから生成される楕円の動きを、前記入力画像中の人間の虹彩または瞳孔の動きとして検出する瞳孔検出手段と、
    前記瞳孔検出手段により検出された虹彩または瞳孔の動きから、前記入力画像中の人間の挙動を推定し、その推定結果に適合した制御を実行する制御実行手段と、
    を備えることを特徴とする制御装置。
JP2005360645A 2005-12-14 2005-12-14 図形中心検出方法、楕円検出方法、画像認識装置、制御装置 Active JP4645433B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005360645A JP4645433B2 (ja) 2005-12-14 2005-12-14 図形中心検出方法、楕円検出方法、画像認識装置、制御装置
US11/512,482 US7668337B2 (en) 2005-12-14 2006-08-30 Ellipsoid detecting method, figure center detecting method, image recognizing device, and controller based on image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005360645A JP4645433B2 (ja) 2005-12-14 2005-12-14 図形中心検出方法、楕円検出方法、画像認識装置、制御装置

Publications (2)

Publication Number Publication Date
JP2007164517A true JP2007164517A (ja) 2007-06-28
JP4645433B2 JP4645433B2 (ja) 2011-03-09

Family

ID=38247330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005360645A Active JP4645433B2 (ja) 2005-12-14 2005-12-14 図形中心検出方法、楕円検出方法、画像認識装置、制御装置

Country Status (1)

Country Link
JP (1) JP4645433B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010112796A (ja) * 2008-11-05 2010-05-20 Denso Corp 撥水効果判定装置、撥水効果判定装置用プログラム及び撥水効果判定方法
JP2010268343A (ja) * 2009-05-18 2010-11-25 Olympus Imaging Corp 撮影装置および撮影方法
JP2011090412A (ja) * 2009-10-20 2011-05-06 Canon Inc 情報処理装置及びその制御方法、プログラム
JP2013254380A (ja) * 2012-06-07 2013-12-19 Konica Minolta Inc 画像処理方法
CN111428731A (zh) * 2019-04-04 2020-07-17 深圳市联合视觉创新科技有限公司 基于机器视觉的多类目标识别定位方法、装置和设备
CN111667148A (zh) * 2020-05-13 2020-09-15 浙江云科智造科技有限公司 一种led产线品质管控方法
CN113127980A (zh) * 2021-04-28 2021-07-16 安徽江淮汽车集团股份有限公司 驾驶员眼椭球模型生成方法、装置、设备及存储介质
CN113643410A (zh) * 2021-08-24 2021-11-12 凌云光技术股份有限公司 一种用于定位椭圆弧曲线的gui图形控件设计方法及装置
CN115082515A (zh) * 2021-03-15 2022-09-20 北京字跳网络技术有限公司 一种目标跟踪方法、装置、设备及介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101244822B1 (ko) 2012-04-27 2013-03-18 (주)린소프트 육면체 검출 장치 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6270988A (ja) * 1985-09-24 1987-04-01 Agency Of Ind Science & Technol 楕円検出装置
JPH08145644A (ja) * 1994-11-28 1996-06-07 Agency Of Ind Science & Technol ノイズに強い楕円近似による計測システム
JPH09229646A (ja) * 1996-02-26 1997-09-05 Matsushita Electric Works Ltd 物体認識方法
JP2002109544A (ja) * 2000-09-29 2002-04-12 Oki Electric Ind Co Ltd 印影位置決め方法および装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6270988A (ja) * 1985-09-24 1987-04-01 Agency Of Ind Science & Technol 楕円検出装置
JPH08145644A (ja) * 1994-11-28 1996-06-07 Agency Of Ind Science & Technol ノイズに強い楕円近似による計測システム
JPH09229646A (ja) * 1996-02-26 1997-09-05 Matsushita Electric Works Ltd 物体認識方法
JP2002109544A (ja) * 2000-09-29 2002-04-12 Oki Electric Ind Co Ltd 印影位置決め方法および装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010112796A (ja) * 2008-11-05 2010-05-20 Denso Corp 撥水効果判定装置、撥水効果判定装置用プログラム及び撥水効果判定方法
JP2010268343A (ja) * 2009-05-18 2010-11-25 Olympus Imaging Corp 撮影装置および撮影方法
JP2011090412A (ja) * 2009-10-20 2011-05-06 Canon Inc 情報処理装置及びその制御方法、プログラム
JP2013254380A (ja) * 2012-06-07 2013-12-19 Konica Minolta Inc 画像処理方法
CN111428731A (zh) * 2019-04-04 2020-07-17 深圳市联合视觉创新科技有限公司 基于机器视觉的多类目标识别定位方法、装置和设备
CN111428731B (zh) * 2019-04-04 2023-09-26 深圳市联合视觉创新科技有限公司 基于机器视觉的多类目标识别定位方法、装置和设备
CN111667148A (zh) * 2020-05-13 2020-09-15 浙江云科智造科技有限公司 一种led产线品质管控方法
CN115082515A (zh) * 2021-03-15 2022-09-20 北京字跳网络技术有限公司 一种目标跟踪方法、装置、设备及介质
CN113127980A (zh) * 2021-04-28 2021-07-16 安徽江淮汽车集团股份有限公司 驾驶员眼椭球模型生成方法、装置、设备及存储介质
CN113127980B (zh) * 2021-04-28 2023-08-11 安徽江淮汽车集团股份有限公司 驾驶员眼椭球模型生成方法、装置、设备及存储介质
CN113643410A (zh) * 2021-08-24 2021-11-12 凌云光技术股份有限公司 一种用于定位椭圆弧曲线的gui图形控件设计方法及装置
CN113643410B (zh) * 2021-08-24 2024-01-23 凌云光技术股份有限公司 一种用于定位椭圆弧曲线的gui图形控件设计方法及装置

Also Published As

Publication number Publication date
JP4645433B2 (ja) 2011-03-09

Similar Documents

Publication Publication Date Title
JP4645433B2 (ja) 図形中心検出方法、楕円検出方法、画像認識装置、制御装置
JP7369921B2 (ja) 物体識別システム、演算処理装置、自動車、車両用灯具、分類器の学習方法
CN112590794B (zh) 确定车辆驾驶员接管车辆控制的能力估计值的方法和装置
US7668337B2 (en) Ellipsoid detecting method, figure center detecting method, image recognizing device, and controller based on image
JP5482737B2 (ja) 視認負荷量推定装置、運転支援装置、および視認負荷量推定プログラム
JP6350145B2 (ja) 顔向き検出装置及び車両用警告システム
EP2639742A2 (en) Vehicle periphery monitoring apparatus
EP1589485A2 (en) Object tracking and eye state identification method
JP2007148835A (ja) 物体判別装置、報知制御装置、物体判別方法および物体判別プログラム
JP2010191793A (ja) 警告表示装置及び警告表示方法
KR20190019840A (ko) 물체 검출과 통지를 위한 운전자 보조 시스템 및 방법
EP2060993B1 (en) An awareness detection system and method
KR101427032B1 (ko) 차량의 보행자 인식 장치 및 방법, 이를 이용한 차량의 보행자 충돌 경고 및 예방 장치 및 방법
KR101914362B1 (ko) 차량 내/외부 정보 통합 분석 기반의 위험 상황 경고 시스템 및 그 방법
JP4992823B2 (ja) 顔検出装置及び顔検出方法
JP6043933B2 (ja) 眠気レベルの推定装置、眠気レベルの推定方法および眠気レベルの推定処理プログラム
JP2015225546A (ja) 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
Martin et al. Real time driver body pose estimation for novel assistance systems
JP2012164026A (ja) 画像認識装置及び車両用表示装置
JP4623172B2 (ja) 瞳孔検出装置、瞳孔検出装置用プログラム及び瞳孔検出方法
JP4635857B2 (ja) 楕円検出方法、画像認識装置、制御装置
JP5541099B2 (ja) 道路区画線認識装置
US11420855B2 (en) Object detection device, vehicle, and object detection process
JP4623171B2 (ja) 瞳孔検出装置、瞳孔検出装置用プログラム及び瞳孔検出方法
JP7298436B2 (ja) 障害物識別装置および障害物識別プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080205

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101109

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101122

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4645433

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131217

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250