JP6217225B2 - 画像照合装置、画像照合方法及びプログラム - Google Patents
画像照合装置、画像照合方法及びプログラム Download PDFInfo
- Publication number
- JP6217225B2 JP6217225B2 JP2013165168A JP2013165168A JP6217225B2 JP 6217225 B2 JP6217225 B2 JP 6217225B2 JP 2013165168 A JP2013165168 A JP 2013165168A JP 2013165168 A JP2013165168 A JP 2013165168A JP 6217225 B2 JP6217225 B2 JP 6217225B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- registered
- unit
- registration
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
予め少なくとも一の画像が登録されている登録手段と、特定の被写体が撮像された撮像画像を取得する取得手段と、前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段と、を備え、前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴としている。
画像照合装置を用いた画像照合方法であって、予め少なくとも一の画像が登録されている登録処理と、特定の被写体が撮像された撮像画像を取得する処理と、登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、特定された前記対応領域内で照合対象領域を設定する処理と、設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、前記撮像画像の重心及び共分散行列の固有値を取得する処理と、を含み、前記登録処理は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定する処理は、取得された前記撮像画像の重心及び共分散行列の固有値と、登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴としている。
画像照合装置のコンピュータを、予め少なくとも一の画像が登録されている登録手段、特定の被写体が撮像された撮像画像を取得する取得手段、前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段、として機能させ、前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定としている。
図1は、本発明を適用した実施形態1の携帯端末100の概略構成を示すブロック図である。
図1に示すように、本実施形態の携帯端末100は、中央制御部1と、メモリ2と、撮像部3と、撮像制御部4と、画像データ生成部5と、画像登録部6と、画像処理部7と、表示部8と、表示制御部9と、送受話部10と、通信制御部11と、操作入力部12等を備えている。
また、中央制御部1、メモリ2、撮像部3、撮像制御部4、画像データ生成部5、画像登録部6、画像処理部7、表示制御部9、送受話部10及び通信制御部11は、バスライン13を介して接続されている。
レンズ部3aは、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部3bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部3aの各種レンズを通過した光学像を二次元の画像信号に変換する。
なお、図示は省略するが、撮像部3は、レンズ部3aを通過する光の量を調整する絞りを備えていても良い。
ここで、印影Sは、当該印影Sを形成するための印画像(例えば、電車を模式的に表す画像等)に、所定の情報を画素集合の規則的な配列に符号化したコード情報が含まれていても良い。
なお、コード情報は、元の所定の情報(例えば、URL等)を所定の符号化形式(例えば、リードソロモン符号、ゴレイ符号等)に従って符号化したものである。例えば、コード情報は、画素値「1」の白画素の集合と画素値「0」の黒画素の集合が所定の次元数で規則的に配列されている。
また、撮像制御部4は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体の撮像条件の調整制御を行う。
データベース(登録手段)6aは、特徴情報を対応付けて各登録画像Iaを記録する。即ち、データベース6aは、特徴抽出処理(後述)により抽出された各登録画像Iaの特徴情報としての特徴点の座標位置及び特徴量(例えば、SIFT(Scale-Invariant Features Transform)特徴量等)を各登録画像Ia毎に記録する。ここで、各登録画像Iaの特徴点の座標位置及び特徴量(特徴情報)は、画像分割部7eにより分割された複数の小領域A1、…毎にテーブル化して記録されていても良い。
また、データベース6aは、登録画像Iaの各々について、登録画像Ia内に存する所定の被写体の位置及び当該登録画像Iaの大きさを表す被写体情報を対応付けて記録しても良い。ここで、被写体情報は、例えば、被写体情報算出処理(後述)により算出された登録画像Iaを構成する各画素の座標位置の平均値(重心)及び当該登録画像Iaの共分散行列の固有値がそれぞれ被写体の位置及び登録画像Iaの大きさとして表されている。
また、登録画像Iaには、所定の情報を画素集合の規則的な配列に符号化したコード情報が含まれていても良い。
なお、画像処理部7の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
即ち、画像取得部(取得手段)7aは、特定の被写体(例えば、記録媒体に押印された印影S等)が撮像された撮像画像Ibを取得する。具体的には、画像取得部7aは、撮像部3により印影Sが撮像されて画像データ生成部5により生成された撮像画像Ibの所定の解像度の画像データ(例えば、輝度データ)の複製をメモリ2から取得する。
即ち、被写体情報算出部(算出手段)7bは、画像取得部7aにより取得された撮像画像Ibにおける特定の被写体の位置及び大きさを表す被写体情報を算出する。具体的には、例えば、被写体情報算出部7bは、撮像画像Ibの画像データに対して被写体情報算出処理を施して、当該撮像画像Ibを構成する各画素の座標位置の平均値(重心)及び当該撮像画像Ibの共分散行列の固有値をそれぞれ特定の被写体(例えば、印影S等)の位置及び撮像画像Ibの大きさを表す被写体情報として算出する。
また、被写体情報算出部7bは、画像登録部6のデータベース6aに登録される登録画像Iaの画像データに対して被写体情報算出処理を施して、当該登録画像Ia内の所定の被写体の位置及び登録画像Iaの大きさを表す被写体情報(例えば、登録画像Iaの重心及び共分散行列の固有値等)を算出する。ここで、被写体情報算出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、被写体情報算出部7bは、算出された被写体情報をメモリ2に出力し、当該メモリ2に一時的に格納させる。
具体的には、特徴抽出部7cは、例えば、画像取得部7aにより取得された撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する。
また、特徴抽出部7cは、例えば、画像登録部6のデータベース6aに登録される登録画像Iaの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量を算出する。ここで、特徴抽出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、特徴抽出部7cは、算出された特徴点の座標位置及び特徴量(特徴情報)をメモリ2に出力し、当該メモリ2に一時的に格納させる。
なお、特徴情報としては、例えば、SURF(Speeded Up Robust Features)特徴量を用いて表しても良いし、特徴点の輝度レベルを8bit(256段階)で表現した輝度値(0〜255)を用いて良いし、RGBの各色成分を8bit(256段階)で表現したRGB値(0〜255)を用いても良い。
即ち、対応領域特定部(特定手段)7dは、画像登録部6に登録されている登録画像Iaの画素情報及び画像取得部7aにより取得された撮像画像Ibの画素情報に基づいて、当該撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定する。具体的には、対応領域特定部7dは、被写体情報算出部7bにより算出された撮像画像Ib及び登録画像Iaの各々の被写体情報に基づいて、撮像画像Ib内で対応領域Bを特定する。
例えば、対応領域特定部(被写体情報取得手段)7dは、被写体情報算出部7bにより算出された撮像画像Ibの重心及び共分散行列の固有値を取得する。また、対応領域特定部7dは、画像登録部6に登録されている登録画像Iaの中で照合対象となる登録画像Iaの重心及び共分散行列の固有値を取得する。そして、対応領域特定部7dは、撮像画像Ibの重心及び共分散行列の固有値と照合対象の登録画像Iaの重心及び共分散行列の固有値とをそれぞれ比較し、撮像画像Ib内で照合対象の登録画像Iaと対応する対応領域Bを特定する。
これにより、撮像画像Ib内で、登録画像Iaとの照合対象となる領域(対応領域B)の大まかな位置及び大きさが特定される。つまり、登録画像Iaの外形(例えば、正方形等)と略相似の外形の対応領域Bが特定され、当該対応領域B内の特定の被写体(例えば、印影S等)の相対的な位置及び大きさは、登録画像Ia内の所定の被写体の相対的な位置及び大きさと略等しくなる。
即ち、画像分割部(分割手段)7eは、対応領域特定部7dにより特定された対応領域Bを複数の小領域B1、…に分割する。
具体的には、画像分割部7eは、画像登録部6のデータベース6aに登録される登録画像Iaの分割態様(例えば、二等分や四等分等)に応じて対応領域Bを複数の小領域B1、…に分割する。つまり、画像分割部7eは、予め、画像登録部6のデータベース6aに登録される登録画像Iaを所定の分割態様(例えば、四等分)で複数の矩形状の小領域(二点鎖線で囲まれた領域;図3参照)A1、…に分割する。ここで、登録画像Iaの分割は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、画像分割部7eは、登録画像Iaを小領域A1に分割した数(例えば、四つ等)と同じ分割数となるように対応領域Bを略等しい形状及び寸法の小領域(一点鎖線で囲まれた領域;図5(b)参照)B1に分割する。
このとき、画像分割部7eは、互いに隣合う小領域B1の端部どうしを重複させるように対応領域Bを複数の小領域B1、…に分割しても良い。例えば、図5(b)に示す対応領域Bの左上小領域B1の場合、画像分割部7eは、当該左上小領域B1の右側端部を右上小領域A1の左側端部と重複させ、且つ、左上小領域B1の下側端部を左下小領域B1の上側端部と重複させ、且つ、左上小領域B1の右下側端部を右下小領域B1の左上側端部と重複させるように分割する。その他の小領域B1についても、略同様であり、その詳細な説明は省略する。
なお、上記した小領域A1、B1の分割数や分割態様は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、小領域A1、B1の外形を互いに異ならせても良いし、隣合う小領域B1と端部どうしを重複させる領域の大きさを互いに異ならせても良い。
即ち、照合対象領域設定部(設定手段)7fは、対応領域特定部7dにより特定された対応領域B内で照合対象領域Cを設定する。具体的には、照合対象領域設定部7fは、画像分割部7eにより対応領域Bが分割された複数の小領域B1、…のうち、所定数の小領域B1を照合対象領域Cとして設定する。つまり、照合対象領域設定部7fは、対応領域B内で、当該対応領域Bよりも小さい照合対象領域Cを設定する。
ここで、照合対象領域設定部7fは、照合対象領域Cとして設定される小領域B1の位置や数を、例えば、特徴抽出処理により抽出された特徴点の位置を考慮して変更しても良い。即ち、対応領域Bの略全域から特徴点が抽出されている場合、照合対象領域設定部7fは、対応領域Bが分割された複数の小領域B1、…の全てを照合対象領域Cとして個別に設定しても良い。また、対応領域Bの一部の領域から特徴点が抽出されている場合、照合対象領域設定部7fは、複数の小領域B1、…の中で、特徴点が抽出された領域が含まれる所定数の小領域B1を照合対象領域Cとして設定しても良い。
なお、図6(a)にあっては、対応領域Bのうち、照合対象領域C(左上小領域B1)以外の領域にはドットを付して模式的に表している。
即ち、画像照合部(照合手段)7gは、照合対象領域設定部7fにより設定された照合対象領域Cの特徴情報と、登録画像Iaにおける当該照合対象領域Cに対応する領域(照合用の小領域D)の特徴情報とを対応付け、当該対応付けの結果に基づいて照合対象領域Cと登録画像Iaとを照合する。
そして、画像照合部7gは、取得された照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付け(マッチング)を行う。このとき、照合対象領域Cが複数設定されている場合には、画像照合部7gは、各照合対象領域C毎に、対応する照合用の小領域Dを特定して特徴点どうしの対応付けを行う。
また、画像照合部7gは、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付けの結果に基づいて、照合対象領域C内の特定の被写体の形状を登録画像Ia内の被写体の形状と略等しい形状に変形するための座標変換行列(ホモグラフィ行例)を算出する。そして、画像照合部7gは、算出された座標変換式に従って、照合対象領域Cに対して座標変換処理を施して、座標変換済み画像Ic(図6(b)参照)を生成する。
また、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(類似度算出処理)。なお、類似度算出処理としては、例えば、adaboost(アダブースト)出力計算、SSD(Sum of Squared Differences)等を利用することができるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
なお、上記した射影変換処理や類似度算出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
具体的には、表示制御部9は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部1の制御下にてメモリ2から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから所定の再生フレームレート(例えば、30fps)で読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
例えば、表示制御部9は、撮像部3及び撮像制御部4により撮像され画像データ生成部5により生成された複数のフレーム画像、…を所定の表示フレームレートで逐次更新しながら表示部8にライブビュー表示させる。
具体的には、送受話部10は、マイク10a、スピーカ10b、データ変換部10c等を備えている。そして、送受話部10は、マイク10aから入力されるユーザの送話音声をデータ変換部10cによりA/D変換処理して送話音声データを中央制御部1に出力するとともに、中央制御部1の制御下にて、通信制御部11から出力されて入力される受話音声データ等の音声データをデータ変換部10cによりD/A変換処理してスピーカ10bから出力する。
即ち、通信アンテナ11aは、当該携帯端末100が無線基地局(図示略)との通信で採用している所定の通信方式(例えば、W−CDMA(Wideband Code Division Multiple Access)方式、GSM(Global System for Mobile Communications;登録商標)方式等)に対応したデータの送受信が可能なアンテナである。そして、通信制御部11は、所定の通信方式に対応する通信プロトコルに従って、この通信方式で設定される通信チャネルにより無線基地局との間で通信アンテナ11aを介してデータの送受信を行う。つまり、通信制御部11は、中央制御部1から出力されて入力される指示信号に基づいて、通信相手の外部機器に対して、当該外部機器の外部ユーザとの通話中の音声の送受信や、電子メールのデータの送受信を行う。
なお、通信制御部11の構成は一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、図示は省略するが、無線LANモジュールを搭載し、アクセスポイント(Access Point)を介して通信ネットワークNにアクセス可能な構成としても良い。
また、通信ネットワークNは、例えば、専用線や既存の一般公衆回線を利用して構築された通信ネットワークであり、LAN(Local Area Network)やWAN(Wide Area Network)等の様々な回線形態を適用することが可能である。また、通信ネットワークNには、例えば、電話回線網、ISDN回線網、専用線、移動体通信網、通信衛星回線、CATV回線網等の各種通信ネットワーク網と、IPネットワーク、VoIP(Voice over Internet Protocol)ゲートウェイ、インターネットサービスプロバイダ等が含まれる。
具体的には、操作入力部12は、被写体の撮影指示に係るシャッタボタン、モードや機能等の選択指示に係る上下左右のカーソルボタンや決定ボタン、電話の発着信や電子メールの送受信等の実行指示に係る通信関連ボタン、テキストの入力指示に係る数字ボタンや記号ボタン等の各種ボタン(何れも図示略)を備えている。
そして、ユーザにより各種ボタンが操作されると、操作入力部12は、操作されたボタンに応じた操作指示を中央制御部1に出力する。中央制御部1は、操作入力部12から出力され入力された操作指示に従って所定の動作(例えば、被写体の撮像、電話の発着信、電子メールの送受信等)を各部に実行させる。
次に、携帯端末100による画像登録処理について、図2及び図3を参照して説明する。
図2は、画像登録処理に係る動作の一例を示すフローチャートである。
その後、画像登録部6は、登録対象画像の複数の小領域A1、…毎に、各特徴点の座標位置及び特徴量を対応付けるとともに、当該登録対象画像の重心及び共分散行列の固有値(被写体情報)を対応付けてデータベース6aに記録する(ステップS5)。
次に、携帯端末100による画像照合処理について、図4〜図6を参照して説明する。
図4は、画像照合処理に係る動作の一例を示すフローチャートである。
なお、以下の画像照合処理にて撮像される印影Sは、例えば、葉書等の記録媒体の所定位置に押印されているものとする。
そして、画像データ生成部5は、生成された撮像画像IbのYUVデータをメモリ2に出力し、当該メモリ2に格納させる。
次に、被写体情報算出部7bは、撮像画像Ibの画像データに対して被写体情報算出処理を施して、当該撮像画像Ibを構成する各画素の座標位置の平均値(重心)及び当該撮像画像Ibの共分散行列の固有値を被写体情報として算出する(ステップS13)。続けて、特徴抽出部7cは、撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS14)。
そして、照合対象領域設定部7fは、対応領域Bの複数の小領域B1、…の中で、所定数の小領域B1(例えば、左上小領域B1等)を照合対象領域Cとして設定する(ステップS18)。
そして、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(ステップS21)。画像照合部7gは、算出された類似度をメモリ2に出力し、当該類似度は登録画像Iaの識別情報と対応付けて一時的に格納される。
なお、照合対象領域Cに対する座標変換処理は、必ずしも行う必要はなく、当該処理をスキップしても良い。
一方、ステップS22にて、照合対象となる登録画像Iaが他にないと判定されると(ステップS22;NO)、画像処理部7は、メモリ2から各登録画像Iaに対応する類似度を取得して、最も類似度が高い登録画像Iaを選択して(ステップS23)、当該画像登録処理を終了する。
中央制御部1のCPUは、情報読取部により読み取られた所定の情報(例えば、URL等)に従って当該携帯端末100の各部を制御して、所定の動作(例えば、インターネットにアクセスして、特定の音声や画像の再生等)を実行させる。
なお、上記した所定の情報の読取処理や対応する所定の動作の実行処理は、必ずしも行う必要はない。
即ち、例えば、図6(a)に示す対応領域Bでは、照合対象領域C内に電車の左側のパンタグラフに相当する部分が存在し、照合対象領域C以外の領域(ドットを付した領域)に右側のパンタグラフに相当する部分が存在している。一方、登録画像Iaの照合用の小領域Dには、左側のパンタグラフに相当する部分のみが存在している。従って、例えば、撮像画像Ibの左側のパンタグラフに相当する部分の特徴情報と登録画像Iaの右側のパンタグラフに相当する部分の特徴情報とが誤って対応付けられることを抑制することができる。
これにより、撮像画像Ibの照合対象領域Cと登録画像Iaとの比較照合を適正に行うことができることとなって、画像どうしの照合を精度良く適正に行うことができる。
また、登録画像Iaを複数の小領域A1、…に分割して、当該登録画像Iaの分割態様に応じて対応領域Bを複数の小領域B1、…に分割するので、登録画像Iaにおける照合対象領域Cに対応する領域の特定を適正に行うことができ、照合対象領域C内の特徴情報と登録画像Iaにおける照合対象領域Cに対応する領域の特徴情報との対応付けをより適正に行うことができる。
以下に、実施形態2の携帯端末200について、図7〜図12を参照して説明する。
実施形態2の携帯端末200は、以下に詳細に説明する以外の点で上記実施形態1の携帯端末100と略同様の構成をなし、詳細な説明は省略する。
図7に示すように、実施形態2の携帯端末200の画像処理部207は、画像取得部7aと、顔検出部7hと、特徴抽出部7cと、対応領域特定部7dと、画像分割部7eと、照合対象領域設定部7fと、画像照合部7gとを具備している。
なお、画像処理部207を構成する各部は、以下に説明する以外の点で上記実施形態1の携帯端末100に備わるものと略同様の構成及び機能をなし、その詳細な説明は省略する。
即ち、顔検出部7hは、画像取得部7aにより取得された撮像画像Ibの画像データに対して所定の顔検出処理を行って、当該撮像画像Ib内の特定の被写体である人物(ヒト)の顔Fが含まれる顔領域Ebを検出する。このとき、顔検出部7hは、例えば、顔Fを構成する目、鼻、口等の各構成要素を検出しても良い。
また、顔検出部7hは、画像登録部6のデータベース6aに登録される登録画像Ia(図9(a)等参照)の画像データに対して所定の顔検出処理を行って、当該登録画像Ia内の顔領域Eaを検出する。ここで、顔検出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
また、上記した顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
即ち、対応領域特定部7dは、撮像画像Ib内で顔検出部7hにより検出された顔領域Ebを、画像登録部6に登録されている登録画像Iaの顔領域Eaと対応する対応領域Bとして特定する。
具体的には、画像分割部7eは、画像登録部6のデータベース6aに登録される登録画像Iaの分割態様に応じて撮像画像Ibの顔領域Ebを複数の小領域B1、…に分割する。つまり、画像分割部7eは、予め、画像登録部6のデータベース6aに登録される登録画像Iaを、顔検出部7hにより検出された顔領域Ea(特に、顔領域Ea内の目、鼻、口等の位置)を基準とする所定の分割態様で複数の矩形状の小領域(二点鎖線で囲まれた領域)A1、…に分割する。例えば、画像分割部7eは、顔領域Eaを左右に二等分する態様(図9(a)参照)、顔領域Eaの上側のみを二等分する態様(図9(b)参照)、顔領域Eaを上下左右に等分する態様(図9(c)参照)等で複数の小領域A1、…に分割する。ここで、登録画像Iaの分割は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、画像分割部7eは、登録画像Iaを小領域A1に分割した数(例えば、二つ等)と同じ分割数となるように顔領域Eb(対応領域B)を略等しい形状及び寸法の小領域(一点鎖線で囲まれた領域;図11(b)参照)B1に分割する。
このとき、画像分割部7eは、互いに隣合う小領域B1の端部どうしを重複させるように顔領域Ebを複数の小領域B1、…に分割しても良い。例えば、画像分割部7eは、顔領域Ebの左小領域B1の右側端部を右小領域B1の左側端部と重複させ、且つ、右小領域B1の左側端部を左小領域B1の右側端部と重複させるように分割する。
なお、上記した小領域A1、B1の分割数や分割態様は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、隣合う小領域B1と端部どうしを重複させる領域の大きさを互いに異ならせても良い。
次に、携帯端末200による画像登録処理について、図8及び図9を参照して説明する。
図8は、画像登録処理に係る動作の一例を示すフローチャートである。
続けて、上記実施形態1の画像登録処理と略同様に、特徴抽出部7cは、登録対象画像の画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS3)。
その後、画像登録部6は、登録対象画像の複数の小領域A1、…毎に、各特徴点の座標位置及び特徴量を対応付けてデータベース6aに記録する(ステップS35)。
次に、携帯端末200による画像照合処理について、図10〜図12を参照して説明する。
図10は、画像照合処理に係る動作の一例を示すフローチャートである。
そして、画像データ生成部5は、生成された撮像画像IbのYUVデータをメモリ2に出力し、当該メモリ2に格納させる。
次に、顔検出部7hは、撮像画像Ibの画像データに対して所定の顔検出処理を行って、当該撮像画像Ib内の顔領域Ebを検出する(ステップS43)。続けて、上記実施形態1の画像照合処理と略同様に、特徴抽出部7cは、撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS14)。
そして、照合対象領域設定部7fは、顔領域Ebの複数の小領域B1、…の中で、所定数の小領域B1を照合対象領域C(例えば、左小領域B1等)として設定する(ステップS48)。
そして、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(ステップS21)。画像照合部7gは、算出された類似度をメモリ2に出力し、当該類似度は登録画像Iaの識別情報と対応付けて一時的に格納される。
一方、ステップS22にて、照合対象となる登録画像Iaが他にないと判定されると(ステップS22;NO)、画像処理部207は、メモリ2から各登録画像Iaに対応する類似度を取得して、最も類似度が高い登録画像Iaを選択して(ステップS23)、当該画像登録処理を終了する。
例えば、上記実施形態1、2では、撮像部3により撮像された撮像画像Ibを取得するようにしたが、必ずしも画像を撮像する必要はなく、撮像部3を具備するか否かは適宜任意に変更可能である。例えば、外部機器にて撮像された撮像画像を取得するようにしても良い。
即ち、プログラムを記憶するプログラムメモリに、登録処理ルーチン、取得処理ルーチン、特定処理ルーチン、設定処理ルーチン、照合処理ルーチンを含むプログラムを記憶しておく。そして、登録処理ルーチンにより中央制御部1のCPUを、予め少なくとも一の画像を登録する手段として機能させるようにしても良い。また、取得処理ルーチンにより中央制御部1のCPUを、特定の被写体が撮像された撮像画像Ibを取得する手段として機能させるようにしても良い。また、特定処理ルーチンにより中央制御部1のCPUを、予め登録されている登録画像Iaの画素情報及び取得された撮像画像Ibの画素情報に基づいて、当該撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定する手段として機能させるようにしても良い。また、設定処理ルーチンにより中央制御部1のCPUを、特定された対応領域B内で照合対象領域Cを設定する手段として機能させるようにしても良い。また、照合処理ルーチンにより中央制御部1のCPUを、設定された照合対象領域Cの特徴情報と、登録画像Iaにおける当該照合対象領域Cに対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて照合対象領域Cと登録画像Iaとを照合する手段として機能させるようにしても良い。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
<請求項1>
予め少なくとも一の画像を登録する登録手段と、
特定の被写体が撮像された撮像画像を取得する取得手段と、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、
を備えたことを特徴とする画像照合装置。
<請求項2>
前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段を更に備え、
前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする請求項1に記載の画像照合装置。
<請求項3>
前記特定手段により特定された前記対応領域を複数の領域に分割する分割手段を更に備え、
前記設定手段は、前記分割手段により分割された複数の領域のうち、所定数の領域を前記照合対象領域として設定することを特徴とする請求項1又は2に記載の画像照合装置。
<請求項4>
前記分割手段は、更に、前記登録手段に登録される画像を複数の領域に分割し、
前記登録手段は、
前記分割手段により分割された複数の領域毎に、前記特徴情報を対応付けて画像を登録することを特徴とする請求項3に記載の画像照合装置。
<請求項5>
前記分割手段は、更に、前記登録手段に登録される画像の分割態様に応じて前記対応領域を前記複数の領域に分割することを特徴とする請求項4に記載の画像照合装置。
<請求項6>
前記分割手段は、更に、互いに隣合う領域の端部どうしを重複させるように前記対応領域を前記複数の小領域に分割することを特徴とする請求項3〜5の何れか一項に記載の画像照合装置。
<請求項7>
前記取得手段により取得された撮像画像における前記特定の被写体の位置及び当該撮像画像の大きさを表す被写体情報を算出する算出手段を更に備え、
前記特定手段は、
前記算出手段により算出された被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項1〜6の何れか一項に記載の画像照合装置。
<請求項8>
前記算出手段は、更に、前記登録手段に登録される登録画像内の所定の被写体の位置及び当該登録画像の大きさを表す被写体情報を算出し、
前記特定手段は、
前記算出手段により算出された前記撮像画像及び前記登録画像の各々の被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項7に記載の画像照合装置。
<請求項9>
前記特定手段は、前記特定の被写体である印影が含まれる画像領域を前記対応領域として特定することを特徴とする請求項1〜8の何れか一項に記載の画像照合装置。
<請求項11>
前記特定手段は、前記特定の被写体である人物の顔が含まれる顔領域を前記対応領域として特定することを特徴とする請求項1〜8の何れか一項に記載の画像照合装置。
<請求項12>
画像照合装置を用いた画像照合方法であって、
予め少なくとも一の画像を登録する処理と、
特定の被写体が撮像された撮像画像を取得する処理と、
登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、
特定された前記対応領域内で照合対象領域を設定する処理と、
設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、
を含むことを特徴とする画像照合方法。
<請求項13>
画像照合装置のコンピュータを、
予め少なくとも一の画像を登録する登録手段、
特定の被写体が撮像された撮像画像を取得する取得手段、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、
として機能させることを特徴とするプログラム。
1 中央制御部
6 画像登録部
6a データベース
7、207 画像処理部
7a 画像取得部
7b 被写体情報算出部
7d 対応領域特定部
7e 画像分割部
7f 照合対象領域設定部
7g 画像照合部
7h 顔検出部
Claims (11)
- 予め少なくとも一の画像が登録されている登録手段と、
特定の被写体が撮像された撮像画像を取得する取得手段と、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、
前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段と、を備え、
前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする画像照合装置。 - 前記特定手段により特定された前記対応領域を複数の領域に分割する分割手段を更に備え、
前記設定手段は、前記分割手段により分割された複数の領域のうち、所定数の領域を前記照合対象領域として設定することを特徴とする請求項1に記載の画像照合装置。 - 前記分割手段は、更に、前記登録手段に登録される画像を複数の領域に分割し、
前記登録手段は、
前記分割手段により分割された複数の領域毎に、前記特徴情報を対応付けて画像を登録することを特徴とする請求項2に記載の画像照合装置。 - 前記分割手段は、更に、前記登録手段に登録される画像の分割態様に応じて前記対応領域を前記複数の領域に分割することを特徴とする請求項3に記載の画像照合装置。
- 前記分割手段は、更に、互いに隣合う領域の端部どうしを重複させるように前記対応領域を前記複数の小領域に分割することを特徴とする請求項2〜4の何れか一項に記載の画像照合装置。
- 前記取得手段により取得された撮像画像における前記特定の被写体の位置及び当該撮像画像の大きさを表す被写体情報を算出する算出手段を更に備え、
前記特定手段は、
前記算出手段により算出された被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項1〜5の何れか一項に記載の画像照合装置。 - 前記算出手段は、更に、前記登録手段に登録される登録画像内の所定の被写体の位置及び当該登録画像の大きさを表す被写体情報を算出し、
前記特定手段は、
前記算出手段により算出された前記撮像画像及び前記登録画像の各々の被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項6に記載の画像照合装置。 - 前記特定手段は、前記特定の被写体である印影が含まれる画像領域を前記対応領域として特定することを特徴とする請求項1〜7の何れか一項に記載の画像照合装置。
- 前記特定手段は、前記特定の被写体である人物の顔が含まれる顔領域を前記対応領域として特定することを特徴とする請求項1〜7の何れか一項に記載の画像照合装置。
- 画像照合装置を用いた画像照合方法であって、
予め少なくとも一の画像が登録されている登録処理と、
特定の被写体が撮像された撮像画像を取得する処理と、
登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、
特定された前記対応領域内で照合対象領域を設定する処理と、
設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、
前記撮像画像の重心及び共分散行列の固有値を取得する処理と、を含み、
前記登録理は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
前記特定する処理は、取得された前記撮像画像の重心及び共分散行列の固有値と、登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする画像照合方法。 - 画像照合装置のコンピュータを、
予め少なくとも一の画像が登録されている登録手段、
特定の被写体が撮像された撮像画像を取得する取得手段、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、
前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段、として機能させ、
前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013165168A JP6217225B2 (ja) | 2013-08-08 | 2013-08-08 | 画像照合装置、画像照合方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013165168A JP6217225B2 (ja) | 2013-08-08 | 2013-08-08 | 画像照合装置、画像照合方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015035070A JP2015035070A (ja) | 2015-02-19 |
JP6217225B2 true JP6217225B2 (ja) | 2017-10-25 |
Family
ID=52543563
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013165168A Active JP6217225B2 (ja) | 2013-08-08 | 2013-08-08 | 画像照合装置、画像照合方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6217225B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7268879B2 (ja) * | 2017-01-02 | 2023-05-08 | ガウス サージカル,インコーポレイテッド | 重複撮像を予測した手術アイテムの追跡 |
JP7336346B2 (ja) * | 2019-10-04 | 2023-08-31 | 日本放送協会 | フレーミング情報生成装置及びそのプログラム |
CN112150558B (zh) * | 2020-09-15 | 2024-04-12 | 阿波罗智联(北京)科技有限公司 | 用于路侧计算设备的障碍物三维位置获取方法及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04155595A (ja) * | 1990-10-19 | 1992-05-28 | Fujitsu Ltd | 文字正規化処理装置 |
JP3533722B2 (ja) * | 1994-09-30 | 2004-05-31 | オムロン株式会社 | 不良検査方法およびその装置 |
JP4426029B2 (ja) * | 1999-09-27 | 2010-03-03 | 富士通株式会社 | 画像照合方法および装置 |
JP4483334B2 (ja) * | 2004-02-18 | 2010-06-16 | 富士ゼロックス株式会社 | 画像処理装置 |
-
2013
- 2013-08-08 JP JP2013165168A patent/JP6217225B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015035070A (ja) | 2015-02-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8509482B2 (en) | Subject tracking apparatus, subject region extraction apparatus, and control methods therefor | |
JP6467787B2 (ja) | 画像処理システム、撮像装置、画像処理方法およびプログラム | |
CN108668093B (zh) | Hdr图像的生成方法及装置 | |
US9407884B2 (en) | Image pickup apparatus, control method therefore and storage medium employing phase difference pixels | |
JP2008152622A (ja) | ポインティング装置 | |
JP2013197785A (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP4947136B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN106454079B (zh) | 图像处理方法及装置和相机 | |
US9196029B2 (en) | Threshold setting device for setting threshold used in binarization process, object detection device, threshold setting method, and computer readable storage medium | |
US8441554B2 (en) | Image capturing apparatus capable of extracting subject region from captured image | |
US10013632B2 (en) | Object tracking apparatus, control method therefor and storage medium | |
JP2015148532A (ja) | 距離計測装置、撮像装置、距離計測方法、およびプログラム | |
CN104346613B (zh) | 图像处理装置以及图像处理方法 | |
WO2019202511A1 (en) | Object segmentation in a sequence of color image frames based on adaptive foreground mask upsampling | |
JP6374849B2 (ja) | ユーザ端末、色彩補正システム及び色彩補正方法 | |
JP2008299784A (ja) | 被写体判定装置及びそのプログラム | |
JP6217225B2 (ja) | 画像照合装置、画像照合方法及びプログラム | |
JP5862623B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6171660B2 (ja) | 情報処理装置、情報処理システム及びプログラム | |
JP5167236B2 (ja) | 被写体追跡装置及びその制御方法 | |
JP5131399B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5222429B2 (ja) | 被写体追跡装置及びその制御方法 | |
JP6286919B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2013143725A (ja) | 画像表示装置、画像表示方法及びプログラム | |
JP5858012B2 (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160728 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170606 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170804 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170829 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170911 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6217225 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |