JP6217225B2 - 画像照合装置、画像照合方法及びプログラム - Google Patents

画像照合装置、画像照合方法及びプログラム Download PDF

Info

Publication number
JP6217225B2
JP6217225B2 JP2013165168A JP2013165168A JP6217225B2 JP 6217225 B2 JP6217225 B2 JP 6217225B2 JP 2013165168 A JP2013165168 A JP 2013165168A JP 2013165168 A JP2013165168 A JP 2013165168A JP 6217225 B2 JP6217225 B2 JP 6217225B2
Authority
JP
Japan
Prior art keywords
image
registered
unit
registration
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013165168A
Other languages
English (en)
Other versions
JP2015035070A (ja
Inventor
義裕 手島
義裕 手島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2013165168A priority Critical patent/JP6217225B2/ja
Publication of JP2015035070A publication Critical patent/JP2015035070A/ja
Application granted granted Critical
Publication of JP6217225B2 publication Critical patent/JP6217225B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

本発明は、画像照合装置、画像照合方法及びプログラムに関する。
従来、画像どうしを照合する際に、特徴点の特徴量どうしを比較する手法が提案されている(例えば、特許文献1参照)。具体的には、例えば、カメラで撮像した画像とデータベースに登録済みの画像とを照合する場合、局所特徴量を使って特徴点どうしのマッチングを行い、類似度合を算出する。
特開2010−250529号公報
ところで、照合対象となる画像が相対的に単純なテクスチャで構成されていると、当該画像内に類似するテクスチャが複数存するため、特徴点どうしの誤対応が生じて画像どうしの照合を適正に行うことができないといった問題がある。
本発明は、このような問題に鑑みてなされたものであり、本発明の課題は、画像どうしの照合を精度良く適正に行うことができる画像照合装置、画像照合方法及びプログラムを提供することである。
上記課題を解決するため、本発明に係る画像照合装置は、
予め少なくとも一の画像登録されている登録手段と、特定の被写体が撮像された撮像画像を取得する取得手段と、前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段と、を備え、前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴としている。
また、本発明に係る画像照合方法は、
画像照合装置を用いた画像照合方法であって、予め少なくとも一の画像登録されている登録処理と、特定の被写体が撮像された撮像画像を取得する処理と、登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、特定された前記対応領域内で照合対象領域を設定する処理と、設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、前記撮像画像の重心及び共分散行列の固有値を取得する処理と、を含み、前記登録処理は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定する処理は、取得された前記撮像画像の重心及び共分散行列の固有値と、登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴としている。
また、本発明に係るプログラムは、
画像照合装置のコンピュータを、予め少なくとも一の画像登録されている登録手段、特定の被写体が撮像された撮像画像を取得する取得手段、前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段、として機能させ、前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定としている。
本発明によれば、画像どうしの照合を精度良く適正に行うことができる。
本発明を適用した実施形態1の携帯端末の概略構成を示すブロック図である。 図1の携帯端末による画像登録処理に係る動作の一例を示すフローチャートである。 図2の画像登録処理に係る画像の一例を模式的に示す図である。 図1の携帯端末による画像照合処理に係る動作の一例を示すフローチャートである。 図4の画像照合処理に係る画像の一例を模式的に示す図である。 図4の画像照合処理に係る画像の一例を模式的に示す図である。 本発明を適用した実施形態2の携帯端末の概略構成を示すブロック図である。 図7の携帯端末による画像登録処理に係る動作の一例を示すフローチャートである。 図8の画像登録処理に係る画像の一例を模式的に示す図である。 図7の携帯端末による画像照合処理に係る動作の一例を示すフローチャートである。 図10の画像照合処理に係る画像の一例を模式的に示す図である。 図10の画像照合処理に係る画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
[実施形態1]
図1は、本発明を適用した実施形態1の携帯端末100の概略構成を示すブロック図である。
図1に示すように、本実施形態の携帯端末100は、中央制御部1と、メモリ2と、撮像部3と、撮像制御部4と、画像データ生成部5と、画像登録部6と、画像処理部7と、表示部8と、表示制御部9と、送受話部10と、通信制御部11と、操作入力部12等を備えている。
また、中央制御部1、メモリ2、撮像部3、撮像制御部4、画像データ生成部5、画像登録部6、画像処理部7、表示制御部9、送受話部10及び通信制御部11は、バスライン13を介して接続されている。
なお、携帯端末100は、例えば、撮像装置、携帯電話やPHS(Personal Handy-phone System)などの移動体通信網で用いられる移動局、PDA(Personal Data Assistants)等から構成されている。
中央制御部1は、携帯端末100の各部を制御するものである。具体的には、中央制御部1は、携帯端末100の各部を制御するCPU(Central Processing Unit;図示略)を具備し、携帯端末100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
メモリ2は、例えば、DRAM(Dynamic Random Access Memory)等により構成されている。また、メモリ2は、中央制御部1や画像処理部7等によって処理されるデータ等を一時的に記憶するバッファメモリや、中央制御部1などのワーキングメモリ、当該携帯端末100の機能に係る各種プログラムやデータが格納されたプログラムメモリ等(何れも図示略)を備えている。
撮像部3は、レンズ部3aと、電子撮像部3bとを備えている。
レンズ部3aは、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部3bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサから構成され、レンズ部3aの各種レンズを通過した光学像を二次元の画像信号に変換する。
なお、図示は省略するが、撮像部3は、レンズ部3aを通過する光の量を調整する絞りを備えていても良い。
また、撮像部3は、記録媒体に押印された***の印影S(図5(a)参照)を特定の被写体として撮像する。
ここで、印影Sは、当該印影Sを形成するための印画像(例えば、電車を模式的に表す画像等)に、所定の情報を画素集合の規則的な配列に符号化したコード情報が含まれていても良い。
なお、コード情報は、元の所定の情報(例えば、URL等)を所定の符号化形式(例えば、リードソロモン符号、ゴレイ符号等)に従って符号化したものである。例えば、コード情報は、画素値「1」の白画素の集合と画素値「0」の黒画素の集合が所定の次元数で規則的に配列されている。
撮像制御部4は、撮像部3による被写体の撮像を制御する。即ち、撮像制御部4は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部4は、タイミング発生器、ドライバにより電子撮像部3bを走査駆動して、所定周期毎に光学像を電子撮像部3bにより二次元の画像信号に変換させ、当該電子撮像部3bの撮像領域から1画面分ずつフレーム画像を読み出して画像データ生成部5に出力させる。
また、撮像制御部4は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体の撮像条件の調整制御を行う。
画像データ生成部5は、電子撮像部3bから転送されたフレーム画像のアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
そして、画像データ生成部5は、生成された各フレーム画像のYUVデータをメモリ2に順次出力し、当該メモリ2に格納させる。
画像登録部6は、少なくとも一の登録画像Ia(図3参照)を登録するデータベース6aを具備している。
データベース(登録手段)6aは、特徴情報を対応付けて各登録画像Iaを記録する。即ち、データベース6aは、特徴抽出処理(後述)により抽出された各登録画像Iaの特徴情報としての特徴点の座標位置及び特徴量(例えば、SIFT(Scale-Invariant Features Transform)特徴量等)を各登録画像Ia毎に記録する。ここで、各登録画像Iaの特徴点の座標位置及び特徴量(特徴情報)は、画像分割部7eにより分割された複数の小領域A1、…毎にテーブル化して記録されていても良い。
また、データベース6aは、登録画像Iaの各々について、登録画像Ia内に存する所定の被写体の位置及び当該登録画像Iaの大きさを表す被写体情報を対応付けて記録しても良い。ここで、被写体情報は、例えば、被写体情報算出処理(後述)により算出された登録画像Iaを構成する各画素の座標位置の平均値(重心)及び当該登録画像Iaの共分散行列の固有値がそれぞれ被写体の位置及び登録画像Iaの大きさとして表されている。
なお、登録画像Iaとしては、例えば、***の印面に所定の印を形成するための印影モデル画像や、記録媒体に押印された印影Sを撮像した印影撮像画像等が挙げられるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
また、登録画像Iaには、所定の情報を画素集合の規則的な配列に符号化したコード情報が含まれていても良い。
画像処理部7は、画像取得部7aと、被写体情報算出部7bと、特徴抽出部7cと、対応領域特定部7dと、画像分割部7eと、照合対象領域設定部7fと、画像照合部7gとを具備している。
なお、画像処理部7の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
画像取得部7aは、撮像画像Ib(図5(a)参照)を取得する。
即ち、画像取得部(取得手段)7aは、特定の被写体(例えば、記録媒体に押印された印影S等)が撮像された撮像画像Ibを取得する。具体的には、画像取得部7aは、撮像部3により印影Sが撮像されて画像データ生成部5により生成された撮像画像Ibの所定の解像度の画像データ(例えば、輝度データ)の複製をメモリ2から取得する。
被写体情報算出部7bは、撮像画像Ibや登録画像Iaに対して被写体情報算出処理を行う。
即ち、被写体情報算出部(算出手段)7bは、画像取得部7aにより取得された撮像画像Ibにおける特定の被写体の位置及び大きさを表す被写体情報を算出する。具体的には、例えば、被写体情報算出部7bは、撮像画像Ibの画像データに対して被写体情報算出処理を施して、当該撮像画像Ibを構成する各画素の座標位置の平均値(重心)及び当該撮像画像Ibの共分散行列の固有値をそれぞれ特定の被写体(例えば、印影S等)の位置及び撮像画像Ibの大きさを表す被写体情報として算出する。
また、被写体情報算出部7bは、画像登録部6のデータベース6aに登録される登録画像Iaの画像データに対して被写体情報算出処理を施して、当該登録画像Ia内の所定の被写体の位置及び登録画像Iaの大きさを表す被写体情報(例えば、登録画像Iaの重心及び共分散行列の固有値等)を算出する。ここで、被写体情報算出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、被写体情報算出部7bは、算出された被写体情報をメモリ2に出力し、当該メモリ2に一時的に格納させる。
特徴抽出部7cは、撮像画像Ibや登録画像Iaに対して特徴抽出処理を行う。
具体的には、特徴抽出部7cは、例えば、画像取得部7aにより取得された撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する。
また、特徴抽出部7cは、例えば、画像登録部6のデータベース6aに登録される登録画像Iaの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量を算出する。ここで、特徴抽出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、特徴抽出部7cは、算出された特徴点の座標位置及び特徴量(特徴情報)をメモリ2に出力し、当該メモリ2に一時的に格納させる。
なお、特徴情報としては、例えば、SURF(Speeded Up Robust Features)特徴量を用いて表しても良いし、特徴点の輝度レベルを8bit(256段階)で表現した輝度値(0〜255)を用いて良いし、RGBの各色成分を8bit(256段階)で表現したRGB値(0〜255)を用いても良い。
対応領域特定部7dは、撮像画像Ib内で対応領域B(図5(a)参照)を特定する。
即ち、対応領域特定部(特定手段)7dは、画像登録部6に登録されている登録画像Iaの画素情報及び画像取得部7aにより取得された撮像画像Ibの画素情報に基づいて、当該撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定する。具体的には、対応領域特定部7dは、被写体情報算出部7bにより算出された撮像画像Ib及び登録画像Iaの各々の被写体情報に基づいて、撮像画像Ib内で対応領域Bを特定する。
例えば、対応領域特定部(被写体情報取得手段)7dは、被写体情報算出部7bにより算出された撮像画像Ibの重心及び共分散行列の固有値を取得する。また、対応領域特定部7dは、画像登録部6に登録されている登録画像Iaの中で照合対象となる登録画像Iaの重心及び共分散行列の固有値を取得する。そして、対応領域特定部7dは、撮像画像Ibの重心及び共分散行列の固有値と照合対象の登録画像Iaの重心及び共分散行列の固有値とをそれぞれ比較し、撮像画像Ib内で照合対象の登録画像Iaと対応する対応領域Bを特定する。
これにより、撮像画像Ib内で、登録画像Iaとの照合対象となる領域(対応領域B)の大まかな位置及び大きさが特定される。つまり、登録画像Iaの外形(例えば、正方形等)と略相似の外形の対応領域Bが特定され、当該対応領域B内の特定の被写体(例えば、印影S等)の相対的な位置及び大きさは、登録画像Ia内の所定の被写体の相対的な位置及び大きさと略等しくなる。
なお、例えば、対応領域特定部7dは、撮像画像Ibの被写体情報の内容から特定の被写体が構図全体に存すると判断した場合、当該撮像画像Ib全体を対応領域Bとして特定しても良い。即ち、対応領域特定部7dは、被写体情報算出部7bにより算出された撮像画像Ibの被写体情報に基づいて、撮像画像Ib内で対応領域Bを特定しても良い。
画像分割部7eは、撮像画像Ibの対応領域Bを複数の小領域B1、…に分割する。
即ち、画像分割部(分割手段)7eは、対応領域特定部7dにより特定された対応領域Bを複数の小領域B1、…に分割する。
具体的には、画像分割部7eは、画像登録部6のデータベース6aに登録される登録画像Iaの分割態様(例えば、二等分や四等分等)に応じて対応領域Bを複数の小領域B1、…に分割する。つまり、画像分割部7eは、予め、画像登録部6のデータベース6aに登録される登録画像Iaを所定の分割態様(例えば、四等分)で複数の矩形状の小領域(二点鎖線で囲まれた領域;図3参照)A1、…に分割する。ここで、登録画像Iaの分割は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、画像分割部7eは、登録画像Iaを小領域A1に分割した数(例えば、四つ等)と同じ分割数となるように対応領域Bを略等しい形状及び寸法の小領域(一点鎖線で囲まれた領域;図5(b)参照)B1に分割する。
このとき、画像分割部7eは、互いに隣合う小領域B1の端部どうしを重複させるように対応領域Bを複数の小領域B1、…に分割しても良い。例えば、図5(b)に示す対応領域Bの左上小領域B1の場合、画像分割部7eは、当該左上小領域B1の右側端部を右上小領域A1の左側端部と重複させ、且つ、左上小領域B1の下側端部を左下小領域B1の上側端部と重複させ、且つ、左上小領域B1の右下側端部を右下小領域B1の左上側端部と重複させるように分割する。その他の小領域B1についても、略同様であり、その詳細な説明は省略する。
なお、上記した小領域A1、B1の分割数や分割態様は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、小領域A1、B1の外形を互いに異ならせても良いし、隣合う小領域B1と端部どうしを重複させる領域の大きさを互いに異ならせても良い。
照合対象領域設定部7fは、撮像画像Ib内で照合対象領域C(図6(a)参照)を設定する。
即ち、照合対象領域設定部(設定手段)7fは、対応領域特定部7dにより特定された対応領域B内で照合対象領域Cを設定する。具体的には、照合対象領域設定部7fは、画像分割部7eにより対応領域Bが分割された複数の小領域B1、…のうち、所定数の小領域B1を照合対象領域Cとして設定する。つまり、照合対象領域設定部7fは、対応領域B内で、当該対応領域Bよりも小さい照合対象領域Cを設定する。
ここで、照合対象領域設定部7fは、照合対象領域Cとして設定される小領域B1の位置や数を、例えば、特徴抽出処理により抽出された特徴点の位置を考慮して変更しても良い。即ち、対応領域Bの略全域から特徴点が抽出されている場合、照合対象領域設定部7fは、対応領域Bが分割された複数の小領域B1、…の全てを照合対象領域Cとして個別に設定しても良い。また、対応領域Bの一部の領域から特徴点が抽出されている場合、照合対象領域設定部7fは、複数の小領域B1、…の中で、特徴点が抽出された領域が含まれる所定数の小領域B1を照合対象領域Cとして設定しても良い。
なお、図6(a)にあっては、対応領域Bのうち、照合対象領域C(左上小領域B1)以外の領域にはドットを付して模式的に表している。
画像照合部7gは、撮像画像Ibの照合対象領域Cと登録画像Iaとを照合する。
即ち、画像照合部(照合手段)7gは、照合対象領域設定部7fにより設定された照合対象領域Cの特徴情報と、登録画像Iaにおける当該照合対象領域Cに対応する領域(照合用の小領域D)の特徴情報とを対応付け、当該対応付けの結果に基づいて照合対象領域Cと登録画像Iaとを照合する。
具体的には、画像照合部7gは、特徴抽出処理にて抽出された照合対象領域C(例えば、左上小領域A1等)内の特徴点の座標位置及び特徴量(特徴情報)をメモリ2から取得する。また、画像照合部7gは、登録画像Iaにおける当該照合対象領域Cに対応する照合用の小領域D(図6(a)参照)を特定し、特定された照合用の小領域D内の特徴点の座標位置及び特徴量(特徴情報)を画像登録部6のデータベース6aから取得する。なお、図6(a)にあっては、登録画像Iaのうち、照合用の小領域D以外の領域にはドットを付して模式的に表している。
そして、画像照合部7gは、取得された照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付け(マッチング)を行う。このとき、照合対象領域Cが複数設定されている場合には、画像照合部7gは、各照合対象領域C毎に、対応する照合用の小領域Dを特定して特徴点どうしの対応付けを行う。
また、画像照合部7gは、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付けの結果に基づいて、照合対象領域C内の特定の被写体の形状を登録画像Ia内の被写体の形状と略等しい形状に変形するための座標変換行列(ホモグラフィ行例)を算出する。そして、画像照合部7gは、算出された座標変換式に従って、照合対象領域Cに対して座標変換処理を施して、座標変換済み画像Ic(図6(b)参照)を生成する。
また、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(類似度算出処理)。なお、類似度算出処理としては、例えば、adaboost(アダブースト)出力計算、SSD(Sum of Squared Differences)等を利用することができるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
なお、上記した射影変換処理や類似度算出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
表示部8は、例えば、液晶表示パネルから構成され、表示制御部9からのビデオ信号に基づいて撮像部3により撮像された画像(例えば、ライブビュー画像等)を表示画面に表示する。
表示制御部9は、メモリ2に一時的に記憶されている表示用の画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示制御部9は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部1の制御下にてメモリ2から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから所定の再生フレームレート(例えば、30fps)で読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
例えば、表示制御部9は、撮像部3及び撮像制御部4により撮像され画像データ生成部5により生成された複数のフレーム画像、…を所定の表示フレームレートで逐次更新しながら表示部8にライブビュー表示させる。
送受話部10は、通信ネットワークNを介して接続された外部機器の外部ユーザとの通話を行う。
具体的には、送受話部10は、マイク10a、スピーカ10b、データ変換部10c等を備えている。そして、送受話部10は、マイク10aから入力されるユーザの送話音声をデータ変換部10cによりA/D変換処理して送話音声データを中央制御部1に出力するとともに、中央制御部1の制御下にて、通信制御部11から出力されて入力される受話音声データ等の音声データをデータ変換部10cによりD/A変換処理してスピーカ10bから出力する。
通信制御部11は、通信ネットワークN及び通信アンテナ11aを介してデータの送受信を行う。
即ち、通信アンテナ11aは、当該携帯端末100が無線基地局(図示略)との通信で採用している所定の通信方式(例えば、W−CDMA(Wideband Code Division Multiple Access)方式、GSM(Global System for Mobile Communications;登録商標)方式等)に対応したデータの送受信が可能なアンテナである。そして、通信制御部11は、所定の通信方式に対応する通信プロトコルに従って、この通信方式で設定される通信チャネルにより無線基地局との間で通信アンテナ11aを介してデータの送受信を行う。つまり、通信制御部11は、中央制御部1から出力されて入力される指示信号に基づいて、通信相手の外部機器に対して、当該外部機器の外部ユーザとの通話中の音声の送受信や、電子メールのデータの送受信を行う。
なお、通信制御部11の構成は一例であってこれに限られるものではなく、適宜任意に変更可能であり、例えば、図示は省略するが、無線LANモジュールを搭載し、アクセスポイント(Access Point)を介して通信ネットワークNにアクセス可能な構成としても良い。
通信ネットワークNは、例えば、携帯端末100を無線基地局やゲートウェイサーバ(図示略)等を介して外部機器と接続する通信ネットワークである。
また、通信ネットワークNは、例えば、専用線や既存の一般公衆回線を利用して構築された通信ネットワークであり、LAN(Local Area Network)やWAN(Wide Area Network)等の様々な回線形態を適用することが可能である。また、通信ネットワークNには、例えば、電話回線網、ISDN回線網、専用線、移動体通信網、通信衛星回線、CATV回線網等の各種通信ネットワーク網と、IPネットワーク、VoIP(Voice over Internet Protocol)ゲートウェイ、インターネットサービスプロバイダ等が含まれる。
操作入力部12は、端末本体に対して各種指示を入力するためのものである。
具体的には、操作入力部12は、被写体の撮影指示に係るシャッタボタン、モードや機能等の選択指示に係る上下左右のカーソルボタンや決定ボタン、電話の発着信や電子メールの送受信等の実行指示に係る通信関連ボタン、テキストの入力指示に係る数字ボタンや記号ボタン等の各種ボタン(何れも図示略)を備えている。
そして、ユーザにより各種ボタンが操作されると、操作入力部12は、操作されたボタンに応じた操作指示を中央制御部1に出力する。中央制御部1は、操作入力部12から出力され入力された操作指示に従って所定の動作(例えば、被写体の撮像、電話の発着信、電子メールの送受信等)を各部に実行させる。
なお、操作入力部12は、表示部8と一体となって設けられたタッチパネルを有していても良く、ユーザによるタッチパネルの所定操作に基づいて、当該所定操作に応じた操作指示を中央制御部1に出力しても良い。
<画像登録処理>
次に、携帯端末100による画像登録処理について、図2及び図3を参照して説明する。
図2は、画像登録処理に係る動作の一例を示すフローチャートである。
図2に示すように、画像処理部7の画像取得部7aは、画像登録部6のデータベース6aに登録される登録対象となる画像(登録対象画像)の画像データ(YUVデータ)を取得する(ステップS1;図3参照)。例えば、画像取得部7aは、***の印面に所定の印を形成するための印影モデル画像を登録対象画像として、図示しない外部機器や記録媒体等から取得する。
次に、被写体情報算出部7bは、登録対象画像の画像データに対して被写体情報算出処理を施して、当該登録対象画像を構成する各画素の座標位置の平均値(重心)及び当該登録対象画像の共分散行列の固有値を被写体情報として算出する(ステップS2)。続けて、特徴抽出部7cは、登録対象画像の画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS3)。
そして、画像分割部7eは、登録対象画像を所定の分割態様(例えば、四等分)で複数の小領域A1、…に分割する(ステップS4)。
その後、画像登録部6は、登録対象画像の複数の小領域A1、…毎に、各特徴点の座標位置及び特徴量を対応付けるとともに、当該登録対象画像の重心及び共分散行列の固有値(被写体情報)を対応付けてデータベース6aに記録する(ステップS5)。
そして、中央制御部1のCPUは、登録対象となる画像が他にあるか否かを判定する(ステップS6)。ここで、登録対象となる画像が他にあると判定されると(ステップS6;YES)、中央制御部1のCPUは、処理をステップS1に戻し、他の登録対象画像を処理対象として、画像処理部7や画像登録部6にそれ以降の各処理を実行させる。
一方、ステップS6にて、登録対象となる画像が他にないと判定されると(ステップS6;NO)、中央制御部1のCPUは、当該画像登録処理を終了させる。
<画像照合処理>
次に、携帯端末100による画像照合処理について、図4〜図6を参照して説明する。
図4は、画像照合処理に係る動作の一例を示すフローチャートである。
なお、以下の画像照合処理にて撮像される印影Sは、例えば、葉書等の記録媒体の所定位置に押印されているものとする。
図4に示すように、先ず、ユーザによる操作入力部12の所定操作に基づいて撮像指示が入力されると、撮像制御部4は、撮像部3に印影Sを撮像させ、画像データ生成部5は、電子撮像部3bから転送された撮像画像Ibの画像データを生成する(ステップS11)。このとき、印影Sは、例えば、当該印影Sに対して撮像部3のレンズ部3aが所定の角度を有するように斜めに配置された状態で撮像されるものとする。
そして、画像データ生成部5は、生成された撮像画像IbのYUVデータをメモリ2に出力し、当該メモリ2に格納させる。
なお、印影Sを撮像し易くするために、表示制御部9は、印影Sの外形に対応するガイド表示を表示部8に表示させても良い。
そして、画像処理部7の画像取得部7aは、メモリ2から画像データ生成部5により生成された撮像画像Ibの所定の解像度の画像データ(例えば、輝度データ)を取得する(ステップS12)。
次に、被写体情報算出部7bは、撮像画像Ibの画像データに対して被写体情報算出処理を施して、当該撮像画像Ibを構成する各画素の座標位置の平均値(重心)及び当該撮像画像Ibの共分散行列の固有値を被写体情報として算出する(ステップS13)。続けて、特徴抽出部7cは、撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS14)。
その後、対応領域特定部7dは、画像登録部6のデータベース6aから照合対象となる何れか一の登録画像Iaの画像データ及び当該登録画像Iaの重心及び共分散行列の固有値を読み出して取得する(ステップS15)。続けて、対応領域特定部7dは、被写体情報算出部7bにより算出された撮像画像Ibの重心及び共分散行列の固有値を取得して、撮像画像Ibの重心及び共分散行列の固有値と照合対象の登録画像Iaの重心及び共分散行列の固有値とをそれぞれ比較し、撮像画像Ib内で照合対象の登録画像Iaと対応する対応領域Bを特定する(ステップS16;図5(a)参照)。
次に、画像分割部7eは、対応領域Bを登録画像Iaの分割態様(例えば、四等分等)に応じて複数(例えば、四つ)の小領域B1に分割する(ステップS17;図5(b)参照)。具体的には、画像分割部7eは、複数の小領域B1、…の中で互いに隣合う小領域B1の端部どうしを重複させるように対応領域Bを分割する。
そして、照合対象領域設定部7fは、対応領域Bの複数の小領域B1、…の中で、所定数の小領域B1(例えば、左上小領域B1等)を照合対象領域Cとして設定する(ステップS18)。
次に、画像照合部7gは、照合対象領域C内の特徴点の座標位置及び特徴量(特徴情報)をメモリ2から取得するとともに、登録画像Iaにおける当該照合対象領域Cに対応する照合用の小領域D内の特徴点の座標位置及び特徴量(特徴情報)をデータベース6aから取得して、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付け(マッチング)を行う(ステップS19;図6(a)参照)。続けて、画像照合部7gは、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付けの結果に基づいて座標変換行列(ホモグラフィ行例)を算出して、算出された座標変換式に従って照合対象領域Cに対して座標変換処理を施して、座標変換済み画像Icを生成する(ステップS20;図6(b)参照)。
そして、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(ステップS21)。画像照合部7gは、算出された類似度をメモリ2に出力し、当該類似度は登録画像Iaの識別情報と対応付けて一時的に格納される。
なお、照合対象領域Cに対する座標変換処理は、必ずしも行う必要はなく、当該処理をスキップしても良い。
その後、中央制御部1のCPUは、照合対象となる登録画像Iaが他にあるか否かを判定する(ステップS22)。ここで、照合対象となる画像が他にあると判定されると(ステップS22;YES)、中央制御部1のCPUは、処理をステップS15に戻し、データベース6aの他の登録画像Iaを照合対象として、画像処理部7にそれ以降の各処理を実行させる。
一方、ステップS22にて、照合対象となる登録画像Iaが他にないと判定されると(ステップS22;NO)、画像処理部7は、メモリ2から各登録画像Iaに対応する類似度を取得して、最も類似度が高い登録画像Iaを選択して(ステップS23)、当該画像登録処理を終了する。
その後、画像処理部7の情報読取部(図示略)は、例えば、選択された登録画像Iaの二値化画像を生成し、画素値「1」の白画素の集合及び画素値「0」の黒画素の集合の配列に対して、コード情報の符号化方式に応じた復号処理を施して、コード情報によって表される元の所定の情報(例えば、URL等)を読み取る。
中央制御部1のCPUは、情報読取部により読み取られた所定の情報(例えば、URL等)に従って当該携帯端末100の各部を制御して、所定の動作(例えば、インターネットにアクセスして、特定の音声や画像の再生等)を実行させる。
なお、上記した所定の情報の読取処理や対応する所定の動作の実行処理は、必ずしも行う必要はない。
以上のように、実施形態1の携帯端末100によれば、画像登録部6に登録されている登録画像Iaの画素情報及び撮像画像(例えば、記録媒体に押印された印影Sを撮像した画像等)Ibの画素情報に基づいて、当該撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定し、対応領域B内で照合対象領域Cを設定して、設定された照合対象領域Cの特徴情報(例えば、特徴点の位置及び特徴量等)と、登録画像Iaにおける当該照合対象領域Cに対応する領域(例えば、照合用の小領域D)の特徴情報とを対応付け、当該対応付けの結果に基づいて照合対象領域Cと登録画像Iaとを照合することができる。このとき、予め大まかな位置合わせとして撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定し、対応領域B内で当該対応領域Bよりも小さい照合対象領域Cを設定して利用することで、相対的に単純なテクスチャで構成され、類似するテクスチャ(例えば、電車の画像では、パンタグラフや窓や車輪等)が複数存する画像であっても、当該照合対象領域C内に類似するテクスチャが複数存し難くなり、照合対象領域C内の特徴情報と登録画像Iaの特徴情報との対応付けにおいて誤対応を生じさせ難くすることができる。
即ち、例えば、図6(a)に示す対応領域Bでは、照合対象領域C内に電車の左側のパンタグラフに相当する部分が存在し、照合対象領域C以外の領域(ドットを付した領域)に右側のパンタグラフに相当する部分が存在している。一方、登録画像Iaの照合用の小領域Dには、左側のパンタグラフに相当する部分のみが存在している。従って、例えば、撮像画像Ibの左側のパンタグラフに相当する部分の特徴情報と登録画像Iaの右側のパンタグラフに相当する部分の特徴情報とが誤って対応付けられることを抑制することができる。
これにより、撮像画像Ibの照合対象領域Cと登録画像Iaとの比較照合を適正に行うことができることとなって、画像どうしの照合を精度良く適正に行うことができる。
また、対応領域Bを分割した複数の小領域B1、…のうち、所定数の小領域B1を照合対象領域Cとして設定するので、撮像画像Ib内で対応領域Bよりも小さい照合対象領域Cの設定を簡便なものとすることができる。特に、互いに隣合う小領域B1の端部どうしを重複させるように対応領域Bを複数の小領域B1、…に分割することで、隣合う小領域B1どうしの境界の特徴情報についても適正に対応付けを行うことができ、照合対象領域C内の特徴情報と登録画像Iaの特徴情報との対応付けにおいて誤対応をより生じさせ難くすることができる。
また、登録画像Iaを複数の小領域A1、…に分割して、当該登録画像Iaの分割態様に応じて対応領域Bを複数の小領域B1、…に分割するので、登録画像Iaにおける照合対象領域Cに対応する領域の特定を適正に行うことができ、照合対象領域C内の特徴情報と登録画像Iaにおける照合対象領域Cに対応する領域の特徴情報との対応付けをより適正に行うことができる。
また、撮像画像Ibにおける特定の被写体の位置及び当該撮像画像Ibの大きさを表す被写体情報に基づいて、撮像画像Ib内で対応領域Bを特定するので、撮像画像Ibにおける特定の被写体の位置や当該撮像画像Ibの大きさ等を考慮して当該撮像画像Ib内で対応領域Bを適正に特定することができる。特に、撮像画像Ibの被写体情報に加えて登録画像Iaの被写体情報に基づいて、撮像画像Ib内で対応領域Bを特定することで、撮像画像Ibにおける特定の被写体の位置や当該撮像画像Ibの大きさだけでなく登録画像Iaにおける所定の被写体の位置や当該登録画像Iaの大きさ等も考慮して撮像画像Ib内で対応領域Bをより適正に特定することができる。
[実施形態2]
以下に、実施形態2の携帯端末200について、図7〜図12を参照して説明する。
実施形態2の携帯端末200は、以下に詳細に説明する以外の点で上記実施形態1の携帯端末100と略同様の構成をなし、詳細な説明は省略する。
図7は、本発明を適用した実施形態2の携帯端末200の概略構成を示すブロック図である。
図7に示すように、実施形態2の携帯端末200の画像処理部207は、画像取得部7aと、顔検出部7hと、特徴抽出部7cと、対応領域特定部7dと、画像分割部7eと、照合対象領域設定部7fと、画像照合部7gとを具備している。
なお、画像処理部207を構成する各部は、以下に説明する以外の点で上記実施形態1の携帯端末100に備わるものと略同様の構成及び機能をなし、その詳細な説明は省略する。
顔検出部7hは、撮像画像Ibや登録画像Iaに対して顔検出処理を行う。
即ち、顔検出部7hは、画像取得部7aにより取得された撮像画像Ibの画像データに対して所定の顔検出処理を行って、当該撮像画像Ib内の特定の被写体である人物(ヒト)の顔Fが含まれる顔領域Ebを検出する。このとき、顔検出部7hは、例えば、顔Fを構成する目、鼻、口等の各構成要素を検出しても良い。
また、顔検出部7hは、画像登録部6のデータベース6aに登録される登録画像Ia(図9(a)等参照)の画像データに対して所定の顔検出処理を行って、当該登録画像Ia内の顔領域Eaを検出する。ここで、顔検出処理は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
また、上記した顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
対応領域特定部7dは、撮像画像Ib内で顔検出部7hにより検出された顔領域Ebを対応領域B(図11(a)参照)として特定する。
即ち、対応領域特定部7dは、撮像画像Ib内で顔検出部7hにより検出された顔領域Ebを、画像登録部6に登録されている登録画像Iaの顔領域Eaと対応する対応領域Bとして特定する。
画像分割部7eは、撮像画像Ibの対応領域Bとして特定された顔領域Ebを複数の小領域B1、…に分割する。
具体的には、画像分割部7eは、画像登録部6のデータベース6aに登録される登録画像Iaの分割態様に応じて撮像画像Ibの顔領域Ebを複数の小領域B1、…に分割する。つまり、画像分割部7eは、予め、画像登録部6のデータベース6aに登録される登録画像Iaを、顔検出部7hにより検出された顔領域Ea(特に、顔領域Ea内の目、鼻、口等の位置)を基準とする所定の分割態様で複数の矩形状の小領域(二点鎖線で囲まれた領域)A1、…に分割する。例えば、画像分割部7eは、顔領域Eaを左右に二等分する態様(図9(a)参照)、顔領域Eaの上側のみを二等分する態様(図9(b)参照)、顔領域Eaを上下左右に等分する態様(図9(c)参照)等で複数の小領域A1、…に分割する。ここで、登録画像Iaの分割は、既にデータベース6aに登録されている画像(登録済み画像)に対して行われても良いし、登録の対象となる画像(登録対象画像)に対して行われても良い。
そして、画像分割部7eは、登録画像Iaを小領域A1に分割した数(例えば、二つ等)と同じ分割数となるように顔領域Eb(対応領域B)を略等しい形状及び寸法の小領域(一点鎖線で囲まれた領域;図11(b)参照)B1に分割する。
このとき、画像分割部7eは、互いに隣合う小領域B1の端部どうしを重複させるように顔領域Ebを複数の小領域B1、…に分割しても良い。例えば、画像分割部7eは、顔領域Ebの左小領域B1の右側端部を右小領域B1の左側端部と重複させ、且つ、右小領域B1の左側端部を左小領域B1の右側端部と重複させるように分割する。
なお、上記した小領域A1、B1の分割数や分割態様は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、隣合う小領域B1と端部どうしを重複させる領域の大きさを互いに異ならせても良い。
<画像登録処理>
次に、携帯端末200による画像登録処理について、図8及び図9を参照して説明する。
図8は、画像登録処理に係る動作の一例を示すフローチャートである。
図2に示すように、画像処理部207の画像取得部7aは、画像登録部6のデータベース6aに登録される登録対象となる画像(登録対象画像)の画像データ(YUVデータ)を取得する(ステップS31;図9(a)等参照)。例えば、画像取得部7aは、予め特定の被写体を撮像した画像を登録対象画像として、図示しない外部機器や記録媒体等から取得する。
次に、顔検出部7hは、登録対象画像の画像データに対して所定の顔検出処理を行って、当該登録画像Ia内の顔領域Eaを検出する(ステップS32)。略全域が顔領域の画像を登録画像Iaとする場合、なお、顔検出部7hは、当該登録画像Iaに対して必ずしも顔検出処理を行う必要はない。
続けて、上記実施形態1の画像登録処理と略同様に、特徴抽出部7cは、登録対象画像の画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS3)。
そして、画像分割部7eは、登録対象画像を、顔検出部7hにより検出された顔領域Eaを基準とする所定の分割態様(例えば、顔領域Eaを左右に二等分する態様)で複数の小領域A1、…に分割する(ステップS34)。
その後、画像登録部6は、登録対象画像の複数の小領域A1、…毎に、各特徴点の座標位置及び特徴量を対応付けてデータベース6aに記録する(ステップS35)。
そして、上記実施形態1の画像登録処理と略同様に、中央制御部1のCPUは、登録対象となる画像が他にあるか否かを判定する(ステップS6)。ここで、登録対象となる画像が他にあると判定されると(ステップS6;YES)、中央制御部1のCPUは、処理をステップS1に戻し、他の登録対象画像を処理対象として、画像処理部207や画像登録部6にそれ以降の各処理を実行させる。
一方、ステップS6にて、登録対象となる画像が他にないと判定されると(ステップS6;NO)、中央制御部1のCPUは、当該画像登録処理を終了させる。
<画像照合処理>
次に、携帯端末200による画像照合処理について、図10〜図12を参照して説明する。
図10は、画像照合処理に係る動作の一例を示すフローチャートである。
図10に示すように、先ず、ユーザによる操作入力部12の所定操作に基づいて撮像指示が入力されると、撮像制御部4は、撮像部3に人物の顔Fを被写体として撮像させ、画像データ生成部5は、電子撮像部3bから転送された撮像画像Ibの画像データを生成する(ステップS41)。このとき、人物の顔Fは、例えば、撮像部3のレンズ部3aに対して斜めに配置されたり、光軸を中心として所定の角度回転した状態で撮像されるものとする。
そして、画像データ生成部5は、生成された撮像画像IbのYUVデータをメモリ2に出力し、当該メモリ2に格納させる。
そして、上記実施形態1の画像照合処理と略同様に、画像処理部207の画像取得部7aは、メモリ2から画像データ生成部5により生成された撮像画像Ibの所定の解像度の画像データ(例えば、輝度データ)を取得する(ステップS12)。
次に、顔検出部7hは、撮像画像Ibの画像データに対して所定の顔検出処理を行って、当該撮像画像Ib内の顔領域Ebを検出する(ステップS43)。続けて、上記実施形態1の画像照合処理と略同様に、特徴抽出部7cは、撮像画像Ibの画像データに対して所定の特徴抽出処理を施して特徴点を複数抽出し、有効な特徴点における特徴量(例えば、SIFT特徴量等)を算出する(ステップS14)。
その後、対応領域特定部7dは、画像登録部6のデータベース6aから照合対象となる何れか一の登録画像Iaの画像データを読み出して取得する(ステップS45)。続けて、対応領域特定部7dは、撮像画像Ib内で顔検出部7hにより検出された顔領域Ebを、照合対象の登録画像Iaの顔領域Eaと対応する対応領域Bとして特定する(ステップS46;図11(a)参照)。
次に、画像分割部7eは、撮像画像Ibの顔領域Ebを登録画像Iaの分割態様(例えば、顔領域Eaを左右に二等分する態様等)に応じて複数(例えば、二つ)の小領域B1、…に分割する(ステップS47;図11(b)参照)。
そして、照合対象領域設定部7fは、顔領域Ebの複数の小領域B1、…の中で、所定数の小領域B1を照合対象領域C(例えば、左小領域B1等)として設定する(ステップS48)。
次に、上記実施形態1の画像照合処理と略同様に、画像照合部7gは、照合対象領域C内の特徴点の座標位置及び特徴量(特徴情報)をメモリ2から取得するとともに、登録画像Iaにおける当該照合対象領域Cに対応する照合用の小領域D内の特徴点の座標位置及び特徴量(特徴情報)をデータベース6aから取得して、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付け(マッチング)を行う(ステップS19;図12(a)参照)。続けて、画像照合部7gは、照合対象領域C内の特徴点と照合用の小領域D内の特徴点との対応付けの結果に基づいて座標変換行列(ホモグラフィ行例)を算出して、算出された座標変換式に従って照合対象領域Cに対して座標変換処理を施して、座標変換済み画像Icを生成する(ステップS20;図12(b)参照)。
そして、画像照合部7gは、生成された座標変換済み画像Icの画素値と登録画像Iaの画素値とに基づいて所定の演算を行って、照合対象領域Cと登録画像Iaとの類似度を算出する(ステップS21)。画像照合部7gは、算出された類似度をメモリ2に出力し、当該類似度は登録画像Iaの識別情報と対応付けて一時的に格納される。
その後、上記実施形態1の画像照合処理と略同様に、中央制御部1のCPUは、照合対象となる登録画像Iaが他にあるか否かを判定する(ステップS22)。ここで、照合対象となる画像が他にあると判定されると(ステップS22;YES)、中央制御部1のCPUは、処理をステップS45に戻し、他の登録画像Iaを照合対象として、画像処理部207にそれ以降の各処理を実行させる。
一方、ステップS22にて、照合対象となる登録画像Iaが他にないと判定されると(ステップS22;NO)、画像処理部207は、メモリ2から各登録画像Iaに対応する類似度を取得して、最も類似度が高い登録画像Iaを選択して(ステップS23)、当該画像登録処理を終了する。
以上のように、実施形態2の携帯端末200によれば、上記実施形態1と同様に、撮像画像Ibの照合対象領域Cと登録画像Iaとの比較照合を適正に行うことができることとなって、画像どうしの照合を精度良く適正に行うことができる。さらに、撮像画像Ib内で、特定の被写体である人物の顔Fが含まれる顔領域Ebを対応領域Bとして特定することで、撮像画像Ib内での対応領域Bの特定をより簡便なものとすることができる。即ち、上記実施形態1のように、撮像画像Ibや登録画像Iaの被写体情報を算出する必要がなくなり、人物の撮像処理にて一般的に行われる顔検出処理の結果を利用して対応領域Bの特定をより適正に、且つ、より簡便に行うことができる。
なお、本発明は、上記実施形態1、2に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態1、2では、撮像部3により撮像された撮像画像Ibを取得するようにしたが、必ずしも画像を撮像する必要はなく、撮像部3を具備するか否かは適宜任意に変更可能である。例えば、外部機器にて撮像された撮像画像を取得するようにしても良い。
また、上記実施形態1、2では、照合対象領域Cを対応領域Bが分割された複数の小領域B1、…の中から選択するようにしたが、一例であってこれに限られるものではなく、必ずしも対応領域Bを分割する必要はなく、画像分割部7eを具備するか否かは適宜任意に変更可能である。例えば、照合対象領域設定部7fは、特徴抽出処理により抽出された特徴点の位置を考慮し、対応領域B内で特徴点が抽出された領域が含まれるように照合対象領域Cを設定しても良い。
さらに、上記実施形態1、2では、画像照合装置として、携帯端末100、200を例示したが、一例であってこれに限られるものではなく、画像照合処理の実行を制御可能なものであれば適宜任意に変更可能である。
加えて、上記実施形態1、2にあっては、登録手段、取得手段、特定手段、設定手段、照合手段としての機能を、携帯端末100の中央制御部1の制御下にて、画像登録部6、画像取得部7a、対応領域特定部7d、照合対象領域設定部7f、画像照合部7gが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部1のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリに、登録処理ルーチン、取得処理ルーチン、特定処理ルーチン、設定処理ルーチン、照合処理ルーチンを含むプログラムを記憶しておく。そして、登録処理ルーチンにより中央制御部1のCPUを、予め少なくとも一の画像を登録する手段として機能させるようにしても良い。また、取得処理ルーチンにより中央制御部1のCPUを、特定の被写体が撮像された撮像画像Ibを取得する手段として機能させるようにしても良い。また、特定処理ルーチンにより中央制御部1のCPUを、予め登録されている登録画像Iaの画素情報及び取得された撮像画像Ibの画素情報に基づいて、当該撮像画像Ib内で登録画像Iaと対応する対応領域Bを特定する手段として機能させるようにしても良い。また、設定処理ルーチンにより中央制御部1のCPUを、特定された対応領域B内で照合対象領域Cを設定する手段として機能させるようにしても良い。また、照合処理ルーチンにより中央制御部1のCPUを、設定された照合対象領域Cの特徴情報と、登録画像Iaにおける当該照合対象領域Cに対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて照合対象領域Cと登録画像Iaとを照合する手段として機能させるようにしても良い。
同様に、被写体情報取得手段、分割手段、算出手段についても、中央制御部1のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
〔付記〕
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
<請求項1>
予め少なくとも一の画像を登録する登録手段と、
特定の被写体が撮像された撮像画像を取得する取得手段と、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、
を備えたことを特徴とする画像照合装置。
<請求項2>
前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段を更に備え、
前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする請求項1に記載の画像照合装置。
<請求項3>
前記特定手段により特定された前記対応領域を複数の領域に分割する分割手段を更に備え、
前記設定手段は、前記分割手段により分割された複数の領域のうち、所定数の領域を前記照合対象領域として設定することを特徴とする請求項1又は2に記載の画像照合装置。
<請求項4>
前記分割手段は、更に、前記登録手段に登録される画像を複数の領域に分割し、
前記登録手段は、
前記分割手段により分割された複数の領域毎に、前記特徴情報を対応付けて画像を登録することを特徴とする請求項3に記載の画像照合装置。
<請求項5>
前記分割手段は、更に、前記登録手段に登録される画像の分割態様に応じて前記対応領域を前記複数の領域に分割することを特徴とする請求項4に記載の画像照合装置。
<請求項6>
前記分割手段は、更に、互いに隣合う領域の端部どうしを重複させるように前記対応領域を前記複数の小領域に分割することを特徴とする請求項3〜5の何れか一項に記載の画像照合装置。
<請求項7>
前記取得手段により取得された撮像画像における前記特定の被写体の位置及び当該撮像画像の大きさを表す被写体情報を算出する算出手段を更に備え、
前記特定手段は、
前記算出手段により算出された被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項1〜6の何れか一項に記載の画像照合装置。
<請求項8>
前記算出手段は、更に、前記登録手段に登録される登録画像内の所定の被写体の位置及び当該登録画像の大きさを表す被写体情報を算出し、
前記特定手段は、
前記算出手段により算出された前記撮像画像及び前記登録画像の各々の被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項7に記載の画像照合装置。
<請求項9>
前記特定手段は、前記特定の被写体である印影が含まれる画像領域を前記対応領域として特定することを特徴とする請求項1〜8の何れか一項に記載の画像照合装置。
<請求項11>
前記特定手段は、前記特定の被写体である人物の顔が含まれる顔領域を前記対応領域として特定することを特徴とする請求項1〜8の何れか一項に記載の画像照合装置。
<請求項12>
画像照合装置を用いた画像照合方法であって、
予め少なくとも一の画像を登録する処理と、
特定の被写体が撮像された撮像画像を取得する処理と、
登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、
特定された前記対応領域内で照合対象領域を設定する処理と、
設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、
を含むことを特徴とする画像照合方法。
<請求項13>
画像照合装置のコンピュータを、
予め少なくとも一の画像を登録する登録手段、
特定の被写体が撮像された撮像画像を取得する取得手段、
前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、
前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、
前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、
として機能させることを特徴とするプログラム。
100、200 携帯端末
1 中央制御部
6 画像登録部
6a データベース
7、207 画像処理部
7a 画像取得部
7b 被写体情報算出部
7d 対応領域特定部
7e 画像分割部
7f 照合対象領域設定部
7g 画像照合部
7h 顔検出部

Claims (11)

  1. 予め少なくとも一の画像登録されている登録手段と、
    特定の被写体が撮像された撮像画像を取得する取得手段と、
    前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段と、
    前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段と、
    前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段と、
    前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段と、を備え、
    前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
    前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする画像照合装置。
  2. 前記特定手段により特定された前記対応領域を複数の領域に分割する分割手段を更に備え、
    前記設定手段は、前記分割手段により分割された複数の領域のうち、所定数の領域を前記照合対象領域として設定することを特徴とする請求項に記載の画像照合装置。
  3. 前記分割手段は、更に、前記登録手段に登録される画像を複数の領域に分割し、
    前記登録手段は、
    前記分割手段により分割された複数の領域毎に、前記特徴情報を対応付けて画像を登録することを特徴とする請求項に記載の画像照合装置。
  4. 前記分割手段は、更に、前記登録手段に登録される画像の分割態様に応じて前記対応領域を前記複数の領域に分割することを特徴とする請求項に記載の画像照合装置。
  5. 前記分割手段は、更に、互いに隣合う領域の端部どうしを重複させるように前記対応領域を前記複数の小領域に分割することを特徴とする請求項2〜4の何れか一項に記載の画像照合装置。
  6. 前記取得手段により取得された撮像画像における前記特定の被写体の位置及び当該撮像画像の大きさを表す被写体情報を算出する算出手段を更に備え、
    前記特定手段は、
    前記算出手段により算出された被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項1〜の何れか一項に記載の画像照合装置。
  7. 前記算出手段は、更に、前記登録手段に登録される登録画像内の所定の被写体の位置及び当該登録画像の大きさを表す被写体情報を算出し、
    前記特定手段は、
    前記算出手段により算出された前記撮像画像及び前記登録画像の各々の被写体情報に基づいて、前記撮像画像内で前記対応領域を特定することを特徴とする請求項に記載の画像照合装置。
  8. 前記特定手段は、前記特定の被写体である印影が含まれる画像領域を前記対応領域として特定することを特徴とする請求項1〜の何れか一項に記載の画像照合装置。
  9. 前記特定手段は、前記特定の被写体である人物の顔が含まれる顔領域を前記対応領域として特定することを特徴とする請求項1〜の何れか一項に記載の画像照合装置。
  10. 画像照合装置を用いた画像照合方法であって、
    予め少なくとも一の画像登録されている登録処理と、
    特定の被写体が撮像された撮像画像を取得する処理と、
    登録されている登録画像の画素情報及び取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する処理と、
    特定された前記対応領域内で照合対象領域を設定する処理と、
    設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する処理と、
    前記撮像画像の重心及び共分散行列の固有値を取得する処理と、を含み、
    前記登録理は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
    前記特定する処理は、取得された前記撮像画像の重心及び共分散行列の固有値と、登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とする画像照合方法。
  11. 画像照合装置のコンピュータを、
    予め少なくとも一の画像登録されている登録手段、
    特定の被写体が撮像された撮像画像を取得する取得手段、
    前記登録手段に登録されている登録画像の画素情報及び前記取得手段により取得された撮像画像の画素情報に基づいて、当該撮像画像内で前記登録画像と対応する対応領域を特定する特定手段、
    前記特定手段により特定された前記対応領域内で照合対象領域を設定する設定手段、
    前記設定手段により設定された前記照合対象領域の特徴情報と、前記登録画像における当該照合対象領域に対応する領域の特徴情報とを対応付け、当該対応付けの結果に基づいて前記照合対象領域と前記登録画像とを照合する照合手段、
    前記撮像画像の重心及び共分散行列の固有値を取得する被写体情報取得手段、として機能させ、
    前記登録手段は、前記登録画像の重心及び共分散行列の固有値を各登録画像と対応付けて登録し、
    前記特定手段は、前記被写体情報取得手段により取得された前記撮像画像の重心及び共分散行列の固有値と、前記登録手段に登録されている登録画像の重心及び共分散行列の固有値とをそれぞれ比較することで、前記対応領域を特定することを特徴とするプログラム。
JP2013165168A 2013-08-08 2013-08-08 画像照合装置、画像照合方法及びプログラム Active JP6217225B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013165168A JP6217225B2 (ja) 2013-08-08 2013-08-08 画像照合装置、画像照合方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013165168A JP6217225B2 (ja) 2013-08-08 2013-08-08 画像照合装置、画像照合方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015035070A JP2015035070A (ja) 2015-02-19
JP6217225B2 true JP6217225B2 (ja) 2017-10-25

Family

ID=52543563

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013165168A Active JP6217225B2 (ja) 2013-08-08 2013-08-08 画像照合装置、画像照合方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6217225B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7268879B2 (ja) * 2017-01-02 2023-05-08 ガウス サージカル,インコーポレイテッド 重複撮像を予測した手術アイテムの追跡
JP7336346B2 (ja) * 2019-10-04 2023-08-31 日本放送協会 フレーミング情報生成装置及びそのプログラム
CN112150558B (zh) * 2020-09-15 2024-04-12 阿波罗智联(北京)科技有限公司 用于路侧计算设备的障碍物三维位置获取方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04155595A (ja) * 1990-10-19 1992-05-28 Fujitsu Ltd 文字正規化処理装置
JP3533722B2 (ja) * 1994-09-30 2004-05-31 オムロン株式会社 不良検査方法およびその装置
JP4426029B2 (ja) * 1999-09-27 2010-03-03 富士通株式会社 画像照合方法および装置
JP4483334B2 (ja) * 2004-02-18 2010-06-16 富士ゼロックス株式会社 画像処理装置

Also Published As

Publication number Publication date
JP2015035070A (ja) 2015-02-19

Similar Documents

Publication Publication Date Title
US8509482B2 (en) Subject tracking apparatus, subject region extraction apparatus, and control methods therefor
JP6467787B2 (ja) 画像処理システム、撮像装置、画像処理方法およびプログラム
CN108668093B (zh) Hdr图像的生成方法及装置
US9407884B2 (en) Image pickup apparatus, control method therefore and storage medium employing phase difference pixels
JP2008152622A (ja) ポインティング装置
JP2013197785A (ja) 画像生成装置、画像生成方法及びプログラム
JP4947136B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN106454079B (zh) 图像处理方法及装置和相机
US9196029B2 (en) Threshold setting device for setting threshold used in binarization process, object detection device, threshold setting method, and computer readable storage medium
US8441554B2 (en) Image capturing apparatus capable of extracting subject region from captured image
US10013632B2 (en) Object tracking apparatus, control method therefor and storage medium
JP2015148532A (ja) 距離計測装置、撮像装置、距離計測方法、およびプログラム
CN104346613B (zh) 图像处理装置以及图像处理方法
WO2019202511A1 (en) Object segmentation in a sequence of color image frames based on adaptive foreground mask upsampling
JP6374849B2 (ja) ユーザ端末、色彩補正システム及び色彩補正方法
JP2008299784A (ja) 被写体判定装置及びそのプログラム
JP6217225B2 (ja) 画像照合装置、画像照合方法及びプログラム
JP5862623B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6171660B2 (ja) 情報処理装置、情報処理システム及びプログラム
JP5167236B2 (ja) 被写体追跡装置及びその制御方法
JP5131399B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5222429B2 (ja) 被写体追跡装置及びその制御方法
JP6286919B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2013143725A (ja) 画像表示装置、画像表示方法及びプログラム
JP5858012B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170606

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170911

R150 Certificate of patent or registration of utility model

Ref document number: 6217225

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150