以下、図面を参照して、本発明を実施するための最良の形態について説明する。
(実施の形態1)
図1は、本発明の画像検索装置を備えるデジタルカメラの概略構成例を示す背面図である。本実施の形態1のデジタルカメラ1は、カメラ本体の上面に配設されて撮影タイミングを指示するためのレリーズ操作部13aや、カメラ本体の背面に配設されたズーム操作部13b、撮影モード、再生モード、さらには再生モード中の検索モード等のモード設定を行うためのモード設定操作部13c、上下左右の方向を指示するための方向操作部13d等の各種操作ボタンを備えている。これらレリーズ操作部13a,ズーム操作部13b、モード設定操作部13c、方向操作部13d等により操作部13(図2参照)が構成されている。また、デジタルカメラ1は、カメラ本体の背面の大半の領域を占める表示部23を備えている。この表示部23は、撮影画像やライブビュー画像の他に、検索画面を含め、各種設定情報等を表示するためのものであり、LCDやELD等の薄型表示装置で実現されている。また、デジタルカメラ1は、特に図示しないが、カメラ本体の前面側に撮影レンズ等の撮像光学系を備え、カメラ本体に内蔵の撮像素子に被写体像を結像可能に構成されている。
図2は、画像検索装置を備えるデジタルカメラ1のシステム構成例を示すブロック図である。本実施の形態1のデジタルカメラ1は、デジタルカメラ1を構成する各部に対する指示やデータ転送等を行い、デジタルカメラ1の動作を統括的に制御するためのCPUからなる制御部11を備える。また、デジタルカメラ1は、内部データ記憶部12、カメラ部15、撮像処理部16、RAM17、画像処理部18、圧縮伸長部19、記録・再生部20、表示駆動部22、類似画像検索部25、外部IF部26の各部を備える。これら各部は、制御部11に対してバスライン30によって接続されている。
内部データ記憶部12は、例えばフラッシュメモリ等の電気的に書換えが可能な不揮発性メモリである。この内部データ記憶部12は、デジタルカメラ1を動作させ、このデジタルカメラ1が備える種々の機能を実現するためのCPU用のプログラム(例えば、画像検索用プログラム)や、このプログラムの実行中に使用されるデータ、例えば、後述する検索画面に表示させる条件アイコン、その他の表示用アイコンや文字などのデータが予め格納されている。
カメラ部15は、デジタルカメラ1が被写体像を撮像するためのものであり、撮影レンズ、撮像素子、絞り、シャッタ、AF機構、AF駆動回路、ズーム機構、ズーム駆動機構等からなる。ここで、撮像素子は、例えばCCDやCMOSセンサ等の2次元固体撮像素子からなり、撮影レンズを含む撮影光学系を通して入射する被写体像を光電変換し、アナログ電気信号として出力する。撮像処理部16は、撮像素子駆動回路を含む他、撮像素子から出力されるアナログ電気信号に対してAGC、CDRS等のアナログ信号処理を施した後、A/Dコンバータでデジタル電気信号に変換して出力させるためのものである。撮像部27は、これらカメラ部15と撮像処理部16とによって構成されている。
RAM17は、例えばSDRAMからなり、一時記憶メモリやワーキングエリアとして利用されるメモリであり、撮像処理部16から出力されるデジタル電気信号や、画像処理部18による処理中の画像データ等を一時的に記憶する。
画像処理部18は、撮像処理部16から出力されるデジタル電気信号に対して画素補間処理、色補正処理、ガンマ処理等の各種の画像処理を施すとともに、記録用、表示用等に適した画像データに変換する処理を行う。すなわち、画像処理部18は、記録時(撮影時)には、記録画像に対しては記録用の画像処理を施し、表示用のライブビュー画像に対しては表示用の簡易な画像処理を施す。また、画像処理部18は、電子ズームが指示された場合には、電子ズーム処理も行う。
圧縮伸長部19は、撮影画像の画像データを画像記憶部21に記録する際、あるいは画像記憶部21に記録されている画像データを表示する際等において、周知のJPEG方式等に基づく画像データの圧縮処理や伸長処理を行う。
記録・再生部20は、画像記憶部21に対する画像データの書き込みや画像記憶部21からの画像データの読出しを行うためのものであり、画像記憶部21の種類に応じたものが用いられる。ここで、画像記憶部21は、例えばxD−ピクチャーカード(登録商標)やコンパクトフラッシュ(登録商標)カード等のカメラ本体に着脱自在な記録媒体や、HDDであり、撮影画像の蓄積枚数が数百枚から1000枚以上のものが用いられている。
表示駆動部22は、エンコーダやD/Aコンバータ等を有して、表示部23に対する各種情報の表示を行わせるためのドライバである。また、類似画像検索部25は、ユーザにより選択された検索条件でユーザにより指定された基準画像に類似する画像を検索するための検索エンジンである。さらに、外部IF部26は、例えばUSB等の規格によってデジタルカメラ1を、例えばパソコン、プリンタ、携帯電話等の外部機器と接続するためのインタフェースであり、USB端子を備えている。
ここで、本実施の形態の制御部11は、画像検索用プログラムにより実行される機能として、検索制御部11aと表示制御部11bと操作検出部11cの各機能部を備える。操作検出部11cは、画像検索時に表示部23に表示される検索画面に対するユーザの操作や、操作部13に対するユーザの操作を検出するための機能部である。ここで、本実施の形態では、検索画面を表示する表示部23に重ねて配設されたタッチパネル14を備えており、操作検出部11cは、このタッチパネル14に対するユーザの操作を検出することで、検索画面に対するユーザ操作の検出動作を実行する。また、表示制御部11bは、表示部23に対する検索画面の表示を制御するとともに、この検索画面の表示に関する後述のような各種制御処理を実行するための機能部である。さらに、検索制御部11aは、検索画面に対するユーザの操作に基づいて指定された基準画像と選択された検索条件で、対応する類似画像を検索するように類似画像検索部25を制御するための機能部である。
つぎに、モード設定操作部13cの操作により検索モードが設定された場合に、表示制御部11bによる検索画面23aの表示制御の概要を説明する。図3は、検索画面23aに関する各種情報の表示領域の関係を模式的に示す説明図である。表示制御部11bは、検索モードに設定された場合、検索画面23aに表示させ得る表示内容として、基準画像領域Raと検索条件領域Rbと検索画像領域Rcとの上下方向3列に分けられた領域を用意する。そして、表示制御部11bは、デジタルカメラ1における検索画面23aのサイズと各領域Ra,Rb,Rcの適正な表示サイズの関係上、少なくとも2つの領域を同時に検索画面23aに表示させるように制御する。
まず、最上位の基準画像領域Raは、画像記憶部21に記憶された多数枚の画像aを複数枚(例えば、8枚程度)ずつ順次指定自在に表示させるための領域である。類似画像検索部25による検索処理に用いる基準画像Paをユーザに指定させるためである。図3に示す例では、撮影済みの画像aが2列のサムネイル形式で表示される。「1,2,3,・・」は、画像番号で、例えば時系列順(撮影日時順)に付与される。表示される画像aはスクロール操作によって検索画面23a内で左右方向に移動自在とされている。ここで、基本的には、検索画面23a内に表示されている画像a中でユーザが所望の画像にタッチすることで検索に用いる基準画像Paが指定される。このため、検索画面23aに表示される各画像aは、ある程度の枚数を同時に表示できるとともに画像内容を判読でき、かつ、ユーザの指等によるタッチ操作に支障ない程度の大きさに設定されている。
また、基準画像領域Raに隣接させて中段に位置する検索条件領域Rbは、類似画像検索部25による検索処理に用いられる検索条件を表示させるための領域である。検索条件をユーザに選択させるためである。本実施の形態では、複数の検索条件をそれぞれアイコン化した条件アイコンbとして表示させるように設定されている。図3に示す例では、例えば複数の条件アイコンbが1列に表示され、表示される条件アイコンbはスクロール操作によって検索画面23a内で左右方向に移動自在とされている。ここで、検索に用いる検索条件を規定する条件アイコンPbは、基本的には、検索画面23a内に表示されている条件アイコンb中でユーザが所望のアイコンにタッチすることで選択可能とされている。このため、検索画面23aに表示される各条件アイコンbは、複数のアイコンを同時に表示できるとともにアイコン内容を判読でき、かつ、ユーザの指等によるタッチ操作に支障ない程度の大きさに設定されている。本実施の形態では、条件アイコンbは、画像aよりも若干大きめに設定されている。
さらに、検索条件領域Rbに隣接させて最下位に位置する類似画像領域Rcは、類似画像検索部25により検索された類似画像Pcを検索結果として表示させるための領域である。指定された基準画像Paと選択された条件アイコンPbに対応する検索条件で検索された類似画像が表示される。図3に示す例では、検索された類似画像Pcが1列のサムネイル形式で表示され、表示される類似画像Pcはスクロール操作によって検索画面23a内で左右方向に移動自在とされている。ここで、類似画像Pcは、基本的には、画像aや基準画像Paと同じ大きさで表示されるように設定されている。
ここで、表示制御部11bは、例えば画像検索に際して、基準画像Paの指定や検索条件の選択を行わせる段階では、検索画面23aに基準画像領域Raと検索条件領域Rbとの2つの領域を同時に表示させるように制御する。そして、画像検索の開始後には、図3中に模式的に示すように、表示部のサイズが許せば、検索画面23aに基準画像領域Raの一部と検索条件領域Rbと類似画像領域Rcとが同時に表示されるよう制御されるのが望ましい。
このような検索画面23aの表示制御の下に、本実施の形態の検索モード時の検索画面23aの表示例について説明する。図4は、検索モードにおける検索画面23aの基本的な表示例を示す説明図である。まず、図4(a)は、検索モードに入った状態の検索画面23aの一表示例を示す。表示制御部11bは、基準画像領域Raに画像記憶部21から読み出した複数枚の画像aを2列のサムネイル形式で表示させるとともに、検索条件領域Rbに複数の条件アイコンbを1列で表示させる。なお、各画像aの画像番号は省略するものとする。また、各条件アイコンbには、その条件アイコンbの意味を示す文字表記の条件タイトルtを併せて表示させる。
また、表示制御部11bは、検索画面23a内において基準画像領域Ra、検索条件領域Rbの左右両側(または、片側)に、左右のスクロールアイコンIa,Ibを表示させる。スクロールアイコンIaにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、基準画像領域Raに表示される画像aを左または右方向にスクロール移動させる。同様に、スクロールアイコンIbにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、検索条件領域Rbに表示される条件アイコンbを左または右方向にスクロール移動させる。また、基準画像領域Raの下部には、位置ゲージGaを表示させる。位置ゲージGaは、検索対象となる全選択画像に対して現選択画像の表示位置を示すものである。
ここで、類似画像を検索するための検索条件について説明する。本実施の形態では、検索制御部11aにより、複数の検索条件として、例えば撮影時刻、色、人物の顔、撮影シーン、撮影場所、撮影構図の6種類の条件が予め用意されている。表示制御部11bによって、これら複数の検索条件が表示される。「撮影時刻」は、基準画像の撮影日時を条件とするものであり、同じ日時か近傍日時のものを検索させるためのものであり、条件アイコンbとしては時計をイメージしたアイコンを表示させ、条件タイトルtとしては「あの時間」と表示させる。「色」は、基準画像の特徴的または支配的な色を条件とするものであり、条件アイコンbとしては複数色の色付き市松模様をイメージしたアイコンを表示させ、条件タイトルtとしては「あの色」と表示させる。
また、「人物の顔」は、基準画像の人物を条件とするものであり、条件アイコンbとしては笑顔をイメージしたアイコンを表示させ、条件タイトルtとしては「あの人」と表示させる。「撮影シーン」は、基準画像が夜景である、夕焼け画像である等の状況を条件とするものであり、条件アイコンbとしては山、星、月をイメージしたアイコンを表示させ、条件タイトルtとしては「あのシーン」と表示させる。「撮影場所」は、基準画像を撮影した位置を条件とするものであり、条件アイコンbとしては日本地図をイメージしたアイコンを表示させ、条件タイトルtとしては「あの場所」と表示させる。「撮影構図」は、基準画像の構図を条件とするものであり、条件アイコンbとしては人が2人並んだ様子をイメージしたアイコンを表示させ、条件タイトルtとしては「あの構図」と表示させる。
これらの検索条件中、色や人物の顔なる条件は、画像記憶部21に格納されている各画像自体が有する特徴量の一つに対応するものである。また、撮影時刻、撮影シーン、撮影場所、撮影構図なる条件に関しては、各画像の撮影時に付与される複数の情報中に含まれるものである。
まず、図4(a)に示すような検索画面23aの表示により、ユーザは、検索のための基準画像の指定と検索条件の選択が可能となる。ここで、検索画面23a中に基準画像として指定すべき所望の画像aが表示されていない場合には、スクロールアイコンIa部分にタッチされることで、基準画像領域Raの表示画像aが独立した移動により切換えられる。同様に、検索画面23a中に検索条件として選択すべき所望の条件アイコンbが表示されていない場合には、スクロールアイコンIb部分にタッチされることで、検索条件領域Rbの条件アイコンbが独立した移動により切換えられる。そして、基準画像領域Ra中の所望の画像a部分に指などでタッチされることで、基準画像Paが指定される。また、検索条件領域Rb中の所望の条件アイコンb部分に指などでタッチされることで、検索条件Pbが選択される。
ここで、本実施の形態では、所望の画像aを基準画像Paとして指定する場合、図4(b)に示すように、指定した基準画像Paをそのまま選択された検索条件Pbの条件アイコンb部分まで、ドラッグ&ドロップ操作されることで、基準画像Paの指定と検索条件Pbの選択とを行わせる。このようにして基準画像Paの指定と検索条件Pbの選択が行われると、検索制御部11aは、指定された基準画像Paと選択された検索条件Pbで、類似画像検索部25による類似画像の検索処理を開始させる。
この際、ドラッグ&ドロップ操作が行われたことが、タッチパネル14を通じて操作検出部11cで検出されると、表示制御部11bは、図4(c)に示すように、ユーザの操作により指定された基準画像Paを選択された検索条件Pbの条件アイコンbに重ねて表示させる。すなわち、選択された条件アイコンb上に指定された基準画像Paを上書き状態で貼り付けることで、条件アイコンbの表示を基準画像Paの表示に置き換える。これにより、現在検索に使用されている検索条件と基準画像が具体的にユーザに明示される。
そして、類似画像検索部25による類似画像の検索処理が進むと、表示制御部11bは、図4(c)に示すように、その検索結果として得られた類似画像Pcを類似画像領域Rcに1列のサムネイル形式で表示させる。ここで、類似画像領域Rcが出現するように検索画面23aは下方向にシフトされるよう表示される。また、類似画像領域Rcの検索画面23a内の左右両側(または、片側)に、左右のスクロールアイコンIcを表示させる。スクロールアイコンIcにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、類似画像領域Rcに表示される類似画像Pcを左または右方向にスクロール移動させる。
また、表示制御部11bは、類似画像領域Rcの下部には、位置ゲージGcを表示させる。位置ゲージGcは、検索結果となる全類似画像に対して、現在表示されている類似画像の相対位置を示すものである。さらに、表示制御部11bは、区切り線Lによって区分け表示を行なわせる。区切り線Lは、類似画像領域Rcと検索条件領域Rbの一部とを一体化した領域と見せるような所定パターン形状である。区切り線Lの表示により、検索された類似画像Pcとその検索の条件である条件アイコンb(置き換えられた基準画像Pa)の関連が明瞭に示される。
なお、図4(c)に示す例では、検索された類似画像Pcを例えば撮影日時による時系列順に表示させるようにしているが、これに限らない。例えば、検索結果において基準画像Paとの類似度が高い類似度順に表示させるようにしてもよく、さらには、時系列順と類似度順との表示を切換え可能としてもよい。
つづいて、図4(c)以降の操作例および表示例について、数例挙げて説明する。まず、図5は、図4(c)に示すような検索された類似画像Pcの表示後に、さらにユーザにより同じ検索条件で新たな基準画像が指定される場合の表示例を示す説明図である。まず、図5(a)は、図4(c)に示すような検索画面23aの表示状態において、ユーザにより2つ目の基準画像Pa2が指定されて、検索条件領域Rb中の前回と同じ検索条件の部分にドラッグ&ドロップ操作が行われた場合を示している。このような操作が行われた場合、検索制御部11aは、今回の基準画像Pa2と選択されている検索条件とに従い、類似画像検索部25による類似画像の検索処理を開始させる。
このような検索処理と並行して、表示制御部11bは、図5(b)に示すように、前回の基準画像Pa1と今回の基準画像Pa2との関係を選択するためのメニュー画面M1を検索画面23a中に表示させる。このメニュー画面M1は、前回の基準画像Pa1と関係のない検索を行わせる「新規検索」と、両基準画像Pa1,Pa2のORをとる「OR検索」と、両基準画像Pa1,Pa2のANDをとる「AND検索」とを選択自在に表示する。図5(b)は、例えば「OR検索」が選択された様子を示している。
メニュー画面M1において、ユーザの操作により「OR検索」が選択されたことがタッチパネル14を通じて操作検出部11cにより検出されると、表示制御部11bは、図5(c)に示すように、前回の基準画像Pa1に加えて今回の新たな基準画像Pa2も選択された条件アイコンb部分に重ねて表示させるとともに、両者の関係を示す文字(ここでは、OR)を表示させる。
そして、類似画像検索部25による類似画像の検索処理が進むと、表示制御部11bは、図4(c)の場合と同様にして、図5(c)中に示すように、両基準画像Pa1,Pa2のORによる検索結果として得られた類似画像Pcを類似画像領域Rcに1列のサムネイル形式で表示させる。
ここで、図5(c)中に示すように、類似画像領域Rcの所望の類似画像Pc部分をユーザがシングルタッチしたことがタッチパネル14を通じて操作検出部11cにより検出されると、表示制御部11bは、図5(d)に示すように、タッチ指定された類似画像Pcを検索画面23aの全域に拡大表示させる。この際、表示制御部11bは、検索画面23aの左右両側にスクロールアイコンIdを併せて表示させる。スクロールアイコンIdにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、類似画像領域Rc中の左右に隣接する類似画像Pcを1コマずつ拡大表示させる。一方、スクロールアイコンId以外の部分にタッチした場合には、表示制御部11bは、図5(c)に示す元のサムネイル表示に戻す。
また、図6は、図4(c)に示すような検索された類似画像Pcの表示後に、さらにユーザにより検索条件が追加される場合の表示例を示す説明図である。まず、図6(a)は、図4(c)に示すような検索画面23aの表示において、ユーザにより検索条件領域RbのスクロールアイコンIbが操作され、条件アイコンbをスクロール移動させて変更させている様子を示している。
図6(b)は、ユーザにより基準画像領域Raおよび検索条件領域RbのスクロールアイコンIa,Ibがそれぞれ操作され、画像aや条件アイコンbをスクロール移動により変更させた状態を示している。
図6(c)は、基準画像領域Ra中から新たな基準画像Pa2が指定され、検索条件領域Rb中から新たな検索条件(条件アイコン)Pb2が選択された状態を示している。ここで、本実施の形態では、前述した場合と同様に、所望の画像aを基準画像Pa2として指定する場合、指定した基準画像Pa2をそのまま選択された検索条件Pb2の条件アイコン部分まで、ドラッグ&ドロップ操作することで、基準画像Pa2の指定と検索条件Pb2の選択とを行わせる。このようにして基準画像Pa2の指定と検索条件Pb2の選択が行われると、検索制御部11aは、指定された基準画像Pa2と選択された検索条件Pb2で、類似画像検索部25による類似画像の検索処理を開始させる。
このような検索処理と並行して、表示制御部11bは、図6(d)に示すように、前回の検索条件Pb1と今回の検索条件Pb2との関係を選択するためのメニュー画面M1を検索画面23a中に表示させる。このメニュー画面M1は、前回の検索条件Pb1と関係のない検索を行わせる「新規検索」と、前回と今回の検索条件のORをとる「OR検索」と、前回と今回の検索条件のANDをとる「AND検索」とを選択自在に表示する。図6(d)は、例えば「AND検索」が選択された様子を示している。
メニュー画面M1において、ユーザの操作により「AND検索」が選択されたことがタッチパネル14を通じて操作検出部11cにより検出されると、検索制御部11aは、前回と今回の検索条件のANDをとる検索処理を実行させる。そして、類似画像検索部25による類似画像のAND検索処理が進むと、表示制御部11bは、図6(e)中に示すように、両検索条件のANDによる検索結果として得られた類似画像Pcを類似画像領域Rcに1列のサムネイル形式で表示させる。さらに、表示制御部11bは、区切り線Lによって区分け表示を行なわせる。区切り線Lの表示により、類似画像領域Rcに表示させる類似画像Pcと、検索条件領域Rbの中で類似画像Pcの検索のために選択された検索条件Pb1,Pb2(置き換えられた基準画像Pa1,Pa2)の関連が明瞭に示される。
さらに、図7は、図4(c)に示すような検索された類似画像Pcの表示後に、さらにユーザにより新規検索が選択される場合の表示例を示す説明図である。まず、図7(a)は、図4(c)に示すような検索画面23aの表示において、新たな基準画像の指定や検索条件の選択を行なう前の様子を示している。
図7(b)は、ユーザにより基準画像領域Raおよび検索条件領域RbのスクロールアイコンIa,Ibがそれぞれ操作され、画像aや条件アイコンbをスクロール移動により変更させた状態を示している。さらに、基準画像領域Ra中から新たな基準画像Pa2が指定され、検索条件領域Rb中から新たな検索条件(条件アイコン)Pb2が選択された状態を示している。ここで、本実施の形態では、前述した場合と同様に、所望の画像aを基準画像Pa2として指定する場合、指定した基準画像Pa2をそのまま選択された検索条件Pbの条件アイコン部分まで、ドラッグ&ドロップ操作することで、基準画像Pa2の指定と検索条件Pb2の選択とを行わせる。このようにして基準画像Pa2の指定と検索条件Pb2の選択が行われると、検索制御部11aは、指定された基準画像Pa2と選択された検索条件Pb2で、類似画像検索部25による類似画像の検索処理を開始させる。
このような検索処理と並行して、表示制御部11bは、図7(c)に示すように、前回の検索条件Pb1と今回の検索条件Pb2との関係を選択するためのメニュー画面M1を検索画面23a中に表示させる。このメニュー画面M1は、前回の検索条件Pb1と関係のない検索を行わせる「新規検索」と、両検索条件のORをとる「OR検索」と、両検索条件のANDをとる「AND検索」とを選択自在に表示する。図7(c)は、例えば「新規検索」が選択された様子を示している。
メニュー画面M1において、ユーザの操作により「新規検索」が選択されたことがタッチパネル14を通じて操作検出部11cにより検出されると、今回の検索条件Pb2のみによる検索処理となる。そして、類似画像検索部25による類似画像の検索処理が進むと、表示制御部11bは、図7(d)中に示すように、検索条件Pb2による検索結果として得られた類似画像Pc2を類似画像領域Rcに1列のサムネイル形式で表示させる。さらに、表示制御部11bは、区切り線Lによって区分け表示を行なわせる。区切り線Lの表示により、類似画像領域Rcに表示させる類似画像Pc2と、検索条件領域Rbの中で類似画像Pcの検索のために選択された検索条件Pb2(置き換えられた基準画像Pa2)の関連が明瞭に示される。
また、図8は、検索結果の利用メニューの表示例を示す説明図である。図4(c)に示すような検索結果が表示された検索画面23aにおいて、ユーザにより所定方向の方向操作部13dが操作されたことが操作検出部11cにより検出されると、表示制御部11bは、図8に示すように、検索画面23aに検索結果の利用用途を選択するためのメニュー画面M2を表示させる。このメニュー画面M2の選択肢としては、「保存する」「印刷する」「削除する」「転送する」「リセットする」の5種類が用意されている。「保存する」がタッチ選択された場合には、検索結果は、例えば画像記憶部21に格納される。「印刷する」がタッチ選択された場合には、検索結果は、例えば外部IF部26に接続されたプリンタにより印刷される。「削除する」がタッチ選択された場合には、検索結果は削除される。「転送する」がタッチ選択された場合には、例えば外部IF部26に接続されたPCや携帯電話等に転送される。「リセットする」がタッチ選択された場合には、表示されている検索結果はリセットされる。ここで、検索結果のデータには、検索条件と検索された類似画像あるいは検索した日時等が含まれる。
なお、前述の説明では、小型携帯機器であるデジタルカメラ1の検索画面23aのサイズと各領域Ra,Rb,Rcの適正な表示サイズの関係上、2つの領域を同時に検索画面23aに表示させるように制御したが、検索画面23aのサイズや各領域Ra,Rb,Rcの適正な表示サイズにおいて特に支障がなければ、図9に示すように、検索画面23aに3つの領域Ra,Rb,Rcを同時に表示させるようにしてもよいのは勿論である。
つづいて、上述したような表示制御を実現するための制御部11による動作制御例について説明する。図10は、制御部11により実行される検索処理の動作制御例を示すメインフローチャートである。本実施の形態で対象とする類似画像検索処理は、モード設定操作部13bによって再生モード中の検索モードが指定されることにより実行される。まず、再生モードにおいて、検索モードが指定されているか否かを判定する(ステップS1)。検索モードが指定されていなければ(ステップS1:No)、通常の再生処理を実行する(ステップS2)。一方、検索モードが指定されていれば(ステップS1:Yes)、検索モードの処理を実行する(ステップS3)。そして、いずれの処理にしても、所定のOFF指示があるまで(ステップS4:Yes)、処理を繰り返す。
図11は、制御部11により実行されるステップS3の検索モードの動作制御例を示すフローチャートである。まず、検索モードが指定されると、表示制御部11bによって表示部23に検索画面23aを表示させる(ステップS11)。この場合の検索画面23aは、例えば図4(a)に示したようなものである。
ついで、基準画像領域Raや検索条件領域RbのスクロールアイコンIa,Ibに対してユーザのタッチ操作によるスクロール指示があったか否かを操作検出部11cの検出結果により判定する(ステップS12)。スクロール指示があった場合には(ステップS12:Yes)、表示制御部11bは、検索画面23aにおいてスクロール処理を実行する(ステップS13)。すなわち、スクロールアイコンIaによるスクロール指示の場合であれば、画像aを独立してスクロール移動させ、スクロールアイコンIbによるスクロール指示の場合であれば、条件アイコンbを独立してスクロール移動させる。
そして、基準画像Paが指定され、条件アイコンPbが選択されたか否かを操作検出部11cの検出処理により判定する(ステップS14)。ここでは、例えば図4(b)等に示したように、指定された基準画像Paが、選択された条件アイコンPbに対してドラッグ&ドロップされることにより、基準画像Paと検索条件(条件アイコン)Pbとが確定したか否かを判定する。基準画像Paの指定および条件アイコンPbの選択がない場合には(ステップS14:No)、停止等の指示があるか否かを判定し(ステップS15)、特に停止等の指示がなければ(ステップS15:No)、ステップS12に戻り、スクロール指示や基準画像の指定等を待つ。
基準画像Paの指定および条件アイコン(検索条件)Pbの選択を意味するドラッグ&ドロップ操作があった場合には(ステップS14:Yes)、表示制御部11bは、検索画面23aの表示処理を実行する(ステップS16)。この表示処理は、例えば図4(c)中に示したような条件アイコンPbに対してドラッグ&ドロップ操作された基準画像Paの上書き貼り付けによる表示の変更等の処理である。そして、検索制御部11aは、類似画像検索部25に対して検索処理を実行させる(ステップS17)。
図12は、類似画像検索部25により実行される検索実行処理例を示すフローチャートである。この処理は、例えば特開2001−117928号公報に示される処理に準じて行えばよく、ここでは、概略を示す。まず、選択された条件アイコンbにより検索条件を設定する(ステップS41)。次いで、指定された基準画像Paを画像記憶部21から読み出す(ステップS42)。そして、設定された検索条件Pbに応じて、基準画像Paの特徴量を算出し、特徴ベクトルを作成する(ステップS43)。
一方、画像記憶部21に記憶されている多数の画像aを比較画像として1枚ずつ順次読み出す(ステップS44)。そして、検索条件に応じて、比較画像の特徴量を算出し、特徴ベクトルを作成する(ステップS45)。ついで、基準画像Paおよび比較画像aの特徴ベクトルを比較し(ステップS46)、比較の結果、類似度が一定以上であるか否かを判定する(ステップS47)。類似度が一定以上であれば(ステップS47:Yes)、比較画像aにつき類似画像である旨の類似設定を行い(ステップS48)、類似度が一定以上でなければ(ステップS47:No)、比較画像aにつき非類似画像である旨の非類似設定を行う(ステップS49)。そして、中止の指示があれば(ステップS50:Yes)、検索実行処理を途中で中止してリターンするが、中止の指示がなければ(ステップS50:No)、画像記憶部21に格納された最後の画像aが比較画像となるまで(ステップS51:Yes)、ステップS44〜S49の処理を繰り返し実行する。
そして、図11に戻り、検索実行処理を終了すると、この処理が1回目であるか否かを判定する(ステップS18)。1回目であった場合には(ステップS18:Yes)、表示制御部11bは、検索結果として得られた類似画像Pcを検索画面23aの類似画像領域Rcに表示させる(ステップS19)。ここで、表示される類似画像Pcは、ステップS48の処理で類似設定された比較画像であり、図4(c)に示したように表示される。
一方、検索実行処理が、1回目ではなく、2回目以降であった場合には(ステップS18:No)、表示制御部11bは、図5(b)、図6(d)、図7(c)に示したように、検索画面23aにメニュー画面M1を表示させる(ステップS20)。そして、このメニュー画面M1の表示に対して、いずれの処理がユーザによりタッチ指示されたかを操作検出部11cの検出結果により判定する(ステップS21)。ここで、図5(b)に示したようにOR検索の指示があった場合には、図5(c)に示したように、OR検索処理を実行させる(ステップS22)。また、図6(d)に示したようにAND検索の指示があった場合には、図6(e)に示したように、AND検索処理を実行させる(ステップS23)。さらに、図7(c)に示したように新規検索の指示があった場合には、図7(d)に示したように、前回結果をリセットする処理を実行させる(ステップS24)。そして、いずれの場合も、表示制御部11bは、検索結果を検索画面23aの類似画像領域Rcに表示させる(ステップS19)。
その後、ユーザによる方向操作部13dの操作に伴う検索結果の利用メニューの表示指示があったか否かを判定する(ステップS25)。利用メニューの表示指示があった場合には(ステップS25:Yes)、表示制御部11bは、図8に示したように、検索画面23aにメニュー画面M2を表示させる(ステップS26)。そして、このメニュー画面M2上で利用項目のタッチ指定があった場合には(ステップS27:Yes)、指定された利用項目に応じた処理を実行させる(ステップS28)。各利用項目の処理の詳細については省略する。
また、このような利用メニューの表示指示がなく(ステップS25:No)、あるいは、利用項目の指定がない場合には(ステップS27:No)、あるいは、各利用項目の処理が終了すると、図5(c)に模式的に示したように、類似画像領域Rcに対してユーザによるシングルタッチ指示があったか否かを操作検出部11cの検出結果により判定する(ステップS29)。特に、シングルタッチ指示がない場合には(ステップS29:No)、ステップS12に戻る。
一方、シングルタッチ指示があった場合には(ステップS29:Yes)、指示された類似画像Pcが現在拡大表示中であるか否かを判定する(ステップS30)。現在拡大表示中でない場合には(ステップS30:No)、表示制御部11bは、シングルタッチ指示された類似画像Pcを検索画面23a全体に拡大表示させる(ステップS31)。すなわち、図5(c)に示したような表示から図5(d)に示したような表示に変更させる。また、現在拡大表示中であった場合には(ステップS30:Yes)、表示制御部11bは、通常の検索画面23aの表示に戻す処理を実行する(ステップS32)。すなわち、図5(d)に示したような表示から図5(c)に示したような表示に戻す。
このように、本実施の形態1によれば、検索画面23aが、画像記憶部21に格納されている画像中から基準画像を指定するための基準画像領域Raと、複数の検索条件中から所望の検索条件を選択するための検索条件領域Rbと、検索結果として類似画像を表示するための類似画像領域Rcとに分けられて隣接表示されるので、類似画像検索に際してユーザに快適な検索環境を提示できる、優れた類似画像検索用のユーザインタフェースを提供することができる。特に、検索条件は、条件アイコンbとしてアイコン化されて表示されるので、文字だけによる場合よりも、少ない表示エリアでも検索条件の内容を容易に理解させることができ、デジタルカメラ1用の小型の表示部23に適した表示形態となる。さらには、選択された条件アイコンPb上に指定された基準画像Paを貼り付けることで、条件アイコンPbの表示を基準画像Paの表示に置き換えるようにしているので、検索条件を、条件アイコンbによる一般的なものでなく、基準画像Paを利用した画像により具体的にユーザに明示させることができる。
また、本実施の形態1によれば、検索された類似画像の表示後にさらにユーザ操作により検索条件が追加された場合には、前回の検索条件と追加された検索条件との関係を選択するためのメニュー画面M1を検索画面23aに表示させるので、検索条件を変えた複数回の検索を簡単に行わせることができ、1回だけの検索では類似画像数を絞り切れなかったような場合に利便性の高いものとなる。
また、本実施の形態1によれば、検索された類似画像の表示後にさらにユーザ操作により同じ検索条件で新たな基準画像が指定された場合には、前回の基準画像に加えて新たな基準画像も条件アイコンに重ねて表示させるようにしたので、複数回の検索を行う場合に、2つの基準画像が表示されることとなり、ユーザは、前後の検索の関係を容易に理解することができる。
さらには、本実施の形態1によれば、検索画面23aを表示する表示部23に重ねて配設されたタッチパネル14に対するユーザの操作を操作検出部11cで検出し、タッチパネル14に対するユーザの操作に応じて、検索画面23aに同時に表示される基準画像領域Raの画像aと検索条件領域Rbの条件アイコンbとをそれぞれ独立した移動により切換えるようにしたので、直感的な操作で検索のための操作を行うことができ、不慣れな初心者であっても類似検索を容易に行うことができる。
また、本実施の形態1によれば、基準画像領域Raと検索条件領域Rbと類似画像領域Rcとのうちの少なくとも隣接する2つの領域を同時に検索画面23aに表示させるようにしたので、対比が容易となる。さらには、本実施の形態1によれば、類似画像領域Rcに表示させる類似画像Pcと、検索条件領域Rbの中で類似画像Pcの検索のために選択された条件アイコンPbとの関連を示す区分け表示を行なわせるようにしたので、選択された検索条件と検索結果としての類似画像との関係が明瞭となる。
さらには、本実施の形態1によれば、類似画像検索部25による検索結果の利用用途を選択するためのメニュー画面M2を検索画面23aに表示させるようにしたので、単に類似画像を見つけるだけでなく、見つけた類似画像をその後有効に利用することも簡単にできる。
(実施の形態2)
つづいて、本発明の実施の形態2について説明する。実施の形態1で示した部分と同一部分は、同一符号を用いて示し、説明も省略する。本実施の形態2も、図1および図2に示したような構成のデジタルカメラ1への適用例を示す。本実施の形態2では、検索用の基準画像をライブビュー画像によって指定させる点を特徴としている。つまり、デジタルカメラ1の有する撮像機能に基づき、カメラ部15中の撮像素子に結像される被写体像がライブビュー画像として動画的にリアルタイムで表示部23に表示させるが、本実施の形態2ではこのライブビュー機能を検索に利用する。
すなわち、本実施の形態2における撮像部27は、撮影モード時に表示部23にライブビュー画像を出力することに加えて、検索モード時にあっても、表示部23に表示するライブビュー画像を出力するよう制御される。また、本実施の形態2における表示制御部11bは、概略的には、ライブビュー画像から検索用の基準画像を指定させ、かつ、予め複数用意された検索条件から少なくとも一の検索条件を選択させるための検索画面を表示部23に表示させる機能を有する。また、本実施の形態2における操作検出部11cは、検索画面(タッチパネル)または当該デジタルカメラ1の操作部13に対するユーザの操作を検出する機能を有する。さらに、本実施の形態2における検索制御部11aは、検索画面に対するユーザの操作に基づいて選択された検索条件と、ライブビュー画像表示中のユーザの操作に基づいて指定された基準画像で、対応する類似画像を検索するように類似画像検索部25を制御する機能を有する。
ここで、モード設定操作部13cにより検索モードが設定された場合の本実施の形態2の表示制御部11bによる検索画面23bの表示制御例の概要について説明する。図13は、検索画面23bの表示制御例を模式的に示す説明図である。この図13は、前方にある特定の被写体と、その被写体を検索モードで表示しているデジタルカメラ1を背面から見た図である。再生モード中の一つのモードである検索モードに設定された場合、本実施の形態2では、撮像部27が起動し、撮像部27から被写体31を撮像したライブビュー画像が出力される。そこで、本実施の形態2の表示制御部11bは、検索モードに設定された場合、検索画面23bに表示させる表示内容として、撮像部27から出力されるライブビュー画像Prを含む。このライブビュー画像Prは、撮影範囲枠32に従い検索画面23bの中央部の大半を占めて見やすいように表示される。
また、撮影範囲枠32の一隅、例えば左上には、検索条件をアイコン化して示す条件アイコンPbを表示させ、その右横には、条件アイコンPbの意味を示す文字表記の条件タイトルtを併せて表示させる。ここで、本実施の形態2でも、検索条件として実施の形態1の場合と同様に、例えば撮影時刻、色、人物の顔、撮影シーン、撮影場所、撮影構図の6種類が予め用意され、それぞれ条件アイコンが用意されている。そして、このような検索条件の数に対応させて、条件アイコンが左右方向に1列で仮想されており、検索画面23bの左右両側のスクロールアイコンIbにタッチ操作して条件アイコンPbを左方向または右方向にスクロール移動させることで、検索条件の切換えが可能とされている。
例えば、図13に示す例では、「この色」なる条件アイコンPb11の撮影範囲枠32が中央に表示され、その右側に「この人」なる条件アイコンPb12の撮影範囲枠32の一部が表示されている様子を示している。そこで、例えば左側のスクロールアイコンIbにタッチ操作すると、「この人」なる条件アイコンPb12がアニメ的に動いて中央に表示され、検索条件が「この人」なる条件アイコンPb12に切り換わる。この際、ライブビュー画像Pr自体の表示は変わらない。
本実施の形態2の場合、類似画像検索に際して、所望の検索条件の情報を有する基準画像となり得る被写体31を探し、この被写体31をライブビュー画像として検索画面23bに撮像表示させて検索に関する条件を設定することとなる。ここで、本実施の形態2では、本来の撮影時と同様に、ユーザによるレリーズ操作部13aのレリーズ操作に基づきライブビュー画像を基準画像として指定して、類似画像の検索処理を実行させるように制御する。なお、レリーズ操作部13aには、レリーズ操作として第1段階のレリーズ操作(1stレリーズ)と、第2段階のレリーズ操作(2ndレリーズ)とがある。そこで、検索制御部11aは、1stレリーズ操作ではライブビュー画像を仮の基準画像として類似画像の検索処理を開始させ、2ndレリーズ操作がなされることでライブビュー画像を基準画像として固定し、類似画像の検索処理を実行させるように制御する。
このような概要の下、レリーズ操作を伴う本実施の形態2の表示制御例について図14を参照して説明する。図14(a)は、図13に示すようなライブビュー画像Prの表示状態では被写体像のターゲット部分が小さすぎるため、ズーム操作部13bの操作によりライブビュー画像Pr中の目的とする被写体像をズームアップさせながら、レリーズ操作部13aが1stレリーズ操作されている状態を示している。
このような1stレリーズ操作が操作検出部11cにより検出されると、検索制御部11aは、この1stレリーズ操作のタイミングで検索画面23bに表示されているライブビュー画像Prを仮の基準画像Paとして指定し、かつ、選択されている条件アイコンPb11の検索条件で、類似画像検索部25による類似画像の検索動作を開始させる。この際、表示制御部11bは、ライブビュー画像Prの中で、選択された検索条件(条件アイコンPb11)に使用する部分を示す検索用部分特定マークPmをこのライブビュー画像Prに重畳させて表示させる。ここで、検索用部分が、選択された検索条件に応じて被写体の中で自動的に特定されるが、その特定された位置に検索用部分特定マークPmが表示される。例えば、検索条件として「この色」が選択されていれば、画面内の主要色が選択され、その主要色の領域に検索用部分特定マークPmが表示される。また、検索条件として「この人」が選択されていれば、画面内の人物の顔が選択され、その顔の部分に検索用部分特定マークPmが表示される。
図14(a)に示す例は、図13の状態からズームアップされた画像である。ライブビュー画像Prの中で中央にあるりんごの領域を大きくして、りんごの色を主要色に指定するためである。りんごの色が選択されると、中央部に円形の検索用部分特定マークPmが表示され、検索条件Pb11の「この色」がリンゴの赤色を示していることがわかる。なお、検索用部分としては、画面中央に近い部分や画面内での相対サイズが大きい部分が、優先的に指定される。
また、検索画面23bにおいて、ライブビュー画像Prの表示部分の下部には、検索結果として得られる類似画像Pcを表示するための類似画像領域Rcが用意されている。そこで、表示制御部11bは、検索動作の開始とともに得られる類似画像Pcを検索画面23bにおいてライブビュー画像Prとともにこの類似画像領域Rcに表示させる。類似画像Pcは、例えば検索された順番(時系列順)に表示される。なお、図14(a)は、類似画像領域Rcにおける類似画像Pcの表示が途中である状態を示している。検索対象となる画像が多ければ、全ての画像について検索が終了するには時間がかかり、瞬時には類似画像が表示できないからである。また、類似画像領域Rcの検索画面23b内の左右両側(または、片側)に、左右のスクロールアイコンIcを表示させる。スクロールアイコンIcにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、類似画像領域Rcに表示される類似画像Pcを左または右方向にスクロール移動させる。
ところで、図14(a)に示すような1stレリーズ操作が継続されていることが操作検出部11cによって検出されている間は、基準画像が仮に指定されているだけであり、デジタルカメラ1の画角が変わることでライブビュー画像Prが変化する。このようにライブビュー画像Prが変化すると、検索制御部11aは、その変化に応じて仮の基準画像Paを変更(更新)して、類似画像検索部25による新たな類似画像の検索を同様に行わせる。
つづいて、図14(b)は、図14(a)に示す状態からズーム操作部13bのズーム操作によりライブビュー画像Pr中の目的とする被写体像をさらにズームアップさせ、かつ、レリーズ操作部13aが2ndレリーズ操作された状態を示している。図14(b)に示す例では、ライフビュー画像Prとして被写体31のリンゴがズームアップされ、撮影範囲枠32内全体が赤色画像となって状態を示している。そして、2ndレリーズ操作されたことが操作検出部11cにより検出されると、検索制御部11aは、2ndレリーズ操作のタイミングで表示されているライブビュー画像Prを基準画像Paとして固定し、類似画像検索部25による最終的な類似画像の検索を行わせる。また、表示制御部11bは、検索結果として得られた類似画像Pcを検索画面23bにおいて類似画像領域Rcに1列で表示させる。類似画像Pcは、例えば検索された順番(時系列順)に表示される。
図14(c)は、図14(b)に示す表示状態で、所定方向の方向操作部13dが操作されることにより、類似画像領域Rcにおける類似画像Pcの表示順を類似度順に切換えた場合を示している。表示制御部11bは、基準画像Pcが固定されて類似画像Pcの検出結果が得られた後、所定方向の方向操作部13dが操作されたことを操作検出部11cにより検出されると、類似画像領域Rcにおける類似画像Pcの表示順を時系列順から類似度順に切換える。なお、所定方向の方向操作部13dが再度操作されると、類似画像領域Rcにおける類似画像Pcの表示順は類似度順から時系列順に再度切換えられる。
また、表示制御部11bは、2ndレリーズ操作によってライブビュー画像Prの中から基準画像Paが指定(固定)された後は、この基準画像PaがRAM17に記憶され、図14(b)や図14(c)に示すように、ライブビュー画像に代えてRAM17に記憶された基準画像Paを固定的に表示させる。
また、図14(d)は、検索結果の利用メニューの表示例を示す説明図である。図14(c)に示すような検索結果が表示された検索画面23bの状態において、ユーザにより所定方向の方向操作部13dが操作されたことが操作検出部11cにより検出されると、表示制御部11bは、図14(d)に示すように、検索画面23bに検索結果の利用用途を選択するためのメニュー画面M2を表示させる。これは、図8に示した場合と同様であり、説明を省略する。
なお、図14(b)では、2ndレリーズ操作により固定された基準画像Paを、類似画像の検索完了後もライブビュー画像Prの大きさで表示させるようにしたが、基準画像に変動がない検索完了後には、図15(a)に示すように、表示制御部11bによる制御によって、自動的に、基準画像Paのサイズを小さくし、類似画像領域Rcの表示領域を広くして、より多くの類似画像Pcを同時に表示させるようにしてもよい。
また、図15(a)中に示すように、類似画像領域Rcの所望の類似画像Pc部分をユーザがシングルタッチしたことがタッチパネル14を通じて操作検出部11cにより検出されると、表示制御部11bは、図15(b)に示すように、タッチ指定された類似画像Pcを検索画面23bの全域に拡大表示させる。また、図15(b)に示すように拡大表示された類似画像Pcのいずれかの部分にタッチした場合には、表示制御部11bは、図15(a)に示す元のサムネイル表示に戻す。このような拡大表示は、図14(b)または図14(c)に示す表示の場合でも同様である。
次に、図16を参照して別の検索条件に変更した場合の表示制御例について説明する。図16(a)は、図13の場合に対して、基準画像となり得る被写体31を変更するとともに、スクロールアイコンIbの操作によって検索条件を条件アイコンPb11から条件アイコンPb12に変更した場合の表示例を示す説明図である。この際、表示制御部11bは、ライブビュー画像Prの中で、選択された検索条件(条件アイコンPb12)に使用する部分を示す検索用部分特定マークPmをこのライブビュー画像Prに重畳させて表示させる。
図16(b)は、図16(a)に示すようなライブビュー画像Prの表示状態において、被写体像のターゲット部分が小さすぎるため、ズーム操作部13bの操作によりライブビュー画像Pr中の目的とする被写体像のターゲット部分をズームアップさせながら、レリーズ操作部13aが1stレリーズ操作されている状態を示している。
このような1stレリーズ操作が操作検出部11cにより検出されると、検索制御部11aは、この1stレリーズ操作のタイミングで検索画面23bに表示されているライブビュー画像Prを仮の基準画像Paとして指定し、かつ、選択されている条件アイコンPb12の検索条件で、類似画像検索部25による類似画像の検索動作を行わせる。この際、表示制御部11bは、検索用部分特定マークPmも被写体像に合わせてズームアップさせる。
また、表示制御部11bは、検索動作の開始とともに得られる類似画像Pcを検索画面23bにおいてライブビュー画像Prとともに類似画像領域Rcに1列で表示させる。類似画像Pcは、例えば検索された順番(時系列順)に表示される。また、類似画像領域Rcの検索画面23b内の左右両側(または、片側)に、左右のスクロールアイコンIcを表示させる。スクロールアイコンIcにユーザがタッチしたことが、タッチパネル14、操作検出部11cを通じて検出されると、表示制御部11bは、類似画像領域Rcに表示される類似画像Pcを左または右方向にスクロール移動させる。
つづいて、図16(c)は、図16(b)に示す状態からズーム操作部13bのズーム操作によりライブビュー画像Pr中の被写体像のターゲット部分をさらにズームアップさせ、レリーズ操作部13aが2ndレリーズ操作された状態を示している。このような2ndレリーズ操作されたことが操作検出部11cにより検出されると、検索制御部11aは、2ndレリーズ操作のタイミングで表示されているライブビュー画像Prを基準画像Paとして固定し、類似画像検索部25による最終的な類似画像の検索を行わせる。また、表示制御部11bは、検索結果として得られた類似画像Pcを検索画面23bにおいて類似画像領域Rcに1列で表示させる。類似画像Pcは、例えば検索された順番(時系列順)に表示される。この場合の表示も、図15(a)に示したように、基準画像Paのサイズを小さくし、類似画像領域Rcを広くするようにしてもよい。
つづいて、上述したような表示制御を実現するための本実施の形態2の制御部11による動作制御例について説明する。図17は、制御部11により実行される検索処理の動作制御例を示すメインフローチャートである。本実施の形態で対象とする画像検索処理は、モード設定操作部13bによって再生モード中の検索モードが指定されることにより実行されるものであり、まず、再生モードにおいて、検索モードが指定されているか否かを判定する(ステップS101)。検索モードが指定されていなければ(ステップS101:No)、通常の再生処理を実行する(ステップS102)。一方、検索モードが指定されていれば(ステップS101:Yes)、検索モードの処理を実行する(ステップS103)。そして、いずれの処理にしても、所定のOFF指示があるまで(ステップS104:Yes)、処理を繰り返す。
図18および図19は、制御部11により実行されるステップS103の検索モードの動作制御例を示すフローチャートである。まず、検索モードが指定されると、再生モードでは本来使用しない撮像部27を起動させる(ステップS111)。基準画像を指定するためのライブビュー画像を表示させるためである。そして、表示制御部11bによって表示部23に検索画面23bを表示させる(ステップS112)。この場合の検索画面23bは、例えば図13に示したようなものであり、ライブビュー画像表示状態となる。
ついで、スクロールアイコンIbに対するユーザのタッチ操作による条件アイコンPbのスクロール指示があったか否かを操作検出部11cの検出結果により判定する(ステップS113)。スクロール指示があった場合には(ステップS113:Yes)、表示制御部11bは、検索画面23bにおいてスクロール処理を実行する(ステップS114)。すなわち、条件アイコンPbを左または右にスクロール移動させる。これにより、ライブビュー画像Prが表示される撮影範囲枠32部分に位置させた条件アイコンPbに合わせて検索条件を変更する(ステップS115)。
このようなライブビュー画像Prの表示状態において、ズーム操作部13bが押下されたか否かを操作検出部11cの検出結果により判定する(ステップS116)。ズーム操作部13bが押下された場合には(ステップS116:Yes)、その操作量に応じてライブビュー画像Prの大きさが変わるようにズームの切換えを行う(ステップS117)。ズーム操作部13bが押下されない場合には(ステップS116:No)、ステップS117の処理をジャンプする。
さらに、ライブビュー画像Prの表示状態において、レリーズ操作部13aが1stレリーズ操作されたか否かを操作検出部11cの検出結果により判定する(ステップS118)。1stレリーズ操作されていない場合には(ステップS118:No)、停止等の指示があるか否かを判定し(ステップS115)、停止等の指示がなければ(ステップS115:No)、ステップS113に戻り、ライブビュー画像Prの表示状態を継続する。
一方、1stレリーズ操作された場合には(ステップS118:Yes)、検索制御部11aは、1stレリーズ操作のタイミングで表示されているライブビュー画像Prを仮の基準画像Paとして、類似画像検索部25に類似画像の検索処理を実行させる(ステップS119)。この場合の検索実行処理は、図12の場合と同様である。この検索処理が開始されると、図14(a)等に示したように、検索結果の表示も併せて開始される。
さらに、レリーズ操作部13aが2ndレリーズ操作されたか否かを操作検出部11cの検出結果により判定する(ステップS120)。2ndレリーズ操作がされていない場合には(ステップS120:No)、レリーズ操作部13aの1stレリーズ操作が解除されたか否かを操作検出部11cの検出結果により判定する(ステップS121)。
1stレリーズ操作が解除されていない場合には(ステップS121:No)、1stレリーズ操作が継続されている状態にあり、検索制御部11aは、ステップS119に戻って検索実行処理を行わせる。すなわち、1stレリーズ操作が継続されていることが操作検出部11cによって検出されている間は、ライブビュー画像Prの変化に応じて、仮の基準画像Paを変更して類似画像の検索を行なわせる。
一方、2ndレリーズ操作がされた場合には(ステップS120:Yes)、検索制御部11aは、2ndレリーズ操作のタイミングで表示されているライブビュー画像Prを基準画像Paとして指定するとともに、表示制御部11bは、ライブビュー画像Prのライブビュー表示を停止させて基準画像Paを固定表示させる(ステップS130)。さらに、表示制御部11bは、図15(a)に示したように、類似画像の検索結果として得られる類似画像Pcを表示するための類似画像領域Rcを拡大表示させる(ステップS131)。なお、このステップS131による拡大表示に代えて、図14(b)または図14(c)に示したような検索画面23bの表示としてもよい。
その後、ユーザによる何らかの指示操作があったか否かを操作検出部11cの検出結果により判定する(ステップS132)。例えば、所定方向の方向操作部13dの操作による類似画像表示順番変更指示があった場合には(ステップS133:Yes)、表示制御部11bは、類似画像領域Rcにおける類似画像Pcの表示順番を変更して表示させる(ステップS134)。すなわち、時系列順の表示であった場合には、類似度順の表示に変更し、類似度順の表示であった場合には、時系列順の表示に変更させる。
その後、ユーザによる方向操作部13dの所定の操作に伴う検索結果の利用メニューの表示指示があったか否かを判定する(ステップS135)。利用メニューの表示指示があった場合には(ステップS135:Yes)、表示制御部11bは、図14(d)に示したように、検索画面23bにメニュー画面M2を表示させる(ステップS136)。そして、このメニュー画面M2上で利用項目のタッチ指定があった場合には(ステップS137:Yes)、タッチ指定された利用項目に応じた処理を実行させる(ステップS138)。各利用項目の処理の詳細については省略する。
また、このような利用メニューの表示指示がなく(ステップS135:No)、あるいは、利用項目のタッチ指定がない場合には(ステップS137:No)、あるいは、各利用項目の処理が終了すると、図15(a)に模式的に示したように、類似画像領域Rcに対してユーザによるシングルタッチ指示があったか否かを操作検出部11cの検出結果により判定する(ステップS140)。特に、シングルタッチ指示がない場合には(ステップS140:No)、ステップS144に移行する。
一方、シングルタッチ指示があった場合には(ステップS140:Yes)、指示された類似画像Pcが現在拡大表示中であるか否かを判定する(ステップS141)。現在拡大表示中でない場合には(ステップS141:No)、表示制御部11bは、シングルタッチ指示された類似画像Pcを検索画面23b全体に拡大表示させる(ステップS142)。すなわち、図15(a)に示したような表示から図15(b)に示したような表示に変更させる。また、現在拡大表示中であった場合には(ステップS141:Yes)、表示制御部11bは、通常の検索画面23bの表示に戻す処理を実行する(ステップS143)。すなわち、図15(b)に示したような表示から図15(a)に示したような表示に戻す。
また、ステップS144では、再度、レリーズ操作部13aが1stレリーズ操作されたか否かを操作検出部11cの検出結果により判定する。1stレリーズ操作されていなければ(ステップS144:No)、ステップS132に戻り、何らかのユーザ操作を待つ。再度1stレリーズ操作された場合には(ステップS144:Yes)、検索結果をリセットして(ステップS145)、ステップS113に戻り、ライブビュー画像表示状態となる。
このように、本実施の形態2によれば、ライブビュー画像Prで検索の対象となる基準画像Paを指定できるようにしたので、画像記憶部21中に格納された画像中から適当な基準画像を見つける手間を省いて、類似画像検索に際して検索用の基準画像の入手・設定を容易に行なうことができる。また、各検索条件をアイコン化された条件アイコンで検索画面23bに表示させるようにしたので、文字だけによる場合よりも、少ない表示エリアでも検索条件の内容を容易に理解させることができ、デジタルカメラ1用の小型の表示部23に適した表示形態となる。
また、本実施の形態2によれば、ライブビュー画像Prの中で選択された検索条件に使用する部分を示す検索用部分特定マークPmをそのライフビュー画像Prに重畳して表示させるようにしたので、選択された条件によっては、ライブビュー画像を見るだけでも検索条件の内容がわかることとなり、検索条件の選択間違えの可能性を低減させることができる。
さらには、本実施の形態2によれば、検出されたレリーズ操作のタイミングで表示されているライブビュー画像を指定された基準画像として、類似画像検索部に類似画像の検索を行なわせるものとし、撮影と似たような動作である基準画像の指定の操作を、撮影操作と同様に行えるようにしたので、使い勝手のよいものとなる。また、ライフビュー画像の仮の基準画像としての指定と、最終的な基準画像としての指定を、レリーズ操作部13aの第1段階のレリーズ操作と第2段階のレリーズ操作とで区別して行えるようにしたので、撮影動作時の第1段階のレリーズ操作と第2段階のレリーズ操作と同様な操作となり、戸惑いなく操作することができる。
さらに、本実施の形態2によれば、第2段階のレリーズ操作によってライブビュー画像の中から基準画像が指定された後は、ライブビュー画像に代えて指定された基準画像を連続的に表示させるようにしたので、最終的に指定した基準画像で表示が固定されることとなり、指示の内容を確実に確認することができる。
また、本実施の形態2によれば、類似画像検索部25によって検索された類似画像をライブビュー画像とともに表示させるので、両画像の比較が簡単であり、検索された類似画像が狙いとする画像と一致しないとユーザが感じた場合であっても、次の基準画像の指定に役立てることができる。
本発明は、上述した実施の形態に限らず、本発明の趣旨を逸脱しない範囲であれば、種々の変形が可能であり、それらを本発明の範囲から排除するものではない。
例えば、実施の形態1,2における図10〜図12、図17〜図19に示すような各処理機能について、図2に示すブロック図では、画像検索については類似画像検索部25によるハードウェア、表示制御等については制御部11によるソフトウェアによって処理するように説明したが、構成の具体例はこれに限るものではない。これらの処理を、ハードウェア処理とソフトウェア処理のいずれか一方あるいは適宜組み合わせて行なうことは設計事項である。
そして、実施の形態の全てあるいは一部がソフトウェア処理で処理が実行される場合には、制御部11がフラッシュメモリ等の内部データ記憶部12に格納された検索用プログラムを読み出して実行されることで、かかるソフトウェア処理が実現されるので、このようなソフトウェア処理に関する検索用プログラムも本発明となる。また、このような検索用プログラムが記録された記録媒体も本発明となる。なお、プログラムを格納する記録媒体としては、フラッシュメモリに限定されるものではなく、CD−ROM、DVD−ROM等の光学記録媒体、MD等の磁気記録媒体、テープ媒体、ICカードなどの半導体メモリであってもよい。さらに、検索用プログラムとしては、ネットワークを介して外部の記録媒体から入手されるもの、例えば、ホームページからダウンロードされるものも当然含まれる。このような場合には、ユーザに対してダウンロードさせるWWWサーバやftpサーバ等も本発明の範囲に含まれるものである。
また、上記実施の形態1及び2では、当該画像検索装置をデジタルカメラに搭載した例で説明したが、当然これに限られるものではない。上記実施の形態1の画像検索装置は、携帯電話あるいは画像表示装置(画像ビュワー)等に適用してもよい。また上記実施の形態2のカメラは、パソコンのカメラ部や携帯電話のカメラ部等に適用してもよい。