<<画像表示装置の概要>>
本発明の実施形態について、以下図面を参照して説明する。最初に、本発明における画像表示装置の概要について、図1を参照して説明する。図1は、本発明の実施形態における画像表示装置の構成の一例を示すブロック図である。
図1に示すように、画像表示装置1は、画像データを記録する画像記録部2と、ユーザの指示が入力される操作部3と、画像を表示する表示部4と、操作部3を介して入力されるユーザの各種指示に基づいて画像記録部2から必要な情報を読み出すとともに表示部4が表示する画像の制御を行う表示制御部5と、を備える。
画像表示装置1は、画像記録部2に記録されている画像データの中から再生すべき画像データをユーザに選択させる。このとき、表示制御部5は、画像データの対応画像(例えば、画像データ内に添付されたサムネイル画像や、表示制御部5が画像データを調整することで得られる画像(例えば、静止画の縮小画像または動画に含まれる1つのフレームの縮小画像))の少なくとも1つを、表示部4に表示させる。
画像記録部2に記録される画像データは、所定の順番を有している。例えば、撮像日時順、撮像順、名前順、ファイル形式順、ユーザが任意で設定した順番や、これらの順番の組み合わせなど、いかなる順番であっても構わない。なお、対応画像は画像データに対応するものであるため、画像データと同様の順番を有していると解釈することができる。また、順番のみに限られず、画像データが有する種々の関係(例えば、相関関係やカテゴリ)も、対応画像が有していると解釈することができる。以下では説明の簡略化のため、対応画像が画像データと同じ順番や関係を有するものとする。
再生すべき画像データを捜索している際の表示部4の表示の一例を、図2に示す。図2は、再生すべき画像データの捜索時における表示部4の表示の一例を示す図である。
図2(a)に示すように、本例では再生候補画像C10と、前候補画像B10と、次候補画像A10と、の3つの対応画像が表示部4に表示される。具体的には、再生候補画像C10が表示部4の略中央に表示され、その両側に前候補画像B10及び次候補画像A10が表示されるものとしている。なお、前候補画像B10、再生候補画像C10、次候補画像A10の順に、対応画像の順番が連続している。
ユーザが操作部3を介して「選択指示」を入力すると、再生候補画像C10が対応する画像データが再生される。また、図2(b)に示すように、ユーザが操作部3を介して「再生候補画像を1つ送る」旨の指示を入力すると、次候補画像A10が再生候補画像C11になり、再生候補画像C10が前候補画像B11になり、次候補画像A10の次の順番の対応画像が次候補画像A11になる。また、図2(c)に示すように、ユーザが操作部3を介して「再生候補画像を1つ戻す」旨の指示を入力すると、前候補画像B10が再生候補画像C12になり、再生候補画像C10が次候補画像A12になり、前候補画像A10の前の順番の対応画像が前候補画像B12になる。
再生候補画像C10〜C12は、前候補画像B10〜B12や次候補画像A10〜A12などの他の対応画像と区別し得るものであると好ましい。図2に示す例では、表示制御部5が各対応画像の大きさを調整して、再生候補画像C10〜C12が他の対応画像A10〜A12,B10〜B12よりも大きく表示されるようにしている。なお、これに加えて(または代えて)、例えば再生候補画像C10〜C12の外枠を他の対応画像A10〜A12,B10〜B12と異ならせて表示しても構わないし、他の方法で差異を表現しても構わない。
なお、画像表示装置1は、何らかの装置の一部(例えば、撮像装置のモニタ)としても解釈され得るものである。そのため、図1に示す各部は、他の用途のためにも使用され得る。また、対応画像は、画像データに添付されたサムネイル画像や縮小画像のみに限られず、文字画像やアイコンなどであっても構わないし、これらを組み合わせたものであっても構わない。
また、図2では「選択指示」入力時の再生候補画像C10〜C12に対応する画像データを再生することとしたが、これに加えて(または代えて)表示中の対応画像の中で、ユーザによって指定された任意の対応画像が対応する画像データが再生されることとしても構わない。また、例えば操作部3がタッチパネルであるとき、ユーザが、所望の対応画像が表示されている位置をタッチ(タップ)することで、当該対応画像を選択する選択指示が入力されることとしても構わない。また、例えば操作部3がトラックボールやキー(タッチパネル上に表示されるキーも含む。以下同じ。)であるとき、ユーザが操作部3を介して所定の対応画像を指定するとともに所定のキーを押下することで、当該対応画像を選択する選択指示が入力されることとしても構わないし、ユーザが所定のキーを押下することで、その時点で再生候補画像C10〜C12となっている対応画像を選択する選択指示が入力されることとしても構わない。
また、図2では表示部4に3つの対応画像が表示される場合について示したが、表示される対応画像を1つまたは2つとしても構わないし、4つ以上としても構わない。
<<対応画像の切替制御>>
次に、再生すべき画像データの捜索時における対応画像の切替制御の詳細について、図面を参照して説明する。
<切替制御:基本>
まず、切替制御の基本について、図面を参照して説明する。図3は、指示量と切替量との基本関係の一例を示すグラフである。
「指示量」とは、ユーザが操作部3を操作することで表示制御部5に入力される、切替指示の信号値である。原則的に、ユーザが操作部3の一回当たりの(または単位時間当たりの)操作量を大きくしたり、一回当たりの操作時間を長くしたりするほど、指示量は大きくなる。例えば、操作部3がタッチパネルであれば、ユーザが一度に大きくまたは速く一方向にスライドさせる(なぞる)ほど、指示量は大きくなる。また例えば、操作部3がキーであれば、ユーザがあるキーを時間的に長く押し続けるほど、指示量は大きくなる。また例えば、操作部3がトラックボールであれば、ユーザが一方向に速く回転させるほど、指示量は大きくなる。なお、これらは一例に過ぎず、指示量はどのように設定しても構わない。
「切替量」とは、操作部3から入力される指示量に基づいて表示制御部5により設定される値であり、表示部4に表示されている対応画像を切り替える量を示すものである。具体的に例えば、単位動作当たりまたは単位時間当たりに切り替えられる対応画像の数と定義することが可能である。ただし、以下では説明の具体化のため、切替量を、一回の切替動作で切り替えられる対応画像の数と定義し、かつ、整数値のみを取り得る(対応画像を画像単位で送るまたは戻す)ものとする。このように定義する場合、図2(a)から図2(b)の状態になる場合の切替量は1となる。
図3(a)及び(b)の各グラフは、横軸が1回の操作当たりまたは単位時間当たりの指示量、縦軸が切替量を示すものであり、指示量の増大に伴い切替量が階段状に増大するものである。ただし、図3(a)のグラフでは、切替量を1段階増大させるために必要となる指示量の増大量が、指示量の大きさによらず均一であるが、図3(b)のグラフでは、切替量を1段階増大させるために必要となる指示量の増大量が、指示量が大きくなるほど小さくなる。また、図3(a)のグラフでは切替量に上限値が無いが、図3(b)のグラフでは切替量に上限値があり、ある指示量以上では切替量が一定となる。
なお、図3(a)及び(b)に示す基本関係は一例に過ぎず、他のものとしても構わない。例えば、図3(a)のグラフにおいて切替量に上限値を設けても構わないし、図3(b)のグラフにおいて切替量に上限値を設けないこととしても構わない。
また、対応画像を切り替える際に、切替前後の状態のみをユーザに見せるだけでなく、切替の経過(順次対応画像が送られるまたは戻される、動的な様子)をユーザに見せることとしても構わない。このように構成すると、ユーザが切替の内容を容易に認識することができるため、好ましい。
<切替制御:相関関係が密接である対応画像>
原則的に、図3(a)または(b)に示すような基本関係に従って設定される切替量により、対応画像の切り替えが行われる。しかしながら、本実施形態の画像表示装置1では、相関関係が密接である(例えば、後述する画像データの相関度が閾値以上となる)対応画像を送るまたは戻すときに、上述の基本関係に従わない切替量が設定される。以下、相関関係が密接である対応画像を切り替える場合の切替制御について、図面を参照して説明する。
[相関度の算出]
まず、相関度の算出方法例について説明する。相関度は、複数の画像データの各種情報を比較することにより算出される。なお、順番が連続する2つの画像データから相関度を算出しても構わないし、順番が連続する3つ以上の画像データから相関度を算出しても構わない。
相関度は、例えば画像データの撮像日時、撮像場所、画像データによって示される画像(例えば、静止画または動画に含まれる1つのフレーム。以下、単に画像とも呼ぶ)の類似度、ユーザによる設定や、これらを総合的に判断した結果など、画像データの各種情報を用いて算出することができる。具体的に例えば、撮像日時が近いほど、撮像場所が近いほど、画像が類似している(例えば、画像の類似度が大きい)ほど、相関度が大きくなるものとする。
画像データの撮像日時を用いて相関度を算出する場合、例えば撮像時に画像データの一部として記録される撮像日時を用いることができる。なお、相関度を算出するそれぞれの画像データの撮像日時の時間差が、所定の時間である基準時間よりも小さくなる場合に、相関度が特に大きくなるようにしても構わない。
撮像場所を用いる場合、例えばGPS(Global Positioning System)を備える撮像装置で撮像した際に画像データの一部として記録される撮像場所を用いることができる。なお、相関度を算出するそれぞれの画像データの撮像場所の距離差が、所定の距離である基準距離よりも小さくなる場合に、相関度が特に大きくなるようにしても構わない。
また、画像の類似度を算出する方法について、以下説明する。画像の類似度は、種々の観点から算出することが可能である。以下では、類似度を算出する第1〜第3の方法についてそれぞれ説明する。なお、第1〜第3の方法のいずれかを用いて類似度を算出しても構わないし、これらを組み合わせて類似度を算出しても構わないものとする。
まず、第1の方法として、画像内の人数に基づいて類似度を算出する方法について説明する。本方法は、例えば類似度を算出するそれぞれの画像に対して顔検出を行い、それぞれの画像から検出される顔の数(人数)を算出する。そして、それぞれの画像から算出される人数が略等しいものであれば、類似度を大きくする。なお、それぞれの画像から算出される人数が0人で等しくなる場合も、類似度を大きくする。
顔検出を行う場合、公知の種々の技術を適用することが可能である。例えば、Adaboost(Yoav Freund, Robert E. Schapire,"A decision-theoretic generalization of on-line learning and an application to boosting", European Conference on Computational Learning Theory, September 20, 1995.)を利用しても構わない。この方法では、大量の教師サンプル(顔及び非顔のサンプル画像)を識別することで重み付けされた複数の弱識別器により、動画のフレーム中の各部を順次識別することで顔を検出する。
次に、第2の方法として、画像内に含まれる人物が同一人物であるか否かに基づいて類似度を算出する方法について説明する。本方法は、例えば類似度を算出するそれぞれの画像に対して顔認識を行い、それぞれの画像から同一人物が検出されるか否かを判定する。そして、それぞれの画像から同一人物が検出されれば、類似度を大きくする。
顔認識を行う場合、公知の種々の技術を適用することが可能である。例えば、予め記録しておいた特定人物のサンプル画像と、顔検出により画像から検出された人物の顔と、を比較することで行っても構わない。また例えば、それぞれの画像から検出された人物の顔同士を比較することで行っても構わない。
また、第3の方法として、画像の特徴量を表す「特徴ベクトル」を利用して類似度を算出する方法について、図面を参照して説明する。以下では、画像の全体から人物領域を除いた領域である背景領域の特徴ベクトルを用いて特徴ベクトルを算出する方法を例示して説明する。なお、人物領域は、例えば上述のような顔検出により検出された顔領域の位置及び大きさに基づいて、人が含まれる領域を推定することにより算出することができる。また、画像に人が含まれない場合、画像全体を背景領域としても構わない。
図4及び図5は、特徴ベクトルの算出方法の一例を示す図である。図4に示す画像100は、複数の画素が水平及び垂直方向に配列された二次元画像である。フィルタ111〜115は、画像100中の注目画素101を中心とする小領域(例えば、3×3画素の画像100中の領域)のエッジを抽出するエッジ抽出フィルタである。エッジ抽出フィルタとして、エッジ抽出に適した任意の空間フィルタ(例えば、ソーベルフィルタやプレウィットフィルタなどの微分フィルタ)を用いることができる。ただし、フィルタ111〜115は互いに異なるものとする。なお、図4ではフィルタ111〜115のフィルタサイズ及びフィルタを作用させる小領域を3×3画素として例示したが、5×5画素などの他の大きさにしても構わない。また、使用するフィルタの数を5以外の数としても構わない。
フィルタ111、112、113及び114は、それぞれ画像100の水平方向、垂直方向、右斜方向及び左斜方向に伸びるエッジを抽出し、抽出したエッジの強度の表すフィルタ出力値を出力する。フィルタ115は、水平方向、垂直方向、右斜方向及び左斜方向に分類されない方向に伸びるエッジを抽出し、抽出したエッジの強度を表すフィルタ出力値を出力する。
エッジの強度は、画素信号(例えば輝度信号)の勾配の大きさを表す。例えば、画像100の水平方向に伸びるエッジが存在している場合、水平方向に直交する方向である垂直方向において、画素信号に比較的大きな勾配が生じる。また例えば、注目画素101を中心とした小領域にフィルタ111を作用させて空間フィルタリングを行えば、注目画素101を中心とした小領域の垂直方向に沿った画素信号の勾配の大きさがフィルタ出力値として得られる。なお、フィルタ112〜115についても同様である。
画像100上のある画素を注目画素101とした状態で、フィルタ111〜115を当該注目画素101を中心とした小領域に作用させることで、5つのフィルタ出力値が得られる。この5つのフィルタ出力値の内、最大のフィルタ出力値を採用フィルタ値として抽出する。最大のフィルタ出力値がフィルタ111〜115からのフィルタ出力値であるときの採用フィルタ値を、それぞれ、第1〜第5の採用フィルタ値と呼ぶ。したがって例えば、最大のフィルタ出力値がフィルタ111からのフィルタ出力値である時、採用フィルタ値は第1の採用フィルタ値となり、最大のフィルタ出力値がフィルタ112からのフィルタ出力値である時、採用フィルタ値は第2の採用フィルタ値となる。
注目画素101の位置は、例えば、画像100の背景領域内を水平方向および垂直方向に1画素ずつ移動させられ、移動のたびにフィルタ111〜115のフィルタ出力値を取得することで採用フィルタ値を決める。画像100の背景領域内のすべての画素に対して採用フィルタ値を決めた後、図5に示すような第1〜第5の採用フィルタ値のヒストグラム121〜125を個別に作成する。
第1の採用フィルタ値のヒストグラム121は、画像100から得られた第1の採用フィルタ値のヒストグラムであり、図5に示す例ではそのヒストグラムの階級の数を16としている(ヒストグラム122〜125についても同様)。この場合、1つのヒストグラムから16個の度数データが得られるため、ヒストグラム121〜125から80個の度数データが得られる。この80個の度数データのそれぞれを要素とする80次元のベクトルを、形状ベクトルHEとして求める。形状ベクトルHEは、画像100内に存在する物体の形状に応じたベクトルである。
一方、画像100の背景領域内の色の様子を表す色ヒストグラムを作成する。例えば、画像100を形成する各画素の画素信号が、赤色の強度を表すR信号、緑色の強度を表すG信号、青色の強度を表すB信号から構成されている場合、画像100の背景領域内のR信号値のヒストグラムHSTR、G信号値のヒストグラムHSTG、B信号値のヒストグラムHSTBを、画像100についての色ヒストグラムとして作成する。例えば、各色ヒストグラムの階級の数を16とすると、色ヒストグラムHSTR、HSTG及びHSTBから48個の度数データが得られる。色ヒストグラムから得られた度数データのそれぞれを要素とするベクトル(例えば、48次元のベクトル)を、色ベクトルHCとして求める。
画像100の特徴ベクトルをHにて表した場合、特徴ベクトルHは、
式「H=kC×HC+kE×HE」
によって定められる。ここで、kC及びkEは予め定められた係数である(ただし、kC≠0かつkE≠0)。したがって、画像100についての特徴ベクトルHは、画像100内の物体の形状及び色に応じた画像特徴量である。
上述のようにして算出される特徴ベクトルHを用いた類似度の算出方法について、説明する。例えば、類似度を算出しようとする画像が2つであるとき、最初にそれぞれの画像の特徴ベクトルH1,H2を算出する。そして、特徴ベクトルH1,H2を、特徴ベクトルHが定義されるべき空間に配置する。この際、特徴ベクトルH1,H2の始点を原点に配置し、特徴空間における特徴ベクトルH1の終点と特徴ベクトルH2の終点との距離(ユークリッド距離)を算出する。そして、この距離が小さいほど類似度が大きくなるように、類似度を算出する。なお、この距離が、所定の距離である基準距離よりも小さくなる場合に、特に類似度が大きくなるようにしても構わない。
なお、MPEG(Moving Picture Experts Group)7において、画像の特徴ベクトルH(特徴量)の導出に5つのエッジ抽出フィルタが用いられているが、この5つのエッジ抽出フィルタを、フィルタ111〜115に適用しても構わない。さらに、MPEG7に規定された方法を画像100に適用することで、画像100の特徴ベクトルH(特徴量)を導出するようにしても構わない。また、形状及び色の一方の特徴量のみを用いて特徴ベクトルHを算出しても構わない。
また、画像記録部2に記録される画像データが、予め相関度が算出されているものとしても構わないし、表示部4に表示している対応画像を切り替える際に、表示制御部5が相関度を算出することとしても構わない。なお、相関度を算出する(相関関係が密接であるか否かを判定する)タイミングの詳細については後述する。
[切替量]
次に、切り替えようとする対応画像の相関関係が密接である場合に設定される切替量について、図面を参照して説明する。図6は、指示量と、相関関係が密接である対応画像を切り替える際に設定される切替量と、の関係の一例を示すグラフであり、基本関係について示した図3に相当するものである。
ここで、切り替えようとする対応画像の相関関係が密接である場合とは、例えば、現在の再生候補画像が対応する画像データと、当該画像データに対して順番が前または後(戻す場合は前、送る場合は後)となる画像データ(即ち、現在の再生候補画像の少なくとも次に再生候補画像となる対応画像の画像データ)と、の相関関係が密接である場合である。具体的に例えば、少なくとも、現在の再生候補画像が対応する画像データと、当該画像データに対して順番が直前または直後となる画像データと、の相関関係が密接である場合である。なお、切り替えようとする対応画像の相関関係が密接でない場合とは、上記の画像データの相関関係が密接でない場合である。
相関関係が密接でない対応画像を切り替える場合、上述の基本関係に従って切替量が設定される。具体的に例えば、図6(a)及び(b)に示すように、ある指示量Dに対して切替量E1,E2が設定される。しかしながら、相関関係が密接である対応画像を切り替える場合は、上述の基本関係には従わず、切替量E1,E2とは異なる方法で決められる切替量ECが設定される。
以上のように構成すると、対応画像の相関関係が密接であるか否かによって、対応画像の切替方法を異ならせることが可能となる。そのため、対応画像に応じた切替を行うことが可能となる。特に、相関関係が密接である対応画像を切り替える際の切替量を大きくすることで、相関関係が密接である対応画像を迅速に切り替えることが可能となる。そのためユーザは、所望しない対応画像を容易かつ迅速に切り替えることにより、所望する対応画像を容易かつ迅速に表示させることが可能となる。したがって、ユーザが容易かつ迅速に所望の画像データを選択することが可能となる。
[表示例]
以下、表示部4に表示される対応画像を切り替える場合の表示の具体例(第1〜第4表示例)について、図面を参照して説明する。図7は、対応画像及び順番の一例を示す図である。図7に示す対応画像201の順番は1、対応画像202の順番は2、対応画像203の順番は3、対応画像204の順番は4、対応画像205の順番は5、対応画像206の順番は6、対応画像207の順番は7である。
また、対応画像203及び対応画像204は、相関関係が密接であると判定され得るものである。同様に、対応画像204及び対応画像205も、相関関係が密接であると判定され得るものである。そのため、対応画像203〜205は、相関関係が密接であると判定され得るものとなっている。なお、対応画像203〜205が対応するそれぞれの画像データが直接的に比較された結果、それぞれの対応画像203〜205は相関関係が密接であると判定され得るものであっても構わない。
また、以下に説明する第1〜第4表示例では、特に言及することがない限り、対応画像201〜207の相関関係が密接であるか否かが、切替前(例えば、撮像時や転送時、詳細は後述)に予め求められているものとする。
{第1表示例}
図8は、第1表示例を示す図である。なお、図8に示す例は、図2に示す表示方法と同様の表示方法で対応画像を表示するものである。
図8(a)の状態では、対応画像201が前候補画像B20、対応画像202が再生候補画像C20、対応画像203が次候補画像A20となる。この状態から、図6に示す指示量Dの切替指示が順次入力されて、対応画像が順次送られる場合を想定し、以下説明する。
上述のように、対応画像202(再生候補画像C20)及び対応画像203(次候補画像A20)は、相関関係が密接でない。そのため、図8(a)の状態で指示量Dの切替指示が入力されると、図6に示す切替量E1,E2(本例では1とする)だけ対応画像が送られることになり、図8(b)の状態となる。図8(b)の状態とは、対応画像202が前候補画像B21、対応画像203が再生候補画像C21、対応画像204が次候補画像A21となる状態である。
ここで、上述のように対応画像203(再生候補画像C21)、対応画像204(次候補画像A21)及び対応画像205は、相関関係が密接である。そのため、図8(b)の状態で指示量Dの切替指示が入力されると、図6に示す切替量ECだけ対応画像が切り替えられる。本例では切替量ECが、相関関係が密接である対応画像203〜205の全てが切り替えられる大きさ(本例では3)になるものとしている。
この場合、図8(b)の状態から、図8(c)の状態を経て図8(d)の状態になる。図8(d)の状態とは、対応画像205が前候補画像B22、対応画像206が再生候補画像C22、対応画像207が次候補画像A22となる状態である。図8(c)の状態とは、図8(b)の状態から図8(d)の状態に至る経過状態であり、対応画像203が前候補画像、対応画像204が再生候補画像、対応画像205が次候補画像となる状態と、さらにその後に対応画像204が前候補画像、対応画像205が再生候補画像、対応画像206が次候補画像となる状態と、である。
上記のように表示及び切替を行うこととすると、ユーザには、対応画像203〜205が高速で切り替えられたように見える。
なお、本表示例において切替時に相関関係が密接であるか否かを判定する場合、計算量や計算速度などの都合上、再生候補画像と、順番がその前または後(戻す場合は前、送る場合は後)の数個分の対応画像と、の相関関係以外は判定することが困難となる場合がある。この場合、例えば、切替量ECを指示量Dに応じた値や所定の値としても構わない。また、事前に相関関係が密接であるか否かを判定する場合であっても、切替量ECを、指示量Dに応じた値や所定の値にしても構わない。
ところで、切替量ECを指示量Dに応じた値や所定の値とすると、相関関係が密接である対応画像203〜205の一部が一度に送られない(即ち、図8(c)のいずれかの状態で1回分の切替が終了する)状態が生じたり、再生候補画像C21(対応画像203)と相関関係が密接でない対応画像206や207までも一度に送られたりする状態が生じ得る。画像データの捜索上、後者の状態が生じると、対応画像の見落としが発生し得るため問題となる。しかしながら、切替量ECの値を、相関関係が密接であるか否かを判定することができる対応画像の数の範囲内として、かつ相関関係が密接であると判定された対応画像を全て切り替える値とすると、この問題となる状態が生じることを防止することができる。
{第2表示例}
図9は、第2表示例を示す図であり、第1表示例について示した図8に相当するものである。なお、図8と同様に図9に示す例も、図2に示す表示方法と同様の表示方法で対応画像を表示するものである。
図9(a)の状態では、対応画像201が前候補画像B30、対応画像202が再生候補画像C30となる。ただし、図9(a)の状態では、相関関係が密接である対応画像203〜205を重ねて1つにまとめた対応画像が、次候補画像A30となる。この状態から、図6に示す指示量Dの切替指示が順次入力されて、対応画像が順次送られる場合を想定し、以下説明する。
上述のように、対応画像202(再生候補画像C30)及び対応画像203〜205(次候補画像A20)は、相関関係が密接でない。そのため、図9(a)の状態で指示量Dの切替指示が入力されると、図6に示す切替量E1,E2(本例では1とする)だけ対応画像が送られることになり、図9(b)の状態となる。図9(b)の状態とは、対応画像202が前候補画像B31、対応画像203〜205を重ねて1つにまとめた対応画像が再生候補画像C31、対応画像206が次候補画像A31となる状態である。
ここで、上述のように対応画像203〜対応画像205(再生候補画像C31)は、相関関係が密接である。そのため、図9(b)の状態で指示量Dの切替指示が入力されると、図6に示す切替量ECだけ対応画像が切り替えられる。本例では、切替量ECが、相関関係が密接である対応画像203〜205の全てが切り替えられる大きさ(本例では3)になるものとしている。
この場合、図9(b)の状態から、図9(c)の状態になる。図9(c)の状態とは、対応画像203〜205を重ねて1つにまとめた対応画像が前候補画像B32、対応画像206が再生候補画像C32、対応画像207が次候補画像A32となる状態である。
上記のように表示及び切替を行うこととすると、ユーザには、対応画像203〜205がまとまって送られたように見える。
本例では、対応画像203〜205を重ねて1つにまとめた対応画像中で、1つの代表対応画像(対応画像205)を他の対応画像と同様に表示する。代表対応画像として、対応顔図203〜205のいずれを用いても構わないが、本例では、順番が最後となる対応画像205を代表対応画像としている。例えば、順番を撮像時間順や撮像順にする場合、順番が最後となる画像データは、撮像者が満足した撮像により得られた画像データである可能性が高いため、失敗した撮像により得られた画像データである可能性が低い。そのため、順番が最後となる対応画像を代表対応画像にすることで、対応画像をサムネイル画像や縮小画像で構成する場合に、相関関係が密接である対応画像全体をユーザに把握させやすくすることが可能となる。
なお、対応画像203〜205を重ねて1つにまとめた対応画像が、対応画像の切り替えの有無にかかわらず、常時まとまった状態で表示されることとしても構わないし、画像を切り替えないときに、それぞれの対応画像203〜205がまとまらずに分離して表示されることとしても構わない。
{第3表示例}
図10は、第3表示例を示す図であり、第1及び第2表示例について示した図8及び図9に相当するものである。なお、図8及び図9と同様に図10に示す例も、図2に示す表示方法と同様の表示方法で対応画像を表示するものである。
図10(a)の状態では、対応画像201が前候補画像B40、対応画像202が再生候補画像C40、対応画像203が次候補画像A40となる。この状態から、図6に示す指示量Dの切替指示が順次入力されて、対応画像が順次送られる場合を想定し、以下説明する。
上述のように、対応画像202(再生候補画像C40)及び対応画像203(次候補画像A40)は、相関関係が密接でない。そのため、図10(a)の状態で指示量Dの切替指示が入力されると、図6に示す切替量E1,E2(本例では1とする)だけ対応画像が送られることになり、図10(b)の状態となる。図10(b)の状態とは、対応画像202が前候補画像B41、対応画像204が再生候補画像C41、対応画像204及び205を組み合わせて1つにまとめた対応画像が次候補画像A41となる状態である。
ここで、上述のように対応画像203(再生候補画像C41)と、対応画像204及び205(次候補画像C41)とは、相関関係が密接である。そのため、図10(b)の状態で指示量Dの切替指示が入力されると、図6に示す切替量ECだけ対応画像が切り替えられる。本例では、切替量ECが、相関関係が密接である対応画像203〜205の全てが切り替えられる大きさ(本例では3)になるものとしている。
この場合、図10(b)の状態から、図10(c)の状態を経て図10(d)の状態になる。図10(d)の状態とは、対応画像204及び205を組み合わせて1つにまとめた対応画像が前候補画像B42、対応画像206が再生候補画像C42、対応画像207が次候補画像A42となる状態である。図10(c)の状態とは、図10(b)の状態から図10(d)の状態に至る経過状態であり、対応画像203が前候補画像、対応画像204及び205を組み合わせて1つにまとめた対応画像が再生候補画像、対応画像206が次候補画像となる状態である。
上記のように表示及び切替を行うこととすると、ユーザには、対応画像203〜205がまとまって送られるように見える。
本表示例では、相関関係が密接である対応画像203〜205の中で順番が最初である対応画像203をまとめずにそのまま表示し、対応画像204及び205は組み合わせて1つにまとめた対応画像として表示する。順番が最初である対応画像203をそのまま表示すると、1つにまとめられた対応画像が、先行する対応画像203に関連することをユーザに把握させやすくすることが可能となる。
なお、対応画像204及び205を組み合わせて1つにまとめた対応画像が、対応画像の切り替えの有無にかかわらず、常時まとまった状態で表示されることとしても構わないし、画像を切り替えないときに、それぞれの対応画像204及び205がまとまらずに分離して表示されることとしても構わない。
また、上述の第2表示例と同様に、対応画像203〜205を組み合わせて1つの対応画像としても構わないし、対応画像204及び205を重ねて1つの対応画像としても構わない。また、まとめずにそのまま表示する対応画像を対応画像205として、対応画像203及び対応画像204を組み合わせて1つの対応画像としても構わない。
{第4表示例}
図11は、第4表示例を示す図であり、第1〜第3表示例について示した図8〜図10に相当するものである。なお、図8〜図10と同様に図11に示す例も、図2に示す表示方法と同様の表示方法で対応画像を表示するものである。
図11(a)の状態では、対応画像201が前候補画像B50、対応画像202が再生候補画像C50となる。ただし、図11(a)の状態では、相関関係が密接である対応画像203〜205のいずれか1つを表示して(いずれか1つ以外の表示を省略して)1つにまとめた対応画像が、次候補画像A50となる。この状態から、図6に示す指示量Dの切替指示が順次入力されて、対応画像が順次送られる場合を想定し、以下説明する。
上述のように、対応画像202(再生候補画像C50)及び対応画像203〜205(次候補画像A50)は、相関関係が密接でない。そのため、図11(a)の状態で指示量Dの切替指示が入力されると、図6に示す切替量E1,E2(本例では1とする)だけ対応画像が送られることになり、図11(b)の状態となる。図11(b)の状態とは、対応画像202が前候補画像B51、対応画像203〜205のいずれか1つを表示して1つにまとめた対応画像が再生候補画像C51、対応画像206が次候補画像A51となる状態である。
ここで、上述のように対応画像203〜205(再生候補画像C31)は、相関関係が密接である。そのため、図11(b)の状態で指示量Dの切替指示が入力されると、図6に示す切替量ECだけ対応画像が切り替えられる。本例では、切替量ECが、相関関係が密接である対応画像203〜205の全てが切り替えられる大きさ(本例では3)になるものとしている。
この場合、図11(b)の状態から、図11(c)の状態になる。図11(c)の状態とは、対応画像203〜205のいずれか1つを表示して1つにまとめた対応画像が前候補画像B52、対応画像206が再生候補画像C52、対応画像207が次候補画像A52となる状態である。
上記のように表示及び切替を行うこととすると、ユーザには、対応画像203〜205がまとまって送られたように見える。
本例では、対応画像203〜205のいずれか1つを表示して1つにまとめた対応画像中で、表示する1つの代表対応画像を、対応画像205としている。代表対応画像として、対応画像203〜205のいずれを用いても構わないが、第2表示例において述べたように、順番が最後となる対応画像を代表対応画像にすると、相関関係が密接である対応画像全体をユーザに把握させやすくすることが可能となる。
また、本表示例の対応画像203〜205のいずれか1つを表示して1つにまとめた対応画像は、そのまま表示すると他の対応画像と区別することが困難となるため、何らかの方法で報知すると好ましい。例えば、図11に示すように他の対応画像よりも枠を太くして表示したり、枠の色やデザインを異ならせて表示したりすることで報知しても構わないし、アイコンなどを付加して表示することで報知しても構わない。
なお、対応画像203〜205のいずれか1つを表示して1つにまとめた対応画像が、対応画像の切り替えの有無にかかわらず、常時まとまった状態で表示されることとしても構わないし、画像を切り替えないときに、それぞれの対応画像203〜205がまとまらずに分離して表示されることとしても構わない。
また、第4表示例に限らず、第1〜第3表示例においても、相関関係が密接である対応画像203〜205を直接的(第1表示例)または間接的(第2及び第3表示例)に表示する対応画像が、上述の報知を行うこととしても構わない。
<切替制御の変形例>
以下、相関関係が密接である対応画像を切り替える場合の切替制御の変形例について、図面を参照して説明する。図12は、切替制御の変形例について説明する指示量と切替量との関係の一例を示すグラフであり、基本関係について示した図3や、切替制御の一例について示した図6に相当するものである。
図12(a)及び(b)に示すように、本変形例では、閾値Dth1以下となる指示量D1が入力されると、切り替えようとする対応画像の相関関係が密接であるか否かにかかわらず、基本関係に従った切替量E11,E21が設定される(換言すると、切替量ECが、切替量E11,E21に等しくなる)。
また、閾値Dth1より大きく、閾値Dth2より小さい指示量D2が入力されると、上述の図6に示した切替制御の一例と同様となる。即ち、切り替えようとする対応画像の相関関係が密接でなければ、基本関係に従って切替量E12,E22が設定され、切り替えようとする対応画像の相関関係が密接であれば、基本関係に従わずに切替量E12,E22以上となる切替量ECが設定される。
また、本変形例では、閾値Dth2以上となる指示量D3が入力されると、次のカテゴリの画像までジャンプすることとする。「カテゴリ」とは例えば、画像データの撮像日や撮像場所、撮像が行われたイベントなどが同一となるグループである。また「ジャンプ」とは、次のカテゴリに属する対応画像(例えば、カテゴリ内で順番が最初となる対応画像)まで切り替えることである。そのため、ジャンプをする場合、例えば現在の再生候補画像のカテゴリ内の順番(x)と、当該カテゴリに属する対応画像の数(y)と、に基づいた切替量(y−x+1)が設定される。
図12(a)及び(b)に示す指示量D1〜D3のそれぞれが表示制御部5に継続して入力される場合の対応画像の切替の具体例について、図面を参照して説明する。図13は、種々の指示量が入力されたときの対応画像の切替例を示す図である。
図13に示す対応画像301の順番は1、対応画像302の順番は2、対応画像303の順番は3、対応画像304の順番は4、対応画像305の順番は5、対応画像306の順番は6、対応画像307の順番は7、対応画像308の順番は8である。また、対応画像304及び対応画像305、対応画像305及び対応画像306、対応画像306及び対応画像307、のそれぞれは相関関係が密接であると判定され得るものである。そのため、対応画像304〜307は相関関係が密接であると判定され得るものとなっている。なお、対応画像304〜307がそれぞれ対応する画像データが直接的に比較された結果、それぞれの対応画像304〜307の相関関係が密接であると判定され得るものであっても構わない。
また、対応画像301及び302、対応画像303、対応画像304〜307、対応画像308は、それぞれ同じカテゴリに属するものとする。図13では、カテゴリを破線で示している。
また図13では、対応画像301を起点として、順番に沿って対応画像が切り替えられる状態を示している。ただし、説明の簡略化のため、図8〜図11とは異なり、1つの対応画像(例えば、再生候補画像)の切替(送り)のみに着目することとする。
指示量D1が入力される場合、基本関係に従った切替量E11,E12が設定される。図13に示す例では、対応画像が1ずつ送られるものとしている(E11,E12=1)。そのため、指示量D1が入力される度(操作部3がユーザに操作される度)に、対応画像301から対応画像308まで1ずつ順番に送られる。
このとき、対応画像304と、順番が対応画像304の後となる対応画像305と、は相関関係が密接であるが、上述の通り基本関係に従った切替量E11,E12が設定される。そのため、対応画像304,305は1ずつ送られることとなる(対応画像306,307が送られる場合も同様)。
指示量D2が入力されて対応画像301が送られる場合、対応画像301と、対応画像301の後となる対応画像302と、は相関関係が密接でないため、基本関係に従った切替量E12,E22が設定される(対応画像303が送られる場合も同様)。図13に示す例では、対応画像が2ずつ送られるものとしている(E21,E22=2)。
一方、指示量D2が入力されて対応画像305が送られる場合、対応画像305と、順番が対応画像305の後となる対応画像306,307と、は相関関係が密接であるため、上述の通り基本関係に従わない切替量ECが設定される。図13に示す例では、上述した第1〜第4表示例と同様に、切替量ECが、相関関係が密接である対応画像305〜307の全てが送られる大きさ(本例では3)になるものとしている。
指示量D3が入力される場合、対応画像がカテゴリ毎に送られる。特に、指示量D3が入力される度(操作部3がユーザに操作される度)に、次のカテゴリに属する対応画像のうち順番が最初である対応画像まで送られる。即ち、図13に示す例では、対応画像301,303,304,308の順に送られることとなる。
上述のように、閾値Dth1以下となる指示量D1が入力されるときに、切り替えようとする対応画像の相関関係が密接であるか否かにかかわらず、基本関係に従う切替量E11,E12を設定することとすると、相関関係が密接である対応画像304〜307のそれぞれを切り替える(例えば、再生候補画像にする)ことが可能となる。したがって、対応画像304〜307が対応するそれぞれの画像データの中に、選択すべき画像データが存在する場合でも、指示量を小さくする(例えば、ユーザが操作部3の一回当たりの(または単位時間当たりの)操作量を小さくしたり、一回当たりの操作時間を短くしたりする)だけで、容易に当該画像データを選択することが可能となる。
また、閾値Dth2以上となる指示量D3が入力されるときに、対応画像をカテゴリ毎に切り替えることとすると、例えば捜索の初期において、選択すべき画像データの絞り込みを行うことが可能となる。そのため、画像データを容易かつ迅速に選択することが可能となる。
なお、閾値Dth2を設けないこととしても構わない。このとき、閾値Dth1よりも大きい指示量が入力され、切り替えようとする対応画像の相関関係が密接でない場合であれば、基本関係に従う切替量が設定され、相関関係が密接である場合であれば、基本関係に従わない切替量ECが設定されることとしても構わない。
また、閾値Dth1,Dth2は、どのような値としても構わない。特に、図12(a)に示すように、階段状となる基本関係の段差部分と異なる値としても構わないし、図12(b)に示すように、階段状となる基本関係の段差部分と等しい値としても構わない。
また、上述の第2〜第4表示例にも、本変形例は適用され得る。この場合例えば、少なくとも閾値Dth1以下となる指示量が入力されるときは、1つにまとまっていた対応画像がそれぞれの対応画像に分離されて、それぞれ表示及び切替が行われることとしても構わない。
<相関の有無を求めるタイミング>
次に、上述した対応画像の相関関係が密接であるか否かを判定するタイミングについて、図面を参照して説明する。
[切替時]
図14は、対応画像の切替時に相関関係が密接であるか否かを判定して対応画像の切替を行う場合の動作を示すフローチャートである。図14に示す動作は、例えば画像表示装置1において画像データを再生しようとする場合に行われる動作であり、ユーザが操作部3を1回操作する際に行われるものである。
図14に示すように、最初に、ユーザが操作部3を操作することにより、画像表示装置1に切替指示が入力される(STEP1)。このとき、表示制御部5が上述した指示量を確認する。また、表示制御部5は、切替前の対応画像(例えば、STEP1の時点での再生候補画像、または、STEP2の時点での再生候補画像)と、当該対応画像よりも順番が前または後となる切替候補の対応画像(例えば、STEP2の時点での前候補画像または次候補画像)と、の相関関係が密接であるか否かを判定する(STEP2)。
表示制御部5は、指示量とSTEP2の判定結果とに基づいて、切替前の対応画像を切替候補の対応画像に切り替えるべきか否かを決定する(STEP3)。この切替の適否の決定は、切替候補の対応画像に切り替えた場合に、上述した切替量の範囲内になるか否かに基づいて決定することができる。具体的には、対応画像を切り替えたとしても切替量の範囲内になるのであれば、対応画像を切り替えると決定する。
ところで、上述のように計算量や計算速度などの都合上、相関関係が密接であるか否かを判定することができる対応画像の数が限られている場合がある。この場合、STEP3では、相関関係が密接であるか否かを判定することができるか否か(さらにSTEP2を行うことができるか否か)に基づいた切替量が設定され、切替の適否の決定が行われる。
対応画像を切り替えないと決定する場合は(STEP3、NO)、切替を終了する。一方、切替候補の対応画像を切り替えると決定する場合は(STEP3、YES)、切替前の対応画像を切替候補の対応画像に切り替える(STEP4)。この対応画像は、例えば、上述の第1表示例のように高速で切り替えられる。そして、STEP4で対応画像が切り替えられるとSTEP2に戻り、以下STEP3、STEP4で同様の動作が行われる。
以上のように、切替時に対応画像(画像データ)の相関関係が密接であるか否かを判定することとすると、どのような対応画像(例えば、複数の撮像装置で撮像された画像データや、順番などの各種情報が変更された画像データ)であっても、上述の切替制御を行うことが可能となる。
[転送時]
図15は、画像データの転送時に相関関係が密接であるか否かを判定する場合の動作を示すフローチャートである。図15に示す動作は、例えば、撮像により得られた画像データが、撮像装置からビューア(画像表示装置1)や記録装置に転送される場合に行われるものである。
図15に示すように、最初に、転送される画像データを指定する転送指示が入力される(STEP11)。そして、転送される画像データの有無が確認される(STEP12)。転送される画像データがなければ(STEP12、NO)、転送を終了する。一方、転送される画像データがあれば(STEP12、YES)、転送される画像データと、順番が当該画像データの前後となる画像データと、の相関関係が密接であるか否かを判定する(STEP13)。
ここで、転送される画像データと、その前または後の画像データとの相関関係が密接である場合(STEP14、YES)、画像表示装置や記録装置に、相関関係が密接である画像データとして記録される(STEP15)。このとき、相関関係が密接であることを示す情報を画像データの一部であるヘッダなどに記録しても構わないし、画像表示装置や記録装置のシステムの記録領域に記録しても構わない。
一方、転送される画像データと、その前または後の画像データとの相関関係が密接でない場合(STEP14、NO)、画像表示装置や記録装置に、相関関係が密接でない画像データとして記録される(STEP16)。このとき、STEP15と同様に相関関係が密接でないことを示す情報をヘッダやシステム領域に記録しても構わないし、相関関係について記録しないことで相関関係が密接でないことを示しても構わない。
STEP15またはSTEP16が終了すると、STEP12に戻り他の画像データが転送されるか否かを確認し、以下同様の動作を行う。
このように構成すると、画像表示装置1で画像データを再生しようとする際に、予め画像データの相関関係が密接であるか否かが判定されていることになる。したがって、切替時に相関関係が密接であるか否かを判定する必要がなくなるため、上述の切替制御を迅速に行うことが可能となる。
なお、STEP15及び16において、相関関係が密接であることを示す情報を記録することとしたが、相関度を記録することとしても構わない。また、相関関係が密接であるか否かの判定は、撮像装置が行うこととしても構わないし、画像表示装置や記録装置が行うこととしても構わない。
[撮像時]
図16は、撮像時に相関関係が密接であるか否かを判定する場合の動作を示すフローチャートである。図16に示す動作は、一つの画像データを撮像により得る場合に行われる動作である。
図16に示すように、最初に、画像データの撮像を行う(STEP21)。そしてSTEP21の撮像により得られた画像データと、順番が当該画像データの前となる画像データと、の相関関係が密接であるか否かを判定する(STEP22)。なお、順番が当該画像データの後となる画像データが存在する場合は、当該画像データと後の画像データとの相関関係が密接であるか否かを判定しても構わない。
ここで、撮像により得られた画像データと、順番が前(または後)となる画像データとの相関関係が密接である場合(STEP23、YES)、相関関係が密接である画像データとして撮像装置の記録部に記録される(STEP24)。このとき、相関関係が密接であることを示す情報を画像データの一部であるヘッダなどに記録しても構わないし、撮像装置のシステムの記録領域に記録しても構わない。
一方、撮像により得られた画像データと、順番が前(または後)となる画像データとの相関関係が密接でない場合(STEP23、NO)、相関関係が密接でない画像データとして撮像装置の記録部に記録される(STEP25)。このとき、STEP24と同様に相関関係が密接でないことを示す情報をヘッダやシステムの記録領域に記録しても構わないし、相関関係について記録しないことで相関関係が密接でないことを示しても構わない。そして、STEP24またはSTEP25が終了することにより、動作を終了する。
このように構成すると、上述の[転送時]と同様に、画像表示装置1で画像データを再生しようとする際に、予め相関関係が密接であるか否かが判定されていることになる。したがって、切替時に相関関係が密接であるか否かを判定する必要がなくなるため、上述の切替制御を迅速に行うことが可能となる。
なお、STEP24及び25において、相関関係が密接であることを示す情報を記録することとしたが、相関度を記録することとしても構わない。
[相関関係が密接であるか否か予め判定されている対応画像の切替]
次に、上述の[転送時]や[撮像時]に記録したような、相関関係が密接であるか否かが予め判定されている対応画像の切替動作について、図面を参照して説明する。図17は、相関関係が密接であるか否かが予め判定されている場合の対応画像の切替動作を示すフローチャートである。図17に示す動作は、例えば画像表示装置1において画像データを再生しようとする場合に行われる動作であり、ユーザが操作部3を1回操作する際に行われるものである。
図17に示すように、最初に、ユーザが操作部3を操作することにより、画像表示装置1に切替指示が入力される(STEP31)。このとき、表示制御部5が上述した指示量を確認する。また、表示制御部5は、切替前の対応画像(例えば、STEP31の時点での再生候補画像、または、STEP32の時点での再生候補画像)と、当該対応画像よりも順番が前または後となる切替候補の対応画像(例えば、STEP2の時点での前候補画像または次候補画像)と、の相関関係が密接であるか否かを確認する(STEP32)。
表示制御部5は、指示量とSTEP32で確認した相関関係とに基づいて、切替前の対応画像を切替候補の対応画像に切り替えるべきか否かを決定する(STEP33)。この切替の適否の決定は、切替候補の対応画像を切り替えた場合に、上述した切替量の範囲内になるか否かに基づいて決定することができる。具体的には、切替候補の対応画像に切り替えたとしても切替量の範囲内になるのであれば、対応画像を切り替えると決定する。
対応画像を切り替えないと決定する場合は(STEP33、NO)、切替を終了する。一方、対応画像を切り替えると決定する場合は(STEP33、YES)、切替前の対応画像を切替候補の対応画像に切り替える(STEP34)。この対応画像は、例えば、上述の第1表示例のように高速で切り替えられたり、第2〜第4表示例のように他の対応画像とまとめて切り替えられたりする。そして、STEP34で対応画像が切り替えられるとSTEP32に戻り、以下STEP33、STEP34で同様の動作が行われる。
以上のように、対応画像の相関関係が密接であるか否かが予め判定されていると、切替時に相関関係を確認するだけで済むようになる。そのため、画像表示装置1の切替制御の迅速化や、構成の簡略化を図ることが可能となる。
<複合対応画像をユーザが選択する場合の動作例>
上述の説明では、ユーザが対応画像を選択する(操作部3を介して選択指示を入力する)場合、当該対応画像が対応する画像データを再生するものとした。しかしながら、少なくとも2つの対応画像がまとめられて成る1つの対応画像(第2〜第4表示例、図7及び図9〜11参照。以下、複合対応画像と表現して、単体の対応画像と区別する。)を、ユーザが選択する場合がある。この場合、ユーザが対応画像を選択する場合とは異なる動作をするように構成すると、好ましい。
そこで、ユーザが複合対応画像を選択する場合の動作例について、以下説明する。なお、以下に示す各動作例は、同種のもの及び異種のものを問わず、矛盾なき限り組み合わせて実施可能である。また、主に第2表示例(図9参照)や第3表示例(図10参照)に各動作例を適用する場合について例示し、第4表示例(図11参照)に各動作例を適用する場合は第2表示例に各動作例を適用する場合と同様として、その説明を省略する。また、説明の簡略化のため、以下の各動作例の説明において図面を参照する場合、図7、図9及び図10と同様の部分については同様の符号を付して、その詳細な説明を省略する。
[複合対応画像の選択検出動作]
最初に、複合対応画像がユーザによって選択されたことを表示制御部5が検出する各動作例について、図面を参照して説明する。
{選択検出動作:第1例}
図18は、複合対応画像の選択検出動作の第1例を示す図であり、図18(a)が第2表示例に対応し、図18(b)が第3表示例に対応する。図18(a),(b)に示すように、本動作例は、選択検出範囲Sに複合対応画像が位置し、操作部3を介したユーザの指示が所定の時間以上入力されないときに、複合対応画像が選択されたことを表示制御部5が検出する。具体的に例えば、複合対応画像が再生候補画像C6,C7となり、ユーザから切替指示が所定の時間以上入力されない場合に、複合対応画像が選択されたことを表示制御部5が検出する。
なお、選択検出範囲Sは、再生候補画像の位置に限らず、前候補画像や次候補画像位置に設定しても構わない。また、1つの位置に限らず複数の位置に設定しても構わない。例えば、前候補画像、再生候補画像及び次候補画像のそれぞれの位置に設定しても構わないし、いずれか2つの位置に設定しても構わない。
また、本動作例における、選択検出範囲Sに複合対応画像が位置して操作部3を介したユーザの指示が所定の時間以上入力されない状態は、後述する複合対応画像の選択後動作の第4例における同様の状態と、共通化することができる。
{選択検出動作:第2例}
図19は、複合対応画像の選択検出動作の第2例を示す図であり、図19(a)が第2表示例に対応し、図19(b)が第3表示例に対応する。図19(a),(b)に示すように、本動作例は、操作部3を介してユーザから複合対応画像を選択する選択指示が入力される場合に、表示制御部5が、複合対応画像が選択されたことを検出する。具体的に例えば、複合対応画像(図19(a)の再生候補画像C8、図19(b)の次候補画像A9)を選択する選択指示が入力された場合に、複合対応画像が選択されたことを表示制御部5が検出する。
{選択検出動作:第3例}
本動作例は、選択検出動作の第1例で述べた選択検出範囲S(図18参照)に複合対応画像が位置しているときに、操作部3を介してユーザから切替指示とは異なる指示が入力されたときに、表示制御部5が、複合対応画像が選択されたことを検出する。
具体的に例えば、複合対応画像が再生候補画像C6となり、切替指示を入力する際にユーザが操作部3を操作する方向(以下、切替指示方向とする)とは異なる方向(例えば、切替指示方向に対して垂直となる方向や、当該方向と切替指示方向との間となる方向。以下、非切替指示方向とする。)の操作をユーザが行う場合に、複合対応画像が選択されたことを表示制御部5が検出する。
ユーザが操作部3を非切替指示方向に操作するとは、例えば、操作部3がタッチパネルであり、表示部4中で前候補画像B6,B7、再生候補画像C6,C7及び次候補画像A6,A7が整列する方向(図中の左右方向、切替指示方向)にスライドする(なぞる)ことで切替指示が入力される場合では、ユーザが切替指示方向とは異なる方向(図中の上下方向や斜め方向、即ち、非切替指示方向)に沿って表示部4上をスライドする(なぞる)ことである。また例えば、操作部3がトラックボールやキーであり、上記の整列方向(切替指示方向)に沿ってトラックボールを転がしたり、当該方向に対応するキーを押下したりすることで切替指示が入力される場合では、ユーザが切替指示方向とは異なる方向(非切替指示方向)に沿ってトラックボールを転がしたり、当該方向に対応するキーを押下することである。
なお、本動作例における切替指示とは異なる指示は、後述する複合対応画像の選択後動作の第3例における同様の指示と、共通化することができる。
また、上述の選択検出動作の第1例〜第3例は、複合対応画像を選択する場合に限らず、対応画像を選択する場合にも適用可能である。
[複合対応画像の選択後動作]
次に、複合対応画像がユーザによって選択された後に表示制御部5が行う各動作例について、図面を参照して説明する。
{選択後動作:第1例}
図20は、複合対応画像の選択後動作の第1例を示す図であり、第2表示例に対応するものである。図20(a)は、選択検出動作を行う前の表示例である。図20(b)は、選択検出動作直後の表示例である。図20(c)は、表示部4が図20(b)の状態であるときに、ユーザが操作部3を介して切替指示とは異なる指示を入力した場合の表示例である。
図20(a),(b)に示すように、本動作例では、表示制御部5が上述の選択検出動作を行うと、複合対応画像を成すいずれかの対応画像が対応する画像データを表示部4に再生させる。このとき、例えば複合対応画像中の代表対応画像205(図7参照)が対応する画像データを、再生しても構わない。
そして、図20(b)に示すように画像データが再生されている状態で、ユーザが操作部3を介して切替指示とは異なる指示を入力すると、表示制御部5は、再生している画像データとは異なり、かつ、選択した複合対応画像に含まれるいずれかの対応画像が対応する画像データを、表示部4に再生させる。なお、図20(c)では、対応画像203(図7参照)が対応する画像データが表示部4で再生される場合を例示している。
そして、ユーザが、切替指示とは異なる指示をさらに入力する(例えば、ユーザが操作部3に対して非切替指示方向の操作を行う)と、表示制御部5は、表示部4で再生する画像データを順次変更する。例えば、上述した相関度の順や、画像の類似度の順、撮像日時などの順に、再生する画像データを変更する。
このように構成すると、相関関係が密接である複数の対応画像が対応するそれぞれの画像データを、ユーザが容易に再生して確認することが可能となる。
なお、ユーザが操作部3に対して非切替指示方向の操作を行うことで、表示部4で再生される画像データが変更される場合、操作方向によって(例えば、上方向か下方向かによって、または、斜め上方向か斜め下方向かによって)、所定の順番に沿った変更が行われることとしても構わない。具体的に例えば、ユーザが上方向の操作を行うと、表示部4に再生される画像データが昇順に変更され、ユーザが下方向の操作を行うと、表示部4に再生される画像データが降順に変更されることとしても構わない。このように構成すると、ユーザが所望の画像データを容易に探索することが可能になる。
また、操作方向によって、順番の指標(例えば、撮像日時や、画像データが示す画像の類似度など)が異なる変更が行われることとしても構わない。具体的に例えば、ユーザが上方向の操作を行うと、撮像日時の順に表示部4で再生される画像データが変更され、ユーザが下方向の操作を行うと、画像の類似度の順に表示部4で再生される画像データが変更されることとしても構わない。このように構成すると、ユーザが所望の画像データを探索する際に、任意の指標を選択することが可能になる。
また、ユーザが操作部3の操作方向の種類(例えば、上下方向及び斜め方向)を異ならせることで、表示部4で再生される画像データを複数の方法で変更可能としても構わない。具体的に例えば、ユーザが上下方向の操作をすることで、所定の順番に沿った変更が行われ、斜め方向の操作をすることで、順番の指標を異ならせた変更が行われることとしても構わない。
また、操作方向の種類に応じて順番の指標が異なり、操作方向に応じて当該順番の昇降が制御されることとしても構わない。具体的に例えば、ユーザが上方向の操作をすると、撮像日時の昇順に表示部4で再生される画像データが変更され、ユーザが下方向の操作を行うと、撮像日時の降順に表示部4で再生される画像データが変更され、ユーザが斜め上方向の操作をすると、画像の類似度の昇順に表示部4で再生される画像データが変更され、ユーザが斜め下方向の操作を行うと、画像の類似度の降順に表示部4で再生される画像データが変更されることとしても構わない。
また、第3表示例に本動作例を適用する場合、上記の第2表示例に適用する場合と同様の動作が行われることとしても構わない。このとき、複合対応画像を成す対応画像204,205(図7及び図10参照)が対応する画像データが、表示部4で再生され得るようにしても構わない。また、相関関係が密接である対応画像203〜205(図7及び図10参照)が、表示部4で再生され得るようにしても構わない。
{選択後動作:第2例}
本動作例では、表示部4が選択後動作の第1例と同様の動作を行う(図20参照)が、表示制御部5が、表示部4で再生する画像データを変更する動作(図20(b)から図20(c)へ変更する動作)が、第1例と本動作例とで異なる。なお、本動作例において、上記以外の動作は第1例と同様であるため、説明を省略する。
本動作例では、表示制御部5が、操作部3を介したユーザの指示が所定の時間以上入力されないことを検出することで、表示部4で再生する画像データを所定の順番に沿って変更する。また、表示制御部5は、当該変更を繰り返し行い得る。
このように構成すると、相関関係が密接である複数の対応画像が対応するそれぞれの画像データを、ユーザが特別な操作をすることなく容易に再生して確認することが可能となる。
{選択後動作:第3例}
図21は、複合対応画像の選択後動作の第3例を示す図であり、第2表示例に対応するものである。図21(a)は、選択検出動作を行う前の表示例である。図21(b)は、選択検出動作直後の表示例である。図21(c)は、表示部4が図21(b)の状態であるときに、ユーザが操作部3を介して切替指示とは異なる指示を入力した場合の表示例である。
図21(a),(b)に示すように、本動作例では表示制御部5が上述の選択検出動作を行っても、複合対応画像の表示を継続する。このとき、前候補画像B112や次候補画像A112の少なくとも一部が表示される範囲内であれば(即ち、ユーザが複合対応画像及び対応画像の順番を把握可能な状態であれば)、複合対応画像を拡大するなど、各種調整を行っても構わない。
そして、図21(b)に示すように複合対応画像が表示されている状態で、ユーザが操作部3を介して切替指示とは異なる指示を入力すると、表示制御部5は、複合対応画像中の代表対応画像205(図7参照)とは異なり、かつ、選択した複合対応画像に含まれるいずれかの対応画像が代表対応画像になるように、表示部4の表示状態を変更する。なお、図21(c)では、対応画像203(図7参照)が代表対応画像になるように、表示部4の表示状態が変更される場合を例示している。
そして、ユーザが、切替指示とは異なる指示をさらに入力すると、表示制御部5は、複合対応画像中の代表対応画像を順次変更する。例えば、上述した相関度の順や、画像の類似度の順、撮像日時などの順に、代表対応画像を変更する。
このように構成すると、複合対応画像を成す複数の対応画像を、ユーザが容易に確認することが可能となる。
なお、選択後動作の第1例において、ユーザが操作部3に対して非切替指示方向の操作を行うことで、表示部4で再生される画像データが変更される動作について述べたが、当該動作を本動作例で行っても構わない。ただし、本動作例では、複合対応画像中の代表対応画像が変更されるものとする。
また、第3表示例に本動作例を適用する場合、上記の第2表示例に適用する場合と同様の動作が行われることとしても構わない。このとき、複合対応画像を成す対応画像204,205(図7及び図10参照)の表示部4での表示状態(例えば、並び順や大きさ)が変更され得るようにしても構わない。また、相関関係が密接である対応画像203〜205(図7及び図10参照)において、まとめられずに表示される対応画像203と、複合対応画像を成す対応画像204,205とが入れ替えられることで、まとめられずに表示される対応画像が変更され得るようにしても構わない。
{選択後動作:第4例}
本動作例では、表示部4が選択後動作の第3例と同様の動作を行う(図21参照)が、表示制御部5が、複合対応画像中の代表対応画像を変更する動作(図21(b)から図21(c)へ変更する動作)が、第3例と本動作例とで異なる。なお、本動作例において、上記以外の動作は第3例と同様であるため、説明を省略する。
本動作例では、表示制御部5が、操作部3を介したユーザの指示が所定の時間以上入力されないことを検出することで、複合対応画像中の代表対応画像を、所定の順番に沿って変更する。また、表示制御部5は、当該変更を繰り返し行い得る。
このように構成すると、複合対応画像を成す複数の対応画像を、ユーザが特別な操作をすることなく容易に確認することが可能となる。
{選択後動作:第5例}
図22は、複合対応画像の選択後動作の第5例を示す図であり、第2表示例に対応するものである。図22(a)は、選択検出動作を行う前の表示例である。図22(b)は、選択検出動作直後の表示例である。図22(c)は、表示部4が図22(b)の状態であるときに、ユーザが操作部3を介して選択指示を入力した場合の表示例である。
図22(a),(b)に示すように、本動作例では表示制御部5が上述の選択検出動作を行うと、相関関係が密接である対応画像203〜205(図7参照。本例では複合対応画像を成す対応画像。)を、一覧表示画像D1221〜D1223として別々に表示する。このとき、例えば複合対応画像中の代表対応画像205(図7参照)の一覧表示画像D1223を、表示部4の中心などの注目され易い位置に配置しても構わない。
そして、図22(b)に示すように一覧表示画像D1221〜D1223が表示されている状態で、ユーザが操作部3を介して選択指示を入力すると、表示制御部5は、選択指示によって選択された一覧表示画像の対応画像が対応する画像データを、表示部4で再生する。なお、図22(c)では、対応画像205(図7参照)の一覧表示画像D1223を選択する選択指示が入力され、対応画像205が対応する画像データが表示部4で再生される場合を例示している。
このように構成すると、相関関係が密接であるそれぞれの対応画像を、一度で容易に確認することが可能となる。
なお、図22(c)のように表示部4が画像データを再生している際に、ユーザが所定の指示(例えば、表示部4中の任意の位置を選択する選択指示)を入力する場合、表示制御部5は、図22(a)のように表示部4に対応画像及び複合対応画像を表示させても構わないし、図22(b)のように一覧表示画像を表示させても構わない。
また、表示部4が図22(b)に示す状態であり、ユーザが操作部3を介して一覧表示画像D1221〜D1223が無い位置を選択する選択指示を入力する場合、表示制御部5は、図22(a)のように表示部4に対応画像及び複合対応画像を表示させても構わない。
また、第3表示例に本動作例を適用する場合、上記の第2表示例に適用する場合と同様の動作が行われることとしても構わない。このとき、図23(b)のように、相関関係が密接である対応画像203〜205(図7参照)を一覧表示画像として表示部4に表示しても構わないし、複合対応画像を成す対応画像204,205(図7及び図10参照)のみを一覧表示画像として表示部4に表示しても構わない。
[動作の変形例]
{第1変形例}
上述の各動作例を第3表示例に適用する場合、複合対応画像を成す対応画像204,205(図7及び図10参照)と相関関係が密接であるが、まとめて表示されない対応画像203(図7及び図10参照)がユーザによって選択されたときに、複合対応画像が選択されたときと同様の動作を行っても構わない。また、まとめて表示されない対応画像203を、第2表示例や第4表示例における代表対応画像に相当するものとして解釈しても構わない。
この場合の動作例について、図面を参照して具体的に説明する。図23は、複合対応画像が選択される場合の動作の第1変形例を示す図であり、第3表示例に対応するものである。図23(a)は、選択検出動作を行う前の表示例である。図23(b)は、選択検出動作直後の表示例である。図23(c)は、表示部4が図23(b)の状態であるときに、ユーザが操作部3を介して選択指示を入力した場合の表示例である。
本変形例では、図23(a),(b)に示すように、複合対応画像(次候補画像A131)を成す対応画像204,205(図7参照)と相関関係が密接であるが、まとめて表示されない対応画像203(再生候補画像C131、図7参照)を選択する選択指示が入力される場合でも、表示制御部5が、対応画像203〜205の一覧表示画像D1321〜1323を表示部4に表示させる。そして、図23(b),(c)に示すように、上述の選択後動作の第5例と同様の動作を行う。
このように構成すると、相関関係が密接である対応画像の少なくとも1つをユーザが選択することで、相関関係が密接である複数の対応画像を、ユーザが一度で容易に確認することが可能となる。
なお、本変形例は、選択検出動作の第2例、選択後動作の第5例に対応するものであるが、他の動作例についても同様に対応させることが可能である。
{第2変形例}
上述の第2、第4表示例の代表対応画像や、第3表示例の複合対応画像を成す対応画像と相関関係が密接であるがまとめて表示されない対応画像のように、優先的に表示される対応画像を、可変としても構わない。例えば、ユーザが直近に再生した画像データの対応画像や、選択後動作の第3例で直近に優先的に表示した対応画像のように、直近にユーザが選択した対応画像を、優先的に表示される対応画像としても構わない。
このように構成すると、ユーザが選択する可能性の高い対応画像を、優先的に表示することが可能となる。そのため、所望の対応画像をユーザに選択させ易くすることが可能となる。
{第3変形例}
表示制御部5は、表示部4に対応画像及び複合対応画像を表示させる時や、一覧表示画像を表示させる時、画像データを再生させる時などに、操作部3の操作方法を併せて表示させても構わない。この場合の表示部4の表示例について、図面を参照して説明する。
図24は、複合対応画像が選択される場合の動作の第3変形例を示す図であり、第2表示例に対応するものである。図24(a)は、表示部4が対応画像及び複合対応画像を表示する場合の表示例である。図24(b)は、表示部4が画像データを再生する場合の表示例である。
図24(a)に示すように、表示部4は、切替指示の操作方法を示す画像(図中の、左向きの矢印及び「戻し」と、右向きの矢印及び「送り」)と、選択指示の操作方法を示す画像(図中の、黒丸及び「拡大」)と、を表示する。
また、図24(b)に示すように、表示部4は、切替指示の操作方法を示す画像(図中の、左向きの矢印及び「戻し」と、右向きの矢印及び「送り」)と、選択指示の操作方法を示す画像(図中の、黒丸及び「重ねる」)と、切替指示とは異なる指示を示す画像(図中の、上向きの矢印及び「類似」と、右向きの矢印及び「時間」)と、を表示する。
このように構成すると、ユーザは、表示部4に表示される操作方法を示す画像を見ながら、操作部3を操作することになる。そのため、ユーザが容易に表示部4を所望の状態にすることが可能になる。
なお、上記の操作方法を示す画像を、表示部4が常時表示しても構わないし、ユーザが操作部3を操作したときなど、所定の条件を満たしたときのみ表示しても構わない。また、本変形例は、選択検出動作の第2例、選択後動作の第1例に対応するものであるが、他の動作例についても同様に対応させることが可能である。また、本変形例は、複合対応画像を表示する場合(例えば、第2〜第4表示例)に適用可能であるだけでなく、複合対応画像を表示しない場合(例えば、第1表示例)にも適用可能である。ただし、複合対応画像を表示して、操作部3の操作が複雑と成り得る場合(例えば、選択検出動作の第2例及び第3例、選択後動作の第1例、第3例及び第5例)に、本変形例を適用すると効果的である。
ところで、図24(b)に示す表示例のように、表示部4が画像データを再生している際にユーザが操作部3を介して切替指示を入力すると、上述の切替動作が行われる。具体的に例えば、図24(b)の状態が、図24(a)の再生候補画像C141を選択する選択指示が入力されることで得られるものである場合、ユーザが操作部3を介して切替指示(送り)を入力すると、表示制御部5が、次候補画像A141の対応画像206(図7参照)が対応する画像データを表示部4で再生させる。なお、表示制御部5が、図24(a)を上述のように送った状態(対応画像206(図7参照)が再生候補画像となる状態)を表示部4に表示させても構わない。また、表示部4が一覧表示画像を表示している際に切替指示が入力される場合も、同様の切替動作を行っても構わない。
<<変形例>>
上述の説明では、切替量が整数値のみを取り対応画像が画像単位で切り替えられることとして説明したが、小数値も取り得ることとして対応画像が部分単位で切り替えられるものとしても構わない。この場合の一例について、図面を参照して説明する。図25は、指示量と切替量との基本関係の別例を示すグラフであり、図3に対応するものである。図26は、再生すべき画像データの捜索時における表示部の表示の別例を示す図であり、図2に対応するものである。
図25に示すように、本例の基本関係のグラフは連続的な値を取る。例えば、図25(a)に示すグラフは、指示量の増大に伴い切替量が線形的に増大するものである。一方、図25(b)に示すグラフは、指示量の増大に伴い切替量が非線形に増大するものである。また、図25(a)のグラフでは切替量に上限値が無いが、図25(b)のグラフでは切替量に上限値があり、ある指示量以上では切替量が一定となる。なお、図25(a)及び(b)に示す基本関係は一例に過ぎず、他のものとしても構わない。例えば、図25(a)のグラフにおいて切替量に上限値を設けても構わないし、図25(b)のグラフにおいて切替量に上限値を設けないこととしても構わない。
また、上記のように切替量を設定する場合の表示部4の表示例を図26に示す。図26に示す状態は、切替前に再生候補画像であった対応画像X1が部分的に送られ、順番が対応画像X1の後となる対応画像X2が、次の再生候補画像になる前の状態である。なお、この状態で、対応画像X1及びX2の両方が再生候補画像に該当しないとしても構わないし、いずれか一方が再生候補画像に該当するとしても構わない。
また、上述の説明では、切替量を、1回の切替動作当たりに切り替えられる対応画像の数と定義したが、単位時間当たりに切り替えられる対応画像の数と定義することも可能である。このように定義する場合、切替量は対応画像の切替速度と解釈され、指示量が大きいほど速く画像が切り替えられる(例えば、表示部4内の見かけ上、対応画像が速く移動して切り替えられる)こととなる。なお、切替動作中の切替速度は等速に限られない。例えば、複数の対応画像を一度に切り替える場合、後に切り替えられる対応画像ほど速く切り替えても構わない。
ところで、単位動作当たりの切替量を大きくすることで必然的に単位時間当たりの切替量が大きくなったり、単位時間当たりの切替量を大きくすることで必然的に単位動作当たりの切替量が大きくなったりする場合が生じ得る。例えば、上記の第1表示例において1回の切替動作にかかる時間が所定の範囲内に制限されている場合や、上記の第2〜第4表示例の場合などである。
本発明の実施形態における画像表示装置1について、表示制御部5などの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
また、上述した場合に限らず、図1の画像表示装置1は、ハードウェア、あるいは、ハードウェア及びソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて画像表示装置1を構成する場合、ソフトウェアによって実現される部位についてのブロックは、その部位の機能ブロックを表すこととする。
以上、本発明の実施形態についてそれぞれ説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。