JP3772563B2 - パノラマ撮影方法および撮像装置 - Google Patents

パノラマ撮影方法および撮像装置 Download PDF

Info

Publication number
JP3772563B2
JP3772563B2 JP36004998A JP36004998A JP3772563B2 JP 3772563 B2 JP3772563 B2 JP 3772563B2 JP 36004998 A JP36004998 A JP 36004998A JP 36004998 A JP36004998 A JP 36004998A JP 3772563 B2 JP3772563 B2 JP 3772563B2
Authority
JP
Japan
Prior art keywords
image
divided
display
captured
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP36004998A
Other languages
English (en)
Other versions
JP2000175186A (ja
Inventor
肇 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP36004998A priority Critical patent/JP3772563B2/ja
Publication of JP2000175186A publication Critical patent/JP2000175186A/ja
Application granted granted Critical
Publication of JP3772563B2 publication Critical patent/JP3772563B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明はデジタルカメラ等の撮像装置によるパノラマ撮影技術に関する。
【0002】
【従来の技術】
撮像装置で、風景等のような広い視野の被写体を対象にした画像を得る場合に、カメラを動かしながら当該風景を画角の範囲で分割して撮像して複数枚の画像(分割画像)を得て、後にそれら分割画像をずらしながら継ぎ目なく張合わせて広い視野を再現するパノラマ撮影機能を備えたものがある。このパノラマ撮影機能を備えた撮像装置でパノラマ撮影モードを選択すると1枚目の画像の撮影後、直前に撮影された分割画像の端部を表示領域の一方の端部側に固定して表示し、残りの表示領域にCCDからのスルー画像を連続させて表示していた。
【0003】
しかしながら、上記方式では前回の画像とCCDからのスルー画像を合せる際に、境界部分のみを指標とするため、境界附近が同じ様な画像の連続になっている場合に境界がはっきりしないので合せにくいという問題点があった。
【0004】
上記問題点を解決したものとして、デジタルカメラでパノラマ撮影をする場合に、直前に撮影した分割画像の一部をガイドとして液晶画面の左右いずれかの端に表示し、次の被写体像の一部をガイドと重ね合わせる動作を繰り返しながら、画像的に連続した分割画像を何枚か撮像するパノラマ撮影方法がある。
【0005】
このパノラマ撮影方法で、例えば、図9(a)に示すような風景を連続して撮影してパノラマ画像を得ようとする場合には、先ず、図9(b)の風景部分を撮影(シャッター押し下げ)するとその分割画像データが記録されるがこのとき液晶画面には右側端部(Aの部分)をガイドとして残して表示するようにする。ユーザがカメラを右方向に動かしていくと、図9(b)の右端のガイド部分Aが図9(c)に示すように左側に表示され、取込中の風景画像(スルー画像)と共に表示される。そして、このガイド部分にスルー画像がうまく合わさった場合に(図9(d))シャッターを押すと、つなぎめがスムーズなパノラマ画像撮影ができるほか、上下にずれの少ない一連のパノラマ撮影が可能となる(図9(e))。
【0006】
【発明が解決しようとする課題】
しかしながら、上述のようなガイドを用いてパノラマ撮影を行なった場合、周囲の明るさなど、環境条件によっては位置合せが難しく、撮像した各画像の結合が困難になる場合があるという問題点があった。
また、上述のようなガイドは直前に撮像した分割画像の一部しか表示されないのでガイドに合わせてきちんと撮像したつもりでも、後でパノラマ画像を表示してみると全体としてバランスを欠いている(ずれている)場合があり、その場合には再び1枚目から撮り直さなければならないといった問題点があった。
【0007】
また、例えば、左端にガイドを設けた場合に、図10(a)に示すような山300の稜線310を基準に位置合せを行なおうとした場合には目印となる稜線310が規則的なパターン(一方向に連続する傾斜線)であるため、位置合せが難しいといった事例もあった。すなわち、最初に図10(b)に示す稜線310を撮像し、カメラを右方向に移動させると図10(c)に示すように左端のガイドAに図10(b)の右端(稜線310’)が表示されると共にスルー画像の一部(稜線310”)が重畳表示されるが、稜線の傾斜がほぼ一定であるため、このまま重ねた場合、稜線が短くなるのか長くなるのか、丁度よいのかといった長さ感覚(この例では左右方向の長さ感覚)が把握できず位置合せが難しい。
【0008】
本発明は上記問題点を解決するためになされたものであり、パノラマ撮影時の位置合せや位置確認を簡単に行ない得るパノラマ撮影方法および撮像装置の提供を目的とする。
【0009】
【課題を解決するための手段】
上記の目的を達成するために、第1の発明の撮像装置は、広い視野を画角の範囲で分割して撮像して得た複数の分割画像を繋ぎ合わせて合成し、広い視野を再現するパノラマ画像を得るパノラマ撮影モードを有する撮像装置であって、前記分割画像の撮影直後に、直前までに撮像して得た分割画像の全部の分割画像を繋ぎ合わせた合成画像、或いは直前に撮像した複数の分割画像を繋ぎ合わせた合成画像を一定時間表示することを特徴とする。
【0010】
また、第2の発明は、上記第1の発明の撮像装置において、前記分割画像を撮影するための撮影待機状態で取り込まれた被写体像の動画表示に直前に撮像した分割画像の端を重畳表示することを特徴とする。
【0011】
また、第3の発明のパノラマ撮影方法は、広い視野を画角の範囲で分割して撮像して得た複数の分割画像を繋ぎ合わせて合成し、広い視野を再現するパノラマ画像を得るパノラマ撮影方法であって、前記分割画像の撮影直後に、直前までに撮像して得た分割画像の全部の分割画像を繋ぎ合わせた合成画像、或いは直前に撮像した複数の分割画像を繋ぎ合わせた合成画像を一定時間表示することを特徴とする。
【0018】
【発明の実施の形態】
<回路構成例>
図1は、本発明のパノラマ撮影方法を適用可能な撮像装置の一実施例としてのデジタルカメラの回路構成例を示すブロック図である。
図1で、デジタルカメラ100は、光学系11、信号変換部12、信号処理部13、DRAM14、制御部20、操作部30、表示部40、フラッシュメモリ50および電源90を有している。
【0019】
光学系10は、撮像レンズ111および自動絞り機構等(図示せず)を含み、撮像レンズ111を介して集光された被写体像の光束を後段の撮像素子(CCD)上に結像させる。
【0020】
信号変換部12は、A/D変換器等の信号変換回路等を含み、また、前段の光学系11を介して結像した画像をCCDによって電気信号に変換し、その電気信号をデジタルデータに変換して一定の周期で出力する。
【0021】
信号処理部13は、通常撮像モード時には信号変換部12からの出力を処理して、デジタルの輝度、色差マルチプレクス信号(Y,Cb,Crデータ)等の信号成分を得て、Y,Cb,Crデータ(以下、画像データ)をDRAM14に転送し、一時的に記憶する。また、スルー画像(動画)表示するために、取込んだ画像データを間引いて表示部40に送る。また、シャッター操作がされるとその時点の画像データを表示部40に送って静止画表示させる。
【0022】
また、信号処理部13は、記録保存の際にDRAM14に書込まれている画像データを読み出してJPEG圧縮処理を施し、再生時にフラッシュメモリ(記録用メモリ)50に保存記録されていた圧縮画像データに伸張処理を施して画像データを再生する圧縮伸張部を備えている。なお、圧縮画像データを高速で伸張する高速伸張部を備えるように構成してもよい。
【0023】
DRAM14は作業用メモリとして用いられ、図2に示すようにパノラマ撮影時には撮像された分割画像を一時的に記憶する画像バッファ領域141やJPEG圧縮/伸張時や画像合成時の作業用領域142等が確保される。
【0024】
制御部20はCPU、RAM、プログラム格納用ROMおよびタイマ等を有したマイクロプロセッサ構成を有しており、CPUは、上述の各回路および図示しない電源切換えスイッチ等にバスラインを介して接続し、プログラム格納用ROMに格納されている制御プログラムによりデジタルカメラ100全体の制御を行なうと共に、操作部30からの状態信号に対応してプログラム格納用ROMに格納されている各モードに対応の処理プログラムを取り出して、デジタルカメラ100の各機能の実行制御、例えば、パノラマ撮影や記録画像の再生の実行等を行なう他、パノラマ撮影時の位置合せ処理の実行等を行なう。
【0025】
操作部30は処理モード切替えスイッチ、機能選択用ボタン、メインスイッチ、プラス/マイナスキー(+/−キー)35、シャッターボタン36および前画像表示指示ボタン37等のボタンやスイッチを構成部分としており、これらのキーやボタン或いはスイッチが操作されると状態信号が制御部20に送出される。
【0026】
表示部40はビデオエンコーダ、VRAMおよび液晶画面(LCD)等から構成されており、制御部20の表示制御により、撮像時のスルー画像および再生時の再生画像、処理選択時の選択用メニュー(或いはアイコン)の表示等やパノラマ撮影時の位置合せ用画像の表示等を行なう。
【0027】
フラッシュメモリ50は画像データを記録する。また、フラッシュメモリ50には、パノラマ画像撮影の際、撮像した分割画像の張合わせ順序や張合わせ位置等の情報を記録したリンクテーブル(図示せず)を記録することができる。また、画像データを記録する領域および画像データの記録時に当該画像の撮像モード等を登録する画像情報登録リスト(図示せず)等を記録すことができる。なお、フラッシュメモリに代えて着脱可能なICカードを用いるようにしてもよい。
【0028】
[パノラマ撮影時のDRAM上の画像記憶領域]
図2は、パノラマ撮影モード下でのDRAM14上の画像記憶領域等の配置例を示す図であり、(a)はパノラマ撮影時に取込む分割画像の一時記憶領域141に2個の画像バッファG1,G2を確保した例であり、記号142は作業用領域として確保されるワークエリアを意味する(実施例1−1,2−1参照)。
【0029】
また(b)はパノラマ撮影時に取込む分割画像の一時記憶領域141にn個の画像バッファG1,G2,G3,・・・,Gnを確保した例である。また、ワークリエア142は作業領域であり、例えば、合成画像領域(撮像した分割画像の張合わせ合成用領域)として用いられる(実施例1−2,2−2参照)。
【0030】
<実施例1>
本実施例は、パノラマ撮影時の分割画像のスルー表示中(パノラマ撮影中)に特定キーを操作するだけで、直前に撮像した分割画像または直前までに撮像した分割画像の合成画像を表示するようにして、現在スルー画像表示されている分割画像との位置合せや撮像した分割画像の確認を可能にした例である。
【0031】
(実施例1−1):特定キーの操作による直前の分割画像の表示
図3はパノラマ撮影時の特定キー(実施例では前画像表示指示ボタン37)の操作による、直前に撮像された分割画像の表示動作例を示すフローチャートであり、図4はパノラマ撮影時の位置合せの説明図である。
なお、図3で(a)はスルー画像表示への復帰タイミングを特定キーの押し下げ解放時とした例、(b)は特定キーを押してから所定時間後に復帰するようにした例、(c)は特定キーが押されてから、もう一度特定キーが押された時とした例である。
また、本実施例ではDRAM14は図2(a)に示したように分割画像の一時記憶領域141に2個の画像バッファG1,G2が確保されている。
【0032】
ステップS0:(パノラマ撮影)
制御部20は操作部30から送られる状態信号を調べて、パノラマ撮影モードが選択された場合にはS1に遷移し、そうでない場合には状態信号の示す処理モードの実行に制御を移す。
【0033】
ステップS1:(分割画像の取込、画像バッファG1への記憶)
図3(a)で、ユーザがデジタルカメラ100を広角の被写体のあるアングルに向けると画角の範囲で光学系11、信号変換部12および信号処理部13を介して画像(分割画像)が取込まれる。また、制御部20は取込まれた分割画像を図2(a)に示した画像バッファG1に記憶する。
【0034】
ステップS2:(スルー画像表示)
制御部20は画像バッファG1に記憶された画像を表示部40に送ってスルー表示させる。
【0035】
ステップS3:(撮像指示(シャッター操作))
制御部20は操作部30からの状態信号を調べ、シャッターボタン36が押されたか否かを判定し、シャッターボタン36が押された場合には撮像指示があったものとしてS4に遷移し、そうでない場合にはS7に遷移して前画像表示指示ボタン37の操作の有無を調べる。
【0036】
ステップS4:(撮像保持動作)
上記ステップS3でシャッターボタン36が押されると、制御部20は画像バッファG1に記憶されている分割画像(すなわち、撮像された分割画像)を画像バッファG2にコピー(上書き)する。これにより、次の画像取込で画像バッファG1に新たな分割画像が記憶されても今回の撮像は保持される。これにより、画像バッファG2に保持された分割画像は次の動作サイクルのステップS7で前画像表示指示ボタン37が押されるとステップS8で直前に撮像された分割画像として表示されることとなる。
【0037】
ステップS5:(撮像した分割画像の保存記憶)
制御部20は画像バッファG1に記憶されている分割画像にJPEG圧縮を施してフラッシュメモリ50に保存記録する。また、この時、同時に再生時にパノラマ画像として合成するために必要な情報、例えば、分割画像の配列順序(=張合わせ順序)や次の分割画像との境界(=張合わせ位置)等の情報をリンクテーブルに記録する。
【0038】
ステップS6:(パノラマ撮影終了判定)
制御部20は操作部30からの状態信号を調べ、ユーザが終了操作をしたか否かを判定し、終了操作をした場合にはパノラマ撮影モードを終了させ、そうでない場合にはS1に戻って次のサイクルでの分割画像の取込およびスルー表示を開始する。
【0039】
ステップS7:(特定キー(前画像表示指示ボタン37)の押し下げの有無判定)
上記ステップS3でシャッターボタン36が押されなかったとき、制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37が押し下げられたか否かを判定し、押し下げられた場合にはS8に遷移し、そうでない場合にはS1に戻って分割画像の取込およびスルー表示を再開する。
【0040】
ステップS8:(画像バッファG2に記憶されている分割画像の表示)
上記ステップS7で前画像表示指示ボタン37が押し下げられた場合、制御部20は画像バッファG2に記憶されている分割画像(即ち、直前に撮像された分割画像(ステップS4参照))を表示部40に送って画面表示させる(このようにDRAM14から直接的に表示部40に分割画像を送るので、フラッシュメモリ50に保存記録されている画像を再生する場合のように伸張処理時間がかからない。すなわち、ユーザのボタン操作で直ちに直前(=前回、または1画面前)に撮像された分割画像を表示できる)。また、この場合、表示した直前の撮像の位置をカーソルキー等で上下左右にシフトさせて位置調整ができるようにしてもよい。
【0041】
ステップS9:(ボタン押し下げ解放によるスルー表示への復帰)
ユーザが前画像表示指示ボタン37から指を離すと前画像表示指示ボタン37の押し下げが解放される。制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37の押し下げが解放されか否かを判定し、前画像表示指示ボタン37の押し下げが解放された場合にはS1に戻って分割画像の取込およびスルー表示を再開し、そうでない場合にはS8に戻って直前に撮像された分割画像の表示を続行する。
【0042】
なお、上記ステップS4で撮像した分割画像の保持(画像バッファG1からG2へのコピー)を行なったが、この動作はステップS5の保存記憶処理の後で行なうようにしてもよい。
【0043】
[変形例(1)]
以下、上記フローチャート(図3(a))の変形例として、図3(b)のフローチャートについて説明する。
【0044】
先ず、図3(a)のステップS3でシャッターボタン36が押されなかった時に、
ステップS7’で、制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37が押されたか否かを判定し、押し下げられた場合にはS8に遷移し、そうでない場合にはS1に戻って分割画像の取込およびスルー表示を再開する。
【0045】
ステップS8では、図3(a)の場合と同様に、制御部20は画像バッファG2に記憶されている分割画像(即ち、直前に撮像された分割画像)を表示部40に送って画面表示させる。また、図3(a)と同様に、表示した直前の撮像の位置をカーソルキー等で上下左右にシフトさせて位置調整ができるようにしてもよい。
【0046】
そして、ステップS9’で、制御部20はタイマーのカウントアップ(またはカウントダウン)を行なって、前画像表示指示ボタン37が押されてから所定時間経過(例えば、3秒経過)したか否かを調べ、所定時間経過した場合にはS1に戻って分割画像の取込およびスルー表示を再開し、そうでない場合にはS8に戻って直前に撮像された分割画像の表示を続行する。
[変形例(2)]
以下、上記フローチャート(図3(a))の変形例として、図3(c)のフローチャートについて説明する。
【0047】
先ず、図3(a)のステップS3でシャッターボタン36が押されなかった時に、
ステップS7’で、制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37が押されたか否かを判定し、押し下げられた場合にはS8に遷移し、そうでない場合にはS1に戻って分割画像の取込およびスルー表示を再開する。
【0048】
ステップS8では、図3(a)の場合と同様に、制御部20は画像バッファG2に記憶されている分割画像(即ち、直前に撮像された分割画像)を表示部40に送って画面表示させる。また、図3(a)と同様に、表示した直前の撮像の位置をカーソルキー等で上下左右にシフトさせて位置調整ができるようにしてもよい。
【0049】
そして、ステップS9”で、制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37が押されたか否かを判定し、前画像表示指示ボタン37が押された場合にはS1に戻って分割画像の取込およびスルー表示を再開し、そうでない場合にはS8に戻って直前に撮像された分割画像の表示を続行する。
【0050】
なお、この場合、ユーザが前画像表示指示ボタン37以外の特定のボタン(復帰用ボタンとして意味付けられたボタン)を押した場合にS1に戻って分割画像の取込およびスルー表示を再開するようにしてもよい。
【0051】
上記構成によりユーザはパノラマ撮影中(スルー画像表示中)にワンタッチで直前に撮像された分割画像を見ることができ、張合わせ部分の位置合せを簡単に行なうことができる。
【0052】
(具体例1−1)
図4で、(a)はパノラマ撮影された1枚目の分割画像、(b)はスルー表示されている2枚目の分割画像候補、(c)は位置合せキー37の押し下げにより表示された1枚目の分割画像、(d)は(a)の分割画像と(b)の分割画像を繋ぎ合わせたて得た合成画像(パノラマ画像)である。
【0053】
上記図3(a)の動作例で、2枚目の分割画像候補212がスルー表示されている時に(S1〜S3)、ユーザが前画像表示指示ボタン37を押し下げるだけで(S7)、直前に撮像された分割画像(=図4(a)の1枚目の分割画像211)がDRAM14の画像バッファG2から取り出されて表示部40の液晶画面に表示される(S8:図4(c))。そして、ユーザが前画像表示指示ボタン37を押し続けている間は直前に撮像された分割画像が表示され、指を離すとスルー画像表示に復帰する(S9:図4(b))。
【0054】
これにより、ユーザは現在スルー表示されている分割画像候補と直前に撮像された分割画像の位置が合っているかを知りたい場合に、前画像表示指示ボタン37を押し下げるだけで直前に撮像した分割画像を表示できるので張合わせ位置が適切か否かを確認できるだけでなく、従来のように張合せ位置は一応適合しているが全体として見た場合に曲ったり、傾いたりしてパノラマ画像全体としてのバランスが悪くなるような現象の発生を防止できる。
そして、張合わせ位置が合っている場合にはステップS9,S1,S2を経てS3でシャッターボタン36を押すと、直前に撮像した分割画像211とバランス良く繋がる分割画像212が撮像され保存記憶される。従って、パノラマ画像として再生すると図4(d)に示すように破線215の部分でぴったりと繋がれ、またバランスのよいパノラマ画像210を得ることができる。
また、この場合、ステップS4で新たに撮像した分割画像212を次のパノラマ撮影のサイクルでの「直前に撮像した分割画像」としてDRAM14に保持するので、仮に、次のパノラマ撮影の動作サイクルで3枚目の分割画像のスルー画像が表示されている場合に前画像表示指示ボタン37が押されたとすると、直前に撮像した分割画像として2枚目の分割画像212が表示されることになる。
【0055】
また、バランスが合っていない場合にはステップS9を経てS1でスルー画像表示されたとき、ユーザはカメラの位置を修正して、再び前画像表示指示ボタン37を押して直前に撮像した分割画像を表示してバランスをチェックすることができる。このように、S7〜S9,S1,S2,S7のサイクルを繰り返すことによりパノラマ撮影時のバランスチェックができる。
【0056】
また、上記具体例の説明は図3(a)の場合について述べたが、図3(b)および図3(c)によるキー操作(ボタン操作)の場合も同様である。
【0057】
また、上記図3の説明ではDRAM14に画像バッファG2を設けて、キー操作があった場合にDRAM14から直前に撮像された分割画像を取り出して表示部40に送って画面表示するので高速表示が可能になる。従って、ユーザがスルー画像の表示と直前に撮像された分割画像の表示を交互に行なうようにキー操作することができる。なお、DRAM14に画像バッファG2を設けずにデジタルカメラ100に高速伸張部を設け、直前に撮像された分割画像を取り出して伸張処理して表示部40に送って画面表示するようにしてもよい。
また、従来例(図9)のようにステップS1のスルー表示の際に、表示画面の左端(或いは右端)にスルー画像に重畳させて直前に撮像した分割画像の一部をガイドとして表示するようにしてもよい。
【0058】
(実施例1−2):特定キーの操作による撮像済みの分割画像の合成表示
図5はパノラマ撮影時の特定キー(実施例では前画像表示指示ボタン37)の操作による直前までに撮像された分割画像の合成表示動作例を示すフローチャートである。また、図6はパノラマ撮影時の位置合せおよび配置確認の説明図である。
【0059】
また、本実施例ではDRAM14は図2(b)に示したように分割画像の一時記憶領域141にn個の画像バッファG1,G2,G3,・・・,Gnが確保されている。
【0060】
ステップT0:(パノラマ撮影)
制御部20は操作部30から送られる状態信号を調べて、パノラマ撮影モードが選択された場合には、カウンタの値を1に初期設定してT1に遷移し、そうでない場合には状態信号の示す処理モードの実行に制御を移す。
【0061】
ステップT1:(分割画像の取込、画像バッファGiへの記憶)
図5で、ユーザがデジタルカメラ100を広角の被写体のあるアングルに向けると画角の範囲で光学系11、信号変換部12および信号処理部13を介して画像(分割画像)が取込まれる。制御部20は取込まれた分割画像を図2(a)に示した画像バッファGiに記憶する。ここで、iはカウンタの値である。
【0062】
ステップT2:(スルー画像表示)
制御部20は画像バッファGiに記憶された画像を表示部40に送ってスルー表示させる。
【0063】
ステップT3:(撮像指示(シャッター操作))
制御部20は操作部30からの状態信号を調べ、シャッターボタン36が押されたか否かを判定し、シャッターボタン36が押された場合には撮像指示があったものとしてT4に遷移し、そうでない場合にはT6に遷移して前画像表示指示ボタン37の操作の有無を調べる。
【0064】
ステップT4:(撮像した分割画像の保存記憶)
上記ステップT3でシャッターボタン36が押されると、制御部20は画像バッファGiに記憶されている分割画像にJPEG圧縮を施してフラッシュメモリ50に保存記録する。また、この時、同時に再生時にパノラマ画像として合成するために必要な情報、例えば、分割画像の配列順序(=張合わせ順序)や次の分割画像との境界(=張合わせ位置)等の情報をリンクテーブルに記録する(画像バッファGiに記憶されている分割画像はそのまま保持され、ステップT7での合成時に用いられる)。
【0065】
ステップT5:(パノラマ撮影終了判定)
制御部20は操作部30からの状態信号を調べ、ユーザが終了操作をしたか否かを判定し、終了操作をした場合にはパノラマ撮影モードを終了させ、そうでない場合にはT1に戻って次のサイクルでの分割画像の取込およびスルー表示を開始する。
【0066】
ステップT6:(特定キー(前画像表示指示ボタン37)の押し下げの有無判定)
制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37が押し下げられたか否かを判定し、押し下げられた場合にはT7に遷移し、そうでない場合にはT1に戻って分割画像の取込およびスルー表示を再開する。
【0067】
ステップT7:(撮像済みの分割画像の合成)
上記ステップT6で前画像表示指示ボタン37が押し下げられた場合、制御部20は画像バッファG1〜Gi-1に記憶されている分割画像(すなわち、撮像済み分割画像)を順次張合せ合成してDRAM14のワークエリア142に記憶する。
【0068】
ステップT8:(合成画像の表示)
次に、制御部20はDRAM14のワークエリア142に記憶されている合成画像(即ち、未完成のパノラマ画像)を1フレーム分の大きさに縮小処理してから表示部40に送って画面表示させる(このようにDRAM14から直接的に表示部40に合成画像を送るので、フラッシュメモリ50に保存記録されている画像を合成して再生する場合のように伸張処理時間がかからない)。
【0069】
なお、実施例ではワークエリア142に記憶されている合成画像を1フレーム分の大きさに縮小して表示するようにしたが、これに限られず、ワークエリア142に記憶されている合成画像を1フレーム分ずつ切出して表示部40に送って表示するようにしてもよい(この場合、+/−キー35の操作によるスクロール表示を行なうように構成できる)。また、この場合、表示した直前の撮像の位置をカーソルキー等で上下左右にシフトさせて位置調整ができるようにしてもよい。なお、スクロールする場合に、オートスクロール表示、すなわち、+/−キー35を1回押すと自動的にスクロール表示ようにしてもよい(例えば、1回左端から右端までスクロール表示させた後、スルー画像表示に自動的に復帰するように構成する)。
【0070】
ステップT9:(ボタン押し下げ解放によるスルー表示への復帰)
ユーザが前画像表示指示ボタン37から指を離すと前画像表示指示ボタン37の押し下げが解放される。制御部20は操作部30からの状態信号を調べ、前画像表示指示ボタン37の押し下げが解放されか否かを判定し、前画像表示指示ボタン37の押し下げが解放された場合にはT1に戻って分割画像の取込およびスルー表示を再開し、そうでない場合にはT8に戻って合成画像の表示を続行する。
【0071】
また、図5のフローチャートではステップS1のスルー画像表示への復帰タイミングを特定キーの押し下げ解放時としたが、前述した変形例1(図3(b))と同様、特定キーを押してから所定時間後に復帰するようにしてもよく、また、変形例2(図3(c))のように特定キーが押されてからもう一度特定キーが押された時に復帰するようにしてもよい。
【0072】
なお、上記フローチャート(図5)ではステップT6で前画像表示指示ボタン37が押された後に画像バッファG1〜Gi-1に記憶されている分割画像を順次張合せ合成してDRAM14のワークエリア142に記憶したが(T7)、これに限定されず、例えば、パノラマ撮影終了時点(T5)で画像バッファG1〜Gi-1に記憶されている分割画像を順次張合せ合成するようにしてもよい。
【0073】
上記構成によりユーザはパノラマ撮影中(スルー画像表示中)にワンタッチで撮像済みの分割画像の合成画像を見ることができ、張合わせ部分の位置合せやバランスチェックを簡単に行なうことができる。また、全体としてのバランスが悪い場合に撮影中の画像の位置をカメラを動かして修正できるので従来のように最初から撮り直す必要がない。また、パノラマ撮影中に撮影済みパノラマ画像全体としてのバランスが悪い場合にそのことを途中で知ることができるので、仮に、最初から撮り直す必要が生じたとしても最後まで撮ってから撮り直すよりはパノラマ撮影が楽になる。
【0074】
(具体例1−2)
図6で、(a)はパノラマ撮影対象の被写体(山)、
(b)はパノラマ撮影された1枚目の分割画像(稜線部分の画像)、
(c)はパノラマ撮影された2枚目の分割画像(山頂部分の片側の画像)、
(d)はスルー表示されている3枚目の分割画像候補(山頂の残り部分の画像)、
(e)は前画像表示指示ボタン37の押し下げにより表示された1枚目の分割画像と2枚目の分割画像の合成画像であり、この例では縮小表示されている。
【0075】
上記図5の動作例で、3枚目の分割画像候補323がスルー表示されている時に(T1〜T3:図6(d))、ユーザが前画像表示指示ボタン37を押し下げるだけで(T6)、撮像済みの分割画像321,322がDRAM14の画像バッファG1,G2から取り出されて張合わせ合成され(T7)、表示部40の液晶画面に表示される(T8:図6(e))。そして、ユーザが前画像表示指示ボタン37を押し続けている間は合成画像が表示され、指を離すとスルー画像表示に復帰する(T9,T1:図6(d))。
【0076】
これにより、ワンタッチで撮像済みの分割画像の合成画像を表示できるので、現在スルー表示されている分割画像候補323と直前に撮像された分割画像322の位置があっているか否かを知りたい場合や撮像済みの分割画像全体(=合成画像)320とのバランス等の配置関係を知りたい場合に簡単に確認できる。
【0077】
そして、張合わせ位置が合っている場合や配置バランスが良い場合にはステップT9,T1,T2を経てT3でシャッターボタン36を押すと、直前に撮像した分割画像322と張合わせ位置がぴったりした分割画像323が撮像され保存記憶される。また、撮像済みの分割画像全体(=合成画像)320とのバランスをチェックすることもできる。
【0078】
また、張合わせ位置が合っていない場合や配置バランスが悪い場合にはステップT9を経てT1でスルー画像表示されたとき、ユーザはカメラの位置を修正してから再び前画像表示指示ボタン37を押して合成画像320を表示できるので、張合わせ位置や配置バランスを再度チェックすることができる。このように、T7〜T9,T1,T2,T7のサイクルを繰り返すことによりパノラマ撮影時の位置合せやバランス調整ができる。
【0079】
また、上記図5の説明ではDRAM14に画像バッファG1〜Gnを設けて各分割画像を記憶しておき、前画像表示指示ボタン37の操作があった場合にDRAM14から撮像済みの分割画像を取り出して合成し、表示部40に送って画面表示するので高速表示ができる。従って、ユーザがスルー画像の表示と撮像済みの分割画像の合成画像の表示を交互に行なうようにキー操作することができる。
【0080】
また、より高速表示するため、撮像済みの分割画像全てを合成せずに画像バッファの数をG1〜G3(或いは、G1〜G4)程度の小数にして前画像表示指示ボタン37の操作があった場合に現在スルー表示されている分割画像候補の直前の2枚(或いは3枚)の分割画像の合成画像を表示するようにしてもよい。
【0081】
なお、DRAM14に画像バッファG2〜Gnを設けずにデジタルカメラ100に高速伸張部を設け、撮像済みの分割画像を取り出して伸張処理して表示部40に送って画面表示するようにしてもよい。
【0082】
また、従来例(図9)のようにステップT1のスルー表示の際に、表示画面の左端(或いは右端)にスルー画像に重畳させて直前に撮像した分割画像の一部をガイドとして表示するようにしてもよい。
【0083】
<実施例2>
上記実施例1では、パノラマ撮影モード下でスルー画像表示中にユーザが特定キーを操作すると、直前に撮像した分割画像または撮像済みの分割画像の合成画像を表示するようにしたが、本実施例はパノラマ撮影モード下でスルー画像表示中に自動的に直前に撮像した分割画像または撮像済みの分割画像の合成画像を表示する例である。
【0084】
(実施例2−1):直前に撮像した分割画像の自動表示
本実施例ではDRAM14は図2(a)に示したように分割画像の一時記憶領域141に2個の画像バッファG1,G2が確保されている。
【0085】
図7は、パノラマ撮影時のスルー画像表示中に行なう、直前の分割画像の自動表示動作例を示すフローチャートであり、図3(a)のフローチャート(実施例1−1)とステップS1〜S5までの動作とステップS6は同じであり、ステップS5とS6の間に下記ステップU1およびU2の動作を付加したものである(なお、ステップS7〜S9は不要でありキャンセルする)。以下、図3(a)および図7をもとにステップU1,U2の動作について説明する。
【0086】
図3(a)のステップS5で画像バッファG1の分割画像の保存記録処理を行なった後、U1に遷移し、
ステップU1:(直前の画像の自動表示)
図3(a)の場合と同様に、制御部20は画像バッファG2に記憶されている分割画像(即ち、直前に撮像された分割画像)を表示部40に送って表示させる。この場合、図3(a)の場合と同様に表示した直前の撮像の位置をカーソルキー等で上下左右にシフトさせて位置調整ができるようにしてもよい。
【0087】
ステップU2:(表示時間のカウント)
次に、制御部20はタイマーのカウントアップ(またはカウントダウン)を行なって、一定時間経過(例えば、3秒経過)したか否かを調べ、 所定時間経過した場合にはS6に遷移してパノラマパノラマ撮影終了判定を行ない、そうでない場合にはU1に戻って画像バッファG2に記憶されている分割画像の表示を続行する。
なお、ステップU2でS6に遷移するタイミングを所定時間の経過としたが、ユーザによる特定キーの操作があったときをS6に遷移するタイミングとするようにしてもよい。
【0088】
上記構成によりユーザはキー操作をしなくてもスルー画像表示中に自動表示される直前に撮像された分割画像を見て張合わせ部分の位置合せを簡単に行なうことができる。
【0089】
(具体例2−1)
図4の説明図および図7の動作例で、2枚目の分割画像候補212がスルー表示されから(S1,S2)、シャッターボタン36が押され(S3)、画像バッファG1の分割画像の画像バッファG2へのコピー(S4)、および画像バッファG1の分割画像の保存記憶(S5)が終ると、直前に撮像された分割画像(=図4(a)の1枚目の分割画像211)がDRAM14の画像バッファG2から取り出されて表示部40の液晶画面に表示される(U1(図4(c))。そして、一定時間経過するとパノラマ画像終了判定(S6)を経て、スルー画像表示に復帰する(U2:図4(b))。
【0090】
これにより、ユーザは現在スルー表示されている画像と直前に撮像された画像との張合わせ位置が合っているか否かをチェックすることができだけでなく、従来のように張合せ位置は一応適合しているが全体として見た場合に曲ったり、傾いたりしてパノラマ画像全体としてのバランスが悪くなるような現象の発生を防止できる。
そして、張合わせ位置が合っている場合にはステップS6,S1,S2を経てS3でシャッターボタン36を押すと、直前に撮像した分割画像211とバランス良く繋がる分割画像212が撮像され保存記憶される。従って、パノラマ画像として再生すると図4(d)に示すように破線215の部分でぴったりと繋がれ、またバランスのよいパノラマ画像210を得ることができる。
また、張合わせ位置があっていない場合にはステップU2,S6,S1を経てS2でスルー画像表示されたとき、ユーザが所定時間内にカメラの位置を修正すれば、自動的に直前に撮像した分割画像が表示されるので、張合わせ位置をチェックすることができる。
【0091】
なお、DRAM14に画像バッファG2を設けずにデジタルカメラ100に高速伸張部を設け、直前に撮像された分割画像を取り出して伸張処理して表示部40に送って画面表示するようにしてもよい。
また、従来例(図9)のようにステップS1のスルー表示の際に、表示画面の左端(或いは右端)にスルー画像に重畳させて直前に撮像した分割画像の一部をガイドとして表示するようにしてもよい。
【0092】
(実施例2−2):撮像済みの分割画像の自動表示
本実施例ではDRAM14は図2(b)に示したように分割画像の一時記憶領域141にn個の画像バッファG1〜Gnが確保されている。
【0093】
図8はパノラマ撮影時のスルー画像表示中に行なう、撮像済みの分割画像の合成画像の自動表示動作例を示すフローチャートであり、図5のフローチャート(実施例1−2)とステップT1〜T4までの動作とステップT5の動作は同じであり、ステップST4とT5の間に下記ステップV〜V3の動作を付加したものである(なお、ステップT6〜T9は不要でありキャンセルする)。以下、図5および図8をもとにステップV1〜V3の動作について説明する。
【0094】
図5のステップT4で画像バッファGiの分割画像の保存記録処理を行なった後、V1に遷移し、
ステップV1:(直前までに撮像済みの分割画像G1〜Giの合成)
制御部20は画像バッファG1〜Giに記憶されている分割画像(すなわち、撮像済み分割画像)を順次張合せ合成してDRAM14のワークエリア142に記憶する。
【0095】
ステップV2:(合成画像の表示)
図5の場合と同様に制御部20はDRAM14のワークエリア142に記憶されている合成画像(即ち、未完成のパノラマ画像)を1フレーム分の大きさに縮小処理してから表示部40に送って画面表示させる(このようにDRAM14から直接的に表示部40に合成画像を送るので、フラッシュメモリ50に保存記録されている画像を合成して再生する場合のように伸張処理時間がかからず、速やかに合成画像を表示できる)。
【0096】
なお、実施例ではワークエリア142に記憶されている合成画像を1フレーム分の大きさに縮小して表示するようにしたが、これに限られず、ワークエリア142に記憶されている合成画像を1フレーム分ずつ切出して表示部40に送って表示するようにしてもよい
ステップV3:(表示時間のカウント)
制御部20はタイマーのカウントアップ(またはカウントダウン)を行なって、一定時間経過(例えば、3秒経過)したか否かを調べ、 所定時間経過した場合にはT5に遷移してパノラマ画像撮影終了判定を行ない、終了していない場合にはS1に戻って分割画像の取込およびスルー表示を再開し、そうでない場合にはV2に戻って合成画像の表示を続行する。
なお、ステップV3でT5に遷移するタイミングを所定時間の経過としたが、ユーザによる特定キーの操作があったときをT5に遷移するタイミングとするようにしてもよい。
【0097】
上記構成によりユーザはキー操作をしなくてもスルー画像表示中に自動表示される撮像済みの分割画像の合成画像を見て張合わせ部分の位置合せやバランスチェックを簡単に行なうことができる。また、全体とのバランスが悪い場合に撮影中の画像の位置をカメラを動かして修正できるので従来のように最初から撮り直す必要がない。
【0098】
(具体例2−2)
図6の説明図および図8の動作例で、3枚目の分割画像候補323がスルー表示されてから(T1,T2)、シャッターボタン36が押され(T3)、画像バッファGiの分割画像の保存記憶(T4)が終ると、撮像済みの分割画像321,322がDRAM14の画像バッファG1,G2から取り出されて張合わせ合成され(V1)、表示部40の液晶画面に表示される(V2:図6(e))。そして、一定時間経過するとパノラマ撮影終了判定を経て(T5)、スルー画像表示に復帰する(V3:図4(d))。
【0099】
これにより、ユーザは現在スルー表示されている分割画像候補と直前に撮像された分割画像との張合わせ位置や全体とのバランスをチェックすることができる。そして、位置があっている場合にはステップV3,T6,T1,T2を経てT3でシャッターボタン36を押すと、直前に撮像した画像322とぴったりと張合わせられる分割画像323が撮像され保存記憶される。また、撮像済みの画像全体(=合成画像)320とのバランスをチェックすることもできる。
【0100】
また、張合わせ位置があっていない場合やバランスが悪い場合にはステップV3,T5,T1を経てT2でスルー画像表示されたときに、合成画像320が自動的に表示され張合わせ位置や配置バランスを再度チェックし、カメラの位置を修正して適切な位置付けをすることができる。このように、V1〜V3,T5,T1〜V1のサイクルを繰り返すことによりパノラマ撮影時の位置合せやバランス調整ができる。
【0101】
また、より高速表示をおこなうため、画像バッファの数をG1〜G3(或いは、G1〜G4)程度の小数にして前画像表示指示ボタン37の操作があった場合に現在スルー表示されている分割画像候補の直前の2枚(或いは3枚)の分割画像の合成画像を表示するようにしてもよい。
【0102】
なお、DRAM14に画像バッファG2〜Gnを設けずにデジタルカメラ100に高速伸張部を設け、撮像済みの分割画像を取り出して伸張処理して表示部40に送って画面表示するようにしてもよい。
【0103】
また、従来例(図9)のようにステップT1のスルー表示の際に、表示画面の左端(或いは右端)にスルー画像に重畳させて直前に撮像した分割画像の一部をガイドとして表示するようにしてもよい。
【0104】
以上本発明の一実施例について説明したが、本発明は上記実施例に限定されるものではなく、種々の変形実施が可能であることはいうまでもない。
【0105】
【発明の効果】
以上説明したように、第1の発明の撮像装置と第3の発明のパノラマ撮影方法によれば、パノラマ撮影モードで分割画像を撮影すると、それまでに撮影した分割画像の合成画像を一定時間表示するので、パノラマ画像を完成するために、現状の画像から合成したパノラマ画像の状態を確認しながら撮影を行なうことができる。また、合成画像の状態を確認しながら、次の分割画像の構図を考えることができる。
【0106】
また、第2の発明の撮像装置によれば、スルー画像に直前に撮像した分割画像の端を重畳表示するので、パノラマ画像のつなぎ目をよりスムーズにすることができる。また、分割画像を撮影する際に、撮影者が構図を決定する指標とするものが複数あることで、より正確な分割画像を撮影できる。
【図面の簡単な説明】
【図1】本発明のパノラマ撮影方法を適用可能な撮像装置の一実施例としてのデジタルカメラの回路構成例を示すブロック図である。
【図2】パノラマ撮影モードでのDRAM上の画像記憶領域の配置例を示す図である。
【図3】パノラマ撮影時の特定キーの操作による、直前に撮像された分割画像の表示動作例を示すフローチャートである。
【図4】パノラマ撮影時の位置合せの説明図である。
【図5】パノラマ撮影時の特定キーの操作による直前までの分割画像の自動合成表示動作例を示すフローチャートである。
【図6】パノラマ撮影時の位置合せおよび配置確認の説明図である。
【図7】パノラマ撮影時に、直前に撮像した分割画像の自動合成表示動作例を示すフローチャートである。
【図8】パノラマ撮影時の、撮像済みの分割画像の自動合成表示動作例を示すフローチャートである。
【図9】パノラマ撮影の従来例(ガイド表示例)の説明図である。
【図10】従来のパノラマ撮影(ガイド表示例)での問題点の説明図である。
【符号の説明】
14 DRAM(記憶手段)
20 制御部20(表示制御手段、画像合成手段)
36 シャッターボタン(撮像指示手段)
37 前画像表示指示ボタン(特定キー,前画像表示指示手段)
100 デジタルカメラ(撮像装置)
210 パノラマ画像
211,321,322 分割画像
211,322 直前の分割画像
212,323 スルー画像(分割画像候補)
320 パノラマ合成画像
G1,G2、Gi、G1〜Gn 画像バッファ(分割画像記憶手段)

Claims (3)

  1. 広い視野を画角の範囲で分割して撮像して得た複数の分割画像を繋ぎ合わせて合成し、
    広い視野を再現するパノラマ画像を得るパノラマ撮影モードを有する撮像装置であって、
    前記分割画像の撮影直後に、直前までに撮像して得た分割画像の全部の分割画像を繋ぎ合わせた合成画像、或いは直前に撮像した複数の分割画像を繋ぎ合わせた合成画像を一定時間表示する
    ことを特徴とする撮像装置。
  2. 前記分割画像を撮影するための撮影待機状態で取り込まれた被写体像の動画表示に直前に撮像した分割画像の端を重畳表示する
    ことを特徴とする請求項1に記載の撮像装置。
  3. 広い視野を画角の範囲で分割して撮像して得た複数の分割画像を繋ぎ合わせて合成し、
    広い視野を再現するパノラマ画像を得るパノラマ撮影方法であって、
    前記分割画像の撮影直後に、直前までに撮像して得た分割画像の全部の分割画像を繋ぎ合わせた合成画像、或いは直前に撮像した複数の分割画像を繋ぎ合わせた合成画像を一定時間表示する
    ことを特徴とするパノラマ撮影方法。
JP36004998A 1998-12-03 1998-12-03 パノラマ撮影方法および撮像装置 Expired - Fee Related JP3772563B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP36004998A JP3772563B2 (ja) 1998-12-03 1998-12-03 パノラマ撮影方法および撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP36004998A JP3772563B2 (ja) 1998-12-03 1998-12-03 パノラマ撮影方法および撮像装置

Publications (2)

Publication Number Publication Date
JP2000175186A JP2000175186A (ja) 2000-06-23
JP3772563B2 true JP3772563B2 (ja) 2006-05-10

Family

ID=18467647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP36004998A Expired - Fee Related JP3772563B2 (ja) 1998-12-03 1998-12-03 パノラマ撮影方法および撮像装置

Country Status (1)

Country Link
JP (1) JP3772563B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4048907B2 (ja) 2002-10-15 2008-02-20 セイコーエプソン株式会社 複数の画像データのパノラマ合成
CN100498835C (zh) 2003-09-08 2009-06-10 日本电气株式会社 图像组合***、图像组合方法
JP2014049960A (ja) * 2012-08-31 2014-03-17 Canon Inc 撮像装置、その制御方法及びプログラム
JP5438852B2 (ja) * 2013-02-18 2014-03-12 株式会社キーエンス マイクロスコープ

Also Published As

Publication number Publication date
JP2000175186A (ja) 2000-06-23

Similar Documents

Publication Publication Date Title
JP4341346B2 (ja) 撮影切替方法、撮像装置、及びプログラム
JP4085255B2 (ja) デジタルカメラ及び画像通信方法
JP3804313B2 (ja) パノラマ撮影方法および撮像装置
JP3713973B2 (ja) 電子スチルカメラおよび撮影方法
JP4178657B2 (ja) パノラマ撮影方法及び撮像装置
JP2004312495A (ja) 画像処理プログラム及び画像処理装置
US20130188087A1 (en) Reproducing apparatus, image data reproducing method, program, and storage medium
JPH11196357A (ja) 画像撮像装置およびその方法、並びに記憶媒体
JP2005027284A (ja) 画像撮影装置、画像撮影方法及び画像撮影プログラム
JP2007096774A (ja) 画像表示装置及びプログラム
JP3772563B2 (ja) パノラマ撮影方法および撮像装置
JPH11103436A (ja) 画像処理装置及び方法並びに記憶媒体
JPH11146243A (ja) 電子スチルカメラ及び画像再生方法
JP2003125266A (ja) カメラ
JP3298176B2 (ja) カメラ装置
JP4678273B2 (ja) 撮像装置、動画記憶方法および動画記憶プログラム
JPH11102007A (ja) 画像重複表示方法およびカメラ装置
JP2000307931A (ja) 撮像方法および撮像装置
JP2006020105A (ja) 撮像装置、スロット写真撮影方法、及びプログラム
JP2004096227A (ja) 音声処理装置、方法、コンピュータプログラム、及びコンピュータ読み取り可能な記憶媒体
JP2005026873A (ja) 撮影方法、撮像装置、及びプログラム
JPH1175108A (ja) カメラ装置および撮像方法
JP4355855B2 (ja) 撮像装置、撮影切替方法、及びプログラム
JP2001211354A (ja) 電子カメラ
JPH11112841A (ja) デジタルカメラ

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20040507

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051101

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060206

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090224

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110224

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110224

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120224

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120224

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130224

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130224

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140224

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees