JP4860568B2 - 撮影装置 - Google Patents

撮影装置 Download PDF

Info

Publication number
JP4860568B2
JP4860568B2 JP2007194977A JP2007194977A JP4860568B2 JP 4860568 B2 JP4860568 B2 JP 4860568B2 JP 2007194977 A JP2007194977 A JP 2007194977A JP 2007194977 A JP2007194977 A JP 2007194977A JP 4860568 B2 JP4860568 B2 JP 4860568B2
Authority
JP
Japan
Prior art keywords
subject
image
shooting
unit
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007194977A
Other languages
English (en)
Other versions
JP2008278444A (ja
Inventor
宏 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007194977A priority Critical patent/JP4860568B2/ja
Priority to US12/045,921 priority patent/US8035692B2/en
Priority to CN2008100907511A priority patent/CN101277393B/zh
Publication of JP2008278444A publication Critical patent/JP2008278444A/ja
Application granted granted Critical
Publication of JP4860568B2 publication Critical patent/JP4860568B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、撮像素子を備え、その撮像素子上に被写体像を形成して画像信号を生成する撮影装置に関する。
従来より、複数枚の画像に基づいてこれら複数枚の画像の動きを表わす動きベクトルを求めて手ぶれを補正する技術が提案されている(例えば特許文献1〜特許文献5参照)。しかしこれらの特許文献の技術では被写体ぶれを補正することができない。すなわち被写体を主要被写体と背景とに分けたときの被写体のみが動いている場合にその主要被写体のぶれを補正することができない。
ところで最近、1.2メガ(120万画素)で1分間に300枚という数のフレームを生成することが可能な撮像素子の開発に成功したということが報告された。このような撮像素子を用いると、フレームレートを上げて1秒間に何枚もの画像を得ることができるので、特許文献にもあるようにフレームごとの画像を重ね合せることでS/N比を上げて高精細な静止画撮影を得ることができ、さらにフレームごとの画像を位置を修正しながら重ね合わせることで手ぶれを補正することができる。またフレーム間隔が短くなるのでフレームごとの画像を位置を修正しながら各画像を重ね合わせることで被写体ぶれもある程度は補正される方向にいく。
しかし上記技術では手ぶれと被写体ぶれとが区別されずに補正されるため被写体ぶれが完全に補正される訳ではない。もしも特許文献6にあるように、繰り返し生成されている複数枚の画像間の、画像を複数に分割したときの各領域ごとの動きベクトルを求めて各々の領域ごとの画像を時系列に比較することで被写体ぶれと手ぶれとを区別することができれば、被写体ぶれが発生しそうな場合にはシャッタ速度を速めることで被写体ぶれを抑制することができる。しかしながら特許文献6の技術は動画に関するものであって静止画に適用することはできない。
特開平6−284327号公報 特開平11−252445号公報 特開2000−341577号公報 特開2005−130159号公報 特開2006−262220号公報 特開平4−309078号公報
本発明は、上記の被写体ぶれの問題を解決し、静止画撮影において手ぶれと被写体ぶれとを区別して各々を好適に補正することができる撮影装置を提供することを目的とするものである。
上記目的を達成する本発明の第1の撮影装置は、撮像素子上に被写体を結像させてその被写体を表わす画像を生成する撮影装置において、
撮影前に画像を繰り返し生成するスルー画生成手段と、
上記スルー画生成手段により繰り返し生成された複数枚の画像間の、その画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
上記動きベクトル算出手段により算出された動きベクトルに基づいて静止した被写体であるか動きのある被写体であるかを判定する被写体判定手段と、
上記被写体判定手段で判定された被写体が動きのある被写体であったときに撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、上記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
上記被写体判定手段で判定された被写体が静止した被写体であったときに上記第2の撮影モードの実行により得られた複数枚の撮影画像を、上記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする。
上記本発明の第1の撮影装置によれば、撮影前に上記スルー画生成手段で生成されたスルー画に基づいて上記動きベクトル検出手段で各領域ごとの動きベクトルが求められ、撮影前のスルー画に基づいて被写体が静止した被写体であるか、動きのある被写体であるかが区別されてから撮影処理が実行される。
上記被写体判定手段によってスルー画に基づいて被写体が静止した被写体であると判定された場合には、上記撮影手段によって第2の撮影モードが実行されその第2の撮影モードの実行により得られた複数枚の撮影画像どうしの位置が上記動きベクトル算出手段によって算出された動きベクトルに基づいて、撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置が修正されながら上記画像重ね合せ手段によって重ね合せ画像が生成される。つまり上記被写体判定手段によってスルー画に基づいて被写体が静止した被写体であると判定された場合には上記画像重ね合せ手段による重ね合せにより手ぶれが補正される。
これに対し上記被写体判定手段によって動きのある被写体であると判定された場合には、上記撮影手段によって上記第1の撮影モードが実行されその第1の撮影モードの実行により撮影感度が上げられて撮影が行なわれる。つまり上記被写体判定手段によってスルー画に基づいて被写体が動きのある被写体であると判定された場合には撮影感度を上げることによりその高い撮影感度に応じたシャッタ速度に調整されて撮影が行なわれることになり被写体ぶれが抑制される。
上記目的を達成する本発明の第2の撮影装置は、撮像素子上に被写体を結像させてその被写体を表わす画像を生成する撮影装置において、
撮影前に画像を繰り返し生成するスルー画生成手段と、
上記スルー画生成手段により繰り返し生成された複数枚の画像間の、その画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
複数の撮影モードの中からいずれかの撮影モードを指定する指定手段と、
上記指定手段で指定された撮影モードに応じて、今回撮影対象の被写体が静止した被写体であるか動きのある被写体で在るかを判定する被写体判定手段と、
上記被写体判定手段で判定された被写体が動きのある被写体であったときに、撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、上記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
上記被写体判定手段で判定された被写体が静止した被写体であったときに上記第2の撮影モードの実行により得られた複数枚の撮影画像を、上記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間のぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする。
上記本発明の第2の撮影装置によれば、撮影モードが指定されたときに上記被写体判定手段によって被写体が静止した被写体であるか、動きのある被写体であるかが判定される。そして上記被写体判定手段によって静止した被写体であると判定された場合には、撮影時に画像重ね合せ手段によって上記第2の撮影モードの実行により得られた複数枚の撮影画像どうしの位置が上記動きベクトル算出手段によって算出された動きベクトルに基づいて、撮像画像間の相対的なぶれが補正されるように撮影画像どうしの位置が修正されながら重ね合わせが行なわれて手ぶれが補正される。
これに対し、上記被写体判定手段によって動きのある被写体であると判定された場合には、上記第1の撮影モードの実行により撮影感度が上げられて撮影が行なわれる。つまり上記被写体判定手段によってスルー画に基づいて被写体が動きのある被写体であると判定された場合には撮影感度を上げることによりその高い撮影感度に応じたシャッタ速度に調整されて撮影が行なわれることになり被写体ぶれが抑制される。
また上記目的を達成する本発明の第3の撮影装置は、撮像素子上に被写体を結像させてその被写体を表わす画像を生成する撮影装置において、
当該撮影装置のぶれを検出するぶれ検出手段と、
撮影前に画像を繰り返し生成するスルー画生成手段と、
上記スルー画生成手段により繰り返し生成された複数枚の画像間の、その画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
上記動きベクトル算出手段で算出された動きベクトル算出手段により繰り返し生成された複数枚の画像間の動きベクトルに基づいて静止した被写体であるか動きのある被写体であるかを判定する被写体判定手段と、
上記被写体判定手段で判定された被写体が動きのある被写体であったときに、撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、上記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
上記被写体判定手段で判定された被写体が静止した被写体であったときに上記第2の撮影モードの実行により得られた複数枚の撮影画像を、上記ぶれ検出手段によるぶれ検出結果に基づいて撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする。
上記本発明の第1の撮影装置では、上記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間のぶれが補正されるように撮影画像どうしの位置が修正されたが、上記ぶれ検出手段であるジャイロセンサ等を用いてぶれを検出して撮影画像どうしの位置を修正する構成にすると補正の精度がより向上する。
このことを考慮して上記本発明の第3の撮影装置では、上記被写体判定手段によって静止した被写体であると判定された場合には、上記画像重ね合せ手段によって上記第2の撮影モードの実行により得られた複数枚の撮影画像どうしの位置が上記動きベクトル算出手段の代わりに上記ぶれ検出手段によって検出されたぶれに基づいて修正されながら上記重ね合わせ画像部で重ね合せ画像が生成されて手ぶれが補正される。
また上記被写体判定手段によって動きのある被写体であると判定された場合には、上記第1の撮影モードの実行により撮影感度が上げられて上記本発明の第1の撮影装置と同様に撮影が行なわれる。つまり上記被写体判定手段によってスルー画に基づいて被写体が動きのある被写体であると判定された場合には撮影感度を上げることによりその高い撮影感度に応じたシャッタ速度に調整されて撮影が行なわれることになり被写体ぶれが抑制される。
上記目的を達成する本発明の第4の撮影装置は、撮像素子上に被写体を結像させてその被写体を表わす画像を生成する撮影装置において、
当該撮影装置のぶれを検出するぶれ検出手段と、
複数の撮影モードの中からいずれかの撮影モードを指定する指定手段と、
上記指定手段で指定された撮影モードに応じて、今回撮影対象の被写体が静止した被写体であるか動きのある被写体で在るかを判定する被写体判定手段と、
上記被写体判定手段で判定された被写体が動きのある被写体であったときに撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、上記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
上記被写体判定手段で判定された被写体が静止した被写体であったときに上記第2の撮影モードの実行により得られた複数枚の撮影画像を、上記手ぶれ検出手段によるぶれ検出結果に基づいて撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする。
上記本発明の第2の撮影装置では、上記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間のぶれが補正されるように撮影画像どうしの位置が修正されたが、ぶれ検出手段であるジャイロセンサ等を用いてぶれを検出して撮影画像どうしの位置を修正する構成にすると補正の精度がより向上する。
このことを考慮して上記本発明の第4の撮影装置では、撮影前に撮影モードが指定されたときにその撮影モードの種類から上記被写体判定手段によって被写体が静止した被写体であるか、動きのある被写体であるかが判定される。そして上記被写体判定手段によって静止した被写体であると判定された場合には、上記画像重ね合せ手段によって上記第2の撮影モードの実行により得られた複数枚の撮影画像どうしの位置が上記動きベクトル算出部で算出された動きベクトルの代わりに上記ぶれ検出手段によって検出されたぶれに基づいて修正されながら上記重ね合せ画像部で重ね合わせ画像が生成されて手ぶれが補正される。
また上記被写体判定手段によって動きのある被写体であると判定された場合には、上記第1の撮影モードの実行により撮影感度が上げられて上記本発明の第2の撮影装置と同様に撮影が行なわれる。つまり上記被写体判定手段によってスルー画に基づいて被写体が動きのある被写体であると判定された場合には撮影感度を上げることによりその高い撮影感度に応じたシャッタ速度に調整されて撮影が行なわれることになり被写体ぶれが抑制される。
ここで、被写体の輝度を検出する被写体輝度検出手段と、
上記被写体輝度検出手段で検出された被写体輝度に基いて適正露出の撮影を行なうための適正シャッタ秒時を算出する適正シャッタ秒時算出手段とを備え、
上記撮影手段が、上記シャッタ秒時算出手段で算出された適正シャッタ秒時が所定のシャッタ秒時よりも短いシャッタ秒時であったときは上記被写体判定手段による判定結果を待つことなく、その適正シャッタ秒時による単独の1枚の撮影画像を生成する第3の撮影モードによる撮影を実行し、上記シャッタ秒時算出手段で算出された適正シャッタ秒時が所定のシャッタ秒時よりも長いシャッタ秒時であったときにシャッタ秒時をその適正シャッタ秒時よりも速めた上で上記第1の撮影モード又は上記第2の撮影モードによる撮影を実行するものであることが好ましい。
手ぶれや被写体ぶれは、シャッタ秒時が所定のシャッタ秒時よりも長いときに発生するので、上記シャッタ秒時算出手段で算出された適正シャッタ秒時が所定のシャッタ秒時よりも短い場合には上記第3の撮影モードによる撮影を実行し、所定のシャッタ秒時よりも長いシャッタ秒時であったときのみ手ぶれや被写体ぶれの補正を行なう構成にすると良い。
また、上記被写体判定手段による判定結果を、ユーザに通知する通知手段を備えた態様であることが好ましい。
そうすると、ユーザは、撮影装置が被写体を静止した被写体であると判定したか、動きのある被写体であると判定したかを表示画面上で確認することができる。
また、上記第1の撮影モードの実行により得られた撮影画像および上記第2の撮影モードにより得られた重合せ画像に対応させて、上記第1の撮影モードにより得られた画像であるか上記第2の撮影モードにより得られた画像であるかを表わす情報を記録する記録手段を備えた態様であることが好ましい。
そうすると、ユーザは再生画像を見ながら上記情報を参考にして画像の不具合解析等を行なうことができる。
ここで上記本発明の第1の撮影装置から第4の撮影装置においては、被写体が動体であるか静止物であるかを撮影前に判定する構成を示したが、撮影時に得た複数枚の画像を使って被写体が動体であるか静止物であるかの判定を行なっても良い。
そこで、上記目的を達成する本発明の第5の撮影装置は、撮像素子上に被写体を結像させてその被写体を表わす画像を生成する撮影装置において、
撮影操作を受けて連続する複数枚の撮影画像を生成する撮影手段と、
上記撮影手段での撮影により得られた、相対的に低感度の複数枚の画像を、画像上のぶれが補正されるように重ね合わせることにより1枚の重ね合わせ画像を生成する画像重ね合わせ手段と、
上記撮影手段での撮影により得られた複数枚の画像のうちの1枚の画像であって相対的に高感度の画像を生成する高感度画像生成手段と、
上記撮影手段により生成された複数枚の画像間の、画像を複数の領域に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
上記動きベクトル算出手段により算出された動きベクトルに基づいて、今回の撮影で得られた複数枚の画像の被写体が静止した被写体であるか動きのある被写体であるかを判定する被写体判定手段と、
上記被写体判定手段で動きのある被写体であると判定された場合に上記高感度画像生成手段で生成された高感度画像を記録し、上記被写体判定手段で静止した被写体であると判定された場合に上記画像重ね合わせ手段で生成された重ね合わせ画像を記録する画像記録手段を備えたことを特徴とする。
上記本発明の第5の撮影装置によれば、上記被写体判定手段によって、今回の撮影で得られた複数枚の画像の被写体が静止した被写体であるか動きのある被写体であるかが判定され、動きのある被写体であると判定された場合には、上記高感度画像が記録され、静止した被写体であると判定された場合には、上記重ね合わせ画像が記録される。
つまり、静止画撮影において、被写体に応じて手ぶれと被写体ぶれとが区別されて好適な撮影が行なわれる。その結果、静止画撮影において手ぶれと被写体ぶれとを区別して各々を好適に補正することができる撮影装置が実現する。
ここで、上記被写体判定手段は、上記動きベクトル算出手段により算出された動きベクトルに基づいて上記複数枚の画像の撮影の間に被写体が所定の移動量以下だけ動いていた場合、および該移動量を超えて動いていた場合に、それぞれ、静止した被写体、および動きのある被写体と判定するものであることが好ましく、
さらに、被写体に顔が含まれているか否かを検出する顔検出手段を備え、
上記動きベクトル算出手段は、被写体に顔が含まれていた場合に上記動きベクトルを求めるものであって、
上記被写体判定手段は、被写体に顔が含まれていない場合に静止した被写体であると判定し、被写体に顔が含まれていた場合に、上記動きベクトル算出手段により算出された動きベクトルに基づいて、静止した被写体であるか動きのある被写体であるかを判定するものであっても良い。
また、上記画像重ね合わせ手段は、上記撮影手段での撮影により得られた複数枚の画像を、上記動きベクトル算出手段で算出された動きベクトルに基づいて、画像上のぶれが補正されるように重ね合わせるものであることが好ましく、
また、当該撮影装置の角速度を検出する角速度センサを備え、
上記画像重ね合わせ手段は、上記撮影手段での撮影により得られた複数枚の撮影画像を、上記角速度センサで検出された角速度に基づいて、画像上のぶれが補正されるように重ね合わせるものであっても良い。
さらに上記画像記録手段は、上記高感度画像又は上記重ね合わせ画像の記録にあたり、今回記録する画像が高感度画像であるか重ね合わせ画像であるかを表わす情報を付して記録するものであることが好ましい。
以上、説明したように、静止画撮影において手ぶれも被写体ぶれも好適に補正することができる撮影装置が実現する。
以下図面を参照して本発明の実施の形態を説明する。
図1は、本発明の撮影装置の一実施形態であるデジタルカメラを示す図である。
図1には本発明の一実施形態であるデジタルカメラ100の斜視図が示されている。図1(a)には正面上方から見た斜視図が示されており、図1(b)には背面上方から見た斜視図が示されている。
図1(a)に示すように、本実施形態のデジタルカメラ100のボディ中央には撮影レンズ1701が内蔵されたレンズ鏡胴170が備えられており、そのレンズ鏡胴170の上方にはファインダ105が備えられている。またそのファインダ105の脇には撮影補助光発光窓161が備えられている。
また、図1(b)に示すように本実施形態のデジタルカメラ100の背面および上面にはユーザがこのデジタルカメラ100を使用するときにいろいろな操作を行うための操作子群101が備えられている。
この操作子群101の中にはデジタルカメラ100を作動させるための電源スイッチ101aのほか、十字キー101b、メニュー/OKキー101c、キャンセルキー101d、モードレバー101eなどがある。これらの操作子群101の中のモードレバー101eによっては、再生モードと撮影モードの切替や撮影モードの中でさらに動画モード、静止画モードの切替が行なわれる。上記モードレバー101eが撮影モードに切り替えられた状態にあるときに電源スイッチ101aが投入されると表示画面150上にスルー画が表示されて、そのスルー画を見ながらシャッタチャンスにレリーズ釦101fが押されると被写体の撮影が行なわれる。なお上記モードレバー101eが再生側に切り替えられた状態にあるときには既撮影画像が表示画面150上に再生表示される。また本実施形態のレリーズ釦101fは半押しと全押しの二つの操作態様を有するものである。
図2は、図1のデジタルカメラ100内部の電気系統の構成ブロック図である。
図2を参照してこのデジタルカメラ100の内部の構成および動作を簡単に説明する。
本実施形態のデジタルカメラ100ではすべての処理がシステム制御部110によって統括的に制御されている。
システム制御部110の入力部には図1(b)に示した操作子群101からの操作信号がそれぞれ供給されていてそれらの操作信号のうちの少なくとも一つが供給されてくると操作信号に応じた処理が適宜システム制御部110によって実行される。システム制御部110の内部にはプログラムメモリであるROM(不図示)が備えられており、そのROM内にはこのデジタルカメラ100が撮影装置として動作するために必要なプログラムが書き込まれている。このROM内のプログラムは電源スイッチ101aがオフになっているときにも走っており、電源スイッチ101aの投入を待ち受けている。この待ち受け状態にあるときに操作子群101の中の電源スイッチ101a(図1参照)が投入されると電源スイッチ101aが投入されたことがシステム制御部110によって検知され、ROM内のプログラムの手順にしたがってこのデジタルカメラ全体の動作を制御する処理が開始される。なお、システム制御部110には不図示の電池からから常に電力が供給されている。
ここで操作子群101の中の電源スイッチ101a(図1参照)が投入された後のデジタルカメラ100の動作を、図2を参照して説明する。
デジタルカメラ100では、電源スイッチ101aが投入されモードレバー101eが撮影側に切り替えられていた場合には、表示部15が備える表示画面150上にスルー画の表示が行なわれるので、まずスルー画を表示するときの処理を説明し、その後レリーズ釦101fの押下を受けて行なわれる撮影処理を説明する。
まずスルー画を表示画面150上に表示するときの処理を説明する。
操作子群101の中の電源スイッチ101aが投入されシステム制御部110によりそのことが検知されると、電池と各部との接断を担うスイッチ(不図示)が接続され電池からの電力が各部に供給される。電源スイッチ101aが投入されたときにモードレバー101eが撮影側に切り替えられていた場合には、システム制御部110の制御の下にタイミング発生部111から撮像素子を内蔵する撮像部120に向けて所定の間隔ごとに電子シャッタを設定するタイミング信号さらには画像読出信号が供給され撮像部120から所定の間隔ごとに画像信号が間引かれて前処理部130に出力される。なお撮像部120には撮像素子の他に色フィルタ等が備えられている。また、図2には開口径を調節することができる絞り1702が設けられていて露出調整時には撮像部の電子シャッタとともにこの絞りの絞り径が調節される。
前処理部130には、CDS1301とA/D1302とガンマ補正部1303とが備えられており、CDS1301では画像信号に乗っているノイズの低減処理が行なわれ、A/D1302ではそのCDS1301から出力されたアナログ信号の画像を受けてアナログ信号の画像からデジタル信号の画像への変換処理が行なわれ、ガンマ補正部1303では表示画面150のガンマ特性にあった画像に変換される。
この前処理部130で処理されたデジタル信号の画像がスイッチSW1を経由して信号処理部140に供給される。なお、スイッチSW1は通常符号a側に切り替えられている。
前処理部130から画像が供給されてくる信号処理部140には、色分離部1401とYC変換部1402と画像圧縮部1403とが備えられており、色分離部1401では画像が赤(R)、緑(G)、青(B)の各色信号に分離され、YC変換部1402ではそれらの各色信号が色変換行列によってYCC信号に変換される。そして信号処理が行なわれた後の画像が表示部15に供給される。
タイミング発生部111からは撮像部120に向けて所定の間隔ごとに画像読出信号が供給されている訳であるから、所定のタイミングごとに表示画面150上の画像が切り替えられてレンズ鏡胴170内の撮影レンズ1701が捉えている画像が表示画面150上にスルー画となって表示される。なお、このスルー画を表示画面150上に表示するにあたっては、システム制御部110によってA/D1302から出力されたデジタル信号の画像の供給を受けて露出調整や焦点調整が絶えず行なわれている。
ここで、レリーズ釦101fが半押しされると、撮影処理が開始される。
レリーズ釦101fが半押されたことを受けてシステム制御部110は、AE(Auto Eposure)処理とAF(Auto Focus)処理を実行しAE処理により適正シャッタ秒時が算出される。システム制御部110は、この適正シャッタ秒時が手ぶれや被写体ぶれが発生する目安となる所定のシャッタ秒時よりも短いと判定した場合には、タイミング発生部111に指示して撮像部120内の撮像素子にその適正シャッタ秒時の電子シャッタで露光を行なわせ、さらにタイミング発生部111から撮像部120に読出信号を供給させて適正シャッタ秒時後に撮像部120から画像信号を出力させ出力させた画像信号を前処理部130へ出力させる。後段の前処理部130によってノイズ低減などの処理が行なわれた画像信号が信号処理部140に供給され信号処理部140で信号処理された画像信号が記録再生部16内の記録媒体160に記録される。この被写体輝度がある程度明るくてAE処理で得られた適正シャッタ秒時が所定のシャッタ秒時よりも短いときに行なわれる撮影処理が本発明にいう第3の撮影モードの処理に該当する。
ここで本実施形態においては、上記課題を達成するために、繰り返し生成されているスルー画の画像間の、その画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段131を設けて、スルー画をその動きベクトル算出部131に常に供給することでレリーズ釦101fがいつ押されても被写体が静止した被写体であるか、動きのある被写体であるかを即座に判定することができる構成としている。
つまり本実施形態においてはスルー画が表示部15に供給されるとともに動きベクトル算出部131に供給され、その動きベクトル算出部131でタイミング発生部111からのタイミング信号に同期して繰り返し生成されているスルー画の画像間の、画像を複数に分割したときの各領域ごとの動きベクトルが常に算出されている。レリーズ釦101fが半押しされたときにはその算出結果を受けてシステム制御部110によって被写体が静止した被写体であるか動きのある被写体であるかが判定され、シャッタ秒時が所定の値を超えるような場合には、手ぶれ又は被写体ぶれが発生する恐れがあるとしてそれらが補正されるように全押しに備えて撮影処理が実行される。
ここでシステム制御部110が実行する、上記第3の撮影モード以外の撮影処理を説明する。
まずスルー画が表示されているときにレリーズ釦101fが半押しされると、システム制御部110によって撮影処理が開始される。このときには上述した様にレリーズ釦101fが半押しされているときの、動きベクトル算出部131の動きベクトルの算出結果を受けてシステム制御部110によって被写体が静止体であるか、動きのある被写体であるかの判定が行なわれる。システム制御部110は、輝度不足を補うために所定のシャッタ秒時を超えるシャッタ秒時で撮影を行なうことが必要な場合に、レリーズ釦101fが半押しされたときのスルー画の各画像間の動きベクトルに基づき被写体が動きのある被写体であると判定した場合には、全押しに備えて単独の一枚の撮影画像を生成する第1の撮影モードを内部設定し、被写体が静止した被写体であると判定した場合には全押しに備えて連続する複数枚の撮影画像を生成する第2の撮影モードを内部設定する。
ここで、まずシステム制御部110が被写体が静止した被写体であると判定して第2の撮影モードを内部設定して第2の撮影モードによる撮影を実行して手ぶれを補正するときの処理を説明する。
レリーズ釦101fが半押しされたことを受けて第2の撮影モードを内部設定した後、システム制御部110は、レリーズ釦101fの全押し操作を受けてタイミング発生部111に指示してシャッタ秒時の短い電子シャッタを撮像部120に繰り返し供給させて撮像部120内の撮像素子に連続的に撮影画像を生成させ、撮影画像を表わす画像信号を前処理部130へと次々に出力させる。このときにはスイッチSW1を符号b側に切り替えておく。一回の撮影操作で行なわれる連写撮影ごとに後段の前処理部130内のCDS1301ではノイズ低減処理等が行なわれノイズ低減処理が行なわれたアナログ信号の画像がA/D1302でデジタル信号の画像に変換される。さらにA/D1302でデジタル信号に変換された画像にガンマ補正部1303でガンマ補正が施されガンマ補正が施されたデジタル信号の画像が動きベクトル算出部131に供給される。この動きベクトル算出部131によって各画像間の動きベクトルが算出され算出された結果に基づいて後段の画像重ね合せ部132で画像の重ね合せが行なわれ、画像の重ね合せが行なわれた後の撮影画像、つまり手ぶれが補正された後の撮影画像が信号処理部140へと出力される。
信号処理部140では色分離部1401で画像の色分離(RGB信号)が行なわれさらにYC変換部1402でRGB信号からYCC信号への変換処理が行なわれさらに画像圧縮部1403で画像の圧縮が行なわれ、圧縮情報とともにYCC信号が画像ファイルとなって記録再生部16内の記録媒体160に記録される。
こうして、システム制御部110が、被写体が静止した被写体であると判定した場合には動きベクトル算出部131の算出結果に基づいて画像重ね合せ部132で手ぶれが補正され手ぶれが補正された撮影画像が記録媒体160に記録される。
本実施形態においては、本発明にいうスルー画生成手段の一例が、システム制御部110とタイミング発生部111と撮像部120とで構成され、本発明にいう被写体判定手段の一例がシステム制御部110で構成され、本発明にいう撮影手段の一例が、システム制御部110とタイミング発生部111と撮像部120とで構成される。
次に、被写体が動きのある被写体である場合にシステム制御部110が実行する第1の撮影モードの処理を説明する。
システム制御部110は、半押しされたときのAE処理で被写体輝度が暗いためにシャッタ秒時が所定のシャッタ秒時よりも長くなるようなときに被写体が動きのある被写体であると判定したときには、被写体ぶれが発生する恐れがあるとして第1の撮影モードを内部設定する。次にレリーズ釦101fが全押しされたことを受けてシステム制御部110は撮像部120に指示して撮影感度を上げさせてタイミング発生部111に指示してその撮影感度に応じたシャッタ速度で単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行する。
このときには、システム制御部110によってスイッチSW1が符合a側に切り替えられて前処理部130から出力された画像信号が信号処理部140へと直接供給され信号処理された画像信号が記録媒体160に記録される。
このようにシステム制御部110によって動きのある被写体であると判定されたときには撮影感度が上げられ撮影感度に応じたシャッタ速度で被写体ぶれが抑制された撮影が行なわれる。
ここで、システム制御部110が実行する撮影処理をフローチャートの形に整理して説明する。
図3は、システム制御部110が実行する撮影処理の手順を示すフローチャートである。図3(a)には、撮影処理の手順が示されており、図3(b)には、図3(a)のステップS301の処理の詳細が示されている。
このフローの処理は半押しされたときに開始される。
半押しされたことを受けてステップS301でAEつまり露出処理を行なって次のステップS302でAF処理を行なう。
ここで全押しされたらステップS303でステップS301の処理で内部設定されたシャッタ秒時を撮像部120に設定してステップS303で撮像部120内の撮像素子に露光を行なわせる。そしてステップS301で内部設定されたシャッタ秒時後に露光を終了させてステップS304でタイミング発生部111に指示して読出信号を供給させて撮像部120から前処理部130へと画像を出力させる。次のステップS305で前処理部内のA/D1302にA/D変換等を行なわせてデジタル信号に変換された画像を動きベクトル部および画像重ね合せ部を介して、又は直接信号処理部140へと供給させる。次のステップS306で信号処理部140に画像処理を行なわせステップS307で信号処理部140内の画像圧縮部1403に圧縮処理を行なわせて記録媒体160に画像を記録させてこのフローの処理を終了する。
ここで前述の第3の撮影モードの処理を実行する場合には、被写体輝度がある程度明るくシャッタ秒時を所定の値よりも短くすることができるので良いが、ステップS301の処理で被写体輝度が暗いことが検知された場合には適正シャッタ秒時が所定のシャッタ秒時以上の長さになってしまう。そうすると、手ぶれ、被写体ぶれともに発生し易くなってしまう。
そこで、本実施形態では、システム制御部110が、ステップS301の処理で被写体輝度に応じて算出される適正シャッタ秒時が所定のシャッタ秒時よりも短いかどうかに応じて、上記第1の撮影モード、上記第2の撮影モード、上記第3の撮影モードのうちのいずれの撮影処理を実行するかを決定しておいて、全押しされたらステップS303でステップS301で決定しておいた撮影モードで撮影処理を実行する構成としている。
システム制御部110が被写体輝度に応じて絞り値(F値)と電子シャッタの適正シャッタ秒時を算出する処理を行なっているのがステップS301のAE処理なのでステップS301の処理の詳細を図3(b)を参照しながら説明する。
まずステップS3011で、被写体輝度からF値と適正シャッタ秒時を算出する。ステップS3011で適正シャッタ秒時が所定のシャッタ秒時未満であると判定したときにはステップS3012へ進んでステップS3012で適正シャッタ秒時を設定し単独撮影を行なう第3の撮影モードを内部設定して図3(a)のステップS302に戻る。
ステップS3011で適正シャッタ秒時が所定のシャッタ秒時以上であると判定したときには、ステップS3013へ進んでステップS3013で動きベクトル算出部131の算出結果から静止した被写体であるか動きの被写体であるかを判定する。このステップS3013で静止した被写体であると判定したときは、‘静止物’側へ進んでステップS3014でシャッタ秒時を所定のシャッタ秒時にして次のステップS3015で動きベクトル算出部131で算出された動きベクトルに基づいて画像の重ね合せを重ね合せ画像部132に行なわせるためにスイッチSW1を符号b側に切り替えて連続する複数枚の撮影画像を生成する第2の撮影モードを内部設定して、図3(a)のステップS302に戻る。なお、図3中には画像の重ね合せを行なうことを画像加算と記載してある。
このステップS3013で動きのある被写体であると判定したときは、‘動体を検出’側へ進んでステップS3016で適正シャッタ秒時を所定のシャッタ秒時にして次のステップS3017でスイッチSW1を符号a側に切り替えて単独の撮影画像を生成する第1の撮影モードを内部設定して、図3(a)のステップS302に戻る。
そして、全押しされたら、ステップS303でステップS301のときに設定しておいた撮影モードで撮影処理を実行する。
こうして、適正シャッタ秒時が所定のシャッタ秒時以上の場合には、動きベクトル算出部131によるスルー画の各領域ごとの動きベクトルの算出結果に基づいてシステム制御部110で静止した被写体であるか、動きのある被写体であるかが的確に判定されて、被写体ぶれが発生する撮影場面においては第1の撮影モードによる撮影の実行により撮影感度が上げられその撮影感度に応じたシャッタ速度で撮影が行なわれることにより被写体ぶれが抑制され、手ぶれが発生する撮影場面においては第2の撮影モードによる撮影の実行により連続する複数枚の撮影が行われて画像重ね合せ部で重ね合せが行なわれて撮影が行なわれることにより手ぶれが補正される。
以上、説明したように、静止画撮影において手ぶれも被写体ぶれも好適に補正することができる撮影装置が実現する。
ところで上記実施形態のようにスルー画を用いて動きベクトル算出部131で動きベクトルを算出し算出した結果に基づいて被写体が静止した被写体であるか動きのある被写体であるかを判定しても良いが、例えば通常のデジタルカメラに搭載されている撮影モードの中の風景モードのときには風景撮影であるので被写体が静止した被写体であるとし、ポートレートモード、スポーツモードのときには人物撮影であるので被写体が動きのある被写体であるとしても良い。そうすると、デジタルカメラ内部で撮影モードに応じて上記第1、第2の撮影モードが自動的に内部設定される。
図4は、第2実施形態を説明する図である。
この第2実施形態においては、図1の外観を持ち、図2の内部構成を持つデジタルカメラが用いられるとする。
図4には、被写体が静止した被写体であるか動きのある被写体であるかの判定を撮影モードに応じて行なう構成にした場合の処理手順を説明するフローチャートが示されている。
図3(b)においてはシステム制御部110(図2参照)が動きベクトル算出部の算出結果を受けて実行するステップS3013処理内容が、図4においてはステップS3013Aの処理内容に変更されている。
図4に示す様に、動きベクトル算出部の動きベクトルの算出結果の代わりに風景モードのときには第2の撮影モードが内部設定され、ポートレートモード、スポーツモードのときには第1の撮影モードが設定される。この例では本発明にいう被写体判定部の一例を構成するシステム制御部110が、動きベクトル算出部131で算出された結果に基づいて被写体が動きのある被写体であるか静止した被写体であるかを判定する代わりに、モードレバー101eで設定された撮影モードによって動きのある被写体であるか静止した被写体であるかを判定する構成に変更している。つまり、動きベクトル算出部131の機能が一つになって後段の画像重ね合せ部132に動きベクトルを供給して重ね合せ画像を行なわせるのみになる。この様な構成にしても第1実施形態と同等の効果が得られる。
図5、図6は、第3実施形態を示す図である。
図5には、図2の構成に加えてジャイロセンサ102が追加された例が示されている。また図6には、図3(b)のフロー中のステップS3015の処理がステップS3015Aの処理に変更された例が示されている。
第1実施形態では動きベクトル算出部131で算出された動きベクトルに基づいて画像重ね合せ部132に画像の重ね合せを行なわせていたが、図5、図6の例ではジャイロセンサ102の検出結果に基づいて画像重ね合せに画像の重ね合せを行なわせている。このジャイロセンサ102を用いると、ぶれの補正精度が向上する。
図7は、第4実施形態を示す図である。
この第4実施形態のデジタルカメラは、図1の外観を持ち、図5の内部構成とほぼ同じ構成を持つものとする。ただし、この例においては、撮影モードに応じてシステム制御部110が本発明にいう被写体判定手段となって被写体が静止した被写体であるか動きのある被写体であるかを判定するため、図5中の動きベクトル算出部131は必要なくなる。
図4中のフロー中のステップS3015の処理がステップS3015Aに変更された以外は図4の処理と同じである。
図7のステップS3015Aの処理においてジャイロセンサ102を用いて画像重ね合せ部132に画像の重ね合せを行なわせている。このような構成にすると、図5の動きベクトル算出部131で算出された動きベクトルに基づいてぶれが補正されるよりもより高精度にぶれが補正される。
ところで、被写体が静止した被写体であって画像の重ね合わせが行なわれて手ぶれが補正されるか、被写体が動きのある被写体であって撮影感度が上げられその撮影感度に応じたシャッタ速度で撮影が行なわれて被写体ぶれが補正されるかを表示画面上に表示して撮影者に通知する構成にしておくと良い。そうすると、撮影者は撮影前にどちらでぶれの補正が行なわれるかを把握することができる。
図8、図9は、第5実施形態を説明する図である。
図8のフローの処理は、ステップS30151の処理が追加された以外は図3の処理と同じである。
ステップS30151の処理で第2の撮影モードによる撮影が実行されて画像重ね合せ部132で画像が重ね合されて手ぶれの補正が行なわれることを表わす情報(図9には‘画像加算’と表示されている)を表示すると、このデジタルカメラ100(図1参照)が被写体を静止した被写体であると判定したか、動きのある被写体であると判定したかの判定結果を撮影前に撮影者に通知することができる。
また再生時に第1の撮影モード、第2の撮影モードのうちのどちらで撮影が行なわれたかを表示することができるようにしておくとなお良い。
図10、図11は、第6実施形態を説明する図である。
図10のフローの処理は、ステップS309の処理が追加された以外は図3の処理と同じである。図11には、Exifファイル内のメモリアロケーションが示されている。
画像ファイルの一形態であるExifファイルは、内部に図11に示すメモリ領域をそれぞれ有する。上からスタートコード領域、タグ領域、サムネイル画像領域、主画像領域があり、そのタグ領域には、主画像に関する情報例えば撮影日時等が記録される。そこでこのタグ領域に第1の撮影モード、第2の撮影モードのうちのどちらで撮影が行なわれたかを記録するようにしておくと、再生時にそのタグ領域からその情報を読み出して表示画面上に表示することができる。撮影者は、表示画面150上の情報(図11には第2の撮影モードによる撮影を‘画像加算’という言葉で表わしている)を見て画像の重ね合せが行なわれたことを前提に画像の解析を行なうことができる。
なお、本実施形態では、第3の撮影モードを設けたが、第3の撮影モードを設けずに第1撮影モードと第2の撮影モードのうちのいずれかで撮影を実行する構成にしても良い。
ここで、上記実施形態においては、動体であるか静止体であるかを撮影前に判定して、動体であるときには第1の撮影モードで撮影を行なって高感度画像を得て、静止体であるときには第2のモードで撮影を行なって適正露出の重ね合わせ画像を得る例を示したが、例えば高フレームレートの撮像素子を用い、撮影時に動体であるか静止体であるかを判定することもできる。
図12は、第7実施形態を説明する図であり、上記高フレームレートの撮像素子が採用された撮像部120Aを備えるデジタルカメラ100Aの内部構成を示す構成ブロック図である。
図12を参照してこのデジタルカメラ100Aの内部の構成および動作を簡単に説明する。なお、このデジタルカメラの外観は、図1と同じものである。
図12のデジタルカメラ100には、光学レンズ系1701、タイミング発生部111、システム制御部110、絞り調節機構1702、撮像部120A、前処理部130、手ぶれ補正部140、信号処理部160、記録再生部180、フラッシュ190が備えられている。なお上記メカニカルシャッタも備えられているが省略されている。
これら各部の構成を順次に説明する。
まず、光学レンズ系1701は、例えば複数枚の光学レンズ(フォーカスレンズやズームレンズといった光学レンズ等)が組み合わされ構成されている。光学レンズ系1701には、図示しないが光学レンズ系の中にあるズームレンズの位置を調節して焦点距離を調節するズーム機構や光学レンズ系の中にあるフォーカスレンズの位置を調節してピントを調節するAF(Automatic Focus)調節機構等が含まれている。これらの機構を作動させるにあたっては、タイミング発生部111で生成された駆動信号が供給される。
タイミング発生部111には、デジタルカメラ100のシステムクロックを発生する発信器が内蔵されており、さらにこのタイミング発生部111には、そのシステムクロックに同期したタイミング信号を生成するタイミング信号生成部とシステムクロックに同期した駆動信号を生成する駆動信号生成部とが備えられている。システム制御部110から制御信号が供給されてくると、その制御信号に応じてタイミング発生部111が撮像部120や前処理部130、さらにタイミング発生部111内の駆動信号生成部にタイミング信号を出力する。タイミング発生部111内の駆動信号生成部ではそのタイミング信号を受けて上記機構等に駆動信号を出力する。
このタイミング発生部111に制御信号を供給するシステム制御部110には、例えばCPU(Central Processing Unit:中央演算処理装置)とこのデジタルカメラ100の動作手順が書き込まれたROMとが備えられている。システム制御部110では、例えばユーザの操作に伴って操作部101(レリーズボタンを含む)から供給されてくる情報と上記ROMの情報とを用いて各部の動作を制御する制御信号が生成され、生成された制御信号が、タイミング発生部111、前処理部130、手ぶれ補正部140、信号処理部160、記録再生部180等に供給される。
光学レンズ系1701の後方に配備されている絞り調節機構1702は、被写体の撮影において最適な入射光の光束を撮像素子に供給することができるように入射光束断面積(すなわち、絞り開口面積)を調節する機構である。この絞り調節機構1702には、前述のタイミング発生部111から駆動信号が供給される。図示はしないが、このときの駆動信号はシステム制御部110が、撮像部120で光電変換された信号電荷を基にAE(Automatic Exposure:自動露出)処理を行なって算出した絞り・露光時間に基づくものであり、システム制御部110がタイミング発生部111にその絞り・露光時間に応じた制御信号を供給してタイミング発生部111内の駆動信号生成部に駆動信号を生成させている。
また撮像部120には、光電変換する撮像素子が備えられており、その撮像素子が撮影光学系の光軸に直交するように配置される。その撮像素子の入射側には、一体的に個々の光電変換素子に対応して色分解する色フィルタが2次元的に配列されている。タイミング発生部111からのタイミング信号に応じて撮像素子で光電変換が行なわれそれらの光電変換によって得られた信号電荷が所定のタイミング信号、例えば電子シャッタのオフタイミングで前処理部130に出力される。本実施形態の撮像素子は、撮影モードにセットされると画素数を落としてスルー画用の撮影を開始し、撮影モード中にレリーズボタンが全押しされるとスルー画用の撮影を中断して記録用の本画像の撮影を行なう。なお詳細は後述するが図2の撮像素子には前述の高速フレームレートを持つ撮像素子が用いられていて後述する手ぶれ補正が行なわれるときにはレリーズボタンが全押し操作されたときの一回の撮影操作で高速連写が行なわれて後述する手ぶれ補正部140で電子的に手ぶれが補正されながら本画像の撮影が行なわれる構成になっている。このため以降の説明においては、一回の撮影操作で高速連写が行なわれることを説明する際に、高速連写が行なわれて得られた画像のことを連写画像と記載し、さらにその連写画像を、連写回数に応じて一回目の連写画像、2回目の連写画像という風に記載する。この電子的にぶれの補正が行なわれるように高速連写が行なわれた場合には、シャッタ速度に応じた連写回数の連写が行なわれて電子的にぶれが補正され、ぶれが補正された後の画像が上記本画像ということになる。
また前処理部130には、CDS(Correlated Double Sampling:相関二重サンプリング)131、A/D132、ガンマ補正部133が備えられている。CDS131には、クランプ回路とサンプルホールド回路とが備えられており、例えば撮像素子に例えばCCD固体撮像素子が用いられた場合には、そのCCD固体撮像素子の動作により発生する各種のノイズがタイミング発生部111からのタイミング信号により上記クランプ回路と上記サンプルホールド回路とで取り除かれる。さらにCDS回路131には、システム制御回路110からの制御信号に応じたゲインで入力信号を増幅する増幅回路が備えられており、上記サンプルホールド回路から出力された、上記各種のノイズが取り除かれた信号電荷が受光光量を表わす正確な色信号(R,G,B)となってその増幅回路に供給される。その増幅回路によって、入力された色信号が所定のゲインで増幅された後、A/D132で所定の量子化レベルで量子化されデジタル信号に変換される。またシステム制御回路110から撮影感度を上げるために高ゲインを表す制御信号が供給されているときには、上記所定のゲインよりも大きなゲインで増幅された信号がA/D132へと供給されA/D132で所定の量子化レベルで量子化されデジタル信号に変換される。このときにはタイミング発生部111からのタイミング信号に応じてデジタル信号への変換が行なわれる。
さらにガンマ補正部133には、ガンマ補正用のルックアップテーブルが備えられており、そのルックアップテーブルによって、ルックアップテーブルに入力されたデジタル信号に対応してガンマ補正が施されたデジタル信号が出力され、デジタル信号に変換された各色信号が手ぶれ補正部140に供給されることになるが、スルー画のときにはガンマ処理部133から出力されたスルー画を表わす信号が手ぶれ補正部140を迂回して信号処理部160に供給される。
まず、スルー画のときには手ぶれ補正部140を迂回して信号処理部160にスルー画を表わす画像信号が供給され、信号処理部160によってそのスルー画を表わす画像信号に色分離、YC変換処理が行なわれ、色分離、YCC変換処理が行なわれた後の画像信号が不図示の画像表示部に供給され、スルー画がLCD150(図1参照)上に表示される。このスルー画が表示されている最中にレリーズボタン102が操作されると、システム制御部110は、AE処理により得たシャッタ速度に基づいて撮影枚数をタイミング発生部111に指示して撮影枚数分のタイミング信号を連続的に供給させることにより高フレームレートの撮像素子を備える撮像部120Aに高速連写を開始させる。そして撮像部120から前処理部130に次々と連写画像を出力させ、前処理部130で各回の連写画像ごとにデジタル信号への変換処理等が行なわれたら、手ぶれ補正部140に次々と連写画像を供給させる。なお、このときには1回目の連写画像を撮像部120内の不図示のフレームメモリに記憶させておき、全ての連写画像を前処理部に出力させた後、その撮像部内のフレームメモリから前処理部130に画像を出力させて前処理部130内の増幅回路に高ゲインで信号を増幅させて高感度画像を生成させ前処理部130内の最後段にある不図示のフレームメモリ内に記憶させておく。
ここで図12に加えて図13を参照しながら構成を説明していく。
図13は、図12中の手ぶれ補正部140の構成を示す図である。
図13に示す手ぶれ補正部140には、フレームメモリ141,フレームメモリ部142と、相関演算部143と、アドレスシフト部144と、合成部145とスイッチSW1〜SW3が3つ備えられている。この例ではフレームメモリ141、フレームメモリ部142に、1フレーム分のR、G、Bの各色信号を格納することができるサイズを持ち、繰り返し読み出すことが自在な非破壊タイプのメモリが用いられている。
上述した様にスルー画が表示されている最中にレリーズボタンの操作に応じて高速連写された連写画像が手ぶれ補正部140に供給されてくると、手ぶれ補正部140では、次々に供給されてくる連写画像を使って被写体が動きのある被写体であるか、静止した被写体であるかが判定される。
まず、1回のレリーズボタン102の操作で行なわれる複数回の連写のうちの1回目と2回目の連写が実施されると、相関演算部143に1回目の連写画像と2回目の連写画像が入力される。このときには、スイッチSW1とスイッチSW2が双方共にa側に切り替えられていて、それらのスイッチSW1,SW2を経由してフレームメモリ141内に記憶されていた1回目の連写画像が相関演算部143とともに、フレームメモリ部142にも供給され記憶される。
1回目の連写画像と2回目の連写画像との双方が供給された相関演算部143では、それら2つの画像を用いて手ぶれを表わす動きベクトルが被写体の各領域ごとに検出される。この相関演算部143で動きベクトルが検出されたら、今度はスイッチSW1とスイッチSW2がシステム制御部110の制御の下に双方共にb側に切り替えられるとともに、その動き検出ベクトルを示す位置データ(例えば座標データx、y)がアドレスシフト部144に供給される。このときにはフレームメモリ141の内容が1回目の連写画像から2回目の連写画像に書き換えられてそのフレームメモリ141内の2回目の連写画像がスイッチSW1の接点bを経由してアドレスシフト部144に供給される。
フレームメモリ部142には、1回目の連写画像が記憶されている訳であるから、アドレスシフト部144でそのフレームメモリ部142内の1回目の連写画像の位置にあうように、2回目の連写画像の位置がオフセットされて1回目の連写画像をベースにして2回目の連写画像が加算されることによりぶれが補正され、フレームメモリ部142にぶれが補正された重ね合わせ画像が記憶される。
以降においては、このフレームメモリ部142にある1回目の連写画像の位置をベースにして3回目の連写画像、4回目の連写画像…が相関演算部143に供給されて、双方の画像から動きベクトルが検出され検出された動きベクトルに基づいてぶれ補正が行なわれて加算により得られた重ね合せ画像がフレームメモリ部142に次々に上書きされていく。
こうして1回の撮影操作を受けて複数枚の連写により得られた撮影画像どうしの加算が順次に行なわれていって所定枚数に達したら、システム制御部110からの切替信号によってスイッチSW3が断から接に切り替えられる。
ここで、本実施形態においては相関演算部143での演算結果がアドレスシフト部144だけでなくシステム制御部110にもリアルタイムに伝えられていてシステム制御部110は今回の撮影で得られた複数枚の画像の被写体が静止した被写体であるか、動きのある被写体であるかを複数枚の画像にわたって判定する。ここで、システム制御部110が、相関演算部143からの演算結果を受け取って被写体が動きのある被写体であると判定したときには信号処理部160に前処理部130内の高感度画像を読み出す旨の通知を行ない、被写体が被写体が静止した被写体であると判定したときには、信号処理部160に手ぶれ補正部140内のフレームメモリ部142内の重ね合わせ画像を読み出す旨の通知を行なう。
信号処理部160は、システム制御部110からの被写体が動きのある被写体であるとの通知に対しては前処理部内130の不図示のフレームメモリに記憶されている高感度画像を読み出し、静止した被写体であるとの通知に対しては手ぶれ補正部140内のフレームメモリの重ね合わせ画像を読み出す。
図12に示す信号処理部160によって高感度画像又は重ね合わせ画像が読み出されたら信号処理部160内の色分離部162によって画像を構成する各色信号が選択的に振り分けられるとともに、ある画素の色信号がその画素の周囲の画素の色信号によって補間生成され、各色信号が画面ごとのプレーン信号にされて後段のYC変換部163に供給される。
YC変換部163では、変換行列によりYCC信号が生成され、YCC信号がさらに画像圧縮部164に供給され圧縮部164でYCC信号が圧縮され圧縮されたYCC信号と圧縮情報とからなる画像ファイルが記録再生部180によって記録媒体181に記録される。
以上の構成にすると、1回の撮影操作を受けて高感度画像と低感度の重ね合わせ画像が生成され、システム制御部110と相関演算部143とによって被写体が動きのある被写体であると判定されたときには高感度画像が記録媒体181に記録され、被写体が静止した被写体であると判定されたときには重ね合わせ画像が記録媒体181に記録される。
ここでシステム制御部110と信号処理部が実行する上記撮影処理の手順を図4(a)のフローを参照して分かり易く説明する。
図14は、図12のシステム制御部110と信号処理部160が実行する撮影処理の処理手順を示すフローチャートである。操作子群101の中のモードレバー101eが撮影モード側に切り替えられレリーズボタン102が半押しされたときにシステム制御部110は図14のフローの処理を実行する。
なお図14のフローの処理は、図3(a)と図3(b)のフローを併合した処理といっても良いので、関連する処理については同じ番号が付されている。
システム制御部110は、ステップS301でAE処理を実行して絞り値とシャッタ速度を算出する。次のステップS302でAF処理を実行してフォーカスレンズを合焦位置に配置する。ここで全押しされたらシステム制御部110は、ステップS3021でステップS401で算出したシャッタ速度を参照して、シャッタ速度が1/60未満であるか、1/60以上であるかを判定する。
ここで、1/60未満であるときには、ステップS3031へ進んでステップS3031で規定のシャッタ速度で一枚の画像の露光を行なって次のステップS304で撮像部120にタイミング発生部111からタイミング信号を供給させることにより画像を読み出して前処理部130へと出力させる。ステップS305で前処理部130内のA/D132にデジタル信号への変換を行なわせて、次のステップS306で信号処理部160が前処理部130内のフレームメモリ(不図示)内の高感度画像を読み出して色分離・YC変換処理等を行なう。ここで信号処理部160内のフラグの書き換わりをシステム制御部110が検知したら、システム制御部110は、記録再生部180と連携して画像ファイルを記録媒体に記録してこのフローの処理を終了する。
ステップS3021でシャッタ速度が1/60以上であると判定したら、ステップS3022へ進んでステップS3022で1/60秒のシャッタ速度で何枚の画像を加算して重ね合わせれば適性露出になるかを定めてタイミング発生部111に撮影枚数を設定して撮像部120に高速連写を開始させる。次のステップS3023で手ぶれ補正部140の相関演算部143の演算結果に基づいて連写画像から静止した被写体であるか、動きのある被写体であるかを判定する。このステップS3023で静止した被写体であると判定したら、信号処理部160にその旨を通知する。ステップS3024で信号処理部160は、手ぶれ補正部140内のフレームメモリ部142に記憶されている重ね合わせ画像を読み出す。ステップS3023で動きのある被写体であると判定したら、その旨を信号処理部160に通知する。信号処理部160は、ステップS3025で前処理130内の不図示のフレームメモリ内にある高感度画像を読み出す。以降ステップS306からステップS308までの処理を行なって、被写体が動体であるときには高感度画像を記録し、静止体であるときには重ね合わせ画像を記録してこのフローの処理を終了する。
このように高フレームレートの撮像素子を用いることによって撮影時に高速連写を行なって被写体が動きのある被写体であるか静止した被写体であるかを半別する構成にしても良い。
ところで、撮影感度を上げるために増幅回路のゲインを上げるとノイズが多い画像になるので、被写体の移動量が少ない場合には重ね合わせを行なった方が良い場合がある。
図15は、第8実施形態を説明する図であって被写体の移動量を検出して被写体の移動量が所定値以下の場合には静止体であるとして手ぶれが補正された重ね合わせ画像を得、所定値を超える場合には動体であるとして被写体ぶれが抑制された高感度画像を得る構成にした場合の例を示す図である。
ステップS30235が追加されている以外は、図14と同じである。
本発明にいう被写体判定手段の一例を構成するシステム制御部110が、動きベクトル算出手段の一例を構成する相関演算部143により算出された動きベクトルに基づいてステップS30235で、複数枚の画像の撮影の間に被写体が所定の移動量以下だけ動いていた場合、および移動量を超えて動いていた場合に、それぞれ、静止した被写体、および動きのある被写体と判定する構成に変更している。
このような構成にしても良い。
また、顔検出手段を設けてその顔検出手段で顔が検出検出された場合には動体であるとし、顔が検出されない場合には静止体であるとして、顔が検出された場合には動体であるとして複数枚の画像の撮影の間に被写体が所定の移動量以下だけ動くか、所定の移動量を超えて動くかを判定する構成にしても良い。
図16、図17は、第9実施形態を説明する図である。
図16の構成は、顔検出部FCが追加されている以外は、図12の構成と同じである。また図17のフローの処理はステップS300の処理が追加され、ステップS3023の処理が変更されている以外は、図15のフローの処理と同じである。
システム制御部110は、ステップS300で撮影直前のスルー画中に顔があるかどうかを顔検出部FCに検出させ、顔を検出したという報告を受けたときにステップS30235で動きベクトルに基づいて移動量を検出する構成に変更している。この様な構成にしても良い。
図18、図19は、第10実施形態を説明する図である。
図18の構成は、ジャイロセンサSNが追加されている以外は、図12の構成と同じである。図19のフローは、図15のステップS3024の処理がステップS3024Aの処理に変更され、動きベクトルの代わりにジャイロセンサSNで検出された角速度に基づいて重ね合わせが行なわれている以外は、図15の処理と同じである。このような構成にしても良い。
図20、図21は、第11実施形態を説明する図である。
図20のフローは、ステップS309が追加されている以外は、図12のフローと同じである。図21には、画像ファイルの一形態であるExifファイル内のメモリアロケーションが示されている。
Exifファイルは、内部に図19に示すメモリ領域をそれぞれ有する。上からスタートコード領域、タグ領域、サムネイル画像領域、主画像領域があり、そのタグ領域には、主画像に関する情報例えば撮影日時等が記録される。そこでこのタグ領域に高感度画像、重ね合わせ画像のうちのどちらの画像が記録されているかを記録するようにしておくと、再生時にそのタグ領域からその情報を読み出して表示画面上に表示することができる。撮影者は、表示画面150上の情報を見て重ね合わせ画像であるか、高感度画像であるかを区別することができる。
本発明の撮影装置の一実施形態であるデジタルカメラを示す図である。 図1のデジタルカメラ100内部の電気系統の構成ブロック図である。 システム制御部110が実行する撮影処理の手順を示すフローチャートである。 第2実施形態を説明する図である。 第3実施形態を示す図である。 第3実施形態を示す図である。 第4実施形態を示す図である。 第5実施形態を説明する図である。 第5実施形態を説明する図である。 第6実施形態を説明する図である。 第6実施形態を説明する図である。 第7実施形態を説明する図である。 第7実施形態を説明する図である。 第7実施形態を説明する図である。 第8実施形態を説明する図である。 第9実施形態を説明する図である。 第9実施形態を説明する図である。 第10実施形態を説明する図である。 第10実施形態を説明する図である。 第11実施形態を説明する図である。 第11実施形態を説明する図である。
符号の説明
100 デジタルカメラ
101 操作子群
101f レリーズ釦
102 ジャイロセンサ
105 ファインダ
110 システム制御部
111 タイミング発生部
120 撮像部
130 前処理部
140 手ぶれ補正部
160 信号処理部
180 記録再生部
181 記録媒体

Claims (7)

  1. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    撮影前に画像を繰り返し生成するスルー画生成手段と、
    前記スルー画生成手段により繰り返し生成された複数枚の画像間の、該画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
    前記動きベクトル算出手段により算出された動きベクトルに基づいて静止した被写体であるか動きのある被写体であるかを判定する被写体判定手段と、
    前記被写体判定手段で判定された被写体が動きのある被写体であったときに撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、前記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
    前記被写体判定手段で判定された被写体が静止した被写体であったときに前記第2の撮影モードの実行により得られた複数枚の撮影画像を、前記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合わせることにより重ね合わせ画像を生成する画像重ね合わせ手段とを備えたことを特徴とする撮影装置。
  2. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    撮影前に画像を繰り返し生成するスルー画生成手段と、
    前記スルー画生成手段により繰り返し生成された複数枚の画像間の、該画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
    複数の撮影モードの中からいずれかの撮影モードを指定する指定手段と、
    前記指定手段で指定された撮影モードに応じて、今回撮影対象の被写体が静止した被写体であるか動きのある被写体で在るかを判定する被写体判定手段と、
    前記被写体判定手段で判定された被写体が動きのある被写体であったときに撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、前記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
    前記被写体判定手段で判定された被写体が静止した被写体であったときに前記第2の撮影モードの実行により得られた複数枚の撮影画像を、前記動きベクトル算出手段で算出された動きベクトルに基づいて撮影画像間のぶれが補正されるように撮影画像どうしの位置を修正して重ね合わせることにより重ね合わせ画像を生成する画像重ね合せ手段とを備えたことを特徴とする撮影装置。
  3. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    当該撮影装置のぶれを検出するぶれ検出手段と、
    撮影前に画像を繰り返し生成するスルー画生成手段と、
    前記スルー画生成手段により繰り返し生成された複数枚の画像間の、該画像を複数に分割したときの各領域ごとの動きベクトルを求める動きベクトル算出手段と、
    前記動きベクトル算出手段で算出された動きベクトル算出手段により繰り返し生成された複数枚の画像間の動きベクトルに基づいて静止した被写体であるか動きのある被写体であるかを判定する被写体判定手段と、
    前記被写体判定手段で判定された被写体が動きのある被写体であったときに、撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、前記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
    前記被写体判定手段で判定された被写体が静止した被写体であったときに前記第2の撮影モードの実行により得られた複数枚の撮影画像を、前記ぶれ検出手段によるぶれ検出結果に基づいて、撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする撮影装置。
  4. 撮像素子上に被写体を結像させて該被写体を表わす画像を生成する撮影装置において、
    当該撮影装置のぶれを検出するぶれ検出手段と、
    複数の撮影モードの中からいずれかの撮影モードを指定する指定手段と、
    前記指定手段で指定された撮影モードに応じて、今回撮影対象の被写体が静止した被写体であるか動きのある被写体で在るかを判定する被写体判定手段と、
    前記被写体判定手段で判定された被写体が動きのある被写体であったときに撮影感度を上げて単独の一枚の撮影画像を生成する第1の撮影モードによる撮影を実行し、前記被写体判定手段で判定された被写体が静止した被写体であったときに連続する複数枚の撮影画像を生成する第2の撮影モードによる撮影を実行する撮影手段と、
    前記被写体判定手段で判定された被写体が静止した被写体であったときに前記第2の撮影モードの実行により得られた複数枚の撮影画像を、前記手ぶれ検出手段によるぶれ検出結果に基づいて撮影画像間の相対的なぶれが補正されるように撮影画像どうしの位置を修正して重ね合せることにより重ね合せ画像を生成する画像重ね合せ手段とを備えたことを特徴とする撮影装置。
  5. 被写体の輝度を検出する被写体輝度検出手段と、
    前記被写体輝度検出手段で検出された被写体輝度に基いて適正露出の撮影を行なうための適正シャッタ秒時を算出する適正シャッタ秒時算出手段とを備え、
    前記撮影手段が、前記シャッタ秒時算出手段で算出された適正シャッタ秒時が所定のシャッタ秒時よりも短いシャッタ秒時であったときは前記被写体判定手段による判定結果を待つことなく、該適正シャッタ秒時による単独の1枚の撮影画像を生成する第3の撮影モードによる撮影を実行し、前記シャッタ秒時算出手段で算出された適正シャッタ秒時が所定のシャッタ秒時よりも長いシャッタ秒時であったときにシャッタ秒時を該所定のシャッタ秒時にまで速めた上で前記第1の撮影モード又は前記第2の撮影モードによる撮影を実行するものであることを特徴とする請求項1から4記載のうちのいずれか1項記載の撮影装置。
  6. 前記被写体判定手段による判定結果を、ユーザに通知する通知手段を備えたことを特徴とする請求項1から5記載のうちのいずれか1項記載の撮影装置。
  7. 前記第1の撮影モードの実行により得られた撮影画像および前記第2の撮影モードにより得られた重ね合わせ画像に対応させて、前記第1の撮影モードにより得られた画像であるか前記第2の撮影モードにより得られた画像であるかを表わす情報を記録する記録手段を備えたことを特徴とする請求項1から5記載のうちのいずれか1項記載の撮影装置。
JP2007194977A 2007-03-30 2007-07-26 撮影装置 Expired - Fee Related JP4860568B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007194977A JP4860568B2 (ja) 2007-03-30 2007-07-26 撮影装置
US12/045,921 US8035692B2 (en) 2007-03-30 2008-03-11 Image taking apparatus which forms an image of a subject on an imaging device to create image data representative of the subject
CN2008100907511A CN101277393B (zh) 2007-03-30 2008-03-31 图像摄取设备

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007094294 2007-03-30
JP2007094294 2007-03-30
JP2007194977A JP4860568B2 (ja) 2007-03-30 2007-07-26 撮影装置

Publications (2)

Publication Number Publication Date
JP2008278444A JP2008278444A (ja) 2008-11-13
JP4860568B2 true JP4860568B2 (ja) 2012-01-25

Family

ID=39996356

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007194977A Expired - Fee Related JP4860568B2 (ja) 2007-03-30 2007-07-26 撮影装置

Country Status (2)

Country Link
JP (1) JP4860568B2 (ja)
CN (1) CN101277393B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010171769A (ja) * 2009-01-23 2010-08-05 Nikon Corp 電子カメラ
JP4748230B2 (ja) * 2009-02-17 2011-08-17 カシオ計算機株式会社 撮像装置、撮像方法及び撮像プログラム
FR2942890A1 (fr) * 2009-03-05 2010-09-10 Thomson Licensing Procede de creation d'une suite animee de photographies, et appareil pour mettre en oeuvre le procede
US8558913B2 (en) * 2010-02-08 2013-10-15 Apple Inc. Capture condition selection from brightness and motion
JP5445235B2 (ja) * 2010-03-09 2014-03-19 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
CN102170522B (zh) * 2011-02-17 2012-12-19 东方网力科技股份有限公司 一种摄像机非正常抖动的确定方法及装置
JP5780418B2 (ja) * 2011-05-30 2015-09-16 ソニー株式会社 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体
JP6246015B2 (ja) * 2014-02-19 2017-12-13 キヤノン株式会社 画像処理装置およびその制御方法
CN103945128B (zh) * 2014-04-29 2017-07-28 长城汽车股份有限公司 智能行车记录***
WO2017185265A1 (zh) * 2016-04-27 2017-11-02 华为技术有限公司 一种图像拍摄参数的确定方法及摄像装置
CN109361853B (zh) * 2018-10-22 2021-03-23 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3162206B2 (ja) * 1992-09-11 2001-04-25 京セラ株式会社 システムクロック可変形ディジタル電子スチルカメラ
JP3943470B2 (ja) * 2002-09-25 2007-07-11 富士フイルム株式会社 デジタルカメラ
JP2004221992A (ja) * 2003-01-15 2004-08-05 Canon Inc 撮影装置およびプログラム
JP4379918B2 (ja) * 2004-11-29 2009-12-09 富士フイルム株式会社 撮影装置及び撮影方法
JP2006262220A (ja) * 2005-03-18 2006-09-28 Seiko Epson Corp 撮像装置
WO2007032082A1 (ja) * 2005-09-16 2007-03-22 Fujitsu Limited 画像処理方法及び画像処理装置

Also Published As

Publication number Publication date
CN101277393B (zh) 2012-07-25
CN101277393A (zh) 2008-10-01
JP2008278444A (ja) 2008-11-13

Similar Documents

Publication Publication Date Title
JP4860568B2 (ja) 撮影装置
US7668451B2 (en) System for and method of taking image
JP4626684B2 (ja) 複眼撮像装置及び像ブレ補正方法
JP2009219020A (ja) 撮影装置、撮像装置の制御方法及び撮像装置の制御プログラム
JP2008236645A (ja) 撮影装置
JP2008182485A (ja) 撮影装置及び撮影方法
WO2011065000A1 (ja) 電子カメラ
JP4799501B2 (ja) 撮影装置、撮影装置の制御方法およびプログラム
JP4977569B2 (ja) 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置
JP5105139B2 (ja) 撮像装置および表示方法、並びにプログラム
US7929047B2 (en) Image taking apparatus
JP4860567B2 (ja) 撮影装置
US8035692B2 (en) Image taking apparatus which forms an image of a subject on an imaging device to create image data representative of the subject
JP4680022B2 (ja) 撮影装置
JP4522232B2 (ja) 撮像装置
JP2010050599A (ja) 電子カメラ
JP2005151349A (ja) デジタルカメラ
JP2007013586A (ja) 撮像装置
JP2007110221A (ja) 撮像装置
JP5160155B2 (ja) 撮影装置
JP5643464B2 (ja) 画像表示装置
JP2009171324A (ja) 撮影装置
JP5184325B2 (ja) 撮影装置および撮影装置の制御方法並びにプログラム
JP2009171327A (ja) 撮影装置
JP2006033752A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111011

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111102

R150 Certificate of patent or registration of utility model

Ref document number: 4860568

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees