以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の撮像装置は、
被写体を撮像し、前記被写体の画像データを記録する撮像装置(例えば、図3のデジタルカメラ1)において、
前記被写体を撮像し、前記画像データを出力する撮像手段(例えば、図3の撮像素子11)と、
前記撮像手段から出力される前記画像データに対して、動画像のための画像処理を行う動画像用画像処理手段(例えば、図3のDSP14)と、
前記動画像用画像処理手段により前記動画像のための画像処理が行われた前記画像データに基づいて、画像を表示する表示手段(例えば、図3の表示部16)と、
前記撮像手段から出力された時間的に連続する複数の前記画像データのそれぞれを記憶する複数の記憶手段(例えば、図3のバッファメモリ21−1乃至21−3)と、
前記画像の記録の指令を受け付ける受付手段(例えば、図3の操作入力部25)と、
前記受付手段により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている前記画像に対応する前記画像データを記憶する記憶手段を、複数の前記記憶手段の中から選択する選択手段(例えば、図3の制御部26)と、
前記選択手段により選択された前記記憶手段に記憶されている前記画像データに対して、前記静止画像のための画像処理を行う静止画像用画像処理手段(例えば、図3のDSP23)と、
前記静止画像用画像処理手段により前記静止画像のための画像処理が行われた前記画像データをエンコードする静止画像用エンコード手段(例えば、図3のDSP24)と、
前記静止画像用エンコード手段によりエンコードされた前記画像データを記録させる記録制御手段(例えば、図3の記録制御部18)と
を備え、
前記表示手段は、水平ラインごとに、自分自身に表示する前記画像を更新し、
前記選択手段は、前記受付手段により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている更新後の画像の水平ラインの数が、所定の数以下である場合、更新前の画像に対応する画像データを記憶する前記記憶手段を選択し、前記表示手段に表示されている更新後の画像の水平ラインの数が、前記所定の数より多い場合、その更新後の画像に対応する画像データを記憶する前記記憶手段を選択する(例えば、図10のステップS95またはステップS96の処理)
ことを特徴とする。
請求項2に記載の撮像装置は、
前記動画像用画像処理手段は、前記動画像のための画像処理として、前記画像データの画素数を変換する変換処理(例えば、フィルタ処理)を行う
ことを特徴とする。
請求項3に記載の撮像装置は、
前記動画像用画像処理手段により前記動画像のための画像処理が行われた前記画像データをエンコードする動画像用エンコード手段(例えば、図3のDSP17)
をさらに備え、
前記記録制御手段は、前記動画像用エンコード手段によりエンコードされた前記画像データをさらに記録させる(例えば、図6のステップS58の処理)
ことを特徴とする。
請求項4に記載の撮像装置は、
前記記録制御手段は、前記動画像用エンコード手段によりエンコードされた前記画像データと、前記静止画像用エンコード手段によりエンコードされた前記画像データとを、1つの記録媒体に記録させる(例えば、図6のステップS58の処理)
ことを特徴とする。
請求項5に記載の撮像装置は、
複数の前記記憶手段の記憶容量は、前記撮像手段による前記画像データの出力が開始されてから、その画像データに基づく画像の表示が終了するまでの時間(例えば、図5の時間t0乃至t5)に基づいて決められた記憶容量である
ことを特徴とする。
請求項6に記載の撮像装置は、
前記受付手段は、前記撮像装置のモードを、前記画像を記録する記録モードにするための指令をさらに受け付け(例えば、図16のステップS171の処理)、
前記撮像手段は、前記受付手段により前記記録モードにするための指令が受け付けられた場合、前記画像データの画素数を変化させる(例えば、図16のステップS173の処理)
ことを特徴とする。
請求項8に記載の撮像装置は、
前記撮像手段は、
前記被写体を画素単位で撮像する画素撮像手段(例えば、図19の光電変換部61)と、
前記画素撮像手段により撮像された結果得られる画像信号を、画素単位でA/D(Analog/Digital)変換する変換手段(例えば、図19のA/D変換部62)と、
前記変換手段により変換された結果得られる前記画像データを画素単位で記憶し、前記画像データを出力する画素記憶手段(例えば、図19のメモリ63)と
を画素ごとに備える
ことを特徴とする。
請求項12に記載の撮像方法は、
被写体を撮像し、前記被写体の画像データを記録する撮像装置(例えば、図3のデジタ
ルカメラ1)の撮像方法において、
前記被写体を撮像し、前記画像データを出力する撮像ステップ(例えば、図6のステップS51)と、
前記撮像ステップの処理により出力される前記画像データに対して、動画像のための画像処理を行う動画像用画像処理ステップ(例えば、図6のステップS55)と、
前記動画像用画像処理ステップの処理により前記動画像のための画像処理が行われた前記画像データに基づいて、表示手段(例えば、図3の表示部16)に画像を表示させる表示制御ステップ(例えば、図6のステップS56)と、
前記撮像ステップの処理により出力された時間的に連続する複数の前記画像データのそれぞれを複数の記憶手段(例えば、図3のバッファメモリ21)に記憶させる記憶制御ステップ(例えば、図7のステップS71)と、
前記画像の記録の指令を受け付ける受付ステップ(例えば、図7のステップS72)と、
前記受付ステップの処理により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている前記画像に対応する前記画像データを記憶する記憶手段を、複数の前記記憶手段の中から選択する選択ステップ(例えば、図7のステップS74)と、
前記選択ステップの処理により選択された前記記憶手段に記憶されている前記画像データに対して、前記静止画像のための画像処理を行う静止画像用画像処理ステップ(例えば、図7のステップS75)と、
前記静止画像用画像処理ステップの処理により前記静止画像のための画像処理が行われた前記画像データをエンコードする静止画像用エンコードステップ(例えば、図7のステップS78)と、
前記静止画像用エンコードステップの処理によりエンコードされた前記画像データを記録させる記録制御ステップ(例えば、図7のステップS79)と
を含み、
前記表示制御ステップの処理は、水平ラインごとに、前記表示手段に表示する前記画像を更新し、
前記選択制御ステップの処理は、前記受付ステップの処理により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている更新後の画像の水平ラインの数が、所定の数以下である場合、更新前の画像に対応する画像データを記憶する前記記憶手段を選択し、前記表示手段に表示されている更新後の画像の水平ラインの数が、前記所定の数より多い場合、その更新後の画像に対応する画像データを記憶する前記記憶手段を選択する
ことを特徴とする。
請求項13に記載のプログラムおよび請求項14に記載の記録媒体に記録されているプログラムは、
被写体を撮像し、前記被写体の画像データを記録する記録処理を、コンピュータに行わせるプログラムにおいて、
前記被写体を撮像し、前記画像データを出力する撮像ステップ(例えば、図6のステップS51)と、
前記撮像ステップの処理により出力される前記画像データに対して、動画像のための画像処理を行う動画像用画像処理ステップ(例えば、図6のステップS55)と、
前記動画像用画像処理ステップの処理により前記動画像のための画像処理が行われた前記画像データに基づいて、表示手段(例えば、図3の表示部16)に画像を表示させる表示制御ステップ(例えば、図6のステップS56)と、
前記撮像ステップの処理により出力された時間的に連続する複数の前記画像データのそれぞれを複数の記憶手段に記憶させる記憶制御ステップ(例えば、図7のステップS71)と、
前記画像の記録の指令を受け付ける受付ステップ(例えば、図7のステップS72)と、
前記受付ステップの処理により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている前記画像に対応する前記画像データを記憶する記憶手段(例えば、図3のバッファメモリ21)を、複数の前記記憶手段の中から選択する選択ステップ(例えば、図7のステップS74)と、
前記選択ステップの処理により選択された前記記憶手段に記憶されている前記画像データに対して、前記静止画像のための画像処理を行う静止画像用画像処理ステップ(例えば、図7のステップS75)と、
前記静止画像用画像処理ステップの処理により前記静止画像のための画像処理が行われた前記画像データをエンコードする静止画像用エンコードステップ(例えば、図7のステップS78)と、
前記静止画像用エンコードステップの処理によりエンコードされた前記画像データを記録させる記録制御ステップ(例えば、図7のステップS79)と
を含み、
前記表示制御ステップの処理は、水平ラインごとに、前記表示手段に表示する前記画像を更新し、
前記選択制御ステップの処理は、前記受付ステップの処理により前記画像の記録の指令が受け付けられたときに、前記表示手段に表示されている更新後の画像の水平ラインの数が、所定の数以下である場合、更新前の画像に対応する画像データを記憶する前記記憶手段を選択し、前記表示手段に表示されている更新後の画像の水平ラインの数が、前記所定の数より多い場合、その更新後の画像に対応する画像データを記憶する前記記憶手段を選択する
ことを特徴とする。
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。
図3は、本発明を適用したデジタルカメラの機能的構成例を示すブロック図である。
図3のデジタルカメラ1は、被写体を撮像し、その結果得られる画像を、動画像または静止画像として表示する。また、デジタルカメラ1は、撮像した結果得られる画像を、動画像または静止画像として記録する。
図3のデジタルカメラ1は、撮像素子11、A/D変換部12、フレームメモリ13、DSP(Digital Signal Processor)14,17,23、および24、セレクタ15,20、および22、表示部16、記録制御部18、記録部19、バッファメモリ21−1乃至21−3、操作入力部25、並びに制御部26から構成される。
なお、バッファメモリ21−1乃至バッファメモリ21−3を区別する必要がない場合、それらをまとめてバッファメモリ21という。
撮像素子11は、例えば、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)センサなどから構成される。なお、以下では、撮像素子11は、静止画像に適した画素(例えば、300万画素)のCMOSセンサとする。撮像素子11は、図示せぬ光学系(レンズ)や絞りを介して、被写体を撮像し、静止画像に適した画素のアナログ信号である画像信号を、A/D変換部12に供給する。即ち、撮像素子11は、被写体からの反射光を受光し、その受光した反射光を光電変換することにより発生した電子の数に比例する静止画像に適した画素の画像信号を、A/D変換部12に供給する。ここで、図1には図示しないが、デジタルカメラ1には、AF(Auto Focus)回路、AE(Auto Exposure)回路などが設けられている。AF回路は、光学系を制御してフォーカス制御を行い、AE回路は、絞りを制御して露出制御を行う。
A/D変換部12は、撮像素子11からの静止画像に適した画素の画像信号に対して、A/D変換を行い、画像信号を、例えば10ビット以上のビット数のデジタルデータに変換する。A/D変換部12は、その変換後の静止画像に適した画素のデジタルデータを画像データとして、フレームメモリ13とセレクタ20に供給する。なお、A/D変換部12は、撮像素子11にオンチップで形成されるようにしてもよい。
フレームメモリ13は、A/D変換部12からの静止画像に適した画素の1フレーム分の画像データを記憶し、記憶している画像データを、DSP14に供給する。
DSP14は、フレームメモリ13からの静止画像に適した画素の画像データに対して、動画像のための画像処理を行う。具体的には、DSP14は、静止画像に適した画素の画像データの画素数を、動画像に適した画素数に変換するための演算を行うフィルタ処理、色や感度の補間処理、ホワイトバランスを調整する処理、および画像データをRGBデータなどに変換するRGBデータ変換処理などを行う。ここで、DSP14は、フィルタ処理により、例えば、フレームメモリ13からの静止画像に適した300万画素の画像データを、動画像に適した約30万画素(VGA(Video Graphics Array)サイズ(640×480dot))の画像データに変換する。DSP14は、動画像のための画像処理後の動画像に適した画素数の画像データ(以下、動画像データという)を、セレクタ15とDSP17に供給する。
セレクタ15は、制御部26から供給される動画像または静止画像の表示を指示する制御信号(以下、表示制御信号という)に基づいて、DSP14からの動画像に適した画素の動画像データまたはDSP23からの静止画像のための画像処理後の静止画像に適した画素の画像データ(以下、静止画像データという)を選択し、表示部16に供給する。表示部16は、例えば、液晶、有機EL(Electro Luminescent)などのディスプレイから構成される。表示部16は、セレクタ15からの動画像データまたは静止画像データに基づいて、動画像または静止画像を表示する。
DSP17は、DSP14からの動画像に適した画素の動画像データを、動画像データの記録に適するMPEG2(Moving Picture Experts Group phase 2)、MPEG4(Moving Picture Experts Group phase 4)、またはH.264(H.264/MPEG4 AVCや、MPEG4 Part10ともいわれる)などに準拠した所定のフォーマットにエンコードし、記録制御部18に供給する。
記録制御部18は、DSP17からの動画像に適した画素の動画像データとDSP24からの静止画像に適した画素の静止画像データとを、時分割多重化し、動画像と静止画像の多重化データとして、記録部19に供給し、記録させる。例えば、記録制御部18は、動画像データと静止画像データのそれぞれを、所定単位毎に順次所定のヘッダ情報を付加してパケット化し、パケット化後の動画像データおよび静止画像データを、時分割多重化して、多重化データとして、記録部19に記録させる。動画像データと静止画像データとを時分割多重化して記録部19に記録させる方法の詳細は、特開2000-188736号公報に開示されている。
記録部19は、磁気テープ、DVD(Digital Versatile Disk)、EEPROM(Electronically Erasable and Programmable Read Only Memory)などから構成され、記録制御部18からの多重化データを記録する。
なお、デジタルカメラ1では、2つの記録部19を設け、一方が動画像データを記録し、他方が静止画像データを記録するようにすることもできる。この場合、記録制御部18は、動画像データと静止画像データを時分割多重化する必要がない。
セレクタ20には、A/D変換部12からの静止画像に適した画素の画像データを記憶するバッファメモリ21を表す制御信号(以下、記憶選択信号という)が供給される。セレクタ20は、その記憶選択信号に基づいて、バッファメモリ21を選択し、選択したバッファメモリ21にA/D変換部12からの1フレームの静止画像に適した画素の画像データを供給する。例えば、セレクタ20は、記憶選択信号に基づいて、時間的に連続するA/D変換部12からの画像データを、1フレームごとに、バッファメモリ21−1から順に供給する。即ち、バッファメモリ21−1乃至21−3には、時間的に連続する3フレームの画像データのそれぞれが供給される。
バッファメモリ21は、セレクタ20からの1フレームの静止画像に適した画素の画像データを記憶する。なお、バッファメモリ21は、セレクタ20から画像データが供給されるたびに、記憶している画像データを消去し、セレクタ20からの画像データを記憶する。即ち、バッファメモリ21に記憶されている画像データは、セレクタ20から画像データが供給されるたびに更新される。また、バッファメモリ21は、記憶している画像データを、セレクタ22に供給する。
セレクタ22には、セレクタ22から出力させるバッファメモリ21からの画像データが記憶されているバッファメモリ21を表す制御信号(以下、出力選択信号という)が、制御部26から供給される。セレクタ22は、出力選択信号に基づいて、バッファメモリ21を選択し、選択したバッファメモリ21からの静止画像に適した画素の画像データを、DSP23に供給(出力)する。
DSP23は、セレクタ22からの静止画像に適した画素の画像データに対して、静止画像のための画像処理を行う。具体的には、DSP23は、色や感度の補間処理、ホワイトバランスを調整する処理、および画像データをRGBデータなどに変換するRGBデータ変換処理などを行う。DSP23は、静止画像のための画像処理後の静止画像に適した画素の画像データ(以下、静止画像データという)を、セレクタ15とDSP24に供給する。なお、DSP23が行う画像処理の種類は、ユーザにより任意に設定することができる。例えば、ユーザが画像処理の種類を何も設定しない場合、DSP23は、静止画像に適した画素の画像データに対して何も処理を行わず、静止画像に適した画素の画像データを、そのままセレクタ15とDSP24に供給する。
DSP24は、DSP23からの静止画像データを、静止画像データの記録に適するJPEG(Joint Photographic Experts Group)、またはJPEG2000などに準拠した所定のフォーマットにエンコードし、記録制御部18に供給する。なお、フォーマットは、ユーザにより任意に設定することができる。例えば、ユーザがフォーマットを何も設定しない場合、即ち、ユーザがエンコードを行わない静止画像データを記録させる場合、DSP24は、静止画像データをエンコードせず、記録制御部18に供給する。
操作入力部25は、ユーザからの図示せぬ各種のボタンの操作を受け付け、その操作に対応する入力信号を制御部26に供給する。例えば、ユーザは、静止画像の記録の指令をするために、図示せぬシャッタボタンを操作する。操作入力部25は、その操作(指令)を受け付け、操作に対応する静止画像の記録を指令するための入力信号を制御部26に供給する。また、ユーザは、静止画像または動画像の表示の指令をするために、図示せぬ表示ボタンを操作する。操作入力部25は、その操作を受け付け、操作に対応する静止画像または動画像の表示を指令するための入力信号を制御部26に供給する。
制御部26は、各部を制御する。例えば、制御部26は、記憶選択信号をセレクタ20に供給する。即ち、制御部26は、記憶選択信号が表すバッファメモリ21に、A/D変換部12からの画像データを供給するように、セレクタ20を制御する。例えば、まず最初に、制御部26は、バッファメモリ21−1を表す記憶選択信号をセレクタ20に供給し、次に、バッファメモリ21−2を表す記憶選択信号をセレクタ20に供給する。そして、制御部26は、バッファメモリ21−3を表す記憶選択信号を供給し、次に、バッファメモリ21−1を表す記憶選択信号をセレクタ20に供給して、以降同様の処理を繰り返す。
このとき、セレクタ20は、A/D変換部12からの画像データを、バッファメモリ21−1、バッファメモリ21−2、バッファメモリ21−3、バッファメモリ21−1、・・・の順に供給する。
また、制御部26は、操作入力部25からの静止画像の記録を指令するための入力信号に応じて、バッファメモリ21−1乃至21−3の中から、操作入力部25により静止画像の記録の指令が受け付けられたときに、表示部16に表示されている動画像に対応する画像データを記憶するバッファメモリ21を選択し、その選択したバッファメモリ21を表す出力選択信号をセレクタ22に供給する。即ち、制御部26は、出力選択信号が表すバッファメモリ21に記憶されている画像データを出力するように、セレクタ22を制御する。
さらに、制御部26は、操作入力部25からの静止画像または動画像の表示を指令するための入力信号に応じて、動画像または静止画像の表示を指示する表示制御信号を、セレクタ15に供給する。即ち、制御部26は、動画像または静止画像を表示させるように、セレクタ15を制御する。
図4は、ユーザが表示ボタンを操作して、表示部16への動画像の表示を指令したときの図3のデジタルカメラ1の動作のタイミングを説明する図である。なお、図4では、まだユーザが静止画像の記録の指令を行っていない。
図4では、横軸が時間を表している。このとことは、後述する図5、図8、および図13においても同様である。また、上から第1行目が撮像素子11の処理、第2行目がA/D変換部12の処理、第3行目がフレームメモリ13とバッファメモリ21の処理、第4行目がDSP14の処理、第5行目が表示部16の処理をそれぞれ表している。なお、以下では、i(iは正の数)番目のフレームをフレーム#iという。
図4に示すように、撮像素子11は、時間t0の間、被写体を撮像し、静止画像に適した画素のフレーム#1の画像信号を、A/D変換部12に出力する(A1)。A/D変換部12は、撮像素子11が被写体の撮像を開始してから時間t1後に、撮像素子11から出力される画像信号に対して、A/D変換を行うA/D変換処理を開始し、A/D変換後の静止画像に適した画素のフレーム#1の画像データを、フレームメモリ13とセレクタ20に供給する(B1)。
ここで、制御部26は、バッファメモリ21−1を表す記憶選択信号をセレクタ22に供給する。セレクタ20は、制御部26からの記憶選択信号に基づいて、バッファメモリ21−1を選択し、バッファメモリ21−1に、A/D変換部12からの静止画像に適した画素のフレーム#1の画像データを供給する。A/D変換部12がA/D変換処理を開始してから時間t2後に、フレームメモリ13は、A/D変換部12からの静止画像に適した画素のフレーム#1の画像データの記憶を開始し、記憶している画像データをDSP14に供給する。このとき、バッファメモリ21−1は、セレクタ20からのフレーム#1の静止画像に適した画素の画像データの記憶を開始し、記憶している画像データをセレクタ22に供給する(C1)。
なお、バッファメモリ21−2と21−3も、記憶している画像データをセレクタ22に供給する。ここで、図4では、まだユーザが静止画像の記録の指令を行っていないので、制御部26は、出力選択信号をセレクタ22に供給しない。従って、セレクタ22は、すべてのバッファメモリ21から供給される画像データをセレクタ22に供給しない。
フレームメモリ13およびバッファメモリ21−1が、フレーム#1の画像データの記録を開始してから時間t3後に、DSP14は、フレームメモリ13から供給される静止画像に適した画素のフレーム#1の画像データに対する動画像のための画像処理を開始し、動画像に適した画素のフレーム#1の動画像データを、セレクタ15に供給する(D1)。図4では、表示部16が動画像を表示するので、制御部26は、セレクタ15に、動画像の表示を指示する表示制御信号を供給する。セレクタ15は、その表示制御信号に基づいて、DSP14からの動画像に適した画素のフレーム#1の動画像データを、表示部16に供給する。
DSP14がフレーム#1の画像データに対する動画像のための画像処理を開始してから時間t4後に、表示部16は、セレクタ15からの動画像に適した画素のフレーム#1の動画像データに基づいて、動画像の表示を開始し、フレーム#1の動画像の表示を行う(E1)。表示部16は、フレーム#1の動画像の表示を開始してから時間t5後に、フレーム#1の動画像の表示を終了する。
以上のようにして、フレーム#1の動画像が表示部16に表示される。撮像素子11は、フレーム#1の画像信号をA/D変換部12に供給した後、時間t0の間、被写体を撮像し、静止画像に適した画素のフレーム#2の画像信号をA/D変換部12に出力する(A2)。そして、フレーム#2に対して、フレーム#1と同様の処理(B2,C2,D2,E2)が行われ、表示部16に表示される(E2)。但し、フレーム#2の画像データは、バッファメモリ21−1ではなく、バッファメモリ21−2に記憶される。フレーム#3以降の画像データにおいても同様の処理が行われる。但し、フレーム#3の画像データは、バッファメモリ21−3に(C3)、フレーム#4の画像データは、バッファメモリ21−1に記憶され(C4)、以下同様の順番で、バッファメモリ21に画像データが記憶される。
なお、例えば、フレーム#iの動画像データを記録部19に記録させる場合、DSP14は、動画像に適した画素のフレーム#iの動画像データをDSP17にも供給する。そして、表示部16がフレーム#iの画像データを表示している間に、DSP17は、動画像に適した画素のフレーム#iの動画像データを、動画像に適した所定のフォーマットにエンコードし、記録制御部18が記録部19にフレーム#iの画像データを記録させる。また、図4において、時間t0乃至t5は、デジタルカメラ1の性能などによって異なるものである。
図5は、ユーザがシャッタボタンを操作して、静止画像の記録を指令したときの図3のデジタルカメラ1の動作のタイミングを説明する図である。なお、図4と同一のものには、図4と同一の符号を付してあり、説明は繰り返しになるので省略する。
図5では、上から第1行目が撮像素子11の処理、第2行目がA/D変換部12の処理、第3行目がフレームメモリ13とバッファメモリ21の処理、第4行目がDSP14の処理、第5行目が表示部16の処理、第6行目がDSP23と24の処理、第7行目が記録制御部18の処理をそれぞれ表している。
図5では、時刻tAに、ユーザがシャッタボタンを操作し、静止画像の記録を指令している。ユーザにより時刻tAに、静止画像の記録を指令するためのシャッタボタンの操作が行われると、操作入力部25は、その操作に対応する静止画像の記録を指令するための入力信号を制御部26に供給する。制御部26は、バッファメモリ21−1乃至21−3の中から、時刻tAに表示部16に表示されている動画像に対応する画像データを記憶するバッファメモリ21を選択する。図5の例では、時刻tAに表示部16に表示されている動画像は、フレーム#2の動画像である(E2)ので、フレーム#2の動画像に対応する画像データが記憶されているバッファメモリ21−2が選択される。制御部26は、選択したバッファメモリ21−2を表す出力選択信号をセレクタ22に供給する。
セレクタ22は、バッファメモリ21−2を表す出力選択信号に基づいて、バッファメモリ21−2からの静止画像に適した画素のフレーム#2の画像データを、DSP23に供給する。ユーザにより静止画像の記録の指令が行われてから時間t6後に、DSP23は、セレクタ22からの静止画像に適した画素のフレーム#2の画像データに対する静止画像のための画像処理を開始し、その画像処理後のフレーム#2の静止画像データをDSP24に供給する。そして、DSP24は、DSP23からの静止画像に適した画素のフレーム#2の静止画像データを、所定のフォーマットにエンコードし、記録制御部18に供給する(F2)。
DSP23が静止画像のための画像処理を開始してから時間t7後に、記録制御部18は、DSP24からの静止画像に適した画素のフレーム#2の静止画像データの記録部19への記録を開始し、記録部19にフレーム#2の静止画像データを記録させる(G2)。
また、制御部26は、時刻tAにバッファメモリ21(バッファメモリ21−3)が記憶している(C3)フレーム#3の画像データの次のフレーム、即ちフレーム#4以降の画像データを、バッファメモリ21のいずれにも供給しないように、セレクタ20を制御する。即ち、制御部26は、バッファメモリ21−3を表す記憶選択信号をセレクタ20に供給して、バッファメモリ21−3に静止画像に適した画素のフレーム#3の画像データを記憶させた後、バッファメモリ21−1を表す記憶選択信号をセレクタ20に供給しない。セレクタ20は、制御部26から記憶選択信号が供給されないので、A/D変換部12からの静止画像に適した画素のフレーム#4以降の画像データを、すべてのバッファメモリ21に供給しない。従って、フレームメモリ13だけが、静止画像に適した画素のフレーム#4以降の画像データを記憶する(C´4)。
なお、制御部26は、セレクタ22からDSP23に、すべてのフレーム#2の静止画像データが供給された後、セレクタ20に記憶選択信号を供給する。即ち、すべてのフレーム#2の静止画像データがDSP23に供給された後、バッファメモリ21は、静止画像に適した画素の画像データの記憶を再開する。
以上のようにして、ユーザにより静止画像の記録の指令が行われる場合、ユーザが記録の指令を行ったとき(時刻tA)に、表示部16に表示されているフレーム#iA(iAは正の数)の動画像に対応する静止画像データが、記録部19に記録される。
ここで、図5を参照して、必要なバッファメモリ21の数について説明する。
図5に示したように、デジタルカメラ1(図3)では、ユーザにより静止画像の記録の指令が行われたとき(時刻tA)に、表示部16に表示されているフレーム#iAの動画像に対応する静止画像データが記録部19に記録されるので、バッファメモリ21は、その表示部16に表示されているフレーム#iAの動画像に対応する画像データを、記憶しておく必要がある。
しかしながら、1フレームの画像データを記憶するバッファメモリ21の数によっては、ユーザにより静止画像の記録の指令が行われたときに、表示部16に表示されているフレーム#iAの動画像に対応する画像データが、バッファメモリ21から消去されている場合がある。即ち、バッファメモリ21−1乃至21−3は、画像データを1フレームごとに順に記憶していき、すべてのバッファメモリ21に画像データが記憶されると、既に画像データが記憶されているバッファメモリ21のうち、最も古い画像データを記憶しているバッファメモリ21から順に、新たな画像データを記憶していく。
つまり、バッファメモリ21は、最も古い画像データを記憶しているバッファメモリ21から順に更新されるので、バッファメモリ21の数によっては、ユーザにより静止画像の記録の指令が行われたときに、表示部16に表示されているフレーム#iAの動画像に対応する画像データを記憶していたバッファメモリ21が、既に更新され、その画像データが消去されている場合がある。
このような場合が生じることを防止するために、バッファメモリ21の数fは、以下の式(1)に基づいて、例えば、製造元により決定され、デジタルカメラ1には、その数fのバッファメモリ21が用意される。
f=(t1+t2+t3+t4+t5)/t0・・・(1)
式(1)によれば、撮像素子11が被写体を撮像し、フレーム#iの画像信号の出力を開始してから、表示部16がフレーム#iの動画像の表示を終了するまでの時間に、撮像素子11が出力可能な画像信号のフレーム数が、バッファメモリ21の数fとなっている。なお、バッファメモリ21の数fが小数である場合、小数点以下は切り上げる。
例えば、t0=33ms(1秒間に30フレームの画像信号を出力),t1=10ms,t2=15ms,t3=10ms,t4=25ms,t5=33msである場合、数fは、2.818・・・となり、小数点以下は切り上げられるので、バッファメモリ21の数fは3個となる。
なお、上述したバッファメモリ21の数fは、必要な最小のバッファメモリ21の数であり、バッファメモリ21は、f個以上であれば、どのような個数であってもよい。また、1つのバッファメモリ21が1フレームの画像データを記憶するのではなく、複数フレームの画像データを記憶する場合、すべてのバッファメモリ21の記憶容量が、f個以上のフレームの画像データを記憶可能な容量であれば、バッファメモリ21の数は何個であってもよい。
次に、図6を参照して、図3のデジタルカメラ1が動画像を表示する動画像処理を説明する。この動画像処理は、例えば、ユーザが動画像の表示を指令するために表示ボタンを操作したとき開始され、フレームごとに行われる。また、図6の動画像処理は、図7の静止画像処理と同時に、画像処理として行われる。即ち、図3のデジタルカメラ1は、図6の動画像処理と図7の静止画像処理の両方を同時に、画像処理として行う。
ステップS51において、撮像素子11は、被写体を撮像して、静止画像に適した画素数のフレーム#iの各画素の画素値を取得し、画素信号としてA/D変換部12に出力する。ステップS51の処理後は、ステップS52に進み、A/D変換部12は、撮像素子11から出力される静止画像に適した画素のフレーム#iの画像信号をA/D変換し、ステップS53に進む。ステップS53において、A/D変換部12は、フレームメモリ13に静止画像に適した画素のフレーム#iのA/D変換後の画像データを供給し、記憶させる。フレームメモリ13は、記憶しているフレーム#iの画像データをDSP14に供給する。ステップS53の処理後は、ステップS54に進み、A/D変換部12は、ステップS52でA/D変換された静止画像に適した画素のフレーム#iの画像データを、セレクタ20に供給し、ステップS55に進む。
ステップS55において、DSP14は、フレームメモリ13からの静止画像に適した画素のフレーム#iの画像データに対して、動画像のための画像処理を行い、その画像処理後の動画像に適した画素のフレーム#iの動画像データを、セレクタ15とDSP17に供給する。
ステップS56において、セレクタ15は、DSP14からの動画像に適した画素のフレーム#iの動画像データに基づいて、動画像を表示部11に表示させる。具体的には、操作入力部25は、ユーザによる動画像の表示を指令するための表示ボタンの操作を受け付け、その操作に対応する動画像の表示の指令を表す入力信号を制御部26に供給する。制御部26は、その動画像の表示の指令を表す入力信号に基づいて、セレクタ15に動画像の表示を指示する表示制御信号を供給する。セレクタ15は、制御部26から動画像の表示を指示する表示制御信号に応じて、DSP14からの動画像に適した画素のフレーム#iの動画像データに基づく動画像を、表示部11に表示させる。
ステップS57において、記録制御部18は、DSP17からの動画像に適した画素のフレーム#iの動画像データを、所定のフォーマットに変換し、記録制御部18に供給して、ステップS58に進む。ステップS58において、記録制御部18は、DSP17からの動画像に適した画素のフレーム#iの動画像データを、記録部19に供給して記録させ、処理を終了する。
なお、ステップS58の処理は、ユーザにより動画像の記録が指令されたときのみ、行うようにしてもよい。
次に、図7を参照して、デジタルカメラ1が静止画像を記憶する静止画像処理を説明する。この静止画像処理は、図6のステップS54でセレクタ20に、フレーム#iの静止画像に適した画素の画像データが供給されるとき開始され、フレームごとに行われる。
ステップS71において、セレクタ20は、図6のステップS54でA/D変換部12から供給される静止画像に適した画素のフレーム#iの画像データを、バッファメモリ21に記憶させる。
具体的には、制御部26は、セレクタ20に、フレーム#iの画像データを記憶するバッファメモリ21を表す記憶選択信号を供給する。例えば、制御部26は、バッファメモリ21−1、バッファメモリ21−2、バッファメモリ21−3、バッファメモリ21−1、・・・の順に、バッファメモリ21の選択を表す記憶選択信号をセレクタ20に供給する。セレクタ20は、その記憶選択信号に基づいてバッファメモリ21を選択し、選択したバッファメモリ21に画像データを記憶させる。なお、セレクタ20は、制御部26から記憶選択信号が供給されない場合、すべてのバッファメモリ21に画像データを記憶しない。すべてのバッファメモリ21は、記憶している画像データをセレクタ22に供給する。
ステップS71の処理後は、ステップS72に進み、制御部26は、静止画像の記録が指令されたかどうかを判定する。具体的には、ユーザは、図6のステップS56で表示部16に表示される動画像を見ながら、所望の動画像が表示されたときに、静止画像の記録を指令するためのシャッタボタンの操作を行う。操作入力部25は、その操作に対応する静止画像の記録を指令する入力信号を制御部26に供給する。制御部26は、操作入力部25から静止画像の記録を指令する入力信号が供給されたかどうかを判定することにより、静止画像の記録が指令されたかどうかを判定する。
ステップS72において、静止画像の記録が指令されていないと判定された場合、即ち操作入力部25から静止画像の記録を指令する入力信号が供給されていないと判定された場合、処理を終了する。
また、ステップS72において、静止画像の記録が指令されたと判定された場合、即ち操作入力部25から静止画像の記録を指令する入力信号が供給されたと判定された場合、ステップS73に進み、制御部20は、セレクタ20への記憶選択信号の供給を停止し、セレクタ20は、いま記憶されているフレーム#iの画像データより後のフレームの画像データのバッファメモリ21への記憶を停止する。
ステップS73の処理後は、ステップS74に進み、制御部26は、静止画像の記録が指令されたとき(例えば、図5の時刻tA)に、表示部16に表示されているフレーム#iAの動画像に対応する画像データ、即ち記録対象のフレーム#iAの画像データが記憶されているバッファメモリ21を選択する。
ここで、ユーザは、表示部16に表示されている動画像を見ながら、所望の動画像が表示されたときに、静止画像の記録を指令する操作を行うので、ユーザが静止画像として記録したい画像は、静止画像の記録を指令したときに表示部16に表示されているフレーム#iAの動画像である。従って、制御部26は、静止画像の記録が指令されたときに表示部16に表示されているフレーム#iAの動画像に対応する画像データが記憶されているバッファメモリ21を選択する。
具体的には、制御部26は、静止画像の記録が指令された時刻tAより時間(t3+t4)前に、静止画像に適した画素のフレーム#iAの画像データを記憶したバッファメモリ21を選択する。そして、制御部26は、選択したバッファメモリ21を表す出力選択信号をセレクタ22に供給する。セレクタ22は、制御部26からの出力選択信号に基づいて、その出力選択信号が表すバッファメモリ21からの静止画像に適した画素のフレーム#iAの画像データを、DSP23に供給する。
ステップS74の処理後は、ステップS75に進み、DSP23は、セレクタ22からの静止画像に適した画素のフレーム#iAの画像データに対して、静止画像のための画像処理を行い、その画像処理後の静止画像に適した画素のフレーム#iAの静止画像データを、セレクタ15とDSP24に供給する。
ステップS76において、セレクタ15は、表示部16に、DSP23からの静止画像に適した画素のフレーム#iAの静止画像を表示させるかどうかを判定する。具体的には、ユーザが静止画像の表示を指令するために表示ボタンの操作を行う場合、操作入力部25は、その操作を受け付け、その操作に対応する静止画像の表示の指令を表す入力信号を制御部26に供給する。制御部26は、その静止画像の表示の指令を表す入力信号に基づいて、セレクタ15に静止画像の表示を指示する表示制御信号を供給する。セレクタ15は、制御部26から静止画像の表示を指示する表示制御信号が供給されたかどうかを判定することにより、静止画像を表示部11に表示させるかどうかを判定する。
ステップS76において、表示部16に静止画像に適した画素のフレーム#iAの静止画像を表示させると判定された場合、即ち、制御部26から静止画像の表示を指示する表示制御信号が供給されたと判定された場合、ステップS77に進み、セレクタ15は、DSP23からの静止画像に適した画素のフレーム#iAの静止画像データに基づいて、表示部16に静止画像を表示させる。このとき、図6のステップS56におけるフレーム#iの動画像の表示部16への表示を数秒間(例えば、2秒間)停止し、その間に表示部16にフレーム#iAの静止画像を表示させる。なお、セレクタ15は、DSP14からのフレーム#iの動画像データと、DSP23からのフレーム#iAの静止画像データとを表示部16に供給し、フレーム#iの動画像と、フレーム#iAの静止画像との両方を表示させるようにすることもできる。
ステップS77の処理後、またはステップS76において、表示部16に静止画像を表示させないと判定された場合、即ち制御部26から静止画像の表示を指示する表示制御信号が供給されていないと判定された場合は、ステップS78に進み、DSP24は、DSP23からの静止画像に適した画素のフレーム#iAの静止画像データを、所定のフォーマットに変換し、記録制御部18に供給する。
ステップS78の処理後は、ステップS79に進み、記録制御部18は、DSP24からの静止画像に適した画素のフレーム#iAの静止画像データを記録させる。このとき、記録制御部18は、図6のステップS58でDSP17から供給される動画像に適した画素のフレーム#iの動画像データと、DSP24からの静止画像に適した画素のフレーム#iAの静止画像データを時分割多重化して、記録部19に記録させる。なお、制御部26は、フレーム#iAの静止画像データの記録部19への記録が終了した場合、ステップS73で停止させた画像データのバッファメモリ21への記憶を、再開させる。
上述した図7の静止画像処理では、静止画像に適した画素のフレーム#iの画像データがバッファメモリ21に記憶され、静止画像の記録が指令された場合、そのときに表示部16に表示されているフレーム#iAの動画像に対応する画像データが、バッファメモリ21から読み出されて、その画像データに対応する静止画像データが記録部19に記録される。これにより、ユーザは、シャッタチャンスを逃すことなく、静止画像の記録を指令したときに表示部16に表示されているフレーム#iAの静止画像データを記録することができる。
また、図7の静止画像処理では、図6のステップS51で撮像素子11により撮像された静止画像に適した画素の画像信号に対応する画像データに対して、静止画像のための画像処理およびエンコードを行った後の静止画像データが記録部19に記録されるので、動画像データに比べて画素数の多い、即ち高解像度の静止画像データを記録することができる。
これに対して、特許文献1に記載されているビデオカメラ装置では、静止画像として記録される画像は、動画像として記録される画像と同程度の画素数、即ち30万画素程度(VGA(640×480))であり、静止画像としては、解像度の面において、性能不足である。
以上のように、図3のデジタルカメラ1では、図6の動画像処理と図7の静止画像処理が同時に行われるので、フレーム#iの動画像データを記録している間に、フレーム#iAの静止画像データを記録する場合においても、フレーム#iの動画像データの記録が中断されることはない。また、フレーム#iの動画像をフリーズさせることなく、表示部16に表示させ続けることができる。
図8は、ユーザがシャッタボタンを操作して、静止画像の記録を指令したときの図3のデジタルカメラ1の動作のタイミングを説明する他の図である。なお、図4や図5と同一のものには、図4や図5と同一の符号を付してあり、説明は繰り返しになるので省略する。
図8では、上から第1行目がフレームメモリ13とバッファメモリ21の処理、第2行目がDSP14の処理、第3行目が表示部16の処理をそれぞれ表している。なお、第3行目の表示部16の処理の縦軸は、表示される動画像の水平ライン(行)を表している。
即ち、図8の表示部16は、自分自身に表示する動画像を水平ラインごとに更新(表示)する。なお、以下では、動画像のj(jは正の数)番目の水平ラインを水平ライン#jという。また、1フレームの水平ライン数はL個(Lは偶数)とする。なお、ここでは、説明の便宜上、水平ライン数Lは偶数として説明するが、奇数であってもよい。即ち、表示部16には、フレーム#iの動画像の水平ライン#1乃至#Lが表示される。
図8では、表示部16は、時間t5の間に、1フレームの動画像の水平ライン#Lから順に水平ライン#1まで表示する。例えば、表示部16は、時間t5の間に、フレーム#1の動画像の水平ライン#Lから順に水平ライン#1まで表示する(E´1)。その後、表示部16は、時間t5の間に、フレーム#2の動画像の水平ライン#Lから順に水平ライン#1までの表示を更新する。従って、例えば、フレーム#2の動画像の水平ライン#Lが表示されたときに、表示部16に表示されている動画像は、更新後のフレーム#2の動画像の水平ライン#Lと、更新前のフレーム#1の動画像の水平ライン#1乃至#L−1となる。
このように、図8では、表示部16に表示される動画像に、2つのフレームの動画像が混在している。但し、1つのフレームの動画像の表示が終了した時点では、その1つのフレームの動画像のみが表示部16に表示される。例えば、フレーム#2の動画像の表示が終了した時刻tBにおいては、表示部16に、フレーム#2の動画像のみが表示されている。
ここで、時刻tCにユーザにより静止画像の記録が指令され、時刻tCが1つのフレームの動画像の表示が終了したときではない場合、表示部16には、更新前のフレーム#2と更新後のフレーム#3の動画像が混在して表示されるので、制御部26は、ユーザが更新前のフレーム#2の動画像に対応する静止画像の記録を指令したのか、更新後のフレーム#3の動画像に対応する静止画像の記録を指令したのかを判断する必要がある。換言すれば、制御部26は、所定のルールに基づいて、ユーザにより静止画像の記録が指令されたときに、表示部16に表示されている動画像に対応する画像データが記憶されているバッファメモリ21を選択する必要がある。なお、以下では、制御部26により選択された記録対象の画像が記憶されているバッファメモリ21を、選択バッファメモリ21という。
そこで、図9乃至図11を参照して、第1乃至第3のルールに基づいて、制御部26が選択バッファメモリ21を選択する処理について説明する。なお、選択バッファメモリ21を選択するためのルールは、第1乃至第3のルールに限定されない。
図9は、第1のルールを説明する図である。
図9の上のグラフでは、横軸は時間を表し、縦軸は動画像の表示が更新される水平ライン(行)を表している。図9では、表示部16はフレーム#2乃至#4の動画像を順に表示する。なお、フレーム#2の動画像の表示を開始する時刻を0としている。また、図9の下のブロックは、第1のルールに基づいて、制御部26が選択する選択バッファメモリ21を表している。
第1のルールでは、図9に示すように、ユーザにより静止画像の記録が指令されたとき(時刻tC)に、表示部16にL/2より多い数(過半数)の水平ラインが表示されている更新前のフレームtCまたは更新後のフレーム(tC+1)の動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択される。なお、表示部16に更新前のフレームtCおよび更新後のフレーム(tC+1)の動画像の同数の水平ラインが表示される場合、例えば、更新前のフレームtCの動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択される。
例えば、フレーム#2の動画像の水平ライン#Lから水平ライン#L/2が更新されるまで(時刻0から時刻t5/2まで)の間に、ユーザにより静止画像の記録が指令された場合(0≦tC≦t5/2)、制御部26は、選択バッファメモリ21として、更新前のフレーム#1の動画像に対応する画像データが記憶されているバッファメモリ21−1を選択する。
即ち、例えば、表示部16に表示されているフレーム#1の動画像の水平ライン#Lが、フレーム#2の動画像の水平ライン#Lに更新されるとき(時刻0)、水平ライン#1乃至#L−1は、まだ更新されていないので、表示部16には、更新後のフレーム#2の動画像の水平ライン#Lと、更新前のフレームであるフレーム#1のL/2より多い数のL−1個の水平ライン#1乃至#L−1が表示される。従って、制御部26は、選択バッファメモリ21として、フレーム#1の動画像に対応する画像データが記憶されているバッファメモリ21−1を選択する。
フレーム#1の動画像の水平ライン#(L−1)から水平ライン#(L/2−1)までが更新されるときも、フレーム#1の水平ライン#Lが更新されるときと同様に、L/2より多い数の水平ラインが表示されている動画像は、更新前のフレーム#1の動画像であるので、バッファメモリ21−1が選択される。また、フレーム#1の動画像の水平ライン#L/2が更新されるとき、更新前のフレーム#1と更新後のフレーム#2の動画像が、それぞれL/2個の水平ラインずつ表示されるので、更新前のフレーム#1の動画像であるので、バッファメモリ21−1が選択される。
また、フレーム#2の動画像の水平ライン#L/2から水平ライン#Lが更新されるまで(時刻t5/2から時刻t5まで)の間に、ユーザにより静止画像の記録が指令された場合(t5/2<tC≦t5)、制御部26は、選択バッファメモリ21として、フレーム#2の動画像に対応するフレーム#2の画像データが記憶されているバッファメモリ21−2を選択する。即ち、L/2より多い数の水平ラインが表示されている動画像は、更新後のフレーム#2の動画像であるので、バッファメモリ21−2が選択される。
さらに、フレーム#3の動画像の水平ライン#Lから水平ライン#L/2が表示されるまで(時刻t5から時刻3t5/2まで)の間に、ユーザにより静止画像の記録が指令された場合(t5<tC≦3t5/2)、制御部26は、選択バッファメモリ21として、更新前のフレーム#2の動画像に対応する画像データが記憶されているバッファメモリ21−2を選択する。即ち、L/2以上の水平ラインが表示されている動画像は、更新前のフレーム#2の動画像であるので、バッファメモリ21−2が選択される。
上述したように、第1のルールでは、ユーザにより、静止画像の記録が指令されたときに、L/2より多い数の水平ラインが表示されている更新前のフレームtCまたは更新後のフレーム(tC+1)の動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択されるので、ユーザの所望の静止画像を記録することができる。
即ち、ユーザは、表示部16に表示される動画像を見ながら、所望の動画像が表示されたとき、静止画像の記録を指令する。このとき、表示される動画像に、更新前と更新後の2つのフレームの動画像が混在する場合があるが、ユーザは所望の画像の水平ラインが多く表示されているとき、所望の動画像が表示されていると判断し、静止画像の記録を指令する可能性が高い。従って、第1のルールでは、L/2より多い数の水平ラインが表示されている更新前のフレームtCまたは更新後のフレーム(tC+1)の動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択されることにより、ユーザの所望する多くの水平ラインが表示されている動画像に対応する静止画像を記録することができる。
次に、図10を参照して、第1のルールを用いた場合のデジタルカメラ1が静止画像を記憶する静止画像処理を説明する。この静止画像処理は、図6のステップS54でセレクタ20に、フレーム#iの静止画像に適した画素の画像データが供給されるとき開始され、フレームごとに行われる。なお、図10の静止画像処理は、図6の動画像処理と同時に行われる。
ステップS91乃至ステップS93の処理は、図7のステップS71乃至S73の処理と同様であるので、説明は省略する。
ステップS94において、制御部26は、ユーザにより静止画像の記録が指令されたとき(ユーザによる記録の指令時)(図8の時刻tC)に、L/2より多い数の水平ラインの表示が更新されていたかどうかを判定する。即ち、図9の時刻0乃至t5/2の間に、ユーザにより静止画像の記録が指令された場合(0≦tc≦t5/2)、更新される水平ラインは、水平ライン#Lから#L/2であり、L/2より多い数の水平ラインの表示が更新されていないので、L/2より多い数の水平ラインの表示が更新されていないと判定する。一方、図9の時刻t5/2乃至t5の間に、ユーザにより静止画像の記録が指令された場合(t5/2<tc≦t5)、更新される水平ラインは、水平ライン#Lから#1であり、L/2より多い数の水平ラインの表示が更新されているので、L/2より多い数の水平ラインの表示が更新されていると判定する。
ステップS94において、ユーザによる静止画像の記録の指令時に、L/2より多い数の水平ラインの表示が更新されていたと判定された場合、ステップS95に進み、制御部26は、更新後のフレーム(tC+1)の動画像に対応するフレーム(tC+1)の画像データを記憶するバッファメモリ21を、選択バッファメモリ21として選択する。即ち、ユーザによる静止画像の記録の指令時に、表示部16にL/2より多い数(過半数)の水平ラインが表示されている更新後のフレーム(tC+1)の動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択される。
例えば、図9の時刻t5/2乃至t5の間に、ユーザにより静止画像の記録が指令された場合(t5/2<tc≦t5)、制御部26は、更新後のフレーム#2の動画像に対応する画像データが記憶されているバッファメモリ21−2を、選択バッファメモリ21として選択する。
一方、ステップS94において、ユーザにより静止画像の記録の指令時に、L/2より多い数の水平ラインの表示が更新されていないと判定された場合、ステップS96に進み、制御部26は、更新前のフレームtCの動画像に対応するフレームtCの画像データを記憶するバッファメモリ21を、選択バッファメモリ21として選択する。即ち、ユーザによる静止画像の記録の指令時に、表示部16にL/2以上の水平ラインが表示されている更新前のフレームtCの動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択される。
例えば、図9の時刻0乃至t5/2の間に、ユーザにより静止画像の記録が指令された場合(0≦tc≦t5/2)、更新前のフレーム#1の動画像に対応する画像データが記憶されているバッファメモリ21−1を、選択バッファメモリ21として選択する。
ステップS95またはS96の処理後、制御部26は、選択バッファメモリ21を表す出力選択信号をセレクタ22に供給する。セレクタ22は、制御部26からの出力選択信号に基づいて、その出力選択信号が表すバッファメモリ21からの画像データを、DSP23に供給し、ステップS97に進む。
ステップS97乃至ステップS101の処理は、図7のステップS75乃至S79と同様であるので、説明は省略する。
図11は、第2のルールを説明する図である。
図11では、表示部16の表示画面が9分割され、領域41−1乃至41−9となっている。なお、以下では、領域41−1乃至41−9を区別する必要がない場合、それらをまとめて領域41という。
ユーザは、例えば、動画像の表示を開始する前に、領域41−1乃至41−9の中から、画像の重要な部分が表示されると推測される領域41を選択し、注目領域として設定する。
第2のルールでは、制御部26は、ユーザにより静止画像の記録が指令されたとき(時刻tC)に、ユーザにより設定されている領域41に表示されるフレームtc´の動画像に対応する画像データが記憶されているバッファメモリ21を、選択バッファメモリ21として選択する。
このように、第2のルールでは、画像の重要な部分が表示されると推測される領域41に表示されるフレームtc´の動画像に対応する画像データが記憶されているバッファメモリ21を、選択バッファメモリ21として選択するので、ユーザの所望の静止画像を記録することができる。即ち、ユーザは、表示部16に表示されている動画像を見ながら、所望の動画像が表示されたとき、静止画像の記録を指令する。このとき、表示される動画像に、更新前と更新後の2つのフレームの動画像が混在する場合があるが、ユーザは、画像の重要な部分が表示される領域41に所望の動画像が表示されているとき、所望の動画像が表示されていると判断し、静止画像の記録を指令する可能性が高い。従って、第2のルールでは、画像の重要な部分が表示されると推測される領域41に表示されるフレームtc´の動画像に対応するフレームtc´の画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択されることにより、ユーザの所望する動画像に対応する静止画像を記録することができる。
次に、図12を参照して、第2のルールを用いた場合のデジタルカメラ1が静止画像を記憶する静止画像処理を説明する。この静止画像処理は、図6のステップS54でセレクタ20に、フレーム#iの静止画像に適した画素の画像データが供給されるとき開始され、フレームごとに行われる。なお、図12の静止画像処理は、図6の動画像処理と同時に行われる。また、ユーザは、領域41のうち、画像の重要な部分が表示されると推測される領域41を注目領域として設定している。
ステップS111乃至ステップS113の処理は、図7のステップS71乃至S73の処理と同様であるので、説明は省略する。
ステップS114において、制御部26は、ユーザによる静止画像の記録の指令時(時刻tC)に、表示部16の表示画面の領域41(図11)のうち、ユーザにより注目領域として設定された領域41に表示されているフレームtc´の動画像に対応する画像データが記憶されているバッファメモリ21を、選択バッファメモリ21として選択する。
例えば、ユーザにより注目領域として領域41−3が設定されている場合、領域41−3に表示されているフレームtc´の動画像に対応する画像データが記憶されているバッファメモリ21を、選択バッファメモリ21として選択する。
制御部26は、選択バッファメモリ21を表す出力選択信号をセレクタ22に供給する。セレクタ22は、制御部26からの出力選択信号に基づいて、その出力選択信号が表すバッファメモリ21からの画像データを、DSP23に供給し、ステップS115に進む。
ステップS115乃至ステップS119の処理は、図7のステップS75乃至S79と同様であるので、説明は省略する。
図13は、第3のルールを説明する図である。
なお、図13において、図8と同一のものには、同一の符号を付してあり、説明は繰り返しになるので省略する。
第3のルールでは、ユーザによる静止画像の記録の指令時に、表示部16に混在して表示される更新前のフレームtCおよび更新後のフレーム(tC+1)の2つのフレームの動画像に対応する画像データの、それぞれが記憶される2つのバッファメモリ21が、選択バッファメモリ21として選択される。なお、ユーザによる静止画像の記録の指令時に、表示部16に、更新前のフレームtCおよび更新後のフレーム(tC+1)の2つのフレームの動画像が混合して表示されない場合、即ち1つのフレームの動画像の表示の更新が終了したときに、ユーザによる静止画像の記録の指令が行われた場合(tC=tB)、その1つのフレームの動画像に対応する画像データが記憶される1つのバッファメモリ21が、選択バッファメモリ21として選択される。
図13に示すように、時刻tCにユーザにより静止画像の記録が指令された場合、そのとき表示部16に表示されている動画像には、フレーム#2の動画像とフレーム#3の動画像が混在している(E´2)。
そこで、制御部26は、フレーム#2の動画像が記憶されているバッファメモリ21−2と、フレーム#3の動画像が記憶されているバッファメモリ21−3を、選択バッファメモリ21として選択し、そのバッファメモリ21−1と21−2を表す出力選択信号を、順にセレクタ22に供給する。セレクタ22は、まず最初に、バッファメモリ21−2からの静止画像に適した画素のフレーム#2の画像データを、DSP23に供給する。
ユーザにより静止画像の記録が指令されてから時間t6後に、DSP23は、セレクタ22からの静止画像に適した画素のフレーム#2の画像データに対する静止画像のための画像処理を開始し、フレーム#2の静止画像データとしてDSP24に供給する。そして、DSP24は、その静止画像に適した画素のフレーム#2の静止画像データを、所定のフォーマットにエンコードし、記録制御部18に供給する(F'2)。そして、DSP23がフレーム#2の画像データに対する静止画像のための画像処理を開始してから時間t7後に、記録制御部18は、静止画像に適した画素のフレーム#2の静止画像データの記録を開始し、フレーム#2の静止画像データを記録部19に記録させる(G'2)。
また、セレクタ22は、バッファメモリ21−2からの静止画像に適した画素のフレーム#2の画像データのDSP23への供給を終了した後、バッファメモリ21−3からの静止画像に適した画素のフレーム#3の画像データを、DSP23に供給する。DSP23は、セレクタ22からの静止画像に適した画素のフレーム#2の画像データに対する静止画像のための画像処理を終了した後、セレクタ22からの静止画像に適した画素のフレーム#3の画像データに対する静止画像のための画像処理を開始し、フレーム#3の静止画像データとしてDSP24に供給する。そして、DSP24は、その静止画像に適した画素のフレーム#3の静止画像データを、所定のフォーマットにエンコードし、記録制御部18に供給する(F'3)。
記録制御部18は、静止画像に適した画素のフレーム#2の静止画像データの記録を終了した後、DSP24からの静止画像に適した画素のフレーム#3の静止画像データの記録を開始し、静止画像に適した画素のフレーム#3の静止画像データを記録部19に記録させる(G'3)。
上述したように、第3のルールでは、ユーザにより、静止画像の記録が指令されたときに、表示部16に混在して表示されている更新前のフレームtCおよび更新後のフレーム(tC+1)の2つのフレームの動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択されるので、ユーザの所望の静止画像を記録することができる。即ち、ユーザは、表示部16に表示される動画像を見ながら、所望の動画像が表示されたとき、静止画像の記録を指令する。このとき、表示される動画像に、更新前のフレームtCおよび更新後のフレーム(tC+1)の2つのフレームの動画像が混在する場合がある。従って、第3のルールでは、その2つのフレームの動画像に対応する画像データが記憶されているバッファメモリ21が、選択バッファメモリ21として選択されることにより、ユーザの所望する動画像の可能性がある2つのフレームの動画像の両方に対応する静止画像を記録することができる。
次に、図14を参照して、第3のルールを用いた場合のデジタルカメラ1が静止画像を記憶する静止画像処理を説明する。この静止画像処理は、図6のステップS54でセレクタ20に、フレーム#iの静止画像に適した画素の画像データが供給されるとき開始され、フレームごとに行われる。なお、図14の静止画像処理は、図6の動画像処理と同時に行われる。
ステップS131乃至ステップS133の処理は、図7のステップS71乃至S73の処理と同様であるので、説明は省略する。
ステップS134において、制御部26は、静止画像の記録が指令されたときに表示部16に混在して表示される更新前のフレームtCおよび更新後のフレーム(tC+1)の2つのフレームの動画像に対応する画像データが、それぞれ記憶されている2つのバッファメモリ21を、選択バッファメモリ21として選択する。そして、制御部26は、2つの選択バッファメモリ21のうちの一方(例えば、更新前のフレームtCの画像データを記憶するバッファメモリ21)を表す出力選択信号をセレクタ22に供給する。セレクタ22は、制御部26からの出力選択信号に基づいて、その出力選択信号が表すバッファメモリ21からの静止画像に適した画素の画像データを、DSP23に供給する。
ステップS135乃至S139の処理は、図7のステップS75乃至S79の処理と同様であるので、説明は省略する。
ステップS139の処理後は、ステップS140に進み、制御部26は、選択した2つのバッファメモリ21のうちの他方(ステップS134で出力選択信号が表していないバッファメモリ21(例えば、更新後のフレーム(tC+1)の画像データを記憶するバッファメモリ21)を表す出力選択信号をセレクタ22に供給する。そして、制御部26からの出力選択信号に基づいて、その出力選択信号が表すバッファメモリ21からの静止画像に適した画素の画像データを、DSP23に供給する。DSP23は、セレクタ22からの静止画像に適した画素の画像データに対して、静止画像のための画像処理を行い、その画像処理後の静止画像に適した画素の静止画像データを、セレクタ15とDSP24に供給する。
ステップS141乃至S144の処理は、図7のステップS76乃至S79の処理と同様であるので、説明は省略する。
以上のように、図3のデジタルカメラ1は、制御部26が、第1乃至第3のルールに基づいて、選択バッファメモリ21を選択することにより、ユーザの所望する静止画像を記録することができる。
図15は、図3のデジタルカメラ1が行う加算画素値に基づく動画像処理を説明するフローチャートである。図15では、撮像素子11は、各画素の画素値をA/D変換部12に供給するのではなく、所定の領域ごとに、その領域に含まれる画素の画素値を加算した加算画素値をA/D変換部12に供給(出力)する。
即ち、ステップS151において、撮像素子11は、被写体を撮像し、フレーム#iの加算画素値を、画像信号としてA/D変換部12に出力する。このように、撮像素子11が加算画素値をA/D変換部12に出力することにより、撮像素子11が各画素の画素値をA/D変換部12に出力する場合に比べて、撮像素子11から出力する画素値の数を減らすことができる。これにより、撮像素子11の消費電流を少なくすることができる。その結果、デジタルカメラ1の低消費電力化を実現することができる。
ステップS152乃至S158の処理は、図6のステップS52乃至S58の処理と同様であるので、説明は省略する。なお、ステップS155の画像処理では、既に画像データの画素数が少ないので、画素数の変換を行うフィルタ処理を行わないようにしてもよい。
図16は、図3のデジタルカメラ1が行う画像処理を説明する他のフローチャートである。
ステップS171において、制御部26は、ユーザにより静止画像の記録を指令するための図示せぬシャッタボタンが「半押し」されたかどうかを判定する。具体的には、ユーザは、デジタルカメラ1の動作モードを、静止画像を記録する静止画像モード(記録モード)にする場合、シャッタボタンを「半押し」する。なお、シャッタボタンの「半押し」とは、シャッタボタンのストロークの途中である所定の位置まで押下することをいう。また、シャッタボタンのストロークの最後まで押下することを「全押し」といい、ユーザは、静止画像の記録を指令するとき、シャッタボタンを「全押し」する。
ステップS171において、ユーザにより静止画像の記録を指令するためのシャッタボタンが「半押し」されていないと判定された場合、即ち、デジタルカメラ1の動作モードが、静止画像の記録を行わない通常モードであると判定された場合、デジタルカメラ1は、図15の加算画素値に基づく動画像処理を行う。即ち、デジタルカメラ1の動作モードが通常モードである場合、撮像素子11は、加算画素値をA/D変換部12に供給し、デジタルカメラ1の低消費電力化を実現する。また、デジタルカメラ1は、図7、図10、図12、または図14の静止画像処理を行わず、画像データをバッファメモリ21に記憶しないので、静止画像処理を同時に行う場合に比べて、デジタルカメラ1の消費電力を低減することができる。
ステップS173において、ユーザにより静止画像の記録を指令するためのシャッタボタンが「半押し」されていると判定された場合、デジタルカメラ1は、動作モードを静止画像モードにし、図6の動画像処理と、図7、図10、図12、または図14の静止画像処理とを同時に行う。即ち、デジタルカメラ1の動作モードが静止画像モードである場合、撮像素子11は、各画素の画素値を画像信号として出力するので、撮像素子11から出力される画像信号の画素数は、動作モードが通常モードの場合に比べて変化し、多くなる。
なお、静止画像データの記録が終了するか、またはシャッタボタンがキャンセル(取り消し)される場合、デジタルカメラ1は、動作モードを静止画像モードから通常モードに変更する。
以上のように、デジタルカメラ1の動作モードを、通常モードまたは静止画像モードの2つのモードに切り換えることにより、デジタルカメラ1の動作モードが切り換えられない場合に比べて、静止画像の記録を行わないときの消費電力を低減させることができる。
図17Aと図17Bは、図3の撮像素子11において、いわゆるローリングシャッタまたはフォーカルプレーンと呼ばれる行順次(線順次)(ラインスキャン)の動作を行う電子シャッタの方式が採用さているときの走査速度(露光速度)を説明する図である。
図17Aと図17Bでは、横軸は時間を表し、縦軸は走査(露光)する水平ライン(行)を表している。なお、図17Aと図17Bでは、撮像素子11は、30fpsの画像の各画素の画素値を取得する。
図17Aは、撮像素子11の走査速度の例を示している。
図17Aでは、被写体を撮像して、1フレームの画像の各画素の画素値を取得する時間、即ち水平ライン#Lから#1までを走査する時間が、約1/30秒となっている。即ち、撮像素子11は、被写体を撮像して、約1/30秒間で1フレームの画像の各画素の画素値を取得し、1フレームの画像の各画素の画素値の取得が終了した直後に、次のフレームの画像の各画素の画素値を取得する。この処理を繰り返すことにより、撮像素子11は、30fpsの画像を得る。
図17Bは、撮像素子11の走査速度の他の例を示している。
図17Bでは、被写体を撮像して、1フレームの画像の各画素の画素値を取得する時間、即ち水平ライン#Lから#1までを走査する時間が、1/30秒より短いtf秒(tf<1/30)となっている。即ち、撮像素子11は、被写体を撮像して、tf秒間で1フレームの画像の各画素の画素値を取得し、その撮像を開始してから1/30秒後に、次のフレームの画像の各画素の画素値を取得する。この処理を繰り返すことにより、撮像素子11は、30fpsの画像を得る。
このように、図17Bでは、図17Aの場合と同一の30fpsのフレームレートの画像が撮像されるが、撮像素子11の走査時間は短くなっている。これにより、撮像される被写体の画像の歪みを低減することが可能となる。
即ち、図17Aと図17Bでは、撮像素子11において、行順次の動作を行う電子シャッタの方式が採用さているため、撮像される画像は同時性を持たない。つまり、撮像素子11は、水平ラインごとに画像を取得し、すべての水平ラインの画像を同時に取得しない。これにより、撮像素子11が動きのある被写体を撮像する場合、撮像される画像に歪みが生じる場合がある。
その歪みは、メカニカルシャッタを用いて、撮像される画像に同時性を持たせることにより、低減することができるが、被写体を撮像して、取得した画像を動画像として用いる場合、メカニカルシャッタを用いない方が望ましい。従って、図3のデジタルカメラ1では、撮像素子11が取得した画像を、静止画像だけでなく動画像としても用いるので、メカニカルシャッタを用いない方が望ましい。
そこで、図17Bでは、メカニカルシャッタを用いずに、撮像素子11の走査速度を、フレームレートに比べて速め、すべての水平ラインの画像をほぼ同時に撮影する。これにより、撮影される画像の歪みを低減することができる。
図18は、デジタルカメラ1の他の機能的構成例を示すブロック図である。
なお、図3と同一のものには、図3と同一の符号を付してあり、説明は繰り返しになるので省略する。
図18のデジタルカメラ1では、図3の撮像素子11、A/D変換部12、およびフレームメモリ13の代わりに、撮像素子51が設けられている。
撮像素子51は、画素ごとに、被写体を撮像する。具体的には、撮像素子51は、画素ごとに被写体からの反射光を受光して、光電変換を行う。そして、撮像素子51は、画素ごとに、光電変換後の画像信号に対してA/D変換を行い、A/D変換後の画像データを記憶する。撮像素子51は、すべての画素に記憶されているA/D変換後の画像データを、DSP14とセレクタ20に供給する。
図19は、図18の撮像素子51の構成例を示している。
撮像素子51には、画素ごとに、被写体からの反射光を画素単位で光電変換する光電変換部61、光電変換部61で光電変換後の画像信号を、画素単位でA/D変換するA/D変換部62、およびA/D変換部62でA/D変換後の画像データを画素単位で記憶するメモリ63が設けられている。
このように、撮像素子51では、画素ごとに、光電変換部61やA/D変換部62が設けられているので、撮像素子51は、行順次に動作して画像を取得するのではなく、すべての画素において、同時に画像を取得することができる。即ち、撮像素子51により撮像される画像は、同時性があり、動きのある被写体を撮像する場合に生じる被写体の歪みを低減することができる。
なお、撮像素子51において、画素ごとに設けられる光電変換部61、A/D変換部62、およびメモリ63は、2次元的に配置されるようにしてもよいし、例えば、積層されたり、異なる面に配置されることにより、3次元的に配置されるようにしてもよい。
また、上述した図3のデジタルカメラ1は、所定の部またはすべての部を、1チップ上に形成し、システムLSI(Large Scale Integration)のような形態にすることもできる。
以上のように、デジタルカメラ1では、制御部26が、操作入力部25により静止画像の記録の指令が受け付けられたときに、表示部16に表示されている動画像に対応する画像データを記憶するバッファメモリ21を、3つのバッファメモリ21の中から選択し、そのバッファメモリ21を表す出力選択信号をセレクタ22に供給する。そして、セレクタ22は、DSP23と24を介して、出力選択信号が表すバッファメモリ21に記憶されている画像データを記録制御部18に供給し、記録部19に記録させるようにしたので、ユーザにより記録が指令されたときに表示されている動画像を、静止画像として容易に記録することができる。
次に、上述した一連の処理は、専用のハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
そこで、図20は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
あるいはまた、プログラムは、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体111に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、ダウンロードサイトから、デジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部108で受信し、内蔵するハードディスク105にインストールすることができる。
コンピュータは、CPU(Central Processing Unit)102を内蔵している。CPU102には、バス101を介して、入出力インタフェース110が接続されており、CPU102は、入出力インタフェース110を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部107が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、また、CPU102は、ハードディスク105に格納されているプログラム、衛星若しくはネットワークから転送され、通信部108で受信されてハードディスク105にインストールされたプログラム、またはドライブ109に装着されたリムーバブル記録媒体111から読み出されてハードディスク105にインストールされたプログラムを、RAM(Random Access Memory)104にロードして実行する。これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、LCD(Liquid Crystal Display)やスピーカ等で構成される出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
1 デジタルカメラ, 11 撮像素子, 12 A/D変換部, 13 フレームメモリ, 14 DSP, 15 セレクタ, 16 表示部, 17 DSP, 18,記録制御部, 19 記録部, 20 セレクタ, 21 バッファメモリ, 22 セレクタ, 23 DSP, 24 DSP, 25 操作入力部, 26 制御部, 101 バス, 102 CPU, 103 ROM, 104 RAM, 105 ハードディスク, 106 出力部, 107 入力部, 108 通信部, 109 ドライブ, 111 リムーバブル記録媒体