JPWO2010035752A1 - 画像生成装置、撮像装置、画像再生装置、画像再生プログラム - Google Patents
画像生成装置、撮像装置、画像再生装置、画像再生プログラム Download PDFInfo
- Publication number
- JPWO2010035752A1 JPWO2010035752A1 JP2010530855A JP2010530855A JPWO2010035752A1 JP WO2010035752 A1 JPWO2010035752 A1 JP WO2010035752A1 JP 2010530855 A JP2010530855 A JP 2010530855A JP 2010530855 A JP2010530855 A JP 2010530855A JP WO2010035752 A1 JPWO2010035752 A1 JP WO2010035752A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured
- moving
- background
- background image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Television Signal Processing For Recording (AREA)
- Image Processing (AREA)
Abstract
画像生成装置は、被写体を時系列的に撮像して得られた複数の撮像画像に基づいて被写体のうち対象被写体の動画像を生成する動画像生成手段と、撮像画像に基づいて対象被写体の背景画像を生成する背景画像生成手段とを備える。
Description
本発明は、画像生成装置、撮像装置、画像再生装置および画像再生プログラムに関する。
従来、動画像から移動被写体を除去した合成画像を生成するに当たって、移動被写体が登録された特定の被写体であるか否かを判定し、特定の被写体でないと判定した場合には背景画像を抽出して移動被写体の位置に合成することにより、撮影者が注目している移動被写体が消去されてしまうのを防止する技術が知られている(特許文献1参照)。
特許文献1に開示される従来技術は、動画像に基づいて移動被写体の位置に背景画像を合成することにより、移動被写体が消去された動画像または静止画像を生成するためのものである。一方、本発明は、静止画像として取得された撮像画像を動的に再生するために必要な技術を得ることを目的とするものである。
本発明の第1の態様による画像生成装置は、被写体を時系列的に撮像して得られた複数の撮像画像に基づいて被写体のうち対象被写体の動画像を生成する動画像生成手段と、撮像画像に基づいて対象被写体の背景画像を生成する背景画像生成手段とを備える。
本発明の第2の態様によると、第1の態様の画像生成装置において、動画像生成手段は、複数の撮像画像よりそれぞれ抽出した対象被写体の画像に基づいて動画像を生成し、背景画像生成手段は、複数の撮像画像に基づいて1つの静止画像を背景画像として生成することが好ましい。
本発明の第3の態様によると、第2の態様の画像生成装置において、動画像には、背景画像に対する対象被写体の位置と、背景画像に対する対象被写体の動きとを示す情報が付加されることがより好ましい。
本発明の第4の態様による撮像装置は、第1〜第3いずれかの態様の画像生成装置と、被写体を撮像して撮像画像を取得する撮像手段とを備える。
本発明の第5の態様による画像再生装置は、第1〜第3いずれかの態様の画像生成装置により生成された動画像および背景画像に基づいて、撮像画像を動的に再生する。
本発明の第6の態様によると、第5の態様の画像再生装置において、背景画像に重ねて動画像を表示し、動画像の表示位置を背景画像上で移動させることにより、撮像画像が動的に再生されることが好ましい。
本発明の第7の態様による画像再生プログラムは、第1〜第3いずれかの態様の画像生成装置により生成された動画像および背景画像に基づいて、撮像画像をモニタに接続されたコンピュータにより動的に再生するためのものであって、コンピュータに動画像および背景画像を読み込ませる読み込みステップと、コンピュータが読み込みステップで読み込んだ動画像および背景画像に基づいて、コンピュータに撮像画像をモニタに動的に再生表示させる再生ステップとをコンピュータに実行させる。
本発明の第8の態様によると、第7の態様の画像再生プログラムにおいて、再生ステップでは、背景画像に重ねて動画像をモニタに表示させ、動画像の表示位置を背景画像上で移動させることにより、コンピュータに撮像画像をモニタに動的に再生させることが好ましい。
本発明の第2の態様によると、第1の態様の画像生成装置において、動画像生成手段は、複数の撮像画像よりそれぞれ抽出した対象被写体の画像に基づいて動画像を生成し、背景画像生成手段は、複数の撮像画像に基づいて1つの静止画像を背景画像として生成することが好ましい。
本発明の第3の態様によると、第2の態様の画像生成装置において、動画像には、背景画像に対する対象被写体の位置と、背景画像に対する対象被写体の動きとを示す情報が付加されることがより好ましい。
本発明の第4の態様による撮像装置は、第1〜第3いずれかの態様の画像生成装置と、被写体を撮像して撮像画像を取得する撮像手段とを備える。
本発明の第5の態様による画像再生装置は、第1〜第3いずれかの態様の画像生成装置により生成された動画像および背景画像に基づいて、撮像画像を動的に再生する。
本発明の第6の態様によると、第5の態様の画像再生装置において、背景画像に重ねて動画像を表示し、動画像の表示位置を背景画像上で移動させることにより、撮像画像が動的に再生されることが好ましい。
本発明の第7の態様による画像再生プログラムは、第1〜第3いずれかの態様の画像生成装置により生成された動画像および背景画像に基づいて、撮像画像をモニタに接続されたコンピュータにより動的に再生するためのものであって、コンピュータに動画像および背景画像を読み込ませる読み込みステップと、コンピュータが読み込みステップで読み込んだ動画像および背景画像に基づいて、コンピュータに撮像画像をモニタに動的に再生表示させる再生ステップとをコンピュータに実行させる。
本発明の第8の態様によると、第7の態様の画像再生プログラムにおいて、再生ステップでは、背景画像に重ねて動画像をモニタに表示させ、動画像の表示位置を背景画像上で移動させることにより、コンピュータに撮像画像をモニタに動的に再生させることが好ましい。
本発明によれば、静止画像として取得された撮像画像を動的に再生するために必要な技術を得ることができる。
以下、図面を参照して本発明を実施するための一形態について説明する。図1は、本発明の一実施の形態による撮像装置の構成の一例を示すブロックダイアグラムである。図1において、撮像装置は、撮像素子1と、撮影レンズ2と、レンズ駆動回路3と、制御回路5と、操作部材7と、撮像素子駆動回路8と、信号処理回路9と、データ処理回路10と、圧縮/伸張回路11と、モニタ13と、表示制御回路14と、測光回路15と、振れ検出センサ16とを有し、さらに記録媒体12が設けられている。
記録媒体12は、メモリカード、小型ハードディスク、DVD等の光ディスクなどにより構成される。なお、記録媒体12は、撮像装置に内蔵されるものであっても、着脱可能に装着されるものであってもよい。また、撮像装置の外部に設けられるものであってもよい。その場合、記録媒体12と撮像装置とは有線または無線で電気的に接続される。
撮影レンズ2は、撮影光学系を構成する複数枚のレンズ群で構成されており、撮像素子1の撮像面上に被写体像を結像させる。撮影レンズ2は不図示のフォーカスレンズを含む。このフォーカスレンズは、レンズ駆動回路3によって光軸方向に進退駆動される。これにより、撮影レンズ2の焦点調節状態が変化し、撮影レンズ2のピント調節が行われる。また、撮影レンズ2は不図示のズームレンズを含む。このズームレンズは、レンズ駆動回路3によって光軸方向に進退駆動される。これにより、撮影レンズ2の焦点距離が変化し、撮影レンズ2のズーム調節が行われる。
さらに、撮影レンズ2は不図示の振れ補正用レンズを含む。この振れ補正用レンズは、振れ検出センサ16の出力に基づいて、レンズ駆動回路3により、撮影レンズ2の光軸に直交する方向に駆動される。これにより、撮像素子1上に結像される被写体像の位置が撮像装置の振れを打ち消す方向にシフトされ、振れ補正が行われる。このような振れ補正を行うことにより、撮像装置は、撮影者の手振れを軽減して撮影を行うことができる。
なお、上記のように振れ補正用レンズを駆動する代わりに、可変頂角プリズムを用いてその頂角を変化させることにより、撮像素子1上に結像される被写体像の位置を撮像装置の振れを打ち消す方向にシフトして、振れ補正を行うようにしてもよい。あるいは、撮像素子1を撮影レンズ2の光軸に直交する方向に駆動させ、撮像装置の振れを打ち消すようにすることで、振れ補正を行うようにしてもよい。
撮像素子1は、撮影レンズ2により結像された被写体像に基づいて、画素ごとに電荷を蓄積し、蓄積した電荷量に応じた電気信号を画像信号として信号処理回路9へ出力する。これにより、撮像素子1において被写体像の撮像が行われ、その被写体像が電気信号に変換されて出力される。なお、撮像素子1は、たとえばCCD(Charge Coupled Device)や、CMOS(ComplementaryMetal Oxide Semiconductor)型の撮像素子などによって構成される。
撮像素子駆動回路8は、制御回路5から出力される指令に応じて、所定タイミングの駆動信号を発生し、発生した駆動信号を撮像素子1へ供給する。この駆動信号が供給されることにより、撮像素子1において、電荷の蓄積や、蓄積された電荷量の読み出しが制御される。
制御回路5は、測光回路15により検出された被写体の測光データに基づいて、被写界の明るさの情報を求め、この明るさの情報に基づいて、撮像素子1の電荷蓄積時間、撮影レンズ2の絞り、撮像素子1より出力される画像信号の増幅度などを決定する。なお、被写界の明るさの情報は、撮像素子1から出力される信号から求めるようにしてもよい。この場合には、撮像素子1が測光回路15として機能する。
撮像素子1から出力された画像信号は、信号処理回路9において入力される。信号処理回路9は、制御回路5からの指令に応じて、入力された画像信号に対して、増幅、直流再生、A/D変換、ホワイトバランス、ガンマ変換等の各種信号処理を行う。そして、信号処理後に得られたデータを撮影画像データとしてデータ処理回路10へ出力する。
データ処理回路10は、制御回路5からの指令に応じて、信号処理回路9から出力された撮影画像データを圧縮/伸張回路11に出力すると共に、モニタ13に再生画像を表示させるために必要な解像度変換処理、すなわち画素数の変換を行う。そして、解像度変換処理後の撮影画像データを表示制御回路14へ出力する。なお、データ処理回路10は、電子ズーム処理を行うこともできる。この電子ズーム処理の際には、入力された撮影画像データに対してズーム倍率に応じた解像度変換処理を行い、処理後の撮影画像データを圧縮/伸張回路11および表示制御回路14へそれぞれ出力する。
表示制御回路14は、制御回路5からの指令に応じて、データ処理回路10から出力された撮影画像データに所定の信号処理を施した後、モニタ13へ出力する。表示制御回路14はさらに、モニタ13へ出力する撮影画像データに、たとえば撮影メニューやカーソルなど所定のオーバーレイ画像のデータを重畳する処理を行う。これにより、オーバーレイ画像が重畳された被写体画像がモニタ13に表示される。
圧縮/伸張回路11は、制御回路5からの指令に応じて、データ処理回路10から出力された撮影画像データに対して、所定の画像圧縮方式による圧縮処理を行い、圧縮後の撮影画像データを記録媒体12へ出力する。なお、撮影者は操作部材7を操作することにより、画像データを圧縮せずに記録するよう撮像装置に対して指示することもできる。その場合、圧縮/伸張回路11は、圧縮処理を行わずに、データ処理回路10から出力された撮影画像データをそのまま記録媒体12へ記録する。
操作部材7は、レリーズボタンを含む。撮影者がこのレリーズボタンにより撮影操作を行うと、その撮影操作に応じて、制御回路5から撮像素子駆動回路8、信号処理回路9、データ処理回路10および圧縮/伸張回路11に対して、撮影指令が出力される。この撮影指令が制御回路5から出力されると、撮像素子駆動回路8、信号処理回路9、データ処理回路10および圧縮/伸張回路11において、上記のような処理や制御がそれぞれ実行される。これにより、撮像素子1により出力された画像信号に基づく被写体像の撮影画像データが取得され、記録媒体12に記録される。このようにして、撮像装置において被写体が撮影され、撮影画像が取得されて、その撮影画像が記録媒体12に記録される。なお、被写体が撮影されたときには、上記のように表示制御回路14からモニタ13へ解像度変換処理後の撮影画像データが出力され、撮影画像の再生画像がモニタ13に表示される。
表示モニタ13には、記録媒体12において既に記録されている撮影画像データに基づいて、撮影済みの撮影画像による再生画像を表示することもできる。このように撮影済みの撮影画像による再生画像を表示するモードは、再生モードと呼ばれている。
撮像装置において再生モードが選択されると、圧縮/伸張回路11は、制御回路5からの指令に応じて記録媒体12に記録されている撮影画像データを読み出し、その読み出した撮影画像データに対して圧縮を解除するための復号化処理を施した上で、復号化後の撮影画像データをデータ処理回路10へ出力する。データ処理回路10は、圧縮/伸張回路11から出力された復号化後の撮影画像データに対して解像度変換処理を行い、表示制御回路14へ出力する。この解像度変換処理後の撮影画像データが表示制御回路14からモニタ13へ出力されることにより、モニタ13において撮影済みの撮影画像による再生画像が表示される。
なお、記録媒体12に非圧縮の撮影画像データが記録されており、その非圧縮の撮影画像データが記録媒体12から読み出された場合は、圧縮/伸張回路11において復号化処理は行われない。圧縮/伸張回路11は、可逆圧縮、すなわちロスレス符号化により、圧縮処理および復号化処理を行うようにしてもよい。
操作部材7は、上記のレリーズボタンに加えて、さらにズーム操作部材を有している。制御回路5は、このズーム操作部材が撮影者に操作されることにより、操作部材7からズーム操作信号が出力されると、それに応じて前述のレンズ駆動指令を発生し、レンズ駆動回路3に出力する。レンズ駆動回路3は、制御回路5から出力されたレンズ駆動指令に基づいて、撮影レンズ2のズームレンズを前述のようにして進退駆動させる。これにより、撮影レンズ2の焦点距離が変化し、撮像素子1の撮像面上に結像される被写体像が拡大もしくは縮小されて、光学的にズーム調節が行われる。
さらに、操作部材7からズーム操作信号が出力されると、制御回路5はデータ処理回路10へ、前述の電子ズーム処理を行うための指令をズーム倍率と共に出力する。データ処理回路10は、制御回路5から出力されたズーム倍率に応じて前述のように解像度変換処理を行い、処理後の撮影画像データを表示制御回路14へ出力する。このときの解像度変換比率は、電子ズーム倍率に対応して決定される。これにより、モニタ13に表示される被写体の画像が拡大もしくは縮小され、電子ズームが行われる。
上記の電子ズームにおいて、高倍率側にズーム倍率を変化させた場合、被写体画像の中心部分が徐々に拡大されてモニタ13に表示される。このとき、ズーム倍率が上がるほど表示される被写体画像の範囲が狭くなる。反対に、低倍率側にズーム倍率を変化させた場合、被写体画像が徐々に縮小されてモニタ13に表示される。このとき、ズーム倍率が下がるほど表示される被写体画像の範囲が広くなる。レリーズボタンにより撮影操作が行われると、そのときモニタ13に表示されている被写体画像の範囲に対応する撮影画像データが記録媒体12に記録される。
振れ検出センサ16は、撮像装置の筺体内に設けられており、たとえば角速度センサ、ジャイロセンサ等により構成される。振れ検出センサ16は、撮像装置の動き、すなわち撮像装置の筺体の振れを少なくとも光軸と直交する二方向について検出し、検出した振れ量に応じた検出信号を制御回路5へ出力する。制御回路5は、この検出信号に基づいて、筺体の振れに伴って生じる撮像素子1の撮像面における被写体像の移動が打ち消されるように、前述のような振れ補正を行う。なお、この振れ補正は、撮影時だけでなく、後述するスルー画像の取得時にも行うことができる。
次に、以上説明した撮像装置の動作について説明する。撮像装置は、静止画像としての撮像画像を取得する際に、その撮像画像を動的に再生するための特殊再生用画像を撮像画像と共に取得することができる。
特殊再生用画像を取得する様子を図2に示す。撮像装置は、撮像素子1から出力される画像信号に基づいて、たとえば符号21〜25に示すような撮像画像を時系列的に取得する。これらの撮像画像21〜25において撮影されている被写体のうち、たとえば自動車30を動的再生の対象被写体として撮影者が設定すると、この自動車30を含む部分の画像が符号31〜35に示すように撮像画像21〜25よりそれぞれ抽出される。こうして抽出された画像31〜35を、以下では抽出画像と称する。
なお、撮像画像21〜25のうち、撮像画像23は撮影者からの撮影操作に応じて取得された静止画像としての撮像画像であり、本画像と呼ばれる。これに対して、撮像画像21、22は本画像23の撮影に先立って取得された撮像画像であり、前画像と呼ばれる。また、撮像画像24、25は本画像23の撮影後に取得された撮像画像であり、後画像と呼ばれる。ここでは本画像23の撮影前後にそれぞれ2枚ずつの前画像21、22と後画像24、25を取得した例を説明したが、前画像と後画像の取得数はこれに限定されるものではない。
撮像装置は、撮像画像21〜25から抽出画像31〜35を抽出したら、抽出画像31〜35が取り除かれた撮像画像21〜25を合成することにより、1枚の静止画像である背景画像20を生成する。たとえば、本画像23において抽出画像33が抽出された部分を、前画像21、22および後画像24、25の対応する部分の画像情報に基づいて補間することにより、背景画像20を生成する。なお、ここで生成される背景画像20のサイズや形状は、元の撮像画像21〜25のものと必ずしも同一でなくてもよい。たとえば、撮像装置の撮像方向を横に変化させつつ流し撮りを行って撮像画像21〜25を取得した場合、撮像画像21〜25を合成することで、横方向に長いパノラマ状の背景画像20を生成することができる。また撮像装置は、抽出画像31〜35を時系列順に並べて合成することにより、動画像40を生成する。こうして背景画像20および動画像40を生成したら、これらを本画像23と共に、特殊再生用画像として記録媒体12に記録する。
なお、動画像40は、撮像画像21〜25と比べて画像のサイズが小さい。また背景画像20は、撮像画像21〜25の枚数に関わらず、1つの静止画像として生成される。したがって、背景画像20と動画像40の合計データ量は、撮像画像21〜25から通常の動画像を生成した場合のデータ量よりも小さくなる。すなわち、特殊再生用画像として背景画像20と動画像40を生成することにより、データ量を圧縮することができる。
以上説明したような方法で取得した特殊再生用画像に基づいて、静止画像としての撮像画像である本画像23を動的に再生する様子を図3に示す。撮像装置は、本画像23を再生表示する代わりに、背景画像20と動画像40を合成してモニタ13に再生表示する。このとき、背景画像20に重ねて動画像40を表示し、その表示位置を背景画像20上で移動させることにより、符号41〜45に示すような再生画像を連続的に表示する。この再生画像41〜45では、対象被写体である自動車30の動きが図2の撮像画像21〜25と同様に再現されている。なお、背景画像20のサイズや形状が本画像23のものと異なる場合は、そのサイズや形状に応じて背景画像20をスクロールしたり、背景画像20を拡大または縮小して、そこに動画像40を重ねて表示してもよい。たとえば、前述のように背景画像20が横方向に長いパノラマ状の画像である場合、背景画像20を横方向にスクロール表示させると共に、そのスクロール動作に合わせて動画像40を移動させながら背景画像20に重ねて表示することができる。なお、背景画像20を拡大または縮小表示する場合は、それに同期して動画像40も拡大または縮小表示することが好ましい。
上記の特殊再生用画像を取得する際に実行される撮影処理のフローチャートを図4に示す。この撮影処理は、撮像装置が所定の特殊撮影モードに設定されたときに、制御回路5において実行される。ステップS10において、制御回路5は、撮像素子1から出力される画像信号に基づいて、スルー画像をモニタ13に表示する。
上記のステップS10において、制御回路5は、撮像素子駆動回路8へ指示を送り、スルー画撮影動作を実行するための駆動信号を撮像素子駆動回路8に出力させる。撮像素子1は、この駆動信号を受けて、所定のフレームレート、たとえば30フレーム毎秒で、画素ごとに蓄積された電荷量に応じた画像信号を連続的に出力する。信号処理回路9は、撮像素子1から出力された画像信号に前述のような信号処理を施すと共に、撮像素子1上において互いに近傍に位置する同色画素の信号同士を加算する。これにより、前画像や本画像、後画像を取得する時に比べて低解像度、すなわち画素数のより少ない撮影画像データを、スルー画像用の撮影画像データとしてデータ処理回路10へ出力する。これにより、被写体のスルー画像が取得される。なお、この際の露出条件は、測光回路15による測光データに基づいて決定される。このとき、同色画素の信号同士を加算する代わりに、撮像素子1からの画像信号を間引いて読み出すようにしてもよい。
データ処理回路10は、信号処理回路9から出力されたスルー画像用の撮影画像データに対して解像度変換処理を行った後、処理後のデータを一時的に記憶すると共に、表示制御回路14へ出力する。なお、データ処理回路10には、解像度変化処理後のスルー画像用の撮影画像データを一時的に記憶するためのメモリが備えられている。上記のステップS10において、制御回路5は、表示制御回路14に対して、データ処理回路10から出力されたデータに基づくスルー画像をモニタ13に表示させる。これにより、被写体のスルー画像がモニタ13において表示される。こうしてスルー画像が表示されることにより、撮影者は、これから撮影しようとする被写界の状態をモニタ13の画面で観察することができる。
なお、上記のスルー画像を取得する際には、前画像や本画像、後画像を取得する時よりも低い画素解像度で被写体が撮影される。すなわち、撮像素子1の各画素における電荷量を間引いて読み出す、あるいは、複数の画素における電荷量を合算して読み出すことにより、本撮影よりも低い画素解像度でスルー画像を取得する。これにより、高フレームレートでの撮影を可能としている。また、取得されたスルー画像のデータは、記録媒体12に記録されない。
以上説明したようにしてスルー画像を取得する際には、必要に応じてオートフォーカス動作を実行することにより、前述のようにして撮影レンズ2のピント調節を行うようにしてもよい。なお、このピント調節の際に必要な焦点調節状態は、たとえば、撮像素子1に設けられた焦点検出用の画素と、その画素の各々に対して設けられたマイクロレンズ等の焦点検出光学系を用いて、周知の瞳分割方式の位相差検出により検出することができる。焦点検出用の画素を有する素子を、撮像装置1とは別個に設け、当該素子を用いて焦点調節を行う構成としてもよい。あるいは、コントラスト方式など他の方法を利用することとしてもよい。
ステップS20において、制御回路5は、ステップS10でモニタ13に表示したスルー画像を用いて、動的再生の対象とする被写体を設定する。たとえば、操作部材7の操作によって撮影者にスルー画像上で指定された位置に対応する被写体を抽出し、これを対象被写体に設定する。あるいは、撮像装置が自動的に対象被写体を設定するようにしてもよい。たとえば、スルー画像中で動きのある部分や、人物の顔などに基づいて予め登録されたテンプレート画像とのマッチング度合いが所定値以上となるスルー画像中の部分を撮像装置が判別し、これを対象被写体に設定することができる。こうして設定した対象被写体は、スルー画像上で枠を表示するなどにより、撮影者が判別可能に表示することが好ましい。なお、対象被写体の設定と撮影レンズ2のピント調節とを連動させてもよい。
ステップS30において、制御回路5は、操作部材7のレリーズボタンが撮影者によって半押し操作されたか否かを判定する。半押し操作が行われ、その半押し操作に基づく半押し操作信号が操作部材7から制御回路5へ入力されると、制御回路5は次のステップS40へ進む。一方、レリーズボタンの半押し操作がなされていない場合、制御回路5はステップS10へ戻ってスルー画像の表示を続ける。
ステップS40において、制御回路5は、撮像素子1が被写体を撮像することによって撮像素子1から出力される画像信号に基づいて、前画像を取得する。このとき、前述のようにステップS10で表示したスルー画像よりも高解像度で撮像された画像が前画像として取得される。
ステップS50において、制御回路5は、操作部材7のレリーズボタンが撮影者により全押し操作されたか否かを判定する。全押し操作が行われ、その全押し操作に基づく全押し操作信号が操作部材7から制御回路5へ入力されると、制御回路5はステップS60へ進む。一方、全押し操作信号が入力されなかった場合には、制御回路5はステップS40へ戻って前画像の取得を続ける。これにより、レリーズボタンを半押し操作してから全押し操作するまでの間、複数枚の前画像が所定の周期で繰り返し取得される。
ステップS60において、制御回路5は、撮像素子1が被写体を撮像することによって撮像素子1から出力される画像信号に基づいて、本画像を取得する。この本画像は、ステップS40で取得した前画像と同様に、ステップS10で表示したスルー画像よりも高解像度で撮像された画像である。
ステップS70において、制御回路5は、撮像素子1が被写体を撮像することによって撮像素子1から出力される画像信号に基づいて、後画像を取得する。この後画像は、ステップS40で取得した前画像およびステップS60で取得した本画像と同様に、スルー画像よりも高解像度で撮像された画像である。
以上説明したステップS40、S60およびS70の処理によって前画像、本画像および後画像を取得することで、撮像装置において複数の撮像画像が時系列的に取得される。なお、前述のように前画像、本画像および後画像に基づいて背景画像と動画像を生成するために、これらの各撮像画像の解像度は全て同じであることが好ましい。
ステップS80において、制御回路5は、撮影が完了したか否かを判定する。たとえば、撮影者がレリーズボタンの操作を止めた場合や、ステップS50で判定した全押し操作から所定時間が経過したときに、制御回路5は撮影が完了したと判定してステップS90へ進む。一方、このような条件を満たさない場合、制御回路5は撮影がまだ完了していないと判定してステップS70へ戻り、後画像の取得を続ける。これにより、レリーズボタンを全押し操作してから撮影が完了するまでの間、複数枚の後画像が所定の周期で繰り返し取得される。
ステップS90において、制御回路5は、ステップS40で取得した前画像、ステップS60で取得した本画像およびステップS70で取得した後画像から、ステップS20で設定した対象被写体の画像をそれぞれ抽出する。これにより、対象被写体に対応する複数の抽出画像が取得される。
ステップS100において、制御回路5は、対象被写体の位置変化の様子を表す動きベクトルを算出する。ここでは、隣接フレーム間におけるステップS90での各抽出画像の抽出位置の変化の様子、具体的には、時系列順に隣り合う2画像間における抽出位置の変化方向および変化量を、動きベクトルとして算出する。すなわち、動きベクトルの始点は、2画像のうち先に取得された画像における抽出画像の抽出位置を表し、動きベクトルの終点は、2画像のうち後に取得された画像における抽出画像の抽出位置を表している。また、動きベクトルの長さは、2画像間における抽出位置の変化量を表している。こうした動きベクトルを各画像について算出することにより、背景画像に対する対象被写体の位置と動きを示す情報が取得される。
ステップS110において、制御回路5は、ステップS90で抽出した対象被写体の抽出画像に基づいて、対象被写体の動画像を生成する。これにより、図3の動画像40が生成される。なお、ステップS110で生成された動画像には、ステップS100で算出した動きベクトルを表す情報が付加される。あるいは、動きベクトルの代わりに、背景画像に対する対象被写体の各フレームにおける位置情報を動画像に付加してもよい。このようにしても、背景画像に対する対象被写体の位置と動きを表す情報を動画像に付加することができる。
ステップS120において、制御回路5は、ステップS90で対象被写体の抽出画像を抽出した後の各画像に基づいて、背景画像を生成する。このとき前述したように、抽出画像が抽出された部分の画像情報が複数の画像を用いて補間される。これにより、図3の背景画像20が生成される。
ステップS130において、制御回路5は、ステップS60で取得した本画像、ステップS110で生成した動画像およびステップS120で生成した背景画像をそれぞれ関連付けて、記録媒体12に記録する。これにより、本画像が撮影されると共に、対象被写体を動的に再生するために必要な特殊再生用画像としての動画像と背景画像が取得され、記録媒体12に記録される。ステップS130を実行したら、制御回路5は図4の撮影処理を終了する。
次に、特殊再生用画像に基づいて撮像画像を動的に再生する処理について、図5に示す再生処理のフローチャートにより説明する。この再生処理は、図4の撮影処理によって静止画像として取得された本画像が所定の特殊再生モードにおいて選択されたときに、制御回路5において実行される。ステップS210において、制御回路5は、再生を行う特殊再生用画像としての動画像と背景画像を記録媒体12から読み込み、制御回路5内のメモリに一時的に記憶する。
ステップS220において、制御回路5は、ステップS210で読み込んだ背景画像をモニタ13に表示する。このとき前述のように、背景画像をスクロールしたり、背景画像を拡大または縮小したりしてもよい。
ステップS230において、制御回路5は、ステップS210で読み込んだ動画像に付加されている動きベクトルの情報に基づいて、背景画像に重ねて動画像を表示する際の表示位置を算出する。ここでは、動画像の最初のフレームから順に、動きベクトルの始点位置に基づいて動画像の表示位置を求める。
ステップS240において、制御回路5は、ステップS210で読み込んだ動画像をモニタ13に表示する。ここでは、ステップS220で表示した背景画像に重ねて、ステップS230で算出した表示位置に動画像を表示する。
ステップS250において、制御回路5は、再生が完了したか否かを判定する。動画像の全フレームを既に表示し終えた場合や、操作部材7の操作によって所定の停止操作が入力された場合は、再生が完了したと判定して図5のフローチャートを終了する。一方、このような再生完了の条件を満たさない場合には、まだ再生中であると判定してステップS230へ戻り、ステップS230およびS240を繰り返し実行する。こうして再生中は動画像を背景画像の上に表示し続けて、対象被写体の動きに合わせて動画像の表示位置を背景画像上で移動させる。これにより、撮像画像が動的に再生される。
なお、再生処理が終了した後は、再生前と同じ画面状態に戻ることが好ましい。たとえば、それまでモニタ13に表示されていた本画像を動的再生した場合は、動的再生後の画面ではなく、元の本画像の表示画面に戻すようにする。あるいは、動的再生を繰り返すようにしてもよい。また、このような撮像画像の動的再生をサムネイル画像において行うようにしてもよい。
以上説明した実施の形態によれば、次の作用効果が得られる。
(1)撮像装置は、制御回路5が実行する撮影処理により、被写体を撮像して得られた撮像画像に基づいて、その被写体のうちで設定された対象被写体の動画像を生成する(ステップS110)と共に、対象被写体の背景画像を生成する(ステップS120)。こうして生成された動画像および背景画像を用いて撮像画像の再生を行うことで、静止画像として取得された撮像画像を動的に再生することができる。
(1)撮像装置は、制御回路5が実行する撮影処理により、被写体を撮像して得られた撮像画像に基づいて、その被写体のうちで設定された対象被写体の動画像を生成する(ステップS110)と共に、対象被写体の背景画像を生成する(ステップS120)。こうして生成された動画像および背景画像を用いて撮像画像の再生を行うことで、静止画像として取得された撮像画像を動的に再生することができる。
(2)制御回路5は、前画像、本画像および後画像として、時系列的に複数の撮像画像を取得する(ステップS40、S60、S70)。こうして取得した複数の撮像画像に基づいて、ステップS110およびS120の処理を実行することにより、動画像と背景画像をそれぞれ生成することとしたので、動的再生に適した動画像と背景画像を生成することができる。
(3)制御回路5は、ステップS110において、複数の撮像画像よりそれぞれ抽出した対象被写体の画像に基づいて動画像を生成する。また、ステップS120において、複数の撮像画像に基づいて1つの静止画像を背景画像として生成する。したがって、通常の動画像を生成する場合と比べて、データ量を圧縮することができる。
(4)制御回路5は、ステップS110において生成した動画像に、背景画像に対する対象被写体の位置と、背景画像に対する対象被写体の動きとを示す動きベクトルの情報を付加する。このようにしたので、動的再生時に対象被写体の動きを的確に表現することができる。
(5)撮像装置は、制御回路5が実行する再生処理により、上記の撮影処理において生成された動画像および背景画像に基づいて、撮像画像を動的に再生する。具体的には、動画像と背景画像を読み込み(ステップS210)、背景画像に重ねて動画像を表示し、その動画像の表示位置を背景画像上で移動させる(ステップS240)ことにより、撮像画像を動的に再生する。このようにしたので、対象被写体の動きを的確に表現した撮像画像の動的再生を実現することができる。
なお、以上説明した実施の形態において、ステップS40で行う前画像の取得処理と、ステップS70で行う後画像の取得処理とは、いずれか一方のみを実行するようにしてもよい。すなわち、撮影時に本画像を少なくとも含む複数の撮像画像を取得できれば、前画像または後画像のいずれか一方の取得を省略してもよい。
また、以上説明したような動画像および背景画像の生成や、撮像画像の動的再生を、撮像装置以外の画像生成装置や画像再生装置において行うようにしてもよい。すなわち、撮像装置によって取得された撮像画像を画像生成装置に取り込み、これに基づいて画像生成装置が動画像と背景画像を生成してもよい。あるいは、撮像装置または画像生成装置によって生成された動画像と背景画像を画像再生装置において読み込み、これに基づいて撮像画像の動的再生を行ってもよい。
この場合、上述したような制御に関するプログラムは、CD−ROMなどの記録媒体やインターネットなどの電気通信回線を通じて提供することができる。図6は、パーソナルコンピュータを画像再生装置として使用する例を示している。パーソナルコンピュータ100は、CD−ROM102を介してプログラムの提供を受ける。あるいは、パーソナルコンピュータ100は通信回線101との接続機能を有し、サーバ103から上記のプログラムを提供されることとしてもよい。通信回線101は、インターネット、パソコン通信などの通信回線、あるいは専用通信回線などである。サーバ103は、通信回線101を介してプログラムをパーソナルコンピュータ100に送信する。すなわち、プログラムを搬送波上のデータ信号に変換して、通信回線101を介して送信する。このように、プログラムは、記録媒体や搬送波などの種々の形態のコンピュータ読み込み可能なコンピュータプログラム製品として供給できる。
上記のパーソナルコンピュータ100には、前述のような動画像および背景画像が記録された記録媒体12が装填される。パーソナルコンピュータ100は、CD−ROM102またはサーバ103から提供される画像再生プログラムに基づいて、図5のフローチャートに示す再生処理を実行する。すなわち、動画像および背景画像を記録媒体12から読み込むステップS210の処理と、読み込んだ背景画像をコンピュータ100と接続されたモニタに表示するステップS220の処理と、動画像の表示位置を算出するステップS230の処理と、動画像をモニタに表示するステップS240の処理と、再生を完了したか否かを判定するステップS250の処理とを実行する。このうちステップS220、S230およびS240の処理により、ステップS210で読み込んだ動画像および背景画像に基づいて、撮像画像がモニタに動的に再生される。すなわち、ステップS220で表示した背景画像に重ねて、ステップS240で動画像をモニタに表示させ、その動画像の表示位置をステップS230で算出した表示位置に応じて背景画像上で移動させることにより、撮像画像を動的に再生することができる。
なお、以上説明した実施の形態は、あくまで本発明の実施の形態の一例である。したがって、発明を解釈する際、上記の記載事項と特許請求の範囲の記載事項の対応関係には何ら限定も拘束もされない。また、発明の特徴が損なわれない限り、本発明は上記の記載内容に限定されるものでもない。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特許出願2008年第244361号(2008年9月24日出願)
日本国特許出願2008年第244361号(2008年9月24日出願)
1:撮像素子、2:撮影レンズ、3:レンズ駆動回路、5:制御回路、7:操作部材、
8:撮像素子駆動回路、9:信号処理回路、10:データ処理回路、
11:圧縮/伸張回路、12:記録媒体、13:モニタ、14:表示制御回路、
15:測光回路、16:振れ検出センサ
8:撮像素子駆動回路、9:信号処理回路、10:データ処理回路、
11:圧縮/伸張回路、12:記録媒体、13:モニタ、14:表示制御回路、
15:測光回路、16:振れ検出センサ
Claims (8)
- 被写体を時系列的に撮像して得られた複数の撮像画像に基づいて前記被写体のうち対象被写体の動画像を生成する動画像生成手段と、
前記撮像画像に基づいて前記対象被写体の背景画像を生成する背景画像生成手段とを備える画像生成装置。 - 請求項1に記載の画像生成装置において、
前記動画像生成手段は、複数の前記撮像画像よりそれぞれ抽出した前記対象被写体の画像に基づいて前記動画像を生成し、
前記背景画像生成手段は、複数の前記撮像画像に基づいて1つの静止画像を前記背景画像として生成する。 - 請求項2に記載の画像生成装置において、
前記動画像には、前記背景画像に対する前記対象被写体の位置と、前記背景画像に対する前記対象被写体の動きとを示す情報が付加される。 - 請求項1〜3のいずれか一項に記載の画像生成装置と、
前記被写体を撮像して前記撮像画像を取得する撮像手段とを備える撮像装置。 - 請求項1〜3のいずれか一項に記載の画像生成装置により生成された前記動画像および前記背景画像に基づいて、前記撮像画像を動的に再生する画像再生装置。
- 請求項5に記載の画像再生装置において、
前記背景画像に重ねて前記動画像を表示し、前記動画像の表示位置を前記背景画像上で移動させることにより、前記撮像画像が動的に再生される。 - 請求項1〜3のいずれか一項に記載の画像生成装置により生成された前記動画像および前記背景画像に基づいて、前記撮像画像をモニタに接続されたコンピュータにより動的に再生するための画像再生プログラムは、
前記コンピュータに前記動画像および前記背景画像を読み込ませる読み込みステップと、
前記コンピュータが前記読み込みステップで読み込んだ動画像および背景画像に基づいて、前記コンピュータに前記撮像画像を前記モニタに動的に再生表示させる再生ステップとを前記コンピュータに実行させる。 - 請求項7に記載の画像再生プログラムにおいて、
前記再生ステップでは、前記背景画像に重ねて前記動画像を前記モニタに表示させ、前記動画像の表示位置を前記背景画像上で移動させることにより、前記コンピュータに前記撮像画像を前記モニタに動的に再生させる。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008244361 | 2008-09-24 | ||
JP2008244361 | 2008-09-24 | ||
PCT/JP2009/066535 WO2010035752A1 (ja) | 2008-09-24 | 2009-09-24 | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013131844A Division JP2013229914A (ja) | 2008-09-24 | 2013-06-24 | 撮像装置、画像再生装置、画像再生プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2010035752A1 true JPWO2010035752A1 (ja) | 2012-02-23 |
Family
ID=42059750
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010530855A Pending JPWO2010035752A1 (ja) | 2008-09-24 | 2009-09-24 | 画像生成装置、撮像装置、画像再生装置、画像再生プログラム |
JP2013131844A Pending JP2013229914A (ja) | 2008-09-24 | 2013-06-24 | 撮像装置、画像再生装置、画像再生プログラム |
JP2014253450A Pending JP2015053741A (ja) | 2008-09-24 | 2014-12-15 | 画像再生装置 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013131844A Pending JP2013229914A (ja) | 2008-09-24 | 2013-06-24 | 撮像装置、画像再生装置、画像再生プログラム |
JP2014253450A Pending JP2015053741A (ja) | 2008-09-24 | 2014-12-15 | 画像再生装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9060160B2 (ja) |
JP (3) | JPWO2010035752A1 (ja) |
WO (1) | WO2010035752A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012134775A (ja) * | 2010-12-21 | 2012-07-12 | Nikon Systems Inc | 画像処理装置、撮像装置、および画像処理プログラム |
JP5806007B2 (ja) * | 2011-06-15 | 2015-11-10 | オリンパス株式会社 | 撮像装置 |
JP6056551B2 (ja) * | 2013-02-28 | 2017-01-11 | 株式会社ニコン | 画像処理プログラムおよびデジタルカメラ |
KR20150030082A (ko) * | 2013-09-11 | 2015-03-19 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
JP6368618B2 (ja) * | 2014-10-30 | 2018-08-01 | オリンパス株式会社 | 撮像装置、撮像装置の制御方法、およびプログラム |
US10170157B2 (en) * | 2015-06-07 | 2019-01-01 | Apple Inc. | Method and apparatus for finding and using video portions that are relevant to adjacent still images |
CN109547711A (zh) | 2018-11-08 | 2019-03-29 | 北京微播视界科技有限公司 | 视频合成方法、装置、计算机设备及可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004214830A (ja) * | 2002-12-27 | 2004-07-29 | Iwane Kenkyusho:Kk | 一部リアルタイム画像表示装置 |
JP2008035028A (ja) * | 2006-07-27 | 2008-02-14 | Sony Corp | 画像処理装置、画像処理方法およびプログラム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3603629B2 (ja) | 1998-12-24 | 2004-12-22 | カシオ計算機株式会社 | 画像処理装置及び画像処理方法 |
US6678413B1 (en) * | 2000-11-24 | 2004-01-13 | Yiqing Liang | System and method for object identification and behavior characterization using video analysis |
JP3982316B2 (ja) | 2002-04-25 | 2007-09-26 | ソニー株式会社 | 画像処理装置と画像処理方法及び画像処理プログラム |
US8643788B2 (en) * | 2002-04-25 | 2014-02-04 | Sony Corporation | Image processing apparatus, image processing method, and image processing program |
JP3849645B2 (ja) * | 2003-01-20 | 2006-11-22 | ソニー株式会社 | 監視装置 |
JP2004312493A (ja) | 2003-04-09 | 2004-11-04 | Nippon Telegr & Teleph Corp <Ntt> | 動画像生成方法,動画像生成装置,動画像生成プログラム,動画像生成プログラムを記録した記録媒体 |
JP2005109648A (ja) | 2003-09-29 | 2005-04-21 | Matsushita Electric Ind Co Ltd | 撮像装置及び動画生成方法 |
US7702131B2 (en) * | 2005-10-13 | 2010-04-20 | Fujifilm Corporation | Segmenting images and simulating motion blur using an image sequence |
JP4499693B2 (ja) * | 2006-05-08 | 2010-07-07 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2007304675A (ja) | 2006-05-09 | 2007-11-22 | Fujifilm Corp | 画像合成方法および装置ならびにプログラム |
JP2008078958A (ja) * | 2006-09-21 | 2008-04-03 | Sony Corp | 映像表示プログラムおよび映像表示システム |
JP2008118481A (ja) | 2006-11-06 | 2008-05-22 | Canon Inc | 画像記録装置、画像記録方法、プログラム及び記憶媒体 |
JP4957263B2 (ja) * | 2007-01-23 | 2012-06-20 | カシオ計算機株式会社 | 撮像装置、撮像方法及びそのプログラム |
-
2009
- 2009-09-24 JP JP2010530855A patent/JPWO2010035752A1/ja active Pending
- 2009-09-24 US US13/120,783 patent/US9060160B2/en not_active Expired - Fee Related
- 2009-09-24 WO PCT/JP2009/066535 patent/WO2010035752A1/ja active Application Filing
-
2013
- 2013-06-24 JP JP2013131844A patent/JP2013229914A/ja active Pending
-
2014
- 2014-12-15 JP JP2014253450A patent/JP2015053741A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004214830A (ja) * | 2002-12-27 | 2004-07-29 | Iwane Kenkyusho:Kk | 一部リアルタイム画像表示装置 |
JP2008035028A (ja) * | 2006-07-27 | 2008-02-14 | Sony Corp | 画像処理装置、画像処理方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20120062759A1 (en) | 2012-03-15 |
JP2015053741A (ja) | 2015-03-19 |
WO2010035752A1 (ja) | 2010-04-01 |
US9060160B2 (en) | 2015-06-16 |
JP2013229914A (ja) | 2013-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5235798B2 (ja) | 撮影装置及びその制御方法 | |
TWI326553B (en) | Imaging apparatus, data extraction method, and data extraction program | |
JP2015053741A (ja) | 画像再生装置 | |
JP5377768B2 (ja) | 画像処理方法及び装置 | |
JP2009147730A (ja) | 動画生成装置、動画撮影装置、動画生成方法及びプログラム | |
KR101433121B1 (ko) | 소정의 종횡비의 합성 화상을 생성하는 화상 처리 장치 | |
JP2007135133A (ja) | 撮像装置 | |
JP2012222495A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4760725B2 (ja) | 画像再生装置、画像表示方法及びプログラム | |
JP4792929B2 (ja) | デジタルカメラ | |
JP2007124397A (ja) | 画像処理装置および画像処理方法 | |
JP2013110754A (ja) | カメラ装置、及びその撮影方法とプログラム | |
JP5402242B2 (ja) | 画像再生装置、撮像装置、画像再生方法、画像再生プログラム | |
JP2010193324A (ja) | カメラ装置、及びその撮影方法とプログラム | |
JP2010171491A (ja) | 撮影装置、撮影方法及びプログラム | |
JP2010263270A (ja) | 撮像装置 | |
JP4665826B2 (ja) | 撮像装置および画像処理プログラム | |
JP4888829B2 (ja) | 動画処理装置、動画撮影装置および動画撮影プログラム | |
JP2007166539A (ja) | 撮像装置、撮像方法、プログラムおよび記憶媒体 | |
JP5332668B2 (ja) | 撮像装置および被写体検出プログラム | |
JP2020061760A (ja) | 撮像装置 | |
JP5041050B2 (ja) | 撮像装置および画像処理プログラム | |
JP5648563B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4962597B2 (ja) | 電子カメラ及びプログラム | |
JP5641352B2 (ja) | 画像処理装置、画像処理方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120912 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130204 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130326 |