JP7156367B2 - 動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラム - Google Patents
動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラム Download PDFInfo
- Publication number
- JP7156367B2 JP7156367B2 JP2020510931A JP2020510931A JP7156367B2 JP 7156367 B2 JP7156367 B2 JP 7156367B2 JP 2020510931 A JP2020510931 A JP 2020510931A JP 2020510931 A JP2020510931 A JP 2020510931A JP 7156367 B2 JP7156367 B2 JP 7156367B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- image processing
- area
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006835 compression Effects 0.000 title claims description 119
- 238000007906 compression Methods 0.000 title claims description 113
- 230000006837 decompression Effects 0.000 title claims description 49
- 238000003384 imaging method Methods 0.000 claims description 486
- 238000001514 detection method Methods 0.000 claims description 82
- 238000000034 method Methods 0.000 description 57
- 230000035945 sensitivity Effects 0.000 description 51
- 230000000875 corresponding effect Effects 0.000 description 50
- 230000008569 process Effects 0.000 description 41
- 238000010586 diagram Methods 0.000 description 34
- 238000007781 pre-processing Methods 0.000 description 29
- 230000035508 accumulation Effects 0.000 description 13
- 238000009825 accumulation Methods 0.000 description 13
- 230000015654 memory Effects 0.000 description 8
- 230000003321 amplification Effects 0.000 description 7
- 238000003199 nucleic acid amplification method Methods 0.000 description 7
- 238000009792 diffusion process Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000010191 image analysis Methods 0.000 description 6
- 239000004973 liquid crystal related substance Substances 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- AWSBQWZZLBPUQH-UHFFFAOYSA-N mdat Chemical compound C1=C2CC(N)CCC2=CC2=C1OCO2 AWSBQWZZLBPUQH-UHFFFAOYSA-N 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 238000002161 passivation Methods 0.000 description 1
- 239000012071 phase Substances 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 229910000679 solder Inorganic materials 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000007790 solid phase Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/537—Motion estimation other than block-based
- H04N19/543—Motion estimation other than block-based using regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/57—Motion estimation characterised by a search window with variable size or shape
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/573—Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
- H04N25/583—Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/778—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本出願は、平成30年(2018年)3月30日に出願された日本出願である特願2018-70199の優先権を主張し、その内容を参照することにより、本出願に取り込む。
本発明は、動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラムに関する。
領域ごとに異なる撮像条件を設定可能な撮像素子を搭載した撮像装置が知られている(特許文献1参照)。しかしながら、異なる撮像条件で撮像されたフレームの動画圧縮は従来考慮されていない。
本開示技術の動画圧縮装置は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮する動画圧縮装置であって、前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する画像処理部と、前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームとのブロックマッチングに基づいて圧縮する圧縮部と、を有する。
本開示技術の他の動画圧縮装置は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮する動画圧縮装置であって、前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する画像処理部と、前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮する圧縮部と、を有する。
本開示技術の伸張装置は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮した圧縮ファイルを伸張する伸張装置であって、前記圧縮ファイル内の圧縮フレームを前記フレームに伸張する伸張部と、前記伸張部によって伸張されたフレーム内の前記第2撮像条件に基づく画像処理が実行された特定被写体の画像データについて、前記第2撮像条件と前記第1撮像条件とに基づく画像処理を実行する画像処理部と、を有する。
本開示技術の電子機器は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子と、前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する実行する画像処理部と、前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームとのブロックマッチングに基づいて圧縮する圧縮部と、を有する。
本開示技術の他の電子機器は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子と、前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する実行する画像処理部と、前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮する圧縮部と、を有する。
本開示技術の動画圧縮プログラムは、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームの圧縮をプロセッサに実行させる動画圧縮プログラムであって、前記プロセッサに、前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行させ、前記画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮させる。
本開示技術の伸張プログラムは、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮した圧縮ファイルをプロセッサに伸張させる伸張プログラムであって、前記プロセッサに、前記圧縮ファイル内の圧縮フレームを前記フレームに伸張させ、伸張された前記フレーム内の前記第2撮像条件に基づく画像処理が実行された特定被写体の画像データについて、前記第2撮像条件と前記第1撮像条件とに基づく画像処理を実行させる。
<撮像素子の構成例>
初めに、電子機器に搭載する積層型撮像素子について説明する。なお、この積層型撮像素子は、本願出願人が先に出願した特願2012-139026号に記載されているものである。電子機器は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置である。
初めに、電子機器に搭載する積層型撮像素子について説明する。なお、この積層型撮像素子は、本願出願人が先に出願した特願2012-139026号に記載されているものである。電子機器は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置である。
図1は、積層型撮像素子100の断面図である。積層型撮像素子(以下、単に、「撮像素子」)100は、入射光に対応した画素信号を出力する裏面照射型撮像チップ(以下、単に、「撮像チップ」)113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cuなどの導電性を有するバンプ109により互いに電気的に接続される。
なお、図1に示すように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸120に示すように、Z軸に直交する紙面左方向をX軸プラス方向、Z軸およびX軸に直交する紙面手前方向をY軸プラス方向とする。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
撮像チップ113の一例は、裏面照射型のMOS(Metal Oxide Semiconductor)イメージセンサである。PD(フォトダイオード)層106は、配線層108の裏面側に配されている。PD層106は、二次元的に配され、入射光に応じた電荷を蓄積する複数のPD104、および、PD104に対応して設けられたトランジスタ105を有する。
PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、PD104のそれぞれに対応して特定の配列を有している。カラーフィルタ102の配列については後述する。カラーフィルタ102、PD104およびトランジスタ105の組が、一つの画素を形成する。
カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応するPD104へ向けて入射光を集光する。
配線層108は、PD層106からの画素信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子および能動素子が設けられてもよい。
配線層108の表面には複数のバンプ109が配される。当該複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされて、撮像チップ113と信号処理チップ111とが加圧などされることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
同様に、信号処理チップ111およびメモリチップ112の互いに対向する面には、複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされて、信号処理チップ111とメモリチップ112とが加圧などされることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用してもよい。また、バンプ109は、たとえば、後述する一つのブロックに対して一つ程度設ければよい。したがって、バンプ109の大きさは、PD104のピッチよりも大きくてもよい。また、画素が配列された画素領域以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けてもよい。
信号処理チップ111は、表裏面にそれぞれ設けられた回路を互いに接続するTSV(シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられることが好ましい。また、TSV110は、撮像チップ113の周辺領域、メモリチップ112にも設けられてよい。
図2は、撮像チップ113の画素配列を説明する図である。特に、撮像チップ113を裏面側から観察した様子を示す。(a)は、撮像チップ113の裏面である撮像面200を模式的に示す平面図であり、(b)は、撮像面200の一部領域200aを拡大した平面図である。(b)に示すように、撮像面200には、画素201が二次元状に多数配列されている。
画素201は、それぞれ不図示の色フィルタを有している。色フィルタは、赤(R)、緑(G)、青(B)の3種類からなり、(b)における「R」、「G」、および「B」という表記は、画素201が有する色フィルタの種類を表している。(b)に示すように、撮像素子100の撮像面200には、このような各色フィルタを備えた画素201が、いわゆるベイヤー配列に従って配列されている。
赤フィルタを有する画素201は、入射光のうち、赤色の波長帯の光を光電変換して受光信号(光電変換信号)を出力する。同様に、緑フィルタを有する画素201は、入射光のうち、緑色の波長帯の光を光電変換して受光信号を出力する。また、青フィルタを有する画素201は、入射光のうち、青色の波長帯の光を光電変換して受光信号を出力する。
撮像素子100は、隣接する2画素×2画素の計4つの画素201から成るブロック202ごとに、個別に制御可能に構成されている。たとえば、互いに異なる2つのブロック202について、同時に電荷蓄積を開始したときに、一方のブロック202では電荷蓄積開始から1/30秒後に電荷の読み出し、すなわち受光信号の読み出しを行い、他方のブロック202では電荷蓄積開始から1/15秒後に電荷の読み出しを行うことができる。換言すると、撮像素子100は、1回の撮像において、ブロック202ごとに異なる露光時間(電荷蓄積時間であり、いわゆるシャッタースピード)を設定することができる。
撮像素子100は、上述した露光時間以外にも、撮像信号の増幅率(いわゆるISO感度)をブロック202ごとに異ならせることが可能である。撮像素子100は、電荷蓄積を開始するタイミングや受光信号を読み出すタイミングをブロック202ごとに変化させることができる。また、撮像素子100は、動画撮像時のフレームレートをブロック202ごとに変化させることができる。
以上をまとめると、撮像素子100は、ブロック202ごとに、露光時間、増幅率、フレームレートなどの撮像条件を異ならせることが可能に構成されている。たとえば、画素201が有する不図示の光電変換部から撮像信号を読み出すための不図示の読み出し線が、ブロック202ごとに設けられ、ブロック202ごとに独立して撮像信号を読み出し可能に構成すれば、ブロック202ごとに露光時間(シャッタースピード)を異ならせることができる。
また、光電変換された電荷により生成された撮像信号を増幅する不図示の増幅回路をブロック202ごとに独立して設け、増幅回路による増幅率を増幅回路ごとに独立して制御可能に構成すれば、ブロック202ごとに信号の増幅率(ISO感度)を異ならせることができる。
また、ブロック202ごとに異ならせることが可能な撮像条件は、上述した撮像条件のほか、フレームレート、ゲイン、解像度(間引き率)、画素信号を加算する加算行数または加算列数、電荷の蓄積時間または蓄積回数、デジタル化のビット数などである。さらに、制御パラメータは、画素からの画像信号取得後の画像処理におけるパラメータであってもよい。
また、撮像条件は、たとえば、ブロック202ごとに独立して制御可能な区画(1区画が1つのブロック202に対応する)を有する液晶パネルを撮像素子100に設け、オンオフ可能な減光フィルタとして利用すれば、ブロック202ごとに明るさ(絞り値)を制御することが可能になる。
なお、ブロック202を構成する画素201の数は、上述した2×2の4画素でなくてもよい。ブロック202は、少なくとも1個の画素201を有していればよいし、逆に、4個より多くの画素201を有していてもよい。
図3は、撮像チップ113の回路図である。図3において、代表的に点線で囲む矩形が、1つの画素201に対応する回路を表す。また、一点鎖線で囲む矩形が1つのブロック202(202-1~202-4)に対応する。なお、以下に説明する各トランジスタの少なくとも一部は、図1のトランジスタ105に対応する。
上述したように、画素201のリセットトランジスタ303は、ブロック202単位でオン/オフされる。また、画素201の転送トランジスタ302も、ブロック202単位でオン/オフされる。図3に示す例において、左上ブロック202-1に対応する4つのリセットトランジスタ303をオン/オフするためのリセット配線300-1が設けられており、同ブロック202-1に対応する4つの転送トランジスタ302に転送パルスを供給するためのTX配線307-1も設けられる。
同様に、左下ブロック202-3に対応する4つのリセットトランジスタ303をオン/オフするためのリセット配線300-3が、上記リセット配線300-1とは別個に設けられる。また、同ブロック202-3に対応する4つの転送トランジスタ302に転送パルスを供給するためのTX配線307-3が、上記TX配線307-1と別個に設けられる。
右上ブロック202-2や右下ブロック202-4についても同様に、それぞれリセット配線300-2とTX配線307-2、およびリセット配線300-4とTX配線307-4が、それぞれのブロック202に設けられている。
各画素201に対応する16個のPD104は、それぞれ対応する転送トランジスタ302に接続される。各転送トランジスタ302のゲートには、上記ブロック202ごとのTX配線を介して転送パルスが供給される。各転送トランジスタ302のドレインは、対応するリセットトランジスタ303のソースに接続されるとともに、転送トランジスタ302のドレインとリセットトランジスタ303のソース間のいわゆるフローティングディフュージョンFDが、対応する増幅トランジスタ304のゲートに接続される。
各リセットトランジスタ303のドレインは、電源電圧が供給されるVdd配線310に共通に接続される。各リセットトランジスタ303のゲートには、上記ブロック202ごとのリセット配線を介してリセットパルスが供給される。
各増幅トランジスタ304のドレインは、電源電圧が供給されるVdd配線310に共通に接続される。また、各増幅トランジスタ304のソースは、対応する選択トランジスタ305のドレインに接続される。各選択トランジスタ305のゲートには、選択パルスが供給されるデコーダ配線308に接続される。デコーダ配線308は、16個の選択トランジスタ305に対してそれぞれ独立に設けられる。
そして、各々の選択トランジスタ305のソースは、共通の出力配線309に接続される。負荷電流源311は、出力配線309に電流を供給する。すなわち、選択トランジスタ305に対する出力配線309は、ソースフォロアにより形成される。なお、負荷電流源311は、撮像チップ113側に設けてもよいし、信号処理チップ111側に設けてもよい。
ここで、電荷の蓄積開始から蓄積終了後の画素出力までの流れを説明する。上記ブロック202ごとのリセット配線を通じてリセットパルスがリセットトランジスタ303に印加され、同時に上記ブロック202(202-1~202-4)ごとのTX配線を通じて転送パルスが転送トランジスタ302に印加されると、上記ブロック202ごとに、PD104およびフローティングディフュージョンFDの電位がリセットされる。
各PD104は、転送パルスの印加が解除されると、受光する入射光を電荷に変換して蓄積する。その後、リセットパルスが印加されていない状態で再び転送パルスが印加されると、蓄積された電荷はフローティングディフュージョンFDへ転送され、フローティングディフュージョンFDの電位は、リセット電位から電荷蓄積後の信号電位になる。
そして、デコーダ配線308を通じて選択パルスが選択トランジスタ305に印加されると、フローティングディフュージョンFDの信号電位の変動が、増幅トランジスタ304および選択トランジスタ305を介して出力配線309に伝わる。これにより、リセット電位と信号電位とに対応する画素信号は、単位画素から出力配線309に出力される。
上述したように、ブロック202を形成する4画素に対して、リセット配線とTX配線が共通である。すなわち、リセットパルスと転送パルスはそれぞれ、同ブロック202内の4画素に対して同時に印加される。したがって、あるブロック202を形成するすべての画素201は、同一のタイミングで電荷蓄積を開始し、同一のタイミングで電荷蓄積を終了する。ただし、蓄積された電荷に対応する画素信号は、それぞれの選択トランジスタ305に選択パルスが順次印加されることにより、選択的に出力配線309から出力される。
このように、ブロック202ごとに電荷蓄積開始タイミングを制御することができる。換言すると、異なるブロック202間では、異なったタイミングで撮像することができる。
図4は、撮像素子100の機能的構成例を示すブロック図である。アナログのマルチプレクサ411は、ブロック202を形成する16個のPD104を順番に選択して、それぞれの画素信号を当該ブロック202に対応して設けられた出力配線309へ出力させる。マルチプレクサ411は、PD104と共に、撮像チップ113に形成される。
マルチプレクサ411を介して出力された画素信号は、信号処理チップ111に形成された、相関二重サンプリング(CDS)・アナログ/デジタル(A/D)変換を行う信号処理回路412により、CDSおよびA/D変換が行われる。A/D変換された画素信号は、デマルチプレクサ413に引き渡され、それぞれの画素に対応する画素メモリ414に格納される。デマルチプレクサ413および画素メモリ414は、メモリチップ112に形成される。
演算回路415は、画素メモリ414に格納された画素信号を処理して後段の画像処理部に引き渡す。演算回路415は、信号処理チップ111に設けられてもよいし、メモリチップ112に設けられてもよい。なお、図4では4つのブロック202の分の接続を示すが、実際にはこれらが4つのブロック202ごとに存在して、並列で動作する。
ただし、演算回路415は4つのブロック202ごとに存在しなくてもよく、たとえば、一つの演算回路415がそれぞれの4つのブロック202に対応する画素メモリ414の値を順に参照しながらシーケンシャルに処理してもよい。
上記の通り、ブロック202のそれぞれに対応して出力配線309が設けられている。撮像素子100は撮像チップ113、信号処理チップ111およびメモリチップ112を積層しているので、これら出力配線309にバンプ109を用いたチップ間の電気的接続を用いることにより、各チップを面方向に大きくすることなく配線を引き回すことができる。
<電子機器のブロック構成例>
図5は、電子機器のブロック構成例を示す説明図である。電子機器500は、たとえば、レンズ一体型のカメラである。電子機器500は、撮像光学系501と、撮像素子100と、制御部502と、液晶モニタ503と、メモリカード504と、操作部505と、DRAM506と、フラッシュメモリ507と、録音部508とを備える。制御部502は、後述するように動画データを圧縮する圧縮部を含む。したがって、電子機器500のうち、少なくとも制御部502を含む構成が動画圧縮装置や伸張装置、再生装置となる。また、メモリカード504、DRAM506、およびフラッシュメモリ507は、後述する記憶デバイス703を構成する。
図5は、電子機器のブロック構成例を示す説明図である。電子機器500は、たとえば、レンズ一体型のカメラである。電子機器500は、撮像光学系501と、撮像素子100と、制御部502と、液晶モニタ503と、メモリカード504と、操作部505と、DRAM506と、フラッシュメモリ507と、録音部508とを備える。制御部502は、後述するように動画データを圧縮する圧縮部を含む。したがって、電子機器500のうち、少なくとも制御部502を含む構成が動画圧縮装置や伸張装置、再生装置となる。また、メモリカード504、DRAM506、およびフラッシュメモリ507は、後述する記憶デバイス703を構成する。
撮像光学系501は、複数のレンズから構成され、撮像素子100の撮像面200に被写体像を結像させる。なお、図5では、便宜上、撮像光学系501を1枚のレンズとして図示している。
撮像素子100は、たとえば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子であり、撮像光学系501により結像された被写体像を撮像して撮像信号を出力する。制御部502は、電子機器500の各部を制御する電子回路であり、プロセッサとその周辺回路とから構成される。
不揮発性の記憶媒体であるフラッシュメモリ507には、予め所定の制御プログラムが書き込まれている。制御部502のプロセッサは、フラッシュメモリ507から制御プログラムを読み込んで実行することにより、各部の制御を行う。この制御プログラムは、揮発性の記憶媒体であるDRAM506を作業用領域として使用する。
液晶モニタ503は、液晶パネルを利用した表示装置である。制御部502は、所定周期(たとえば60分の1秒)ごとに撮像素子100に繰り返し被写体像を撮像させる。そして、撮像素子100から出力された撮像信号に種々の画像処理を実行していわゆるスルー画を作成し、液晶モニタ503に表示する。液晶モニタ503には、上記のスルー画以外に、たとえば撮像条件を設定する設定画面などが表示される。
制御部502は、撮像素子100から出力された撮像信号に基づき、後述する画像ファイルを作成し、可搬性の記録媒体であるメモリカード504に画像ファイルを記録する。操作部505は、プッシュボタンなどの種々の操作部材を有し、それら操作部材が操作されたことに応じて制御部502に操作信号を出力する。
録音部508は、たとえば、マイクロフォンにより構成され、環境音を音声信号に変換して制御部502に入力する。なお、制御部502は、可搬性の記録媒体であるメモリカード504に動画ファイルを記録するのではなく、電子機器500に内蔵されたSSD(Solid State Drive)やハードディスクのような不図示の記録媒体に記録してもよい。
<撮像面200と被写体像との関係>
図6は、撮像面200と被写体像との関係を示す説明図である。(a)は、撮像素子100の撮像面200(撮像範囲)と被写体像601とを模式的に示す。(a)において、制御部502は、被写体像601を撮像する。(a)の撮像は、たとえばライブビュー画像(いわゆるスルー画)の作成のために行われる撮像を兼ねていてもよい。
図6は、撮像面200と被写体像との関係を示す説明図である。(a)は、撮像素子100の撮像面200(撮像範囲)と被写体像601とを模式的に示す。(a)において、制御部502は、被写体像601を撮像する。(a)の撮像は、たとえばライブビュー画像(いわゆるスルー画)の作成のために行われる撮像を兼ねていてもよい。
制御部502は、(a)の撮像により得られた被写体像601に対して、所定の画像解析処理を実行する。画像解析処理は、たとえば周知の被写体検出技術(特徴量を演算して所定の被写体が存在する範囲を検出する技術)により、主要被写体を検出する処理である。実施例1では、主要被写体以外は背景とする。画像解析処理によって、主要被写体が検出されるため、撮像面200は、主要被写体が存在する主要被写体領域602と、背景が存在する背景領域603とに分割される。
なお、(a)では、被写体像601を大まかに含む領域を主要被写体領域602として図示しているが、主要被写体領域602は、被写体像601の外形に沿った形状であってもよい。つまり、被写体像601以外のものをできるだけ含まないように主要被写体領域602を設定してもよい。
制御部502は、主要被写体領域602内の各ブロック202と、背景領域603内の各ブロック202とで、異なる撮像条件を設定する。たとえば、前者の各ブロック202には、後者の各ブロック202に比べて高速なシャッタースピードを設定する。このようにすると、(a)の撮像の次に撮像される(c)の撮像において、主要被写体領域602では像ぶれが発生しにくくなる。
また、制御部502は、背景領域603に存在する太陽などの光源の影響で、主要被写体領域602が逆光状態となっている場合には、前者の各ブロック202に、相対的に高めのISO感度を設定したり、低速なシャッタースピードを設定したりする。また、制御部502は、後者の各ブロック202に、相対的に低めのISO感度を設定したり、高速なシャッタースピードを設定したりする。このようにすると、(c)の撮像において、逆光状態の主要被写体領域602の黒つぶれや、光量の大きい背景領域603の白飛びを防止することができる。
なお、画像解析処理は、上述した主要被写体領域602を検出する処理とは異なる処理であってもよい。たとえば、撮像面200全体のうち、明るさが一定以上の部分(明るすぎる部分)や明るさが一定未満の部分(暗すぎる部分)を検出する処理であってもよい。画像解析処理をこのような処理とした場合、制御部502は、前者の領域に含まれるブロック202について、露出値(Ev値)が他の領域に含まれるブロック202よりも低くなるように、シャッタースピードやISO感度を設定してもよい。
また、制御部502は、後者の領域に含まれるブロック202については、露出値(Ev値)が他の領域に含まれるブロック202よりも高くなるように、シャッタースピードやISO感度を設定する。このようにすることで、(c)の撮像により得られる画像のダイナミックレンジを、撮像素子100の本来のダイナミックレンジよりも広げることができる。
図6の(b)は、(a)に示した撮像面200に対応するマスク情報604の一例を示す。主要被写体領域602に属するブロック202の位置には「1」が、背景領域603に属するブロック202の位置には「2」がそれぞれ格納されている。
制御部502は、1フレーム目の画像データに対して、画像解析処理を実行し、主要被写体領域602を検出する。これにより、(a)の撮像によるフレームは、(b)に示すように、主要被写体領域602と、主要被写体領域602とならなかった領域である背景領域603とに分割される。制御部502は、主要被写体領域602内の各ブロック202と、背景領域603内の各ブロック202とで、異なる撮像条件を設定して、(c)の撮像を行い、画像データを作成する。このときのマスク情報604の例を、(d)に示す。
(a)の撮像の結果に対応する(b)のマスク情報604と、(c)の撮像の結果に対応する(d)のマスク情報604とでは、異なる時刻に撮像を行っている(時間差がある)ため、たとえば、被写体が移動している場合や、ユーザが電子機器500を動かした場合に、これら2つのマスク情報604が異なる内容になる。換言すると、マスク情報604は、時間経過に伴い変化する動的情報である。従って、あるブロック202において、フレームごとに異なる撮像条件が設定されることになる。
以下、上述した撮像素子100を用いた動画の圧縮、伸張、および再生の実施例について説明する。従来では、撮像素子100の撮像面200に設定された複数の撮像領域の各々について異なる撮像条件(たとえば、ISO感度)を設定しても、撮像後にある撮像領域のISO感度を変更するような画像処理(補正)を実行することが考慮されていない。したがって、動画圧縮時のブロックマッチング精度が低減する。本実施例では、撮像後においても、変更したかった撮像条件で撮像されたかのように画像処理を実行することが可能である。これにより、動画圧縮時のブロックマッチング精度の向上を図る。
<動画圧縮例>
図7は、実施例1にかかる動画圧縮例を示す説明図である。電子機器500は、上述した撮像素子100と、制御部502と、を有する。制御部502は、画像処理部701と、圧縮部702と、を含む。撮像素子100は、上述したように、被写体を撮像する撮像領域を複数有する。撮像領域は、少なくとも1画素以上の画素集合であり、たとえば、上述した1以上のブロック202である。以下では、撮像領域にブロック202ごとにISO感度を設定する例を説明する。
図7は、実施例1にかかる動画圧縮例を示す説明図である。電子機器500は、上述した撮像素子100と、制御部502と、を有する。制御部502は、画像処理部701と、圧縮部702と、を含む。撮像素子100は、上述したように、被写体を撮像する撮像領域を複数有する。撮像領域は、少なくとも1画素以上の画素集合であり、たとえば、上述した1以上のブロック202である。以下では、撮像領域にブロック202ごとにISO感度を設定する例を説明する。
ここでは、撮像領域のうち、第1撮像領域には、第1撮像条件(たとえば、ISO感度100)が設定され、第1撮像領域以外の第2撮像領域には、第1撮像条件と値が異なる第2撮像条件(たとえば、ISO感度200)が設定される。なお、第1撮像条件および第2撮像条件の値は一例である。第2撮像条件のISO感度が第1撮像条件のISO感度よりも高感度であってもよく、また低感度であってもよい。
撮像素子100は、被写体を撮像して、画像信号を一連のフレームとして画像処理部701に出力する。図7では、時間方向に連続するフレームをFi‐1,Fiと表記する(iは2≦の整数)。フレームFi‐1は、フレームFiの先行フレームである。また、フレームFiの次のフレームをフレームFi+1と表記する。フレームFi-1の先行フレームをフレームFi-2と表記する。なお、フレームを区別しない場合は、単にフレームFと表記する。フレームF内において、撮像素子100のある撮像領域で撮像されて生成された画像データの領域を「画像領域」と称す。
本例では、撮像素子100の全撮像領域が第1撮像領域、すなわち、第1撮像条件(ISO感度100)に設定されるものとする。また、第1撮像領域のうち、被写体が存在または存在するであろう撮像領域が第2撮像領域であり、第2撮像条件(ISO感度200)に設定される。第1撮像領域での撮像により出力される画像データの領域を第1画像領域とし、第2撮像領域での撮像により出力される画像データの領域を第2画像領域とする。
画像領域は、たとえば、撮像素子100の撮像領域に対応した複数の領域である。図7では、例として、フレームFは、4×4の画像領域で構成される。1つの画像領域は、1以上の画素の集合により構成され、1以上のブロック202(撮像領域)に対応する。第1撮像領域に対応する画像領域を第1画像領域と称し、第2撮像領域に対応する画像領域を第2画像領域と称す。したがって、第1画像領域には、第1撮像条件(ISO感度100)で撮像されて生成された画像データが存在し、第2画像領域には、第2撮像条件(ISO感度200)で撮像されて生成された画像データが存在する。
また、フレームFには、背景ではない特定被写体700が含まれているものとする。(A)では、被写体検出により、フレームFi‐1内の被写体が存在する右下の2×2の画像領域B33、B34、B43、B44が、第2撮像条件(ISO感度200)に設定された第2撮像領域に対応する第2画像領域となる。
また、フレームFi内の特定被写体700が存在する中央左側の縦の2つの画像領域B22、B32は、1つ前のフレームFi-1とフレームFi-2(不図示)との間における特定被写体700の位置の予測で、第2撮像条件(ISO感度200)に設定された第2撮像領域に対応する第2画像領域である。特定被写体700の位置予測の結果、第2撮像領域および対応する第2画像領域が予測される。また、実際の特定被写体700は、第2画像領域B22、B32での位置予測が外れたことにより、左端中央の画像領域B21、B22に位置するものとする。
画像処理部701は、第1撮像条件(ISO感度100)で撮像された特定被写体700が存在する画像領域の画像データについて、第2撮像条件(ISO感度200)に相当する画像処理(以下、「第2画像処理」と称す。)を実行する。具体的には、たとえば、画像処理部701は、フレームFiの特定被写体700が存在する第1画像領域B21、B31の画像データについて、第2画像処理を実行する。第2画像処理は、第1撮像条件(ISO感度100)で撮像された第1画像領域の画像データを、あたかも第2撮像条件で撮像されたかのように補正する画像処理である。
すなわち、第2画像処理では、撮像後にISO感度が2N倍(Nは1以上の整数)で撮像されたように補正したい場合、画像データの露出が+(1.0×N)EVに補正される。実施例1の場合、ISO感度100で得られた画像データをISO感度200で撮像したように補正したいため(すなわち、N=1)、画像処理部701は、第1画像領域B21、B31の画像データの露出を1段上げる第2画像処理(+1.0EV)を実行する。画像処理部701は、このように設定された異なる撮像条件の差に基づいて補正する。具体的には、たとえば、画像処理部701は、撮像条件の設定値(たとえば、ISO感度100,200)の差に基づいて補正する。
また、画像処理部701は、第2撮像条件(ISO感度200)で撮像された特定被写体700が存在しなくなった画像領域の画像データについては、第1撮像条件(ISO感度100)に相当する画像処理(以下、「第1画像処理」と称す。)を実行する。第1画像処理は、第2撮像条件(ISO感度200)で撮像された第2画像領域の画像データを、あたかも第1撮像条件で撮像されたかのように補正する画像処理である。
すなわち、第1画像処理では、撮像後にISO感度が2-N倍で撮像されたように補正したい場合、画像データの露出が-(1.0×N)EVに補正される。実施例1の場合、ISO感度200で得られた画像データISO感度100で撮像したように補正したいため(すなわち、N=1)、画像処理部701は、第2画像領域B22、B32の画像データの露出を1段下げる第1画像処理(-1.0EV)を実行する。
圧縮部702は、動き補償フレーム間予測(MC:Motion Compensation)と離散コサイン変換(DCT:DiscBete Cosine TBansfoBm)とに、エントロピー符号化を組み合わせたハイブリッド符号化によって、ブロックマッチングを適用することで、画像処理部701から出力されるフレームFを圧縮する。
これにより、特定被写体700が存在する画像領域は、第2画像処理が施された第1画像領域(B21、B31)となるため、特定被写体700は各フレームにおいて同等の明るさとなる。したがって、フレームFi-1、Fi間でのブロックマッチングの精度向上を図ることができる。また、特定被写体700が存在しないのに第2撮像条件(ISO感度200)で撮像された画像領域についても第1画像処理が実行されるため、当該画像領域は各フレームにおいて同等の明るさとなる。したがって、フレームFi-1、Fi間でのブロックマッチングの精度向上を図ることができる。圧縮部702によって圧縮されたフレームF(以下、圧縮フレームF)は、圧縮ファイルとなって記憶デバイス703に格納される。
<動画ファイルのファイルフォーマット例>
図8は、動画ファイルのファイルフォーマット例を示す説明図である。図8では、たとえば、MPEG4(Moving Picture Experts Group phase 4)に準拠するファイルフォーマットを適用した場合を例に挙げて説明する。
図8は、動画ファイルのファイルフォーマット例を示す説明図である。図8では、たとえば、MPEG4(Moving Picture Experts Group phase 4)に準拠するファイルフォーマットを適用した場合を例に挙げて説明する。
圧縮ファイル800は、ボックスと呼ばれるデータの集合であり、ヘッダ部801とデータ部802とを有する。ヘッダ部801は、ボックスとして、ftyp811と、uuid812と、moov813と、を含む。データ部802は、ボックスとして、mdat820を含む。
ftyp811は、圧縮ファイル800の種別を示す情報を格納するボックスであり、圧縮ファイル800内で他のボックスよりも前の位置に配置される。uuid812は、汎用固有識別子を格納するボックスであり、ユーザが拡張可能である。
moov813は、動画、音声、テキストといった各種メディアに関するメタデータを格納するボックスである。mdat820は、動画、音声、テキストといった各種メディアのデータを格納するボックスである。moov813は、uuidと、udtaと、mvhdと、trakと、を有するが、ここでは、実施例1で格納されるデータに着目して説明する。
つぎに、moov813内のボックスについて具体的に説明する。moov813は、画像処理情報830を格納する。画像処理情報830は、フレーム番号831と、処理対象画像領域832と、処理対象撮像条件833と、処理内容834と、を関連付けた情報である。フレーム番号831は、フレームFを一意に特定する識別情報である。図8では、便宜上、フレームの符号Fiをフレーム番号831として用いる。
処理対象画像領域832は、画像処理部701の処理対象となる画像領域を特定する識別情報である。処理対象撮像条件833は、処理対象画像領域832の出力元となる撮像領域に設定された撮像条件である。処理内容834は、処理対象画像領域832に施された画像処理の内容である。
画像処理情報830の1行目のエントリは、フレームFiの画像領域B21、B31がISO感度100で撮像された第1画像領域であり、第2画像処理が施されて露出が1段上がった(+1.0EV)画像になったことを示す。画像処理情報830の2行目のエントリは、フレームFiの画像領域B22、B32がISO感度200で撮像された第2画像領域であり、第1画像処理が施されて露出が1段下がった(-1.0EV)画像になったことを示す。
mdat820は、メディア(動画、音声、テキスト)ごとのチャンクを格納するボックスである。1つのチャンクは、複数のサンプルで構成される。メディアの種類が動画である場合、1つのサンプルは、1つの圧縮フレームとなる。
<伸張例>
図9は、実施例1にかかる伸張例を示す説明図である。電子機器500の制御部502は、伸張部901と、画像処理部701と、再生部902と、を含む。伸張部901は、記憶デバイス703に記憶されている圧縮ファイル800を伸張し、一連のフレームFを画像処理部701に出力する。画像処理部701は、図7に示した画像処理で補正した画像領域については元に復元した上で、一連のフレームFを再生部902に出力する。再生部902は、画像処理部701からの一連のフレームFを再生する。
図9は、実施例1にかかる伸張例を示す説明図である。電子機器500の制御部502は、伸張部901と、画像処理部701と、再生部902と、を含む。伸張部901は、記憶デバイス703に記憶されている圧縮ファイル800を伸張し、一連のフレームFを画像処理部701に出力する。画像処理部701は、図7に示した画像処理で補正した画像領域については元に復元した上で、一連のフレームFを再生部902に出力する。再生部902は、画像処理部701からの一連のフレームFを再生する。
(C)は、伸張後のフレームFi-1,Fiを示す。伸張後のフレームFi-1,Fiは、図7(B)の画像処理後のフレームFi-1,Fiと同じフレームである。(D)は、伸張後のフレームFiの画像処理例を示す。画像処理部701は、図8に示した画像処理情報830を参照して、第1画像処理または第2画像処理を実行する。
たとえば、図8に示した処理対象画像領域832が「B21、B31」については、処理内容834として「+1.0EV」の第2画像処理が施されている。したがって、画像処理部701は、画像領域B21、B31の画像データの露出を1段下げる第1画像処理(-1.0EV)を実行する。
また、処理対象画像領域832が「B22、B32」については、処理内容834として「-1.0EV」の第1画像処理が施されている。したがって、画像処理部701は、画像領域B22、B32の画像データの露出を1段上げる第2画像処理(+1.0EV)を実行する。これにより、画像処理されたフレームFを元の状態に復元することができ、元のフレームFの再現性の向上を図ることができる。なお、上記説明では、圧縮の際に画像処理(補正)をした箇所を元に戻す画像処理をする例を説明したが、本来、特定被写体700がいる画像領域は、ISO感度200で撮影される領域のため、第1画像処理をしなくてもよい。いずれの画像処理を実行可能にするかは、ユーザが選択できる構成としてもよい。
<制御部502の構成例>
図10は、図5に示した制御部502の構成例を示すブロック図である。制御部502は、前処理部1010と、画像処理部701と、圧縮部702と、生成部1013と、伸張部901と、再生部902と、を有し、プロセッサ1001、記憶デバイス703、集積回路1002、およびこれらを接続するバス1003により構成される。なお、記憶デバイス703、伸張部901、および再生部902は、電子機器500とアクセス可能な他の装置に実装されていてもよい。
図10は、図5に示した制御部502の構成例を示すブロック図である。制御部502は、前処理部1010と、画像処理部701と、圧縮部702と、生成部1013と、伸張部901と、再生部902と、を有し、プロセッサ1001、記憶デバイス703、集積回路1002、およびこれらを接続するバス1003により構成される。なお、記憶デバイス703、伸張部901、および再生部902は、電子機器500とアクセス可能な他の装置に実装されていてもよい。
前処理部1010、画像処理部701、圧縮部702、生成部1013、伸張部901、および再生部902は、記憶デバイス703に記憶されたプログラムをプロセッサ1001に実行させることにより実現してもよく、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などの集積回路1002により実現してもよい。また、プロセッサ1001は、記憶デバイス703をワークエリアとして利用してもよい。また、集積回路1002は、記憶デバイス703を、画像データを含む各種データを一時的に保持するバッファとして利用してもよい。
なお、少なくとも圧縮部702を含む装置は、動画圧縮装置となる。また、少なくとも伸張部901を含む装置は、伸張装置となる。また、少なくとも再生部902を含む装置は、再生装置となる。
前処理部1010は、撮像素子100からの一連のフレームFについて圧縮ファイル800の生成の前処理を実行する。具体的には、たとえば、前処理部1010は、検出部1011と設定部1012とを有する。検出部1011は、上述した周知の被写体検出技術により、特定被写体700を検出する。検出部1011は、特定被写体700の検出結果に基づいて、次のフレームでの特定被写体700の位置、すなわち、次のフレームで特定被写体700が存在するであろう第2撮像領域を予測する。第2撮像領域が予測されることで、対応する第2画像領域も予測されることになる。また、検出部1011は、たとえば、周知のテンプレートマッチング技術を用いて、特定被写体700を継続的に検出(追尾)する。
設定部1012は、撮像素子100の撮像面200のうち、特定被写体700が検出された画像領域が第1画像領域であれば、その第1画像領域に対応する第1撮像領域の撮像条件を第1撮像条件(ISO感度100)から第2撮像条件(ISO感度200)に変更する。これにより、特定被写体700が検出された第1画像領域に対応する第1撮像領域は、第2撮像領域となる。
具体的には、たとえば、検出部1011は、入力フレームFiで検出された特定被写体700と先行フレームFi-1で検出された特定被写体700との差分から特定被写体の動きベクトルを検出して、次の入力フレームFi+1での特定被写体700の画像領域を予測する。設定部1012は、予測した画像領域に対応する撮像領域について第2撮像条件に変更する。設定部1012は、各フレームFi内での特定被写体700が存在する画像領域、第1撮像条件(ISO感度100)に設定された第1画像領域と第2撮像条件(ISO感度200)に設定された第2画像領域とを示す情報を特定して、付加情報として画像処理部701に出力する。
画像処理部701は、フレームFの圧縮前において、図7に示したように第2画像処理を実行し、画像処理情報830をmoov813に埋め込む。画像処理部701は、圧縮フレームFの伸張後に、伸張されたフレームFに埋め込まれた画像処理情報830を用いて、図9に示したように第1画像処理を実行する。
圧縮部702は、動き補償フレーム間予測(MC)と離散コサイン変換(DCT)とに、エントロピー符号化を組み合わせたハイブリッド符号化によって、ブロックマッチングを適用することで、画像処理部701から出力されるフレームFを圧縮する。これにより、特定被写体700が存在する画像領域は、第2画像領域または第2画像処理が施された第1画像領域となるため、特定被写体700は各フレームFにおいて同等の明るさとなる。したがって、圧縮部702によるブロックマッチングの精度向上を図ることができる。
生成部1013は、圧縮部702で圧縮された圧縮フレームFを含む圧縮ファイル800を生成する。具体的には、たとえば、生成部1013は、図8に示したようなファイルフォーマットに従って、圧縮ファイル800を生成する。生成部1013は、生成した圧縮ファイル800を記憶デバイス703に格納する。
伸張部901は、記憶デバイス703内の圧縮ファイル800を読み出して、ファイルフォーマットに従って伸張する。すなわち、伸張部901は、汎用の伸張処理を実行する。具体的には、たとえば、伸張部901は、圧縮ファイル800内の圧縮フレームFに可変長復号処理、逆量子化、逆変換を実行し、圧縮フレームFを元のフレームFに伸張する。
伸張部901は、伸張したフレームFを画像処理部701に出力する。なお、伸張部901は、フレームFのみならず、音声チャンクのサンプルやテキストチャンクのサンプルも同様に伸張する。再生部902は、画像処理部701から出力される一連のフレームF、音声、テキストを含む動画データを再生する。
<被写体像の探索例>
図11は、検出部1011による特定被写体の探索例を示す説明図である。ここでは、検出部1011の検出の例として、特定被写体を継続的に検出(追尾)する例を説明する。図11において、符号R0は、先行フレームFi-1で特定被写体700が検出された画像領域群である。点線の丸図形が先行フレームFi-1での特定被写体700を示す。検出部1011は、領域R0を中心とする探索範囲R1を設定し、テンプレートT1を用いて、テンプレートマッチングを実行する。
図11は、検出部1011による特定被写体の探索例を示す説明図である。ここでは、検出部1011の検出の例として、特定被写体を継続的に検出(追尾)する例を説明する。図11において、符号R0は、先行フレームFi-1で特定被写体700が検出された画像領域群である。点線の丸図形が先行フレームFi-1での特定被写体700を示す。検出部1011は、領域R0を中心とする探索範囲R1を設定し、テンプレートT1を用いて、テンプレートマッチングを実行する。
なお、実施例1では、大きさが異なる複数のテンプレートT1~T3が存在し、T2が最小でT3が最大である。テンプレートT1~T3は、あらかじめ記憶デバイス703に記憶されていてもよく、また、検出部1011が、先行するフレームFi-1から特定被写体700を抽出してテンプレートT1~T3を生成してもよい。
検出部1011は、テンプレートT1との差分が最も小さい領域を特定被写体700として検出する。ただし、テンプレートT1との差分が許容範囲内の特定被写体700が探索範囲R1内に存在する場合、検出部1011によりは、特定被写体700を検出結果の信頼性が高いため、特定被写体700を検出したこととする。
テンプレートT1との差分が許容範囲内の特定被写体700が探索範囲R1内に存在しない場合、検出結果に信頼性が低い。そのため、検出部1011は、探索範囲R1を拡大して、探索範囲R2を設定する。検出部1011は、探索範囲R2でテンプレートマッチングを試行する。テンプレートT1との差分が許容範囲内の特定被写体700が探索範囲R2内に存在する場合、検出部1011は、特定被写体700を検出したことになる。
このように、検出部1011は、段階的に探索範囲を拡大して特定被写体700を検出する。また、探索範囲R1またはR2で特定被写体700が検出されなかった場合、検出部1011は、テンプレートをT1からT2、T3に変更してテンプレートマッチングを試行する。これにより、特定被写体の奥行方向の移動にも対応して、特定被写体700を検出する。
なお、テンプレートをT1からT2、T3によるテンプレートマッチングを並行して実行してもよい。具体的には、探索範囲R1でテンプレートをT2→T1→T3の順に選択してテンプレートマッチングを実行し、特定被写体700が検出されないと探索範囲R2でテンプレートをT2→T1→T3の順に選択してテンプレートマッチングを実行してもよい。また、テンプレートT1からT2、T3の両方を選択して、テンプレートマッチングを同時に実行してもよい。
なお、領域R0と被写体検出処理で検出された特定被写体700との距離Dが所定距離以上であれば、探索失敗とみなし、その探索範囲内では特定被写体700が検出されなかったこととしてもよい。また、テンプレートT1で特定被写体700が検出されなかった場合は、他のテンプレートT2、T3の試行をしなくてもよい。
また、検出部1011は、探索範囲を可能な限り拡大して、テンプレートマッチングを実行してもよい。また、検出部1011は、複数のテンプレートを用いてテンプレートマッチングを実行する。これにより、予測された第2画像領域(図7(A)のB22,B32)から外れて第1画像領域(図7(A)のB21,B31)に存在する特定被写体700を検出することができる。換言すれば、第2画像領域の予測が正しければ、撮像素子100において動的に第2撮像領域が設定されるため、特定被写体700は、動的に設定された第2撮像領域に対応する第2画像領域(図7(A)のB22,B32)内に存在することになる。
<制御部502の動作処理手順例>
図12は、制御部502の動作処理手順例を示すシーケンス図である。前処理部1010は、たとえば、ユーザが操作部505を操作することにより、または、ステップS1214の特定被写体700の非検出の場合(ステップS1214:Yes)は自動で、撮像素子100の撮像面200全域の撮像条件を第1撮像条件(ISO感度100)に設定する(ステップS1201)。
図12は、制御部502の動作処理手順例を示すシーケンス図である。前処理部1010は、たとえば、ユーザが操作部505を操作することにより、または、ステップS1214の特定被写体700の非検出の場合(ステップS1214:Yes)は自動で、撮像素子100の撮像面200全域の撮像条件を第1撮像条件(ISO感度100)に設定する(ステップS1201)。
また、前処理部1010は、ステップS1201において、変更される場合の第2撮像条件(ISO感度200)も設定する。前処理部1010は、ステップS1201で設定した第1撮像条件および第2撮像条件を、画像処理部701に通知する(ステップS1202)。これにより、画像処理部701は、第1画像処理および第2画像処理の処理内容834を設定する(ステップS1203)。
実施例1では、第1撮像条件がISO感度100、第2撮像条件がISO感度200である。したがって、画像処理部701は、第2画像処理として、『特定被写体700が撮像された第1撮像領域のISO感度が100である場合に、対応する第1画像領域の画像データの露出を1段上げる(+1.0EV)』という補正をおこなう。同様に、画像処理部701は、第1画像処理として、『特定被写体700が存在するであろうと予測された第2撮像領域のISO感度が200である場合に、対応する第2画像領域の画像データの露出を1段下げる(-1.0EV)』という補正をおこなう。
これにより、撮像素子100では、撮像面200全域の撮像条件が第1撮像条件に設定され、撮像素子100は、被写体を第1撮像条件で撮像して、一連のフレームFを含む動画データ1201を前処理部1010に出力する(ステップS1205)。
前処理部1010は、動画データ1201が入力されると(ステップS1205)、設定処理を実行する(ステップS1206)。設定処理(ステップS1206)では、特定被写体700の検出、次のフレームFi+1での第2画像領域の予測、入力フレームFi内での第1画像領域および第2画像領域の特定が実行される。設定処理(ステップS1206)の詳細については、図13で後述する。
各フレームFi内での特定被写体700が存在する画像領域、第1画像領域および第2画像領域を特定する付加情報とともに、前処理部1010は、動画データ1201を画像処理部701に出力する(ステップS1207)。本例では、動画データ1201は、特定被写体700が検出されていないものとする。
また、前処理部1010は、設定処理(ステップS1206)で次の入力フレームFi+1の第2画像領域が予測されなかった場合(ステップS1208:No)、ステップS1205の動画データ1201の入力を待ち受ける。一方、前処理部1010は、設定処理(ステップS1206)で次の入力フレームFi+1の特定被写体700の位置が予測された場合(ステップS1208:Yes)、特定被写体700を含む画像領域が第1撮像条件(ISO感度100)であれば、対応する撮像領域を第2撮像条件(ISO感度200)に設定変更する(ステップS1209)。
これにより、撮像素子100では、撮像面200全域のうち設定処理(ステップS1206)で予測された画像領域に対応する撮像領域の撮像条件が第2撮像条件に設定される。そして、撮像素子100は、第1撮像領域では第1撮像条件で被写体を撮像し、第2撮像領域では第2撮像条件で被写体を撮像して、動画データ1202を前処理部1010に出力する(ステップS1211)。
前処理部1010は、動画データ1202が入力されると(ステップS1211)、設定処理を実行する(ステップS1212)。ステップS1212の設定処理は、ステップS1206の設定処理と同一処理である。設定処理(ステップS1212)の詳細については、図13で後述する。各フレームFi内での特定被写体700が存在する画像領域、第1画像領域および第2画像領域を特定する付加情報とともに、前処理部1010は、動画データ1202を画像処理部701に出力する(ステップS1213)。実施例1の動画データ1202では、特定被写体700が検出されたものとする。
前処理部1010は、特定被写体700が非検出になった場合(ステップS1214:Yes)、ステップS1201に戻り、撮像面200全域を第1撮像条件に設定変更する(ステップS1201)。一方、特定被写体700が検出され続けている場合(ステップS1214:No)、ステップS1209に戻る。なお、この場合、特定被写体700が検出されなくなった画像領域に対応する撮像領域については、前処理部1010は、ステップS1209で第1撮像条件に設定変更する(ステップS1209)。
また、画像処理部701は、動画データ1201が入力されると(ステップS1207)、付加情報を参照して画像処理を実行する(ステップS1215)。画像処理(ステップS1215)の詳細については、図15で後述する。なお、動画データ1201では特定被写体700が検出されていないため、画像処理部701は、動画データ1201の各フレームFについて、上述した第2画像処理を実行せずに、圧縮部702に出力する(ステップS1216)。
また、画像処理部701は、動画データ1202が入力されると(ステップS1213)、付加情報を参照して画像処理を実行する(ステップS1217)。なお、ステップS1217の画像処理では、画像処理部701は、特定被写体700が存在する画像領域の画像データについて第2画像処理を実行する。ステップS1217の画像処理の詳細については、図15で後述する。画像処理部701は、動画データ1202について第2画像処理が施された動画データ1203を圧縮部702に出力する(ステップS1218)。
圧縮部702は、動画データ1201が入力されると(ステップS1216)、動画データ1201の圧縮処理を実行する(ステップS1219)。また、圧縮部702は、動画データ1203が入力されると(ステップS1218)、動画データ1203の圧縮処理を実行する(ステップS1220)。動画データ1203では、特定被写体700は先行フレームFi-1で予測された第2画像領域または第2画像処理が施された第1画像領域に存在するため、特定被写体700はどのフレームFでも同等の明るさを維持する。したがって、圧縮部702におけるブロックマッチングの精度向上を図ることができる。
<設定処理(ステップS1206、S1212)>
図13は、図12に示した設定処理(ステップS1206、S1212)の詳細な処理手順例を示すフローチャートである。前処理部1010は、フレームFiの入力を待ち受け(ステップS1301)、フレームFiが入力された場合(ステップS1301:Yes)、検出部1011により、特定被写体検出処理を実行する(ステップS1302)。特定被写体検出処理(ステップS1302)は、フレームF内で特定被写体700を検出する処理である。特定被写体検出処理(ステップS1302)の詳細は、図14で後述する。
図13は、図12に示した設定処理(ステップS1206、S1212)の詳細な処理手順例を示すフローチャートである。前処理部1010は、フレームFiの入力を待ち受け(ステップS1301)、フレームFiが入力された場合(ステップS1301:Yes)、検出部1011により、特定被写体検出処理を実行する(ステップS1302)。特定被写体検出処理(ステップS1302)は、フレームF内で特定被写体700を検出する処理である。特定被写体検出処理(ステップS1302)の詳細は、図14で後述する。
前処理部1010は、検出部1011により特定被写体700が検出されたか否かを判断する(ステップS1303)。特定被写体700が検出されなかった場合(ステップS1303:No)、ステップS1305に移行する。一方、特定被写体700が検出された場合(ステップS1303:Yes)、前処理部1010は、検出部1011により、1つ前のフレームFi-1で検出された特定被写体700と今回検出された特定被写体700との位置により、動きベクトルを検出し、動きベクトルの大きさおよび方向に基づいて次のフレームFi+1で特定被写体700が検出されるであろう第2画像領域を予測する(ステップS1304)。
そして、前処理部1010は、設定部1012により、入力フレームFiの特定被写体700が存在する画像領域、第1画像領域および第2画像領域(フレームFi-1で予測)を特定し、フレームFiの付加情報として保持して(ステップS1305)、ステップS1301に戻る。付加情報は、動画データとともに画像処理部701に送られる。フレームFiの入力がない場合(ステップS1301:No)、前処理部1010は、設定処理を終了する。
これにより、撮像素子100に最新の第2撮像領域を設定することができ、被写体の移動先を第2画像領域で撮像することができる。また、フレームFiにおいて第2画像領域から外れた特定被写体700を特定することができる。
<特定被写体検出処理(ステップS1302)>
図14は、図13に示した特定被写体検出処理(ステップS1302)の詳細な処理手順例を示すフローチャートである。ここでは、探索範囲をRi(iは1以上の整数)とする。iが大きいほど探索範囲Riが拡大する。検出部1011は、探索範囲RiをR1に設定し(ステップS1401)、デフォルトのテンプレートTjを用いて、探索範囲Ri内でテンプレートマッチングを実行する(ステップS1402)。そして、検出部1011は、特定被写体700が検出されたか否かを判断する(ステップS1403)。
図14は、図13に示した特定被写体検出処理(ステップS1302)の詳細な処理手順例を示すフローチャートである。ここでは、探索範囲をRi(iは1以上の整数)とする。iが大きいほど探索範囲Riが拡大する。検出部1011は、探索範囲RiをR1に設定し(ステップS1401)、デフォルトのテンプレートTjを用いて、探索範囲Ri内でテンプレートマッチングを実行する(ステップS1402)。そして、検出部1011は、特定被写体700が検出されたか否かを判断する(ステップS1403)。
特定被写体700が検出された場合(ステップS1403:Yes)、検出部1011は、特定被写体検出処理(ステップS1302)を終了する。この場合、図13のステップS1303で特定被写体700が検出されたと判断される(ステップS1303:Yes)。
一方、特定被写体700が検出されなかった場合(ステップS1403:No)、検出部1011は、探索範囲Riの拡大が可能であるか否かを判断する(ステップS1404)。たとえば、拡大後の拡大範囲Ri+1があらかじめ設定された最大範囲やフレームの範囲を超える場合に拡大不可能と判断される。探索範囲Riの拡大が可能である場合(ステップS1404:Yes)、検出部1011は、iをインクリメントして探索範囲Riを拡大し(たとえば、i=1の場合、探索範囲R1を探索範囲R2に拡大)して(ステップS1405)、ステップS1402に移行し、探索範囲Riでテンプレートマッチング(ステップS1402)を再試行する。
一方、探索範囲Riを拡大できない場合(ステップS1404:No)、検出部1011は、代替テンプレートが使用可能であるか否かを判断する(ステップS1406)。たとえば、代替テンプレートとは、他の未使用のテンプレートである。たとえば、使用済みのテンプレートがT1、使用中のテンプレートがT2、未使用のテンプレートがT3の場合、代替テンプレートはT3となる。なお、どの代替テンプレートが使用可能であるか否かは、あらかじめ設定される。
代替テンプレートが使用不可能である場合(ステップS1406:No)、検出部1011は、特定被写体検出処理(ステップS1302)を終了する。この場合、図13のステップS1303で特定被写体700が検出されなかったと判断される(ステップS1303:No)。
一方、代替テンプレートが使用可能である場合(ステップS1406:Yes)、検出部1011は、探索範囲をステップS1401で設定した情報に戻し、代替テンプレートに変更して(ステップS1407)、ステップS1402に戻る。このようにして、フレームFごとに特定被写体700の検出が試行されることになる。
<画像処理(ステップS1215、S1217)>
図15は、図12に示した画像処理(ステップS1215、S1217)の詳細な処理手順例を示すフローチャートである。画像処理部701は、動画データ1201,1203のフレームFiの入力を受け付け(ステップS1501)、入力フレームFiの付加情報から、入力フレームFiについて特定被写体700が検出されたか否かを判断する(ステップS1502)。特定被写体700が検出されなかった場合(ステップS1502:No)、画像処理部701は、第1画像処理および第2画像処理を実行することなく、画像処理(ステップS1215、S1217)を終了する。
図15は、図12に示した画像処理(ステップS1215、S1217)の詳細な処理手順例を示すフローチャートである。画像処理部701は、動画データ1201,1203のフレームFiの入力を受け付け(ステップS1501)、入力フレームFiの付加情報から、入力フレームFiについて特定被写体700が検出されたか否かを判断する(ステップS1502)。特定被写体700が検出されなかった場合(ステップS1502:No)、画像処理部701は、第1画像処理および第2画像処理を実行することなく、画像処理(ステップS1215、S1217)を終了する。
一方、特定被写体700が検出された場合(ステップS1502:Yes)、画像処理部701は、特定被写体700の画像データを含む画像領域が第1画像領域を含むか否かを判断する(ステップS1503)。特定被写体700の画像データを含む画像領域がすべて第1画像領域の場合(ケース1)と、特定被写体700の画像データを含む画像領域がすべて第2画像領域の場合(ケース2)と、特定被写体700の画像データを含む画像領域が第1画像領域および第2画像領域の両方の場合(ケース3)と、がある。
ケース1であれば、ステップS1503:Yesとなり、ケース2であれば、ステップS1503:Noとなる。ケース3の場合、第1画像領域と第2画像領域のうち第1画像領域の方が大きければ、ステップS1503:Yesとしてもよい。また、第1画像領域が1つでも存在すれば、ステップS1503:Yesとしてもよい。ステップS1503:Noの場合、画像処理部701は、第1画像処理および第2画像処理を実行することなく、画像処理(ステップS1215、S1217)を終了する。
一方、ステップS1503:Yesの場合、画像処理部701は、付加情報を用いて、図8に示した画像処理情報830を生成する(ステップS1504)。そして、画像処理部701は、図7に示した第1画像処理および第2画像処理を実行する(ステップS1505)。具体的には、たとえば、画像処理部701は、特定被写体700の画像データが第1画像領域に存在すれば、当該第1画像領域について第2画像処理を実行し、先行フレームFi-1で予測された第2画像領域に特定被写体700の画像データが存在していなければ、当該第2画像領域について第1画像処理を実行する。これにより、画像処理部701は、画像処理(ステップS1215、S1217)を終了する。
<再生処理>
図16は、動画データの再生処理の詳細な処理手順例を示すフローチャートである。伸張部901は、記憶デバイス703から、操作部505で選択された再生対象となる圧縮ファイル800を読み出して伸張し、伸張した一連のフレームFを画像処理部701に出力する(ステップS1601)。画像処理部701は、入力された一連のフレームFの先頭から未選択フレームFiを選択する(ステップS1602)。
図16は、動画データの再生処理の詳細な処理手順例を示すフローチャートである。伸張部901は、記憶デバイス703から、操作部505で選択された再生対象となる圧縮ファイル800を読み出して伸張し、伸張した一連のフレームFを画像処理部701に出力する(ステップS1601)。画像処理部701は、入力された一連のフレームFの先頭から未選択フレームFiを選択する(ステップS1602)。
そして、画像処理部701は、選択したフレームFiについて画像処理情報830があるか否かを判断する(ステップS1603)。画像処理情報830がない場合(ステップS1603:No)、ステップS1605に移行する。一方、選択したフレームFiについて画像処理情報830がある場合(ステップS1603:Yes)、画像処理部701は、選択したフレームFiについて、画像処理情報830の処理対象画像領域832および処理内容834を特定し、画像処理情報830の処理内容834とは逆の画像処理を、処理対象画像領域832に対して実行する(ステップS1604)。
逆の画像処理とは、圧縮前段階で第1画像処理が施されていれば第2画像処理、圧縮前段階で第2画像処理が施されていれば第1画像処理である。たとえば、処理内容834が「+1.0EV」であれば、画像処理部701は、逆の画像処理として「-1.0EV」の補正を実行し、処理内容834が「-1.0EV」であれば、画像処理部701は、逆の画像処理として「+1.0EV」の補正を実行する。
このあと、画像処理部701は、未選択フレームFがあるか否かを判断し(ステップS1605)、未選択フレームFがある場合(ステップS1605:Yes)、ステップS1602に戻り、画像処理部701は、未選択フレームFを再選択する(ステップS1602)。一方、未選択フレームFがない場合(ステップS1605:No)、画像処理部701は、一連のフレームFを再生部902に出力し、再生部902は、動画データとして再生する(ステップS1606)。これにより、再生処理が終了する。
このように、実施例1によれば、検出部1011により、先行フレームFi-1で予測されたフレームFiの第2画像領域に特定被写体700が検出されていれば、特定被写体は、第2撮像領域で撮像されていることになる。したがって、フレームFi-1,Fi間で特定被写体700の明るさが同等となり、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
また、画像処理部701は、特定被写体700が、先行フレームFi-1で予測されたフレームFiの第2画像領域ではなく、第1画像領域で検出された場合、特定被写体700の位置予測が外れたことになる。この場合でも、画像処理部701は、特定被写体700の画像データが存在する当該第1画像領域について第2画像処理を実行する。これにより、特定被写体700の位置予測が当たった場合と同様、フレームFi-1,Fi間で特定被写体700の画像データの明るさが同等となり、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
また、特定被写体700の位置予測が外れた場合、画像処理部701は、当該第2画像領域について第1画像処理を実行する。これにより、予測元となるフレームFi-1の第1画像領域の画像データと、予測先となるフレームFiの第1画像処理が施された第2画像領域の画像データとは、同等の明るさとなり、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
実施例2は、特定被写体検出処理(ステップS1302)の他の例を示す。実施例2では、一般的な特定被写体検出処理(ステップS1302)を例に挙げて説明したが、実施例2では、画像処理部701は、特定被写体検出処理(ステップS1302)の実行中に、第2画像処理を実行する。
これにより、テンプレートマッチングの精度向上を図ることができる。なお、実施例2では、テンプレートT1~T3は、第2画像領域から抽出された特定被写体700から生成されたテンプレート、または、それと同等の明るさであらかじめ用意されたテンプレートとする。
以下、実施例2について説明するが、実施例2では、実施例1との相違点についてのみ説明し、実施例1と共通部分については、実施例1と同一符号および同一ステップ番号を用いて説明を省略する。
<特定被写体検出処理(ステップS1302)>
図17は、実施例2にかかる、図13に示した特定被写体検出処理(ステップS1302)の詳細な処理手順例を示すフローチャートである。探索範囲の拡大(ステップS1405)後、検出部1011は、画像処理部701により、探索範囲の第1画像領域について第2画像処理を実行して(ステップS1705)、テンプレートマッチングを試行する(ステップS1402)。
図17は、実施例2にかかる、図13に示した特定被写体検出処理(ステップS1302)の詳細な処理手順例を示すフローチャートである。探索範囲の拡大(ステップS1405)後、検出部1011は、画像処理部701により、探索範囲の第1画像領域について第2画像処理を実行して(ステップS1705)、テンプレートマッチングを試行する(ステップS1402)。
これにより、探索範囲とテンプレートT1~T3の明るさが同等となり、テンプレートマッチングでのマッチング精度の向上を図ることができる。このようにして、実施例2では、フレームFごとに特定被写体700の検出が高精度に試行されることになる。
実施例3は、撮像面200においてあらかじめ第1撮像領域および第2撮像領域が固定された場合の動画圧縮伸張例である。ただし、第1撮像領域および第2撮像領域が固定されていても、設定処理(ステップS1206、S1212)において、次のフレームFi+1での特定被写体700の画像の位置の画像領域に対応する撮像領域が第1撮像領域であれば、当該第1撮像領域は、前処理部1010により第2撮像領域に設定される。たとえば、フレームFiの第2画像領域に特定被写体700が存在し、次のフレームFi+1で特定被写体700が第1画像領域に移った場合、当該特定被写体700が存在する第1撮像領域は、前処理部1010により第2撮像領域に設定される。
これにより、固定の第2撮像領域に対応する第2画像領域では、第2撮像条件(ISO感度200)で撮像されて生成された特定被写体700の画像データが得られる。そして、特定被写体700が固定の第1撮像領域に移動して、第1撮像領域側で撮像されたとしても、動的に設定された第2撮像領域において第2撮像条件(ISO感度200)で撮像される。これにより、連続するフレームFi-1,Fi間で第2画像領域に存在する特定被写体700の画像データのブロックマッチング精度の向上を図ることができる。
また、予測された次フレームFi+1の第2画像領域に対応する第1撮像領域が前処理部1010により第2撮像領域に設定された場合に、特定被写体700の位置予測が外れて特定被写体700の画像データが第1画像領域に存在する場合がある。この場合であっても、画像処理部701が、当該第1画像領域について第2画像処理を実行し、特定被写体700の画像データが存在しないと予測された第2画像領域について第1画像処理を実行する。
これにより、連続するフレームFi-1,Fi間で第2画像領域に存在する特定被写体700の画像データと第2画像処理が施された第1画像領域に存在する特定被写体700の画像データとのブロックマッチング精度の向上を図ることができる。
なお、実施例3では、撮像面200において第1撮像領域と第2撮像領域の位置や割合は任意に設定される。また、実施例3では、説明の便宜上、第1撮像条件が設定された第1撮像領域および第2撮像条件が設定された第2撮像領域により説明するが、設定される撮像条件および撮像領域は3以上でもよい。
以下、実施例3について説明するが、実施例3では、実施例1,2との相違点についてのみ説明し、実施例1,2と共通部分については、実施例1,2と同一符号および同一ステップ番号を用いて説明を省略する。
<動画圧縮例>
図18は、実施例3にかかる動画圧縮例を示す説明図である。この動画圧縮例では、撮像面200の左半分の撮像領域が第1撮像領域に設定され、右半分の撮像領域が第2撮像領域に設定された場合の動画圧縮例である。したがって、生成されたフレームFでは、画像領域B11、B12、B21、B22、B31、B32、B41、B42が固定の第1撮像領域から出力された第1画像領域となり、画像領域B13、B14、B23、B24、B33、B34、B43、B44が固定の第2撮像領域から出力された第2画像領域となる。
図18は、実施例3にかかる動画圧縮例を示す説明図である。この動画圧縮例では、撮像面200の左半分の撮像領域が第1撮像領域に設定され、右半分の撮像領域が第2撮像領域に設定された場合の動画圧縮例である。したがって、生成されたフレームFでは、画像領域B11、B12、B21、B22、B31、B32、B41、B42が固定の第1撮像領域から出力された第1画像領域となり、画像領域B13、B14、B23、B24、B33、B34、B43、B44が固定の第2撮像領域から出力された第2画像領域となる。
(A)特定被写体700の検出により、フレームFi‐1では、特定被写体700は、右下の2×2の第2画像領域B33、B34、B43、B44に存在する。第2画像領域B33、B34、B43、B44は、第2撮像条件(ISO感度200)に設定された固定の第2撮像領域に対応する第2画像領域である。
フレームFiでは、特定被写体700は、中央左端の第1画像領域B21、B31に存在する。第1画像領域B21、B31は、第1撮像条件(ISO感度100)に設定された固定の第1撮像領域に対応する第1画像領域である。また、中央左側の第2画像領域B22、B32は、先行フレームFi-1で特定被写体700の位置が予測された第2画像領域である。
(B)画像処理により、実施例1で説明したように、フレームFiの第1画像領域B21、B31については、第2画像処理が施され、第2画像領域B22、B32については、第1画像処理が施される。これにより、フレームFi-1での特定被写体700が存在する第2画像領域B33、B34、B43、B44と、フレームFiでの特定被写体700が存在する第2画像処理が施された第1画像領域B21、B31との間の明るさが同等となり、圧縮部702におけるブロックマッチング精度が向上する。
同様に、フレームFi-1での特定被写体700が存在しない第1画像領域B22、B32と、フレームFiでの特定被写体700が存在しない第1画像処理が施された第2画像領域B22、B32との間の明るさが同等となり、圧縮部702におけるブロックマッチング精度が向上する。
<伸張例>
図19は、実施例3にかかる伸張例を示す説明図である。この伸張例は、図18の動画圧縮例に対応する伸張例である。(C)は、伸張後のフレームFi-1,Fiを示す。伸張後のフレームFi-1,Fiは、図18(B)の画像処理後のフレームFi-1,Fiと同じフレームである。(D)は、伸張後のフレームFiの画像処理例を示す。画像処理部701は、図8に示した画像処理情報830を参照して、第1画像処理および第2画像処理を実行する。
図19は、実施例3にかかる伸張例を示す説明図である。この伸張例は、図18の動画圧縮例に対応する伸張例である。(C)は、伸張後のフレームFi-1,Fiを示す。伸張後のフレームFi-1,Fiは、図18(B)の画像処理後のフレームFi-1,Fiと同じフレームである。(D)は、伸張後のフレームFiの画像処理例を示す。画像処理部701は、図8に示した画像処理情報830を参照して、第1画像処理および第2画像処理を実行する。
図19の例では、実施例1で示した場合と同様、画像処理部701は、第2画像処理が施された第1画像領域B21、B31について第1画像処理を実行し、第1画像処理が施された第2画像領域B22、B32について第2画像処理を実行する。これにより、(D)のフレームFiは、図18(A)のフレームFiに復元される。
このように、あらかじめ固定化された複数の撮像領域が存在する場合であっても、実施例1,2と同様に圧縮部702におけるブロックマッチングの高精度化を図ることができる。また、元の状態に復元することで、元のフレームFの再現性の向上を図ることができる。
実施例4は、実施例3と同様、撮像面200においてあらかじめ第1撮像領域および第2撮像領域が固定された場合の動画圧縮伸張例である。ただし、実施例4では、第2画像領域の予測による第2撮像領域の設定は実行されない。
以下、実施例4について説明するが、実施例4では、実施例3との相違点についてのみ説明し、実施例3と共通部分については、実施例3と同一符号および同一ステップ番号を用いて説明を省略する。
<動画圧縮例>
図20は、実施例4にかかる動画圧縮例を示す説明図である。実施例3との相違は、(A)画像領域B22、B32が、先行フレームFi-1で予測された第2画像領域として予測されず、固定の第1撮像領域に対応する第1画像領域であるという点である。したがって、(B)画像処理においても、フレームFiの第1画像領域B21、B31については、第2画像処理が施されるが、画像領域B22、B32については、第1画像領域であるため、第1画像処理が施されない。
図20は、実施例4にかかる動画圧縮例を示す説明図である。実施例3との相違は、(A)画像領域B22、B32が、先行フレームFi-1で予測された第2画像領域として予測されず、固定の第1撮像領域に対応する第1画像領域であるという点である。したがって、(B)画像処理においても、フレームFiの第1画像領域B21、B31については、第2画像処理が施されるが、画像領域B22、B32については、第1画像領域であるため、第1画像処理が施されない。
これにより、フレームFi-1での特定被写体700が存在する第2画像領域B33、B34、B43、B44と、フレームFiでの特定被写体700が存在する第2画像処理が施された第1画像領域B21、B31との間の明るさが同等となり、圧縮部702におけるブロックマッチング精度が向上する。
<伸張例>
図21は、実施例4にかかる伸張例を示す説明図である。画像処理部701は、第2画像処理が施された第1画像領域B21、B31について第1画像処理を実行するが、第1画像領域B22、B32について第2画像処理を実行しない。これにより、(D)のフレームFiは、図20(A)のフレームFiのように復元される。
図21は、実施例4にかかる伸張例を示す説明図である。画像処理部701は、第2画像処理が施された第1画像領域B21、B31について第1画像処理を実行するが、第1画像領域B22、B32について第2画像処理を実行しない。これにより、(D)のフレームFiは、図20(A)のフレームFiのように復元される。
なお、上記説明では、圧縮の際に画像処理(補正)をした箇所を伸張後に元に戻す画像処理をする例を説明したが、本来、特定被写体700がいる画像領域は、ISO感度200で撮影される領域のため、第1画像処理をしなくてもよい。いずれの画像処理を実行可能にするかは、ユーザが選択できる構成としてもよい。
このように、あらかじめ固定化された複数の撮像領域が存在し、かつ、特定被写体検出により第1画像領域で特定被写体700が検出された場合でも、実施例3と同様に圧縮部702におけるブロックマッチングの高精度化を図ることができる。また、元の状態に復元することで、元のフレームFの再現性の向上を図ることができる。
また、第2画像領域の予測による第2撮像領域の設定は実行されないため、圧縮前における当該第2画像領域についての第1画像処理や伸張後における第2画像処理が不要となり、電子機器500の処理負荷低減を図ることができる。
実施例5は、実施例4と同様、撮像面200においてあらかじめ第1撮像領域および第2撮像領域が固定された場合の動画圧縮伸張例であり、第2画像領域の予測による第2撮像領域の設定は実行されない。
ただし、第1画像領域で特定被写体700が検出された場合、実施例4のように特定被写体700が存在する第1画像領域のみ第2画像処理を実行するのではなく、固定の第1撮像領域全域について第2画像処理を実行する。これにより、特定被写体700が存在する第1画像領域の特定が不要となり、前処理効率の向上を図ることができる。
以下、実施例5について説明するが、実施例5では、実施例4との相違点についてのみ説明し、実施例4と共通部分については、実施例4と同一符号および同一ステップ番号を用いて説明を省略する。
<動画圧縮例>
図22は、実施例5にかかる動画圧縮例を示す説明図である。実施例5との相違は、(A)フレームFiにおいて、第1画像領域B21、B31で特定被写体700が検出された場合、画像処理部701が、当該第1画像領域B21、B31のみについて第2画像処理を実行するのではなく、固定の第1撮像領域に対応する全第1画像領域B11、B12、B21、B22、B31、B32、B41、B42について第2画像処理を実行する。
図22は、実施例5にかかる動画圧縮例を示す説明図である。実施例5との相違は、(A)フレームFiにおいて、第1画像領域B21、B31で特定被写体700が検出された場合、画像処理部701が、当該第1画像領域B21、B31のみについて第2画像処理を実行するのではなく、固定の第1撮像領域に対応する全第1画像領域B11、B12、B21、B22、B31、B32、B41、B42について第2画像処理を実行する。
これにより、フレームFi-1で特定被写体700が検出された第2画像領域B33、B34、B43、B44と、第2画像処理が施された第1画像領域B11、B12、B21、B22、B31、B32、B41、B42との間のブロックマッチング精度の向上を図ることができる。また、特定被写体700が存在する第1画像領域の特定が不要となり、前処理効率の向上を図ることができる。
<伸張例>
図23は、実施例5にかかる伸張例を示す説明図である。画像処理部701は、第2画像処理が施された第1画像領域B11、B12、B21、B22、B31、B32、B41、B42について第1画像処理を実行する。これにより、(D)のフレームFiは、図22(A)のフレームFiに復元される。
図23は、実施例5にかかる伸張例を示す説明図である。画像処理部701は、第2画像処理が施された第1画像領域B11、B12、B21、B22、B31、B32、B41、B42について第1画像処理を実行する。これにより、(D)のフレームFiは、図22(A)のフレームFiに復元される。
このように、あらかじめ固定化された複数の撮像領域が存在し、かつ、特定被写体検出により第1画像領域で特定被写体700が検出された場合でも、実施例4と同様にブロックマッチングの高精度化を図ることができる。また、元の状態に復元することで、元のフレームFの再現性の向上を図ることができる。
また、第2画像領域の予測による第2撮像領域の設定は実行されないため、圧縮前における当該第2画像領域についての第1画像処理や伸張後における第2画像処理が不要となり、電子機器の処理負荷低減を図ることができる。また、特定被写体700が存在する第1画像領域の特定が不要となり、前処理効率の向上を図ることができる。
(1)以上説明したように、上述した実施例にかかる動画圧縮装置は、被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、第1撮像領域に第1撮像条件(たとえば、ISO感度100)を設定可能であり、かつ、第2撮像領域に第1撮像条件とは異なる第2撮像条件(たとえば、ISO感度200)を設定可能な撮像素子100から出力された複数のフレームFを圧縮する。
動画圧縮装置は、撮像素子100による被写体の撮像により第1撮像領域から出力された画像データに第2撮像条件に基づく画像処理を実行する画像処理部701と、画像処理部701によって画像処理が実行されたフレームFiをフレームFiと異なるフレームFi-1(他のフレームでもよい)とのブロックマッチングに基づいて圧縮する圧縮部702と、を有する。これにより、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(2)また、上記(1)において、画像処理部701は、特定被写体700が第1撮像領域内である場合に、第1撮像領域から出力された第1画像領域内の特定被写体700の画像データに第2撮像条件に基づく画像処理を実行する。これにより、第1画像領域内の特定被写体700について、あたかも第2撮像条件で撮像されたかのような画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(3)また、上記(1)において、画像処理部701は、特定被写体700が第1撮像領域内である場合に、第2撮像領域から出力された第2画像領域の画像データについて第1撮像条件に基づく画像処理を実行する。これにより、特定被写体700が存在しない第2画像領域について、あたかも第1撮像条件で撮像されたかのように画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(4)また、上記(1)において、画像処理部701は、特定被写体700が第2撮像領域内である場合に、第2撮像領域から出力された第2画像領域内の特定被写体700の画像データについて第2撮像条件に基づく画像処理を実行しない。これにより、第2画像領域内の特定被写体700についての不要な画像処理を抑制することができ、画像処理の効率化を図ることができる。
(5)上記(1)の動画圧縮装置は、被写体のうち特定被写体700を検出する検出部を1011有し、画像処理部701は、検出部1011によって検出された特定被写体700の画像データについて、第2撮像条件に基づく画像処理を実行する。これにより、フレームFごとに特定被写体700を追尾することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(6)また、上記(5)において、画像処理部701は、検出部1011によって、特定被写体700が第1撮像領域から出力された第1画像領域(たとえば、B21、B31)内で検出されると、特定被写体700の画像データについて第2撮像条件に基づく画像処理を実行する。これにより、第1画像領域で検出された特定被写体700について、あたかも第2撮像条件で撮像されたかのような画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(7)また、上記(6)において、画像処理部701は、検出部1011によって、特定被写体700が第1撮像領域から出力された第1画像領域内で検出されると、第2撮像領域から出力された第2画像領域の画像データについて第1撮像条件に基づく画像処理を実行する。これにより、特定被写体700が検出されなかった第2画像領域について、あたかも第1撮像条件で撮像されたかのように画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(8)また、上記(5)において、画像処理部701は、検出部1011によって、特定被写体700が第2撮像領域から出力された第2画像領域内で検出されると、特定被写体700の画像データについて第2撮像条件に基づく画像処理を実行しない。これにより、第2画像領域で検出された特定被写体700についての不要な画像処理を抑制することができ、画像処理の効率化を図ることができる。
(9)また、上記(5)において、画像処理部701は、検出部1011によって、特定被写体700がフレームF内の第1探索範囲R1内で検出されなかった場合、第1探索範囲R1の画像データについて第2撮像条件に基づく画像処理を実行し、検出部1011は、画像処理部701によって画像処理された第1探索範囲R1内で特定被写体700の検出を再試行する。これにより、特定被写体の検出効率の向上を図ることができる。
(10)また、上記(5)において、画像処理部701は、検出部1011によって、特定被写体700がフレームF内の第1探索範囲R1内で検出されなかった場合、第1探索範囲R1を拡大した第2探索範囲R2の画像データについて第2撮像条件に基づく画像処理を実行し、検出部1011は、第2撮像条件に基づく画像処理が実行された第2探索範囲R2で特定被写体700の検出を再試行する。これにより、特定被写体の検出効率の向上を図ることができる。
(11)上記(1)の動画圧縮装置は、フレームFiよりも先行する2つのフレームFi-2,Fi-1において検出された特定被写体700に基づいて、第2撮像領域を設定する設定部1012を有する。これにより、設定された第2撮像領域に対応する第2画像領域を動的に設定することができ、特定被写体700の位置を予測することができる。
(12)また、上記(11)において、画像処理部701は、特定被写体700が設定部1012によって設定された第2撮像領域から出力された第2画像領域の外である場合に、特定被写体700の画像データについて第2撮像条件に基づく画像処理を実行する。これにより、第2画像領域の予測が外れた場合でも、第1画像領域で検出された特定被写体700について、あたかも第2撮像条件で撮像されたかのような画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(13)また、上記(12)において、画像処理部701は、特定被写体700の画像データが設定部1012によって設定された第2撮像領域から出力された第2画像領域(たとえば、B22、B32)外である場合に、第2画像領域の画像データについて第1撮像条件に基づく画像処理を実行する。これにより、設定部1012によって設定された第2画像領域の予測が外れた場合であっても、当該第2画像領域について、あたかも第1撮像条件で撮像されたかのように画像処理(補正)を実行することができ、圧縮部702におけるブロックマッチング精度の向上を図ることができる。
(14)また、上記(11)において、画像処理部701は、特定被写体700の画像データが設定部1012によって設定された第2撮像領域から出力された第2画像領域内である場合に、特定被写体700について第2撮像条件に基づく画像処理を実行しない。これにより、第2画像領域で検出された特定被写体700についての不要な画像処理を抑制することができ、画像処理の効率化を図ることができる。
(15)上記(1)の動画圧縮装置は、圧縮部702によって圧縮された圧縮フレームと、特定被写体700の画像データに実行された画像処理に関する情報と、を含む圧縮ファイル800を生成する生成部1013を有する。これにより、フレームFを伸張した場合に圧縮前の状態に復元することができる。
(16)上記(15)において、生成部1013によって生成された圧縮ファイル800内の圧縮フレームをフレームFに伸張する伸張部901を有し、画像処理部701は、特定被写体700の画像データに実行された画像処理に関する情報を用いて、伸張部901によって伸張されたフレームF内の第2撮像条件に基づく画像処理が実行された特定被写体700の画像データについて、第2撮像条件から第1撮像条件への変更に基づく画像処理を実行する。これにより、伸張したフレームFを圧縮前の状態に復元することができる。
100 撮像素子、200 撮像面、500 電子機器、502 制御部、700 特定被写体、701 画像処理部、702 圧縮部、703 記憶デバイス、800 圧縮ファイル、830 画像処理情報、901 伸張部、902 再生部、1010 前処理部、1011 検出部、1012 設定部、1013 生成部
Claims (22)
- 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮する動画圧縮装置であって、
前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する画像処理部と、
前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームとのブロックマッチングに基づいて圧縮する圧縮部と、
を有する動画圧縮装置。 - 請求項1に記載の動画圧縮装置において、
前記画像処理部は、特定被写体が前記第1撮像領域内である場合に、前記第1撮像領域から出力された第1画像領域内の前記特定被写体の画像データに前記第2撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項1に記載の動画圧縮装置であって、
前記画像処理部は、特定被写体が前記第1撮像領域内である場合に、前記第2撮像領域から出力された第2画像領域の画像データについて前記第1撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項1に記載の動画圧縮装置であって、
前記画像処理部は、特定被写体が前記第2撮像領域内である場合に、前記第2撮像領域から出力された第2画像領域内の前記特定被写体の画像データについて前記第2撮像条件に基づく画像処理を実行しない、動画圧縮装置。 - 請求項1に記載の動画圧縮装置であって、
前記被写体のうち特定被写体を検出する検出部を有し、
前記画像処理部は、前記検出部によって検出された前記特定被写体の画像データについて、前記第2撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項5に記載の動画圧縮装置であって、
前記画像処理部は、前記検出部によって、前記特定被写体が前記第1撮像領域から出力された第1画像領域内で検出されると、前記特定被写体の画像データについて前記第2撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項6に記載の動画圧縮装置であって、
前記画像処理部は、前記検出部によって、前記特定被写体が前記第1撮像領域から出力された第1画像領域内で検出されると、前記第2撮像領域から出力された第2画像領域の画像データについて前記第1撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項5に記載の動画圧縮装置であって、
前記画像処理部は、前記検出部によって、前記特定被写体が前記第2撮像領域から出力された第2画像領域内で検出されると、前記特定被写体の画像データについて前記第2撮像条件に基づく画像処理を実行しない、動画圧縮装置。 - 請求項5に記載の動画圧縮装置であって、
前記画像処理部は、前記検出部によって、前記特定被写体が前記フレーム内の第1探索範囲内で検出されなかった場合、前記第1探索範囲内の画像データについて前記第2撮像条件に基づく画像処理を実行し、
前記検出部は、前記画像処理部によって画像処理された前記第1探索範囲内で前記特定被写体を検出する、動画圧縮装置。 - 請求項5に記載の動画圧縮装置であって、
前記画像処理部は、前記検出部によって前記特定被写体が前記フレーム内の第1探索範囲内で検出されなかった場合、前記第1探索範囲を拡大した第2探索範囲の画像データについて前記第2撮像条件に基づく画像処理を実行し、
前記検出部は、前記第2撮像条件に基づく画像処理が実行された前記第2探索範囲で前記特定被写体を検出する、動画圧縮装置。 - 請求項1に記載の動画圧縮装置であって、
前記フレームよりも先行する2つのフレームにおいて検出された特定被写体に基づいて、前記第2撮像領域を設定する設定部を有する、動画圧縮装置。 - 請求項11に記載の動画圧縮装置であって、
前記画像処理部は、前記特定被写体の画像データが前記設定部によって設定された前記第2撮像領域から出力された第2画像領域の外である場合に、前記特定被写体の画像データについて前記第2撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項12に記載の動画圧縮装置であって、
前記画像処理部は、前記特定被写体の画像データが前記設定部によって設定された前記第2撮像領域から出力された第2画像領域の外である場合に、前記第2画像領域の画像データについて前記第1撮像条件に基づく画像処理を実行する、動画圧縮装置。 - 請求項11に記載の動画圧縮装置であって、
前記画像処理部は、前記特定被写体の画像データが前記設定部によって設定された前記第2撮像領域から出力された第2画像領域内である場合に、前記特定被写体の画像データについて前記第2撮像条件に基づく画像処理を実行しない、動画圧縮装置。 - 請求項1に記載の動画圧縮装置であって、
前記圧縮部によって圧縮された圧縮フレームと、特定被写体の画像データに実行された画像処理に関する情報と、を含む圧縮ファイルを生成する生成部を有する、動画圧縮装置。 - 請求項15に記載の動画圧縮装置であって、
前記生成部によって生成された圧縮ファイル内の前記圧縮フレームを前記フレームに伸張する伸張部を有し、
前記画像処理部は、前記特定被写体の画像データに実行された画像処理に関する情報を用いて、前記伸張部によって伸張されたフレーム内の前記第2撮像条件に基づく画像処理が実行された前記特定被写体の画像データについて、前記第2撮像条件と前記第1撮像条件とに基づく画像処理を実行する、動画圧縮装置。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮する動画圧縮装置であって、
前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する画像処理部と、
前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮する圧縮部と、
を有する動画圧縮装置。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮した圧縮ファイルを伸張する伸張装置であって、
前記圧縮ファイル内の圧縮フレームを前記フレームに伸張する伸張部と、
前記伸張部によって伸張されたフレーム内の前記第2撮像条件に基づく画像処理が実行された特定被写体の画像データについて、前記第2撮像条件と前記第1撮像条件とに基づく画像処理を実行する画像処理部と、
を有する伸張装置。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子と、
前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する実行する画像処理部と、
前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームとのブロックマッチングに基づいて圧縮する圧縮部と、
を有する電子機器。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子と、
前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行する実行する画像処理部と、
前記画像処理部によって画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮する圧縮部と、
を有する電子機器。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームの圧縮をプロセッサに実行させる動画圧縮プログラムであって、
前記プロセッサに、
前記撮像素子による被写体の撮像により前記第1撮像領域から出力された画像データに前記第2撮像条件に基づく画像処理を実行させ、
前記画像処理が実行されたフレームを前記フレームと異なるフレームに基づいて圧縮させる、
動画圧縮プログラム。 - 被写体を撮像する第1撮像領域と、被写体を撮像する第2撮像領域と、を有し、前記第1撮像領域に第1撮像条件を設定可能であり、かつ、前記第2撮像領域に前記第1撮像条件とは異なる第2撮像条件を設定可能な撮像素子から出力された複数のフレームを圧縮した圧縮ファイルをプロセッサに伸張させる伸張プログラムであって、
前記プロセッサに、
前記圧縮ファイル内の圧縮フレームを前記フレームに伸張させ、
伸張された前記フレーム内の前記第2撮像条件に基づく画像処理が実行された特定被写体の画像データについて、前記第2撮像条件と前記第1撮像条件とに基づく画像処理を実行させる、
伸張プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018070199 | 2018-03-30 | ||
JP2018070199 | 2018-03-30 | ||
PCT/JP2019/012918 WO2019189210A1 (ja) | 2018-03-30 | 2019-03-26 | 動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019189210A1 JPWO2019189210A1 (ja) | 2021-04-01 |
JP7156367B2 true JP7156367B2 (ja) | 2022-10-19 |
Family
ID=68059143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020510931A Active JP7156367B2 (ja) | 2018-03-30 | 2019-03-26 | 動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210136406A1 (ja) |
JP (1) | JP7156367B2 (ja) |
WO (1) | WO2019189210A1 (ja) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017057279A1 (ja) | 2015-09-30 | 2017-04-06 | 株式会社ニコン | 撮像装置、画像処理装置、および表示装置 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7456868B2 (en) * | 2002-02-01 | 2008-11-25 | Calderwood Richard C | Digital camera with ISO pickup sensitivity adjustment |
JP3762725B2 (ja) * | 2002-08-22 | 2006-04-05 | オリンパス株式会社 | 撮像システムおよび画像処理プログラム |
US7796169B2 (en) * | 2004-04-20 | 2010-09-14 | Canon Kabushiki Kaisha | Image processing apparatus for correcting captured image |
JP2008033442A (ja) * | 2006-07-26 | 2008-02-14 | Canon Inc | 画像処理装置及びその制御方法及びプログラム |
WO2010084739A1 (ja) * | 2009-01-23 | 2010-07-29 | 日本電気株式会社 | 映像識別子抽出装置 |
JP5454508B2 (ja) * | 2011-04-06 | 2014-03-26 | 株式会社ニコン | 光学機器 |
US20140208333A1 (en) * | 2013-01-22 | 2014-07-24 | Motorola Mobility Llc | Initialize a Computing Device to Perform an Action |
KR20150043894A (ko) * | 2013-10-15 | 2015-04-23 | 삼성전자주식회사 | 복수의 영상의 프리뷰 영역을 조정하는 전자 장치 및 방법 |
US9654748B2 (en) * | 2014-12-25 | 2017-05-16 | Panasonic Intellectual Property Management Co., Ltd. | Projection device, and projection method |
US10218975B2 (en) * | 2015-09-29 | 2019-02-26 | Qualcomm Incorporated | Transform precision manipulation in video coding |
JPWO2017170716A1 (ja) * | 2016-03-31 | 2019-03-07 | 株式会社ニコン | 撮像装置、画像処理装置、および電子機器 |
US10885610B2 (en) * | 2016-03-31 | 2021-01-05 | Nikon Corporation | Image device, image processing device, and electronic apparatus |
US10805519B2 (en) * | 2017-08-08 | 2020-10-13 | Mediatek Inc. | Perception-based image processing apparatus and associated method |
-
2019
- 2019-03-26 US US17/044,067 patent/US20210136406A1/en active Pending
- 2019-03-26 JP JP2020510931A patent/JP7156367B2/ja active Active
- 2019-03-26 WO PCT/JP2019/012918 patent/WO2019189210A1/ja active Application Filing
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017057279A1 (ja) | 2015-09-30 | 2017-04-06 | 株式会社ニコン | 撮像装置、画像処理装置、および表示装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2019189210A1 (ja) | 2019-10-03 |
US20210136406A1 (en) | 2021-05-06 |
JPWO2019189210A1 (ja) | 2021-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230171414A1 (en) | Video compression apparatus, electronic apparatus, and video compression program | |
US20240089402A1 (en) | Electronic apparatus, reproduction device, reproduction method, recording medium, and recording method | |
US20240031582A1 (en) | Video compression apparatus, electronic apparatus, and video compression program | |
JP2007135135A (ja) | 動画像撮像装置 | |
JP6613554B2 (ja) | 画像処理装置およびプログラム | |
JP4317117B2 (ja) | 固体撮像装置および撮像方法 | |
JP7156367B2 (ja) | 動画圧縮装置、伸張装置、電子機器、動画圧縮プログラム、および伸張プログラム | |
US20170318256A1 (en) | Electronic apparatus, reproduction device, reproduction method, recording medium, and recording method | |
JP5917158B2 (ja) | 撮像装置、その制御方法及び撮像システム | |
CN107005632B (zh) | 电子设备 | |
JP6733159B2 (ja) | 撮像素子、及び撮像装置 | |
US20170324911A1 (en) | Electronic apparatus, reproduction device, reproduction method, recording medium, and recording method | |
JP7167928B2 (ja) | 動画圧縮装置、電子機器、および動画圧縮プログラム | |
WO2019065917A1 (ja) | 動画圧縮装置、電子機器、および動画圧縮プログラム | |
JP2017055317A (ja) | 画像データ生成装置、撮像装置および画像データ生成プログラム | |
JP2021040325A (ja) | 電子機器およびプログラム | |
JP2020057877A (ja) | 電子機器および設定プログラム | |
JP2019169988A (ja) | データ構造 | |
JP2019092220A (ja) | 電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220221 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220906 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220919 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7156367 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |