JP6465613B2 - 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム - Google Patents

画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム Download PDF

Info

Publication number
JP6465613B2
JP6465613B2 JP2014209395A JP2014209395A JP6465613B2 JP 6465613 B2 JP6465613 B2 JP 6465613B2 JP 2014209395 A JP2014209395 A JP 2014209395A JP 2014209395 A JP2014209395 A JP 2014209395A JP 6465613 B2 JP6465613 B2 JP 6465613B2
Authority
JP
Japan
Prior art keywords
image
image data
display rate
display
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014209395A
Other languages
English (en)
Other versions
JP2016082309A (ja
Inventor
遠藤 寛朗
寛朗 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014209395A priority Critical patent/JP6465613B2/ja
Priority to US14/878,572 priority patent/US9972355B2/en
Publication of JP2016082309A publication Critical patent/JP2016082309A/ja
Application granted granted Critical
Publication of JP6465613B2 publication Critical patent/JP6465613B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/005Reproducing at a different information rate from the information rate of recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape
    • H04N5/783Adaptations for reproducing at a rate different from the recording rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • H04N9/8047Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラムに関する。
撮像装置は、撮像センサが撮像した生の画像情報(RAW画像)を輝度と色差から成る信号に変換する。得られた各信号には、例えばノイズ除去、光学的な歪補正、画像の適正化などの所謂現像処理が行われ、現像処理された輝度信号及び色差信号は圧縮符号化され、記録媒体に記録される。
一方で、RAW画像そのものを記録できる撮像装置も存在する。RAW画像は記録に必要なデータ量が膨大になるが、オリジナル画像に対する補正や劣化が抑えられ、撮影後に編集できる利点がある。RAW画像を記録する装置の構成は特許文献1に開示されている。特許文献1には、RAW画像と共に現像パラメータを記録しておき、再生時に当該現像パラメータを用いてRAW画像の現像及び再生を行う構成が記載されている。
特開2011−244423号公報
近年、撮像センサが進化し、画像1枚あたりの画素数が増加している。また、1秒あたりに連写できる画像の枚数も増える傾向にある。そのため、RAW画像に対する例えばデベイヤー処理や、ノイズ除去、光学歪補正など、現像処理の処理量が相乗的に増大し、撮影と並行した現像処理を行うには、膨大な回路や消費電力を費やす場合がある。時には、例えば現像処理による回路の占有や消費電力上の制限などのために、高い撮影パフォーマンスを実行できない場合もある。
一方、前述の特許文献1のように、RAW画像を現像せずに記録する構成ならば、撮影時の現像に係る処理量は軽減されるが、再生時にリアルタイムの現像処理を行うためにはやはり膨大な回路が必要となる。よって、撮像装置における高いパフォーマンスを実現するには、高コストの回路を搭載して高出力で駆動できるようにする必要があった。
そこで、本発明は、動画再生時のリアルタイム現像処理を、処理量の少ない簡易現像により小さい回路規模で少ない消費電力において可能としつつ、かつ、所定の条件下で高画質画像の提供を可能とする。
上記課題を解決するための本発明は、画像処理装置であって、
複数のRAW画像データを含む動画ファイルを記録媒体から読み出す読出手段と、
前記動画ファイルに含まれる複数のRAW画像データを現像する現像手段と、
前記現像された複数のRAW画像データを表示部に表示する表示制御手段と、
を備え、
前記現像手段は、
前記複数のRAW画像データが第1の表示レートで通常再生される場合、第1の現像処理を実行し、
前記複数のRAW画像データが前記第1の表示レートよりも低い表示レートでスロー再生される場合、前記通常再生される場合よりも高画質であって、かつ、前記スロー再生の表示レートに応じた画質が得られる現像処理を実行する
本発明によれば、動画再生時のリアルタイム現像処理を、処理量の少ない簡易現像により小さい回路規模で少ない消費電力において可能としつつ、かつ、所定の条件下で高画質画像の提供も可能となる。
発明の実施形態に係る撮像装置の構成例を示すブロック図。 発明の実施形態に係る撮像装置の例示的な状態遷移図。 発明の実施形態に係る静止画ファイル、RAWファイル、動画ファイルの構成例を示す図。 発明の実施形態に係る静止画再生モードの表示例を示す図。 発明の実施形態に係る動画撮影モード時の処理の一例を示すフローチャート。 発明の実施形態に係る動画再生モード時の処理の一例を示すフローチャート。 画素配列の説明図。 発明の実施形態に係る動画再生モードの表示に係る模式図の一例。 発明の実施形態に係る動画再生モード時の処理の他の一例を示すフローチャート。 発明の実施形態に係るスロー再生表示時の現像処理の切替例を説明するための図。 発明の実施形態に係るスロー再生表示時の現像処理の他の切替例を説明するための図。
以下、図面を参照しながら、本発明の実施の形態を詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の構成例を示すブロック図である。図1に示した撮像装置100は、被写体を撮像して得られた画像情報を記録媒体に記録するだけでなく、画像情報を記録媒体から再生し、現像処理して表示する機能や、画像情報を外部の装置やサーバ(クラウド)等と送受信する機能を有する。従って、本発明の実施形態に係る撮像装置は、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することができる。
なお、撮像装置100は、デジタルカメラ以外に、例えばパーソナルコンピュータ、携帯電話、スマートフォン、PDA、タブレット端末、デジタルビデオカメラなどの任意の情報処理端末或いは撮像装置とすることができる。図1の撮像装置100において、撮像素子、表示素子、記録媒体、入力デバイスや端子のような物理的デバイスを除き、各ブロックは画像処理装置として専用ロジック回路やメモリを用いてハードウェア的に構成されてもよい。或いは、メモリに記憶されている処理プログラムをCPU等のコンピュータが実行することにより、当該画像処理装置がソフトウェア的に構成されてもよい。これらの場合、画像処理装置は撮像素子で取得された画像信号に所定の画像処理を施した後、表示素子に表示したり、記録媒体に記録したりするための装置として機能し得る。また、記録媒体に記録された画像情報を読み出して、表示素子に表示させることもできる。
図1において、制御部161は、CPUと、当該CPUが実行する制御プログラムを格納するメモリを含み、撮像装置100の全体の処理を制御する。操作部162は、ユーザが撮像装置100に対して指示を与えるために用いるキーやボタン、タッチパネルなどの入力デバイスを含む。操作部162からの操作信号は、制御部161によって検出され、操作に応じた動作が実行されるよう制御部161によって制御される。表示部123は、撮像装置100において、撮影、或いは再生された画像や、メニュー画面、各種情報等を表示するための液晶ディスプレイ(LCD)等を含む。
操作部162によって撮影動作の開始が指示されると、撮像対象となる被写体の光学像が、撮像光学部101を介して入力され、撮像センサ部102上に結像する。撮影時、撮像光学部101及び撮像センサ部102の動作は、評価値算出部105により取得される絞り、フォーカス、手ぶれ等の評価値算出結果や、認識部131によって抽出される被写体情報に基づいて、カメラ制御部104によって制御される。
撮像センサ部102は、画素毎に配置される赤、緑、青(RGB)のカラーフィルターを透過した光を電気信号に変換する。図7は、撮像センサ部102に配置されるカラーフィルターの一例であり、撮像装置100が扱う画像の画素配列を表している。図7に示すように、赤(R)、緑(G)、青(B)が画素毎にモザイク状に配置されていて、2×2の4画素につき赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このような画素の配置は、一般にベイヤ―配列と呼ばれる。
撮像センサ部102によって変換された電気信号は、センサ信号処理部103によって画素の修復処理が施される。修復処理には、撮像センサ部102における欠落画素や信頼性の低い画素の値に対し、周辺画素値を用いて修復対象の画素を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサ信号処理部103から出力される画像情報を、生(未現像)の画像を意味するRAW画像と称す。センサ信号処理部103の出力の後、不図示の符号化部によってRAW画像が画素の情報量を圧縮符号化された状態で後段の現像部111に供給されても良い。この場合、圧縮符号化されたRAW画像を後段の現像部111内で復号したものもRAW画像と称す。
RAW画像は、現像部110で現像処理される。現像部110は、複数の異なる現像処理部を有し、第1の現像部としての簡易現像部111と、第2の現像部としての高画質現像部112とから成り、それらの出力を選択するスイッチ部121を含んで構成される。現像部110は、RAW画像に対してデベイヤー処理(デモザイク処理)を施し、輝度と色差から成る信号に変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。
特に、高画質現像部112は、簡易現像部111よりも各々の処理を高精度に行うものである。高精度であるため、簡易現像部111よりも高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。そこで、本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像に特化したものではなく、撮影後に時間をかけて分散処理を行うことが可能な構成になっている。このように高画質現像を撮影時ではなく、時間をかけて後から行うようにすることで、回路規模や消費電力の増大(ピーク)を低く抑えることができる。他方、簡易現像部111は、高画質現像部112よりも、画質は低いものの、撮影中に高速に現像処理を行えるよう、高画質現像よりも現像に係る処理量が少なくなるように構成されている。簡易現像部111の処理負荷は小さいので、撮影動作と並行したリアルタイムの現像の際には簡易現像部111を用いるようにする。スイッチ部121は、操作部162によりユーザから指示された操作内容や実行中の動作モードに応じた制御に従って、制御部161によって切り替えられる。
なお、本実施形態では、現像部110の中に簡易現像部111と高画質現像部112が独立に存在する構成を示しているが、一つの現像部が動作モードを切り替えて、簡易現像と高画質現像の処理を排他的に行う構成であっても本発明の範疇である。現像部110によって現像処理された画像情報は、表示制御部122によって所定の表示処理がなされた後、表示部123にて表示される。また、現像処理された画像情報は、映像出力端子124により、外部に接続された表示機器に出力してもよい。映像出力端子124は、例えばHDMIやSDIのような汎用インタフェースを含む。
現像部110によって現像処理された画像情報は、評価値算出部105にも供給される。評価値算出部105は、画像情報からフォーカス状態や露出状態などの評価値を算出する。
現像部110によって現像処理された画像情報は、認識部131にも供給される。認識部131は、画像情報中の被写体情報を検出及び認識する機能を有する。例えば、画像情報によって表される画面内における顔を検出し、有る場合は顔の位置を示す情報を出力し、さらに顔などの特徴情報に基づいて特定の人物の認証などを行う。
現像部110によって現像処理された画像情報は、静止画圧縮部141に供給される。画像情報を静止画として圧縮する場合は、静止画圧縮部141を用いる。静止画圧縮部141は、対象となる画像情報を高能率符号化(圧縮符号化)し、情報量が圧縮された静止画データを生成して、画像ファイル(静止画ファイル)に変換する。静止画圧縮はJPEGなどを用いることができる。
RAW圧縮部113は、センサ信号処理部103が出力したRAW画像を、ウエーブレット変換や、差分符号化等の技術を用いて高能率符号化する。そして、圧縮された状態のRAW画像データに変換して、バッファ部(記憶媒体)115に格納する。RAW画像データは、バッファ部115内に残しておいて再び読み出すことができるが、バッファ部115に格納された後、別の記録媒体に移動して記録する(バッファ部115から削除する)ようにしても良い。
RAW画像データを含むRAWファイルと、現像された静止画データを含む静止画ファイルは、それぞれ記録再生部151によって、記録媒体152に記録される。記録媒体152は、内蔵式の大容量メモリやハードディスク、又は、着脱式のメモリカード等である。記録再生部151は、記録媒体152から静止画ファイル、RAW画像データを読み出すこともできる。
記録再生部151は、通信部153を介して、外部のストレージやサーバに、各種ファイルを書き込んだり、読み出したりすることができる。通信部153は通信端子154を用いて、無線通信や有線通信によりインターネットや外部機器にアクセス可能な構成を有する。
再生動作が開始されると、記録再生部151は、記録媒体152から、又は、通信部153を介して、所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、記録再生部151は、取得されたRAWファイルに格納されたRAW画像データをバッファ部115に格納する。再生対象のファイルが静止画ファイルであれば、記録再生部151は、取得された静止画ファイルに格納された静止画データを静止画伸張部143に供給する。
RAW伸張部114は、バッファ部115に格納されているRAW画像データを読みだして、圧縮された状態のRAW画像データを復号して伸張する。RAW伸張部114によって伸張されたRAW画像データは、現像部110に供給される。静止画伸張部143は、入力された静止画データを復号して伸張し、静止画の再生画像として表示制御部122に供給する。
次に、本実施形態の撮像装置100の動作モードに関して、図を用いて詳細に説明する。図2は、撮像装置100における、各動作モードの遷移を示す状態遷移図である。このようなモードの遷移は、操作部162からのユーザ操作指示や、制御部161の判断に応じて実行され、操作に応じて手動で遷移することもあれば、自動で遷移することもある。図2のように、撮像装置100は、アイドル状態200を経由して4つのモード、静止画撮影モード201、静止画再生モード202、動画撮影モード203、動画再生モード204に適宜切り替わって動作する。
<静止画撮影モード201>
まず、静止画撮影モード201について説明する。静止画撮影モード201では、例えば撮影指示に応答して簡易現像部111で現像処理された画像情報が静止画圧縮部141に供給され、高能率符号化処理(静止画圧縮)により簡易画像としての静止画ファイルが生成される。静止画圧縮部141は、JPEGなどの公知の静止画圧縮技術を用いて圧縮処理を行い、記録再生部151が静止画ファイルを記録媒体152に記録する。また、RAW圧縮部113は、撮影された静止画に対応するセンサ信号処理部103から出力されたRAW画像データを高能率符号化(RAW圧縮)する。RAW圧縮により圧縮された状態のRAW画像データはバッファ部115に格納される。RAW圧縮部113が行う高能率符号化は、ウエーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でも良い。或いは、RAW圧縮部113のRAW圧縮を省略して、RAW画像データが非圧縮の状態のままスルー出力されても良い。RAW圧縮の有無に関わらず、本実施形態では、センサ信号処理部103から供給される画像情報を大きく損なわない、高画質な画像として復元可能なRAW画像データを生成する。記録再生部151はRAW画像データを含むRAWファイルを記録媒体152に記録する。
ここで、本実施形態に係る、静止画ファイルの構造と、RAWファイルの構造について説明する。図3は、静止画ファイル及びRAWファイルの構成例を示す図である。図3(a)に示す静止画ファイル300は、記録再生部151によって、例えば記録媒体152の所定の記録エリアに記録されている。静止画ファイル300は、ヘッダ部301、メタデータ部302、圧縮データ部303から成る。ヘッダ部301には、このファイルが静止画ファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部303には、高能率符号化された静止画の圧縮データが含まれている。
メタデータ部302には、この静止画ファイルに格納された静止画データに対応したRAW画像データを含むRAWファイルのファイル名の情報304が含まれる。また、この静止画ファイルが簡易現像部111によって簡易現像された静止画データを含むのか、又は高画質現像部112で高画質現像された静止画データを含むのかを示すフラグを含む現像ステータスの情報305が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサ部102からの撮影時の情報(例えば、レンズ種別識別情報、センサ種別識別情報など)を含む撮影メタデータ306が含まれる。また、図示していないが、対応するRAWファイルが記録されている記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。
図3(b)に示すRAWファイル310は、バッファ部115に記憶されているか、または、記録再生部151によって、例えば記録媒体152の所定の記録エリアに記録されている。なお、バッファ部115にRAW画像データが記憶される場合、必ずしも図3の順にファイルの形式で各データが記憶されていなくてもよい。なお、記録媒体152に記録した後も、RAW画像データ及びヘッダ部、メタデータ部の情報をバッファ部115に保持しておいてもよい。RAWファイル310は、ヘッダ部311、メタデータ部312、圧縮データ部313から成る。ヘッダ部311には、このファイルがRAWファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部313には、高能率符号化された圧縮された状態のRAW画像データが含まれている(圧縮されていないRAW画像データであっても良い)。
メタデータ部312には、このRAWファイルに含まれるRAW画像データを現像処理することにより生成された静止画データを含む静止画ファイルのファイル名の情報314が含まれる。また、その静止画ファイルに含まれる静止画データが簡易現像部111によって簡易現像されたのか、又は高画質現像部112で高画質現像されたのかを示すフラグを含むことを示す現像ステータスの情報315が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサ部102からの撮影時の情報(例えば、レンズ種別識別情報、センサ種別識別情報など)を含む撮影メタデータ316が含まれる。
また、図示していないが、RAWファイルが記録されている記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。対応する静止画ファイルが記録されている記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。或いはまた、静止画ファイルそのものをメタデータ化して、メタデータ部312に格納しても良い。上述した本実施形態に係る各種ファイルの構造は一例であり、DCFやEXIFなどの標準規格に準じた構成であっても良い。
なお、静止画撮影モードにて現像処理された静止画データは、簡易現像部111で簡易現像されているため、画素数が200万画素以下であったり、現像処理を一部省いていたりするために、画質は限定的な品質である。撮影内容の大まかな確認としては有効であるが、画像の細部を確認したり、プリントアウトしたりする用途には十分ではない場合がある。一方、RAW画像データは、センサ信号処理部103から供給される画像情報を大きく損なわない高品質を有するが、現像処理前のデータであるため、そのままの状態で表示やプリントアウトを行うのが困難である。表示やプリントアウトのためには現像処理が必要で、現像のための時間を要してしまう。また、一般にRAW画像データは、メーカ固有の形式であることが多く、RAW画像データを扱える再生環境も限定されてしまう。
そこで、撮影動作を終えた後、アイドル状態200においてバッファ部115に保持されたRAW画像データ又は記録媒体152等に記録されたRAWファイルに格納されたRAW画像データに対し、改めて高画質に現像処理を施し、高画質の表示画像や高画質の静止画データを生成する「追いかけ現像」を行う。追いかけ現像が実行されると、既に記録されているRAW画像データを読みだして、高画質現像部112によって高画質に現像処理を行う。そして、高画質な現像処理を行うことにより得られた静止画データを記録媒体152等へ記録する。そして、このような追いかけ現像を、撮影と撮影の合間や、再生モードやスリープ状態などユーザ操作待ちの、比較的、装置の処理負荷が小さい状態において実行させる。そして、撮影時の簡易現像による静止画データを含む静止画ファイルを、高画質現像による静止画データを含む静止画ファイルに置き換えて行く。追いかけ現像は手動に限らず、制御部161が自動に実行させるように設計すると良い。このように構成することにより、その後に、細部の確認表示やプリントアウトなど、高画質な再生の要求においても、その都度余計な現像処理が発生せず、また、従来の静止画ファイルと同様の一般的な環境における活用が可能となる。
<静止画再生モード202>
次に静止画再生モード202について説明する。静止画再生モード202では、再生される静止画について、ユーザから拡大表示の指示を受けているかを判定する。もし、拡大指示を受けていない場合、静止画伸張部143が、静止画ファイルに含まれる静止画データを復号して伸張し、表示制御部122が表示画像を表示部123へ出力する。一方、拡大指示を受けた場合、静止画ファイルに含まれる静止画データが高画質現像されたものでなければ、追いかけ現像による高画質現像を実行する。高画質現像部112が生成される現像処理済みの画像のサイズ(画素数)は、撮像センサ部102から読出された全体サイズのまま、或いはユーザから設定されたサイズとなり、200万画素以下に制限された簡易現像の画像よりも格段に高品質となる。従って、高画質現像部112で現像された静止画ならば、拡大表示の要求に対して十分な画質で答えることができる。なお、簡易現像による静止画データを含む静止画ファイルは、高画質現像による静止画データを含む静止画ファイルに順次置き換えられる。
ここで図4を参照して拡大表示を含む表示形態の種類を説明する。図4は、本実施形態の静止画再生モードの表示処理の例を示す図である。図4(a)の表示例400は、401に示す6つの画像を縮小して表示部123に縮小表示(一覧表示)している例である。図4(b)の表示例410は、ある1つの画像711の全体を表示部123に表示している例であり、この表示の状態を通常表示とする。図4(c)の表示例420は、ある1つの画像の一部領域を拡大した画像421を表示部123に拡大表示している例である。例えば、撮影直後にフォーカスの適否の確認を行うような場合に、表示例420のように被写体像の細部を拡大表示する使われ方が一般的である。
<動画撮影モード203>
次に、撮像装置100の動画撮影モード203における動作について説明する。図5に、本実施形態の動画撮影モードの処理に係るフローチャートを示す。図5のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図5において動画撮影モードの処理が開始されると、S501において制御部161が撮像装置100の処理負荷状況が低いか否かを判定する。負荷状況に応じた頻度で、処理負荷が低い場合はS520でアイドル状態へ遷移し、それ以外の場合はS502へ進む。例えば、水平解像度が4000画素相当(4K)のように画素数の多い動画や、毎秒120コマ(120P)のようにフレームレートの高い動画が設定されているときは処理負荷が高いため、常にS502へ進む。画素数が所定値より少なかったり、フレームレートが所定の速度より低かったりする動画の撮影を行う設定のときは、動画の隣り合う第1のフレームと第2のフレームの処理の合間に、例えば半分の頻度でS520へ遷移してもよい。
S502において、カメラ制御部104が、好適な条件で動画撮影を行うよう、撮像光学部101や撮像センサ部102の動作を制御する。例えば、ユーザのズームやフォーカスの指示に従って、撮像光学部101に含まれるレンズが移動されたり、撮影画素数の指示に従って撮像センサ部102の読み出し領域が設定されたりする。また、後述の評価値算出部105や認識部131から供給される評価値の情報や被写体情報に基づいて、特定被写体へのフォーカス調整や追尾などの制御が行われる。
S503において、撮像センサ部102によって変換された電気信号に対して、センサ信号処理部103が画素の修復のための信号処理を施す。ここでは、欠落画素や、信頼性の低い画素の値に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。本実施形態では、S503の処理を終えて、センサ信号処理部103から出力される画像情報をRAW画像と呼ぶ。
S504において、簡易現像部111がRAW画像を現像処理する。このとき、制御部161が現像部110内のスイッチ部121を切り替えて、簡易現像部111で現像処理された画像情報の出力を選択する。簡易現像部111は、動画の各フレームを構成するRAW画像に対してデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの簡易現像処理を行う。簡易現像部111は、現像後の画像サイズを例えばHD映像の200万画素以下に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり或いは省いたりすることで、現像の高速処理や簡易処理を実現している。簡易現像部111が、画像サイズを縮小した上で処理を行ったり、現像処理の機能を一部制限したりすることで、撮像装置100は、例えばHDサイズの動画の現像を、小さい回路規模で少ない消費電力で実現することができる。
簡易現像部111で現像処理された画像情報は、評価値算出部105に供給される。S505にて評価値算出部105は、画像情報に含まれる輝度値やコントラスト値などからフォーカス状態や露出状態などの評価値を算出する。なお、評価値算出部105は、現像処理前のRAW画像を取得して、RAW画像から同様に評価値を算出するようにしても良い。
また、簡易現像部111で現像処理された画像情報は、認識部131に供給される。S506にて認識部131は、画像情報から被写体(顔など)の検出を行い、被写体情報を認識する。例えば、画像情報内における顔の有無や、その位置、特定の人物の認証などを行って、その結果を情報として出力する。
また、簡易現像部111で現像処理された画像情報は、表示制御部122に供給される。S507にて表示制御部122は、取得した画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する。表示部123による表示画像は、動画撮影モードにおいて、ユーザが被写体を適切にフレーミングするための確認表示のために用いられる。具体的に、動画撮影特有の使用形態として、撮影された動画の記録開始前(スタンバイ中)だけでなく、動画の記録中(REC中)においても、被写体を適切にフレーミングするためのライブビュー表示のために用いられる。なお、表示画像は、表示制御部122から映像出力端子124を経由して、外部のテレビジョンなどの他の表示装置にて表示されてもよい。さらに、表示制御部122は、評価値算出部105や認識部131から供給される、評価値情報や被写体情報を活用して、例えば、表示画像上のフォーカスの合焦領域にマーキング表示したり、認識された顔の位置に枠を表示したりすることもできる。
S508において、制御部161は、ユーザからの記録の開始指示を受けて撮影された動画を記録中(REC中)であるか否かを判定する。REC中と判定された場合、S510へ進み、REC中ではないと判定された場合(スタンバイ中)は、S501へ戻って、動画の記録開始前の撮影動作とライブビュー表示を繰り返す。これにより、撮影された動画のうち記録開始から記録終了までの記録対象となる期間のRAW画像データが、センサ信号処理部103からRAW圧縮部113に供給される。S510にて、RAW圧縮部113が供給されたRAW画像データを高能率符号化(RAW圧縮)する。RAW圧縮により圧縮された状態のRAW画像データはバッファ部115に格納される。RAW圧縮部113が行う高能率符号化は、ウエーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でも良い。或いは、RAW圧縮部113のRAW圧縮を省略して、RAW画像が非圧縮の状態のままスルー出力されても良い。RAW圧縮の有無に関わらず、本実施形態では、センサ信号処理部103から供給される画像情報を大きく損なわない、高画質ファイルとして復元可能なRAWファイルを生成する。
S511において、記録再生部151がRAW画像データを含むRAWファイルを記録媒体152に記録した後、フローはS501に遷移する。なお、図面を用いての説明は省略するが、動画の撮影と同時に、不図示のマイクロフォンによって入力された音声情報が取得されている。記録対象となる期間の音声情報はRAW画像と対応付けられて記録される。また、S511において、記録再生部151は、RAWファイルを、通信部153を介して、通信端子154から外部のストレージに送って、外部のストレージによって記録するようにしても良い。以上が、本実施形態の動画撮影モードの処理に係るフローの説明である。
ここで、本実施形態に係るRAWファイルの構造について図3(c)を参照して説明する。
図3(c)に示すRAWファイル320は、記録再生部151によって、例えば記録媒体152の所定の記録エリアに記録されている。RAWファイル320は、ヘッダ部321、メタデータ部322、圧縮データ部323から成る。ヘッダ部321には、このファイルがRAWファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部323には、高能率符号化された動画のRAW画像データが含まれている(圧縮されていない動画のRAW画像データであっても良い)。
メタデータ部322には、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサ部102からの撮影時の情報(例えば、レンズ種別識別情報、センサ種別識別情報など)を含む撮影メタデータ916が含まれる。上述した本実施形態に係る各種ファイルの構造は一例であり、DCF、AVCHD、MXFなどの標準規格に準じた構成であっても良い。
本実施形態に係る撮像装置100は、上述のように、動画撮影モードにおける撮影画像表示(ライブビュー表示)や、評価値を生成するための現像処理を、簡易現像部111によって行う。簡易現像部111は、現像後の画像サイズを200万画素以下に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり、或いは省いたりすることで、例えばHDサイズの動画の現像処理を、小さい回路規模で少ない消費電力で実現することができる。一方で、本実施形態に係る撮像装置100は、記録期間に対応するRAWファイルを生成する。RAWファイルは、センサ信号処理部103から供給される画像情報を大きく損なわない高画質ファイルであるが、このファイルの生成に現像処理を必要としない。そのため、4Kや8K(水平解像度が8000画素相当)のように画像の画素数を高めたり、毎秒120コマ(120P)のようにフレームレートを高めたりしても、小規模な回路によって少ない消費電力でRAWファイルを記録することが可能である。
<動画再生モード204>
次に、撮像装置100の動画再生モード204における動作について説明する。図6に、本実施形態の動画再生モードの処理に係るフローチャートを示す。図6のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図6において動画再生モードの処理が開始されると、S601にて制御部161が撮像装置100の処理負荷状況が低いか否かを判定する。負荷状況に応じた頻度で、処理負荷が低い場合S610でアイドル状態へ遷移し、それ以外の場合S602へ進む。例えば、再生指示などのユーザ操作を待っている間は、処理負荷が低いため、S610へ遷移する。ユーザからの操作に応じて動画の再生が開始されている(再生中の状態を含む)場合はS602へ進む。
S602において、記録再生部151が、記録媒体152等から再生対象のRAWファイルを読み出す。そして、S603において、RAW伸張部114が、RAWファイルを1フレームずつ復号して伸張する。S604において、制御部161が、再生される動画について、ユーザから再生の一時停止(ポーズ)の指示を受けているかを判定する。S604で一時停止指示がなければ動画再生を継続するためにフローはS605に進む。
S605において、簡易現像部111がRAW画像を現像処理する。このとき、制御部161が現像部110内のスイッチ部121を切り替えて、簡易現像部111で現像処理された画像情報の出力を選択する。簡易現像部111は、動画の各フレームを構成するRAW画像に対してデベイヤー処理(デモザイク処理)し、輝度と色差から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの簡易現像処理を行う。簡易現像部111で現像処理された画像情報は、表示制御部122に供給される。S606にて表示制御部122は、取得した画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する。
ここで一例として、RAW画像データが3840×2160画素のフレームが毎秒60枚のフレームレートで記録され、簡易現像部111が回路規模を抑えるために1920×1080画素のフレームを毎秒60枚処理可能な場合を想定する。この場合の動画RAWファイルの再生画像の一例を図8(a)に示す。図8(a)中、p1、p2、p3、・・・はRAW画像データの各フレーム番号を示しているが、簡単のため、全てのフレームに記号を付与していない。1920×1080画素のフレームは、3840×2160画素のフレームを縮小して生成してもよいし、3840×2160画素のフレームの一部分を切り出して生成してもよい。なお、上記簡易現像部111の処理能力は、単位時間あたりに処理可能な画素数の上限であり、例えば、3840×2160画素のフレームを毎秒15枚処理することが可能である。
図8(b)は、表示画像の解像度は変えずに、フレームの表示レートを低くすることで、簡易現像部111で現像して表示した場合を示す。図8(b)では、表示対象のフレームを4フレームおきとし、間のフレームを落としている。また、表示画像におけるフレーム番号は対応するRAW画像データのフレーム番号を割り当てている。なお、「表示レート」とは表示画像を切替える速度に相当する概念である。通常再生では1秒間に60枚の画像を切替えるとすると、表示レートが遅くなるにつれ1秒間に表示される画像の枚数が少なくなる。例えば、通常再生の表示レートの1/2では1秒間に30枚を切替えることとなる。表示レートを低下させていくと、最終的に画像の切替を行わない状態、即ち一時停止状態となる。
このように、表示レートを変更すれば、同じ簡易現像を行う場合であってもフレームサイズを変更しサイズの小さい複数枚数のフレームを現像処理する代わりに大きなサイズのフレームを現像処理することができる。また、以下に説明するように表示レートを変更して一時停止する場合(即ち、毎秒60枚のRAW画像データの現像処理が必要だったところ、一時停止時の1枚の画像を現像すればよい場合)には、RAW画像データについて行う現像処理を簡易現像処理から高画質現像処理へ切り替えてもよい。
図6の説明に戻り、S604で一時停止指示を受けた場合、制御部161が、再生及び表示中の動画を一時停止状態にするともに、一時停止されたときの停止位置のフレームを静止画として表示させるために、S622へフローを遷移させる。一時停止状態では、画像が静止して表示されるので、動いているときよりも細部の画質を視認しやすい状態になる。さらに、一時停止中には拡大表示の指示を受けやすいと考えられる。そこで、簡易現像されている画像よりも高画質な画像の表示を提供するため、復元されたRAW画像は、高画質現像部112で高画質に現像処理される。
撮像装置100は、このように動画のRAW画像データから高画質に現像された、一時停止表示中のフレームに対応する高画質の静止画データを、新たにキャプチャすることも可能である。S623において、制御部161が、静止位置の表示画像を静止画としてユーザからキャプチャ指示を受けつけたか否かを判定する。S623で静止画キャプチャの指示を受けつけないならば、動画のRAW画像データから高画質に現像された静止画データは表示制御部122に供給され、S606において、表示制御部122が高画質に現像された静止画データの表示画像を表示部123へ出力する。この処理によって、動画ファイルによる一時停止表示中の画像は、RAW画像データから高画質に現像された静止画データの表示画像によって置き換わる。
S623で静止画キャプチャの指示を受けつけたならば、S622で高画質現像部112によって現像処理された画像情報が静止画圧縮部141に供給される。静止画圧縮部141は、S624にてキャプチャによって取得した画像情報に対して高能率符号化処理(静止画圧縮)を実行する。なお、静止画圧縮部141は、JPEGなどの公知の技術により圧縮処理を行う。
S625において、記録再生部151が高画質の静止画データを含む静止画ファイルを記録媒体152等に記録したら、フローはS606に遷移する。動画のRAWファイルに含まれるRAW画像データから高画質に現像された静止画データは表示制御部122に供給され、S606において、表示制御部122が高画質に現像された静止画データの表示画像を表示部123へ出力する。この処理によって、動画ファイルによる一時停止表示中の画像は、RAW画像データから高画質に現像された静止画データの表示画像によって置き換わる。
S624で静止画圧縮部141によって生成される高画質の静止画データを含む静止画ファイルは、図4(a)の静止画ファイル400の構成を成す。メタデータ部402には、RAWファイルのファイル名の情報404として、キャプチャの元となった動画のRAWファイルのファイル名が格納される。また、撮影メタデータ406として、静止画としてキャプチャされたフレームの時刻情報が格納され、動画のRAWファイルの対応するフレーム位置を指し示すことができる。また、動画のRAWファイルの対応するフレームを静止画として抽出して、対となる新たなRAWファイル410をこのとき作成しても良い。静止画のRAWファイルの生成に関しては、前述の静止画撮影モードのS310〜S313で説明したような方法で、静止画ファイルとRAWファイルを構成する。
なお、S606の表示は1フレーム毎に行われ、動画再生中は、次のフレームの表示を行うため、フローはS601に戻る。S601において、アイドル状態S610に遷移した場合は、例えば上述の追いかけ現像処理が実行される。
このように、本実施形態の撮像装置100は、簡易現像により、小さい回路規模で少ない消費電力で動画を再生することができ、一時停止状態では、高画質に現像した静止画を差し替えて表示できる。さらに、この高画質な静止画を容易に静止画ファイルとしてキャプチャすることができる。
なお、上記では表示レートの変更方法として一時停止の場合を記載したが、一時停止の後に表示画像を切替えるコマ送りの場合においても、上記と同様に切替えて表示されるべきRAW画像データを高画質現像して表示しても良い。
(第2の実施形態)
第1の実施形態では、毎秒60枚のRAW画像データの現像処理が必要だった通常の再生状態からフレーム画像の表示レートが変更され、一時停止状態で1枚の画像を現像すればよい状態に変化した場合に、RAW画像データについて行う現像処理を簡易現像処理から高画質現像処理へ切り替える場合を説明した。しかし、表示レートの変更は一時停止に限定されるものではなく、再生速度を低下させる場合、即ちスロー再生も含まれる。
そこで本第2の実施形態では、動画再生中にスロー再生の指示があった場合について説明する。本実施形態に係る撮像装置の構成は第1の実施形態で説明したものと同様であるので(図1参照)、ここでは、主に第1の実施形態との差異について説明する。
撮像装置100の動画再生モードにおける動作について説明する。図9に、本実施形態の動画再生モードの処理に係るフローチャートを示す。図9のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図9において動画再生モードの処理が開始されると、S901にて制御部161が撮像装置100の処理負荷状況が低いか否かを判定する。負荷状況に応じた頻度で、処理負荷が低い場合はS910でアイドル状態へ遷移し、それ以外の場合S902へ進む。例えば、再生指示などのユーザ操作を待っている間は、処理負荷が低いため、S910へ遷移する。ユーザからの操作に応じて動画の再生が開始されている(再生中の状態を含む)場合はS902へ進む。
S902において、記録再生部151が、記録媒体152等から再生対象のRAWファイルを読み出す。そして、S903において、RAW伸張部114が、RAWファイルを1フレームずつ復号して伸張する。S904において、制御部161が、再生される動画について、ユーザからスロー再生の指示を受けているかを判定する。S904でスロー再生の指示がなければ動画再生を継続するためにフローはS905に進む。
S905において、簡易現像部111がRAW画像を現像処理する。このとき、制御部161が現像部110内のスイッチ部121を切り替えて、簡易現像部111で現像処理された画像情報の出力を選択する。簡易現像部111で現像処理された画像情報は、表示制御部122に供給される。S906にて表示制御部122は、取得した画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する。
S904でスロー再生の指示を受けた場合、S921に進み、制御部161がユーザからのスロー再生の表示レートの変更指示が1/8以下かを判定する。スロー再生の状態では、通常再生時よりも表示レートが下がるが、本実施形態では一例として1/2、1/4、1/8のいずれかの表示レートを指定して変更指示を行うことが可能な場合を想定する。この場合、S904では指定可能な表示レートのうち最も遅い表示レートが指定されたかどうかを判定している。仮に、指定可能な表示レートに1/16やそれ以下のレートが含まれる場合、S904では所定レート以下(1/8以下)の表示レートが指定されたか否かを判定すればよい。なお、所定レートは、現像部110における現像処理能力に応じて決定することができる。以上により、画像の更新時間が長く、通常再生のときよりも細部の画質を視認しやすい状態になる。そこで、簡易現像されている画像よりも高画質な画像の表示を提供するようにしている。
S921でスロー再生の表示レートが1/8以下と判定されれば高画質現像を行う時間が十分にあるため、S923に遷移し、復元されたRAW画像データは、高画質現像部112で高画質に現像処理される。表示制御部122は、S906にて現像処理された画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する。
S921でスロー再生の表示レートが1/8よりも高いと判定された場合、S922において、スロー再生の表示レートに応じて、通常再生時の簡易現像と比較して高画質となるような現像処理を行う。例えば、表示レートが1/2の場合、画像の更新期間が通常再生と比較して2倍の時間あることから、現像処理にかける時間を2倍とることができる。そこで、通常再生時は3840×2160画素のフレームを1920×1080画素に縮小して現像していたところを、2560×1440画素にして現像している。また、表示レートが1/4の場合は、現像処理にかける時間を4倍とることができるため、縮小せずにRAW画像データの元々のフレームサイズと一致する3840×2160画素のフレームを現像している。
図10に上記の各種の表示レートに対応した表示フレームについて模式的に示している。図10(a)では、RAW画像は3840×2160画素のフレーム(縦横比16対9)が毎秒60枚のフレームレートで記録される場合を示している。図10(b)では簡易現像部111は回路規模を抑えるために1920×1080画素のフレームを毎秒60枚処理する場合を示している。なお、簡易現像部111の処理能力では、例えば3840×2160画素のフレームを毎秒15枚処理することができる。図10(c)では、1/2スロー再生時の簡易現像により、2560×1440画素のフレームを毎秒30枚処理する場合を示している。図10(d)では、1/4スロー再生時の簡易現像により、3840×2160画素のフレームを毎秒15枚処理する場合を示している。図10(e)では、1/8スロー再生時の高画質現像により、3840×2160画素のフレームを毎秒7.5枚処理する場合を示している。なお、1/8以下のレートが存在する場合は、同様に高画質現像により、3840×2160画素のフレームが処理されることとなる。
上記の例では、現像処理に時間がかけられる場合に簡易現像を行いつつ現像するフレームの解像度を高くする例を示した。よって、表示レートが変更される場合、変更後に表示されるフレームサイズを、表示レートを低下させる前のフレームサイズよりも大きくすることができる。これ以外にも、解像度は維持しつつ、ノイズ除去や光学的な歪み補正を行うべく高画質現像を行ってもよい。図11は、その場合の各種の表示レートに対応した表示フレームについて模式的に示している。
図11(a)、(b)、(e)は図10(a)、(b)、(e)と同様である。図11(c)では、1/2スロー再生時の高画質現像により、図10(b)と同じサイズの1920×1080画素のフレームを毎秒30枚処理する場合を示している。図11(d)では、1/4スロー再生時の高画質現像により、2560×1440画素のフレームを毎秒15枚処理する場合を示している。このように1枚のフレームに対する処理時間が増加するにつれて、フレームサイズを大きくすることができる。
次にS906にて表示制御部122は、現像処理された画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する。なお、S906の表示は1フレーム毎に行われ、動画再生中は、次のフレームの表示を行うため、フローはS901に戻る。S901において、アイドル状態S910に遷移した場合は、上述した図5のフローチャートに従って処理される。
このように、本実施形態の撮像装置100は、簡易現像により、小さい回路規模で少ない消費電力で動画を再生することができ、スロー再生状態では、通常再生よりも高解像度に現像した画像や、高画質に現像した画像を表示できる。
以上が本実施形態の説明であるが、本発明は、本発明の技術思想の範囲内において、上記実施形態に限定されるものではなく、対象となる回路形態により適時変更されて適応するべきものである。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 撮像光学部、102 撮像センサ部、103 センサ信号処理部、104 カメラ制御部、105 評価値算出部、110 現像部、111 簡易現像部、112 高画質現像部、113 RAW圧縮部、114 RAW伸張部、115 バッファ部、121 スイッチ部、122 表示制御部、123 表示部、124 映像出力端子、131 認識部、141 静止画圧縮部、143 静止画伸張部、151 記録再生部、152 記録媒体、153 通信部、154 通信端子

Claims (12)

  1. 複数のRAW画像データを含む動画ファイルを記録媒体から読み出す読出手段と、
    前記動画ファイルに含まれる複数のRAW画像データを現像する現像手段と、
    前記現像された複数のRAW画像データを表示部に表示する表示制御手段と、
    を備え、
    前記現像手段は、
    前記複数のRAW画像データが第1の表示レートで通常再生される場合、第1の現像処理を実行し、
    前記複数のRAW画像データが前記第1の表示レートよりも低い表示レートでスロー再生される場合、前記通常再生される場合よりも高画質であって、かつ、前記スロー再生の表示レートに応じた画質が得られる現像処理を実行する
    ことを特徴とする画像処理装置。
  2. 前記現像手段は、
    前記複数のRAW画像データが前記第1の表示レートよりも低く、かつ、所定の表示レートよりも高い表示レートで前記スロー再生される場合、前記通常再生される場合よりも高画質であって、かつ、前記スロー再生の表示レートに応じた画質が得られるように前記第1の現像処理を実行し、
    前記複数のRAW画像データが前記所定の表示レート以下の表示レートで前記スロー再生される場合、前記第1の現像処理よりも処理負荷の高い第2の現像処理を実行する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記現像手段は、前記複数のRAW画像データが前記第1の表示レートよりも低い表示レートでスロー再生される場合、前記スロー再生の表示レートに応じた画質が得られるように前記第1の現像処理よりも処理負荷の高い第2の現像処理を実行することを特徴とする請求項1に記載の画像処理装置。
  4. 前記現像された複数のRAW画像データの表示の一時停止に応じて、前記複数のRAW画像データのうちの1つのRAW画像データに対して前記現像手段により前記第2の現像処理を実行して静止画データを生成し、生成した静止画データを記録媒体に記録するように制御する記録制御手段を更に備える、ことを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記現像手段は、前記スロー再生の表示レートに応じた画質が得られる現像処理を実行する場合、前記スロー再生の表示レートが低くなると現像後のフレームサイズを前記表示レートが低くなる前のフレームサイズよりも大きくすることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記現像手段は、前記スロー再生の表示レートに応じた画質が得られる現像処理を実行する場合、前記スロー再生の表示レートが低くなるほど現像後のフレームサイズを大きくすることを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 前記複数のRAW画像データが前記所定の表示レート以下の表示レートで前記スロー再生される場合、現像後のフレームサイズは所定のサイズと一致し、
    前記複数のRAW画像データが前記第1の表示レートよりも低く、かつ、前記所定の表示レートよりも高い表示レートで前記スロー再生される場合、現像後のフレームサイズには前記所定のサイズよりも小さいフレームサイズが含まれる
    ことを特徴とする請求項に記載の画像処理装置。
  8. 前記現像手段は、前記スロー再生の表示レートが所定の表示レート以下の場合に、現像後のフレームサイズを所定のサイズとすることを特徴とする請求項に記載の画像処理装置。
  9. 前記所定のサイズはRAW画像データが有するサイズであることを特徴とする請求項7または8に記載の画像処理装置。
  10. 撮像手段と、
    前記撮像手段により得られた画像を用いてRAW画像データを生成する生成手段と、
    複数の前記RAW画像データを含む動画ファイルを記録媒体に記録する記録手段と、
    請求項1乃至9のいずれか1項に記載の画像処理装置と
    を備えることを特徴とする撮像装置。
  11. 読出手段が、複数のRAW画像データを含む動画ファイルを記録媒体から読み出す読出工程と、
    現像手段が、前記動画ファイルに含まれる複数のRAW画像データを現像する現像工程と、
    表示制御手段が、前記現像された複数のRAW画像データを表示部に表示する表示工程と
    を有し、
    前記現像工程では、
    前記複数のRAW画像データが第1の表示レートで通常再生される場合、第1の現像処理が実行され、
    前記複数のRAW画像データが前記第1の表示レートよりも低い表示レートでスロー再生される場合、前記通常再生される場合よりも高画質であって、かつ、前記スロー再生の表示レートに応じた画質が得られる現像処理が実行される
    ことを特徴とする画像処理装置の制御方法。
  12. コンピュータを請求項1乃至9のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2014209395A 2014-10-10 2014-10-10 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム Active JP6465613B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014209395A JP6465613B2 (ja) 2014-10-10 2014-10-10 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム
US14/878,572 US9972355B2 (en) 2014-10-10 2015-10-08 Image processing apparatus, method for controlling image processing apparatus, and non-transitory computer readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014209395A JP6465613B2 (ja) 2014-10-10 2014-10-10 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2016082309A JP2016082309A (ja) 2016-05-16
JP6465613B2 true JP6465613B2 (ja) 2019-02-06

Family

ID=55656347

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014209395A Active JP6465613B2 (ja) 2014-10-10 2014-10-10 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム

Country Status (2)

Country Link
US (1) US9972355B2 (ja)
JP (1) JP6465613B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9648220B2 (en) * 2015-03-27 2017-05-09 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus, imaging apparatus body and image sound output method
KR102434417B1 (ko) * 2017-07-20 2022-08-22 삼성전자주식회사 이미지 데이터 및 이미지 촬영의 제어와 관련된 데이터의 크기에 기반하여, 이미지 데이터 및 이미지 촬영의 제어와 관련된 데이터를 전송하는 방법 및 이를 지원하는 전자 장치
JP7493920B2 (ja) * 2019-08-23 2024-06-03 キヤノン株式会社 表示制御装置およびその制御方法およびそのプログラムおよびその記憶媒体
JP7433843B2 (ja) * 2019-11-05 2024-02-20 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置およびファイル生成方法
JP7348815B2 (ja) * 2019-11-14 2023-09-21 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置およびファイル記録方法
JP7483386B2 (ja) 2020-01-21 2024-05-15 キヤノン株式会社 画像処理システム
JP2022002376A (ja) 2020-06-22 2022-01-06 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003338995A (ja) * 2002-05-21 2003-11-28 Canon Inc 画像再生装置及び画像再生方法
JP4145086B2 (ja) * 2002-07-17 2008-09-03 株式会社リコー 画像復号装置、画像処理装置、動画像表示システム、プログラム、記憶媒体及び画像復号方法
JP4680166B2 (ja) * 2006-10-30 2011-05-11 ソニー株式会社 撮像装置および撮像方法
US8320729B2 (en) * 2007-11-21 2012-11-27 Sri International Camcorder jamming techniques using high frame rate displays
JP4987129B2 (ja) 2010-04-23 2012-07-25 キヤノン株式会社 画像処理装置及びその制御方法
JP2013219589A (ja) * 2012-04-10 2013-10-24 Canon Inc 画像処理装置、画像処理方法、およびプログラム
JP2014082731A (ja) * 2012-09-26 2014-05-08 Jvc Kenwood Corp 動画像データ処理装置及び動画像データ処理方法
JP6245818B2 (ja) 2013-03-15 2017-12-13 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP6245819B2 (ja) * 2013-03-15 2017-12-13 キヤノン株式会社 画像処理装置及び画像処理方法
EP3490250B1 (en) 2013-03-15 2020-09-16 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP6192319B2 (ja) * 2013-03-15 2017-09-06 キヤノン株式会社 画像処理装置及び画像処理方法
WO2014141637A1 (en) 2013-03-15 2014-09-18 Canon Kabushiki Kaisha Imaging apparatus and imaging apparatus control method
JP2014179851A (ja) 2013-03-15 2014-09-25 Canon Inc 撮像装置及び撮像装置の制御方法

Also Published As

Publication number Publication date
US9972355B2 (en) 2018-05-15
US20160105632A1 (en) 2016-04-14
JP2016082309A (ja) 2016-05-16

Similar Documents

Publication Publication Date Title
JP6465613B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、コンピュータプログラム
JP6373056B2 (ja) 撮像装置、撮像装置の制御方法及び画像処理方法
EP3490250B1 (en) Image processing apparatus and image processing method
EP2974265B1 (en) Imaging apparatus and imaging apparatus control method
JP2015179909A (ja) 撮像装置及びその制御方法
JP6406949B2 (ja) 画像処理装置及び画像処理方法
JP5883052B2 (ja) 画像処理装置及びその制御方法
JP6245819B2 (ja) 画像処理装置及び画像処理方法
JP6327939B2 (ja) 撮像装置及び撮像装置の制御方法
JP6741532B2 (ja) 撮像装置および記録方法
JP6366268B2 (ja) 撮像装置及びその制御方法
JP6192319B2 (ja) 画像処理装置及び画像処理方法
JP2015119403A (ja) 画像記録装置、画像記録方法およびプログラム並びに撮像装置
JP6245818B2 (ja) 撮像装置及び撮像装置の制御方法
JP6333008B2 (ja) 撮像装置及び撮像装置の制御方法
JP6452362B2 (ja) 撮像装置及び撮像方法
JP2015076815A (ja) 画像表示装置、撮像装置、画像表示装置の制御方法、コンピュータプログラム
JP6282136B2 (ja) 撮像装置及びその制御方法
JP2014179851A (ja) 撮像装置及び撮像装置の制御方法
JP2016063252A (ja) 画像処理装置及び画像処理方法
JP6280402B2 (ja) 画像記録装置および画像記録方法、プログラム、並びに記憶媒体
JP2019110367A (ja) 撮像装置
JP2016063254A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171010

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190108

R151 Written notification of patent or utility model registration

Ref document number: 6465613

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151