JP2015233270A - 撮像装置およびその制御方法 - Google Patents
撮像装置およびその制御方法 Download PDFInfo
- Publication number
- JP2015233270A JP2015233270A JP2015035630A JP2015035630A JP2015233270A JP 2015233270 A JP2015233270 A JP 2015233270A JP 2015035630 A JP2015035630 A JP 2015035630A JP 2015035630 A JP2015035630 A JP 2015035630A JP 2015233270 A JP2015233270 A JP 2015233270A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image signal
- amount
- parallax
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
Landscapes
- Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Focusing (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Automatic Focus Adjustment (AREA)
Abstract
【課題】視差像を取得可能な撮像素子を有し、視差量の算出を可能としながら送信または記録するデータ量を削減することの可能な撮像装置およびその制御方法を提供する。
【解決手段】画像信号のうち、複数の光電変換部から得られる画像信号については画素ごとに加算し、画素あたり1つの信号とした第1画像信号と、複数の光電変換部を有する画素の1つ以上の光電変換部から得られる画像信号を加算しない第2画像信号のうち、第2画像信号については、一部が出力されるように選択する。
【選択図】図4
【解決手段】画像信号のうち、複数の光電変換部から得られる画像信号については画素ごとに加算し、画素あたり1つの信号とした第1画像信号と、複数の光電変換部を有する画素の1つ以上の光電変換部から得られる画像信号を加算しない第2画像信号のうち、第2画像信号については、一部が出力されるように選択する。
【選択図】図4
Description
本発明は、撮像装置及びその制御方法に関し、特に複数の光電変換部が設けられた画素を有する撮像素子を用いる撮像装置およびその制御方法に関する。
結像光学系の射出瞳の異なる部分領域を通過した光束を別個の光電変換部で受光するように構成された画素を有する撮像素子が知られている。このような画素は、視差のある2つの画像信号(以下A像、B像と呼ぶ)を取得するために用いられる。A像とB像の位相差を求めることで、位相差検出方式の焦点検出を行うことができる。また、A像とB像から距離画像を作成することもできる。
A像およびB像の応用例として、A像とB像とから撮像画像の小領域ごとにデフォーカス量を求め、デフォーカス量に応じた画像処理を施したり(特許文献1)、デフォーカス量の分布を求めて記録したり(特許文献2)することが知られている。
撮像画像の小領域ごとにデフォーカス量を算出するには、図2に示したような、複数の光電変換部を有する画素を撮像素子に多く設ける必要がある。しかし、デフォーカス量の算出処理負荷が増大し、特に動画撮影時の様に撮影間隔が短い場合にはリアルタイムでデフォーカス量を算出するのが困難になる場合がある。
また、画素ごとの、より精密なデフォーカス量及び距離情報を取得するために、高度な画像処理が必要となることがある。例えば、相関値が最大となる位相差(シフト量)をA像とB像の位相差または視差量として求めるのが一般的だが、被写体が周期的なテクスチャを有する場合は、異なる複数のシフト量に対して相関値が高くなるため、正しい値の算出が難しくなる場合がある。また、A像とB像の一方のみにしか映っていない領域が存在する場合、その領域に対する位相差または視差量を求めることができない。
このように、膨大な計算を行わなければならない場合、撮像装置の処理能力では、動画撮影時や連写撮影時におけるリアルタイム処理が困難である。また、回路規模等の問題で複雑処理を実行するためのハードウェアが撮像装置に実装できない場合もある。このような場合、撮像装置からA像、B像の画像信号を出力して外部装置で位相差や視差量の算出、距離画像の生成などを行ったり、記録されたRAWデータに対して撮像装置や外部装置で同様の処理を行ったりする必要がある。
ただし、外部装置にA像およびB像の画像信号を出力する場合、例えば撮像素子の各画素でA像およびB像を得る場合には2倍の画素数に相当するデータ量を送信しなければならない。また、一旦記録して後で画像処理を行う場合にも、記憶容量を節約する必要がある。従って、視差量を算出することを可能にしながら送信または記録するデータ量を削減する技術が必要である。
本発明はこのような課題に鑑みなされたものであり、視差像を取得可能な撮像素子を有し、視差量の算出を可能としながら送信または記録するデータ量を削減することの可能な撮像装置およびその制御方法の提供を目的とする。
上述の目的は、複数の光電変換部を含む画素を複数有する撮像素子から読み出された画像信号を取得する取得手段と、複数の光電変換部から得られる画像信号を、画素ごとに加算して第1画像信号を生成する第1生成手段と、複数の光電変換部から得られる画像信号のうち、画素ごとに少なくとも一つ以上の画像信号を加算せずに第2画像信号を生成する第2生成手段と、第1画像信号及び第2画像信号の少なくともいずれかが予め定めた条件を満たす場合に、出力すべき第2画像信号を選択する選択手段と、選択手段が選択した第2画像信号を出力する出力手段と、を有することを特徴とする撮像装置によって達成される。
このような構成により、本発明によれば、視差像を取得可能な撮像素子を有する撮像装置およびその制御方法において、視差像のデータを効率よく外部に送信可能とすることができる。
●(第1実施形態)
以下、本発明の例示的な実施形態について、図面を参照しながら説明する。なお、以下では本発明を撮像装置の一例としてのデジタルカメラに適用した実施形態を説明するが、本発明は、カメラを備えた任意の電子機器において実施することができる。
以下、本発明の例示的な実施形態について、図面を参照しながら説明する。なお、以下では本発明を撮像装置の一例としてのデジタルカメラに適用した実施形態を説明するが、本発明は、カメラを備えた任意の電子機器において実施することができる。
図1は、本実施形態に係る画像処理システムを構成するデジタルカメラと外部装置の機能構成例を示すブロック図である。デジタルカメラ120は、光学系100、撮像部101、画像信号生成部102、視差量算出部103、画像信号送信部104、画像処理部105、記録部106、表示部107、距離情報受信部108を有する。なお、実施形態に直接関連しない、デジタルカメラが通常有する構成については図示していない。
制御部110は例えばプログラマブルプロセッサ(MPU)を有し、不揮発性メモリに記憶されたプログラムをMPUで実行して各機能ブロックを制御することにより、以下に説明する実施形態に係る動作を含めたデジタルカメラ120の処理を実現する。制御部110はRAMのような揮発性メモリを備え、プログラムの実行などに用いる。また、不揮発性メモリには各種の設定値やGUIデータなども記憶されている。
光学系100は結像光学系であり、フォーカスレンズや、絞り兼用シャッターなどが含まれる。制御部110はフォーカスレンズを駆動して光学系100の合焦距離を制御したり、絞り兼用シャッターの開口径や開閉動作を制御したりする。
撮像部101は、光学系100が撮像面に結像した被写体像を光電変換して、被写体像を表す電気信号(画像信号)にする撮像素子を有する。なお、「画像信号」とは1回の撮影で各画素から得られる信号(画素信号)の集まりである。画像信号生成部102は、撮像部101から受信した画像信号をそのまま出力したり、複数の画像信号を合成して出力したりすることができる。視差量算出部103は、画像信号生成部102から受信した複数の画像信号の視差量を算出する。画像信号送信部104は、画像信号生成部102からの画像信号と、視差量算出部103から視差量の情報とを受信し、出力する画像信号または画像信号の一部を選択することができる。
画像信号送信部104は有線通信インタフェースおよび無線通信インタフェースの少なくとも一方を備え、画像信号や視差量の情報を、デジタルカメラ120と通信可能に接続された外部装置150や記録部106に出力する。外部装置150は例えばパーソナルコンピュータやクラウドコンピュータ等、デジタルカメラ120よりも処理能力の高い装置である。
画像処理部105は、画像信号生成部102から受信した画像信号や、記録部106で記憶装置もしくは着脱可能な記録媒体に記録された画像信号に対し、予め定められた画像処理を適用する。予め定められた画像処理には、例えばホワイトバランス処理や、ノイズ低減処理、エッジ強調処理、ガンマ処理等の現像処理や、ぼかし処理等が含まれるが、他の画像処理が含まれてもよい。
記録部106は、画像処理部105で現像された画像信号や、画像信号送信部104が出力した画像信号等を、制御部110の制御に従ってハードディスクや半導体メモリなどの内蔵記憶装置や、着脱可能な記録媒体に記録する。また、記録部106は、記録された画像信号を制御部110の制御に従って読み出すことができる。
表示部107は、画像処理部105で現像した画像信号や、記録部106で記録された画像信号を表示する。表示部107はまた、ユーザがデジタルカメラ120に各種の指示や設定を行うためのUIを表示する。
距離情報受信部108は、有線通信インタフェースおよび無線通信インタフェースの少なくとも一方を備え、外部装置150が算出した距離情報を受信して、距離情報や距離情報に基づく情報を制御部110に供給する。
操作部111は、ユーザがデジタルカメラ120に撮影準備指示や撮影指示を始めとした各種の指示を与えたり、各種の設定を行ったりするための入力デバイス群であり、ボタン、スイッチ、タッチパネルなどを含む。
なお、光学系100、表示部107および操作部111を除く各機能ブロックの少なくとも一部については、制御部110がソフトウェア的に実現してもよい。また、複数の機能ブロックが1つのハードウェアで実現されてもよい。
外部装置150はデジタルカメラ120と通信可能な任意の電子機器、例えば汎用コンピュータであってよく、送受信部151を通じてデジタルカメラ120と通信可能に接続される。MPU152は送受信部151を通じてデジタルカメラ120から画像信号などを受信し、予め定められた方法で距離情報を算出し、送受信部151を通じて距離情報をデジタルカメラ120に送信する。なお、MPU152はRAMとROMを内蔵し、デジタルカメラ120との通信や距離情報の算出に係る処理を実施するためのプログラムはROMに記憶されているものとする。もちろん、ハードディスクドライブなどの記憶装置からプログラムをRAMに読み込んで実施してもよい。
図2(a)は、本実施形態の撮像部101が有する、視差像の取得が可能な画素(視差検出用画素)の構成例を示している。画素にはマイクロレンズ203と、2つの光電変換部または受光素子204、205が設けられており、受光素子204は射出瞳領域201を通過した光束を、受光素子205は射出瞳領域202を通過した光束を、それぞれ受光する。受光素子204で得られる画像信号をA像、受光素子205で得られる画像信号をB像とすると、A像とB像は視差像となる。複数の画素から得られるA像とB像の位相差を求めることで、位相差検出方式の焦点検出を行うことができる。また、A像とB像から距離画像を作成することもできる。
図2(a)のように画素の光電変換部が水平方向に分割(配置)されている場合、A像とB像とから水平方向の視差量を求めることができる。光電変換部が垂直方向に分割された画素を設ければ、A像とB像とから垂直方向の視差量を求めることができる。なお、図2(a)では画素の光電変換部が2等分された構成を示したが、3つ以上に分割することも可能である。例えば、垂直方向および水平方向でそれぞれ2等分した4つの光電変換部を1つの画素が有してもよい。ただし、以下では説明および理解を容易にするため、本実施形態の撮像部101が有する視差検出用画素は、いずれも水平方向に2等分された光電変換部を有するものとする。
図2(b)は、本実施形態の撮像部101の画素配列例を示す模式図であり、画素領域の一部を抜き出して示している。図2(b)に示すように、本実施形態の撮像部101は、すべての画素が図2(a)の構成を有する視差検出用画素である。従って、1度の撮影により、同一構成(水平方向n画素×垂直方向m画素)のA像ならびにB像の画像信号を取得することができる。なお、撮像部101の全画素が視差検出用画素であることは必須でなく、特定の領域のみに視差検出用画素を配置した構成であってもよい。
次に、本実施形態のデジタルカメラ120の撮影時におけるA像およびB像の画像信号に対する処理動作について、図3(a)のフローチャートを用いて説明する。この処理は、例えば操作部111から撮影開始指示が与えられ、制御部110が光学系100の絞り兼用シャッターを制御して撮像部101を露光し、撮像部101の各画素からA像およびB像の画像信号を読み出した後に実施される。
S401で画像信号生成部102は、撮像部101から読み出された画像信号を受信する。受信する画像信号は、撮像部101の各画素の受光素子204,205から独立して読み出された信号群からなる、A像とB像のRAW画像信号である。例えば撮像部101がベイヤー配列のカラーフィルタを有する場合、A像、B像ともベイヤー配列のRAW画像信号である。
S402で画像信号生成部102は、A像とB像のRAW画像信号を、同じ画素から読み出された信号を加算することによって合成し、合成後の画像信号(第1画像信号)を画像処理部105と画像信号送信部104に送信する。同じ画素が有する受光素子204,205の出力を加算すると、加算信号は画素全体で受光した信号となり、分割されていない光電変換部を有する、通常の画素の出力と見なすことができる。従って、合成後の画像信号を基本画像信号として、表示や記録に用いることができる。
画像処理部105は受信した基本画像信号に対して前述のような現像処理を適用する。また、記録や表示に特有の処理を適用した後、記録部106および表示部107へ送信する。記録に特有な処理は例えば符号化処理や、データファイル生成処理(ファイルヘッダの生成ならびに付加など)である。また表示に特有な処理は、表示部107の解像度に応じたリサイズ処理などである。画像処理部105のこれらの処理は、通常のデジタルカメラにおいて行われる処理と同様であるため、これ以上の説明は省略する。
S403で視差量算出部103は、A像とB像の画像信号を受信する。A像とB像の画像信号は、撮像部101から直接受信しても良いし、画像信号生成部102を経由して受信してもよい。そして、S404で視差量算出部103は、受信したA像とB像の画像信号を用いて視差量を算出する。
視差量の算出方法は特に制限はなく、一般的に位相差検出方式の自動焦点検出で行われるような、相関量が最大となるシフト量から視差量として求める方法であってよい。具体的には、水平方向における所定の複数画素から得られるA像とB像について、一方を他方に対して相対的にシフトさせ、異なるシフト量に対する相関値を算出する。そして、A像とB像の相関が最も高くなるシフト量から視差量を算出すればよい。
しかしながら、例えば画像を小領域に分割し、各小領域で視差量を求める場合や、動画撮影等、高フレームレートでの撮影時には、各フレーム(撮影された画像)についてリアルタイムで視差量を算出することが困難になりうる。このような場合、精度は低くなるが、より計算量の少ない簡易的な方法で視差量を算出してもよい。例えば、A像とB像とをシフトさせずに、A像とB像の対応する小領域ごとに画素の差分和を算出し、差分和が大きい領域ほど大きな視差量を割り当てるようにしてもよい。あるいは、視差量を算出する領域を少なくして計算量を削減してもよい。視差量算出部103は、算出した視差量を画像信号送信部104に送信する。
視差量算出部103は少なくとも2種類の、負荷の異なる視差量の算出が可能であり、どの方法で視差量を算出するかは、制御部110が決定して視差量算出部103に設定するように構成することができる。決定方法に特に制限は無いが、例えば制御部110は視差量算出部103の負荷が所定レベルを超えた場合や、撮影条件が連写や動画撮影のように時系列的に画像信号が読み出される場合は負荷の小さな方法で算出することを決定することができる。これらは単なる例示であり、他の条件を用いたり、3段階以上の判定を行ったりしてもよい。
S405で画像信号送信部104は、画像信号生成部102がS402で生成した基本画像信号と、視差量算出部103がS404で算出した視差量とを受信する。画像信号送信部104(領域選択手段)は、外部装置150および記録部106に出力する画像信号あるいは画像領域を選択する(S406)。そして画像信号送信部104は、選択した画像信号に視差量検出画素に関する情報を付加してパーソナルコンピュータやクラウドコンピュータ等の外部装置150や記録部106に出力する(S407)。なお、出力先の外部装置150は予め設定されているものとする。また、記録部106は、画像信号送信部104から出力された画像信号の全てあるいはその一部を記録する。
視差量検出画素に関する情報とは、画像信号が視差量検出画素から生成されたものであるか否かの情報、どの瞳領域を透過した光を受光した画素から生成された画像信号であるかの情報である。本実施形態の場合、基本画像信号には、視差量検出画素から生成されたものであるという情報と、A像用受光素子から生成された画像信号とB像用受光素子から生成された画像信号を加算した画像信号であるという情報を付加する。B像の画像信号(第2画像信号)には、画像信号には視差量検出画素から生成されたものであるという情報と、B像用受光素子から生成された画像信号であるという情報を付加する。本実施形態では全ての画素が視差量算出用画素であるとして説明を行っているが、撮像素子が複数有する画素の一部が視差量検出用画素である場合は、視差量検出用画素の位置情報も付加すればよい。
視差量検出用画素に関する情報は、外部装置150で視差量を算出する際や、記録されたデータからデジタルカメラ120(視差量算出部103)で視差量を算出する際に用いられる。例えば記録または送信された画像信号がA像とB像を合成した基本画像信号とB像の画像信号であることが分かれば、後の処理で基本画像信号からB像の画像信号を減算することによりA像の画像信号を生成することができる。そして、生成されたA像の画像信号と、受信した(読み出した)B像の画像信号とから視差量を算出することができる。また、撮像素子の中の画素の中の一部が視差量検出用画素である場合は、視差量検出用画素の位置が分かれば、視差量検出用画素位置のみで視差量算出の処理を行うことができる。
以上の動作を、撮像部101によって撮影を行うごとに(1フレームごとに)実行する。なお、「フレーム」は1回の撮影で得られる画像を意味し、動画像を構成する画像に限らず、連写時に各撮影で得られる画像など、静止画に対しても用いる。
S406において画像信号送信部104が行う選択処理について、図3(b)及び図4を用いてさらに説明する。図3(b)に示すフローチャートは、画像信号送信部104が1フレームごとに実施する動作を示している。
S501において画像信号送信部104は、前フレームで算出された視差量と、現フレームで算出された視差量の変化が閾値以上かを判断する。閾値は、撮影シーンから決定しても良いし、撮影時の絞り値によって決めてもよい。また、視差量の前のフレームからの変化を算出する場合、画面の中央や主要被写体が存在する領域における視差量の変化に大きい重みを与えてもよい。画像信号送信部104は、視差量の変化が閾値以上の場合はS502へ、そうでない場合はS503へ処理を進める。
S502で画像信号送信部104は、B像の画像信号の送信を決定する。一方、S503で画像信号送信部104は、A像とB像を合成した画像信号(基本画像信号)の送信を決定する。例えば距離画像を外部装置150で生成する場合や、撮影後にデジタルカメラ120で作成する場合、視差量を算出するのに必要な分の情報があれば良いため、前フレームから視差量に変化のない(あるいは少ない)フレームを送る必要はない。
そのため、このように前フレームからの視差量の変化が大きいフレームのみ、基本画像信号に加えてB像の画像信号を送信するようにして、送信データ量を削減する。また、前フレームからの視差量の変化ではなく、前回B像を送信したときのフレームからの視差量の変化が閾値以上の場合にB像を送信対象としたり、現フレームの視差量が閾値以上の場合にB像を送信対象としたりすることもできる。このように、B像については、予め定めた条件を満たす場合に一部または全部を送信対象として選択することにより、B像の送信データ量を削減することができる。
図4(a)〜(d)は、画像信号送信部104がS406で送信対象として選択し、S407で出力する画像信号の例を時系列で示した模式図である。各枠内に送信される画像信号の種類とフレーム番号を示している。例えばフレーム1、5、7、10において前フレームからの視差量の変化が大きいと判定された場合、図4(a)のような送信が行われる。
あるいは、図4(b)に示すように、予め定めた周期で間欠的にB像を送信するようにしてもよい。B像を送信する周期は、例えば画像信号送信部104から画像信号を外部装置150に送信する際の送信レートの上限に応じて決めることができる。
図4(c)は、図4(a)に示す画像信号の出力を行った際の視差量の算出方法を模式的に示している。基本画像信号はA像とB像の画像信号の加算結果であるから、基本画像信号とB像の画像信号とからA像の画像信号を求めることができる。従って、B像の画像信号が送信されるフレーム1、5、7、10については視差量を算出することができる。B像の画像信号が送信されないフレームについては、図4(c)に点線で示すように、直前および直後に算出された視差量を補間して算出すればよい。あるいは、B像の画像信号が送信されないフレームは前フレームからの視差量の変化が小さいフレームであるから、直前もしくは直後に算出された視差量をそのまま用いてもよい。
また、図3(b)と図4を用いた説明では、前フレームからの視差量の変化が大きいフレームについてB像の全体を送信対象として選択する構成であったが、B像の一部領域を送信するようにしてもよい。この場合のS406における画像信号送信部104の動作を、図5及び図6を用いて説明する。
S701で画像信号送信部104は、基本画像信号が表す画像の領域を選択する。この領域は、画像を格子状に分割した領域の1つでもよいし、その他の任意の手法を用いて画像を分割した領域の1つでもよい。次に、S702で画像信号送信部104は、S701で選択した領域について、前フレームとの視差量の差分を算出する。
画像信号送信部104は、差分量が閾値以上の場合はS703へ、そうでない場合はS704へ処理を進める。なお、1フレーム目の場合はS703へ処理を進める。S703で画像信号送信部104は、S701で選択した領域のB像の画像信号の送信を決定する。S704で画像信号送信部104は、基本画像信号の全領域に対して処理を行ったかどうか判定し、未処理の領域があれば処理をS701へ戻し、次の画像領域について処理する。一方、全領域を処理し終えた場合、画像信号送信部104は、処理をS705へ進め、基準画像信号の送信を決定する。
図6(a)は、図5に示した選択処理を行った場合に画像信号送信部104が出力する画像信号の例を模式的に示す図である。図で実線の枠で示す、前フレームからの視差量の変化が大きい画像領域のみB像の画像信号を送信する。あるいは、図6(b)に示すように送信するB像の画像領域を周期的に変えてもよい。図6に示すように、B像の一部のみについて画像信号が送信される場合、画像信号送信部104は、視差量検出用画素に関する情報に、画像の分割規則に関する情報と、送信されている領域を特定する情報とを含める。なお、フレーム全体で評価した視差量が所定フレーム連続して大きい場合に、視差量の評価単位を小領域に変更して、データ量を削減するように構成してもよい。
このようにして画像信号送信部104から出力した画像信号は、パーソナルコンピュータやクラウドコンピュータ等の外部装置150で処理され、距離情報が算出される。外部装置150では、受信した画像信号から例えば図4(c)に関して説明したように視差量を算出し、デジタルカメラ120に距離情報として返送する。外部装置150は画像信号とともに送信される視差量検出用画素に関する情報から、B像の画像信号がどのように送信されているのかに基づいて視差量を算出することができる。外部装置150では視差量算出部103よりも精度の高い視差量が演算できる。
なお、外部装置150はデジタルカメラ120から画像信号を受け取って距離情報を算出し、デジタルカメラ120に送り返すアプリケーションが動作する任意の電子機器であってよく、例えばパーソナルコンピュータのような汎用コンピュータである。基本的に外部装置150はデジタルカメラ120よりも処理能力が高い。
なお、図6に示したように一部領域についてのみB像の画像信号が送信される場合、外部装置150は画像信号が送信されなかった領域についての視差量を予め定められた方法で算出することができる。例えば、その領域について時間的に前後で直近に算出された視差量を補間してもよいし、直前に算出された視差量をそのまま用いてもよい。
距離情報受信部108は、外部装置150で算出した距離情報を受信する。距離情報は、画像信号送信部104が外部装置150へ送信した画像信号を用いて算出したものである。距離情報とは、例えば画素毎に距離の情報を持った距離画像や、視差量、デフォーカス量等である。本実施形態では、距離情報が視差量であるとする。
図7に示すフローチャートは、外部装置150で算出された距離情報をデジタルカメラ120が利用してフォーカス制御する際の動作例を示している。
S901で距離情報受信部108が外部装置から距離情報(ここでは視差量)を受信する。なお、外部装置150から距離情報を受信する場合、距離情報の種類や内容は予め設定されていてもよいし、外部装置150がそれらの情報を距離情報とともに通知するように構成してもよい。ここでは一例として、外部装置150が画像を格子状に分割した小領域ごとの視差量(シフト量)を算出しているものとする。
S901で距離情報受信部108が外部装置から距離情報(ここでは視差量)を受信する。なお、外部装置150から距離情報を受信する場合、距離情報の種類や内容は予め設定されていてもよいし、外部装置150がそれらの情報を距離情報とともに通知するように構成してもよい。ここでは一例として、外部装置150が画像を格子状に分割した小領域ごとの視差量(シフト量)を算出しているものとする。
S902で距離情報受信部108は、受信した視差量をデフォーカス量に変換する。光学系100のフォーカスレンズ位置などの光学パラメータ、撮像部101が有する撮像素子の画素ピッチを用いて、視差量をデフォーカス量に変換することができる。距離情報受信部108は、光学パラメータや画素ピッチに加え、デフォーカス量を求める領域の情報を制御部110から取得する。デフォーカス量を求める領域は例えば、設定されている焦点検出領域の位置と大きさに関する情報であってよい。焦点検出領域は、ユーザが設定したものであってもよいし、顔検出のような被写体検出の結果に基づいて決定された主被写体領域であってもよい。
S903で距離情報受信部108は、算出したデフォーカス量を制御部110に送信する。そしてS904で制御部110は、受信したデフォーカス量に応じて光学系100の有するフォーカスレンズを駆動し、フォーカス制御を行う。
例えば動画撮影中は、図3(a)で説明した送信処理と、図7で説明したフォーカス制御処理を継続的に行い、動画の記録とフォーカス制御を行う。なお、本実施形態では、距離情報受信部108で視差量からデフォーカス量を算出する構成を説明した。しかし、デジタルカメラ120の光学パラメータや画素ピッチなど、視差量からデフォーカス量を得るために必要な情報を外部装置150に予め登録しておいたり、画像信号とともに送信したりして、外部装置150でデフォーカス量の算出まで行ってもよい。この場合、距離情報受信部108は、受信したデフォーカス量を制御部110に送信し、制御部110が必要な領域のデフォーカス量を選択してフォーカスレンズを駆動すればよい。
このように、外部装置150には視差量の算出に用いるべき範囲で視差像のデータを送信することで、送信データ量を削減した、効率のよいデータ送信が可能になる。
このように、外部装置150には視差量の算出に用いるべき範囲で視差像のデータを送信することで、送信データ量を削減した、効率のよいデータ送信が可能になる。
また、デジタルカメラ120の記録部106が記録した、基本画像信号とB像の画像信号を用いて、デフォーカス量に応じた画像処理を基本画像信号に適用するなどの画像処理を撮影後にデジタルカメラ120で実行することも可能である。
図8は、記録部106で記録された画像信号を用いた、記録後画像処理の動作を示すフローチャートである。この処理は、記録後に操作部111を通じて与えられるユーザの指示に応じて実施されてもよいし、デジタルカメラ120の処理負荷が閾値以下に軽減したなどの予め定められた条件が満たされたことに応じて自動で実施されてもよい。
S1001で制御部110は、記録部106に記録されている画像信号のうち、画像処理の対象となる基本画像信号と、対応づけて記録されているB像の画像信号とを読み出して、画像処理部105へ送信する。
S1002で画像処理部105は視差量を算出する。画像処理部105は、視差量算出部103のような動画撮影時や連写撮影時のフレームレートで処理を行うための簡易的な処理に比べてより高度な視差量算出処理が可能である。視差量は例えば小領域ごとに求めてもよいし、画素単位で求めてもよい。
S1003で画像処理部105は、基本画像信号の現像処理を行う。現像処理とは、ホワイトバランス処理や、ノイズ低減処理、エッジ強調処理、ガンマ処理等である。現像処理後の画像は、YUV422やRGB3プレーン形式となる。
S1004で画像処理部105は、現像後の基本画像信号に対し、S1002で算出した視差量を用いた画像処理を適用する。画像処理の種類に制限はないが、例えばぼかし処理であってよい。ぼかし処理は、例えば特許文献1に記載されているように、視差量に応じてぼかしの程度を変化させるような処理であってよい。このように、動画撮影時や連写撮影時のフレームレートで複雑なアルゴリズムの処理を行うことができなくとも、記録部106に視差量の算出に十分な画像信号を記録しておくことで、撮影後に精度の高い視差量の算出、及びそれを応用した画像処理が可能となる。
以上説明したように、本実施形態によれば、視差像を取得可能な撮像素子を有するデジタルカメラにおいて、視差量の算出を可能としながら送信または記録するデータ量を削減することができる。そのため、外部装置を用いてリアルタイム処理を実現したり、記録媒体の容量を節約できたりする。
なお、記録部106で記録するデータについては、例えば画像信号のデータを全て保存しておきたい場合、図4(d)のようにA像とB像をそれぞれ毎フレーム出力するようにしてもよい。
また、外部装置150との通信回線の速度などに応じて、外部装置150に送信する画像信号について解像度を落としたり、フレーム全体ではなく焦点検出領域に対応する部分だけについて上述した処理を適用して送信するようにしてもよい。
●(第2実施形態)
以下、本発明の第2実施形態について、図面を参照しながら説明する。
本実施形態は、撮像素子の各画素が垂直および水平方向にそれぞれ2等分された受光素子(光電変換領域)を有するように構成されている点で第1実施形態と異なる。図9は本実施形態の撮像素子の1画素を光学系100側から見た状態を模式的に示している。画素には1つのマイクロレンズ1100と、4つの受光素子(光電変換領域)1101〜1104とを有している。受光素子1101〜1104は、それぞれが異なる瞳領域を透過した光を受光し、1度の撮像によりA像、B像、C像、D像の4枚の画像信号を取得することができる。
以下、本発明の第2実施形態について、図面を参照しながら説明する。
本実施形態は、撮像素子の各画素が垂直および水平方向にそれぞれ2等分された受光素子(光電変換領域)を有するように構成されている点で第1実施形態と異なる。図9は本実施形態の撮像素子の1画素を光学系100側から見た状態を模式的に示している。画素には1つのマイクロレンズ1100と、4つの受光素子(光電変換領域)1101〜1104とを有している。受光素子1101〜1104は、それぞれが異なる瞳領域を透過した光を受光し、1度の撮像によりA像、B像、C像、D像の4枚の画像信号を取得することができる。
図9のように視差量検出用画素の受光素子1101〜1104が水平、垂直方向に配置されている場合、A像とB像、またはC像とD像から水平方向の視差量を求めることができる。また、A像とC像、またはB像とD像から垂直方向の視差量を求めることができる。
本実施形態のデジタルカメラ120の撮影時におけるA像およびB像の画像信号に対する処理動作について、図10(a)のフローチャートを用いて説明する。なお、図1に示す構成のデジタルカメラで実施するものとし、第1実施形態と異なる動作について重点的に説明する。
S1201で画像信号生成部102は、撮像部101から読み出された画像信号を受信する。受信する画像信号は、撮像部101の各画素の受光素子1101〜1104から独立して読み出された信号群からなる、A像〜D像のRAW画像信号である。例えば撮像部101がベイヤー配列のカラーフィルタを有する場合、A〜D像ともベイヤー配列のRAW画像信号である。
S1202で画像信号生成部102は、A像〜D像のRAW画像信号を、同じ画素から読み出された信号を加算することによって合成し、合成後の画像信号を画像処理部105と画像信号送信部104に送信する。同じ画素が有する受光素子1101〜1104の出力を加算すると、加算信号は画素全体で受光した信号となり、分割されていない光電変換部を有する、通常の画素の出力と見なすことができる。従って、合成後の画像信号を基本画像信号として、表示や記録に用いることができる。画像処理部105は受信した基本画像信号に対して第1実施形態と同様の現像処理を適用する。また、記録や表示に特有の処理を適用した後、記録部106および表示部107へ送信する。
S1203で視差量算出部103は、A像〜D像の画像信号を受信する。A像〜D像の画像信号は、撮像部101から直接受信しても良いし、画像信号生成部102を経由して受信してもよい。そして、S1204で視差量算出部103は、受信したA像〜D像の画像信号を用いて視差量を算出する。
視差量は第1実施形態と同様の方法で算出すればよい。算出する視差量は、A像とB像、またはC像とD像から算出した水平方向の視差量でもよいし、A像とC像、またはB像とD像から算出した垂直方向の視差量でもよい。あるいは、水平方向の視差量と垂直方向の視差量の合計でもよい。
S1205で画像信号送信部104は、画像信号生成部102がS1202で生成した基本画像信号と、視差量算出部103がS1204で算出した視差量とを受信する。画像信号送信部104は、外部装置150に出力する画像信号あるいは画像領域を選択する(S1206)。そして、画像信号送信部104は、選択した画像信号に視差量検出画素に関する情報を付加してパーソナルコンピュータやクラウドコンピュータ等の外部装置150や記録部106に出力する(S1207)。
視差量検出画素に関する情報とは、画像信号が視差量検出画素から生成されたものであるか否かの情報、どの瞳領域を透過した光を受光した画素から生成された画像信号であるかの情報である。本実施形態の場合、基本画像信号には、視差量検出画素から生成されたものであるという情報と、A像〜D像用受光素子から生成された画像信号を加算した画像信号であるという情報を付加する。B像の画像信号には、画像信号には視差量検出画素から生成されたものであるという情報と、B像用受光素子から生成された画像信号であるという情報を付加する。C像、D像の画像信号についてもB像の画像信号と同様の情報を付加する。本実施形態では全ての画素が視差量算出用画素であるとして説明を行っているが、撮像素子の中の画素の中の一部が視差量検出用画素である場合は、視差量検出用画素の位置情報も付加すればよい。
視差量検出用画素に関する情報は、外部装置150で視差量を算出する際や、記録されたデータからデジタルカメラ120(視差量算出部103)で視差量を算出する際に用いられる。例えば記録または送信された画像信号がA像〜D像を合成した基本画像信号とB像〜D像の画像信号であることが分かれば、後の処理で基本画像信号からB像〜D像の画像信号を減算することによりA像の画像信号を生成することができる。そして、生成されたA像の画像信号と、受信した(読み出した)B像〜D像の画像信号とを用いて視差量を算出することができる。また、撮像素子の中の画素の中の一部が視差量検出用画素である場合は、視差量検出用画素の位置が分かれば、視差量検出用画素位置のみで視差量算出の処理を行うことができる。
S1206において画像信号送信部104が行う選択処理について、図10(b)及び図11を用いてさらに説明する。図10(b)に示すフローチャートは、画像信号送信部104が1フレームごとに実施する動作を示している。
S1301において画像信号送信部104は、前フレームで算出された視差量と、現フレームで算出された視差量の変化が閾値以上かを判断する。閾値は、撮影シーンから決定しても良いし、撮影時の絞り値によって決めてもよい。また、視差量の前のフレームからの変化を算出する場合、画面の中央や主要被写体が存在する領域における視差量の変化に大きい重みを与えてもよい。画像信号送信部104は、視差量の変化が閾値以上の場合はS1302へ、そうでない場合はS1303へ処理を進める。
S1302で画像信号送信部104は、B像〜D像の画像信号の送信を決定する。一方、S1303で画像信号送信部104は、A像〜D像を合成した画像信号(基本画像信号)の送信を決定する。例えば距離画像を外部装置150で生成する場合や、撮影後にデジタルカメラ120で作成する場合、視差量を算出するのに必要な分の情報があれば良いため、前フレームから視差量に変化のない(あるいは少ない)フレームを送る必要はない。そのため、このように前フレームからの視差量の変化が大きいフレームのみ、基本画像信号に加えてB像〜D像の画像信号を送信するようにして、送信データ量を削減する。
図11(a)は、画像信号送信部104がS1206で送信対象として選択し、S1207で出力する画像信号の例を時系列で示した模式図である。各枠内に送信される画像信号の種類とフレーム番号を示している。例えばフレーム1、4、7、10において前フレームからの視差量の変化が大きいと判定された場合、図11(a)のような送信が行われる。
あるいは、図11(b)に示すように周期的にB像〜D像を送信するようにしてもよい。B像〜D像を送信する周期は、例えば画像信号送信部104から画像信号を外部装置150に送信する際の送信レートの上限に応じて決めることができる。また、前フレームからの視差量の変化ではなく、前回B像(C像、D像)を送信したときのフレームからの視差量の変化が閾値以上の場合にB像(C像、D像)を送信対象としてもよい。あるいは、現フレームの視差量が閾値以上の場合にB像(C像、D像)を送信対象としたりすることもできる。
このように、視差量検出用画素が異なる瞳領域を透過した光をそれぞれ受光する4つの受光素子を有する場合にも、第1実施形態と同様の効果が得られる。
●(第3実施形態)
以下、本発明の第3実施形態について、図面を参照しながら説明する。
本実施形態は、第1実施形態とは異なる外部装置150への送信データ量の削減方法に関する。例えば、デジタルカメラを三脚に取り付けて撮影する場合、視差量、すなわち距離情報が変化するのは移動被写体の領域に限られる。このように、撮影画像中で距離情報が変化する領域が限定される場合、距離情報が変化する領域についてのみB像を外部装置へ送信すればよい。
以下、本発明の第3実施形態について、図面を参照しながら説明する。
本実施形態は、第1実施形態とは異なる外部装置150への送信データ量の削減方法に関する。例えば、デジタルカメラを三脚に取り付けて撮影する場合、視差量、すなわち距離情報が変化するのは移動被写体の領域に限られる。このように、撮影画像中で距離情報が変化する領域が限定される場合、距離情報が変化する領域についてのみB像を外部装置へ送信すればよい。
このような原理に基いて画像信号送信部104が行う動作(S406で行う選択処理に相当)を図12(a)のフローチャートを用いて説明する。
S1201において画像信号送信部104は、画像信号の中から領域を選択する。ここで選択する領域は、例えば1フレーム分の画像信号を水平および垂直に分割したブロック状の領域(分割領域)であってよい。また、最終的に全ての分割領域がS1201で選択されれば選択順序は任意であるが、例えば、左端の分割領域から右端の分割領域まで順に選択する動作を、上から下に繰り返すことができる。
S1201において画像信号送信部104は、画像信号の中から領域を選択する。ここで選択する領域は、例えば1フレーム分の画像信号を水平および垂直に分割したブロック状の領域(分割領域)であってよい。また、最終的に全ての分割領域がS1201で選択されれば選択順序は任意であるが、例えば、左端の分割領域から右端の分割領域まで順に選択する動作を、上から下に繰り返すことができる。
次にS1202において画像信号送信部104は、選択した領域内の画像の変化量を算出する。変化量とは、例えば画像信号値(輝度値や色差値)のヒストグラムにおける前フレーム内の同位置の分割領域の画像との差や、前後のフレームから求めた動きベクトルの大きさなどであってよい。あるいは、より簡易な方法で得られる、画像の変化量に依存する他の特徴量であってもよい。また、この変化量は、画像信号送信部104で算出してもよいし、階調制御の際に算出したヒストグラムや動画符号化の際に用いる動きベクトル等、他の目的で画像処理部105で算出した特徴量を流用してもよい。
そして、画像信号送信部104は、選択した領域内の画像の変化量が閾値以上か否かを判定し、閾値以上の場合にはS1203に、閾値未満の場合にはS1204に、それぞれ処理を進める。その結果、画像信号送信部104は、画像の変化量が閾値以上の領域についてはB像とA+B像を、画像の変化量が閾値未満の領域についてはA+B像を、それぞれ送信すべき信号として決定する。
S1205で画像信号送信部104は、1フレーム分の分割領域全てについて処理したか判定し、未処理の分割領域があればS1201から処理を繰り返す。1フレーム分の分割領域全てについて、送信すべき信号を決定したら、画像信号送信部104は選択処理を終了する。
第1実施形態では、視差量の差分が閾値以上の領域について、B像を外部装置に送信するものとした。しかし、デジタルカメラ側で視差量が算出できない場合、本実施形態のように画像の変化量を表す他の特徴量が閾値以上の領域について、B像を外部装置に送信するものと決定することができる。
なお、デジタルカメラを三脚に取り付けて撮影しても、絞りや焦点距離(画角)などの撮像条件が変化した場合は、動体領域以外でも視差量が変化しうる。よって、撮像条件が変化したフレームについては、必ずB像を送信するように決定してもよい。このような原理に基いて画像信号送信部104が行う動作(S406で行う選択処理に相当)を図12(b)のフローチャートを用いて説明する。
S1301において画像信号送信部104は、視差量の変化に関連する撮像条件が前フレームから変化したか否かを判定する。視差量の変化に関連する撮像条件とは、例えば絞り値や、焦点距離(画角)などである。
そして、画像信号送信部104は、視差量の変化に関連する撮像条件が前フレームから変化していればS1302に、変化していなければS1303に、それぞれ処理を進める。その結果、画像信号送信部104は、視差量の変化に関連する撮像条件が前フレームから変化していればB像とA+B像を、視差量の変化に関連する撮像条件が前フレームから変化していなければA+B像を、現フレームおいて送信すべき信号として決定する。
図12(b)の選択処理は、他の実施形態と組み合わせることができる。例えば、図3(b)に示した処理おいてS501でNOと判定された場合に、図12(b)の処理を実行するように構成することができる。また、図12(a)に示した処理を行う前に図12(b)の処理を行い、S1301でNOと判定された場合に、S1201からの処理を実行するように構成することができる。
図12(b)の処理を含めることにより、送信データ量を削減するとともに、後で距離情報の取得が不可能な状況になることを防止することができる。
本実施形態によれば、距離情報が変化する領域についてのみB像を外部装置へ送信することで、視差像を取得可能な撮像素子を有するデジタルカメラにおいて、視差量の算出を可能としながら送信または記録するデータ量を削減することができる。そのため、外部装置を用いてリアルタイム処理を実現したり、記録媒体の容量を節約できたりする。
また、視差量の変化に関連する撮像条件が前フレームから変化していれば、フレーム全体についてB像を外部装置に送信するようにすることで、送信データ量を削減するとともに、後で距離情報の取得が不可能な状況になることを防止することができる。
●(第4実施形態)
以下、本発明の第4実施形態について、図面を参照しながら説明する。
本実施形態は、送信する画像信号(RAW)を圧縮(符号化)することにより送信データ量を削減する手法である。例えば外部装置150に画像信号を送信する場合、送信前に画像信号に対して符号化処理等の圧縮処理を適用することでデータ量を削減することが考えられる。しかし、JPEG方式など、画像の高周波成分を削減する圧縮処理を適用した場合、圧縮処理時に失われた高周波成分が外部装置でA+B像とB像から算出する視差量の精度を低下させうる。そのため、本実施形態では、A+B像とB像を送信する場合には圧縮処理を適用せず、A+B像のみを送信する場合には圧縮処理を適用することで、送信データ量の削減と、外部装置における視差量の算出精度の低下抑制とを両立させる。
以下、本発明の第4実施形態について、図面を参照しながら説明する。
本実施形態は、送信する画像信号(RAW)を圧縮(符号化)することにより送信データ量を削減する手法である。例えば外部装置150に画像信号を送信する場合、送信前に画像信号に対して符号化処理等の圧縮処理を適用することでデータ量を削減することが考えられる。しかし、JPEG方式など、画像の高周波成分を削減する圧縮処理を適用した場合、圧縮処理時に失われた高周波成分が外部装置でA+B像とB像から算出する視差量の精度を低下させうる。そのため、本実施形態では、A+B像とB像を送信する場合には圧縮処理を適用せず、A+B像のみを送信する場合には圧縮処理を適用することで、送信データ量の削減と、外部装置における視差量の算出精度の低下抑制とを両立させる。
このような本実施形態の処理を、図13(a)のフローチャートを用いて説明する。まず画像信号送信部104は、A+B像のみを送信するか、A+B像とB像の両方を送信するかを決定する。送信する画像信号の決定方法は、これまでに説明した方法のいずれかを用いることができる。
S1401で画像信号送信部104は、送信対象の領域(1フレーム全体もしくは部分領域)が、A+B像のみを送信する領域か、A+B像とB像の両方を送信する領域かを判定する。A+B像をのみを送信する領域と判定されれば、画像信号送信部104(画像信号圧縮手段)は処理をS1402へ進め、A+B像にデータ量を圧縮する処理を適用し、S1403で圧縮されたA+B像を外部装置に送信する。S1402で適用する圧縮処理に特に制限は無く、任意の方法を用いることができる。また、画像信号送信部104内に圧縮処理用の回路を備えるようにしてもよい。
一方、S1401でA+B像とB像の両方を送信する領域と判定された場合、画像信号送信部104は処理をS1404へと進め、A+B像とB像に圧縮処理を適用せず、非圧縮の状態で外部装置150に送信する。
図13(b)は、フレーム単位で送信すべき信号を決定する場合、図13(a)の処理によって送信されるデータの例を模式的に示している。
なお、外部装置150で視差量を精度よく算出する必要があるか否かに応じて、図13(a)の処理を実行するか否かを動的に切り替えてもよい。すなわち、外部装置150で精度のよい視差量の算出が必要ない場合は、全てのフレームについて常に圧縮処理を適用し、外部装置150で精度のよい視差量の算出が必要な場合は、A+B像だけを送信するフレームについて圧縮処理を適用すればよい。
●(第5実施形態)
以下、本発明の第5実施形態について、図面を参照しながら説明する。
現像処理に用いられる基本画像信号のA+B像に対し、B像の画像信号は主に視差量の算出に用いられる。よって、精度の高い視差量の算出が不要の場合は、B像の画像信号を縮小することで、送信データ量を削減することができる。
以下、本発明の第5実施形態について、図面を参照しながら説明する。
現像処理に用いられる基本画像信号のA+B像に対し、B像の画像信号は主に視差量の算出に用いられる。よって、精度の高い視差量の算出が不要の場合は、B像の画像信号を縮小することで、送信データ量を削減することができる。
撮像素子の光電変換部が図2のように水平方向にのみ分割されている場合、A像とB像の相関が最も高くなる水平方向のシフト量から視差量を算出するため、水平方向の解像度が高い(画素数が多い)ほど視差量の算出精度が向上する。
従って、視差量の算出精度の低下を抑制しつつ、B像の送信データ量を削減するには、算出するシフト量の方向と異なる方向(ここでは例えば垂直方向)について主に縮小(削減)すればよい。縮小処理は、画像信号生成部102あるいは画像信号送信部104で行えばよい。
図14に、B像信号の縮小方法の例を示す。図14(a)は、A+B像の解像度(水平方向n画素×垂直方向m画素)に対し、B像の解像度を垂直方向に半分(水平方向n画素×垂直方向m/2画素)にする例を示している。この縮小処理では、水平方向の解像度を保ちつつ、B像の送信データ量を半分に削減可能である。
図14(b)は、垂直方向にのみ光電変換部が分割されている場合に、A+B像の解像度(水平方向n画素×垂直方向m画素)に対し、B像の解像度を水平方向に半分(水平方向n/2画素×垂直方向m画素)にする例を示している。この縮小処理では、垂直方向の解像度を保ちつつ、B像の送信データ量を半分に削減可能である。
このように、光電変換部の分割方向(瞳分割方向)と異なる(例えば直交する)方向にB像の画像信号を縮小することにより、算出される視差量の精度低下を抑制しつつ、外部装置に送信するB像の画像データ量を削減することができる。
なお、精度の高い視差量の算出が不要の場合は、図14(c)に示すように、光電変換部の分割方向にもB像を縮小してもよいし、縮小方向の画素数(解像度)が1/2未満となるように縮小してもよい。
なお、精度の高い視差量の算出が不要の場合は、図14(c)に示すように、光電変換部の分割方向にもB像を縮小してもよいし、縮小方向の画素数(解像度)が1/2未満となるように縮小してもよい。
なお、画像信号の縮小方法に特に制限はないが、例えば隣接する複数の画像信号を加算して1つの画素値を得る方法や、所定の間隔で画像信号を間引く方法などを例示できる。隣接する複数の画像信号を加算する方法では信号量が増加するため、暗い被写体を撮像するシーン等でも有用である。一方で、画像信号を加算することによって、解像度が低下する場合があるため、この低下が好ましくない場合は所定の間隔で画像信号を間引くことができる。
●(第6実施形態)
以下、本発明の第6実施形態について、図面を参照しながら説明する。
本実施形態のデジタルカメラは、外部装置の要求に対してA+B像およびB像の画像信号を送信する機能を有する。図15は、本実施形態に係る画像処理システムを構成するデジタルカメラと外部装置の機能構成例を示すブロック図である。画像処理システムを構成する機能ブロック1600〜1652は図1の100〜152と同様であるが、本実施形態では、外部装置1650の送受信部1651からデジタルカメラ1620の画像信号送信部1604への信号線が追加されている。また、デジタルカメラ1620の記録部1606から外部装置1650の送受信部1651への信号線が追加されている。さらに、画像処理部1606から画像信号送信部1604への信号線が追加されている。
以下、本発明の第6実施形態について、図面を参照しながら説明する。
本実施形態のデジタルカメラは、外部装置の要求に対してA+B像およびB像の画像信号を送信する機能を有する。図15は、本実施形態に係る画像処理システムを構成するデジタルカメラと外部装置の機能構成例を示すブロック図である。画像処理システムを構成する機能ブロック1600〜1652は図1の100〜152と同様であるが、本実施形態では、外部装置1650の送受信部1651からデジタルカメラ1620の画像信号送信部1604への信号線が追加されている。また、デジタルカメラ1620の記録部1606から外部装置1650の送受信部1651への信号線が追加されている。さらに、画像処理部1606から画像信号送信部1604への信号線が追加されている。
図16(a)は、デジタルカメラ1620が、外部装置1650の要求に対して画像信号を送信する処理を説明するフローチャートである。
まず、S1701でデジタルカメラ1620の画像信号送信部1604が、A+B像とB像の要求信号を外部装置1650の送受信部1651から受信する。A+B像とB像の要求信号では、送信レートやB像のデータ削減要否および方法などが指定される。要求信号の生成処理の詳細については、図16(b)を用いて後で説明する。
まず、S1701でデジタルカメラ1620の画像信号送信部1604が、A+B像とB像の要求信号を外部装置1650の送受信部1651から受信する。A+B像とB像の要求信号では、送信レートやB像のデータ削減要否および方法などが指定される。要求信号の生成処理の詳細については、図16(b)を用いて後で説明する。
次に、S1702で画像信号送信部1604は、要求されたA+B像の画像信号を外部装置1650の送受信部1651へ送信する。次いでS1703で画像信号送信部1604は、要求されたB像の画像信号を外部装置1650の送受信部1651へ送信する。以上のS1701〜S1703の処理を、S1704において撮影終了と判定されるまで画像信号送信部1604は繰り返し実行する。
次に、図16(b)のフローチャートを用いて、外部装置1650の送受信部1651からのA+B像とB像の要求信号の送信処理に関して説明する。
まず、S1711にて外部装置の送受信部1651は、デジタルカメラ1620と外部装置1650との間における通信速度を決定する。通信速度とは、デジタルカメラ1620と外部装置1650の間で単位時間あたりに送信可能な最大データ量を示す。例えば、通信速度はデジタルカメラ1620と外部装置1650の間の通信環境や、デジタルカメラ1620と外部装置1650がサポートする通信プロトコルに依存する。また、外部装置1650がクラウド上の画像処理サーバであった場合、通信速度は外部装置1650の通信混雑状況や画像処理能力にも依存しうる。
まず、S1711にて外部装置の送受信部1651は、デジタルカメラ1620と外部装置1650との間における通信速度を決定する。通信速度とは、デジタルカメラ1620と外部装置1650の間で単位時間あたりに送信可能な最大データ量を示す。例えば、通信速度はデジタルカメラ1620と外部装置1650の間の通信環境や、デジタルカメラ1620と外部装置1650がサポートする通信プロトコルに依存する。また、外部装置1650がクラウド上の画像処理サーバであった場合、通信速度は外部装置1650の通信混雑状況や画像処理能力にも依存しうる。
送受信部1651は、予め定められた、通信速度を決定するための複数のパラメータに関する値の組み合わせに応じて、通信速度を決定することができる。複数のパラメータに関する値の組み合わせと、対応する通信速度との関係を予めテーブル形式などで記憶しておき、決定時におけるパラメータ値の組み合わせを用いてテーブルを参照することで通信速度を決定すればよい。もちろん、他の方法で通信速度を決定してもよい。
次にS1712で送受信部1651は、S1711で決定した通信速度から、A+B像とB像の要求内容を決定する。例えば、デジタルカメラ1620から、撮像したA+B像とB像を、データ量を削減せずに毎フレーム送信したとしても、S1711で決定した通信速度を超えないとする。この場合、送受信部1651は、全フレームかつ全領域のA+B像とB像を要求内容として決定し、対応する要求信号を送信する(S1713)ことができる。しかし、データ量を削減しないとS1711で決定した通信速度を超える場合、送受信部1651は、送信データ量の削減を指示する要求信号を送信する(S1713)。
例えば、外部装置1650は通信の確立時にデジタルカメラ1620から能力情報を取得する。この能力情報には、デジタルカメラ1620における動画の撮影フレームレートや解像度に関する情報や、デジタルカメラ1620が実施可能なデータ量の削減方法と実現可能な削減量または削減割合に関する情報が含まれている。あるいは、外部装置1650にデジタルカメラの機種情報と能力情報とを対応付けて記憶しておき、デジタルカメラ1620から取得した機種情報から能力情報を取得してもよい。
そして、送受信部1651は、S1711で決定した通信速度Hと、能力情報から得られる単位時間あたりの最大データ量M(全フレームかつ全領域のA+B像とB像を送信する場合の単位時間あたりのデータ量)とを比較する。そして、送受信部1651は、M>Hであれば、M≦Hかつ必要な視差量の算出精度を満たすようなデータ量の削減方法を能力情報に基づいて決定する。
例えば送受信部1651は、要求信号において撮影フレームレートよりも低いフレームレートでA+B像とB像を送信するように指示することができる。また、送受信部1651は、上述の実施形態の1つ以上の実行を指示することができる。送受信部1651は、デジタルカメラ1620における撮影が終了するまで、S1711〜S1713の処理を繰り返し実行する。
なお、外部装置1650に送信されなかったA+B像とB像、あるいはその一部の画像領域の信号に関しては、デジタルカメラ1620の記録部1606に記録しておき、撮影終了後に外部装置1650の送受信部1651に送信するようにしてもよい。
また、全フレームかつ全画像領域についてA+B像とB像の画像信号を送信しても通信速度を超えない場合であっても、B像の送信データ量を削減するようにしてもよい。例えば、外部装置において、人物の顔領域やその他の主要被写体のみについて視差量(距離情報)が必要な場合、必要な領域についてのみB像の画像信号の送信を要求する要求信号を撮像装置に送信すればよい。
同様に、全フレームかつ全画像領域についてA+B像とB像の画像信号を送信しても通信速度を超えない場合であっても、外部装置の画像処理の目的(アプリケーション等)に応じてB像の画像信号の解像度を低下させるように要求してもよい。精度の良い距離情報が必要な場合はB像の画像信号の解像度を低下させず、精度の良い距離情報が必要ない場合は、第4〜第5実施形態で説明したようにB像の画像信号の解像度を低下させるように要求する要求信号を送信することができる。
なお、上述した実施形態は単なる例示であり、特許請求の範囲に規定された範囲内で様々な変更を行うことができる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
100…光学系、101…撮像部、102…画像信号生成部、103…視差量算出部、104…画像信号送信部、105…画像処理部、106…記録部、107…表示部、108…距離情報受信部
Claims (15)
- 複数の光電変換部を含む画素を複数有する撮像素子から読み出された画像信号を取得する取得手段と、
前記複数の光電変換部から得られる画像信号を、画素ごとに加算して第1画像信号を生成する第1生成手段と、
前記複数の光電変換部から得られる画像信号のうち、画素ごとに少なくとも一つ以上の画像信号を加算せずに第2画像信号を生成する第2生成手段と、
前記第1画像信号および前記第2画像信号の少なくともいずれかが予め定めた条件を満たす場合に、出力すべき第2画像信号を選択する選択手段と、
前記選択手段が選択した第2画像信号を出力する出力手段と、を有することを特徴とする撮像装置。 - 前記取得手段が取得する画像信号が、動画もしくは連写撮影に係る画像信号であることを特徴とする請求項1記載の撮像装置。
- 前記複数の光電変換部は光学系の射出瞳の異なる領域を通過した光束をそれぞれ受光し、
前記複数の光電変換部から得られる画像信号を用いて視差量又はでフォーカス量を算出する算出手段を有し、
前記選択手段は、前記視差量が予め定めた条件を満たす場合に、出力すべき前記第2画像信号を選択することを特徴とする請求項1または2に記載の撮像装置。 - 前記選択手段は、前記第2画像信号を予め定めた周期で、間欠的に選択することを特徴とする請求項1または2に記載の撮像装置。
- 前記第1画像信号および前記第2画像信号の少なくともいずれかの画像信号より被写体の特徴量を検出する検出手段と、
前記選択手段は、前記特徴量が予め定めた条件を満たす場合に、出力すべき前記第2画像信号を選択することを特徴とする請求項1または2に記載の撮像装置。 - 前記特徴量は、画像信号値のヒストグラムあるいは動きベクトルであることを特徴とする請求項5に記載の撮像装置。
- 前記選択手段は、撮像条件が変化が予め定めた条件を満たす場合に、出力すべき前記第2画像信号を選択することを特徴とする請求項1または2に記載の撮像装置。
- 前記撮像条件は、絞り、あるいは焦点距離であることを特徴とする請求項7に記載の撮像装置。
- さらに、画像信号のデータ量を圧縮する圧縮手段を有し、前記第1画像信号と前記第2画像信号の少なくとも一方のデータ量を前記圧縮手段で圧縮して出力することを特徴とする請求項1または2に記載の撮像装置。
- 前記第1画像信号と前記第2画像信号とを選択して出力する際は、前記第1画像信号と前記第2画像信号のデータ量を圧縮しないことを特徴とする請求項9に記載の撮像装置。
- さらに、画像信号の解像度を落とす縮小手段を有し、前記第2画像信号の解像度を前記縮小手段で落として出力することを特徴とする請求項1または2に記載の撮像装置。
- 前記画素において前記複数の光電変換部が配置される方向と異なる方向における前記第2画像信号の解像度を前記縮小手段で落として出力を行うことを特徴とする請求項11に記載の撮像装置。
- さらに、前記第2画像信号の少なくとも一部の領域を選択する領域選択手段を有し、
前記領域選択手段で選択された前記第2画像信号の領域を出力することを特徴とする請求項1または2に記載の撮像装置。 - 前記出力手段が、前記撮像装置と通信可能な外部装置に、前記第1画像信号と、前記選択手段が選択した第2画像信号とを出力し、
前記撮像装置が
前記外部装置から前記撮像装置を制御するための情報を受信する受信手段と、
前記受信手段が受信した距離情報に基づいて前記撮像装置の制御を行う制御手段と、
をさらに有することを特徴とする請求項1から13のいずれか1項に記載の撮像装置。 - 複数の光電変換部を含む画素を複数有する撮像素子から読み出された画像信号を取得する取得ステップと、
前記複数の光電変換部から得られる画像信号を、画素ごとに加算して第1画像信号を生成する第1生成ステップと、
前記複数の光電変換部から得られる画像信号のうち、画素ごとに少なくとも一つ以上の画像信号を加算せずに第2画像信号を生成する第2生成ステップと、
前記第1画像信号および前記第2画像信号の少なくともいずれかが予め定めた条件を満たす場合に、出力すべき第2画像信号を選択する選択ステップと、
前記選択ステップで選択された第2画像信号を出力する出力ステップと、を有することを特徴とする撮像装置の制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015035630A JP2015233270A (ja) | 2014-05-13 | 2015-02-25 | 撮像装置およびその制御方法 |
US14/707,445 US9661211B2 (en) | 2014-05-13 | 2015-05-08 | Image capture apparatus and method for controlling the same |
CN201510242160.1A CN105100595B (zh) | 2014-05-13 | 2015-05-13 | 摄像设备及其控制方法 |
KR1020150066381A KR101792990B1 (ko) | 2014-05-13 | 2015-05-13 | 촬상장치 및 그 제어 방법 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014099828 | 2014-05-13 | ||
JP2014099828 | 2014-05-13 | ||
JP2015035630A JP2015233270A (ja) | 2014-05-13 | 2015-02-25 | 撮像装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015233270A true JP2015233270A (ja) | 2015-12-24 |
Family
ID=54539541
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015035630A Pending JP2015233270A (ja) | 2014-05-13 | 2015-02-25 | 撮像装置およびその制御方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9661211B2 (ja) |
JP (1) | JP2015233270A (ja) |
KR (1) | KR101792990B1 (ja) |
CN (1) | CN105100595B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019068386A (ja) * | 2017-10-05 | 2019-04-25 | キヤノン株式会社 | 符号化装置、その制御方法、および制御プログラム、並びに撮像装置 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102477757B1 (ko) * | 2015-12-16 | 2022-12-14 | 에스케이하이닉스 주식회사 | 자동 초점 시스템 및 방법 |
WO2020090109A1 (ja) * | 2018-11-02 | 2020-05-07 | Necディスプレイソリューションズ株式会社 | 画像表示装置及び画像伝送方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5066851B2 (ja) | 2006-07-05 | 2012-11-07 | 株式会社ニコン | 撮像装置 |
JP2009124313A (ja) | 2007-11-13 | 2009-06-04 | Nikon Corp | 電子カメラ |
WO2011129211A1 (ja) * | 2010-04-16 | 2011-10-20 | 三井化学株式会社 | 捲縮複合繊維、及び当該繊維からなる不織布 |
WO2012002157A1 (ja) * | 2010-06-28 | 2012-01-05 | 富士フイルム株式会社 | 立体視用画像撮影装置およびその制御方法 |
JP5791349B2 (ja) * | 2011-04-21 | 2015-10-07 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP5907595B2 (ja) * | 2011-09-27 | 2016-04-26 | キヤノン株式会社 | 撮像装置 |
JP6120508B2 (ja) * | 2011-10-03 | 2017-04-26 | キヤノン株式会社 | 撮像素子および撮像装置 |
US9521395B2 (en) * | 2011-10-04 | 2016-12-13 | Canon Kabushiki Kaisha | Imaging apparatus and method for controlling same |
JP5743837B2 (ja) * | 2011-10-07 | 2015-07-01 | キヤノン株式会社 | 光電変換装置、撮像装置および撮像システム |
JP5924943B2 (ja) * | 2012-01-06 | 2016-05-25 | キヤノン株式会社 | 撮像装置および撮像装置の制御方法 |
JP5893572B2 (ja) * | 2012-03-01 | 2016-03-23 | キヤノン株式会社 | 撮像装置、撮像システム、撮像装置の駆動方法 |
-
2015
- 2015-02-25 JP JP2015035630A patent/JP2015233270A/ja active Pending
- 2015-05-08 US US14/707,445 patent/US9661211B2/en active Active
- 2015-05-13 CN CN201510242160.1A patent/CN105100595B/zh active Active
- 2015-05-13 KR KR1020150066381A patent/KR101792990B1/ko active IP Right Grant
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019068386A (ja) * | 2017-10-05 | 2019-04-25 | キヤノン株式会社 | 符号化装置、その制御方法、および制御プログラム、並びに撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
KR101792990B1 (ko) | 2017-11-02 |
CN105100595A (zh) | 2015-11-25 |
US9661211B2 (en) | 2017-05-23 |
KR20150130251A (ko) | 2015-11-23 |
CN105100595B (zh) | 2018-08-03 |
US20150334297A1 (en) | 2015-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102959943B (zh) | 立体全景图像合成装置和方法、以及图像捕获装置 | |
JP2014123070A (ja) | 撮像装置及びその制御方法 | |
US9332195B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
JP2018174502A (ja) | 撮像装置、画像処理装置、撮像装置の制御方法およびプログラム | |
JP2015073185A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6095266B2 (ja) | 画像処理装置及びその制御方法 | |
JP2013025649A (ja) | 画像処理装置及び画像処理方法、プログラム | |
JP6752685B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP2019110430A (ja) | 制御装置、撮像装置、制御方法およびプログラム | |
JP2015233270A (ja) | 撮像装置およびその制御方法 | |
JP6016516B2 (ja) | 画像処理装置およびその制御方法、画像処理プログラム、並びに撮像装置 | |
JP6614824B2 (ja) | 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム | |
JP2023033355A (ja) | 画像処理装置およびその制御方法 | |
JP6381273B2 (ja) | 撮像装置、画像処理システム、ならびにそれらの制御方法 | |
JP5869839B2 (ja) | 画像処理装置およびその制御方法 | |
JP2013150071A (ja) | 符号化装置、符号化方法、プログラム及び記憶媒体 | |
JP6245847B2 (ja) | 画像処理装置および画像処理方法 | |
JP2017184007A (ja) | 画像処理装置、撮像装置、制御方法およびプログラム | |
JP5744642B2 (ja) | 画像処理装置および画像処理方法、プログラム。 | |
JP2017163412A (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム | |
JP2021093694A (ja) | 情報処理装置およびその制御方法 | |
JP6585890B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP2014110442A (ja) | 撮像装置 | |
JP2024036943A (ja) | 画像処理装置および画像処理方法 | |
JP2020086824A (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム |