JP2020036091A - 撮像装置及びその制御方法、プログラム、記憶媒体 - Google Patents
撮像装置及びその制御方法、プログラム、記憶媒体 Download PDFInfo
- Publication number
- JP2020036091A JP2020036091A JP2018158570A JP2018158570A JP2020036091A JP 2020036091 A JP2020036091 A JP 2020036091A JP 2018158570 A JP2018158570 A JP 2018158570A JP 2018158570 A JP2018158570 A JP 2018158570A JP 2020036091 A JP2020036091 A JP 2020036091A
- Authority
- JP
- Japan
- Prior art keywords
- photometric
- patterns
- imaging
- image
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 82
- 238000000034 method Methods 0.000 title claims description 32
- 238000012545 processing Methods 0.000 description 31
- 238000005375 photometry Methods 0.000 description 26
- 230000003287 optical effect Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 12
- 238000001514 detection method Methods 0.000 description 8
- 238000011156 evaluation Methods 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003705 background correction Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/75—Circuitry for compensating brightness variation in the scene by influencing optical camera components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Geometry (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
【課題】全天球画像などの広角画像を取得する場合に、適切な露出制御を行うことが出来る撮像装置を提供する。【解決手段】被写体を撮影する撮像部と、天球を複数の分割領域に分割する分割部と、分割部によって分割された複数の分割領域のうち、連続する所定数の分割領域を組み合わせた領域をそれぞれ測光領域とする複数の測光パターンを生成する生成部であって、複数の測光パターンが部分的に同じ分割領域を含むように複数の測光パターンを生成する生成部と、複数の測光パターン毎の測光値を算出する算出部と、算出部によって算出された複数の測光パターンについての測光結果に基づいて、撮像部により天球画像を撮影する際の露出を制御する露出制御部とを備える。【選択図】 図5
Description
本発明は、全天球画像を撮像可能な撮像装置及びその制御方法に関するものである。
従来より、複数の撮像手段を備え、全天球画像などの広角画像を撮影(取得)可能な撮像装置が知られている。通常このような撮像装置では、全天球などの広い撮像範囲を一度に確認することが難しいため、表示モニターが省略されていることが多い。そのため、撮影前に撮像範囲全体の露出を確認してから撮影することは困難であり、カメラ任せの露出条件で撮影することが一般的である。
しかしながら、複数の撮像手段がそれぞれの撮像範囲だけで測光を行って撮影を行い、広角画像を合成する撮像装置の場合、広い撮像範囲全体の明るさを評価した上で露出条件を決定することが困難であるため、撮影シーンごとに最適な測光結果を得ることが難しい。そのため、撮影した画像を後で確認すると、期待通りの露出結果になっていない確率が高い。また、複数の光学系で撮影した画像を合成して全天球画像を撮影するカメラにおいては、同じ撮影位置であっても、撮像装置の向きによって露出がばらついてしまうという問題がある。
特許文献1では、この問題を解決するために、それぞれの光学系で撮像された全天球画像を複数の画像領域に分割して、これらの分割画像毎にシーン判別を行ない、シーンに応じた補正パラメータによって画像処理を行うという技術が提案されている。
特許文献2では、全天球画像から太陽の位置を検出し、高精度に撮影画像内の逆光領域を特定して、逆光補正を行う技術が提案されている。
しかしながら、全天球などの広い撮像範囲の画像の所定領域に対してシーン判定を行い、それぞれのシーンに応じた画像処理を局所的に行うと、部分的に画像の劣化が目立ってしまうという問題がある。そのため、画像処理を行う所定領域は、画素信号のS/N特性が良い範囲内にとどめておく必要がある。このように、広角画像を撮像する場合の露出制御にはいろいろな問題があり、撮像装置の向きや撮影シーンに関わらず、主要被写体の画像領域に対して、より高い測光性能を備えた撮像装置が望まれている。
本発明は上述した課題に鑑みてなされたものであり、その目的は、全天球画像などの広角画像を取得する場合に、適切な露出制御を行うことが出来る撮像装置を提供することである。
本発明に係わる撮像装置は、被写体を撮影する撮像手段と、天球を複数の分割領域に分割する分割手段と、前記分割手段によって分割された複数の分割領域のうち、連続する所定数の分割領域を組み合わせた領域をそれぞれ測光領域とする複数の測光パターンを生成する生成手段であって、前記複数の測光パターンが部分的に同じ前記分割領域を含むように前記複数の測光パターンを生成する生成手段と、前記複数の測光パターン毎の測光値を算出する算出手段と、前記算出手段によって算出された前記複数の測光パターンについての測光結果に基づいて、前記撮像手段により天球画像を撮影する際の露出を制御する露出制御手段と、を備えることを特徴とする。
本発明によれば、全天球画像などの広角画像を取得する場合に、適切な露出制御を行うことが出来る撮像装置を提供することが可能となる。
以下、本発明の一実施形態について、添付図面を参照して詳細に説明する。図1は、本発明の一実施形態に係わる撮像装置100の構成を示すブロック図である。
図1において、撮像装置100は複数のレンズ鏡筒を備え、これら複数のレンズ鏡筒によって撮像された画像を合成することにより、全天球画角を撮影することが可能である。
第1のレンズ鏡筒150は、その内部にレンズ群を保持している。レンズ10は、全天球画像の一部の画角範囲を撮影可能とし、焦点調節レンズ12はレンズ鏡筒150の光軸方向に移動することにより焦点調節を行う。また、絞り及びシャッタ13は、露出制御のために光量調節を行う。
第2のレンズ鏡筒250は、その内部にレンズ群を保持している。レンズ71は、全天球画像の一部の画角範囲を撮影可能とし、焦点調節レンズ72はレンズ鏡筒250の光軸方向に移動することにより焦点調節を行う。また、絞り及びシャッタ73は、露出制御のために光量調節を行う。
なお、本実施形態において、撮像装置100は、第1のレンズ鏡筒150と第2のレンズ鏡筒250とカメラ本体部とが一体的に構成されているが、この構成に限定されるものではない。本実施形態は、カメラ本体部と、カメラ本体部に着脱可能な交換レンズとから構成される撮像システムにも適用可能である。
撮像素子14は、第1のレンズ鏡筒150を通過した光を受光し、被写体像を電気信号に変換することにより撮像信号を生成する。撮像素子14はCCD(電荷結合素子)型またはCMOS(相補型金属酸化膜半導体)型のイメージセンサ等からなる。
撮像素子70は、第2のレンズ鏡筒250を通過した光を受光し、被写体像を電気信号に変換することにより撮像信号を生成する。撮像素子70はCCD(電荷結合素子)型またはCMOS(相補型金属酸化膜半導体)型のイメージセンサ等からなる。
撮像素子14および撮像素子70による撮像信号は、画像処理部20に入力されて、画素補間処理や色変換処理等の各種画像処理が行われる。また、画像処理部20は撮像素子14と撮像素子70で撮像された画像を全天球画像に合成する画像合成処理部305と、撮像素子14と撮像素子70で撮像された画像から合成された全天球画像を任意の数や大きさに分割する測光枠分割処理部304とを備える。
撮影処理によって生成された画像データは、撮像装置100に設けられているインターフェース部90及びコネクタ92と、外部記録媒体200に設けられているインターフェース部204及びコネクタ206とを介して記録部202に送られて記録される。画像データは、外部記録媒体200、または不揮発性メモリ66、あるいはそれらの両方に記録される。外部記録媒体200は、撮像装置100に装着して使用されるメモリカード等である。不揮発性メモリ66は、撮像装置100に内蔵されている記憶媒体である。メモリ65は、プログラムデータや画像データの他に、撮像装置100の設定等の情報を記憶する。
また、撮像装置100は、測光開始や焦点調節を指示するシャッタスイッチ60や撮影開始を指示するシャッタスイッチ61の他に、被写体の指定や撮像装置100の設定を行うタッチパネルや操作スイッチ等を有する操作部62を備える。
姿勢検出部64は、加速度センサやジャイロセンサなどのセンサ出力の変化から、撮像装置100の姿勢や傾き角度を検出するための検出部であり、撮像装置100の姿勢情報は撮像した画像データの画像処理にも用いられる。
システム制御部50は、CPU(中央演算処理装置)等の演算装置を備える。システム制御部50は、ユーザの操作に応じて各部に制御命令を送ることにより撮像装置100全体を制御する。システム制御部50は、メモリ65に記憶されている各種の制御プログラム、例えば撮像素子14および撮像素子70の制御や露出制御、焦点調節制御等を行うためのプログラムを実行する。
システム制御部50に設けられた測光演算部300は、撮像素子14で撮像され、画像処理部200において画像処理された画像データを用いて、測光値および露出制御値(絞り値及びシャッタ速度)を算出する。第1の絞りシャッタ制御部40は、測光結果に基づいて絞り及びシャッタ13を制御する。絞り及びシャッタ13は、ステッピングモータや電磁プランジャ等のアクチュエータやそれらを駆動する駆動回路によって構成され、絞り羽根及びシャッタ羽根を駆動する。
第1の焦点制御部41は、コントラスト方式で自動焦点調節(AF)制御を行う。つまり、第1の焦点制御部41は、画像処理部20での画像処理によって得られた撮影光学系の焦点調節情報(コントラスト評価値)に基づいて、被写体に焦点が合うように焦点調節レンズ12を制御する。焦点調節レンズ12の駆動部は、ボイスコイルモータ(VCM)等のアクチュエータと、焦点調節レンズ12の位置をフィードバックするための位置検出センサと、それらを駆動する駆動回路とを備えて構成されている。
また、別の構成としては、ステッピングモータのように位置検出センサを要しない構成などもある。本実施形態においては、焦点調節レンズ12の駆動部は、いずれの構成であってもよい。また、コントラスト方式以外のAF制御として、位相差AF方式でもよいし、また、コントラスト方式と他の方式との組み合わせのように、複数の方式でAF制御を行う構成でもよい。第1の焦点制御部41は、AF制御を行う際に焦点調節レンズ12を所定の範囲で移動させることによりスキャン動作を行う。スキャン動作中に得られるコントラスト評価値等を用いて、合焦点であるフォーカス位置が検出される。さらに、別の構成としては、レンズ鏡筒150はパンフォーカスレンズであり、焦点調節レンズ12を備えない構成であってもよい。
システム制御部50に設けられた測光演算部300は、撮像素子70で撮像され、画像処理部200において画像処理された画像データを用いて、測光値および露出制御値(絞り値及びシャッタ速度)を算出する。第2の絞りシャッタ制御部42は、測光結果に基づいて絞り及びシャッタ73を制御する。絞り及びシャッタ73は、ステッピングモータや電磁プランジャ等のアクチュエータやそれらを駆動する駆動回路によって構成され、絞り羽根及びシャッタ羽根を駆動する。
第2の焦点制御部43は、コントラスト方式で自動焦点調節(AF)制御を行う。つまり、第2の焦点制御部43は、画像処理部20での画像処理によって得られた撮影光学系の焦点調節情報(コントラスト評価値)に基づいて、被写体に焦点が合うように焦点調節レンズ72を制御する。焦点調節レンズ72の駆動部は、ボイスコイルモータ(VCM)等のアクチュエータと、焦点調節レンズ72の位置をフィードバックするための位置検出センサと、それらを駆動する駆動回路とを備えて構成されている。
また、別の構成としては、ステッピングモータのように位置検出センサを要しない構成などもある。本実施形態においては、焦点調節レンズ72の駆動部は、いずれの構成であってもよい。また、コントラスト方式以外のAF制御として、位相差AF方式でもよいし、また、コントラスト方式と他の方式との組み合わせのように、複数の方式でAF制御を行う構成でもよい。第2の焦点制御部43は、AF制御を行う際に焦点調節レンズ72を所定の範囲で移動させることによりスキャン動作を行う。スキャン動作中に得られるコントラスト評価値等を用いて、合焦点であるフォーカス位置が検出される。さらに、別の構成としては、レンズ鏡筒250はパンフォーカスレンズであり、焦点調節レンズ72を備えない構成であってもよい。
ここで、画像処理部20は、第1のレンズ鏡筒150および第2のレンズ鏡筒250を介して撮像素子14および撮像素子70で撮像された画像データを同時に処理することにより測光演算を行う。撮像素子14および撮像素子70で撮像されたそれぞれの画像データは、画像処理部20に設けられた画像合成処理部305により合成され、この合成画像は、測光枠分割処理部304によって任意の大きさや数に分割される。これら分割された画像データは、システム制御部50に設けられた測光パターンテーブル301の情報に従って、分割された画像の組み合わせパターン毎に測光演算部300により測光値を算出するのに用いられる。これらの測光値の算出結果から露出制御部302により全天球画像の適正な露出値を求める。
次に、本実施形態における全天球撮像装置の構成例について図2を用いて説明する。図2に示される全天球撮像装置では、写野(撮影画角)が180度以上の魚眼レンズを備える2つの撮像装置(撮像部)が同じ光軸上に逆方向に向けて背中合わせに配置されている。ここでは、仮に片方の撮像装置を前面カメラ、逆方向の撮像装置を背面カメラと呼ぶことにする。前面カメラと背面カメラは、それぞれのカメラで撮影可能な画像の境界部分が位置合わせのためにオーバーラップするように構成されている。
従来、このような構成の全天球撮像装置では、図3に示すように、それぞれのカメラ毎に適正となる撮影を行い(図3の(a))、撮像後に前面カメラと背面カメラで撮影したそれぞれの画像に対して、円筒図法などの画像変換を施す(図3の(b))。そして、それぞれの画像の境界部分で位置合わせを行い、それぞれの画像を合成する(図3の(c))。この場合、それぞれの画像をそのまま合成すると、それぞれの画像のつなぎ目部分に輝度段差が目立ってしまう場合があるため、それぞれの画像の明るさを合わせるようにシェーディング補正や画像のつなぎ目部分のゲイン調整処理を行って合成する(図3の(d))。図3では2つの画像の隣り合う一端だけを合成する例について説明しているが、実際には全周囲が繋がるように、ぞれぞれの画像の両端に対して同様の処理を行う。従来は、このようにして全天球画像を得ていた。しかし、この従来の方法では、撮影シーンの全周囲の状況を考慮せずに露出を決定するため、撮影者が意図する主被写体が適正な露出で撮影出来ない場合があった。
そこで、本実施形態では、全天球画像を複数の測光枠に分割し、測光意図に合わせて、これら測光枠を組み合わせた測光パターンを定義する。図4は全天球を8分割した測光枠を用いて6種類の測光パターンで露出条件を決定する場合の測光枠と測光パターンの例を示す図である。
以下の説明では、一例として、測光枠は、全天球の中心を通り全天球を水平に上下に2分割する平面と、水平平面に直交し且つ光軸を通る平面と、水平面と光軸の双方に直交する平面とで全天球を8分割して得られる領域として説明する。
本実施形態では、測光パターンの定義を下記のように定めた場合について、全天球画像の測光結果を算出する流れについて説明する。
測光パターン1:前面レンズの光軸方向の撮影領域を測光
測光パターン2:背面レンズの光軸方向の撮影領域を測光
測光パターン3:カメラの左側面方向の撮影領域を測光
測光パターン4:カメラの右側面方向の撮影領域を測光
測光パターン5:天方向の撮影領域を測光
測光パターン6:地面方向の撮影領域を測光
測光パターン1は、前面レンズの光軸方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠2、測光枠3、測光枠4を組み合わせた領域とする。測光パターン2は、背面レンズの光軸方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠5、測光枠6、測光枠7、測光枠8を組み合わせた領域とする。測光パターン3は、カメラの左側面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠3、測光枠5、測光枠7を組み合わせた領域とする。測光パターン4は、カメラの右側面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠2、測光枠4、測光枠6、測光枠8を組み合わせた領域とする。測光パターン5は、天方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠2、測光枠5、測光枠6を組み合わせた領域とする。測光パターン6は、地面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠3、測光枠4、測光枠7、測光枠8を組み合わせた領域とする。
測光パターン2:背面レンズの光軸方向の撮影領域を測光
測光パターン3:カメラの左側面方向の撮影領域を測光
測光パターン4:カメラの右側面方向の撮影領域を測光
測光パターン5:天方向の撮影領域を測光
測光パターン6:地面方向の撮影領域を測光
測光パターン1は、前面レンズの光軸方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠2、測光枠3、測光枠4を組み合わせた領域とする。測光パターン2は、背面レンズの光軸方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠5、測光枠6、測光枠7、測光枠8を組み合わせた領域とする。測光パターン3は、カメラの左側面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠3、測光枠5、測光枠7を組み合わせた領域とする。測光パターン4は、カメラの右側面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠2、測光枠4、測光枠6、測光枠8を組み合わせた領域とする。測光パターン5は、天方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠1、測光枠2、測光枠5、測光枠6を組み合わせた領域とする。測光パターン6は、地面方向に撮像された範囲を4分割し、それぞれ図4の通り、測光枠3、測光枠4、測光枠7、測光枠8を組み合わせた領域とする。
上記のように、各測光パターンは、所定数の測光枠を組み合わせて、それぞれお互いの測光パターンが部分的に重なり合う関係となるように設定される。これにより、それぞれの測光パターン毎の測光結果だけで露出を決めずに、関連性が高い周囲の明るさの影響を考慮して測光結果を算出することが可能となる。
なお、上記の説明では、各測光枠1〜8毎に測光を行うのではなく、測光パターン毎に測光を行うように説明したが、各測光枠1〜8毎に測光を行い、その各測光枠毎の測光結果から各測光パターン毎の測光値を算出するようにしてもよい。
ここで、例えば、図5のように測光枠1の方向に太陽があった場合を考える。この場合、測光パターン1と測光パターン3は太陽が入っているため明るい測光結果となるが、測光パターン2と測光パターン4は測光パターン1や測光パターン3よりも暗めの測光結果となる。同様に、測光パターン5と測光パターン6を比較すると、測光パターン5のほうが明るい測光結果になる。これにより、高輝度被写体が測光枠1方向にあることが予測可能となり、測光枠6と測光枠8の方向が順光となるため、測光パターン1〜4の中では、測光枠6と測光枠8を含む測光パターン2と測光パターン4の測光結果を重視して全天球の露出を決定する。
上記の撮影シーンの他に、測光パターン毎の測光結果から全天球の露出を決めるための輝度分析を行う例を図6から図8を用いて説明する。
図6は撮影時の周囲の明るさからシーンを判定する測光パターンと撮影時の天地の明るさからシーンを判定する測光パターンを模式的に説明する図である。
図6(a)は、撮影時の周囲のシーンを判定する測光パターンであり、全天球を水平平面に直交する2平面で分割した4つの測光パターン(測光パターン1、測光パターン2、測光パターン3、測光パターン4)で構成された図4の全天球を上から見た模式図である。一方、図6(b)は、撮影時の天地方向のシーンを判定する測光パターンであり、全天球を水平平面で分割した2つの測光パターン(測光パターン5、測光パターン6)で構成された図4の全天球を横から水平方向に見た模式図である。以降の説明では、図6の模式図に倣って説明する。
図7は、全天球を水平平面に直交する2平面で分割した4つの測光パターンの場合の例を説明する図である。
図7(a)は、4つの測光パターンの測光結果が同レベルになる場合の例である。測光結果の輝度レベルを、高輝度、中輝度、低輝度と3つの輝度範囲に分類するとき、a−1は全範囲で高輝度となる被写体であるため、光源が天頂方向にあることが予想される。一方、a−2は全範囲で中輝度となる被写体であるため、屋内環境などが予想される。同様に、a−3は全範囲で低輝度となる被写体であるため、夜景などの暗所シーンであることが予想される。このような場合、4つの測光パターンの測光値の平均値を測光値とすればよい。
図7(b)は、2つの測光パターンの測光結果が同レベルになる場合の例である。例えば、b−1は測光パターン1と測光パターン3が中輝度で同レベルの測光結果の被写体であり、測光パターン2と測光パターン4が低輝度で同レベルの測光結果の被写体である。これは、例えば夕日と反対方向の空が暗く夕景になっているシーンなどが予想される。この場合、夕日の方向を含む測光パターン1と測光パターン3の測光結果を重視すればよい。
b−2は測光パターン1が高輝度で測光パターン2が中輝度となる被写体であり、測光パターン3と測光パターン4が同レベルの輝度となる被写体である。このシーンでは、測光パターン1の方向が順光環境であり、測光パターン2の方向に光源があるため、逆光被写体が存在することが予想される。この場合、順光方向の測光パターン1の測光結果を重視すればよい。
図7(c)は、4つの測光パターンの測光結果が全て異なる場合の例である。例えば、c−1では、測光パターン2と測光パターン4の重なる領域に暗い被写体があることが予想されるため、この領域を含まない測光パターンの測光結果を重視すればよい。
以上、図7を用いて、撮影時の周囲のシーンを判定する測光パターンについて説明したが、測光パターンの測光値の組み合わせや、シーンの判定条件などは上記の説明に限られるものではない。より多くの撮影シーンを分析し、測光パターンの数を増やすことで、さらに測光精度を高めることが可能である。
図8は、全天球を水平平面で分割した2つの測光パターンの場合の例を説明する図である。
図8(a)は、2つの測光パターンの測光結果が同レベルになる場合の例であり、天面である測光パターン5と地面である測光パターン6の測光結果が中輝度で同レベルとなるため、屋内環境などが予想される。この場合は測光パターン1、2、3、4から算出された測光結果を重視する。
図8(b)は、天面が高輝度で地面が低輝度となる場合の例であり、測光パターン5の測光結果が測光パターン6の測光結果よりも明るいため、空を主被写体として撮影することが予想される。この場合は測光パターン1、2、3、4から算出された測光結果に対して、測光パターン5の測光結果を重視した重み付けを行って測光値を算出する。
図8(c)は、天面が低輝度で地面が中輝度となる場合の例であり、測光パターン6の測光結果が測光パターン5の測光結果よりも明るいため、夜景シーンなどを撮影することが予想される。この場合は測光パターン1、2、3、4から算出された測光結果に対して、測光パターン6の測光結果を重視した重み付けを行って測光値を算出する。
以上、図8を用いて、撮影時の天地方向のシーンを判定する測光パターンについて説明したが、測光パターンの測光値の組み合わせや、シーンの判定条件などは上記の説明に限られるものではない。また、天地方向の測光パターンによる測光結果は、周囲方向の測光パターンの測光結果に対して測光値を補正するような役割として説明したが、より多くの撮影シーンを分析し、測光パターンの数を増やすことで、さらに測光精度を高めることが可能である。また、天地方向の測光パターンによる測光結果だけで適正な露出を検出可能とするシーンも当然含まれる。さらに、姿勢検出部64の情報に基づいて、測光枠を切り分ける水平平面をカメラの撮影時の姿勢に応じた水平平面として全天球画像の測光値を算出するようにしてもよい。
また、上記の説明では、測光枠を切り分ける水平平面は全天球の中心を通る平面として説明している。しかし、撮影時のカメラの高さや撮影環境に応じて、水平方向に測光枠を切り分ける平面を全天球内で上下に移動(変更)しても構わないし、複数面の水平平面で測光枠を切り分けても構わない。
また、測光枠を切り分ける水平平面に直交する平面のうちの1面は光軸を通る平面として説明しているが、光軸を通らない複数の平面で測光枠を切り分けたとしても、問題はない。
次に、図9から図12を参照して、本実施形態の処理の流れについて説明する。図9は全天球画像を撮影するための測光処理全体の流れを説明するフローチャートである。以下の全天球画像の測光処理は、特に明示的な記載がない限り、システム制御部50が、メモリ65に記憶されているプログラムを実行することにより行われるものとする。
まずS100では、システム制御部50は、測光のために撮像した複数のカメラの画像を合成した全天球画像を、n個の測光枠に分割する。S100で行う測光枠の分割処理の詳細については図10を用いて後述する。
S101では、システム制御部50は、図4で説明したように、S100で分割した測光枠から測光意図に合わせて、隣り合う連続した測光枠の組み合わせによる測光パターンを設定する。このとき、測光パターンは少なくとも他の測光パターンと測光領域の一部が重なるように設定される。
S102では、システム制御部50は、S101で設定されたそれぞれの測光パターンを全天球画像に対して適用し、全ての測光パターンに対して測光値を取得する。
S103では、システム制御部50は、S102で取得された全ての測光パターンの測光値を用いて、全天球画像の撮影シーンを想定し、主被写体を含む測光パターンの測光値を重視した露出値を算出する。S103で行う全天球画像取得のための露出値を算出する処理の詳細については、図11を用いて後述する。
図10は、測光枠の分割処理の例を説明するフローチャートである。
まず、S200では、システム制御部50は、姿勢検出部64の情報に基づいて、撮影時の全天球撮像装置の傾き情報を取得し、S201では、この傾き情報に基づいて、測光時の全天球画像の姿勢検出を行う。このとき、全天球画像の天地の姿勢が正しい状態になるように、撮像した画像の姿勢変換を行ってもよいし、全天球画像の傾き情報を記憶して、後の測光枠分割のための情報として利用してもよい。
S202では、システム制御部50は、全天球画像を水平平面で上下に分割する。このとき、S201で検出した全天球画像の天地の姿勢に対し、全天球画像を正しい姿勢になるように画像変換していた場合は水平平面で全天球を上下に分割する。全天球画像の傾き情報を記憶していた場合は、全天球画像の傾き情報に合わせて傾けた水平平面を用いて全天球画像を上下に分割する。
S203では、システム制御部50は、全天球を、S202で上下に分割した水平平面に対して、直交するN面の平面でn分割する。
n=(N+1)*2 (分割)
このn個に分割された全天球の分割領域をn個の測光枠として、図9のS101以降の処理に用いる。
このn個に分割された全天球の分割領域をn個の測光枠として、図9のS101以降の処理に用いる。
図11は全天球画像の露出値を算出する処理の例を説明するフローチャートである。
S300では、システム制御部50は、図9のS102で検出した全ての測光パターンの測光値を取得し、S301の撮影時の周囲の明るさによるシーン判定と、S305の撮影時の天地の明るさによるシーン判定を行う。
S302では、システム制御部50は、図4で説明した測光パターン1、測光パターン2、測光パターン3、測光パターン4の測光値のパターンからシーン推定を行う。さらに、S303では、推定結果のシーンに応じて主被写体と予測される画像領域を含む測光パターンを重視するように測光値に重み付けを行う。
一方、S306では、システム制御部50は、図4で説明した測光パターン5、測光パターン6の測光値のパターンからシーン推定を行う。さらに、S307では、推定結果のシーンに応じて測光値に対して重み付けを行う。
そして、S304では、システム制御部50は、S303で算出した重み付け後の測光値とS307で算出した重み付け後の測光値を平均化するなどの処理を行い、全天球画像を取得するための露出値を算出する。
以上のように、本実施形態では、全天球画像のすべての範囲を対象とした複数の測光パターンを用いることによって、カメラの姿勢や撮影シーンによる測光バラつきが少ない、高精度な全天球撮影の露出制御を行うことが可能となる。
なお、本実施形態では、全天球画像の全ての範囲を測光して全ての撮像手段に対する露出値を算出するように説明してきた。しかし、撮影シーンの輝度範囲が広すぎて、撮像装置のダイナミックレンジを越えている場合には、撮像手段ごとに異なる露出値を指定して撮影しても構わないし、HDR撮影を行って、撮像装置のダイナミックレンジを拡張する処理を行っても構わない。
また、本実施形態では、全天球画像を撮影可能な撮像装置として、複数の撮像手段を備える構成を説明した。しかし、全天球画像を撮影するために、複数の撮像装置で撮影した画像を組み合わせて合成する装置であっても、複数の撮像装置に対して露出条件を指定して撮影を行わせる装置であってもよい。
また、上記の実施形態では、撮像装置を基準とする略360°の範囲の全天球画像を取得する場合について説明したが、これに限定されるものではない。例えば、天頂を含む全天画像などの広角画像を取得する際に、前述した構成を適用してもよい。また、実際に撮像装置を用いて撮像した複数の被合成画像を合成しつつ画像処理等により疑似的に画像を補間して全天球画像などの広角画像を生成する際に、前述した構成を適用してもよい。この場合、全天球画像の生成は撮像装置の内部で行われるものに限らず、外部装置で全天球画像を合成する構成であってもよい。
(その他の実施形態)
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
14,70:撮像素子、20:画像処理部、50:システム制御部、100:撮像装置、150:第1のレンズ鏡筒、250:第2のレンズ鏡筒、302:露出制御部、304:測光枠分割処理部、305:画像合成処理部
Claims (14)
- 被写体を撮影する撮像手段と、
天球を複数の分割領域に分割する分割手段と、
前記分割手段によって分割された複数の分割領域のうち、連続する所定数の分割領域を組み合わせた領域をそれぞれ測光領域とする複数の測光パターンを生成する生成手段であって、前記複数の測光パターンが部分的に同じ前記分割領域を含むように前記複数の測光パターンを生成する生成手段と、
前記複数の測光パターン毎の測光値を算出する算出手段と、
前記算出手段によって算出された前記複数の測光パターンについての測光結果に基づいて、前記撮像手段により天球画像を撮影する際の露出を制御する露出制御手段と、
を備えることを特徴とする撮像装置。 - 前記撮像手段は、互いに背中合わせに配置された2つの撮像部を有することを特徴とする請求項1に記載の撮像装置。
- 前記分割領域とは、天球を水平平面で分割するとともに、前記水平平面に直交する1つの平面によって分割される4つの分割領域であることを特徴とする請求項1または2に記載の撮像装置。
- 前記分割領域とは、天球を水平平面で分割するとともに、前記水平平面に直交する2つの平面によって分割される8つの分割領域であることを特徴とする請求項1または2に記載の撮像装置。
- 前記撮像装置の姿勢に応じて、前記水平平面を変更することを特徴とする請求項3または4に記載の撮像装置。
- 前記測光パターンの1つは、天球を前記水平平面で2分割した一方の範囲を含むことを特徴とする請求項3乃至5のいずれか1項に記載の撮像装置。
- 前記複数の測光パターンは、それぞれが2つ以上の異なる測光パターンとオーバーラップしている4つ以上の測光パターンからなることを特徴とする請求項3乃至6のいずれか1項に記載の撮像装置。
- 前記露出制御手段は、前記複数の測光パターンのそれぞれの測光結果に対し、所定の重み付けを行って露出制御を行なうことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
- 撮影された画像をつなぎ合わせて全天球画像を合成する合成手段をさらに備えることを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
- 前記算出手段は、前記複数の分割領域のそれぞれについて測光値を取得することなく、前記複数の測光パターン毎の測光値を算出することを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
- 前記算出手段は、前記複数の分割領域のそれぞれの測光値に基づいて、前記複数の測光パターン毎の測光値を算出することを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
- 被写体を撮影する撮像手段を備える撮像装置を制御する方法であって、
天球を複数の分割領域に分割する分割工程と、
前記分割工程において分割された複数の分割領域のうち、連続する所定数の分割領域を組み合わせた領域をそれぞれ測光領域とする複数の測光パターンを生成する生成工程であって、前記複数の測光パターンが部分的に同じ前記分割領域を含むように前記複数の測光パターンを生成する生成工程と、
前記複数の測光パターン毎の測光値を算出する算出工程と、
前記算出工程において算出された前記複数の測光パターンについての測光結果に基づいて、前記撮像手段により天球画像を撮影する際の露出を制御する露出制御工程と、
を有することを特徴とする撮像装置の制御方法。 - 請求項12に記載の制御方法の各工程をコンピュータに実行させるためのプログラム。
- 請求項12に記載の制御方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018158570A JP2020036091A (ja) | 2018-08-27 | 2018-08-27 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
US16/535,281 US10943328B2 (en) | 2018-08-27 | 2019-08-08 | Image capturing apparatus, method for controlling same, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018158570A JP2020036091A (ja) | 2018-08-27 | 2018-08-27 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020036091A true JP2020036091A (ja) | 2020-03-05 |
Family
ID=69583510
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018158570A Pending JP2020036091A (ja) | 2018-08-27 | 2018-08-27 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10943328B2 (ja) |
JP (1) | JP2020036091A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018150768A1 (ja) * | 2017-02-20 | 2018-08-23 | ソニー株式会社 | 測光装置、測光方法、プログラムおよび撮像装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001221633A (ja) * | 2000-02-09 | 2001-08-17 | Olympus Optical Co Ltd | 測距装置 |
JP2007300463A (ja) * | 2006-05-01 | 2007-11-15 | Opt Kk | カメラ装置および画像処理方法 |
JP5834410B2 (ja) * | 2011-01-13 | 2015-12-24 | 株式会社リコー | 撮像装置および撮像方法 |
JP5935432B2 (ja) | 2012-03-22 | 2016-06-15 | 株式会社リコー | 画像処理装置、画像処理方法及び撮像装置 |
JP6065474B2 (ja) * | 2012-09-11 | 2017-01-25 | 株式会社リコー | 撮像制御装置、撮像制御方法およびプログラム |
JP6070283B2 (ja) * | 2013-03-04 | 2017-02-01 | 株式会社リコー | 撮像装置、露出制御方法およびプログラム |
JP2014230088A (ja) * | 2013-05-22 | 2014-12-08 | ソニー株式会社 | 画像調整装置、画像調整方法、画像調整プログラムおよび撮像装置 |
EP3089447A4 (en) * | 2013-12-24 | 2017-07-05 | Kyocera Corporation | Image processing device, warning apparatus, and image processing method |
JP2016058840A (ja) | 2014-09-08 | 2016-04-21 | 株式会社リコー | 撮像装置、画像処理装置、撮像方法及びプログラム |
EP3454547A1 (en) * | 2017-09-11 | 2019-03-13 | Canon Kabushiki Kaisha | Imaging apparatus, image processing apparatus, imaging method, image processing method, and storage medium |
JP2019144401A (ja) * | 2018-02-20 | 2019-08-29 | オリンパス株式会社 | 撮像装置および撮像方法 |
-
2018
- 2018-08-27 JP JP2018158570A patent/JP2020036091A/ja active Pending
-
2019
- 2019-08-08 US US16/535,281 patent/US10943328B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10943328B2 (en) | 2021-03-09 |
US20200065936A1 (en) | 2020-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6685843B2 (ja) | 撮像装置 | |
JP6486656B2 (ja) | 撮像装置 | |
JP6512810B2 (ja) | 撮像装置および制御方法とプログラム | |
US8854533B2 (en) | Image capture apparatus and control method therefor | |
US9451160B2 (en) | Imaging apparatus and method for controlling the imaging apparatus | |
US9531938B2 (en) | Image-capturing apparatus | |
JP4423678B2 (ja) | 撮像装置、撮影方法及びプログラム | |
US20100295954A1 (en) | Image processing apparatus and image processing method | |
US9667853B2 (en) | Image-capturing apparatus | |
WO2014171304A1 (ja) | 撮像装置、撮像装置駆動方法、撮像装置制御プログラム | |
JP6128109B2 (ja) | 撮影装置、撮影方向の制御方法及びプログラム | |
JP2017069706A (ja) | 撮像装置、及び撮像装置の制御方法 | |
JP6300670B2 (ja) | 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置 | |
JP6833801B2 (ja) | 撮像装置、撮像方法、プログラムおよび記録媒体 | |
JP6463190B2 (ja) | 撮像装置及びその制御方法並びにプログラム | |
JP6326631B2 (ja) | 撮像装置 | |
US11190704B2 (en) | Imaging apparatus and control method for performing live view display of a tracked object | |
JP2003060982A (ja) | 撮像装置およびその制御方法 | |
US8582016B2 (en) | Photographing apparatus and focus detecting method using the same | |
US10943328B2 (en) | Image capturing apparatus, method for controlling same, and storage medium | |
JP2015215553A (ja) | 撮像装置 | |
JP2016142924A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP2006157342A (ja) | カメラモジュール | |
JP6573382B2 (ja) | 撮像装置及び測光方法 | |
JP2014066959A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |