JP2009267923A - 撮像システム - Google Patents
撮像システム Download PDFInfo
- Publication number
- JP2009267923A JP2009267923A JP2008117137A JP2008117137A JP2009267923A JP 2009267923 A JP2009267923 A JP 2009267923A JP 2008117137 A JP2008117137 A JP 2008117137A JP 2008117137 A JP2008117137 A JP 2008117137A JP 2009267923 A JP2009267923 A JP 2009267923A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- exposure
- cameras
- common
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
【課題】新たな部品を追加することなく、またカメラの性能にばらつきがあっても、各カメラ画像枠の境界で明るさのアンバランスを抑圧する撮像システムを提供する。
【解決手段】各カメラ10A〜10Dは、撮影する撮像エリア内に他のカメラとの間で共有する領域である共通撮像エリアを設け、共通撮像エリア部分の輝度信号を検波して共通エリア露光検波情報を生成する映像処理回路13を備える。中央制御装置30は、各カメラから伝送された共通エリア露光検波情報を比較し、同一の共通撮像エリアにおける共通エリア露光検波情報のカメラ間の差に応じて該当するカメラに対して露光補正情報23を出力する中央プロセッサ33を備える。
【選択図】図1
【解決手段】各カメラ10A〜10Dは、撮影する撮像エリア内に他のカメラとの間で共有する領域である共通撮像エリアを設け、共通撮像エリア部分の輝度信号を検波して共通エリア露光検波情報を生成する映像処理回路13を備える。中央制御装置30は、各カメラから伝送された共通エリア露光検波情報を比較し、同一の共通撮像エリアにおける共通エリア露光検波情報のカメラ間の差に応じて該当するカメラに対して露光補正情報23を出力する中央プロセッサ33を備える。
【選択図】図1
Description
本発明は、複数のカメラから得られた画像を合成して表示する撮像システムに係り、特に、各カメラからの画像境界部に発生する明るさのアンバランスをなくす撮像システムに関する。
自動車ボディにカメラを設置し、車両周囲を撮像して運転者の死角画像を表示し、運転補助機能を提供する撮像システムが実用化されている。当初の車載撮像システムは、車両の後方や運転席の反対側側面に1台のカメラを設置し、カメラの撮影画像をそのまま表示モニターに表示するものが主流であった。最近では、4台あるいはそれ以上のカメラを車両周囲に配置し、視点変換技術などを用いて、例えば車両上方からの視点画像を擬似的に生成するとともに、各カメラ画像を合成して、車両全周囲をモニタリングすることが可能になっている。このような車両周囲を撮像してユーザに対し駐車支援を行う技術は、例えば特許文献1、2に開示されている。
一般にカメラには、撮影した画像の輝度信号量に応じて絞りや電子シャッター速度を調整して輝度信号量を適正値に制御する自動露光制御機能や、撮影した画像の赤色成分と青色成分の比率などから被写体色温度を推定し白色バランスを適正に維持する自動色バランス制御機能、ないし自動色温度補正機能が実装されている。すなわち、様々な被写体に対して個々のカメラが出力する画像は、それぞれのカメラが撮影する撮像枠内での画像に対して適正な輝度信号量と色バランスを維持することができる。しかしながらこれらの自動制御機能が原因で、複数のカメラからの画像を組合せて1枚の画像を合成する場合、各カメラの画像枠の境界で明るさや色合いにアンバランスが生じるという課題がある。
このアンバランスの発生のメカニズムを図面を用いて説明する。
図3は、車両の前後左右に4台のカメラを設置し、前記特許文献にも開示された視点変換技術を用いて、車両上空の視点からの画像を擬似的に合成して表示する例である。(a)に示すように、車両の前後左右にはカメラA,B,C,Dが配置されている。(b)は表示画像であり、それぞれのカメラで撮影された画像が、表示画面の領域A,B,C,Dにそれぞれ出力され全体画像が生成される。ここで、車両前方(図面上方)が日向、車両後方(図面下方)が日陰である場合を想定する。本来なら(b)に示すように、領域Aは明るく、領域Dは暗く、また各領域A,B,C,Dの境界では明るさは同一レベルで表示されるべきである。しかしながら合成後の実際の表示画像では、(c)に示すように、各領域の境界にて明るさにアンバランスが生じる。
図3は、車両の前後左右に4台のカメラを設置し、前記特許文献にも開示された視点変換技術を用いて、車両上空の視点からの画像を擬似的に合成して表示する例である。(a)に示すように、車両の前後左右にはカメラA,B,C,Dが配置されている。(b)は表示画像であり、それぞれのカメラで撮影された画像が、表示画面の領域A,B,C,Dにそれぞれ出力され全体画像が生成される。ここで、車両前方(図面上方)が日向、車両後方(図面下方)が日陰である場合を想定する。本来なら(b)に示すように、領域Aは明るく、領域Dは暗く、また各領域A,B,C,Dの境界では明るさは同一レベルで表示されるべきである。しかしながら合成後の実際の表示画像では、(c)に示すように、各領域の境界にて明るさにアンバランスが生じる。
これは、それぞれのカメラが独立に、それぞれの撮影する撮像枠内での画像を元に自動露光制御を行うからである。各カメラは自動露光制御により、撮像枠で得られる輝度信号量の総和量を一定値に維持するように制御する。よって、例えばカメラAとカメラDを比較すると、日向の部分を撮影するカメラAの画像は本来より暗くなるように、逆に日陰の部分を撮影するカメラDの画像は本来より明るくなるように露光されて表示される。また、カメラBとカメラCの画像には日向部分と日陰部分の両方を含むが、その占有割合が異なれば同様の理由で露光条件が異なるので、各領域の境界にて明るさにアンバランスが生じることになる。
このアンバランスを解消するためには、例えば(1)各カメラの設置位置に照度センサを設置して、各位置の照度値に応じて各カメラの露光条件を制御する方法、(2)各カメラの信号を合成処理する中央制御装置から、それぞれのカメラに対し同一の露光条件(絞り値ないしシャッター速度)になるよう制御する方法、などの対策が考えられる。しかしながら、(1)では新たなセンサ部品を取り付ける必要があり、(2)では複数のカメラ(撮像素子)が同一の性能(光感度特性)を示すことが要求されることから、いずれも実用的とは言えない。
本発明の目的は、上記課題に鑑み、新たな部品を追加することなく、またカメラの性能にばらつきがあっても、各カメラ画像枠の境界で明るさのアンバランスを抑圧することのできる撮像システムを提供することである。
本発明は、複数のカメラで撮影した画像を中央制御装置に伝送し、各カメラからの画像を合成して表示する撮像システムであって、各カメラは、撮影する撮像エリア内に他のカメラとの間で共有する領域である共通撮像エリアを設け、撮影した画像信号を処理すると共に共通撮像エリア部分の輝度信号を検波して共通エリア露光検波情報を生成する映像処理回路と、撮影した画像信号と共通エリア露光検波情報を中央制御装置に伝送する伝送処理回路と、光学系と撮像素子に対して露光制御信号を出力するカメラプロセッサを備え、中央制御装置は、各カメラから伝送された画像信号を合成して画像表示部に表示する表示処理部と、各カメラから伝送された共通エリア露光検波情報を比較し、同一の共通撮像エリアにおける共通エリア露光検波情報のカメラ間の差に応じて該当するカメラに対して露光補正情報を出力する中央プロセッサを備える。
ここに中央制御装置の中央プロセッサは、同一の共通撮像エリアにおける2つのカメラの共通エリア露光検波情報の差が予め定めた閾値より大きい場合、共通エリア露光検波情報の差に基づき必要な露光補正量を計算し、一方のカメラに対して露光補正情報を出力する。
また各カメラの映像処理回路は、撮影した画像信号に対して非線形な輝度階調補正を行う機能を有し、中央制御装置の中央プロセッサは、伝送された画像信号の輝度階調に応じて、該当するカメラの映像処理回路に対して輝度階調補正動作の制御を行う。
本発明によれば、新たな部品を追加することなく、またカメラの性能にばらつきがあっても、各カメラ画像枠の境界で明るさのアンバランスを抑圧する実用的な撮像システムを提供する。
以下、本発明の実施形態を図面を用いて説明する。
図1は、本発明の撮像システムの一実施例を示すシステム構成図である。
本実施例の撮像システムは、車両の前後左右に4台のカメラA,B,C,D(符号10A,10B,10C,10D)を設置し、各カメラからの画像信号を伝送路20を介して中央制御装置30に伝送し、車両上空の視点からの合成画像を生成して画像表示部40に表示する構成である。
本実施例の撮像システムは、車両の前後左右に4台のカメラA,B,C,D(符号10A,10B,10C,10D)を設置し、各カメラからの画像信号を伝送路20を介して中央制御装置30に伝送し、車両上空の視点からの合成画像を生成して画像表示部40に表示する構成である。
各カメラ10A〜10Dにおいて、光学系11から撮像素子12に結像した映像は、映像処理回路13と伝送処理回路15にて処理される。映像処理回路13では露光制御に使用する露光検波情報14をプロセッサ(カメラプロセッサ)17に出力する。この露光検波情報14は、撮影画像内の輝度信号を検波して得られる情報で、輝度信号の総和値、平均値、最大値、最小値、輝度分布ヒストグラムなどの情報である。露光検波情報14は、撮影画像全体を単一エリアとして検波する場合と、撮影画像を複数のエリアに分割し、それぞれのエリアの輝度信号を検波する場合とがある。
プロセッサ17では、この露光検波情報14を基に適正な露光状態を維持するよう、光学系11や撮像素子12に対して露光制御命令19を出力する。この命令は、光学系11に対しては絞り値の更新を指示するものであり、撮像素子12に対してはシャッタスピードの更新を指示するものである。またプロセッサ17は、映像処理回路13に対して階調補正命令18を出力する。この階調補正は、画像を実際に出力表示する際に、より自然に近い輝度で表示するためのレベル補正である。
映像処理回路13は、さらに、撮影画像内の特定のエリア(後述する共通撮像エリア)の輝度信号を検波して露光検波情報を生成する。伝送処理回路15では、伝送路20に向けて、カメラ10A〜10Dからの画像信号21とともに、共通撮像エリアの露光検波情報(以下、共通エリア露光検波情報)22を出力する。
中央制御装置30では、伝送路20から伝送処理回路31を介して入力した各カメラの画像信号21を、一旦メモリ32に格納する。表示処理回路34は、各カメラからの画像について視点変換処理、画像合成処理などを施し、合成画像を生成して画像表示部40に出力する。
また中央制御装置30では、伝送路20から入力された共通エリア露光検波情報22について、プロセッサ(中央プロセッサ)33にて比較評価する。そして、共通エリア露光検波情報22についてカメラ間で差異が生じている場合、プロセッサ33は、この差異を緩和するように各カメラ個別に露光補正情報23を生成する。生成した露光補正情報23は、伝送処理回路31と伝送路20を介して各カメラに送信される。各カメラでは、伝送処理回路15を介して露光補正情報23を受け取り、プロセッサ17に露光補正情報16を送り、光学系11や撮像素子12に対して露光補正命令19を出力する。
このように本実施例では、各カメラの撮影画像について共通撮像エリアを設けてそのエリア内の露光検波情報を比較し、その差異を緩和するように各カメラの露光条件を補正することを特徴とする。これにより、各共通撮像エリアの輝度値を一致させ、各カメラ画像枠の境界での明るさのアンバランスをなくすことができる。
図2は、本実施例において各カメラに設けた共通撮像エリアを説明する図である。
各カメラ10A〜10Dはそれぞれ撮像エリアA〜Dを撮影するが、最終的に表示に使用される表示エリアよりも広い領域をカバーする。そして、各撮像エリアA〜Dには隣接する他のカメラの撮像エリアとの間で共有する領域、すなわち共通撮像エリアを設けている。例えば撮像エリアAと撮像エリアBとの共通撮像エリアを符号Sab(斜線部分)で示す。本実施例では、4個の撮像エリアに対し、4箇所の共通撮像エリアSab,Sac,Sbd,Scdを設ける。
各カメラの映像処理回路13は、共通撮像エリアSab,Sac,Sbd,Scd内の輝度信号の検波を行い、共通エリア露光検波情報22として中央制御装置30に出力する。例えば共通撮像エリアSabについては、撮像エリアAに属する共通エリア露光検波情報Iab(A)と、撮像エリアBに属する共通エリア露光検波情報Iab(B)を出力する。中央制御装置30ではそれらを比較し、その差が小さくなるようにカメラAまたはBに対し露光補正情報23を生成する。
図3を用いて、本実施例による露光補正の原理を説明する。
例えば、前述した図3(c)のようなアンバランスが発生した場合を想定する。共通撮像エリアSabにおいて、共通エリア露光検波情報Iab(A)は、共通エリア露光検波情報Iab(B)よりも輝度値が小さい(暗い)ので、カメラAの露光条件をより明るくするよう補正する(補正A’)。また、共通撮像エリアSbdにおいて、共通エリア露光検波情報Ibd(D)は、共通エリア露光検波情報Ibd(B)よりも輝度値が大きい(明るい)ので、カメラDの露光条件をより暗くするよう補正する(補正D’)。他の共通撮像エリアSac,Scdについても、それぞれの共通エリア露光検波情報を比較して露光条件を補正する。その結果、図3(b)のように各領域の境界にて明るさにアンバランスのない合成画像を表示することができる。
例えば、前述した図3(c)のようなアンバランスが発生した場合を想定する。共通撮像エリアSabにおいて、共通エリア露光検波情報Iab(A)は、共通エリア露光検波情報Iab(B)よりも輝度値が小さい(暗い)ので、カメラAの露光条件をより明るくするよう補正する(補正A’)。また、共通撮像エリアSbdにおいて、共通エリア露光検波情報Ibd(D)は、共通エリア露光検波情報Ibd(B)よりも輝度値が大きい(明るい)ので、カメラDの露光条件をより暗くするよう補正する(補正D’)。他の共通撮像エリアSac,Scdについても、それぞれの共通エリア露光検波情報を比較して露光条件を補正する。その結果、図3(b)のように各領域の境界にて明るさにアンバランスのない合成画像を表示することができる。
本実施例の露光補正によれば、補正のために新たなセンサ部品を追加する必要がない。また、設置する複数のカメラ(撮像素子)の性能(光感度特性)にばらつきがある場合でも、各領域の境界にて明るさのアンバランスの発生を抑圧することができる。よって、実用的な撮像システムを提供する。
次に、中央制御装置30のプロセッサ33の行う露光補正のアルゴリズムについて説明する。
各共通撮像エリアSab,Sac,Sbd,Scdにおいて、それぞれ2つのカメラからの共通エリア露光検波情報を比較する。比較の結果、両者の差が予め定めた閾値より大きい場合には、一方のカメラの露光条件を補正するための露光補正情報23を発行する。両者の差が閾値以内にある場合は露光条件の補正は行わない。そして、露光条件補正後の各共通撮像エリアSab,Sac,Sbd,Scdにおける露光検波情報を再度比較し、それらの差が閾値以内になるように調整する。その結果、全ての共通撮像エリアにおいて露光検波情報を一致させることができる。
各共通撮像エリアSab,Sac,Sbd,Scdにおいて、それぞれ2つのカメラからの共通エリア露光検波情報を比較する。比較の結果、両者の差が予め定めた閾値より大きい場合には、一方のカメラの露光条件を補正するための露光補正情報23を発行する。両者の差が閾値以内にある場合は露光条件の補正は行わない。そして、露光条件補正後の各共通撮像エリアSab,Sac,Sbd,Scdにおける露光検波情報を再度比較し、それらの差が閾値以内になるように調整する。その結果、全ての共通撮像エリアにおいて露光検波情報を一致させることができる。
図4は、本実施例の露光補正処理の一般的なフローチャートを示す図である。
ステップS401で、各共通撮像エリアSab,Sac,Sbd,Scdにおける各カメラ画像の露光検波情報Iab(A),Iab(B),・・・を取得する。ステップS402で、各共通エリア露光検波情報の大小関係を調べ、補正基準カメラを決定する。補正基準カメラとは、露光条件設定の基準とするカメラであり、例えばカメラ画像内の輝度分布(露光検波情報の差)が最大となるものを選ぶのが良い。例えば図3の場合は、カメラB(またはC)を補正基準カメラとするのが良い。ステップS403では、露光補正の対象となる補正対象カメラを決定する。補正対象カメラは上記補正基準カメラ以外のカメラであり、図3の場合はカメラA,C(またはB),Dが相当する。
ステップS404では、1つの補正対象カメラについて露光ずれ量を計算する。例えばカメラAについては、カメラBとの共通エリア露光検波情報の差をとることで、露光ずれ量を求める。ステップS405では、露光ずれ量が閾値以内であるかどうか判定する。閾値以内であれば補正不要としステップS408に進み、閾値より大きければステップS406に進み補正を行う。
ステップS406では、上記露光ずれ量に変換係数を乗じて補正対象カメラについて露光補正量を計算する。ステップS407では、補正対象カメラに対し露光バランスポイントを上記露光補正量だけ遷移するよう補正する。ステップS405に戻り、露光補正の結果、露光ずれ量が閾値以内になったかどうか判定する。閾値より大きければ、ステップS406に進み再度補正を行う。
ステップS408では、他の補正対象カメラが残っているかどうか判定する。例えば図3の場合、カメラC,Dが残っているので、ステップS604に戻り、同様に露光補正を実施する。
以上の処理フローにより、全ての共通撮像エリアにおいて露光検波情報を一致させることができる。なお、ステップS402とS403にて補正基準カメラおよび補正対象カメラを任意に選択し、またカメラ数も任意に設定することができる。これにより、実際の表示画像に合わせて露光補正を効率よく実施することができる。
図5は、合成画像の露光補正の代表例を示す図である。ここでは、日向(日陰)方向が原因で発生するアンバランス画像の例をケース1〜6に分けて示している。日向方向により、共通撮像エリアSab,Sac,Sbd,Scdにおいては、それぞれの共通エリア露光検波情報に差(閾値より大きい差)が生じる。共通エリア露光検波情報Iab(A),Iab(B),・・・の大小関係は図中の表に記述したようになる。ただし、簡単のために表示画面内ではカメラ境界部での明るさの違いは表現していない。
ケース1〜4は、全て(4箇所)の共通撮像エリアSab,Sac,Sbd,Scdにおいて共通エリア露光検波情報に差が生じた場合である。ケース5は、3箇所の共通撮像エリアSac,Sbd,Scdにおいて共通エリア露光検波情報に差が生じた場合である。またケース6は、2箇所の共通撮像エリアSbd,Scdにおいて共通エリア露光検波情報に差が生じた場合である。ケース5とケース6は、日向(日陰)方向が一例の場合のみ示す。なお、図示していないが、1箇所の共通撮像エリアのみにおいて共通エリア露光検波情報に差が生じる場合もある。
露光補正は、いずれか1箇所以上の共通撮像エリアにおいて共通エリア露光検波情報に差が生じた場合に実行するのが好ましいが、ケース1〜4のように、全て(4箇所)の共通撮像エリアSab,Sac,Sbd,Scdにおいて共通エリア露光検波情報に差が生じた場合のみ実行するようにしても良い。
各ケースに対する露光補正方法は、次のような露光補正情報を該当するカメラに出力する。
ケース1の場合は、カメラAに対する露光バランスポイントE(A)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。
ケース1の場合は、カメラAに対する露光バランスポイントE(A)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。
そのために、まずカメラAの露光ずれ量を計算する。露光ずれ量ΔI(A)は、共通撮像エリアSabにおけるカメラBとの差と、共通撮像エリアSacにおけるカメラCとの差の平均をとる。
ΔI(A)=[{Iab(B)−Iab(A)}
+{Iac(C)−Iac(A)}]/2 (1)
次に、露光ずれ量ΔI(A)を緩和するために、変換係数kを乗じて、カメラAに対する露光補正量ΔE(A)を計算する。
ΔE(A)=k・ΔI(A) (2)
これより、カメラAに対して、露光バランスポイントE(A)を上記ΔE(A)だけ明るさを増す方向に補正する。
ΔI(A)=[{Iab(B)−Iab(A)}
+{Iac(C)−Iac(A)}]/2 (1)
次に、露光ずれ量ΔI(A)を緩和するために、変換係数kを乗じて、カメラAに対する露光補正量ΔE(A)を計算する。
ΔE(A)=k・ΔI(A) (2)
これより、カメラAに対して、露光バランスポイントE(A)を上記ΔE(A)だけ明るさを増す方向に補正する。
また、カメラDに対する露光バランスポイントE(D)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。この場合の補正量は次の計算で求める。
ΔI(D)=[{Ibd(D)−Ibd(B)}
+{Icd(D)−Icd(B)}]/2 (3)
ΔE(D)=k・ΔI(D) (4)
これより、カメラDに対して、露光バランスポイントE(D)を上記ΔE(D)だけ明るさを減らす方向に補正する。
ΔI(D)=[{Ibd(D)−Ibd(B)}
+{Icd(D)−Icd(B)}]/2 (3)
ΔE(D)=k・ΔI(D) (4)
これより、カメラDに対して、露光バランスポイントE(D)を上記ΔE(D)だけ明るさを減らす方向に補正する。
他のケースについては以下の通りである。各計算式は省略する。
ケース2の場合は、カメラAに対する露光バランスポイントE(A)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。また、カメラDに対する露光バランスポイントE(D)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。
ケース2の場合は、カメラAに対する露光バランスポイントE(A)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。また、カメラDに対する露光バランスポイントE(D)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。
ケース3の場合は、カメラBに対する露光バランスポイントE(B)を、カメラAまたはカメラDとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。また、カメラCに対する露光バランスポイントE(C)を、カメラAまたはカメラDとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。
ケース4の場合は、カメラBに対する露光バランスポイントE(B)を、カメラAまたはカメラDとの共通エリア露光検波情報の差に応じた分だけ、明るさを増す方向に遷移させる。また、カメラCに対する露光バランスポイントE(C)を、カメラAまたはカメラDとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。
ケース5の場合は、カメラCに対する露光バランスポイントE(C)を、カメラAとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。また、カメラDに対する露光バランスポイントE(D)を、カメラBとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。
ケース6の場合は、カメラDに対する露光バランスポイントE(D)を、カメラBまたはカメラCとの共通エリア露光検波情報の差に応じた分だけ、明るさを減らす方向に遷移させる。
以上のような補正処理を行うことで、各カメラ画像領域の境界で生じる明るさのアンバランスを抑圧し、自然な画像を提供することができる。
以上のような補正処理を行うことで、各カメラ画像領域の境界で生じる明るさのアンバランスを抑圧し、自然な画像を提供することができる。
図6は、図5の露光補正処理のフローチャートを示す図である。
ステップS601で、各共通撮像エリアSab,Sac,Sbd,Scdにおける各カメラ画像の露光検波情報Iab(A),Iab(B),・・・を取得する。ステップS602で、各共通エリア露光検波情報の大小関係を調べ、図5に示したどのケースに該当するかを判定する。ケースを判定すると、予め定めたルールにより露光補正の要否が判明する。例えば、図5のケース1〜6は補正=要とし、それ以外は補正=不要としておく。露光補正=要の場合、ステップS603では露光補正の対象となるカメラを決定する。例えば、図5のケース1ではカメラAとカメラDが補正対象であり、ケース3ではカメラBとカメラCが補正対象である。
ステップS601で、各共通撮像エリアSab,Sac,Sbd,Scdにおける各カメラ画像の露光検波情報Iab(A),Iab(B),・・・を取得する。ステップS602で、各共通エリア露光検波情報の大小関係を調べ、図5に示したどのケースに該当するかを判定する。ケースを判定すると、予め定めたルールにより露光補正の要否が判明する。例えば、図5のケース1〜6は補正=要とし、それ以外は補正=不要としておく。露光補正=要の場合、ステップS603では露光補正の対象となるカメラを決定する。例えば、図5のケース1ではカメラAとカメラDが補正対象であり、ケース3ではカメラBとカメラCが補正対象である。
ステップS604では、1つの補正対象カメラについて露光ずれ量を計算する。例えばカメラAについては、共通エリア露光検波情報についてカメラBとの差とカメラCとの差の平均をとることで、前記(1)式によりΔI(A)を計算する。ステップS605では、補正対象カメラについて露光補正量を計算する。例えばカメラAに対しては前記(2)式によりΔE(A)を計算する。ステップS606では、補正対象カメラに対し露光バランスポイントを上記露光補正量だけ明るさを増す(あるいは減らす)方向に補正する。
ステップS607では、他の補正対象カメラが残っているかどうか判定する。例えばケース1の場合はカメラDが残っているので、ステップS604に戻り、同様に露光補正を実施する。
図5,6の実施例によれば、アンバランスの発生し易いケースとそれに対する補正方法を予め登録しておき、これに従って露光補正を実行するので、補正処理時間を短縮することができる。
前記実施例1による露光制御のバランスポイント補正により、各カメラ撮像エリア境界部での明るさのアンバランスを解消することができる。しかしながら、必ずしも実用に適した明るさの表示画像が得られるとは限らない。例えば、日向の部分を撮影した画像(ケース1でのカメラAの画像)は白とび(明るすぎ)の画像に遷移したり、日陰の部分だけを撮影した画像(ケース1でのカメラDの画像)は、黒沈み(暗すぎ)の画像に遷移してしまい、特に暗部の画像の認識が不十分になることがある。そこで、本実施例2では、露光制御のバランスポイントの補正制御に加え、輝度階調の非線形化制御を行う。
図7は、輝度階調の非線形化制御を説明する図である。非線形制御としては、補正曲線71で示す「ガンマ処理」と称される階調制御や、補正曲線72で示す一般に「コントラスト」と称される階調制御が有効である。いずれの補正も、入力輝度信号の階調が大きい場合は階調を下げた輝度信号を出力し、入力輝度信号の階調が小さい場合は階調をあげた輝度信号を出力するものである。
図8は、輝度階調の非線形化制御を付加した輝度補正の例を示す図である。(a)は前記ケース1の場合の本来の輝度分布であり、(b)は前記実施例1によりカメラAとカメラDに対し露光補正A’、D’を施した状態である。露光補正により、カメラAの画像の輝度レベルは高く、カメラDの輝度レベルは低く補正される。(c)は図7の補正曲線71,72による輝度階調の補正を説明する図である。カメラAの画像とカメラBの日向部分画像は輝度階調が高いので補正A”と補正B1”により階調を下げる。一方カメラDの画像とカメラBの日陰部分画像は輝度階調が低いので補正D”と補正B2”により階調を上げる。
この輝度階調制御の指示は、該当するカメラへの露光補正情報に付加して伝送し、映像処理回路13に輝度階調補正命令18を送り該当する画像信号に対して階調補正を行う。あるいは輝度階調制御の指示を中央制御装置30の表示処理回路34に伝送し、表示処理回路34にて該当する画像信号に対して階調補正を行う。なお、カメラの映像処理回路13にて階調補正を行う場合には、カメラAの画像はエリア全体が同一輝度であるので、カメラAに対する階調制御のための補正A”を、カメラAに対する露光補正A’に盛り込んで単一の指令にて制御することも可能で、出力画像の明るさは同じ結果が得られる。エリア全体が同一輝度であるカメラDに対しても同様である。
本実施例によれば、輝度階調の非線形化制御を露光制御のバランスポイント補正に加えて行うことで、明るさがより自然で、かつ、暗部の認識性にも優れた画像を表示することができる。
前記各実施例では、各カメラで撮影した画像の輝度のアンバランスをなくす場合を説明した。合成画像を生成するとき、これ以外に、各カメラが行う色温度制御についても同様にアンバランスを生じる場合がある。その場合、共通撮像エリアの色情報を比較し、前記実施例で示した手順で各カメラの色調制御に反映させることで、色再現に関するアンバランスも緩和可能であることは言うまでもない。
10…カメラ、
11…光学系、
12…撮像素子、
13…映像処理回路、
14…露光検波情報、
15…伝送処理回路、
16…露光補正情報、
17…プロセッサ、
18…輝度階調補正命令、
19…露光制御命令、
20…伝送路、
21…画像信号、
22…共通エリア露光検波情報、
23…露光補正情報、
30…中央制御装置、
31…伝送処理回路、
32…メモリ、
33…プロセッサ、
34…表示処理回路、
40…画像表示部、
Sab,Sac,Sbd,Scd…共通撮像エリア。
11…光学系、
12…撮像素子、
13…映像処理回路、
14…露光検波情報、
15…伝送処理回路、
16…露光補正情報、
17…プロセッサ、
18…輝度階調補正命令、
19…露光制御命令、
20…伝送路、
21…画像信号、
22…共通エリア露光検波情報、
23…露光補正情報、
30…中央制御装置、
31…伝送処理回路、
32…メモリ、
33…プロセッサ、
34…表示処理回路、
40…画像表示部、
Sab,Sac,Sbd,Scd…共通撮像エリア。
Claims (5)
- 複数のカメラで撮影した画像を中央制御装置に伝送し、各カメラからの画像を合成して表示する撮像システムにおいて、
上記各カメラは、撮影する撮像エリア内に他のカメラとの間で共有する領域である共通撮像エリアを設け、撮影した画像信号を処理すると共に上記共通撮像エリア部分の輝度信号を検波して共通エリア露光検波情報を生成する映像処理回路と、撮影した画像信号と上記共通エリア露光検波情報を上記中央制御装置に伝送する伝送処理回路と、光学系と撮像素子に対して露光制御信号を出力するカメラプロセッサを備え、
上記中央制御装置は、上記各カメラから伝送された画像信号を合成して画像表示部に表示する表示処理部と、上記各カメラから伝送された上記共通エリア露光検波情報を比較し、同一の共通撮像エリアにおける共通エリア露光検波情報のカメラ間の差に応じて該当するカメラに対して露光補正情報を出力する中央プロセッサを備えることを特徴とする撮像システム。 - 請求項1に記載の撮像システムにおいて、
前記中央制御装置の前記中央プロセッサは、同一の共通撮像エリアにおける2つのカメラの共通エリア露光検波情報の差が予め定めた閾値より大きい場合、該共通エリア露光検波情報の差に基づき必要な露光補正量を計算し、一方のカメラに対して露光補正情報を出力することを特徴とする撮像システム。 - 請求項2に記載の撮像システムにおいて、
前記中央制御装置の前記中央プロセッサは、前記複数のカメラの中から露光補正の基準となる補正基準カメラを設定し、該補正基準カメラの共通エリア露光検波情報と比較しながら他のカメラに対して順次露光補正情報を出力することを特徴とする撮像システム。 - 請求項2に記載の撮像システムにおいて、
前記中央制御装置の前記中央プロセッサは、前記各共通撮像エリアにおける2つのカメラの共通エリア露光検波情報の大小関係について予めケース分けしておき、各ケースにおいていずれのカメラに対してどのような露光補正情報を出力するかを予め定めておくことを特徴とする撮像システム。 - 請求項1ないし4のいずれか1項に記載の撮像システムにおいて、
前記各カメラの前記映像処理回路は、撮影した画像信号に対して非線形な輝度階調補正を行う機能を有し、
前記中央制御装置の前記中央プロセッサは、伝送された画像信号の輝度階調に応じて、該当するカメラの映像処理回路に対して輝度階調補正動作の制御を行うことを特徴とする撮像システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008117137A JP2009267923A (ja) | 2008-04-28 | 2008-04-28 | 撮像システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008117137A JP2009267923A (ja) | 2008-04-28 | 2008-04-28 | 撮像システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009267923A true JP2009267923A (ja) | 2009-11-12 |
Family
ID=41393181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008117137A Pending JP2009267923A (ja) | 2008-04-28 | 2008-04-28 | 撮像システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009267923A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101241012B1 (ko) | 2011-06-27 | 2013-03-11 | 현대자동차일본기술연구소 | 어라운드 뷰 모니터 시스템의 카메라 간 화질차이 개선 방법 |
JP2013207637A (ja) * | 2012-03-29 | 2013-10-07 | Mitsubishi Electric Corp | 画像処理装置及び方法、並びにコンピュータプログラム |
KR101497933B1 (ko) * | 2013-08-19 | 2015-03-03 | 현대모비스(주) | 클러스터링 기법을 이용한 다수 영상의 합성 시스템 및 방법 |
JP2018503325A (ja) * | 2014-11-06 | 2018-02-01 | デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc | 画素データに対して演算を実行するためのシステムおよび方法 |
US10558848B2 (en) | 2017-10-05 | 2020-02-11 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
US10652478B2 (en) | 2012-09-04 | 2020-05-12 | Duelight Llc | Image sensor apparatus and method for obtaining multiple exposures with zero interframe time |
US10785401B2 (en) | 2016-09-01 | 2020-09-22 | Duelight Llc | Systems and methods for adjusting focus based on focus target information |
US10904505B2 (en) | 2015-05-01 | 2021-01-26 | Duelight Llc | Systems and methods for generating a digital image |
US10924688B2 (en) | 2014-11-06 | 2021-02-16 | Duelight Llc | Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene |
US10931897B2 (en) | 2013-03-15 | 2021-02-23 | Duelight Llc | Systems and methods for a digital image sensor |
US11375085B2 (en) | 2016-07-01 | 2022-06-28 | Duelight Llc | Systems and methods for capturing digital images |
JP2022534046A (ja) * | 2019-05-31 | 2022-07-27 | 影石創新科技股▲ふん▼有限公司 | 準同期露出パラメータを決定する方法及び電子装置 |
US11463630B2 (en) | 2014-11-07 | 2022-10-04 | Duelight Llc | Systems and methods for generating a high-dynamic range (HDR) pixel stream |
-
2008
- 2008-04-28 JP JP2008117137A patent/JP2009267923A/ja active Pending
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101241012B1 (ko) | 2011-06-27 | 2013-03-11 | 현대자동차일본기술연구소 | 어라운드 뷰 모니터 시스템의 카메라 간 화질차이 개선 방법 |
JP2013207637A (ja) * | 2012-03-29 | 2013-10-07 | Mitsubishi Electric Corp | 画像処理装置及び方法、並びにコンピュータプログラム |
US11025831B2 (en) | 2012-09-04 | 2021-06-01 | Duelight Llc | Image sensor apparatus and method for obtaining multiple exposures with zero interframe time |
US12003864B2 (en) | 2012-09-04 | 2024-06-04 | Duelight Llc | Image sensor apparatus and method for obtaining multiple exposures with zero interframe time |
US10652478B2 (en) | 2012-09-04 | 2020-05-12 | Duelight Llc | Image sensor apparatus and method for obtaining multiple exposures with zero interframe time |
US10931897B2 (en) | 2013-03-15 | 2021-02-23 | Duelight Llc | Systems and methods for a digital image sensor |
KR101497933B1 (ko) * | 2013-08-19 | 2015-03-03 | 현대모비스(주) | 클러스터링 기법을 이용한 다수 영상의 합성 시스템 및 방법 |
JP2018503325A (ja) * | 2014-11-06 | 2018-02-01 | デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc | 画素データに対して演算を実行するためのシステムおよび方法 |
US11394894B2 (en) | 2014-11-06 | 2022-07-19 | Duelight Llc | Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene |
US10924688B2 (en) | 2014-11-06 | 2021-02-16 | Duelight Llc | Image sensor apparatus and method for obtaining low-noise, high-speed captures of a photographic scene |
US11463630B2 (en) | 2014-11-07 | 2022-10-04 | Duelight Llc | Systems and methods for generating a high-dynamic range (HDR) pixel stream |
US11356647B2 (en) | 2015-05-01 | 2022-06-07 | Duelight Llc | Systems and methods for generating a digital image |
US10904505B2 (en) | 2015-05-01 | 2021-01-26 | Duelight Llc | Systems and methods for generating a digital image |
US11375085B2 (en) | 2016-07-01 | 2022-06-28 | Duelight Llc | Systems and methods for capturing digital images |
US10785401B2 (en) | 2016-09-01 | 2020-09-22 | Duelight Llc | Systems and methods for adjusting focus based on focus target information |
US12003853B2 (en) | 2016-09-01 | 2024-06-04 | Duelight Llc | Systems and methods for adjusting focus based on focus target information |
US10586097B2 (en) | 2017-10-05 | 2020-03-10 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
US11455829B2 (en) | 2017-10-05 | 2022-09-27 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
US11699219B2 (en) | 2017-10-05 | 2023-07-11 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
US10558848B2 (en) | 2017-10-05 | 2020-02-11 | Duelight Llc | System, method, and computer program for capturing an image with correct skin tone exposure |
JP7335981B2 (ja) | 2019-05-31 | 2023-08-30 | 影石創新科技股▲ふん▼有限公司 | 準同期露出パラメータを決定する方法及び電子装置 |
JP2022534046A (ja) * | 2019-05-31 | 2022-07-27 | 影石創新科技股▲ふん▼有限公司 | 準同期露出パラメータを決定する方法及び電子装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009267923A (ja) | 撮像システム | |
CN101998053B (zh) | 图像处理方法、图像处理设备和成像设备 | |
JP4322781B2 (ja) | 撮像装置 | |
JP4869795B2 (ja) | 撮像制御装置、撮像システム、および撮像制御方法 | |
US10630920B2 (en) | Image processing apparatus | |
US20070292045A1 (en) | Image processing apparatus and image processing method | |
US7880783B2 (en) | Image pickup apparatus and method | |
JP2007124604A (ja) | 画像処理装置およびその処理方法 | |
JP4444218B2 (ja) | 動画用明るさ補正装置ならびにその制御方法およびその制御プログラム | |
US8717449B2 (en) | Image synthesizing apparatus, image recording method, and recording medium | |
US8285134B2 (en) | Wide dynamic range hardware apparatus and photographing apparatus including the same | |
EP3293697A1 (en) | Image processing device, imaging device, image processing method, and storage medium storing image processing program for image processing device | |
US9214034B2 (en) | System, device and method for displaying a harmonized combined image | |
US8989510B2 (en) | Contrast enhancement using gradation conversion processing | |
EP3460748B1 (en) | Dynamic range compression device and image processing device cross-reference to related application | |
EP1998552B1 (en) | Imaging apparatus and image processing program | |
US20130215269A1 (en) | Bird view system and compensating method thereof | |
US20030231856A1 (en) | Image processor, host unit for image processing, image processing method, and computer products | |
JP6411644B2 (ja) | ヒストグラム拡散を伴う自動車両カメラ装置 | |
JP2010154478A (ja) | 複眼撮像装置及びその合成画像生成方法 | |
US11805326B2 (en) | Image processing apparatus, control method thereof, and storage medium | |
JP2006114006A (ja) | 階調変換装置、プログラム、電子カメラ、およびその方法 | |
JP4857856B2 (ja) | 彩度調整機能を有する電子カメラ、および画像処理プログラム | |
JP2011181019A (ja) | 俯瞰画像生成装置 | |
JP6386843B2 (ja) | 画像処理装置、画像処理方法、プログラム、記憶媒体 |