JP7475830B2 - 撮像制御装置および撮像制御方法 - Google Patents

撮像制御装置および撮像制御方法 Download PDF

Info

Publication number
JP7475830B2
JP7475830B2 JP2019168252A JP2019168252A JP7475830B2 JP 7475830 B2 JP7475830 B2 JP 7475830B2 JP 2019168252 A JP2019168252 A JP 2019168252A JP 2019168252 A JP2019168252 A JP 2019168252A JP 7475830 B2 JP7475830 B2 JP 7475830B2
Authority
JP
Japan
Prior art keywords
subject
area
image
luminance
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019168252A
Other languages
English (en)
Other versions
JP2021048441A5 (ja
JP2021048441A (ja
Inventor
翔悟 絹川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019168252A priority Critical patent/JP7475830B2/ja
Priority to US17/019,014 priority patent/US11388346B2/en
Publication of JP2021048441A publication Critical patent/JP2021048441A/ja
Publication of JP2021048441A5 publication Critical patent/JP2021048441A5/ja
Application granted granted Critical
Publication of JP7475830B2 publication Critical patent/JP7475830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、撮像制御装置および撮像制御方法に関する。
従来のカメラシステムでは、光源の強弱変化に対応するため、画像全体の光量を撮像の際に測定し、測定した光量に適した露出制御を行う。
しかし、画像内の一部分を占める被写体が逆光状態や過順光状態となった高コントラスト状態のシーンでは、画像全体の光量に適した露出制御を行ったとしても、被写体を適切な露出で撮像できない場合がある。
高コントラスト状態で被写体を適切な露出で撮像できるよう、手動で露出設定したとしても、光源の明るさや位置が変化すると、その露出設定は適切ではなくなってしまう。
適切な露出設定を行う方法として、受信した撮像画像ごとに被写体を検出し、被写体の領域の輝度評価値が所定の輝度評価値になるよう露出を制御する方法がある。また、ユーザが被写体に似た輝度の矩形領域を背景の中に指定し、当該矩形領域が所定の輝度評価値となるよう露出を制御する方法もある。
特許文献1には、露出を合わせたい物体(目的の物体)の特徴量をデータベースにあらかじめ登録しておき、その後受信した画像ごとに、検出した移動物体の特徴量と登録した物体の特徴量とを照合する監視カメラシステムが開示されている。この監視カメラシステムでは、当該照合により、検出した移動物体が目的の物体であると判定されると、目的の物体が所定の明るさとなるよう絞り・露光・ゲインを制御(調整)する。
特開2014-146979号公報
しかし、特許文献1の監視カメラシステムでは、受信した撮像画像ごとに被写体を検出し露出を調整するため、適切な露出状態でないときには被写体の検出が困難であり露出調整に時間がかかる可能性がある。監視目的で通路や出入り口にカメラを設置する場合、被写体を撮像できる時間は短く、適切な露出で撮像する機会を逸する可能性がある。
本発明は、このような問題を解決するため、露光調整を効率的に行うことができる撮像制御装置を提供することを目的とする。
本発明の1つの態様に係る撮像制御装置は、撮像部の露出を制御する撮像制御装置であって、前記撮像部により撮像された第1の画像から特定の被写体を含む被写体領域を決定する決定手段と、前記決定手段により決定した被写体領域の輝度ヒストグラムと、前記被写体領域以外の領域の輝度ヒストグラムとに基づいて、前記第1の画像において、前記被写体領域の輝度値と類似する輝度値を有する領域を取得する取得手段と、前記撮像部により撮像された第2の画像における前記取得手段によって取得された領域の輝度値に基づいて、前記撮像部の露出を調整する調整手段と、を備え、前記取得手段は、前記被写体領域以外の領域の輝度ヒストグラムが表す輝度類似度の合計が所定値未満の場合、前記輝度ヒストグラムの区間幅を広げる
本発明によれば、露出調整を効率的に行うことができる。
カメラシステムの構成を示すブロック図。 撮像装置および情報処理装置の構成を示すブロック図。 情報処理装置内で行われる実施形態1に係る全体処理のフローチャート。 (A)~(G)は図3の各処理結果を示す図。 実施形態1の情報処理装置内で行われる被写体領域決定処理フローチャート。 実施形態1の情報処理装置内で行われる類似画素マップ作成処理フローチャート。 実施形態1の情報処理装置内で行われる輝度評価値取得処理フローチャート。 実施形態1の情報処理装置内で行われる露出設定決定処理フローチャート。 実施形態1の情報処理装置内で行われる類似画素マップ更新処理フローチャート。 実施形態2の情報処理装置内で行われる全体処理のフローチャート。 実施形態2の情報処理装置内で行われる類似画素マップ作成処理フローチャート。
以下、本発明の実施形態を、図面を参照して詳細に説明する。なお、以下の実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。実施形態の構成は、本発明が適用される装置の仕様や各種条件(使用条件、使用環境等)によって適宜修正又は変更され得る。本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されない。また、後述する各実施形態の一部を適宜組み合わせて構成してもよい。
実施形態1
本発明の実施形態1に係るカメラシステムは、まず、目的とする被写体(オブジェクト)が映った第1の画像に対し、ユーザが指定した被写体候補領域から被写体領域を決定する。そして、カメラシステムは、第1の画像の被写体領域の輝度値に類似する値を有する領域を特定することを目的として、被写体領域以外の背景領域に第1の画像の被写体領域の輝度値に対する類似度を画素単位でマッピングした類似画素マップを取得する。カメラシステムは、その後取得した、露出調整対象の第2の画像のうち、類似画素マップから得られる領域の輝度値を評価対象の輝度値(輝度評価値)として取得する。そして、輝度評価値が所定の輝度となるように露出調整(露出制御)を行う。本実施形態では、輝度は256階調で表現されるとする。輝度の中間値は128となり、最大値は255となる。
<カメラシステムの構成>
図1は、本発明の実施形態に係るカメラシステム1の構成を示すブロック図である。
カメラシステム1は、撮像装置10と、ネットワーク20と、情報処理装置30とを有する。撮像装置10と情報処理装置30は、ネットワーク20を介して通信可能である。ネットワーク20は、有線でも無線でもよい。
撮像装置10は、画像(静止画像、動画)を撮像する装置であり、撮像装置10で撮像した画像の信号(以下、「画像信号」と称する)はネットワーク20を介し情報処理装置30へ送信される。また撮像装置10は、情報処理装置30から露出制御信号を受信し、露出設定を決定・変更する。撮像装置10は、例えば、ネットワークカメラである。本実施形態では、撮像装置10は、画像として静止画像を情報処理装置30に送信するとする。
情報処理装置30は、撮像装置10から画像信号を受信する。この画像信号の画像には、目的となる被写体(以下の記載において、単に「被写体」と称することや「所定の被写体」と称することもある)が映っているとする。本実施形態では、この画像信号を第1の画像信号と称する。情報処理装置30は、受信した第1の画像信号の画像内に被写体領域を決定する。そして、情報処理装置30は、被写体領域の輝度値に対する類似度を背景領域に画素単位でマッピングした類似画素マップを作成する。つまり、情報処理装置30は、被写体領域の輝度値に類似する輝度値を有する領域を、被写体領域以外の背景領域から特定する。なお、被写体が写っている画像(第1の画像信号)は、撮像装置10がすでに撮像した画像の中から、ユーザが予め選択した画像でもよい。
情報処理装置30は、第1の画像信号の後に第2の画像信号を撮像装置10から受信すると、第2の画像信号のうち類似画素マップによって特定された領域の輝度値(輝度評価値)を取得し、輝度評価値が所定の輝度値となる露出設定(露出調整)を決定する。そして、情報処理装置30は、撮像装置10に当該露出設定で撮像を行わせるための露出制御信号(露出調整信号)を、撮像装置10へ送信する。情報処理装置30は、撮像装置10に露出制御信号を送信するので、撮像制御装置と称してもよい。情報処理装置30は、例えば、パーソナルコンピュータ、タブレット端末、スマートフォンなどである。
<撮像装置と情報処理装置の構成>
図2は撮像装置10および情報処理装置30の構成を示すブロック図である。
撮像装置10は、図2に示すように、撮像部11と、CCDコントローラ12と、I/F部13とを備える。I/FはInterfaceの略である。撮像部11はCCDコントローラ12に接続されており、CCDコントローラ12はI/F部13に接続されている。I/F部13は撮像部11とネットワーク20に接続されている。CCDはCharge Coupled Deviceの略である。
撮像部11は、レンズ111と、絞り112と、CCD113を備える。CCD113は、レンズ111および絞り112を通過した入射光を受け入射光に応じた検出信号を出力する。
CCDコントローラ12は、撮像部11を制御する。つまり、撮像部11は、CCDコントローラ12の制御の下で、画像を撮像する。
I/F部13は、情報処理装置30からネットワーク20を介して送信された露出調整信号を受信し、露出調整信号をCCDコントローラ12に送信する。
情報処理装置30は、I/F部31と、CPU32と、入力部33と、記憶部34と、データバス35を備えている。CPUはCentral Processing Unitの略である。I/F部31、CPU32、入力部33および記憶部34は、データバス35に接続されており、相互に信号の送受信を行うことができる。
I/F部31はネットワーク20に接続されており、撮像装置10から画像信号を受信する。I/F部31は、受信した画像信号をカメラシステム1で扱うフォーマットの画像データに変換し、当該画像データをデータバス35を介して記憶部34に送信する。記憶部34は、当該画像データを記憶する。
CPU32は、記憶部34に記憶されたプログラムに従って、記憶部34に記憶された画像データの解析を行う。画像データを解析した結果として、CPU32は、例えば撮像装置10の撮影視野内の輝度値などの情報を取得する。そしてCPU32は、当該情報を記憶部34に送信し、記憶部34は当該情報を記憶する。
入力部33は、キーボードやマウスなどにより構成されている。ユーザは、入力部33を操作することで、各種のコマンド、データおよび対応表を情報処理装置30に入力することができる。本実施形態では、入力部33は表示部を含んでいるとする。ユーザは表示部に表示されたタッチパネルを用いてコマンドなどを入力することもできる。また、ユーザは、表示部に表示された画像内に、被写体候補領域を指定することができる。入力部207は、操作部と称してもよい。
記憶部34は、各処理を実行する際に一時的に若しくは恒久的に情報を格納しておくために使用される。例えば、記憶部34は、撮像装置10から送信されてくる画像を記憶する。また、記憶部34は、輝度評価値と露出設定の対応表を記憶する。さらに、記憶部34は、撮像装置10の撮像方向を制御するための制御パラメータ等を記憶してもよい。記憶部34は、記憶する情報の種類に応じて、第1記憶領域、第2記憶領域、第3記憶領域などを備える。
第1の画像がユーザにより予め選択(用意)されたものである場合、第1の画像は記憶部34に記憶されているとする。
また、記憶部34は、各種パラメータや、CPU32が実行するプログラム格納領域、プログラム実行中のワーク領域等として使用され得る。記憶部34は、例えば、ROM、RAM、HDD、フラッシュメモリまたは着脱可能なSDカードなどの記憶媒体により構成される。ROMはRead Only Memoryの略である。RAMはRandom Access Memoryの略である。HDDはHard Disk Driveの略である。
なお、撮像装置10および情報処理装置30は、図2に示した以外の要素を含んでもよい。例えば、撮像装置10は、表示部、収音部およびパンチルトズーム駆動部などを有してもよい。情報処理装置30は、音声出力部などを有してもよい。
<情報処理装置による処理>
情報処理装置30内で行われる処理を、図3および図4を用いて説明する。図3は、情報処理装置30内で行われる処理の全体を示すフローチャートである。図4(A)~(G)は、図3の各処理により得られる処理結果の一例を示している。図3の各処理は、CPU32が記憶部34からプログラムを読み出して実行することにより行われる。SはStepの略である。
S1において、情報処理装置30は、所定の被写体が映った第1の画像を取得する。図4(A)は第1の画像の例を示している。図4(A)において、光源は例えば太陽であり、被写体は人物である。人物は、2枚の透明ガラスの手前に立っているとする。人物の手前側は室内であり、室内に照明はないとする。撮像装置10は、室内から人物を撮像しているとする。人物の左手前に、立方体の物体がある。つまり、撮像装置10は、逆光の状態で、人物を撮像している。光源から見ると、立方体の背面には光源からの光が当たらないので、立方体の背面は黒で示されている。室内の壁および床は、光源からの光により、黒より少し明るい色で示されている。
S2において、情報処理装置30は、入力部33を使用してユーザが指定(設定)した被写体候補領域に基づいて、第1の画像に被写体候補領域を設定する。図4(B)は被写体候補領域の例を示している。図4(B)において、破線で示された矩形の領域が被写体候補領域である。被写体候補領域を指定する際、ユーザは、被写体候補領域内に被写体が含まれるようにする。そして、情報処理装置30は、被写体候補領域の中から被写体領域を決定する。図4(C)は、被写体領域の例を示している。図4(C)において、白抜きの形状が被写体領域である。被写体領域決定処理については、図5を用いて後述する。
S3において、情報処理装置30は、S2で決定した被写体領域の輝度値に対する類似度を、被写体領域以外の背景領域に画素単位でマッピングした類似画素マップを作成する。図4(D)は類似画素マップの例を示している。被写体領域は図4(C)で白領域である。被写体領域以外の背景領域において、被写体の輝度値に類似した輝度値を有しているのは立方体の背面である。図4(D)では、類似度が高い領域ほど白色に近い表現がなされている。例えば、立方体の背面の領域は類似度が高いため白になっている。被写体と最も異なる輝度情報(輝度値)を有しているのは、透明ガラス部分なので、図4(D)において透明ガラス部分は黒になっている(類似度が低い)。室内の壁および床は、グレーで示されている。図4(D)において被写体領域は黒とする。本実施形態では、類似度が高い白色領域から輝度評価値が抽出される。類似画素マップ作成処理については、図6を用いて後述する。図4(D)の類似画素マップは、2値化する前の状態を示している。
S4において、情報処理装置30は、撮像装置10から新たな画像(第2の画像)を取得したかを判定する。S4の判定結果がYesの場合、S5に進む。図4(E)は第2の画像の例を示している。図4(E)の画像には、人物がいない。本実施形態では、つまり、撮像装置10が第1の画像を撮像した後に、人物が撮像範囲の外に移動し、撮像装置10が第2の画像を撮像した場合を想定している。S4の判定結果がNoの場合、処理を終了する。
S5において、情報処理装置30は、直近の類似画素マップ作成から所定時間が経過したかを判定する。S5の判定結果がYesの場合、S6に進む。S5の判定結果がNoの場合、S7に進む。
S6において、情報処理装置30は、類似画素マップを更新する。具体的には、情報処理装置30は、新たに第1の画像を撮像装置10から取得し、当該第1の画像から新しい類似画素マップを作成する。類似画素マップの更新については、図9を用いて後述する。本実施形態では、S5において、直近の類似画素マップ作成から所定時間が経過していると判定された場合、現在使用している類似画素マップを使用しない方が良いと考えられるので、S6において類似画素マップを更新している。例えば、所定時間が経過すると、光源(太陽)の位置が変化し、撮像装置10の撮像範囲内における明るさが変化するので、類似画素マップを更新することになる。
S7において、S4で取得した第2の画像と、S3で取得した類似画素マップもしくはS6で更新した類似画素マップとに基づいて、輝度評価値を取得する。輝度評価値取得処理については、図7を用いて後述する。
S8において、情報処理装置30は、S7で取得した輝度評価値に基づいて最適な露出設定を取得(決定)し、決定した露出設定に対応する露出調整信号を撮像装置10に送信する。S8の露出調整後に、撮像装置10が撮像した画像は、例えば、図4(F)のような画像になる。よって、被写体を適切な露出で撮像することができる。露出設定決定処理については、図8を用いて後述する。
本実施形態では、S8の後、S4に戻り、撮像装置10から画像を得られなくなるまでS4~S8を繰り返す。例えば、図4(F)の撮像の後に、第1の画像において指定された被写体領域付近に人物が入ってきた場合は、図4(G)のような画像が撮像される。この場合も、人物(被写体)を適切な露出で撮像することができる。図4(G)のような画像ならば、被写体である人物の顔が判別・認識できる。
以下に、図3に示した各処理の詳細を説明する。
<被写体領域決定処理>
図5は、図3のS2の処理内容を説明するフローチャートであり、情報処理装置30内で行われる被写体領域決定処理の詳細を示している。
S11において、情報処理装置30は、露出を合わせたい被写体が映った画像(第1の画像)を取得する。
S12において、ユーザは、S11で取得した画像内に、入力部33を使用して被写体候補領域を矩形で指定する。情報処理装置30は、ユーザが指定した被写体候補領域に基づいて、画像内に被写体候補領域を設定する。
S13において、情報処理装置30は、矩形内の輝度値を一列に並べ、昇順にソートすることにより、輝度値リストを取得する。
S14において、情報処理装置30は、輝度値リストから輝度値の中央値を取得する。
S15において、情報処理装置30は、S14で取得した中央値が、輝度値の取り得る値範囲の中間(256階調なので128)未満かを判定する。S15の判定結果がYesの場合、S17に進む。S15の判定結果がNoの場合、S16に進む。
S16において、情報処理装置30は、S11で取得した画像の各画素の輝度値を、輝度値の取りうる値範囲の最大値(256階調なので255)から減算し、輝度値を反転させる。
S17において、情報処理装置30は、もしS16を経由しているならS16で取得した画像を用い、S12で指定した矩形内の各画素の輝度値がS14で取得した中央値未満であれば最大値(255)に置き換える。情報処理装置30は、もしS16を経由していないならばS11で取得した画像を用い、S12で指定した矩形内の各画素の輝度値がS14で取得した中央値未満であれば最大値(255)に置き換える。
S18において、情報処理装置30は、S17で取得した画像に対し、S12で指定した矩形内の各画素の輝度値がS14で取得した中央値以上であれば画素の輝度値を最小値(256階調なので0)に置き換える。
S19において、情報処理装置30は、S18で取得した画像に対し、S12で指定した矩形外の各画素の輝度値を、輝度値の最小値(0)に置き換える。
S11~S19の処理により、被写体領域の画素輝度値が、輝度値範囲の最大値(255)となり、それ以外の領域の画素輝度値が輝度値範囲の最小値(0)となった被写体領域マスク画像(図4(C)の被写体領域に対応する画像)を取得できる。
なお、図5の被写体領域決定方法は一例であって、この方法に限定されない。例えば、公知の被写体領域検出アルゴリズムにより被写体領域を検出し、検出された被写体領域を本実施形態で使用する被写体領域として採用してもよい。
図6は、図2のS3の処理内容を説明するフローチャートであり、情報処理装置30内で行われる類似画素マップ作成処理の詳細を示している。本実施形態では、類似画素マップを作成する際に、輝度ヒストグラムを用いる。
S21において、情報処理装置30は、類似画素マップの作成に用いる輝度ヒストグラムで使用する区間幅wに区間幅初期値w0をセットする。
S22において、情報処理装置30は、S2で取得した被写体領域の輝度値から、区間幅wのヒストグラムH1を作成する。
S23において、情報処理装置30は、被写体領域以外の背景領域の輝度値から、区間幅wのヒストグラムH2を作成する。
S24において、情報処理装置30は、S22で取得したヒストグラムH1の各区間を、S23で取得したヒストグラムH2の各区間で除算し、ヒストグラムH3を取得する。
S25において、情報処理装置30は、背景領域に十分な類似画素マップが存在するかを判断するための指標として、S23で取得したヒストグラムH2の各区間の高さにS24で取得したヒストグラムH3の該当する区間の高さを乗算したものの総和(合計)aを算出する。
S26において、情報処理装置30は、S25で取得した総和aが閾値未満かを判定する。つまり、S26において、情報処理装置30は、背景領域の輝度ヒストグラムが表す輝度類似度の合計が所定値未満かを判定する。S26の判定結果がYesの場合、S27に進む。S26の判定結果がNoの場合、S29に進む。
S27において、情報処理装置30は、区間幅wが閾値未満かどうかを判定する。S27の判定結果がYesの場合、S28に進む。S27の判定結果がNoの場合、S29に進む。
S28において、情報処理装置30は、区間幅wに区間幅加算値dwを加算する。つまり、背景領域の輝度ヒストグラムが表す輝度類似度の合計が所定値未満の場合、輝度ヒストグラムの区間幅を広げる。S28の後、S22に戻る。
S29において、情報処理装置30は、画像の背景領域の各画素の輝度値を取得する。
S30において、情報処理装置30は、S29で取得した画素ごとの輝度値それぞれに対し、ヒストグラムH3から該当する区間を見つけ、その区間の高さ値を取得する。
S31において、情報処理装置30は、S30で取得した画素ごとの区間高さ値を対応する画素にマッピングした類似画素マップを作成する。
S32において、情報処理装置30は、類似画素マップの二値化を行う。二値化により、類似画素マップは1の領域と0の領域(真の値の領域と偽の値の領域)とを有するようになる。
なお、S32は必須ではなく、類似度の高い領域を特定できればよい。例えば二値化を行わずに図4(D)に示すような類似画素マップをそのまま輝度評価値の取得処理(S7)に用いてもよい。
また、図6の類似画素マップ作成方法は一例であって、この方法に限定されない。例えば、第1の画像の被写体領域内の輝度値の中央値を代表輝度値とし、代表輝度値を中心とした所定の範囲に収まる輝度値を背景領域から探し出し、該当する画素に真を入力し、該当しない画素に偽を入力して類似画素マップを作成してもよい。
<輝度評価値取得処理>
図7は図2のS7の処理内容を説明するフローチャートであり、情報処理装置30内で行われる輝度評価値取得処理の詳細を示している。
S41において、情報処理装置30は、撮像装置10から第2の画像を取得する。
S42において、情報処理装置30は、S3もしくはS6で取得した類似画素マップ内の真の値の領域についてのみ(つまり、0以外の領域のみ)、第2の画像から輝度値を収集する。
S43において、情報処理装置30は、S42で収集した輝度値の平均値を算出し、当該平均値を輝度評価値とする。
なお、図7の輝度評価値取得処理は一例であって、この方法に限定されない。例えば、類似画素マップの画素輝度値を重みとした第2の画像の加重平均輝度値を輝度評価値としてもよい。
<露出設定決定処理>
図8は、図2のS8の処理内容を説明するフローチャートであり、情報処理装置30内で行われる露出設定決定処理の詳細を示している。
S51において、情報処理装置30は、S7で取得した輝度評価値を用いて、記憶部34に記憶されている輝度評価値と露出設定の対応表を参照し、該当した露出設定を取得する。
S52において、情報処理装置30は、S51で取得した露出設定を、露出制御信号として撮像装置10に送信する。撮像装置10は受信し露出制御信号に従い露出設定(決定、変更)を行う。
なお、上記の露出設定決定処理は一例であり、他の手法により露出設定を決定してもよい。例えば、輝度評価値が所定の輝度値になるまで、露出設定を変更し続けてもよい。
<類似画素マップ更新処理>
図9は図2のS6の処理内容を説明するフローチャートであり、情報処理装置30内で行われる類似画素マップ更新処理の詳細を示している。
S61において、情報処理装置30は、前回の類似画素マップ更新から所定時間経過したかを判定する。所定時間は、例えば、10分である。S61の判定結果がYesの場合、S62に進む。S27の判定結果がNoの場合、S61に戻る。
S62において、情報処理装置30は撮像装置10から撮像画像を取得する。S62では、被写体が映っている画像を撮像装置10から受信・取得しているので、図9の処理は、所定時間ごとに、新たに第1の画像を撮像装置10から取得していると言える。
S63において、情報処理装置30は、S62で取得した画像から被写体を検出したかを判定する。S63の判定結果がYesの場合、S64に進む。S63の判定結果がNoの場合、S62に戻り、新たな撮像画像の取得を行う。
S64において、情報処理装置30は、S3の類似画素マップ作成処理を実行する。つまり、S64により、S7の輝度評価値取得処理で用いられる類似画素マップが更新される。
<実施形態1の効果>
以上説明したように、本実施形態のカメラシステム1によれば、目的とする被写体(オブジェクト)が検出できるかどうかに関わらず、被写体に適した露出調整をすることができる。そのため、撮像画像ごとに露出設定を変更する方式に比べ、被写体を迅速に適正露出で撮像することができ、被写体の撮像し損なう機会を減らすことができる。本実施形態によれば、類似画素マップを更新することにより、光源の位置や明るさが変わったとしても、被写体撮像に適した露出調整を行うことができる。
実施形態2
実施形態1では、1枚の第1の画像から類似画素マップを作成する例を説明した。しかし、1枚の画像から類似画素マップを作成する際、被写体領域の輝度値に対して、風で動く木々など背景領域の動体領域の輝度値がたまたま類似するケースがある。その場合、第2の画像の際には、第1の画像の被写体領域の輝度値と動体領域の輝度値との類似度が継続しない可能性がある。そのため、第2の画像では適切な露出調整ができない可能性がある。当該可能性を低減するために、実施形態2では、目的となる被写体が映った動画を用いて、当該動画を構成するフレーム画像に対する類似画素マップを平均化して用いる。なお、本実施形態の説明において、実施形態1と同様な構成や処理には同じ参照符号を付けて、説明を省略する場合がある。
<カメラシステム、撮像装置および情報処理装置の構成>
実施形態2に係るカメラシステム1、撮像装置10および情報処理装置30の構成は、実施形態1の図1および図2と同じであるため、説明を省略する。
<情報処理装置による処理>
図10は、実施形態2の情報処理装置30内で実行される処理の全体を示すフローチャートである。
S71において、情報処理装置30は、複数フレームからなる動画から類似画素マップを作成する。S71の詳細は図11を用いて説明する。S71の後、S4に進む。
図10のS4~S8の処理は、図3と同じため説明を省略する。
図11を参照して、動画から類似画素マップを作成する処理を説明する。
S81において、情報処理装置30は、撮像装置10から目的の被写体が映った動画の入力を受け取る。つまり、情報処理装置30は、被写体が写った動画を撮像装置10から受信して、例えば、記憶部34の第1記憶領域に記憶する。
S82において、情報処理装置30は、動画を構成するフレーム画像を1つずつ取得する。フレーム画像は、CPU31が動画を記憶部34の第1記憶領域から読み出され、記憶部34の第2記憶領域に記憶する(読み込む)ことにより行われる。
S83において、情報処理装置30は、全てのフレーム画像が記憶部34の第1記憶領域から無くなったかを判定する。S83の判定結果がYesの場合、S87に進む。つまり、全てのフレーム画像が記憶部34の第2記憶領域に読み込まれた場合、S87に進む。S83の判定結果がNoの場合、S84に進む。
S84において、情報処理装置30は、S82で読み込んだフレーム画像から、公知の被写体領域検出方法によって被写体領域を決定する。実施形態1と同様にユーザが被写体領域を指定してもよい。
S85において、情報処理装置30は、S3と同様に類似画素マップ作成処理を実行する。
S86において、情報処理装置30は、S85で作成した類似画素マップを記憶部34の第3記憶領域に保存する。S86の後、S82に戻る。
S82において、情報処理装置30は、次のフレーム画像を第1記憶領域から取得する(読み込む)。S82~S86の処理は、全てのフレーム画像が記憶部34の第1記憶領域から無くなるまで繰り替えされる。そして、全てのフレーム画像が記憶部34の第1記憶領域から無くなったならば、S83の判定結果がYesになるので、S87に進む。S83の判定結果がYesになる時点において、記憶部34の第3記憶領域には複数の類似画素マップが保存されている。
S87において、情報処理装置30は、複数のフレームに対応する複数の類似画素マップの各画素の類似度を画素ごとに平均し、1枚の類似画素マップを作成する。
<実施形態2の効果>
以上説明したように、実施形態2のカメラシステム1によれば、実施形態1と同様に、被写体に適した露出調整を迅速に行うことができ、被写体の撮像し損なう機会を減らすことができる。さらに、実施形態2のカメラシステム1によれば、風で動く木々など背景領域の動体領域の輝度値と、被写体領域の輝度値との類似度が高いと判断することが少なくなる。そのため、実施形態1よりも正確に露出調整を行うことができる。
なお、上記した説明では、情報処理装置30は撮像装置10から動画を受信し、当該動画を用いて、類似画素マップを平均化したが、情報処理装置30は撮像装置10から複数の静止画(第1の画像)を受信し、複数の類似画素マップを作成して平均化してもよい。また、図11のS84は図3のS2と同じ処理にしてもよい。
図1および図2には1つのネットワーク20が描かれているが、撮像装置10と情報処理装置30は、複数のネットワークを介して接続されてもよい。
図1および図2では、情報処理装置30と撮像装置10が別々の装置として示されているが、情報処理装置30を撮像装置10内に組み込んでもよい。この場合、撮像装置10は、情報処理装置30の機能を内蔵する撮像装置となり、情報処理装置側ではユーザが指定した第1の画像内の被写体領域の位置およびサイズ情報を撮像装置10側に送信することになる。
また、第2の画像には、図4(G)に示すように、第1の画像の被写体領域付近に被写体が撮影されるが、それらに最適な露出が制御できることになる。
図2に示した撮像装置10および情報処理装置30の構成は一例であり、機能モジュールの一部はハードウェアによって実現されてもよい。ハードウェアにより実現される場合、例えば、所定のコンパイラを用いることで、各機能モジュールの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてGate Array回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1:カメラシステム、10:撮像装置、11:撮像部、20:ネットワーク、30:情報処理装置、31:I/F部、32:CPU、33:入力部、34:記憶部

Claims (8)

  1. 撮像部の露出を制御する撮像制御装置であって、
    前記撮像部により撮像された第1の画像から特定の被写体を含む被写体領域を決定する決定手段と、
    前記決定手段により決定した被写体領域の輝度ヒストグラムと、前記被写体領域以外の領域の輝度ヒストグラムとに基づいて、前記第1の画像において、前記被写体領域の輝度値と類似する輝度値を有する領域を取得する取得手段と、
    前記撮像部により撮像された第2の画像における前記取得手段によって取得された領域の輝度値に基づいて、前記撮像部の露出を調整する調整手段と、
    を有し、
    前記取得手段は、前記被写体領域以外の領域の輝度ヒストグラムが表す輝度類似度の合計が所定値未満の場合、前記輝度ヒストグラムの区間幅を広げることを特徴とする撮像制御装置。
  2. 撮像部の露出を制御する撮像制御装置であって、
    前記撮像部により撮像された第1の画像から特定の被写体を含む被写体領域を決定する決定手段と、
    前記第1の画像において、前記被写体領域の輝度値と類似する輝度値を有する領域を取得する取得手段と、
    前記撮像部により撮像された第2の画像における前記取得手段によって取得された領域の輝度値に基づいて、前記撮像部の露出を調整する調整手段と、
    を有し、
    前記取得手段は、前記被写体が映っている動画を前記撮像部から取得した場合、前記動画の複数のフレーム画像の背景領域のそれぞれについて、前記被写体領域の輝度値に対する類似度を平均化することにより前記類似する輝度値を有する領域を取得することを特徴とする撮像制御装置。
  3. 前記決定手段は、所定時間ごとに、前記被写体が映っている第1の画像を取得し、当該第1の画像から被写体領域を決定することを特徴とする請求項1または2に記載の撮像制御装置。
  4. 前記調整手段は、調整後の前記領域の輝度値が所定値になるまで、前記露出を調整することを特徴とする請求項1~のいずれか1項に記載の撮像制御装置。
  5. 前記取得手段は、前記第1の画像の画素ごとの輝度値に基づいて、前記被写体領域の輝度値と類似する輝度値を有する領域を取得することを特徴とする請求項1~のいずれか1項に記載の撮像制御装置。
  6. 請求項1~のいずれか1項に記載の撮像制御装置と、
    前記撮像制御装置により露出制御される撮像部と、
    を備える撮像装置。
  7. 撮像部の露出を制御する撮像制御方法であって、
    前記撮像部により撮像された第1の画像から特定の被写体を含む被写体領域を決定するステップと、
    前記決定するステップにより決定した被写体領域の輝度ヒストグラムと、前記被写体領域以外の領域の輝度ヒストグラムとに基づいて、前記第1の画像において、前記被写体領域の輝度値と類似する輝度値を有する領域を取得するステップと、
    前記撮像部により撮像された第2の画像における前記取得するステップによって取得された領域の輝度値に基づいて、前記撮像部の露出を調整するステップと、
    を有し、
    前記取得するステップは、前記被写体領域以外の領域の輝度ヒストグラムが表す輝度類似度の合計が所定値未満の場合、前記輝度ヒストグラムの区間幅を広げることを特徴とする撮像制御方法。
  8. コンピュータを、請求項1~のいずれか1項に記載の撮像制御装置の各手段として機能させるためのプログラム。
JP2019168252A 2019-09-17 2019-09-17 撮像制御装置および撮像制御方法 Active JP7475830B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019168252A JP7475830B2 (ja) 2019-09-17 2019-09-17 撮像制御装置および撮像制御方法
US17/019,014 US11388346B2 (en) 2019-09-17 2020-09-11 Image capturing control apparatus and image capturing control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019168252A JP7475830B2 (ja) 2019-09-17 2019-09-17 撮像制御装置および撮像制御方法

Publications (3)

Publication Number Publication Date
JP2021048441A JP2021048441A (ja) 2021-03-25
JP2021048441A5 JP2021048441A5 (ja) 2022-09-15
JP7475830B2 true JP7475830B2 (ja) 2024-04-30

Family

ID=74869967

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019168252A Active JP7475830B2 (ja) 2019-09-17 2019-09-17 撮像制御装置および撮像制御方法

Country Status (2)

Country Link
US (1) US11388346B2 (ja)
JP (1) JP7475830B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008054115A (ja) 2006-08-25 2008-03-06 Samsung Electronics Co Ltd 撮像装置及び撮像方法
JP2011028348A (ja) 2009-07-22 2011-02-10 Secom Co Ltd 対象物検知装置
JP2018142948A (ja) 2017-02-28 2018-09-13 パナソニックIpマネジメント株式会社 撮像装置、軸重計測システム、および撮像方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5148989B2 (ja) * 2007-12-27 2013-02-20 イーストマン コダック カンパニー 撮像装置
JP6077853B2 (ja) * 2012-12-21 2017-02-08 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体
EP2940893B1 (en) * 2012-12-27 2021-05-19 Panasonic Intellectual Property Corporation of America Information communication method
JP6265602B2 (ja) 2013-01-29 2018-01-24 株式会社日立国際電気 監視カメラシステム、撮像装置及び撮像方法
EP3054664B1 (en) * 2013-09-30 2022-06-29 Nikon Corporation Electronic device, method for controlling electronic device, and control program
WO2018018514A1 (en) * 2016-07-28 2018-02-01 SZ DJI Technology Co., Ltd. Target-based image exposure adjustment

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008054115A (ja) 2006-08-25 2008-03-06 Samsung Electronics Co Ltd 撮像装置及び撮像方法
JP2011028348A (ja) 2009-07-22 2011-02-10 Secom Co Ltd 対象物検知装置
JP2018142948A (ja) 2017-02-28 2018-09-13 パナソニックIpマネジメント株式会社 撮像装置、軸重計測システム、および撮像方法

Also Published As

Publication number Publication date
JP2021048441A (ja) 2021-03-25
US20210084211A1 (en) 2021-03-18
US11388346B2 (en) 2022-07-12

Similar Documents

Publication Publication Date Title
KR101640875B1 (ko) 물체 검출 장치
KR101431601B1 (ko) 카메라 프로세서에서의 얼굴 추적
US8917332B2 (en) Image capturing apparatus, image processing apparatus and method, and program therefor
KR101926490B1 (ko) 이미지 처리 장치 및 방법
US8472671B2 (en) Tracking apparatus, tracking method, and computer-readable storage medium
CN111402135A (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
CN110766621B (zh) 图像处理方法、装置、存储介质及电子设备
JP2006259900A (ja) 画像処理システム、画像処理装置および方法、記録媒体、並びにプログラム
JP2009177272A (ja) 撮像装置、その制御方法およびプログラム
KR101548183B1 (ko) 화상처리장치 및 그 제어 방법
CN106604005A (zh) 一种投影电视自动对焦方法及***
CN110717871A (zh) 图像处理方法、装置、存储介质及电子设备
CN102404495A (zh) 数字相机的拍摄参数的调整方法
WO2013114803A1 (ja) 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム
CN110365897B (zh) 图像修正方法和装置、电子设备、计算机可读存储介质
JP5395650B2 (ja) 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム
CN108401109B (zh) 图像获取方法、装置、存储介质及电子设备
KR101941266B1 (ko) 초저조도용 cctv 영상 제공 시스템
JP7475830B2 (ja) 撮像制御装置および撮像制御方法
CN113691735A (zh) 一种摄像机及红外光补光方法、装置
JP2008299591A (ja) 画像処理装置
US11575841B2 (en) Information processing apparatus, imaging apparatus, method, and storage medium
JP2011134019A (ja) 画像処理装置及びその制御方法
JP6525723B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
CN108335278B (zh) 图像的处理方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220907

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220907

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240417

R150 Certificate of patent or registration of utility model

Ref document number: 7475830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150