JP7279613B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP7279613B2
JP7279613B2 JP2019198665A JP2019198665A JP7279613B2 JP 7279613 B2 JP7279613 B2 JP 7279613B2 JP 2019198665 A JP2019198665 A JP 2019198665A JP 2019198665 A JP2019198665 A JP 2019198665A JP 7279613 B2 JP7279613 B2 JP 7279613B2
Authority
JP
Japan
Prior art keywords
tone curve
image
luminance
value
tone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019198665A
Other languages
English (en)
Other versions
JP2021071955A (ja
Inventor
禅 越坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2019198665A priority Critical patent/JP7279613B2/ja
Priority to US17/083,654 priority patent/US11367168B2/en
Publication of JP2021071955A publication Critical patent/JP2021071955A/ja
Application granted granted Critical
Publication of JP7279613B2 publication Critical patent/JP7279613B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本開示は、画像処理装置に関する。
例えば、下記特許文献1には、カメラを用いて撮像した撮像画像に対して、輝度補正を行う、という技術が開示されている。
特開2016-111475号公報
輝度補正を行うことにより、対象画像の明度、コントラスト等が補正される。輝度補正においては、輝度の入力と出力との関係を示したトーンカーブが用いられる。上述の従来技術では、輝度補正を行う際に、輝度の入出力関係が予め定められたトーンカーブが用いられる。
しかしながら、発明者の詳細な検討の結果、上述の従来技術では、トーンカーブの入出力関係が固定されているため、撮像シーンに応じて適正な補正画像を得ることができない、という課題が見出された。
本開示は、撮像シーンに応じて適正な補正画像を得ることができる画像処理装置を提供する。
本開示の1つの局面は、画像処理装置(12)である。画像処理装置は、画像取得部(31、S1)と、ヒストグラム生成部(32、S2)と、画像補正部(35、S7)と、を備える。画像取得部は、車両に搭載されたカメラから撮像画像を取得するように構成される。ヒストグラム生成部は、撮像画像について、輝度と画素数との関係を表すヒストグラムを生成するように構成される。画像補正部は、撮像画像における輝度と画素数との関係を撮像画像のヒストグラムに基づいて補正するための補正用トーンカーブ、を生成し、補正用トーンカーブを用いて撮像画像を補正して補正画像を生成するように構成される。補正用トーンカーブは、輝度の入力値と出力値との関係を示すトーンカーブである。
撮像画像のヒストグラムは撮像シーンに応じて異なる。本開示の1つの局面によれば、 画像処理装置は、撮像画像のヒストグラムに基づいて補正用トーンカーブを生成し、補正用トーンカーブを用いて撮像画像における輝度の補正を行う。そのため、撮像画像の撮像シーンに応じた補正用トーンカーブで輝度の補正を行うことができる。即ち、撮像シーンに応じた適正な補正画像を得ることができる。
画像処理システムの構成を示すブロック図。 画像処理装置の機能を示すブロック図。 画像生成処理のフローチャート。 線形トーンカーブの例を説明する説明図。 対数トーンカーブの例を説明する説明図。 平坦化トーンカーブの例を説明する説明図。 補正処理のフローチャート。 合成割合処理のフローチャート_1/2。 合成割合処理のフローチャート_2/2。 分布平均値情報の例を示す説明図。 分布幅情報の例を示す説明図。 頂上輝度情報の例を示す説明図。 補正用(すなわち、合成)トーンカーブの例を説明する説明図。 第1シーン及び第2シーンのヒストグラムにおける分布平均値の例を示す説明図。 第3シーン及び第4シーンのヒストグラムにおける分布幅の例を示す説明図。 第5シーン及び第6シーンのヒストグラムにおける頂上輝度差の例を示す説明図。
以下、図面を参照しながら、本開示を実施するための例示的な形態を説明する。
[1.構成]
まず、本実施形態に係る画像処理装置12が適用される画像処理システム100の構成について、図1を参照して説明する。本実施形態に係る画像処理システム100は、車両に搭載されるシステムである。画像処理システム100は、車載カメラ11と、画像処理装置12と、を備える。画像処理システム100は、画像記録装置13と、車両制御装置14と、を備えてもよい。車載カメラ11、画像記録装置13及び車両制御装置14は、画像処理装置12に信号線で接続されている。
車載カメラ11は、例えば、車両前方の路面の所定範囲が撮像範囲となるように、例えば、前方のウィンドシールドに設置される。車載カメラ11は、予め設定された時間間隔で、例えば、毎秒60回繰り返し撮像する。そして、車載カメラ11は、撮像した画像をデジタル信号化して画像処理装置12へ出力する。なお、車載カメラ11の取付位置、車載カメラ11による撮像範囲、車載カメラ11による撮像周期は、任意に定められてよい。
画像記録装置13は、運転者の視野範囲内に、例えば前方のウィンドシールドに設置される。画像記録装置13は、画像処理装置12から出力される補正画像を記録または表示する。
車両制御装置14は、ECUであり、CPU、ROM、RAM、及びフラッシュメモリ等の半導体メモリを含むマイクロコンピュータを備える。車両制御装置14は、例えば、画像処理装置12から出力される補正画像に基づいて区画線を推定し、推定結果に基づいて警報出力制御や走行制御の走行支援を実行する。警報出力制御は、車両が車線を逸脱しそうな場合に警報の出力を実行する制御である。また、走行制御は、車線内を走行するように実行する車両の操舵の制御やブレーキの制御である。
画像処理装置12は、ECUであり、CPU21、ROM、RAM、及びフラッシュメモリ等の半導体メモリ(以下、メモリ)22を含むマイクロコンピュータを備える。画像処理装置12は、CPU21が非遷移有形記録媒体に格納されたプログラムを実行することにより、図2に示すような各機能を実現する。メモリ22が、コンピュータプログラムを格納する非遷移有形記録媒体に該当する。また、このコンピュータプログラムの実行により、コンピュータプログラムに対応する方法が実行される。
画像処理装置12は、図2に示すように、画像取得部31、ヒストグラム生成部32、基本トーンカーブ部33、画像補正部34、及び出力部35の機能を備える。
画像取得部31は、車載カメラ11により撮像された画像を取得する。なお、撮像画像は、各画素のデータとして赤色成分値、緑色成分値、及び青色成分値を有するカラー画像である。但し、撮像画像はいずれかの色成分値のみ、または白黒画像であってもよい。
ヒストグラム生成部32は、撮像画像に基づいて、撮像画像のヒストグラムを生成する。ヒストグラムとは、輝度毎の画素の画素数(以下、度数ともいう)を表すものである。輝度は画素値である。なお、カラー画像では、赤色成分、緑色成分、及び青色成分毎にヒストグラムが生成される。
基本トーンカーブ部33は、撮像画像のヒストグラムに基づいて、複数の基本トーンカーブを生成する。複数の基本トーンカーブは、特性の異なる、複数のトーンカーブである。本実施形態では、線形トーンカーブ、対数トーンカーブ、平坦化トーンカーブの3つのトーンカーブを基本トーンカーブとして生成する。
画像補正部34は、ヒストグラムの分布に基づいて、補正用トーンカーブを生成し、補正用トーンカーブに基づいて撮像画像の輝度補正を行う。補正用トーンカーブとは撮像画像の輝度補正を行うためのトーンカーブであり、複数の基本トーンカーブを基本トーンカーブ毎に決定された合成割合で合成することにより生成される。
出力部35は、補正像画像を出力する。補正画像とは、撮像画像を補正用トーンカーブによって補正した画像である。
なお、後述する画像生成処理において、S1が画像取得部31としての処理に相当し、S2がヒストグラム生成部32としての処理に相当し、S3-S6が基本トーンカーブ部33としての処理に相当する。また、S7が画像補正部34としての処理に相当し、S8が出力部35としての処理に相当する。
[2.処理]
[2-1.画像生成処理]
次に、画像処理装置12が実行する画像生成処理について、図3のフローチャートを用いて説明する。画像生成処理は、本実施形態では、車載カメラ11にて撮像画像が取得される毎に起動される。
画像処理装置12は、S1では、 車載カメラ11から撮像画像を取得する。以下、本ステップで取得した撮像画像を取得画像という。
画像処理装置12は、S2では、取得画像について、ヒストグラムを生成する。
画像処理装置12は、S3では、適用範囲を決定する。ここでいう適用範囲とは、取得画像において輝度補正を行う際の輝度の範囲をいう。適用範囲を決定するとは、ヒストグラムにおいて、最小の輝度である最小明るさと、最大の輝度である最大明るさと、を特定することをいう。最小明るさから最大明るさ迄の輝度の範囲が、基本トーンカーブが適用される適用範囲として決定される。
ここで、例えば、画像処理装置12は、取得画像のヒストグラムにおいて、輝度の上限値から所定の割合を除いた上限値を最大明るさとしてもよい。また例えば、上限値にメディアンフィルタ等のフィルタを用いて時間的な変化を平滑化してもよい。また例えば、取得画像に含まれる可能性のある物標毎に輝度の上限値が予め定められていてもよい。そして、画像処理装置12は、取得画像に含まれる物標を特定し、該物標について予め定められた輝度の上限値よりも明るい区間にヒストグラムが存在しても、該物標の輝度の上限値を最大明るさとして用いてもよい。
一方、例えば、画像処理装置12は、取得画像のヒストグラムにおいて、輝度の下限値から所定の割合を除いた下限値を最小明るさとしてもよい。また例えば、下限値にメディアンフィルタ等のフィルタを用いて時間的な変化を平滑化してもよい。また例えば、取得画像に含まれる可能性のある物標毎に輝度の下限値が予め定められていてもよい。そして、画像処理装置12は、取得画像に含まれる物標を特定し、該物標について予め定められた輝度の下限値よりも暗い区間にヒストグラムが存在しても、該物標の輝度の下限値を最小明るさとして用いてもよい。
画像処理装置12は、S4-S6では、取得画像のヒストグラムに応じて、複数の異なる基本トーンカーブを生成する。トーンカーブとは、輝度について入力値と出力値との関係を定めたものである。基本トーンカーブには、線形トーンカーブ、対数トーンカーブ、及び平坦化トーンカーブが含まれる。
画像処理装置12は、S4では、線形トーンカーブを生成する。線形トーンカーブとは、輝度の入力値と出力値との関係が線形で表されるトーンカーブである。線形トーンカーブの例を図4に示す。線形トーンカーブは、例えば、最大明るさを画素値の最大値(以下、最大画素値)とするように、(1)式で表される。nビットの画素値は0~2n-1で表され、2n-1が最大画素値に相当する。nは1以上の整数である。例えば、本実施形態では画素値は16ビットで表され得る。
Figure 0007279613000001
ここで、xは輝度の入力値であり、linear_out(x)は輝度の出力値であり、hist_maxは最大明るさであり、out_maxは、最大画素値である。線形トーンカーブによって、xがhist_maxのときのlinear_out(x)が最大画素値となる。
画像処理装置12は(1)式をメモリ22に記憶する。具体的には、画像処理装置12は、(1)式を記述するための各パラメータ(すなわち、hist_maxや最大画素値)を、メモリ22に記憶する。
画像処理装置12は、S5では、対数トーンカーブを生成する。対数トーンカーブとは、輝度の入力値と出力値との関係が対数で表されるトーンカーブである。対数トーンカーブの例を図5に示す。対数トーンカーブは、最大明るさを最大画素値、最小明るさを画素の最小値(以下、最小画素値)とするように、(2)式-(4)式で表される。
Figure 0007279613000002
ここで、xは輝度の入力値であり、log_out(x)は輝度の出力値であり、hist_maxは最大明るさであり、hist_minは最小明るさであり、out_maxは、最大画素値である。(2)式において、aは(3)式のように表され、bは(4)式のように表される。画像処理装置12は(2)式-(4)式をメモリ22に記憶する。具体的には、画像処理装置12は、(2)式-(4)式を記述するための各パラメータ(すなわち、hist_max、hist_min、最大画素値)を、メモリ22に記憶する。
画像処理装置12は、S6では、平坦化トーンカーブを生成する。平坦化トーンカーブとは、輝度の入力値と出力値との関係が、ヒストグラムの度数(すなわち、画素数)を平坦化するように対応付けられるトーンカーブである。平坦化トーンカーブの例を図6に示す。平坦化トーンカーブは、(5)式-(6)式のように表される。
Figure 0007279613000003
ここで、Hは、取得画像のヒストグラムのビンの分解能を表す予め定められた定数であり、メモリ22に予め記憶されている。out_maxは、最大画素値である。Hist_totalは、総画素数である。総画素数とは、取得画像における画素数の総和である。bin(i)は、ヒストグラムのビン毎の度数である。
画像処理装置12は(5)式-(6)式をメモリ22に記憶する。具体的には、画像処理装置12は、(5)式-(6)式を記述するための各パラメータ(すなわち、H、out_max、hist_total)を、メモリ22に記憶する。
画像処理装置12は、S7では、補正処理を実行する。補正処理は、補正用トーンカーブを取得画像のヒストグラムに基づいて生成し、補正用トーンカーブによって取得画像における輝度と画素数との関係を補正して補正画像を生成する処理である。補正処理の詳細は後述する。
画像処理装置12は、S8では、補正画像を画像記録装置13、車両制御装置14へ出力し、以上で画像生成処理を終了する。
[2-2.補正処理]
画像処理装置12が、画像生成処理のS7にて実行する補正処理について、図7に示すフローチャートを用いて説明する。
画像処理装置12は、S10では、複数の基本トーンカーブを取得する。つまり、線形トーンカーブと、対数トーンカーブと、平坦化トーンカーブと、を取得する。
画像処理装置12は、S20では、合成割合処理を実行する。合成割合処理は、複数の基本トーンカーブを合成して補正用トーンカーブを生成する際の、基本トーンカーブそれぞれの合成割合を、取得画像のヒストグラムに基づいて決定する処理である。合成割合とは、複数の基本トーンカーブを合成して合成トーンカーブ(すなわち、補正用トーンカーブ)を生成する際の、それぞれの基本トーンカーブの割合である。
なお、それぞれの基本トーンカーブの合成割合を全て加算した値は1である。つまり、線形トーンカーブの合成割合(以下、A値という)と、対数トーンカーブの合成割合(以下、B値という)と、平坦化トーンカーブの合成割合(以下、C値という)と、を全て加算した値は1である。合成割合処理の詳細は後述する。
画像処理装置12は、S30では、(7)式に示すように、S20にて決定された合成割合で複数の基本トーンカーブそれぞれを合成して合成トーンカーブを生成する。
Figure 0007279613000004
xは輝度の入力値であり、C_out(x)は合成トーンカーブによる輝度の出力値である。なお、合成トーンカーブの例を後述する図13に示す。
画像処理装置12は、S40では、合成トーンカーブを補正用トーンカーブとして用いて、取得画像における輝度と画素数との関係を補正して、補正画像を生成する。補正画像とは、補正用トーンカーブ(すなわち、合成トーンカーブ)を用いて、取得画像における輝度と画素数との関係が補正された画像である。以上で、画像処理装置12は補正処理を終了する。
[2-3.合成割合処理]
画像処理装置12が、補正処理のS20で実行する合成割合処理を、図8-図9のフローチャートを用いて説明する。合成割合処理は、ヒストグラムの分布平均値p、ヒストグラムの分布幅q、ヒストグラムにおいて輝度が離れた複数の山があるか否か、を検出し、検出結果に基づいて複数の基本トーンカーブそれぞれの合成割合を決定する。
ここで、分布平均値pとは、取得画像のヒストグラムにおいて、ヒストグラムの輝度とヒストグラムの画素数との積をヒストグラムのビン毎に計算して加算し総画素数で除算した値である。一方、分布幅qとは、取得画像のヒストグラムの輝度の幅である。つまり、分布幅qは、最大明るさと最小明るさとの輝度の差である。
また、輝度が離れた複数の山がある、とは、取得画像のヒストグラムにおいて、頂上輝度差rが所定値(すなわち、後述するRs1)以上であること、をいう。頂上輝度差rとは、低頂上輝度と高頂上輝度との差である。ここで、低頂上輝度とは、ヒストグラムの変化(すなわち、度数の変化)を最小ビンから辿ったときに度数が増加から減少に転じる、最も小さい輝度である。高頂上輝度とは、ヒストグラムの変化(すなわち、度数の変化)を最大ビンから辿ったときに度数が増加から減少に転じる、最も大きい輝度である。
画像処理装置12は、S100では、線形トーンカーブ、対数トーンカーブ、平坦化トーンカーブについて、合成割合の初期値を取得する。合成割合の初期値は、予めメモリ22に記憶されている。例えば、線形トーンカーブの合成割合(すなわち、A値)の初期値はA0であり、対数トーンカーブの合成割合(すなわち、B値)の初期値はB0であり、平坦化トーンカーブの合成割合の初期値(すなわち、C値)はC0であるものとする。例えば、A0、B0、C0は、それぞれ、1/3であってもよい。
画像処理装置12は、S105では、取得画像のヒストグラムに基づいて分布平均値pを算出する。
画像処理装置12は、S110では、分布平均値情報を取得する。分布平均値情報とは、例えば、分布平均値pと、基本トーンカーブそれぞれの重み付け値と、の対応を表した情報である。重み付け値とは、合成トーンカーブを生成する際に基本トーンカーブを寄与させる度合いを数値で表したものであり、1以下の数値で表され、数値が大きいほど合成トーンカーブを生成する際に寄与する度合いが大きいことを表す。分布平均値情報は、例えばテーブル形式で表されており、予めメモリ22に記憶されている。なお、本実施形態では、重み付け値は、分布平均値、分布幅、輝度が離れた複数の山があるか否か、の検出結果毎に決定される。
本実施形態の分布平均値情報を図示した例を図10に示す。図10において、実線101aで示される線形トーンカーブの重み付け値をpa値といい、点線102aで示される対数トーンカーブの重み付け値をpb値といい、一点鎖線103aで示される平坦化トーンカーブの重み付け値をpc値という。つまり、分布平均値情報は、分布平均値pが低くなるにつれて、pb値を増加させ且つpa値とpc値とを減少させるように、分布平均値pと重み付け値pa、pb、pcとを対応付けた情報である。
なお、本実施形態では、分布平均値情報は、分布平均値pが予め定められた境界平均閾値Ps未満である場合に、pb値を1に設定し、pa値とpc値とを0に設定する。また、分布平均値情報は、分布平均値p≧Psである場合に、同一の分布平均値pにおいて、pb>pa>pcとなるように、各重み付け値を設定する。
画像処理装置12は、S115では、分布平均値pが境界平均閾値Ps以上であるか否かを判断する。Psは、例えば、夜に照明等が無く非常に暗い撮像シーンでの撮像画像における分布平均値である。境界平均閾値Psは、実験や学習等によって値が予め定められており、メモリ22に記憶されている。画像処理装置12は、分布平均値pが境界平均閾値Ps未満である場合に処理をS120へ移行させ、分布平均値pが境界平均閾値Ps以上である場合に処理をS125へ移行させる。なお、分布平均値pが境界平均閾値Ps未満であるということは、取得画像が上述のように相対的に非常に暗い撮像シーンで撮像されたことを意味する。
画像処理装置12は、S120では、合成重み付け値を算出する。合成重み付け値とは、分布平均値、分布幅、輝度が離れた複数の山があるか否か、のうち少なくとも1つの検出結果に基づいて決定される、各基本トーンカーブの重み付け値に基づく値である。以下では、線形トーンカーブの合成重み付け値をwa値といい、対数トーンカーブの合成重み付け値をwb値といい、平坦化トーンカーブの合成重み付け値をwc値という。
画像処理装置12は、本ステップでは、wb値を1(すなわち、100%)に設定し、wa値及びwc値を0(すなわち、0%)に設定し、処理をS200に移行させる。
画像処理装置12は、S125では、分布平均値情報から、分布平均値に対応するpa値、pb値、及びpc値を決定する。
画像処理装置12は、S130では、合成重み付け値を決定する。本ステップでは、画像処理装置12は、pa値をwa値として決定し、pb値をwb値として決定し、pc値をwc値として決定する。画像処理装置12は、wa値、wb値、wc値をメモリ22に保存する。
画像処理装置12は、S135では、取得画像のヒストグラムに基づいて、分布幅qを検出する。
画像処理装置12は、S140では、分布幅情報を取得する。分布幅情報とは、例えば、分布幅qと、基本トーンカーブそれぞれの重み付け値と、の対応を表した情報である。分布幅情報は、例えばテーブル形式で表されており、予めメモリ22に記憶されている。
本実施形態の分布幅情報を図示した例を図11に示す。図11において、実線101bで示される線形トーンカーブの重み付け値をqa値といい、点線102bで示される対数トーンカーブの重み付け値をqb値といい、一点鎖線103bで示される平坦化トーンカーブの重み付け値をqc値という。つまり、分布幅情報は、分布幅qが広くなるにつれて、qb値とqc値とを増加させ且つqa値を減少させるように、分布幅qとそれぞれの重み付け値qa、qb、qcとを対応付けた情報である。
なお、本実施形態では、分布幅情報は、分布幅qが予め定められた第2幅閾値Qs2未満である場合に、qa値を1に設定し、qb値とqc値とを0に設定する。換言すると、分布幅情報は、Qs2≦qである場合に、分布幅qが狭くなるにつれてqb値及びqc値を減少させ且つqa値を増加させるように、それぞれの重み付け値を設定する。
画像処理装置12は、S145では、分布幅qが第2幅閾値Qs2未満であるか否かを判断する。画像処理装置12は、分布幅qが第2幅閾値Qs2未満である場合に処理をS150へ移行させ、分布幅qが第2幅閾値Qs2以上である場合に処理をS165へ移行させる。なお、分布幅qが第2幅閾値Qs2未満であるということは、相対的に、分布幅qが非常に狭いことを意味する。
画像処理装置12は、S150では、合成重み付け値を決定する。画像処理装置12は、本ステップでは、wa値を1に設定し、wb値及びwc値を0に設定し、処理をS200に移行させる。
画像処理装置12は、S155では、分布幅値情報から、分布幅qに対応するqa値、qb値、及びqc値を決定する。
画像処理装置12は、S160では、合成重み付け値を決定する。本ステップでは、画像処理装置12は、wa値とqa値との乗算値を新たなwa値として決定し、wb値とqb値との乗算値を新たなwb値として決定し、wc値とqc値との乗算値を新たなwc値として決定する。そして、画像処理装置12は、新たなwa値、wb値、及びwc値をメモリ22に保存する。
画像処理装置12は、S165では、頂上輝度差rを検出する。具体的には、画像処理装置12は、取得画像のヒストグラムにおいて、低頂上輝度と高頂上輝度とを検出し、低頂上輝度と高頂上輝度との差を頂上輝度差rとして検出し、メモリ22に記録する。
画像処理装置12は、S170では、輝度差情報を取得する。輝度差情報とは、例えば、頂上輝度差rと、基本トーンカーブそれぞれの重み付け値と、の対応を表した情報である。輝度差情報は、例えばテーブル形式で表されており、予めメモリ22に記憶されている。
本実施形態の輝度差情報を図示した例を図12に示す。図12において、実線101cで示される線形トーンカーブの重み付け値をra値といい、点線102cで示される対数トーンカーブの重み付け値をrb値といい、一点鎖線103cで示される平坦化トーンカーブの重み付け値をrc値という。つまり、輝度差情報は、頂上輝度差rが大きくなるにつれて、rc値を増加させ且つra値とrb値とを減少させるように、頂上輝度差rとそれぞれの重み付け値ra、rb、rcとを対応付けた情報である。
なお、本実施形態では、輝度差情報は、頂上輝度差rが予め定められた第2輝度差閾値Rs2以上である場合に、rc値を1に設定し且つra値とrb値とを0に設定する。
画像処理装置12は、S175では、取得画像のヒストグラムにおいて輝度が離れた複数の山があるか否か、を判断する。具体的には、画像処理装置12は、頂上輝度差rが、予め定められた第1輝度差Rs1以上である場合に、輝度が離れた複数の山がある、と判断する。
ここで、画像処理装置12は、輝度が離れた複数の山があると判断された場合に処理をS180に移行させる。一方、画像処理装置12は、輝度が離れた複数の山がないと判断された場合に、処理をS200へ移行させる。なお、輝度が離れた複数の山があることは、取得画像において相対的に明るいものと相対的に暗いものとが撮像されていることを意味する。つまり、輝度の分布に偏りがあることを意味する。
画像処理装置12は、S180では、画像処理装置12は、頂上輝度差rが、予め定められた第2輝度差閾値Rs2以上であるか否かを判断する。画像処理装置12は、頂上輝度差rが第2輝度差閾値Rs2以上である場合に処理をS185へ移行させ、頂上輝度差rが第2輝度差閾値Rs2未満である場合に処理をS190へ移行させる。なお、頂上輝度差rが、予め定められた第2輝度差閾値Rs2以上であることは、取得画像において、輝度の分布について相対的に大きな偏りがあることを意味する。
画像処理装置12は、S185では、合成重み付け値を決定する。画像処理装置12は、本ステップでは、wc値を1に設定し、wa値及びwb値を0に設定し、処理をS200に移行させる。
画像処理装置12は、S190では、輝度差情報から、頂上輝度差rに対応するra値、rb値、及びrc値を決定する。
画像処理装置12は、S195では、合成重み付け値を決定する。本ステップでは、画像処理装置12は、wa値とra値との乗算値を新たなwa値として決定し、wb値とrb値との乗算値を新たなwb値として決定し、wc値とrc値との乗算値を新たなwc値として決定する。そして、画像処理装置12は、新たなwa値、wb値、及びwc値をメモリ22に保存する。
画像処理装置12は、S200では、合成割合の初期値と合成重み付け値との積を算出する。線形トーンカーブについての合成割合の初期値と合成重み付け値との積をmA値といい、対数トーンカーブについての合成割合の初期値と合成重み付け値との積をmB値という。平坦化トーンカーブについての合成割合の初期値と合成重み付け値との積をmC値という。画像処理装置12は、mA値、mB値、mC値を算出し、メモリ22に保存する。
画像処理装置12は、S205では、mA値、mB値、mC値を正規化する。正規化するとは、mA値、mB値、mC値の比を変えることなく、mA値、mB値、mC値の合計値が1となるように、mA値、mB値、mC値を算出し直すことをいう。画像処理装置12は、正規化後のmA値を合成割合のA値として、正規化後のmB値を合成割合のB値として、正規化後のmC値を合成割合のC値として、メモリ22保存する。画像処理装置12は、以上で合成割合処理を終了する。これにより、(7)式に基づいて、A値、B値、及びC値を用いて、例えば図13に示すような合成トーンカーブが補正用トーンカーブとして得られる。
[3.作用]
上述のように生成される補正用トーンカーブを用いて取得画像を補正する、画像処理装置12の作用について説明する。
[3-1.基本トーンカーブの特徴]
はじめに、補正用トーンカーブを生成するために用いられる基本トーンカーブそれぞれの特徴を説明する。
線形トーンカーブを用いると、撮像画像のヒストグラムの幅(すなわち、分布幅q)が相対的に狭い場合は、入力画素の変化に応じて出力画素が比例して変化するため、補正画像においてコントラストが適切に表現される。また、分布幅qが相対的に狭い場合は、RGBそれぞれの画素値の比が維持されるため、補正画像において色が適切に表現される。但し、分布幅qが相対的に広い場合は、補正画像において明部が白飛びし暗部が黒つぶれするおそれがある。
対数トーンカーブを用いると、撮像画像において輝度の小さい(すなわち、暗い)区間及び輝度の大きい(すなわち、明るい)区間のダイナミックレンジを拡大することができるため、補正画像において輝度の比が適切に反映される。ただし、コントラストは抑制される。また、分布幅qが相対的に広い場合、RGBそれぞれの画素値の比が変化するため、補正画像において色が適切に表現されないおそれがある。
平坦化トーンカーブは、ヒストグラムの分布が集中している区間を引き伸ばすため、補正画像においてコントラストを強調することができる。
[3-2.分布平均値pに基づく処理による作用]
例えば図14に示すように、暗い撮像シーン(すなわち、第1シーン)における撮像画像の分布平均値p(すなわち、p_1)は、明るい撮像シーン(すなわち、第2シーン)における撮像画像の分布平均値p(すなわち、p_2)よりも小さい。例えば、夜の方が昼よりも分布平均値pが小さく、光源の明るさ(すなわち、照度)が小さいほど分布平均値pが小さく曇りの方が晴れよりも分布平均値pは小さい。
画像処理装置12は、取得画像の分布平均値pが境界平均閾値Ps以上である場合(すなわち、分布平均値pが、夜に照明等が無く非常に暗い撮像シーンでの撮像画像における分布平均値Ps以上である場合)、処理をS125へ移行する。つまり、画像処理装置12は、非常に暗い撮像シーン以外の撮像シーンでは、分布平均値pが低くなるにつれて、対数トーンカーブの合成割合(すなわちB値)を増加させる。且つ、画像処理装置12は、線形トーンカーブの合成割合(すなわちA値)と平坦化トーンカーブの合成割合(すなわちC値)とを減少させる。
これにより、補正用トーンカーブを用いると、暗い撮像シーンであるほど、対数トーンカーブによる補正の特徴である、輝度の小さい区間及び輝度の大きい区間のダイナミックレンジを拡大する点、が効果的に作用し、夜間の広い大ミックレンジの輝度の比が適切に反映された補正画像が得られる。
同時に、補正用トーンカーブを用いると、暗い撮像シーンであるほど、線形トーンカーブによる補正の特徴である、取得画像の明部が白飛びし、暗部が黒潰れするおそれがある点、が抑制された補正画像が得られる。また、補正用トーンカーブを用いると、暗い撮像シーンであるほど、平坦化トーンカーブによる補正の特徴である、コントラストが強調されすぎる点、が抑制された補正画像が得られる。
このように、補正用トーンカーブを用いることによって、撮像シーンの明るさに応じて、具体的には、昼夜の別や、光源の有無、天候等に応じて、適切な補正画像を得ることができる。適切な補正画像とは、例えば、路面と白線とのコントラストが適切に表される画像であり得る。又、色の変化が少ない画像であり得る。
結果として、画像記録装置13は、車両の乗員にとって違和感の少ない補正画像を記録または表示する。また、車両制御装置14は、補正画像に基づいて適切に白線認識を行う。
更に、画像処理装置12は、分布平均値pが境界平均閾値Ps未満である場合に、処理をS120へ移行させる。つまり、画像処理装置12は、対数トーンカーブの合成割合を1に決定し、線形トーンカーブの合成割合と平坦化トーンカーブの合成割合とを0に決定するように構成されている。これにより、例えば夜に照明等が無いような非常に暗い撮像シーンで、対数トーンカーブによる補正の特徴が活かされた補正画像であって、輝度の小さい区間及び輝度の大きい区間のダイナミックレンジが拡大された補正画像、が得られる。
[3-3.分布幅qに基づく処理による作用]
全体が一様の明るさである撮像シーンにおける撮像画像の分布幅qは、昼に明るいものから暗いものまでが一様に存在する撮像シーンにおける撮像画像の分布幅qよりも小さい。
例えば図15に示すように、全体が一様の明るさである撮像シーンとしては、昼に全体が一様の明るさである場合(すなわち、第3シーン)があげられる。第3シーンでは、撮像画像のヒストグラムは、輝度が比較的高い区間に狭い分布幅q(すなわち、q-1)で分布する。また、全体が一様の明るさである撮像シーンとしては、昼及び夜のトンネルの中が含まれる。この場合、撮像画像のヒストグラムは、図示しないが、輝度が比較的低い区間に狭い分布幅qで分布する。
また、昼に明るいものから暗いものまでが一様に分布する撮像シーンとしては、例えば、昼のトンネルの出口があげられる(すなわち、第4シーン)。第4シーンでは、撮像画像のヒストグラムは、分布幅qが非常に広く(すなわち、q_2)、度数はほぼ一様に(すなわち、度数の大小の変化が少なく)分布する。上述のように、分布幅qが広いほど、撮像画像においてダイナミックレンジが広い。
画像処理装置12は、分布幅qが第2閾値Qs2以上である場合に、処理をS155へ移行させる。つまり、画像処理装置12は、分布幅qが広くなるにつれて対数トーンカーブの合成割合を増加させ且つ線形トーンカーブの合成割合と平坦化トーンカーブの合成割合とを減少させる。
これにより、補正用トーンカーブを用いると、明るいものから暗いものまでが一様に分布するほど、すなわち、ダイナミックレンジが広い撮像シーンであるほど、対数トーンカーブの特徴が効果的に作用した補正画像が得られる。つまり、輝度の比が適切に反映された補正画像が得られる。
同時に、補正用トーンカーブを用いると、線形トーンカーブによる補正の特徴である、取得画像の明部が白飛びし、暗部が黒潰れするおそれがある点、が抑制された補正画像が得られる。また、補正用トーンカーブを用いると、平坦化トーンカーブによる補正の特徴である、コントラストを強調した補正画像が得られる。
このように補正用トーンカーブを用いることによって、撮像シーンにおける明るいものから暗いものまでの分布の状況に応じて、具体的には、昼夜のトンネルの中や、昼のトンネルの出口等といった種々の撮像シーンに応じて、適切な補正画像を得ることができる。
更に、画像処理装置12は、分布幅qが第2閾値Qs2未満である場合(すなわち、分布幅qが非常に幅狭である場合)に、線形トーンカーブの合成割合を1に決定し、対数トーンカーブの合成割合と平坦化トーンカーブの合成割合とを0に決定する。これにより、分布幅qが狭い(すなわち、コントラストが弱い)画像において、線形トーンカーブによる補正の特徴が最も活かされた補正画像であって、コントラストが適切に表された補正画像、が簡易な処理で得られる。例えば、路面と白線とのコントラストが適切である補正画像が得られる。
[3-4.輝度が離れた複数の山があるか否かに基づく処理による作用]
取得画像において、昼に明るいものと暗いものの分布に偏りがある撮像シーンにおける撮像画像では、撮像画像のヒストグラムにおいて輝度が離れた複数の山が現れる。例えば、図16に示すように、昼に明るいものと暗いものの分布に偏りがある撮像シーンとしては、昼で且つ晴れであるときの日向と日陰の白線とが含まれる場合(すなわち、第5シーン)等があげられ、撮像画像のヒストグラムは、輝度が離れた複数の山が現れる。第5シーンでは、頂上輝度差rは第1輝度差閾値Rs1以上(頂上輝度差r_1≧Rs1)である。
画像処理装置12は、頂上輝度差rが第1閾値Rs1以上であり第2閾値Rs2未満である場合に、処理をS190へ移行させる。つまり、画像処理装置12は、頂上輝度差rが大きくなるにつれて、平坦化トーンカーブの合成割合を増加させ且つ線形トーンカーブの合成割合と対数トーンカーブの合成割合とを減少させる。これにより、補正用トーンカーブを用いると、頂上輝度差rが大きい画像であるほど、平坦化形トーンカーブによる補正の特徴であるコントラストを強調する点が効果的に作用し、コントラストが適切に反映された補正画像、が得られる。なお、頂上輝度差rが大きい画像とは、上述のように、輝度の分布の偏りが大きい画像である。
同時に、補正用トーンカーブを用いると、輝度の分布の偏りが大きいほど、線形トーンカーブによる補正の特徴である、取得画像の明部が白飛びし、暗部が黒潰れするおそれがある点、が抑制された補正画像が得られる。輝度の分布の偏りが大きいほど、対数トーンカーブによる補正の特徴である、コントラストが抑制される点、が抑制された補正画像が得られる。
このように補正用トーンカーブを用いることによって、撮像シーンにおける明るいものと暗いものとの分布の偏りの状況に応じて、具体的には日向の白線と日陰の白線とが同時撮像される状況等といった種々の撮像シーンに応じて、適切な補正画像が得られる。
更に、画像処理装置12は、図16に示すように、頂上輝度差rが第2輝度差閾値Rs2以上(すなわち、r_2≧Rs2)である場合(すなわち、第6シーン)に、平坦化トーンカーブの合成割合を1に決定する。且つ、画像処理装置12は、線形トーンカーブの合成割合と対数トーンカーブの合成割合とを0に決定する。第6シーンは、輝度の分布の偏りが非常に大きい例である。これにより、頂上輝度差rが大きい(すなわち、輝度の偏りが大きい)画像において、平坦化形トーンカーブによる補正の特徴がより活かされた補正画像であって、コントラストが適度に強調された補正画像、が得られる。
[4.効果]
以上詳述した第1実施形態によれば、以下の効果を得る。
(1a)画像処理装置12は、撮像画像のヒストグラムに基づいて補正用トーンカーブ生成し、補正用トーンカーブによって撮像画像における輝度と画素数との関係を補正して出力画像を生成する。
車載カメラ11による撮像画像では、撮像画像のヒストグラムは撮像シーンに応じて異なる分布となる。撮像シーンとは、車載カメラ11による撮像が行われた状況であり、例えば、昼夜の別や、天気(例えば、曇り、晴れ)、場所(例えば、トンネル手前、トンネル中)等、様々な状況をいう。近年、車載カメラ11のダイナミックレンジは増大する傾向にある。このため、ヒストグラムは幅広い輝度範囲において分布する。ここで、例えば、撮像画像に対して一律に同じトーンカーブを用いて輝度補正を行うと、ダイナミックレンジが広いため、ヒストグラムの分布状況によっては、適正な補正画像が得られないおそれがある。つまり、撮像シーンに応じた適正な補正画像が得られないおそれがある。
画像処理装置12は、撮像画像のヒストグラムに基づいて補正用トーンカーブを生成し、該補正用トーンカーブを用いて撮像画像における輝度の補正を行う。そのため、撮像画像の撮像シーンに応じた補正用トーンカーブで輝度の補正を行うことが可能となる。即ち、撮像シーンに応じた適正な補正画像を得ることができる。
(1b)画像処理装置12は、S20では複数の基本トーンカーブを合成して補正用トーンカーブを生成する際の基本トーンカーブそれぞれの合成割合を撮像画像のヒストグラムに基づいて決定する。画像処理装置12は、S30では、決定した合成割合で複数の基本トーンカーブを合成して、補正用トーンカーブを生成する。
上述のように、撮像画像のヒストグラムは幅広い輝度範囲において分布する。このような撮像画像に対して、例えば、線形トーンカーブのような単一の特性を示すトーンカーブを常に用いて輝度補正を行うと、低輝度において黒つぶれが生じたり高輝度において白飛びが生じたりし、適切でない補正画像が生成されるおそれがある。
画像処理装置12は、複数の基本トーンカーブを撮像画像のヒストグラムに基づいた合成割合で合成して補正用トーンカーブを生成する。そのため、ダイナミックレンジが広い撮像画像においても、適正な補正画像を得ることが可能となる。即ち、撮像シーンに応じた適正な補正画像を得ることができる。
(1c)画像処理装置12は、複数の基本トーンカーブのうちの少なくとも1つを撮像画像のヒストグラムに基づいて生成してもよい。本実施形態の画像処理装置12は、S4-S6では、複数の基本トーンカーブの全てを撮像画像のヒストグラムに基づいて生成する。そして、画像処理装置12は、S10では、生成された基本トーンカーブを取得する。
画像処理装置12は、撮像画像のヒストグラムに基づいて生成された基本トーンカーブを用いた補正用トーンカーブによって輝度補正を行うので、撮像シーンに応じた適正な補正画像を得ることができる。
(1d)画像処理装置12は、撮像画像のヒストグラムにおいて、分布平均値p、分布幅q、及びヒストグラムにおける複数の山の有無、のうちの少なくとも1つを検出し、検出した結果に基づいて複数の基本トーンカーブそれぞれの合成割合を決定する。撮像シーンに応じて、撮像画像のヒストグラムの分布では、分布平均値、分布幅、山の数に特徴がある。画像処理装置12は、撮像シーンに応じて合成割合を決定するので、撮像シーンに応じて輝度補正を行うことができる。すなわち、撮像シーンに応じた適正な補正画像を得ることができる。
(1e)画像処理装置12は、S1では、線形トーンカーブと、対数トーンカーブと、平坦化トーンカーブとを複数の基本トーンカーブとして取得する。これにより、それぞれ異なる特性を備える基本トーンカーブを合成した補正用トーンカーブが生成することができる。つまり、複雑な特性の補正用トーンカーブを生成することができるので、撮像シーンに応じた適正な補正画像を得ることができる。
(1f)画像処理装置12は、S115-S130、S200-S205では、分布平均値pが低くなるにつれて対数トーンカーブの合成割合を増加させ且つ線形トーンカーブの合成割合と平坦化トーンカーブの合成割合とを減少させるように、合成割合を決定する。結果として、補正用トーンカーブを用いることによって、撮像シーンの明るさに応じて、具体的には、昼夜の別や、照明の有無、天候等に応じて、適切な補正画像を得ることができる。
なお、画像処理装置12は、分布平均値情報を取得し、分布平均値pが境界平均閾値Ps以上である場合に、分布平均値情報に基づいてそれぞれの合成割合を決定してもよい。また、画像処理装置12は、分布平均値pが境界平均閾値Ps未満である場合に、対数トーンカーブの合成割合を1に決定してもよい。
(1g)画像処理装置12は、S135-S160、S200-S205では、分布幅qが広くなるにつれて対数トーンカーブの合成割合を増加させ且つ線形トーンカーブの合成割合と平坦化トーンカーブの合成割合とを減少させるように、合成割合を決定する。結果として、補正用トーンカーブを用いることによって、撮像シーンにおける明るいものから暗いものまでの分布の状況に応じて、具体的には昼夜のトンネルの中や昼のトンネルの出口等といった種々の撮像シーンに応じて、適切な補正画像を得ることができる。
なお、画像処理装置12は、分布幅情報を取得し、分布幅qが第2分布幅閾値Qs2以上である場合に、分布幅情報に基づいてそれぞれの合成割合を決定してもよい。また、画像処理装置12は、分布幅qが第2分布幅閾値Qs2未満である場合に線形トーンカーブの合成割合を1に決定してもよい。
(1h)画像処理装置12は、S165-S205では、頂上輝度差rを検出し、頂上輝度差rに基づいて撮像画像のヒストグラムにおいて輝度が離れた複数の山があるか否かを判断する。そして、画像処理装置12は、輝度が離れた複数の山があると判断した場合に、頂上輝度差rが大きくなるにつれて、平坦化トーンカーブの合成割合を増加させる。且つ、画像処理装置12は、線形トーンカーブの合成割合と対数トーンカーブの合成割合とを減少させる。
結果として、補正用トーンカーブを用いることによって、撮像シーンにおける明るいものと暗いものとの分布の偏りの状況に応じて、具体的には昼で晴れであるときの日向と日陰の白線昼等といった種々の撮像シーンに応じて、適切な補正画像を得ることができる。
なお、画像処理装置12は、輝度差情報を取得し、頂上輝度差rが第1輝度差閾値Rs1以上であり且つ第2輝度差閾値Rs2未満である場合に、輝度差情報に基づいてそれぞれの合成割合を決定してもよい。また、画像処理装置12は、S185では、頂上輝度差rが第2輝度差閾値Rs2以上である場合に、平坦化トーンカーブの合成割合を1に決定してもよい。
[5.他の実施形態]
以上、本開示の実施形態について説明したが、本開示は上述の実施形態に限定されることなく、種々変形して実施することができる。
(5a)上述の実施形態では、画像処理装置12は、複数の基本トーンカーブ全てを取得画像のヒストグラムに応じて生成していたが、本開示はこれに限定されるものではない。例えば、画像処理装置12は、複数の基本トーンカーブのうち少なくとも1つを取得画像のヒストグラムに応じて生成するように構成されていてもよい。
(5b)画像処理装置12は、分布平均値pの大小に拘わらず、分布平均値Pに応じて、分布平均値情報に基づいてpa、pb、pcを設定してもよい。この場合、例えば、S115-S120が削除されてもよい。また、画像処理装置12は、分布幅qの大小に拘わらず、分布幅qに応じて、分布幅情報に基づいてqa、qb、qcを設定してもよい。この場合、例えば、S145-S150が削除されてもよい。
また、画像処理装置12は、頂上輝度差rの大小に拘わらず、頂上輝度差rに応じて、輝度差情報に基づいてra、rb、rcを設定してもよい。この場合、例えば、S175-S185が削除されてもよい。
(5c)本開示に記載の画像処理装置12及びその手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリを構成することによって提供された専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の画像処理装置12及びその手法は、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。
もしくは、本開示に記載の画像処理装置12及びその手法は、一つ乃至は複数の機能を実行するようにプログラムされたプロセッサ及びメモリと一つ以上のハードウェア論理回路によって構成されたプロセッサとの組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されてもよい。
画像処理装置12に含まれる各部の機能を実現する手法には、必ずしもソフトウェアが含まれている必要はなく、その全部の機能が、一つあるいは複数のハードウェアを用いて実現されてもよい。
(5d)上述の実施形態における1つの構成要素が備える複数の機能を、複数の構成要素によって実現したり、1つの構成要素が備える1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が備える複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上述の実施形態の構成の一部を省略してもよい。また、上述の実施形態の構成の少なくとも一部を、他の上述の実施形態の構成に対して付加又は置換してもよい。
(5e)上述した画像処理装置12、CPU21、画像処理システム100の他、画像処理装置12を機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移有形記録媒体、画像処理方法など、種々の形態で本開示を実現することもできる。
なお、上述の実施形態において、画像処理装置12(すなわち、画像補正部34)が、基本取得部と、割合決定部と、合成実行部とに相当する。また、S10が基本取得部としての処理に相当し、S20が割合決定部としての処理に相当し、S30が合成実行部としての処理に相当し、S40が画像生成部としての処理に相当する。
12 画像処理装置、21 CPU、31 画像取得部、32 ヒストグラム生成部、34 画像補正部。

Claims (5)

  1. 画像処理装置(12)であって、
    車両に搭載されたカメラから撮像画像を取得するように構成された画像取得部(31、S1)と、
    前記撮像画像について、輝度と画素数との関係を表すヒストグラムを生成するように構成されたヒストグラム生成部(32、S2)と、
    前記輝度の入力値と出力値との関係を示すトーンカーブであって、前記撮像画像の前記ヒストグラムに基づいて前記撮像画像における前記輝度と前記画素数との関係を補正するための補正用トーンカーブ、を生成し、前記補正用トーンカーブを用いて前記撮像画像を補正して補正画像を生成するように構成された画像補正部(34、S7)と、
    を備え
    前記画像補正部は、
    複数の異なる前記トーンカーブを複数の基本トーンカーブとして取得するように構成された基本取得部(S10)と、
    前記複数の基本トーンカーブを合成して前記補正用トーンカーブを生成する際の前記複数の基本トーンカーブそれぞれの合成割合を、前記撮像画像の前記ヒストグラムに基づいて決定するように構成された割合決定部(S20)と、
    前記合成割合で前記複数の基本トーンカーブを合成して前記補正用トーンカーブとして生成するように構成された合成実行部(S30)と、
    前記撮像画像を前記補正用トーンカーブを用いて補正して前記補正画像を生成するように構成された画像生成部(S40)と、
    を備え、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて輝度と画素数との積を輝度毎に加算して総画素数で除算した値である前記ヒストグラムの分布平均値、前記撮像画像の前記ヒストグラムにおける前記輝度の幅である分布幅、及び前記ヒストグラムにおいて前記輝度が離れた複数の山があるか否か、のうちの少なくとも1つを検出し、検出した前記分布平均値、前記分布幅、及び前記山の有無のうちの少なくとも1つに基づいて前記複数の基本トーンカーブそれぞれの前記合成割合を決定し、
    前記複数の基本トーンカーブは、前記輝度の入力値と出力値との関係が線形である線形トーンカーブと、前記輝度の入力値と出力値との関係が対数で表される対数トーンカーブと、前記輝度の入力値と出力値との関係が前記画素数を平坦化するように対応付けられる平坦化トーンカーブと、を備え、
    前記基本取得部は、前記線形トーンカーブと、前記対数トーンカーブと、前記平坦化トーンカーブとを前記複数の基本トーンカーブとして取得し、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて前記分布平均値を検出し、前記分布平均値が低くなるにつれて前記対数トーンカーブの前記合成割合を増加させ且つ前記線形トーンカーブの前記合成割合と前記平坦化トーンカーブの前記合成割合とを減少させるように、それぞれの前記合成割合を決定する
    画像処理装置。
  2. 請求項に記載の画像処理装置であって、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて前記分布幅を検出し、 前記分布幅が広くなるにつれて前記対数トーンカーブの前記合成割合と前記平坦化トーンカーブの前記合成割合とを増加させ且つ前記線形トーンカーブの前記合成割合を減少させるように、それぞれの前記合成割合を決定する
    画像処理装置。
  3. 画像処理装置(12)であって、
    車両に搭載されたカメラから撮像画像を取得するように構成された画像取得部(31、S1)と、
    前記撮像画像について、輝度と画素数との関係を表すヒストグラムを生成するように構成されたヒストグラム生成部(32、S2)と、
    前記輝度の入力値と出力値との関係を示すトーンカーブであって、前記撮像画像の前記ヒストグラムに基づいて前記撮像画像における前記輝度と前記画素数との関係を補正するための補正用トーンカーブ、を生成し、前記補正用トーンカーブを用いて前記撮像画像を補正して補正画像を生成するように構成された画像補正部(34、S7)と、
    を備え
    前記画像補正部は、
    複数の異なる前記トーンカーブを複数の基本トーンカーブとして取得するように構成された基本取得部(S10)と、
    前記複数の基本トーンカーブを合成して前記補正用トーンカーブを生成する際の前記複数の基本トーンカーブそれぞれの合成割合を、前記撮像画像の前記ヒストグラムに基づいて決定するように構成された割合決定部(S20)と、
    前記合成割合で前記複数の基本トーンカーブを合成して前記補正用トーンカーブとして生成するように構成された合成実行部(S30)と、
    前記撮像画像を前記補正用トーンカーブを用いて補正して前記補正画像を生成するように構成された画像生成部(S40)と、
    を備え、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて輝度と画素数との積を輝度毎に加算して総画素数で除算した値である前記ヒストグラムの分布平均値、前記撮像画像の前記ヒストグラムにおける前記輝度の幅である分布幅、及び前記ヒストグラムにおいて前記輝度が離れた複数の山があるか否か、のうちの少なくとも1つを検出し、検出した前記分布平均値、前記分布幅、及び前記山の有無のうちの少なくとも1つに基づいて前記複数の基本トーンカーブそれぞれの前記合成割合を決定し、
    前記複数の基本トーンカーブは、前記輝度の入力値と出力値との関係が線形である線形トーンカーブと、前記輝度の入力値と出力値との関係が対数で表される対数トーンカーブと、前記輝度の入力値と出力値との関係が前記画素数を平坦化するように対応付けられる平坦化トーンカーブと、を備え、
    前記基本取得部は、前記線形トーンカーブと、前記対数トーンカーブと、前記平坦化トーンカーブとを前記複数の基本トーンカーブとして取得し、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて前記分布幅を検出し、前記分布幅が広くなるにつれて前記対数トーンカーブの前記合成割合と前記平坦化トーンカーブの前記合成割合とを増加させ且つ前記線形トーンカーブの前記合成割合を減少させるように、それぞれの前記合成割合を決定する
    画像処理装置。
  4. 請求項から請求項のいずれか一項に記載の画像処理装置であって、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて頂上輝度差を検出し前記頂上輝度差に基づいて前記輝度が離れた複数の山があるか否かを判断し、前記輝度が離れた複数の山があると判断した場合に、前記頂上輝度差が大きくなるにつれて前記平坦化トーンカーブの前記合成割合を増加させ且つ前記線形トーンカーブの前記合成割合と前記対数トーンカーブの前記合成割合とを減少させるように、それぞれの前記合成割合を決定する
    画像処理装置。
  5. 画像処理装置(12)であって、
    車両に搭載されたカメラから撮像画像を取得するように構成された画像取得部(31、S1)と、
    前記撮像画像について、輝度と画素数との関係を表すヒストグラムを生成するように構成されたヒストグラム生成部(32、S2)と、
    前記輝度の入力値と出力値との関係を示すトーンカーブであって、前記撮像画像の前記ヒストグラムに基づいて前記撮像画像における前記輝度と前記画素数との関係を補正するための補正用トーンカーブ、を生成し、前記補正用トーンカーブを用いて前記撮像画像を補正して補正画像を生成するように構成された画像補正部(34、S7)と、
    を備え
    前記画像補正部は、
    複数の異なる前記トーンカーブを複数の基本トーンカーブとして取得するように構成された基本取得部(S10)と、
    前記複数の基本トーンカーブを合成して前記補正用トーンカーブを生成する際の前記複数の基本トーンカーブそれぞれの合成割合を、前記撮像画像の前記ヒストグラムに基づいて決定するように構成された割合決定部(S20)と、
    前記合成割合で前記複数の基本トーンカーブを合成して前記補正用トーンカーブとして生成するように構成された合成実行部(S30)と、
    前記撮像画像を前記補正用トーンカーブを用いて補正して前記補正画像を生成するように構成された画像生成部(S40)と、
    を備え、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて輝度と画素数との積を輝度毎に加算して総画素数で除算した値である前記ヒストグラムの分布平均値、前記撮像画像の前記ヒストグラムにおける前記輝度の幅である分布幅、及び前記ヒストグラムにおいて前記輝度が離れた複数の山があるか否か、のうちの少なくとも1つを検出し、検出した前記分布平均値、前記分布幅、及び前記山の有無のうちの少なくとも1つに基づいて前記複数の基本トーンカーブそれぞれの前記合成割合を決定し、
    前記複数の基本トーンカーブは、前記輝度の入力値と出力値との関係が線形である線形トーンカーブと、前記輝度の入力値と出力値との関係が対数で表される対数トーンカーブと、前記輝度の入力値と出力値との関係が前記画素数を平坦化するように対応付けられる平坦化トーンカーブと、を備え、
    前記基本取得部は、前記線形トーンカーブと、前記対数トーンカーブと、前記平坦化トーンカーブとを前記複数の基本トーンカーブとして取得し、
    前記割合決定部は、前記撮像画像の前記ヒストグラムにおいて頂上輝度差を検出し前記頂上輝度差に基づいて前記輝度が離れた複数の山があるか否かを判断し、前記輝度が離れた複数の山があると判断した場合に、前記頂上輝度差が大きくなるにつれて前記平坦化トーンカーブの前記合成割合を増加させ且つ前記線形トーンカーブの前記合成割合と前記対数トーンカーブの前記合成割合とを減少させるように、それぞれの前記合成割合を決定する
    画像処理装置。
JP2019198665A 2019-10-31 2019-10-31 画像処理装置 Active JP7279613B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019198665A JP7279613B2 (ja) 2019-10-31 2019-10-31 画像処理装置
US17/083,654 US11367168B2 (en) 2019-10-31 2020-10-29 Image processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019198665A JP7279613B2 (ja) 2019-10-31 2019-10-31 画像処理装置

Publications (2)

Publication Number Publication Date
JP2021071955A JP2021071955A (ja) 2021-05-06
JP7279613B2 true JP7279613B2 (ja) 2023-05-23

Family

ID=75686366

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019198665A Active JP7279613B2 (ja) 2019-10-31 2019-10-31 画像処理装置

Country Status (2)

Country Link
US (1) US11367168B2 (ja)
JP (1) JP7279613B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118752A (ja) 2000-10-05 2002-04-19 Sony Corp 画像処理装置および方法、並びに記録媒体
JP2007251898A (ja) 2006-03-20 2007-09-27 Konica Minolta Holdings Inc 撮像装置
JP2009252051A (ja) 2008-04-08 2009-10-29 Canon Inc 画像処理装置及びその制御方法、プログラム
JP2011095073A (ja) 2009-10-29 2011-05-12 Olympus Corp 撮像装置、及び、画像生成方法
JP2012068337A (ja) 2010-09-22 2012-04-05 Hitachi Consumer Electronics Co Ltd 画像信号処理装置
JP2016012336A (ja) 2014-06-05 2016-01-21 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4281311B2 (ja) * 2001-09-11 2009-06-17 セイコーエプソン株式会社 被写体情報を用いた画像処理
JP4400512B2 (ja) 2005-06-01 2010-01-20 株式会社デンソー 車載カメラ制御装置
JP4998287B2 (ja) * 2008-01-25 2012-08-15 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP6525543B2 (ja) * 2014-10-21 2019-06-05 キヤノン株式会社 画像処装置および画像処理方法、並びにプログラム
JP6394338B2 (ja) 2014-12-04 2018-09-26 ソニー株式会社 画像処理装置、画像処理方法、及び撮像システム
JP6552325B2 (ja) * 2015-08-07 2019-07-31 キヤノン株式会社 撮像装置、撮像装置の制御方法、及びプログラム
US10129511B2 (en) * 2016-08-01 2018-11-13 Ricoh Company, Ltd. Image processing apparatus, image projection apparatus, and image processing method
JP7225646B2 (ja) * 2018-09-28 2023-02-21 株式会社ニデック 眼科用画像処理プログラム、および、眼底撮影装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002118752A (ja) 2000-10-05 2002-04-19 Sony Corp 画像処理装置および方法、並びに記録媒体
JP2007251898A (ja) 2006-03-20 2007-09-27 Konica Minolta Holdings Inc 撮像装置
JP2009252051A (ja) 2008-04-08 2009-10-29 Canon Inc 画像処理装置及びその制御方法、プログラム
JP2011095073A (ja) 2009-10-29 2011-05-12 Olympus Corp 撮像装置、及び、画像生成方法
JP2012068337A (ja) 2010-09-22 2012-04-05 Hitachi Consumer Electronics Co Ltd 画像信号処理装置
JP2016012336A (ja) 2014-06-05 2016-01-21 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム

Also Published As

Publication number Publication date
US11367168B2 (en) 2022-06-21
US20210133941A1 (en) 2021-05-06
JP2021071955A (ja) 2021-05-06

Similar Documents

Publication Publication Date Title
US11375131B2 (en) Image data processing for multi-exposure wide dynamic range image data
CN111311524B (zh) 一种基于msr的高动态范围视频生成方法
JP6740866B2 (ja) 画像出力装置
JP4952499B2 (ja) 画像処理装置
US20170094242A1 (en) Image processing apparatus, image processing method, and storage medium
US11887286B2 (en) Image processing device and image processing method to generate image for object recognition
JP2004007202A (ja) 画像処理装置
JP7279613B2 (ja) 画像処理装置
US9460492B2 (en) Apparatus and method for image processing
KR101468433B1 (ko) 결합된 색상 채널 변환 맵을 이용한 다이나믹 레인지 확장 장치 및 방법
WO2022158010A1 (ja) 画像処理方法
KR20160001582A (ko) 화상 처리 장치 및 화상 처리 방법
CN109788211B (zh) 拍摄图像显示***、电子镜***以及拍摄图像显示方法
US11417083B2 (en) Image processing apparatus
KR102050415B1 (ko) 화상 처리 장치 및 화상 처리 방법
JP2002262130A (ja) 画像処理装置
JP3750959B2 (ja) 駐車車両検出方法およびその装置
JP7355252B2 (ja) 画像表示装置および画像表示方法
EP4209990A2 (en) Blended gray image enhancement
JP6893068B1 (ja) 画像処理方法
JP2019040382A (ja) 画像処理装置
KR101519162B1 (ko) 차량용 카메라의 야간 영상 개선 방법
JP2007234036A (ja) 画像処理装置および画像処理方法および画像処理に用いられるプロセッサ
JPH09311927A (ja) 駐車車両検出装置及び駐車車両検出方法
KR20140133407A (ko) 화상 처리 장치 및 화상 처리 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230424

R151 Written notification of patent or utility model registration

Ref document number: 7279613

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151