JP7051365B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP7051365B2
JP7051365B2 JP2017201144A JP2017201144A JP7051365B2 JP 7051365 B2 JP7051365 B2 JP 7051365B2 JP 2017201144 A JP2017201144 A JP 2017201144A JP 2017201144 A JP2017201144 A JP 2017201144A JP 7051365 B2 JP7051365 B2 JP 7051365B2
Authority
JP
Japan
Prior art keywords
image
saturation
level correction
saturation level
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017201144A
Other languages
English (en)
Other versions
JP2019075716A (ja
Inventor
広崇 大森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017201144A priority Critical patent/JP7051365B2/ja
Priority to US16/159,363 priority patent/US10861194B2/en
Priority to CN201811209221.4A priority patent/CN109672810B/zh
Priority to EP18200887.0A priority patent/EP3474532B1/en
Publication of JP2019075716A publication Critical patent/JP2019075716A/ja
Application granted granted Critical
Publication of JP7051365B2 publication Critical patent/JP7051365B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/066Adjustment of display parameters for control of contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、撮像されて取得された全方位画像を処理する技術に関する。
近年、撮像装置の一つである監視カメラにおいて、広範囲を俯瞰して監視・撮影することができる全方位カメラ(例えば水平および垂直画角が180度以上のレンズを備えた監視カメラ)がある。全方位カメラの場合、イメージサークルの外縁の一部が撮像素子の撮像範囲の内側に含まれるため、当該全方位カメラの撮像素子から出力される画像は、光が入射されたイメージサークルの領域と光入射のない領域の境界が存在した画像となる。
また、監視カメラを含むデジタルスチルカメラ、デジタルビデオカメラ等で撮像された画像には、いわゆるフリンジと呼ばれる色滲みが視認されることがある。フリンジとは、輝度差の大きな輪郭が撮像画像中に存在する場合に、その輪郭部分に青色や紫色の縁取りのような色滲みが発生してしまう現象を指す。前述の全方位カメラで撮像された画像のように、イメージサークルによる光入射のある領域と光入射のない領域との境界が存在する画像の場合、特にフリンジが発生しやすい。
フリンジの発生は、撮像センサー、レンズ、画像処理等の工程によって引き起こされるものであり、従来、この問題を解決する様々な手法が提案されている。例えば、特許文献1には、レンズの特性を予め計測して補正データをメモリに格納しておき、撮影時にその補正データを用いて補正処理を実行する手法が開示されている。また、特許文献2には、複数回の撮影を行って撮影条件の異なる複数の画像を取得し、それらの画像を合成することでフリンジの補正を行う手法が開示されている。
特開2003-60983号公報 特開2011-211329号公報
しかしながら、特許文献1の手法のようにレンズの特性を予め計測して色滲みの補正データをメモリに格納する手法では、メモリ容量が増大するとともに調整工程も増えて構成が複雑になり、さらにレンズに関わる全ての影響を正確に補正することが困難である。また、特許文献2の技術では、予め色滲みの補正データを格納する必要はないが、撮影を2回以上行う必要があり処理量が増大する。
そこで、本発明は、簡易な構成および少ない処理量で、撮像画像の色滲みを抑制可能にすることを目的とする。
本発明は、撮像された全方位画像のイメージサークル内の彩度決定するための彩度パラメーターを取得す取得手段と、前記彩度パラメーターおよび前記イメージサークル内の画素の位置に基づいて、彩度レベル補正処理により前記彩度を低下させる強度を決定するための彩度レベル補正パラメーターを算出する算出手段と、前記撮像された前記全方位画像の彩度を、前記彩度レベル補正パラメーターに応じた彩度に低下させる彩度レベル補正処理を行う処理手段と、を備え、前記算出手段は、前記イメージサークルの中心側よりも前記イメージサークル内の外縁側の前記画素の彩度が低下するように前記彩度レベル補正パラメーターを算出することを特徴とする。
本発明によれば、簡易な構成および少ない処理量で、撮像画像の色滲みを抑制可能となる。
本実施形態の撮像システムの概略構成例を示す図である。 本実施形態の撮像装置の概略内部構成例を示す図である。 画像処理部の構成例を示すブロック図である。 現像処理部の構成例を示すブロック図である。 彩度レベル補正処理部例の構成を示すブロック図である。 第1実施形態の彩度レベル補正パラメーター算出のフローチャートである。 撮像素子、イメージサークル、彩度レベル補正処理該当画素の関係を示す図である。 彩度レベル補正パラメーターと像高位置の関係を示す図である。 彩度レベル補正パラメーターと像高位置の複数変化点を示す図である。 第2実施形態の彩度レベル補正パラメーター算出のフローチャートである。 第2実施形態の色成分を加えた彩度レベル補正の説明図である。 全方位画像からパノラマ画像を生成する例を示した図である。 第3実施形態の彩度レベル補正パラメーター算出のフローチャートである。 第3の実施形態の表示モードを加えた彩度レベル補正の説明図である。
以下、本発明の好適な一実施形態について、図面を参照して詳細に説明する。
図1は本実施形態における撮像システムの概略的な構成を示す図である。
図1に示す撮像システムは、動画像の撮像および本実施形態に係る画像処理を行う画像処理装置としての監視カメラ101と、IPネットワーク網を介して相互に通信可能な状態で接続されるクライアント装置102とを有して構成されている。クライアント装置102は、例えばパーソナルコンピュータと表示装置とを有して構成されているとする。本実施形態では、監視カメラ101が画像処理装置の機能を有する例を挙げて説明するが、クライアント装置102において本実施形態に係る画像処理を行うことも可能である。また、本実施形態において、監視カメラ101は、例えば広範囲を俯瞰して監視・撮影することができる全方位カメラ(水平および垂直画角が180度以上のレンズを備えた監視カメラ)であるとする。
図2は、本実施形態の監視カメラ101の概略的な内部構成例を示す図である。
撮像光学系201は、ズームレンズ、フォーカスレンズ、ブレ補正レンズ、絞り、シャッター等を有して構成され、被写体等からの光を集光して、被写体等の光像を撮像センサー202の撮像素子の撮像面(センサー面)上に形成させる。本実施形態の場合、撮像光学系201のレンズは、水平および垂直画角が180度以上のレンズであるとする。撮像センサー202は、撮像光学系201により撮像面上に形成された光像を電流値へと変換する撮像素子を有する。撮像センサー202は、撮像素子の撮像面上にカラーフィルタが設けられていることでRGBの色情報をも取得する。また、撮像センサー202は、撮像素子の全ての画素に対して、任意の露光時間を設定可能となされているとする。
CPU203は、各構成の処理と制御のすべてに関わり、ROM(リードオンリーメモリ)204や、RAM(ランダムアクセスメモリ)205に格納された命令を順次に読み込み、解釈し、その結果に従って各処理と制御を実行する。撮像系制御部206は、CPU203からの指示の下で、撮像光学系201に対し、フォーカスを合わせる制御、シャッターを開閉する制御、絞りを調整する制御など各種撮像制御を行う。制御部207は、クライアント装置102からの指示に応じた制御を行う。A/D変換部208は、撮像センサー202からの撮像信号をデジタル信号値の画像データに変換する。画像処理部209は、A/D変換部208からの画像データに対して本実施形態に係る画像処理を行う部分であり、その詳細については後述する。エンコーダ部210は、画像処理部209による画像処理後の画像データを、いわゆるMotion JpegやH264などのファイルフォーマットに変換処理(エンコード処理)する。エンコーダ部210によるエンコード処理後の画像データは、例えばクライアント装置102に出力される。
図3は、本実施形態の画像処理部209の概略的な内部構成を示すブロック図である。
画像入力部301は、前述した撮像センサー202にて撮像され、A/D変換部208にてデジタル変換された画像データを取得する。前処理部302は、撮像センサー起因の固定パターンノイズ除去やゲイン調整などの補正処理を行う。現像処理部303は、前処理部302による補正処理後の画像データに現像処理を行う。後処理部304は、現像処理部303にて現像処理された画像に空間方向のNRフィルタおよび時間方向のNRフィルタを掛けることで、ランダムに発生するノイズを低減する処理を行う。画像出力部305は、後処理部304からの画像データを図1のエンコーダ部210に出力する。
図4は、現像処理部303の内部構成例を示したブロック図である。
現像処理部303は、デモザイク処理部401と、ホワイトバランス処理部402と、彩度レベル補正処理部403と、ガンマ処理部404とを有して構成されている。デモザイク処理部401は前処理部302から入力された画像データに対しデモザイク処理を行い、ホワイトバランス処理部402はデモザイク処理後の画像データに対しホワイトバランス処理を行う。彩度レベル補正処理部403の詳細については後述するが、彩度レベル補正処理部403が彩度差レベル補正処理を行うことによって、色滲みを目立たなくすることができる。ガンマ処理部404は、彩度レベル補正処理部403から入力された画像データに対しガンマ処理を行う。そして、ガンマ処理部404から出力された画像データは、図3の後処理部304へ送られる。
<第1実施形態の彩度レベル補正処理>
以下、第1実施形態における彩度レベル補正処理部403の構成と彩度レベル補正処理について説明する。
図5は、第1実施形態における彩度レベル補正処理部403の概略構成例を示すブロック図である。第1実施形態の彩度レベル補正処理部403は、動画信号の各フレームの画像に対して彩度レベル補正を行うための構成であるとする。彩度レベル補正処理部403は、入力信号取得部501、彩度強調処理パラメーター取得部502、彩度レベル補正パラメーター算出処理部503、彩度レベル補正実行処理部504を有して構成される。
図6は、第1実施形態の彩度レベル補正処理部403が実行する彩度レベル補正処理の流れを示すフローチャートである。以下、第1実施形態における彩度レベル補正処理の流れを、図6のフローチャートを参照しながら説明する。以下の説明では、図6のフローチャートの各処理ステップS601~ステップS604をS601~S604と略記する。この図6のフローチャートの処理は、ハードウェア構成により実行されてもよいし、一部がソフトウェア構成で残りがハードウェア構成により実現されてもよい。ソフトウェア構成により処理が実行される場合、例えばROMに記憶されている本実施形態に係る画像処理のプログラムをCPU等が実行することにより実現される。本実施形態に係るプログラムは、ROMに予め用意されていてもよく、また着脱可能な半導体メモリ等から読み出されたり、不図示のインターネット等のネットワークからダウンロードされたりしてもよい。これらのことは後述する他のフローチャートにおいても同様であるとする。
まず、S601において、入力信号取得部501は、全方位カメラである本実施形態の監視カメラ101により撮像された動画信号のフレーム毎に画像(以下、全方位画像とする)を取得する。
次に、S602において、彩度強調処理パラメーター取得部502は、入力画像に対して彩度(色の濃さ)をどの程度強調するかを決定する彩度パラメーター(以下、彩度強調処理パラメーターとする。)を取得する。例えば、監視カメラの場合、ユーザーはクライアント装置102を介して指示を入力することで、彩度をどの程度強調するかを調整することができる。以下、彩度を調整する処理を彩度レベル補正処理とする。より具体的には、ユーザーが選択できる彩度レベル補正処理の調整幅が例えば"0~100"の範囲であり、ユーザーが彩度レベル補正処理を"50"の強度で指定した場合、彩度強調処理パラメーター取得部502は、彩度強調処理パラメーターとして"50"値を取得する。なお、彩度強調処理パラメーターとして"50"値は標準的な値であり、ユーザーから指定が無い場合にデフォルトで設定されている彩度レベルと同じ値であるものとする。
次に、S603において、彩度レベル補正パラメーター算出処理部503は、彩度強調処理パラメーター、および、撮像画像内の画素の位置に基づいて、彩度レベル補正パラメーターを算出する。本実施形態において、彩度レベル補正パラメーターを算出する際の撮像画像内の画素の位置は、撮像素子の撮像面の中心からの距離を表す像高、または座標位置として取得される。なお、イメージサークルの中心を正確に特定することができるのであれば、そのイメージサークルの中心からの距離を、画素の位置として取得してもよい。
その後、S604において、彩度レベル補正実行処理部504は、入力信号取得部501で取得された撮像画像に対し、S603で算出された彩度レベル補正パラメーターに応じた彩度レベル補正処理を実行する。
以下、前述のS603の彩度レベル補正パラメーターの算出処理について、図7~図9と下記の式(1)、式(2)を用いて、より具体的に説明する。
図7は、撮像センサー202が備えている撮像素子の撮像範囲700と、撮像光学系201により形成されるイメージサークル701とを、模式的に示した図である。ここで、図7には、彩度レベル補正処理が実行される該当画素702の座標位置を(x,y)、撮像素子の撮像面の中心(以下、画面中心703とする。)の座標位置を(X,Y)、イメージサークル701の中心から外縁までの距離をRとして表している。なお、画面中心703とイメージサークル701の中心は一致しているとする。このとき、該当画素702が画面中心703からどの程度離れているかを表す像高指標M(x,y)は、下記の式(1)により算出される。
M(x,y)={(X-x)2+(Y-y)2}/R2 式(1)
ここで、像高指標M(x,y)が例えば0.0~1.0の値をとる場合、該当画素702はイメージサークル701の中に含まれる画素を表しているとする。一方、像高指標M(x,y)が例えば1.0よりも大きな値をとる場合、該当画素702は、イメージサークル701の外に存在する画素を表しているとする。
また、座標位置(x,y)の該当画素702に対する彩度レベル補正パラメーターを補正パラメーターN(x,y)として表すとする。ここで、例えば、彩度レベル補正処理の調整幅が"0~100"の範囲であり、S602で取得される彩度強調処理パラメーターが"50"であったとする。この場合、補正パラメーターN(x,y)は、式(1)で算出される画面中心703からどの程度離れているかの像高指標M(x,y)を用いて、下記の式(2)により算出できる。
Figure 0007051365000001
図8は、式(2)で表される像高指標M(x,y)と補正パラメーターN(x,y)の関係の一例を実線800により表した図である。図8の縦軸は補正パラメーターN、横軸は像高指標Mを表している。図8の実線800に示すように、補正パラメーターN(x,y)は、イメージサークルの外縁に近いほど彩度レベルを小さくするような値に設定される。イメージサークルの中心部は例えばユーザーの監視対象等が撮影されている可能性が高いため、図8では彩度レベル補正処理の強度をユーザーの意図である彩度強調処理パラメーターに一致するような関係になされている。つまり、図8の例の場合、補正パラメーターN(x,y)は、イメージサークルの中心部に近づくほど、彩度強調処理パラメーターの"50"に近い値となされる。これにより、この補正パラメーターN(x,y)を用いた彩度レベル補正処理が、彩度レベル補正実行処理部504にて実行された場合、イメージサークルの外縁に近いほど彩度レベルが小さくなる。そのため、外縁では彩度レベル処理を適用する前よりも彩度の大きさが小さくなり、フリンジの色が青色や紫色から無彩色に変更され、色滲みを抑制する(目立たなくする)ことが可能となる。一方、図8において、イメージサークルの外側に位置する光入射のない領域(像高指標Mが1.0より大きい領域)に対しては、S604で彩度レベルが0となるような補正パラメーターN(x,y)が設定される。あるいは、彩度レベル補正実行処理部504では、撮像素子の光入射のある領域に対してのみ彩度レベル補正処理が実行され、光入射のない領域に対しては彩度レベル補正処理が実行されないようにしてもよい。
なお、補正パラメーターNは式(1)、式(2)によって算出される値に限るものではなく、例えば図9の実線900に示すように、変化点901を複数設けることで、補正パラメーターNの変化を滑らかに算出する方法を採用してもよい。図9は、図8同様に、縦軸が補正パラメーターN、横軸が像高指標Mを表している。また、補正パラメーターNは彩度レベル補正処理の強度に限るものではなく、色成分に対するゲイン等の補正パラメーターを採用してもよい。
第1実施形態においては、以上のように補正パラメーターNが設定されることで、中心部ではユーザーの意図した彩度を実現しつつ、イメージサークル外縁に発生するフリンジを抑制することが可能になる。すなわち、本実施形態の彩度レベル補正処理部403では、前述した図6のS601~S604の処理を動画の画像データに対して行うことで、簡易な構成および少ない処理量で、入力された画像に色滲みが生ずるのを抑制することができる。
第1実施形態では、監視カメラ101において彩度レベル補正処理を実行したが、彩度レベル補正処理が実行される対象には特に制限はない。例えば、魚眼レンズを使用した場合や、イメージサークルの外縁の一部が撮像素子の撮像範囲の内側に含まれるような広角レンズを使用した場合や、画像の四隅にケラレが発生している場合に対して、同様の処理を実行することが可能である。
<第2実施形態の彩度レベル補正処理>
前述した第1実施形態では、図6のS603において、彩度レベル補正パラメーター算出処理部503が、彩度強調処理パラメーターおよび画素の位置(像高または座標)に応じて彩度レベル補正処理パラメーターを算出する方法について説明した。以下の第2実施形態では、彩度レベル補正パラメーター算出処理部503において、彩度強調処理パラメーターおよび画素の位置に加え、色成分の情報を考慮して、彩度レベル補正パラメーターを算出する。なお、第2実施形態において、画像処理に係る構成は前述の第1実施形態と同様であるため、その図示および説明は省略する。第2実施形態においても第1実施形態と同じ構成については同じ符号を付し、それらの説明を省略する。
図10は、第2実施形態の彩度レベル補正パラメーター算出処理部503における彩度レベル補正処理のパラメーター算出処理のフローチャートである。以下、第2実施形態の彩度レベル補正処理の流れについて図10のフローチャートを参照して説明する。
まず、S1001において、彩度レベル補正パラメーター算出処理部503は、色成分を取得するために、下記の式(3)のように、入力信号のRGB値を、輝度(Y)成分と色(UV)成分に変換する。
Y(x,y)=0.299×R(x,y)+0.587×G(x,y)+0.114×B(x,y)
U(x,y)=-0.169×R(x,y)-0.331×G(x,y)+0.500×B(x,y) 式(3)
V(x,y)=0.500×R(x,y)-0.419×G(x,y)-0.081×B(x,y)
ここで、式(3)のR(x,y)、G(x,y)、B(x,y)は座標位置(x,y)のRGB信号値を表し、Y(x,y)、U(x,y)、V(x,y)はYUV信号を表す。なお、色信号は式(3)によって算出される値に限るものではなく、Lab変換によって得られるa,b値や、YCbCr変換によって得られるCb,Cr値を採用してもよい。
続いて、S1002において、彩度レベル補正パラメーター算出処理部503は、イメージサークル外縁から画面中心にかけて、UV成分の大きさを像高別に取得し、その取得した値について0.0~1.0の値への正規化を行う。以下、UV成分の大きさを正規化した値をUV強度O(x,y)と呼ぶ。
さらにステップS1003において、彩度レベル補正パラメーター算出処理部503は、式(1)による像高指標M(x,y)と彩度強調処理パラメーターLとS1002によるUV強度O(x,y)を用い、補正パラメーターN(x,y)を式(4)にて算出する。
Figure 0007051365000002
図11(a)と図11(b)は、式(4)を用いて補正パラメーターNを算出する場合のUV強度O、像高指標M、補正パラメーターNの関係説明に用いる図である。図11(a)は、撮像素子の撮像範囲1100とイメージサークル1101を示した図である。図11(a)に示すように、イメージサークル1101において、画面中心側の領域C1はUV成分の高い被写体が多く分布(UV強度が大きい領域)し、中間位置の領域C2はほぼ無彩色の被写体が多く分布(UV強度が小さい領域)しているものとする。一方、イメージサークル1101の外縁部分の領域C3はUV成分の高い被写体が比較的多く分布する領域とする。図11(b)は、第2実施形態の場合の像高指標Mと補正パラメーターNの関係の一例を実線1111により表した図であり、前述の図8同様に、縦軸が補正パラメーターN、横軸が像高指標Mを表している。
この図11(a)および図11(b)に示すように、領域C1や領域C3のような色成分が多く含まれる(UV成分の大きい)領域に対しては、彩度レベル補正パラメーターによる彩度レベル補正処理の強度の変化は緩やかになされる。例えば、画面中心のUV成分が多く分布(UV強度が大きい)している領域C1では彩度レベル補正パラメーターの変化を略々無くして彩度の変化をより小さくする。また、イメージサークル外縁のUV成分が比較的多く分布する領域C3では彩度レベル補正パラメーターの変化を小さくして彩度の段差が生じないようにする。一方、中間位置のように無彩色に近い領域C2については、彩度レベル補正パラメーターを大きく変化させて彩度の変化を大きくする。
このように、第2実施形態によれば、UV強度O(x,y)をも考慮して彩度レベル補正処理パラメーターを算出することで、像高位置ごとに異なる彩度レベル補正処理を実行する場合であっても、像高別の彩度の違いを目立たなくすることができる。
また、補正パラメーターNは、式(4)によって算出される値に限るものではなく、例えば式(5)のように算出する方法を採用してもよい。
Figure 0007051365000003
式(5)を用いて彩度レベル補正パラメーターを算出した場合、イメージサークル外縁に存在する色成分の大きな被写体に対して、彩度レベルの補正処理を実行した場合でも、ユーザーの意図した彩度を実現することが可能になる。なお、式(4)と式(5)の算出方法を像高位置に応じて組み合わせて算出する方法を採用してもよい。
以上説明したように、第2実施形態によれば、彩度レベル補正処理によって生じる像高別の彩度の違いを軽減しつつ、イメージサークル外縁に発生する色滲みを抑制することが可能になる。
<第3実施形態の彩度レベル補正処理>
第3実施形態では、彩度レベル補正パラメーター算出処理部503において、彩度強調処理パラメーターおよび画素の像高または座標に加えて、表示モードを考慮して、彩度レベル補正パラメーターを算出する例を説明する。なお、第3実施形態において、画像処理に係る構成は前述の第1実施形態と同様であるため、その図示および説明は省略する。第3実施形態においても第1実施形態と同じ構成については同じ符号を付し、それらの説明を省略する。
ここで、本実施形態の撮像システムでは、クライアント装置102の表示装置上に画像を表示させる際の表示方法をユーザーが任意に設定可能となされている。表示方法の設定は、一例として、複数の表示モードからユーザーが所望の表示モードを指定することにより行われる。表示モードとしては、例えば、全方位カメラで撮影された画像に対し、ユーザーが任意の領域を指定して、歪みのある全方位画像に対して歪曲補正を行わせた上でパノラマ画像のように表示させるモード(パノラマモードとする。)を挙げることができる。
図12は、撮像素子の撮像範囲1200とイメージサークル1201を示した図である。イメージサークル1201の全方位画像は、パノラマモードで表示される領域P1とパノラマモードで表示されない領域P2とに分けられる。パノラマモードでの表示が行われる場合、イメージサークル1201の全方位画像の中から、領域P1の画像が取り出され、歪曲補正を行った上で、パノラマ画像1210として表示される。この図12に示すように、例えばユーザーがパノラマ画像を表示させたい場合、全方位画像の中心部分を除いた領域P1を用いてパノラマ画像1210が作成される。ここで、パノラマモードでは、図12に示すように、イメージサークル1201の一部領域が表示されないため、ユーザーが例えば監視を行っている画像に彩度レベル補正処理の効果が反映されない領域が存在することになる。すなわち、表示モードによっては画像に彩度レベル補正処理の効果が反映されない領域が存在するため、第3実施形態の彩度レベル補正パラメーター算出処理では、表示モードに応じた彩度レベル補正パラメーターを算出する。
図13は、第3実施形態における彩度レベル補正パラメーター算出処理のフローチャートである。以下、第3実施形態における彩度レベル補正処理の処理フローについて図13のフローチャートを参照して説明する。
まず、S1301において、彩度レベル補正パラメーター算出処理部503は、例えばクライアント装置102を介してユーザーにより選択された表示モードを取得する。
続いて、ステップS1302において、彩度レベル補正パラメーター算出処理部503は、式(1)による像高指標M(x,y)と、彩度強調処理パラメーターLと、S1301で取得した表示モードとに基づいて、彩度レベル補正パラメーターを算出する。
図14(a)と図14(b)は、第3実施形態において、表示モードとしてパノラマモードが選択された場合の、像高指標M、彩度レベル補正パラメーター(補正パラメーターN)の関係説明に用いる図である。図14(a)は、撮像素子の撮像範囲1400とイメージサークル1401を示した図である。図14(a)に示すように、イメージサークル1401において、画面中心側の領域P2はパノラマモードで表示されない領域であり、それ以外の領域P1はパノラマモードで表示される領域である。図14(b)は、第3実施形態の場合の像高指標Mと補正パラメーターNの関係の一例を実線1411により表した図であり、前述の図8同様に、縦軸が補正パラメーターN、横軸が像高指標Mを表している。
第3実施形態の場合、図14(a)および図14(b)に示すように、パノラマモードで表示されない領域P2では彩度レベル補正パラメーターが、彩度強調処理パラメーターから得られる値と同等の値に設定される。また、イメージサークル1401において、領域P2を除く、パノラマモードで表示される領域P1では、第1実施形態の図8で説明したのと同様に、像高指標Mに応じて彩度レベル補正処理の強度が徐々に弱まるように彩度レベル補正パラメーターが設定される。
このように、第3実施形態においては、表示モードに応じて彩度レベル補正処理パラメーターを算出することで、ユーザーが選択した表示モードに応じた最適な彩度レベル補正処理を実行することが可能になる。
なお、第3実施形態では、第1実施形態で説明した彩度強調処理パラメーターおよび画素の位置(像高または座標)に表示モードの情報を加えた例を挙げたが、さらに第2実施形態で説明した色成分の情報をも加えて彩度レベル補正処理パラメーターを算出してもよい。
以上説明したように、第1~第3実施形態においては、イメージサークル(結像範囲)の外縁の一部が撮像素子の撮像範囲内に含まれる画像に対し好適な彩度レベル補正処理を行うことで、色滲みを抑制することができる。第1~第3実施形態によれば、全方位画像を撮影可能な監視カメラにおいて、簡易な構成および少ない処理量で、撮像画像に発生する色滲み、特に、イメージサークルの外縁領域に発生するフリンジの発生を抑制するための彩度レベル補正処理を実現可能となる。
<その他の実施形態>
本実施形態の画像処理装置は、監視カメラに限定されない。例えば、広い画角範囲を撮影可能なデジタルカメラ、デジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末等の各種携帯端末にも適用可能であり、さらには工業用カメラ、車載カメラ、医療用カメラ等にも本実施形態は適用可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
101:監視レンズ、101:クライアント装置、201:撮像光学系、202:撮像センサー、209:画像処理部、203:CPU、403:彩度レベル補正処理部、503:彩度レベル補正パラメーター算出処理部、504:彩度レベル補正実行処理部

Claims (9)

  1. 撮像された全方位画像のイメージサークル内の彩度決定するための彩度パラメーターを取得す取得手段と、
    前記彩度パラメーターおよび前記イメージサークル内の画素の位置に基づいて、彩度レベル補正処理により前記彩度を低下させる強度を決定するための彩度レベル補正パラメーターを算出する算出手段と、
    前記撮像された前記全方位画像の彩度を、前記彩度レベル補正パラメーターに応じた彩度に低下させる彩度レベル補正処理を行う処理手段と、
    備え、
    前記算出手段は、前記イメージサークルの中心側よりも前記イメージサークル内の外縁側の前記画素の彩度が低下するように前記彩度レベル補正パラメーターを算出することを特徴とする画像処理装置。
  2. 前記撮像された前記全方位画像は、前記イメージサークルの外縁の少なくとも一部が、撮像素子の撮像範囲の内側に含まれる画像であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記算出手段は、前記画素の位置として、撮像素子の撮像面の中心からの距離を表す像高、または座標を用いることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記算出手段は、複数の変化点を有する前記彩度レベル補正パラメーターを算出することを特徴とする請求項1からのいずれか1項に記載の画像処理装置。
  5. 前記処理手段は、撮像素子への光入射のある領域に対して前記彩度レベル補正処理実行、前記光入射のない領域に対しては前記彩度レベル補正処理実行ないとを特徴とする請求項1からのいずれか1項に記載の画像処理装置。
  6. 前記算出手段は、前記彩度パラメーター前記イメージサークル内の画素の位置、及び前記撮像された全方位画像の色成分の情報に基づいて、前記彩度レベル補正パラメーターを算出することを特徴とする請求項1からのいずれか1項に記載の画像処理装置。
  7. 前記算出手段は、前記彩度パラメーターおよび前記イメージサークル内の画素の位置、及び前記全方位画像が表示される際の表示方法の情報に基づいて、前記彩度レベル補正パラメーターを算出することを特徴とする請求項1からのいずれか1項に記載の画像処理装置。
  8. 撮像された全方位画像を処理する画像処理装置が実行する画像処理方法であって、
    撮像された前記全方位画像のイメージサークル内の彩度決定するための彩度パラメーターを取得す取得工程と、
    前記彩度パラメーターおよび前記イメージサークル内の画素の位置に基づいて、彩度レベル補正処理により前記彩度を低下させる強度を決定するための彩度レベル補正パラメーターを算出する算出工程と、
    前記撮像された前記全方位画像の彩度を、前記彩度レベル補正パラメーターに応じた彩度に低下させる彩度レベル補正処理を行う処理工程と、
    備え、
    前記算出工程は、前記イメージサークルの中心側よりも前記イメージサークル内の外縁側の前記画素の彩度が低下するように前記彩度レベル補正パラメーターを算出することを特徴とする画像処理方法。
  9. コンピュータを、請求項1からのいずれか1項に記載の画像処理装置して機能させるためのプログラム。
JP2017201144A 2017-10-17 2017-10-17 画像処理装置、画像処理方法、及びプログラム Active JP7051365B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017201144A JP7051365B2 (ja) 2017-10-17 2017-10-17 画像処理装置、画像処理方法、及びプログラム
US16/159,363 US10861194B2 (en) 2017-10-17 2018-10-12 Image processing apparatus, image processing method, and storage medium
CN201811209221.4A CN109672810B (zh) 2017-10-17 2018-10-17 图像处理设备、图像处理方法和存储介质
EP18200887.0A EP3474532B1 (en) 2017-10-17 2018-10-17 Image processing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017201144A JP7051365B2 (ja) 2017-10-17 2017-10-17 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019075716A JP2019075716A (ja) 2019-05-16
JP7051365B2 true JP7051365B2 (ja) 2022-04-11

Family

ID=63915185

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017201144A Active JP7051365B2 (ja) 2017-10-17 2017-10-17 画像処理装置、画像処理方法、及びプログラム

Country Status (4)

Country Link
US (1) US10861194B2 (ja)
EP (1) EP3474532B1 (ja)
JP (1) JP7051365B2 (ja)
CN (1) CN109672810B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111246051B (zh) * 2018-11-09 2021-06-29 浙江宇视科技有限公司 自动检测条纹并抑制的方法、装置、设备及存储介质
JP7016835B2 (ja) * 2019-06-06 2022-02-07 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004088408A (ja) 2002-08-27 2004-03-18 Minolta Co Ltd デジタルカメラ
JP2011103640A (ja) 2009-10-15 2011-05-26 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2014078926A (ja) 2012-09-18 2014-05-01 Ricoh Co Ltd 画像調整装置、画像調整方法およびプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003060983A (ja) 2001-08-10 2003-02-28 Olympus Optical Co Ltd 撮像装置
JP4196845B2 (ja) * 2003-03-31 2008-12-17 セイコーエプソン株式会社 画像処理装置
US7576767B2 (en) 2004-07-26 2009-08-18 Geo Semiconductors Inc. Panoramic vision system and method
JP4770154B2 (ja) 2004-11-08 2011-09-14 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5018052B2 (ja) 2006-12-08 2012-09-05 株式会社ニコン 画像の色を補正する画像処理装置、および画像処理プログラム
JP5378283B2 (ja) 2010-03-29 2013-12-25 富士フイルム株式会社 撮像装置およびその制御方法
US9870617B2 (en) * 2014-09-19 2018-01-16 Brain Corporation Apparatus and methods for saliency detection based on color occurrence analysis

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004088408A (ja) 2002-08-27 2004-03-18 Minolta Co Ltd デジタルカメラ
JP2011103640A (ja) 2009-10-15 2011-05-26 Olympus Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2014078926A (ja) 2012-09-18 2014-05-01 Ricoh Co Ltd 画像調整装置、画像調整方法およびプログラム

Also Published As

Publication number Publication date
EP3474532B1 (en) 2021-12-08
JP2019075716A (ja) 2019-05-16
CN109672810A (zh) 2019-04-23
US20190114806A1 (en) 2019-04-18
CN109672810B (zh) 2021-07-30
EP3474532A1 (en) 2019-04-24
US10861194B2 (en) 2020-12-08

Similar Documents

Publication Publication Date Title
JP5971207B2 (ja) 画像調整装置、画像調整方法およびプログラム
WO2021073331A1 (zh) 基于终端设备的变焦虚化图像获取方法和装置
JP6065474B2 (ja) 撮像制御装置、撮像制御方法およびプログラム
RU2562918C2 (ru) Устройство для съемки изображения, система для съемки изображения и способ управления устройством для съемки изображения
TWI602152B (zh) 影像擷取裝置及其影像處理方法
JP6460653B2 (ja) 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP5968073B2 (ja) 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
JP5882789B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20140184853A1 (en) Image processing apparatus, image processing method, and image processing program
JP2007324856A (ja) 撮像装置、撮像制御方法
JP2013243639A (ja) 画像処理装置、画像処理方法及びプログラム
JP2015019354A (ja) 撮像装置、画像処理装置、および、これらの制御方法
JP7051365B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6299116B2 (ja) 撮像装置、撮像方法および記録媒体
JP7247609B2 (ja) 撮像装置、撮像方法およびプログラム
JP2019047336A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP7442989B2 (ja) 撮像装置、該撮像装置の制御方法、及びプログラム
JP2006135744A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP6157274B2 (ja) 撮像装置、情報処理方法及びプログラム
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP2015119436A (ja) 撮像装置
JP2016040870A (ja) 画像処理装置、像形成方法およびプログラム
JP5943682B2 (ja) 撮像装置、その制御方法及びプログラム
JP2019176302A (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200928

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220330

R151 Written notification of patent or utility model registration

Ref document number: 7051365

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151