JP2012129815A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2012129815A
JP2012129815A JP2010279790A JP2010279790A JP2012129815A JP 2012129815 A JP2012129815 A JP 2012129815A JP 2010279790 A JP2010279790 A JP 2010279790A JP 2010279790 A JP2010279790 A JP 2010279790A JP 2012129815 A JP2012129815 A JP 2012129815A
Authority
JP
Japan
Prior art keywords
light source
color reproduction
matrix
reproduction matrix
registered
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010279790A
Other languages
English (en)
Other versions
JP5649430B2 (ja
Inventor
Tsuyoshi Moriya
剛志 森谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2010279790A priority Critical patent/JP5649430B2/ja
Priority to KR1020110124427A priority patent/KR20120067283A/ko
Priority to US13/324,485 priority patent/US20120154625A1/en
Publication of JP2012129815A publication Critical patent/JP2012129815A/ja
Application granted granted Critical
Publication of JP5649430B2 publication Critical patent/JP5649430B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】画像処理装置、画像処理方法、およびプログラムを提供する。
【解決手段】撮像素子により撮像された画像信号を色再現行列に従って補正する色再現補正部と、色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶する記憶部と、前記画像信号から取得される色空間上の推定光源座標に応じ、前記記憶部に記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を前記色再現行列として算出する色再現行列算出部と、を備える、画像処理装置。
【選択図】図1

Description

本発明は、画像処理装置、画像処理方法、およびプログラムに関する。
近日、CCDやCMOSなどの撮像素子を用い、撮像レンズにより撮像素子の受光面上に結像された被写体の光学像を撮像する電子的な撮像装置が普及している。このような撮像装置には、撮像されたRGB成分からなる画像信号を光源色にかかわらず白い被写体が白く見えるように補正するホワイトバランス補正回路、および、色再現性を確保するために画像信号を色補正する色再現補正回路が組み込まれる。
ホワイトバランス補正回路においては、一般的にR=G=Bとなるように、入力RGB信号に対し、式1に示すようなホワイトバランスゲインであるKr、Kg、およびKbが乗算される。
Figure 2012129815
また、色再現補正回路においては、ホワイトバランス補正が行われたRGB信号であるR’、G’、B’に対し、式2に示すように3行3列からなる色再現行列(CCM)が乗算される。
Figure 2012129815
ここで、撮像装置には特定の光源に対して最適化されたCCMが事前に登録されている場合が多く、色再現補正回路は、この登録されているCCMをRGB信号に乗算することにより色補正を行う。しかし、この登録されているCCMは、実際の光源と異なる光源に最適化されたCCMであるので、良好な色再現性が得ることが困難である。このような観点から、撮影時の実際の光源座標を推定し、推定光源座標に応じてCCMを算出する技術が提案されている(例えば、特許文献1参照)。
特開2006−270135号公報
しかし、従来の技術では、事前に登録されたCCMを推定光源座標に基づいて線形補間し、線形補間により得られるCCMを用いて色再現処理を行うので、出力画像の色再現性を確保することが困難であるという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、光源色に応じた色再現行列をより高い精度で算出することが可能な、新規かつ改良された画像処理装置、画像処理方法、およびプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、撮像素子により撮像された画像信号を色再現行列に従って補正する色再現補正部と、色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶する記憶部と、前記画像信号から取得される色空間上の推定光源座標に応じ、前記記憶部に記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を前記色再現行列として算出する色再現行列算出部と、を備える画像処理装置が提供される。かかる構成によれば、光源による色再現性の相違を吸収できるので、高精度な色再現行列を算出することが可能である。
前記画像処理装置は、前記画像信号をホワイトバランスゲインに従って補正するホワイトバランス補正部と、前記ホワイトバランスゲインを算出するゲイン算出部と、を備え、前記色再現行列算出部は、前記ホワイトバランスゲインの逆数を前記推定光源座標として扱ってもよい。かかる構成によれば、ゲイン算出部により算出されるホワイトバランスゲインを色再現行列の算出のためにも有効活用することができる。
前記色再現行列算出部は、前記記憶部に記憶されている光源座標のうちで、前記推定光源座標の近傍である2以上の光源座標を選択し、選択した前記2以上の光源座標に対応付けられている前記登録色再現行列の逆行列を、前記2以上の光源座標の各々と前記推定光源座標との位置関係に応じて加重平均することにより補間してもよい。かかる構成により、より精度の高い色再現行列を算出することが可能である。
前記色再現行列算出部は、選択した前記2以上の光源座標の各々と前記推定光源座標との前記色空間上での距離比率を算出し、前記登録色再現行列の逆行列を前記距離比率に従って加重平均することにより補間してもよい。かかる構成により、推定光源座標におけるより精度の高い色再現行列を算出することが可能である。
前記色再現行列算出部は、色空間上での基準座標からの前記2以上の光源座標および前記推定光源座標との距離から、前記距離比率を算出してもよい。かかる構成によれば、距離比率の算出のための計算負荷を抑制することができる。
また、上記課題を解決するために、本発明の別の観点によれば、色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶するステップと、撮像素子により撮像された画像信号から取得される色空間上の推定光源座標に応じ、記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を色再現行列として算出するステップと、前記画像信号を算出された前記色再現行列に従って補正するステップと、を含む画像処理方法が提供される。かかる構成によれば、光源による色再現性の相違を吸収できるので、高精度な色再現行列を算出することが可能である。
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、撮像素子により撮像された画像信号を色再現行列に従って補正する色再現補正部と、色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶する記憶部と、前記画像信号から取得される色空間上の推定光源座標に応じ、前記記憶部に記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を前記色再現行列として算出する色再現行列算出部と、として機能させるためのプログラムが提供される。かかる構成によれば、光源による色再現性の相違を吸収できるので、高精度な色再現行列を算出することが可能である。
以上説明したように本発明によれば、光源色に応じた色再現行列をより高い精度で算出することができる。
本発明の実施形態による画像処理装置の構成を示した機能ブロック図である。 画像処理装置におけるデータフローを示した説明図である。 色温度の異なる光源のRGB比の、G=1.0で規格化された座標系におけるプロットを示した説明図である。 式3に従って算出されるDと式4に従って算出されるTの関係を示した説明図である。 登録光源情報の具体例を示した説明図である。 5500Kを基準光源とした場合の各登録光源への距離を同心円状に示した説明図である。 登録光源から推定光源までの距離比率を示した説明図である。 色再現行列記憶部が記憶する登録光源情報を図式化した説明図である。 本発明の実施形態による画像処理装置の動作を説明したフローチャートである。 色温度の異なる光源のホワイトバランスゲインの、RゲインがX軸に対応し、BゲインがY軸に対応する座標系におけるプロットを示した説明図である。 CCM補間を考察するための説明図である。 各プロットの具体値を示した説明図である。 推定光源を表わす座標qと、推定光源のCCMを補間算出するための登録光源の座標aおよびbを示した説明図である。
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
<1.画像処理装置の構成>
まず、図1を参照し、本発明の実施形態による画像処理装置10の全体構成を説明する。
図1は、本発明の実施形態による画像処理装置10の構成を示した機能ブロック図である。図1に示したように、画像処理装置10は、撮像光学系12、撮像素子14、AFE回路16、画像信号処理回路20、マイクロコントローラ30、色再現行列記憶部40、ドライバー42およびタイミングジェネレータ44を備える。
撮像光学系12は、複数の撮像レンズや絞り機構などからなり、被写体の光学像を撮像素子14の受光面に結像させる。複数の撮像レンズや絞り機構は、マイクロコントローラ30により制御されるドライバー42によって駆動される。
撮像素子14は、受光面に結像された被写体の光学像を、タイミングジェネレータ44によって生成されるタイミングに従って電気信号に変換する。なお、撮像素子14は、CMOS(Complementary Metal Oxide Semiconductor)撮像素子であってもよいし、CCD(Charge Coupled Device)撮像素子であってもよい。
AFE(Analog Front End)回路16は、A/D変換部17を含み、撮像素子14によって得られた画像信号をA/D変換する。AFE回路16によりデジタル形式に変換されたRGB画像信号は画像信号処理回路20に供給される。
画像信号処理回路20は、ホワイトバランス補正回路22、画像積算回路24、および色再現補正回路26などを有し、RGB画像信号を補正して出力する。この画像信号処理回路20内の各構成の詳細については図2などを参照して後述する。
マイクロコントローラ30は、露出手段32、ホワイトバランスゲイン算出手段34、および色再現行列算出手段36などを有し、画像処理装置10の動作全般を制御する。このマイクロコントローラ30内の各構成の詳細については図2などを参照して後述する。
色再現行列記憶部40は、色空間上の光源座標とCCMの組合せを登録光源情報(CCM Seed)として記憶する。なお、色再現行列記憶部40は、図7に示すように、基準座標からの距離、およびCCMの逆行列(ICCM)の組合せを登録光源情報として記憶してもよい。
このような画像処理装置10は、色再現行列算出手段36において高精度の色再現行列を算出し、当該色再現行列を用いた演算を色再現補正回路26において行うことが可能である。以下、色再現補正のための画像処理装置10におけるデータフローについて図2を参照して説明する。
<2.画像処理装置におけるデータフロー>
図2は、画像処理装置10におけるデータフローを示した説明図である。図2に示したように、撮像素子14およびAFE回路16から供給される画像信号は、一例として以下の順序で処理される。
(1)フロントプロセス21において欠陥画素補正および黒レベル補正などの前処理が施される。
(2)ホワイトバランス補正回路22においてホワイトバランスが補正される。
(3)図示しないベイヤー色補間(De mosaic)回路においてベイヤー色補間が行われる。
(4)色再現補正回路26において色再現行列に基づく色補正処理が行われる。
(5)ポストプロセス27においてガンマ補正およびYuv変換などの後処理が施される。
(6)表示装置/記録装置50に表示/記録される。
一方、フロントプロセス21により前処理が施された画像信号は、画像積算回路24により、N×Mのブロックに分割され、ブロックごとのRGB統計値がホワイトバランスゲイン算出手段34に供給される。
ホワイトバランスゲイン算出手段34は、ブロックごとのRGB統計値に基づいて有彩色、無彩色などの判定を行い、ホワイトバランス補正回路22で利用するためのホワイトバランスゲインを算出する。ここで、ホワイトバランスゲインの逆数は、光源のRGBバランス(光源色RGB比)、すなわち、色空間における推定光源座標として扱うことが可能である。
色再現行列算出手段36は、推定光源座標、および色再現行列記憶部40に光源座標ごとに記憶されている登録光源情報に基づいてCCMを動的に算出する。この色再現行列算出手段36によるCCMの算出方法の説明に先立ち、色再現行列記憶部40に記憶されている登録光源情報について図3を参照して説明する。
(登録光源情報)
図3は、色温度の異なる光源のRGB比の、G=1.0で規格化された座標系におけるプロットを示した説明図である。なお、光源のRGB比には、ホワイトバランスゲインの逆数を用いている。図3に示したように、プロット座標は、色温度の高い光源から低い光源への変化に伴って座標系の左上から右下へと変化する。色再現行列記憶部40は、一例として、この座標系におけるプロット座標とCCMの組合せを登録光源情報として記憶してもよい。
または、光源座標を基準座標(例えば、5500K)からの距離で表現し、色再現行列記憶部40は、基準座標からの距離とCCMの組合せを登録光源情報として記憶してもよい。かかる構成によれば、登録光源情報の形式が単純化されるので、処理の高速化および負荷抑制を図ることができる。なお、図3に示したように、複数の色温度の光源のプロット座標は略直線状に位置するので、基準座標からの距離を光源座標として扱っても誤差は少ないと考えられる。
なお、RGB比がRs、Bsで表現される基準光源から、RGB比がRx、Bxである光源までのEuclid距離は、以下の式3のように算出される。
Figure 2012129815
(式3)

しかし、上記の距離Dxだけでは、基準光源よりも高色温度の光源と低色温度の光源とを区別することが困難である。この点に関し、高色温度である光源はRが低く、Bが高くなること、逆に低色温度の光源はRが高く、Bが低くなることを利用し、以下の式4で算出されるTが正である場合には基準光源よりも高色温度であり、Tが負である場合には基準光源よりも低色温度であると判断可能である。そこで、色再現行列記憶部40は、式3により算出される距離D、および式4により算出されるTの正負情報と、CCMとの組み合わせを登録光源情報として記憶してもよい。
Figure 2012129815

(式4)
ここで、各色温度に関して式3により算出される距離D、および式4により算出されるTの関係を図4に示す。図4に示したように、DとTの差異は僅かである。そこで、色再現行列記憶部40は、式4により算出されるTを基準座標からの距離として扱い、当該TとCCMとの組み合わせを登録光源情報として記憶してもよい。
さらに、色再現行列算出手段36においては、光源座標のCCMの逆行列を用いて色再現のためのCCMが算出される。このため、色再現行列記憶部40は、図5に示したように、登録光源ごとに、基準座標からの距離Tと、CCMの逆行列の組合せを登録光源情報として記憶してもよい。かかる構成によれば、色再現行列算出手段36においてCCMの逆行列を演算する必要が無くなるので、色再現行列算出手段36における負荷を軽減することが可能となる。
(CCM算出方法)
続いて、図6および図7を参照し、色再現行列算出手段36が推定光源EのCCMを算出する方法を説明する。
図6は、5500Kを基準光源とした場合の各登録光源への距離を同心円状に示した説明図である。色再現行列算出手段36は、図6中の推定光源EのCCMを算出するために、まず、基準光源と推定光源Eとの距離Deを算出する。例えば、色再現行列算出手段36は、式4に従って基準光源と推定光源Eとの距離Deを算出してもよい。
そして、色再現行列算出手段36は、登録光源情報の距離情報と距離Deを比較し、推定光源Eの近傍の少なくとも2の登録光源を選択する。図6に示した例では、色再現行列算出手段36は、基準光源から距離Df離れている2300Kの登録光源、および基準光源からDn離れている2800Kの登録光源を選択する。
続いて、色再現行列算出手段36は、図7に示したK1とK2の比率、すなわち、選択した2の登録光源の各々と、推定光源Eとの距離の比率を以下の式5および式6に従って算出する。
Figure 2012129815
(式5)
Figure 2012129815
(式6)
さらに、色再現行列算出手段36は、2800Kの式7で示されるCCM aの逆行列、および2300Kの式8で示されるCCM bの逆行列を、K1およびK2に従って式9に示すように加重平均することにより補間する。さらに、色再現行列算出手段36は、式9により得られる補間結果ICCM qの逆行列を式10に示すように演算することにより、推定光源の色再現行列CCM qを算出する。
Figure 2012129815
(式7)
Figure 2012129815
(式8)
Figure 2012129815




(式9)
Figure 2012129815
(式10)
色再現補正回路26は、上述した色再現行列算出手段36により算出された色再現行列CCM qを画像信号に乗算することにより、出力画像の色再現性を確保することが可能である。
(具体値を用いたCCMの算出例)
図8は、色再現行列記憶部40が記憶する図5に示した登録光源情報を図式化した説明図である。以下では、図8中の推定光源EのCCMの算出例を具体的な数値を用いて説明する。
まず、色再現行列算出手段36は、基準光源から推定光源Eまでの距離Deを例えば式4に従って算出する。ここで、距離Deとして図8に示したように「0.286」が算出されたとする。
この場合、色再現行列算出手段36は、0.286より距離の大きい近傍の登録光源(3200K)と、0.286より距離の小さい登録光源(4000K)を選択する。
その後、色再現行列算出手段36は、式5および式6に従って距離比K1およびK2を算出し、距離比K1およびK2を用いてICCM補間計算を行う。具体的には、3200KのICCMと、4000KのICCMを、K2:K1の割合で加重平均する。
そして、色再現行列算出手段36は、加重平均により得られた推定光源EのICCMの逆行列を求め、ICCMの逆行列を推定光源EのCCMとして出力する。
なお、ICCM補間計算に際し、推定光源Eが色再現行列記憶部40に記憶されている登録光源の座標範囲外である場合には、下限または上限の登録光源のCCMが出力される。例えば、推定光源Eが登録光源の距離情報の最低値(‐0.175)を下回る場合、7500KのCCMが推定光源EのCCMとして固定されてもよい。同様に、推定光源Eが登録光源の距離情報の最高値(0.843)を上回る場合、2000KのCCMが推定光源EのCCMとして固定されてもよい。
<3.画像処理装置の動作>
以上、画像処理装置10の構成およびデータフローについて説明した。続いて、図9を参照し、画像処理装置10の動作を説明する。
図9は、本発明の実施形態による画像処理装置10の動作を説明したフローチャートである。図9に示したように、色再現行列算出手段36は、まず、ホワイトバランスゲインの逆数のRGB比を推定光源座標として算出する(S210)。続いて、色再現行列算出手段36は、色再現行列記憶部40に記憶されている登録光源情報から、推定光源座標の近傍2点の登録光源座標を選択する(S220)。
その後、色再現行列算出手段36は、選択した近傍2点のICCM(CCMの逆行列)を、推定光源と近傍2点の各々との距離比に従って線形補間する(S230)。さらに、色再現行列算出手段36は、補間結果の逆行列を求めることによって推定光源のCCMを取得する(S240)。こうして取得されたCCMは、色再現補正回路26における色再現補正のために用いられる。
<4.本実施形態の意義、効果>
次に、本発明の実施形態のように、登録光源のCCMでなく、登録光源のICCMを補間することの意義および効果を説明する。
図10は、色温度の異なる光源のホワイトバランスゲインの、RゲインがX軸に対応し、BゲインがY軸に対応する座標系におけるプロットを示した説明図である。図10に示したように、ホワイトバランスゲインを参照することにより、撮影時の光源色を妥当に判断することが可能である。
以下では、上記のホワイトバランスゲインに基づき、推定光源の近傍の2点の登録光源のICCMを補間する手法について図11を参照しながら考察する。
図11は、CCM補間を考察するための説明図である。図11に示したように、登録光源Aのホワイトバランスゲインは座標AGで表わされ、登録光源Bのホワイトバランスゲインは座標BGで表わされ、登録光源AおよびBが推定光源の近傍の光源として選択された場合を考える。
ここで、登録光源Aおよび登録光源BのRGB比は、各々のホワイトバランスゲインの逆数であるから、座標Aおよび座標Bである。なお、各座標の具体値は図12に示した通りである。
この場合、登録光源Aと登録光源Bの中間光源のRGB比は、(A+B)/2で算出される座標Pで表わされ、この中間光源のホワイトバランスゲインは座標Pの逆数である座標PGとなる。
一方、登録光源AのホワイトバランスゲインAGおよび登録光源BのホワイトバランスゲインBGを用いて図11に(AG+BG)/2を示したが、この(AG+BG)/2は、上述した中間光源のホワイトバランスゲインの座標PGと一致しないことが分かる。なお、(AG+BG)/2の逆数で表わされる光源は、図11にFailureでしめした座標となる。
以上より、ホワイトバランスゲインは、例えばG=1.0で規格化した後、その逆数であるRGB比を算出して、R/GがX軸に対応し、B/GがY軸に対応する座標系でRGB比を評価することが有効である。さらに、補間計算については、ゲインに対して行うと正しい値を取得できないので、RGB比に対して行うことが効果的である。
続いて、図13を参照し、CCMの補間方法について考察する。
図13は、推定光源を表わす座標qと、推定光源のCCMを補間算出するための登録光源の座標aおよびbを示した説明図である。推定光源を表わす座標qは、例えばホワイトバランスゲインの逆数として求められる。この座標qのCCMを、座標qの近傍の登録光源aおよびbと座標qとの距離比に応じて従来技術による方法で補間する場合を考察する。
従来技術による方法では、式11で示される座標aに最適化されたCCM a、および式12で示される座標bに最適化されたCCM bを、式13に示すように、距離比を示すk1およびk2によって線形補間してCCM qが算出される。
Figure 2012129815
(式11)
Figure 2012129815
(式12)
Figure 2012129815
(式13)
しかし、上述したように、ホワイトバランスゲインを対象に補間計算を行っても適切な結果は得られない。同様に、CCMは3×3の行列であるがゲインの一種と捉えることができる。なお、ホワイトバランスゲインを3×3の行列で表わすと式14のようになる。
Figure 2012129815
(式14)
以上より、CCMについても同様に、逆数(逆行列)を求めてから補間計算を行わなければ正しい結果を得ることが困難である。すなわち、式13に示した演算では正しい補間結果が得られない。
これに対し、本実施形態では、式9に示したようにCCM aおよびCCM bの逆行列を求めてから補間計算を行うことによりICCM qを求め、式10に示したようにICCM qの逆行列を求めることで、高精度なCCM qを得ることが可能である。
<5.補足>
なお、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記では主にRGB比を元に規格化された色空間を用いてCCMを算出する例を説明したが、本発明はかかる例に限定されない。変形例として、YxyおよびLabなどの規格化された色空間を用いて同様の方法によりCCMを算出することも本発明の技術的範囲に属する。
また、本明細書の画像処理装置10の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、画像処理装置10における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、画像処理装置10に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した画像処理装置10の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
10 画像処理装置
12 撮像光学系
14 撮像素子
16 AFE回路
20 画像信号処理回路
22 ホワイトバランス補正回路
24 画像積算回路
26 色再現補正回路
30 マイクロコントローラ
32 露出補正手段
34 ホワイトバランスゲイン算出手段
36 色再現行列算出手段
40 色再現行列記憶部
42 ドライバー
44 タイミングジェネレータ

Claims (7)

  1. 撮像素子により撮像された画像信号を色再現行列に従って補正する色再現補正部と、
    色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶する記憶部と、
    前記画像信号から取得される色空間上の推定光源座標に応じ、前記記憶部に記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を前記色再現行列として算出する色再現行列算出部と、
    を備える、画像処理装置。
  2. 前記画像処理装置は、
    前記画像信号をホワイトバランスゲインに従って補正するホワイトバランス補正部と、
    前記ホワイトバランスゲインを算出するゲイン算出部と、
    を備え、
    前記色再現行列算出部は、前記ホワイトバランスゲインの逆数を前記推定光源座標として扱う、請求項1に記載の画像処理装置。
  3. 前記色再現行列算出部は、
    前記記憶部に記憶されている光源座標のうちで、前記推定光源座標の近傍である2以上の光源座標を選択し、
    選択した前記2以上の光源座標に対応付けられている前記登録色再現行列の逆行列を、前記2以上の光源座標の各々と前記推定光源座標との位置関係に応じて加重平均することにより補間する、請求項2に記載の画像処理装置。
  4. 前記色再現行列算出部は、
    選択した前記2以上の光源座標の各々と前記推定光源座標との前記色空間上での距離比率を算出し、前記登録色再現行列の逆行列を前記距離比率に従って加重平均することにより補間する、請求項3に記載の画像処理装置。
  5. 前記色再現行列算出部は、
    色空間上での基準座標からの前記2以上の光源座標および前記推定光源座標との距離から、前記距離比率を算出する、請求項4に記載の画像処理装置。
  6. 色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶するステップと、
    撮像素子により撮像された画像信号から取得される色空間上の推定光源座標に応じ、記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を色再現行列として算出するステップと、
    前記画像信号を算出された前記色再現行列に従って補正するステップと、
    を含む、画像処理方法。
  7. コンピュータを、
    撮像素子により撮像された画像信号を色再現行列に従って補正する色再現補正部と、
    色空間上の光源座標ごとに登録色再現行列または前記登録色再現行列の逆行列を記憶する記憶部と、
    前記画像信号から取得される色空間上の推定光源座標に応じ、前記記憶部に記憶されている2以上の光源座標の前記登録色再現行列の逆行列を補間し、補間結果の逆行列を前記色再現行列として算出する色再現行列算出部と、
    として機能させるための、プログラム。
JP2010279790A 2010-12-15 2010-12-15 画像処理装置、画像処理方法、およびプログラム Expired - Fee Related JP5649430B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010279790A JP5649430B2 (ja) 2010-12-15 2010-12-15 画像処理装置、画像処理方法、およびプログラム
KR1020110124427A KR20120067283A (ko) 2010-12-15 2011-11-25 화상처리장치, 화상처리방법, 및 프로그램 기록매체
US13/324,485 US20120154625A1 (en) 2010-12-15 2011-12-13 Image processing apparatus, image processing method, and program recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010279790A JP5649430B2 (ja) 2010-12-15 2010-12-15 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2012129815A true JP2012129815A (ja) 2012-07-05
JP5649430B2 JP5649430B2 (ja) 2015-01-07

Family

ID=46646371

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010279790A Expired - Fee Related JP5649430B2 (ja) 2010-12-15 2010-12-15 画像処理装置、画像処理方法、およびプログラム

Country Status (2)

Country Link
JP (1) JP5649430B2 (ja)
KR (1) KR20120067283A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015204481A (ja) * 2014-04-11 2015-11-16 株式会社シグマ 色再現補正方法、色再現補正装置及び撮像装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005020048A (ja) * 2003-06-23 2005-01-20 Nikon Corp 撮像装置
JP2010081051A (ja) * 2008-09-24 2010-04-08 Nikon Corp 色変換方法、色変換装置、色変換プログラム
JP2010130468A (ja) * 2008-11-28 2010-06-10 Olympus Corp ホワイトバランス調整装置、ホワイトバランス調整方法、ホワイトバランス調整プログラム、および、撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005020048A (ja) * 2003-06-23 2005-01-20 Nikon Corp 撮像装置
JP2010081051A (ja) * 2008-09-24 2010-04-08 Nikon Corp 色変換方法、色変換装置、色変換プログラム
JP2010130468A (ja) * 2008-11-28 2010-06-10 Olympus Corp ホワイトバランス調整装置、ホワイトバランス調整方法、ホワイトバランス調整プログラム、および、撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015204481A (ja) * 2014-04-11 2015-11-16 株式会社シグマ 色再現補正方法、色再現補正装置及び撮像装置

Also Published As

Publication number Publication date
KR20120067283A (ko) 2012-06-25
JP5649430B2 (ja) 2015-01-07

Similar Documents

Publication Publication Date Title
US7755681B2 (en) Apparatus and method of gamma correction in digital image processing device
US8135213B2 (en) Physical quantity interpolating method, and color signal processing circuit and camera system using the same
US10516825B2 (en) Image processing device, image processing method, and computer program product for correcting a motion vector of a low-reliability block
WO2018220711A1 (ja) 画像処理装置
TW201601538A (zh) 影像擷取裝置及其影像補償方法
US8559747B2 (en) Image processing apparatus, image processing method, and camera module
US8648937B2 (en) Image processing apparatus, image processing method, and camera module
JP2019530322A (ja) イメージセンサのピクセルアレイの明度補正
KR20110016812A (ko) 촬상장치 및 촬상방법
JP2006270135A (ja) 電子的撮像装置における色再現補正装置
JP2008092565A (ja) カラーマッチング方法及び撮像装置
JP5631769B2 (ja) 画像処理装置
JP5649430B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5033702B2 (ja) 撮像装置
US9154757B2 (en) Imaging device
JP5330291B2 (ja) 信号処理装置及び撮像装置
KR20140077098A (ko) 촬상 장치 및 촬상 방법
CN113096046A (zh) 一种图像处理方法及装置
US8861887B2 (en) Image processing apparatus, image processing method, and camera module with shading correction
JP2005175909A (ja) 信号処理方法および画像取得装置
JP2005167896A (ja) 画像信号処理装置及び画像信号処理方法
CN115643387A (zh) 校正方法、装置、设备、可读存储介质及程序产品
JP5775413B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20120062763A1 (en) Image processing apparatus, image processing method, and camera module
KR101315299B1 (ko) 디지털 영상 처리장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141021

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141111

R150 Certificate of patent or registration of utility model

Ref document number: 5649430

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees