JP5899894B2 - 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法 - Google Patents

撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法 Download PDF

Info

Publication number
JP5899894B2
JP5899894B2 JP2011277725A JP2011277725A JP5899894B2 JP 5899894 B2 JP5899894 B2 JP 5899894B2 JP 2011277725 A JP2011277725 A JP 2011277725A JP 2011277725 A JP2011277725 A JP 2011277725A JP 5899894 B2 JP5899894 B2 JP 5899894B2
Authority
JP
Japan
Prior art keywords
image
unit
color
imaging
illumination environment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011277725A
Other languages
English (en)
Other versions
JP2013128259A (ja
Inventor
神頭 信之
信之 神頭
清水 雅芳
雅芳 清水
浩寧 吉川
浩寧 吉川
由樹雄 平井
由樹雄 平井
上村 拓也
拓也 上村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2011277725A priority Critical patent/JP5899894B2/ja
Priority to US13/664,912 priority patent/US20130155254A1/en
Publication of JP2013128259A publication Critical patent/JP2013128259A/ja
Application granted granted Critical
Publication of JP5899894B2 publication Critical patent/JP5899894B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法に関する。
従来、可視光による画像を撮影するデジタルカメラなどの撮像装置では、赤外カットフィルタを設けて赤外光をカットし、可視光のみによる画像の撮影を行う。一方、赤外光を照射して撮影を行うアクティブセンサを有する撮影装置では、赤外カットフィルタを設けずに可視光および赤外光による画像の撮影を行う。可視光および赤外光による画像の撮影を行う撮影装置は、監視カメラ、視線検出装置などに用いられる。この可視光および赤外光による画像は、赤外光分を含む影響により、可視光のみによる画像と比べて色合いが変化する。
ところで、可視光による画像の撮影と赤外光による画像の撮影とを1台で兼用する場合、撮影装置に赤外カットフィルタを着脱する着脱機構を設ける構成が考えられる。しかし、着脱機構を設けた場合、撮影装置が大型化し、製造コストも増大する。特に、携帯電話やスマートフォンなどカメラを有する携帯端末では、装置の大型化は問題である。
そこで、赤外カットフィルタを除去し、行列演算を用いた信号処理によって、可視光および赤外光による画像に対して色補正を行う技術が提案されている。ところで、赤外カットフィルタを除去した撮影装置により撮影された画像は、撮影時に照明条件によって色合いが大きく異なる結果となる。そこで、撮影画像の色補正を行う次のような技術が提案されている。例えば、撮影画像の各画素の色を示すR(Red)、G(Green)、B(Blue)の画素値を色毎に積算し、Rの積算値とGの積算値との比(ΣR/ΣG)又はBの積算値とGの積算値との比(ΣB/ΣG)から色温度を推定し、色温度に応じて色変換を行う技術がある。また、撮影装置に可視光センサに加えて、紫外、赤外の専用のセンサを設けて、紫外、赤外の専用のセンサにより可視光に対する紫外、赤外の相対強度を測定して光源を推定する技術がある。
特開2006−094112号公報 特開2008−275582号公報
ところで、例えば、白熱電球は、可視領域に対して赤外領域の強度が強い。一方、蛍光ランプは、可視に対して赤外領域の強度が弱い。このため、撮影時の照明として白熱電球を用いた場合の方が蛍光ランプの場合よりも赤外光の撮像装置への混入が大きく、撮影画像の無彩色の度合いが大きくなる。このため、撮影時の照明として白熱電球を用いた場合の方が蛍光ランプの場合よりも、撮影画像に対する色補正量を大きくしなければならない。しかし、白熱電球および蛍光ランプは、何れも色温度が3000K程度となる場合もあり得る。
このように、照明環境が異なっても同一の色温度となる場合がある。このため、撮影画像に対して適切な色補正を行うには、撮影時の照明を推定する必要がある。しかし、先行技術のように、撮影画像のRの積算値とGの積算値との比(ΣR/ΣG)、又はBの積算値とGの積算値との比(ΣB/ΣG)の関係から色温度を推定しても、照明環境を推定できない。すなわち、先行技術は、推定した色温度に応じて色変換を行うこととなるため、適切な色変換が行われず、色再現性が不十分な画像になる。
なお、撮影装置に紫外、赤外の専用のセンサを設けた場合、装置が大型化してしまい、コストが上昇してしまうことが考えられる。
開示の技術は、上記の事実に鑑みてなされたものであって、撮影画像から撮影時の照明環境を精度良く推定できる撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法を提供することを目的とする。
本願の開示する撮像装置は、一つの態様において、可視光および赤外光に対して感度を有し、画像を撮影する撮影部を有する。また、撮像装置は、前記撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出する導出部を有する。また、撮像装置は、前記導出部により導出された特徴量に基づいて、撮影時の照明環境を推定する推定部を有する。
本願の開示する撮像装置の一つの態様によれば、撮影画像から撮影時の照明環境を精度良く推定できる。
図1は、撮影装置の構成の一例を示す図である。 図2は、赤外カットフィルタを設けた撮影装置によりカラーチェッカーターゲットを撮影した画像の一例を示す図である。 図3は、赤外カットフィルタを設けていない撮影装置によりカラーチェッカーターゲットを撮影した画像の一例を示す図である。 図4は、カラーチェッカーターゲットの各色見本領域による反射光の分光特性を示す図である。 図5は、一般的な撮像素子の分光感度特性の一例を示す図である。 図6Aは、赤外カットフィルタ有りの撮影装置の分光感度特性の一例を示す図である。 図6Bは、赤外カットフィルタ無しの撮影装置の分光感度特性の一例を示す図である。 図7は、反射物のサンプルの分光特性の一例を示す図である。 図8は、赤外カットフィルタ無しの撮影装置および赤外カットフィルタ有りの撮影装置により、反射物のサンプルを撮影した場合の画像のRGBの値の一例を示す図である。 図9Aは、白熱電球の照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。 図9Bは、太陽光の照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。 図9Cは、蛍光ランプの照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。 図10Aは、図9Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図10Bは、図9Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図10Cは、図9Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図11Aは、白熱電球の照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。 図11Bは、太陽光の照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。 図11Cは、蛍光ランプの照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。 図12Aは、図11Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図12Bは、図11Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図12Cは、図11Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図13Aは、白熱電球の照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。 図13Bは、太陽光の照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。 図13Cは、蛍光ランプの照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。 図14Aは、図13Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図14Bは、図13Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図14Cは、図13Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図15Aは、白熱電球の照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。 図15Bは、太陽光の照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。 図15Cは、蛍光ランプの照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。 図16Aは、図15Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図16Bは、図15Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図16Cは、図15Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図17Aは、白熱電球の照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。 図17Bは、太陽光の照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。 図17Cは、蛍光ランプの照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。 図18Aは、図17Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図18Bは、図17Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図18Cは、図17Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。 図19Aは、色度分布のx方向の最大値を光源の種類毎に分けてヒストグラム化した結果を示す図である。 図19Bは、色度分布のy方向の最大値を光源の種類毎に分けてヒストグラム化した結果を示す図である。 図20Aは、図9Aの画像を白熱電球に対応した補正係数により補正した結果の一例を示す図である。 図20Bは、図9Bの画像を太陽光に対応した補正係数により補正した結果の一例を示す図である。 図21は、撮像処理の手順を示すフローチャートである。 図22は、画像処理プログラムを実行するコンピュータを示す図である。
以下に、本発明にかかる撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。以下では、撮影システムに本発明を適用した場合について説明する。
実施例1に係る撮影システムについて説明する。図1は、撮影装置の構成の一例を示す図である。撮像装置10は、静止画や動画の撮影を行う機器であり、例えば、デジタルカメラやビデオカメラ、監視カメラなどである。なお、撮像装置10は、カメラを有する携帯端末であってもよい。撮像装置10は、撮影部11と、導出部12と、推定部13と、記憶部14と、生成部15と、補正部16と、ガンマ補正部17と、画質調整部18と、出力部19と、メモリカード20とを有する。
撮影部11は、画像の撮像を行う。例えば、撮影部11は、レンズなどの光学系部品、および光学系部品の光軸上に配置された、CCD(Charge Coupled Devices)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子を有する。撮影部11は、光学系部品に赤外カットフィルタが含まれておらず、可視光および赤外光に対して感度を有する。撮影部11は、光学系部品を介して可視光および赤外光が撮像素子に入射する。撮像素子は、各画素に対応してRGBが所定パターンで配列したカラーフィルタが受光面に設けられており、各画素で受光した光量に応じたアナログ信号を出力する。
撮影部11は、撮像素子から出力されたアナログ信号に対して相関2重サンプリングなどのノイズ除去処理や、増幅処理など各種のアナログ信号処理を行う。そして、撮影部11は、アナログ信号処理されたアナログ信号をデジタルデータに変換し、デモザイク処理など各種のデジタル信号処理を行い、撮像された画像を示す画像情報を出力する。この画像情報の各画素は、RGBの色空間で所定階調により色を示す値が定められている。この撮影部11により撮影された画像は、赤外光分を含む影響により、可視光のみによる画像と比べて色合いが変化する。
ここで、x−rite社製のカラーチェッカーターゲットを撮影した画像を用いて色合いが変化の一例を説明する。図2は、赤外カットフィルタを設けた撮影装置によりカラーチェッカーターゲットを撮影した画像の一例を示す図である。図3は、赤外カットフィルタを設けていない撮影装置によりカラーチェッカーターゲットを撮影した画像の一例を示す図である。図2および図3に示すように、カラーチェッカーターゲット200は、グレートーンを含む(A)〜(X)の24色の矩形の色見本領域201を有する。図2は、図3に比べて色合いが変化している。
各色見本領域201による反射光には、可視光と共に赤外光が含まれる。図4は、カラーチェッカーターゲットの各色見本領域による反射光の分光特性を示す図である。図4の例では、各色見本領域201に付された(A)〜(X)に対応付けて各色見本領域201による反射光の分光特性を示している。また、図4の例では、(A)〜(X)に対応させて各色見本領域201の各色の名称を示している。例えば、(A)が付された色見本領域201の色は、dark skinである。
撮像素子は、可視光および赤外光に対して感度を有する。図5は、一般的な撮像素子の分光感度特性の一例を示す図である。図5に示すように撮像素子は、各画素がそれぞれRGBの波長域と共に、波長が700nm以上の赤外光の波長域に対しても感度を有する。このため、撮像素子は、RGBの各色の受光部に可視光に加えて赤外光も入射した場合、赤外光を受光した分の電荷が発生する。この赤外光を受光した分の電荷の影響により撮影される画像の色合いが変化する。
一例として図5に示した分光感度特性を簡略化したモデルを用いて、赤外カットフィルタを外すことよって、画像の色合いが変化する理由を具体的に説明する。図6Aは、赤外カットフィルタ有りの撮影装置の分光感度特性の一例を示す図である。図6Aに示すように、カットフィルタ有りの撮影装置は、RGBの光に対する感度を「10」とし、赤外光に対する感度を「0」とする。図6Bは、赤外カットフィルタ無しの撮影装置の分光感度特性の一例を示す図である。図6Bに示すように、カットフィルタ無しの撮影装置は、RGBの光、および赤外光に対する感度を「10」とする。このような赤外カットフィルタ無しの撮影装置および赤外カットフィルタ有りの撮影装置により、例えば青系の色の反射物のサンプルを撮影するものとする。図7は、反射物のサンプルの分光特性の一例を示す図である。図7の例では、Rおよび赤外の波長域の分光特性が「8」、GBの波長域の分光特性が「4」であるものとする。図8は、赤外カットフィルタ無しの撮影装置および赤外カットフィルタ有りの撮影装置により、反射物のサンプルを撮影した場合の画像のRGBの値の一例を示す図である。なお、図8の例では、RGB値を規格化して示している。
赤外カットフィルタ有りの撮影装置により撮影される画像のRGBの値は、図6Aに示すRGBの光に対する感度と図7に示す青色系サンプルをそれぞれ色成分ごとに掛けて積分することによって得られる。例えば、赤外カットフィルタ無しの撮影装置により撮影される画像のRGBの値は、以下のように求まる。
Rの値=10×8=80
Gの値=10×4=40
Bの値=10×4=40
なお、図8の例では、赤外カットフィルタ有りの撮影装置のRGB値を、R:G:B=80:40:40=1:0.5:0.5と規格化し、比率で示している。
また、赤外カットフィルタ無しの撮影装置により撮影される画像のRGBの値は、図6Bに示すRGBの光および赤外光に対する感度と図7に示す青色系サンプルをそれぞれ色成分ごとに掛けて積分することによって得られる。例えば、赤外カットフィルタ無しの撮影装置により撮影される画像のRGBの値は、以下のように求まる。
Rの値=10×8+10×8=160
Gの値=10×4+10×8=120
Bの値=10×4+10×8=120
なお、図8の例では、赤外カットフィルタ無しの撮影装置のRGB値を、R:G:B=160:120:120=1:0.75:0.75と規格化し、比率で示している。
図8に示すように、RGBの値は、赤外カットフィルタ有りの撮影装置よりも、赤外カットフィルタ無しの撮影装置の方が値の差が少なくなっている。すなわち、赤外カットフィルタ無しの撮影装置の方が赤外カットフィルタ有りの撮影装置よりも撮影された画像の色合いが変化し、無彩色に近づいている。撮影装置の赤外の感度がさらに高くなると、撮影された画像は、さらに無彩色に近づくことになる。
ところで、一般的な照明は、可視に対する赤外光の大きさを大まかに大中小の3段階に大別することができる。例えば、白熱電球は赤外光が多く含まれる。また、太陽光は赤外光が白熱電球よりも少なく、蛍光ランプよりも多い中程度含まれる。蛍光ランプは赤外光が含まれる量が少ない。
撮影時の照明を白熱電球、太陽光、蛍光ランプにそれぞれ変えて、被写体を撮影した画像を例にして色合いの変化を示す。図9Aは、白熱電球の照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。図9Bは、太陽光の照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。図9Cは、蛍光ランプの照明環境で樹木の風景の画像を撮影した画像の一例を示す図である。白熱電球、太陽光、蛍光ランプでは、白熱電球は赤外光の混入量が最も多く、蛍光灯は赤外光の混入量が最も少ない。このため、図9Aに示すように、白熱電球で撮影された画像は、無彩色に近い画像となる。また、図9Cに示すように、蛍光ランプで撮影された画像は、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。
図9A〜図9Cに示した画像の色合いの違いを明確にするため、図9A〜図9Cに示した画像のXYZ表色系のxy色度座標での色度分布を用いて比較する。図10Aは、図9Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図10Bは、図9Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図10Cは、図9Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図10A〜図10Cの横軸のx成分は、RGB色空間のR成分の割合を表す。また、図10A〜図10Cの縦軸のy成分は、RGB色空間のG成分の割合を表す。図10A〜図10Cを比較した場合、図10C、図10B、図10Aの順に色度分布の拡がり度合が小さくなっている。この理由は、赤外光成分が多い撮影環境で撮影された画像は、無彩色に近い画像となりRGBの値の差が少なくなるためである。
以下、他の様々な被写体を撮影した画像を例にして色合いの変化をさらに示す。図11Aは、白熱電球の照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。図11Bは、太陽光の照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。図11Cは、蛍光ランプの照明環境で河川敷の風景の画像を撮影した画像の一例を示す図である。この場合も、図11Aに示すように、白熱電球で撮影された画像は、無彩色に近い画像となる。また、図11Cに示すように、蛍光ランプで撮影された画像は、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。
図11A〜図11Cに示した画像の色合いの違いを明確にするため、図11A〜図11Cに示した画像のXYZ表色系のxy色度座標での色度分布を用いて比較する。図12Aは、図11Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図12Bは、図11Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図12Cは、図11Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図12A〜図12Cを比較した場合も、図12C、図12B、図12Aの順に色度分布の拡がり度合が小さくなっている。
図13Aは、白熱電球の照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。図13Bは、太陽光の照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。図13Cは、蛍光ランプの照明環境で川を見下す風景の画像を撮影した画像の一例を示す図である。この場合も、図13Aに示すように、白熱電球で撮影された画像は、無彩色に近い画像となる。また、図13Cに示すように、蛍光ランプで撮影された画像は、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。
図13A〜図13Cに示した画像の色合いの違いを明確にするため、図13A〜図13Cに示した画像のXYZ表色系のxy色度座標での色度分布を用いて比較する。図14Aは、図13Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図14Bは、図13Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図14Cは、図13Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図14A〜図14Cを比較した場合も、図14C、図14B、図14Aの順に色度分布の拡がり度合が小さくなっている。
図15Aは、白熱電球の照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。図15Bは、太陽光の照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。図15Cは、蛍光ランプの照明環境で室内の展示会の風景の画像を撮影した画像の一例を示す図である。この場合も、図15Aに示すように、白熱電球で撮影された画像は、無彩色に近い画像となる。また、図15Cに示すように、蛍光ランプで撮影された画像は、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。
図15A〜図15Cに示した画像の色合いの違いを明確にするため、図15A〜図15Cに示した画像のXYZ表色系のxy色度座標での色度分布を用いて比較する。図16Aは、図15Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図16Bは、図15Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図16Cは、図15Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図16A〜図16Cを比較した場合も、図16C、図16B、図16Aの順に色度分布の拡がり度合が小さくなっている。
図17Aは、白熱電球の照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。図17Bは、太陽光の照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。図17Cは、蛍光ランプの照明環境で皿に盛った料理の画像を撮影した画像の一例を示す図である。この場合も、図17Aに示すように、白熱電球で撮影された画像は、無彩色に近い画像となる。また、図17Cに示すように、蛍光ランプで撮影された画像は、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。
図17A〜図17Cに示した画像の色合いの違いを明確にするため、図17A〜図17Cに示した画像のXYZ表色系のxy色度座標での色度分布を用いて比較する。図18Aは、図17Aの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図18Bは、図17Bの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図18Cは、図17Cの画像のXYZ表色系のxy色度座標での色度分布を示すグラフである。図18A〜図18Cを比較した場合も、図18C、図18B、図18Aの順に色度分布の拡がり度合が小さくなっている。
このように、撮影された画像は、撮影時の照明環境の違い、すなわち近赤外の混入量の違いによって色度分布の広がり方に十分有意差がある。白熱電球により撮影された画像は、無彩色に近く、色味が少なくなるため最も色度分布が狭くなる。蛍光ランプにより撮影された画像は、有彩色に最も近く、色味が多くなるため色度分布が最も広くなる。太陽光により撮影された画像は、色度分布がそれらの間に位置する。よって、撮影された画像の各画素の色の色度分布の拡がり度合い示す特徴量を導出できれば、特徴量から撮影時の照明を推定できる。この特徴量としては、例えば、色度分布の最大値、最小値、標準偏差が挙げられる。
図19Aは、色度分布のx方向の最大値を光源の種類毎に分けてヒストグラム化した結果を示す図である。図19Aの例は、図10A〜10C、図12A〜12C、図14A〜14C、図16A〜16C、図18A〜18Cおよび図示しないその他の画像についての色度分布のx方向の最大値を光源の種類毎に分けてヒストグラム化した結果である。図19Bは、色度分布のy方向の最大値を光源の種類毎に分けてヒストグラム化した結果を示す図である。図19Bの例は、図10A〜10C、図12A〜12C、図14A〜14C、図16A〜16C、図18A〜18Cおよび図示しないその他の画像についての色度分布のy方向の最大値を光源の種類毎に分けてヒストグラム化した結果である。図19A、19Bに示すように、光源の種類毎にヒストグラムの最大値の分布が異なる。本実施例では、色度分布のx方向の最大値を用いて撮影時の照明を推定する。
図1に戻り、導出部12は、各種の導出を行う。例えば、導出部12は、撮影部11により撮影された画像の各画素の色の色度分布を求めた場合の当該色度分布の拡がり度合いを示す色度分布のx方向の最大値を導出する。
推定部13は、撮影時の照明環境の推定を行う。例えば、推定部13は、導出部12により導出された色度分布のx方向の最大値に基づいて、撮影時の照明環境を推定する。
ここで、図19Aに示したように、色度分布のx方向の最大値は、光源の種類毎にヒストグラムの分布が異なる。よって、閾値を適切に定めることにより、色度分布のx方向の最大値から光源の種類を判別できる。本実施例では、2つの閾値T1、T2を用いて撮影時の照明環境を推定する。閾値T1は、例えば、白熱電球でのヒストグラムと太陽光でのヒストグラムの境界と見なせる値に定める。また、閾値T2は、例えば、太陽光のヒストグラムと蛍光ランプのヒストグラムの境界と見なせる値に定める。
推定部13は、導出部12により導出された色度分布のx方向の最大値が閾値T1未満の場合、撮影時の照明を白熱電球と推定する。また、推定部13は、色度分布のx方向の最大値が閾値T1以上かつ閾値T2未満の場合、撮影時の照明を太陽光と推定する。また、推定部13は、色度分布のx方向の最大値が閾値T2以上の場合、撮影時の照明を蛍光ランプと推定する。
記憶部14は、各種情報を記憶する。例えば、記憶部14は、照明環境毎に、色の補正情報14aを記憶する。記憶部14のデバイスの一例としては、フラッシュメモリやNVSRAM(Non Volatile Static Random Access Memory)などのデータを書き換え可能な半導体メモリが挙げられる。
ここで、補正情報14aについて説明する。各画素のRGBの色を示す値を3行1列の行列で表す。そして、照明毎に、補正情報14aとして、各画素の補正前の色Sを赤外カットフィルタを設けて撮影した色Tに近い色に補正する補正係数Aを以下の(1)式に示すような3×3の行列と定める。
補正後の色Tは、以下の(2)式に示すように、補正前の色Sに対する補正係数Aの演算で表される。
T=A・S (2)
白熱電球で撮影された画像は、蛍光ランプで撮影された画像よりも無彩色に近い画像であるため、蛍光ランプで撮影された画像よりも色合いを大きく変化させる必要がある。このため、白熱電球用の補正係数Aは、蛍光ランプ用の補正係数Aに比べて、要素の値が大きくなっている。また、例えば、赤外量が大きい白熱電球と赤外量が少ない蛍光ランプが同じ明るさで混合した光源は、赤外光量が中程度となり、太陽光の色度分布にある程度近くなる。
本実施例では、記憶部14に、照明環境毎の補正情報14aとして、白熱電球に対応した補正係数Aと、蛍光ランプに対応した補正係数Aを記憶させる。
生成部15は、推定部13により推定された照明環境に対応する補正係数Aを記憶部14から読み出し、補正部16へ出力する。例えば、生成部15は、照明環境が白熱電球であると推定された場合、記憶部14から白熱電球に対応した補正係数Aを読み出して補正部16へ出力する。一方、蛍光ランプで撮影された画像は、ほとんど色味に変化が見られず、赤外カットフィルタが有る撮影装置で撮影された画像に近い画像となる。このため、本実施例では、照明環境が蛍光ランプであると推定された場合、色補正を行わないこととする。生成部15は、照明環境が蛍光ランプであると推定された場合、補正部16へ補正係数を特に出力しないこととする。なお、照明環境が蛍光ランプである際にも色補正を行うものとしてもよい。この場合、生成部15は、記憶部14から蛍光ランプに対応した補正係数Aを読み出して補正部16へ出力する。
また、生成部15は、推定部13による推定された照明環境に対応する補正情報14aが記憶部14に無い場合、記憶部14に記憶された照明環境毎の補正情報14aから補間により当該推定された照明環境の補正情報14aを生成する。例えば、生成部15は、照明環境が太陽光であると推定された場合、記憶部14から白熱電球に対応した補正係数Aと蛍光ランプに対応した補正係数Aを読み出す。そして、生成部15は、白熱電球に対応した補正係数Aと蛍光ランプに対応した補正係数Aの対応する要素毎に線形補間を行って太陽光に対応した補正係数Aを生成し、生成した補正係数Aを補正部16へ出力する。
補正部16は、生成部15から補正係数Aが入力した場合、入力した補正係数Aを用いて、撮影部11により撮影された画像の色を補正する。そして、補正部16は、画像情報をガンマ補正部17へ出力する。例えば、補正部16は、撮影部11により撮影された画像の各画素毎に、画素のRGBの画素値をSとして上記(2)式に示す演算を行って補正後のRGBの画素値Tを算出する。
ここで、補正部16により画像を補正した結果の一例を示す。図20Aは、図9Aの画像を白熱電球に対応した補正係数により補正した結果の一例を示す図である。図20Bは、図9Bの画像を太陽光に対応した補正係数により補正した結果の一例を示す図である。図20A、20Bに示すように、補正を行うことにより、それぞれの照明環境で撮影された画像は、図9Cに示す蛍光ランプで撮影された画像に近い画像に補正される。
ガンマ補正部17は、補正部16から入力した画像情報に対して撮影部11の感度特性を補正する非線形のガンマ補正を行い、撮影部11により撮影された画像の明るさの変化と画素値の変化が比例するように補正を行う。
画質調整部18は、画像の画質を調整する各種の画像処理を行う。例えば、画質調整部18は、ガンマ補正部17によりガンマ補正された画像情報により示される画像の鮮やかさやコントラストなどが所定の画質となるように、当該画像情報に対して所定の画像処理を行う。
出力部19は、各種の情報を出力する。例えば、出力部19は、画質調整部18により画質が調整された画像を表示する。出力部19のデバイスの一例としては、LCD(Liquid Crystal Display)の表示デバイスなどが挙げられる。なお、出力部19は、画質調整部18により画質が調整された画像情報を外部へ出力するものとしてもよい。
メモリカード20は、各種の情報を記憶する。例えば、画質調整部18により画質が調整された画像情報を記憶する。
次に、本実施例に係る撮像装置10により画像を撮像する際の処理の流れを説明する。図21は、撮像処理の手順を示すフローチャートである。この撮像処理は、例えば、撮像装置10に対して撮像を指示する所定操作が行われたタイミングで実行される。
図21に示すように、撮影部11は、撮像素子の各画素からアナログ信号を読み出して各種のアナログ信号処理、デジタル信号処理を行い、撮像された画像を示す画像情報を出力する(ステップS10)。導出部12は、撮影部11により撮影された画像の色度分布のx方向の最大値を導出する(ステップS11)。推定部13は、導出された色度分布のx方向の最大値が閾値T1未満であるか判定する(ステップS12)。最大値が閾値T1未満である場合(ステップS12肯定)、生成部15は、記憶部14から白熱電球に対応した補正係数Aを読み出して補正部16へ出力する(ステップS13)。一方、最大値が閾値T1未満でない場合(ステップS12否定)、推定部13は、最大値が閾値T2以上であるか判定する(ステップS14)。最大値が閾値T2以上の場合(ステップS14肯定)、後述するステップS17へ移行する。一方、最大値が閾値T2以上でない場合(ステップS14否定)、生成部15は、白熱電球に対応した補正係数Aと蛍光ランプに対応した補正係数Aから補間により太陽光に対応した補正係数Aを生成して補正部16へ出力する(ステップS15)。
補正部16は、生成部15から入力した補正係数Aを用いて、撮影部11により撮影された画像の色の補正する(ステップS16)。ガンマ補正部17は、画像情報に対してガンマ補正を行う(ステップS17)。画質調整部18は、ガンマ補正された画像情報に対して画質を調整する所定の画像処理を行う(ステップS18)。画質調整部18は、画質が調整された画像を出力部19へ出力して表示させる(ステップS19)。また、画質調整部18は、画質が調整された画像情報をメモリカード20に記憶させ(ステップS20)、処理を終了する。
このように、撮像装置10は、可視光および赤外光に対して感度を有する撮影部11により、画像を撮影する。また、撮像装置10は、撮影された画像の色度分布のx方向の最大値を導出する。そして、撮像装置10は、色度分布のx方向の最大値に基づいて、撮影時の照明環境を推定する。これにより、撮像装置10によれば、撮影画像から撮影時の照明環境を精度良く推定できる。
また、撮像装置10は、照明環境毎に、色の補正情報14aを記憶する。そして、撮像装置10は、記憶された照明環境毎の補正情報14aのうち、推定された照明環境に応じた補正情報14aを用いて撮影された画像を補正する。これにより、撮像装置10によれば、照明環境が異なっても撮影画像を色再現性が十分な適切な画像に補正できる。
また、撮像装置10は、推定された照明環境に対応する補正情報14aが無い場合、他の照明環境毎の補正情報14aから補間により推定された照明環境の補正情報を生成する。そして、撮像装置10は、生成された補正情報を用いて撮影された画像を補正する。これにより、撮像装置10によれば、照明環境毎の補正情報を全て記憶していなくても、撮影画像を適切な画像に補正できる。
さて、これまで開示の装置に関する実施例について説明したが、開示の技術は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。そこで、以下では、本発明に含まれる他の実施例を説明する。
例えば、上記の実施例1では、色度分布の拡がり度合い示す特徴量として色度分布のx方向の最大値を用いた場合について説明したが、開示の装置はこれに限定されない。例えば、特徴量をy方向の最大値としてもよい。また、特徴量を色度分布のx方向またはy方向の最小値や標準偏差など他の値を用いてもよい。
また、例えば、照明環境として白熱電球と太陽光が混合するなど複数の光源が混合場合がある。そこて、例えば、それぞれの照明環境で色度分布が最も大きくなる特徴量をピーク値として記憶しておく。そして、撮影された画像の色度分布の特徴量を求め、ピーク値に近いものほど、割合を大きくして照明環境毎の補正情報14aから補間により補正情報を生成してもよい。これにより、複数の照明環境が混合した場合でも、撮影画像を適切な画像に補正できる。
また、上記の実施例では、補正情報14aとして、白熱電球に対応した補正係数Aと、蛍光ランプに対応した補正係数Aを記憶部14に記憶させ、太陽光の補正係数を補間により生成する場合について説明したが、これに限定されない。例えば、太陽光の補正係数Aも記憶部14に記憶させ、記憶部14に記憶された太陽光の補正係数Aを用いて太陽光で撮影された画像を補正してもよい。
また、上記の実施例では、補正係数Aを補正情報14aとして記憶させる場合について説明したが、これに限定されない。例えば、照明環境毎に、ルックアップテーブルを補正情報14aとして記憶させてもよい。なお、ルックアップテーブルは、全ての色について生成して色変換を行うものとしてもよい。また、ルックアップテーブルは、特定の色についてのみ生成し、特定の色以外の色は特定の色からの補間により色変換を行うものとしてもよい。
また、上記の実施例では、撮像装置10で照明環境に応じた色の補正を行う場合について説明したが、これに限定されない。例えば、撮像装置10で撮影された画像の画像情報をコンピュータなどの画像処理装置に記憶させ、画像処理装置において画像から照明環境を推定し、推定した照明環境に応じた色の補正を行ってもよい。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的状態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、撮像装置10の導出部12と、推定部13と、生成部15と、補正部16と、ガンマ補正部17と、画質調整部18の各処理部が適宜統合されてもよい。また、各処理部の処理が適宜複数の処理部の処理に分離されてもよい。さらに、各処理部にて行なわれる各処理機能は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
[画像処理プログラム]
また、上記の実施例で説明した各種の処理は、あらかじめ用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータシステムで実行することによって実現することもできる。そこで、以下では、上記の実施例と同様の機能を有するプログラムを実行するコンピュータシステムの一例を説明する。図22は、画像処理プログラムを実行するコンピュータを示す図である。
図22に示すように、コンピュータ300は、CPU(Central Processing Unit)310、HDD(Hard Disk Drive)320、RAM(Random Access Memory)340を有する。これら300〜340の各部は、バス400を介して接続される。
HDD320には上記の撮像装置10の導出部12、推定部13、生成部15、および補正部16と同様の機能を発揮する画像処理プログラム320aが予め記憶される。なお、画像処理プログラム320aについては、適宜分離しても良い。
また、HDD320は、各種情報を記憶する。例えば、HDD320は、図1に示した補正情報14aに対応する補正情報320bを記憶する。
そして、CPU310が、画像処理プログラム320aをHDD320から読み出してRAM340に展開し、HDD320に記憶された補正情報320bを用いて各処理を実行する。すなわち、画像処理プログラム320aは、導出部12、推定部13、生成部15、および補正部16と同様の動作を実行する。
なお、上記した画像処理プログラム320aについては、必ずしも最初からHDD320に記憶させることを要しない。
例えば、コンピュータ300に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」にプログラムを記憶させておく。そして、コンピュータ300がこれらからプログラムを読み出して実行するようにしてもよい。
さらには、公衆回線、インターネット、LAN、WANなどを介してコンピュータ300に接続される「他のコンピュータ(またはサーバ)」などにプログラムを記憶させておく。そして、コンピュータ300がこれらからプログラムを読み出して実行するようにしてもよい。
以上説明した実施形態及びその変形例に関し、更に以下の付記を開示する。
(付記1)可視光および赤外光に対して感度を有し、画像を撮影する撮影部と、
前記撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出する導出部と、
前記導出部により導出された特徴量に基づいて、撮影時の照明環境を推定する推定部と、
を有することを特徴とする撮像装置。
(付記2)前記導出部は、前記特徴量として、前記色分布の最大値、最小値、標準偏差の少なくとも1つを導出する
ことを特徴とする付記1に記載の撮像装置。
(付記3)前記導出部は、前記撮影された画像の各画素の色のXYZ表色系のxy色度座標での色度分布の拡がり度合いを示す前記特徴量を導出する
ことを特徴とする付記1または2に記載の撮像装置。
(付記4)照明環境毎に、色の補正情報を記憶する記憶部と、
前記記憶部に記憶された照明環境毎の補正情報のうち、前記推定部による推定された照明環境に応じた補正情報を用いて前記撮影部により撮影された画像を補正する補正部と、
をさらに有することを特徴とする付記1〜3の何れか1つに記載の撮像装置。
(付記5)前記推定部により推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記記憶部に記憶された照明環境毎の補正情報から補間により当該推定された照明環境の補正情報を生成する生成部をさらに有し、
前記補正部は、前記推定部による推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記生成部により生成された補正情報を用いて前記撮影部により撮影された画像を補正する
ことを特徴とする付記4に記載の撮像装置。
(付記6)可視光および赤外光に対して感度を有する撮影装置により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出する導出部と、
前記導出部により導出された特徴量に基づいて、撮影時の照明環境を推定する推定部と、
を有することを特徴とする画像処理装置。
(付記7)前記導出部は、前記特徴量として、前記色分布の最大値、最小値、標準偏差の少なくとも1つを導出する
ことを特徴とする付記6に記載の画像処理装置。
(付記8)前記導出部は、前記撮影された画像の各画素の色のXYZ表色系のxy色度座標での色度分布の拡がり度合いを示す前記特徴量を導出する
ことを特徴とする付記6または7に記載の画像処理装置。
(付記9)照明環境毎に、色の補正情報を記憶する記憶部と、
前記記憶部に記憶された照明環境毎の補正情報のうち、前記推定部による推定された照明環境に応じた補正情報を用いて前記撮影装置により撮影された画像を補正する補正部と、
をさらに有することを特徴とする付記6〜8の何れか1つに記載の画像処理装置。
(付記10)前記推定部により推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記記憶部に記憶された照明環境毎の補正情報から補間により当該推定された照明環境の補正情報を生成する生成部をさらに有し、
前記補正部は、前記推定部による推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記生成部により生成された補正情報を用いて前記撮影装置により撮影された画像を補正する
ことを特徴とする付記9に記載の画像処理装置。
(付記11)コンピュータに、
可視光および赤外光に対して感度を有する撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出し、
導出された特徴量に基づいて、撮影時の照明環境を推定する
処理を実行させることを特徴とする画像処理プログラム。
(付記12)前記特徴量を導出する処理は、前記特徴量として、前記色分布の最大値、最小値、標準偏差の少なくとも1つを導出する
ことを特徴とする付記11に記載の画像処理プログラム。
(付記13)前記特徴量を導出する処理は、前記撮影された画像の各画素の色のXYZ表色系のxy色度座標での色度分布の拡がり度合いを示す前記特徴量を導出する
ことを特徴とする付記11または12に記載の画像処理プログラム。
(付記14)照明環境毎に色の補正情報を記憶する記憶部に記憶された照明環境毎の補正情報のうち、推定された照明環境に応じた補正情報を用いて前記撮影部により撮影された画像を補正する
処理をさらに実行させることを特徴とする付記11〜13の何れか1つに記載の画像処理プログラム。
(付記15)推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記記憶部に記憶された照明環境毎の補正情報から補間により当該推定された照明環境の補正情報を生成する処理をさらに実行させ、
前記画像を補正する処理は、推定された照明環境に対応する補正情報が前記記憶部に無い場合、生成された補正情報を用いて前記撮影部により撮影された画像を補正する
ことを特徴とする付記14に記載の画像処理プログラム。
(付記16)コンピュータが、
可視光および赤外光に対して感度を有する撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出し、
導出された特徴量に基づいて、撮影時の照明環境を推定する
処理を実行することを特徴とする画像処理方法。
(付記17)前記特徴量を導出する処理は、前記特徴量として、前記色分布の最大値、最小値、標準偏差の少なくとも1つを導出する
ことを特徴とする付記16に記載の画像処理方法。
(付記18)前記特徴量を導出する処理は、前記撮影された画像の各画素の色のXYZ表色系のxy色度座標での色度分布の拡がり度合いを示す前記特徴量を導出する
ことを特徴とする付記16または17に記載の画像処理方法。
(付記19)照明環境毎に色の補正情報を記憶する記憶部に記憶された照明環境毎の補正情報のうち、推定された照明環境に応じた補正情報を用いて前記撮影部により撮影された画像を補正する
処理をさらに実行することを特徴とする付記16〜18の何れか1つに記載の画像処理方法。
(付記20)推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記記憶部に記憶された照明環境毎の補正情報から補間により当該推定された照明環境の補正情報を生成する処理をさらに実行し、
前記画像を補正する処理は、推定された照明環境に対応する補正情報が前記記憶部に無い場合、生成された補正情報を用いて前記撮影部により撮影された画像を補正する
ことを特徴とする付記19に記載の画像処理方法。
10 撮像装置
11 撮影部
12 導出部
13 推定部
14 記憶部
14a 補正情報
15 生成部
16 補正部

Claims (8)

  1. 可視光および赤外光に対して感度を有し、画像を撮影する撮影部と、
    前記撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出する導出部と、
    前記導出部により導出された特徴量に基づいて、可視光と赤外光の発生割合が異なる複数の照明環境のなかから、撮影時の照明環境を推定する推定部と、
    を有することを特徴とする撮像装置。
  2. 前記導出部は、前記特徴量として、前記色分布の最大値、最小値、標準偏差の少なくとも1つを導出する
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記導出部は、前記撮影された画像の各画素の色のXYZ表色系のxy色度座標での色度分布の拡がり度合いを示す前記特徴量を導出する
    ことを特徴とする請求項1または2に記載の撮像装置。
  4. 照明環境毎に、色の補正情報を記憶する記憶部と、
    前記記憶部に記憶された照明環境毎の補正情報のうち、前記推定部によ推定された照明環境に応じた補正情報を用いて前記撮影部により撮影された画像を補正する補正部と、
    をさらに有することを特徴とする請求項1〜3の何れか1つに記載の撮像装置。
  5. 前記推定部により推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記記憶部に記憶された照明環境毎の補正情報から補間により当該推定された照明環境の補正情報を生成する生成部をさらに有し、
    前記補正部は、前記推定部による推定された照明環境に対応する補正情報が前記記憶部に無い場合、前記生成部により生成された補正情報を用いて前記撮影部により撮影された画像を補正する
    ことを特徴とする請求項4に記載の撮像装置。
  6. 可視光および赤外光に対して感度を有する撮影装置により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出する導出部と、
    前記導出部により導出された特徴量に基づいて、可視光と赤外光の発生割合が異なる複数の照明環境のなかから、撮影時の照明環境を推定する推定部と、
    を有することを特徴とする画像処理装置。
  7. コンピュータに、
    可視光および赤外光に対して感度を有する撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出し、
    導出された特徴量に基づいて、可視光と赤外光の発生割合が異なる複数の照明環境のなかから、撮影時の照明環境を推定する
    処理を実行させることを特徴とする画像処理プログラム。
  8. コンピュータが、
    可視光および赤外光に対して感度を有する撮影部により撮影された画像の各画素の色の色分布を求めた場合の当該色分布の拡がり度合いを示す所定の特徴量を導出し、
    導出された特徴量に基づいて、可視光と赤外光の発生割合が異なる複数の照明環境のなかから、撮影時の照明環境を推定する
    処理を実行することを特徴とする画像処理方法。
JP2011277725A 2011-12-19 2011-12-19 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法 Expired - Fee Related JP5899894B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011277725A JP5899894B2 (ja) 2011-12-19 2011-12-19 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法
US13/664,912 US20130155254A1 (en) 2011-12-19 2012-10-31 Imaging apparatus, image processing apparatus, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011277725A JP5899894B2 (ja) 2011-12-19 2011-12-19 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法

Publications (2)

Publication Number Publication Date
JP2013128259A JP2013128259A (ja) 2013-06-27
JP5899894B2 true JP5899894B2 (ja) 2016-04-06

Family

ID=48609764

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011277725A Expired - Fee Related JP5899894B2 (ja) 2011-12-19 2011-12-19 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法

Country Status (2)

Country Link
US (1) US20130155254A1 (ja)
JP (1) JP5899894B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5910043B2 (ja) * 2011-12-02 2016-04-27 富士通株式会社 撮像装置、画像処理プログラム、画像処理方法、および画像処理装置
EP2752349A1 (en) * 2013-01-04 2014-07-09 Continental Automotive Systems, Inc. Driver assistance system and method
CN105814887B (zh) 2014-01-08 2017-10-27 三菱电机株式会社 图像生成装置
JP6531522B2 (ja) * 2015-07-01 2019-06-19 富士通株式会社 色補正プログラム、色補正方法及び色補正装置
JP6975896B2 (ja) 2017-02-03 2021-12-01 パナソニックIpマネジメント株式会社 撮像装置の制御方法及び撮像装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01296785A (ja) * 1988-05-24 1989-11-30 Fujitsu Ltd 画像重畳装置
JP2506584B2 (ja) * 1991-06-20 1996-06-12 松下電器産業株式会社 画像判定装置
US5668596A (en) * 1996-02-29 1997-09-16 Eastman Kodak Company Digital imaging device optimized for color performance
JP2003163944A (ja) * 2001-11-28 2003-06-06 Fuji Photo Film Co Ltd ホワイトバランス制御方法及びデジタルカメラ。
JP2003219254A (ja) * 2002-01-25 2003-07-31 Matsushita Electric Ind Co Ltd 撮影モード切換え機能付きカメラ
JP2004349931A (ja) * 2003-05-21 2004-12-09 Fuji Photo Film Co Ltd デジタルカメラ
US7535002B2 (en) * 2004-12-03 2009-05-19 Fluke Corporation Camera with visible light and infrared image blending
JP4984634B2 (ja) * 2005-07-21 2012-07-25 ソニー株式会社 物理情報取得方法および物理情報取得装置
JP2007036999A (ja) * 2005-07-29 2007-02-08 Sony Corp 映像信号処理装置、および、映像信号のレベルバランス方法
US8107762B2 (en) * 2006-03-17 2012-01-31 Qualcomm Incorporated Systems, methods, and apparatus for exposure control
US8416302B2 (en) * 2009-02-10 2013-04-09 Microsoft Corporation Low-light imaging augmented with non-intrusive lighting
JP4941482B2 (ja) * 2009-02-17 2012-05-30 株式会社豊田中央研究所 擬似カラー画像生成装置、及びプログラム
JP2011015087A (ja) * 2009-06-30 2011-01-20 Panasonic Corp 撮像装置および撮像方法
JP5874116B2 (ja) * 2009-07-30 2016-03-02 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
US8384559B2 (en) * 2010-04-13 2013-02-26 Silicon Laboratories Inc. Sensor device with flexible interface and updatable information store

Also Published As

Publication number Publication date
US20130155254A1 (en) 2013-06-20
JP2013128259A (ja) 2013-06-27

Similar Documents

Publication Publication Date Title
US20070047803A1 (en) Image processing device with automatic white balance
US8803994B2 (en) Adaptive spatial sampling using an imaging assembly having a tunable spectral response
CN103581638B (zh) 图像处理装置及图像处理方法
US8599282B2 (en) Method and apparatus for generating image
US8629919B2 (en) Image capture with identification of illuminant
JP5910043B2 (ja) 撮像装置、画像処理プログラム、画像処理方法、および画像処理装置
CN112073703B (zh) 一种色彩校正矩阵的调整方法、装置、终端设备及介质
JP2011101359A (ja) イメージセンサの統合ノイズモデリング方法及びそれを利用するノイズ低減方法
US8564688B2 (en) Methods, systems and apparatuses for white balance calibration
JP6563751B2 (ja) 画像処理装置及び画像処理方法
JP5899894B2 (ja) 撮像装置、画像処理装置、画像処理プログラムおよび画像処理方法
WO2016002283A1 (ja) 画像処理装置、撮像装置、情報処理装置、画像処理方法およびプログラム
KR101685887B1 (ko) 화상 처리 장치, 화상 처리 방법 및 화상 처리 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체
JP4539432B2 (ja) 画像処理装置および撮像装置
Kao et al. Design considerations of color image processing pipeline for digital cameras
US20200228770A1 (en) Lens rolloff assisted auto white balance
JP3821729B2 (ja) デジタルカメラ
JP5505718B2 (ja) 画像入力装置
US20200228769A1 (en) Lens rolloff assisted auto white balance
JP6346431B2 (ja) 画像処理装置及び画像処理方法
Garud et al. A fast color constancy scheme for automobile video cameras
WO2022067761A1 (zh) 图像处理方法、装置、拍摄设备、可移动平台及计算机可读存储介质
JP6276564B2 (ja) 画像処理装置及び画像処理方法
CN113096046A (zh) 一种图像处理方法及装置
JP2015142281A (ja) 被写体探索装置、その制御方法、および制御プログラム、並びに撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160222

R150 Certificate of patent or registration of utility model

Ref document number: 5899894

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees