JP4691762B2 - 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 - Google Patents
画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 Download PDFInfo
- Publication number
- JP4691762B2 JP4691762B2 JP2000251496A JP2000251496A JP4691762B2 JP 4691762 B2 JP4691762 B2 JP 4691762B2 JP 2000251496 A JP2000251496 A JP 2000251496A JP 2000251496 A JP2000251496 A JP 2000251496A JP 4691762 B2 JP4691762 B2 JP 4691762B2
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- pixel
- class
- pixels
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体に関し、特に、1つの固体イメージセンサにより得られる画像に対し、その画像信号の1画素が赤(R:Red) 成分、緑(G:Green) 成分及び青(B:Blue)成分をもつように、クラス分類適応処理を用いて色成分を補間する画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体に関する。
【0002】
【従来の技術】
CCD(Charge Coupled Device) イメージセンサなどの固体イメージセンサを用いた撮像装置には、主に、1つのCCDイメージセンサを用いた単板方式のもの(以後、単板式カメラという)と、3つのCCDイメージセンサを用いた3板方式のもの(以後、3板式カメラという)とがある。
【0003】
3板式カメラでは、例えばR信号用、G信号用及びB信号用の3つのCCDイメージセンサを用いて、その3つのCCDイメージセンサにより3原色信号を得る。そして、この3原色信号から生成されるカラー画像信号が記録媒体に記録される。
【0004】
単板式カメラでは、1画素毎に割り当てられた色フィルタアレイからなる色コーディングフィルタが前面に設置された1つのCCDイメージセンサを用いて、上記色コーディングフィルタにより色コーディングされた色成分の信号を1画素毎に得る。上記色コーディングフィルタを構成する色フィルタアレイとしては、例えば、R(Red) ,G(Green) ,B(Blue) の原色フィルタアレイや、Ye(Yellow) ,Cy(Cyanogen),Mg(Magenta) の補色フィルタアレイが用いられている。そして、単板式カメラにおいては、CCDイメージセンサにより1画素毎に1つの色成分の信号を得て、各画素が持っている色成分の信号以外の色信号を線形補間処理により生成して、3板式カメラにより得られる画像に近い画像を得るようにしていた。ビデオカメラなどにおいて、小型化、軽量化を図る場合に、単板式が採用されている。
【0005】
単板式カメラにおいて、例えば図22の(A)に示すような色配列の色フィルタアレイにより構成された色コーディングフィルタが設けられたCCDイメージセンサは、R,G,Bの3原色のうちの1つの色のフィルタが配置された各画素から、そのフィルタの色に対応する画像信号のみが出力される。すなわち、Rの色フィルタが配置された画素からは、R成分の画像信号は出力されるが、G成分及びB成分の画像信号は出力されない。同様に、Gの画素からは、G成分の画像信号のみが出力され、R成分及びB成分の画像信号は出力されず、Bの画素からは、B成分の画像信号のみが出力され、R成分及びG成分の画像信号は出力されない。
【0006】
ここで、図22の(A)に示す色フィルタアレイの色配列は、ベイヤー配列と称される。この場合においては、Gの色フィルタが市松状に配され、残った部分にRとBが一列毎に交互に配されている。
【0007】
しかしながら、後段において各画素の信号を処理する際、各画素毎にR成分,G成分及びB成分の画像信号が必要となる。そこで、従来、n×m(n及びmは正の整数)個の画素で構成されるCCDイメージセンサの出力から、図22の(B)に示すように、n×m個のR画素の画像信号、n×m個のG画素の画像信号及びn×m個のB画素の画像信号、すなわち、3板式カメラのCCD出力相当の画像信号が、それぞれ補間演算により求められ、それらの画像信号が後段に出力される。
【0008】
そして、さらに、例えば4倍密度の画像信号を生成する場合、図22の(C)に示すように、n×m個のR画素の画像信号から2n×2m個のR画素の画像信号が補間演算により求められ、n×m個のG画素の画像信号から2n×2m個のG画素の画像信号が補間演算により求められ、さらに、n×m個のB画素の画像信号から、2n×2m個のB画素の画像信号が補間演算により求められる。
【0009】
【発明が解決しようとする課題】
CCDイメージセンサにより1画素毎に1つの色成分の信号を得て、各画素が持っている色成分の信号以外の色信号を線形補間処理により生成する単板式カメラにおいては、画像の斜め線や細線の部分で上記線形補間処理に破綻を生じ易いという問題点がある。また、線形処理を行うことにより色信号の補間を行っているので、画像の波形が鈍つてしまい、画像全体が不鮮明となってしまうので、輪郭強調処理等の処理を行って、見掛けの解像度を上げる処理が必要であった。また、その撮像出力として得られる画像信号による画像の解像度が、3板式カメラの撮像出力として得られる画像信号による画像と比較して低く、上記線形処理の影響により全体的にぼやけた画像となってしまうといった問題点があった。
【0010】
また、単板式カメラのCCDイメージセンサの出力から、同一解像度の3原色の成分を各画素毎に生成し、その画像信号から、さらにより高密度の画像信号を演算することにより、画素密度を大きくしたとしても、十分な精細度を得ることができないという問題点があった。
【0011】
さらに、線形補間と異なる処理方法として、単板式カメラのCCD出力から、R,G,Bの3原色の各画像信号毎に独立にクラス分類適応処理を行うことよって3板式カメラのCCD出力に相当する画像信号を生成することが提案されている(国際公開番号:WO96/07275)。しかしながら、クラス分類適応処理においても、基本的に波形によるクラス分類を行っているため、色信号間の波形に違いが見られる箇所では破綻を招くことが確認されている。
本発明は、このような状況に鑑みてなされたものであり、補間処理の破綻を回避し、色再現性の向上を図り、解像度が高く、滑らかで且つ自然な色の変化を再現できる画像信号を単板式カメラのCCD出力から得られるようにすることを目的とする。
【0012】
【課題を解決するための手段】
本発明は、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理装置において、上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出手段と、上記画素抽出手段で抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化手段と、上記ベクトル量子化手段によるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定手段と、上記クラス決定手段で決定されたクラスに対応した予測係数セットと上記画素抽出手段によって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成手段とを備え、上記画素生成手段は、上記クラス決定手段により決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを記憶する記憶手段と、上記記憶手段から読み出される上記クラス決定手段で決定されたクラスに応じた予測係数セットと、上記画素抽出手段によって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、上記異なる色成分を持つ画素を生成する演算手段とを備えることを特徴とする。
【0013】
また、本発明は、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理方法において、上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出ステップと、上記画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素のそれぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、上記クラス決定ステップで決定されたクラスに対応した予測係数セットと上記画素抽出ステップによって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップとを備え、上記画素生成ステップでは、上記クラス決定ステップで決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを用いて、上記画素を生成することを特徴とする。
【0014】
また、本発明は、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理を実行させるためのプログラムを記録したコンピュータにより読み取り可能な記録媒体において、上記プログラムは、上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出ステップと、上記画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素のそれぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、上記クラス決定ステップで決定されたクラスに対応した予測係数セットと上記画素抽出ステップによって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップとを有し、上記画素生成ステップでは、上記クラス決定ステップで決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを用いて、上記画素を生成する画像信号処理を上記コンピュータに実行させることを特徴とする。
【0015】
また、本発明に係る学習装置は、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出手段と、上記第1の画素抽出手段で抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分で表される色空間内におけるベクトル量子化を行うベクトル量子化手段と、上記ベクトル量子化手段によるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定手段と、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出手段と、上記クラス決定手段により決定されたクラス毎に、上記第1の画素抽出手段で生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出手段で教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成手段とを備えることを特徴とする。
【0016】
また、本発明に係る学習方法は、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出ステップと、上記第1の画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出ステップと、上記クラス決定ステップにより決定されたクラス毎に、上記第1の画素抽出ステップで生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出ステップで教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成ステップとを有することを特徴とする。
【0017】
さらに、本発明は、クラスに応じた予測係数セットを生成するための学習処理を実行させるためのプログラムを記録したコンピュータにより読み取り可能な記録媒体において、上記プログラムは、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出ステップと、上記第1の画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出ステップと、上記クラス決定ステップにより決定されたクラス毎に、上記第1の画素抽出ステップで生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出ステップで教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成ステップとを有する学習処理を上記コンピュータに実行させることを特徴とする。
【0018】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
【0019】
本発明は、例えば図1に示すような構成のデジタルスチルカメラ1に適用される。このデジタルスチルカメラ1は、1画素毎に割り当てられたベイヤ配列などの色フィルタからなる色コーディングフィルタ4が前面に設置された1つのCCDイメージセンサ5を用いてカラー撮像を行う単板式カメラであって、被写体からの入射光が、レンズ2により集光され、アイリス3及び色コーディングフィルタ4を介してCCDイメージセンサ5に入射されるようになっている。上記CCDイメージセンサ5の撮像面上には、上記アイリス3により所定レベルの光量とされた入射光により被写体像が結像される。なお、このデジタルスチルカメラ1においては、色コーディングフィルタ4とCCDイメージセンサ5は別体としたが、一体化した構造とすることができる。
【0020】
上記CCDイメージセンサ5は、タイミングジェネレータ9からのタイミング信号により制御される電子シャッタに応じて所定時間にわたって露光を行い、色コーディングフィルタ4を透過した入射光の光量に応じた信号電荷(アナログ量)を画素毎に発生することにより、上記入射光により結像された被写体像を撮像して、その撮像出力として得られる画像信号を信号調整部6に供給する。
【0021】
信号調整部6は、画像信号の信号レベルが一定となるようにゲインを調整するAGC(Automatic Gain Contorol) 回路と、CCDイメージセンサ5が発生する1/fのノイズを除去するCDS(Correiated Double Sampling)回路からなる。
【0022】
上記信号調整部6から出力される画像信号は、A/D変換部7によりアナログ信号からデジタル信号に変換されて、画像信号処理部8に供給される。上記A/D変換部7では、タイミングジェネレータ9からのタイミング信号に応じて、例えば1サンプル10ビットのディジタル撮像信号を生成する。
【0023】
このデジタルスチルカメラ1において、タイミングジェネレータ9は、CCDイメージセンサ5、信号調整部6、A/D変換部7及びCPU(Central Processing Unit) 10に各種タイミング信号を供給する。CPU10は、モータ11を駆動することにより、アイリス3を制御する。また、CPU10は、モータ12を駆動することにより、レンズ2などを移動させ、ズームやオートフォーカスなどの制御をする。さらに、CPU10は、必要に応じ、フラッシュ13により閃光を発する制御を行うようにされている。
【0024】
画像信号処理部8は、A/D変換部7から供給された画像信号に対し、欠陥補正処理、ディジタルクランプ処理、ホワイトバランス調整処理、ガンマ補正処理、クラス分類適応処理を用いた予測処理等の処理を行う。
【0025】
この画像信号処理部8に接続されたメモリ15は、例えば、RAM(Random Access Memory)で構成され、画像信号処理部8が画像処理を行う際に必要な信号を記憶する。画像信号処理部8により処理された画像信号は、インタフェース14を介してメモリ16に記憶される。このメモリ16に記憶された画像信号は、インタフェース14を介してデジタルスチルカメラ1に対して着脱可能な記録媒体17に記録される。
【0026】
なお、モータ11は、CPU10からの制御情報に基づいてアイリス3を駆動し、レンズ2を介して入射される光の量を制御する。また、モータ12は、CPU10からの制御情報に基づいてレンズ2のCCDイメージセンサ2に対するフォーカス状態を制御する。これにより、自動絞り制御動作や自動焦点制御動作が実現される。また、フラッシュ13は、CPU10による制御の下で、被写体に対して所定の閃光を照射する。
【0027】
また、インターフェース14は、画像信号処理部8からの画像信号を必要に応じてメモリ16に記憶し、所定のインターフェース処理を実行した後、記録媒体17に供給し、記憶させる。記録媒体17としては、デジタルスチルカメラ1の本体に対して着脱可能な記録媒体、例えばフロッピーディスク、ハードディスク等のディスク記録媒体、メモリカード等のフラッシュメモリ等を用いることができる。
【0028】
コントローラ18は、CPU10の制御の下で、画像信号処理部8及びインターフェース14に制御情報を供給してそれぞれを制御する。CPU10には、シャッタボタンやズームボタンなどの操作ボタンから構成される操作部20からユーザによる操作情報が入力される。CPU10は、入力された操作情報を基に、上述した各部を制御する。電源部19は、バッテリ19AとDC/DCコンバータ19Bなどを有する。DC/DCコンバータ19Bは、バッテリ19Aからの電力を所定の値の直流電圧に変換し、装置内の各構成要素に供給する。充電可能なバッテリ19Aは、デジタルスチルカメラ1の本体に着脱可能とされている。
【0029】
次に、図2のフローチャートを参照し、図1に示したデジタルスチルカメラ1の動作について説明する。このデジタルスチルカメラ1は、ステップS1において、電源がオンされることにより、被写体の撮像を開始する。すなわち、CPU10は、モータ11及びモータ12を駆動し、焦点を合わせたりアイリス3を調整することにより、レンズ2を介してCCDイメージセンサ5上に被写体像を結像させる。
【0030】
ステップS2では、結像された像をCCDイメージセンサ5により撮像した画像信号が、信号調整部6において、信号レベルが一定となるようにゲイン調整され、さらにノイズが除去され、さらに、A/D変換部7によりデジタル化される。
【0031】
また、ステップS3では、上記A/D変換部7によりデジタル化された画像信号に対して、画像信号処理部8によりクラス分類適応処理を含む画像信号処理を行う。
【0032】
ここで、被写体像は、CCDイメージセンサ5の撮像出力として得られる画像信号を電子ビューファインダに表示するよりユーザが確認できるようになっている。なお、被写体像は、光学的ビューファインダによりユーザが確認できるようにすることもできる。
【0033】
そして、ユーザは、ビューファインダにより確認した被写体像の画像を記録媒体17に記録したい場合、操作部20のシャッタボタンを操作する。デジタルスチルカメラ1のCPU10は、ステップS4において、シャッタボタンが操作されたか否かを判断する。デジタルスチルカメラ1は、シャッタボタンが操作されたと判断するまで、ステップS2〜S3の処理を繰り返し、シャッタボタンが操作されたと判断すると、ステップS5に進む。
【0034】
そして、ステップS5では、画像信号処理部8による画像信号処理が施された画像信号をインターフェース14を介して記録媒体17に記録する。
【0035】
次に、図3を参照して画像信号処理部8について説明する。
【0036】
この画像信号処理部8は、上記A/D変換部7によりデジタル化された画像信号が供給される欠陥補正部21を備える。CCDイメージセンサ5の画素の中で、何らかの原因により入射光に反応しない画素や、入射光に依存せず、電荷が常に蓄えられている画素、換言すれば、欠陥がある画素を検出し、その検出結果に従って、それらの欠陥画素の影響が露呈しないように、画像信号を補正する処理を行う。
【0037】
A/D変換部7では、負の値がカットされるのを防ぐため、一般に信号値を若干正の方向ヘシフトさせた状態でA/D変換が行われている。クランプ部22は、欠陥補正部21により欠陥補正された画像信号に対し、上述したシフト量がなくなるようにクランプする。
【0038】
クランプ部22によりクランプされた画像信号は、ホワイトバランス調整部23に供給される。ホワイトバランス調整部23は、クランプ部22から供給された画像信号のゲインを補正することにより、ホワイトバランスを調整する。このホワイトバランス調整部23によりホワイトバランスが調整された画像信号は、クラス分類適応処理24に供給される。
【0039】
クラス分類適応処理24では、ホワイトバランス調整部23によりホワイトバランスが調整された画像信号について、局所的な画像の特徴量を抽出し、各特徴に基づいてクラスを作成して、クラス毎の処理を行う。具体的な処理としては、単板画像から3板相当画像の変換、任意の画素数への変換、又はそれらの処理を同時に行うなどの各種処理が可能である。ここでは、斜め線や細線に対して特別なクラスを用意することにより、斜め線や細線部分における処理の破綻に対処することができる。このクラス分類適応処理24によりクラス分類適応処理された画像信号は、ガンマ補正部25に供給される。
【0040】
ガンマ補正部25は、クラス分類適応処理された画像信号の信号レベルをガンマ曲線に従って補正する。このガンマ補正部25によりガンマ補正された画像信号は、補正部26に供給される。
【0041】
補正部26は、上記ガンマ補正部25によりガンマ補正された画像信号に対してエッジ強調等の画像を視覚的に良く見せるために必要ないわゆる画作りのための処理を行う。
【0042】
そして、色空間変換部27は、補正部26によりエッジ強調などの処理が施された画像信号(RGB信号)をマトリクス変換してYUV(輝度Yと色差U,Vとでなる信号)などの所定の信号フォーマットの画像信号に変換する。ただし、マトリクス変換処理を行わず、色空間変換部27からRGB信号をそのまま出力させても良い。この発明の一実施形態では、例えばユーザの操作によって、YUV信号、RGB信号の何れを出力するかを切り換えることが可能とされている。色空間変換部27により変換された画像信号は、上述のインタフェース14に供給される。
【0043】
ここで、上記図2に示したフローチャートのステップS3において、画像信号処理部8により行われる画像信号処理について、図4のフローチャートを参照して説明する。
【0044】
すなわち、画像信号処理部8では、A/D変換部7によりデジタル化された画像信号に対する画像信号処理を開始すると、先ず、ステップS11において、CCDイメージセンサ5の欠陥の影響が出ないように、欠陥補正部21により画像信号の欠陥補正を行う。そして、次のステップS12では、欠陥補正部21により欠陥補正された画像信号に対して、正の方向にシフトされていた量をもとに戻すクランプ処理をクランプ部22により行う。
【0045】
次のステップS13では、クランプ部22によりクランプされた画像信号に対して、ホワイトバランス調整部23によりホワイトバランスの調整を行い各色信号間のゲインを調整する。さらに、ステップS14では、ホワイトバランスが調整された画像信号に対して、クラス分類適応処理部24により単板画像から3板相当画像の変換を含むクラス分類適応処理を行う。
【0046】
ステップS15では、クラス分類適応処理されたステップS15によって得られた3板式カメラのCCD出力相当の画像信号に対して、ガンマ補正部25によりガンマ曲線に従った補正を施す。
【0047】
ステップS16では、ステップS15でガンマ補正された画像信号に対して、視覚的に良く見せるための補正処理(いわゆる画作り)を行う。ステップS17では、ステップS16によって得られた画像に例えばRGB信号をYUV信号に変換するなどの色空間の変換処理を施す。これにより、例えば記録信号として好適な信号フォーマットを有する出力画像が生成される。
【0048】
この画像信号処理部8におけるクラス分類適応処理部24は、図5に示すようにクラスタップ抽出回路31、ベクトル量子化回路32、クラス分類回路33、係数メモリ34、予測タップ抽出回路35及び適応処理回路36からなる。
【0049】
クラスタップ抽出回路31は、注目領域から指定されたタップ位置の画素値を抽出してベクトル量子化回路32に渡す。ベクトル量子化回路32は、クラスタップ抽出回路31から渡された画素値がコードブックに書かれた色空間のどの代表点に近いかを評価して最も近い代表点をクラス分類回路33に出力する。クラス分類回路33は、ベクトル量子化回路32から受け取ったクラスタップの画素値が最も近い代表点の結果からクラスを決定してクラス番号を係数メモリ34に出力する。係数メモリ34は、クラス分類回路33から受け取ったクラス番号に対応した予測係数セットを読み出して適応処理回路36に渡す。また、予測タップ抽出回路35は、注目領域から指定されたタップ位置の画素値を抽出して適応処理回路36に渡す。
【0050】
そして、適応処理回路36は、予測タップ抽出回路35から渡された予測タップの画素値に、係数メモリ34から読み出されるクラス番号に対応した予測係数セットを乗算し、線形和をもって予測画素値として出力する。
【0051】
すなわち、クラス分類適応処理部24では、図6のフローチャートに示す手順に従ってクラス分類適応処理を行う。
【0052】
ステップS21では、ホワイトバランス調整部23によりホワイトバランスが調整された画像信号について、クラスタップ抽出回路31及び予測タップ抽出回路35によりクラスタップ及び予測タップの画素値を抽出するブロック化処理を行う。
【0053】
次のステップS22では、クラスタップ抽出回路31により抽出されたクラスタップの画素値に対して、ベクトル量子化回路32により、色空間内におけるベクトル量子化のコードブックから、最も距離の近い代表点を判別して出力する。
【0054】
次のステップS23では、ベクトル量子化回路32によるベクトル量子化の結果に基づいて、クラス分類回路33によりクラス番号を出力する。
【0055】
次のステップS24では、予測タップ抽出回路35により抽出された予測タップの画素値に、適応処理回路36によりクラス番号に対応した予測係数セットを乗算し、それらの線形和を予測画素値とする。
次のステップS25では、全てのブロックについての処理が終了したか否かを判定し、まだ処理していないブロックが存在する場合には、ステップS21に戻り、それ以降の処理を繰り返し実行する。そして、ステップS25において、全てのブロックについての処理が終了したと判定された場合には、クラス分類適応処理を終了して、上述のステップS16に移行する。
【0056】
ここで、ベクトル量子化においては、入力される種々のベクトルの代表的なパターンを予め学習等によって決定して、それぞれに符号(インデクス)を与えてコードブックに蓄えておき、入力ベクトルとコードブックの各パターン(コードベクトル)との比較、すなわちパターンマッチングを行い、最も類似度や相関性の高いパターンの符号を出力する。この類似度や相関性は、入力ベクトルと各コードベクトルとの間の歪尺度や誤差エネルギ等を計算することにより求められ、歪や誤差が小さいほど類似度や相関性が高いことになる。ベクトル量子化のコードブックの作成アルゴリズムとしては、リンデ(Linde)、ブゾー(Buzo)、グレイ(Gray)によって提案されたLBGアルゴリズムが広く知られている。LBGアルゴリズムは、いわゆるバッチ型学習アルゴリズムで、学習サンプルとしての特徴ベクトルとコードベクトル(最初は、適当な初期値が与えられる)との距離に対応して、特徴ベクトル空間を最適分割するボロノイス分割と、ボロノイス分割により得られる、特徴ベクトル空間の各部分領域の重心への、コードベクトルの更新とを繰り返し行うことにより、コードブックのコードベクトルを、局所的に最適な位置に収束させる。
【0057】
上記ベクトル量子化回路32では、色空間内におけるベクトル量子化のコードブックとして、一般的なコードブックの作成方法を採用し、注目する領域から量子化を行う画素を抽出し、ベクトル空間内にプロットした結果から、空間内のプロットの頻度に従って代表点を設定する。このとき、ベクトル空間の次元を多く取りとり、同一の色信号の軸を複数作ることにより、波形の特徴も含めることができるようにする。ベクトル量子化におけるクラスは、クラスタップ数をnとするとn次元のベクトル空間で色空間を定義してベクトル量子化のコードブックを作成することができ、例えばクラスタップ数を3とすれば、図7に示すような3次元のベクトル空間で色空間を定義して各クラスタップの画素値に応じて例えばクラス0〜クラス4に分類することができる。なお、本来、クラスタップ及び予測タップの位置は、それぞれ最も効率のよいように配置される。そして、クラスタップ及び予測タップは、数多くする使用する方が、処理の精度は向上する。
【0058】
また、上記予測係数セットは、予め学習により得られるもので、上記係数メモリ32に記憶されている。
【0059】
ここで、この学習について説明する。図8は、予測係数セットを学習により得る学習装置40の構成を示すブロック図である。
【0060】
この学習装置40では、クラス分類適応処理の結果として生成されるべき出力画像信号、すなわち3板式カメラのCCD出力相当の画像信号と同一の信号形式を有する高解像度の教師画像信号が間引き回路41及び予測対象画素抽出回路46に供給される。間引き回路41は、教師画像信号から、色フィルタアレイの各色の配置に従つて画素を間引く。間引き処理は、CCDイメージセンサ5に対して着される光学ローパスフィルタを想定したフィルタをかけることによって行う。すなわち、実際の光学系を想定した間引き処理を行う。間引き回路41の出力が生徒画像信号としてクラスタップ抽出回路42及び予測タップ抽出回路45に供給される。なお、教師画像信号と生徒画像信号を個別に準備しておくことにより、上記間引き回路41を省略することもできる。
【0061】
クラスタップ抽出回路42は、間引き回路41により生成された生徒画像信号から、クラス分類に用いるクラスタップを抽出してベクトル量子化回路43に渡す。
【0062】
ベクトル量子化回路43は、クラスタップ抽出回路31から渡された画素値に基づいて、色空間内のベクトル量子化を行い、その結果をクラス分類回路44に出力する。ベクトル量子化は、基本的には色空間内の色間の関係のみによって量子化する手法であるが、クラスタップを多く取り、同じ色信号に対して複数のタップをとることにより、色信号間だけでなく波形の特徴もクラスに取り込むことができる。
【0063】
クラス分類回路44は、ベクトル量子化回路43から受け取ったクラスタップの画素値に基づく色空間内のベクトル量子化の結果からクラスを決定してクラス番号を第1の演算回路47に出力する。
【0064】
予測タップ抽出回路45は、生徒画像におけるクラスタップとの対応をとりながら、間引き回路41により生成された生徒画像信号から予測タップを抽出して第1の演算回路47に出力する。ここでは、全色信号から予測タップを抽出するものとする。
【0065】
予測対象画素抽出回路46は、生徒画像から抽出されるクラスタップ及び予測タップとの対応をとりながら、予測の対象となる画素値を教師画像信号から抽出して第1の演算回路47に出力する。
【0066】
第1の演算回路47は、クラス分類回路44から出力されたクラス番号毎に、予測タップの画素値と予測対象画素の画素値を、最小自乗法を解くための正規方程式に足し込み、予測係数セットを解とする方程式である正規方程式のマトリクスの係数を演算する。上記第1の演算回路47によって生成される正規方程式のマトリクスの係数が学習データメモリ48に逐次読み込まれ、蓄積される。
【0067】
第2の演算回路49は、学習データメモリ48に蓄積された正規方程式のマトリクスの係数を用いて、コレスキー分解など手法により正規方程式を解く処理を実行する。これにより、クラス毎の予測係数セットが算出される。算出された予測係数セットは、クラスに対応させて係数メモリ50に記憶される。係数メモリ50の記憶内容は、上述の係数メモリ34にロードされ、クラス分類適応処理を行う際に使用される。
【0068】
次に、図9のフローチャートを参照して、学習装置40の動作について説明する。
【0069】
この学習装置40に入力されるデジタル画像信号は、3板式カメラで撮像された画像に相当する画質が得られる画像信号である。なお、3板式カメラで得られる画像信号(教師画像信号)は、1画素の画像信号としてR,G,Bの3原色信号を含んでいるのに対し、単板式カメラで得られる画像信号(生徒画像信号)は、1画素の画像信号としてR,G,Bの3原色信号の内の1つの色信号のみを含んでいる。例えば図10の(A)に示すように3板式カメラで撮像されたHD画像信号をフィルタリングして図10の(B)に示すように1/4サイズのSD画像信号に変換した教師画像信号が、この学習装置40に入力される。
【0070】
ステップS31では、3板式カメラで撮像された画像に相当する画質が得られる教師画像信号に対して間引き回路41により単板カメラのCCDイメージセンサ5に用いられる色コーディングフィルタ4に相当するフィルタをかける間引き処理を実行することで、図10の(C)に示すように単板式カメラのCCDイメージセンサ5が出力する画像信号に対応する生徒画像信号を教師画像信号から生成し、生成した生徒画像信号をクラスタップ抽出回路42及び予測タップ抽出回路45に供給する。
【0071】
ステップS32では、間引き回路41により生成された生徒画像信号から、クラスタップ抽出回路42及び予測タップ抽出回路45によりクラスタップ及び予測タップの画素値を抽出するブロック化処理を行う。また、予測対象画素抽出回路46により、生徒画像から抽出されるクラスタップ及び予測タップとの対応をとりながら、予測対象画素の画素値を教師画像信号から抽出する。
【0072】
ステップS33では、ベクトル量子化回路43により、クラスタップ抽出回路42から渡されたクラスタップの画素値に基づいて、色空間内のベクトル量子化を行う。
【0073】
ステップS34では、ベクトル量子化回路43によるベクトル量子化の結果から、クラス分類回路44によりクラスを決定してクラス番号を出力する。
【0074】
ステップS35では、第1の演算回路47により、クラス分類回路44から出力されたクラス番号にしたがって予測タップの画素値と予測対象画素の画素値を正規方程式に足し込む。
【0075】
ステップS36では、第1の演算回路47による正規方程式への足し込みの処理が、学習の対象画素の全てに対して行われたか否かを判定する。まだ処理していない対象画素が存在する場合には、ステップS32に戻り、また、全て対象画素についての処理が行われていればステップS37に進む。
【0076】
ステップS37では、第2の演算回路49は、学習データメモリ48に蓄積された正規方程式のマトリクスの係数を用いて、コレスキー分解などの手法により正規方程式を解く処理を実行する。
【0077】
ステップS38では、第2の演算回路49による正規方程式を解く処理が、全てのクラス番号の正規方程式について行われたか否かを判定する。まだ処理していない正規方程式が存在する場合には、ステップS37に戻り、また、全ての処理が行われていれば、学習処理を終了する。
【0078】
このようにしてクラスコードと関連付けられて係数メモリ50に記憶された予測係数セットは、図5に示したクラス分類適応処理部24の係数メモリ34に記憶されることになる。そして、画像信号処理部8のクラス分類適応処理部24は、上述したように、係数メモリ34に記憶されている予測係数セットを用いて、線形1次結合モデルにより、注目画素に対して適応処理を行う。
【0079】
例えば、図11の(A)に示すn×m(n及びmは正の整数)個の画素で構成されるCCDイメージセンサにより得られるベイヤー配列の色フィルタアレイにより色コーディングされた出力画像信号から、図11の(B)に示す2n×2m個のR画素の画像信号、2n×2m個のG画素の画像信号及び2n×2m個のB画素の画像信号を、それぞれ直接生成する適応処理を行うことにより、4倍密度の画像を生成する。この場合、画像信号処理部8では、クラスタップ抽出部30により入力画像信号をp×q(p及びqは正の整数)個のブロックに分割し、各ブロック毎にクラスタップを抽出する。
この場合、例えば、図12乃至図15に示すようような構造のクラスタップ、及び、図16乃至図19に示すようような構造の予測タップが使用される。
【0080】
図12の(A)、図13の(A)、図14の(A)及び図15の(A)に示される注目画素の斜め方向に隣接する位置に×印で示される予測画素のR信号、G信号又はB信号を生成する場合、及び、そのための予測係数セットを算出する際に、クラスを決定するのに用いられるにクラスタップの一例の構造を図12の(B)、図13の(B)、図14の(B)及び図15の(B)に示す。図12の(B)、図13の(B)、図14の(B)及び図15の(B)において、△はB信号のクラスタップを示し、○はG信号のクラスタップを示し、さらに、□はR信号のクラスタップを示している。
【0081】
また、図16の(A)、図17の(A)、図18の(A)及び図19の(A)に示される注目画素の斜め方向に隣接する位置に×印で示される予測画素のR信号、G信号又はB信号を生成する場合、及び、そのための予測係数セットを算出する際に用いられるに予測タップの一例の構造を図16の(B)、図17の(B)、図18の(B)及び図19の(B)に示す。すなわち、予測タップは、図16の(B)、図17の(B)、図18の(B)及び図19の(B)に○を付して示すように注目画素を含む5×5の25個の画素にて構成される。
【0082】
なお、本来、クラスタップ及び予測タップの位置は、それぞれ最も効率の良いように配置される。そして、クラスタップ及び予測タップは数多く使用する方が、処理の精度は向上する。
【0083】
なお、この実施の形態では、RGBの3つの情報を基にクラス分類を行っているが、YUVの3つの情報を基にクラス分類を行うこともできる。
【0084】
以上の実施の形態の効果を評価するため、色フィルタアレイとしてベイヤー配列のものを用いた場合を想定したシミュレーションを行った。
【0085】
学習装置40と同様の処理を行うアルゴリズムで予測係数セットを生成し、3板式カメラのCCD出力相当の画像信号から、クラス分類適応処理の倍率と画素の位置関係を考慮した間引き操作により、単板式カメラのCCD出力相当の画像信号を生成し、上述したクラス分類適応処理による補間を行ったところ、従来の線形補間、また、RGBそれぞれのADRCの波形分類を組み合わせたクラス分類などとの対比の結果、本発明の優位性を確認することができた。
【0086】
シミュレーションには、ITE(Institute of Television Engineers) のハイビジョン標準画像9枚を使用し、予測係数セットの算出に関してもその9枚を用いてシミュレーションを行った。その結果、線形補間との比較では、殆どの画像の色の変化部分での滑らかさが向上し、急峻な色変化部分に見られた破綻もなくすことができた。
【0087】
なお、上述した説明では、色コーディングフィルタ4として、ベイヤー配列のものを用いた場合を説明したが、他の構成のであっても情報の密度に差がある構成の色コーディングフィルタを用いる場合には本発明を適応するができる。
【0088】
ここで、このデジタルスチルカメラ1のCCDイメージセンサ5に用いることのできる色コーディングフィルタ4を構成する色フィルタアレイの構成例を図20の(A)〜(N)に示す。
【0089】
図20の(A)〜(G)は、原色(R,G,B)成分を通過させる原色フィルタアレイで構成された色コーディングフィルタ4における緑(G)・赤(R)・青(B)の色配列の例を示している。
【0090】
図20の(A)はベイヤー配列を示し、図20の(B)はインタライン配列を示し、図20の(C)はGストライプRB市松配列を示し、図20の(D)はGストライプRB完全市松配列を示し、図20の(E)はストライプ配列を示し、図20の(F)は斜めストライプ配列を示し、図20の(G)は原色色差配列を示す。
【0091】
また、図20の(H)〜(N)は、補色(M,Y,C,W,G)成分を通過させる補色フィルタアレイで構成された色コーディングフィルタ4におけるマゼンタ(M)・黄(Y)・シアン(C)・白(W)の色配列を示す。図20の(H)はフィールド色差順次配列を示し、図20の(I)がフレーム色差順次配列を示し、図20の(J)はMOS型配列を示し、図20の(K)は改良MOS型配列を示し、図20の(L)はフレームインターリーブ配列を示し、図19の(M)はフィールドインターリーブ配列を示し、図20の(N)はストライプ配列を示す。
【0092】
なお、補色(M,Y,C,W,G)成分は、
Y=G+R
M=R+B
C=G+B
W=R+G+B
にて与えられる。また、図20の(I)に示すフレーム色差順対応の色コーディングフィルタ4を通過する各色(YM,YG,CM,CG)成分は、
YM=Y+M=2R+G+B
CG=C+G=2G+B
YG=Y+G=R+2G
CM=C+M=R+G+2R
にて与えられる。
【0093】
また、このデジタルスチルカメラ1では、単板のCCDイメージセンサ5により撮像された画像信号から4倍密度の画像信号をクラス分類適応処理により生成するようにしたが、単板画像から3板相当画像への変換に限られることなく、任意の画素数への変換をクラス分類適応処理により行うようにすることができ、また、それらの処理を同時に行うなどの各種処理をクラス分類適応処理により行うようにすることができる。
【0094】
さらに、上記クラス分類適応処理部24におけるクラス分類適応処理や、上記学習装置40において予測係数セットを得るための学習処理は、例えば図21に示すように、バス311に接続されたCPU(Central Processing Unit) 312、メモリ313、入力インターフェース314、ユーザインターフェース315や出力インターフェース316などにより構成される一般的なコンピュータシステム310により実行することができる。上記処理を実行するコンピュータプログラムは、記録媒体に記録されて、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理を行うコンピュータ制御可能なプログラムが記録された記録媒体、又は、クラスに応じた予測係数セットを生成するための学習処理を行うコンピュータ制御可能なプログラムが記録された記録媒体として、ユーザに提供される。上記記録媒体には、磁気ディスク、CD−ROMなどの情報記録媒体の他、インターネット、デジタル衛星などのネットワークによる伝送媒体も含まれる。
【0095】
【発明の効果】
以上の如く本発明によれば、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出し、上記注目画素近傍に位置する複数の画素のそれぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、そのベクトル量子化の結果に基づいて1つのクラスを決定し、決定されたクラスに対応した予測係数セットと、抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成することにより、補間処理の破綻を回避し、色再現性の向上を図り、解像度が高く、滑らかで且つ自然な色の変化を再現できる画像信号を得ることができる。
【0096】
また、本発明によれば、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、そのベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成するので、補間処理の破綻を回避し、色再現性の向上を図り、解像度が高く、滑らかで且つ自然な色の変化を再現できる画像信号を得るための処理行う画像信号処理装置が用いる予測係数セットを算出することができる。
【0097】
【図面の簡単な説明】
【図1】本発明を適用したデジタルスチルカメラの構成を示すブロック図である。
【図2】上記デジタルスチルカメラの動作を説明するためのフローチャートである。
【図3】上記デジタルスチルカメラにおける画像信号処理部の構成を示すブロック図である。
【図4】上記画像信号処理部により行われる画像信号処理を説明するためのフローチャートである。
【図5】クラス分類適応処理を行うクラス分類適応処理部の構成例を示す示すブロック図である。
【図6】上記クラス分類適応処理部により行われるクラス分類適応処理を説明するためのフローチャートである。
【図7】上記クラス分類適応処理部により行われるベクトル量子化におけるクラスの生成方法を模式的に示す図である。
【図8】上記クラス分類適応処理部におけるクラス分類適応処理に用いる予測係数セットを学習により得る学習装置の構成例を示すブロック図である。
【図9】上記学習装置の動作を説明するためのフローチャートである。
【図10】上記学習装置による学習処理の一例を模式的に示す図である。
【図11】上記画像信号処理部におけるクラス適応処理による画像信号処理の一例を模式的に示す図である。
【図12】上記クラス適応処理に使用するクラスタップの構造を模式的に示す図である。
【図13】上記クラス適応処理に使用するクラスタップの構造を模式的に示す図である。
【図14】上記クラス適応処理に使用するクラスタップの構造を模式的に示す図である。
【図15】上記クラス適応処理に使用するクラスタップの構造を模式的に示す図である。
【図16】上記クラス適応処理に使用する予測タップの構造を模式的に示す図である。
【図17】上記クラス適応処理に使用する予測タップの構造を模式的に示す図である。
【図18】上記クラス適応処理に使用する予測タップの構造を模式的に示す図である。
【図19】上記クラス適応処理に使用する予測タップの構造を模式的に示す図である。
【図20】上記デジタルスチルカメラのCCDイメージセンサに用いることのできる色コーディングフィルタの色フィルタアレイの構成例を模式的に示す図である。
【図21】上記クラス分類適応処理や予測係数セットを得るための学習処理を行うコンピュータシステムの一般的な構成を示すブロック図である。
【図22】従来の線形補間による画像信号処理を模式的に示す図である。
【符号の説明】
1 デジタルスチルカメラ、5 CCDイメージセンサ、8 画像信号処理部、24 クラス分類適応処理部、31 クラスタップ抽出回路、32 ベクトル量子化回路、33 クラス分類回路、34 係数セットメモリ、35 予測タップ抽出回路、36 適応処理回路、40 学習装置、41 間引き部、42 クラスタップ抽出回路、43 ベクトル量子化回路、44 クラス分類回路、45予測タップ抽出回路、46 予測対象画素抽出回路、47 第1の演算回路、48 学習データメモリ、49 第2の演算回路、50 係数メモリ
Claims (16)
- 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理装置において、
上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出手段と、
上記画素抽出手段で抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化手段と、
上記ベクトル量子化手段によるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定手段と、
上記クラス決定手段で決定されたクラスに対応した予測係数セットと上記画素抽出手段によって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成手段と
を備え、
上記画素生成手段は、上記クラス決定手段により決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを記憶する記憶手段と、上記記憶手段から読み出される上記クラス決定手段で決定されたクラスに応じた予測係数セットと、上記画素抽出手段によって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、上記異なる色成分を持つ画素を生成する演算手段とを備える画像信号処理装置。 - 上記画素生成手段は、上記注目画素の位置に、すべての色成分を持つ画素を生成することを特徴とする請求項1記載の画像信号処理装置。
- 上記色成分で表される色は、赤、青、緑の何れかであることを特徴とする請求項1記載の画像信号処理装置。
- 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ上記色コーディングされた画像信号を取得する取得手段をさらに備えることを特徴とする請求項1記載の画像信号処理装置。
- 上記取得手段は、固体撮像素子であることを特徴とする請求項4記載の画像信号処理装置。
- 上記固体撮像素子は、ベイヤー配列のCCDイメージセンサであることを特徴とする請求項5記載の画像信号処理装置。
- 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理方法において、
上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出ステップと、
上記画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素のそれぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、
上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、
上記クラス決定ステップで決定されたクラスに対応した予測係数セットと上記画素抽出ステップによって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップと
を備え、
上記画素生成ステップでは、上記クラス決定ステップで決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを用いて、上記画素を生成する画像信号処理方法。 - 上記画素生成ステップでは、上記注目画素の位置に、すべての色成分を持つ画素を生成することを特徴とする請求項7記載の画像信号処理方法。
- 上記色成分で表される色は、赤、青、緑の何れかであることを特徴とする請求項7記載の画像信号処理方法。
- 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ上記画像信号を取得する取得ステップをさらに有することを特徴とする請求項7記載の画像信号処理方法。
- 上記取得ステップでは、固体撮像素子により上記画像信号を取得することを特徴とする請求項10記載の画像信号処理方法。
- 上記取得ステップでは、ベイヤー配列のCCDイメージセンサにより上記画像信号を取得することを特徴とする請求項11記載の画像信号処理方法。
- 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた入力画像信号を処理する画像信号処理を実行させるためのプログラムを記録したコンピュータにより読み取り可能な記録媒体において、
上記プログラムは、
上記入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出する抽出ステップと、
上記画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素のそれぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、
上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、
上記クラス決定ステップで決定されたクラスに対応した予測係数セットと上記画素抽出ステップによって抽出された上記注目画素近傍の複数の画素の画素値との積和演算により予測画素値を算出して、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップとを有し、
上記画素生成ステップでは、上記クラス決定ステップで決定される各クラス毎の予測係数セットとして、画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行い、上記ベクトル量子化の結果に基づいて1つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、決定されたクラス毎に、上記生徒画像信号から抽出された複数の画素の画素値と、上記教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する学習処理を実行することにより予め得られたクラス毎の予測係数セットを用いて、上記画素を生成する画像信号処理を上記コンピュータに実行させることを特徴とする記録媒体。 - 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出手段と、
上記第1の画素抽出手段で抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分で表される色空間内におけるベクトル量子化を行うベクトル量子化手段と、
上記ベクトル量子化手段によるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定手段と、
上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出手段と、
上記クラス決定手段により決定されたクラス毎に、上記第1の画素抽出手段で生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出手段で教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成手段とを備える学習装置。 - 画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出ステップと、
上記第1の画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、
上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、
上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出ステップと、
上記クラス決定ステップにより決定されたクラス毎に、上記第1の画素抽出ステップで生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出ステップで教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成ステップとを有する学習方法。 - クラスに応じた予測係数セットを生成するための学習処理を実行させるためのプログラムを記録したコンピュータにより読み取り可能な記録媒体において、
上記プログラムは、
画素位置毎に輝度あるいは複数の色のうちのいずれか1つを表す成分を持つ色コーディングされた生徒画像信号の注目画素の近傍の複数の画素を抽出する第1の画素抽出ステップと、
上記第1の画素抽出ステップで抽出された上記注目画素近傍に位置する複数の画素それぞれの色成分の信号値に基づいて、複数の色成分によって表される色空間内におけるベクトル量子化を行うベクトル量子化ステップと、
上記ベクトル量子化ステップにおけるベクトル量子化の結果に基づいて1つのクラスを決定するクラス決定ステップと、
上記生徒画像信号と対応する画像信号であり、1画素毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第2の画素抽出ステップと、
上記クラス決定ステップにより決定されたクラス毎に、上記第1の画素抽出ステップで生徒画像信号から抽出された複数の画素の画素値と、上記第2の画素抽出ステップで教師画像信号から抽出された複数の画素の画素値とから、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを解とする正規方程式のマトリクスの係数を演算し、上記正規方程式を解くことにより、クラス毎の予測係数セットを生成する予測係数生成ステップと
を有する学習処理を上記コンピュータに実行させることを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000251496A JP4691762B2 (ja) | 2000-08-22 | 2000-08-22 | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000251496A JP4691762B2 (ja) | 2000-08-22 | 2000-08-22 | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2002064819A JP2002064819A (ja) | 2002-02-28 |
JP2002064819A5 JP2002064819A5 (ja) | 2007-04-19 |
JP4691762B2 true JP4691762B2 (ja) | 2011-06-01 |
Family
ID=18740895
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000251496A Expired - Fee Related JP4691762B2 (ja) | 2000-08-22 | 2000-08-22 | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4691762B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20050062709A (ko) | 2003-12-22 | 2005-06-27 | 삼성전자주식회사 | 디지털 이미지 처리 장치 및 그 방법 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1996007275A1 (fr) * | 1994-08-31 | 1996-03-07 | Sony Corporation | Dispositif analyseur d'images |
JPH10164602A (ja) * | 1996-11-26 | 1998-06-19 | Minolta Co Ltd | 画素補間装置及びその画素補間方法 |
JPH11178011A (ja) * | 1997-12-09 | 1999-07-02 | Sony Corp | 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像処理装置および画像処理方法、並びに記録媒体 |
-
2000
- 2000-08-22 JP JP2000251496A patent/JP4691762B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1996007275A1 (fr) * | 1994-08-31 | 1996-03-07 | Sony Corporation | Dispositif analyseur d'images |
JPH10164602A (ja) * | 1996-11-26 | 1998-06-19 | Minolta Co Ltd | 画素補間装置及びその画素補間方法 |
JPH11178011A (ja) * | 1997-12-09 | 1999-07-02 | Sony Corp | 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像処理装置および画像処理方法、並びに記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2002064819A (ja) | 2002-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1187455B1 (en) | Image data processing apparatus and electronic camera | |
US8106957B2 (en) | Image signal processing apparatus, and image signal processing method | |
JP3893099B2 (ja) | 撮像システムおよび撮像プログラム | |
KR20090087811A (ko) | 촬상 장치, 화상 처리 장치, 화상 처리 방법, 화상 처리방법의 프로그램 및 화상 처리 방법의 프로그램을 기록한기록 매체 | |
WO2008150017A1 (ja) | 信号処理方法および信号処理装置 | |
JP4894594B2 (ja) | 画像処理装置 | |
JP5259616B2 (ja) | 画像処理システムおよび画像処理プログラム | |
JP4581199B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4433545B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4691762B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4547757B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4839543B2 (ja) | 画像信号処理装置、撮像装置、画像信号処理方法及び記録媒体 | |
JP3951993B2 (ja) | 撮像装置及びこの撮像装置に用いられるカラーデータ計測方法 | |
JP4529253B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4483048B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4433546B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4547758B2 (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 | |
JP4074323B2 (ja) | 再生システムおよび再生プログラム | |
JP4133179B2 (ja) | 画像信号処理装置 | |
JP3893489B2 (ja) | 信号処理装置および信号処理方法 | |
JP5586031B2 (ja) | 画像処理システム、画像処理方法および画像処理プログラム | |
JP2012227869A (ja) | 画像処理装置及び画像処理方法並びにデジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070305 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070305 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090804 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091026 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100716 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110125 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110207 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140304 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |