JP4433546B2

JP4433546B2 - 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体

Info

Publication number: JP4433546B2
Application number: JP2000048986A
Authority: JP
Inventors: 哲二郎近藤; 秀雄中屋; 貴志沢尾
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 1999-05-31
Filing date: 2000-02-21
Publication date: 2010-03-17
Anticipated expiration: 2020-02-21
Also published as: JP2001054126A

Description

【０００１】
【発明の属する技術分野】
本発明は画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体に関し、特に、１つの固体イメージセンサにより得られる画像に対し、その画像信号の１画素が赤（Ｒ：Red）成分、緑（Ｇ：Green）成分及び青（Ｂ：Blue）成分をもつように色成分を補間する画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体に関する。
【０００２】
【従来の技術】
ＣＣＤ（Charge Coupled Device）イメージセンサなどの固体イメージセンサを用いた撮像装置には、主に、１つのＣＣＤイメージセンサを用いた単板方式のもの（以後、単板式カメラという）と、３つのＣＣＤイメージセンサを用いた３板方式のもの（以後、３板式カメラという）とがある。
【０００３】
３板式カメラでは、例えばＲ信号用、Ｇ信号用及びＢ信号用の３つのＣＣＤイメージセンサを用いて、その３つのＣＣＤイメージセンサにより３原色信号を得る。そして、この３原色信号から生成されるカラー画像信号が記録媒体に記録される。
【０００４】
単板式カメラでは、１画素毎に割り当てられた色フィルタアレイからなる色コーディングフィルタが前面に設置された１つのＣＣＤイメージセンサを用いて、上記色コーディングフィルタにより色コーディングされた色成分の信号を１画素毎に得る。上記色コーディングフィルタを構成する色フィルタアレイとしては、例えば、Ｒ（Red），Ｇ（Green），Ｂ（Blue）の原色フィルタアレイや、Ｙｅ（Yellow），Ｃｙ（Cyanogen），Ｍｇ（Magenta）の補色フィルタアレイが用いられている。そして、単板式カメラにおいては、ＣＣＤイメージセンサにより１画素毎に１つの色成分の信号を得て、各画素が持っている色成分の信号以外の色信号を線形補間処理により生成して、３板式カメラにより得られる画像に近い画像を得るようしていた。ビデオカメラなどにおいて、小型化、軽量化を図る場合に、単板式が採用されている。
【０００５】
単板式カメラにおいて、例えば図１４の（Ａ）に示すような色配列の色フィルタアレイにより構成された色コーディングフィルタが設けられたＣＣＤイメージセンサは、Ｒ，Ｇ，Ｂの３原色のうちの１つの色のフィルタが配置された各画素から、そのフィルタの色に対応する画像信号のみが出力される。すなわち、Ｒの色フィルタが配置された画素からは、Ｒ成分の画像信号は出力されるが、Ｇ成分及びＢ成分の画像信号は出力されない。同様に、Ｇの画素からは、Ｇ成分の画像信号のみが出力され、Ｒ成分及びＢ成分の画像信号は出力されず、Ｂの画素からは、Ｂ成分の画像信号のみが出力され、Ｒ成分及びＧ成分の画像信号は出力されない。
【０００６】
ここで、図１４の（Ａ）に示す色フィルタアレイの色配列は、ベイヤー配列と称される。この場合においては、Ｇの色フィルタが市松状に配され、残った部分にＲとＢが一列毎に交互に配されている。
【０００７】
しかしながら、後段において各画素の信号を処理する際、各画素毎にＲ成分，Ｇ成分及びＢ成分の画像信号が必要となる。そこで、従来、ｎ×ｍ（ｎ及びｍは正の整数）個の画素で構成されるＣＣＤイメージセンサの出力から、図１４の（Ｂ）乃至（Ｄ）に示すように、ｎ×ｍ個のＲ画素の画像信号、ｎ×ｍ個のＧ画素の画像信号及びｎ×ｍ個のＢ画素の画像信号、すなわち、３板式カメラのＣＣＤ出力相当の画像信号が、それぞれ線形補間演算により求められ、それらの画像信号が後段に出力される。
【０００８】
【発明が解決しようとする課題】
しかしながら、上述した単板式カメラでは、線形処理を行うことにより色信号の補間を行っているので、その撮像出力として得られる画像信号による画像の解像度が、３板式カメラの撮像出力として得られる画像信号による画像と比較して低く、上記線形処理の影響により全体的にぼやけた画像となってしまうといった問題点があった。そこで、輪郭強調処理等の処理を行つて、見掛けの解像度を上げる処理を行っていた。
【０００９】
また、クラス分類適応処理により、このように単板式カメラのＣＣＤ出力から３板式カメラのＣＣＤ出力相当の出力を求める場合、クラスタップとして、ＲＧＢの各画素を独立に選択するようにして、Ｒの画素を予測する場合には、Ｒ画素だけをクラスタップとし、Ｇ画素を予測する場合にはＧの画素のみを予測タップとし、Ｂの画素を予測する場合にはＢ画素のみを予測タップとするようにしたのでは、例えば図１４の（Ａ）に示すように、単板式カメラのＣＣＤイメージセンサに色フィルタアレイとして、ベイヤー配列のものが用いられるような場合、ｎ×ｍ個の画素のうち、Ｒ画素とＢ画素は４画素に１個の割合でしか存在しないため、精度の良いクラス分類適応処理を行うことができない。
【００１０】
本発明は、このような状況に鑑みてなされたものであり、高精度にクラス分類適応処理を実行し、解像度の高い画像信号を生成できるようにすることを目的とする。
【００１１】
【課題を解決するための手段】
本発明は、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理装置において、上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出手段と、上記抽出手段で抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成する特徴情報生成部と、上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定部とを含むクラス決定手段と、上記クラス決定手段で決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成手段とを備えることを特徴とする。
【００１２】
また、本発明は、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理方法において、上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出ステップと、上記抽出ステップで抽出された各色成分毎の複数の画素に基づいて、各色成分毎の画素の特徴情報を生成し、上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、上記クラス決定ステップで決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップとを備えることを特徴とする。
【００１３】
また、本発明は、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理を行うコンピュータ制御可能なプログラムが記録された記録媒体において、上記プログラムは、上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出ステップと、上記抽出ステップで抽出された各色成分毎の複数の画素に基づいて、各色成分毎の画素の特徴情報を生成し、上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、上記クラス決定ステップで決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップとを備えることを特徴とする。
【００１４】
また、本発明に係る学習装置は、画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出手段と、上記第１の画素抽出手段で抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定手段と、上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出手段と、上記第１及び第２の画素抽出手段で抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成手段とを備えることを特徴とする。
【００１５】
また、本発明に係る学習方法は、画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出ステップと、上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出ステップと、上記第１及び第２の画素抽出ステップで抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成ステップとを有することを特徴とする。
【００１６】
さらに、本発明は、クラスに応じた予測係数セットを生成するための学習処理を行うコンピュータ制御可能なプログラムが記録された記録媒体において、上記プログラムは、画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出ステップと、上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出ステップと、上記第１及び第２の画素抽出ステップで抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成ステップとを有することを特徴とする。
【００１７】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
【００１８】
本発明は、例えば図１に示すような構成のデジタルスチルカメラ１に適用される。このデジタルスチルカメラ１は、１画素毎に割り当てられた色フィルタからなる色コーディングフィルタ４が前面に設置された１つのＣＣＤイメージセンサ５を用いてカラー撮像を行う単板式カメラであって、被写体からの入射光が、レンズ２により集光され、アイリス３及び色コーディングフィルタ４を介してＣＣＤイメージセンサ５に入射されるようになっている。上記ＣＣＤイメージセンサ５の撮像面上には、上記アイリス３により所定レベルの光量とされた入射光により被写体像が結像される。なお、このデジタルスチルカメラ１においては、色コーディングフィルタ４とＣＣＤイメージセンサ５は別体としたが、一体化した構造とすることができる。
【００１９】
上記ＣＣＤイメージセンサ５は、タイミングジェネレータ９からのタイミング信号により制御される電子シャッタに応じて所定時間にわたって露光を行い、色コーディングフィルタ４を透過した入射光の光量に応じた信号電荷（アナログ量）を画素毎に発生することにより、上記入射光により結像された被写体像を撮像して、その撮像出力として得られる画像信号を信号調整部６に供給する。
【００２０】
信号調整部６は、画像信号の信号レベルが一定となるようにゲインを調整するＡＧＣ(Automatic Gain Contorol) 回路と、ＣＣＤイメージセンサ５が発生する１／ｆのノイズを除去するＣＤＳ(Correiated Double Sampling)回路からなる。
【００２１】
上記信号調整部６から出力される画像信号は、Ａ／Ｄ変換部７によりアナログ信号からデジタル信号に変換されて、画像信号処理部８に供給される。上記Ａ／Ｄ変換部７では、タイミングジェネレータ９からのタイミング信号に応じて、例えば１サンプル１０ビットのディジタル撮像信号を生成する。
【００２２】
このデジタルスチルカメラ１において、タイミングジェネレータ９は、ＣＣＤイメージセンサ５、信号調整部６、Ａ／Ｄ変換部７及びＣＰＵ(Central Processing Unit) １０に各種タイミング信号を供給する。ＣＰＵ１０は、モータ１１を駆動することにより、アイリス３を制御する。また、ＣＰＵ１０は、モータ１２を駆動することにより、レンズ２などを移動させ、ズームやオートフォーカスなどの制御をする。さらに、ＣＰＵ１０は、必要に応じ、フラッシュ１３により閃光を発する制御を行うようにされている。
【００２３】
画像信号処理部８は、Ａ／Ｄ変換部７から供給された画像信号に対し、欠陥補正処理、ディジタルクランプ処理、ホワイトバランス調整処理、ガンマ補正処理、クラス分類適応処理を用いた予測処理等の処理を行う。
【００２４】
この画像信号処理部８に接続されたメモリ１５は、例えば、ＲＡＭ(Random Access Memory)で構成され、画像信号処理部８が画像処理を行う際に必要な信号を記憶する。画像信号処理部８により処理された画像信号は、インタフェース１４を介してメモリ１６に記憶される。このメモリ１６に記憶された画像信号は、インタフェース１４を介してデジタルスチルカメラ１に対して着脱可能な記録媒体１７に記録される。
【００２５】
なお、モータ１１は、ＣＰＵ１０からの制御情報に基づいてアイリス３を駆動し、レンズ２を介して入射される光の量を制御する。また、モータ１２は、ＣＰＵ１０からの制御情報に基づいてレンズ２のＣＣＤイメージセンサ２に対するフォーカス状態を制御する。これにより、自動絞り制御動作や自動焦点制御動作が実現される。また、フラッシュ１３は、ＣＰＵ１０による制御の下で、被写体に対して所定の閃光を照射する。
【００２６】
また、インターフェース１４は、画像信号処理部８からの画像信号を必要に応じてメモリ１６に記憶し、所定のインターフェース処理を実行した後、記録媒体１７に供給し、記憶させる。記録媒体１７としては、デジタルスチルカメラ１の本体に対して着脱可能な記録媒体、例えばフロッピーディスク、ハードディスク等のディスク記録媒体、メモリカード等のフラッシュメモリ等を用いることができる。
【００２７】
コントローラ１８は、ＣＰＵ１０の制御の下で、画像信号処理部８及びインターフェース１４に制御情報を供給してそれぞれを制御する。ＣＰＵ１０には、シャッタボタンやズームボタンなどの操作ボタンから構成される操作部２０からユーザによる操作情報が入力される。ＣＰＵ１０は、入力された操作情報を基に、上述した各部を制御する。電源部１９は、バッテリ１９ＡとＤＣ／ＤＣコンバータ１９Ｂなどを有する。ＤＣ／ＤＣコンバータ１９Ｂは、バッテリ１９Ａからの電力を所定の値の直流電圧に変換し、装置内の各構成要素に供給する。充電可能なバッテリ１９Ａは、デジタルスチルカメラ１の本体に着脱可能とされている。
【００２８】
次に、図２のフローチャートを参照し、図１に示したデジタルスチルカメラ１の動作について説明する。このデジタルスチルカメラ１は、ステップＳ１において、電源がオンされることにより、被写体の撮像を開始する。すなわち、ＣＰＵ１０は、モータ１１及びモータ１２を駆動し、焦点を合わせたりアイリス３を調整することにより、レンズ２を介してＣＣＤイメージセンサ５上に被写体像を結像させる。
【００２９】
ステップＳ２では、結像された像をＣＣＤイメージセンサ５により撮像した画像信号が、信号調整部６において、信号レベルが一定となるようにゲイン調整され、さらにノイズが除去され、さらに、Ａ／Ｄ変換部７によりデジタル化される。
【００３０】
また、ステップＳ３では、上記Ａ／Ｄ変換部７によりデジタル化された画像信号に対して、画像信号処理部８によりクラス分類適応処理を含む画像信号処理を行う。
【００３１】
ここで、被写体像は、ＣＣＤイメージセンサ５の撮像出力として得られる画像信号を電子ビューファインダに表示するよりユーザが確認できるようになっている。なお、被写体像は、光学的ビューファインダによりユーザが確認できるようにすることもできる。
【００３２】
そして、ユーザは、ビューファインダにより確認した被写体像の画像を記録媒体１７に記録したい場合、操作部２０のシャッタボタンを操作する。デジタルスチルカメラ１のＣＰＵ１０は、ステップＳ４において、シャッタボタンが操作されたか否かを判断する。デジタルスチルカメラ１は、シャッタボタンが操作されたと判断するまで、ステップＳ２〜Ｓ３の処理を繰り返し、シャッタボタンが操作されたと判断すると、ステップＳ５に進む。
【００３３】
そして、ステップＳ５では、画像信号処理部８による画像信号処理が施された画像信号をインターフェース１４を介して記録媒体１７に記録する。
【００３４】
次に、図３を参照して画像信号処理部８について説明する。
【００３５】
この画像信号処理部８は、上記Ａ／Ｄ変換部７によりデジタル化された画像信号が供給される欠陥補正部２１を備える。ＣＣＤイメージセンサ５の画素の中で、何らかの原因により入射光に反応しない画素や、入射光に依存せず、電荷が常に蓄えられている画素、換言すれば、欠陥がある画素を検出し、その検出結果に従って、それらの欠陥画素の影響が露呈しないように、画像信号を補正する処理を行う。
【００３６】
Ａ／Ｄ変換部７では、負の値がカットされるのを防ぐため、一般に信号値を若干正の方向ヘシフトさせた状態でＡ／Ｄ変換が行われている。クランプ部２２は、欠陥補正部２１により欠陥補正された画像信号に対し、上述したシフト量がなくなるようにクランプする。
【００３７】
クランプ部２２によりクランプされた画像信号は、ホワイトバランス調整部２３に供給される。ホワイトバランス調整部２３は、クランプ部２２から供給された画像信号のゲインを補正することにより、ホワイトバランスを調整する。このホワイトバランス調整部２３によりホワイトバランスが調整された画像信号は、ガンマ補正部２４に供給される。ガンマ補正部２４は、ホワイトバランス調整部２３によりホワイトバランスが調整された画像信号の信号レベルをガンマ曲線に従って補正する。このガンマ補正部２４によりガンマ補正された画像信号は、予測処理部２５に供給される。
【００３８】
予測処理部２５は、クラス分類適応処理を行うことによってガンマ補正部２４の出力を例えば３板式カメラのＣＣＤ出力相当の画像信号に変換して、補正部２６に供給する。上記予測処理部２５は、ブロック化部２８、ＡＤＲＣ(Adaptive Dynamic Range Coding) 処理部２９、クラス分類部３０、適応処理部３１、係数メモリ３２等からなる。
【００３９】
ブロック化部２８は、後述するクラスタップの画像信号をＡＤＲＣ処理部２９に供給するとともに、予測タップの画像信号を適応処理部３１に供給する。ＡＤＲＣ処理部２９は、入力されたクラスタップの画像信号に対してＡＤＲＣ処理を行って再量子化コードを生成し、この再量子化コードを特徴情報としてクラス分類部３０に供給する。クラス分類部３０は、ＡＤＲＣ処理部２９から供給される特徴情報に基づいて、画像信号パターンの分類を行い、分類結果を示すクラス番号（クラスコード）を生成する。係数メモリ３２は、クラス分類部３０により分類されたクラス番号に対応する係数セットを適応処理部３１に供給する。適応処理部３１は、係数セットメモリ３２から供給された係数セットを用いて、ブロック化部２８から供給された予測タップの画像信号から予測画素値を求める処理を行う。
【００４０】
補正部２６は、上記予測処理部２５により処理された画像信号に対してエッジ強調等の画像を視覚的に良く見せるために必要ないわゆる画作りのための処理を行う。
【００４１】
そして、色空間変換部２７は、補正部２６によりエッジ強調などの処理が施された画像信号（ＲＧＢ信号）をマトリクス変換してＹＵＶ（輝度Ｙと色差Ｕ，Ｖとでなる信号）などの所定の信号フォーマットの画像信号に変換する。ただし、マトリクス変換処理を行わず、色空間変換部２７からＲＧＢ信号をそのまま出力させても良い。この発明の一実施形態では、例えばユーザの操作によつて、ＹＵＶ信号、ＲＧＢ信号の何れを出力するかを切り換えることが可能とされている。色空間変換部２７により変換された画像信号は、上述のインタフェース１４に供給される。
【００４２】
ここで、上記図２に示したフローチャートのステップＳ３において、画像信号処理部８により行われる画像信号処理について、図４のフローチャートを参照して説明する。
【００４３】
すなわち、画像信号処理部８では、Ａ／Ｄ変換部７によりデジタル化された画像信号に対する画像信号処理を開始すると、先ず、ステップＳ１１において、ＣＣＤイメージセンサ５の欠陥の影響が出ないように、欠陥補正部２１により画像信号の欠陥補正を行う。そして、次のステップＳ１２では、欠陥補正部２１により欠陥補正された画像信号に対して、正の方向にシフトされていた量をもとに戻すクランプ処理をクランプ部２２により行う。
【００４４】
次のステップＳ１３では、クランプ部２２によりクランプされた画像信号に対して、ホワイトバランス調整部２３によりホワイトバランスの調整を行い各色信号間のゲインを調整する。さらに、ステップＳ１４では、ホワイトバランスが調整された画像信号に対して、ガンマ補正部２４によりガンマ曲線に従った補正を施す。
【００４５】
ステップＳ１５では、クラス分類適応処理を用いた予測処理を行う。かかる処理は、ステップＳ１５１〜ステップＳ１５５までのステップからなる。ステップＳ１５１では、ガンマ補正部２４によりガンマ補正された画像信号に対してブロック化部２８によりブロック化、すなわち、クラスタップ及び予測タップの切り出しを行う。ここで、クラスタップは、複数種類の色信号に対応する画素を含む。ステップＳ１５２では、ＡＤＲＣ処理部２９によりＡＤＲＣ処理を行う。
【００４６】
ステップＳ１５３では、クラス分類部３０においてＡＤＲＣ処理の結果に基づいてクラスを分類するクラス分類処理を行う。そして、分類されたクラスに対応するクラス番号を適応処理部３１に与える。
【００４７】
ステップＳ１５４において、適応処理部３１は、クラス分類部３０より与えられたクラス番号に対応する予測係数セットを係数メモリ３２から読み出し、その予測係数セットを対応する予測タップの画像信号に乗算し、それらの総和をとることで、予測画素値を演算する。
【００４８】
ステップＳ１５５では、すべての領域に対して処理が行われたか否かを判定する。すべての領域に対して処理が行われたと判定される場合にはステップＳ１６に移行し、それ以外の場合にはステップＳ１５１に移行し、次の領域に対する処理を行う。
【００４９】
ステップＳ１６では、ステップＳ１５によつて得られた３板式カメラのＣＣＤ出力相当の画像に対して、視覚的に良く見せるための補正処理（いわゆる画作り）を行う。ステップＳ１７では、ステップＳ１６によつて得られた画像に例えばＲＧＢ信号をＹＵＶ信号に変換するなどの色空間の変換処理を施す。これにより、例えば記録信号として好適な信号フォーマットを有する出力画像が生成される。
【００５０】
ここで、クラス分類適応処理について説明する。クラス分類適応処理を用いた予測演算を行うための一般的な構成例を図５に示す。入力画像信号が領域切り出し部１０１、１０２に供給される。領域切り出し部１０１は、入力画像信号から所定の画像領域（クラスタップと称される）を抽出し、クラスタップの信号をＡＤＲＣ処理部１０３に供給する。ＡＤＲＣ処理部１０３は、供給される信号にＡＤＲＣ処理を施すことにより、再量子化コードを生成する。なお、再量子化コードを生成する方法として、ＡＤＲＣ以外の方法を用いても良い。
【００５１】
ＡＤＲＣは、本来、ＶＴＲ(Video Tape Recorder) 用の高能率符号化のために開発された適応的再量子化法であるが、信号レベルの局所的なパターンを短い語調で効率的に表現できるという特徴を有する。このため、クラス分類のコードを発生するための、画像信号の時空間内でのパターンすなわち空間アクティビティの検出に使用することができる。ＡＤＲＣ処理部１０３では、以下の式（１）により、クラスタップとして切り出される領域内の最大値ＭＡＸと最小値ＭＩＮとの間を指定されたビット数で均等に分割して再量子化する。
【００５２】
ＤＲ＝ＭＡＸ−ＭＩＮ＋１
Ｑ＝〔（Ｌ−ＭＩＮ＋０．５）×２ｎ／ＤＲ〕（１）
ここで、ＤＲは領域内のダイナミックレンジである。また、ｎはビット割当て数であり、例えばｎ＝２とすることができる。また、Ｌは領域内画素の信号レベルであり、Ｑが再量子化コードである。ただし、大かっこ（〔・・・〕）は小数点以下を切り捨てる処理を意味する。
【００５３】
これにより、１画素当たり例えば８ビットからなるクラスタップの画像信号が例えば２ビットの再量子化コード値に変換される。このようにして生成される再量子化コード値により、クラスタップの信号におけるレベル分布のパターンがより少ない情報量によつて表現される。例えば７画素からなるクラスタップ構造を用いる場合、上述したような処理により、各画素に対応する７個の再量子化コードｑ１〜ｑ７が生成される。クラスコードclass は、次の式（２）のようなものである。
【００５４】
【数１】

【００５５】
ここで、ｎはクラスタップとして切り出される画素の数である。また、ｐの値としては、例えばp＝２とすることができる。
【００５６】
クラスコードclass は、時空間内での画像信号のレベル分布のパターンすなわち空間アクティビティを特徴情報として分類してなるクラスを表現している。クラスコードclass は、予測係数メモリ１０４に供給される。予測係数メモリ１０４は、後述するようにして予め決定されたクラス毎の予測係数セットを記憶しており、供給される再量子化コードによって表現されるクラスの予測係数セットを出力する。一方、領域切り出し部１０２は、入力画像から所定の画像領域（予測タップと称される）を抽出し、予測タップの画像信号を予測演算部１０５に供給する。予測演算部１０５は、領域切り出し部１０２の出力と、予測係数メモリ１０４から供給される予測係数セットとに基づいて以下の式（３）のような演算を行うことにより、出力画像信号ｙを生成する。
【００５７】
ｙ＝ｗ₁×ｘ₁＋ｗ₂×ｘ₂＋・・・＋ｗ_n×ｘ_n （３）
ここで、ｘ₁，・・・，ｘ_nが各予測タップの画素値であり、ｗ₁，・・・，ｗ_nが各予測係数である。
【００５８】
また、予測係数セットを決定するための処理について図６を参照して説明する。出力画像信号と同一の画像信号形式を有するＨＤ(High Definition) 画像信号がＨＤ−ＳＤ変換部２０１と画素抽出部２０８に供給される。ＨＤ−ＳＤ変換部２０１は、間引き処理等を行うことにより、ＨＤ画像信号を入力画像信号と同等の解像度（画素数）の画像信号（以下、ＳＤ(Standard Definition) 画像信号という）に変換する。このＳＤ画像信号が領域切り出し部２０２、２０３に供給される。領域切り出し部２０２は、上記領域切り出し部１０１と同様に、ＳＤ画像信号からクラスタップを切り出し、クラスタップの画像信号をＡＤＲＣ処理部２０４に供給する。
【００５９】
ＡＤＲＣ処理部２０４は、図５中のＡＤＲＣ処理部１０３と同様なＡＤＲＣ処理を行い、供給される信号に基づく再量子化コードを生成する。再量子化コードは、クラスコード生成部２０５に供給される。クラスコード生成部２０５は、供給される再量子化コードに対応するクラスを示すクラスコードを生成し、クラスコードを正規方程式加算部２０６に供給する。一方、領域切り出し部２０３は、図６中の領域切り出し部１０２と同様に、供給されるＳＤ画像信号から予測タップを切り出し、切り出した予測タップの画像信号を正規方程式加算部２０６に供給する。
【００６０】
正規方程式加算部２０６は、領域切り出し部２０３から供給される画像信号と画素抽出部２０８から供給される画像信号について、クラスコード生成部２０５から供給されるクラスコード毎に加算し、加算した各クラス毎の信号を予測係数決定部２０７に供給する。予測係数決定部２０７は、供給される各クラス毎の信号に基づいて各クラス毎に予測係数セットを決定する。
【００６１】
さらに、予測係数セットを決定するための演算について説明する。予測係数ｗ_iは、図６に示したような構成に対し、ＨＤ画像信号として複数種類の画像信号を供給することにより、次のよう演算される。これらの画像信号の種類数をｍと表記する場合、式（３）から、以下の式（４）が設定される。
【００６２】
ｙ_k＝ｗ₁×ｘ_k1＋ｗ₂×ｘ_k2＋・・・＋ｗ_n×ｘ_kn （４）
（ｋ＝１，２，・・・，ｍ）
ｍ＞ｎの場合には、ｗ₁ ，・・・，ｗ_nは一意に決まらないので、誤差ベクトルｅの要素ｅｋを以下の式（５）で定義して、式（６）によつて定義される誤差ベクトルｅの２乗を最小とするように予測係数セットを定めるようにする。すなわち、いわゆる最小２乗法によつて予測係数セットを一意に定める。
【００６３】
ｅ_k＝ｙ_k−｛w₁×ｘ_k1＋ｗ₂×ｋ₂＋・・・＋ｗ_n×ｋ_n｝（５）
（ｋ＝１，２，・・・ｍ）
【００６４】
【数２】

【００６５】
式（６）のｅ²を最小とする予測係数セットを求めるための実際的な計算方法としては、ｅ²を予測係数ｗ_i（ｉ＝１，２，・・・）で偏微分し（式（７））、ｉの各値について偏微分値が０となるように各予測係数ｗ_iを決定すればよい。
【００６６】
【数３】

【００６７】
式（７）から各予測係数ｗ_iを決定する具体的な手順について説明する。式（８），（９）のようにＸ_ji，Ｙ_iを定義すると、式（７）は、式（１０）の行列式の形に書くことができる。
【００６８】
【数４】

【００６９】
【数５】

【００７０】
【数６】

【００７１】
式（１０）が一般に正規方程式と呼ばれるものである。正規方程式加算部２０５は、供給される信号に基づいて式（８），（９）に示すような演算を行うことにより、Ｘ_ji，Ｙ_i（ｉ＝１，２，・・・，ｎ）をそれぞれ計算する。予測係数決定部２０７は、掃き出し法等の一般的な行列解法に従って正規方程式（１０）を解くことにより、予測係数ｗ_i（ｉ＝１，２，・・・）を算出する。
【００７２】
ここでは、注目画素の特徴情報に対応した予測係数セットと予測タップを用いて、上述の式（３）における線形１次結合モデルの演算を行うことにより、適応処理を行う。なお、適応処理に用いる注目画素の特徴情報に対応した予測係数セットは、学習により得るが、クラス対応の画素値を用いたり、非線形モデルの演算により適応処理を行うこともできる。
【００７３】
上述したようなクラス分類適応処理により、入力画像信号から、例えばノイズが除去された画像信号、走査線構造が変換されてなる画像信号等を出力画像信号として生成する種々の画像信号変換処理が実現される。
【００７４】
ここで、上記デジタルスチルカメラ１のＣＣＤイメージセンサ５にＣＣＤイメージセンサ５に用いることのできる色コーディングフィルタ４を構成する色フィルタアレイの構成は、各種存在するが、色フィルタアレイの中で各信号値が有する情報の密度に差がある場合、各色信号毎に独立にクラス分類適応処理を行ったのでは、情報の密度差により予測精度に差が生じる。例えば、ベイヤー配列の色フィルタアレイが用いられる場合に、Ｒ，Ｇ、Ｂの各色信号毎に独立にクラス分類適応処理を行ったのでは、ｍ×ｎ（ｍ及びｎは正の整数）個の画素のうちＲ画素とＢ画素に関しては４画素に１個の割合でしか存在しないにも拘わらずＧ（４画素に２個の割合で存在する）と同様の処理がなされることになる。このため、ＲとＢに関してはＧと比較して精度の良い予測処理を行うことができない。
【００７５】
なお、ＲＧＢの各信号値から、輝度信号Ｙは、次式に従って演算される。
【００７６】
Ｙ＝０．５９Ｇ＋０．３０Ｒ＋０．１１Ｂ
このように、輝度信号に与える影響はＧ成分が最も大きく、ベイヤー配列の場合においても、Ｇ成分の画素が最も高密度に配置されている。輝度信号Ｙは、人間の視覚特性、解像度に影響する情報を多量に含んでいる。
【００７７】
したがって、クラスタップをＧ成分の画像信号をＧ画素のみから構成すれば、より精度良く、クラスを決定することができ、精度の良いクラス分類適応処理が可能となる。
【００７８】
このように、情報の密度に差がある場合には、例えば、上記クラスタップとして、最も高密度に配置されている色成分の画素のみを利用することにより、予測精度を向上させることができる。
【００７９】
さらに、切り出された複数の色信号を含むクラスタップに色フィルタアレイの各色信号毎に別個にＡＤＲＣ処理を行うことより得られる結果を合わせ込んでクラスを決定するようにすれば、より高精度に予測処理を行うことができ、解像度の高い画像信号を生成することができる。
【００８０】
そこで、このデジタルスチルカメラ１では、例えば、単板式カメラのＣＣＤイメージセンサによって生成される画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号から、入力画像信号の注目画素毎に、上記注目画素近傍の複数の画素を抽出し、抽出された各色成分毎の複数の画素の空間アクティビティを特徴情報としてＡＤＲＣ処理により生成し、生成した特徴情報に基づいて基づいてクラスを決定し、決定されたクラスに基づいて、上記注目画素の位置に、上記注目画素が持つ色成分と異なる色成分を持つ画素を生成するクラス分類適応処理を上記予測処理部２５で行うことによって、３板式カメラのＣＣＤ出力相当の画像信号を得る。
【００８１】
すなわち、ＡＤＲＣ処理部２９の出力すなわち再量子化コードが供給されるクラス分類部３０において、上記再量子化コードに基づいて画像信号パターンすなわち空間アクティビティの分類を行い、分類結果を示すクラス番号を生成することにより、クラス分類がより適切になされ、予測処理精度を向上させることができる。
【００８２】
この場合の、ベイヤー配列の色フィルタアレイにより色コーディングされた画像信号に対するクラスタップと予測タップの具体例について説明する。
【００８３】
図７は、Ｂ画素の位置にＲ，Ｇ，Ｂそれぞれの色信号を生成する（Ｂ画素の位置にもＢ成分の画像信号を生成する）場合、及び、その予測係数セットを演算する場合に使用するタップ構造の一例を示している。また、図８は、Ｂの画素の位置にＲ，Ｇ，Ｂそれぞれの色信号を生成する（Ｂ画素の位置にもＢ成分の画像信号を生成する）場合、及び、その予測係数セットを演算する場合に使用するタップ構造の一例を示している。
【００８４】
図７の（Ａ）〜（Ｃ）及び図８の（Ａ）〜（Ｃ）において、二重丸が予測されるべき画素すなわち予測画素の位置を示す。また、図７の（Ｂ）及び図８の（Ｂ）において、ＡＤＲＣ処理に用いられる画素の外枠位置を示し、さらに、三角形が実際にクラスタップとして切り出される画素の外枠位置を示す。図７の（Ｂ）及び図８の（Ｂ）において、三角形が予測タップとして切り出される画素の外枠位置を示す。
【００８５】
図７の（Ａ）に示すようにＧ画素の位置にＲ，Ｇ，Ｂのそれぞれの色信号を予測生成する場合には、例えば、図７の（Ｂ）に示すような画素がクラスタップとして切り出される。すなわち、予測生成されるべき位置の画素と、それに隣接する画素との計９個の画素（三角形で示す）をクラスタップとして切り出すに当たり、このクラスタップ中にはＧ画素が１つしか含まれないので、ＡＤＲＣ処理によりクラス分類に使用する特徴情報を確実に抽出することができないが、実際にクラスタップとして切り出される画素の範囲よりも広い範囲の画素をＡＤＲＣ処理に用いることによって、クラス分類に使用する特徴情報を確実に抽出することができる。
【００８６】
そして、図７の（Ｃ）に示すように予測タップが切り出される。すなわち、Ｒ，Ｇ，Ｂの各画素が混合されるような画素位置を予測タップとして切り出し、予測タップの信号に基づいて、各クラスに対応する予測係数セットを用いた重み付け加算等の演算を行うことによって予測位置の画素信号を予測生成する。
【００８７】
ベイヤー配列の場合には、Ｒ，Ｇ，Ｂのそれぞれの色信号に対応する画素数が１：２：１である。したがって、Ｒ，Ｇ，Ｂのそれぞれの色信号をＲ画素の位置に予測生成する場合には、上述したＲ，Ｇ，Ｂのそれぞれの信号をＲ画素の位置に予測生成する場合と同様なクラスタップ構造及び予測タップ構造を用いることができる。
【００８８】
一方、図８の（Ａ）に示すようにＧの画素位置にＲ，Ｇ，Ｂのそれぞれの色信号を予測生成する場合には、例えば、図８の（Ｂ）に示すような画素がクラスタップとして切り出される。すなわち、図８の（Ｂ）に示すように予測画素位置にある画素を中心とした隣接する９個の画素（三角形で示す）をクラスタップとして切り出すか、若しくは、特に画素数が少ない色信号についてはクラスタップの範囲が四角形で示す画素等にまで広げられる。そして、クラスタップの信号に基づいてＡＤＲＣ処理がなされ、処理結果から中心の画素だけ抜き出すことによってクラス分類がなされる。さらに、Ｒ，Ｇ，Ｂの各画素間の関係をクラス分類結果に反映させる処理が行われる。例えば、各信号のＡＤＲＣ処理の際のダイナミックレンジの大小関係及びしきい値処理の結果、ＡＤＲＣ処理の際の最大値及び最小値の関係等を数ビットの情報により付加することにより、より高精度で、解像度の高い画像信号を予測生成することができる。
【００８９】
また、図８の（Ｃ）に示すように予測タップが切り出される。すなわち、Ｒ，Ｇ，Ｂの各画素が混合されるような画素を予測タップとして配置し、予測タップの信号に基づいて、各クラスのに対応する予測係数セットを用いた重み付け加算等の演算を行うことによって予測位置の画素信号を予測生成する。
【００９０】
上記予測係数セットは、予め学習により得られるもので、上記係数メモリ３２に記憶されている。
【００９１】
ここで、この学習について説明する。図９は、予測係数セットを学習により得る学習装置４０の構成を示すブロック図である。
【００９２】
この学習装置４０では、クラス分類適応処理の結果として生成されるべき出力画像信号、すなわち３板式カメラのＣＣＤ出力相当の画像信号と同一の信号形式を有する画像信号が教師画像信号として間引き部４１及び教師画像ブロック化部４５に供給される。間引き部４１は、教師画像信号から、色フィルタアレイの各色の配置に従つて画素を間引く。間引き処理は、ＣＣＤイメージセンサ５に対して着される光学ローパスフィルタを想定したフィルタをかけることによって行う。すなわち、実際の光学系を想定した間引き処理を行う。間引き部４１の出力が生徒画像信号として生徒画像ブロック化部４２に供給される。
【００９３】
生徒画像ブロック化部４２は、間引き部４１により生成された生徒信号から、ブロック毎に教師画像信号の予測画素との対応を取りながら、注目画素に基づくクラスタップ及び予測タップを抽出することにより、生徒画像信号をブロック化してＡＤＲＣ処理部４３と演算部４６に供給する。ＡＤＲＣ処理部４３は、生徒画像ブロック化部４２から供給された生徒画像信号にＡＤＲＣ処理を施し特徴情報を生成し、クラス分類部４４に供給する。クラス分類部４４は、入力された特徴情報からクラスコードを発生し、演算部４６に出力する。
【００９４】
ここでは、教師画像信号は、３板式カメラのＣＣＤ出力相当の解像度をもつ画像信号であり、生徒画像信号は、単板式カメラのＣＣＤ出力相当の解像度をもつ画像信号、換言すれば、３板式カメラより解像度の低い画像信号である。さらに換言するに、教師画像信号は、１画素がＲ成分，Ｇ成分及びＢ成分すなわち３原色成分をもつ画像信号であり、生徒画像信号は、１画素がＲ成分，Ｇ成分又はＢ成分のうちの１つの色成分のみをもつ画像信号である。
【００９５】
一方、教師画像ブロック化部４５は、生徒画像信号におけるクラスタップとの対応を取りながら、教師画像信号から予測画素の画像信号を切り出し、切り出した予測画像信号を演算部４６に供給する。演算部４６は、生徒画像ブロック化部４２から供給される予測タップの画像信号と、教師画像ブロック化部４５より供給される予測画画像信号との対応を取りながら、クラス分類部４４より供給されるクラス番号に従って、予測係数セットを解とする方程式である正規方程式のデータを生成する演算を行う。上記演算部４６によつて生成される正規方程式のデータが学習データメモリ４７に逐次読み込まれ、記憶される。
【００９６】
演算部４８は、学習データメモリ４７に蓄積された正規方程式のデータを用いて正規方程式を解く処理を実行する。これにより、クラス毎の予測係数セットが算出される。算出された予測係数セットは、クラスに対応させて係数メモリ４９に記憶される。係数メモリ４９の記憶内容は、上述の係数メモリ３２にロードされ、クラス分類適応処理を行う際に使用される。
【００９７】
次に、図１０のフローチャートを参照して、学習装置４０の動作について説明する。
【００９８】
この学習装置４０に入力されるデジタル画像信号は、３板式カメラで撮像された画像に相当する画質が得られる画像信号である。なお、３板式カメラで得られる画像信号（教師画像信号）は、１画素の画像信号としてＲ，Ｇ，Ｂの３原色信号を含んでいるのに対し、単板式カメラで得られる画像信号（生徒画像信号）は、１画素の画像信号としてＲ，Ｇ，Ｂの３原色信号の内の１つの色信号のみを含んでいる。例えば図１１の（Ａ）に示すように３板式カメラで撮像されたＨＤ画像信号をフィルタリングして図１１の（Ｂ）に示すように１／４サイズのＳＤ画像信号に変換した教師画像信号が、この学習装置４０に入力される。
【００９９】
ステップＳ３１では、教師画像ブロック化部４５において、入力された教師画像信号をブロック化し、入力された教師画像信号から生徒画像ブロック化部４２が注目画素として設定する画素に対応する位置に位置する予測画素の画素値を抽出して、演算部４６に出力する。
【０１００】
また、ステップＳ３２では、３板式カメラで撮像された画像に相当する画質が得られる教師画像信号に対して間引き部４１により単板カメラのＣＣＤイメージセンサ５に用いられる色コーディングフィルタ４に相当するフィルタをかける間引き処理を実行することで、図１１の（Ｃ）に示すように単板式カメラのＣＣＤイメージセンサ５が出力する画像信号に対応する生徒画像信号を教師画像信号から生成し、生成した生徒画像信号を生徒画像ブロック化部４２に出力する。
【０１０１】
ステップＳ３３では、生徒画像ブロック化部４２において、入力された生徒画像信号のブロック化を行い、各ブロック毎に、注目画素に基づいて、クラスタップと予測タップを生成する。
【０１０２】
ステップＳ３４では、ＡＤＲＣ処理部４３において、生徒画像信号から切り出されたクラスタップの信号を各色信号毎にＡＤＲＣ処理する。
【０１０３】
ステップＳ３５では、クラス分類部４４において、ステップＳ３３におけるＡＤＲＣ処理の結果に基づいてクラス分類し、分類されるクラスに対応するクラス番号を示す信号を出力する。
【０１０４】
ステップＳ３６では、演算部４６において、クラス分類部４４より供給されたクラス毎に、生徒画像ブロック化部４２より供給された予測タップと、教師画像ブロック化部４５より供給される予測画像に基づいて、上述の式（１０）の正規方程式を生成する処理を実行する。正規方程式は、学習データメモリ４７に記憶される。
【０１０５】
ステップＳ３７では、演算部４６によりすべてのブロックについての処理が終了したか否かを判定する。まだ処理していないブロックが存在する場合には、ステップＳ３６に戻り、それ以降の処理を繰り返し実行する。そして、ステップＳ３７において、すべてのブロックについての処理が終了したと判定された場合、ステップＳ３８に進む。
【０１０６】
ステップＳ３８では、演算部４８において、学習データメモリ４７に記憶された正規方程式を例えば掃き出し法(Gauss-Jordan の消去法) やコレスキー分解法を用いて解く処理を実行することにより、予測係数セットを算出する。このようにして算出された予測係数セットはクラス分類部４４により出力されたクラスコードと関連付けられ、係数メモリ４９に記憶される。
【０１０７】
ステップＳ３９において、演算部４８においてすべてのクラスについての正規方程式を解く処理を実行したか否かを判定し、まだ実行していないクラスが残っている場合には、ステップＳ３８に戻り、それ以降の処理を繰り返し実行する。
【０１０８】
ステップＳ３９において、すべてのクラスについての正規方程式を解く処理が完了したと判定された場合、処理は終了される。
【０１０９】
このようにしてクラスコードと関連付けられて係数メモリ４９に記憶された予測係数セットは、図３に示した画像信号処理部８の係数メモリ３２に記憶されることになる。そして、画像信号処理部８の適応処理部３１は、上述したように、係数メモリ３２に記憶されている予測係数セットを用いて、式（３）に示した線形１次結合モデルにより、注目画素に対して適応処理を行う。このように、入力された画像信号の注目画素に基づいて、クラスタップと予測タップを抽出し、抽出されたクラスタップからクラスコードを生成し、その生成されたクラスコードに対応する予測係数セットと予測タップを用いて、注目画素の位置にＲＧＢ全ての色信号を生成することにより、解像度の高い画像信号を得ることが可能となる。
【０１１０】
上述したようになされる一実施形態の効果を評価するため、色フィルタアレイとしてベイヤー配列を用いる場合を想定してシミュレーションを行った。前述した学習装置４０と同じ動作を行うアルゴリズムで予測係数セットを生成するとともに、間引き処理により３板式カメラのＣＣＤ出力に相当する画像信号から単板式カメラのＣＣＤ出力に相当する画像信号を生成し、上述したクラス分類適応処理に予測処理を実施した。また、この発明による効果と比較するため、従来方式である線形補間と、Ｒ，Ｇ，Ｂそれぞれ独立にクラス分類を行ったクラス分類適応処理とを実施し、対比を試みた。
【０１１１】
シミュレーションには、ＩＴＥ(Institute of Television Engineers) のハイビジョン標準画像９枚を使用し、予測係数セットの算出に関してもその９枚を用いた。その結果、線形補間との比較では、すべての画像のＲ，Ｇ，Ｂの各色像信号においてエッジ部分や細部の鮮鋭度が増し、Ｓ／Ｎ比の向上も確認された。また、Ｒ，Ｇ，Ｂの各画像信号それぞれ独立にクラス分類を行ったクラス分類適応処理と比較した場合も、すべての画像においてＲ成分の画像信号とＢ成分の画像信号で解像度の向上が確認された。このように、この発明の一実施形態においては、線形補間や、Ｒ，Ｇ，Ｂの各色信号それぞれ独立にクラス分類を行ったクラス分類適応処理と比較して、エッジ部分や細部の鮮鋭度、Ｓ／Ｎ比、解像度等における画質の向上が実現される。
【０１１２】
なお、クラスタップ及び予測タップのタップ構造は、図７及び図８に示したものに限定されるものではない。原色フィルタアレイあるいは補色フィルタフィルタアレイの配列、生成すべき画像信号の解像度等の性質等の条件に応じて、クラスタップ及び予測タップのタップ構造を、適宜設定するようにすれば良い。例えば、出力画像により高い画質が要求される場合には、クラスタップ及び予測タップとしてより多くの画素が切り出されるようにすれば良い。
【０１１３】
なお、上述した説明では、色コーディングフィルタ４として、ベイヤー配列のものを用いた場合を説明したが、他の構成のであっても情報の密度に差がある構成の色コーディングフィルタを用いる場合には本発明を適応するができる。
【０１１４】
ここで、このデジタルスチルカメラ１のＣＣＤイメージセンサ５に用いることのできる色コーディングフィルタ４を構成する色フィルタアレイの構成例を図１２に示す。
【０１１５】
図１２の（Ａ）〜（Ｅ）は、原色（Ｒ，Ｇ，Ｂ）成分を通過させる原色フィルタアレイで構成された色コーディングフィルタ４における緑（Ｇ）・赤（Ｒ）・青（Ｂ）の色配列の例を示している。図１２の（Ａ）はベイヤー配列を示し、図１２の（Ｂ）はインタライン配列を示し、図１２の（Ｃ）はＧストライプＲＢ市松配列を示し、図１２の（Ｄ）はＧストライプＲＢ完全市松配列を示し、図１２の（Ｅ）は原色色差配列を示す。
【０１１６】
このように、本発明を適用したデジタルスチルカメラ１においては、最も高密度の画素の色の成分に基づいて決定されたクラスに基づいて、各色成分を演算するようにしたので、より精度良く、画像信号を生成することができる。しかも、クラス分類適応処理により、３板式カメラのＣＣＤ出力相当の各色信号Ｒ，Ｇ，Ｂを得るので、エッジ部分や細部の鮮鋭度が増し、Ｓ／Ｎ比の評価値も向上する。すなわち、クラス分類適応処理により単板式カメラのＣＣＤ出力相当の画像信号から得られる３板式カメラのＣＣＤ出力相当の画像信号は、従来の線形補間処理による場合と比較して、鮮明な画像となる。
【０１１７】
なお、ＣＣＤイメージセンサの全画素数に比べて、ＲＧＢの画素が例えば縦横それぞれ２倍で計４倍の解像度を有するなど、解像度等が異なる画像信号を生成する場合にも、この発明を適用することができる。すなわち、生成したい画像信号を教師画像信号とし、デジタルスチルカメラ１に搭載されるＣＣＤイメージセンサ５からの出力画像信号を生徒画像信号として学習を行うことによつて生成される予測係数セットを使用してクラス分類適応処理を行うようにすれば良い。
【０１１８】
また、この発明は、デジタルスチルカメラ以外に、例えばカメラ一体型ＶＴＲ等の映像機器や、例えば放送業務に用いられる画像処理装置、さらには、例えばプリンタやスキャナ等に対しても適用することができる。
【０１１９】
さらに、上記予測処理部２５におけるクラス分類適応処理や、上記学習装置４０において予測係数セットを得るための学習処理は、例えば図１３に示すように、バス３１１に接続されたＣＰＵ(Central Processing Unit) ３１２、メモリ３１３、入力インターフェース３１４、ユーザインターフェース３１５や出力インターフェース３１６などにより構成される一般的なコンピュータシステム３１０により実行することができる。上記処理を実行するコンピュータプログラムは、記録媒体に記録されて、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理を行うコンピュータ制御可能なプログラムが記録された記録媒体、又は、クラスに応じた予測係数セットを生成するための学習処理を行うコンピュータ制御可能なプログラムが記録された記録媒体として、ユーザに提供される。上記記録媒体には、磁気ディスク、ＣＤ−ＲＯＭなどの情報記録媒体の他、インターネット、デジタル衛星などのネットワークによる伝送媒体も含まれる。
【０１２０】
【発明の効果】
この発明では、切り出された複数の色信号を含むクラスタップに色フィルタアレイの各色信号毎に別個にＡＤＲＣ処理がなされ、ＡＤＲＣ処理により得られる結果を合わせ込んでクラスが決定される。このため、この発明によれば、より高精度に予測処理を行うことができ、解像度の高い画像データを生成することができる。
【図面の簡単な説明】
【図１】本発明を適用したデジタルスチルカメラの構成を示すブロック図である。
【図２】上記デジタルスチルカメラの動作を説明するためのフローチャートである。
【図３】上記デジタルスチルカメラにおける画像信号処理部の構成を示すブロック図である。
【図４】上記画像信号処理部により行われる画像信号処理を説明するためのフローチャートである。
【図５】クラス分類適応処理を用いた予測演算を行うための構成例を示す示すブロック図である。
【図６】予測係数セットを決定するための構成例を示すブロック図である。
【図７】上記クラス分類適応処理に用いられるタップ構造の一例を模式的に示す図である。
【図８】上記クラス分類適応処理に用いられるタップ構造の他の例を模式的に示す図である。
【図９】予測係数セットを学習により得る学習装置の構成例を示すブロック図である。
【図１０】上記学習装置の動作を説明するためのフローチャートである。
【図１１】上記学習装置による学習処理の一例を模式的に示す図である。
【図１２】上記デジタルスチルカメラのＣＣＤイメージセンサに用いることのできる色コーディングフィルタの色フィルタアレイの構成例を模式的に示す図である。
【図１３】上記クラス分類適応処理や予測係数セットを得るための学習処理を行うコンピュータシステムの一般的な構成を示すブロック図である。
【図１４】従来の線形補間による画像信号処理を模式的に示す図である。
【符号の説明】
１デジタルスチルカメラ、５ＣＣＤイメージセンサ、８画像信号処理部、２５予測処理部、２８ブロック化部、２９ＡＤＲＣ処理部、３０クラス分類部、３１適応処理部、３２係数セットメモリ、４０学習装置、４１間引き部、４２生徒画像ブロック化部、４３ＡＤＲＣ処理部、４４クラス分類部、４５教師画像ブロック化部、４６演算部、４７学習データメモリ、４８演算部、４９係数メモリ

Claims

画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理装置において、
上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出手段と、
上記抽出手段で抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成する特徴情報生成部と、
上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定部とを含むクラス決定手段と、
上記クラス決定手段で決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成手段と
を備える画像信号処理装置。
上記特徴情報生成部は、上記抽出手段で抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として生成することを特徴とする請求項１記載の画像信号処理装置。
上記特徴情報生成部は、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項２記載の画像信号処理装置。
上記抽出手段は、上記注目画素近傍の所定の範囲に含まれる複数の画素から、各色成分に対応する画素をそれぞれ抽出することを特徴とする請求項１記載の画像信号処理装置。
上記画素生成手段は、上記クラス決定手段により決定されるクラス毎の学習により得られた予測係数セットを用いて予測演算を行い、画素を生成することを特徴とする請求項１記載の画像信号処理装置。
上記予測係数セットは、画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出し、抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定し、上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出し、上記生徒画像信号と上記教師画像信号から抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する学習処理により得られたものであることを特徴とする請求項５記載の画像信号処理装置。
上記抽出手段は、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号から、複数の色信号に対応する所定位置の画素をクラスタップとして切り出し、
上記特徴情報生成部は、上記クラスタップの画像信号に対して、実際にクラスタップとして切り出される画素の範囲よりも広い範囲の画素を用いて、各色信号毎に別個に適応型ダイナミックレンジ符号化処理をして再量子化コードを生成し、再量子化コードをクラス分類に使用する特徴情報とすることを特徴とする請求項１記載の画像信号処理装置。
画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理方法において、
上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出ステップと、
上記抽出ステップで抽出された各色成分毎の複数の画素に基づいて、各色成分毎の画素の特徴情報を生成し、上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、
上記クラス決定ステップで決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップと
を有する画像信号処理方法。
上記クラス決定ステップでは、上記抽出ステップで抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として生成することを特徴とする請求項８記載の画像信号処理方法。
上記クラス決定ステップでは、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項９記載の画像信号処理方法。
上記抽出ステップでは、上記注目画素近傍の所定の範囲に含まれる複数の画素から、各色成分に対応する画素をそれぞれ抽出することを特徴とする請求項８記載の画像信号処理方法。
上記抽出ステップでは、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号から、複数の色信号に対応する所定位置の画素をクラスタップとして切り出し、
上記クラス決定ステップでは、上記クラスタップの画像信号に対して、実際にクラスタップとして切り出される画素の範囲よりも広い範囲の画素を用いて、各色信号毎に別個に適応型ダイナミックレンジ符号化処理をして再量子化コードを生成し、再量子化コードをクラス分類に使用する特徴情報とし、上記各色成分毎の特徴情報を統合して１つのクラスを決定することを特徴とする請求項８記載の画像信号処理方法。
画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号を処理する画像信号処理を行うコンピュータ制御可能なプログラムが記録された記録媒体において、
上記プログラムは、上記入力画像信号の注目画素毎に対して、上記注目画素近傍の画素から、各色成分毎に複数の画素を抽出する抽出ステップと、上記抽出ステップで抽出された各色成分毎の複数の画素に基づいて、各色成分毎の画素の特徴情報を生成し、上記各色成分毎の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、上記クラス決定ステップで決定されたクラスに基づいて、少なくとも上記注目画素が持つ色成分と異なる色成分を持つ画素を生成する画素生成ステップと
を有する記録媒体。
上記クラス決定ステップでは、上記抽出ステップで抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として生成することを特徴とする請求項１３記載の記録媒体。
上記クラス決定ステップでは、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項１４記載の記録媒体。
上記抽出ステップでは、上記注目画素近傍の所定の範囲に含まれる複数の画素から、各色成分に対応する画素をそれぞれ抽出することを特徴とする請求項１３記載の記録媒体。
上記抽出ステップでは、画素位置毎に複数のうちの何れか一つを表す色成分を持つ入力画像信号から、複数の色信号に対応する所定位置の画素をクラスタップとして切り出し、
上記クラス決定ステップでは、上記クラスタップの画像信号に対して、実際にクラスタップとして切り出される画素の範囲よりも広い範囲の画素を用いて、各色信号毎に別個に適応型ダイナミックレンジ符号化処理をして再量子化コードを生成し、再量子化コードをクラス分類に使用する特徴情報とし、上記各色成分毎の特徴情報を統合して１つのクラスを決定することを特徴とする請求項１２記載の記録媒体。
画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出手段と、
上記第１の画素抽出手段で抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定手段と、
上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出手段と、
上記第１及び第２の画素抽出手段で抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成手段と
を備える学習装置。
上記クラス決定手段は、上記第１の画素抽出手段で抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として、クラスを決定することを特徴とする請求項１８記載の学習装置。
上記クラス決定手段は、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項１９記載の学習装置。
画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出ステップと、
上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、
上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出ステップと、
上記第１及び第２の画素抽出ステップで抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成ステップと
を有する学習方法。
上記クラス決定ステップでは、上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として、クラスを決定することを特徴とする請求項２１記載の学習方法。
上記クラス決定ステップでは、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項２２記載の学習方法。
クラスに応じた予測係数セットを生成するための学習処理を行うコンピュータ制御可能なプログラムが記録された記録媒体において、
上記プログラムは、画素位置毎に一つの色成分を持つ生徒画像信号の注目画素の近傍の複数の画素を抽出する第１の画素抽出ステップと、
上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素に基づいて各色成分毎の画素の特徴情報を生成し、上記各色成分毎の画素の特徴情報を統合して１つのクラスを決定するクラス決定ステップと、
上記生徒画像信号と対応する画像信号であり、画素位置毎に複数の色成分を持つ教師画像信号から、上記生徒画像信号の注目画素の位置に相当する位置の近傍の複数の画素を抽出する第２の画素抽出ステップと、
上記第１及び第２の画素抽出ステップで抽出された複数の画素の画素値に基づいて、上記クラス毎に、上記生徒画像信号に相当する画像信号から上記教師画像信号に相当する画像信号を生成するための予測演算に用いる予測係数セットを生成する予測係数生成ステップと
を有する記録媒体。
上記クラス決定ステップでは、上記第１の画素抽出ステップで抽出された各色成分毎の複数の画素の空間アクティビティを上記特徴情報として、クラスを決定することを特徴とする請求項２４記載の記録媒体。
上記クラス決定ステップでは、上記各色成分毎の複数の画素に対してＡＤＲＣ(Adaptive Dynamic Range Coding) 処理によって上記空間アクティビティを生成することを特徴とする請求項２５記載の記録媒体。