JP4415468B2 - 補間処理装置および補間処理プログラムを記録した記録媒体 - Google Patents
補間処理装置および補間処理プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP4415468B2 JP4415468B2 JP2000276212A JP2000276212A JP4415468B2 JP 4415468 B2 JP4415468 B2 JP 4415468B2 JP 2000276212 A JP2000276212 A JP 2000276212A JP 2000276212 A JP2000276212 A JP 2000276212A JP 4415468 B2 JP4415468 B2 JP 4415468B2
- Authority
- JP
- Japan
- Prior art keywords
- similarity
- color
- interpolation
- color information
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Description
【発明の属する技術分野】
本発明は、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分や輝度成分に相当する補間値を決める補間処理を行う補間処理装置および該補間処理をコンピュータで実現させるための補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体に関する。
【0002】
【従来の技術】
電子カメラには、3色(RGB:赤・緑・青)の色成分に相当するカラーフィルタがベイア配列された撮像素子によって、カラーの画像データを生成するものがある。このような電子カメラでは、撮像素子の個々の画素から1つの色成分の色情報しか出力されないので、画素単位で全ての色成分の色情報を得るために、補間処理を行う必要がある。
【0003】
そこで、本出願人は、高周波成分を含む画像に対しても、精度良く補間処理が行える発明を特願平11−145273号、特願平11−145473号として出願している。これらの発明によれば、撮像素子の分解能の限界である画素ピッチで色が変化する画像に対しても、精度良く補間処理を行うことできるため、高精細な画像が得られる。
【0004】
【発明が解決しようとする課題】
ところで、図28(1)のように色成分がベイア配列された撮像素子の分解能は、各々の画素を図28(2)のように2つの領域に分割し、各々の領域から個別に色情報を取得することによって向上する。なお、以下では、1つの画素が2分割された各々の領域を「サブピクセル」と称し、図28(2)のような色成分の配列を「サブピクセル型ベイア配列」と称する。
【0005】
図28(2)のようにサブピクセル型ベイア配列された撮像素子を備えた電子カメラでは、サブピクセル単位で補間処理を行うことによって、更に高精細な画像を得ることが可能である。
しかし、サブピクセル型ベイア配列では、サブピクセル単位で色成分を捕らえた場合、任意のサブピクセルを起点とする横方向の色成分の配列は非対称である。そのため、サブピクセル型ベイア配列された撮像素子によって生成された画像データには、上述した発明を容易に適用することができない。
【0006】
そこで、第1ないし第26の発明は、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対して、サブピクセル単位で精度良く補間処理が行える補間処理装置を提供することを目的とし、第27または第28の発明は、このような画像データに対して、サブピクセル単位で精度良く補間処理が行える補間処理プログラムを記録した記録媒体を提供することを目的とする。
【0007】
【課題を解決するための手段】
上述した課題を解決するために、第1の発明の補間処理装置は、2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める処理を行う補間処理装置において、各々の画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を当該画素の色情報に相当する画素出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該画素出力色情報を用いて判定する主要類似性判定手段と、前記主要類似性判定手段によって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手段とを備えたことを特徴とする。
すなわち、第1の発明は、画素ピッチでの類似性の強弱の判定が可能である。なお、第1の発明では、類似性の強弱が判定される少なくとも2つの方向として、縦方向や横方向の他に、斜め方向を適用することが可能である。
【0008】
第2の発明は、第1の発明において、サブピクセルから出力される色情報をサブピクセル出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該サブピクセル出力色情報を用いて判定する微細部類似性判定手段を備え、前記補間値算出手段は、前記主要類似性判定手段と前記微細部類似性判定手段とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出することを特徴とする。
【0009】
ところで、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データでは画素ピッチでの類似性の強弱の判定によって類似性の強い方向を大まかに判断することが可能であるが、類似性の強い方向を詳細に判断するには、サブピクセルピッチでの類似性の強弱を判定することが望ましい。
第2の発明では、微細部類似性判定手段は、サブピクセル出力色情報を用いて補間対象サブピクセルの類似性の強弱を判定するので、サブピクセルピッチでの類似性の強弱の判定が可能である。
【0010】
第3の発明は、第2の発明において、前記主要類似性判定手段は、補間対象サブピクセルが属する画素について対称な距離に位置する画素の画素出力色情報を用い、前記類似性の強弱を判定し、前記微細部類似性判定手段は、補間対象サブピクセルについて非対称な距離に位置するサブピクセルサブピクセル出力色情報を用い、前記類似性の強弱を判定することを特徴とする。
【0011】
すなわち、第3の発明では、主要類似性判定手段は、補間対象サブピクセルが属する画素について対称な距離に位置する画素の画素出力色情報を用いて類似性の強弱を判定することによって、画素ピッチでの類似性の強弱の判定を実現できる。
ところで、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データでは、例えば、各々の画素が縦方向の直線に沿って分割された場合、任意のサブピクセルを起点とする横方向の色成分の配列は非対称となる。第3の発明では、任意の方向について、色成分の配列が非対称であっても、微細部類似性判定手段は、補間対象サブピクセルについて非対称な距離に位置するサブピクセルのサブピクセル出力色情報を用いて類似性の強弱を判定することによって、サブピクセルピッチでの類似性の強弱の判定を実現できる。
【0012】
第4の発明の補間処理装置は、2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める処理を行う補間処理装置において、補間対象サブピクセルについて対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する主要類似性判定手段と、補間対象サブピクセルについて非対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する微細部類似性判定手段と、前記主要類似性判定手段と前記微細部類似性判定手段とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手段とを備えたことを特徴とする。
【0013】
第5の発明は、第4の発明において、前記主要類似性判定手段は、前記対象な距離に位置する色情報として、補間対象サブピクセルが属する画素について対象な距離に位置する画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を用い、前記微細部類似性判定手段は、前記非対称な距離に位置する色情報として、補間対象サブピクセルについて非対称な距離に位置するサブピクセルから出力される色情報を用いることを特徴とする。
【0014】
第6の発明は、第4の発明において、前記主要類似性判定手段は、前記対象な距離に位置する色情報として、補間対象サブピクセルについて対称な距離に位置するサブピクセルから出力される色情報を用い、前記微細部類似性判定手段は、前記非対称な距離に位置する色情報として、補間対象サブピクセルについて非対称な距離に位置するサブピクセルから出力される色情報を用いることを特徴とする。
【0015】
第7の発明は、第2〜第6の発明のいずれかにおいて、前記微細部類似性判定手段は、前記主要類似性判定手段による判定の結果として類似性の強い方向が不明であると判断された場合に、類似性の強弱を判定することを特徴とする。
ところで、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データでは、画素ピッチでの類似性の強弱の判定により類似性の強い方向が判断できない場合であっても、サブピクセルピッチでの類似性の強弱の判定により類似性の強い方向を判断することが可能である。
【0016】
第7の発明では、微細部類似性判定手段によるサブピクセルピッチでの類似性の強弱の判定によって、主要類似性判定手段による画素ピッチでの類似性の強弱の判定が補えるため、主要類似性判定手段による判定の結果として類似性の強い方向が不明であると判断された場合にのみ、微細部類似性判定手段によって類似性の強弱を判定しても、類似性の強弱の判定の精度が低下することがない。
【0017】
第8の発明は、第1〜第7の発明のいずれかにおいて、前記画像データが複数の色成分から成る表色系で示される場合、前記主要類似性判定手段は、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を、複数の色成分の色情報を用いて算出し、該類似度に基づき少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定することを特徴とする。
【0018】
第9の発明は、第8の発明において、前記画像データが、第1〜第3の色成分から成る表色系で示され、第1色成分が第2色成分および第3色成分に比べて空間周波数が高く、第1色成分が欠落するサブピクセルに第1色成分の色情報に相当する補間値を決める場合、前記主要類似性判定手段は、
(1)前記第1色成分の色情報と前記第2色成分の色情報とを用いた類似度成分と、
(2)前記第1色成分の色情報と前記第3色成分の色情報とを用いた類似度成分と、
(3)前記第1色成分の色情報のみを用いた類似度成分と、
(4)前記第2色成分の色情報のみを用いた類似度成分と、
(5)前記第3色成分の色情報のみを用いた類似度成分と
の複数の類似度成分のうち、第1〜第3色成分の色情報が含まれる組み合わせを利用して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出することを特徴とする。
【0019】
第10の発明は、第9の発明において、前記主要類似性判定手段は、前記複数の類似度成分のうち、前記組み合わせに属する類似度成分を方向別に加重加算して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出することを特徴とする。
【0020】
第11の発明は、第1ないし第7の発明において、前記画像データが複数の色成分から成る表色系で示される場合、前記主要類似性判定手段は、補間対象サブピクセルの色情報とその近傍に存在する色情報とから選ばれる複数の色情報に基づき、
(1)異なる色成分の色情報を用いて算出される異色間類似度と、
(2)同じ色成分の色情報を用いて算出される同色間類似度と
の2種類の類似度を算出し、補間対象サブピクセルが属する局所的な領域における画像の特徴に応じて、どちらか一方の類似度に切り換える、もしくは、各類似度を加重加算するときの加重比率を切り換えることにより、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出し、該類似度に基づき少なくとも1方向に対する補間対象サブピクセルの類似性の強弱を判定することを特徴とする。
【0021】
第12の発明は、第11の発明において、前記主要類似性判定手段は、前記異色間類似度を前記同色間類似度よりも短い距離間隔で存在する色情報を用いて算出することを特徴とする。
【0022】
第13の発明は、第11または第12の発明において、前記画像データが、第1〜第3の色成分から成る表色系で示され、第1色成分が第2色成分および第3色成分に比べて空間周波数が高く、第1色成分が欠落するサブピクセルに第1色成分の色情報に相当する補間値を決める場合、前記主要類似性判定手段は、前記異色間類似度として、
(1)前記第1色成分の色情報と前記第2色成分の色情報とから成る異色間類似度成分と、
(2)前記第1色成分の色情報と前記第3色成分の色情報とから成る異色間類似度成分と
の少なくとも一方を含む類似度を算出し、
前記同色間類似度として、
(1)前記第1色成分の色情報のみから成る同色間類似度成分と、
(2)前記第2色成分の色情報のみから成る同色間類似度成分と、
(3)前記第3色成分の色情報のみから成る同色間類似度成分と
の少なくとも1つを含む類似度を算出する
ことを特徴とする。
【0023】
第14の発明は、第11の発明において、前記主要類似性判定手段は、補間対象サブピクセルが属する局所的な領域における画像の特徴として色彩に関する情報を用い、該色彩に関する情報を基準に、前記局所的な領域における画像が無彩色部であるか彩色部であるかを判別し、該局所的な領域における画像が無彩色部である場合には、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として前記異色間類似度を選択する、または、該異色間類似度と前記同色間類似度とを加重加算する際の該異色間類似度の加重比率を該同色間類似度の加重比率よりも大きくし、該局所的な領域における画像が彩色部である場合には、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として該同色間類似度を選択する、または、該異色間類似度と前記同色間類似度とを加重加算する際の該同色間類似度の加重比率を該異色間類似度の加重比率よりも大きくすることを特徴とする。
【0024】
第15の発明は、第14の発明において、前記主要類似性判定手段は、前記色彩に関する情報として前記異色間類似度を用いることを特徴とする。
【0025】
第16の発明は、第14または第15の発明において、前記主要類似性判定手段は、前記異色間類似度が、少なくとも一方向に対して強い類似性を示す場合、前記局所的な領域における画像が無彩色部であると判断し、その他の場合、該局所的な領域における画像が彩色部であると判断することを特徴とする。
【0026】
第17の発明は、第8ないし16の発明のいずれかにおいて、前記主要類似性判定手段は、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として、補間対象サブピクセルのみならず補間対象サブピクセルの周辺のサブピクセルに対して算出した少なくとも2つの方向に対する類似度を用いることを特徴とする。
【0027】
ところで、補間対象サブピクセルと周辺のサブピクセルとの間には、何らかの関連(例えば、色情報の変化の連続性等)がある場合が多い。
第17の発明では、補間対象サブピクセルにおける類似度だけでなく、周辺のサブピクセルにおける類似度を合わせて用いることによって、画素ピッチでの類似性の強弱の判定に、補間対象サブピクセルと周辺のサブピクセルとの関連を反映されることができる。
【0028】
第18の発明は、第8または第11の発明において、前記主要類似性判定手段は、各方向間の類似度の差異が所定の閾値よりも小さい場合、各方向の類似性が同程度であると判定することを特徴とする。
そのため、第18の発明によれば、類似性を判定する際のノイズの影響を低減することができる。
【0029】
第19の発明は、第2ないし第7の発明のいずれかにおいて、前記微細部類似性判定手段は、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を、1種類以上の色成分の色情報を用いて算出して、該類似度に基づき少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定することを特徴とする。
【0030】
すなわち、第19の発明は、特定の1種類の色成分の色情報や複数種類の色成分の色情報を用いて算出された類似度によって、サブピクセルピッチでの類似性の強弱を判定する。
【0031】
第20の発明は、第19の発明において、1画素につき第1〜第n(n≧2)の色成分の何れか1つの色成分が対応付けられ、第1色成分よりも空間周波数が低い第2色成分が対応付けられた画素を構成するサブピクセルに第1色成分の補間値を補う場合、前記微細部類似性判定手段は、
(1)第2色成分の色情報を出力するサブピクセルのうち、最短距離に位置するサブピクセル間の第2色成分の色情報の差異を示す類似度成分と、
(2)第1色成分の色情報を出力するサブピクセルのうち、最短距離に位置するサブピクセル間の第1色成分の色情報の差異を示す類似度成分と、
(3)第1色成分の色情報を出力するサブピクセルと第2色成分の色情報を出力するサブピクセルとのうち、最短距離に位置するサブピクセルの第1色成分と第2色成分との色情報の差異を示す類似度成分と
の少なくとも1つの類似度成分を用いて、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出することを特徴とする。
【0032】
すなわち、第20の発明では、複数種類の類似度成分を用いることによって、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度に、複数種類の色成分の色情報を反映させることができる。
【0033】
第21の発明は、第20の発明において、前記微細部類似性判定手段は、前記各々の類似度成分を各方向について加重加算して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出することを特徴とする。
すなわち、第21の発明では、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度に、複数種類の色成分の色情報を的確に反映させることができる。
【0034】
第22の発明は、第20または第21の発明において、前記微細部類似性判定手段は、補間対象サブピクセルにおける各方向に対する類似度を算出する際に、前記各々の類似度成分をサブピクセル間の距離に応じて規格化して用いることを特徴とする。
【0035】
ところで、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データでは、「第2色成分の色情報を出力するサブピクセルの最短距離」と「第1色成分の色情報を出力するサブピクセルの最短距離」と「第1色成分の色情報を出力するサブピクセルと第2色成分の色情報を出力するサブピクセルとの最短距離」とが異なる場合が多い。このような最短距離の相違は、各々の類似度成分の値に影響を及ぼす。
【0036】
第22の発明では、各方向に対する類似度を算出する際に、各々の類似度成分をサブピクセル間の距離に応じて規格化して用いることによって、最短距離の相違に影響されることなく、適切な類似度を算出することができる。
【0037】
第23の発明は、第2ないし第7の発明の何れかにおいて、前記画像データが複数の色成分から成る表色系で示される場合、前記微細部類似性判定手段は、補間対象サブピクセルの色情報とその近傍に存在する色情報とから選ばれる複数の色情報に基づき、
(1)異なる色成分の色情報を用いて算出される異色間類似度と、
(2)同じ色成分の色情報を用いて算出される同色間類似度と
の2種類の類似度を算出し、補間対象サブピクセルが属する局所的な領域における画像の特徴に応じて、どちらか一方の類似度に切り換える、もしくは、各類似度を加重加算するときの加重比率を切り換えることにより、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出し、該類似度に基づき少なくとも1方向に対する補間対象サブピクセルの類似性の強弱を判定することを特徴とする。
【0038】
第24の発明は、第23の発明において、前記微細部類似性判定手段は、前記異色間類似度を前記同色間類似度よりも短い距離間隔で存在する色情報を用いて算出することを特徴とする。
【0039】
第25の発明は、第19ないし第24の発明の何れかにおいて、前記微細部類似性判定手段は、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として、補間対象サブピクセルのみならず補間対象サブピクセルの周辺のサブピクセルに対して算出した少なくとも2つの方向に対する類似度を用いることを特徴とする。
第25の発明では、補間対象サブピクセルにおける類似度だけでなく、周辺のサブピクセルにおける類似度を合わせて用いることによって、サブピクセルピッチでの類似性の強弱の判定に、補間対象サブピクセルと周辺のサブピクセルとの関連を反映させることができる。
【0040】
第26の発明は、第19または第23の発明において、前記微細部類似性判定手段は、各方向間の類似度の差異が所定の閾値よりも小さい場合、各方向の類似性が同程度であると判定することを特徴とする。
そのため、請求項26に記載の発明によれば、類似性を判定する際のノイズの影響を低減することができる。
【0041】
第27の発明の記憶媒体は、2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める補間処理をコンピュータで実現するための補間処理プログラムを記録した記録媒体において、各々の画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を当該画素の色情報に相当する画素出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該画素出力色情報を用いて判定する主要類似性判定手順と、前記主要類似性判定手順によって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手順とをコンピュータに実行させることを特徴とする。
【0042】
また、第28の発明の記録媒体は、2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める補間処理をコンピュータで実現するための補間処理プログラムを記録した記録媒体において、補間対象サブピクセルについて対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する主要類似性判定手順と、補間対象サブピクセルについて非対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する微細部類似性判定手順と、前記主要類似性判定手順と前記微細部類似性判定手順とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手順とをコンピュータに実行させることを特徴とする。
【0088】
【発明の実施の形態】
以下、以下、図面に基づいて、本発明の実施形態について詳細を説明する。
図1は、第1の実施形態ないし第6の実施形態に対応する電子カメラの機能ブロック図である。
【0089】
図1において、電子カメラ10は、制御部11、撮影光学系12、撮像部13、A/D変換部14、画像処理部15および記録部16を有する。
また、画像処理部15は、補間処理部(例えば、補間処理専用の1チップ・マイクロプロセッサ)17を有する。なお、図1では、説明を簡単にするため、画像処理部15内に補間処理部17のみを記載しているが、画像処理部15内には、例えば、γ階調変換処理など他の画像処理を行う機能ブロックが設けられても良い。
【0090】
また、撮像部13は、図28(2)のように色成分がサブピクセル型ベイア配列された撮像素子を有する。なお、図28では、i、jを用いて画素やサブピクセルの座標を示しているが、ベイア配列上の座標とサブピクセル型ベイア配列上の座標とを区別するため、図28(1)のベイア配列における座標のiに添字pを付与している。
【0091】
図1において、制御部11は、撮像部13、A/D変換部14、画像処理部15および記録部16に接続される。また、撮影光学系12で取得された光学像は、撮像部13内の撮像素子に結像する。撮像部13の出力は、A/D変換部14によって量子化され、画像データとして画像処理部15に供給される。画像処理部15に供給された画像データは、補間処理部17によって補間処理が施され、必要に応じて画像圧縮を行ってから、記録部16を介して記録される。補間処理により各色成分の解像度が高められた画像データは、最終的にディスプレイ、プリンタなど各接続機器に応じた表色系画像データとして出力される。
【0092】
なお、第1の実施形態ないし第6の実施形態において、補間処理部17は、緑色成分が欠落するサブピクセルに緑の補間値を補う補間処理(以下、「G補間処理」と称する。)を行った後に、赤色成分や青色成分が欠落するサブピクセルに赤の補間値や青の補間値を補う補間処理(以下、「RB補間処理」と称する。)を行うが、以下では、説明を簡単にするため、図28(2)の座標[i,j],[i+1,j]に位置する2つのサブピクセルをG補間処理における補間対象サブピクセルとする。
【0093】
また、第1の実施形態ないし第3の実施形態では、図28(1)のベイア配列上の画素の色情報として、各々の画素に対応する図28(2)のサブピクセル型ベイア配列上に位置する2つのサブピクセルの色情報の平均値を用いる。例えば、図28(1)の座標[ip,j]に位置する画素の色情報R[ip,j]は、図28(2)の座標[i,j],[i+1,j]に位置する2つのサブピクセルの色情報R[i,j],R[i+1,j]の平均値に相当する。
【0094】
さらに、第1の実施形態ないし第3の実施形態では、このような2つの補間対象サブピクセルに対応するベイア配列上の画素を「補間対象画素」と称する。
また、後述するG補間処理では、補間対象サブピクセルの色成分の種類(赤または青)に関係なく、緑の補間値を算出することができるため、以下では、図28のRおよびBをZに置き換えて表現し、2つの補間対象サブピクセルの色情報をZ[i,j],Z[i+1,j]によって表現し、他のサブピクセルや画素の色情報についても同様に表現する。
【0095】
《第1の実施形態》
図2および図3は、第1の実施形態における補間処理部17の動作フローチャートであるが、図2は、G補間処理における補間処理部17の動作を示し、図3は、RB補間処理における補間処理部17の動作を示す。
以下、第1の実施形態の動作を説明するが、ここでは、図2および図3を参照して補間処理部17の動作を説明する。
【0096】
まず、G補間処理において、補間処理部17は、ベイア配列上の補間対象画素における縦方向の大まかな類似度を示す「縦方向の主要類似度Cv[ip,j]」と、横方向の大まかな類似度を示す「横方向の主要類似度Ch[ip,j]」とを算出する(図2S1)。
なお、主要類似度は、周辺との広域的な類似性を判定するための値であり、できるだけ多くの色情報を用い、連続的に変化する多値情報により類似性を捕らえることが重要である。以下に示すようにして算出される主要類似度は、画像全体の調和を保ちつつ、ベイア配列の画素ピッチに至る詳細な類似性を判定することが可能である。
【0097】
以下、縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]を算出する処理の詳細を説明する。
まず、補間処理部17は、以下の式10〜式21によって定義される縦方向および横方向に対する複数種類の主要類似度成分を算出する。
縦方向のGG間主要類似度成分:
Cv1[ip,j]=|G[ip,j-1]-G[ip,j+1]| ・・・式10
横方向のGG間主要類似度成分:
Ch1[ip,j]=|G[ip-1,j]-G[ip+1,j]| ・・・式11
縦方向のBB(RR)間主要類似度成分:
Cv2[ip,j]=(|Z[ip-1,j-1]-Z[ip-1,j+1]|
+|Z[ip+1,j-1]-Z[ip+1,j+1]|)/2 ・・・式12
横方向のBB(RR)間主要類似度成分:
Ch2[ip,j]=(|Z[ip-1,j-1]-Z[ip+1,j-1]|
+|Z[ip-1,j+1]-Z[ip+1,j+1]|)/2 ・・・式13
縦方向のRR(BB)間主要類似度成分:
Cv3[ip,j]=(|Z[ip,j-2]-Z[ip,j]|+|Z[ip,j+2]-Z[ip,j]|)/2 ・・・式14
横方向のRR(BB)間主要類似度成分:
Ch3[ip,j]=(|Z[ip-2,j]-Z[ip,j]|+|Z[ip+2,j]-Z[ip,j]|)/2 ・・・式15
縦方向のGR(GB)間主要類似度成分:
Cv4[ip,j]=(|G[ip,j-1]-Z[ip,j]|+|G[ip,j+1]-Z[ip,j]|)/2 ・・・式16
横方向のGR(GB)間主要類似度成分:
Ch4[ip,j]=(|G[ip-1,j]-Z[ip,j]|+|G[ip+1,j]-Z[ip,j]|)/2 ・・・式17
縦方向のBG(RG)間主要類似度成分:
Cv5[ip,j]=(|Z[ip-1,j-1]-G[ip-1,j]|+|Z[ip-1,j+1]-G[ip-1,j]|
+|Z[ip+1,j-1]-G[ip+1,j]|+|Z[ip+1,j+1]-G[ip+1,j]|)/4 ・・・式18
横方向のBG(RG)間主要類似度成分:
Ch5[ip,j]=(|Z[ip-1,j-1]-G[ip,j-1]|+|Z[ip-1,j+1]-G[ip,j+1]|
+|Z[ip+1,j-1]-G[ip,j-1]|+|Z[ip+1,j+1]-G[ip,j+1]|)/4 ・・・式19
縦方向の輝度間主要類似度成分:
Cv6[ip,j]=(|Y[ip,j-1]-Y[ip,j]|+|Y[ip,j+1]-Y[ip,j]|)/2 ・・・式20
横方向の輝度間主要類似度成分:
Ch6[ip,j]=(|Y[ip-1,j]-Y[ip,j]|+|Y[ip+1,j]-Y[ip,j]|)/2 ・・・式21
ただし、式20および式21において、Y[ip,j]は、式22によって算出される値であり、補間対象画素の近傍に位置する周辺画素の色成分の色情報をR:G:B=1:2:1の比で平均化するフィルタリング処理で生成される輝度に相当する。
【0098】
Y[ip,j]=(4・A[ip,j]+2・(A[ip,j-1]+A[ip,j+1]+A[ip-1,j]+A[ip+1,j])
+A[ip-1,j-1]+A[ip-1,j+1]+A[ip+1,j-1]+A[ip+1,j+1])/16 ・・・式22
ただし、式22において、A[ip,j]は、ベイア配列上の任意の色情報を表し、配置場所に応じてGまたはZの値をとる。
【0099】
なお、上述した各々の主要類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。次に、補間処理部17は、以下の式23および式24に示すようにして、加重係数a1,a2,a3,a4,a5,a6によって、複数種類の主要類似度成分を各々の方向毎に加重加算する。
【0100】
Cv0[ip,j]=(a1・Cv1[ip,j]+a2・Cv2[ip,j]+a3・Cv3[ip,j]+a4・Cv4[ip,j]
+a5・Cv5[ip,j]+a6・Cv6[ip,j])/(a1+a2+a3+a4+a5+a6) ・・・式23
Ch0[ip,j]=(a1・Ch1[ip,j]+a2・Ch2[ip,j]+a3・Ch3[ip,j]+a4・Ch4[ip,j]
+a5・Ch5[ip,j]+a6・Ch6[ip,j])/(a1+a2+a3+a4+a5+a6) ・・・式24
なお、式23および式24において、加重係数a1,a2,a3,a4,a5,a6の比率としては、例えば、「a1:a2:a3:a4:a5:a6=2:1:1:4:4:12」などが考えられる。
【0101】
このようにして算出されるCv0[ip,j]およびCh0[ip,j]は、そのまま、補間対象画素の縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]とすることができるが、ここでは、縦方向および横方向に対する複数種類の主要類似度成分の算出および加重加算を、補間対象画素だけでなく、周辺画素に対しても行い、このような加重加算によって得られる値を方向別に加重加算(以下、「周辺加算」と称する。)して、補間対象画素の縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]を算出する例を示す。
【0102】
すなわち、補間処理部17は、補間対象画素と周辺画素とにおける主要類似度成分の方向別の加重加算の結果(Cv0[ip,j]、Cv0[ip-1,j-1]、Cv0[ip-1,j+1]、Cv0[ip+1,j-1]、Cv0[ip+1,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象画素の縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]を算出する。
【0103】
《周辺加算方法1》
Cv[ip,j]=(4・Cv0[ip,j]+Cv0[ip-1,j-1]+Cv0[ip-1,j+1]
+Cv0[ip+1,j-1]+Cv0[ip+1,j+1])/8 ・・・式25
Ch[ip,j]=(4・Ch0[ip,j]+Ch0[ip-1,j-1]+Ch0[ip-1,j+1]
+Ch0[ip+1,j-1]+Ch0[ip+1,j+1])/8 ・・・式26
《周辺加算方法2》
Cv[ip,j]=(4・Cv0[ip,j]+2・(Cv0[ip-1,j-1]+Cv0[ip+1,j-1]+Cv0[ip-1,j+1]+
Cv0[ip+1,j+1])+Cv0[ip,j-2]+Cv0[ip,j+2]+Cv0[ip-2,j]+
Cv0[ip+2,j])/16 ・・・式27
Ch[ip,j]=(4・Ch0[ip,j]+2・(Ch0[ip-1,j-1]+Ch0[ip+1,j-1]+Ch0[ip-1,j+1]+
Ch0[ip+1,j+1])+Ch0[ip,j-2]+Ch0[ip,j+2]+Ch0[ip-2,j]+
Ch0[ip+2,j])/16 ・・・式28
なお、《周辺加算方法1》は、図4(1)に示すようにして補間対象画素と周辺画素とにおける主要類似度成分の加重加算を行うことに相当し、《周辺加算方法2》は、図4(2)に示すようにして補間対象画素と周辺画素とにおける主要類似度成分の加重加算を行うことに相当する。
【0104】
ところで、上述したGG間主要類似度成分、BB(RR)間主要類似度成分、RR(BB)間主要類似度成分のように、同じ色成分の色情報を用いて算出される主要類似度成分(以下、「同色間主要類似度成分」と称する。)は、空間周波数が低く彩色部分の多い画像に対する類似性の評価に適していることが実験によってわかっている。また、GR(GB)間主要類似度成分、BG(RG)間主要類似度成分のように、異なる色成分の色情報を用いて算出される主要類似度成分(以下、「異色間主要類似度成分」と称する。)は、空間周波数が高く無彩色部分が多い画像に対する類似性の評価に適していることが実験によってわかっている。さらに、輝度間主要類似度成分は、彩色部分と、ある程度まで空間周波数の高い部分とを擁する画像に対する類似性の評価に適していることが実験によってわかっている。
【0105】
すなわち、同色間主要類似度成分、異色間主要類似度成分、輝度間主要類似度成分を加重加算して得られる主要類似度は、多様な画像に対して類似性の評価を高精度で行うことが可能である。
また、同色間主要類似度成分として算出される3種類の主要類似度成分(GG間主要類似度成分、BB(RR)間主要類似度成分、RR(BB)間主要類似度成分)は、類似性の評価に際して果たす役割を色成分同士で互いに補うことができ、異色間主要類似度成分として算出される2種類の主要類似度成分(GR(GB)間主要類似度成分、BG(RG)間主要類似度成分)も、類似性の評価に際して果たす役割を色成分同士で互いに補うことができる。
【0106】
さらに、第1の実施形態では、補間対象画素における主要類似度成分の加重加算の結果と、周辺画素における主要類似度成分の加重加算の結果とを加重加算することによって、縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]が算出される。そのため、縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]は、補間対象画素と周辺画素とにおける色情報の連続性が反映され易く、広域的な類似性を判定することができる。
【0107】
なお、第1の実施形態において、縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]は、値が小さい程、類似性が強いことを示す。
補間処理部17は、以上説明したようにして縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]を算出すると、縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]に基づき、ベイア配列上の補間対象画素における縦方向および横方向に対する類似性(以下、「縦横主要類似性」と称する。)を判定する(図2S2)。そして、このような判定結果として、縦横方向の類似性を示す指標HV[ip,j]に以下のような値を設定する。
【0108】
例えば、補間処理部17は、任意の閾値Th1について、
|Cv[ip,j]-Ch[ip,j]|>Th1 かつ Cv[ip,j]<Ch[ip,j]
が成り立つ場合、横方向よりも縦方向の主要類似性が強いと判断して指標HV[ip,j]に1を設定し(図2S3)、
|Cv[ip,j]-Ch[ip,j]|>Th1 かつ Cv[ip,j]>Ch[ip,j]
が成り立つ場合、縦方向よりも横方向の主要類似性が強いと判定して指標HV[ip,j]に−1を設定し(図2S4)、
|Cv[ip,j]-Ch[ip,j]|≦Th1
が成り立つ場合、縦横間で主要類似性に区別がつかないと判定して指標HV[ip,j]に0を設定する(図2S5)。
【0109】
なお、閾値Th1は、縦方向の主要類似度Cv[ip,j]と横方向の主要類似度Ch[ip,j]との差異が微少である場合、ノイズの影響によって一方の主要類似性が強いと誤判定されることを避ける役割を果たす。そのため、ノイズの多いカラー画像に対しては、閾値Th1の値を高く設定することによって、主要類似性の判定の精度が高められる。
【0110】
次に、補間処理部17は、以上説明したような縦横主要類似性の判定において、主要類似性が強い方向が不明であったか否かを判定し(図2S6)、主要類似性が強い方向が不明であった場合には、補間対象画素における縦方向の詳細な類似度を示す「縦方向の微細部類似度Cvs[ip,j]」と、横方向の詳細な類似度を示す「横方向の微細部類似度Chs[ip,j]」とを算出する(図2S7)。
【0111】
なお、第1の実施形態において、主要類似性が強い方向が不明である場合とは、指標HV[ip,j]に0が設定された場合(縦横間で主要類似性に区別がつかない場合)に相当する。
ところで、微細部類似度は、主要類似度では判定できないサブピクセルピッチの類似性を捕らえることが重要であり、できるだけ多くの色情報を用いて正確に算出することが望ましい。以下に示すように算出される微細部類似度は、サブピクセルピッチに至る詳細な類似性を判定することが可能である。
【0112】
以下、縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]を算出する処理の詳細を説明する。
まず、補間処理部17は、以下の式29〜式34によって定義される縦方向および横方向に対する複数種類の微細部類似度成分を算出する。なお、右辺の座標表示は、図28(2)のサブピクセル型ベイア配列上の位置を示す。
【0113】
縦方向のRR(BB)間微細部類似度成分:
Cvs1[ip,j]=(|Z[i,j-2]-Z[i,j]|+|Z[i,j+2]-Z[i,j]|+
|Z[i+1,j-2]-Z[i+1,j]|+|Z[i+1,j+2]-Z[i+1,j]|)/4 ・・・式29
横方向のRR(BB)間微細部類似度成分:
Chs1[ip,j]=|Z[i,j]-Z[i+1,j]| ・・・式30
縦方向のGG間微細部類似度成分:
Cvs2[ip,j]=(|G[i,j-1]-G[i,j+1]|+|G[i+1,j-1]-G[i+1,j+1]|)/2 ・・・式31
横方向のGG間微細部類似度成分:
Chs2[ip,j]=(|G[i,j-1]-G[i+1,j-1]|+|G[i,j+1]-G[i+1,j+1]|)/2 ・・・式32
縦方向のGR(GB)間微細部類似度成分:
Cvs3[ip,j]=(|G[i,j-1]-Z[i,j]|+|G[i,j+1]-Z[i,j]|+
|G[i+1,j-1]-Z[i+1,j]|+|G[i+1,j+1]-Z[i+1,j]|)/4 ・・・式33
横方向のGR(GB)間微細部類似度成分:
Chs3[ip,j]=(|G[i-1,j]-Z[i,j]|+|G[i+2,j]-Z[i+1,j]|)/2 ・・・式34
なお、上述した各々の微細部類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。
【0114】
ところで、縦方向の微細部類似度成分を算出する際に用いる色情報間の距離は、主要類似度成分の場合と変わらないが、横方向の微細部類似度成分は、主要類似度成分の算出時に消滅してしまうサブピクセル間隔での類似度成分であるため、更に詳細な類似性を判定することが可能である。
図5は、微細部類似度成分を算出する際に用いる色情報の位置を示す図である。
【0115】
ところで、図5に示すように、横方向に隣接する2つのサブピクセル間の距離をLとすると、縦方向のRR間微細部類似度成分および縦方向のGG間微細部類似度成分は、4L離れた位置のサブピクセルの色情報を用いて算出され、縦方向のGR間微細部類似度成分は、2L離れた位置のサブピクセルの色情報を用いて算出されることになる。
【0116】
そこで、第1の実施形態において、補間処理部17は、以下の式35および式36に示すように、複数種類の微細部類似度成分を加重係数s1,s2,s3によって加重加算する際、縦方向と横方向との微細部類似度成分を、サブピクセル間の距離によって規格化して用いる。
Cvs0[ip,j]=(s1・Cvs1[ip,j]/4+s2・Cvs2[ip,j]/4+s3・Cvs3[ip,j]/2)/
(s1+s2+s3) ・・・式35
Chs0[ip,j]=(s1・Chs1[ip,j]+s2・Chs2[ip,j]+s3・Chs3[ip,j])/
(s1+s2+s3) ・・・式36
なお、第1の実施形態では、微細部類似度成分のサブピクセル間の距離による規格化を、微細部類似度成分の加重加算時(式35の算出時)に行っているが、例えば、式29の分母を16に置き換え、式31の分母を8に置き換え、式33の分母を8に置き換えることによって、規格化された微細部類似度成分を直接算出することもできる(ただし、このような場合、式35における各々の微細部類似度成分を距離に応じて除算する演算は不要である)。
【0117】
また、式35および式36において、加重係数s1,s2,s3の比率としては、例えば、「s1:s2:s3=1:1:1」などが考えられる。
ところで、式35および式36で算出されるCvs0[ip,j]およびChs0[ip,j]は、そのまま、補間対象画素の縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0118】
すなわち、補間処理部17は、補間対象画素と周辺画素とにおける微細部類似度成分の方向別の加重加算の結果(Cvs0[ip,j]、Cvs0[ip-1,j-1]、Cvs0[ip-1,j+1]、Cvs0[ip+1,j-1]、Cvs0[ip+1,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象画素の縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]を算出する(図4に示すように補間対象画素と周辺画素とにおける類似度成分を加重加算することに相当する)。
【0119】
《周辺加算方法1》
Cvs[ip,j]=(4・Cvs0[ip,j]+Cvs0[ip-1,j-1]+Cvs0[ip-1,j+1]
+Cvs0[ip+1,j-1]+Cvs0[ip+1,j+1])/8 ・・・式37
Chs[ip,j]=(4・Chs0[ip,j]+Chs0[ip-1,j-1]+Chs0[ip-1,j+1]
+Chs0[ip+1,j-1]+Chs0[ip+1,j+1])/8 ・・・式38
《周辺加算方法2》
Cvs[ip,j]=(4・Cvs0[ip,j]
+2・(Cvs0[ip-1,j-1]+Cvs0[ip+1,j-1]+Cvs0[ip-1,j+1]+Cvs0[ip+1,j+1])
+Cvs0[ip,j-2]+Cvs0[ip,j+2]+Cvs0[ip-2,j]+Cvs0[ip+2,j])/16 ・・・式39
Chs[ip,j]=(4・Chs0[ip,j]
+2・(Chs0[ip-1,j-1]+Chs0[ip+1,j-1]+Chs0[ip-1,j+1]+Chs0[ip+1,j+1])
+Chs0[ip,j-2]+Chs0[ip,j+2]+Chs0[ip-2,j]+Chs0[ip+2,j])/16 ・・・式40
ところで、上述したGR(GB)間微細部類似度成分のように、異なる色成分の色情報を用いて算出される微細部類似度成分(以下、「異色間微細部類似度成分」と称する。)は、縦方向に関して最も色情報間の距離が短いので、微細部分における類似性の判定に有利であるが、色成分が一致していないので無彩色に近い画像にしか適さない。一方、RR(BB)間微細部類似度成分、GG間微細部類似度成分のように、同じ色成分の色情報を用いて算出される微細部類似度成分(以下、「同色間微細部類似度成分」と称する。)は、彩色部分を含む画像に適している。
【0120】
すなわち、異色間微細部類似度成分と同色間微細部類似度成分とを加重加算して得られる微細部類似度は、多様な画像に対して類似性の評価を高精度で行うことが可能である。
【0121】
さらに、第1の実施形態では、補間対象画素における微細部類似度成分の加重加算の結果と、周辺画素における微細部類似度成分の加重加算の結果とを加重加算することによって、縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]が算出される。そのため、縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]は、補間対象画素と周辺画素とにおける色情報の連続性が反映され易く、広域的な類似性を判定することができる。
【0122】
補間処理部17は、以上説明したようにして縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]を算出すると、縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]に基づき、補間対象画素におけるサブピクセルピッチの縦方向および横方向に対する類似性(以下、「微細部類似性」と称する。)を判定し(図2S8)、横方向よりも縦方向の微細部類似性が強いと判定された場合、指標HV[ip,j]の値を0から1に置き換える(図2S9)。
【0123】
例えば、補間処理部17は、任意の閾値Thsについて、
|Cvs[ip,j]-Chs[ip,j]|>Ths かつ Cvs[ip,j]<Chs[ip,j]
が成り立つ場合、横方向よりも縦方向の類似性が強いと判断して指標HV[ip,j]に1を設定する。また、補間処理部17は、
|Cv[ip,j]-Ch[ip,j]|≦Ths
が成り立つ場合、微細部類似性に区別がつかないと判定して指標HV[ip,j]を0のままにしておく。
【0124】
ところで、サブピクセルは画素を縦方向に分割しているため、サブピクセル単位で補間処理を行っても横方向の類似性に関する解像は上がらない。すなわち、横方向の類似性に関しては、微細部類似性は主要類似性以上の情報量を得ていないことになる。
そこで、第1の実施形態では、
|Cv[ip,j]-Ch[ip,j]|>Ths かつ Cv[ip,j]>Ch[ip,j]
が成り立つ場合にも、指標HV[ip,j]を0のままにしておく。
【0125】
なお、閾値Thsは、上述した閾値Th1と同様に、ノイズの影響によって一方の類似性が強いと誤判定されることを避ける役割を果たす。
次に、補間処理部17は、指標HV[ip,j]が如何なる値であるかを判定し(図2S10)、以下のようにして2つのサブピクセルの緑の補間値G[i,j]、G[i+1,j]を算出する。
【0126】
ただし、GvL,GvR,GhL,GhRは、以下の《平均補間》または《色差補間》のようにして算出される値である。
【0127】
《平均補間》
GvL=(G[i,j-1]+G[i,j+1])/2 ・・・式41
GvR=(G[i+1,j-1]+G[i+1,j+1])/2 ・・・式42
GhL=(2・G[i-1,j]+G[i+2,j])/3 ・・・式43
GhR=(G[i-1,j]+2・G[i+2,j])/3 ・・・式44
すなわち、《平均補間》において、GvL,GvRは、各々の補間対象サブピクセルの縦方向に隣接して緑色成分が存在するサブピクセルの色情報の平均値である。一方、GhL,GhRは、各々の補間対象サブピクセルの横方向に近接して緑色成分が存在するサブピクセルの色情報を、各々の補間対象サブピクセルとの距離に応じて平均化した値である。
【0128】
《色差補間》
GvL=(G[i,j-1]+G[i,j+1])/2+(2・Z[i,j]-Z[i,j-2]-Z[i,j+2])/4 ・・・式45
GvR=(G[i+1,j-1]+G[i+1,j+1])/2
+(2・Z[i+1,j]-Z[i+1,j-2]-Z[i+1,j+2])/4 ・・・式46
GhL=(2・G[i-1,j]+G[i+2,j])/3
+(5・Z[i,j]-2・Z[i-3,j]-2・Z[i+1,j]-Z[i+4,j])/9 ・・・式47
GhR=(G[i-1,j]+2・G[i+2,j])/3
+(5・Z[i+1,j]-2・Z[i+4,j]-2・Z[i,j]-Z[i-3,j])/9 ・・・式48
すなわち、《色差補間》では、緑色成分と補間対象サブピクセルにおける色成分(赤色成分または青色成分)との色差(G-RやG-Bに相当する)が一定であると仮定し、補間対象サブピクセルの縦方向(または、横方向)に近接する緑色成分が存在するサブピクセルの色成分(赤色成分または青色成分)の補間とその位置における色差の成分の算出、および、このような色差を用いた補間対象サブピクセルの色差の補間、補間対象サブピクセルの色差を緑の補間値に変換する演算を一括して行うことに相当する。
【0129】
また、式45〜式48は、《平均補間》の式41〜式44と同様にして算出される値を、補間対象サブピクセルと同色の色情報を用いて補正することによって、緑の補間値を算出する演算式であると言える。すなわち、式45〜式48において、第1項は、「緑色成分の局所的な平均情報」であり、第2項は、補間対象サブピクセルにおける凹凸の情報を反映した「補間対象サブピクセルと同一の色成分による局所的な変曲情報」である。
【0130】
ただし、補間処理が行われる前の画像データに対してγ階調変換を施す場合、γ変換が対数特性に近いので、《色差補間》では、色成分の比(G/RやG/Bに相当する)が一定であると仮定することになる。
なお、図6は、《色差補間》で用いる色情報の位置を示す図である。
以上説明したように、補間処理部17は、主要類似度によって画素ピッチでの類似性の強弱を判定し、このような判定によって類似性が強い方向が不明であった場合に、微細部類似度によってサブピクセルピッチでの類似性の強弱を判定するが、主要類似度および微細部類似度は、補間対象画素の類似度成分と周辺画素の類似度成分とを加重加算することによって算出されるため、補間対象画素と周辺画素とにおける色情報の連続性が反映され易く、広域的な判定をすることができる。また、微細部類似度の算出時には、複数種類の微細部類似度成分が加重加算されるため、多くの色情報が用いられることになり、このような加重加算時には、複数種類の微細部類似度成分がサブピクセル間の距離によって規格化される。
【0131】
したがって、第1の実施形態のG補間処理では、補間対象画素との類似性が強い方向を精度良く判定することができるため、画像全体の調和を崩すことなく補間値を算出することが可能である。
次に、補間処理部17は、RB補間処理を行う。
以下、RB補間処理の動作として、図3に示した《RB補間処理1》と《RB補間処理2》との2つのRB補間処理の動作を説明する。なお、以下では、赤の補間値(または、青の補間値)を補うべき2つのサブピクセルを、補間対象サブピクセルと称して説明を行う。また、青の補間値は、赤の補間値と同様に算出できるため、以下では、説明を省略する。
【0132】
《RB補間処理1》
まず、《RB補間処理1》において、補間処理部17は、補間対象サブピクセルに欠落する色成分が存在するサブピクセル毎に、その色成分の色情報から緑の補間値(上述したG補間処理によって得られた値)を減算し、色差を算出する(図3S10)。
【0133】
例えば、補間処理部17は、赤色成分の色情報が存在して互いに隣接する2つのサブピクセルの座標を[i,j],[i+1,j]とすると、これらのサブピクセルにおける赤色成分を含む色差Cr[i,j],Cr[i,j]を、
Cr[i,j]=R[i,j]-G[i,j] ・・・式49
Cr[i+1,j]=R[i+1,j]-G[i+1,j] ・・・式50
によって算出する。
【0134】
次に、補間処理部17は、補間対象サブピクセルに対し最も近接するサブピクセルで算出された色差を用いて、補間対象サブピクセルの色差を線形補間する(図3S11)。
例えば、2つの補間対象サブピクセルの座標を[m,n],[m+1,n]とし、これらの2つの補間対象サブピクセルに赤色成分の色情報が欠落していると仮定すると、補間処理部17は、座標[m,n],[m+1,n]の垂直方向に位置するサブピクセルで赤色成分を含む色差が算出されている場合(図7(1)に対応する)には、赤色成分を含む色差Cr[m,n],Cr[m+1,n]を、
Cr[m,n]=(Cr[m,n-1]+Cr[m,n+1])/2 ・・・式51
Cr[m+1,n]=(Cr[m+1,n-1]+Cr[m+1,n+1])/2 ・・・式52
によって線形補間する。
【0135】
また、補間処理部17は、座標[m,n],[m+1,n]の水平方向に位置するサブピクセルで赤色成分を含む色差が算出されている場合(図7(2)に対応する)には、赤色成分を含む色差Cr[m,n],Cr[m+1,n]を、
Cr[m,n]=(2・Cr[m-1,n]+Cr[m+2,n])/3 ・・・式53
Cr[m+1,n]=(Cr[m-1,n]+2・Cr[m+2,n])/3 ・・・式54
によって線形補間する。
【0136】
さらに、補間処理部17は、座標[m,n],[m+1,n]の斜め方向に位置するサブピクセルで赤色成分を含む色差が算出されている場合(図7(3)に対応する)には、赤色成分を含む色差Cr[m,n],Cr[m+1,n]を、
Cr[m,n]=(2・(Cr[m-1,n-1]+Cr[m-1,n+1])
+Cr[m+2,n-1]+Cr[m+2,n+1])/6 ・・・式55
Cr[m+1,n]=(Cr[m-1,n-1]+Cr[m-1,n+1]
+2・(Cr[m+2,n-1]+Cr[m+2,n+1]))/6 ・・・式56
によって線形補間する。
【0137】
次に、補間処理部17は、補間対象サブピクセル毎に、緑色成分の色情報(緑色の補間値であっても良い)によって色差を補間値に変換する(図3S12)。すなわち、補間処理部17は、上述した任意の座標[m,n],[m+1,n]に位置するサブピクセルの赤の補間値R[m,n],R[m+1,n]については、
R[m,n]=Cr[m,n]+G[m,n] ・・・式57
R[m+1,n]=Cr[m+1,n]+G[m+1,n] ・・・式58
によって算出する。
【0138】
ところで、《RB補間処理1》では、孤立点(周辺画素との類似性の弱い空間周波数の高い画像部分)の周辺に偽色が残るという問題が生じるため、《RB補間処理1》を行った後には、画像データをLab表色系に変換して得られる色相a,b面に対して個別にmedianフィルタを掛けるという事後処理を行うことがある。
【0139】
また、このようにmedianフィルタを掛ける場合、ベイア配列上の3×3(=9点)のフィルタサイズでは、ほとんど有効に作用しないため、フィルタサイズをベイア配列上の5×5(=25点)の広域に設定する必要がある。
すなわち、《RB補間処理1》によって孤立点の周辺の偽色を取り除いた赤や青の補間値を得るには、フィルタサイズが広域に設定されたmedian処理を別途行う必要があるため、非常に重い処理が課せられることになる。また、median処理におけるフィルタサイズを大きくすることは、彩色部分の細かい構造(以下、「色構造」と称する)を破壊する危険性を高めることに繋がる。
【0140】
そこで、以下では、《RB補間処理2》として、孤立点の周辺に偽色を残すことなく、赤や青の補間値を高速かつ高精度で算出できるRB補間処理を提示する。なお、《RB補間処理2》は、請求項53ないし請求項58に対応する。
《RB補間処理2》
まず、《RB補間処理2》において、補間処理部17は、《RB補間処理1》と同様に、補間対象サブピクセルに欠落する色成分が存在するサブピクセル毎に色差を算出する(図3S20)。
【0141】
なお、このような処理によって、赤色成分を含む色差が算出された状態では、赤色成分を含む色差は、赤色成分の色情報が欠落して青色成分の色情報が存在する2つのサブピクセルを斜め4方向から囲むように配置されることになる。
補間処理部17は、色差が算出されたサブピクセルによって斜め4方向が囲まれる補間対象サブピクセル毎に、斜め方向に位置するサブピクセルにおける色差の中央値で補間対象サブピクセルの色差を補間する(図3S21)。
【0142】
例えば、図8(1)に示すように、赤色成分を含む色差Crが算出されたサブピクセルによって、斜め4方向が囲まれる任意の2つのサブピクセルの座標を[m,n],[m+1,n]とすると、補間処理部17は、これら2つサブピクセルにおける赤色を含む色差Cr[m,n],Cr[m+1,n]を、
Cr[m,n]=median{Cr[m-1,n-1],Cr[m-1,n+1],
Cr[m+2,n-1],Cr[m+2,n+1]} ・・・式59
Cr[m+1,n]=median{Cr[m-1,n-1],Cr[m-1,n+1],
Cr[m+2,n-1],Cr[m+2,n+1]} ・・・式60
によって算出する。ただし、median{ }は、複数の要素のmedian値を算出する関数を示し、要素の数が偶数である場合、真ん中2つの要素の平均値をとるものとする。
【0143】
なお、以上説明したようにして赤色成分を含む色差が算出された状態では、赤色成分を含む色差は、赤色成分および青色成分の色情報が欠落する2つのサブピクセルを上下左右4方向から囲むように配置されることになる。
補間処理部17は、色差が算出されたサブピクセルによって上下左右4方向が囲まれる補間対象サブピクセル毎に、上下左右方向に位置するサブピクセルにおける色差の中央値で補間対象サブピクセルの色差を補間する(図3S22)。
【0144】
例えば、図8(2)に示すように、赤色成分を含む色差Crが算出されたサブピクセルによって、上下左右4方向が囲まれる任意の2つのサブピクセルの座標を[m,n],[m+1,n]とすると、補間処理部17は、これら2つサブピクセルにおける赤色を含む色差Cr[m,n],Cr[m+1,n]を、
Cr[m,n]=median{Cr[m-1,n],Cr[m+2,n],
Cr[m,n-1],Cr[m,n+1]} ・・・式61
Cr[m+1,n]=median{Cr[m-1,n],Cr[m+2,n],
Cr[m+1,n-1],Cr[m+1,n+1]} ・・・式62
によって算出する。
【0145】
次に、補間処理部17は、《RB補間処理1》と同様に、補間対象サブピクセル毎に、緑色成分の色情報によって色差を補間値に変換する(図3S23)。
以上説明したように、《RB補間処理2》では、median処理は、色相を表す色差に対してのみ行われ、輝度成分に対しては行われない。また、RB補間処理において、図9(1)の○印が付与された2つのサブピクセルに赤の補間値を補う場合、ベイア配列上の3×5の範囲に位置する色差Crを用いて×印が付与されたサブピクセルにおける赤色成分を含む色差が算出されるので、○印が付与された2つのサブピクセルにおける赤色成分を含む色差は、ベイア配列上の3×5の範囲に位置する色差Crに重み付けをしてmedian処理を行った結果に近い値を示す。また、図9(2)の△印が付与された2つのサブピクセルに赤の補間値を補う場合、ベイア配列上の5×3の範囲に位置する色差Crを用いて×印が付与されたサブピクセルにおける赤色成分を含む色差が算出されるので、△印が付与された2つのサブピクセルにおける赤色成分を含む色差は、ベイア配列上の5×3の範囲に位置する色差Crに重み付けをしてmedian処理を行った結果に近い値を示す。
【0146】
すなわち、《RB補間処理2》では、フィルタサイズを小さく抑えつつ、実質的には広域なmedian処理と同等の効果が得られるため、色構造を破壊することなく、孤立点の周辺における偽色の発生を低減することができる。
また、《RB補間処理2》では、補間処理を行いながらmedian処理を行うため、《RB補間処理1》を行った後にmedian処理を行う場合と比べて処理効率が良く、かつ、図3S21と図3S22との各々のmedian処理において、4点の色差のみを用いるため、非常に高速なmedian処理が可能である。
【0147】
したがって、《RB補間処理2》では、色構造を破壊することなく、孤立点の周辺における偽色の発生を低減しつつ、補間値を高速に算出することができる。
ところで、上述した第1の実施形態におけるG補間処理では、色差が一定でない色境界部分において、偽色が発生し易い。
また、撮影光学系12に倍率色収差が存在する場合、赤色成分および青色成分は、図10に示すように、緑色成分の結像位置から、それぞれ少しずつずれた位置に結像する(以下、このような現象を「色ズレ」と称する。)。そのため、第1の実施形態では、このような色ズレ等によって色差が適切に算出できず偽色が発生する可能性がある。特に、《色差補間》を適用したG補間処理では、後述する倍率色収差による過補正が原因で偽色が発生するおそれがある。
【0148】
図11は、倍率収差による過補正を説明する図である。
図11では、撮影光学系12に倍率色収差が存在しない状態で、各サブピクセルの色情報が図11(1)の●印のように与えられている場合(補間処理の対象となる画像データの類似性が水平方向に強く、緑色成分の色情報が一定で、赤色成分や青色成分の色情報が補間対象サブピクセル(Z5、Z6が存在するサブピクセル)の近傍でなだらかに変化する場合)、式47や式48の第2項が0となるため、G4とG7とを平均化した値(式47や式48の第1項に相当する)は補正されることなくG5やG6(緑の補間値)となる。
【0149】
しかし、Z1、Z2、Z5、Z6、Z9、Z10が赤色成分の色情報であり、撮影光学系12の倍率色収差によって、これらの赤色成分の色情報が右方向に2サブピクセル分ずつずれた場合、各サブピクセルの色情報は、図11(2)のように変化することになる。そのため、このような場合、式47や式48の第2項が0とならず、G4とG7とを平均化した値が過剰に補正(以下、「過補正」と称する)され、本来、G4やG7と同程度の値となるべきG5やG6は、G4やG7よりも大きな値となる。
【0150】
なお、Z1、Z2、Z5、Z6、Z9、Z10が青色成分の色情報であり、撮影光学系12の倍率色収差によって、これらの青色成分の色情報が左方向に2サブピクセル分ずつずれた場合、本来、G4やG7と同程度の値となるべきG5やG6は、G4やG7よりも小さい値となる。
そこで、第2の実施形態では、このような過補正等による偽色の発生を抑制できる補間処理を提示する。
【0151】
《第2の実施形態》
以下、第2の実施形態の動作を説明する。なお、第2の実施形態におけるRB補間処理は、第1の実施形態と同様にして行えるため、ここでは、説明を省略する。
図12および図13は、第2の実施形態における補間処理部17の動作フローチャートであり、G補間処理における補間処理部17の動作を示す。
【0152】
以下、第2の実施形態におけるG補間処理について説明するが、第1の実施形態と同じ動作については、詳細な説明を省略する。
まず、補間処理部17は、第1の実施形態と同様に、縦方向の主要類似度Cv[ip,j]と、横方向の主要類似度Ch[ip,j]とを算出して(図12S1)、縦横主要類似性を比較し(図12S2)、指標HV[ip,j]に値を設定する(図12S3〜S5)。
【0153】
次に、補間処理部17は、ベイア配列上の補間対象画素における斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]を算出する(図12S6)。
ここで、斜め45度方向の類似度C45[ip,j]および斜め135度方向の類似度C135[ip,j]を算出する処理の詳細を説明する。
【0154】
まず、補間処理部17は、以下の式63〜式70によって定義される斜め45度方向および斜め135度方向に対する複数種類の主要類似度成分を算出する。
斜め45度方向のGG間主要類似度成分:
C45_1[ip,j]=(|G[ip,j-1]-G[ip-1,j]|+|G[ip+1,j]-G[ip,j+1]|)/2 ・・・式63
斜め135度方向のGG間主要類似度成分:
C135_1[ip,j]=(|G[ip,j-1]-G[ip+1,j]|+|G[ip-1,j]-G[ip,j+1]|)/2 ・・・式64
斜め45度方向のBB(RR)間主要類似度成分:
C45_2[ip,j]=|Z[ip+1,j-1]-Z[ip-1,j+1]| ・・・式65
斜め135度方向のBB(RR)間主要類似度成分:
C135_2[ip,j]=|Z[ip-1,j-1]-Z[ip+1,j+1]| ・・・式66
斜め45度方向のRR(BB)間主要類似度成分:
C45_3[ip,j]=(|Z[ip+2,j-2]-Z[ip,j]|+|Z[ip-2,j+2]-Z[ip,j]|)/2 ・・・式67
斜め135度方向のRR(BB)間主要類似度成分:
C135_3[ip,j]=(|Z[ip-2,j-2]-Z[ip,j]|+|Z[ip+2,j+2]-Z[ip,j]|)/2 ・・・式68
斜め45度方向のBR(RB)間主要類似度成分:
C45_4[ip,j]=(|Z[ip+1,j-1]-Z[ip,j]|+|Z[ip-1,j+1]-Z[ip,j]|)/2 ・・・式69
斜め135度方向のBR(RB)間主要類似度成分:
C135_4[ip,j]=(|Z[ip-1,j-1]-Z[ip,j]|+|Z[ip+1,j+1]-Z[ip,j]|)/2 ・・・式70
なお、上述した各々の主要類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。
【0155】
次に、補間処理部17は、以下の式71および式72に示すようにして、加重係数b1,b2,b3,b4によって、複数種類の主要類似度成分を各々の方向毎に加重加算する。
C45_0[ip,j]=(b1・C45_1[ip,j]+b2・C45_2[ip,j]+b3・C45_3[ip,j]
+b4・C45_4[ip,j])/(b1+b2+b3+b4) ・・・式71
C135_0[ip,j]=(b1・C135_1[ip,j]+b2・C135_2[ip,j]+b3・C135_3[ip,j]
+b4・C135_4[ip,j])/(b1+b2+b3+b4) ・・・式72
なお、式71および式72において、加重係数b1,b2,b3,b4の比率としては、例えば、「b1:b2:b3:b4=2:1:1:2」などが考えられる。
【0156】
このようにして算出されるC45_0[ip,j]およびC135_0[ip,j]は、そのまま、補間対象画素の斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
すなわち、補間処理部17は、補間対象画素と周辺画素とにおける主要類似度成分の方向別の加重加算の結果(C45_0[ip,j]、C45_0[ip-1,j-1]、C45_0[ip-1,j+1]、C45_0[ip+1,j-1]、C45_0[ip+1,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象画素の斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]を算出する(図4に示すように補間対象画素と周辺画素とにおける類似度成分を加重加算することに相当する)。
【0157】
《周辺加算方法1》
C45[ip,j]=(4・C45_0[ip,j]+C45_0[ip-1,j-1]+C45_0[ip+1,j-1]
+C45_0[ip-1,j+1]+C45_0[ip+1,j+1])/8 ・・・式73
C135[ip,j]=(4・C135_0[ip,j]+C135_0[ip-1,j-1]+C135_0[ip+1,j-1]
+C135_0[ip-1,j+1]+C135_0[ip+1,j+1])/8 ・・・式74
《周辺加算方法2》
C45[ip,j]=(4・C45_0[ip,j]+2・(C45_0[ip-1,j-1]+C45_0[ip+1,j-1]
+C45_0[ip-1,j+1]+C45_0[ip+1,j+1])+C45_0[ip,j-2]
+C45_0[ip,j+2]+C45_0[ip-2,j]+C45_0[ip+2,j])/16 ・・・式75
C135[ip,j]=(4・C135_0[ip,j]+2・(C135_0[ip-1,j-1]+C135_0[ip+1,j-1]
+C135_0[ip-1,j+1]+C135_0[ip+1,j+1])+C135_0[ip,j-2]
+C135_0[ip,j+2]+C135_0[ip-2,j]+C135_0[ip+2,j])/16 ・・・式76
なお、このようにして算出される斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]において、複数種類の主要類似度成分や周辺画素との加重加算は、上述した縦方向の主要類似度Cv[ip,j]および横方向の主要類似度Ch[ip,j]と同様の役割を果たす。また、第2の実施形態において、斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]は、値が小さい程、類似性が強いことを示す。
【0158】
補間処理部17は、斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]を算出すると、斜め45度方向の主要類似度C45[ip,j]および斜め135度方向の主要類似度C135[ip,j]に基づき、補間対象画素の斜め45度方向および斜め135度方向に対する類似性(以下、「斜め主要類似性」と称する。)を判定する(図12S7)。そして、このような判定結果として、斜め方向の類似性を示す指標DN[ip,j]に以下のような値を設定する。
【0159】
例えば、補間処理部17は、任意の閾値Th2について、
|C45[ip,j]-C135[ip,j]|>Th2 かつ C45[ip,j]<C135[ip,j]
が成り立つ場合、斜め135度方向よりも斜め45度方向の主要類似性が強いと判断して指標DN[ip,j]に1を設定し(図12S8)、
|C45[ip,j]-C135[ip,j]|>Th2 かつ C45[ip,j]>C135[ip,j]
が成り立つ場合、斜め45度方向よりも斜め135度方向の主要類似性が強いと判断して指標DN[ip,j]に−1を設定し(図12S9)、
|C45[ip,j]-C135[ip,j]|≦Th2
が成り立つ場合、斜め方向間で主要類似性に区別がつかないと判断して指標DN[ip,j]に0を設定する(図12S10)。
【0160】
なお、閾値Th2は、第1の実施形態における縦横主要類似性の比較に用いた閾値Th1と同様に、ノイズの影響によって一方の類似性が強いと誤判定されることを避ける役割を果たす。
次に、補間処理部17は、以上説明したような縦横主要類似性および斜め主要類似性の判定において、主要類似性が強い方向が不明であったか否かを判定し(図12S11)、主要類似性が強い方向が不明であった場合には、第1の実施形態と同様に、縦方向の微細部類似度Cvs[ip,j]と横方向の微細部類似度Chs[ip,j]とを算出する(図12S12)。
【0161】
なお、第2の実施形態において、主要類似性が強い方向が不明である場合とは、指標HV[ip,j]に0が設定され、かつ、指標DN[ip,j]に0が設定された場合(縦横間で主要類似性に区別がつかず、斜めの主要類似性に区別がつかない場合)に相当する。
補間処理部17は、縦方向の微細部類似度Cvs[ip,j]および横方向の微細部類似度Chs[ip,j]を算出すると、第1の実施形態と同様に、微細部類似性の強さを判定し(図12S13)、横方向よりも縦方向の微細部類似性が強いと判定された場合、指標HV[ip,j]の値を1に置き換える(図12S14)。
【0162】
次に、補間処理部17は、縦横方向の類似性を示す指標HV[ip,j]と斜め方向の類似性を示す指標DN[ip,j]とが如何なる値であるかを判定して(図12S15)、補間対象画素の類似性の強さを、以下のcase1〜case9の何れかに分類する。
case1:(HV[ip,j],DN[ip,j])=(1,1):縦および斜め45度方向の類似性が強い。
case2:(HV[ip,j],DN[ip,j])=(1,0):縦方向の類似性が強い。
【0163】
case3:(HV[ip,j],DN[ip,j])=(1,-1):縦および斜め135度方向の類似性が強い。
case4:(HV[ip,j],DN[ip,j])=(0,1):斜め45度方向の類似性が強い。
case5:(HV[ip,j],DN[ip,j])=(0,0):全ての方向の類似性が強い、または、全ての方向の類似性が弱い。
case6:(HV[ip,j],DN[ip,j])=(0,-1):斜め135度方向の類似性が強い。
【0164】
case7:(HV[ip,j],DN[ip,j])=(-1,1):横および斜め45度方向の類似性が強い。
case8:(HV[ip,j],DN[ip,j])=(-1,0):横方向の類似性が強い。
case9:(HV[ip,j],DN[ip,j])=(-1,-1):横および斜め135度方向の類似性が強い。
図14は、(HV[ip,j],DN[ip,j])の値に対応する類似性の強い方向を示す図である。
【0165】
ところで、図14では、「case5:(HV[ip,j],DN[ip,j])=(0,0)」に対応する表示がされていないが、case5のように、全ての方向の類似性が強い、または、全ての方向の類似性が弱い場合とは、補間対象画素が平坦部に属している、または、孤立点(周辺画素との類似性の弱い空間周波数の高い画像部分)であることに相当する。
【0166】
次に、補間処理部17は、上述した判定結果に応じて、以下のようにして緑の補間値G[i,j],G[i+1,j]を算出する。
ただし、
GvL=(G[i,j-1]+G[i,j+1])/2
+(2・Z[i,j]-Z[i,j-2]-Z[i,j+2])/8
+(2・(2・G[i-1,j]-G[i-1,j-2]-G[i-1,j+2])
+2・G[i+2,j]-G[i+2,j-2]-G[i+2,j+2])/24 ・・・式77
Gv45L=(G[i,j-1]+G[i,j+1])/2
+(2・Z[i,j]-Z[i,j-2]-Z[i,j+2])/8
+(2・(2・Z[i-1,j+1]-Z[i-1,j-1]-Z[i-1,j+3])
+2・Z[i+2,j-1]-Z[i+2,j-3]-Z[i+2,j+1])/24 ・・・式78
Gv135L=(G[i,j-1]+G[i,j+1])/2
+(2・Z[i,j]-Z[i,j-2]-Z[i,j+2])/8
+(2・(2・Z[i-1,j-1]-Z[i-1,j-3]-Z[i-1,j+1])
+2・Z[i+2,j+1]-Z[i+2,j-1]-Z[i+2,j+3])/24 ・・・式79
GhL=(2・G[i-1,j]+G[i+2,j])/3
+(5・Z[i,j]-2・Z[i-3,j]-2・Z[i+1,j]-Z[i+4,j])/18
+(5・G[i,j-1]-2・G[i-3,j-1]-2・G[i+1,j-1]-G[i+4,j-1]
+5・G[i,j+1]-2・G[i-3,j+1]-2・G[i+1,j+1]-G[i+4,j+1])/36 ・・・式80
Gh45L=(2・G[i-1,j]+G[i+2,j])/3
+(5・Z[i,j]-2・Z[i-3,j]-2・Z[i+1,j]-Z[i+4,j])/18
+(5・Z[i+2,j-1]-2・Z[i-1,j-1]-2・Z[i+3,j-1]-Z[i+6,j-1]
+5・Z[i-2,j+1]-2・Z[i-1,j+1]-2・Z[i-5,j+1]-Z[i+2,j+1])/36 ・・・式81
Gh135L=(2・G[i-1,j]+G[i+2,j])/3
+(5・Z[i,j]-2・Z[i-3,j]-2・Z[i+1,j]-Z[i+4,j])/18
+(5・Z[i-2,j-1]-2・Z[i-5,j-1]-2・Z[i-1,j-1]-Z[i+2,j-1]
+5・Z[i+2,j+1]-2・Z[i-1,j+1]-2・Z[i+3,j+1]-Z[i+6,j+1])/36 ・・・式82
GvR=(G[i+1,j-1]+G[i+1,j+1])/2
+(2・Z[i+1,j]-Z[i+1,j-2]-Z[i+1,j+2])/8
+(2・G[i-1,j]-G[i-1,j-2]-G[i-1,j+2]
+2・(2・G[i+2,j]-G[i+2,j-2]-G[i+2,j+2]))/24 ・・・式83
Gv45R=(G[i+1,j-1]+G[i+1,j+1])/2
+(2・Z[i+1,j]-Z[i+1,j-2]-Z[i+1,j+2])/8
+(2・Z[i-1,j+1]-Z[i-1,j-1]-Z[i-1,j+3]
+2・(2・Z[i+2,j-1]-Z[i+2,j-3]-Z[i+2,j+1]))/24 ・・・式84
Gv135R=(G[i+1,j-1]+G[i+1,j+1])/2
+(2・Z[i+1,j]-Z[i+1,j-2]-Z[i+1,j+2])/8
+(2・Z[i-1,j-1]-Z[i-1,j-3]-Z[i-1,j+1]
+2・(2・Z[i+2,j+1]-Z[i+2,j-1]-Z[i+2,j+3]))/24 ・・・式85
GhR=(G[i-1,j]+2・G[i+2,j])/3
+(5・Z[i+1,j]-2・Z[i+4,j]-2・Z[i,j]-Z[i-3,j])/18
+(5・G[i+1,j-1]-2・G[i+4,j-1]-2・G[i,j-1]-G[i-3,j-1]
+5・G[i+1,j+1]-2・G[i+4,j+1]-2・G[i,j+1]-G[i-3,j+1])/36 ・・・式86
Gh45R=(G[i-1,j]+2・G[i+2,j])/3
+(5・Z[i+1,j]-2・Z[i+4,j]-2・Z[i,j]-Z[i-3,j])/18
+(5・Z[i+3,j-1]-2・Z[i+6,j-1]-2・Z[i+2,j-1]-Z[i-1,j-1]
+5・Z[i-1,j+1]-2・Z[i+2,j+1]-2・Z[i-2,j+1]-Z[i-5,j+1])/36 ・・・式87
Gh135R=(G[i-1,j]+2・G[i+2,j])/3
+(5・Z[i+1,j]-2・Z[i+4,j]-2・Z[i,j]-Z[i-3,j])/18
+(5・Z[i-1,j-1]-2・Z[i+2,j-1]-2・Z[i-2,j-1]-Z[i-5,j-1]
+5・Z[i+3,j+1]-2・Z[i+6,j+1]-2・Z[i+2,j+1]-Z[i-1,j+1])/36 ・・・式88
である。
【0167】
図15〜図17は、緑の補間値G[i,j],G[i+1,j]を算出する際に用いる色情報の位置を示す図である。
ところで、式77〜式88において、第1項は「緑色成分の局所的な平均情報」であり、第2項は「補間対象サブピクセルと同一の色成分による局所的な変曲情報」であり、第3項は「補間対象サブピクセルとは異なる色成分による局所的な変曲情報」である。
【0168】
ここで、Gv45L,Gv45Rの「補間対象画素と同一の色成分による局所的な変曲情報」は、縦方向に方向性を有する局所的な変曲情報であり、「補間対象画素と異なる色成分による局所的な変曲情報」は、縦方向および斜め45度方向に方向性を有する局所的な変曲情報であり、Gv135L,Gv135Rの「補間対象画素と同一の色成分による局所的な変曲情報」は、縦方向に方向性を有する局所的な変曲情報であり、「補間対象画素と異なる色成分による局所的な変曲情報」は、縦方向および斜め135度方向に方向性を有する局所的な変曲情報であり、Gh45L,Gh45Rの「補間対象画素と同一の色成分による局所的な変曲情報」は、横方向に方向性を有する局所的な変曲情報であり、「補間対象画素と異なる色成分による局所的な変曲情報」は、横方向および斜め45度方向に方向性を有する局所的な変曲情報であり、Gh135L,Gh135Rの「補間対象画素と同一の色成分による局所的な変曲情報」は、横方向に方向性を有する局所的な変曲情報であり、「補間対象画素と異なる色成分による局所的な変曲情報」は、横方向および斜め135度方向に方向性を有する局所的な変曲情報である。
【0169】
また、GvL,GvRの「補間対象画素と同一の色成分による局所的な変曲情報」と「補間対象画素と異なる色成分による局所的な変曲情報」とは、共に縦方向に方向性を有する局所的な変曲情報であり、GhL,GhRの「補間対象画素と同一の色成分による局所的な変曲情報」と「補間対象画素と異なる色成分による局所的な変曲情報」とは、共に横方向に方向性を有する局所的な変曲情報である。
【0170】
以上説明したように、補間処理部17は、複数の色成分の変曲情報を用いて補間値を算出するので、第2の実施形態では、撮影光学系12に倍率色収差が存在する場合であっても、平均情報を適切に補正することが可能であり、偽色の発生を抑制することができる。その様子を図18に示す。
また、第2の実施形態では、複数の色成分の変曲情報が互いに相殺し合うので、色差が一定でない色境界部分における偽色も抑制できる。
【0171】
すなわち、第2の実施形態のG補間処理では、第1の実施形態のG補間処理によって発生する可能性が高かった偽色を抑制することができる。
ところで、複数の色成分の変曲情報は、如何なる方向に位置する色情報を採用するかで、値が変化し易い。そのため、複数の色成分の変曲情報を用いて補間値を算出する際には、補間対象画素における類似性の強い方向を正確に判定し、その方向に位置する色情報を採用した変曲情報を用いる必要がある。第2の実施形態では、縦方向や横方向の類似度成分の他に斜め方向の類似度成分を用いることによって、補間対象画素における類似性の強弱の判定の精度を向上させている。
【0172】
《第3の実施形態》
以下、第3の実施形態の動作を説明する。なお、第3の実施形態におけるRB補間処理は、第1の実施形態と同様にして行えるため、ここでは、説明を省略する。
図19〜図21は、第3の実施形態における補間処理部17の動作フローチャートであり、G補間処理における補間処理部17の動作を示す。
【0173】
なお、第3の実施形態と第1の実施形態とのG補間処理の相違点は、縦横方向の類似性を判定する処理や指標HV[ip,j]を設定する処理が異なる点にあり、第3の実施形態は、第1の実施形態の図2S1〜S9の処理に代えて、図19S1〜S4、図20、図21の処理を行うことに相当する。
また、第3の実施形態では、指標HV[ip,j]を設定する過程において、補間対象画素[ip,j]の縦方向および横方向に対する主要類似度と微細部類似度とが、それぞれ異色間類似度と同色間類似度とに分けて算出される。そこで、ここでは、後述するG補間処理の説明を簡単にするため、補間処理部17によって行われる各々の類似度を算出する処理を説明する。
【0174】
まず、縦方向および横方向に対する主要類似度の異色間類似度(以下、「主要異色間類似度」と称する。)と同色間類似度(以下、「主要同色間類似度」と称する。)とを算出する処理を説明する。
補間処理部17は、第1の実施形態の式10〜式19によって定義される縦方向および横方向に対する複数種類の主要類似度成分(Cv1[ip,j],Ch1[ip,j],Cv2[ip,j],Ch2[ip,j],Cv3[ip,j],Ch3[ip,j],Cv4[ip,j],Ch4[ip,j],Cv5[ip,j],Ch5[ip,j])を算出する。
【0175】
次に、補間処理部17は、以下の式89および式90に示すようにして、加重係数a1,a2,a3によって、複数種類の同色間類似度成分を方向別に加重加算すると共に、式91および式92に示すようにして、加重係数a4,a5によって、複数種類の異色間類似度成分についても方向別に加重加算する。
CvD0[ip,j]=(a1・Cv1[ip,j]+a2・Cv2[ip,j]+a3・Cv3[ip,j])
/(a1+a2+a3) ・・・式89
ChD0[ip,j]=(a1・Ch1[ip,j]+a2・Ch2[ip,j]+a3・Ch3[ip,j])
/(a1+a2+a3) ・・・式90
CvN0[ip,j]=(a4・Cv4[ip,j]+a5・Cv5[ip,j])/(a4+a5) ・・・式91
ChN0[ip,j]=(a4・Ch4[ip,j]+a5・Ch5[ip,j])/(a4+a5) ・・・式92
このようにして算出されるCvD0[ip,j]、ChD0[ip,j]、CvN0[ip,j]、ChN0[ip,j]は、そのまま、補間対象画素における縦方向の主要同色間類似度CvD[ip,j]、横方向の主要同色間類似度ChD[ip,j]、縦方向の主要異色間類似度CvN[ip,j]、横方向の主要異色間類似度ChN[ip,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0176】
すなわち、補間処理部17は、補間対象画素と周辺画素とにおける各々の類似度成分の加重加算によって得られる値(CvD0[ip,j]、CvD0[ip-1,j-1]、CvD0[ip-1,j+1]、CvD0[ip+1,j-1]、CvD0[ip+1,j+1]など)を、類似性の連続性を考慮し、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象画素における縦方向の主要同色間類似度CvD[ip,j]、横方向の主要同色間類似度ChD[ip,j]、縦方向の主要異色間類似度CvN[ip,j]、横方向の主要異色間類似度ChN[ip,j]を算出する(図4に示すように補間対象画素と周辺画素とにおける類似度成分を加重加算することに相当する)。
【0177】
《周辺加算方法1》
CvD[ip,j]=(4・CvD0[ip,j]+CvD0[ip-1,j-1]+CvD0[ip-1,j+1]
+CvD0[ip+1,j-1]+CvD0[ip+1,j+1])/8 ・・・式93
ChD[ip,j]=(4・ChD0[ip,j]+ChD0[ip-1,j-1]+ChD0[ip-1,j+1]
+ChD0[ip+1,j-1]+ChD0[ip+1,j+1])/8 ・・・式94
CvN[ip,j]=(4・CvN0[ip,j]+CvN0[ip-1,j-1]+CvN0[ip-1,j+1]
+CvN0[ip+1,j-1]+CvN0[ip+1,j+1])/8 ・・・式95
ChN[ip,j]=(4・ChN0[ip,j]+ChN0[ip-1,j-1]+ChN0[ip-1,j+1]
+ChN0[ip+1,j-1]+ChN0[ip+1,j+1])/8 ・・・式96
《周辺加算方法2》
CvD[ip,j]=(4・CvD0[ip,j]
+2・(CvD0[ip-1,j-1]+CvD0[ip+1,j-1]+CvD0[ip-1,j+1]+CvD0[ip+1,j+1])
+CvD0[ip,j-2]+CvD0[ip,j+2]+CvD0[ip-2,j]+CvD0[ip+2,j])/16 ・・・式97
ChD[ip,j]=(4・ChD0[ip,j]
+2・(ChD0[ip-1,j-1]+ChD0[ip+1,j-1]+ChD0[ip-1,j+1]+ChD0[ip+1,j+1])
+ChD0[ip,j-2]+ChD0[ip,j+2]+ChD0[ip-2,j]+ChD0[ip+2,j])/16 ・・・式98
CvN[ip,j]=(4・CvN0[ip,j]
+2・(CvN0[ip-1,j-1]+CvN0[ip+1,j-1]+CvN0[ip-1,j+1]+CvN0[ip+1,j+1])
+CvN0[ip,j-2]+CvN0[ip,j+2]+CvN0[ip-2,j]+CvN0[ip+2,j])/16 ・・・式99
ChN[ip,j]=(4・ChN0[ip,j]
+2・(ChN0[ip-1,j-1]+ChN0[ip+1,j-1]+ChN0[ip-1,j+1]+ChN0[ip+1,j+1])
+ChN0[ip,j-2]+ChN0[ip,j+2]+ChN0[ip-2,j]+ChN0[ip+2,j])/16 ・・・式100
次に、縦方向および横方向に対する微細部類似度の異色間類似度(以下、「微細部異色間類似度」と称する。)と同色間類似度(以下、「微細部同色間類似度」と称する。)とを算出する処理を説明する。
【0178】
補間処理部17は、第1の実施形態の式29〜式34によって定義される縦方向および横方向に対する複数種類の微細部類似度成分(Cvs1[ip,j],Chs1[ip,j],Cvs2[ip,j],Chs2[ip,j],Cvs3[ip,j],Chs3[ip,j])を算出する。
次に、補間処理部17は、以下の式101および式102に示すようにして、加重係数s1,s2によって、複数種類の同色間類似度成分を方向別に加重加算すると共に、式103および式104に示すようにして、異色間類似度成分をCvsN0[ip,j]やChsNO[ip,j]に代入する。また、縦方向の類似度成分については、以下の式101および式103によって、サブピクセル間の距離による規格化も行う。
【0179】
CvsD0[ip,j]=(s1・Cvs1[ip,j]/4+s2・Cvs2[ip,j]/4)/(s1+s2) ・・・式101
ChsD0[ip,j]=(s1・Chs1[ip,j]+s2・Chs2[ip,j])/(s1+s2) ・・・式102
CvsN0[ip,j]=Cvs3[ip,j]/2 ・・・式103
ChsN0[ip,j]=Chs3[ip,j] ・・・式104
このようにして算出されるCvsD0[ip,j]、ChsD0[ip,j]、CvsN0[ip,j]、ChsN0[ip,j]は、そのまま、補間対象画素における縦方向の微細部同色間類似度CvsD[ip,j]、横方向の微細部同色間類似度ChsD[ip,j]、縦方向の微細部異色間類似度CvsN[ip,j]、横方向の微細部異色間類似度ChsN[ip,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0180】
すなわち、補間処理部17は、補間対象画素と周辺画素とにおける各々の類似度成分の加重加算等によって得られる値(CvsD0[ip,j]、CvsD0[ip-1,j-1]、CvsD0[ip-1,j+1]、CvsD0[ip+1,j-1]、CvsD0[ip+1,j+1]など)を、類似性の連続性を考慮し、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象画素における縦方向の微細部同色間類似度CvsD[ip,j]、横方向の微細部同色間類似度ChsD[ip,j]、縦方向の微細部異色間類似度CvsN[ip,j]、横方向の微細部異色間類似度ChsN[ip,j]を算出する(図4に示すように補間対象画素と周辺画素とにおける類似度成分を加重加算することに相当する)。
【0181】
《周辺加算方法1》
CvsD[ip,j]=(4・CvsD0[ip,j]+CvsD0[ip-1,j-1]+CvsD0[ip-1,j+1]
+CvsD0[ip+1,j-1]+CvsD0[ip+1,j+1])/8 ・・・式105
ChsD[ip,j]=(4・ChsD0[ip,j]+ChsD0[ip-1,j-1]+ChsD0[ip-1,j+1]
+ChsD0[ip+1,j-1]+ChsD0[ip+1,j+1])/8 ・・・式106
CvsN[ip,j]=(4・CvsN0[ip,j]+CvsN0[ip-1,j-1]+CvsN0[ip-1,j+1]
+CvsN0[ip+1,j-1]+CvsN0[ip+1,j+1])/8 ・・・式107
ChsN[ip,j]=(4・ChsN0[ip,j]+ChsN0[ip-1,j-1]+ChsN0[ip-1,j+1]
+ChsN0[ip+1,j-1]+ChsN0[ip+1,j+1])/8 ・・・式108
《周辺加算方法2》
CvsD[ip,j]=(4・CvsD0[ip,j]+2・(CvsD0[ip-1,j-1]+CvsD0[ip+1,j-1]
+CvsD0[ip-1,j+1]+CvsD0[ip+1,j+1])+CvsD0[ip,j-2]+CvsD0[ip,j+2]
+CvsD0[ip-2,j]+CvsD0[ip+2,j])/16 ・・・式109
ChsD[ip,j]=(4・ChsD0[ip,j]+2・(ChsD0[ip-1,j-1]+ChsD0[ip+1,j-1]
+ChsD0[ip-1,j+1]+ChsD0[ip+1,j+1])+ChsD0[ip,j-2]+ChsD0[ip,j+2]
+ChsD0[ip-2,j]+ChsD0[ip+2,j])/16 ・・・式110
CvsN[ip,j]=(4・CvsN0[ip,j]+2・(CvsN0[ip-1,j-1]+CvsN0[ip+1,j-1]
+CvsN0[ip-1,j+1]+CvsN0[ip+1,j+1])+CvsN0[ip,j-2]+CvsN0[ip,j+2]
+CvsN0[ip-2,j]+CvsN0[ip+2,j])/16 ・・・式111
ChsN[ip,j]=(4・ChsN0[ip,j]+2・(ChsN0[ip-1,j-1]+ChsN0[ip+1,j-1]
+ChsN0[ip-1,j+1]+ChsN0[ip+1,j+1])+ChsN0[ip,j-2]+ChsN0[ip,j+2]
+ChsN0[ip-2,j]+ChsN0[ip+2,j])/16 ・・・式112
ところで、以上説明したように算出される主要異色間類似度や微細部異色間類似度は、縦方向または横方向に隣接する画素の色情報を比較することによって算出されるので、主要同色間類似度や微細部同色間類似度よりも短い距離間隔で類似性の強弱の判定が可能である。すなわち、異色間類似度には、同色間類似度よりも細かい画像の構造が反映されることになる。
【0182】
とりわけ、異色間類似度は、異なる色成分の色情報が全て同一の輝度情報を表していると仮定して算出されるため、異色間類似度を用いた類似性の強弱の判定は、無彩色部において、信頼性が高い。一方、同色間類似度を用いた類似性の強弱の判定は、彩色部・無彩色部ともに全般的に信頼性が高いが、画像の構造が細かい部分では、異色間類似度を用いた場合に比べて信頼性が劣る。
【0183】
したがって、補間処理の対象となる画像全体に対して、信頼性の高い類似性の判定を行うには、画像全体を、無彩色部と彩色部とに分け、各々の部分に適した類似度を用いる方法が優れている。第3の実施形態におけるG補間処理では、このような信頼性の高い類似性の判定を実現するために、補間対象画素の近傍の画像が無彩色部であるか否かによって、指標HV[ip,j]を設定する際に用いる類似度を切り換えている。
【0184】
以下、第3の実施形態におけるG補間処理について説明するが、第1の実施形態と同じ動作については、詳細な説明を省略する。
まず、補間処理部17は、補間対象画素が属する局所領域における色彩の有無を示す色指標を算出し(図19S1)、色指標に基づき、補間対象画素の近傍の画像が無彩色部であるか否かを判定する(図19S2)。
【0185】
なお、色指標としては、局所的な色差情報を用いることができるが、上述したように算出される主要異色間類似度や微細部異色間類似度には、類似性の強弱と同時に局所的な色差情報が反映されているので、色指標として、主要異色間類似度や微細部異色間類似度を直接利用することが可能である。
第3の実施形態では、色指標として、縦方向および横方向に対する主要異色間類似度と微細部異色間類似度とのどちらでも用いることができるが、ここでは、主要異色間類似度を用いた場合の例を示す。
【0186】
ただし、主要異色間類似度は、値が小さい程、類似性が強いことを示すので、縦方向および横方向に対する主要異色間類似度が共に大きな値である場合には、無彩色部で縦横両方向に対する類似性が弱いか、または、補間対象画素の近傍の画像が彩色部であることを意味する。逆に、縦方向と横方向との少なくとも1つの方向に対する主要異色間類似度が比較的小さな値であれば、補間対象画素の近傍の画像が無彩色部であり、類似性の強い方向が存在していることを意味する。
【0187】
すなわち、補間処理部17は、縦方向の主要異色間類似度CvN[ip,j]と横方向の主要異色間類似度ChN[ip,j]とを算出し、閾値ThNv,ThNhについて、以下の条件1が成り立つか否かを判定し、条件1が成り立つ場合、補間対象画素の近傍の画像が無彩色部であると判断し、条件1が成り立たない場合、補間対象画素の近傍の画像が彩色部であると判断する。
【0188】
CvN[ip,j]≦ThNv または ChN[ip,j]≦ThNh ・・・条件1
ただし、閾値ThNv,ThNhは、階調数が256のとき10程度以下の値をとるものとする。
そして、補間処理部17は、補間対象画素の近傍の画像が無彩色部である場合、後述する《異色間類似度を用いた指標HV[ip,j]の設定処理》を行い(図19S3)、補間対象画素の近傍の画像が彩色部である場合、後述する《同色間類似度を用いた指標HV[ip,j]の設定処理》を行う(図19S4)。
【0189】
このような処理によって、指標HV[ip,j]が設定されると、補間処理部17は、第1の実施形態と同様(図2S10〜S13に相当する)に、指標HV[ip,j]の値に応じて、2つのサブピクセルの緑の補間値G[i,j]、G[i+1,j]を算出する(図19S5〜S8)。
ここで、《異色間類似度を用いた指標HV[ip,j]の設定処理》と《同色間類似度を用いた指標HV[ip,j]の設定処理》とを説明する。
【0190】
《異色間類似度を用いた指標HV[ip,j]の設定処理》
まず、補間処理部17は、縦方向の主要異色間類似度CvN[ip,j]と横方向の主要異色間類似度ChN[ip,j]とを算出し(図20S1)、これらの類似度に基づく類似性(以下、「主要異色間類似性」と称する。)が強い方向が不明であるか否かを判定する(図20S2)。
【0191】
例えば、このような判定は、閾値Th0について、以下の条件2が成り立つか否かを判定することによって実現できる。
|CvN[ip,j]-ChN[ip,j]|≦Th0 ・・・条件2
そして、補間処理部17は、このような判定結果として、主要異色間類似性が強い方向が不明である場合、縦方向の微細部異色間類似度CvsN[ip,j]と横方向の微細部異色間類似度ChsN[ip,j]とを算出し(図20S3)、これらの類似度に基づく類似性(以下、「微細部異色間類似性」と称する。)が強い方向が不明であるか否かを判定する(図20S4)。
【0192】
例えば、このような判定は、閾値Ths0について、以下の条件3が成り立つか否かを判定することによって実現できる。
|CvsN[ip,j]-ChsN[ip,j]|≦Ths0 ・・・条件3
そして、補間処理部17は、このような判定結果として、微細部異色間類似性が強い方向が不明である場合(条件2および条件3が成り立つ場合:図22の領域1(1)に相当する)、補間対象画素の近傍の画像が無彩色部であり、縦横間で類似性に区別がつかないと判定して指標HV[ip,j]に0を設定する(図20S5)。一方、微細部異色間類似性が強い方向が判別できる場合、縦方向の微細部異色間類似性が強いか否かを判定する(図20S6)。
【0193】
例えば、このような判定は、以下の条件4が成り立つか否かを判定することによって実現できる。
CvsN[ip,j]<ChsN[ip,j] ・・・条件4
そして、補間処理部17は、このような判定結果として、縦方向の微細部異色間類似性が強い場合(条件2および条件4が成り立ち、条件3が成り立たない場合:図22の領域2(1)に相当する)、補間対象画素の近傍の画像が無彩色部であり、縦方向に類似性が強いと判断し、指標HV[ip,j]に1を設定する(図20S7)。一方、縦方向の微細部異色間類似性が強くない場合(条件2が成り立ち条件3および条件4が成り立たない場合:図22の領域1(2)に相当する)、指標HV[ip,j]に0を設定する(図20S8)。
【0194】
また、補間処理部17は、図20S2の判定結果として、主要異色間類似性が強い方向が判別できる場合、縦方向の主要異色間類似性が強いか否かを判定する(図20S9)。
例えば、このような判定は、以下の条件5が成り立つか否かを判定することによって実現できる。
【0195】
CvN[ip,j]<ChN[ip,j] ・・・条件5
そして、補間処理部17は、このような判定結果として、縦方向の主要異色間類似性が強い場合(条件2が成り立たず条件5が成り立つ場合:図22の領域2(2)に相当する)、指標HV[ip,j]に1を設定する(図20S10)。一方、縦方向の主要異色間類似性が強くない場合(条件2および条件5が成り立たない場合:図22の領域3に相当する)、補間対象画素の近傍の画像が無彩色部であり、横方向に類似性が強いと判断し、指標HV[ip,j]に−1を設定する(図20S11)。
【0196】
《同色間類似度を用いた指標HV[ip,j]の設定処理》
まず、補間処理部17は、縦方向の主要同色間類似度CvD[ip,j]と横方向の主要同色間類似度ChD[ip,j]とを算出し(図21S1)、これらの類似度に基づく類似性(以下、「主要同色間類似性」と称する。)が強い方向が不明であるか否かを判定する(図21S2)。
【0197】
例えば、このような判定は、閾値Th1について、以下の条件6が成り立つか否かを判定することによって実現できる。
|CvD[ip,j]-ChD[ip,j]|≦Th1 ・・・条件6
そして、補間処理部17は、このような判定結果として、主要同色間類似性が強い方向が不明である場合、縦方向の微細部同色間類似度CvsD[ip,j]と横方向の微細部同色間類似度ChsD[ip,j]とを算出し(図21S3)、これらの類似度に基づく類似性(以下、「微細部同色間類似性」と称する。)が強い方向が不明であるか否かを判定する(図21S4)。
【0198】
例えば、このような判定は、閾値Ths1について、以下の条件7がが成り立つか否かを判定することによって実現できる。
|CvsD[ip,j]-ChsD[ip,j]|≦Ths1 ・・・条件7
そして、補間処理部17は、このような判定結果として、微細部同色間類似性が強い方向が不明である場合(条件6および条件7が成り立つ場合:図22の領域4(1)に相当する)、補間対象画素の近傍の画像が彩色部であり、縦横間で類似性に区別がつかないと判定して指標HV[ip,j]に0を設定する(図21S5)。一方、微細部同色間類似性が強い方向が判別できる場合、縦方向の微細部同色間類似性が強いか否かを判定する(図21S6)。
【0199】
例えば、このような判定は、以下の条件8が成り立つか否かを判定することによって実現できる。
CvsD[ip,j]<ChsD[ip,j] ・・・条件8
そして、補間処理部17は、このような判定結果として、縦方向の微細部同色間類似性が強い場合(条件6および条件8が成り立ち、条件7が成り立たない場合:図22の領域5(1)に相当する)、補間対象画素の近傍の画像が彩色部であり、縦方向に類似性が強いと判断し、指標HV[ip,j]に1を設定する(図21S7)。一方、縦方向の微細部同色間類似性が強くない場合(条件6が成り立ち条件7および条件8が成り立たない場合:図22の領域4(2)に相当する)、指標HV[ip,j]に0を設定する(図21S8)。
【0200】
また、補間処理部17は、図21S2の判定結果として、主要同色間類似性が強い方向が判別できる場合、縦方向の主要同色間類似性が強いか否かを判定する(図21S9)。
例えば、このような判定は、以下の条件9が成り立つか否かを判定することによって実現できる。
【0201】
CvD[ip,j]<ChD[ip,j] ・・・条件9
そして、補間処理部17は、このような判定結果として、縦方向の主要同色間類似性が強い場合(条件6が成り立たず条件9が成り立つ場合:図22の領域5(2)に相当する)、指標HV[ip,j]に1を設定する(図21S10)。一方、縦方向の主要同色間類似性が強くない場合(条件6および条件9が成り立たない場合:図22の領域6に相当する)、補間対象画素の近傍の画像が彩色部であり、横方向に類似性が強いと判断し、指標HV[ip,j]に−1を設定する(図21S11)。
【0202】
ところで、《異色間類似度を用いた指標HV[ip,j]の設定処理》と《同色間類似度を用いた指標HV[ip,j]の設定処理》とにおいて、閾値Th0、Ths0、Th1、Ths1は、縦方向の類似度と横方向の類似度との差異が微少である場合、ノイズの影響によって一方の類似性が強いと誤判定されることを避ける役割を果たす。そのため、ノイズの多いカラー画像に対しては、閾値Th0、Ths0、Th1、Ths1の値を高く設定することによって、類似性の判定の精度が高められる。
【0203】
以上説明したように、第3の実施形態では、局所的な色差情報が反映される異色間類似度を利用して画像全体を無彩色部と彩色部とに分け、各々の部分に適した類似度に基づいて類似性の強弱を判定することができるため、従来の技術に比べて補間量を高い精度で算出することができる。
なお、第3の実施形態では、類似性の強弱を判定する際に、異色間類似度と同色間類似度とを切り換えているが、類似性の判定に用いる類似度としては、異色間類似度と同色間類似度とを完全に切り換える以外に、無彩色部では異色間類似度の加算比率を上げ、彩色部では同色間類似度の加算比率を上げて、異色間類似度と同色間類似度とを加重加算して得られる類似度でも良い。
【0204】
また、第3の実施形態では、局所的な色彩の有無を調べる方法として異色間類似度に含まれる色差を用いたが、色の比など他の色指標を用いても良い。
ところで、第3の実施形態で設定される指標HV[ip,j]は、第2の実施形態において、補間対象画素の類似性の強さを分類する際(図13S15に相当する)に用いることができる。すなわち、第2の実施形態の図12S1〜S4、S11〜S14の処理に代えて、第3の実施形態の図19S1〜S4、図20、図21の処理を行うことも可能である。
【0205】
《第4の実施形態》
以下、第4の実施形態の動作を説明するが、第4の実施形態におけるG補間処理の大まかな流れ(類似度を算出して指標を設定し、指標に基づいて補間値を算出する流れ)は、第1の実施形態と同様であるため、図示を省略する。また、第4の実施形態におけるRB補間処理は、第1の実施形態と同様にして行えるため、説明を省略する。
【0206】
なお、第4の実施形態と第1の実施形態とのG補間処理の相違点は、第1の実施形態が、補間対象画素毎に縦横方向の類似性の判定や、指標HV[ip,j]の設定を行っているのに対し、第4の実施形態は、補間対象サブピクセル毎に、縦横方向の類似性の判定と、指標HV[i,j]、HV[i+1,j]の設定を行う点にある。
すなわち、第4の実施形態では、第1の実施形態で算出される補間対象画素における縦方向の主要類似度Cv[ip,j]に代えて、2つの補間対象サブピクセルにおける縦方向の主要類似度Cv[i,j]、Cv[i+1,j]が算出されることになり、横方向の主要類似度、縦方向の微細部類似度、横方向の微細部類似度についても同様である。
【0207】
そこで、ここでは、第4の実施形態の動作として、まず、縦方向および横方向に対する主要類似度(Cv[i,j],Ch[i,j],Cv[i+1,j],Ch[i+1,j])と微細部類似度(Cvs[i,j],Chs[i,j],Cvs[i+1,j],Chs[i+1,j])とを算出する処理を説明する。
ただし、後述する演算式では、図28(2)の座標[i+1,j]に位置するサブピクセルに対する演算式が、座標[i,j]に位置するサブピクセルに対する演算式のiにi+1を代入することによって実現できる場合、座標[i,j]に位置するサブピクセルに対する演算式のみを記載し、座標[i+1,j]に位置するサブピクセルに対する演算式の記載は省略する。
【0208】
まず、座標[i,j]に位置するサブピクセルに対する縦方向の主要類似度Cv[i,j]と横方向の主要類似度Ch[i,j]とを算出する処理を説明する(座標[i+1,j]に位置するサブピクセルに対する縦方向の主要類似度Cv[i+1,j]と横方向の主要類似度Ch[i+1,j]とは、以下の式113〜式131のiにi+1を代入することによって算出できる)。
【0209】
補間処理部17は、以下の式113〜式124によって定義される縦方向および横方向に対する複数種類の主要類似度成分を算出する。なお、以下の式113〜式124において、主要類似度成分は、距離に関して縦方向と横方向との間で対称な位置関係で構成される。
縦方向のGG間主要類似度成分:
Cv1[i,j]=|G[i,j-1]-G[i,j+1]| ・・・式113
横方向のGG間主要類似度成分:
Ch1[i,j]=|G[i-2,j]-G[i+2,j]| ・・・式114
縦方向のBB(RR)間主要類似度成分:
Cv2[i,j]=(|Z[i-2,j-1]-Z[i-2,j+1]|+|Z[i+2,j-1]-Z[i+2,j+1]|)/2 ・・・式115
横方向のBB(RR)間主要類似度成分:
Ch2[i,j]=(|Z[i-2,j-1]-Z[i+2,j-1]|+|Z[i-2,j+1]-Z[i+2,j+1]|)/2 ・・・式116
縦方向のRR(BB)間主要類似度成分:
Cv3[i,j]=(|Z[i,j-2]-Z[i,j]|+|Z[i,j+2]-Z[i,j]|)/2 ・・・式117
横方向のRR(BB)間主要類似度成分:
Ch3[i,j]=(|Z[i-4,j]-Z[i,j]|+|Z[i+4,j]-Z[i,j]|)/2 ・・・式118
縦方向のGR(GB)間主要類似度成分:
Cv4[i,j]=(|G[i,j-1]-Z[i,j]|+|G[i,j+1]-Z[i,j]|)/2 ・・・式119
横方向のGR(GB)間主要類似度成分:
Ch4[i,j]=(|G[i-2,j]-Z[i,j]|+|G[i+2,j]-Z[i,j]|)/2 ・・・式120
縦方向のBG(RG)間主要類似度成分:
Cv5[i,j]=(|Z[i-2,j-1]-G[i-2,j]|+|Z[i-2,j+1]-G[i-2,j]|
+|Z[i+2,j-1]-G[i+2,j]|+|Z[i+2,j+1]-G[i+2,j]|)/4 ・・・式121
横方向のBG(RG)間主要類似度成分:
Ch5[i,j]=(|Z[i-2,j-1]-G[i,j-1]|+|Z[i-2,j+1]-G[i,j+1]|
+|Z[i+2,j-1]-G[i,j-1]|+|Z[i+2,j+1]-G[i,j+1]|)/4 ・・・式122
縦方向の輝度間主要類似度成分:
Cv6[i,j]=(|Y[i,j-1]-Y[i,j]|+|Y[i,j+1]-Y[i,j]|)/2 ・・・式123
横方向の輝度間主要類似度成分:
Ch6[i,j]=(|Y[i-2,j]-Y[i,j]|+|Y[i+2,j]-Y[i,j]|)/2 ・・・式124
ただし、式123および式124において、Y[i,j]は、以下の式125によって算出される値であり、補間対象サブピクセルの近傍に位置するサブピクセルの色成分の色情報をR:G:B=1:2:1の比で平均化するフィルタリング処理で生成される輝度に相当する。
【0210】
Y[i,j]=(4・(A[i,j]+A[i-1,j]+A[i+1,j])
+2・(A[i,j-1]+A[i-1,j-1]+A[i+1,j-1]
+A[i,j+1]+A[i-1,j+1]+A[i+1,j+1]
+A[i-2,j]+A[i+2,j])
+A[i-2,j-1]+A[i-2,j+1]+A[i+2,j-1]+A[i+2,j+1])/32 ・・・式125
ただし、式125において、A[i,j]は、サブピクセル型ベイア配列上の任意の色情報を表し、配置場所に応じてGまたはZの値をとる。図23は、輝度を生成するためのフィルタを示す図である。
【0211】
なお、上述した各々の主要類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。次に、補間処理部17は、以下の式126および式127に示すようにして、第1の実施形態と同様の役割を果たす加重係数a1,a2,a3,a4,a5,a6によって、複数種類の主要類似度成分を各々の方向毎に加重加算する。
【0212】
Cv0[i,j]=(a1・Cv1[i,j]+a2・Cv2[i,j]+a3・Cv3[i,j]+a4・Cv4[i,j]
+a5・Cv5[i,j]+a6・Cv6[i,j])/(a1+a2+a3+a4+a5+a6) ・・・式126
Ch0[i,j]=(a1・Ch1[i,j]+a2・Ch2[i,j]+a3・Ch3[i,j]+a4・Ch4[i,j]
+a5・Ch5[i,j]+a6・Ch6[i,j])/(a1+a2+a3+a4+a5+a6) ・・・式127
このようにして算出されるCv0[i,j]およびCh0[i,j]は、そのまま、補間対象サブピクセルの縦方向の主要類似度Cv[i,j]および横方向の主要類似度Ch[i,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0213】
すなわち、補間処理部17は、補間対象サブピクセルと、補間対象サブピクセルの近傍に位置するサブピクセル(以下、「周辺サブピクセル」と称する。)とにおける主要類似度成分の方向別の加重加算よって得られる値(Cv0[i,j]、Cv0[i-1,j-1]、Cv0[i-1,j+1]、Cv0[i+1,j-1]、Cv0[i+1,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象サブピクセルの縦方向の主要類似度Cv[i,j]および横方向の主要類似度Ch[i,j]を算出する。
【0214】
《周辺加算方法1》
Cv[i,j]=(4・Cv0[i,j]+Cv0[i-2,j-1]+Cv0[i-2,j+1]+Cv0[i+2,j-1]
+Cv0[i+2,j+1])/8 ・・・式128
Ch[i,j]=(4・Ch0[i,j]+Ch0[i-2,j-1]+Ch0[i-2,j+1]+Ch0[i+2,j-1]
+Ch0[i+2,j+1])/8 ・・・式129
《周辺加算方法2》
Cv[i,j]=(4・Cv0[i,j]
+2・(Cv0[i-2,j-1]+Cv0[i+2,j-1]+Cv0[i-2,j+1]+Cv0[i+2,j+1])
+Cv0[i,j-2]+Cv0[i,j+2]+Cv0[i-4,j]+Cv0[i+4,j])/16 ・・・式130
Ch[i,j]=(4・Ch0[i,j]
+2・(Ch0[i-2,j-1]+Ch0[i+2,j-1]+Ch0[i-2,j+1]+Ch0[i+2,j+1])
+Ch0[i,j-2]+Ch0[i,j+2]+Ch0[i-4,j]+Ch0[i+4,j])/16 ・・・式131
なお、《周辺加算方法1》は、図24(1)に示すようにして補間対象サブピクセルと周辺サブピクセルとにおける主要類似度成分の加重加算を行うことに相当し、《周辺加算方法2》は、図24(2)に示すようにして補間対象サブピクセルと周辺サブピクセルとにおける主要類似度成分の加重加算を行うことに相当する。
【0215】
次に、座標[i,j]に位置するサブピクセルに対する縦方向の微細部類似度Cvs[i,j]および横方向の微細部類似度Chs[i,j]と、座標[i+1,j]に位置するサブピクセルに対する縦方向の微細部類似度Cvs[i+1,j]および横方向の微細部類似度Chs[i+1,j]とを算出する処理を説明する。
【0216】
補間処理部17は、以下の式132〜式143によって定義される縦方向および横方向に対する複数種類の微細部類似度成分を算出する。なお、以下の式132〜式143において、微細部類似度成分は、距離に関して縦方向と横方向との間で非対称な位置関係で構成される。
縦方向のRR(BB)間微細部類似度成分:
Cvs1[i,j]=(|Z[i,j-2]-Z[i,j]|+|Z[i,j+2]-Z[i,j]|)/2 ・・・式132
Cvs1[i+1,j]=(|Z[i+1,j-2]-Z[i+1,j]|+|Z[i+1,j+2]-Z[i+1,j]|)/2 ・・・式133
横方向のRR(BB)間微細部類似度成分:
Chs1[i,j]=|Z[i,j]-Z[i+1,j]| ・・・式134
Chs1[i+1,j]=|Z[i,j]-Z[i+1,j]| ・・・式135
縦方向のGG間微細部類似度成分:
Cvs2[i,j]=|G[i,j-1]-G[i,j+1]| ・・・式136
Cvs2[i+1,j]=|G[i+1,j-1]-G[i+1,j+1]| ・・・式137
横方向のGG間微細部類似度成分:
Chs2[i,j]=(|G[i,j-1]-G[i+1,j-1]|+|G[i,j+1]-G[i+1,j+1]|)/2 ・・・式138
Chs2[i+1,j]=(|G[i,j-1]-G[i+1,j-1]|+|G[i,j+1]-G[i+1,j+1]|)/2 ・・・式139
縦方向のGR(GB)間微細部類似度成分:
Cvs3[i,j]=(|G[i,j-1]-Z[i,j]|+|G[i,j+1]-Z[i,j]|)/2 ・・・式140
Cvs3[i+1,j]=(|G[i+1,j-1]-Z[i+1,j]|+|G[i+1,j+1]-Z[i+1,j]|)/2 ・・・式141
横方向のGR(GB)間微細部類似度成分:
Chs3[i,j]=|G[i-1,j]-Z[i,j]| ・・・式142
Chs3[i+1,j]=|G[i+2,j]-Z[i+1,j]| ・・・式143
なお、上述した各々の微細部類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。
【0217】
次に、補間処理部17は、以下の式144および式145に示すようにして、加重係数s1,s2,s3によって、複数種類の微細部類似度成分を方向別に加重加算する(座標[i+1,j]に位置するサブピクセルに対する複数種類の微細部類似度成分についても、同様にして方向別の加重加算が行える)。なお、式144では、縦方向の類似度成分を、サブピクセル間の距離による規格化して用いている。
【0218】
Cvs0[i,j]=(s1・Cvs1[i,j]/4+s2・Cvs2[i,j]/4+s3・Cvs3[i,j]/2)
/(s1+s2+s3) ・・・式144
Chs0[i,j]=(s1・Chs1[i,j]+s2・Chs2[i,j]+s3・Chs3[i,j])
/(s1+s2+s3) ・・・式145
このようにして算出されるCvs0[i,j]およびChs0[i,j]は、そのまま、補間対象サブピクセルの縦方向の微細部類似度Cvs[i,j]および横方向の微細部類似度Chs[i,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0219】
すなわち、補間処理部17は、補間対象サブピクセルと周辺サブピクセルとにおける微細部類似度成分の方向別の加重加算よって得られる値(Cvs0[i,j]、Cvs0[i-1,j-1]、Cvs0[i-1,j+1]、Cvs0[i+1,j-1]、Cvs0[i+1,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、縦方向の微細部類似度Cvs[i,j]および横方向の微細部類似度Chs[i,j]を算出する(座標[i+1,j]に位置するサブピクセルに対する微細部類似度についても、同様にして算出する)。
【0220】
《周辺加算方法1》
Cvs[i,j]=(4・Cvs0[i,j]+Cvs0[i-2,j-1]+Cvs0[i-2,j+1]+Cvs0[i+2,j-1]
+Cvs0[i+2,j+1])/8 ・・・式146
Chs[i,j]=(4・Chs0[i,j]+Chs0[i-2,j-1]+Chs0[i-2,j+1]+Chs0[i+2,j-1]
+Chs0[i+2,j+1])/8 ・・・式147
《周辺加算方法2》
Cvs[i,j]=(4・Cvs0[i,j]
+2・(Cvs0[i-2,j-1]+Cvs0[i+2,j-1]+Cvs0[i-2,j+1]+Cvs0[i+2,j+1])
+Cvs0[i,j-2]+Cvs0[i,j+2]+Cvs0[i-4,j]+Cvs0[i+4,j])/16 ・・・式148
Chs[i,j]=(4・Chs0[i,j]
+2・(Chs0[i-2,j-1]+Chs0[i+2,j-1]+Chs0[i-2,j+1]+Chs0[i+2,j+1])
+Chs0[i,j-2]+Chs0[i,j+2]+Chs0[i-4,j]+Chs0[i+4,j])/16 ・・・式149
ところで、第4の実施形態の2つの補間対象サブピクセルにおける主要類似性や微細部類似性の判定および指標HV[i,j]、HV[i+1,j]の設定は、上述したように算出される主要類似度や微細部類似度を用いることによって、第1の実施形態の補間対象画素における処理と同様に算出することができる。すなわち、第1の実施形態の図2S2〜S6、S8、S9の説明において、図28(1)の座標[ip,j]に位置する補間対象画素に代えて、図28(2)の座標[i,j]や[i+1,j]に位置する補間対象サブピクセルに対する処理を行うことに相当する。
【0221】
このようにして、指標HV[i,j]やHV[i+1,j]の設定が完了すると、補間処理部17は、以下のようにして、2つの補間対象サブピクセルの緑の補間値G[i,j]、G[i+1,j]を算出する。
HV[i,j]=1のとき(縦方向に類似性が強い) G[i,j]=GvL
HV[i+1,j]=1のとき(縦方向に類似性が強い) G[i+1,j]=GvR
HV[i,j]=0のとき(縦横方向に類似性が強い、または弱い)
G[i,j]=(GvL+GhL)/2
HV[i+1,j]=0のとき(縦横方向に類似性が強い、または弱い)
G[i+1,j]=(GvR+GhR)/2
HV[i,j]=-1のとき(横方向に類似性が強い) G[i,j]=GhL
HV[i+1,j]=-1のとき(横方向に類似性が強い) G[i+1,j]=GhR
ただし、GvL,GvR,GhL,GhRは、第1の実施形態の《平均補間》または《色差補間》のようにして算出される値である。
【0222】
以上説明したように、第4の実施形態では、補間対象サブピクセル毎に、類似度を算出し、その類似度に基づく類似性の判定結果に応じて補間値を算出することができる。
【0223】
なお、第4の実施形態では、第1の実施形態と同様にして、縦方向および横方向に対して主要類似度や微細部類似度を算出し、緑の補間値を算出しているが、例えば、式150〜式153に示すようにして、斜め45度方向の主要類似度C45[i,j]、C45[i+1,j]および斜め135度方向の主要類似度C135[i,j]、C135[i+1,j]を算出し、これらの類似度に基づき、第2の実施形態と同様に、補間対象サブピクセルの斜め主要類似性を判定して緑の補間値を算出しても良い。
【0224】
C45[i,j]=(|R[i+4,j-2]-R[i,j]|-|R[i-4,j+2]-R[i,j]|)/2 ・・・式150
C45[i+1,j]=(|R[i+5,j-2]-R[i+1,j]|-|R[i-3,j+2]-R[i+1,j]|)/2 ・・・式151
C135[i,j]=(|R[i-4,j-2]-R[i,j]|-|R[i+4,j+2]-R[i,j]|)/2 ・・・式152
C135[i+1,j]=(|R[i-3,j-2]-R[i+1,j]|-|R[i+5,j+2]-R[i+1,j]|)/2 ・・・式153
また、第4の実施形態では、第1の実施形態と同様にして、指標HV[i,j]、HV[i+1,j]の値を設定しているが、指標HV[i,j]やHV[i+1,j]の設定は、第3の実施形態と同様に算出しても良い。すなわち、第3の実施形態と同様に、主要類似度を主要異色間類似度と主要同色間類似度とに分け、微細部類似度を微細部異色間類似度と微細部同色間類似度とに分け、異色間類似度と同色間類似度とを切り換えて用いる処理を、図28(1)の座標[ip,j]に位置する補間対象画素に代えて、図28(2)の座標[i,j]や[i+1,j]に位置する補間対象サブピクセルに対して個別に当てはめた処理として行えば良い。
【0225】
《第5の実施形態》
以下、第5の実施形態の動作を説明する。なお、第5の実施形態におけるRB補間処理は、第1の実施形態と同様にして行えるため、ここでは、説明を省略する。
図25は、第5の実施形態における補間処理部17の動作フローチャートであり、G補間処理における補間処理部17の動作を示す。ただし、図25では、ベイア配列上の画素の左側に位置するサブピクセルを補間対象とした場合の例を示す。
【0226】
以下、図25に基づいて、第5の実施形態におけるG補間処理について説明する。
まず、補間処理部17は、補間対象サブピクセルにおける縦方向および横方向の類似度を算出する(図25S1)。
ここで、座標[i,j]に位置する補間対象サブピクセルにおける縦方向の類似度Cv[i,j]および横方向の類似度Ch[i,j]を算出する処理の詳細を説明する。
【0227】
補間処理部17は、式154〜式166によって定義される縦方向および横方向に対する複数種類の類似度成分を算出する。なお、式154〜式166では、上述した実施形態のような対称関係にこだわらず、近隣の画素同士による類似度成分の算出を行う。
縦方向のGG間類似度成分:
Cv1[i,j]=|G[i,j-1]-G[i,j+1]| ・・・式154
横方向のGG間類似度成分:
Gh1[i,j]=|G[i-1,j]-G[i+2,j]| ・・・式155
縦方向のBB(RR)間類似度成分:
Cv2[i,j]=(|Z[i-1,j-1]-Z[i-1,j+1]|+|Z[i+2,j-1]-Z[i+2,j+1]|)/2 ・・・式156
横方向のBB(RR)間類似度成分:
Ch2[i,j]=(|Z[i-1,j-1]-Z[i+2,j-1]|+|Z[i-1,j+1]-Z[i+2,j+1]|)/2 ・・・式157
縦方向のRR(BB)間類似度成分:
Cv3[i,j]=(|Z[i,j-2]-Z[i,j]|+|Z[i,j+2]-Z[i,j]|)/2 ・・・式158
横方向のRR(BB)間類似度成分:
Ch3[i,j]=(|Z[i-3,j]-Z[i,j]|+3・|Z[i+1,j]-Z[i,j]|)/4 ・・・式159
縦方向のGR(GB)間類似度成分:
Cv4[i,j]=(|G[i,j-1]-Z[i,j]|+|G[i,j+11-Z[i,j]|)/2 ・・・式160
横方向のGR(GB)間類似度成分:
Gh4[i,j]=(2・|G[i-1,j]-Z[i,j]|+|G[i+2,j]-Z[i,j]|)/3 ・・・式161
縦方向のBG(RG)間類似度成分:
Cv5[i,j]=(|Z[i-1,j-1]-G[i-1,j]|+|Z[i-1,j+1]-G[i-1,j]|
+|Z[i+2,j-1]-G[i+2,j]|+|Z[i+2,j+1]-G[i+2,j]|)/4 ・・・式162
横方向のBG(RG)間類似度成分:
Ch5[i,j]=(2・|Z[i-1,j-1]-G[i,j-1]|+2・|Z[i-1,j+1]-G[i,j+1]|
+|Z[i+2,j-1]-G[i,j-1]|+|Z[i+2,j+1]-G[i,j+1]|)/6 ・・・式163
縦方向の輝度間類似度成分:
Cv6[i,j]=(|Y[i,j-1]-Y[i,j]|+|Y[i,j+1]-Y[i,j]|)/2 ・・・式164
横方向の輝度間類似度成分:
Ch6[i,j]=(2・|Y[i-1,j]-Y[i,j]|+|Y[i+2,j]-Y[i,j]|)/3 ・・・式165
ただし、式164および式165において、Y[i,j]は、式166によって算出される値であり、補間対象サブピクセルの近傍に位置するサブピクセルの色成分の色情報をR:G:B=1:2:1の比で平均化するフィルタリング処理で生成される輝度に相当する。
【0228】
Y[i,j]=(4・A[i,j]+2・(A[i,j-1]+A[i,j+1]+A[i-1,j]+A[i+2,j])
+A[i-1,j-1]+A[i-1.j+1]+A[i+2,j-11+A[i+2,j+1])/16 ・・・式166
ただし、式166において、A[i,j]は、サブピクセル型ベイア配列上の任意の色情報を表し、配置場所に応じてGまたはZの値をとる。
なお、上述した各々の類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。
【0229】
次に、補間処理部17は、第4の実施形態の式126および式127と同様に(第1の実施形態の式23および式24の加重係数と同様の役割を果たす加重係数を用いて)、複数種類の類似度成分を各々の方向毎に加重加算して、Cv0[i,j]およびCh0[i,j]を算出する。
このようにして算出されるCv0[i,j]およびCh0[i,j]は、そのまま、補間対象サブピクセルの縦方向の類似度Cv[i,j]および横方向の類似度Ch[i,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0230】
すなわち、補間処理部17は、補間対象サブピクセルと、周辺サブピクセルとにおける類似度成分の方向別の加重加算よって得られる値(Cv0[i,j]、Cv0[i+1,j]、Cv0[i-1,j-1]、Cv0[i-1,j+1]、Cv0[i+2,j-1]、Cv0[i+2,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象サブピクセルの縦方向の類似度Cv[i,j]および横方向の類似度Ch[i,j]を算出する。
【0231】
《周辺加算方法1》
Cv[i,j]=(2・(Cv0[i,j]+Cv0[i+1,j])+Cv0[i-1,j-1]+Cv0[i-1,j+1]
+Cv0[i+2,j-1]+Cv0[i+2,j+1])/8 ・・・式167
Ch[i,j]=(2・(Ch0[i,j]+Ch0[i+1,j])+Ch0[i-1,j-1]+Ch0[i-1,j+1]
+Ch0[i+2,j-1]+Ch0[i+2,j+1])/8 ・・・式168
《周辺加算方法2》
Cv[i,j]=(2・(Cv0[i,j]+Cv0[i+1,j])
+2・(Cv0[i-1,j-1]+Cv0[i-1,j+1]+Cv0[i+2,j-1]+Cv0[i+2,j+1])
+(Cv0[i,j-2]+Cv0[i+1,j-2])/2
+(Cv0[i,j+2]+Cv0[i+1,j+2])/2
+Cv0[i-3,j]+Cv0[i+4,j])/16 ・・・式169
Ch[i,j]=(2・(Ch0[i,j]+Ch0[i+1,j])
+2・(Ch0[i-1,j-1]+Ch0[i-1,j+1]+Ch0[i+2,j-1]+Ch0[i+2,j+1])
+(Ch0[i,j-2]+Ch0[i+1,j-2])/2
+(Ch0[i,j+2]+Ch0[i+1,j+2])/2
+Ch0[i-3,j]+Ch0[i+4,j])/16 ・・・式170
なお、座標[i,j]に位置するサブピクセルの類似度を算出する際に用いる色情報の位置と、座標[i+1,j]に位置するサブピクセル(ベイア配列上の画素の左側に位置するサブピクセル)の類似度を算出する際に用いる色情報の位置とが、図28(2)のサブピクセル型ベイア配列のi列目のサブピクセルとi+1列目のサブピクセルとの間を通る直線について、左右対称であるすると、座標[i+1,j]に位置するサブピクセルの縦方向の類似度Cv[i+1,j]および横方向の類似度Ch[i+1,j]は、式154〜式170に記載のi-3〜i+4を、以下のように置き換えることによって算出できる。
【0232】
i-3→i+4,i-2→i+3,i-1→i+2,i→i+1,i+1→i,i+2→i-1,i+3→i-2,i+4→i-3。
補間処理部17は、以上説明したようにして縦方向および横方向の類似度を算出すると、これらの類似度に基づき、補間対象サブピクセルにおける縦方向および横方向に対する類似性(以下、「縦横類似性」と称する。)を判定する(図25S2)。そして、補間処理部17は、第1の実施形態で縦横主要類似性の判定結果として指標HV[ip,j]に値を設定した処理と同様に、縦横類似性の判定結果として指標HV[i,j]に値を設定する(図25S3〜S5)。
【0233】
なお、座標[i+1,j]に位置するサブピクセルの縦横類似性を示す指標HV[i+1,j]の設定は、上述したようにして算出される縦方向の類似度Cv[i+1,j]および横方向の類似度Ch[i+1,j]を用いることによって、指標HV[i,j]と同様に設定することができる。
次に、補間処理部17は、指標HV[i,j]が如何なる値であるかを判定し(図25S6)、以下のようにして座標[i,j]に位置する補間対象サブピクセルの緑の補間値G[i,j]を算出する。
【0234】
HV[i,j]=1のとき G[i,j]=GvL:図25S7
HV[i,j]=0のとき G[i,j]=(GvL+GhL)/2:図25S8
HV[i,j]=1のとき G[i,j]=GhL:図25S9
ただし、GvL,GhLは、第1の実施形態の式41,式43または式45,式47のようにして算出される値である。
【0235】
なお、座標[i+1,j]に位置する補間対象サブピクセルの緑の補間値G[i+1,j]は、上述したように設定される指標HV[i+1,j]が如何なる値であるかを判定することによって、以下のように算出することができる。
HV[i+1,j]=1のとき G[i+1,j]=GvR
HV[i+1,j]=0のとき G[i+1,j]=(GvR+GhR)/2
HV[i+1,j]=1のとき G[i+1,j]=GhR
ただし、GvR,GhRは、第1の実施形態の式42,式44または式46,式48のようにして算出される値である。
【0236】
以上説明したように、第5の実施形態では、補間対象サブピクセル毎に、類似度を算出し、その類似度に基づく類似性の判定結果に応じて補間値を算出することができる。
なお、第5の実施形態では、第1の実施形態の式23および式24の加重係数と同様の役割を果たす加重係数によって、式154〜式166で定義される複数種類の類似度成分を加重加算して、補間対象サブピクセルの縦方向の類似度Cv[i,j]および横方向の類似度Ch[i,j]を算出し、このような類似度に基づいて指標HV[i,j]に値を設定しているが、指標HV[i,j]の設定は、以下に示す処理(請求項45ないし請求項52に対応する)で実現することも可能である。
【0237】
まず、補間処理部17は、式154〜式163で定義される複数種類の類似度成分を算出し、これらの類似度成分を第3の実施形態の式89〜式92の加重係数と同様の役割を果たす加重係数によって加重加算し、補間対象サブピクセルにおける縦方向の同色間類似度CvD[i,j]と、横方向の同色間類似度ChD[i,j]と、縦方向の異色間類似度CvN[i,j]と、横方向の異色間類似度ChN[i,j]とを算出する。なお、これらの類似度の算出の過程では、式167〜式170と同様にして、周辺加算を行うものとする。
【0238】
次に、補間処理部17は、縦方向の異色間類似度CvN[i,j]と横方向の異色間類似度ChN[i,j]とに対し、第3の実施形態の条件1と同様の条件が成り立つか否かを判定することによって、補間対象サブピクセルの近傍の画像が無彩色部であるか彩色部であるかを判定する。
そして、補間処理部17は、補間対象サブピクセルの近傍の画像が無彩色部である場合、縦方向の異色間類似度CvN[i,j]と横方向の異色間類似度ChN[i,j]とに基づき、縦横類似性を判定して指標HV[i,j]に値を設定し、補間対象サブピクセルの近傍の画像が彩色部である場合、縦方向の同色間類似度CvD[i,j]と横方向の同色間類似度ChD[i,j]とに基づき、縦横類似性を判定して指標HV[i,j]に値を設定する。なお、このような縦横類似性の判定や指標HV[i,j]の設定の処理は、第1の実施形態で縦横主要類似性の判定結果として指標HV[ip,j]に値を設定した処理と同様に行うものとする。
【0239】
すなわち、以上説明したようにして設定された指標HV[i,j]には、第3の実施形態の指標HV[ip,j]と同様に、無彩色部と彩色部との各々の部分に適した類似度に基づいて判定された縦横類似性が反映されることになる。
《第6の実施形態》
以下、第6の実施形態の動作を説明する。なお、第6の実施形態におけるRB補間処理は、第1の実施形態と同様にして行えるため、ここでは、説明を省略する。
【0240】
図26は、第6の実施形態における補間処理部17の動作フローチャートであり、G補間処理における補間処理部17の動作を示す。ただし、図26では、ベイア配列上の画素の左側に位置するサブピクセルを補間対象とした場合の例を示す。
以下、第6の実施形態におけるG補間処理について説明するが、第5の実施形態と同じ動作については、詳細な説明を省略する。
【0241】
まず、補間処理部17は、第5の実施形態と同様に、補間対象サブピクセルにおける縦方向および横方向の類似度を算出して(図26S1)、縦横主要類似性を比較し(図26S2)、指標HV[i,j]に値を設定する(図26S3〜S5)。
次に、補間処理部17は、補間対象サブピクセルにおける斜め45度方向および斜め135度方向の類似度を算出する(図26S6)。
【0242】
ここで、座標[i,j]に位置する補間対象サブピクセルにおける斜め45度方向の類似度C45[i,j]および斜め135度方向の類似度C135[i,j]を算出する処理の詳細を説明する。
補間処理部17は、補間処理部17は、式171〜式178によって定義される斜め45度方向および斜め135度方向に対する複数種類の類似度成分を算出する。
【0243】
斜め45度方向のGG間類似度成分:
C45_1[i,j]=(|G[i-2,j]-G[i,j-1]|+|G[i-1,j]-G[i+1,j-1]|
+|G[i,j+11-G[i+2,j]|+|G[i+1,j+1]-G[i+3,j]|)/4 ・・・式171
斜め135度方向のGG間類似度成分:
C135_1[i,j]=(|G[i-2,j]-G[i,j+1]|+|G[i-1,j]-G[i+1,j+1]|
+|G[i,j-1]-G[i+2,j]|+|G[i+1,j-1]-G[i+3,j]|)/4 ・・・式172
斜め45度方向のBB(RR)間類似度成分:
C45_2[i,j]=(|Z[i-2,j+1]-Z[i+2,j-1]|
+|Z[i-1,j+1]-Z[i+3,j-1]|)/2 ・・・式173
斜め135度方向のBB(RR)間類似度成分:
C135_2[i,j]=(|Z[i-2,j-1]-Z[i+2,j+1]|
+|Z[i-1,j-1]-Z[i+3,j+1]|)/2 ・・・式174
斜め45度方向のRR(BB)間類似度成分:
C45_3[i,j]=(|Z[i-4,j+2]-Z[i,j]|+|Z[i-3,j+2]-Z[i+1,j]|
+|Z[i+4,j-2]-Z[i,j]|+|Z[i+5,j-2]-Z[i+1,j]|)/4 ・・・式175
斜め135度方向のRR(BB)間類似度成分:
C135_3[i,j]=(|Z[i-4,j-2]-Z[i,j]|+|Z[i-3,j-2]-Z[i+1,j]|
+|Z[i+4,j+2]-Z[i,j]|+|Z[i+5,j+2]-Z[i+1,j]|)/4 ・・・式176
斜め45度方向のBR(RB)間類似度成分:
C45_4[i,j]=(|Z[i-2,j+1]-Z[i,j]|+|Z[i-1,j+1]-Z[i+1,j]|
+|Z[i+2,j-1]-Z[i,j]|+|Z[i+3,j-1]-Z[i+1,j]|)/4 ・・・式177
斜め135度方向のBR(RB)間類似度成分:
C135_4[i,j]=(|Z[i-2,j-1]-Z[i,j]|+|Z[i-1,j-1]-Z[i+1,j]|
+|Z[i+2,j+1]-Z[i,j]|+|Z[i+3,j+1]-Z[i+1,j]|)/4 ・・・式178
なお、上述した各々の類似度成分を構成する類似度の要素は、差分の絶対値を用いて算出しているが、絶対値の2乗やべき乗等によって算出しても良い。
【0244】
次に、補間処理部17は、式179および式180に示すようにして、第2の実施形態と同様の役割を果たす加重係数b1,b2,b3,b4によって、複数種類の類似度成分を各々の方向毎に加重加算する。
C45_0[i,j]=(b1・C45_1[i,j]+b2・C45_2[i,j]+b3・C45_3[i,j]
+b4・C45_4[i,j])/(b1+b2+b3+b4) ・・・式179
C135_0[i,j]=(b1・C135_1[i,j]+b2・C135_2[ip,j]+b3・C135_3[i,j]
+b4・C135_4[i,j])/(b1+b2+b3+b4) ・・・式180
このようにして算出されるC45_0[i,j]およびC135_0[i,j]は、そのまま、補間対象サブピクセルの斜め方向の類似度C45[i,j]、C135[i,j]とすることができるが、ここでは、周辺加算によって、これらの類似度を算出する例を示す。
【0245】
すなわち、補間処理部17は、補間対象サブピクセルと、周辺サブピクセルとにおける類似度成分の方向別の加重加算よって得られる値(C45_0[i,j]、C45_0[i+1,j]、C45_0[i-1,j-1]、C45_0[i-1,j+1]、C45_0[i+2,j-1]、C45_0[i+2,j+1]など)を、以下の《周辺加算方法1》または《周辺加算方法2》のように加重加算して、補間対象サブピクセルの斜め方向の類似度C45[i,j]、C135[i,j]を算出する。
【0246】
《周辺加算方法1》
C45[i,j]=(2・(C45_0[i,j]+C45_0[i+1,j])+C45_0[i-1,j-1]+C45_0[i-1,j+1]
+C45_0[i+2,j-1]+C45_0[i+2,j+1])/8 ・・・式181
C135[i,j]=(2・(C135_0[i,j]+C135_0[i+1,j])+C135_0[i-1,j-1]
+C135_0[i-1,j+1]+C135_0[i+2,j-1]+C135_0[i+2,j+1])/8 ・・・式182
《周辺加算方法2》
C45[i,j]=(2・(C45_0[i,j]+C45_0[i+1,j])
+2・(C45_0[i-1,j-1]+C45_0[i-1,j+1]+C45_0[i+2,j-1]+C45_0[i+2,j+1])
+(C45_0[i,j-2]+C45_0[i+1,j-2])/2
+(C45_0[i,j+2]+C45_0[i+1,j+2])/2
+C45_0[i-3,j]+C45_0[i+4,j])/16 ・・・式183
C135[i,j]=(2・(C135_0[i,j]+C135_0[i+1,j])
+2・(C135_0[i-1,j-1]+C135_0[i-1,j+1]+C135_0[i+2,j-1]+C135_0[i+2,j+1]
+(C135_0[i,j-2]+C135_0[i+1,j-2])/2
+(C135_0[i,j+2]+C135_0[i+1,j+2])/2
+C135_0[i-3,j]+C135_0[i+4,j])/16 ・・・式184
なお、座標[i,j]に位置するサブピクセルの類似度を算出する際に用いる色情報の位置と、座標[i+1,j]に位置するサブピクセル(ベイア配列上の画素の左側に位置するサブピクセル)の類似度を算出する際に用いる色情報の位置とが、図26(2)のサブピクセル型ベイア配列のi列目のサブピクセルとi+1列目のサブピクセルとの間を通る直線について、左右対称であるすると、座標[i+1,j]に位置するサブピクセルの斜め45度方向の類似度C45[i+1,j]および斜め135度方向の類似度C135[i+1,j]は、式171〜式184に記載のi-3〜i+4を、以下のように置き換えることによって算出できる。
【0247】
i-3→i+4,i-2→i+3,i-1→i+2,i→i+1,i+1→i,i+2→i-1,i+3→i-2,i+4→i-3。
補間処理部17は、以上説明したようにして斜め方向の類似度を算出すると、その類似度に基づき、補間対象サブピクセルにおける斜め方向に対する類似性(以下、「斜め類似性」と称する。)を判定する(図26S7)。そして、補間処理部17は、第2の実施形態で斜め主要類似性の判定結果として指標DN[ip,j]に値を設定した処理と同様に、斜め類似性の判定結果として指標DN[i,j]に値を設定する(図26S8〜S10)。
【0248】
なお、座標[i+1,j]に位置するサブピクセルの斜め類似性を示す指標DN[i+1,j]の設定は、上述したようにして算出される斜め45度方向の類似度C45[i+1,j]および斜め135度方向の類似度C135[i+1,j]を用いることによって、指標DN[i,j]と同様に設定することができる。
次に、補間処理部17は、指標HV[i,j]および指標DN[i,j]が如何なる値であるかを判定し(図26S11)、第2の実施形態で補間対象画素の類似性の強さをcase1〜case9に分類した処理と同様に、補間対象サブピクセルの類似性の強さをcase1〜case9の何れかに分類する。
【0249】
そして、補間処理部17は、このような分類の結果に応じて、以下のようにして座標[i,j]に位置する補間対象サブピクセルの緑の補間値G[i,j]を算出する。
case1のとき:G[i,j]=Gv45L:図26S12
case2のとき:G[i,j]=GvL:図26S13
case3のとき:G[i,j]=Gv135L:図26S14
case4のとき:G[i,j]=(Gv45L+Gh45L)/2:図26S15
case5のとき:G[i,j]=(GvL+GhL)/2:図26S16
case6のとき:G[i,j]=(Gv135L+Gh135L)/2:図26S17
case7のとき:G[i,j]=Gh45L:図26S18
case8のとき:G[i,j]=GhL:図26S19
case9のとき:G[i,j]=Gh135L:図26S20
ただし、GvL,Gv45L,Gv135L,GhL,Gh45L,Gh135Lは、第2の実施形態の式77〜式82のようにして算出される値である。
【0250】
なお、座標[i+1,j]に位置する補間対象サブピクセルの緑の補間値G[i+1,j]は、上述したように設定される指標HV[i+1,j]および指標DN[i,j]が如何なる値であるかを判定し、補間対象サブピクセルの類似性の強さをcase1〜case9の何れかに分類することによって、以下のように算出することができる。
case1のとき:G[i+1,j]=Gv45R
case2のとき:G[i+1,j]=GvR
case3のとき:G[i+1,j]=Gv135R
case4のとき:G[i+1,j]=(Gv45R+Gh45R)/2
case5のとき:G[i+1,j]=(GvR+GhR)/2
case6のとき:G[i+1,j]=(Gv135R+Gh135R)/2
case7のとき:G[i+1,j]=Gh45R
case8のとき:G[i+1,j]=GhR
case9のとき:G[i+1,j]=Gh135R
ただし、GvR,Gv45R,Gv135R,GhR,Gh45R,Gh135Rは、第2の実施形態の式83〜式88のようにして算出される値である。
【0251】
以上説明したように、第6の実施形態では、補間対象サブピクセル毎に、類似度を算出し、その類似度に基づく類似性の判定結果に応じて補間値を算出することができる。
なお、斜め45度方向の類似度C45[i,j]、C45[i+1,j]および斜め135度方向の類似度C135[i,j]、C135[i+1,j]は、式185および式186によって算出しても良い。
【0252】
C45[i,j]=C45[i+1,j]=
((|R[i+4,j-2]-R[i,j]|-|R[i-4,j+2]-R[i,j]|)/2
+(|R[i+5,j-2]-R[i+1,j]|-|R[i-3,j+2]-R[i+1,j]|)/2)/2 ・・・式185
C135[i,j]=C135[i+1,j]=
((|R[i-4,j-2]-R[i,j]|-|R[i+4,j+2]-R[i,j]|)/2
+(|R[i-3,j-2]-R[i+1,j]|-|R[i+5,j+2]-R[i+1,j]|)/2)/2 ・・・式186
ところで、上述した第1の実施形態ないし第6の実施形態の補間処理は、3色で構成されるサブピクセル型ベイア配列に限らず、サブピクセル構造を持つ3色以上のフィルタ配列に適用することも可能である。
【0253】
《第7の実施形態》
以下、第7の実施形態の動作を説明する。
図27は、第7の実施形態の機能ブロック図である。
なお、第7の実施形態は、請求項59ないし請求項67に記載の補間処理プログラムを記録した記録媒体を用いて、パーソナルコンピュータによって補間処理を実行することに相当する。
【0254】
図27において、機能が図1に示す機能ブロック図と同じものについては、同じ符号を付与して示し、構成の説明については省略する。
なお、図27に示す電子カメラ20と図1に示した電子カメラ10との構成の相違点は、図27の制御部21と画像処理部22とが図1の制御部11と画像処理部15とに代えて設けられ、図27のインタフェース部23が新たに設けられた点である。
【0255】
また、図27において、パーソナルコンピュータ30は、CPU31、インタフェース部32、ハードディスク33およびメモリ34を有し、CPU31は、バスを介してインタフェース部32、ハードディスク33およびメモリ34に接続される。
なお、パーソナルコンピュータ30には、CD−ROMなどの記録媒体に記録された補間処理プログラム(前述した各実施形態の補間処理部17と同様にして補間処理を実行する補間処理プログラム)が予めインストールされているものとする。すなわち、ハードディスク33には、このような補間処理プログラムが実行可能な状態で格納されている。
【0256】
以下、図27を参照して第7の実施形態の動作を説明する。
まず、電子カメラ20では、図1に示した電子カメラ10と同様にして生成された画像データが画像処理部22に供給される。画像処理部22は、画像データに補間処理以外の画像処理(例えば、階調変換処理など)を施し、記録部16では、画像処理が施された画像データが画像ファイルの形式で記録される。
【0257】
このような画像ファイルは、インタフェース部23を介してパーソナルコンピュータ30に供給される。
パーソナルコンピュータ30内のCPU31は、インタフェース部32を介して画像ファイルを取得すると、前述した補間処理プログラムを実行する。補間処理により各色成分の解像度が高められた画像データは、必要に応じて画像圧縮等を行ってから、ハードディスク33などに記録され、最終的に、ディスプレイ、プリンタなどの各接続機器に応じた表色系データとして出力される。
【0258】
すなわち、第7の実施形態では、前述した各実施形態と同様の補間処理をパーソナルコンピュータ30によって行うことができる。
【0259】
【発明の効果】
上述したように第1、第27の発明では、画素ピッチでの大まかな類似性の強弱の判定を正確に行うことが可能であり、第2、第3および第5の発明では、画素ピッチでの大まかな類似性の強弱の判定とサブピクセルピッチでの細かな類似性の強弱の判定とが可能である。また、第4ないし第6、第28の発明では、補間対象サブピクセルについて対象な距離に位置する色情報だけでなく、非対称な距離に位置する色情報を用いて類似性の強弱を判定する。さらに、類似度に基づき類似性の強弱を判定すれば、類似性の強弱を的確に判定することができ、補間対象サブピクセルの補間値を精度良く算出することができる。
【0260】
第7の発明では、主要類似性判定手段による判定の結果として類似性の強い方向が不明であると判断された場合にのみ、微細部類似性判定手段によって類似性の強弱を判定しても、類似性の強弱の判定の精度が低下することがなく、その上、主要類似性判定手段と微細部類似性判定手段とによる類似性の強弱の判定を全てのサブピクセルに対して行う場合と比べて、類似性の強弱を速やかに判定することができ、補間対象サブピクセルの補間値を速やかに算出することができる。
【0261】
第8ないし第10の発明では、複数の色成分の色情報を用いて、類似性の強弱を判定するため、色調が変化する画像(異なる色成分間で色情報の比率が変化する画像)であっても、類似性を的確に判定することができる。また、これらの発明では、複数の色成分の色情報として、補間対象サブピクセルの色情報やその近傍に存在する色情報を用い、類似性の強弱を判定することが可能であるため、空間周波数が高い画像であっても、類似性を的確に判定することができる。したがって、これらの発明によれば、補間処理を行うべき画像に「色調が変化する部分」や「空間周波数が高い部分」が混在する場合であっても、画像全体の調和を保ちつつ、精度良く補間処理を行うことができる。
【0262】
第11、第23の発明は、補間対象サブピクセルが属する局所的な領域における画像の特徴に応じて、異色間類似度と同色間類似度とを使い分けたり、異色間類似度と同色間類似度とを加重加算する際の加重比率を変えるため、類似性の強弱の判定に適した類似度を算出することができると共に、複数の色情報を用いて異色間類似度および同色間類似度の算出することによって、類似度の算出精度を上げることができる。したがって、補間量を高い精度で算出することができる。
【0263】
第12、第24の発明では、異色間類似度を同色間類似度よりも短い距離間隔で存在する色情報を用いて算出するので、異色間類似度に空間周波数が高い画像の類似性が反映される。すなわち、異色間類似度を用いて類似性の強弱を判定する際や、色彩に関する情報として異色間類似度を用いて補間対象サブピクセルが属する局所的な領域における画像の特徴を抽出する際に、高周波部分の解像能力が効果的に引き出すことができる。そのため、類似性の強弱の判定精度を上げることができ、補間量の精度が高められる。
【0264】
第13の発明は、異色間類似度および同色間類似度の算出に多くの色成分を用いた類似度成分を生成することにより、類似度を高い精度で算出することができ、補間量の精度が高められる。
第14の発明は、色彩に関する情報を用いることによって、補間対象サブピクセルが属する局所的な領域における画像の特徴を抽出するので、異色間類似度と同色間類似度との使い分けや、異色間類似度と同色間類似度との加重比率の設定に際し、適切な指標に基づいて画像の特徴抽出が行える。そのため、類似性の強弱の判定に適した類似度を算出することができ、補間量の精度が高められる。
【0265】
第15、第16の発明は、補間対象サブピクセルが属する局所的な領域における画像の特徴を抽出する際、色彩に関する情報として異色間類似度を用いるので、類似性の強弱の判定のために異色間類似度を算出してしまえば、色彩に関する情報を改めて求める必要がない。すなわち、補間処理全体を効率良く行うことができる。
【0266】
第17、第25の発明では、補間対象サブピクセルと周辺のサブピクセルとの間で、類似性が強い方向の連続性を考慮しつつ、補間対象サブピクセルの類似度を算出することができ、第18、第26の発明では、ノイズなどによって発生する類似性の誤判定を低減することができる。すなわち、これらの発明では、類似性の強弱の判定精度を上げることができるので、補間量の精度が高められる。
【0267】
第19の発明では、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度に、特定の1種類の色成分の色情報や複数種類の色成分の色情報を反映させることができ、第20の発明では、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度に、複数種類の色成分の色情報を反映させることができる。また、第21の発明では、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度に、複数種類の色成分の色情報を的確に反映させることができ、第22の発明では、各々の類似度成分に対する最短距離の相違に影響されることなく、適切な類似度を算出することができる。したがって、これらの発明によれば、補間対象サブピクセルを含む局所領域の画像の特徴を反映しつつ、類似性の強弱を判定することができるため、画像全体の調和を崩すことなく補間値を算出することができる。
【図面の簡単な説明】
【図1】第1の実施形態ないし第6の実施形態に対応する電子カメラの機能ブロック図である。
【図2】第1の実施形態における補間処理部の動作フローチャート(1)である。
【図3】第1の実施形態における補間処理部の動作フローチャート(2)である。
【図4】周辺加算方法を説明する図である。
【図5】微細類似度成分を算出する際に用いる色情報の位置を示す図である。
【図6】色差補間で用いる色情報の位置を示す図である。
【図7】色差の線形補間を説明する図である。
【図8】色差を中央値で補間する処理を説明する図である。
【図9】 median処理の範囲を説明する図である。
【図10】倍率色収差の影響を説明する図である。
【図11】倍率色収差による過補正を説明する図である。
【図12】第2の実施形態における補間処理部の動作フローチャートである。
【図13】第2の実施形態における補間処理部の動作フローチャート(続き)である。
【図14】 (HV[ip,j],DN[ip,j])の値に対応する類似性の強い方向を示す図である。
【図15】緑の補間値を算出する際に用いる色情報の位置を示す図(1)である。
【図16】緑の補間値を算出する際に用いる色情報の位置を示す図(2)である。
【図17】緑の補間値を算出する際に用いる色情報の位置を示す図(3)である。
【図18】倍率色収差の影響が解消される様子を説明する図である。
【図19】第3の実施形態における補間処理部の動作フローチャート(1)である。
【図20】第3の実施形態における補間処理部の動作フローチャート(2)である。
【図21】第3の実施形態における補間処理部の動作フローチャート(3)である。
【図22】類似度と類似性の強弱の関係を示す図である。
【図23】輝度を生成するためのフィルタを示す図である。
【図24】サブピクセル型ベイア配列における周辺加算方法を説明する図である。
【図25】第5の実施形態における補間処理部の動作フローチャートである。
【図26】第6の実施形態における補間処理部の動作フローチャートである。
【図27】第7の実施形態における機能ブロック図である。
【図28】撮像素子における色成分の配列を示す図である。
【符号の説明】
10、20 電子カメラ
11、21 制御部
12 撮影光学系
13 撮像部
14 A/D変換部
15、22 画像処理部
16 記録部
17 補間処理部
23、32 インタフェース部
30 パーソナルコンピュータ
31 CPU
33 ハードディスク
34 メモリ
Claims (28)
- 2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める処理を行う補間処理装置において、
各々の画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を当該画素の色情報に相当する画素出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該画素出力色情報を用いて判定する主要類似性判定手段と、
前記主要類似性判定手段によって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手段と
を備えたことを特徴とする補間処理装置。 - 請求項1に記載の補間処理装置において、
サブピクセルから出力される色情報をサブピクセル出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該サブピクセル出力色情報を用いて判定する微細部類似性判定手段
を備え、
前記補間値算出手段は、
前記主要類似性判定手段と前記微細部類似性判定手段とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する
ことを特徴とする補間処理装置。 - 請求項2に記載の補間処理装置において、
前記主要類似性判定手段は、
補間対象サブピクセルが属する画素について対称な距離に位置する画素の画素出力色情報を用い、前記類似性の強弱を判定し、
前記微細部類似性判定手段は、
補間対象サブピクセルについて非対称な距離に位置するサブピクセルサブピクセル出力色情報を用い、前記類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める処理を行う補間処理装置において、
補間対象サブピクセルについて対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する主要類似性判定手段と、
補間対象サブピクセルについて非対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する微細部類似性判定手段と、
前記主要類似性判定手段と前記微細部類似性判定手段とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手段と
を備えたことを特徴とする補間処理装置。 - 請求項4に記載の補間処理装置において、
前記主要類似性判定手段は、
前記対象な距離に位置する色情報として、補間対象サブピクセルが属する画素について対象な距離に位置する画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を用い、
前記微細部類似性判定手段は、
前記非対称な距離に位置する色情報として、補間対象サブピクセルについて非対称な距離に位置するサブピクセルから出力される色情報を用いる
ことを特徴とする補間処理装置。 - 請求項4に記載の補間処理装置において、
前記主要類似性判定手段は、
前記対象な距離に位置する色情報として、補間対象サブピクセルについて対称な距離に位置するサブピクセルから出力される色情報を用い、
前記微細部類似性判定手段は、
前記非対称な距離に位置する色情報として、補間対象サブピクセルについて非対称な距離に位置するサブピクセルから出力される色情報を用いる
ことを特徴とする補間処理装置。 - 請求項2ないし請求項6の何れか1項に記載の補間処理装置において、
前記微細部類似性判定手段は、
前記主要類似性判定手段による判定の結果として類似性の強い方向が不明であると判断された場合に、類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 請求項1ないし請求項7の何れか1項に記載の補間処理装置において、前記画像データが複数の色成分から成る表色系で示される場合、
前記主要類似性判定手段は、
補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を、複数の色成分の色情報を用いて算出し、該類似度に基づき少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 請求項8に記載の補間処理装置において、前記画像データが、第1〜第3の色成分から成る表色系で示され、第1色成分が第2色成分および第3色成分に比べて空間周波数が高く、第1色成分が欠落するサブピクセルに第1色成分の色情報に相当する補間値を決める場合、
前記主要類似性判定手段は、
(1)前記第1色成分の色情報と前記第2色成分の色情報とを用いた類似度成分と、
(2)前記第1色成分の色情報と前記第3色成分の色情報とを用いた類似度成分と、
(3)前記第1色成分の色情報のみを用いた類似度成分と、
(4)前記第2色成分の色情報のみを用いた類似度成分と、
(5)前記第3色成分の色情報のみを用いた類似度成分と
の複数の類似度成分のうち、第1〜第3色成分の色情報が含まれる組み合わせを利用して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出する
ことを特徴とする補間処理装置。 - 請求項9に記載の補間処理装置において、
前記主要類似性判定手段は、
前記複数の類似度成分のうち、前記組み合わせに属する類似度成分を方向別に加重加算して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出する
ことを特徴とする補間処理装置。 - 請求項1ないし請求項7の何れか1項に記載の補間処理装置において、前記画像データが複数の色成分から成る表色系で示される場合、
前記主要類似性判定手段は、
補間対象サブピクセルの色情報とその近傍に存在する色情報とから選ばれる複数の色情報に基づき、
(1)異なる色成分の色情報を用いて算出される異色間類似度と、
(2)同じ色成分の色情報を用いて算出される同色間類似度と
の2種類の類似度を算出し、補間対象サブピクセルが属する局所的な領域における画像の特徴に応じて、どちらか一方の類似度に切り換える、もしくは、各類似度を加重加算するときの加重比率を切り換えることにより、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出し、該類似度に基づき少なくとも1方向に対する補間対象サブピクセルの類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 請求項11に記載の補間処理装置において、
前記主要類似性判定手段は、
前記異色間類似度を前記同色間類似度よりも短い距離間隔で存在する色情報を用いて算出する
ことを特徴とする補間処理装置。 - 請求項11または請求項12に記載の補間処理装置において、前記画像データが、第1〜第3の色成分から成る表色系で示され、第1色成分が第2色成分および第3色成分に比べて空間周波数が高く、第1色成分が欠落するサブピクセルに第1色成分の色情報に相当する補間値を決める場合、
前記主要類似性判定手段は、
前記異色間類似度として、
(1)前記第1色成分の色情報と前記第2色成分の色情報とから成る異色間類似度成分と、
(2)前記第1色成分の色情報と前記第3色成分の色情報とから成る異色間類似度成分と
の少なくとも一方を含む類似度を算出し、
前記同色間類似度として、
(1)前記第1色成分の色情報のみから成る同色間類似度成分と、
(2)前記第2色成分の色情報のみから成る同色間類似度成分と、
(3)前記第3色成分の色情報のみから成る同色間類似度成分と
の少なくとも1つを含む類似度を算出する
ことを特徴とする補間処理装置。 - 請求項11に記載の補間処理装置において、
前記主要類似性判定手段は、
補間対象サブピクセルが属する局所的な領域における画像の特徴として色彩に関する情報を用い、該色彩に関する情報を基準に、前記局所的な領域における画像が無彩色部であるか彩色部であるかを判別し、該局所的な領域における画像が無彩色部である場合には、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として前記異色間類似度を選択する、または、該異色間類似度と前記同色間類似度とを加重加算する際の該異色間類似度の加重比率を該同色間類似度の加重比率よりも大きくし、該局所的な領域における画像が彩色部である場合には、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として該同色間類似度を選択する、または、該異色間類似度と前記同色間類似度とを加重加算する際の該同色間類似度の加重比率を該異色間類似度の加重比率よりも大きくする
ことを特徴とする補間処理装置。 - 請求項14に記載の補間処置装置において、
前記主要類似性判定手段は、
前記色彩に関する情報として前記異色間類似度を用いる
ことを特徴とする補間処理装置。 - 請求項14または請求項15に記載の補間処理装置において、
前記主要類似性判定手段は、
前記異色間類似度が、少なくとも一方向に対して強い類似性を示す場合、前記局所的な領域における画像が無彩色部であると判断し、その他の場合、該局所的な領域における画像が彩色部であると判断する
ことを特徴とする補間処理装置。 - 請求項8ないし請求項16の何れか1項に記載の補間処理装置において、
前記主要類似性判定手段は、
補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として、補間対象サブピクセルのみならず補間対象サブピクセルの周辺のサブピクセルに対して算出した少なくとも2つの方向に対する類似度を用いる
ことを特徴とする補間処理装置。 - 請求項8または請求項11に記載の補間処理装置において、
前記主要類似性判定手段は、
各方向間の類似度の差異が所定の閾値よりも小さい場合、各方向の類似性が同程度であると判定する
ことを特徴とする補間処理装置。 - 請求項2ないし請求項7の何れか1項に記載の補間処理装置において、
前記微細部類似性判定手段は、
補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を、1種類以上の色成分の色情報を用いて算出して、該類似度に基づき少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 請求項19に記載の補間処理装置において、1画素につき第1〜第n(n≧2)の色成分の何れか1つの色成分が対応付けられ、第1色成分よりも空間周波数が低い第2色成分が対応付けられた画素を構成するサブピクセルに第1色成分の補間値を補う場合、
前記微細部類似性判定手段は、
(1)第2色成分の色情報を出力するサブピクセルのうち、最短距離に位置するサブピクセル間の第2色成分の色情報の差異を示す類似度成分と、
(2)第1色成分の色情報を出力するサブピクセルのうち、最短距離に位置するサブピクセル間の第1色成分の色情報の差異を示す類似度成分と、
(3)第1色成分の色情報を出力するサブピクセルと第2色成分の色情報を出力するサブピクセルとのうち、最短距離に位置するサブピクセルの第1色成分と第2色成分との色情報の差異を示す類似度成分と
の少なくとも1つの類似度成分を用いて、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出する
ことを特徴とする補間処理装置。 - 請求項20に記載の補間処理装置において、
前記微細部類似性判定手段は、
前記各々の類似度成分を各方向について加重加算して、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出する
ことを特徴とする補間処理装置。 - 請求項20または請求項21に記載の補間処理装置において、
前記微細部類似性判定手段は、
補間対象サブピクセルにおける各方向に対する類似度を算出する際に、前記各々の類似度成分をサブピクセル間の距離に応じて規格化して用いる
ことを特徴とする補間処理装置。 - 請求項2ないし請求項7の何れか1項に記載の補間処理装置において、前記画像データが複数の色成分から成る表色系で示される場合、
前記微細部類似性判定手段は、
補間対象サブピクセルの色情報とその近傍に存在する色情報とから選ばれる複数の色情報に基づき、
(1)異なる色成分の色情報を用いて算出される異色間類似度と、
(2)同じ色成分の色情報を用いて算出される同色間類似度と
の2種類の類似度を算出し、補間対象サブピクセルが属する局所的な領域における画像の特徴に応じて、どちらか一方の類似度に切り換える、もしくは、各類似度を加重加算するときの加重比率を切り換えることにより、補間対象サブピクセルにおける少なくとも2つの方向に対する類似度を算出し、該類似度に基づき少なくとも1方向に対する補間対象サブピクセルの類似性の強弱を判定する
ことを特徴とする補間処理装置。 - 請求項23に記載の補間処理装置において、
前記微細部類似性判定手段は、
前記異色間類似度を前記同色間類似度よりも短い距離間隔で存在する色情報を用いて算出する
ことを特徴とする補間処理装置。 - 請求項19ないし請求項24の何れか1項に記載の補間処理装置において、
前記微細部類似性判定手段は、
補間対象サブピクセルにおける少なくとも2つの方向に対する類似度として、補間対象サブピクセルのみならず補間対象サブピクセルの周辺のサブピクセルに対して算出した少なくとも2つの方向に対する類似度を用いる
ことを特徴とする補間処理装置。 - 請求項19または請求項23に記載の補間処理装置において、
前記微細部類似性判定手段は、
各方向間の類似度の差異が所定の閾値よりも小さい場合、各方向の類似性が同程度であると判定する
ことを特徴とする補間処理装置。 - 2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める補間処理をコンピュータで実現するための補間処理プログラムを記録した記録媒体において、
各々の画素を構成する2つのサブピクセルから出力される色情報をひとまとめにした値を当該画素の色情報に相当する画素出力色情報とし、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を、該画素出力色情報を用いて判定する主要類似性判定手順と、
前記主要類似性判定手順によって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手順と
をコンピュータに実行させることを特徴とする補間処理プログラムを記録した記録媒体。 - 2次元配列された複数の画素の1画素につき1つの色成分が対応付けられ、各々の画素が2つのサブピクセルに分割されて成る撮像素子によって生成される画像データに対し、各々のサブピクセルに欠落する色成分の色情報に相当する補間値を決める補間処理をコンピュータで実現するための補間処理プログラムを記録した記録媒体において、
補間対象サブピクセルについて対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する主要類似性判定手順と、
補間対象サブピクセルについて非対称な距離に位置する色情報を用い、少なくとも2つの方向に対する補間対象サブピクセルの類似性の強弱を判定する微細部類似性判定手順と、
前記主要類似性判定手順と前記微細部類似性判定手順とによって判定された類似性の強弱に応じて、補間対象サブピクセルの補間値を算出する際に用いるサブピクセルの色情報を選択し、該色情報を用いて補間対象サブピクセルの補間値を算出する補間値算出手順と
をコンピュータに実行させることを特徴とする補間処理プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000276212A JP4415468B2 (ja) | 2000-01-20 | 2000-09-12 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000-11797 | 2000-01-20 | ||
JP2000011797 | 2000-01-20 | ||
JP2000276212A JP4415468B2 (ja) | 2000-01-20 | 2000-09-12 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2001275126A JP2001275126A (ja) | 2001-10-05 |
JP2001275126A5 JP2001275126A5 (ja) | 2007-09-13 |
JP4415468B2 true JP4415468B2 (ja) | 2010-02-17 |
Family
ID=26583850
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000276212A Expired - Lifetime JP4415468B2 (ja) | 2000-01-20 | 2000-09-12 | 補間処理装置および補間処理プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4415468B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE60235526D1 (de) * | 2001-01-25 | 2010-04-15 | Nikon Corp | Bildverarbeitungsverfahren, bildverarbeitungsprogramm und bildprozessor |
JP4329542B2 (ja) * | 2001-12-28 | 2009-09-09 | 株式会社ニコン | 画素の類似度判定を行う画像処理装置、および画像処理プログラム |
WO2003101119A1 (fr) * | 2002-05-24 | 2003-12-04 | Nikon Corporation | Procede de traitement d'images, programme de traitement d'images et processeur d'images |
JP5388534B2 (ja) * | 2008-10-09 | 2014-01-15 | キヤノン株式会社 | 画像処理装置およびその方法、頭部装着型ディスプレイ、プログラム、記録媒体 |
JP5672872B2 (ja) * | 2010-09-08 | 2015-02-18 | 株式会社リコー | 画像形成装置 |
JP2014027526A (ja) * | 2012-07-27 | 2014-02-06 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
-
2000
- 2000-09-12 JP JP2000276212A patent/JP4415468B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2001275126A (ja) | 2001-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4599672B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
JP3985679B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4395789B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JPH11122626A (ja) | 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体 | |
US7146042B2 (en) | Image processing apparatus and colorimetric system conversion method | |
KR20040066051A (ko) | 가중 그래디언트 기반 및 컬러 수정 보간 | |
JP4329542B2 (ja) | 画素の類似度判定を行う画像処理装置、および画像処理プログラム | |
JP4321064B2 (ja) | 画像処理装置および画像処理プログラム | |
JP5076186B2 (ja) | 画像拡大方法 | |
WO2022061879A1 (zh) | 图像处理方法、装置和***,计算机可读存储介质 | |
JP4415468B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
US20020047907A1 (en) | Image processing apparatus and storage medium for storing image processing program | |
JP4581191B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
JP6415094B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US20120287299A1 (en) | Image processing device, storage medium storing image processing program, and electronic camera | |
JP4032579B2 (ja) | 単板式固体撮像素子の色補間方法および単板式固体撮像素子の色補間処理プログラムを記録した記録媒体 | |
US20080316343A1 (en) | Method and Apparatus For Allowing Access to Individual Memory | |
JP4748278B2 (ja) | 補間処理装置および補間処理プログラムを記録した記録媒体 | |
JP2002152762A (ja) | 画像処理装置および画像処理プログラムを記録した記録媒体 | |
JP2004007167A (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP2002204460A (ja) | 画像処理装置および画像処理プログラムを記録した記録媒体 | |
CN100559888C (zh) | 应用于彩色数字影像的画素彩度抑制方法与装置 | |
JP2001169097A (ja) | 画像処理装置および画像処理方法 | |
JP2003348608A (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
WO2017125162A1 (en) | Method and device for demosaicing of color images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070801 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070810 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091015 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091104 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4415468 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091117 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151204 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151204 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |