JP2004072528A - 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 - Google Patents
補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 Download PDFInfo
- Publication number
- JP2004072528A JP2004072528A JP2002230491A JP2002230491A JP2004072528A JP 2004072528 A JP2004072528 A JP 2004072528A JP 2002230491 A JP2002230491 A JP 2002230491A JP 2002230491 A JP2002230491 A JP 2002230491A JP 2004072528 A JP2004072528 A JP 2004072528A
- Authority
- JP
- Japan
- Prior art keywords
- interpolation
- pixel
- pixels
- pixel data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims description 179
- 238000000034 method Methods 0.000 title abstract description 106
- 238000003672 processing method Methods 0.000 claims abstract description 37
- 238000000605 extraction Methods 0.000 claims description 15
- 238000009795 derivation Methods 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 abstract description 4
- 230000000875 corresponding effect Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 21
- 238000012937 correction Methods 0.000 description 20
- 238000000926 separation method Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 11
- 238000004042 decolorization Methods 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 4
- 238000013075 data extraction Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 206010047571 Visual impairment Diseases 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000009982 effect on human Effects 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Television Systems (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Processing (AREA)
Abstract
【課題】補間ミスの発生を極力抑えることができ、高品質な画像を合成することができる補間処理方法、補間処理プログラムおよびこれを記録した記録媒体を提供する、さらに、前記補間処理方法を用いて画像を処理する画像処理装置およびこれを備えた画像形成装置を提供すること。
【解決手段】補間画素を起点とする補間方向を複数種類定め(a4)、補間方向先の双方にそれぞれ位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を補間方向ごとに抽出する(a5)。抽出したブロック対ごとに、2つのブロック間の相関関係を求め(a6)、これに基づいて、少なくとも1つの補間方向を選択する(a7)。選択した補間方向に基づいて、前記補間画素の画素データを生成する(a8)。
【選択図】 図1
【解決手段】補間画素を起点とする補間方向を複数種類定め(a4)、補間方向先の双方にそれぞれ位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を補間方向ごとに抽出する(a5)。抽出したブロック対ごとに、2つのブロック間の相関関係を求め(a6)、これに基づいて、少なくとも1つの補間方向を選択する(a7)。選択した補間方向に基づいて、前記補間画素の画素データを生成する(a8)。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、画像を構成する複数の画素の画素データを用いて補間処理を行い、補間画素の画素データを生成する補間処理方法、補間処理プログラムおよびこれを記録した記録媒体に関し、さらに前記補間処理方法によって補間画素の画素データを生成する画像処理装置および前記画像処理装置を備える画像形成装置に関する。
【0002】
【従来の技術】
補間処理の対象となる画像には、静止画像と動画像とがある。このうち、動画像を出力するビデオテープレコーダや、ビデオ信号に基づいた画像を出力するビデオプリンタの一部には、インターレース走査方式が採用されている。
【0003】
インターレース走査方式とは、CRT(Cathode Ray Tube:陰極線管)の画像表示方式のひとつであり、人間の視覚特性上の残像効果を利用したものである。この方式によると、動画像は、2枚のフィールドで構成される1枚のフレームが連続することによって映し出される。フィールドとは、飛び越し走査された水平走査線上に並ぶ画素によって構成される画像である。飛び越し走査とは、フィールドの奇数番目の走査線上、あるいは、偶数番目の走査線上のいずれかのみの走査を行うことをいい、1回目の走査によって生じた走査線間の隙間は、2回目の走査によって埋められる。この時間的にずれのある2回の走査によって構成される2枚のフィールドが、視覚特性上の残像効果によって、人間には1枚の画像として認識されるのである。
【0004】
このようなインターレース走査方式による動画像(以下、「インターレース画像」という。)をCRT(陰極線管)などの表示装置に表示させる場合、1度に伝送する画素データの量は1フレームの半分の情報量であるので、スムーズな伝送を行うことができる。
【0005】
インターレース画像を、表示装置に連続的に表示させる場合には特に問題はない。しかしながら、インターレース画像を一時停止させる場合のように、静止画像を表示する場合には問題が生じる。問題とは、2回に分けて伝送される2枚のフィールドを単純に合成して静止画像とすると、たとえば、画像中に表示される被写体が完全に静止していない場合には、フィールド間の時間上のずれによって、画像の連続性が損なわれ、合成された1枚の合成画像にずれが生じることである。この結果、表示される合成画像の品質が低下する。
【0006】
また、表示装置に連続的に表示させる場合であっても、液晶テレビなどノンインターレース走査方式を採用する表示装置にインターレース画像を表示させる場合には、上述と同様の問題が生じる。なお、ノンインターレース走査方式とは、別名、順次走査方式と呼ばれ、走査線を飛び越さずに走査し、表示する方式である。
【0007】
そこで、フィールド間の時間上のずれによって生じる画像の不連続性を排除するため、1枚のフィールドのみを用い、フィールド中の走査線間に補間画素の画素データを生成することが考えられる。これによって、画像の不連続性といった画像の劣化を防止することができ、高品質な1枚の画像を合成することができる。
【0008】
以下、水平走査線間に補間画素の画素データを生成する補間技術について、図8〜図16を参照して説明する。
【0009】
図8は、インターレース画像を構成する1枚のフィールドを表す図である。図には、水平走査線上に並ぶ画素の画素データに基づいて表示されたひし形の画像Vが示されている。図9は、図8において〇印で示した部分Rの拡大図である。図10〜図12は、従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。なお、以下の説明において、B(0)は補間画素とともに、補間画素の画素データを表し、A(n)およびC(n)は、補間画素B(0)の画素データを生成する際に参照される画素を表すとともに、その画素の画素データを表すものとする。なお、画素A(n),C(n)は、補間画素B(0)に対して補間走査線に隣接する上下の水平走査線上に並ぶ画素である。ここで、nは補間画素B(0)を基準とした場合の、水平走査線方向の画素の配列位置番号を表している。
【0010】
従来の補間技術の第1番目としては、図10に示すように、補間走査線の上に位置する水平走査線上に並ぶ画素の画素データを、そのまま用いる方法である。すなわち、フィールドの奇数番目の走査線1、走査線3、走査線5、…に並ぶ画素の画素データの1つをそのまま補間走査線である偶数番目の走査線2、走査線4、…に並ぶ画素の画素データとする補間処理方法である。なお、補間走査線が奇数番目の走査線である場合には、偶数番目の走査線上に並ぶ画素の画素データを用いて補間処理を行い、補間画素の画素データを生成してもよい。この方法では、
B(0)=A(0)
として補間処理を行う。この方法によると、画像の垂直方向の解像度が2分の1となり、斜線などをうまく補間することができず、生成された補間画素の画素データを基に、ギザギザが極めて目立つ、低品質の画像が合成されてしまう。
【0011】
第2番目の補間技術としては、図11に示すように、補間走査線の上下に位置する2つの走査線上に並ぶ画素の画素データの平均値を算出する方法である。この方法では、
B(0)=(A(0)+C(0))/2
として補間処理を行う。この方法によると、補間処理後において画像に生じるギザギザは若干目立たなくなるが、画像のエッジが劣化することによって、画像がぼけてしまう。
【0012】
さらに、第3番目の補間技術としては、図12に示すように、画像のエッジの方向に注目し、画素間の連続性を示す相関関係を求め、求めた相関関係に基づいて補間処理を行う方法である。具体的には、補間画素に対する上下方向だけでなく、右上から左下方向、および左上から右下方向の全部で3つの方向に位置する画素対の画素データを用いて、これらの画素対の画素データの差分絶対値を計算することによって相関関係を求める。画素対の画素データの差分絶対値が小さければ、画像の連続性は高く、滑らかであるといえる。したがって、相関関係が大きい部分に位置する画素の画素データから、補間画素の画素データを生成すると、滑らかな画像を得ることができるので、差分絶対値が最小となる方向に位置する画素対を抽出し、これらの画素データの平均値を求め、求めた平均値を補間画素の画素データとして生成する。この方法では、
B(0)=(A(−1)+C(1))/2
B(0)=(A(0)+C(0))/2
B(0)=(A(1)+C(−1))/2
をそれぞれ算出し、算出した3つの画素データB(0)のうち、最小値を補間画素の画素データとして生成する。
【0013】
このように、第3番目の補間技術によって補間処理すると、滑らかな画像を合成することができる。
【0014】
しかしながら、第3番目の補間技術によっても、すべてのインターレース画像について高品質な画像が合成できるとは限らない。これは、画像には水平に限りなく近い傾斜エッジが存在する場合があり、このような傾斜エッジの検出は、前記の3方向における相関関係を求めるのみでは不十分だからである。
【0015】
そこで、前述の第3番目の補間技術のように3方向だけでなく、たとえば、5つあるいは7つの方向における画素の相関関係を求めて補間処理を行う補間技術も提案されている。図13は5方向において相関関係を検出する補間技術を説明するための図であり、図14は7方向において相関関係を検出する補間技術を説明するための図である。このように、補間処理を行うために相関関係を求める方向を増やすことで、画素間に相関関係がある方向を正確に決定することができる。
【0016】
しかしながら、これらの補間技術にも問題がある。それは、本来は関連性が低い画素間であるにもかかわらず、関連性が高いと判断されてしまう場合があることである。たとえば、図14に示す画素A(−3),C(3)、あるいは、画素A(3),C(−3)のように、補間画素B(0)から遠い画素間における画素データは、補間画素の画素データとのデータ的な関連性は低い場合が多い。しかしながら、画素A(−3),C(3)、あるいは、画素A(3),C(−3)の画素データがたまたま一致するような場合は、この画素間の相関関係が大きいと判断されてしまう。そして、補間画素の画素データは、画素A(−3),C(3)の画素データに基づいて生成される。このような場合は、補間画素B(0)の画素データは、隣接する画素の画素データとは不連続で全く異なる値が設定されてしまうこととなり、極めて目立つノイズとなってしまう。
【0017】
そこで、このように補間処理がうまくいかず、妥当な画素データの生成が行われない「補間ミス」を低減すべく、改良された技術として、特開平5−153562号公報には、以下のような補間技術が提案されている。
【0018】
当該技術において参照される画素は、図14に示すように7方向に位置する14個の画素である。この7方向の中から、補間画素の画素データを生成することとなる補間方向を所定の方法で決定している。
【0019】
まず、図14に示す画素A(−1),C(1)、画素A(0),C(0)、画素A(1),C(−1)が含まれる領域を第1の領域とし、当該領域における3方向について相関性(相関関係)を判断する。そして、この第1の領域における斜め方向、すなわち、画素A(−1)と画素C(1)とを結ぶ方向、あるいは、画素A(1)と画素C(−1)とを結ぶ方向に相関関係があるか否かを判断し、相関関係がある場合には、画素A(0)と画素C(0)とを結ぶ方向に対してさらに浅い角度を成す方向についても相関関係を判断する。浅い角度を成す方向とは、画素A(1)と画素C(−1)、画素A(2)と画素C(−2)および画素A(3)と画素C(−3)、あるいは、画素A(−1)と画素C(1)、画素A(−2)と画素C(2)および画素A(−3)と画素C(3)とを結ぶ方向である。すなわち、最初の段階で画素A(1)と画素C(−1)に相関関係があると判断されたならば、画素A(1),C(−1)、画素A(2),C(−2)、画素A(3),C(−3)を含む領域を第2の領域として、各画素間の相関関係を判断する。他方、画素A(−1)と画素C(1)に相関関係があると判断されたならば、画素A(−1),C(1)、画素A(−2),C(2)、画素A(−3),C(3)を含む領域を第3の領域として、各画素間の相関関係を判断し、最も相関関係が大きいものを補間方向として決定し、決定した補間方向に基づいて補間画素の画素データを生成している。
【0020】
他の補間技術として、特開2000−4449号公報に開示の補間技術がある。当該技術において参照される画素は、図13に示すように5方向に位置する10個の画素である。この5方向の中から、補間画素の画素データを生成することとなる補間方向を所定の方法で決定している。図13に示すように、一方のフィールドの画素間の相関関係をA番目の水平走査線上に並ぶ各画素の画素データA(−2)〜A(2)とC番目の水平走査線上に並び、A番目の前述の画素に対応する画素の画素データC(−2)〜C(2)との差に基づき、各方向の相関関係を評価し、5方向のうち、相関評価指数の値が最も小さい方向を補間軸として定めている。なお、高域成分が最も多く含まれている画素成分に基づいて上下の水平走査線上に並ぶ所定画素の相関関係を評価して、補間軸を決定する技術、均等色空間の座標値に基づいて上下の水平走査線上に並ぶ所定画素の相関関係を評価して補間軸を決定する方法についても示されている。
【0021】
【発明が解決しようとする課題】
前述の補間技術によれば、いずれの技術を用いても補間処理が必ずしも正確に行われない場合があり、結果として、生成された補間画素の画素データから成る画像には、本来滑らかな輪郭線であるべき部分に凹凸が発生したり、ノイズが目についたりする補間ミスが発生するといった問題がある。このような補間ミスが発生するのは、画像のエッジが常に、デジタル化された画像中の画素に沿って存在しているわけではないからである。
【0022】
図15は、画像のエッジとなる部分がデジタル化された画像中の画素の配列方向に沿って存在しない例を示す図である。図のように、エッジを示す直線Lは、画素A(0)と画素A(1)との境界部分から画素C(−1)と画素C(0)との境界部分を横切って存在している。画素A(0),A(1),C(−1),C(0)の画素データはそれぞれ、5、5、6、3であり、画素A(3),C(−3)の画素データは、両者とも「X」であって、同じ値である。なお、「X」は、他の画素の画素データとの相関は低いものとする。このような画像は、印刷などと比べ、解像度があまり高くない画像、たとえば、インターレース走査方式を採用するNTSC(National Television Committee System)方式によるテレビの画像を、デジタル化した画像として取り扱う場合に十分生じ得る。
【0023】
図15に示す画像において、前述の第1〜第3番目の補間技術によって、補間画素B(0)の画素データを生成する場合、補間処理は正確に行われない。すなわち、画素A(0)と画素C(0)との差分絶対値は2であり、画素A(1)と画素C(−1)との差分絶対値は1であるのに対して、画素A(3)と画素C(−3)との差分絶対値は0であるため、差分絶対値が一番小さい画素A(3)と画素C(−3)との相関関係が一番大きいものと判定されるからである。結果的に、相関関係が必ずしも大きくない画素A(3)と画素C(−3)との画素データの平均値が補間画素B(0)の画素データとして生成されるため、補間画像の品質が低下する。
【0024】
また、前述の特開平5−153562号公報に開示の技術によっても、当該画像の補間処理は正確に行われない。第1の領域の判定によって斜め方向に相関関係があるとされると、第2の領域の判定がなされ、最終的に、画素A(3)と画素C(−3)を結ぶ方向が相関関係が大きいと判断されるので、同様の問題を有している。また、特開2000−4449号公報に開示の技術を用いても同様に補間ミスが生じる。
【0025】
さらに、前述とは逆の場合、すなわち、画素A(3),C(−3)の画素データを用いて補間処理を行うのが正しい場合でも、補間ミスは生じる。
【0026】
特開平5−153562号公報に開示の技術によると、次のような補間ミスが生じる。図16は、図15の画像を第1、第2および第3の領域に区切った図である。当該技術では、まず、図に示す画素A(0),C(0)、画素A(−1),C(1)、画素A(1),C(−1)とから成る第1の領域における3方向の相関関係が求められるが、画素A(−1),C(1)、画素A(1),C(−1)において、相関関係が大きいと判断されない場合、たとえば、画素A(−1)と画素C(1)との差分絶対値が1の場合には、画素A(1)と画素C(−1)との差分絶対値と同じ値であるため、相関関係を示す方向はいずれでもないと判定される。したがって、この場合、次の判定ステップとしての第2および第3の領域における相関関係は判定されないため、画素A(−3)と画素C(3)とを結ぶ方向、すなわち、浅い角度のエッジが検出されないことになる。したがって、画素A(−3)と画素C(3)とを結ぶ方向のように、相関関係が最も大きい方向があっても、補間画素データの生成には用いられない場合が生じるのである。
【0027】
また、別の問題として、前述の補間技術によると、1枚のフィールドのみを用いて1枚のフレームを合成しているため、補間が正しく行われても、所定の部分については画像が劣化してしまう場合がある。これは、フィールド間において、画像に時間的なずれがない部分についても補間処理を行うからである。すなわち、フィールド間で画素データの変動がほとんどなく、画像に動きの無いとされる部分は、他方のフィールドの画素の画素データをそのまま用いれば足りるところ、線形補間などの補間処理を行うために、画像がぼけてしまうからである。
【0028】
本発明の目的は、補間ミスの発生を極力抑えることができ、高品質な画像を合成することができる補間処理方法、補間処理プログラムおよびこれを記録した記録媒体を提供することであり、さらに、前記補間処理方法を用いて画像を処理する画像処理装置およびこれを備えた画像形成装置を提供することである。
【0029】
【課題を解決するための手段】
本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに当該補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0030】
また本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理部を備える画像処理装置において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定める補間方向設定手段と、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記複数種類の補間方向ごとに抽出する抽出手段と、
前記抽出手段によって抽出されたブロック対ごとに、2つのブロック間の相関関係を求める相関関係導出手段と、
前記相関関係導出手段によって求められた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択する選択手段と、
前記選択手段によって選択された補間方向に関して前記補間画素を起点としたときに前記補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成する画素データ生成手段とを含むことを特徴とする画像処理装置である。
【0031】
本発明に従えば、補間画素を起点として双方向に向いた複数種類の補間方向が定められる。これらの補間方向先に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックがブロック対として複数組抽出され、ブロック対ごとにブロック間の相関関係が求められる。この相関関係に基づいて、複数種類の補間方向の中から少なくとも1つの補間方向が選択される。そして、選択された補間方向に関し、補間画素を起点としたときに、補間方向先の双方にそれぞれ位置する画素が選択される。選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0032】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0033】
また本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
同じ数の画素から成る2つのブロックであって、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を複数組抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数組のブロック対の中から少なくとも1つのブロック対を選択し、選択したブロック対の2つのブロック間の相関方向を求め、求めた相関方向を補間方向として定め、
定めた補間方向に関して前記補間画素を起点としたときに当該補間方向先に位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0034】
本発明に従えば、補間画素を対称点として互いに点対称の位置関係にある2つのブロックが、1つのブロック対として複数組抽出され、複数組のブロック対ごとにブロック間の相関関係が求められる。この相関関係に基づいて、複数組のブロック対の中から、少なくとも1つのブロック対が選択され、選択されたブロック対の2つのブロック間の相関関係に基づいて、複数組のブロック対の中から少なくとも1つのブロック対が選択される。選択されたブロック対の2つのブロック間の相関方向が求められ、この相関方向は補間方向として定められる。そして、定められた補間方向に関し、補間画素を起点としたときに、補間方向先に位置する画素が選択され、選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0035】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0036】
また本発明は、インターレース走査によって得られた1フィールドの画像に対して当該フィールドの水平走査線間に設定される補間走査線上に設定された補間画素の画素データを、前記水平走査線上に並ぶ複数の画素の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
前記補間画素が設定されている補間走査線を挟む2つの水平走査線上にそれぞれ並ぶ同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに前記選択した補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0037】
本発明に従えば、まず、フィールドの水平走査線間に設定される補間走査線上に並ぶ補間画素を起点として双方向に向いた複数種類の補間方向が定められる。補間走査線を挟む2つの水平走査線上に並ぶ2つのブロックであって、定められた補間方向先に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対が複数組抽出される。抽出されたブロック対ごとにブロック間の相関関係が求められ、求められた相関関係に基づいて、少なくとも1つの方向が補間方向として選択される。そして、選択された補間方向に関し補間画素が起点とされたときに、補間方向先に位置する画素が選択され、この選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0038】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0039】
また本発明は、前記2つのブロック間の相関関係は、
前記2つのブロックの画素の中から、前記補間画素を対称点として互いに点対称の位置関係にある画素対のうち、少なくとも1組の画素対を基準画素対として定め、前記基準画素対以外の画素を補助画素とし、
前記基準画素対の画素データの差分絶対値を算出するとともに、2つのブロック間で相互に対応関係にある補助画素間の画素データの差分絶対値を算出し、
算出した各差分絶対値に基づいて求めることを特徴とする。
【0040】
本発明に従えば、2つのブロック間の相関関係は、補間画素を対称点として互いに点対称の位置関係にある基準画素対の画素データの差分絶対値と、基準画素以外の補助画素間の画素データの差分絶対値を算出する。
【0041】
このように、基準画素間の相関関係を基準とし、さらに、補助画素間の相関関係を求めるので、1の画素間で相関関係を求める場合と比べると、ブロック間の相関関係の信頼性を、複数の補助画素間の相関関係によって高めることができる。
【0042】
また本発明は、補助画素間の画素データの差分絶対値を算出するときは、補助画素間を結んで成る線分が、前記基準画素間を結んで成る線分とほぼ平行となるような補助画素間について画素データの差分絶対値を算出することを特徴とする。
【0043】
本発明に従えば、基準画素間を結んで成る線分が、補助画素間を結んで成る線分にほぼ平行となるような補助画素間の画素データの差分絶対値を算出する。このように、補助画素間を結ぶ線分が基準画素を結ぶ線分とほぼ平行となるような補助画素を選んで相関関係を求めるので、基準画素間の相関関係に対応した相関関係を求めることができる。
【0044】
また本発明は、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択するときは、前記複数種類の補間方向を近似する方向ごとにグループ分けし、各グループの中でその補間方向先の双方に位置する画素間の相関関係が最も大きい補間方向を抽出し、各グループから抽出された補間方向の相関関係を比較して補間方向を選択することを特徴とする。
【0045】
本発明に従えば、少なくとも1つの補間方向が選択されるときは、複数の補間方向が近似する方向ごとにグループ分けされ、各グループの中でその補間方向先の双方に位置する画素間の相関関係が最も大きい補間方向が抽出される。各グループから抽出された補間方向の相関関係が比較されて、補間方向が選択される。
【0046】
このように、補間方向の選択には、近似する方向ごとにグループ分けされた各グループから1つの補間方向を抽出し、抽出した補間方向を比較し、抽出した補間方向の関係によって、1つの補間方向を選択するので、複数の補間方向の中から相関関係が一番大きいものを単純に選択する場合に比べて、相関方向に基づいた正確な補間方向を選択することができる。
【0047】
また本発明は、補間処理対象のフィールドとこのフィールドと1フレームを構成する対応フィールドとの間の相関関係を求め、求めた相関関係が予め定める関係である場合は、前記補間方向の選択を行わずに、前記対応フィールドにおける前記補間画素に対応する画素の画素データを補間画素の画素データとして生成することを特徴とする。
【0048】
本発明に従えば、まず、補間処理対象のフィールドと、このフィールドと1フレームを構成する対応フィールドとの間の相関関係が求められる。求めたフィールド間の相関関係が予め定める関係となる場合には、補間方向の選択は行われない。この場合、対応フィールドにおける補間画素に対応する画素の画素データが補間画素の画素データとして生成される。
【0049】
このように、フィールド間の相関関係が大きく、予め定める関係となる場合、たとえば、フィールド間に画像の動きがない場合には、無理に補間処理を行わなくとも、対応フィールドの画素データをそのまま用いることで、もとの画像により近い画像を再現することができるので、画像の劣化を防止することができる。
【0050】
また本発明は、前記補間画素の画素データを生成した後、前記補間画素の画素データと前記補間画素の周囲に位置する所定の複数画素の画素データとを比較して、生成した前記補間画素の画素データに誤りが生じているか否かを判定し、誤りが生じている場合には、所定の画素の画素データを用いて新たな画素データを生成し、生成した新たな画素データを前記補間画素の画素データとして置き換えることを特徴とする。
【0051】
本発明に従えば、補間画素の画素データを生成した後に、当該画素データの値の妥当性を検証すべく、補間画素の画素データと補間画素の周囲に位置する所定の複数画素の画素データとが比較され、生成した補間画素の画素データに誤りが生じているか否かが判定される。画素データの誤りとは、たとえば、生成した画素データが孤立点状態となっている場合が挙げられる。生成した補間画素の画素データに誤りが生じている場合には、所定の画素の画素データが用いられて新たな画素データが生成される。そして、この生成された新たな画素データが補間画素の画素データとして置き換えられる。
【0052】
このように、補間画素の画素データを生成した後、生成した画素データに誤りが生じていれば、再補間処理を行うことによって、より正確な画素データを生成することができる。したがって、補間ミスの発生をさらに抑えることができる。
【0053】
また本発明は、前記画素データは、輝度値であることを特徴とする。
本発明に従えば、補間処理には輝度値を用いるので、モノクロおよびカラー画像の双方の画像の補間処理に対応することができる。
【0054】
また本発明は、コンピュータに上記の補間処理方法を実行させるための補間処理プログラムである。
本発明に従えば、補間処理をコンピュータに実行させることができる。
【0055】
また本発明は、上記の補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体である。
【0056】
本発明に従えば、補間処理方法を実行する補間処理プログラムをコンピュータに容易に供給することができる。
【0057】
また本発明は、上記の画像処理装置を備え、前記画像処理装置によって補間処理が施された画像データに基づいて画像を形成し、出力することを特徴とする画像形成装置である。
【0058】
本発明に従えば、前述の画像処理装置によって生成された補間画素の画素データを用いて成る高画質の画像を出力することができる。
【0059】
【発明の実施の形態】
[第1実施形態]
図1は、本発明の実施の一形態である補間処理方法の処理手順を示すフローチャートである。本発明の補間処理方法の対象となる画像は、特に、インターレース走査方式による画像(「インターレース画像」)であり、インターレース画像は、2枚のフィールドから1枚のフレームが構成される。なお、以下の説明における画素データの例としては、輝度値が挙げられるが、輝度値のみならず、色の値を示す色差などの画素データであってもよい。
【0060】
インターレース画像を、一時停止させて静止画像として表示させる場合、あるいは、液晶テレビなどのノンインターレース走査方式を採用する表示装置に表示させる場合、以下のような補間処理を行う。
【0061】
まず、フィールドを構成する画素の画素データが入力され、ステップa1では、補間処理が開始される。画素データの入力は、1画素ごと、1走査線ごと、1プレーンごとなど、どのような入力でも構わない。ここにいうプレーンとは、色成分ごとの画素データをいう。補間画素に対する所定の周囲画素の画素データが入力された時点で、次の処理が開始される。それまでは、随時画素データの入力が行われる。
【0062】
ステップa2では、画像ノイズ部分の抽出が行われる。画像ノイズ部分とは、フリッカノイズから成るノイズ部分をいう。被写体に動きがあると、2つのフィールド間での被写体像のずれが生じるが、このずれが生じている2つのフィールドの画素の画素データを基に画像を合成すると、画像上では1走査線おきのずれとなり、ノイズとなって現れる。このノイズがフリッカノイズである。このように、被写体に動きがある場合、合成された画像の画質は劣悪となってしまうため、まず、このフリッカノイズが画像のいずれの部分に存在するのかを抽出する必要がある。
【0063】
図2は、画像ノイズ部分を抽出する抽出処理を説明するための図である。抽出処理には、補間画素B(0)の上下2本の水平走査線上に並ぶ画素の画素データであって、補間画素B(0)の垂直方向に位置する各2画素の画素データが参照される。図では、上部2本の水平走査線上に並ぶ画素A(0),D(0)の画素データと、下部2本の水平走査線上に並ぶ画素C(0),E(0)の画素データが参照されている。
【0064】
なお、ここにいう補間画素B(0)とは、補間画素の画素データが生成される補間処理対象のフィールドに対応するフィールド、すなわち、補間処理対象のフィールドと1フレームを構成するフィールド上の画素であって、当該画素は、補間画素に対応する位置にある。なお、以下の説明では、画素を示す参照符号「B(0)」などは、画素を表すとともに、その画素の画素データを表すものとする。
【0065】
まず、参照する画素の画素データから、補間画素B(0)と画素D(0)との画素データの差分絶対値、すなわち、|D(0)−B(0)|を算出するとともに、補間画素B(0)と画素E(0)との画素データの差分絶対値、すなわち、|E(0)−B(0)|を算出する。算出結果のうち、小さい値を選択する。さらに、画素A(0)と画素C(0)との画素データの差分絶対値、すなわち、|A(0)−C(0)|を算出し、先に選択した小さい値と比較する。この2つの値のうち、大きい値をD1とする。
【0066】
次に、補間画素B(0)の画素データを生成しようとするフィールドにおいて、+1/4画素分だけずれた位置の画素データを以下の式(1)によって算出する。
S1=B(0)×3+E(0) …(1)
【0067】
同様に、もう一方のフィールドにおいて、+1/4画素分だけずれた位置の画素データを以下の式(2)によって算出する。
S2=A(0)+C(0)×3 …(2)
【0068】
そして、式(1)および(2)の算出結果の差分絶対値、|S1−S2|を算出する。さらに、|S1−S2|と、D1にある定数値を掛けた値を比較することで、画像ノイズ部分であるか否かを判定する。|S1−S2|の方が、D1にある定数値を掛けた値よりも大きければ、補間画素B(0)は、画像ノイズ部分であるとする。逆に、|S1−S2|の方が小さければ、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データを算出することによって、画像ノイズ部分であるか否かの判定を続ける。なお、補間画素B(0)が画像ノイズ部分であると判定された場合でも、補間処理の正確性を高めるため、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データの算出を行ってもよい。
【0069】
補間画素B(0)の画素データを生成しようとするフィールドにおいて、−1/4だけずれた位置の画素データを算出するため、以下の式(3)を計算する。
S3=B(0)×3+D(0) …(3)
【0070】
同様に、もう一方のフィールドにおいて、−1/4画素分だけずれた位置の画素データを算出するため、以下の式(4)を計算する。
S4=C(0)+A(0)×3 …(4)
【0071】
そして、式(3)および(4)の算出結果の差分絶対値、|S3−S4|を算出し、|S3−S4|と、D1にある定数値を掛けた値を比較する。|S3−S4|とD1との関係から、D1にある定数値を掛けた値よりも|S3−S4|の方が、D1にある定数値を掛けた値よりも大きければ、補間画素B(0)は、画像ノイズ部分であると判定する。逆に、|S3−S4|の方が小さければ、画像ノイズ部分ではないと判定する。
【0072】
以上のように、フィールド間の相関関係を画素データの差に基づいて求めることで、画像ノイズ部分を抽出することができる。これは、フィールド間の画素データの変化が大きければ、相関関係が低いものであり、画像ノイズ部分である可能性が大きいということに基づく。
【0073】
ステップa3では、ステップa2における判定結果に基づいて、画像ノイズ部分であるか否かが判断される。画像ノイズ部分であると判断された場合にはステップa4に進み、画像ノイズ部分でないと判断された場合にはステップa9に進む。
【0074】
ステップa9では、補間走査線が設定されるフィールドに対応する対応フィールドの画素データが抽出され、この画素データをそのまま補間画素の画素データとして生成する。すなわち、補間画素が画像ノイズ部分でないと判定されると、補間画素の画素データとして、対応フィールドの画素データをそのまま用いるのである。
【0075】
ステップa4では、補間方向が複数設定される。補間方向は、補間画素B(0)を起点として双方向に向いた複数種類の方向である。
【0076】
図3は、補間画素B(0)の補間処理の際に参照する画素を表した図である。図中の、補間画素B(0)を含む左右方向(水平方向)1列の走査線が補間走査線である。補間走査線上に並ぶ補間画素の補間処理に参照される画素は、補間走査線を挟む走査線であって、補間走査線の上下に位置する水平走査線上に並んでいる画素である。すなわち、画素A(n)および画素C(n)(nは整数)である。
【0077】
補間画素B(0)に対する補間方向は、画素A(−3)とC(3)間、画素A(−2)とC(2)間、画素A(−1)とC(1)間、画素A(0)とC(0)間、画素A(1)とC(−1)間、画素A(2)とC(−2)間、画素A(3)とC(−3)間を結ぶ線分上の7方向である。
【0078】
ステップa5では、ブロック対が補間方向ごとに抽出される。ブロック対を構成する2つのブロックは、補間走査線の上下の水平走査線上に並ぶ同じ数の画素から成る。ここでは、1のブロックの構成画素は3画素であり、これら3画素は水平方向に連続して並んでいる。2つのブロックの位置関係は、補間画素を対象点として互いに点対称となっている。
【0079】
具体的には図3を参照して、たとえば補間方向が、画素A(−3)とC(3)間を結ぶ線分上の方向であるとすると、ブロック対は、画素A(−4),A(−3),A(−2)の3画素で構成されるブロックと、画素C(2),C(3),C(4)の3画素で構成されるブロックとから成る。補間方向は7方向であるので、他の6つのブロック対は、
画素A(−3),A(−2),A(−1)のブロックと画素C(1),C(2),C(3)のブロックとから成るブロック対、
画素A(−2),A(−1),A(0)のブロックと画素C(0),C(1),C(2)のブロックとから成るブロック対、
画素A(−1),A(0),A(1)のブロックと画素C(−1),C(0),C(1)のブロックとから成るブロック対、
画素A(0),A(1),A(2)のブロックと画素C(−2),C(−1),C(0)までのブロックとから成るブロック対、
画素A(1),A(2),A(3)までのブロックと画素C(−3),C(−2),C(−1)のブロックとから成るブロック対、
画素A(2),A(3),A(4)のブロックと画素C(−4),C(−3),C(−2)のブロックから成るブロック対である。
【0080】
ステップa6では、ブロック対ごとの相関関係を求めるため、各ブロック対におけるブロック間の相関値が算出される。相関値とは、相関関係を数値で表したものである。具体的には、1のブロックの画素と当該画素に対応する他方のブロックの画素との画素データの差分絶対値をそれぞれ算出し、算出した差分絶対値の総和を算出する。そして、算出した総和に所定の重み係数を掛けることによって、ブロックの相関値とする。
【0081】
図3を用いて説明する。たとえば、画素A(−4)〜A(−2)までのブロックと、それに対応する画素C(2)〜C(4)までのブロックでは、ブロック対を構成する2つのブロック間において、画素間の画素データの差分絶対値が算出される。すなわち、画素A(−4)とC(2)、画素A(−3)とC(3)、画素A(−2)とC(4)のそれぞれの差分絶対値が算出され、算出された差分絶対値の総和が求められる。この総和に対し、所定の重み係数が掛けられる。他の6個のブロック対についても、同様に相関値を算出する。この2つのブロックにおいては、補間方向が画素A(−3)とC(3)間を結ぶ線分上の方向であるので、画素A(−3)とC(3)の1組の画素対が基準画素対として定め、この基準画素対以外の画素、すなわち、画素A(−4),A(−2),画素C(2),C(4)を補助画素として定める。
【0082】
ここで、相関値の算出に用いる画素の組み合わせを、前述のように設定すると、当該画素間を結んで成る線分は、他の線分とほぼ平行となる。すなわち、画素A(−4)とC(2)、画素A(−3)とC(3)、画素A(−2)とC(4)とを結ぶ線分は、ほぼ平行である。このように、画素間を結ぶ各線分が互いにほぼ平行となるため、算出される相関値は互いに対応がとれていることになる。これによって、相関値の信頼性を高めることができる。
【0083】
ステップa7では、補間方向が選択される。算出した7つの相関値のうち、最小の相関値に基づいて、補間方向を選択する。具体的には、補間画素B(0)を対称点として左上方向と右下方向との位置関係にある補間方向を第1のグループとし、右上方向と左下方向との位置関係にある補間方向を第2のグループとしてグループ分けし、各グループにおいて相関値が最小となる補間方向を選択し、選択した補間方向に基づいて1の補間方向を選択する。なお、上下方向は、両方のグループに含めるものとする。
【0084】
すなわち、画素A(−3)とC(3)間、画素A(−2)とC(2)間、画素A(−1)とC(1)間、画素A(0)とC(0)間の補間方向を第1のグループとし、画素A(0)とC(0)間、画素A(1)とC(−1)間、画素A(2)とC(−2)間、画素A(3)とC(−3)間上を通る補間方向を第2のグループとする。そして、第1のグループにおいて、相関値が最小となる補間方向と、第2のグループにおいて、相関値が最小となる補間方向とを選択する。選択された2つの補間方向から、次の条件に基づいて、最終的な補間方向を決定する。
【0085】
選択された2つの補間方向が、双方とも画素A(0)とC(0)間上を通る補間方向である場合、あるいは、双方とも画素A(0)とC(0)間上を通る補間方向でない場合は、画素A(0)とC(0)間上を通る補間方向を補間方向として選択する。
【0086】
これに対し、選択された2つの補間方向のいずれか一方が、画素A(0)とC(0)間上を通る補間方向である場合は、画素A(0)とC(0)間上を通る補間方向ではない他方の方向を、補間方向として選択する。
【0087】
ステップa8では、補間処理が行われる。具体的には、選択された補間方向先の双方にそれぞれ位置する2つ画素を選択し、選択した画素の画素データに基づいて、線形補間処理を行う。
【0088】
ステップa10では、前述のステップa2〜a9の処理が、1の補間走査線について終了したか否かが判断される。処理が終了したと判断された場合にはステップa11に進み、処理が終了していないと判断された場合にはステップa15に進む。ステップa15では、次の補間画素へと対象を移動させる。たとえば、1の補間走査線についての補間処理を、補間画素を1画素ずつ、ずらしながら行う場合は、次の対象となる補間画素は、補間処理が終了した画素の右へ1画素ずれた画素となる。
【0089】
ステップa11では、生成された補間画素の画素データの正当性が評価される。具体的には、対象となる補間画素の周囲に位置する画素であって、対象補間画素を中心とする縦、横、右斜めおよび左斜めの4方向に位置する画素の画素データと、対象補間画素の画素データとを比較し、対象補間画素の画素データが全方向に対して一定値以上の値となるか否かによって評価する。なお、横方向に位置する画素とは、対象補間画素に隣接する補間画素である。対象補間画素の画素データが全方向に対して一定値以上の値となっている場合には、対象補間画素の画素データは正当でないと判断され、一定値より小さい値と成っている場合には、対象補間画素の画素データは正当であると判断される。
【0090】
ステップa12で補間画素の画素データが正当であると判断された場合にはステップa14に進み、正当でないと判断された場合にはステップa13に進む。ステップa13では、再補間処理が行われる。再補間処理には、補間画素の上下に位置する画素の画素データが用いられ、線形補間処理がされる。すなわち、補間画素B(0)の再補間処理には、画素A(0),C(0)の画素データが用いられることになる。
【0091】
この正当性評価は、画像ノイズ部分と判定されて補間処理された補間画素に対して、必ず行われる。なぜなら、補間方向の選択の際に、たまたま条件に合致したために、実際の画像には適合しない補間画素の画素データを生成してしまう場合があり、正確でない補間方向が選択されるということが生じ得るからである。これは、補間処理に参照される画素の範囲が限定されていることによるものである。このことから、正確でない補間方向に基づいて補間処理するよりは、補間画素の上下に位置し、最近傍である画素の画素データを用いて補間処理を行うことで、妥当でない補間画素の画素データが生成されるのを防止することができる。
【0092】
ステップa14では、前述のステップa11〜a13の処理が1の補間走査線について終了したか否かが判断される。1の補間走査線について、処理が終了した場合にはステップa17に進み、補間処理を終了させる。処理が終了していない場合にはステップa16に進む。ステップa16では、補間処理対象を次の補間画素へと移動させる。
【0093】
1の補間走査線における補間処理が終了したならば、次の補間走査線が補間処理の対象となり、当該補間走査線上の補間画素について補間処理が行われる。
【0094】
以上のように、相関関係を示す相関値は、ブロック内の複数の画素を用いて求められるので、単純に1対の画素間で求める場合に比べると、相関値の信頼性が高まる。したがって、この信頼性の高い相関値に基づいて、正確な補間方向を選択することができ、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0095】
次に、前述の補間処理に関し、具体的な数値を用いて説明する。図4は、補間画素B(0)と、その補間処理の際に参照される周囲の画素とを示した図である。図中の数値は、画素データを表しており、図では10進数で示しているが、実際には8ビットデータであり、0〜255の値をとる。なお、補間画素B(0)を含む補間走査線上に並ぶ画素、画素D(0),E(0)が存在するフィールドと、画素A(n),C(n)が存在するフィールドとは、実際には異なるフィールドであるが、便宜上、1つの図で示している。
【0096】
まず、画像ノイズ部分の抽出を行う(ステップa2)。補間画素B(0)に対して上下2画素ずつ、すなわち、上側の画素A(0)および画素D(0)と、下側の画素C(0)および画素E(0)との4画素を参照する。
【0097】
まず、参照する画素の画素データから、補間画素B(0)と画素D(0)および画素E(0)との画素データの差分絶対値を算出する。
|D(0)−B(0)|=|2−1|=1
|E(0)−B(0)|=|0−1|=1
【0098】
ここで、どちらか小さい方を選択するが、ここでは同じ値なので、仮に最初の値を選択することとする。さらに、画素A(0)と画素C(0)との画素データの差分絶対値を算出する。
|A(0)−C(0)|=|5−3|=2
【0099】
算出した2つの値のうち、大きい値をD1とする。
D1=2
【0100】
次に、補間画素B(0)の画素データを生成しようとするフィールドおよびもう一方のフィールドにおいて、それぞれ、+1/4画素分だけずれた位置の画素データを算出する。
S1=B(0)×3+E(0)=1×3+0=3
S2=A(0)+C(0)×3=5+3×3=14
【0101】
S1とS2との差分絶対値と、D1にある定数を掛けた値とを比較することで、画像ノイズ部分であるか否かを判定する。ここでは、ある定数として5を用いる。なお、この定数は、複数の画像に対し、実験的に任意の定数を設定して補間処理を行った結果、得られた最適の数値である。比較を行うと、
|S1−S2|=|3−14|=11>10(=D1×5=2×5)
となり、|S1−S2|の方が大きいので、補間画素B(0)は画像ノイズ部分であると判定する。
【0102】
このように、補間画素B(0)は、画像ノイズ部分であると判定された場合、さらに、両フィールドにおいて−1/4画素分だけずれた位置の画素データを算出する必要はないが、補間処理の正確性を高めるため、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データの算出を行ってもよい。実際には、以下の算出処理は省略しても問題ない。
【0103】
補間画素B(0)の画素データを生成しようとするフィールドおよびもう一方のフィールドにおいて、−1/4画素分だけずれた位置の画素データを算出する。
S3=B(0)×3+D(0)=1×3+2=5
S4=C(0)+A(0)×3=3+5×3=18
【0104】
同様に、S3とS4との差分絶対値とD1に5を掛けた値とを比較する。
|S3−S4|=|5−18|=13>10(=D1×5=2×5)
【0105】
比較した結果、|S3−S4|の方が大きいので、補間画素B(0)は画像ノイズ部分であると判定する。
【0106】
次に、補間方向を複数設定する(ステップa4)。補間方向としては、画素A(−3),C(3)間、画素A(−2),C(2)間、画素A(−1),C(1)間、画素A(0),C(0)間、画素A(1),C(−1)間、画素A(2),C(−2)間、画素A(3),C(−3)間上の7方向を定める。
【0107】
次に、ブロック対を抽出する(ステップa5)。ブロック対を補間方向ごとに抽出するので、前述の7方向に対応させて、
画素A(−4)〜A(−2)のブロックと画素C(2)〜C(4)のブロックから成るブロック対、
画素A(−3)〜A(−1)のブロックと画素C(1)〜C(3)のブロックとから成るブロック対、
画素A(−2)〜A(0)までのブロックと画素C(0)〜C(2)のブロックとから成るブロック対、
画素A(−1)〜A(1)のブロックと画素C(−1)〜C(1)のブロックとから成るブロック対、
画素A(0)〜A(2)までのブロックと画素C(−2)〜C(0)のブロックとから成るブロック対、
画素A(1)〜A(3)のブロックと画素C(−3)〜C(−1)のブロックとから成るブロック対、
画素A(2)〜A(4)のブロックと画素C(−4)〜C(−2)のブロックから成るブロック対の7対を抽出する。
【0108】
そして、ブロック対におけるブロック間ごとに相関値を算出する(ステップa6)。まず、画素A(−4)〜A(−2)のブロックと画素C(2)〜C(4)のブロックから成るブロック対の相関値を算出する。なお、算出した相関値をH1とする。同様に、他の6対のブロック対の相関値を算出し、算出した相関値を順にH2,H3,H5,H6,H7とする。ここで、相関値の算出に用いる重み係数は、H1,H2,H3,H5,H6,H7については2とし、H4については1とする。この重み係数も、実験的にいくつかの画像に対して補間処理を行った結果、得られた値である。重み係数は、補間画素を中心とすると、中心から遠くに離れるほど、大きな重みとし、左右対称となる補間方向には同じ重みとする。
H1={|A(−4)−C(2)|+|A(−3)−C(3)|
+|A(−2)−C(−4)|}×2
=(|0−1|+|0−5|+|1−5|)×2
=20
【0109】
同様に、相関値H2,H3,H4,H5,H6,H7を算出する。
H2=(|0−1|+|1−1|+|2−5|)×2=8
H3=(|1−3|+|2−1|+|5−1|)×2=14
H4=(|2−6|+|5−3|+|5−1|)×1=10
H5=(|5−3|+|5−6|+|1−3|)×2=10
H6=(|5−1|+|1−3|+|1−6|)×2=22
H7=(|1−0|+|1−1|+|5−3|)×2=6
【0110】
このように、相関値の算出に用いる画素間を結んで成る線分を、他の線分とほぼ平行とすることで、算出される相関値は互いに対応がとれていることになる。これによって、相関値の信頼性を高めることができる。
【0111】
そして、補間方向を選択する(ステップa7)。まず、相関値H1〜H7のうち、相関値H1〜H4を第1のグループとし、相関値H7〜H4を第2のグループとする。各グループにおいて相関値が最小値をとる相関値を求める。相関値H1〜H4の中では、相関値H2が最小値をとり、相関値H7〜H4の中では、相関値H7が最小値をとる。ここで、各グループとも相関値H4が選択されてないことから、所定の条件、「双方とも画素A(0)と画素C(0)との組み合わせでない場合は、画素A(0)と画素C(0)間上を通る補間方向を補間方向として選択する」に従い、補間方向として、画素A(0)と画素C(0)とを結ぶ補間方向を選択する。
【0112】
そして、選択した補間方向先の双方にそれぞれ位置する画素の画素データを用いて、補間画素の画素データを生成する(ステップa8)。
B(0)=(A(0)+C(0))/2=(5+3)/2=4
【0113】
以上の処理を1の補間走査線について、補間走査線上に並ぶ画素に対し順番に行う。
【0114】
ここで、図4に示すように、補間画素B(−1),B(1)について、補間処理により、B(−1)=2、B(1)=0として生成され、これらの補間画素が並ぶ補間走査線の補間処理が終了したとする。
【0115】
次に、補間画素B(0)の画素データの正当性を評価する(ステップa11)。具体的には、対象となる補間画素の画素データと、対象補間画素の縦、横、右斜め、左斜めの4方向に位置する画素の画素データとを用いて、1次元のマスク処理を行う。なお、対象補間画素の横方向に位置する画素は、隣接する補間画素である。
【0116】
そして、マスク処理によって算出した値と、予め定められた閾値とを比較することによって、正当性を評価する。ここでマスク処理に用いる1次元のマスクを[−1 2 −1]とし、閾値として用いる値を10とする。この閾値は、実験的にいくつかの画像に対して補間処理を行った結果、目で見て孤立点になっているような画素が選択されている閾値を求めたものである。
【0117】
それぞれの方向についてマスク処理を行い、値を算出する。
縦方向:|5×(−1)+4×2+3×(−1)|=0
横方向:|2×(−1)+4×2+0×(−1)|=6
右斜め:|5×(−1)+4×2+6×(−1)|=3
左斜め:|2×(−1)+4×2+1×(−1)|=5
このように、いずれの方向においても、閾値10より小さい値となったので、補間画素B(0)の画素データは正当であると評価する。したがって、求められた画素データ「4」を最終的に、補間画素B(0)の画素データとする。
【0118】
仮に、縦、横、右斜め、左斜めの4方向において算出した値のいずれかが閾値よりも大きな値となった場合には、再補間処理を行う(ステップa13)。再補間処理とは、画素A(0),C(0)の画素データを用いた線形補間処理である。
【0119】
なお、前述の例では、選択された補間方向は、画素A(0),C(0)間の方向であり、補間処理の正当性評価によって補間が正当でないと判断された場合は、再度、画素A(0),C(0)の画素データを用いて再補間処理を行うことになり、生成した補間画素B(0)の画素データは、「4」となる。
【0120】
以上の処理を1の補間走査線上に並ぶすべての補間画素に対して行う。
なお、前述の例では近傍18画素および画素D(0),E(0)の2画素を用いて補間処理しているが、これ以外の周辺画素数を用いても構わない。
【0121】
[第2実施形態]
次に、本発明の第2実施形態について説明する。図5は、第2実施形態である補間処理方法の処理手順を示すフローチャートである。
【0122】
ステップb1〜ステップb3の処理は、第1実施形態におけるステップa1〜ステップa3の処理と同様である。
【0123】
ステップb3で、画像ノイズ部分であると判断された場合にはステップb4に進み、画像ノイズ部分でないと判断された場合にはステップb8に進む。
【0124】
ステップb8では、ステップa9と同様、補間走査線が設定されるフィールドに対応する対応フィールドの画素データが抽出され、この画素データがそのまま補間画素の画素データとして生成される。
【0125】
ステップb4では、ブロック対が複数組抽出される。このブロック対は、補間画素を対象点として互いに点対象の位置関係にある2つのブロックから成る。
【0126】
ステップb5では、ブロック対ごとに、2つのブロック間の相関関係が求められる。
【0127】
ステップb6では、補間方向が設定される。この補間方向を定めるにあたって、まず、ステップb5において求められた相関関係に基づいて、複数のブロック対の中から少なくとも1つのブロック対が選択され、選択されたブロック対の2つのブロック間の相関方向が求められる。そして、この相関方向を補間方向とする。
【0128】
ステップb7では、補間処理が行われる。補間処理は、ステップb6で定めた補間方向先に位置する画素を選択し、選択した画素の画素データに基づいて生成する。
【0129】
なお、ステップb9〜ステップb16の処理は、第1実施形態のステップa10〜ステップa17の処理と同様である。
【0130】
以上のように、相関関係を示す相関値は、ブロック内の複数の画素を用いて求められるので、単純に1対の画素間で求める場合に比べると、相関値の信頼性が高まる。したがって、この信頼性の高い相関値に基づいて、正確な補間方向を選択することができ、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0131】
[第3実施形態]
続いて、本発明の画像処理装置を構成する補間処理部Aについて説明する。図6は、補間処理部Aの構成を示すブロック図である。補間処理部Aは、画像ノイズ部分抽出手段1、補間方向設定手段2、抽出手段3、補間関係導出手段4、選択手段5、画素データ生成手段6、フィールドデータ抽出手段7、画素データ合成手段8、1走査線終了判定手段9、補間正当性評価手段10および再補間手段11から成る。
【0132】
補間処理部Aの画像ノイズ部分抽出手段1は、アナログデータとして入力され画像処理装置中でA/D(アナログ/デジタル)変換処理された画像データ、あるいは、デジタルの画像データに対し、5本の水平走査線分の画素データをバッファに保持した後、補間対象画素に対する画像ノイズ部分抽出処理を行う。画像ノイズ部分抽出処理によって、画像ノイズ部分でないと判断された部分に対しては、フィールドデータ抽出手段7が現在保持している補間画素の画素データをそのまま抽出する。他方、画像ノイズ部分抽出処理によって、画像ノイズ部分であると判断された部分に対しては、補間方向設定手段2が制御されて、次の処理が行われる。
【0133】
補間方向設定手段2は、補間画素を起点とする補間方向を複数種類定め、定めた補間方向に関する情報を抽出手段3に出力する。
【0134】
抽出手段3は、補間方向に関する情報に基づいて、複数組のブロック対を補間方向ごとに抽出する。ブロック対は、補間方向先の双方に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成る。抽出したブロック対に関する情報は、相関関係導出手段4に出力される。
【0135】
相関関係導出手段4は、補間走査線の上下の水平走査線上の画素の画素データを用いて、ブロックの相関値を算出し、算出した相関値を選択手段5に出力する。
【0136】
選択手段5は、相関値に基づいて、相関関係の最も大きい補間方向を探索し、複数種類の補間方向の中から少なくとも1つの補間方向を選択する。選択された補間方向に関する情報は、画素データ生成手段6に出力される。
【0137】
画素データ生成手段6は、補間方向先の上下の水平走査線上の画素の画素データを用いて線形補間処理を行う。
【0138】
1走査線終了判定手段9は、補間処理が1つの補間走査線について終了したか否かを判定する。補間処理が終了していなければ、補間対象を1つ右の画素へとずらす。そして、画像ノイズ部分抽出手段1に制御が移される。補間処理が、1つの補間走査線について終了したと判定された場合には、画素データ合成手段8に制御が移される。
【0139】
画素データ合成手段8は、フィールドデータ抽出手段7で抽出された画素の画素データと、画素データ生成手段6で生成された補間画素の画素データとを合成する。同時に、いずれの画素が補間処理された画素であるかについての情報もあわせて、補間正当性評価手段10に出力する。
【0140】
補間正当性評価手段10は、画素データ合成手段8によって入力された補間走査線上の画素の画素データと、その上下の水平走査線上の画素の画素データと、さらに、補間処理された画素であるかについての情報とを用いて、画素データ生成手段6で補間処理された画素に対してのみ、生成された補間画素の画素データの正当性を評価する。評価結果は、再補間手段11へ出力される。
【0141】
再補間手段11は、評価結果に基づいて次の処理を行う。補間画素の画素データの値が妥当であると判断した場合には、その値をそのまま出力する。他方、補間画素の画素データの値が妥当でないと判断した場合には、補間走査線の上下の水平走査線の画素の画素データを用いて線形補間処理を行い、生成した画素データを出力する。そして、出力された画素データは、画像処理装置の階調補正部に出力される。
【0142】
以上によって、信頼性の高い相関関係に基づいて、正確な補間方向を選択するとができるので、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0143】
図7に、本発明のカラー画像処理装置Bを備えるカラー画像形成装置Cのブロック図である。
【0144】
図7に示すように、カラー画像処理装置Bは、A/D変換部30、補間処理部A、入力階調補正部31、領域分離処理部32、空間フィルタ処理部33、変倍処理部34、色空間変換部35、色補正部36、黒生成下色除去部37、出力階調補正部38および階調再現処理部39とを備える。
【0145】
このカラー画像処理装置Bに、カラー画像入力装置(アナログ入力装置)50aあるいは、カラー画像入力装置(デジタル入力装置)50bと、カラー画像出力装置51とが接続され、たとえば複合機やプリンタなどのカラー画像形成装置Cを構成している。
【0146】
カラー画像入力装置50aは、たとえばTVチューナやビデオカメラなどのインターレース画像読取部によって構成され、TV局からのNTSC信号などのテレビ信号や、ビデオカメラのCCD(Charge Coupled Device)から入力されるRGB(R:赤・G:緑・B:青)のアナログ信号を、カラー画像処理装置Bに入力するものである。カラー画像処理装置Bにデジタルのカラー画像入力装置50bが接続されている場合、デジタルTV信号やデジタルビデオカメラ出力など、デジタル信号が入力される。その場合には、A/D変換部30は必要ない。
【0147】
このカラー画像出力装置51は、画像データを紙などの記録媒体上、あるいは、ディスプレイなどの表示媒体上に出力するもので、たとえば、電子写真方式やインクジェット方式を用いた画像出力装置、テレビなどの画像表示装置を挙げることができるが特に限定されるものではない。
【0148】
カラー画像入力装置にて読み取られたアナログ信号の画像データは、カラー画像処理装置B内を、A/D変換部30、補間処理部A、入力階調補正部31、領域分離処理部32、空間フィルタ処理部33、変倍処理部34、色空間変換部35、色補正部36、黒生成下色除去部37、出力階調補正部38および階調再現処理部39の順で処理され、C,M,Y,K(C:シアン、M:マゼンタ、Y:イエロー)の各デジタルカラー信号として、カラー画像出力装置51へ出力される。
【0149】
入力がデジタル信号の画像データの場合は、カラー画像処理装置B内を、補間処理部Aから階調再現処理部39へと順に処理され、同様にC,M,Y,Kの各デジタルカラー信号として、カラー画像出力装置へ出力される。
【0150】
A/D変換部30は、カラー画像入力装置50aから入力されるY,Cb,Crの各アナログ信号をデジタル信号に変換して、補間処理部Aに出力する。
【0151】
補間処理部Aでは、A/D変換部30において、A/D変換処理された画像データ、あるいは、カラー画像入力装置50bから入力されたY,Cb,Crの各画像データに対し、画像データを構成する複数の画素の画素データを用いて、画素間に設定される補間画素の画素データを生成する。生成した画素データを入力階調補正部31に出力する。
【0152】
入力階調補正部31は、補間処理部Aにて補間処理されたY,Cb,Crの各信号に対して、必要に応じてトーンスケールの補正処理やカラーバランスの補正処理を行う。処理されたY,Cb,Crの各信号は、領域分離処理部32に出力される。
【0153】
領域分離処理部32は、入力されたY,Cb,Crの各信号の画像データに基づいて、画像を構成する各画素を文字領域、網点領域、写真領域のいずれかに分離する領域分離処理を行う。領域分離処理部32は、分離結果に基づき、画素がいずれの領域に属しているかを示す領域識別信号を、空間フィルタ処理部33、黒生成下色除去部37および階調再現処理部39に出力するとともに、入力階調補正処理部31から入力された入力信号をそのまま空間フィルタ処理部33に出力する。
【0154】
空間フィルタ処理部33は、領域分離処理部32から入力されたY,Cb,Crの各信号の画像データに対して、領域識別信号をもとに、デジタルフィルタによる空間フィルタ処理を行い、空間周波数特性を補正することによって出力画像のぼやけや粒状性劣化を防ぐ処理を行う。
【0155】
たとえば、領域分離処理部32にて文字に分離された領域に関しては、特に黒文字あるいは色文字の再現性を高めるために、空間フィルタ処理の鮮鋭強調処理によって高周波数の強調量の増大がなされる。また、領域分離処理部32によって網点に分離された領域に関しては、入力網点成分を除去するためのローパス・フィルタ処理が施される。空間フィルタ処理部33は、空間フィルタ処理されたY,Cb,Crの各信号の画像データを変倍処理部34に出力する。
【0156】
変倍処理部34では、ユーザからの指定などに応じて、出力画像の解像度や大きさに応じて、拡大や縮小などの変倍処理によって、画像データを所定のサイズに変更する。変倍処理されたY,Cb,Crの各信号の画像データは、色変換処理部35に出力される。
【0157】
色空間変換部35は、入力されたY,Cb,Crの各信号の画像データを、CMYの色空間に変換し、C,M,Yの各信号(CMY信号)の画像データとし、これを色補正部36に出力する。
【0158】
色補正部36は、カラー画像出力装置51の出力形式に合わせた色補正を行い、色補正したCMY信号の画像データを黒生成下色除去部37に出力する。
【0159】
黒生成下色除去部37は、入力されたCMY信号から、黒(K)信号を生成する黒生成処理と、もとのCMY信号から黒生成処理で得られたK信号を差し引いて新たなCMY信号を生成する処理とを行い、CMY信号をC,M,Y,Kの4色信号(CMKY信号)に変換する。黒生成下色除去処理は、一般的な方法であるスケルトンブラックによって行われる。スケルトンブラックによる黒生成下色除去処理は、スケルトンカーブの入出力特性をy=f(x)とし、入力される信号をC,M,Yとし、出力される信号をC’,M’,Y’,K’とし、UCR(Under Color Removal)率をα(0<α<1)とすると、以下の式(5)〜(8)で表される。なお、minは、最小値(minimum)を表す。
K’=f{min(C,M,Y)} …(5)
C’=C−αK’ …(6)
M’=M−αK’ …(7)
Y’=Y−αK’ …(8)
【0160】
階調再現処理部39は、CMYK信号の画像データに対して、空間フィルタ処理部33と同様に、領域識別信号をもとに所定の処理を施する。
【0161】
たとえば、領域分離処理部32にて文字に分離された領域は、特に黒文字或いは色文字の再現性を高めるために、階調再現処理部39においては、高域周波数の再現に適した高解像度のスクリーンでの二値化または多値化処理が選択される。
【0162】
また、領域分離処理部32にて網点に分離された領域に関しては、出力階調補正部38で、濃度信号などの信号をカラー画像出力装置51の特性値である網点面積率に変換する出力階調補正処理を行った後、最終的に画像を画素に分離してそれぞれの階調を再現できるように処理する階調再現処理(中間調生成)を行う。領域分離処理部32にて写真に分離された領域に関しては、階調再現性を重視したスクリーンでの二値化または多値化処理を行う。
【0163】
以上の各処理が行われた画像データは、カラー画像処理装置Bの有する画像メモリに一旦記憶され、所定のタイミングで読み出されてカラー画像出力装置51に入力される。
【0164】
前述のカラー画像処理装置Bの説明において、補間処理部Aは、A/D変換処理部30の処理後に用いられているが、本発明はこの形態に限定されるものではなく、Y,Cb,Crデータを扱う部分であれば、どこに用いても構わない。
【0165】
前述の補間処理手順は、補間処理プログラム、あるいは、他の処理と組み合わせた画像処理プログラムによってコンピュータに実行させることができる。補間処理プログラムは、コンピュータ読み取り可能な記録媒体に記録される。たとえば、プリンタドライバとして適用することができる。これによって、補間処理プログラムを記録した記録媒体を持ち運び自在に提供することができる。
【0166】
この補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体としては、マイクロコンピュータに補間処理手順を行わせるためメモリ、たとえばROM(Read Only Memory)のようなものそのものがプログラムメディアであってもよい。また、外部記憶装置としてプログラム読み取り装置が設けられ、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであっても良い。
【0167】
いずれの場合においても、格納されている補間処理プログラムはマイクロプロセッサがアクセスして実行させる構成であってもよい。補間処理プログラムを読み出し、読み出されたプログラムは、マイクロコンピュータのプログラム記憶エリアにダウンロードされて、実行される方式であってもよい。このダウンロード用のプログラムは予め画像処理装置Bに格納されているものとする。
【0168】
ここで、前述のプログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープなどのテープ系、フロッピディスクやハードディスクなどの磁気ディスクやCD−ROM(Compact Disk Read Only
Memory)、MO(Magneto Optical)、MD(Mini Disk)およびDVD(Digital Versatile Disk)などの光ディスクのディスク系、IC(Integrated
Circuits)カード(メモリカードを含む)、光カードなどのカード系あるいはマスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュROMなどによる半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。
【0169】
また、本実施形態においては、インターネットを含む通信ネットワークを接続可能なシステム構成であることから、通信ネットワークから補間処理プログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。なお、このように通信ネットワークから、補間処理プログラムをダウンロードする場合には、そのダウンロード用のプログラムを予め本体装置に格納しておくか、あるいは、別の記録媒体からインストールされるものであってもよい。
【0170】
前述の記録媒体は、デジタルカラー画像形成装置やコンピュータシステムに備えられるプログラム読取装置で読み取られることによって、補間処理方法を実行する。
【0171】
コンピュータシステムは、フラットベッドスキャナ・フィルムスキャナ・デジタルカメラなどの画像入力装置、所定のプログラムがロードされることによって前述の画像処理方法など様々な処理が行われるコンピュータ、コンピュータの処理結果を表示するCRT(陰極線管)ディスプレイ・液晶ディスプレイなどの画像表示装置、および、コンピュータの処理結果を紙などに出力するプリンタを備えて構成される。さらには、このコンピュータシステムには、ネットワークを介してサーバなどに接続するための通信手段としてのモデムなどが備えられる。
【0172】
なお、前述のように、本発明の補間処理方法の対象となる画像を、インターレース画像として説明したが、本発明は、当該画像に限定されるものではない。
【0173】
【発明の効果】
以上のように本発明によれば、複数の画素から成るブロック間の相関関係に基づいて、補間画素に対する補間方向を選択するので、1対の画素間の相関関係に基づいて選択する場合に比べて、信頼性の高い補間方向を選択することができる。これによって、信頼性の高い補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0174】
また本発明によれば、インターレース画像に対しても、信頼性の高い補間処理を行うことができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0175】
また本発明によれば、2つのブロック間の相関関係は、基準画素間の相関関係を基準とし、さらに、補助画素間の相関関係を求めるので、1の画素間で相関関係を求める場合と比べて、信頼性の高いブロック間の相関関係求めることができる。これによって、信頼性の高い補間方向を選択することができる。
【0176】
また本発明によれば、2つのブロック間の相関関係を求めるときは、補助画素間を結ぶ線分が基準画素を結ぶ線分とほぼ平行となるような補助画素を選んで相関関係を求めるので、基準画素間の相関関係に対応した相関関係を求めることができる。
【0177】
また本発明によれば、補間方向を選択するときは、近似する方向ごとにグループ分けされた各グループから1つの補間方向を抽出し、抽出した補間方向を比較し、抽出した補間方向の関係に基づいて1つの補間方向を選択するので、複数の補間方向の中から相関関係が一番大きいものを単純に選択する場合に比べて、信頼性の高い補間方向を選択することができる。
【0178】
また本発明によれば、インターレース画像においてフィールド間の相関関係が大きく、予め定める関係となる場合、たとえば、フィールド間に画像の動きがない場合には、無理に補間処理を行わなくとも、対応フィールドの画素データをそのまま用いることで、もとの画像により近い画像を再現することができるので、画像の劣化を防止することができる。
【0179】
また本発明によれば、補間画素の画素データを生成した後、生成した画素データに誤りが生じていれば、再補間処理を行うことによって、より正確な画素データを生成することができる。したがって、補間ミスの発生をさらに抑えることができる。
【0180】
また本発明によれば、補間処理には輝度値を用いるので、モノクロおよびカラー画像の双方の画像の補間処理に対応することができる。
【0181】
また本発明によれば、補間処理をコンピュータに実行させることができる。
また本発明によれば、補間処理方法を実行する補間処理プログラムをコンピュータに容易に供給することができる。
【0182】
また本発明によれば、前述の画像処理装置によって生成された補間画素の画素データを用いて成る高画質の画像を出力することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態である補間処理方法の処理手順を示すフローチャートである。
【図2】画像ノイズ部分を抽出する抽出処理を説明するための図である。
【図3】補間画素B(0)の補間処理の際に参照する画素を表した図である。
【図4】補間画素B(0)と補間処理の際に参照される周囲の画素を示した図である。
【図5】第2実施形態である補間処理方法の処理手順を示すフローチャートである。
【図6】補間処理部Aの構成を示すブロック図である。
【図7】本発明のカラー画像処理装置Bを備えるカラー画像形成装置Cのブロック図である。
【図8】インターレース走査方式の画像を構成する1枚のフィールドを表す図である。
【図9】図7のひし形の画像V中、〇印で示した部分Rの拡大図である。
【図10】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図11】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図12】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図13】5方向において相関関係を検出する補間技術を説明するための図である。
【図14】7方向において相関関係を検出する補間技術を説明するための図である。
【図15】画像のエッジと成る部分がデジタル化された画像中の画素に沿って存在しない例を示す図である。
【図16】従来の補間技術によって補間されたフィールドの一部分を示す図である。
【符号の説明】
1 画像ノイズ部分抽出手段
2 補間方向設定手段
3 抽出手段
4 相関関係導出手段
5 選択手段
6 画素データ生成手段
7 フィールドデータ抽出手段
8 画素データ合成手段
9 1走査線終了判定手段
10 補間正当性評価手段
11 再補間手段
30 A/D(アナログ/デジタル)変換部
31 入力階調補正部
32 領域分離処理部
33 空間フィルタ処理部
34 変倍処理部
35 色空間変換部
36 色補正部
37 黒生成下色除去部
38 出力階調補正部
39 階調再現処理部
A 補間処理部
B カラー画像処理装置
C カラー画像形成装置
【発明の属する技術分野】
本発明は、画像を構成する複数の画素の画素データを用いて補間処理を行い、補間画素の画素データを生成する補間処理方法、補間処理プログラムおよびこれを記録した記録媒体に関し、さらに前記補間処理方法によって補間画素の画素データを生成する画像処理装置および前記画像処理装置を備える画像形成装置に関する。
【0002】
【従来の技術】
補間処理の対象となる画像には、静止画像と動画像とがある。このうち、動画像を出力するビデオテープレコーダや、ビデオ信号に基づいた画像を出力するビデオプリンタの一部には、インターレース走査方式が採用されている。
【0003】
インターレース走査方式とは、CRT(Cathode Ray Tube:陰極線管)の画像表示方式のひとつであり、人間の視覚特性上の残像効果を利用したものである。この方式によると、動画像は、2枚のフィールドで構成される1枚のフレームが連続することによって映し出される。フィールドとは、飛び越し走査された水平走査線上に並ぶ画素によって構成される画像である。飛び越し走査とは、フィールドの奇数番目の走査線上、あるいは、偶数番目の走査線上のいずれかのみの走査を行うことをいい、1回目の走査によって生じた走査線間の隙間は、2回目の走査によって埋められる。この時間的にずれのある2回の走査によって構成される2枚のフィールドが、視覚特性上の残像効果によって、人間には1枚の画像として認識されるのである。
【0004】
このようなインターレース走査方式による動画像(以下、「インターレース画像」という。)をCRT(陰極線管)などの表示装置に表示させる場合、1度に伝送する画素データの量は1フレームの半分の情報量であるので、スムーズな伝送を行うことができる。
【0005】
インターレース画像を、表示装置に連続的に表示させる場合には特に問題はない。しかしながら、インターレース画像を一時停止させる場合のように、静止画像を表示する場合には問題が生じる。問題とは、2回に分けて伝送される2枚のフィールドを単純に合成して静止画像とすると、たとえば、画像中に表示される被写体が完全に静止していない場合には、フィールド間の時間上のずれによって、画像の連続性が損なわれ、合成された1枚の合成画像にずれが生じることである。この結果、表示される合成画像の品質が低下する。
【0006】
また、表示装置に連続的に表示させる場合であっても、液晶テレビなどノンインターレース走査方式を採用する表示装置にインターレース画像を表示させる場合には、上述と同様の問題が生じる。なお、ノンインターレース走査方式とは、別名、順次走査方式と呼ばれ、走査線を飛び越さずに走査し、表示する方式である。
【0007】
そこで、フィールド間の時間上のずれによって生じる画像の不連続性を排除するため、1枚のフィールドのみを用い、フィールド中の走査線間に補間画素の画素データを生成することが考えられる。これによって、画像の不連続性といった画像の劣化を防止することができ、高品質な1枚の画像を合成することができる。
【0008】
以下、水平走査線間に補間画素の画素データを生成する補間技術について、図8〜図16を参照して説明する。
【0009】
図8は、インターレース画像を構成する1枚のフィールドを表す図である。図には、水平走査線上に並ぶ画素の画素データに基づいて表示されたひし形の画像Vが示されている。図9は、図8において〇印で示した部分Rの拡大図である。図10〜図12は、従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。なお、以下の説明において、B(0)は補間画素とともに、補間画素の画素データを表し、A(n)およびC(n)は、補間画素B(0)の画素データを生成する際に参照される画素を表すとともに、その画素の画素データを表すものとする。なお、画素A(n),C(n)は、補間画素B(0)に対して補間走査線に隣接する上下の水平走査線上に並ぶ画素である。ここで、nは補間画素B(0)を基準とした場合の、水平走査線方向の画素の配列位置番号を表している。
【0010】
従来の補間技術の第1番目としては、図10に示すように、補間走査線の上に位置する水平走査線上に並ぶ画素の画素データを、そのまま用いる方法である。すなわち、フィールドの奇数番目の走査線1、走査線3、走査線5、…に並ぶ画素の画素データの1つをそのまま補間走査線である偶数番目の走査線2、走査線4、…に並ぶ画素の画素データとする補間処理方法である。なお、補間走査線が奇数番目の走査線である場合には、偶数番目の走査線上に並ぶ画素の画素データを用いて補間処理を行い、補間画素の画素データを生成してもよい。この方法では、
B(0)=A(0)
として補間処理を行う。この方法によると、画像の垂直方向の解像度が2分の1となり、斜線などをうまく補間することができず、生成された補間画素の画素データを基に、ギザギザが極めて目立つ、低品質の画像が合成されてしまう。
【0011】
第2番目の補間技術としては、図11に示すように、補間走査線の上下に位置する2つの走査線上に並ぶ画素の画素データの平均値を算出する方法である。この方法では、
B(0)=(A(0)+C(0))/2
として補間処理を行う。この方法によると、補間処理後において画像に生じるギザギザは若干目立たなくなるが、画像のエッジが劣化することによって、画像がぼけてしまう。
【0012】
さらに、第3番目の補間技術としては、図12に示すように、画像のエッジの方向に注目し、画素間の連続性を示す相関関係を求め、求めた相関関係に基づいて補間処理を行う方法である。具体的には、補間画素に対する上下方向だけでなく、右上から左下方向、および左上から右下方向の全部で3つの方向に位置する画素対の画素データを用いて、これらの画素対の画素データの差分絶対値を計算することによって相関関係を求める。画素対の画素データの差分絶対値が小さければ、画像の連続性は高く、滑らかであるといえる。したがって、相関関係が大きい部分に位置する画素の画素データから、補間画素の画素データを生成すると、滑らかな画像を得ることができるので、差分絶対値が最小となる方向に位置する画素対を抽出し、これらの画素データの平均値を求め、求めた平均値を補間画素の画素データとして生成する。この方法では、
B(0)=(A(−1)+C(1))/2
B(0)=(A(0)+C(0))/2
B(0)=(A(1)+C(−1))/2
をそれぞれ算出し、算出した3つの画素データB(0)のうち、最小値を補間画素の画素データとして生成する。
【0013】
このように、第3番目の補間技術によって補間処理すると、滑らかな画像を合成することができる。
【0014】
しかしながら、第3番目の補間技術によっても、すべてのインターレース画像について高品質な画像が合成できるとは限らない。これは、画像には水平に限りなく近い傾斜エッジが存在する場合があり、このような傾斜エッジの検出は、前記の3方向における相関関係を求めるのみでは不十分だからである。
【0015】
そこで、前述の第3番目の補間技術のように3方向だけでなく、たとえば、5つあるいは7つの方向における画素の相関関係を求めて補間処理を行う補間技術も提案されている。図13は5方向において相関関係を検出する補間技術を説明するための図であり、図14は7方向において相関関係を検出する補間技術を説明するための図である。このように、補間処理を行うために相関関係を求める方向を増やすことで、画素間に相関関係がある方向を正確に決定することができる。
【0016】
しかしながら、これらの補間技術にも問題がある。それは、本来は関連性が低い画素間であるにもかかわらず、関連性が高いと判断されてしまう場合があることである。たとえば、図14に示す画素A(−3),C(3)、あるいは、画素A(3),C(−3)のように、補間画素B(0)から遠い画素間における画素データは、補間画素の画素データとのデータ的な関連性は低い場合が多い。しかしながら、画素A(−3),C(3)、あるいは、画素A(3),C(−3)の画素データがたまたま一致するような場合は、この画素間の相関関係が大きいと判断されてしまう。そして、補間画素の画素データは、画素A(−3),C(3)の画素データに基づいて生成される。このような場合は、補間画素B(0)の画素データは、隣接する画素の画素データとは不連続で全く異なる値が設定されてしまうこととなり、極めて目立つノイズとなってしまう。
【0017】
そこで、このように補間処理がうまくいかず、妥当な画素データの生成が行われない「補間ミス」を低減すべく、改良された技術として、特開平5−153562号公報には、以下のような補間技術が提案されている。
【0018】
当該技術において参照される画素は、図14に示すように7方向に位置する14個の画素である。この7方向の中から、補間画素の画素データを生成することとなる補間方向を所定の方法で決定している。
【0019】
まず、図14に示す画素A(−1),C(1)、画素A(0),C(0)、画素A(1),C(−1)が含まれる領域を第1の領域とし、当該領域における3方向について相関性(相関関係)を判断する。そして、この第1の領域における斜め方向、すなわち、画素A(−1)と画素C(1)とを結ぶ方向、あるいは、画素A(1)と画素C(−1)とを結ぶ方向に相関関係があるか否かを判断し、相関関係がある場合には、画素A(0)と画素C(0)とを結ぶ方向に対してさらに浅い角度を成す方向についても相関関係を判断する。浅い角度を成す方向とは、画素A(1)と画素C(−1)、画素A(2)と画素C(−2)および画素A(3)と画素C(−3)、あるいは、画素A(−1)と画素C(1)、画素A(−2)と画素C(2)および画素A(−3)と画素C(3)とを結ぶ方向である。すなわち、最初の段階で画素A(1)と画素C(−1)に相関関係があると判断されたならば、画素A(1),C(−1)、画素A(2),C(−2)、画素A(3),C(−3)を含む領域を第2の領域として、各画素間の相関関係を判断する。他方、画素A(−1)と画素C(1)に相関関係があると判断されたならば、画素A(−1),C(1)、画素A(−2),C(2)、画素A(−3),C(3)を含む領域を第3の領域として、各画素間の相関関係を判断し、最も相関関係が大きいものを補間方向として決定し、決定した補間方向に基づいて補間画素の画素データを生成している。
【0020】
他の補間技術として、特開2000−4449号公報に開示の補間技術がある。当該技術において参照される画素は、図13に示すように5方向に位置する10個の画素である。この5方向の中から、補間画素の画素データを生成することとなる補間方向を所定の方法で決定している。図13に示すように、一方のフィールドの画素間の相関関係をA番目の水平走査線上に並ぶ各画素の画素データA(−2)〜A(2)とC番目の水平走査線上に並び、A番目の前述の画素に対応する画素の画素データC(−2)〜C(2)との差に基づき、各方向の相関関係を評価し、5方向のうち、相関評価指数の値が最も小さい方向を補間軸として定めている。なお、高域成分が最も多く含まれている画素成分に基づいて上下の水平走査線上に並ぶ所定画素の相関関係を評価して、補間軸を決定する技術、均等色空間の座標値に基づいて上下の水平走査線上に並ぶ所定画素の相関関係を評価して補間軸を決定する方法についても示されている。
【0021】
【発明が解決しようとする課題】
前述の補間技術によれば、いずれの技術を用いても補間処理が必ずしも正確に行われない場合があり、結果として、生成された補間画素の画素データから成る画像には、本来滑らかな輪郭線であるべき部分に凹凸が発生したり、ノイズが目についたりする補間ミスが発生するといった問題がある。このような補間ミスが発生するのは、画像のエッジが常に、デジタル化された画像中の画素に沿って存在しているわけではないからである。
【0022】
図15は、画像のエッジとなる部分がデジタル化された画像中の画素の配列方向に沿って存在しない例を示す図である。図のように、エッジを示す直線Lは、画素A(0)と画素A(1)との境界部分から画素C(−1)と画素C(0)との境界部分を横切って存在している。画素A(0),A(1),C(−1),C(0)の画素データはそれぞれ、5、5、6、3であり、画素A(3),C(−3)の画素データは、両者とも「X」であって、同じ値である。なお、「X」は、他の画素の画素データとの相関は低いものとする。このような画像は、印刷などと比べ、解像度があまり高くない画像、たとえば、インターレース走査方式を採用するNTSC(National Television Committee System)方式によるテレビの画像を、デジタル化した画像として取り扱う場合に十分生じ得る。
【0023】
図15に示す画像において、前述の第1〜第3番目の補間技術によって、補間画素B(0)の画素データを生成する場合、補間処理は正確に行われない。すなわち、画素A(0)と画素C(0)との差分絶対値は2であり、画素A(1)と画素C(−1)との差分絶対値は1であるのに対して、画素A(3)と画素C(−3)との差分絶対値は0であるため、差分絶対値が一番小さい画素A(3)と画素C(−3)との相関関係が一番大きいものと判定されるからである。結果的に、相関関係が必ずしも大きくない画素A(3)と画素C(−3)との画素データの平均値が補間画素B(0)の画素データとして生成されるため、補間画像の品質が低下する。
【0024】
また、前述の特開平5−153562号公報に開示の技術によっても、当該画像の補間処理は正確に行われない。第1の領域の判定によって斜め方向に相関関係があるとされると、第2の領域の判定がなされ、最終的に、画素A(3)と画素C(−3)を結ぶ方向が相関関係が大きいと判断されるので、同様の問題を有している。また、特開2000−4449号公報に開示の技術を用いても同様に補間ミスが生じる。
【0025】
さらに、前述とは逆の場合、すなわち、画素A(3),C(−3)の画素データを用いて補間処理を行うのが正しい場合でも、補間ミスは生じる。
【0026】
特開平5−153562号公報に開示の技術によると、次のような補間ミスが生じる。図16は、図15の画像を第1、第2および第3の領域に区切った図である。当該技術では、まず、図に示す画素A(0),C(0)、画素A(−1),C(1)、画素A(1),C(−1)とから成る第1の領域における3方向の相関関係が求められるが、画素A(−1),C(1)、画素A(1),C(−1)において、相関関係が大きいと判断されない場合、たとえば、画素A(−1)と画素C(1)との差分絶対値が1の場合には、画素A(1)と画素C(−1)との差分絶対値と同じ値であるため、相関関係を示す方向はいずれでもないと判定される。したがって、この場合、次の判定ステップとしての第2および第3の領域における相関関係は判定されないため、画素A(−3)と画素C(3)とを結ぶ方向、すなわち、浅い角度のエッジが検出されないことになる。したがって、画素A(−3)と画素C(3)とを結ぶ方向のように、相関関係が最も大きい方向があっても、補間画素データの生成には用いられない場合が生じるのである。
【0027】
また、別の問題として、前述の補間技術によると、1枚のフィールドのみを用いて1枚のフレームを合成しているため、補間が正しく行われても、所定の部分については画像が劣化してしまう場合がある。これは、フィールド間において、画像に時間的なずれがない部分についても補間処理を行うからである。すなわち、フィールド間で画素データの変動がほとんどなく、画像に動きの無いとされる部分は、他方のフィールドの画素の画素データをそのまま用いれば足りるところ、線形補間などの補間処理を行うために、画像がぼけてしまうからである。
【0028】
本発明の目的は、補間ミスの発生を極力抑えることができ、高品質な画像を合成することができる補間処理方法、補間処理プログラムおよびこれを記録した記録媒体を提供することであり、さらに、前記補間処理方法を用いて画像を処理する画像処理装置およびこれを備えた画像形成装置を提供することである。
【0029】
【課題を解決するための手段】
本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに当該補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0030】
また本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理部を備える画像処理装置において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定める補間方向設定手段と、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記複数種類の補間方向ごとに抽出する抽出手段と、
前記抽出手段によって抽出されたブロック対ごとに、2つのブロック間の相関関係を求める相関関係導出手段と、
前記相関関係導出手段によって求められた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択する選択手段と、
前記選択手段によって選択された補間方向に関して前記補間画素を起点としたときに前記補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成する画素データ生成手段とを含むことを特徴とする画像処理装置である。
【0031】
本発明に従えば、補間画素を起点として双方向に向いた複数種類の補間方向が定められる。これらの補間方向先に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックがブロック対として複数組抽出され、ブロック対ごとにブロック間の相関関係が求められる。この相関関係に基づいて、複数種類の補間方向の中から少なくとも1つの補間方向が選択される。そして、選択された補間方向に関し、補間画素を起点としたときに、補間方向先の双方にそれぞれ位置する画素が選択される。選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0032】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0033】
また本発明は、複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
同じ数の画素から成る2つのブロックであって、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を複数組抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数組のブロック対の中から少なくとも1つのブロック対を選択し、選択したブロック対の2つのブロック間の相関方向を求め、求めた相関方向を補間方向として定め、
定めた補間方向に関して前記補間画素を起点としたときに当該補間方向先に位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0034】
本発明に従えば、補間画素を対称点として互いに点対称の位置関係にある2つのブロックが、1つのブロック対として複数組抽出され、複数組のブロック対ごとにブロック間の相関関係が求められる。この相関関係に基づいて、複数組のブロック対の中から、少なくとも1つのブロック対が選択され、選択されたブロック対の2つのブロック間の相関関係に基づいて、複数組のブロック対の中から少なくとも1つのブロック対が選択される。選択されたブロック対の2つのブロック間の相関方向が求められ、この相関方向は補間方向として定められる。そして、定められた補間方向に関し、補間画素を起点としたときに、補間方向先に位置する画素が選択され、選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0035】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0036】
また本発明は、インターレース走査によって得られた1フィールドの画像に対して当該フィールドの水平走査線間に設定される補間走査線上に設定された補間画素の画素データを、前記水平走査線上に並ぶ複数の画素の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
前記補間画素が設定されている補間走査線を挟む2つの水平走査線上にそれぞれ並ぶ同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに前記選択した補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法である。
【0037】
本発明に従えば、まず、フィールドの水平走査線間に設定される補間走査線上に並ぶ補間画素を起点として双方向に向いた複数種類の補間方向が定められる。補間走査線を挟む2つの水平走査線上に並ぶ2つのブロックであって、定められた補間方向先に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対が複数組抽出される。抽出されたブロック対ごとにブロック間の相関関係が求められ、求められた相関関係に基づいて、少なくとも1つの方向が補間方向として選択される。そして、選択された補間方向に関し補間画素が起点とされたときに、補間方向先に位置する画素が選択され、この選択された画素の画素データに基づいて、補間画素の画素データが生成される。
【0038】
このように、ブロック間の相関関係は、ブロック内の複数の画素を用いて求めることができるので、単純に1対の画素間で求める場合に比べると、信頼性の高い相関関係を求めることができる。したがって、信頼性の高い相関関係に基づいて、信頼性の高い補間方向を選択することができるので、精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0039】
また本発明は、前記2つのブロック間の相関関係は、
前記2つのブロックの画素の中から、前記補間画素を対称点として互いに点対称の位置関係にある画素対のうち、少なくとも1組の画素対を基準画素対として定め、前記基準画素対以外の画素を補助画素とし、
前記基準画素対の画素データの差分絶対値を算出するとともに、2つのブロック間で相互に対応関係にある補助画素間の画素データの差分絶対値を算出し、
算出した各差分絶対値に基づいて求めることを特徴とする。
【0040】
本発明に従えば、2つのブロック間の相関関係は、補間画素を対称点として互いに点対称の位置関係にある基準画素対の画素データの差分絶対値と、基準画素以外の補助画素間の画素データの差分絶対値を算出する。
【0041】
このように、基準画素間の相関関係を基準とし、さらに、補助画素間の相関関係を求めるので、1の画素間で相関関係を求める場合と比べると、ブロック間の相関関係の信頼性を、複数の補助画素間の相関関係によって高めることができる。
【0042】
また本発明は、補助画素間の画素データの差分絶対値を算出するときは、補助画素間を結んで成る線分が、前記基準画素間を結んで成る線分とほぼ平行となるような補助画素間について画素データの差分絶対値を算出することを特徴とする。
【0043】
本発明に従えば、基準画素間を結んで成る線分が、補助画素間を結んで成る線分にほぼ平行となるような補助画素間の画素データの差分絶対値を算出する。このように、補助画素間を結ぶ線分が基準画素を結ぶ線分とほぼ平行となるような補助画素を選んで相関関係を求めるので、基準画素間の相関関係に対応した相関関係を求めることができる。
【0044】
また本発明は、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択するときは、前記複数種類の補間方向を近似する方向ごとにグループ分けし、各グループの中でその補間方向先の双方に位置する画素間の相関関係が最も大きい補間方向を抽出し、各グループから抽出された補間方向の相関関係を比較して補間方向を選択することを特徴とする。
【0045】
本発明に従えば、少なくとも1つの補間方向が選択されるときは、複数の補間方向が近似する方向ごとにグループ分けされ、各グループの中でその補間方向先の双方に位置する画素間の相関関係が最も大きい補間方向が抽出される。各グループから抽出された補間方向の相関関係が比較されて、補間方向が選択される。
【0046】
このように、補間方向の選択には、近似する方向ごとにグループ分けされた各グループから1つの補間方向を抽出し、抽出した補間方向を比較し、抽出した補間方向の関係によって、1つの補間方向を選択するので、複数の補間方向の中から相関関係が一番大きいものを単純に選択する場合に比べて、相関方向に基づいた正確な補間方向を選択することができる。
【0047】
また本発明は、補間処理対象のフィールドとこのフィールドと1フレームを構成する対応フィールドとの間の相関関係を求め、求めた相関関係が予め定める関係である場合は、前記補間方向の選択を行わずに、前記対応フィールドにおける前記補間画素に対応する画素の画素データを補間画素の画素データとして生成することを特徴とする。
【0048】
本発明に従えば、まず、補間処理対象のフィールドと、このフィールドと1フレームを構成する対応フィールドとの間の相関関係が求められる。求めたフィールド間の相関関係が予め定める関係となる場合には、補間方向の選択は行われない。この場合、対応フィールドにおける補間画素に対応する画素の画素データが補間画素の画素データとして生成される。
【0049】
このように、フィールド間の相関関係が大きく、予め定める関係となる場合、たとえば、フィールド間に画像の動きがない場合には、無理に補間処理を行わなくとも、対応フィールドの画素データをそのまま用いることで、もとの画像により近い画像を再現することができるので、画像の劣化を防止することができる。
【0050】
また本発明は、前記補間画素の画素データを生成した後、前記補間画素の画素データと前記補間画素の周囲に位置する所定の複数画素の画素データとを比較して、生成した前記補間画素の画素データに誤りが生じているか否かを判定し、誤りが生じている場合には、所定の画素の画素データを用いて新たな画素データを生成し、生成した新たな画素データを前記補間画素の画素データとして置き換えることを特徴とする。
【0051】
本発明に従えば、補間画素の画素データを生成した後に、当該画素データの値の妥当性を検証すべく、補間画素の画素データと補間画素の周囲に位置する所定の複数画素の画素データとが比較され、生成した補間画素の画素データに誤りが生じているか否かが判定される。画素データの誤りとは、たとえば、生成した画素データが孤立点状態となっている場合が挙げられる。生成した補間画素の画素データに誤りが生じている場合には、所定の画素の画素データが用いられて新たな画素データが生成される。そして、この生成された新たな画素データが補間画素の画素データとして置き換えられる。
【0052】
このように、補間画素の画素データを生成した後、生成した画素データに誤りが生じていれば、再補間処理を行うことによって、より正確な画素データを生成することができる。したがって、補間ミスの発生をさらに抑えることができる。
【0053】
また本発明は、前記画素データは、輝度値であることを特徴とする。
本発明に従えば、補間処理には輝度値を用いるので、モノクロおよびカラー画像の双方の画像の補間処理に対応することができる。
【0054】
また本発明は、コンピュータに上記の補間処理方法を実行させるための補間処理プログラムである。
本発明に従えば、補間処理をコンピュータに実行させることができる。
【0055】
また本発明は、上記の補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体である。
【0056】
本発明に従えば、補間処理方法を実行する補間処理プログラムをコンピュータに容易に供給することができる。
【0057】
また本発明は、上記の画像処理装置を備え、前記画像処理装置によって補間処理が施された画像データに基づいて画像を形成し、出力することを特徴とする画像形成装置である。
【0058】
本発明に従えば、前述の画像処理装置によって生成された補間画素の画素データを用いて成る高画質の画像を出力することができる。
【0059】
【発明の実施の形態】
[第1実施形態]
図1は、本発明の実施の一形態である補間処理方法の処理手順を示すフローチャートである。本発明の補間処理方法の対象となる画像は、特に、インターレース走査方式による画像(「インターレース画像」)であり、インターレース画像は、2枚のフィールドから1枚のフレームが構成される。なお、以下の説明における画素データの例としては、輝度値が挙げられるが、輝度値のみならず、色の値を示す色差などの画素データであってもよい。
【0060】
インターレース画像を、一時停止させて静止画像として表示させる場合、あるいは、液晶テレビなどのノンインターレース走査方式を採用する表示装置に表示させる場合、以下のような補間処理を行う。
【0061】
まず、フィールドを構成する画素の画素データが入力され、ステップa1では、補間処理が開始される。画素データの入力は、1画素ごと、1走査線ごと、1プレーンごとなど、どのような入力でも構わない。ここにいうプレーンとは、色成分ごとの画素データをいう。補間画素に対する所定の周囲画素の画素データが入力された時点で、次の処理が開始される。それまでは、随時画素データの入力が行われる。
【0062】
ステップa2では、画像ノイズ部分の抽出が行われる。画像ノイズ部分とは、フリッカノイズから成るノイズ部分をいう。被写体に動きがあると、2つのフィールド間での被写体像のずれが生じるが、このずれが生じている2つのフィールドの画素の画素データを基に画像を合成すると、画像上では1走査線おきのずれとなり、ノイズとなって現れる。このノイズがフリッカノイズである。このように、被写体に動きがある場合、合成された画像の画質は劣悪となってしまうため、まず、このフリッカノイズが画像のいずれの部分に存在するのかを抽出する必要がある。
【0063】
図2は、画像ノイズ部分を抽出する抽出処理を説明するための図である。抽出処理には、補間画素B(0)の上下2本の水平走査線上に並ぶ画素の画素データであって、補間画素B(0)の垂直方向に位置する各2画素の画素データが参照される。図では、上部2本の水平走査線上に並ぶ画素A(0),D(0)の画素データと、下部2本の水平走査線上に並ぶ画素C(0),E(0)の画素データが参照されている。
【0064】
なお、ここにいう補間画素B(0)とは、補間画素の画素データが生成される補間処理対象のフィールドに対応するフィールド、すなわち、補間処理対象のフィールドと1フレームを構成するフィールド上の画素であって、当該画素は、補間画素に対応する位置にある。なお、以下の説明では、画素を示す参照符号「B(0)」などは、画素を表すとともに、その画素の画素データを表すものとする。
【0065】
まず、参照する画素の画素データから、補間画素B(0)と画素D(0)との画素データの差分絶対値、すなわち、|D(0)−B(0)|を算出するとともに、補間画素B(0)と画素E(0)との画素データの差分絶対値、すなわち、|E(0)−B(0)|を算出する。算出結果のうち、小さい値を選択する。さらに、画素A(0)と画素C(0)との画素データの差分絶対値、すなわち、|A(0)−C(0)|を算出し、先に選択した小さい値と比較する。この2つの値のうち、大きい値をD1とする。
【0066】
次に、補間画素B(0)の画素データを生成しようとするフィールドにおいて、+1/4画素分だけずれた位置の画素データを以下の式(1)によって算出する。
S1=B(0)×3+E(0) …(1)
【0067】
同様に、もう一方のフィールドにおいて、+1/4画素分だけずれた位置の画素データを以下の式(2)によって算出する。
S2=A(0)+C(0)×3 …(2)
【0068】
そして、式(1)および(2)の算出結果の差分絶対値、|S1−S2|を算出する。さらに、|S1−S2|と、D1にある定数値を掛けた値を比較することで、画像ノイズ部分であるか否かを判定する。|S1−S2|の方が、D1にある定数値を掛けた値よりも大きければ、補間画素B(0)は、画像ノイズ部分であるとする。逆に、|S1−S2|の方が小さければ、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データを算出することによって、画像ノイズ部分であるか否かの判定を続ける。なお、補間画素B(0)が画像ノイズ部分であると判定された場合でも、補間処理の正確性を高めるため、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データの算出を行ってもよい。
【0069】
補間画素B(0)の画素データを生成しようとするフィールドにおいて、−1/4だけずれた位置の画素データを算出するため、以下の式(3)を計算する。
S3=B(0)×3+D(0) …(3)
【0070】
同様に、もう一方のフィールドにおいて、−1/4画素分だけずれた位置の画素データを算出するため、以下の式(4)を計算する。
S4=C(0)+A(0)×3 …(4)
【0071】
そして、式(3)および(4)の算出結果の差分絶対値、|S3−S4|を算出し、|S3−S4|と、D1にある定数値を掛けた値を比較する。|S3−S4|とD1との関係から、D1にある定数値を掛けた値よりも|S3−S4|の方が、D1にある定数値を掛けた値よりも大きければ、補間画素B(0)は、画像ノイズ部分であると判定する。逆に、|S3−S4|の方が小さければ、画像ノイズ部分ではないと判定する。
【0072】
以上のように、フィールド間の相関関係を画素データの差に基づいて求めることで、画像ノイズ部分を抽出することができる。これは、フィールド間の画素データの変化が大きければ、相関関係が低いものであり、画像ノイズ部分である可能性が大きいということに基づく。
【0073】
ステップa3では、ステップa2における判定結果に基づいて、画像ノイズ部分であるか否かが判断される。画像ノイズ部分であると判断された場合にはステップa4に進み、画像ノイズ部分でないと判断された場合にはステップa9に進む。
【0074】
ステップa9では、補間走査線が設定されるフィールドに対応する対応フィールドの画素データが抽出され、この画素データをそのまま補間画素の画素データとして生成する。すなわち、補間画素が画像ノイズ部分でないと判定されると、補間画素の画素データとして、対応フィールドの画素データをそのまま用いるのである。
【0075】
ステップa4では、補間方向が複数設定される。補間方向は、補間画素B(0)を起点として双方向に向いた複数種類の方向である。
【0076】
図3は、補間画素B(0)の補間処理の際に参照する画素を表した図である。図中の、補間画素B(0)を含む左右方向(水平方向)1列の走査線が補間走査線である。補間走査線上に並ぶ補間画素の補間処理に参照される画素は、補間走査線を挟む走査線であって、補間走査線の上下に位置する水平走査線上に並んでいる画素である。すなわち、画素A(n)および画素C(n)(nは整数)である。
【0077】
補間画素B(0)に対する補間方向は、画素A(−3)とC(3)間、画素A(−2)とC(2)間、画素A(−1)とC(1)間、画素A(0)とC(0)間、画素A(1)とC(−1)間、画素A(2)とC(−2)間、画素A(3)とC(−3)間を結ぶ線分上の7方向である。
【0078】
ステップa5では、ブロック対が補間方向ごとに抽出される。ブロック対を構成する2つのブロックは、補間走査線の上下の水平走査線上に並ぶ同じ数の画素から成る。ここでは、1のブロックの構成画素は3画素であり、これら3画素は水平方向に連続して並んでいる。2つのブロックの位置関係は、補間画素を対象点として互いに点対称となっている。
【0079】
具体的には図3を参照して、たとえば補間方向が、画素A(−3)とC(3)間を結ぶ線分上の方向であるとすると、ブロック対は、画素A(−4),A(−3),A(−2)の3画素で構成されるブロックと、画素C(2),C(3),C(4)の3画素で構成されるブロックとから成る。補間方向は7方向であるので、他の6つのブロック対は、
画素A(−3),A(−2),A(−1)のブロックと画素C(1),C(2),C(3)のブロックとから成るブロック対、
画素A(−2),A(−1),A(0)のブロックと画素C(0),C(1),C(2)のブロックとから成るブロック対、
画素A(−1),A(0),A(1)のブロックと画素C(−1),C(0),C(1)のブロックとから成るブロック対、
画素A(0),A(1),A(2)のブロックと画素C(−2),C(−1),C(0)までのブロックとから成るブロック対、
画素A(1),A(2),A(3)までのブロックと画素C(−3),C(−2),C(−1)のブロックとから成るブロック対、
画素A(2),A(3),A(4)のブロックと画素C(−4),C(−3),C(−2)のブロックから成るブロック対である。
【0080】
ステップa6では、ブロック対ごとの相関関係を求めるため、各ブロック対におけるブロック間の相関値が算出される。相関値とは、相関関係を数値で表したものである。具体的には、1のブロックの画素と当該画素に対応する他方のブロックの画素との画素データの差分絶対値をそれぞれ算出し、算出した差分絶対値の総和を算出する。そして、算出した総和に所定の重み係数を掛けることによって、ブロックの相関値とする。
【0081】
図3を用いて説明する。たとえば、画素A(−4)〜A(−2)までのブロックと、それに対応する画素C(2)〜C(4)までのブロックでは、ブロック対を構成する2つのブロック間において、画素間の画素データの差分絶対値が算出される。すなわち、画素A(−4)とC(2)、画素A(−3)とC(3)、画素A(−2)とC(4)のそれぞれの差分絶対値が算出され、算出された差分絶対値の総和が求められる。この総和に対し、所定の重み係数が掛けられる。他の6個のブロック対についても、同様に相関値を算出する。この2つのブロックにおいては、補間方向が画素A(−3)とC(3)間を結ぶ線分上の方向であるので、画素A(−3)とC(3)の1組の画素対が基準画素対として定め、この基準画素対以外の画素、すなわち、画素A(−4),A(−2),画素C(2),C(4)を補助画素として定める。
【0082】
ここで、相関値の算出に用いる画素の組み合わせを、前述のように設定すると、当該画素間を結んで成る線分は、他の線分とほぼ平行となる。すなわち、画素A(−4)とC(2)、画素A(−3)とC(3)、画素A(−2)とC(4)とを結ぶ線分は、ほぼ平行である。このように、画素間を結ぶ各線分が互いにほぼ平行となるため、算出される相関値は互いに対応がとれていることになる。これによって、相関値の信頼性を高めることができる。
【0083】
ステップa7では、補間方向が選択される。算出した7つの相関値のうち、最小の相関値に基づいて、補間方向を選択する。具体的には、補間画素B(0)を対称点として左上方向と右下方向との位置関係にある補間方向を第1のグループとし、右上方向と左下方向との位置関係にある補間方向を第2のグループとしてグループ分けし、各グループにおいて相関値が最小となる補間方向を選択し、選択した補間方向に基づいて1の補間方向を選択する。なお、上下方向は、両方のグループに含めるものとする。
【0084】
すなわち、画素A(−3)とC(3)間、画素A(−2)とC(2)間、画素A(−1)とC(1)間、画素A(0)とC(0)間の補間方向を第1のグループとし、画素A(0)とC(0)間、画素A(1)とC(−1)間、画素A(2)とC(−2)間、画素A(3)とC(−3)間上を通る補間方向を第2のグループとする。そして、第1のグループにおいて、相関値が最小となる補間方向と、第2のグループにおいて、相関値が最小となる補間方向とを選択する。選択された2つの補間方向から、次の条件に基づいて、最終的な補間方向を決定する。
【0085】
選択された2つの補間方向が、双方とも画素A(0)とC(0)間上を通る補間方向である場合、あるいは、双方とも画素A(0)とC(0)間上を通る補間方向でない場合は、画素A(0)とC(0)間上を通る補間方向を補間方向として選択する。
【0086】
これに対し、選択された2つの補間方向のいずれか一方が、画素A(0)とC(0)間上を通る補間方向である場合は、画素A(0)とC(0)間上を通る補間方向ではない他方の方向を、補間方向として選択する。
【0087】
ステップa8では、補間処理が行われる。具体的には、選択された補間方向先の双方にそれぞれ位置する2つ画素を選択し、選択した画素の画素データに基づいて、線形補間処理を行う。
【0088】
ステップa10では、前述のステップa2〜a9の処理が、1の補間走査線について終了したか否かが判断される。処理が終了したと判断された場合にはステップa11に進み、処理が終了していないと判断された場合にはステップa15に進む。ステップa15では、次の補間画素へと対象を移動させる。たとえば、1の補間走査線についての補間処理を、補間画素を1画素ずつ、ずらしながら行う場合は、次の対象となる補間画素は、補間処理が終了した画素の右へ1画素ずれた画素となる。
【0089】
ステップa11では、生成された補間画素の画素データの正当性が評価される。具体的には、対象となる補間画素の周囲に位置する画素であって、対象補間画素を中心とする縦、横、右斜めおよび左斜めの4方向に位置する画素の画素データと、対象補間画素の画素データとを比較し、対象補間画素の画素データが全方向に対して一定値以上の値となるか否かによって評価する。なお、横方向に位置する画素とは、対象補間画素に隣接する補間画素である。対象補間画素の画素データが全方向に対して一定値以上の値となっている場合には、対象補間画素の画素データは正当でないと判断され、一定値より小さい値と成っている場合には、対象補間画素の画素データは正当であると判断される。
【0090】
ステップa12で補間画素の画素データが正当であると判断された場合にはステップa14に進み、正当でないと判断された場合にはステップa13に進む。ステップa13では、再補間処理が行われる。再補間処理には、補間画素の上下に位置する画素の画素データが用いられ、線形補間処理がされる。すなわち、補間画素B(0)の再補間処理には、画素A(0),C(0)の画素データが用いられることになる。
【0091】
この正当性評価は、画像ノイズ部分と判定されて補間処理された補間画素に対して、必ず行われる。なぜなら、補間方向の選択の際に、たまたま条件に合致したために、実際の画像には適合しない補間画素の画素データを生成してしまう場合があり、正確でない補間方向が選択されるということが生じ得るからである。これは、補間処理に参照される画素の範囲が限定されていることによるものである。このことから、正確でない補間方向に基づいて補間処理するよりは、補間画素の上下に位置し、最近傍である画素の画素データを用いて補間処理を行うことで、妥当でない補間画素の画素データが生成されるのを防止することができる。
【0092】
ステップa14では、前述のステップa11〜a13の処理が1の補間走査線について終了したか否かが判断される。1の補間走査線について、処理が終了した場合にはステップa17に進み、補間処理を終了させる。処理が終了していない場合にはステップa16に進む。ステップa16では、補間処理対象を次の補間画素へと移動させる。
【0093】
1の補間走査線における補間処理が終了したならば、次の補間走査線が補間処理の対象となり、当該補間走査線上の補間画素について補間処理が行われる。
【0094】
以上のように、相関関係を示す相関値は、ブロック内の複数の画素を用いて求められるので、単純に1対の画素間で求める場合に比べると、相関値の信頼性が高まる。したがって、この信頼性の高い相関値に基づいて、正確な補間方向を選択することができ、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0095】
次に、前述の補間処理に関し、具体的な数値を用いて説明する。図4は、補間画素B(0)と、その補間処理の際に参照される周囲の画素とを示した図である。図中の数値は、画素データを表しており、図では10進数で示しているが、実際には8ビットデータであり、0〜255の値をとる。なお、補間画素B(0)を含む補間走査線上に並ぶ画素、画素D(0),E(0)が存在するフィールドと、画素A(n),C(n)が存在するフィールドとは、実際には異なるフィールドであるが、便宜上、1つの図で示している。
【0096】
まず、画像ノイズ部分の抽出を行う(ステップa2)。補間画素B(0)に対して上下2画素ずつ、すなわち、上側の画素A(0)および画素D(0)と、下側の画素C(0)および画素E(0)との4画素を参照する。
【0097】
まず、参照する画素の画素データから、補間画素B(0)と画素D(0)および画素E(0)との画素データの差分絶対値を算出する。
|D(0)−B(0)|=|2−1|=1
|E(0)−B(0)|=|0−1|=1
【0098】
ここで、どちらか小さい方を選択するが、ここでは同じ値なので、仮に最初の値を選択することとする。さらに、画素A(0)と画素C(0)との画素データの差分絶対値を算出する。
|A(0)−C(0)|=|5−3|=2
【0099】
算出した2つの値のうち、大きい値をD1とする。
D1=2
【0100】
次に、補間画素B(0)の画素データを生成しようとするフィールドおよびもう一方のフィールドにおいて、それぞれ、+1/4画素分だけずれた位置の画素データを算出する。
S1=B(0)×3+E(0)=1×3+0=3
S2=A(0)+C(0)×3=5+3×3=14
【0101】
S1とS2との差分絶対値と、D1にある定数を掛けた値とを比較することで、画像ノイズ部分であるか否かを判定する。ここでは、ある定数として5を用いる。なお、この定数は、複数の画像に対し、実験的に任意の定数を設定して補間処理を行った結果、得られた最適の数値である。比較を行うと、
|S1−S2|=|3−14|=11>10(=D1×5=2×5)
となり、|S1−S2|の方が大きいので、補間画素B(0)は画像ノイズ部分であると判定する。
【0102】
このように、補間画素B(0)は、画像ノイズ部分であると判定された場合、さらに、両フィールドにおいて−1/4画素分だけずれた位置の画素データを算出する必要はないが、補間処理の正確性を高めるため、両フィールドで、さらに、−1/4画素分だけずれた位置の画素データの算出を行ってもよい。実際には、以下の算出処理は省略しても問題ない。
【0103】
補間画素B(0)の画素データを生成しようとするフィールドおよびもう一方のフィールドにおいて、−1/4画素分だけずれた位置の画素データを算出する。
S3=B(0)×3+D(0)=1×3+2=5
S4=C(0)+A(0)×3=3+5×3=18
【0104】
同様に、S3とS4との差分絶対値とD1に5を掛けた値とを比較する。
|S3−S4|=|5−18|=13>10(=D1×5=2×5)
【0105】
比較した結果、|S3−S4|の方が大きいので、補間画素B(0)は画像ノイズ部分であると判定する。
【0106】
次に、補間方向を複数設定する(ステップa4)。補間方向としては、画素A(−3),C(3)間、画素A(−2),C(2)間、画素A(−1),C(1)間、画素A(0),C(0)間、画素A(1),C(−1)間、画素A(2),C(−2)間、画素A(3),C(−3)間上の7方向を定める。
【0107】
次に、ブロック対を抽出する(ステップa5)。ブロック対を補間方向ごとに抽出するので、前述の7方向に対応させて、
画素A(−4)〜A(−2)のブロックと画素C(2)〜C(4)のブロックから成るブロック対、
画素A(−3)〜A(−1)のブロックと画素C(1)〜C(3)のブロックとから成るブロック対、
画素A(−2)〜A(0)までのブロックと画素C(0)〜C(2)のブロックとから成るブロック対、
画素A(−1)〜A(1)のブロックと画素C(−1)〜C(1)のブロックとから成るブロック対、
画素A(0)〜A(2)までのブロックと画素C(−2)〜C(0)のブロックとから成るブロック対、
画素A(1)〜A(3)のブロックと画素C(−3)〜C(−1)のブロックとから成るブロック対、
画素A(2)〜A(4)のブロックと画素C(−4)〜C(−2)のブロックから成るブロック対の7対を抽出する。
【0108】
そして、ブロック対におけるブロック間ごとに相関値を算出する(ステップa6)。まず、画素A(−4)〜A(−2)のブロックと画素C(2)〜C(4)のブロックから成るブロック対の相関値を算出する。なお、算出した相関値をH1とする。同様に、他の6対のブロック対の相関値を算出し、算出した相関値を順にH2,H3,H5,H6,H7とする。ここで、相関値の算出に用いる重み係数は、H1,H2,H3,H5,H6,H7については2とし、H4については1とする。この重み係数も、実験的にいくつかの画像に対して補間処理を行った結果、得られた値である。重み係数は、補間画素を中心とすると、中心から遠くに離れるほど、大きな重みとし、左右対称となる補間方向には同じ重みとする。
H1={|A(−4)−C(2)|+|A(−3)−C(3)|
+|A(−2)−C(−4)|}×2
=(|0−1|+|0−5|+|1−5|)×2
=20
【0109】
同様に、相関値H2,H3,H4,H5,H6,H7を算出する。
H2=(|0−1|+|1−1|+|2−5|)×2=8
H3=(|1−3|+|2−1|+|5−1|)×2=14
H4=(|2−6|+|5−3|+|5−1|)×1=10
H5=(|5−3|+|5−6|+|1−3|)×2=10
H6=(|5−1|+|1−3|+|1−6|)×2=22
H7=(|1−0|+|1−1|+|5−3|)×2=6
【0110】
このように、相関値の算出に用いる画素間を結んで成る線分を、他の線分とほぼ平行とすることで、算出される相関値は互いに対応がとれていることになる。これによって、相関値の信頼性を高めることができる。
【0111】
そして、補間方向を選択する(ステップa7)。まず、相関値H1〜H7のうち、相関値H1〜H4を第1のグループとし、相関値H7〜H4を第2のグループとする。各グループにおいて相関値が最小値をとる相関値を求める。相関値H1〜H4の中では、相関値H2が最小値をとり、相関値H7〜H4の中では、相関値H7が最小値をとる。ここで、各グループとも相関値H4が選択されてないことから、所定の条件、「双方とも画素A(0)と画素C(0)との組み合わせでない場合は、画素A(0)と画素C(0)間上を通る補間方向を補間方向として選択する」に従い、補間方向として、画素A(0)と画素C(0)とを結ぶ補間方向を選択する。
【0112】
そして、選択した補間方向先の双方にそれぞれ位置する画素の画素データを用いて、補間画素の画素データを生成する(ステップa8)。
B(0)=(A(0)+C(0))/2=(5+3)/2=4
【0113】
以上の処理を1の補間走査線について、補間走査線上に並ぶ画素に対し順番に行う。
【0114】
ここで、図4に示すように、補間画素B(−1),B(1)について、補間処理により、B(−1)=2、B(1)=0として生成され、これらの補間画素が並ぶ補間走査線の補間処理が終了したとする。
【0115】
次に、補間画素B(0)の画素データの正当性を評価する(ステップa11)。具体的には、対象となる補間画素の画素データと、対象補間画素の縦、横、右斜め、左斜めの4方向に位置する画素の画素データとを用いて、1次元のマスク処理を行う。なお、対象補間画素の横方向に位置する画素は、隣接する補間画素である。
【0116】
そして、マスク処理によって算出した値と、予め定められた閾値とを比較することによって、正当性を評価する。ここでマスク処理に用いる1次元のマスクを[−1 2 −1]とし、閾値として用いる値を10とする。この閾値は、実験的にいくつかの画像に対して補間処理を行った結果、目で見て孤立点になっているような画素が選択されている閾値を求めたものである。
【0117】
それぞれの方向についてマスク処理を行い、値を算出する。
縦方向:|5×(−1)+4×2+3×(−1)|=0
横方向:|2×(−1)+4×2+0×(−1)|=6
右斜め:|5×(−1)+4×2+6×(−1)|=3
左斜め:|2×(−1)+4×2+1×(−1)|=5
このように、いずれの方向においても、閾値10より小さい値となったので、補間画素B(0)の画素データは正当であると評価する。したがって、求められた画素データ「4」を最終的に、補間画素B(0)の画素データとする。
【0118】
仮に、縦、横、右斜め、左斜めの4方向において算出した値のいずれかが閾値よりも大きな値となった場合には、再補間処理を行う(ステップa13)。再補間処理とは、画素A(0),C(0)の画素データを用いた線形補間処理である。
【0119】
なお、前述の例では、選択された補間方向は、画素A(0),C(0)間の方向であり、補間処理の正当性評価によって補間が正当でないと判断された場合は、再度、画素A(0),C(0)の画素データを用いて再補間処理を行うことになり、生成した補間画素B(0)の画素データは、「4」となる。
【0120】
以上の処理を1の補間走査線上に並ぶすべての補間画素に対して行う。
なお、前述の例では近傍18画素および画素D(0),E(0)の2画素を用いて補間処理しているが、これ以外の周辺画素数を用いても構わない。
【0121】
[第2実施形態]
次に、本発明の第2実施形態について説明する。図5は、第2実施形態である補間処理方法の処理手順を示すフローチャートである。
【0122】
ステップb1〜ステップb3の処理は、第1実施形態におけるステップa1〜ステップa3の処理と同様である。
【0123】
ステップb3で、画像ノイズ部分であると判断された場合にはステップb4に進み、画像ノイズ部分でないと判断された場合にはステップb8に進む。
【0124】
ステップb8では、ステップa9と同様、補間走査線が設定されるフィールドに対応する対応フィールドの画素データが抽出され、この画素データがそのまま補間画素の画素データとして生成される。
【0125】
ステップb4では、ブロック対が複数組抽出される。このブロック対は、補間画素を対象点として互いに点対象の位置関係にある2つのブロックから成る。
【0126】
ステップb5では、ブロック対ごとに、2つのブロック間の相関関係が求められる。
【0127】
ステップb6では、補間方向が設定される。この補間方向を定めるにあたって、まず、ステップb5において求められた相関関係に基づいて、複数のブロック対の中から少なくとも1つのブロック対が選択され、選択されたブロック対の2つのブロック間の相関方向が求められる。そして、この相関方向を補間方向とする。
【0128】
ステップb7では、補間処理が行われる。補間処理は、ステップb6で定めた補間方向先に位置する画素を選択し、選択した画素の画素データに基づいて生成する。
【0129】
なお、ステップb9〜ステップb16の処理は、第1実施形態のステップa10〜ステップa17の処理と同様である。
【0130】
以上のように、相関関係を示す相関値は、ブロック内の複数の画素を用いて求められるので、単純に1対の画素間で求める場合に比べると、相関値の信頼性が高まる。したがって、この信頼性の高い相関値に基づいて、正確な補間方向を選択することができ、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0131】
[第3実施形態]
続いて、本発明の画像処理装置を構成する補間処理部Aについて説明する。図6は、補間処理部Aの構成を示すブロック図である。補間処理部Aは、画像ノイズ部分抽出手段1、補間方向設定手段2、抽出手段3、補間関係導出手段4、選択手段5、画素データ生成手段6、フィールドデータ抽出手段7、画素データ合成手段8、1走査線終了判定手段9、補間正当性評価手段10および再補間手段11から成る。
【0132】
補間処理部Aの画像ノイズ部分抽出手段1は、アナログデータとして入力され画像処理装置中でA/D(アナログ/デジタル)変換処理された画像データ、あるいは、デジタルの画像データに対し、5本の水平走査線分の画素データをバッファに保持した後、補間対象画素に対する画像ノイズ部分抽出処理を行う。画像ノイズ部分抽出処理によって、画像ノイズ部分でないと判断された部分に対しては、フィールドデータ抽出手段7が現在保持している補間画素の画素データをそのまま抽出する。他方、画像ノイズ部分抽出処理によって、画像ノイズ部分であると判断された部分に対しては、補間方向設定手段2が制御されて、次の処理が行われる。
【0133】
補間方向設定手段2は、補間画素を起点とする補間方向を複数種類定め、定めた補間方向に関する情報を抽出手段3に出力する。
【0134】
抽出手段3は、補間方向に関する情報に基づいて、複数組のブロック対を補間方向ごとに抽出する。ブロック対は、補間方向先の双方に位置し、補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成る。抽出したブロック対に関する情報は、相関関係導出手段4に出力される。
【0135】
相関関係導出手段4は、補間走査線の上下の水平走査線上の画素の画素データを用いて、ブロックの相関値を算出し、算出した相関値を選択手段5に出力する。
【0136】
選択手段5は、相関値に基づいて、相関関係の最も大きい補間方向を探索し、複数種類の補間方向の中から少なくとも1つの補間方向を選択する。選択された補間方向に関する情報は、画素データ生成手段6に出力される。
【0137】
画素データ生成手段6は、補間方向先の上下の水平走査線上の画素の画素データを用いて線形補間処理を行う。
【0138】
1走査線終了判定手段9は、補間処理が1つの補間走査線について終了したか否かを判定する。補間処理が終了していなければ、補間対象を1つ右の画素へとずらす。そして、画像ノイズ部分抽出手段1に制御が移される。補間処理が、1つの補間走査線について終了したと判定された場合には、画素データ合成手段8に制御が移される。
【0139】
画素データ合成手段8は、フィールドデータ抽出手段7で抽出された画素の画素データと、画素データ生成手段6で生成された補間画素の画素データとを合成する。同時に、いずれの画素が補間処理された画素であるかについての情報もあわせて、補間正当性評価手段10に出力する。
【0140】
補間正当性評価手段10は、画素データ合成手段8によって入力された補間走査線上の画素の画素データと、その上下の水平走査線上の画素の画素データと、さらに、補間処理された画素であるかについての情報とを用いて、画素データ生成手段6で補間処理された画素に対してのみ、生成された補間画素の画素データの正当性を評価する。評価結果は、再補間手段11へ出力される。
【0141】
再補間手段11は、評価結果に基づいて次の処理を行う。補間画素の画素データの値が妥当であると判断した場合には、その値をそのまま出力する。他方、補間画素の画素データの値が妥当でないと判断した場合には、補間走査線の上下の水平走査線の画素の画素データを用いて線形補間処理を行い、生成した画素データを出力する。そして、出力された画素データは、画像処理装置の階調補正部に出力される。
【0142】
以上によって、信頼性の高い相関関係に基づいて、正確な補間方向を選択するとができるので、正確な補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0143】
図7に、本発明のカラー画像処理装置Bを備えるカラー画像形成装置Cのブロック図である。
【0144】
図7に示すように、カラー画像処理装置Bは、A/D変換部30、補間処理部A、入力階調補正部31、領域分離処理部32、空間フィルタ処理部33、変倍処理部34、色空間変換部35、色補正部36、黒生成下色除去部37、出力階調補正部38および階調再現処理部39とを備える。
【0145】
このカラー画像処理装置Bに、カラー画像入力装置(アナログ入力装置)50aあるいは、カラー画像入力装置(デジタル入力装置)50bと、カラー画像出力装置51とが接続され、たとえば複合機やプリンタなどのカラー画像形成装置Cを構成している。
【0146】
カラー画像入力装置50aは、たとえばTVチューナやビデオカメラなどのインターレース画像読取部によって構成され、TV局からのNTSC信号などのテレビ信号や、ビデオカメラのCCD(Charge Coupled Device)から入力されるRGB(R:赤・G:緑・B:青)のアナログ信号を、カラー画像処理装置Bに入力するものである。カラー画像処理装置Bにデジタルのカラー画像入力装置50bが接続されている場合、デジタルTV信号やデジタルビデオカメラ出力など、デジタル信号が入力される。その場合には、A/D変換部30は必要ない。
【0147】
このカラー画像出力装置51は、画像データを紙などの記録媒体上、あるいは、ディスプレイなどの表示媒体上に出力するもので、たとえば、電子写真方式やインクジェット方式を用いた画像出力装置、テレビなどの画像表示装置を挙げることができるが特に限定されるものではない。
【0148】
カラー画像入力装置にて読み取られたアナログ信号の画像データは、カラー画像処理装置B内を、A/D変換部30、補間処理部A、入力階調補正部31、領域分離処理部32、空間フィルタ処理部33、変倍処理部34、色空間変換部35、色補正部36、黒生成下色除去部37、出力階調補正部38および階調再現処理部39の順で処理され、C,M,Y,K(C:シアン、M:マゼンタ、Y:イエロー)の各デジタルカラー信号として、カラー画像出力装置51へ出力される。
【0149】
入力がデジタル信号の画像データの場合は、カラー画像処理装置B内を、補間処理部Aから階調再現処理部39へと順に処理され、同様にC,M,Y,Kの各デジタルカラー信号として、カラー画像出力装置へ出力される。
【0150】
A/D変換部30は、カラー画像入力装置50aから入力されるY,Cb,Crの各アナログ信号をデジタル信号に変換して、補間処理部Aに出力する。
【0151】
補間処理部Aでは、A/D変換部30において、A/D変換処理された画像データ、あるいは、カラー画像入力装置50bから入力されたY,Cb,Crの各画像データに対し、画像データを構成する複数の画素の画素データを用いて、画素間に設定される補間画素の画素データを生成する。生成した画素データを入力階調補正部31に出力する。
【0152】
入力階調補正部31は、補間処理部Aにて補間処理されたY,Cb,Crの各信号に対して、必要に応じてトーンスケールの補正処理やカラーバランスの補正処理を行う。処理されたY,Cb,Crの各信号は、領域分離処理部32に出力される。
【0153】
領域分離処理部32は、入力されたY,Cb,Crの各信号の画像データに基づいて、画像を構成する各画素を文字領域、網点領域、写真領域のいずれかに分離する領域分離処理を行う。領域分離処理部32は、分離結果に基づき、画素がいずれの領域に属しているかを示す領域識別信号を、空間フィルタ処理部33、黒生成下色除去部37および階調再現処理部39に出力するとともに、入力階調補正処理部31から入力された入力信号をそのまま空間フィルタ処理部33に出力する。
【0154】
空間フィルタ処理部33は、領域分離処理部32から入力されたY,Cb,Crの各信号の画像データに対して、領域識別信号をもとに、デジタルフィルタによる空間フィルタ処理を行い、空間周波数特性を補正することによって出力画像のぼやけや粒状性劣化を防ぐ処理を行う。
【0155】
たとえば、領域分離処理部32にて文字に分離された領域に関しては、特に黒文字あるいは色文字の再現性を高めるために、空間フィルタ処理の鮮鋭強調処理によって高周波数の強調量の増大がなされる。また、領域分離処理部32によって網点に分離された領域に関しては、入力網点成分を除去するためのローパス・フィルタ処理が施される。空間フィルタ処理部33は、空間フィルタ処理されたY,Cb,Crの各信号の画像データを変倍処理部34に出力する。
【0156】
変倍処理部34では、ユーザからの指定などに応じて、出力画像の解像度や大きさに応じて、拡大や縮小などの変倍処理によって、画像データを所定のサイズに変更する。変倍処理されたY,Cb,Crの各信号の画像データは、色変換処理部35に出力される。
【0157】
色空間変換部35は、入力されたY,Cb,Crの各信号の画像データを、CMYの色空間に変換し、C,M,Yの各信号(CMY信号)の画像データとし、これを色補正部36に出力する。
【0158】
色補正部36は、カラー画像出力装置51の出力形式に合わせた色補正を行い、色補正したCMY信号の画像データを黒生成下色除去部37に出力する。
【0159】
黒生成下色除去部37は、入力されたCMY信号から、黒(K)信号を生成する黒生成処理と、もとのCMY信号から黒生成処理で得られたK信号を差し引いて新たなCMY信号を生成する処理とを行い、CMY信号をC,M,Y,Kの4色信号(CMKY信号)に変換する。黒生成下色除去処理は、一般的な方法であるスケルトンブラックによって行われる。スケルトンブラックによる黒生成下色除去処理は、スケルトンカーブの入出力特性をy=f(x)とし、入力される信号をC,M,Yとし、出力される信号をC’,M’,Y’,K’とし、UCR(Under Color Removal)率をα(0<α<1)とすると、以下の式(5)〜(8)で表される。なお、minは、最小値(minimum)を表す。
K’=f{min(C,M,Y)} …(5)
C’=C−αK’ …(6)
M’=M−αK’ …(7)
Y’=Y−αK’ …(8)
【0160】
階調再現処理部39は、CMYK信号の画像データに対して、空間フィルタ処理部33と同様に、領域識別信号をもとに所定の処理を施する。
【0161】
たとえば、領域分離処理部32にて文字に分離された領域は、特に黒文字或いは色文字の再現性を高めるために、階調再現処理部39においては、高域周波数の再現に適した高解像度のスクリーンでの二値化または多値化処理が選択される。
【0162】
また、領域分離処理部32にて網点に分離された領域に関しては、出力階調補正部38で、濃度信号などの信号をカラー画像出力装置51の特性値である網点面積率に変換する出力階調補正処理を行った後、最終的に画像を画素に分離してそれぞれの階調を再現できるように処理する階調再現処理(中間調生成)を行う。領域分離処理部32にて写真に分離された領域に関しては、階調再現性を重視したスクリーンでの二値化または多値化処理を行う。
【0163】
以上の各処理が行われた画像データは、カラー画像処理装置Bの有する画像メモリに一旦記憶され、所定のタイミングで読み出されてカラー画像出力装置51に入力される。
【0164】
前述のカラー画像処理装置Bの説明において、補間処理部Aは、A/D変換処理部30の処理後に用いられているが、本発明はこの形態に限定されるものではなく、Y,Cb,Crデータを扱う部分であれば、どこに用いても構わない。
【0165】
前述の補間処理手順は、補間処理プログラム、あるいは、他の処理と組み合わせた画像処理プログラムによってコンピュータに実行させることができる。補間処理プログラムは、コンピュータ読み取り可能な記録媒体に記録される。たとえば、プリンタドライバとして適用することができる。これによって、補間処理プログラムを記録した記録媒体を持ち運び自在に提供することができる。
【0166】
この補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体としては、マイクロコンピュータに補間処理手順を行わせるためメモリ、たとえばROM(Read Only Memory)のようなものそのものがプログラムメディアであってもよい。また、外部記憶装置としてプログラム読み取り装置が設けられ、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであっても良い。
【0167】
いずれの場合においても、格納されている補間処理プログラムはマイクロプロセッサがアクセスして実行させる構成であってもよい。補間処理プログラムを読み出し、読み出されたプログラムは、マイクロコンピュータのプログラム記憶エリアにダウンロードされて、実行される方式であってもよい。このダウンロード用のプログラムは予め画像処理装置Bに格納されているものとする。
【0168】
ここで、前述のプログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープなどのテープ系、フロッピディスクやハードディスクなどの磁気ディスクやCD−ROM(Compact Disk Read Only
Memory)、MO(Magneto Optical)、MD(Mini Disk)およびDVD(Digital Versatile Disk)などの光ディスクのディスク系、IC(Integrated
Circuits)カード(メモリカードを含む)、光カードなどのカード系あるいはマスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュROMなどによる半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。
【0169】
また、本実施形態においては、インターネットを含む通信ネットワークを接続可能なシステム構成であることから、通信ネットワークから補間処理プログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。なお、このように通信ネットワークから、補間処理プログラムをダウンロードする場合には、そのダウンロード用のプログラムを予め本体装置に格納しておくか、あるいは、別の記録媒体からインストールされるものであってもよい。
【0170】
前述の記録媒体は、デジタルカラー画像形成装置やコンピュータシステムに備えられるプログラム読取装置で読み取られることによって、補間処理方法を実行する。
【0171】
コンピュータシステムは、フラットベッドスキャナ・フィルムスキャナ・デジタルカメラなどの画像入力装置、所定のプログラムがロードされることによって前述の画像処理方法など様々な処理が行われるコンピュータ、コンピュータの処理結果を表示するCRT(陰極線管)ディスプレイ・液晶ディスプレイなどの画像表示装置、および、コンピュータの処理結果を紙などに出力するプリンタを備えて構成される。さらには、このコンピュータシステムには、ネットワークを介してサーバなどに接続するための通信手段としてのモデムなどが備えられる。
【0172】
なお、前述のように、本発明の補間処理方法の対象となる画像を、インターレース画像として説明したが、本発明は、当該画像に限定されるものではない。
【0173】
【発明の効果】
以上のように本発明によれば、複数の画素から成るブロック間の相関関係に基づいて、補間画素に対する補間方向を選択するので、1対の画素間の相関関係に基づいて選択する場合に比べて、信頼性の高い補間方向を選択することができる。これによって、信頼性の高い補間方向に基づく精度の高い補間画素の画素データを生成することができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0174】
また本発明によれば、インターレース画像に対しても、信頼性の高い補間処理を行うことができる。これによって、補間ミスの発生を抑えることができ、高品質の画像を生成することができる。
【0175】
また本発明によれば、2つのブロック間の相関関係は、基準画素間の相関関係を基準とし、さらに、補助画素間の相関関係を求めるので、1の画素間で相関関係を求める場合と比べて、信頼性の高いブロック間の相関関係求めることができる。これによって、信頼性の高い補間方向を選択することができる。
【0176】
また本発明によれば、2つのブロック間の相関関係を求めるときは、補助画素間を結ぶ線分が基準画素を結ぶ線分とほぼ平行となるような補助画素を選んで相関関係を求めるので、基準画素間の相関関係に対応した相関関係を求めることができる。
【0177】
また本発明によれば、補間方向を選択するときは、近似する方向ごとにグループ分けされた各グループから1つの補間方向を抽出し、抽出した補間方向を比較し、抽出した補間方向の関係に基づいて1つの補間方向を選択するので、複数の補間方向の中から相関関係が一番大きいものを単純に選択する場合に比べて、信頼性の高い補間方向を選択することができる。
【0178】
また本発明によれば、インターレース画像においてフィールド間の相関関係が大きく、予め定める関係となる場合、たとえば、フィールド間に画像の動きがない場合には、無理に補間処理を行わなくとも、対応フィールドの画素データをそのまま用いることで、もとの画像により近い画像を再現することができるので、画像の劣化を防止することができる。
【0179】
また本発明によれば、補間画素の画素データを生成した後、生成した画素データに誤りが生じていれば、再補間処理を行うことによって、より正確な画素データを生成することができる。したがって、補間ミスの発生をさらに抑えることができる。
【0180】
また本発明によれば、補間処理には輝度値を用いるので、モノクロおよびカラー画像の双方の画像の補間処理に対応することができる。
【0181】
また本発明によれば、補間処理をコンピュータに実行させることができる。
また本発明によれば、補間処理方法を実行する補間処理プログラムをコンピュータに容易に供給することができる。
【0182】
また本発明によれば、前述の画像処理装置によって生成された補間画素の画素データを用いて成る高画質の画像を出力することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態である補間処理方法の処理手順を示すフローチャートである。
【図2】画像ノイズ部分を抽出する抽出処理を説明するための図である。
【図3】補間画素B(0)の補間処理の際に参照する画素を表した図である。
【図4】補間画素B(0)と補間処理の際に参照される周囲の画素を示した図である。
【図5】第2実施形態である補間処理方法の処理手順を示すフローチャートである。
【図6】補間処理部Aの構成を示すブロック図である。
【図7】本発明のカラー画像処理装置Bを備えるカラー画像形成装置Cのブロック図である。
【図8】インターレース走査方式の画像を構成する1枚のフィールドを表す図である。
【図9】図7のひし形の画像V中、〇印で示した部分Rの拡大図である。
【図10】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図11】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図12】従来の補間技術によって補間されたフィールドの一部分を示す拡大図である。
【図13】5方向において相関関係を検出する補間技術を説明するための図である。
【図14】7方向において相関関係を検出する補間技術を説明するための図である。
【図15】画像のエッジと成る部分がデジタル化された画像中の画素に沿って存在しない例を示す図である。
【図16】従来の補間技術によって補間されたフィールドの一部分を示す図である。
【符号の説明】
1 画像ノイズ部分抽出手段
2 補間方向設定手段
3 抽出手段
4 相関関係導出手段
5 選択手段
6 画素データ生成手段
7 フィールドデータ抽出手段
8 画素データ合成手段
9 1走査線終了判定手段
10 補間正当性評価手段
11 再補間手段
30 A/D(アナログ/デジタル)変換部
31 入力階調補正部
32 領域分離処理部
33 空間フィルタ処理部
34 変倍処理部
35 色空間変換部
36 色補正部
37 黒生成下色除去部
38 出力階調補正部
39 階調再現処理部
A 補間処理部
B カラー画像処理装置
C カラー画像形成装置
Claims (13)
- 複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに当該補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法。 - 複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理方法において、
同じ数の画素から成る2つのブロックであって、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を複数組抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数組のブロック対の中から少なくとも1つのブロック対を選択し、選択したブロック対の2つのブロック間の相関方向を求め、求めた相関方向を補間方向として定め、
定めた補間方向に関して前記補間画素を起点としたときに当該補間方向先に位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法。 - インターレース走査によって得られた1フィールドの画像に対して当該フィールドの水平走査線間に設定される補間走査線上に設定された補間画素の画素データを、前記水平走査線上に並ぶ複数の画素の画素データを用いて生成する補間処理方法において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定め、
前記補間画素が設定されている補間走査線を挟む2つの水平走査線上にそれぞれ並ぶ同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記補間方向ごとに抽出し、
抽出したブロック対ごとに、2つのブロック間の相関関係を求め、
求めた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択し、
選択した補間方向に関して前記補間画素を起点としたときに前記選択した補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成することを特徴とする補間処理方法。 - 前記2つのブロック間の相関関係は、
前記2つのブロックの画素の中から、前記補間画素を対称点として互いに点対称の位置関係にある画素対のうち、少なくとも1組の画素対を基準画素対として定め、前記基準画素対以外の画素を補助画素とし、
前記基準画素対の画素データの差分絶対値を算出するとともに、2つのブロック間で相互に対応関係にある補助画素間の画素データの差分絶対値を算出し、
算出した各差分絶対値に基づいて求めることを特徴とする請求項1〜3のいずれか1つに記載の補間処理方法。 - 補助画素間の画素データの差分絶対値を算出するときは、補助画素間を結んで成る線分が、前記基準画素間を結んで成る線分とほぼ平行となるような補助画素間について画素データの差分絶対値を算出することを特徴とする請求項4記載の補間処理方法。
- 前記複数種類の補間方向の中から少なくとも1つの補間方向を選択するときは、前記複数種類の補間方向を近似する方向ごとにグループ分けし、各グループの中でその補間方向先の双方に位置する画素間の相関関係が最も大きい補間方向を抽出し、各グループから抽出された補間方向の相関関係を比較して補間方向を選択することを特徴とする請求項3記載の補間処理方法。
- 補間処理対象のフィールドとこのフィールドと1フレームを構成する対応フィールドとの間の相関関係を求め、求めた相関関係が予め定める関係である場合は、前記補間方向の選択を行わずに、前記対応フィールドにおける前記補間画素に対応する画素の画素データを補間画素の画素データとして生成することを特徴とする請求項3記載の補間処理方法。
- 前記補間画素の画素データを生成した後、前記補間画素の画素データと前記補間画素の周囲に位置する所定の複数画素の画素データとを比較して、生成した前記補間画素の画素データに誤りが生じているか否かを判定し、誤りが生じている場合には、所定の画素の画素データを用いて新たな画素データを生成し、生成した新たな画素データを前記補間画素の画素データとして置き換えることを特徴とする請求項1〜3のいずれか1つに記載の補間処理方法。
- 前記画素データは、輝度値であることを特徴とする請求項1〜3のいずれか1つに記載の補間処理方法。
- コンピュータに請求項1〜8のいずれか1つに記載の補間処理方法を実行させるための補間処理プログラム。
- 請求項10記載の補間処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
- 複数の画素から成る画像に対して前記画素間に設定された補間画素の画素データを、前記画像を構成する複数の画素データを用いて生成する補間処理部を備える画像処理装置において、
前記補間画素を起点として双方向に向いた補間方向を複数種類定める補間方向設定手段と、
同じ数の画素から成る2つのブロックであって、前記補間方向先の双方にそれぞれ位置し、前記補間画素を対称点として互いに点対称の位置関係にある2つのブロックから成るブロック対を前記複数種類の補間方向ごとに抽出する抽出手段と、
前記抽出手段によって抽出されたブロック対ごとに、2つのブロック間の相関関係を求める相関関係導出手段と、
前記相関関係導出手段によって求められた相関関係に基づいて、前記複数種類の補間方向の中から少なくとも1つの補間方向を選択する選択手段と、
前記選択手段によって選択された補間方向に関して前記補間画素を起点としたときに前記補間方向先の双方にそれぞれ位置する画素を選択し、選択した画素の画素データに基づいて、前記補間画素の画素データを生成する画素データ生成手段とを含むことを特徴とする画像処理装置。 - 請求項12に記載の画像処理装置を備え、前記画像処理装置によって補間処理が施された画像データに基づいて画像を形成し、出力することを特徴とする画像形成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002230491A JP2004072528A (ja) | 2002-08-07 | 2002-08-07 | 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002230491A JP2004072528A (ja) | 2002-08-07 | 2002-08-07 | 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004072528A true JP2004072528A (ja) | 2004-03-04 |
Family
ID=32016551
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002230491A Pending JP2004072528A (ja) | 2002-08-07 | 2002-08-07 | 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004072528A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005284685A (ja) * | 2004-03-29 | 2005-10-13 | Rumine:Kk | 画像合成装置、画像複写装置及びプログラム |
JP2005303999A (ja) * | 2004-03-16 | 2005-10-27 | Canon Inc | 画素補間装置、画素補間方法、及びプログラム、及び記録媒体 |
JP2008530876A (ja) * | 2005-02-08 | 2008-08-07 | イマジネイション テクノロジーズ リミテッド | インターレース方式から非インターレース方式へのビデオデータの変換 |
WO2008114308A1 (ja) * | 2007-03-16 | 2008-09-25 | Fujitsu Limited | 画像変換装置、および変換方法 |
JP2008538664A (ja) * | 2005-02-08 | 2008-10-30 | イマジネイション テクノロジーズ リミテッド | インターレース方式から非インターレース方式へのビデオデータの変換 |
WO2009005120A1 (ja) * | 2007-07-03 | 2009-01-08 | Nec Corporation | 画像補間方法、画像補間装置、及びプログラム |
WO2012099137A1 (en) * | 2011-01-19 | 2012-07-26 | Ricoh Company, Ltd. | Image processing device and pixel interpolation method |
WO2012102402A1 (en) * | 2011-01-28 | 2012-08-02 | Ricoh Company, Ltd. | Image processing apparatus and method of supplementing pixel value |
-
2002
- 2002-08-07 JP JP2002230491A patent/JP2004072528A/ja active Pending
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005303999A (ja) * | 2004-03-16 | 2005-10-27 | Canon Inc | 画素補間装置、画素補間方法、及びプログラム、及び記録媒体 |
JP4641438B2 (ja) * | 2004-03-16 | 2011-03-02 | キヤノン株式会社 | 画素補間装置及び画素補間方法 |
JP2005284685A (ja) * | 2004-03-29 | 2005-10-13 | Rumine:Kk | 画像合成装置、画像複写装置及びプログラム |
JP4500083B2 (ja) * | 2004-03-29 | 2010-07-14 | 有限会社ルミネ | 画像合成装置及びプログラム |
JP2008530876A (ja) * | 2005-02-08 | 2008-08-07 | イマジネイション テクノロジーズ リミテッド | インターレース方式から非インターレース方式へのビデオデータの変換 |
JP2008538664A (ja) * | 2005-02-08 | 2008-10-30 | イマジネイション テクノロジーズ リミテッド | インターレース方式から非インターレース方式へのビデオデータの変換 |
JP5040992B2 (ja) * | 2007-03-16 | 2012-10-03 | 富士通株式会社 | 画像変換装置、および変換方法 |
WO2008114308A1 (ja) * | 2007-03-16 | 2008-09-25 | Fujitsu Limited | 画像変換装置、および変換方法 |
JPWO2008114308A1 (ja) * | 2007-03-16 | 2010-06-24 | 富士通株式会社 | 画像変換装置、および変換方法 |
US8169543B2 (en) | 2007-03-16 | 2012-05-01 | Fujitsu Limited | Image conversion device and method for converting a field image into a frame image |
US8565556B2 (en) | 2007-07-03 | 2013-10-22 | Nec Corporation | Image interpolation method, image interpolation device, and program |
WO2009005120A1 (ja) * | 2007-07-03 | 2009-01-08 | Nec Corporation | 画像補間方法、画像補間装置、及びプログラム |
CN101690195B (zh) * | 2007-07-03 | 2012-06-20 | 日本电气株式会社 | 图像插补方法、图像插补装置 |
JP5182530B2 (ja) * | 2007-07-03 | 2013-04-17 | 日本電気株式会社 | 画像補間方法、画像補間装置、及びプログラム |
US9042658B2 (en) | 2011-01-19 | 2015-05-26 | Ricoh Company, Ltd. | Image processing device and pixel interpolation method |
JP2012151646A (ja) * | 2011-01-19 | 2012-08-09 | Ricoh Co Ltd | 画像処理装置、画素補間方法およびプログラム |
KR101460929B1 (ko) | 2011-01-19 | 2014-11-13 | 가부시키가이샤 리코 | 화상 처리 장치 및 화소 보간 방법 |
WO2012099137A1 (en) * | 2011-01-19 | 2012-07-26 | Ricoh Company, Ltd. | Image processing device and pixel interpolation method |
CN103339920A (zh) * | 2011-01-28 | 2013-10-02 | 株式会社理光 | 图像处理装置以及补充像素值的方法 |
EP2668770A4 (en) * | 2011-01-28 | 2013-12-04 | Ricoh Co Ltd | IMAGE PROCESSING DEVICE AND METHOD FOR SUPPLEMENTING PIXEL VALUES |
EP2668770A1 (en) * | 2011-01-28 | 2013-12-04 | Ricoh Company, Ltd. | Image processing apparatus and method of supplementing pixel value |
JP2012156924A (ja) * | 2011-01-28 | 2012-08-16 | Ricoh Co Ltd | 画像処理装置、画素補間方法およびプログラム |
US8970916B2 (en) | 2011-01-28 | 2015-03-03 | Ricoh Company, Ltd. | Image processing apparatus and method of supplementing pixel value |
WO2012102402A1 (en) * | 2011-01-28 | 2012-08-02 | Ricoh Company, Ltd. | Image processing apparatus and method of supplementing pixel value |
CN103339920B (zh) * | 2011-01-28 | 2015-11-25 | 株式会社理光 | 图像处理装置以及补充像素值的方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4749477B2 (ja) | 画像処理装置、画像形成装置、画像処理方法、コンピュータプログラム及び記録媒体 | |
US20080267526A1 (en) | Image processing apparatus | |
JP3771054B2 (ja) | 画像処理装置及び画像処理方法 | |
KR20040066051A (ko) | 가중 그래디언트 기반 및 컬러 수정 보간 | |
US20030160875A1 (en) | Image processing device | |
CN102868890B (zh) | 图像处理设备、成像设备和图像处理方法 | |
US8520099B2 (en) | Imaging apparatus, integrated circuit, and image processing method | |
US7324244B2 (en) | Image forming apparatus and image forming method | |
US7365880B2 (en) | Image processing apparatus and image processing method | |
JP4321064B2 (ja) | 画像処理装置および画像処理プログラム | |
JPH1185978A (ja) | 画像処理装置及び方法 | |
JP3458080B2 (ja) | カラー撮像装置 | |
JP2004072528A (ja) | 補間処理方法、補間処理プログラムおよびこれを記録した記録媒体ならびに画像処理装置およびこれを備えた画像形成装置 | |
JP3059205B2 (ja) | 画像処理装置 | |
JP2005136679A (ja) | 静止画像生成装置、静止画像生成方法、静止画像生成プログラム、および静止画像生成プログラムを記録した記録媒体 | |
JP3730063B2 (ja) | 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置 | |
JPH09200575A (ja) | 画像データ補間装置 | |
JP2007264748A (ja) | 画像処理装置および画像処理方法 | |
US7295344B2 (en) | Image processing method and image processing apparatus, program and recording medium, and image forming apparatus | |
JP2000134471A (ja) | 文字内部の出力補正を伴う画像処理装置 | |
JP4080791B2 (ja) | 画像処理装置、画像形成装置および画像処理方法ならびに画像処理プログラムおよび記録媒体 | |
JP2006229817A (ja) | 下地検出方法、プログラム、記録媒体、画像処理装置及び画像形成装置 | |
JP4176053B2 (ja) | 画像処理方法、画像処理装置、画像形成装置及びコンピュータプログラム | |
JP2005191890A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体、および画像処理装置を備えた画像形成装置 | |
JP3967217B2 (ja) | 画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体、画像処理装置、ならびに画像処理システム |