JP4806849B2 - 画像処理装置および方法、プログラム、並びに記録媒体 - Google Patents
画像処理装置および方法、プログラム、並びに記録媒体 Download PDFInfo
- Publication number
- JP4806849B2 JP4806849B2 JP2001006365A JP2001006365A JP4806849B2 JP 4806849 B2 JP4806849 B2 JP 4806849B2 JP 2001006365 A JP2001006365 A JP 2001006365A JP 2001006365 A JP2001006365 A JP 2001006365A JP 4806849 B2 JP4806849 B2 JP 4806849B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- pixels
- image
- field
- interpolated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
Landscapes
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
- Controls And Circuits For Display Device (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理装置および方法、プログラム、並びに記録媒体に関し、特に、インタレーススキャン画像をプログレッシブスキャン画像に変換させる際に、静止画領域の垂直解像度を向上させ、動画領域におけるエッジをなだらかに補間させるようにすると共に、変換におけるエラーを抑制するようにした画像処理装置および方法、プログラム、並びに記録媒体に関する。
【0002】
【従来の技術】
インタレーススキャン方式の画像をプログレッシブスキャン方式の画像に変換(IP変換)させる技術が一般に普及しつつある。
【0003】
インタレーススキャン方式は、飛び越し走査と呼ばれる走査方式であり、実際の表示画像の走査線を1本おきに走査する(走査線1本おきに飛び越して走査する)方式である。インタレーススキャン方式で走査された1つの画像は、フィールドと呼ばれ、連続する画像を表示するとき、隣り合うフィールドは、走査線1本分ずれた状態で画素が存在しており、そのフィールドが連続して交互に表示されている。
【0004】
プログレッシブスキャン方式は、インタレーススキャン方式に対して、表示画像の全走査線を走査する方式である。
【0005】
従って、インタレーススキャン方式の画像からプログレッシブスキャン方式の画像への変換処理は、インタレーススキャン方式の画像の中の、画素が存在しないライン上に、元々存在する画素を使用して、画素を補間させ、全ての走査線上に画素を生成する処理である。
【0006】
従来では、補間の方法としては、走査線1本分を遅延して、表示させることで、各走査線を2度スキャンする2度書きと呼ばれる方法や、上下方向の画素を用いて、線形補間するといった方法が用いられていた。
【0007】
また、垂直解像度を上げるために、複数のフィールドの情報を利用する方法も提案された。この方法は、インタレーススキャン方式では、連続するフィールドの1個前のフィールドが、上述のように走査線1本分だけずれた関係にあるので、1個前のフィールド上には、現在のフィールド上の補間すべき位置に画素が存在する。そこで、複数のフィールドを使用する補間処理では、この画素を利用する。すなわち、その補間すべき画素が静止画素の場合、1個前のフィールドの画素を、そのまま使用して補間し、また、動画素の場合、現在のフィールドの上下の画素を用いて線形補間により画素を補間するというものである。
【0008】
【発明が解決しようとする課題】
しかしながら、上記の方法では、例えば2度書きを使用した場合、斜めエッジとなる映像は、IP変換により大きな階段状に表示されることになってしまうという課題があった。
【0009】
また、線形補間を用いた場合、2度書きに比べると、表示画像は向上されるものの、多少ぼけて表示されてしまうことがあり、また、2度書きを用いた場合と同様に斜めのエッジは、階段状に表示されてしまうという課題があった。
【0010】
そこで、斜め方向のエッジが階段状に表示されてしまうのを防ぐために、エッジの方向を検出しながらIP変換を実行するという方法が提案された。これは、特公平3−42832に記載されているものであり、補間すべき注目画素を中心として、上下、右上左下、および、右下左上の3組の画素の差分の絶対値を調べて、最も小さい値をとる画素の組合せで補間を行い、全てが所定の値より大きい値であれば上の画素値をコピーして補間するという方法である。これにより、斜め方向のエッジが存在す場合でも、その方向が滑らかに補間されるようになった。
【0011】
しかしならが、エッジの方向を検出しながら変換する方法においては、斜め方向のエッジの表示が改善されるものの、静止画領域では、複数のフィールドを用いる方法に比べて、垂直解像度が不利となってしまうという課題がった。また、エッジの方向を検出しながら変換する方法は、実画像に適用すると、例えば、ノイズや照明条件によって、斜め方向の相関関係が上下方向よりも若干高く、算出されてしまうことがあり、実際の絵柄は上下に連続していても、正確に表示されないといったエラーが発生し易くなるという課題があった。
【0012】
さらに、複数フィールドを使用する方法では、斜めエッジが階段状に表示される問題は改善されるものの、静止画領域では、複数のフィールドを使用するため、垂直解像度が多少犠牲にされてしまうという課題があった。
【0013】
また、一般的なビデオ信号などにおいては、高周波成分がわずかしか含まれておらず、エッジはぼんやりとしか現れないので、局地的にエッジ方向を正確に検出するのは困難であり、特定方向のエッジを強調しようとしても、複数のエッジ方向の候補が検出されて、選別することができず、結局、従来の線形補間と同程度の画質でしか、画像を生成することができないという課題があった。
【0014】
本発明はこのような状況に鑑みてなされたものであり、インタレーススキャン画像からプログレッシブスキャン画像への変換の際に、静止画部分の垂直解像度を向上させ、動画領域におけるエッジをなだらかに補間させると共に、変換におけるエラーを抑制できるようにするものである。
【0015】
【課題を解決するための手段】
本発明の画像処理装置は、変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、各画素の水平方向に隣接する左右の垂直ライン上に存在する、各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値を、それぞれ垂直方向、および、水平方向の中心画素エネルギとして算出する中心画素エネルギ算出手段と、中心画素エネルギ算出手段により算出された垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた画素に対してフィルタ処理を施して、変換しようとするインタレース方式の画像のエッジを強調するエッジ強調手段と、エッジ強調手段によりエッジが強調された変換しようとするインタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、プログレッシブ方式の画像の画素を補間するフィールド間補間手段と、エッジ強調手段によりエッジが強調された変換しようとするインタレース方式の画像のフィールド内の画素から、プログレッシブ方式の画像の画素を補間するフィールド内補間手段と、補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかを判定する判定手段と、判定手段の判定結果に基づいて、フィールド内補間手段により補間された画素か、または、フィールド間補間手段により補間された画素のいずれかを選択する選択手段とを備えることを特徴とする。
【0017】
前記エッジ強調手段には、インタレース方式の画像の各画素毎に水平方向、および、垂直方向の1次元フィルタ処理を施し、画像のエッジを強調させるようにすることができる。
【0020】
前記変換しようとするインタレース方式の画像のフィールド内に、補間しようとする画素の上下の水平ライン上であって、補間しようとする画素の近傍の画素のうち、補間しようとする画素を中心として点対照な位置となる上下の水平ライン上のそれぞれの方向毎の画素同士の相関を検出する相関検出手段をさらに設けるようにさせることができ、フィールド内補間手段には、相関検出手段により検出された相関の最も強い方向の画素同士から画素を補間させるようにすることができる。
【0021】
前記相関検出手段には、補間しようとする画素を中心として、点対照な位置同士の画素の画素値の差分の絶対値を相関として検出させるようにすることができる。
【0022】
前記補間しようとする画素の近傍の画素値のうち、補間しようとする画素を挟んで、その上下に水平方向に伸びるライン上の所定数の画素であって、ラインに垂直に対向し合う画素の画素値の差分の絶対値の和、または、補間しようとする画素を中心として、点対称の位置に存在する画素の画素値の差分の絶対値の和を、補間しようとする画素の近傍エネルギとして算出する近傍エネルギ算出手段をさらに設けるようにさせることができ、近傍エネルギ算出手段により算出された補間しようとする画素の近傍エネルギの値が、所定の閾値より大きい場合、フィールド内補間手段には、相関検出手段により検出された相関の最も強い方向の画素に基づいて補間を行わせるようにすることができる。
【0024】
本発明の画像処理方法は、変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、各画素の水平方向に隣接する左右の垂直ライン上に存在する、各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値を、それぞれ垂直方向、および、水平方向の中心画素エネルギとして算出する中心画素エネルギ算出ステップと、中心画素エネルギ算出ステップの処理により算出された垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた画素に対してフィルタ処理を施して、変換しようとするインタレース方式の画像のエッジを強調するエッジ強調ステップと、エッジ強調ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、プログレッシブ方式の画像の画素を補間するフィールド間補間ステップと、エッジ強調ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールド内の画素から、プログレッシブ方式の画像の画素を補間するフィールド内補間ステップと、補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかを判定する判定ステップと、判定ステップの処理での判定結果に基づいて、フィールド内補間ステップの処理で補間された画素か、または、フィールド間補間ステップの処理で補間された画素のいずれかを選択する選択ステップとを備えることを特徴とする。
【0025】
本発明のプログラムは、変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、各画素の水平方向に隣接する左右の垂直ライン上に存在する、各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値の、それぞれ垂直方向、および、水平方向の中心画素エネルギとしての算出を制御する中心画素エネルギ算出制御ステップと、中心画素エネルギ算出制御ステップの処理により算出された垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた画素に対してフィルタ処理を施して、変換しようとするインタレース方式の画像のエッジの強調を制御するエッジ強調制御ステップと、エッジ強調制御ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、プログレッシブ方式の画像の画素の補間を制御するフィールド間補間制御ステップと、エッジ強調制御ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールド内の画素から、プログレッシブ方式の画像の画素の補間を制御するフィールド内補間制御ステップと、補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかの判定を制御する判定制御ステップと、判定制御ステップの処理での判定結果に基づいて、フィールド内補間制御ステップの処理で補間された画素か、または、フィールド間補間制御ステップの処理で補間された画素のいずれかの選択を制御する選択制御ステップとを含むことを特徴とする。
【0026】
本発明の記録媒体のプログラムは、変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、各画素の水平方向に隣接する左右の垂直ライン上に存在する、各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値の、それぞれ垂直方向、および、水平方向の中心画素エネルギとしての算出を制御する中心画素エネルギ算出制御ステップと、中心画素エネルギ算出制御ステップの処理により算出された垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた画素に対してフィルタ処理を施して、変換しようとするインタレース方式の画像のエッジの強調を制御するエッジ強調制御ステップと、エッジ強調制御ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、プログレッシブ方式の画像の画素の補間を制御するフィールド間補間制御ステップと、エッジ強調制御ステップの処理によりエッジが強調された変換しようとするインタレース方式の画像のフィールド内の画素から、プログレッシブ方式の画像の画素の補間を制御するフィールド内補間制御ステップと、補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかの判定を制御する判定制御ステップと、判定制御ステップの処理での判定結果に基づいて、フィールド内補間制御ステップの処理で補間された画素か、または、フィールド間補間制御ステップの処理で補間された画素のいずれかの選択を制御する選択制御ステップとを含むことを特徴とする。
【0027】
本発明の画像処理装置および方法、並びにプログラムにおいては、変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、各画素の水平方向に隣接する左右の垂直ライン上に存在する、各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値が、それぞれ垂直方向、および、水平方向の中心画素エネルギとして算出され、算出された垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた画素に対してフィルタ処理が施されて、変換しようとするインタレース方式の画像のエッジが強調され、エッジが強調された変換しようとするインタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、プログレッシブ方式の画像の画素が補間され、エッジが強調された変換しようとするインタレース方式の画像のフィールド内の画素から、プログレッシブ方式の画像の画素が補間され、補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかが判定され、判定結果に基づいて、フィールド内補間された画素か、または、フィールド間補間された画素のいずれかが選択される。
【0028】
【発明の実施の形態】
図1は、本発明に係る画像処理装置の一実施の形態の構成を示す図である。フィールドメモリ11a乃至11fは、入力されたインタレーススキャン方式の画像(以下、インタレース画像と称する)の1フィールド分の情報を一時的に記憶し、後段の装置に出力する。すなわち、フィールドメモリ11aは、所定の時刻tのタイミングで入力された1フィールド分の画像情報を記憶し、次の時刻t+1のタイミングで、記憶していた時刻tのフィールドデータを、イメージリフレッシャ12aおよび静止/動画領域判定部17に出力すると共に、フィールドメモリ11bに出力する。そして、それと同時に、フィールドメモリ11aは、新たに時刻t+1のフィールドデータを記憶する。フィールドメモリ11bは、時刻t+1のタイミングで、フィールドメモリ11aより入力された時刻tのフィールドデータを記憶する。
【0029】
また、時刻t+2のタイミングで、フィールドメモリ11aは、時刻t+1のフィールドデータをイメージリフレッシャ12a、静止/動画領域判定部17、および、フィールドメモリ11bに出力し、新たな、時刻t+2のフィールドデータを記憶する。同時に、時刻t+2において、フィールドメモリ11bは、時刻tのフィールドデータを、フィールドメモリ11c、イメージリフレッシャ12b、および、静止/動画領域判定部17に出力し、フィールドメモリ11aより入力された時刻t+1のフィールドデータを記憶する。フィールドメモリ11cは、フィールドメモリ11bより入力された時刻tのフィールドデータを記憶する。
【0030】
さらに、時刻t+3において、フィールドメモリ11aは、それまで記憶していた時刻t+2のフィールドデータをフィールドメモリ11b、イメージリフレッシャ12a、および、静止/動画領域判定部17に出力し、時刻t+3のフィールドデータを記憶する。同時に、フィールドメモリ11bは、時刻t+1のフィールドデータをフィールドメモリ11c、イメージリフレッシャ12b、および、静止/動画領域判定部17に出力し、フィールドメモリ11bより入力された時刻t+2のフィールドデータを記憶する。また、フィールドメモリ11cは、記憶していた時刻tのフィールドデータをフィールドメモリ11d、および、静止/動画領域判定部17に出力する。
【0031】
また、時刻t+4において、フィールドメモリ11aは、記憶していた時刻t+3のフィールドデータをフィールドメモリ11b、イメージリフレッシャ12a、および、静止/動画領域判定部17に出力し、入力された時刻t+4のフィールドデータを記憶する。フィールドメモリ11bは、記憶していた時刻t+2のフィールドデータをフィールドメモリ11c、イメージリフレッシャ12b、および、静止/動画領域判定部17に出力し、フィールドメモリ11aより入力された時刻t+3のフィールドデータを記憶する。フィールドメモリ11cは、記憶していた時刻t+1のフィールドデータをフィールドメモリ11dおよび静止/動画領域判定部17に出力し、フィールドメモリ11bより入力された時刻t+2のフィールドデータを記憶する。フィールドメモリ11dは、記憶していた時刻tのフィールドデータを静止/動画領域判定部17に出力し、フィールドメモリ11cより入力された時刻t+1のフィールドデータを記憶する。
【0032】
このように、フィールドメモリ11a乃至11dは、順次フィールドデータを伝達しながら、常に、4個の連続したフィールドデータを記憶している。また、フィールドメモリ11e,11fは、イメージリフレッシャ12a,12bから供給される垂直方向のエッジ、および、水平方向のエッジのそれぞれが強調されたフィールドデータを記憶し、順次フィールド内補間部14、および、フィールド間補間部15に出力する。
【0033】
イメージリフレッシャ12aは、バッファ13aを適宜利用しながら、フィールドメモリ11aより入力されたフィールドデータに、1次元の垂直フィルタ、および、1次元の水平フィルタの処理を施し、垂直方向および水平方向のエッジ部分を強調した後、フィールドメモリ11eに出力する。イメージリフレッシャ12b、および、バッファ13bについても処理は、同様であるが、1フィールド分だけ時刻的に遅れたフィールドデータの処理を行う。
【0034】
フィールド内補間部14は、エッジ強調処理されたフィールドメモリ11eに記憶されているフィールドデータからプログレッシブ画像の動画領域の画素を補間して生成し、プログレッシブ画像として補間メモリ16aに出力し、記憶させる。尚、フィールド内補間処理については、詳細を後述する。
【0035】
フィールド間補間部15は、フィールドメモリ11e,11fに記憶されている連続する2個のフィールドデータからプログレッシブ画像の静止画領域の画素を補間して生成し、生成したプログレッシブ画像を補間メモリ16bに出力し、記憶させる。尚、フィールド間補間処理については、詳細を後述する。
【0036】
静止/動画領域判定部17は、フィールドメモリ11a乃至11dより入力される、連続する4個のフィールドデータから、最新のフィールドデータの補間しようとする画素が静止画領域の画素であるのか、または、動画領域の画素であるのかを判定し、記憶する。尚、静止画領域の画素であるか、または、動画領域の画素であるかの判定処理については、詳細を後述する。
【0037】
セレクタ18は、静止/動画領域判定部17に記憶された情報に基づいて、補間しようとする画素が動画領域の画素である場合、フィールド間補間部15により補間された画素を補間メモリ16bから読出し、また、補間しようとする画素が静止画領域の画素である場合、フィールド内補間部14により補間された画素を補間メモリ16aから読み出して、最終的なプログレッシブ画像を生成し、出力する。
【0038】
次に、図2のフローチャートを参照して、本発明を適用した画像処理装置のIP変換処理について説明する。
【0039】
ステップS1において、フィールドメモリ11aは、記憶していたフィールドデータをフィールドメモリ11b、イメージリフレッシャ12a、および、静止/動画領域判定部17に出力し、入力されたフィールドデータを記憶する。同時に、フィールドメモリ11bは、それまで記憶していたフィールドデータをフィールドメモリ11c、イメージリフレッシャ12b、および、静止/動画領域判定部17に出力する。また、フィールドメモリ11cは、それまで記憶していたフィールドデータをフィールドメモリ11d、および、静止/動画領域判定部17に出力し、フィールドメモリ11bより入力されたフィールドデータを記憶する。さらに、フィールドメモリ11dは、それまで記憶していたフィールドデータを静止/動画領域判定部17に出力し、フィールドメモリ11cより入力されたフィールドデータを記憶する。
【0040】
ステップS2において、イメージリフレッシャ12a,12bは、1次元垂直エッジ強調処理を施す。
【0041】
ここで、図3のフローチャートを参照して、イメージリフレッシャ12a,12bの1次元垂直エッジ強調処理について説明する。尚、イメージリフレッシャ12a,12bの処理は、連続する2個のフィールドデータに対して、同様の処理が実行されることになるので、ここでは、イメージリフレッシャ12aの処理について説明する。
【0042】
ステップS21において、イメージリフレッシャ12aは、フィールドメモリ11aより入力されたフィールドデータのうち、処理していない画素があるか否かを判定し、処理していない画素があると判定された場合、その処理は、ステップS22に進む。
【0043】
ステップS22において、イメージリフレッシャ12aは、未処理画素を検索し、検索された未処理画素の垂直方向中心画素エネルギを算出する。例えば、図4に示すようなフィールドデータが存在し、垂直方向のy+1,y,y−1の各ラインに、画素a乃至e、画素f乃至j、および、画素k乃至oが配置されているものとするとき、画素hの近傍のAエリア(図中実線で囲まれた範囲)の垂直方向中心画素エネルギEV-hは、以下の式により求められる。
EV-h=|(b+c+d)−(l+m+n)|・・・(1)
【0044】
ここで、b,c,d,l,m,およびnは、画素b,c,d,l,m,およびnの画素値である。すなわち、式(1)の垂直方向中心画素エネルギEVは、未処理画素を中心とした上のラインと下のラインに存在する画素値の和同士の差分の絶対値である。このため、相関のある画素同士が上下にある場合は、その画素値の差分には、大きな差がないので、垂直方向中心画素エネルギも小さくなり、逆に、相関のない画素同士が上下にある場合、その画素値の差分には大きな差が現れることが多く、結果として垂直方向中心画素エネルギも大きくなる。
【0045】
イメージリフレッシャ12aは、未処理画素の垂直方向中心画素エネルギEV-hを上記の式(1)を演算することにより求める。
【0046】
ステップS23において、イメージリフレッシャ12aは、求められた垂直方向中心画素エネルギEVが、所定の値以上であるか否かを判定し、所定の値以上であると判定した場合、すなわち、未処理の画素が垂直方向の画素との間に強い相関が見られないと判定した場合、その処理は、ステップS24に進む。
【0047】
ステップS24において、イメージリフレッシャ12aは、未処理画素を含めた上下3個の画素の画素値を比較して最大値と最小値を求める。すなわち、例えば、図4に示すように、未処理画素が画素hであった場合、それを含めた上下の画素c,h,m(図4中の実線で囲まれたBエリア)の各画素値を読出し、図5に示すように、その内の最大値(c,h,m)と最小値(c,h,m)を求める。
【0048】
ステップS25において、イメージリフレッシャ12aは、図4に示すBエリアの画素c,h,mに、図5に示すような1次元垂直フィルタ処理を施す。すなわち、1次元垂直フィルタとしては、(1/2−α/2,α,1/2−α/2)(1<α≦2)といったものであり、以下の式(2)に示すような演算により、フィルタ処理された画素値hV-filterが求められる。
hV-filter=c×(1/2−α/2)+h×α+m×(1/2−α/2)・・・(2)
【0049】
ここで、αは、1<α≦2の範囲で任意に設定できる定数であり、エッジの強調の程度を調節することができる。
【0050】
ステップS26において、イメージリフレッシャ12aは、図5に示すように、フィルタ処理した画素値hV-filterと最大値(c,h,m)を比較し、フィルタ処理した画素値hV-filterが最大値(c,h,m)以上であるか否かを判定し、最大値(c,h,m)以上であると判定した場合、ステップS27において、イメージリフレッシャ12aは、画素値hV-filterを最大値(c,h,m)に置き換える。
【0051】
ステップS28において、イメージリフレッシャ12aは、最大値(c,h,m)に置き換えられた画素値を画素hの画素値としてバッファ13aに記憶させ、その処理は、ステップS21に戻り、全ての画素に1次元垂直エッジ強調処理が施されたと判定されるまで同様の処理が繰り返される。
【0052】
ステップS23において、垂直方向中心画素エネルギEVが、所定の値以上ではないと判定された場合、すなわち、未処理の画素が上下の画素との間に強い相関が認められると判定された場合、その処理は、ステップS28に進み、イメージリフレッシャ12aは、画素hの画素値を、フィルタ処理することなく、そのままバッファ13aに記憶させ、その処理は、ステップS21に戻り、それ以降の処理が繰り返される。
【0053】
ステップS26において、フィルタ処理した画素値hV-filterが最大値(c,h,m)以上ではないと判定した場合、ステップS29において、イメージリフレッシャ12aは、フィルタ処理した画素値hV-filterと最小値(c,h,m)を比較し、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下であるか否かを判定し、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下であると判定した場合、その処理は、ステップS30に進む。
【0054】
ステップS30において、イメージリフレッシャ12aは、画素値hV-filterを最小値(c,h,m)に置き換え、ステップS28において、最小値(c,h,m)に置き換えられた画素値を、画素hの画素値としてバッファ13aに記憶する。
【0055】
ステップS29において、フィルタ処理した画素値hV-filterが最小値(c,h,m)以下ではないと判定した場合、その処理は、ステップS28に進み、イメージリフレッシャ12aは、フィルタ処理された画素値hV-filterを、画素hの画素値としてバッファ13aに記憶させ、その処理は、ステップS21に戻る。
【0056】
すなわち、ステップS23の処理で、垂直方向中心画素エネルギの値が所定の閾値以上である場合(未処理画素が上下の画素との間に強い相関が認められない場合)、図5に示すように、ステップS24の処理で求められた最大値(c,h,m)、および、最小値(c,h,m)が、画素c,h,mの局所的な範囲の最大値と最小値とみなされ、ステップS25の処理で求められたフィルタ処理した画素値が、その最小値と最大値の範囲に含まれたときは、フィルタ処理した画素値をバッファ13aに記憶させ、その範囲以下のときは画素値を最小値に、その範囲以上のときは画素値を最大値にして、バッファ13aに記憶させる。ステップS23の処理で、垂直方向中心画素エネルギの値が所定の閾値以上ではない場合、すなわち、上下の画素と相関が強い場合、元の画素値がそのままバッファ13aに記憶される。
【0057】
ここで、図2のフローチャートの説明に戻る。
【0058】
ステップS2において、1次元エッジ強調処理が実行された後、ステップS3において、イメージリフレッシャ12aは、1次元水平エッジ強調処理を実行する。
【0059】
ここで、図6のフローチャートを参照して、1次元水平エッジ強調処理について説明する。
【0060】
ステップS41において、イメージリフレッシャ12aは、バッファ13aに記憶された1次元垂直エッジ強調処理されているフィールドデータの各画素について1次元水平エッジ処理を施していない画素があるか否かを判定し、未処理の画素が存在すると判定した場合、その処理は、ステップS42に進む。
【0061】
ステップS42において、イメージリフレッシャ12aは、未処理画素を検索し、検索された未処理画素の水平方向中心画素エネルギを算出する。例えば、図7に示すようなフィールドデータが存在し、垂直方向のy+1,y,y−1の各ラインに、画素a乃至e、画素f乃至j、および、画素k乃至oが配置されているものとするとき、画素hの近傍のAエリア(図中実線で囲まれた範囲)の水平方向中心画素エネルギEH-hは、以下の式により求められる。
EH-h=|(d+i+n)−(b+g+l)|・・・(3)
【0062】
ここで、b,d,g,i,l、およびnは、画素b,d,g,i,l、およびnの画素値である。すなわち、式(3)の水平方向中心画素エネルギEHは、未処理画素を中心とした右のラインと左のラインに存在する画素値の和同士の差分の絶対値である。このため、相関のある画素同士が左右にある場合は、その画素値の差分には、大きな差がないので、水平方向中心画素エネルギも小さくなり、逆に、相関のない画素同士が左右にある場合、その画素値の差分には大きな差が現れることが多いので、水平方向中心画素エネルギも大きくなる。
【0063】
イメージリフレッシャ12aは、上記の式(3)を演算し、未処理画素の水平方向中心画素エネルギEHを求める。
【0064】
ステップS43において、イメージリフレッシャ12aは、求められた水平方向中心画素エネルギEVが、所定の値以上であるか否かを判定し、所定の値以上であると判定した場合、すなわち、未処理の画素が左右の画素と強い相関が見られないと判定した場合、その処理は、ステップS44に進む。
【0065】
ステップS44において、イメージリフレッシャ12aは、未処理画素を含めた左右5個の画素の画素値を比較して最大値と最小値を求める。すなわち、例えば、図7に示すように、未処理画素が画素hであった場合、それを含めた左右の画素f乃至j(図7中の実線で囲まれたBエリア)の各画素値を読出し、図8に示すように、その内の最大値(f,g,h,i,j)と最小値(f,g,h,i,j)を求める。
【0066】
ステップS45において、イメージリフレッシャ12aは、図7に示すBエリアの画素f乃至jに、図8に示すような1次元水平フィルタ処理を施す。すなわち、1次元垂直フィルタとしては、(1/4−α/2,1/4,α,1/4,1/4−α/2)(1<α≦2)といったものであり、以下に示す式(4)を演算することにより、フィルタ処理された画素値hH-filterが求められる。
hH-filter=f×(1/4−α/2)+g×1/4+h×α+i×1/4+j×(1/4−α/2) ・・・(4)
【0067】
ここで、αは、1<α≦2の範囲で任意に設定できる定数であり、エッジの強調の程度を調節することができる。
【0068】
ステップS46において、イメージリフレッシャ12aは、フィルタ処理した画素値hH-filterと最大値(f,g,h,i,j)を比較し、フィルタ処理した画素値hH-filterが最大値(f,g,h,i,j)以上であるか否かを判定し、最大値(f,g,h,i,j)以上であると判定した場合、ステップS47において、イメージリフレッシャ12aは、画素値hH-filterを最大値(f,g,h,i,j)に置き換える。
【0069】
ステップS48において、イメージリフレッシャ12aは、最大値(f,g,h,i,j)に置き換えられた画素値を画素hの画素値としてフィールドメモリ11eに記憶させ、その処理は、ステップS41に戻り、全ての画素に1次元水平エッジ強調処理が施されたと判定されるまで同様の処理が繰り返される。
【0070】
ステップS43において、水平方向中心画素エネルギEHが、所定の値以上ではないと判定された場合、すなわち、未処理の画素が左右の画素との間に強い相関が見られると判定された場合、その処理は、ステップS48に進み、イメージリフレッシャ12aは、画素hの画素値をそのままフィールドメモリ11eに記憶させ、その処理は、ステップS41に戻る。
【0071】
ステップS46において、フィルタ処理した画素値hH-filterが最大値(f,g,h,i,j)以上ではないと判定した場合、ステップS49において、イメージリフレッシャ12aは、フィルタ処理した画素値hH-filterと最小値(f,g,h,i,j)を比較し、フィルタ処理した画素値hH-filterが最小値(f,g,h,i,j)以下であるか否かを判定し、フィルタ処理した画素値hH-filterが最小値(f,g,h,i,j)以下であると判定した場合、その処理は、ステップS50に進む。
【0072】
ステップS50において、イメージリフレッシャ12aは、画素値hH-filterを最小値(f,g,h,i,j)に置き換え、ステップS48において、最小値(f,g,h,i,j)に置き換えられた画素値を、画素hの画素値としてフィールドメモリ11eに記憶する。
【0073】
ステップS49において、フィルタ処理した画素値hH-filterが最小値(f,g,h,i,j)以下ではないと判定した場合、その処理は、ステップS48に進み、イメージリフレッシャ12aは、フィルタ処理された画素値hH-filterを、画素hの画素値としてフィールドメモリ11eに記憶させ、その処理は、ステップS41に戻る。
【0074】
すなわち、ステップS43の処理で、水平方向中心画素エネルギの値が所定の閾値以上である場合(未処理画素が左右の画素との間に強い相関が認められない場合)、図8に示すように、ステップS44の処理で求められた最大値(f,g,h,i,j)、および、最小値(f,g,h,i,j)が、画素f,g,h,i,jの局所的な範囲の最大値と最小値とみなされ、ステップS45の処理で求められたフィルタ処理した画素値が、その最小値と最大値の範囲に含まれたときは、フィルタ処理した画素値をフィールドメモリ11eに記憶させ、その範囲以下のときは画素値を最小値に、その範囲以上のときは画素値を最大値にして、フィールドメモリ11eに記憶させる。ステップS43の処理で、水平方向中心画素エネルギの値が所定の閾値以上ではない場合、元の画素値がそのままフィールドメモリ11eに記憶される。
【0075】
ここで、図2のフローチャートの説明に戻る。
【0076】
尚、イメージリフレッシャ12bは、同じタイミングで1フィールド分遅れたフィールドデータをフィールドメモリ11bから読込んで、イメージリフレッシャ12aと同様に、図2のステップS2,S3の処理で、1次元垂直エッジ強調処理、および、1次元水平エッジ強調処理を施し、エッジ強調したフィールドデータを生成して、フィールドメモリ11fに記憶させている。ここでは、同様の処理であるので、その説明は省略する。
【0077】
ステップS3において、1次元水平エッジ強調処理が実行された後、ステップS4において、フィールド間補間部15は、フィールド間補間処理を実行する。
【0078】
ここで、図9のフローチャートを参照して、フィールド間補間処理について説明する。
【0079】
ステップS61において、フィールド間補間部15は、フィールドメモリ11e,11fに記憶されているフィールドデータを読み出す。ステップS62において、フィールドメモリ11eから読み出したフィールドデータと、フィールドメモリ11fから読み出したフィールドデータを合成して、補間メモリ16bに記憶させる。
【0080】
すなわち、例えば、時刻tのタイミングで読込まれたフィールドデータがフィールドメモリ11eに記憶されているとすれば、フィールドメモリ11fに記憶されているフィールドデータは、時刻t-1のタイミングで読込まれたフィールドデータである。このため、時刻tのタイミングで読込まれたフィールドデータと、時刻t-1のタイミングで読込まれたフィールドデータの垂直方向に配置された画素の位置は、図10に示すように、時刻tのフィールドデータ上の画素A,Bと、時刻t-1のフィールドデータ上の画素C,Dのようにずれて配置されることになる。このとき、時刻tのフィールドデータに補間しようとする画素の位置は、時刻t-1のフィールドデータの画素の位置と同様である。
【0081】
そこで、時刻tのフィールドデータの各画素の間のラインに、時刻t-1のフィールドデータを、例えば、図10の画素C,Dをコピーするように、画素E,Fとして合成し、プログレッシブ画面を生成し、補間メモリ16bに記憶させる。
【0082】
すなわち、静止画領域の画素は、その画素値が時刻により大きく変化しないので、このようなフィールド間補間処理により生成することができる。
【0083】
ここで、図2のフローチャートの説明に戻る。
【0084】
ステップS4において、フィールド間補間処理が実行された後、ステップS5において、フィールド内補間部14は、フィールド内補間処理を実行する。
【0085】
ここで、図11を参照して、フィールド内補間部14のフィールド内補間処理について説明する。
【0086】
ステップS71において、フィールド内補間部14は、フィールドメモリ11eに記憶されたフィールドデータを検索し、補間されていない画素が存在するか否かを判定し、補間されていない画素が存在すると判定した場合、その処理は、ステップS72に進む。
【0087】
ステップS72において、フィールド内補間部14は、補間しようとする画素の位置を読み出し、ステップS73において、補間しようとする画素位置近傍の近傍エネルギEnearを求める。ここで、補間しようとする画素位置近傍の近傍エネルギEnearは、例えば、図12に示すように、垂直方向にy−1,y+1のライン上に、それぞれ画素a乃至eおよび画素g乃至kが存在し、その間のyのライン上に画素fを補間しようとする場合、以下の式(5)から求められる。
Enear-f=|a−k|+|b−j|+|c−i|+|d−h|+|e−g|・・・(5)
【0088】
ここで、a乃至kは、画素a乃至kの画素値である。
【0089】
すなわち、補間しようとする画素位置近傍の近傍エネルギEnearは、補間しようとする画素位置の上下のライン上に存在する画素のうち、補間しようとする画素位置を中心として点対称となる位置の画素値同士の差分の絶対値を加算したものである。このため、近傍エネルギEnearの値が大きいほど、補間しようとする画素は、エッジ部分を形成している可能性が高く、逆に、その値が小さいほど、補間しようとする画素は、エッジやテクスチャ部分には存在しない可能性が高くなる。
【0090】
ステップS74において、フィールド内補間部14は、近傍エネルギEnearが所定の値より大きいか否かを判定し、大きいと判定した場合(エッジ部分を形成している可能性が高いと判定した場合)、その処理は、ステップS75に進む。
【0091】
ステップS75において、フィールド内補間部14は、補間しようとする画素の近傍の画素から、相関の高い方向の画素の組合せを求める。すなわち、相関とは、補間しようとする画素を中心として、その点対称の位置に存在する画素間の画素値の差分の絶対値である。例えば、図12にしめすように、画素fを補間しようとするとき、求めるべき相関は、|a−k|、|b−j|、|c−i|、|d−h|、|e−g|である。さらに、これらを求めた後、最も小さい値をとる組合せを検出し、これを最も相関の高い画素の組合せとする。すなわち、相関が高いということは、画素値に大きな変化がないことになるので、差分の絶対値が小さいものほど相関が高いことになる。例えば、|b−j|が最も小さい値をとった場合、画素b,jを結ぶ直線方向が相関の高い方向の画素の組合せと言うことになる。
【0092】
ステップS76において、検出された方向の画素の組合せから補間画素を生成する。すなわち、例えば、図12に示す画素b,jの組合せが最も相関の高い方向の画素の組合せであるとき、補間される画素fの画素値は、以下の式(6)から求められる。
f=1/2×(b+j)・・・(6)
【0093】
ステップS77において、フィールド間補間部14は、補間された画素値が上下方向に対して正しく変化しているか否かを判定する。例えば、図12に示す画素fを補間するとき、フィールド内補間部14は、以下の式(7)に示す判定式Jを演算し、その演算結果の正負によりこれを判定する。
J=(f−c)×(i−f)・・・(7)
【0094】
ここで、c,fは、補間された画素fの上下に存在する画素c,fの画素値である。
【0095】
すなわち、通常上下方向には、画素値は単調増加するか、単調減少する可能性が高いので、これをもって画素値の変化が正しいか否かを判定する。判定式Jは、単調増加、または、単調減少する場合、正の値となり、逆に、単調増加、または、単調減少しない場合、負の値となる。
【0096】
そこで、判定式Jが正の値である場合、フィールド内補間部14は、画素値が上下方向に対して正しく変化していると判定し、その処理は、ステップS78に進む。
【0097】
ステップS78において、フィールド内補間部14は、相関の高い方向の画素の組合せから生成された画素値を補間画素の画素値として補間メモリ16aに記憶させ、その処理は、ステップS71に戻り、全ての画素が補間されるまで以上の処理が繰り返される。
【0098】
ステップS74において、近傍エネルギEnearが所定の閾値よりも大きくないと判定された場合、ステップS79において、上下の画素を用いた線形補間により画素値を生成し、生成した画素値を補間メモリ16aに記憶させる。すなわち、例えば、図12に示す画素fを補間する場合、その上下に存在する画素c,iの画素値から以下の式(8)より線形補間により画素値を求め、これを補間画素の画素値として補間メモリ16aに記憶させ、その処理は、ステップS71に戻り、補間しようとする画素が全て補間されるまで処理が繰り返される。
f=1/2(c+i)・・・(8)
【0099】
ステップS77において、画素値が上下方向に対して正しく変化していないと判定された場合、すなわち、判定式Jが負の値である場合、その処理は、ステップS79に進む。
【0100】
ここで、図2のフローチャートの説明に戻る。
【0101】
ステップS5において、フィールド内補間処理が実行された後、ステップS6において、静止/動画領域判定部17が、静止動画領域判定処理を実行する。
【0102】
ここで、図13のフローチャートを参照して、静止動画領域判定処理について説明する。
【0103】
ステップS91において、静止/動画領域判定部17は、静止/動画領域判定されていない画素が存在するか否かを判定し、静止/動画領域判定されていない画素が存在すると判定された場合、その処理は、ステップS92に進む。
【0104】
ステップS92において、静止動画領域判定されていない画素を注目画素として検索し、その注目画素の位置を読み出す。ステップS93において、静止/動画領域判定部17は、注目画素近傍のフィールド間とフィールド内の画素間の時間差分(画素値の時間差分)の絶対値を計算する。すなわち、例えば、図14に示すように、垂直方向に並ぶ画素として、時刻tのフィールドデータ上に画素a,bが存在し、その間に注目画素s(補間しようとする画素)が存在するものとする。また、時刻t-1のフィールドデータ上には、画素c,dが、時刻t-2のフィールドデータ上には、画素e,fが、時刻t-3のフィールドデータ上には、画素g,hがそれぞれ存在するものとする。このとき、時刻tと時刻t-2のフィールドデータは、画素の存在する垂直方向のラインが同一であり、また、時刻t-1と時刻t-3のフィールドデータは、画素の存在する垂直方向のラインが同一であり、それぞれ相互に存在するラインが垂直方向に1ラインづつ、ずれた位置関係となっている。さらに、図14中の時刻t乃至t-3までのフィールドデータは、水平方向に対して同一のライン上の画素位置を示している。
【0105】
この状態で、フィールド間の時間差分の絶対値は、|a−c|と|b−c|であり、また、フィールド内の時間差分の絶対値は、|a−e|,|c−g|、および、|b−f|である。静止/動画領域判定部17は、フィールドメモリ11a乃至11dより時刻t乃至t-3のフィールドデータを読込み、これらのフィールドデータから、フィールド間の時間差分の絶対値(|a−c|、および、|b−c|)と、フィールド内の時間差分の絶対値(|a−e|,|c−g|、および、|b−f|)を演算する。
【0106】
ステップS94において、静止/動画領域判定部17は、フィールド間とフィールド内のそれぞれの時間的差分の絶対値の最大値を求める。
【0107】
ステップS95において、静止/動画領域判定部17は、フィールド内の時間的差分の絶対値の最大値が、フィールド間の時間的差分の絶対値の最大値の1/3倍よりも大きいか否かを判定し、フィールド内の時間的差分の絶対値の最大値が、フィールド間の時間的差分の絶対値の最大値の1/3倍よりも大きいと判定した場合、ステップS96において、静止/動画領域判定部17は、注目画素を動画素として記憶し、その処理は、ステップS91に戻り、全ての画素が静止動画領域判定されるまで、同様の処理が繰り返される。
【0108】
ステップS95において、フィールド内の時間的差分の絶対値の最大値が、フィールド間の時間的差分の絶対値の最大値の1/3倍よりも大きくないと判定された場合、ステップS97において、静止/動画領域判定部17は、2個のフィールド内の時間的差分同士の乗算結果が負で、かつ、加算結果の絶対値が所定の閾値よりも小さいか否かを判定し、2個のフィールド内の時間的差分同士の乗算結果が負で、かつ、加算結果の絶対値が所定の閾値よりも小さいと判定した場合、その処理は、ステップS98に進む。
【0109】
ステップS98において、静止/動画領域判定部17は、2個のフィールド内時間的差分の絶対値の一方が所定の最小閾値よりも大きく、かつ、他方の1/2倍よりも大きいか否かを判定し、2個のフィールド内時間的差分の絶対値の一方が所定の最小閾値よりも大きく、かつ、他方の1/2倍よりも大きいと判定した場合、その処理は、ステップS96に進み、2個のフィールド内時間的差分の絶対値の一方が所定の最小閾値よりも大きく、かつ、他方の1/2倍よりも大きくないと判定した場合、その処理は、ステップS99に進む。
【0110】
ステップS99において、静止/動画領域判定部17は、2個のフィールド内時間的差分の絶対値の一方が所定の最大閾値よりも大きく、かつ、他方の1/4倍よりも大きいか否かを判定し、2個のフィールド内時間的差分の絶対値の一方が所定の最大閾値よりも大きく、かつ、他方の1/4倍よりも大きいと判定した場合、その処理は、ステップS96に進み、2個のフィールド内時間的差分の絶対値の一方が所定の最大閾値よりも大きく、かつ、他方の1/4倍よりも大きくないと判定した場合、その処理は、ステップS100に進む。
【0111】
ステップS100において、静止/動画領域判定部17は、注目画素を静止画領域の画素として記憶し、その処理は、ステップS91に進む。
【0112】
ステップS97において、2つのフィールド内の時間的差分同士の乗算結果が負で、かつ、加算結果の絶対値が所定の閾値よりも小さくないと判定された場合、その処理は、ステップS100に進む。
【0113】
すなわち、ステップS95の処理で、静止/動画領域判定部17は、フィールド内の時間的差分の絶対値の最大値が、フィールド間時間的差分の絶対値の最大値の1/3倍よりも大きいと判定した場合、注目画素は、動画素とみなされ、それ以外の場合、2個のフィールド内の時間的差分の乗算結果が負で、かつ、加算結果の絶対値が所定の閾値よりも小さいという条件の下で、2個のフィールド内時間的差分の絶対値の一方が、所定の最小閾値よりも大きく、他方の1/2倍よりも大きいときか、或いは、2個のフィールド内時間的差分の絶対値の一方が所定の最大閾値よりも大きく、他方の1/4倍よりも大きいとき、やはり、注目画素は動画素とみなされ、それ以外の場合、注目画素は静止画素としてみなされる。
【0114】
ここで、図2のフローチャートの説明に戻る。
【0115】
ステップS6において、静止動画領域判定処理が実行されると、ステップS7において、セレクタ18によりセレクト処理が実行される。
【0116】
ここで、図15のフローチャートを参照して、セレクト処理について説明する。
【0117】
ステップS111において、セレクタ18は、補間されていない注目画素が存在するか否かを判定する。ステップS112において、セレクタ18は、注目画素の位置を読み出す。ステップS113において、セレクタ18は、静止/動画領域判定部17に、読み出した画素位置に対応する画素が、注目画素が動画素であるか否かを問い合わせて、判定し、動画素であると判定した場合、その処理は、ステップS114に進む。
【0118】
ステップS114において、セレクタ18は、読み出した画素の位置に対応する、補間メモリ16aに記憶された動画領域の画素として補間された画素値を読出し、プログレッシブ画面として出力しようとする画素として挿入して記憶すると共に、その処理は、ステップS111に戻る。
【0119】
ステップS113において、注目画素が動画素ではない、すなわち、静止画素であると判定された場合、ステップS115において、セレクタ18は、読み出した画素の位置に対応する、補間メモリ16bに記憶された静止画領域の画素として補間された画素値を読出し、プログレッシブ画面として出力しようとする画素に挿入して記憶すると共に、その処理は、ステップS111に戻り、ステップS111において、全ての画素が補間されるまでこの処理を繰り返す。
【0120】
すなわち、セレクタ18は、読み出した注目画素の位置に基づいて、静止/動画領域判定部17に問い合わせて、各画素毎に静止画領域の画素として記憶されているか、動画領域の画素として記憶されているかを照合し、動画領域の画素であった場合、補間メモリ16aに記憶されたフィールド内補間部14により動画素として補間された画素値を挿入し、また、注目画素が静止画領域であった場合、補間メモリ16bに記憶されたフィールド間補間部15により静止画素として補間された画素値を挿入する。
【0121】
ここで、図2のフローチャートの説明に戻る。
【0122】
ステップS7のセレクト処理が終了すると、ステップS8において、セレクタ18は、生成されたプログレッシブ画像を図示せぬ後段の装置に出力する。
【0123】
以上においては、イメージリフレッシャ12aは、3タップの垂直フィルタと5タップの水平フィルタを用いた場合について説明してきたが、3タップの垂直フィルタと3タップの水平フィルタを用いるようにしてもよい。また、この場合、例えば、図16に示すように、垂直フィルタは、(1/4−α/2,α+1/2,1/4−α/2)となり、水平フィルタは、(1/4−α/2,α+1/2,1/4−α/2)となるようにしてもよい。さらに、水平フィルタは、読み出した5個の画素値に対して1個おきに(例えば、画素f,g,h,i,jが順次読込まれたとき、画素f,h,jに対して)フィルタ処理を施す。また、3タップの垂直フィルタと5タップの水平フィルタの場合と、3タップの垂直フィルタと3タップの水平フィルタの場合とを、両方使用できるようにして、ユーザにより切替えられるようにしても良い。また、水平フィルタと垂直フィルタは、それ以外の異なるタップ数のものを使用するようにしても良い。また、補間に使用するフィールドデータ、または、画素は、連続するものでなくても良く、例えば、1個毎に使用したり、それ以上の数毎に使用するようにしても良い。
【0124】
さらに、未処理画素近傍の近傍エネルギの演算式は、式(5)のほかに、以下の式(9)を使用するようにしても良く、ユーザにより切替えられるようにしても良い。
Enear-f=|a−g|+|b−h|+|c−i|+|d−j|+|e−k|・・・(9)
【0125】
以上によれば、インタレース画像からプログレッシブ画像に変換する処理において、高域成分の乏しい画像でも正しくエッジを強調させることが可能になると共に、静止画領域の垂直解像度を向上させ、動画領域の斜めエッジを滑らかに補間させることができ、さらに、変換処理時のエラーを抑制させるようにすることが可能となる。
【0126】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
【0127】
図18は、画像処理装置をソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU101は、パーソナルコンピュータの動作の全体を制御する。また、CPU101は、バス104および入出力インターフェース105を介してユーザからキーボードやマウスなどからなる入力部106から指令が入力されると、それに対応してROM(Read Only Memory)102に格納されているプログラムを実行する。あるいはまた、CPU101は、ドライブ110に接続された磁気ディスク111、光ディスク112、光磁気ディスク113、または半導体メモリ114から読み出され、記憶部108にインストールされたプログラムを、RAM(Random Access Memory)103にロードして実行する。これにより、上述した画像処理装置の機能が、ソフトウェアにより実現されている。さらに、CPU101は、通信部109を制御して、外部と通信し、データの授受を実行する。
【0128】
プログラムが記録されている記録媒体は、図18に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク111(フロッピーディスクを含む)、光ディスク112(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク113(MD(Mini-Disc)を含む)、もしくは半導体メモリ114などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM102や、記憶部108に含まれるハードディスクなどで構成される。
【0129】
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
【0130】
【発明の効果】
本発明の画像処理装置および方法、並びにプログラムによれば、インタレース画像からプログレッシブ画像に変換する処理において、高域成分の乏しい画像でも、エッジを強調させることができ、静止画領域の垂直解像度を向上させ、動画領域の斜めエッジを滑らかに補間することが可能になると共に、変換処理時のエラーを抑制することが可能になる。
【図面の簡単な説明】
【図1】本発明を適用した画像処理装置のブロック図である。
【図2】図1の画像処理装置のIP変換処理を説明するフローチャートである。
【図3】1次元垂直エッジ強調処理を説明するフローチャートである。
【図4】1次元垂直フィルタを説明する図である。
【図5】1次元垂直フィルタを説明する図である。
【図6】1次元水平エッジ強調処理を説明するフローチャートである。
【図7】1次元水平フィルタを説明する図である。
【図8】1次元水平フィルタを説明する図である。
【図9】フィールド間補間処理を説明するフローチャートである。
【図10】フィールド間補間処理を説明する図である。
【図11】フィールド内補間処理を説明するフローチャートである。
【図12】フィールド内補間処理を説明する図である。
【図13】静止/動画領域判定処理を説明するフローチャートである。
【図14】静止/動画領域判定処理を説明する図である。
【図15】セレクト処理を説明するフローチャートである。
【図16】1次元垂直フィルタを説明する図である。
【図17】1次元水平フィルタを説明する図である。
【図18】媒体を説明する図である。
【符号の説明】
11a乃至11f フィールドメモリ,12a,12b イメージリフレッシャ,13a,13b バッファ,14 フィールド内補間部,15 フィールド間補間部,16a,16b 補間メモリ,17 静止/動画領域判定部,18 セレクタ
Claims (8)
- インタレース方式の画像をプログレッシブ方式の画像に変換する画像処理装置において、
変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、前記各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、前記各画素の水平方向に隣接する左右の垂直ライン上に存在する、前記各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値を、それぞれ垂直方向、および、水平方向の中心画素エネルギとして算出する中心画素エネルギ算出手段と、
前記中心画素エネルギ算出手段により算出された前記垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた前記画素に対してフィルタ処理を施して、前記変換しようとするインタレース方式の画像のエッジを強調するエッジ強調手段と、
前記エッジ強調手段によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、前記プログレッシブ方式の画像の画素を補間するフィールド間補間手段と、
前記エッジ強調手段によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールド内の画素から、前記プログレッシブ方式の画像の画素を補間するフィールド内補間手段と、
前記補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかを判定する判定手段と、
前記判定手段の判定結果に基づいて、前記フィールド内補間手段により補間された前記画素か、または、前記フィールド間補間手段により補間された前記画素のいずれかを選択する選択手段と
を備えることを特徴とする画像処理装置。 - 前記エッジ強調手段は、前記インタレース方式の画像の各画素毎に水平方向、および、垂直方向の1次元フィルタ処理を施し、前記画像のエッジを強調する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記変換しようとするインタレース方式の画像のフィールド内に、補間しようとする画素の上下の水平ライン上であって、前記補間しようとする画素の近傍の画素のうち、前記補間しようとする画素を中心として点対照な位置となる前記上下の水平ライン上のそれぞれの方向毎の画素同士の相関を検出する相関検出手段をさらに備え、
前記フィールド内補間手段は、前記相関検出手段により検出された相関の最も強い方向の画素同士から前記画素を補間する
ことを特徴とする請求項2に記載の画像処理装置。 - 前記相関検出手段は、前記補間しようとする画素を中心として、点対照な位置同士の画素の画素値の差分の絶対値を相関として検出する
ことを特徴とする請求項3に記載の画像処理装置。 - 前記補間しようとする画素の近傍の画素のうち、前記補間しようとする画素を挟んで、その上下に水平方向に伸びるライン上の所定数の画素であって、前記ラインに垂直に対向し合う画素の画素値の差分の絶対値の和、または、補間しようとする画素を中心として、点対称の位置に存在する画素の画素値の差分の絶対値の和を、前記補間しようとする画素の近傍エネルギとして算出する近傍エネルギ算出手段をさらに備え、
前記近傍エネルギ算出手段により算出された前記補間しようとする画素の近傍エネルギの値が、所定の閾値より大きい場合、前記フィールド内補間手段は、前記相関検出手段により検出された相関の最も強い方向の画素に基づいて補間を行う
ことを特徴とする請求項4に記載の画像処理装置。 - インタレース方式の画像をプログレッシブ方式の画像に変換する画像処理装置の画像処理方法において、
変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、前記各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、前記各画素の水平方向に隣接する左右の垂直ライン上に存在する、前記各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値を、それぞれ垂直方向、および、水平方向の中心画素エネルギとして算出する中心画素エネルギ算出ステップと、
前記中心画素エネルギ算出ステップの処理により算出された前記垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた前記画素に対してフィルタ処理を施して、前記変換しようとするインタレース方式の画像のエッジを強調するエッジ強調ステップと、
前記エッジ強調ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、前記プログレッシブ方式の画像の画素を補間するフィールド間補間ステップと、
前記エッジ強調ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールド内の画素から、前記プログレッシブ方式の画像の画素を補間するフィールド内補間ステップと、
前記補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかを判定する判定ステップと、
前記判定ステップの処理での判定結果に基づいて、前記フィールド内補間ステップの処理で補間された前記画素か、または、前記フィールド間補間ステップの処理で補間された前記画素のいずれかを選択する選択ステップと
を備えることを特徴とする画像処理方法。 - インタレース方式の画像をプログレッシブ方式の画像に変換する画像処理装置を制御するコンピュータに、
変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、前記各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、前記各画素の水平方向に隣接する左右の垂直ライン上に存在する、前記各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値の、それぞれ垂直方向、および、水平方向の中心画素エネルギとしての算出を制御する中心画素エネルギ算出制御ステップと、
前記中心画素エネルギ算出制御ステップの処理により算出された前記垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた前記画素に対してフィルタ処理を施して、前記変換しようとするインタレース方式の画像のエッジの強調を制御するエッジ強調制御ステップと、
前記エッジ強調制御ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、前記プログレッシブ方式の画像の画素の補間を制御するフィールド間補間制御ステップと、
前記エッジ強調制御ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールド内の画素から、前記プログレッシブ方式の画像の画素の補間を制御するフィールド内補間制御ステップと、
前記補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかの判定を制御する判定制御ステップと、
前記判定制御ステップの処理での判定結果に基づいて、前記フィールド内補間制御ステップの処理で補間された前記画素か、または、前記フィールド間補間制御ステップの処理で補間された前記画素のいずれかの選択を制御する選択制御ステップと
を実行させるためのプログラム。 - インタレース方式の画像をプログレッシブ方式の画像に変換する画像処理装置を制御するプログラムであって、
変換しようとするインタレース方式の画像の各画素の垂直方向に隣接する上下の水平ライン上に存在する、前記各画素の近傍の画素の画素値の上下の水平ライン毎の和の差分絶対値、および、前記各画素の水平方向に隣接する左右の垂直ライン上に存在する、前記各画素の近傍の画素の画素値の垂直ライン毎の和の差分絶対値の、それぞれ垂直方向、および、水平方向の中心画素エネルギとしての算出を制御する中心画素エネルギ算出制御ステップと、
前記中心画素エネルギ算出制御ステップの処理により算出された前記垂直方向、および、水平方向の中心画素エネルギが、所定の値を越えた前記画素に対してフィルタ処理を施して、前記変換しようとするインタレース方式の画像のエッジの強調を制御するエッジ強調制御ステップと、
前記エッジ強調制御ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールドの画素と、それとは異なるフィールドの画素から、前記プログレッシブ方式の画像の画素の補間を制御するフィールド間補間制御ステップと、
前記エッジ強調制御ステップの処理によりエッジが強調された前記変換しようとする前記インタレース方式の画像のフィールド内の画素から、前記プログレッシブ方式の画像の画素の補間を制御するフィールド内補間制御ステップと、
前記補間されるプログレッシブ方式の画像の画素が動画素であるか、または、静止画素であるかの判定を制御する判定制御ステップと、
前記判定制御ステップの処理での判定結果に基づいて、前記フィールド内補間制御ステップの処理で補間された前記画素か、または、前記フィールド間補間制御ステップの処理で補間された前記画素のいずれかの選択を制御する選択制御ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001006365A JP4806849B2 (ja) | 2001-01-15 | 2001-01-15 | 画像処理装置および方法、プログラム、並びに記録媒体 |
US10/029,849 US7012649B2 (en) | 2001-01-15 | 2001-12-31 | Image processing apparatus and method, program, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001006365A JP4806849B2 (ja) | 2001-01-15 | 2001-01-15 | 画像処理装置および方法、プログラム、並びに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002215121A JP2002215121A (ja) | 2002-07-31 |
JP4806849B2 true JP4806849B2 (ja) | 2011-11-02 |
Family
ID=18874262
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001006365A Expired - Fee Related JP4806849B2 (ja) | 2001-01-15 | 2001-01-15 | 画像処理装置および方法、プログラム、並びに記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7012649B2 (ja) |
JP (1) | JP4806849B2 (ja) |
Families Citing this family (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1790520B (zh) | 2000-01-21 | 2010-09-01 | 索尼公司 | 识别光盘的方法、重放光盘的方法和光盘设备 |
US7023487B1 (en) * | 2002-01-25 | 2006-04-04 | Silicon Image, Inc. | Deinterlacing of video sources via image feature edge detection |
JP2003274264A (ja) * | 2002-03-13 | 2003-09-26 | Sony Corp | 撮像装置及び映像信号生成方法 |
JP3898546B2 (ja) * | 2002-03-27 | 2007-03-28 | 株式会社東芝 | 画像走査変換方法及び装置 |
CN1647522B (zh) * | 2002-04-01 | 2010-04-07 | 松下电器产业株式会社 | 场内插方法判定装置 |
JP3809411B2 (ja) * | 2002-09-27 | 2006-08-16 | キヤノン株式会社 | 画像処理方法及び装置並びに印刷装置 |
JP3829985B2 (ja) | 2002-10-31 | 2006-10-04 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
US7359562B2 (en) * | 2003-03-19 | 2008-04-15 | Mitsubishi Electric Research Laboratories, Inc. | Enhancing low quality videos of illuminated scenes |
GB2402288B (en) * | 2003-05-01 | 2005-12-28 | Imagination Tech Ltd | De-Interlacing of video data |
US20040223084A1 (en) * | 2003-05-08 | 2004-11-11 | Stanger Leon J. | Methods and apparatus for border processing in video distribution systems |
JP4217543B2 (ja) * | 2003-06-05 | 2009-02-04 | キヤノン株式会社 | 動き情報処理装置及び方法 |
TWI220366B (en) * | 2003-08-11 | 2004-08-11 | Mediatek Inc | Scalable video format conversion system |
US7345708B2 (en) * | 2003-12-23 | 2008-03-18 | Lsi Logic Corporation | Method and apparatus for video deinterlacing and format conversion |
US7397973B2 (en) * | 2004-02-27 | 2008-07-08 | Mediatek Inc. | Method for controlling interpolation direction and related device |
JP4641438B2 (ja) * | 2004-03-16 | 2011-03-02 | キヤノン株式会社 | 画素補間装置及び画素補間方法 |
TWI257811B (en) * | 2004-08-16 | 2006-07-01 | Realtek Semiconductor Corp | De-interlacing method |
US7280159B2 (en) * | 2004-06-16 | 2007-10-09 | Realtek Semiconductor Corp. | Method and apparatus for cross color and/or cross luminance suppression |
KR101127220B1 (ko) * | 2004-07-28 | 2012-04-12 | 세종대학교산학협력단 | 움직임 보상 적응형 순차주사화 장치 및 그 방법 |
JP4600011B2 (ja) * | 2004-11-29 | 2010-12-15 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
JP4612433B2 (ja) * | 2005-02-25 | 2011-01-12 | 株式会社東芝 | 情報処理装置およびプログラム |
US7567294B2 (en) * | 2005-03-28 | 2009-07-28 | Intel Corporation | Gradient adaptive video de-interlacing |
US7982798B2 (en) * | 2005-09-08 | 2011-07-19 | Silicon Image, Inc. | Edge detection |
US7787048B1 (en) * | 2005-09-08 | 2010-08-31 | Nvidia Corporation | Motion-adaptive video de-interlacer |
US7796191B1 (en) | 2005-09-21 | 2010-09-14 | Nvidia Corporation | Edge-preserving vertical interpolation |
US8274605B2 (en) * | 2005-11-10 | 2012-09-25 | Broadcom Corporation | System and method for adjacent field comparison in video processing |
US7701508B2 (en) * | 2005-11-30 | 2010-04-20 | Lsi Corporation | Accurate motion detection for the combination of motion adaptive and motion compensation de-interlacing applications |
KR100722773B1 (ko) | 2006-02-28 | 2007-05-30 | 삼성전자주식회사 | 동영상에서 그래픽 영역을 검출하는 방법 및 장치 |
JP4929819B2 (ja) * | 2006-04-27 | 2012-05-09 | 富士通株式会社 | 映像信号の変換装置及び方法 |
TW200811758A (en) * | 2006-08-24 | 2008-03-01 | Realtek Semiconductor Corp | Method for edge detection, method for motion detection, method for pixel interpolation utilizing up-sampling, and apparatuses thereof |
JP2008219313A (ja) * | 2007-03-02 | 2008-09-18 | Seiko Epson Corp | 順次走査変換装置及び画像表示装置 |
JP5333791B2 (ja) * | 2008-03-21 | 2013-11-06 | 日本電気株式会社 | 画像処理方法、画像処理装置及び画像処理プログラム |
US8559746B2 (en) * | 2008-09-04 | 2013-10-15 | Silicon Image, Inc. | System, method, and apparatus for smoothing of edges in images to remove irregularities |
US20100067818A1 (en) * | 2008-09-15 | 2010-03-18 | Sony Corporation, A Japanese Corporation | System and method for high quality image and video upscaling |
JP2013207673A (ja) * | 2012-03-29 | 2013-10-07 | Jvc Kenwood Corp | 映像信号処理装置及び方法 |
CN103810675B (zh) * | 2013-09-09 | 2016-09-21 | 深圳市华星光电技术有限公司 | 图像超分辨率重构***及方法 |
CN104574277A (zh) * | 2015-01-30 | 2015-04-29 | 京东方科技集团股份有限公司 | 图像插值方法和图像插值装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0342832A (ja) | 1989-07-10 | 1991-02-25 | Seiko Instr Inc | 多層絶縁膜の形成方法 |
US5428398A (en) * | 1992-04-10 | 1995-06-27 | Faroudja; Yves C. | Method and apparatus for producing from a standard-bandwidth television signal a signal which when reproduced provides a high-definition-like video image relatively free of artifacts |
US6141056A (en) * | 1997-08-08 | 2000-10-31 | Sharp Laboratories Of America, Inc. | System for conversion of interlaced video to progressive video using horizontal displacement |
JP2000115720A (ja) * | 1998-09-30 | 2000-04-21 | Nec Corp | 走査線補間装置および走査線補間方法 |
-
2001
- 2001-01-15 JP JP2001006365A patent/JP4806849B2/ja not_active Expired - Fee Related
- 2001-12-31 US US10/029,849 patent/US7012649B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US7012649B2 (en) | 2006-03-14 |
US20020093587A1 (en) | 2002-07-18 |
JP2002215121A (ja) | 2002-07-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4806849B2 (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP4563603B2 (ja) | 両方向動きベクトルを用いたフォーマット変換装置及びその方法 | |
JP4375080B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
US6122017A (en) | Method for providing motion-compensated multi-field enhancement of still images from video | |
US7057665B2 (en) | Deinterlacing apparatus and method | |
JP5645699B2 (ja) | 動き検出装置及び方法、映像信号処理装置及び方法、並びに映像表示装置 | |
JP4973542B2 (ja) | 画素補間装置及び画素補間方法 | |
US20070140346A1 (en) | Frame interpolator, frame interpolation method and motion reliability evaluator | |
JP2006155179A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP5001684B2 (ja) | 走査変換装置 | |
JP4659036B2 (ja) | エッジ適応画像拡大強化システム及び方法 | |
JP4419062B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP5014987B2 (ja) | ビデオモード検出による動き補償 | |
JP3212917B2 (ja) | 走査線補間装置および走査線補間方法 | |
JP4239063B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JPH09200575A (ja) | 画像データ補間装置 | |
JP2003289511A (ja) | 画像走査変換方法及び装置 | |
JP4412435B2 (ja) | フィールド補間方法 | |
JP2007019708A (ja) | 画像処理装置 | |
JP2006173657A (ja) | 映像信号処理回路 | |
JP5040992B2 (ja) | 画像変換装置、および変換方法 | |
JP2003199054A (ja) | 走査線補間回路 | |
JP2004056586A (ja) | 画像処理装置及び画像処理方法 | |
JP2003274371A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JPH07327209A (ja) | 動きベクトル検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110328 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110719 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110801 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140826 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |