JP4092778B2 - 画像信号の方式変換装置及びテレビジョン受像機 - Google Patents
画像信号の方式変換装置及びテレビジョン受像機 Download PDFInfo
- Publication number
- JP4092778B2 JP4092778B2 JP15559798A JP15559798A JP4092778B2 JP 4092778 B2 JP4092778 B2 JP 4092778B2 JP 15559798 A JP15559798 A JP 15559798A JP 15559798 A JP15559798 A JP 15559798A JP 4092778 B2 JP4092778 B2 JP 4092778B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- motion
- unit
- motion vector
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Systems (AREA)
Description
【発明の属する技術分野】
本発明は画像信号の方式変換装置及びテレビジョン受像機に係り、特に動き補正の信号処理により内挿フレームを生成して画像信号のフレーム数を変換するのに好適な画像信号の方式変換装置及びテレビジョン受像機に関する。
【0002】
【従来の技術】
異なるテレビジョンシステム間の信号変換である方式変換は、放送の分野では番組交換などで広く使用されている。方式変換では一般に、操作線数やフィールド周波数の変換処理が必要なため、解像度の劣化や、動き画像で滑らかさが損なわれるモーションジャダーなどの画質劣化が発生する。
【0003】
これらの劣化を防ぐため、走査線数変換には動き適応型走査線数・順次走査変換法が、またフレーム数変換には動き補正型フレーム数変換法などの信号処理技術が考案されている。
【0004】
このうち、動き補正型フレーム数変換法は、動きベクトルで前後のフレームの画像位置を移動させて内挿フレームの信号を生成するもので、動き画像のモーションジャダーの除去に極めて有効である。このため放送関係の方式変換装置では、ほとんどがこの方法を採用している。
【0005】
また、テレビジョン画像のための動き予測方法については、例えば1995年7月4日に公開された特開平7−170496号公報(1993年9月8日出願の仏国特許出願第93402188.2号および1993年11月2日に出願の独国特許出願第93117661.4号に基づく日本出願の公開公報)に開示されている。この方法は、1つの注目ブロックの動きベクトルおよび3つの隣接するブロックの動きベクトルを用いて、1つの画素の動きベクトルを計算するものである。これにより、大きなブロックの信頼性という利点と、より局在的な位置決定の動きベクトルの性能を兼ね備える装置を提供することができる、とするものである。
【0006】
しかしながら、放送関係の方式変換装置に用いる動き補正のフレーム数変換の信号処理は、動きベクトル探索の信号処理に膨大な演算量を必要とし、これをそのままテレビジョン受像機に採用することは、回路規模やコスト面からして困難である。また、上述したテレビジョン画像のための動き予測方法では、画素単位の動きベクトルの精度に問題があり、正確な動きベクトルを得ることができず、画質劣化が発生するおそれがある。
【0007】
【発明が解決しようとする課題】
本発明の目的は、高画質でしかも回路規模の小さい画像信号の方式変換装置を提供することにある。
【0008】
また本発明の他の目的は、マルチソース対応の高画質かつ低コストのテレビジョン受像機を提供することにある。
【0009】
【課題を解決するための手段】
本発明の一側面によれば、画像信号に基づいてブロック単位動きベクトルを探索し、探索した現ブロックと隣接ブロックの動きベクトルを用いてミニブロック単位で求めた所定の動き補正誤差に係る動きベクトルをミニブロック内の画素単位動きベクトルに割り当て、この画素単位動きベクトルを用いて画像信号の内挿フレームを生成することにより画像信号のフレーム数を変換するよう構成した画像信号の方式変換装置によって、達成される。
【0010】
本発明の他の側面によれば、飛び越し走査の画像信号を動き適応型の走査線補間処理で順次走査の画像信号に変換する。次に、順次走査に変換した画像信号に対して、動き補正フレーム数変換の信号処理を行う。このため、飛び越し走査の信号に較べ、動き補正に必要な動きベクトルの検出を高精度で行うことができる。更に、動きベクトルの探索生成に要する演算量の大幅な削減を図るため、ブロック単位動きベクトルの探索と、これを参照ベクトルとする画素単位動きベクトルの生成の少なくとも2段階の信号処理を行う。
【0011】
このような信号処理の採用で、動き補正処理に必要な画素単位の動きベクトルの探索、生成に要する演算量は大幅に低減できる。また、動き補正誤差が最小の動きベクトルをミニブロック内の画素単位動きベクトルに割り当てるため、動きベクトルの不正確さに起因する画質劣化、すなわち、画像の一部が不適切な画像に置き換えられる孤立点的な劣化などを大幅に抑圧することができる。
【0012】
本発明の他の側面によれば、動き補正のフレーム内挿処理を、動きの滑らかさが損なわれるモーションジャダーの目立ちやすい速度の動きや、上下パンや水平パンや文字スクロールなどの特殊な動きに対してのみ行う。また、シーンチェンジでは、動きベクトルの探索及び動き補正のフレーム内挿処理の動作を中止する。
【0013】
この結果、動き補正処理に固有な動画のエッジ部がフリッカしたり動きが不自然に見える画質劣化の発生を抑圧できる。また、シーンチェンジ時における膨大な演算量の発生を抑圧することができる。
【0014】
本発明の他の側面によれば、テレビジョン受像機は、異種方式の複数の画像信号を入力する入力部と、入力部からの画像信号に基づいてブロック単位動きベクトルを探索し、ブロック単位動きベクトルを用いて画素単位動きベクトルを生成し、画素単位動きベクトルを用いて画像信号の内挿フレームを生成することにより画像信号のフレーム数を変換処理する複数の画像フォーマット変換部と、各画像フォーマット変換部からの出力信号を多重化する多重化部と、多重化部の出力信号に基づいて画像を表示する表示部とを備える。
【0015】
これにより、例えばPAL−NTSCテレビジョン信号の方式変換、PAL50Hz−60Hz変換、フレーム周波数24Hzのフィルム画像−フレーム周波数60Hzの順次走査変換、テレビジョン信号−パソコン(パーソナルコンピュータ)画像信号変換など、各種のフレームレート変換装置を極めて低コストで実現することが可能になる。また、この方式変換装置を用いることにより、マルチソース対応の高画質かつ低コストのテレビジョン受像機を得ることができる。
【0016】
本発明の他の側面によれば、PAL方式のテレビジョン信号、PC画像等の第1の画像信号の画像信号発生部から画像の動き情報を検出する動き情報検出部と、上記動き情報の中の動きベクトルを利用し動き補正型フレーム内挿処理でフレーム数変換を行う動き補正処理部とを備え、上記第1の画像信号を第1の画像信号のフレーム数より高いフレーム数の第2の画像信号に変換する装置において、上記動き情報検出部を第1の画像信号のフレーム間の差分信号成分より画素毎の動きの有無を検出する動き検出部と、第1の画像信号をブロックに分け上記動き検出部で動きの検出されない画素のみのブロックは動きベクトルの検出を行わず、動きの検出された画素を含むブロックはブロックマッチング処理によりブロックの動きベクトルの検出を行う動きベクトル検出部を設けて構成する。
【0017】
好ましくは、上記動きベクトル検出部には、上記動き検出部の信号を利用し、処理しようとするブロック(現ブロックと略称)とこれに隣接する複数ブロックとの間の動きの相関関係を検出し、現ブロックと動きの相関が高い隣接ブロックの動きベクトルで修正動きベクトルを生成するベクトル修正部を設ける。上記ベクトル修正部は、ブロック単位で修正するものと、動きが検出されたブロックを複数の小(ミニ)ブロックに分け、隣接する複数ブロックの動きベクトルよる補正誤差をミニブロック単位に算出する演算部とを設け、補正誤差の最小値に対応する動きベクトルをミニブロック内の画素の動きベクトルとして割り当てる画素あるいはミニブロック単位で修正するものがある。
【0018】
動き補正型フレーム内挿処理でフレーム数変換を行う動き補正処理部は、
(1)上記動き検出部の信号をもとに、動きが検出された画素のみ動き補正処理を行う。動きベクトルが求められたブロックでも、フレーム数変換を行う動き補正での画素毎の処理において、動き検出部の信号が動きなしとした画素については、動きベクトルを0として処理する。
【0019】
(2)動きの滑らかさが損なわれるモーションジャダーの目立ちやすい速度や上下パンや水平パンや文字スクロール等の特殊な動き等の特定の動きベクトルを検出し、特定の動きのみの信号に対して補正フレーム内挿の処理を画素単位に行う。
【0020】
上記の如く、動き検出部で、動きが検出された画素を含むブロックに対してのみ演算量が多いブロックマッチング処理が行われるので、そのために必要なメモリ、演算回路等の装置を小規模化できる。また、ブロックマッチング処理が少なくなるため、現ブロックと動きの相関が高い隣接ブロックの動きベクトルで修正動きベクトルを生成するベクトル修正部を設けることができ、高精度な動きベクトルの検出が簡単な信号処理で実現される。更に、補正フレーム内挿の処理を行う場合、動き検出部の動きの有無の信号を利用し、画素単位に動きのある画素毎に処理ができるので、画質の精度を維持するとともに信号処理に必要な演算処理量、従って構成回路規模が大幅に削減できる。
【0021】
【発明の実施の形態】
本発明の第1の実施例について、図1〜図10の図面で説明する。本実施例は、飛び越し走査の入力画像信号をより高いフレーム周波数を有する順次走査の画像信号系列S4に変換する画像信号の方式変換装置である。
【0022】
図1は、本実施例のブロック構成図である。同図において、IP変換部1は 飛び越し走査の入力画像信号S1(輝度信号成分と色差信号成分)を入力し、飛び越し−順次の走査変換を行い、順次走査の信号系列S2(輝度信号成分と色差信号成分)を出力する。飛び越し−順次の走査変換は、例えば輝度信号成分は動き適応型の補間処理により行い、色差信号はライン間の補間処理で補間走査線の信号を生成することにより行う。なお、入力画像信号がテレシネ画像信号(映画などのフィルム画像を2−3プルダウン処理でテレビジョン信号のフォーマットに変換した信号)の場合は、フィルムモードの補間処理を行う(同一フィルムフレームに属す飛び越し走査の信号で補間走査線の信号を生成する)ことにより、フィルム画像の形態の順次走査の信号系列を生成する。
【0023】
動き補正フレーム数変換部2は、動き補正処理で内挿フレームの信号系列を生成することによって、IP変換部1より得られた順次走査の信号系列S2を、フレーム周波数がより高い周波数の順次走査の画像信号系列S4(輝度信号成分と色差信号成分)に変換して出力するもので、1フレーム遅延部3、動き検出部4、ブロック単位動きベクトル探索部5、画素単位動きベクトル生成部6、及び動き補正内挿フレーム生成部7を具備する。
【0024】
ここで1フレーム遅延部3は、入力した信号系列を1フレーム遅延して出力するものである。
【0025】
動き検出部4は、現フレームの信号系列S2の輝度信号成分から1フレーム遅延部3より得られた前フレームの信号系列S3の輝度信号成分を減算して1フレーム間の差分信号を抽出し、これを2値量子化し、動き検出信号MI1、MI2を出力する。この構成は後述する。
【0026】
ブロック単位動きベクトル探索部5は、次のようにしてブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)の動きベクトルBVを検出する。まず、動き検出信号MI1が全て0のブロックは静止ブロックであると判定し、ブロック単位動きベクトルBVに0を出力する。一方、MI1に1を含むブロックは動画ブロックであると判定し、信号S2とS3の輝度信号成分に対して、ブロックマッチング処理で誤差最小となるブロック対の探索を行い、ブロック単位動きベクトルBVを検出する。この構成は後述することとして、その動作を次に述べる。
【0027】
ブロック単位動きベクトル探索では、図17に示す信号処理フローチャートに従って、ブロック単位動きベクトルBVを探索する。
【0028】
(1)第1ステップでは、フレーム差分信号で動きを検出しないブロック(静止ブロック)と、動きを検出したブロック(動画ブロック)とに分別する。
【0029】
(2)第2ステップでは、静止ブロックは動きベクトルの探索は行わず、動きベクトルBVに0を割り当てる。また動画ブロックは、まず、図18(a)に示す様に、予め設定した複数個数の代表動きベクトル(図中のBVa,BVb,BVc,BVd,…,BVn)に対して動き補正誤差を演算する。則ち、現フレームブロック内の画素の信号fct(x,y)と、前フレームの画素を代表動きベクトルのx成分BVx、y成分BVyだけ位置を移動させた信号fpr(x+BVx,y+BVy)との差分成分の絶対値を積算し、これが最少となる代表動きベクトルBV1を求める。(3)第3ステップでは、図18(b)に示す様に、代表動きベクトルBV1を起点に水平±DX、垂直±DYの領域の動きベクトルに対して、ブロックマッチング処理による探索を行い、動き補正誤差が最少なものをブロック単位の動きベクトルBVとして検出する。ブロック単位動きベクトル探索部5は以上のようにして動作する。
【0030】
画素単位動きベクトル生成部6は、次のようにして画素単位動きベクトルPVを生成する。まず、動き検出信号MI2が0の画素はPVに0を割り当てる。一方、MI2が1の画素では、現ブロックとこれに隣接する上下左右ブロックの動きベクトルを用いて、ミニブロック単位(例えば2画素×2ライン)で動き補正誤差が最少となる動きベクトルを算出し、これをミニブロック内の画素の動きベクトルに割り当てる。この構成についても後述することとして、その動作を次に述べる。
【0031】
画素単位動きベクトル生成では、図19〜図23に示す4種類の信号処理フローチャートのいずれか1つの方法で、画素単位動きベクトルPVを生成する。 まず、図19と図20で、この第1の信号処理を説明する。
【0032】
(1)第1ステップでは、ブロック単位の動きベクトルBVで現ブロックでの動き補正誤差を算出し、閾値THとの大小比較を行う。
【0033】
(2)第2ステップでは、動き補正誤差が閾値TH未満の場合は、動きベクトルBVは正確と判定し、この動きベクトルBVをブロック内の全ての画素に割り当てる。一方、動き補正誤差が閾値TH以上の場合は、図20に示すように、現ブロック及びこれに隣接する参照ブロックの動きベクトルを用い、ミニブロック(例えば水平MX画素×垂直MYライン)毎に、ミニブロックを内包する水平MX+2、垂直MY+2の算出領域で動き補正誤差を最少にする動きベクトルを求める。則ち、ミニブロック内の画素の信号fct(x,y)と、前フレームの画素を動きベクトルのx成分BVx、y成分BVyだけ位置を移動させた信号fpr(x+BVx,y+BVy)との差分成分の絶対値を積算し、これが最少となる動きベクトルをPVとして求める。そして、ミニブロック内の画素には、この動きベクトルPVを割り当てる。
【0034】
(3)第3ステップでは、動き検出信号MI2が0の画素に対しては、動きベクトル0を割り当てる。
【0035】
なお、以下に述べる第2乃至第4の信号処理では、閾値TH以上の場合の第2ステップにおける処理がそれぞれ第1の信号処理と異なる。
【0036】
図21(a)、図21(b)に示す第2の信号処理では、動き補正誤差が閾値TH以上の場合は、現ブロックの動きベクトルBVを参照ベクトルとしたブロックマッチング処理で、サブブロックSB1(ブロックサイズ水平、垂直とも1/2)毎の動きベクトルPV1を再探索する。次に、このPV1を参照ベクトルとして、サブブロックSB2(水平、垂直ともSB1の1/2のサイズ)毎の動きベクトルPV2を再探索する。以下、ミニブロックのサイズまでこの動きベクトルの再探索の処理を行い、ミニブロックの動きベクトルPVを生成する。そして、この動きベクトルPVを、ミニブロック内の画素に割り当てる。
【0037】
一方、図22に示す第3の信号処理では、動き補正誤差が閾値TH以上の場合は、現ブロックの動きベクトルBVを参照ベクトルとしたブロックマッチング処理で、サブブロックSB1(ブロックサイズ水平、垂直とも1/2)毎の動きベクトルPV1を再探索する。次に、再探索で得られたPV1と、図20に示した現ブロックに隣接する参照ブロックとの動きベクトルを用い、ミニブロック(例えば水平MX画素×垂直MYライン)毎に、ミニブロックを内包する水平MX+2、垂直MY+2の算出領域で動き補正誤差を最少にする動きベクトルPVを求める。そして、ミニブロック内の画素には、この動きベクトルPVを割り当てる。
【0038】
図23(a)、図23(b)に示す第4の信号処理では、サブブロックSB1(ブロックサイズ水平、垂直とも1/2)、サブブロックSB2(水平、垂直ともSB1の1/2のサイズ)、以下、ミニブロックのサイズのサブブロックSBnに対して、BVを参照ベクトルとしたブロックマッチング処理を行い、サブブロックの動きベクトルPV1、PV2、…、PVnを再探索する。次に、ミニブロック毎に、PV1、PV2、…、PVnの内で動き補正誤差が最少となるものを算出し、これをミニブロック内の画素の動きベクトルに割り当てる。画素単位動きベクトル生成部6は以上のようにして動作する。
【0039】
動き補正内挿フレーム生成部7は、画素単位動きベクトルPVを用いて補正補間動きベクトルを作り、現フレームの信号S2と前フレームの信号S3の画像の位置をこの補正補間動きベクトルで移動させた信号で、内挿フレームの信号を生成する。そして、この出力に動き補正型のフレーム数変換処理でフレーム周波数を高めた順次走査の画像信号S4を得る。なお、この具体的な構成についても後述する。
【0040】
以下、本実施例における主要ブロック部について説明する。
【0041】
図2は動き検出部4の一構成例を示す図である。減算部8は、現フレームの信号S2と前フレームの信号S3の輝度信号成分について減算演算を行い、1フレーム間の差分信号成分FDを抽出する。2値量子化部9−1は、差分信号成分FDの信号レベルが設定値±Tha未満の場合は静止領域と判定して0、±Thaを越える場合は動画領域と判定して1の動き検出信号MI1を出力する。2値量子化部9−2は、差分信号成分FDの信号レベルが0の場合は静止と判定して0、それ以外は動画と判定して1の動き検出信号MI2を出力する。
【0042】
図3は、ブロック単位動きベクトル探索部5の一構成例を示す図である。静動ブロック判定部10は、ブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)で、動き検出信号MI1の1の有無を検出する。そして、信号MI1が全て0の時は静止ブロックと判定して信号BMに0、それ以外の時は動画ブロックと判定して1を出力する。
【0043】
制御部11は、信号BMに従って、ブロックマッチング第1処理部12とブロックマッチング第2処理部13の動作を制御する。則ち、信号BMが0の静止ブロックでは、動きベクトル探索の動作を行わず、ブロック単位動きベクトルBVに0を出力させる。そして、信号BMが1の動画ブロックのみ、以下に述べる動きベクトル探索の動作を行う。
【0044】
ブロックマッチング第1処理部12は、図17に示す第2ステップの動きベクトルの探索を行う。則ち、現フレームの信号S2と前フレームの信号S3の輝度信号成分を用いて、予め設定した複数個数の代表動きベクトル(図18に示すBVa,BVb,…,BVn)についてブロックマッチング処理で動き補正誤差を算出し、これが最少となるものを代表動きベクトルBV1に出力する。なお、複数個数の代表動きベクトルには、既に探索を終了した直前のブロックの動きベクトルも併用することもできる。
【0045】
ブロックマッチング第2処理部13は、図17に示す第3ステップの動きベクトルの探索を行う。則ち、現フレームの信号S2と前フレームの信号S3の輝度信号成分を用いて、代表動きベクトルBV1を起点として、x成分を±DXの範囲、y成分を±DYの範囲で定まる動きベクトルについてブロックマッチング処理で動き補正誤差を算出し、これが最少となるものをブロック単位動きベクトルBVに出力する。
【0046】
この結果、ブロック単位動きベクトルの探索は、動画ブロックに限定でき、かつ、代表動きベクトルによる部分探索が可能なため、探索に要する信号処理の演算量は大幅に低減できる。
【0047】
図4は、画素単位動きベクトル生成部6の第1の構成例を示す図である。これは、前述した図19、図20に従った信号処理を行うに好適なものである。
【0048】
補正誤差算出部14は、図19に示す第1ステップの処理を行う。則ち、現フレームの信号S2、前フレームの信号S3の輝度信号成分に対し、ブロック単位動きベクトルBVによる動き補正誤差を算出する。そして、この誤差の値が閾値TH未満の場合は信号PMに0、閾値TH以上の場合は1を出力する。
【0049】
制御部15は、信号PMと動き検出信号MI2を基に、図19に示す第2、第3ステップの信号処理に必要な制御信号PC1、PC2を生成する。
【0050】
補正誤差算出部17−1、…、17−Nは、図19の第2ステップの閾値以上の場合の信号処理を行う。則ち、制御信号PC1が閾値以上を示す時、参照動きベクトル生成部16で生成する現ブロックの動きベクトルV0と、図20に示す隣接ブロックに対応する動きベクトルV1、…、VNとで、ミニブロック(例えば水平MX=2、垂直MY=2の2画素×2ライン)毎に、これを内包する水平4(MX+2)画素、垂直4(MY+2)ラインの算出領域での動き補正誤差ER0、ER1、…、ERNを算出する。なお、この動き補正誤差の算出は、現フレームの信号S2と前フレームの信号S3の輝度信号成分、もしくは輝度信号成分と色差信号成分、のいずれかに対し、(式1)に示す演算で実現できる。
【0051】
【数1】
【0052】
(式1)で、S2(x,y)は算出領域内の現フレームの画素の信号、S3(VN)は動きベクトルVNで位置を移動させた前フレームの画素の信号、abs{ }は絶対値、Σは算出領域内の画素の総和、VNxは動きベクトルVNのx成分、VNyはy成分である。
【0053】
画素動きベクトル設定部18は、図19の第2ステップの閾値未満および第3ステップの信号処理を行う。則ち、制御信号PC2が閾値未満を示す場合は、現ブロックの動きベクトルV0を画素単位動きベクトルPVに出力する。一方、閾値以上を示す場合は、動き補正誤差ER0、ER1、…、ERNの内で最少値をとる動きベクトルを、各ミニブロック内の画素の動きベクトルPVとして出力する。
【0054】
また、動き検出信号MI2が0の画素を示す時は、制御信号PC2が画素単位動きベクトルPVに強制的に0を出力させる。
【0055】
図5は、画素単位動きベクトル生成部の第2の構成例を示す図である。そして、図21(a)、図21(b)に示す信号処理で画素単位の動きベクトルを生成する。
【0056】
補正誤差算出部14は、図4に示したものと同じで、図21(a)に示す第1ステップの処理を行い、ブロック単位の動き補正誤差の値が閾値TH未満の場合は信号PMに0、閾値TH以上の場合は1を出力する。
【0057】
制御部15は、信号PMと動き検出信号MI2を基に、図21(a)に示す第2、第3ステップの信号処理に必要な制御信号PC3、PC2を生成する。
【0058】
再探索第1処理部19、再探索第2処理部20、再探索第3処理部21は、図21(a)の第2ステップの信号処理を行う。則ち、制御信号PC3が閾値以上を示す時には、動きベクトルの再探索処理を行う。まず、再探索第1処理部19では、図21(b)に示すように、ブロックサイズが水平、垂直とも1/2のサイズに縮小したサブブロックSB1毎に、動きベクトルBVを参照ベクトルとしてブロックマッチング処理を行い、再探索したSB1単位の動きベクトルPV1を出力する。次に、再探索第2処理部20では、サブブロックSB1を水平、垂直ともに1/2に縮小したサブブロックSB2毎に、動きベクトルPV1を参照ベクトルとしてブロックマッチング処理を行い、再探索したSB2単位の動きベクトルPV2を出力する。再探索第3処理部21は、サブブロックSB2を水平、垂直ともに1/nに縮小したミニブロックサイズのサブブロックSBN毎に、動きベクトルPV2を参照ベクトルとしてブロックマッチング処理を行い、再探索したSBN単位の動きベクトル、則ち、ミニブロック単位の動きベクトルPV3を出力する。一方、制御信号PC3が閾値未満を示す時は、再探索第1処理部19、再探索第2処理部20、再探索第3処理部21は、再探索処理の動作を中止し、動きベクトルPV3に現ブロックの動きベクトルBVを出力する。
【0059】
画素動きベクトル設定部22は、図21(a)の第3ステップの信号処理を行う。則ち、動き検出信号MI2が0の画素を示す時は、制御信号PC2が画素単位動きベクトルPVに強制的に0を出力させる。一方、動き検出信号MI2が1の画素を示す時は、制御信号PC2が画素単位動きベクトルPVにPV3を出力させる。
【0060】
図6は、画素単位動きベクトル生成部の第3の構成例を示す図である。これは、前述した図22に従った信号処理を行うに好適なもので、図4の構成に再探索処理部23を追加することで実現する。
【0061】
再探索処理部23は、制御信号PC4が閾値以上を示す場合は、ブロックサイズを水平、垂直ともに1/2に縮小したサブブロックSB1毎に、現ブロックの動きベクトルBVを参照ベクトルとしたブロックマッチング処理を行い、再探索したSB1単位の動きベクトルPV1を出力する。一方、PC4が閾値未満を示す場合は、再探索動作を中止して、現ブロックの動きベクトルBVを出力する。そして、図22の第2ステップの閾値以上の信号処理で参照ベクトルとして使用するサブブロックSB1単位の動きベクトルPV1を生成する。
【0062】
以降の動作は、図4に示したものと同様であるので、説明は省略する。
【0063】
図7は、画素単位動きベクトル生成部の第4の構成例を示す図で、図23(a)、図23(b)に示す信号処理で画素単位の動きベクトルを生成する。
【0064】
補正誤差算出部14は、図4に示したものと同じで、図23(a)に示す第1ステップの処理を行い、ブロック単位の動き補正誤差の値が閾値TH未満の場合は信号PMに0、閾値TH以上の場合は1を出力する。
【0065】
制御部15は、信号PMと動き検出信号MI2を基に、図23(a)に示す第2、第3ステップの信号処理に必要な制御信号PC5、PC2を生成する。
【0066】
再探索第1処理部24、再探索第2処理部25、再探索第3処理部26は、図23(a)の第2ステップの信号処理を行う。則ち、制御信号PC5が閾値以上を示す時には、動きベクトルの再探索処理を行う。まず、再探索第1処理部24は、図23(b)に示すように、ブロックサイズを水平、垂直とも1/2のサイズに縮小したサブブロックSB1毎に、動きベクトルBVを参照ベクトルとしてブロックマッチング処理を行い、再探索したSB1単位の動きベクトルPV1を出力する。次に、再探索第2処理部25は、ブロックサイズを水平、垂直ともに1/4に縮小したサブブロックSB2毎に、動きベクトルBVを参照ベクトルとしてブロックマッチング処理を行い、再探索したSB2単位の動きベクトルPV2を出力する。再探索第3処理部26は、ブロックサイズを水平、垂直ともに1/nに縮小したミニブロックサイズのサブブロックSBN毎に、動きベクトルBVを参照ベクトルとしてブロックマッチング処理を行い、再探索したSBN単位の動きベクトル、則ち、ミニブロック単位の動きベクトルPV3を出力する。一方、制御信号PC5が閾値未満を示す時は、再探索第1処理部24、再探索第2処理部25、再探索第3処理部26は、再探索処理の動作を中止し、PV1、PV2、PV3に現ブロックの動きベクトルBVを出力する。
【0067】
画素動きベクトル設定部27は、図23(a)の第2ステップの閾値未満および第3ステップの信号処理を行う。則ち、制御信号PC2が閾値未満を示す場合は、現ブロックの動きベクトルPV1を画素単位動きベクトルPVに出力する。一方、閾値以上を示す場合は、PV1、PV2、PV3の内で動き補正誤差が最少値をとる動きベクトルを各ミニブロック内の画素の動きベクトルとして出力する。
【0068】
また、動き検出信号MI2が0の画素を示す時は、制御信号PC2が画素単位動きベクトルPVに強制的に0を出力させる。
【0069】
図8は、動き補正内挿フレーム生成部7の第1の構成例を示す図、図9(a)〜図9(c)はその動作を説明するための図である。
【0070】
フレーム順制御部28は、画素単位動きベクトルPVより動き補正処理に必要な補正補間動きベクトルVctとVprを生成する。この動作概略を、フレーム周波数50Hzの信号をフレーム周波数が60Hzの信号にフレーム数変換を行う場合を例に、図9(a)、図9(b)に示す。フレーム周波数50Hzの順次走査の信号は、フレーム順の1から5の信号に対し、同図に示す様に動きベクトルPVを基に補正型の信号処理で内挿フレームを生成し、フレーム順1から6のフレーム周波数が60Hzの順次走査の信号に変換する。この際、補正補間動きベクトルは、内挿するフレーム位置と合致させる必要がある。そこで、同図に示す様に、動きベクトル信号PVに係数加重する係数値ka,kbを変化させ、(式2)に示す演算で補正補間動きベクトルVpr、Vctを生成する。
【0071】
【数2】
【0072】
則ち、フレーム順が2の内挿フレームは、Vpr=PV*5/6,Vct=−PV*1/6(ka=5,kb=1)、3のものは、Vpr=PV*4/6,Vct=−PV*2/6(ka=4,kb=2)…の如く、係数値ka,kbを発生させ、時間方向での位置ずれのない補正補間動きベクトルを生成する。この結果、時間方向での揺らぎのないフレーム数変換を実現する。
【0073】
動き補正信号生成部29では、現フレームの信号S2と補正補間動きベクトルVctで動き補正信号Sctを生成する。また、動き補正信号生成部30は、前フレームの信号S3と補正補間動きベクトルVprで動き補正信号Sprを生成する。この動作概略を図9(c)に示す。内挿フレームの点A(x,y)の信号は、前フレームの信号S3では、点A(x,y)を補正補間動きベクトルVpr(水平方向成分Vprx,垂直方向成分Vpry)で移動させた点A’(x1,y1)=(x+Vprx,y+Vpry)の位置の信号、現フレームの信号S2では点A(x,y)を補正補間動きベクトルVct(水平方向成分Vctx,垂直方向成分Vcty)で移動させた点A”(x2,y2)=(x−Vctx,y−Vcty)の位置の信号に対応する。従って、動き補正信号SprとSctは、以下の(式3)で生成される。
【0074】
【数3】
【0075】
この信号処理は、動き補正信号生成部に内蔵のメモリ回路の読み出し動作を制御することで実現できる。則ち、読み出しのためのアドレスを補正補間動きベクトルVpr,Vctの位置だけずらせたアドレスを生成し、このアドレスで点A’,A”に対応した画素の信号を読み出す。
【0076】
加算部31は、両者の動き補正信号SprとSctとの加算平均を行い、その出力に動き補正のフレーム数変換でフレーム周波数をアップした順次走査の画像信号S4を得る。
【0077】
図10は、動き補正内挿フレーム生成部の第2の構成例を示す図である。これは、モーションジャダー妨害が目立ちやすい速度の動き、あるいは水平パンや上下パンや文字スクロールなどの特殊な動きの場合のみ、動き補正のフレーム内挿処理を行うものである。
【0078】
同図のフレーム順制御部28、動き補正信号生成部29,30、加算部31は、図8と同じ動作を行い、加算部31の出力に動き補正のフレーム内挿処理した信号Smcを得る。
【0079】
動き速度検出部32は、画素単位動きベクトルPVを基に、モーションジャダー妨害が目立ちやすい速度の動き、あるいは水平パンや上下パンや文字スクロールなどの特殊な動きを検出する。
【0080】
例えば、モーションジャダー妨害は、1秒/画面幅、1秒/画面高程度までの視線が追従できる動きの場合に特に目立ち易いという性質が知られている。従って、動き速度検出部では、1秒/画面幅、1秒/画面高程度に相当する速度を閾値とする動きベクトルPVの速度成分の判定を行い、閾値未満の速度では1、以上では0の信号SLを出力する第1の動作で、この検出ができる。
【0081】
また、水平パンや上下パンでは画面全体が一様な速度で動く。従って、動き速度検出部では、画素単位動きベクトルPV≠0のものの大きさと方向を全画面領域にわたり計測し、これがほぼ同じ値をとる場合のみ、全ての画面領域で1を信号SLに出力する第2の動作で、この検出ができる。
【0082】
一方、文字スクロールなどでは、動き領域の形状が帯状で、かつ、この領域での動きベクトルはほぼ同じ値になる。従って、動き速度検出部では、画素単位動きベクトルPV≠0のものの大きさと方向がほぼ同一となる帯状の領域を検出し、この領域のみ1を信号SLに出力する第3の動作で、この検出ができる。
【0083】
なお、動き速度検出部は、第1、第2、第3のいずれか1つの動作、もしくはこれらを組み合わせた動作など、種々の動作形態のもので実現できる。
【0084】
スイッチ部33は、信号SLが1の時は、現フレームの信号S2を選択し、信号SLが0の時は、信号Smcを選択する。そして、この出力に、モーションジャダー妨害が目立ちやすい速度の動き、あるいは水平パンや上下パンや文字スクロールなどの特殊な動きの領域のみを動き補正のフレーム内挿処理した順次走査の画像信号S4を得る。
【0085】
以上に述べた如く、本実施例によれば、動きベクトルの探索、生成に要する演算量が少なく、かつ、高画質な画像信号の方式変換装置が実現できる。そして、低コスト化に顕著な効果が得られる。
【0086】
次に、本発明の第2の実施例について、図11のブロック構成図を用いて説明する。本実施例は、シーンチェンジの領域では動き補正処理の信号処理を中止する動作を行うに好適なものである。
【0087】
同図のIP変換部1、1フレーム遅延部3、動き検出部4、ブロック単位動きベクトル探索部5、画素単位動きベクトル生成部6は、図1に示したものと同一のものである。
【0088】
シーンチェンジ検出部34は、1フレーム期間でのフレーム間差分信号成分の発生形態を基にシーンチェンジの発生した領域を検出する動作を行う。この一構成例を図12に示す。減算部8は、現フレームの信号S2と、前フレームの信号S3の輝度信号成分に対して減算演算を行い、1フレーム間の差分成分FDを抽出する。一般に、シーンチェンジの領域では、画像の内容が切り替わるため、差分成分FDの信号レベルは比較的大きな値を持つ。そこで、2値量子化部36は比較的高いレベルの閾値±Thbで信号FDを画素毎に2値量子化する。そして、閾値±Thb未満の画素は0、閾値を越える画素は1を信号QSに出力する。1フレーム累積部37は、1フレーム期間で信号QSが1のものの画素の数を計測し、1フレーム期間での累積値AQを出力する。判定部38は、画面全体が一様な速度で動く水平パンや上下パンの動きを誤ってシーンチェンジと検出する誤動作を避けるため、累積値AQの値が全画面の半分以上の画素数で、かつ、その発生が1フレーム期間に限られる場合をシーンチェンジ領域と判定し、信号SCに1フレームの期間にわたり1を出力する。これ以外の場合は0を出力する。
【0089】
ブロック単位動きベクトル探索部5、画素単位動きベクトル生成部6は、信号SCが1の期間のみ、優先的に、動きベクトルの探索や生成の動作を中止する。そして、信号SCが0の場合は、図1と同じ動作を行う。
【0090】
また、動き補正内挿フレーム生成部35は、信号SCが1の期間は、優先的に、現フレームの信号S2を選択してS4に出力する。また、信号SCが0の場合は、図1の動き補正内挿フレーム生成部7と同じ動作を行う。
【0091】
以上に述べた如く、本実施例によれば、シーンチェンジ領域における動きベクトル探索や生成のための膨大な演算量の発生を回避することができる。そして、より演算量が少なく、かつ、高画質な画像信号の方式変換装置を実現し、低コスト化に顕著な効果が得られる。
【0092】
次に、本発明の第3の実施例について、図13に示すブロック構成図で説明する。本実施例は、動き補正のフレームレート変換の処理と画像信号の走査線数の縮小変換とを併せて行うに好適なものである。
【0093】
飛び越し走査の入力画像信号S1(輝度信号成分と色差信号成分)は、IP変換部1に入力し、飛び越し−順次の走査変換を行う。例えば、輝度信号成分は動き適応型の補間処理、色差信号はライン間の補間処理で補間走査線の信号を生成し、出力に順次走査の信号系列S2(輝度信号成分と色差信号成分)を得る。なお、入力画像信号がテレシネ画像信号(映画などのフィルム画像を2−3プルダウン処理でテレビ信号のフォーマットに変換した信号)の場合は、フィルムモードの補間処理(同一フィルムフレームに属す飛び越し走査の信号で補間走査線の信号を生成)で、フィルム画像の形態の順次走査の信号系列を生成する。
【0094】
スケーリング処理部39は、直線補間特性の垂直M−N変換処理(M>N)による垂直圧縮の信号処理で、走査線数のN/M倍の縮小変換処理を行う。例えば、PAL方式の走査線数625本の信号をNTSC方式の走査線数525本の信号に変換する。そして、走査線数を縮小した順次走査の画像信号S10を出力する。なお、この構成は、従来技術で容易に実現することができるため、具体的な構成例などの説明は省略する。
【0095】
動き補正フレーム数変換部2は、構成、動作が図1に示したものと全く同一である。そして、現フレームの信号S10と、1フレーム遅延部3で1フレーム期間遅延させた前フレームの信号S11とを使用して、動き補正のフレーム内挿の信号処理を行い、出力にフレームレート変換と走査線縮小変換を行った順次走査の画像信号S4を得る。
【0096】
以上に述べた如く、本実施例によれば、動き補正のフレームレート変換の処理と画像信号の走査線数の縮小変換とを併せて行う画像信号の方式変換装置、例えば、PAL方式のテレビジョン信号をNTSC方式の順次走査の画像信号に変換する装置を、極めて低コストで実現できる。
【0097】
次に、本発明の第4の実施例について、図14に示すブロック構成図で説明する。本実施例も、動き補正のフレームレート変換の処理と画像信号の走査線数の縮小変換とを併せて行うに好適なものである。本実施例では、図13に示す実施例と同様、IP変換部1では、飛び越し−順次の走査変換を行い、スケーリング処理部39では、垂直圧縮の信号処理で走査線数のN/M倍の縮小変換処理を行う。
【0098】
動き補正フレーム数変換部2は、構成、動作が図11に示したものと全く同一である。そして、現フレームの信号S10と、1フレーム遅延部3で1フレーム期間遅延させた前フレームの信号S11とを使用して、動き補正のフレーム内挿の信号処理を行い、出力にフレームレート変換と走査線縮小変換を行った順次走査の画像信号S4を得る。
【0099】
以上に述べた如く、本実施例によれば、動き補正のフレームレート変換の処理と画像信号の走査線数の縮小変換とを併せて行う画像信号の方式変換装置、例えば、PAL方式のテレビジョン信号をNTSC方式の順次走査の画像信号に変換する装置を、極めて低コストで実現できる。
【0100】
次に、本発明の第5の実施例について、図15に示すブロック構成図で説明する。本実施例は、動き補正のフレームレート変換の処理と画像信号の走査線数の拡大変換とを併せて行うに好適なものである。同図において、IP変換部1と動き補正フレーム数変換部2は、構成および動作が図1に示したものと全く同一である。
【0101】
動き補正のフレーム数変換した順次走査の画像信号S4は、スケーリング処理部39で、直線補間特性の垂直M−N変換処理(M<N)による垂直拡大の信号処理で、走査線数のN/M倍の拡大変換処理を行う。例えば、NTSC方式の走査線数525本の信号をパソコンのSVGAに相当する走査線数720本の信号に変換する。そして、走査線数を拡大した順次走査の画像信号S5を出力する。なお、この構成は、従来技術で容易に実現することができるため、具体的な構成例などの説明は省略する。
【0102】
以上に述べた如く、本実施例によれば、動き補正のフレームレート変換の処理と画像信号の走査線数の拡大変換とを併せて行う画像信号の方式変換装置、例えば、NTSC方式のテレビジョン信号をパソコンのSVGAに相当する走査線数の順次走査の画像信号に変換する装置を、極めて低コストで実現できる。
【0103】
次に、本発明の第6の実施例について、図16に示すブロック構成図で説明する。本実施例は、動き補正のフレームレート変換の処理と画像信号の走査線数の拡大変換とを併せて行うに好適なものである。
【0104】
同図において、IP変換部1と動き補正フレーム数変換部2は、構成、動作が図11に示したものと全く同一である。
【0105】
動き補正のフレーム数変換した順次走査の画像信号S4は、スケーリング処理部39で、直線補間特性の垂直M−N変換処理(M<N)による垂直拡大の信号処理で、走査線数のN/M倍の拡大変換処理を行う。例えば、NTSC方式の走査線数525本の信号をパソコンのSVGAに相当する走査線数720本の信号に変換する。そして、走査線数を拡大した順次走査の画像信号S5を出力する。なお、この構成は、従来技術で容易に実現することができるため、具体的な構成例などの説明は省略する。
【0106】
以上に述べた本発明の技術的手段で、テレビジョン受像機に内蔵可能な、回路規模が小さく低コスト、かつ、高画質な動き補正のフレーム数変換を実現し、マルチソ−ス対応、マルチディスプレイ対応、マルチウィンドウ表示対応の機能を有するテレビジョン受像機が実現できる。
【0107】
図24は、本発明の他の実施例によるテレビジョン受像機を示す全体ブロック構成図である。本実施例は、表示部が走査線数625本、フレーム周波数60Hz、順次走査、あるいは、走査線数1080本(1125本)、フィールド周波数60Hz、飛び越し走査の形態のCRT、PDP、LCDに好適なものである。
【0108】
放送波TV1、TV2、…、TVN(例えば、現行TV方式のNTSC信号、PAL信号)は、TV復調部51−1、…、51−Nで所定の復調処理を行い、輝度信号成分と色差信号成分に復調する。
【0109】
デジタル放送波TVDは、IRD52で所定のデジタル復調、復号化処理を行い、SD(現行TV方式と同じ画像フォーマットの信号)、又は、HD(HDTV相当の画像フォーマットの信号)の輝度信号成分と色差信号成分に復調する。
パソコンの画像信号(例えば、RGB3原色信号)は、色変換部53で色空間変換の信号処理を行い、輝度信号成分と色差信号成分に変換する。
【0110】
以上の入力系の信号は、信号バス59を介して、画像フォーマット変換部60−1、…、60−Mに入力する。そして、IP変換部1は、飛び越し走査の信号を、例えば動き適応の走査線補間の信号処理で順次走査の信号に変換する。動き補正フレーム数変換部2は、フレーム周波数が60Hz未満(例えばPAL方式の50Hz、あるいはフィルム画像の24Hz)の信号を、動き補正のフレーム内挿処理でフレーム周波数が60Hzの信号に変換する。また、スケーリング処理部39は、走査線数の変換(表示部が走査線数625本であれば、NTSC方式の走査線数525本の信号を走査線数の5−6変換処理で625本の信号に変換)や、マルチウィンドウ、2画面動画、PIP(Picture in picture)、POP(Picture out picture)などの各種表示形態に応じた画像サイズの拡大、縮小の処理を行う。
【0111】
画質改善部61−1〜61−Mは、輝度階調補正や、表示部の色空間特性に合致した色空間変換や逆ガンマ補正(表示部がPDPやLCDなどのリニア特性の場合)などの信号処理を行う。
【0112】
MPX部62は信号を多重化する多重化部で、各画質改善部からの出力信号を統合、合成して所定の表示形態の画像信号を生成する。そして、表示部55に画像を再生する。
【0113】
視聴者が選択指定する表示形態の情報は、リモコン56、リモコン制御信号受信部57を介して、制御部58に入力される。そして、制御部58では、この情報に応じて、各部の動作に必要な制御信号類を生成し、被制御部54に出力する。
【0114】
本ブロック構成図において、本発明の主眼である画像フォーマット変換部60−1〜60−Mは、IP変換部1、動き補正フレーム数変換部2、及びスケーリング処理部39を具備しており、これらは前述の実施例のものを使用することができる。また、これらを除いた各ブロックは、従来の技術で容易に構成することが出来るので、ここでの説明は省略する。
【0115】
本実施例によれば、動き補正のフレームレート変換を行うに必要な動きベクトルの探索、生成に要する演算量を、従来の方法に較べて数十分の一程度に低減でき、回路規模も極めて小さく出来る。このため、この動き補正のフレームレート変換の機能を内蔵したテレビジョン受像機を比較的低コストで実現できる。そして、テレビ画像の高画質化、高機能化に顕著な効果が得られる。
【0116】
次に、本発明の他の実施例によるテレビジョン受像機について図25に示す全体ブロック構成図で説明する。本実施例は、表示部が走査線数525本、フレーム周波数60Hz、順次走査の形態のCRT、PDP、LCDに好適なものである。なお、図24に示した実施例との相違は、画像フォーマット変換部での信号処理におけるスケーリング処理と動き補正フレーム数変換の処理の順序を逆にした点にある。従って、以下ではこの動き補正フレーム数変換について説明する。
【0117】
画像フォーマット変換部62−1、…、62−Mでは、始めに、IP変換部1で飛び越し走査の信号を、順次走査の信号に変換する。則ち、飛び越し走査の画像信号(輝度信号成分と色差信号成分)の輝度信号成分は動き適応型の補間処理、色差信号成分はライン間の補間処理で補間走査線の信号を生成し、順次走査の信号系列(輝度信号成分と色差信号成分)に変換する。また、入力画像信号がテレシネ画像信号(映画などのフィルム画像を22−3プルダウン処理でテレビジョン信号のフォーマットに変換した信号)の場合は、フィルムモードの補間処理(同一フィルムフレームに属す飛び越し走査の信号で補間走査線の信号を生成)で、フィルム画像の形態の順次走査の信号系列を生成する。
【0118】
次に、スケーリング処理部39では、走査線数の縮小変換、及び画像サイズの拡大、縮小の処理を行う。例えば、走査線数625本のPAL方式の信号は、走査線数の6−5変換処理を行い、NTSC方式の走査線数525本の信号に変換する。また、マルチウィンドウ、2画面動画、PIP(Picture in picture)、POP(Picture out picture)などの各種表示形態に応じた画像サイズの拡大、縮小の処理を行う。
【0119】
動き補正フレーム数変換部2は、フレーム周波数が60Hz未満(例えばPAL方式の50Hz、あるいはフィルム画像の24Hz)の信号を、動き補正のフレーム内挿処理でフレーム周波数が60Hzの信号に変換する。この際、前段のスケーリング処理で、PAL方式の走査線数625本の信号は、走査線数を5/6に縮小した走査線数525本の信号に変換されている。従って、動き補正のフレーム数変換に必要な動きベクトルの探索のための演算量は、走査線数625本の場合の5/6に軽減できる。なお、動き補正フレーム数変換部2の具体的な構成は前述の実施例と同様であり、説明は省略する。
【0120】
以上に述べた如く、本実施例によれば、動き補正のフレームレート変換を行うに必要な動きベクトルの探索、生成に要する演算量を、従来の方法に較べて数十分の一程度に低減でき、回路規模も極めて小さく出来る。このため、この動き補正のフレームレート変換の機能を内蔵したテレビジョン受像機を比較的低コストで実現できる。そして、テレビ画像の高画質化、高機能化に顕著な効果が得られる。
【0121】
次に、本発明の他の実施例によるテレビジョン受像機について、図26に示す全体ブロック構成図で説明する。本実施例は、図24の実施例に信号混合部であるMIX部63−1〜63−Kを追加し、より少ない個数の画像フォーマット変換部60−1〜60−M’で実現して、更なるコスト低減を図るに好適なものである。
【0122】
MIX部63−1、…、63−Kは、TV復調部51−1、…、51−Nで復調した画像信号のうち、同一方式の2チャネルのTV信号が入力される。そして、表示形態が同一方式のTV信号による2画面動画あるいはPIPの場合には、2チャネルのTV信号の合成処理を行う。例えば2画面動画では、画面の左半分の位置に一方のチャネルの信号、画面の右半分の位置に他のチャネルの信号を配列させる動作の信号処理を行い、出力する。また、PIPでは、一方のチャネルの信号を主画面の位置、他方のチャネルの信号を子画面の位置に配列させる動作の信号処理を行い、出力する。一方、上記以外の表示形態では、表示に使用するいずれか一方のチャネルの信号を出力する。
【0123】
画像フォーマット変換部60−1、…、60−M’では、図24と同様の処理を行う。ただ、同一方式のTV信号による2画面動画あるいはPIPの表示形態の場合は、既にMIX部63−1〜63−Kの出力で必要な信号形態への変換がなされているため、スケーリング処理部での拡大、縮小の信号処理は行わない。
以上に述べた如く、本実施例では2画面動画やPIPの表示形態では、画像フォーマット変換部の前段に設けたMIX部で変換処理を行う。このため、使用する画像フォーマット変換部の個数を減らすことが可能になり、より低コストなテレビジョン受像機が実現できる。
【0124】
次に、本発明の他の実施例によるテレビジョン受像機について、図27に示す全体ブロック構成図を用いて説明する。本実施例は、図25の実施例にMIX部63−1〜63−Kを追加し、画像フォーマット変換部62−1〜62−M’の個数の削減を図り、更なるコスト低減を図るに好適なものである。なお、MIX部63−1〜63−Kの動作は図26に示したものと同一である。また、その他については構成、動作は図25と同一であるので、説明は省略する。
【0125】
以上のとおり、これらの実施例によれば、テレビ画像の高画質化や高機能化に顕著な効果を得ることができるとともに、動き補正の信号処理での動きベクトルの探索や生成に要する演算量を従来方法に較べ大幅に低減し、かつ、回路規模も大幅に小さく出来る。このため、マルチソース対応、マルチディスプレイ対応、マルチウィンドウ表示対応の機能を備えた、高画質かつ、低コストのテレビジョン受像機を実現することができる。
【0126】
ここで、動き補正の信号処理における動きベクトルの探索や生成に要する演算量の削減率を求めてみる。
【0127】
まず、ブロック単位の動きベクトル探索処理の演算量削減率は次のようにして求めることができる。
【0128】
探索領域を水平方向±DX画素、垂直方向±DYラインとした場合、全探索法では、ブロック当りのブロックマッチング処理は(2DX+1)(2DY+1)回が必要になる。一方、動画ブロック当りのブロックマッチング処理は、第2ステップで(DX/2+1)(DY/2+1)回、第3ステップで(DX/4+1)(DY/4+1)回となる。ここで、動画ブロックの発生確率をMb(0≦Mb≦1)、DX=16、DY=16とし、ブロック探索の演算量削減率をKbとするば、Kbは(式4)で与えられる。
【0129】
【数4】
【0130】
したがって、ブロック単位の探索では、1画面が全て動画ブロックの最悪の場合(Mb=1)でも、全探索法に比べ10%程度の演算量で探索を行うことができる。
【0131】
次に、画素単位の動きベクトル探索処理の演算量削減率は次のようにして求めることができる。
【0132】
一般には、現ブロックの動きベクトルBVを参照ベクトルとし、画素単位に、探索領域を縮小した水平±DX/4画素、垂直方向±DY/4ライン程度の範囲で再探索を行い、最終的な動きベクトルを生成する手法が採られる。ブロックサイズを水平BX画素、垂直BYラインとすると、この場合に必要な再探索処理は(DX/2+1)(DY/2+1)・BX・BY回の探索処理が必要となる。一方、閾値TH以上のブロックに対し、(参照ベクトルの個数9)・(輝度1系統と色差2系統の3種類)・(BX/2)・(BY/2)回の再探索を行う。ここで、閾値TH以上のブロックの発生確率をMp(0≦Mp≦1)、DX=DY=16、BX=BY=16とし、画素探索の演算量削減率をKpとするば、Kpは(式5)で与えられる。
【0133】
【数5】
【0134】
したがって、1画面の全てが動画ブロックとなる最悪ケース(Mp=1)でも、全画素探索法に比べ8%程度の演算量で探索を行うことができる。
【0135】
そして、動きベクトルの生成は、前述のブロック単位の探索と、画素単位の再探索の2段階で行うので、全体としての演算量削減率をKmvとすれば、Kmvは(式6)で表すことができる。
【0136】
【数6】
【0137】
したがって、最悪ケース(Mb=Mp=1)の場合でも、動きベクトルの探索、生成に要する演算量は、全体で2桁以上削減することができる。これにより、動き補正の信号処理を行う回路の規模を極めて小さくすることができる。
【0138】
上記実施例によれば、高画質でしかも回路規模の小さい画像信号の方式変換装置を得ることができる。また、この方式変換装置を用いることにより、マルチソース対応の高画質かつ低コストのテレビジョン受像機を実現することができる。
【0139】
図28は、本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。本実施例は、PAL方式のテレビジョン(以下TVと略称)信号をNTSC方式の順次走査のTV信号に変換するものである。
【0140】
PAL方式TV信号の復調信号S71(輝度信号成分と色差信号成分)は、IP変換部71に入力し、飛び越し走査の信号を順次の走査の信号に変換(以下、飛び越し→順次走査変換と略称)する。すなわち、輝度信号成分は動き適応型の補間処理、色差信号はライン間の補間処理で補間走査線の信号を生成し、出力にフレーム周波数50Hzの順次走査の信号系列S2を得る。
【0141】
垂直6−5変換部72は、6−5変換処理の走査線数変換を行い、NTSC方式のTV信号と等価な走査線数の信号系列S73(但し、フレーム周波数は50Hz)を生成する。すなわち、図29に示す様に、6本の走査線a,b,c,d,e,fの組を単位に、入出力特性が2点直線補間の特性で演算を行い、5本の走査線v,w,x,y,zの信号を生成する。IP変換部71及び垂直6−5変換部72はフレーム周波数が変換される画像信号の画像信号発生部を構成し、従来知られている技術が使用できる。
【0142】
信号S73及びフレームメモリ73で1フレーム期間遅延させた信号S74(以下前フレームの信号と呼ぶ)は、動き検出部74と、動きベクトル検出部75と、動き補正処理部76に入力される。
【0143】
動き検出部74は、信号S73とS74の輝度信号成分に対し、減算演算で1フレーム間の差分信号成分を画素毎に抽出し、2値化、平滑化の処理を行い、動き検出信号FD(動き無し“0”、動き有り“1”の2値信号)を出力する。なお、動き検出部74の具体的な構成については後述する。
【0144】
動きベクトル検出部75は、ブロックマッチング処理でブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)の動きベクトルを検出する。すなわち、ブロック内の全ての画素の動き検出信号FDが“0”のブロックは静止と判定し、動きベクトル信号Vに0を出力する。一方、動き検出信号FDに“1”の画素を含むブロックは動画と判定し、信号S73とS74の輝度信号成分に対して、ブロックマッチング処理で誤差最小となるブロック対の探索を行い、この結果を動きベクトル信号Vとして出力する。動きベクトル検出部75の具体的な構成についても後述する。
【0145】
動き補正処理部76は、動き検出信号FDが“1”の画素に対しては、動き補正型の信号処理を行う。すなわち、動きベクトルVで補正補間動きベクトルを作り、現フレームの信号S73と前フレームの信号S74の画像の位置をこの補正補間動きベクトルで移動させた信号で、内挿フレームの信号を生成する。一方、動き検出信号FDが“0”の画素に対しては、現フレームと前フレームの信号の平均値、あるいは現フレームの信号で、内挿フレームの信号を生成する。この出力に動き補正型のフレーム数変換処理したフレーム周波数が60HzのNTSC方式の順次走査の信号S75を得る。動き補正処理部76の構成については後述する。
【0146】
以下、本実施形態における主要ブロック部の構成及び動作について説明する。
図30は、動き検出部74の一構成例図である。減算部77は、順次走査の現フレームの信号S73と前フレームの信号S74の輝度信号成分の減算演算を行い、1フレーム間の差分信号成分を画素毎に得る。2値化部78は、差分信号成分の信号レベルが設定値±Th未満の場合は静止領域と判定して“0”、±Th以上の場合は動画領域と判定して“1”、の2値信号を出力する。平滑部79は、水平・垂直空間領域での積分操作等の平滑化処理を行う。そして、孤立点の除去や不連続点の補充を行った動き検出信号FDを得る。
【0147】
図31は、動きベクトル検出部75の第1の構成例図である。静止ブロック検出部81は、ブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)毎に、動き検出信号FDの“1”の有無を検出する。そして、信号FDがブロック内の全て画素について“0”の場合のみ信号BMに“0”、それ以外の場合は“1”を出力する。ブロックマッチング処理部80は、信号BMが“1”の場合のみ、順次走査の現フレームの信号S73と前フレームの信号S74の輝度信号成分を用いて、ブロックマッチング処理で誤差最小のブロック対の探索を行い、得られたブロック対での動きベクトルVaを出力する。この結果、信号BMが“1”の場合のみ、動きベクトルVaの探索を行うので、ブロックマッチング処理による動きベクトルの探索は動画ブロックに限定でき、探索に要する信号処理の演算量が大幅に低減できる。選択部82は、信号BMが“0”の静止ブロックは0の動きベクトル、信号BMが“1”の動画ブロックは、ブロックマッチング処理部80で検出したVaを、動きベクトル信号Vとして出力する。
【0148】
図32は、動きベクトル検出部75の第2の構成例図である。本構成例は、図31の構成に隣接動き情報検出部83と、動きベクトル修正部84とを追加して、より精度の高い動きベクトルの検出を行うものである。隣接動き情報検出部83は、隣接ブロックとの動きの相関関係を検出する信号処理を行うもので、その動作概略を図33(a)、図33(b)を用いて説明する。図33(a)に示すように、隣接動き情報検出部83は、現ブロックに接する上下と左右の隣接ブロックとの境界領域lu,lr,ld,llにおける動き検出信号FDの形態で動きの相関関係を検出し、図33(b)に示す隣接ブロック動き情報信号ABM(1〜9)を出力する。例えば、境界領域に動き検出信号FDに“1”が複数個数(例えば4以上)存在する状態が領域luのみの場合(lu≠0,lr=ld=ll=0)は、上ブロックと動きの相関関係があると判定し、信号ABMに“1”を出力する。以下同様に、“1”の動き検出信号FDが複数個数(例えば4以上)存在する状態が領域lr,ld及びllのみの場合は、それぞれ右、下及び左ブロックと動きの相関関係があると判定し、信号ABM2〜4を出力する。
【0149】
また、“1”の動き検出信号FDが複数個数(例えば4以上)存在する状態が連続した2つの領域で発生する場合は、対応する複数の隣接ブロックと動きの相関関係があると判定し、信号ABM5〜8を出力する。例えば、“1”の動き検出信号FDが複数個数(例えば4以上)存在する状態が領域が領域lu及びlrで発生する場合は、上と右ブロックとの動きの相関関係を示すABM5を出力する。なお、動き検出信号FDに“1”が複数個数(例えば4以上)存在する状態がこれら以外の形態の場合は、現ブロックのみで精度の高い動きベクトルの検出が可能と判定し、ABM9を出力する。
【0150】
動きベクトル修正部84は、隣接ブロック動き情報信号ABMに応じて、図33(b)に示す様に、現ブロックと該当する隣接ブロックの動きベクトルの平均操作で修正動きベクトルを生成し出力する。例えば、信号ABMが1の時は、現ブロックの動きベクトルVoと上ブロックの動きベクトルVuとの平均で生成した修正動きベクトル(Vo+Vu)/2を出力する。また、信号ABMが5の時は、現ブロックの動きベクトルVoと、上ブロックの動きベクトルVuと、右ブロックの動きベクトルVrとの平均で生成した修正動きベクトル(Vo+Vu+Vr)/3を出力する。なお、信号ABMが9の時は、現ブロックの動きベクトルVoをそのまま出力する。以上に述べた簡単な修正処理で、より高精度な動きベクトルの検出ができる。
【0151】
図34は、動きベクトル検出部75の第3の構成例図である。図中、静止ブロック検出部81、ブロックマッチング処理部80は、図31の同じ番号を付す部分と実質的に同じである。制御部83’は、静止ブロック検出部81からのブロック単位の信号BMに従って、ブロックマッチング処理部80及び画素動きベクトル算出部82’の動作に必要な制御信号CTを生成する。画素動きベクトル算出部82’は、ブロック単位の動きベクトルVaから、画素の動きベクトル信号Vを算出する。
【0152】
図35は、画素動きベクトル算出部82’の第1の構成例図である。算出部82’は、後で図36で説明するように、現ブロックとこれに隣接する上下左右ブロックの動きベクトルを用いて、ミニブロック単位(例えば2画素×2ライン)で動き補正誤差が最少になる動きベクトルをミニブロック内の画素の動きベクトルに割り当てる処理を行い、動きベクトル信号Vを出力する。隣接ブロック動きベクトル配列部84’は、制御信号CTに従い、ブロック単位の動きベクトルVaから上記ミニブロックに対応する現ブロックと隣接ブロックの動きベクトルVo,Vu,Vr,Vd,Vlを出力する。
【0153】
誤差算出部85−1,…,85−6は、それぞれ現フレームの信号S73と前フレームの信号S74に対して、ミニブロック単位に以下の式(7)の動き補正誤差信号ER,ERo,…及びERlを算出する。
【0154】
【数7】
【0155】
ここで、記号abs{ }は絶対値、Vix,Viy(i=o,u,r,d又はl)は動きベクトルViのx方向、y方向の成分、Σはミニブロック内の全ての画素の総和を示す。
【0156】
判定部86は、動き補正誤差信号ER,ERo,…及びERlの中で最少値を検出し、この最少値に対応する動きベクトルVmbをミニブロック内の画素の動きベクトルとして出力する。選択部87は、制御信号CTが静止ブロックを示す時は、現ブロックの動きベクトルVo(Vo=0)、動画ブロックの時は動きベクトルVmbを選択し、画素の動きベクトル信号Vを出力する。
【0157】
図36は、上記画素単位の動きベクトル算出の概略及び効果を説明する図で、動画像面の一部を示す。図中の現ブロックは、動きの異なるドット領域の動画像物体pと斜線領域の動画像物体qが混在している。従って、現ブロックの動きベクトルVoは、いずれの動画像物体p、qの動きとも異なったものになり、動きベクトル検出が不正確となる。一方、隣接する上ブロックと左ブロックで検出する動きベクトルVu,Vlは、動画像物体pの動きとほぼ一致する。また、右ブロックと下ブロックで検出する動きベクトルVr,Vdは、動画像物体qの動きとほぼ一致する。
【0158】
ミニブロックAは動画像物体pの領域であるので、動き補正誤差は信号ERu又はERlが最少になる。従って、ミニブロックAの画素には動きベクトルVoの代わりに動きベクトルVu又はVlが割り当てられる。一方、ミニブロックBは動画像物体qの領域であるので、動き補正誤差は信号ERr又はERdが最少になる。従って、ミニブロックBの画素には動きベクトルVoの代わりに動きベクトルVr又はVdが割り当てられる。また、ミニブロックCは静止の領域であるので、動き補正誤差は信号ERが最少になる。従って、ミニブロックCの画素には動きベクトルVoの代わりに動きベクトル0が割り当てられる。
【0159】
上述のように、ミニブロック単位で動き補正誤差を算出し、これが最少となる動きベクトルをミニブロックの画素の動きベクトルに割り当てる処理で、ブロック単位で検出する動きベクトルに不正確な動きベクトルが存在する時でも、画素単位ではほぼ正確な動きベクトルの算出が実現できる。すなわち、画像の一部が不適切な画像に置き換えられる孤立点的な劣化を大幅に抑圧できる。
【0160】
図37は、図34の画素動きベクトル算出部82’の第2の構成例図である。本構成例は、図35の構成に特異ベクトル修正部88を追加し、より精度の高い動きベクトルの検出を行うものである。すなわち、特異ベクトル修正部88は、始めに、現ミニブロックの動きベクトルVomと、これに隣接する上下左右のミニブロックの動きベクトルVum,Vrm,Vdm,Vlmとで以下の式(8)に示す差分値EV1、EV2、EV3及びEV4を計算する。
【0161】
【数8】
【0162】
この差分値が全て許容誤差範囲(例えば、x方向1画素以内、又はy方向1ライン以内)を越える動きベクトルVomは特異ベクトルと判定する。そして、特異ベクトルに対しては、隣接する上下左右のミニブロックの動きベクトルとの平均値で生成する修正ベクトルVmdに置き換える。従って、動きの不正確な特異ベクトルは、より精度の高い修正ベクトル(Vmd=(Vom+Vum+Vrm+Vdm+Vlm)/5)で置き換えられ、動きベクトルの更なる精度向上を図ることができる。
【0163】
上述のように、ミニブロック単位で動き補正誤差を算出し、これが最少となる動きベクトルをミニブロックの画素の動きベクトルに割り当てる処理で、ブロック単位で検出する動きベクトルに不正確な動きベクトルが存在する時でも、画素単位ではほぼ正確な動きベクトルの算出が実現できる。すなわち、画像の一部が不適切な画像に置き換えられる孤立点的な劣化を大幅に抑圧できる。
【0164】
図38は、図28の動き補正処理部76の第1の構成例のブロック図である。加算部89は、現フレームの信号S73と前フレームの信号S74とを加算平均し、内挿フレームの静止領域の信号成分Savを生成する。補正信号生成部90−1は、前フレームの信号S74と補正補間動きベクトルVprで動き補正信号Sprを生成し、補正信号生成部90−2は現フレームの信号S73と補正補間動きベクトルVctで動き補正信号Sctを生成する。補正信号生成部90−1、90−2の動作概略を図40(a)に示す。内挿フレームfipの点A(x、y)に対しては、動き補正信号Sprは前フレームfprの点A(x、y)を補正補間動きベクトルVpr(水平方向成分Vprx,垂直方向成分Vpry)で移動させた点A’’(x+Vprx,y+Vpry)の位置の信号、動き補正信号Sctは現フレームfctの点A(x、y)を補正補間動きベクトルVct(水平方向成分Vctx,垂直方向成分Vcty)で移動させた点A’(x−Vctx,y−Vcty)の位置の信号である。すなわち、
【0165】
【数9】
【0166】
である。従って、点Aでは点A’,A’’の画素の信号を読み出すようにメモリ回路の読み出しアドレスを補正補間動きベクトルで制御することで簡単に実現できる。なお、補正補間動きベクトルの生成に関しては後述する。
【0167】
加算部92では、両者の動き補正信号SprとSctとを加算平均し、内挿フレームの動画領域の信号成分Smcを生成する。
【0168】
スイッチ部93は、動き検出信号FDが“0”の画素では信号Savを選択し、信号FDが“1”の画素では信号Smcを選択する。この出力に動画領域は動き補正型の信号処理でフレーム数変換したフレーム周波数が60HzのNTSC方式の順次走査の信号S5を得る。
【0169】
フレーム順制御部91は、フレームシーケンス信号FSのフレーム順情報をもとに、動き補正処理に必要な補正補間動きベクトルVct,Vprを生成する。この動作概略を図40(b)に示す。フレーム周波数50HzのPAL順次走査フレーム順の1から5の信号に対し、動き補正型のフレーム内挿処理で、フレーム順1から6のフレーム周波数が60HzのNTSC順次走査の信号に変換する。この際、補正補間動きベクトルは、内挿するフレーム位置に合致する必要がある。そこで、フレームシーケンス信号FSのフレーム順情報に応じて、同図に示す様に、動きベクトル信号Vに係数加重する係数値ka,kbを変化させ、以下の演算式(10)で補正補間動きベクトルVpr、Vctを生成する
【0170】
【数10】
【0171】
従って、フレーム順が2の内挿フレームでは、Vpr=V*5/6,Vct=−V*1/6(ka=5,kb=1)、3のものでは、Vpr=V*4/6,Vct=−V*2/6(ka=4,kb=2)…の如く、時間方向での位置ずれがない補正補間動きベクトルを生成する。この結果、時間方向での揺らぎのないフレーム数変換を実現する。
【0172】
図39は、図28の動き補正処理部76の第2の構成例のブロック図である。これは、内挿フレームの静止領域の信号成分Savを現フレームの信号S73で生成する点に図38の構成例と異なり、より簡単な信号処理で実現できる。なお、他の各部の構成、機能は、図38の構成例と同じであり、説明は省略する。
【0173】
以上に述べた如く、本実施例によれば、動き補正の信号処理に要する演算量が少なく、回路規模も小さく、また、画質劣化の少ないPAL−NTSC順次走査の方式変換装置が実現できる。
【0174】
図41は、本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。本実施例は、PAL方式のテレビジョン信号をPAL方式のテレビジョン信号と同一走査線数のフレーム周波数が60Hzの順次走査の信号に変換するものである。
【0175】
本実施例は、図28の垂直6−5変換部72を除いたもので、他の部分は実質的に図28の構成と同じであるので、その詳細な説明は省く。本実例によれば、動き補正の信号処理に要する演算量が少なく、回路規模も小さく、また、画質劣化の少ない、フレーム周波数60HzのPAL順次走査への方式変換装置が実現できる。
【0176】
図42は、本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。本実施例は、PAL方式のテレビジョン信号をフレーム周波数が60Hzの順次走査のNTSC方式のテレビジョン信号に変換するもので、動きベクトルの検出の信号処理を簡易にしたものである。同図のIP変換部71、垂直6−5変換部72、フレームメモリ73、動き検出部74、動き補正処理部76は、その構成及び動作が第1の実施例のものと同一であるので、その説明は省略する。
【0177】
簡易型動きベクトル検出部94は、動き検出部74の動き検出信号FDを用いてブロック単位又は画素単位の動きベクトルを検出する。
【0178】
図43は、簡易型動きベクトル検出部94の第1の構成例のブロック図である。静止ブロック検出部81はブロック単位で動き検出信号FDの“1”の有無を検出し、全て“0”の場合のみ信号BMに“0”、それ以外の場合は“1”を出力する。制御部83は、信号BMを制御信号CTにし、ブロックマッチング処理部96及び画素動きベクトル算出部82’に加える。
【0179】
ブロックマッチング処理部96は、制御信号CTが静止ブロックを示す場合は、信号Vaに0を出力する。一方、制御信号CTが動画ブロックを示す場合には、1フレーム遅延部95で1フレーム期間遅延させた前フレームの動き検出信号FDprと、現フレームの動き検出信号FDとで、ブロックマッチング処理による誤差最小のブロック対の探索を行い、得られた動きベクトルを信号Vaに出力する。この場合、信号FDpr、FDは“0”と“1”の2値信号であるため、この誤差最小のブロック対の探索は、EXOR(排他的論理和)回路とアダー回路と比較回路を組み合わせた極めて簡単な論理回路で行うことができる。
【0180】
画素動きベクトル算出部82’は、前述の図35、図37と同様な構成で、ミニブロック単位に、現ブロックとこれに隣接する上下左右のブロックの動きベクトルで1フレーム期間遅延させた前フレームの動き検出信号FDprと、現フレームの動き検出信号FDとの動き補正誤差を算出し、これが最少となる動きベクトルを画素の動きベクトルに割り当てる。信号FDとFDprは2値の信号であるため、動き補正誤差の算出をより簡単に実行することができる。
【0181】
図44は、簡易型動きベクトル検出部94の第2の構成例のブロック構成図で、ブロック単位の動きベクトルを検出するものである。静止ブロック検出部81はブロック単位で動き検出信号FDの“1”の有無を検出し、全て“0”の場合のみ信号BMに“0”、それ以外の場合は“1”を出力する。選択部82は、信号BMが“0”の静止ブロックは0の動きベクトル、BMが“1”の動画ブロックは簡易ブロックマッチング処理部26で検出した動きベクトルVaを動きベクトル信号Vとして出力する。
【0182】
簡易ブロックマッチング処理部96は、信号BMが“1”の場合のみ、1フレーム遅延部95で1フレーム期間遅延させた前フレームの動き検出信号FDprと、現フレームの動き検出信号FDとで、ブロックマッチング処理による誤差最小のブロック対の探索を行い、得られた動きベクトルVaを出力する。この場合、信号FDpr、FDは“0”と“1”の2値信号であるため、この誤差最小のブロック対の探索は、EXOR(排他的論理和)回路とアダー回路と比較回路を組み合わせた極めて簡単な論理回路で行うことができる。従って、ブロックマッチング処理で動きベクトルを探索する信号処理の演算量の大幅な低減、及び回路規模の削減を図ることができる。
【0183】
図45は、簡易型動きベクトル検出部94の第3の構成例のブロック構成図で、ブロック単位の動きベクトルを検出するものである。本構成例は、図44の構成に、隣接動き情報検出部83と、動きベクトル修正部84とを追加して、精度の高い動きベクトルの検出を行うものである。すなわち、前述の図32と同様に、隣接ブロックとの境界領域での動き検出信号FDの形態で動きの相関関係を検出し、現ブロックと動きの相関が高い隣接ブロックとの動きベクトルの平均操作で修正動きベクトルを生成し出力する。
【0184】
以上に述べた如く、本実施例によれば、代表的に図28に示された実施例と比較して、更に動き補正の信号処理に要する演算量が少なく、回路規模も小さい方式変換装置が実現できる。
【0185】
図46は、本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。本実施例は、PAL方式のテレビジョン信号をフレーム周波数が60Hzの順次走査のNTSC方式のテレビジョン信号に変換するもので、特に、動きの滑らかさが損なわれるモーションジャダーの目立ち易い速度の動きに対してのみ動き補正処理を行うものである。
【0186】
図中のIP変換部71と、垂直6−5変換部72と、フレームメモリ73と、動き検出部74と、動きベクトル検出部75は、図28と同様の構成、動作を行う。MC動作制御部97は、動きベクトル信号Vで、ブロック毎、画素あるいはミニブロック単位でモーションジャダーが目立ちやすい速度(例えば、数秒〜10秒/画面幅又は画面高)の動きを検出する。そして、動きベクトル信号Vがこの範囲の速度に該当するブロック、画素あるいはミニブロックでは“1”、それ以外では、“0”のMC制御信号IPMを出力する。
【0187】
動き補正処理部98は、図39に示した構成を若干変更した形態で実現する。図39に示した構成では、スイッチ部93は動き検出信号FDで信号S73と信号Smcとの選択を行うが、本実施形態では、これを動き検出信号FDとMC制御信号IPMとの論理積演算(AND回路)で得られる信号に変更する。すなわち、動き検出信号FDが“1”、かつ、MC制御信号IPMが“1”の場合に信号Savを選択する。この出力にモーションジャダーの目立ちやすい速度の動きに対してのみ動き補正型の信号処理でフレーム数変換したフレーム周波数が60HzのNTSC方式の順次走査の信号S75を得る。本実施例によれば、特定範囲の動き速度の信号のみについて信号処理を行うので、演算量が少なく、回路規模も小さく、動き補正処理をモーションジャダー妨害の目立ちやすい動きに限定した方式変換装置が実現できる。
【0188】
図47は、本発明の他の実施例による動き補正型画像信号の変換装置の構成ブロック図である。本実施形態は、PAL方式のテレビジョン信号をフレーム周波数が60Hzの順次走査のNTSC方式のテレビジョン信号に変換するもので、特に図42の構成に、図46に示されたの実施例で述べたMC動作制御部97と動き補正処理部98とを追加して構成したものである。図46に示された実施例と同様な動作を行い、モーションジャダーの目立ちやすい速度の動きに対してのみ動き補正型の信号処理でフレーム数変換したフレーム周波数が60HzのNTSC方式の順次走査の信号S5を得る。本実施例によれば、回路規模の更なる小型化を図った方式変換装置を実現する。
【0189】
図48は、本発明の他の実施例による動き補正型画像信号の変換装置の構成ブロック図である。本実施例は、PAL方式のテレビジョン信号をフレーム周波数が60Hzの順次走査のNTSC方式のテレビジョン信号に変換するもので、特に画面全体が一様な速度で動く水平パンや上下パンや、文字スクロール等の特殊な動きに対してのみ、動き補正型の信号処理を行うに好適なものである。
【0190】
本実施例は、前述の図46のMC動作制御部97をMC限定動作制御部99で置き換えたものである。
【0191】
MC限定動作制御部99は、動き検出信号FDと動きベクトル信号Vを用いて、特殊な動きの検出を行う。すなわち、ブロック、ミニブロックあるいは画素単位で動きベクトル信号V≠0のブロックの動きベクトルの大きさと方向が全画面領域でほぼ同じ値をとる場合は上下パンや水平パンの動きと判定する。そして、全ての画面領域で“1”の信号を信号IPMに出力する。また、動き検出信号FDで検出した動き領域の形状が帯状で、かつ、この領域のブロックの動きベクトルがほぼ同じ値をとる場合は文字スクロールの動きと判定する。そして、該当する文字スクロール領域のブロックで1の信号を信号IPMに出力する。これ以外の領域は、信号IPMには“0”を出力する。
【0192】
動き補正処理部98は、前述の如く、信号IPMと動き検出信号FDとの論理積演算の信号でスイッチ93を制御するので、この出力に特殊な動きに限定して動き補正型の信号処理でフレーム数変換を行った信号を得る。
【0193】
本実施例によれば、モーションジャダーの目立ちやすい特殊な動きに限定して動き補正処理する方式変換装置が実現できる。
【0194】
図49は、本発明による動き補正型画像信号の変換装置の第7の実施形態の構成ブロック図である。本実施例は、図47のMC動作制御部97をMC限定動作制御部99で置き換えたものである。また、MC限定動作制御部99の構成及び動作は、図48の実施例と同様である。本実施例によれば、回路規模の更なる小型化を図った方式変換装置を実現している。
【0195】
図50は、本発明の他の実施例による動き補正型画像信号の変換装置をテレビジョン受像機に適用した実施例を示す構成ブロック図である。なお、本実施例においては、画像表示部がフレーム周波数60Hz、走査線数525本のNTSC方式の順次走査表示を例に説明する。
【0196】
ベースバンド帯域のテレビジョン信号VSは、NTSCデコーダ部100と、PALデコーダ部101と、制御部102とに入力する。NTSCデコーダ部100は、NTSC方式に準じた復調処理(YC分離、色復調)の信号処理を行い、飛び越し走査の復調信号S80(輝度信号と色差信号)を出力する。
【0197】
PALデコーダ部101は、PAL方式に準じた復調処理(YC分離、色復調)の信号処理を行い、飛び越し走査の復調信号S81(輝度信号と色差信号)を出力する。制御部102は、テレビジョン信号VSの同期信号をもとに方式判別を行い、該当方式の受像に必要な制御信号CSを生成する。スイッチ部103は、NTSC方式では信号S80、PAL方式では信号S81を制御信号CSで選択する。
【0198】
IP変換部104は、動き適応型の飛び越し−順次の走査変換の信号処理を行い、順次走査の信号を出力する。スケーリング部105は、画像表示部のフォーマット(アスペクト比や走査線数)に変換する信号処理を行う。例えば、PAL方式の信号は垂直6−5変換処理で走査線数525本の信号に変換する。また、PC画像信号等の順次走査の信号S83は、所定の垂直変換処理で525本の走査線数の信号に変換する。
【0199】
フレームレート変換部106は、上述の変換装置で動き補正型のフレーム数変換の信号処理を行い、画像表示部108と同一のフレーム周波数の信号に変換する。例えば、PAL方式のフレーム周波数50Hzの順次走査の信号は、動き補正のフレーム内挿処理でフレーム周波数60Hzの信号に変換する。
【0200】
色空間変換部107は、輪郭補正や階調補正等の画質改善処理及び3原色信号への変換、逆ガンマ補正(表示部がリニアなガンマ特性の場合)等の信号処理を行う。そして、この出力信号を順次走査表示部108に供給して画像の表示を行う。
【0201】
本テレビジョン受像機によれば、マルチソース対応機能や画質向上を低コストで実現するテレビジョン受像機が実現でき、多機能化、高画質化に顕著な効果が得られる。なお、画像表示部がHDTV方式に準拠したものでも、フレーム数変換に本発明の動き補正型画像信号の変換装置を適用することができる。
【0202】
図51(a)、図51(b)は、本発明の他の実施例による動き補正型画像信号の変換装置で、映画等のフレーム周波数が24Hzのフィルム画像をフレーム周波数が60Hzの順次走査の信号に変換する装置の一実施例の構成及び動作を説明する図である。
【0203】
図51(a)は、装置のブロック構成図で、ビデオ復調部109と、IP変換部110と、フレーム数変換部111と、制御部112からなる。
【0204】
入力映像信号VSは、ビデオ復調部109で所定の復調処理を行い、輝度信号と色差信号からなる飛び越し走査の信号S90を復調する。
【0205】
制御部112は、映像信号VSのフレーム間差分信号成分がゼロとなるフレームの発生周期等より、映像信号が一般画像の信号かテレシネ画像の信号(映画等のフィルム画像を2−3プルダウン処理でテレビジョン方式のフォ−マットに変換した信号)かを判定し、信号CTSに一般画像では1、テレシネ画像では0の信号を出力する。
【0206】
IP変換部110は、信号CTSが“1”の時は、従来の動き適応型の走査変換処理で順次走査の信号に変換する。一方、信号CTSが“0”の時は、フィルムモ−ドの補間処理で同一駒の信号である前後のフィ−ルドの信号で補間走査線の信号を生成し、フレーム周波数が24Hzのテレシネ順次走査の信号に変換する。
【0207】
フレーム数変換部111は、信号CTSが“1”の時は、前述した実施例と同様な動作の動き補正型のフレーム数変換処理でフレーム周波数60Hzの順次走査の信号VOを生成する。一方、信号CTSが“0”の時は、図51(b)に示すフレーム順のシーケンスで、動き補正処理に必要な補正補間動きベクトルVct,Vprを生成する。すなわち、同図に示す様に、動きベクトル信号Vに係数加重する係数値ka,kbを変化させ、以下の演算で補正補間動きベクトルVpr、Vctを生成する。
【0208】
【数11】
【0209】
従って、フレーム順が2の内挿フレームでは、Vpr=V*2/5,Vct=−V*3/5(ka=2,kb=3)、3の内挿フレームでは、Vpr=V*4/5,Vct=−V*1/5(ka=4,kb=1)…の如く、補正補間動きベクトルを生成する。そして、フレーム周波数24Hzのテレシネ順次走査のフレーム順の1から2の信号に対し、動き補正型のフレーム内挿処理で、フレーム順1から5のフレーム周波数が60Hzの順次走査の信号VOに変換する。
【0210】
以上に述べた如く、本実施例によれば、映画等のフィルム画像をフレーム周波数が60Hzの順次走査の信号に変換するフレーム数変換装置を、低コスト、高品質で実現することができる。
【0211】
以上、本発明は上記実施例に限定されるものではなく、例えば、図32〜図49に示された実施形態において、図41に示された実施例のように、垂直6−5変換部を省略した構成で、PAL方式のテレビジョン信号をフレーム周波数が50Hzより高い順次走査の信号に変換する方式変換装置が実現できる。
【0212】
【発明の効果】
上記実施例によれば、動き補正の信号処理に要する演算量が少なく、回路規模も小さく、また、画質劣化の少ない方式変換装置が実現できる。このため、テレビジョン受像機におけるマルチソース対応機能や画質向上の実現に顕著な効果を得ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施例を示す方式変換装置のブロック構成図である。
【図2】動き検出部の一構成例を示す図である。
【図3】ブロック単位動きベクトル探索部の一構成例を示す図である。
【図4】画素単位動きベクトル生成部の第1構成例を示す図である。
【図5】画素単位動きベクトル生成部の第2構成例を示す図である。
【図6】画素単位動きベクトル生成部の第3構成例を示す図である。
【図7】画素単位動きベクトル生成部の第4構成例を示す図である。
【図8】動き補正内挿フレーム生成部の第1構成例を示す図である。
【図9】(a)乃至(c)はそれぞれフレーム順制御部と動き補正信号生成部の動作概略を示す図である。
【図10】動き補正内挿フレーム生成部の第2構成例を示す図である。
【図11】本発明の第2の実施例を示す方式変換装置のブロック構成図である。
【図12】シーンチェンジ検出部の一構成例を示す図である。
【図13】本発明の第3の実施例を示す方式変換装置のブロック構成図である。
【図14】本発明の第4の実施例を示す方式変換装置のブロック構成図である。
【図15】本発明の第5の実施例を示す方式変換装置のブロック構成図である。
【図16】本発明の第6の実施例を示す方式変換装置のブロック構成図である。
【図17】ブロック単位動きベクトル探索処理のフローチャートを示す図である。
【図18】(a)及び(b)はそれぞれブロック単位動きベクトル探索動作の概略を示す図である。
【図19】画素単位動きベクトルの第1の生成方法の概略を示す図である。
【図20】画素単位動きベクトル生成動作の概略を示す図である。
【図21】(a)及び(b)はそれぞれ画素単位動きベクトルの第2の生成方法の概略を示す図である。
【図22】画素単位動きベクトルの第3の生成方法の概略を示す図である。
【図23】(a)及び(b)はそれぞれ画素単位動きベクトルの第4の生成方法の概略を示す図である。
【図24】本発明の一実施例によるテレビジョン受像機を示す全体ブロック構成図である。
【図25】本発明の他の実施例によるテレビジョン受像機を示す全体ブロック構成図である。
【図26】本発明の他の実施例によるテレビジョン受像機を示す全体ブロック構成図である。
【図27】テレビジョン受像機の第4の実施例を示す全体ブロック構成図である。
【図28】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図29】図28の垂直6−5変換部2における信号処理概略図である。
【図30】図28の動き検出部4の一構成例のブロック図である。
【図31】図28の動きベクトル検出部5の第1の構成例のブロック図である。
【図32】図28の動きベクトル検出部5の第2の構成例のブロック図である。
【図33】図32の隣接動き情報検出部13の動作概略の説明図である。
【図34】図28の動きベクトル検出部5の第3の構成例のブロック図である。
【図35】図34の画素動きベクトル算出部12’の第1の構成例のブロック図である。
【図36】画素動きベクトル算出部の動作説明のための部分画像図である。
【図37】図34の画素動きベクトル算出部12’の第2の構成例のブロック図である。
【図38】図28の動き補正処理部6の第1の構成例のブロック図である。
【図39】図28の動き補正処理部6の第2の構成例のブロック図である。
【図40】(a)及び(b)は、動き補正処理によるフレーム内挿の動作概略説明図である。
【図41】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図42】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図43】図42の簡易型動きベクトル検出部24の第1の構成例の構成ブロック図である。
【図44】図42の簡易型動きベクトル検出部24の第2の構成例の構成ブロック図である。
【図45】図42の簡易型動きベクトル検出部24の第3の構成例の構成ブロック図である。
【図46】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図47】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図48】本発明の他の実施例による動き補正型画像信号の変換装置の第6の実施形態の構成を示すブロック図である。
【図49】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図50】本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【図51】(a)及び(b)は、本発明の他の実施例による動き補正型画像信号の変換装置の構成を示すブロック図である。
【符号の説明】
1、71、104、110…IP変換部、2…動き補正フレーム数変換部、3、95…1フレーム遅延部、4、74…動き検出部、5…ブロック単位動きベクトル探索部、6…画素単位動きベクトル生成部、7…動き補正内挿フレーム生成部、8、77…減算部、72…垂直76−5変換部、73…フレームメモリ、75…動きベクトル検出部、76、98…動き補正処理部、78…2値化部、79…平滑部、80…ブロックマッチング処理部、81…静止ブロック検出部、82…選択部、82’…画素動きベクトル算出部、83…隣接動き情報検出部、83’…制御部、84…動きベクトル修正部、84’…隣接ブロック動きベクトル配列部、85…誤差算出部、86…判定部、87…選択部、88…特異ベクトル修正部、89、92…加算部、90…補正信号生成部、91…フレーム順制御部、93、103…スイッチ部、94…簡易型動きベクトル検出部、96…簡易ブロックマッチング処理部、97…MC動作制御部、99…MC限定動作制御部、100…NTSCデコーダ部、101…PALデコーダ部、102…制御部、105…スケーリング部、106…フレームレート変換部、107…色空間変換部、108…順次走査表示部、109…ビデオ復調部、111…フレ−ム数変換部、112…制御部。
Claims (1)
- 飛び越し走査の画像信号を順次走査の画像信号に変換する走査変換部と、
前記順次走査の画像信号のフレーム差分信号で画像の動きを検出する動き検出部と、
ブロック単位の動きベクトルを探索する動きベクトル探索部と、
前記動き検出部で動きを検出しない画素に対して0の動きベクトルを割り当て、
前記動き検出部で動きを検出した画素を含み、かつ前記探索部が探索した現ブロックに内包されたミニブロック内の画素に対して前記探索部が探索した現ブロックと隣接ブロックの動きベクトルを用いて、ミニブロック単位で求めた所定の動き補正誤差が最小となる動きベクトルを画素の単位動きベクトルとして割り当てる画素単位動きベクトル生成部と、
前記画素の動きベクトルを用いて画像信号の内挿フレームの信号を生成する動き補正内挿フレーム生成部とを備え、フレーム数変換した順次操作の画像信号を生成するように構成した画像信号の方式変換装置において、
前記動き補正内挿フレーム生成部は、前記画素単位動きベクトル生成部で生成された動きベクトルに基づいて動き速度を検出する動き速度検出部を備え、該速度検出部によりほぼ同じ速度が検出された領域に対してのみ前記画素単位動きベクトルを用いて動き補正がなされた前記内挿フレーム信号を生成することを特徴とする画像信号の方式変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP15559798A JP4092778B2 (ja) | 1997-06-04 | 1998-06-04 | 画像信号の方式変換装置及びテレビジョン受像機 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP14620597 | 1997-06-04 | ||
JP9-146205 | 1997-10-07 | ||
JP29038597 | 1997-10-07 | ||
JP9-290385 | 1997-10-07 | ||
JP15559798A JP4092778B2 (ja) | 1997-06-04 | 1998-06-04 | 画像信号の方式変換装置及びテレビジョン受像機 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11177940A JPH11177940A (ja) | 1999-07-02 |
JP4092778B2 true JP4092778B2 (ja) | 2008-05-28 |
Family
ID=27319117
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP15559798A Expired - Fee Related JP4092778B2 (ja) | 1997-06-04 | 1998-06-04 | 画像信号の方式変換装置及びテレビジョン受像機 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4092778B2 (ja) |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1592251B1 (en) * | 2004-04-30 | 2006-10-25 | Matsushita Electric Industrial Co., Ltd. | Ticker processing in video sequences |
KR100955161B1 (ko) * | 2004-05-04 | 2010-04-28 | 콸콤 인코포레이티드 | 모션 보상된 프레임 레이트 상향 변환을 위한 방법 및 장치 |
JP5038134B2 (ja) | 2004-07-01 | 2012-10-03 | クゥアルコム・インコーポレイテッド | スケーラブルなビデオ符号化において、フレームレートアップ変換技術を使用する方法及び装置 |
KR20070044455A (ko) | 2004-07-20 | 2007-04-27 | 콸콤 인코포레이티드 | 비디오 압축에 대한 인코더 보조-프레임 레이트 업컨버젼(ea-fruc)을 위한 방법 및 장치 |
US8553776B2 (en) | 2004-07-21 | 2013-10-08 | QUALCOMM Inorporated | Method and apparatus for motion vector assignment |
JP4396496B2 (ja) | 2004-12-02 | 2010-01-13 | 株式会社日立製作所 | フレームレート変換装置、及び映像表示装置、並びにフレームレート変換方法 |
JP4489033B2 (ja) | 2005-03-25 | 2010-06-23 | 三洋電機株式会社 | フレームレート変換装置、パン・チルト判定装置および映像装置 |
JP4742813B2 (ja) * | 2005-10-28 | 2011-08-10 | 株式会社ニコン | 画像処理装置および画像処理方法 |
JP4417918B2 (ja) | 2006-03-30 | 2010-02-17 | 株式会社東芝 | 補間フレーム作成装置、動きベクトル検出装置、補間フレーム作成方法、動きベクトル検出方法、補間フレーム作成プログラムおよび動きベクトル検出プログラム |
US8634463B2 (en) | 2006-04-04 | 2014-01-21 | Qualcomm Incorporated | Apparatus and method of enhanced frame interpolation in video compression |
US8750387B2 (en) | 2006-04-04 | 2014-06-10 | Qualcomm Incorporated | Adaptive encoder-assisted frame rate up conversion |
JP5208381B2 (ja) * | 2006-06-30 | 2013-06-12 | 株式会社東芝 | 動画像フレームレート変換装置および動画像フレームレート変換方法 |
JP4157579B2 (ja) * | 2006-09-28 | 2008-10-01 | シャープ株式会社 | 画像表示装置及び方法、画像処理装置及び方法 |
CN101536506A (zh) * | 2006-09-28 | 2009-09-16 | 夏普株式会社 | 图像显示装置及方法、图像处理装置及方法 |
WO2009011009A1 (ja) * | 2007-07-13 | 2009-01-22 | Fujitsu Limited | フレーム補間装置および方法 |
JP2009115910A (ja) * | 2007-11-02 | 2009-05-28 | Denso Corp | 同期変換装置、同期変換方法及びプログラム |
JP4618305B2 (ja) | 2008-02-19 | 2011-01-26 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5114274B2 (ja) * | 2008-04-04 | 2013-01-09 | 株式会社日立製作所 | テレビジョン受信機及びそのフレームレート変換方法 |
JP4343255B1 (ja) | 2008-06-25 | 2009-10-14 | 株式会社東芝 | 画像伸張装置及び画像伸張方法 |
JP2013038490A (ja) * | 2011-08-04 | 2013-02-21 | Jvc Kenwood Corp | スクロール判定装置及び方法 |
CN104104960B (zh) * | 2013-04-03 | 2017-06-27 | 华为技术有限公司 | 多级双向运动估计方法及设备 |
KR102143618B1 (ko) * | 2014-01-17 | 2020-08-11 | 삼성전자주식회사 | 프레임률 제어 방법 및 그 전자 장치 |
-
1998
- 1998-06-04 JP JP15559798A patent/JP4092778B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11177940A (ja) | 1999-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4092778B2 (ja) | 画像信号の方式変換装置及びテレビジョン受像機 | |
EP0883298A2 (en) | Conversion apparatus for image signals and TV receiver | |
JP4083265B2 (ja) | 画像信号の方式変換方法および装置 | |
US5689305A (en) | System for deinterlacing digitally compressed video and method | |
US6509930B1 (en) | Circuit for scan conversion of picture signal using motion compensation | |
US6900846B2 (en) | Format converter using bi-directional motion vector and method thereof | |
US5801778A (en) | Video encoding with multi-stage projection motion estimation | |
JP2832927B2 (ja) | 走査線補間装置及び走査線補間用動きベクトル検出装置 | |
US7324160B2 (en) | De-interlacing apparatus with a noise reduction/removal device | |
JPH08307820A (ja) | インタレースされたビデオから高画質静止画像を生成するためのシステム及び方法 | |
JP4083266B2 (ja) | 動きベクトルの生成方法および装置 | |
JP4119092B2 (ja) | 画像信号のフレーム数変換方法および装置 | |
EP0535066B1 (en) | Video signal processing | |
JP4092773B2 (ja) | 画像信号のフレーム数変換方法および装置 | |
US8605790B2 (en) | Frame interpolation apparatus and method for motion estimation through separation into static object and moving object | |
US8345148B2 (en) | Method and system for inverse telecine and scene change detection of progressive video | |
WO2006114951A1 (ja) | 画像処理装置及び画像処理プログラム | |
JP3201079B2 (ja) | インターレース動画像信号の動き補償予測方法、符号化方法及び装置 | |
US7593059B2 (en) | Image conversion device and method | |
JP2000201328A (ja) | 動きベクトルの検出方法および回路 | |
JP4222090B2 (ja) | 動画像時間軸補間方法及び動画像時間軸補間装置 | |
JP2004320278A (ja) | 動画像時間軸補間方法及び動画像時間軸補間装置 | |
JP4179089B2 (ja) | 動画像補間用動き推定方法及び動画像補間用動き推定装置 | |
JP2000261768A (ja) | 画像信号の動き補償走査変換回路 | |
JP3201344B2 (ja) | インターレース動画像信号の動き補償予測方法及び符号化装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050525 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050525 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20050525 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20060417 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070621 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070703 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071120 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080225 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110314 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110314 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110314 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120314 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130314 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130314 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
LAPS | Cancellation because of no payment of annual fees |