JP4217543B2 - 動き情報処理装置及び方法 - Google Patents

動き情報処理装置及び方法 Download PDF

Info

Publication number
JP4217543B2
JP4217543B2 JP2003160675A JP2003160675A JP4217543B2 JP 4217543 B2 JP4217543 B2 JP 4217543B2 JP 2003160675 A JP2003160675 A JP 2003160675A JP 2003160675 A JP2003160675 A JP 2003160675A JP 4217543 B2 JP4217543 B2 JP 4217543B2
Authority
JP
Japan
Prior art keywords
motion information
pixel
field
output
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003160675A
Other languages
English (en)
Other versions
JP2004364004A5 (ja
JP2004364004A (ja
Inventor
英一 松崎
井上  健治
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2003160675A priority Critical patent/JP4217543B2/ja
Priority to US10/859,294 priority patent/US7319491B2/en
Priority to EP20040253301 priority patent/EP1484919A3/en
Priority to CNB2004101005329A priority patent/CN100355279C/zh
Priority to KR20040041168A priority patent/KR100629281B1/ko
Publication of JP2004364004A publication Critical patent/JP2004364004A/ja
Publication of JP2004364004A5 publication Critical patent/JP2004364004A5/ja
Application granted granted Critical
Publication of JP4217543B2 publication Critical patent/JP4217543B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0137Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes dependent on presence/absence of motion, e.g. of motion zones

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮像装置や表示装置などの映像情報を扱う映像情報処理装置に用いられる動き情報処理方法及び動き情報処理装置に関し、特に、飛び越し走査(インターレース走査)による映像情報を順次走査(プログレッシブ走査)による映像情報に変換する際に利用される画像の動き情報を処理する方法及び装置に関するものである。
【0002】
【従来の技術】
1ライン毎の飛び越し走査による映像表示ではなく、順次走査による映像表示を行うため、入力された飛び越し走査による映像情報を順次走査による映像情報に変換するInterlace−Progressive変換(以下、IP変換と呼ぶ)方法が知られている。
【0003】
IP変換では、映像信号(画素信号)を補間すべき画素(補間画素)と画像上同一位置で隣接フィールドにある画素(参照画素)の映像信号から、補間画素の映像信号の値(補間値)を求めるフィールド間補間と、補間画素と同一フィールド内にあり隣接する上下のライン位置にある2つの参照画素の映像信号から補間値を求めるフィールド内補間と、を補間画素の動き情報に応じて、切り替える動き適応型のIP変換が知られている。また、この動き適応型のIP変換には、フィールド間補間値とフィールド内補間値との重み付けの割合を、補間画素の動き量に応じて変更して、補間値を算出する手法が採用されることもある。
【0004】
従来のIP変換では、動き情報の検出に、連続する奇数フィールド同士(又は偶数フィールド同士)の間での同一位置における画素の映像信号の差分値(フレーム間差分情報)を用いるため、奇数フィールド間にある偶数フイールドにおける動きのように、フレーム間でのフィールドで動きが生じた場合、動画であるにもかかわらず静止画であると判定されてしまい、結果として誤った補間値を算出してしまう。
【0005】
特許文献1には、あるフィールドにおける動き情報に加え前フィールドにおける動き情報をも参照する方法が記載されている。
【0006】
特許文献2には、前のフィールドで検出された動き情報に減衰係数を乗算し求められた値を、あるフィールドの動き情報に加算する方法が記載されており、これによれば、動画として検出された動き情報の効果を複数フィールドに渡って持続することが可能となる。
【0007】
【特許文献1】
特開2000−175159号公報
【特許文献2】
特公平8−32025号公報
【0008】
【発明が解決しようとする課題】
特許文献1に記載されているように、前フィールドにおける動き情報を参照するだけでは救済できないケースがある。
【0009】
本発明者の知見によれば、このようなケースでは、過去のフィールドでの動き情報を蓄積しておくことが有効であるが、単に蓄積していったのでは、最終的に全ての画素での動き情報が動画を示す情報として処理されてしまうこととなる。そこで、特許文献2に記載されているような方法が有効であることが判った。
【0010】
しかしながら、減衰係数が乗算されるものの、あるフィールドにおいて、入力された映像情報が静止画に切り替った場合にも、過去のフィールドにおいて検出された動画としての動き情報が影響を及ぼすため、あるフィールドにおいて静止画として補間値を算出すべきところ、動画として算出された補間値成分が加算されることとなり、動画としての補間値成分がほぼ零となるまで、正確な画像再生が困難となる。
本発明は上記課題に鑑みてなされたものであり、本発明の目的は、誤表示を抑制し正確な画像再生が可能となる動き情報処理装置及び方法を提供することにある。
本発明の別の目的は、動画と静止画が切り替った際の本来動画として処理されるべき補間画素での動き情報が静止画として処理されてしまうということを回避するとともに、動画から静止画に切り替った際に、速やかに静止画用の補間処理に移行することができる、動き適応型のIP変換における動き情報処理装置及び方法を提供することにある。
【0013】
【課題を解決するための手段】
本発明の動き情報処理方法は、飛び越し走査によるライン上の各画素が動画か静止画かを示す第1の動き情報を出力する出力工程、注目nフィールドよりも2フィールド前の過去n−2フィールドにおける各画素の第1の動き情報を保持する保持工程、注目nフィールドと過去n−2フィールドにおける同一位置の画素の画素信号の差分情報に基づいて、注目nフィールドにおける各画素が動画か静止画かを示す第2の動き情報を検出する検出工程、および注目フィールドにおける、互いに隣接する複数の画素からなり注目画素を含む領域内に、第2の動き情報が動画を示す動画画素が所定数以上存在するか否かを判定する判定工程を有し、出力工程は、判定工程により動画画素が所定数以上存在しないと判定された場合は、検出工程により検出された注目フィールドにおける注目画素の第2の動き情報を該注目画素の第1の動き情報として出力し、判定工程により動画画素が所定数以上存在すると判定された場合は、検出工程により検出された注目フィールドにおける注目画素の第2の動き情報と、保持工程により保持された過去n−2フィールドにおける注目画素の第1の動き情報とに基づいて、注目nフィールドにおける注目画素の第1の動き情報を決定して出力することを特徴とする。
【0014】
また、本発明の動き情報処理装置は、飛び越し走査によるライン上の各画素が動画か静止画かを示す第1の動き情報を出力する出力部と、注目nフィールドよりも2フィールド前の過去n−2フィールドにおける各画素の第1の動き情報を保持する記憶部と、注目nフィールドと過去n−2フィールドにおける同一位置の画素の画素信号の差分情報に基づいて、注目nフィールドにおける各画素が動画か静止画かを示す第2の動き情報を検出する検出部と、注目フィールドにおける、互いに隣接する複数の画素からなり注目画素を含む領域内に、第2の動き情報が動画を示す動画画素が所定数以上存在するか否かを判定する判定部とを備え出力部は、判定部により動画画素が所定数以上存在しないと判定された場合は、検出部により検出された注目フィールドにおける注目画素の第2の動き情報を該注目画素の第1の動き情報として出力し、判定部により動画画素が所定数以上存在すると判定された場合は、検出部により検出された注目フィールドにおける注目画素の第2の動き情報と、記憶部により保持された過去n−2フィールドにおける注目画素の第1の動き情報とに基づいて、注目nフィールドにおける注目画素の第1の動き情報を決定して出力することを特徴とする。
【0015】
【発明の実施の形態】
図1、図2は本発明による動き情報処理装置の概要を説明するための図である。
【0016】
図1の(a)、(b)に示すように、本発明の動き情報処理装置は、入力された飛び越し走査による画素信号における動き情報を処理する。
【0017】
注目画素の動き情報を検出するための動き情報検出部14は、2つのフィールドそれぞれにおける同一位置の画素である画素(A)、画素(B)それぞれの画素信号の差分情報(A−B)に基づいて、画素(A)の動き情報(α)を検出する。
【0018】
動き情報決定/出力部12は、検出部14により検出された、注目(N)フィールドにおける注目画素(A)の動き情報(α)と、注目フィールドより前の過去(N−2)フィールドにおける注目画素(B)の動き情報(β)と、に基づいて、注目画素(A)の動き情報(α又はβ)を決定し出力する。
【0019】
動き情報判定/管理部11は、注目フィールド内における、複数の隣接画素からなり注目画素(A)を含む領域(画素群)内に、該注目フィールドにおける画素の動き情報が動画を示す動画画素が所定数以上存在するか否かを判定する。
【0020】
そして、動き情報判定/管理部11は、領域内に前記動画画素が所定数以上存在しない場合には、動き情報決定/選択部12において、過去フィールドの注目画素(B)の動き情報(β)を無視して、注目画素(A)の動き情報をαに決定する。
【0021】
逆に、動き情報判定/管理部11は、領域内に前記動画画素が所定数以上存在する場合には、動き情報決定/選択部12において、過去フィールドの注目画素(B)の動き情報(β)を無視することなく、これを参照して、注目画素(A)の動き情報をα又はβに決定する。
【0022】
動き情報決定/選択部12により決定され出力された動き情報は、再び記憶部13に入力され次の処理を待つ。
【0023】
ここで、領域とは、1フィールド又は1フレームを構成している全ての画素のうちの一部の画素からなる群であり、水平ライン又は垂直ラインを構成する一部又は全ての画素からなるもの、或いは、隣接する複数の水平又は垂直ラインを構成する一部又は全ての画素からなるものである。具体的には、1水平走査ライン上の全ての有効画素の群、隣接する複数の水平走査ライン上の全ての有効画素の群、1列上の全ての有効画素の群、複数の隣接列上の全ての有効画素の群、或いは16画素×16画素のような一部の行列にのみ亘る2次元の隣接画素群などである。とりわけ、1又は複数の水平走査ライン上の画素群を管理することが好ましいものである。
【0024】
領域の動画/静止画の判定においては、少なくとも1つの画素が動画画素と判定されれば、当該領域が動画であると判定することが好ましいが、動画画素が2つ或いは3つ以上の任意の数を閾値として動画か静止画かを判定してもよい。
【0025】
このように、動き情報決定/選択部12から出力された動き情報を過去フィールドの動き情報として、動き情報決定/選択部12にフィードバックして、次回からの動き情報の決定の際に参照可能にするとともに、動き情報判定/管理部11において判定された領域の動き情報に応じて、フィードバックされている過去の動き情報を参照するか否かを決定することにより、上述した課題を解決する。
【0026】
図2は、本発明による動き情報検出方法の概要を示すフローチャートである。
【0027】
出工程S1では、2つのフィールドにおける同一位置の画素信号の差分情報に基づいて、各フィールド毎に注目フィールドにおける注目画素の動き情報を検出する。
判定工程S2では、注目フィールド内において、前述した領域内に、動画画素が所定数以上存在するか否かを判定する。
【0028】
判定の結果、画素群が動画と判定された場合には、次の過去の動き情報参照工程S3において、先に決定し保持しておいた、注目フィールドより前の過去フィールドにおける注目画素の動き情報(β)を参照する。続いて、注目画素の動き情報参照工程S4において、検出された、注目フィールドにおける注目画素の動き情報(α)を参照する。
【0029】
一方、判定の結果、画素群内に動画画素が所定数以上存在しない場合には、過去の動き情報参照工程S3をスキップすることにより、過去フィールドの注目画素の動き情報(β)を無視して、注目フィールドの注目画素の動き情報(α)のみを参照する。
【0030】
そして、注目画素の動き情報決定・出力工程S5において、参照した動き情報に基づいて、注目フィールドにおける注目画素の動き情報を決定し出力する。
【0031】
このように、注目画素とその周辺の周辺画素からなる領域が動画判定された場合には、結果的に過去の動き情報が採用されない場合もあるが、少なくとも過去の動き情報が参照されて動き情報が決定される。一方、その領域が静止画判定された場合には、過去の動き情報を参照することなく、注目フィールドの動き情報が参照されて、動き情報が決定される。
【0032】
更に、次の動き情報処理に備えて、工程S5で決定された動き情報は、記憶部などに記憶され、次の処理の際に参照可能に提供され、この一連の処理が繰り返し行われる。
【0033】
工程S3と工程S4の部分はこのフローに限定されることはなく、同等の処理が行われるものであればよい。
【0034】
そして、IP変換において、補間される補間画素の動き情報は、上述した動き情報処理方法によって得られた画素の動き情報そのものであっても良いが、補間画素のあるフィールドの前後のフィールド内の同じフィールド内で補間画素と同じ位置にある2つの画素の動き情報、或いは補間画素のあるフィールドと同じフィールドで補間画素に隣接する少なくとも2つの画素の動き情報、の少なくとも4画素の動き情報のうち、少なくとも何れか1組を参照することにより、算出するこもとも好ましいものである。例えば、同じフィールド内での画像を反映させるために、補間画素(X)と同じフィールド内の隣接位置にある少なくとも2つの画素(E、A)に注目して出力された前記注目画素の動き情報(ε、α)に基づいて、該補間画素の動き情報を提供することがより好ましいものである。そして、補間画素の動き情報に応じて、動き適応型のIP変換を行って、補間画素の補間値(画素信号値)を算出すればよい。
【0035】
または、動き適応型のIP変換処理装置においては、補間画素(X)と同一位置で前フィールド及び後フィールドにある2つの画素(A、B)の動き情報(α、β)と、補間画素と同一フィールド内にあり隣接位置にある2つの画素(C、D)の動き情報(γ、δ)と、に基づいて前記補間画素(X)の動き情報(χ)を求め、それに基づいて、前記補間画素(X)の補間値を計算することも好ましいものである。
【0036】
図3は、動き適応型のIP変換処理回路装置の構成を示すブロック図である。
【0037】
飛び越し走査による映像信号(画素信号)は、フィールド単位で映像信号を記憶しておくためのフィールド信号記憶部1、2に順次記憶される。動き情報生成部3は、現在入力されているフィールドの映像信号と、フィールド信号記憶部2から出力される、現在入力されているフィールドよりも1フレーム(2フィールド)前に入力されたフィールドの映像信号との差分を検出することにより画素単位で動画情報であるか静止画情報であるかの判定を行い、その画素毎の動き情報から補間画素での動きを判定して出力する。前述した本発明の動き情報処理装置は、この動き情報生成部3に好適に用いられる。
【0038】
入力される映像信号をライン単位で記憶しておくためのライン信号記憶部4から出力された映像信号と入力された映像信号とは、加算演算を行う加算器7により加算され、その値の半分の値を除算器8により求める。補間信号選択部9は、動き情報生成部3からの動き情報に応じ、フィールド信号記憶部1から出力される、現在入力されているフィールドよりも1フィールド前に入力された映像信号と、除算器8から出力される、補間画素の上下のラインに位置する画素値の平均値と、のいずれかを選択して補間画素値とする。入出力速度変換部5、6は、補間情報選択部から出力される補間画素の映像信号と入力された映像信号とをそれぞれライン単位で記憶し、記憶された映像信号を入力された映像信号の2倍の速さで読み出す。表示信号選択部10は、入出力速度変換部5、6から出力される映像信号を1ライン毎に切り替えて交互に出力する。
【0039】
本発明に用いられる各信号記憶部や各動き情報記憶部は、遅延回路などでも実現可能である。
【0040】
図4に、NTSC(National Television System Committee)信号を例に挙げて、飛び越し走査により画像が表示される様子を示す。NTSC信号の1フレームは、525本の水平ラインにより構成された1画面の単位であり、フレームは、飛び越し走査により、奇数ラインを表現する奇数フィールドと偶数ラインを表現する偶数フィールドとに分けられる。そして、NTSC信号ではこの奇数フィールドと偶数フィールドの映像を交互に表示することにより525ラインの映像信号による画像情報を表現している。即ち奇数フィールドと偶数フィールドは、お互いに不足しているライン情報を補完する関係にある。
【0041】
図3のフィールド信号記憶部1からは、補間しようとする画素の位置に相当する前フィールドでの画素の映像信号が得られ、これが静止画の際の補間値とされる。一方、入力された映像信号とライン信号記憶部4からは、補間しようとする画素の上下のラインに位置する隣接画素の映像信号が得られ、更に加算器7及び除算器8により2つの隣接画素の映像信号の平均値が求められ、動画時の補間値とされる。
【0042】
このように、補間画素の動き情報χが動画を示す場合には、補間画素と同一フィールド内にあり隣接位置にある2つの参照画素の画素信号から補間画素の画素信号の値を求め、補間画素の動き情報χが静止画を示す場合には、補間画素と同一位置で前フィールド及び後フィールドにある2つの参照画素の画素信号の少なくとも何れか一方から補間画素の画素信号の値を求めることが好ましいものである。
【0043】
結局、入力された飛び越し走査による画素信号は、動き情報処理装置によって補間画素の動き情報が決定され、その動き情報を基にIP変換処理装置によって各フィールドの欠損ラインの画素が補間されて順次走査の画素信号となり、これに対応して、表示器の走査線を順次選択することにより、映像情報は表示器において再生表示されることになる。
【0044】
以下に、図面を参照して本発明のより具体的な実施形態を詳細に説明する。
【0045】
(実施形態1)
図5は、本発明の一実施形態による動き情報処理装置のブロック図である。この装置は図3に示したIP変換処理回路装置の動き情報生成部3として好適に用いられる。
【0046】
図5において、減算器31,絶対値回路32,閾値フィルタ回路33によって、前述した動き情報検出部が構成され、ライン動き情報記憶部41を介して、動き情報選択部39に供給される。また、動き情報選択部39とOR素子38とが前述した動き情報決定/選択部12に相当する役割を担う。40は前述した動き情報判定/管理部11に相当する動き情報管理部であり、36、37は前述した動き情報記憶部13に相当するフィールド動き情報記憶部である。
【0047】
ライン動き情報記憶部34は、後述する動き情報選択部39から出力される画素毎の動き情報をライン単位で記憶し、補間画素動き情報生成部35は、後述する動き情報選択部39から出力される動き情報と、ライン動き情報記憶部34から出力される1ライン前の画素での動き情報とから、それらのライン間に生成する補間画素での動き情報を判断して出力する。補間画素動き情報生成部35は、例えば、2入力のOR素子などで構成できる。
【0048】
41は、閾値フィルタ回路33から出力される画素毎の動き情報をライン単位で記憶しておくためのである。40は、閾値フィルタ回路33から出力される画素毎の動き情報を、互いに隣接する複数の隣接画素で構成される領域単位で管理するための動き情報管理部である。39は、動き情報管理部40から出力される領域単位で管理された動き情報に従い、ライン動き情報記憶部41から出力される動き情報とOR素子38から出力される動き情報のいずれかを選択して出力する動き情報選択部である。36、37は、入力される動き情報をフィールド単位で記憶しておくためのフィールド動き情報記憶部であり、フィールド動き情報記憶部36は、動き情報選択部39から出力される動き情報を1フィールド期間記憶しておき、また、フィールド動き情報記憶部37は、フィールド動き情報記憶部36から出力される動き情報を1フィールド期間記憶する。これにより、フィールド動き情報記憶部36からは、動き情報選択部39から出力される動き情報を1フィールド期間遅延させた動き情報が出力され、フィールド動き情報記憶部37からは、フィールド動き情報記憶部36から出力される動き情報を1フィールド期間遅延させた動き情報、即ち動き情報選択部39から出力される動き情報を1フレーム期間遅延させた動き情報が出力される。OR素子38は、ライン動き情報記憶部41から出力される動き情報とフィールド動き情報記憶部37から出力される動き情報の論理和を求めて、動き情報選択部39に出力する。
【0049】
そして、補間画素動き情報生成部35から出力された補間画素の動き情報が、図3に示したIP変換処理回路装置の補間信号選択部9に供給されて、補間信号選択部9において、補間信号の選択が行われる。
【0050】
次に、本実施形態における動き情報生成部3の動作について説明を行う。
【0051】
減算器31により、現在入力されているフィールドの映像信号と、フィールド信号記憶部2から出力される、現在入力されているフィールドよりも1フレーム前に入力されたフィールドの映像信号との差分値を求める。
【0052】
絶対値回路32は、減算器31にて求まった差分値の絶対値を求め、閾値フィルタ回路33に供給する。
【0053】
閾値フィルタ回路33は、絶対値と予め設定されている閾値とを比較し、絶対値が閾値よりも小さい場合にはその画素の映像信号が静止画であると判断して“0”を出力し、絶対値が閾値よりも大きい場合或いは等しい場合にはその画素の映像信号が動画であると判断して“1”を出力する。これにより、入力された映像信号にノイズのような不正な画素情報が加わっている場合でも、多少の変動範囲内であればその影響を取り除くことができる。
【0054】
閾値フィルタ回路33から出力される画素毎の動き情報は、画素毎の動き情報をライン単位で記憶しておくためのライン動き情報記憶部41に記憶される。これによりライン動き情報記憶部41からは、入力されている映像信号よりも1ライン前の画素での動き情報を得ることができる。
【0055】
図6は、本発明に用いられる動き情報管理部40の一構成例を示したブロック図である。ここでは、閾値フィルタ回路33から出力される画素毎の動き情報をライン単位(領域単位)で管理する構成例について示している。
【0056】
図6において、401は、入力される2つの信号の論理和を求めるためのOR素子、402、403は入力された状態を保持しておくためのフリップフロップ(Flip−Flop)である。OR素子401では、閾値フィルタ回路33から出力される画素毎の動き情報とフリップフロップ402からの出力信号との論理和が求められ、フリップフロップ402の入力信号として出力される。フリップフロップ402では、入力される画素のタイミングで変化するピクセルクロック信号PCLKに同期して、OR素子401から出力される信号を保持する。即ちフリップフロップ402では、閾値フィルタ回路33から一度“1”が出力されるとその状態を保持し常に“1”を出力することとなる。フリップフロップ402で保持されている状態はラインの先頭で出力される水平同期信号HDにより初期化され、初期化される直前の状態はフリップフロップ403にて保持される。即ちフリップフロップ403からは、入力されている映像信号の前のラインにおいて、動画としての画素が存在するかどうかを示す信号を出力することとなる。もし、1ラインを2等分した半ライン単位で動き情報を管理する場合には、水平同期信号HDに代えて、その倍の周波数のクロックを用いればよく、そのようなクロックは位相ロックループのような同期信号生成回路を用いて水平同期信号HDに位相ロックさせて生成すればよい。
【0057】
図7は、動き情報管理部40においてライン単位で画素毎の動き情報が管理される様子を示したものである。即ち図7では、‘H’という文字に相当する画素での動き情報が動画として検出された様子を示しており、動き情報管理部40では、‘H’という文字に相当する動画としての動き情報が検出された画素が存在するラインに対しては‘1’を出力し、それ以外のラインに対しては‘0’を出力することとなる。
【0058】
図8は、各画素とその動き情報の関係を説明するための模式図である。ここでは、連続する3フィールドにおける、隣接5ライン上の画素の一部が示されている。
【0059】
A〜F、X、Yは画素を示しており、本実施形態においては、このうち画素A、Bは画素Aの動き情報を決定するために参照される参照画素、Yは現在の入力画素である。画素A、Eは補間画素Xにおける動き情報を決定するために参照される参照画素となっており、画素Eの動き情報は、画素Aの動き情報と同様の方法により画素Fの動き情報ζをも参照して決定される。
【0060】
そして、補間画素Xが動画画素と判定された場合には、画素Aと画素Eの映像信号の平均値が補間画素Xの映像信号値となり、補間画素Xが静止画画素と判定された場合には、画素Dの映像信号値が補間画素Xの映像信号値となる。
【0061】
図5を参照するに、動き情報管理部40からは、入力されている画素Yの映像信号よりも1ライン前のラインでの状態が出力されるため、動き情報選択部39の一方には、ライン動き情報記憶部41を介することによって、閾値フィルタ回路33から出力される画素毎の動き情報を1ライン分遅延させた画素Aの動き情報αが入力される。更に動き情報選択部39には、OR素子38から出力される動き情報が入力され、これらの動き情報が、動き情報管理部40から出力される領域単位で管理された動き情報に応じて選択されて出力される。即ち、動き情報管理部40から‘0’が出力された場合には、ライン動き情報記憶部41から出力される動き情報が選択され、動き情報管理部40から‘1’が出力された場合にはOR素子38から出力される動き情報が選択され、動き情報選択部39から出力される。
【0062】
動き情報選択部39から出力される動き情報は、フィールド動き情報記憶部36に入力され、更にフィールド動き情報記憶部37を経て、動き情報選択部39から出力される動き情報よりも1フレーム期間前のフィールドにおける画素Bの動き情報βとして出力される。これによりOR素子38では、閾値フィルタ回路33から出力される画素毎の動き情報と、フィールド動き情報記憶部37から出力される、1フレーム期間前のフィールドにおける動き情報との論理和が求められることとなり、即ちOR素子38からは、入力されているフィールドにおける動き情報α、或いは1フレーム期間前のフィールドでの動き情報βのいずれかで動画が検出された場合には、その画素での動き情報は動画として出力される。
【0063】
そして、動き情報選択部39では、動き情報管理部40にて処理する画素と同一ライン上に動画画素が存在すると判断された場合には、OR素子38から出力される動き情報、即ち、フレーム間差分情報から得られた動き情報αと1フレーム期間前のフィールドでの動き情報βとから求められた動き情報が選択され、同一ライン上に動画画素が存在しないと判断された場合には、ライン動き情報記憶部41から出力される動き情報、即ち、フレーム間差分情報から得られた動き情報αが選択されて出力される。これにより動き情報選択部39からは、動き情報管理部40にて管理する領域において動画画素が検出され続けた場合には、過去のフィールドでの動画としての動き情報が複数のフレーム期間に渡り保持されることとなり、また、動き情報管理部40にて管理する領域において動画画素が検出されない場合、つまり、ライン上の全ての画素が静止画画素である場合には、瞬時に過去のフレームでの動き情報は無視され、現フィールドにおけるフレーム間差分情報から得られた動き情報αが出力される。
【0064】
動き情報選択部39から出力される動き情報は、更にライン動き情報記憶部34と補間画素動き情報生成部35に入力され、ライン動き情報記憶部34からは1ライン期間遅延した画素Eの動き情報(ε又はζ)が得られ、また補間画素動き情報生成部35では、動き情報選択部39から出力される動き情報(α又はβ)とライン動き情報記憶部34から出力される1ライン前の画素での動き情報(ε又はζ)とから、それらのライン間に位置する補間画素での動き情報が判断されて出力されることとなる。
【0065】
以下、本実施形態による作用効果を参考例を挙げて説明する。
【0066】
(参考例)
図9は参考例による動き情報処理装置の構成を示すブロック図である。
【0067】
図9において、35は、閾値フィルタ回路33から出力される動き情報と、ライン動き情報記憶部34から出力される1ライン前の画素での動き情報とから、それらのライン間に新しく生成する補間画素での動き情報を得るための補間画素動き情報生成部である。
【0068】
この装置を用いた場合の動き情報について、図10〜図12を参照して説明する。
【0069】
図3のIP変換方式では、補間信号選択部9において、動き情報生成部3から出力される動き情報が“0”である場合にはフィールド信号記憶1から出力される画素の映像信号を選択して出力し、“1”である場合には除算器8から出力される画素の映像信号を選択して出力する。
【0070】
ここでは、動き情報の検出にフレーム間での差分情報を用いるため、そのフレーム間にあるフィールドで動きが生じた場合、動画であるにもかかわらず静止画であると判定される。しかし、前又は後のフィールドにおける動き情報を参照することにより、フレーム間にあるフィールドでの動きの検出を行うことができる。それでも、図10に示すような、映像の場合には、誤検出が生じる。図10は、“H”という文字が等間隔で連続して右方向から左方向に水平に移動する映像を説明するための模式図である。
【0071】
即ち、図10において、(a)は注目するnフィールドでの表示状態、(b)はその1つ前のn−1フィールドでの表示状態、(c)、(d)はそれぞれ更に1フィールド過去に溯った表示状態を示している。
【0072】
ここでフレーム間差分情報から動き情報を求めると、nフィールドの画像の動き情報は図10(a)の状態と図10(c)の状態を比較することによって得られ、その結果、図11の(a)に示すように、図10(a)での左端に位置する“H”の状態だけが動画としての動き情報として求まる。n−1フィールドからn−3フィールドの画像の動き情報も同様に、図11の(b)、(c)、(d)に示すように、それぞれの画面で左端に位置する“H”の状態だけが動き情報として求まる。その結果、本来注目するnフィールドにおいては図10(a)で示した状態を表示するべきところが、図12(a)に示すように、動画としての動き情報が求められた左端に位置する“H”の文字だけがフィールド内補間が選択されて正常に表示され、それ以外のところはフィールド間補間が選択されて図10(a)の状態と図10(b)の状態とが混合された表示となってしまう。
【0073】
これに対して、本実施形態によれば、図10で示したような入力映像情報の場合において、各実施形態の動き情報選択部39から出力される各フィールドにおける動き情報は、図13に示すような動き情報として求まる。即ち、‘H’という文字が動いている限り、過去のフレームでの動画としての動き情報が複数フレーム期間に渡り保持されることとなり、これにより図11に示した動き情報に比べて、より正確な動き情報が検出されることとなる。
【0074】
また、このように、過去のフィールドでの動き情報を蓄積しておく場合には、過去のフィールドでの動き情報の影響が引きずられていまい、最終的に全ての画素での動き情報が動画として処理されてしまうこととなる。
【0075】
これに対して、本実施形態では、動き情報管理部40により予め定められた領域内で動きのある画素が全く検出されず、該領域の画像が静止していると判定された場合には、注目フィールドの注目画素での動き情報は、それ自身となり、過去のフィールドにおける動き情報の影響が遮断され、静止画を示す動き情報が得られる。即ち、動画の表示から静止画の表示に切り替わった時には、瞬時に、静止画として補間画素値が生成されることとなる。
【0076】
また、過去の動きを考慮した画素の動き情報は、複数ビットで管理する必要もない。
【0077】
ここで図5の動き情報管理部40においては、閾値フィルタ回路33から出力される画素毎の動き情報をライン単位で管理する例について示したが、閾値フィルタ回路33から出力される画素毎の動き情報をライン単位で記憶しておくためのライン動き情報記憶部を複数組設けることにより、複数ライン単位で管理することも容易に実現可能である。
【0078】
以上詳述した、本発明の実施形態によれば、前記動き情報管理部により予め定められた領域(画素群)内で動きのある画素が検出された場合には、注目しているフィールド内の注目画素の動き情報は1フレーム遅延した同一位置の画素の映像信号との差分情報から生成され、この動き情報と、過去のフィールドにおいて、同様に求めた注目画素の動き情報とを参照して決定される。
【0079】
更に、このようにして求められた注目画素の動き情報を1フレーム期間に渡り保持しておき、再び、注目画素での動き情報を求める際に、その動き情報が用いられる。こうして、過去のフィールドにおける動き情報が複数フィールド期間に渡り保持される。
【0080】
また、前記動き情報管理部により予め定められた領域内で動きのある画素が検出されなければ、注目フィールドの注目画素での動き情報は、注目フィールドとそれから1フレーム期間遅延したフィールドと間の映像信号の差分情報に基づくものとなり、過去のフィールドにおける動き情報の影響が遮断され、静止画を示す動き情報が得られる。即ち、動画の表示から静止画の表示に切り替わった時には、瞬時に、静止画として補間画素値が生成されることとなる。
【0081】
また本実施形態によれば、過去のフィールドにおける動き情報を反映した入力画素での動き情報を1ビットで管理できる。
【0082】
(実施形態2)
図14は、本発明の一実施形態による動き情報処理装置のブロック図である。この装置は図3に示したIP変換処理回路装置の動き情報生成部3として好適に用いられる。
【0083】
図14では、図5で示した動き情報生成部3の構成例に対し、ライン動き情報記憶部41から出力される動き情報を更に1ライン期間保持するためのライン動き情報記憶部42が付加され、動き情報管理部40には閾値フィルタ回路33から出力される動き情報以外に、ライン動き情報記憶部41から出力される動き情報とライン動き情報記憶部42から出力される動き情報とが入力され、動き情報管理部40ではこれら隣接3ラインに渡る動き情報から予め定められた領域(隣接3ライン上の画素群)での動き情報を判断することとなる。
【0084】
また、本発明においては、ライン上で参照する画素数も1ライン分全ての画素での動き情報を参照することに限ったものではなく、図6で示した動き情報管理部40の構成において閾値フィルタ回路33から出力される画素毎の動き情報を保持しておくためのフリップフロップを参照する画素数分設けることにより限定された画素のみを参照するようにすることは容易に実現可能であり、動き情報管理部40にて管理する領域は各実施形態にて示したものに限るものではない。
【0085】
そして、動き情報管理部40にて管理される領域内で動画と判断された画素が検出されない場合には、フレーム間差分情報から得られた動き情報がそのまま用いられ、また、動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合には、フレーム間差分情報から得られた動き情報以外に、1フレーム期間前の過去フィールドでの動き情報も参照されて画素毎の動き情報が求められる。
【0086】
更に、このようにして求められた画素毎の動き情報を、フィールド動き情報記憶部36、37により1フレーム期間に渡り記憶しておき、フィールド動き情報記憶部37から出力される動き情報を、動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合に参照されるところの、1フレーム期間前の過去フィールドでの動き情報として用いる。これにより、注目している画素において、動き情報管理部40にて管理される領域内で複数フレームに渡って動画と判断された画素が検出された場合には、その期間内に一度でもその画素での動き情報が動画として判断されれば、動き情報管理部40にて管理される領域内で動画と判断された画素が検出されている間、その画素での動き情報は動画として出力されることとなる。
【0087】
具体的には、図10で示した入力映像情報において、動き情報選択部39から出力される各フィールドにおける動き情報は、図13に示すような動き情報として求まることとなる。即ち、‘H’という文字が動いている限り、過去のフレームでの動画としての動き情報が複数フレーム期間に渡り保持されることとなり、これにより図11に示した動き情報に比べて、より正確な動き情報が検出されることとなる。
【0088】
そして、動き情報管理部40により予め定められた領域内が静止画であると判定された場合には、過去のフィールドにおける動き情報の影響が遮断され、静止画を示す動き情報が得られる。即ち、動画の表示から静止画の表示に切り替わった時には、瞬時に、静止画として補間画素値が生成されることとなる。
【0089】
(実施形態3)
図15は本発明の一実施形態による動き情報処理装置のブロック図である。この装置は図3に示したIP変換処理回路装置の動き情報生成部3として好適に用いられる。
【0090】
前述した実施形態1、2では、フレーム間でのフィールドでの動きが検出できない。その動きを検出する場合には、現フィールドの動き情報に加えて、隣接前フィールドにおける動き情報を参照すればよく、こうすれば、隣接フィールドにおける動き情報も反映させることができる。但し、ここで参照される動き情報に関しても、単純なフレーム間差分情報から得られた動き情報ではなく、図13にて示したような動き情報となるように、動き情報選択部39から出力される動き情報を記憶するために設けたフィールド動き情報記憶部36及びフィールド動き情報記憶部37から出力される動き情報を利用する。前述したように、フィールド動き情報記憶部36及びフィールド動き情報記憶部37から出力される動き情報は、図13にて示したように動き情報選択部39から出力される動き情報をフィールド単位で記憶しているため、フィールド動き情報記憶部36、37から出力される動き情報は、過去のフレームで得られた動画としての動き情報の影響を受けた動き情報となっている。
【0091】
図15の装置は、前後のフィールドにおける動き情報を参照することで前フィールドにおける動き情報を反映するという手段を、フィールド動き情報記憶部36及びフィールド動き情報記憶部37から出力される動き情報を用いることで具現化している。
【0092】
図15では、図5で示した動き情報生成部3の構成例に対し、ライン動き情報記憶部34には、フィールド動き情報記憶部36から出力される動き情報が入力され、更に補間動き情報生成部35には、動き情報選択部39とライン動き情報記憶部34から出力される動き情報、及びフィールド動き情報記憶部36とフィールド動き情報記憶部37から出力される動き情報とが入力され、補間動き情報生成部35ではこれらの画素での動き情報から注目している補間画素での動き情報を求めることとなる。このため、例えば、補間画素動き情報生成部35、単純なOR素子ではなく、AND素子とOR素子の組み合わせを採用する。つまり、フィールド動き情報記憶部37と動き情報選択部39からの出力を2入力のAND素子に入力し、このAND素子の出力とフィールド動き情報記憶部36及びライン動き情報記憶部34の出力とを3入力のOR素子に入力し、このOR素子からの出力を補間画素動き情報生成部35からの出力とする構成を採用するとよい。
【0093】
図16は、補間動き情報生成部35において補間画素Xでの動き情報が求められる様子を示したものである。
【0094】
入力されるnフィールドの画素Yの映像信号よりも1フィールド期間前に入力されたn−1フィールドでの補間画素Xの動き情報χを求めることとなり、n−1フィールドでの画素C、Dの動き情報γ、δはフィールド動き情報記憶部36から出力され、その前後のnフィールド及びn−2フィールドでの画素A、Bの動き情報α、βはフィールド動き情報記憶部37及び動き情報選択部39から出力される。即ち入力されている画素の映像信号がm+2ラインの画素Yの映像信号である場合、インタ−レースによる1ライン飛び越し走査であるため、ライン動き情報記憶部41から出力される動き情報はmラインの画素Aでの動き情報αとなる。また、フィールド動き情報記憶部37から出力される動き情報は、入力されている画素よりも2フィールド期間遅延した画素Bでの動き情報βであり、これにより動き情報選択部39から出力される動き情報は、ライン動き情報記憶部41から出力されるnフィールドにおけるmラインの画素Aでの動き情報αと、フィールド動き情報記憶部37から出力されるn−2フィールドにおけるmラインの画素Bでの動き情報βとを参照して求められた、mラインの画素での動き情報となる。
【0095】
動き情報選択部39から出力される動き情報は、フィールド動き情報記憶部36に入力されて1フィールド期間遅延させら、更にフィールド動き情報記憶部37により1フィールド期間遅延させられて出力される。即ちフィールド動き情報記憶部36からはn−1フィールドでの動き情報が出力され、フィールド動き情報記憶部37からは、先に述べたようにn−2フィールドでの動き情報が出力される。ここでフィールド動き情報記憶部36からは、n−1フィールドにおけるm+1ラインの画素Cでの動き情報γが出力されるものとすると、ライン動き情報記憶部34からは、フィールド動き情報記憶部36から出力される動き情報γよりも1ライン期間遅延した画素での動き情報、即ちn−1フィールドにおけるm−1ラインの画素Dでの動き情報δが出力される。
【0096】
補間動き情報生成部35では、動き情報選択部39から出力される画素Aでの動き情報αと、フィールド動き情報記憶部37から出力される画素Bでの動き情報βと、フィールド動き情報記憶部36から出力される画素Cでの動き情報γと、ライン動き情報記憶部34から出力される画素Dでの動き情報δとが入力され、これらの動き情報からn−1フィールドにおけるmラインに位置する補間画素Xでの動き情報χを求めることとなる。
【0097】
これにより、補間動き情報生成部35から出力される補間画素Xでの動き情報χは前フィールドにおける動き情報βを反映したものとして得られることとなり、その結果、図10で示した映像に対して図17に示すような動き情報が得られることとなり、これにより図12で示したような誤表示を回避することができ、図10で示した本来の表示状態を得ることができる。
【0098】
また、本実施形態のように、補間画素Xとは別の隣接フィールド内の同位置にある画素A、Bに注目して出力された注目画素の動き情報α、βに基づいて、補間画素の動き情報χを提供することも好ましいものである。
【0099】
(実施形態4)
図18は、本発明の一実施形態としての動き情報処理装置を示すブロック図である。この装置は図3に示したIP変換処理回路装置の動き情報生成部3として好適に用いられる。
【0100】
本実施形態では、予め定めた領域内に動画としての動き情報が検出された際に、前のフレームで求められた動き情報を参照する以外に前のフィールドで求められた動き情報を参照して画素毎の動き情報を求めるようにする。そして、このようにして求められた画素毎の動き情報を1フレーム期間に渡り記憶しておく手段を設け、前述した領域内に動画としての動き情報が検出された際に、前のフィールドで求められた動き情報及び前のフレームで求められた動き情報として参照する。これにより、別途前フィールドにおける動き情報を反映させる手段を講じることなく補間画素での動き情報を求めることが可能となる。
【0101】
図18の構成は、図5で示した動き情報生成部3の構成に対し、フィールド動き情報記憶部36から出力される動き情報をライン単位で記憶しておくためのライン動き情報記憶部42と、動き情報選択部39から出力される動き情報とフィールド動き情報記憶部36及びライン動き情報記憶部42から出力される動き情報とから入力された画素での動き情報を求めるための入力画素動き情報生成部43が付加されている。また、フィールド動き情報記憶部36及びライン動き情報記憶部34には入力画素動き情報生成部43から出力される動き情報が入力され、補間画素動き情報生成部35には、入力画素動き情報生成部43とライン動き情報記憶部34から出力される動き情報とが入力される。
【0102】
動き情報選択部39からは、動き情報管理部40にて管理される領域内で動画と判断された画素が検出されない場合には、フレーム間差分情報から求められた動き情報がそのまま出力され、動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合にはフレーム間差分情報から求められた動き情報以外にフィールド動き情報記憶部37から出力される1フレーム期間前の過去フィールドでの動き情報を参照して求められた動き情報が出力される。ここで入力画素動き情報生成部43には、動き情報選択部39から出力される動き情報と、フィールド動き情報記憶部36から出力される、動き情報選択部39から出力される動き情報よりも1フィールド期間過去のフィールドでの動き情報、更に、ライン動き情報記憶部42から出力される、フィールド動き情報記憶部36から出力される動き情報よりも1ライン前のラインでの動き情報が入力され、これらの動き情報から、入力された画素での動き情報を求めることとなる。
【0103】
図19は、入力画素動き情報生成部43にて入力された画素での動き情報が求められる様子を示したものである。入力画素動き情報生成部43は3入力のOR素子などで構成できる。
【0104】
動き情報選択部39からは、動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合には、OR素子38から出力される動き情報が選択されて出力されることとなるが、ここでOR素子38から出力される動き情報は、ライン動き情報記憶部41から出力される動き情報と、フィールド動き情報記憶部37から出力される動き情報との論理和されたものである。即ち、図19に示した例では、入力されている画素がnフィールドのm+2ライン上の画素Yであるとした場合、入力される映像信号はインタ−レースによる1ライン飛び越し走査での映像信号であるため、ライン動き情報記憶部41から出力される動き情報はnフィールドのmライン上の画素Aでの動き情報αとなる。また、フィールド動き情報記憶部37から出力される動き情報は、入力されている画素よりも2フィールド期間遅延した画素での動き情報であり、n−2フィールドにおけるmラインの画素Bでの動き情報βとなる。これにより動き情報選択部39から出力される動き情報は、ライン動き情報記憶部41から出力されるnフィールドにおけるmラインの画素Aでの動き情報αと、フィールド動き情報記憶部37から出力されるn−2フィールドにおけるmラインの画素Bでの動き情報βとを参照して求められた、nフィールドにおけるmラインの画素Aでの動き情報(α、又はβ)となる。
【0105】
入力画素動き情報生成部43では、動き情報選択部39から出力される動き情報以外に、フィールド動き情報記憶部36から出力される動き情報とライン動き情報記憶部42から出力される動き情報とを参照して最終的に入力された画素での動き情報を決定することとなる。フィールド動き情報記憶部36から出力される動き情報は、入力されている画素よりも1フィールド期間遅延した画素での動き情報であり、つまり、図11のn−1フィールドにおけるm+1ラインの画素Cでの動き情報γである。また、ライン動き情報記憶部42から出力される動き情報は、フィールド動き情報記憶部36から出力される動き情報よりも1ライン期間遅延した画素での動き情報であり、図11のn−1フィールドにおけるm−1ラインの画素Dでの動き情報δとなる。
【0106】
即ち入力画素動き情報生成部43では、ライン動き情報記憶部41から出力されるnフィールドにおけるmラインの画素Aでの動き情報αと、フィールド動き情報記憶部37から出力されるn−2フィールドにおけるmラインの画素Bでの動き情報βと、フィールド動き情報記憶部36から出力されるn−1フィールドにおけるm+1ラインの画素Cでの動き情報γと、ライン動き情報記憶部42から出力されるn−1フィールドにおけるm−1ラインの画素Dでの動き情報δとが参照されて、nフィールドにおけるmラインの画素Aでの動き情報(α、β、γ、又はδ)が求められることとなる。
【0107】
ここで入力画素動き情報生成部43は、各入力信号の論理和を求めるOR素子のような、簡単な組み合わせ回路にて構成することができるが、フィールド動き情報記憶部36或いはライン動き情報記憶部42から出力される動き情報を複数画素分参照することにより入力された画素での動き情報を求めるとすることもできる。
【0108】
本実施形態によれば、入力画素動き情報生成部43から出力される動き情報は、図17にて示したように前フィールドにおける動き情報をも反映したものと同じである。
【0109】
更に、入力画素動き情報生成部43から出力される動き情報をフィールド動き情報記憶部36及びフィールド動き情報記憶部37に記憶し、前述したように入力されている画素よりも1フィールド期間遅延した画素での動き情報、或いは入力されている画素よりも2フィールド期間遅延した画素での動き情報を参照可能にしている。これにより、動き情報管理部40にて管理される領域内で動画と判断された画素が複数フレームに渡って存在する場合には、その領域を参照する画素での動き情報は、動き情報管理部40にて管理される領域内で動画と判断された画素が検出される限り、過去のフィールドで動画として検出された動き情報は複数フィールドに渡って保持されることとなる。
【0110】
補間画素動き情報生成部35では、入力画素動き情報生成部43から出力される動き情報と、ライン動き情報記憶部34から出力される1ライン前の画素Eでの動き情報εとから、それらのライン間に生成する補間画素Xでの動き情報χを判断して出力することとなる。
【0111】
このように、注目画素Aとは別の隣接フィールド内の隣接位置にある別の2つの画素C、Dに注目して出力された注目画素の動き情報γ、δに基づいて、注目画素の動き情報αを決定し出力することも好ましいものである。
【0112】
(実施形態5)
図20に本発明の実施形態5による動き情報処理装置の構成を示すブロック図を示す。
【0113】
実施形態4においては、前述したように動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合には、動き情報選択部39からは、OR素子38から出力される、ライン動き情報記憶部41から出力される動き情報とフィールド動き情報記憶部37から出力される動き情報との論理和された動き情報が選択されて出力される。そのため、結果として動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合での入力された画素での動き情報は、図19で示したように、ライン動き情報記憶部41とライン動き情報記憶部42から出力される動き情報(α、δ)、及びフィールド動き情報記憶部36とフィールド動き情報記憶部37から出力される動き情報(γ、β)とを参照することにより求められていることとなる。
【0114】
本実施形態では、図18に示した構成のうち、機能ブロックである、OR素子38と入力画素動き情報生成部43に代えて、ライン動き情報記憶部41とライン動き情報記憶部42とフィールド動き情報記憶部36とフィールド動き情報記憶部37からそれぞれ出力される動き情報を並行に入力し、それらを参照することにより動き情報を生成する機能ブロックを動き情報選択部39の前段に設けている。これにより、実施形態4と同様の作用効果を奏する動き情報処理装置を得ることができる。
【0115】
(実施形態6)
図21は、本実施形態による動き情報処理装置の構成を示すブロック図である。この装置は図3に示したIP変換処理回路装置の動き情報生成部3として好適に用いられる。
【0116】
図21の構成は、図18で示した動き情報生成部3の構成に対し、OR素子38と入力画素動き情報生成部43を省き、代わりに、蓄積動き情報生成部44を動き情報選択部39の前段に設けられている。また、フィールド動き情報記憶部36及びライン動き情報記憶部34には動き情報選択部39から出力される動き情報が入力され、補間画素動き情報生成部35には、動き情報選択部39とライン動き情報記憶部34から出力される動き情報とが入力される。
【0117】
蓄積動き情報生成部44には、ライン動き情報記憶部41から出力される動き情報とフィールド動き情報記憶部37から出力される動き情報、及びフィールド動き情報記憶部36から出力される動き情報とライン動き情報記憶部42から出力される動き情報とが入力され、蓄積動き情報生成部44では、図19に示したようにこれらの動き情報を参照してnフィールドにおけるmラインの画素Aでの動き情報αを求めることとなる。蓄積動き情報生成部44は4入力のOR素子などで構成できる。動き情報選択部39では、動き情報管理部40にて管理される領域内で動画と判断された画素が検出された場合には蓄積動き情報生成部44から出力される動き情報を選択して出力し、また、動き情報管理部40にて管理される領域内で動画と判断された画素が検出されない場合にはライン動き情報記憶部41から出力される、フレーム間差分情報から求めた動き情報を選択して出力する。
【0118】
これにより図21で示した構成においても、動き情報選択部39から出力される動き情報は図17で示したように前フィールドにおける動き情報を反映した、より正確なものとなる。
【0119】
図18の動き情報処理装置と図21の動き情報処理装置との動作上の相違点は、次のとおりである。即ち、画素での動き情報が、動き情報管理部40にて管理される領域内において動画と判断された画素が検出されなかった際に、図18においては、フィールド動き情報記憶部36及びライン動き情報記憶部42から出力される前フィールドにおける動き情報を反映したものとして求められることとなるが、図21においては、前フィールドにおける動き情報が反映されないという点である。
【0120】
しかしながら、動き情報管理部40が、4つの画素A、B、C、Dでの動き情報を参照することで最終的に画素Aの動き情報を判断しており、動き情報管理部40にて管理される領域内において動画画素が検出されないようなケースでは、動き情報を求めようとする画素Aの周囲の画素も動画画素で無い確率が高く、図18と図21の間に表示動作上の違いは殆ど無い。
【0121】
本実施形態のように、注目フィールドの画素Aに注目して出力された注目画素の動き情報αと、該注目フィールドより2フィールド前の同位置の画素Bに注目して出力された注目画素の動き情報βと、該注目フィールドより1フィールド前の隣接位置の画素C、Dに注目して出力された注目画素の動き情報γ、δと、に基づいて、生成された動き情報(α、β、γ又はδ)と、注目フィールドの画素Aに注目して出力された注目画素の動き情報αと、のいずれかを前記注目フィールドの前記注目画素の動き情報αとして決定すべきかを判定する工程を含むことも好ましいものである。
【0122】
図22は、本発明による、入力された飛び越し走査による画素信号を順次走査により表示器に表示する映像表示装置を示すブロック図である。
【0123】
21は、インターネットやLANなどのネットワーク、CSデジタル放送やBSデジタル放送やアナログ放送などに用いられる放送波、メモリーカードやハードディスクやDVDのような情報提供媒体のうち、少なくとも何れか1つの媒体を介して受信した情報を適宜処理して、IP変換装置に供給される飛び越し走査による画素信号を提供する映像情報(輝度/色差信号、RGB信号など)を出力する映像情報出力装置である。
【0124】
22は、動き情報処理回路を有するIP変換回路20や解像度変換回路などを含む映像情報処理回路23や、γ補正回路や色調整回路などを含む画素信号処理回路24や、それらを制御する制御回路25を含む映像信号処理装置である。
【0125】
26は、走査線駆動回路27や変調信号線駆動回路28や固定画素のフラットパネル表示器29を含む表示装置である。
【0126】
また、本発明の動き情報処理装置及び方法やそれを利用したIP変換装置及び方法は、マイクロプロセッサ等で実行されるソフトウエア、或いは電子回路装置のようなハードウエアで実現され、後者の場合には、設計資産として知られるように、他の機能ブロックと論理合成可能なハードウエア記述言語で記述されたデータの形態で流通する。
【0127】
本発明は、上述した各実施形態に限定されるものではなく、本発明の目的を達成する範囲内で、各構成要素が適宜、代替物や均等物への置換されたものも本発明の範囲内である。
【0128】
【発明の効果】
本発明によれば、動画の表示から静止画の表示に切り替わったときには瞬時に静止画としての動き情報を得ることができるので、過去のフィールドにおける参照画素の動き情報を反映させることにより動き情報検出の精度を高めた場合に生じる誤表示という課題を、良好に解決することができる。
【図面の簡単な説明】
【図1】本発明の動き情報処理装置の概要を説明するための模式図である。
【図2】本発明の動き情報処理方法の概要を説明するためのフローチャートである。
【図3】本発明のIP変換処理装置の構成を示すブロック図である。
【図4】インターレース走査方式の映像情報を説明するための模式図である。
【図5】本発明の実施形態1による動き情報処理装置の構成を示すブロック図である。
【図6】本発明に用いられる動き情報管理部の構成を示すブロック図である。
【図7】動き情報管理部の動作を説明するための模式図である。
【図8】画素とその画素の動き情報との関係を説明するための模式図である。
【図9】参考例による動き情報処理装置の構成を示すブロック図である。
【図10】飛び越し走査による動きのある映像情報を示す模式図である。
【図11】図10に示した映像情報から得られる参考例による動き情報を示す模式図である。
【図12】図11に示した動き情報からIP変換され順次走査により再生表示された映像情報を示す模式図である。
【図13】図10に示した映像情報から得られる本発明の一実施形態による動き情報を示す模式図である。
【図14】本発明の実施形態2による動き情報処理装置の構成を示すブロック図である。
【図15】本発明の実施形態3による動き情報処理装置の構成を示すブロック図である。
【図16】画素とその画素の動き情報との関係を説明するための模式図である。
【図17】図10に示した映像情報から得られる本発明の実施形態3による動き情報を示す模式図である。
【図18】本発明の実施形態4による動き情報処理装置の構成を示すブロック図である。
【図19】画素とその画素の動き情報との関係を説明するための模式図である。
【図20】本発明の実施形態5による動き情報処理装置の構成を示すブロック図である。
【図21】本発明の実施形態6による動き情報処理装置の構成を示すブロック図である。
【図22】本発明の一実施形態による映像情報表示装置の構成を示すブロック図である。
【符号の説明】
1、2 フィールド信号記憶部
3 動き情報生成部
4 ライン信号記憶部
5、6 入出力速度変換部
7 加算器
8 除算器
9 補間信号選択部
10 表示信号選択部
11 動き情報判定/管理部
12 動き情報決定/選択部
13 動き情報記憶部
14 動き情報検出部
31 減算器
32 絶対値回路
33 閾値フィルタ回路
34、41、42 ライン動き情報記憶部
36、37 フィールド動き情報記憶部
38、401 OR素子
39 動き情報選択部
40 動き情報管理部
43 入力画素動き情報生成部
44 蓄積動き情報生成部
402、403 フリップフロップ

Claims (8)

  1. 入力された飛び越し走査による画素信号における動き情報を処理する動き情報処理方法であって
    飛び越し走査によるライン上の各画素が動画か静止画かを示す第1の動き情報を出力する出力工程、
    注目nフィールドよりも2フィールド前の過去n−2フィールドにおける各画素の前記第1の動き情報を保持する保持工程、
    前記注目nフィールドと前記過去n−2フィールドにおける同一位置の画素の画素信号の差分情報に基づいて、前記注目nフィールドにおける各画素が動画か静止画かを示す第2の動き情報を検出する検出工程、および
    前記注目フィールドにおける、互いに隣接する複数の画素からなり注目画素を含む領域内に、前記第2の動き情報が動画を示す動画画素が所定数以上存在するか否かを判定する判定工程を有し、
    前記出力工程は、前記判定工程により動画画素が所定数以上存在しないと判定された場合は、前記検出工程により検出された前記注目フィールドにおける前記注目画素の前記第2の動き情報を該注目画素の前記第1の動き情報として出力し、前記判定工程により動画画素が所定数以上存在すると判定された場合は、前記検出工程により検出された前記注目フィールドにおける前記注目画素の前記第2の動き情報と、前記保持工程により保持された前記過去n−2フィールドにおける前記注目画素の前記第1の動き情報とに基づいて、前記注目nフィールドにおける前記注目画素の前記第1の動き情報を決定して出力することを特徴とする動き情報処理方法。
  2. 前記互いに隣接する複数の画素は、水平ライン又は垂直ラインを構成する一部又は全ての画素からなる請求項1記載の動き情報処理方法。
  3. 前記互いに隣接する複数の画素は、隣接する複数の水平ライン又は垂直ラインを構成する一部又は全ての画素からなる請求項1記載の動き情報処理方法。
  4. さらに、前記出力工程により出力された、前記注目nフィールドにおける飛び越し走査によるライン上の画素の前記第1の動き情報に基づいて、前記注目nフィールドにおける飛び越し走査によるラインの間に位置する補間画素の動き情報を生成する補間画素動き情報決定工程を有する請求項1記載の動き情報処理方法。
  5. 飛び越し走査による映像情報を順次走査による映像情報に変換する動き適応型のIP変換方法であって
    さらに、請求項4に記載の動き情報処理方法の前記補間画素動き情報決定工程において生成された前記注目nフィールドにおける前記補間画素の動き情報に基づいて、補間画素の画素信号の補間値を決定する補間値決定工程を有することを特徴とする動き適応型のIP変換方法。
  6. 前記補間値決定工程において、前記補間画素の動き情報が動画を示す場合には、少なくとも前記注目nフィールドにおける前記補間画素に隣接する、前記飛び越し走査によるライン上の画素の画素信号に基づいて、前記注目nフィールドにおける前記補間画素の画素信号の補間値を求め、前記補間画素の動き情報が静止画を示す場合には、少なくとも前記注目nフィールドよりも1フィールド前の過去n−1フィールドにおける前記補間画素と同一位置にある画素の画素信号に基づいて、前記注目nフィールドにおける前記補間画素の画素信号の補間値を求める請求項記載の動き適応型のIP変換方法。
  7. 入力された飛び越し走査による画素信号における動き情報を処理するための動き情報処理装置であって
    飛び越し走査によるライン上の各画素が動画か静止画かを示す第1の動き情報を出力する出力部と、
    注目nフィールドよりも2フィールド前の過去n−2フィールドにおける各画素の前記第1の動き情報を保持する記憶部と、
    前記注目nフィールドと前記過去n−2フィールドにおける同一位置の画素の画素信号の差分情報に基づいて、前記注目nフィールドにおける各画素が動画か静止画かを示す第2の動き情報を検出する検出部と
    記注目フィールドにおける、互いに隣接する複数の画素からなり注目画素を含む領域内に、前記第2の動き情報が動画を示す動画画素が所定数以上存在するか否かを判定する判定部とを備え
    前記出力部は、前記判定部により動画画素が所定数以上存在しないと判定された場合は、前記検出部により検出された前記注目フィールドにおける前記注目画素の前記第2の動き情報を該注目画素の前記第1の動き情報として出力し、前記判定部により動画画素が所定数以上存在すると判定された場合は、前記検出部により検出された前記注目フィールドにおける前記注目画素の前記第2の動き情報と、前記記憶部により保持された前記過去n−2フィールドにおける前記注目画素の前記第1の動き情報とに基づいて、前記注目nフィールドにおける前記注目画素の前記第1の動き情報を決定して出力することを特徴とする動き情報処理装置。
  8. 飛び越し走査による映像情報を順次走査による映像情報に変換する動き適応型のIP変換装置であって
    請求項7に記載の動き情報処理装置と、
    前記出力部から出力された前記第1の動き情報に基づいて、前記注目nフィールドにおける飛び越し走査によるラインの間に位置する補間画素の動き情報を生成する補間画素動き情報決定部と、
    前記動き情報決定部において生成された前記注目nフィールドにおける前記補間画素の動き情報に基づいて、該補間画素の画素信号の補間値を決定する補間値決定部とを備えることを特徴とする動き適応型のIP変換装置。
JP2003160675A 2003-06-05 2003-06-05 動き情報処理装置及び方法 Expired - Fee Related JP4217543B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2003160675A JP4217543B2 (ja) 2003-06-05 2003-06-05 動き情報処理装置及び方法
US10/859,294 US7319491B2 (en) 2003-06-05 2004-06-03 Method and apparatus for processing motion information
EP20040253301 EP1484919A3 (en) 2003-06-05 2004-06-03 Method and apparatus for processing image motion information
CNB2004101005329A CN100355279C (zh) 2003-06-05 2004-06-04 处理运动信息的方法和设备
KR20040041168A KR100629281B1 (ko) 2003-06-05 2004-06-05 움직임정보처리 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003160675A JP4217543B2 (ja) 2003-06-05 2003-06-05 動き情報処理装置及び方法

Publications (3)

Publication Number Publication Date
JP2004364004A JP2004364004A (ja) 2004-12-24
JP2004364004A5 JP2004364004A5 (ja) 2006-07-13
JP4217543B2 true JP4217543B2 (ja) 2009-02-04

Family

ID=33157196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003160675A Expired - Fee Related JP4217543B2 (ja) 2003-06-05 2003-06-05 動き情報処理装置及び方法

Country Status (5)

Country Link
US (1) US7319491B2 (ja)
EP (1) EP1484919A3 (ja)
JP (1) JP4217543B2 (ja)
KR (1) KR100629281B1 (ja)
CN (1) CN100355279C (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4261970B2 (ja) * 2003-04-24 2009-05-13 キヤノン株式会社 映像情報処理装置及び映像情報処理方法
JP4047316B2 (ja) * 2003-09-25 2008-02-13 キヤノン株式会社 フレームレート変換装置、それに用いられる追い越し予測方法、表示制御装置及び映像受信表示装置
JP4641438B2 (ja) * 2004-03-16 2011-03-02 キヤノン株式会社 画素補間装置及び画素補間方法
CN100356404C (zh) * 2004-05-06 2007-12-19 佳能株式会社 图像信号处理电路和图像显示装置
US7405766B1 (en) * 2004-12-20 2008-07-29 Kolorific, Inc. Method and apparatus for per-pixel motion adaptive de-interlacing of interlaced video fields
JP5001684B2 (ja) 2006-09-13 2012-08-15 富士通株式会社 走査変換装置
US7973858B2 (en) * 2006-10-23 2011-07-05 Lsi Corporation Reduced memory and bandwidth motion adaptive video deinterlacing
US8090024B2 (en) * 2007-06-25 2012-01-03 Sigma Designs, Inc. Methods for processing two data frames with scalable data utilization
KR101390173B1 (ko) * 2007-07-25 2014-05-02 삼성전자주식회사 영상처리방법 및 이를 적용한 영상표시장치
US20110090310A1 (en) * 2009-10-19 2011-04-21 Lee Eun Seo Method and apparatus for reproducing adaptive motion effect using schema structure indicating information associated with performance of motion device
CN103049919B (zh) * 2012-12-13 2015-09-02 上海宇航***工程研究所 一种嵌入式目标检测算法
CN114630053B (zh) * 2020-12-11 2023-12-12 青岛海信移动通信技术有限公司 一种hdr图像显示方法及显示设备

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2605013B2 (ja) * 1986-04-09 1997-04-30 株式会社日立製作所 動き適応映像信号処理回路
GB2231226B (en) * 1989-04-27 1993-09-22 Sony Corp Motion dependent video signal processing
US5410356A (en) * 1991-04-19 1995-04-25 Matsushita Electric Industrial Co., Ltd. Scanning-line interpolation apparatus
US5235419A (en) * 1991-10-24 1993-08-10 General Instrument Corporation Adaptive motion compensation using a plurality of motion compensators
US5521644A (en) * 1994-06-30 1996-05-28 Eastman Kodak Company Mechanism for controllably deinterlacing sequential lines of video data field based upon pixel signals associated with four successive interlaced video fields
JPH0832025A (ja) 1994-07-12 1996-02-02 Sumitomo Electric Ind Ltd 保護回路
US5671018A (en) 1995-02-07 1997-09-23 Texas Instruments Incorporated Motion adaptive vertical scaling for interlaced digital image data
KR0176568B1 (ko) * 1996-01-27 1999-05-01 김광호 모션과 공간적인 상관도를 이용한 비월순차 변환장치 및 그 방법
EP0883298A3 (en) * 1997-06-04 2000-03-29 Hitachi, Ltd. Conversion apparatus for image signals and TV receiver
US6141056A (en) * 1997-08-08 2000-10-31 Sharp Laboratories Of America, Inc. System for conversion of interlaced video to progressive video using horizontal displacement
JP3212917B2 (ja) * 1997-08-26 2001-09-25 エヌイーシービューテクノロジー株式会社 走査線補間装置および走査線補間方法
JP3649370B2 (ja) * 1998-02-25 2005-05-18 日本ビクター株式会社 動き補償符号化装置及び動き補償符号化方法
KR100297776B1 (ko) * 1998-06-23 2001-10-26 윤종용 영상신호복호시의움직임정보를이용한3차원신호처리장치
JP2000175159A (ja) 1998-12-03 2000-06-23 Matsushita Electric Ind Co Ltd 映像信号処理装置
JP2001054075A (ja) * 1999-08-06 2001-02-23 Hitachi Ltd 画像信号の動き補償走査変換回路
KR100327395B1 (ko) * 1999-09-03 2002-03-13 구자홍 움직임 보상을 기반으로 하는 격행주사 영상의 디인터레이싱 방법
GB2361372B (en) * 2000-04-07 2004-08-25 Snell & Wilcox Ltd Video signal processing
CA2344615A1 (en) * 2000-09-08 2002-03-08 Jaldi Semiconductor Corp. A method and apparatus for motion adaptive deinterlacing
US7116372B2 (en) * 2000-10-20 2006-10-03 Matsushita Electric Industrial Co., Ltd. Method and apparatus for deinterlacing
JP2006173657A (ja) * 2000-10-25 2006-06-29 Matsushita Electric Ind Co Ltd 映像信号処理回路
US6661464B1 (en) * 2000-11-21 2003-12-09 Dell Products L.P. Dynamic video de-interlacing
US6822691B1 (en) * 2000-12-20 2004-11-23 Samsung Electronics Co., Ltd. Method of detecting motion in an interlaced video sequence utilizing region by region motion information and apparatus for motion detection
US7098957B2 (en) * 2000-12-20 2006-08-29 Samsung Electronics Co., Ltd. Method and apparatus for detecting repetitive motion in an interlaced video sequence apparatus for processing interlaced video signals
JP4806849B2 (ja) * 2001-01-15 2011-11-02 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
US6940557B2 (en) * 2001-02-08 2005-09-06 Micronas Semiconductors, Inc. Adaptive interlace-to-progressive scan conversion algorithm
KR100393066B1 (ko) * 2001-06-11 2003-07-31 삼성전자주식회사 적응 움직임 보상형 디-인터레이싱 장치 및 그 방법
JP3898546B2 (ja) * 2002-03-27 2007-03-28 株式会社東芝 画像走査変換方法及び装置
JP3799288B2 (ja) 2002-04-05 2006-07-19 キヤノン株式会社 受信装置
JP4035408B2 (ja) 2002-09-10 2008-01-23 キヤノン株式会社 解像度変換装置及び方法及び情報処理装置
US7034888B2 (en) * 2003-03-26 2006-04-25 Silicon Integrated Systems Corp. Method for motion pixel detection
JP4261970B2 (ja) * 2003-04-24 2009-05-13 キヤノン株式会社 映像情報処理装置及び映像情報処理方法

Also Published As

Publication number Publication date
EP1484919A3 (en) 2005-04-06
EP1484919A2 (en) 2004-12-08
US7319491B2 (en) 2008-01-15
CN1607827A (zh) 2005-04-20
KR20040105594A (ko) 2004-12-16
US20040246375A1 (en) 2004-12-09
KR100629281B1 (ko) 2006-09-28
CN100355279C (zh) 2007-12-12
JP2004364004A (ja) 2004-12-24

Similar Documents

Publication Publication Date Title
JPH10105142A (ja) インターレース処理されたビデオデータ変換方法および変換システム
JP5177828B2 (ja) 画像レート変換方法及び画像レート変換装置
JP2005318611A (ja) ビデオシーケンスにおけるフィルムモード検出方法、フィルムモード検出器、動き補償方法及び動き補償器
JP4217543B2 (ja) 動き情報処理装置及び方法
EP1646228B1 (en) Image processing apparatus and method
JPH089341A (ja) デジタル出力画像形成方法
JP3855761B2 (ja) 画像信号処理装置及び方法
US8134643B2 (en) Synthesized image detection unit
JP3293561B2 (ja) 画像表示装置及び画像表示方法
KR20060047635A (ko) 필름 모드 표시 결정 방법, 움직임 보상의 화상 처리 수행방법, 필름 모드 검출기 및 움직임 보상기
JP2004208312A (ja) 映像フォーマットの変換装置及びその方法
US8310592B2 (en) Signal processing apparatus, signal processing method, and program for signal processing
JP2005318623A (ja) フィルムモード外挿方法及びフィルムモード検出器並びに動き補償器
JP5241632B2 (ja) 画像処理回路および画像処理方法
KR100692597B1 (ko) 필드 선택이 가능한 영상처리 장치 및 그 방법
JP2003289511A (ja) 画像走査変換方法及び装置
JP4551343B2 (ja) 映像処理装置、及び映像処理方法
US9324131B1 (en) Method and apparatus for motion adaptive deinterlacing with reduced artifacts
JPH03101390A (ja) 画像変換装置及び方法
JP3347234B2 (ja) 液晶表示装置
JP2007019708A (ja) 画像処理装置
JP2000115720A (ja) 走査線補間装置および走査線補間方法
JP2558384B2 (ja) インタレース・ノンインタレース変換方式
JP3018384B2 (ja) ビデオ信号処理回路
JP4222602B2 (ja) 順次走査変換装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060525

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071225

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081021

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081110

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131114

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees