JP3596520B2 - 画像信号処理装置及び方法 - Google Patents

画像信号処理装置及び方法 Download PDF

Info

Publication number
JP3596520B2
JP3596520B2 JP2001380762A JP2001380762A JP3596520B2 JP 3596520 B2 JP3596520 B2 JP 3596520B2 JP 2001380762 A JP2001380762 A JP 2001380762A JP 2001380762 A JP2001380762 A JP 2001380762A JP 3596520 B2 JP3596520 B2 JP 3596520B2
Authority
JP
Japan
Prior art keywords
field
pixel
write
motion vector
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001380762A
Other languages
English (en)
Other versions
JP2003189258A (ja
Inventor
幸治 青山
一彦 西堀
真 近藤
隆也 星野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001380762A priority Critical patent/JP3596520B2/ja
Priority to US10/498,432 priority patent/US7221403B2/en
Priority to EP02790758A priority patent/EP1460847B1/en
Priority to KR1020047009069A priority patent/KR100962742B1/ko
Priority to CNB028250540A priority patent/CN1328907C/zh
Priority to PCT/JP2002/013101 priority patent/WO2003056819A1/ja
Publication of JP2003189258A publication Critical patent/JP2003189258A/ja
Application granted granted Critical
Publication of JP3596520B2 publication Critical patent/JP3596520B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0112Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards corresponding to a cinematograph film standard
    • H04N7/0115Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards corresponding to a cinematograph film standard with details on the detection of a particular field or frame pattern in the incoming video signal, e.g. 3:2 pull-down pattern
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S348/00Television
    • Y10S348/91Flicker reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、倍速変換することにより生成された画像信号の各検出画素の位置をシフトさせる画像信号処理装置及び方法に関する。
【0002】
【従来の技術】
テレビ放送の走査方式としては、従来から水平走査線を1本おきに飛越して走査するインタレース走査方式が最も広く採用されている。このインタレース走査方式では、奇数番目の走査線から構成されるフィールド画像と、偶数番目の走査線から構成されるフィールド画像により1枚のフレーム画像を形成し、画面全体がちらついて見える面フリッカ妨害を抑え、画面品質の劣化を防止する。
【0003】
また、このインタレース走査方式は、世界各国のテレビジョン標準方式として採用されており、このうち例えば欧州のテレビジョン放送におけるPAL(Phase Alternation by Line)方式では、フィールド周波数が50〔Hz〕(フレーム画像が25フレーム/秒、フィールド画像が50フィールド/秒)で構成される。
【0004】
特にこのPAL方式では、更なる面フリッカ妨害の抑制を期すべく、入力画像信号を補間等の処理を行うことにより、フィールド周波数を50Hzから2倍の100Hzの画像信号に変換する、フィールド周波数倍速方式が従来より採用されている。
【0005】
図9は、このフィールド周波数倍速方式を適用したフィールド倍速変換回路5のブロック構成例を示している。このフィールド倍速変換回路5は、入力端子61と、CRT63と、水平垂直偏向回路62とを備えるテレビジョン受像機6に集積化される。このフィールド倍速変換回路5は、倍速変換部51と、フレームメモリ52とを備える。
【0006】
倍速変換部51は、入力端子61から入力された、例えばPAL方式の50フィールド/秒の画像信号を、フレームメモリ52へ書き込む。また、この倍速変換部51は、フレームメモリ52へ書き込んだ画像信号を、書込み時の2倍の速度で読み出す。これにより、50フィールド/秒の画像信号の周波数を2倍に変換し、100フィールド/秒の画像信号を生成することができる。
【0007】
倍速変換部51は、倍速変換した画像信号をCRT63へ出力する。CRT63は、入力された画像信号を画面上に表示する。なお、CRT63における画像信号の水平、垂直の偏向は、水平垂直偏向回路62において生成された、入力画像信号の2倍の周波数の水平垂直鋸歯状波に基づいて制御する。
【0008】
図10は、倍速変換前後の各画像信号における各フィールドと画素位置との関係を示している。ここで横軸は時間、縦軸は画素の垂直方向の位置を示す。また、図10(a)の白丸で示した画像信号は、倍速変換前の50フィールド/秒のインタレース画像信号であり、図10(b)の黒丸で示した画像信号は、倍速変換した100フィールド/秒のインタレース画像信号である。
【0009】
図10(a)に示す画像信号において、フィールドf1とフィールドf2は、フィルムの同一のコマから作成された信号となり、以下同様にフィールドf3とフィールドf4も同一のコマを構成する。これらの画像信号は、インタレース画像信号であるため、隣り合うフィールド間で垂直方向の画素位置が異なる。このため、インタレース性を保ちつつ、各フィールド間に1個ずつのフィールドを新規に生成することはできない。
【0010】
そこで、図10(b)に示すように、フィールドf1とフィールドf2の間に、新規に2枚のフィールドf2´、f1´を生成する。そして、フィールドf2とフィールドf3の間では、フィールドの生成を行わず、フィールドf3とフィールドf4の間に、新規に2枚のフィールドf4´、f3´を生成する。すなわち4フィールド、2フレームで1つのコマを形成する。
【0011】
この新規に生成したフィールドf1´、f2´、・・・は、それぞれの画素値を、各画素の周囲3画素の中間値として、メディアン・フィルタ等を用いて求める場合もある。また、この新規に生成したフィールドf1´、f2´、・・・は、それぞれフィールドf1、f2、・・と同じ内容となる。
【0012】
すなわち、フィールド倍速変換回路5は、倍速変換前の画像信号のフィールド間に2枚のフィールドを新規に生成する部分と全く生成しない部分とを交互に配置することで、単位時間当たりの画面枚数を増やすことができ、上述の面フリッカ妨害を抑えることが可能となる。
【0013】
ところで、24コマ/秒の静止画で構成される映画のフィルムを通常のテレビで見るためには、インターレースのテレビ信号にするために、テレビシネマ変換(以下、テレシネ変換と称する)を行う。このテレシネ変換後の画像信号において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図11に示す。ここで横軸は画像の水平方向における位置、縦軸は時間を示している。図11(a)に示す倍速変換前の画像信号において、フィールドf1、f2は、同一のコマを構成するため、同じ位置に画像が表示される。この画像は、フィールドf3に移行すると水平方向(右方向)へ移動する。フィールドf4は、フィールドf3と同一のコマを構成するため、フィールドf3と同一の位置に表示される。
【0014】
この図11(a)に示すテレシネ変換後の画像信号をフィールド周波数倍速方式により倍速変換すると、図11(b)に示すように、同一のコマを構成するフィールドf1、f2´、f1´、f2で、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドf3、f4´、f3´、f4で同一位置に同一の画像が表示される。
【0015】
また、倍速変換前のテレビジョン信号(以下、TV信号という)において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図12(a)に示す。この図12(a)において、フィールドf1、f2、f3・・・は、それぞれ独立したコマを形成するため、別の位置に画像が表示される。この画像は、フィールドf1から、f2、f3・・・と移行する毎に、水平方向(右方向)へ移動する。
【0016】
この図12(a)に示すテレビ信号の画像信号をフィールド周波数倍速方式により倍速変換すると、図12(b)に示すように、同一のコマを構成するフィールドf1、f2´において、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドf1´、f2において、同一位置に同一の画像が表示される。
【0017】
【発明が解決しようとする課題】
しかしながら、図11(b)に示すように、テレシネ変換後、倍速変換した画像信号において、画像はフィールドf1〜f2まで同じ位置に表示される一方、f2〜f3に移行する場合に大きく水平方向へ移動する。同様にTV信号を倍速変換した画像信号についても、図12(b)に示すように、画像はフィールドf1〜f2´まで同じ位置に表示される一方、f2´〜f1´に移行する場合に大きく水平方向へ移動する。
【0018】
特に出力画像信号は、1/100秒の周期で規則的に各フィールドを構成しているため、画像の動作する時間帯が画像の静止する時間帯と比較して短く、実際にCRTを介して番組を視聴すると画像の動きが不連続に見えるという問題があった。
【0019】
また、例えば水平方向へ画像が移動しながら画素値が変化するような様々な画像のバリエーションにおいても、かかる画像の動きの不連続性を解消する必要があり、特にバッファの容量を削減した構成で実現することが従来より望まれていた。
【0020】
そこで、本発明は、上述したような実情に鑑みて提案されたものであり、倍速変換することにより生成された画像信号において、特に様々な画像のバリエーションにおいても、面フリッカ妨害を抑えつつ、バッファを効率的に使用可能な構成で動きの不連続性を解消することができる画像信号処理装置及び方法を提供することを目的とする。
【0021】
【課題を解決するための手段】
本発明者は、上述した課題を解決するために、各検出画素について演算した画素信号レベルの差分値に基づいて第1のフィールドを特定し、第1のフィールドの後に続くフィールドにおいて、検出画素の位置から動きベクトルのベクトル方向へシフトさせた書込画素位置を算出し、算出した書込画素位置を動きベクトルに対応させて記憶し、記憶した書込画素位置と動きベクトルに応じて各第1のフィールドから読み出した画素データから補間画素データを算出し、算出した補間画素データを書込画素位置へ書き込む画像信号処理装置及び方法を発明した。
【0022】
すなわち本発明を適用した画像信号処理装置は、コマの最初が第1のフィールドで始まる倍速変換された画像信号が入力され、入力された上記画像信号において現フィールドの検出画素と上記現フィールドから1フレーム後のフィールドの同一箇所における検出画素との間で画素信号レベルの差分値を演算し、当該差分値に基づき上記第1のフィールドを特定するシーケンス検出手段と、上記現フィールドの検出画素について上記現フィールドから1フレーム又は2フレーム後のフィールドに対する動きベクトルを検出する動きベクトル検出手段と、上記第1のフィールドの後に続く書込フィールドにおいて上記現フィールドの検出画素の位置から上記動きベクトルのベクトル方向へシフト量が上記第1のフィールドから上記書込フィールドが後続するにつれて上記動きベクトルのベクトル量の範囲内で順次増大するようにシフトさせた書込画素位置を算出する画素位置演算手段と、上記書込フィールド毎に算出した上記書込画素位置を上記動きベクトルに対応させて記憶する記憶手段と、上記書込画素位置と当該書込画素位置に対応させて上記記憶手段へ記憶した動きベクトルに応じて上記書込フィールドの前後にある各第1のフィールドから画素データを読み出し、読み出した上記画素データに基づき補間画素データを算出する画素データ演算手段と、上記書込フィールドにおいて上記画素データ演算手段により算出した補間画素データを上記書込画素位置へ書き込む画像制御手段とを備えることを特徴とする。
【0023】
すなわち本発明を適用した画像信号処理方法は、コマの最初が第1のフィールドで始まる倍速変換された画像信号が入力され、入力された上記画像信号において現フィールドの検出画素と上記現フィールドから1フレーム後のフィールドの同一箇所における検出画素との間で画素信号レベルの差分値を演算し、当該差分値に基づき上記第1のフィールドを特定し、上記現フィールドの検出画素について上記現フィールドから1フレーム又は2フレーム後のフィールドに対する動きベクトルを検出し、上記第1のフィールドの後に続く書込フィールドにおいて上記現フィールドの検出画素の位置から上記動きベクトルのベクトル方向へシフト量が上記第1のフィールドから上記書込フィールドが後続するにつれて上記動きベクトルのベクトル量の範囲内で順次増大するようにシフトさせた書込画素位置を算出し、上記書込フィールド毎に算出した上記書込画素位置を上記動きベクトルに対応させて記憶し、上記書込画素位置と当該書込画素位置に対応させて上記記憶手段へ記憶した動きベクトルに応じて上記書込フィールドの前後にある各第1のフィールドから画素データを読み出し、読み出した上記画素データに基づき補間画素データを算出し、上記書込フィールドにおいて上記画素データ演算手段により算出した補間画素データを上記書込画素位置へ書き込むことを特徴とする。
【0024】
【発明の実施の形態】
以下、本発明を適用した画像信号処理装置及び方法について図面を参照して詳細に説明する。
【0025】
図1は、本発明の第1の実施の形態における画像信号処理装置1のブロック構成図である。画像信号処理装置1は、例えばPAL(Phase Alternation by Line)方式によるテレビジョン受像機に内蔵され、テレシネ変換した画像信号やテレビジョン信号(以下、TV信号という)が入力される。またこの画像信号処理装置1は、図1に示すように、第1の画像メモリ11と、第2の画像メモリ12と、シーケンス検出部13と、データ選択部14と、動きベクトル検出部15と、画像シフト部16とを備えている。
【0026】
第1の画像メモリ11は、テレシネ変換した画像を倍速変換することにより生成された1コマが4フィールドで構成された、例えば100フィールド/秒のインタレース画像データが順次供給される。また、この第1の画像メモリ11は、TV信号を倍速変換することにより生成された1コマが2フィールドで構成された、例えば100フィールド/秒のインタレース画像信号が順次供給される。
【0027】
第1の画像メモリ11は、供給された画像データを、各フィールド単位で、1フレーム分格納する。すなわち、第1の画像メモリ11から出力される画像データは、この第1の画像メモリ11に供給される画像信号より1フレーム後になる。
【0028】
第2の画像メモリ12は、第1の画像メモリ11と同様の内部構成を有し、第1の画像メモリ11から供給された画像データを、各フィールド単位で、1フレーム分格納する。すなわち、第2の画像メモリ12から出力される画像データは、この第2の画像メモリ12に供給される画像データより1フレーム後になり、第1の画像メモリ11に供給される画像データより2フレーム後になる。この第2の画像メモリ12に格納された画像データD1は、動きベクトル検出部15及び画像シフト部16に供給される。
【0029】
シーケンス検出部13は、第1の画像メモリ11に供給される画像データと、第1の画像メモリ11から出力される画像データを検出し、各画素毎に画像信号レベルを比較し、両者間で差分値を演算する。すなわち、このシーケンス検出部13は、画面上の同一箇所における画素の画像信号レベルを、1フレーム間隔で比較する。シーケンス検出部13は、画像信号レベルの差分値の演算結果を画像シフト部15へ送信する。シーケンス検出部13は、上述の如く各フィールドの特定に加え、テレシネ変換された信号か、TV信号かを判別し、当該判別結果を移動量情報としてデータ選択部14及び画像シフト部16へ送信する。
【0030】
データ選択部14は、第1の画像メモリ11に供給される画像データと、第1の画像メモリ11から出力される画像データが入力される。このデータ選択部14は、シーケンス検出部13から受信した判別結果に基づき、供給される画像データのうち一方を選択する。すなわち、シーケンス検出部13によりテレシネ変換された信号であると判別された場合には、第1の画像メモリ11に供給される画像データを選択する。また、シーケンス検出部13によりTV信号であると判別された場合には、第1の画像メモリ11から出力される画像データを選択する。データ選択部14により選択された画像データを以下、画像データD2と称する。データ選択部14は、選択した画像データD2を動きベクトル検出部15へ出力する。
【0031】
なお、データ選択部14として、第1の画像メモリ11から出力される画像データと、第2の画像メモリ12から出力される画像データのどちらか一方を選択する接続形態にも適用可能である。
【0032】
動きベクトル検出部15は、画像データD1と、画像データD2とを検出し、例えばブロックマッチング法に基づき、動きベクトルを検出する。このブロックマッチング法は、画面を所定の画素からなるブロックに分割し、各ブロック単位で相似度を評価することにより動きベクトルを求める方法である。第2の画像メモリ12から出力される画像データD1は、参照フィールドの2フレーム遅延フィールドであり、またデータ選択部14から出力される画像データD2は、参照フィールドそのもの、又は参照フィールドの1フレーム遅延フィールドである。
【0033】
すなわち、動きベクトル検出部15は、画像データD1と画像データD2との間で動きベクトルを検出することにより、参照フィールドと、2フレーム遅延信号間で動きベクトルを検出することができ、また同様に参照フィールドの1フレーム遅延信号と、参照フィールドの2フレーム遅延信号間で動きベクトルを検出することができる。換言すれば、動きベクトルを検出するフィールド間隔をシーケンス検出部13から受信した判別結果に基づき、制御することができる。
【0034】
また、動きベクトル検出部15では、供給される画像データD1と画像データD2に基づき、検出した動きベクトルの誤差情報を含むフラグF1を算出する。例えば、上述のブロックマッチング法によりブロック毎の相似度を評価する際に差分絶対値和を求めるが、かかる演算過程で得られる差分絶対値和、或いは画素毎の差分絶対値に基づき、検出した動きベクトルの誤差値を計算してフラグF1とする。
【0035】
動きベクトル検出部15は、検出した動きベクトルとフラグF1を画像シフト部16へ送信する。
【0036】
画像シフト部16は、画像信号レベルの比較結果を含む移動量情報を、シーケンス検出部13から受信する。また、画像シフト部16は、動きベクトル検出部15が検出した動きベクトル及びフラグF1を受信する。更に画像シフト部16は、第2の画像メモリ12から画像データD1が供給され、またデータ選択部14から画像データD2が供給される。この画像シフト部16は、供給された画像信号における各画素位置を、受信した上記動きベクトルのベクトル量の範囲内で、かつベクトル方向へシフトさせる。この画像シフト部16の内部構成例の詳細については後述する。
【0037】
なお、画像信号処理装置1には、画像信号のフィールド周波数を倍速変換するフィールド倍速変換回路3が集積される場合もある。フィールド倍速変換回路3は、解像度を向上させることにより、面フリッカ妨害を防止すべく集積されるものであり、例えば、PAL方式において、補間等の処理を行うことにより、フィールド周波数が50Hzの画像データを2倍の100Hzの画像データに変換する。
【0038】
フィールド周波数変換回路3は、図1に示すように、テレビジョン受像機に接続された入力端子31と、倍速変換部32と、フレームメモリ33とを備える。
【0039】
倍速変換部32は、テレビジョン受像機から入力端子31を介して入力された、テレシネ変換後の画像データ、またはテレビジョン信号を、フレームメモリ33へ書き込む。また、この倍速変換部32は、フレームメモリ33へ書き込んだ画像データを、書込み時の2倍の速度で読み出す。これにより、例えば、PAL方式の50フィールド/秒の画像信号の周波数を2倍に変換し、100フィールド/秒の画像データを生成することができる。倍速変換部32は、この倍速変換した画像データを画像信号処理装置1へ供給する。
【0040】
次に画像シフト部16の詳細な内部構成例について図2を用いて説明する。画像シフト部16は、シフトバッファ読出制御部161と、シフトバッファ書込制御部162と、シフトバッファ163と、データバッファ読出制御部164と、第1のバッファ165と、第2のバッファ166と、データ演算部167とを備える。
【0041】
シフトバッファ読出制御部161は、動きベクトル検出部15から動きベクトルが送信され、シーケンス検出部13から移動量情報が送信される。シフトバッファ読出制御部161は、この動きベクトルと移動量情報及び内蔵されたアドレス計算用カウンタに基づき、シフトバッファ読出制御信号RS1を生成する。このシフトバッファ読出制御信号RS1は、シーケンシャルにデータを読み出すためのアドレス信号と、イネーブル信号から構成される。例えば、シフトバッファ163がフレームメモリ等で実現される場合において、シフトバッファ読出制御部161は、X座標、Y座標の各アドレス信号を絶対座標として計算する。一方、シフトバッファ163がラインメモリ等の必要最小限のメモリで実現される場合において、シフトバッファ読出制御部161は、X座標、Y座標の各アドレス信号を相対座標として計算する。
【0042】
ここで内蔵されたアドレス計算用カウンタ値においてX座標、Y座標がそれぞれ(CX1、CY1)であり、また供給された動きベクトルにおいて、X座標、Y座標がそれぞれ(VX、VY)であるときに、シフトバッファ読出制御信号RS1のアドレスの番号(SX、SY)は、以下の式で表される。
SX=CX1+(VX×α) (1.1)
SY=CY1+(VY×α) (1.2)
ここでαは移動量情報であり、0以上かつ1以下の数で表現される。このαは、第1のフィールドで最小とし、その後フィールドが続く毎に順次増大する。このαは、テレシネ変換された信号が入力された場合に、第1のフィールドから第4のフィールドまでそれぞれ、0,1/4,2/4,3/4と、またTV信号が入力された場合にも、第1のフィールドから第2のフィールドまで、0,1/2と、線形に増加させていくことも可能である。
【0043】
シフトバッファ読出制御部161は、生成したシフトバッファ読出制御信号RS1をシフトバッファ書込制御部162及びシフトバッファ163へ供給する。
【0044】
シフトバッファ書込制御部162は、動きベクトル検出部15からフラグF1が供給され、またシフトバッファ163からフラグF´が供給され、シフトバッファ読出制御部161から、シフトバッファ読出制御信号RS1が供給される。このシフトバッファ書込制御部162は、フラグFとフラグF´の大小に基づき、書き込み時の優先順位を判定する。さらにこのシフトバッファ書込制御部162は、供給されるシフトバッファ読出制御信号RS1に基づき、書き込みアドレスを求め、当該書き込みアドレスと上述の通り判定した優先順位を、シフトバッファ書込制御信号RS2として、シフトバッファ163へ供給する。
【0045】
シフトバッファ163は、動きベクトル用バッファとフラグ用バッファから構成される。動きベクトル用バッファは、動きベクトルを蓄積・供給するためのバッファであり、フラグ用バッファは、フラグを蓄積・供給するためのバッファである。これらのバッファは、同一の制御信号に基づき、書き込みや読み出しが行われる。ちなみに、このシフトバッファ163は、動きベクトルとフラグのみ格納できれば足りるため、バッファ容量の削減を期待することができる。
【0046】
また、シフトバッファ163は、1フレーム分のデータを蓄積するフレームメモリであっても良いし、動きベクトルの取りうる範囲に従ったラインメモリ等、必要最小限のメモリで構成しても良い。
【0047】
シフトバッファ163は、まずフラグ用バッファの初期化を行う。フラグ用バッファに書き込まれるフラグには、データが書き込まれたか否かを示すマーク情報をも含む。マーク情報は、”NM”と”OK”の2種類で表され、”NM”は、初期化時にデータの書き込みが行われていないことを示し、”OK”は、データが既に書き込まれていることを示す。またシフトバッファ163は、シフトバッファ読出制御信号RS1のイネーブルが有効である場合に、アドレス対応させてシフトバッファ書込制御部162へフラグF´を送信する。また、シフトバッファ163は、シフトバッファ書込制御信号RS2のイネーブルが有効な場合に、アドレス値に従って、動きベクトル、フラグF1を、それぞれ動きベクトル用バッファ、フラグ用バッファに書き込む。更に、このシフトバッファ163は、格納した動きベクトルを番号順に整理し(以下、この番号順に整理した動きベクトルを、移動済動きベクトルという)、また処理フラグF2を順次読み出し、それぞれをデータバッファ制御部161、データ演算部へ供給する。
【0048】
データバッファ読出制御部164は、シフトバッファ163から移動済動きベクトルが供給され、シーケンス検出部13から移動量情報が送信される。データバッファ読出制御部164は、この入力された動きベクトルに基づき、バッファ制御信号S11及びバッファ制御信号S12を演算する。これらの各バッファ制御信号S11,S12は、シーケンシャルにデータを読み出すためのアドレス信号と、イネーブル信号から構成される。例えば、第1のバッファ165、及び第2のバッファ166がフレームメモリ等で実現される場合において、データバッファ読出し制御部161は、X座標、Y座標の各アドレス信号を絶対座標として計算する。一方、第1のバッファ165、及び第2のバッファ166がラインメモリ等の必要最小限のメモリで実現される場合において、データバッファ読出制御部161は、X座標、Y座標の各アドレス信号を相対座標として計算する。
【0049】
データバッファ読出制御部164は、内蔵されたアドレス計算用カウンタの値と動きベクトルに基づいてバッファ制御信号S11を生成する。またデータバッファ読出制御部164は、バッファ制御信号S11と動きベクトルに基づいてバッファ制御信号S12を生成する。
【0050】
例えばTV信号が入力された場合に、バッファ制御信号S11のアドレスにおいて、X座標、Y座標がそれぞれ(AX1,AY1)であり、またバッファ制御信号S12のアドレスにおいて、X座標、Y座標がそれぞれ(AX2,AY2)であり、動きベクトルが(VX,VY)であり、内部のアドレス計算用カウンタ値を(CX´,CY´)とするとき、バッファ制御信号S11のアドレスは、以下の式で表される。
AX1=CX´−INT(VX/2) (2.1)
AY1=CY´−INT(VY/2) (2.2)
ここで関数INTは、小数点以下切り捨てを意味する。
【0051】
また、バッファ制御信号S12のアドレス(AX2,AY2)は以下の式で表される。
AX2=AX1+VX (2.3)
AY2=AY1+VY (2.4)
データバッファ読出制御部164は、これらの計算したアドレスを含むバッファ制御信号S11を第1のバッファ165に供給する。またデータバッファ読出制御部164は、同様に計算したアドレスを含むバッファ制御信号S12を第2のバッファ166に供給する。
【0052】
第1のバッファ165は、第2の画像メモリ12から送信された画像データD1を順次蓄積する。また第1のバッファ165は、供給されたバッファ制御信号S11に応じて蓄積した画像データD1を読み出す。すなわち、この第1のバッファ165は、供給されたバッファ制御信号S11のイネーブルが有効な時に、当該バッファ制御信号S11に含まれるアドレスに従って、第1のバッファ165に蓄積した画像データD1を読み出す。この読み出された画像データD1を以下、シフトデータSD1と称する。第1のバッファ165は、シフトデータSD1をデータ演算部167へ送信する。
【0053】
この第1のバッファ165は、1フレーム分のデータを蓄積するフレームメモリであっても良いし、また動きベクトルの範囲に基づいたラインメモリ等、必要最小限のメモリで構成しても良い。更にこの第1のバッファでは、データの読出しをシーケンシャルに行うため、FIF0メモリ等で実現しても良い。
【0054】
第2のバッファ166は、データ選択部14から送信された画像データD2を順次蓄積する。また第2のバッファ166は、供給されたバッファ制御信号S12に応じて、蓄積した画像データD2を読み出す。すなわち、この第2のバッファ166は、供給されたバッファ制御信号S12のイネーブルが有効な時に、当該バッファ制御信号S12に含まれるアドレスに従って、第2のバッファ166に蓄積した画像データD2を読み出す。この読み出された画像データD2を、以下シフトデータSD2と称する。第2のバッファ166は、シフトデータSD2をデータ演算部167へ送信する。
【0055】
この第2のバッファ166は、1フレーム分のデータを蓄積するフレームメモリであっても良いし、また動きベクトルの範囲に基づくラインメモリ等、必要最小限のメモリで構成しても良い。かかる場合には、ランダムに与えられるアドレスに対応してランダムにデータを読み出すシステムが構築される。
【0056】
データ演算部167は、供給されたシフトデータSD1と、シフトデータSD2に基づき、シフトバッファ163から供給される処理フラグF2を参照しながら補正データH1を算出する。データ演算部167は、演算した補正データH1を順次CRT2へ出力する。
【0057】
なお、この補正データH1は、シフトデータSD1やシフトデータSD2をそのまま出力することによって演算しても良いし、シフトデータSD1とシフトデータSD2の平均値としても良い。更には、動きベクトル等の値を用いて重み付け平均をとる形で移動データM1を算出しても良い。
【0058】
次に、本発明に係る画像信号処理装置1の動作について説明する。
【0059】
図3は、フィールド倍速変換回路3における倍速変換前後の各フィールドと画素位置の関係を示している。ここで横軸は時間、縦軸は画素の垂直方向の位置を示す。
【0060】
倍速変換前の画像データは、PAL方式の50フィールド/秒のインタレース画像であり、図3(a)に示すように、2フィールドで1つのコマを形成する。
【0061】
一方、倍速変換後の画像データは、100フィールド/秒のインタレース画像であるため、図3(b)に示すように、フィールドt1とフィールドt2の間に、新規に2枚のフィールドt2´、t1´を生成する。そして、フィールドt2とフィールドt3の間では、フィールドの生成を行わず、フィールドt3とフィールドt4の間に、新規に2枚のフィールドt4´、t3´を生成する。すなわち、画像データは、4フィールドで1つのコマを形成することとなる。
【0062】
この新規に生成したフィールドt1´、t2´、・・・は、それぞれの画素値を、各画素の周囲3画素の中間値として、メディアン・フィルタ等を用いて求める場合もある。また、この新規に生成したフィールドt1´、t2´、・・・は、それぞれフィールドt1、t2、・・と同じ内容となる。これにより、4フィールドで1つのコマを形成することとなり、単位時間当たりの画面枚数を増やすことで解像度を向上させることができ、面フリッカ妨害を抑制することが可能となる。
【0063】
テレシネ変換後、上述の如き倍速変換された画像データにおいて、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図4に示す。この図4において、横軸は画像の水平方向における位置、縦軸は時間を表している。既にテレシネ変換された画像は、図4に示すように、フィールドt1、t2´、t1´、t2の順で、一定の時間間隔で第1の画像メモリ11に供給され、これらの画像は同一の位置に表示される。またフィールドt3に移行すると画像が水平方向(右方向)に移り、フィールドt3、t4´、t3´、t4の順で第1の画像メモリに供給される。
【0064】
ここで、例えば、第1の画像メモリに供給されるフィールド(以下、参照フィールドと称する)が、フィールドt3である場合には、第2の画像メモリ12から出力される、参照フィールドより2フレーム前のフィールド(以下、2フレーム遅延フィールドと称する)は、フィールドt1となる。
【0065】
また、TV信号を倍速変換した画像データにおいて、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図5に示す。同一のコマを構成するフィールドt1、t2´において、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドt1´、t2において、同一位置に同一の画像が表示される。
【0066】
動きベクトル検出部14は、図4に示すテレシネ変換後、倍速変換された信号につき、参照フィールドと2フレーム遅延フィールド間で、各画素又は各ブロック単位で動きベクトルを検出する。図4に示す例の場合には、動きベクトルのベクトル方向は、2フレーム遅延フィールドを基準として水平方向(右方向)となり、ベクトル量はAとなる。同様に、参照フィールドがt5の場合には、2フレーム遅延フィールドは、t3となり、動きベクトルのベクトル量はBとなる。この手順を繰り返すことにより、2フレーム遅延フィールドを基準とした動きベクトルのベクトル方向とベクトル量を順次求めることができる。動きベクトル検出部14は、この求めた動きベクトルのベクトル量とベクトル方向とを画像シフト部15へ順次送信する。
【0067】
また、動きベクトル検出部は図5に示すTV信号を倍速変換された信号につき、参照フィールドと1フレーム遅延フィールド間で、各画素又は各ブロック単位で動きベクトルを検出する。図5に示す例の場合には、動きベクトルのベクトル方向は、1フレーム遅延フィールドを基準として水平方向(右方向)となり、参照フィールドがt1´のときにベクトル量はCとなる。同様に、参照フィールドがt4´の場合には、1フレーム遅延フィールドは、t1´となり、動きベクトルのベクトル量はDとなる。この手順を繰り返すことにより、1フレーム遅延フィールドを基準とした動きベクトルのベクトル方向とベクトル量を順次求めることができる。動きベクトル検出部74は、この求めた動きベクトルのベクトル量とベクトル方向とを画像シフト部15へ順次送信する。
【0068】
シーケンス検出部13は、参照フィールドと、第1の画像メモリ11から出力される、参照フィールドより1フレーム前のフィールド(以下、1フレーム遅延フィールドと称する)を順次検出し、同一の画素位置における画素信号レベルの差分値をそれぞれ演算する。
【0069】
すなわち、図6に示すように、テレシネ変換画像の場合には、参照フィールドt1´と、1フレーム遅延フィールドt1は、同一のコマを構成するため、例えば画素位置a点における画素信号レベルの差分値は0になる。次に参照フィールドとしてフィールドt2が供給されると、1フレーム遅延フィールドはフィールドt2´となり、a点における画素信号レベルの差分値は同様に0となる。
【0070】
次に参照フィールドとしてフィールドt3が供給されると、1フレーム遅延フィールドはt1´となり、両者はそれぞれ別のコマを形成するため、a点における画素信号レベルの差分値は0以外(以下、1とする)となる。次に参照フィールドとしてt4´が供給されると1フレーム遅延フィールドはフィールドt2となり、a点における画素信号レベルの差分値は、同様に1となる。
【0071】
更に、参照フィールドとしてt3´が供給されると、1フレーム遅延フィールドは、t3となり、両者は同一のコマを形成するため、a点における画素信号レベルの差分値は再び0になる。その後に供給される参照フィールドについても同様の傾向となり、演算した差分値は、4フィールド周期で「0011」の順で繰り返される。従って、このシーケンスを4フィールド単位で検出することにより、各フィールドの前後関係を特定することが可能となる。
【0072】
この傾向を1フレーム遅延フィールドにつき着目すると、差分値は、コマの最初のフィールドから「0011」の順になる。従って、最初に差分値0を算出したとき、検出した1フレーム遅延フィールドを、コマの最初のフィールド(以下、第1のフィールドと称する)として特定する。また差分値0が連続したときには、検出した1フレーム遅延フィールドを第2のフィールドとして特定する。また差分値として最初に1を算出した場合に、検出した1フレーム遅延フィールドを第3のフィールドとして特定する。また、差分値1が連続したときには、検出した1フレーム遅延フィールドを第4のフィールドとして特定する。
【0073】
なお、TV信号が入力された場合においても、各フィールドが第1のフィールド又は第2のフィールドのいずれに該当するか判別する必要あるが、フィールド倍速変換回路3により倍速変換する際に該当するフィールドは判明するため、上述のようなシーケンス検出の必要性は無い。すなわち、倍速変換回路3からTV信号が入力される際には、第1のフィールドと、第2のフィールドが特定されていることになる。
【0074】
図7(a)は、1コマ2フィールドで構成されるTV信号が入力された場合における画像シフト部16の具体的な動作例を一次元のグラフで示している。この図7に示す動作例では、TV信号が入力された場合のものであり、画像データD1は第1のフィールドであり、また画像データD2は、画像データD1よりも1フレーム後の第1のフィールドである。図7(a)において、0から始まる番号は、画素位置を示すアドレスであり、また縦軸は画素値(=画素信号レベル)を表している。
【0075】
本発明では、図7(b)に示すように、この時間的に異なる画像データD1と画像データD2の中間に位置する第2のフィールド(以下、書込フィールドという)に対して、様々な画像のバリエーションにおいても動きがスムーズに見えるように補正データを書き込む。すなわち、この図7(a)に示す例において、左側に凸部がある画像データD1から、中央になだらかな凸部がある画像データD2へ移り変わる際に、全体の動きがスムーズに見えるような画像を、上述の書込フィールドにおいて作成する。
【0076】
図8は、図7(a)に示す画像シフト部16の具体的な動作例を、画素値で表示したものである。図8(a)は、画像シフト部16に入力される画像データD1と画像データD2を表したものであり、番号は、画素位置を示すアドレスである。各画素毎に輝度があることから、供給される画像データD1には、番号ごとに画素値が割り振られる。
【0077】
すなわち、図8(a)に示す動作例において、画像データD1は、番号0〜11のアドレスにおいて、順に100、100、200、・・・・と続く画素値で表される。
【0078】
画像データD1より後に位置する画像データD2は、番号0〜11のアドレスにおいて、順に100、100、100、・・・・と続く画素値で表される。
【0079】
図8(a)に示されている動きベクトルは、この画像データD1と、画像データD2間との間で、各画素毎の画像データD1を基準としたベクトル量を表したものである。例えば、画像データD1において番号1のアドレスにある画素値100の画素は、1フィールド後に位置する画像データD2においても番号1のアドレスに位置している。従って動きベクトルは0である。また、例えば画像データD1において番号2のアドレスにある画素値200の画素は、画像データD2において、番号4のアドレスに移動する。従って動きベクトルは4−2=2より、2となる。ちなみに図7(a)に示す矢印は、この各画素毎の動きベクトルを示したものである。
【0080】
図8(a)に示すフラグF1は、画像データD1の検出画素と、画像データD2における当該検出画素との差分絶対値とした場合の例である。この図8(a)に示す例において、画像データD1において番号2のアドレスにある画素値200の画素は、画像データD2において番号4のアドレスに移動し、画素値は200と変わらないため、差分絶対値は0である。一方、画像データD1において番号7のアドレスにある画素値110の画素は、画像データD2において番号10のアドレスに移動し、画素値は100となるため、差分絶対値は10となる。
【0081】
図8(b)は、シフトバッファ読出制御信号RS1について示している。この図8(b)に示した例では、式(1.1)に基づき、アドレス計算カウンタから、0,1,2、3・・・と、0から1ずつプラスにシフトさせた値をCX1とし、また移動量情報αを1/2とした場合について示している。なお、アドレス計算カウンタの数値CX1は、画像データD1のアドレスを示す番号に対応させて出力している。
【0082】
このシフトバッファ制御信号RS1を生成する際において、例えば、アドレス計算カウンタの番号が2である場合には、図8(a)に基づき、番号2に対応する画素位置の動きベクトルは2であるので、式(1.1)に基づき、2+2×1/2=3より、シフトバッファ読出制御信号RS1の番号は3となる。同様にアドレス計算カウンタの番号が3の場合には、図8(a)に基づき、番号3に対応する動きベクトルは2であるので、式(1.1)に代入して、3+2×1/2=4より、シフトバッファ読出制御信号RS1の番号は4となる。
【0083】
すなわち、この生成されたシフトバッファ読出制御信号RS1の番号は、書込フィールドにおいて、補正データH1を書き込むアドレスの番号を示している。
【0084】
算出したシフトバッファ制御信号RS1のアドレスについて、シフトバッファ163への動きベクトルの書き込み状況を検知するべく、フラグF´を読み出す。このフラグF´は、シフトバッファ163にアクセスされたアドレスにおいて、動きベクトルが書き込まれていない場合には、”NM”が返される。一方、動きベクトルが既に書き込まれたアドレスに対しては、差分絶対値の値が返される。
【0085】
例えば図8(b)に示す例において、シフトバッファ読出制御信号RS1の番号0〜8のアドレスでは、シフトバッファ163からフラグF´を介して、データが書き込まれていない旨が表示される。また、番号9のアドレスにおいては、最初はデータが書き込まれていない旨の”NM”が、次回では差分絶対値が、フラグF´として返されている。すなわちシフトバッファ163の番号9のアドレスには、複数の動きベクトルが書き込まれることを意味している。これは図7(a)において、画像データD2の番号9のアドレスには、画像データD1の番号6並びに番号9に基づく動きベクトルが集中していることからも示される。
【0086】
ここで、フラグF´が”NM”で返されたシフトバッファ163のアドレスには、当該アドレスの番号に応じて動きベクトルが順次書き込まれる。また、フラグF´が数値を持つ場合には、フラグF´と当該アドレスの番号に相当するフラグFとを比較し、数値が小さい方を有効とする。これにより、画像データD1から画像データD2へ移行するまでに誤差の少ない動きベクトルをシフトバッファ163へ書き込むことが可能となり、単一の画素位置に複数の動きベクトルがかかるような、様々なバリエーションの画像についても高精度に動き補正することが可能となる。
【0087】
シフトバッファ書込制御部162は、供給されるフラグF´に基づき、動きベクトルをシフトバッファ163上に書き込むためのアドレスを決定する。例えば、番号9において、フラグFは10であり、またフラグF´は0である。数値の小さいフラグを優先するため、この番号9では、当初に書き込まれた、番号6のアドレスに基づく動きベクトル”3”が、そのままシフトバッファ163に格納され続けることになる。
【0088】
またシフトバッファ書込制御部162は、アドレスに対応する番号と動きベクトルとを関連付けてシフトバッファ書込制御信号RS2とし、これをシフトバッファ163へ書き込む。書き込まれた後のシフトバッファ163には、図8(b)の下段に示すように、各番号のアドレスに対して動きベクトルが格納されることになる。
【0089】
シフトバッファ163に格納された動きベクトルを、アドレスの番号の順に再度整理した結果を図8(c)に示す。また処理フラグF2は、各アドレスにおけるマーク情報を示している。この処理フラグF2において”OK”が出力されている場合には、当該番号のアドレスにデータが書き込まれていることを示し、また”NM”が出力されている場合には、当該番号のアドレスにデータが書き込まれていないことを示している。ちなみに番号2のアドレスには、データが書き込まれていないため、処理フラグF2として”NM”が出力される。
【0090】
このシフトバッファ163から読み出された移動済動きベクトルは、データバッファ読出制御部164へ、処理フラグF2は、データ演算部167へ供給される。
【0091】
データバッファ読出制御部164は、供給された移動済動きベクトルに基づき、上述の式(2.1)〜(2.4)を利用してバッファ制御信号S11、S12を作り出す。例えば、アドレス計算カウンタの値を、シフトバッファ163のアドレスに対応する番号とした場合において、番号3のアドレスでは、図8(c)より、移動済動きベクトルは2であるので、バッファ制御信号S11は、式(2.1)より2となり、またバッファ制御信号S12は、式(2.3)より4となる。また、番号6のアドレスにおいても同様に、移動済動きベクトルは、3であるので、バッファ制御信号S11は、5となり、またバッファ制御信号S12は、8となる。
【0092】
以上の如く算出されたバッファ制御信号S11は、第1のバッファ165に供給され、バッファ制御信号S11の番号に対応するアドレスの画素値が、第1のバッファ165から読み出される。読み出された画素値は、図8(c)中段に示すように、シフトデータSD1としてアドレスに対応付けられ、データ演算部167等に供給されることとなる。
【0093】
同様にバッファ制御信号S12が第2のバッファ166に供給され、バッファ制御信号S12の番号に対応するアドレスの画素値が第2のバッファ166から読み出される。読み出された画素値は、図8(c)中段に示すようにシフトデータSD2としてアドレスに対応付けられ、データ演算部167等に供給されることとなる。
【0094】
図8(c)最下段は、補正データH1を、シフトデータSD1とシフトデータSD2の平均値とした場合について示している。データ演算部167は、送信される処理フラグF2として”OK”が出力されている番号について、対応するシフトデータSD1、SD2に基づき、補正データH1を算出し、また”NM”出力されている番号2のアドレスでは、隣接する番号1のアドレスの画素値をそのままホールドしている。
【0095】
この生成した補正データH1を、各番号のアドレス毎に書込フィールドへ書き込むことにより、図7(a)に示すような画像を作り出すことができる。
【0096】
本発明を適用した画像信号処理装置1は、時間的に異なる画像データ間において、画像の動きをスムーズにできる最適な補正データを書込フィールドへ書き込むため、例えば画像が水平方向へ移動しながら画素値が変化するようなバリエーションの画像においても、画像の動きの不連続性を効率よく解消することができる。
【0097】
また、この画像信号処理装置1は、テレシネ変換した画像信号とTV信号とが双方とも入力される場合において、画像の様々なバリエーションに対応させて、動きの不連続性を効率よく解消することができる。これにより、フィルム信号とTV信号の双方が入力されるテレビジョン受像機に内蔵することができ、また既に販売されたテレビジョン受像機に対して新たに内蔵することにより容易にバージョンアップを図ることも可能となり、汎用性をより高めることも可能となる。
【0098】
更に本発明を適用した画像信号処理装置は、、フラグと動きベクトルのみシフトバッファ163に格納すれば良いため、バッファの容量を大幅に削減でき、より効率的な構成で動きの不連続性を解消することが可能となる。
【0099】
なお、本発明は上述した実施の形態に限定されるものではない。例えば、図2に示す画像シフト部16において、シフトバッファ読出制御部161を除去し、またシフトバッファ読出制御信号RS1、フラグF1、フラグF´を省略し、優先順位を判定しない方式にも適用可能である。この画像シフト部16において、アドレスに書き込むデータが重複する場合には、時間的に後に計算されたデータが、既に書き込まれているデータ上に上書きされることになるが、フラグの読み出し時の制御が不必要になるため、回路を更に簡略化することができる。
【0100】
また、本発明は、PAL方式によるテレビジョン受像機に対して適用される場合に限定されることはなく、例えば、NTSC(National TV System Committee)方式の60フィールド秒(30コマ/秒)のインタレース画像信号が入力されるテレビジョン受像機に対しても適用可能である。また、SECAM方式によるテレビジョン受像機に対しても適用可能である。
【0101】
また、本発明は、テレビジョン受像機に内蔵される場合のみならず、テレビジョン受像機に接続する信号変換器へも内蔵可能である。
【0102】
また、本発明は、インターネットで伝送されるような画像信号をPCなどで表示する場合や、メディアや画像フォーマットを変換するケースにも応用することができる。
【0103】
更に、本発明は、回路等、ハードウェアで実現する形で説明しているが、プロセッサ上でのソフトウェアとしても実現可能であることは勿論である。
【0104】
【発明の効果】
以上詳細に説明したように、本発明を適用した画像信号処理装置及び方法は、各検出画素について演算した画素信号レベルの差分値に基づいて第1のフィールドを特定し、第1のフィールドの後に続くフィールドにおいて、検出画素の位置から動きベクトルのベクトル方向へシフトさせた書込画素位置を算出し、算出した書込画素位置を動きベクトルに対応させて記憶し、記憶した書込画素位置と動きベクトルに応じて各第1のフィールドから読み出した画素データから補間画素データを算出し、算出した補間画素データを書込画素位置へ書き込む。
【0105】
これにより、本発明に係る画像信号処理装置及び方法は、様々な画像のバリエーションにおいても、面フリッカ妨害を抑えつつ、バッファを高効率に使用できる構成で、動きの不連続性を解消することができる。
【図面の簡単な説明】
【図1】本発明を適用した画像信号処理装置のブロック構成図である。
【図2】画像シフト部のブロック構成を示した図である。
【図3】フィールド倍速変換回路における倍速変換前後の各フィールドと画素位置の関係を示した図である。
【図4】テレシネ変換された画像において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図5】TV信号の画像において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図6】シーケンスの検出方法について説明するための図である。
【図7】画像シフト部の動作処理過程を1次元で表示した図である。
【図8】画像シフト部の具体的な動作例を、画素値で表示した図である。
【図9】フィールド周波数倍速方式を適用したフィールド倍速変換回路のブロック構成図である。
【図10】倍速変換前後の各フィールドと画素位置の関係を示した図である。
【図11】水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図12】TV信号が入力される場合において、水平方向へ画像が移動するときの各フィールドと画像位置の関係を示した図である。
【符号の説明】
1 画像信号処理装置、2 CRT、3 フィールド倍速変換回路、11 第1の画像メモリ、12 第2の画像メモリ、13 シーケンス検出部、14 データ選択部、15 動きベクトル検出部、16 画像シフト部、31 入力端子、32 倍速変換部、33 フレームメモリ、161 シフトバッファ読出制御部、162 シフトバッファ書込制御部、163 シフトバッファ、164 データバッファ読出制御部、165 第1のバッファ、166 第2のバッファ、167 データ演算部、

Claims (18)

  1. コマの最初が第1のフィールドで始まる倍速変換された画像信号について、現フィールドの検出画素と、上記現フィールドから1フレーム後のフィールドの同一箇所における検出画素との間で、画素信号レベルの差分値を演算し、当該差分値に基づき上記第1のフィールドを特定するシーケンス検出手段と、
    上記現フィールドの検出画素について、上記現フィールドから1フレーム又は2フレーム後のフィールドに対する動きベクトルを検出する動きベクトル検出手段と、
    上記第1のフィールドの後に続く書込フィールドにおいて、上記現フィールドの検出画素の位置から上記動きベクトルのベクトル方向へ、シフト量が上記第1のフィールドから上記書込フィールドが後続するにつれて上記動きベクトルのベクトル量の範囲内で順次増大するようにシフトさせた書込画素位置を算出する画素位置演算手段と、
    上記書込フィールド毎に算出した上記書込画素位置を、上記動きベクトルに対応させて記憶する記憶手段と、
    上記書込画素位置と、当該書込画素位置に対応させて上記記憶手段へ記憶した動きベクトル、に応じて、上記書込フィールドの前後にある各第1のフィールドから画素データを読み出し、読み出した上記画素データに基づき補間画素データを算出する画素データ演算手段と、
    上記書込フィールドにおいて、上記画素データ演算手段により算出した補間画素データを、上記書込画素位置へ書き込む画像制御手段とを備えること
    を特徴とする画像信号処理装置。
  2. 上記画素データ演算手段は、上記書込フィールドの前に位置する第1のフィールドにおいて、上記書込画素位置から上記動きベクトルの反対方向へ移動させた画素位置にある画素データを読み出し、上記書込フィールドの後に位置する第1のフィールドにおいて、上記書込画素位置から上記動きベクトルの方向へ移動させた画素位置にある画素データを読み出すこと
    を特徴とする請求項1記載の画像信号処理装置。
  3. 上記画素データ演算手段は、テレビジョン信号を倍速変換することにより生成された1コマが2フィールドで構成される画像信号が入力された場合に、上記書込画素位置から移動させる量を、上記動きベクトルのベクトル量を2で割った量とすること
    を特徴とする請求項2記載の画像信号処理装置。
  4. 上記データ演算手段は、上記第1のフィールドから読み出した画素データの平均値を、上記補間画素データとすること
    を特徴とする請求項1記載の画像信号処理装置。
  5. 検出した上記動きベクトルの誤差情報を含むフラグを算出するフラグ演算手段を備え、
    上記画像制御手段は、上記補間画素データを書き込む際の優先順位を、算出した上記フラグに基づき決定すること
    を特徴とする請求項1記載の画像信号処理装置。
  6. 上記フラグ演算手段は、上記現フィールドの検出画素の画素データと、上記現フィールドから1フレーム又は2フレーム後のフィールドにおいて当該検出画素の画素位置から上記動きベクトルのベクトル方向へベクトル量だけシフトさせた画素位置の画素データと、の差分絶対値を上記フラグとして算出すること
    を特徴とする請求項5記載の画像信号処理装置。
  7. 上記画像制御手段は、上記書込フィールドにおいて、上記補間画素データが書き込まれなかった書込画素位置における補間画素データを、当該書込画素位置周辺にある他の書込画素位置における補間画素データに基づき決定すること
    を特徴とする請求項1記載の画像信号処理装置。
  8. 上記画素位置検出手段は、上記第1のフィールドから上記書込フィールドが後続するにつれて、検出した上記動きベクトルのベクトル量を、コマを構成するフィールド数で割った量ずつ、上記シフトさせる量を増加させること
    を特徴とする請求項1記載の画像信号処理装置。
  9. 上記記憶手段は、上記書込フィールド毎に、記憶した上記書込画素位置及び上記動きベクトルを消去すること
    を特徴とする請求項1記載の画像信号処理装置。
  10. コマの最初が第1のフィールドで始まる、倍速変換された画像信号が入力され、
    入力された上記画像信号において、現フィールドの検出画素と、上記現フィールドから1フレーム後のフィールドの同一箇所における検出画素との間で、画素信号レベルの差分値を演算し、当該差分値に基づき上記第1のフィールドを特定し、
    上記現フィールドの検出画素について、上記現フィールドから1フレーム又は2フレーム後のフィールドに対する動きベクトルを検出し、
    上記第1のフィールドの後に続く書込フィールドにおいて、上記現フィールドの検出画素の位置から上記動きベクトルのベクトル方向へ、シフト量が上記第1のフィールドから上記書込フィールドが後続するにつれて上記動きベクトルのベクトル量の範囲内で順次増大するようにシフトさせた書込画素位置を算出し、
    上記書込フィールド毎に算出した上記書込画素位置を、上記動きベクトルに対応させて記憶し、
    上記書込画素位置と、当該書込画素位置に対応させて上記記憶手段へ記憶した動きベクトル、に応じて、上記書込フィールドの前後にある各第1のフィールドから画素データを読み出し、読み出した上記画素データに基づき補間画素データを算出し、
    上記書込フィールドにおいて、上記画素データ演算手段により算出した補間画素データを、上記書込画素位置へ書き込むこと
    を特徴とする画像信号処理方法。
  11. 上記書込フィールドの前に位置する第1のフィールドにおいて、上記書込画素位置から上記動きベクトルの反対方向へ移動させた画素位置にある画素データを読み出し、上記書込フィールドの後に位置する第1のフィールドにおいて、上記書込画素位置から上記動きベクトルの方向へ移動させた画素位置にある画素データを読み出し、読み出した上記画素データに基づき補間画素データを算出すること
    を特徴とする請求項10記載の画像信号処理方法。
  12. テレビジョン信号を倍速変換することにより生成された1コマが2フィールドで構成される画像信号が入力された場合に、上記書込画素位置から移動させる量を、上記動きベクトルのベクトル量を2で割った量とすること
    を特徴とする請求項11記載の画像信号処理方法。
  13. 上記データ演算手段は、上記補間画素データを、上記第1のフィールドから読み出した画素データの平均値とすること
    を特徴とする請求項10記載の画像信号処理方法。
  14. 検出した上記動きベクトルの誤差情報を含むフラグを算出し、 上記補間画素データを書き込む際の優先順位を、算出した上記フラグに基づき決定すること
    を特徴とする請求項10記載の画像信号処理方法。
  15. 上記現フィールドの検出画素の画素データと、上記現フィールドから1フレーム又は2フレーム後のフィールドにおいて当該検出画素の画素位置から上記動きベクトルのベクトル方向へベクトル量だけシフトさせた画素位置の画素データと、の差分絶対値を、上記フラグとして算出すること
    を特徴とする請求項14記載の画像信号処理方法。
  16. 上記書込フィールドにおいて、上記補間画素データが書き込まれなかった書込画素位置における補間画素データを、当該書込画素位置周辺にある他の書込画素位置における補間画素データに基づき決定すること
    を特徴とする請求項10記載の画像信号処理方法。
  17. 上記第1のフィールドから上記書込フィールドが後続するにつれて、検出した上記動きベクトルのベクトル量を、コマを構成するフィールド数で割った量ずつ、上記シフトさせる量を増加させること
    を特徴とする請求項10記載の画像信号処理方法。
  18. 上記書込フィールド毎に、記憶した上記書込画素位置及び上記動きベクトルを消去すること
    を特徴とする請求項10記載の画像信号処理方法。
JP2001380762A 2001-12-13 2001-12-13 画像信号処理装置及び方法 Expired - Fee Related JP3596520B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2001380762A JP3596520B2 (ja) 2001-12-13 2001-12-13 画像信号処理装置及び方法
US10/498,432 US7221403B2 (en) 2001-12-13 2002-12-13 Image signal processing apparatus and processing method
EP02790758A EP1460847B1 (en) 2001-12-13 2002-12-13 Image signal processing apparatus and processing method
KR1020047009069A KR100962742B1 (ko) 2001-12-13 2002-12-13 화상 신호 처리 장치 및 처리 방법
CNB028250540A CN1328907C (zh) 2001-12-13 2002-12-13 图像信号处理装置和方法
PCT/JP2002/013101 WO2003056819A1 (en) 2001-12-13 2002-12-13 Image signal processing apparatus and processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001380762A JP3596520B2 (ja) 2001-12-13 2001-12-13 画像信号処理装置及び方法

Publications (2)

Publication Number Publication Date
JP2003189258A JP2003189258A (ja) 2003-07-04
JP3596520B2 true JP3596520B2 (ja) 2004-12-02

Family

ID=19187251

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001380762A Expired - Fee Related JP3596520B2 (ja) 2001-12-13 2001-12-13 画像信号処理装置及び方法

Country Status (6)

Country Link
US (1) US7221403B2 (ja)
EP (1) EP1460847B1 (ja)
JP (1) JP3596520B2 (ja)
KR (1) KR100962742B1 (ja)
CN (1) CN1328907C (ja)
WO (1) WO2003056819A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3596519B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596521B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596520B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP4375080B2 (ja) * 2004-03-29 2009-12-02 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP4692846B2 (ja) * 2004-04-09 2011-06-01 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
CN100579758C (zh) * 2005-04-08 2010-01-13 陈法胜 高分子胚料填模方法及其装置
TWI347130B (en) * 2006-08-29 2011-08-11 Realtek Semiconductor Corp Method and apparatus for de-interlacing video data through utilizing horizontal motion estimation and horizontal motion compensation
KR100748625B1 (ko) 2006-09-06 2007-08-13 삼성전자주식회사 프레임 레이트 변환장치 및 프레임 레이트 변환방법
JP5040393B2 (ja) * 2007-03-23 2012-10-03 ソニー株式会社 画像処理装置および画像処理方法、プログラム、並びに画像表示装置
WO2008136116A1 (ja) * 2007-04-26 2008-11-13 Pioneer Corporation 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体
US8736759B2 (en) * 2008-08-05 2014-05-27 Mediatek Inc. Methods and related apparatus making effective use of bandwidth of storage device to generate interpolated frames
JP4513913B2 (ja) 2008-08-07 2010-07-28 ソニー株式会社 画像信号処理装置および方法
CN101848318B (zh) * 2009-03-26 2012-10-31 晨星软件研发(深圳)有限公司 影像处理的方法及电路

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126382A (ja) 1984-07-17 1986-02-05 Kokusai Denshin Denwa Co Ltd <Kdd> 動き量を用いた動画像フレ−ムレ−ト変換方式
US4982280A (en) * 1989-07-18 1991-01-01 Yves C. Faroudja Motion sequence pattern detector for video
FR2650718B1 (fr) 1989-08-04 1991-10-04 Europ Rech Electr Lab Dispositif de transformation d'une information de mouvement en un signal de detection de mouvement a la frequence trame et au nombre de lignes souhaites pour un recepteur de television haute definition
JPH04227181A (ja) 1990-09-03 1992-08-17 Philips Gloeilampenfab:Nv 縁部検出装置
US5428399A (en) * 1991-04-15 1995-06-27 Vistek Electronics Limited Method and apparatus for image translation with improved motion compensation
US5410356A (en) * 1991-04-19 1995-04-25 Matsushita Electric Industrial Co., Ltd. Scanning-line interpolation apparatus
FR2678464A1 (fr) * 1991-06-27 1992-12-31 Thomson Csf Procede de conversion du rythme temporel d'une sequence d'images animees.
JPH05137122A (ja) 1991-11-14 1993-06-01 Hitachi Ltd 映像信号の信号処理方法及び回路
EP0574068B1 (en) * 1992-06-11 1999-02-24 Koninklijke Philips Electronics N.V. Apparatus for motion-compensated picture signal interpolation
GB2283385B (en) * 1993-10-26 1998-04-01 Sony Uk Ltd Motion compensated video signal processing
US5398071A (en) * 1993-11-02 1995-03-14 Texas Instruments Incorporated Film-to-video format detection for digital television
US5452011A (en) * 1994-03-14 1995-09-19 Thomson Consumer Electronics, Inc. Method and device for film-mode detection and field elimination
DE69510851T2 (de) 1994-03-30 1999-12-02 Thomson Multimedia Sa Verfahren und Gerät zur Reduzierung von Umwandlungsartefakten
US5563651A (en) * 1994-12-30 1996-10-08 Thomson Consumer Electronics, Inc. Method and apparatus for identifying video fields produced by film sources employing 2-2 and 3-2 pull down sequences
JP3905922B2 (ja) * 1995-04-11 2007-04-18 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像信号処理方法及び装置
JPH09307857A (ja) * 1996-05-17 1997-11-28 Sony Corp 画像信号処理装置及び画像信号処理方法
FR2750558B1 (fr) * 1996-06-28 1998-08-28 Thomson Multimedia Sa Procede d'interpolation de trames pour compatibilite mode film
US5978424A (en) * 1996-11-18 1999-11-02 Zenith Electronics Corporation Frame identification system
MY119346A (en) * 1996-12-24 2005-05-31 Sony Corp Picture processing apparatus and method
JP4083265B2 (ja) * 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
JP3360586B2 (ja) * 1997-11-21 2002-12-24 日本電気株式会社 スキャン変換装置及び方法
JPH11196383A (ja) 1998-01-06 1999-07-21 Sony Corp 映像信号処理装置
JP4092773B2 (ja) * 1998-04-14 2008-05-28 株式会社日立製作所 画像信号のフレーム数変換方法および装置
EP1001353A1 (en) * 1998-11-10 2000-05-17 Sony Corporation Interpolation apparatus and methods and image display apparatus
US6594313B1 (en) * 1998-12-23 2003-07-15 Intel Corporation Increased video playback framerate in low bit-rate video applications
JP3893227B2 (ja) * 1999-03-24 2007-03-14 パイオニア株式会社 走査線補間装置、及び走査線補間方法
JP2001054075A (ja) * 1999-08-06 2001-02-23 Hitachi Ltd 画像信号の動き補償走査変換回路
JP2001169252A (ja) * 1999-12-06 2001-06-22 Victor Co Of Japan Ltd 順次走査変換装置及び方法
JP3611507B2 (ja) * 2000-05-30 2005-01-19 松下電器産業株式会社 動きベクトル検出装置
JP3653450B2 (ja) * 2000-07-17 2005-05-25 三洋電機株式会社 動き検出装置
JP2002171424A (ja) * 2000-11-30 2002-06-14 Nec Corp 動画像処理方法、動画像処理装置および動画像表示装置
JP3855761B2 (ja) * 2001-10-09 2006-12-13 ソニー株式会社 画像信号処理装置及び方法
JP3596520B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596519B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
KR100441509B1 (ko) * 2002-02-25 2004-07-23 삼성전자주식회사 주사포맷변환장치 및 방법
JP2003299040A (ja) * 2002-04-03 2003-10-17 Sony Corp 動きベクトル検出装置及び方法
JP2003339029A (ja) * 2002-05-20 2003-11-28 Sony Corp 動きベクトル補正回路及び方法
EP1513344A4 (en) * 2003-05-16 2009-10-28 Sony Corp DEVICE AND METHOD FOR MOTION CORRECTION

Also Published As

Publication number Publication date
WO2003056819A1 (en) 2003-07-10
KR100962742B1 (ko) 2010-06-09
US7221403B2 (en) 2007-05-22
CN1328907C (zh) 2007-07-25
CN1605197A (zh) 2005-04-06
KR20040065257A (ko) 2004-07-21
EP1460847B1 (en) 2012-02-01
JP2003189258A (ja) 2003-07-04
EP1460847A4 (en) 2008-10-01
US20050012857A1 (en) 2005-01-20
EP1460847A1 (en) 2004-09-22

Similar Documents

Publication Publication Date Title
JP3855761B2 (ja) 画像信号処理装置及び方法
JP3596520B2 (ja) 画像信号処理装置及び方法
US7499102B2 (en) Image processing apparatus using judder-map and method thereof
JP3596519B2 (ja) 画像信号処理装置及び方法
JP3596521B2 (ja) 画像信号処理装置及び方法
JP4565339B2 (ja) 動き補正装置及び方法
JP4131048B2 (ja) 画像情報変換装置、変換方法および画像表示装置
JP2004208312A (ja) 映像フォーマットの変換装置及びその方法
JP5241632B2 (ja) 画像処理回路および画像処理方法
JP4470323B2 (ja) 画像変換装置および方法
JP4337302B2 (ja) 動き補正回路及び方法
JP2007288483A (ja) 画像変換装置
JP2004023673A (ja) 動きベクトル検出装置及び方法、動き補正装置及び方法
JP4078719B2 (ja) 画像情報変換装置、変換方法および画像表示装置
KR100416557B1 (ko) 부분 인터레이스 동영상 재생 방법 및 그 장치
WO2000067480A1 (fr) Dispositif et procede de conversion d&#39;un signal d&#39;image
JPH09258707A (ja) 映像表示方式
JP2000148059A (ja) ライン数変換処理回路およびこれを搭載した表示装置
JP4154768B2 (ja) 画像情報変換装置および画像表示装置
JPH02148978A (ja) 画面拡大装置
JP2004165828A (ja) グラフィックスデータの処理装置
JPH08317345A (ja) 映像表示方法および装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040830

R151 Written notification of patent or utility model registration

Ref document number: 3596520

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080917

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090917

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100917

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110917

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110917

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120917

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120917

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130917

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees