JPWO2008136116A1 - 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体 - Google Patents

内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体 Download PDF

Info

Publication number
JPWO2008136116A1
JPWO2008136116A1 JP2009512847A JP2009512847A JPWO2008136116A1 JP WO2008136116 A1 JPWO2008136116 A1 JP WO2008136116A1 JP 2009512847 A JP2009512847 A JP 2009512847A JP 2009512847 A JP2009512847 A JP 2009512847A JP WO2008136116 A1 JPWO2008136116 A1 JP WO2008136116A1
Authority
JP
Japan
Prior art keywords
frame
interpolation
input
vector
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009512847A
Other languages
English (en)
Inventor
完 池田
完 池田
吉田 浩之
浩之 吉田
篤 松野
篤 松野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Publication of JPWO2008136116A1 publication Critical patent/JPWO2008136116A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)

Abstract

表示装置(100)の内挿フレーム作成制御装置(140)は、入力フレーム毎に動きを検出して、入力映像検出ベクトルとして取得する。この入力映像検出ベクトルVに連続性がある場合に、内挿距離適応ゲインを増やし、連続性がない場合に減らす処理をする。所定の出力フレームの出力同期タイミングとの間隔が最も短くなる入力同期タイミングの入力フレームを認識し、これらの間隔である内挿距離を出力同期タイミングの間隔で除した値を、内挿距離割合として算出する。入力映像検出ベクトルと、内挿距離適応ゲインと、内挿距離認識割合と、周波数比と、を乗じることにより入力映像使用ベクトルを設定し、この入力映像使用ベクトルに基づく動き量の内挿フレームをベクトルフレームレート変換処理部(150)に作成させる。

Description

本発明は、所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体に関する。
従来、複数のフレームからなる入力映像のフレームレートを変換する構成として、以下のようなベクトルフレームレート変換技術が知られている。
すなわち、入力信号のフレームレートおよび出力信号のフレームレートが異なる場合に、入力フレーム間の動きベクトルを取得する。そして、この動きベクトルに基づき入力フレーム間に内挿する内挿フレームを作成して、動画の動きを滑らかにする技術が知られている。
このベクトルフレームレート変換技術では、例えば、図1に示すように、24Hzの入力垂直同期信号に基づき入力される入力フレームF(以下、適宜、a番目の入力フレームを入力フレームFaと称す)からなる入力映像を、60Hzの出力垂直同期信号に基づき出力される複数の出力フレームH(以下、適宜、b番目の出力フレームを出力フレームHbと称す)からなる出力画像にフレームレート変換する際に、入力垂直同期信号の周波数を出力垂直同期信号の周波数で除した値を、周波数比として算出する。ここで、図1に示すような場合、周波数比は、0.4(=24/60=2/5)となる。そして、この周波数比に基づいて、2個の入力フレームFから5個の出力フレームHを作成すると認識する。
出力フレームHを作成する際には、入力フレームFaおよび入力フレームF(a+1)における所定のオブジェクトZの動きを検出できるか否かを判断し、検出できた場合、この動きを(a+1)番目の入力映像検出ベクトルV(a+1)(以下、適宜、入力映像検出ベクトルVと称す)として取得する。
また、所定の出力フレームHの出力同期タイミングとの間隔が最も短くなる入力同期タイミングの入力フレームFを認識するとともに、これら出力同期タイミングおよび入力同期タイミングの間隔を内挿距離として認識する。さらに、この内挿距離を出力同期タイミングの間隔で除した値を、内挿距離割合として算出する。ここで、内挿距離割合は、出力フレームHの出力同期タイミングが前の入力フレームFの入力同期タイミングと近い場合に正の値となり、後ろの入力フレームFの入力同期タイミングと近い場合に負の値となる。また、内挿距離割合は、出力フレームHの出力同期タイミングと入力同期タイミングが等しい入力フレームFが存在する場合、0となる。
そして、内挿距離割合が0の場合、入力フレームFを、出力フレームHとして適用する。
また、内挿距離割合が正の値であり、かつ、入力映像検出ベクトルV(a+1)を取得できた場合、入力映像検出ベクトルV(a+1)に、内挿距離割合と、周波数比と、を乗じてc番目の入力映像使用ベクトルJcを求める。そして、入力フレームFaに対して、オブジェクトZが入力映像使用ベクトルJcに対応する量だけ動いた内挿フレームGcを作成し、出力フレームHとして適用する。一方、内挿距離割合が正の値であり、かつ、入力映像検出ベクトルV(a+1)を取得できない場合、入力フレームFaや入力フレームF(a+1)を、そのまま出力フレームHとして適用する。
さらに、内挿距離割合が負の値であり、かつ、入力映像検出ベクトルV(a+1)を取得できた場合、入力映像検出ベクトルV(a+1)に、内挿距離割合と、周波数比と、を乗じて入力映像使用ベクトルJcを求める。そして、入力映像使用ベクトルJcに基づきオブジェクトZが動いた内挿フレームGcを作成し、出力フレームHとして適用する。一方、内挿距離割合が負の値であり、かつ、入力映像検出ベクトルV(a+1)を取得できない場合、入力フレームFaや入力フレームF(a+1)を、そのまま出力フレームHとして適用する。
例えば、図1に示すように、入力映像検出ベクトルV6,V7,V8,V9を全て取得できた第1の状態の場合、入力フレームF5を、出力フレームH11として適用する。また、入力映像検出ベクトルV6に内挿距離割合である1と、周波数比と、を乗じて入力映像使用ベクトルJ9を求め、入力フレームF5に対して、オブジェクトZが入力映像使用ベクトルJ9に対応する量だけ動いた内挿フレームG9を、出力フレームH12として適用する。さらに、入力映像検出ベクトルV6に内挿距離割合である−0.50と、周波数比と、を乗じて入力映像使用ベクトルJ10を求め、入力フレームF6に対して、オブジェクトZが入力映像使用ベクトルJ10に対応する量だけ動いた内挿フレームG10を、出力フレームH13として適用する。
このような処理により、出力フレームHは、オブジェクトZが入力映像検出ベクトルVに対応するベクトル対応線Tに沿って動くスムース領域となるように、フレームレート変換される。
また、フレームレートを変換する他の構成が知られている(例えば、特許文献1参照)。
この特許文献1に記載のものは、前フレームと前々フレームとの間の平滑後の動き量(以下、過去のフレーム間の動き量と称す)と、現フレームと前フレームとの暫定の動き量(以下、現在のフレーム間の動き量と称す)と、に基づいて、現フレームと前フレームとの間の平滑後の動き量を算出し、この算出した現フレームと前フレームとの間の平滑後の動き量に基づいて、予想画像、つまり内挿フレームを生成し、この内挿フレームを出力画像として出力することによりフレームレートを変換する構成が採られている。
特開2006−304266号公報
しかしながら、上述したようなベクトルフレームレート変換技術では、以下のようなことが考えられる。
すなわち、例えば、図2に示すように、入力映像検出ベクトルV6,V7を取得できず、かつ、入力映像検出ベクトルV8,V9を取得できた第2の状態の場合、入力フレームF5が出力フレームH11,H12として、入力フレームF6が出力フレームH13,H14として、入力フレームF7が出力フレームH15,H16として、それぞれ適用されてしまう。つまり、出力フレームH11〜H15は、オブジェクトZがベクトル対応線Tに沿わずに動く部分を含む非スムース領域となり、出力フレームH16以降は、スムース領域となるようにフレームレート変換されてしまう。ここで、非スムース領域とは、本来、出力フレームHごとに少しずつ変化すべき出力映像が、複数の出力フレームHごとに変化する領域のことである。
さらに、例えば、図3に示すように、入力映像検出ベクトルV7を取得できず、かつ、入力映像検出ベクトルV6,V8,V9を取得できた第3の状態の場合、入力フレームF6が出力フレームH14として、入力フレームF7が出力フレームH15として、それぞれ適用されてしまう。つまり、出力フレームH14〜H16は、非スムース領域となり、出力フレームH11〜H13、および、出力フレームH17以降は、スムース領域となるようにフレームレート変換されてしまう。
このため、図2および図3に示すような場合には、非スムース領域と、スムース領域との差が大きく、不自然な出力映像となってしまうおそれがある。
また、例えば、図4に示すように、終点が入力映像検出ベクトルV8の起点と一致しない異常な入力映像検出ベクトルV7を取得でき、かつ、正常な入力映像検出ベクトルV6、V8,V9を取得できた第4の状態の場合、この異常な入力映像検出ベクトルV7に内挿距離割合を乗じることにより、入力映像使用ベクトルJ11,J12が求められてしまう。そして、オブジェクトZが、入力映像使用ベクトルJ11,J12に対応する量だけ移動し、かつ、入力映像使用ベクトルJ11,J12に対応する量だけサイズが変更された内挿フレームG11,G12が作成され、出力フレームH14,H15として適用されてしまう。
このため、図4に示すような場合には、出力フレームH14,H15は、実際の映像の動きとの誤差が大きい映像破綻領域となり、映像が破綻してしまうおそれがある。
また、特許文献1のような構成では、過去のフレーム間の動き量と、現在のフレーム間の動き量と、に基づいて、内挿フレームを作成するため、過去のフレーム間の動き量および現在のフレーム間の動き量が一次独立であるとき、すなわち平行でないベクトル関係のとき、内挿フレームでの動き量が歪んでしまい、出力映像の実際の動きと合わなくなるおそれがある。
本発明の目的は、フレームレート変換する際に入力フレームの間に内挿される内挿フレームを適切に作成させる内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体を提供することである。
本発明の内挿フレーム作成制御装置は、所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御装置であって、前記入力フレームごとに前記入力フレームにおける動きを動きベクトルとして取得するベクトル取得部と、前記内挿フレームが出力される前記出力同期タイミング、および、この内挿フレームの作成に利用される前記入力フレームの前記入力同期タイミングの間隔を内挿距離として検出する内挿距離検出部と、前記内挿フレームの作成に利用される前記入力フレームおよびこの入力フレームに隣接する前記入力フレームのそれぞれに対応する前記動きベクトルの連続性が所定レベルよりも高い場合、所定値に設定された内挿距離適応ゲインの値を大きくし、前記連続性が前記所定レベルよりも低い場合、前記内挿距離適応ゲインの値を小さくする内挿距離適応ゲイン制御部と、前記内挿距離および前記内挿距離適応ゲインに基づいて、前記内挿フレームの作成に利用される前記入力フレームの前記動きベクトルの大きさを調整して内挿フレームベクトルを設定し、この内挿フレームベクトルに基づく動きに対応する前記内挿フレームを前記内挿フレーム作成部に作成させる内挿フレームベクトル設定部と、を具備したことを特徴とする。
本発明のフレームレート変換装置は、上述した内挿フレーム作成制御装置と、前記入力フレームおよび前記内挿フレーム作成制御装置で設定された前記内挿フレームベクトルに基づいて、前記内挿フレームを作成する内挿フレーム作成部と、この内挿フレーム作成部で作成された前記内挿フレームを前記入力フレームの間に内挿して、フレームレート変換した出力映像を表示部で表示させるセレクタと、を具備したことを特徴とする。
本発明の表示装置は、上述したフレームレート変換装置と、このフレームレート変換装置の制御により前記フレームレートが変換された前記出力映像を表示する表示部と、を具備したことを特徴とする。
本発明の内挿フレーム作成制御方法は、演算手段により、所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御方法であって、前記演算手段は、前記入力フレームごとに前記入力フレームにおける動きを動きベクトルとして取得するベクトル取得工程と、前記内挿フレームが出力される前記出力同期タイミング、および、この内挿フレームの作成に利用される前記入力フレームの前記入力同期タイミングの間隔を内挿距離として検出する内挿距離検出工程と、前記内挿フレームの作成に利用される前記入力フレームおよびこの入力フレームに隣接する前記入力フレームのそれぞれに対応する前記動きベクトルの連続性が所定レベルよりも高い場合、所定値に設定された内挿距離適応ゲインの値を大きくし、前記連続性が前記所定レベルよりも低い場合、前記内挿距離適応ゲインの値を小さくする内挿距離適応ゲイン制御工程と、前記内挿距離および前記内挿距離適応ゲインに基づいて、前記内挿フレームの作成に利用される前記入力フレームの前記動きベクトルの大きさを調整して内挿フレームベクトルを設定し、この内挿フレームベクトルに基づく動きに対応する前記内挿フレームを前記内挿フレーム作成部に作成させる内挿フレームベクトル設定工程と、を実施することを特徴とする。
本発明の内挿フレーム作成制御プログラムは、上述した内挿フレーム作成制御方法を演算手段に実行させることを特徴とする。
本発明の内挿フレーム作成制御プログラムは、演算手段を上述した内挿フレーム作成制御装置として機能させることを特徴とする。
本発明の内挿フレーム作成制御プログラムを記録した記録媒体は、上述した内挿フレーム作成制御プログラムが演算手段にて読取可能に記録されたことを特徴とする。
従来のフレームレート変換技術における入力映像検出ベクトルの取得状態が第1の状態のときのフレームレートの変換状態を示す説明図である。 前記従来のフレームレート変換技術における入力映像検出ベクトルの取得状態が第2の状態のときのフレームレートの変換状態を示す説明図である。 前記従来のフレームレート変換技術における入力映像検出ベクトルの取得状態が第3の状態のときのフレームレートの変換状態を示す説明図である。 前記従来のフレームレート変換技術における入力映像検出ベクトルの取得状態が第4の状態のときのフレームレートの変換状態を示す説明図である。 本発明の第1実施形態および第2実施形態に係る表示装置の概略構成を示すブロック図である。 前記第1実施形態における内挿距離適応ゲイン制御部の概略構成を示すブロック図である。 前記第1,第2実施形態における入力映像検出ベクトルの取得状態が第2の状態のときのフレームレートの変換状態を示す説明図である。 前記第1,第2実施形態における入力映像検出ベクトルの取得状態が第3の状態のときのフレームレートの変換状態を示す説明図である。 前記第1,第2実施形態における入力映像検出ベクトルの取得状態が第4の状態のときのフレームレートの変換状態を示す説明図である。 前記第1,第2実施形態におけるフレームレート変換処理を示すフローチャートである。 前記第1実施形態における内挿距離適応ゲイン制御処理を示すフローチャートである。 前記第2実施形態における内挿距離適応ゲイン制御部の概略構成を示すブロック図である。 前記第2実施形態における内挿距離適応ゲイン制御処理を示すフローチャートである。 本発明の他の実施形態における入力映像検出ベクトルの取得動作を示す説明図である。
符号の説明
100,200…表示装置
110…表示部
120,220…フレームレート変換装置
140,240…演算手段としての内挿フレーム作成制御装置
141…ベクトル取得部
142,242…内挿距離適応ゲイン制御部
143…内挿距離検出部としての内挿距離割合認識部
144,145…内挿フレームベクトル設定部を構成する第1,第2の乗算部
150…内挿フレーム作成部およびセレクタとしてのベクトルフレームレート変換処理部
[第1実施形態]
以下、本発明に係る第1実施形態を図面に基づいて説明する。
この第1実施形態および後述する第2実施形態では、本発明の内挿フレーム作成制御装置を有するフレームレート変換装置を備えた表示装置であって、外部から入力される複数の入力フレームからなる入力映像のフレームレートを変換した出力映像を表示する構成を例示して説明する。
なお、上述した従来技術と同様の構成については、同一の名称および符号を付し説明を省略または簡略にする。
図5は、表示装置の概略構成を示すブロック図である。図6は、内挿距離適応ゲイン制御部の概略構成を示すブロック図である。図7は、入力映像検出ベクトルの取得状態が第2の状態のときのフレームレートの変換状態を示す説明図である。図8は、入力映像検出ベクトルの取得状態が第3の状態のときのフレームレートの変換状態を示す説明図である。図9は、入力映像検出ベクトルの取得状態が第4の状態のときのフレームレートの変換状態を示す説明図である。
〔表示装置の構成〕
図5において、100は表示装置であり、この表示装置100は、表示部110と、フレームレート変換装置120と、などを備えている。
表示部110は、フレームレート変換装置120に接続されている。この表示部110は、フレームレート変換装置120の制御により、フレームレートが変換された出力映像を表示させる。この表示部110としては、例えばPDP(Plasma Display Panel)、液晶パネル、有機EL(Electro Luminescence)パネル、CRT(Cathode-Ray Tube)、FED(Field Emission Display)、電気泳動ディスプレイパネルなどが例示できる。
フレームレート変換装置120は、フレームメモリ130と、演算手段としての内挿フレーム作成制御装置140と、内挿フレーム作成部およびセレクタとしてのベクトルフレームレート変換処理部150と、などを備えている。
フレームメモリ130は、画像信号を出力する画像信号出力部10と、内挿フレーム作成制御装置140と、ベクトルフレームレート変換処理部150と、に接続されている。
このフレームメモリ130は、画像信号出力部10からの画像信号を取得して、この画像信号に基づく入力フレームF(例えば、図7参照)を一時的に蓄積し、内挿フレーム作成制御装置140およびベクトルフレームレート変換処理部150へ適宜出力する。
内挿フレーム作成制御装置140は、ベクトルフレームレート変換処理部150を制御して、フレームレートの変換時に入力フレームF間に内挿される内挿フレームを作成させる。
そして、内挿フレーム作成制御装置140は、各種プログラムとして、ベクトル取得部141と、内挿距離適応ゲイン制御部142と、内挿距離検出部としての内挿距離割合認識部143と、第1の乗算部144と、第2の乗算部145と、などを備えている。
ここで、第1の乗算部144および第2の乗算部145は、本発明の内挿フレームベクトル設定部を構成している。
ベクトル取得部141は、画像信号出力部10と、フレームメモリ130と、内挿距離適応ゲイン制御部142と、第2の乗算部145と、に接続されている。
このベクトル取得部141は、画像信号出力部10からの画像信号に基づく入力フレームF(a+1)と、フレームメモリ130で一時的に蓄積された入力フレームFaと、を取得する。そして、この入力フレームF(a+1),Faの動きを、第1の動きベクトルとしての入力映像検出ベクトルV(a+1)、および、第2の動きベクトルとしての図示しないローカルエリアベクトルとして取得する。
具体的には、ベクトル取得部141は、入力映像検出ベクトルV(a+1)を取得する場合、入力フレームF(a+1)の図示しない外縁から所定距離だけ内側の部分以外の部分で構成される1個の動き検出ブロックを設定する。この動き検出ブロックは、複数に分割された複数のローカルエリアから構成されている。つまり、動き検出ブロックは、第1の数の図示しない画素からなる第1のブロックサイズを有している。
そして、ベクトル取得部141は、入力フレームF(a+1)ごとに、動き検出ブロックにおける動き、つまり入力フレームF(a+1)のほぼ全体における動きを1個の入力映像検出ベクトルV(a+1)として取得して、内挿距離適応ゲイン制御部142および第2の乗算部145へ出力する。
ここで、入力映像検出ベクトルV(a+1)の取得方法としては、例えば特公昭62−62109号公報に記載のような方法(以下、パターンマッチング法と称す)や特開昭62−206980号公報に記載のような方法(以下、反復勾配法と称す)などが例示できる。
すなわち、パターンマッチング法を利用する場合、入力フレームFaに対して、入力フレームF(a+1)の動き検出ブロックと同数の画素を有し互いに異なる方向に位置がずれた複数のブロック(以下、過去ブロックと称す)を設定する。そして、この複数の過去ブロックから動き検出ブロックと最も相関が高いものを検出し、この検出した過去ブロックおよび動き検出ブロックに基づいて、入力映像検出ベクトルV(a+1)を取得する。
また、反復勾配法を利用する場合、動き量を検出する際の初期値として、動き検出ブロックに該当するブロックを含む周辺の複数の過去ブロックにおいてすでに検出されている動きベクトルの候補の中から、入力映像検出ベクトルV(a+1)の検出用として最適なものを初期変位ベクトルとして選択する。そして、動き検出ブロックの真の入力映像検出ベクトルV(a+1)に近い値から演算を開始することにより、勾配法演算の演算回数を少なくして、真の入力映像検出ベクトルV(a+1)を検出する。
また、ベクトル取得部141は、各ローカルエリアにおける動きをローカルエリアベクトルとして取得して、内挿距離適応ゲイン制御部142へ出力する。つまり、第1の数よりも小さい第2の数の画素からなるローカルエリアにおける動きを検出する。
ここで、ローカルエリアベクトルを取得する際には、入力映像検出ベクトルV(a+1)の取得時と同様の処理を実施する。なお、ローカルエリアベクトルの取得処理として、入力映像検出ベクトルV(a+1)の取得時とは異なる処理を適用してもよい。
内挿距離適応ゲイン制御部142は、第1の乗算部144に接続されている。この内挿距離適応ゲイン制御部142は、ベクトル取得部141で取得した入力映像検出ベクトルVの連続性に基づいて、あらかじめ所定値に設定された内挿距離適応ゲイン、例えばあらかじめ1に設定された内挿距離適応ゲインを増減させる。なお、内挿距離適応ゲインの初期設定値としては、1に限らず0あるいは0.5などとしてもよい。
そして、内挿距離適応ゲイン制御部142は、図6に示すように、ベクトル一致度計数部142Aと、制御量生成部142Bと、を備えている。
ベクトル一致度計数部142Aは、ベクトル取得部141と、制御量生成部142Bと、に接続されている。
このベクトル一致度計数部142Aは、ベクトル取得部141で入力映像検出ベクトルVを取得できない場合、入力映像検出ベクトルVの連続性がない、すなわち所定レベルよりも低いと判断する。また、入力映像検出ベクトルVを取得でき、かつ、この入力映像検出ベクトルVと一致するローカルエリアベクトルの数が閾値以上の場合、入力映像検出ベクトルVの連続性がある、すなわち所定レベルよりも高いと判断する。また、入力映像検出ベクトルVと一致するローカルエリアベクトルの数が閾値未満の場合、入力映像検出ベクトルVの連続性がないと判断する。
制御量生成部142Bは、第1の乗算部144に接続されている。
この制御量生成部142Bは、ベクトル一致度計数部142Aで入力映像検出ベクトルVの連続性があると判断され、かつ、内挿距離適応ゲインが1未満に設定されている場合、内挿距離適応ゲインを所定値だけ増やす処理、例えば0.25だけ増やす処理をする。例えば、図7に示すように、入力映像検出ベクトルV8が取得されて連続性があると判断され、かつ、出力フレームH16の出力同期タイミングにおける内挿距離適応ゲインが0に設定されている場合、出力フレームH17,H18に対応する内挿距離適応ゲインを0.25ずつ順次増やす処理をする。
また、制御量生成部142Bは、入力映像検出ベクトルVの連続性がなく、かつ、内挿距離適応ゲインが0よりも大きい値に設定されている場合、内挿距離適応ゲインを所定値だけ減らす処理、例えば0.25だけ減らす処理をする。例えば、図8に示すように、入力映像検出ベクトルV7が取得されていないため連続性がないと判断され、かつ、出力フレームH13に対応する内挿距離適応ゲインが1に設定されている場合、出力フレームH14,H15,H16に対応する内挿距離適応ゲインを0.25ずつ順次減らす処理をする。
さらに、制御量生成部142Bは、連続性があり、かつ、内挿距離適応ゲインが1に設定されている場合、あるいは、連続性がなく、かつ、内挿距離適応ゲインが0に設定されている場合、この内挿距離適応ゲインの設定を維持する。例えば、図7に示すように、入力映像検出ベクトルV6が取得されていないため連続性がないと判断され、かつ、出力フレームH11に対応する内挿距離適応ゲインが0に設定されている場合、出力フレームH12,H13に対応する内挿距離適応ゲインを0で維持する。また、図8に示すように、入力映像検出ベクトルV6が取得されて連続性があると判断され、かつ、出力フレームH11に対応する内挿距離適応ゲインが1に設定されている場合、出力フレームH12,H13に対応する内挿距離適応ゲインを1で維持する。
つまり、制御量生成部142Bは、内挿距離適応ゲインを0以上、1以下となるように増減させる。そして、この増減させた内挿距離適応ゲインを、第1の乗算部144へ出力する。
なお、内挿距離適応ゲインの増減量としては、0.25に限らず0.1や0.5などとしてもよい。また、増やす量と、減らす量と、が異なる状態で増減させてもよい。
内挿距離割合認識部143は、入力フレームFの入力垂直同期信号および出力フレームHの出力垂直同期信号を出力する同期信号出力部20と、第1の乗算部144と、に接続されている。
この内挿距離割合認識部143は、上述した従来のベクトルフレームレート変換技術と同様の処理を実施して、内挿距離に基づく内挿距離割合を算出して認識する。すなわち、所定の出力フレームHの出力同期タイミングとの間隔が最も短くなる入力同期タイミングの入力フレームFを認識し、これらの間隔である内挿距離を出力同期タイミングの間隔で除した値を、内挿距離割合として算出する。例えば、図7、図8、図9に示すように、出力フレームH11,H12間の内挿距離割合を1と算出し、出力フレームH13と、入力フレームF6との間の内挿距離割合を−0.50と算出する。
また、内挿距離割合認識部143は、入力垂直同期信号の周波数を出力垂直同期信号の周波数で除して、周波数比を算出する。例えば、図7に示すように、入力フレームFの周波数が24Hzであり、出力フレームHの周波数が60Hzの場合、周波数比を0.4と算出する。
第1の乗算部144は、図5に示すように、第2の乗算部145に接続されている。
この第1の乗算部144は、内挿距離割合認識部143で認識された内挿距離割合と、内挿距離適応ゲイン制御部142で設定された内挿距離適応ゲインと、を取得する。そして、これらを乗じて、動きベクトル適応ゲインを算出する。例えば、図7に示すように、内挿距離割合が1で、内挿距離適応ゲインが0.25の場合、動きベクトル適応ゲインを0.25と算出する。さらに、第1の乗算部144は、動きベクトル適応ゲインに周波数比を乗じる。
第2の乗算部145は、図5に示すように、ベクトルフレームレート変換処理部150に接続されている。
この第2の乗算部145は、ベクトル取得部141で取得された入力映像検出ベクトルV(a+1)を取得する。また、第1の乗算部144で算出され、周波数比が乗じられた動きベクトル適応ゲインを取得する。そして、これらを乗じて、内挿フレームベクトルとしての入力映像使用ベクトルKc(cは自然数)を設定する。例えば、図7に示すように、出力フレームH18に対応する動きベクトル適応ゲインが−0.25の場合、この−0.25に周波数比0.4が乗じられた値と、入力映像検出ベクトルV8と、を乗じて、入力映像使用ベクトルK14を設定する。
ここで、従来のベクトルフレームレート変換技術では、内挿距離割合の−0.5に周波数比を乗じた値に入力映像検出ベクトルV8を乗じることにより、入力映像使用ベクトルK14よりも大きい入力映像使用ベクトルJ14を設定していた。
つまり、従来、内挿距離割合および周波数比に基づいて、入力映像検出ベクトルV(a+1)の大きさを調整した入力映像使用ベクトルJcを設定していたのに対し、この第1実施形態および後述する第2実施形態では、第1,第2の乗算部144,145にて、内挿距離割合、周波数比および内挿距離適応ゲインに基づいて、入力映像検出ベクトルV(a+1)の大きさを調整した入力映像使用ベクトルKcを設定する。
また、例えば、図8に示すように、出力フレームH14に対応する動きベクトル適応ゲインが0.375であり、かつ、入力映像検出ベクトルV7を取得できていない場合、これらを乗じると0になるため、入力映像使用ベクトルK14を設定しない。
ベクトルフレームレート変換処理部150は、図5に示すように、表示部110に接続されている。
このベクトルフレームレート変換処理部150は、第2の乗算部145で設定された入力映像使用ベクトルKcと、画像信号出力部10およびフレームメモリ130から入力される入力フレームFと、を取得する。そして、出力フレームHの出力同期タイミングと入力同期タイミングが等しい入力フレームFを、出力フレームHとして表示部110で表示させる。例えば、図7に示すように、入力フレームF5,F7,F9を出力フレームH11,H16,H21として表示させる。
さらに、入力映像使用ベクトルKcに基づきオブジェクトZが動いた内挿フレームLcを作成する。例えば、図7に示すように、入力映像使用ベクトルK14に基づきオブジェクトZが動いた内挿フレームL14を作成する。
ここで、従来のベクトルフレームレート変換技術では、入力映像使用ベクトルK14よりも大きい入力映像使用ベクトルJ14に対応してオブジェクトZが動いた内挿フレームG14を作成していた。これにより、内挿フレームL14におけるオブジェクトZの位置は、内挿フレームG14での位置よりも入力フレームF8での位置に近くなる。
そして、ベクトルフレームレート変換処理部150は、この生成した内挿フレームLcを出力フレームHとして表示部110で表示させる。
また、入力映像使用ベクトルKcの大きさが0の場合、出力フレームHの出力同期タイミングと入力同期タイミングが最も近い入力フレームFを、出力フレームHとして表示部110で表示させる。例えば、図7に示すように、入力フレームF5を出力フレームH12として、入力フレームF6を出力フレームH13,H14として表示させる。
このような処理により、図7〜図9に示すように、入力映像検出ベクトルVの取得状態が第2〜第4の状態の場合、入力フレームFからなる入力映像が出力フレームHからなる出力映像にフレームレート変換されて、表示される。
〔表示装置の動作〕
次に、表示装置100の動作として、フレームレート変換処理について説明する。
図10は、フレームレート変換処理を示すフローチャートである。図11は、内挿距離適応ゲイン制御処理を示すフローチャートである。
表示装置100のフレームレート変換装置120は、画像信号出力部10からの画像信号と、同期信号出力部20からの入力垂直同期信号および出力垂直同期信号と、を取得すると、図10に示すように、入力映像検出ベクトルVおよびローカルエリアベクトルを取得する(ステップS101)。この後、入力垂直同期信号および出力垂直同期信号などに基づいて、内挿距離割合を認識する(ステップS102)。そして、入力映像検出ベクトルVの連続性に基づいて、内挿距離適応ゲインの制御をする(ステップS103)。
さらに、内挿距離割合および内挿距離適応ゲインを乗じて、動きベクトル適応ゲインを演算し(ステップS104)、この動きベクトル適応ゲインと、入力フレームと、入力映像検出ベクトルVと、などに基づいて、フレームレート変換処理を実施して(ステップS105)、出力フレームHからなる出力映像を表示部110で表示させる。
一方、ステップS103における内挿距離適応ゲインの制御処理では、フレームレート変換装置120は、図11に示すように、入力映像検出ベクトルVが取得できたか否かを判断する(ステップS201)。このステップS201において、取得できなかったと判断した場合、入力映像検出ベクトルVの連続性がないと判断して、内挿距離適応ゲインを例えば0.25だけ減らす(ステップS202)。ここで、このステップS202において、制御前の内挿距離適応ゲインが0だった場合、−0.25とせずに0を維持する。
一方、ステップS201において、入力映像検出ベクトルVが取得できたと判断した場合、この入力映像検出ベクトルVと一致するローカルエリアベクトルの数が閾値以上か否かを判断する(ステップS203)。
そして、ステップS203において、閾値未満であると判断した場合、入力映像検出ベクトルVの連続性がないと判断して、ステップS202の処理をする。また、ステップS203において、閾値以上であると判断した場合、入力映像検出ベクトルVの連続性があると判断して、内挿距離適応ゲインを例えば0.25だけ増やす(ステップS204)。ここで、このステップS204において、制御前の内挿距離適応ゲインが1だった場合、1.25とせずに1を維持する。
そして、上述したような処理により、図2、図3、図4に示すような入力映像検出ベクトルVの取得状態が第2〜第4の状態の場合における出力映像は、図7、図8、図9に示すようになる。
すなわち、図7に示すように、出力フレームH17,H18,H19として、入力フレームF7,F8に対するオブジェクトZの動き量が、図2に示すような内挿フレームG13,G14,G15よりも小さい内挿フレームL13,L14,L15を適用した出力映像となる。つまり、出力フレームH11〜H15からなる非スムース領域、および、出力フレームH20,H21からなるスムース領域の間に、出力フレームH16〜H19からなり、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さい問題1改善領域が設けられた出力映像となる。
また、図8に示すように、出力フレームH17,H18として、入力フレームF7,F8に対するオブジェクトZの動き量が、図3に示すような内挿フレームG13,G14よりも小さい内挿フレームL13,L14を適用した出力映像となる。つまり、出力フレームH11〜H13からなるスムース領域、および、出力フレームH19〜H21からなるスムース領域の間に、出力フレームH14〜H18からなり、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが徐々に小さくなる問題2改善領域が設けられた出力映像となる。
さらに、図9に示すように、出力フレームH14,H15,H17,H18として、入力フレームF6,F7,F8に対するオブジェクトZの動き量が、図4に示すような内挿フレームG11,G12,G13,G14よりも小さい内挿フレームL11,L12,L13,L14を適用した出力映像となる。つまり、出力フレームH11〜H13からなるスムース領域、および、出力フレームH19〜H21からなるスムース領域の間に、出力フレームH14〜H18からなり、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さく、かつ、出力フレームH14,H15のオブジェクトZのサイズが従来と比べて元のサイズに近い問題3改善領域が設けられた出力映像となる。
〔第1実施形態の作用効果〕
上述したように、上記第1実施形態では、表示装置100の内挿フレーム作成制御装置140は、入力フレームFごとに動きを検出して、入力映像検出ベクトルVとして取得する。そして、この入力映像検出ベクトルVの連続性がある場合に内挿距離適応ゲインを増やし、連続性がない場合に減らす処理をする。所定の出力フレームHの出力同期タイミングおよび所定の入力フレームFの入力同期タイミングの間隔である内挿距離を、出力同期タイミングの間隔で除して内挿距離割合を算出する。そして、この内挿距離認識割合と、入力映像検出ベクトルVと、内挿距離適応ゲインと、周波数比と、を乗じることにより入力映像使用ベクトルKcを設定し、この入力映像使用ベクトルKcに基づく動き量の内挿フレームLcを、ベクトルフレームレート変換処理部150に作成させる。
このため、図7に示すように、非スムース領域およびスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さい問題1改善領域を設けることができる。また、図8に示すように、2個のスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが徐々に小さくなる問題2改善領域を設けることができる。したがって、図2および図3に示すような従来の構成と比べて、オブジェクトZの動きを滑らかにすることができ、自然な出力映像を表示させることができる。
また、図9に示すように、2個のスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さく、かつ、出力フレームH14,H15のオブジェクトZのサイズが従来と比べて元のサイズに近い問題3改善領域を設けることができる。したがって、図4に示すような従来の構成と比べて、実際の映像の動きの誤差を小さくすることができ、映像の破綻が抑制された出力映像を表示させることができる。
さらに、例えば入力フレームF7に基づき内挿フレームLcを作成する際に、この入力フレームF7の動きを表す入力映像検出ベクトルV7のみを用い、過去の動きを表す入力映像検出ベクトルV6を用いない。したがって、入力映像検出ベクトルV6,V7の動き量が一次独立の場合であっても、内挿フレームLcでの動き量を歪ませることがなく、出力映像の実際の動きと合わせることができる。
よって、内挿フレーム作成制御装置140は、ベクトルフレームレート変換処理部150に、適切な内挿フレームLcを作成させることができる。
また、フレームレート変換装置120は、内挿フレーム作成制御装置140で作成された適切な入力映像使用ベクトルKcに基づいて、フレームレートを適切に変換できる。
さらに、表示装置100は、フレームレート変換装置120で適切にフレームレートが変換された出力映像を表示することができ、利用者に自然な出力映像を視認させることができる。
そして、所定の出力フレームHの出力同期タイミングとの間隔が最も短くなる入力同期タイミングの入力フレームFを認識し、これらの間隔である内挿距離に基づいて、内挿距離割合を算出する。つまり、例えば、図7に示すように、出力フレームH18に対応する内挿フレームL14を作成する際に、入力フレームF7ではなく入力フレームF8に基づいて内挿距離割合を算出する。
このため、例えば内挿フレームL14を作成する際に、入力フレームF7に対応する内挿距離割合に基づく入力映像使用ベクトルK14を利用する場合と比べて、入力映像使用ベクトルK14のサイズを小さくできる。つまり、入力フレームF8に対するオブジェクトZの動き量を小さくすることができる。したがって、内挿フレームLc作成時の処理負荷を低減できる。
また、入力フレームFのほぼ全体における動きを1個の入力映像検出ベクトルVとして取得するとともに、入力フレームFを複数に分割して得られるローカルエリアごとの動きをローカルエリアベクトルとして取得する。そして、入力映像検出ベクトルVに一致するローカルエリアベクトルの数が閾値以上の場合に、入力映像検出ベクトルVの連続性があると判断する。
このため、入力映像検出ベクトルVに一致するローカルエリアベクトルの数を認識するだけの単純な演算により、入力映像検出ベクトルVの連続性を判断でき、内挿フレームLc作成時の処理負荷をさらに低減できる。
[第2実施形態]
次に、本発明に係る第2実施形態を図面に基づいて説明する。
この第2実施形態では、内挿距離適応ゲインの制御処理を変更した構成を例示して説明する。
なお、第1実施形態と同一の構成については、同一の名称および符号を付し説明を省略または簡略にする。
図12は、内挿距離適応ゲイン制御部の概略構成を示すブロック図である。
〔表示装置の構成〕
図5において、200は表示装置であり、この表示装置200は、表示部110と、フレームレート変換装置220と、などを備えている。
また、フレームレート変換装置220は、フレームメモリ130と、演算手段としての内挿フレーム作成制御装置240と、ベクトルフレームレート変換処理部150と、などを備えている。
さらに、内挿フレーム作成制御装置240は、各種プログラムとして、ベクトル取得部141と、内挿距離適応ゲイン制御部242と、内挿距離割合認識部143と、第1の乗算部144と、第2の乗算部145と、などを備えている。
内挿距離適応ゲイン制御部242は、図12に示すように、分散量算出部242Aと、制御量生成部142Bと、を備えている。
分散量算出部242Aは、ベクトル取得部141で入力映像検出ベクトルVを取得できない場合、入力映像検出ベクトルVの連続性がないと判断する。また、入力映像検出ベクトルVを取得できた場合、ローカルエリアベクトルの分散を算出する。そして、この分散が閾値以下の場合、入力映像検出ベクトルVの連続性があると判断し、閾値よりも大きい場合、入力映像検出ベクトルVの連続性がないと判断する。
〔表示装置の動作〕
次に、表示装置200の動作として、フレームレート変換処理について説明する。
なお、第1実施形態と同様の動作については、同一の符号を付し説明を省略または簡略にする。
図13は、内挿距離適応ゲイン制御処理を示すフローチャートである。
表示装置200のフレームレート変換装置220は、図10に示すように、ステップS101〜ステップS105の処理を実施する。
そして、ステップS103における内挿距離適応ゲインの制御処理では、フレームレート変換装置220は、図13に示すように、ステップS201の処理を実施して、入力映像検出ベクトルVが取得できなかったと判断した場合、ステップS202の処理をして、内挿距離適応ゲインを例えば0.25だけ適宜減らす。一方、ステップS201において、取得できたと判断した場合、ローカルエリアベクトルの分散が閾値以下か否かを判断する(ステップS301)。
このステップS301において、閾値よりも大きいと判断した場合、ステップS202の処理をする。一方、ステップS301において、閾値以下であると判断した場合、ステップS204の処理をして、内挿距離適応ゲインを例えば0.25だけ適宜増やす。
〔第2実施形態の作用効果〕
上述したように、上記第2実施形態では、第1実施形態と同様の作用効果に加え、以下のような作用効果を奏することができる。
すなわち、内挿フレーム作成制御装置240は、入力映像検出ベクトルVが取得され、かつ、ローカルエリアベクトルの分散が閾値未満の場合に、入力映像検出ベクトルVの連続性があると判断する。
このため、ローカルエリアごとの動きのばらつきが大きい場合に、入力フレームFに対するオブジェクトZの動き量が小さい内挿フレームLcが作成されるので、ばらつき量が最小限に抑えられた内挿フレームLcを作成できる。
[実施形態の変形]
なお、本発明は、上述した第1,第2実施形態に限定されるものではなく、本発明の目的を達成できる範囲で以下に示される変形をも含むものである。
すなわち、例えば、出力フレームH15に対応する内挿フレームL12を作成する際に、同期タイミングが最も短くなる入力フレームF7ではなく、入力フレームF6に基づいて内挿距離割合を算出してもよい。
また、入力映像検出ベクトルVの連続性を判断する際に、入力フレームF全体の入力映像検出ベクトルVと、各ローカルエリアベクトルとの外積に基づいて判断してもよい。入力映像検出ベクトルVとローカルエリアベクトルの方向が一致すれば外積はゼロになり、方向が異なるほど外積は大きくなるからである。
そして、入力フレームFのほぼ全体における動きを1個の入力映像検出ベクトルVとして取得したが、入力フレームFを2個や4個の領域に分割して、それらの領域のそれぞれの入力映像検出ベクトルVを取得して、連続性を判断してもよい。
さらに、以下のような構成としてもよい。
すなわち、動き検出ブロックよりも小さく、かつ、ローカルエリアよりも大きい中間動き検出ブロックにおける動きベクトルを取得する。また、この動きベクトルに基づいて、例えば撮影状態がパンやチルト、ズーム、回転である旨を検出し、この検出した撮影状態に対応する動きベクトルを各ローカルエリアに展開する。そして、この動きベクトルと、入力映像検出ベクトルVあるいはローカルエリアベクトルと、の一致度や外積値などに基づいて、内挿距離適応ゲインを増減させてもよい。
また、例えば、図7に示すように、入力映像検出ベクトルV7が検出できない状態から入力映像検出ベクトルV8が検出できる状態に移行し、内挿距離適応ゲインを増やす際に、出力フレームH16の出力同期タイミングで増やさずに、出力フレームH17の出力同期タイミングで増やしたが、出力フレームH16のタイミングで増やしてもよい。
さらに、図14に示すように、入力映像検出ベクトルVを取得する構成としてもよい。
すなわち、図14に示す構成では、内挿フレーム作成制御装置140,240は、画像信号出力部10から入力フレームE(以下、適宜、f番目に入力される入力フレームを実際入力フレームEfと称す)からなる入力映像を取得する。この入力フレームEは、60Hzの入力垂直同期信号に基づき入力される。また、入力フレームEには、入力フレームE10、E15,E20に対応して入力されるFILMシーケンス開始信号に基づいて、それぞれに対してFILMシーケンスフレーム番号が関連付けられる。
そして、内挿フレーム作成制御装置140,240は、入力フレームE10,E11におけるオブジェクトZの位置が同じであり、入力フレームE12,E13,E14におけるオブジェクトZの位置が同じなので、入力フレームE10,E12が、24Hzの想定入力垂直同期信号に基づいて、入力フレームF5,F6として入力されたと想定する。すなわち、60Hzの同期信号に基づく入力フレームEからなる入力映像を、24Hzの同期信号に基づく入力フレームFからなる入力映像として想定する。この後、この想定した入力映像の入力映像検出ベクトルVに基づいて、上記実施形態と同様にして、例えば図7に示すように、フレームレート変換する構成としてもよい。
つまり、60Hzの同期信号に基づく入力映像を、一度、24Hzの周波数で入力された入力映像と見なし、この24Hzと見なした入力映像を、再度60Hzの出力映像にフレームレート変換する構成としてもよい。
そして、本発明の内挿フレーム作成制御装置やフレームレート変換装置を、表示装置に適用した構成について例示したが、入力映像のフレームレートを変換して表示させるいかなる構成に適用してもよい。例えば、再生装置や記録再生装置に適用してもよい。
また、上述した各機能をプログラムとして構築したが、例えば回路基板などのハードウェアあるいは1つのIC(Integrated Circuit)などの素子にて構成するなどしてもよく、いずれの形態としても利用できる。なお、プログラムや別途記録媒体から読み取らせる構成とすることにより、取扱が容易で、利用の拡大が容易に図れる。
その他、本発明の実施の際の具体的な構造および手順は、本発明の目的を達成できる範囲で他の構造などに適宜変更できる。
[実施形態の効果]
上述したように、上記実施形態では、内挿フレーム作成制御装置140は、入力フレームFごとの動きを入力映像検出ベクトルVとして取得して、この入力映像検出ベクトルVの連続性がある場合に内挿距離適応ゲインを増やし、連続性がない場合に減らす処理をする。そして、所定の出力フレームHの出力同期タイミングおよび所定の入力フレームFの入力同期タイミングの内挿距離に基づき得られる内挿距離割合と、入力映像検出ベクトルVと、内挿距離適応ゲインと、周波数比と、を乗じることにより入力映像使用ベクトルKcを設定し、この入力映像使用ベクトルKcに基づく動き量の内挿フレームLcを、ベクトルフレームレート変換処理部150に作成させる。
このため、図7に示すように、非スムース領域およびスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さい問題1改善領域を設けることができる。また、図8に示すように、2個のスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが徐々に小さくなる問題2改善領域を設けることができる。したがって、図2および図3に示すような従来の構成と比べて、オブジェクトZの動きを滑らかにすることができ、自然な出力映像を表示させることができる。
また、図9に示すように、2個のスムース領域の間に、オブジェクトZの位置がベクトル対応線Tに沿わないがベクトル対応線Tからのずれが非スムース領域よりも小さく、かつ、出力フレームH14,H15のオブジェクトZのサイズが従来と比べて元のサイズに近い問題3改善領域を設けることができる。したがって、図4に示すような従来の構成と比べて、実際の映像の動きの誤差を小さくすることができ、映像の破綻が抑制された出力映像を表示させることができる。
さらに、例えば入力フレームF7に基づき内挿フレームLcを作成する際に、この入力フレームF7の動きを表す入力映像検出ベクトルV7のみを用い、過去の動きを表す入力映像検出ベクトルV6を用いない。したがって、入力映像検出ベクトルV6,V7の動き量が一次独立の場合であっても、内挿フレームLcでの動き量を歪ませることがなく、出力映像の実際の動きと合わせることができる。
よって、内挿フレーム作成制御装置140は、ベクトルフレームレート変換処理部150に、適切な内挿フレームLcを作成させることができる。
また、フレームレート変換装置120は、内挿フレーム作成制御装置140で作成された適切な入力映像使用ベクトルKcに基づいて、フレームレートを適切に変換できる。
さらに、表示装置100は、フレームレート変換装置120で適切にフレームレートが変換された出力映像を表示することができ、利用者に自然な出力映像を視認させることができる。
本発明は、所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体として利用できる。

Claims (10)

  1. 所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御装置であって、
    前記入力フレームごとに前記入力フレームにおける動きを動きベクトルとして取得するベクトル取得部と、
    前記内挿フレームが出力される前記出力同期タイミング、および、この内挿フレームの作成に利用される前記入力フレームの前記入力同期タイミングの間隔を内挿距離として検出する内挿距離検出部と、
    前記内挿フレームの作成に利用される前記入力フレームおよびこの入力フレームに隣接する前記入力フレームのそれぞれに対応する前記動きベクトルの連続性が所定レベルよりも高い場合、所定値に設定された内挿距離適応ゲインの値を大きくし、前記連続性が前記所定レベルよりも低い場合、前記内挿距離適応ゲインの値を小さくする内挿距離適応ゲイン制御部と、
    前記内挿距離および前記内挿距離適応ゲインに基づいて、前記内挿フレームの作成に利用される前記入力フレームの前記動きベクトルの大きさを調整して内挿フレームベクトルを設定し、この内挿フレームベクトルに基づく動きに対応する前記内挿フレームを前記内挿フレーム作成部に作成させる内挿フレームベクトル設定部と、
    を具備したことを特徴とした内挿フレーム作成制御装置。
  2. 請求項1に記載の内挿フレーム作成制御装置であって、
    前記内挿距離検出部は、前記内挿フレームが出力される前記出力同期タイミングとの間隔が最も短くなる前記入力同期タイミングの前記入力フレームが前記内挿フレームの作成に利用されると認識し、この入力フレームの前記入力同期タイミングおよび前記出力同期タイミングの間隔を前記内挿距離として検出し、
    前記内挿フレームベクトル設定部は、前記内挿距離に基づいて、前記動きベクトルの向きを調整して前記内挿フレームベクトルを設定する
    ことを特徴とした内挿フレーム作成制御装置。
  3. 請求項1または請求項2に記載の内挿フレーム作成制御装置であって、
    前記ベクトル取得部は、前記入力フレームごとに第1の数の画素からなる第1のブロックサイズを有する少なくとも1個のブロックにおける動きを第1の前記動きベクトルとして取得するとともに、前記第1の数より小さい第2の数の画素からなる第2のブロックサイズを有する複数のブロックにおける動きを第2の前記動きベクトルとして取得し、
    前記内挿距離適応ゲイン制御部は、前記第1の動きベクトルおよび前記第2の動きベクトルの一致度が所定レベルよりも高い場合に前記連続性が所定レベルよりも高いと判断し、前記一致度が前記所定レベルよりも低い場合に前記連続性が所定レベルよりも低いと判断する
    ことを特徴とした内挿フレーム作成制御装置。
  4. 請求項1または請求項2に記載の内挿フレーム作成制御装置であって、
    前記ベクトル取得部は、前記入力フレームごとに第1の数の画素からなる第1のブロックサイズを有する少なくとも1個のブロックにおける動きを第1の前記動きベクトルとして取得するとともに、前記第1の数より小さい第2の数の画素からなる第2のブロックサイズを有する複数のブロックにおける動きを第2の前記動きベクトルとして取得し、
    前記内挿距離適応ゲイン制御部は、前記第1の動きベクトルが取得され、かつ、前記第2の動きベクトルの分散が閾値よりも小さい場合に前記連続性が所定レベルよりも高いと判断し、前記第1の動きベクトルが取得され、かつ、前記分散が前記閾値よりも大きい場合に前記連続性が所定レベルよりも低いと判断する
    ことを特徴とした内挿フレーム作成制御装置。
  5. 請求項1ないし請求項4のいずれかに記載の内挿フレーム作成制御装置と、
    前記入力フレームおよび前記内挿フレーム作成制御装置で設定された前記内挿フレームベクトルに基づいて、前記内挿フレームを作成する内挿フレーム作成部と、
    この内挿フレーム作成部で作成された前記内挿フレームを前記入力フレームの間に内挿して、フレームレート変換した出力映像を表示部で表示させるセレクタと、
    を具備したことを特徴としたフレームレート変換装置。
  6. 請求項5に記載のフレームレート変換装置と、
    このフレームレート変換装置の制御により前記フレームレートが変換された前記出力映像を表示する表示部と、
    を具備したことを特徴とした表示装置。
  7. 演算手段により、所定の入力周波数の入力画像信号に基づく入力同期タイミングで入力されたと見なすことが可能な複数の入力フレームからなる入力映像を、所定の出力周波数の出力画像信号に基づく出力同期タイミングで出力される前記入力フレームおよび前記入力フレームの間に内挿される内挿フレームからなる出力映像にフレームレート変換する際に、前記内挿フレームを内挿フレーム作成部に作成させる内挿フレーム作成制御方法であって、
    前記演算手段は、
    前記入力フレームごとに前記入力フレームにおける動きを動きベクトルとして取得するベクトル取得工程と、
    前記内挿フレームが出力される前記出力同期タイミング、および、この内挿フレームの作成に利用される前記入力フレームの前記入力同期タイミングの間隔を内挿距離として検出する内挿距離検出工程と、
    前記内挿フレームの作成に利用される前記入力フレームおよびこの入力フレームに隣接する前記入力フレームのそれぞれに対応する前記動きベクトルの連続性が所定レベルよりも高い場合、所定値に設定された内挿距離適応ゲインの値を大きくし、前記連続性が前記所定レベルよりも低い場合、前記内挿距離適応ゲインの値を小さくする内挿距離適応ゲイン制御工程と、
    前記内挿距離および前記内挿距離適応ゲインに基づいて、前記内挿フレームの作成に利用される前記入力フレームの前記動きベクトルの大きさを調整して内挿フレームベクトルを設定し、この内挿フレームベクトルに基づく動きに対応する前記内挿フレームを前記内挿フレーム作成部に作成させる内挿フレームベクトル設定工程と、
    を実施することを特徴とする内挿フレーム作成制御方法。
  8. 請求項7に記載の内挿フレーム作成制御方法を演算手段に実行させる
    ことを特徴とした内挿フレーム作成制御プログラム。
  9. 演算手段を請求項1ないし請求項4のいずれかに記載の内挿フレーム作成制御装置として機能させる
    ことを特徴とした内挿フレーム作成制御プログラム。
  10. 請求項8または請求項9に記載の内挿フレーム作成制御プログラムが演算手段にて読取可能に記録された
    ことを特徴とした内挿フレーム作成制御プログラムを記録した記録媒体。
JP2009512847A 2007-04-26 2007-04-26 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体 Pending JPWO2008136116A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2007/059074 WO2008136116A1 (ja) 2007-04-26 2007-04-26 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体

Publications (1)

Publication Number Publication Date
JPWO2008136116A1 true JPWO2008136116A1 (ja) 2010-07-29

Family

ID=39943238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009512847A Pending JPWO2008136116A1 (ja) 2007-04-26 2007-04-26 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体

Country Status (2)

Country Link
JP (1) JPWO2008136116A1 (ja)
WO (1) WO2008136116A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102939747A (zh) * 2010-04-30 2013-02-20 想象技术有限公司 用于运动补偿的视频内插的方法和装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010046990A1 (ja) * 2008-10-23 2010-04-29 パイオニア株式会社 内挿フレーム生成装置、フレームレート変換装置、表示装置、内挿フレーム生成方法、そのプログラム、および、そのプログラムを記録した記録媒体
WO2010046989A1 (ja) * 2008-10-23 2010-04-29 パイオニア株式会社 フレームレート変換装置、画像処理装置、表示装置、フレームレート変換方法、そのプログラム、および、そのプログラムを記録した記録媒体
JP5192087B2 (ja) * 2009-12-01 2013-05-08 パナソニック株式会社 画像処理装置及び画像処理方法
CN103021007B (zh) 2012-09-04 2016-01-13 小米科技有限责任公司 一种动画播放的方法及装置
CN107846585A (zh) * 2016-09-18 2018-03-27 中兴通讯股份有限公司 一种视频播放流畅度检测方法和装置
CN112203034B (zh) * 2020-09-30 2023-09-08 Oppo广东移动通信有限公司 帧率控制方法、装置以及电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08508138A (ja) * 1992-07-03 1996-08-27 スネル・アンド・ウィルコックス・リミテッド 動き補正を伴う映像信号処理
JPH11513541A (ja) * 1995-09-21 1999-11-16 インノビジョン リミティッド 動作補償補間
JP2000253407A (ja) * 1999-02-26 2000-09-14 Matsushita Electric Ind Co Ltd 動きベクトル検出方法および画像符号化方法
JP2005006275A (ja) * 2002-11-22 2005-01-06 Matsushita Electric Ind Co Ltd 補間フレーム作成装置、補間フレーム作成方法、および補間フレーム作成プログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126382A (ja) * 1984-07-17 1986-02-05 Kokusai Denshin Denwa Co Ltd <Kdd> 動き量を用いた動画像フレ−ムレ−ト変換方式
FR2650718B1 (fr) * 1989-08-04 1991-10-04 Europ Rech Electr Lab Dispositif de transformation d'une information de mouvement en un signal de detection de mouvement a la frequence trame et au nombre de lignes souhaites pour un recepteur de television haute definition
JP3192698B2 (ja) * 1990-09-03 2001-07-30 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動きベクトル評価装置
EP0514012A3 (en) * 1991-04-15 1993-11-18 Vistek Electronics Method and apparatus for the standard conversion of an image signal
FR2678464A1 (fr) * 1991-06-27 1992-12-31 Thomson Csf Procede de conversion du rythme temporel d'une sequence d'images animees.
JPH05137122A (ja) * 1991-11-14 1993-06-01 Hitachi Ltd 映像信号の信号処理方法及び回路
DE69510851T2 (de) * 1994-03-30 1999-12-02 Thomson Multimedia Sa Verfahren und Gerät zur Reduzierung von Umwandlungsartefakten
DE69609028T2 (de) * 1995-04-11 2001-02-22 Koninkl Philips Electronics Nv Bewegungskompensierte bildfrequenzumwandlung
JPH11196383A (ja) * 1998-01-06 1999-07-21 Sony Corp 映像信号処理装置
JP4092773B2 (ja) * 1998-04-14 2008-05-28 株式会社日立製作所 画像信号のフレーム数変換方法および装置
JP2001169252A (ja) * 1999-12-06 2001-06-22 Victor Co Of Japan Ltd 順次走査変換装置及び方法
JP3596521B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596519B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596520B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP2004023673A (ja) * 2002-06-19 2004-01-22 Sony Corp 動きベクトル検出装置及び方法、動き補正装置及び方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08508138A (ja) * 1992-07-03 1996-08-27 スネル・アンド・ウィルコックス・リミテッド 動き補正を伴う映像信号処理
JPH11513541A (ja) * 1995-09-21 1999-11-16 インノビジョン リミティッド 動作補償補間
JP2000253407A (ja) * 1999-02-26 2000-09-14 Matsushita Electric Ind Co Ltd 動きベクトル検出方法および画像符号化方法
JP2005006275A (ja) * 2002-11-22 2005-01-06 Matsushita Electric Ind Co Ltd 補間フレーム作成装置、補間フレーム作成方法、および補間フレーム作成プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102939747A (zh) * 2010-04-30 2013-02-20 想象技术有限公司 用于运动补偿的视频内插的方法和装置

Also Published As

Publication number Publication date
WO2008136116A1 (ja) 2008-11-13

Similar Documents

Publication Publication Date Title
JPWO2008136116A1 (ja) 内挿フレーム作成制御装置、フレームレート変換装置、表示装置、内挿フレーム作成制御方法、そのプログラム、および、そのプログラムを記録した記録媒体
JP4198608B2 (ja) 補間画像生成方法および装置
US20070018934A1 (en) Liquid crystal display apparatus
JP4869049B2 (ja) 補間フレーム画像作成方法および補間フレーム画像作成装置
US8503732B2 (en) Image generating device, static text detecting device and method thereof
JP4431089B2 (ja) 映像補間装置、フレームレート変換装置および映像表示装置
US20070160145A1 (en) Frame rate converter
US20080239144A1 (en) Frame rate conversion device and image display apparatus
US8243801B2 (en) Motion prediction apparatus and motion prediction method
JP2010028472A (ja) 映像信号処理装置及び映像信号処理方法
JP5208381B2 (ja) 動画像フレームレート変換装置および動画像フレームレート変換方法
JP2009239698A (ja) 映像変換装置及び映像変換方法
WO2010046989A1 (ja) フレームレート変換装置、画像処理装置、表示装置、フレームレート変換方法、そのプログラム、および、そのプログラムを記録した記録媒体
JP2008017321A (ja) 画像処理装置及び画像処理方法
US10382782B2 (en) Image frame interpolation apparatus, display apparatus and control method thereof
WO2010046990A1 (ja) 内挿フレーム生成装置、フレームレート変換装置、表示装置、内挿フレーム生成方法、そのプログラム、および、そのプログラムを記録した記録媒体
JP5435242B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP2011250102A (ja) 画像処理装置およびその制御方法
US8279340B2 (en) Image signal processing apparatus and method thereof
JP2012138646A (ja) 映像処理装置及び映像処理方法
US8135069B2 (en) Frame rate conversion method using motion interpolation
JP4354799B2 (ja) 補間画像生成方法および装置
JP5325671B2 (ja) 画像処理装置、表示装置および画像処理方法
WO2020075649A1 (ja) 補間フレーム生成装置及び方法
US8913794B2 (en) Image processing apparatus, image processing method, and medium

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121204