JPH10155149A - フレームレート変換方式、及びフレームレート変換装置 - Google Patents

フレームレート変換方式、及びフレームレート変換装置

Info

Publication number
JPH10155149A
JPH10155149A JP31330496A JP31330496A JPH10155149A JP H10155149 A JPH10155149 A JP H10155149A JP 31330496 A JP31330496 A JP 31330496A JP 31330496 A JP31330496 A JP 31330496A JP H10155149 A JPH10155149 A JP H10155149A
Authority
JP
Japan
Prior art keywords
frame
frame rate
image data
orthogonal transform
motion compensation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP31330496A
Other languages
English (en)
Inventor
Yoshitaka Arase
吉隆 荒瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP31330496A priority Critical patent/JPH10155149A/ja
Publication of JPH10155149A publication Critical patent/JPH10155149A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Communication Control (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 端末の処理能力に合わせたフレームレート変
換を行うこと、および動き補償を伴うブロックを含むハ
イブリッド符号化された画像データの高速で負荷の少な
いフレームレート変換を行うこと。 【解決手段】 入力された動き補償を伴うブロックを含
むハイブリッド符号化された画像データを、逆直交変
換、動き検出、直交変換を行わず、複数枚のフレームを
1枚に合成して、端末の処理能力に合わせたフレーム数
の動き補償を伴わないブロックとフレーム内符号化され
たブロックのハイブリッド符号化された画像データに変
換し出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ビデオ会議や動画
像伝送を行うにあたり、勧告H.261などを用い、処
理能力の異なる端末間でハイブリッド符号化された画像
データを伝送する際、または伝送速度の異なる通信回線
を中継しハイブリッド符号化された画像データを伝送す
る際、または処理能力が異なる端末間で伝送速度の異な
る通信回線を中継しハイブリッド符号化された画像デー
タを伝送する際のフレームレート変換方式、および動き
補償を伴うフレーム間予測誤差に対して直交変換を行う
ハイブリッド符号化されたデータが含まれる画像データ
のフレームレート変換方式、および動き補償を伴うフレ
ーム間予測誤差に対して直交変換を行うハイブリッド符
号化されたデータが含まれる画像データのフレームレー
ト変換方式を利用した処理能力の異なる端末間でハイブ
リッド符号化された画像データを伝送する際、または伝
送速度の異なる通信回線を中継しハイブリッド符号化さ
れた画像データを伝送する際、または処理能力が異なる
端末間で、伝送速度の異なる通信回線を中継しハイブリ
ッド符号化された画像データを伝送する際のフレームレ
ート変換方式、およびフレームレート変換装置に関する
ものである。
【0002】
【従来の技術】従来のフレームレート変換装置について
図面を参照しながら説明する。図20は、従来のフレー
ムレート変換方式(装置)の構成を示すブロック図であ
る。図20において、821,825は端末、822は
端末821に接続されている、伝送速度の速い通信回
線、824は端末825に接続されている、伝送速度の
遅い通信回線、823は、上記伝送速度の速い通信回線
822と上記伝送速度の遅い通信回線824との間に設
けられた従来のフレームレート変換装置であるフレーム
レート変換部である。
【0003】次に動作について説明する。図20におい
て、フレームレート変換装置は、端末821から出力さ
れたフレームレートの高いハイブリッド符号化された画
像データを実時間で端末825に伝送するために、フレ
ームレート変換部823は、速い通信回線822上の、
フレームレートの高いハイブリッド符号化された画像デ
ータをフレームレート変換し、遅い通信回線824上に
フレームレートの低いハイブリッド符号化された画像デ
ータとして出力していた。
【0004】また、動き補償を伴うフレーム間予測誤差
に対して、直交変換を行うハイブリッド符号化された画
像データのフレームレート変換方法として、例えば、特
開平7−50834号公報に示されるレート変換画像符
号化装置において、可変長復号器、及び可変長符号器を
追加した構成の装置によるフレームレート変換方法を例
に挙げて、以下、図面を参照しながら説明する。
【0005】図10は上記特開平7−50834号公報
のレート変換画像符号化装置において可変長復号器、可
変長符号器を追加した構成のレート変換画像符号化装置
を示すものである。
【0006】図10において、901は画像データの入
力、902は入力された画像データを復号化する可変長
復号化手段、903は復号化されたデータを逆量子化す
る逆量子化手段、919は逆量子化手段903の出力と
画像メモリ920から出力されたデータとを加算する加
算手段、921,922はセレクタ、923は逆直交変
換手段、924は加算手段、925は画像メモリ、92
6は画像メモリ925から出力される画像メモリを入力
とするループ内フィルタ手段、927はセレクタ、92
8は減算手段、930は直交変換手段、931はセレク
タ、914は量子化手段、932は逆量子化手段、93
3は逆直交変換手段、934は加算手段、935は画像
メモリ、936はループ内フィルタ手段、937はセレ
クタ、938は動き検出手段、939は符号化制御手
段、917は可変長符号化手段、918は出力である。
【0007】次に動作について説明する。図10におい
て、入力901より入力された、フレームレートの高い
動き補償を伴うフレームのレート変換を行うには、ま
ず、ハイブリッド符号化された画像データを、可変長復
号化手段902により可変長復号化し、量子化された動
き補償を伴う予測誤差直交変換データに変換し、続い
て、逆量子化手段903によって逆量子化して動き補償
を伴う予測誤差直交変換データに変換する。
【0008】そして、上記予測誤差直交変換データは、
セレクタ922により選択され、逆直交変換手段923
により逆直交変換されて動き補償を伴う予測誤差データ
に変換され、加算手段924において、セレクタ927
にて選択されたループ内フィルタ手段926を経由した
画像メモリ925と加算されて係数(画素データ)に変
換される。
【0009】そして、加算手段924より出力された係
数(画素データ)と画像メモリ935上の係数(画素デ
ータ)とを用いて、動き検出手段938は、動き検出を
行って動きベクトルを求め、減算手段928により、加
算手段924より出力された係数(画素データ)から、
動きベクトルを考慮した画像メモリ935をループ内フ
ィルタ手段936を経由させた後に減算し、動き補償を
伴う予測誤差データに変換する。
【0010】そして、上記得られた動き補償を伴う予測
誤差データは、直交変換手段930により直交変換され
て、動き補償を伴う予測誤差直交変換データに変換さ
れ、セレクタ931により選択され、後段の量子化手段
914により量子化されて、量子化された動き補償を伴
う予測誤差直交変換データに変換され、続いて、可変長
符号化手段917により可変長符号化され、ハイブリッ
ド符号化された画像データに変換され、出力918より
フレームレートの低い動き補償を伴うフレームとして出
力される。
【0011】また、フレームレートの高いハイブリッド
符号化された画像データがフレーム内符号化された画像
データのみであれば、逆直交変換,動き検出,直交変換
などの途中の処理を省くことができるが、動き補償を伴
うブロックが1つでも含まれていれば、動きベクトルを
検出する必要が生じるため、上記の処理を全て行う必要
があった。
【0012】上述のように構成されたフレームレート変
換装置では、フレームレートを変換する際に、通信回線
の伝送速度を基準として変換を行っていた。すなわち、
図20において、例えば、端末821が30fpsのエ
ンコード能力を有し、端末825が5fpsのデコード
能力を有し、通信回線822が30fpsの伝送能力を
有し、通信回線824が15fpsの伝送能力を有する
とする。この時、フレームレート変換装置(変換部82
3)では、30fpsのフレームを15fpsになるよ
うに変換していた。
【0013】このため、通信回線824上には15fp
sのハイブリッド符号化された画像データが伝送される
ことになるが、端末825は5fpsの速度でしかデコ
ードできないために、5fpsの速度でしか画像を表示
することができない。このことから、デコードされない
不要なハイブリッド符号化された画像データが通信回線
824上を伝送されていたことが分かる。従って、フレ
ームレート変換部823の後段の通信回線824の使用
効率が悪くなる。
【0014】さらに、上記から分かるように、動き補償
を伴うフレーム、および動き補償を伴うブロックを含む
フレームのレート変換を行うためには、ハイブリッド符
号化されたデータの復号化と、係数(画素データ)の符
号化のための全てのプロセスを実行する必要があり、変
換に時間と負荷がかかっていた。
【0015】
【発明が解決しようとする課題】従来のフレームレート
変換装置は以上のように構成されており、伝送速度の異
なる通信回線間において、単に、伝送速度の遅い方の通
信回線に合わせて、これに適したフレームレートとなる
ように変換するようにしていたために、フレームレート
変換装置よりも後段の通信回線の使用効率が悪化するこ
とがあるという問題点があった。また、動き補償を伴う
フレームを処理する際の処理時間が長く、かつ、システ
ムにも大きな負荷がかかるという問題点があった。
【0016】本発明は以上のような問題点を解消するた
めになされたもので、フレームレートの高いハイブリッ
ド符号化された画像データを、フレームレートの低いハ
イブリッド符号化された画像データに変換する際、端末
の処理能力を考慮することにより、通信回線の使用効率
の向上と、端末の処理能力に対応したフレームレートの
ハイブリッド符号化された画像データを生成することが
できるフレームレート変換方式、及びフレームレート変
換装置を提供することを目的とする。
【0017】また、動き補償を伴うフレーム、および動
き補償を伴うブロックを含むフレームのレート変換を行
う場合でも、演算量を大幅に減らし、高速で負荷の少な
いフレームレート変換を行うことができるフレームレー
ト変換方式、及びフレームレート変換装置を提供するこ
とを目的とする。
【0018】
【課題を解決するための手段】本発明の請求項1に係る
フレームレート変換方式は、端末間でハイブリッド符号
化された画像データを通信する場合において、一方の端
末をa1、他方の端末をa2とし、端末a1が接続され
ている通信回線の伝送速度をb1、端末a2が接続され
ている通信回線の伝送速度をb2、さらにa1の処理能
力をc1、端末a2の処理能力をc2としたとき、フレ
ームレートの高い画像データを端末a1側から入力し、
端末a2側に出力するフレーム数を、伝送速度がb1≧
b2で、かつ端末の処理能力がc1=c2のときには、
b2で伝送できるフレーム数に設定し、伝送速度がb1
≧b2で、かつ端末の処理能力がc1>c2のときに
は、b2で伝送できるフレーム数とc2で処理できるフ
レーム数のどちらか少ない方のフレーム数に設定し、伝
送速度がb1<b2で、かつ端末の処理能力がc1>c
2のときには、b1で伝送できるフレーム数とc2で処
理できるフレーム数のどちらか少ない方のフレーム数に
設定し、伝送速度がb1>b2で、かつ端末の処理能力
がc1<c2のときには、b2で伝送できるフレーム数
とc1で処理できるフレーム数のどちらか少ない方のフ
レーム数に設定し、上記端末a1から入力されたフレー
ムレートの高い画像データのフレームレートを変換して
上記端末a2側にフレームレートの低い画像データとし
て出力するようにしたものである。
【0019】また、本発明の請求項2に係るフレームレ
ート変換方式は、フレームレートの高い動き補償を伴う
フレーム間予測誤差に対して直交変換を行うハイブリッ
ド符号化された画像データを入力し、動き補償を伴うフ
レーム間予測誤差に対して直交変換を行うハイブリッド
符号化された画像データのフレームを複数枚まとめて1
枚の動き補償を伴わないフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化された画像データのフ
レームに合成することによりフレームレートを変換し、
フレームレートの低い動き補償を伴わないフレーム間予
測誤差に対して直交変換を行うハイブリッド符号化され
た画像データとして出力するようにしたものである。
【0020】また、本発明の請求項3に係るフレームレ
ート変換方式は、フレームレートの高い動き補償を伴う
フレーム間予測誤差に対して直交変換を行うハイブリッ
ド符号化された画像データと、動き補償を伴わないフレ
ーム間予測誤差に対して直交変換を行うハイブリッド符
号化された画像データとの両方が含まれる画像データを
入力し、動き補償を伴うフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化された画像データと、
動き補償を伴わないフレーム間予測誤差に対して直交変
換を行うハイブリッド符号化された画像データとの両方
が含まれる画像データのフレームを複数枚まとめて1枚
の動き補償を伴わないフレーム間予測誤差に対して直交
変換を行うハイブリッド符号化された画像データのフレ
ームに合成することによりフレームレートを変換し、フ
レームレートの低い動き補償を伴わないフレーム間予測
誤差に対して直交変換を行うハイブリッド符号化された
画像データとして出力するようにしたものである。
【0021】また、本発明の請求項4に係るフレームレ
ート変換方式は、フレームレートの高い動き補償を伴う
フレーム間予測誤差に対して直交変換を行うハイブリッ
ド符号化された画像データと、フレーム内符号化された
画像データとの両方が含まれる画像データを入力し、動
き補償を伴うフレーム間予測誤差に対して直交変換を行
うハイブリッド符号化された画像データと、フレーム内
符号化された画像データとの両方が含まれる画像データ
のフレームを複数枚まとめて1枚の動き補償を伴わない
フレーム間予測誤差に対して直交変換を行うハイブリッ
ド符号化された画像データと、フレーム内符号化された
画像データとの両方が含まれる画像データのフレームに
合成することによりフレームレートを変換し、フレーム
レートの低い動き補償を伴わないフレーム間予測誤差に
対して直交変換を行うハイブリッド符号化された画像デ
ータと、フレーム内符号化された画像データとの両方が
含まれる画像データとして出力するようにしたのであ
る。
【0022】また、本発明の請求項5に係るフレームレ
ート変換方式は、フレームレートの高い動き補償を伴う
フレーム間予測誤差に対して直交変換を行うハイブリッ
ド符号化された画像データと、動き補償を伴わないフレ
ーム間予測誤差に対して直交変換を行うハイブリッド符
号化された画像データと、フレーム内符号化された画像
データとの3つが含まれる画像データを入力し、動き補
償を伴うフレーム間予測誤差に対して直交変換を行うハ
イブリッド符号化された画像データと、動き補償を伴わ
ないフレーム間予測誤差に対して直交変換を行うハイブ
リッド符号化された画像データと、フレーム内符号化さ
れた画像データとの3つが含まれる画像データのフレー
ムを複数枚まとめて1枚の動き補償を伴わないフレーム
間予測誤差に対して直交変換を行うハイブリッド符号化
された画像データと、フレーム内符号化された画像デー
タとの両方が含まれる画像データのフレームに合成する
ことによりフレームレートを変換し、フレームレートの
低い動き補償を伴わないフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化された画像データと、
フレーム内符号化された画像データとの両方が含まれる
画像データとして出力するようにしたものである。
【0023】本発明の請求項6に係るフレームレート変
換方式は、上記請求項1記載のフレームレート変換方式
において、フレームレートの変換を行う際に、上記請求
項2ないし請求項5のいずれかに記載のフレームレート
変換方式を用いてフレームレート変換を行うようにした
ものである。
【0024】本発明の請求項7に係るフレームレート変
換装置は、上記請求項1ないし請求項6のいずれかに記
載のフレームレート変換方式を用いてフレームレートの
変換を行うようにしたものである。
【0025】
【発明の実施の形態】
実施の形態1.以下、本発明の請求項1に対応する実施
の形態1.に係るフレームレート変換方式について、図
1 に示す、フレームレート変換方式の構成を参照しなが
ら説明する。
【0026】図1はフレームレート変換方式の構成を示
すブロック図である。
【0027】図1において、121は端末であり、その
処理能力はc1とする。122は上記端末121の後段
に接続された通信回線であり、その伝送速度はb1とす
る。123は上記通信回線122の後段に接続されたフ
レームレート変換部であり、フレームレート変換情報が
端末125から入力され、通信回線122の伝送速度b
1と、通信回線124の伝送速度b2と、端末125の
処理能力c2とをそれぞれ考慮したフレームレート変換
を行うように構成されている。124は通信回線であ
り、その伝送速度はb2とする。また、125は端末で
あり、その処理能力はc2とする。
【0028】以下、フレームレートの高い画像データを
端末121側から入力し、通信回線の伝送速度が、b1
≧b2となる関係で、かつ、端末の処理能力が、c1=
c2のときのフレームレート変換方式について図1を参
照しながら説明する。
【0029】ここで、c1=c2であるので、端末同士
の処理能力は等しく、これに合わせたフレームレートの
変換は考慮する必要はない。よって、通信回線間の伝送
速度b1とb2の関係に着目することになる。
【0030】今、通信回線124の伝送速度b2は、通
信回線122の伝送速度b1以下であるので、フレーム
レート変換部123では通信回線124の伝送速度b2
で伝送可能なフレームレートに変換すればよいことにな
る。よって、端末121側から入力されたフレームレー
トの高いハイブリッド符号化された画像データは、伝送
速度b2の性能にあった、フレームレートの低いハイブ
リッド符号化された画像データにフレームレート変換さ
れ端末125側に出力される。端末125では、通信回
線124の伝送速度b2 と等しいフレームレートの画像
データが送られて、端末125の処理能力範囲で完全に
再生されて表示されることになる。
【0031】次に、フレームレートの高い画像データを
端末121側から入力し、通信回線の伝送速度が、b1
≧b2となる関係で、かつ、端末の処理能力が、c1>
c2の関係となるときのフレームレート変換方式につい
て図1を参照しながら説明する。
【0032】端末121,125の処理能力c1とc2
の関係に着目すると、端末121の処理能力c1よりも
端末125の処理能力c2が低いので、端末125の処
理能力c2で処理可能なフレームレートに変換すればよ
いことになる。また、通信回線122,124の伝送速
度b1とb2の関係に着目すると、通信回線124の伝
送速度b2は通信回線122の伝送速度b1以下である
ので、通信回線124の伝送速度b2で伝送可能なフレ
ームレートに変換すればよいことになる。
【0033】ここで、端末125の処理能力c2で処理
可能なフレーム数よりも、通信回線124の伝送速度b
2で伝送可能なフレーム数の方が多い場合、端末125
の処理能力c2で処理可能なフレーム数を超えるフレー
ムを伝送しても端末125ではデコードできないので、
通信回線の使用効率が悪くなることになる。これを回避
するために、端末121側から入力されたフレームレー
トの高いハイブリッド符号化された画像データは、端末
125の処理能力c2の性能にあった、フレームレート
の低いハイブリッド符号化された画像データにフレーム
レート変換されて端末125側に出力される。
【0034】また、端末125の処理能力c2で処理可
能なフレーム数よりも、通信回線124の伝送速度b2
で伝送可能なフレーム数の方が少ない場合、通信回線1
24の伝送速度b2で伝送可能なフレーム数しか伝送す
ることができないので、端末121側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線124の伝送速度b2の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末125側に出力さ
れる。
【0035】また、さらに端末125の処理能力c2で
処理可能なフレーム数と通信回線124の伝送速度b2
で伝送可能なフレーム数とが等しい場合、端末121側
から入力されたフレームレートの高いハイブリッド符号
化された画像データは、通信回線124の伝送速度b
2、もしくは端末125の処理能力c2の性能にあっ
た、フレームレートの低いハイブリッド符号化された画
像データにフレームレート変換されて端末125側に出
力される。
【0036】次に、フレームレートの高い画像データ
を、端末121側から入力し、通信回線の伝送速度がb
1<b2となる関係で、かつ、端末の処理能力が、c1
>c2の関係となるときのフレームレート変換方式につ
いて図1を参照しながら説明する。
【0037】端末121,125の処理能力c1とc2
の関係に着目すると、端末121の処理能力c1よりも
端末125の処理能力c2が低いので、端末125の処
理能力c2で処理可能なフレームレートに変換すればよ
いことになる。また、通信回線122,124の伝送速
度b1とb2の関係に着目すると、通信回線122の伝
送速度b1は通信回線124の伝送速度b2よりも遅い
ので、伝送速度b1で伝送可能なフレームレートに変換
すればよいことになる。
【0038】ここで、端末125の処理能力c2で処理
可能なフレーム数よりも通信回線122の伝送速度b1
で伝送可能なフレーム数の方が多い場合、端末125の
処理能力c2で処理可能なフレーム数を超えるフレーム
を伝送しても端末125ではデコードできないので、通
信回線の使用効率が悪くなることになる。これを回避す
るために、端末121側から入力されたフレームレート
の高いハイブリッド符号化された画像データは、端末1
25の処理能力c2の性能にあった、フレームレートの
低いハイブリッド符号化された画像データにフレームレ
ート変換されて端末125側に出力される。
【0039】また、端末125の処理能力c2で処理可
能なフレーム数よりも、通信回線122の伝送速度b1
で伝送可能なフレーム数の方が少ない場合、通信回線1
22の伝送速度b1で伝送可能なフレーム数しか伝送す
ることができないので、端末121側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線122の伝送速度b1の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末125側に出力さ
れる。
【0040】また、さらに、端末125の処理能力c2
で処理可能なフレーム数と通信回線122の伝送速度b
1で伝送可能なフレーム数とが等しい場合、端末121
側から入力されたフレームレートの高いハイブリッド符
号化された画像データは、通信回線122の伝送速度b
1、もしくは端末125の処理能力c2の性能にあっ
た、フレームレートの低いハイブリッド符号化された画
像データにフレームレート変換されて端末125側に出
力される。
【0041】次に、フレームレートの高い画像データを
端末121側から入力し、通信回線の伝送速度がb1>
b2となる関係で、かつ、端末の処理能力が、c1<c
2の関係となるときのフレームレート変換方式について
図1を参照しながら説明する。
【0042】端末121,125の処理能力c1とc2
の関係に着目すると、端末125の処理能力c2よりも
端末121の処理能力c1が低いので、端末121の処
理能力c1で処理可能なフレームレートに変換すればよ
いことになる。また、通信回線122,124のの伝送
速度b1とb2の関係に着目すると、通信回線124の
伝送速度b2は通信回線122の伝送速度b1よりも遅
いので、通信回線124の伝送速度b2で伝送可能なフ
レームレートに変換すればよいことになる。
【0043】ここで、端末121の処理能力c1で処理
可能なフレーム数よりも、通信回線124の伝送速度b
2で伝送可能なフレーム数の方が多い場合、端末121
の処理能力c1で処理可能なフレーム数を超えるフレー
ムは通信回線124の伝送速度b2を利用しても、伝送
できない。よって、端末121側から入力されたハイブ
リッド符号化された画像データは、フレームレート変換
されずに、そのまま端末125側に出力される。
【0044】また、端末121の処理能力c1で処理可
能なフレーム数よりも、通信回線124の伝送速度b2
で伝送可能なフレーム数の方が少ない場合、通信回線1
24の伝送速度b2で伝送可能なフレーム数しか伝送す
ることができないので、端末121側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線124の伝送速度b2の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末125側に出力さ
れる。
【0045】また、端末121の処理能力c1で処理可
能なフレーム数と通信回線124の伝送速度b2で伝送
可能なフレーム数とが等しい場合、端末121側から入
力されたハイブリッド符号化された画像データは、フレ
ームレート変換されずに、そのまま端末125側に出力
される。
【0046】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを、0からi番目
のフレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成してフレ
ームレート変換を行い、(i+n+1)番目のフレーム
以降のフレームは、フレームレート変換なしとして説明
する。また、入力されたフレームレートの高い画像デー
タがフレーム内符号化されたデータである場合を例にあ
げて、図面を参照しながら説明する。
【0047】図2は入力されたフレームレートの高い画
像データのうち、(i+1)から(i+n)番目のフレ
ームまでが、フレーム内符号化されたデータである場合
の、(i+n)番目のフレームの処理時のフレームレー
ト変換方式を示すものである。
【0048】図2において、101は入力であり、フレ
ームレートの高い画像データが入力される。
【0049】また、102は可変長復号化手段であり、
ハイブリッド符号化データを可変長復号化することによ
り、量子化された動き補償を伴う予測誤差直交変換デー
タ,量子化された動き補償を伴わない予測誤差直交変換
データ,量子化された直交変換係数に変換する。また、
同時に、入力側の端末の符号化装置で設定されたフレー
ム内/フレーム間識別を検出して、フレーム内/フレー
ム間(in)を設定し、また、入力側端末の符号化装置
で設定された、動き補償あり/なし識別を検出して、動
き補償あり/なし(in)を設定し、また、入力側端末
の符号化装置で設定された量子化係数を検出して、量子
化係数(in)を設定し、さらに、入力側端末の符号化
装置で設定された動きベクトルを検出して、動きベクト
ル(in)を設定する。
【0050】103は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0051】104は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段108に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ106に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0052】105は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段103によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段104により算出された
直交変換係数が選択され出力される。
【0053】106は画像メモリであり、上記直交変換
係数選択手段105により選択された直交変換係数を記
憶するためのものである。
【0054】107は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ10
6に記憶されている直交変換係数を後述する動きベクト
ル・直交変換係数演算手段108に出力する。動き補償
が「なし」の時は画像メモリ106に記憶されている直
交変換係数を、予測誤差直交変換データ加算手段104
に出力する。
【0055】108は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段107にて「あり」と判断
されたときの画像メモリ106に記憶されていた直交変
換係数を、マトリクス演算することにより、動きベクト
ルを考慮して演算された直交変換係数を算出する。マト
リクス演算については後述する方法を用いることとす
る。
【0056】109は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段1
13により設定された画像取込指示により、画像メモリ
106に記憶されている直交変換係数を取り込み、後述
する画像メモリ110に直交変換係数を出力する。
【0057】110は画像メモリであり、初期画像取込
選択手段109により選択された直交変換係数を記憶す
るためのものである。
【0058】111はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ1
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段113へ出力し、「フレーム間」の
時は、画像メモリ106の直交変換係数を後述する直交
変換係数減算手段112へ出力する。
【0059】112は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段111で、「フ
レーム間」と判断されたときに画像メモリ106に記憶
されていた直交変換係数から、画像メモリ110の直交
変換係数を減算する。
【0060】113は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)を「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ1
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段111からの直交変
換係数と、直交変換係数減算手段112からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、後
述する量子化手段114へ出力する。また、量子化係数
(in)を再設定し、これを量子化係数(out)とし
て後述する量子化手段114へ出力する。
【0061】114は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0062】115はフレームレート変換制御手段であ
り、フレームレート変換情報より、フレームレート変換
の継続/終了を判断する。そして、フレームレート変換
終了後、可変長符号化手段117に、量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数を出力し、フレームレート変換が行われな
い時は、可変長復号化手段102からの量子化された動
き補償を伴う予測誤差直交変換データ,量子化された動
き補償を伴わない予測誤差直交変換データ,量子化され
た直交変換係数をそのまま出力する。
【0063】116は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段113
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を後述する可変長符号化手段117にそのまま出力
し、「なし」の時には可変長符号化手段117には、動
きベクトル(in)を出力しない。
【0064】117は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out),動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別,動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0065】118は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0066】ここで、Emv(i)は動き補償を伴う予
測誤差直交変換データ、Q(Emv(i))は量子化さ
れた動き補償を伴う予測誤差直交変換データ、V(Q
(Emv(i)))は量子化され可変長符号化された動
き補償を伴う予測誤差直交変換データ、S(i)は直交
変換係数、Q(S(i))は量子化された直交変換係
数、V(Q(S(i)))は量子化され可変長符号化さ
れた直交変換係数、S’(i)は動きベクトルを考慮し
て演算された直交変換係数、E(i)は動き補償を伴わ
ない予測誤差直交変換データ、Q(E(i))は量子化
された動き補償を伴わない予測誤差直交変換データ、V
(Q(E(i)))は量子化され可変長符号化された動
き補償を伴わない予測誤差直交変換データ、Emv_n
onmv(i)は動き補償を伴う予測誤差直交変換デー
タ、または動き補償を伴わない予測誤差直交変換デー
タ、Q(Emv_nonmv(i))は量子化された動
き補償を伴う予測誤差直交変換データ、または量子化さ
れた動き補償を伴わない予測誤差直交変換データ、V
(Q(Emv_nonmv(i)))は量子化され可変
長符号化された動き補償を伴う予測誤差直交変換デー
タ、または量子化され可変長符号化された動き補償を伴
わない予測誤差直交変換データ、SEmv(i)は動き
補償を伴う予測誤差直交変換データ、または直交変換係
数、Q(SEmv(i))は量子化された動き補償を伴
う予測誤差直交変換データ、または量子化された直交変
換係数、V(Q(SEmv(i)))は量子化され可変
長符号化された動き補償を伴う予測誤差直交変換デー
タ、または量子化され可変長符号化された直交変換係
数、SEmv_nonmv(i)は動き補償を伴う予測
誤差直交変換データ、または、動き補償を伴わない予測
誤差直交変換データ、あるいは直交変換係数、Q(SE
mv_nonmv(i))は量子化された動き補償を伴
う予測誤差直交変換データ、または量子化された動き補
償を伴わない予測誤差直交変換データ、あるいは量子化
された直交変換係数、V(Q(SEmv_nonmv
(i)))は量子化され可変長符号化された動き補償を
伴う予測誤差直交変換データ、または量子化され可変長
符号化された動き補償を伴わない予測誤差直交変換デー
タ、または量子化され可変長符号化された直交変換係数
とする。
【0067】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段102,逆量子化手段10
3,予測誤差直交変換データ加算手段104,直交変換
係数選択手段105,動き補償あり/なし(in)判断
手段107,動きベクトル・直交変換係数演算手段10
8を経由して画像メモリ106にS(i)として記憶さ
れる。また、初期画像取込選択手段109を経由し、画
像メモリ110にもS(i)として記憶される。また、
可変長復号化手段102により可変長復号化されたQ
(SEmv_nonmv(0))からQ(SEmv_n
onmv(i))は、フレームレート変換制御手段11
5により選択されて、可変長符号化手段117により可
変長符号化されて、V(Q(SEmv_nonmv
(0)))からV(Q(SEmv_nonmv
(i)))として出力される。
【0068】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段102により可変長
復号化され、量子化された直交変換係数Q(S(i+
1))に変換される。
【0069】そして、Q(S(i+1))は逆量子化手
段103により、逆量子化され、直交変換係数S(i+
1)に変換される。この、S(i+1)は、直交変換係
数選択手段105にて、「フレーム内」と判断され、画
像メモリ106にS(i+1)として記憶される。
【0070】(i+2)から(i+n)番目のフレーム
までについても、上記(i+1)番目のフレームと同様
の処理を繰り返すことで処理される。
【0071】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ106には直交変換係数S
(i+n)が記憶されており、画像メモリ110には直
交変換係数S(i)が記憶されている。
【0072】上記直交変換係数S(i+n)はフレーム
内/フレーム間(in)判断手段111で「フレーム
内」と判断され、S(i+n)がそのまま出力される。
ここで、直交変換係数S(i+n)を新たな(i+1)
番目のフレームとし、S(i+1)=S(i+n)とす
る。
【0073】上記直交変換係数S(i+1)は、符号化
制御・フレーム内/フレーム間判断手段113にて、フ
レーム内/フレーム間(in)を用いることにより、
「フレーム内」と判断され、選択される。フレームレー
ト変換中は、動き補償あり/なし(out)は「なし」
に設定される。画像取込指示は量子化手段114にS
(i+1)が出力された後、出力される。
【0074】S(i+1)は量子化手段114により量
子化されて、量子化された直交変換係数Q(S(i+
1))に変換される。
【0075】この量子化された直交変換係数Q(S(i
+1))は、可変長符号化手段117により、可変長符
号化され、量子化され可変長符号化された直交変換係数
V(Q(S(i+1)))として出力される。
【0076】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段102,逆
量子化手段103,予測誤差直交変換データ加算手段1
04,直交変換係数選択手段105,動き補償あり/な
し(in)判断手段107,動きベクトル・直交変換係
数演算手段108を経由して画像メモリ106に直交変
換係数S(i+n+1)として記憶される。また、初期
画像取込選択手段109を経由して画像メモリ110に
も直交変換係数S(i+n+1)として記憶される。ま
た、可変長復号化手段102により可変長復号化されて
得られた、Q(SEmv_nonmv(i+n+1))
はフレームレート変換制御手段115により選択され
て、Q(SEmv_nonmv(i+2))となり、さ
らに可変長符号化手段117により可変長符号化され
て、V(Q(SEmv_nonmv(i+2)))とし
て出力される。そして、(i+n+1)より後のフレー
ムについても上記(i+n+1)番目のフレームと同様
の処理が行われる。
【0077】以上のようにして、フレームレート変換部
123で、フレームレートの高いハイブリッド符号化さ
れた画像データを、フレームレートの低いハイブリッド
符号化された画像データに変換する際に、通信回線の伝
送速度と端末の処理能力とを考慮し、最も律速となる処
理速度に合わせてフレームレートを変換するようにした
から、通信回線の使用効率が悪化することがなくなる。
【0078】また、ハイブリッド符号化された画像デー
タの中の任意の開始フレーム、任意の合成フレーム枚数
を制御することにより、動き補償を伴うフレーム間予測
誤差に対して直交変換を行うハイブリッド符号化された
データ、及びフレーム内符号化されたデータに対して、
該データのみを選択的にフレームレート変換を行うこと
ができ、演算量が大幅に減少し、高速で負荷の少ないフ
レームレート変換を行うことができる。参考までに、勧
告H.261の復号器、および符号器において全ての演
算量を100%とすると、逆直交変換:約10%、直交
変換:約10%、動き検出:約45%の演算量が必要で
あるとの報告(Interface 96 年1 月号)もあり、本実施
の形態によれば演算量が大幅に減ることが期待できる。
【0079】実施の形態2.以下、本発明の請求項2に
対応する実施の形態2.に係るフレームレート変換方式
について、図面を参照しながら説明する。
【0080】図3は入力されたフレームレートの高い画
像データで、(i+1)から(i+n)番目のフレーム
までが、動き補償を伴うフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化されたデータである場
合の、(i+n)番目のフレームの処理時のフレームレ
ート変換方式を示すものである。
【0081】図3において、201は入力であり、フレ
ームレートの高い画像データが入力される。
【0082】202は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側の端末の符号化装置で設定されたフレーム内
/フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0083】203は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0084】204は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段208に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ206に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0085】205は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段203によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は予測
誤差直交変換データ加算手段204により算出された直
交変換係数が選択され出力される。
【0086】206は画像メモリであり、上記直交変換
係数選択手段205により選択された直交変換係数を記
憶するためのものである。
【0087】207は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ20
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段208に出力する。動き補償が「な
し」の時は画像メモリ206に記憶されている直交変換
係数を予測誤差直交変換データ加算手段204に出力す
る。
【0088】208は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段207にて「あり」と判断
された画像メモリ206に記憶されていた直交変換係数
を、マトリクス演算することにより、動きベクトルを考
慮して演算された直交変換係数を算出する。マトリクス
演算については後述の方法を用いる。
【0089】209は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段2
13により設定された画像取込指示により、画像メモリ
206に記憶されている直交変換係数を取り込み、後述
する画像メモリ210に直交変換係数を出力する。
【0090】210は画像メモリであり、初期画像取込
選択手段209により選択された直交変換係数を記憶す
るためのものである。
【0091】211はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ2
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段213へ出力し、「フレーム間」の
時は、画像メモリ206の直交変換係数を後述する直交
変換係数減算手段212へ出力する。
【0092】212は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段211で、「フ
レーム間」と判断されたときに画像メモリ206に記憶
されていた直交変換係数から、画像メモリ210の直交
変換係数を減算する。
【0093】213は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ2
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段211からの直交変
換係数と、直交変換係数減算手段212からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、後
述する量子化手段214へ出力する。また、量子化係数
(in)を再設定し、量子化係数(out)として後述
する量子化手段214へ出力する。
【0094】214は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0095】215はフレームレート変換制御手段であ
り、フレームレート変換情報より、フレームレート変換
の継続/終了を判断する。そして、フレームレート変換
終了後、可変長符号化手段217に、量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数を出力し、フレームレート変換が行われな
い時は、可変長復号化手段202からの量子化された動
き補償を伴う予測誤差直交変換データ,量子化された動
き補償を伴わない予測誤差直交変換データ,量子化され
た直交変換係数をそのまま出力する。
【0096】216は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段213
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を可変長符号化手段217にそのまま出力し、「な
し」の時には、可変長符号化手段217には動きベクト
ル(in)を出力しない。
【0097】217は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out),動
きベクトル(in)により、出力側端末の復号化装置に
対して、動き補償あり/なし識別,動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0098】218は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0099】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを、0からi番目
のフレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成して、フ
レームレート変換を行い、(i+n+1)番目のフレー
ム以降のフレームは、フレームレート変換なしとして説
明する。
【0100】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段202,逆量子化手段20
3,予測誤差直交変換データ加算手段204,直交変換
係数選択手段205,動き補償あり/なし(in)判断
手段207,動きベクトル・直交変換係数演算手段20
8を経由して画像メモリ206にS(i)として記憶さ
れる。また、初期画像取込選択手段209を経由し、画
像メモリ210にもS(i)として記憶される。また、
可変長復号化手段202により可変長復号化されたQ
(Emv(0))からQ(Emv(i))は、フレーム
レート変換制御手段215により選択されて、可変長符
号化手段217により可変長符号化されて、V(Q(E
mv(0)))からV(Q(Emv(i)))として出
力される。
【0101】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段202により可変長
復号化され、量子化された動き補償を伴う予測誤差直交
変換データQ(Emv(i+1))に変換される。
【0102】そして、Q(Emv(i+1))は逆量子
化手段203により、逆量子化され、動き補償を伴う予
測誤差直交変換データEmv(i+1)に変換される。
【0103】このEmv(i+1)は、予測誤差直交変
換データ加算手段204により、動き補償あり/なし
(in)判断手段207で「あり」と判断される画像メ
モリ206に記憶されているS(i)を、動きベクトル
・直交変換係数演算手段208で処理したS’(i)と
加算され、直交変換係数選択手段205にて、「フレー
ム間」と判断され、画像メモリ206にS(i+1)と
して記憶される。
【0104】(i+2)から(i+n)番目のフレーム
までについても、上記(i+1)番目のフレームと同様
の処理を繰り返すことで処理される。
【0105】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ206には直交変換係数S
(i+n)が記憶されており、画像メモリ210には直
交変換係数S(i)が記憶されている。
【0106】上記直交変換係数S(i+n)は、フレー
ム内/フレーム間(in)判断手段211で、「フレー
ム間」と判断され、直交変換係数減算手段212によ
り、S(i+n)−S(i)の処理が行われ、S(n)
が算出される。ここで、S(n)は、動き補償を伴わな
い予測誤差直交変換データであり、(i+1)番目のフ
レームのデータとすると、E(i+1)=S(n)とす
ることができる。
【0107】上記動き補償を伴わない予測誤差直交変換
データE(i+1)は符号化制御・フレーム内/フレー
ム間判断手段213にて、フレーム内/フレーム間(i
n)を用いることにより、「フレーム間」と判断され、
選択される。フレームレート変換中は、動き補償あり/
なし(out)は「なし」に設定される。画像取込指示
は量子化手段214にE(i+1)が出力された後、出
力される。
【0108】E(i+1)は量子化手段214により量
子化されて、量子化された動き補償を伴わない予測誤差
直交変換データQ(E(i+1))に変換される。
【0109】この量子化された動き補償を伴わない予測
誤差直交変換データQ(E(i+1))は可変長符号化
手段217により、可変長符号化され、量子化され可変
長符号化された動き補償を伴わない予測誤差直交変換デ
ータV(Q(E(i+1)))として出力される。
【0110】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段202,逆
量子化手段203,予測誤差直交変換データ加算手段2
04,直交変換係数選択手段205,動き補償あり/な
し(in)判断手段207,動きベクトル・直交変換係
数演算手段208を経由して、画像メモリ206に直交
変換係数S(i+n+1)として記憶される。また、初
期画像取込選択手段209を経由して画像メモリ210
にもS(i+n+1)として記憶される。また、可変長
復号化手段202により可変長復号化されて得られたQ
(Emv(i+n+1))は、フレームレート変換制御
手段215により選択されて、Q(Emv(i+2))
となり、さらに可変長符号化手段217により可変長符
号化されて、V(Q(Emv(i+2)))として出力
される。そして、(i+n+1)より後のフレームにつ
いても上記(i+n+1)番目のフレームと同様の処理
が行われる。
【0111】以上のように、本実施の形態によれば、ハ
イブリッド符号化された画像データの中の任意の開始フ
レーム、任意の合成フレーム枚数を制御することによ
り、動き補償を伴うフレーム間予測誤差に対して、該デ
ータのみを選択的にフレームレート変換を行うことがで
き、演算量が大幅に減少し、高速で負荷の少ないフレー
ムレート変換を行うことができる。
【0112】実施の形態3.以下、本発明の請求項3に
対応する実施の形態3.に係るフレームレート変換方式
について、図面を参照しながら説明する。
【0113】図4は入力されたフレームレートの高い画
像データで、(i+1)から(i+n)番目のフレーム
までが、動き補償を伴うフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化されたデータと、動き
補償を伴わないフレーム間予測誤差に対して直交変換を
行うハイブリッド符号化されたデータとの両方のデータ
が含まれ、(i+1)、(i+n)番目のフレームが、
動き補償を伴わないフレーム間予測誤差に対して直交変
換を行うハイブリッド符号化されたデータである場合の
(i+n)番目のフレームの処理時のフレームレート変
換方式を示すものである。
【0114】図4において、301は入力であり、フレ
ームレートの高い画像データが入力される。
【0115】302は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側端末の符号化装置で設定されたフレーム内/
フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0116】303は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0117】304は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段308に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ306に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0118】305は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段303によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段304により算出された
直交変換係数が選択され出力される。
【0119】306は画像メモリであり、上記直交変換
係数選択手段305により選択された直交変換係数を記
憶するためのものである。
【0120】307は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ30
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段308に出力する。動き補償が「な
し」の時は、画像メモリ306に記憶されている直交変
換係数を予測誤差直交変換データ加算手段304に出力
する。
【0121】308は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段307にて「あり」と判断
された画像メモリ306に記憶されていた直交変換係数
を、マトリクス演算することにより、動きベクトルを考
慮して演算された直交変換係数を算出する。マトリクス
演算については後述の方法を用いる。
【0122】309は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段3
13により設定された画像取込指示により、画像メモリ
306に記憶されている直交変換係数を取り込み、後述
する画像メモリ310に直交変換係数を出力する。
【0123】310は画像メモリであり、初期画像取込
選択手段309により選択された直交変換係数を記憶す
るためのものである。
【0124】311はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ3
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段313へ出力し、「フレーム間」の
時は、画像メモリ306の直交変換係数を後述する直交
変換係数減算手段312へ出力する。
【0125】312は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段311で、「フ
レーム間」と判断されたときに画像メモリ306に記憶
されていた直交変換係数から、画像メモリ310の直交
変換係数を減算する。
【0126】313は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ3
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段311からの直交変
換係数と、直交変換係数減算手段312からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、後
述する量子化手段314へ出力する。また、量子化係数
(in)を再設定し、量子化係数(out)として後述
する量子化手段314へ出力する。
【0127】314は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0128】315はフレームレート変換制御手段であ
り、フレームレート変換情報よりフレームレート変換の
継続/終了を判断する。そして、フレームレート変換終
了後、可変長符号化手段317に、量子化された動き補
償を伴わない予測誤差直交変換データ,量子化された直
交変換係数を出力し、フレームレート変換が行われない
時は、可変長復号化手段302からの量子化された動き
補償を伴う予測誤差直交変換データ,量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数をそのまま出力する。
【0129】316は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段313
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を可変長符号化手段317にそのまま出力し、「な
し」の時には、可変長符号化手段317には動きベクト
ル(in)を出力しない。
【0130】317は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out),動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別,動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0131】318は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0132】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを0からi番目の
フレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成して、フ
レームレート変換を行い、(i+n+1)番目のフレー
ム以降のフレームは、フレームレート変換なしとして説
明する。
【0133】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段302,逆量子化手段30
3,予測誤差直交変換データ加算手段304,直交変換
係数選択手段305,動き補償あり/なし(in)判断
手段307,動きベクトル・直交変換係数演算手段30
8を経由して画像メモリ306にS(i)として記憶さ
れる。また、初期画像取込選択手段309を経由し、画
像メモリ310にもS(i)として記憶される。また、
可変長復号化手段302により可変長復号化されたQ
(Emv_nonmv(0))からQ(Emv_non
mv(i))は、フレームレート変換制御手段315に
より選択されて、可変長符号化手段317により可変長
符号化されて、V(Q(Emv_nonmv(0)))
からV(Q(Emv_nonmv(i)))として出力
される。
【0134】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段302により、可変
長復号化され、量子化された動き補償を伴わない予測誤
差直交変換データQ(E(i+1))に変換される。
【0135】そして、Q(E(i+1))は逆量子化手
段303により、逆量子化され、E(i+1)に変換さ
れる。
【0136】このE(i+1)は、予測誤差直交変換デ
ータ加算手段304により、動き補償あり/なし(i
n)判断手段307で「あり」と判断される画像メモリ
306に記憶されているS(i)を、動きベクトル・直
交変換係数演算手段308で処理したS’(i),また
は動き補償あり/なし(in)判断手段307で「な
し」と判断される画像メモリ306に記憶されているS
(i)と加算され、直交変換係数選択手段305にて、
「フレーム間」と判断され、画像メモリ306にS(i
+1)として記憶される。
【0137】(i+2)から(i+n)番目のフレーム
までについては動き補償を伴わない場合は上記(i+
1)番目のフレーム、動き補償を伴う場合は上記実施の
形態2.と同様の処理を繰り返すことで処理される。
【0138】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ306には直交変換係数S
(i+n)が記憶されており、画像メモリ310には直
交変換係数S(i)が記憶されている。
【0139】上記直交変換係数S(i+n)は、フレー
ム内/フレーム間(in)判断手段311で「フレーム
間」と判断され、直交変換係数減算手段312により、
S(i+n)−S(i)の処理が行われ、S(n)が算
出される。ここで、S(n)は、動き補償を伴わない予
測誤差直交変換データであり、(i+1)番目のフレー
ムのデータとすると、E(i+1)=S(n)とするこ
とができる。
【0140】上記動き補償を伴わない予測誤差直交変換
データE(i+1)は符号化制御・フレーム内/フレー
ム間判断手段313にて、フレーム内/フレーム間(i
n)を用いることにより、「フレーム間」と判断され、
選択される。フレームレート変換中は、動き補償あり/
なし(out)は「なし」に設定される。画像取込指示
は量子化手段314にE(i+1)が出力された後、出
力される。
【0141】E(i+1)は量子化手段314により、
量子化されて、量子化された動き補償を伴わない予測誤
差直交変換データQ(E(i+1))に変換される。
【0142】この量子化された動き補償を伴わない予測
誤差直交変換データQ(E(i+1))は可変長符号化
手段317により、可変長符号化され、量子化され可変
長符号化された動き補償を伴わない予測誤差直交変換デ
ータV(Q(E(i+1)))として出力される。
【0143】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段302,逆
量子化手段303,予測誤差直交変換データ加算手段3
04,直交変換係数選択手段305,動き補償あり/な
し(in)判断手段307,動きベクトル・直交変換係
数演算手段308を経由して画像メモリ306に直交変
換係数S(i+n+1)として記憶される。また、初期
画像取込選択手段309を経由して画像メモリ310に
もS(i+n+1)として記憶される。また、可変長復
号化手段302により可変長復号化されて得られたQ
(Emv_nonmv(i+n+1))は、フレームレ
ート変換制御手段315により選択されて、Q(Emv
_nonmv(i+2))となり、さらに可変長符号化
手段317により可変長符号化されて、V(Q(Emv
_nonmv(i+2)))として出力される。そし
て、(i+n+1)より後のフレームについても上記
(i+n+1)番目のフレームと同様の処理が行われ
る。
【0144】以上のように、本実施の形態によれば、ハ
イブリッド符号化された画像データの中の任意の開始フ
レーム、任意の合成フレーム枚数を制御することによ
り、動き補償を伴うフレーム間予測誤差に対して直交変
換を行うハイブリッド符号化されたデータ、及び動き補
償を伴わないフレーム間予測誤差に対して直交変換を行
うハイブリッド符号化されたデータの両方のデータが含
まれるような場合においても、該データのみを選択的に
フレームレート変換を行うことができ、演算量が大幅に
減少し、高速で負荷の少ないフレームレート変換を行う
ことができる。
【0145】実施の形態4.以下、本発明の請求項4に
対応する実施の形態4.に係るフレームレート変換方式
について、図面を参照しながら説明する。
【0146】図5は入力されたフレームレートの高い画
像データで(i+1)から(i+n)番目のフレームま
でが、動き補償を伴うフレーム間予測誤差に対して直交
変換を行うハイブリッド符号化されたデータと、フレー
ム内符号化されたデータとの両方のデータが含まれ、
(i+n)番目のフレームがフレーム内符号化されたデ
ータである場合の(i+n)番目のフレームの処理時の
フレームレート変換方式を示すものである。
【0147】図5において、401は入力であり、フレ
ームレートの高い画像データが入力される。
【0148】402は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側端末の符号化装置で設定されたフレーム内/
フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0149】403は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0150】404は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段408に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ406に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0151】405は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段403によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段404により算出された
直交変換係数が選択され出力される。
【0152】406は画像メモリであり、上記直交変換
係数選択手段405により選択された直交変換係数を記
憶するためのものである。
【0153】407は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ40
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段408に出力する。動き補償が「な
し」の時は画像メモリ406に記憶されている直交変換
係数を予測誤差直交変換データ加算手段404に出力す
る。
【0154】408は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段407にて「あり」と判断
された画像メモリ406に記憶されていた直交変換係数
を、マトリクス演算することにより、動きベクトルを考
慮して演算された直交変換係数を算出する。マトリクス
演算については後述の方法を用いる。
【0155】409は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段4
13により設定された画像取込指示により、画像メモリ
406に記憶されている直交変換係数を取り込み、後述
する画像メモリ410に直交変換係数を出力する。
【0156】410は画像メモリであり、初期画像取込
選択手段409により選択された直交変換係数を記憶す
るためのものである。
【0157】411はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ4
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段413へ出力し、「フレーム間」の
時は、画像メモリ406の直交変換係数を後述する直交
変換係数減算手段412へ出力する。
【0158】412は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段411で、「フ
レーム間」と判断されたときに画像メモリ406に記憶
されていた直交変換係数から、画像メモリ410の直交
変換係数を減算する。
【0159】413は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ4
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段411からの直交変
換係数と、直交変換係数減算手段412からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、量
子化手段414へ出力する。また、量子化係数(in)
を再設定し、量子化係数(out)として後述する量子
化手段414へ出力する。
【0160】414は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0161】415はフレームレート変換制御手段であ
り、フレームレート変換情報よりフレームレート変換の
継続/終了を判断する。そして、フレームレート変換終
了後、可変長符号化手段417に、量子化された動き補
償を伴わない予測誤差直交変換データ,量子化された直
交変換係数を出力し、フレームレート変換が行われない
時は、可変長復号化手段402からの量子化された動き
補償を伴う予測誤差直交変換データ,量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数をそのまま出力する。
【0162】416は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段413
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を可変長符号化手段417にそのまま出力し、「な
し」の時には、可変長符号化手段417には動きベクト
ル(in)を出力しない。
【0163】417は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out),動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別,動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0164】418は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0165】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを0からi番目の
フレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成して、フ
レームレート変換を行い、(i+n+1)番目のフレー
ム以降のフレームは、フレームレート変換なしとして説
明する。
【0166】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段402,逆量子化手段40
3,予測誤差直交変換データ加算手段404,直交変換
係数選択手段405,動き補償あり/なし(in)判断
手段407,動きベクトル・直交変換係数演算手段40
8を経由して画像メモリ406にS(i)として記憶さ
れる。また、初期画像取込選択手段409を経由し、画
像メモリ410にもS(i)として記憶される。また、
可変長復号化手段402により可変長復号化されたQ
(SEmv(0))からQ(SEmv(i))は、フレ
ームレート変換制御手段415により選択されて、可変
長符号化手段417により可変長符号化されて、V(Q
(SEmv(0)))からV(Q(SEmv(i)))
として出力される。
【0167】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段402により、可変
長復号化され、量子化された直交変換係数Q(S(i+
1))に変換される。
【0168】そして、Q(S(i+1))は逆量子化手
段403により、逆量子化され、S(i+1)に変換さ
れる。
【0169】このS(i+1)は、直交変換係数選択手
段405にて、「フレーム内」と判断され、画像メモリ
406にS(i+1)として記憶される。
【0170】(i+2)から(i+n)番目のフレーム
までについてはフレーム内の場合は上記(i+1)番目
のフレーム、動き補償を伴う場合は上記実施の形態2.
と同様の処理を繰り返すことで処理される。
【0171】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ406には直交変換係数S
(i+n)が記憶されており、画像メモリ410には直
交変換係数S(i)が記憶されている。
【0172】上記直交変換係数S(i+n)は、フレー
ム内/フレーム間(in)判断手段411で「フレーム
内」と判断され、S(i+n)が出力される。ここで、
S(i+n)を新たな(i+1)番目のフレームとし、
S(i+1)=S(i+n)とする。
【0173】上記直交変換係数S(i+1)は、符号化
制御・フレーム内/フレーム間判断手段413にて、フ
レーム内/フレーム間(in)を用いることにより、
「フレーム内」と判断され、選択される。フレームレー
ト変換中は、動き補償あり/なし(out)は「なし」
に設定される。画像取込指示は量子化手段414にS
(i+1)が出力された後、出力される。
【0174】S(i+1)は量子化手段414により、
量子化されて、量子化された直交変換係数Q(S(i+
1))に変換される。
【0175】この量子化された上記直交変換係数Q(S
(i+1))は可変長符号化手段417により、可変長
符号化され、V(Q(S(i+1)))として出力され
る。
【0176】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段402,逆
量子化手段403,予測誤差直交変換データ加算手段4
04,直交変換係数選択手段405,動き補償あり/な
し(in)判断手段407,動きベクトル・直交変換係
数演算手段408を経由して画像メモリ406に直交変
換係数S(i+n+1)として記憶される。また、初期
画像取込選択手段409を経由して画像メモリ410に
もS(i+n+1)として記憶される。また、可変長復
号化手段402により可変長復号化されて得られたQ
(SEmv(i+n+1))は、フレームレート変換制
御手段415により選択されて、Q(SEmv(i+
2))となり、さらに可変長符号化手段417により可
変長符号化されて、V(Q(SEmv(i+2)))と
して出力される。そして、(i+n+1)より後のフレ
ームについても上記(i+n+1)番目のフレームと同
様の処理が行われる。
【0177】以上のように、本実施の形態によれば、ハ
イブリッド符号化された画像データの中の任意の開始フ
レーム、任意の合成フレーム枚数を制御することによ
り、動き補償を伴うフレーム間予測誤差に対して直交変
換を行うハイブリッド符号化されたデータ、及びフレー
ム内符号化されたデータの両方のデータが含まれる場合
においても、該データのみを選択的にフレームレート変
換を行うことができ、演算量が大幅に減少し、高速で負
荷の少ないフレームレート変換を行うことができる。
【0178】実施の形態5.以下、本発明の請求項5に
対応する実施の形態5.に係るフレームレート変換方式
について、図面を参照しながら説明する。
【0179】図6は入力されたフレームレートの高い画
像データで(i+1)から(i+n)番目のフレームま
でが、動き補償を伴うフレーム間予測誤差に対して直交
変換を行うハイブリッド符号化されたデータと、動き補
償を伴わないフレーム間予測誤差に対して直交変換を行
うハイブリッド符号化されたデータと、さらには、フレ
ーム内符号化されたデータの3種類のデータが含まれ、
(i+1)番目のフレームがフレーム内符号化されたデ
ータであり、(i+n−1)番目のフレームが動き補償
を伴うフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化されたデータフレーム内符号化されたデ
ータであり、(i+n)番目のフレームが動き補償を伴
わないフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化されたデータである場合の(i+n)番
目のフレームの処理時のフレームレート変換方式を示す
ものである。
【0180】図6において、501は入力であり、フレ
ームレートの高い画像データが入力される。
【0181】502は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側端末の符号化装置で設定されたフレーム内/
フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0182】503は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0183】504は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段508に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ506に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0184】505は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段503によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段504により算出された
直交変換係数が選択され出力される。
【0185】506は画像メモリであり、上記直交変換
係数選択手段505により選択された直交変換係数を記
憶するためのものである。
【0186】507は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ50
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段508に出力する。動き補償が「な
し」の時は画像メモリ506に記憶されている直交変換
係数を予測誤差直交変換データ加算手段504に出力す
る。
【0187】508は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段507にて「あり」と判断
された画像メモリ506に記憶されていた直交変換係数
を、マトリクス演算することにより、動きベクトルを考
慮して演算された直交変換係数を算出する。マトリクス
演算については後述の方法を用いる。
【0188】509は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段5
13により設定された画像取込指示により、画像メモリ
506に記憶されている直交変換係数を取り込み、後述
する画像メモリ510に直交変換係数を出力する。
【0189】510は画像メモリであり、初期画像取込
選択手段509により選択された直交変換係数を記憶す
るためのものである。
【0190】511はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ5
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段513へ出力し、「フレーム間」の
時は、画像メモリ506の直交変換係数を後述する直交
変換係数減算手段512へ出力する。
【0191】512は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段511で、「フ
レーム間」と判断されたときに画像メモリ506に記憶
されていた直交変換係数から、画像メモリ510の直交
変換係数を減算する。
【0192】513は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ5
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段511からの直交変
換係数と、直交変換係数減算手段512からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、量
子化手段514へ出力する。また、量子化係数(in)
を再設定し、量子化係数(out)として後述する量子
化手段514へ出力する。
【0193】514は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0194】515はフレームレート変換制御手段であ
り、フレームレート変換情報よりフレームレート変換の
継続/終了を判断する。そして、フレームレート変換終
了後、可変長符号化手段517に、量子化された動き補
償を伴わない予測誤差直交変換データ,量子化された直
交変換係数を出力し、フレームレート変換が行われない
時は、可変長復号化手段502からの量子化された動き
補償を伴う予測誤差直交変換データ,量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数をそのまま出力する。
【0195】516は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段513
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を可変長符号化手段517にそのまま出力し、「な
し」の時には、可変長符号化手段517には動きベクト
ル(in)を出力しない。
【0196】517は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out)、動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別、動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0197】518は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0198】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを0からi番目の
フレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成して、フ
レームレート変換を行い、(i+n+1)番目のフレー
ム以降のフレームは、フレームレート変換なしとして説
明する。
【0199】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段502,逆量子化手段50
3,予測誤差直交変換データ加算手段504,直交変換
係数選択手段505,動き補償あり/なし(in)判断
手段507,動きベクトル・直交変換係数演算手段50
8を経由して画像メモリ506にS(i)として記憶さ
れる。また、初期画像取込選択手段509を経由し、画
像メモリ510にもS(i)として記憶される。また、
可変長復号化手段502により可変長復号化されたQ
(SEmv_nonmv(0))からQ(SEmv_n
onmv(i))は、フレームレート変換制御手段51
5により選択されて、可変長符号化手段517により可
変長符号化されて、V(Q(SEmv_nonmv
(0)))からV(Q(SEmv_nonmv
(i)))として出力される。
【0200】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段502により、可変
長復号化され、量子化された直交変換係数Q(S(i+
1))に変換される。
【0201】そして、Q(S(i+1))は逆量子化手
段503により、逆量子化され、S(i+1)に変換さ
れる。
【0202】このS(i+1)は、直交変換係数選択手
段505にて、「フレーム内」と判断され、画像メモリ
506にS(i+1)として記憶される。
【0203】(i+2)から(i+n)番目のフレーム
までについてはフレーム内の場合は上記(i+1)番目
のフレーム、動き補償を伴う場合、または動き補償を伴
わない場合は上記実施の形態3.と同様の処理を繰り返
すことで処理される。
【0204】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ506には直交変換係数S
(i+n)が記憶されており、画像メモリ510には直
交変換係数S(i)が記憶されている。
【0205】上記直交変換係数S(i+n)はフレーム
内/フレーム間(in)判断手段511で「フレーム
間」と判断され、直交変換係数減算手段512により、
S(i+n)−S(i)の処理が行われ、S(n)が算
出される。ここで、S(n)は、動き補償を伴わない予
測誤差直交変換データであり、(i+1)番目のフレー
ムのデータとすると、E(i+1)=S(n)とするこ
とができる。
【0206】上記動き補償を伴わない予測誤差直交変換
データE(i+1)は符号化制御・フレーム内/フレー
ム間判断手段513にて、フレーム内/フレーム間(i
n)を用いることにより、「フレーム間」と判断され、
選択される。フレームレート変換中は、動き補償あり/
なし(out)は「なし」に設定される。画像取込指示
は量子化手段514にE(i+1)が出力された後、出
力される。
【0207】E(i+1)は量子化手段514により、
量子化されて、量子化された動き補償を伴わない予測誤
差直交変換データQ(E(i+1))に変換される。
【0208】この量子化された動き補償を伴わない予測
誤差直交変換データQ(E(i+1))は可変長符号化
手段517により、可変長符号化され、V(Q(E(i
+1)))として出力される。
【0209】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段502,逆
量子化手段503,予測誤差直交変換データ加算手段5
04,直交変換係数選択手段505,動き補償あり/な
し(in)判断手段507,動きベクトル・直交変換係
数演算手段508を経由して画像メモリ506に直交変
換係数S(i+n+1)として記憶される。また、初期
画像取込選択手段509を経由して、画像メモリ510
にもS(i+n+1)として記憶される。また、可変長
復号化手段502により可変長復号化されて得られたQ
(SEmv_nonmv(i+n+1))は、フレーム
レート変換制御手段515により選択されて、Q(SE
mv_nonmv(i+2))となり、さらに可変長符
号化手段517により可変長符号化されて、V(Q(S
Emv_nonmv(i+2)))として出力される。
そして、(i+n+1)より後のフレームについても上
記(i+n+1)番目のフレームと同様の処理が行われ
る。
【0210】以上のように、本実施の形態によれば、ハ
イブリッド符号化された画像データの中の任意の開始フ
レーム、任意の合成フレーム枚数を制御することによ
り、動き補償を伴うフレーム間予測誤差に対して直交変
換を行うハイブリッド符号化されたデータと、動き補償
を伴わないフレーム間予測誤差に対して直交変換を行う
ハイブリッド符号化されたデータと、フレーム内符号化
されたデータの3種類のデータが含まれる場合において
も、該データのみを選択的にフレームレート変換を行う
ことができ、演算量が大幅に減少し、高速で負荷の少な
いフレームレート変換を行うことができる。
【0211】実施の形態6.以下、本発明の請求項6に
対応する実施の形態6.に係るフレームレート変換方式
について、フレームレート変換方式の構成を図面を参照
しながら説明する。
【0212】図7の構成図は上記請求項1におけるフレ
ームレート変換方式の構成を示すものである。
【0213】図7において、621は端末であり、その
処理能力はc1とする。622は上記端末621の後段
に接続された通信回線であり、その伝送速度はb1とす
る。623は上記通信回線622の後段に接続されたフ
レームレート変換部であり、フレームレート変換情報が
端末625から入力され、通信回線622の伝送速度b
1と、通信回線624の伝送速度b2と端末625の処
理能力c2とをそれぞれ考慮したフレームレート変換を
行うように構成されている。624は通信回線であり、
その伝送速度はb2とする。また、625は端末であ
り、その処理能力はc2とする。
【0214】以下、フレームレートの高い画像データを
端末621側から入力し、通信回線の伝送速度が、b1
≧b2となる関係で、かつ、端末の処理能力が、c1=
c2の関係となるときのフレームレート変換方式につい
て図7を参照しながら説明する。
【0215】ここで、c1=c2であるので、端末同士
の処理能力は等しく、これに合わせたフレームレートの
変換は考慮する必要はない。よって、通信回線間の伝送
速度b1とb2の関係に着目することになる。
【0216】今、通信回線624の伝送速度b2は通信
回線622の伝送速度b1以下であるので、フレームレ
ート変換部623では通信回線624の伝送速度b2で
伝送可能なフレームレートに変換すればよいことにな
る。よって、端末621側から入力されたフレームレー
トの高いハイブリッド符号化された画像データは、伝送
速度b2の性能にあった、フレームレートの低いハイブ
リッド符号化された画像データにフレームレート変換さ
れて端末625側に出力される。端末625では、通信
回線624の伝送速度b2 と等しいフレームレートの画
像データが送られて、端末625の処理能力範囲で完全
に再生されて表示されることになる。
【0217】次に、フレームレートの高い画像データを
端末621側から入力し、通信回線の伝送速度が、b1
≧b2となる関係で、かつ、端末の処理能力が、c1>
c2の関係となるときのフレームレート変換方式につい
て図7を参照しながら説明する。
【0218】端末621,625の処理能力c1とc2
の関係に着目すると、端末621の処理能力c1よりも
端末625の処理能力c2が低いので、端末625の処
理能力c2で処理可能なフレームレートに変換すればよ
いことになる。また、通信回線622,624の伝送速
度b1とb2の関係に着目すると、通信回線624の伝
送速度b2は通信回線622の伝送速度b1以下である
ので、通信回線624の伝送速度b2で伝送可能なフレ
ームレートに変換すればよいことになる。
【0219】ここで、端末625の処理能力c2で処理
可能なフレーム数よりも、通信回線624の伝送速度b
2で伝送可能なフレーム数の方が多い場合、端末625
の処理能力c2で処理可能なフレーム数を超えるフレー
ムを伝送しても端末625ではデコードできないので、
通信回線の使用効率が悪くなることになる。これを回避
するために、端末621側から入力されたフレームレー
トの高いハイブリッド符号化された画像データは、端末
625の処理能力c2の性能にあった、フレームレート
の低いハイブリッド符号化された画像データにフレーム
レート変換されて端末625側に出力される。
【0220】また、端末625の処理能力c2で処理可
能なフレーム数よりも、通信回線624の伝送速度b2
で伝送可能なフレーム数の方が少ない場合、通信回線6
24の伝送速度b2で伝送可能なフレーム数しか伝送す
ることができないので、端末621側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線624の伝送速度b2の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末625側に出力さ
れる。
【0221】また、さらに、端末625の処理能力c2
で処理可能なフレーム数と通信回線624の伝送速度b
2で伝送可能なフレーム数が等しい場合、端末621側
から入力されたフレームレートの高いハイブリッド符号
化された画像データは、通信回線624の伝送速度b
2、もしくは端末625の処理能力c2の性能にあっ
た、フレームレートの低いハイブリッド符号化された画
像データにフレームレート変換されて端末625側に出
力される。
【0222】次に、フレームレートの高い画像データ
を、端末621側から入力し、通信回線の伝送速度がb
1<b2となる関係で、かつ、端末の処理能力が、c1
>c2の関係となるときのフレームレート変換方式につ
いて図7を参照しながら説明する。
【0223】端末621,625の処理能力c1とc2
の関係に着目すると、端末621の処理能力c1よりも
端末625の処理能力c2が低いので、端末625の処
理能力c2で処理可能なフレームレートに変換すればよ
いことになる。また、通信回線622,624の伝送速
度b1とb2の関係に着目すると、通信回線622の伝
送速度b1は通信回線624の伝送速度b2より遅いの
で、通信回線622の伝送速度b1で伝送可能なフレー
ムレートに変換すればよいことになる。
【0224】ここで、端末625の処理能力c2で処理
可能なフレーム数よりも、通信回線622の伝送速度b
1で伝送可能なフレーム数の方が多い場合、端末625
の処理能力c2で処理可能なフレーム数を超えるフレー
ムを伝送しても端末625ではデコードできないので、
通信回線の使用効率が悪くなることになる。これを回避
するために、端末621側から入力されたフレームレー
トの高いハイブリッド符号化された画像データは、端末
625の処理能力c2の性能にあった、フレームレート
の低いハイブリッド符号化された画像データにフレーム
レート変換されて端末625側に出力される。
【0225】また、端末625の処理能力c2で処理可
能なフレーム数よりも、通信回線622の伝送速度b1
で伝送可能なフレーム数の方が少ない場合、通信回線6
22の伝送速度b1で伝送可能なフレーム数しか伝送す
ることができないので、端末621側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線622の伝送速度b1の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末625側に出力さ
れる。
【0226】また、さらに、端末625の処理能力c2
で処理可能なフレーム数と通信回線622の伝送速度b
1で伝送可能なフレーム数が等しい場合、端末621側
から入力されたフレームレートの高いハイブリッド符号
化された画像データは、通信回線622の伝送速度b
1、もしくは端末625の処理能力c2の性能にあっ
た、フレームレートの低いハイブリッド符号化された画
像データにフレームレート変換されて端末625側に出
力される。
【0227】次に、フレームレートの高い画像データを
端末621側から入力し、通信回線の伝送速度がb1>
b2となる関係で、かつ、端末の処理能力が、c1<c
2の関係となるときのフレームレート変換方式について
図7を参照しながら説明する。
【0228】端末621,625の処理能力c1とc2
の関係に着目すると、端末625の処理能力c2よりも
端末621の処理能力c1が低いので、端末621の処
理能力c1で処理可能なフレームレートをそのまま使用
すればよいことになる。また、通信回線622,624
の伝送速度b1とb2の関係に着目すると、通信回線6
24の伝送速度b2は通信回線622の伝送速度b1よ
りも遅いので、通信回線624の伝送速度b2で伝送可
能なフレームレートに変換すればよいことになる。
【0229】ここで、端末621の処理能力c1で処理
可能なフレーム数よりも、通信回線624の伝送速度b
2で伝送可能なフレーム数の方が多い場合、端末621
の処理能力c1で処理可能なフレーム数を超えるフレー
ムは通信回線624の伝送速度b2を利用しても伝送で
きない。よって、端末621側から入力されたハイブリ
ッド符号化された画像データは、フレームレート変換さ
れずに、そのまま端末625側に出力される。
【0230】また、端末621の処理能力c1で処理可
能なフレーム数よりも、通信回線624の伝送速度b2
で伝送可能なフレーム数の方が少ない場合、通信回線6
24の伝送速度b2で伝送可能なフレーム数しか伝送す
ることができないので、端末621側から入力されたフ
レームレートの高いハイブリッド符号化された画像デー
タは、通信回線624の伝送速度b2の性能にあった、
フレームレートの低いハイブリッド符号化された画像デ
ータにフレームレート変換されて端末625側に出力さ
れる。
【0231】また、さらに、端末621の処理能力c1
で処理可能なフレーム数と通信回線624の伝送速度b
2で伝送可能なフレーム数とが等しい場合、端末621
側から入力されたハイブリッド符号化された画像データ
は、フレームレート変換されずに、そのまま端末625
側に出力される。
【0232】図8は図7に示したフレームレート変換部
の詳細な構成を示す図であり、上記実施の形態2から実
施の形態5において、入力されたフレームレートの高い
画像データで(i+1)から(i+n)番目のフレーム
までが、動き補償を伴うフレーム間予測誤差に対して直
交変換を行うハイブリッド符号化されたデータである場
合の(i+n)番目のフレームの処理時のフレームレー
ト変換方式を示すものである。
【0233】図8において、601は入力であり、フレ
ームレートの高い画像データが入力される。
【0234】602は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側端末の符号化装置で設定されたフレーム内/
フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0235】603は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数に変換する。
【0236】604は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段608に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ606に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データを加算する。
【0237】605は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段603によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段604により算出された
直交変換係数が選択され出力される。
【0238】606は画像メモリであり、上記直交変換
係数選択手段605により選択された直交変換係数を記
憶するためのものである。
【0239】607は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ60
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段608に出力する。動き補償が「な
し」の時は画像メモリ606に記憶されている直交変換
係数を予測誤差直交変換データ加算手段604に出力す
る。
【0240】608は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段607にて「あり」と判断
されたときの画像メモリ606に記憶されていた直交変
換係数を、マトリクス演算することにより、動きベクト
ルを考慮して演算された直交変換係数を算出する。マト
リクス演算については後述の方法を用いることとする。
【0241】609は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段6
13により設定された画像取込指示により、画像メモリ
606に記憶されている直交変換係数を取り込み、後述
する画像メモリ610に直交変換係数を出力する。
【0242】610は画像メモリであり、初期画像取込
選択手段609により選択された直交変換係数を記憶す
るためのものである。
【0243】611はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ6
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段613へ出力し、「フレーム間」の
時は、画像メモリ606の直交変換係数を後述する直交
変換係数減算手段612へ出力する。
【0244】612は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段611で、「フ
レーム間」と判断された画像メモリ606に記憶されて
いた直交変換係数から画像メモリ610の直交変換係数
を減算する。
【0245】613は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ6
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段611からの直交変
換係数と、直交変換係数減算手段612からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、後
述する量子化手段614へ出力する。また、量子化係数
(in)を再設定し、量子化係数(out)として後述
する量子化手段614へ出力する。
【0246】614は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0247】615はフレームレート変換制御手段であ
り、フレームレート変換情報より、フレームレート変換
の継続/終了を判断する。そしてフレームレート変換終
了後、可変長符号化手段617に、量子化された動き補
償を伴わない予測誤差直交変換データ,量子化された直
交変換係数を出力し、フレームレート変換が行われない
時は、可変長復号化手段602からの量子化された動き
補償を伴う予測誤差直交変換データ,量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数をそのまま出力する。
【0248】616は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段613
から出力された動き補償あり/なし(out)により動
きベクトルの選択を行う。すなわち、動き補償あり/な
し(out)が「あり」の時は、動きベクトル(in)
を後述する可変長符号化手段617にそのまま出力し、
「なし」の時には可変長符号化手段617には動きベク
トル(in)を出力しない。
【0249】617は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out),動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別,動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0250】618は出力であり、ここからフレームレ
ートの低い画像データが出力される。
【0251】以下、フレームレート変換処理の詳細につ
いて説明する。入力される画像データを、0からi番目
のフレームまではフレームレート変換なしとし、(i+
1)から(i+n)番目のフレームまでを合成して、フ
レームレート変換を行い、(i+n+1)番目のフレー
ム以降のフレームは、フレームレート変換なしとして説
明する。
【0252】フレームレート変換しない0〜iフレーム
までは、可変長復号化手段602,逆量子化手段60
3,予測誤差直交変換データ加算手段604,直交変換
係数選択手段605,動き補償あり/なし(in)判断
手段607,動きベクトル・直交変換係数演算手段60
8を経由して画像メモリ606にS(i)として記憶さ
れる。また、初期画像取込選択手段609を経由し、画
像メモリ610にもS(i)として記憶される。また、
可変長復号化手段602により可変長復号化されたQ
(Emv(0))からQ(Emv(i))は、フレーム
レート変換制御手段615により選択されて、可変長符
号化手段617により可変長符号化されて、V(Q(E
mv(0)))からV(Q(Emv(i)))として出
力される。
【0253】一方、フレームレート変換を行う(i+
1)フレームは、可変長復号化手段602により、可変
長復号化され、量子化された動き補償を伴う予測誤差直
交変換データQ(Emv(i+1))に変換される。
【0254】そして、Q(Emv(i+1))は逆量子
化手段603により、逆量子化され、動き補償を伴う予
測誤差直交変換データEmv(i+1)に変換される。
【0255】このEmv(i+1)は、予測誤差直交変
換データ加算手段604により、動き補償あり/なし
(in)判断手段607で「あり」と判断される画像メ
モリ606に記憶されているS(i)を、動きベクトル
・直交変換係数演算手段608で処理したS’(i)と
加算され、直交変換係数選択手段605にて「フレーム
間」と判断され、画像メモリ606にS(i+1)とし
て記憶される。
【0256】(i+2)から(i+n)番目のフレーム
までについても、上記(i+1)番目のフレームと同様
の処理を繰り返すことで処理される。
【0257】そして、上記(i+n)フレームの処理が
終了した時点で、画像メモリ606には、直交変換係数
S(i+n)が記憶されており、画像メモリ610には
直交変換係数S(i)が記憶されている。
【0258】上記直交変換係数S(i+n)は、フレー
ム内/フレーム間(in)判断手段611で、「フレー
ム間」と判断され、直交変換係数減算手段612によ
り、S(i+n)−S(i)の処理が行われ、S(n)
が算出される。ここで、S(n)は、動き補償を伴わな
い予測誤差直交変換データであり、(i+1)番目のフ
レームのデータとすると、E(i+1)=S(n)とす
ることができる。
【0259】上記動き補償を伴わない予測誤差直交変換
データE(i+1)は符号化制御・フレーム内/フレー
ム間判断手段613にて、フレーム内/フレーム間(i
n)を用いることにより、「フレーム間」と判断され、
選択される。フレームレート変換中は、動き補償あり/
なし(out)は「なし」に設定される。画像取込指示
は量子化手段614にE(i+1)が出力された後、出
力される。
【0260】E(i+1)は量子化手段614により量
子化されて、量子化された動き補償を伴わない予測誤差
直交変換データQ(E(i+1))に変換される。
【0261】この量子化された動き補償を伴わない予測
誤差直交変換データQ(E(i+1))は可変長符号化
手段617により、可変長符号化され、量子化され可変
長符号化された動き補償を伴わない予測誤差直交変換デ
ータV(Q(E(i+1)))として出力される。
【0262】一方、フレームレート変換しない(i+n
+1)番目のフレームは、可変長復号化手段602,逆
量子化手段603,予測誤差直交変換データ加算手段6
04,直交変換係数選択手段605,動き補償あり/な
し(in)判断手段607,動きベクトル・直交変換係
数演算手段608を経由して、画像メモリ606に、直
交変換係数S(i+n+1)として記憶される。また、
初期画像取込選択手段609を経由して、画像メモリ6
10にもS(i+n+1)として記憶される。また、可
変長復号化手段602により可変長復号化されて得られ
たQ(Emv(i+n+1))は、フレームレート変換
制御手段615により選択されて、Q(Emv(i+
2))となり、さらに可変長符号化手段617により可
変長符号化されて、V(Q(Emv(i+2)))とし
て出力される。そして、(i+n+1)より後のフレー
ムについても上記(i+n+1)番目のフレームと同様
の処理が行われる。
【0263】以上のように、本実施の形態によれば、フ
レームレート変換部623で、フレームレートの高いハ
イブリッド符号化された画像データを、フレームレート
の低いハイブリッド符号化された画像データに変換する
際に、通信回線の伝送速度と端末の処理能力を考慮し、
最も律速となる処理速度に合わせてフレームレートを変
換するようにしたから、通信回線の使用効率が悪化する
ことがなくなる。
【0264】また、ハイブリッド符号化された画像デー
タの中の任意の開始フレーム、任意の合成フレーム枚数
を制御することにより、動き補償を伴うフレーム間予測
誤差に対して直交変換を行うハイブリッド符号化された
データに対して、該データのみを選択的にフレームレー
ト変換を行うことができ、演算量が大幅に減少し、高速
で負荷の少ないフレームレート変換を行うことができ
る。
【0265】実施の形態7.以下、本発明の請求項7に
対応する実施の形態7.に係るフレームレート変換方式
を利用するフレームレート変換装置について、図面を参
照しながら説明する。
【0266】図9は上記実施の形態1から6におけるフ
レームレート変換方式を利用したフレームレート変換装
置を示すものである。
【0267】図9において、701は入力端子であり、
処理能力の高い端末からのフレームレートの高い画像デ
ータまたは、伝送速度の速い通信回線からのフレームレ
ートの高い画像データが入力される。
【0268】702は可変長復号化手段であり、ハイブ
リッド符号化データを可変長復号化することにより、量
子化された動き補償を伴う予測誤差直交変換データ,量
子化された動き補償を伴わない予測誤差直交変換デー
タ,量子化された直交変換係数に変換する。また、同時
に、入力側端末の符号化装置で設定されたフレーム内/
フレーム間識別を検出して、フレーム内/フレーム間
(in)を設定し、また、入力側端末の符号化装置で設
定された動き補償あり/なし識別を検出して、動き補償
あり/なし(in)を設定し、また、入力側端末の符号
化装置で設定された量子化係数を検出して、量子化係数
(in)を設定し、さらに、入力側端末の符号化装置で
設定された動きベクトルを検出して、動きベクトル(i
n)を設定する。
【0269】703は逆量子化手段であり、上記設定さ
れた量子化係数(in)により、量子化された動き補償
を伴う予測誤差直交変換データ,量子化された動き補償
を伴わない予測誤差直交変換データ,量子化された直交
変換係数を、動き補償を伴う予測誤差直交変換データ,
動き補償を伴わない予測誤差直交変換データ,直交変換
係数にそれぞれ変換する。
【0270】704は予測誤差直交変換データ加算手段
であり、動きベクトル・直交変換係数演算手段708に
て動きベクトルを考慮して演算された直交変換係数、ま
たは画像メモリ706に記憶されている直交変換係数
と、動き補償を伴う予測誤差直交変換データ、または動
き補償を伴わない予測誤差直交変換データとを加算す
る。
【0271】705は直交変換係数選択手段であり、上
記設定されたフレーム内/フレーム間(in)により制
御される。すなわち、上記フレーム内/フレーム間(i
n)が「フレーム内」の時は、逆量子化手段703によ
り逆量子化された直交変換係数が選択され、上記フレー
ム内/フレーム間(in)が「フレーム間」の時は、予
測誤差直交変換データ加算手段704により算出された
直交変換係数が選択され出力される。
【0272】706は画像メモリであり、上記直交変換
係数選択手段705により選択された直交変換係数を記
憶するためのものである。
【0273】707は動き補償あり/なし(in)判断
手段であり、動き補償が「あり」の時は画像メモリ70
6に記憶されている直交変換係数を動きベクトル・直交
変換係数演算手段708に出力する。動き補償が「な
し」の時は画像メモリ706に記憶されている直交変換
係数を予測誤差直交変換データ加算手段704に出力す
る。
【0274】708は動きベクトル・直交変換係数演算
手段であり、動きベクトル(in)を用いて、動き補償
あり/なし(in)判断手段707にて「あり」と判断
された画像メモリ706に記憶されていた直交変換係数
を、マトリクス演算することにより、動きベクトルを考
慮して演算された直交変換係数を算出する。マトリクス
演算については後述の方法を用いる。
【0275】709は初期画像取込選択手段であり、後
述する符号化制御・フレーム内/フレーム間判断手段7
13により設定された画像取込指示により、画像メモリ
706に記憶されれているの直交変換係数を取り込み、
後述する画像メモリ710に直交変換係数を出力する。
【0276】710は画像メモリであり、初期画像取込
選択手段709により選択された直交変換係数を記憶す
るためのものである。
【0277】711はフレーム内/フレーム間(in)
判断手段であり、「フレーム内」の時は、画像メモリ7
06の直交変換係数を後段の符号化制御・フレーム内/
フレーム間判断手段713へ出力し、「フレーム間」の
時は、画像メモリ706の直交変換係数を後述する直交
変換係数減算手段712へ出力する。
【0278】712は直交変換係数減算手段であり、フ
レーム内/フレーム間(in)判断手段711で、「フ
レーム間」と判断されたときに画像メモリ706に記憶
されていた直交変換係数から、画像メモリ710の直交
変換係数を減算する。
【0279】713は符号化制御・フレーム内/フレー
ム間判断手段であり、フレームレート変換が行われてい
ない時には、動き補償あり/なし(in)をそのまま動
き補償あり/なし(out)として出力し、フレームレ
ート変換が行われている時には、動き補償あり/なし
(out)は「なし」に設定して出力する。また、フレ
ームレート変換を行う1つ前のフレームを画像メモリ7
10に記憶させるために、画像取込指示を出力する。ま
た、フレーム内/フレーム間(in)を用いて、フレー
ム内/フレーム間(in)判断手段711からの直交変
換係数と、直交変換係数減算手段712からの動き補償
を伴わない予測誤差直交変換データとの選択を行い、量
子化手段714へ出力する。また、量子化係数(in)
を再設定し、量子化係数(out)として後述する量子
化手段714へ出力する。
【0280】714は量子化手段であり、上記出力され
た量子化係数(out)により、動き補償を伴わない予
測誤差直交変換データ,直交変換係数を、量子化された
動き補償を伴わない予測誤差直交変換データ,量子化さ
れた直交変換係数にそれぞれ変換する。
【0281】715はフレームレート変換制御手段であ
り、フレームレート変換情報よりフレームレート変換の
継続/終了を判断する。そして、フレームレート変換終
了後、可変長符号化手段717に、量子化された動き補
償を伴わない予測誤差直交変換データ,量子化された直
交変換係数を出力し、フレームレート変換が行われない
時は、可変長復号化手段702からの量子化された動き
補償を伴う予測誤差直交変換データ,量子化された動き
補償を伴わない予測誤差直交変換データ,量子化された
直交変換係数をそのまま出力する。
【0282】716は動きベクトル選択手段であり、上
記符号化制御・フレーム内/フレーム間判断手段713
から出力された動き補償あり/なし(out)により、
動きベクトルの選択を行う。すなわち、動き補償あり/
なし(out)が「あり」の時は、動きベクトル(i
n)を可変長符号化手段717にそのまま出力し、「な
し」の時には、可変長符号化手段717には動きベクト
ル(in)を出力しない。
【0283】717は可変長符号化手段であり、量子化
された動き補償を伴う予測誤差直交変換データ,量子化
された動き補償を伴わない予測誤差直交変換データ,量
子化された直交変換係数を可変長符号化することによ
り、ハイブリッド符号化データに変換する。また、同時
に、フレーム内/フレーム間(in)により、出力側端
末の復号化装置に対して設定されたフレーム内/フレー
ム間識別を設定し、動き補償あり/なし(out)、動
きベクトル(in)により、出力側端末の復号化装置に
対して動き補償あり/なし識別、動きベクトルを設定
し、量子化係数(in)により、出力側端末の復号化装
置に対して量子化係数を設定する。
【0284】718は出力であり、処理能力の低い端末
へのフレームレートの低い画像データまたは、伝送速度
の遅い通信回線へのフレームレートの低い画像データが
出力される。
【0285】以下に、上記実施の形態1〜7で用いられ
る動きベクトル・直交変換係数演算手段(108,20
8,308,408,508,608,708)によ
り、動きベクトルを考慮して演算された直交変換係数を
算出するためのマトリクス演算について説明する。
【0286】図11は、上記動きベクトル・直交変換係
数演算手段(108,208,308,408,50
8,608,708)の詳細を説明するフローチャート
を示す図で、1001はブロック探索手段、1002は
直交変換係数演算手段、1003は直交変換係数加算手
段を示す。
【0287】ここで、動きベクトル・直交変換係数演算
手段(108,208,308,408,508,60
8,708)の詳細を説明するために、以下のことを定
義しておく。
【0288】動きベクトル・直交変換係数演算手段(1
08,208,308,408,508,608,70
8)は、動き補償ありの場合、画像メモリ(106,2
06,306,406,506,606,706)に記
憶されていた直交変換係数と動きベクトル(in)を取
り込む。
【0289】二次元直交変換の処理をF、二次元直交変
換を一次元直交変換に分解した時の変換行列をT、転置
行列をtで表す。
【0290】入力された画像データで動き補償を伴うフ
レーム間予測誤差に対して直交変換を行うハイブリッド
符号化されたデータを逆直交変換した画像ブロックを
M、画像メモリ(106,206,306,406,5
06,606,706)に記憶されていた直交変換係数
を逆直交変換した画像ブロックをAとする。AはMの参
照ブロックである。画像メモリ(106,206,30
6,406,506,606,706)に記憶されてい
たデータは直交変換係数であるのでブロック境界で分割
されており、Aは最大で4分割される場合がある。この
4分割された場合のブロックを左上ブロックをA1、右
上ブロックをA2、左下ブロックをA3、右下ブロック
をA4とする。A1,A2,A3,A4におけるAとの
共通部分をMに対応する位置に移動し、移動した部分以
外を0とした画像ブロックをそれぞれB1,B2,B
3,B4とする。図12は、画像ブロックM、A、A
1,A2,A3,A4、B1,B2,B3,B4を示す
ものである。図12のA1,A2,A3,A4とB1,
B2,B3,B4の同じ網掛け部分はそれぞれの値は等
しい。また、AとMに使用されている記号は位置関係を
示しているだけであり、それぞれの値は異なる。
【0291】図11の1001はブロック探索手段であ
り、動きベクトル(in)を用いることにより、Aが探
索される。
【0292】図11の1002は直交変換係数演算手段
であり、上記探索されたAから、F(A1),F(A
2),F(A3),F(A4)を求める。ここで、F
(A1),F(A2),F(A3),F(A4)は、画
像メモリ(106,206,306,406,506,
606,706)に記憶されていた直交変換係数の画像
ブロックと等しい。後述するマトリクス演算を利用し
て、F(B1),F(B2),F(B3),F(B4)
を求める。以下に、マトリクス演算の方法を示す。この
演算を行うために用いるマトリクスを図13,図14に
示す。このマトリクスをS行列とする。また、ここでは
ブロックの大きさが8×8である場合について説明す
る。図15,図16,図17,18は、S行列を掛けた
時の8×8のブロックの移動について示したものであ
る。m=1〜7とすると、Sdlmを8×8のブロック
に対して左から掛けると図15に示すように、8×8の
ブロックはm行分下に移動され、上からm行目まで全て
0に変換される。Sdlmを8×8のブロックに対して
右から掛けると図16に示すように、8×8のブロック
はm列分左に移動され、右からm列目まで全て0に変換
される。Surmを8×8のブロックに対して左から掛
けると図17に示すように、8×8のブロックはm行分
上に移動され、下からm行目まで全て0に変換される。
Surmを8×8のブロックに対して右から掛けると図
18に示すように、8×8のブロックはm列分右に移動
され、左からm列目まで全て0に変換される。
【0293】次にF(A1)をF(B1)に変換する方
法については図面を参照しながら説明する。
【0294】図19はA1をB1に変換する方法の説明
を示したものである。A,A1,B1が8×8のブロッ
クであり、A1とAの共通部分の大きさをa行b列とす
る。A1を上に(8−a)行分、左に(8−b)列分移
動し、右から8−a行目、下から8−b列目まで0に変
換すればよいことになる。この変換は、A1に対してS
ur(8−a)を左から掛け、この後、Sdl(8−
b)を右から掛けることにより行われる。これを式で表
すと、 Sur(8−a)×A1×Sdl(8−b)=B1 となる。F(B1)を求めるには F(B1) =F(Sur(8−a)×A1×Sdl(8−b)) =TSur(8−a)×A1×Sdl(8−b)tT =TSur(8−a)Tt×TA1Tt×TSdl(8−b)tT =F(Sur(8−a))×F(A1)×F(Sdl(8−b)) とすればよい。これにより、S行列自体は必要でないと
いうことが分かり、F(S行列)については予め計算
し、準備しておけば、F(A1)からF(B1)を求め
ることが容易になる。F(B2)、F(B3)、F(B
4)も同様に求めることができる。
【0295】図11の1003は直交変換係数加算手段
であり、F(B1),F(B2),F(B3),F(B
4)を加算し、F(A)を求める。この処理の詳細を示
すと、直交変換は線形の操作であるので、F(B1),
F(B2),F(B3),F(B4)を加算すると、 F(B1)+F(B2)+F(B3)+F(B4)=F
(B1+B2+B3+B4) となり、ここで、B1〜B4の網掛け部分とA1〜A4
の網掛け部分が等しいので B1+B2+B3+B4=A であるので、 F(B1+B2+B3+B4)=F(A) よって、 F(B1)+F(B2)+F(B3)+F(B4)=F
(A) となる。
【0296】この操作により求まったF(A)はフレー
ム単位でまとめられることにより、S’(i)となる。
【0297】以上のように、本実施の形態によれば、逆
直交変換,動き検出,直交変換の処理を省略することに
より演算量を減らし、従来の技術に比べ大幅な負荷の軽
減と高速化を図り、通信回線の使用効率の向上をはかる
ことができ、また、端末の処理能力に対応したフレーム
レートの画像データを生成することができるという効果
がある。
【0298】
【発明の効果】以上のように、本発明の請求項1に係る
フレームレート変換方式によれば、端末間でハイブリッ
ド符号化された画像データを通信する場合において、通
信回線の伝送速度によってフレームレートを変換するだ
けではなく、端末の処理能力を考慮することにより、入
力されたフレームレートの高い画像データを、端末の処
理能力に応じたフレームレートに変換し、フレームレー
トの低い画像データとして出力するようにしたので、出
力において、通信回線で伝送可能なフレーム数よりも、
端末で処理できるフレーム数の方が少ない場合は、端末
の処理能力を考慮してフレームレートの変換が行われ、
端末で処理できないフレーム数のハイブリッド符号化さ
れた画像データが通信回線に出力されることがなくな
り、通信回線の使用効率を向上させることができる効果
がある。
【0299】また、本発明の請求項2に係るフレームレ
ート変換方式によれば、フレームレートの高い動き補償
を伴うフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化された画像データを入力し、逆直交変
換,動き検出,直交変換の処理を省略することにより演
算量を減らし、従来の技術に比べ大幅な負荷の軽減と高
速化を図ることができ、また、フレームレートの低い動
き補償を伴わないフレーム間予測誤差に対して直交変換
を行うハイブリッド符号化された画像データを生成する
ことができるフレームレート変換方式を提供できるとい
う効果がある。
【0300】また、本発明の請求項3に係るフレームレ
ート変換方式によれば、フレームレートの高い動き補償
を伴うフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化された画像データと、動き補償を伴わな
いフレーム間予測誤差に対して直交変換を行うハイブリ
ッド符号化された画像データとの両方が含まれる画像デ
ータを入力し、逆直交変換,動き検出,直交変換の処理
を省略することにより演算量を減らし、従来の技術に比
べ大幅な負荷の軽減と高速化を図ることができ、また、
フレームレートの低い動き補償を伴わないフレーム間予
測誤差に対して直交変換を行うハイブリッド符号化され
た画像データを生成することができるフレームレート変
換方式を提供できるという効果がある。
【0301】また、本発明の請求項4に係るフレームレ
ート変換方式によれば、フレームレートの高い動き補償
を伴うフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化された画像データと、フレーム内符号化
された画像データとの両方が含まれる画像データを入力
し、逆直交変換,動き検出,直交変換の処理を省略する
ことにより演算量を減らし、従来の技術に比べ大幅な負
荷の軽減と高速化を図ることができ、また、フレームレ
ートの低い動き補償を伴わないフレーム間予測誤差に対
して直交変換を行うハイブリッド符号化された画像デー
タと、フレーム内符号化された画像データとの両方が含
まれる画像データを生成することができるフレームレー
ト変換方式を提供できるという効果がある。
【0302】また、本発明の請求項5に係るフレームレ
ート変換方式によれば、フレームレートの高い動き補償
を伴うフレーム間予測誤差に対して直交変換を行うハイ
ブリッド符号化された画像データと、動き補償を伴わな
いフレーム間予測誤差に対して直交変換を行うハイブリ
ッド符号化された画像データと、フレーム内符号化され
た画像データとの3つが含まれる画像データを入力し、
逆直交変換,動き検出,直交変換の処理を省略すること
により演算量を減らし、従来の技術に比べ大幅な負荷の
軽減と高速化を図ることができ、また、フレームレート
の低い動き補償を伴わないフレーム間予測誤差に対して
直交変換を行うハイブリッド符号化された画像データ
と、フレーム内符号化された画像データとの両方が含ま
れる画像データを生成することができるフレームレート
変換方式を提供できるという効果がある。
【0303】また、本発明の請求項6に係るフレームレ
ート変換方式によれば、端末間でハイブリッド符号化さ
れた画像データを通信する場合において、通信回線の伝
送速度によってフレームレートを変換するだけではな
く、端末の処理能力を考慮することにより、入力された
フレームレートの高い画像データを、端末の処理能力に
応じたフレームレートに、上記請求項2ないし請求項5
のいずれかに記載のフレームレート変換方式を用いて変
換し、逆直交変換,動き検出,直交変換の処理を省略す
ることにより演算量を減らし、従来の技術に比べ大幅な
負荷の軽減と高速化を図ることができ、フレームレート
の低い画像データとして出力するようにしたので、出力
において、通信回線で伝送可能なフレーム数よりも、端
末で処理できるフレーム数の方が少ない場合は、端末の
処理能力を考慮してフレームレートの変換が行われ、端
末で処理できないフレーム数のハイブリッド符号化され
た画像データが通信回線に出力されることがなくなり、
通信回線の使用効率を向上させることができる効果があ
る。
【0304】また、本発明の請求項7に係るフレームレ
ート変換装置によれば、上記請求項1ないし請求項6の
いずれかに記載のフレームレート変換方式を利用して、
逆直交変換,動き検出,直交変換の処理を省略すること
により演算量を減らし、従来の技術に比べ大幅な負荷の
軽減と高速化を図り、通信回線の使用効率の向上をはか
ることができ、また、端末の処理能力に対応したフレー
ムレートの画像データを生成することができるという効
果がある。
【図面の簡単な説明】
【図1】本発明の請求項1に係るフレームレート変換方
式の構成を説明するための図である。
【図2】上記請求項1に係るフレームレート変換方式に
よるフレームレート変換処理を説明するためのフローチ
ャートを示す図である。
【図3】本発明の請求項2に係るフレームレート変換方
式を説明するためのフローチャートを示す図である。
【図4】本発明の請求項3に係るフレームレート変換方
式を説明するためのフローチャートを示す図である。
【図5】本発明の請求項4に係るフレームレート変換方
式を説明するためのフローチャートを示す図である。
【図6】本発明の請求項5に係るフレームレート変換方
式を説明するためのフローチャートを示す図である。
【図7】本発明の請求項6に係るフレームレート変換方
式の構成を説明するための図である。
【図8】上記請求項6に係るフレームレート変換方式に
よるフレームレート変換処理を説明するためのフローチ
ャートを示す図である。
【図9】本発明の請求項7に係るフレームレート変換装
置の構成を示す図である。
【図10】従来のレート変換画像符号化装置の構成を示
す図である。
【図11】動きベクトル・直交変換係数演算手段の詳細
を説明するフローチャートを示す図である。
【図12】画像ブロックM、A、A1,A2,A3,A
4、B1,B2,B3,B4を示す図である。
【図13】動きベクトルを考慮して演算された直交変換
係数を算出するためのマトリクス演算方法にて用いられ
るマトリクスを示す図である。
【図14】動きベクトルを考慮して演算された直交変換
係数を算出するためのマトリクス演算方法にて用いられ
るマトリクスを示す図である。
【図15】Sdlm行列を左から掛けた時の8×8のブ
ロックの移動について示す図である。
【図16】Sdlm行列を右から掛けた時の8×8のブ
ロックの移動について示す図である。
【図17】Surm行列を左から掛けた時の8×8のブ
ロックの移動について示す図である。
【図18】Surm行列を右から掛けた時の8×8のブ
ロックの移動について示す図である。
【図19】A1をB1に変換する方法の説明を示す図で
ある。
【図20】従来のフレームレート変換方式の構成を示す
図である。
【符号の説明】 104 予測誤差直交変換データ加算手段 112 直交変換係数減算手段 204 予測誤差直交変換データ加算手段 212 直交変換係数減算手段 304 予測誤差直交変換データ加算手段 312 直交変換係数減算手段 404 予測誤差直交変換データ加算手段 412 直交変換係数減算手段 504 予測誤差直交変換データ加算手段 512 直交変換係数減算手段 604 予測誤差直交変換データ加算手段 612 直交変換係数減算手段 704 予測誤差直交変換データ加算手段 705 直交変換係数選択手段 707 動き補償あり/なし(in)判断手段 709 初期画像取込選択手段 711 フレーム内/フレーム間(in)判断手段 712 直交変換係数減算手段 715 フレームレート変換制御手段 919 加算手段 921 スイッチ手段 922 セレクタ 924 加算手段 927 セレクタ 928 減算手段 931 セレクタ 934 加算手段 937 セレクタ

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 端末間でハイブリッド符号化された画像
    データを通信する場合において、一方の端末をa1、他
    方の端末をa2とし、端末a1が接続されている通信回
    線の伝送速度をb1、端末a2が接続されている通信回
    線の伝送速度をb2、さらに、端末a1の処理能力をc
    1、端末a2の処理能力をc2としたとき、 フレームレートの高い画像データを端末a1側から入力
    し、端末a2側に出力するフレーム数を、伝送速度がb
    1≧b2で、かつ端末の処理能力がc1=c2のときに
    は、b2で伝送できるフレーム数に設定し、伝送速度が
    b1≧b2で、かつ端末の処理能力がc1>c2のとき
    には、b2で伝送できるフレーム数とc2で処理できる
    フレーム数のどちらか少ない方のフレーム数に設定し、
    伝送速度がb1<b2で、かつ端末の処理能力がc1>
    c2のときには、b1で伝送できるフレーム数とc2で
    処理できるフレーム数のどちらか少ない方のフレーム数
    に設定し、伝送速度がb1>b2で、かつ端末の処理能
    力がc1<c2のときには、b2で伝送できるフレーム
    数とc1で処理できるフレーム数のどちらか少ない方の
    フレーム数に設定し、上記端末a1から入力されたフレ
    ームレートの高い画像データのフレームレートを変換し
    て上記端末a2側にフレームレートの低い画像データと
    して出力することを特徴とするフレームレート変換方
    式。
  2. 【請求項2】 フレームレートの高い動き補償を伴うフ
    レーム間予測誤差に対して直交変換を行うハイブリッド
    符号化された画像データを入力し、動き補償を伴うフレ
    ーム間予測誤差に対して直交変換を行うハイブリッド符
    号化された画像データのフレームを複数枚まとめて1枚
    の動き補償を伴わないフレーム間予測誤差に対して直交
    変換を行うハイブリッド符号化された画像データのフレ
    ームに合成することによりフレームレートを変換し、フ
    レームレートの低い動き補償を伴わないフレーム間予測
    誤差に対して直交変換を行うハイブリッド符号化された
    画像データとして出力することを特徴とするフレームレ
    ート変換方式。
  3. 【請求項3】 フレームレートの高い動き補償を伴うフ
    レーム間予測誤差に対して直交変換を行うハイブリッド
    符号化された画像データと、動き補償を伴わないフレー
    ム間予測誤差に対して直交変換を行うハイブリッド符号
    化された画像データとの両方が含まれる画像データを入
    力し、動き補償を伴うフレーム間予測誤差に対して直交
    変換を行うハイブリッド符号化された画像データと、動
    き補償を伴わないフレーム間予測誤差に対して直交変換
    を行うハイブリッド符号化された画像データとの両方が
    含まれる画像データのフレームを複数枚まとめて1枚の
    動き補償を伴わないフレーム間予測誤差に対して直交変
    換を行うハイブリッド符号化された画像データのフレー
    ムに合成することによりフレームレートを変換し、フレ
    ームレートの低い動き補償を伴わないフレーム間予測誤
    差に対して直交変換を行うハイブリッド符号化された画
    像データとして出力することを特徴とするフレームレー
    ト変換方式。
  4. 【請求項4】 フレームレートの高い動き補償を伴うフ
    レーム間予測誤差に対して直交変換を行うハイブリッド
    符号化された画像データと、フレーム内符号化された画
    像データとの両方が含まれる画像データを入力し、動き
    補償を伴うフレーム間予測誤差に対して直交変換を行う
    ハイブリッド符号化された画像データと、フレーム内符
    号化された画像データとの両方が含まれる画像データの
    フレームを複数枚まとめて1枚の動き補償を伴わないフ
    レーム間予測誤差に対して直交変換を行うハイブリッド
    符号化された画像データと、フレーム内符号化された画
    像データとの両方が含まれる画像データのフレームに合
    成することによりフレームレートを変換し、フレームレ
    ートの低い動き補償を伴わないフレーム間予測誤差に対
    して直交変換を行うハイブリッド符号化された画像デー
    タと、フレーム内符号化された画像データとの両方が含
    まれる画像データとして出力することを特徴とするフレ
    ームレート変換方式。
  5. 【請求項5】 フレームレートの高い動き補償を伴うフ
    レーム間予測誤差に対して直交変換を行うハイブリッド
    符号化された画像データと、動き補償を伴わないフレー
    ム間予測誤差に対して直交変換を行うハイブリッド符号
    化された画像データと、フレーム内符号化された画像デ
    ータとの3つが含まれる画像データを入力し、動き補償
    を伴うフレーム間予測誤差に対して直交変換を行うハイ
    ブリッド符号化された画像データと、動き補償を伴わな
    いフレーム間予測誤差に対して直交変換を行うハイブリ
    ッド符号化された画像データと、フレーム内符号化され
    た画像データとの3つが含まれる画像データのフレーム
    を複数枚まとめて1枚の動き補償を伴わないフレーム間
    予測誤差に対して直交変換を行うハイブリッド符号化さ
    れた画像データと、フレーム内符号化された画像データ
    との両方が含まれる画像データのフレームに合成するこ
    とによりフレームレートを変換し、フレームレートの低
    い動き補償を伴わないフレーム間予測誤差に対して直交
    変換を行うハイブリッド符号化された画像データと、フ
    レーム内符号化された画像データとの両方が含まれる画
    像データとして出力することを特徴とするフレームレー
    ト変換方式。
  6. 【請求項6】 請求項1記載のフレームレート変換方式
    において、 フレームレートの変換を行う際に、上記請求項2ないし
    請求項5のいずれかに記載のフレームレート変換方式を
    用いてフレームレート変換を行うことを特徴とするフレ
    ームレート変換方式。
  7. 【請求項7】 上記請求項1ないし請求項6のいずれか
    に記載のフレームレート変換方式を用いてフレームレー
    トの変換を行うことを特徴とするフレームレート変換装
    置。
JP31330496A 1996-11-25 1996-11-25 フレームレート変換方式、及びフレームレート変換装置 Pending JPH10155149A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP31330496A JPH10155149A (ja) 1996-11-25 1996-11-25 フレームレート変換方式、及びフレームレート変換装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP31330496A JPH10155149A (ja) 1996-11-25 1996-11-25 フレームレート変換方式、及びフレームレート変換装置

Publications (1)

Publication Number Publication Date
JPH10155149A true JPH10155149A (ja) 1998-06-09

Family

ID=18039615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP31330496A Pending JPH10155149A (ja) 1996-11-25 1996-11-25 フレームレート変換方式、及びフレームレート変換装置

Country Status (1)

Country Link
JP (1) JPH10155149A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001043435A1 (fr) * 1999-12-08 2001-06-14 Kabushiki Kaisha Toshiba Systeme prestataire multimedia, serveur de conversion multimedia et terminal multimedia
US6898242B2 (en) 2000-09-27 2005-05-24 Nec Corporation Moving picture high-speed coder and moving picture high-speed coding method
EP2359596A1 (en) * 2008-12-15 2011-08-24 Microsoft Corporation Video conference rate matching
WO2014057555A1 (ja) 2012-10-10 2014-04-17 富士通株式会社 情報処理装置、情報処理システム、情報処理プログラム、及び動画データ送受信方法
US8947492B2 (en) 2010-06-18 2015-02-03 Microsoft Corporation Combining multiple bit rate and scalable video coding

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001043435A1 (fr) * 1999-12-08 2001-06-14 Kabushiki Kaisha Toshiba Systeme prestataire multimedia, serveur de conversion multimedia et terminal multimedia
US6898242B2 (en) 2000-09-27 2005-05-24 Nec Corporation Moving picture high-speed coder and moving picture high-speed coding method
EP2359596A1 (en) * 2008-12-15 2011-08-24 Microsoft Corporation Video conference rate matching
EP2359596A4 (en) * 2008-12-15 2013-10-30 Microsoft Corp VISIBOCONFERENCE FLOW MATCHING
US8947492B2 (en) 2010-06-18 2015-02-03 Microsoft Corporation Combining multiple bit rate and scalable video coding
WO2014057555A1 (ja) 2012-10-10 2014-04-17 富士通株式会社 情報処理装置、情報処理システム、情報処理プログラム、及び動画データ送受信方法
US9699518B2 (en) 2012-10-10 2017-07-04 Fujitsu Limited Information processing apparatus, information processing system, recording medium, and method for transmission and reception of moving image data

Similar Documents

Publication Publication Date Title
CN108769682B (zh) 视频编码、解码方法、装置、计算机设备和存储介质
JP3050736B2 (ja) 動画像符号化装置
US6625320B1 (en) Transcoding
CN100579224C (zh) 用于无损视频编码和解码的方法及设备
US20030095603A1 (en) Reduced-complexity video decoding using larger pixel-grid motion compensation
JPH1093966A (ja) 画像符号化装置
WO2003067896A1 (en) Image information coding device and method and image information decoding device and method
CN108848377B (zh) 视频编码、解码方法、装置、计算机设备和存储介质
US20080123748A1 (en) Compression circuitry for generating an encoded bitstream from a plurality of video frames
EP0529587B1 (en) Image encoding apparatus
JPH10336672A (ja) 符号化方式変換装置およびその動きベクトル検出方法
JPH10155149A (ja) フレームレート変換方式、及びフレームレート変換装置
CN1848960B (zh) 使用非标准化矢量量化编码器的符合视频标准的残差编码
JP2900999B2 (ja) ブロック間適応内挿予測符号化装置、復号化装置、符号化方法及び復号化方法
JP3948597B2 (ja) 動画像圧縮符号化送信装置、受信装置および送受信装置
JPH07222173A (ja) 画像処理装置
JP3141149B2 (ja) 画像符号化装置
JPH04369192A (ja) 画像符号化方法及び装置
JPH1013836A (ja) 動きベクトル検出装置
JP4458923B2 (ja) 画像処理装置
JP4100067B2 (ja) 画像情報変換方法及び画像情報変換装置
JPH06105299A (ja) 動画像圧縮装置
JP2760711B2 (ja) 画像符号化装置及び画像復号化装置
JPH09200747A (ja) 画像符号化方法および装置
JPH02222388A (ja) 動画像符号化方法