JP4427912B2 - ビデオパケットの受信復号システムおよび送信システム - Google Patents
ビデオパケットの受信復号システムおよび送信システム Download PDFInfo
- Publication number
- JP4427912B2 JP4427912B2 JP2001045762A JP2001045762A JP4427912B2 JP 4427912 B2 JP4427912 B2 JP 4427912B2 JP 2001045762 A JP2001045762 A JP 2001045762A JP 2001045762 A JP2001045762 A JP 2001045762A JP 4427912 B2 JP4427912 B2 JP 4427912B2
- Authority
- JP
- Japan
- Prior art keywords
- packet
- decoding
- video
- receiving
- received
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Description
【発明の属する技術分野】
本発明は、動画像符号化データをパケット化して送受信するシステムであって、伝送過程でパケットが欠落あるいは遅延して復号画像に画質劣化が生じることがある場合に、欠落したパケットの後の受信パケットを予め定めた一定期間だけ記憶することにより、欠落したパケットが再送あるいは遅延して到着した場合に、早期に画質劣化を回復する方法に関する。
【0002】
【従来の技術】
一般に、動画像符号化データなどのデータを、インターネットなどを経由して伝送する場合、データをパケット化してTCP/IPというプロトコルに従い伝送する方法が広く知られている。TCP/IPではパケットを受信するたびに送信側へ受信確認を送信する。
【0003】
送信側では予め定めた一定期間にわたり受信確認が返されないと、該当するパケットは伝送過程で廃棄されたと考えて再送信を行う。こうすることで全てのパケットは欠落することなく確実に送受信することが可能となる。
【0004】
しかしながら、TCP/IPによるパケット伝送では全てのパケット毎に受信確認を行うため、伝送制御が複雑となり伝送遅延も生じる。また欠落したパケットは再送されるものの、その到着時刻は保証されない。こうした理由からTCP/IPは本質的に実時間伝送用途には不向きである。即ち、監視映像伝送やテレビ電話のようにできるだけ遅延を抑制しつつ連続的に伝送する必要がある用途では、別の方法を用いる必要がある。
【0005】
RTP/UDP/IP(Real-time Processing/User Datagram Protocol/Internet Protocol)は実時間伝送用途に向いたデータ伝送のプロトコルとして知られている。これはTCP/IPに較べてパケットのオーバーヘッドを少なくし、且つ、パケットの受信確認は行わないことで伝送効率と伝送遅延を大幅に改善できる方式である。このため動画像符号化データのインターネット伝送向けの方式として最近注目を集めている。
【0006】
RTP/UDP/IPでは受信確認は行わず、伝送途中で廃棄されたパケットの特定はできないので、パケット再送は一般的には行われない。インターネット伝送では伝送路の輻輳の程度に応じて一定比率でパケットが欠落するので、RTP/UDP/IPはパケット欠落を許容する応用目的に供されるか、あるいは送信側で予想したパケット欠落率に応じたエラー訂正符号をパケットデータに重畳してから送信することがある。
【0007】
RTP/UDP/IP伝送では伝送路が動的に変化することもあるので、順番に送信されたパケットが受信側では順番が入れ替わって到着したりあるいは、一部のパケットがかなり遅れて到着する可能性もある。また伝送路が込み合うと一部のパケットが途中で廃棄され、受信側ではパケットが欠落してしまうこともある。
【0008】
上記のようにパケットの欠落や遅延がある場合、実時間で受信できたパケットだけを復号処理すると復号画像に画質劣化が生じる。なぜなら、動画像符号化データは連続したフレーム間で予測処理を行い、フレーム間の差分信号を符号化しているため、パケットの欠落により差分データの一部が欠損するとそれ以降のフレームは正しく復号できないためである。
【0009】
【発明が解決しようとする課題】
RTP/UDP/IPではエラー訂正符号をパケットに重畳することで、ある程度のパケット欠落に対応することが可能である。しかしエラー訂正能力を十分に高めようとすると、エラー訂正用の符号量が実際の動画像符号化データを圧迫し、符号化効率が著しく悪くなる。このため、多少のパケット欠落は許容せざるを得ない。
【0010】
また、RTP/UDP/IPは実時間伝送用途に向いてはいるものの、各パケットは様々な伝送経路に分かれて伝送されるため、パケットの到着順序が送信時の順序と大きく異なることがある。僅かな到着遅延であれば、パケット受信部のバッファで一旦蓄積し、順番を並び替えて後段の処理に供すればよい。しかし、動画像信号の実時間伝送用途ではバッファによる処理待ち時間を短くする必要があるため、大きく遅延して到着したパケットは廃棄せざるを得ない。
【0011】
以上のように、RTP/UDP/IPではパケットの欠落や遅延が避けがたい。動画像符号化ではフレーム間予測を用いているため、悪影響はそのパケットに留まらずフレーム間予測により時間的に伝搬し、深刻な画質劣化を引き起こすことがある。
【0012】
これを解決する方法として、特開平1−137892号公報記載の「動画像信号復号化方式」では欠落したパケットにはダミーとしてゼロデータを挿入して復号しておき、後で欠落していたパケットが遅延到着したときにこれを単純に復号して加算すれば、画質劣化が解消できるとしている。
【0013】
しかしこの方法が有効なのは、単純なフレーム間予測符号化を用いた場合に限られる。実際の動画像符号化では動き補償を用いたフレーム間予測処理を行うため、欠落パケットの位置で生じた画質劣化はフレーム間で周囲へと伝搬する。こうした場合は前記従来技術の方法では画質劣化を回復できないという課題がある。
【0014】
本発明の目的は、RTP/UDP/IPの枠組みによる実時間伝送を可能とする効果は維持しつつ、パケットの欠落や遅延による画質劣化を可能な限り速やかに軽減する方法を供することにある。
【0015】
【課題を解決するための手段】
本発明の請求項1に係るビデオパケットの受信復号システムは、動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するシステムであって、ビデオパケットを受信して復号処理に供給するとともに、ビデオパケットの受信状況を監視してパケットの欠落や遅延到着があると制御信号を出力するパケット受信手段と、欠落パケットの後の受信パケットを前記制御信号に従い予め定めた一定期間以内の範囲で記憶し、且つ遅延到着したパケットがパケット受信手段から出力されると前記記憶したパケットを再出力するパケット蓄積手段と、パケット受信手段あるいはパケット蓄積手段から供給されたビデオパケットを復号して復号画像を出力する復号手段と、復号処理に必要な復号手段内部の参照データを前記制御信号に従い読み出して記憶し、遅延到着したパケットの復号処理に際して復号手段内部に書き込むことを行う復号参照データ蓄積手段とを有することを特徴とする。
【0016】
本発明の請求項2に係るビデオパケットの受信復号システムは、動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するシステムであって、ビデオパケットを受信して復号処理に供給するとともに、ビデオパケットの受信状況を監視してパケットの欠落や遅延到着があると制御信号を出力し、且つ欠落したパケットの再送信をビデオパケットの送信側に要求する信号を出力するパケット受信手段と、欠落パケットの後の受信パケットを前記制御信号に従い予め定めた一定期間以内の範囲で記憶し、且つ遅延到着したパケットがパケット受信手段から出力されると前記記憶したパケットを再出力するパケット蓄積手段と、パケット受信手段あるいはパケット蓄積手段から供給されたビデオパケットを復号して復号画像を出力する復号手段と、復号処理に必要な復号手段内部の参照データを前記制御信号に従い読み出して記憶し、遅延到着したパケットの復号処理に際して復号手段内部に書き込むことを行う復号参照データ蓄積手段とを有することを特徴とする。
【0017】
本発明の請求項3に係るビデオパケットの受信復号システムは、請求項1または請求項2のビデオパケットの受信復号システムであって、少なくとも遅延到着したパケットおよびパケット蓄積手段から供給されたビデオパケットを復号する際は、一連のビデオパケットを連続して高速に復号し、パケット受信部から次に供給されるビデオパケットの復号処理に繋ぐことを特徴とする。
【0018】
本発明の請求項4に係るビデオパケットの受信復号システムは、請求項1または請求項2のビデオパケットの受信復号システムであって、復号参照データ蓄積手段が記憶する参照データは、少なくとも欠落したパケットの復号時のフレーム間予測処理に用いる参照画像データを含むことを特徴とする。
【0019】
本発明の請求項5に係るビデオパケットの受信復号システムは、請求項1または請求項2のビデオパケットの受信復号システムであって、欠落したビデオパケットの後の受信パケットを記憶するに際し、そのパケットの復号画像がフレーム間予測処理の被参照フレームにはならないパケットは、パケット蓄積手段に記憶しないことを特徴とする。
【0020】
本発明の請求項6に係るビデオパケットの受信復号システムは、請求項1または請求項2のビデオパケットの受信復号システムであって、画像全体がフレーム内符号化されたフレームのビデオパケットを受信するか、欠落したビデオパケットに関連する画像フレーム部分全体をフレーム内符号化したビデオパケットを受信した場合は、パケット蓄積手段に記憶したそれ以前のフレームのパケットを廃棄することを特徴とする。
【0021】
本発明の請求項8に係るビデオパケットの送信システムは、ビデオパケットの再送要求を行うことができる受信復号システムに動画像符号化データをパケット化して送信するシステムであって、ビデオパケットを出力するとともに、出力パケットの符号化モードに応じた制御信号を出力するパケット送信手段と、送信したパケットを予め定めた一定期間だけ記憶し、受信側からの再送要求に従い指定されたパケットを読み出して再送信するパケット蓄積手段を有し、前記パケット蓄積手段は、蓄積しようとするパケットが画像全体をフレーム内符号化したフレームのパケットである場合はそれ以前のフレームの蓄積されたパケットを廃棄し、パケットの符号化モードが被参照フレームにならないフレームの符号化モードの場合は該パケットを蓄積しないことを特徴とする。
【0022】
本発明は、動画像符号化データをビデオパケットとして送受信するシステムにおいて、受信したビデオパケットに欠落があると、欠落したパケットより後の受信パケットと欠落したパケットの復号に必要な参照データを一時的に記憶しておき、欠落したパケットが遅れて受信された時に前記記憶しておいた一連のデータを利用して復号処理を行うことで、パケットの欠落や到着遅延による画質劣化を可能な限り速やかに軽減する方法を提供するものである。
【0023】
【発明の実施の形態】
図1は、本発明におけるパケット受信手段の第1の実施形態を示すブロック図である。
【0024】
図1において、パケット受信部11は、パケット化された動画像符号化データを受信してビデオパケット101として復号の順序に従い出力する。このときパケット受信部11は、内部に一定数のパケットを保持できるバッファを持ってもよく、僅かの時間差で順番が入れ替わって到着したパケットを、復号処理の順序に並べ替えて出力してもよい。
【0025】
またパケット受信部11は、パケット受信状況を監視して、前記バッファの機能では吸収しきれないパケット到着の遅延やパケットの欠落があると、それらを外部に知らせる制御信号102を出力する。
【0026】
パケット蓄積部12は、パケット欠落を知らせる制御信号102に従い、欠落したパケットの後に受信したパケットを予め定めた一定期間だけ連続して記憶する。この一定期間は、リアルタイムシステムの場合には、復号部における復号再生画像が途切れない範囲の比較的短い期間に設定する必要があるが、リアルタイムを要求されないシステムではパケット蓄積部の容量の範囲内で適宜の長さに設定することが可能である。
【0027】
また、パケット蓄積部12は、過去に欠落していたパケットが遅延到着したことを知らせる制御信号102を受けると、それまでに蓄積されたパケットをこの遅延到着したパケットに続ける形で再出力する。
【0028】
復号器13は、パケット受信部11から供給されたビデオパケット101を順次復号して復号画像を出力すると共に、遅延到着したパケットとそれに続いてパケット蓄積部12から供給されたパケットを順次復号して復号画像を出力する。
【0029】
また復号器13は、パケット欠落を知らせる制御信号に従い、欠落したパケットの復号に必要となる復号器内部の参照データを復号参照データ蓄積部14に一時的に記憶させる。
【0030】
そして過去に欠落していたパケットが遅延到着したことを知らせる制御信号102に従い、遅延到着したパケットの復号処理に先立って、復号参照データ蓄積部14に一時的に記憶しておいた参照データを復号器13の内部に書き込む。
【0031】
パケット蓄積部12や復号参照データ蓄積部14にそれぞれ記憶されたパケットや参照データは、予め定めた一定期間内に欠落パケットが遅延到着しなかった場合には、これらの蓄積パケット及び参照データは利用しないで廃棄する。
【0032】
図4は、図1に示す本発明の第1の実施形態における基本的な処理の流れを示すフローチャートである。以下、図1及び図4を参照して本実施形態の動作について説明する。
【0033】
まずパケット受信部11は、ビデオパケットを受信すると、そのパケットが正規の順序で到着したかを判別する。一例として、RTP/UDP/IPの枠組みではパケットのヘッダにパケットの送信順序を示す番号がついている。この番号が連続した昇順になっていれば、受信したパケットは正規順序で到着したと判別できる。正規順序で到着したビデオパケット101はそのまま復号器13に供され、次の受信パケットの処理に戻る。
【0034】
受信したビデオパケットが正規順序でなかった場合は、パケット受信部11はビデオパケットが欠落しているか否かを判別する。この判別はパケットヘッダの番号が昇順ではあるが不連続に飛んでいるか否かでわかる。パケット受信部11がパケットの欠落を判定すると、パケット受信部11からパケット蓄積部12及び復号参照データ蓄積部14に対して制御信号102が出力される。
【0035】
この制御信号102により、パケット蓄積部12は、欠落パケット後の受信パケットの蓄積処理を開始して当該パケットをパケット蓄積部12に一時的に蓄積する。この蓄積処理は後述の蓄積解除が行われるまで、全ての受信パケットに対して行う。
【0036】
また復号参照データ蓄積部14もこの制御信号102を受けて、欠落したパケットを復号するのに必要となる参照データを一時的に記憶する。記憶する参照データは、パケット欠落が判明した時点での復号器13の内部に蓄積されているデータで、少なくともフレーム間予測処理に用いる参照画像データを含む。また復号処理において状態遷移処理や量子化係数間予測を用いている場合は、これらの処理の参照データも併せて記憶する。また図4に示すように、復号器13は、欠落パケット後の受信パケットを復号して、復号画像を出力する。さらに、復号器13は、パケット蓄積部12がパケット蓄積中であって、かつ、欠落パケットが到着していない場合であっても、受信パケットを復号して、復号画像を出力する。
【0037】
パケット蓄積部12に対する後続パケットの蓄積を開始してから一定期間の間に上記欠落パケットが受信部11に到達(遅延到着)しなかった場合には、当該パケットは欠落したものとはみなし、この蓄積パケットは廃棄され、復号器13において復号された欠落パケットを除く欠落パケット以後の復号データが出力された後、次の受信パケットの処理に戻る。
【0038】
この時、欠落したパケットの影響で復号画像に画質劣化が生じることがあるが、この画質劣化を補償するために架空のデータを挿入する等何らかの画質劣化隠蔽処理を行うことは可能である。その点は任意であり本発明では特に限定しない。
【0039】
一方、パケット蓄積部12に対する後続パケットの蓄積を開始してから一定期間経過前に、当該欠落パケットがパケット受信部11により受信されると、パケット受信部11はこの受信パケットを遅延パケットとして復号器13に送出するとともに、パケット蓄積部12及び復号参照データ蓄積部14に対して、パケットの遅延到達を示す制御信号102を出力する。
【0040】
この制御信号102により、先に記憶されていた参照データが復号参照データ蓄積部14から復号器13内部に書き戻され、遅延到着したビデオパケットの復号処理が行われる。次いで前記蓄積開始時点から遅延パケット到達時点までに蓄積されたビデオパケットがパケット蓄積部12から読み出され、復号器13で連続して復号処理された後、次の受信パケットの処理に戻る。
【0041】
パケット蓄積部12に蓄積されていたビデオパケットの復号に際しては、ビデオパケットのヘッダに記載された復号動作を行う時刻情報は無視して高速に復号することが可能である。特に、次の画像フレームに属する最初のビデオパケットの復号時刻前までに高速に復号完了できれば、次の画像フレームからは画質劣化がなく、本来の時刻情報に従った同期復号処理に復帰することができる。
【0042】
また必ずしも十分高速に復号できなくても、画質劣化のない復号画像を回復することはできる。パケット蓄積部12に蓄積されていたビデオパケットの復号処理が終れば蓄積解除され、次の受信パケットの処理に戻る。
【0043】
なお、図4に示す動作説明では、一つのビデオパケットだけが欠落して遅延到着した場合を想定しているが、複数の連続したビデオパケットが欠落し、且つ連続して遅延到着した場合には、これら複数の遅延到着したパケットの処理をまとめて行うことができる。
【0044】
さらに、不連続に複数のビデオパケットが欠落した場合や、該複数の欠落パケットの遅延到着順序が入れ替わった場合は、図5に示すような処理の流れにより実現することができる。
【0045】
図5においては、遅延到着したビデオパケットを直ぐに復号するのではなく、一旦、既に蓄積しているビデオパケットの列の正規順序位置に挿入蓄積する。その後、欠落していたビデオパケットが全て到着して揃った時点で、先に記憶しておいた参照データを復号処理手段内部に書き戻し、蓄積されている一連のビデオパケットを順次連続して復号する。
【0046】
ただし、図5に示す動作の場合、一定時間内に全ての欠落パケットが到達しなかったときには、図4の場合と同様に、パケット欠落として処理された後、次の受信パケットの処理に戻る。
【0047】
図2は、本発明におけるパケット受信手段の第2の実施形態を示すブロック図である。
【0048】
本実施の形態は、パケット受信部21に、パケットの欠落を判別したときに、該欠落したパケットの再送信を送信側へ要求する信号を出力する手段を備えている点で、図1に示した第1の実施形態と異なるが、その他の構成は第1の実施形態と同様である。
【0049】
図6は、図2に示す本発明の第2の実施形態における基本的な処理を示すフローチャートである。以下、図2及び図6を参照して本実施形態の動作について説明するが、第1の実施形態と共通する動作の詳細な説明は省略する。
【0050】
パケット受信部21は、受信パケットの欠落を判別すると、欠落したビデオパケットを再送信するように送信側へ要求104を送信するとともに、パケット蓄積部22及び復号参照データ蓄積部24に対して受信パケットの欠落が生じたことを示す制御信号102を出力して、欠落したビデオパケット以降の受信パケットの蓄積と欠落パケット発生時点の復号参照データの蓄積を指示する。
【0051】
その後、送信側から欠落ビデオパケットが再送信されると、パケット受信部21はこの受信パケットを遅延パケットとして復号器23に送出し、復号器23では、復号参照データ蓄積部24から書き戻された参照データを用いて再送信されたビデオパケットの復号処理を行う。
【0052】
次いで前記蓄積開始時点から再送信パケット到達時点までに蓄積されたビデオパケットがパケット蓄積部22から読み出され、復号器23で連続して復号処理された後、次の受信パケットの処理に戻る。
【0053】
ビデオパケットが伝送の過程で完全に遺失し、ただ待っていても遅延パケットが到着しない場合には、このように再送要求することで欠落パケットの遅延到着を期待できるようになる。再送要求はパケット欠落の判別後の何時出してもよいが、早く出すほど画質劣化を早く回復できる。
【0054】
本実施の形態においても、復号手段は、遅延到着した再送信パケットとそれに続けてパケット蓄積手段から供給されたビデオパケットを復号する際は、ビデオパケット内に記載された復号動作を行う時刻情報に依存せず一連のビデオパケットを連続して高速に復号することができる。
【0055】
即ち、パケット蓄積手段から供給されるこれら一連のパケットは既に受信済みなので、復号手段の演算能力だけを高くすることで高速に復号することが可能となり、復号された一連の復号画像における最後の画像フレームを、未だ復号されていない次のフレームの復号処理に繋ぐことで、画質劣化の解消された画像をスムーズに再生することが可能となる。
【0056】
なお、第1及び第2の実施形態において、復号手段は、パケット欠落を知らせる制御信号に従い、欠落したパケットの復号に必要となる復号手段内部の参照データを復号参照データ蓄積手段に一時的に記憶させるが、この時に少なくともフレーム間予測処理に用いる参照画像データが記憶される。この参照画像データは、欠落したパケットがフレーム間予測処理を用いて符号化されている場合には、そのパケットの復号処理に必要となるデータである。
【0057】
また、第1及び第2の実施形態におけるパケット蓄積手段は、欠落したパケットの後に受信したパケットを記憶する際に、個々の受信パケットの符号化モードに応じて記憶するか否かを判別するように構成することができる。
【0058】
即ち、フレーム間予測処理の被参照フレームにはなり得ないパケットは、蓄積しておいて後で復号しても本発明における画質劣化の回復には効果がないので、注目するパケットの復号画像がフレーム間予測処理の被参照フレームにはなり得ないパケットは記憶せず、それ以外のパケットを蓄積することにより、無駄なパケットの蓄積を省略して蓄積容量の低減を図ることができる。
【0059】
図7は、図4で説明した一連の処理に加えて、欠落パケットが判別された後のパケット蓄積を継続している状態で、受信したビデオパケットが被参照フレームではなく、当該パケットの蓄積を行わない場合の一連の処理を示すフローチャートである。
【0060】
例えばパケット化されている動画像符号化データがMPEG方式で圧縮されたデータの場合、復号された受信ビデオパケットがBピクチャのデータであれば被参照フレームにはなり得ないと判断できる。Bピクチャか否かはビデオパケット内部の符号化データに記載されたピクチャタイプによって判別できる。
【0061】
被参照フレームとならないフレームのデータは後続のビデオパケットの復号処理には必要なく、且つこのフレームで生じた画質劣化も伝搬しない。従って本発明の目的である、パケットの欠落により生じた画質劣化を回復するためには必要ないので蓄積しない。
【0062】
また、パケット欠落後の受信パケットが画像全体をフレーム内符号化した画像フレームのパケットであれば、パケット欠落により生じた画質劣化がフレーム間予測を通じて伝搬するのをリセットする効果がある。
【0063】
従って、画像全体をフレーム内符号化した画像フレームのパケットを受信したあとは、もはや遅延到着したパケットや蓄積しておいたパケットを復号して画質劣化を回復する必要はない。また画像フレームの一部だけをフレーム内符号化したパケットを受信した場合も、当該パケットがパケット欠落により生じた画質劣化の伝搬範囲を網羅するならば、同様にパケット蓄積手段に記憶したパケットを廃棄することができる。
【0064】
図8は、図4で説明した一連の処理に加えて、画像全体をフレーム内符号化した画像フレームのパケットが受信された場合の一連の処理を示すフローチャートである。
【0065】
図1または図2のパケット蓄積手段は、欠落パケットが判別された後のパケット蓄積を継続している状態で、画像全体がフレーム内符号化された所謂イントラピクチャのビデオパケットを受信するか、欠落したビデオパケットに関連する画像フレーム部分全体をフレーム内符号化したビデオパケットを受信した場合に、パケット蓄積手段に蓄積されたパケットを廃棄する。
【0066】
パケット欠落により画質劣化した画像の部分がイントラモードで符号化されると、フレーム間で伝搬していた画質劣化は解消される。このためビデオパケットを蓄積しておく必要はもはやない。このとき復号参照データ蓄積手段に記憶した参照データも必要ないので廃棄してもよい。
【0067】
図3は、本発明におけるパケット送信手段の実施形態を示すブロック図である。
【0068】
図3において、パケット送信部31は、入力の動画像符号化データをパケット化し、ビデオパケット101として受信側に向けて出力する。また出力したパケットの符号化モードに応じた制御信号105を出力する。パケット蓄積部32は、パケット送信部31が出力したパケットを一定期間だけ記憶する。そして受信側からの再送要求104があると、記憶したパケットの中から再送要求で指定されたパケットを読み出して再送信する。
【0069】
またパケット蓄積部32では、前記制御信号105が、パケット送信部31から出力されたパケットの符号化モードが画像全体をフレーム内符号化したことを示している場合には、それ以前に蓄積されたパケットを廃棄し、パケット送信部31から出力されたパケットの符号化モードが被参照フレームになり得ないモードを示している場合には、当該パケットは蓄積しない。
【0070】
次に、本発明におけるパケット送信手段の動作について、図3を参照して詳細に説明する。
【0071】
本発明の送信システムでは、パケット送信部31において動画像符号化データを復号処理の順番にパケット化し、受信側に向けて出力する。パケット化の一例として、RTP/UDP/IPの枠組みではパケットのヘッダにパケットの送信順序を示す番号をつける。
【0072】
また同時に、出力したパケット101の符号化モードに従う制御信号105を出力する。この符号化モードは画像フレーム単位でのピクチャモードでよい。例えば、MPEG方式で符号化された符号化データであれば、Iピクチャ(イントラピクチャ)やPピクチャ、Bピクチャなどである。出力されたパケット101は予め定めた一定期間だけパケット蓄積部32によって記憶される。
【0073】
このときパケット101の符号化モードがイントラピクチャであれば、それ以前のフレームの蓄積されたパケット101は全て廃棄することができる。なぜならば、過去のフレームのパケットを再送信しなくても現在のイントラピクチャのパケットを送ることで、受信側でのパケット欠落に伴う画質劣化をリセットできるからである。
【0074】
またパケット101の符号化モードが被参照フレームになり得ない場合、例えばBピクチャであれば該パケットは蓄積する必要がない。以上のように、パケット毎にその符号化モードに合せてパケット蓄積時の制御を適応的に行う。
【0075】
なお上記制御によらず、所定の期間が過ぎたパケットは廃棄される。この一定期間は前記説明した受信システムにおけるビデオパケットの蓄積期間と必ずしも一致させる必要はない。例えば伝送路のエラー発生率に応じた長さとしてもよく、動画像符号化データそのもののエラー強度に応じた値を設定してもよい。あるいは動画像符号化データの中でイントラピクチャやイントラモードが周期的に挿入されている場合には、その周期に比例した期間を設定することができる。
【0076】
次に、受信側からあるビデオパケットの再送要求104があると、パケット蓄積部32に蓄積したビデオパケットの中から指定されたビデオパケットを読み出して受信側へ出力する。再送要求のあったビデオパケットが既に廃棄された場合には要求に応えなくてよい。
【0077】
以上のように、一旦送信したビデオパケットを一定期間蓄積しておくことで、受信側からの再送要求に即座に応答でき、且つ不必要に長い期間にわたりパケットのデータを取り置く必要がない。また符号化モードに応じたパケット蓄積状況を管理し、パケット再送による画質改善に効果があるパケットだけ蓄積することにより、蓄積効率のよいシステムを構築できる。
【0078】
【発明の効果】
本発明によれば、動画像符号化データをビデオパケットとして送受信するシステムにおいて、受信したビデオパケットに欠落がある場合、該欠落したパケットより後の受信パケットと欠落したパケットの復号に必要な参照データを一時的に記憶しておき、欠落したパケットが遅れて受信された時に前記記憶しておいた一連のデータを利用して復号処理を行うことができるので、パケットの欠落や到着遅延による画質劣化を可能な限り速やかに軽減することが可能となる。
【図面の簡単な説明】
【図1】本発明におけるパケット受信手段の第1の実施形態を示すブロック図である。
【図2】本発明におけるパケット受信手段の第2の実施形態を示すブロック図である。
【図3】本発明におけるパケット送信手段の実施形態を示すブロック図である。
【図4】図1に示す実施形態における基本的な処理を示すフローチャートである。
【図5】図1に示す実施形態における他の処理を示すフローチャートである。
【図6】図2に示す実施形態における基本的な処理を示すフローチャートである。
【図7】本発明における更に他の処理例を示すフローチャートである。
【図8】本発明における更に他の処理例を示すフローチャートである。
【符号の説明】
11,21 パケット受信部
12,22,32 パケット蓄積部
13,23 復号器
14,24 復号参照データ蓄積部
31 パケット送信部
101 ビデオパケット
102 制御信号
103 参照データ
104 再送要求信号
105 制御信号
Claims (13)
- 動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するシステムであって、
ビデオパケットを受信して復号処理に供給するとともに、前記ビデオパケットの受信状況を監視してパケットの欠落や遅延到着を検出して制御信号を出力するパケット受信手段と、
前記パケット受信手段から前記パケットの欠落を示す制御信号を受けたときに、該欠落パケット以後の受信パケットを予め定めた一定期間以内において記憶するとともに、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶したパケットを再出力して復号処理に供給するとともにパケットの蓄積を解除するパケット蓄積手段と、
前記パケット受信手段あるいは前記パケット蓄積手段から供給されたビデオパケットを復号して復号画像を出力する復号手段と、
前記パケット受信手段から前記パケットの欠落を示す制御信号を受けたときに、前記欠落したパケットの復号処理に必要な前記復号手段内部の参照データを読み出して記憶し、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶している参照データを前記復号手段内部に書き込む復号参照データ蓄積手段と、
を有し、
前記復号手段は、前記パケットの欠落を示す制御信号を受けたときに前記参照データと前記欠落パケット以後の受信パケットを用いて復号画像を出力し、前記欠落パケットが遅延到着したことを示す制御信号を受けたときに前記書込まれて記憶している参照データと前記遅延到着したパケットと前記欠落パケット以後の受信パケットを用いて復号画像を出力する
ことを特徴とするビデオパケットの受信復号システム。 - 動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するシステムであって、
ビデオパケットを受信して復号処理に供給するとともに、前記ビデオパケットの受信状況を監視してパケットの欠落や遅延到着を検出して制御信号を出力し、且つ欠落したパケットの再送信をビデオパケットの送信側に要求する信号を出力するパケット受信手段と、
前記パケット受信手段から前記パケットの欠落を示す制御信号を受けたときに、該欠落パケット以後の受信パケットを予め定めた一定期間以内において記憶するとともに、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶したパケットを再出力して復号処理に供給するとともにパケットの蓄積を解除するパケット蓄積手段と、
前記パケット受信手段あるいは前記パケット蓄積手段から供給されたビデオパケットを復号して復号画像を出力する復号手段と、
前記パケット受信手段から前記パケットの欠落を示す制御信号を受けたときに、前記欠落したパケットの復号処理に必要な前記復号手段内部の参照データを読み出して記憶し、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶している参照データを前記復号手段内部に書き込む復号参照データ蓄積手段と、
を有し、
前記復号手段は、前記パケットの欠落を示す制御信号を受けたときに前記参照データと前記欠落パケット以後の受信パケットを用いて復号画像を出力し、前記欠落パケットが遅延到着したことを示す制御信号を受けたときに前記書込まれて記憶している参照データと前記遅延到着したパケットと前記欠落パケット以後の受信パケットを用いて復号画像を出力する
ことを特徴とするビデオパケットの受信復号システム。 - 前記復号参照データ蓄積手段が記憶する参照データは、少なくとも欠落したパケットの復号時のフレーム間予測処理に用いる参照画像データを含むことを特徴とする請求項1または請求項2に記載のビデオパケットの受信復号システム。
- 前記パケット蓄積手段は、欠落したビデオパケットの後の受信パケットを記憶するに際し、そのパケットの復号画像がフレーム間予測処理の被参照フレームにはならないパケットを除外して記憶することを特徴とする請求項1または請求項2に記載のビデオパケットの受信復号システム。
- 前記パケット受信手段は、パケット欠落により生じる画質劣化の伝播をリセットするフレーム内符号化されたビデオパケットを受信した場合には、前記パケット蓄積手段に記憶したそれ以前のフレームのパケットを廃棄することを特徴とする請求項1または請求項2に記載のビデオパケットの受信復号システム。
- 前記一定期間内に、前記欠落したビデオパケットが受信されなかったときには、前記パケット蓄積手段に記憶したそれ以前のフレームのパケットを廃棄することを特徴とする請求項1または請求項2に記載のビデオパケットの受信復号システム。
- 動画像符号化データをパケット単位に受信し、前記パケットの受信状況を監視しながら受信したパケットを復号して復号画像を出力するビデオパケットの受信復号方法であって、
受信が正常の場合に正常処理として受信したパケットを復号して復号画像を出力し、受信に異常が検知された場合に異常時処理として後続する正常に受信したパケットを予め定めた一定期間以内において記憶し続けるとともに前記異常検知に対応しながら前記正常に受信したパケットを復号して復号画像を出力し続け、前記異常検知したパケットが前記一定期間以内に遅延到着した場合に異常回復処理として前記遅延到着したパケットと前記記憶したパケットとを正規の順序に並び替え、且つ前記記憶したパケット内に記載された復号動作を行う時刻情報に依存せずに復号して復号画像を生成し、該時刻情報に依存せずに生成した復号画像を用いて次に受信したパケットの復号画像を生成した時に、前記異常時処理と前記異常回復処理を中止して前記正常処理に復帰することを特徴とするビデオパケットの受信復号方法。 - 動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するビデオパケットの受信復号方法であって、
ビデオパケットを受信して復号処理に供給するとともに、前記ビデオパケットの受信状況を監視してパケットの欠落や遅延到着を検出して制御信号を出力するパケット受信処理と、
前記パケットの欠落を示す制御信号を受けたときに、該欠落パケット以後の受信パケットを予め定めた一定期間以内において記憶するとともに、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶したパケットを再出力して復号処理に供給するとともにパケットの蓄積を解除するパケット蓄積処理と、
前記パケットの欠落を示す制御信号を受けたときに、前記欠落したパケットの復号処理に必要な前記復号処理内部の参照データを読み出して記憶し、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶している参照データを前記復号処理内部に書き込む復号参照データ蓄積処理と、
前記供給されたビデオパケットを復号して復号画像を出力するとともに、前記パケットの欠落を示す制御信号を受けたときに前記参照データと前記欠落パケット以後の受信パケットを用いて復号画像を出力し、前記欠落パケットが遅延到着したことを示す制御信号を受けたときに前記書込まれて記憶している参照データと前記遅延到着したパケットと前記欠落パケット以後の受信パケットを用いて復号画像を出力する復号処理と、
を行うことを特徴とするビデオパケットの受信復号方法。 - 動画像符号化データをビデオパケットとして受信し、これを復号して復号画像を出力するビデオパケットの受信復号方法であって、
ビデオパケットを受信して復号処理に供給するとともに、前記ビデオパケットの受信状況を監視してパケットの欠落や遅延到着を検出して制御信号を出力し、且つ欠落したパケットの再送信をビデオパケットの送信側に要求する信号を出力するパケット受信処理と、
前記パケットの欠落を示す制御信号を受けたときに、該欠落パケット以後の受信パケットを予め定めた一定期間以内において記憶するとともに、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶したパケットを再出力して復号処理に供給するとともにパケットの蓄積を解除するパケット蓄積処理と、
前記パケットの欠落を示す制御信号を受けたときに、前記欠落したパケットの復号処理に必要な前記復号処理内部の参照データを読み出して記憶し、前記欠落パケットが遅延到着したことを示す制御信号を受けたとき、前記記憶している参照データを前記復号処理内部に書き込む復号参照データ蓄積処理と、
前記供給されたビデオパケットを復号して復号画像を出力するとともに、前記パケットの欠落を示す制御信号を受けたときに前記参照データと前記欠落パケット以後の受信パケットを用いて復号画像を出力し、前記欠落パケットが遅延到着したことを示す制御信号を受けたときに前記書込まれて記憶している参照データと前記遅延到着したパケットと前記欠落パケット以後の受信パケットを用いて復号画像を出力する復号処理と、
を行うことを特徴とするビデオパケットの受信復号方法。 - 前記復号参照データ蓄積処理で記憶する参照データは、少なくとも欠落したパケットの復号時のフレーム間予測処理に用いる参照画像データを含むことを特徴とする請求項8または請求項9に記載のビデオパケットの受信復号方法。
- 前記パケット蓄積処理では、欠落したビデオパケットの後の受信パケットを記憶するに際し、そのパケットの復号画像がフレーム間予測処理の被参照フレームにはならないパケットを除外して記憶することを特徴とする請求項8または請求項9に記載のビデオパケットの受信復号方法。
- 前記パケット受信処理において、パケット欠落により生じる画質劣化の伝播をリセットするフレーム内符号化されたビデオパケットを受信した場合には、前記パケット蓄積処理で記憶されたそれ以前のフレームのパケットを廃棄することを特徴とする請求項8または請求項9に記載のビデオパケットの受信復号方法。
- 前記一定期間内に、前記欠落したビデオパケットが受信されなかったときには、前記パケット蓄積処理で記憶されたそれ以前のフレームのパケットを廃棄することを特徴とする請求項8または請求項9に記載のビデオパケットの受信復号方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001045762A JP4427912B2 (ja) | 2001-02-21 | 2001-02-21 | ビデオパケットの受信復号システムおよび送信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001045762A JP4427912B2 (ja) | 2001-02-21 | 2001-02-21 | ビデオパケットの受信復号システムおよび送信システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002247578A JP2002247578A (ja) | 2002-08-30 |
JP4427912B2 true JP4427912B2 (ja) | 2010-03-10 |
Family
ID=18907493
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001045762A Expired - Fee Related JP4427912B2 (ja) | 2001-02-21 | 2001-02-21 | ビデオパケットの受信復号システムおよび送信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4427912B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4767443B2 (ja) * | 2001-07-04 | 2011-09-07 | 富士通株式会社 | ネットワーク蓄積型ビデオカメラシステム |
WO2004093395A1 (ja) * | 2003-04-14 | 2004-10-28 | Fujitsu Limited | 順序番号に従って受信パケットを送信する経路制御装置 |
JP4790446B2 (ja) * | 2006-03-01 | 2011-10-12 | 三菱電機株式会社 | 動画像復号装置及び動画像符号化装置 |
US8046656B2 (en) * | 2006-10-31 | 2011-10-25 | Hewlett-Packard Development Company, L.P. | Rendering and correcting data |
JP5094826B2 (ja) * | 2009-12-09 | 2012-12-12 | 三菱電機株式会社 | ユニキャスト再配信装置およびパケット処理プログラム |
CN113747063B (zh) * | 2021-08-27 | 2023-08-04 | 深圳市芯中芯科技有限公司 | 一种视频传输的方法、装置、电子设备及可读存储介质 |
-
2001
- 2001-02-21 JP JP2001045762A patent/JP4427912B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002247578A (ja) | 2002-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8929443B2 (en) | Recovering from dropped frames in real-time transmission of video over IP networks | |
CN107231328B (zh) | 实时视频传输方法、装置、设备及*** | |
US20050013249A1 (en) | Redundant packets for streaming video protection | |
EP1842381B1 (en) | System, transmitter, receiver, method and software for transmitting and receiving ordered sets of video frames | |
KR100538023B1 (ko) | 화상 부호화장치 | |
US7320099B2 (en) | Method and apparatus for generating error correction data, and a computer-readable recording medium recording an error correction data generating program thereon | |
US7756127B2 (en) | Mobile terminal | |
JP4790446B2 (ja) | 動画像復号装置及び動画像符号化装置 | |
JP5084362B2 (ja) | データ送信装置、及びデータ送受信システム | |
WO2001084731A1 (en) | Methods and systems for forward error correction based loss recovery for interactive video transmission | |
KR100378337B1 (ko) | 화상복호화장치 | |
CN109155707B (zh) | 在多播网络中请求数据重传 | |
JP2001274861A (ja) | データ伝送方法および装置 | |
JPH06237451A (ja) | 動画通信方式および端末装置 | |
GB2366464A (en) | Video coding using intra and inter coding on the same data | |
US20130058409A1 (en) | Moving picture coding apparatus and moving picture decoding apparatus | |
CN109862400B (zh) | 一种流媒体传输方法、装置及其*** | |
JP4427912B2 (ja) | ビデオパケットの受信復号システムおよび送信システム | |
US7802168B1 (en) | Adapting encoded data to overcome loss of data | |
JP4488958B2 (ja) | 映像伝送システム及び映像伝送方法 | |
JPH10126772A (ja) | 動画像データ転送方法 | |
JP2005033556A (ja) | データ送信装置、データ送信方法、データ受信装置、データ受信方法 | |
JPH09284774A (ja) | 符号化装置、復号化装置及び伝送システム | |
CN112995214B (zh) | 一种实时视频传输***、方法及计算机可读存储介质 | |
JP2006279436A (ja) | マルチメディア通信システムおよび再送用データ削除方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050517 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070706 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070710 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070823 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080911 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090114 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090316 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090618 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090707 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20090708 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091124 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121225 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091207 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121225 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131225 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |