JP4614395B2 - 送信中に損失を受けた画像を受信する方法及び装置 - Google Patents

送信中に損失を受けた画像を受信する方法及び装置 Download PDF

Info

Publication number
JP4614395B2
JP4614395B2 JP2007059145A JP2007059145A JP4614395B2 JP 4614395 B2 JP4614395 B2 JP 4614395B2 JP 2007059145 A JP2007059145 A JP 2007059145A JP 2007059145 A JP2007059145 A JP 2007059145A JP 4614395 B2 JP4614395 B2 JP 4614395B2
Authority
JP
Japan
Prior art keywords
image
loss
motion
application layer
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007059145A
Other languages
English (en)
Other versions
JP2007295535A (ja
Inventor
エノック グザヴィエ
ナッソー エリック
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2007295535A publication Critical patent/JP2007295535A/ja
Application granted granted Critical
Publication of JP4614395B2 publication Critical patent/JP4614395B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • H04N21/2381Adapting the multiplex stream to a specific network, e.g. an Internet Protocol [IP] network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43637Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wireless protocol, e.g. Bluetooth, RF or wireless LAN [IEEE 802.11]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4381Recovering the multiplex stream from a specific network, e.g. recovering MPEG packets from ATM cells
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6131Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via a mobile phone network

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、データの処理に関し、特に、通信網を介して互いに接続された送信装置と受信装置との間のデータの交換中におけるデータ損失の隠蔽に関する。
また、本発明は、無線通信網を介するビデオ送信の分野に適用される。
なお、本発明は、送信装置から受信装置へのドメスティックな適用に関するが、それに限定されない。
実際のところ、送信装置及び受信装置は、潜在的にはモバイル組み込みシステムである。送信装置は、ビデオの収集及び圧縮の後に送信装置がビデオを記憶することを可能にする記憶能力を有する。記憶の完了後、ユーザは、視聴用の受信装置においてビデオの視聴を要求できる。この目的のために、送信装置と受信装置との間に無線接続が形成される。送信装置と受信装置との間で第1の情報項目が交換され、受信装置は、その受信装置の性質、能力及びユーザの希望を知ることができる。それらの第1の情報項目は、計算能力、表示能力及び復号化能力に関して受信装置を記述してもよい。その後、送信中に、第2の情報項目が交換される。第1の一連の情報項目とは異なり、第2の情報項目は、定期的に更新される。第2の情報項目は、特に、受信装置の観点から見た通信網(ネットワーク)の状態の展開(evolution)を記述する。それらの第2の情報項目の解析に基づき、受信装置は、ビデオの適合を促されてもよい。
実際、ビデオのアプリケーションは、送信装置と受信装置との間の通信網が安定状態にある場合にのみ有効である。このアプリケーションでは、2つの状態の間の遷移期間は処理が行なわれない。例えば、通信網の能力が低下した場合、送信装置にその変化が警告されない限り、損失が起こる。
従来、ISO(国際標準化機構:International StandardsOrganization)により定義されるOSI(OpenSystemsInterconnection)モデルは、以下に示す7つの層の形態で通信システムを表す。即ち:
− 通信媒体を介するビット送信を処理する物理層;
− 送信エラーが存在しないようにネットワーク層に見せるために、通信媒体を処理するデータリンク層;
− サブネットワーク間のデータのルーティングを処理するネットワーク層;
− セッション層のデータを処理し、必要に応じてデータをより小さな単位に分断し、全てのデータピースが適正に受信機に到達するように保証するトランスポート層;
− トランスポート層に対して、よりレベルの高いサービス(通信システムの同期化、双方向又は単方向セッションの管理など)を提供することを目的とするセッション層;
− 送信されるデータの構文及び意味に集中し、送信されるデータが通信システムの両側で理解されるように保証するプレゼンテーション層;及び
− 通信システム(送信、ファイルの閲覧など)の考えられる全てのアプリケーションを実行するアプリケーション層。
実際には、通信システムが上記の層のうち1つを実行しないこともあるため、この表現は全く理論上のものである。
一般に、ビデオを送信するクライアント/サーバアプリケーションにおいては、クライアント装置は、トランスポート層及びアプリケーション層の動作を実行する3つの主要な要素により構成されると考えることができる。
それら3つの要素とは、パケットを受信する第1のユニットと、復号化のための第2のユニットと、表示のための第3のユニットである。第1のユニットはトランスポート層に属し、第2及び第3のユニットは、アプリケーション層に属する。受信及び復号化のためのユニットは、パケットのコンテンツに対して、記憶ユニットを共有する。復号化ユニット及び表示ユニットは、復号化画像を記憶するためのユニットを共有する。
パケット記憶ユニットのコンテンツは、一般に、復号化画像記憶ユニットのコンテンツに関して先行している。言い換えれば、トランスポート層は、復号器によりまだ復号化されていないいくつかの画像を記憶している。
一般に、トランスポート層とアプリケーション層とは、情報をほとんど交換しないか又は全く交換しない。トランスポート層は、損失の発生及びその位置を示すだけである。これにより、復号器が損失の位置に到達したときに、復号器が非同期化する事態は回避される。
米国特許第5,247,363号公報(特許文献1)においては、復号化中に画像エラーが検出された場合に、利用可能な画像のみを使用して、すなわち、現在の画像及び基準画像を使用して、シーケンスの時間的アクティビティ及び空間的アクティビティを計算する方法が提供される。その後、損失隠蔽の方法を選択するために、それら2つのアクティビティは比較される。従って、解析される画像の数を増加することにより、空間的アクティビティ及び時間的アクティビティの計算の精度を向上することは不可能である。
2予測B画像(bi-predicted B images)に焦点を絞った同様の方法が、米国特許第5,727,088号公報(特許文献2)において提案されている。この場合にも、復号器は、現在の画像の復号化の時点で初めて、損失を隠蔽する方法を開始する。その後、復号器は、利用可能な画像のみを使用して、シーンの変化を検出し、マクロブロックの損失をどのように隠蔽すべきかを判定する。
損失隠蔽の方法を選択する更に単純な方法が、米国特許第6,449,311号公報(特許文献3)において提案されている。この方法においては、復号器は、動きの連続性を記述する情報を保持する。損失が発生した場合、隠蔽に空間補間を使用すべきか又は時間補間を使用すべきかを判定するために、動きの連続性が試験される。この場合、動き情報は、連続的に計算及び保持される。トランスポート層からの情報は使用されない。
運動ベクトルを使用すべきか否かを判定するために、動きの連続性を試験する同様の概念が、米国特許第6,665,345号公報(特許文献4)に記載されている。
米国特許第5,247,363号明細書 米国特許第5,727,088号明細書 米国特許第6,449,311号明細書 米国特許第6,665,345号明細書
出願人自身は、ビデオ受信装置における情報の損失に最もよく適合する方法を選択する方法を提供するという課題を設定した。
上記の問題を解決する方法は、本発明により提供される。
本発明は、トランスポート層から情報を収集し、復号器により損失を予測することにより隠蔽方法を選択する手順に関する。
従って、本発明は、通信網を介して受信装置に接続された送信装置との間のデータの交換中に損失を受けたビデオシーケンスの画像を受信する受信装置で、トランスポート層を実行する第1のモジュールとアプリケーション層を実行する第2のモジュールとを少なくとも具備し、アプリケーション層は、ビデオの復号化を実行する第1のサブモジュールと前記ビデオの表示を実行する第2のサブモジュールの2つのサブモジュールを有する受信装置において実行される受信方法に関する。
本発明の一般的定義によれば、方法は、
− トランスポート層において、トランスポート層がデータの損失を検出した場合、直ちにアプリケーション層に向けてデータの損失の検出信号を送信するステップと;
− 前記検出信号を受信したとき、アプリケーション層自体がそのようにして検出された前記データの損失を検出するのを待たずに、アプリケーション層において損失隠蔽メカニズムを実行するステップとを有する。
従って、本発明に従った方法によれば、損失が検出されると、トランスポート層は、損失が起こったことをアプリケーション層に直ちに報知する。次に、アプリケーション層は、復号化中のエラーを含む画像を待つことなく、損失隠蔽方法を開始する。
例えば、損失隠蔽メカニズムは、検出信号の受信に続く画像で始まるエラー汚染画像に先行する各画像からの動き情報を格納することから開始する。
方法は、そのようにして格納される動き情報の解析により、動きの性質を判定するステップを更に含むのが好ましい。
次に、復号器は、エラー汚染画像に至るまで、パケット記憶ユニットに格納された全ての画像の解析を開始する。この予備解析により、シーケンスの特性について、従来技術の方法より精確な情報を収集できる。これは、解析される画像の数が増加するためである。この解析によって、損失隠蔽方法が実行可能であるかを決定できると共に、隠蔽方法のセットの中から最良の方法を選択できる。例えば、動き情報の解析は、現在のマクロブロックのベクトルと近傍のマクロブロックのベクトルとの差のベクトルのノルムを考慮に入れる。
損失の隠蔽が不可能である場合には、画像を漸進的に曖昧化する方法(フェージングとも呼ばれる)が適用される。実際、ユーザにとっては、画質が急激に劣化し、不正確に復号化された画像が表示されるより、エラーが起こった場合にシーケンスのフェージングを適用し、シーケンスが再同期化されるまで何も表示されないほうが好ましい。
本発明は、更に、通信網を介して受信装置に接続された送信装置との間のデータの交換中に損失を受けたビデオシーケンスの画像を受信する受信装置で、トランスポート層を実行する第1のモジュールとアプリケーション層を実行する第2のモジュールとを少なくとも具備し、アプリケーション層は、ビデオの復号化を実行する第1のサブモジュールと前記ビデオの表示を実行する第2のサブモジュールとに分割されている受信装置に関する。
本発明の別の面によれば、装置は、
−トランスポート層がデータの損失を検出した場合、アプリケーション層に向けてデータ損失の検出信号を直ちに送信する手段をトランスポート層に具備し;且つ
−前記損失の検出信号を受信したとき、前記アプリケーション層自体がそのようにして検出された前記データ損失を検出するのを待たずに実行される損失隠蔽メカニズムをアプリケーション層に具備する。
例えば、前記損失隠蔽メカニズムは、検出信号の受信に続く画像で始まるエラー汚染画像に先行する各画像からの動き情報を格納する手段を具備する。
一実施形態によれば、装置は、格納された動き情報の解析により動きの性質を判定する手段を更に具備する。実際には、動き情報を解析する手段は、現在のマクロブロックのベクトルと近傍のマクロブロックのベクトルとの差のベクトルのノルムを考慮に入れる。
別の実施形態によれば、規則的であると考えられる動きに応じて、損失隠蔽メカニズムは、受信装置において利用可能である方法のセットの中から1つの方法を選択するか、又は画像をフェージングする処理を選択する。
本発明は、更に、コンピュータシステムにより読み取り可能であり、全体又は一部が着脱自在の情報キャリアで、特にCD−ROM又はハードディスク又はディスケットのような磁気媒体、あるいは電気信号又は光信号のような伝達媒体などの情報キャリアであって、プログラムがコンピュータシステムによりロード及び実行されたとき、上記の方法を実行可能とするコンピュータプログラムの命令を具備することを特徴とする情報キャリアに関する。
最後に、本発明は、情報キャリアに格納されたコンピュータプログラムであって、プログラムがコンピュータシステムによりロード及び実行されたとき、上記の方法を実行可能とする命令を具備するコンピュータプログラムに関する。
本発明の他の特徴及び利点は、以下の説明及び添付の図面を参照することにより明らかになるであろう。
本発明は、特に、送信装置と受信装置との間のビデオ送信システムに適用される。送信装置は、例えば、IEEE802.11a、b又はgプロトコルに準拠したカードのような無線送信能力、MPEG−4規格に従った記憶、計算及び符号化の能力を有するスチルカメラ、ビデオカメラ又はパーソナルアシスタント等の組み込みシステムである。受信装置に関していえば、これは、送信装置と同一のプロトコルに準拠したカードのような受信能力並びにMPEG−4規格に従った計算、記憶及び復号化の能力を有するテレビなどの表示装置である。本発明が非組み込みシステム及び/又は有線通信網においても機能することは明らかである。送信装置及び受信装置は、RTPプロトコル、UDPプロトコル又はIPプロトコルなどのプロトコルを使用して通信する。
以下の説明では、受信装置についてのみ説明する。これは、本発明の場合、送信装置が積極的な役割を果たさず、単にビデオを送信し続けるためである。
図1には、受信装置の不可欠な構成要素が示されている。
受信装置は、送信装置により通信網(図示せず)を介して送信されるパケットを受信可能な通信網受信ユニット1を具備する。通信網記憶ユニット2は、そのようにして受信されたパケットのコンテンツを格納する。受信装置は、ビデオ復号器3、計算ユニットCPU4、ランダムアクセスメモリRAM5、復号化画像記憶ユニット6及び表示画面7を更に具備する。
受信装置は、例えば、ハードディスク及びディスケットドライブなどの種々の周辺装置に接続されたマイクロコンピュータである。ディスケットは、ディスクと同様に、本発明に従って処理されたデータ並びに本発明のコードを格納でき、本発明のコードは、中央処理装置4により読み取られた後、ハードディスクに格納される。
変形例として、装置により本発明を実行可能とするプログラムを読み出し専用メモリ(図示せず)に格納できる。
第2の変形例においては、先に説明したのと全く同じ方式で通信網(図示せず)を介してプログラムを受信し、格納できる。中央処理装置4(図面においてはCPUとして示される)は、読み出し専用メモリ(図示せず)又は他の記憶手段に格納された本発明の実現に関連する命令を実行する。始動後、不揮発性メモリに格納された拡張プログラムは、ランダムアクセスメモリRAM5へ転送される。ランダムアクセスメモリRAM5は、本発明の実行可能コード、並びに本発明を実現するために必要な変数を格納するレジスタを含む。言うまでもなく、ディスケットの代わりに、CD−ROM又はメモリカードなどの任意の形態の情報キャリアが使用されてもよい。より一般的な用語で言えば、受信装置に一体に組み込まれているか否かに関わらず、コンピュータ又はマイクロプロセッサにより読み取り可能である情報記憶手段が、本発明による方法を実行するプログラムを格納する。なお、そのような情報記憶手段は、着脱自在であってもよい。
図2及び図3を参照すると、受信装置は、並列して実行され、信号により相互に通信する2つの処理を実行する。第1の処理は受信処理であり、ステップS201〜S203により説明される。第2の処理は復号化処理であり、ステップS211〜S231により説明される。尚、それら2つの処理は、それぞれ、トランスポート層及びアプリケーション層を実行する。
受信処理は、ステップS201において、RTPパケットの受信により開始される。このパケットは、アプリケーション層がパケットのコンテンツを使用し終わるまで、通信網記憶ユニット2に格納される。その後、コンテンツは消去される。それらのパケットのヘッダは、パケットに含まれる画像番号の識別を可能にする2つの情報項目を含む。それらの情報項目とは、
− 各パケットを識別し、パケットが送信されるたびに1増分される一意なシーケンス番号(sequencenumber)と、
− タイムスタンプ(timestamp)である。この場合、符号化器はこの識別子を制御し、この識別子は、新たな画像が送信されるたびに、2つの画像の間の時間的離間の値だけ増分されるものと仮定する。例えば、シーケンスが毎秒25画像の速度で再生される場合、画像間の時間的離間は、δ=0.04sである。尚、1つの画像がいくつかのパケットとして送信される場合、それらのパケットは同一のタイムスタンプを有する。
ステップS203において、受信ユニット1は、それら2つの標識を計算ユニット4へ送信する。
図3を参照して、計算ユニット4により実行される処理の詳細を説明する。ステップS301において、計算ユニット4はランダムアクセスメモリ5に、
− 受信された直前のパケットのシーケンス番号Pn
− 受信された先行パケットのシーケンス番号Pn-1
− 受信された直前のパケットのタイムスタンプTn;及び
− 受信された先行パケットのタイムスタンプTn-1を格納する。
次に、ステップS303において、上記のシーケンス番号の差が計算され、数値差分(delta)Δpが求められ、更に、上記のタイムスタンプの差が計算され、時間差分(delta)Δtが求められる。ステップS305において、数値差分Δpの値が試験される。この値が1より大きい場合、少なくとも1つのパケットが失われている。この場合、ステップS305に続いて、ステップS307が実行される。このステップにおいて、少なくとも1つのパケットが失われたことを復号器に指示するために、復号器へ検出信号が送信される。ステップS307に続いて、ステップS309が実行される。ステップS309においては、時間差分Δtの値が検証される。この値が0に等しい場合、現在の画像の一部が失われている。その後、画像番号、パケット番号及びパケットの「損失」状態は、ランダムアクセスメモリに確保されたテーブルTABに格納される。時間差分Δtが0とは異なる場合には、Δt/δ個の画像が損失を受けている。ステップS311において、それら全ての画像の番号及びパケットの状態がテーブルTABに格納される。各画像がどのパケットで搬送されたかを識別できないため、対応するパケット番号は注目されない。ステップS311において、番号Niは、Δt/δだけ増分される。
ステップS305において、数値差分Δpが1に等しい場合には、ステップS313へ進む。このステップの間に、時間差分Δtの値が試験される。この値が0に等しい場合、受信された直前のパケットは、画像の新たな部分を含んでいたことになる。このステップに続いてステップS317が実行され、受信された画像の番号、その画像の一部を含むパケットの番号及びその受信状態が格納される。新たな画像の一部が受信されていた場合、受信された直前の画像の番号Niは、ステップS315において1増分される。次に、先に説明したステップS317へ進む。
新たなパケットが受信されたならば、直ちにステップS301に戻る。
アプリケーション層の処理は、トランスポート層の処理と並行して実行される。1つのパケットの処理が終了すると、復号器3は、直ちに通信網記憶ユニット2の新たなパケットを使用する。このステップは、図2を参照して説明されるアプリケーション層によって実行される処理を引き起こす。処理は、ステップS211で開始され、このステップにおいて、パケットが「損失」として検出されたことを示すメッセージが受信されたか否かが試験される。受信されていなければ、パケットのコンテンツが復号化され、新たなパケットが使用される。パケットが「損失」として検出されていた場合には、ステップS211に続いてステップS213が実行される。ステップS213において、復号化の途中である画像がエラーを含む画像であるか否かが検証される。この目的のために、テーブルTABにおいて、画像及び現在のパケットの番号の検索が実行され、その状態が検証される。状態が「受信済み」であれば、復号化中の画像はエラーを含まない。次に、ステップS225へ進み、パケットのコンテンツの復号化が実行される。このステップに続いてステップS227が実行され、現在の画像の番号及びその画像の運動ベクトルがテーブルMOUVに格納される。ステップS213において、画像の状態が「損失」である場合には、画像はエラーを含み、ステップS215へ進む。尚、ステップS215の検証が実行された後、そのパケットに対応するデータは、テーブルTABから消去される。ステップS215において、動き解析が実行される。この目的のために、運動ベクトルの累積振幅が計算され、動きの複雑度が判定される。
図4を参照して、この手順を説明する。
Figure 0004614395
手順は、ステップS401において、変数ANi(画像Ni中の動きの振幅)、PNi(2つの空間的に近接するマクロブロックMBの間の動きの差の累積振幅)、x及びyを0に初期設定することにより開始される。振幅PNiにより、ビデオ中の動きがランダムな性質であるか又は規則的な性質であるかを判定できる。このステップに続いて、ステップS403が実行される。ステップS403において、xの値が、画像の1行分のマクロブロックMBに含まれるマクロブロックMBの数と比較される。xがその数より少ない場合、ステップS405へ進む。ステップS405において、ANiが現在のマクロブロックMBの動きの振幅の値だけ増分される。このステップに続いて、ステップS407、S409及びS411が実行される。それらのステップにおいて、現在のマクロブロックMBのベクトルV(x,y)と近傍の3つのマクロブロックMB(それらのマクロブロックMBが存在する場合)のベクトルVとの差のベクトルPi(iは1〜3まで)のノルムが計算される。この場合、使用されるマクロブロックMBは、
・現在のマクロブロックMBの上に位置するマクロブロックMB(そのようなマクロブロックが存在する場合)、
・現在のマクロブロックMBに先行するマクロブロックMB(そのようなマクロブロックが存在する場合)及び
・現在のマクロブロックMBに先行するマクロブロックMBの上に位置するマクロブロックMB(そのようなマクロブロックが存在する場合)である。それらのマクロブロックMBが存在しない場合には、差は計算されない。
尚、本実施形態においては、2つの運動ベクトルの差のノルムは、3つのマクロブロックMBについて計算されるが、これは、単に実現形態の1例である。解析されるマクロブロックMBに隣接する全てのマクロブロックMBが使用されてもよく、あるいは隣接するマクロブロックの別のサブセットを使用することも可能である。
上記のステップに続いて、ステップS413が実行される。ステップS413において、振幅PNiが、振幅P1、P2及びP3のうちの最小値の分だけ増分される。ステップS415において、xが1増分される。このステップに続いて、ステップS403が実行される。ステップS403において返答がNOである場合、yが1増分され、xは0になる。このステップに続いて、ステップS419が実行され、ステップS419において、yが画像の1列分のマクロブロックMBに含まれるマクロブロックMBの数の値と比較される。yがその値より小さい場合、ステップS405へ進み、大きい場合には、画像全体の処理が完了しているため、手順を終了させるステップS419へ進む。エラー汚染画像に至るまでの動き情報が保持されている全ての画像に対して、図4の演算が繰り返される。画像ごとに収集される情報の項目PNi及びANiは、テーブルINFO_IMAGEに保持される。
ここで再び図2を参照する。ステップS217へ進んだ場合、このステップにおいては、損失を隠蔽すべきか否かが決定される。この目的のために、振幅PNiの値が閾値と比較される。この閾値により、動きをランダムであると考えるか又は規則的であると考えるかを判定できる。この閾値は、訓練用ビデオシーケンスによって判定されてもよい。テーブルINFO_IMAGEに保持されている振幅PNiの値のうち1つが閾値を超えた場合、動きがランダムであると考えられ、ステップS219へ進む。ステップS219は、シーケンスの曖昧化(フェージング(fading)ともいう)を実行する。実際には、フェージング手順は、エラー汚染画像に対して黒色画像が得られるまでシーケンスの画像を曖昧化することから成る。この目的のために、表示の時点で、各画像の各々の画素の輝度が2nにより除算される。nは、フェージング手順が適用される第1の画像に対して1から始まり、黒色画像と置き換えられるエラー汚染画像に至るまで、新たな画像ごとに1ずつ増分される。あるいは、別の実施形態においては、正しい画像で表示をフリーズし、表示を再同期可能にする次のイントラ(INTRA)画像を待つようにすることも考えられる。
ステップS219に続いて、ステップS221が実行される。ステップS221においては、画像の表示を再同期して画像の表示を再開するために、復号器は次のINTRA画像を待つ待機状態にある。
ステップS217において、損失隠蔽の実行が決定された場合には、ステップS229へ進む。このステップの間に、受信機において利用可能な方法のセットの中から1つの損失隠蔽方法が選択される。
ステップS217以降、シーケンス中の動きは、相対的に規則的であることがわかっている。動き振幅情報によって、動きが強いか又は弱いかを判定できる。
弱く且つ規則的な動きは、一連の連続する画像のマクロブロックMBの動きの間に長期間にわたる相関が存在することを意味する。強く且つ規則的な動きは、一連の連続する画像のマクロブロックMBの間に短期間の相関が存在することを意味する。
強い動きを有するシーケンスは、シーケンス中の画像の大半が閾値より大きいANiの値を有するシーケンスとして定義される。この閾値は、訓練用シーケンスによって定義されてもよい。
「損失」マクロブロックMBの運動ベクトルは、最も近接する隣接マクロブロックの中から取り出される最良の予測子(predictor)のマクロブロックMBの運動ベクトルに基づいて予測される。
最良の予測子を判定するために、テーブルMOUVに保持されている先行画像の動き情報が使用される。「損失」マクロブロックMBと同一の空間位置に位置する先行画像中のマクロブロックMBごとに、最良予測子が判定される。所定のマクロブロックMBの最良予測子は、そのマクロブロックMBの運動ベクトルに最も近い運動ベクトルを有する近傍のマクロブロックMBである。
動きが強い場合、「損失」マクロブロックMBは、先行画像の最良予測子と同一の空間位置に位置するマクロブロックMBの運動ベクトルを与えられる(短期間時間相関が考慮される)。
動きが弱い場合には、「損失」マクロブロックMBは、動き情報が保持されている全ての画像から取り出された最良予測子の線形組み合わせにより得られる運動ベクトルを与えられる(長期間時間相関が考慮される)。
隠蔽方法が選択されたならば、ステップS231へ進む。ステップS231は、損失の隠蔽を伴う復号化を実行する。次に、別の画像の復号化に進む。
本発明による受信装置を示す図である。 本発明による受信装置の動作を示すフローチャートである。 本発明による受信装置の計算ユニットの動作を示すフローチャートである。 本発明による動き解析手順を示すフローチャートである。

Claims (12)

  1. 通信網を介して受信装置に接続された送信装置との間のデータの交換中に損失を受けたビデオシーケンスの画像を受信する受信装置で、トランスポート層を実行する第1のモジュールとアプリケーション層を実行する第2のモジュールと前記送信装置から受信したデータを保持するメモリ(2)とを少なくとも具備し、前記アプリケーション層は、ビデオの復号化を実行する第1のサブモジュール(3)と前記ビデオの表示を実行する第2のサブモジュール(7)とを有する受信装置において実行される受信方法であって、
    − 前記トランスポート層において、前記トランスポート層がデータの損失を検出した場合、前記アプリケーション層に向けてデータの損失の検出信号を送信するステップと、
    − 前記アプリケーション層において、前記損失の検出信号を受信した場合、前記損失と判断されたデータを含む画像に対して適用される損失隠蔽のステップにおいて使用される情報を、前記メモリに保持され、前記損失の検出信号に続く画像で始ま前記損失と判断されたデータを含む画像に先行する少なくとも1つの画像から収集するステップを備える損失隠蔽メカニズムを実行するステップとを備えることを特徴とする方法。
  2. 前記損失と判断されたデータを含む画像に先行する少なくとも1つの画像から収集される前記情報は、動き情報である請求項1に記載の方法。
  3. 収集された前記動き情報の解析により前記動きの性質を判定するステップを更に含むことを特徴とする請求項2に記載の方法。
  4. 収集された前記動き情報の解析は、現在のマクロブロック(MB)のベクトル(V→(x,y))と近傍のマクロブロックのベクトル(V→)との差のベクトル(Pi)のノルムを考慮に入れる請求項3記載の方法。
  5. 前記損失隠蔽メカニズムは、規則的であると判定される動きに応じて前記受信装置において利用可能な方法のセットの中から選択され、規則的な動きではない場合には、前記受信装置は画像のフェージングの処理を実行する請求項3又は4記載の方法。
  6. 通信網を介して受信装置に接続された送信装置との間のデータの交換中に損失を受けたビデオシーケンスの画像を受信する受信装置で、トランスポート層を実行する第1のモジュールとアプリケーション層を実行する第2のモジュールと前記送信装置から受信したデータを保持するメモリ(2)とを少なくとも具備し、前記アプリケーション層は、ビデオの復号化を実行する第1のサブモジュール(3)と前記ビデオの表示を実行する第2のサブモジュール(7)とを有する受信装置であって、
    − 前記トランスポート層において、前記トランスポート層がデータの損失を検出した場合、前記アプリケーション層に向けてデータの損失の検出信号を送信する手段と、
    − 前記アプリケーション層において、前記損失の検出信号を受信した場合、前記損失の検出信号の受信に続く画像で始ま前記損失と判断されたデータを含む画像に先行する少なくとも1つの画像から情報を収集し、前記損失と判断されたデータを含む画像に対して損失隠蔽方法を適用する際に収集された前記情報を使用する損失隠蔽メカニズムと備えることを特徴とする受信装置。
  7. 前記損失隠蔽メカニズムは、前記損失の検出信号の受信に続く画像で始まる前記損失と判断されたデータを含む画像に先行する各画像から動き情報を収集する手段(6)を具備する請求項6記載の装置。
  8. 収集された前記動き情報の解析により前記動きの性質を判定する手段を更に具備することを特徴とする請求項7記載の装置。
  9. 前記動き情報を解析する手段は、現在のマクロブロック(MB)のベクトル(V→(x,y))と近傍のマクロブロックのベクトル(V→)との差のベクトル(Pi)のノルムを考慮に入れる請求項8記載の装置。
  10. 前記損失隠蔽メカニズムは、前記受信装置において利用可能な損失隠蔽方法のセットの中から1つの損失隠蔽方法を選択するための選択手段を具備し、前記装置は、画像のフェージングの手段を更に具備し、前記選択手段は、規則的であると判定される動きに応じて実行され、前記画像のフェージングの手段は、規則的な動きではない場合に実行されることを特徴とする請求項8又は9記載の装置。
  11. コンピュータに請求項1乃至5のいずれか1項に記載された方法の各工程を実行させるためのプログラム。
  12. コンピュータに請求項1乃至5のいずれか1項に記載された方法の各工程を実行させるためのプログラムを格納したコンピュータ読み取り可能な記憶媒体。
JP2007059145A 2006-03-08 2007-03-08 送信中に損失を受けた画像を受信する方法及び装置 Expired - Fee Related JP4614395B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
FR0650802A FR2898459B1 (fr) 2006-03-08 2006-03-08 Procede et dispositif de reception d'images ayant subi des pertes en cours de transmission

Publications (2)

Publication Number Publication Date
JP2007295535A JP2007295535A (ja) 2007-11-08
JP4614395B2 true JP4614395B2 (ja) 2011-01-19

Family

ID=37503461

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007059145A Expired - Fee Related JP4614395B2 (ja) 2006-03-08 2007-03-08 送信中に損失を受けた画像を受信する方法及び装置

Country Status (3)

Country Link
US (1) US8824566B2 (ja)
JP (1) JP4614395B2 (ja)
FR (1) FR2898459B1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2902266B1 (fr) * 2006-06-13 2008-10-24 Canon Kk Procede et dispositif de repartition de la bande passante de communication
FR2944938B1 (fr) * 2009-04-28 2011-10-21 Canon Kk Procede et dispositif de correction d'erreurs.
US9455892B2 (en) * 2010-10-29 2016-09-27 Symantec Corporation Data loss monitoring of partial data streams
US9576192B2 (en) * 2014-03-12 2017-02-21 Yamaha Corporation Method and apparatus for notifying motion

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0670306A (ja) * 1992-03-02 1994-03-11 Rca Thomson Licensing Corp 適応形誤り修正装置
JPH09271025A (ja) * 1996-03-28 1997-10-14 Sanyo Electric Co Ltd エラー処理装置
JP2001514830A (ja) * 1997-03-13 2001-09-11 ソニー エレクトロニクス インク ビデオ画像の誤り隠蔽
JP2003023413A (ja) * 2001-07-10 2003-01-24 Hitachi Ltd システムデコーダ装置及びパケットデータの修正方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100215428B1 (ko) * 1995-01-23 1999-08-16 윤종용 B픽처의에러은폐방법
JP3907860B2 (ja) * 1999-02-16 2007-04-18 三菱電機株式会社 動画像復号装置及び動画像復号方法
US6662329B1 (en) * 2000-03-23 2003-12-09 International Business Machines Corporation Processing errors in MPEG data as it is sent to a fixed storage device
US6876705B2 (en) * 2001-03-05 2005-04-05 Intervideo, Inc. Systems and methods for decoding of partially corrupted reversible variable length code (RVLC) intra-coded macroblocks and partial block decoding of corrupted macroblocks in a video decoder
RU2321967C2 (ru) * 2002-07-15 2008-04-10 Нокиа Корпорейшн Способ маскирования ошибок в видеопоследовательностях
FR2861245B1 (fr) * 2003-10-16 2006-05-05 Canon Europa Nv Procede de video surveillance, dispositif, systeme et programme d'ordinateur correspondant
EP1531428A3 (en) * 2003-11-14 2015-08-19 Canon Kabushiki Kaisha Methods and devices for creating, downloading and managing an animation
US7835916B2 (en) * 2003-12-19 2010-11-16 Telefonaktiebolaget Lm Ericsson (Publ) Channel signal concealment in multi-channel audio systems
KR20050120491A (ko) * 2004-06-19 2005-12-22 삼성전자주식회사 멀티미디어 방송 시스템에서의 전송 에러 처리방법 및장치
US20060045190A1 (en) * 2004-09-02 2006-03-02 Sharp Laboratories Of America, Inc. Low-complexity error concealment for real-time video decoder
US7738561B2 (en) * 2004-11-16 2010-06-15 Industrial Technology Research Institute MPEG-4 streaming system with adaptive error concealment
KR100755688B1 (ko) * 2005-02-02 2007-09-05 삼성전자주식회사 에러 은닉 장치 및 방법
DE602006011865D1 (de) * 2005-03-10 2010-03-11 Qualcomm Inc Decoder-architektur für optimiertes fehlermanagement in multimedia-strömen
US8693540B2 (en) * 2005-03-10 2014-04-08 Qualcomm Incorporated Method and apparatus of temporal error concealment for P-frame
FR2902266B1 (fr) * 2006-06-13 2008-10-24 Canon Kk Procede et dispositif de repartition de la bande passante de communication

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0670306A (ja) * 1992-03-02 1994-03-11 Rca Thomson Licensing Corp 適応形誤り修正装置
JPH09271025A (ja) * 1996-03-28 1997-10-14 Sanyo Electric Co Ltd エラー処理装置
JP2001514830A (ja) * 1997-03-13 2001-09-11 ソニー エレクトロニクス インク ビデオ画像の誤り隠蔽
JP2003023413A (ja) * 2001-07-10 2003-01-24 Hitachi Ltd システムデコーダ装置及びパケットデータの修正方法

Also Published As

Publication number Publication date
US8824566B2 (en) 2014-09-02
FR2898459A1 (fr) 2007-09-14
FR2898459B1 (fr) 2008-09-05
JP2007295535A (ja) 2007-11-08
US20070211799A1 (en) 2007-09-13

Similar Documents

Publication Publication Date Title
JP4614395B2 (ja) 送信中に損失を受けた画像を受信する方法及び装置
KR20130062972A (ko) 영상의 부호화/복호화 장치 및 그 방법
CN110418170A (zh) 检测方法和装置、存储介质及电子装置
CN101996145A (zh) 用于产生或者使用交互作用活动信息的方法和装置
RU2673560C1 (ru) Способ и система воспроизведения мультимедийной информации, стандартизированный сервер и терминал прямой трансляции
JPWO2017094847A1 (ja) 体感品質最適化装置、ネットワーク品質推定装置、モバイル端末、体感品質最適化方法、ネットワーク品質推定方法、及びプログラム
CN115103175B (zh) 图像传输方法、装置、设备及介质
CN112565884A (zh) 图像处理方法、装置、终端、服务器及存储介质
EP3182711B1 (en) Image transmission device, image transmission method, and image transmission program
CN112163993A (zh) 图像处理方法、装置、设备及存储介质
CN107529075B (zh) 跨屏续播方法、***、服务器、设备和跨屏续播的设备
CN113259729B (zh) 数据切换的方法、服务器、***及存储介质
CN111897506B (zh) 投屏方法、控制装置、终端及存储介质
CN116704405B (zh) 行为识别方法、电子设备及存储介质
CN107734278B (zh) 一种视频回放方法及相关装置
WO2023147780A1 (zh) 视频帧的编码模式筛选方法、装置及电子设备
CN109005414B (zh) 视频传输方法、装置、设备以及***
CN105959798B (zh) 视频流的帧定位方法、装置和设备
CN113891158B (zh) 视频播放方法、装置、***、电子设备和存储介质
EP1501301A1 (en) Demultiplexing device
CN105847074A (zh) 移动终端上显示网络传输质量的方法和装置
CN111683215B (zh) 录像回放方法、装置、电子设备及计算机可读存储介质
CN108206940A (zh) 视频串流的接合与传输方法、网关装置及观看装置
CN114241551A (zh) 虚拟形象的展示方法和装置、存储介质及电子装置
CN105939380A (zh) 数据同步方法、装置、路由器及智能硬件设备

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101015

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101016

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131029

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees