JP6067378B2 - 再送決定する方法及び装置 - Google Patents

再送決定する方法及び装置 Download PDF

Info

Publication number
JP6067378B2
JP6067378B2 JP2012551135A JP2012551135A JP6067378B2 JP 6067378 B2 JP6067378 B2 JP 6067378B2 JP 2012551135 A JP2012551135 A JP 2012551135A JP 2012551135 A JP2012551135 A JP 2012551135A JP 6067378 B2 JP6067378 B2 JP 6067378B2
Authority
JP
Japan
Prior art keywords
data
network
video data
video
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012551135A
Other languages
English (en)
Other versions
JP2013518511A (ja
Inventor
ルー,シウピン
マンドレカー,イシャン,ウダイ
ペルマナム,ラムクマール
リュー,ハン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2013518511A publication Critical patent/JP2013518511A/ja
Application granted granted Critical
Publication of JP6067378B2 publication Critical patent/JP6067378B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/12Arrangements for detecting or preventing errors in the information received by using return channel
    • H04L1/16Arrangements for detecting or preventing errors in the information received by using return channel in which the return channel carries supervisory signals, e.g. repetition request signals
    • H04L1/18Automatic repetition systems, e.g. Van Duuren systems
    • H04L1/1829Arrangements specially adapted for the receiver end
    • H04L1/1835Buffer management
    • H04L1/1838Buffer management for semi-reliable protocols, e.g. for less sensitive applications such as streaming video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/12Arrangements for detecting or preventing errors in the information received by using return channel
    • H04L1/16Arrangements for detecting or preventing errors in the information received by using return channel in which the return channel carries supervisory signals, e.g. repetition request signals
    • H04L1/1607Details of the supervisory signal
    • H04L1/1671Details of the supervisory signal the supervisory signal being transmitted together with control information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/12Arrangements for detecting or preventing errors in the information received by using return channel
    • H04L1/16Arrangements for detecting or preventing errors in the information received by using return channel in which the return channel carries supervisory signals, e.g. repetition request signals
    • H04L1/18Automatic repetition systems, e.g. Van Duuren systems
    • H04L1/1867Arrangements specially adapted for the transmitter end
    • H04L1/1874Buffer management
    • H04L1/1877Buffer management for semi-reliable protocols, e.g. for less sensitive applications like streaming video

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Communication Control (AREA)

Description

本発明は、概して、デジタルデータネットワークに関し、特に、信頼性の高いデジタルデータ送信のためのネットワークモニタとデータ再送決定とに関する。
マルチキャストやブロードキャストのアプリケーションでは、データは有線及び/又は無線ネットワークにより、サーバから複数のレシーバに送信されるのが一般的である。ここでマルチキャストシステムとは、サーバが同じデータを複数のレシーバに同時に送信し、レシーバはその複数のレシーバの一部から全部であるシステムである。ブロードキャストシステムは、サーバが同じデータをすべてのレシーバに同時に送信するシステムである。すなわち、マルチキャストシステムとは、当然のことながら、ブロードキャストシステムを含んでいる。
データは、通常、送信用のパケット及び/又はフレームにフォーマットされている。すなわち、パケット及び/又はフレームはデータをフォーマットする方式である。ここで、データは、パケット及び/又はフレームを含む、送信に便利な任意のフォーマットにフォーマットできる。そのため、ここでは、「パケット」という用語を用いて、本技術分野の当業者に知られた任意のデータフォーマット方式を画定する。
無線ネットワークにおけるビデオ送信又は配信を、ここではデジタルデータネットワークの一アプリケーションの例として用いる。無線データネットワークにおけるビデオ送信は、通常、干渉、チャネルフェージング、衝突などのチャネルエラー状態により生じるパケット損失を含む。かかるチャネルエラー状態が生じると、プロトコルスタックの無線リンクレイヤは、一定時間内に一定回数だけ、パケットを再送しようと試みる。この再送が成功しない場合、そのパケットは無線リンクレイヤによりドロップされる。インターネットプロトコル(IP)ネットワークベースのビデオ送信では、一般的に、リアルタイムトランスポートプロトコル(RTP)を用いて、次に信頼性の高いトランスミッションコントロールプロトコル(TCP)トランスポートプロトコル又はこれよりは信頼性が高くないユーザデータグラムプロトコル(UDP)トランスポートプロトコルのいずれかを用いて、宛先(レシーバ、ここではクライアントと呼ぶこともある)にビデオパケットを配信する。信頼性が高くないUDPプロトコルを使う場合、例えば、プロトコルは、故障パケットを検出したり、損失パケットを回復する手段は提供せず、パケット配信エラーを回復する役割をアプリケーションに残している。対照的に、TCPプロトコルを用いる場合、エンドツーエンドのアクノレッジメントが提供され、プロトコルは、パケットがアプリケーションにより処理されるそのままの順序でメディア(オーディオ、ビデオ、マルチメディア、・・・)パケット(データ)を送信及び/又は回復しようとする。パケットエラーを検出すると、TCPは、データフロー制御をするためのスライディングウィンドウメカニズムを提供し、パケット送信レートを下げる。TCPは、回復されるまで損失パケットを再送し続ける。
ビデオ送信は、リアルタイムで行われる、データの受信とレンダリングとに関連するユーザの視聴体験(viewing experience)を有するアプリケーションの一例である。パケットが配信され又は回復されなければならないレイテンシすなわち時間定数がエンドユーザの視聴体験に影響を与えるべきではない。それゆえ、パケットエラーは限られた時間内で回復されねばならず、そうしないとデータが視聴可能にならない。TCPは、現在のところ、時間的な制約に基づくパケットリカバリ制御を提供していない。そのため、無線ネットワークのトランスポートプロトコルとしてTCPを用いると、ユーザの視聴体験が悪くなるおそれがある。さらに、TCPでは、送信されたすべてのデータパケットに対して、明示的なアクノレッジメントが必要である。(データレシーバからデータトランスミッタ(送信器)への)TCPアップリンクアクノレッジメントは、(トランスミッタ(送信器)からレシーバへの)ダウンリンクデータトラフィックと、無線帯域幅が競合してしまう。ダウンリンク送信とアップリンク送信間でコリジョンが発生すると、それによりさらにスループットが低下する。
特許文献1は、効率的なアプリケーションレイヤの自動再送要求再送信方法を開示している。この方法では、送信するデータを、失われたデータパケットを回復し、(ビデオなどの)リアルタイムストリーミングデータアプリケーションなどを支援する、信頼できるメディアプロトコルを実装するモジュールでバッファ又はキャッシュする。(上記の特許文献1の図5から取った)図1を参照して、リアルタイムサーバ100には、例えばビデオデジタルデータ入力105を受信するリアルタイムプロトコルパケット化モジュール120が設けられる。リアルタイムプロトコル(RTP)パケット化モジュール120は、ストリーミングアプリケーションを提供し、信頼性が高いメディアプロトコルモジュール130に、例えばソケット様のアプリケーションプログラミングインタフェース(API)115を介して、接続されている。信頼性が高いメディアプロトコルモジュール130は、バッファサイズ、パケット回復待ち最長時間などの設定データパラメータ125を受け取る。これらのパラメータは、例えばテレフォニー、オーディオ、ビデオ、又はマルチメディアなどのデジタルアプリケーションにより決定される。ローカルバッファ又はキャッシュメモリ135は、再送が必要か破棄してよいか決定されるまで、最初に送信されたパケットを一時的に記憶する。サーバ100は、UDP/IPトランスミッタインタフェース140又はTCP/IPトランスミッタ/レシーバインタフェース145の一方と、イーサネット(登録商標)/802.11インタフェース150などのデジタルデータネットワークインタフェースにより、デジタルデータを送信する。最初のリアルタイム送信は、最初の送信160を介してネットワーク110に対して行われ、リアルタイムパケットはキャッシュ/バッファ135に一時的に記憶され、例えば、再送ACK/NACK制御155の受信又は所定のタイムアウトを待つ。
なお、この出願は以下の共有に係る同時係属中の米国特許出願に関連している:(1)2009年10月7日提出の国際出願PCT/US09/005499(発明の名称「AN EFFICIENT APPLICATION- LAYER AUTOMATIC REPEAT REQUEST (ARQ)
RETRANSMISSION SCHEME FOR RELIABLE REAL-TIME STREAMING IN WIRELESS NETWORKS」、トムソン整理番号第PU090136号)、及び国際出願(発明の名称「A METHOD AND APPARATUS FOR PARSING A NETWORK ABSTRACTON-LAYER FOR
RELIABLE DATA COMMUNICATION」、トムソン整理番号第PU090157号)。
国際出願第US/09/005,499号(2009年10月7日出願)
前掲の特許文献1に開示されたような信頼性の高いメディアプロトコルをベースにしたリアルタイムデータ送信システムをさらに信頼性が高いものにする効率的な方法と装置があれば、有利である。本発明は上記その他の問題を解決するものである。
本発明の一態様による方法は、デジタルデータネットワークをモニタしてネットワークトランスポート統計を収集するステップと、前記ネットワークトランスポート統計に基づき、デジタルデータパケットをレシーバに再送信するか決定するステップとを有する。
本発明の他の一態様による装置は、ネットワークトランスポート統計を収集する手段と、割り当てられたデジタルデータパケット優先度と前記収集されたネットワークトランスポート統計とに基づき、デジタルデータパケットを再送信するか決定する手段とを有する。
添付した図面を参照して本発明の実施形態の以下の説明を読めば、上記を含む本発明の特徴と利点、及びその実施方法が明らかになり、本発明をよりよく理解できるだろう。
信頼性の高いメディアプロトコルモジュールと、例えば前掲の特許文献1の図5から取った再送決定を待つリアルタイムパケットを記憶するローカルキャッシュ又はバッファを有するサーバのブロック図である。 本発明の原理によるサーバのブロック図であり、ネットワークインタフェースをモニタして現在のネットワーク統計データを求め、信頼性の高いメディアプロトコル(RMP)モジュールに入力を提供する、本発明のネットワーク抽象化レイヤ(NAL)ヘッダパーサと、ネットワークモニタと、再送決定器とを示す。 本発明の原理による図2Aのサーバへの送信のレシーバ・ネットワーク測定統計データを収集するネットワークモニタを有する関連クライアントを示すブロック図である。 スケーラブルビデオコーディング(SVC)エンコーダから入力を受け取るNALヘッダパーサと、ネットワークモニタと、再送決定器とを有する、本発明の原理によるストリーミングサーバを示すブロック図である。図3Aは、さらに、ストリーミングサーバからデジタルデータを受信するストリーミングレシーバを示している。 NALヘッダパーサがローカルMP4ファイルリーダから入力を受け取るところを示す、図3Aのストリーミングサーバのブロック図である。 デ・パケッタイザを介してネットワークから入力を受け取る図3AのNALヘッダパーサを示す図である。 本発明の原理により抽象化レイヤヘッダをパーシングしてネットワークをモニタリングする送信器側における動作を示すフローチャートである。送信器は図2A又は図3のトランスミッタ、サーバ、又はストリーミングサーバであってもよい。図4はデータレシーバとその関連ネットワークモニタリング動作を示す図である。レシーバは図2Bのクライアントや図3のストリーミングレシーバであってもよい。 本発明の原理によるパーシングするスケーラブルビデオコーダ(SVC)ネットワーク抽象化レイヤ(NAL)エクステンションヘッダのデータコンテンツ表示フォーマットの一例を示す図である。 本発明の態様により、優先データが送信され、ネットワーク統計を計算するリアルタイムプロトコル(RTP)ヘッダのフォーマットの一例を示す図である。 本発明の態様によりネットワークモニタリング統計を求めるコンティニュイティカウンタ(CC)フィールドを含む、例えばMPEG−2などのMPEGトランスポートストリーム(TS)ヘッダのフォーマットの一例を示す図である。 本発明の態様により、ネットワークモニタリング統計を求める送信リクエストとエンドツーエンドパケットロスレートを含むメッセージのフォーマットの一例を示す図である。 本発明の態様による、ネットワークモニタリング統計を求めるARQリクエスト(NACK)パケットのフォーマットの一例を示す図である。 本発明の態様による、ネットワークモニタリング統計を送信し求めるRMP ARQリクエスト(NACK)パケットのフォーマットの一例を示す図である。
本発明は、図2Aと図2Bに示した改良型の信頼性の高いメディアプロトコルモジュールのリアルタイム(例えば、リアルタイムプロトコルやRTP)パケット化への入力としての抽象化レイヤヘッダのパーシングをするトランスミッタ又は送信器における方法及び装置に関し、及びパーサ優先出力を利用して、モニタされたネットワーク状態、例えばパケットロスレートなどに基づき選択的にデータを再送するトランスミッタ/サーバ200(図2A)のネットワークモニタ及び再送決定器に関する。一実施形態では、ネットワーク抽象化レイヤ、例えば、MPEG−4スケーラブルビデオエンコーダ(SVC)などのリアルタイムビデオエンコーダのH.264/AVCネットワーク抽象化レイヤ(NAL)などのネットワーク抽象化レイヤは、パーシングしてデジタルデータの優先度を決定するフィールドを提供するヘッダを有する。例えば、NALは、ネットワークフレンドリーであり、ビデオテレフォニー、例えばビデオ会話型アプリケーションと、ダウンロードした映画のメモリへの記憶、ブロードキャスト又はマルチキャストアプリケーション、ストリーミングアプリケーション、又はその他の非会話型アプリケーションを表す。NALは、例えば、1バイト以上のパケットの形式である複数の抽象化レイヤユニットを表すように定義できる。各NALの最初のバイトは、そのユニットのデータタイプを示すヘッダバイトであり、残りのバイトは、NALヘッダに示されたタイプのペイロードデータを含む。
一実施形態では、抽象化レイヤヘッダパーサは、スケーラブルビデオエンコーダ抽象化レイヤヘッダをパーシングして、複数のフィールドの1つからデータを求める。この実施形態の態様によると、抽象化レイヤヘッダパーサは、例えば、MPEG−4ファイルリーダの出力デジタルビデオデータに作用し、又はデ・パケッタイザ(de-packetizer)で受信するネットワークからのデジタルデータを受け取る。例えば、抽象化レイヤヘッダパーサは、レイヤ表示のレイヤ間コーディング依存性レベルを表すDIDフィールドをパーシングする。QIFフィールドは、メディアグレインスケーラビリティ(MGS)レイヤ表示の品質レベルを表す。TIDフィールドは、レイヤ表示の時間レベルを表す。かかるフィールドを含む抽象化レイヤヘッダをパーシングした結果、それに続くペイロードデータが関連付けられたレイヤが特定される。かかるフィールドを含む抽象化レイヤヘッダをパーシングした結果、それに続くペイロードデータが関連付けられたレイヤが特定される。ペイロードデータタイプの特定に応じて、特定された各レイヤに異なる優先順位を割り当ててもよい。例えば、ベースレイヤは、バッファ又はキャッシュメモリからの再送の高い優先度を受ける。ベースレイヤはレシーバにおける復号の完了に絶対に必要だからである。ペイロードデータタイプの特定に応じて、パーサは、続くデータの特定された各レイヤに異なる優先順位を割り当ててもよい。例えば、ベースレイヤは、バッファ又はキャッシュメモリからの再送の高い優先度を受ける。ベースレイヤデータはレシーバにおける復号の完了に絶対に必要だからである。エンハンスメントレイヤには中位の優先度を割り当てられる。エンハンスメントレイヤはより高位のレイヤの復号に必要だからである。他方、ペイロードデータのうち高位エンハンスメントレイヤには低い優先度を割り当ててもよい。例えば、低位、中位、及び高位の優先度を割り当てると、優先度情報は、トランスポートレイヤで再送が要求された場合には「ペイロードタイプ」(PT)又はリアルタイムプロトコル(RTP)ヘッダの同様のフィールドで表すことができ、又はIPヘッダのタイプオブサービス(TOS)フィールドで表すことができる。例として、differential services(DS)フィールドとして、ある種のサービスフィールドが知られている。最初の2ビットはexplicit congestion notification(ECN)ビットとして知られ、DSフィールドバイトの次の6ビットはdifferential services code point(ESCP)
ビットとして知られている。ここで、サービスのタイプとは、サービスデータのタイプを示す上記その他のフォーマットを言う。このように、信頼性の高いメディアプロトコルモジュールにより決定されるリアルタイムパケット再送決定は、一実施形態による抽象化レイヤヘッダパーサ及び方法を組み込むように修正された場合、layer-awareであり得る。
別の一実施形態では、データネットワークインタフェースを介してデータネットワーク品質をモニタし、例えば再送決定手段に入力する、例えばパケットロスレート、利用可能帯域幅、及びラウンドトリップ遅延などのカレントネットワークデータ統計を収集するネットワークモニタが設けられる。次に、再送決定手段は、再送決定がネットワークモニタで収集されたデータネットワーク統計データによるカレントネットワーク状態に基づくように、高信頼性メディアプロトコル(RMP)モジュールに入力を提供し、優先度とモニタされたネットワーク状態とに基づきパケットの再送を選択的に決定する。
したがって、デジタル再送方法は、デジタルデータパケットの抽象化レイヤヘッダをパーシングして、レイヤ表現データを取得するステップと、前記パーシングに応じて前記表現レイヤのデジタルデータパケットに優先度を割り当てるステップとを有する。レイヤ表現データを取得するステップは、レイヤ間コーディング依存性レベルを決定するステップと、グレインスケーラビリティの品質レベルを決定するステップと、レイヤ表現の時間的レベルを決定するステップのうち1つ又はすべてを有していてもよい。さらに、上記方法は、リアルタイムトランスポートパケットヘッダのペイロードタイプフィールドで、又はインターネットプロトコルパケットヘッダのタイプオブサービスフィールドで、優先度レベルを表すステップをさらに有する。上記の通り、抽象化レイヤヘッダパーサへの入力は、ネットワークデータを受信するデ・パケッタイザから受け取るか、またはMPEGファイルリーダに関連するようなローカルサーバメモリから受け取る。
さらに、別の一実施形態では、デジタルデータトランスミッタは、デジタルデータパケットからレイヤ表現データを取得し、前記レイヤ表現データに優先度を割り当てる抽象化レイヤヘッダパーサと、ネットワークトランスポート統計を収集するデジタルデータモニタと、前記割り当てられたデジタルデータパケット優先度と、収集されたネットワークトランスポート統計とに基づき、デジタルデータパケットを再送するか決定する再送決定器とを有する。上記の通り、別の一実施形態による抽象化レイヤヘッダパーサは、デジタルビデオデータパケットアプリケーションのネットワーク抽象化レイヤヘッダパーサであってもよい。
より具体的に、図2乃至図10を参照して、サーバの抽象化レイヤヘッダパーサ、データモニタ、及び再送決定器と、レシーバのネットワークモニタとは、さらに説明するように、送信制御チャネル255により失われたとレポートされたパケットを再送するかどうか決定するとき、RMPモジュール235の信頼性の非常に高い動作を提供する。無線ネットワークにおけるビデオの送信や配信は、一般的に、リアルタイムトランスポートプロトコル(RTP)やMPEG2トランスポートプロトコル(MPEG2TS)をUDP上で使う。リアルタイムビデオは、単一のソースから単一の宛先に(ユニキャストモード)、又は単一のソースから複数の宛先に(マルチキャストモード)配信される。無線ネットワークではチャネル状態が変化するので、チャネル状態がよくない時、リンクレイヤのエラーリカバリがうまく行かなければ、パケット送信してもパケットが届かない。こうした状況では、パケットシーケンスにギャップが生じ、エンドユーザにとって視聴品質が悪くなる。本発明は、信頼性の高いメディアプロトコル(RMP)と呼ばれる効率的なアプリケーションレイヤベースの再送方式の抽象化レイヤヘッダパーシング機能を提供し、パケットロスを回復し、信頼性の高いリアルタイムストリーミングアプリケーションにおいて支援する。また、本発明は、トランスミッタとレシーバの側にネットワークモニタリング機能を提供し、図2Aのサーバ/トランスミッタ200におけるパケット再送決定を改善する。そのため、ネットワークモニタ271が図2Bのレシーバ/クライアント201に設けられる。
図2Aと図2Bを参照して、本発明の信頼性の高いメディアプロトコル(RMP)では、RTPパケットタイザ220と信頼性の高いメディアプロトコル(RMP)モジュール230は、本発明の原理によるNALヘッダパーサ210を含めることにより支援されている。さらに、ネットワークインタフェース250にインタフェースしたネットワークモニタ270は、現在のネットワーク状態を収集して、再送決定器275を介して、RMPモジュール230の信頼性を改善する。NALヘッダパーサ210、ネットワークモニタ270、及び再送決定器275は、図2Aで強調され、さらに以下に説明するように、図2Aが図1と異なることを示している。
まず、RMPモジュール230は、ネットワークインタフェース250を介して、UDP240を用いて、通常のユニキャスト又はマルチキャストのデータ又はパケットを送信し、初期送信チャネル260を用いてネットワーク110にパケットを送信する。データは、NALヘッダパーサ210によりRTPパケッタイザ220を介して割り当てられた優先度とともに、ローカルキャッシュ235にまず格納される。これとは別に、図2Aのソース(トランスミッタ、送信器)と図2Bの宛先(レシーバ、シンク、クライアント)201との間に、追加的な信頼性の高いTCPベースの制御チャネル245が確立される。TCP/IP245は、ネットワーク110に、再送ACK/NACK制御チャネル255を介して、ネットワークインタフェース250により、失われたパケットの再送を要求し、受信する。このメカニズムを正しく機能させるために、トランスミッタ(送信器、サーバ)200は、そのレシーバ/クライアントに送信された最近のパケットのキャッシュ235を維持している。レシーバ/クライアント201は、トランスミッタ/サーバ200からデータパケットを受信し、RTP(図6)又はMPEGトランスポートストリーム(TS)ヘッダ(図7)にあるシーケンス番号フィールドを用いて、受信したデータパケット中のシーケンスギャップを検出する。レシーバ201は、シーケンスギャップを検出すると、TCPベースの制御チャネル255に、失われたデータパケットの選択的再送を求める要求を送信する。トランスミッタ/サーバ200は、そのレシーバ/クライアント201から再送要求を受信すると、最近のパケットのローカルキャッシュ235を見る。要求されたパケットがローカルキャッシュ235にあれば、送信器/サーバ200は、ネットワーク110を介して、TCPベース制御チャネル255で、レシーバ201に、そのパケットのコピーをユニキャスト送信する。要求されたパケットがローカルキャッシュ/バッファ235になければ、送信器200は、残りの再送要求に応じ続ける。レシーバ/クライアント201は、配信キュー(バッファ/キャッシュ)236を維持し、データチャネルと制御チャネルの両方から受信したデータパケットをすべて保持する。また、レシーバ/クライアント201は、このキュー中で、再送されるパケットを並び替えて正しいシーケンス(位置)にし、正しい時に正しい順序でパケットをアプリケーションに、例えば、表示206のためにビデオプレーヤアプリケーション221に、配信する。
レシーバ/クライアント201(図2B)は、ずっと待ち続けるのではなく、設定可能時間ウィンドウを決めて再送を待ち、パケット遅延と遅延ジッタがアプリケーションの制約内になるようにする。さらに、レシーバ/クライアント201は、レシーバ/クライアント201の観点から、制御チャネル255を介したトランスミッタ/サーバ200への送信のネットワーク統計を収集する、一実施形態によるネットワークモニタ271を備えている。図2Bにはネットワークモニタ271を強調して示し、さらに説明するように、再送決定を改善するために、本発明によるネットワーク統計を収集し、トランスミッタ/サーバ200に提供する、ネットワークモニタ271とネットワークインタフェース251との間の協働を示している。
図2Bのレシーバ/クライアント201は、失われたパケットに対する再送応答の一部の受信が間に合わない場合、配信キューからの受信パケットの残りをアプリケーションに、例えばビデオプレーヤ221とディスプレイ206に渡す。再送パケットは、許容できる回復時間ウィンドウを過ぎて受信されると、レシーバにより破棄される。留意点として、ビデオアプリケーションは、ビデオ復号におけるエラー隠蔽技術を用いて、多少データパケットを失っても大丈夫である。
再び図2Aを参照して、本発明の信頼性の高いメディアプロトコル(RMP)方式は、RMPモジュール230、231を介して、ネットワークモニタ270と271の支援の下の優先付けと再送決定の改良とのために、パーサ210の支援により、リアルタイムアプリケーション/RTP・MPEG TSとUDP/TCP/IPとの間で、動作する。サーバ/トランスミッタ200において、抽象化レイヤヘッダパーサ、例えば、ネットワーク抽象化レイヤ(NAL)ヘッダパーサ210は、ローカルに設けられた、又はネットワークに設けられたデジタルビデオデータ205に作用する。NALヘッダパーサ210は、優先度と、リアルタイムプロトコル(RTP)パケッタイザ220用のデータとを出力する。さらに、ネットワークモニタ270は、現在のネットワーク110の統計を回復し、再送決定器275に制御データを出力し、RMPモジュール230を支援する。例えば、中間優先度が割り当てられたエンハンスメントレイヤと、高優先度が割り当てられたベースレイヤの例において、RMPモジュール230は、ネットワークモニタ270により検出された利用可能帯域幅がある閾値未満である場合、高優先度のベースレイヤデータは再送するが、中優先度のエンハンスメントレイヤデータは送信しない。例えば、再送決定器275は、キャッシュ/バッファメモリ235に保持されたすべてのパケットを送信する替わりに、ネットワークモニタが収集した統計、例えばパケットロスレートやその他のネットワーク状態などと、NALヘッダパーサ210により割り当てられた優先度とに基づき、メモリ235に保持されたパケットの一部を選択して再送する。このように、パーサ210におけるデータへの優先度の割り当てと、再送決定器275による再送決定との組み合わせにより、図4を参照して説明するように、非常に信頼性の高いメディアプロトコル(RMP)モジュール230を提供できる。
図2Aを再び参照して、典型的なネットワークインタフェース250を、サーバ/トランスミッタ200のネットワーク110とRMPモジュール230との間に示した。ネットワークインタフェースモジュールの例としては、コンピュータネットワーク110に接続するイーサネット(登録商標)カード、IEEE802.11/WiFiカードがある。
図2Bは、クライアントデバイス201の実装例を示している。クライアントは、ビデオプレーヤ/ストリーミングアプリケーションモジュール221、ディスプレイ206、バッファ(キャッシュメモリ)236、信頼性の高いメディアプロトコル(RMP)モジュール231、UDP/IPモジュール241、TCP/IPモジュール246、及びネットワークインタフェース251を含み得る。ネットワークインタフェース251は、例えば、イーサネット(登録商標)インタフェースやIEEE802.11インタフェースやその他の既知のネットワークインタフェースであり得る。ネットワークインタフェース251は、すべての入来メッセージを受け取る。メッセージは異なるソケット/アドレスに到着する。ネットワークモニタ271は、ネットワークインタフェース251から、レシーバ/クライアント201の観点からの現在のネットワーク統計を収集し、収集した統計に関して報告する好適な制御メッセージをチャネル255に出力する。ネットワークインタフェース251は、ネットワーク110からの受信メッセージをどこに転送するか判断し、ネットワークモニタ271から統計データを、及びTCP/IPモジュール246からメッセージを出力できる。新しい入来データパケットはネットワークインタフェースモジュール251によりUDP/IPインタフェースに転送される。データパケットの再送要求と、再送されたデータパケットとは、RMPモジュール231によりTCP/IPモジュール246に転送される。RMPモジュール231は、受信したデータパケットに破損したものがあるか判断し、UDP/IPとTCP/IPの両方を用いてパケットリカバリを調整する。RMPモジュール231は、破損したデータパケットに対する再送要求を生成する。次に、RMPモジュール231は、TCP/IPモジュール246に、再送要求を転送し、ネットワーク110により送信する。ネットワークインタフェース251において、ネットワークモニタ271により収集されたネットワーク統計データは再送要求に組み込まれ、ネットワーク110により送信される。また、RMPモジュール231は、並べ替えのため、ローカルバッファ236に受信パケットを格納する。TCP/IPモジュール246を介してTCP制御チャネルから再送パケットを受け取ると、RMPモジュール231はパケットを正しい順序に配列する。RMP231は、シーケンス番号でソートされたキューを維持し、並べ替え、このバッファエリア/キューにパケットを挿入する。リカバリウィンドウが終わると、RMPモジュール231は、例えば、プレーヤ/ストリーミングアプリケーション221に、表示206のためパケットを配信する。RMPモジュール231は、データを渡しアプリケーションと協働するためのソケット状のアプリケーションプロトコルインタフェース(API)216を備える。パケットの中には、リカバリウィンドウのタイムアウトによりリカバリされないものもある。
リカバリウィンドウの終了後に到着したデータパケットは、図4のように破棄される。ビデオなどのアプリケーションに応じて、ストリーミング/プレーヤアプリケーション221は、データをデ・パケッタイザ(depacketizer)及び/又は復号し、それをディスプレイ/スピーカ206に送る。入来パケットはRMP「バッファエリア」に格納され、例えば、アプリケーションがパケットを要求した時はいつも、レンダリング(表示)206のためにアプリケーションに渡される。「Config」226と示したボックスは、RMPモジュール231への「Configuration
Interface」である。RMPモジュールは、初期化時に設定され、キャッシュサイズ、パケットリカバリ待ち最大時間などのパラメータを設定される。
図2Bのレシーバ/クライアント201において、ネットワークモニタ271は、インタフェース251を介して、レシーバ/クライアント201の観点から、現在ネットワーク統計を収集し、制御チャネル255を介してクライアント/レシーバ201のネットワーク状態(network experience)を、デジタルデータネットワーク110を介して接続されたサーバに出力する。収集されたネットワーク統計は、ネットワーク110を介してトランスミッタ/サーバ200で受信されると、インタフェース250を介してネットワークモニタ270に出力され、上記の通り、ネットワーク110のトランスミッタ/サーバの観点からの、ネットワークモニタ270により収集された統計を補足する。デジタルデータネットワーク110は、衛星ネットワーク、地上ベース無線ネットワーク、光ファイバネットワーク、同軸ケーブルネットワーク、ツイステッドペアネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、その他の既知のデジタルデータネットワークを含むがこれらに限定されない任意のデジタルデータネットワークであり得る。典型的なネットワークインタフェース251を、クライアント/レシーバ201のネットワーク110とRMPモジュール231との間に示した。ネットワークインタフェースモジュールの例は、コンピュータネットワーク110に接続するイーサネット(登録商標)カード、IEEE802.11/WiFiカードなどを含む。
図3を説明する前に、重要な留意点として、図中、同様の参照数字は同様の要素を示す。さらに、参照番号の最初の番号、例えばネットワーク110の参照番号110の最初の番号は、その要素を最初に示した図面の番号を示している。そのため、例えば、RMPモジュール230は、最初に図2に示されているが、図1の信頼性の高いメディアプロトコル(RMP)モジュール130と似ているが、図1にはないNALヘッダパーサ210とネットワークモニタ270と再送決定器275とを含む点で、図1のRMPモジュール130とは異なるモジュールである。また、本発明の原理による、図2Bのクライアント/レシーバ201のネットワークモニタ271は、図2AのRMPモジュール230と再送決定器275の動作を改善する。パーサ210、ネットワークモニタ270と271、及び再送決定器275の利点を上で説明したが、図3と図4を参照して、以下に、さらに説明する。
図3は、ストリーミングサーバ/トランスミッタのNAL抽象化レイヤヘッダパーサ210、ネットワークモニタ270、及び再送決定器275を、ネットワーク110を介して接続されたストリーミングレシーバへの送信を参照して、直接的に示している。図3Aを参照して、スケーラブルビデオコーダ(SVC)エンコーダ300を示した。これは、ストリーミングサーバに配置しても、ストリーミングサーバとは別に配置してもよい。スケーラブルビデオコーダ(SVC)は、さらに説明するように、時間的すなわちフレームレートスケーラビリティ、空間的すなわちピクチャサイズスケーラビリティ(例えば、ビデオを複数の解像度とアスペクトレシオで符号化する)、及び信号対雑音比(SNR)すなわち画質/忠実性スケーラビリティを提供する。NALヘッダパーサ210は、図4を参照してさらに説明する、H.264準拠AVCネットワーク抽象化レイヤ(NAL)ヘッダパーサ又は同様の機能を有するその他の抽象化レイヤヘッダパーサであり得る。例えば、図3Bを参照して、NALヘッダパーサ210は、MP4ファイルリーダ302などのローカルメモリストアから入力を受け取る。ストリーミングサーバの実施形態の例は、IPテレビジョンチャネル又は映画サービスを提供するストリーミングサーバである。図3Cの代替的実施形態には、ネットワーク110からストリーミングビデオなどを受け取り、受け取ったパケットをNALヘッダパーサ210に出力するデ・パケッタイザ(de-packetizer)304を示した。図3Cのストリーミングサーバのビデオアプリケーション例は、図示したストリーミングサーバが、あるビデオ通信端末から他の端末へのネットワークパス中の一サーバであるビデオテレフォニーである。
図3A、図3B、図3Cそれぞれにおいて、NALヘッダパーサ210は、ローカルキャッシュ235にパケッタイザ310を介して、パケット/フレーム優先度を提供する。最初の送信では、パーサ210はパケッタイザ310に、パーサデータと優先度を出力する。パス312により、コピーがローカルキャッシュ235に置かれ、パス314により、パケッタイザがパケットデータをストリーミングレシーバのデ・パケッタイザ320に送る。ネットワークモニタ270は、デ・パケッタイザ320にネットワーク110を介してパス316で再送するため、ローカルキャッシュ235に格納されたパケット/フレームを再送するかどうかを選択的に決定するネットワーク伝送状態データを、再送決定器275に提供する。伝送状態とパーサが割り当てた優先度とに応じて、選択されたパケットの再送のためにパス316を用いる。
ここで、図4を参照して、本発明による抽象化レイヤヘッダパーサ、ネットワークモニタ、及び再送決定器の機能動作を、送信器又はトランスミッタ/サーバ側の動作とレシーバ/クライアント/端末側の動作の両方を示すフローチャートを参照して、さらに説明する。ブロック400において、図3のサーバ/トランスミッタは、ローカルファイル(図3Bのファイルリーダ302)などからデータを取得し、又はネットワークインタフェース(例えば、図3Cのネットワーク110とデ・パケッタイザ304)からデータを受け取る。受け取ったデータはブロック410に送られる。ブロック410は図2Aと図3の抽象化レイヤヘッダパーサ210を表す。
図5を簡単に参照して、解析されるフィールドを設けた典型的な抽象化レイヤヘッダ、例えばSVC NALエクステンションヘッダを示した。例えば、抽象化レイヤヘッダパーサ410は、レイヤ表現又は空間的/解像度スケーラビリティのレベルのレイヤ間コーディング依存性を表す、第2バイト(BYTE 1)の位置1−3に示されたDIDフィールドを解析(parse)する。例えば、第2バイト(BYTE 1)の位置4−7にあるQIDフィールドは、媒体粒度スケーラビリティ(MGS)の品質レベルを反映し表す。第3バイト(BYTE 2)の位置0−2などのTIDフィールドは、レイヤ表現の時間的レベルを表す。かかるフィールドを含む抽象化レイヤヘッダをパーシングした結果、それに続くペイロードデータが関連付けられたレイヤが特定される。ペイロードデータタイプの特定に応じて、図4のパーサブロック410のパーサは、例えば、低優先度、中優先度、及び高優先度のデータの特定された各レイヤに異なる優先順位を割り当ててもよい。別の実施形態では、優先度のレベルは3より多くてもよい。例えば、ベースレイヤは、バッファ又はキャッシュメモリからの再送の高い優先度を受ける。ベースレイヤはレシーバにおける復号の完了に絶対に必要だからである。エンハンスメントレイヤには中位の優先度を割り当てられる。エンハンスメントレイヤはより高位のレイヤの復号に必要だからである。デジタルデータのSVC符号化ストリームは、ベースレイヤと1つのエンハンスメントレイヤとを有し得る。一方、画質を良くするため、第2の、又はそれ以上のエンハンスメントレイヤを設けて、キャッシュ235のペイロードデータに、高位のエンハンスメントレイヤを低優先度に割り当てても良い。
簡単な例を示すため、SVC符号化ビデオデータが、416×240の解像度のベースレイヤと、600kbpsのビットレートと、832×480の高解像度の1つのエンハンスメントレイヤと、その結果として1.2メガビット毎秒のビデオストリーミングのビットレートとを有する場合、パーサ410は、DIDフィールドに基づきベースレイヤNALユニットを特定し、そのベースレイヤに高い優先度を割り当てることができる。他方、(高解像度を提供する)エンハンスメントレイヤには低優先度が割り当てられてもよい。この例では、ベースレイヤには、エンハンスメントレイヤより高い優先度が割り当てられる。出力優先度レベルは、図6に示したRTPヘッダのペイロードタイプ(PT)フィールドの位置9−15に示されている。また、例えば、低位、中位、及び高位の優先度を割り当てると、優先度情報は、トランスポートレイヤで再送が要求された場合には、リアルタイムプロトコル(RTP)ヘッダの同様のフィールドで表すことができ、又はIPヘッダのタイプオブサービス(TOS)フィールドで表すことができる。まず、パケットが「パケットを送信」450を介してネットワーク110を介してレシーバに向けて送信される時、コピーが、430のローカルキャッシュ/バッファメモリにブロック420でバッファされる。パケットはネットワークで失われるか、又は受信される。ローカルキャッシュ430中のパケットは、ネットワーク状態とパケットが受信されたか否かとを判断されるまで待つ。
パケットが受信され、ネットワーク状態が良ければ、パケットは460で受信され、レシーバは465で予定のパケットが失われたか(YES)か否か(NO)判断する。失われたら(YES)、ステップ485で、再送要求を送信し、レシーバのリカバリタイマーを、図2Bの送信器/トランスミッタ/サーバ200の制御チャネル255を介して設定する。NOであれば、ステップ490において、例えば、レシーバ/クライアント201の表示機能206のために、受信したパケットを受信バッファにおいて正しい順序にする。
再送要求をステップ485を介して送信すると、ネットワークモニタ機能405が起動され、受信された再送要求を処理する。さらに説明するように、ある時点におけるエンドツーエンドのパケットロスレートは、レシーバ側からの現在のネットワーク110の状態として、ネットワークモニタ271で決定される。現在のネットワーク状態、例えば、エンドツーエンドパケットロスレートが、再送決定器415に、405の出力として、再送要求と共に供給される。
ネットワークモニタ405のアプリケーション例は、送信器/サーバが優先ネットワーク110上にあり(例えば、ケーブル又は衛星のセットトップボックスやホームゲートウェイ)、レシーバが無線アクセスポイントAPに関連したモバイルデバイス又はパーソナルコンピュータである場合である。中間ノード/無線アクセスポイント(AP/ルータ)は、ネットワーク及び無線チャネルの状態を送信器に報告する。このように、本発明の原理による信頼性の高いメディアプロトコル(RMP)モジュール230により決定されるリアルタイムパケット再送決定は、一実施形態による抽象化レイヤヘッダパーサ及び方法を組み込むように修正された場合、layer-awareであり得る。
再送決定器415は、例えば、現在のエンドツーエンド送信パケットロスレートが高いか、すなわちRMPモジュール230のメモリに設定された閾値より高いか、判断する。答えがYESなら、ステップ445において、低優先度パケットはドロップされ、高優先度パケットのみがキャッシュ/バッファ430からリカバリされ、再送される。パケットロスレート以外の伝送状態のその他の尺度は、利用可能帯域幅(例えば、エンドツーエンドパスにおける最低の利用可能帯域幅)と、ラウンドトリップ遅延(ラウンドトリップ遅延が長いと、再送用にキャッシュ/バッファ235に保持されたパケットのタイムアウトが必要になる)がある。利用可能帯域幅も含め、これらの夫々は、パケット再送について決定するため、メモリに設定された関連閾値レベルと比較される。再送決定をするため、パーシング410により設定されたパケット優先度と共に、1つ以上のものが利用される。答えがNOの場合、ステップ435において、要求されたすべてのパケットがキャッシュ/バッファ430から、「パケットを送信」450とネットワーク110を介して、再送される。
受信時、再送されたパケットは、ステップ460で受信され、ステップ470で再送パケットとして認識される。リアルタイムの視聴体験に基づき、受信時をステップ475で調べる。考える問題は次の通りである:すなわち、再送は遅かったか?再送されたパケットの受信が遅すぎた場合、すなわち、プログラムの視聴体験はすでに次のフレームに移ってしまっている場合、再送されたパケットはステップ480で破棄される。他方、再送パケットが遅くない(すなわち、答えがNOである)場合、ステップ490で表示するため、再送パケットを受信バッファで順番通りにする。
本発明のRMP方法は、フレキシブルソフトウェアライブラリ、ハードウェア、ファームウェア、任意のコンピュータやプロセッサ、特定目的集積回路(ASIC)、RISC(reduced instruction set computer)、FPGA(field
programmable gate array)、又はこれらの任意の組み合わせで実施できる。本発明のRMP方法は、ソケット状のユーザインタフェースAPIと、ストリーミングサーバとプレーヤアプリケーションと容易に集積できる伝送手段を用いる。本発明のRMP方法は、サポートされるストリーミングアプリケーションに対して透明である。UDPデータチャネルとTCP制御チャネルは内部で維持される。本発明のRMP方法は、FECやハイブリッドARQなどのエラーリカバリ方式をサポートするよう拡張可能である。
本発明のネットワークモニタ機能405を、図6、図7、及び図8を参照してさらに説明する。例えば、ネットワークモニタ271がシーケンス番号(第1行の位置6−1)からシーケンスギャップを検出する1つの可能なアプローチを図6に示した。他の一アプローチは、図7から分かるように、1バイトのMPEG−2トランスポートストリームヘッダの連続性カウンタ(CC)フィールドを用いることである。
図2Bのレシーバ/クライアント201のネットワークモニタ271により収集された統計を図2Aのサーバ/トランスミッタに送信するメッセージのフォーマット例を図8に示した。このメッセージフォーマットはRTP制御プロトコル(RTCP)レシーバレポート(RR)メッセージと似ている。特に、例えば、ライン4の位置0−7に、「フラクションロスト」フィールドを設けてもよい。パケット損失の合計数などの他の関連データは、同じチャネルで事前に受け取ったパケット損失の合計数と比較できる。差分は、連続するメッセージの連続する受信の間の時間により画定される期間内に失われたパケット数を提供する。
図9は、送信器/サーバ/トランスミッタが、レシーバ/クライアント201から受け取った再送要求によりネットワークパケットロスを取得するフォーマットを示す。図4のネットワークモニタ機能405は、フィールド「Base sequence # of starting packet」と「offset
for ending packet」からロストパケット数を計算する。同様に、図10のRMP ARQ要求(NACK)パケットは、ベースシーケンス番号を提供する。これは、格納され、後で受信されるベースシーケンス番号と比較される。図示したベースシーケンス番号とビットマップは、レシーバが再送を要求した一連のパケットを示す。ネットワーク伝送状態を判断するさらに別のアプローチは、下位レイヤ、例えばネットワーク/MAC/PHYレベルの伝送統計をモニタして、チャネル状態と利用可能帯域幅を推定することである。
上記の本発明のRMP方式では、データチャネル255に送信されるパケットには変わりはない。そのため、後方互換性は維持される。また、本発明のRMP方式は、帯域幅を効率的に利用する。制御チャネルで低オーバーヘッドで、失われたメディアパケットのみを要求して再送させるからである。ロストパケット要求はNACK(Negative Acknowledgements)として機能し、送信器にフィードバックも提供する。これにより、チャネル状態が大幅に異なっても高い信頼性を提供できる。リカバリ時間ウィンドウ内でロストパケットを複数回再送できるからである。また、本発明のRMP方式は、再送に対して最大待ち時間(すなわち、リカバリウィンドウ)を設け、与えられた時間的制約内でのベストエフォート配信モデルで動作することにより、アプリケーションにレイテンシ制約を課す。
上記の実施形態はビデオ送信を用いて説明した。また、本発明は、音声の送信(例えば、テレフォニー)と、その他のリアルタイムマルチメディアストリーミングアプリケーションとに適用できる。
本発明の上記の方式は、無線ネットワークに関して説明したが、パケットロスが生じるどんな種類のネットワークでも用いることができる。
言うまでもなく、本発明は、ハードウェア、ソフトウェア、ファームウェア、特殊用途プロセッサ、またはこれらの組み合わせなどのいろいろな形体で実施することができる。好ましくはハードウェアとソフトウェアを組み合わせて本発明を実施する。また、プログラム記録装置に有体的に化体されたアプリケーションプログラムとしてソフトウェアを実施してもよい。そのアプリケーションプログラムは、好適なアーキテクチャを有する機械にアップロードされ、実行される。好ましくは、機械は、中央処理装置(CPU)、ランダムアクセスメモリ(RAM)、及び入出力(I/O)インタフェース等のハードウェアを有するコンピュータプラットフォームで実施される。コンピュータプラットフォームはオペレーティングシステムとマイクロコードも含んでもよい。ここに説明した様々なプロセスや機能は、オペレーティングシステムにより実行できる、マイクロ命令コードの一部やアプリケーションプログラムの一部(またはこれらの組み合わせ)であってもよい。また、追加的データ記憶装置や印刷装置等その他の様々な周辺装置をコンピュータプラットフォームに接続してもよい。
さらに言うまでもなく、添付した図面に示したシステム構成要素や方法ステップの一部はソフトウェアで実施されてもよいので、システム構成要素(または方法ステップ)間の実際的な結合は本発明をプログラムするそのプログラム方法に応じて異なる。ここに開示された本発明の教示を受けて、関連技術分野の当業者は、本発明の同様な実施形態や構成を考えることができるであろう。

Claims (2)

  1. 送信装置が、デジタルビデオデータのソースから符号化ビデオデータを受信するステップであって、前記符号化ビデオデータはスケーラブルに符号化されビデオコンテンツを担い、前記符号化ビデオデータはネットワーク抽象化レイヤ(NAL)拡張ヘッダと、前記ビデオコンテンツの第1のレイヤと、前記ビデオコンテンツの第2のレイヤとを含み、前記第1のレイヤは前記符号化ビデオデータから基本画質で前記ビデオコンテンツを読み出すために利用される第1のビデオデータを含み、前記第2のレイヤは前記符号化ビデオデータから高画質で前記ビデオコンテンツを読み出すために、前記第1のビデオデータと共に利用される第2のビデオデータを含む、ステップと、
    前記送信装置が、前記NAL拡張ヘッダを解析して、前記第1及び第2のビデオデータを特定するステップと、
    前記送信装置が、前記第2のビデオデータに対して、前記第1のビデオデータに、再送信についてより高い優先度を割り当てるステップと、
    前記送信装置が、前記第1及び第2のビデオデータを、割り当てられた前記優先度でバッファメモリにキャッシングするステップと、
    前記送信装置が、デジタルデータネットワークの第1のデータチャネルを介して、受信装置に、前記符号化ビデオデータを最初に送信するステップであって、前記デジタルデータネットワークはさらに第2のデータチャネルを含み、前記第1のデータチャネルは第1のトランスポートプロトコルを利用し、送信装置から前記受信装置に一方向データ通信を提供し、前記第2のデータチャネルは第2のトランスポートプロトコルを利用し、前記送信装置と前記受信装置との間に双方向データ通信を提供し、前記第1のトランスポートプロトコルは前記第2のトランスポートプロトコルより信頼性が高くない、ステップと、
    前記送信装置が、デジタルデータネットワークを監視して、前記送信装置の観点から、前記デジタルデータネットワークの統計に関する第1のネットワークデータを収集するステップであって、前記第1のネットワークデータは第1のネットワーク伝送状態を示し、前記第1のネットワーク伝送状態は第1のエンド・ツー・エンドパケット損失率と、前記デジタルデータネットワークの第1の利用可能帯域幅と、第1のラウンドトリップ遅延とのうち少なくとも1つを含む、ステップと、
    前記送信装置が、前記受信装置から前記第2のデータチャネルを介して送信された再送信要求を受信するステップであって、前記再送信要求は前記受信装置の観点からの前記デジタルデータネットワークの統計に関する第2のネットワークデータを含み、前記第2のネットワークデータは前記受信装置において決定された前記デジタルデータネットワークの第2のネットワーク伝送状態を示し、前記第2のネットワーク伝送状態は第2のエンド・ツー・エンドパケット損失率と、前記デジタルデータネットワークの第2の利用可能帯域幅と、第2のラウンドトリップ遅延とのうち少なくとも1つを含む、ステップと、
    前記送信装置が、前記第1のネットワークデータを前記第2のネットワークデータで補足するステップと、
    前記送信装置が、前記再送信要求に応じて、補足された前記第1のネットワークデータを考慮して、割り当てられた前記優先度に従って、前記バッファメモリから前記第1及び第2のビデオデータのうち少なくとも1つを回復し、前記第2のデータチャネルを介して前記受信装置に回復したビデオデータを送信するか決定するステップと
    を含む、方法。
  2. 送信装置であって、
    デジタルビデオデータのソースから符号化ビデオデータを受信する手段であって、前記符号化ビデオデータはスケーラブルに符号化されビデオコンテンツを担い、前記符号化ビデオデータはネットワーク抽象化レイヤ(NAL)拡張ヘッダと、前記ビデオコンテンツの第1のレイヤと、前記ビデオコンテンツの第2のレイヤとを含み、前記第1のレイヤは前記符号化ビデオデータから基本画質で前記ビデオコンテンツを読み出すために利用される第1のビデオデータを含み、前記第2のレイヤは前記符号化ビデオデータから高画質で前記ビデオコンテンツを読み出すために、前記第1のビデオデータと共に利用される第2のビデオデータを含む、手段と、
    前記NAL拡張ヘッダを解析して、前記第1及び第2のビデオデータを特定する手段と、
    前記第2のビデオデータに対して、前記第1のビデオデータに、再送信についてより高い優先度を割り当てる手段と、
    前記第1及び第2のビデオデータを、割り当てられた前記優先度でバッファメモリにキャッシングする手段と、
    デジタルデータネットワークの第1のデータチャネルを介して、受信装置に、前記符号化ビデオデータを最初に送信する手段であって、前記デジタルデータネットワークはさらに第2のデータチャネルを含み、前記第1のデータチャネルは第1のトランスポートプロトコルを利用し、送信装置から前記受信装置に一方向データ通信を提供し、前記第2のデータチャネルは第2のトランスポートプロトコルを利用し、前記送信装置と前記受信装置との間に双方向データ通信を提供し、前記第1のトランスポートプロトコルは前記第2のトランスポートプロトコルより信頼性が高くない、手段と、
    デジタルデータネットワークを監視して、前記送信装置の観点から、前記デジタルデータネットワークの統計に関する第1のネットワークデータを収集する手段であって、前記第1のネットワークデータは第1のネットワーク伝送状態を示し、前記第1のネットワーク伝送状態は第1のエンド・ツー・エンドパケット損失率と、前記デジタルデータネットワークの第1の利用可能帯域幅と、第1のラウンドトリップ遅延とのうち少なくとも1つを含む、手段と、
    前記受信装置から前記第2のデータチャネルを介して送信された再送信要求を受信する手段であって、前記再送信要求は前記受信装置の観点からの前記デジタルデータネットワークの統計に関する第2のネットワークデータを含み、前記第2のネットワークデータは前記受信装置において決定された前記デジタルデータネットワークの第2のネットワーク伝送状態を示し、前記第2のネットワーク伝送状態は第2のエンド・ツー・エンドパケット損失率と、前記デジタルデータネットワークの第2の利用可能帯域幅と、第2のラウンドトリップ遅延とのうち少なくとも1つを含む、手段と、
    前記第1のネットワークデータを前記第2のネットワークデータで補足する手段と、
    前記再送信要求に応じて、補足された前記第1のネットワークデータを考慮して、割り当てられた前記優先度に従って、前記バッファメモリから前記第1及び第2のビデオデータのうち少なくとも1つを回復し、前記第2のデータチャネルを介して前記受信装置に回復したビデオデータを送信するか決定する手段と
    を含む、送信装置。
JP2012551135A 2010-01-28 2010-01-28 再送決定する方法及び装置 Expired - Fee Related JP6067378B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2010/000228 WO2011093836A1 (en) 2010-01-28 2010-01-28 A method and apparatus for retransmission decision making

Publications (2)

Publication Number Publication Date
JP2013518511A JP2013518511A (ja) 2013-05-20
JP6067378B2 true JP6067378B2 (ja) 2017-01-25

Family

ID=42938588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012551135A Expired - Fee Related JP6067378B2 (ja) 2010-01-28 2010-01-28 再送決定する方法及び装置

Country Status (6)

Country Link
US (2) US20120300663A1 (ja)
EP (1) EP2529502A1 (ja)
JP (1) JP6067378B2 (ja)
KR (1) KR101734835B1 (ja)
CN (1) CN103109485A (ja)
WO (1) WO2011093836A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101744355B1 (ko) 2011-01-19 2017-06-08 삼성전자주식회사 상호 계층 최적화를 이용한 멀티미디어 데이터 패킷을 송신하는 방법 및 장치
US9391878B2 (en) * 2012-01-25 2016-07-12 Cisco Technology, Inc. Reliable packet delivery with overlay network (RPDON)
US9577791B2 (en) 2012-12-05 2017-02-21 Intel Corporation Notification by network element of packet drops
WO2014089798A1 (en) * 2012-12-13 2014-06-19 Thomson Licensing Method and apparatus for error control in 3d video transmission
US8989017B2 (en) * 2012-12-14 2015-03-24 Intel Corporation Network congestion management by packet circulation
US9774869B2 (en) * 2013-03-25 2017-09-26 Blackberry Limited Resilient signal encoding
US9723305B2 (en) * 2013-03-29 2017-08-01 Qualcomm Incorporated RTP payload format designs
US20160255579A1 (en) * 2013-10-21 2016-09-01 Kyocera Corporation Base station, processor and terminal
US20150195326A1 (en) * 2014-01-03 2015-07-09 Qualcomm Incorporated Detecting whether header compression is being used for a first stream based upon a delay disparity between the first stream and a second stream
CN105208442B (zh) * 2014-06-27 2018-06-26 贝壳网际(北京)安全技术有限公司 一种视频播放应用程序的视频播放方法及装置
JP6021120B2 (ja) * 2014-09-29 2016-11-09 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation データをストリーム処理する方法、並びに、そのコンピュータ・システム及びコンピュータ・システム用プログラム
US10033489B1 (en) * 2014-12-22 2018-07-24 Amazon Technologies, Inc. Managing communications based on network conditions
US9197696B1 (en) * 2015-01-19 2015-11-24 Vuclip Offline content distribution networks
US10135577B2 (en) * 2015-03-02 2018-11-20 Lg Electronics Inc. Scalable service in a wireless communication system
US10735142B2 (en) * 2015-05-29 2020-08-04 Goodrich Corporation Multi-system data transfer protocol
JP2017040768A (ja) 2015-08-19 2017-02-23 ヤマハ株式会社 コンテンツ送信装置
CN106788911A (zh) * 2015-11-25 2017-05-31 华为技术有限公司 一种报文重传的方法和装置
US10841203B2 (en) 2015-12-11 2020-11-17 Qualcomm Incorporated Coordination of multiple routes for a single IP connection
RU2018132348A (ru) * 2016-02-26 2020-03-26 Нэт Инсайт Интеллекчуал Пропэрти Аб Повторная передача данных в пакетных сетях
US20170288816A1 (en) * 2016-03-30 2017-10-05 Le Holdings (Beijing) Co., Ltd. Method and system for compensating hls slice loss
CN106067847B (zh) * 2016-05-25 2019-10-22 腾讯科技(深圳)有限公司 一种语音数据传输方法及装置
US10154317B2 (en) 2016-07-05 2018-12-11 BoxCast, LLC System, method, and protocol for transmission of video and audio data
EP3488547A1 (en) * 2016-07-25 2019-05-29 Koninklijke Philips N.V. Robust data transmittal
US10425667B2 (en) * 2016-10-03 2019-09-24 Cisco Technology, Inc. Network layer transport of video characteristics for use by network function in a service function chain
US10841621B2 (en) * 2017-03-01 2020-11-17 Wyse Technology L.L.C. Fault recovery of video bitstream in remote sessions
WO2018212613A1 (en) * 2017-05-17 2018-11-22 Samsung Electronics Co., Ltd. Tcp proxy device-assisted communication method and apparatus in wireless communication
EP3676979A1 (en) * 2017-08-31 2020-07-08 Nokia Technologies Oy Method for operating a network entity, network entity, method to operate a user equipment, and user equipment
US11824785B2 (en) * 2018-05-04 2023-11-21 Citrix Systems, Inc. Systems and methods for remote computing session display based upon user input event prioritization
CA3097526A1 (en) * 2018-05-04 2019-11-07 Citrix Systems, Inc. Computer system providing hierarchical display remoting optimized with user and system hints and related methods
US10691528B1 (en) 2019-07-23 2020-06-23 Core Scientific, Inc. Automatic repair of computing devices in a data center
KR20210123835A (ko) * 2020-04-06 2021-10-14 삼성전자주식회사 네트워크의 상태에 기반한 패킷의 재전송을 수행하는 전자 장치 및 전자 장치의 동작 방법
US11943153B2 (en) * 2021-06-28 2024-03-26 Dish Wireless L.L.C. Using buffered audio to overcome lapses in telephony signal

Family Cites Families (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0391314A (ja) 1989-09-04 1991-04-16 Fuji Electric Co Ltd フリップフロップ回路
JPH07221789A (ja) 1994-01-27 1995-08-18 Hitachi Ltd 連続データ伝送方法および連続データ伝送システム
US5822524A (en) 1995-07-21 1998-10-13 Infovalue Computing, Inc. System for just-in-time retrieval of multimedia files over computer networks by transmitting data packets at transmission rate determined by frame size
US5764307A (en) 1995-07-24 1998-06-09 Motorola, Inc. Method and apparatus for spatially adaptive filtering for video encoding
JPH09191314A (ja) * 1996-01-10 1997-07-22 Mitsubishi Electric Corp 連続データ伝送方法および連続データ伝送装置
JP3193947B2 (ja) 1997-01-08 2001-07-30 株式会社ディジタル・ビジョン・ラボラトリーズ データ送信システム及びデータ送信方法
US5918002A (en) 1997-03-14 1999-06-29 Microsoft Corporation Selective retransmission for efficient and reliable streaming of multimedia packets in a computer network
US6289054B1 (en) * 1998-05-15 2001-09-11 North Carolina University Method and systems for dynamic hybrid packet loss recovery for video transmission over lossy packet-based network
JP2000036837A (ja) 1998-07-21 2000-02-02 Matsushita Electric Ind Co Ltd Arq画像通信方法
US6782277B1 (en) 1999-09-30 2004-08-24 Qualcomm Incorporated Wireless communication system with base station beam sweeping
US7389356B2 (en) 1999-12-15 2008-06-17 Microsoft Corporation Generalized differentiation methods and arrangements for adaptive multimedia communications
JP3637835B2 (ja) 2000-03-22 2005-04-13 松下電器産業株式会社 ネットワーク伝送装置
JP2002084338A (ja) 2000-07-07 2002-03-22 Matsushita Electric Ind Co Ltd データ送信装置、データ受信装置、およびデータ通信システム
JP2002141964A (ja) * 2000-08-24 2002-05-17 Matsushita Electric Ind Co Ltd 送受信方法およびその装置
JP2002084239A (ja) 2000-09-06 2002-03-22 Nippon Telegr & Teleph Corp <Ntt> メディア情報配信システムおよびメディア情報配信方法
US7307963B2 (en) 2001-08-03 2007-12-11 At&T Corp. Architecture and method for using IEEE 802.11-like wireless LAN system to emulate private land mobile radio system (PLMRS) radio service
US7218610B2 (en) * 2001-09-27 2007-05-15 Eg Technology, Inc. Communication system and techniques for transmission from source to destination
DE60222581T2 (de) 2001-11-30 2008-06-19 British Telecommunications Public Ltd. Co. Datenübertragung
JP3757857B2 (ja) * 2001-12-12 2006-03-22 ソニー株式会社 データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
US20030206549A1 (en) 2002-05-03 2003-11-06 Mody Sachin Satish Method and apparatus for multicast delivery of information
KR100876765B1 (ko) 2002-05-10 2009-01-07 삼성전자주식회사 이동 통신 시스템에서 데이터 재전송 장치 및 방법
MY162363A (en) 2002-06-11 2017-06-15 Thomson Licensing Sa Multimedia server with simple adaptation to dynamic network loss conditions
JP2004038575A (ja) 2002-07-03 2004-02-05 Sony Corp データ送受信システム及びデータ送受信方法、情報提供装置及び情報提供方法、並びにデータ受信装置及びデータ受信方法
AU2003254004A1 (en) 2002-07-18 2004-02-09 Koninklijke Philips Electronics N.V. Adaptive dropping of prioritized transmission packets
JP2004056393A (ja) 2002-07-18 2004-02-19 Fujitsu Ltd 再生データの保存結果の修復システム
EP1543644B1 (en) 2002-09-24 2006-01-25 Telefonaktiebolaget LM Ericsson (publ) Method and devices for error tolerant data transmission, wherein retransmission of erroneous data is performed up to the point where the remaining number of errors is acceptable
JP2006510248A (ja) 2002-12-11 2006-03-23 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 映像コンテンツを利用して、コンテンツ関連リンクをネットワークベースリソースに提供するためのテキストキーワードまたはフレーズを取得する方法およびシステム
US20040240415A1 (en) 2003-06-02 2004-12-02 Richard Lane Base station-centric method for managing bandwidth and QoS in error-prone system
US8437284B2 (en) * 2003-07-29 2013-05-07 Citrix Systems, Inc. Systems and methods for additional retransmissions of dropped packets
JP4328602B2 (ja) 2003-11-20 2009-09-09 富士通株式会社 パケットエラー訂正装置及び方法
US7643480B2 (en) * 2004-01-22 2010-01-05 Hain-Ching Liu Method and system for reliably and efficiently transporting data over a network
KR100639650B1 (ko) 2004-06-15 2006-10-30 주식회사 케이티프리텔 Vod 스트리밍 서비스 시스템 및 방법
JP2006013911A (ja) 2004-06-25 2006-01-12 Nippon Telegr & Teleph Corp <Ntt> ストリームデータ転送方法、装置、プログラム、および記録媒体
US7522528B2 (en) 2004-11-18 2009-04-21 Qvidium Technologies, Inc. Low-latency automatic repeat request packet recovery mechanism for media streams
WO2006064454A1 (en) 2004-12-15 2006-06-22 Koninklijke Philips Electronics N.V. Method and system for the transmission of digital video over a wireless network
JP2006203649A (ja) 2005-01-21 2006-08-03 Matsushita Electric Ind Co Ltd 映像伝送装置及びシステム
EP1699158A1 (en) 2005-03-02 2006-09-06 Evolium S.A.S. A method for selection of the appropriate HARQ retransmission scheme for data transmission, a base station and a program therefor
JP2008543142A (ja) 2005-05-24 2008-11-27 ノキア コーポレイション デジタル放送における階層的な送受信のための方法および装置
WO2007046957A1 (en) 2005-10-12 2007-04-26 Thomson Licensing Method and apparatus for using high-level syntax in scalable video encoding and decoding
KR100724825B1 (ko) * 2005-11-17 2007-06-04 삼성전자주식회사 스케일러블 비디오 코딩에서 다차원 스케일러빌리티에 따른 조건적 접근제어를 위한 스케일러블 비디오 비트스트림 암복호화 방법 및 암복호화 시스템
CN102036070A (zh) * 2005-12-08 2011-04-27 维德约股份有限公司 用于视频通信***中的差错弹性和随机接入的***和方法
US8462627B2 (en) 2005-12-30 2013-06-11 Altec Lansing Australia Pty Ltd Media data transfer in a network environment
CN101018109B (zh) 2006-02-09 2010-06-23 中兴通讯股份有限公司 一种自动重传请求的移动性管理方法
KR101162378B1 (ko) 2006-03-08 2012-07-04 삼성전자주식회사 이동 통신 시스템에서 복합 자동 재전송 요구의 순서재정렬 동작을 수행하는 방법 및 장치
WO2007129856A1 (en) 2006-05-08 2007-11-15 Samsung Electronics Co., Ltd. Retransmission apparatus and method for high-speed data processing
KR20070109313A (ko) 2006-05-10 2007-11-15 삼성전자주식회사 고속 데이터 처리를 위한 효율적인 재전송 요청 장치 및방법
TWI347103B (en) 2006-06-01 2011-08-11 Innovative Sonic Ltd Dual receiving window method and apparatus for automatic retransmission request
WO2008024282A2 (en) 2006-08-21 2008-02-28 Interdigital Technology Corporation Method and apparatus for controlling arq and harq transmissions and retranmissions in a wireless communication system
KR100855347B1 (ko) 2006-12-05 2008-09-04 에스케이 텔레콤주식회사 유디피 제어 기반의 메시지 전송 시스템 및 방법
US8411572B2 (en) 2006-12-13 2013-04-02 Viasat, Inc. ACM and fixed coding and modulation of hierarchical layers
HUE060663T2 (hu) 2006-12-18 2023-04-28 Optis Wireless Technology Llc Link layer control protokoll implementálása
AU2008204833A1 (en) * 2007-01-09 2008-07-17 Vidyo, Inc. Improved systems and methods for error resilience in video communication systems
CN101543018B (zh) 2007-01-12 2012-12-26 庆熙大学校产学协力团 网络提取层单元的分组格式、使用该格式的视频编解码算法和装置以及使用该格式进行IPv6标签交换的QoS控制算法和装置
WO2008100350A1 (en) 2007-02-15 2008-08-21 Agentek, Inc. Mobile data object transmission over wireless communication networks using udp and two level protocol
KR101345944B1 (ko) 2007-03-02 2013-12-27 삼성전자주식회사 무선 통신 시스템에서 패킷 재전송을 요청하는 장치 및방법
EP2119134B1 (en) * 2007-03-12 2012-05-30 Citrix Systems, Inc. Systems and methods for dynamic bandwidth control by proxy
JP5084362B2 (ja) 2007-06-18 2012-11-28 キヤノン株式会社 データ送信装置、及びデータ送受信システム
KR101015888B1 (ko) 2007-09-11 2011-02-23 한국전자통신연구원 스케일러블비디오 코딩에서 우선순위를 할당하기 위해 비디오 패킷의 왜곡값을 계산하는 장치 및 방법
US7867406B2 (en) 2007-12-26 2011-01-11 Hitachi Global Storage Technologies Netherlands, B.V. Patterned magnetic media having an exchange bridge structure connecting islands
TW200931869A (en) 2007-12-31 2009-07-16 Interdigital Patent Holdings Method and apparatus for handling interactions between measurement gap, automated repeat request, discontinuous reception and discontinuous transmission in wireless communications
US8752102B2 (en) * 2008-01-03 2014-06-10 Microsoft Corporation Intelligent retransmission of data stream segments
CN101262321A (zh) 2008-02-03 2008-09-10 杭州华三通信技术有限公司 媒体数据处理方法、编码设备及媒体平台
CN101262604A (zh) 2008-04-23 2008-09-10 哈尔滨工程大学 一种感兴趣区优先传输的可伸缩视频编码方法
US20110090921A1 (en) 2008-07-01 2011-04-21 Shemimon Manalikudy Anthru Network abstraction layer (nal)-aware multiplexer
BRPI0921720A2 (pt) 2008-10-30 2016-01-05 Nokia Corp método e aparelho para entralaçamento de bloco de dados
US8391356B1 (en) * 2009-02-18 2013-03-05 Sprint Communications Company L.P. Scalable video coding priority marking
WO2011043756A1 (en) 2009-10-07 2011-04-14 Thomson Licensing An efficient application-layer automatic repeat request retransmission method for reliable real-time data streaming in networks
US8274882B2 (en) * 2009-12-08 2012-09-25 At&T Intellectual Property I, Lp Bulk data transport in a network
US20130003579A1 (en) 2010-01-28 2013-01-03 Thomson Licensing Llc Method and apparatus for parsing a network abstraction-layer for reliable data communication

Also Published As

Publication number Publication date
EP2529502A1 (en) 2012-12-05
US20120300663A1 (en) 2012-11-29
US20150200750A1 (en) 2015-07-16
KR101734835B1 (ko) 2017-05-19
KR20120117907A (ko) 2012-10-24
WO2011093836A1 (en) 2011-08-04
CN103109485A (zh) 2013-05-15
US9306708B2 (en) 2016-04-05
JP2013518511A (ja) 2013-05-20

Similar Documents

Publication Publication Date Title
JP6067378B2 (ja) 再送決定する方法及び装置
KR101644215B1 (ko) 신뢰성 있는 데이터 통신을 위한 네트워크 추상화 계층을 파싱하는 방법 및 장치
JP3757857B2 (ja) データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
US20110044338A1 (en) Throughput in a lan by managing tcp acks
US9565482B1 (en) Adaptive profile switching system and method for media streaming over IP networks
US9781488B2 (en) Controlled adaptive rate switching system and method for media streaming over IP networks
KR20120082416A (ko) 네트워크에서 신뢰성 있는 실시간 데이터 스트리밍을 위한 효율적인 애플리케이션 계층의 자동 반복 요청 재송신 방법
US8395990B2 (en) Method and apparatus for streaming scalable multimedia data streams
JP2004187286A (ja) エンド−トゥ−エンドビットレート基準の輻輳制御を備えた、無線ネットワークにおけるmpeg−4ライブユニキャストビデオストリーミングシステム
JP6685621B2 (ja) マルチキャストネットワークにおいてデータの再送を要求すること
JP5117512B2 (ja) 再送回数を動的に適合させる方法及び装置
CN101552660A (zh) 对流媒体数据进行重传、播放的方法、装置及通信***
WO2010054551A1 (zh) 视频流传输的方法、装置和***
CN106100803A (zh) 用于作出重发决定的方法和装置
EP1450535A1 (en) A relay for hierarchical retransmissions in multimedia streaming
EP1947859A1 (en) Video transmission method and system
JP2013013093A (ja) Tcpackの管理によるlanにおけるスループット改善
JP2006285842A (ja) 情報処理装置およびプログラム
KR20150072772A (ko) 단말의 arq 수행을 위한 mmt 메시지 처리 방법

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140114

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140414

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140421

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140514

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20141028

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20141105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150127

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150512

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150911

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150918

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20151016

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161221

R150 Certificate of patent or registration of utility model

Ref document number: 6067378

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees