JP2007096708A - ビデオ再生装置及びオーディオ再生装置 - Google Patents

ビデオ再生装置及びオーディオ再生装置 Download PDF

Info

Publication number
JP2007096708A
JP2007096708A JP2005282841A JP2005282841A JP2007096708A JP 2007096708 A JP2007096708 A JP 2007096708A JP 2005282841 A JP2005282841 A JP 2005282841A JP 2005282841 A JP2005282841 A JP 2005282841A JP 2007096708 A JP2007096708 A JP 2007096708A
Authority
JP
Japan
Prior art keywords
audio
encoded data
video
reproduction
playback
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005282841A
Other languages
English (en)
Other versions
JP4556185B2 (ja
Inventor
Takao Yamabe
孝朗 山辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2005282841A priority Critical patent/JP4556185B2/ja
Publication of JP2007096708A publication Critical patent/JP2007096708A/ja
Application granted granted Critical
Publication of JP4556185B2 publication Critical patent/JP4556185B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

【課題】 ビデオ再生装置とオーディオ再生装置とが無線によって接続している状態の利便性を維持したまま、例えば公共性の高い場所などを始めとする電波使用が制限されている環境においても、簡易な構成によってビデオデータとオーディオデータの同期再生を実現する。
【解決手段】 マルチメディア符号化データの再生を行う際に、マルチメディア符号化データ再生装置(ビデオ再生装置)300は、このマルチメディア符号化データに含まれるオーディオデータをあらかじめ有しているオーディオ再生装置に対して、再生開始指示情報及び再生開始時間情報を送信する。そして、オーディオ再生装置から返信される応答信号を受信し、受信情報解読部311で応答信号の解読を行い、オーディオ再生装置におけるオーディオ再生が正常に動作可能か否かを判断する。オーディオ再生が正常に動作可能な場合、ビデオ復号部304で復号されたビデオデータの映像出力を開始する。
【選択図】 図1

Description

本発明は、物理的に離れた状態にあるビデオ再生装置及びオーディオ再生装置に関し、特に、1つのマルチメディア符号化データに含まれるビデオデータ及びオーディオデータの同期再生を可能とするビデオ再生装置及びオーディオ再生装置に関する。
なお、本明細書では、一般的な輝度信号や色差信号のようなビデオ情報(映像情報)を含むデータをビデオデータと呼び、リニアPCM(Pulse Code Modulation:パルス符号化方式)やアナログ音声信号のようなオーディオ情報(音声情報)を含むデータをオーディオデータと呼ぶことにする。また、ビデオデータが圧縮された符号化データをビデオ符号化データと呼び、オーディオデータが圧縮された符号化データをオーディオ符号化データと呼ぶことにする。したがって、ビデオ符号化データ及びオーディオ符号化データは、ビデオデータ及びオーディオデータに含まれる。また、本明細書では、ビデオ符号化データ及びオーディオ符号化データの両方を含むデータをマルチメディア符号化データと呼ぶことにする。
従来、ビデオデータ及びオーディオデータを、物理的に離れたそれぞれの再生装置(ビデオ再生装置及びオーディオ再生装置)にて同期再生を行う技術がいくつか提案されており、この技術に関連して、視聴者の多様なニーズに適した製品も発売されている。例えば、無線伝送を利用したものに、赤外領域の光信号としてオーディオデータを伝送するデータ伝送装置と、この光信号を受光装置で受光し、光信号から電気信号に変換してオーディオ再生を行うヘッドフォンとにより構成されている赤外線伝送方式のオーディオ再生システムが存在している。
なお、電波を用いた伝送方式としては、最近では5GHz(ギガヘルツ)帯を用いたIEEE802.11a、2.4GHz帯を用いたIEEE802.11bとIEEE802.11gが知られている。また、例えば、ブルートゥース(Bluetooth)(登録商標)などの短距離無線伝送方式もオーディオデータの転送に利用されている。これらの電波を用いたデータ伝送は送受信ユニットを小型化することが可能であり、特にブルートゥース(登録商標)に関してはコストも低く、また光を利用した無線通信と比較して伝送可能な範囲も広いため非常に利便性が高い。
また、リアスピーカの配置によってマルチチャンネル再生環境を構築する際、リアスピーカにまで伸延させるスピーカコードが邪魔になるという問題が発生するが、この問題を解決するために、リアスピーカにアンプを搭載させるとともに無線信号受信装置を設け、リアスピーカに向けてオーディオデータを電波信号(無線信号)で伝送することで、リアスピーカへのオーディオデータの供給を行うオーディオ再生システムが存在している。
上述の例として挙げたビデオデータ及びオーディオデータの同期再生は、通常はスピーカコード又はヘッドフォンコードを通じてスピーカに供給され、スピーカにおいて振動エネルギーに戻されるオーディオデータの電気信号を、光信号又は電波信号などの無線信号に変換して伝送することで、物理的に離れた位置に存在するオーディオ出力装置におけるオーディオ出力を可能とするものである。したがって、上述の同期再生は、ビデオデータとオーディオデータとのタイミングを計りながら処理を行うものではなく、同期再生に関しては、ビデオ再生装置及びオーディオ再生装置におけるビデオデータ及びオーディオデータの出力タイミングに依存している。
一方、下記の特許文献1には、物理的に離れた状態にあるビデオ再生装置及びオーディオ再生装置において、マルチメディア符号化データに含まれるビデオデータ及びオーディオデータの同期再生を実現するための技術が開示されている。特許文献1に開示されている技術では、例えば、映像再生装置と音声再生装置(ヘッドフォン)とが無線媒体によって接続されており、映像再生装置は、ビデオデータの再生を行うとともに、オーディオ符号化データを音声再生装置に対して供給する。音声再生装置は、映像再生装置から受信したオーディオ符号化データの復号処理を行って、その音声を出力する。また、音声再生装置は、再生開始時には、入出力バッファ容量、通信遅延、復号遅延などを考慮してビデオ再生と同期した音声再生を図るとともに、再生過程においては、例えば、映像再生装置との間におけるクロック同期を利用して、映像出力と音声出力とのずれ量を計測し、音声再生速度を変更することによって、ずれの解消を行うことが可能である。
次に、従来の技術に係るマルチメディア符号化データを再生するマルチメディア符号化データ再生装置の内部構成について説明する。
図8は、従来の技術に係るマルチメディア符号化データ再生装置の一例を示すブロック図である。なお、図8に示すマルチメディア符号化データ再生装置は、マルチメディア符号化データ内に含まれるビデオデータ及びオーディオデータの同期再生を行うものであり、例えば、ポータブル型DVDプレーヤに相当する。
図8に図示されているマルチメディア符号化データ再生装置1000は、マルチメディアストリームバッファ1001、システムストリーム分離部1002、オーディオ復号部1003、ビデオ復号部1004、制御部(CPU:Central Processing Unit)1005、オーディオデータバッファ1006、ビデオデータバッファ1007、スピーカ1008、モニタ1009を有している。
図8において、マルチメディアストリームバッファ1001は、例えば、マルチメディア符号化データを格納するDVDディスクである。例えば、マルチメディアストリームバッファ1001から光ピックアップを用いて読み込まれたシステムストリームは、システムストリーム分離部1002においてビデオストリームとオーディオストリームとに分離され、オーディオストリームはオーディオ復号部1003において、ビデオストリームはビデオ復号部1004において、それぞれ圧縮されたデータの復号処理が施される。なお、符号化データ、ストリーム、ビットストリームは同意語であり、符号化されたデータは、一般的にストリームと呼ばれている。
オーディオ復号部1003で復号されたオーディオデータや、ビデオ復号部1004で復号されたビデオデータは、出力用バッファ(オーディオデータバッファ1006又はビデオデータバッファ1007)にいったん蓄積される。そして、システムストリームに記述された時間情報に基づいて再生制御を行う制御部1005によって、オーディオデータバッファ1006からのオーディオデータ出力や、ビデオデータバッファ1007からのビデオデータ出力の制御が行われる。オーディオデータバッファ1006から出力されたオーディオデータは、スピーカ1008を通して音声化され、ビデオデータバッファ1007から出力されたビデオデータは、モニタ1009を通して映像化される。
このように、ビデオデータ及びオーディオデータの同期再生は、マルチメディア符号化データ再生装置1000内の制御部1005で管理され、例えば、オーディオ復号部1003やビデオ復号部1004、あるいは出力用バッファ(オーディオデータバッファ1006やビデオデータバッファ1007)を制御することで実現される。
また、図9は、従来の技術に係る分離型マルチメディア符号化データ再生装置の一例を示すブロック図であり、図10は、従来の技術に係る分離型マルチメディア符号化データ再生装置の一例を示す外観図である。なお、図9及び図10に示す分離型マルチメディア符号化データ再生装置は、例えば物理的に離れたヘッドフォンやスピーカに対して、光又は電波によってオーディオデータの無線伝送を行うものである。
図9に図示されている分離型マルチメディア符号化データ再生装置は、マルチメディア符号化データ再生伝送装置2001と、オーディオ再生装置2002とを有している。図9に示す分離型マルチメディア符号化データ再生装置は、例えば図10に図示されているように、マルチメディア符号化データ再生伝送装置2001として機能し、映像出力を行うモニタや操作ボタンなどを有する本体装置3001と、オーディオ再生装置2002として機能するヘッドフォン3002とのセットに相当する。すなわち、図9に図示されている分離型マルチメディア符号化データ再生装置は、図8に図示されているマルチメディア符号化データ再生装置から、オーディオ再生装置を分離した構成を有している。
図9に図示されているマルチメディア符号化データ再生伝送装置2001は、マルチメディアストリームバッファ2101、システムストリーム分離部2102、オーディオ復号部2103、ビデオ復号部2104、制御部2105、オーディオデータバッファ2106、ビデオデータバッファ2107、モニタ2109、オーディオデータ送信部2110を有している。ただし、後述のように、オーディオ復号部2103は必ずしも実装される必要はない。
なお、図8に図示されているマルチメディア符号化データ再生装置1000と比較した場合、図8のマルチメディア符号化データ再生装置1000は、スピーカ1008から音声を出力する一方、図9に図示されているマルチメディア符号化データ再生伝送装置2001は、オーディオデータ送信部2110を通じてオーディオ再生装置2002に、オーディオデータを無線伝送するように構成されている点で異なっているが、その他の機能(各ブロックの機能)は基本的に同一である。
一方、図9に図示されているオーディオ再生装置2002は、オーディオデータ受信部2201、オーディオ復号部2202、オーディオデータバッファ2203、スピーカ2204を有している。マルチメディア符号化データ再生伝送装置2001から送られてくるオーディオデータは、オーディオデータ受信部2201で受信された後、オーディオ復号部2202による復号処理と、オーディオデータバッファ2203によるバッファを経て、スピーカ2204から音声出力される。
なお、マルチメディア符号化データ再生伝送装置2001にオーディオ復号部2103が実装されている場合には、オーディオ再生装置2002にオーディオ復号部2202が実装される必要はなく、逆に、オーディオ再生装置2002にオーディオ復号部2202が実装されている場合には、マルチメディア符号化データ再生伝送装置2001にオーディオ復号部2103が実装される必要はない。
例えば、マルチメディア符号化データ再生伝送装置2001にオーディオ復号部2103が実装されている場合には、オーディオ再生装置2002への無線伝送に伴う遅延やバッファ遅延を考慮した分を加味して、マルチメディア符号化データ再生伝送装置2001の制御部2105でビデオデータやオーディオデータの出力タイミング制御を行うことで、図8に図示されているマルチメディア符号化データ再生装置1000と同様に、ビデオデータ及びオーディオデータの同期再生を実現することが可能となる。
一方、逆にオーディオ再生装置2002にオーディオ復号部2202が実装されている場合には、上述の特許文献1に開示されている技術のように、マルチメディア符号化データ再生伝送装置2001及びオーディオ再生装置2002がそれぞれ参照している基準時刻のずれ量を調べることによってビデオデータの出力タイミングとオーディオデータの出力タイミングとのずれを調整したり、単位時間当たりのオーディオデータバッファ蓄積量の変化度合いから、オーディオ再生装置2002においてオーディオデータの出力タイミングを制御したりする必要がある。なお、ビデオデータの出力タイミングとオーディオデータの出力タイミングとのずれは、物理的に分離した本体側のマルチメディア符号化データ再生伝送装置2001の基準動作周波数と、ヘッドフォン側のオーディオ再生装置2002の基準動作周波数とが異なるために生じる現象である。
特開2004−7140号公報(図1、4、7)
上述のように、マルチメディア符号化データの再生の際に、ビデオデータの再生(モニタへの出力)を行うビデオ再生装置とは、物理的に離れた場所に存在するオーディオ再生装置に対して、リアルタイムにオーディオデータを無線伝送することで、ビデオ再生装置におけるビデオ再生と、オーディオ再生装置におけるオーディオ再生との同時再生が行われている。
ところで、最近では公共の場での電波を利用する場合のマナーについて、身体的影響も含め、社会的に問題視されている。特に電車内や病院のような公的機関内での携帯電話の利用は、周囲の人々への騒音や人体への危険性などが懸念されており、事実上の使用制限がかけられている。電波を利用したオーディオデータの送信についても同様のことが当てはまる。したがって、ビデオデータとの同期再生の際に、電波を用いてオーディオデータをリアルタイムに無線伝送することは、各家庭内の閉じられた空間や周囲に影響を及ぼさない空間であれば非常に有効な技術であるが、電波の利用が好ましくない状況においては、あまり好適な技術であるとは言えない。
したがって、ビデオデータとオーディオデータの同期再生の際に、物理的に離れた場所に存在するオーディオ再生装置に対して、電波を利用してリアルタイムにオーディオデータを無線伝送することは、特に、電車の中や公共性の高い施設の中での使用に適していない。すなわち、例えば、上述のブルートゥース(登録商標)や5GHz帯又は2.4GHz帯を用いた伝送方式などの電波を利用して、リアルタイムにオーディオデータの無線伝送を行うことは、基本的に避ける必要がある。
一方、ヘッドフォンやスピーカにコードが接続していないワイヤレス接続は、ユーザに対して、高い利便性を有する快適な環境を提供することができる。例えば、ワイヤレスな状態を保ちながら、かつ電波を用いずにオーディオデータを無線伝送する技術としては、上述のように、赤外線などの光を利用した無線伝送方式(赤外線無線伝送方式)が有効である。
ビデオデータとオーディオデータの同期再生の際に、物理的に離れた場所に存在するオーディオ再生装置に対して、リアルタイムにオーディオデータを伝送するために光を利用した無線伝送方式を採用した場合、オーディオデータの送信側(図9に図示されているマルチメディア符号化データ再生伝送装置2001に対応)、及びオーディオデータの受信側(図9に図示されているオーディオ再生装置2002に対応)の両方に光の送受信を行うための光送受信ユニットを設け、この光送受信ユニットを介して、オーディオデータがリアルタイムに送信されるようにする必要がある。しかしながら、この光送受信ユニットは、電波を利用した送受信ユニットに比べて高価であるという問題、光送受信ユニットは小型化が困難なため、装置(例えば、DVDプレーヤの本体やヘッドフォン)自体の小型化が妨げられてしまうという問題などが生じる。
上述のように、オーディオデータの無線伝送に電波を用いた場合には、装置のコストの低減化や小型化などを実現することは可能となるが、例えば、電波が人体に与える影響などを始めとして周囲の環境に与える影響を十分に考慮する必要があるという課題が生じる。一方、オーディオデータの無線伝送に光を用いた場合には、電波の利用時に生じる周囲の環境への影響を考慮する必要はなくなるが、光送受信ユニットの設置に伴うコストアップや、装置の大型化や高重量化などによって、利便性が低下するという課題が生じる。これらの課題に鑑みながら、ヘッドフォンやスピーカなどのワイヤレス接続を維持し、マルチメディア符号化データの快適な再生環境を実現することが望ましい。
本発明は、上記の課題を解決するために、ビデオ再生装置とオーディオ再生装置とが物理的に離れた場所に存在し、無線によって接続している状態(ワイヤレス接続状態)の利便性を維持したまま、例えば公共性の高い場所などを始めとする電波使用が制限されている環境においても、簡易な構成によってビデオデータとオーディオデータの同期再生を実現することを可能にするビデオ再生装置及びオーディオ再生装置を提供することを目的とする。
上記の目的を達成するため、本発明の第1の態様によれば、ビデオ符号化データと、オーディオ符号化データと、前記各符号化データの再生時間の管理を行うための時間情報を含む補助情報とが多重化されたマルチメディア符号化データが記録されている記録媒体から、前記マルチメディア符号化データを読み出すマルチメディア符号化データ読み出し手段と、
前記マルチメディア符号化データの再生動作に係る外部からの指示を入力するための操作入力手段と、
前記操作入力手段で入力された前記再生動作に係る再生位置を示す時間情報を含む前記補助情報と、前記再生動作の開始指示を行うための操作情報とを、前記マルチメディア符号化データに含まれる前記オーディオ符号化データがあらかじめ格納されている所定のオーディオ再生装置に無線を介して送信する無線信号送信手段と、
前記所定のオーディオ再生装置から、前記再生動作の開始指示に対して正常に動作を行うことが可能か否かを示す応答信号を無線を介して受信する無線信号受信手段と、
前記応答信号を参照して、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して、正常に動作を開始することが可能か否かを解読する応答信号解読手段と、
前記マルチメディア符号化データに含まれる前記ビデオ符号化データに関し、前記操作入力手段で入力された前記再生動作に係る前記再生位置以降の復号処理を行うビデオ復号手段と、
前記ビデオ復号手段における前記ビデオ符号化データの復号処理によって生成されたビデオデータによる映像を視覚的に表示する映像表示手段と、
前記応答信号解読手段における前記応答信号の解読によって、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して正常に動作を開始することが可能である旨を示す応答信号を受信したと判断された場合に、前記操作入力手段で入力された前記再生動作に係る前記再生位置以降の映像出力を開始するように制御するビデオ再生制御手段とを、
有するビデオ再生装置が提供される。
さらに、本発明の第2の態様によれば、上記の本発明の第1の態様において、前記応答信号解読手段における前記応答信号の解読によって、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して正常に動作を開始することが不可能である旨を示す応答信号を受信したと判断された場合に、所定時間が経過するまで又は所定回数を超えるまで、前記補助情報及び前記操作情報を繰り返し送信し続けるように制御する無線信号送信制御手段と、
前記所定時間が経過しても又は前記所定回数を超えても、前記所定のオーディオ再生装置から、前記再生動作の開始指示に対して正常に動作を行うことが可能である旨を示す前記応答信号を受信できなかった場合には、前記操作入力手段で入力された前記再生動作を中止するように制御するビデオ再生待機制御手段とを、
有するビデオ再生装置が提供される。
さらに、本発明の第3の態様によれば、上記の本発明の第2の態様において、前記所定のオーディオ再生装置から前記再生動作の開始指示に対して正常に動作を開始することが不可能である旨を示す応答信号を受信した場合、及び/又は、所定時間が経過するまで又は所定回数を超えても、前記所定のオーディオ再生装置から前記再生動作の開始指示に対して正常に動作を行うことが可能である旨を示す前記応答信号を受信できなかった場合には、その旨の報知を行う報知手段を有するビデオ再生装置が提供される。
また、上記の目的を達成するため、本発明の第4の態様によれば、ビデオ符号化データと、オーディオ符号化データと、前記各符号化データの再生時間の管理を行うための時間情報を含む補助情報とが多重化されたマルチメディア符号化データから前記オーディオ符号化データ及び前記補助情報がいったん分離された後、オーディオ符号化データのオーディオ再生が行われるように再構成された前記オーディオ符号化データ及び前記補助情報を格納するデータ格納手段と、
再生動作に係る再生位置を示す時間情報を含む前記補助情報と、前記再生動作の開始指示を行うための操作情報とを、所定のビデオ再生装置から無線を介して受信する無線信号受信手段と、
前記無線信号受信手段で受信した前記補助情報及び前記操作情報を参照して、前記再生動作の開始指示に対して、正常に動作を開始することが可能か否かを判断する動作実行判断手段と、
前記動作実行判断手段における判断結果に基づいて、前記再生動作の開始指示に対して正常に動作を開始することが可能か否かを示す応答信号を生成する応答信号生成手段と、
前記応答信号生成手段で生成された前記応答信号を、前記所定のビデオ再生装置に無線を介して送信する無線信号送信手段とを、
前記動作実行判断手段における判断によって、前記再生動作の開始指示に対して正常に動作を開始することが可能であると判断された場合に、前記データ格納手段に格納されている前記オーディオ符号化データに関し、前記再生動作に係る前記再生位置以降の復号処理を行うオーディオ復号手段と、
前記オーディオ復号手段で復号された前記オーディオ符号化データの音声を出力する音声出力手段とを、
有するオーディオ再生装置が提供される。
本発明は、上記の構成を有しており、ビデオ再生装置とオーディオ再生装置とが物理的に離れた場所に存在し、無線によって接続している状態(ワイヤレス接続状態)を維持したまま、例えば公共性の高い場所などを始めとする電波使用が制限されている環境においても、簡易な構成によってビデオデータとオーディオデータの同期再生を実現し、ワイヤレス接続に係る利便性の維持、装置の低コスト化、装置の小型化や低重量化を可能にするという効果を有している。また、ビデオ再生装置とオーディオ再生装置との通信を双方向し、ビデオ再生装置がオーディオ再生装置の動作状況を確認したうえで、ビデオ再生の可否を決定するので、例えば、ビデオ再生装置とオーディオ再生装置との通信環境が劣悪な状況において、ビデオ再生のみが開始されてしまうなどの弊害を防ぐことが可能となり、より効果的なビデオ及びオーディオの同期再生を実現することが可能となる。
以下、本発明を実施するための形態について図面を参照しながら説明する。本発明の実施の形態におけるビデオデータとオーディオデータの同期再生方法は、再生前の準備段階(前工程段階)、実際にユーザが視聴を行う再生段階(後工程段階)の2つの段階に大きく分けられる。
まず、図1を参照しながら、再生前の準備段階である前工程段階について説明する。図1は、本発明の実施の形態において、前工程段階に係る処理を行うマルチメディア符号化データ分離伝送装置及びオーディオ再生装置の構成の一例を示すブロック図である。
図1には、マルチメディア符号化データ分離伝送装置100と、オーディオ再生装置200とが図示されている。図1に図示されているマルチメディア符号化データ分離伝送装置100は、マルチメディアストリームバッファ101、システムストリーム分離部102、オーディオストリームバッファ103、補助情報バッファ104、オーディオストリーム再構成部105、オーディオストリーム送信部106を有している。また、図1に図示されているオーディオ再生装置200は、オーディオストリーム受信部201、オーディオストリームバッファ202、後工程段階に係る処理を行う後工程処理部203を有している。
マルチメディアストリームバッファ101は、マルチメディア符号化データを格納することが可能な記憶媒体であり、例えば、このマルチメディア符号化データ分離伝送装置100の本体がDVDプレーヤであればDVDディスクに相当し、携帯電話機やPDA(Personal Digital Assistance)を始めとするマルチメディア再生機能を有する情報端末であれば、HDD(Hard Disc Drive:ハードディスクドライブ)や半導体メモリなどに相当する。なお、ここでは、ユーザが視聴を所望するコンテンツに係るマルチメディアシステムストリームが、このマルチメディアストリームバッファ101にあらかじめ格納されているものとする。
一般に、マルチメディア符号化データはビデオデータとオーディオデータ、更にはコンテンツの内容を符号化した情報や、コンテンツ識別情報、その他の補助情報(特に、時間情報及び属性情報を含む)によって構成されており、それぞれ個別の符号化方式に従って情報圧縮された後(情報圧縮されない場合もある)、それぞれが多重化されてシステムストリーム(マルチメディアシステムストリーム)が生成される。したがって、ビデオ符号化データやオーディオ符号化データを復号する際には、あらかじめシステムストリームからそれぞれの要素(エレメンタリストリーム)が分離抽出される必要がある。
マルチメディアストリームバッファ101から読み出されたシステムストリームは、システムストリーム分離部102において、オーディオストリームと、システムストリームに付随する補助情報(特に、時間情報及び属性情報を含む)とに分離される。システムストリーム分離部102における分離後、オーディオストリームはオーディオストリームバッファ103に、補助情報は補助情報バッファ104にそれぞれ格納される。
オーディオストリームの伝送先となるオーディオ再生装置200では、単にシステムストリーム分離部102で分離されたオーディオストリームのみが提供されても再生を行うことはできない。すなわち、オーディオ再生装置200でオーディオストリームの再生を行う場合には、このオーディオストリームに付随するコンテンツの情報や再生時間管理を行うための補助情報が必要である。そこで、マルチメディア符号化データ分離伝送装置100のオーディオストリーム再構成部105は、オーディオストリームバッファ103に格納されているオーディオストリームに、補助情報バッファ104に格納されている補助情報を多重化して、新たなオーディオストリームを再構成する。なお、再構成されたオーディオストリームは、オーディオ再生装置200で再生可能な状態に生成される。
オーディオストリーム再構成部105で再構成されたオーディオストリームは、オーディオストリーム送信部106を通じて、マルチメディア符号化データ分離伝送装置100から物理的に離れたオーディオ再生装置200に伝送される。なお、マルチメディア符号化データ分離伝送装置100からオーディオ再生装置200へのオーディオストリームの伝送方式は、特に限定されるものではなく、例えばUSB(Universal Serial Bus)を介した有線伝送や、赤外光や電波を用いた無線伝送などを採用することが可能である。また、例えばオーディオストリーム再構成部105で再構成されたオーディオストリームが可搬性の記憶媒体に格納され、この可搬性の記憶媒体の着脱によって、マルチメディア符号化データ分離伝送装置100からオーディオ再生装置200に、再構成されたオーディオストリームが移動されてもよい。
一方、例えば、オーディオストリーム送信部106から送信されたオーディオストリームは、オーディオ再生装置200のオーディオストリーム受信部201で受信され、オーディオ再生装置200内に設けられているオーディオストリームバッファ202に格納されて、再生前の準備(前工程段階)が終了となる。なお、オーディオストリームバッファ202に格納された、再構成されたオーディオストリームは、後工程段階の際に後工程処理部203で再生処理されるが、後工程処理部203に関しては後で詳述する。
以上のように、前工程段階では、マルチメディア符号化データ分離伝送装置100において、マルチメディア符号化データからオーディオストリーム及び補助情報がいったん分離された後、オーディオストリームに補助情報が多重化されて、ビデオストリームを除いた状態でオーディオストリームが再構成される。そして、この再構成されたオーディオストリームが、オーディオ再生装置200にあらかじめ格納される。前工程段階において、再構成されたオーディオストリームがオーディオ再生装置200にあらかじめ格納されることにより、実際の再生処理(後述の後工程段階)の際には、マルチメディア符号化データ分離伝送装置100からオーディオ再生装置200に、オーディオデータがリアルタイムで伝送される必要がなくなる。
次に、実際にユーザが視聴を行う再生段階である後工程段階について説明する。図2及び図3はそれぞれ、本発明の実施の形態において、後工程段階に係る処理を行うマルチメディア符号化データ再生装置及びオーディオ再生装置の構成の一例を示すブロック図である。
図2に図示されているマルチメディア符号化データ再生装置300は、マルチメディアストリームバッファ301、システムストリーム分離部302、補助情報抽出部303、ビデオ復号部304、制御部305、補助情報/操作情報生成部306、ビデオデータバッファ307、モニタ308、無線送信部309、無線受信部310、受信情報解読部311を有している。
なお、図1に図示されているマルチメディア符号化データ分離伝送装置100と、図2に図示されているマルチメディア符号化データ再生装置300とは同一の装置で実現されることが好ましいが、異なる装置によって実現されてもよい。
すなわち、例えば、図10に図示されている本体装置3001によって、図2に図示されているマルチメディア符号化データ再生装置300を実現し、図10に図示されているヘッドフォン3002によって、図3に図示されているオーディオ再生装置100を実現した場合、図1に図示されているマルチメディア符号化データ分離伝送装置100の機能を、本体装置3001に設けて、図1に図示されているマルチメディア符号化データ分離伝送装置100と、図2に図示されているマルチメディア符号化データ再生装置300の両方の機能を1つの装置によって実現することが好ましい。しかしながら、例えば、図1に図示されているマルチメディア符号化データ分離伝送装置100を、固定型のDVDプレーヤやPC(Personal Computer:パーソナルコンピュータ)などによって実現する一方、本体装置3001には、図2に図示されているマルチメディア符号化データ再生装置300の機能のみを設けることも可能である。この場合には、ユーザは固定型のDVDプレーヤやPCでオーディオデータの再構成を行い、この再構成されたオーディオデータが、オーディオ再生装置200にあらかじめ格納されるとともに、図10に図示されている本体装置3001を用いてオーディオ再生装置200の再生制御が行われる。
図2に図示されているマルチメディア符号化データ再生装置300において、例えば、ユーザの操作によってコンテンツの再生指示が行われた場合には、まず、再生対象のコンテンツに係るマルチメディア符号化データが、マルチメディアストリームバッファ301から読み出される。なお、再生対象のコンテンツは、上述のように、図1に図示されているマルチメディア符号化データ分離伝送装置100によって再構成処理が行われており、そのコンテンツに係る再構成されたオーディオデータは、既にオーディオ再生装置200に格納されているものとする。
システムストリーム分離部302は、マルチメディアストリームバッファ301からシステムストリームを読み込んで分離処理を行い、システムストリーム内に記述されているビデオ・オーディオ同期再生用の補助情報を含むデータを補助情報抽出部303に出力する一方、ビデオストリームをビデオ復号部304に出力する。
ビデオ復号部304は、システムストリーム分離部302で分離されたビデオストリームを、ビデオ1フレーム分の各々の画素データを表現する輝度信号と色差信号に変換するなどのビデオ復号処理を行って、処理後のビデオデータをフレームバッファなどのビデオデータバッファ307に出力する。ビデオデータはいったんビデオデータバッファ307に格納された後、制御部305からの出力命令に従ってモニタ308に伝送され、モニタ308を通して映像出力される。なお、ここでは、ビデオ復号部304の後段にビデオデータバッファ307を設けて、ビデオ復号部304で復号されたビデオデータがビデオデータバッファ307にいったん格納されるようにすることによって、ビデオ再生を所定のタイミングに合わせて行うための時間管理が行われるように構成されているが、例えば、ビデオ復号部304の前段にビデオデータバッファを設けて時間管理を行うことも可能である。
一方、補助情報抽出部303は、システムストリーム分離部302で分離された補助情報を含むデータから補助情報を抽出して補助情報とし、この補助情報を補助情報/操作情報生成部306に供給する。補助情報/操作情報生成部306は、制御部305からの指示に従って、コンテンツを識別するコンテンツ識別情報と共に、例えば、再生すべきデータの位置を示す時間情報や、データの処理方法を示す動作指示などが含まれる操作情報を生成し、無線送信部309を介してオーディオ再生装置200に送信する。なお、補助情報の一例は、上述のように、システムストリーム内に含まれる時間情報や、コンテンツを識別するコンテンツ識別情報であり、操作情報の一例は、再生開始/再生停止の指示や、特殊再生の開始/停止の指示などの指示情報である。なお、本明細書では、再生開始/再生停止や特殊再生の開始/停止などを含め、その他の様々なコンテンツの再生に係る動作を再生動作と呼ぶ。また、補助情報/操作情報送信部306は、上記の補助情報と操作情報とを1つの情報にまとめて、オーディオ再生装置200に送信してもよい。
例えば、マルチメディア符号化データ再生装置300に設けられている操作パネル(図2には不図示)などを用いてユーザが操作入力を行った場合、この操作内容を示す操作情報が制御部305を通じて補助情報/操作情報生成部306に供給されるとともに、この操作情報に関連する補助情報が補助情報抽出部303から読み出される。そして、これらの操作情報や補助情報に基づいて、補助情報/操作情報生成部306において、オーディオ再生装置200に送信される補助情報及び/又は操作情報が生成され、無線送信部309を通じてオーディオ再生装置200に送信される。
なお、無線送信部309は、特に、その無線伝送方式などに関する制限はないが、例えば、低消費電力かつ低コストの光送信装置や、PC又はPDAなどで採用されている赤外線通信方式(IrDA)を用いた無線通信を行うものであることが望ましい。上記の赤外線通信方式は、本発明における制御信号の通信に好適であるとともに、電波による周囲への影響が無く、送光スリットや受光スリットを絞ることによって、他の装置との干渉を容易に防ぐことも可能である。マルチメディア符号化データ再生装置300から伝送される操作情報、オーディオデータの時間情報、マルチメディア符号化データのコンテンツ識別情報などは、無線送信部309を通じて、物理的に離れた位置に存在するオーディオ再生装置200に無線伝送される。
また、マルチメディア符号化データのコンテンツ識別情報はコンテンツを識別するための情報であり、ファイル名やデータ長などのマルチメディア符号化データの固有情報のことを指している。このコンテンツ識別情報は、オーディオ再生装置200において、複数のマルチメディア符号化データ(オーディオストリーム)の中から所望のコンテンツを選択する場合に使用される。
オーディオ再生装置200は、後述のように、マルチメディア符号化データ再生装置300から伝送された操作情報や補助情報を受信することによって、その動作を開始する。また、オーディオ再生装置200は、光信号を用いた同様の無線伝送を用いて、その動作結果をマルチメディア符号化データ再生装置300に応答する。なお、動作結果を示す応答信号には、マルチメディア符号化データ再生装置300からの操作情報に応じて、オーディオ再生装置200の動作が正常に行われたか否かの情報が含まれている。マルチメディア符号化データ再生装置300の無線受信部310は、この応答信号を受信するための機能を有している。
無線受信部310で受信したオーディオ再生装置200の状態を示す応答信号は、受信情報解読部311において解読される。応答信号が正常動作を示すものである場合には、制御部305は、所定のタイミングに従って、待機状態にあったビデオデータバッファ307を制御し、ビデオデータの再生を開始する。上記の所定のタイミングは、オーディオ再生装置200におけるオーディオ再生と同期してビデオ再生が行われるように、遅延を考慮して設定されたビデオ再生の開始タイミングであり、この結果、マルチメディア符号化データ再生装置300のビデオ再生を、オーディオ再生装置200におけるオーディオ再生と同期させることが可能となる。
一方、応答信号が異常動作(正常に行われなかった旨)を示すものである場合には、例えばモニタ308を用いたメッセージ、スピーカを用いた警告音や案内メッセージ、又は振動装置を用いたバイブレーションなどによって、正常動作が行われなかった旨を報知する。なお、このとき、再度、所定の時間や回数が経過するまで、操作情報及び時間情報の送信動作を繰り返し行うようにしてもよい。
マルチメディア符号化データ再生装置300とオーディオ再生装置200との間で通信される光無線信号に不具合が生じる一因として、両者間の光軸のずれなどが考えられるが、上述のようにユーザに異常動作が発生した旨を報知することによって、ユーザに対して、何らかの不具合が生じている旨を伝えることが可能となり、その結果、ユーザに光軸調整を促すことが可能となる。このとき、ユーザによる調整によって光軸が一致して良好な通信状態が得られた場合には正常動作に移行するため、マルチメディア符号化データ再生装置300におけるビデオ再生待機状態が若干延びるだけで、同期再生そのものは問題なく行われる。
また、マルチメディア符号化データ再生装置300とオーディオ再生装置200との間で通信される無線信号に重大な不具合(通信不能状態)が生じた場合には、この通信不能状態は、無線通信の制限時間や制限回数の観測によって検出される。すなわち、所定の時間以上経過しても正常動作に移行できなかった場合(タイムアウトとなった場合)や、所定の回数だけ、操作情報及び時間情報を送信しても正常動作に移行できなかった場合には、最終的に正常動作に移行できなかった旨を示す操作無効メッセージを報知して、再び、初期状態に戻ってもよい。
また、上述の通信不能状態と同様に、例えばオーディオ再生装置200側の機器不良や、指定されたコンテンツの不備やデータエラー(例えば、コンテンツに係るオーディオデータの欠如や破損)などに関しても、マルチメディア符号化データ再生装置300において、オーディオ再生装置200側からの応答信号や無線通信の制限時間、制限回数を管理することで検出可能である。
一方、図3に図示されているオーディオ再生装置200は、図1に図示されているオーディオ再生装置200と同一であり、オーディオストリームバッファ202に、再構成されたオーディオストリームが格納されている。また、図3には、再構成されたオーディオストリームの再生処理を行うための構成要素(図1に図示されている後工程処理部203)の詳細に関しても図示されている。すなわち、図3に図示されているオーディオ再生装置200は、オーディオストリーム受信部201、オーディオストリームバッファ202、位置特定及びデータ選定部204、制御部205、オーディオ復号部206、オーディオデータバッファ207、スピーカ208、無線送信部209、無線受信部210を有している。
無線受信部210は、マルチメディア符号化データ再生装置300の無線送信部309から送信された制御信号(例えば、操作情報や時間情報、コンテンツ識別情報など)を受信する機能を有しており、無線送信部209は、マルチメディア符号化データ再生装置300の無線受信部310に対して、オーディオ再生装置200の動作が正常に行われたか否かの情報を含む応答信号を送信する機能を有している。なお、オーディオ再生装置200の無線送信部209及び無線受信部210は、マルチメディア符号化データ再生装置300の無線受信部310及び無線送信部309と同一の無線伝送方式を用いることによって、制御信号の受信及び応答信号の送信を行うことが可能となる。
マルチメディア符号化データ再生装置300の無線送信部309から送信され、オーディオ再生装置200の無線受信部210で受信された操作情報や補助情報は、制御部205に送られる。制御部205は、この操作情報や補助情報の解読を行って、オーディオ再生装置200における動作を決定する。例えば、制御信号に、特定のコンテンツを示すコンテンツ識別情報、補助情報として再生すべきデータの位置を示す時間情報、操作情報として再生開始を指示する情報が含まれている場合には、制御部205は、位置特定及びデータ選定部204に対して、コンテンツ識別情報によって特定されるコンテンツを選択し、このオーディオエレメンタリストリームに関して、制御部205から通知された時間情報に対応した開始位置から読み出して、再生を開始するように指示を行う。なお、倍速再生や早送り/巻き戻し処理などの特殊再生も同様に、マルチメディア符号化データ再生装置300からの指示に基づいて行われる。
制御部205からの指示に応じて、位置特定及びデータ選定部204は、この時間情報に対応した位置以降のオーディオエレメンタリストリームをオーディオストリームバッファ202から随時読み出して、読み出したオーディオストリームを操作情報と共にオーディオ復号部206に渡し、オーディオ復号部206は、操作情報に応じた復号処理(例えば、通常の再生処理)を行うことによって、オーディオストリームを例えばリニアPCMのようなオーディオデータに変換する。オーディオ復号部206で復号されたオーディオデータは、オーディオデータバッファ207における一時的なバッファを経て、スピーカ208より音声出力される。
また、制御部205は、オーディオ再生装置200全体の動作を監視しており、オーディオ再生装置200の動作が正常に行われたか否かを示す応答信号を、マルチメディア符号化データ再生装置300に送信する機能を有している。オーディオ再生装置200において、マルチメディア符号化データ再生装置300からの指示に基づく正常な処理が行われた場合には、制御部205は、オーディオ再生装置200の動作が正常に行われた旨を示す応答信号を無線送信部209に通知し、無線送信部209からマルチメディア符号化データ再生装置300に対して、無線伝送によってこの応答信号が送信される。一方、オーディオ再生装置200において、マルチメディア符号化データ再生装置300からの指示に基づく正常な処理が行われなかった場合には、制御部205は、オーディオ再生装置200の動作が正常に行われなかった旨を示す応答信号を無線送信部209に通知し、無線送信部209からマルチメディア符号化データ再生装置300に対して無線伝送によってこの応答信号が送信される。
なお、オーディオ再生装置200の動作が正常に行われなかった場合には、オーディオ再生装置200は、正常動作が行われなかった旨を示す理由を応答信号に含めて、マルチメディア符号化データ再生装置300に送信してもよい。正常動作が行われない場合の理由としては、例えば、所定のコンテンツが存在しない、マルチメディア符号化データ再生装置300から与えられた時間情報とオーディオストリームバッファ202にあらかじめ格納されているオーディオストリームの時間情報との間に不整合が見られるなどが挙げられる。こうした不具合を示す情報をマルチメディア符号化データ再生装置300に伝送することによって、マルチメディア符号化データ再生装置300側において、オーディオ再生装置200における動作の不具合による異常な状態を把握することが可能となり、この異常な状態を回避するための処置を行うことが可能となる。
なお、無線送信部209及び無線受信部210、マルチメディア符号化データ再生装置300からの制御信号の管理や、この制御信号に基づく動作制御を行う制御部205を除けば、従来の半導体メモリやHDDを備えた携帯型オーディオ符号化データ再生装置と同一の構成であり、オーディオ再生装置200をオーディオ携帯型プレーヤとして単独で使用することも可能である。
次に、マルチメディア符号化データ再生装置300とオーディオ再生装置200との間で、マルチメディア符号化データの同期再生が行われる場合の動作の一例について説明する。上述のように、マルチメディア符号化データ再生装置300の制御部305は、オーディオ再生装置200に対する同期再生制御と共に、オーディオ再生装置200との間における双方向通信で得られるオーディオ再生装置200の状態の管理を行う。以下、図4を参照しながら、制御部305の動作の一例について説明する。
図4は、本発明の実施の形態において、同期再生を開始する際のマルチメディア符号化データ再生装置の制御部の動作の一例を示すフローチャートである。
マルチメディア符号化データ再生装置300は、まず、ユーザが操作命令を入力するまで待機状態を保っている(ステップS501)。ユーザによる操作命令が入力された場合には、その操作命令を解読し(ステップS502)、まずマルチメディア符号化データを読み出して、ビデオストリームと補助情報ストリームへの分離を開始する(ステップS503)。続いて、遅延量の大きいビデオ復号処理を開始し(ステップS504)、ビデオデータバッファ307にビデオデータをいったん記録する。このとき、例えば、所定量のビデオデータを復号した後に待機状態となるなど、ビデオ復号部304は、バッファの残量に応じて待機状態となってもよい。
また、制御部305の制御によって、ビデオ復号開始と共に、再生するマルチメディア符号化データのコンテンツ識別情報、オーディオストリームに付随する時間情報、マルチメディア符号化データ再生装置300に入力された操作情報などによって構成された制御信号が、無線送信部309からオーディオ再生装置200に無線伝送される(ステップS505)。
制御信号を伝送した後、制御部305は、オーディオ再生装置200からの応答信号の受信待機状態に移行する。そして、オーディオ再生装置200から応答信号を受信した場合には、制御部305は、この応答信号の解読を行う(ステップS506)。応答信号が正常動作を示すものである場合には、遅延を考慮して設定された所定のタイミングに合わせて、ビデオデータの再生を開始する(ステップS507)。ステップS507におけるビデオデータの再生開始後は、制御部305は、ユーザからの操作命令の入力待機状態(ステップS501)に戻る。
一方、オーディオ再生装置200からの応答信号が異常動作を示すものである場合にはステップS508を経て、再びステップS505に戻って、オーディオ再生装置200への制御信号の送信を行った後、オーディオ再生装置200からの応答信号の受信待機状態に移行する。
また、マルチメディア符号化データ再生装置300は制御信号を複数回送信することで、例えば、光軸ずれなどによる簡易な通信エラーからの復帰を図る。なお、この制御信号の複数回送信は、応答信号の受信に係るタイムアウト制限又は所定回数の制御信号の送信制限を設けることが望ましい。すなわち、最初の制御信号の送信から所定時間以上経過したか否か、又は制御信号の送信が所定回数に達したか否かを監視し(ステップS508)、所定時間以上経過した場合又は所定回数の送信に達した場合には、正常な動作が行われなかった旨を示す操作無効メッセージを報知し(ステップS509)、ビデオデータバッファ307に格納されているビデオデータを消去して初期化を行い(ステップS510)、再び、ユーザからの操作命令の入力待機状態(ステップS501)に戻る。
なお、例えば、重大な通信エラーが生じており、マルチメディア符号化データ再生装置300とオーディオ再生装置200との間の双方向通信が確立できなかった場合や、所望のコンテンツがオーディオ再生装置200側にあらかじめ記録されていなかった場合、時間情報に不整合があった場合などに、正常な動作が行われずに操作無効メッセージが報知されることとなる。ユーザは、この操作無効メッセージの報知によって異常状態を確認することができ、例えば、光軸ずれの修正やファイルの確認などを行うことによって、何らかの異常が発生していることを知覚でき、的確な対策を講じることが可能となる。
また、上述の図4に図示されているフローチャートでは、同期再生を開始する際の動作を例示したが、停止、早送り、巻き戻し、一時停止などのその他の基本的な動作に関してもほぼ同様である。図5は、本発明の実施の形態において、同期再生時に操作入力が行われた際のマルチメディア符号化データ再生装置の制御部の動作の一例を示すフローチャートである。
マルチメディア符号化データ再生装置300とオーディオ再生装置200でビデオデータとオーディオデータの同期再生が行われている場合においても、マルチメディア符号化データ再生装置300は、ユーザが操作命令を入力する待機状態を保っている(ステップS601)。このとき、例えば、再生時に受ける何らかの操作(停止、早送り、巻き戻し、一時停止)に係る操作命令がユーザによって入力された場合には、制御部305はその操作命令を解読し(ステップS602)、この操作命令の先行処理(この操作命令に係る処理の準備)を実行して(ステップS603)、待機状態に移る。
また、制御部305の制御によって、操作命令の先行処理と共に、ユーザによって入力された操作情報を含む制御信号が、無線送信部309からオーディオ再生装置200に無線伝送される(ステップS604)。なお、同期再生を開始する場合とは異なり、同期再生が既に行われている場合において送信される制御信号には、コンテンツ識別情報や時間情報などは含まれる必要はない。すなわち、再生状態の変更を示す操作情報のみが、マルチメディア符号化データ再生装置300からオーディオ再生装置200に送られればよい。
制御信号を伝送した後、制御部305は、オーディオ再生装置200からの応答信号の受信待機状態に移行する。そして、オーディオ再生装置200から応答信号を受信した場合には、制御部305は、この応答信号の解読を行う(ステップS605)。応答信号が正常動作を示すものである場合には、遅延を考慮して設定された所定のタイミングに合わせて、ステップS603で行った先行処理に続く本処理(実際の処理)を開始する(ステップS606)。ステップS606におけるビデオデータの再生開始後は、制御部305は、ユーザからの操作命令の入力待機状態(ステップS601)に戻る。一方、オーディオ再生装置200からの応答信号が異常動作を示すものである場合には、図4に図示されているフローチャートのステップS508〜S510と同一の処理を行う(ステップS607〜S609)。
次に、上述の図4及び図5に図示されているマルチメディア符号化データ再生装置300の動作に対応したオーディオ再生装置200の動作の一例について説明する。図6は、本発明の実施の形態において、マルチメディア符号化データ再生装置からの制御信号に従うオーディオ再生装置の制御部の動作の一例を示すフローチャートである。
オーディオ再生装置200は、マルチメディア符号化データ再生装置300からの制御信号の受信待機状態を保っている(ステップS701)。そして、マルチメディア符号化データ再生装置300から制御信号を受信した場合には、その制御信号に含まれる操作命令を解読し(ステップS702)、その操作命令が実行可能な否かの判定を行う(ステップS703)。この判定では、例えば、制御信号に含まれるコンテンツ識別情報が復号可能なコンテンツか、そのコンテンツのオーディオストリームが、オーディオストリームバッファ202にあらかじめ記録されているか、制御信号に含まれる時間情報が、オーディオストリームバッファ202内のオーディオストリームに存在するか、制御信号に含まれる情報に整合性があるかなどが参照される。
ステップS703において操作命令が実行可能であると判定された場合には、オーディオ再生装置200の制御部205は、その操作命令に係る動作を実行するように制御するとともに(ステップS704)、マルチメディア符号化データ再生装置300に対して、正常な動作が行われた旨を示す正常動作情報を発行する(ステップS705)。一方、ステップS703において操作命令が実行不可能であると判定された場合には、オーディオ再生装置200の制御部205は、その操作命令に係る動作を実行するように制御するとともに(ステップS704)、マルチメディア符号化データ再生装置300に対して、その操作命令に係る動作を実行することが不可能な旨を示す異常動作情報(エラー情報)を発行する(ステップS706)。そして、制御部205は、上記の正常動作情報又は異常動作情報を含む応答信号を生成し、この応答信号が、無線送信部209からマルチメディア符号化データ再生装置300に無線伝送される(ステップS707)。
次に、オーディオ再生装置200、マルチメディア符号化データ再生装置300、ユーザによる操作命令の入力のそれぞれのタイミングの一例について説明する。図7Aは、本発明の実施の形態における再生命令入力時のオーディオ再生装置、マルチメディア符号化データ再生装置、ユーザによる操作命令の入力のそれぞれのタイミングの一例を示すタイミングチャートであり、図7Bは、本発明の実施の形態における停止命令入力時のオーディオ再生装置、マルチメディア符号化データ再生装置、ユーザによる操作命令の入力のそれぞれのタイミングの一例を示すタイミングチャートである。なお、図7A及び図7Bは、図面の左から右に時間の流れが表されており、この時間軸上に、オーディオ再生装置、マルチメディア符号化データ再生装置、ユーザによる操作命令の入力のそれぞれのタイミングが図示されている。また、図7A及び図7Bには、正常な動作が行われる場合が図示されている。
図7Aにおいて、オーディオ再生装置200はマルチメディア符号化データ再生装置300からの制御信号を待機するスタンバイモードの状態にあり、マルチメディア符号化データ再生装置300は、ユーザからの命令を待機するスタンバイモードの状態にある。この状態で、マルチメディア符号化データ再生装置300がユーザから再生命令を受けた場合には、マルチメディア符号化データ再生装置300は、ビデオ復号処理を行ってビデオデータバッファに復号後のビデオデータを格納するとともに、オーディオ再生装置200に再生命令を含む制御信号を送信する。また、制御信号の送信後、マルチメディア符号化データ再生装置300は、オーディオ再生装置200からのステータス返信待機状態となる。
オーディオ再生装置200は、マルチメディア符号化データ再生装置300から制御信号を受信した後、制御信号内の操作命令(再生命令)を解読して、オーディオ復号処理を開始するとともに、正常に動作が開始された旨を通知する正常動作情報を含む応答信号(オーディオステータス)をマルチメディア符号化データ再生装置300に返信する。
応答信号を受信したマルチメディア符号化データ再生装置300は、その応答信号に含まれている正常動作情報を確認し、ビデオの再生を開始する。また、このビデオ再生開始処理と同期したタイミング(ビデオ再生及び/又はオーディオ再生の開始タイミングが遅延を考慮して設定されたタイミング)で、オーディオ再生装置200においてオーディオ再生も開始される。これにより、オーディオ及びビデオの同期再生が開始される。その後、オーディオ再生装置200及びマルチメディア符号化データ再生装置300は、再びスタンバイモードの状態に移行する。
また、図7Bにおいて、オーディオ再生装置200及びマルチメディア符号化データ再生装置300は、同期再生を行っている。このとき、上述のように、オーディオ再生装置200及びマルチメディア符号化データ再生装置300は、スタンバイモードの状態にある。この状態で、マルチメディア符号化データ再生装置300がユーザから停止命令を受けた場合には、マルチメディア符号化データ再生装置300は、オーディオ再生装置200に停止命令を含む制御信号を送信する。また、制御信号の送信後、マルチメディア符号化データ再生装置300は、オーディオ再生装置200からのステータス返信待機状態となる。
オーディオ再生装置200は、マルチメディア符号化データ再生装置300から制御信号を受信した後、制御信号内の操作命令(停止命令)を解読して、正常に動作が開始された旨を通知する正常動作情報を含む応答信号(オーディオステータス)をマルチメディア符号化データ再生装置300に返信する。
応答信号を受信したマルチメディア符号化データ再生装置300は、その応答信号に含まれている正常動作情報を確認し、ビデオ再生の停止を実行する。また、このビデオ再生停止処理と同期したタイミング(ビデオ再生及び/又はオーディオ再生の開始タイミングが遅延を考慮して設定されたタイミング)で、オーディオ再生装置200においてオーディオ再生も停止される。これにより、オーディオ及びビデオの同期再生が停止される。その後、オーディオ再生装置200及びマルチメディア符号化データ再生装置300は、再びスタンバイモードの状態に移行する。
なお、マルチメディア符号化データ再生装置300とオーディオ再生装置200とは物理的に分離された装置であり、基準となる動作周波数が異なるため、それぞれの動作に時間的なずれが生じる可能性がある。一般的に、このずれは装置のクロック精度に依存するものであるが、このずれは微小なものであるため、ユーザがずれを知覚するまでに時間がかかることもある。したがって、最初に再生を開始する際にのみ制御信号を発信して再生開始タイミングを同期させた後は、基本的にそのまま映像と音声とは同期し続けるので、再生終了時までビデオ再生装置及びオーディオ再生装置を自走させることも可能である。
一方、特に、コンテンツの再生時間が長い場合などには、ユーザが知覚できる程度まで、映像と音声との間にずれが生じる可能性がある。このようなずれに対応するため、マルチメディア符号化データ再生装置300からオーディオ再生装置200に対して時間情報を定期的に送信し、オーディオ再生装置200は、同期再生のずれを検知し、マルチメディア符号化データ再生装置300から定期的に送られてくる時間情報に従って、オーディオ再生の時間管理を行うことも可能である。ずれが検知された場合には、オーディオ再生装置200は、例えば、従来の技術(特許文献1に開示されている技術)のようにユーザに違和感を与えないように配慮しながら、オーディオデータを適当なサンプル分だけ挿入又は削除することで、定期的にずれの補正を行うことによって、常にビデオとオーディオの同期付けが継続されるようにすることが可能である。
また、ユーザがずれを知覚した段階で、ユーザ自身がずれの補正指示を行うことによって、マルチメディア符号化データ再生装置300からオーディオ再生装置200に対して再生開始命令が再度発信され、ビデオとオーディオの同期再生を再設定できるようにすることも可能である。ユーザの操作による同期の再設定は、必要に応じてずれの補正を行うものである。したがって、マルチメディア符号化データ再生装置300からオーディオ再生装置200に対する時間情報の送信は、同期再生の再設定が必要な場合のみ行われることとなり、必要最低限の無線伝送によって同期再生を維持することが可能となるという利点を有している。
また、マルチメディア符号化データ再生装置300とオーディオ再生装置200との間の双方向通信に、光無線通信ではなく、電波による無線伝送方式を採用してもよい。本発明は、従来の技術のようにリアルタイムでオーディオデータ伝送を行うものではなく、マルチメディア符号化データ再生装置300とオーディオ再生装置200との間で、伝送量の極めて少ない制御信号及び応答信号のやり取りが行われるに過ぎず、電波の利用が好ましくないとされる環境下においても、周囲に影響を与える可能性が非常に小さいと言える。
以上、説明したように、本発明によれば、物理的に離れた状態のビデオ再生装置とオーディオ再生装置を用いる視聴環境下において、あらかじめビデオデータ及びオーディオデータを含むマルチメディア符号化データから、補助情報として時間情報などを付加したオーディオ符号化データを分離しオーディオ再生装置へ伝送することで、リアルタイムデータ転送無しにビデオデータとオーディオデータの同期再生を実現することができ、ワイヤレスの利便性を維持したまま、無線伝送の好ましくない状況でもマルチメディア符号化データのコンテンツを楽しむことができる。
以上、説明したように、本発明によれば、マルチメディア符号化データ再生装置(ビデオ再生装置)とオーディオ再生装置とが物理的に離れた場所に存在し、無線によって接続している状態において、あらかじめマルチメディア符号化データ分離伝送装置で、マルチメディア符号化データからオーディオデータを再構成して、再構成されたオーディオデータをオーディオ再生装置にあらかじめ格納しておき、コンテンツの再生を行う場合には、マルチメディア符号化データ再生装置からオーディオ再生装置に対して、遅延を考慮したタイミングで、再生開始命令(あるいは、その他の操作命令)が無線を介して送信されるようにすることによって、リアルタイムでオーディオデータを無線伝送することなく、ビデオデータとオーディオデータの同期再生を実現することが可能となる。また、オーディオ再生装置が、マルチメディア符号化データ再生装置から受信した制御信号に対して、その制御信号に基づく動作が正常に行えたか否かを示す応答信号を返信することによって、例えば、何らかの不具合によって動作が正常に行われなかった場合の認識や、その原因の早期発見が可能となる。
なお、上述の実施の形態に記載されている構成や動作は一例にすぎず、本発明は、上述の実施の形態の記載に限定されるものではない。また、本発明を説明するために図示されているブロック図の各構成要素は機能を表すものであり、これらの各構成要素は、ハードウェア、ソフトウェア、あるいは、ハードウェアとソフトウェアの組み合わせによって実現可能である。
また、本発明によれば、下記の態様も提供される。
本発明の第5の態様によれば、上記の本発明の第1〜第3の態様において、前記ビデオ復号手段の復号処理によって生成された前記ビデオデータを一時的に格納するビデオデータ格納手段を有し、
前記ビデオ再生制御手段は、あらかじめ前記ビデオ復号手段で復号されて前記ビデオデータ格納手段に格納されている前記ビデオデータの出力開始を指示することによって、前記映像出力の開始を行うように構成されているビデオ再生装置が提供される。
また、本発明の第6の態様によれば、上記の本発明の第1〜第3の態様において、前記ビデオ復号手段に供給される前記ビデオ符号化データを一時的に格納するビデオ符号化データ格納手段を有し、
前記ビデオ再生制御手段は、あらかじめ前記ビデオ符号化データ格納手段に格納されている前記ビデオ符号化データの出力開始を指示することによって、前記映像出力の開始を行うように構成されているビデオ再生装置が提供される。
また、本発明の第7の態様によれば、上記の本発明の第1〜3、5、6の態様において、前記無線信号送信手段及び前記無線信号受信手段が、赤外線を用いた光無線伝送によって無線信号の伝送を行うように構成されているビデオ再生装置が提供される。
また、本発明の第8の態様によれば、上記の本発明の第1〜3、5、6、7の態様において、前記ビデオ再生制御手段が、前記所定のオーディオ再生装置との間における無線伝送の遅延を考慮して設定されたタイミングで、前記映像出力を開始するように構成されているビデオ再生装置が提供される。
また、本発明の第9の態様によれば、上記の本発明の第4の態様において、前記動作実行判断手段において正常に動作を開始することが不可能であると判断された場合には、前記応答信号生成手段は、正常に動作を開始することが不可能である理由を示す情報を含む前記応答信号を生成するように構成されているオーディオ再生装置が提供される。
また、本発明の第10の態様によれば、上記の本発明の第4、9の態様において、前記無線信号送信手段及び前記無線信号受信手段が、赤外線を用いた光無線伝送によって無線信号の伝送を行うように構成されているオーディオ再生装置が提供される。
本発明は、ビデオ再生装置とオーディオ再生装置とが物理的に離れた場所に存在し、無線によって接続している状態を維持したまま、例えば公共性の高い場所などを始めとする電波使用が制限されている環境においても、簡易な構成によってビデオデータとオーディオデータの同期再生を実現し、ワイヤレス接続に係る利便性の維持、装置の低コスト化、装置の小型化や低重量化を可能にするという効果を有しており、物理的に離れた状態にあるビデオ再生装置及びオーディオ再生装置において、1つのマルチメディア符号化データに含まれるビデオデータ及びオーディオデータの同期再生を可能とするための技術に適用可能である。
本発明の実施の形態において、前工程段階に係る処理を行うマルチメディア符号化データ分離伝送装置及びオーディオ再生装置の構成の一例を示すブロック図である。 本発明の実施の形態において、後工程段階に係る処理を行うマルチメディア符号化データ再生装置及びオーディオ再生装置の構成の一例を示すブロック図である。 本発明の実施の形態において、後工程段階に係る処理を行うオーディオ再生装置の構成の一例を示すブロック図である。 本発明の実施の形態において、同期再生を開始する際のマルチメディア符号化データ再生装置の制御部の動作の一例を示すフローチャートである。 本発明の実施の形態において、同期再生時に操作入力が行われた際のマルチメディア符号化データ再生装置の制御部の動作の一例を示すフローチャートである。 本発明の実施の形態において、マルチメディア符号化データ再生装置からの制御信号に従うオーディオ再生装置の制御部の動作の一例を示すフローチャートである。 本発明の実施の形態における再生命令入力時のオーディオ再生装置、マルチメディア符号化データ再生装置、ユーザによる操作命令の入力のそれぞれのタイミングの一例を示すタイミングチャートである。 本発明の実施の形態における停止命令入力時のオーディオ再生装置、マルチメディア符号化データ再生装置、ユーザによる操作命令の入力のそれぞれのタイミングの一例を示すタイミングチャートである。 従来の技術に係るマルチメディア符号化データ再生装置の一例を示すブロック図である。 従来の技術に係る分離型マルチメディア符号化データ再生装置の一例を示すブロック図である。 従来の技術に係る分離型マルチメディア符号化データ再生装置の一例を示す外観図である。
符号の説明
100 マルチメディア符号化データ分離伝送装置
101、301、1001、2101 マルチメディアストリームバッファ
102、302、1002、2102 システムストリーム分離部
103、202 オーディオストリームバッファ
104 補助情報バッファ
105 オーディオストリーム再構成部
106 オーディオストリーム送信部
200、2002 オーディオ再生装置
201 オーディオストリーム受信部
203 後工程処理部
204 位置特定及びデータ選定部
205、305、1005、2105 制御部
206 オーディオ復号部
207、1006、2106、2203 オーディオデータバッファ
208、1008、2204 スピーカ
209、309 無線送信部
210、310 無線受信部
300、1000 マルチメディア符号化データ再生装置(ビデオ再生装置)
303 補助情報抽出部
304、1004、2104 ビデオ復号部
306 補助情報/操作情報生成部
307、1007、2107 ビデオデータバッファ
308、1009、2109 モニタ
311 受信情報解読部
1003、2103、2202 オーディオ復号部
2001 マルチメディア符号化データ再生伝送装置
2110 オーディオデータ送信部
2201 オーディオデータ受信部
3001 本体装置
3002 ヘッドフォン

Claims (4)

  1. ビデオ符号化データと、オーディオ符号化データと、前記各符号化データの再生時間の管理を行うための時間情報を含む補助情報とが多重化されたマルチメディア符号化データが記録されている記録媒体から、前記マルチメディア符号化データを読み出すマルチメディア符号化データ読み出し手段と、
    前記マルチメディア符号化データの再生動作に係る外部からの指示を入力するための操作入力手段と、
    前記操作入力手段で入力された前記再生動作に係る再生位置を示す時間情報を含む前記補助情報と、前記再生動作の開始指示を行うための操作情報とを、前記マルチメディア符号化データに含まれる前記オーディオ符号化データがあらかじめ格納されている所定のオーディオ再生装置に無線を介して送信する無線信号送信手段と、
    前記所定のオーディオ再生装置から、前記再生動作の開始指示に対して正常に動作を行うことが可能か否かを示す応答信号を無線を介して受信する無線信号受信手段と、
    前記応答信号を参照して、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して、正常に動作を開始することが可能か否かを解読する応答信号解読手段と、
    前記マルチメディア符号化データに含まれる前記ビデオ符号化データに関し、前記操作入力手段で入力された前記再生動作に係る前記再生位置以降の復号処理を行うビデオ復号手段と、
    前記ビデオ復号手段における前記ビデオ符号化データの復号処理によって生成されたビデオデータによる映像を視覚的に表示する映像表示手段と、
    前記応答信号解読手段における前記応答信号の解読によって、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して正常に動作を開始することが可能である旨を示す応答信号を受信したと判断された場合に、前記操作入力手段で入力された前記再生動作に係る前記再生位置以降の映像出力を開始するように制御するビデオ再生制御手段とを、
    有するビデオ再生装置。
  2. 前記応答信号解読手段における前記応答信号の解読によって、前記所定のオーディオ再生装置が前記再生動作の開始指示に対して正常に動作を開始することが不可能である旨を示す応答信号を受信したと判断された場合に、所定時間が経過するまで又は所定回数を超えるまで、前記補助情報及び前記操作情報を繰り返し送信し続けるように制御する無線信号送信制御手段と、
    前記所定時間が経過しても又は前記所定回数を超えても、前記所定のオーディオ再生装置から、前記再生動作の開始指示に対して正常に動作を行うことが可能である旨を示す前記応答信号を受信できなかった場合には、前記操作入力手段で入力された前記再生動作を中止するように制御するビデオ再生待機制御手段とを、
    有する請求項1に記載のビデオ再生装置。
  3. 前記所定のオーディオ再生装置から前記再生動作の開始指示に対して正常に動作を開始することが不可能である旨を示す応答信号を受信した場合、及び/又は、所定時間が経過するまで又は所定回数を超えても、前記所定のオーディオ再生装置から前記再生動作の開始指示に対して正常に動作を行うことが可能である旨を示す前記応答信号を受信できなかった場合には、その旨の報知を行う報知手段を有する請求項2に記載のビデオ再生装置。
  4. ビデオ符号化データと、オーディオ符号化データと、前記各符号化データの再生時間の管理を行うための時間情報を含む補助情報とが多重化されたマルチメディア符号化データから前記オーディオ符号化データ及び前記補助情報がいったん分離された後、オーディオ符号化データのオーディオ再生が行われるように再構成された前記オーディオ符号化データ及び前記補助情報を格納するデータ格納手段と、
    再生動作に係る再生位置を示す時間情報を含む前記補助情報と、前記再生動作の開始指示を行うための操作情報とを、所定のビデオ再生装置から無線を介して受信する無線信号受信手段と、
    前記無線信号受信手段で受信した前記補助情報及び前記操作情報を参照して、前記再生動作の開始指示に対して、正常に動作を開始することが可能か否かを判断する動作実行判断手段と、
    前記動作実行判断手段における判断結果に基づいて、前記再生動作の開始指示に対して正常に動作を開始することが可能か否かを示す応答信号を生成する応答信号生成手段と、
    前記応答信号生成手段で生成された前記応答信号を、前記所定のビデオ再生装置に無線を介して送信する無線信号送信手段とを、
    前記動作実行判断手段における判断によって、前記再生動作の開始指示に対して正常に動作を開始することが可能であると判断された場合に、前記データ格納手段に格納されている前記オーディオ符号化データに関し、前記再生動作に係る前記再生位置以降の復号処理を行うオーディオ復号手段と、
    前記オーディオ復号手段で復号された前記オーディオ符号化データの音声を出力する音声出力手段とを、
    有するオーディオ再生装置。
JP2005282841A 2005-09-28 2005-09-28 ビデオ再生装置及びオーディオ再生装置 Expired - Fee Related JP4556185B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005282841A JP4556185B2 (ja) 2005-09-28 2005-09-28 ビデオ再生装置及びオーディオ再生装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005282841A JP4556185B2 (ja) 2005-09-28 2005-09-28 ビデオ再生装置及びオーディオ再生装置

Publications (2)

Publication Number Publication Date
JP2007096708A true JP2007096708A (ja) 2007-04-12
JP4556185B2 JP4556185B2 (ja) 2010-10-06

Family

ID=37981877

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005282841A Expired - Fee Related JP4556185B2 (ja) 2005-09-28 2005-09-28 ビデオ再生装置及びオーディオ再生装置

Country Status (1)

Country Link
JP (1) JP4556185B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9819839B2 (en) 2012-10-30 2017-11-14 Mitsubishi Electric Corporation Audio/video reproduction system, video display device, and audio output device for synchronizing decoding of video frames by the video display device to decoding of audio frames by the audio output device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05250860A (ja) * 1992-03-03 1993-09-28 Olympus Optical Co Ltd マルチメディア装置
JP2000324163A (ja) * 1999-05-12 2000-11-24 Matsushita Electric Ind Co Ltd データ送信装置とデータ受信装置
JP2004260454A (ja) * 2003-02-25 2004-09-16 Sony Corp 送受信システム、送信装置
JP2004282667A (ja) * 2003-03-19 2004-10-07 Matsushita Electric Ind Co Ltd 再生同期ずれ補正機能を備えた送信機及び受信機、並びにそれらを有する伝送装置
JP2007095163A (ja) * 2005-09-28 2007-04-12 Victor Co Of Japan Ltd マルチメディア符号化データ分離伝送装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05250860A (ja) * 1992-03-03 1993-09-28 Olympus Optical Co Ltd マルチメディア装置
JP2000324163A (ja) * 1999-05-12 2000-11-24 Matsushita Electric Ind Co Ltd データ送信装置とデータ受信装置
JP2004260454A (ja) * 2003-02-25 2004-09-16 Sony Corp 送受信システム、送信装置
JP2004282667A (ja) * 2003-03-19 2004-10-07 Matsushita Electric Ind Co Ltd 再生同期ずれ補正機能を備えた送信機及び受信機、並びにそれらを有する伝送装置
JP2007095163A (ja) * 2005-09-28 2007-04-12 Victor Co Of Japan Ltd マルチメディア符号化データ分離伝送装置
JP4352409B2 (ja) * 2005-09-28 2009-10-28 日本ビクター株式会社 マルチメディア符号化データ分離伝送装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9819839B2 (en) 2012-10-30 2017-11-14 Mitsubishi Electric Corporation Audio/video reproduction system, video display device, and audio output device for synchronizing decoding of video frames by the video display device to decoding of audio frames by the audio output device

Also Published As

Publication number Publication date
JP4556185B2 (ja) 2010-10-06

Similar Documents

Publication Publication Date Title
US7953231B2 (en) Audio output apparatus and audio processing system
US20080268771A1 (en) Content reproducing apparatus and communication method therefor
US20080281447A1 (en) Wireless earphone, audio player, and audio playing method
JP4352409B2 (ja) マルチメディア符号化データ分離伝送装置
JP5070996B2 (ja) 音声制御装置及び音声制御システム
JP2005079614A (ja) 移動型音声出力装置、コンテンツ再生装置、無線チャネル制御方法及び同期制御方法
JP4556185B2 (ja) ビデオ再生装置及びオーディオ再生装置
WO2013191037A1 (ja) データ出力装置、制御方法、および制御プログラム
JP2008085626A (ja) 出力処理装置及びその制御方法
WO2012131832A1 (ja) 音声読み上げシステム、音声読み上げ装置、および音声読み上げ方法
JP2007174256A (ja) 映像音声記録装置
JP4189211B2 (ja) 音声データの伝送方法
JP2018117339A (ja) 映像送信システム及び映像送信方法
JP2014127213A (ja) 同期再生制御装置及び同期再生制御方法
JP4920668B2 (ja) 映像送出装置及び映像送出方法
JP4748330B2 (ja) 伝送装置、伝送システム、プログラムおよび情報記憶媒体
JP2008187253A (ja) 再生装置
WO2008023763A1 (en) Data processing device, data processing method, and recording/reproducing system
JP2009044392A (ja) ビデオ再生方法およびビデオ再生装置
JP3951430B2 (ja) 映像信号符号化システム
JP2007317081A (ja) 管制装置、管制システムおよび管制記録処理方法
JP4442257B2 (ja) 再生装置
JP5305049B2 (ja) 伝送装置、伝送システム、プログラムおよび情報記憶媒体
JP2004328636A (ja) ビデオカメラ、ビデオカメラシステムおよびビデオカメラシステムのモニタ方法
KR20040065018A (ko) Tcp/ip 채널을 이용한 디브이디 재생장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100625

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100708

R151 Written notification of patent or utility model registration

Ref document number: 4556185

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees