JP3951839B2 - 画像データ再生装置及び方法 - Google Patents

画像データ再生装置及び方法 Download PDF

Info

Publication number
JP3951839B2
JP3951839B2 JP2002206120A JP2002206120A JP3951839B2 JP 3951839 B2 JP3951839 B2 JP 3951839B2 JP 2002206120 A JP2002206120 A JP 2002206120A JP 2002206120 A JP2002206120 A JP 2002206120A JP 3951839 B2 JP3951839 B2 JP 3951839B2
Authority
JP
Japan
Prior art keywords
image data
data
stream buffer
gop
picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002206120A
Other languages
English (en)
Other versions
JP2004048598A (ja
Inventor
健治 山崎
康博 後藤
文善 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002206120A priority Critical patent/JP3951839B2/ja
Priority to KR20030047683A priority patent/KR100975170B1/ko
Priority to US10/619,261 priority patent/US7321715B2/en
Priority to CNB03147621XA priority patent/CN1263297C/zh
Publication of JP2004048598A publication Critical patent/JP2004048598A/ja
Application granted granted Critical
Publication of JP3951839B2 publication Critical patent/JP3951839B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape
    • H04N5/783Adaptations for reproducing at a rate different from the recording rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、MPEG(Moving Picture Experts Group)方式により圧縮符号化された画像データを復号化して再生することに対し好適な画像データ再生装置及び方法に関するものである。
【0002】
【従来の技術】
近年において、動画像を高効率で圧縮符号化する手法として、MPEG2(ISO/IEC13818)に代表されるディジタル動画像符号化方式が提案されている。このMPEG方式による画像圧縮は、画像間の動き補償とDCTとを組合せたハイブリッド方式の変換を行い、これにより得られる信号に対してさらに量子化や可変長符号化を施す。
【0003】
また、このMPEG方式では、動画像を構成する画面(フレーム或いはフィールドの画面)を、Iピクチャ,Pピクチャ,Bピクチャのいずれかのピクチャタイプに符号化して、画像圧縮を行っている。Iピクチャは、1フレーム内において予測符号化されたフレーム内予測符号化画像であり、Pピクチャは、既に符号化された時間的に前のフレーム(Iピクチャ又はPピクチャ)を参照して予測するフレーム順方向予測符号化画像であり、Bピクチャは、時間的に前後の2フレームを参照して予測する双方向符号化画像である。
【0004】
このようにMPEG方式では、ピクチャ間予測符号化して画像圧縮を行い、動画像を効率的に圧縮するとともに、圧縮した動画像に対してランダムにアクセスすることができる。またMPEG方式では、これらの各ピクチャを任意の枚数でグループ化した画面群(GOP:Group of pictures)単位で構成されるデータストリームに圧縮している。MPEG方式では、このGOP内に少なくとも1枚のIピクチャを設けることを規定している。これにより、GOP単位で圧縮した動画像に対してランダムアクセスを行うことが可能となる。
【0005】
ここで従来の記録再生装置において、MPEG方式で画像圧縮された信号を再生する場合について説明をする。この従来の記録再生装置は、上述したMPEG方式で画像の圧縮及び伸張を行うエンコーダ及びデコーダを備え、画像圧縮を施した画像データを記録媒体へ記録し、或いは当該記録媒体から読み出した画像データを画像伸長させる。
【0006】
記録媒体には、例えば図9に示すようなデータストリームの符号化データが記録されている。従来の記録再生装置は、この図9に示すように記録されているデータストリームを復号化して再生を行う。ここで、各ピクチャに符号として付けている“I”,“P”,“B”は、Iピクチャ、Pピクチャ、Bピクチャの区別を示している。
【0007】
この従来の記録再生装置は、図9に示すようなデータストリームの符号化データを再生する為に、まずI0の復号を行う。Iピクチャは画面内で符号化が完結しているものであるので、単独で復号することができる。続いて、従来の記録再生装置は、復号したI0に基づき、順方向予測符号化がされたP1の復号を行う。続いて、復号したI0及びP1に基づき、双方向予測符号化がされたB1及びB2の復号を行う。Bピクチャは時間的に前後のIピクチャ又はPピクチャを参照して符号化がされるものであるので、B1及びB2を復号する前にI0とP1を復号することが必要となる。このように、この従来の記録再生装置では、ストリーム順で表すと、図9(A)に示すようなデータストリームの符号化データを、I0→P1→B1→B2→P2→B3→B4→・・・という順序で復号を行う。
【0008】
【発明が解決しようとする課題】
ところで、通常の一倍速再生に対して、1/2、1/4・・倍の速度で再生したりコマ送り等を行う、いわゆる可変速再生を行う場合には、ストリームバッファへ補充する画像データのデータ量や補充のタイミングを適切に決定しなければならない。特にこの可変速再生中において、FORWARDとREVERSEとを切り換えた場合に、デコードした画像データを1枚もスキップさせることなく表示させることが要求される。
【0009】
しかしながら、上述したMPEG方式において、各ピクチャを構成するデータ量は、Iピクチャが最も多く、次にPピクチャ、Bピクチャと続くのが一般的であるため均一ではなく、またこれらピクチャを任意の枚数でグループ化した各GOPのデータ量も均一ではない。このため従来では、ストリームバッファへ補充する画像データのデータ量を決定するのが困難となり、補充タイミングを固定することができなかった。
【0010】
また可変速再生中においてFORWARDとREVERSEとを切り換えたときに、画質の劣化を防止するために非常に複雑な制御が必要となり、スムーズな可変速再生を実現することができなかった。
【0011】
そこで本発明は、上述した問題点に鑑みて案出されたものであり、その目的とするところは、MPEG方式においてスムーズな可変速再生を実現することができる画像データ再生装置及び方法を提供することにある。
【0012】
【課題を解決するための手段】
本発明に係る画像データ再生装置は、上述の課題を解決するために、MPEG方式により記録媒体上へ記録された画像データを再生する画像データ再生装置において、先頭がIピクチャで始まるGOPによりグループ化された画像データを一時記憶するストリームバッファと、FORWARD再生時において、ストリームバッファに一時記憶された画像データを、前ピクチャから順に読み出して復号化する復号手段と、上記記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、上記データ補充手段は、上記ストリームバッファに一時記憶されている画像データが復号手段により読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにする
また、本発明に係る画像データ再生装置は、MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生装置において、先頭がIピクチャで始まるGOPによりグループ化された上記画像データを一時記憶するストリームバッファと、REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号手段と、記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、上記データ補充手段は、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの補充フレーム数をPとし、GOPの最大ピクチャ数を Max_GOP とし、1倍速再生時における1フレーム時間に読み出す画像データ量を data_ frame とし、VBV( Video Buffering Verifier )バッファのデータ占有量を vbv_occupancy としたとき、(P+ Max_GOP −1)× data_ frame vbv_occupancy として定義される加算データ量( data_add )を算出し、当該現GOPの先頭からPフレーム目のピクチャから当該現GOPの前に位置する前GOPを経て上記加算データ量遡った上記記録媒体の記録位置から上記画像データを読み出して補充することを特徴とする。
また、本発明に係る画像データ再生装置は、MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生装置において、先頭がIピクチャで始まるGOPによりグループ化された上記画像データを一時記憶するストリームバッファと、REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号手段と、記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、上記データ補充手段は、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの先頭ピクチャにおけるDTS( Decoding Time Stamp )を DTS_c とし、当該先頭ピクチャのVBVディレイを vbv_delay_c とし、また前GOPの先頭ピクチャにおけるDTSを DTS_f とし、当該先頭ピクチャのVBVディレイを vbv_delay_f としたとき、上記補充する画像データのデータ量を( DTS_c vbv_delay_c )−( DTS_f vbv_delay_f )の期間に対応するデータ量とすることを特徴とする。
【0013】
本発明に係る画像データ再生方法は、上述の課題を解決するために、MPEG方式により記録媒体上へ記録された画像データを再生する画像データ再生方法において、先頭がIピクチャで始まるGOP(Group of Pictures)によりグループ化された画像データをストリームバッファに一時記憶させる一時記憶ステップと、FORWARD再生時において、上記ストリームバッファに一時記憶された画像データを前ピクチャから順に読み出して復号化する復号ステップと、上記記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、上記データ補充ステップでは、ストリームバッファに一時記憶されている画像データが復号ステップにおいて読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにする
また、本発明に係る画像データ再生方法は、MPEG( Moving Picture Experts Group )方式により記録媒体上へ記録された画像データを再生する画像データ再生方法において、先頭がIピクチャで始まるGOP( Group of Pictures )によりグループ化された上記画像データをストリームバッファに一時記憶させる一時記憶ステップと、FORWARD再生時において、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化する復号ステップと、上記記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、上記データ補充ステップでは、上記ストリームバッファに一時記憶されている上記画像データが上記復号ステップにおいて読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすることを特徴とする。
また、本発明に係る画像データ再生方法は、MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生方法において、先頭がIピクチャで始まるGOPによりグループ化された上記画像データをストリームバッファへ一時記憶させる一時記憶ステップと、REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号ステップと、記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、上記データ補充ステップでは、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの補充フレーム数をPとし、GOPの最大ピクチャ数を Max_GOP とし、1倍速再生時における1フレーム時間に読み出す画像データ量を data_ frame とし、VBV( Video Buffering Verifier )バッファのデータ占有量を vbv_occupancy としたとき、(P+ Max_GOP −1)× data_ frame vbv_occupancy として定義される加算データ量( data_add )を算出し、当該現GOPの先頭からPフレーム目のピクチャから当該現GOPの前に位置する前GOPを経て上記加算データ量遡った上記記録媒体の記録位置から上記画像データを読み出して補充することを特徴とする。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。
【0015】
本発明に係る画像データ再生装置は、動画像を高効率で圧縮符号化するMPEG(Moving Picture Experts Group)方式により、記録媒体上へ画像データを記録し、或いは当該記録媒体へ記録された画像データを再生する記録再生装置1に適用され、図1に示すように、画像圧縮を施した圧縮画像データを記録媒体4へ記録する記録系10と、当該記録媒体4から読み出した圧縮画像データを画像伸長させる再生系30とを有する。ちなみにこの記録媒体4は、例えば画像データや音声データを記録するための磁気テープ或いは磁気ディスク等である。
【0016】
記録系10は、MPEG圧縮部11と、DRAM12と、DRAM読出制御部13と、記録媒体制御部14と、STC(System Time Clock)発生器15と、ETN(Extended Track Number)付加部16と、Audio圧縮部17と、混合器18と、ECC(Error Correction Code)エンコーダ19とを備える。
【0017】
MPEG圧縮部11は、STC発生器15から供給されるSTCに基づき、入力されるVideo信号をピクチャタイプ、量子化ステップ等の符号化パラメータに基づいて圧縮符号化した圧縮画像データを生成する。このMPEG圧縮部11は、生成した圧縮画像データをDRAM12へ送信する。
【0018】
DRAM12は、MPEG圧縮部11から送信された圧縮画像データを記憶する。DRAM読出制御部13は、所定のタイミングで、DRAM12に書き込まれている圧縮画像データを読み出し、混合器16へ出力する。
【0019】
記録媒体制御部14は、記録媒体4の駆動状態をコントロールするためのデバイスであり、例えば記録媒体4が磁気テープであればサーボコントロールに相当する。この記録媒体制御部14は、通常の一倍速で各種データを記録、再生できるように、記録媒体4をコントロールすることができ、さらに一倍速再生の1/2、1/4・・倍の速度で再生したりコマ送り等を行う、いわゆる可変速再生時においても速度に応じて記録媒体4を自在にコントロールすることができる。この記録媒体制御部14は、再生系30から受信した後述する読出時刻情報に基づいて、磁気テープ4における記録位置情報であるETN(Extended Track Number)を生成し、これをSTC発生器15及びETN付加部16へ送信する。
【0020】
STC発生器15は、記録媒体制御部14から送信されるETNに基づいてSTC(System Time Clock)を生成し、MPEG圧縮部11へ供給する。ちなみにETNは、記録媒体4において、先頭から演算したトラック数であり、例えば10トラック/フレームでフィールド周波数が59.94Hzのシステムにおいて、STCは、ETN×300.3で表される。すなわち、記録媒体4に対して各種データを記録する際に、同時にETNを記録することにより実質的にはSTCを記録することと等価となり、再生時において記録した当該STNに基づいてSTCを再現することができる。
【0021】
ETN付加部16は、記録媒体4に記録する補助データ(AUX)に、記録媒体制御部14から送信されたETNを付加し、混合器18へ出力する。
【0022】
Audio圧縮部17は、入力されるAudio信号を圧縮符号化した圧縮音声データを生成する。このMPEG圧縮部11は、生成した圧縮音声データを混合器18へ出力する。
【0023】
混合器18は、入力される圧縮画像データ、圧縮音声データ、並びにAUXを記録媒体4へ記録する順番に配置し、ECCエンコーダ19へ出力する。ECCエンコーダ19は、混合器18から受信したデータストリームにECC(Error Correction Code)を付加して、これを記録媒体4へ記録する。この記録媒体4への記録処理は、例えば図示しない回転ドラムを介して回転させられる磁気テープへ、磁気ヘッドを介して記録する。
【0024】
再生系30は、ECCデコーダ31と、画像データ分離部32と、記憶部33と、データ読出制御部34と、MPEG伸張部35と、ストリームバッファ36と、ベースバンドバッファ37と、AUX分離部38と、ETN取得部39と、STCセット値計算部40と、STC自走器41と、STC比較部42と、音声データ分離部43と、Audio伸張部44と、TSエンコーダ45とを備える。
【0025】
ECCデコーダ31は、記録媒体4に記録されているデータストリームを読み出す。またこのECCデコーダ31は、読み出したデータストリームに付加されているECCを除去する。
【0026】
画像データ分離部32は、ECCデコーダ31から圧縮画像データを選択的に読み出し、記憶部33へ送信する。また、この画像データ分離部32は、読み出した圧縮画像データのPES(Packetized Elementary Stream)ヘッダを解析してDTS(Decoding Time Stamp),PTS(Presentation Time Stamp),更にはVBV(Video Buffering Verifier)ディレイを読み出し、各ピクチャ毎に読み出すべきSTC時刻を含む出力時刻情報を生成し、これをSTC比較部42へ送信する。
【0027】
記憶部33は、画像データ分離部32から送信される圧縮画像データを夫々所定のアドレスへ格納する。データ読出制御部34は、STC比較部42から送信される読出時刻情報のSTC時刻に適合するピクチャの圧縮画像データを読み出してMPEG伸張部35へ出力する。
【0028】
MPEG伸張部35は、データ読出制御部34から圧縮画像データがピクチャ単位で入力され、またSTC自走器41から、当該入力される各ピクチャ或いはGOPに関するSTCを含むSTC情報を受信する。このMPEG伸張部35は、受信したSTC情報のSTCに基づいて各ピクチャにつきMPEG伸張を施し、ベースバンドのVideo信号を生成する。なお、MPEG2におけるSTD(System Target Decoder)システムでは、伸張時間は理想的に0として設定される。しかし、実際のデコーダにおいて伸張時間を0とするのは困難であるため、本発明ではこのMPEG伸張部35に、ストリームバッファ36を付設する。そして、データ読出制御部34から入力される圧縮画像データを先ずストリームバッファ36へ格納し、その後STC自走器から送信される所定のSTCのタイミングでストリームバッファ36に格納されている圧縮画像データを読み出して順次伸張する。ちなみに、このストリームバッファ36への圧縮画像データの補充は、データ読出制御部34が行ってもよい。
【0029】
なお、MPEG伸張部35は、生成したベースバンドのVideo信号を一度ベースバンドバッファ37に格納し、さらにリオーダリングされることにより、Video信号を出力する。ちなみに、ベースバンドバッファ37へVideo信号を格納する理由は、Bピクチャをデコードする際に、時間的に前後のIピクチャ又はPピクチャを参照する必要があるからである。
【0030】
AUX分離部38は、ECCデコーダ31からAUXを選択的に読み出して、外部へ出力し、またTSエンコーダ45へ送信する。ちなみに、このAUX分離部38により分離されたAUXのうち、ETNについてはETN取得部39により抽出される。ETN取得部39は、この抽出したETNをSTCセット値計算部40へ供給する。
【0031】
STCセット値計算部40は、ETC取得部39から供給されたETNに基づいてSTCの初期値を計算し、これをSTC自走器41へ送信する。STC自走器41は、一倍速再生時において、新たなSTCを、受信したSTCの初期値から線形に増加させることにより生成し、これを上述したSTC情報としてMPEG伸張部35及びSTC比較部42へ送信する。
【0032】
STC比較部42は、画像データ分離部32から受信した出力時刻情報と、STC自走器41から受信したSTC情報とを比較する。このSTC比較部42は、出力時刻情報に割り振られたSTC時刻と、STC情報に割り振られたSTCとを比較し、両者が一致したときのSTCを読出時刻情報としてデータ読出制御部34へ送信する。
【0033】
このような読出時刻情報を得たデータ読出部34は、STC自走器41により設定されたSTCと一致するSTC時刻のピクチャのみを読み出すことができる。換言すれば、STC自走器41から送信するSTC情報により、データ読出部34が各ピクチャにつき読み出すタイミングを制御することができる。これにより、STC自走器41に設定する初期値を決めることで、記録媒体4に記録されているSTC時刻から所定のタイミングだけ遅延させて復号化させることも可能となる。
【0034】
音声データ分離部43は、ECCデコーダ31から圧縮音声データを選択的に読み出し、Audio伸張部44とTSエンコーダ45へ送信する。Audio伸張部44は、音声データ分離部43から受信した圧縮音声データを伸張することによりAudioデータとして出力する。
【0035】
TSエンコーダ45は、データ読出制御部34から圧縮画像データを受信し、AUX分離部38からAUXを受信し、また音声データ分離部43から圧縮音声データを受信し、さらにSTC自走器41からSTC情報を受信する。このTSエンコーダ45は、受信した圧縮画像データ、AUX、圧縮音声データの各ストリームをトランスポートストリーム(TS)パケット化し、さらに受信したSTC情報から、STC以外にPCR(Program Clock Reference)その他TSに必要な情報を付加する。TSエンコーダ45は、このパケット化したTSを外部へ出力する。
【0036】
次に、上述した構成を採用する記録再生装置1の動作について、一倍速再生の場合を例にとり説明をする。
【0037】
先ず、記録系10へ入力されたVideoデータ、Audioデータは、それぞれMPEG圧縮部11、Audio圧縮部17により圧縮符号化され、圧縮画像データ、圧縮音声データとして混合器18へ送られる。また記録系10へ入力されたAUXは、ETNを付加されて同様に混合器18に送られる。このAUXに付加されるETNは、MPEG圧縮部11において用いられたSTCと整合がとれているため、後段の混合器18において、各データを効率よく配置することができる。
【0038】
図2下段は、混合器18により記録媒体4へ記録する順番に配置されたデータストリームを示している。この記録媒体4に記録するデータストリームは、MPEG方式において各ピクチャを任意の枚数でグループ化した画面群(GOP:Group of pictures)単位で構成される。図中長方形で囲まれている領域は、圧縮画像データをGOP毎にグルーピングした状態を示しており、各GOP間でデータ量が異なるためその大きさは夫々異なる。また、図中楕円で示されている領域は、GOP毎に付加された圧縮音声データ並びにAUXであり、上述の圧縮画像データと比較してデータ量は極めて小さい。ちなみにETN等を含む補助データが付加されたAUXは、この他に図2下段において、GOPのデータ量とは無関係に一定周期で刻まれている正方形の領域にも付加される。
【0039】
また図2上段は、横軸を図2下段に示される記録位置に対応したSTCとしたときに、縦軸としてVBVバッファのデータ占有量として示したグラフである。このVBVバッファは、記録系30における入力バッファのデータ占有量を常に把握すべく、仮想バッファとして想定されたものである。VBVバッファのデータ占有量が急激に低下するのは、各GOPがデコードされるためである。このデコードのタイミングは、デコード管理時間の間隔であるΔDTS毎に一定間隔にて行われる。
【0040】
ちなみに、図2上段において点線で示される部分は、GOPαが順次VBVバッファへ格納されている状態を示している。途中でデータ占有量が急激に低下しているのは、GOPαより時間的に前に位置するGOPがデコードされるためである。このGOPαは、図中一点斜線で示される位置のDTS(DTS_α)は、GOPαがデコードされるタイミングである。GOPαにおけるVBVバッファへの格納が開始されるピクチャ出力時刻(a11)からDTS_αまでが、当該GOPαのVBVディレイに相当する。
【0041】
上述の如く配置されたデータストリームはECCデコーダ31によりECCを除去され、さらに圧縮画像データは、画像データ分離部32により読み出される。そして、圧縮画像データを構成する各GOP毎、或いは各PES毎にDTS−VBVディレイを計算することにより、各GOP毎、或いは各PES毎のピクチャ出力時刻が求められる。この求められたピクチャ出力時刻は、上述した出力時刻情報に含まれるSTC時刻としてSTC比較部42へ送られる。また、圧縮画像データは、記憶部33へ出力される。
【0042】
記憶部33に記憶された圧縮画像データは、Audio信号と時間調整をしたり、或いはAUXに付加された各種タイミングコードと整合をとるため、一定時間(System_delay)遅延されてデータ読出制御部34により読み出される。
【0043】
図3における線Aは、記録媒体4から読み出したAUXからETNを抽出し、かかるETNに基づいて演算したSTCを示しており、この線Aに対応する横軸tは、圧縮画像データが記憶部33へ入力される時刻を示している。
【0044】
このような線Aにより示される圧縮画像データを、System_delay分遅延させた線Bを生成するべく、先ずSTCセット値計算部40は、線AよりSystem_delay分遅れたSTCを初期値として設定し、これをSTC自走器41へ送信する。STC自走器41は、新たなSTCを、受信したSTCの初期値から線形に増加させることにより、線AよりSystem_delay分遅延した線Bに相当するSTCを生成することができる。
【0045】
STC自走器41は、この線Bに相当するSTCをSTC情報としてSTC比較部42へ出力することにより、System_delay分遅延した出力時刻情報のSTC時刻と一致するまで、読出時刻情報の送信を抑えることができる。すなわち、STC比較部42は、入力される出力時刻情報のSTC時刻からSystem_delay分遅延させた読出時刻情報をデータ読出制御部34に送ることができる。これにより、簡単な回路構成で自在にタイミング制御を行うことができる。
【0046】
データ読出制御部34は、このSystem_delay時間遅延した読出制御信号に合わせて、記憶部33に記憶されている圧縮画像データを読み出す。これにより、記憶部33に記憶された圧縮画像データについてSystem_delay分遅延されて、MPEG伸張部35へ送ることができる。
【0047】
なお、MPEG伸張部35へ送信された圧縮画像データは、最初にストリームバッファ36へ所定のタイミングにより補充された後に、MPEG伸張部35により読み出されて伸張される。このストリームバッファ36への補充は後に詳述する。
【0048】
STC自走器41により生成された線Bに相当するSTCは、STC情報として、STC比較部42と同時にTSエンコーダ45へ送信されるため、TSエンコーダ45は、当該STCからPCRを作り出すことができ、ひいては送信される各圧縮画像データをそのままTSパケット化することができる。
【0049】
すなわち上述の如く動作する本発明は、記録媒体4上においてどの記録位置から再生を始めても、記録時と同様のSTCを再現することができ、またAUXにETNを付加することによりECCをかけることができるため、データの信頼性を上げることができ、さらには、記録媒体4に付加されたSTCを再現する際に、再生系30に応じたSystem_delayを設けることで高精度なタイミング制御を実現することができる。
【0050】
次に、一倍速再生から、FORWARDによる可変速再生へ移行した場合におけるストリームバッファ36の動作について説明をする。
【0051】
図4は、FORWARD可変速再生への移行前後におけるストリームバッファの状態を示している。図4中”記録位置”と表示される矢印方向が、記録媒体4における記録位置を示しており、各記録位置には夫々データ量の異なるGOP(GOP0〜GOP5)が設けられている。また図4中左端は、当該GOPの各ピクチャを再生する際のストリームバッファ36の状態(バッファ状態o〜バッファ状態s)を時系列で示している。
【0052】
ちなみに”メディアRead”と表示されている太線の矢印は、記録媒体4においてどの記録位置が読み出されているかを示しており、記録媒体4が例えば磁気テープである場合において、磁気ヘッドが接触している位置に相当する。
【0053】
ここで、GOP0とGOP1の途中までが入ったバッファ状態oの時点で1倍速再生から、例えばコマ送り等の可変速再生(FORWARD)へ切り換えられた場合を考える。このとき、引き続きFORWARD再生を行うべく、ストリームバッファ36に記録されている各ピクチャは、MPEG伸張部35により順次読み出される。そして、ストリームバッファ36に格納されているピクチャが残り3枚となったときに、新たなピクチャを補充する。バッファ状態oにおいては、残り3枚に相当する太線四角で囲まれたBピクチャがMPEG伸張部36により読み出されるときに、新たなピクチャを補充する。
【0054】
ストリームバッファ36は、格納されている残り3枚目のピクチャを含むGOPの先頭から一定のデータストリーム量(data_add)のピクチャが補充される。従って、バッファ状態oの場合には、GOP1の先頭からdata_add分のピクチャを補充することとなるが、GOP1の途中までは既にストリームバッファ36に格納されているため、新たに補充するピクチャは図4に示す補充データAということになる。
【0055】
ストリームバッファ36は、このdata_addを、ストリームバッファ36の容量に応じて決定してもよく、また記録再生装置1のシステムにおいて必要な余裕分を考慮して、以下の式(1)に基づいて決定しても良い。
Figure 0003951839
この(1)式でいうシステムにおいて必要な余裕分としては、例えば1ECC単位でなければ再生動作を停止することができないシステムの場合には、1ECC分の余裕を見込んで、1ECCを必要な余裕分として設定してもよい。
【0056】
データ読出制御部34は、ピクチャがdata_add分まで補充されたことを検知したときに、記録媒体制御部14にその旨を通知し、記録媒体4からデータストリームの読み出しを停止する。またストリームバッファ36は、補充前において最後に書き込まれているピクチャの続きからリングバッファ状にピクチャを順次補充していく。例えばバッファ状態oから、補充データAを、最後のBピクチャに続いてリングバッファ状に補充すると、バッファ状態pとなる。このバッファ状態pには、当該最後のBピクチャに続くバッファの左端から補充データAが順次補充されている。
【0057】
次にバッファ状態pにおいて、MPEG伸張部36は、点線四角で示される、先の残り3枚目に相当するBピクチャから順に読み出して伸張する。そしてストリームバッファ36は、バッファ状態pにおいて太線四角で示される残り3枚目のBピクチャがMPEG伸張部36により読み出されるときに、補充データBを補充する。この補充データBのデータ量も、太線四角で示される残り3枚目のBピクチャを含むGOP2先頭から一定ストリーム量(data_add)となる。この補充データBを最後のBピクチャに続いてリングバッファ状に補充するとバッファ状態qとなる。
【0058】
次にバッファ状態qにおいて、MPEG伸張部36は、点線四角で示される、先の残り3枚目に相当するBピクチャから順に読み出して伸張する。そしてストリームバッファ36は、バッファ状態qにおいて太線四角で示される残り3枚目のBピクチャがMPEG伸張部36により読み出されるときに、補充データCを補充する。この補充データCのデータ量も、太線四角で示される残り3枚目のBピクチャを含むGOP3先頭から一定ストリーム量(data_add)となる。この補充データBを最後のBピクチャに続いてリングバッファ状に補充するとバッファ状態rとなる。
【0059】
バッファ状態rにおいても同様に各ピクチャを読み出し、補充データDを補充することによりバッファ状態sとなる。
【0060】
本発明では、ストリームバッファに対して補充データの補充を繰り返すことにより、FORWARDの可変速再生を実現することができる。また本発明では、GOPの先頭を起点とした一定ストリーム量(data_add)の補充データを順次補充する。すなわち、ストリームバッファ36内部には、各GOP先頭に位置し、かつ当該GOPを構成する各ピクチャを伸張する際に必須となるIピクチャが常に格納されていることとなる。このため、可変速再生方向が、FORWARDからREVERSEに切り換わる場合おいて、その切り換わり時にMPEG伸張部35により伸張されるピクチャを含むGOPのIピクチャは、ストリームバッファ36内に格納されていることとなる。これにより、MPEG伸張部36は、新たなデータの補充を待たずに、ストリームバッファ36内に格納されているピクチャを瞬時に読み出して伸張することができ、可変速再生における様々なバリエーションに対してもスムーズに対応することができる。
【0061】
なお、1倍速再生から、FORWARDによる可変速再生へ移行した場合における動作例は上述に限定されるものではない。例えばストリームバッファ36に格納されているピクチャが残り3枚となったときに補充データを補充する場合のみならず、当該ピクチャが残りN枚(Nは任意の数)となったときに補充データを補充しても良い。ストリームバッファの容量が大きい場合には、Nを大きくすることにより、記録媒体4による補充動作時間を稼ぐことができ、高速かつスムーズな可変速再生を実現することができる。
【0062】
また、可変速再生時において特に2倍速等の高速再生を行う場合には、ピクチャを適当に飛ばすことで上記実施の形態実現することができる。
次に、1倍速再生から、REVERSEによる可変速再生へ移行した場合におけるストリームバッファ36の動作について説明をする。
【0063】
図5は、FORWARD可変速再生への移行前後におけるストリームバッファの状態を示している。図5中矢印方向が記録媒体4における記録位置を示しており、各記録位置には夫々データ量の異なるGOP(GOP0〜GOP5)が設けられている。また図5中右端は、当該GOPの各ピクチャを再生する際のストリームバッファ36の状態(バッファ状態t〜バッファ状態w)を時系列で示している。
【0064】
ちなみに”メディアRead”と表示されている太線の矢印は、記録媒体4においてどの記録位置が読み出されているかを示しており、記録媒体4が例えば磁気テープである場合において、磁気ヘッドが接触している位置に相当する。
【0065】
ここで、GOP3の途中からGOP4、並びにGOP5の一部までが入ったバッファ状態tの時点で一倍速再生から、例えばコマ送り等の可変速再生(REVERSE)へ切り換えられた場合を考える。このとき、MPEG伸張部35は、矢印により示される記録位置の方向にそってピクチャを読み出していた一倍速再生時と対照的に、当該矢印の反対方向であるREVERSE方向へ順次ピクチャを読み出して伸張する。例えば、バッファ状態tにおいて点線四角で示されるBピクチャが読み出されている時に、一倍速再生から可変速再生へ移行した場合に、当該Bピクチャより、時間的に前に位置するBピクチャ、その前に位置するPピクチャ、さらにその前に位置するBピクチャ、…の順で、時間的に前のピクチャを遡るようにして読み出す。
【0066】
ここで各バッファ状態において、グループ化したピクチャ全てが現時点でストリームバッファ36に一時記録されているGOPを現GOPと定義する。本発明では、現GOPによりグループ化されたピクチャがストリームバッファ36内において残り3枚となったとき、少なくとも当該現GOPより時間的に前に位置する前GOPのピクチャを補充する。
【0067】
例えばバッファ状態tにおいて、グループ化したピクチャ全てがストリームバッファ36に記録されている現GOPは、GOP4である。このGOP4を構成するピクチャがストリームバッファ36内において残り3枚となった時、時間的に前に位置する前ピクチャとして、GOP3を補充する。
【0068】
ちなみにこのとき、現GOPの先頭から6枚目のピクチャから前GOPを経て一定ストリーム量(data_add)遡った記録媒体4上の記録位置から各ピクチャを読み出して、前GOPを補充する。バッファ状態tの場合には、GOP4の先頭から6枚目(現GOPの補充フレーム数)のBピクチャからdata_add遡った記録媒体4上の記録位置から各ピクチャを読み出し、ストリームバッファ36へ補充する。
【0069】
data_addは、現GOPの補充フレーム数をP(図5の例では6)とし、GOPの最大ピクチャ数をMax_GOPとし、1倍速再生時における1フレーム時間に読み出す画像データ量をdata_1frameとし、VBVバッファのデータ占有量をvbv_occupancyとしたとき、以下の(2)式により定義することができる。
data_add=(P+Max_GOP−1)×data_1frame+vbv_occupancy (2)
この求めたdata_addに基づく記録媒体4の記録位置から読み出しを開始することにより前GOPを補充データとしてストリームバッファ36へ補充することができる。
【0070】
このようにストリームバッファ36は、取得した前GOPを補助データとし、これを、現GOPの先頭ピクチャの直前を起点としてREVERSE方向へリングバッファ状に補充する。バッファ状態tにおいて、現GOPの先頭ピクチャであるIピクチャ直前からREVERSE方向へ、補充データFとしてGOP3を順次補充することによりバッファ状態uとなる。
【0071】
次に、バッファ状態uにおいて、MPEG伸張部35は、点線四角で示される先の残り3枚目に相当するBピクチャからREVERSE方向へ順に読み出して伸張する。そしてストリームバッファ36は、バッファ状態uの現GOPにおいて太線四角で示される残り3枚目のBピクチャがMPEG伸張部36により読み出されるときに、求めたdata_addに基づく記録媒体4の記録位置から読み出しを開始し、補充データGとしてGOP2をストリームバッファ36へリングバッファ状に補充する。このGOP2が補充された結果、ストリームバッファ36は、バッファ状態vとなる。
【0072】
次に、バッファ状態vにおいて、MPEG伸張部35は、点線四角で示される先の残り3枚目に相当するBピクチャからREVERSE方向へ順に読み出して伸張する。そしてストリームバッファ36は、バッファ状態uの現GOPにおいて太線四角で示される残り3枚目のBピクチャがMPEG伸張部36により読み出されるときに、求めたdata_addに基づく記録媒体4の記録位置から読み出しを開始し、補充データHとしてGOP0とGOP1をストリームバッファ36へリングバッファ状に補充する。このGOP0とGOP1が補充された結果、ストリームバッファ36は、バッファ状態wとなる。
【0073】
なお、このバッファ状態wでは、GOP0とGOP1のデータ量が小さいため、補充データとして2つのGOPが補充されているが、GOP毎に付加されたDTSを識別することにより、1GOP毎にストリームバッファ36へ補充してもよい。これにより、ストリームバッファ36に上書きするデータ量を極力減らすことができる。
【0074】
ちなみに、前GOPを補充データとしてストリームバッファ36内へ補充する際に、前GOPの先頭から前GOPを構成するすべてのピクチャをストリームバッファ36へ補充すべく、前GOPより時間的に前に位置するGOPのピクチャについては、記録媒体4から読み出しても、ストリームバッファ36内に流さないようにコントロールする。このコントロールは、例えばヘッダ解析を行うことにより、或いはAUXに付加されたピクチャタイプ情報に基づき、ピクチャタイプを判別し、Iピクチャと判別した場合にGOPの先頭として特定したり、GOP先頭にPictureFlagを入れることにより、GOP先頭を特定してもよい。
【0075】
補充データのデータ量は、現GOPの先頭ピクチャにおけるDTS(Decoding Time Stamp)をDTS_cとし、当該先頭ピクチャのVBVディレイをvbv_delay_cとし、また前GOPの先頭ピクチャにおけるDTSをDTS_fとし、当該ピクチャのVBVディレイをvbv_delay_fとしたとき、以下の(3)式により表すことができる。
補充データのデータ量=(DTS_c−vbv_delay_c)−(DTS_f−vbv_delay_f) (3)
また、補充データの補充を開始する際のストリームバッファ36上のアドレス(開始ADD)を、現GOPの先頭ピクチャにおけるストリームバッファ36上のアドレス(現ADD)、補充データのデータ量と、ストリームバッファ36の容量に応じて決定してもよく、例えば以下の(4)式により求めても良い。
開始ADD=(現ADD−補充データのデータ量+ストリームバッファ36の容量)%ストリームバッファ36の容量 (4)
ちなみにこの(4)式における%は、モジュロ計算を表す。
【0076】
すなわち、この(4)式により求めた開始ADDに基づき、補充データを補充することにより、補充によりストリームバッファ36において上書きされるデータ量を極力抑えることができる。これにより、REVERSEからFORWARDに可変速方向が切り換わった場合においても、MPEG伸張部35は、新たなデータの補充を待たずに、ストリームバッファ36内に格納されているピクチャを瞬時に読み出して伸張することができ、可変速再生における様々なバリエーションに対してもスムーズに対応することができる。
【0077】
なお、データ読出制御部34は、REVERSE時においても同様に、ピクチャが一定ストリーム量まで補充されたことを検知したときに、記録媒体制御部14にその旨を通知し、記録媒体4からデータストリームの読み出しを停止する。
【0078】
本発明では、ストリームバッファに対して補充データの補充を繰り返すことにより、FORWARD方向へ一倍速再生が行われている場合においても、REVERSEの可変速再生へスムーズに切り換えることができる。特に本発明では、GOPの先頭を起点とした所定量の補充データを順次補充する。すなわち、ストリームバッファ36内部には、各GOP先頭に位置し、かつ当該GOPを構成する各ピクチャを伸張する際に必須となるIピクチャが常に格納されていることとなる。このため、可変速再生方向が、REVERSEからFORWARDに切り換わる場合おいて、その切り換わり時にMPEG伸張部35により伸張されるピクチャを含むGOPのIピクチャは、ストリームバッファ36内に格納されていることとなる。これにより、MPEG伸張部36は、新たなデータの補充を待たずに、ストリームバッファ36内に格納されているピクチャを瞬時に読み出して伸張することができ、可変速再生における様々なバリエーションに対してもスムーズに対応することができる。
【0079】
なお、1倍速再生から、REVERSEによる可変速再生へ移行した場合における動作例は上述に限定されるものではない。例えば現GOPによりグループ化されたピクチャがストリームバッファ36内において残り3枚となったときに補充データを補充する場合のみならず、当該ピクチャが残りM枚(Mは任意の数)となったときに補充データを補充しても良い。ストリームバッファの容量が大きい場合には、Mを大きくすることにより、記録媒体4による補充動作時間を稼ぐことができ、高速かつスムーズな可変速再生を実現することができる。
【0080】
また現GOPの補充フレーム数Pは6に限定されるものではない。ストリームバッファの容量が十分に大きい場合には、Pを大きくすることにより、補充動作時間を稼ぐことができ、高速かつスムーズな可変速再生を実現することができる。また、可変速再生時において特に2倍速等の高速再生を行う場合には、ピクチャを適当に飛ばすことで上記実施の形態実現することができる。
【0081】
次に、可変速再生から、一倍速再生へ移行した場合におけるSTCセット値計算部40並びに自走器41の動作について説明をする。
【0082】
図6は、可変速再生から一倍速再生への移行する際の、各時刻に対するSTCの変化を示した図である。図中点線は、記録媒体4から読み出した圧縮画像データのSTCを示している。また図中実線は、データ読出制御部34からMPEG伸張部35へ送信される圧縮画像データのSTCを示している。
【0083】
時刻t20から時刻t21までの可変速再生時では、同一のSTCについて、記録媒体4から読み出した時刻と、MPEG伸張部35へ送信される時刻はほぼ一致する。これは可変速再生時においても、一倍速再生と同様にSTCの初期値を、記録媒体4から読み出した画像データのSTCとタイミングを合わせて、かつSTCセット値計算部40を介して設定する必要があるが、可変速再生を実現する各速度に対して、その都度精度よくSTCの初期値を設定するのは困難を極める。またSTCセット値計算部40及びSTC自走器41において、可変速再生を実現する各速度に応じて1ck分もタイミングをずらさずに、しかも累積誤差が生じないように、STCの設定を行うのは現実的に困難である。このため可変速再生時では、記録媒体4から読み出されて記憶部33に格納された圧縮画像データ全てを、そのままデータ読出制御部34へ出力することにする。換言すれば、リークメソッドにより、圧縮画像データをMPEG伸張する。
【0084】
次に、時刻t21において一時停止され、時刻t22において一倍速再生が始まる場合を考える。ここで時刻t21から時刻t22までの時間帯を移行時と定義する。STCセット値計算部40は、現在画面上に表示されているピクチャのPTS(PTS_s)を、上記記録媒体4から読み出した圧縮画像データの移行時におけるSTC(STC_medium)と、System_delayと、移行に伴う遅延量(shift_delay)に基づいて比較し、当該比較した結果に基づいて初期値を設定する。具体的には、PTS_sと、STC_medium−(shift_delay+System_delay)とを比較した結果に基づいて初期値を決定する。
【0085】
ちなみにshift_delayは、可変速再生から一倍速再生への移行に伴う遅延量であり、記録媒体4が磁気テープであれば、テープ速度を1倍へ制御するまでの時間に相当する。またこのshift_delayは、記録媒体4が磁気ディスクであれば、シーク等に要する時間に相当する。
【0086】
図7は、(5)式が成立する場合における、一倍速再生時のSTC初期値の設定例を示している。
PTS_s≧{STC_medium−(shift_delay+System_delay)} (5)
このとき、記録媒体制御部34は、時刻t22において、記録媒体4からデータストリームの読み出しを、再生を可変速再生から一倍速再生へ、ピクチャ単位で或いはGOP(Group of Pictures)単位で切り換える。STCセット値計算部40は、一倍速再生時におけるSTCの初期値を(6)式により設定する。
初期値=STC_medium−(shift_delay+System_delay) (6)
これにより、STC自走器41は、一倍速再生時において、(6)式により定義されるSTCの初期値から線形に増加させることにより、新たなSTCを生成することができる。また、図7に示すように、t22において一倍速再生に移行すると、shift_delayにより、STCの立ち上がりは緩やかになるが、(6)式により定義される初期値を設定することにより、shift_delay分を考慮しつつ、System_delay時間経過したSTCを生成することができる。これにより、一倍速再生に移行した後においても、記録媒体4から読み出される圧縮画像データのSTCに対して一定のSystem_delay分を遅延させることができる。
【0087】
また本発明では、MPEG伸張部35により伸張されたVideoデータについて、STC自走器41が生成するSTCを監視しつつ、出力時刻情報に含まれるSTC時刻に一致したピクチャを表示する。これにより、データ読出制御部34からMPEG伸張部35へ送信される圧縮画像データについて、System_delay分を遅延させた一倍速再生へ移行するt23までの時間帯においても、一倍速再生の状態で、各ピクチャを画面上に表示させることができる。これにより、一倍速再生へ移行する際に1枚もスキップさせることなく、各ピクチャを画面上に表示させることができ、しかも一倍速再生へ素早く移行させることができるため、実際にユーザに対して表示する画像品質を向上させることができる。
【0088】
なお、TSエンコーダ45は、可変速再生時において、TSパケット化を行わない。これは、TSエンコーダ45に対して、リークメソッドにより圧縮画像データが供給されることになるため、STC自走器31から送信されるSTC情報に含まれるSTCと、圧縮画像データとの間で時間的に同期をとることができないからである。このためTSエンコーダ45は、一倍速再生へ移行するSTC(図7中STC_a)以上において、TSパケット化を行うこととする。
【0089】
図8は、(7)式が成立する場合における、一倍速再生時のSTC初期値の設定例を示している。
PTS_s<{STC_medium−(shift_delay+System_delay)} (7)
このとき、STCセット値計算部40は、一倍速再生時におけるSTCの初期値をPTS_sとして設定する。
【0090】
すなわち(7)式が成立する場合は、上述したshift_delayに加えて、可変速再生において画面上に表示されている画像のPTSを一致させるべく調整値(adjust_delay)を設定する必要がある。この調整値は以下の(8)式により表すことができる。
adjust_delay=(STC_medium−PTS_s)−(shift_delay+System_delay) (8)
このとき、記録媒体制御部34は、adjust_delay分遅らせた時刻において、記録媒体4からデータストリームの読み出しを、再生を可変速再生から一倍速再生へ、ピクチャ単位で或いはGOP(Group of Pictures)単位で切り換える。また、STC自走器41は、一倍速再生時において、PTS_sとして定義されるSTCの初期値から線形に増加させることにより、新たなSTCを生成することができる。また(7)式が成立する場合には、図8に示すようにt31において一倍速再生に移行すると、shift_delayによりSTCの立ち上がりは緩やかになり、さらにadjust_delayが生じることとなるが、STC自走器41は、かかる遅延分を考慮しつつ、STCを生成することができる。これにより、一倍速再生に移行した後においても、記録媒体4から読み出される圧縮画像データのSTCに対して一定のSystem_delay分を遅延させることができる。
【0091】
また、この(7)式が成立する場合においても同様に、MPEG伸張部35により伸張されたVideoデータについて、STC自走器41が生成するSTCを監視しつつ、出力時刻情報に含まれるPTSに一致したピクチャを表示する。これにより、データ読出制御部34からMPEG伸張部35へ送信される圧縮画像データについて、System_delay分を遅延させた一倍速再生へ移行するt32までの時間帯においても、一倍速再生の状態で、各ピクチャを画面上に表示させることができる。これにより、一倍速再生へ移行する際に1枚もスキップさせることなく、各ピクチャを画面上に表示させることができ、しかも一倍速再生へ素早く移行させることができるため、実際にユーザに対して表示する画像品質を向上させることができる。
【0092】
なお、式(7)が成立する場合においても、TSエンコーダ45は、可変速再生時において、TSパケット化を行わない。これは、TSエンコーダ45に対して、リークメソッドにより圧縮画像データが供給されることになるため、STC自走器31から送信されるSTC情報に含まれるSTCと、圧縮画像データとの間で時間的に同期をとることができないからである。このためTSエンコーダ45は、一倍速再生へ移行するSTC(図8中STC_a)以上において、TSパケット化を行うことにする。
【0093】
【発明の効果】
以上詳細に説明したように、本発明に係る画像データ再生装置及び方法は、GOPの先頭を起点とした一定ストリーム量の補充データを順次補充する。このため、可変速再生方向が、FORWARDからREVERSEに切り換わる場合おいて、その切り換わり時にMPEG伸張部により伸張されるピクチャを含むGOPのIピクチャは、ストリームバッファ内に格納されていることとなるため、MPEG方式においてスムーズな可変速再生を実現することができる。
【図面の簡単な説明】
【図1】本発明を適用した記録再生装置の構成を説明するための図である。
【図2】記録位置に対応したSTCと、VBVバッファのデータ占有量との関係を示した図である。
【図3】記録媒体から読み出したSTCと、STC自走器により生成されたSTCとの関係を示した図である。
【図4】一倍速再生から、FORWARDによる可変速再生へ移行した場合におけるストリームバッファの動作について説明するための図である。
【図5】一倍速再生から、REVERSEによる可変速再生へ移行した場合におけるストリームバッファの動作について説明するための図である。
【図6】可変速再生から一倍速再生への移行する際の、各時刻に対するSTCの変化を示した図である。
【図7】一倍速再生時のSTC初期値の設定例を示した図である。
【図8】一倍速再生時のSTC初期値の他の設定例を示した図である。
【図9】記録媒体に記録されるデータストリームの例を示した図である。
【符号の説明】
1 記録再生装置、10 記録系、11 MPEG圧縮部、12 DRAM、13 DRAM読出制御部、14 記録媒体制御部、15 STC発生器、16ETN付加部、17 Audio圧縮部、18 混合器、19 ECCエンコーダ、30 再生系、31 ECCデコーダ、32 画像データ分離部、33 記憶部、34 データ読出制御部、35 MPEG伸張部、36 ストリームバッファ、37 ベースバンドバッファ、38 AUX分離部、39 ETN取得部、40 STCセット値計算部、41 STC自走器、42 STC比較部、43 音声データ分離部、44 Audio伸張部、45 TSエンコーダ

Claims (28)

  1. MPEG(Moving Picture Experts Group)方式により記録媒体上へ記録された画像データを再生する画像データ再生装置において、
    先頭がIピクチャで始まるGOP(Group of Pictures)によりグループ化された上記画像データを一時記憶するストリームバッファと、
    FORWARD再生時において、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化する復号手段と、
    上記記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、
    上記データ補充手段は、上記ストリームバッファに一時記憶されている上記画像データが上記復号手段により読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする画像データ再生装置。
  2. 上記データ補充手段は、上記ストリームバッファの容量に応じた所定量の画像データを補充すること
    を特徴とする請求項1記載の画像データ再生装置。
  3. 上記データ補充手段は、上記画像データを、既に上記ストリームバッファへ補充された最後のピクチャに続いて、リングバッファ状に補充すること
    を特徴とする請求項1記載の画像データ再生装置。
  4. 上記データ補充手段は、上記ストリームバッファに一時記憶されている上記画像データが上記復号手段により読み出されて残り3フレームとなったときに、上記画像データを補充してその残り3フレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項1記載の画像データ再生装置。
  5. FORWARD再生からREVERSE再生へ切り換えられた場合において、
    上記復号手段は、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化し、
    上記データ補充手段は、グループ化したピクチャ全てが上記ストリームバッファに現時点で一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、少なくとも当該現GOPの前に位置する前GOPの画像データを補充すること
    を特徴とする請求項1記載の画像データ再生装置。
  6. MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生装置において、
    先頭がIピクチャで始まるGOPによりグループ化された上記画像データを一時記憶するストリームバッファと、
    REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号手段と、
    記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、
    上記データ補充手段は、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの補充フレーム数をPとし、GOPの最大ピクチャ数をMax_GOPとし、1倍速再生時における1フレーム時間に読み出す画像データ量をdata_1frameとし、VBV(Video Buffering Verifier)バッファのデータ占有量をvbv_occupancyとしたとき、(P+Max_GOP−1)×data_1frame+vbv_occupancyとして定義される加算データ量(data_add)を算出し、当該現GOPの先頭からPフレーム目のピクチャから当該現GOPの前に位置する前GOPを経て上記加算データ量遡った上記記録媒体の記録位置から上記画像データを読み出して補充すること
    を特徴とする画像データ再生装置。
  7. 上記データ補充手段は、画像データの補充を開始する際のストリームバッファ上のアドレスを、現GOPの先頭ピクチャにおける上記ストリームバッファのアドレスと、補充する画像データのデータ量と、上記ストリームバッファの容量とに応じて決定すること
    を特徴とする請求項6記載の画像データ再生装置。
  8. 上記データ補充手段は、上記画像データを、リングバッファ状に補充すること
    を特徴とする請求項6記載の画像データ再生装置。
  9. 上記データ補充手段は、グループ化したピクチャ全てが上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残り3フレームとなったときに、少なくとも当該現GOPの前に位置する前GOPの画像データを当該前GOPを構成する先頭ピクチャから順に補充し、さらに上記現GOPの先頭から6フレーム分の画像データを補充すること
    を特徴とする請求項6記載の画像データ再生装置。
  10. REVERSE再生からFORWARD再生へ切り換えられた場合において、
    上記復号手段は、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化し、
    上記データ補充手段は、上記ストリームバッファに一時記憶されている上記画像データが上記復号手段により読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項6記載の画像データ再生装置。
  11. MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生装置において、
    先頭がIピクチャで始まるGOPによりグループ化された上記画像データを一時記憶するストリームバッファと、
    REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号手段と、
    記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充手段とを備え、
    上記データ補充手段は、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの先頭ピクチャにおけるDTS(Decoding Time Stamp)をDTS_cとし、当該先頭ピクチャのVBVディレイをvbv_delay_cとし、また前GOPの先頭ピクチャにおけるDTSをDTS_fとし、当該先頭ピクチャのVBVディレイをvbv_delay_fとしたとき、 DTS_c vbv_delay_c )−( DTS_f vbv_delay_f )により算出される値を上記補充する画像データのデータ量とし、このデータ量に基づいて画像データを補充すること
    を特徴とする画像データ再生装置。
  12. 上記データ補充手段は、画像データの補充を開始する際のストリームバッファ上のアドレスを、現GOPの先頭ピクチャにおける上記ストリームバッファのアドレスと、補充する画像データのデータ量と、上記ストリームバッファの容量とに応じて決定すること
    を特徴とする請求項11記載の画像データ再生装置。
  13. 上記データ補充手段は、上記画像データを、リングバッファ状に補充すること
    を特徴とする請求項11記載の画像データ再生装置。
  14. REVERSE再生からFORWARD再生へ切り換えられた場合において、
    上記復号手段は、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化し、
    上記データ補充手段は、上記ストリームバッファに一時記憶されている上記画像データが上記復号手段により読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項11記載の画像データ再生装置。
  15. MPEG(Moving Picture Experts Group)方式により記録媒体上へ記録された画像データを再生する画像データ再生方法において、
    先頭がIピクチャで始まるGOP(Group of Pictures)によりグループ化された上記画像データをストリームバッファに一時記憶させる一時記憶ステップと、
    FORWARD再生時において、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化する復号ステップと、
    上記記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、
    上記データ補充ステップでは、上記ストリームバッファに一時記憶されている上記画像データが上記復号ステップにおいて読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする画像データ再生方法。
  16. 上記データ補充ステップでは、上記ストリームバッファの容量に応じた所定量の画像データを補充すること
    を特徴とする請求項15記載の画像データ再生方法。
  17. 上記データ補充ステップでは、上記画像データを、既に上記ストリームバッファへ補充された最後のピクチャに続いて、リングバッファ状に補充すること
    を特徴とする請求項15記載の画像データ再生方法。
  18. 上記データ補充ステップでは、上記ストリームバッファに一時記憶されている上記画像データが上記復号ステップにおいて読み出されて残り3フレームとなったときに、上記画像データを補充してその残り3フレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項15記載の画像データ再生方法。
  19. FORWARD再生からREVERSE再生へ切り換えられた場合において、
    上記復号ステップでは、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化し、
    上記データ補充ステップでは、グループ化したピクチャ全てが上記ストリームバッファに現時点で一時記憶されている現GOPにおいて、上記復号ステップにおいて読み出されて残りMフレームとなったときに、少なくとも当該現GOPの前に位置する前GOPの画像データを補充すること
    を特徴とする請求項15記載の画像データ再生方法。
  20. MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生方法において、
    先頭がIピクチャで始まるGOPによりグループ化された上記画像データをストリームバッファへ一時記憶させる一時記憶ステップと、
    REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号ステップと、
    記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、
    上記データ補充ステップでは、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの補充フレーム数をPとし、GOPの最大ピクチャ数をMax_GOPとし、1倍速再生時における1フレーム時間に読み出す画像データ量をdata_1frameとし、VBV(Video Buffering Verifier)バッファのデータ占有量をvbv_occupancyとしたとき、(P+Max_GOP−1)×data_1frame+vbv_occupancyとして定義される加算データ量(data_add)を算出し、当該現GOPの先頭からPフレーム目のピクチャから当該現GOPの前に位置する前GOPを経て上記加算データ量遡った上記記録媒体の記録位置から上記画像データを読み出して補充すること
    を特徴とする画像データ再生方法。
  21. 上記データ補充ステップでは、画像データの補充を開始する際のストリームバッファ上のアドレスを、現GOPの先頭ピクチャにおける上記ストリームバッファのアドレスと、補充する画像データのデータ量と、上記ストリームバッファの容量とに応じて決定すること
    を特徴とする請求項20記載の画像データ再生方法。
  22. 上記データ補充ステップでは、上記画像データを、リングバッファ状に補充すること
    を特徴とする請求項20記載の画像データ再生方法。
  23. 上記データ補充ステップでは、グループ化したピクチャ全てが上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号ステップにおいて読み出されて残り3フレームとなったときに、少なくとも当該現GOPの前に位置する前GOPの画像データを、当該前GOPを構成する先頭ピクチャから順に補充し、さらに上記現GOPの先頭から6フレーム分の画像データを補充すること
    を特徴とする請求項20記載の画像データ再生方法。
  24. REVERSE再生からFORWARD再生へ切り換えられた場合において、
    上記復号ステップでは、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化し、
    上記データ補充ステップでは、上記ストリームバッファに一時記憶されている上記画像データが上記復号ステップにおいて読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項20記載の画像データ再生方法。
  25. MPEG方式により圧縮符号化された画像データを復号化して再生する画像データ再生方法において、
    先頭がIピクチャで始まるGOPによりグループ化された上記画像データをストリームバッファへ一時記憶させる一時記憶ステップと、
    REVERSE再生時において、上記ストリームバッファに一時記憶された上記画像データを、後ピクチャから順に読み出して復号化する復号ステップと、
    記録媒体から取得した画像データを上記ストリームバッファへ補充するデータ補充ステップとを有し、
    上記データ補充ステップでは、グループ化したピクチャ全てが現時点で上記ストリームバッファに一時記憶されている現GOPにおいて、上記復号手段により読み出されて残りMフレームとなったときに、上記現GOPの先頭ピクチャにおけるDTS(Decoding Time Stamp)をDTS_cとし、当該先頭ピクチャのVBVディレイをvbv_delay_cとし、また前GOPの先頭ピクチャにおけるDTSをDTS_fとし、当該先頭ピクチャのVBVディレイをvbv_delay_fとしたとき、 DTS_c vbv_delay_c )−( DTS_f vbv_delay_f )により算出される値を上記補充する画像データのデータ量とし、このデータ量に基づいて画像データを補充すること
    を特徴とする画像データ再生方法。
  26. 上記データ補充ステップでは、画像データの補充を開始する際のストリームバッファ上のアドレスを、現GOPの先頭ピクチャにおける上記ストリームバッファのアドレスと、補充する画像データのデータ量と、上記ストリームバッファの容量とに応じて決定すること
    を特徴とする請求項25記載の画像データ再生方法。
  27. 上記データ補充ステップでは、上記画像データを、リングバッファ状に補充すること
    を特徴とする請求項25記載の画像データ再生方法。
  28. REVERSE再生からFORWARD再生へ切り換えられた場合において、
    上記復号ステップでは、上記ストリームバッファに一時記憶された上記画像データを、前ピクチャから順に読み出して復号化し、
    上記データ補充ステップでは、上記ストリームバッファに一時記憶されている上記画像データが上記復号ステップにおいて読み出されて残りNフレームとなったときに、上記画像データを補充してその残りNフレーム目の画像データを含むGOPの先頭から所定量の画像データが上記ストリームバッファに格納されるようにすること
    を特徴とする請求項25記載の画像データ再生方法。
JP2002206120A 2002-07-15 2002-07-15 画像データ再生装置及び方法 Expired - Fee Related JP3951839B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2002206120A JP3951839B2 (ja) 2002-07-15 2002-07-15 画像データ再生装置及び方法
KR20030047683A KR100975170B1 (ko) 2002-07-15 2003-07-14 화상 데이터 재생 장치 및 방법
US10/619,261 US7321715B2 (en) 2002-07-15 2003-07-14 Picture data reproducing apparatus and method
CNB03147621XA CN1263297C (zh) 2002-07-15 2003-07-15 画面数据再现设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002206120A JP3951839B2 (ja) 2002-07-15 2002-07-15 画像データ再生装置及び方法

Publications (2)

Publication Number Publication Date
JP2004048598A JP2004048598A (ja) 2004-02-12
JP3951839B2 true JP3951839B2 (ja) 2007-08-01

Family

ID=31492040

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002206120A Expired - Fee Related JP3951839B2 (ja) 2002-07-15 2002-07-15 画像データ再生装置及び方法

Country Status (4)

Country Link
US (1) US7321715B2 (ja)
JP (1) JP3951839B2 (ja)
KR (1) KR100975170B1 (ja)
CN (1) CN1263297C (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100531378B1 (ko) * 2003-07-25 2005-11-28 엘지전자 주식회사 이동 tv 서비스에서의 정보전송방법
JP2005341248A (ja) * 2004-05-27 2005-12-08 Toshiba Corp ネットワーク型映像送信装置、ネットワーク型映像受信装置
KR20060028849A (ko) * 2004-09-30 2006-04-04 삼성전자주식회사 동영상 압축 부호화 장치 및 저장방법
KR100610900B1 (ko) * 2004-12-09 2006-08-09 엘지전자 주식회사 비디오 인코더의 동적인 제어 방법
JP4442420B2 (ja) * 2004-12-28 2010-03-31 ソニー株式会社 画像再生装置および方法、並びにプログラム
KR100794798B1 (ko) 2006-09-01 2008-01-15 삼성전자주식회사 시간지연을 완화하면서 역재생하는 영상기기 및 그제어방법
CN101887444B (zh) 2009-05-15 2012-12-19 国际商业机器公司 用于网页的导航方法和***
JP5282692B2 (ja) * 2009-07-27 2013-09-04 ソニー株式会社 画像符号化装置と画像符号化方法
TWI415476B (zh) * 2011-03-03 2013-11-11 Chunghwa Telecom Co Ltd 串流影像輪播方法
US9596285B2 (en) * 2014-09-11 2017-03-14 Harman International Industries, Incorporated Methods and systems for AVB networks

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2156463A1 (en) * 1994-09-05 1996-03-06 Nobuyuki Aoki Data reproducing method and data reproducing apparatus
JP3248366B2 (ja) 1994-09-05 2002-01-21 ソニー株式会社 データ再生方法およびデータ再生装置
JP3034173B2 (ja) * 1994-10-31 2000-04-17 株式会社グラフィックス・コミュニケーション・ラボラトリーズ 画像信号処理装置
JP3591033B2 (ja) * 1995-02-15 2004-11-17 ソニー株式会社 符号化データの特殊再生方法および特殊再生装置
JP2924739B2 (ja) 1995-10-30 1999-07-26 日本電気株式会社 動画像データの復号方式
KR100188701B1 (ko) * 1996-01-08 1999-06-01 윤종용 가변속 고속 재생기능을 갖는 가변 비트율 동화상복호화장치
KR19990027024U (ko) * 1997-12-22 1999-07-15 윤종용 고속재생이 가능한 비디오 컴팩트 디스크 재생장치
US7046910B2 (en) * 1998-11-20 2006-05-16 General Instrument Corporation Methods and apparatus for transcoding progressive I-slice refreshed MPEG data streams to enable trick play mode features on a television appliance
KR100618961B1 (ko) * 1998-12-16 2006-09-01 삼성전자주식회사 패킷 데이터의 고속 탐색을 위한 정보 생성 방법과 이 정보를 저장하는 기록 매체, 이를 이용하는 기록 및/또는 재생 장치

Also Published As

Publication number Publication date
US20040105659A1 (en) 2004-06-03
JP2004048598A (ja) 2004-02-12
KR100975170B1 (ko) 2010-08-10
KR20040010155A (ko) 2004-01-31
CN1476243A (zh) 2004-02-18
US7321715B2 (en) 2008-01-22
CN1263297C (zh) 2006-07-05

Similar Documents

Publication Publication Date Title
US7027713B1 (en) Method for efficient MPEG-2 transport stream frame re-sequencing
EP0748129A2 (en) Methods for monitoring and modifying a trick play data stream to insure MPEG compliance
US7706667B2 (en) Recording apparatus and method, reproducing apparatus and method, recording medium, and program
US6240137B1 (en) Encoding apparatus and method, decoding apparatus and method, and editing method
JP3951839B2 (ja) 画像データ再生装置及び方法
JP3982354B2 (ja) 画像データ再生装置及び方法
JP3253530B2 (ja) 動画像記録装置
JP2007158432A (ja) 映像記録装置
US20010051036A1 (en) Reproducing apparatus having high-speed reproducing function
US6785464B1 (en) Multiplexing method for continuous reproduction of encoded pictures during skipping
US7532803B2 (en) Reproducing apparatus
JPH11252507A (ja) 映像信号再生装置及びその方法並びに映像信号記録再生装置及びその方法
WO2004006576A1 (ja) 画像データ処理装置及び方法
JP2004048102A (ja) 画像データ処理装置及び方法
JP3443391B2 (ja) ディジタル復号化方法
EP1521460A1 (en) Image data processing device and method
JP2001268513A (ja) 動画像再生装置および動画像記録再生システム
JP3555519B2 (ja) 圧縮画像再生方法及び装置
JPH11220695A (ja) 動画像データの復号装置及び復号方法
JPH10327417A (ja) 画像処理装置
JPH10199140A (ja) 符号記録装置、及び符号多重方法
JP2004140679A (ja) 記録媒体とその再生装置及び記録装置
JP2007259029A (ja) 映像信号記録装置、記録媒体、及び映像信号再生装置
JP2000341638A (ja) 記録装置及び再生装置
JP2000036941A (ja) 動画像データの復号装置及び復号方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061107

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070416

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100511

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110511

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120511

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130511

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130511

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees