JP4769268B2 - Mpegビデオ復号器及びmpegビデオ復号方法 - Google Patents

Mpegビデオ復号器及びmpegビデオ復号方法 Download PDF

Info

Publication number
JP4769268B2
JP4769268B2 JP2008119912A JP2008119912A JP4769268B2 JP 4769268 B2 JP4769268 B2 JP 4769268B2 JP 2008119912 A JP2008119912 A JP 2008119912A JP 2008119912 A JP2008119912 A JP 2008119912A JP 4769268 B2 JP4769268 B2 JP 4769268B2
Authority
JP
Japan
Prior art keywords
picture
decoding
display
register
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008119912A
Other languages
English (en)
Other versions
JP2008236784A (ja
Inventor
忠美 河野
光彦 太田
博彦 稲垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2008119912A priority Critical patent/JP4769268B2/ja
Publication of JP2008236784A publication Critical patent/JP2008236784A/ja
Application granted granted Critical
Publication of JP4769268B2 publication Critical patent/JP4769268B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/007Transform coding, e.g. discrete cosine transform
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、MPEG(Moving Picture Experts Group)規格に従って符号化されたビットストリームを復号化するMPEGビデオ復号器及びMPEGビデオ復号方法に関する。
画像データの高能率符号化(bit rate reduction)の国際標準規格としてMPEGが用いられている。MPEG規格に準拠した動画像符号化技術及び動画像復号化技術は、最近のマルチメディア環境に欠かせない技術である。そして、MPEG規格を採用した多くの動画像符号化装置及び動画像復号化装置が開発されている。
MPEG規格による高能率符号化には、符号化後のデータ発生量(データレート)がほぼ一定な固定速度符号化(constant bit rate:以下、CBR符号化という)と、符号化後のデータレートが一定でない可変速度符号化(variable bitrate:以下、VBR符号化という)とがある。
CBR符号化は、伝送路がSTM(Synchronus Transfer Mode)の場合に使用されている。また、VBR符号化は、伝送路がATM(Asynchronus Transfer Mode)の場合や、DVD(Digtal Video Disc)のような蓄積系メディアの場合に使用されている。
以下、MPEGで使用されるピクチャタイプ、ビットストリーム、MPEGビデオ符号器及び従来のMPEGビデオ復号器について説明する。
(1)ピクチャタイプ
MPEGでは、高能率符号化のために、イントラピクチャ(intre-coded picture:以下、Iピクチャという)、予測符号化ピクチャ(Predictive-coded picture:以下、Pピクチャという)及び双方向予測符号化ピクチャ(Bidirectionally predictive-coded picture:以下、Bピクチャという)という3つのタイプのピクチャを使用する。
Iピクチャは、他のピクチャの情報を使用せず、それ自身のピクチャの情報のみで符号化される。Pピクチャは、過去のIピクチャ又はPピクチャを参照ピクチャとして符号化される。Bピクチャは、過去と将来のIピクチャ又はPピクチャを参照ピクチャとして符号化される。
Iピクチャは圧縮率は低いが、他のピクチャとは独立して符号化が可能であるため、ランダムアクセス時のアクセス点として利用される。Iピクチャの復号化には、他のピクチャの情報は不要である。PピクチャはIピクチャよりも圧縮率は高いが、その復号化には過去のIピクチャの情報が必要である。また、Bピクチャは圧縮率は最も高いが、その復号化には過去と将来のIピクチャ又はPピクチャの情報が必要である。
(2)ビットストリーム
図14はMPEGのビットストリームの構造を示す模式図である。ビットストリームは、シーケンスヘッダ(sequence header)31、GOPヘッダ(groupof pictures header)32、ピクチャヘッダ(picture header)33、ピクチャデータ(picture data)34及びシーケンス終了コード(sequence end code)35により構成される。ビットストリームにはこれらの他にシーケンス拡張(sequence extension)及び拡張とユーザーデータ(extension and user data)が含まれるが、ここでは、それらの図示及び説明は省略する。
シーケンスヘッダ31は、ビットストリームの最初に必ず存在する。シーケンスヘッダ31内には、画像の水平方向及び垂直方向の画素数(horizontal sizevalue, vertical size value)、画素アスペクト比を示すパラメータ(aspect ratio information)などが含まれる。
GOPヘッダ32は多数のピクチャをGOP毎に管理する場合にビットストリームに付加される。GOPは複数のタイプのピクチャからなり、GOPの最初のピクチャは必ずIピクチャである。GOPはMPEG1では必須であるが、MPEG2ではオプションとなっている。
ピクチャヘッダ33は、1ピクチャ分の符号化されたデータの開始を表わす。ピクチャヘッダ33には、ピクチャの順番を示すパラメータ(temporal reference)や、ピクチャタイプなどが含まれる。
ピクチャデータ34は、1ピクチャ分の符号化されたデータである。ピクチャーデータ34の後には、GOPヘッダー32、次のピクチャヘッダ33又はシーケンス終了コード35が続く。シーケンス終了コード35は、ビットストリームの終了を示す。
(3)MPEGビデオ符号器の構成
図15はMPEGビデオ符号器を示すブロック図である。
MPEGビデオ符号器は、ピクチャ並べ換え部41、動き推定部42、加算器43、離散コサイン変換(Discrete Cosine Transform:以下、DCTという)部44、量子化部45、可変長符号化部46、多重化部47、バッファ48、逆量子化部49、逆離散コサイン変換(以下、IDCTという)部50、加算器51、ピクチャ蓄積部52及び動き予測部53により構成されている。
MPEGでは、過去と将来のピクチャを参照して復号化するBピクチャが存在するため、将来のピクチャを先に処理することが必要になる。ピクチャ並び換え部41は、処理する順番にピクチャを並べ換える。
動き推定部42は、ピクチャ並べ換え部41からピクチャを入力し、復号の際に必要な種々のパラメータ、例えばピクチャタイプ、表示タイムスタンプ(presentation time stamp:PTS)、量子化ステップサイズ、動きベクトル及び符号化モード等を出力する。これらのパラメータは、動き予測部53に入力されるとともに、多重化部47においてビットストリームに付加される。
加算器43は、動き推定部42から出力されたピクチャと動き予測部53から出力される参照ピクチャとの差分を演算する。Iピクチャを処理する際には動き予測部53から参照ピクチャが出力されないので、動き推定部42から出力されたピクチャは加算器43を通ってDCT部44に入力される。また、Pピクチャ又はBピクチャを処理する場合、加算部43は動き推定部42から出力されたピクチャと動き予測部53から出力された参照ピクチャとの差分を演算して出力する。
DCT部44では入力されたデータを離散コサイン変換して各周波数成分に分割し、高周波成分を除去することにより、データ量を削減する。量子化部45は非可逆過程である量子化によって重要度の小さい情報を除去する。可変長符号化部46は、量子化されたデータをジグザグスキャンして可変長符号化し、データ量を更に縮小する。
一方、逆量子化部49及びIDCT部50は、DCT部44及び量子化部45で離散コサイン変換及び量子化されたデータを逆離散コサイン変換及び逆量子化する。加算器51は、IDCT部50から出力されたデータと動き予測部53から出力された参照ピクチャと加算してピクチャを復元して、ピクチャ蓄積部52に格納する。動き予測部53は、動き推定部42から出力された動きベクトルと加算器51の出力及びピクチャ蓄積部52に蓄積されたピクチャを基に動き予測を行う。また、動き予測部53は、加算器51の出力又はピクチャ蓄積部52に蓄積されたピクチャを参照ピクチャとし、該参照ピクチャを加算器43に出力する。
多重化部47では、可変長符号化部46から出力されたデータと、動き推定部42から出力された符号化モード及び動きベクトル等のパラメータとを多重化してビットストリームを作成する。バッファ48では、作成されたビットストリームを一時的に格納する。
(4)MPEGビデオ復号器の構成(その1)
図16は従来のMPEGビデオ復号器を示すブロック図である。
このMPEGビデオ復号器は、ビットストリーム入力端子60、ビットストリームバッファ61、画像復号化部62、復号フレームバッファ63、復号スイッチ64、ピクチャデータ出力部65により構成されている。また、ピクチャデータ出力部65は、表示制御部65a、表示スイッチ65b及び表示バッファ65cにより構成されている。
ビットストリームバッファ61は、入力端子60から入力したビットストリームを格納し、画像復号化部62に順次出力する。復号スイッチ64は、表示制御部65aから垂直同期信号V-Sync71が入力されると復号開始命令72を出力する。画像復号化部62は、復号スイッチ64から復号開始命令72を入力すると、ビットストリームバッファ61から1ピクチャ分のビットストリームを入力し、可変復号化処理、逆量子化処置、逆離散コサイン変換処理及び動き予測を行う。このようにして画像復号化部62で復号化されたピクチャは復号フレームバッファ63に順次格納される。なお、画像復号化部62は、ビットストリームの復号に際し、必要に応じて先に復号フレームバッファ63に格納されたピクチャを参照する。従って、復号フレームバッファ63は、復号化されたピクチャを、少なくとも他のピクチャの復号化に参照されなくなるまで保持することが必要である。また、画像復号化部62は、ビットストリームを復号化する際に、ビットストリームから表示タイムスタンプ(PTS)76を抽出してピクチャデータ出力部65に出力する。
表示制御部65aは、復号化されたピクチャの表示タイムスタンプPTSと自己の基準時計(system time clock:STC)とを比較し、両者が一致すると表示スイッチ65bに転送命令73を出力する。表示スイッチ65bは、転送命令73を入力すると復号フレームバッファ63から1ピクチャ分のデータ(ピクチャデータ)を表示バッファ65cに転送する。表示バッファ65cに格納されたピクチャデータは、表示制御部65aから出力される垂直同期信号V-Sync71に同期して表示装置66に伝達される。
このようにして、従来のMPEGビデオ復号器では、垂直同期信号V-Sync71に同期したタイミングでビットストリームバッファ61から1ピクチャ分づつビットストリームを読み出して復号処理するとともに、垂直同期信号V-Sync71に同期したタイミングで表示バッファ65cから表示装置66にピクチャを伝達する。これにより、垂直同期信号V-Syncに同期したタイミングで表示装置66に表示される画像が更新され、表示装置66に動画像が表示される。
ところで、スムーズな動画像を再生するために、MPEGビデオ復号器にはビットストリームをリアルタイムで復号化することが要求される。その要求を満たすためには、MPEGビデオ復号器は1フレーム時間(1秒当りのフレーム数の逆数)内に1ピクチャ分のビットストリームの復号化が完了し、1フレーム時間毎に1ピクチャ分のデータを表示装置に出力する能力を有することが必要となる。従来のMPEGビデオ復号器では、1ピクチャ分のビットストリームの復号化が1フレーム時間内に完了するものとしている。そして、上述したように、MPEGビデオ復号器が1ピクチャ分のビットストリームの復号化を開始するタイミングと、MPEGビデオ復号器から表示装置へ1ピクチャ分のデータを出力するタイミングとを、いずれも垂直同期信号V-Syncに同期させている。
(他の従来技術)
MPEGでは、映画のようにフレームレートが24フレーム/秒の映像を、フレームレートが30フレーム/秒のテレビ用映像に変換(テレシネ変換)する場合、3−2プルダウンといわれる変換プロセスを行う。3−2プルダウンでは、リピートファーストフィールドというコマンドが使用される。リピートファーストフィールドコマンドは、「最初に表示したフィールドをもう一度表示せよ」という命令である。
図17は、3−2プルダウンによるテレシネ変換を示す模式図である。この図17において、*印は同じく画像の繰り返しを表わし、*'はリピートファーストフィールドによる同じ画像の繰り返しを表わす。
NTSC(National Television System Committee)方式のテレビ映像は、1フレームが2つのフィールド(トップフィールド及びボトムフィールド)に分割される。従って、1秒間分のテレビ映像は、60フィールド分の画像により構成される。
図17に示すように、映画の映像をテレビ用映像に変換する場合は、1つの画像を各フレームのトップフィールド(T)及びボトムフィールド(B)割当てることにより、24フレーム分の画像データが生成される。しかし、そのままでは6フレーム(12フィールド)分の画像データが不足することになる。そこで、テレシネ変換では、24フレームのうちの12フレームにリピートファーストフィールドコマンドを付加して、12フィールド分の画像データを生成する。すなわち、例えば奇数番目のフレームにリピートファーストフィールドコマンドを付加することにより、奇数番目のフレームの画像が3回(3フィールド分)表示されることになる。図17において、矢印(↓)はリピートファーストフィールドコマンドにより繰り返し表示される画像を示す。このようにして、3−2プルダウンでは24フレーム/秒の映像を30フレーム/秒の映像に変換することができる。
(5)MPEGビデオ復号器の構成(その2)
図18は3−2プルダウンに対応したMPEGビデオ復号器を示すブロック図である。このMPEGビデオ復号器は、ビットストリーム入力端子160、ビットストリームバッファ161、画像復号化部162、復号フレームバッファ163、復号制御部164及び表示制御部165により構成されている。
ビットストリームバッファ161は、入力端子160から入力したビットストリームを格納し、画像復号化部162に1ピクチャ分づつ順次出力する。画像復号化部162は、ビットストリームバッファ161から送られてくるビットストリームを復号する。画像復号化部162で復号されたピクチャは、復号フレームバッファ163に転送される。
復号フレームバッファ163は例えば3ピクチャ分の記憶領域を有しており、記憶領域が1ピクチャ毎に区切られている。1ピクチャ分毎に区画された記憶領域をバンクという。各バンクはそれぞれ固有のアドレス(バンクアドレス)を有する。
復号制御部164は、垂直同期信号(V-Sync)を発生するV-Sync発生器(図示せず)を内蔵しており、そのV-Sync発生器から出力されるV-Syncに同期して復号開始命令172を発行する。画像復号化部162は、復号開始命令172によりピクチャの復号を開始する。この復号開始命令172の発行周期は、基本的には2フィールド時間に1回、すなわち1フレーム時間に1回である。これは、表示の速度が1フレームに1枚のピクチャを表示するため、復号の速度を表示の速度と一致させるためである。
また、復号制御部164は、電源投入後(コールドスタート後)、ビットストリームバッファ161に一定量のビットストリームが格納されると、初期復号開始命令171を発行する。この初期復号開始命令171が発行されるタイミングは、V-Syncに関係していない。
表示制御部165は、リオーダレジスタ165a、カレントレジスタ165b、フィールドディレイレジスタ165c及びディスプレイレジスタ165cの4つのレジスタを有している。そして、表示制御部165には、復号制御部164から復号開始命令172、V-Sync175、バンクアドレス176が入力され、画像復号化部162からビットストリームの復号により得られたシーケンスパラメータ及びピクチャパラメータなどの各種パラメータ173が入力される。なお、バンクアドレス176は、復号されたピクチャが復号フレームバッファ163のどのバンクに格納されたのかを示すデータである。表示制御部165は、後述する条件が揃うと復号制御部164にフィールドウェイト命令174を出力する。フィールドウェイト命令174は、復号開始命令172の発行を1フィールド期間待たせる命令である。
また、表示制御部165は、後述する条件が満たされると表示開始命令178を発行する。表示制御部165から発行される表示開始命令178により、復号フレームバッファ163から表示装置に所定のピクチャが転送され、表示装置に画像が表示される。
以下、表示制御部165の4つのレジスタ165a〜165dについて、図19の模式図を参照して説明する。
(1)リオーダレジスタ165a
リオーダレジスタ165aは、Iピクチャ及びPピクチャのパラメータ及びバンクアドレスを格納する。Iピクチャ及びPピクチャは復号が完了してもすぐには表示せず、Bピクチャとの並び替え(リオーダリング)を行う必要がある。このため、Iピクチャ及びPピクチャのパラメータ及びバンクアドレスをリオーダレジスタ165aに一旦退避させる。
(2)カレントレジスタ165b
カレントレジスタ165bは、これから表示するピクチャのパラメータ及びバンクアドレスを格納する。なお、Bピクチャは復号が完了した後、すぐに表示するので、Bピクチャのパラメータ及びバンクアドレスはリオーダレジスタ165aには格納せず、直接カレントレジスタ165bに格納する。
表示制御部165は、カレントレジスタ165bに格納されたパラメータを分析し、リピートファーストフィールドフラグが「1」であれば、復号制御部164にフィールドウェイト命令174を発行する。
(3)フィールドディレイレジスタ165c
フィールドディレイレジスタ165cは、復号時間を1フレーム時間にするために、カレントレジスタ165cから転送されてくるバンクアドレスを1フィールド時間分だけ遅延させて、次のディスプレイレジスタ165dに転送する。仮に、フィールドディレイレジスタ165cがないとすると、表示タイミングのフィールドスロットが復号タイミングのフィールドスロットの直後のフィールドスロットになって、正しいタイミングで表示することができなくなる。フィールドディレイレジスタ165cに格納するデータはバンクアドレス176のみである。
(4)ディスプレイレジスタ165d
ディスプレイレジスタ165dは、今現在表示しているピクチャのバンクアドレスが格納されている。言い換えれば、表示制御部165は、ディスプレイレジスタ165dに格納されたバンクアドレスの指し示すピクチャを表示するように表示開始命令を発行する。ディスプレイレジスタ165dに格納するデータはバンクアドレス176のみである。
これらの4つのレジスタ165a〜165dは、図19に示すように、シフトレジスタ構造になっている。リオーダレジスタ165aとカレントレジスタ165bのシフトパルスは復号開始命令172であり、フィールドディレイレジスタ165cとディスプレイレジスタ165dのシフトパルスはV-Sync175である。バンクアドレス176はリオーダレジスタ165aからディスプレイレジスタ165dまで全部シフトするのに対し、パラメータ173はカレントレジスタ165bまでしかシフトしない。
次に、上述のMPEGビデオ復号器の動作について、図20,図21のタイムチャートを参照して説明する。但し、この例では、IピクチャI2,BピクチャB0,BピクチャB1,PピクチャP5,BピクチャB3,BピクチャB4,…の順番でビットストリームが入力され、ピクチャB0,ピクチャB1,ピクチャI2,ピクチャB3,ピクチャB4,ピクチャP5,…の順で表示するものとする。また、BピクチャB0,B4 及びIピクチャI2にはリピートファーストフィールドコマンドが付加されているものとする。
伝送路又は蓄積メディアから送られてきたMPEGビットストリームは、まず、ビットストリームバッファ161に格納される。ビットストリームバッファ161に一定量のデータ(例えば、1ピクチャ分のデータ)が蓄積されると、復号制御部164は初期復号開始命令171を発行する。画像復号化部162は、初期復号開始命令171を受信すると最初のピクチャI2のピクチャヘッダ(I2)のみを復号化し、ピクチャヘッダ(I2)の復号が完了すると復号処理を停止する(時刻t0)。
その後、復号制御部164は、V-Syncに同期したタイミングで復号開始命令172を発行する(時刻t1)。画像復号化部162は、復号開始命令172を受信するとピクチャI2の「係数」の復号を開始し、ピクチャI2の係数復号が完了すると、引き続いて次のピクチャB0のピクチャヘッダ(B0)を復号する。ピクチャB0のピクチャヘッダ(B0)の復号が完了すると復号処理を停止する(時刻t2)。
一方、表示制御部165は、時刻t1において、画像復号化部164からピクチャI2のパラメータを受け取り、リオーダレジスタ165aに格納する。このとき、リオーダレジスタ165aは復号開始命令172をラッチパルスとして、復号開始命令172に同期したタイミングでピクチャI2のパラメータを格納する。
時刻t3になると、復号制御部164はV-Sync175に同期して再び復号開始命令172を発行し、これにより画像復号化部162でピクチャB0の1ピクチャ分のデータのうちピクチャヘッダを除いた部分の係数(以下、単に「係数」という)の復号が開始される。これと同時に、ピクチャB0のパラメータ173がカレントレジスタ165bに格納される。
時刻t3でカレントレジスタ165bにピクチャB0のパラメータが格納されると、表示制御部165はカレントレジスタ165bに格納されたパラメータを分析する。その結果、ピクチャB0のリピートファーストフィールドフラグが「1」であるので、表示制御部165は復号制御部164に対してフィールドウェイト命令174を発行する(時刻t3.5)。
復号制御部164は、フィールドウェイト命令174を受理すると、本来時刻t5で発行するはずのピクチャB1に対する復号開始命令172を1フィールド分の時間だけ待って、時刻t6で発行する。
時刻t6でピクチャB1に対する復号開始命令172が復号制御部164で発行されると、画像復号化部162でピクチャB1の係数復号が開始されるとともに、表示制御部165のカレントレジスタ165bにピクチャB1のパラメータが格納される。表示制御部165は、カレントレジスタ165bに格納されたパラメータを分析し、その結果ピクチャB1はリピートファーストフィールドフラグが「0」であるから、フィールドウェイト命令174は発行しない。
フィールドウェイト命令が発行されないので、復号制御部164では次のピクチャP5ピクチャに対する復号開始命令172は1フィールド時間待つことなく、時刻t7で発行される。
時刻t7でピクチャP5に対する復号開始命令172が発行されると、それまでリオーダレジスタ165aにあったピクチャI2のパラメータがカレントレジスタ165bにシフトされ、ピクチャP5のパラメータがリオーダレジスタ165aに格納される。
表示制御部165によるカレントレジスタ165bの分析の結果、ピクチャI2はリピートファーストフィールドフラグが「1」であるから、フィールドウェイト命令174を発行する。
以下、この繰り返し、つまり、カレントレジスタ165bを調べて次に表示するピクチャのリピートファーストフィールドフラグが「1」であればフィールドウェイト命令174を発行し、復号開始命令172を1フィールド時間待って発行するというシーケンスを繰り返すことで、3−2プルダウンを実現する。すなわち、従来のMPEGビデオ復号器では、3−2プルダウンを、リピートファーストフィールドコマンドにより1フレーム時間だけ復号を休むという方法により実現している。
特開平10−093917号公報 特開平05−122538号公報 特開平08−125885号公報 特開平09−009258号公報 特開平09−093577号公報
CBR符号化のようにデータレートがほぼ一定であれば、1ピクチャ分のビットストリームの復号化に要する時間はほぼ均一になり、1フレーム時間内に1ピクチャ分のビットストリームを復号化することは比較的容易である。しかし、ATMの端末やDVDプレーヤのようにVBR符号化ビットストリームを復号化する場合には、データレートが大きく変化するため、1フレーム時間内に1ピクチャ分のビットストリームを復号化できないことが多くなる。1ピクチャ分のビットストリームを1フレーム時間内に復号化できないときは、次の1フレーム分の時間を使用してビットストリームの復号化を完了させる。そして、表示装置に出力するピクチャデータを1フレーム分間引きして、再生時間の調整を行う。このようにしてピクチャデータを間引きして再生時間を調整することを、エラーコンシールメント(err-concealment)という。
ATMの端末やDVDプレーヤ等のVBR符号化ビットストリームを復号化する場合は、前述の如く、データレートが一定でないため、1ピクチャ分のビットストリームの復号化に1フレーム時間以上かかることが多く、エラーコンシールメントが頻繁に発生し、スムーズな動画再生が困難になる。
また、前述した従来のMPEGビデオ復号器では、3−2プルダウンと、1/2倍速や1/4倍速といったスロー再生とを同時に実現しようとすると、不都合が生じる。これは、前述したように、従来のMPEGビデオ復号器では、3−2プルダウンを、「1フレーム時間だけ復号を休む」という方法で実現しているが、スロー再生も「1フレーム時間だけ復号を休む」という方法で実現しているためである。図22,図23のタイミングチャートを参照して、上記の不都合をより詳細に説明する。
時刻t2.2で1/2倍速表示命令(以下、1/2スロー再生命令)が発行されたとする。従来のMPEGビデオ復号器では、1/2スロー再生命令は復号制御部164に入力される。復号制御部164は、1/2スロー再生命令を復号制御部164自身が発行する復号開始命令172のタイミングでサンプリングして、復号制御を行う(時刻t3)。すなわち、復号開始命令172を発行したときに1/2スロー再生命令が「1」ならば、その次のピクチャの復号開始を1フレーム時間だけ遅らせ、今復号開始したピクチャを2フレーム時間表示させるという制御を行う。
通常再生では、1ピクチャを1フレーム時間だけ表示するから、1ピクチャを2フレーム時間表示するということは、映像を1/2の速度で表示するということになる。
この例では、時刻t3で1/2スロー再生命令をサンプリングした結果は「1」である。従って、ピクチャB0の復号が終わった後、次のピクチャB1の復号を1フレーム時間遅らせ、t6.5から開始する。
ところで、ピクチャB0はリピートファーストフィールドフラグが「1」であるから、フィールドウェイト命令174が表示制御部165から発行される(時刻3.5)。従って、復号制御部164は1/2スロー再生命令による「1フレーム時間(2フィールド時間)待ち」と、フィールドウェイト命令174による「1フィールド時間の待ち」を両方実行することになる。このとき、前者よりも後者のほうが待ち時間が短いために、後者は無視されてしまう(時刻t5〜t6)。つまり、従来のMPEGビデオ復号器では、本来は「3−2プルダウン表示でかつ1/2フロー再生」をしなければならないにもかかわらず、単なる「1/2スロー再生」となってしまう。
図22,図23に示すように、1/2スロー再生命令が時刻t2.2からt6.7まで「1」であったとすると、本来、ピクチャB0を6フレーム期間表示しなければならないにも拘わらず、2フレーム期間しか表示されないことになる。
本発明の目的は、3−2プルダウンによる映像表示にスロー再生を併用することができるMPEGビデオ復号器及びMPEGビデオ復号方法を提供することである。
上記した目的は、図5に例示するように、復号開始命令122によりMPEGビットストリームの復号化を開始する画像復号化部112と、前記画像復号化部112で復号化されたピクチャデータを格納する復号フレームバッファ113と、前記画像復号化部112で復号化されたピクチャデータに付随するリピートファーストフィールドフラグ及びピクチャ毎に与えられるスロー再生フラグに応じて前記復号フレームバッファ113から表示装置への前記ピクチャデータの転送を制御する表示制御部115と、前記表示制御部115の状態が予め設定された状態のときに前記復号開始命令122を出力する復号制御部114とを有し、前記表示制御部115は、予め前記ピクチャデータのパラメータ及び前記スロー再生フラグと前記表示フィールド数との関係を示すテーブルを記憶しており、該テーブルを参照して所定のピクチャ毎にピクチャの表示フィールド数を決定し、前記表示フィールド数に相当する時間だけ前記ピクチャを前記表示装置に表示させることを特徴とするMPEGビデオ復号器により達成される。
本発明においては、表示制御部115によりピクチャデータのパラメータを解析して、その結果に応じて復号フレームバッファ113から表示装置へのピクチャデータの転送を制御する。例えば、ある1つのピクチャに対し、表示制御部115はパラメータからピクチャ毎の表示フィールド数を決定し、その表示フィールド数に相当する時間だけ表示装置にピクチャを表示させ、その間に次のピクチャのパラメータを解析して表示フィールド数を決定する。そして、1つのピクチャの表示時間が過ぎると、次のピクチャの表示を開始させる。
この構成により、パラメータと表示フィールド数との関係を設定しておけば、3−2プルダウン再生や1/2スロー再生などの特殊再生に容易に対応することができる。例えば、3−2プルダウン再生のみのときの表示フィールド数、1/2スロー再生のときのみの表示フィールド数及び3−2プルダウン再生でかつ1/2スルー再生のときの表示フィールド数を、図9に例示するようなテーブルにして表示制御部115に記憶させておく。表示フィールド数を決定する際に、このテーブルを参照することにより、適切な表示フィールド数を容易に決定することができる。
表示制御部115には、リオーダレジスタ115a、カレントレジスタ115b、フィールドディレイレジスタ115c及びディスプレイレジスタ115dの4つのシフトレジスタが設けられており、これらのレジスタ115a〜115dにより復号フレームバッファ113内のピクチャデータを管理する。この場合、各レジスタ115a〜115dの状態が容易にわかるように、ステイタスレジスタ116を設けることが好ましい。復号制御部114は、ステイタスレジスタ116の状態を参照して、リオーダレジスタ115a又はカレントレジスタ115bにデータが格納されていないことがわかれば、復号開始命令112を出力する。また、表示フィールド数算出部115fは、ステイタスレジスタ116を参照してディスプレイレジスタ115dにデータが格納されたことがわかれば、ディスプレイレジスタ115dに格納されたデータに対応するピクチャの表示フィールド数を決定する。
復号制御部114及び表示制御部115がステイタスレジスタ116を参照するタイミングは、例えば垂直同期信号(V-Sync)に同期したタイミングとすることができる。また、本発明方法においては、復号フレームバッファに一定量のピクチャデータが蓄積されるまでピクチャの復号化を連続的に行うので、エラーコンシールメントの発生が抑制され、スムーズな動画再生が可能になる。
本願発明によれば、表示制御部115においてピクチャデータの「パラメータを解析し、その結果に応じて復号フレームバッファ113から表示装置へのピクチャデータの転送を制御するので、3−2プルダウン再生やスロー再生、3−2プルダウン再生かつフロー再生などの特殊再生を実現することができる。
以下、本発明の実施の形態について、添付の図面を参照して説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態のMPEGビデオ復号器を示すブロック図である。本実施の形態のMPEGビデオ復号器は、ビットストリーム入力端子10、ビットストリームバッファ11、画像復号化部12、復号フレームバッファ13、復号開始命令発生部14及びピクチャデータ出力部15により構成されている。
ビットストリーム入力端子10には、ATM伝送路又はDVDのような蓄積メディアからMPEGビットストリームが入力される。ビットストリームバッファ11は、ビットストリームを一時的に記憶するメモリである。
画像復号化部12は、ビットストリームバッファ11からビットストリームを入力し、可変長復号化処理、逆量子化処理、逆離散コサイン変換処理及び動き予測を行って復号化を行う。この画像復号化部12は、復号開始命令発生部14から復号開始命令22を入力すると、1ピクチャ分のビットストリームの復号化を開始する。そして、1ピクチャ分の復号化が完了すると、復号開始命令発生部14に復号完了通知23を出力する。なお、画像復号化部12は、ビットストリームを復号化する際にビットストリームから表示タイムスタンプ(PTS)26を抽出してピクチャデータ出力部15に出力する。
復号フレームバッファ13は、復号された複数のピクチャを記憶する。前述したように、ピクチャにはIピクチャ、Pピクチャ及びBピクチャの3種類がある。Iピクチャを復号化する場合、画像復号化部12は他のピクチャを参照することなく復号化を行う。Pピクチャを復号化する場合には、画像復号化部12は復号フレームバッファ13に格納されている過去のピクチャ(Iピクチャ又はPピクチャ)を参照する。Bピクチャを復号化する場合には、画像復号化部12は復号フレームバッファ13に格納されている過去と将来のピクチャ(Iピクチャ及びPピクチャ)を参照する。従って、Bピクチャを使用しない場合、すなわちIピクチャ及びPピクチャのみの場合は表示する順番でピクチャの復号化が行われる。一方、Bピクチャを使用する場合は、復号化する順番と表示する順番とが異なるので、復号フレームバッファ13内で表示順にピクチャを並べ替える。
復号化されたピクチャは、他のピクチャの復号化に参照されることがなくなるまで復号フレームバッファ13内に保持しておくことが必要である。従って、復号フレームバッファ13の容量はある程度大きいことが必要であるが、ここでは説明を簡単にするために、復号フレームバッファ13は3ピクチャ分の記憶容量を有し、Pピクチャ又はBピクチャの復号化の際には先に復号化された1枚又は2枚のピクチャが参照されるとする。復号フレームバッファ13は、所定数(この例では3枚)分のピクチャを格納すると、バッファフル通知24を出力する。
復号開始命令発生部14は復号制御部14a及び復号スイッチ14bからなる。復号制御部14aは、外部(例えばホストコンピュータ)から伝達されるビットストリーム転送通知25と、画像復号化部12から出力される復号完了通知23と、復号フレームバッファ13から出力されるバッファフル通知24とに基づいて復号開始許可21を出力する。すなわち、復号制御部14aは、ホストコンピュータからビットストリーム転送通知25が入力され、画像復号化部12から復号完了通知23が出力され、且つ、復号フレームバッファ13からバッファフル通知24が出力されていないときに、復号開始許可21を出力する。復号スイッチ14bは、復号制御部14aから復号開始許可21が出力されると、復号開始命令22を画像復号化部12に出力する。
本実施の形態においては、ホストコンピュータは1ピクチャ分以上のビットストリームをビットストリームバッファ11に転送したときにビットストリーム転送通知を出力するものとする。従って、画像復号化部12は、ビットストリームバッファ11に1ピクチャ分以上のビットストリームが格納された後に最初のピクチャの復号化を開始する。
ピクチャデータ出力部15は、表示制御部15a、表示スイッチ15b及び表示バッファ15cにより構成されている。表示制御部15aは、復号化されたピクチャの表示タイムスタンプ(PTS)26と自己の基準時計(STC)が一致すると、表示スイッチ15bに転送命令29を出力する。表示スイッチ15bは、転送命令29を入力すると復号フレームバッファ13から表示バッファ15cにピクチャデータを転送する。表示バッファ15cに格納されたピクチャデータは、表示制御部15aから出力される垂直同期信号V-Sync28に同期して表示装置16に伝達される。これにより、表示装置16に画像が表示される。
なお、表示装置16は、NTSC(National Television System Committee)方式のものでもよく、PAL(Phase Alternation Line)方式のものでもよい。また、画像復号化部12、復号制御部14a及び表示制御部15aは、いずれもハードウェア(半導体装置)により構成されたものであってもよく、ソフトウエアにより実現されたものであってもよい。
図2は本実施の形態のMPEGビデオ復号器の動作を示すタイミングチャートである。
時刻t0において、入力端子10からビットストリームバッファ11にビットストリームが入力開始されたとする。時刻t1において、ビットストリームバッファ11に1ピクチャ分のビットストリームの格納が完了すると、ホストコンピュータから復号制御部14aにビットストリーム転送通知25が入力される。これにより、復号制御部14aは復号開始許可21を出力する。復号スイッチ14bは、復号制御部14aから復号開始許可21を入力すると、画像復号化部12に復号開始命令22を出力する。これにより、画像復号化部12は1番目のピクチャデータ(ピクチャ1)の復号化を開始し、復号フレームバッファ13に復号化したピクチャデータを格納する。
時刻t2において、ピクチャ1の復号化が完了すると、画像復号化部12は復号完了通知23を出力する。その後、時刻t2よりも若干後に復号フレームバッファ13へのピクチャ1の格納が完了する。このとき、復号フレームバッファ13の3枚分の格納領域のうち1枚分の格納領域しか使われていないので、復号フレームバッファ13からバッファフル通知24は出力されない。従って、復号制御部14aは、画像復号化部12から復号完了通知23を入力すると、復号開始許可21を復号スイッチ14bに出力する。そして、復号スイッチ14bは画像復号化部12に復号開始命令22を出力する。これにより、画像復号化部12は2番目のピクチャデータ(ピクチャ2)の復号化を開始する。
画像復号化部12は、ピクチャ2の復号化が完了すると復号完了通知23を出力する。これにより、復号制御部14aは復号スイッチ14bに復号開始許可21を出力し、復号スイッチ14bは画像復号化部12に復号開始命令22を出力する。そして、画像復号化部12は3番目のピクチャデータ(ピクチャ3)の復号化を開始する。
一方、表示制御部15aは表示スイッチ15bに転送命令29を出力して復号フレームバッファ13から表示バッファ15cに1番目のピクチャデータ(ピクチャ1)を転送する。そして、垂直同期信号V-Sync28に同期して表示バッファ15cから表示装置16にピクチャ1を伝達する。これにより、表示装置16にピクチャ1による画像が1フレーム期間(2垂直同期期間)表示される。
時刻t3においてピクチャ3の復号化が完了すると、画像復号化部12から復号制御部14aに復号完了通知22が出力される。これにより、復号制御部14aは復号開始許可21を出力し、復号スイッチ14bは画像復号化部12に復号開始命令22を出力する。これにより、画像復号化部12は4番目のピクチャデータ(ピクチャ4)の復号化を開始する。
一方、復号フレームバッファ13はピクチャ4の格納を開始する(時刻t4)と、バッファフル通知24を復号制御部14aに出力する。
時刻t5において、ピクチャ4の復号化が完了すると、画像復号化部12は復号完了通知23を復号制御部14aに出力する。しかし、復号制御部14aは、復号フレームバッファ13からバッファフル通知24が出力されているので、復号開始許可21を出力しない。従って、画像復号化部12はピクチャデータの復号化を中断する。
時刻t6において、ピクチャ1による画像の表示が完了すると、表示制御部15aは復号フレームバッファ13に格納されているピクチャデータの表示タイムスタンプ(PTS)と自己の基準時計(SCR)とを比較する。これにより、ピクチャ2を出力すべき時間であることがわかるので、表示制御部15aは表示スイッチ15bに転送命令29を出力し、復号フレームバッファ13から表示バッファ15cにピクチャ2を転送する。そして、垂直同期信号V-Sync28に同期して表示バッファ15cから表示装置16にピクチャ2を伝達する。これにより、表示装置16にはピクチャ2による画像が表示される。
一方、復号フレームバッファ13は、ピクチャ2が表示バッファ15cに転送されたので格納領域に空きが生じる。これにより、バッファフル通知24が解除される。従って、復号制御部14aから復号スイッチ14bに復号開始許可21が出力され、復号スイッチ14bから画像復号化部12に復号開始命令22が出力される。この復号開始命令22により、画像復号化部12は5番目のピクチャデータ(ピクチャ5)の復号化を開始する。
時刻t7 において、復号フレームバッファ13にピクチャ5の格納が開始されると、復号フレームバッファ13は復号制御部14aにバッファフル通知24を出力する。これにより、ピクチャ5の復号化が完了して画像復号化部12から復号制御部14aに復号完了通知23が出力されても、復号制御部14aは復号開始許可21を出力しない。従って、ピクチャ5の復号化が終了した後、画像復号化部12は復号化処理を中断する。
時刻t8 において、ピクチャ2による画像の表示が完了すると、表示制御部15aは表示スイッチ15bをオンにして復号フレームバッファ13から表示バッファ15cにピクチャ3を転送する。そして、表示制御部15aは、垂直同期信号V-Sync28に同期して、表示バッファ15cから表示装置16にピクチャ3を伝達する。これにより、表示装置16にピクチャ3による画像が表示される。
また、復号フレームバッファ13から表示バッファ15cにピクチャ3が転送されたので復号フレームバッファ13に空きが生じ、バッファフル通知24が解除される。従って、復号制御部14aから復号スイッチ14bに復号開始許可21が出力され、復号スイッチ14bから画像復号化部12に復号開始命令22が出力される。これにより、画像復号化部12は6番目のピクチャデータ(ピクチャ6)の復号化を開始する。
このようにして、本実施の形態のMPEGビデオ復号器は、画像復号化部12から出力される復号完了通知23と、復号フレームバッファ13から出力されるバッファフル通知24とに応じたタイミングでピクチャデータの復号化を開始する。
図3は、垂直同期信号V-Syncに同期してピクチャデータの復号化を開始する従来のMPEGビデオ復号器と本実施の形態のMPEGビデオ復号器とのエラーコンシールメントが発生しやすさを比較するための図である。図3において、ハッチングはエラーコンシールメントが発生するフレームを示す。
図3に示すように、1フレーム時間内に復号化できないピクチャ(図3では、P3,P6,P7)が多く含まれるビットストリームの場合、垂直同期信号V-Syncに同期して復号化を開始する従来のMPEGビデオ復号器では、1フレーム時間(2垂直同期期間)内に1ピクチャ分のデータの復号化が完了しないときは必ずエラーコンシールメントが発生する。一方、本実施の形態のMPEGビデオ復号器では、復号フレームバッファ13の格納領域に空きがあればピクチャを連続的に復号化するので、1フレーム時間内に1ピクチャ分のデータの復号化が完了しない場合であっても、エラーコンシールメントを回避できることがある。図3に示す例では、エラーコンシールメントが発生するのは1回だけである。
上述したように、本実施の形態のMPEGビデオ復号器は、復号開始のタイミングが垂直同期信号V-Sync28に同期していない。すなわち、復号フレームバッファ13の格納領域に空きがあれば、画像復号化部12ではビットストリームの復号が連続的に行われる。これにより、1ピクチャ分のデータの復号化に1フレーム時間以上かかる場合であってもエラーコンシールメントの発生が回避され、動画像をスムーズに再生することができる。
図4は、本発明の実施の形態のMPEGビデオ復号器の表示ポーズ時の動作を示すタイミングチャートである。
時刻t5から時刻t7.5までの間、ホストコンピュータから表示制御部15aにポーズ命令27(図1参照)が出力されたとする。時刻t5では、表示装置にピクチャ1による画像が表示されている。また、復号フレームバッファ13にはピクチャ2,3が格納されている。画像復号化部12ではピクチャ4の復号化が終了した直後であり、ピクチャ4は復号フレームバッファ13に格納されている途中である。
ホストコンピュータから表示制御部15aにポーズ命令27が入力されると、表示制御部15aは復号フレームバッファ13に格納されたピクチャの表示タイムスタンプ(PTS)と自己の基準時計(SCR)とが一致しても、表示スイッチ15bをオンにしない。このため、時刻t6になっても表示バッファ45cのデータは更新されず、表示制御部15aは垂直同期信号V-Sync28に同期して再度ピクチャ1を表示装置16に伝達する。これにより、表示装置16はピクチャ1による画像を再度表示する。また、復号フレームバッファ13は、3つのピクチャを格納しているので、バッファフル通知24を出力したままとなる。従って、復号制御部14aから復号開始許可21が出力されず、画像復号化部12では次のピクチャの復号化を中断する。
時刻t7.5でポーズ命令27が解除されると、表示制御部15aは表示スイッチ15bに転送命令29を出力して復号バッファフレーム13からピクチャ2を表示バッファ15cに転送する。そして、表示制御部15aは次のフレーム開始の垂直同期信号V-Sync28に同期してピクチャ2を表示装置16に伝達する。また、復号バッファフレーム13の格納領域には空きが生じるので、バッファフル通知24が解除される。これにより、復号制御部14aは復号スイッチ14bに復号開始許可21を出力し、復号スイッチ14bは画像復号化部12に復号開始命令22を出力する。この復号開始命令22により、画像復号化部12はピクチャ5の復号化を開始する。このようにして、表示ポーズが実現される。
なお、上述した実施の形態においては、ビットストリームバッファ11に1ピクチャ分以上のビットストリームが転送されたときに復号化が開始される場合について説明したが、復号化を開始する条件はこれに限定するものではない。
また、ホストコンピュータから入力されるビットストリーム転送通知25に替えて、ビットストリームバッファ11に一定量のビットストリームが蓄積されたときに、ビットストリーム11から復号制御部14aに信号(ビットストリーム蓄積信号)が出力されるようにしてもよい。この場合、復号制御部14aはビットストリームバッファ11から入力されるビットストリーム蓄積信号と、画像復号化部12から出力される復号完了通知23と、復号フレームバッファ13から出力されるバッファフル通知24とに応じて復号開始許可21を出力する。
(第2の実施の形態)
図5は本発明の第2の実施の形態のMPEGビデオ復号器を示すブロック図である。本実施の形態のMPEGビデオ復号器は、ビットストリーム入力端子110、ビットストリームバッファ111、画像復号化部112、復号フレームバッファ113、復号制御部114、表示制御部115及びステイタスレジスタ116により構成されている。
ビットストリームバッファ111は、入力端子110から入力したビットストリームを格納し、画像復号化部112に1ピクチャ分づつ順次出力する。画像復号化部112は、復号制御部114で復号開始命令122が発行されると、ビットストリームバッファ111から送られてくるビットストリームの復号化を開始する。画像復号化部112で復号化されたピクチャは、復号フレームバッファ113に格納される。
復号フレームバッファ113は例えば3ピクチャ分の記憶領域を有している。記憶領域は複数のバンクに分割されており、1つのバンクには1つのピクチャが格納される。また、復号フレームバッファ113は、表示制御部115で表示開始命令127が発行されると、表示開始命令127に含まれるバンクアドレスのピクチャを表示装置に転送する。
復号制御部114は、内蔵されたV-Sync発生器(図示せず)から出力されるV-Syncに同期して画像復号化部112に復号開始命令122を発行する。この復号開始命令122の発行周期は、基本的には2フィールド時間に1回、すなわち1フレーム時間に1回である。
また、復号制御部114は、電源投入後(コールドスタート後)、ビットストリームバッファ111に一定量のビットストリームが格納されると、V-Syncに関係なく、初期復号開始命令121を発行する。
表示制御部115は、リオーダレジスタ115a、カレントレジスタ115b、フィールドディレイレジスタ115c、ディスプレイレジスタ115dの4つのレジスタの他に、V-Sync計数カウンタ115e及び表示フィールド数算出部115fを有している。
本実施の形態では、図6に示すように、パラメータをディスプレイレジスタ115dまで転送する。本実施の形態では、表示制御部115でピクチャ毎に表示すべきフィールド数を決定する必要上、リピートファーストフィールドフラグをディスプレイレジスタ115dまで転送する。また、1/2スロー再生命令フラグもパラメータとしてディスプレイレジスタ115dまで転送する。表示制御部115は、外部からのスロー再生命令129を復号開始命令をトリガとしてサンプリングし、スロー再生命令129が「1」であれば、それをスロー再生フラグとしてディスプレイレジスタ115dまで転送する。
表示フィールド数算出部115fは、表示制御部115内で表示する画像フィールド数を管理するためのものである。表示フィールド数算出の動作は後述する。V-Sync計数カウンタ115eは、表示フィールド数算出部115fで決定したフィールド数分のV-Syncパルスを計数し、表示フィールド数算出部115fでのフィールド数の管理に使用する。
ステイタスレジスタ116は、リオーダレジスタ115a、カレントレジスタ115b、フィールドディレイレジスタ115c及びディスプレイレジスタ115dの状態を監視し、4ビットの信号で表現する。すなわち、これらのレジスタ115a〜115dにパラメータ及びバンクアドレス等のデータが格納されていればレジスタに対応するビットの値を「1」とし、格納されていなければ「0」とする。ビットの並びは、MSB(Most Significant Bit:最大位のビット側)からリオーダ/カレント/フィールドディレイ/ディスプレイの順である。例えば、4つのレジスタ115a〜115dにいずれもデータが格納されていれば、ステイタスレジスタ116の値は「1111」となり、4つのレジスタ115a〜115dのいずれにもデータが格納されていないときは、ステイタスレジスタ116の値は「0000」となる。
図7は、復号制御部114の動作を示すフローチャートである。まず、ステップS11において、内蔵V-Sync発生器で発生するV-Syncの立ち下がりのタイミングを検出している。そして、V-Syncの立ち下がりによりステップS12に移行し、復号するピクチャがBピクチャか否かを判定する。Bピクチャではない場合、すなわちIピクチャ又はPピクチャの場合は、ステップS13に移行し、ステイタスレジスタ116のビット3が「1」か否かを判定する。ビット3が「1」のとき、すなわちリオーダレジスタ115aにデータが格納されているときはステップS13からステップS11に戻る。ステップS13でビット3が「0」のとき、すなわちリオーダレジスタ115aにデータが格納されていないときは、ステップS15に移行して復号開始命令を発行し、その後ステップS11に戻る。復号されたIピクチャ又はPピクチャのパラメータはリオーダレジスタ115aに格納される。
一方、ステップS12で復号するピクチャがBピクチャの場合は、ステップS14に移行して、ステイタスレジスタ116のビット2が「1」か否かを判定する。ステイタスレジスタ116のビット2が「1」のとき、すなわちカレントレジスタ115bにデータが格納されているときは、ステップS14からステップS11に戻る。また、ステップS14でステイタスレジスタ116のビット2が「0」のとき、すなわちカレントレジスタ115bにデータが格納されていないときは、ステップS15に移行して復号開始命令を発行し、その後ステップS11に戻る。復号されたBピクチャのパラメータは、カレントレジスタ115bに格納される。
図8は、表示制御部115の動作を示すフローチャートである。ステップS21において、V-Syncの立ち下がりのタイミングを検出している。そして、V-Syncの立ち下がりによりステップS22に移行し、ステイタスレジスタ116のビット0が「1」か否かを判定する。ステイタスレジスタ116のLSB(Least Significant Bit:ビット0)が「0」のとき、すなわちディスプレイレジスタ115dにデータが格納されていないときは、ステップS21に戻る。
一方、ステップS22において、ステイタスレジスタのビット0が「1」のとき、すなわちディスプレイレジスタ115dにデータが格納されているときは、ステップS23に移行して、ディスプレイレジスタ115dに格納されているデータを分析する。そして、ステップS24に移行し、リピートファーストフィールドフラグ及びスロー再生命令フラグに応じて表示フィールド数を決定する。表示フィールド数が決定したら、ステップS25に移行し、表示開始命令127を発行する。
その後、ステップS26に移行し、V-Sync計数カウンタ115eによりV-Syncのカウントを開始する。そして、ステップS27において、V-Sync計数値と表示フィールド数とが一致するまで待ち、V-Sync計数値と表示フィールド数とが一致したら、ステップS28に移行して表示完了通知128を発行する。
図9は、表示フィールド算出部115fによる表示フィールド数算出方法を示す図である。表示制御部115には、図9に示すように、リピートファーストフィールドフラグ及び1/2スロー再生命令フラグと表示フィールド数との関係を示すテーブル(ルックアップテーブル)が記憶されている。表示フィールド数算出部115fは、該テーブルを参照し、リピートファーストフィールドフラグ及び1/2スロー再生フラグの状態から表示フィールド数を決定する。例えば、リピートファーストフィールドフラグ及び1/2スロー再生フラグがいずれも「0」のときは表示フィールド数を2とし、リピートファーストフィールドフラグ及び1/2スロー再生フラグがいずれも「1」のときは表示フィールド数を6とする。
図10,図11は本実施の形態のMPEGビデオ復号器の動作を示すタイミングチャートである。但し、この例では、IピクチャI2,BピクチャB0,BピクチャB1,PピクチャP5,BピクチャB3,BピクチャB4,…の順番でビットストリームが入力され、ピクチャB0,ピクチャB1,ピクチャI2,ピクチャB3,ピクチャB4,ピクチャP5,…の順で表示するものとする。また、BピクチャB0,B4 及びIピクチャI2にはリピートファーストフィールドコマンドが付加されているものとする。
時刻t0で、例えば電源がオンになると、復号制御部114は初期復号開始命令122を発行する。これにより画像復号化部112はピクチャI2のピクチャヘッダ(I2)を復号する。
次に、時刻t1で復号制御部114はステイタスレジスタ116から出力されるレジスタデータ124aを調べる。このとき、ステイタスレジスタ116の値は「0000」であるので、復号制御部114は復号開始命令122を発行し、これにより画像復号化部112はピクチャI2の係数復号を開始し、ピクチャI2の係数復号が完了すると続けてピクチャB0のピクチャヘッダ(B0)を復号する。
ピクチャI2のパラメータ及びバンクアドレスはリオーダレジスタ115aに格納される。これにより、ステイタスレジスタ116の値が「1000」になる(時刻t1.5)。
更に、時刻t2で、復号制御部114はステイタスレジスタ116から出力されるレジスタデータ124aを調べる。このとき、レジスタデータ124aの値が「1000」であるので、復号制御部114はV-Syncに同期したタイミングで復号開始命令112を発行する。これにより、画像復号化部112はピクチャB0の係数復号を開始する。このとき、表示制御部115は、復号開始命令122の立ち下がりをトリガとして1/2スロー再生命令128をサンプリングし、1/2スロー再生命令128が「1」になっているので、1/2スロー再生フラグを「1」としてカレントレジスタ115bに格納する。また、この例では、ピクチャB0にリピートファーストフィールドコマンドが付加されているので、リピートファーストフィールドフラグを「1」としてカレントレジスタ115bに格納する。
従って、この場合は、1/2スロー再生命令フラグ及びリピートファーストフィールドフラグがいずれも「1」という値がカレントレジスタ115bに格納される。
ピクチャB0のデータがカレントレジスタ115bに格納されたので、バンクステイタスレジスタ116の値が「1100」となる(時刻t2.5)。
以下同様に、復号制御部114はV-Syncの立ち下がりでバンクステイタスレジスタ116の値を調べ、「0」のレジスタがあれば復号開始命令122を発行する。画像復号化部112は、復号制御部114で復号開始命令122が発行されると、係数復号を開始し、係数復号が完了すると続けて次のピクチャのピクチャヘッダを復号する。
このようにして、ピクチャB1,ピクチャP5が復号化されるが、時刻t5ではバンクステイタスレジスタ116の値が「1111」となる。従って、復号制御部114は復号開始命令122の発行を停止する。これにより、画像復号化部112では、復号を休止する。
一方、バンクステイタスレジスタ116が「1111」ということは、ディスプレイレジスタ115dに表示すべきピクチャが存在するということなので、表示制御部115はディスプレイレジスタ115dのパラメータを分析する。この結果、リピートファーストフィールドフラグと1/2スロー再生フラグがともに「1」であるので、表示フィールド数算出部115fは表示フィールド数を6とする(図9参照)。そして、表示制御部115は、時刻t5.5で表示開始命令127を発行する。これにより、表示装置にピクチャB0が転送され、ピクチャB0の表示が開始される。その後、表示制御部115は6フィールド分の表示をするため、V-Syncパルスを5回計数し、6フィールド期間分の時間が経過すると、表示完了通知128をステイタスレジスタ116に発行する。そして、表示制御部115は、カレントレジスタ115bとフィールドディレイレジスタ115cの内容をそれぞれフィールドディレイレジスタ115cとディスプレイレジスタ115dにシフトする。これにより、カレントレジスタ115bに空きが生じるため、ステイタスレジスタ116の値は「1011」となる(時刻t5.9)。
復号制御部114は、時刻t6でステイタスレジスタ116の値を調べ、「1011」であるので、復号開始命令を発行する。これにより、画像復号化部112は、ピクチャB3の係数復号を開始する。ピクチャB3のパラメータはカレントレジスタ115bに格納される。これにより、ステイタスレジスタ116の値は「1111」となる。
また、表示制御部115は、ディスプレイレジスタ115dに転送されたピクチャB1のパラメータを調べ、リピートファーストフィールドフラグが「0」、1/2スロー再生命令フラグが「1」であるから、表示フィールド数を4とする。そして、表示開始命令127を発行し、ピクチャB1の表示を開始する(時刻t6.5)。ピクチャB1の表示期間が終了すると、表示制御部115は表示完了通知128を発行し、カレントレジスタ115b及びフィールドディレイレジスタ115cのデータをフィールドディレイレジスタ115c及びディスプレイレジスタ115dにシフトする。
このようにして、本実施の形態のMPEGビデオ復号器は、3−2プルダウンと1/2スロー再生とを正しく実行する。前述したように、従来は復号制御部により表示フィールド数が決定されていたのに対し、本実施の形態では、表示制御部115が、図9に示すようなテーブルを使用して表示フィールド数を決定する。従って、3−2プルダウン再生、1/2スロー再生、3−3プルダウン再生でかつ1/2スロー再生などの特殊再生に対応することができる。
MPEGの各ピクチャには、PTS(Presentation Time Stamp)が重畳されている。PTSは、当該ピクチャを表示する時間を示すデータであり、一般的に、MPEGビデオ復号器では、PTSと復号器内部のSTC(System Time Clock)を使って再生の時間管理を行う。
図12は、横軸に時間をとり、縦軸にSTCをとって、通常再生時及び特殊再生(3−2プルダウン再生及び1/2スルー再生)時のSTCの経時変化を示す図である。この図12に示すように、通常、STCは時間の経過とともに単調に増加する。ここで、通常再生時(ノーマルプレイ)のSTCの増加量の傾きを1とすると、3−2プルダウン再生時は傾き2/3、1/2スロー再生時は傾き1/2、3−2プルダウンかつ1/2スロー再生時は1/3とならなければならない。
ところが、従来の復号器では、3−2プルダウンかつ1/2スロー再生が、1/2スロー再生となってしまうので、STCの増加量が本来よりもΔSTCだけ大きくなってしまう。従って、時刻tで1/2スロー再生を解除し、3−2プルダウンかつ1/2」スロー再生から3−2プルダウンのみの再生に切換えた場合は、ΔSTC分減算するか、新しいPTSを使って強制的にSTCを修正する必要があった。本実施の形態では、スロー再生から通常の再生に戻したときに、STCを修正する必要がなく、再生速度を戻したときにSTCを修正するという余分な処理が不要になる。
なお、上記の例では1/2スロー再生の場合についてのみ説明したが、例えば図13に示すリピートファーストフィールドフラグ及びスロー再生命令フラグと表示フィールド数との関係を示すテーブルを用いて表示フィールド数を決定することにより、3−2プルダウン再生、1/2スロー再生、1/3スロー再生、1/4スロー再生及び1/8スロー再生が可能になる。
また、上記の実施の形態では、ピクチャの復号化をV-Syncに同期して行っているが、第1の実施の形態に示すようにV-Syncに同期させなくてもよい。
図1は本発明の第1の実施の形態のMPEGビデオ復号器を示すブロック図である。 図2は本発明の第1の実施の形態のMPEGビデオ復号器の動作を示すタイミングチャートである。 図3は、垂直同期信号V-Syncに同期してビットストリームの復号化を開始するMPEGビデオ復号器と本発明の第1の実施の形態のMPEGビデオ復号器とのエラーコンシールメントが発生しやすさを比較するための図である。 図4は、本発明の第1の実施の形態のMPEGビデオ復号器の表示ポーズ時の動作を示すタイミングチャートである。 図5は、本発明の第2の実施の形態のMPEGビデオ復号器を示すブロック図である。 図6は、本発明の第2の実施の形態の表示制御部を示すブロック図である。 図7は、本発明の第2の実施の形態の復号制御部の動作を示すフローチャートである。 図8は、本発明の第2の実施の形態の表示制御部の動作を示すフローチャートである。 図9は、本発明の第2の実施の形態の表示フィールド数算出方法を示す図である。 図10は、本発明の第2の実施の形態のMPEGビデオ復号器の動作を示すタイミングチャート(その1)である。 図11は、本発明の第2の実施の形態のMPEGビデオ復号器の動作を示すタイミングチャート(その2)である。 図12は、通常再生時及び特殊再生(3−2プルダウン再生及び1/2スルー再生)時のSTCの経時変化を示す図である。 図13は、3−2プルダウン再生、1/2スロー再生、1/3スロー再生、1/4スロー再生及び1/8スロー再生を実現するためのテーブルを示す図である。 図14は、MPEGのビットストリームの構造を示す模式図である。 図15は、MPEGビデオ符号器を示すブロック図である。 図16は、従来のMPEGビデオ復号器(その1)を示すブロック図である。 図17は3−2プルダウンによるテレシネ変換を示す模式図である。 図18は、従来のMPEGビデオ復号器(その2)を示すブロック図である。 図19は、図18のMPEGビデオ復号器の表示制御部の構成を示すブロック図である。 図20は、図18のMPEGビデオ復号器の動作を示すタイミングチャート(その1)である。 図21は、図18のMPEGビデオ復号器の動作を示すタイミングチャート(その2)である。 図22は、図18のMPEGビデオ復号器で3−2プルダウン再生と1/2スルー再生とを実行したときの動作を示すタイミングチャート(その1)である。 図23は、図18のMPEGビデオ復号器で3−2プルダウン再生と1/2スルー再生とを実行したときの動作を示すタイミングチャート(その2)である。
符号の説明
10,60,110,160…入力端子、
11,61,111,161…ビットストリームバッファ、
12,62,112,162…画像復号化部、
13,63,113,163…復号フレームバッファ、
14…復号開始命令発生部、
14a…復号制御部、
14b,64…復号スイッチ、
15,65…ピクチャデータ出力部、
15a,65a…表示制御部、
15b,65b…表示スイッチ、
15c,65c…表示バッファ、
16,66…表示装置、
21…復号開始許可、
22,72…復号開始命令、
23…復号完了通知、
24…バッファフル通知、
25…ビットストリーム転送通知、
26,76…表示タイムスタンプ(PTS)、
27…ポーズ命令、
28,71…垂直同期信号V-Sync、
29,73…転送命令、
31…シーケンスヘッダ、
32…GOPヘッダ、
33…ピクチャヘッダ、
34…ピクチャデータ、
35…シーケンス終了コード、
41…ピクチャ並び替え部、
42…動き推定部、
43,51…加算器、
44…離散コサイン変換部(DCT)、
45…量子化部、
46…可変長符号化部、
47…多重化部、
49…逆量子化部、
50…逆離散コサイン変換部(IDCT)、
52…ピクチャ蓄積部、
53…動き予測部、
114,164…復号制御部、
115,165…表示制御部、
115a,165a…リオーダレジスタ、
115b,165b…カレントレジスタ、
115c,165c…フィールドディレイレジスタ、
115d,165d…ディスプレイレジスタ、
115e…V-Sync計数カウンタ、
115f…表示フィールド数算出部、
116…ステイタスレジスタ。

Claims (10)

  1. 復号開始命令によりMPEGビットストリームの復号化を開始する画像復号化部と、
    前記画像復号化部で復号化されたピクチャデータを格納する復号フレームバッファと、
    前記画像復号化部で復号化されたピクチャデータに付随するリピートファーストフィールドフラグ及びピクチャ毎に与えられるスロー再生フラグに応じて前記復号フレームバッファから表示装置への前記ピクチャデータの転送を制御する表示制御部と、
    前記表示制御部の状態が予め設定された状態のときに前記復号開始命令を出力する復号制御部とを有し、
    前記表示制御部は、予め前記リピートファーストフィールドフラグ及び前記スロー再生フラグと前記表示フィールド数との関係を示すテーブルを記憶しており、該テーブルを参照して所定のピクチャ毎にピクチャの表示フィールド数を決定し、前記表示フィールド数に相当する時間だけ前記ピクチャを前記表示装置に表示させることを特徴とするMPEGビデオ復号器。
  2. 前記ピクチャデータに付随するリピートファーストフィールドフラグ及びピクチャ毎に与えられるスロー再生フラグには3−2プルダウン再生、1/2スロー再生、1/3スロー再生、1/4スロー再生及び1/8スロー再生のいずれかを指示する特殊再生フラグを含むことを特徴とする請求項1に記載のMPEGビデオ復号器。
  3. 前記表示制御部は、Iピクチャ又はPピクチャのパラメータ及びバンクアドレスを記憶するリオーダレジスタと、次に表示するピクチャのパラメータ及びバンクアドレスを記憶するカレントレジスタと、前記カレントレジスタからシフトされたパラメータ及びバンクアドレスを1フィールド時間だけ遅延させるフィールドディレイレジスタと、現在表示中のピクチャのパラメータ及びバンクアドレスを記憶するディスプレイレジスタとの4つのシフトレジスタを有することを特徴とする請求項1に記載のMPEGビデオ復号器。
  4. 前記リオーダレジスタ及び前記カレントレジスタは前記復号開始命令をシフトパルスとし、前記フィールドディレイレジスタ及び前記ディスプレイレジスタは垂直同期信号をシフトパルスとすることを特徴とする請求項3に記載のMPEGビデオ復号器。
  5. 前記リオーダレジスタ、前記カレントレジスタ、前記フィールドディレイレジスタ及び前記ディスプレイレジスタの状態を示すステイタスレジスタを有することを特徴とする請求項3に記載のMPEGビデオ復号器。
  6. 前記復号制御部は前記ステイタスレジスタの状態を参照して、前記リオーダレジスタ又は前記カレントレジスタにデータが格納されていないときに前記復号開始命令を発行することを特徴とする請求項5に記載のMPEGビデオ復号器。
  7. 前記復号制御部は、垂直同期信号に同期したタイミングで前記ステイタスレジスタを参照することを特徴とする請求項6に記載のMPEGビデオ復号器。
  8. 前記表示制御部は、前記ステイタスレジスタの状態を参照して、前記ディスプレイレジスタにパラメータ及びバンクアドレスが格納されたときに前記パラメータから前記表示フィールド数を決定することを特徴とする請求項5に記載のMPEGビデオ復号器。
  9. 前記表示制御部は、垂直同期信号に同期したタイミングで前記ステイタスレジスタを参照することを特徴とする請求項8に記載のMPEGビデオ復号器。
  10. 復号制御部から出力される復号開始命令によりMPEGビットストリームの復号化を開始し、
    復号化したピクチャデータを復号フレームバッファに格納し、
    前記復号化したピクチャデータに付随するリピートファーストフィールドフラグ及びピクチャ毎に与えられるスロー再生フラグを表示制御部に格納して、前記表示制御部において前記リピートファーストフィールドフラグ及び前記スロー再生フラグからピクチャ毎に表示フィールド数を決定し、各ピクチャを表示フィールド数に相当する時間だけ表示装置に表示するMPEGビデオ復号方法であって、
    前記表示制御部は、予め前記リピートファーストフィールドフラグ及び前記スロー再生フラグと前記表示フィールド数との関係を示すテーブルを記憶し、該テーブルを参照して所定のピクチャ毎にピクチャの表示フィールド数を決定することを特徴とするMPEGビデオ復号方法。
JP2008119912A 1998-12-10 2008-05-01 Mpegビデオ復号器及びmpegビデオ復号方法 Expired - Fee Related JP4769268B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008119912A JP4769268B2 (ja) 1998-12-10 2008-05-01 Mpegビデオ復号器及びmpegビデオ復号方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP1998350893 1998-12-10
JP35089398 1998-12-10
JP2008119912A JP4769268B2 (ja) 1998-12-10 2008-05-01 Mpegビデオ復号器及びmpegビデオ復号方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP7653099A Division JP2000232649A (ja) 1998-12-10 1999-03-19 Mpegビデオ復号器及びmpegビデオ復号方法

Publications (2)

Publication Number Publication Date
JP2008236784A JP2008236784A (ja) 2008-10-02
JP4769268B2 true JP4769268B2 (ja) 2011-09-07

Family

ID=18413617

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008119912A Expired - Fee Related JP4769268B2 (ja) 1998-12-10 2008-05-01 Mpegビデオ復号器及びmpegビデオ復号方法

Country Status (2)

Country Link
JP (1) JP4769268B2 (ja)
KR (1) KR100589020B1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030061879A (ko) * 2002-01-12 2003-07-23 삼성전자주식회사 비터비 복호화를 위한 심볼입력 장치
CN113328998B (zh) * 2021-05-14 2023-02-21 维沃移动通信有限公司 影像数据传输的方法和电子设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2268667B (en) * 1992-06-24 1995-11-08 Sony Broadcast & Communication Serial data decoding
JP3531186B2 (ja) * 1992-09-18 2004-05-24 ソニー株式会社 ビデオ信号符号化方法及び装置
JP3427416B2 (ja) * 1993-05-25 2003-07-14 ソニー株式会社 多重化データ分離装置および方法
JPH0779411A (ja) * 1993-09-06 1995-03-20 Sony Corp 画像信号再生方法および画像信号再生装置、ならびに 画像信号記録媒体
JP3824678B2 (ja) * 1995-05-09 2006-09-20 株式会社ルネサステクノロジ 画像復号表示装置
JP3301274B2 (ja) * 1995-06-20 2002-07-15 株式会社日立製作所 符号化映像データの復号装置
JPH0993577A (ja) * 1995-09-28 1997-04-04 Toshiba Corp 動画像デコード装置
JPH1023375A (ja) * 1996-07-04 1998-01-23 Matsushita Electric Ind Co Ltd 順次ディジタルビデオ復号化装置
KR100198541B1 (ko) * 1996-08-26 1999-06-15 구자홍 영상 프레임 데이터를 일 메모리에 저장하는 방법
JPH1093917A (ja) * 1996-09-11 1998-04-10 Fujitsu Ltd 画像処理装置
US6128340A (en) * 1997-03-14 2000-10-03 Sony Corporation Decoder system with 2.53 frame display buffer

Also Published As

Publication number Publication date
KR20000047482A (ko) 2000-07-25
KR100589020B1 (ko) 2006-06-13
JP2008236784A (ja) 2008-10-02

Similar Documents

Publication Publication Date Title
US6628719B1 (en) MPEG video decoder and MPEG video decoding method
KR100232992B1 (ko) 동화상 디코딩 회로
US5739862A (en) Reverse playback of MPEG video
US7460599B2 (en) Video decoding device and method, and program product therefor
US6118491A (en) System and method for enforcing interlaced field synchronization in the presence of broken alternation in an MPEG video datastream
US20070147517A1 (en) Video processing system capable of error resilience and video processing method for same
JP2000224591A (ja) 統合ビデオ復号化システム、フレ―ム・バッファ、符号化ストリ―ム処理方法、フレ―ム・バッファ割当て方法及び記憶媒体
JP2008072336A (ja) 復号装置および復号方法
JP3356078B2 (ja) 圧縮ストリーム復号装置および圧縮ストリーム復号方法
JPH09200695A (ja) 高速再生のためのビデオデータの復号化方法及びその装置
JP4769268B2 (ja) Mpegビデオ復号器及びmpegビデオ復号方法
JP2000217109A (ja) 動画像再生装置及び再生方法
US6128340A (en) Decoder system with 2.53 frame display buffer
JPH08116532A (ja) 画像復号化方式および装置
JP4591549B2 (ja) 再生処理装置、および再生処理方法、並びにプログラム
JP3570785B2 (ja) 動画像伸張再生方法および装置
US6459736B1 (en) Moving picture decoding apparatus and method
JP3652994B2 (ja) データ入出力装置
JPH099258A (ja) 符号化映像データの復号装置
JP3017646B2 (ja) フレームレート変換機能付き画像復号装置
JPH08163570A (ja) 低遅延モード画像復号方法および装置
van Gassel et al. MPEG-2 compliant trick play over a digital interface
KR100425136B1 (ko) 비디오 디코딩 시스템
JP2885219B2 (ja) 動画像復号化方法及び装置
JPH08298666A (ja) 画像処理装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080731

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110111

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110617

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140624

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees