JP3864098B2 - 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体 - Google Patents

動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP3864098B2
JP3864098B2 JP2002032179A JP2002032179A JP3864098B2 JP 3864098 B2 JP3864098 B2 JP 3864098B2 JP 2002032179 A JP2002032179 A JP 2002032179A JP 2002032179 A JP2002032179 A JP 2002032179A JP 3864098 B2 JP3864098 B2 JP 3864098B2
Authority
JP
Japan
Prior art keywords
occurrence frequency
frame
encoding
frequency
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002032179A
Other languages
English (en)
Other versions
JP2003235044A (ja
Inventor
英明 木全
由幸 八島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2002032179A priority Critical patent/JP3864098B2/ja
Publication of JP2003235044A publication Critical patent/JP2003235044A/ja
Application granted granted Critical
Publication of JP3864098B2 publication Critical patent/JP3864098B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、動画像符号化及び動画像復号に関する技術である。
【0002】
【従来の技術】
一般的に動画像符号化では時間方向の相関を使って高い符号化効率を実現するため、フレーム間予測符号化を用いている。フレームの符号化モードには、フレーム間の相関を使わずに符号化するIフレームと、過去に符号化した1フレームから予測するPフレームと、過去に符号化した2フレームから予測することができるBフレームがある。Pフレームでは、IフレームまたはPフレームから予測し、Bフレームでは、IフレームまたはPフレームまたはBフレームから予測することができる。特に映像符号化方式H.263では参照画像メモリに複数フレーム分の復号画像を蓄積しておき、そのメモリから参照画像を選択して予測することができる。
【0003】
また、Pフレームは入力動画像における時間を過去のフレームから予測するが、Bフレームでは過去のフレームだけではなく未来のフレームから予測することができる。
【0004】
図7−(a)に動画像の予測関係の例を示す。Bフレームで2フレームから予測する場合(両方向予測)には、2フレームからの画像情報を補間して、1フレーム分の画像情報を作成して予測画像を作成する。第1フレームから第7フレームの符号化モードをIBBPBBPの順序で符号化する場合には、図7−(a)に示す予測関係があるため、実際に符号化する場合には、図7−(b)に示すように1423756の順序でフレームを符号化する。
【0005】
また、Iフレームを先頭にしたフレームの集合をGOPに設定することにより、GOP単位の符号化データのランダムアクセス機能を容易に実現できる。GOPは、特定のフレームまたはフィールドの符号化データの前に、GOP先頭であることを示す情報を含めることによって、そのフレームまたはフィールドが、そのフレームまたはフィールド以降の複数フレームまたはフィールドで構成されるGOPの先頭であることを指定することが可能である。MPEG−2では特有なビットパターンを持つ符号を挿入することによりGOPの先頭であることを指定する。GOPの先頭であることを示す符号間で1GOPの符号化データを構成することができる。なお、符号化データ中にGOPの先頭であることを示す情報を符号化するのではなく、符号化データ外でGOP構成情報を指定することも可能である。
【0006】
また、インタレース動画像は1フレーム内に2フィールド持つ構成となるが、同様に各フィールド毎に予測関係を設定することができる。
【0007】
さらに画像を分割した、例えばマクロブロックのような領域毎に、これらの符号化モードを指定することができる。映像符号化方式H.263では、Iフレーム内ではフレーム内画像情報のみを使って符号化するIマクロブロックのみある。Pフレーム内ではIマクロブロックの他に過去に符号化した1フレームから予測するPマクロブロックがある。マクロブロック毎に参照する画像を変更することも可能である。Bフレーム内では、Iマクロブロックの他にBマクロブロックがある。BマクロブロックではPマクロブロックと同様に過去に符号化した1フレームから予測する前方向予測モードまたは逆方向予測モードと、2フレームから予測する両方向予測モードがある。
【0008】
また、各フレームの符号化情報をエントロピー符号化する方法に算術符号化を使う方法がある。JBIGやJBIG2やJPEG2000では、符号化シンボル毎に2値化してContext Modelを設定し、Context Model毎の発生頻度情報を使って符号化データを符号化する。ITU−T勧告の動画像符号化方式H.264(現時点ではH.26Lと呼ばれている)のテストモデルTML−9では、フレーム毎にマクロブロック符号化シンボルにContext Modelを設定して算術符号化する方法が規定されている。発生頻度情報としては、例えばJBIG2では国際標準文書(ISO/IEC 14492)に記載の、Qe値とA−registerとC−registerの値が該当する。
【0009】
これらの映像符号化方法ではフレーム毎にContext Modelの発生頻度情報を初期化して算術符号化する。Context Modelの発生頻度はフレーム内でマクロブロック番号が大きくなるほど安定するため符号化効率が高くなる。
【0010】
【発明が解決しようとする課題】
時間方向の相関性が高いフレーム間では、Context Model毎の発生確率も相関性が高い。従来のようにフレーム毎に初期化をする方法では、フレーム後半で安定した発生頻度になっているにも関わらず、次のフレームの先頭では初期値を使うため符号化効率が低下する問題がある。
【0011】
本発明は、上記従来の問題点を解決し、Context Model毎の発生頻度情報を使って、高い符号化効率で符号化データを符号化し、復号することができる動画像符号化方法と装置、及び動画像復号方法と装置を提供することを課題とする。
【0016】
【課題を解決するための手段】
以上の課題を解決するために、請求項1の発明は、Context Modelを使った算術符号化を使用して動画像を符号化する方法であって、発生頻度初期化手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、発生頻度蓄積手段が、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生類度蓄積手順で蓄積された発生頻度に設定する手順と、発生頻度予備蓄積手段が、フレームまたはフィールドの符号化終了時に前記発生頻度蓄積手段によって蓄積されている発生頻度情報を複写して蓄積する手順と、発生頻度予備指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生頻度予備蓄積手段で蓄積された発生頻度に設定する手順と、を有し、フレームまたはフィールドの符号化開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち、発生頻度情報によって算術される符号量が最も少なくなる手段を選択し、該選択した結果を示す情報を符号化する特徴とする。
【0018】
また、請求項2の発明は、Context Modelを使った算術符号化を使用して動画像を符号化する方法であって、発生頻度初期化手段が、フレームまたはフィールドの符号化モードとして、フレーム内符号化、前方向予測フレーム間符号化、両方向予測フレーム間符号化のうち参照画像との間の予測誤差が最も小さいものを選択し、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、発生頻度蓄積手段が、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度両方向蓄積手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生類度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、発生頻度両方向指定手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生頻度両方向蓄積手段で蓄積された発生頻度に設定する手順と、を有し、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時には、発生頻度初期化手段または発生頻度指定手段のうち、発生頻度によって算術される符号量が最も少なくなる手段を選択し、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時には、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち、発生頻度によって算術される符号量が最も少なくなる手段を選択する特徴とする。
【0019】
また、請求項3の発明は、請求項2に記載の動画像符号化方法であって、フレームまたはフィールドの符号化開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れを使用したのかを示す情報を符号化する特徴とする。
【0023】
また、請求項4の発明は、Context Modelを使った算術符号化を使用して動画像符号化データを復号する方法であって、発生頻度初期化手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、発生頻度蓄積手段が、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、発生頻度予備蓄積手段が、フレームまたはフィールドの復号終了時に、前記発生頻度蓄積手段によって蓄積されている発生頻度情報を複写して蓄積する手順と、発生頻度予備指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度予備蓄積手段で蓄積された発生頻度に設定する手順と、を有し、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち何れを使用して復号できるのかを示す符号化情報を復号し、その情報に従って発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち何れを使用するかを選択する特徴とする。
【0025】
また、請求項5の発明は、Context Modelを使った算術復号を使用して動画像を復号する方法であって、発生頻度初期化手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、発生頻度蓄積手段が、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度両方向蓄積手段が、両方向予測フレーム間符号を使用した、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、発生頻度指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、発生頻度両方向指定手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度両方向蓄積手段で蓄積された発生頻度に設定する手順と、を有し、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段のうち何れかを選択し、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れかを選択するにあたり、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れを使用して復号できるのかを示す符号化情報を復号し、その情報に従って選択する特徴とする。
【0027】
また、請求項6の発明は、請求項1から3のいずれか1項に記載の動画像符号化方法における手順を、コンピュータに実行させるためのプログラムとした特徴とする。
【0028】
また、請求項7の発明は、請求項1から3のいずれか1項に記載の動画像符号化方法における手順を、コンピュータに実行させるためのプログラムとし、該プログラムを、該コンピュータが読み取りできる記録媒体に記録した特徴とする。
【0029】
また、請求項8の発明は、請求項4または5のいずれか1項に記載の動画像復号方法における手順を、コンピュータに実行させるためのプログラムとした特徴とする。
【0030】
また、請求項9の発明は、請求項4または5のいずれか1項に記載の動画像復号方法における手順を、コンピュータに実行させるためのプログラムとし、該プログラムを、該コンピュータが読み取りできる記録媒体に記録した特徴とする。
【0035】
請求項1及び請求項4に記載の発明によれば、過去に符号化した2フレーム分の発生頻度を蓄積しておき、フレームまたはフィールド開始時に、蓄積しておいた発生頻度の中から1つを選択することができる。これにより、例えば、最も符号量の少ない発生頻度を選択して使用することができ、符号化効率を向上させることができる。
【0036】
また、請求項1及び請求項4に記載の発明によれば、過去に符号化した2フレーム分の発生頻度を蓄積しておき、フレームまたはフィールド開始時に、蓄積しておいた発生頻度の中から1つを選択し、どちらを使用したのかを示す情報を符号化することができる。そのため、復号側で、フレームまたはフィールドを復号する時に、この情報に従って発生頻度を選択することができる。
【0037】
請求項2及び請求項5に記載の発明によれば、Iフレーム(フィールド)またはPフレーム(フィールド)符号化時の初期化において、予め設定した初期値や直前のフレーム(フィールド)符号化終了時の発生頻度情報を使用するのではなく、それ以前に符号化したIまたはPフレームの終了時の発生頻度を使用することができる。これによりBフレーム(フィールド)を交えて符号化する場合に、Bフレーム(フィールド)後の、Iフレーム(フィールド)またはPフレーム(フィールド)の符号化時において、過去のIまたはPフレーム(フィールド)符号化終了時の発生頻度を使用することができ、符号化効率を向上させることができる。例えば図7−(b)の順序で符号化された場合に、2番目のPフレームを符号化する時に、直前のBフレーム符号化終了時の発生頻度を使用するのではなく、1番目のPフレーム符号化終了時の発生頻度を使用することができる。また、この発明によれば、Bフレームフィールド)の復号を行わずにフレーム(フィールド)とPフレーム(フィールド)のみ復号する場合において、Iフレーム(フィールド)またはPフレーム(フィールド)の初期化処理を直前に復号したフレーム(フィールド)の発生頻度で行うことができる。そのため、映像の早送り再生などでBフレーム(フィールド)の復号を行わない、復号処理の軽減をすることができる。
【0038】
また、請求項3及び請求項5に記載の発明によれば、過去に符号化した発生頻度を蓄積しておき、フレームまたはフィールド開始時に、蓄積しておいた発生頻度の中から1つを選択し、どちらを使用したのかを示す情報を符号化することができる。そのため、復号側で、フレームまたはフィールドを復号する時に、この情報に従って発生頻度を選択することができる。
【0039】
【発明の実施の形態】
以下、本発明の実施形態例を図面を参照して説明する。
【0040】
本発明の第1の実施形態例として、フレーム符号化終了時に発生頻度情報を蓄積するメモリが1フレーム分のみあり、次のフレーム符号化開始時に発生頻度情報の初期化を行うか、蓄積した発生頻度情報を使うのかを選択する場合の例を示す。どちらを使用したのかを示す情報を符号化するものとする。フレームはマクロブロックに分割され、マクロブロック毎に動き補償とDCT(離散コサイン変換)を行うものとする。
【0041】
動画像符号化装置の構成図を図1に示す。前フレームとの類似度を判定するフレーム類似度判定部109と、フレーム類似度に従って発生頻度を初期化するかどうかを決定する初期化決定部108と、初期化したかどうかを示す初期化情報を符号化する初期化情報符号化部110と、マクロブロック毎に、動き補償を行うかどうかを示す符号化モードを決定する符号化モード決定部101と、動き補償を行う動き補償部102と、動き補償を行った場合には予測誤差をDCTし、行わなかった場合には画像情報をDCTし、DCT係数を2次元可変長符号化する予測誤差符号化部103と、符号化モードと動きベクトルとDCT係数をContext Model毎に2値化して算術符号化を行う算術符号化部104と、フレーム内の全マクロブロックの算術符号化が終了した時の各ContextModelの発生頻度情報を蓄積する発生頻度蓄積部105と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、で構成される。
【0042】
フレーム類似度判定部109では、フレーム類似度を2フレーム間の各画素の、絶対値差分和の大きさから決定する。絶対値差分和が予め設定した閾値よりも大きい場合にはフレーム類似度が小さいと判定し、閾値よりも小さい場合にはフレーム類似度か大きいと判定する。また、初期化決定部108は、フレーム類似度が小さい場合には初期化を行い、大きい場合に初期化を行わない。
【0043】
符号化モード決定部101では、Pフレームでは1つの参照画像との間で動き探索を行って動きベクトルと予測誤差を求め、予測誤差が予め設定した閾値よりも大きい場合には符号化モードを動き補償を行わないイントラモードに決定し、予測誤差が小さい場合には符号化モードを動き補償を行う前予測モードに決定する。Bフレームでは2つの参照画像との間でそれぞれ動き探索を行って動きベクトルと予測画像を求め、第1の参照画像との間の予測誤差(第1予測誤差)と第2の参照画像との間の予測誤差(第2予測誤差)と両方向予測誤差を求め、全ての予測誤差が予め設定した閾値よりも大きい場合には符号化モードを動き補償を行わないイントラモードに決定し、いずれかの予測誤差が予め設定した閾値よりも小さい場合には、符号化モードを、最も値の小さい予測誤差となる動き補償を行うモードに決定する。第1予測誤差が最も小さい場合には前予測モードにし、第2予測誤差が最も小さい場合には後予測モードにし、両方向予測誤差が最も小さい場合には両予測モードに決定する。
【0044】
算術符号化部104では、符号化モードと動きベクトルとDCT係数の2次元可変長符号の値を2進数で表現し、各情報の2の補数位置をContext Modelとする。Context Model毎にMQ−coderで算術符号化する。MQ−coderは、JBIG2で採用されている算術符号化の方法である。MQ−coderで使用する、発生頻度蓄積部105には各Context Modelの発生頻度情報を蓄積する。
【0045】
このような前提の下で図7−(b)の順序で動画像を符号化する場合の各部による処理の手順を示す。
【0046】
第1フレームでは発生頻度情報を初期化する。初期化情報を符号化する。Iフレームであるため全マクロブロックで符号化モード決定部101はイントラモードに決定し、画像情報をDCTして2次元可変長符号化する。算術符号化部104は各マクロブロックの符号化モードと2次元可変長符号化データを算術符号化する。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0047】
第2フレームではフレーム類似度判定部109で第1フレームとの間のフレーム類似度を判定する。初期化決定部108は、フレーム類似度が大きい場合には、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術符号化部104で使用する発生頻度の初期値に設定する。フレーム類似度が小さい場合には、発生頻度初期化部106により算術符号化部104で使用する発生頻度の初期値を予め設定されている初期値に設定する。Pフレームであるため符号化モード決定部101はイントラモードまたは前予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。算術符号化部104は各マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は発生頻度情報を蓄積する。
【0048】
第3フレームではフレーム類似度判定部109で第2フレームとの間のフレーム類似度を判定する。初期化決定部108は、フレーム類似度が大きい場合には、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術符号化部104で使用する発生頻度の初期値に設定する。フレーム類似度が小さい場合には、発生頻度初期化部107により算術符号化部104で使用する発生頻度の初期値を予め設定されている初期値に設定する。Bフレームであるため符号化モード決定部101はイントラモードまたは前予測モードまたは後予測モードまたは両予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードまたは後予測モードまたは両予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。算術符号化部104は各マクロブロックの符号化モードと2種類の動きベクトル(前方向動きベクトルと後方向動きベクトル)と2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。前予測モードでは後方向動きベクトルを算術符号化せず、後予測モードでは前方向動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は発生頻度情報を蓄積する。
【0049】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0050】
以上の処理により図7−(b)の順序で7枚のフレームを符号化する。
【0051】
次に、ここで作成された符号化データを復号する手順を示す。
【0052】
動画像復号装置の構成例を図2に示す。発生頻度情報を初期化するかどうかを示す初期化情報を復号する初期化情報復号部114と、マクロブロック毎に、符号化モードと動きベクトルとDCT係数2次元可変長符号を算術復号する算術復号部111と、符号化モードから動きベクトルを算術復号するかどうかを決定する符号化モード判定部112と、2次元可変長符号からDCT係数を復号する予測誤差復号部113と、符号化モードで動き補償をすると判定された場合には動き補償を行う動き補償部102と、フレーム内の全マクロブロックの算術符号化が終了した時の各Context Modelの発生頻度情報を蓄積する発生頻度蓄積部105と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、で構成される。
【0053】
このような構成の元で次のように復号される。
【0054】
第1フレームで、まず初期化情報を復号する。初期化情報により、発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定する。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードであるため動きベクトルを復号しないと判定する。算術復号部111は動きベクトルを復号しない。算術復号部111は2次元可変長符号を復号する。予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0055】
第2フレームで、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードである場合には動きベクトルを復号すると判定する。この場合、算術復号部111は動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は発生頻度情報を蓄積する。
【0056】
第3フレームで、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードまたは後予測モードである場合には1つ動きベクトルを復号すると判定する。この場合、算術復号部111は1つ動きベクトルを復号する。符号化モードが両予測モードである場合には2つ動きベクトルを復号すると判定する。この場合、算術復号部111は2つ動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードまたは後予測モードまたは両予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は発生頻度情報を蓄積する。
【0057】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0058】
以上の処理により図7−(b)の順序で7枚のフレームを復号する。
【0059】
以上のように第1の実施形態例によれば、フレーム毎に算術符号化の発生頻度情報を初期化するかどうかを決定しながら、動画像を符号化することができる。また初期化するかどうかの情報を符号化データ中に含めるため、復号側でも正確に算術復号を行え、復号画像を得ることができる。
【0060】
なお、本実施形態例では、フレーム類似度によって発生頻度情報を初期化するかどうかを判定し、初期化するかどうかの情報を符号化したが、この情報を符号化せず、フレームの符号化モードに従って、初期化するかどうかを判定することも可能である。例えば、第1フレームのIフレームのみ初期化を行い、途中の第2フレームから第7フレームまでのPフレームまたはBフレームでは初期化を行わない。この場合には初期化するかどうかの情報を符号化しなくてもよく、符号化効率を向上させることができる。また特定の符号化モードのフレームのみ、初期化するかどうかの情報を符号化する方法も可能である。
【0061】
さらに、本実施形態例の構成にフレーム符号化終了時に発生頻度情報を蓄積するかどうかを選択する仕組みを備えると、特定の符号化モードのフレームのみ発生頻度情報を蓄積することも可能である。例えばIフレームとPフレーム符号化終了時のみ発生頻度情報を蓄積するようにすると、第5フレームのPフレームを符号化開始時に、第2フレームのPフレーム符号化終了時の発生頻度情報を初期値とすることができる。この方法によれば、動画像の早送り再生の時に、途中のBフレームを復号せずにIフレームとPフレームのみ復号することが可能である。ただし、この構成では、第4フレームのBフレームの符号化に第3フレームのBフレーム符号化終了時の発生頻度情報を使うことはできない。
【0062】
なお、動画像符号化装置に、フレーム符号化終了時に発生頻度情報を蓄積するかどうかを指定する情報を符号化する仕組みを備え、動画像復号装置に、この情報を復号する仕組みを備えると、符号化モードとは無関係に発生頻度情報の蓄積をするかどうかを選択することができ、符号化郊率がよくなるように、発生頻度を蓄積することができる。
【0063】
また、GOPの先頭かどうかに従って、初期化するかどうかを判定することも可能である。例えば本実施形態例の7フレームが1GOPを構成する場合には、GOPの先頭フレームである第1フレームのみ初期化を行い、途中の第2フレームから第7フレームまでは初期化を行わない。この場合にも初期化するかどうかの情報を符号化しなくてもよく、符号化効率を向上させることができる。
【0064】
また、本実施形態例ではフレームの符号化の例を示したが、インタレース動画像においてはフィールドの符号化に適用しても良い。また、本実施形態例ではフレーム間予測符号化を使用した動画像符号化の動作を示したが、フレーム内符号化のみで構成される動画像符号化に適用しても良い。
【0065】
次に、本発明の第2の実施形態例として、フレーム符号化終了時の発生頻度情報を蓄積するメモリが2フレーム分あり、次のフレーム符号化開始時に発生頻度情報の初期化を行うか、あるいは蓄積した2種類の発生頻度情報をうち、どちらを使うのかを選択する場合の例を示す。
【0066】
動画像符号化装置の構成図を図3に示す。フレーム内の全マクロブロックの算術符号化が終了した時の各Context Modelの発生頻度情報を蓄積する発生頻度蓄積部105と、前フレーム符号化終了時に発生頻度蓄積部105に蓄積された発生頻度情報を再度蓄積する発生頻度予備蓄積部116と、発生頻度蓄積部105に蓄積している発生頻度情報(以後P1と呼ぶ)と発生頻度予備蓄積部116に蓄積している発生頻度情報(以後P2と呼ぶ)と予め設定されている初期値のうち、どれが最も符号化効率が高いかを判定する発生頻度類似度判定部117と、発生頻度類似度に従って発生頻度をP1に設定するのかP2に設定するのか初期化するのかのいずれかを決定する初期化決定部108と、初期化したかどうか、また発生頻度をP1に設定したのかP2に設定したのかを示す初期化情報を符号化する初期化情報符号化部110と、マクロブロック毎に、動き補償を行うかどうかを示す符号化モードを決定する符号化モード決定部101と、動き補償を行う動き補償部102と、動き補償を行った場合には予測誤差をDCTし、行わなかった場合には画像情報をDCTし、DCT係数を2次元可変長符号化する予測誤差符号化部103と、符号化モードと動きベクトルとDCT係数をContext Model毎に2値化して算術符号化を行う算術符号化部104と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、発生頻度情報を発生頻度予備蓄積部116に蓄積されている値に設定する発生頻度予備指定部115と、で構成される。
【0067】
発生頻度類似度判定部117と初期化決定部108と初期化情報符号化部110以外の動作は第1の実施形態例と同様である。発生頻度類似度判定部117では、現フレーム先頭マクロブロックを、発生頻度蓄積部105に蓄積された発生頻度情報を使って算術符号化した符号量B1と、発生頻度予備蓄積部116に蓄積された発生頻度情報を使って算術符号化した符号量B2と、発生頻度情報を初期化して算術符号化した符号量B3を求める。初期化決定部108では、発生頻度類似度判定部117で求めた符号量を比較し、最も値の小さい方法を初期化方法に決定する。初期化情報符号化部110では、初期化情報として、予め設定した初期値で初期化するかどうかの情報1ビット(1の場合には初期化し、0の場合には初期化しない)を符号化する。この情報が0の場合には更に、発生頻度蓄積部105に蓄積された発生頻度情報を使うか、または発生頻度予備蓄積部116に蓄積された発生頻度情報を使うのかを示す情報1ビットを符号化する。符号は前者の場合には0、後者の場合には1とする。
【0068】
このような前提の下で図7−(b)の順序で動画像を符号化する場合の各部による処理の手順を示す。
【0069】
第1フレームでは、Iフレームであるため全マクロブロックで符号化モード決定部101はイントラモードに決定し、画像情報をDCTして2次元可変長符号化する。発生頻度情報を予め設定した初期値で初期化する。初期化情報として1を符号化する。算術符号化部104は各マクロブロックの符号化モードと2次元可変長符号化データを算術符号化する。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0070】
第2フレームでは、Pフレームであるため符号化モード決定部101はイントラモードまたは前予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。発生頻度類似度判定部117は、先頭マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを、2種類の初期値で算術符号化し発生符号量(B1,B3)を求める。イントラモードでは動きベクトルを算術符号化しない。初期化決定部108は、B1,B3を比較し発生符号量の少ない方を選択し初期値に決定する。発生頻度初期化部106と、発生頻度指定部107のうち、初期値として選択されたものを実行し、算術符号化部104の初期値とする。算術符号化部104は各マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度予備蓄積部116は発生頻度蓄積部105に蓄積されている発生頻度情報を蓄積する。発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0071】
第3フレームでは、Bフレームであるため符号化モード決定部101はイントラモードまたは前予測モードまたは後予測モードまたは両予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードまたは後予測モードまたは両予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。発生頻度類似度判定部117は、先頭マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを、3種類の初期値で算術符号化し発生符号量(B1,B2,B3)を求める。イントラモードでは動きベクトルを算術符号化しない。初期化決定部108は、B1,B2,B3を比較し発生符号量の少ないものを選択し初期値に決定する。発生頻度初期化部106と、発生頻度指定部107と、発生頻度予備指定部115のうち、初期値として選択されたものを実行し、算術符号化部104の初期値とする。算術符号化部104は各マクロブロックの符号化モードと2種類の動きベクトル(前方向動きベクトルと後方向動きベクトル)と2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。前予測モードでは後方向動きベクトルを算術符号化せず、後予測モードでは前方向動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度予備蓄積部116は発生頻度蓄積部105に蓄積されている発生頻度情報を蓄積する。発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0072】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0073】
以上の処理により図7−(b)の順序で7枚のフレームを符号化する。
【0074】
次に、ここで作成された符号化データを復号する手順を示す。
【0075】
動画像復号装置の構成例を図4に示す。フレーム内の全マクロブロックの算術復号が終了した時の各Context Modelの発生頻度情報を蓄積する発生頻度蓄積部105と、前フレーム復号終了時に発生頻度蓄積部105に蓄積された発生頻度情報を再度蓄積する発生頻度予備蓄積部116と、発生頻度情報を予め設定した初期値で初期化するかどうか、発生頻度蓄積部105に蓄積されている発生頻度情報(P1)で初期化するか、発生頻度予備蓄積部116に蓄積されている発生頻度情報(P2)で初期化するかどうかを示す初期化情報を復号する初期化情報復号部114と、マクロブロック毎に、符号化モードと動きベクトルとDCT係数2次元可変長符号を算術復号する算術復号部111と、符号化モードから動きベクトルを算術復号するかどうかを決定する符号化モード判定部112と、2次元可変長符号からDCT係数を復号する予測誤差復号部113と、符号化モードで動き補償をすると判定された場合には動き補償を行う動き補償部102と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、発生頻度情報を発生頻度予備蓄積部116に蓄積されている値に設定する発生頻度予備指定部115と、で構成される。
【0076】
このような構成の元で次のように復号される。
【0077】
第1フレームで、まず初期化情報を復号する。初期化情報により、発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定する。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードであるため動きベクトルを復号しないと判定する。算術復号部111は動きベクトルを復号しない。算術復号部111は2次元可変長符号を復号する。予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0078】
第2フレームで、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードである場合には動きベクトルを復号すると判定する。この場合、算術復号部111は動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度予備蓄積部116は発生頻度蓄積部105に蓄積されている発生頻度情報を蓄積し、発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0079】
第3フレームでは、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度予備蓄積部116に蓄積されている発生頻度を発生頻度予備指定部115により算術復号部で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いて、マクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードまたは後予測モードである場合には1つ動きベクトルを復号すると判定する。この場合、算術復号部111は1つ動きベクトルを復号する。符号化モードが両予測モードである場合には2つ動きベクトルを復号すると判定する。この場合、算術復号部111は2つ動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードまたは後予測モードまたは両予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度予備蓄積部116は発生頻度蓄積部105に蓄積されている発生頻度情報を蓄積し、発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0080】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0081】
以上の処理により図7−(b)の順序で7枚のフレームを復号する。
【0082】
以上のように第2の実施形態例によれば、フレーム毎に算術符号化の発生頻度情報を初期化するかどうか、または過去に符号化した2フレームの発生頻度情報のうちどちらを使って初期化するかどうかを決定しながら、最も符号化効率が高くなるように動画像を符号化することができる。また初期化するかどうか、また過去に符号化した2フレームの発生頻度情報のうちどちらを使って初期化するのかを示す情報を符号化データ中に含めるため、復号側でも正確に算術復号を行え、復号画像を得ることができる。
【0083】
なお、本実施形態例では、フレーム類似度によって発生頻度情報を初期化するかどうかを判定し、初期化するかどうかの情報を符号化したが、この情報を符号化せず、フレームの符号化モード等に従って、初期化するかどうかを判定することも可能である。
【0084】
また、動画像符号化装置に、フレーム符号化終了時に発生頻度情報を蓄積するかどうかを指定する情報を符号化する仕組みを備え、動画像復号装置に、この情報を復号する仕組みを備える構成も可能である。この構成では、無関係に発生頻度情報の蓄積をするかどうかを選択することができ、符号化効率がよくなるように、発生頻度を蓄積することができる。
【0085】
また、本実施形態例ではフレームの符号化の例を示したが、インタレース動画像においてはフィールドの符号化に適用しても良い。また、本実施形態例ではフレーム間予測符号化を使用した動画像呼号化の動作を示したが、フレーム内符号化のみで構成される動画像符号化に適用しても良い。
【0086】
次に、第3の実施形態例として、Bフレーム符号化終了時の発生頻度情報を蓄積するメモリを別途備え、次のBフレーム符号化開始時に発生頻度情報の初期化を行うか、あるいは蓄積した2種類の発生頻度情報をうち、どちらを使うのかを選択する場合の例を示す。
【0087】
動画像符号化装置の構成図を図5に示す。IフレームまたはPフレーム内の全マクロブロックの算術符号化が終了した時の各Context Modelの発生頻度情報を蓄積する発生頻度蓄積部105と、Bフレーム符号化終了時に発生頻度情報を蓄積する発生頻度両方向蓄積部119と、IフレームまたはPフレームの符号化開始時に、発生頻度蓄積部105に蓄積している発生頻度情報(以後P1と呼ぶ)と予め設定されている初期値のうち、どれが最も符号化効率が高いかを判定し、またBフレームの符号化開始時に、発生頻度蓄積部105に蓄積している発生頻度情報(以後P1と呼ぶ)と発生頻度両方向蓄積部119に蓄積している発生頻度情報(以後P2と呼ぶ)と予め設定されている初期値のうち、どれが最も符号化効率が高いかを判定する発生頻度類似度判定部117と、発生頻度類似度に従って発生頻度をP1に設定するのかP2に設定するのか初期化するのかのいずれかを決定する初期化決定部108と、初期化したかどうか、また発生頻度をP1に設定したのかP2に設定したのかを示す初期化情報を符号化する初期化情報符号化部110と、マクロブロック毎に、動き補償を行うかどうかを示す符号化モードを決定する符号化モード決定部101と、動き補償を行う動き補償部102と、動き補償を行った場合には予測誤差をDCTし、行わなかった場合には画像情報をDCTし、DCT係数を2次元可変長符号化する予測誤差符号化部103と、符号化モードと動きベクトルとDCT係数をContext Model毎に2値化して算術符号化を行う算術符号化部104と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、発生頻度情報を発生頻度両方向蓄積部119に蓄積されている値に設定する発生頻度両方向指定部118と、で構成される。
【0088】
発生頻度類似度判定部117と初期化情報符号化部110以外の動作は第2の実施形態例と同様である。発生頻度類似度判定部117では、現フレーム先頭マクロブロックを、発生頻度蓄積部105に蓄積された発生頻度情報を使って算術符号化した符号量B1と、発生頻度両方向蓄積部119に蓄積された発生頻度情報を使って算術符号化した符号量B2と、発生頻度情報を初期化して算術符号化した符号量B3を求める。初期化情報符号化部110では、IフレームまたはPフレームの場合には、初期化情報として、予め設定した初期値で初期化するかどうかの情報1ビット(1の場合には初期化し、0の場合には初期化しない)を符号化する。Bフレームの場合には、この情報が0の場合には更に、発生頻度蓄積部105に蓄積された発生頻度情報を使うか、または発生頻度両方向蓄積部119に蓄積された発生頻度情報を使うのかを示す情報1ビットを符号化する。符号は前者の場合には0、後者の場合には1とする。発生頻度両方向蓄積部119に蓄積される発生頻度情報は予め指定された初期値に設定されているものとする。
【0089】
このような前提の下で図7−(b)の順序で動画像を符号化する場合の各部による処理の手順を示す。
【0090】
第1フレームでは、Iフレームであるため全マクロブロックで符号化モード決定部101はイントラモードに決定し、画像情報をDCTして2次元可変長符号化する。発生頻度情報を予め設定した初期値で初期化する。初期化情報として1を符号化する。算術符号化部104は各マクロブロックの符号化モードと2次元可変長符号化データを算術符号化する。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0091】
第2フレームでは、Pフレームであるため符号化モード決定部101はイントラモードまたは前予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。発生頻度類似度判定部117は、先頭マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを、2種類の初期値で算術符号化し発生符号量(B1,B3)を求める。イントラモードでは動きベクトルを算術符号化しない。初期化決定部108は、B1,B3を比較し発生符号量の少ない方を選択し初期値に決定する。発生頻度初期化部106と、発生頻度指定部107のうち、初期値として選択されたものを実行し、算術符号化部104の初期値とする。算術符号化部104は各マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0092】
第3フレームでは、Bフレームであるため符号化モード決定部101はイントラモードまたは前予測モードまたは後予測モードまたは両予測モードに決定する。イントラモードの場合には画像情報をDCTして2次元可変長符号化する。前予測モードまたは後予測モードまたは両予測モードの場合には動き補償し、予測誤差をDCTして2次元可変長符号化する。発生頻度類似度判定部117は、先頭マクロブロックの符号化モードと動きベクトルと2次元可変長符号化データを、3種類の初期値で算術符号化し発生符号量(B1,B2,B3)を求める。イントラモードでは動きベクトルを算術符号化しない。初期化決定部108は、B1,B2,B3を比較し発生符号量の少ないものを選択し初期値に決定する。発生頻度初期化部106と、発生頻度指定部107と、発生頻度両方向指定部118のうち、初期値として選択されたものを実行し、算術符号化部104の初期値とする。算術符号化部104は各マクロブロックの符号化モードと2種類の動きベクトル(前方向動きベクトルと後方向動きベクトル)と2次元可変長符号化データを算術符号化する。イントラモードでは動きベクトルを算術符号化しない。前予測モードでは後方向動きベクトルを算術符号化せず、後予測モードでは前方向動きベクトルを算術符号化しない。最後のマクロブロックを算術符号化した後、発生頻度両方向蓄積部119は現フレームの発生頻度情報を蓄積する。
【0093】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0094】
以上の処理により図7−(b)の順序で7枚のフレームを符号化する。
【0095】
次に、ここで作成された符号化データを復号する手順を示す。
【0096】
動画像復号装置の構成例を図6に示す。IフレームまたはPフレーム内の全マクロブロックの算術復号が終了した時の各Context Modelの発生頻度情報を蓄積する発生頻度蓄積部105と、Bフレーム復号終了時に発生頻度情報を蓄積する発生頻度両方向蓄積部119と、発生頻度情報を予め設定した初期値で初期化するかどうか、発生頻度蓄積部105に蓄積されている発生頻度情報(P1)で初期化するか、発生頻度両方向蓄積部119に蓄積されている発生頻度情報(P2)で初期化するかどうかを示す初期化情報を復号する初期化情報復号部114と、マクロブロック毎に、符号化モードと動きベクトルとDCT係数2次元可変長符号を算術復号する算術復号部111と、符号化モードから動きベクトルを算術復号するかどうかを決定する符号化モード判定部112と、2次元可変長符号からDCT係数を復号する予測誤差復号部113と、符号化モードで動き補償をすると判定された場合には動き補償を行う動き補償部102と、発生頻度情報を予め指定された値に初期化する発生頻度初期化部106と、発生頻度情報を発生頻度蓄積部105に蓄積されている値に設定する発生頻度指定部107と、発生頻度情報を発生頻度両方向蓄積部119に蓄積されている値に設定する発生頻度両方向指定部118と、で構成される。発生頻度両方向蓄積部119に蓄積される発生頻度情報は予め指定された初期値に設定されているものとする。
【0097】
このような構成の元で次のように復号される。
【0098】
第1フレームで、まず初期化情報を復号する。初期化情報により、発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定する。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードであるため動きベクトルを復号しないと判定する。算術復号部111は動きベクトルを復号しない。算術復号部111は2次元可変長符号を復号する。予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は発生頻度情報を蓄積する。動きベクトルに関する発生頻度情報としては、発生頻度初期化部106に設定されている初期値を蓄積する。
【0099】
第2フレームで、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードである場合には動きベクトルを復号すると判定する。この場合、算術復号部111は動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度蓄積部105は現フレームの発生頻度情報を蓄積する。
【0100】
第3フレームで、まず初期化情報を復号する。初期化情報に従って、発生頻度蓄積部105に蓄積されている発生頻度を発生頻度指定部107により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度両方向蓄積部119に蓄積されている発生頻度を発生頻度両方向指定部118により算術復号部111で使用する発生頻度の初期値に設定するか、または発生頻度初期化部106により算術復号部111で使用する発生頻度の初期値を予め設定されている初期値に設定するかの何れかを行う。続いてマクロブロック毎に次のように復号される。算術復号部111は符号化モードを復号する。符号化モード判定部112は、符号化モードがイントラモードである場合には動きベクトルを復号しないと判定する。この場合、算術復号部111は動きベクトルを復号しない。符号化モードが前予測モードまたは後予測モードである場合には1つ動きベクトルを復号すると判定する。この場合、算術復号部111は1つ動きベクトルを復号する。符号化モードが両予測モードである場合には2つ動きベクトルを復号すると判定する。この場合、算術復号部111は2つ動きベクトルを復号する。続いて算術復号部111は2次元可変長符号を復号する。符号化モードがイントラモードの場合、予測誤差復号部113は2次元可変長符号を復号して画像情報を求める。符号化モードが前予測モードまたは後予測モードまたは両予測モードの場合、予測誤差復号部113は2次元可変長符号を復号して予測誤差を求め、動き補償部102は動きベクトルを使って予測画像と予測誤差から画像情報を求める。以上の処理を全てのマクロブロックに対して行う。最後のマクロブロックを算術復号した後、発生頻度両方向蓄積部118は現フレームの発生頻度情報を蓄積する。
【0101】
第4フレームはBフレームであるため第3フレームと同様な処理を行う。第5フレームはPフレームであるため第2フレームと同様な処理を行う。第6、第7フレームはBフレームであるため第3フレームと同様な処理を行う。
【0102】
以上の処理により図7−(b)の順序で7枚のフレームを復号する。
【0103】
以上のように第3の実施形態例によれば、IまたはPフレーム符号化時に算術符号化の発生頻度情報を初期化するかどうか、または過去に符号化したIまたはPフレームの発生頻度情報を使って初期化するかどうかを決定しながら、さらにBフレーム符号化時に算術符号化の発生頻度情報を初期化するかどうか、または過去に符号化した2フレームの発生頻度情報のうちどちらを使って初期化するかどうかを決定しながら、最も符号化効率が高くなるように動画像を符号化することができる。また初期化するかどうか、また過去に符号化した2フレームの発生頻度情報のうちどちらを使って初期化するのかを示す情報を符号化データ中に含めるため、復号側でも正確に算術復号を行え、復号画像を得ることができる。
【0104】
なお、本実施形態例では、初期化情報を符号化したが、これを符号化せず、フレームの符号化モードや符号化したフレーム数に従って、初期化方法を判定することも可能である。例えば、第1フレームのIフレームのみ予め設定された初期値により初期化を行い、途中の第2フレームと第5フレームのPフレームと、第3フレームと第6フレームのBフレームでは発生頻度蓄積部105に蓄積された発生頻度により初期化を行い、第4フレームと第7フレームのBフレームでは発生頻度両方向蓄積部119に蓄積された発生頻度により初期化を行うこともできる。この場合には初期化するかどうかの情報を符号化しなくてもよく、符号化効率を向上させることができる。また特定の符号化モードのフレームのみ、初期化するかどうかの情報を符号化する方法も可能である。
【0105】
この方法によれば、動画像の早送り再生の時に、途中のBフレームを復号せずにIフレームとPフレームのみ復号することが可能である。第2の実施形態例と異なり、この構成では、第4フレームのBフレームの符号化に第3フレームのBフレーム符号化終了時の発生頻度情報を使うこともできる。
【0106】
なお、動画像符号化装置に、フレーム符号化終了時に発生頻度情報を蓄積するかどうかを指定する情報を符号化する仕組みを備え、動画像復号装置に、この情報を復号する仕組みを備えると、発生頻度情報の蓄積をするかどうかを選択することができ、符号化効率がよくなるように、発生頻度を蓄積することができる。
【0107】
また、本実施形態例ではフレームの符号化の例を示したが、インタレース動画像においてはフィールドの符号化に適用しても良い。
【0108】
なお、図1〜図6で示した装置における各部の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、あるいは、これらの図を用いて説明した処理の手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラム、あるいは、コンピュータにその処理の手順を実行させるためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えば、FD(フロッピーディスク(登録商標))や、MO、ROM、メモリカード、CD、DVD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
【0109】
【発明の効果】
本発明によれば、Context Modelを使った算術符号化を使用して動画像を符号化する場合に、フレーム毎またはフィールド毎に発生頻度を初期化するかどうかを選択することができる。そのため、時間方向の相関性が高いフレーム間では、前フレームで安定した発生頻度を使用することができ、符号化効率を向上させることができる。
【0110】
また、フレームの符号化モードにより発生頻度を初期化するかどうかを選択する場合には、初期化するかどうかの情報を符号化せずに、復号側に初期化するかどうかを指定することができる。
【0111】
また、フレームまたはフィールドの符号化モードまたはGOPの先頭かどうかの情報を使う場合には、初期化するかどうかの情報を符号化せずに、復号側に初期化するかどうかを指定することができる。
【0112】
また、フレームまたはフィールド開始時に、蓄積しておいた発生頻度の中から符号量の少ない発生頻度の方を選択して使用することができ、符号化効率を向上させることができる。
【0113】
また、同タイプのフレームまたはフィールドの終了時の発生頻度情報を用いて初期化することができ、符号化効率を向上させることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態例における画像符号化装置の構成図
【図2】本発明の第1の実施形態例における画像復号装置の構成図
【図3】本発明の第2の実施形態例における画像符号化装置の構成図
【図4】本発明の第2の実施形態例における画像復号装置の構成図
【図5】本発明の第3の実施形態例における画像符号化装置の構成図
【図6】本発明の第3の実施形態例における面像復号装置の構成図
【図7】予測関係の例の説明図
【符号の説明】
101…符号化モード決定部
102…動き補償部
103…予測誤差符号化部
104…算術符号化部
105…発生頻度蓄積部
106…発生頻度初期化部
107…発生頻度指定部
108…初期化決定部
109…フレーム類似度判定部
110…初期化情報符号化部
111…算術復号部
112…符号化モード判定部
113…予測誤差復号部
114…初期化情報復号部
115…発生頻度予備指定部
116…発生頻度予備蓄積部
117…発生頻度類似度判定部
118…発生頻度両方向指定部
119…発生頻度両方向蓄積部

Claims (9)

  1. Context Modelを使った算術符号化を使用して動画像を符号化する方法であって、
    発生頻度初期化手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、
    発生頻度蓄積手段が、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生類度蓄積手順で蓄積された発生頻度に設定する手順と、
    発生頻度予備蓄積手段が、フレームまたはフィールドの符号化終了時に前記発生頻度蓄積手段によって蓄積されている発生頻度情報を複写して蓄積する手順と、
    発生頻度予備指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生頻度予備蓄積手段で蓄積された発生頻度に設定する手順と、を有し
    フレームまたはフィールドの符号化開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち、発生頻度情報によって算術される符号量が最も少なくなる手段を選択し、該選択した結果を示す情報を符号化することを特徴とする動画像符号化方法。
  2. Context Modelを使った算術符号化を使用して動画像を符号化する方法であって、
    発生頻度初期化手段が、フレームまたはフィールドの符号化モードとして、フレーム内符号化、前方向予測フレーム間符号化、両方向予測フレーム間符号化のうち参照画像との間の予測誤差が最も小さいものを選択し、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、
    発生頻度蓄積手段が、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度両方向蓄積手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度指定手段が、フレームまたはフィールドの符号化開始時にContext Modelの発生類度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、
    発生頻度両方向指定手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時にContext Modelの発生頻度を、前記発生頻度両方向蓄積手段で蓄積された発生頻度に設定する手順と、を有し
    フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時には、発生頻度初期化手段または発生頻度指定手段のうち、発生頻度によって算術される符号量が最も少なくなる手段を選択し、
    両方向予測フレーム間符号化を使用した、フレームまたはフィールドの符号化開始時には、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち、発生頻度によって算術される符号量が最も少なくなる手段を選択する
    ことを特徴とする動画像符号化方法。
  3. 請求項2に記載の動画像符号化方法であって、
    フレームまたはフィールドの符号化開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れを使用したのかを示す情報を符号化する
    ことを特徴とする動画像符号化方法。
  4. Context Modelを使った算術符号化を使用して動画像符号化データを復号する方法であって、
    発生頻度初期化手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、
    発生頻度蓄積手段が、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、
    発生頻度予備蓄積手段が、フレームまたはフィールドの復号終了時に、前記発生頻度蓄積手段によって蓄積されている発生頻度情報を複写して蓄積する手順と、
    発生頻度予備指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度予備蓄積手段で蓄積された発生頻度に設定する手順と、を有し
    フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち何れを使用して復号できるのかを示す符号化情報を復号し、その情報に従って発生頻度初期化手段または発生頻度指定手段または発生頻度予備指定手段のうち何れを使用するかを選択する
    ことを特徴とする動画像復号方法。
  5. Context Modelを使った算術復号を使用して動画像を復号する方法であって、
    発生頻度初期化手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、予め指定された値に設定する手順と、
    発生頻度蓄積手段が、フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度両方向蓄積手段が、両方向予測フレーム間符号を使用した、フレームまたはフィールドの復号終了時にContext Modelの発生頻度を蓄積する手順と、
    発生頻度指定手段が、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度蓄積手段で蓄積された発生頻度に設定する手順と、
    発生頻度両方向指定手段が、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時にContext Modelの発生頻度を、前記発生頻度両方向蓄積手段で蓄積された発生頻度に設定する手順と、を有し
    フレーム内符号化または前方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段のうち何れかを選択し、両方向予測フレーム間符号化を使用した、フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れかを選択するにあたり、
    フレームまたはフィールドの復号開始時に、発生頻度初期化手段または発生頻度指定手段または発生頻度両方向指定手段のうち何れを使用して復号できるのかを示す符号化情報を復号し、その情報に従って選択する
    ことを特徴とする動画像復号方法。
  6. 請求項1から3のいずれか1項に記載の動画像符号化方法における手順を、コンピュータに実行させるためのプログラムとした
    ことを特徴とする動画像符号化方法の実行プログラム。
  7. 請求項1から3のいずれか1項に記載の動画像符号化方法における手順を、コンピュータに実行させるためのプログラムとし、
    該プログラムを、該コンピュータが読み取りできる記録媒体に記録した
    ことを特徴とする動画像符号化方法の実行プログラムを記録した記録媒体。
  8. 請求項4または5のいずれか1項に記載の動画像復号方法における手順を、コンピュータに実行させるためのプログラムとした
    ことを特徴とする動画像復号方法の実行プログラム。
  9. 請求項4または5のいずれか1項に記載の動画像復号方法における手順を、コンピュータに実行させるためのプログラムとし、
    該プログラムを、該コンピュータが読み取りできる記録媒体に記録した
    ことを特徴とする動画像復号方法の実行プログラムを記録した記録媒体。
JP2002032179A 2002-02-08 2002-02-08 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体 Expired - Fee Related JP3864098B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002032179A JP3864098B2 (ja) 2002-02-08 2002-02-08 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002032179A JP3864098B2 (ja) 2002-02-08 2002-02-08 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2003235044A JP2003235044A (ja) 2003-08-22
JP3864098B2 true JP3864098B2 (ja) 2006-12-27

Family

ID=27775372

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002032179A Expired - Fee Related JP3864098B2 (ja) 2002-02-08 2002-02-08 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP3864098B2 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8824553B2 (en) 2003-05-12 2014-09-02 Google Inc. Video compression method
JP2008104205A (ja) * 2007-10-29 2008-05-01 Sony Corp 符号化装置および方法
JP2008092593A (ja) * 2007-10-29 2008-04-17 Sony Corp 復号装置および方法
CA2730198C (en) 2008-07-11 2014-09-16 Frederik Nagel Audio signal synthesizer and audio signal encoder
PL2346029T3 (pl) * 2008-07-11 2013-11-29 Fraunhofer Ges Forschung Koder sygnału audio, sposób kodowania sygnału audio i odpowiadający mu program komputerowy
US8326075B2 (en) 2008-09-11 2012-12-04 Google Inc. System and method for video encoding using adaptive loop filter
WO2010146782A1 (ja) * 2009-06-19 2010-12-23 三菱電機株式会社 算術符号化装置、算術復号装置、算術符号化方法及び算術復号方法
US8938001B1 (en) 2011-04-05 2015-01-20 Google Inc. Apparatus and method for coding using combinations
US8780996B2 (en) 2011-04-07 2014-07-15 Google, Inc. System and method for encoding and decoding video data
US8780971B1 (en) 2011-04-07 2014-07-15 Google, Inc. System and method of encoding using selectable loop filters
US8781004B1 (en) 2011-04-07 2014-07-15 Google Inc. System and method for encoding video using variable loop filter
US8891616B1 (en) 2011-07-27 2014-11-18 Google Inc. Method and apparatus for entropy encoding based on encoding cost
US9247257B1 (en) 2011-11-30 2016-01-26 Google Inc. Segmentation based entropy encoding and decoding
US11039138B1 (en) 2012-03-08 2021-06-15 Google Llc Adaptive coding of prediction modes using probability distributions
US8819525B1 (en) 2012-06-14 2014-08-26 Google Inc. Error concealment guided robustness
US9774856B1 (en) 2012-07-02 2017-09-26 Google Inc. Adaptive stochastic entropy coding
US9509998B1 (en) 2013-04-04 2016-11-29 Google Inc. Conditional predictive multi-symbol run-length coding
US9392288B2 (en) 2013-10-17 2016-07-12 Google Inc. Video coding using scatter-based scan tables
US9179151B2 (en) 2013-10-18 2015-11-03 Google Inc. Spatial proximity context entropy coding
US10102613B2 (en) 2014-09-25 2018-10-16 Google Llc Frequency-domain denoising

Also Published As

Publication number Publication date
JP2003235044A (ja) 2003-08-22

Similar Documents

Publication Publication Date Title
JP3864098B2 (ja) 動画像符号化方法、動画像復号方法、及びこれらの方法の実行プログラムとこれらの実行プログラムを記録した記録媒体
JP5697614B2 (ja) デジタルビデオコンテンツのマクロブロックレベルにおける適応フレーム/フィールド符号化
JP5406222B2 (ja) 連続的な動き推定を利用した映像符号化並びに復号化方法及び装置
JP2019115060A (ja) 符号化装置、符号化方法、復号装置、復号方法、及びプログラム
US7961788B2 (en) Method and apparatus for video encoding and decoding, and recording medium having recorded thereon a program for implementing the method
JP2004056823A (ja) 動きベクトル符号化/復号化方法及びその装置
US20110013695A1 (en) Moving image encoding apparatus and moving image encoding method
JP2005510985A5 (ja)
CN111630860A (zh) 视频处理方法和装置
JP2008167449A (ja) 映像の符号化、復号化方法及び装置
JP2005510984A (ja) デジタルビデオコンテンツのためのピクチャレベルの適応フレーム/フィールド符号化
WO1993013626A1 (en) Image data coding method, image data decoding method, image data coding device, image data decoding device, and image recording medium
CN101578879A (zh) 用于视频帧间预测编码/解码的方法和装置
JP5178616B2 (ja) シーンチェンジ検出装置および映像記録装置
US8649615B2 (en) Moving picture compression coding apparatus
JP3866580B2 (ja) 画像符号化装置、画像復号装置、画像符号化プログラム、画像復号プログラム及びそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006246277A (ja) 再符号化装置、再符号化方法、および再符号化用プログラム
JP5324200B2 (ja) 圧縮されたビデオデータストリームの切換え方法
JP5189618B2 (ja) 映像符号化方法,映像符号化装置および映像符号化プログラム
CN108432252A (zh) 视频编码中的运动矢量选择及预测***和方法
JP2008311824A (ja) 画像符号化装置および画像符号化プログラム
JP2008141407A (ja) 符号化方式変換装置及び符号化方式変換方法
JP3690259B2 (ja) 動画像高速符号化装置及び動画像高速符号化方法
JP5533885B2 (ja) 動画像符号化装置および動画像復号装置
JP2007517438A (ja) 参照フレームの数を固定する符号化方式で画像の参照ブロックを取得する方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060606

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061002

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101006

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111006

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121006

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121006

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131006

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees