JP4763422B2 - イントラ予測装置 - Google Patents

イントラ予測装置 Download PDF

Info

Publication number
JP4763422B2
JP4763422B2 JP2005321566A JP2005321566A JP4763422B2 JP 4763422 B2 JP4763422 B2 JP 4763422B2 JP 2005321566 A JP2005321566 A JP 2005321566A JP 2005321566 A JP2005321566 A JP 2005321566A JP 4763422 B2 JP4763422 B2 JP 4763422B2
Authority
JP
Japan
Prior art keywords
intra prediction
pixel
prediction
pixel distribution
vertical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005321566A
Other languages
English (en)
Other versions
JP2006186972A (ja
Inventor
啓 田坂
博 荒川
貴司 増野
耕治 有村
達郎 重里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2005321566A priority Critical patent/JP4763422B2/ja
Priority to US11/291,923 priority patent/US8135064B2/en
Publication of JP2006186972A publication Critical patent/JP2006186972A/ja
Application granted granted Critical
Publication of JP4763422B2 publication Critical patent/JP4763422B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画圧縮等に用いられるイントラ予測装置に関し、動画圧縮の一手法であるイントラ予測の演算量を削減する技術に関するものである。
近年、ブロードバンドなどの通信インフラの普及やパーソナルコンピュータ、HDDやDVDなどをはじめとする大容量記憶装置、メモリカードなどの低価格化により、一般消費者が映像を編集、蓄積、配信、携帯するといった環境が整い、ますます利用者が増えてきている。
このように一般消費者が映像を扱うシーンが増える一方、パーソナルコンピュータの高性能化が進んだ現在でも、映像を扱うには十分な性能と言えない場面もある。例えば、映像の情報量は非常に多く、高性能なパーソナルコンピュータを用いても、動画圧縮を行うには、まだまだ時間がかかる。その解決策として、同じ符号化性能をより少ない演算量で処理する演算の高効率化が考えられる。また、高効率に演算を行えば消費電力削減につながり、携帯型撮影機器の電池寿命による撮影時間の制約を緩和できる。こうした背景の中、ますます高効率の動画圧縮技術が求められるようになっている。
そうした中、新たに誕生した国際標準動画圧縮規格H.264(例えば、非特許文献1参照。)は、画質向上および符号効率向上を目的として、複数の動画圧縮ツールを用いる。また、H.264は、複数の予測手法を逐次比較し、符号化効率に優れるものを予測方法として選択し、符号化を行う特徴をもつ。
例えば、図1に示されるIピクチャに含まれる16×16画素のマクロブロックにおいて符号化する場合、マクロブロックを16分割した4×4画素の各ブロックについて複数の方向からイントラ予測を行うと共に、マクロブロックについて複数の方向からイントラ予測を行う。
その代表例である、4x4イントラ予測は、複数の予測方法を比較することにより、最も符号化効率に優れるものを選択している。
その予測方法には、図2に示されるように、上のMB(マクロブロック)から予測画素値を計算し垂直方向に画素値を予測する予測モード0(vertical(垂直))、隣のMBから予測画素値を計算し、水平方向に画素値を予測する予測モード1(horizontal(水平))、隣接のMBから予測画素値を計算し、水平から±22.5度、−44.5度ずらした方向に予測する予測モード8(horizontal−up(水平上))、予測モード6(horizontal−down(水平下))、予測モード4(diagonal−down−right(対角右))、隣接のMBから予測画素値を計算し、垂直から±22.5度、−44.5度ずらした方向に予測する予測モード5(vertical−right(垂直右))、予測モード7(vertical−left(垂直左))、予測モード3(diagonal−down−left(対角右))の8方向の予測処理に加え、隣接のMBから画素値を平均したものから予測する予測モード2(DC(平均))の全9通りある。
同じく、16x16イントラ予測も複数の予測方法をもつ。この16x16イントラ予測では同種の4通りの予測方法を持つ。
16x16イントラ予測については、図3に示されるように、予測モード0(vertical(垂直))、予測モード1(horizontal(水平))、予測モード2(DC(平均))、予測モード3(plane(面))の予測方法がある。
このため従来のイントラ予測装置では、図4に示されるように、Iピクチャが入力されると、ブロック0について9通りの予測モードについて予測誤差(絶対値差分和)を計算する。つまり、9通りの予測モードについて、参照画素と符号化対象の画素の差分値および絶対値差分和を全部算出する。そして、イントラ予測装置は、予測誤差の最も小さいものをイントラ予測として利用する。
ブロック0のイントラ予測が終わると、イントラ予測装置は、上記と同様の処理を繰り返し、ブロック1〜ブロック15のイントラ予測を行う。
ブロック15のイントラ予測が終了すると、そのマクロブロックについて、4通りの予測モードについて、参照画素と符号化対象の画素の差分値および絶対値差分和を全部算出する。そして、イントラ予測装置は、予測誤差の最も小さいもの、つまり、例えば各ブロックの絶対値差分和のトータルと、マクロブロックの絶対値差分和の小さい方をイントラ予測として利用する。すなわち、各ブロックの絶対値差分和のトータルの方が小さい場合、イントラ予測装置は、各ブロックについての差分値を出力する。これと逆に、マクロブロックの絶対値差分和の方が小さい場合、イントラ予測装置は、マクロブロックについての差分値を出力する。
このようにして、Iピクチャのデータ圧縮を行うようにしている。
「H264 Advanced video coding for generic audiovisual services」 トリケップス社発行
しかしながら、上記したように例に示すように、従来のイントラ予測装置では、現在公開されている国際標準、動画圧縮方式であるH.264のイントラ予測では、画質を高めるため複数の予測方法(4x4イントラ予測では、9種、16x16イントラ予測では、4種)で予測画像を作成し、さまざまな予測方法から最適な予測方法を選択するので、つまり符号化した場合の結果に応じて符号効率の高い処理を選択するため、画質向上、符号化効率向上に符号化演算量増加は、避けられず、オーバーヘッドが大きく、演算負荷が大きい。
このため、現在、高画質、高効率の動画圧縮技術を実現するためには、画質に優れるH.264の符号化演算量の削減が求められている。
そこで、本発明は、画質向上、符号化効率向上に寄与しつつ、演算負荷を軽減することができるイントラ予測装置を提供することを目的とする。
係る目的を達成するために、本願発明者が鋭意研究の結果、一般的に隣接マクロブロック(以下MBと略す)の画素を用い、予測する場合、隣接MBの画素からの距離が離れるほど画素間の相関は低くなる。画素間の相関を考慮せずに、すべての予測方向を用いてイントラ予測を行った場合、符号化効率に寄与しない予測方向を用いてイントラ予測を行うことがあり、無駄な処理が生じることに、本願発明者は着目した。また、画像等の特性に合わせず、一意にイントラ予測を行うと、符号化効率に寄与しない予測方向の処理などの不必要な処理が行われてしまう問題があることに本願発明者は着目した。
また、イントラ予測処理の削減のために予測方向を系統的に処理する手法においては次のような問題がある。例えば、4x4イントラ予測では、水平方向と垂直方向による予測を先に評価し、その結果により、次に評価を行う予測方向を決定していた。この手法では、予め垂直方向の予測が符号化効率に寄与しないとわかっている場合でも一度、垂直方向による評価を必要とし、不要な垂直方向による予測が行われる問題があることに本願発明者は着目した。
これらの着目から本願発明を想到するに至った。
上記課題を解決するために、本願発明に係るイントラ予測装置においては、入力される映像を構成する複数の画素データを表示用映像として表示する際の当該画素データの表示形式を特定するための情報を取得する取得手段と、前記取得手段により取得された情報に基づいて、複数の画素データから構成されるブロックに適用するイントラ予測方向を、複数のイントラ予測方向の中からいずれか1つまたは2つ以上のイントラ予測方向に絞り込む候補絞込み手段と、前記候補絞込み手段により絞り込まれたイントラ予測方向について、前記ブロックに対してイントラ予測を実行するイントラ予測実行手段と、を備え、前記取得手段により取得された情報に示される、前記表示用映像の垂直方向の画素分布と水平方向の画素分布に応じて、前記候補絞込み手段で絞り込まれるイントラ予測方向の組み合わせは異なる。
また、本願発明に係るイントラ予測装置は、映像を構成する複数画素のブロックに適用されるイントラ予測方向の候補を、当該映像の特徴に合わせて複数のイントラ予測方向の中から絞り込む候補絞込み手段と、前記候補絞込み手段により絞り込まれたイントラ予測方向について、イントラ予測を実行するイントラ予測実行手段とを備えることを特徴とすることもできる
つまり、本発明はイントラ予測の際に、映像の特徴に応じて、符号化効率の悪い処理や、符号化効率に差の生じない処理を事前に省略する。
これにより、画質向上、符号化効率向上に寄与しつつ、演算負荷を軽減することができる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記映像の特徴に含まれる画素アスペクト比に応じてイントラ予測方向の候補を絞り込むことを特徴とすることができる。
また、本願発明に係るイントラ予測装置においては、前記アスペクト比は、映像信号入力機器およびビデオストリーム内外に付加される情報のいずれかから取得されることを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記画素アスペクト比に応じて原画像における隣接画素間の水平および垂直距離をそれぞれ、イントラ予測の水平方向の予測の確からしさおよび垂直方向の予測の確からしさとし、イントラ予測方向の候補を絞り込むことを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、インターレースおよびプログレッシブのいずれであるかを示し、前記映像の特徴に含まれるピクチャ構造情報に応じて、イントラ予測方向の候補を絞り込むことを特徴としてもよい。
また、本願発明に係るイントラ予測装置においては、前記ピクチャ構造情報は、映像信号入力機器およびビデオストリーム内外に付加される情報のいずれかから取得されることを特徴とすることができる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記ピクチャ構造情報がインターレースを示す場合、前記イントラ予測方向に含まれるvertical−rightおよびvertical−leftを候補から優先的に排除することを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記ピクチャ構造情報がインターレースを示す場合、前記イントラ予測方向に含まれるvertical−right、vertical−leftおよびdiag down−rightと、diag down −leftを候補から優先的に排除することを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記ピクチャ構造情報がインターレースを示す場合、前記イントラ予測方向に含まれるDCを候補から優先的に排除することを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、前記ピクチャ構造情報がインターレースを示す場合、前記イントラ予測方向に含まれるDCおよびverticalを候補から優先的に排除することを特徴とすることもできる。
また、本願発明に係るイントラ予測装置においては、候補絞込み手段は、動画圧縮方式におけるPict−Level Adaptiveによるエンコード時に、ピクチャ構造情報に応じてイントラ予測方向の候補を絞り込むことを特徴としてもよい。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、動画圧縮方式におけるMB−Level Adaptiveによるエンコード時に、フィールド構造上の一対のマクロブロックペアとフレーム構造上の一対のマクロブロックペアとを切り替えて予測する際に、そのマクロブロックペアがフィールド構造であるかフレーム構造であるかの情報に応じてイントラ予測の候補を絞り込むことを特徴としてもよい。
また、本願発明に係るイントラ予測装置においては、前記候補絞込み手段は、符号化順序が先の原画または符号化画について得られた結果に基づいて、イントラ予測方向の候補を絞り込むことを特徴とすることができる。
これによっても、イントラ予測方向の候補を容易に絞り込むことができる。
また、本願発明に係るイントラ予測装置においては、前記符号化順序が先の原画または符号化画として、符号化対象の画像の1つ前の原画または符号化画が用いられることを特徴としてもよい。
これにより、先の原画または符号化画と符号化対象の画像との相関が高くなり、イントラ予測方向の候補を精度良く絞り込むことができる。
また、本願発明に係るイントラ予測装置においては、前記結果は、符号化順序が先の符号化画について得られた動きベクトルであり、前記候補絞込み手段は、前記動きベクトルの向きに基づいて、イントラ予測方向の候補を絞り込むことを特徴とすることもできる。
これにより、画像に動きがある場合に、既知の動きベクトルから相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
また、本願発明に係るイントラ予測装置においては、前記動きベクトルとして、符号化対象のマクロブロックと空間的同じ位置、当該空間的同じ位置の周囲を含む位置および画面全体のいずれかを示す単位領域についての動きベクトルが用いられることを特徴としてもよい。
これにより、符号化対象のマクロブロックに対する動きベクトルの精度を高めることができ、その動きベクトルから相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
また、本願発明に係るイントラ予測装置においては、前記結果は、符号化順序が先の符号化画について得られたイントラ予測方向であり、前記候補絞込み手段は、前記イントラ予測方向に基づいて、イントラ予測方向の候補を絞り込むことを特徴とすることもできる。
これにより、画像に動きの如何に拘わらず、既知のイントラ予測方向から相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
また、本願発明に係るイントラ予測装置においては、前記イントラ予測方向として、符号化対象のマクロブロックと空間的同じ位置および当該空間的同じ位置の周囲を含む位置のマクロブロックについてのイントラ予測方向が用いられることを特徴としてもよい。
これにより、符号化対象のマクロブロックに対するイントラ予測方向の精度を高めることができ、そのイントラ予測方向から相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
また、本願発明に係るイントラ予測装置においては、前記結果は、前記符号化順序が先の原画または符号化画の隣接画素差分であり、前記候補絞込み手段は、前記隣接画素差分に基づいて、イントラ予測方向の候補を絞り込むことを特徴とすることもできる。
これにより、画像に動きが少ない場合に、既知の画素差分から相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
なお、本願発明は、このようなイントラ予測装置として実現することができるだけでなく、このようなイントラ予測装置が備える特徴的な手段をステップとするイントラ予測方法として実現したり、それらのステップをコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、CD−ROM等の記録媒体やインターネット等の伝送媒体を介して配信することができるのは言うまでもない。さらに、上記イントラ予測装置を備える画像符号化装置として実現することができるのは言うまでもない。
以上の説明から明らかなように、本発明に係るイントラ予測装置によれば、高画質および符号化効率を維持したまま、イントラ予測の演算処理を軽減できる。
つまり、イントラ予測は、周りの画素から画素値をコピーし、予測画像を形成する処理であるが、イントラ予測では、複数の予測方向を用いて、符号化効率の高いものを選択するので、結果的に選ばれなかった予測方向の演算は、冗長となる。そのため符号化効率に寄与しない、ないしは符号化効率にあまり差の生じない予測方向の省略は、符号化演算量削減の観点で、有効となる。また、インターレース方式のフィールド画像などでは、その冗長を軽減するために、予め符号化効率に差の生じない予測方向を使用しないことで、イントラ予測における負荷を軽減することができる。また、映像の特徴を利用することで、映像に応じたイントラ予測の処理削減が可能となり、従来手法よりも処理効率が高まる。
よって、ビデオカメラやカメラ付き携帯電話機等が広く普及してきた今日における本願発明の実用的価値は極めて高い。
以下、本発明の実施の形態に係るイントラ予測装置について、図面を参照しながら説明する。
図5は、本発明の実施の形態に係るイントラ予測装置が適用される符号化装置1の全体構成を示す機能ブロック図である。
符号化装置1は、Iピクチャについてイントラ(面内)予測符号化したり、PピクチャおよびBピクチャについてインター(面間)符号化したりする装置であり、図1に示されるように、イントラ予測装置11、減算器12、モード切替スイッチ13、変換部14、量子化部15、エントロピー符号化部16、インター予測部17および符号化制御部18等とを備える。また、インター予測部17は、モード切替スイッチ170、逆量子化部171、逆変換部172、加算器173、ループフィルタ174、フレームメモリ175、動き予測部176および動き補償部177等とから構成される。
インター符号化が行われるピクチャに関しては、その符号化対象となるピクチャは、マクロブロックと呼ばれる例えば水平16×垂直16画素のブロック(マクロブロック)に分割され、ブロック単位で以降の処理が行われる。
符号化対象のピクチャは、減算器12において動き補償部177の出力である予測画像信号との差分が取られることによって、差分画像に変換される。差分画像は、モード切替スイッチ13を介して変換部14に出力される。
変換部14は差分画像を時間軸から周波数軸に変換し、量子化部15はさらに量子化を行うことにより、変換係数からなる残差信号を生成する。
この残差信号はインター予測部17により、ローカルデコードされる。すなわち、残渣信号は、逆量子化部171において逆量子化される。そして、逆変換部172は、逆周波数変換等の画像復号化処理を行ない、残差復号化信号を生成する。加算器173は、残差復号化信号と予測画像信号との加算を行うことにより、再構成画像信号を生成する。得られた再構成画像信号は、ループフィルタ174によりブロック歪みが除去された後、フレームメモリ175に格納される。
一方、フレームメモリ175から読み出されたマクロブロック単位の入力画像信号は動き予測部176にも入力される。ここでは、フレームメモリ175に格納されている1枚もしくは複数枚の符号化済みピクチャを探索対象とし、最も入力画像信号に近い画像領域を検出することによってその位置を指し示す動きベクトルとその際に選択されたピクチャを指し示す参照ピクチャインデックスを決定する。動きベクトルの検出はマクロブロックをさらに分割したブロック単位で行われる。動き予測部176は、得られた動きベクトルおよび参照ピクチャインデックスを用いて、フレームメモリ175に格納されている符号化済みピクチャから最適な画像領域を取り出し、予測画像を生成する。
上記の一連の処理によって出力された動きベクトル、参照ピクチャインデックス、残差符号化信号等の符号化情報に対してエントロピー符号化部16において可変長符号化を施すことにより、この符号化処理によってデータ量の少ないビットストリームが出力される。
以上の処理の流れは画面間予測符号化を行った場合の動作であったが、スイッチ114およびスイッチ115によって画面内予測符号化との切り替えがなされる。
イントラ符号化を行う場合は、動き補償による予測画像の生成は行われず、イントラ予測装置11において、同一画面内の符号化済み領域から符号化対象領域の予測画像を生成し、差分を取ることによって差分画像信号を生成する。なお、この詳細については、後述する。この差分画像信号は、インター符号化の場合と同様に、変換部14および量子化部15において残差符号化信号に変換され、エントロピー符号化部16において可変長符号化が施され、データ量の少ないビットストリームが出力される。
次いで、図5に示されるイントラ予測装置11の詳細な構成について説明する。
図6は、映像特徴量を用いたイントラ予測装置11の機能構成を示すブロック図である。なお、この図には符号化制御部18が備える映像特徴量入力部181も併せて図示されている。
符号化制御部18の映像特徴量入力部181は、ビデオストリーム内外に付加される情報や、映像入力機器の持つ情報を映像の特徴量として取得し、取得した映像の特徴量をイントラ予測装置11に出力する。
イントラ予測装置11は、映像を構成する複数画素のブロックごとに適用されるイントラ予測方向の候補を、当該映像の特徴に合わせて複数の中から絞り込む候補絞込み部111と、候補絞込み部111により絞り込まれたイントラ予測方向について、イントラ予測を実行するイントラ予測実行部112とを備える。なお、イントラ予測実行部112は、各予測モードにおける参照画素と符号化対象の画素の差分値を算出したり、絶対値差分値を算出したりする予測誤差算出部と、変換部14と同じ機能を有する変換部と、量子化部15と同じ機能を有する量子化部と、逆量子化部171と同じ機能を有する逆量子化部と、逆変換部172と同じ機能を有する逆変換部と、参照画素の画素値と差分値とから復元画像の画素値を復元する逆予測部等とを備える。
候補絞込み部111は、まず、映像特徴量入力部181からの映像の特徴量から、イントラ予測方向の候補を絞り込む。
次に、イントラ予測実行部112は、候補絞込み部111により絞り込まれたイントラ予測方向について、イントラ予測を実行する。つまり、予測誤差を計算し、予測誤差の最も小さいものをイントラ予測として利用する。
ところで、イントラ予測において、映像の特徴量とイントラ予測方向の予測精度に相関がある。
映像の特徴量から類推される予測精度の高い予測方向を予測方向候補として利用し、予測精度が低い予測方向や、予測精度が他と変わらない予測方向を優先的に省略することで、イントラ予測処理の負荷を軽減することができる。ここで述べる映像の特徴量は、映像や画素に対する演算より求まるものおよび撮像素子などの映像入力機器の持つ特性など他の外的要因を含む。
例えば撮影時にカメラを水平方向に旋回させるパンをしたとする。このパンは、例えばカメラに設けられたジャイロセンサにより検出される。また、その前後の映像の動きベクトルから、パンを検出するようにしてもよい。そのパンの際の映像の1フレームを取り出すと、横方向に画素間の相関の強いフレームが形成される。その画素間の相関性からイントラ予測方向の予測精度を見積もり、予測精度の低いイントラ予測方向候補を予め削減できる。
また、機器の設定で低いビットレートで符号化する場合や、低解像度で符号化する場合、予測方向の近いもの例えば予測モード0(horizontal(水平))と、予測モード6(horizontal−down(水平下))を利用した場合、両モードの予測誤差に開きがなく、符号化性能に差が出ないことがある。そこで、予測方向の向きが大きく異なる予測モード0(horizontal(水平))などを優先的に予測候補とする。つまり、予測モード6を優先的に削除する。
なお、動きベクトルから、予測方向を決定するようにしてもよい。つまり、イントラ予測を行う際に、過去のないしは未来のフレームの動きベクトルを映像特徴量として利用する。その動きベクトルの方向に相関の高い画素値が存在する可能性が高い。したがって、その動きベクトルの方向と大きくずれるイントラ予測方向を省略することができる。ここで、過去のないしは未来のフレームの動きベクトルとは、画面全体の動きベクトルであっても、画面の内の特定領域の動きベクトルであってもよい。
また、符号化MBの隣接MB付近の動きベクトルからの方向と大きくずれるイントラ予測方向を符号化MBのイントラ予測方向の候補から省略することができる。
さらに、符号化MBにおいて、既に動きベクトルが求まっている際には、その動きベクトルを特徴量とすればさらに精度の高いイントラ予測方向の候補を選定できる。
ところで、H.264では、Iピクチャについてはイントラ予測のみを行い、PまたはBピクチャついてはイントラ予測/インター予測の両方を実施し、残差信号の少ない符号化モードで符号化を行う。そのため、イントラ予測はすべてのピクチャで実施される。
このことを利用して、符号化対象ピクチャの予測方向の候補を制限する。つまり、候補絞込み部111は、符号化順序が先の原画または符号化画について得られた結果に基づいて、イントラ予測方向の候補を絞り込むことができる。これによっても、イントラ予測方向の候補を容易に絞り込むことができる。
具体的には、まず、先に符号化されるピクチャのイントラ予測の予測方向とピクチャ内のMBの位置をメモリ上に記録しておく。次に前記メモリに記録されたピクチャ内のMBの位置と予測方向を利用して符号化対処ピクチャの同じMBの位置のイントラ予測を行う。例えば、画面全体の動きがない場合では、表示順で連続するピクチャの相対的な空間位置のMBのイントラ予測の予測方向は、同一の方向である可能性が高い。例えば表示順でI,B1,B2,P・・・構造で符号化される場合、B1のピクチャ内のあるMBの予測方向は、IピクチャまたはPピクチャの同位置のMBの符号化結果と同じ位置である可能性が高い。このため、Iピクチャの符号化結果とPピクチャの符号化結果である予測方向をB1ピクチャの予測方向の候補とする。同様に、B2ピクチャは、B1ピクチャとPピクチャのイントラ予測方向を、候補とする。B1ピクチャとPピクチャ共にインター予測が選ばれた場合は、B2ピクチャの予測候補を0として、インター予測のみを行うことも可能である。
ここでは、ピクチャの内の同じ位置のMBに関して言及したが、隣接するMBの予測方向を候補に含めるとしてもよい。つまり、上記例では、B2ピクチャの予測候補として、B1ピクチャまたはPピクチャの同じ位置のMBに加えて、上下左右のMBの予測方向を候補としてもよい。
図7は、イントラ予測装置11の各部が実行する詳細な処理を示すシーケンス図である。
Iピクチャが入力されると、候補絞込み部111は、まず、映像特徴量入力部181からの映像の特徴量から、イントラ予測方向の候補を絞り込む。この絞込みは、ブロックおよびマクロブロックのいずれかや、両方に適用することができる。
次に、イントラ予測実行部112は、候補絞込み部111により絞り込まれたイントラ予測方向について、イントラ予測を実行する。より詳しくは、ブロック0について絞り込まれた予測モードについて予測誤差(絶対値差分和)を計算する。つまり、絞り込まれた予測モードだけについて、参照画素と符号化対象の画素の差分値および絶対値差分和を算出する。そして、イントラ予測実行部112は、予測誤差の最も小さいものをイントラ予測として利用する。つまり、絶対値差分和の最も小さい予測モードが例えば「1」である場合、予測モード1におけるブロック0の参照画素と符号化対象の画素の差分値を変換し、量子化し、逆量子化し、逆変換し、逆予測することにより、参照画素の画素値と差分値とからブロック0の復元画像の画素値を復元する。
ブロック0の復元画像の画素値を復元すると、イントラ予測実行部112は、上記と同様の処理を繰り返し、ブロック1〜ブロック15の復元画像の画素値を復元する。
ブロック15の復元画像の画素値を復元すると、そのマクロブロックについて、絞り込まれた予測モードだけについて、参照画素と符号化対象の画素の差分値および絶対値差分和を算出する。そして、イントラ予測実行部112は、予測誤差の最も小さいもの、つまり、例えば各ブロックの絶対値差分和のトータルと、マクロブロックの絶対値差分和の小さい方をイントラ予測として利用する。すなわち、各ブロックの絶対値差分和のトータルの方が小さい場合、イントラ予測実行部112は、各ブロックについての差分値を出力する。これと逆に、マクロブロックの絶対値差分和の方が小さい場合、イントラ予測実行部112は、マクロブロックについての差分値を出力する。
したがって、予測モードが絞り込まれた分、イントラ予測実行部112の負荷を大幅に軽減することができ、イントラ予測の演算性能を高めることができる。
なお、このようなイントラ予測装置11は、ハードウェア構成だけでなく、CPU、メモリ、プログラム等の手段による実現も可能である。
次いで、映像の特徴量に併せて候補を絞り込む場合を、順次説明する。
まず、映像の特徴量が画素アスペクト比である場合について説明する。
図8は、映像特徴量として画素アスペクト比を用いたイントラ予測装置11の機能構成を示すブロック図である。なお、この図においても符号化制御部18の映像特徴量入力部181が備える画素アスペクト比検出部183も併せて図示されている。また、図6の場合と対応する構成部分に同じ番号を付し、その詳細な説明を省略する。
ところで、フィールド構造では、水平画素を一画素置きに記録した画像を利用することができる。そのため、フィールド上の方向と原画上の方向に変化が生じる。同様に、隣接画素間の水平および垂直の距離の比を示す画素アスペクト比を変化させると、原画上の方向と画素アスペクト比を変化させた画像上の方向とに変化が生じる。画素アスペクト比検出部183はこの変化を検出する。この画素アスペクト比による原画上の方向の変化に応じて、候補絞込み部111が適切な予測方向候補を絞り込むことで、イントラ予測の演算性能を高めることができる。
画素アスペクト比を変化させた場合の具体例を説明する。half D1の映像は、水平方向に画素が間引かれているので、half D1上の方向と原画上の方向に変化が生じる。そのため、フィールド構造の場合のように符号化効率に寄与しない予測方向が、存在する。具体的は、図2に示される予測モード6および予測モード8である。これらは、原画上の方向に直すと、予測モード0の水平方向に近くなり、符号化効率に差が生じない。したがって、その予測方向を省略することで、演算処理を軽減できる。また、画素アスペクトに応じた予測方向にイントラ予測の予測方向を補正することで、すべての予測方向の性能を高めることも可能である。
なお、このようなイントラ予測装置11は、ハードウェア構成だけでなく、CPU、メモリ、プログラム等の手段による実現も可能である。
また、イントラ予測装置11において、画素アスペクト比に応じて、適切な予測方向候補を絞り込む方法として、原画上の水平、垂直距離を利用することができる。
それぞれの距離の逆数を予測の確からしさとする。例えば、フィールド構造において、原画上の距離は、水平距離を「1」とし、垂直距離は、その2倍となるので「2」とする。そうすると、確からしさは、「1」と「1/2」となる。
この場合、垂直方向の確からしさが水平方向の確からしさより大きいので、予測結果もこれに従う傾向をもつ。そこで、予測方向の候補として、水平方向に近いものを優先的に採用する。つまり、垂直方向およびこれに近いものを優先的に削除することで、負荷を軽減することができる。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
また、画素アスペクト比の情報については、撮影機器、録画機器から取得し、その情報を利用してイントラ予測を行う。
例えば、撮影機器の撮像素子が正方形でない場合は、原画上での垂直距離と水平距離に差が生じる。また、録画機器などで画面のアスペクト比を変化させて、記録する場合にも原画上での垂直距離と水平距離に差が生じる。
また、H.264のVUIパラメータのaspect_ratio_idcから得られる情報などのようにある符号化方式のビデオストリーム内外に付加される情報により、イントラ予測を行う。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
次いで、映像の特徴量がピクチャ構造である場合について説明する。
図9は、映像特徴量としてピクチャ構造を用いたイントラ予測装置11の機能構成を示すブロック図である。なお、この図においても符号化制御部18の映像特徴量入力部181が備えるピクチャ構造判定部182も併せて図示されている。また、図6の場合と対応する構成部分に同じ番号を付し、その詳細な説明を省略する。
ところで、インターレース方式のフィールド画像は、垂直方向に原画像の画素を1つ置きに間引くことにより構成されている。そのため水平方向の画素の連続性はプログレッシブ方式のフレーム画像と変わらないが、垂直方向の画素の連続性は、フレーム画像に比べ低い。この連続性の高低をピクチャ構造判定部182が判定する。
この特性を利用して、候補絞込み部111は、垂直方向の予測より、水平方向の予測が選ばれやすくする。つまり、垂直方向の予測(4×4予測モード0や、16×16予測モード0)を候補から優先的に排除する。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
また、インターレース方式において、4x4イントラの予測方向を原画上での方向に換算すると、図10に示されるように予測方向に差が生じないものが存在する。
インターレース方式のあるフィールド画像において、図10に示されるような8方向の直線が引かれていたとする。
インターレース方式のフィールド画像は、図10(a)に示されるように、1ラインごとに画素を間引いた構造の画像となり、垂直方向に距離を1/2に圧縮した状態となる。逆に、これを原画上の元の位置に画素を置きなおすと、図10(b)に示されるように、垂直距離が間引きのない水平距離の2倍になる。そのため、原画像上では、8方向の直線の角度がそれぞれ変化する。
特に注目すべきは、予測モード5(vertical−right(垂直右))、予測モード7(vertical−left(垂直左))の方向である。これらの方向は、予測モード0(vertical(垂直))の方向と非常に近くなる。
そのため、4x4イントラ予測において予測モード5(vertical−right(垂直右))、予測モード7(vertical−left(垂直左))、予測モード0(vertical(垂直))の方向で予測した画素値は非常に近いものとなり、原画との差である予測誤差に差があまり生じなくなる。同様に、予測モード3(diagonal−down−left(対角右))、予測モード4(diagonal−down−right(対角右))の方向についても、同様な傾向が現れる。
この特性を利用し、予測候補を予め制限しておけば、画質を落とすことなくイントラ予測処理を簡略化できる。
この場合、ピクチャ構造判定部182でピクチャ構造がインターレース方式のフィールド画像であるか、プログレッシブ方式のフレーム画像であるかを判定し、判定結果をイントラ予測装置11に出力する。
イントラ予測装置11の候補絞込み部111は、フィールド画像であれば、図9に示すようないくつかの予測候補を省略したフィールド用イントラ予測候補例をイントラ予測実行部112に送る。イントラ予測実行部112は、絞り込まれたイントラ予測方向の候補について予測演算処理をし、予測方向を決定する。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
さらに、一般的に隣接MBの画素を用いて、予測する場合、隣接MBからの距離が離れるほど画素間の相関は低くなる。
そのため原画像上での画素間の距離が長くなると予測誤差が大きくなる可能性が高い。
水平距離と垂直距離に差がある場合、イントラ16x16予測における予測モード0vertical(垂直)と、予測モード1horizontal(水平)の予測方向による予測誤差にも差が生じる。
ピクチャ構造がインターレースである場合、図11に示されるように、原画像上の画素間隔は、水平距離に対する垂直距離は2倍となり、垂直方向の画素の相関が低くなり、予測誤差が大きくなる。
インターレース方式のフィールド画像では、16x16イントラ予測における予測モード0(vertical(垂直))予測を優先的に省略することができる。
同様に、隣接する右側のMBの右端画素値と、隣接する上のMBの下端画素値の平均による予測する予測モード2(DC(平均))予測においても、垂直に相関の低い画素を予測画素演算に用いるため予測誤差が大きくなり、16x16イントラ予測における予測モード2(DC(平均))を優先的に省略することができる。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
また、映像の記録方式が、インターレース方式かプログレッシブ方式かの決定は、次のよう場合が想定される。以下、インターレース方式、プログレッシブ方式を指して記録時には記録方式と再生時には、再生方式と呼ぶ。
ユーザにより選択される場合や撮影機器、録画機器、表示機器などの仕様により決定される場合がある。
例えば、ユーザにより選択される場合を考えると、撮影機器がインターレース方式、プログレッシブ方式の両方に対応している場合、ユーザは、自信の表示機器、再生装置などの再生環境に合わせて記録方式を選択する。その表示機器であるテレビがインターレース方式であれば、撮影機器であるビデオカメラで符号化時にインターレース方式を選択し、符号化効率に寄与しないイントラ予測方向の省略が可能である。
例えば、撮影機器の仕様により決定される場合を考えると、撮影機器がインターレース方式のみに対応していれば、インターレース方式で撮影する際にイントラ予測方向の省略により、符号化効率を高めることができる。
また、録画機器の仕様により決定される場合を考えると、他の映像入力機器から録画装置などで符号化する際に、映像機器からの入力がインターレース方式と判断すれば、イントラ予測方向の省略を利用し、符号化効率を高めることができる。
ここで述べる他の映像入力機器からの入力について補足する。
他の符号化方式を利用して符号化されている場合、その符号化方式に基づく規則でインターレース方式であるかの判定が可能である。つまり、ヘッダ情報等からその判定が可能である。
さらに、表示機器の仕様で決定される場合を考えると、録画機器に接続された表示機器の再生方式に合わせて、インターレース方式で録画する際にイントラ予測方向の省略により、符号化効率を高めることができる。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
また、H.264のイントラ予測のPict−Level−Adaptiveとは、ピクチャごとに、フレーム構造におけるイントラ予測結果とフィールド構造におけるイントラ予測結果を比較し、符号化性能に優れる方を予測結果とする方式である。そのフィールド構造として予測する際に、ピクチャ構造で予測方向の候補を絞り込む候補絞込み部111を利用する。
ピクチャ構造判定部182が符号化時に既にPict−Level−Adaptiveを使用することがわかっているので、この方式を利用する場合、候補絞込み部111は、フィールド構造での符号化、つまり、インターレース方式での符号化の際に予測方向の候補を削減させることができる。
また、H.264のイントラ予測のMB−Level−Adaptiveとは、MB単位で、フレーム構造におけるイントラ予測結果とフィールド構造におけるイントラ予測結果を比較し、符号化性能に優れる方を予測結果とする方式である。そのフィールド構造として予測する際に、ピクチャ構造で予測方向の候補を絞り込む候補絞込み部111を利用する。ピクチャ構造判定部182が符号化時に既にMB−Level−Adaptiveを使用することがわかっているので、この方式を利用する場合、候補絞込み部111はフィールド構造での符号化つまり、インターレース方式での符号化際に予測方向の候補を削減させることができる。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
次いで、映像の特徴量が、符号化順序が先の原画または符号化画について得られた結果である場合について説明する。
図12は、上記結果として、動きベクトル、予測モードおよび画素演算情報を用いたイントラ予測装置11の機能構成を示すブロック図である。なお、この図においても符号化制御部18の映像特徴量入力部181が備える動きベクトル入力部184、予測モード入力部185、画素演算情報入力部186も併せて図示されている。また、図6の場合と対応する構成部分に同じ番号を付し、その詳細な説明を省略する。
ところで、上記したように、H.264では、Iピクチャではイントラ予測のみを行い、PまたはBピクチャではイントラ予測/インター予測の両方を実施し、残差信号の少ない符号化モードで符号化を行う。
このため、符号化順序が先の原画または符号化画については、隣接画素差分や、イントラ予測の方向などの結果が既知である。また、符号化順序が先の符号化画がPピクチャやBピクチャである場合には、各マクロブロックの動きベクトルが既知である。しかも、映像の特性により、符号化順序が先の原画または符号化画と符号化対象の画像との相関が極めて高い場合が多い。
したがって、符号化順序が先の原画または符号化画について得られた結果、つまり既知の動きベクトル、イントラ予測および隣接画素差分を用いてイントラ予測方向の候補を絞り込んでも、符号化効率の悪い処理や、符号化効率に差の生じない処理を事前に省略することができる。
そこで、この実施の形態では、図12に示されるように、映像特徴量入力部181には、符号化順序が先の原画または符号化画について得られた結果である動きベクトル、予測モードの方向および隣接画素差分(画素演算情報とも記す。)が個別に入力される動きベクトル入力部184、予測モード入力部185および画素演算情報入力部186が設けられている。そして映像特徴量入力部181は、動きベクトル入力部184、予測モード入力部185および画素演算情報入力部186から動きベクトル、予測モードの方向および隣接画素差分を選択的に候補絞込み部111に出力するように構成されている。
次いで、動きベクトル入力部184から動きベクトルが出力された場合における、動きベクトルによる予測方向候補の決定について説明する。
図13は、動きベクトルによる予測方向候補の決定を説明するための図である。特に図13(a)は符号化順に並べられた原画を、図13(b)は符号化順に並べられた符号化画を、図13(c)は符号化順序が先の符号化画と符号化対象の画像との関係を、それぞれ示す図である。
ここで、符号化順序が先の符号化画として、符号化対象の画像の1つ前の符号化画が用いられる場合が図示されている。これは、先の原画または符号化画と符号化対象の画像との相関が高くなり、イントラ予測方向の候補を精度良く絞り込むことができるからである。
そして、この符号化画は、図示のように、マクロブロックMB1〜MB9から構成され、各マクロブロックMB1〜MB9の動きベクトルがMV1〜MV9であるものとして説明する。また、符号化対象のマクロブロックが図中に示されるαであるものとして説明する。
マクロブロックαについてイントラ予測する場合、候補絞込み部111は、1つ前の符号化画の空間的同じ位置のマクロブロックMB9を単位領域として、その単位領域の動きベクトルMV9を参照し、この動きベクトルMV9の向きに基づいて、イントラ予測方向の候補を絞り込む。
具体的には、動きベクトルMV9の水平方向の成分が多く、垂直方向の成分が極めて少ない。すなわち、動きベクトルMV9の向きの水平方向の成分が支配的であり、符号化対象のマクロブロックαと水平方向の相関が高い。このため、候補絞込み部111は、垂直方向の予測方向を候補の対象外として排除する。つまり、候補絞込み部111は、動きベクトルMV9から0,5,7modeを省略する。
したがって、画像に動きがある場合に、符号化対象のマクロブロックに対する動きベクトルの精度を高めることができ、既知の動きベクトルから相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
なお、このマクロブロックMB9の周囲、つまりマクロブロックMB5,MB6,MB8を含めた領域を単位領域とし、この単位領域の動きベクトルの向きに基づいて、イントラ予測方向の候補を決めても良い。すなわち、動きベクトルMV5,MV6,MV8,MV9を合成した動きベクトルの向きに基づいて、イントラ予測方向の候補を絞り込んでもよい。この場合においても、合成した動きベクトルの向きは、動きベクトルMV5,MV6,MV8,MV9をそれぞれ水平方向と垂直方向の成分に分解したものを加算したものであるから、水平方向の成分が支配的となる。このため、候補絞込み部111は、垂直方向の予測方向を候補の対象外として排除することができる。つまり、候補絞込み部111は、動きベクトルMV5,MV6,MV8,MV9から0,5,7modeを省略する。
また、1つ先の符号化画全体の動きベクトルがどっちを向いているかを参照して、イントラ予測候補を決めても良い。つまりマクロブロックMB1〜MB9全体を単位領域とし、この単位領域の動きベクトルの向きに基づいて、イントラ予測方向の候補を決めても良い。
次いで、予測モード入力部185から予測モードが出力された場合における、予測モードによる予測方向候補の決定について説明する。
図14は、予測モードによる予測方向候補の決定を説明するための図である。特に図14(a)は符号化順に並べられた原画を、図14(b)は符号化順に並べられた符号化画を、図14(c)は符号化順序が先の符号化画と符号化対象の画像との関係を、それぞれ示す図である。そして、この符号化画は、図示のように、マクロブロックMB1〜MB9から構成されているものとして説明する。また、符号化対象のマクロブロックが図中に示されるαであるものとして説明する。
ここで、符号化画がIピクチャである場合においては、イントラ予測で採用されたマクロブロックについて、絞り込まれた予測モードの結果が残っている。したがって、この場合においては、絞り込まれた予測モードの方向が用いられる。これに対して、符号化画像がPピクチャまたはBピクチャである場合には、イントラ予測の際の結果、予測モードは通常廃棄される。しかしながら、本実施の形態においては、イントラ予測の際の結果、予測モードがメモリに一時的に残されるように構成されているものとして説明する。
図15は、候補絞込み部111が既知の結果、イントラ予測を用いてイントラ予測候補を絞り込むイントラ予測候補絞込処理の動作を示すフローチャートである。
マクロブロックαについてイントラ予測する場合、候補絞込み部111は、まず符号化順が先の参照される符号化画がIピクチャか否か判断する(S11)。なお、符号化順序が先の符号化画として、符号化対象の画像の1つ前の符号化画が用いられる。これは、先の原画または符号化画と符号化対象の画像との相関が高くなり、イントラ予測方向の候補を精度良く絞り込むことができるからである。
判断の結果、Iピクチャである場合(S11でYes)、候補絞込み部111は、Iピクチャの予測結果を用いて、イントラ予測候補を絞り込み(S12)、イントラ予測候補絞込処理を終了する。すなわち、候補絞込み部111は、1つ前の符号化画の空間的同じ位置のマクロブロックMB9を単位領域として、その単位領域のイントラ予測モードの方向を参照し、このイントラ予測で採用されたマクロブロックについて、絞り込まれた予測モードの方向の向きに基づいて、イントラ予測方向の候補を絞り込む。具体的には、絞り込まれた予測モードの方向が例えば水平方向であれば、符号化対象のマクロブロックαのイントラ予測方向が水平方向である確率が高い。このため、候補絞込み部111は、垂直方向の予測方向を候補の対象外として排除する。
したがって、画像に動きがある場合の他、画像の動きが少ない場合においても、符号化対象のマクロブロックに対する予測方向の精度を高めることができ、既知の予測モードの方向から相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
なお、この符号化対象のマクロブロックαに対応するマクロブロックMB9の周囲、つまりマクロブロックMB5,MB6,MB8を含めた領域を単位領域とし、この単位領域の予測モードの方向に基づいて、イントラ予測方向の候補を決めても良い。
これに対して、Iピクチャでない場合(S11でNo)、候補絞込み部111は、イントラ符号化した場合の予測結果を用いてイントラ予測候補を絞り込み(S13)、イントラ予測候補絞込処理を終了する。
したがって、符号化順序が先の符号化画がIピクチャでない場合であっても、画像に動きの如何に拘わらず、既知のイントラ予測方向から相関の低いイントラ予測方向の候補を精度良く、容易かつ効率的に排除することができる。
次いで、画素演算情報入力部186から隣接画素差分、すなわち画素演算情報が出力された場合における、画素演算情報による予測方向候補の決定について説明する。
ここで、画素演算情報とは、映像の特徴に含まれる符号化順が先の原画の画素の隣接差分と、符号化画の隣接画素差分とのいずれかを意味する。このような画素演算情報は、事前に算出済みで既知とする。したがって、この結果をメモリに一時的に残しておいて再利用したり、再度算出したりすることで、候補絞込み部111の負荷を軽減するように構成されている。なお、ここでは、イントラ予測の際の結果、画素演算情報がメモリに一時的に残されるように構成されているものとして説明する。
候補絞込み部111は、前記映像の特徴に含まれる符号化順が先の原画または符号化画の隣接画素差分に応じてイントラ予測候補を絞り込む。なお、符号化順序が先の原画または符号化画として、符号化対象の画像の1つ前の原画または符号化画が用いられる。これは、先の原画または符号化画と符号化対象の画像との相関が高くなり、イントラ予測方向の候補を精度良く絞り込むことができるからである。
そして、候補絞込み部111は、1つ前の原画または符号化画の空間的同じ位置のマクロブロックを単位領域として、その単位領域の画素演算情報を参照し、このイントラ予測で採用されたマクロブロックの画素演算情報に基づいて、符号化対象画像のマクロブロックαについて、イントラ予測方向の候補を絞り込む。具体的には、単位領域の水平方向の隣接画素差分と垂直成分隣接画素差分の比に応じてイントラ予測候補を絞り込む。これにより、水平方向と垂直方向とのいずれに相関が高いか、つまり相関の高い向きを知ることができる。したがって、画像の動きが少ないような場合に、既知の画素演算情報から相関の低いイントラ予測方向の候補を精度良く、かつ効率的に排除することができる。
なお、ここで記載したものは、装置だけでなく、プログラム等の手段による実現も可能である。
またなお、上記実施の形態では映像が動画の場合について説明したが、イントラ予測の対象がIピクチャであればよく、JPEG等の静止画に対して本願発明に係るイントラ予測を適用し、符号化データをさらに圧縮するようにしてもよい。
本発明によるイントラ予測装置を用いれば、より少ない演算負荷でのH.264による映像の符号化が実現でき、パーソナルコンピュータや、HDDレコーダ、DVDレコーダなどの他、ビデオカメラ、カメラ付き携帯電話機等に適用できる。また、このイントラ予測装置を備える符号化装置にも適用できる。
Iピクチャに含まれる16×16画素のマクロブロックと、4×4画素の各ブロックとの関係を示す図である。 4x4イントラ予測方向を示す図である。 16x16イントラ予測方向を示す図である。 従来のイントラ予測装置が実行する予測処理を示すシーケンス図である。 本発明の実施の形態に係るイントラ予測装置が適用される画像符号化装置1の全体構成を示す機能ブロック図である。 映像特徴量を用いたイントラ予測装置11の機能構成を示すブロック図である。 イントラ予測装置11の各部が実行する詳細な処理を示すシーケンス図である。 ピクチャ構造を用いる場合のイントラ予測装置11の機能構成を示すブロック図である。 アスペクト比を用いる場合のイントラ予測装置11の機能構成を示すブロック図である。 4x4イントラ予測における原画とフィールドでの角度の違いを示す図である。 16x16イントラ予測におけるフィールドでの画素位置と原画像での画素位置の距離関係を示す図である。 動きベクトル、予測モードおよび画素演算情報を用いたイントラ予測装置11の機能構成を示すブロック図である。 動きベクトルによる予測方向候補の決定を説明するための図である。特に図13(a)は符号化順に並べられた原画を、図13(b)は符号化順に並べられた符号化画を、図13(c)は符号化順序が先の符号化画と符号化対象の画像との関係を、それぞれ示す図である。 予測モードによる予測方向候補の決定を説明するための図である。特に図14(a)は符号化順に並べられた原画を、図14(b)は符号化順に並べられた符号化画を、図14(c)は符号化順序が先の符号化画と符号化対象の画像との関係を、それぞれ示す図である。 候補絞込み部111が既知の結果、イントラ予測を用いてイントラ予測候補を絞り込むイントラ予測候補絞込処理の動作を示すフローチャートである。
符号の説明
11 イントラ予測装置
18 符号化制御部
111 候補絞込み部
112 イントラ予測実行部
181 映像特徴量入力部
182 ピクチャ構造判定部
183 画素アスペクト比検出部
184 動きベクトル入力部
185 予測モード入力部
186 画素演算情報入力部

Claims (7)

  1. 入力される映像を構成する複数の画素データを表示用映像として表示する際の当該画素データの表示形式を特定するための情報を取得する取得手段と、
    前記取得手段により取得された情報に基づいて、複数の画素データから構成されるブロックに適用するイントラ予測方向を、複数のイントラ予測方向の中からいずれか1つまたは2つ以上のイントラ予測方向に絞り込む候補絞込み手段と、
    前記候補絞込み手段により絞り込まれたイントラ予測方向について、前記ブロックに対してイントラ予測を実行するイントラ予測実行手段と、を備え、
    前記取得手段により取得された情報に示される、前記表示用映像の垂直方向の画素分布と水平方向の画素分布に応じて、前記候補絞込み手段で絞り込まれるイントラ予測方向の組み合わせは異なり、
    (a)前記表示用映像の垂直方向の画素分布と水平方向の画素分布との比較の結果、水平方向の画素分布密度よりも垂直方向の画素分布密度が高い場合、絞り込まれるイントラ予測方向は、水平方向成分よりも垂直方向成分が多いイントラ予測方向を多く含み、
    (b)前記表示用映像の垂直方向の画素分布と水平方向の画素分布との比較の結果、垂直方向の画素分布密度よりも水平方向の画素分布密度が高い場合、絞り込まれるイントラ予測方向は、垂直方向成分よりも水平方向成分が多いイントラ予測方向を多く含む、
    イントラ予測装置。
  2. 前記取得手段は、前記画素データの画素アスペクト比に関する情報を取得し、
    前記候補絞込み手段は、前記画素アスペクト比に関する情報から求められる、前記表示用映像の垂直方向の画素分布と水平方向の画素分布とに応じて、複数のイントラ予測方向の中からいずれか1つまたは2つ以上のイントラ予測方向に絞り込む
    請求項1記載のイントラ予測装置。
  3. 前記候補絞込み手段は、前記表示用映像の垂直方向の画素分布と水平方向の画素分布とから、前記表示用映像における間引き方向を特定し、前記複数のイントラ予測方向の中の、特定した前記間引き方向に近い2つ以上のイントラ予測方向のうちの少なくとも1つを、絞り込みの対象から排除する
    請求項1または2に記載のイントラ予測装置。
  4. 前記取得手段は、前記画素データを前記表示用映像として表示する際、インターレース形式またはプログレッシブ形式で表示するかを示す情報を取得し、
    前記候補絞込み手段は、前記インターレース形式またはプログレッシブ形式で表示するかを示す情報を基に、前記複数のイントラ予測方向の中からいずれか1つまたは2つ以上のイントラ予測方向に絞り込む
    請求項1記載のイントラ予測装置。
  5. 前記取得手段は、前記映像に含まれるピクチャがフィールド構造で符号化するか否かを示す情報を取得し、
    前記候補絞込み手段は、前記情報を基に、フィールド構造でピクチャを符号化すると判定する場合、当該ピクチャに含まれるブロックに適用するイントラ予測方向を絞り込む
    請求項1記載のイントラ予測装置。
  6. 前記取得手段は、前記映像に含まれる複数の画素データから構成されるブロックがフィールド構造で符号化するか否かを示す情報を取得し、
    前記候補絞込み手段は、前記情報を基に、フィールド構造で前記ブロックを符号化すると判定する場合、当該ブロックに適用するイントラ予測方向を絞り込む
    請求項1記載のイントラ予測装置。
  7. 入力される映像を構成する複数の画素データを表示用映像として表示する際の当該画素データの表示形式を特定するための情報を取得する取得ステップと、
    前記取得ステップにおいて取得された情報に基づいて、複数の画素データから構成されるブロックに適用するイントラ予測方向を、複数のイントラ予測方向の中からいずれか1つまたは2つ以上のイントラ予測方向に絞り込む候補絞込みステップと、
    前記候補絞込みステップにおいて絞り込まれたイントラ予測方向について、前記ブロックに対してイントラ予測を実行するイントラ予測実行ステップと、を含み、
    前記取得ステップにおいて取得された情報に示される、前記表示用映像の垂直方向の画素分布と水平方向の画素分布に応じて、前記候補絞込み手段で絞り込まれるイントラ予測方向の組み合わせは異なり、
    (a)前記表示用映像の垂直方向の画素分布と水平方向の画素分布との比較の結果、水平方向の画素分布密度よりも垂直方向の画素分布密度が高い場合、絞り込まれるイントラ予測方向は、水平方向成分よりも垂直方向成分が多いイントラ予測方向を多く含み、
    (b)前記表示用映像の垂直方向の画素分布と水平方向の画素分布との比較の結果、垂直方向の画素分布密度よりも水平方向の画素分布密度が高い場合、絞り込まれるイントラ予測方向は、垂直方向成分よりも水平方向成分が多いイントラ予測方向を多く含む
    イントラ予測方法。
JP2005321566A 2004-12-03 2005-11-04 イントラ予測装置 Expired - Fee Related JP4763422B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005321566A JP4763422B2 (ja) 2004-12-03 2005-11-04 イントラ予測装置
US11/291,923 US8135064B2 (en) 2004-12-03 2005-12-02 Intra prediction apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004350928 2004-12-03
JP2004350928 2004-12-03
JP2005321566A JP4763422B2 (ja) 2004-12-03 2005-11-04 イントラ予測装置

Publications (2)

Publication Number Publication Date
JP2006186972A JP2006186972A (ja) 2006-07-13
JP4763422B2 true JP4763422B2 (ja) 2011-08-31

Family

ID=36574183

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005321566A Expired - Fee Related JP4763422B2 (ja) 2004-12-03 2005-11-04 イントラ予測装置

Country Status (2)

Country Link
US (1) US8135064B2 (ja)
JP (1) JP4763422B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055113A (ko) * 2016-10-04 2019-05-22 퀄컴 인코포레이티드 비디오 코딩을 위한 가변 수의 인트라 모드들

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8369402B2 (en) 2004-06-17 2013-02-05 Canon Kabushiki Kaisha Apparatus and method for prediction modes selection based on image formation
JP4564856B2 (ja) * 2005-02-02 2010-10-20 キヤノン株式会社 画像符号化装置及び撮像装置
US7924914B2 (en) * 2005-09-20 2011-04-12 Intel Corporation Dynamically configuring a video decoder cache for motion compensation
JP2008022405A (ja) 2006-07-14 2008-01-31 Sony Corp 画像処理装置および方法、並びに、プログラム
JP4690966B2 (ja) * 2006-08-11 2011-06-01 株式会社東芝 動画像符号化装置
KR100882949B1 (ko) 2006-08-17 2009-02-10 한국전자통신연구원 화소 유사성에 따라 적응적인 이산 코사인 변환 계수스캐닝을 이용한 부호화/복호화 장치 및 그 방법
CN101554058B (zh) * 2006-11-07 2011-09-21 三星电子株式会社 基于帧内预测进行编码和解码的方法和装置
KR101365570B1 (ko) * 2007-01-18 2014-02-21 삼성전자주식회사 인트라 예측 부호화, 복호화 방법 및 장치
JP5082548B2 (ja) * 2007-03-30 2012-11-28 富士通株式会社 画像処理方法、符号化器および復号化器
US8488672B2 (en) * 2007-04-17 2013-07-16 Qualcomm Incorporated Mode uniformity signaling for intra-coding
CN103338365B (zh) 2007-06-29 2017-04-12 夏普株式会社 图像编码装置、图像编码方法、图像译码装置、图像译码方法
JP5261376B2 (ja) * 2007-09-21 2013-08-14 パナソニック株式会社 画像符号化装置および画像復号化装置
KR20090097689A (ko) * 2008-03-12 2009-09-16 삼성전자주식회사 영상의 인트라 예측 부호화/복호화 방법 및 장치
CN102067602B (zh) * 2008-04-15 2014-10-29 法国电信公司 通过预先确定基准像素族而进行的图像预测、使用这样的预测的编码和解码
JP2009272969A (ja) * 2008-05-09 2009-11-19 Hitachi Ltd 画像符号化装置及び画像符号化方法、画像復号化装置及び画像復号化方法
WO2010010943A1 (ja) * 2008-07-25 2010-01-28 ソニー株式会社 画像処理装置および方法
EP2154893A1 (en) * 2008-08-13 2010-02-17 Thomson Licensing Method for modifying a reference block of a reference image, method for encoding or decoding a block of an image by help of a reference block and device therefor and storage medium or signal carrying a block encoded by help of a modified reference block
KR101458471B1 (ko) * 2008-10-01 2014-11-10 에스케이텔레콤 주식회사 영상 부호화/복호화 방법 및 장치
CN102187668B (zh) * 2008-10-14 2013-10-30 法国电信公司 编码图像或图像序列的方法和装置及其解码方法和装置
JP5597968B2 (ja) * 2009-07-01 2014-10-01 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
WO2011089798A1 (ja) * 2010-01-19 2011-07-28 ルネサスエレクトロニクス株式会社 動画像符号化方法、動画像復号化方法、動画像符号化装置および動画像復号化装置
US8619857B2 (en) 2010-04-09 2013-12-31 Sharp Laboratories Of America, Inc. Methods and systems for intra prediction
US20110249735A1 (en) * 2010-04-09 2011-10-13 Jie Zhao Methods and Systems for Intra Prediction
US8306343B2 (en) * 2010-04-09 2012-11-06 Newport Media, Inc. Optimized prediction based image compression
US8644375B2 (en) 2010-04-09 2014-02-04 Sharp Laboratories Of America, Inc. Methods and systems for intra prediction
US9106933B1 (en) * 2010-05-18 2015-08-11 Google Inc. Apparatus and method for encoding video using different second-stage transform
US9215470B2 (en) 2010-07-09 2015-12-15 Qualcomm Incorporated Signaling selected directional transform for video coding
JP5007761B2 (ja) * 2010-07-12 2012-08-22 ソニー株式会社 画像処理装置および方法、プログラム、並びに、記録媒体
US10992958B2 (en) 2010-12-29 2021-04-27 Qualcomm Incorporated Video coding using mapped transforms and scanning modes
CN103609109B (zh) 2011-06-15 2017-07-28 松下电器(美国)知识产权公司 动态图像编码装置以及动态图像编码方法
CN103609116A (zh) 2011-06-17 2014-02-26 松下电器产业株式会社 动态图像编码装置以及动态图像编码方法
JP2013012846A (ja) * 2011-06-28 2013-01-17 Sony Corp 画像処理装置及び画像処理方法
WO2013058520A1 (ko) 2011-10-18 2013-04-25 엘지전자 주식회사 인트라 예측 방법 및 그 장치
US9531990B1 (en) 2012-01-21 2016-12-27 Google Inc. Compound prediction using multiple sources or prediction modes
US8886648B1 (en) 2012-01-31 2014-11-11 Google Inc. System and method for computation of document similarity
US8737824B1 (en) 2012-03-09 2014-05-27 Google Inc. Adaptively encoding a media stream with compound prediction
GB2501535A (en) * 2012-04-26 2013-10-30 Sony Corp Chrominance Processing in High Efficiency Video Codecs
US9781447B1 (en) 2012-06-21 2017-10-03 Google Inc. Correlation based inter-plane prediction encoding and decoding
US9185414B1 (en) 2012-06-29 2015-11-10 Google Inc. Video encoding using variance
US9167268B1 (en) 2012-08-09 2015-10-20 Google Inc. Second-order orthogonal spatial intra prediction
US9380298B1 (en) 2012-08-10 2016-06-28 Google Inc. Object-based intra-prediction
US9344742B2 (en) 2012-08-10 2016-05-17 Google Inc. Transform-domain intra prediction
US9369732B2 (en) 2012-10-08 2016-06-14 Google Inc. Lossless intra-prediction video coding
US9628790B1 (en) 2013-01-03 2017-04-18 Google Inc. Adaptive composite intra prediction for image and video compression
US9374578B1 (en) 2013-05-23 2016-06-21 Google Inc. Video coding using combined inter and intra predictors
US9247251B1 (en) 2013-07-26 2016-01-26 Google Inc. Right-edge extension for quad-tree intra-prediction
US9609343B1 (en) 2013-12-20 2017-03-28 Google Inc. Video coding using compound prediction
JP6221820B2 (ja) * 2014-02-25 2017-11-01 株式会社Jvcケンウッド 符号化装置、符号化方法および符号化プログラム
US10306229B2 (en) 2015-01-26 2019-05-28 Qualcomm Incorporated Enhanced multiple transforms for prediction residual
US10623774B2 (en) 2016-03-22 2020-04-14 Qualcomm Incorporated Constrained block-level optimization and signaling for video coding tools
FR3053555A1 (fr) * 2016-06-29 2018-01-05 B<>Com Procede de codage d'une image numerique, procede de decodage, dispositifs, terminal et programmes d'ordinateurs associes
US10630978B2 (en) * 2017-05-12 2020-04-21 Blackberry Limited Methods and devices for intra-coding in video compression
US11323748B2 (en) 2018-12-19 2022-05-03 Qualcomm Incorporated Tree-based transform unit (TU) partition for video coding

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100361536C (zh) * 1996-05-28 2008-01-09 松下电器产业株式会社 图像预测编码/解码装置和方法以及记录媒体
EP1142343A1 (en) * 1999-10-29 2001-10-10 Koninklijke Philips Electronics N.V. Video encoding method
DE10158658A1 (de) * 2001-11-30 2003-06-12 Bosch Gmbh Robert Verfahren zur gerichteten Prädiktion eines Bildblockes
JP2003319391A (ja) * 2002-04-26 2003-11-07 Sony Corp 符号化装置および方法、復号装置および方法、記録媒体、並びにプログラム
US7289672B2 (en) * 2002-05-28 2007-10-30 Sharp Laboratories Of America, Inc. Methods and systems for image intra-prediction mode estimation
JP2004304724A (ja) * 2003-04-01 2004-10-28 Sony Corp 画像処理装置とその方法、並びに符号化装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055113A (ko) * 2016-10-04 2019-05-22 퀄컴 인코포레이티드 비디오 코딩을 위한 가변 수의 인트라 모드들
KR102546382B1 (ko) 2016-10-04 2023-06-21 퀄컴 인코포레이티드 비디오 코딩을 위한 가변 수의 인트라 모드들

Also Published As

Publication number Publication date
JP2006186972A (ja) 2006-07-13
US8135064B2 (en) 2012-03-13
US20060120456A1 (en) 2006-06-08

Similar Documents

Publication Publication Date Title
JP4763422B2 (ja) イントラ予測装置
US9924192B2 (en) Method and apparatus for encoding/decoding images using a motion vector of a previous block as a motion vector for the current block
US10110902B2 (en) Method and apparatus for encoding/decoding motion vector
KR101623124B1 (ko) 비디오 인코딩 장치 및 그 인코딩 방법, 비디오 디코딩 장치 및 그 디코딩 방법, 및 거기에 이용되는 방향적 인트라 예측방법
JP4495580B2 (ja) 面内予測装置および面内予測方法
KR101108681B1 (ko) 동영상 코덱에서의 주파수 변환 계수 예측 방법 및 장치,이를 구비한 부호화 및 복호화 장치와 방법
US20110038419A1 (en) Method and apparatus for encoding/decoding image by controlling accuracy of motion vector
US20090220005A1 (en) Method and apparatus for encoding and decoding image by using multiple reference-based motion prediction
KR20100086864A (ko) 움직임 벡터 부호화/복호화 장치 및 방법과 그를 이용한 영상 부호화/복호화 장치 및 방법
JP2022168139A (ja) インター予測モードに基づいた映像処理方法およびそのための装置
JP5216710B2 (ja) 復号化処理方法
US20070133689A1 (en) Low-cost motion estimation apparatus and method thereof
JP2011223423A (ja) 動きベクトル決定装置及び動きベクトル決定方法、コンピュータプログラム
JP2013115583A (ja) 動画像符号化装置及びその制御方法並びにプログラム
KR20120025111A (ko) 참조 화소들의 특성을 이용하여 예측모드 정보의 전송을 생략할 수 있는 화면 내 예측 부호화/복호화 장치 및 그 방법
KR20100106811A (ko) 영상 부호화 장치 및 방법, 그리고 영상 부호화 장치 및 방법
JP2009296363A (ja) 動きベクトル探索装置および動きベクトル探索方法
KR20100042023A (ko) 동영상 부호화/복호화 장치 및 그를 위한 하이브리드 블록 움직임 보상/중첩 블록 움직임 보상 방법 및 장치
JP5533885B2 (ja) 動画像符号化装置および動画像復号装置
CN110677645B (zh) 一种图像预测方法及装置
JP4561701B2 (ja) 動画像符号化装置
KR20120126047A (ko) 움직임 벡터 부호화/복호화 장치 및 방법과 그를 이용한 영상 부호화/복호화 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110531

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110609

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140617

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees