JP5313916B2 - テクスチャ合成を利用した映像の符号化、復号化の方法及び装置 - Google Patents

テクスチャ合成を利用した映像の符号化、復号化の方法及び装置 Download PDF

Info

Publication number
JP5313916B2
JP5313916B2 JP2009542635A JP2009542635A JP5313916B2 JP 5313916 B2 JP5313916 B2 JP 5313916B2 JP 2009542635 A JP2009542635 A JP 2009542635A JP 2009542635 A JP2009542635 A JP 2009542635A JP 5313916 B2 JP5313916 B2 JP 5313916B2
Authority
JP
Japan
Prior art keywords
texture
pictures
video
encoding
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009542635A
Other languages
English (en)
Other versions
JP2010514325A (ja
Inventor
ミン,ジョン−ヘ
ハン,ウ−ジン
パク,ジョン−フン
ソン,ユ−ミ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2010514325A publication Critical patent/JP2010514325A/ja
Application granted granted Critical
Publication of JP5313916B2 publication Critical patent/JP5313916B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/27Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding involving both synthetic and natural picture components, e.g. synthetic natural hybrid coding [SNHC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41Bandwidth or redundancy reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、映像の符号化、復号化の方法及び装置に係り、さらに詳細には、テクスチャ(texture)領域を含んでいる映像を、さらに効率的に符号化、復号化する方法及び装置に関する。
ピクチャ内部の特有な紋様(figure)または質感のように、特定パターンを有した同質なものと見なされる領域をテクスチャという。テクスチャの統計的性質を抽出したり、またはテクスチャの差によってピクチャを互いに異なる領域に分割するなどの操作をテクスチャ解析(analysis)という。
テクスチャ解析と反対に、テクスチャ合成(texture synthesis)というのは、小サイズのテクスチャを利用し、任意サイズのテクスチャを合成することを意味する。現在、テクスチャ合成のための多様な構造が提案されている(非特許文献1など)。テクスチャ領域に含まれている小サイズの標本テクスチャ(sample texture)を利用し、標本テクスチャと同じパターン、すなわち、同じ紋様と質感とを有する任意サイズのテクスチャを合成する。
図1は、従来技術によるテクスチャ合成方法を図示する。図1を参照するに、規則的なレンガ模様の標本テクスチャ110を利用し、標本テクスチャ110より大サイズのレンガ模様のテクスチャ120を合成する。標本テクスチャのサイズが大きければ大きいほど、標本テクスチャ110と類似したパターンのテクスチャを合成し出すことができる。
映像に含まれたテクスチャは、映像圧縮の効率を落とす。特に、芝生模様または波模様のように、予測不可能に反復されるテクスチャは、映像を符号化するにおいて、インター予測またはイントラ予測を利用して予測し難い。映像の時間的、空間的な冗長性(redundancy)を利用して予測し、予測結果に基づいて映像を圧縮符号化し難いのである。
従って、テクスチャ領域が有する同質性を利用し、さらに高効率で映像を圧縮できる映像符号化、復号化の方法が必要である。
A.A.Efros and T.K.Leung,"Texture synthesis by non-parametric sampling",In Proceedings of the Seventh International Conference on Computer Vision,Corfu,Greece,1999
本発明の目的は、前記のような従来技術の短所を克服するためのテクスチャ合成を利用した映像の符号化、復号化の方法及び装置を提供するにおいて、前記方法を実行させるためのプログラムを記録したコンピュータで読み取り可能な記録媒体を提供するところにある。
前記技術的課題を解決するための本発明による映像の符号化方法は、現在ピクチャにおいてテクスチャ領域を検出する段階と、前記検出されたテクスチャ領域のうち一部を、前記テクスチャ領域の合成のための標本テクスチャ(sample texture)として選択する段階と、前記検出されたテクスチャ領域の代わりに、前記選択された標本テクスチャを符号化する段階とを含む。
本発明によるさらに望ましい実施形態によれば、前記符号化する段階は、前記現在ピクチャにおいて前記検出されたテクスチャ領域と、前記選択された標本テクスチャとの位置についての情報を符号化する段階を含む。
前記技術的課題を解決するための本発明による映像の符号化装置は、現在ピクチャにおいてテクスチャ領域を検出するテクスチャ領域検出部と、前記検出されたテクスチャ領域のうち一部を、前記テクスチャ領域の合成のための標本テクスチャとして選択する標本テクスチャ選択部と、前記抽出されたテクスチャ領域の代わりに、前記標本テクスチャを符号化する符号化部とを含む。
前記技術的課題を解決するための本発明による映像の復号化方法は、現在ピクチャに含まれたテクスチャ領域の一部を、前記テクスチャ領域の合成のための標本テクスチャとして選択した後、前記テクスチャ領域の代わりに、前記標本テクスチャが符号化された前記現在ピクチャについてのデータを受信する段階と、前記受信された現在ピクチャについてのデータから、前記標本テクスチャを復号化する段階と、前記復号化された標本テクスチャを利用し、前記テクスチャ領域を合成する段階と、前記合成されたテクスチャ領域を前記現在ピクチャに配する段階とを含む。
前記技術的課題を解決するための本発明による映像の復号化装置は、現在ピクチャに含まれたテクスチャ領域の一部を、前記テクスチャ領域の合成のための標本テクスチャとして選択した後、前記テクスチャ領域の代わりに、前記標本テクスチャが符号化された前記現在ピクチャについてのデータを受信し、前記受信された現在ピクチャについてのデータから、前記標本テクスチャを復号化する復号化部と、前記復号化された標本テクスチャを利用し、前記テクスチャ領域を合成するテクスチャ領域合成部と、前記合成されたテクスチャ領域を前記現在ピクチャに配する配置部とを含む。
前記技術的課題を解決するための本発明による映像の符号化方法は、前記映像のうち特定パターンのテクスチャ領域を含むM枚のピクチャを検出する段階と、前記検出されたM枚のピクチャのうち、前記テクスチャ領域を符号化するN枚のピクチャを選択する段階と、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化する段階とを含む。
前記技術的課題を解決するための本発明による映像の符号化装置は、前記映像のうち特定パターンのテクスチャ領域を含むM枚のピクチャを検出するパターン検出部と、前記検出されたM枚のピクチャのうち、前記テクスチャ領域を符号化するN枚のピクチャを選択するピクチャ選択部と、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化する符号化部とを含む。
前記技術的課題を解決するための映像の復号化方法は、前記映像のうち特定パターンのテクスチャ領域を含むM枚のピクチャを検出し、前記検出されたM枚のピクチャのうち、前記テクスチャ領域を符号化するN枚のピクチャを選択し、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信する段階と、前記受信された映像データから、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する段階と、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、前記M枚のピクチャのうち、残りのピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域を復元する段階とを含む。
前記技術的課題を解決するための本発明による映像の復号化装置は、前記映像のうち特定パターンのテクスチャ領域を含むM枚のピクチャを検出し、前記検出されたM枚のピクチャのうち、前記テクスチャ領域を符号化するN枚のピクチャを選択し、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信し、前記受信された映像データから、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する復号化部と、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、前記M枚のピクチャのうち、残りのピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域を復元するテクスチャ領域復元部とを含む。
前記技術的課題を解決するために本発明は、前記映像の符号化、復号化の方法を実行させるためのプログラムを記録したコンピュータで読み取り可能な記録媒体を提供する。
本発明によれば、映像に含まれたテクスチャ領域が有する時間的、空間的な冗長性を効率的に除去して符号化、復号化が可能であって、映像符号化の圧縮効率を大きく向上させることができる。
従来技術によるテクスチャ合成方法を図示する図である。 本発明の一実施形態による映像符号化装置を図示する図である。 本発明の一実施形態によるテクスチャ分析(texture analysis)を図示する図である。 本発明の一実施形態による映像符号化方法のフローチャートである。 本発明の一実施形態による映像復号化装置を図示する図である。 本発明の一実施形態による映像復号化方法のフローチャートである。 本発明の他の実施形態による映像符号化装置を図示する図である。 本発明の他の実施形態によるテクスチャ分析を図示する図である。 本発明の他の実施形態による映像符号化方法のフローチャートである。 本発明の他の実施形態による映像復号化装置を図示する図である。 本発明の他の実施形態による映像復号化方法のフローチャートである。
以下、図面を参照しつつ、本発明の望ましい実施形態について詳細に説明する。
図2は、本発明の一実施形態による映像符号化装置を図示している。図2を参照するに、本発明による映像符号化装置200は、テクスチャ領域検出部210、標本テクスチャ選択部220及び符号化部230を含む。
テクスチャ領域検出部210は、現在ピクチャにおいて、テクスチャ領域を検出する。図3に図示された現在ピクチャ300で、草(grass)に対する映像がテクスチャ領域310であると仮定すれば、テクスチャ領域検出部210は、テクスチャ分析を介してテクスチャ領域310を現在ピクチャ300において検出して分離する。
標本テクスチャ選択部220は、テクスチャ領域検出部210で検出したテクスチャ領域310のうち一部を、標本テクスチャ320として選択する。本発明の一実施形態による映像符号化装置は、テクスチャ領域の全部に対して符号化を行うのではなく、標本テクスチャ320として選択されたテクスチャ領域のうち、一部に対してのみ符号化を行う。
従って、標本テクスチャ選択部220は、テクスチャ領域310のうち一部を、テクスチャ領域310を合成するのに必要な標本テクスチャ320として選択する。標本テクスチャ320のサイズには制限がないが、標本テクスチャ320が大きければ大きいほど、符号化された現在ピクチャ300を復号化する側で、テクスチャ領域310を原本に近く合成できる確率が高くなる。
符号化部230は、現在ピクチャ300のテクスチャ領域310の代わりに、標本テクスチャ選択部220で選択された標本テクスチャ320を符号化する。現在ピクチャ300において、テクスチャ領域310を除外した残りの部分に対して、一般的な映像符号化方法によって符号化を行う。しかし、テクスチャ領域310は、標本テクスチャ選択部220で選択された標本テクスチャ320に対してのみ符号化を行う。
現在ピクチャ300の標本テクスチャ320も、圧縮のために予測符号化を行うことができる。以前に符号化された参照ピクチャから、時間予測(temporal prediction)を行って標本テクスチャ320に対する予測値を生成し、生成された予測値を標本テクスチャ320から減算した剰余(residual)を符号化する。
また、テクスチャ領域310に含まれたブロック及び標本テクスチャ320に含まれたブロックが特定されてこそ、復号化する側で現在ピクチャを復元できる。従って、符号化部230は、現在ピクチャにおけるテクスチャ領域310及び標本テクスチャ320の位置についての情報も、共に符号化せねばならない。テクスチャ領域310及び標本テクスチャ320に含まれたブロックについての情報をビットストリームに挿入することによって、位置についての情報を符号化する。
図4は、本発明の一実施形態による映像の符号化方法について説明するためのフローチャートである。
段階410で、本発明による映像符号化装置は、現在ピクチャにおいてテクスチャ領域を検出する。
段階420で、本発明による映像符号化装置は、段階410で検出されたテクスチャ領域のうち一部を、テクスチャ領域の合成のための標本テクスチャとして選択する。テクスチャ領域の代わりに符号化する標本テクスチャ領域を選択する。標本テクスチャだけ符号化して復号化する側に伝送し、復号化する側は、標本テクスチャからテクスチャ領域全部を合成する。
段階430で、本発明による映像符号化装置は、段階420で選択された標本テクスチャ領域を符号化する。望ましくは、時間予測(temporal prediction)を行って剰余のみ符号化することもできる。また、現在ピクチャにおけるテクスチャ領域及び標本テクスチャの位置についての情報も符号化され、ビットストリームに挿入される。
図5は、本発明の一実施形態による映像復号化装置を図示している。図5を参照するに、本発明による映像復号化装置500は、復号化部510、テクスチャ領域合成部520及び配置部530を含む。
復号化部510は、現在ピクチャについてのデータを含んでいるビットストリームを受信し、受信されたビットストリームから標本テクスチャを復号化する。
現在ピクチャに含まれたテクスチャ領域を検出し、検出された領域から標本テクスチャを選択し、テクスチャ領域の代わりに標本テクスチャ領域だけを符号化した現在ピクチャについてのデータを受信する。受信された現在ピクチャについてのデータから、標本テクスチャを復号化する。
ビットストリームには、現在ピクチャにおけるテクスチャ領域及び標本テクスチャの位置についての情報が含まれているので、それらの位置についての情報も復号化する。
テクスチャ領域合成部520は、復号化部510で復号化した標本テクスチャを利用してテクスチャ領域を合成する。標本テクスチャと同じパターン、すなわち、同じ紋様と質感とを有するテクスチャ領域を合成する。
予測符号化が簡単ではなく、符号化の圧縮効率を落としうるテクスチャ領域に対して、標本テクスチャだけ選択して符号化し、復号化する側では、テクスチャ合成を利用して合成することによって、符号化の圧縮効率を向上させる。
配置部530は、テクスチャ領域合成部520で合成されたテクスチャ領域を現在ピクチャに配する。ビットストリームに含まれおり、復号化部510で復号化したテクスチャ領域及び標本テクスチャの位置についての情報を参照し、合成されたテクスチャ領域を現在ピクチャに配する。
現在ピクチャにおいてテクスチャ領域を除外した残りの部分は、一般的な復号化方法によって復号化部510で復号化され、復号化された残りの部分と、テクスチャ領域合成部520で合成されたテクスチャ領域とを結合することによって、現在ピクチャを復元する。
図6は、本発明の一実施形態による映像の復号化方法について説明するためのフローチャートである。図6を参照するに、段階610で、本発明による映像復号化装置は、現在ピクチャに含まれたテクスチャ領域を検出し、検出された領域から標本テクスチャを選択し、テクスチャ領域の代わりに、標本テクスチャだけを符号化した現在ピクチャについてのデータを受信する。
段階620で、本発明による映像復号化装置は、段階610で受信した現代ピクチャについてのデータから標本テクスチャを復号化する。標本テクスチャが時間予測を利用し、参照ピクチャから予測符号化された場合には、参照ピクチャを参照して標本テクスチャの予測値を生成し、生成された予測値に剰余を加算することによって、標本テクスチャを復号化する。
段階630で、本発明による映像復号化装置は、段階620で復号化された標本テクスチャを利用し、テクスチャ領域を合成する。
段階640で、本発明による映像復号化装置は、段階630で合成されたテクスチャ領域を現在ピクチャに配する。ビットストリームに含まれている現在ピクチャにおける標本テクスチャ及びテクスチャ領域の位置についての情報を参照し、合成されたテクスチャ領域を現在ピクチャに配する。
図7は、本発明の他の実施形態による映像符号化装置を図示している。図7を参照するに、本発明による映像符号化装置700は、パターン検出部710、ピクチャ選択部720、標本テクスチャ選択部730及び符号化部740を含む。
パターン検出部710は、映像のうち特定パターンのテクスチャ領域を含むM枚、すなわち、複数枚のピクチャを検出する。特定パターン、すなわち、特定紋様または質感を有するテクスチャ領域を含むピクチャを含むピクチャを、テクスチャ分析を行って検出する。
連続的なピクチャからなる映像は、特定パターンのテクスチャ領域を含む複数のピクチャが存在しうる。パターン検出部710は、映像に対してテクスチャ分析を行い、特定パターンのテクスチャ領域を含む時間的に連続された複数のピクチャを検出する。図8を参照しつつ詳細に説明する。
図8に図示されたように、連続的なピクチャからなる映像は、一定時間の間、特定パターンのテクスチャ領域830を含んでいることが可能である。M枚のピクチャ810が特定パターンのテクスチャ領域830を含んでいると仮定すれば、パターン検出部710は、テクスチャ分析を行い、特定パターンのテクスチャ領域830を含んでいるM枚のピクチャ810を検出する。
ピクチャ選択部720は、パターン検出部710で検出されたM枚のピクチャ810のうち、テクスチャ領域を符号化するN枚のピクチャを選択する。特定パターンのテクスチャ領域830は、検出されたM枚のピクチャ810が共通して含んでいるテクスチャ領域であるから、M枚のピクチャ810それぞれに含まれたテクスチャ領域いずれについても、符号化を行う必要がない。従って、ピクチャ選択部720は、M枚のピクチャ810のうち、テクスチャ領域830を符号化するN枚のピクチャ820を選択する。
N枚のピクチャ820を選択する方法には制限がないが、望ましくは、パターン検出部710で検出したM枚のピクチャのうち、時間的に先行するN枚のピクチャを選択できる。
標本テクスチャ選択部730は、ピクチャ選択部720が選択したN枚のピクチャそれぞれに含まれたテクスチャ領域に対して、標本テクスチャを選択する。M枚のピクチャ810のうち、選択されたN枚のピクチャ820に対してのみテクスチャ領域を符号化しても、映像符号化の圧縮効率は向上する。しかし、本発明による映像符号化装置700は、選択されたN枚のピクチャ820それぞれに含まれたテクスチャ領域に対してそれぞれの標本テクスチャ840をさらに選択する。
復号化する側では、標本テクスチャ840を利用してN枚のピクチャ820それぞれのテクスチャ領域を復号化し、復号化されたそれぞれのテクスチャ領域を利用し、残りのM−N枚のピクチャのテクスチャ領域を復元する。
符号化部740は、パターン検出部710が検出したM枚のピクチャのうち、ピクチャ選択部720が選択したN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化する。標本テクスチャ選択部730でN枚のピクチャそれぞれに含まれたテクスチャ領域のうちから選択されたそれぞれの標本テクスチャ840だけを符号化する。
特定パターンのテクスチャ領域を含むM枚のピクチャのうち一部であるN枚のピクチャを選択し、時間的な冗長性を除去し、選択されたN枚のピクチャそれぞれに対して標本テクスチャを選択することによって、それぞれのピクチャ内部の空間的な冗長性を除去する。
図2の符号化部230と関連して前述のところのように、M枚のピクチャそれぞれに含まれたテクスチャ領域の位置情報、及びN枚のピクチャそれぞれに含まれた標本テクスチャの位置情報は符号化部740で符号化され、ビットストリームに挿入される。
図9は、本発明の他の実施形態による映像の符号化方法について説明するためのフローチャートである。図9を参照するに、段階910で、本発明による映像符号化装置は、映像のうち、特定パターンのテクスチャ領域を含むM枚のピクチャを検出する。テクスチャ分析を行い、特定パターン、すなわち、特定紋様または質感のテクスチャ領域を含むM枚のピクチャを検出する。
段階920で、本発明による映像符号化装置は、段階910で検出されたM枚のピクチャのうち、テクスチャ領域を符号化するN枚のピクチャを選択する。一実施形態において、段階910で検出したM枚のピクチャのうち、時間的に先行するN枚のピクチャを選択できる。
段階930で、本発明による映像符号化装置は、段階920で選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化を行う。望ましくは、N枚のピクチャそれぞれに含まれたテクスチャ領域に対して、それぞれの標本テクスチャを選択し、選択されたそれぞれの標本テクスチャ領域を符号化する。
図10は、本発明の他の実施形態による映像復号化装置を図示している。図10を参照するに、本発明による映像復号化装置1000は、復号化部1010、テクスチャ領域復元部1020及び配置部1030を含む。
復号化部1010は、特定パターンのテクスチャ領域を含むM枚のピクチャを検出し、検出されたM枚のピクチャのうち、N枚のピクチャを選択し、N枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信し、受信された映像データから、N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する。
望ましくは、N枚のピクチャそれぞれに含まれたテクスチャ領域においてそれぞれの標本テクスチャを選択して符号化された映像データを受信し、それぞれの標本テクスチャを復号化する。
テクスチャ領域復元部1020は、復号化部1010が復号化したN枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、M枚のピクチャのうち、残りのピクチャ、すなわち、M−N枚のピクチャに含まれたテクスチャ領域を復元する。
N枚のピクチャそれぞれに含まれたテクスチャ領域を利用して時間予測を行い、残りのM−N枚のピクチャに含まれたテクスチャ領域を復元する。
N枚のピクチャそれぞれに含まれたテクスチャ領域でそれぞれの標本テクスチャを復号化した場合には、それぞれの標本テクスチャを利用し、N枚のピクチャそれぞれに含まれたテクスチャ領域を合成し、合成されたN枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、残りのM−N枚のピクチャに含まれたテクスチャ領域を復元する。
配置部1030は、テクスチャ領域復元部1020で復元されたM枚のピクチャそれぞれに含まれたテクスチャ領域を配置し、M枚のピクチャを復元する。復号化部1010で復号化されたN枚のピクチャそれぞれに含まれたテクスチャ領域、及びテクスチャ領域復元部1020で復元されたM−N枚のピクチャそれぞれに含まれたテクスチャ領域を、M枚のピクチャそれぞれに配する。ビットストリームに含まれているテクスチャ領域と標本テクスチャとの位置情報を参照して配置を行う。
図11は、本発明の他の実施形態による映像の復号化方法について説明するためのフローチャートである。図11を参照するに、段階1110で、本発明による映像復号化装置は、特定パターンのテクスチャ領域を含むM枚のピクチャを検出し、検出されたM枚のピクチャのうち、N枚のピクチャを選択し、N枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信する。
N枚のピクチャそれぞれに含まれたテクスチャ領域でそれぞれの標本テクスチャを選択して符号化した映像データを受信することができる。
段階1120で、本発明による映像復号化装置は、段階1110で受信された映像データから、N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する。N枚のピクチャそれぞれに含まれたテクスチャ領域のうち、標本テクスチャだけ符号化された場合には、標本テクスチャが復号化される。
段階1130で、本発明による映像復号化装置は、段階1120で復号化されたN枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、M−N枚のピクチャそれぞれに含まれたテクスチャ領域を復元する。
N枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、時間予測を行い、残りのM−N枚のピクチャそれぞれに含まれたテクスチャ領域を復元する。
N枚のピクチャそれぞれに含まれたテクスチャ領域のうち、標本テクスチャが復号化された場合には、標本テクスチャを利用し、N枚のピクチャそれぞれに含まれたテクスチャ領域を合成し、合成されたN枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、M−N枚のピクチャそれぞれに含まれたテクスチャ領域を復元する。
段階1140で、本発明による映像復号化装置は、段階1120で復号化されたN枚のピクチャそれぞれに含まれたテクスチャ領域、及び段階1130で復元されたM−N枚のピクチャそれぞれに含まれたテクスチャ領域を、M枚のピクチャそれぞれに配する。
以上のように、たとえ本発明が限定された実施形態と図面とによって説明されたにしても、本発明が前記の実施形態に限定されるものではなく、それらは、本発明が属する分野で当業者ならば、かような記載から、多様な修正及び変形が可能であろう。従って、本発明の思想は、特許請求の範囲によってのみ把握され、それと均等であるか、または等価的ないかなる変形も、本発明の思想の範疇に属するのである。また、本発明によるシステムは、コンピュータで読み取り可能な記録媒体に、コンピュータで読み取り可能なコードとして具現することが可能である。コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取り可能なデータが保存されるあらゆる種類の記録装置を含む。記録媒体の例としては、ROM(read-only memory)、RAM(random-access memory)、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ保存装置などがあり、またキャリアウェーブ(例えば、インターネットを介した伝送)の形態で具現されることも含む。また、コンピュータで読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散され、分散方式でコンピュータで読み取り可能なコードが保存されて実行されうる。

Claims (12)

  1. 映像の符号化方法において、
    前記映像のうち特定パターンのテクスチャ領域を含む、時間的に連続するM枚のピクチャを検出する段階と、
    前記検出されたM枚のピクチャのうち、前記検出されたM枚のピクチャの一部であって且つ時間的に連続する、前記テクスチャ領域を符号化するN枚のピクチャを選択する段階と、
    前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化する段階とを含み、
    前記テクスチャ領域を符号化する段階は、
    前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成するためのそれぞれの標本テクスチャを選択する段階と、
    前記それぞれのテクスチャ領域の代わりに、前記選択されたそれぞれの標本テクスチャのみを符号化する段階とを含み、
    前記テクスチャ領域を符号化する段階は
    前記M枚のピクチャのそれぞれに含まれるテクスチャ領域の位置情報、及び前記N枚のピクチャのそれぞれに含まれる標本テクスチャの位置情報を符号化する段階を含む
    ことを特徴とする映像符号化方法。
  2. 前記N枚のピクチャを選択する段階は、
    前記M枚のピクチャのうち、時間的に先んじた前記N枚のピクチャを選択する段階を含むことを特徴とする請求項に記載の映像符号化方法。
  3. 映像の符号化装置において、
    前記映像のうち、特定パターンのテクスチャ領域を含む、時間的に連続するM枚のピクチャを検出するパターン検出部と、
    前記検出されたM枚のピクチャのうち、前記検出されたM枚のピクチャの一部であって且つ時間的に連続する、前記テクスチャ領域を符号化するN枚のピクチャを選択するピクチャ選択部と、
    前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけを符号化する符号化部とを含み、
    前記符号化部は、
    前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成するためのそれぞれの標本テクスチャを選択し、前記それぞれのテクスチャ領域の代わりに、前記選択されたそれぞれの標本テクスチャのみを符号化
    前記符号化部は
    前記M枚のピクチャのそれぞれに含まれるテクスチャ領域の位置情報、及び前記N枚のピクチャのそれぞれに含まれる標本テクスチャの位置情報を符号化する
    ことを特徴とする映像符号化装置。
  4. 前記ピクチャ選択部は、
    前記M枚のピクチャのうち、時間的に先んじた前記N枚のピクチャを選択することを特徴とする請求項に記載の映像符号化装置。
  5. 映像の復号化方法において、
    前記映像のうち特定パターンのテクスチャ領域を含む、時間的に連続するM枚のピクチャを検出し、前記検出されたM枚のピクチャのうち、前記検出されたM枚のピクチャの一部であって且つ時間的に連続する、前記テクスチャ領域を符号化するN枚のピクチャを選択し、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信する段階と、
    前記受信された映像データから、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する段階と、
    前記N枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、前記M枚のピクチャのうち、残りのピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域を復元する段階とを含み、
    前記映像データは、
    前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成するためのそれぞれの標本テクスチャを選択し、前記それぞれのテクスチャ領域の代わりに、前記選択されたそれぞれの標本テクスチャのみが符号化された映像データであり、
    前記映像データは、前記M枚のピクチャのそれぞれに含まれるテクスチャ領域の位置情報、及び前記N枚のピクチャのそれぞれに含まれる標本テクスチャの位置情報を符号化したデータを含む、
    ことを特徴とする映像復号化方法。
  6. 前記復号化する段階は、
    前記それぞれの標本テクスチャを復号化する段階を含み、
    前記復元する段階は、
    前記復号化されたそれぞれの標本テクスチャを利用し、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成する段階とを含むことを特徴とする請求項に記載の映像復号化方法。
  7. 前記復号化されたN枚のピクチャそれぞれに含まれたテクスチャ領域、及び前記復元された残りのピクチャそれぞれに含まれたテクスチャ領域を、前記M枚のピクチャそれぞれに配する段階をさらに含むことを特徴とする請求項に記載の映像復号化方法。
  8. 映像の復号化装置において、
    前記映像のうち特定パターンのテクスチャ領域を含む、時間的に連続するM枚のピクチャを検出し、前記検出されたM枚のピクチャのうち、前記検出されたM枚のピクチャの一部であって且つ時間的に連続する、前記テクスチャ領域を符号化するN枚のピクチャを選択し、前記M枚のピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域のうち、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域だけが符号化された映像データを受信し、前記受信された映像データから、前記N枚のピクチャそれぞれに含まれたテクスチャ領域を復号化する復号化部と、
    前記N枚のピクチャそれぞれに含まれたテクスチャ領域を利用し、前記M枚のピクチャのうち、残りのピクチャそれぞれに含まれた前記特定パターンのテクスチャ領域を復元するテクスチャ領域復元部とを含み、
    前記映像データは、
    前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成するためのそれぞれの標本テクスチャを選択し、前記それぞれのテクスチャ領域の代わりに、前記選択されたそれぞれの標本テクスチャのみが符号化された映像データであり、
    前記映像データは、前記M枚のピクチャのそれぞれに含まれるテクスチャ領域の位置情報、及び前記N枚のピクチャのそれぞれに含まれる標本テクスチャの位置情報を符号化したデータを含む、
    ことを特徴とする映像復号化装置。
  9. 前記復号化部は、前記それぞれの標本テクスチャを復号化し、
    前記テクスチャ領域復元部は、前記復号化されたそれぞれの標本テクスチャを利用し、前記選択されたN枚のピクチャそれぞれに含まれたテクスチャ領域を合成することを特徴とする請求項に記載の映像復号化装置。
  10. 前記復号化されたN枚のピクチャそれぞれに含まれたテクスチャ領域及び前記復元された残りのピクチャそれぞれに含まれたテクスチャ領域を、前記M枚のピクチャそれぞれに配する配置部をさらに含むことを特徴とする請求項に記載の映像復号化装置。
  11. 請求項に記載の方法をコンピュータによって実行するためのプログラムを記録したコンピュータで読み取り可能な記録媒体。
  12. 請求項に記載の方法をコンピュータによって実行するためのプログラムを記録したコンピュータで読み取り可能な記録媒体。
JP2009542635A 2006-12-20 2007-12-14 テクスチャ合成を利用した映像の符号化、復号化の方法及び装置 Expired - Fee Related JP5313916B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US87096706P 2006-12-20 2006-12-20
US60/870,967 2006-12-20
KR10-2007-0029370 2007-03-26
KR1020070029370A KR101381600B1 (ko) 2006-12-20 2007-03-26 텍스처 합성을 이용한 영상의 부호화, 복호화 방법 및 장치
PCT/KR2007/006518 WO2008075854A1 (en) 2006-12-20 2007-12-14 Image encoding and decoding method and apparatus using texture synthesis

Publications (2)

Publication Number Publication Date
JP2010514325A JP2010514325A (ja) 2010-04-30
JP5313916B2 true JP5313916B2 (ja) 2013-10-09

Family

ID=39803816

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009542635A Expired - Fee Related JP5313916B2 (ja) 2006-12-20 2007-12-14 テクスチャ合成を利用した映像の符号化、復号化の方法及び装置

Country Status (6)

Country Link
US (1) US8724915B2 (ja)
EP (1) EP2098075A4 (ja)
JP (1) JP5313916B2 (ja)
KR (1) KR101381600B1 (ja)
CN (1) CN101569196A (ja)
WO (1) WO2008075854A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2595381B1 (en) 2006-04-28 2016-05-18 NTT DoCoMo, Inc. Image predictive decoding device
JP4659005B2 (ja) * 2007-08-17 2011-03-30 日本電信電話株式会社 テクスチャ合成に基づく動画像符号化方法,復号方法,符号化装置,復号装置およびそれらのプログラムとその記録媒体
KR101664125B1 (ko) 2009-09-22 2016-10-10 삼성전자주식회사 랜덤 액세스 가능한 영상 인코딩 시스템 및 방법
KR101791919B1 (ko) 2010-01-22 2017-11-02 톰슨 라이센싱 예시-기반의 초 해상도를 이용하여 비디오 압축을 위한 데이터 프루닝
CN102823242B (zh) 2010-01-22 2016-08-10 汤姆森特许公司 基于取样超分辨率视频编码和解码的方法和装置
KR101481451B1 (ko) * 2010-09-01 2015-01-13 한국전자통신연구원 다중 텍스쳐 이미지 기반 영상 처리 방법 및 장치
KR101469515B1 (ko) * 2010-09-01 2014-12-05 한국전자통신연구원 영상센서여기신호를 이용한 다중 텍스쳐 기반 신호 처리 방법 및 장치
WO2012033970A1 (en) 2010-09-10 2012-03-15 Thomson Licensing Encoding of a picture in a video sequence by example - based data pruning using intra- frame patch similarity
US9544598B2 (en) 2010-09-10 2017-01-10 Thomson Licensing Methods and apparatus for pruning decision optimization in example-based data pruning compression
JP6042813B2 (ja) * 2010-09-10 2016-12-14 トムソン ライセンシングThomson Licensing ビデオ圧縮のための動き補償事例ベース超解像を用いてビデオ信号を符号化する方法と装置
US20130182776A1 (en) * 2010-09-10 2013-07-18 Thomson Licensing Video Encoding Using Block-Based Mixed-Resolution Data Pruning
CN103202017B (zh) * 2010-09-10 2017-02-22 汤姆逊许可公司 使用基于样本的数据修剪的视频解码的方法和装置
KR20150100113A (ko) * 2014-02-24 2015-09-02 삼성전자주식회사 영상 처리 장치 및 이의 영상 처리 방법
JP5941097B2 (ja) * 2014-05-28 2016-06-29 トムソン ライセンシングThomson Licensing パッチベースのサンプリングテクスチャ合成を用いたテクスチャ圧縮の方法及び装置
US20200296358A1 (en) * 2017-11-02 2020-09-17 Samsung Electronics Co., Ltd. Method and device for encoding image according to low-quality coding mode, and method and device for decoding mage
EP3662670A1 (en) * 2017-12-08 2020-06-10 Huawei Technologies Co., Ltd. Polynomial fitting for motion compensation and luminance reconstruction in texture synthesis
EP3662669A1 (en) 2017-12-08 2020-06-10 Huawei Technologies Co., Ltd. Frequency adjustment for texture synthesis in video coding

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0547696B1 (fr) * 1991-12-18 1999-04-21 Laboratoires D'electronique Philips S.A.S. Système de transmission et/ou stockage de signaux correspondant à des images texturées
KR970003799B1 (ko) * 1993-12-29 1997-03-21 양승택 영상 프레임차를 이용한 영상신호 전송장치
US5668598A (en) 1995-03-27 1997-09-16 International Business Machines Corporation Motion video compression system with guaranteed bit production limits
US6055274A (en) * 1997-12-30 2000-04-25 Intel Corporation Method and apparatus for compressing multi-view video
EP0961230A3 (en) * 1998-05-29 2001-03-28 Canon Kabushiki Kaisha Image processing method and apparatus therefor
US6480538B1 (en) * 1998-07-08 2002-11-12 Koninklijke Philips Electronics N.V. Low bandwidth encoding scheme for video transmission
US6977659B2 (en) * 2001-10-11 2005-12-20 At & T Corp. Texture replacement in video sequences and images
US7606435B1 (en) * 2002-02-21 2009-10-20 At&T Intellectual Property Ii, L.P. System and method for encoding and decoding using texture replacement
CN100380980C (zh) 2002-04-23 2008-04-09 诺基亚有限公司 用于在视频编码***中指示量化器参数的方法与设备
DE10310023A1 (de) * 2003-02-28 2004-09-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Anordnung zur Videocodierung, wobei die Videocodierung Texturanalyse und Textursynthese umfasst, sowie ein entsprechendes Computerprogramm und ein entsprechendes computerlesbares Speichermedium
US7848567B2 (en) * 2004-09-23 2010-12-07 Fuji Xerox Co., Ltd. Determining regions of interest in synthetic images
US7283140B2 (en) * 2005-06-21 2007-10-16 Microsoft Corporation Texture montage
WO2007010446A2 (en) * 2005-07-15 2007-01-25 Koninklijke Philips Electronics N.V. Image coder for regions of texture
JP2007184800A (ja) * 2006-01-10 2007-07-19 Hitachi Ltd 画像符号化装置、画像復号化装置、画像符号化方法及び画像復号化方法
EP2595381B1 (en) * 2006-04-28 2016-05-18 NTT DoCoMo, Inc. Image predictive decoding device
US8204325B2 (en) * 2008-01-18 2012-06-19 Sharp Laboratories Of America, Inc. Systems and methods for texture synthesis for video coding with side information

Also Published As

Publication number Publication date
CN101569196A (zh) 2009-10-28
JP2010514325A (ja) 2010-04-30
KR20080058128A (ko) 2008-06-25
EP2098075A1 (en) 2009-09-09
US20080152243A1 (en) 2008-06-26
KR101381600B1 (ko) 2014-04-04
US8724915B2 (en) 2014-05-13
EP2098075A4 (en) 2014-10-22
WO2008075854A1 (en) 2008-06-26

Similar Documents

Publication Publication Date Title
JP5313916B2 (ja) テクスチャ合成を利用した映像の符号化、復号化の方法及び装置
KR101199498B1 (ko) 카메라 파라미터를 이용한 다시점 영상의 부호화 장치 및생성 장치, 그 방법과, 이를 수행하기 위한 프로그램이기록된 기록 매체
JP5506397B2 (ja) 映像符号化方法及び装置、映像復号化方法及び装置
KR100817732B1 (ko) 부호화 장치 및 방법, 복호장치 및 방법, 데이터 처리시스템 및, 저장매체
JP2010515400A (ja) 全域差ベクトルを利用した多視点映像の符号化、復号化方法及び装置
JP2007116351A (ja) 画像予測符号化装置、画像予測復号装置、画像予測符号化方法、画像予測復号方法、画像予測符号化プログラム、及び画像予測復号プログラム
EP2304963B1 (fr) Procede et dispositif de codage d'images mettant en oeuvre une prediction amelioree, procede et dispositif de decodage, signal et programmes d'ordinateur correspondants
TW201143458A (en) Dynamic image encoding device and dynamic image decoding device
CN102075756B (zh) 视频多帧预测编解码方法和装置
EP2153655A1 (en) Method and apparatus for encoding and decoding image using modification of residual block
JP2010041354A (ja) 動画像符号化方法、符号化装置及び符号化プログラム
RU2013120007A (ru) Устройство прогнозирующего кодирования изображений, способ прогнозирующего кодирования изображений, программа прогнозирующего кодирования изображений, устройство прогнозирующего декодирования изображений, способ прогнозирующего декодирования изображений, и программа прогнозирующего декодирования изображений
KR102267770B1 (ko) 픽쳐들의 그룹에서 변경가능 엘리먼트들의 세트를 결정하기 위한 방법 및 디바이스
KR101456491B1 (ko) 복수의 참조 픽처에 기초한 영상 부호화, 복호화 방법 및장치
US20100329336A1 (en) Method and apparatus for encoding and decoding based on inter prediction using image inpainting
JP5446686B2 (ja) 動画像符号化装置及びプログラム、動画像復号装置及びプログラム、並びに、動画像配信システム
JP4945541B2 (ja) 劣化ホスト信号利用の電子透かし埋め込み検出方法
KR101530549B1 (ko) 적응적 1차원 필터 세트를 이용한 영상 부호화 방법 및 장치, 영상 복호화 방법 및 장치
JP2014011572A5 (ja) 動画像予測復号装置、方法及びプログラム
WO2013058034A1 (ja) 動画像予測符号化方法、動画像予測符号化装置、動画像予測符号化プログラム、動画像予測復号方法、動画像予測復号装置及び動画像予測復号プログラム
JP5389878B2 (ja) 画像予測符号化装置、画像予測復号装置、画像予測符号化方法、画像予測復号方法、画像予測符号化プログラム、及び画像予測復号プログラム
JP2008259059A (ja) 動画像復号装置、方法及びプログラム、並びに、動画像符号化装置、方法及びプログラム
JP5711417B2 (ja) 動画像予測符号化方法、動画像予測符号化装置、動画像予測符号化プログラム、動画像予測復号方法、動画像予測復号装置及び動画像予測復号プログラム
Kraichingrith HIGH CAPACITY IMAGE STEGANOGRAPHY TOLERATING IMAGE COMPRESSION
JP2010093580A (ja) デコーダおよびデコードプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121114

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130508

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130704

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5313916

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees