JP2009534902A - 精度平滑特性を増大させる画像改善 - Google Patents

精度平滑特性を増大させる画像改善 Download PDF

Info

Publication number
JP2009534902A
JP2009534902A JP2009506019A JP2009506019A JP2009534902A JP 2009534902 A JP2009534902 A JP 2009534902A JP 2009506019 A JP2009506019 A JP 2009506019A JP 2009506019 A JP2009506019 A JP 2009506019A JP 2009534902 A JP2009534902 A JP 2009534902A
Authority
JP
Japan
Prior art keywords
image
input image
input
quantization accuracy
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009506019A
Other languages
English (en)
Other versions
JP5107342B2 (ja
Inventor
レオ ジェイ フェルツホーフェン
ミヒール エイ クロムペンハウウェル
レムコ ティー ジェイ マイゥス
ヒェルベン ジェイ ヘクストラ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2009534902A publication Critical patent/JP2009534902A/ja
Application granted granted Critical
Publication of JP5107342B2 publication Critical patent/JP5107342B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

とりわけ量子化による縞模様のアーティファクトの低減を可能とする、入力画素値を持つ入力画像P_inの少なくとも一領域を改善するための装置100は、前記入力画像の少なくとも一領域の量子化精度QPを推定するように構成された推定ユニット102と、前記入力画像中の、量子化精度QP以下の入力画素値における変化の位置を決定し、前記位置を表す解析情報INF_ANを出力するように構成されたパターン解析ユニット104と、前記入力画像の少なくとも一領域に対応する出力画像であって、入力画素の適応型の結合に基づいて決定された出力画素を有する出力画像P_outを算出し、前記解析情報に依存して前記適応型の結合を決定するように構成された適応フィルタ106と、を有する。

Description

本発明は、画像の品質、とりわけ該画像の画素値の数値的な精度及び画像を適応的にフィルタリングするために利用可能なパラメータを向上させるための装置、方法及びソフトウェアに関する。
画像とはオブジェクトの形状の単一の時点の表現を意味するが、本発明は勿論、映画のような画像の集合に対しても適用可能である。
今日、画像及び/又は画像の表示の品質改善に対するニーズがある。より高い解像度の、大型のディスプレイが出現し、例えば小さな勾配の輝度又は色遷移の場合に重要となる高品質の色に対する更なるニーズを、消費者にとってより明白としている。
高いダイナミックレンジのディスプレイが標準的なレンジ(例えば3x8ビット)の画像データを供給される場合に、問題の一例が生じる。該画像データは、より大きなレンジへとマッピングされる必要がある。即ち、中間値が算出される必要がある。また、画像をエンコードする際に費やされるデータの量を低減させる更なる傾向もあり、このことは、画素値が低い量子化精度(quantization precision)で表現されることを意味する。
先行技術においては、例えばディザリング(dithering)のような幾つかのマスク手法によって、品質低下が軽減されてきた。
これらの手法の問題点は、優れた品質の方法を提供しない点である。例えば、高いダイナミックレンジのディスプレイについては、とり得る画素値の全範囲が利用されない。また、これらのマスクされた画像は、更なる処理、とりわけ他の改善手法のために、非常に適切であるというわけではない。なぜなら、ディザリングパターンが増幅され得、不快なものになり得るからである。
以下に提示される技術的な実施例の実現の背後にある目的は、優れた品質の画像改善のためのニーズであった。
本目的は、入力画素値を持つ入力画像(P_in)の少なくとも一領域を改善するための装置であって、
前記入力画像の少なくとも一領域の量子化精度(QP)を推定するように構成された推定ユニット(102)と、
前記入力画像中の、前記量子化精度(QP)以下の入力画素値における変化の位置を決定し、前記位置を表す解析情報(INF_AN)を出力するように構成されたパターン解析ユニット(104)と、
前記入力画像の少なくとも一領域に対応する出力画像であって、入力画素の適応型の結合に基づいて決定された出力画素を有する出力画像(P_out)を算出し、前記解析情報に依存して前記適応型の結合を決定するように構成された適応フィルタ(106)と、
を有する装置(及び対応する方法)により達成される。
本発明者は、画像の処理は、知的な方法で実行されるべきであり、そうでなければ緩和の度に新たなアーティファクトがもたらされ得ることを認識した。とりわけ、本装置が緩和する問題の1つは、ディスプレイに供給されるべき元の入力画像の量子化精度(例えばビット深さのような他の名称をも持つ)が、該ディスプレイが明瞭に表示することができるもの及び観測者が観測することができるものよりも低い場合に、極めて知覚可能なものである。このことは小さく緩やかに変化する勾配において、特に不快なものとなる。例えば空は、太陽からの角度に依存して、種々の青の色を持つことが知られている。低い量子化精度の表現においては、このことは縞模様(banding)として現れることとなる。これらの縞は任意の距離だけ離れたものとなり得、従って検出が比較的困難であり、除去することは一層困難である。望ましい出力の空の描画は、連続的に変化する勾配である。
しかしながら本発明者は、これらの好ましくなく量子化されたオブジェクトの1つの予測可能な特性があることを認識した。即ち、正確に1量子化ステップだけ異なる勾配に沿った隣接するサブ部分である。該特性は、適応されたセグメント化アルゴリズムによって(例えば現在のランニング値に等しい(若しくはランニング平均についての類似の戦略)又は同一のセグメントに割り当てられている1量子化ステップだけ異なる値を持つ画素、及び異なるセグメントに属するより大きな差の画素による領域成長)によって検出されることができる。同様のことは、1の画素値変化を持つエッジと、より大きな変化のエッジとの間で異なる、適切に調節されたエッジ検出器を用いて実現されても良い。プレフィルタリングを利用する場合には、これら単一のステップ変化が、1量子化ステップ以下のエッジ長さに対応することとなり、一方でより大きなエッジ(即ち偽のオブジェクト内量子化エッジではなく現実の新たなオブジェクトを持つエッジ)が典型的に1量子化ステップよりも大きなエッジ長さを依然として示すこととなることを、数学的に示すことができる。
それ故、本装置は最初に、量子化精度を決定する。
該量子化精度は、画像全体について決定されても良い。この場合、適切な方法は、画像のヒストグラムを調べることである。全体的な精度が利用された場合には、該画像はスパイクを伴うヒストグラムを示すこととなる(例えば4、8、12等の画素値のみ該画像においてとり得る)。スパイクの存在及び該スパイク間の距離(この場合には量子化精度に等しい)が、例えば自動相関を実行することにより決定され得る。第1のピークの位置が次いで、量子化精度を導出する。
他のシナリオにおいては、他のアルゴリズムが利用される。例えば、画像の異なる領域(例えば空と葉)においては、異なる量子化精度があっても良い。伸張された画像においては(例えばMPEG−2又はMPEG−4規格)、このことは例えば、特定のビット割り当て戦略に依存して、異なるブロックが異なる量子化スカラー及び/又はマトリクスを得たために起こる(前記戦略は典型的に、斯かるファクタをパターン(又は動き)複雑度及び観測者に対するエラーの可視度として考慮に入れる)。解決方法は、例えばプレセグメント化の後に、画像の一部のみのヒストグラムを解析し、当該一部についての量子化精度を導出することである。例えば空だけを改善したい場合には、プレセグメント化における斯かる特性を、空の位置及び該空の青い色として利用することができる。
また、非常に正確な画素値を持つ画像の下部(例えば草又はビルディングを含む)が全体のヒストグラムに表される場合であっても、より低い精度の領域に対応するピークが、例えば該ピークがヒストグラムの選択的な部分において現れる場合(緑の草はいずれの青い色をも有さないため、青色の範囲におけるヒストグラムには寄与しない)に、又は十分に低い精度の画素がある場合(ピークが当該サブ範囲における基線ヒストグラムレベルより高く突出し得る)に、依然として検出され得る。
続いて、量子化精度を利用可能とすることにより、パターン解析手段(104)は、単一のステップ変化が存在する場所、即ち少なくとも十分なフィルタリングが生じるべき場所を調べる。典型的には、大きなエッジは処理されないことが望まれ得る。なぜなら、これらエッジは実際のエッジであり、少なくとも低い量子化精度によるものではなく、これらエッジを処理することは通常更なる劣化へと導くからである。
単純な実施例においては、これら単一のステップのエッジの存在のみを検出し、更に進んだ実施例は、エッジにおけるパターンをも調べる(例えば、色褪せたビルディングは格好が悪いため、ビルディング内の特定の単一ステップの縞模様をフィルタすることは望まれないかも知れない。このとき、該パターン(例えば単純な縞ではなく碁盤目構造)の例えばエッジの密度又は複雑度が調べられても良い。また例えば、葉による背景におけるような非常に低い量子化精度については、実際の背後にある構造の、元の好ましくない量子化された残余を保持することが考えられ得る)。
画像のどこを改善するか、好ましくは更にはどのように該画像を改善するか(縞間の距離に依存して、十分に大きな平滑化フィルタを利用すべき)についての当該解析情報(INF_AN)は、適応フィルタ(106)によって利用される。該適応フィルタは、最適な又は少なくとも妥当な、十分に品質を向上させるフィルタリングを適用し、それにより効果的に高い量子化、元の入力画像の改善された出力画像、又は少なくともその一部を得る(フィルタ設定ユニット140は、前記解析情報を、例えばフィルタ係数のセットのようなフィルタ設定へと変換する)。
設定パラメータへと変換された当該解析情報は別個に出力されても良く、それにより例えば別の位置における別の装置により入力画像をフィルタするために利用されることができるようになり、品質向上サービスとして別個に販売されることができる。このようにして、該情報は、典型的に拡張レイヤの画像データを供給することに加え、低い品質のプレビュー(例えば携帯型ディスプレイのための)を、より高い品質の購買可能なコンテンツへと変換するために利用されることができる。
本発明による方法及び装置のこれらの及び他の態様は、以下に説明される実装及び実施例を参照しながら、及び単により一般的な概念を例示する限定的でない具体的な説明としての添付図面を参照しながら、説明され明らかとなるであろう。添付図面において、点線は、構成要素が任意であることを示すために利用され、実線の構成要素は必ずしも必須ではない。
図1における画像改善装置100は、入力部122を介して、入力画像P_in(例えば画素画像毎の伸張された8ビット)を受信する。推定ユニット102は、該入力画像を解析することにより、量子化精度(QP)を決定するように構成される。該量子化精度は、例えば最小のステップである1だけ値が異なる画素については(各画素は例えば0と255との間のグレイ値を持つ)、1に等しい。該推定ユニットは当該値を、好ましくは少なくとも画像の領域における画素値のヒストグラムを調べることにより取得する。QP=1である本例の場合においては、ヒストグラムは、256ビンの表現での画素数を含む、少なくとも2つの連接するビンを持つ。他の例においては、ニュースの読み手の背後に挿入された画像における空が、粗く量子化される。なぜなら、該空は他の源からのものであり、画素についての8個の異なる輝度値(即ち同等に青い値)しか持たないからである。この場合、256ビンのヒストグラムは、ビンのうち8個においてのみカウントを持ち、それぞれが8ビン離れている。この周期は、例えばヒストグラムの自動相関解析により検出され得る。
推定ユニット102は、次のユニット即ちパターン解析ユニット104のための入力として、量子化精度QPを出力として生成する。該ユニットの目的は、量子化精度による偽のエッジがあるか否か及びどこにあるかを検出することである。より進んだ実施例は、斯かるエッジの実際の分布を更に詳細に評価するように構成されても良く、それにより例えば、或る量子化精度のどちらかの側における画素についての値の変化に対応するエッジの特定の空間設定が検出され、それにより後に異なる態様でフィルタリングされることができる。
前記パターン解析ユニットは、例えば1の量子化精度の差/変化のエッジの連続(好ましくは、例えばエッジに対して直交する方向に基づいて決定された、連続的な経路に沿った)を、単一のセグメントにマッピングする、セグメント化アルゴリズムを有しても良い。該パターン解析ユニットは更に、適切なフィルタサポートのサイズ又は形状の選択において後に利用され得る、エッジについての測定(例えばエッジの向きまたは連接するエッジ間の距離について)を実行するように構成されても良い。
有利にも、パターン解析ユニット104の単純な実施例は、単にエッジ検出に基づいて動作するように構成される。なぜなら、フィルタリングされる必要があるものはエッジであるからである。適応フィルタ106は、画像の各領域について最適なフィルタリング戦略(例えば単に背後にあるデータを入力画像からコピーすることによって、又は非常に弱いフィルタを適用することによって、偽のエッジを除去し、且つ他の領域は保護する)を決定するために、前記パターン解析ユニットにより出力された解析情報INF_ANを考慮に入れるものであり、偽のエッジを少なくとも部分的に除去するいずれのフィルタであっても良い。即ち該フィルタは典型的には、妥当な(少なくとも視覚的な品質の理由のため、単純な実際の輝度(及び/又は色差)プロファイルが、入力画像の不適切に量子化されたものの背後にあることを仮定する)中間値を生成し、十分に高いダイナミックレンジのモニタディスプレイにおいては、入力画像の縞模様のついたものよりも外見の良い画像領域に帰着する。これに対し、局所的な統計等を考慮に入れ、例えば幾つかのモデルプロファイルを仮定して、先行技術より知られる別のフィルタが利用されても良い。以下の単純な解析/フィルタリングの実施例においては、線形フィルタリングが利用される。
幾つかの好適な、単純なマルチスケール適応型改善戦略が以下に示される。これら戦略は、偽のエッジをフィルタリングしつつ現実のオブジェクトのエッジをフィルタリングしないという利点を持つのみならず、現実のエッジを持つオブジェクトに対する距離に対してフィルタリングを最適に適応させ(幾つかの中間画像を結合することによる計算的に単純な方法で)、線形画素値結合によるフィルタリングされた領域(例えば空)における幾分かのオブジェクトのエネルギーの出現による不快なハロを回避する。
複数のスケールでのエッジ解析を用いた多スケールフィルタリング:
最初に、増大するサイズ(後の結合のために容易な、入力画像と同一の数の画素の画像を生成する)の平滑化フィルタによって入力画像を畳み込むことにより、幾つかのスケーリングされた画像が生成される(図2におけるフィルタリングユニット201、203、205)。ガウスカーネル(Gaussian Kernel)が有利であり得るが、他の画素値結合フィルタリングも可能である。
続いて、入力画像P_in及び前記平滑化された画像のそれぞれが減算され(元の入力画像及び平滑化されたバージョンが減算器207、209及び211のための入力であり、本例においては3つのスケールが利用されるが、当業者は典型的な縞模様のある画像に関連すると予期され得るだけの数の、又はそれより多いスケールを用いるであろう。なぜなら、アルゴリズムが自動的に適切な寄与を選択するであろうからである)、幾つかの差分画像P_diffを導出する。これらの差分画像は、フィルタサポートのサイズに依存して、幾つかの中間周波数までに上る、より高い周波数の入力画像エネルギーを有する。周波数依存の基底関数分割の通常の特性は、低い周波数が多くのエネルギーを割り当てられるというものであるから、斯かる差分画像は特定の中間周波数における入力画像構造を含むものと近似されることができる。斯かる差分画像の外見は、エッジの周囲の差分データの集合であり、即ちぼやけたエッジの表現である(例えば、ステップのエッジについては、差分信号は下方に向いたピークを示し、急な上昇エッジにより後続され、更に上方を向いたピークにより後続される)。続いて、エッジ検出器213、215及び217によるエッジ検出(好ましくは2次のエッジ検出であり、ピークを検出する)及び正規化(除算器221、223及び225)が実行される(線形性のためにこれらの2つの演算の順序は重要ではない)。該正規化は、例えば量子化精度QPにより、画素毎の差分画像値を除算することから成る。
このことは、エッジマップ(MAP)として実現され得る。エッジマップにおいては、ゼロと1との間の値が偽のエッジの存在を示し、ゼロが例えば現実のエッジを示す(該マップはエッジのアクティビティをも示しても良い)。
続いて(好ましくは)、エッジのアクティビティの尺度(A_sc1、…)が算出される(アクティビティ決定ユニット227、229及び231)。偽のエッジを内挿するための適切なスケールは、例えば3つの隣接する1量子化ステップ変化領域の領域の画素を結合するスケールであるため(原則的に、より多くのスケールが利用されても良く、振動するプロファイルが出現する(あまり縞模様に見えない)ようにステップを十分に丸める限り、より小さなフィルタサポートサイズであっても良い)、特定のアクティビティ検出ユニット(一般に、領域に幾つのエッジがあるか、互いにどれだけ近接しているか、及び、より進んだバージョンでは、これらエッジが特定のフィルタリングについて特定の望ましい又は望ましくない空間的なパターンを形成しているか)が、特定のスケールフィルタのサポートに入る3つの斯かるエッジについて見出すべきである。このことは、例えばアクティビティ決定ユニットに、当該(例えば対応するフィルタリングユニット201、203及び205のフィルタカーネルの)スケールに対応する特定のサポートに亘ってエッジエネルギーを積分させることによって評価されることができ、このことはローパスフィルタを有するアクティビティ決定ユニットを実装することにより実現されることができる。このようにして、単にアクティビティ決定ユニットのローパスフィルタリングされた出力画像の局所的な画素値を調べることにより、少なくとも1つの現実のオブジェクトのエッジが、フィルタサポート(又はぼけるべきではない幾つかのエッジ)内に入る(このことは、ハロを回避するために回避されるべきである)ことが検出される。即ち、より小さいサイズのフィルタのみが、適応フィルタ106により生成された改善された出力画像P_outに寄与すべきである。重み算出ユニット235は、入力画像P_inのエッジパターン構造の解析に基づいて、異なるスケールのフィルタの寄与のための重みを決定する。本例においては、適応フィルタが、平滑化された画像の重み付けされた結合に、元の入力画像P_inを結合させる:
Figure 2009534902
(Gはスケールsの平滑化された画像の局所的な画素値であり、W_scは画素位置における特定の平滑化された画像についての必要とされる正規化された寄与であり、Nは正規化係数であり、これによりフィルタリングされた出力画像が、入力画像と略同様のエネルギーを持つこととなる)。
このようにして、最適なフィルタが、適切なスケールからの結合を結合することにより、単純に実現される(スケール分解から特定のフィルタ形状を生成することに対応する)。勿論、該特定のフィルタは、単なる例である。(元の画像構造と結合させる代わりに)幾つかの画素位置についてのみフィルタリングしても良いし、フィルタが例えば、入力画像P_inにおける画素値、エッジパターン等を調べることにより動的に決定されるような、オブジェクト適応型サポートを持っても良い。
これに対し、重み算出ユニット235は典型的には、現実のエッジがアクティビティ測定において検出される第1のスケールを決定し、そのための及びより粗いスケールのための重みをゼロに設定するように構成される。より細かいスケールのための重みは、例えば単にアクティビティ(又は特定の設計における他のいずかのエッジ導出される値)の1つの値の周りにミラーリングすることにより決定され、全てのスケールを考慮に入れゼロと1との間で適切に正規化される:
Figure 2009534902
これらの重みは、とり得る解析情報INF_ANの一例であるが、フィルタをどのように制御したいかに依存して、他の構造が可能である(例えばフィルタリングされるべき各画素位置について特定のサポート形状が構築され得る、保護領域を持つ画像)。
例えば幾つかの典型的な入力画像に対するテストにより最適化された独自のファクタを考慮に入れることのような、重みを決定するための更に進んだ戦略が利用されても良い。
単一のスケールエッジ解析を用いた多スケールフィルタリング:
パターン解析ユニット104の他の単純な実施例(依然として、元の画像と結合された重み付けされた多スケールフィルタリングを仮定する)は、典型的な特徴スケールを決定する。この場合、最も粗い平滑化された画像の少なくとも幾つかのセットが生成され(例えば図4における粗いフィルタ407によって)、元のものとの差分画像(又はフィルタ401から僅かに平滑化されたバージョン)が生成され(フィルタ出力位置(x,y)において検出された粗いフィルタサポートに入る望ましくない構造のぼやけたエネルギーについての基準を持つため)、これら差分画像がここでもまた量子化精度QPを用いて正規化される。該戦略は、滑らかな(偽の、縞模様の)勾配の特定の幾何学的特性を利用する。即ち、斯かる画像パターンに連続的により大きなフィルタを適用する場合、フィルタリングが実行されるいずれの画素位置に対しても連続的により多くのエネルギーが蓄積する。このとき、図3に示されるようなグラフを生成することができ、該グラフは全体の結果にどれだけのスケールが寄与するかを決定し、それからどのスケールが利用されるべきかを導出する。このことは、スケール評価ユニット415により実行される。該ユニットは典型的には、非常に粗いフィルタを用いて推定された局所的な画素エネルギーE(x,y)を入力として取得し、図3の非線形関数を評価してフィルタに対して最適なスケール(又は2つの隣接するフィルタスケールの重み付けされた結合)を出力するように構成される。
該グラフは、x軸において、入力画像の非常にぼやけたバージョンと入力画像自体との差分の画像を生成することにより導出される、フィルタリングされるべき特定の入力画像画素についての局所的な画素エネルギーE(x,y)を示す。該エネルギーが大きい場合には、このことは、該粗いスケールにおいて現実のエッジが検出されたことを意味し、ハロをもたらすため、出力画像に寄与するための優れたスケールではない。量子化精度の半分よりも低いエネルギーについては、当該領域についての出力画像を得るために、フィルタリングユニット106によって、最も粗いスケールが利用されても良い。それ故、該グラフは、平滑化された画像(N_S)のうちどれが重み付けされたフィルタリングに寄与するかを最適に決定する(Y軸)。エネルギーが高くなるほど、フィルタリングユニット106によって利用されるべきフィルタサポートが小さくなる(スケールが細かくなる)。本例においては、5つのスケールが利用される。即ち、出力数が1である場合、元の入力画像画素値のみを出力画素にコピーする。該値が例えば3.5である場合、スケール3と4との結合を利用し、該値が約3である場合、最終的な出力画像を得るためフィルタリングのための当該領域においてスケール3のみを利用する。
適応型サポートを用いたフィルタリング:
パターン解析ユニット104の他の実施例は、フィルタリングユニット106のフィルタサポートに含まれるべき位置を決定する。最初に、(典型的には大きく)平滑化された画像が生成され、該画像は各画素位置についての基準値、即ち局所的な平均を形成する。次いで、各位置について、前記位置における入力画像画素値が、局所的な平均から減算される。結果の差分画像は、量子化精度QPを用いて正規化される。
ここでもまた、局所的な画素値が平均と違い過ぎている場合には、フィルタリングから除外されるべきである。なぜなら、当該画素は、同一の画像オブジェクト内の量子化アーティファクトではなく、異なる画像オブジェクト内の画素である可能性が高く、ハロに導くからである。それ故、粗いスケールを用いて位置xにおいて最適に平滑化するためのフィルタは、これらの画素の寄与を破棄し、このことが、背後にある画像/ビデオオブジェクトに対してフィルタサポートの形状を自動的に適応させる。このことは、狭すぎる最終的なフィルタをことによると選択してしまうことを回避する(同様に利用され得る戦略:フィルタが粗過ぎる場合、より狭い最適フィルタが最終的なフィルタリングのために選択されるが、オブジェクトの近隣においてはこのことは典型的に狭いフィルタを利用することに帰着することとなり、この場合には適応型サポートフィルタリングが好ましい)。
フィルタサポートはバイナリの1であっても良く、出力画素の生成のためのフィルタ演算における個々の画素位置を含んでも良く若しくは除外しても良く、又は代替としては、該フィルタは正確な差分値に依存してより複雑な(比例する)戦略を利用しても良い。適応フィルタサポートの利点は、各画素位置について、最適なサイズ及び形状のサポートが算出され、現実のエッジからのエネルギーが出力画素へと結合されることを防ぎ、かくしてハロの生成を防ぎつつ、縞模様及び偽のエッジの最適な低減に帰着する点である。
画素値の変化は、周囲に単一の量子化精度のみが存在するか、より大きな変化が存在するかを調べるために一般的なものであるが、このことは、エッジ検出のような伝統的な空間隣接値比較のような別の手法により実現され得るが、2以上の値(画像)(そのうちの一方が画像のぼやけたバージョンのような周囲のエッジの寄与を有する)を比較する方法を用いても可能である点に留意されたい。
適用:
上述した装置は例えば、好ましくない入力を受信し得るが次第に適切なディスプレイを得る装置を含む携帯型ディスプレイのために有用である。該アルゴリズムはまた、プロフェッショナル向け又は消費者向けの画像改善のためのソフトウェアとして販売されても良く、ネットワークにおける中間局において動作しても良い。他の典型的な画像表示装置170は、例えば高精細LCD TVである(この場合、実際のディスプレイユニット150はLCDパネルである)。前記解析は、特にプロフェッショナル用途においては、例えばTVにおける見掛けを制御する、ユーザインタフェース手段199による、人間の制御下のものであっても良い(特定のフィルタリング位置における特定の寄与を除外することによる微調整フィルタサポート等)。
解析情報又はフィルタ制御パラメータF_outもまた、別個に送信され販売されても良い。
本文脈において開示されるアルゴリズム要素は、実際には、(全体が又は一部が)ハードウェア(例えば特定用途向けICの一部)として実現されても良いし、又は特殊なディジタル信号プロセッサ若しくは汎用プロセッサ等で動作するソフトウェアとして実現されても良い。
どの構成要素が任意の改良点であり、他の構成要素と組み合わせて実現され得るか、並びに方法の(任意の)ステップが装置のそれぞれの手段にどのように対応するか、及びその逆は、本開示から当業者には理解可能である。本願における装置なる語は、辞書において示される最も広い意味で利用されるものであり、即ち特定の目的の実現を可能とする手段の群を意味し、それ故例えばIC(の僅かな部分)、専用の装置、又はネットワーク接続されたシステムの一部等であっても良い。
コンピュータプログラムなる語の意味は、コマンドをプロセッサへと取り込むための一連のロードステップ(中間言語及び最終的なプロセッサ言語への翻訳のような中間の変換ステップを含んでも良い)の後に、プロセッサ(汎用のものでも特殊用途向けのものであっても良い)が本発明の特徴的機能のいずれかを実行することを可能とする、コマンドの集合のいずれの物理的な実現をも含むものとして理解されるべきである。特に、コンピュータプログラムは、例えばディスク又はテープのような担体上のデータ、メモリ中に存在するデータ、ネットワーク(無線でも有線でも良い)を通して伝達されるデータ、又は紙上のプログラムコードとして実現されても良い。プログラムコードの他に、プログラムに必要な特徴的なデータもまた、コンピュータプログラムとして実施化されても良い。
データ入力及び出力ステップのような、本発明の動作のために必要とされるステップの幾つかは、コンピュータプログラム中に記載される代わりに、プロセッサの機能に既に存在していても良い。
上述した実施例は、本発明を限定するものではなく説明するものであることは、留意されるべきである。請求項の他の領域への示された例のマッピングを当業者が容易に実現できる場合は、簡潔さのため、これら全ての選択肢を詳細に言及はしていない。請求項において組み合わせられているような本発明の要素の組み合わせに加え、要素の他の組み合わせも可能である。要素のいずれの組み合わせも、単一の専用の要素において実現され得る。
請求項において、括弧に挟まれたいずれの参照記号も、請求の範囲を限定するために意図されたものではない。「有する(comprising)」なる語は、請求項に記載されていない要素又は態様の存在を除外するものではない。要素に先行する「1つの(a又はan)」なる語は、複数の斯かる要素の存在を除外するものではない。
画像表示装置の例に組み込まれた装置を模式的に示す。 パターン解析ユニット104の1つのとり得る実施例を模式的に示す。 適応フィルタリングに寄与すべきフィルタスケールの数を自動的に選択するために利用されるグラフを模式的に示す。 パターン解析ユニット104の他の実施例の幾つかの関連するブロックを模式的に示す。

Claims (16)

  1. 入力画素値を持つ入力画像の少なくとも一領域を改善するための装置であって、
    前記入力画像の少なくとも一領域の量子化精度を推定するように構成された推定ユニットと、
    前記入力画像中の、前記量子化精度以下の入力画素値における変化の位置を決定し、前記位置を表す解析情報を出力するように構成されたパターン解析ユニットと、
    前記入力画像の少なくとも一領域に対応する出力画像であって、入力画素の適応型の結合に基づいて決定された出力画素を有する出力画像を算出し、前記解析情報に依存して前記適応型の結合を決定するように構成された適応フィルタと、
    を有する装置。
  2. 前記パターン解析ユニットは、前記入力画像に対してエッジ検出を適用して、前記画素から成る前記入力画像中の近隣におけるエッジの存在を示す画素値から成る画像を生成するように構成され、前記画素値は、前記量子化精度以下の入力画素値変化に対応するエッジの存在を示し、及び/又は前記画素値は、前記量子化精度よりも大きな入力画素値変化のエッジの存在を示す、請求項1に記載の装置。
  3. 前記パターン解析ユニットは、前記入力画像の多スケール解析によって、前記入力画像中の前記量子化精度以下の入力画素値の変化の位置の決定を実行するように構成された、請求項1又は2に記載の装置。
  4. 前記パターン解析ユニットは、前記入力画像中の前記量子化精度以下の入力画素値における変化の位置に基づいて、前記画像のセグメント化を実行するように構成された、請求項1に記載の装置。
  5. 前記パターン解析ユニットは、第1の定数と第2の定数との間の画素値の1つ又は幾つかの画像を有する解析情報を生成するように構成され、前記第1及び第2の定数は好適にはそれぞれ0及び1であり、前記適応フィルタにより実行される特定の画素位置におけるフィルタリングの強度を制御するために利用可能である、請求項1乃至4のいずれか一項に記載の装置。
  6. 前記適応フィルタは、前記入力画像の異なるスケーリングされたバージョンの画素を組み合わせる、請求項1乃至5のいずれか一項に記載の装置。
  7. 前記解析情報は、フィルタ係数値及び/又はフィルタサポートのサイズ及び/又はフィルタサポートの形状を決定する、請求項1乃至6のいずれか一項に記載の装置。
  8. 前記推定ユニットは、前記入力画像の少なくとも第2の領域のヒストグラムに基づいて前記量子化精度を決定するように構成された、請求項1乃至7のいずれか一項に記載の装置。
  9. 前記推定ユニットは、前記ヒストグラムの少なくともサブ範囲における等しく離隔されたピークの解析に基づいて前記量子化精度を決定するように構成された、請求項8に記載の装置。
  10. 請求項1乃至9のいずれか一項に記載の装置と、画像を表示することが可能な装置とを有する、画像表示装置。
  11. 入力画像を捕捉することが可能な画像センサと、前記入力画像を処理して出力画像を生成するための請求項1乃至9のいずれか一項に記載の装置と、前記出力画像を例えば記憶ユニット又はネットワークへと送信するためのユニットと、を有するカメラ。
  12. 入力画素値を持つ入力画像の少なくとも一領域を改善する方法であって、
    a)前記入力画像の少なくとも一領域の量子化精度を推定するステップと、
    b)前記入力画像中の、前記量子化精度以下の入力画素値における変化の位置を決定し、前記位置を表す解析情報を生成するステップと、
    c)前記入力画像の少なくとも一領域に対応する出力画像を算出するステップであって、入力画素の適応型の結合に基づいて出力画素を決定するステップを有し、前記適応型の結合は前記解析情報に依存するステップと、
    を有する方法。
  13. プロセッサが請求項12に記載の方法を実行することを可能とするコードを有するコンピュータプログラムであって、
    前記入力画像の少なくとも一領域の量子化精度を推定するためのコードと、
    前記入力画像中の、前記量子化精度以下の入力画素値における変化の位置を決定し、前記位置を表す解析情報を生成するためのコードと、
    前記入力画像の少なくとも一領域に対応する出力画像を算出するためのコードであって、入力画素の適応型の結合に基づいて出力画素を決定するコードを有し、前記適応型の結合は前記解析情報に依存するコードと、
    を有するコンピュータプログラム。
  14. 請求項12に記載の方法の前記ステップa及びbにより決定された解析情報に基づいて決定された、適応フィルタを適応させるために利用可能な、例えばフィルタ係数のような設定パラメータ。
  15. 請求項12に記載の方法の前記ステップa及びbにより決定された解析情報に基づいて、適応フィルタにより利用可能な設定パラメータを生成する方法。
  16. 請求項12に記載の方法の前記ステップa及びbにより決定された解析情報に基づいて決定された設定パラメータの使用。
JP2009506019A 2006-04-21 2007-04-17 精度平滑特性を増大させる画像改善 Active JP5107342B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP06112871.6 2006-04-21
EP06112871 2006-04-21
PCT/IB2007/051377 WO2007122554A2 (en) 2006-04-21 2007-04-17 Picture enhancing increasing precision smooth profiles

Publications (2)

Publication Number Publication Date
JP2009534902A true JP2009534902A (ja) 2009-09-24
JP5107342B2 JP5107342B2 (ja) 2012-12-26

Family

ID=38625391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009506019A Active JP5107342B2 (ja) 2006-04-21 2007-04-17 精度平滑特性を増大させる画像改善

Country Status (5)

Country Link
US (1) US8254717B2 (ja)
EP (1) EP2024929A2 (ja)
JP (1) JP5107342B2 (ja)
CN (1) CN101473347B (ja)
WO (1) WO2007122554A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010039886A (ja) * 2008-08-07 2010-02-18 Hoya Corp 画像処理ユニット、撮像装置、合成画像作成プログラム

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110135011A1 (en) * 2009-12-04 2011-06-09 Apple Inc. Adaptive dithering during image processing
KR101630688B1 (ko) * 2010-02-17 2016-06-16 삼성전자주식회사 움직임 예측 장치 및 방법과 영상 처리 장치
WO2012127761A1 (ja) * 2011-03-22 2012-09-27 株式会社日立メディコ X線ct装置、および方法
US8761543B2 (en) 2011-08-30 2014-06-24 Microsoft Corporation Image processing using bounds adjustment
US10395350B2 (en) 2013-07-26 2019-08-27 Li-Cor, Inc. Adaptive background detection and signal quantification systems and methods
US9218652B2 (en) 2013-07-26 2015-12-22 Li-Cor, Inc. Systems and methods for setting initial display settings
WO2015013719A1 (en) 2013-07-26 2015-01-29 Li-Cor, Inc. Adaptive noise filter
TWI517095B (zh) * 2014-03-20 2016-01-11 聯詠科技股份有限公司 影像處理裝置及其方法
CN108830798B (zh) * 2018-04-23 2022-05-13 西安电子科技大学 一种基于传播滤波器改进的图像去噪方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05276387A (ja) * 1992-03-24 1993-10-22 Ricoh Co Ltd 画像読取装置
JPH07248797A (ja) * 1994-03-11 1995-09-26 Yamaha Corp ディジタルデータ再生方法及び装置
JP2005149506A (ja) * 2003-11-14 2005-06-09 Fuji Photo Film Co Ltd 対象物自動認識照合方法および装置
JP2005160096A (ja) * 2003-11-24 2005-06-16 Samsung Electronics Co Ltd 映像信号の解像度の変換方法及び装置
US20050134612A1 (en) * 2003-12-17 2005-06-23 Texas Instruments Incorporated Method and system for adaptive bit depth enhancement for displays

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5960390A (en) * 1995-10-05 1999-09-28 Sony Corporation Coding method for using multi channel audio signals
EP1469680B1 (en) * 1996-05-14 2008-06-18 Daewoo Electronics Corporation Method and apparatus for removing blocking effects in a motion picture decoder
US5768440A (en) * 1996-12-18 1998-06-16 Xerox Corporation Adaptive noise removal for video images with less correction of current pixel for higher variations between surrounding pixels
US6741965B1 (en) * 1997-04-10 2004-05-25 Sony Corporation Differential stereo using two coding techniques
US6281942B1 (en) * 1997-08-11 2001-08-28 Microsoft Corporation Spatial and temporal filtering mechanism for digital motion video signals
JP3912633B2 (ja) * 1998-01-23 2007-05-09 ソニー株式会社 画像処理方法および装置
JPH11224459A (ja) 1998-02-04 1999-08-17 Hitachi Ltd 映像信号処理装置
EP0935396A3 (en) * 1998-02-09 2004-08-11 Matsushita Electric Industrial Co., Ltd. Video coding method and apparatus
US6370502B1 (en) * 1999-05-27 2002-04-09 America Online, Inc. Method and system for reduction of quantization-induced block-discontinuities and general purpose audio codec
US6683702B1 (en) * 1999-07-07 2004-01-27 Xerox Corporation Compact-dot reproduction of scanned halftone screens
US6441867B1 (en) 1999-10-22 2002-08-27 Sharp Laboratories Of America, Incorporated Bit-depth extension of digital displays using noise
US20030035586A1 (en) * 2001-05-18 2003-02-20 Jim Chou Decoding compressed image data
JP2003143015A (ja) * 2001-11-07 2003-05-16 Sony Corp 信号処理方法及び装置並びに符号列生成方法及び装置
JP2004361868A (ja) * 2003-06-09 2004-12-24 Sony Corp データ生成方法およびデータ生成装置、データ復元方法およびデータ復元装置、並びにプログラム
JP3714350B2 (ja) * 2004-01-27 2005-11-09 セイコーエプソン株式会社 画像中の人物候補領域抽出方法及び人物候補領域抽出システム並びに人物候補領域抽出プログラム
JP4027340B2 (ja) * 2004-04-20 2007-12-26 キヤノン株式会社 撮像装置及び撮像方法
JP4192900B2 (ja) * 2005-02-08 2008-12-10 ソニー株式会社 量子化精度再生方法、量子化精度再生装置、撮像装置、情報処理装置及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05276387A (ja) * 1992-03-24 1993-10-22 Ricoh Co Ltd 画像読取装置
JPH07248797A (ja) * 1994-03-11 1995-09-26 Yamaha Corp ディジタルデータ再生方法及び装置
JP2005149506A (ja) * 2003-11-14 2005-06-09 Fuji Photo Film Co Ltd 対象物自動認識照合方法および装置
JP2005160096A (ja) * 2003-11-24 2005-06-16 Samsung Electronics Co Ltd 映像信号の解像度の変換方法及び装置
US20050134612A1 (en) * 2003-12-17 2005-06-23 Texas Instruments Incorporated Method and system for adaptive bit depth enhancement for displays

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010039886A (ja) * 2008-08-07 2010-02-18 Hoya Corp 画像処理ユニット、撮像装置、合成画像作成プログラム

Also Published As

Publication number Publication date
WO2007122554A2 (en) 2007-11-01
CN101473347B (zh) 2012-05-30
US8254717B2 (en) 2012-08-28
US20090278953A1 (en) 2009-11-12
CN101473347A (zh) 2009-07-01
WO2007122554A3 (en) 2008-12-18
JP5107342B2 (ja) 2012-12-26
EP2024929A2 (en) 2009-02-18

Similar Documents

Publication Publication Date Title
JP5107342B2 (ja) 精度平滑特性を増大させる画像改善
CN107408296B (zh) 用于高动态范围图像的实时噪声消除和图像增强的方法以及***
EP2469837B1 (en) Blur detection with local sharpness map
KR100754181B1 (ko) 복호화된 비디오 시퀀스에서 모스퀴토 잡음을 제거하는방법 및 장치
JP3862140B2 (ja) ピクセル化されたイメージをセグメント化する方法および装置、並びに記録媒体、プログラム、イメージキャプチャデバイス
KR101108435B1 (ko) 의사윤곽 제거 방법 및 이 방법이 적용되는 디스플레이장치
Liang et al. No-reference perceptual image quality metric using gradient profiles for JPEG2000
KR20050012751A (ko) 로컬 에지 통계적 분포를 기초로 선명도 메트릭스들을추정하는 방법 및 시스템
US8532428B2 (en) Noise reducing apparatus, noise reducing method, and noise reducing program for improving image quality
JP2008252911A (ja) 画像ノイズ除去の方法及び装置
KR102567860B1 (ko) 개선된 역 톤 매핑 방법 및 대응하는 디바이스
US20110123121A1 (en) Method and system for reducing blocking artefacts in compressed images and video signals
EP1525753A1 (en) A method and apparatus for measuring the quality of video data
Trentacoste et al. Unsharp masking, countershading and halos: enhancements or artifacts?
Dharejo et al. A color enhancement scene estimation approach for single image haze removal
Zhang et al. No-reference image quality assessment using structural activity
US9892542B2 (en) Creating bump and normal maps from images with multi-scale control
EP2372638B1 (en) A black and white stretch method for dynamic range extension
US11145032B2 (en) Image processing apparatus, method and storage medium for reducing color noise and false color
JP2013500624A (ja) ブロックアーティファクト低減器
Gao et al. A content-based image quality metric
Santhi et al. Contrast enhancement by modified octagon histogram equalization
CN111583213B (zh) 一种基于深度学习和无参考质量评价的图像生成方法
Izadi et al. Mutual noise estimation algorithm for video denoising
Nancy et al. Comparative analysis and implementation of image enhancement techniques using MATLAB

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120126

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120419

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120426

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20120604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120918

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121003

R150 Certificate of patent or registration of utility model

Ref document number: 5107342

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151012

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250