JP5253835B2 - 画像生成装置、画像生成方法及びコンピュータプログラム - Google Patents

画像生成装置、画像生成方法及びコンピュータプログラム Download PDF

Info

Publication number
JP5253835B2
JP5253835B2 JP2008036795A JP2008036795A JP5253835B2 JP 5253835 B2 JP5253835 B2 JP 5253835B2 JP 2008036795 A JP2008036795 A JP 2008036795A JP 2008036795 A JP2008036795 A JP 2008036795A JP 5253835 B2 JP5253835 B2 JP 5253835B2
Authority
JP
Japan
Prior art keywords
image
ratio
edge
reduced
smoothed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008036795A
Other languages
English (en)
Other versions
JP2009199104A (ja
Inventor
真達 下平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2008036795A priority Critical patent/JP5253835B2/ja
Priority to US12/352,691 priority patent/US8150189B2/en
Publication of JP2009199104A publication Critical patent/JP2009199104A/ja
Application granted granted Critical
Publication of JP5253835B2 publication Critical patent/JP5253835B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、多値画像から不要なノイズ部分を除去し、必要なエッジ部分を残した画像を生成する画像生成装置、画像生成方法及びコンピュータプログラムに関する。
従来、画像にエッジ部分以外のノイズ部分が含まれている場合、この画像からエッジ情報を抽出して画像処理を行う場合には、ノイズ部分の影響を避けることができない。ノイズ部分を多く含む画像に対して、例えばエッジ情報を利用した画像マッチング処理を実行した場合、マッチング処理に多くの時間を要する、あるいはマッチング精度が向上しない等の問題があった。
斯かる問題を解決するために、例えば平均化フィルタ、ガウシアンフィルタ等を用いて平滑化処理を行うことでノイズ部分を消去することが多い(非特許文献1参照)。しかし、平滑化処理を行うことにより、ノイズ部分を消去することはできるが、エッジ部分はいっそう不鮮明になってしまう。
そこで非特許文献1では、周辺の中央値によって輝度値を置き換えるメディアン(Median)フィルタを用いることが開示されている。メディアンフィルタを用いることで、エッジ部分の鮮明さを失うことなくドット状のノイズを効果的に除去することができる。
また非特許文献2に開示されているように、画像を正方領域で区分した場合に、所定の領域の周辺の8領域の中で最も分散が小さい領域の輝度値の平均値で置き換えることで、エッジ部分の鮮明さを失うことなく、平滑化処理することができる。
さらに特許文献1では、輝度値の差分が所定の閾値以内の画素のみを用いて平滑化処理を実行するノイズ除去方法が開示されている。特許文献1でも、エッジ部分の鮮明さを失うことなく平滑化処理することができる。
特開2006−014024号公報 高木幹雄、下田陽久、「画像解析ハンドブック」、東京大学出版会、1991年、p.539−543 長尾真(M.Nagao)、松山隆司(T.Matsuyama)、「エッジ保存円滑化処理(Edge Preserving Smoothing)」、コンピュータグラフィックスとイメージ処理(Computer Graphics and Image Processing)、第9巻、第4号、1979年、p.394−407
しかし、非特許文献1に開示されているメディアンフィルタを用いた場合、大きなサイズのノイズ部分を除去しようとしたときには、ノイズ部分を確実に除去することはできても、該ノイズ部分よりも細い線分等を併せて消去し、元の画像中で必要な部分も含めて間引いてしまうという問題点があった。
また非特許文献2に開示されている方法では、エッジ部分の鮮明さを失うことはないものの、局所的な範囲での処理であることから、一定サイズ以上のノイズ部分を消去することができないという問題点があった。
さらに特許文献1に開示されている方法でも、エッジ部分の鮮明さを失うことはないが、ノイズ部分の輝度値の差分がエッジ部分の輝度値の差分と大差ない場合には、適切な閾値を設定することができず、ノイズ部分を確実に消去できないおそれがあるという問題点があった。
本発明は上記事情に鑑みてなされたものであり、エッジ部分の鮮明さを失うことなく、ノイズ部分のみを確実に消去した画像を生成することができる画像生成装置、画像生成方法及びコンピュータプログラムを提供することを目的とする。
上記目的を達成するために第1発明に係る画像生成装置は、撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置において、前記撮像手段で撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成する画像縮小手段と、該画像縮小手段で生成された縮小画像に対して平滑化処理を実行する平滑化手段と、前記画像縮小手段で生成された縮小画像に対応するエッジ画像をそれぞれ生成するエッジ画像生成手段と、該エッジ画像生成手段で生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成するエッジ角度情報生成手段と、該エッジ角度情報生成手段で生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出する割合算出手段と、平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成する画像拡大手段と、前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換する割合変換手段と、変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成する画像合成手段とを備えることを特徴とする。
また、第発明に係る画像生成装置は、第発明において、前記エッジ画像生成手段で生成されたエッジ画像からエッジ強度に関するエッジ強度情報を画素単位で生成するエッジ強度情報生成手段を備え、前記エッジ角度情報生成手段は、生成されたエッジ強度情報に基づいて、前記エッジ画像におけるエッジ角度のばらつき度合を画素単位で算出し前記エッジ角度情報を生成するようにしてあることを特徴とする。
また、第発明に係る画像生成装置は、第1又は第2明において、前記平滑化手段は、前記多値画像に対しても平滑化処理を実行するようにしてあり、前記割合算出手段は、前記多値画像と平滑化された多値画像との合成割合も画素単位で算出するようにしてあり、前記画像合成手段は、前記多値画像と平滑化された多値画像とを合成した後、前記多値画像と平滑化された前記縮小画像との変換された合成割合に基づいて前記拡大画像も合成するようにしてあることを特徴とする。
また、第発明に係る画像生成装置は、第1又は第2明において、前記画像縮小手段における縮小率の選択を受け付ける縮小率選択受付手段を備え、前記画像縮小手段は、選択を受け付けた縮小率の大小に応じて、縮小率が小さい順に縮小画像を階層的に生成するようにしてあることを特徴とする。
また、第発明に係る画像生成装置は、第発明において、前記割合算出手段は、前記多値画像と複数の平滑化された前記縮小画像との合成割合を、それぞれの前記縮小画像の画素単位で算出するようにしてあり、前記割合変換手段は、それぞれの前記縮小画像の画素単位で算出された複数の合成割合を、前記拡大画像の画素単位の合成割合に変換するようにしてあることを特徴とする。
また、第発明に係る画像生成装置は、第発明において、前記割合算出手段は、縮小率の小さい順に、順次、次に縮小率が大きい縮小画像と、前記多値画像と同一スケールにて前記画像合成手段で合成された、前記縮小画像に基づく合成画像との合成割合を画素単位で算出するようにしてあり、前記割合変換手段は、それぞれの前記縮小画像の画素単位で算出された合成割合を、順次、前記多値画像と同一スケールの画素単位の合成割合に変換するようにしてあり、前記画像合成手段は、最も縮小率の小さい縮小画像から順次、算出された画素単位の合成割合に基づいて、平滑化された縮小画像と前記合成画像とを合成するようにしてあることを特徴とする。
次に上記問題を解決するために第発明に係る画像生成方法は、撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置で実行することが可能な画像生成方法において、撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成し、生成された縮小画像に対して平滑化処理を実行し、生成された縮小画像に対応するエッジ画像をそれぞれ生成し、生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成し、生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出し、平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成し、前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換し、変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成することを特徴とする。
また、第発明に係る画像生成方法は、第発明において、生成されたエッジ画像からエッジ強度に関するエッジ強度情報を画素単位で生成し、生成されたエッジ強度情報に基づいて、前記エッジ画像におけるエッジ角度のばらつき度合を画素単位で算出し、前記エッジ角度情報を生成することを特徴とする。
また、第発明に係る画像生成方法は、第7又は第8明において、前記多値画像に対しても平滑化処理を実行し、前記多値画像と平滑化された多値画像との合成割合も画素単位で算出し、前記多値画像と平滑化された多値画像とを合成した後、前記多値画像と平滑化された前記縮小画像との変換された合成割合に基づいて前記拡大画像も合成することを特徴とする。
また、第10発明に係る画像生成方法は、第7又は第8明において、縮小率の選択を受け付け、選択を受け付けた縮小率の大小に応じて、縮小率が小さい順に縮小画像を階層的に生成することを特徴とする。
また、第11発明に係る画像生成方法は、第10発明において、前記多値画像と複数の平滑化された前記縮小画像との合成割合を、それぞれの前記縮小画像の画素単位で算出し、それぞれの前記縮小画像の画素単位で算出された複数の合成割合を、前記拡大画像の画素単位の合成割合に変換することを特徴とする。
また、第12発明に係る画像生成方法は、第10発明において、縮小率の小さい順に、順次、次に縮小率が大きい縮小画像と、前記多値画像と同一スケールにて合成された、前記縮小画像に基づく合成画像との合成割合を画素単位で算出し、それぞれの前記縮小画像の画素単位で算出された合成割合を、順次、前記多値画像と同一スケールの画素単位の合成割合に変換し、最も縮小率の小さい縮小画像から順次、算出された画素単位の合成割合に基づいて、平滑化された縮小画像と前記合成画像とを合成することを特徴とする。
次に上記問題を解決するために第13発明に係るコンピュータプログラムは、撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置で実行することが可能なコンピュータプログラムにおいて、前記画像生成装置を、前記撮像手段で撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成する画像縮小手段、該画像縮小手段で生成された縮小画像に対して平滑化処理を実行する平滑化手段、前記画像縮小手段で生成された縮小画像に対応するエッジ画像をそれぞれ生成するエッジ画像生成手段、該エッジ画像生成手段で生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成するエッジ角度情報生成手段、該エッジ角度情報生成手段で生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出する割合算出手段、平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成する画像拡大手段、前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換する割合変換手段、及び変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成する画像合成手段として機能させることを特徴とする。
第1発明、第発明及び第13発明では、撮像手段で撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成し、生成された縮小画像に対して平滑化処理を実行し、生成された縮小画像に対応するエッジ画像をそれぞれ生成する。生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成し、生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された縮小画像の比率を高め、ばらつき度合が小さいほど多値画像の比率を高めるように、多値画像と平滑化された縮小画像との合成割合を縮小画像の画素単位で算出する。平滑化された縮小画像から多値画像と同一スケールまで拡大した拡大画像を生成し、縮小画像の画素単位で算出された合成割合を、拡大画像の画素単位の合成割合に変換し、変換された合成割合に基づいて、多値画像と拡大画像とを合成する。複数の異なる縮小率で縮小した縮小画像に対して平滑化処理を実行することにより、局所的なノイズ部分を拾いにくく、エッジ角度情報によりエッジ部分である可能性が高い部分と低い部分とを区別することができる。したがって、エッジ部分である可能性が低い部分ほど平滑化処理された画像との合成割合が高くなるよう合成割合を算出することにより、エッジ部分は鮮明さを維持した状態でノイズ部分を確実に消去することができる。また、エッジ角度のばらつき度合に基づいて、多値画像と平滑化された縮小画像との合成割合を算出することにより、大きなノイズ部分を消去しようとした場合であっても、例えばノイズ部分ではない該ノイズ部分より細い線分等を同時に消去することを回避することが可能となる。さらに、ノイズ部分の輝度値の差分がエッジ部分の輝度値の差分と大差ない場合であっても、エッジ角度のばらつき度合により確実にノイズ部分を検出して消去することができる。
第2発明及び第発明では、生成されたエッジ画像からエッジ強度に関するエッジ強度情報を画素単位で生成し、生成されたエッジ強度情報に基づいて、エッジ画像におけるエッジ角度のばらつき度合を画素単位で算出する。エッジ強度情報を用いて正規化してエッジ角度のばらつき度合を算出することにより、エッジ強度に影響を受けることのない純粋なエッジ角度のばらつき度合を算出することができる。
発明及び第発明では、多値画像に対しても平滑化処理を実行し、多値画像と平滑化された多値画像との合成割合も画素単位で算出し、多値画像と平滑化された多値画像とを合成した後、多値画像と平滑化された縮小画像との変換された合成割合に基づいて拡大画像も合成する。元になる多値画像について、エッジ部分である可能性が高い部分はより鮮明に、エッジ部分である可能性が低い部分は消去するよう前処理しておくことにより、エッジ部分とそうでない部分とをより明確に区別することが可能となる。
発明及び第10発明では、縮小率の選択を受け付け、選択を受け付けた縮小率の大小に応じて、縮小率が小さい順に縮小画像を階層的に生成することにより、ノイズ部分の大きさに依存することなくより確実にノイズ部分を消去することが可能となる。
発明及び第11発明では、多値画像と複数の平滑化された縮小画像との合成割合を、それぞれの縮小画像の画素単位で算出し、それぞれの縮小画像の画素単位で算出された複数の合成割合を、拡大画像の画素単位の合成割合に変換する。すべての縮小画像で算出された合成割合を、拡大画像をベースに統合することにより、画像合成処理を1回実行するだけですべての縮小率におけるノイズ部分の消去処理の効果を、合成画像に反映させることができる。
発明及び第12発明では、縮小率の小さい順に、順次、次に縮小率が大きい縮小画像と、多値画像と同一スケールにて合成された、縮小画像に基づく合成画像との合成割合を画素単位で算出する。それぞれの縮小画像の画素単位で算出された合成割合を、順次、多値画像と同一スケールの画素単位の合成割合に変換し、最も縮小率の小さい縮小画像から順次、算出された画素単位の合成割合に基づいて、平滑化された縮小画像と合成画像とを合成する。最も縮小率の小さい縮小画像、例えば元の多値画像から、順次、縮小画像と元の多値画像と同一スケールであって、平滑化された次に縮小率が大きい縮小画像と合成された合成画像との合成割合を算出して画像を合成し、以下順次合成割合を算出して画像の合成を繰り返すことにより、あらゆる縮小率でノイズ部分であると判断される部分を確実に消去することができ、ノイズ部分の大きさに依存することなく確実にノイズ部分を消去することが可能となる。
なお、後述する実施の形態では、画像縮小手段は、主制御部21のステップS202、ステップS1202、ステップS1302の処理が、平滑化手段は、主制御部21のステップS203、ステップS602、ステップS1203、ステップS1303の処理が、それぞれ該当する。また、エッジ画像生成手段は、主制御部21のステップS204、ステップS603、ステップS1204の処理が、エッジ角度情報生成手段は、主制御部21のステップS205、ステップS604の処理が、エッジ強度情報生成手段は、主制御部21のステップS1205の処理が、分散算出手段は、主制御部21のステップS1304の処理が、それぞれ該当する。
さらに、割合算出手段は、主制御部21のステップS206、ステップS605、ステップS804、ステップS1206、ステップS1305の処理が、画像拡大手段は、主制御部21のステップS207、ステップS805、ステップS1207、ステップS1306の処理が、割合変換手段は、主制御部21のステップS208、ステップS806、ステップS1208、ステップS1307の処理が、画像合成手段は、主制御部21のステップS209、ステップS606、ステップS807、ステップS1209、ステップS1308の処理が、それぞれ該当する。
本発明によれば、縮小画像に対して平滑化処理をすることにより、局所的なノイズ部分を拾いにくく、エッジ角度情報、エッジ強度情報、輝度情報等の特徴量によりエッジ部分である可能性が高い部分と低い部分とを区別することができる。したがって、エッジ部分である可能性が低い部分ほど平滑化処理された画像の合成割合が高くなるよう合成割合を算出することにより、エッジ部分は鮮明さを維持した状態でノイズ部分を確実に消去することができる。
以下、本発明の実施の形態について、図面を参照して説明する。なお、各実施の形態の説明で参照する図面を通じて、同一又は同様の構成又は機能を有する要素については、同一又は同様の符号を付して、詳細な説明を省略する。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像生成装置の構成を模式的に示すブロック図である。図1に示すように本実施の形態1に係る画像生成装置2は、多値画像を撮像する撮像手段であるカメラ1及び撮像された多値画像又は生成された画像を表示する表示装置3に接続されている。
画像生成装置2は、少なくともCPU(中央演算装置)、LSI等で構成された主制御部21、RAM22、記憶手段23、入力手段24、出力手段25、通信手段26、補助記憶手段27及び上述したハードウェアを接続する内部バス28で構成されている。主制御部21は、内部バス28を介して画像生成装置2の上述したようなハードウェア各部と接続されており、上述したハードウェア各部の動作を制御するとともに、記憶手段23に記憶されているコンピュータプログラム5に従って、種々のソフトウェア的機能を実行する。RAM22は、SRAM、SDRAM等の不揮発性メモリである。コンピュータプログラム5の実行時にロードモジュールが展開され、コンピュータプログラム5の実行時に発生する一時的なデータ等を記憶する。
記憶手段23は、内蔵される固定型記憶装置(ハードディスク、フラッシュメモリ等の揮発性メモリ)、ROM等で構成されている。記憶手段23に記憶されているコンピュータプログラム5は、プログラム及びデータ等の情報を記録したDVD、CD−ROM、フラッシュメモリ等の可搬型記録媒体4から、補助記憶手段27によりダウンロードされ、実行時には記憶手段23からRAM22へ展開して実行される。もちろん、通信手段26を介して外部コンピュータからダウンロードされたコンピュータプログラムであっても良い。
通信手段26は内部バス28に接続されており、インターネット、LAN、WAN等の外部のネットワークに接続されることにより、外部のコンピュータ等とデータ送受信を行うことが可能となっている。すなわち、上述した記憶手段23は、画像生成装置2に内蔵される構成に限定されるものではなく、通信手段26を介して接続されている外部のサーバコンピュータ等に設置されているハードディスク等の外部記録媒体であっても良い。
入力手段24は、キーボード及びマウス等のデータ入力媒体の他、液晶パネル等と一体となったタッチパネル等の入力情報を取得する装置全般を含む広い概念である。出力手段25は、レーザプリンタ、ドットプリンタ等の印刷装置等を意味する。
カメラ1は、CCD撮像素子を備えたCCDカメラ等である。表示装置3は、CRT、液晶パネル等を有する表示装置である。カメラ1、表示装置3等は、画像生成装置2と一体化されても良いし、分離されていても良い。
上述した構成の画像生成装置2の処理の流れについて説明する。本実施の形態1に係る画像生成装置2では、縮小された縮小画像での所定の特徴量に応じて、元の多値画像と平滑化処理された画像との合成割合を算出して、ノイズ部分を消去した画像を生成する。実施の形態1では、合成割合算出の基礎となる特徴量をエッジ角度のばらつき度合とした場合について説明する。図2は、本発明の実施の形態1に係る画像生成装置2の主制御部21の処理手順を示すフローチャートである。
図2に示すように、本実施の形態1に係る画像生成装置2の主制御部21は、カメラ1で撮像された多値画像を取得し(ステップS201)、取得した多値画像を所定の縮小率で縮小した縮小画像を生成する(ステップS202)。主制御部21は、縮小された縮小画像に対して平滑化処理を実行する(ステップS203)。なお、ステップS202にて設定される縮小率は、グラフィカルユーザインタフェースを介してユーザによる選択を受け付けて設定する。例えば元の多値画像に対して縮小率1/2、1/4、1/6、1/8等を準備しておき、ユーザの選択を受け付ける。
画像縮小処理の内容は特に限定されるものではない。例えば周知である面積平均法を用いれば良い。また、平滑化処理の内容も特に限定されるものではない。例えば従来と同様、平均化フィルタ、ガウシアンフィルタ等を用いても良いし、メディアンフィルタを用いる、あるいは非特許文献2で開示されている平滑化処理を実行しても良い。
一方、主制御部21は、縮小画像に基づいてエッジ画像を生成し(ステップS204)、生成されたエッジ画像から、エッジ角度に関するエッジ角度情報を画素単位で生成する(ステップS205)。
図3は、エッジ角度を説明するための模式図である。図3(a)に示すように、エッジ部分についてはエッジの法線方向にエッジ角度を求めることができることから、エッジの変化度合とエッジ角度のばらつき度合とが略一致している。それに対して、図3(b)に示すように、ノイズ部分についてはノイズの法線方向にエッジ角度を求めることから、求められたエッジ角度のばらつき度合が図3(a)に比べてはるかに大きくなる。したがって、所定の領域内でエッジ角度のばらつき度合が所定の範囲内に収束している場合にはノイズ部分ではないと判断することができ、エッジ角度のばらつき度合が大きい場合にはノイズ部分であると判断することができる。
図2に戻って、画像生成装置2の主制御部21は、生成されたエッジ角度情報に基づいて、多値画像と平滑化された縮小画像との合成割合を縮小画像の画素単位に算出する(ステップS206)。すなわち、エッジ角度のばらつき度合が大きい画素ほど、平滑化処理された画像の比率を高めて画像合成することにより、ノイズ部分を消去することができる。
特徴量として例示したエッジ角度のばらつき度合は、例えば以下のような方法で算出する。図4は、エッジ角度のばらつき度合の算出方法を説明するための例示図である。図4の例では3×3の範囲内でのエッジ角度のばらつきを求める方法を示している。
例えばSobelフィルタ等の微分フィルタを用いてX方向及びY方向のエッジ成分40、40、・・・を画素ごとに算出しておき、3×3の範囲内でのエッジ成分40、40、・・・の分布を最小二乗法により直線近似する。このとき、近似直線41は、原点(0、0)を通るよう直線近似する。この場合、近似直線41は式(1)で表すことができる。
ax+by=0 ・・・ (1)
ただし、a2 +b2 =1
そして、i番目の画素でのX方向のエッジ成分をxi 、Y方向のエッジ成分をyi とした場合、それぞれの画素のエッジ成分40、40、・・・と近似直線41との誤差42の二乗和Eは、式(2)によって算出できる。
Figure 0005253835
誤差42の二乗和Eを最小にするa、bをa2 +b2 =1を満たす条件下で求めるためには、ラグランジェの未定乗数法を用いて、式(3)の固有値問題を解く必要がある。
Figure 0005253835
式(3)に示す固有値問題を解いて、最小値であるλを算出した場合、式(4)に示すように求めることができる。
Figure 0005253835
式(4)で算出された誤差42の二乗和Eの最小値λは、誤差42の総和に基づいて算出しているのでエッジ強度も含まれた状態で算出されている。したがって、エッジ角度のばらつき度合として、エッジ強度の総和で除算して正規化した値Varを用いることが好ましい。正規化することで、エッジ強度に依存しないエッジ角度のばらつき度合を求めることができるからである。すなわち、同程度のばらつき度合である場合には、エッジ強度の強弱に関係なく同程度の値を得ることができる。式(5)は正規化されたばらつき度合Varを求める式である。
Figure 0005253835
多値画像と平滑化された縮小画像との合成割合Rateは、式(5)で算出されたエッジ角度のばらつき度合Varを用いて、式(6)にて算出する。なお、合成割合Rateは画素単位で算出され、平滑化された縮小画像における重み(0〜1)を表している。Rateの値が大きいほど平滑化された縮小画像の影響が大きく、小さいほど多値画像の影響が大きくなる。
Figure 0005253835
式(6)において、Offsetは、一定値以下のばらつき度合を無視するためのパラメータであり、Gainは、平滑化処理された画像の影響度合を調整するためのパラメータである。そして、合成割合Rateは、0(ゼロ)以下の値をとる場合には0(ゼロ)に、1以上の値となる場合には1にクリッピング処理される。
図2に戻って、画像生成装置2の主制御部21は、平滑化された縮小画像を多値画像と同一スケールまで拡大した拡大画像を生成する(ステップS207)。斯かる拡大画像が、元の多値画像と合成する直接の対象となる。
主制御部21は、縮小画像の画素単位で算出された合成割合を、生成された拡大画像の画素単位の合成割合に変換する(ステップS208)。具体的には、例えばバイリニア補間方法を用い、拡大前の最寄の4点の重み付け平均により拡大されて新たに生じた画素の輝度値を補間すれば良い。
主制御部21は、変換された合成割合に基づいて、多値画像と拡大された拡大画像とを合成し(ステップS209)、合成された画像を表示装置3に表示出力する(ステップS210)。多値画像と拡大された拡大画像とを合成する場合、例えば式(7)に従って合成画像の画素ごとの輝度値を算出する。
Figure 0005253835
式(7)において、Cijは合成画像の任意の画素(i、j)での輝度値を、Aijは元の多値画像の任意の画素(i、j)での輝度値を、Bijは平滑化された縮小画像の任意の画素(i、j)の輝度値を、Rateijは任意の画素(i、j)での合成割合を、それぞれ示している。
図5は、本実施の形態1に係る画像生成装置2での元の多値画像と合成画像との比較図である。図5(a)は元の多値画像及び多値画像のA−A部での輝度値分布を示しており、図5(b)は合成画像及び合成画像のB−B部での輝度値分布を示している。
図5(a)と図5(b)とを比較、特に輝度値分布を見ればわかるように、一定サイズより小さいノイズ部分についてはエッジ部分が不鮮明になることなく消去されている。ただし、図5の縮小率では、一定サイズ以上のノイズ部分51、52についてはエッジ部分と同様であると判断され、鮮明に残存していることがわかる。縮小画像を生成する縮小率を大きくすることで、ノイズ部分51、52が一定サイズより小さくなった場合には、他のノイズ部分と同様に消去されることは言うまでもない。
なお、上述のように平滑化処理された縮小画像と元の多値画像との合成割合を算出するだけではなく、元の多値画像に対して平滑化処理を実行し、元の多値画像との合成割合を算出しても良い。図6は、元の多値画像に対して平滑化処理を実行する場合の画像生成装置2の主制御部21の処理手順を示すフローチャートである。
図6に示すように、画像生成装置2の主制御部21は、カメラ1で撮像された多値画像を取得し(ステップS601)、取得した多値画像に対して平滑化処理を実行する(ステップS602)。一方、主制御部21は、元の多値画像に基づいてエッジ画像を生成し(ステップS603)、生成されたエッジ画像から、エッジ角度に関するエッジ角度情報を画素単位で生成する(ステップS604)。
主制御部21は、生成されたエッジ角度情報に基づいて、元の多値画像と平滑化された多値画像との合成割合を多値画像の画素単位に算出する(ステップS605)。すなわち、エッジ角度のばらつき度合が大きい画素ほど、平滑化処理された画像の比率を高めて画像合成することにより、ノイズ部分を消去することができる。
主制御部21は、算出された合成割合に基づいて、元の多値画像と平滑化された多値画像とを合成し(ステップS606)、合成された画像を表示装置3に表示出力する(ステップS607)。
図7は、本実施の形態1に係る画像生成装置2での元の多値画像と平滑化された多値画像と合成画像との比較図である。図7(a)は元の多値画像及び多値画像のA−A部での輝度値分布を示しており、図7(b)は合成画像及び合成画像のB−B部での輝度値分布を示している。
図7(a)と図7(b)とを比較、特に輝度値分布を比較すればわかるように、一定サイズより小さい微小なノイズ部分は、エッジ部分が不鮮明になることなく消去されている。したがって、元になる多値画像について、エッジ部分である可能性が高い部分はより鮮明に、エッジ部分である可能性が低い部分は消去しておく前処理を実行することになる。
また、元の多値画像と平滑化された多値画像との合成、及び平滑化された縮小画像との合成を連続的に実行しても良い。すなわち合成画像としては、元の多値画像と平滑化された多値画像とを算出された合成割合に基づいて第1の合成画像を生成した後、該第1の合成画像に対して、さらに上述した処理により変換された多値画像と平滑化された縮小画像との合成割合に基づいて拡大画像も合成する。このようにすることで、エッジ部分とそうでない部分との区別をより明確にした状態で合成画像を生成することができ、エッジ部分はより鮮明に、ノイズ部分はより確実に消去することが可能となる。
また、多値画像を縮小した縮小画像は、一の縮小率で縮小された縮小画像に限定されるものではなく、複数の縮小率で縮小された縮小画像を用いても良い。この場合、複数の縮小率を事前に記憶手段23に記憶しておいても良いし、縮小率を複数選択できるように事前に記憶しておき、ユーザによる選択を例えば縮小率選択受付手段にて受け付けても良い。
複数の縮小率を用いる場合、以下に示すような画像の階層化の概念を用いる。例えば縮小率1/1、1/2、1/4、1/6の4種類の縮小率を用いる場合、階層0を縮小率1/1での処理とし、以下、階層1を縮小率1/2での処理、階層2を縮小率1/4での処理、階層3を縮小率1/6での処理とする。このように、縮小率が小さい場合(縮小率1/1)から順次縮小率が大きくなるにつれ、階層番号を順番に割り当てる。
なお、縮小率1/1での処理とは、縮小を行わない元の多値画像での処理を意味する。また、図示しないユーザインタフェースを介して、ユーザによる縮小率1/8の選択を受け付けた場合、本実施例では、事前に定められた縮小率順位に基づき、縮小率1/1、1/2、1/4、1/6、1/8ごとに処理を行う。
主制御部21は、受け付けた縮小率を元に、階層化の概念に従って縮小画像を階層的に生成し、それぞれの縮小画像に対して上述した画像の合成処理を実行する。画像の合成処理は、階層0から上位の階層に向かって順次実行され、各階層での合成に用いる多値画像として、1つ下の階層での合成画像を用いるようにする。なお、階層0は最下層であることから、合成に用いる多値画像として元の多値画像を用いる。
複数の縮小画像を用いることで、大きなサイズのノイズ部分については縮小率の大きな(例えば、縮小率1/2よりも縮小率1/6の方が縮小率が大きいと定義)縮小画像で、小さなサイズのノイズ部分については縮小率の小さな(例えば、縮小率1/6よりも縮小率1/2の方が縮小率が小さいと定義)縮小画像で、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することにより、縮小率に応じた様々な大きさのノイズ部分を、エッジ部分を維持しながら消去することが可能となる。
具体的には、以下の処理を実行する。n階層目の合成画像をRslt[n](i、j)、n階層目の合成割合をRate[n](i、j)、n階層目の平滑化画像(拡大画像)をSmth[n](i、j)とした場合、求める合成画像は、式(8)の漸化式により計算される。
Rslt[n](i、j)
=Rslt[n−1](i、j)×(1−Rate[n](i、j))
+Smth[n](i、j)×Rate[n](i、j) ・・・ (8)
ただし、式(8)において、i、jは画素のX座標及びY座標を示している。また、n=0の場合のRslt[n−1]、すなわちRslt[−1](階層−1の合成画像)は、元の多値画像を表すものとする。
ある階層(階層n)での画像の合成処理は、1つ下の階層(階層n−1)での合成画像と、当該階層(階層n)での平滑化され拡大された画像(拡大画像)とを、当該階層(階層n)での縮小率に応じて算出された合成割合に基づいて合成処理を実行する。当該階層(階層n)で生成された合成画像は、1つ上の階層(階層n+1)での合成処理に用いられるため、下位階層から上位階層へ向かって順次画像の合成処理を実行している。これら一連の合成処理によって、ある特定の階層だけでは判断することができない、より局所的な判断については、下位階層の結果を利用し、より大局的な判断については上位階層の結果に一任することになる。
なお、画像の合成処理は必ずしも式(8)の漸化式通りに順次合成処理を実行することに限定されるものではなく、合成処理に用いる全ての画像(Rslt[−1]、Smth[0]、Smth[1]、・・・、Smth[n])を予め生成しておき、各画像に対する合成割合も一括して算出しておき、一度に画像の合成処理を実行しても良い。
図8は、本実施の形態1に係る画像生成装置2の主制御部21の複数の階層を用いて順次合成画像を生成する場合の画像合成処理手順を示すフローチャートである。図8に示すように、本実施の形態1に係る画像生成装置2の主制御部21は、カメラ1で撮像された多値画像を取得する。次に主制御部21は、縮小率が小さい順に、縮小率ごとに階層番号n(n=0、1、2、・・・)を設定し(ステップS801)、階層を識別する階層番号nの初期値を0に設定する(ステップS802)。例えば縮小率が1/1、1/2、1/4、1/6である場合、縮小率1/1から順に階層0、階層1、階層2、階層3と設定される。
主制御部21は、階層nの縮小率に基づいて、図2のステップS202乃至S205の処理を実行する(ステップS803)。画像縮小処理の内容は特に限定されるものではない。例えば周知である面積平均法を用いれば良い。また、平滑化処理の内容も特に限定されるものではない。例えば従来と同様、平均化フィルタ、ガウシアンフィルタ等を用いても良いし、メディアンフィルタを用いる、あるいは非特許文献2で開示されている平滑化処理を実行しても良い。
主制御部21は、生成されたエッジ角度情報に基づいて、階層n−1の縮小画像に基づき生成された合成画像と、平滑化された次に縮小率が大きい階層nの縮小画像との合成割合を画素単位に算出する(ステップS804)。すなわち、エッジ角度のばらつき度合が大きい画素ほど、平滑化処理された画像の比率を高めて画像を合成することにより、ノイズ部分を消去することができる。
なお、n=0の場合、すなわち階層0(縮小率1/1)での処理は、階層−1で生成された合成画像を用いることになるが、階層−1での合成画像は、元の多値画像を用いる(式(8)でのRslt[−1]に相当)。また、縮小率1/1の縮小画像とは、縮小しない元の多値画像そのものと等しい。つまり、階層0での処理は、元の多値画像(Rslt[−1])と、元の多値画像(縮小率1/1)を平滑化した画像との合成画像を生成することになる。
主制御部21は、平滑化された階層nの縮小画像を、階層n−1の縮小画像に基づいて生成された合成画像と同一スケールまで拡大した予備画像を生成する(ステップS805)。主制御部21は、階層nの縮小画像に基づいて算出された合成割合を、生成された予備画像の画素単位の合成割合に変換する(ステップS806)。具体的には、例えばバイリニア補間方法を用い、拡大前の最寄の4点の重み付け平均により拡大されて新たに生じた画素の輝度値を補間すれば良い。
主制御部21は、変換された合成割合に基づいて、階層n−1の縮小画像に基づいて生成された合成画像と予備画像とを、変換された合成割合にて合成して新たな合成画像を生成し(ステップS807)、階層番号nを1インクリメントする(ステップS808)。主制御部21は、階層番号nが、ステップS801で設定された階層番号の最大値を超えたか否かを判断し(ステップS809)、主制御部21が、超えていないと判断した場合(ステップS809:NO)、主制御部21は、処理をステップS803へ戻して上述した処理を繰り返す。
主制御部21が、階層番号nが、ステップS801で設定された階層番号の最大値を超えたと判断した場合(ステップS809:YES)、主制御部21は、合成された画像が最終的な合成画像であると判断し、生成された合成画像を表示装置3に表示出力する(ステップS210)。
上述の処理では、縮小率が一定の比率で大きくなっていても良いし、ランダムに大きくなっていても良い。また、必ずしも、縮小率1/1を含める必要もない。いずれの場合であっても、縮小率の小さい縮小画像から順次合成画像を生成すれば良い。
このように、最も縮小率の小さい縮小画像から、次に縮小率の大きい縮小画像との合成割合を算出して合成し、以下順次合成割合を算出して画像の合成処理を繰り返すことにより、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することで、縮小率に応じた様々の大きさのノイズ部分を、エッジ部分を維持しつつ消去することが可能となる。
図9は、本実施の形態1に係る画像生成装置2で3つの異なる縮小率で縮小された複数の縮小画像に基づき生成された合成画像の例示図である。図9(a)は合成画像を、図9(b)は合成画像のA−A部での輝度値分布を示している。
図9(a)、図9(b)の輝度値分布を見ればわかるように、図5では残存していたノイズ部分51、52のうち、サイズの小さいノイズ部分51は消去されている。そして、縮小率の階層を増やすことで、サイズの大きいノイズ部分52についても消去することができる。
図10は、本実施の形態1に係る画像生成装置2で5つの異なる縮小率で縮小された複数の縮小画像に基づき生成された合成画像の例示図である。図10(a)は合成画像を、図10(b)は合成画像のA−A部での輝度値分布を示している。
図10(a)、特に図10(b)の輝度値分布を見ればわかるように、図5、図9では残存していたノイズ部分51、52の両方が確実に消去されている。このように、縮小率の階層を増大させることにより、一定サイズ以下のノイズ部分を除去することが可能となる。
以上のように本実施の形態1によれば、縮小画像に対して平滑化処理をすることにより、局所的なノイズを拾いにくく、縮小画像中の特徴量情報、例えばエッジ角度情報によりエッジ部分である可能性が高い部分と低い部分とを区別することができる。したがって、エッジ部分である可能性が低い部分ほど平滑化処理された画像の合成割合が高くなるよう合成割合を算出することにより、エッジ部分は鮮明さを維持した状態でノイズ部分を確実に消去することができる。
なお、式(6)における2つのパラメータOffset及びGainは、事前に設定して記憶手段23に記憶させておいても良いし、ユーザにより適切な値を入力するようにしても良い。図11は、表示装置3で表示されるユーザインタフェースの例示図である。
図11に示すように、画像表示領域111には、合成画像又は元の多値画像を表示する。図11の例では、複数の縮小画像を用いた場合の合成画像を表示している。また、表示画像選択領域112では、処理の状態を確認するために用いる画像を選択する。例えば、事前に記憶手段23に登録してある画像を用いる場合には「登録画像」を、任意のタイミングで取り込む画像を用いる場合には「入力画像」を選択する。
階層入力領域113では、縮小画像を何階層準備するのか、すなわちいくつの縮小率を指定するのかを入力する。平滑化度合い領域114では、平滑化処理された画像の影響度合を調整するためのパラメータであるGainの値を入力する。エッジ保存度合い領域115では、一定値以下のばらつき度合を無視するためのパラメータであり、そし処理された画像の影響度合を調整するためのパラメータであるOffsetを入力する。2つのパラメータの入力値が変動する都度、合成画像を再計算して、画像表示領域111に表示出力する。このようにすることで、不要なノイズ部分を効果的に消去することができるパラメータを試行錯誤しつつ特定することができる。
(実施の形態2)
本発明の実施の形態2に係る画像生成装置2の構成は、実施の形態1と同様であることから、同一の符号を付することにより詳細な説明は省略する。本実施の形態2では、縮小された縮小画像での輝度値の変動度合に応じて算出されるエッジ強度に基づいて、元の多値画像と平滑化処理された画像との合成割合を算出して、ノイズ部分を消去した画像を生成する点で実施の形態1と相違する。
図12は、本発明の実施の形態2に係る画像生成装置2の主制御部21の処理手順を示すフローチャートである。図12に示すように、本実施の形態2に係る画像生成装置2の主制御部21は、カメラ1で撮像された多値画像を取得し(ステップS1201)、取得した多値画像を所定の縮小率で縮小した縮小画像を生成する(ステップS1202)。主制御部21は、縮小された縮小画像に対して平滑化処理を実行する(ステップS1203)。
画像縮小処理の内容は特に限定されるものではない。例えば周知である面積平均法を用いれば良い。また、平滑化処理の内容も特に限定されるものではない。例えば従来と同様、平均化フィルタ、ガウシアンフィルタ等を用いても良いし、メディアンフィルタを用いる、あるいは非特許文献2で開示されている平滑化処理を実行しても良い。
一方、主制御部21は、縮小された縮小画像に基づいて、エッジ画像を生成し(ステップS1204)、生成されたエッジ画像から、エッジ強度に関するエッジ強度情報を画素単位で生成する(ステップS1205)。
エッジ強度は、輝度値の変動度合に応じて算出される。すなわち、画素ごとの輝度値及び周辺の画素の輝度値に基づいて微分値を算出し、算出された微分値に基づいてエッジ強度を算出する。エッジ強度が大きい部分では、ノイズ部分ではない可能性が高いことから多値画像の合成割合を高め、エッジ強度が小さい部分では、ノイズ部分である可能性が高いことから、平滑化処理後の拡大画像の合成割合を高めることにより、エッジ部分は明確に残したまま、ノイズ部分のみを確実に消去することができる。
主制御部21は、生成されたエッジ強度情報に基づいて、多値画像と平滑化された縮小画像との合成割合を縮小画像の画素単位に算出する(ステップS1206)。主制御部21は、平滑化された縮小画像を多値画像と同一スケールまで拡大した拡大画像を生成する(ステップS1207)。斯かる拡大画像が、元の多値画像と合成する直接の対象となる。
主制御部21は、縮小画像の画素単位で算出された合成割合を、生成された拡大画像の画素単位の合成割合に変換する(ステップS1208)。具体的には、例えばバイリニア補間方法を用い、拡大前の最寄の4点の重み付け平均により拡大されて新たに生じた画素の輝度値を補間すれば良い。
主制御部21は、変換された合成割合に基づいて、多値画像と拡大画像とを合成し(ステップS1209)、合成された画像を表示装置3に表示出力する(ステップS1210)。
なお、実施の形態1と同様に、平滑化処理された縮小画像と元の多値画像との合成割合を算出するだけではなく、元の多値画像に対して平滑化処理を実行し、元の多値画像との合成割合を算出しても良い。
また、元の多値画像と平滑化された多値画像との合成、及び平滑化された縮小画像との合成を連続的に実行しても良い。すなわち合成画像としては、元の多値画像と平滑化された多値画像とを算出された合成割合に基づいて第1の合成画像を生成した後、該第1の合成画像に対して、さらに上述した処理により変換された多値画像と平滑化された縮小画像との合成割合に基づいて拡大画像も合成する。このようにすることで、エッジ部分とそうでない部分との区別をより明確にした状態で合成画像を生成することができ、エッジ部分はより鮮明に、ノイズ部分はより確実に消去することが可能となる。
さらに、多値画像を縮小した縮小画像は、一の縮小率で縮小された縮小画像に限定されるものではなく、複数の縮小率で縮小された縮小画像を用いても良い。この場合、複数の縮小率を事前に記憶手段23に記憶しておいても良いし、縮小率を複数選択できるように事前に記憶しておき、ユーザによる選択を例えば縮小率選択受付手段にて受け付けても良い。
複数の縮小画像を用いることで、大きなサイズのノイズ部分については縮小率の大きな(縮小率1/2よりも縮小率1/6を、等)縮小画像で、小さなサイズのノイズ部分については縮小率の小さな(縮小率1/6よりも縮小率1/2を、等)縮小画像で、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することにより、縮小率に応じた様々な大きさのノイズ部分を、エッジ部分を維持しながら消去することが可能となる。
なお、画像の合成処理は必ずしも式(8)の漸化式通りに順次合成処理を実行することに限定されるものではなく、合成処理に用いる全ての画像(Rslt[−1]、Smth[0]、Smth[1]、・・・、Smth[n])を予め生成しておき、各画像に対する合成割合も一括して算出しておき、一度に画像の合成処理を実行しても良い。
また、縮小率が一定の比率で大きくなっていても良いし、ランダムに大きくなっていても良い。また、必ずしも、縮小率1/1を含める必要もない。いずれの場合であっても、縮小率の小さい縮小画像から順次合成画像を生成すれば良い。
このように、最も縮小率の小さい縮小画像から、次に縮小率の大きい縮小画像との合成割合を算出して合成し、以下順次合成割合を算出して画像の合成処理を繰り返すことにより、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することで、縮小率に応じた様々の大きさのノイズ部分を、エッジ部分を維持しつつ消去することが可能となる。
以上のように本実施の形態2によれば、縮小画像に対して平滑化処理をすることにより、局所的なノイズを拾いにくく、エッジ強度情報によりエッジ部分である可能性が高い部分と低い部分とを区別することができる。したがって、エッジ部分である可能性が低い部分ほど平滑化処理された画像の合成割合が高くなるよう合成割合を算出することにより、エッジ部分は鮮明さを維持した状態でノイズ部分を確実に消去することができる。
なお、式(6)における2つのパラメータOffset及びGainは、実施の形態1と同様、事前に設定して記憶手段23に記憶させておいても良いし、ユーザにより適切な値を入力するようにしても良い。ユーザインタフェースについても実施の形態1と同様であることから、詳細な説明は省略する。
(実施の形態3)
本発明の実施の形態3に係る画像生成装置の構成は、実施の形態1と同様であることから、同一の符号を付することにより詳細な説明は省略する。本実施の形態3では、縮小された縮小画像での所定の領域における輝度値の分散に基づいて、元の多値画像と平滑化処理された画像との合成割合を算出して、ノイズ部分を消去した画像を生成する点で実施の形態1及び2と相違する。
図13は、本発明の実施の形態3に係る画像生成装置2の主制御部21の処理手順を示すフローチャートである。図13に示すように、本実施の形態3に係る画像生成装置2の主制御部21は、カメラ1で撮像された多値画像を取得し(ステップS1301)、取得した多値画像を所定の縮小率で縮小した縮小画像を生成する(ステップS1302)。主制御部21は、縮小された縮小画像に対して平滑化処理を実行する(ステップS1303)。
画像縮小処理の内容は特に限定されるものではない。例えば周知である面積平均法を用いれば良い。また、平滑化処理の内容も特に限定されるものではない。例えば従来と同様、平均化フィルタ、ガウシアンフィルタ等を用いても良いし、メディアンフィルタを用いる、あるいは非特許文献2で開示されている平滑化処理を実行しても良い。
一方、主制御部21は、縮小された縮小画像に基づいて、所定の画素及び該画素に隣接する画素で形成された領域での輝度値の分散を算出する(ステップS1304)。例えば3×3画素の領域で輝度値の分散を、縮小画像すべての領域について算出する。輝度値の分散が大きい部分では、ノイズ部分ではない可能性が高いことから多値画像の合成割合を高め、輝度値の分散が小さい部分では、ノイズ部分である可能性が高いことから、平滑化処理後の拡大画像の合成割合を高めることにより、エッジ部分は明確に残したまま、ノイズ部分のみを確実に消去することができる。
主制御部21は、算出された輝度値の分散に基づいて、多値画像と平滑化された縮小画像との合成割合を縮小画像の画素単位に算出する(ステップS1305)。主制御部21は、平滑化された縮小画像を多値画像と同一スケールまで拡大した拡大画像を生成する(ステップS1306)。斯かる拡大画像が、元の多値画像と合成する直接の対象となる。
主制御部21は、縮小画像の画素単位で算出された合成割合を、生成された拡大画像の画素単位の合成割合に変換する(ステップS1307)。具体的には、例えばバイリニア補間方法を用い、拡大前の最寄の4点の重み付け平均により拡大されて新たに生じた画素の輝度値を補間すれば良い。
主制御部21は、変換された合成割合に基づいて、多値画像と拡大された拡大画像とを合成し(ステップS1308)、合成された画像を表示装置3に表示出力する(ステップS1309)。
なお、実施の形態1及び2と同様に、平滑化処理された縮小画像と元の多値画像との合成割合を算出するだけではなく、元の多値画像に対して平滑化処理を実行し、元の多値画像との合成割合を算出しても良い。
また、元の多値画像と平滑化された多値画像との合成、及び平滑化された縮小画像との合成を連続的に実行しても良い。すなわち合成画像としては、元の多値画像と平滑化された多値画像とを算出された合成割合に基づいて第1の合成画像を生成した後、該第1の合成画像に対して、さらに上述した処理により変換された多値画像と平滑化された縮小画像との合成割合に基づいて拡大画像も合成する。このようにすることで、エッジ部分とそうでない部分との区別をより明確にした状態で合成画像を生成することができ、エッジ部分はより鮮明に、ノイズ部分はより確実に消去することが可能となる。
さらに、多値画像を縮小した縮小画像は、一の縮小率で縮小された縮小画像に限定されるものではなく、複数の縮小率で縮小された縮小画像を用いても良い。この場合、複数の縮小率を事前に記憶手段23に記憶しておいても良いし、縮小率を複数選択できるように事前に記憶しておき、ユーザによる選択を例えば縮小率選択受付手段にて受け付けても良い。
複数の縮小画像を用いることで、大きなサイズのノイズ部分については縮小率の大きな(縮小率1/2よりも縮小率1/6を、等)縮小画像で、小さなサイズのノイズ部分については縮小率の小さな(縮小率1/6よりも縮小率1/2を、等)縮小画像で、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することにより、縮小率に応じた様々な大きさのノイズ部分を、エッジ部分を維持しながら消去することが可能となる。
なお、画像の合成処理は必ずしも式(8)の漸化式通りに順次合成処理を実行することに限定されるものではなく、合成処理に用いる全ての画像(Rslt[−1]、Smth[0]、Smth[1]、・・・、Smth[n])を予め生成しておき、各画像に対する合成割合も一括して算出しておき、一度に画像の合成処理を実行しても良い。
また、縮小率が一定の比率で大きくなっていても良いし、ランダムに大きくなっていても良い。また、必ずしも、縮小率1/1を含める必要もない。いずれの場合であっても、縮小率の小さい縮小画像から順次合成画像を生成すれば良い。
このように、最も縮小率の小さい縮小画像から、次に縮小率の大きい縮小画像との合成割合を算出して合成し、以下順次合成割合を算出して画像の合成処理を繰り返すことにより、それぞれの縮小率に応じた判断に基づいて画像の合成処理を実行することで、縮小率に応じた様々の大きさのノイズ部分を、エッジ部分を維持しつつ消去することが可能となる。
以上のように本実施の形態3によれば、縮小画像に対して平滑化処理をすることにより、局所的なノイズを拾いにくく、輝度値の分散によりエッジ部分である可能性が高い部分と低い部分とを区別することができる。したがって、輝度値の分散が高い部分、すなわちノイズ部分である可能性が高い部分ほど平滑化処理された画像の合成割合が高くなるよう合成割合を算出することにより、エッジ部分は鮮明さを維持した状態でノイズ部分を確実に消去することができる。
なお、式(6)における2つのパラメータOffset及びGainは、実施の形態1及び2と同様、事前に設定して記憶手段23に記憶させておいても良いし、ユーザにより適切な値を入力するようにしても良い。ユーザインタフェースについても実施の形態1及び2と同様であることから、詳細な説明は省略する。
また、多値画像と、平滑化された縮小画像(多値画像)との合成割合を算出する基礎となる特徴量は、上述の実施の形態1乃至3に示すエッジ角度のばらつき度合、エッジ強度、輝度値の分散に限定されるものではなく、エッジ部分とエッジ部分でない部分とを区別することが可能な特徴量であれば限定されるものではない。
本発明の実施の形態1に係る画像生成装置の構成を模式的に示すブロック図である。 本発明の実施の形態1に係る画像生成装置の主制御部の処理手順を示すフローチャートである。 エッジ角度を説明するための模式図である。 エッジ角度のばらつき度合の算出方法を説明するための例示図である。 本実施の形態1に係る画像生成装置での元画像と合成画像との比較図である。 元の多値画像に対して平滑化処理を実行する場合の画像生成装置の主制御部の処理手順を示すフローチャートである。 本実施の形態1に係る画像生成装置での元の多値画像と平滑化された多値画像と合成画像との比較図である。 本実施の形態1に係る画像生成装置の主制御部の複数の階層を用いて順次合成画像を生成する場合の画像合成処理手順を示すフローチャートである。 本実施の形態1に係る画像生成装置で3つの異なる縮小率で縮小された複数の縮小画像に基づき生成された合成画像の例示図である。 本実施の形態1に係る画像生成装置で5つの異なる縮小率で縮小された複数の縮小画像に基づき生成された合成画像の例示図である。 表示装置で表示されるユーザインタフェースの例示図である。 本発明の実施の形態2に係る画像生成装置の主制御部の処理手順を示すフローチャートである。 本発明の実施の形態3に係る画像生成装置の主制御部の処理手順を示すフローチャートである。
符号の説明
1 カメラ(撮像手段)
2 画像生成装置
3 表示装置
4 可搬型記録媒体
5 コンピュータプログラム
21 主制御部
22 RAM
23 記憶手段
24 入力手段
25 出力手段
26 通信手段
27 補助記憶手段
28 内部バス

Claims (13)

  1. 撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置において、
    前記撮像手段で撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成する画像縮小手段と、
    該画像縮小手段で生成された縮小画像に対して平滑化処理を実行する平滑化手段と、
    前記画像縮小手段で生成された縮小画像に対応するエッジ画像をそれぞれ生成するエッジ画像生成手段と、
    該エッジ画像生成手段で生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成するエッジ角度情報生成手段と、
    該エッジ角度情報生成手段で生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出する割合算出手段と、
    平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成する画像拡大手段と、
    前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換する割合変換手段と、
    変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成する画像合成手段と
    を備えることを特徴とする画像生成装置。
  2. 前記エッジ画像生成手段で生成されたエッジ画像からエッジ強度に関するエッジ強度情報を画素単位で生成するエッジ強度情報生成手段を備え、
    前記エッジ角度情報生成手段は、生成されたエッジ強度情報に基づいて、前記エッジ画像におけるエッジ角度のばらつき度合を画素単位で算出し、前記エッジ角度情報を生成するようにしてあることを特徴とする請求項1記載の画像生成装置。
  3. 前記平滑化手段は、前記多値画像に対しても平滑化処理を実行するようにしてあり、
    前記割合算出手段は、前記多値画像と平滑化された多値画像との合成割合も画素単位で算出するようにしてあり、
    前記画像合成手段は、前記多値画像と平滑化された多値画像とを合成した後、前記多値画像と平滑化された前記縮小画像との変換された合成割合に基づいて前記拡大画像も合成するようにしてあることを特徴とする請求項1又は2に記載の画像生成装置。
  4. 前記画像縮小手段における縮小率の選択を受け付ける縮小率選択受付手段を備え、
    前記画像縮小手段は、選択を受け付けた縮小率の大小に応じて、縮小率が小さい順に縮小画像を階層的に生成するようにしてあることを特徴とする請求項1又は2に記載の画像生成装置。
  5. 前記割合算出手段は、前記多値画像と複数の平滑化された前記縮小画像との合成割合を、それぞれの前記縮小画像の画素単位で算出するようにしてあり、
    前記割合変換手段は、それぞれの前記縮小画像の画素単位で算出された複数の合成割合を、前記拡大画像の画素単位の合成割合に変換するようにしてあることを特徴とする請求項に記載の画像生成装置。
  6. 前記割合算出手段は、縮小率の小さい順に、順次、次に縮小率が大きい縮小画像と、前記多値画像と同一スケールにて前記画像合成手段で合成された、前記縮小画像に基づく合成画像との合成割合を画素単位で算出するようにしてあり、
    前記割合変換手段は、それぞれの前記縮小画像の画素単位で算出された合成割合を、順次、前記多値画像と同一スケールの画素単位の合成割合に変換するようにしてあり、
    前記画像合成手段は、最も縮小率の小さい縮小画像から順次、算出された画素単位の合成割合に基づいて、平滑化された縮小画像と前記合成画像とを合成するようにしてあることを特徴とする請求項に記載の画像生成装置。
  7. 撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置で実行することが可能な画像生成方法において、
    撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成し、
    生成された縮小画像に対して平滑化処理を実行し、
    生成された縮小画像に対応するエッジ画像をそれぞれ生成し、
    生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成し、
    生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出し、
    平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成し、
    前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換し、
    変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成することを特徴とする画像生成方法
  8. 生成されたエッジ画像からエッジ強度に関するエッジ強度情報を画素単位で生成し、
    生成されたエッジ強度情報に基づいて、前記エッジ画像におけるエッジ角度のばらつき度合を画素単位で算出し、前記エッジ角度情報を生成することを特徴とする請求項7に記載の画像生成方法
  9. 前記多値画像に対して平滑化処理を実行し
    前記多値画像と平滑化された多値画像との合成割合も画素単位で算出し、
    前記多値画像と平滑化された多値画像とを合成した後、前記多値画像と平滑化された前記縮小画像との変換された合成割合に基づいて前記拡大画像合成することを特徴とする請求項7又は8に記載の画像生成方法。
  10. 縮小率の選択を受け付け、
    選択を受け付けた縮小率の大小に応じて、縮小率が小さい順に縮小画像を階層的に生成することを特徴とする請求項7又は8に記載の画像生成方法。
  11. 前記多値画像と複数の平滑化された前記縮小画像との合成割合を、それぞれの前記縮小画像の画素単位で算出し、
    それぞれの前記縮小画像の画素単位で算出された複数の合成割合を、前記拡大画像の画素単位の合成割合に変換することを特徴とする請求項10に記載の画像生成方法。
  12. 縮小率の小さい順に、順次、次に縮小率が大きい縮小画像と、前記多値画像と同一スケールにて合成された、前記縮小画像に基づく合成画像との合成割合を画素単位で算出し、
    れぞれの前記縮小画像の画素単位で算出された合成割合を、順次、前記多値画像と同一スケールの画素単位の合成割合に変換し、
    最も縮小率の小さい縮小画像から順次、算出された画素単位の合成割合に基づいて、平滑化された縮小画像と前記合成画像とを合成することを特徴とする請求項10に記載の画像生成方法。
  13. 撮像手段で撮像された多値画像から平滑化処理された画像を生成する画像生成装置で実行することが可能なコンピュータプログラムにおいて、
    前記画像生成装置を、
    前記撮像手段で撮像された多値画像を複数の異なる縮小率で縮小した縮小画像を生成する画像縮小手段、
    該画像縮小手段で生成された縮小画像に対して平滑化処理を実行する平滑化手段、
    前記画像縮小手段で生成された縮小画像に対応するエッジ画像をそれぞれ生成するエッジ画像生成手段、
    該エッジ画像生成手段で生成されたエッジ画像からエッジ角度に関するエッジ角度情報を画素単位で生成するエッジ角度情報生成手段、
    該エッジ角度情報生成手段で生成されたエッジ角度情報に基づいてエッジ画像におけるエッジ角度のばらつき度合を算出し、算出されたエッジ角度のばらつき度合に基づいて、ばらつき度合が大きいほど平滑化された前記縮小画像の比率を高め、ばらつき度合が小さいほど前記多値画像の比率を高めるように、前記多値画像と平滑化された前記縮小画像との合成割合を前記縮小画像の画素単位で算出する割合算出手段、
    平滑化された前記縮小画像から前記多値画像と同一スケールまで拡大した拡大画像を生成する画像拡大手段、
    前記縮小画像の画素単位で算出された合成割合を、前記拡大画像の画素単位の合成割合に変換する割合変換手段、及び
    変換された合成割合に基づいて、前記多値画像と前記拡大画像とを合成する画像合成手段
    として機能させることを特徴とするコンピュータプログラム
JP2008036795A 2008-02-19 2008-02-19 画像生成装置、画像生成方法及びコンピュータプログラム Expired - Fee Related JP5253835B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008036795A JP5253835B2 (ja) 2008-02-19 2008-02-19 画像生成装置、画像生成方法及びコンピュータプログラム
US12/352,691 US8150189B2 (en) 2008-02-19 2009-01-13 Image generating apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008036795A JP5253835B2 (ja) 2008-02-19 2008-02-19 画像生成装置、画像生成方法及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2009199104A JP2009199104A (ja) 2009-09-03
JP5253835B2 true JP5253835B2 (ja) 2013-07-31

Family

ID=40955194

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008036795A Expired - Fee Related JP5253835B2 (ja) 2008-02-19 2008-02-19 画像生成装置、画像生成方法及びコンピュータプログラム

Country Status (2)

Country Link
US (1) US8150189B2 (ja)
JP (1) JP5253835B2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2454644A2 (en) * 2009-07-15 2012-05-23 Koninklijke Philips Electronics N.V. Method for controlling a second modality based on a first modality
DE112009005418B4 (de) 2009-12-04 2018-09-13 Canon Kabushiki Kaisha Bildverarbeitungsgerät
CN104301586A (zh) * 2010-02-12 2015-01-21 佳能株式会社 根据图像数据生成亮度信号的设备和方法
CN102754443B (zh) * 2010-02-12 2014-11-12 佳能株式会社 图像处理设备和图像处理方法
US9908050B2 (en) * 2010-07-28 2018-03-06 Disney Enterprises, Inc. System and method for image recognized content creation
JP5524762B2 (ja) * 2010-08-12 2014-06-18 日本電信電話株式会社 映像符号化方法,映像復号方法,映像符号化装置,映像復号装置およびそれらのプログラム
JP6146574B2 (ja) * 2011-08-22 2017-06-14 日本電気株式会社 ノイズ除去装置、ノイズ除去方法及びプログラム
JP5609903B2 (ja) * 2012-02-21 2014-10-22 コニカミノルタ株式会社 画像処理装置及び画像処理方法
CN103327221B (zh) * 2012-03-20 2016-12-14 华晶科技股份有限公司 摄像装置及其影像预览***及影像预览方法
WO2013146283A1 (ja) * 2012-03-27 2013-10-03 株式会社 日立メディコ 画像処理装置及び画像処理方法
US9258461B2 (en) 2012-04-04 2016-02-09 Mitsubishi Electric Corporation Image processing device and method, and image processing program
JP5919086B2 (ja) 2012-05-09 2016-05-18 キヤノン株式会社 画像処理装置及びその制御方法、並びにプログラム
JP5705173B2 (ja) * 2012-06-25 2015-04-22 京セラドキュメントソリューションズ株式会社 画像処理装置および画像形成装置
JP2014021928A (ja) 2012-07-23 2014-02-03 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP6087612B2 (ja) 2012-12-17 2017-03-01 キヤノン株式会社 画像処理装置および画像処理方法
CN108885778B (zh) * 2016-04-06 2023-04-07 索尼公司 图像处理设备和图像处理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3816151B2 (ja) * 1995-09-29 2006-08-30 富士写真フイルム株式会社 画像処理方法および装置
JP3700798B2 (ja) * 1996-08-19 2005-09-28 富士写真フイルム株式会社 画像処理方法および装置
JP2000224421A (ja) * 1999-02-03 2000-08-11 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
JP3750797B2 (ja) * 2001-06-20 2006-03-01 ソニー株式会社 画像処理方法および装置
JP3816826B2 (ja) * 2002-03-28 2006-08-30 日本電信電話株式会社 市街地領域抽出処理方法,市街地領域抽出処理装置,市街地領域抽出処理プログラムおよびそのプログラムの記録媒体
US20060045384A1 (en) * 2002-09-11 2006-03-02 Koninklijke Philips Electronics N.V. Unit for and method of image conversion
JP2004318423A (ja) * 2003-04-15 2004-11-11 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像処理プログラム
JP2005293555A (ja) * 2004-03-10 2005-10-20 Seiko Epson Corp 画像における肌領域の特定
JP4381240B2 (ja) 2004-06-28 2009-12-09 シャープ株式会社 画像処理装置及びこれを用いた画像表示装置、並びに画像処理方法及びこれをコンピュータに実行させるためのプログラム
US7379626B2 (en) * 2004-08-20 2008-05-27 Silicon Optix Inc. Edge adaptive image expansion and enhancement system and method
JP4273428B2 (ja) * 2006-01-31 2009-06-03 ソニー株式会社 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP2008015741A (ja) * 2006-07-05 2008-01-24 Konica Minolta Holdings Inc 画像処理装置、画像処理方法及びこれを用いた撮像装置
JP5012333B2 (ja) * 2007-08-30 2012-08-29 コニカミノルタアドバンストレイヤー株式会社 画像処理装置および画像処理方法ならびに撮像装置

Also Published As

Publication number Publication date
US20090208129A1 (en) 2009-08-20
JP2009199104A (ja) 2009-09-03
US8150189B2 (en) 2012-04-03

Similar Documents

Publication Publication Date Title
JP5253835B2 (ja) 画像生成装置、画像生成方法及びコンピュータプログラム
US10223776B2 (en) Systems and methods for selective enhancement of a region of interest in an image
US7613363B2 (en) Image superresolution through edge extraction and contrast enhancement
US8013870B2 (en) Image masks generated from local color models
JP6362333B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP4590470B2 (ja) 背景色を推定する方法およびシステム
JP6635799B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2015232869A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US8346002B2 (en) High dynamic range image hallucination
JP2008301187A (ja) 画像処理装置および画像処理プログラム
JP5824155B2 (ja) 画像のノイズ除去、圧縮および補間のための異方性勾配の正則化
JP2010526373A (ja) 自動画像強調
JP2020061080A (ja) 画像処理装置、撮像装置、画像処理方法
JP2019028912A (ja) 画像処理装置、画像処理方法
JP2010286959A (ja) 顔画像高解像度化方法、顔画像高解像度化装置、及びそのプログラム
WO2005057910A1 (ja) カラーバランス補正プログラム、カラーバランス補正装置およびカラーバランス補正方法
JP6366935B2 (ja) 擬似カラー化画像処理システム
JP5146159B2 (ja) 画像復元方法、画像復元プログラム、および画像復元装置
JP4804271B2 (ja) 画像処理装置及びその制御方法
JP2005275854A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよびこのプログラムを記憶した記録媒体
US9154671B2 (en) Image processing apparatus, image processing method, and program
JP5672168B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2010009468A (ja) 画像高画質化装置、方法およびプログラム
JP2019176532A (ja) 画像処理装置、画像処理方法、およびプログラム
JP5934019B2 (ja) 階調復元装置及びそのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120525

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130417

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160426

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees