JP2014053883A - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP2014053883A
JP2014053883A JP2013061779A JP2013061779A JP2014053883A JP 2014053883 A JP2014053883 A JP 2014053883A JP 2013061779 A JP2013061779 A JP 2013061779A JP 2013061779 A JP2013061779 A JP 2013061779A JP 2014053883 A JP2014053883 A JP 2014053883A
Authority
JP
Japan
Prior art keywords
data
image
color
lens position
contrast
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013061779A
Other languages
English (en)
Other versions
JP6195055B2 (ja
Inventor
Daisuke Hojo
大輔 北條
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2013061779A priority Critical patent/JP6195055B2/ja
Priority to EP13176907.7A priority patent/EP2696584B1/en
Publication of JP2014053883A publication Critical patent/JP2014053883A/ja
Application granted granted Critical
Publication of JP6195055B2 publication Critical patent/JP6195055B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/365Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals by analysis of the spatial frequency components of the image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/38Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Automatic Focus Adjustment (AREA)
  • Color Television Image Signal Generators (AREA)
  • Focusing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 光学ローパスフィルタを搭載しない撮像装置において、色モアレの発生を事前に検知することができる撮像装置および撮像方法を得る。
【解決手段】 光学レンズと、光学レンズを介して被写体像を結像させる受光面を備える撮像素子と、を有し、画像データに基づくコントラストデータを算出するコントラストデータ算出手段と、画像データに基づく色データを算出する色データ算出手段と、コントラストデータに基づいて被写体像を上記受光面に合焦させる第1レンズ位置を決定する第1レンズ位置決定手段と、色データに基づいて、色データがピークになる第2レンズ位置を決定する第2レンズ位置決定手段と、第1レンズ位置と第2レンズ位置との差分とを予め規定された閾値とを比較する判定手段と、を有し、判定手段は、差分が閾値よりも小さいとき、色モアレが生じると判定する、撮像装置による。
【選択図】図1

Description

本発明は、光学ローパスフィルタを搭載しない撮像装置において、色モアレの発生を事前に検知することができる撮像装置および撮像方法に関するものである。
光軸上を移動可能な光学レンズを備え、この光学レンズを介して撮像素子の受光面に被写体像を結像させて、撮像素子から出力される画像信号に基づく画像データを生成し記録する撮像装置(以下「デジタルカメラ」という。)が知られている。このデジタルカメラ特有の問題として、「モアレ」が知られている。
一般的に、デジタルカメラに用いられる撮像素子は、正方形の画素が規則正しく配列されている。この撮像素子の画素の面(受光面)に光学レンズを介して被写体像が結像し、サンプリング周波数(ナイキスト周波数)によってサンプリングされて電気信号として出力される。すなわち、被写体の空間周波数がナイキスト周波数の1/2以上であるときは、正常なサンプリングができなくなる。このような高周波成分を含む被写体に基づく画像信号には、偽の周波数をもつエイリアス信号(折り返し成分)が含まれることになる。このエイリアス信号が含まれる画像信号に基づいて画像データを生成すると、画像の一部が変質する「モアレ」が生じる。
モアレには、「輝度モアレ(偽解像)」や、「色モアレ(偽色)」などが知られている。このモアレの要因は、デジタルカメラの撮像素子の画素が規則正しく配列されていて、サンプリング周波数が画素の配列場所によらず一定であることによる。よって、フィルム粒子がランダムに配置されているとみなされる従来のフィルムカメラ(アナログカメラ)で、モアレは生じない。
モアレの発生を抑制または軽減するには、撮像素子から画像信号をサンプリングする前に、被写体の空間周波数を、ナイキスト周波数以下に落とせばよい。言い換えると、被写体の空間周波数に含まれるナイキスト周波数以上の高周波成分を落とせばよい。そのために用いる部品として、光学ローパスフィルタが知られている。
光学ローパスフィルタは、水晶の複屈折性を利用して、画像を任意の幅に分離する効果を有するフィルタであって、2枚の複屈折板の間にと1枚の1/4λ波長板を挟んでなる。この光学ローパスフィルタにより四点分離を行うものが、レンズ交換式デジタルカメラや一部のコンパクトデジタルカメラに用いられている。この光学ローパスフィルタを、光学レンズと撮像素子の受光面との間に配置することで、モアレの原因となり得る高周波成分を低減させることができる。
しかし、光学ローパスフィルタは、ナイキスト周波数以上の成分にのみ作用するのではなく、低周波成分にも影響を与えるので、光学ローパスフィルタを用いて撮影した画像は、全体的にぼかされた状態になる。また、光学ローパスフィルタは、デジタルカメラを構成する部品の中でも比較的価格が高い部品であるから、デジタルカメラの製造コストに与える影響が大きい。さらに、装着されたレンズの解像特性が高いほどモアレの発生が強くなるから、キレのある高性能なレンズを使用するときほど、モアレを抑えるために、強い光学ローパスフィルタが必要になる。そうすると、解像特性の高いレンズの性能を十分に発揮させることができない。
レンズの解像特性を発揮させた画像を記録するには、光学ローパスフィルタを用いないこと(光学ローパスフィルタレス)が望ましい。そこで近年では、光学ローパスフィルタを用いずに、画素配列にランダム性を持たせた撮像素子を用いることで色モアレの発生を抑制するものや、RGBを三層構造にした撮像素子を用いることで色モアレの発生を抑制する、デジタルカメラが知られている。このようなデジタルカメラは、独自に色補間用のハードウェアが必要である。また、透過特性が悪く色再現性や感度などに課題がある。
これまでにも、低周波域のコントラストも、高周波域のコントラストと同じようにピークをもつ性質を利用して、高周波域と低周波域のそれぞれのコントラストデータのピーク位置に基づいてモアレの発生を検出して、モアレが発生する場合にはピント位置をずらす撮像装置が提案されている(例えば、特許文献1参照)。
特許文献1の撮像装置は、光学ローパスフィルタレスの撮像装置において、モアレが発生する条件に合致する場合に、光学レンズをピント位置からずらして撮影する。これによってモアレの発生を防ぐことができるが、ピント位置から光学レンズをずらすことで、画像の解像特性は低下する。つまり、特許文献1の方法では、光学レンズのもつ解像特性を最大限に発揮することはできなくなる。
また、一般的に輝度モアレよりも色モアレの方が画像品質への影響が大きい。しかし、特許文献1の撮像装置は、色モアレの発生を抑制または低減させることはできない。さらに、ピント位置をずらさずに撮影したい場合や、ピント位置をずらすのではなく絞りを絞り込むことにより色モアレ対策をしたい場合などにおいては、ユーザが望む撮影方法に対応できない。
本発明は、光学ローパスフィルタレスの撮像装置であっても、色モアレの発生を撮影処理の前に検知して、色モアレを抑制する撮像装置を提供することを目的とする。
本発明に係る撮像装置は、光学レンズと、上記光学レンズを介して被写体像を結像させる受光面を備える撮像素子と、を有し、上記撮像素子から出力される画像信号から画像データを生成して記録する撮像装置であって、上記画像データに基づくコントラストデータを算出するコントラストデータ算出手段と、上記画像データに基づく色データを算出する色データ算出手段と、上記コントラストデータに基づいて、被写体像を上記受光面に合焦させる上記光学レンズの第1レンズ位置を決定する第1レンズ位置決定手段と、上記色データに基づいて、上記色データがピークになる上記光学レンズの第2レンズ位置を決定する第2レンズ位置決定手段と、上記第1レンズ位置と上記第2レンズ位置との差分を算出し、上記差分と予め規定された閾値とを比較する判定手段と、を有し、上記判定手段は、上記差分が上記閾値よりも小さいとき、色モアレが生じると判定する、ことを最も主要な特徴とする。
本発明によれば、色モアレの発生を撮影処理の前に検知して、、色モアレを抑制することができる。
本発明に係る撮像装置であるデジタルカメラの実施の形態を示す機能ブロック図である。 上記撮像装置において実行される撮像方法の実施の形態を示すフローチャートである。 上記撮像装置における画像処理の例を示す図である。 上記撮像装置における画像処理の別の例を示す図である。 上記撮像装置において実行される撮像方法の別の実施の形態を示すフローチャートである。 色モアレが発生する被写体の例である。 上記色モアレが発生する被写体を上記撮像装置で撮像した場合おけるコントラストデータの変化の例を示すグラフである。 上記色モアレが発生する被写体を上記撮像装置で撮像した場合おける色差成分データの変化の例を示すグラフである。 上記色モアレが発生する被写体を上記撮像装置で撮像した場合おけるホワイトバランスデータの変化の例を示すグラフである。 色モアレが発生しない被写体を上記撮像装置で撮像した場合おけるコントラストデータの変化の例を示すグラフである。 色モアレが発生しない被写体を上記撮像装置で撮像した場合おける色差成分データの変化の例を示すグラフである。 色モアレが発生しない被写体を上記撮像装置で撮像した場合おけるホワイトバランスデータの変化の例を示すグラフである。
以下、本発明に係る撮像装置および撮像方法の実施の形態について説明する。本発明に係る撮像装置は、画像を記録する前に、色モアレの発生の有無を判定できるものである。したがって、色モアレの発生を事前に検知して、色モアレを抑制または低減する処理を行なってから画像を記録することができる。
●色モアレの判定方法
色モアレは偽色とも呼ばれて、本来は無いはずの縞模様の色が画像中に発生する現象である。一般的に、色モアレはピントの合焦位置付近において発生しやすい。まず、本発明に係る撮像装置に用いられる色モアレの判定方法について説明する。一般に、色モアレの発生しない被写体は、ピントの合焦・非合焦に関わらず色差成分(色味)は変化しない。よって、ピントの合焦処理を行う際に、光学レンズを移動させながら、所定の時間間隔で生成される画像データに基づいて、色差成分の変動を検知することで、当該画像データにより記録される画像において、色モアレが発生するか否かを判定することができる。
ピントの合焦処理(AF処理)では、光学レンズを移動させながら、所定の時間間隔で画像データを生成し、この画像データを用いて合焦位置の判定に使用するコントラストデータ(AF評価値)を算出する。このとき、上記の画像データを用いて、色データである色差成分データ(色差成分評価値)や、ホワイトバランスデータ(ホワイトバランス評価値)を算出する。
コントラストデータがピークになるレンズ位置が、光学レンズの合焦位置である。この合焦位置になるレンズ位置を第1レンズ位置という。コントラストデータのピーク判定と共に、色差成分データまたはホワイトバランスデータのピーク判定を行う。これら色データ(色差成分データ、ホワイトバランスデータ)にピークが生じていなければ、色モアレが発生することはない。しかし、色データにもピークが生じていれば、色モアレが発生する可能性がある。色データがピークとなるレンズ位置を第2レンズ位置という。色モアレが発生するか否かは、第1レンズ位置と第2レンズ位置の相関により判定することができる。
例えば、図6に示すCZP(Circular Zone Plate)チャートは、色モアレが発生し得る被写体である。CZPは、中央から周辺に掛けて徐々に解像度が変化するものであって、色補間の評価に使用されるものである。図6に示すCZPチャートの解像度は、中央の0[TV本]から周辺の600[TV本]まで変化している。すなわち、中央から周囲にかけて空間周波数が徐々に高くなっている。近年のデジタルカメラが備える撮像素子は、画素数が1000万画素以上であるから、図6に示したCZPチャートを等倍で撮影しても、ナイキスト周波数の半分にも達しない。しかし、そのような撮像素子を備えるデジタルカメラであっても、焦点距離と画素数から適切なチャート距離を算出して、例えば500[TV本]付近がナイキスト周波数になるように撮影すると、色モアレが発生し得る状態になる。
上記の撮影条件の下で、光学レンズの位置をずらしながら(焦点距離を変化させながら)、図6に示すCZPチャートを連続的に撮影すると、図7乃至図9に示す各データを算出することができる。図7乃至図9に示すグラフは、上記条件で取得された各レンズ位置におけるコントラストデータ、色差成分データおよび彩度、ホワイトバランスデータを算出したものである。
図7は、コントラストデータの変化の例を示すグラフであって、横軸を光学レンズの位置とし、縦軸をコントラストデータの大きさとしている。なお、コントラストデータとは、画像データに対してデジタルハイパスフィルタ(−1、0、2、0、−1)によるフィルタ処理を実行した結果である。図7に示すように、レンズ位置を移動させてコントラストデータを算出すると、被写体(CZPチャート)に合焦するレンズ位置(第1レンズ位置P1)で、コントラストデータの値はピークになる。
図8は、色差成分データの変化の例を示すグラフであって、横軸を光学レンズの位置とし、縦軸を色差成分データと彩度の大きさとしている。なお、色差成分データとは、画像処理LSIにおいて画像処理が行われた画像データ(YUV形式)のCb/Cr成分の絶対値である。また、彩度とはCb−Cr空間において(Cb+Cr)^(0.5)により算出される指標であり、Y成分は考慮しない値である。図8に示すように、レンズ位置を移動させながら、色差成分データと彩度を算出すると、これらにもピークが現れる。このピークが現れるレンズ位置(第2レンズ位置P21)は、第1レンズ位置P1(図7参照)とは異なるレンズ位置である。
また、図9は、ホワイトバランスデータの変化の例を示すグラフであって、横軸をレンズ位置とし、縦軸をホワイトバランスデータの大きさとしている。なお、ホワイトバランスデータとは、画像処理LSIで各種画像処理を行った画像データにおけるR/Gr成分とB/Gb成分の値である。図9に示すように、レンズ位置を移動させながら、ホワイトバランスデータを算出すると、ホワイトバランスデータにもピークが現れる。このピークが現れるレンズ位置(第2レンズ位置P22)は、第1レンズ位置P1(図7参照)の近傍であるが、同一ではない。
このように、色モアレが生じる可能性がある状態において、コントラストデータと、色データである色差成分データやホワイトバランスデータと、を算出すると、光学レンズの位置によって各値はそれぞれ変動して、ピークが現れるようになる。コントラストデータがピークになる第1レンズ位置P1と、色差成分データがピークになる第2レンズ位置P21は、近傍である。また、第1レンズ位置P1と、ホワイトバランスデータがピークになる第2レンズ位置P22は、近傍である。このように、第2レンズ位置P21または第2レンズ位置P22が存在し、かつ、第2レンズ位置P21または第2レンズ位置P22と第1レンズ位置P1が所定の距離より短いとき、その画像には色モアレが生じる可能性が高い。
次に、色モアレが生じない被写体として、マクベスチャートのREDパッチを用いて、上記と同様に、コントラストデータ、色差成分データおよび彩度、ホワイトバランスデータを算出したときのそれぞれの変化について説明する。図10乃至図12は、光学レンズの位置をずらしながら(焦点距離を変化させながら)REDパッチを連続的に撮影して生成した画像データに基づいて、上記各データを算出したときの変化を示すグラフである。
図10は、コントラストデータの変化の例を示すグラフであって、横軸をレンズ位置(焦点距離)とし、縦軸をコントラストデータの大きさとしている。図10に示すように、焦点距離を変化させてコントラストデータを算出すると、被写体であるREDパッチに合焦する第1レンズ位置P1において、コントラストデータの値はピークになる。
図11は、色差成分データの変化の例を示すグラフであって、横軸を光学レンズの位置とし、縦軸を色差成分データと彩度の大きさとしている。図11に示すように、光学レンズの位置が変化しても、色差成分データはほぼ一定であって変動せず、ピークは生じない。図12は、ホワイトバランスデータの変化の例を示すグラフであって、横軸を光学レンズの位置とし、縦軸をホワイトバランスデータの大きさとしている。図12に示すように、ホワイトバランスデータも、色差成分データと同じように、光学レンズの位置が変化しても、その値はほぼ一定であって変動せず、ピークは生じない。
以上のように、色モアレが生じる被写体を撮影すると、コントラストデータがピークになるレンズ位置(合焦位置)の近傍において、色差成分データやホワイトバランスデータのピークが現れる。しかし、色モアレが生じない被写体を撮影しても、色差成分データやホワイトバランスデータにはピークは現れない。
●撮像装置の機能ブロック
上記の色モアレ判定方法を踏まえて、本発明に係る撮像装置の実施の形態について説明する。図1は、本発明に係る撮像装置であるデジタルカメラの実施の形態を示す機能ブロック図である。図1において、デジタルカメラ100は、光学系6と、アナログフロントエンド部21と、画像信号処理部22と、SDRAM23と、操作部41と、ROM24と、LCD9と、メモリカード14と、を有してなる。
光学系6は、光学レンズ5と、絞り26と、内蔵NDフィルタ27と、これらを動作させるモータを駆動するモータドライバ25と、撮像素子であるCCD20と、を有してなる。光学系6は、光学レンズ5を介して、被写体像をCCD20の受光面に結像させる。
アナログフロントエンド部21は、光学系6から出力されるアナログ画像信号を処理するCDS回路31と、AGC回路32と、A/D変換回路33と、TG回路30と、を有してなる。CDS回路31は、CCD20から出力されるアナログ画像信号のノイズ除去をする回路である。AGC回路32は、CDS回路31から出力されるアナログ画像信号の振幅を調整する回路である。A/D変換回路33は、アナログ画像信号をデジタル画像データに変換する回路である。TG回路30は、CCD20、CDS回路31、AGC回路32、A/D変換回路33の動作タイミングを指示する駆動信号を生成する回路である。
画像信号処理部22は、CCDI/F34と、メモリコントローラ35と、制御部であるCPU28と、RAW−RGB処理部29と、YUV変換部36と、リサイズ処理部37と、データ圧縮部39と、表示出力制御部38と、メディアI/F40と、を有してなる。
アナログフロントエンド部21からCCDI/F34を介して、画像処理LSIである画像信号処理部22に入力されたデジタル画像データは、RAW−RGB処理部29において欠陥画素補正、OB補正、リニアリティ補正等の補正処理が実行される。また、この画像データからAE(自動露出)・AWB(自動ホワイトバランス調整)・AF(自動焦点設定)の各処理に用いられるデータが生成される。
本発明の実施に必要なコントラストデータは、RAW−RGB処理部29において生成される。RAW−RGB処理部29により得られたRAW−RGB画像データは一旦、SDRAM23に保存されたのち、YUV変換部36によりJPEG形式やTIFF形式のデジタル画像に変換される。YUV変換部36では色補間、階調補正、色彩補正、輪郭強調、ノイズリダクション、歪み補正等、高品質な画像を生成する為の様々な処理が含まれている。
また、本発明の実施に必要な色差成分データは、YUV変換部36にて生成される。もしくは、SDRAM23に保存されたYUV画像を用いた生成処理をCPU28にて実行することで得られる。コントラストデータと色差成分データのピーク算出は、CPU28において実行される。
以上本実施の形態に係る撮像装置によれば、コントラストデータと色差成分データのピーク検出をすることができ、これによって、色モアレの発生を撮影の事前のAF処理のときに、ユーザに通知することができる。
●スポットAFによる撮像方法
次に、本発明に係る撮像方法の実施の形態について図2のフローチャートを用いて説明する。本実施の形態のコントラストAFの方式は、最も単純なスポットAFを例としている。スポットAFとは、デジタル画像データの任意の画像領域を設定し、この任意の画像領域内の画像データに基づいてコントラストデータを算出する方式である。この方式は、任意の画像領域において算出されたコントラストデータを用いて、ピーク位置を判定し合焦位置とする。よって、本実施の形態においては、色データの算出も、コントラストデータの算出に用いられる画像領域の画像データに基づいて算出される。
まず、コントラストAF開始と共にスキャン開始位置に光学レンズ5を移動させる(S101)。コントラストAFの開始のトリガーは、例えば、デジタルカメラ100が備えるシャッターボタン(不図示)のユーザによる「半押し」とする。光学レンズ5が所定の移動を完了すると、次いで画像データが取得される(S102)。次いで、取得された画像データからコントラストデータが算出される(S103)。また、取得された画像データから色差成分データ、または、ホワイトバランスデータが算出される(S104)。
算出される色差成分データは、Cb/Cr成分そのものでもよいし、それらの二乗和である(Cb+Cr)^(0.5)でも良い。また、YUV形式で色差成分データが算出できないときは、Bayer形式である上記画像データから得られるR/Gr、B/Gb等のホワイトバランスデータを算出してもよい。
なお、本実施の形態に係る色モアレ判定処理は、色差成分データとホワイトバランスデータのいずれを用いてもよいが、ここでは、色差成分データを用いることにする。
次いで、CPU28において、コントラストデータと、色差成分データのピーク位置算出処理が行なわれる(S105)。以上の処理を、光学レンズ5のコントラストデータ算出範囲に至るまで繰り返して実行する(S106のNO)。コントラストデータを算出するための範囲に光学レンズ5が到達したときは、コントラストAF処理が終了したと判定する(S106のYES)。
コントラストAF処理が終了した後、コントラストデータのピーク位置(第1レンズ位置P1)が存在するか否かを判定する処理が実行される(S107)。コントラストデータのピーク位置が存在しなければ、当該画像データの元になる被写体には高周波成分が含まれている可能性が低いか、単に合焦位置が特定できないか、いずれかである。いずれにせよ、色モアレは発生しないと判定される(S107のNO、S111)。
コントラストデータのピーク位置が存在する場合(S107のYES)は、そのコントラストデータのピーク位置に対応するレンズ位置を、第1レンズ位置P1として決定する。決定された第1レンズ位置P1は、一旦、SDRAM23に記憶される。次いで、色差成分データのピーク位置が存在するか否かを判定する処理が実行される(S108)。ここで、色差成分データのピーク位置が存在しなければ(S108のNO)、当該画像データには色モアレが折り返し成分として含まれている可能性が極めて低いので、色モアレは発生しないと判定される(S108のNO、S111)。
色差成分データのピーク位置が存在するときは(S108のYES)、その色差成分データのピーク位置に対応するレンズ位置を、第2レンズ位置P2として決定する。決定された第2レンズ位置P2は、一旦、SDRAM23に記憶される。次いで、光学レンズ5の合焦位置となる第1レンズ位置P1と色差成分データのピーク位置である第2レンズ位置P2との差分の絶対値が、算出される。次いで、この算出された差分の絶対値と、予め規定された任意の閾値Thと比較する判定処理が実行される(S101)。この処理は、差分の絶対値が閾値Thよりも小さいか否かを判定する処理である。
コントラストデータのピーク位置である第1レンズ位置P1の近くに、色差成分データのピーク位置である第2レンズ位置P2があるときは、色モアレが発生する可能性が極めて高い。したがって、第1レンズ位置P1と第2レンズ位置P2の差分が閾値Th未満であるとき(S109のYES)、色モアレが発生する可能性があると判定される(S110)。第1レンズ位置P1と第2レンズ位置P2の差分が閾値Th以上であるとき(S109のNO)、色モアレは発生しないと判定される(S111)。なお、閾値Thの値は任意でよい。例えば第1レンズ位置P1に対する被写界深度から決めればよい。
色モアレが発生する可能性があると判定されたときは(S110)、色モアレを抑止または低減する処理が実行されればよい。例えば、LCD9に「色モアレが発生します」という警告表示を行えばよい。
また、デジタルカメラ100が、色モアレを抑制するパラメータを切り替える画像処理手段(不図示)を備えている場合は、色モアレが発生する可能性があると判定されたときには(S110)、続いて色モアレを抑制する処理を行えばよい。この場合、例えば、色差ノイズリダクション処理を実行すればよい。
色差ノイズリダクション処理は、高感度撮影で発生する色差ノイズを抑制する為の画像処理である。色モアレも色差成分としては周波数が高い傾向があるので、色差ノイズリダクション処理によって、色モアレの抑制を図ることができる。この色差ノイズリダクション処理を実行した場合における撮影画像の例を図3に示す。図3は、光源を太陽光として、一般的な建造物の外壁を被写体とした画像の例である。図3においてA列に示す画像は、色差ノイズリダクション処理の実行をしていない画像の例である。また、図3においてB列に示す画像は、色差ノイズリダクション処理の実行をした画像の例である。また、図3は、A列とB列に例示した画像の、それぞれのY成分(C行)、Cb成分(D行)、Cr成分(E行)を、それぞれ対比して示している。
図3に示すように、色差ノイズリダクションを実行しない場合は、Cb成分(A列D行)とCr成分(A列E行)の画像に、縞々の色モアレが生じている。しかし、色差ノイズリダクションを実行した場合には、Cb成分(B列D行)とCr成分(B列E行)には、色モアレが生じていない。
このように、AF処理を実行しつつ、色差成分データのピークを検出することで色モアレが発生する可能性を判定することができる。色モアレが発生すると判定されたときは、YUV画像を生成する為のパラメータを切り替えて、色差ノイズリダクション処理を実行することで、色モアレの発生を抑制または低減することができる。なお、色差ノイズリダクションは輝度成分(Y成分)には影響せず、解像感の劣化も起こさない。
また、エイリアス信号の周波数が低いときは、色差ノイズリダクション処理の効果は低くなる。エイリアス信号の周波数が低い画像に対して、色差ノイズリダクション処理を実行した場合と、実行しなかった場合の撮影画像の例を図4に示す。図4は、光源を太陽光として、一般的な建造物の外壁を被写体とした別の画像の例である。図4においてF列に示す画像は、色差ノイズリダクション処理を実行しないで撮影した画像の例である。また、図4において、G列に示す画像は、色差ノイズリダクション処理を実行して撮影した画像の例である。また、図4は、F列とG列に例示した画像の、それぞれの、Y成分(H行)、Cb成分(I行)、Cr成分(J行)を、それぞれ対比して示している。
色差ノイズリダクション処理を実行しない場合は、Cb成分(F列I行)とCr成分(F列J行)の画像に、縞々の色モアレが生じている。色差ノイズリダクション処理を実行した場合は、Cb成分(G列I行)とCr成分(G列J行)の画像において、低周波な色モアレに対しては、色差ノイズリダクション処理の効果は発揮されず、十分に除去できていない。
ノイズリダクション強度を極端に上げれば、図4に示すような画像においても色モアレを除去するはできるが、正常にサンプリングされた被写体に色滲み等の副作用が生じてしまうため、画像が劣化する要因となる。そこで、低い周波数の色モアレを完全に除去するには、Cb/Cr成分を縮小して色差ノイズリダクション処理を行うか、画像信号に対し高速フーリエ変換処理を行なって周波数空間に変換し、エイリアス信号の周波数領域にマスク処理を行えばよい。しかし、マスク処理を併用した場合であっても、正常にサンプリングされている画像領域に対する影響が生じ、また、高速フーリエ変換処理に専用ハードウェアを用いなければ、実用的な処理をすることもできない。そこで、低周波数の色モアレが生じる可能性がある画像領域のみにマスク処理を実行し、その画像領域に対して、強力な色差ノイズリダクション処理を実行すればよい。
●マルチAFによる撮像方法
次に、本発明に係る撮像方法の別の実施の形態について図5のフローチャートを用いて説明する。本実施の形態のコントラストAFの方式は、複数の画像領域に対してコントラストAFを実行するマルチAFを例としている。マルチAFとは、第1分割部と、第1算出部とを有するコントラストデータ算出手段によって、コントラストデータが算出される方式である。第1分割部は、デジタル画像データを複数の画像領域に分割する。第1算出部は、分割された各画像領域内の画像データに基づいて、コントラストデータを算出するすなわち、マルチAFでは、各画像領域において算出されたコントラストデータを用いて、各画像領域におけるピーク位置が判定され、合焦位置が判定される。また、本実施の形態は、色データの算出においても同様である。すなわち、デジタル画像データを複数の画像領域に分割する第2分割部と、分割された各画像領域内の画像データに基づいて、色データを算出する第2算出部と、を有する色データ算出手段によって、画像領域ごとの色データが算出される。各画像領域において算出された色データを用いて、各画像領域におけるピーク位置が判定される。なお、第1分割部と第2分割部におけるデジタル画像データの分割は、同様の処理である。
なお、本実施の形態に係る色モアレ判定処理は、色差成分データとホワイトバランスデータのいずれを用いてもよいが、ここでは、色差成分データを用いることにする。
まず、コントラストAF開始と共にスキャン開始位置に光学レンズ5を移動させる(S201)。コントラストAFの開始のトリガーは、例えば、デジタルカメラ100が備えるシャッターボタン(不図示)のユーザによる「半押し」とする。光学レンズ5が所定の移動を完了すると、次いで画像データを取得する(S202)。ここで、取得された画像データに含まれる画像領域のうち、コントラストデータと色データの算出を行う画像領域は予め複数設定されている。そこで、設定されている画像領域の全てにおいて、コントラストデータと色差成分データを算出するために、ループ処理をカウントする変数[i]が初期化される(S203)。
次いで、画像領域[i](i=0〜N)から取得された画像データに対してコントラストデータ[i]が算出され(S204)、合わせて画像信号処理部22において、色差成分データ[i]が算出される(S205)。コントラストデータ[i]と色差成分データ[i]が算出された後、ループ変数iに「1」を加算する(S206)。次いで、ループ変数iが予め規定されている画像領域の数[N]になっているか否かを判定する(S207)。ループ変数iがNと同値でなければ(S207のNO)、コントラストデータ[i]の算出(S204)と、色差成分データの算出(S205)とを繰り返して実行する。
ループ変数iがNと同値であれば(S207のYES)、CPU28において、コントラストデータ[i](i=0〜N−1)と、色差成分データ[i](i=0〜N−1)のピーク位置算出処理が行なわれる(S208)。以上の処理を、光学レンズ5のコントラストデータ算出範囲に至るまで、光学レンズ5を移動させながら処理S202からS209を繰り返し実行する(S209のNO)。コントラストデータ[i](i=0〜N−1)を算出するための光学レンズ5の移動端に光学レンズ5が到達したときは、コントラストAF処理が終了したと判定する(S209のYES)。
次いで、処理S208で算出されたコントラストデータ[i](i=0〜N−1)のピーク位置である第1レンズ位置P1[i](i=0〜N−1)を用いて、最終的な合焦位置である第1レンズ位置P1´を算出する(S210)。第1レンズ位置P1´が算出されなければ(S211のNO)、当該画像データの元になる被写体には高周波成分が含まれている可能性が低いか、単に合焦位置が特定できないので、色モアレは発生しないと判定される(S218)。
第1レンズ位置P1´が算出された場合(S211のYES)、色差成分データ[i]において、ピーク位置である第2レンズ位置P2[i](i=0〜N−1)が存在するか否かを判定する。まず、ループ処理をカウントする変数[i]が初期化される(S212)。
次いで、色差成分データ[i](i=0〜N−1)において、第2レンズ位置P2[i](i=0〜N−1)が存在するか否かを判定する処理が実行される(S213)。色差成分データ[i]に第2レンズ位置P2[i]が存在しなければ(S213のNO)、ループ変数[i]に1を加算する(S216)。次いで、加算されたループ変数[i]が、予め規定されている画像領域の数[N]になっているか否かを判定する(S217)。加算されたループ変数[i]が、予め規定されている画像領域の数[N]になっていれば(S217のYES)、第2レンズ位置P2[i](i=0〜N)は存在しないことになる。この場合、当該画像データには色モアレが折り返し成分として含まれている可能性が極めて低いので、色モアレは発生しないと判定される(S218)。
色差成分データ[i](i=0〜N−1)において、第2レンズ位置P2[i](i=0〜N−1)が存在すると判定されたとき(S213のYES)、光学レンズ5の合焦位置となる第1レンズ位置P1´と色差成分データのピーク位置である第2レンズ位置P2[i]との差分の絶対値が算出される。この算出された差分の絶対値が、任意の閾値Thよりも小さいか否かを判定する処理が実行される(S214)。
閾値Thよりも大きいと判定されたときは(S214のNO)、処理S216を実行する。閾値Thよりも小さいと判定されたときは(S214のyes)、コントラストデータのピーク位置である第1レンズ位置P1´の近くに、色差成分データのピーク位置である第2レンズ位置P2[i](i=0〜N−1)があることになる。この場合は、色モアレが発生する可能性が極めて高くなるので、色モアレが発生する可能性があると判定される(S215)。なお、閾値Thの値は任意でよい。例えば第1レンズ位置P1に対する被写界深度から決めればよい。
色モアレが発生する可能性があると判定されたときは(S215)、色モアレを抑止または低減する処理が実行されればよい。例えば、LCD9に「色モアレが発生します」という警告表示を行えばよい。
また、デジタルカメラ100が、色モアレを抑制するパラメータを切り替える画像処理手段(不図示)を備えている場合は、色モアレが発生する可能性があると判定されたときには(S215)、色モアレを抑制する処理を行えばよい。この場合、例えば、得られたコントラストデータの第1レンズ位置P1[i](i=0〜N)の中から、色差成分データの第2レンズ位置P2[i](i=0〜N)までの距離が大きいピーク位置を第1レンズ位置P1として撮影処理を行えばよい。または、第1レンズ位置P1[i](i=0〜N)の中から、複数の第1レンズ位置P1[i](iは任意)の候補を選択して、ブラケット撮影を行なえばよい。または、第1レンズ位置P1´の近傍においてピークが存在する色差成分データ[i]に対応する画像領域に対し、マスク処理を行なって、該当画像領域にのみ色差ノイズリダクション処理を実行してもよい。また、マスク処理が行われなかった画像領域以外の画像領域に対しては、色モアレが生じないパラメータに切り替えて画像処理を行えばよい。
以上説明したデジタルカメラ100によれば、光学ローパスフィルタを搭載することなく、色モアレの発生を検知することができる。デジタルカメラ100は、画像信号処理部22において実行される画像処理によって生成されるコントラストデータと色データに基づいて色モアレの発生を検知することができる。デジタルカメラ100は、光学ローパスフィルタを搭載しないことで、デジタルカメラ100の薄型化を図ることができ、また、部品点数を削減することで製造コストを抑えることもできる。
さらに、光学ローパスフィルタを用いることなく色モアレの抑制をすることができるので、光学レンズ5の解像特性を発揮させることができ、画質の良い画像を記録することができる。
●動画像における色モアレ削減処理
次に、本発明に係る撮像装置のさらに別の実施の形態について説明する。図1に示したデジタルカメラ100が、動画撮像手段(不図示)を備えている場合、スルー画を表示しているとき、および、動画撮影を実行しているときに、AF処理が実行される。このAF処理において、すでに説明をした実施の形態における色モアレ判定処理および、色モアレを抑制する処理を実行することで、動画像の撮像(記録)処理においても、色モアレを抑制または低減させることができる。
以上のように、本発明に係る撮像装置によれば、光学ローパスフィルタを用いることなく、光学レンズの解像特性を発揮させて、画質の良い画像を撮像することができる。
5 光学レンズ
22 画像処理部
29 RAW−RGB処理部29
36 YUV変換部
特許第4364078号明細書

Claims (9)

  1. 光学レンズと、上記光学レンズを介して被写体像を結像させる受光面を備える撮像素子と、を有し、上記撮像素子から出力される画像信号から画像データを生成して記録する撮像装置であって、
    上記画像データに基づくコントラストデータを算出するコントラストデータ算出手段と、
    上記画像データに基づく色データを算出する色データ算出手段と、
    上記コントラストデータに基づいて、被写体像を上記受光面に合焦させる上記光学レンズの第1レンズ位置を決定する第1レンズ位置決定手段と、
    上記色データに基づいて、上記色データがピークになる上記光学レンズの第2レンズ位置を決定する第2レンズ位置決定手段と、
    上記第1レンズ位置と上記第2レンズ位置との差分を算出し、上記差分と予め規定された閾値とを比較する判定手段と、を有し、
    上記判定手段は、上記差分が上記閾値よりも小さいとき、色モアレが生じると判定する、
    ことを特徴とする撮像装置。
  2. 上記色データは、上記画像データの色差成分評価値である、請求項1記載の撮像装置。
  3. 上記色データは、上記画像データのホワイトバランスデータである、請求項1記載の撮像装置。
  4. 上記コントラストデータ算出手段は、上記画像データを複数の画像領域に分割する第1分割部と、上記第1分割部に分割された上記複数の画像領域それぞれの上記コントラストデータを算出する第1算出部と、を有し、
    上記色データ算出手段は、上記画像データを複数の画像領域に分割する第2分割部と、上記第2分割部に分割された上記複数の画像領域それぞれの上記色データを算出する第2算出部と、を有する、
    請求項1乃至3のいずれかに記載の撮像装置。
  5. 画像処理に用いるパラメータを切り替える画像処理切替手段を有し、
    上記判定手段が色モアレが生じると判定したとき、上記画像処理切替手段は、パラメータを切り替えて色モアレが生じないように画像処理を実行する、
    請求項1乃至4のいずれかに記載の撮像装置。
  6. 上記画像データの任意の画像領域ごとにマスク処理をするマスク処理手段を有し、
    上記マスク処理手段は、上記判定手段により色モアレが生じないと判定された上記画像領域に対してマスク処理をし、
    上記画像処理切替手段は、上記マスク処理がされた画像領域以外の画像領域に対する上記パラメータを、色モアレが生じないパラメータに切り替える、
    請求項5記載の撮像装置。
  7. 上記コントラストデータのピーク位置が複数あるとき、各ピーク位置を上記第1レンズ位置として撮像する請求項1乃至6のいずれかに記載の撮像装置。
  8. 上記画像データは動画像である、請求項1乃至7のいずれかに記載の撮像装置。
  9. 光学レンズと、上記光学レンズを介して被写体像を結像させる受光面を備える撮像素子と、を有し、上記撮像素子から出力される画像信号から画像データを生成して記録する撮像装置において実行される撮像方法であって、
    上記撮像装置は、上記画像データに基づくコントラストデータを算出するコントラストデータ算出手段と、上記画像データに基づく色データを算出する色データ算出手段と、上記コントラストデータに基づいて、被写体像を上記受光面に合焦させる第1レンズ位置を決定する第1レンズ位置決定手段と、上記色データに基づいて、上記色データがピークになる第2レンズ位置を決定する第2レンズ位置決定手段と、上記第1レンズ位置と上記第2レンズ位置との差分を算出し、上記差分と予め規定された閾値とを比較する判定手段と、を有し、
    上記コントラストデータ算出手段が、上記コントラストデータを算出するステップと、
    上記色データ算出手段が、上記色データを算出するステップと、
    上記第1レンズ位置決定手段が、上記コントラストデータがピークになる上記第1レンズ位置を決定するステップと、
    上記第2レンズ位置決定手段が、上記色データがピークになる上記第2レンズ位置を決定するステップと、
    上記判定手段が、
    上記第1レンズ位置と上記第2レンズ位置の差分を算出するステップと、
    上記差分が予め規定された閾値を超えているか否かを判定する判定ステップと、
    上記判定ステップにおいて、上記差分が上記閾値よりも小さいと判定されたとき、色モアレが生じると判定するステップと、
    が実行されることを特徴とする撮像方法。
JP2013061779A 2012-08-06 2013-03-25 撮像装置および撮像方法 Expired - Fee Related JP6195055B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013061779A JP6195055B2 (ja) 2012-08-06 2013-03-25 撮像装置および撮像方法
EP13176907.7A EP2696584B1 (en) 2012-08-06 2013-07-17 Image capturing device and image capturing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012174327 2012-08-06
JP2012174327 2012-08-06
JP2013061779A JP6195055B2 (ja) 2012-08-06 2013-03-25 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2014053883A true JP2014053883A (ja) 2014-03-20
JP6195055B2 JP6195055B2 (ja) 2017-09-13

Family

ID=48856495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013061779A Expired - Fee Related JP6195055B2 (ja) 2012-08-06 2013-03-25 撮像装置および撮像方法

Country Status (2)

Country Link
EP (1) EP2696584B1 (ja)
JP (1) JP6195055B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016167728A (ja) * 2015-03-10 2016-09-15 リコーイメージング株式会社 画像検出装置、画像検出方法及び撮影装置
US10354367B2 (en) 2015-07-27 2019-07-16 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, image processing program, and storage medium

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111191550B (zh) * 2019-12-23 2023-05-02 初建刚 一种基于图像锐度自动动态调整的视觉感知装置及方法
CN114449150A (zh) * 2020-10-30 2022-05-06 中兴通讯股份有限公司 拍摄方法、装置、终端及计算机可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63100878A (ja) * 1986-10-17 1988-05-02 Fuji Photo Film Co Ltd 電子スチルカメラ
JPH03231382A (ja) * 1990-02-07 1991-10-15 Brother Ind Ltd 画像読み取り装置
JPH06197260A (ja) * 1992-12-25 1994-07-15 Canon Inc 撮像装置
JPH10200904A (ja) * 1997-01-09 1998-07-31 Olympus Optical Co Ltd 自動合焦装置
JP4364078B2 (ja) * 2004-06-30 2009-11-11 イーストマン コダック カンパニー 撮像方法及び撮像装置
JP2010068465A (ja) * 2008-09-12 2010-03-25 Canon Inc 画像処理装置、撮像装置及び画像処理方法
JP2011109496A (ja) * 2009-11-19 2011-06-02 Nikon Corp 撮像装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5121445A (en) * 1986-07-01 1992-06-09 Konica Corporation Method and apparatus for reading image
US5173788A (en) * 1990-02-07 1992-12-22 Brother Kogyo Kabushiki Kaisha Image reading device having moire depressing unit
KR100976284B1 (ko) * 2007-06-07 2010-08-16 가부시끼가이샤 도시바 촬상 장치

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63100878A (ja) * 1986-10-17 1988-05-02 Fuji Photo Film Co Ltd 電子スチルカメラ
JPH03231382A (ja) * 1990-02-07 1991-10-15 Brother Ind Ltd 画像読み取り装置
JPH06197260A (ja) * 1992-12-25 1994-07-15 Canon Inc 撮像装置
JPH10200904A (ja) * 1997-01-09 1998-07-31 Olympus Optical Co Ltd 自動合焦装置
JP4364078B2 (ja) * 2004-06-30 2009-11-11 イーストマン コダック カンパニー 撮像方法及び撮像装置
JP2010068465A (ja) * 2008-09-12 2010-03-25 Canon Inc 画像処理装置、撮像装置及び画像処理方法
JP2011109496A (ja) * 2009-11-19 2011-06-02 Nikon Corp 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016167728A (ja) * 2015-03-10 2016-09-15 リコーイメージング株式会社 画像検出装置、画像検出方法及び撮影装置
US10354367B2 (en) 2015-07-27 2019-07-16 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, image processing method, image processing program, and storage medium

Also Published As

Publication number Publication date
EP2696584A3 (en) 2015-03-11
EP2696584B1 (en) 2017-09-13
JP6195055B2 (ja) 2017-09-13
EP2696584A2 (en) 2014-02-12

Similar Documents

Publication Publication Date Title
JP4315971B2 (ja) 撮像装置
US9113059B2 (en) Image pickup apparatus and image region discrimination method
US20100157079A1 (en) System and method to selectively combine images
JP5830186B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2012044564A (ja) 撮像装置
US20180182075A1 (en) Image processing apparatus, image capturing apparatus, method of image processing, and storage medium
JP2010239492A (ja) 撮像装置および映像信号のノイズ低減方法
JP2018093257A (ja) 撮像装置
JP6195055B2 (ja) 撮像装置および撮像方法
JP6230760B1 (ja) 撮像装置、画像処理装置、画像処理方法および画像処理プログラム
JP2008209577A (ja) カメラ
JP5159715B2 (ja) 画像処理装置
JP2009055471A (ja) 画像処理装置、画像処理方法、及び撮像装置
US9503661B2 (en) Imaging apparatus and image processing method
JP5291788B2 (ja) 撮像装置
US10235742B2 (en) Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium for adjustment of intensity of edge signal
JP2012134745A (ja) 画像信号処理装置
JP2012133112A (ja) 撮像装置および撮像方法
JP2012109826A (ja) 撮像装置、画像処理装置および撮像方法
US9648226B2 (en) Image capture apparatus and control method thereof
JP2016095416A (ja) 焦点調節装置、撮像装置、焦点調節装置の制御方法、及びプログラム
JP6017641B1 (ja) 撮像装置,信号処理方法,信号処理プログラム
JP6029464B2 (ja) 撮像装置、その制御方法、および制御プログラム
WO2020044835A1 (ja) 信号処理装置、信号処理方法、信号処理プログラムおよび撮像装置
JP2010239493A (ja) 撮像装置および映像信号の補正処理方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140404

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170801

R151 Written notification of patent or utility model registration

Ref document number: 6195055

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees