JP5772849B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5772849B2
JP5772849B2 JP2013046733A JP2013046733A JP5772849B2 JP 5772849 B2 JP5772849 B2 JP 5772849B2 JP 2013046733 A JP2013046733 A JP 2013046733A JP 2013046733 A JP2013046733 A JP 2013046733A JP 5772849 B2 JP5772849 B2 JP 5772849B2
Authority
JP
Japan
Prior art keywords
image
acquired
change
unit
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013046733A
Other languages
English (en)
Other versions
JP2013148915A (ja
Inventor
直人 細矢
直人 細矢
福岡 啓覚
啓覚 福岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013046733A priority Critical patent/JP5772849B2/ja
Publication of JP2013148915A publication Critical patent/JP2013148915A/ja
Application granted granted Critical
Publication of JP5772849B2 publication Critical patent/JP5772849B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Details Of Cameras Including Film Mechanisms (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)

Description

本発明は、被写体を撮像する撮像装置に関し、特に自動的に所望の被写体に焦点を合わせる技術に関するものである。
被写体を撮像装置で撮影する際、シャッタボタンを押すことにより被写体に焦点合わせを行う。しかし、所定時間後に撮影を自動的に開始する、いわゆるセルフタイマ機能を使用した場合、シャッタボタンを押してタイマのカウントを開始すると、まだ被写体が存在しない風景に焦点が合ってしまう。
また、予め所定の距離に焦点を固定して撮像したとしても、その合わせた距離に被写体を存在させることは容易ではない。
そこで、例えば特許文献1には、セルフタイマ動作時に補助光を被写体に照射し、焦点を合わせる距離を測定する技術が開示されている。
特開2004−274619号公報
しかしながら、上記特許文献1に記載された技術では、焦点を合わせる被写体を特定することが困難なため、被写体の背後の風景などに焦点が合う虞があった。
本発明は、上記問題点を解消するためになされたものであり、目的の被写体に焦点を合わせることができる撮像装置を提供することを目的とする。
上記課題を解決するために、本発明に係る撮像装置は、画像を取得する画像取得部と、上記画像取得部により取得された時刻が異なる第1の画像と第2の画像とを比較し、画素値の差に基づく変化領域を検出し、当該変化領域に焦点を合わせる制御部とを備えユーザ操作から所定時間後に撮像動作を開始するセルフタイマモードに切り替えられた場合に、上記制御部は、セルフタイマのカウントダウン開始を指示するシャッタボタンが押下された際に上記画像取得部により取得された第1の画像とセルフタイマの所定の時間経過後に上記画像取得部により取得された第2の画像の比較を行い、上記制御部は、画素値の差に基づく変化がないと判断した場合には上記第1の画像で合わせた焦点で撮影を行い、上記シャッタボタンが押下された際に取得された上記第1の画像で合わせた焦点で撮影を行った旨の通知を行うことを特徴としている。
本発明によれば、時刻が異なる第1の画像と第2の画像とを比較することにより変化部分を検出し、その変化部分に焦点を合わせるようにしたため、例えばタイマ機能により自動的に撮影しても目的の被写体に焦点が合った画像を得ることができる。
本発明の一実施形態における撮像装置の構成を示すブロック図である。 本発明の一実施形態における撮像動作を示すフローチャートである。 画像Aの一例を示す図である。 画像Bの一例を示す図である。 画像Cの一例を示す図である。 比較する領域を指定する画像例を示す図である。 比較する範囲が区切られた画像Aの例を示す図である。 比較する範囲が区切られた画像Bの例を示す図である。
以下、本発明の具体的な実施の形態について、図面を参照しながら詳細に説明する。本発明は、例えば図1に示すような撮像装置1に適用される。この撮像装置1は、被写体を撮像する撮像部10を備え、この撮像部10は、被写体からの像光を結像させるためのレンズ10aと、レンズ10aを介して入射される像光を遮光する図示しないシャッタ羽根等により絞り量を調整する絞り駆動部10bと、入力される被写体像に基づき電気的な撮像信号C1を生成するCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ11とを有している。なお、本実施の形態では、CMOSイメージセンサ11を用いることとするが、CCD(Charge Coupled Device)イメージセンサを用いることとしてもよい。
この撮像装置1は、CMOSイメージセンサ11により生成された撮像信号C1のばらつきを補償するためのCDS(Correlated Double Sampling)回路12と、CDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理するA/D変換部13と、このA/D変換部13から供給されるデジタル化した撮像信号C2としての画像データを一時的に格納し、これに所定の処理を施すディジタルシグナルプロセッサ(DSP)15と、接続されたDSP15からの画像データを符号化するコーデック処理部16と、このコーデック処理部16から供給される画像データを格納するメモリ17とを備えている。
この撮像装置1は、DSP15から供給される画像データをデジタル/アナログ変換処理して出力するD/A変換部18と、このD/A変換部18からの画像データをビデオ信号に変換するビデオエンコーダ部19と、ビデオエンコーダ部19に接続されてなり、上述のビデオ信号に基づく画像をユーザに表示するためのモニタ部20とを備え、またこの撮像装置1は、接続された内部バス14を介して撮像装置1全体を制御するためのCPU(Central Processing Unit)21と、内部バス14に接続されてなりユーザが各種操作を実行するための操作部22と、CPU21から内部バス14を介して送られる制御信号に基づき、CMOSイメージセンサ11からDSP15に至るまでの信号処理系を制御するタイミングジェネレータ23とを備えている。
撮像部10は、CPU21から供給された動作信号に基づき、自動絞り制御動作や自動焦点制御動作等を実行する。また操作部22を介して入力される絞り値に応じて、図示しないシャッタ羽根を開閉させることにより絞り量を調整する。
CMOSイメージセンサ11は、レンズ部10a並びに絞り駆動部10bを介して入射される被写体像を電気信号に変換した撮像信号C1を生成し、これをCDS回路12へ出力する。なお、このCMOSイメージセンサ11は、撮像面上に結像された被写体像のうち一部の領域を選択し、当該領域の画素値のみを効率よく読み出すことができる。
CDS回路12は、CMOSイメージセンサ11から供給される撮像信号C1の雑音を相関二重サンプリング回路を用いて除去し、或いはゲインを増幅させるための処理を施し、これを撮像信号C2としてA/D変換部13へ出力する。A/D変換部13は、このCDS回路12から供給される撮像信号C2をアナログ/デジタル変換処理し、これをDSP15へと出力する。ちなみに、このCDS回路12及びA/D変換部13における各動作タイミングは、一定のフレームレートで画像取り込みを継続すべく、タイミングジェネレータ23により制御される。
DSP15は、ともに図示しない信号処理用プロセッサと、画像用RAMとを有するブロックである。A/D変換部13からの撮像信号C2で表される画像は、タイミングジェネレータ23による制御の下、一定のフレームレートで構成されるストリームデータとして供給され、この画像用RAMに一時的に格納される。図示しない信号処理用プロセッサは、この画像用RAMに格納される画像に対して、予めプログラムされた画像処理を施すための設定がなされている。この図示しない画像用RAMにおいて画像処理された画像は、コーデック処理部16とD/A変換部18の何れか、或いは双方へ送信される。
コーデック処理部16は、DSP15から送信された画像につき、所定の方式でデータ量を圧縮する。ここでは、JPEG(Joint Photographic Experts Group)等の規格に基づいて圧縮符号化してもよい。
メモリ17は、コーデック処理部16において圧縮処理された画像データを所定のアドレスに記録するための媒体である。このメモリ17は、画像を比較するために一時的に画像データを記憶するものである。
モニタ部20は、D/A変換部18においてアナログ信号に変換され、さらにビデオエンコーダ部19においてビデオ信号に変換された画像を表示する。このモニタ部20は、ユーザ自身が撮像処理を実行しつつリアルタイムに撮影内容の確認ができるように、撮像装置1の筐体側面等に設けられる液晶表示素子等で構成してもよい。
CPU21は、内部バス14を介して、実行すべき制御プログラムを格納するROMやデータの蓄積や展開等に使用する作業領域としてのDRAM等が接続され、撮像装置1全体を制御する中央演算ユニットとしての役割を担う。CPU21は、操作部22から供給される操作信号D1に基づいて、動作信号を生成し、内部バス14を介して動作信号を撮像部10へ送信する。
操作部22は、撮影画角や撮影方向をユーザが自由に調整するため、或いは撮像部10における絞り値や露出時間を自由に調整するためのキー等で構成される。この操作部22は、ユーザにより入力された情報に応じた操作信号D1を生成し、内部バス14を介して操作信号D1をCPU21へ送信する。さらに、この操作部22は、シャッタボタン221を有し、ユーザによるシャッタボタン221の押圧入力操作に基づいて、撮像を開始又は停止する旨の操作信号D1を生成し、内部バス14を介して操作信号D1をCPU21へ送信する。また、図示していないモード切替ボタンを有し、これにより、例えば所定時間後に撮像動作を開始する、いわゆるセルフタイマモードに切り替えることができる。
外部メモリ24は、例えば半導体メモリ、磁気記録媒体、光磁気記録媒体等で構成されている。この外部メモリ24を着脱自在な記録媒体として構成することにより、撮像した画像を他のPC等に移し換えてこれを鑑賞し、又は各種検索や処理を実行することができる。
上述の如き構成からなる撮像装置1により撮像された被写体像は、CMOSイメージセンサ11において電気信号に変換されて撮像信号C1となり、CDS回路12により雑音を除去されて撮像信号C2となり、更にはA/D変換部13においてアナログ/デジタル変換処理される。また、この撮像信号C2で示される画像は、DSP15における図示しない画像用RAMに格納され、所定の画像処理が施された後、D/A変換部18によりデジタル/アナログ変換処理されてモニタ部20において表示され、或いはコーデック処理部16により符号化されてメモリ17に記録されることになる。
続いて、本実施の形態における撮像装置の動作について図2及び図3を参照して説明する。なお、ここでは、所定時間後に撮影を自動的に開始する、いわゆるセルフタイマ機能を用いて、ユーザが自分自身を撮影する場合を想定して説明するが、これに限られる物ではない。
まず、ユーザは操作部22に設けられた図示しないモード切替ボタンにより、いわゆるセルフタイマモードを選択する。このセルフタイマモードにより、周りの景色と撮影者自身を撮影することができる。
撮影者は、好みの風景が収まるように画角を決定する。その後、シャッタボタン221を押すことにより、撮像装置1のセルフタイマのカウントダウンが開始される。
シャッタボタン221が押されると(ステップS11)、CPU21は、CMOSイメージセンサ11を介して得られた画像Aをメモリ17に記憶する(ステップS12)。この画像Aには、図3に示す画像のように目的の被写体である撮影者が入っていない。その後、予め決められた所定時間が経過した後(ステップS13)、CPU21は、画像Bを取得し、メモリ17に記憶する(ステップS14)。この所定時間の間に撮影者は、自身が決定した画角の所望の位置に移動する。したがって、メモリ17に記憶された画像は、例えば図4に示すように図3に示す撮影者が写ったものとなる。
ステップ15では、ステップS12にて記憶した画像AとステップS14にて記憶した画像Bとを比較する(ステップS15)。この比較は、例えば輝度に応じて0から255の値をとる画素値に基づいて行われ、画素値が所定の閾値以上の差がある画素を検出し、変化部分を求める。
ステップS16では、ステップS15にて比較した結果、変化が生じた領域の被写体に焦点を合わせる。この焦点合わせは、CPU21からの動作信号に基づいて撮像部10により行なわれる。焦点が合うとシャッタを切り、CPU21は画像Cを外部メモリ24に格納する(ステップS17)。また、この画像Cを撮像する際、被写体である撮影者に焦点が合ったことを通知する。この画像Cは、例えば図5に示すような画像となり、画像Bよりも被写体である撮影者に焦点が合っているものである。
このように、撮像時間が異なる画像Aと画像Bとを比較し、変化が生じた部分に焦点を合わせるようにすることにより、目的の被写体を特定することができるため、所望の画像を得ることができる。
なお、ステップS14における画像Bを取得する時間は、ステップS11にてカウントが開始されたセルフタイマの設定に基づいて決定されることが望ましい。すなわち、ステップS13の所定時間は、セルフタイマの設定時間に応じて決定されることが望ましい。例えば、セルフタイマが終了する直前に画像Bを取得し、画像Aと比較することにより、シャッタが切られるセルフタイマの終了時間の直前に焦点合わせが行われるようになるため、例えば移動する被写体でも鮮明な画像を得ることができる。
また、ステップS15において、撮影時刻が異なる画像Aと画像Bとを比較した結果、変化領域を検出できなかった場合、再び所定時間後に画像を取得するようにし、比較した画像に変化が生じるまで、画像を記憶する動作を繰り返すようにしてもよい。
また、セルフタイマモードで設定する時間内、すなわち、シャッタボタン221を押してから、シャッタを切るまでの時間内に変化が生じなかった場合は、ステップ12にて記憶された画像Aで合わせた焦点で撮影を行い、このことを撮影者に通知するようにしてもよい。
また、撮影時刻が異なる画像Aと画像Bとの比較において、変化が生じた領域が複数の場合、最も変化した領域面積が大きい部分に焦点を合わせるようにしてもよい。
また、予め比較する領域を決定し、その領域内の画像Aと画像Bとを比較するようにしてもよい。例えば、撮影者が操作部22を操作し、図6に示すように比較する領域を入力しておく。撮像装置1は、撮影者が設定したマークの位置をメモリ17に記憶し、上記動作を行う。この場合、ステップS15における画像Aと画像Bとの比較は、予め指定されたマーク領域のみを行えばよいこととなる。ここで、予め指定されたマーク領域に被写体が入った場合、すなわち、画像Aと画像Bとの比較によりマーク領域に変化が生じた場合、撮像装置1は、そのことを被写体である撮影者に通知してもよい。これにより、撮影者は、設定したマーク領域に被写体である撮影者が写った所望の構図の画像を得ることができる。さらに、変化領域を検出する計算を低減することができる。また、通行人、鳥、雲等の目的の被写体以外のものに焦点が合うことを防ぐことができる。
また、図7に示すように予め比較する領域が区切られた画像を撮影者に提示し、例えば、領域の番号を選択させるようにしてもよい。例えば、5番と8番の領域を選択した場合、5番と8番の領域内で変化した部分、すなわち、図7と図8の画像を5番と8番の領域内のみ比較すればよい。そして、この領域内の変化部分、すなわち、図8の画像の5番と8番の領域に存在するようになった被写体に焦点を合わせる。
また、撮影時刻が異なる画像Aと画像Bとの比較において、撮影者の顔や体の特徴を予め記憶させておき、記憶した情報に基づいて撮影者に焦点を合わせるようにしてもよい。例えば、被写体である撮影者の顔を認識する場合、本件出願人が出願した特開平2003−271958号公報や特開平2004−302644号公報に記載された技術を用いることができる。すなわち、画像から顔画像を検出し、この顔画像から顔特徴情報を検出し、予め登録しておいた被写体である撮影者の顔画像の顔特徴情報と比較し、被写体を特定する。これにより、セルフタイマモードで撮影しても確実に目的の被写体である撮影者に焦点を合わせることができる。
1 撮像装置、10 撮像部、11 CMOSイメージセンサ、12 CDS回路、13 A/D変換部、14 内部バス、15 DSP、16 コーデック処理部、17 メモリ、18 D/A変換部、19 ビデオエンコーダ部、20 モニタ部、21 CPU、22 操作部、23 タイミングジェネレータ

Claims (16)

  1. 画像を取得する画像取得部と、
    上記画像取得部により取得された時刻が異なる第1の画像と第2の画像とを比較し、画素値の差に基づく変化領域を検出し、当該変化領域に焦点を合わせる制御部とを備え
    ユーザ操作から所定時間後に撮像動作を開始するセルフタイマモードに切り替えられた場合に、上記制御部は、セルフタイマのカウントダウン開始を指示するシャッタボタンが押下された際に上記画像取得部により取得された第1の画像とセルフタイマの所定の時間経過後に上記画像取得部により取得された第2の画像の比較を行い、
    上記制御部は、画素値の差に基づく変化がないと判断した場合には上記第1の画像で合わせた焦点で撮影を行い、上記シャッタボタンが押下された際に取得された上記第1の画像で合わせた焦点で撮影を行った旨の通知を行う撮像装置。
  2. 上記制御部は、画素値の差が閾値以上の変化領域を検出する請求項1記載の撮像装置。
  3. 上記制御部は、上記変化領域の面積が最も大きい部分に焦点を合わせる請求項1又は2に記載の撮像装置。
  4. 上記制御部は、入力部により指定された範囲内で上記第1の画像と上記第2の画像を比較し上記変化領域を検出する請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 顔を検出する顔検出部を備え、
    上記顔検出部で検出された顔と予め記憶された顔を比較し焦点を合わせる対象を特定する請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 上記制御部は、上記第1の画像と第2の画像を比較した結果、変化領域を検出できなかった場合には再び所定時間後に画像を取得する請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 上記制御部は、上記取得した画像と上記第1の画像を比較し変化領域を検出する請求項6記載の撮像装置。
  8. 上記画素値は輝度情報である請求項1乃至のいずれか1項に記載の撮像装置。
  9. 画像を取得する画像取得工程と、
    撮像した時刻が異なる第1の画像と第2の画像とを比較し、画素値の差に基づく変化領域を検出し、焦点合わせをおこなう領域が当該変化領域であると判断する制御工程とを有し、
    上記制御工程は、ユーザ操作から所定時間後に撮像動作を開始するセルフタイマモードに切り替えられた場合に、セルフタイマのカウントダウン開始を指示するシャッタボタンが押下された際に上記画像取得部により取得された第1の画像とセルフタイマの所定の時間経過後に上記画像取得部により取得された第2の画像の比較を行い、画素値の差に基づく変化がないと判断した場合には上記第1の画像で合わせた焦点で撮影を行い、上記シャッタボタンが押下された際に取得された上記第1の画像で合わせた焦点で撮影を行った旨の通知を行う情報処理方法。
  10. 上記制御工程では、画素値の差が閾値以上の変化領域を検出する請求項記載の情報処理方法。
  11. 上記制御工程では、上記変化領域の面積が最も大きい部分に焦点を合わせる請求項又は10に記載の情報処理方法。
  12. 上記制御工程では、入力部により指定された範囲内で上記第1の画像と上記第2の画像を比較し上記変化領域を検出する請求項乃至11のいずれか1項に記載の情報処理方法。
  13. 顔を検出する顔検出工程を有し、
    上記顔検出工程で検出された顔と予め記憶された顔を比較し焦点を合わせる対象を特定する請求項9乃12のいずれか1項に記載の情報処理方法。
  14. 上記制御工程は、上記第1の画像と第2の画像を比較した結果、変化領域を検出できなかった場合には再び所定時間後に画像を取得する請求項乃至13のいずれか1項に記載の情報処理方法。
  15. 上記制御工程は、上記取得した画像と上記第1の画像を比較し変化領域を検出する請求項14記載の情報処理方法。
  16. 上記画素値は輝度情報である請求項乃至15のいずれか1項に記載の情報処理方法。
JP2013046733A 2013-03-08 2013-03-08 撮像装置 Expired - Fee Related JP5772849B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013046733A JP5772849B2 (ja) 2013-03-08 2013-03-08 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013046733A JP5772849B2 (ja) 2013-03-08 2013-03-08 撮像装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010182531A Division JP2011008281A (ja) 2010-08-17 2010-08-17 撮像装置

Publications (2)

Publication Number Publication Date
JP2013148915A JP2013148915A (ja) 2013-08-01
JP5772849B2 true JP5772849B2 (ja) 2015-09-02

Family

ID=49046391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013046733A Expired - Fee Related JP5772849B2 (ja) 2013-03-08 2013-03-08 撮像装置

Country Status (1)

Country Link
JP (1) JP5772849B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017034389A (ja) 2015-07-30 2017-02-09 ソニー株式会社 撮像装置、イメージセンサ、および画像処理装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08184881A (ja) * 1995-01-05 1996-07-16 Nikon Corp カメラ
JPH08265740A (ja) * 1995-03-20 1996-10-11 Fujitsu General Ltd カメラ監視装置
JPH08279954A (ja) * 1995-04-04 1996-10-22 Canon Inc 撮像装置
JPH0915482A (ja) * 1995-06-27 1997-01-17 Sankyo Seiki Mfg Co Ltd 自動合焦装置
JP2000284170A (ja) * 1999-04-01 2000-10-13 Nikon Corp 測距装置
JP2001201679A (ja) * 2000-01-20 2001-07-27 Olympus Optical Co Ltd カメラ
JP2002333652A (ja) * 2001-05-10 2002-11-22 Oki Electric Ind Co Ltd 撮影装置及び再生装置
JP2003244520A (ja) * 2002-02-20 2003-08-29 Minolta Co Ltd 撮影装置
JP4096950B2 (ja) * 2005-02-24 2008-06-04 船井電機株式会社 撮像装置および自動撮影方法
JP4635739B2 (ja) * 2005-06-24 2011-02-23 ソニー株式会社 撮像装置

Also Published As

Publication number Publication date
JP2013148915A (ja) 2013-08-01

Similar Documents

Publication Publication Date Title
JP4096950B2 (ja) 撮像装置および自動撮影方法
JP5251215B2 (ja) デジタルカメラ
JP4635739B2 (ja) 撮像装置
US20130016245A1 (en) Imaging apparatus
JP2009100448A (ja) 撮影装置及び撮影方法
JP5635211B2 (ja) 撮像装置
JP2006319596A (ja) 撮像装置および撮像方法
JP2008167295A (ja) 撮像装置及び撮像方法
JP2007215091A (ja) 撮像装置及びそのプログラム
KR20110015309A (ko) 디지털 촬영장치, 그 제어방법 및 이를 실행시키기 위한 프로그램을 저장한 기록매체
JP4127521B2 (ja) ディジタル・カメラおよびその制御方法
JP2003307669A (ja) カメラ
US20150226934A1 (en) Focus adjustment apparatus having frame-out preventive control, and control method therefor
JP2009157123A (ja) 撮像装置
JP5073602B2 (ja) 撮像装置および撮像装置の制御方法
JP2010011253A (ja) 撮影装置
JP2009017427A (ja) 撮像装置
JP5772849B2 (ja) 撮像装置
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP2010062987A (ja) 撮像装置及び方法
JP2010028605A (ja) 撮像装置および撮像装置の制御方法
JP2011124830A (ja) 撮像装置および異物検出方法
JP2010062825A (ja) 撮像装置および撮像制御方法
JP4681899B2 (ja) 撮像装置及び撮像方法
JP2007108093A (ja) 被写体までの距離を測定する装置およびその方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140917

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150318

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150615

R151 Written notification of patent or utility model registration

Ref document number: 5772849

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees