JP6700693B2 - 撮像装置及びその制御方法、プログラム、並びに記憶媒体 - Google Patents

撮像装置及びその制御方法、プログラム、並びに記憶媒体 Download PDF

Info

Publication number
JP6700693B2
JP6700693B2 JP2015177918A JP2015177918A JP6700693B2 JP 6700693 B2 JP6700693 B2 JP 6700693B2 JP 2015177918 A JP2015177918 A JP 2015177918A JP 2015177918 A JP2015177918 A JP 2015177918A JP 6700693 B2 JP6700693 B2 JP 6700693B2
Authority
JP
Japan
Prior art keywords
composition
image
unit
predetermined
self
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015177918A
Other languages
English (en)
Other versions
JP2017055266A (ja
Inventor
一人 寺境
一人 寺境
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015177918A priority Critical patent/JP6700693B2/ja
Publication of JP2017055266A publication Critical patent/JP2017055266A/ja
Application granted granted Critical
Publication of JP6700693B2 publication Critical patent/JP6700693B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)
  • Lens Barrels (AREA)

Description

本発明は、撮影者の自分撮りが可能な撮像装置に関する。
近年、一人旅やSNSの普及によりデジタルスチルカメラやデジタルビデオカメラによる自分撮りの需要が増加している。自分撮りでは、撮影者が決めた理想的な構図で撮影したいが、撮影する際に構図ズレが発生しやすい。
理想的な構図とは、撮影者の視線が撮像部(撮影レンズ)に向いた状態で、撮影者が予め決めた背景で、撮影者と背景が予め決められた位置関係の構図を表し、構図ズレとは、先に述べた理想的な構図ではない状態の構図を表している。
自分撮りでは、表示部を見ながら構図を合わせ、撮像部の方向を見て撮影を行う。この場合、表示部を見た状態では構図に対する意識が高く保持できるが、撮像部に視線を移動させた後は構図に対する意識が低下してしまうため、無意識に手や顔が動いてしまい構図ズレが発生しやすくなる。
自分撮りに関する従来技術として、特許文献1には、表示部に撮影者の映像を表示させないことで、撮影者の関心をなくすように構成された装置が記載されている。
特開2007−116601号公報
しかしながら、上記特許文献1では、表示部に撮影者の映像を表示しないので、撮影者と背景の位置関係を含めた理想的な構図を決めることができないという課題がある。
本発明は、上記課題に鑑みてなされ、その目的は、自分撮りにおいて構図ズレを発生させずに、理想的な構図で撮影を行える技術を実現することである。
上記課題を解決し、目的を達成するために、本発明の撮像装置は、撮影光学系を通過した光束を電気信号に変換して撮像する撮像手段と、画像撮影時に決められた構図を記憶する記憶手段と、所定の撮影モードにおいて、前記記憶手段に記憶されている所定の構図に基づいて前記撮像手段により撮像された画像の構図のズレを検出する検出手段と、前記構図のズレが検出された場合、前記撮像手段により撮像された画像について前記構図のズレを補正した状態で保持する構図保持手段と、前記所定の撮影モードが終了するまで前記構図のズレを補正した状態が保持されるように前記構図保持手段を制御する制御手段と、を有し、前記構図保持手段は、前記撮像手段により撮像された画像の構図と、前記記憶手段に記憶されている構図とを比較する構図比較手段と、前記撮像された画像の構図が、前記記憶手段に記憶されている構図と一致しているか否かを判定する構図判定手段と、表示手段に表示されている画像中の要素と、前記記憶手段に記憶されている構図の中の要素とを比較する構図要素比較手段と、前記表示手段に表示されている画像中の要素が、前記記憶手段に記憶されている構図の中の要素と一致しているか否かを判定する構図要素判定手段と、を有する
本発明によれば、自分撮りにおいて構図ズレを発生させずに、理想的な構図で撮影を行えるようになる。
従来の問題点と実施形態1の作用効果を説明する図。 実施形態1の撮像装置の構成を示すブロック図。 本実施形態の自分撮りモードにおける撮影動作を示すフローチャート。 実施形態1の防振制御を使用した構図保持機能の説明図。 実施形態1の防振制御を使用した構図保持機能の説明図。 実施形態1の防振制御を使用した構図保持機能の動作フローチャート。 本実施形態の構図保持機能を停止する際の動作フローチャート。 従来の問題点を実施形態2の作用効果を説明する図。 実施形態2の撮像装置の構成を示すブロック図。 実施形態2のオートズーム機能を使用した構図保持機能の説明図。 実施形態2のオートズーム機能を使用した構図保持機能の説明図。 実施形態2のオートズーム機能を使用した構図保持機能の動作フローチャート。 従来の問題点と実施形態3の作用効果を説明する図。 実施形態3の撮像装置の構成を示すブロック図。 実施形態3のオートズーム機能を使用した構図保持機能の説明図。 実施形態3のオートズーム機能を使用した構図保持機能の動作フローチャート。
以下に、本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。
[実施形態1]以下、本発明を、撮影者が自分自身を撮影する自分撮りが可能なデジタルスチルカメラやデジタルビデオカメラ等の撮像装置に適用した実施形態について説明する。
なお、本実施形態では、撮像装置としてデジタルカメラを想定しているが、他のカメラ付き携帯電話やその一種であるスマートフォン、タブレット端末、カメラ付きのパーソナルコンピュータ(PC)などの情報処理装置であっても良い。
<従来の問題点と実施形態1の作用効果>まず、図1を参照して、自分撮りを行う場合の従来の問題点と本実施形態の作用効果について説明する。
撮像装置100は、バリアングル式の表示部101、撮影光学系(撮影レンズ)やイメージセンサを含む撮像部102及び撮影準備動作や撮影動作の開始指示を行う撮影ボタン103を有している。表示部101は、撮像された(ライブビュー)画像をリアルタイムで表示する液晶表示パネル等からなり、表示画面の表示方向と撮影光学系の光軸方向(撮影方向)とを同じ方向にすることで撮影者が自分自身を撮影する自分撮りが可能である。
撮影者105が撮像装置100を用いて自分撮りを行う際には、撮像装置100の表示部101と撮像部102と撮影者105とが図1(a)に示すような位置関係となる。撮影者105は、表示部101の画像を見ながら自分と背景等の理想的な位置関係を構図106として決定する。
構図106を決めて自分撮りするときには、図1(a)のように表示部101に向けていた撮影者の視線107を、図1(b)の視線108のように撮像部102に移動する。
図1(a)では、視線107が表示部101に向いていることにより、撮影者が構図106を保持する意識を高いレベルで維持できていたが、図1(b)のように視線108を撮像部102に移動させた後は構図106を保持する意識が低くなってしまう。その結果、自分撮りの際に図1(b)のように構図109にズレが発生してしまい、撮影者は撮影画像を確認したときに初めて構図のズレに気付くことになる。
これに対して、本実施形態のように撮影者が一旦決めた構図を撮影動作が終了するまで保持可能とした場合、図1(c)のように視線110を表示部101から撮像部102に移動させた後でも、理想的な構図106を保持することができる。これにより、撮影者が表示部101から撮像部102に視線を移動する前後の構図106と構図111とがほぼ同じ状態に保持されながら自分撮りを行えるようになる。
<装置構成>次に、図2を参照して、本実施形態の撮像装置の構成および機能の概略について説明する。
撮像部201は、フォーカスレンズやズームレンズ、防振レンズ、絞りを備えて構成される撮影光学系を含む。また、撮像部201は、シャッター、撮影光学系を通過した光束を電気信号に変換するCCDもしくはCMOS等のイメージセンサ、アナログ信号をデジタル信号に変換するA/D変換器を含む。
画像処理部220は、撮像部201から読み出される画像信号に対し所定の信号処理や画像処理を施して画像データを生成しメモリ部215に書き込む。また、画像処理部220では、画像データを用いて所定の演算処理を行い、得られた演算結果に基づいて撮影制御部214が露光制御、焦点検出制御、ホワイトバランス制御を行う。これにより、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理が実現される。また、画像処理部220では、画像データを用いて所定の演算処理を行い、得られた演算結果に基づいて撮影制御部214が防振制御、ズーム制御を行うことにより、防振処理、ズーム処理が実現される。
操作検出部202は、カメラのスイッチ、ボタン及びタッチパネルその他の操作部材が操作されたことを検出し、対応する操作信号を撮影制御部214に通知する。
メニュー設定部203は、メニュー画面などを介して設定された値を撮影制御部214に通知する。
音声検出部204は、マイク等により撮影者やカメラ周辺部の音声を検出し、検出した音声信号を撮影制御部214に出力する。
動作検出部205は、カメラの動きや姿勢を検出し、検出結果を撮影制御部214に出力する。
顔検出部206は、公知のアルゴリズムにより、撮像された画像から被写体(撮影者)の顔等を検出する顔検出処理を行う。また、顔検出部206は、検出された顔の大きさと所定の面積の基準値とを比較し、比較結果をモード制御部213に通知する。
チルト検出部207は、自分撮りモードにおいて表示部219の表示画面の向きと撮像部201の光軸方向(撮影方向)とが同じ方向となるチルト状態であるか否かを判定し、判定結果をモード制御部213に通知する。する。
視線検出部208は、自分撮りモードにおいて撮影者の視線が撮像部201に向いているか、表示部219に向いているかを判定し、判定結果を撮影制御部214に通知する。
揺れ検出部209は、ジャイロセンサや加速度センサ等を用いてカメラの揺れや振動を検出し、揺れの方向や揺れ幅を算出して撮影制御部214に出力する。また、揺れ検出部209は、カメラの振動による上下方向や左右方向の画像の揺れを検出し、検出された画像の揺れを抑制するためのブレ補正量を算出して撮影制御部214に出力する。さらに、揺れ検出部209は、後述する構図ズレが発生した場合に、構図のズレ量を補正した状態で保持するための構図補正量を算出し、防振制御部218に出力する。
タイマー部210は、各種動作の判定に用いる時間、各種制御に用いる時間、内蔵時計の時間を計測する。
顔認証部211は、顔検出部206により検出された被写体(撮影者)の顔が、予め登録されている顔と一致するか否かを判定し、判定結果を撮影制御部214に通知する。
撮影指示検出部212は、撮影ボタン103が押されたか否かを検出し、例えば、撮影ボタン103が半押しされたことが検出された場合には撮影準備要求を、全押しされたことが検出された場合には撮影要求を撮影制御部214に通知する。
モード制御部213は、ユーザ操作や所定の条件に応じてカメラの動作モードを静止画や動画等の画像撮影モードや再生モードなどに切り替える。なお、画像撮影モードは、本実施形態の自分撮りモードを含む。
撮影制御部214は、撮影指示検出部212からの撮影準備要求を受けて、AF処理、AE処理、AWB処理等の撮影準備動作を開始する。また、撮影制御部214は、撮影要求を受けて撮像部201からの信号読み出しから記録媒体221に画像データを書き込むまでの一連の撮影動作を開始する。また、撮影制御部214は、後述するように自分撮りモードにおける構図保持機能の起動と停止を制御する。
メモリ部215には、撮影制御部214の動作用の定数、プログラム等が記録される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。また、メモリ部215には、撮像された画像や画像撮影時に撮影者が決めた理想的な構図が記憶される。
構図比較部216は、撮影準備動作時に撮像された画像の構図と、メモリ部215に記憶されている理想的な構図とを比較する。
構図判定部217は、撮影準備動作時に撮像された画像の構図が、メモリ部215に記憶されている理想的な構図と一致しているか否かを判定し、判定結果を撮影制御部214及び防振制御部218に出力する。
防振制御部218は、後述する光学防振機能又は電子防振機能により画像の揺れを防止する防振制御を行う。また、防振制御部218は、光学防振機能又は電子防振機能を使用して、撮影ボタン103の半押しにより撮影者が決めた構図を保持する、または構図ズレを補正した状態で保持する機能を有する。
表示部219は、液晶パネルや有機ELパネルなどの表示デバイスであり、撮像された画像がメモリ部215を介して出力される。なお、表示部219には、表示部219に対するタッチ操作を検出可能なタッチパネルが実装されており、撮影者が表示部219に表示された画面を直接的に操作可能であるかのようなGUIを構成することができる。
記録媒体221は、メモリ部215を介して出力される画像を記録するためのメモリカードやハードディスク等の記録媒体である。また、記録媒体221には、撮影制御部214の動作用の定数やプログラム等が格納されている。
本実施形態の撮像部201は、光学ズーム機能および光学防振機能を有し、画像処理部220は、電子ズーム機能および電子防振機能を有する。光学ズーム機能および電子ズーム機能は、ズームボタンの操作量に応じて画像を拡大/縮小する機能である。また、光学防振機能および電子防振機能は、カメラの振動による画像の揺れを防止する機能である。これらの各機能は、撮影制御部214による制御に応じて、同時に、交互に、或いは単独で使用されうる。
光学ズーム機能は、図示しないズームボタンの操作量に応じて、撮像部201のズームレンズを移動させ、撮像される被写体の光学像を拡大/縮小する機能である。また、電子ズーム機能は、ズームボタンの操作量に応じて、画像処理部220が、撮像部201で生成された画像信号の一部を切り出し、拡大した画像信号を生成する処理である。また、オートズーム機能の設定が可能である。オートズーム機能は、撮影者がタッチパネル等で画像中の被写体を指定することで、指定された被写体を画像の中央付近で所定のサイズに収めるように適切な構図を判定して、自動で光学ズーム機能又は電子ズーム機能による画像の拡大/縮小を行う機能である。
光学防振機能は、揺れ検出部209としての加速度センサ等から得られる加速度信号を用いて画像の揺れを抑制するためのブレ補正量を算出し、算出されたブレ補正量に応じて防振レンズを移動させることで、画像の揺れを防止する機能である。電子防振機能は、揺れ検出部209としての加速度センサ等から得られる加速度信号に基づいて、撮像部201で生成された画像信号の位置を調整することにより、画像の揺れを防止する機能である。
なお、図2に示す各部の1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPUなどのプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。よって、以下では、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現され得る。
<自分撮りモードにおける撮影処理>次に、図3を参照して、本実施形態の自分撮りモードにおける撮影処理について説明する。
なお、図3の処理は、カメラが自分撮りモードに設定されると開始され、撮影制御部214が記録媒体221から読み出したプログラムをメモリ部215に展開して実行することで実現される。後述する図6、7、12、16でも同様である。また、以下では、図示しない防振スイッチがオンされているものとする。
ステップS301では、撮影制御部214は、モード制御部213により、カメラの動作モードを自分撮りモードに設定する。自分撮りモードの設定方法は、(1)撮影者が設定する方法と、(2)モード制御部213が自動で設定する方法がある。
まず、(1)撮影者が自分撮りモードに設定する方法を説明する。
操作検出部202により所定の操作が検出されたこと、メニュー設定部203によりメニュー画面等を介して自分撮りモードが選択・決定されたこと、音声検出部204により所定の音声が検出されたこと、動作検出部205により撮影者がカメラを持って所定の動作をしたことのうち少なくともいずれかをトリガーとして、モード制御部213は撮影者により自分撮りモードの設定が指示されたと判断し、カメラの動作モードを自分撮りモードに切り替える。
次に、(2)モード制御部213が自動で自分撮りモードに設定する方法を説明する。
顔検出部206によりライブビュー画像中の被写体(撮影者)の顔の大きさが所定の面積の基準値を上回ったと判定された場合に、モード制御部213は撮影者が自分撮りを行おうとしていると判断し、カメラの動作モードを自分撮りモードに設定する。これは、自分撮りモードでは、撮影者とカメラの距離が、撮影者の腕の長さ以上にならないことを利用したもので、撮影者とカメラの距離に応じた顔の大きさを基準値として設定する。
また、チルト検出部207により表示部219がチルトされたことが検出された場合に、モード制御部213は撮影者が自分撮りを行おうとしていると判断し、カメラの動作モードを自分撮りモードに設定する。これは、自分撮りモードでは、表示部219の向きが撮像部201の撮影方向と同じ方向になるという特徴を利用したものである。
図3に戻り、ステップS302では、撮影制御部214は、撮影者が撮影ボタン103を半押しすることにより理想的な構図が決定されたと判定すると、構図保持機能を起動させる。構図保持機能を起動する方法は、(1)撮影者が起動する方法と、(2)撮影制御部214が自動で起動する方法がある。
まず、(1)撮影者が構図保持機能を起動する方法について説明する。
操作検出部202により所定の操作が検出されたこと、メニュー設定部203によりメニュー画面等を介して構図保持機能が選択・決定されたこと、音声検出部204により所定の音声が検出されたこと、動作検出部205により撮影者がカメラを持って所定の動作をしたことのうち少なくともいずれかをトリガーとして、撮影制御部214は撮影者により構図保持機能の起動が指示されたと判断し、カメラの構図保持機能を起動する。
次に、(2)撮影制御部214が自動で構図保持機能を起動する方法について説明する。
視線検出部208により撮影者の視線が撮像部201(撮影レンズ)から表示部219に移動したことが検出された場合に、撮影制御部214は撮影者が理想的な構図で自分撮りを行おうとしていると判断し、構図保持機能を起動する。
また、揺れ検出部209により撮影者の視線が表示部219から撮像部201に移動したときにカメラの揺れ幅が所定量以上変化した場合に、撮影制御部214は撮影者が理想的な構図で自分撮りを行おうとしていると判断し、構図保持機能を起動する。
図3に戻り、ステップS303では、撮影制御部214は、ステップS302で起動した構図保持機能により、撮影者により決定された構図を構図ズレを補正した状態で保持する。ここで、図4及び図5を参照して、構図保持機能について説明する。
図4は、実施形態1に係る防振制御部218を使用した上下左右方向に対する構図保持機能の説明図である。
図4において、401は撮影者により決定され、メモリ部215に記憶された理想的な構図を示している。
402、403、404、405は撮影者が視線を表示部219へ移動させたことよる上方向の構図ズレ、下方向の構図ズレ、左方向の構図ズレ、右方向の構図ズレをそれぞれ示している。構図保持機能は、構図判定部217により、図示のように上下左右方向に対する構図ズレが発生したと判定された場合に、光学防振機能又は電子防振機能により理想的な構図401に戻るように画像を上下左右方向に移動又は切り出す(以下、シフト)機能である。
図5は、実施形態1に係る防振制御部218を使用した構図保持機能の作用を簡易的に説明する図である。
図5において、501は撮影者により決定され、メモリ部215に記憶された理想的な構図を示している。
502、503、504、505は理想的な構図501に対して上方向の構図ズレ、下方向の構図ズレ、左方向の構図ズレ、右方向の構図ズレが発生していることをそれぞれ示している。
ここで、揺れ検出部209が、構図判定部217により判定された上下左右方向の構図のズレを補正するための構図補正量を算出し、防振制御部218がズレ量に相当する分だけ画像をシフトさせることで、理想的な構図501に戻し保持することが可能となる。
<構図保持動作>ここで、図6を参照して、図3のステップS303における構図保持動作について説明する。
ステップS601では、構図比較部216は、メモリ部215に記憶されている理想的な構図と、表示部219に表示されている構図とを比較する。
ステップS602では、構図判定部217は、ステップS601における比較の結果、構図ズレが発生しているか否か判定し、発生している場合はステップS603へ進み、発生していない場合は処理を終了し、図3のステップS304に進む。
ステップS603では、構図判定部217は、上方向の構図ズレが発生しているか否かを判定し、発生している場合はステップS604へ進み、発生していない場合はステップS606へ進む。
ステップS604では、撮影制御部214は、構図判定部217による判定結果を受けて、揺れ検出部209により上方向の構図のズレ量を補正するための構図補正量を算出し、防振制御部218に出力する。
ステップS605では、防振制御部218は、上方向の構図ズレを補正する方向に画像をシフトさせて理想的な構図を保持する制御を行い、ステップS601に戻る。
ステップS606では、構図判定部217は、下方向の構図ズレが発生しているか否かを判定し、発生している場合はステップS607へ進み、発生していない場合はステップS608へ進む。
ステップS607では、撮影制御部214は、構図判定部217による判定結果を受けて、揺れ検出部209により下方向の構図のズレ量を補正するための構図補正量を算出し、防振制御部218に出力する。
ステップS605では、防振制御部218は、下方向の構図ズレを補正する方向に画像をシフトさせて構図を保持する制御を行い、ステップS601に戻る。
ステップS608では、構図判定部217は、左方向の構図ズレが発生しているか否かを判定し、発生している場合はステップS609へ進み、発生していない場合はステップS610へ進む。
ステップS609では、撮影制御部214は、構図判定部217による判定結果を受けて、揺れ検出部209により左方向の構図のズレ量を補正するための構図補正量を算出し、防振制御部218に出力する。
ステップS605では、防振制御部218は、左方向の構図ズレを補正する方向に画像をシフトさせて構図を保持する制御を行い、ステップS601に戻る。
ステップS610では、撮影制御部214は、構図判定部217による判定結果を受けて、揺れ検出部209により右方向の構図のズレ量を補正するための構図補正量を算出し、防振制御部218に出力する。
ステップS605では、防振制御部218は、右方向の構図ズレを相殺する方向に画像をシフトさせて構図を保持する制御を行い、ステップS601に戻る。
図3に戻り、ステップS304では、撮影制御部214は、撮影指示検出部212により撮影ボタン103が全押しされたか否かを検出する。そして、全押しが検出された場合はステップS305に進み、検出されない場合はステップS303に戻り、撮影ボタン103が全押しされるまで構図保持機能を継続する。なお、図7で後述するように撮影ボタン103が全押しされずに構図保持機能が停止される場合もある。
ステップS305では、撮影制御部214は、撮像部201を制御して理想的な構図で自分撮りを実行し、その後構図保持機能を停止する。
ステップS306では、撮影制御部214は、モード制御部213により自分撮りモードを解除する。ここで、自分撮りモードの解除方法は、(1)撮影者が解除する方法と、(2)撮影制御部214が自動で解除する方法がある。
まず、(1)撮影者が構図保持機能を解除する方法について説明する。
操作検出部202により所定の操作が検出されたこと、メニュー設定部203によりメニュー画面等を介して自分撮りモードの解除が選択・決定されたこと、音声検出部204により所定の音声が検出されたこと、動作検出部205により撮影者がカメラを持って所定の動作をしたことのうち少なくともいずれかをトリガーとして、撮影制御部214は撮影者により自分撮りモードの解除が指示されたと判断し、自分撮りモードを解除する。
次に、(2)撮影制御部214が自動で自分撮りモードを解除する方法について説明する。
顔検出部206によりライブビュー画像中の被写体(撮影者)の顔の大きさが所定の面積の基準値を下回った場合に、モード制御部213は撮影者が自分撮りモードを解除しようとしていると判断し、自分撮りモードを解除する。
また、チルト検出部207により表示部219がチルトされた状態から元の状態に戻されたことが検出された場合に、モード制御部213は撮影者が自分撮りモードを解除しようとしていると判断し、自分撮りモードを解除する。
<構図保持機能停止>次に、図7を参照して、撮影ボタン103が全押しされずに構図保持機能を停止する場合について説明する。
図3のステップS305で説明したように、撮影制御部214は、撮像部201を制御して理想的な構図で自分撮りを実行した後、構図保持機能を停止する。しかしながら、撮影者により撮影ボタン103が全押しされなかった場合、撮影ボタン103を再度半押しして構図を決めたい場合、構図を決める操作中に第三者その他の被写体が構図に写り込んだ場合等にも構図保持機能は停止される。
ステップS701では、撮影制御部214は、撮影指示検出部212により撮影ボタン103が全押しされたか否かを判定し、全押しされた場合はステップS704へ進み、全押しされない場合はステップS702へ進む。
ステップS702では、撮影制御部214は、構図保持機能を停止する条件として設定されている処理を検出したか否かを判定し、検出した場合はステップS704へ進み、検出しない場合はステップS703へ進む。
ステップS703では、撮影制御部214は、タイマー部210により撮影動作が実行されないまま所定の時間が経過したか否かを判定し、所定の時間が経過した場合はステップS704へ進み、所定の時間が経過していない場合はステップS701に戻る。
ステップS704では、撮影制御部214は構図保持機能を停止する。ここで、構図保持機能を停止する方法は、(1)撮影者が停止する方法と、(2)撮影制御部214が自動で停止する方法がある。
まず、(1)撮影者が停止する方法について説明する。
操作検出部202により所定の操作が検出されたこと、メニュー設定部203によりメニュー画面等を介して構図保持機能の停止が選択・決定されたこと、音声検出部204により所定の音声が検出されたこと、動作検出部205により撮影者がカメラを持って所定の動作をしたことのうち少なくともいずれかをトリガーとして、撮影制御部214は撮影者により構図保持機能の停止が指示されたと判断し、カメラの構図保持機能を停止する。
次に、(2)撮影制御部214が自動で構図保持機能を停止する方法について説明する。
視線検出部208により撮影者の視線が撮像部201から表示部219に移動したことが検出された場合に、撮影制御部214は撮影者が理想的な構図で自分撮りを行った(又は行わなかった)と判断し、カメラの構図保持機能を停止する。
また、揺れ検出部209により撮影者の視線が撮像部201から表示部219に移動したことが検出され、カメラの揺れ幅が所定量以上変化した場合には、撮影制御部214は撮影者が理想的な構図で自分撮りを行った(又は行わなかった)と判断し、カメラの構図保持機能を停止する。
さらに顔認証部211により、撮像部201により得られた画像に含まれる顔に、予め登録されている顔と一致しないものが含まれていると判定された場合に、撮影制御部214は構図が保持された状態で撮像された画像に第三者が写り込んでいると判断して、カメラの構図保持機能を停止する。
以上のように、本実施形態によれば、自分撮りにおいて防振制御を使用して上下左右方向の構図ズレを発生させずに、理想的な構図で撮影を行えるようになる。
[実施形態2]
本実施形態では、オートズーム機能を使用して前後方向に対する構図ズレを補正した状態で保持する構成について説明する。
<従来の問題点と実施形態2の作用効果>まず、図8を参照して、自分撮りを行う場合の従来の問題点と本実施形態の作用効果について説明する。
撮像装置800の構成は、実施形態1の撮像装置100と同様に、バリアングル式の表示部801、光学系やイメージセンサを含む撮像部802及び撮影準備動作や撮影動作の開始指示を行う撮影ボタン803を有している。
また、図8(a)と図8(c)も図1(a)と図1(c)と同様であり、符号を800番台で示している。
本実施形態では、図8(b)のように視線808を撮像部802に移動させたことによる前後方向の構図ズレ809を補正する。その他の点については図1と同様であるため説明は省略する。
図9は、実施形態2の撮像装置の構成を示すブロック図であり、構成901〜917、919については、図1の各構成201〜217、219と同様である。
本実施形態では、オートズーム制御部918が設けられ、光学ズーム機能又は電子ズーム機能により、ライブビュー画像から理想的な構図に対応する領域を拡大/縮小又は切り出すことにより構図ズレを補正し、撮影者が決めた構図を保持する機能を実現する。
なお、本実施形態の自分撮りモードにおける撮影処理は、図3と同様であるため説明は省略する。また、撮影ボタン903が全押しされずに構図保持機能を停止する場合については、図7と同様であるため説明を省略する。
図10は、実施形態2に係るオートズーム機能を使用した前後方向の構図ズレに対する構図保持機能の説明図である。
図10において、1001はメモリ部915に記憶された理想的な構図を示している。
1002、1003は撮影者が視線を表示部919へ移動させたことよる前方向の構図ズレ、後方向の構図ズレをそれぞれ示している。本実施形態の構図保持機能は、構図判定部917により、図示のように前後方向に対する構図ズレが発生したと判定された場合に、光学ズーム機能又は電子ズーム機能により、理想的な構図1001に戻るように自動で画像を拡大/縮小又は切り出した画像を表示する。
図11は、実施形態2に係るオートズーム制御を使用した構図保持機能の作用効果を簡易的に説明する図である。
図11において、1101はメモリ部915に記憶された理想的な構図を示している。
1102、1103は理想的な構図1101に対して前方向の構図ズレ、後方向の構図ズレが発生していることをそれぞれ示している。前方向の構図ズレは、カメラと撮影者の位置が近いことで発生するため、オートズーム制御部918は、WIDE側にズームを行うことで理想的な構図に戻すように制御し、理想的な構図1101を保持することが可能となる。また、後方向の構図ズレは、カメラと撮影者の位置が遠いことで発生するため、オートズーム制御部918は、TELE側にズームを行うことで理想的な構図に戻すように制御し、理想的な構図1101を保持することが可能となる。
<構図保持動作>ここで、図12を参照して、図3のステップS303における構図保持動作について説明する。
なお、以下では、オートズーム機能が設定されているものとする。後述する図16でも同様である。
ステップS1201では、構図比較部916は、メモリ部915に記憶されている理想的な構図と、表示部919に表示されている構図とを比較する。
ステップS1202では、構図判定部917は、ステップS1201における比較の結果、構図ズレが発生しているか否か判定し、発生している場合はステップS1203へ進み、発生していない場合は処理を終了し、図3のステップS304に進む。
ステップS1203では、構図判定部917は、前方向の構図ズレが発生しているか否かを判定し、発生している場合はステップS1204へ進み、発生していない場合はステップS1206へ進む。
ステップS1204では、撮影制御部914は、構図判定部917による判定結果を受けて、前方向の構図ズレが発生した画像から理想的な構図に対応する領域を拡大/縮小又は切り出すように、WIDE側にズームを行うズーム倍率を設定する。
ステップS1206では、撮影制御部914は、構図判定部917による判定結果を受けて、後方向の構図ズレが発生した画像から理想的な構図に対応する領域を拡大/縮小又は切り出すように、TELE側にズームを行うズーム倍率を設定する。
ステップS1205では、オートズーム制御部918は、ステップS1204又はS1206で設定されたズーム倍率に基づいて、ズームレンズ又は画像処理部920によりズーム処理を行うことで理想的な構図を保持し、ステップS1201に戻る。
以上のように、本実施形態によれば、自分撮りにおいてオートズーム機能を使用して前後方向の構図ズレを発生させずに、理想的な構図で撮影を行えるようになる。
[実施形態3]
本実施形態では、オートズーム機能を使用して上下左右方向に対する構図ズレを補正した状態で保持する構成について説明する。
<従来の問題点と実施形態3の作用効果>まず、図13を参照して、自分撮りを行う場合の従来の問題点と本実施形態の作用効果について説明する。
撮像装置1300の構成は、実施形態1、2の撮像装置100、800と同様に、バリアングル式の表示部1301、光学系やイメージセンサを含む撮像部1302及び撮影準備動作や撮影動作の開始指示を行う撮影ボタン1303を有している。
また、図13(a)、図13(b)も図1(a)、図1(b)と同様であり、符号を1300番台で示している。
本実施形態では、図13(c)のように視線1310を表示部1301から撮像部1302に移動させことにより、図13(b)の上下左右方向の構図ズレ1309が発生した場合であっても、光学ズーム機能又は電子ズーム機能により理想的な構図1311を保持しながら自分撮りを行えるようになる。その他の点については図1と同様であるため説明は省略する。
図14は、実施形態3の撮像装置の構成を示すブロック図であり、構成1401〜1421については、図9の各構成901〜921と同様である。
本実施形態では、図9の構成に加えて、構図要素比較部1422と構図要素判定部1423が設けられている。
構図要素比較部1422は、表示部1419に表示されている構図中の各要素と、メモリ部1415に記憶されている理想的な構図中の対応する各要素とを比較する。
構図要素判定部1423は、構図要素比較部1422で比較した結果、表示部1419に表示されている構図中の特定の要素が、メモリ部1415に記憶されている複数の構図中の特定の要素と一致しているか否かを判定する。
なお、本実施形態の自分撮りモードにおける撮影処理は、図3と同様であるため説明は省略する。また、撮影ボタン1303が全押しされずに構図保持機能を停止する場合については、図7と同様であるため説明を省略する。
図15は、実施形態3に係るオートズーム機能を使用した構図保持機能の作用を簡易的に説明する図である。
本実施形態では、実施形態1、2における撮影者が求める理想的な構図とは多少異なっているが、撮影者や背景などの要素が構図内に収まり、理想的な構図に近い状態での自分撮りが可能となる。
図15において、1501はメモリ部1415に記憶された理想的な構図を示している。また、1502は、理想的な構図1501に含まれる3つの要素1〜3を示している。本実施形態では、理想的な構図1502の要素1、要素2、要素3が構図内に収まっている状態を理想的な構図であるものとする。
1503、1505、1507、1509は理想的な構図1501に対して上方向の構図ズレ、下方向の構図ズレ、左方向の構図ズレ、右方向の構図ズレが発生していることをそれぞれ示している。これら各方向の構図ズレに対しては、光学ズーム機能又は電子ズーム機能によりWIDE側にズームを行うことで、各要素1〜3が構図内に収まった状態とし理想的な構図1501に近い構図1504、1506、1508、1510に戻すことが可能となる。
<構図保持動作>ここで、図16を参照して、図3のステップS303における構図保持動作について説明する。
ステップS1601では、構図比較部1416は、メモリ部1415に記憶されている理想的な構図と、表示部1419に表示されている構図とを比較する。
ステップS1602では、構図判定部1417は、ステップS1601における比較の結果、構図ズレが発生しているか否か判定し、発生している場合はステップS1603へ進み、発生していない場合は処理を終了し、図3のステップS304に進む。
ステップS1603では、構図要素比較部1422は、メモリ部1415に記憶されている理想的な構図の各要素と、表示部1419に表示されている構図の各要素とを比較する。
ステップS1604では、構図要素判定部1423は、ステップS1603における比較の結果、構図要素が一致しているか否かを判定し、一致していない場合はステップS1605へ進み、一致している場合は処理を終了し、図3のステップS304に進む。
ステップS1605では、撮影制御部1414は、構図要素判定部1423による判定結果を受けて、構図ズレが発生した画像から理想的な構図に対応する領域を拡大/縮小又は切り出すように、WIDE側にズームを行うズーム倍率を設定する。
ステップS1606では、オートズーム制御部1418は、ステップS1605で設定されたズーム倍率に基づいて、ズームレンズ又は画像処理部1420によりズーム処理を行うことで理想的な構図に近い構図に戻し、ステップS1601に戻る。
以上のように、本実施形態によれば、自分撮りにおいてオートズーム制御を使用して上下左右の構図ズレを理想的な構図に近い状態に戻して撮影を行えるようになる。
なお、実施形態3において、さらに実施形態1を適用し、構図を中心に移動させる処理を行っても良い。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201、901、1401…撮像部、213、913、1413…モード制御部、214、914、1414…撮影制御部、215、915、1415…メモリ部、216、916、1416…構図比較部、217、917、1417…構図判定部

Claims (20)

  1. 撮影光学系を通過した光束を電気信号に変換して撮像する撮像手段と、
    画像撮影時に決められた構図を記憶する記憶手段と、
    所定の撮影モードにおいて、前記記憶手段に記憶されている所定の構図に基づいて前記撮像手段により撮像された画像の構図のズレを検出する検出手段と、
    前記構図のズレが検出された場合、前記撮像手段により撮像された画像について前記構図のズレを補正した状態で保持する構図保持手段と、
    前記所定の撮影モードが終了するまで前記構図のズレを補正した状態が保持されるように前記構図保持手段を制御する制御手段と、を有し、
    前記構図保持手段は、
    前記撮像手段により撮像された画像の構図と、前記記憶手段に記憶されている構図とを比較する構図比較手段と、
    前記撮像された画像の構図が、前記記憶手段に記憶されている構図と一致しているか否かを判定する構図判定手段と、
    表示手段に表示されている画像中の要素と、前記記憶手段に記憶されている構図の中の要素とを比較する構図要素比較手段と、
    前記表示手段に表示されている画像中の要素が、前記記憶手段に記憶されている構図の中の要素と一致しているか否かを判定する構図要素判定手段と、を有することを特徴とする撮像装置。
  2. 前記所定の撮影モードを含む複数の動作モードのいずれかに切り替えが可能なモード制御手段を更に有することを特徴とする請求項1に記載の撮像装置。
  3. 前記所定の撮影モードは、撮影者が自分を撮影する自分撮りモードであることを特徴とする請求項に記載の撮像装置。
  4. 前記モード制御手段は、前記自分撮りモードにおいて撮影者の所定の第1の操作又は撮像装置の所定の第1の状態を検出した場合に前記自分撮りモードに設定することを特徴とする請求項に記載の撮像装置。
  5. 前記所定の第1の状態は、前記撮像された画像を表示する表示手段の向きと前記撮像手段の撮影方向とが同じ方向となるチルト状態であることを特徴とする請求項に記載の撮像装置。
  6. 撮影光学系を通過した光束を電気信号に変換して撮像する撮像手段と、
    画像撮影時に決められた構図を記憶する記憶手段と、
    撮影者が自分を撮影する自分撮りモードを含む複数の動作モードのいずれかに切り替えが可能なモード制御手段と、
    前記自分撮りモードにおいて、前記記憶手段に記憶されている所定の構図に基づいて前記撮像手段により撮像された画像の構図のズレを検出する検出手段と、
    前記構図のズレが検出された場合、前記撮像手段により撮像された画像について前記構図のズレを補正した状態で保持する構図保持手段と、
    前記自分撮りモードが終了するまで前記構図のズレを補正した状態が保持されるように前記構図保持手段を制御する制御手段と、を有し、
    前記モード制御手段は、撮影者の所定の第1の操作又は撮像装置の所定の第1の状態を検出した場合に前記自分撮りモードに設定し、
    前記所定の第1の状態は、前記撮像された画像を表示する表示手段の向きと前記撮像手段の撮影方向とが同じ方向となるチルト状態であり、
    前記表示手段に表示された画像中の被写体の顔の大きさが所定の面積の基準値を下回った場合、又は前記表示手段がチルトされた状態から元の状態に戻されたことが検出された場合に、前記自分撮りモードを解除することを特徴とする撮像装置。
  7. 前記撮像手段により撮像された画像の構図と、前記記憶手段に記憶されている構図とを比較する構図比較手段と、
    前記撮像された画像の構図が、前記記憶手段に記憶されている構図と一致しているか否かを判定する構図判定手段と、を更に有することを特徴とする請求項に記載の撮像装置。
  8. 前記表示手段に表示されている画像中の要素と、前記記憶手段に記憶されている構図の中の要素とを比較する構図要素比較手段と、
    前記表示手段に表示されている画像中の要素が、前記記憶手段に記憶されている構図の中の要素と一致しているか否かを判定する構図要素判定手段と、を更に有することを特徴とする請求項に記載の撮像装置。
  9. 前記制御手段は、前記自分撮りモードにおいて撮影者の所定の第2の操作又は撮像装置の所定の第2の状態を検出した場合に前記構図保持手段を起動することを特徴とする請求項3、6乃至8のいずれか1項に記載の撮像装置。
  10. 前記所定の第2の状態は、撮影者の視線が前記撮影光学系から前記表示手段に移動したことが検出された場合、又は撮影者の視線が前記表示手段から前記撮影光学系に移動したときの撮像装置の揺れが所定量以上変化した場合であることを特徴とする請求項に記載の撮像装置。
  11. 前記制御手段は、前記自分撮りを実行した後、前記構図保持手段を停止することを特徴とする請求項又は10に記載の撮像装置。
  12. 前記制御手段は、前記自分撮りが実行されない状態のまま所定の処理が実行された場合又は所定の時間が経過した場合、前記構図保持手段を停止することを特徴とする請求項又は10に記載の撮像装置。
  13. 前記所定の第1の操作は、撮影者による自分撮りモードを設定又は解除する操作が検出されたこと、所定の音声が検出されたこと、撮像装置に所定の動作をさせたことのうち少なくともいずれかであることを特徴とする請求項乃至8、10乃至12のいずれか1項に記載の撮像装置。
  14. 前記所定の第2の操作は、撮影者による前記構図保持手段を起動又は停止する操作が検出されたこと、所定の音声が検出されたこと、撮像装置に所定の動作をさせたことのうち少なくともいずれかであることを特徴とする請求項乃至12のいずれか1項に記載の撮像装置。
  15. 前記構図保持手段は、防振制御を行うことで前記撮像手段により撮像された画像の上下左右方向の構図のズレを補正した状態で保持することを特徴とする請求項1乃至14のいずれか1項に記載の撮像装置。
  16. 前記構図保持手段は、オートズーム制御を行うことで前記撮像手段により撮像された画像の前後方向の構図のズレを補正した状態で保持することを特徴とする請求項1乃至15のいずれか1項に記載の撮像装置。
  17. 前記構図保持手段は、オートズーム制御を行うことで前記撮像手段により撮像された画像の上下左右方向の構図のズレを補正した状態で保持することを特徴とする請求項1乃至16のいずれか1項に記載の撮像装置。
  18. 撮影光学系を通過した光束を電気信号に変換して撮像する撮像手段と、画像撮影時に決められた構図を記憶する記憶手段と、を有する撮像装置の制御方法であって、
    所定の撮影モードにおいて、前記記憶手段に記憶されている所定の構図に基づいて前記撮像手段により撮像された画像の構図のズレを検出するステップと、
    前記構図のズレが検出された場合、前記撮像手段により撮像された画像について前記構図のズレを補正した状態で保持するステップと、
    前記所定の撮影モードが終了するまで前記構図のズレを補正した状態が保持されるように制御するステップと、を有し、
    前記保持するステップは、
    前記撮像手段により撮像された画像の構図と、前記記憶手段に記憶されている構図とを比較するステップと、
    前記撮像された画像の構図が、前記記憶手段に記憶されている構図と一致しているか否かを判定するステップと、
    表示手段に表示されている画像中の要素と、前記記憶手段に記憶されている構図の中の要素とを比較するステップと、
    前記表示手段に表示されている画像中の要素が、前記記憶手段に記憶されている構図の中の要素と一致しているか否かを判定するステップと、を有することを特徴とする制御方法。
  19. 撮影光学系を通過した光束を電気信号に変換して撮像する撮像手段と、画像撮影時に決められた構図を記憶する記憶手段と、を有する撮像装置の制御方法であって、
    撮影者が自分を撮影する自分撮りモードを含む複数の動作モードのいずれかに切り替えが可能なモード制御ステップと、
    前記自分撮りモードにおいて、前記記憶手段に記憶されている所定の構図に基づいて前記撮像手段により撮像された画像の構図のズレを検出する検出ステップと、
    前記構図のズレが検出された場合、前記撮像手段により撮像された画像について前記構図のズレを補正した状態で保持する構図保持ステップと、
    前記自分撮りモードが終了するまで前記構図のズレを補正した状態が保持されるように制御する制御ステップと、を有し、
    前記モード制御ステップでは、撮影者の所定の第1の操作又は撮像装置の所定の第1の状態を検出した場合に前記自分撮りモードに設定し、
    前記所定の第1の状態は、前記撮像された画像を表示する表示手段の向きと前記撮像手段の撮影方向とが同じ方向となるチルト状態であり、
    前記表示手段に表示された画像中の被写体の顔の大きさが所定の面積の基準値を下回った場合、又は前記表示手段がチルトされた状態から元の状態に戻されたことが検出された場合に、前記自分撮りモードを解除することを特徴とする制御方法。
  20. コンピュータを、請求項1乃至17のいずれか1項に記載された撮像装置の各手段として機能させるためのプログラム。
JP2015177918A 2015-09-09 2015-09-09 撮像装置及びその制御方法、プログラム、並びに記憶媒体 Active JP6700693B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015177918A JP6700693B2 (ja) 2015-09-09 2015-09-09 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015177918A JP6700693B2 (ja) 2015-09-09 2015-09-09 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Publications (2)

Publication Number Publication Date
JP2017055266A JP2017055266A (ja) 2017-03-16
JP6700693B2 true JP6700693B2 (ja) 2020-05-27

Family

ID=58317584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015177918A Active JP6700693B2 (ja) 2015-09-09 2015-09-09 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Country Status (1)

Country Link
JP (1) JP6700693B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019009574A (ja) * 2017-06-23 2019-01-17 キヤノン株式会社 画像処理装置
CN107592451A (zh) * 2017-08-31 2018-01-16 努比亚技术有限公司 一种多模式辅助拍照方法、装置及计算机可读存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10133245A (ja) * 1996-10-31 1998-05-22 Nikon Corp ブレ補正装置
JP4804398B2 (ja) * 2007-03-30 2011-11-02 三洋電機株式会社 撮像装置及び撮影方法
JP5294889B2 (ja) * 2009-01-08 2013-09-18 ソニーモバイルコミュニケーションズ, エービー 撮像装置及び撮像方法
JP2010239532A (ja) * 2009-03-31 2010-10-21 Casio Computer Co Ltd 撮像装置及び撮影方法
JP2013117650A (ja) * 2011-12-05 2013-06-13 Nikon Corp デジタルカメラ
JP2014045404A (ja) * 2012-08-28 2014-03-13 Sharp Corp 携帯端末
JP2014241547A (ja) * 2013-06-12 2014-12-25 ソニー株式会社 表示制御装置、表示制御方法、プログラムおよび撮像装置

Also Published As

Publication number Publication date
JP2017055266A (ja) 2017-03-16

Similar Documents

Publication Publication Date Title
US9992421B2 (en) Image pickup apparatus having FA zoom function, method for controlling the apparatus, and recording medium
US8976270B2 (en) Imaging device and imaging device control method capable of taking pictures rapidly with an intuitive operation
JP6486656B2 (ja) 撮像装置
JP5853151B2 (ja) 撮像装置
WO2016208562A1 (ja) 電子機器、電子機器の動作方法及び制御プログラム
JP5563163B2 (ja) 撮像装置および撮像方法
TW200833093A (en) Imaging apparatus, method of compensating for hand shake, and program
US8743181B2 (en) Image pickup apparatus
JP2015186020A (ja) 表示機器、撮影機器及び表示方法
JP2013017165A (ja) 撮像装置
JP2016009873A (ja) 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2012222387A (ja) 撮像装置
JP6700693B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2014068081A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US9071758B2 (en) Image capture apparatus having image stabilization function and control method for same
CN107800956B (zh) 摄像设备、控制方法和存储介质
JP6460310B2 (ja) 撮像装置、画像表示方法及びプログラム
JP2012189944A (ja) 撮影装置、撮影方法及びプログラム
JP6663217B2 (ja) 撮像装置およびその制御方法
JP5504741B2 (ja) 撮像装置
US20120188343A1 (en) Imaging apparatus
JP6080825B2 (ja) 撮像装置及びその制御方法
JP5750792B1 (ja) 撮像装置、撮像方法およびプログラム
JP5419148B2 (ja) 撮像装置及びプログラム
JP2016122132A (ja) 像振れ補正装置並びにその制御方法、プログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R151 Written notification of patent or utility model registration

Ref document number: 6700693

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151