JP6205464B2 - 撮影機器 - Google Patents

撮影機器 Download PDF

Info

Publication number
JP6205464B2
JP6205464B2 JP2016130014A JP2016130014A JP6205464B2 JP 6205464 B2 JP6205464 B2 JP 6205464B2 JP 2016130014 A JP2016130014 A JP 2016130014A JP 2016130014 A JP2016130014 A JP 2016130014A JP 6205464 B2 JP6205464 B2 JP 6205464B2
Authority
JP
Japan
Prior art keywords
image
moving image
unit
control unit
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016130014A
Other languages
English (en)
Other versions
JP2016174425A (ja
Inventor
野中 修
修 野中
佳之 福谷
佳之 福谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2016130014A priority Critical patent/JP6205464B2/ja
Publication of JP2016174425A publication Critical patent/JP2016174425A/ja
Application granted granted Critical
Publication of JP6205464B2 publication Critical patent/JP6205464B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、フォトインムービーモード及びマルチフレームモードを有する撮影機器に関する。
近年、デジタルカメラなどの撮影機能付き携帯機器(撮影機器)は、画像処理を駆使して、様々な撮影機能を備えている。例えば、特許文献1においては、全体の雰囲気を捉えるために広角側で撮影した画像と、迫力のある瞬間を捉えるために望遠側で撮影した画像とを合成記録して、1画面に2画像を表示する機能を有した撮影装置が開示されている。
また、撮影機器においては、静止画のみならず、動画撮影機能を有するものが多い。例えば、動画撮影中に静止画を撮影する、所謂フォトインムービー機能を有する撮影機器が広く知られている。更に、シャッタボタンを押すことによって静止画とこの静止画の前後の動画を記録する、所謂回想フォト機能を有する撮影機器もある。また、動画として画面全体をリサイズした動画と画面の一部の動画の2種類の動画を記録する、所謂マルチフレーム機能を有する撮影機器もある。
特開2010−268019号公報
しかしながら、従来、フォトインムービー機能、回想フォト機能及びマルチフレーム機能を備えた撮影機器においては、これらの機能を実現する各撮影モードのうちのいずれかの撮影モードに設定するために、撮影操作前に撮影モードの設定操作を行う必要があり、設定に時間を要しシャッタチャンスを逃しやすいという問題があった。
本発明は、撮影操作が撮影モードの設定操作を兼ねるように設定することで、各撮影モードへの移行及び撮影に要する時間を短縮することができる撮影機器を提供することを目的とする。
本発明に係る一態様の撮影機器は、被写体を撮像して得た撮像画像を出力する撮像部と、前記撮像画像を記録する記録部と、前記撮像部において出力された前記撮像画像のうち第1の領域における動画像である第1動画像を取得する第1領域画像取得部と、前記第1の領域のうち所定の一部領域を第2の領域として指定する領域指定手段と、前記領域指定手段によって指定された前記第2の領域における動画像である第2動画像を取得する第2領域画像取得部と、前記第2の領域における前記第2動画像を追尾するよう指示する追尾指示手段と、前記追尾指示手段により追尾指示がなされた際に、追尾動作を制御すると共に、前記第1動画像と前記第2動画像との少なくとも一方に係る静止画像を前記記録部に記録せしめる制御部と、前記第1動画像と前記第2動画像とを同一画面上において合成表示するよう制御する合成表示制御部と、を具備し、前記合成表示制御部は、前記第2動画像が追尾される場合には、前記第1動画像と前記第2動画像とのいずれか一方をメイン画像とし、他方をサブ画像として合成表示制御し、前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、前記第2動画像が追尾される場合には、前記第2動画像に係る静止画像を前記記録部に記録せしめる。
本発明に係る他の態様の撮影機器は、被写体を撮像して得た撮像画像を出力する撮像部と、前記撮像画像を記録する記録部と、前記撮像部において出力された前記撮像画像のうち第1の領域における動画像である第1動画像を取得する第1領域画像取得部と、前記第1の領域のうち所定の一部領域を第2の領域として指定する領域指定手段と、前記領域指定手段によって指定された前記第2の領域における動画像である第2動画像を取得する第2領域画像取得部と、前記第2の領域における前記第2動画像を追尾するよう指示する追尾指示手段と、前記追尾指示手段により追尾指示がなされた際に、追尾動作を制御すると共に、前記第1動画像と前記第2動画像との少なくとも一方に係る静止画像を前記記録部に記録せしめる制御部と、前記第1動画像と前記第2動画像とを同一画面上において合成表示するよう制御する合成表示制御部と、を具備し、前記合成表示制御部は、前記第2動画像が追尾される場合には、前記第1動画像と前記第2動画像とのいずれか一方をメイン画像とし、他方をサブ画像として合成表示制御し、前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、前記第2動画像が追尾される場合には、前記第2動画像を前記メイン画像とした合成画像に係る静止画像を前記記録部に記録せしめる。
本発明によれば、撮影操作が撮影モードの設定操作を兼ねるように設定することで、各撮影モードへの移行及び撮影に要する時間を短縮することができるという効果を有する。
本発明の第1の実施の形態に係る撮影機器の回路構成を示すブロック図。 フォトインムービーの動作を示す説明図。 回想フォトの動作を示す説明図。 マルチフレームの動作を示す説明図。 入力画像及び部分画像の例を示す説明図。 カメラ撮影制御を示すフローチャート。 マルチフレームモードにおける画面表示を説明するための説明図。 本発明の第2の実施の形態を示すブロック図。 第2の実施の形態の動作を説明するための説明図。 第2の実施の形態の動作を説明するための説明図。 第2の実施の形態の動作を説明するための説明図。 第2の実施の形態の動作を説明するためのフローチャート。 第2の実施の形態の動作を説明するためのフローチャート。 第2の実施の形態の動作を説明するためのフローチャート。 第2の実施の形態の動作を説明するためのフローチャート。 第2の実施の形態の動作を説明するための説明図。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る撮影機器の回路構成を示すブロック図である。
図1において、撮影機器10は、CCDやCMOSセンサ等の撮像素子によって構成された撮像部2を有している。撮像部2は、信号処理及び制御部1によって、絞り、ピント、ズーム等が制御可能に構成されており、様々な構図、被写体に対応した撮像が可能である。
撮像部2は、信号処理及び制御部1によって駆動制御されて、被写体を撮像し、撮像画像を出力する。信号処理及び制御部1は、撮像部2に撮像素子の駆動信号を出力すると共に、撮像部2からの撮像画像を読み出す。この撮像画像の取り込みは読取部1aによって行われる。読取部1aは撮像部2から読み出した撮像画像を分配用仮記録部3に与える。
分配用仮記録部3は、撮像部2からの撮像画像を所定期間保存する容量を有し、撮像部2から読み出された撮像画像(動画及び静止画)を記憶保持する。
信号処理及び制御部1は、分配用仮記録部3に記録された撮像画像を読み出して画像処理する2系統の画像処理部1b,1cを有している。画像処理部1b,1cは、入力された画像に対して、所定の信号処理、例えば、色信号生成処理、マトリックス変換処理、その他各種の信号処理を行う。更に、画像処理部1b,1cは、入力画像をリサイズするリサイズ処理、入力画像の一部の領域の画像(以下、部分画像という)を生成する処理等の各種画像処理を行うことも可能に構成されている。なお、以後、入力画像の全領域の画像については、リサイズ処理の有無に拘わらず全体画像というものとする。
特徴判定部1dは、部分画像を生成するためにユーザによって入力画像の一部の領域(以下、部分指定領域という)を指定する操作(以下、部分指定操作という)が行われると、画像処理部1bから部分指定領域の画像情報が与えられて、人物の顔等の対象被写体の特徴量を判定し、判定結果を部分指定領域中に検出された対象被写体の情報として追尾部1eに出力する。追尾部1eは、順次入力される入力画像から対象被写体の特徴量が一致する部分を含む領域を追尾し、追尾結果を画像処理部1cに出力する。こうして、画像処理部1cは、部分指定操作によって対象被写体が指定されると、この対象被写体を含む画像部分を常に追尾しながら部分画像として生成することができるようになっている。
画像処理部1b,1cからの動画像及び静止画像は、画像選択部1fに与えられる。画像選択部1fは入力された動画像及び静止画像を選択して、表示制御部1gに与えると共に、S圧縮部1h、M圧縮部1i及びM圧縮部1jにも与える。
表示制御部1gは、入力された動画像及び静止画像を表示部5に与えて表示させるための表示処理を行う。表示部5はLCD等によって構成されており、表示制御部1gから与えられた動画像や静止画像を表示する。
一方、S圧縮部1hは入力された静止画像を圧縮して記録制御部1kに与え、M圧縮部1i,1jは入力された動画像を圧縮して記録制御部1kに与える。記録制御部1kは、圧縮された圧縮動画像及び圧縮静止画像を記録部4に与えて記録させる。記録部4は、記録制御部1kに制御されて、入力された圧縮動画像及び圧縮静止画像を記録する。記録部4としては、例えばカードインターフェースを採用することができ、記録部4はメモリカード等の記録媒体に画像情報及び音声情報等を記録可能である。
また、撮影機器10には、操作部6も設けられている。操作部6は、撮影モード設定等の各種スイッチやボタンを有しており、ユーザ操作に基づく操作信号を発生して信号処理及び制御部1に供給する。例えば、図1では、操作部6の具体例として、動画撮影操作部6a及び静止画撮影操作部6bを示している。動画撮影操作部6aは動画撮影を指示するためのものであり、動画撮影操作部6aが操作されることで、動画撮影を開始するための操作信号が信号処理及び制御部1に供給されるようになっている。また、静止画撮影操作部6bは静止画撮影を指示するためのものであり、静止画撮影操作部6bが操作されることで、静止画撮影を開始するための操作信号が信号処理及び制御部1に供給されるようになっている。信号処理及び制御部1は、操作信号に基づいて、各部を制御する。
更に、操作部6としてはタッチパネルを採用することもできる。例えば、操作部6としてのタッチパネルを表示部5の表示画面上に設けることで、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。これにより、ユーザは、表示部5の表示画面上に表示された画像中の所定の領域を部分指定領域として指定する操作を簡単に行うことができる。
信号処理及び制御部1は、各部を制御することで、ユーザ操作に基づく撮影モードを設定して、各撮影モードに応じた撮影機能を実現する。この場合において、信号処理及び制御部1は、動画撮影操作部6a及び静止画撮影操作部6bの操作のみによって、撮影モードを変更することができるようになっている。
次に、このように構成された実施の形態の動作について図2乃至図7を参照して説明する。
先ず、図2乃至図5を参照して、本実施の形態の撮影機器が有する撮影モードであるフォトインムービー、回想フォト及びマルチフレームについて説明する。図2乃至図4は夫々フォトインムービー、回想フォト及びマルチフレームの動作を示す説明図である。また、図5は入力画像及び部分画像の例を示す説明図である。図2乃至図4においては、連続した四角の枠によって、撮像部2からの画像を読み出す読取部1aの動画出力11aの各フレームを示している。
図2に示すフォトインムービーにおいては、動画出力11aの各フレームを夫々リサイズして得た動画11cが、M圧縮部1i,1jに供給されることを示している。M圧縮部1i,1jは、入力された動画11cに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、フォトインムービーにおける動画として記録される。
また、フォトインムービーにおいては、動画撮影中に、ユーザによって静止画撮影操作部6bの操作が行われた場合には、動画出力11aの各フレームのうち静止画撮影操作に対応するフレームの静止画11bがS圧縮部1hに与えられる。S圧縮部1hは、入力された静止画11bに対する圧縮処理を行い、圧縮静止画像を得る。この圧縮静止画像が、フォトインムービーにおける静止画として記録される。
図3に示す回想フォトにおいては、動画出力11aの各フレームは仮記録されている。回想フォトにおいては、動画撮影中に、ユーザによって静止画撮影操作部6bの操作が行われた場合には、動画出力11aの各フレームのうち静止画撮影操作に対応するフレームの静止画11bがS圧縮部1hに与えられる。S圧縮部1hは、入力された静止画11bに対する圧縮処理を行い、圧縮静止画像を得る。この圧縮静止画像が、回想フォトにおける静止画として記録される。
一方、静止画11bの前後のフレームは、リサイズされた後、静止画11bに関連する回想動画11dとしてM圧縮部1i,1jに供給される。M圧縮部1i,1jは、入力された回想動画11dに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、回想フォトにおける回想動画として記録される。
図4に示すマルチフレームにおいては、動画出力11aの各フレームを夫々リサイズして得た全体動画11eが、M圧縮部1i,1jに供給されることを示している。M圧縮部1i,1jは、入力された全体動画11eに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、マルチフレームにおける全体動画として記録される。
図5(a)は入力画像を示している。図5の例では、入力画像には、A〜Cの3人の人物が撮像されている。マルチフレームにおいて、ユーザが図5(a)の破線領域に示すように人物Aの顔を含む部分指定領域を指定する部分指定操作を行うものとする。そうすると、図5(b)に示す部分指定領域の画像(部分画像)が入力画像から抽出される。更に、特徴判定部1d,追尾部1eによって、入力画像中から部分画像が追尾され、以後、人物Aの部分画像が各フレームから抽出される。そして、動画出力11aの各フレームの部分画像からなる部分動画11fが、M圧縮部1i,1jに供給される。M圧縮部1i,1jは、入力された部分動画11fに対する圧縮処理を行い、圧縮動画像を得る。この圧縮動画像が、マルチフレームにおける部分動画として記録される。
次に、図6のフローチャートを参照して、カメラ撮影制御について説明する。
操作部6の操作によって撮影機器10に電源が投入されると、信号処理及び制御部1は、ステップS1においてスルー画の表示及び仮記録を開始する。即ち、信号処理及び制御部1は、撮像部2を駆動して被写体を撮影させる。読取部1aは、撮像部2からの撮像画像を読み出して、分配用仮記録部3に順次記録させる。分配用仮記録部3は、所定期間の撮像画像を順次記録する。
信号処理及び制御部1は、分配用仮記録部3に記録された撮像画像を順次読み出し、画像処理部1b又は1cに与える。画像処理部1b又は1cは、撮像画像に対して所定の画像信号処理を施した後、画像選択部1fを介して表示制御部1gに与える。表示制御部1gは、入力画像を表示部5に与えて表示させる。こうして、表示部5の表示画面上において、スルー画が表示される。
次に、信号処理及び制御部1は、ステップS2において、静止画撮影操作部6bが操作されたか否かを判定する。更に、信号処理及び制御部1は、ステップS5において、動画撮影操作部6aが操作されたか否かを判定する。
本実施の形態においては、信号処理及び制御部1は、ステップS2において静止画撮影操作部6bが操作されたと判断した場合には、回想フォトモードを設定し、ステップS5において動画撮影操作部6aが操作されたと判断した場合には、フォトインムービーモードを設定するようになっている。
ステップS2において静止画撮影操作部6bが操作されると、信号処理及び制御部1は、ステップS3において回想フォトにおける静止画撮影を行い、ステップS4において回想フォトにおける回想動画記録を行う。即ち、信号処理及び制御部1は、静止画撮影操作部6bの操作タイミングで読取部1aから取り込まれた撮像画像(静止画)を分配用仮記録部3から読み出して、画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された静止画を画像処理し画像選択部1fを介してS圧縮部1hに供給する。S圧縮部1hは入力された静止画を圧縮し、記録制御部1kは圧縮された静止画像を記録部4に与えて記録させる(ステップS3)。
また、信号処理及び制御部1は、分配用仮記録部3から読み出された静止画像の前後に記録されている動画像を読み出して画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された動画像をリサイズし、回想動画を画像選択部1fを介してM圧縮部1i又は1jに供給する。M圧縮部1i又は1jは入力された回想動画を圧縮し、記録制御部1kは圧縮された回想動画を記録部4に与えて記録させる(ステップS4)。
ステップS5において動画撮影操作部6aが操作されると、信号処理及び制御部1は、ステップS6においてフォトインムービーにおける動画撮影を行う。即ち、信号処理及び制御部1は、分配用仮記録部3に順次記録される動画像を読み出して画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された動画像をリサイズし、画像選択部1fを介してM圧縮部1i又は1jに供給する。M圧縮部1i又は1jは入力されたフォトインムービーにおける動画を圧縮し、記録制御部1kは圧縮された動画像を記録部4に与えて記録させる(ステップS6)。
このフォトインムービーモードにおいて、静止画撮影操作部6bの操作が行われると、信号処理及び制御部1は、ステップS7からステップS16を経由してステップS8に処理を移行し、静止画撮影を行う。即ち、信号処理及び制御部1は、静止画撮影操作部6bの操作タイミングで読取部1aから取り込まれた撮像画像(静止画)を分配用仮記録部3から読み出して、画像処理部1b又は1cに与える。画像処理部1b又は1cは入力された静止画を画像処理し画像選択部1fを介してS圧縮部1hに供給する。S圧縮部1hは入力された静止画を圧縮し、記録制御部1kは圧縮された静止画像を記録部4に与えて記録させる(ステップS8)。こうして、フォトインムービーにおける静止画記録が行われる。
また、信号処理及び制御部1は、フォトインムービーモードにおいて、ステップS7の静止画撮影操作部6bの操作が検出されなければ、ステップS9において終了操作が行われたか否かを判定し、行われていない場合には、処理をステップS10に移行して、部分指定操作の有無を判定する。
本実施の形態においては、フォトインムービーモードにおいて、部分指定操作が発生した場合にはマルチフレームモードに移行し、発生しない場合にはフォトインムービーを継続するようになっている。即ち、信号処理及び制御部1は、フォトインムービーモード時に、ステップS10において部分指定操作の発生を検出しない場合には、ステップS11においてマルチフレームへの移行が行われていないものと判定して、処理をステップS6に戻してフォトインムービーを継続し、部分指定操作の発生を検出した場合には、処理をステップS12に移行してマルチフレームモードを設定する。
マルチフレームモードにおいても、フォトインムービーモード時と同様に、入力画像をリサイズして得た全体画像を動画記録する。従って、信号処理及び制御部1は、マルチフレームモードに移行しても、分配用仮記録部3から動画像を読み出し、この動画像を画像処理部1bにおいてリサイズして全体画像を得、画像選択部1fを介してM圧縮部1i又は1jに与えて圧縮し、記録制御部1kにより記録部4において記録する。
また、マルチフレームモード時には、信号処理及び制御部1は、分配用仮記録部3から読み出した画像を画像処理部1cに与えて、部分指定操作に応じた部分画像を切り出す。この場合には、画像処理部1cは、追尾部1eによって追尾された部分画像を含む部分指定領域を切り出す。こうして、画像処理部1cからは部分画像からなる動画像が出力され、画像選択部1fを介してM圧縮部1i又は1jに供給されて圧縮され、記録制御部1kによって記録部4において記録される(ステップS13)。
更に、本実施の形態においては、マルチフレームモード時には、全体画像と部分画像とをピクチャインピクチャ表示することによって、利便性を向上させるようになっている。図7はマルチフレームモードにおける画面表示を説明するための説明図であり、図5と同一の入力画像が入力された場合の例を示している。
いま、図5(a)に示す入力画像が画像処理部1b,1cに入力されるものとする。図5(a)の例では、入力画像として、A〜Cの3人の人物が撮像されている。ユーザが図5(a)の破線領域に示すように人物Aの顔を含む部分指定領域を指定する部分指定操作を行うものとする。そうすると、図5(a)の破線部の部分指定領域の画像(部分画像)が入力画像から抽出される。更に、特徴判定部1d,追尾部1eによって、入力画像中から部分画像が追尾され、以後、人物Aの部分画像を含む領域が部分指定領域として画像処理部1cに指定される。
画像処理部1cは、追尾部1eの指示に従って、部分画像を追尾しながら切り出す。画像処理部1cは図5(b)に示す部分画像をそのまま画像選択部1fを介してM圧縮1i又は1jに出力すると共に、部分画像と全体画像とを合成した後、画像選択部1fを介して表示制御部1gに出力する。
即ち、画像処理部1cは、図7(a)に示すように、表示部5の表示画面5aの略全域のメイン表示領域5bに全体画像に基づくメイン画像を配置し、表示画面5aの一部領域(以下、サブ表示領域という)5cに部分画像をサブ画像として配置するように、全体画像と部分画像との合成を行う。即ち、この場合には、画像処理部1cは、部分画像をサブ画像化することになる(ステップS12)。
信号処理及び制御部1は、マルチフレームモード時には、ステップS14において、ユーザーがサブ表示領域5cをタッチしたか否かを判定する。信号処理及び制御部1は、ユーザがサブ表示領域5cをタッチした場合には、ステップS15において、現在のサブ画像をメイン画像化し、現在のメイン画像をサブ画像化する。
図7(b)はこの状態を示しており、図7(a)の状態においてサブ表示領域5cがタッチされると、サブ表示領域5cに表示されていたサブ画像である部分画像がメイン画像としてメイン表示領域5bに表示され、メイン表示領域5bに表示されていたメイン画像である全体画像がサブ画像としてサブ表示領域5cに表示される。なお、図7(b)の状態においてサブ表示領域5cがタッチされると、サブ表示領域5cに表示されていたサブ画像である全体画像がメイン画像としてメイン表示領域5bに表示され、メイン表示領域5bに表示されていたメイン画像である部分画像がサブ画像としてサブ表示領域5cに表示される。即ち、図7(a)の表示に戻る。
信号処理及び制御部1は、マルチフレームモード時において、ユーザが静止画撮影操作部6bを操作したことを、ステップS7において検出すると、フォトインムービーモードに移行する。この場合には、マルチフレームモードからフォトインムービーモードに移行する場合であるので、ステップS16からステップS17に処理が移行して、静止画撮影が行われる。
本実施の形態においては、ステップS17の静止画撮影の直前においては、図7(a),(b)に示すように、表示部5の表示画面5a上には、全体画像と部分画像とが合成表示されている。そこで、ステップS17のフォトインムービーにおける静止画撮影では、全体画像及び部分画像並びに全体画像と部分画像の合成画像の全ての静止画像を記録するようになっている。即ち、画像処理部1b,1cからの全体画像が画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。また、画像処理部1cは、部分画像を切り出しており、この部分画像は画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。また、画像処理部1cは、全体画像と部分画像との合成画像を生成している。即ち、部分画像がサブ画像化された合成画像と全体画像がサブ画像化された合成画像の2つの合成画像は、画像選択部1fを介してS圧縮部1hに供給されて圧縮され、記録制御部1kによって記録部4において記録される。こうして、マルチフレームモードから、静止画撮影操作部6bの操作によってフォトインムービーモードに移行した場合には、全体画像、部分画像、全体画像と部分画像との2枚の合成画像からなる4枚の静止画像が記録される。
このように本実施の形態においては、撮像画像を仮記録すると共に、仮記録された入力画像を画像処理する複数系統の画像処理部と複数系統の画像圧縮部とを設け、動画撮影操作部の操作及び静止画撮影操作部の操作を検出することで、回想フォト、フォトインムービー及びマルチフレームの各モードの切換を行うようになっており、これらの撮影モードへの移行及び撮影に要する時間を短縮することができ、シャッターチャンスにおいて確実な撮影を可能にすることができる。
また、マルチフレームモードにおいては、全体画像と部分画像との合成画像を表示することができ、利便性に優れている。更に、マルチフレームモードからフォトインムービーモードに移行した場合には、静止画撮影操作部の操作によって、全体画像、部分画像及び全体画像と部分画像との合成画像の静止画像を得ることができるという利点もある。
(第2の実施の形態)
図8は本発明の第2の実施の形態を示すブロック図である。図8において図1と同一の構成要素には同一符号を付して説明を省略する。
第1の実施の形態においては、マルチフレームモードからフォトインムービーモードに移行した場合には、全体画像、部分画像、全体画像と部分画像との2枚の合成画像からなる4枚の静止画像を記録する例について説明した。しかしながら、フォトインムービーモード時には、入力画像をリサイズして得た動画像も記録しており、分配用仮記録部の記録容量、画像処理部及び画像圧縮部の系統数や処理能力によっては、4枚全ての静止画像を記録することができるとは限らない。なお、フォトインムービー時に記録すべき静止画を分配用仮記録部に長時間保持し、動画記録の終了の後分配用仮記録部から記録すべき静止画を読み出すようにすれば、4枚全ての静止画像を記録することも可能であるが、静止画像を静止画撮影操作部の操作直後に記録することができないことから、必ずしも利便性に優れているとは言えない。
図8の撮影機器20は、信号処理及び制御部1に代えて信号処理及び制御部21を採用した点が第1の実施の形態と異なる。信号処理及び制御部21の画像処理部21b、画像処理部21c、画像選択部21f、S圧縮部21h、M圧縮部21i及びM圧縮部21jは、夫々、画像処理部1b、画像処理部1c、画像選択部1f、S圧縮部1h、M圧縮部1i及びM圧縮部1jと同様の機能を有するが、動画像を略実時間で処理する処理能力しか有していない。従って、画像処理部21b,21cは、夫々同時に2つの動画像に対する処理はできず、また、同時に動画像と静止画像とに対する処理を行うこともできない。同様に、S圧縮部21h、M圧縮部21i及びM圧縮部21jは、夫々同時に2つの動画像に対する処理はできず、また、同時に動画像と静止画像とに対する処理を行うこともできない。
従って、本実施の形態のような2系統の処理回路を用いた場合には、同時には2つの動画像の記録処理しかできず、また、同時には1つの動画像と1つの静止画像の記録処理しかできないことが考えられる。
本実施の形態においても、信号処理及び制御部21は、図6のフローチャートに従って、回想フォトモード、フォトインムービーモード及びマルチフレームモードの切換えが可能である。しかしながら、マルチフレームモードから静止画撮影操作部6bの操作によってフォトインムービーモードに移行した場合でも、1つの動画像と1つの静止画像の記録しかできない。
そこで、本実施の形態においては、信号処理及び制御部21は、追尾されている部分指定領域の部分画像の状態によって、1つの動画と1つの静止画とを選択して記録するようになっている。即ち、信号処理及び制御部21は、追尾が成功しているか否かを判定する。例えば、信号処理及び制御部21は、追尾中の部分指定領域に部分画像の大部分が含まれる場合には、追尾が成功していると判定する。この場合には、信号処理及び制御部21は、例えば部分画像から得た静止画像を記録する。また、追尾中の部分指定領域に部分画像の大部分が含まれる状態でない場合には、追尾が成功していないものとして、信号処理及び制御部21は、例えば、全体画像を静止画として記録する。
次に、このように構成された実施の形態の動作について図9乃至図16を参照して説明する。図9乃至図11及び図16は本実施の形態の動作を説明するための説明図であり、図12乃至図15は本実施の形態の動作を説明するためのフローチャートである。
本実施の形態においては、マルチフレームモードからフォトインムービーモードに移行した場合における動作のみが第1の実施の形態と異なる。マルチフレームモードからフォトインムービーモードに移行した場合には、画像処理部21b,21cからは、2つの動画像、又は1つの動画像と1つの静止画像とが出力される。画像処理部21cは動画像をM圧縮部21jに与える。画像処理部21bは動画像又は静止画像を出力し、画像処理部21bが動画像を出力する場合には、画像選択部21fは動画像をM圧縮部21iに与え、画像処理部21bが静止画像を出力する場合には、画像選択部21fは静止画像をS圧縮部21hに与える。
図9はマルチフレームモードからフォトインムービーモードに移行した場合において、記録可能な動画像と静止画像との例を示している。図9(a)はマルチフレームモードにおいて、入力画像をリサイズして得た全体画像に基づく動画像31aと部分指定領域の部分画像31bの動画像を記録している状態において、静止画撮影操作部6bの操作によってフォトインムービーに移行した場合に、部分画像31bから得た静止画31cを記録する状態を示している。この場合には、部分画像31bによる動画像は一時停止し、部分画像31bに基づく静止画像31cが得られる。
一方、図9(b)はマルチフレームモードにおいて、入力画像をリサイズして得た全体画像に基づく動画像32bと部分指定領域の部分画像32aの動画像を記録している状態において、静止画撮影操作部6bの操作によってフォトインムービーに移行した場合に、全体画像から得た静止画32cを記録する状態を示している。この場合には、入力画像からリサイズして得た全体画像に基づく動画像の記録は一時停止し、全体画像に基づく静止画像32cが得られる。
なお、図9の処理はマルチフレームモードにおいて静止画撮影操作部6bが操作された場合に、マルチフレームモードにおいて記録する2つの動画像の一方の動画像の記録を継続したまま、他方の動画像の記録を一時停止して、静止画撮影操作部6bの操作時点における静止画像を得るものであり、この点ではフォトインムービーモードへの移行というよりもマルチフレームモードにおける静止画記録であるが、説明の便宜上、図9の例もマルチフレームモードからフォトインムービーモードへの移行として扱う。
また、マルチフレームモード時における2つの動画記録の一方のみを継続し、他方の動画記録を停止し、一方の動画記録の元となった画像を静止画記録するようにしてもよい。即ち、この場合には、リサイズされた全体画像を動画記録すると共に全体画像の静止画記録が可能であり、また、入力画像中の部分指定領域における部分画像を動画記録すると共にこの部分画像を静止画として記録することもできる。
図10はマルチフレームモードからフォトインムービーモードへの移行時において撮像中の一連の入力画像の一例を示しており、被写体が図10(a)の状態から図10(b)の状態を経て図10(c)の状態に変化したことを示している。なお、図10は被写体として3人の人物A〜Cが撮影されたものであり、そのうちの人物Aの顔を含む領域が部分指定領域として指定されたことを示している。また、図11は部分画像を示しており、図11(a)乃至(c)は、夫々図10(a)乃至 (c)の入力画像中の破線で示す部分指定領域における部分画像を示している。
マルチフレームモードにおいては、入力画像をリサイズして得た全体画像に基づく動画像と入力画像中の部分指定領域の部分画像による動画像とが記録される。いま、図10(a)に示す入力画像35aに対して、破線に示す部分指定領域36aが設定されるものとする。追尾部21eは、入力画像35b,35cのように変化した場合でも追尾を行って、部分指定領域36b,36cを検出する。マルチフレームモードでは、入力画像35a乃至35cをリサイズして得た全体画像に基づく動画像と、部分指定領域36a〜36cに対応した部分画像37a〜37c(図11)とが記録される。
このような入力画像に対して、ユーザーが入力画像35bのタイミングで静止画撮影操作部6bを操作してフォトインムービーモードに移行するものとする。この場合には、例えば図9(a)の記録方法を採用すると、部分画像37bが静止画として記録されることになる。また、図9(b)の記録方法を採用すると、入力画像35bに基づく全体画像が静止画として記録されることになる。
図10の入力画像37a〜37cによる動画像は、全体の動きが見えるので、撮影を中断しない方がよいと考えられる。また、図11(a)の部分画像37aによる静止画像は、ユーザが指定した部分指定領域の部分画像が画面の大部分を占めており、主題がはっきりして迫力がある。従って、図10及び図11の例では、入力画像をリサイズした全体画像に基づく動画記録を継続すると共に、部分画像の動画記録を停止して、部分画像を静止画記録するようにした方がよい。
しかしながら、図10(a)では部分指定領域として、人物Aの顔を含む領域が指定さ
れているが、図11(b)の部分画像37bは、人物Aの部分画像の大部分が人物Cに遮
られて写っていない。従って、部分画像37bはユーザが満足しない静止画であると考え
られる。そこで、本実施の形態においては、部分画像の追尾結果に従って、記録する動画
及び静止画を制御するようになっている。
図12は信号処理及び制御部21によるこの制御を示している。なお、図12は動画撮影中、特にマルチフレームモード時に静止画撮影を行う場合の処理を示しており、図6のステップS17の中で行われる処理を示している。信号処理及び制御部21は、マルチフレームモードから静止画撮影操作部6bの操作によってフォトインムービーモードに移行した場合には、図12のフローに従って記録を行う。即ち、ステップS21においてはマルチフレームモードから静止画撮影操作部6bの操作によってフォトインムービーモードに移行したか否かが判定される。マルチフレームモードからの移行でない場合には、処理をステップS7,S8に移行して、フォトインムービーモードにおける静止画撮影が行われる。
マルチフレームモードからの移行の場合には、信号処理及び制御部21は、ステップS22において部分動画が追尾可能であるか否かを判定する。なお、本実施の形態においては、追尾部1eの追尾処理が完全に行われている場合でも、部分指定領域において部分画像の大部分が消失している場合等においては、追尾不能であるものと判定する。
追尾可能な場合には、信号処理及び制御部21は、ステップ23において入力画像をリサイズした全体画像を動画記録し、ステップS24において部分画像を静止画記録する。
即ち、図9(a)の記録方法を採用する。
一方、追尾不能な場合には、信号処理及び制御部21は、ステップ25において入力画像をリサイズした全体画像を動画記録し、ステップS26において全体画像を静止画記録する。即ち、この場合には、入力画像をリサイズした全体画像を動画記録処理を継続すると共に、部分画像の動画像記録を停止し、全体画像を静止画記録する。
即ち、信号処理及び制御部21は、動画としては全体の動きが分かる方が状況が分かって楽しめるので、マルチフレームモードにおいて静止画撮影操作部6bが操作された場合には、入力画像をリサイズした全体画像を動画記録する処理は継続する。一方、信号処理及び制御部21は、狭い画角での部分画像の動画像化は諦め、追尾可能な場合には部分画像を静止画記録し、追尾不能な場合には、全体画像を静止画記録する。
図13及び図14は信号処理及び制御部21による他の制御を示している。図12の制御は、部分画像の追尾が不能と判定した場合には、全体画像を静止画として記録するものであった。しかし、図7のように、表示画面5a上にメイン画像とサブ画像を同時に表示し、全体画像と部分画像のいずれかをユーザの選択操作によってメイン画像に指定することができる場合には、ユーザはメイン画像を静止画として記録することを希望していると考えられる。図13及び図14の例はこの場合に対応したものである。図13及び図14において夫々図6又は図12と同一の手順には同一符号を付して説明を省略する。
なお、マルチフレームモードにおいて、図7に示すように、メイン画像とサブ画像とを合成表示する機能を有していない撮影機器においては、図12のフローチャートを採用した制御が行われる。
図13のステップS41において、信号処理及び制御部21の追尾部21eは部分画像の追尾を開始する。また、信号処理及び制御部21は、部分画像を分配用仮記録部3にコマ記録する。ステップS43において信号処理及び制御部21は部分画像の追尾が可能であったか否かを判定し、追尾可能な場合には、ステップS44においてコマ記録した部分画像をクリアする。
従って、部分画像の追尾が不能となった場合には、追尾不能となる前の追尾可能状態における部分画像のコマ画像が、分配用仮記録部3に記録されていることになる。
図14は動画撮影中、特にマルチフレームモード時に静止画撮影を行う場合の処理を示しており、図6のステップS17の中で行われる処理を示している。図14においては、信号処理及び制御部21は、ステップS31において全体画像がサブ画像であるか否かを判定する。即ち、マルチフレームモードにおいて、ユーザの操作によって図7(b)の表示が行われている場合には、ユーザは静止画撮影操作部6bを操作すると部分画像の静止画が記録されるものと考えている可能性がある。そこで、全体画像がサブ画像である場合には、信号処理及び制御部21は、部分画像の追尾が可能なときには、ステップ32において部分画像を動画記録し、ステップS33において部分画像を静止画記録する。また、信号処理及び制御部21は、部分画像の追尾が不能な場合には、ステップ34において部分画像を動画記録し、ステップS35において追尾可能なタイミングにおける部分画像を静止画記録する。例えば、図10及び図11の例では、図11(a)に示す部分画像が静止画記録される。これにより、ユーザが希望する動画及び静止画を記録することが可能となる。
図15及び図16は信号処理及び制御部21による他の制御を示している。図13及び図14の制御は、メイン画像に指定された画像を動画記録及び静止画記録するものであった。しかし、ユーザは図7のように、表示画面5a上に表示されたメイン画像とサブ画像の合成画像を静止画記録したいと考えることも想定される。図15及び図16の例はこの場合に対応したものである。図15において図14と同一の手順には同一符号を付して説明を省略する。
図15は動画撮影中、特にマルチフレームモード時に静止画撮影を行う場合の処理を示しており、図6のステップS17の中で行われる処理を示している。図15のフローにおいても、信号処理及び制御部21は、ステップS31において、全体画像がサブ画像であるか否かが判定される。
図16(a)は、表示部5の表示画面41aの略全域のメイン表示領域41bに全体画像に基づくメイン画像を配置し、表示画面41aのサブ表示領域41cに部分画像をサブ画像として配置するように、全体画像と部分画像との合成が行われた例を示している。表示画面41a中の破線は部分指定領域を示している。一方、図16(b)は、メイン表示領域41bに部分画像に基づくメイン画像が配置され、サブ表示領域41cに全体画像に基づくサブ画像が配置された例を示している。
信号処理及び制御部21は、図16(b)のように全体画像がサブ画像である場合には、ステップS22において部分画像の追尾が可能であるか否かを判定する。信号処理及び制御部21は、部分画像の追尾が可能な場合には、ステップ32において部分画像を動画記録し、ステップS41において部分画像をメイン画像とし全体画像をサブ画像とした合成画像を静止画記録する。
図16(b)は部分画像の追尾が不能な状態を示しており、この場合には、信号処理及び制御部21は、ステップ34において部分画像を動画記録し、ステップS42において全体画像をメイン画像とし部分画像をサブ画像とした合成画像、即ち、図16(a)に対応した合成画像を静止画記録する。
なお、全体画像がサブ画像でない場合には、信号処理及び制御部21は、ステップ25において入力画像をリサイズした全体画像を動画記録し、ステップS42において全体画像をメイン画像とし部分画像をサブ画像とした合成画像を静止画記録する。
このように本実施の形態においては、同時には、2つの動画像を記録するか、又は1つの動画像と1つの静止画像の記録しかできない場合には、部分画像の追尾結果に従って、記録する動画像と静止画像を決定する。例えば、動画像としては、全体の動きが分かるように、入力画像をリサイズした全体画像に基づく動画像を記録すると共に、静止画像としては、部分指定領域の部分画像を追尾可能な場合には、部分画像を記録し、追尾不能な場合には全体画像を記録する。これにより、第1の実施の形態と同様の効果が得られると共に、回路規模が小さい場合でも、よりユーザの希望にそった撮影が可能である。
1…信号処理及び制御部、1a…読取部、1b,1c…画像処理部、1d…特徴判定部、1e…追尾部、1f…画像選択部、1g…表示制御部、1h…S圧縮部、1i,1j…M圧縮部、1k…記録制御部、2…撮像部、3…分配用仮記録部、4…記録部、5…表示部、6…操作部、6a…動画撮影操作部、6b…静止画撮影操作部。

Claims (8)

  1. 被写体を撮像して得た撮像画像を出力する撮像部と、
    前記撮像画像を記録する記録部と、
    前記撮像部において出力された前記撮像画像のうち第1の領域における動画像である第1動画像を取得する第1領域画像取得部と、
    前記第1の領域のうち所定の一部領域を第2の領域として指定する領域指定手段と、
    前記領域指定手段によって指定された前記第2の領域における動画像である第2動画像を取得する第2領域画像取得部と、
    前記第2の領域における前記第2動画像を追尾するよう指示する追尾指示手段と、
    前記追尾指示手段により追尾指示がなされた際に、追尾動作を制御すると共に、前記第1動画像と前記第2動画像との少なくとも一方に係る静止画像を前記記録部に記録せしめる制御部と、
    前記第1動画像と前記第2動画像とを同一画面上において合成表示するよう制御する合成表示制御部と、
    を具備し、
    前記合成表示制御部は、前記第2動画像が追尾される場合には、前記第1動画像と前記第2動画像とのいずれか一方をメイン画像とし、他方をサブ画像として合成表示制御し、
    前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、前記第2動画像が追尾される場合には、前記第2動画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする撮影機器。
  2. 前記制御部は、前記第2動画像が追尾される場合には、前記第2動画像を前記記録部に記録すると共に、前記第2動画像に係る前記静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項1に記載の撮影機器。
  3. 前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、追尾されていた前記第2動画像の追尾がされない状態に至った際には、追尾されていた前記第2動画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項1または2に記載の撮影機器。
  4. 前記制御部は、追尾されていた前記第2動画像の追尾がされない状態に至った際には、前記第2動画像を前記記録部に記録すると共に、追尾されていた前記第2動画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項3に記載の撮影機器。
  5. 被写体を撮像して得た撮像画像を出力する撮像部と、
    前記撮像画像を記録する記録部と、
    前記撮像部において出力された前記撮像画像のうち第1の領域における動画像である第1動画像を取得する第1領域画像取得部と、
    前記第1の領域のうち所定の一部領域を第2の領域として指定する領域指定手段と、
    前記領域指定手段によって指定された前記第2の領域における動画像である第2動画像を取得する第2領域画像取得部と、
    前記第2の領域における前記第2動画像を追尾するよう指示する追尾指示手段と、
    前記追尾指示手段により追尾指示がなされた際に、追尾動作を制御すると共に、前記第1動画像と前記第2動画像との少なくとも一方に係る静止画像を前記記録部に記録せしめる制御部と、
    前記第1動画像と前記第2動画像とを同一画面上において合成表示するよう制御する合成表示制御部と、
    を具備し、
    前記合成表示制御部は、前記第2動画像が追尾される場合には、前記第1動画像と前記第2動画像とのいずれか一方をメイン画像とし、他方をサブ画像として合成表示制御し、
    前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、前記第2動画像が追尾される場合には、前記第2動画像を前記メイン画像とした合成画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする撮影機器。
  6. 前記制御部は、前記第2動画像が追尾される場合には、前記第2動画像を前記記録部に記録すると共に、前記第2動画像を前記メイン画像とした合成画像に係る前記静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項5に記載の撮影機器。
  7. 前記制御部は、前記合成表示制御部により前記第1動画像がサブ画像として合成表示制御された際において、追尾されていた前記第2動画像の追尾がされない状態に至った際には、前記第1動画像を前記メイン画像として合成画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項5または6に記載の撮影機器。
  8. 前記制御部は、追尾されていた前記第2動画像の追尾がされない状態に至った際には、前記第2動画像を前記記録部に記録すると共に、前記第1動画像を前記メイン画像とした合成画像に係る静止画像を前記記録部に記録せしめる
    ことを特徴とする請求項7に記載の撮影機器。
JP2016130014A 2016-06-30 2016-06-30 撮影機器 Expired - Fee Related JP6205464B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016130014A JP6205464B2 (ja) 2016-06-30 2016-06-30 撮影機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016130014A JP6205464B2 (ja) 2016-06-30 2016-06-30 撮影機器

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015145798A Division JP5965037B2 (ja) 2015-07-23 2015-07-23 撮影機器

Publications (2)

Publication Number Publication Date
JP2016174425A JP2016174425A (ja) 2016-09-29
JP6205464B2 true JP6205464B2 (ja) 2017-09-27

Family

ID=57009308

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016130014A Expired - Fee Related JP6205464B2 (ja) 2016-06-30 2016-06-30 撮影機器

Country Status (1)

Country Link
JP (1) JP6205464B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001094919A (ja) * 1999-09-20 2001-04-06 Canon Inc 画像記録装置、方法、及びコンピュータ読み取り可能な記憶媒体
JP4890918B2 (ja) * 2006-04-07 2012-03-07 オリンパスイメージング株式会社 再生装置、再生画像の選択方法、プログラム
JP5111088B2 (ja) * 2007-12-14 2012-12-26 三洋電機株式会社 撮像装置及び画像再生装置
JP2009147824A (ja) * 2007-12-17 2009-07-02 Toshiba Corp 撮像装置及び撮像方法
JP5268671B2 (ja) * 2009-01-20 2013-08-21 キヤノン株式会社 画像記録装置
JP2011087257A (ja) * 2009-10-19 2011-04-28 Panasonic Corp 半導体集積回路及び撮像装置

Also Published As

Publication number Publication date
JP2016174425A (ja) 2016-09-29

Similar Documents

Publication Publication Date Title
KR102077967B1 (ko) 전자 기기
JP4980779B2 (ja) 撮影装置、方法およびプログラム
JP3962871B2 (ja) 電子カメラ及び電子ズーム方法
CN106851088B (zh) 摄像装置、摄像方法
JPH10240436A (ja) 情報処理装置および記録媒体
JP4180083B2 (ja) パノラマ画像作成装置及びパノラマ画像撮影装置
JP2008022306A (ja) 撮像装置及びそのプログラム
JP5876991B2 (ja) 撮影機器、撮影方法及び再生方法
JP5785038B2 (ja) 撮影機器
JP5694097B2 (ja) 撮影機器
JP4992215B2 (ja) 撮像装置、及びプログラム
JP5965037B2 (ja) 撮影機器
JP6957131B2 (ja) 情報端末装置、撮像装置、画像情報処理システム及び画像情報処理方法
JP6205464B2 (ja) 撮影機器
JP5942002B2 (ja) 撮影機器および撮影機器の制御方法
US9438822B2 (en) Image processing device, display device, image processing method, and computer-readable recording medium
JP5181453B2 (ja) 画像表示装置、及び画像表示方法、プログラム
JP2006020105A (ja) 撮像装置、スロット写真撮影方法、及びプログラム
JP2020061760A (ja) 撮像装置
JP4408397B2 (ja) 撮影装置および撮影方法およびプログラム
JP6569188B2 (ja) 撮像装置
JP5370577B2 (ja) 構図選択装置及びプログラム
JP5589615B2 (ja) 撮像装置
JP2005347885A (ja) 撮像装置、撮影範囲調整方法及びプログラム
JP2013102385A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160630

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170904

R151 Written notification of patent or utility model registration

Ref document number: 6205464

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees