JP6032987B2 - 画像出力装置および画像出力装置の作動方法 - Google Patents

画像出力装置および画像出力装置の作動方法 Download PDF

Info

Publication number
JP6032987B2
JP6032987B2 JP2012164028A JP2012164028A JP6032987B2 JP 6032987 B2 JP6032987 B2 JP 6032987B2 JP 2012164028 A JP2012164028 A JP 2012164028A JP 2012164028 A JP2012164028 A JP 2012164028A JP 6032987 B2 JP6032987 B2 JP 6032987B2
Authority
JP
Japan
Prior art keywords
image
scoring
unit
devices
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012164028A
Other languages
English (en)
Other versions
JP2014027365A (ja
JP2014027365A5 (ja
Inventor
浩一 新谷
浩一 新谷
聡司 原
聡司 原
憲 谷
憲 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2012164028A priority Critical patent/JP6032987B2/ja
Priority to CN201310311302.6A priority patent/CN103581548B/zh
Publication of JP2014027365A publication Critical patent/JP2014027365A/ja
Publication of JP2014027365A5 publication Critical patent/JP2014027365A5/ja
Application granted granted Critical
Publication of JP6032987B2 publication Critical patent/JP6032987B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、複数の機器による撮影によって最適な画像を得る画像出力装置および画像出力装置の作動方法に関する。
近年、デジタルカメラなどの撮影機能付き携帯機器(撮影機器)は、画像処理を駆使して、様々な撮影機能を備えている。また、撮影機器においては、通信機能を備えたものもあり、撮影して得た画像を他の機器やネットワーク上に伝送することも可能である。
例えば、自分の周りで起こった日常を撮影して得た撮影画像を、インターネット等のネットワーク上にアップロードして、第3者との間で画像を共有して楽しむこともできる。例えば、特許文献1においては、所定地域範囲で発信されたコンテンツのみを検索して、中継配信制御サーバに配信要求を行うようにした中継配信方法が開示されている。
特開2012−4629号公報
しかしながら、従来のライブ映像等の配信サービスや特許文献1の技術では、視聴者が視聴したい画像を容易に取得することはできないという問題があった。
本発明は、簡単な操作で、視聴者が視聴したい画像を容易に取得することができる画像出力装置および画像出力装置の作動方法を提供することを目的とする。
本発明の一態様に係る画像出力装置は、被写体を撮像して得た撮像画像を出力する撮像部と、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する採点部と、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内において採点を行った採点情報を上記1つ以上の他の機器から受信して、受信した1つ以上の採点情報と上記採点部による採点情報とを比較する比較部と、上記比較部の比較結果に基づいて所定の採点情報が得られる画像のみの送信要求を出力して、自機及び上記1つ以上の他の機器からの画像による連携画像の生成を可能にする画像要求部と、を具備する。
本発明の他の態様に係る画像出力装置は、被写体を撮影して得た撮像画像を出力する撮像部と、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する採点部と、上記採点部の採点結果を採点情報として送信する採点結果送信部と、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内で採点を行った採点情報と上記採点部による採点情報との比較に基づく画像のみの送信要求に対して、対応する画像を送信する画像送信部と、を具備する。
本発明の一態様に係る画像出力装置の作動方法は、被写体を撮像して得た撮像画像を出力する撮像部を備える画像出力装置の作動方法であって、採点部が、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する工程と、比較部が、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内において採点を行った採点情報を上記1つ以上の他の機器から受信して、受信した1つ以上の採点情報と上記採点部による採点情報とを比較する工程と、画像要求部が、上記比較部の比較結果に基づいて所定の採点情報が得られる画像のみの送信要求を出力して、自機及び上記1つ以上の他の機器からの画像による連携画像を生成する工程と、を有する。
本発明の他の態様に係る画像出力装置の作動方法は、被写体を撮影して得た撮像画像を出力する撮像部を備える画像出力装置の作動方法であって、採点部が、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する工程と、採点結果送信部が、上記採点部の採点結果を採点情報として送信する工程と、画像送信部が、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内で採点を行った採点情報と上記採点部による採点情報との比較に基づく画像のみの送信要求に対して、対応する画像を送信する工程と、を有する。
本発明によれば、簡単な操作で、視聴者が視聴したい画像を容易に取得することができるという効果を有する。
本発明の第1の実施の形態に係る撮影機器の回路構成を示すブロック図。 カメラ制御を説明するためのフローチャート。 本発明の第2の実施の形態を示すブロック図。 探索指示書に含まれる情報を示す説明図。 親カメラCAの動作フローを示すフローチャート。 子カメラの動作フローを示すフローチャート。 表示部20の表示画面20a上の表示例を示す説明図。 第2の実施の形態の通信を説明するための説明図。 第3の実施の形態を示す説明図。 第3の実施の形態の動作を説明するためのフローチャート。 第3の実施の形態の動作を説明するためのフローチャート。 採点(点数算出)処理を示すフローチャート。 図12のステップS84の点数K計算処理の具体的なフローを示すフローチャート。 点数K計算処理のためのテーブルの一例を示す説明図。 ネゴシエーションを可能にするネゴシエーションモードにおける画面表示の例を示す説明図。 探索指示書受信時の表示例を示す説明図。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る画像出力装置を適用した撮影機器の回路構成を示すブロック図である。
撮影機器1は、本体部10及び本体部10の前面に設けられた撮影レンズ部30によって構成される。撮影レンズ部30には、撮影レンズ31及び絞り32が設けられている。撮影レンズ部30にはドライバ33及びマイコン34も設けられており、ドライバ33は、マイコン34に制御されて、撮影レンズ31及び絞り32を駆動し、フォーカシングや絞り調整等を行うようになっている。
マイコン34は、インタフェース(I/F)29を介して本体部10と接続されており、本体部10の通信部28を介して後述する制御部11との間で情報の授受を行うようになっている。これにより、マイコン34は、本体部10の制御部11の指示に従って、撮影レンズ部30の各部を制御すると共に、撮影レンズ部30に関する情報を制御部11に送信することができるようになっている。
本体部10には、CCDやCMOSセンサ等の撮像素子によって構成された撮像部12が設けられている。撮影機器1の前面に設けた撮影レンズ部30の撮影レンズ31を含む光学系からの被写体の光学像は、撮像部12を構成する撮像素子の撮像面に結像するようになっている。撮像部12は、制御部11によって駆動制御されて、撮像した被写体像を光電変換して撮像画像を得る。
制御部11は、フラッシュメモリ14に格納されたプログラムに従って動作して、本体部10の各部を制御する。例えば、制御部11は、撮像部12に撮像素子の駆動信号を出力すると共に、撮像素子が光学像を光電変換して得た画像信号をバス13を介して取り込む。
画像処理部15は、SDRAM23を作業用のメモリとして用いて、撮像部12の光電変換によって得られた画像信号に対して、所定の信号処理、例えば、色信号生成処理、マトリックス変換処理、その他各種のデジタル処理を行う。画像処理部15は、撮像画像の記録に際して、符号化処理を施して圧縮した画像情報及び音声情報等を出力することもできるようになっている。
また、撮影機器1には、操作制御部16及び時計部18も配設されている。時計部18は制御部11が用いる時間情報を発生する。操作制御部16は、撮影機器1に設けられた図示しないレリーズボタンや撮影モード設定等の各種操作スイッチ等の操作部17に対するユーザ操作に基づく操作信号を発生して、制御部11に出力するようになっている。
また、本体部10には、表示制御部19及び記録再生制御部21が設けられている。記録再生制御部21は、制御部11からの画像情報及び音声情報を記録媒体22に与えて記録することができるようになっている。記録再生制御部21としては、例えばカードインターフェースを採用することができ、記録再生制御部21はメモリカード等の記録媒体22に画像情報及び音声情報等を記録可能である。また、記録再生制御部21は、記録媒体22に記録された画像情報及び音声情報を読み出して画像処理部15に供給することができる。画像処理部15は、記録再生制御部21によって再生された画像情報及び音声情報を復号化して、画像信号及び音声信号を得ることができるようになっている。また、図示していないが、音声取得部としてマイクが、被写体からの声や音を収音可能に、カメラ前面や上面に設けられている。
表示制御部19は、撮像部12からの撮像画像や記録再生制御部21からの再生画像を表示部20に与えて、これらの画像を表示させるようになっている。また、表示制御部19は、撮影機器1の操作を行うためのメニュー表示、アイコン表示等を表示部20に表示させることもできるようになっている。表示部20は、本体部10の例えば背面に設けられており、撮影者は、撮影時に表示部20の表示画面を視認可能になっている。表示部20としては、LCDパネル等を採用可能である。
本実施の形態においては、カメラ間通信部25及び外部通信部26が設けられている。カメラ間通信部25、制御部11に制御されて、図1の撮影機器1と同一構成の他の撮影機器との間で通信を行って、情報を送受することができるようになっている。また、外部通信部26は、制御部11に制御されて、図示しない外部機器との間で通信を行って、情報を送受することができるようになっている。なお、カメラ間通信部25及び外部通信部26としては、種々の伝送路を採用することができ、例えば、LAN等の有線ケーブルを採用した有線伝送路、無線LAN、ブルートゥース(登録商標)、WiMAXや電話回線網等を採用した無線伝送路等を用いることができる。
制御部11は、通常の撮影モードを指定して、本体部10の各部を制御すると共に、撮影機器1と同一構成の他の複数の撮影機器との間で連携して撮影を行う連携撮影モードを指定して各部を制御することができるようになっている。制御部11は、連携撮影モードを実現するための機能部を有している。即ち、制御部11は、条件決定部11a、画像採点部11b、採点比較部11c、画像選択部11d、画像要求部11e及び選択画像送信部11fを備える。
条件決定部11aは、連携撮影モードにおける連携撮影の条件(以下、連携撮影条件という)を決定する。例えば、条件決定部11aは、撮影される人物の笑顔や泣き顔等の特定の表情を連携撮影条件として設定してもよく、撮影される人物が特定の人物であることを連携撮影条件としてもよい。条件決定部11aは、決定した連携撮影条件をカメラ間通信部25を介して他の撮影機器に送信する。例えば、条件決定部11aは、特定の人物の顔の特徴量を送信することで、全ての撮影機器において同一の人物が撮影されていることを判定することも可能である。
本実施の形態においては、画像採点部11bは、条件決定部11aが決定した連携撮影条件に基づいて、撮像部12が撮像した撮像画像を採点するようになっている。例えば、連携撮影条件として泣き顔が設定されている場合には、撮像画像中の人物が泣き顔であった場合に、画像採点部11bは点数を高くする。画像採点部11bの採点結果は、採点比較部11cに供給される。本実施の形態においては、画像採点部11bは、カメラ間通信部25を介して採点結果を送信することができるようになっている。
本実施の形態においては、採点比較部11cには、カメラ間通信部25を介して、他の撮影機器の採点比較部11cから供給された点数も入力されるようになっている。採点比較部11cは、入力された各点数を比較し、比較結果を画像選択部11dに出力する。例えば、採点比較部11cは、最も高い点数の画像に関する情報を画像選択部11dに出力する。画像選択部11dは、採点の比較結果に基づいて画像を選択し、選択した画像を要求するための情報(以下、画像要求情報という)を画像要求部11eに出力する。例えば、画像選択部11dは、点数が最も高い1つの画像又は点数が所定の値以上の複数の画像に関する情報を画像要求情報として画像要求部11eに出力する。
画像要求部11eは、全ての他の撮影機器又は選択された画像の採点結果を出力した撮影機器に対して、カメラ間通信部25を介して画像要求情報を送信する。なお、選択される画像として自機で撮影した画像が含まれることもある。この場合には、画像要求部11eは、画像要求情報を選択画像送信部11fに与える。選択画像送信部11fは、自機の画像要求部11eからの画像要求情報に基づいて、選択された画像を画像処理部15に出力する。また、選択画像送信部11fは、カメラ間通信部25を介して受信した他機の画像要求部11eからの画像要求情報に基づいて、選択された画像をカメラ間通信部25を介して送信する。カメラ間通信部25は、他機から受信した画像を画像処理部15に出力する。
本実施の形態においては、連携撮影モード時には、画像処理部15は、自機又は他機によって撮影され選択された画像を画像処理する。こうして、画像処理部15は、複数の撮影機器によって撮影された画像のうち、条件決定部11aの連携撮影条件に基づく採点結果が高い画像が集められて画像(以下、連携画像という)が生成される。この連携画像は、表示制御部19によって表示部20の表示画面上に表示される。また、記録再生制御部21は、連携画像を記録媒体22に記録する。
更に、外部通信部26は、連携画像を図示しない外部機器に対して送信することもできるようになっている。
次に、このように構成された実施の形態の動作について図2を参照して説明する。図2はカメラ制御を説明するためのフローチャートである。
撮影機器1の電源が投入されると、制御部11は、図2のステップS1で撮影モードが指示されたか否かを判定する。撮影モードが指示されていない場合には、制御部11は、ステップS2において、再生モードが指示されたか否かを判定する。再生モードが指示されると、制御部11は、ステップS3において選択画像の再生を行う。ユーザが再生画像の変更を指示すると、制御部11は、ステップS4から処理をステップS5に移行して画像の変更を行う。なお、制御部11は、ステップS2において再生モードが指定されていない場合には、ステップS6において撮影画像を送信する画像通信モードに移行する。
一方、撮影モードが指示されると、制御部11は、撮影を開始し、スルー画を表示部20の表示画面上に表示させる(ステップS11)。即ち、制御部11は、撮像部12からの撮像画像を取り込んで画像処理部15に与え、画像処理部15は撮像画像に対し所定の映像信号処理を施した後、表示制御部19に与える。表示制御部19は撮像画像を表示部20に与えて、表示画面上に撮像画像を表示させる。
次に、制御部11は、ステップS12において、連携撮影モードが指定されたか否かを判定する。連携撮影モードが指定されていない場合には、制御部11は、処理をステップS13に移行して撮影操作が行われたか否かを判定する。撮影操作が行われると、ステップS14において撮影が行われる。即ち、制御部11は、画像処理部15によって画像処理された画像を圧縮処理した後、記録再生制御部21に与える。記録再生制御部21は圧縮画像を記録媒体22に与えて記録する。制御部11は、撮影操作が行われない場合には、処理をステップS13からステップS1に戻す。
連携撮影モードが指定された場合には、制御部11は、次のステップS20において親カメラであるか否かを判定する。本実施の形態においては、図1の撮影機器1と同一構成の複数の撮影機器のうち1台を親カメラとし、他を子カメラとして、親カメラが親カメラ及び子カメラの撮像画像を用いて、1つの連携画像を得る。
例えば、ユーザは、操作部17の操作によって、親カメラの設定を行うようにしてもよい。制御部11は、ユーザによる親カメラの設定操作が行われると、カメラ間通信部25を介して親カメラの通知を行う。複数の撮影機器の制御部11は、カメラ間通信部25を介して親カメラの情報を受信すると、表示部20に親カメラの情報を表示する。ユーザがこの表示に対して子カメラの設定を行うと、制御部11は、カメラ間通信部25を介して子カメラの設定が行われたことを親カメラに送信する。これにより、複数の撮影機器間で親子関係を構築することができる。なお、親カメラ及び子カメラの設定の方法は、特に限定されるものではなく、種々の方法を採用することができる。例えば、子カメラは、親カメラから連携撮影モードに移行するための信号を受信すると、自動的に連携撮影モードに移行するようにしてもよい。
ユーザが操作部17によって連携撮影モードにおける連携撮影条件を設定するための操作を行うと、操作制御部16は、連携撮影条件を設定するための要求信号を発生する。親カメラの条件決定部11aは、ステップS21において、要求信号を判定し、ステップS22において連携撮影条件の変更が指示されたか否かを判定する。連携撮影条件が変更されると、条件決定部11aは、変更された連携撮影条件を記憶する(ステップS23)。条件決定部11aは、決定した連携撮影条件をカメラ間通信部25を介して各子カメラに送信する(ステップS24)。
一方、子カメラは、ステップS31において、連携撮影条件を受信する。そして、各子カメラの画像採点部11bは、ステップS32において、連携撮影条件に基づいて撮像画像を採点し、採点情報をカメラ間通信部25を介して親カメラに送信する(ステップS33)。親カメラの採点比較部11cは、カメラ間通信部25を介して各子カメラからの採点情報を受信する。
親カメラの採点比較部11cは、ステップS25において、自機の画像採点部11bによる採点情報及び各子カメラの画像採点部11bによる採点情報を収集して比較し、比較結果を画像選択部11dに出力する。画像選択部11dは、例えば最も高い点数の画像を選択する。画像要求部11eは、最も高い点数の採点情報を出力した子カメラに対して、カメラ間通信部25を介して撮像画像の送信を要求する。
子カメラの選択画像送信部11fは、ステップS34において、画像の送信要求が合った場合には、当該最も高い点数の撮像画像を、カメラ間通信部25を介して親カメラに送信する。こうして、制御部11は、親カメラ及び複数の子カメラによって撮影された各撮像画像のうち、連携撮影条件に基づいて選択された撮像画像を取得する(ステップS26)。画像処理部15は取得した撮像画像を画像処理して、表示制御部19に与える。こうして、表示制御部19は、連携撮影条件に基づいて選択された撮像画像が連携画像として表示される。なお、親カメラの表示制御部19は、親カメラによって撮像した画像をメイン画像として表示しながら、子カメラからの撮像画像又は連携画像をサブ画像として表示するようにしてもよい。
また、画像処理部15は、選択された撮像画像を圧縮して記録再生制御部21に与える。記録再生制御部21は、連携撮影条件に基づいて選択された連携画像を記録媒体22に記録する(ステップS27)。
このように本実施の形態においては、複数の撮影機器において、連携して撮影を行い、最適な撮像画像を得ることができる。この場合において、親機(親カメラ)は、子機(子カメラ)に対して、共通の連携撮影条件を指定し、共通の連携撮影条件に基づいて撮像画像を採点することで、最適な撮像画像を得ており、親機を操作するユーザが所望する画像を得ることができる。また、親機は、各子機から連携撮影条件に基づく採点結果を送信させ、採点結果の比較結果によって選択した撮像画像のみを子機から送信させるようになっており、撮像画像の選択のために子機から親機に撮像画像を送信する必要がないことから、連携撮影における通信量を著しく低減させることが可能である。
また、撮影者は、どのカメラの画像がいちばん良いかなどに悩む必要がなく、撮影に専念することが可能となり、音響効果や構図、露出などを含む撮影画像の画質、音質や品質、ピントやズーム制御の過程の滑らかさなど品位の確保(撮影操作)に専念することが可能となり、結果としてコンテンツの質を上げることが出来る。
なお、上記実施の形態では、親カメラ及び子カメラは、撮影機器1と同一構成であると説明したが、親カメラは、選択画像送信部11fは省略可能であり、子カメラは、条件決定部11a、採点比較部11c、画像選択部11d及び画像要求部11eは省略可能である。
(第2の実施の形態)
図3は本発明の第2の実施の形態を示すブロック図である。
第1の実施の形態においては連携撮影条件を親機が指定し、親機が連携撮影条件に基づいて選択した画像を収集する例について説明した。本実施の形態は、他の機器である情報処理装置によって連携撮影条件を指定し、この情報処理装置において連携撮影条件に基づいて選択した画像を収集する例を示している。
図3において、撮影機器CA,Cb〜Cdは、図1の撮影機器1と同一構成である。例えば、撮影機器CAは親カメラ(以下、親カメラCAともいう)であり、撮影機器Cb〜Cdは子カメラ(以下、子カメラCb〜Cdともいう)であるものとして説明する。各子カメラCb〜Cdは、親カメラCAとの間でカメラ間通信部25を利用して通信が可能である。なお、図3では3つの子カメラの例を示しているが、子カメラの数は限定されないことは明らかである。
本実施の形態においては、親カメラCAは、インターネットや電話回線網等のネットワーク41に接続可能であり、ネットワーク41上の情報処理装置42との間で、外部通信部26を介して通信可能である。親カメラCAは、制御部11が外部通信部26を制御することで、連携撮影モードにおいて撮影した撮影画像を、ネットワーク41上にストリーミング配信することができるようになっている。また、親カメラCAは、連携撮影条件をネットワーク41を介して受信して連結撮影を行い、連携撮影条件の発信元に対し、連携撮影モードにおいて撮影した連携画像をストリーミング送信することができるようになっている。即ち、情報処理装置42は、連携撮影モードにおいて撮影した連携画像を要求するクライアントとなる。
ユーザ43は、情報処理装置42を操作して、連携撮影条件を記述した探索指示書44を作成し、ネットワーク41を介して親カメラCAに送信させることができる。例えば、情報処理装置42は、探索指示書として探索すべき画像の情報を用いることができる。即ち、探索指示書によって、撮影機器CA,Cb〜Cdにおいて連携撮影して得られた撮像画像に含まれるべき画像を指定することができ、連携撮影モードにおいては探索指示書で指定した画像を含む撮像画像を選択させることが可能である。例えば、撮影機器CA,Cb〜Cdを用いて結婚式等のセレモニーを連携撮影する場合において、探索指示書により新郎や新婦の画像を探索対象画像として指定することで、撮影機器CA,Cb〜Cdが撮像した画像のうち探索対象画像である新郎や新婦の画像が含まれる画像のみが選択されて、連携撮影による連携画像を得ることができる。
図4は探索指示書に含まれる情報を示す説明図である。図4に示すように、探索指示書には探索対象画像として指定する画像の情報が記述される。なお、指定する画像の情報としては、画像データであってもよく画像の特徴量の情報であってもよい。また、情報処理装置42は、親カメラCAから送信された動画像から得た画像を、探索対象画像として指定することもでき、また、自機内に保持されている画像、記録メディアから読み出した画像を探索対象画像として指定することもできる。
例えば、情報諸装置42として、携帯電話が用いられた場合には、アドレス帳の情報を探索指示書として用いることができる。
探索指示書にはオプションの情報を付加することができる。オプションの情報としては、新規を指定すると、過去の探索指示書の内容を破棄することを指示することができ、追加を指定すると、過去の探索指示書の内容を破棄しないことを指示することができる。例えば、過去の探索指示書で新婦の画像が探索対象画像として指定されており、新たな探索指示書で新郎の画像を探索対象画像として指定する場合において、新規を選択すると、以後新郎の画像を含む撮像画像のみが探索され、追加を選択すると、以後新郎新婦の画像を含む撮像画像が探索されることになる。
動画配信先としては、情報処理装置42のアドレス情報が記述される。これにより、親機CAは、連携撮影モードにおける連携画像を、情報処理装置42に対しストリーミング送信することが可能となる。
次に、このように構成された実施の形態の動作について図5及び図6のフローチャートを参照して説明する。図5は親カメラCAの動作フローを示し、図6は子カメラCb〜Cdの動作フローを示している。なお、図5及び図6の各処理は、親カメラCA又は子カメラCb〜Cdの制御部11によって実施されるものである。また、図7は表示部20の表示画面20a上の表示例を示す説明図である。
制御部11は、操作部17の操作に従って表示制御部19を制御して、モード決定のためのメニューを表示することができる。図7はメニュー表示の一例を示している。図7(a)においては、表示画面20a上に、ストリーミングモードを指定するための表示53及び通常撮影モードを指定するための表示54が表示されていることを示している。ユーザが表示53を指定することでストリーミングモードが指定され、表示54を指定することで、通常撮影モードが指定される。ストリーミングモードが指定されると、制御部11は、図7(b)に示すように、表示画面20a上に親カメラCAを設定するための表示55及び子カメラCb〜Cdを設定するための表示56を表示させる。ユーザが表示55を指定することで、撮影機器1は親カメラCAに設定され、表示56を指定することで、撮影機器1は子カメラCb〜Cdに設定される。
親カメラCAにおいては、制御部11によってステップS41においてストリーミング中か否かが判定され、ストリーミング中でない場合には、他のモードが実施され(ステップS42)、ストリーミング中の場合には、撮像が行われる(ステップS43)。
親カメラCAはステップS44において、探索指示書を受信したか否かを判定する。親カメラCAは、探索指示書を受信しない場合には、ステップS46において既に探索指示書の内容が登録済みであるか否かを判定し、登録されていない場合には、ステップS48において、親カメラCAの撮像画像を送信画像に設定する。
親カメラCAは、探索指示書を受信すると、その指示内容を登録する(ステップS45)。ステップS45において指示内容を登録した場合又は既に指示内容が登録されている場合には、親カメラCAは、ステップS47において子カメラCb〜Cdが通信可能であるか否かを判定する。
一方、各子カメラCb〜Cdは、夫々ステップS61において通信要求の有無を判定する。子カメラCb〜Cdは、通信要求がない場合には、ステップS62において他のモードを実施し、通信要求があった場合には、親カメラCAに通信可能であることを通知する(ステップS63)。
親カメラはCAは、全ての子カメラCb〜Cdが通信可能でない場合には、ステップS48に移行して親カメラCAの撮像画像を送信画像に決定し、子カメラCb〜Cdのいずれか1つ以上が通信可能である場合には、ステップS51に移行して、ネットワーク41を介してストリーミング配信を要求している全クライアントに対する処理が完了したか否かを判定する。ストリーミング処理が終了していない場合には、親カメラCAは、ステップS52において、通信可能な子カメラに対して探索指示書を送信する。
通信可能な子カメラCb〜Cdは、探索指示書を保持している場合には、ステップS65において撮像を行い、探索指示書に基づいて撮像画像を採点する(ステップS66)。子カメラCb〜Cdは、採点結果を親カメラCAに送信する(ステップS67)。
親カメラCAは、ステップS52において、探索指示書に基づいて撮像画像を採点する。親カメラCAは、子カメラCb〜Cdからの採点結果を集計する(ステップS53)。親カメラCAは、親カメラCA及び子カメラCb〜Cdの採点結果から、親カメラの点数が最大であるか否かを判定する(ステップS54)。親カメラCAの点数が最大である場合には、親カメラはCAは、親カメラCAの撮像画像を送信画像に決定する(ステップS48)。親カメラCAの点数が最大でない場合には、親カメラCAは、子カメラCb〜Cdのうち、最大の点数を送信した子カメラに対して、点数が最大の画像を要求する(ステップS55)。
子カメラCb〜Cdは、ステップS68において画像要求が発生したか否かを判定し、画像要求が発生した子カメラは、親カメラに点数が最大の画像を送信する(ステップS69)。子カメラCb〜Cdは、ステップS70において処理の終了を判定する。
親カメラCAは、画像要求を送信した子カメラCb〜Cdから画像を受信し、その画像を送信画像に設定する(ステップS56)。なお、図7(c)に示すように、例えば、親カメラCAの表示画面20a上には、親カメラCAによって撮像された画像がメイン画像52として表示され、子カメラCb〜Cdから受信した画像がサブ画像51として表示される。親カメラCAは、ステップS49において、ステップS48又はS56において設定された送信画像をストリーミング送信する。この送信画像は、情報処理装置42等の探索指示書を送信した全てのクライアントに送信される。
なお、各クライアント毎に異なる探索指示書が親カメラCAに供給されることがある。従って、親カメラCA及び子カメラCb〜Cdは、各探索指示書毎に採点を行い、親カメラCAは、各探索指示書毎の採点結果に基づいて各探索指示書毎に画像を選択して連携画像を得、探索指示書を送信した各クライアントに対応する連携画像を出力する。
このように本実施の形態においては、第1の実施の形態と同様の効果が得られると共に、親機は、クライアントによって指示された連携撮影条件に従って得た連携画像をクライアントに対してストリーミング配信することが可能である。
なお、第2の実施の形態においては、クライアントに対する通信は親カメラCAのみで行った。図8はこのような第2の実施の形態における通信を説明するための説明図である。
図8に示すように、親カメラCAと子カメラCb〜Cdとの間では、通信可能であることを示す通信、探索指示書の通信、採点結果の通信、動画像の配信要求及び動画像の通信を行う。また、親カメラCAはネットワーク41を介してクライアントである情報処理装置42との間で通信が可能であり、探索指示書の通信及び連携撮影モードによって撮影した動画像のストリーミング通信を行う。従って、子カメラCb〜Cdは、クライアントとの間で通信を行う必要は無く、外部通信部26を省略可能である。
また、撮影者は、どのカメラの画像がいちばん良いかなどに悩む必要がなく、撮影に専念することが可能となり、音響効果や構図、露出などを含む撮影画像の画質、音質や品質、ピントやズーム制御の過程の滑らかさなど品位の確保(撮影操作)に専念することが可能となり、結果としてコンテンツの質を上げることが出来ることは言うまでもない。
(第3の実施の形態)
図9は本発明の第3の実施の形態を示す説明図である。上記第2の実施の形態はクライアントに対して親カメラのみが通信を行ったが、本実施の形態はクライアントに対して親カメラCAだけでなく、子カメラCb〜Cdも通信可能に構成した例を示している。この実施例の場合、親カメラを介さず、ストリーミングを外部に流せるので切換の即時性が最も良好となる。
本実施の形態においては、親カメラCAの外部通信部26だけでなく、子カメラCb等の1つ以上の子カメラの外部通信部26もクライアントとの間で通信可能である。親カメラCAと子カメラCbとの間では、通信可能であることを示す通信、探索指示書の通信、採点結果の通信、動画像の配信要求及び動画像の通信を行う。また、親カメラCAはネットワーク41を介してクライアントである情報処理装置42との間で通信が可能であり、探索指示書の通信及び連携撮影モードによって撮影した動画像のストリーミング通信を行う。同様に、子カメラCbはネットワーク41を介してクライアントである情報処理装置42との間で通信が可能であり、連携撮影モードによって撮影した動画像のストリーミング通信を行う。
次に、このように構成された実施の形態の動作について図10及び図11のフローチャートを参照して説明する。図10及び図11において、夫々図5及び図6と同一の手順については同一符号を付して説明を省略する。
図10のフローは、ステップS48,S55の手順を省略すると共に、ステップS71を追加した点が図5のフローと異なる。親カメラCAは、ステップS48の処理を省略して、指示内容が登録されていない場合、子カメラとの通信が不能な場合及び親カメラCAの点数が最大の場合には、親カメラCAが撮像した画像を連携撮影モードにおける画像として、クライアントに送信する(ステップS49)。また、親カメラCAは、親カメラCAの点数が最大でなかった場合には、ステップS71において、子カメラに点数が最大の画像の送信要求を出力する。
一方、子カメラの動作を示す図11のフローは、ステップS69に代えてステップS72を採用した点が図6のフローと異なる。ステップS72においては、親カメラCAから画像要求が発生すると、要求された撮像画像をクライアントである情報処理装置42に出力する。
このように、本実施の形態においては、親カメラだけでなく、子カメラにおいても、クライアントに対してストリーミング送信が可能である。
上記各実施の形態においては、連携撮影条件に基づいて撮像画像を採点するようになっている。図12はこの採点(点数算出)処理を示すフローチャートである。
親カメラCA及び子カメラCb〜Cdの画像採点部11bは、図12のステップS81において変数Ktotalを0に初期化した後、ステップS82において全探索指示書の識別を完了したか否かを判定する。全探索指示書についての採点が終了していない場合には、処理をステップS83に移行して、撮像画像中から探索する人物が存在するか否かを調べる。撮像画像中に探索する人物が存在しない場合には、画像採点部11bは、ステップS85において変数Ktotalに0を代入する。
撮像画像中に探索する人物が存在した場合には、画像採点部11bは、ステップS84において変数Ktotalを算出する。画像採点部11bは、ステップS86において、合計点数を算出する。例えば、画像採点部11bは、1フレーム毎に、合計点数を算出するようにしてもよい。或いは、画像採点部11bは、数秒、例えば5秒毎に、合計点数を算出するようにしてもよい。
図13は図12のステップS84の点数K計算処理の具体的なフローを示すフローチャートである。また、図14は点数K計算処理のためのテーブルの一例を示す説明図である。画像採点部11bは、撮像画像中の探索人物の顔の特徴量の検出結果により、人物の顔の向きを判定し、顔の向きに応じた点数Kaを求める(ステップS91)。例えば、探索人物が正面を向いている場合には、点数Kaを1.0とし、顔が左右を向いている場合には点数Kaを0.8、上下を向いている場合には点数Kaを0.5とする。
また、画像採点部11bは、ステップS92において、顔の大きさに応じた点数Kbを求める。例えば、探索人物の顔の大きさが、撮像画像の面積の19%以下である場合、20%〜49%である場合、50%〜100%である場合には、夫々点数Kbを0.5、0.8、1.0とする。
また、画像採点部11bは、ステップS93において、顔の表情に応じた点数Kcを求める。例えば、探索人物の顔の表情が、笑い顔の場合、泣き顔の場合、その他の場合には、夫々点数Kcを1.0、0.8、0.5とする。画像採点部11bは、求めた点数Ka,Kb,Kcを乗算することで、変数Ktotalを求める(ステップS94)。
なお、図12乃至図14による採点方法は一例であり、他の採点方法を採用してもよい。例えば、単位時間当たりの探索人物が存在する時間が長い場合に点数を高くしてもよい。また、探索指示書によって複数の探索人物が指定されている場合には、同時に多くの探索人物が含まれる場合に点数を高くするようにしてもよい。
また、探索指示書によって人物を指定する例を説明したが、風景を指定してもよく、或いは、特定の人物ではなく、2人が撮像されている場合や、多くの人物が撮像されていることを条件にしてもよく、連携撮影条件は種々設定可能である。或いは、撮像画像のピントが合っているや画像の色等のように撮像画像の画像パラメータを連携撮影条件にしてもよい。
また、画像採点部11bによる採点の仕方をユーザが指定可能に構成してもよい。例えば、図14の点数をユーザが指定することも可能である。更に、クラウドサービスを利用して、画像採点部11bを図示しないネットワーク上の機器に設けてもよい。
なお、上記図7の説明では、ユーザの設定によって親カメラと子カメラとが決定した。しかし、連携撮影に参加する撮影機器が多い場合等においては、各撮影機器間で通信を行い、各撮影機器の制御部11間でネゴシエーションを行った結果、親子関係を構築した方がよい。
図15はこのようなネゴシエーションを可能にするネゴシエーションモードにおける画面表示の例を示す説明図である。
親カメラ及び子カメラの制御部11は、ストリーミングモードを設定することができ、ストリーミングモード時には、図15(a)に示すメニュー表示を表示部20の表示画面20a上に表示させることができる。図15(a)では、子カメラを募集するための表示61及び連携撮影の子カメラとして参加するための表示62が表示されている。
ユーザが表示61を選択すると、ユーザが操作したカメラは親カメラとなり、その制御部11はカメラ間通信部25を制御して、Wifiやブルートゥース等を介して近隣のカメラと通信を行い、連携撮影の子カメラとして参加するカメラを募集する。親カメラの表示部20の表示画面20aAには、「募集中」の表示が表示される(図15(b))。
一方、親カメラの近隣のカメラにおいて、ユーザが参加のための表示62を選択するものとする。そうすると、ユーザが表示62を選択したカメラの制御部11は、図15(d)に示すように、表示部20の表示画面20ab上に「参加中」の表示を表示させると共に、カメラ間通信部25を介して親カメラとネゴシエーションを行い、親子関係を構築する。そうすると、親カメラの表示画面20aAには、参加した子カメラA,B,…を示す表示が表示され、子カメラの表示画面20abには、親カメラを発見したことを示す表示が表示される。
なお、子カメラにおいて、親カメラによって子カメラが募集されていることを検出した場合には、参加するか否かを決定するための表示のみを表示させるようにしてもよい。
図16は探索指示書受信時の表示例を示す説明図である。図16(a)は親カメラ又は子カメラが探索指示書を受信した場合の表示を示している。制御部11は、外部通信部26又はカメラ間通信部25を介して探索指示書を受信すると、表示部20の表示画面20a上に、探索指示書を受信したことを示すマーク71を表示させる。
探索指示書を受信すると、制御部11は探索指示書の内容を表示画面20a上に表示させるようにしてもよい。図16(b)では、探索されている人物の画像を含む探索指示書の内容72が表示されていることを示している。また、表示画面20a上には、OKボタン73及びNGボタン74も表示されており、ユーザがOKボタン73を選択することによって、探索指示書に基づく採点が行われ、NGボタン74を選択することによって、受信した探索指示書が無視される。
また、特別に表記していないが、ここでの撮影画像には音声も含まれている。画像で探索指示を出している例を列挙したが、音声に関しても応用が可能なことは言うまでもない。さらに、この実施例でも、撮影者は、どのカメラの画像がいちばん良いかなどに悩む必要がなく、撮影に専念することが可能となり、音響効果や構図、露出などを含む撮影画像の画質、音質や品質、ピントやズーム制御の過程の滑らかさなど品位の確保(撮影操作)に専念することが可能となり、結果としてコンテンツの質を上げることが出来る。
以上の実施例はいずれも、鑑賞者にとっても、簡単な操作や設定で、自分のこだわりを反映した品質の良いコンテンツが楽しめるメリットがある。また、撮影者も、自分のこだわりだけを考えて撮影してもよく、簡単かつ気楽な撮影が可能となる。たまたま鑑賞者と撮影者のこだわり条件が一致した画像が優先的にストリーミングされるからである。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
1…撮影機器、10…本体、11…制御部、11a…条件決定部、11b…画像採点部、11c…採点比較部、11d…画像選択部、11e…画像要求部、11f…選択画像送信部、15…画像処理部、19…表示制御部、20…表示部、25…カメラ間通信部、26…外部通信部、30…撮影レンズ部。

Claims (10)

  1. 被写体を撮像して得た撮像画像を出力する撮像部と、
    撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する採点部と、
    上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内において採点を行った採点情報を上記1つ以上の他の機器から受信して、受信した1つ以上の採点情報と上記採点部による採点情報とを比較する比較部と、
    上記比較部の比較結果に基づいて所定の採点情報が得られる画像のみの送信要求を出力して、自機及び上記1つ以上の他の機器からの画像による連携画像の生成を可能にする画像要求部と、
    を具備したことを特徴とする画像出力装置。
  2. 被写体を撮影して得た撮像画像を出力する撮像部と、
    撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する採点部と、
    上記採点部の採点結果を採点情報として送信する採点結果送信部と、
    上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内で採点を行った採点情報と上記採点部による採点情報との比較に基づく画像のみの送信要求に対して、対応する画像を送信する画像送信部と、
    を具備したことを特徴とする画像出力装置。
  3. 自機及び上記1つ以上の他の機器からの画像による上記連携画像の生成を行う画像生成部を具備したことを特徴とする請求項1に記載の画像出力装置。
  4. 上記連携画像をクライアントに送信する画像送信部
    を具備したことを特徴とする請求項1又は3に記載の画像出力装置。
  5. 上記画像送信部は、上記対応する画像をクライアントに送信する
    ことを特徴とする請求項2に記載の画像出力装置。
  6. 上記連携画像を表示する表示部
    を具備したことを特徴とする請求項1又は3に記載の画像出力装置。
  7. 上記連携画像を記録する記録部
    を具備したことを特徴とする請求項1又は3に記載の画像出力装置。
  8. 上記採点部は、上記撮像画像中の探索を行い、探索する人物が存在した場合に採点を加算する
    ことを特徴とする請求項1又は2に記載の画像出力装置。
  9. 被写体を撮像して得た撮像画像を出力する撮像部を備える画像出力装置の作動方法であって、
    採点部が、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する工程と、
    比較部が、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内において採点を行った採点情報を上記1つ以上の他の機器から受信して、受信した1つ以上の採点情報と上記採点部による採点情報とを比較する工程と、
    画像要求部が、上記比較部の比較結果に基づいて所定の採点情報が得られる画像のみの送信要求を出力して、自機及び上記1つ以上の他の機器からの画像による連携画像を生成する工程と、
    を有することを特徴とする画像出力装置の作動方法。
  10. 被写体を撮影して得た撮像画像を出力する撮像部を備える画像出力装置の作動方法であって、
    採点部が、撮像を行う1つ以上の他の機器との間において、採点前に共有された連携撮影条件に基づいて、上記撮像画像を採点する工程と、
    採点結果送信部が、上記採点部の採点結果を採点情報として送信する工程と、
    画像送信部が、上記1つ以上の他の機器が撮像した画像についての上記連携撮影条件に基づいて上記1つ以上の他の機器内で採点を行った採点情報と上記採点部による採点情報との比較に基づく画像のみの送信要求に対して、対応する画像を送信する工程と、
    を有することを特徴とする画像出力装置の作動方法。
JP2012164028A 2012-07-24 2012-07-24 画像出力装置および画像出力装置の作動方法 Expired - Fee Related JP6032987B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012164028A JP6032987B2 (ja) 2012-07-24 2012-07-24 画像出力装置および画像出力装置の作動方法
CN201310311302.6A CN103581548B (zh) 2012-07-24 2013-07-23 摄影设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012164028A JP6032987B2 (ja) 2012-07-24 2012-07-24 画像出力装置および画像出力装置の作動方法

Publications (3)

Publication Number Publication Date
JP2014027365A JP2014027365A (ja) 2014-02-06
JP2014027365A5 JP2014027365A5 (ja) 2015-07-23
JP6032987B2 true JP6032987B2 (ja) 2016-11-30

Family

ID=50052380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012164028A Expired - Fee Related JP6032987B2 (ja) 2012-07-24 2012-07-24 画像出力装置および画像出力装置の作動方法

Country Status (2)

Country Link
JP (1) JP6032987B2 (ja)
CN (1) CN103581548B (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6561689B2 (ja) * 2015-08-31 2019-08-21 カシオ計算機株式会社 情報送信装置、画像記憶装置、情報送信方法、及びプログラム
JP2017199972A (ja) * 2016-04-25 2017-11-02 オリンパス株式会社 端末装置、情報取得システム、情報取得方法およびプログラム
JP6385543B1 (ja) * 2017-09-29 2018-09-05 株式会社ドワンゴ サーバ装置、配信システム、配信方法及びプログラム
JP6974162B2 (ja) * 2017-12-27 2021-12-01 富士フイルム株式会社 撮影制御システム、撮影制御方法、プログラムおよび記録媒体

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4085255B2 (ja) * 2002-09-26 2008-05-14 富士フイルム株式会社 デジタルカメラ及び画像通信方法
JP2007158860A (ja) * 2005-12-06 2007-06-21 Canon Inc 撮影システム、撮影装置、画像切替装置、およびデータ保持装置
JP2008042462A (ja) * 2006-08-04 2008-02-21 Canon Inc 撮影装置
JP4264663B2 (ja) * 2006-11-21 2009-05-20 ソニー株式会社 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム
JP5251547B2 (ja) * 2008-06-06 2013-07-31 ソニー株式会社 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP5332493B2 (ja) * 2008-10-20 2013-11-06 株式会社ニコン カメラ、画像共有サーバ及び画像共有プログラム
US11699247B2 (en) * 2009-12-24 2023-07-11 Cognex Corporation System and method for runtime determination of camera miscalibration
CN104320571B (zh) * 2010-02-19 2019-05-17 株式会社尼康 电子设备及用于电子设备的方法

Also Published As

Publication number Publication date
CN103581548B (zh) 2016-12-28
JP2014027365A (ja) 2014-02-06
CN103581548A (zh) 2014-02-12

Similar Documents

Publication Publication Date Title
JP6240642B2 (ja) イメージ撮影装置のイメージを提供する方法及びその装置
US7483061B2 (en) Image and audio capture with mode selection
WO2017166360A1 (zh) 视频通话方法及装置
JP2007266655A (ja) サムネイル生成装置及び撮像装置
JP6032987B2 (ja) 画像出力装置および画像出力装置の作動方法
JP2011172094A (ja) 撮像装置
JP5962200B2 (ja) 撮像装置、撮像処理方法
JP2016081173A (ja) 画像処理装置、画像処理方法、画像処理プログラム、画像送信装置及びユースシーン分析方法
JP2011172093A (ja) 撮像装置
JP2015119335A (ja) 動き変化量に応じて撮影動画像のフレームを間引く端末、システム、プログラム及び方法
JP4912972B2 (ja) 撮像装置および撮像システム
JP2011172092A (ja) 撮像装置、画像再生方法、画像再生プログラム、画像再生プログラムを記録した記録媒体および画像再生装置
JP5249078B2 (ja) 撮像装置
JP5847230B2 (ja) 撮像装置、および撮像装置の制御方法
JP2019114847A (ja) 画像記録制御装置、画像記録方法、画像記録プログラム、撮像装置及び画像記録制御システム
JP2009189065A (ja) ビデオカメラ及び情報送信方法
JP2017118427A (ja) 情報端末装置、撮像装置、画像情報処理システム及び画像情報処理方法
JP5249437B2 (ja) 撮像および画像再生するシステム、撮像および画像再生する方法、受信画像再生機器、再生機器の再生方法。
JP5536926B2 (ja) 撮像装置の表示方法、および撮像装置
JP2016127451A (ja) 撮像装置及び撮像方法
JP5362927B2 (ja) カメラ、カメラの再生方法およびプログラム
JP5230876B2 (ja) カメラおよび画像送信システム
JP2019205208A (ja) 電子機器
JP5715179B2 (ja) 再生表示装置および再生表示方法
JP4979454B2 (ja) カメラ、カメラの画像取得方法、および画像取得システム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20150423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150601

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160513

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160906

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20160915

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161025

R151 Written notification of patent or utility model registration

Ref document number: 6032987

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees