JP7271296B2 - 撮像装置、撮像装置の制御方法およびプログラム - Google Patents

撮像装置、撮像装置の制御方法およびプログラム Download PDF

Info

Publication number
JP7271296B2
JP7271296B2 JP2019086091A JP2019086091A JP7271296B2 JP 7271296 B2 JP7271296 B2 JP 7271296B2 JP 2019086091 A JP2019086091 A JP 2019086091A JP 2019086091 A JP2019086091 A JP 2019086091A JP 7271296 B2 JP7271296 B2 JP 7271296B2
Authority
JP
Japan
Prior art keywords
image
display
imaging
display range
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019086091A
Other languages
English (en)
Other versions
JP2019205161A (ja
Inventor
康弘 桑原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US16/410,210 priority Critical patent/US11128764B2/en
Priority to CN201910409846.3A priority patent/CN110505375B/zh
Publication of JP2019205161A publication Critical patent/JP2019205161A/ja
Application granted granted Critical
Publication of JP7271296B2 publication Critical patent/JP7271296B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereoscopic And Panoramic Photography (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Studio Devices (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)
  • Cameras In General (AREA)

Description

本発明は、撮像装置、撮像装置の制御方法およびプログラムに関する。
近年、全天球画像(全方位画像)といった、人間の視野角より広い範囲の画像を撮影することが可能な撮像装置が普及している。このような撮像装置は、複数のカメラ部を同時に駆動し被写体画像を撮像している。
特許文献1では、操作指示の有無に応じて、複数のカメラ部のうち一部における駆動パルスの周波数を低下させることにより、全方位360度の画像を同時に撮影するという機能を損なうことなく省電力化を図っている。
特許文献2では、撮像装置と撮像装置の操作を行うリモコンとの状態(加速度センサによって取得される動作状態または静止状態)において、所定時間変化がない場合に撮像装置の電源をOFFにすることで省電力化を図っている。
特開2010-232908号公報 特開2017-139812号公報
しかしながら、特許文献1では、ライブビュー画像(カメラからほぼリアルタイムで取得した画像)の全天球画像の一部を表示する場合、表示装置に表示される画像を撮影するカメラ部(以下、有効カメラ部と称する。)以外のカメラ部の出力が無駄になってしまう。また、特許文献2では、撮像装置または表示装置を移動している間はカメラ部の出力が維持されるため、上記と同様に有効カメラ部以外のカメラ部の出力が無駄になってしまう。
そこで、本発明では、複数の撮像装置から出力される画像を合成して表示装置に表示する場合に、各撮像装置の電力消費を適切に抑える技術を提供することを目的とする。
本発明の第一の態様は、
それぞれ異なる方向の被写体を撮像することにより得られた画像を出力する複数の撮像処理手段と、
前記複数の撮像処理手段により出力された画像を合成することにより合成画像を生成する生成手段と、
前記合成画像を記録媒体に記録する記録手段と、
前記合成画像のうち画面に表示される表示範囲を示す表示範囲情報を取得する取得手段と、
前記合成画像が前記記録媒体に記録されている間、前記表示範囲情報に関わらず、前記複数の撮像処理手段を前記第1のモードで駆動するように制御し、
前記合成画像が前記記録媒体に記録されていない間、前記表示範囲情報に基づいて、前記合成画像のうち表示される範囲と対応する画像を出力する前記撮像処理手段を第1のモードで駆動し、前記合成画像のうち表示されない範囲と対応する画像を出力する前記撮像
処理手段を前記第1のモードに比べて省電力な第2のモードで駆動するよう制御する制御手段と、
を有することを特徴とする撮像装置である。
本発明の第二の態様は、
それぞれ異なる方向の被写体を撮像することにより得られた画像を出力する複数の撮像処理手段を備える撮像装置の制御方法であって、
前記複数の撮像処理手段により出力された画像を合成することにより合成画像を生成する生成ステップと、
前記合成画像を記録媒体に記録する記録ステップと、
前記合成画像のうち画面に表示される表示範囲を示す表示範囲情報を取得する取得ステップと、
前記合成画像が前記記録媒体に記録されている間、前記表示範囲情報に関わらず、前記複数の撮像処理手段を前記第1のモードで駆動するように制御し、
前記合成画像が前記記録媒体に記録されていない間、前記表示範囲情報に基づいて、前記合成画像のうち表示される範囲と対応する画像を出力する前記撮像処理手段を第1のモードで駆動し、前記合成画像のうち表示されない範囲と対応する画像を出力する前記撮像処理手段を前記第1のモードに比べて省電力な第2のモードで駆動するよう制御する制御ステップと、
を有することを特徴とする撮像装置の制御方法である。
本発明の第三の態様は、上記の制御方法の各ステップをコンピュータに実行させるためのコンピュータプログラムである。
本発明によれば、複数の撮像装置から出力される画像を合成して表示装置に表示する場合に、各撮像装置の電力消費を適切に抑える技術を提供することができる。
実施形態に係る撮像装置の一例を示す正面外観図 実施形態に係る撮像装置の一例を示す背面外観図 実施形態に係る撮像装置の一例を示す機能ブロック図 実施形態に係る表示制御装置の一例を示す外観図 実施形態に係る表示制御装置の一例を示す機能ブロック図 実施形態に係る合成画像の一例を示す図 実施形態に係る合成画像の一部の一例を示す図
実施形態に係る撮像装置の処理の一例を示すフローチャート 実施形態に係る撮像装置の命令に応じた処理の一例を示すフローチャート 実施形態に係る撮像装置の撮影処理の一例を示すフローチャート 実施形態に係る表示制御装置の処理の一例を示すフローチャート 実施形態に係る表示制御装置の表示終了処理の一例を示すフローチャート 実施形態に係る表示制御装置の撮影処理の一例を示すフローチャート 実施形態に係る表示制御装置の表示変更処理の一例を示すフローチャート 実施形態に係る表示制御装置の省電力化処理の一例を示すフローチャート 実施形態に係る表示制御装置の境界処理の一例を示すフローチャート 実施形態に係る表示制御装置の境界処理の一例を示すフローチャート
実施形態に係る起動時間短縮処理の対象範囲の一例を示すフローチャート 実施形態に係る起動時間短縮処理の一例を示すフローチャート 実施形態に係る無操作時間の設定画面の一例を示す図 実施形態に係る無操作時間の設定処理の一例を示すフローチャート
実施形態に係る撮像装置の処理の一例を示すフローチャート 実施形態に係る表示制御装置の処理の一例を示すフローチャート 実施形態に係る撮像装置の処理の一例を示すフローチャート 実施形態に係る表示制御装置の処理の一例を示すフローチャート
(第1の実施形態)
以下、本発明の実施形態について説明する。
<概要>
本実施形態では、複数のカメラ部を有する撮像装置を用いて全天球画像を撮像し、表示制御装置を用いて全天球画像の一部を表示する例について説明する。本実施形態における全天球画像とは、撮像装置の複数のカメラ部によって撮像された画像データ(撮像データ)を繋ぎ合せることによって得られる、360度の視野分を有する画像である。以下、本実施形態に係る撮像装置100および表示制御装置200の構成と処理内容について順に説明する。
<撮像装置100の構成>
図1Aは、本実施形態に係る撮像装置100の一例を示す前面外観図(斜視図)である。図1Bは、撮像装置100の背面外観図(斜視図)である。撮像装置100は、演算装置(プロセッサ)、メモリ、記憶装置、入出力装置等を含む情報処理装置(コンピュータ)である。記憶装置に格納されたプログラムを撮像装置100が実行することで、撮像装置100の後述する機能が提供される。それらの機能の一部または全部は、ASICやFPGAなどの専用の論理回路により実装されてもよい。本実施形態では、2つのカメラ部を有する撮像装置を例に説明するが、カメラ部は3つ以上でもよい。
また、本実施形態に係る撮像装置100は、2つのカメラ部a,bを有する全天球カメラ(全方位カメラ)とも捉えられる。カメラ部aは、撮像装置100の前側の上下左右180度以上の広範囲を撮影範囲とする広角カメラである。カメラ部bは、撮像装置100の後ろ側の上下左右180度以上の広範囲を撮影範囲とする広角カメラである。バリア102a,102bは、カメラ部a,bのための撮影レンズ103a,103bの保護窓である。なお、バリア102a,102bは、撮影レンズ103a,103b自体の外側の面であってもよい。
表示部28は、各種情報を表示する表示部である。シャッターボタン61は、撮影指示を行うための操作部である。モード切替スイッチ60は、各種モードを切り替えるための操作部である。接続I/F25は、スマートフォン、パーソナルコンピュータ、テレビ等の外部機器と接続するための接続ケーブルと撮像装置100とのコネクタである。操作部70は、ユーザからの各種操作を受け付ける各種スイッチ、ボタン、ダイヤル、タッチセンサ等の操作部材より成る操作部である。電源スイッチ72は、電源のON/OFFを切り替えるための押しボタンである。
発光部21は、発光ダイオード(LED)等の発光部材であり、撮像装置100の各種状態を発光パターンや発光色によってユーザに通知する。固定部40は、例えば、三脚ネジ穴であり、三脚などの固定器具に固定して設置するための部材である。
図1Cは、撮像装置100の一例を示す機能ブロック図である。
バリア102a,102bは、撮像装置100の撮影レンズ103a,103bを含むカメラ部a,bの撮像系を覆うことにより、撮影レンズ103a,103b、シャッター101a,101b、撮像部22a,22bを含む撮像系の汚れや破損を防止する。撮影レンズ103a,103bは、ズームレンズ、フォーカスレンズを含むレンズ群であり、例えば、広角レンズである。シャッター101a,101bは、撮像部22a,22bへの被写体光の入射量を調整する絞り機能を備えるシャッターである。撮像部22a,22bは、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23a,23bは、撮像部22a,22bから出力されるアナログ信号をデジタル信号に変換する機能部である。
本実施形態では、撮像部22a,22bにより、VR(Virtual Reality)画像が撮像される。VR画像には、全天球カメラ(全方位カメラ)で撮像した全天球画像(全方位画像)や、表示装置に一度に表示できる表示範囲より広い映像範囲(有効映像範囲)を持つパノラマ画像(パノラマ画像データ)などが含まれる。VR画像には、静止画だけでなく、動画やライブビュー(LV:Live View)画像(カメラからほぼリアルタイムで取得した画像)も含まれる。
ここで、VR画像は、最大で上下方向(垂直角度、天頂からの角度、仰角、俯角、高度角)360度、左右方向(水平角度、方位角度)360度の視野分の映像範囲(有効映像範囲)を持つ。また、VR画像は、上下360度未満、左右360度未満であっても、通常のカメラで撮影可能な画角よりも広い広範な画角(視野範囲)、あるいは、表示装置に一度に表示できる表示範囲より広い映像範囲(有効映像範囲)を持つ画像も含む。例えば、左右方向(水平角度、方位角度)360度、天頂(zenith)を中心とした垂直角度210度の視野分(画角分)の被写体を撮影可能な全天球カメラで撮影された画像はVR画像の一種である。
また、例えば、左右方向(水平角度、方位角度)180度、水平方向を中心とした垂直角度180度の視野分(画角分)の被写体を撮影可能なカメラで撮影された画像はVR画像の一種である。すなわち、上下方向と左右方向にそれぞれ160度(±80度)以上の視野分の映像範囲を有しており、人間が一度に視認可能な範囲よりも広い映像範囲を有している画像はVR画像の一種である。このVR画像を後述するVR表示すると、左右回転方向に表示装置の姿勢を変化させることで、左右方向(水平回転方向)には継ぎ目のない全方位の映像を視聴することが可能である。上下方向(垂直回転方向)には、真上(天頂)から見て±105度の範囲では継ぎ目のない全方位の映像を視聴することが可能であるが、真上から105度を超える範囲は映像が存在しないブランク領域となる。VR画像は、「映像範囲が仮想空間(VR空間)の少なくとも一部である画像」とも言える。
VR表示とは、VR画像のうち、表示装置の姿勢に応じた視野範囲の映像を表示する、表示範囲を変更可能な表示方法である。表示装置として、例えば、ヘッドマウントディスプレイ(HMD:Head Mounted Display)を装着して視聴する場合には、ユーザの顔の向きに応じた視野範囲の映像を表示することになる。例えば、VR画像のうち、ある時点で左右方向に0度(特定の方位、例えば北)、上下方向に90度(天頂から90度、すなわち水平)を中心とした視野角(画角)の映像を表示することが可能である。この状態から、表示装置の姿勢を表裏反転(表示面を南向きから北向きに変更等)させると、同じVR画像のうち、左右方向に180度(逆の方位、例えば南)、上下方向に90度(水平)を中心とした視野角の映像に、表示範囲が変更される。
ユーザがHMDを視聴している場合で言えば、ユーザが顔を北から南に向ければ(すなわち後ろを向けば)、HMDに表示される映像も北の映像から南の映像に変わる。このよ
うなVR表示によって、ユーザに、視覚的にあたかもVR画像内(VR空間内)のその場にいるような感覚を提供することができる。また、VRゴーグル(ヘッドマウントアダプタ)にスマートフォン等の表示装置を装着することで、上述のVR表示を行ってもよい。この場合、装着されたスマートフォンは、HMDの一種と言える。なお、VR画像の表示方法は上記に限るものではなく、例えば、姿勢の変化ではなくタッチパネルや方向ボタンなどに対するユーザ操作に応じて、表示範囲を移動(スクロール)させてもよい。
画像処理部24は、A/D変換器23a,23bからのデータ、または、メモリ制御部15からのデータに対し所定の画素補間、縮小といったリサイズ処理や色変換処理を行う機能部である。また、画像処理部24は、撮像した画像データを用いて所定の演算処理を行う。画像処理部24により得られた演算結果に基づいて、システム制御部50が露光制御、測距制御を行う。これにより、TTL(Through The Lens)方式のAF(Auto Focus)処理、AE(Auto Exposure、自動露出)処理、EF(Electronic Flash、フラッシュプリ発光)処理が行われる。さらに、画像処理部24は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(Auto White Balance)処理を行う。
また、画像処理部24は、A/D変換器23a,23bから得られた2つの画像(魚眼画像)に基本の画像処理を施した後、合成(繋ぎ画像処理)して単一のVR画像(合成画像)を生成する。図2Cは、カメラ部aのA/D変換器23aから得られた画像221(破線の矩形)とカメラ部bのA/D変換器23bから得られた画像222(破線の矩形)の画像処理結果を合成してVR画像223(実線の矩形)を生成する概念図を示す。2つの画像の繋ぎ画像処理では、画像処理部24は、2つの画像それぞれにおいて、パターンマッチング処理によりエリアごとに基準画像と比較画像のずれ量を算出し、繋ぎ位置を検出する。そして、画像処理部24は、検出した繋ぎ位置と各光学系レンズ特性を考慮して、2つの画像をそれぞれ幾何学変換により歪み補正処理し、全天球イメージ形式に変換する。画像処理部24は、この2つの全天球イメージ形式の画像をブレンドすることで、最終的に1つの全天球画像データ(VR画像)を生成する。生成された全天球画像データは、正距円筒図法を用いた画像となり、各画素の位置が球体の表面の座標と対応付けることが可能となる。
A/D変換器23a,23bからの出力データは、画像処理部24およびメモリ制御部15を介して、あるいは、メモリ制御部15を介してメモリ32に書き込まれる。メモリ32は、撮像部22によって得られA/D変換器23によりデジタルデータに変換された画像データや、接続I/F25から外部のディスプレイに出力するための画像を格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は、画像表示用のメモリ(ビデオメモリ)を兼ねている。メモリ32に格納されている画像表示用のデータは、接続I/F25から外部のディスプレイに出力することが可能である。撮像部22aおよび22bのうち少なくとも1つで撮像された画像を用いて、画像処理部24で生成され、メモリ32に蓄積されたVR画像は、外部ディスプレイに逐次転送され表示される。これにより、外部ディスプレイは、電子ビューファインダとして機能し、ライブビュー表示(LV表示)を行うことができる。以下、ライブビュー表示される画像をLV画像と称する。なお、メモリ32に蓄積されたVR画像は、通信部54を介して無線接続された外部機器(スマートフォンなど)に転送され、外部機器側で表示されることによりライブビュー表示(リモートLV表示)されてもよい。
不揮発性メモリ56は、電気的に消去・記録可能な記録媒体としてのメモリであり、例
えばEEPROM(Electrically Erasable Programmable Read-Only Memory)等が用いられる。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記憶される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのコンピュータプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサまたは回路を有する制御部であり、撮像装置100全体を制御する機能部である。システム制御部50は、前述した不揮発性メモリ56に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。システムメモリ52には、例えばRAMが用いられる。システムメモリ52には、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。また、システム制御部50は、メモリ32、画像処理部24、メモリ制御部15を制御することにより表示制御も行う。システムタイマ53は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
モード切替スイッチ60、シャッターボタン61、操作部70は、システム制御部50に各種の動作指示を入力するための操作部である。モード切替スイッチ60は、システム制御部50の動作モードを静止画記録モード、動画撮影モード、再生モード、通信接続モード等のいずれかに切り替える。静止画記録モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモードがある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。ユーザは、モード切替スイッチ60を用いて、上記モードのいずれかに直接切り替える。あるいは、ユーザが、モード切替スイッチ60で撮影モードの一覧画面に一旦切り換えた後に、表示部28に表示された複数のモードのいずれかを選択し、他の操作部材を用いて切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
電源スイッチ72は、電源ON/OFFを切り替えるための押しボタンである。発光部21は発光ダイオード(LED)などの発光部材であり、撮像装置100の各種状態を発光パターンや発光色によってユーザに通知する機能部である。記録媒体150は、メモリカードやハードディスク等の記録媒体である。
第1シャッタースイッチ62は、撮像装置100に設けられたシャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でONとなり第1シャッタースイッチ信号SW1を発生する。第1シャッタースイッチ信号SW1により、システム制御部50は、上述の、AF処理、AE処理、AWB処理、EF処理等の撮影準備動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから記録媒体150に画像データを書き込むまでの一連の撮影処理の動作を開始する。
なお、シャッターボタン61は全押しと半押しの2段階の操作が可能なものに限るものではなく、1段階の押下だけが可能な操作部材であってもよい。その場合、1段階の押下に応じて撮影準備動作と撮影処理が連続して行われる。これは、半押しと全押しが可能なシャッターボタンをいわゆる全押しした場合と同じ動作(SW1とSW2がほぼ同時に発生した場合の動作)である。
操作部70の各操作部材は、表示部28に表示される種々の機能アイコンや選択肢を選択操作することなどにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして
作用する。機能ボタンとしては、例えば終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタン等がある。例えば、メニューボタンが押されると各種の設定可能なメニュー画面が表示部28に表示される。利用者は、表示部28に表示されたメニュー画面を見ながら操作部70を操作することで、直感的に各種設定を行うことができる。
電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部80は、その検出結果およびシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体150を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプタ等から構成される電源である。
記録媒体I/F18は、メモリーカードやハードディスク等の記録媒体150とのインターフェースである。記録媒体150は、撮影された画像を記録するためのメモリーカード等の記録媒体であり、半導体メモリや光ディスク、磁気ディスク等から構成される。記録媒体150は、撮像装置100に着脱可能な交換記録媒体でもよいし、内蔵の記録媒体であってもよい。
通信部54は、無線または有線ケーブルによって接続し、映像信号や音声信号等の送受信を行う。通信部54は、無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)やBluetooth Low Energy(登録商標)でも外部機器と通信可能である。通信部54は、撮像部22a,22bで撮像した画像(LV画像を含む)や、記録媒体150に記録された画像を送信可能であり、また、外部機器から画像やその他の各種情報を受信してもよい。
姿勢検知部55は、重力方向に対する撮像装置100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、システム制御部50は、撮像部22で撮影された画像が、撮像装置100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。また、システム制御部50は、ヨー、ピッチ、ロールの3軸方向にどの程度傾けた姿勢で撮影された画像であるか判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22a,22bで撮像されたVR画像の画像ファイルに付加したり、画像を回転(傾き補正するように画像の向きを調整)して記録したりすることが可能である。姿勢検知部55として、加速度センサ、ジャイロセンサ、地磁気センサ、方位(角)センサ、高度センサなどを単独で、または2つ以上組み合わせて用いてもよい。姿勢検知部55は、上記センサを用いて、撮像装置100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
マイク20は、VR画像の動画の音声として記録される撮像装置100の周囲の音声を集音するマイクロフォンである。接続I/F25は、外部機器と接続して映像の送受信を行うための、HDMI(登録商標)ケーブルやUSBケーブルなどとの接続プラグである。
<表示制御装置200の構成>
図2Aは、電子機器の一種である表示制御装置200の一例を示す外観図である。表示制御装置200は、演算装置(プロセッサ)、メモリ、記憶装置、入出力装置等を含む情報処理装置(コンピュータ)である。記憶装置に格納されたプログラムを表示制御装置200が実行することで、表示制御装置200の後述する機能が提供される。これらの機能
の一部または全部は、ASICやFPGAなどの専用の論理回路により実装されてもよい。
ディスプレイ205は、画像や各種情報を表示する表示部である。本実施形態では、ディスプレイ205は、後述するようにタッチパネル206aと一体的に構成されており、ディスプレイ205の表示面へのタッチ操作を検出する。また、表示制御装置200は、VR画像(VRコンテンツ)をディスプレイ205にVR表示することが可能である。操作部206(操作受付手段)には、タッチパネル206a、操作部206b,206c,206d,206eが含まれる。操作部206bは、表示制御装置200の電源のON/OFFを切り替える操作を受け付ける電源ボタンである。操作部206c,206dは、音声出力部(例えば、後述するスピーカー212b)から出力される音声のボリュームを増減するボタンである。操作部206eは、ディスプレイ205にホーム画面を表示させるためのボタンである。音声出力端子212aは、イヤホンジャックであり、イヤホンや外部スピーカーなどに音声を出力する。スピーカー212bは、音声を発音する本体内蔵スピーカーである。
図2Bは、表示制御装置200の一例を示す機能ブロック図である。表示制御装置200は、スマートフォンなどの表示装置を用いて構成可能である。
図2Bにおいて、内部バス250に対してCPU201、メモリ202、不揮発性メモリ203、画像処理部204、ディスプレイ205、操作部206、記憶媒体I/F207、外部I/F209、および通信I/F210が接続されている。また、内部バス250に対して音声出力部212、姿勢検出部213およびシステムタイマ214も接続されている。内部バス250に接続される各部は、内部バス250を介して互いにデータのやりとりを行う。
CPU201は、表示制御装置200の全体を制御する制御部であり、少なくとも1つのプロセッサまたは回路を用いて構成される。メモリ202は、例えばRAM(半導体素子を利用した揮発性のメモリなど)である。CPU201は、例えば不揮発性メモリ203に格納されるプログラムに従い、メモリ202をワークメモリとして用いて、表示制御装置200の各部を制御する。不揮発性メモリ203には、画像データや音声データ、その他のデータ、CPU201が動作するための各種プログラムなどが格納される。不揮発性メモリ203は、例えばフラッシュメモリやROM等である。
画像処理部204は、CPU201の制御に基づいて、不揮発性メモリ203や記憶媒体208に格納された画像や、外部I/F209を介して取得した映像信号、通信I/F210を介して取得した画像などに対して各種画像処理を施す機能部である。画像は、静止画でも動画でもよい。画像処理部204が行う画像処理には、A/D変換処理、D/A変換処理、画像データの符号化処理、圧縮処理、デコード処理、拡大処理/縮小処理(リサイズ)、ノイズ低減処理、色変換処理等が含まれる。また、全方位画像または全方位ではない画像について、広範囲のデータを有する広範囲画像であるVR画像のパノラマ展開やマッピング処理、変換などの各種画像処理も行う。画像処理部204は、特定の画像処理を施すための専用の回路ブロックで構成されていてもよい。また、画像処理の種別によっては画像処理部204を用いずにCPU201がプログラムに従って画像処理を施すことも可能である。
なお、ここでは、撮像装置100の画像処理部24が2つの画像(魚眼画像)を合成(繋ぎ画像処理)して単一のVR画像(合成画像)を生成する場合について説明したが、表示制御装置200が単一のVR画像(合成画像)を生成するようにしてもよい。この場合、撮像装置100から表示制御装置200へ2つの画像(魚眼画像)が合成されずに送信
される。そして、表示制御装置200は、撮像装置100から受信した2つの画像(魚眼画像)を合成(繋ぎ画像処理)して単一のVR画像(合成画像)を生成する。そして、録画開始指示から録画終了指示までの間、生成されたVR画像が記録媒体208に記録される。
ディスプレイ205は、CPU201の制御に基づいて、画像やGUI(Graphical User Interface)を構成するGUI画面などを表示する。CPU201は、プログラムに従い表示制御信号を生成し、ディスプレイ205に表示するための映像信号を生成してディスプレイ205に出力するように表示制御装置200の各部を制御する。ディスプレイ205は、出力された映像信号に基づいて映像を表示する。なお、表示制御装置200自体が備える構成としてはディスプレイ205に表示させるための映像信号を出力するためのインターフェースまでとし、ディスプレイ205は外付けのモニタ(テレビなど)でもよい。
操作部206(受付部)は、ユーザ操作を受け付けるための入力デバイスである。操作部206は、例えば、キーボードなどの文字情報入力デバイスや、マウスやタッチパネルといったポインティングデバイス、ボタン、ダイヤル、ジョイスティック、タッチセンサ、タッチパッド等である。なお、タッチパネルは、ディスプレイ205に重ね合わせて平面的に構成され、接触された位置に応じた座標情報が出力されるようにした入力デバイスである。なお、操作部206は、入力デバイスではなく、リモートコントローラなどのような外部の入力デバイスからの信号を受信するための受信デバイスであってもよい。
記憶媒体I/F207は、メモリーカードやCD、DVDといった記憶媒体208が装着可能とされ、CPU201の制御に基づき、装着された記憶媒体208からのデータの読み出しや、当該記憶媒体208に対するデータの書き込みを行う。外部I/F209は、外部機器と有線ケーブルや無線によって接続し、映像信号や音声信号の入出力を行うためのインターフェースである。通信I/F210は、外部機器やインターネット(NET)211などと通信して、ファイルやコマンドなどの各種データの送受信を行うためのインターフェースである。
音声出力部212は、動画や音楽データの音声や、操作音、着信音、各種通知音などを出力する機能部である。音声出力部212には、イヤホンなどを接続する音声出力端子212a、スピーカー212bが含まれるものとするが、無線通信などで音声出力を行ってもよい。
姿勢検出部213は、重力方向に対する表示制御装置200の姿勢や、ヨー、ロール、ピッチの各軸に対する姿勢の傾きを検知する機能部である。姿勢検出部213で検知された姿勢に基づいて、表示制御装置200が横に保持されているか、縦に保持されているか、上に向けられたか、下に向けられたか、斜めの姿勢になったかなどを判別可能である。姿勢検出部213としては、加速度センサ、ジャイロセンサ、地磁気センサ、方位センサ、高度センサなどのうち少なくとも1つを用いることができ、複数を組み合わせて用いることも可能である。システムタイマ214は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
本実施形態では、操作部206にはタッチパネル206aが含まれる。CPU201はタッチパネル206aへの以下の操作または状態を検出する。
・タッチパネル206aにタッチしていなかった指やペンが新たにタッチパネル206aにタッチしたこと、すなわち、タッチの開始(以下、タッチダウン(Touch-Down)と称する。)
・指やペンがタッチパネル206aをタッチしている状態であること(以下、タッチオ
ン(Touch-On)と称する。)
・指やペンがタッチパネル206aをタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する。)
・タッチパネル206aへタッチしていた指やペンがタッチパネル206aから離れたこと、すなわち、タッチの終了(以下、タッチアップ(Touch-Up)と称する。)
・タッチパネル206aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する。)
タッチダウンが検出されると、同時にタッチオンも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出された場合も、同時にタッチオンが検出される。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていたすべての指やペンがタッチアップしたことが検出されると、タッチオフが検出される。
これらの操作・状態や、タッチパネル206a上に指やペンがタッチしている位置座標は内部バスを通じてCPU201に通知される。そして、CPU201は、通知された情報に基づいてタッチパネル206a上にどのような操作(タッチ操作)が行われたかを判断する。タッチムーブについては、タッチパネル206a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル206a上の垂直成分・水平成分ごとに判断される。所定距離以上をタッチムーブしたことが検出された場合、CPU201は、スライド操作が行われたと判断する。タッチパネル206a上に指をタッチしたまま、ある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル206a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行われたと判断する(スライド操作に続いてフリックがあったものと判断する)。さらに、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン(Pinch-In)、互いのタッチ位置を遠ざけるタッチ操作をピンチアウト(Pinch-Out)と称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。タッチパネル206aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いてもよい。タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
<撮像装置100の処理内容>
図3A~図3Cは、撮像装置100で行われる各種処理の一例を示すフローチャートである。各種処理には、撮像装置100自体の操作による撮影処理(撮像処理)や、表示制御装置200から受け付けた命令による機器制御処理等が含まれる。上記の処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現される。また、図3Aに記載の制御はシステム制御部50により実行される。撮像装置100の電源がONされ、通信部54または接続I/F25が有効になると図3Aに示す処理が開始される。
まず、システム制御部50は、カメラ部a,bにて撮像した画像を画像処理部24にて処理し、その画像のメモリ32への出力を開始する(S301)。そして、システム制御部50は、撮像装置100が通信部54を介し表示制御装置200との通信中の状態か否かの判断を行う(S302)。通信中でない場合(S302-NO)は、システム制御部50は、ステップS312の処理を実行する。
通信中の状態の場合(S302-YES)は、システム制御部50は、メモリ32に蓄積されたリアルタイムのVR画像をライブ映像として通信部54から送信を開始する(S303)。次に、システム制御部50は、撮像装置ステータス(状態)を表示制御装置200に送信する(S304)。ここで、撮像装置ステータスには、カメラ部のON/OFF、撮影のON/OFF、録画のON/OFF、表示制御装置200への画像送信(映像送信)のON/OFF等が含まれる。また、撮像装置ステータスには、撮像部22への給
電の有無、A/D変換器23への給電の有無、画像処理のON/OFF等の情報が含まれる。カメラ部のONとは、少なくとも撮像部22への給電が有り、かつ撮影がONである状態であり、画像送信はONでもOFFでもよい。カメラ部のOFFとは、少なくとも撮影がOFF(画像送信もOFF)の状態であり、撮像部22への給電は有りでもなしでもよい。次に、システム制御部50は、表示制御装置200にライブ映像表示中か否かの判断を行う(S305)。表示中ではない場合(S305-NO)は、システム制御部50は、ステップS308の処理を実行する。なお、システム制御部50は、表示制御装置200から無線通信等を用いて情報を取得することで、上記ライブ映像を表示中か否かを判断してもよい。また、システム制御部50は、表示制御装置200へライブ映像を送信中か否かに応じて、ステップ305における判断を行ってもよい。
ライブ映像を表示中の場合(S305-YES)は、システム制御部50は、表示制御装置200から命令を受信しているか否かの判断を行い(S306)、命令を受信していない場合(S306-NO)は、ステップS304の処理を実行する。命令を受信している場合(S306-YES)は、システム制御部50は、表示制御装置200の命令に応じた処理を実行する(S307)。ステップS307の処理の詳細は後述する。
次に、ステップS308では、システム制御部50は、「ライブ映像を外部に送信中かつ表示制御装置200と通信中でない」か否かを判断する。「ライブ映像を外部に送信中かつ表示制御装置200と通信中でない」場合(S308-YES)は、システム制御部50は、ライブ映像の送信を停止する(S309)。
次に、ステップS310では、システム制御部50は、撮像装置100の操作に基づいて撮影指示がなされたか否かを判断する。撮像装置100の操作は、例えば、シャッターボタン61の押下による操作である。撮影指示を受信した場合(S310-YES)は、システム制御部50は、図3Bに示す撮影処理(S311)を実行する。ステップS311の撮影処理の詳細については後述する。
次に、ステップS312では、システム制御部50は、カメラ停止操作が行われたか否かを判断する。停止操作が行われた場合(S312-YES)は、システム制御部50は、録画中であれば(S313-YES)録画を停止し(S314)、その後、各カメラ部をOFFにする(S315)。
≪命令に応じた処理(S307)≫
図3Bは、ステップS307における処理の詳細を示すフローチャートである。本実施形態では、撮影処理、カメラ部のON/OFFの切替処理、表示制御装置200への画像送信のON/OFFの切替処理に関する命令を撮像装置100が受信する例について説明する。なお、撮像装置100が受信する命令は上記に限定されず、例えば、カメラ部の向きを変更する命令や上述の撮像装置ステータスの状態を変更する命令であってもよい。
ここで、撮影処理に関する命令は、後述する表示制御装置200の撮影指示処理(S408)において行われる命令(撮影指示)である。また、カメラ部のONおよび画像送信のONに関する命令は、後述する表示制御装置200の表示範囲の変更処理(S410)において行われる命令である。さらに、カメラ部のOFFおよび画像送信のOFFに関す
る命令は、後述する表示制御装置200の省電力化処理(S413)において行われる命令である。
また、表示制御装置200では、撮像装置100が録画中か否かに応じて、カメラ部のON/OFFまたは画像送信のON/OFFを切り替えるよう命令する。これは、カメラ部をONにする場合、録画中であれば撮像装置100の電源(カメラ部への給電)は既にONであることから、画像送信のみをONにすればよいためである。また、カメラ部をOFFにする場合(省電力化処理)、録画中であれば、録画状態を維持したまま、画像送信のみOFFにすることでカメラ部の省電力化を図るためである。同様に、撮像装置100の処理においても撮像装置100が録画中か否かに応じて処理を分けているが、撮像装置100は、録画中か否かにかかわらず上記の命令に従って処理を行ってもよい。以下、撮像装置100における上記の命令に応じた処理(S307)について説明する。
システム制御部50は、受信した命令が撮影指示であるか否かを判断する(S3071)。撮影指示でなければ(S3071-NO)、システム制御部50は、録画中か否かに応じて以下の処理を行う。録画中ではない場合(S3072-NO)は、システム制御部50は、表示制御装置200の命令に応じて一部のカメラ部のON/OFFの切り替えを行う(S3073)。録画中の場合(S3072-YES)は、システム制御部50は、表示制御装置200からの命令に応じて複数のカメラ部のうち一部のカメラ部から出力される画像を合成したVR画像の送信(ライブ映像の送信)のON/OFFの切り替えを行う(S3074)。また、受信した命令が撮影指示の場合(S3071-YES)は、システム制御部50は、表示制御装置200の命令に応じて撮影処理を実行する(S3075)。ここで、本実施形態における撮影指示には、静止画撮影指示または動画の録画開始指示/録画停止指示が含まれる。なお、ステップS3075の撮影処理は、ステップS311の撮影処理と同一であってもよい。ステップS3073~S3075の処理の後は、システム制御部50は、図3Aに示すステップS304の処理を実行する。
≪撮影処理(S311)≫
図3Cは、上述の撮影処理(S311)の一例を示すフローチャートである。本処理では、撮像装置100自体の操作による静止画撮影指示または動画撮影指示に応じて静止画撮影、動画撮影(録画開始または録画停止)が行われる。静止画撮影指示を受け付ける場合は、システム制御部50は静止画撮影処理を行う。また、動画撮影指示を受け付ける場合は、システム制御部50は録画中か否かに応じて録画開始処理/録画停止処理を行う。具体的には、すでに撮像装置100が録画中であれば録画停止処理を行い、録画中でなければ録画開始処理を行う。なお、撮像装置100は、録画中に静止画撮影指示を受け付ける場合も、上記と同様に静止画撮影処理を行う。以下、撮影処理(S311)における処理の詳細を説明する。
システム制御部50は、OFFのカメラ部があるか否かを判断する(S3111)。そして、システム制御部50は、OFFのカメラ部が存在する場合(S3111-YES)は、OFFのカメラ部をONに切り替える(S3112)。
次に、システム制御部50は、撮影処理の指示内容が静止画撮影指示か動画撮影指示かを判断する(S3113)。静止画撮影指示の場合は、システム制御部50は、静止画撮影を実行する(S3115)。動画撮影指示の場合は、システム制御部50は、録画中であるか否かを判断する(S3114)。録画中ではない場合(S3114-NO)は、システム制御部50は、録画を開始する(S3116)。録画中の場合(S3114-YES)は、システム制御部50は、録画停止を実行する(S3117)。なお、撮影処理により取得されるデータは、メモリ32に記録される。
<表示制御装置200の処理内容>
図4A~図4Gは、表示制御装置200における表示制御処理の一例を示すフローチャートである。この処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開し、CPU201が実行することで実現される。表示制御装置200の電源がONにされ、通信I/Fもしくは外部I/Fが有効になると図4Aに示す処理が開始される。
まず、CPU201は、表示制御装置200が撮像装置100と通信しているか否かを判断する(S401)。通信I/F210のデータ受信により通信を検知する場合(S401-YES)は、CPU201は以下の処理を実行する。まず、CPU201は、通信I/F210からVR画像データ(VR画像)を受信する(S402)。また、CPU201は、受信したVR画像データを画像処理部204にてVR画像(合成画像)の一部の範囲の画像の切り出しを行い、ディスプレイ205に切り出した画像を表示する(S403)。次に、CPU201は、撮像装置100から送信された上述の撮像装置ステータスを受信(S404)し、メモリ32に格納する。
次に、CPU201は、表示制御装置200の操作指示の有無を検知する。具体的には、CPU201は、操作部206もしくはタッチパネル206aのボタン操作、またはタッチ操作等を操作指示として検知する。以下、CPU201が、映像表示終了操作指示の有無(S405)、撮影操作指示の有無(S407)および表示範囲の変更指示の有無(S409)を検知する場合について説明する。
まず、映像表示の終了操作指示を検知する場合(S405-YES)は、CPU201は、表示制御装置200におけるライブ映像表示の終了処理を行う(S406)。次に、撮影操作指示を検知する場合(S407-YES)は、CPU201は、操作指示に応じた命令を撮像装置100へ送信する撮影指示処理を行う(S408)。本実施形態では、CPU201は、静止画撮影指示、動画撮影開始指示/停止指示のいずれかを含む命令を撮像装置100へ送信する。さらに、表示制御装置200において表示範囲の変更指示を検知する場合(S409-YES)は、CPU201は、操作画像処理部204にて切り出し画像の範囲変更処理を行う(S410)。ステップS406,S408,S410の処理の詳細は後述する。
ステップS411では、ボタン操作やタッチ操作が行われない場合(無操作の場合)に、CPU201は、システムタイマ214を使用してタイマーのカウントアップを開始する。そして、CPU201は、無操作の時間が所定の閾値T以上続いたか否かを判断する(S412)。なお、閾値Tは、例えば、1分とすることができるが、特に限定されない。また、後述するように、閾値Tを変更可能としてもよい。無操作の時間が閾値T未満の場合(S412-NO)は、CPU201は、再度、ステップS402の処理を実行する。無操作の時間が閾値T以上(所定時間以上)の場合(S412-YES)は、CPU201は、省電力化処理を行う(S413)。本実施形態では、省電力化処理として、VR画像を構成する複数の画像のうち、表示範囲の画像を撮像するカメラ部以外のカメラ部をOFFの状態に切り替える。あるいは、撮像装置100が録画中の場合は、複数のカメラ部をONの状態のまま変更せず、表示範囲の画像を撮像するカメラ部以外のカメラ部が出力した画像はライブ映像のVR画像には合成しないことによって、表示範囲外の画像を撮像するカメラ部については、撮像装置100から表示制御装置200への画像送信をOFFにする。省電力化処理の詳細は後述する。
≪映像表示の終了処理(S406)≫
図4Bは、本実施形態におけるライブ映像表示の終了処理(S406)の一例を示すフローチャートである。具体的には、CPU201は、メモリ202のタイマーカウントをゼロクリア(S4061)し、ディスプレイ205への表示停止を行い(S4062)、
映像受信を停止し、撮像装置100との通信を中止する(S4063)ことで、ライブ映像表示の終了処理を行う。そして、上述の通り、撮像装置100において、「ライブ映像を外部に送信中かつ表示制御装置200と通信していない」場合(S308-YES)となるので、システム制御部50はライブ映像の表示制御装置200への送信を停止する(S309)。
≪撮影指示処理(S408)≫
図4Cは、本実施形態における撮影指示処理(S408)の一例を示すフローチャートである。本実施形態では、表示制御装置200は、静止画撮影指示または動画撮影指示に応じて、静止画撮影命令または動画撮影開始/停止命令を撮像装置100へ送信する例について説明する。また、本実施形態では、表示制御装置200は、動画撮影指示に応じて、撮像装置100が録画中であれば動画撮影開始、録画中でなければ動画撮影停止を行うように撮像装置100に命令する。なお、表示制御装置200は、録画中か否かに関係なく動画撮影開始/停止命令を行ってもよい。以下、本実施形態に係る撮影指示処理の詳細を説明する。
まず、CPU201は、メモリ202のタイマーカウントをゼロクリアする(S4081)。そして、CPU201は、撮影指示の内容が動画撮影指示か否かを判断する(S4082)。静止画撮影指示である場合は、CPU201は、静止画撮影命令を撮像装置100に送信する(S4083)。動画撮影指示である場合は、録画中であるか否かを判断する(S4084)。録画中ではない場合(S4084-NO)は、CPU201は、動画撮影開始命令を撮像装置100に送信する(S4085)。録画中の場合(S4084-YES)は、CPU201は、動画撮影停止命令を撮像装置100に送信する(S4086)。ステップS4083,S4085,S4086の処理後は、再度、図4Aに示すステップS402の処理を実行する。
≪表示範囲の変更処理(S410)≫
図4Dは、本実施形態に係る表示範囲の変更処理の一例を示すフローチャートである。本処理では、撮像装置100の送信画像を表示している状態で、表示制御装置200の操作により表示範囲が変更された場合、表示制御装置200は、必要に応じて撮像装置100のカメラ部をONにする命令を送信する。具体的には、変更後の表示範囲に、撮像装置100のカメラ部のうちOFFのカメラ部における撮像範囲が含まれる場合、表示制御装置200は、OFFのカメラ部をONにして画像送信を開始する命令を撮像装置100へ送信する。さらに、変更後の表示範囲に、撮像装置100のカメラ部のうちONのカメラ部における撮像範囲が含まれなくなる場合、表示制御装置200は、ONのカメラ部をOFFに切り替えて画像送信を停止する命令を撮像装置100へ送信してもよい。ここで、カメラ部が録画中である場合はすべてのカメラ部はONであるため、表示制御装置200は、変更後の表示範囲に、撮像範囲が含まれるカメラ部から出力された画像を合成したVR画像の送信を開始する命令を撮像装置100へ送信する。さらに、表示制御装置200は、変更後の表示範囲に、撮像範囲が含まれないカメラ部から出力された画像をVR画像に合成しないことによって、撮像範囲が含まれないカメラ部から出力された画像の送信を停止する命令を撮像装置100へ送信してもよい。以下、本実施形態に係る表示範囲の変更処理の詳細を説明する。
まず、CPU201は、操作画像処理部204にて、ステップS303で撮像装置100から送信されたVR画像(合成画像)の表示範囲を変更する。そして、CPU201は、操作に応じた表示範囲と対応する部分をVR画像から切り出してディスプレイ205にライブビュー表示(S4101)する。そして、CPU201は、メモリ202のタイマーカウントをゼロクリアする(S4102)。さらに、CPU201は、録画中か否かを判断する(S4103)。
ステップS4103において、録画中ではない場合(S4103-NO)は、CPU201は、OFFのカメラ部の有無を判断する(S4104)。CPU201は、撮像装置100から受信したVR画像に終端がある場合、OFFのカメラ部があると判断する。例えば、撮像装置100においてカメラ部bがOFFのとき、撮像装置100はカメラ部aから出力された画像221のみで生成されたVR画像を表示制御装置200へ送信する。図2Dに示すように、画像221のみで生成されたVR画像は、終端225や終端226が存在するので、CPU201は、OFFのカメラ部があると判断する。OFFのカメラ部がある場合(S4104-YES)は、CPU201は、表示範囲がOFFのカメラ部の撮像範囲を含むように、移動されたか否かを判断する(S4105)。CPU201は、図2Dに示すように、表示範囲224が表示範囲227へ移動し、表示範囲227が撮像装置100から受信したVR画像で満たされなくなったとき、表示範囲が、OFFのカメラ部の撮像範囲に移動したと判断する。表示範囲がOFFのカメラ部の撮像範囲に含まれるように移動された場合(S4105-YES)は、CPU201は、OFFのカメラ部をONにする命令を撮像装置100に送信する(S4106)。なお、本実施形態では、カメラ部aとカメラ部bの2つだけであるので、例えば、カメラ部aがONで、その出力した画像が表示制御装置200へ送信されているのであれば、OFFのカメラ部はカメラ部bに一意に決まる。上記の命令は、例えば、外部I/F209もしくは通信I/F210を介して行われる。なお、CPU201は、表示範囲が、ONのカメラ部の撮像範囲に含まれてはいるが、ONのカメラ部の撮像範囲の端の近傍に移動し、このまま移動が継続すると、表示範囲がOFFのカメラ部の撮像範囲に含まれる可能性が高いと予想される場合に、OFFのカメラ部をONにする命令を撮像装置100に送信するようにしてもよい。あるいは、例えば、表示範囲の中心位置や全***置などの座標と、ONのカメラ部の画像の終端との距離が所定値以下になった場合に、OFFのカメラ部をONにする命令を撮像装置100に送信してもよい。また、S4106では、CPU201は、表示範囲が移動して、表示範囲を全く含まなくなる撮像範囲を撮影するカメラ部をOFFにする命令を撮像装置100に送信してもよい。
ステップS4103において、録画中の場合(S4103-YES)は、CPU201は、画像送信を停止中のカメラ部の有無を判断する(S4107)。CPU201は、撮像装置100から受信したVR画像に終端がある場合、送信停止中のカメラ部があると判断する。例えば、撮像装置100においてカメラ部bが送信停止中のとき、撮像装置100はカメラ部aから出力された画像221のみで生成されたVR画像をライブ映像として表示制御装置200へ送信する。図2Dに示すように、画像221のみで生成されたVR画像は、終端225や終端226が存在するので、CPU201は、送信停止中のカメラ部があると判断する。送信停止中のカメラ部がある場合(S1407-YES)は、CPU201は、表示範囲が画像送信停止中のカメラ部の撮像範囲を含むように、移動されたか否かを判断する(S4108)。CPU201は、図2Dに示すように、表示範囲224が表示範囲227へ移動し、表示範囲227が撮像装置100から受信したVR画像で満たされなくなったとき、表示範囲が、送信停止中のカメラ部の撮像範囲に移動したと判断する。表示範囲が送信停止中のカメラ部の撮像範囲に含まれるように移動された場合(S1408-YES)は、CPU201は、送信停止中のカメラ部から出力された画像の送信を開始する命令を撮像装置100に送信する(S4109)。なお、CPU201は、表示範囲が、画像送信中のカメラ部の撮像範囲に含まれてはいるが、画像送信中のカメラ部の撮像範囲の端の近傍に移動し、このまま移動が継続すると、表示範囲が画像送信停止中のカメラ部の撮像範囲に含まれる可能性が高いと予想される場合に、画像送信停止中のカメラ部の画像送信を開始する命令を撮像装置100に送信するようにしてもよい。また、S4109では、CPU201は、表示範囲が移動して、表示範囲を全く含まなくなる撮像範囲を撮影するカメラ部の画像送信をOFFにする命令を撮像装置100に送信してもよい。上記の命令は、例えば、外部I/F209もしくは通信I/F210を介して
行われる。本処理後は、再度、図4Aに示すステップS402の処理を行う。
≪省電力化処理(S413)≫
図4Eは、本実施形態に係る省電力化処理(S413)の一例を示すフローチャートである。本処理では、CPU201は、無操作の時間が閾値T以上の場合に省電力化処理を行う。具体的には、表示制御装置200は、VR画像(合成画像)の一部の範囲がディスプレイ205に表示されている際に、ディスプレイ205に表示されていない範囲の画像を撮像する撮像装置100のカメラ部をOFFにする命令を送信する。また、録画中である場合は、表示制御装置200は、表示範囲を含まない撮像範囲を撮影するカメラ部をOFFにせず、画像送信のみOFFにする命令を送信する。ここで、表示範囲に複数のカメラ部が撮像する画像が含まれる場合は、表示制御装置200は、表示範囲に応じてOFFにするカメラ部を決定する。以下、本実施形態に係る省電力化処理の詳細を説明する。
まず、CPU201は、録画中か否かを判断する(S4131)。
ステップS4131において、録画中ではない場合(S4131-NO)は、CPU201は、ディスプレイ205に表示中のVR画像の表示範囲に応じて実行する処理を決定する(S4132)。CPU201は、VR画像とともに受信した、各カメラ部の撮像範囲を示す座標情報と表示範囲の座標を比較する。そして、ディスプレイ205にカメラ部aが撮像する画像のみが表示されている場合は、CPU201は、カメラ部a以外のカメラ部としてカメラ部bをOFFにする命令を撮像装置100に送信する(S4133)。ディスプレイ205にカメラ部bが撮像する画像のみが表示されている場合は、CPU201は、カメラ部b以外のカメラ部としてカメラ部aをOFFにする命令を撮像装置100に送信する(S4134)。ディスプレイ205に、カメラ部a,bの両方の映像(境界)が表示されている場合には、CPU201は境界処理を行う(S4135)。境界処理の詳細は後述する。
ステップS4131において、録画中の場合(S4131-YES)は、CPU201は、ディスプレイ205に表示中のVR画像の表示範囲に応じて実行する処理を決定する(S4136)。CPU201は、VR画像とともに受信した、各カメラ部の撮像範囲を示す座標情報と表示範囲の座標を比較する。そして、ディスプレイ205にカメラ部aが撮像する画像のみが表示されている場合は、CPU201は、カメラ部a以外のカメラ部としてカメラ部bから出力される画像を合成したライブ映像の送信を停止する命令を撮像装置100に送信する(S4137)。ディスプレイ205にカメラ部bが撮像する画像のみが表示されている場合は、CPU201は、カメラ部b以外のカメラ部としてカメラ部aから出力される画像を合成したライブ映像の送信を停止する命令を撮像装置に送信する(S4138)。ディスプレイ205に、カメラ部a,bの両方の映像が含まれる場合には、CPU201は録画中境界処理を行う(S4139)。録画中境界処理の詳細は、後述する。ステップS4133~S4135,S4137~S4139の処理後は、再度、ステップS402を実行する。
≪境界処理(S4135)≫
図4Fは、上述の境界処理(S4135)の一例を示すフローチャートである。境界処理が実行されると、CPU201は、VR画像の表示範囲のうち、カメラ部aが撮像する画像の表示サイズがカメラ部bが撮像する画像の表示サイズ以上か否かの判断を行う(S41351)。
表示範囲に占める面積がカメラ部bの画像の方がカメラ部aの画像よりも大きい場合(S41351-NO)は、ライブ映像において、カメラ部bが撮像する画像のみに含まれるように、ディスプレイ205の表示範囲を変更(S41352)し、カメラ部aをOF
Fにする命令を撮像装置に送信する(S41353)。また、表示範囲に占める面積がカメラ部aの画像の方がカメラ部bの画像よりも大きい場合(S41351-YES)は、ライブ映像において、カメラ部aが撮像する画像のみに含まれるようにディスプレイ205の表示範囲を変更(S41354)し、カメラ部bをOFFする命令を撮像装置に送信する(S41355)。
≪録画中境界処理(S4139)≫
図4Gは、上述の録画中境界処理(S4139)の一例を示すフローチャートである。録画中境界処理が実行されると、CPU201は、VR画像の表示範囲のうち、カメラ部aが撮像する画像の表示サイズがカメラ部bが撮像する画像の表示サイズ以上か否かの判断を行う(S41391)。
表示範囲に占める面積がカメラ部bの画像の方がカメラ部aの画像よりも大きい場合(S41391-NO)は、CPU201は、ライブ映像において、カメラ部bの撮像する画像のみに含まれるようにディスプレイ205の表示範囲を変更(S41392)する。そして、CPU201は、カメラ部aの画像送信を停止する命令を撮像装置100に送信する(S41393)。また、表示範囲に占める面積がカメラ部aの画像の方がカメラ部bの画像よりも大きい場合(S41391-YES)は、CPU201は、ライブ映像において、カメラ部aが撮像する画像のみに含まれるようにディスプレイ205の表示範囲を変更(S41394)する。そして、CPU201は、カメラ部bの画像送信を停止する命令を撮像装置100に送信する(S41395)。
なお、ステップS41393,S41395の処理後、所定の条件によってカメラ部a,bの画像送信を再開する命令を撮像装置に送信するようにしてもよい。所定の条件は、例えば、カメラ部a,bが撮像する画像を表示範囲に入れるようにするユーザ指示入力が所定期間以上継続した場合、または所定期間内に2回以上当該指示入力が繰り返された場合等が挙げられる。
<起動時間の短縮処理>
本実施形態では、カメラ部の起動に伴う遅延時間を短縮するために、表示範囲の位置に応じて撮像装置100の停止対象機能を変更する。具体的には、表示範囲が、VR画像の何処に位置するかに応じて、撮像装置100の撮像部22への給電停止、A/D変換器23への給電停止、画像処理および表示制御装置200への画像送信処理の停止のいずれかが行われる。なお、本実施形態では、上記の所定の範囲として、矩形の範囲を2つ設ける例について説明するが、範囲の数や形状については特に限定されない。なお、領域内か否かの判断は、例えば、切り出し表示範囲の中心位置や表示範囲全***置など切り出し表示範囲の座標により行う。また、起動時間の短縮処理は、表示制御装置200において行われる例について説明するが、撮像装置100において本処理が行われてもよい。
図5Aは、カメラ部aが撮像する撮影画像504とカメラ部bが撮像する撮影画像505とを結合したVR画像を疑似的に平面に展開した状態を表す。領域501は、表示制御装置200のディスプレイ205に表示される切り出し表示範囲を示す。範囲502,範囲503は、上述した所定の範囲を示す。図5Aに示す例では、カメラ部aが撮像する撮影画像504を撮像装置100から表示制御装置200へ送信し、その一部を表示範囲としてディスプレイ205に表示している。以下、所定時間(閾値T)経過した場合に、カメラ部bの状態を表示範囲に応じて変更する例を示す。
図5Bは、起動時間短縮処理の一例を示すフローチャートである。範囲503の内側に表示範囲すべてが含まれる場合(S501-YES)は、CPU201は、撮像装置100のカメラ撮像部22bおよびA/D変換器23bへの給電を停止する(S502)。
範囲503より外側の領域が表示範囲に含まれ、かつ範囲502の内側に表示範囲すべてが含まれる場合(S501-NO、かつS503-YES)は、CPU201は、撮像装置100のA/D変換器23bへの給電を停止する(S504)。カメラ撮像部22bへの給電は行う。
範囲502より外側の領域が表示範囲に含まれる場合(S501-NO、かつS503-NO)は、CPU201は、カメラ撮像部22bおよびA/D変換器23bへ給電は行うが、A/D変換器23bから出力された画像bに対する画像処理は実行しない。そして、画像bの画像処理結果をVR画像に合成しないことによって、画像送信を停止する(S505)。
<無操作時間の変更処理>
本実施形態では、上述した無操作時間の閾値Tをユーザが設定操作を行うことで変更する。なお、以下では、表示制御装置200のディスプレイに表示されるGUIを用いて変更する例を示すが、撮像装置100を操作することより無操作時間の変更処理が行われてもよい。
図6Aは、表示制御装置200のディスプレイ205に表示される無操作時間の設定変更の画面の一例を示す。また、図6Aの「省電状態」には、カメラ部のOFFまたはカメラ部の画像送信の停止を含む。
図6Bは、無操作時間変更処理の一例を示すフローチャートである。無操作時間の変更指示が実行されると、CPU201は、表示制御装置200の設定メニューを開く(S601)。無操作時間の設定時間変更が行われる場合は、CPU201は、タイマーカウンタクリアを行い(S603)、選択または入力された時間をメモリ102に記録する(S604)。無操作時間設定は固定値の選択もしくは任意の時間の入力のどちらにも対応可能である。また、CPU201は、設定メニューを閉じる操作指示があると設定メニューを閉じる(S605)。なお、図6Aの「タイマー切」を選択することで、無操作時間を設定しないようにすることも可能である。
<本実施形態の有利な効果>
以上に示す通り、本実施形態に係る表示制御装置は、表示範囲の切り替わりにより撮像装置におけるカメラ部の駆動を適切に制御することで、撮像装置の電力消費を適切に抑えることができる。また、撮像装置が動画録画中の場合には、複数のカメラ部により得られた撮影画像を記録しつつ、ライブビュー表示には不要な撮影画像の送信を停止することで、撮像装置の使用状態に対応した電力消費の抑制を行うことができる。さらに、撮像装置の停止状態を変更することで、電力消費を抑えながら、カメラ起動に要する時間の遅延を抑制することができる。
(変形例)
上述の実施形態では、2つのカメラ部を有する撮像装置を例に説明したが、カメラ部は3つ以上設けられていてもよい。この場合、上述のカメラ部をOFFにする対象は、表示制御装置に表示されている画像を撮像するカメラ部以外としてもよい。また、上述の境界処理では、表示範囲が最も大きい画像を撮像するカメラ以外をOFFにしてもよい。なお、1つ以上のカメラ部を有する複数の撮像装置と表示制御装置とを含む制御システムにおいて、上述の機能を提供してもよい。
上述の実施形態では、表示制御装置に表示している画像については電力消費を抑えるための処理は行っていないが、例えば、画質を低下させる等の省電力化処理を行ってもよい
上述の実施形態では、所定の時間以上、操作を受け付けない場合に、省電力化する処理について説明したが、ユーザから所定の操作を受け付けた場合に上記処理が行われてもよい。所定の操作の例として、撮像装置または表示制御装置のボタンやGUIを用いて行われるユーザ操作が挙げられる。また、所定の操作の別の例として、表示制御装置の位置や姿勢を変更する操作が挙げられる。例えば、ユーザが表示制御装置の表示部を下向きに伏せた状態ではカメラ部をOFFにし、それ以外の状態ではカメラ部をONにしてもよい。
上述の実施形態では、表示制御装置の命令に従って撮像装置が(一部の)撮像部における撮像処理の停止または画像の送信処理の停止を行う例について説明したが、表示制御装置の範囲情報に基く撮像装置の判断によって上記の処理を行ってもよい。具体的には、撮像装置は、VR画像(合成画像)のうち表示制御装置に表示される一部の範囲の範囲情報を表示制御装置から受信する。そして、撮像装置は、範囲情報に基づいてVR画像の一部の範囲が表示制御装置に表示されている際に、表示制御装置に表示されていない範囲の画像を撮像する撮像部における撮像処理の停止または画像の送信処理の停止を行ってもよい。
上述の実施形態では、撮像装置と表示制御装置とが別体の装置とする例について説明したが、1つの装置に上述の複数の撮像装置の機能部と上述の表示制御装置の機能部とが設けられてもよい。
(第2の実施形態)
第2の実施形態における撮像装置100の動作について図7のフローチャートを参照して説明する。撮像装置100はあらかじめ、電源が供給され、起動処理を行い、表示制御装置200との通信を確立し、ライブビュー表示の要求を表示制御装置200から受信しているものとする。
まず、システム制御部50はすべてのカメラ部(本実施形態ではカメラ部aとカメラ部b)を通常モードで駆動するよう制御する(S701)。システム制御部50はすべてのカメラ部から出力された画像について画像処理を施し、画像処理結果を合成してVR画像を生成する(S702)。システム制御部50は、ステップS702で生成されたVR画像をライブ画像として表示制御装置200へ送信する(S703)。
そして、システム制御部50は、ステップS703で送信されたVR画像のうちディスプレイ205に表示されている表示範囲を示す座標情報(表示範囲情報)を表示制御装置200から受信する(S704)。システム制御部50は、VR画像を構成する各カメラ部から出力された画像の合成位置を示す座標情報と、表示制御装置200から受信した表示範囲の座標情報とを比較する(S705)。
比較の結果、システム制御部50は、表示範囲に含まれない画像を出力するカメラ部があれば(S706でYes)、表示範囲に含まれない画像を出力するカメラ部を省電力モードで駆動するよう制御する(S707)。なお、システム制御部50は、省電力モードでは、カメラ部のすべての機能を停止したり、カメラ部の機能のうち少なくとも一部(例えば、撮像部22およびA/D変換器23のうち少なくとも1つ)を停止したり、カメラ部から出力される画像のフレームレートを低くする。つまり、省電力モードでは、カメラ部は、通常モードで動作するときに比べて消費電力が低くなるように制御が行われる。そして、システム制御部50は、通常モードで駆動しているカメラ部から出力された画像について画像処理を施し、画像処理結果を合成してVR画像を生成する(S708)。システム制御部50はステップS708で生成されたVR画像をライブ画像として表示制御装
置200へ送信する(S709)。
そして、システム制御部はS710とS711において、S704とS705と同様の処理を実行する。システム制御部は表示範囲を示す座標情報に基づき、表示範囲がVR画像の終端の近傍にあるかどうかを判定する(S712)。VR画像が一部のカメラ部から出力された画像だけで生成されている場合、図2Dに示すようにVR画像223に終端225と終端226が存在する。表示範囲224の位置がVR画像の終端から所定の距離内にあるとき、システム制御部50は、表示範囲がVR画像の終端の近傍にあると判定する。そして、システム制御部50は、表示範囲の近傍にある終端に隣接する撮像範囲の画像を出力するカメラ部を特定し、特定されたカメラ部を通常モードで駆動するよう制御する(S713)。ステップS713では、システム制御部50は、特定されたカメラ部を省電力モードから通常モードに切り替えて駆動するように制御する。そして、システム制御部50は、特定されたカメラ部を含む、通常モードで駆動中のカメラ部から出力された画像について画像処理を施し、画像処理結果を合成してVR画像を生成する(S714)。ステップS712で生成されたVR画像をライブ画像として表示制御装置200へ送信する(S715)。
そして、システム制御部50は、録画開始指示を受け付けたかどうか判定する(S716)。システム制御部50は、撮像装置100に設けられた所定の操作部材に対する入力があった場合、あるいは、システム制御部50は、録画開始指示を表示制御装置200から受信した場合、録画開始指示を受け付けたと判定する。録画開始指示を受け付けると(S716でYes)、システム制御部50はすべてのカメラ部を通常モードで駆動するように制御し(S717)、すべてのカメラ部から出力された画像について画像処理を施し、画像処理結果を合成して記録用のVR画像を生成し(S718)、VR画像をライブ画像として表示制御装置200へ送信するとともに(S719)、VR画像を記録媒体120に記録する(S720)。
そして、システム制御部50は、録画停止指示を受け付けたかどうか判定する(S721)。システム制御部50は、撮像装置100に設けられた所定の操作部材に対する入力があった場合、あるいは、システム制御部50は、録画停止指示を表示制御装置200から受信した場合、録画停止指示を受け付けたと判定する。録画停止指示を受け付けると(S721でYes)、システム制御部50は、録画処理を停止し、ライブビュー表示の終了指示を表示制御装置200から受信したかどうか判定する(S722)。ライブビュー表示の終了指示を受け付けると(S722でYes)、本処理を終了する。ライブビュー表示の終了指示を受け付けなければ(S722でNo)、ステップS704の処理に戻る。また、録画停止指示を受け付けなければ(S721でNo)、ステップS718に戻り、録画処理を継続する。
第2の実施形態における表示制御装置200の動作について図8のフローチャートを参照して説明する。表示制御装置200はあらかじめ、電源が供給され、起動処理を行い、撮像装置100との通信を確立し、ライブビュー表示の要求を撮像装置100へ送信しているものとする。
まず、CPU201は、S703で撮像装置100から送信されたVR画像を受信し(S801)、VR画像の一部を表示範囲として、ディスプレイ205に表示する(S802)。ステップS802では初期位置として、例えば、VR画像の中央を表示範囲として表示する。そして、CPU201は、VR画像の表示範囲を変更するための指示を受け付けたかどうかを判定する(S803)。CPU201は、タッチパネル206への操作や表示制御装置200の姿勢の変化などがあると、表示範囲の変更指示を受け付けたと判定する。CPU201は、表示範囲の変更指示を受け付けたと判定すると(S803でYe
s)、変更後の表示範囲を示す座標情報を撮像装置100へ送信する(S804)。CPU201は、S709またはS715で撮像装置100から送信されたVR画像を受信し(S805)、VR画像のうち、変更後の表示範囲と対応する一部をディスプレイ205に表示する(S806)。
そして、CPU201は、録画開始指示を受け付けると(S807でYes)、録画開始指示を撮像装置100へ送信する(S808)。CPU201は、S719で撮像装置100から送信されたVR画像を受信し(S809)、VR画像のうち選択中の表示範囲と対応する一部をディスプレイ205に表示する(S810)。CPU201は、VR画像の表示範囲を変更するための指示を受け付ければ(S811でYes)、VR画像のうち変更後の表示範囲と対応する一部をディスプレイ205に表示する(S812)。なお、録画中は撮像装置100は、すべてのカメラ部を通常モードで駆動させるため、カメラ部毎に通常モードと省電力モードを切り替える必要がない。よって、撮像装置100が録画中のときは、表示制御装置200はVR画像の表示範囲が変更されても、表示範囲の座標情報を撮像装置100へは送信しない。
そして、CPU201は、録画停止指示を受け付けると(S813でYes)、録画停止指示を撮像装置100へ送信する(S814)。CPU201は、録画停止指示を受け付けなければ(S813でNo)、ステップS809の処理に戻る。
CPU201は、ライブビュー表示の終了指示を受け付けると(S815でYes)、ライブビュー表示の終了指示を撮像装置100へ送信する(S816)。CPU201は、ライブビュー表示の終了指示を受け付けなければ(S815でNo)、ステップS801の処理に戻る。
本実施形態によれば、表示制御装置200のディスプレイ205に表示されるVR画像の表示範囲の変更に応じて、撮像装置100の各カメラ部を通常モードまたは省電力モードで駆動するように切り替える。これによって、表示制御装置200のディスプレイ205に表示されていない範囲の画像を撮像するカメラ部を省電力モードで駆動させ、撮像装置100の電力消費を抑制できる。
(第3の実施形態)
第3の実施形態における撮像装置100の動作について図9のフローチャートを参照して説明する。撮像装置100はあらかじめ、電源が供給され、起動処理を行い、表示制御装置200との通信を確立し、ライブビュー表示の要求を表示制御装置200から受信しているものとする。
まず、システム制御部50はすべてのカメラ部(本実施形態ではカメラ部aとカメラ部b)を通常モードで駆動するよう制御する(S901)。システム制御部50はすべてのカメラ部から出力された画像を表示制御装置200へ送信する(S902)。
そして、システム制御部50は、ステップS902で送信された画像のうちディスプレイ205で表示中の画像または非表示の画像を示す情報を表示制御装置200から受信する。そして、システム制御部50は、非表示の画像があると判定すれば(S903でYes)、非表示の画像を出力したカメラ部を特定し、省電力モードで駆動するように切り替える(S904)。システム制御部50は、省電力モードのカメラ部を除き、通常モードで駆動するカメラ部から出力された画像を表示制御装置200へ送信する(S905)。
また、システム制御部50は、ディスプレイ205に表示されているライブ画像を構成する各画像の位置やライブ画像における表示範囲を示す情報を受信し、表示範囲がライブ
画像の終端の近傍にあるかどうか判定する(S906)。表示範囲がライブ画像の終端の近傍にあれば(S906でYes)、終端を含む画像に隣接する画像を出力するカメラ部を特定し、通常モードで駆動するように切り替える(S907)。そして、通常モードで駆動するカメラ部の画像を表示制御装置へ送信する(S908)。
そして、システム制御部50は、録画開始指示を受け付けたかどうか判定する(S909)。録画開始指示を受け付けると(S909でYes)、システム制御部50はすべてのカメラ部を通常モードで駆動するように制御し(S910)、すべてのカメラ部から出力された画像について画像処理を施し、画像処理結果を合成して記録用のVR画像を生成し(S911)、VR画像を記録媒体120に記録する(S912)。システム制御部50は、すべてのカメラ部から出力された画像を表示制御装置200へ送信する(S913)。
そして、システム制御部50は、ステップS913で送信された画像のうちディスプレイ205で表示中の画像または非表示の画像を示す情報を表示制御装置200から受信する。そして、システム制御部50は、非表示の画像があると判定すれば(S914でYes)、非表示の画像を出力したカメラ部を特定し、特定されたカメラ部から出力される画像の表示制御装置200への送信を停止する(S915)。
また、システム制御部50は、ディスプレイ205の表示範囲がライブ画像の終端の近傍にあることを示す情報を表示制御装置200から受信すれば(S916でYes)、終端の近傍に隣接する画像を出力するカメラ部を特定し、特定されたカメラ部から出力される画像の表示制御装置200への送信を再開する(S917)。
そして、システム制御部50は、録画停止指示を受け付けると(S918でYes)、システム制御部50は、録画処理を停止し、ライブビュー表示の終了指示を表示制御装置200から受信したかどうか判定する(S919)。ライブビュー表示の終了指示を受け付けると(S919でYes)、本処理を終了する。ライブビュー表示の終了指示を受け付けなければ(S919でNo)、ステップS903の処理に戻る。また、録画停止指示を受け付けなければ(S721でNo)、ステップS911に戻り、録画処理を継続する。
第3の実施形態における表示制御装置200の動作について図10のフローチャートを参照して説明する。表示制御装置200はあらかじめ、電源が供給され、起動処理を行い、撮像装置100との通信を確立し、ライブビュー表示の要求を撮像装置100へ送信しているものとする。
まず、CPU201は、S902で撮像装置100から送信された各カメラ部から出力された画像を受信し(S1001)、受信した複数の画像を合成してVR画像を生成する(S1002)。VR画像の一部を表示範囲として、ディスプレイ205に表示する(S1003)。ステップS1003では初期位置として、例えば、VR画像の中央を表示範囲として表示する。そして、CPU201は、VR画像の表示範囲を変更するための指示を受け付けると(S1004でYes)、変更後の表示範囲と対応する一部をディスプレイ205に表示する(S1005)。
そして、CPU201は、VR画像を構成する画像ごとに、表示中または非表示を示す情報を生成し、撮像装置100へ送信する(S1006)。これに応じて、撮像装置100はS903からS905の処理を実行する。CPU201は、S905で撮像装置100から送信された画像を受信し(S1007)、受信された画像を合成してVR画像を生成し、VR画像のうち、現在の表示範囲と対応する一部をディスプレイ205に表示する
(S1008)。
また、CPU201は、ライブ画像として生成されたVR画像における表示範囲やVR画像を構成する画像の位置を示す情報を生成し、撮像装置100へ送信する(S1009)。これに応じて、撮像装置100はS906からS908の処理を実行する。CPU201は、S908で撮像装置100から送信された画像を受信し(S1010)、受信された画像を合成してVR画像を生成し、VR画像のうち、現在の表示範囲と対応する一部をディスプレイ205に表示する(S1011)。
そして、CPU201は、録画開始指示を受け付けると(S1012でYes)、録画開始指示を撮像装置100へ送信する(S1013)。CPU201は、S913で撮像装置100から送信された各カメラ部の画像を受信し(S1014)、受信した複数の画像を合成してVR画像を生成する(S1015)。VR画像の一部を表示範囲として、ディスプレイ205に表示する(S1016)。CPU201は、VR画像の表示範囲を変更するための指示を受け付ければ(S1017でYes)、VR画像のうち変更後の表示範囲と対応する一部をディスプレイ205に表示する(S1018)。
そして、CPU201は、VR画像を構成する画像ごとに、表示中または非表示を示す情報を生成し、撮像装置100へ送信する(S1019)。これに応じて、撮像装置100はS914とS915の処理を実行する。CPU201は、S915で撮像装置100から送信された画像を受信し(S1020)、受信された画像を合成してVR画像を生成し、VR画像のうち、現在の表示範囲と対応する一部をディスプレイ205に表示する(S1021)。
また、CPU201は、ライブ画像として生成されたVR画像における表示範囲やVR画像を構成する画像の位置を示す情報を生成し、撮像装置100へ送信する(S1022)。これに応じて、撮像装置100はS916とS917の処理を実行する。CPU201は、S917で撮像装置100から送信された画像を受信し(S1023)、受信された画像を合成してVR画像を生成し、VR画像のうち、現在の表示範囲と対応する一部をディスプレイ205に表示する(S1024)。
そして、CPU201は、録画停止指示を受け付けると(S1025でYes)、録画停止指示を撮像装置100へ送信する(S1026)。CPU201は、録画停止指示を受け付けなければ(S1025でNo)、ステップS1019の処理に戻る。
CPU201は、ライブビュー表示の終了指示を受け付けると(S1027でYes)、ライブビュー表示の終了指示を撮像装置100へ送信する(S1028)。CPU201は、ライブビュー表示の終了指示を受け付けなければ(S1027でNo)、ステップS1006の処理に戻る。
本実施形態によれば、表示制御装置200のディスプレイ205に表示されるVR画像の表示範囲の変更に応じて、撮像装置100の各カメラ部を通常モードまたは省電力モードで駆動するように切り替える。これによって、表示制御装置200のディスプレイ205に表示されていない範囲の画像を撮像するカメラ部を省電力モードで駆動させ、撮像装置100の電力消費を抑制できる。
また、本実施形態によれば、撮像装置100が録画処理中ですべてのカメラ部を通常モードで駆動させる必要がある場合でも、表示制御装置200のディスプレイ205に表示されるVR画像の表示範囲の変更に応じて、撮像装置100のカメラ部毎に画像を送信するか否かを切り替える。これによって、表示制御装置200のディスプレイ205に表示
されていない範囲の画像を撮像するカメラ部の画像の送信を停止させ、撮像装置100の電力消費を抑制できる。
(その他)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:撮像装置 a:カメラ部 b:カメラ部
22a,22b:撮像部 24:画像処理部 50:システム制御部
200:表示制御装置 204:画像処理部 205:ディスプレイ

Claims (7)

  1. それぞれ異なる方向の被写体を撮像することにより得られた画像を出力する複数の撮像処理手段と、
    前記複数の撮像処理手段により出力された画像を合成することにより合成画像を生成する生成手段と、
    前記合成画像を記録媒体に記録する記録手段と、
    前記合成画像のうち画面に表示される表示範囲を示す表示範囲情報を取得する取得手段と、
    前記合成画像が前記記録媒体に記録されている間、前記表示範囲情報に関わらず、前記複数の撮像処理手段を第1のモードで駆動するように制御し、
    前記合成画像が前記記録媒体に記録されていない間、前記表示範囲情報に基づいて、前記合成画像のうち表示される範囲と対応する画像を出力する前記撮像処理手段を前記第1のモードで駆動し、前記合成画像のうち表示されない範囲と対応する画像を出力する前記撮像処理手段を前記第1のモードに比べて省電力な第2のモードで駆動するよう制御する制御手段と、
    を有することを特徴とする撮像装置。
  2. 前記合成画像を外部装置へ送信する送信手段をさらに有し、
    前記取得手段は、前記外部装置の画面に表示される表示範囲を示す前記表示範囲情報を前記外部装置から取得する、
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記複数の撮像処理手段により出力された複数の画像を外部装置へ送信する送信手段をさらに有し、
    前記取得手段は、前記外部装置において前記複数の画像を合成することにより生成された合成画像のうち、前記外部装置の画面に表示される表示範囲を示す表示範囲情報を前記外部装置から取得する、
    ことを特徴とする請求項1に記載の撮像装置。
  4. 前記送信手段は、前記表示範囲情報に基づいて、前記合成画像のうち表示される範囲と対応する前記撮像処理手段により出力される画像を前記外部装置へ送信し、前記合成画像のうち表示されない範囲と対応する前記撮像処理手段により出力される画像を前記外部装置へ送信しない、
    ことを特徴とする請求項3に記載の撮像装置。
  5. 前記撮像処理手段は、撮像部および前記撮像部から出力されるアナログ信号をデジタル信号に変換するA/D変換器を含み、前記制御手段は、前記撮像部および前記A/D変換器のうち少なくとも1つを停止することによって、前記撮像処理手段を前記第2のモードで駆動する、
    ことを特徴とする請求項1から4のいずれか一項に記載の撮像装置。
  6. それぞれ異なる方向の被写体を撮像することにより得られた画像を出力する複数の撮像処理手段を備える撮像装置の制御方法であって、
    前記複数の撮像処理手段により出力された画像を合成することにより合成画像を生成する生成ステップと、
    前記合成画像を記録媒体に記録する記録ステップと、
    前記合成画像のうち画面に表示される表示範囲を示す表示範囲情報を取得する取得ステップと、
    前記合成画像が前記記録媒体に記録されている間、前記表示範囲情報に関わらず、前記
    複数の撮像処理手段を第1のモードで駆動するように制御し、
    前記合成画像が前記記録媒体に記録されていない間、前記表示範囲情報に基づいて、前記合成画像のうち表示される範囲と対応する画像を出力する前記撮像処理手段を前記第1のモードで駆動し、前記合成画像のうち表示されない範囲と対応する画像を出力する前記撮像処理手段を前記第1のモードに比べて省電力な第2のモードで駆動するよう制御する制御ステップと、
    を有することを特徴とする撮像装置の制御方法。
  7. コンピュータを、請求項1から5のいずれか一項に記載された撮像装置の各手段として機能させるためのプログラム。
JP2019086091A 2018-05-17 2019-04-26 撮像装置、撮像装置の制御方法およびプログラム Active JP7271296B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US16/410,210 US11128764B2 (en) 2018-05-17 2019-05-13 Imaging apparatus, control method, and non-transitory computer readable medium
CN201910409846.3A CN110505375B (zh) 2018-05-17 2019-05-16 摄像设备、摄像设备的控制方法和计算机可读介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018095205 2018-05-17
JP2018095205 2018-05-17

Publications (2)

Publication Number Publication Date
JP2019205161A JP2019205161A (ja) 2019-11-28
JP7271296B2 true JP7271296B2 (ja) 2023-05-11

Family

ID=68727412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019086091A Active JP7271296B2 (ja) 2018-05-17 2019-04-26 撮像装置、撮像装置の制御方法およびプログラム

Country Status (1)

Country Link
JP (1) JP7271296B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11656753B2 (en) * 2020-01-31 2023-05-23 Canon Kabushiki Kaisha Information processing device and method displaying at least two apparatuses for virtually checking interference
JP2023136245A (ja) 2022-03-16 2023-09-29 キヤノン株式会社 撮像装置およびその制御方法
JP2024082121A (ja) * 2022-12-07 2024-06-19 キヤノン株式会社 撮像装置、制御方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010232908A (ja) 2009-03-26 2010-10-14 Fujifilm Corp 全方位撮像装置及びその駆動制御方法
WO2013186804A1 (ja) 2012-06-11 2013-12-19 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
JP2016171577A (ja) 2016-04-13 2016-09-23 株式会社リコー 撮像装置および撮像システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010232908A (ja) 2009-03-26 2010-10-14 Fujifilm Corp 全方位撮像装置及びその駆動制御方法
WO2013186804A1 (ja) 2012-06-11 2013-12-19 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
JP2016171577A (ja) 2016-04-13 2016-09-23 株式会社リコー 撮像装置および撮像システム

Also Published As

Publication number Publication date
JP2019205161A (ja) 2019-11-28

Similar Documents

Publication Publication Date Title
JP7271296B2 (ja) 撮像装置、撮像装置の制御方法およびプログラム
CN111385470B (zh) 电子设备、电子设备的控制方法和计算机可读介质
JP7258482B2 (ja) 電子機器
CN110505375B (zh) 摄像设备、摄像设备的控制方法和计算机可读介质
US11295530B2 (en) Electronic apparatus for playing back a virtual reality video image and control method therefor
JP7094815B2 (ja) 表示制御装置、表示制御装置の制御方法、プログラム、記憶媒体
CN110881097B (zh) 显示控制设备、控制方法和计算机可读介质
US11079898B2 (en) Electronic device for controlling display of VR image, control method of electronic device, and non-transitory computer readable medium
JP7267764B2 (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP2021174317A (ja) 電子機器及びその制御方法
US11380075B2 (en) Electronic apparatus for playing back a virtual reality video image and control method therefor
JP2022183843A (ja) 電子機器及びその制御方法及びプログラム及び記録媒体
JP6257255B2 (ja) 表示制御装置及び表示制御装置の制御方法
JP7336200B2 (ja) 電子機器及びその制御方法
CN110881102B (zh) 摄像设备、摄像设备的控制方法和计算机可读介质
US20240176411A1 (en) Electronic device and method for controlling electronic device
US20240241381A1 (en) Electronic device
JP6301002B2 (ja) 表示制御装置及び表示制御装置の制御方法
JP2023121126A (ja) 電子機器、電子機器の制御方法、プログラム
JP2022183846A (ja) 電子機器及びその制御方法及びプログラム及び記録媒体
JP2022183844A (ja) 電子機器及びその制御方法及びプログラム及び記録媒体
JP2021144297A (ja) 電子機器、電子機器の制御方法、プログラムおよび記憶媒体
JP2019197557A (ja) 表示制御装置及び表示制御装置の制御方法
CN116634121A (zh) 电子装置、电子装置的控制方法和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220411

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230426

R151 Written notification of patent or utility model registration

Ref document number: 7271296

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151