JP6961888B1 - 装置、撮像装置、移動体、プログラム及び方法 - Google Patents

Abstract

【課題】解像度が高い動画、出力レートが高い動画を提供する装置、撮像装置、移動体、プログラム及び方法を提供する。【解決手段】装置は、予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像２１０、４１１〜４１４、２２０と、複数の第１解像度画像の撮像タイミングの間で撮像された第１解像度より低い第２解像度を持つ複数の第２解像度画像２１１〜２１５と、を含む動画情報を取得するように構成された回路を備える。回路は、複数の第２解像度画像に基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定する。回路は、複数の第１解像度画像及び動きに基づいて、複数の第２解像度画像より解像度が高く、動画において複数の第１解像度画像の間で出力される複数の画像を生成する。回路は、複数の第１解像度画像と、複数の第１解像度画像及び複数の画像とを含む動画を生成する。【選択図】図４

Description

本発明は、装置、撮像装置、移動体、プログラム及び方法に関する。

非特許文献１及び２には、画像の動きに関し、オプティカルフローを検出する技術が記載されている。
［先行技術文献］
［非特許文献］
［非特許文献１］Ｂｒｕｃｅ Ｄ． Ｌｕｃａｓ ａｎｄ Ｔａｋｅｏ Ｋａｎａｄｅ，"Ａｎ Ｉｔｅｒａｔｉｖｅ Ｉｍａｇｅ Ｒｅｇｉｓｔｒａｔｉｏｎ Ｔｅｃｈｎｉｑｕｅ ｗｉｔｈ ａｎ Ａｐｐｌｉｃａｔｉｏｎ ｔｏ Ｓｔｅｒｅｏ Ｖｉｓｉｏｎ"， Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ７ｔｈ ｉｎｔｅｒｎａｔｉｏｎａｌ ｊｏｉｎｔ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ"， Ｖｏｌ．２， ｐ．６７４−６７９， Ｍｏｒｇａｎ Ｋａｕｆｍａｎｎ Ｐｕｂｌｉｓｈｅｒｓ Ｉｎｃ．（米国）、ｐ．６７４−６７９， １９８１年８月
［非特許文献２］Ａ． Ｄｏｓｏｖｉｔｓｋｉｙ， Ｐ． Ｆｉｓｃｈｅｒ他， "ＦｌｏｗＮｅｔ： Ｌｅａｒｎｉｎｇ Ｏｐｔｉｃａｌ Ｆｌｏｗ ｗｉｔｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋｓ"， Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ （ＩＣＣＶ ２０１５）， ｐ．２７５８−２７６６， ２０１５年１２月

本発明の第１の形態に係る装置は、予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、複数の第１解像度画像の撮像タイミングの間で撮像された第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得するように構成された回路を備える。回路は、複数の第２解像度画像に基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定するように構成される。回路は、複数の第１解像度画像及び動きに基づいて、複数の第２解像度画像より解像度が高く、動画において複数の第１解像度画像の間で出力される複数の画像を生成するように構成される。回路は、複数の第１解像度画像と、複数の第１解像度画像及び複数の画像とを含む動画を生成するように構成される。

回路は、複数の第２解像度画像の画像内容に基づいて、複数の第２解像度画像における１つ以上の画像領域の動きを複数の第２解像度画像にわたって特定するように構成されてよい。回路は、複数の第２解像度画像にわたる１つ以上の画像領域の動きに基づいて、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の動きを特定するように構成されてよい。回路は、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の動きと、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成するように構成されてよい。

回路は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より前に撮像された第１の第１解像度画像における１つ以上の画像領域の動を予測するように構成されてよい。回路は、第１の第１解像度画像における１つ以上の画像領域の動きと第１の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成するように構成されてよい。

回路は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より後に撮像された第２の第１解像度画像における１つ以上の画像領域の動きを予測するように構成されてよい。回路は、第２の第１解像度画像における１つ以上の画像領域の動きと第２の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成するように構成されてよい。

回路は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より前に撮像された第１の第１解像度画像と、複数の第１解像度画像のうち複数の第２解像度画像より後に撮像された第２の第１解像度画像とにおける１つ以上の画像領域の動きを予測するように構成されてよい。回路は、第１の第１解像度画像における１つ以上の画像領域の動きと、第１の第１解像度画像の１つ以上の画像領域の画像と、第２の第１解像度画像における１つ以上の画像領域の動きと、第２の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像の全領域の画像を生成するように構成されてよい。

複数の第２解像度画像は、複数の第１解像度画像の露光時間より長い露光時間で撮像された画像であってよい。

回路は、複数の第１解像度画像を用いずに、複数の第２解像度画像の画像内容に基づいて第１解像度画像の撮像タイミングの間における動きを特定するように構成されてよい。

回路は、複数の第２解像度画像を用いて小数画素精度の動き予測を行うことによって、小数画素精度の動きベクトルを算出するように構成されてよい。回路は、小数画素精度の動きベクトルを第１解像度画像の画素数に応じて拡大することによって得られた動きベクトルに基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定するように構成されてよい。

本発明の第２の態様に係る撮像装置は、上記の装置と、複数の第１解像度画像と複数の第２解像度画像とを含む動画情報を出力するイメージセンサとを備える。

本発明の第３の態様に係る移動体は、上記の撮像装置を備えて移動する。

移動体は、無人航空機であってよい。

本発明の第４の態様に係るプログラムは、コンピュータに、予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、複数の第１解像度画像の撮像タイミングの間で撮像された第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得させるように構成される。プログラムは、コンピュータに、複数の第２解像度画像に基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定させるように構成される。プログラムは、コンピュータに、複数の第１解像度画像及び動きに基づいて、複数の第２解像度画像より解像度が高く、動画において複数の第１解像度画像の間で出力される複数の画像を生成させるように構成される。プログラムは、コンピュータに、複数の第１解像度画像と、複数の第１解像度画像及び複数の画像とを含む動画を生成させるように構成される。プログラムは、非一時的記録媒体に記録されてよい。

本発明の第５の態様に係る方法は、予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、複数の第１解像度画像の撮像タイミングの間で撮像された第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得する段階を備える。方法は、複数の第２解像度画像に基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定する段階を備える。方法は、複数の第１解像度画像及び動きに基づいて、複数の第２解像度画像より解像度が高く、動画において複数の第１解像度画像の間で出力される複数の画像を生成する段階を備える。方法は、複数の第１解像度画像と、複数の第１解像度画像及び複数の画像とを含む動画を生成する段階を備える。

本発明の上記の態様によれば、解像度が高い動画を提供できる。また、出力レートが高い動画を提供できる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

本実施形態に係る撮像装置１００の機能ブロックを示す図である。 イメージセンサ１２０による動画構成画像の撮像タイミングを模式的に示す。 制御部１１０のブロック構成を示す。 第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像を生成する処理を模式的に示す。 制御部１１０が第１解像度画像を生成する処理に関する対比例を説明する図である。 制御部１１０が実行する方法に関するフローチャートを示す。 無人航空機（ＵＡＶ）の一例を示す。 コンピュータ１２００の一例を示す。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等の様なメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ−ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、本実施形態に係る撮像装置１００の機能ブロックを示す図である。

撮像装置１００は、撮像部１０２及びレンズ部１７０を備える。撮像部１０２は、イメージセンサ１２０、制御部１１０、メモリ１３０、操作部１６２、及び表示部１６０を有する。

イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、レンズ部１７０００が有するレンズ１７１を介して光を受光する。イメージセンサ１２０は、レンズ１７１を介して結像された光学像の画像データを制御部１１０に出力する。

制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。制御部１１０は回路に対応する。メモリ１３０は、制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

操作部１６２は、撮像装置１００に対する指示をユーザから受け付けるユーザインタフェースである。表示部１６０は、イメージセンサ１２０により撮像され、制御部１１０により処理された画像、撮像装置１００の各種設定情報などを表示する。表示部１６０は、タッチパネルで構成されてよい。

制御部１１０は、レンズ部１７０及びイメージセンサ１２０を制御する。例えば、制御部１１０は、レンズ１７１の焦点の位置や焦点距離を制御する。制御部１１０は、ユーザからの指示を示す情報に基づいて、レンズ部１７０が備えるレンズ制御部１８０に制御命令を出力することにより、レンズ部１７０を制御する。

レンズ部１７０は、１以上のレンズ１７１、レンズ駆動部１７２、レンズ制御部１８０、及びメモリ１８２を有する。本実施形態において１以上のレンズ１７１のことを「レンズ１７１」と総称する。レンズ１７１は、フォーカスレンズ及びズームレンズを含んでよい。レンズ１７１が含むレンズのうちの少なくとも一部または全部は、レンズ１７１の光軸に沿って移動可能に配置される。レンズ部１７０は、撮像部１０２に対して着脱可能に設けられる交換レンズであってよい。

レンズ駆動部１７２は、レンズ１７１のうちの少なくとも一部または全部を、レンズ１７１の光軸に沿って移動させる。レンズ制御部１８０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部１７２を駆動して、レンズ１７１全体又はレンズ１７１が含むズームレンズやフォーカスレンズを光軸方向に沿って移動させることで、ズーム動作やフォーカス動作の少なくとも一方を実行する。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令等である。

レンズ駆動部１７２は、複数のレンズ１７１の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ（ＶＣＭ）を含んでよい。レンズ駆動部１７２は、ＤＣモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部１７２は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ１７１の少なくとも一部または全部に伝達して、レンズ１７１の少なくとも一部または全部を光軸に沿って移動させてよい。

メモリ１８２は、レンズ駆動部１７２を介して移動するフォーカスレンズやズームレンズ用の制御値を記憶する。メモリ１８２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

制御部１１０は、操作部１６２等を通じて取得したユーザの指示を示す情報に基づいて、イメージセンサ１２０に制御命令を出力することにより、イメージセンサ１２０に撮像動作の制御を含む制御を実行する。制御部１１０は、イメージセンサ１２０により撮像された画像を取得する。制御部１１０は、イメージセンサ１２０から取得した画像に画像処理を施してメモリ１３０に格納する。

制御部１１０が実行する動画生成処理について説明する。イメージセンサ１２０は、動画撮影を行う場合に、動画構成画像として複数の第１解像度画像と複数の第２解像度画像とを生成する。複数の第１解像度画像は、予め定められた撮像レートで撮像された第１解像度を持つ画像である。一例として、イメージセンサ１２０は、複数の第１解像度画像を１秒間あたり３０回撮像する。複数の第２解像度画像は、複数の第１解像度画像の撮像タイミングの間で撮像された画像である。第２解像度画像は、第１解像度より低い第２解像度を持つ画像である。一例として、イメージセンサ１２０は、複数の第１解像度画像の撮像タイミングの間で、１秒間あたり２４０個の画像を撮像する速度で第２解像度画像を取得する。イメージセンサ１２０は、複数の第１解像度画像及び複数の第２解像度画像のそれぞれを撮像する毎に順次に制御部１１０に出力する。

制御部１１０は、予め定められた撮像レートで撮像された複数の第１解像度画像と、複数の第１解像度画像の撮像タイミングの間で撮像された複数の第２解像度画像とを含む動画データを取得する。制御部１１０は、イメージセンサ１２０において複数の第１解像度画像及び複数の第２解像度画像のそれぞれが撮像される毎に、複数の第１解像度画像及び複数の第２解像度画像のそれぞれイメージセンサ１２０からを順次に取得する。制御部１１０は、複数の第２解像度画像に基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定する。制御部１１０は、複数の第１解像度画像及び動きに基づいて、複数の第２解像度画像より解像度が高く、動画において複数の第１解像度画像の間で出力される複数の画像を生成する。制御部１１０は、複数の第１解像度画像と、複数の第１解像度画像及び複数の画像とを含む動画を生成する。

例えば、制御部１１０は、複数の第２解像度画像の画像内容に基づいて、複数の第２解像度画像における１つ以上の画像領域の動きを複数の第２解像度画像にわたって特定する。制御部１１０は、複数の第２解像度画像にわたる１つ以上の画像領域の動きに基づいて、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の動きを特定する。制御部１１０は、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の動きと、複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成する。

具体的には、制御部１１０は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より前に撮像された第１の第１解像度画像における１つ以上の画像領域の動きを予測する。制御部１１０は、第１の第１解像度画像における１つ以上の画像領域の動きと第１の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成する。

なお、制御部１１０は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より後に撮像された第２の第１解像度画像における１つ以上の画像領域の動きを予測してもよい。制御部１１０は、第２の第１解像度画像における１つ以上の画像領域の動きと第２の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像における１つ以上の画像領域の画像を生成してよい。

また、制御部１１０は、複数の第２解像度画像にわたる画像領域の動きに基づいて、複数の第１解像度画像のうち複数の第２解像度画像より前に撮像された第１の第１解像度画像と、複数の第１解像度画像のうち複数の第２解像度画像より後に撮像された第２の第１解像度画像とにおける１つ以上の画像領域の動きを予測してもよい。制御部１１０は、第１の第１解像度画像における１つ以上の画像領域の動きと、第１の第１解像度画像の１つ以上の画像領域の画像と、第２の第１解像度画像における１つ以上の画像領域の動きと、第２の第１解像度画像における１つ以上の画像領域の画像とに基づいて、複数の第１解像度画像の間で出力される複数の画像の全領域の画像を生成してよい。

複数の第２解像度画像は、複数の第１解像度画像の露光時間より長い露光時間で撮像された画像である。制御部１１０は、複数の第１解像度画像を用いずに、複数の第２解像度画像の画像内容に基づいて第１解像度画像の撮像タイミングの間における動きを特定する。

制御部１１０は、複数の第２解像度画像を用いて小数画素精度の動き予測を行うことによって、小数画素精度の動きベクトルを算出してよい。制御部１１０は、小数画素精度の動きベクトルを第１解像度画像の画素数に応じて拡大することによって得られた動きベクトルに基づいて、第１解像度画像の撮像タイミングの間における画像の動きを特定してよい。

図２は、イメージセンサ１２０による動画構成画像の撮像タイミングを模式的に示す。なお、図２は、制御部１１０による撮像制御及び動画生成処理を分かり易く説明するための例示的な撮像タイミングを示すものである。動画構成画像の撮像タイミングは、図２に示されるタイミングに限定されない。

制御部１１０は、イメージセンサ１２０に、露光時間２４５、露光時間２５０、露光時間２５１、露光時間２５２、露光時間２５３、露光時間２５４、露光時間２５５、露光時間２６０、露光時間２６１の順で露光動作を行わせる。露光時間２４５、露光時間２５１、露光時間２５２、露光時間２５３、露光時間２５４、露光時間２５５、及び露光時間２６１は、露光時間２５０及び露光時間２６０より短い。制御部１１０は、露光時間２５０、露光時間２５１、露光時間２５２、露光時間２５３、露光時間２５４、及び露光時間２５５を１シーケンスとする露光動作をイメージセンサ１２０に繰り返し実行させる。これにより、イメージセンサ１２０は、２つの長時間露光の間に複数回の短時間露光を行う。制御部１１０は、各露光時間の露光によってイメージセンサ１２０に蓄積された電荷量を示す情報を含む動画情報をイメージセンサ１２０から読み出して、動画を構成する画像を生成する。

例えば、制御部１１０は、露光時間２５０においてイメージセンサ１２０に蓄積された電荷量をイメージセンサ１２０から読み出して、第１解像度画像２１０を生成する。制御部１１０は、露光時間２５０より後の露光時間２６０においてイメージセンサ１２０に蓄積された電荷量をイメージセンサ１２０から読み出して、第１解像度画像２２０を生成する。なお、制御部１１０は、露光時間２５０及び露光時間２６０のそれぞれにおいて、イメージセンサ１２０の予め定められた第１の画素数の受光素子に蓄積された電荷量を読み出して、第１の画素数の第１解像度画像２１０及び第１解像度画像２２０を生成する。

また、制御部１１０は、露光時間２４５、露光時間２５１、露光時間２５２、露光時間２５３、露光時間２５４、露光時間２５５、及び露光時間２６１のそれぞれにおいてイメージセンサ１２０に蓄積された電荷量をイメージセンサ１２０から読み出して、それぞれ第２解像度画像２０５、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、第２解像度画像２１５、及び第２解像度画像２２１を生成する。なお、制御部１１０は、露光時間２４５、露光時間２５１、露光時間２５２、露光時間２５３、露光時間２５４、露光時間２５５、及び露光時間２６１のそれぞれにおいて、イメージセンサ１２０の予め定められた第２の画素数の受光素子に蓄積された電荷量を読み出して、第２の画素数の第２解像度画像２０５、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、第２解像度画像２１５、及び第２解像度画像２２１を生成する。

第２の画素数は、第１の画素数より少ない。例えば、第１解像度画像２１０及び第１解像度画像２２０は、水平３８４０画素×垂直２１６０画素の画像（例えば、４Ｋ画像）であってよく、第２解像度画像２０５、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、第２解像度画像２１５、及び第２解像度画像２２１は、水平１９２０画素×垂直１０８０画素の画像（例えば２Ｋ画像）であってよい。第２解像度画像は、第１解像度画像より短い撮像間隔で撮像される動画構成画像である。例えば、第１解像度画像２１０及び第１解像度画像２２０を含む第１解像度画像の撮像レートは３０ｆｐｓであってよい。第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、第２解像度画像２１５を含む第２解像度画像の撮像レートは２４０ｆｐｓであってよい。

図３は、制御部１１０のブロック図を示す。制御部１１０は、動き検出部３１０と、動きマッピング部３２０と、画像生成部３３０とを備える。

動き検出部３１０は、イメージセンサ１２０から入力された複数の第２解像度画像（低解像度・高フレームレート画像）にわたって画像の動きを検出する機能ブロックである。動き検出部３１０は、例えばブロックマッチングにより、複数の第２解像度画像にわたって画素毎の動きを検出してよい。なお、動き検出部３１０は、オプティカルフローを検出することにより、複数の第２解像度画像にわたって動きを検出してよい。オプティカルフローを検出する手法としては、ブロックマッチングの他に、非特許文献１に記載されているＫＬＴ（Ｋａｎａｄｅ−Ｌｕｃａｓ−Ｔｏｍａｓｉ Ｆｅａｔｕｒｅ Ｔｒａｃｋｅｒ）法や、非特許文献２に記載されているＦｌｏｗｎｅｔ等の機械学習を用いた手法等を適用することができる。

動きマッピング部３２０は、複数の第２解像度画像における動きを、イメージセンサ１２０から入力される第１解像度画像（高解像度・低フレームレート画像）における動きにマッピングする機能ブロックである。画像生成部３３０は、イメージセンサ１２０から入力される第１解像度画像における動き及び第１解像度画像の画像内容に基づいて、複数の第１解像度画像の間に出力される第１解像度画像を生成することにより、第２解像度画像より解像度が高い画像（高解像度・高フレームレート画像）を生成する機能ブロックである。

図４は、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像を生成する処理を模式的に示す。図４において、第１解像度画像２１０は動画における時刻Ｔに対応する画像であり、動画における第１解像度画像２２０は時刻Ｔ＋１に対応する画像である。なお、図４において、時刻Ｔ及びｔは、第１解像度画像を撮像する時間間隔で規格化した時刻を表す。第２解像度画像２１１は、動画における時刻ｔに対応する画像である。また、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、第２解像度画像２１５は、それぞれ動画における時刻ｔ＋０．２、ｔ＋０．４、ｔ＋０．６、ｔ＋０．８に対応する画像である。なお、時刻Ｔと時刻ｔとの間には、図３の露光時間２５０と露光時間２５１との間の時間に対応する時間差が存在し得る。

制御部１１０は、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４及び第２解像度画像２１５から画像の動き情報を検出し、検出した動き情報と第１解像度画像２１０とに基づいて、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像４１１、第１解像度画像４１２、第１解像度画像４１３、及び第１解像度画像４１４を生成する。なお、第１解像度画像４１１、第１解像度画像４１２、第１解像度画像４１３、及び第１解像度画像４１４は、それぞれ出力される動画における時刻Ｔ＋０．２、Ｔ＋０．４、Ｔ＋０．６、Ｔ＋０．８に対応する画像である。

具体的には、制御部１１０の動き検出部３１０は、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、及び第２解像度画像２１４、及び第２解像度画像２１５において、Ｈ．２６４、Ｈ．２６５等の動画圧縮方式で用いられる小数画素精度の動き予測を行うことにより、第２解像度画像２１１内のブロック４３１の動き情報４４１、第２解像度画像２１２内のブロック４３２の動き情報４４２、第２解像度画像２１３内のブロック４３３の動き情報４４３、及び第２解像度画像２１４内のブロック４３４の動き情報４４４を検出する。「小数画素精度」は、整数画素未満の精度のことをいう。小数画素精度としては、例えば１／２画素精度、１／４画素精度等を例示することができる。動き情報４４１は、ブロック４３１から、ブロック４３１にマッチするブロック４３２への動きベクトルである。動き情報４４２は、ブロック４３２から、ブロック４３２にマッチするブロック４３３への動きベクトルである。動き情報４４３は、ブロック４３３から、ブロック４３３にマッチするブロック４３４への動きベクトルである。動き情報４４４は、ブロック４３４から、ブロック４３４にマッチするブロック４３５への動きベクトルである。なお、ブロック４３１、ブロック４３２、ブロック４３３、ブロック４３４、及びブロック４３５は、動き情報を検出する画像領域の一例である。画像領域は、少なくとも１つの画素を含む領域である。

制御部１１０の動きマッピング部３２０は、第２解像度画像２１１のブロック４３１を第２解像度画像及び第１解像度画像の解像度に応じて拡大して、第１解像度画像２１０におけるブロック４６０にマッピングする。なお、図４に示す例では、第２解像度画像２１１を、第１解像度画像２１０に対応する撮像タイミングの第２解像度画像として扱う。第１解像度画像２１０は比較的に長い露光時間で撮像された画像であり、第２解像度画像２１１は、第１解像度画像２１０の直後に短い露光時間で撮像された画像である。したがって、第２解像度画像は、第１解像度画像２１０に対応する撮像タイミングの第２解像度画像２１１として近似的に適用できる。このように第２解像度画像２１１を第１解像度画像２１０に対応する撮像タイミングの第２解像度画像として扱うことにより、同一の露光時間で撮像された第２解像度画像２１１〜２１５を用いて動きを検出することができるので、画像の明るさの違いによる動き検出の誤差が生じにくいため、より正確に動きを検出することができる。

動きマッピング部３２０は、動き情報４４１を解像度に応じて拡大することにより、第１解像度画像における動き情報４５１にマッピングする。同様に、動きマッピング部３２０は、動き情報４４２、動き情報４４３、及び動き情報４４４を解像度に応じて拡大することにより、それぞれ第１解像度画像における動き情報４５２、動き情報４５３、及び動き情報４５４にマッピングする。

制御部１１０の画像生成部３３０は、第１解像度画像２１０におけるブロック４６０と、動き情報４５１とを用いて、第１解像度画像４１１のブロック４６１を生成する。同様に、画像生成部３３０は、第１解像度画像２１０におけるブロック４６０と、動き情報４５１、動き情報４５２、動き情報４５３、及び動き情報４５４を用いて、第１解像度画像４１２のブロック４６２、第１解像度画像４１３のブロック４６３、及び第１解像度画像４１４のブロック４６４の画像を生成する。

以上において第２解像度画像２１１内の特定のブロック４３１の動き情報に基づいて第１解像度画像４１１〜４１４の１つのブロックの画像を生成する処理を説明した。同様の処理により、制御部１１０は、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、第２解像度画像２１４、及び第２解像度画像２１５に基づいて、第２解像度画像内の複数のブロックの動き情報を検出し、各ブロックの動き情報を第１解像度画像にマッピングする。そして、制御部１１０は、各ブロックの動き情報と、第１解像度画像２１０とに基づいて、第２解像度画像２１１、第２解像度画像２１２、第２解像度画像２１３、及び第２解像度画像２１４、及び第２解像度画像２１５の各ブロックの画像を生成する。

なお、図４に関連して、第２解像度画像２１１〜２１５から検出した動きに基づいて、第２解像度画像２１１の直前の第１解像度画像２１０から第１解像度画像４１１〜４１４を生成する手法を説明した。この手法によれば、イメージセンサ１２０から順次に読み出した画像情報を用いて、第１解像度画像４１１〜４１４を順次に生成することができる。

他の手法として、制御部１１０は、第２解像度画像２１１〜２１５から検出した動きと、第２解像度画像２１５の直後の第１解像度画像２２０とに基づいて、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像を生成してもよい。この場合、制御部１１０は、第２解像度画像２１１〜２１５から検出した動き情報を一時的に保持し、第１解像度画像２２０を取得した時点で動き情報を用いて逆方向に予測画像を生成することにより、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像を第１解像度画像２２０から生成してよい。更に他の手法として、制御部１１０は、第２解像度画像２１１〜２１５から検出した動きと、第１解像度画像２１０及び第２解像度画像２１５の双方に基づいて、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像を生成してもよい。

また、図４に関連して、第２解像度画像２１１のブロック４３１を第１解像度画像２１０におけるブロック４６０にマッピングする手法を説明した。上述したように、第２解像度画像２１１と第１解像度画像２１０との間には厳密には時間差が存在するものの、第１解像度画像２１０に対応する撮像タイミングの第２解像度画像として第２解像度画像２１１を近似的に適用できる。他の手法として、制御部１１０は、第１解像度画像２１０と第１解像度画像２２０との間で４個の第２解像度画像を撮像し、第１解像度画像２１０からサブサンプリング等によって第２解像度画像を生成し、生成した第２解像度画像と、第１解像度画像２１０と第１解像度画像２２０との間で撮像した４個の第２解像度画像を用いて、第１解像度画像４１１〜４１４に対応する４個の第１解像度画像を生成してよい。この手法によれば、４個の第２解像度画像の撮像タイミングに正確に対応する４個の第１解像度画像を生成することができる。

図５は、制御部１１０が第１解像度画像を生成する処理に関する対比例を説明する図である。対比例として、第１解像度画像２１０及び第１解像度画像２２０を用いて、第１解像度画像２１０と第１解像度画像２２０との間に出力される第１解像度画像５１１、第１解像度画像５１２、第１解像度画像５１３、及び第１解像度画像５１４を生成する処理を説明する。

まず、ブロックマッチング等の動き探索処理により、時刻Ｔの第１解像度画像２１０におけるブロック５０１と、時刻Ｔ＋１における第１解像度画像２２０におけるブロック５０２との間の動き情報５５０を検出する。そして、検出した動き情報５５０と第１解像度画像２１０とを用いて、時刻Ｔ＋０．２における第１解像度画像５１１のブロック５６１、時刻Ｔ＋０．４における第１解像度画像５１２のブロック５６２、時刻Ｔ＋０．６における第１解像度画像５１３のブロック５６３、及び時刻Ｔ＋０．８における第１解像度画像５１４のブロック５６４を生成する。このようにして第１解像度画像２１０と第１解像度画像２２０との間に、第１解像度画像５１１、第１解像度画像５１２、第１解像度画像５１３、第１解像度画像５１４、及び第１解像度画像２２０を含む動画を生成することにより、高解像度かつ高フレームレートの動画を生成することができる。

この対比例では、第１解像度画像２１０及び第１解像度画像２２０を用いて動き情報を検出する。そのため、第１解像度画像２１０と第１解像度画像２２０との間で被写体が非線形的な複雑な動きをした場合には、その動きを第１解像度画像５１１〜５１４に反映することができない。したがって、フレームレートを増大させることができても、被写体の動きが不自然な動画が生成されてしまう場合がある。

これに対し、上述したように制御部１１０は、第１解像度画像２１０と第１解像度画像２２０との間で高フレームレートで撮像した第２解像度画像から動き情報を検出する。そして、露光時間が確保された第１解像度画像２１０と動き情報とを用いて、第１解像度画像４１１〜４１４を生成する。これにより、被写体が非線形的な複雑な動きをした場合であっても、その動きを適切に反映した高画質な第１解像度画像４１１〜４１４を生成することができる。

図６は、制御部１１０が実行する方法に関するフローチャートを示す。Ｓ６１０において、制御部１１０は、イメージセンサ１２０の読み出し動作により、低フレームレートで撮像された第１解像度画像を取得する。Ｓ６２０において、制御部１１０は、Ｓ６１０に続いて連続して複数回のイメージセンサ１２０の読み出し動作を行うことにより、高フレームレートで撮像された複数の第２解像度画像を取得する。

Ｓ６３０において、制御部１１０は、Ｓ６２０で取得した複数の第２解像度画像から動き情報を検出する。Ｓ６４０において、制御部１１０は、Ｓ６３０で検出した動き情報を、第１解像度画像に対してマッピングする。Ｓ６５０において、制御部１１０は、Ｓ６４０において第１解像度画像に対してマッピングした動き情報と、Ｓ６１０で取得した第１解像度画像とを用いて、撮像された第１解像度画像の間に出力される複数の第１解像度画像を生成する。具体的には、制御部１１０は、動画においてＳ６１０で取得した第１解像度画像に続いて連続的に表示されるべき第１解像度画像を生成する。Ｓ６６０において、Ｓ６１０で取得した第１解像度画像と、Ｓ６５０で生成した第１解像度画像とを含む動画を出力する。例えば、制御部１１０は、Ｓ６１０で取得した第１解像度画像及びＳ６５０で生成した第１解像度画像に対して予め定められた画像処理を施して、メモリ１３０に記録する。

制御部１１０は、イメージセンサ１２０から読み出した連続する第１解像度画像及び複数の第２解像度画像に対して図６に示すフローチャートの処理を繰り返し実行する。これにより、イメージセンサ１２０に高解像度かつ高フレームレートの動画をメモリ１３０に記録する。

以上に説明した撮像装置１００によれば、比較的に低い撮像レートで撮像した第１解像度画像と比較的に高い撮像レートで第２解像度画像とを用いて、被写体の早い動きが反映され、かつ、フレームレートが高い高解像度動画を生成することができる。

上記のような撮像装置１００は、移動体に搭載されてもよい。撮像装置１００は、図７に示すような、無人航空機（ＵＡＶ）に搭載されてもよい。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備えてよい。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置１２は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置１２は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置１２は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置１２から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図８は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。例えば、コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、制御部１１０として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」の機能を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

１０ ＵＡＶ
１２ 遠隔操作装置
２０ ＵＡＶ本体
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 制御部
１２０ イメージセンサ
１３０ メモリ
１６０ 表示部
１６２ 操作部
１７０ レンズ部
１７１ レンズ
１７２ レンズ駆動部
１８０ レンズ制御部
１８２ メモリ
２０５ 第２解像度画像
２１０、２２０ 第１解像度画像
２０５、２１１、２１２、２１３、２１４、２１５、２２１ 第２解像度画像
２２０ 第１解像度画像
２４５、２５０、２５１、２５２、２５３、２５４、２５５、２６０、２６１ 露光時間
３１０ 検出部
３２０ マッピング部
３３０ 画像生成部
４１１、４１２、４１３、４１４ 第１解像度画像
４３１、４３２、４３３、４３４ ブロック
４４１、４４２、４４３、４４４、４５１、４５２、４５３、４５４ 動き情報
４６０、４６１、４６２、４６３、４６４、５０１、５０２ ブロック
５１１、５１２、５１３、５１４ 第１解像度画像
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (12)

1. 予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、前記複数の第１解像度画像の撮像タイミングの間で撮像された、前記第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得し、
   前記複数の第２解像度画像に基づいて、前記複数の第１解像度画像の撮像タイミングの間における画像の動きを特定し、
   前記複数の第１解像度画像及び前記動きに基づいて、前記複数の第２解像度画像より解像度が高く、動画において前記複数の第１解像度画像の間で出力される複数の画像を生成し、
   前記複数の第１解像度画像と、前記複数の第１解像度画像及び前記複数の画像とを含む動画を生成する
   ように構成された回路
   を備える装置。
2. 前記回路は、
   前記複数の第２解像度画像の画像内容に基づいて、前記複数の第２解像度画像における１つ以上の画像領域の動きを前記複数の第２解像度画像にわたって特定し、
   前記複数の第２解像度画像にわたる前記１つ以上の画像領域の動きに基づいて、前記複数の第１解像度画像のうちの少なくとも一つの第１解像度画像における１つ以上の画像領域の動きを特定し、
   前記複数の第１解像度画像のうちの前記少なくとも一つの第１解像度画像における前記１つ以上の画像領域の動きと、前記複数の第１解像度画像のうちの前記少なくとも一つの第１解像度画像における前記１つ以上の画像領域の画像とに基づいて、前記複数の第１解像度画像の間で出力される前記複数の画像における１つ以上の画像領域の画像を生成する
   ように構成される請求項１に記載の装置。
3. 前記回路は、
   前記複数の第２解像度画像にわたる前記画像領域の動きに基づいて、前記複数の第１解像度画像のうち前記複数の第２解像度画像より前に撮像された第１の第１解像度画像における１つ以上の画像領域の動を予測し、
   前記第１の第１解像度画像における前記１つ以上の画像領域の動きと前記第１の第１解像度画像における前記１つ以上の画像領域の画像とに基づいて、前記複数の第１解像度画像の間で出力される前記複数の画像における１つ以上の画像領域の画像を生成する
   ように構成される請求項２に記載の装置。
4. 前記回路は、
   前記複数の第２解像度画像にわたる前記画像領域の動きに基づいて、前記複数の第１解像度画像のうち前記複数の第２解像度画像より後に撮像された第２の第１解像度画像における１つ以上の画像領域の動きを予測し、
   前記第２の第１解像度画像における前記１つ以上の画像領域の動きと前記第２の第１解像度画像における前記１つ以上の画像領域の画像とに基づいて、前記複数の第１解像度画像の間で出力される前記複数の画像における１つ以上の画像領域の画像を生成する
   ように構成される請求項２に記載の装置。
5. 前記回路は、
   前記複数の第２解像度画像にわたる前記画像領域の動きに基づいて、前記複数の第１解像度画像のうち前記複数の第２解像度画像より前に撮像された第１の第１解像度画像と、前記複数の第１解像度画像のうち前記複数の第２解像度画像より後に撮像された第２の第１解像度画像とにおける１つ以上の画像領域の動きを予測し、
   前記第１の第１解像度画像における前記１つ以上の画像領域の動きと、前記第１の第１解像度画像の前記１つ以上の画像領域の画像と、前記第２の第１解像度画像における前記１つ以上の画像領域の動きと、前記第２の第１解像度画像における前記１つ以上の画像領域の画像とに基づいて、前記複数の第１解像度画像の間で出力される前記複数の画像の全領域の画像を生成する
   ように構成される請求項２に記載の装置。
6. 前記複数の第２解像度画像は、前記複数の第１解像度画像の露光時間より長い露光時間で撮像された画像である
   請求項１又は２に記載の装置。
7. 前記回路は、前記複数の第１解像度画像を用いずに、前記複数の第２解像度画像の画像内容に基づいて前記複数の第１解像度画像の撮像タイミングの間における前記動きを特定する
   ように構成される請求項６に記載の装置。
8. 前記回路は、
   前記複数の第２解像度画像を用いて小数画素精度の動き予測を行うことによって、小数画素精度の動きベクトルを算出し、
   前記小数画素精度の動きベクトルを前記複数の第１解像度画像の画素数に応じて拡大することによって得られた動きベクトルに基づいて、前記複数の第１解像度画像の撮像タイミングの間における画像の動きを特定する
   ように構成される請求項１又は２に記載の装置。
9. 請求項１又は２に記載の装置と、
   前記動画情報を出力するイメージセンサと
   を備える撮像装置。
10. 請求項９に記載の撮像装置を搭載して移動する移動体。
11. プログラムであって、コンピュータに、
    予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、前記複数の第１解像度画像の撮像タイミングの間で撮像された前記第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得させ、
    前記複数の第２解像度画像に基づいて、前記複数の第１解像度画像の撮像タイミングの間における画像の動きを特定させ、
    前記複数の第１解像度画像及び前記動きに基づいて、前記複数の第２解像度画像より解像度が高く、動画において前記複数の第１解像度画像の間で出力される複数の画像を生成させ、
    前記複数の第１解像度画像と、前記複数の第１解像度画像及び前記複数の画像とを含む動画を生成させる
    ように構成されるプログラム。
12. 予め定められた撮像レートで撮像された第１解像度を持つ複数の第１解像度画像と、前記複数の第１解像度画像の撮像タイミングの間で撮像された前記第１解像度より低い第２解像度を持つ複数の第２解像度画像とを含む動画情報を取得する段階と、
    前記複数の第２解像度画像に基づいて、前記複数の第１解像度画像の撮像タイミングの間における画像の動きを特定する段階と、
    前記複数の第１解像度画像及び前記動きに基づいて、前記複数の第２解像度画像より解像度が高く、動画において前記複数の第１解像度画像の間で出力される複数の画像を生成する段階と、
    前記複数の第１解像度画像と、前記複数の第１解像度画像及び前記複数の画像とを含む動画を生成する段階と
    を備える方法。

Images