JP6983651B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6983651B2 JP6983651B2 JP2017254647A JP2017254647A JP6983651B2 JP 6983651 B2 JP6983651 B2 JP 6983651B2 JP 2017254647 A JP2017254647 A JP 2017254647A JP 2017254647 A JP2017254647 A JP 2017254647A JP 6983651 B2 JP6983651 B2 JP 6983651B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- image processing
- difference
- panoramic image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 122
- 238000003672 processing method Methods 0.000 title claims description 3
- 238000011156 evaluation Methods 0.000 claims description 71
- 238000003384 imaging method Methods 0.000 claims description 29
- 238000004364 calculation method Methods 0.000 claims description 21
- 238000000034 method Methods 0.000 description 30
- 238000004458 analytical method Methods 0.000 description 19
- 238000004891 communication Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 238000010191 image analysis Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
Images
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
そこで、本発明は、複数の画像を配列させてパノラマ画像を表示させる場合に、よりユーザにとって違和感の少ない表示を可能とすることを課題としている。
なお、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。
図1(a)は、本実施形態における画像処理システム1000の構成例の概略を示すブロックである。
画像処理システム1000は、360度(全周囲)の撮像範囲を分担して撮像する複数の撮像装置を備え、複数の撮像装置によってそれぞれ撮像された複数の画像を繋ぎ合わせたパノラマ画像として出力し、ユーザに提示する。つまり、画像処理システム1000は、広範囲な監視領域を監視するユーザに全周囲画像を提供する監視システムとすることができる。
この画像処理装置200は、撮像装置101〜103にそれぞれ対応した評価値算出部201〜203と、配信部204と、を備える。
評価値算出部201〜203は、画像のエッジの輝度情報に基づいて、画像のエッジの評価値を算出する。本実施形態では、評価値として、画像のエッジを構成する各画素の平均輝度値、もしくは、画像のエッジに存在する特徴点の画像内位置を用いる。ここで、当該特徴点は、画像のエッジにおいて隣接する画素との輝度差分値が所定の閾値以上である画素である。なお、評価値は、上記に限定されるものではなく、撮像シーンに応じた値を用いることができる。評価値の算出方法の詳細は後述する。評価値算出部201〜203は、算出した評価値を画像と紐付けた状態で配信部204へ送信する。
図2は、表示装置300の表示画面の一例を示す図である。表示画面には、表示領域A、BおよびCがある。表示領域A、B、Cは、撮像装置101、102、103によって撮像された画像のいずれかが表示される領域である。表示領域A、B、Cに撮像装置101〜103により撮像したそれぞれの画像が現実空間における位置関係に対応する順で表示されることで、点線枠で示すパノラマ画像Pのように表示される。つまり、撮像装置101〜103は、パノラマ画像Pの3分の1ずつを分担して撮像している。また、画像処理装置200は、撮像装置101〜103によって撮像された画像を表示装置300に並べて表示させる表示制御を行うことで、パノラマ画像Pを表示することができる。
このように、本実施形態では、複数の撮像装置101〜103によってそれぞれ独立して生成された画像は、配信部204から順にネットワーク400を介して表示装置300に配信され、表示装置300において並べて表示される。そのため、撮像装置間の物理的な配置のずれや、それぞれの画像処理パラメータや撮像素子の特性の違い、撮像方向の違いによる撮像環境の違いなどの複数の要因により、最終的な画像のつなぎ目にずれが生じるといった現象が起こり得る。
そこで、本実施形態では、配信部204は、画像間のつなぎ目の少ない、より自然なパノラマ画像を提供するべく、後述する評価値に基づいてパノラマ画像の両端の画像を決定する。
画像処理装置200および表示装置300は、外部機器との間の無線または有線の通信インタフェースを提供する通信部をそれぞれ備える。例えば、無線通信は、Bluetooth(登録商標)、Z−Wave(登録商標)、ZigBee(登録商標)、UWB(Ultra Wide Band)等の無線PAN(Personal Area Network)を含む。また、Wi−Fi(Wireless Fidelity)(登録商標)等の無線LAN(Local Area Network)や、WiMAX(登録商標)等の無線MAN(Metropolitan Area Network)を含む。さらに、LTE/3G等の無線WAN(Wide Area Network)を含む。
また、当該通信部は、有線LANにより外部機器と通信してもよい。有線LANとしては、例えば、Ethernet(登録商標)等の通信規格を満足する複数のルータ、スイッチ、ケーブル等の構成が挙げられる。なお、通信部は、外部機器と通信が可能であればよく、通信の規格、規模、構成は上記に限定されない。
図3に示すように、画像処理装置200は、CPU21と、ROM22と、RAM23と、外部メモリ24と、通信I/F25と、システムバス26とを備える。CPU21は、画像処理装置200における動作を統括的に制御するものであり、システムバス26を介して、各構成部(22〜25)を制御する。ROM22は、CPU21が処理を実行するために必要な制御プログラム等を記憶する不揮発性メモリである。なお、当該プログラムは、外部メモリ24や着脱可能な記憶媒体(不図示)に記憶されていてもよい。RAM23は、CPU21の主メモリ、ワークエリア等として機能する。すなわち、CPU21は、処理の実行に際してROM22から必要なプログラム等をRAM23にロードし、当該プログラム等を実行することで各種の機能動作を実現する。
また、表示装置300の場合は、図3の構成に加えて表示部や入力部のハードウェア構成をさらに具備する。ここで、表示部は、液晶ディスプレイ(LCD)等のモニタを備えている。入力部は、キーボードやマウス等のポインティングデバイスを備えている。
図4は、画像処理装置200が実行するパノラマ画像出力処理の一例を示すフローチャートである。この図4の処理は、例えば、撮像装置101〜103から画像を取得したタイミングで開始される。ただし、図4の処理の開始タイミングは、上記のタイミングに限らない。
画像処理装置200は、CPU21が必要なプログラムを読み出して実行することにより、図4に示す処理を実現することができる。ただし、図1に示す画像処理装置200の各要素のうち少なくとも一部が専用のハードウェアとして動作することで図4の処理が実現されるようにしてもよい。この場合、専用のハードウェアは、CPU21の制御に基づいて動作する。以降、アルファベットSはフローチャートにおけるステップを意味するものとする。
まずS1において、画像処理装置200は、撮像装置101〜103から画像を取得し、撮像開始モードに移行する。この撮像開始モードは、撮像装置101〜103による撮像が開始された時点でのパノラマ画像出力に関する設定をするためのモードである。具体的には、撮像開始モードは、撮像開始時に、撮像装置101〜103から取得した画像を表示領域A、B、Cのどこにセットするかを決定する表示設定を行うモードである。
図5において、画像aは、撮像装置101により撮像された画像、画像bは、撮像装置102により撮像された画像、画像cは、撮像装置103により撮像された画像である。また、各画像の両側のグラフは、各画像のエッジの輝度差分値を示すグラフであり、縦軸が輝度差分値、横軸が画像内における位置である。ここで、輝度差分値は、エッジにおいて隣り合う画素の輝度値の差分を示しており、撮像する風景の変化が大きい、つまり、特徴量が大きいほど大きな値となる。また、画像内における位置は、画像の上端から何画素目なのかを示している。
このように、特徴量の大きな位置のみをピックアップすることで、画像に紐付けるデータ量を低減することができ、後述する処理の負荷を低減することができる。閾値Thが大きいほどピックアップされる位置が減り、紐付けるデータ量も減少するが、一方で、表示装置300の表示領域A〜Cにどの画像をセットするかの表示設定の判断に用いる情報量も減少してしまう。そのため、ユーザは、上記の点を加味したうえで、使用環境に応じた閾値Thを設定する必要がある。なお、閾値Thは、予め設定された固定値であってもよい。
S5では、画像処理装置200は、マニュアルモードに移行する。ここで、マニュアルモードは、表示装置300の表示領域と画像とのセットを更新するモードである。このとき、ユーザの指示によらずにマニュアルモードに移行する場合には、ユーザに対して表示設定を更新する旨を通知するよう制御してもよい。
S7では、配信部204は、S3と同様に、評価値が紐付けされた画像をもとに、表示装置300の表示設定を行い、複数の画像の並べ方を更新する。
例えば、図1の画像処理装置200は、評価値を紐付けした複数の画像を一定の順序で表示装置300へ配信し、表示装置300が評価値に基づいてパノラマ画像の表示設定を行い、パノラマ画像を表示するようにしてもよい。また、表示装置300が、複数の画像について評価値を算出し、評価値に基づいて複数の画像を並べて表示することでパノラマ画像を出力する画像処理装置として動作してもよい。
また、本実施形態では、複数の撮像装置によって撮像された複数の画像を並べて表示することでパノラマ画像を出力する場合について説明した。しかしながら、画像処理装置200は、複数の撮像装置によって撮像された複数の画像をつなぎ合わせるように合成することで1枚のパノラマ画像として生成し、生成したパノラマ画像を表示装置300に表示させるようにしてもよい。なお、合成する場合には、複数の画像の内容がズレ難いように、隣り合う画像の隣接する端部の特徴点が一致するように、位置をシフトさせたり部分的に拡大させたりした上で、隣接する端部の平均輝度が互いに近づくように輝度を補正するようにしてもよい。
さらに、本実施形態では、画像処理装置200は、表示装置300にパノラマ画像を表示させるよう制御する場合について説明したが、パノラマ画像を生成し、生成したパノラマ画像を外部機器に出力したり保存したりするようにしてもよい。
これにより、画像間のずれが大きい境界をパノラマ画像の端に配置することができる。したがって、複数の撮像装置が分担して撮像した画像を繋ぎ合わせてパノラマ画像を出力する場合に、画像間のつなぎ目のずれが少ない、自然なパノラマ画像を出力することが可能となる。
このように、複数の画像を並べて表示させることでパノラマ画像を出力するので、複雑な合成処理等を必要とすることなく、容易にパノラマ画像を出力することができる。また、画像処理装置200は、複数の画像の配列順序と画像の配信順序とを関連付けるので、画像の配列順序を示す情報を別途付加することなく、表示装置300に対して画像の配列順序を通知することが可能となる。表示装置300は、画像処理装置200が配信する画像を、受信順に表示領域にセットするだけでよく、画像を並べて表示するための処理に関する付加を軽減することができる。
さらに、上記特徴点は、画像の端部において隣接する画素との輝度差分値が所定の閾値以上である画素とすることができる。このように、特徴量の大きな位置のみをピックアップすることで、評価値のデータ量を削減し、表示設定や表示制御の処理負荷を軽減することができる。
次に、本発明における第二の実施形態について説明する。
上述した第一の実施形態では、評価値の差分が最も大きくなる端部がパノラマ画像の両端に持ってくる場合について説明した。この第二の実施形態では、上述した第一の実施形態における評価値に対して、撮像モードに応じた重み付け処理を行い、その結果に基づいてパノラマ画像の両端に配置する画像を決定する場合について説明する。
ここで、上記の撮像モードは、パノラマ画像から人物や車両などの特定の被写体(オブジェクト)を検知するオブジェクト検知処理や、パノラマ画像の特定の領域について持ち去りや置き去り、侵入や通過、滞留などのイベントを検知するイベント検知処理などの映像解析を実施する映像解析モードである。画像処理システム1000が映像解析を使用する場合、解析内容に応じた表示設定を行う。
本実施形態では、画像処理装置200の配信部204が、パノラマ画像に対する映像解析を行う場合について説明する。この場合、配信部204は、評価値算出部201〜203から受信した画像それぞれに対して映像解析を行い、その結果を画像に紐付けてネットワーク400を介して表示装置300へ配信する。なお、パノラマ画像に対する映像解析は、表示装置300において行われてもよい。この場合、表示装置300は、画像処理装置200から提供されるパノラマ画像に対して映像解析処理を行う。
S21では、画像処理装置200は、映像解析処理の開始や終了を含めた設定変更が行われたか否かを判定し、映像解析処理を使用しているか否かをする。そして、画像処理装置200は、映像解析処理を使用していると判定した場合、S22へ移行し、映像解析処理を使用していないと判定した場合にはS4に移行する。
S23では、画像処理装置200は、映像解析モードにおいてユーザが予め設定した条件(設定条件)を満たすか否かを判定する。ここで、設定条件は、映像解析処理の内容を加味した上でユーザが新たに設定してもよいし、S4の設定条件を映像解析処理の内容を加味して調整したものであってもよい。上記のいずれかの条件を満たしている場合、画像処理装置200はS23からS24に移行する。一方、いずれの条件も満たさない場合は、表示設定の更新をせず、設定条件を満たすまで撮像を継続する。
S25では、配信部204は、S24において算出された評価値に対して、実行している映像解析処理に基づいた重み付け処理を行う。
画像d〜hの濃淡は、撮像している風景の明暗を示しており、濃いほど暗く、淡いほど明るいことを示している。また、点線枠Mは、ユーザの注視したい領域(以下、「注視領域」という。)を示している。
なお、映像解析処理として特定の被写体を検知する処理を実行する場合には、当該特定の被写体を含む領域を上記注視領域Mとし、重み付け処理を行うことができる。また、輝度値が一定値以下では映像解析処理を行いにくい点を加味し、輝度値が一定値以下の領域はパノラマ画像の端に配置されてもよいとして、画像の端部同士の評価値の差が大きくなる方向に重み付けしてもよい。
図8(a)に示す例では、S25における重み付け処理により、画像dの左エッジと画像hの右エッジの評価値の差を小さくする処理が行われる。重み付け処理を行う前において、画像dと画像hとの次に評価値の差が大きい境界が、画像gと画像fとの隣接部分である場合、このS26では、配信部204は、画像gと画像fとをパノラマ画像の両端にセットすべきと判断する。その結果、表示領域と画像とのセットは、図8(b)に示すように更新される。
このように、パノラマ画像の端に配置されてほしくない画像をパノラマ画像の中心寄りに配置するなど、映像解析処理の内容を加味した適切なパノラマ画像の生成が可能となる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (13)
- 全周囲の撮像範囲を分担して撮像する複数の撮像装置から、複数の撮像画像を取得する取得手段と、
前記取得手段により取得された複数の撮像画像を前記撮像範囲に対応するように配列させてパノラマ画像とする際に、隣り合う画像の隣接する端部同士の差が、前記パノラマ画像の端部同士の差よりも小さくなるように、前記複数の画像を配置させて前記パノラマ画像として出力する出力手段と、を備えることを特徴とする画像処理装置。 - 前記出力手段は、前記取得手段により取得された複数の画像を表示装置に並べて表示させるように制御することで、前記パノラマ画像を出力することを特徴とする請求項1に記載の画像処理装置。
- 前記出力手段は、前記複数の画像の配列順序に対応した順序で、前記複数の画像を順に前記表示装置へ配信することを特徴とする請求項2に記載の画像処理装置。
- 前記出力手段は、前記取得手段により取得した複数の画像を合成することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
- 前記取得手段により取得された複数の画像のそれぞれについて、前記画像の端部の輝度情報に基づいて、前記画像の端部の評価値を算出する算出手段をさらに備え、
前記出力手段は、前記算出手段により算出された評価値に基づいて、前記パノラマ画像の両端に配置する画像を決定することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。 - 前記出力手段は、隣り合う前記画像の隣接する端部同士の前記評価値の差が、前記パノラマ画像の端部同士の前記評価値の差よりも小さくなるように、前記パノラマ画像の両端に配置する画像を決定することを特徴とする請求項5に記載の画像処理装置。
- 前記算出手段は、前記評価値として、前記画像の端部を構成する各画素の平均輝度値を算出することを特徴とする請求項5または6に記載の画像処理装置。
- 前記算出手段は、前記評価値として、前記画像の端部に存在する特徴点の画像内位置を算出することを特徴とする請求項5から7のいずれか1項に記載の画像処理装置。
- 前記特徴点は、前記画像の端部において隣接する画素との輝度差分値が所定の閾値以上である画素であることを特徴とする請求項8に記載の画像処理装置。
- 前記算出手段は、撮像モードに基づいて、前記評価値の重み付け処理を行うことを特徴とする請求項5から9のいずれか1項に記載の画像処理装置。
- 前記撮像モードは、前記パノラマ画像の特定の領域に注視するモードであり、
前記算出手段は、隣り合う前記画像の境界に跨って前記注視する領域が存在する場合、当該境界に対応する前記画像の端部同士の評価値の差を小さくする方向に重み付け処理を行うことを特徴とする請求項10に記載の画像処理装置。 - 全周囲の撮像範囲を分担して撮像する複数の撮像装置から、複数の撮像画像を取得する取得ステップと、
前記取得ステップにおいて取得された複数の撮像画像を前記撮像範囲に対応するように配列させてパノラマ画像とする際に、隣り合う画像の隣接する端部同士の差が、前記パノラマ画像の端部同士の差よりも小さくなるように、前記複数の画像を配置させて前記パノラマ画像として出力する出力ステップと、を含むことを特徴とする画像処理方法。 - コンピュータを、請求項1から11のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017254647A JP6983651B2 (ja) | 2017-12-28 | 2017-12-28 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017254647A JP6983651B2 (ja) | 2017-12-28 | 2017-12-28 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019121090A JP2019121090A (ja) | 2019-07-22 |
JP6983651B2 true JP6983651B2 (ja) | 2021-12-17 |
Family
ID=67307300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017254647A Active JP6983651B2 (ja) | 2017-12-28 | 2017-12-28 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6983651B2 (ja) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5573349B2 (ja) * | 2010-05-17 | 2014-08-20 | パナソニック株式会社 | パノラマ展開画像撮影システムおよび方法 |
JP5870636B2 (ja) * | 2011-11-09 | 2016-03-01 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP6361931B2 (ja) * | 2015-04-23 | 2018-07-25 | パナソニックIpマネジメント株式会社 | 画像処理装置及びこれを備えた撮像システムならびに画像処理方法 |
-
2017
- 2017-12-28 JP JP2017254647A patent/JP6983651B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019121090A (ja) | 2019-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170018217A1 (en) | Video display system, video display device, and video display method | |
JP6361931B2 (ja) | 画像処理装置及びこれを備えた撮像システムならびに画像処理方法 | |
US9172870B2 (en) | Real-time image processing method and device enhancing the resolution of successive images | |
JP5708051B2 (ja) | 映像処理装置、映像処理システム、テレビ会議システム、遠方監視システム、映像処理方法、及び撮像装置 | |
KR102375688B1 (ko) | 촬상 장치, 촬영 시스템 및 촬영 방법 | |
JP2019080243A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP2004272578A (ja) | 撮像装置及び歪み補正方法 | |
JP2015032910A (ja) | 遠隔操作装置およびその制御方法、撮像装置およびその制御方法、システム、並びにプログラム | |
US10401174B2 (en) | Posture estimating apparatus for estimating posture, posture estimating method and recording medium | |
JP6678313B2 (ja) | 映像表示システム、映像表示装置及び映像表示方法 | |
US10721432B2 (en) | Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing | |
US9263001B2 (en) | Display control device | |
US9438808B2 (en) | Image capture control apparatus, method of limiting control range of image capture direction, and storage medium | |
JP6513309B2 (ja) | 画像合成装置、画像合成方法、及び画像合成プログラム | |
JP6983651B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2015019397A (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2018067851A (ja) | 撮像制御プログラム、撮像制御方法および情報処理装置 | |
US20150163396A1 (en) | Image processing device, display device, imaging apparatus, image processing method, and program | |
CN108476290B (zh) | 用于提供全景图像的电子装置及其控制方法 | |
US10645282B2 (en) | Electronic apparatus for providing panorama image and control method thereof | |
US9438822B2 (en) | Image processing device, display device, image processing method, and computer-readable recording medium | |
KR102517104B1 (ko) | 가상 현실 시스템에서 이미지 처리 방법 및 장치 | |
JP4508043B2 (ja) | 映像監視装置及び映像監視用プログラム | |
JP2004282163A (ja) | カメラ、監視画像生成方法、プログラム、監視システム | |
JP2020053960A (ja) | 撮像装置、該撮像装置の制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211026 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211124 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6983651 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D03 |