JP6818485B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6818485B2 JP6818485B2 JP2016187494A JP2016187494A JP6818485B2 JP 6818485 B2 JP6818485 B2 JP 6818485B2 JP 2016187494 A JP2016187494 A JP 2016187494A JP 2016187494 A JP2016187494 A JP 2016187494A JP 6818485 B2 JP6818485 B2 JP 6818485B2
- Authority
- JP
- Japan
- Prior art keywords
- foreground
- image data
- region
- pixel
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本実施例では、複数の異なる視点における前景画像データを用いて、影による領域である可能性が高い領域を検出し、該検出した領域における背景画像と撮像画像との色の違いに基づき、影を含まない前景の被写体による領域を抽出する。なお、前景の被写体による領域を、前景領域と呼ぶ。
以下、本実施例における前景領域を抽出する処理の概要について、図4を用いて説明する。本実施例では、まず、複数の異なる視点における前景画像データ401を取得する。ここで取得する前景画像データは、前景の被写体409とこれに付随する影404とによる領域を前景領域として抽出した画像である。取得する複数の前景画像データ401の中には、影404による領域を含まない前景の被写体409による領域のみを前景領域として抽出する対象となる画像を撮像する着目視点402と同一の視点における画像が含まれているものとする。以下、影404による領域を含まない前景の被写体409による領域のみを前景領域として抽出する対象の画像を対象画像データと呼び、対象画像データを撮像した視点を着目視点と呼ぶ。
以下、本実施例の画像処理装置のハードウェア構成について述べる。図1は、本実施例の画像処理装置のハードウェア構成の一例を示すブロック図である。本実施例の画像処理装置100は、CPU101、RAM102、ROM103、二次記憶装置104、入力インターフェース105、及び出力インターフェース106を備え、これらの構成要素は、システムバス107によって相互に接続されている。また、画像処理装置100は、入力インターフェース105を介して外部記憶装置108に接続されており、出力インターフェース106を介して外部記憶装置108と表示装置109とに接続されている。
以下、本実施例における画像処理装置100が実行する前景領域を抽出する処理について、図2及び図3を用いて説明する。図2は、画像処理装置100の機能構成を示すブロック図であり、図3は、前景領域を抽出する処理の流れを示すフローチャートである。画像処理装置100のCPU101は、RAM102をワークメモリとして用いてROM103に格納されたプログラムを実行することで、図2に示す各構成要素として機能し、図3に示す一連の処理を実行する。なお、以下に示す処理の全てがCPU101によって実行される必要はなく、処理の一部または全部が、CPU101以外の1つ又は複数の処理回路によって行われるように画像処理装置100を構成しても良い。
第1条件:フラグマップの画素値が1(MF(u2、v2)=1)であること
第2条件:色の類似度が閾値以下(C(u2、v2)≦Thr)であること
以下、本実施例の効果について図6を用いて説明する。図6において、画像データ602は、着目視点601から撮像した撮像画像であり、画像データ603は、前景の被写体606、607とこれらに付随する影とによる領域を前景領域として抽出した着目視点601における前景画像データである。前景画像データ603における領域604や領域605は、多視点の前景画像データを用いて復元した3次元形状のうちの、地上面付近に存在する形状に対応する領域であり、影領域である可能性が高いとみなされる。ここで3次元形状の復元に用いたボクセルのサイズが大きい場合、前景の被写体606の影による領域である可能性が高い領域605に、前景の被写体607による領域の一部が含まれる。このような領域605において、撮像画像602とこれに対応する背景画像608との間で、色の違いが小さい画素を影領域の画素とみなして前景画像データ603を修正した場合、前景画像データ609が得られる。前景画像データ609では、前景の被写体606、607に付随する影による影領域を抽出することなく、前景の被写体606、607による領域を抽出できている。しかし、前景画像データ609では、前景の被写体607による領域の一部、つまり影領域である可能性が高い領域に含まれ、前景の被写体607の色と背景の色とが類似する領域を、前景領域として抽出できていない。
実施例1では、複数の異なる視点における前景画像データを用いて、影による領域である可能性が高い領域(共通前景領域)を検出し、その領域における背景画像と撮像画像との色の違いに基づき、影を含まない前景の被写体による領域を抽出する。これに対し、本実施例では、影である可能性が高い領域における、背景画像と撮像画像との色の違い、及び、背景画像と撮像画像とのテクスチャの違いに基づき、影を含まない前景の被写体による領域を抽出する。なお、実施例1と同様の構成及び同様の処理については、実施例1と同様の符号を付して説明を省略する。
以下、本実施例における前景領域を抽出する処理の概要について説明する。本実施例では、着目視点における背景画像と撮像画像との間の、テクスチャの類似度を画素毎に算出する。具体的には、背景画像と撮像画像とにおいて複数の画素から成る領域(以下、ブロック)を設定し、ブロック内の画素について、背景画像と撮像画像との間における画素値の変化量の和をとることで、テクスチャの類似度を算出する。続いて、実施例1で説明した色の類似度と、本実施例で算出したテクスチャの類似度とを用いて、背景画像と撮像画像との間で、色が類似しかつテクスチャが類似する画素を検出し、該検出した画素を影領域の画素であると決定する。最後に、影領域を含む前景領域を抽出した前景画像データにおいて、影領域の画素と決定された画素の画素値を変更することで、影領域を含まない前景領域を抽出する。
以下、本実施例における画像処理装置100が実行する前景領域を抽出する処理について、図7及び図8を用いて説明する。図7は、本実施例における画像処理装置100の機能構成を示すブロック図であり、図8は、本実施例における前景領域を抽出する処理の流れを示すフローチャートである。画像処理装置100のCPU101は、RAM102をワークメモリとして用いてROM103に格納されたプログラムを実行することで、図7に示す各構成要素として機能し、図8に示す一連の処理を実行する。なお、以下に示す処理の全てがCPU101によって実行される必要はなく、処理の一部または全部が、CPU101以外の1つ又は複数の処理回路によって行われるように画像処理装置100を構成しても良い。
第1条件:フラグマップの画素値が1(MF(u2、v2)=1)であること
第2条件:色の類似度が閾値以下(C(u2、v2)≦Thr)であること
第3条件:テクスチャの類似度が閾値以下(W(u2、v2)≦Thr2)であること
一方、これら3つの条件を満たさない場合、フラグマップにおける着目画素が影領域の画素に対応する画素ではないと判定し、該着目画素の画素値を0とする。
以下、本実施例の効果について図9を用いて説明する。図9において画像データ904は、着目視点901から撮像した背景画像であり、画像データ905は、着目視点901から影が付随する被写体902及び地上面に存在する被写体903を撮像した撮像画像である。画像データ906は、実施例1の画像処理装置100又は本実施例の画像処理装置100により検出された、画像データ905の中で影である可能性が高い領域を表わす画像である。画像データ906では、影である可能性が高い領域の画素を白画素としている。
本発明の実施形態は、上述の実施例に限られるものではなく、様々な実施形態をとることが可能である。例えば、上述の実施例では、色の類似度の算出において、対象画像データと背景画像データとのRGB空間における画素値を用いているが、用いる情報はこれに限られない。例えば、HSVやLabなどの異なる色空間の画素値を用いて、色の類似度を算出しても良い。
204・・・画像変換部
205・・・共通前景検出部
208・・・前景画像データ修正部
Claims (11)
- 複数の異なる視点における、前景の被写体と背景の被写体とを撮像した画像から前記前景の被写体による領域と該前景の被写体に付随する影による領域とを前景領域として抽出した画像である前景画像データを取得する前景画像データ取得手段と、
前記取得した前景画像データを、地上面を基準として着目視点から見た場合の画像へとそれぞれ変換することで、複数の変換前景画像データを作成する作成手段と、
前記前景領域のうち、前記複数の変換前景画像データにおいて共通して同じ位置に存在する領域を、共通前景領域として検出する検出手段と、
前記共通前景領域に基づき、前記着目視点における前記前景画像データを修正することで、前記前景の被写体による領域を前景領域として抽出した画像である前景画像データを作成する前景画像データ修正手段と
を有することを特徴とする画像処理装置。 - 前記着目視点から前記前景の被写体と前記背景の被写体とを撮像した画像であって、前記前景の被写体による領域を抽出する対象の該画像である対象画像データを取得する対象画像データ取得手段と、
前記背景の被写体の画像である背景画像データを取得する背景画像データ取得手段と、
前記共通前景領域の画素が前記影による領域の画素であるか判定する判定手段と
を更に有することを特徴とする請求項1に記載の画像処理装置。 - 前記検出手段は、前記共通前景領域の画素に対応する画素値に1が代入され、前記共通前景領域ではない画素に対応する画素値に0が代入されるフラグマップを作成することを特徴とする請求項2に記載の画像処理装置。
- 前記対象画像データの画素と前記背景画像データの画素との間の色の類似度を算出する算出手段を更に有し、
前記判定手段は、前記フラグマップの画素値と前記色の類似度とに基づき、前記共通前景領域の画素が前記影による領域の画素であるか判定することを特徴とする請求項3に記載の画像処理装置。 - 前記判定手段は、前記変換前景画像データにおける着目画素について、該着目画素に対応する前記フラグマップの画素値が1であり、かつ、前記対象画像データと前記背景画像データとで色が類似する場合、前記着目画素が前記影の領域の画素であると判定することを特徴とする請求項4に記載の画像処理装置。
- 前記対象画像データの画素と前記背景画像データの画素との間の色の類似度を算出する算出手段と、
前記対象画像データの画素と前記背景画像データの画素との間のテクスチャの類似度を算出する算出手段と
を更に有し、
前記判定手段は、前記フラグマップの画素値と前記色の類似度と前記テクスチャの類似度とに基づき、前記共通前景領域の画素が前記影による領域の画素であるか判定することを特徴とする請求項5に記載の画像処理装置。 - 前記判定手段は、前記変換前景画像データにおける着目画素について、該着目画素に対応する前記フラグマップの画素値が1であり、前記対象画像データと前記背景画像データとで色が類似し、かつ、前記対象画像データと前記背景画像データとでテクスチャが類似する場合、前記着目画素が前記影の領域の画素であると判定することを特徴とする請求項6に記載の画像処理装置。
- 前記背景画像データは、前記着目視点から時系列に沿って連続で撮像した複数の異なる時刻に対応する複数の画像に基づき作成した画像、若しくは、前記前景の被写体が存在せず前記背景の被写体のみが存在する状態で撮像した画像であることを特徴とする請求項2乃至7の何れか1項に記載の画像処理装置。
- 前記作成手段は、前記取得した前景画像データを、前記地上面に加え前記地上面に平行な複数の平面を基準として前記着目視点から見た場合の画像へとそれぞれ変換することで、前記複数の変換前景画像データを作成することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
- 複数の異なる視点における、前景の被写体と背景の被写体とを撮像した画像から前記前景の被写体による領域と該前景の被写体に付随する影による領域とを前景領域として抽出した画像である前景画像データを取得するステップと、
前記取得した前景画像データを、地上面を基準として着目視点から見た場合の画像へとそれぞれ変換することで、複数の変換前景画像データを作成するステップと、
前記前景領域のうち、前記複数の変換前景画像データにおいて共通して同じ位置に存在する領域を、共通前景領域として検出するステップと、
前記共通前景領域に基づき、前記着目視点における前記前景画像データを修正することで、前記前景の被写体による領域を前景領域として抽出した画像である前景画像データを作成するステップと
を有することを特徴とする画像処理方法。 - コンピュータに、請求項10に記載の方法を実行させるための、プログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016187494A JP6818485B2 (ja) | 2016-09-26 | 2016-09-26 | 画像処理装置、画像処理方法、及びプログラム |
EP17001482.3A EP3300022B1 (en) | 2016-09-26 | 2017-09-06 | Image processing apparatus, image processing method, and program |
ES17001482T ES2756677T3 (es) | 2016-09-26 | 2017-09-06 | Aparato de procesamiento de imágenes, procedimiento de procesamiento de imágenes y programa |
US15/707,105 US10824895B2 (en) | 2016-09-26 | 2017-09-18 | Image processing apparatus, image processing method, and storage medium |
US16/887,652 US11657514B2 (en) | 2016-09-26 | 2020-05-29 | Image processing apparatus, image processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016187494A JP6818485B2 (ja) | 2016-09-26 | 2016-09-26 | 画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018055198A JP2018055198A (ja) | 2018-04-05 |
JP6818485B2 true JP6818485B2 (ja) | 2021-01-20 |
Family
ID=61836775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016187494A Active JP6818485B2 (ja) | 2016-09-26 | 2016-09-26 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6818485B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111723830B (zh) * | 2019-03-20 | 2023-08-29 | 杭州海康威视数字技术股份有限公司 | 一种图像映射方法、装置及设备、存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008015573A (ja) * | 2006-07-03 | 2008-01-24 | Sony Corp | 画像処理装置、画像処理方法および画像監視システム |
-
2016
- 2016-09-26 JP JP2016187494A patent/JP6818485B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018055198A (ja) | 2018-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200293809A1 (en) | Image processing apparatus, image processing method, and storage medium | |
US10701332B2 (en) | Image processing apparatus, image processing method, image processing system, and storage medium | |
US10234957B2 (en) | Information processing device and method, program and recording medium for identifying a gesture of a person from captured image data | |
JP7159384B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US10163027B2 (en) | Apparatus for and method of processing image based on object region | |
US8737740B2 (en) | Information processing apparatus, information processing method, and non-transitory computer-readable storage medium | |
US10366504B2 (en) | Image processing apparatus and image processing method for performing three-dimensional reconstruction of plurality of images | |
JP6482195B2 (ja) | 画像認識装置、画像認識方法及びプログラム | |
US10679358B2 (en) | Learning image automatic sorting device, learning image automatic sorting method, and learning image automatic sorting program | |
JP5538868B2 (ja) | 画像処理装置、その画像処理方法及びプログラム | |
CN110008795B (zh) | 图像目标追踪方法及其***与计算机可读取记录介质 | |
US9805443B2 (en) | Image processing method, image processing apparatus, program, storage medium, production apparatus, and method of producing assembly | |
WO2018082308A1 (zh) | 一种图像处理方法及终端 | |
JPWO2013073167A1 (ja) | 画像処理装置、撮像装置および画像処理方法 | |
CN109741293A (zh) | 显著性检测方法及装置 | |
WO2015092904A1 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2019117547A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110832542A (zh) | 识别处理设备、识别处理方法和程序 | |
CN108229281B (zh) | 神经网络的生成方法和人脸检测方法、装置及电子设备 | |
CN114821274A (zh) | 一种用于识别分合指示牌的状态的方法和设备 | |
JP6818485B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5754931B2 (ja) | 画像解析装置、画像解析方法及びプログラム | |
JP6606340B2 (ja) | 画像検出装置、画像検出方法およびプログラム | |
JP5419925B2 (ja) | 通過物体数計測方法、通過物体数計測装置、及びプログラム | |
JP7533937B2 (ja) | 画像処理装置、画像処理方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190924 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201228 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6818485 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |