JP6784047B2 - 監視装置、処理方法、プログラム - Google Patents
監視装置、処理方法、プログラム Download PDFInfo
- Publication number
- JP6784047B2 JP6784047B2 JP2016072642A JP2016072642A JP6784047B2 JP 6784047 B2 JP6784047 B2 JP 6784047B2 JP 2016072642 A JP2016072642 A JP 2016072642A JP 2016072642 A JP2016072642 A JP 2016072642A JP 6784047 B2 JP6784047 B2 JP 6784047B2
- Authority
- JP
- Japan
- Prior art keywords
- alternative
- image
- imaging
- camera
- abnormal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Alarm Systems (AREA)
Description
また特許文献2には複数のカメラが車両に設置されており、1つのカメラの異常が発生した場合に他のカメラによって取得した画像を合成して、異常の発生したカメラの画像に重複する部分を得る技術が開示されている。
よって通常時は撮影領域が狭い範囲となるため高解像度の撮影画像によって監視できるため通常時は精度高く監視できると共に、異常時には代替撮影装置によって異常撮影装置の撮影領域までカバーした撮影画像を生成することができる。
図1は同実施形態による監視装置を備えた自動運転システムの構成を示すブロック図である。
この図において、符号1は監視装置である。監視装置1は、例えば自装置で記憶するプログラムを実行することにより、異常監視部11と、撮影画像生成部12の機能を備える。または監視装置1はデジタル回路により異常監視部11や撮影画像生成部12を機能が構成された装置であってよい。
以降の説明においてカメラ21〜26を総称してカメラ2と称する。また画像入力部31〜36を総称して画像入力部3と称する。また映像処理部41〜46を総称して映像処理部4と称する。
映像処理部4に撮影画像が入力する信号線には、映像処理部4よりも画像入力部3または監視装置1側に切り替えスイッチ51〜56がそれぞれ設けられている。これら切り替えスイッチ51〜56は異常監視部11によってその切り替えが制御される。切り替えスイッチ51〜56が画像入力部3側に切り替えられると、映像処理部4は画像入力部3から出力された撮影画像を入力する。他方、切り替えスイッチ51〜56が監視装置1側に切り替えられると、映像処理部4は撮影画像生成部12から出力された撮影画像を入力する。切り替えスイッチ51〜56を総称して切り替えスイッチ5と称す。
本実施形態において移動体は自動車であってよい。移動体は自動車以外のものであってもよい。例えばカメラ2はそれぞれ図2で示すように、車両の周囲に左右方向60度の角度の間隔を隔てて設けられている。各カメラ2はそれぞれ通常時には左右方向60度の角度の領域(画角)を撮影する。それらカメラ2のうち異常と判定されたカメラが存在する場合には、監視装置1は、その異常カメラの両脇の代替カメラの撮影領域を異常カメラの撮影領域まで画角を広げて撮影できるよう制御する。例えば、監視装置1は代替カメラの撮影領域である画角60度に、異常カメラの画角60度を加えた、120度の画角の撮影領域を撮影できるよう代替カメラを制御する。図2においては第一のカメラ21が撮影領域aを撮影する。また第二のカメラ22が撮影領域bを撮影する。また第三のカメラ23が撮影領域cを撮影する。また第四のカメラ24が撮影領域dを撮影する。また第五のカメラ25が撮影領域eを撮影する。また第六のカメラ26が撮影領域fを撮影する。
上述したように監視装置1は、異常監視部11、撮影画像生成部12を備える。また図3でえ示すように異常監視部11は異常カメラ特定部111(異常撮影装置特定部)、代替カメラ特定部112(代替撮影装置特定部)、カメラ制御部113(撮影装置制御部)、監視制御部114、認識精度管理部115、移動態様管理部116を備える。
異常カメラ特定部111は、監視装置1に接続される複数のカメラのうち異常の発生した異常カメラを特定する。
代替カメラ特定部112は、異常カメラの撮影領域を撮影できる代替カメラを特定する。
カメラ制御部113は、代替カメラの撮影領域を制御する。
監視制御部114は、カメラ2や画像入力部3に異常が発生していない状況においてはそれら異常の無いカメラ2や画像入力部3から出力された撮影画像を用いて監視制御を行う。監視制御部114は、異常カメラが特定された状況においては異常カメラを除く代替カメラとそれ以外のカメラから出力された各撮影画像と、代替撮影画像とを用いて監視制御を行う。
認識精度管理部115は、代替撮影画像に基づいて自動車などの移動体に設置された複数のカメラ2のうちの異常カメラの撮影領域における認識精度を示す情報を自動運転の制御装置(ECU)などへ出力する。
移動態様管理部116は、代替撮影画像に基づいて移動体の移動態様を示す情報を自動運転の制御装置(ECU)などへ出力する。
次に監視装置1の処理フローについて順を追って説明する。
カメラ2はそれぞれ画像入力部3へ撮影画像を出力する。画像入力部3はそれぞれ映像処理部4と監視装置1それぞれにカメラ2から取得した撮影画像を同時に出力している。
カメラ2又は画像入力部3が故障すると、異常カメラ特定部111は例えば画像入力部3から故障通知を取得して、その故障を検出する(ステップS41)。異常カメラ特定部111は、例えば第一の画像入力部31から画像信号が取得できない場合には第一のカメラ21又は第一の画像入力部31が異常であると判定する。または異常カメラ特定部111は、カメラ21から画像信号を取得できないか画像入力部31から故障通知信号を受信して、その信号に基づいてカメラ21を異常と判定してもよい。または異常カメラ特定部111は、第一の画像入力部31から入力した画像信号を解析して第一のカメラ21又は第一の画像入力部31が異常であると判定してもよい。またはそれ以外の方法で異常なカメラ2や画像入力部3を特定してもよい。異常カメラ特定部111は特定したカメラ2または画像入力部3の組み合わせで示される識別番号を特定し、代替カメラ特定部112へ通知する。
図5では第一のカメラ21または画像入力部31の異常により監視装置1が、第一のカメラ21の撮影する撮影領域aの撮影画像を取得できない状況を示している。
図6で示すように、第二拡大撮影画像は、撮影領域aと撮影領域bを含む撮影領域の画像である。また第六拡大撮影画像は、撮影領域aと撮影領域fとを含む撮影領域の画像である。
この図が示すように撮影画像生成部12は第二拡大撮影画像における撮影領域a1を示す画像と、第六拡大撮影画像における撮影領域a2とを合わせた代替の第一の撮影画像を生成する。
撮影画像生成部12は代替の第一の撮影画像を生成すると、当該代替の第一の撮影画像と他のカメラによる撮影画像を映像処理部41へ出力する(ステップS46)。
ここで、撮影画像生成部12は第二拡大撮影画像中の第二カメラ22の撮影領域である右半分を抽出し第二の撮影画像を生成し、時刻tから時間Tの時間遅らせて映像処理部42へ出力する。
撮影画像生成部12は第六拡大撮影画像中の第六カメラ26の撮影領域である左半分を抽出し第六の撮影画像を生成し、時刻tから時間Tの時間遅らせて映像処理部46へ出力する。
撮影画像生成部12は、画像入力部33から取得した第三の撮影画像は、異常カメラまたは代替カメラから出力された撮影画像ではない為、時刻tから時間Tの時間遅らせて、そのまま画像入力部33に対応する映像処理部43へ出力する。
撮影画像生成部12は、画像入力部34から取得した第四の撮影画像は、異常カメラまたは代替カメラから出力された撮影画像ではない為、時刻tから時間Tの時間遅らせて、そのまま画像入力部34に対応する映像処理部44へ出力する。
撮影画像生成部12は、画像入力部35から取得した第五の撮影画像は、異常カメラまたは代替カメラから出力された撮影画像ではない為、時刻tから時間Tの時間遅らせて、そのまま画像入力部35に対応する映像処理部45へ出力する。
このように第二の撮影画像〜第六の撮影画像の出力タイミングを時刻tから時間Tの時間遅らせて出力するため、それら撮影画像と代替の第一の撮影画像との同期タイミングを合わせることができる。
また移動態様管理部116は算出した移動態様(速度など)を示す情報を、自動運転の制御装置へ出力する。移動態様を示す情報には、撮影画像の番号やその撮影画像を撮影したカメラの番号などが付与されてよい。
よって通常時は撮影領域が狭い範囲となるため異常時よりも高解像度の撮影画像によって監視できるため通常時は精度高く監視できると共に、異常時には代替カメラによって異常カメラの撮影領域までカバーした撮影画像を生成することができる。
異常カメラが特定された場合、認識精度管理部115は、移動体に設置された複数のカメラのうちの異常カメラの撮影領域における認識精度を示す情報を代替カメラによって生成した代替の撮影画像に基づいて特定して出力する。具体的には認識精度管理部115は画角の拡大率nに基づいて、認識精度がn分の1になったことを示す情報を出力してよい。
移動態様管理部116は、画角を広げたことにより、同一物体が画像に撮影された時の画素数が一定になる距離の悪化分、他の制御装置が故障処理により受ける影響を通知する。例えば認識精度管理部115は、画角をn倍にした場合であれば1/nの距離や、その距離の変化や正常なカメラによる撮影画像を遅延させる時間により他の制御装置が故障処理により受ける影響を通知する。
=異常前の速度÷(n+代替の撮影画像の生成時間)
=25÷(2+0.1)=11.90(m/sec)≒42.85km/h
第一のカメラ21や画像入力部31に異常が発生した場合には、図8で示すように第二の第二の撮影画像、第六の撮影画像、第一の代替撮影画像に対応する撮影領域a、b、fの認識精度が変化する。この場合、図8で示すように、正常時の物体認識距離が、異常時の物体認識距離へと変化する。
2,21〜26・・・カメラ
3,31〜36・・・画像入力部
4,41〜46・・・映像処理部
5,51〜56・・・切り替えスイッチ
11・・・異常監視部
12・・・撮影画像生成部
111・・・異常カメラ特定部
112・・・代替カメラ特定部
113・・・カメラ制御部
114・・・監視制御部
115・・・認識精度管理部
116・・・移動態様管理部
Claims (6)
- 複数の撮影装置のうち異常の発生した異常撮影装置を特定する異常撮影装置特定部と、
前記異常撮影装置の撮影領域を撮影できる代替撮影装置を特定する代替撮影装置特定部と、
前記代替撮影装置の撮影領域を制御する撮影装置制御部と、
前記代替撮影装置の出力した撮影画像を用いて前記異常の発生した撮影装置が撮影する撮影領域の代替撮影画像を生成する撮影画像生成部と、
を備え、
前記撮影画像生成部は、前記代替撮影画像の生成に伴う遅延に基づいて、その代替撮影画像と、前記異常撮影装置を除く他の撮影装置から出力された前記遅延の時間分前に撮影された各撮影画像とを、前記代替撮影画像と前記各撮影画像とを用いて認識対象を認識する映像処理部へ出力する
監視装置。 - 前記撮影画像生成部は、前記異常撮影装置が特定されない状況においてはそれら異常の無い前記複数の撮影装置から出力された撮影画像を出力し、前記異常撮影装置が特定された状況においては前記異常撮影装置を除く前記代替撮影装置とそれ以外の撮影装置から出力された各撮影画像と、前記代替撮影画像とを前記映像処理部へ出力する
を備える請求項1に記載の監視装置。 - 移動体に搭載されており、
前記撮影装置制御部は、前記代替撮影装置の撮影領域を拡大制御し、
前記拡大制御に基づいて生成された前記代替撮影画像に基づいて前記移動体に設置された前記複数の撮影装置のうちの前記異常撮影装置の撮影領域における認識精度を示す情報を自動運転の制御装置へ出力する認識精度管理部と、
を備える請求項1または請求項2に記載の監視装置。 - 移動体に搭載されており、
前記代替撮影画像に基づいて前記移動体の移動態様を示す情報を自動運転の制御装置へ出力する移動態様管理部と、
を備える請求項1から請求項3の何れか一項に記載の監視装置。 - 監視装置が、
複数の撮影装置のうち異常の発生した異常撮影装置を特定し、
前記異常撮影装置の撮影領域を撮影できる代替撮影装置を特定し、
前記代替撮影装置の撮影領域を制御し、
前記代替撮影装置の出力した撮影画像を用いて前記異常の発生した撮影装置が撮影する撮影領域の代替撮影画像を生成し、
前記代替撮影画像の生成に伴う遅延に基づいて、その代替撮影画像と、前記異常撮影装置を除く他の撮影装置から出力された前記遅延の時間分前に撮影された各撮影画像とを、前記代替撮影画像と前記各撮影画像とを用いて認識対象を認識する映像処理部へ出力する
処理方法。 - 監視装置のコンピュータを、
複数の撮影装置のうち異常の発生した異常撮影装置を特定する異常撮影装置特定手段、
前記異常撮影装置の撮影領域を撮影できる代替撮影装置を特定する代替撮影装置特定手段、
前記代替撮影装置の撮影領域を制御する撮影装置制御手段、
前記代替撮影装置の出力した撮影画像を用いて前記異常の発生した撮影装置が撮影する撮影領域の代替撮影画像を生成し、前記代替撮影画像の生成に伴う遅延に基づいて、その代替撮影画像と、前記異常撮影装置を除く他の撮影装置から出力された前記遅延の時間分前に撮影された各撮影画像とを、前記代替撮影画像と前記各撮影画像とを用いて認識対象を認識する映像処理手段へ出力する撮影画像生成手段、
として機能させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016072642A JP6784047B2 (ja) | 2016-03-31 | 2016-03-31 | 監視装置、処理方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016072642A JP6784047B2 (ja) | 2016-03-31 | 2016-03-31 | 監視装置、処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017184159A JP2017184159A (ja) | 2017-10-05 |
JP6784047B2 true JP6784047B2 (ja) | 2020-11-11 |
Family
ID=60008745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016072642A Active JP6784047B2 (ja) | 2016-03-31 | 2016-03-31 | 監視装置、処理方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6784047B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7279566B2 (ja) | 2019-07-26 | 2023-05-23 | トヨタ自動車株式会社 | 車両用電子ミラーシステム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3552212B2 (ja) * | 2000-05-24 | 2004-08-11 | 松下電器産業株式会社 | 描画装置 |
JP2007050862A (ja) * | 2005-08-19 | 2007-03-01 | East Japan Railway Co | 踏切監視システム及び踏切監視システムの制御方法 |
JP5143009B2 (ja) * | 2006-10-11 | 2013-02-13 | パナソニック株式会社 | 映像表示装置及び映像表示方法 |
-
2016
- 2016-03-31 JP JP2016072642A patent/JP6784047B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017184159A (ja) | 2017-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6751691B2 (ja) | 異常検出装置及び車両システム | |
JP6060282B2 (ja) | 車載カメラ画像処理装置 | |
US8248480B2 (en) | Imaging apparatus provided with panning mode for taking panned image | |
KR102132248B1 (ko) | 촬상 장치를 제어하는 제어 장치, 제어 방법, 및 컴퓨터 판독가능 기억 매체 | |
JP6222514B2 (ja) | 画像処理装置、撮像装置、およびコンピュータブログラム | |
JP2013165485A (ja) | 画像処理装置、撮像装置およびコンピュータブログラム | |
US10565466B2 (en) | Image processor and image processing method | |
US11509813B2 (en) | Image processing device | |
US10861188B2 (en) | Image processing apparatus, medium, and method | |
JP6784047B2 (ja) | 監視装置、処理方法、プログラム | |
KR20010043423A (ko) | 카메라 신호 처리 장치 및 카메라 신호 처리 방법 | |
JP2007050862A (ja) | 踏切監視システム及び踏切監視システムの制御方法 | |
US20220301193A1 (en) | Imaging device, image processing device, and image processing method | |
JP2008190868A (ja) | ステレオ画像処理装置 | |
JP2007049266A (ja) | 画像撮像装置 | |
JP2008085832A (ja) | 監視カメラ、監視カメラの制御方法および監視カメラシステム | |
JP2011253381A (ja) | 目標追跡装置及び目標追跡方法 | |
GB2573598A (en) | Image capturing apparatus performing image stabilization, control method thereof, and storage medium | |
US10044963B2 (en) | Imaging apparatus | |
JP4499514B2 (ja) | 物体監視装置及び監視システム | |
WO2020021949A1 (ja) | 鉄道車両用撮像システム | |
WO2018180200A1 (ja) | 監視システム、及び、監視方法 | |
JP7008431B2 (ja) | 撮像装置、制御方法、プログラム及び撮像システム | |
JP2007096613A (ja) | 監視システム及び監視方法 | |
KR102394189B1 (ko) | 하우징에 장착된 이기종 카메라의 영상 동기화 방법 및 그 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191119 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200327 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200526 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200923 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201006 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6784047 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |