JP2018082233A - 監視システム、監視センサ装置、監視方法、およびプログラム - Google Patents

監視システム、監視センサ装置、監視方法、およびプログラム Download PDF

Info

Publication number
JP2018082233A
JP2018082233A JP2016221354A JP2016221354A JP2018082233A JP 2018082233 A JP2018082233 A JP 2018082233A JP 2016221354 A JP2016221354 A JP 2016221354A JP 2016221354 A JP2016221354 A JP 2016221354A JP 2018082233 A JP2018082233 A JP 2018082233A
Authority
JP
Japan
Prior art keywords
image
unit
stable
imaging
failure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016221354A
Other languages
English (en)
Inventor
恭子 石田
Kyoko Ishida
恭子 石田
健 益浦
Takeshi MASUURA
健 益浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2016221354A priority Critical patent/JP2018082233A/ja
Priority to PCT/JP2017/039469 priority patent/WO2018088283A1/ja
Priority to CN201780068864.9A priority patent/CN109964480B/zh
Priority to US16/341,612 priority patent/US20210368139A1/en
Publication of JP2018082233A publication Critical patent/JP2018082233A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0476Cameras to detect unsafe condition, e.g. video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19686Interfaces masking personal details for privacy, e.g. blurring faces, vehicle license plates

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Gerontology & Geriatric Medicine (AREA)
  • Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Emergency Alarm Devices (AREA)

Abstract

【課題】撮像された画像に基づいてIR照明の故障を検知する。【解決手段】監視センサ装置は、監視対象が存在し得る範囲に赤外光を照射する赤外光照射部21と、赤外光に感度を有し、監視対象が存在し得る範囲を撮像する撮像部20と、撮像された画像に基づき、監視対象の状態を検知する検知部38と、検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部391と、撮像された画像を、他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部392と、第2伝達制御部により第2の伝達動作の実行が停止されている状態において、撮像された複数の画像を比較した比較結果を基にして、赤外光照射部の故障を検出する故障検出部30とを備える。【選択図】図1

Description

本技術は、監視システム、監視センサ装置、監視方法、およびプログラムに関し、特に、撮像範囲に非可視光の赤外線(以下、IR光と称する)を投光して撮像した画像に基づいて監視を行う場合に用いて好適な監視システム、監視センサ装置、監視方法、およびプログラムに関する。
例えば老人介護施設等では、監視対象者(被介護者)の状態(就寝中、起床、着座、転倒、入室、退出、トイレ中等)を監視者(介護者や介護システムの使用者等)が見守るために、被介護者の居室にカメラを設置して被介護者を撮像し、被介護者を撮像した動画像を、介護者が見る表示装置に送信して表示する監視システムを導入することがある。該監視システムでは、被介護者の居室に照明が点灯されていない夜間等において、被介護者の睡眠を妨げないように不可視光のIR光を投光して撮像を行うようになされている(例えば、特許文献1参照)。
特開平11−341474号公報
本技術は、このような監視システムにおいて、監視対象者の状態を監視しつつ、従来の監視システムよりも被介護者のプライバシをより高く保護できるようにするものである。また、本技術は、このように被介護者のプライバシをより高く保護する監視システムにおいて、監視システムの照明部に故障が発生した場合、その故障を検出して監視者等に通知できるようにするものである。さらに、本技術は、上記監視システムを用いる環境や被写体の条件が変化しても、監視システムの照明部の故障を正しく検出できるようにするものである。
本技術の第1の側面である監視システムは、監視センサ装置と、前記監視センサ装置で取得した情報を使用者に提示する端末装置と、前記監視センサ装置と前記端末装置との間に介在する外部装置とを備える監視システムにおいて、前記監視センサ装置が、監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、前記検知部の検知結果を前記外部装置または前記端末装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、前記撮像部によって撮像された前記画像を前記外部装置または前記端末装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部とを含む第3伝達制御部と、前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を基にして前記赤外光照射部の故障を検出する故障検出部とを備える。
前記第3伝達制御部は、前記故障検出部での前記故障の検出結果を前記外部装置または前記端末装置に伝達する動作の実行の有無をさらに制御することができる。
前記監視センサ装置は、前記撮像部における前記撮像動作を起動もしくは停止する制御、前記撮像部が撮像を行う際の撮像条件の制御、または、前記撮像した画像に対して、画像処理を加える際の画像処理条件の制御のうちの少なくとも一つの制御を行う撮像制御部をさらに備えることができる。
前記監視センサ装置は、前記撮像制御部からの情報を、前記故障検出部へ入力する構造を有することができる。
前記監視センサ装置の前記故障検出部は、前記撮像制御部からの情報を基にして、前記赤外光照射部の故障を検出することができる。
前記監視センサ装置は、安定画像生成部をさらに備えることができ、前記安定画像生成部は、前記撮像部によって一定期間撮像された撮像画像ストリームに含まれる複数の撮像画像について、該撮像画像内の被写体の変化を画像間で比較し、より変化が少ない被写体を備えた画像である安定画像を出力することができる。
前記撮像制御部は、前記撮像部が撮像を行う際の撮像条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件を比較し、該比較の結果を基にして前記赤外光照射部の故障を検出するか、または、前記撮像制御部は、前記撮像部が撮像した画像に対して、画像処理を加える際の画像処理条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像に対して加えられた前記画像処理の条件を比較し、該比較の結果を基にして前記赤外光照射部の故障を検出することができる。
前記撮像制御部は、前記撮像部が撮像を行う際の撮像条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件がより低照度の被写体に適した方向へ変化した場合に、前記赤外光照射部に故障が発生していると検出するか、または、前記撮像制御部は、前記撮像部が撮像した画像に対して、画像処理を加える際の画像処理条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像に対して加えられた前記画像処理の条件がより低照度の被写体に適した方向へ変化した場合に、前記赤外光照射部に故障が発生していると検出することができる。
前記故障検出部は、前記安定画像生成部が出力した第1の複数枚の安定画像の間で、前記第1の複数枚の安定画像の明るさを比較した結果、または、前記安定画像生成部が出力した前記第1の複数枚の安定画像のそれぞれを第2の複数個の小分け領域に分け、前記第2の複数個の小分け領域毎に該小分け領域に含まれる画像の明るさを比較した結果を基にして、前記赤外光照射部の故障を検出することができる。
前記故障検出部は、前記安定画像生成部が出力した第1の複数枚の安定画像の間で、前記第1の複数枚の安定画像の明るさを比較し、該比較の結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合、または、前記安定画像生成部が出力した前記第1の複数枚の安定画像のそれぞれを第2の複数個の小分け領域に分け、前記第2の複数個の小分け領域毎に該小分け領域に含まれる画像の明るさを比較し、該比較の結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合には、前記赤外光照射部に故障が発生していると検出することができる。
前記故障検出部は、前記安定画像生成部が出力した安定画像について、該安定画像の明るさを表す指標の値が予め定めた閾値を下回った場合には、前記赤外光照射部に故障が発生していると検出することができる。
前記故障検出部は、前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件を比較した結果とを基にして、
ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている場合と、
イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している場合と、
ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、
かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化していない場合と、
においては、前記赤外光照射部に故障が発生していると検出することができる。
前記監視センサ装置は、前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の前記安定画像の間で、前記特徴を比較する特徴比較部をさらに備えることができる。
前記被写体の特徴は、前記被写体の輪郭とすることができる。
前記故障検出部は、前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件、を比較した結果と、前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の安定画像の間で前記特徴を比較した結果とを基にして、
条件(ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている
条件(イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している
条件(ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化しておらず、かつ、前記明るさを表す指標の差が、前記安定画像の特徴点の変化によるものではない
の前記条件(ア)乃至(ウ)の少なくとも一つの条件を満たす場合には前記赤外光照射部に故障が発生していると検出することができる。
前記監視センサ装置は、前記安定画像生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれだけの時間を掛けて発生したかを検出する、変化検出部をさらに備えることができる。
前記故障検出部は、前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件、を比較した結果と、前記安定画像生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれだけの時間を掛けて発生したかを検出し、その時間を予め定めた変化時間の閾値と比較した結果とを基にして、
条件(ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている
条件(イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している
条件(ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化しておらず、かつ、前記最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が前記変化時間の閾値よりも短い時間で発生していた
の前記条件(ア)乃至(ウ)の少なくとも一つの条件を満たす場合には前記赤外光照射部に故障が発生していると検出することができる。
本技術の第1の側面においては、監視センサ装置により、赤外光照射下の監視対象が存在し得る範囲が撮像され、撮像された画像に基づき、前記監視対象の状態が検知される。そして、撮像された前記画像を前記外部装置または前記端末装置に伝達する第2の伝達動作の実行が停止されている状態において、撮像された複数の画像を基にして赤外光照射部の故障が検出される。
本技術の第2の側面である監視センサ装置は、監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部とを備える。
本技術の第2の側面である監視方法は、監視センサ装置の監視方法において、監視センサ装置による、監視対象が存在し得る範囲に赤外光を照射する赤外光照射ステップと、赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像ステップと、前記撮像ステップによって撮像された画像に基づき、前記監視対象の状態を検知する検知ステップと、前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御ステップと、前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御ステップと、前記第2伝達制御ステップにより前記第2の伝達動作の実行が停止されている状態において、前記撮像ステップによって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出ステップとを含む。
本技術の第2の側面であるプログラムは、コンピュータを、監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部として機能させる。
本技術の第2の側面においては、赤外光照射下の監視対象が存在し得る範囲が撮像され、撮像された画像に基づき、前記監視対象の状態が検知される。そして、撮像された前記画像を前記外部装置または前記端末装置に伝達する第2の伝達動作の実行が停止されている状態において、撮像された複数の画像を基にして赤外光照射部の故障が検出される。
本技術の第1および第2の側面によれば、監視対象の被介護者等の状態を監視しつつ、被介護者のプライバシをより高く保護することができる。
また、本技術の第1および第2の側面によれば、照明部に故障が発生した場合、その故障を介護者等に通知することができる。
本技術の実施形態である監視システムの構成例を示す図である。 監視センサ装置の設置例を示す図である。 監視センサ装置の正面外観の構成例を示す図である。 IR照明部を分離した場合の設置例を示す図である。 監視センサ装置の第1の実施形態を示すブロック図である。 監視センサ装置の第1の実施形態の変形例を説明する図である。 監視センサ装置の第2の実施形態を示すブロック図である。 IR照明部の故障が見逃される場合とIR照明部に故障が発生したと誤判定される場合を説明する図である。 監視センサ装置の第3の実施形態を示すブロック図である。 第1および第2の実施形態におけるIR照明故障検出部の問題点を説明する図である。 第1および第2の実施形態におけるIR照明故障検出部の問題点を説明する図である。 第1および第2の実施形態におけるIR照明故障検出部の問題点を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 撮像画像ストリームから安定画像を作り出す方法を説明する図である。 安定画像の第1の例を示す図である。 安定画像の第2の例を示す図である。 故障判定部の第1の構成例を示すブロック図である。 故障判定部の動作を説明する図である。 故障判定部の動作を説明する図である。 故障判定部の第2の構成例を示すブロック図である。 第2の構成例の画像比較部と特徴比較部とによる画像比較の違いを説明する図である。 第2の構成例の画像比較部と特徴比較部とによる画像比較の違いを説明する図である。 故障判定部の第3の構成例を示すブロック図である。 被写体の状態変化を説明する図である。 光源の射出光量の変化を説明する図である。 第1および第2の撮像画像を生成する処理を説明するフローチャートである。 動被写体を除去して撮像画像を生成する処理を説明するフローチャートである。 安定画像を生成する処理を説明するフローチャートである。 画像の明るさに基づいて故障の有無を判定する処理を説明するフローチャートである。 失報対策処理を説明するフローチャートである。 誤報対策処理を説明するフローチャートである。 経年劣化に基づいて故障の有無を判定する処理を説明するフローチャートである。 画像の明るさの絶対値に基づいて故障の有無を判定する処理を説明するフローチャートである。 安定画像の特徴点に基づいて故障の有無を判定する処理を説明するフローチャートである。 撮像画像の変化の速度に基づいて故障の有無を判定する処理を説明するフローチャートである。 第1乃至第3の実施の形態による共通動作を説明するフローチャートである。 第1の実施の形態による動作を説明するフローチャートである。 第1の実施の形態による他の動作を説明するフローチャートである。 第2の実施の形態による動作を説明するフローチャートである。 第2の実施の形態による他の動作を説明するフローチャートである。 第2の実施の形態によるさらに他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第1の構成例を有する場合の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第1の構成例を有する場合の他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第1の構成例を有する場合のさらに他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第2の構成例を有する場合の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第2の構成例を有する場合の他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第2の構成例を有する場合のさらに他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第3の構成例を有する場合の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第3の構成例を有する場合の他の動作を説明するフローチャートである。 第3の実施の形態における故障判定部41が第3の構成例を有する場合のさらに他の動作を説明するフローチャートである。 コンピュータの構成例を示すブロック図である。
以下、本技術を実施するための最良の形態(以下、実施形態と称する)について、図面を参照しながら以下に示す順序に従い詳細に説明する。
1.本技術の実施の形態である監視システムについて
1−1.監視システムの構成
1−2.監視システムの動作モード
1−3.監視システムの動作の制御
2.本技術の監視システムに備わる監視センサ装置について
2−1.監視センサ装置の配置について
2−2.監視センサ装置の外観について
2−3.監視センサ装置の実施の形態について
2−3−1.監視センサ装置の第1の実施形態
2−3−1A.第1の実施形態の構成概要
2−3−1B.撮像機能部
2−3−1C.IR照明故障検出部
2−3−1D.状態検知部
2−3−1E.監視センサ装置の第1の実施形態の変形例
2−3−2.監視センサ装置の第2の実施形態
2−3−2A.第2の実施形態の構成概要
2−3−2B.第2の実施形態の特徴
2−3−2C.IR照明故障検出部
2−3−2D.経年的な変化を検出する仕組み
2−3−3.監視センサ装置の第3の実施形態
2−3−3A.第3の実施形態の構成概要
2−3−3B.第3の実施形態の特徴
2−3−3C.安定画像生成部
2−3−3D.安定画像の種類
2−3−3E.故障判定部の概要
2−3−3F.故障判定部の第1の構成例
2−3−3G.故障判定部の第2の構成例
2−3−3H.故障判定部の第3の構成例
2−4.ソフトウェア処理を用いた監視センサ装置について
<1.本技術の実施の形態である監視システムについて>
<1−1.監視システムの構成>
図1は、本技術の実施の形態である監視システムの構成例を示している。
この監視システム1000は、例えば老人介護施設や病院等の複数人の被介護者が複数室の居室に分かれて入居して、介護者によって介護される施設に設置することが想定されている。
監視システム1000は、
(1)各居室における被介護者(監視対象者)を監視またはモニタし、
(2)被介護者の状態(換言すれば、被介護者の姿勢または体勢)が介護者に通知すべき状態であるか否か、例えば、ベッド内で就寝しているか離床しているか、室内を移動しているか椅子等に着座していて移動していないか、床上に転倒しているか等を検知(判断)し、
(3)被介護者の状態が介護者に通知すべき状態であると判断した場合には、その検知(判断)結果である被介護者の状態を、介護者(監視システムの使用者)に通知するためのものである。
ここで、監視システム1000は、被介護者の状態が介護者に通知すべき状態であると判断した場合に、単に被介護者の状態が介護者へ通知すべき状態となっている、という情報のみを通知してもよい。また、監視システム1000は、被介護者の状態が介護者に通知すべき状態であると判断した場合に限らず、常に検知(判断)結果である被介護者の状態を、通知してもよい。
なお、監視システム1000は、
(4)被介護者の状態が介護者に通知すべき状態である場合には、被介護者の状態を撮像した動画像(撮像画像ストリーム)を、介護者に通知できることが望ましい。
監視システム1000は、図1に示されるように、各居室のそれぞれに設置される1または複数の監視センサ装置100と、各監視センサ装置100が送信した情報を受信する外部装置290と、外部装置290からの通報を受信する複数台の端末装置300を備える。端末装置300は、各介護者が所持することを想定する。
さらに、監視システム1000は、監視センサ装置100と外部装置290の間、および外部装置290と端末装置300の間で情報を伝達(送信、転送)する情報伝達部280を備える。情報伝達部280は、既存の無線通信技術または有線通信技術のどちらを採用してもよい。具体的には、通信される情報がデジタルデータである場合、そのデジタルデータをシリアルまたはパラレルに通信できる回線であって、例えばイーサネットやWi-Fi(いずれも商標)等のように規格化された回線を用いることができる。もちろん、規格化されていない独自の回線を用いてもよい。通信される情報がアナログデータである場合には、一般的なアナログ回線を用いればよい。
監視システム1000において、監視センサ装置100と外部装置290と端末装置300との間で情報伝達部280を介して伝達する情報には、主として2種類ある。
第1の情報は、被介護者の状態についての情報である。この情報が例えばデジタルデータであるとすると、伝達する情報を「被介護者の状態が介護者に通知すべき状態である」旨を示す1種類の情報とした場合には、この情報のデータ量は1ビットで済む。伝達する情報が「被介護者の状態を示す情報」とした場合には、例えば、被介護者の状態を16種類以下に分類するとすれば、この情報のデータ量は多くとも4ビットで足りる。なお、後述する監視センサ装置100に備わるIR照明故障検出部30がIR照明部21の故障のを検出した結果も、上記第1の情報に含めて、監視センサ装置100から外部装置290と端末装置300へ伝達してもよい。
第2の情報は、被介護者の状態を継続して撮影した動画像(撮像画像ストリーム)である。この情報のデータ量は、第1の情報よりも格段に大きいものである。なお、端末装置300に備わるマイク(不図示)と監視センサ装置100に備わるマイク(不図示)を用いて集音される音のデータも第2の情報として通信することができる。
監視センサ装置100は、監視センサ装置100から情報伝達部280を介して外部装置290または端末装置300への、上述した第1および第2の情報の伝達(送信、転送)を、実行するか停止するかの制御を行う伝達制御部39を備える。
監視センサ装置100が備える伝達制御部39は、第1の情報について伝達の実行と停止を制御する第1の伝達制御部391と、第2の情報について伝達の実行と停止を制御する第2伝達制御部392と、これら第1および第2の情報を物理的に送出する通信部393とを含む。
外部装置290は、監視センサ装置100が送信した情報を表示する情報表示部292と、監視センサ装置100からの情報送信に対して、介護者が応答を入力するための応答入力部293と、介護者が監視システム1000の動作を制御するための指示を入力する制御入力部294を備える。同様に、端末装置300は、監視センサ装置100が送信した情報を表示する情報表示部301と、監視センサ装置100からの情報送信に対して、介護者が応答を入力するための応答入力部302と、介護者が監視システム1000の動作を制御するための指示を入力する制御入力部303を備える。
さらに、監視センサ装置100は、夜間に居室に備わる可視光の照明が消灯された状況で、被介護者を撮像して被介護者の状態を判断するためにIR光を照射するIR照明部21と、IR光に感度を有しており、IR光が照射された被写体を適切に撮像する撮像機能部20を備える。なお、監視センサ装置100の撮像機能部20は、可視光にも感度を有しており、可視光が照射された被写体を適切に撮像できる。
さらに、監視センサ装置100は、撮像した画像を基にして被介護者の状態を判断し、上述した第1および第2の情報を生成する状態検知部38を備える。
撮像機能部20は、その撮像機能を起動させたり停止させたりする制御や、撮像条件(露光時間、絞り等)の制御や、撮像画像に対しての画像処理条件(画像に掛けるゲイン)の制御を行う撮像制御部24を内蔵する。さらに、監視センサ装置100は、可視光の照度を計測する可視光照度検出部(不図示)を内蔵してもよい。
撮像制御部24は、可視光照度検出部よる検出結果か、外部装置290の制御入力部294か、端末装置300の制御入力部303からの入力のいずれかに基づいて、撮像機能部20の撮像機能とIR照明部21のIR照明の起動と停止を制御することができる。
<1−2.監視システムの動作モード>
ところで、老人介護施設等において、被介護者を撮像して得られた動画像を常に介護者に送信したのでは、被介護者のプライバシが守られない。そこで、監視システム1000では、被介護者のプライバシ保護を可能とした4種類の動作モード(第1乃至第4の動作モード)を備えている。以下、第1乃至第4の動作モードについて説明する。
第1の動作モードは、監視モードである。第1の動作モードにおいて、監視センサ装置100は、被介護者を撮像し、被介護者の状態を検知する。そして、その被介護者の状態を示す第1の情報、または、被介護者の状態が介護者に通知すべき状態であると判断した場合には「被介護者の状態が介護者に通知すべき状態である」旨を示す第1の情報を、監視センサ100から外部装置290に送信する。この第1の情報の受信に応じ、外部装置290は、この第1の情報を端末装置300に転送する。
この場合、監視センサ装置100から外部装置290に送信され、端末装置300に転送される情報は、被介護者の状態を表す第1の情報、または、「被介護者の状態が介護者に通知すべき状態である」旨を示す第1の情報であって、被介護者を撮像した動画像(第2の情報)ではない。したがって、被介護者を撮像した動画像をそのまま送信する従来のシステムに比較して、被介護者のプライバシをより高いレベルで保護することができる。
第2の動作モードは、音声通話モードである。第2の動作モードは、例えば第1の動作モード(監視モード)によって被介護者の状態が介護者に通知すべき状態となり、そのことが介護者に通知された後、この通知をトリガとして、端末装置300に備わるマイクおよびスピーカ(不図示)と被介護者の居室の監視センサ装置100が有するマイクおよびスピーカ(不図示)とを用いて、介護者と被介護者とが音声通話を行う動作モードである。
第2の動作モードにおいて、音声を通信するに際しては、音声信号をそのままアナログデータとして通信してもよいし、音声信号を圧縮符号化して得られるデジタルデータとして通信してもよい。また、この音声のデータは、端末装置300と監視センサ装置100が直接通信してもよいし、外部装置290を介して通信してもよい。
第3の動作モードは、画像転送モードである。第3の動作モードは、例えば第1の動作モード(監視モード)によって被介護者の状態が介護者に通知すべき状態となり、そのことが介護者に通知された後、この通知をトリガとして、非介護者の居室に設置した監視センサ装置100が被介護者の動画像(撮像画像ストリーム)を撮像し、その結果得られた画像を外部装置290に送信し、端末装置300に転送するものである。なお、第3の動作モードにおいて監視センサ装置100が撮像して送信する画像は、動画像ではなく、1枚または複数枚の静止画でもよい。
第3の動作モードにおいて、画像を送信、転送するに際しては、画像をそのまま送信、転送してもよいし、監視センサ装置100または外部装置290において圧縮符号化してから送信、転送してもよい。
第4の動作モードは、画像蓄積モードである。第4の動作モードにおいては、常時撮像されている動画像を監視センサ装置100内に備わる第1記憶部371に一定期間バッファリングして蓄積する。そして、例えば第1の動作モード(監視モード)によって被介護者の状態が介護者に通知すべき状態となり、そのことが介護者に通知されると同時に、この通知をトリガとして、このバッファリングされた動画像のうち、トリガの前後の所定の時間分の動画像を外部装置290に送信するものである。第4の動作モードによれば、例えば転倒等の事故が起きた場合に、その前後の動画像を確認することができる。
または、第1の動作モード(監視モード)によって被介護者の状態が介護者に通知すべき状態となり、そのことが介護者に通知されると、この通知をトリガとして、先のバッファリングされた動画像のうち、トリガ前後の所定の時間分の動画像を、監視センサ装置100の第1記憶部371装置よりも長期間データを蓄積できる第2記憶部372に蓄積して、後で蓄積した動画像を確認できるようにしてもよい。
第4の動作モードにおいて、蓄積される動画像は、撮像結果として得られたままの状態でもよいし、圧縮符号化した状態でもよい。
なお、監視システム1000は、その変形例として、上述した第1乃至第4の動作モードのうち、第1の動作モードを必須とし、第2乃至第4の動作モードについては、適宜組み合わせて備えることができる。
すなわち、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモードのみを備えるようにしてもよい。
また、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち第1のモード、および第2のモードを備えるようにしてもよい。
また、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモード、第2のモード、および第3の動作モードを備えるようにしてもよい。
さらに、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモード、第2の動作モード、および第4の動作モードを備えるようにしてもよい。
さらに、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモード、および第3の動作モードを備えるようにしてもよい。
さらに、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモード、第3の動作モード、および第4の動作モードを備えるようにしてもよい。
さらに、監視システム1000の変形例は、上述した第1乃至第4の動作モードのうち、第1のモード、および第4のモードを備えるようにしてもよい。
さらに、監視システム1000の変形例は、上述した第1乃至第4の動作モードのいずれをも備えるようにしてもよい。
<1−3.監視システムの動作の制御>
監視システム1000の動作の制御について説明する。ここでは一例として、監視システム1000が、動作モード1と動作モード3を備える形態を想定して、この形態における動作の制御を説明する。
(1)太陽光が入射したり、照明が点灯されていたりする日中においては、監視システム1000は、監視センサ装置100に備わる撮像機能部20と状態検知部38により、居室内の被介護者の状態を監視またはモニタしている。より具体的には、撮像機能部20を用いて、被介護者を撮像し、状態検知部38により被介護者の状態が介護者に通知すべき状態か否かを検知(判断)している。
(2)照明が消灯された夜間においては、介護者が外部装置290または端末装置300に備わる制御入力部294または303から、監視センサ装置100に備わるIR照明部21の起動指示を入力し、この入力を受けて、監視センサ装置100がIR照明部21を起動する。
これとは別に介護者が起動を指示するのではなく、居室に備わる可視光の照明が被介護者等によって消灯されたことを、監視センサ装置100に備わる可視光照度検出部が検出し、この検出結果に基づいて、監視センサ装置100がIR照明部21を起動してもよい。IR照明部21が起動されたた時点で、監視システム1000は、第1の動作モード(監視モード)で動作している。第1の動作モードにおいては、音声や画像等の第2の情報を情報伝達部280を介して外部装置290または端末装置300に転送する動作は、第2伝達制御部392の制御により、停止された状態となっている。
(3)監視システム1000が第1の動作モードで動作している間に、被介護者の状態が介護者に通知すべき状態となると、撮像機能部20によりIR光の下で撮像した画像を基に、状態検知部38がこの状態を検知し、被介護者の状態が介護者に通知すべき状態であることを、介護者の外部装置290と端末装置300に通知する。
(4)上記(3)に記載の通知が行われると、この通知をトリガとして、監視システム1000は、第3の動作モード(画像転送モード)に遷移してこれを実行する。第3のモードにおいて、前記第2の情報を情報伝達部280を介して外部装置290または端末装置300に転送する動作は、第2伝達制御部392からの制御により、転送が実行された状態となっている。
(5)介護者が上記(3)に記載の通知を受け、且つ、介護者が上記(4)に記載の第3の動作モードによって被介護者の状況を確認すると、介護者は被介護者に対して何らかの処置を講じる必要があるか否かを判断する。
介護者が被介護者に対して何の処置も講じる必要が無いと判断した場合には、介護者は、外部装置290または端末装置300に備わる制御入力部294または303から、監視システム1000を第1の動作モードに復帰させる指示を入力する。これにより、監視システム1000は第1の動作モードに復帰し、被介護者の監視を行う。
介護者が被介護者に対して何らかの処置を講じる必要があると判断した場合には。介護者は被介護者の居室に入室して必要な処置を講じる。処置を終了した介護者は、外部装置290または端末装置300に備わる制御入力部294または303から、監視システム1000を第1の動作モードに復帰させる指示を入力する。これにより、監視システム1000は第1の動作モードに復帰し、被介護者の監視を行う。
なお、介護者が被介護者の居室に入室して、可視光の照明を点灯し、必要な処置を行った後、可視光の照明を消灯すると、監視センサ装置100に備わる可視光照度検出部が、これを検出できるので、この検出結果に基づいて、監視システム1000が第1の動作モードに復帰し被介護者の監視を行うようにしてもよい。
なお、監視システム1000は、上記に類似の方法を、第1乃至第4の動作モードを適宜組み合わせて実行し得る。ここではその説明は省略する。
<2.本技術の監視システムに備わる監視センサ装置100について>
以下、監視システム1000に備わる監視センサ装置100の実施の形態を説明する。
<2−1.監視センサ装置100の配置について>
まず、監視センサ装置100の各実施の形態に共通する第1の事項として、監視センサ装置100の設置例を説明する。
図2は、監視センサ装置100の設置例を示している。監視センサ装置100は、例えば老人介護施設の被介護者が入居している各居室に設置するものであり、IR光を投光して撮像を行い、その結果得られる画像に基づいて被介護者の状態を検出し、その検出結果を介護者側に通知する機能を有する。
<2−2.監視センサ装置100の外観について>
次に、監視センサ装置100の各実施の形態に共通する第2の事項として、監視センサ装置100の外観の構成例を説明する。
図3は、監視センサ装置100の正面外観の構成例を示している。監視センサ装置100が備えるIR照明部21は、1個のIR光源(LED等)から構成してもよいし、同図に示すように、複数のIR光源から構成するようにしてもよい。
監視センサ装置100の正面中央に配置された撮像部22は、可視光およびIR光に対して感度を有しており、これらの光を電気信号に変換して画像を撮像する。
これにより監視センサ装置100は、日中光の入射、および、夜間且つ可視光照明点灯により、被介護者の居室内が可視光で十分明るくなった状態と、夜間且つ可視光照明が消灯されIR照明が点灯された状態の双方において、居室内の被介護者の状態を明瞭に撮像することができる。なお、IR照明部21によるIR光の投光範囲11は、撮像部22による撮像範囲12の全体が含まれる。
撮像部22は、可視光に感度を有するイメージセンサと、IR光に感度を有するイメージセンサとを個別に備えていてもよい。また、IR照明部21は監視センサ装置100から分離し、配置してもよい。
図4は、IR照明部21を監視センサ装置100から分離した場合の設置例を示している。同図に示されるように、IR照明部21が監視センサ装置100から分離されている場合においても、図4に示されるように、投光範囲11が撮像範囲12を含むようにIR照明部21とIR照明部21を分離した監視センサ装置100を設置するようにする。
<2−3.監視センサ装置100の実施の形態について>
以下、監視センサ装置100の第1乃至第3の実施の形態について説明する。
<2−3−1.監視センサ装置100の第1の実施の形態>
監視センサ装置100の第1の実施形態について説明する。
<2−3−1A.第1の実施形態の構成概要>
図5は、監視センサ装置100の第1の実施形態を示すブロック図である。該第1の実施形態は、IR照明部21、撮像機能部20、状態検知部38、IR照明故障検出部30、および伝達制御部39を備える。
<2−3−1B.撮像機能部20>
撮像機能部20は、撮像部22、画像処理部23、および撮像制御部24を有する。
IR照明部21は、例えば複数のLEDから構成され、居室に対してIR光を投光する。撮像部22は、可視光およびIR光に対して感度を有するイメージセンサ等からなり、撮像範囲12を所定のフレームレートに従って連続して撮像し、その結果得られる動画像を画像処理部23に出力する。
画像処理部23は、撮像部22から入力される動画像に対して、所定の画像処理(現像処理、階調補正処理、色調補正処理、ノイズ低減処理、歪補正処理、サイズ変換処理等)を行い、その結果得られる画像処理済の動画像をIR照明故障検出部30と状態検知部38に出力する。以下、撮像機能部20が出力する動画像を、撮像画像ストリームと称し、撮像画像ストリームを構成する個々のフレーム画像を、単に撮像画像と称する。
撮像制御部24は、適切な撮像画像ストリームを得られるように、撮像部22における撮像条件(露光時間、絞り等)や画像処理部23において画像に掛けるゲインを、撮像環境や被写体の条件(被写体の照度や、被写体表面の光の反射率等)に応じて、自動的に制御する。
<2−3−1C.IR照明故障検出部30>
IR照明故障検出部30は、撮像機能部20から出力される撮像画像ストリームに含まれる各撮像画像をモニタしており、撮像画像ストリームに含まれる複数枚の撮像画像を比較し、その結果を基にして、IR照明部21の故障の有無を判定する。例えば、第1の時刻に撮像した第1の撮像画像と、第2の時刻に撮像した第2の撮像画像とを比較して、IR照明部21の故障の有無を判定する。
なお、複数枚の撮像画像の比較結果を基にして、IR照明部21の故障の有無を判定することに加えて、1枚の撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を追加してもよい。1枚の撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理については、図40を参照して後述する。
<ア.故障判定方法の第1の例>
第1の撮像画像と第2の撮像画像を比較してIR照明部21の故障の有無を判定する方法の2例を説明する。なお、第1および第2の撮像画像を生成する方法については図33を参照して後述する。
第1の例は、撮像画像の明るさ(例えば撮像画像に含まれる全ての画素、またはそれらの中から間引き抽出した複数の画素の輝度の平均値(以下、平均輝度と称する))を撮像画像毎に算出し、それらを比較する方法である。なお、第1および第2の撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する方法については図36を参照して後述する。
第1の時刻と第2の時刻の間で、IR照明部21からの射出光量が低下する故障が発生した場合、第2の撮像画像は第1の撮像画像よりも暗くなることがある。この場合、第2の撮像画像の明るさを表す指標(例えば平均輝度)が、第1の撮像画像よりも小さくなる。そこで、第1および第2の撮像画像の明るさを表す指標の差が、所定の閾値よりも大きくなった時に、IR照明故障検出部30は、IR照明部21に故障が発生したと判定する。
なお、撮像画像の明るさを表す指標(例えば平均輝度)を算出する方法として、撮像画像に含まれる全ての画素を対象として、これらの画素の輝度の平均値を算出してよい。または、撮像画像の全面に亘って適度に画素を間引いて抽出し、これらの間引き抽出された画素を対象としてその指標の平均値を算出してもよい。間引き抽出された画素を対象としてその指標の平均値を算出する方法を用いた場合、平均輝度の算出に要するデータ処理量や故障検出のための画像比較に要するデータ処理量が削減されるという作用がもたらされる。
なお、平均輝度の算出に要するデータ処理量や故障検出のための画像比較に要するデータ処理量を削減する形態としては、画素を間引き抽出する方法以外に、撮像画像を基にして、一般的な画像の解像度変更技術を用いて撮像画像よりも解像度の小さな画像(換言すれば画像サイズの小さな画像)を撮像画像とは別に作り出して、この解像度の小さな画像を用いて画像比較を行うようにしてもよい。
<イ.故障判定方法の第2の例>
撮像画像ストリームに含まれる複数枚の撮像画像を比較してIR照明部21の故障の有無を判定する方法の第2の例は、撮像画像ストリームに含まれる各撮像画像から、動体(動的な被写体)を撮像した部分を削除し、それ以外の被写体(静体、静的な被写体)を撮像した部分について、その明るさを表す指標(例えば平均輝度)を算出して、得られた指標を比較する方法である。なお、動被写体を除去して撮像画像を生成する方法については図34を参照して後述する。
例えば、撮像画像ストリームの中から、nフレーム目の撮像画像の明るさを表す指標と、mフレーム目の撮像画像の明るさを表す指標を比較して、IR照明部21の故障の有無を判定する場合に、以下のようにして、動体を削除した部分の明るさの指標を求めて、IR照明部21の故障の有無を判定することができる。
すなわち、
(1)(n−1)フレーム目から(n+1)フレーム目までの3枚の画像を比較する。そして例えば画像に含まれる各画素の画像データを、3枚の画像間で比較して、その差が所定の閾値以上に大きい場合には、当該画素は動体を撮像したと判定する。前記の差が、閾値以下の場合には、当該画素は静体を撮像したと判定する。
(2)(n−1)フレーム目から(n+1)フレーム目までの3枚の画像の中で、静体を撮像したと判定された画素の位置とその画素データを、第1の撮像画像についての情報として、IR照明故障検出部30に備わるメモリ(不図示)に保持する。例えば、撮像機能部20から出力される各撮像画像が200万画素の画像で、そのうちの20万画素が動体を撮像したと判定された場合、残りの180万画素の位置とその画素データを保持する。
(3)同様にして、(m−1)フレーム目から(m+1)目までの3枚の画像についても、各画素が動体と静体のどちらを撮像したかを判定し、静体を撮像したと判定された画素の位置とその画素データを、第2の撮像画像についての情報として、前記メモリに保持する。
(4)第1および第2の撮像画像についての情報を比較して、双方の画像において共通して静体を撮像したと判定された画素を抽出する。
(5)第1および第2の撮像画像のそれぞれにおいて、前記抽出された画素の平均輝度を求める。
(6)得られた第1および第2の撮像画像の平均輝度を比較してIR照明部21の故障の有無を判定する。すなわち、平均輝度の差が、予め決めておいた閾値よりも大きい場合には、IR照明故障検出部30は、IR照明部21に故障が発生したと判定する。
なお、故障の有無を判定する方法の第2の例においても、第1の例と同様に、平均輝度の算出に要するデータ処理量や故障検出のための画像比較に要するデータ処理量を削減することを目的として、画素を間引き抽出して画像を比較してよいし、撮像画像を基にして、一般的な画像の解像度変更技術を用いて撮像画像よりも解像度の小さな画像(換言すれば画像サイズの小さな画像)を撮像画像とは別に作り出して、この解像度の小さな画像を用いて画像比較を行うようにしてもよい。
<2−3−1D.状態検知部38>
状態検知部38は、撮像画像に基づき、被介護者の状態を検知し、検知結果を伝達制御部39に通知する。検知される被介護者の状態(換言すれば、被介護者の姿勢や体勢)の例としては、ベッド内で就寝しているか、離床しているか、室内を移動しているか、椅子等に着座していて移動していないか、床上に転倒しているか、ベッド内で寝ている等の転倒以外の状態にあるか等が想定される。
伝達制御部39は、IR照明故障検出部30による判定結果(IR照明部21の故障の有無)を外部装置290に通知する。また、伝達制御部39は、状態検知部38の検知結果(被介護者の状態)を外部装置290に通知する。
<2−3−1E.監視センサ装置100の第1の実施形態の変形例>
次に、監視センサ装置100の第1の実施形態の変形例について説明する。該変形例は、その構成要素は第1の実施形態と同様であるが、IR照明故障検出部30におけるIR照明部21の故障を検出する仕組みが監視センサ装置100の第1の実施形態と異なる。
図6は、第1の実施形態とその変形例の監視センサ装置100に備わるIR照明故障検出部30おいて、IR照明部21の故障を検出する仕組みの違いを説明する図である。
図6Aは、監視センサ装置100の第1の実施形態におけるIR照明故障検出部30において、IR照明部21の故障を検出する仕組みを説明する図である。
監視センサ装置100の第1の実施形態におけるIR照明故障検出部30は、IR照明故障検出部30に入力される撮像画像ストリームの各撮像画像に記録されている撮像範囲(居室)200の全体に亘って、その領域の明るさを表す指標(例えば平均輝度)を撮像画像毎に算出する。そして異なる時刻に撮像した複数枚の撮像画像において、その明るさを表す指標に、所定の閾値以上の差があった場合には、IR照明部21に故障があると判定するようになされていた。
図6Bは、監視センサ装置100の第1の実施形態におけるIR照明故障検出部30において、IR照明部21の故障を検出する場合の問題点を説明する図である。
監視センサ装置100に備わるIR照明部21が、図3に示されたように、複数のIR光源からなる場合、仮にそのうちのごく少数のIR光源に射出光量が低下する故障が発生しても、その影響が及ぶ範囲は、撮像範囲200の一部に過ぎない。撮像範囲200の一部において、IR光源の射出光量が低下しても、撮像範囲200の全体に亘って、その領域の明るさを表す指標を算出すると、その指標は少ししか低下せず、その結果、指標の低下量がIR照明部21の故障を判定する閾値に届かずに、故障を見逃してしまうことが考え得る。
そこで、該変形例におけるIR照明故障検出部30は、図6Cに示すように、撮像画像に記録される撮像範囲200を、複数の小分け領域400に分割し、これらの各小分け領域400それぞれについて、その明るさを表す指標を算出するようにする。さらに、IR照明故障検出部30は、撮像画像の各小分け領域400それぞれについて、異なる時刻に撮像した複数枚の撮像画像の間で、明るさを表す指標の差(例えば平均輝度の差)が、閾値以上になっていないか否かを判定することにより、IR照明部21の故障の有無を判定するようになっている。ここで、明るさを表す指標の差が、所定の閾値よりも大きい場合には、IR照明故障検出部30は、IR照明部21に故障が発生したと判定する。
図6Dは、該変形例におけるIR照明故障検出部30がもたらす作用効果を説明する図である。
IR照明部21が、図3に示されたように複数のIR光源からなる場合、仮にそのうちのごく少数のIR光源に射出光量が低下する故障が発生すると、故障したIR光源が照射する範囲を含む小分け領域400の明るさを表す指標は、撮像範囲200全体の明るさを表す指標よりも、大きく変化する。このため、異なる時刻に撮像した複数枚の撮像画像を比較した場合に、この小分け領域400の明るさの変化を検出する感度が高くなっており、IR照明部21の故障を検出する感度が高くなっている。
なお、該変形例においても、第1の実施形態と同様に、平均輝度の算出に要するデータ処理量や故障検出のための画像比較に要するデータ処理量を削減することを目的として、画素を間引き抽出した上で、これを小分け領域400毎に比較してよいし、撮像画像を基にして一般的な画像の解像度変更技術を用いて撮像画像よりも解像度の小さな画像(換言すれば画像サイズの小さな画像)を撮像画像とは別に作り出した上で、これを小分け領域400毎に比較してもよい。
<2−3−2.監視センサ装置100の第2の実施形態>
次に、監視センサ装置100の第2の実施形態について説明する。
<2−3−2A.第2の実施形態の構成概要>
図7は、監視センサ装置100の第2の実施形態を示すブロック図である。該第2の実施形態の構成要素のうち、第1の実施形態とその変形例と共通となる構成要素は、その説明を適宜省略する。
該第2の実施形態は、第1の実施形態の構成に加えて、撮像制御部24から出力される情報であって、撮像部22において撮像画像を撮像した場合の撮像条件についての情報と、画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件についての情報とを、IR照明故障検出部30に入力するようにしたものである。
<2−3−2B.第2の実施形態の特徴>
上述したように、第1の実施形態とその変形例におけるIR照明故障検出部30は、撮像機能部20から出力される撮像画像ストリームに含まれる各撮像画像をモニタし、異なる時刻に撮像された複数枚の撮像画像を比較することで、IR照明部21の故障の有無を判定していた。しかしながら、監視センサ装置100は、撮像制御部24により自動的に適切な撮像条件で画像を撮像する。撮像制御部24が自動的に適切な露光条件で画像を撮像することにより、IR照明部21の故障を見逃す可能性が考えられ、また、IR照明部21に故障が発生していないにも拘わらず、IR照明部21に故障が発生したと誤って判定する可能性が考えられる。
<ア.IR照明部21の故障を見逃す可能性>
図8は、IR照明部21の故障が見逃される場合と、IR照明部21に故障が発生したと誤判定される場合を説明する図である。まず、図8Aから図8Cを用いて、第1の実施形態の監視センサ装置100が、IR照明部21の故障を見逃してしまう可能性を説明する。
図8Aと図8Bは、それぞれ第1と第2の時刻において、第1の実施形態の監視センサ装置100が撮像する被写体の状況を説明する図である。
図8Aは、第1の時刻において、IR照明部21から適切な光量のIR光が照射され、被写体が適切な照度条件下におかれた状況を表している。この場合、撮像制御部24は適切な露光条件を設定し、これにより撮像機能部20は図示されるとおりの画像を撮像して、撮像した画像をIR照明故障検出部30に出力する。
図8Bは、第2の時刻において、IR照明部21に故障が発生し、IR照明部21から射出される光量がある程度低下し、被写体がこの低照度下におかれた状況を表している。図8Bに示すように低照度下におかれた被写体を、これよりも高い照度下におかれた被写体(図8A)と同じ撮像条件で撮像すると、得られる画像は全体的に暗くなってしまう。その結果、どのような被写体が撮像されたのかが判りにくい画像が撮像されてしまう。
このような画像が撮像されてしまうことを避けるため、撮像領域200の全体における被写体の明るさの平均値が低くなると、撮像制御部24は、照度の低い被写体の撮像に適した方向に(換言すれば、撮像される画像が明るくなるように)、露光条件を変更する場合がある。すなわち、撮像制御部24は、照度の低い被写体を撮像する場合(撮像領域200の全体の被写体の明るさの平均値が低い場合)には、照度の高い被写体を撮像する場合(撮像領域全体の被写体の明るさの平均値が高い場合)よりも、撮像部22の撮像感度(ISO感度)を高くしたり、撮像部22の露光時間を長くしたり、撮像部22に備わる絞りの開口を大きくしたり、画像処理部23で画像に掛けるゲインを大きくしたりする場合がある。
撮像制御部24がこのような撮像条件の変更を行った結果、図8Bに示す低照度の被写体を撮像した場合であったも、図8Cに示すように図8Aと同等に明るい画像が撮像され得る。このように、撮像制御部24が行う撮像条件の自動制御によって、低照度下の被写体(図8B)を撮像したにも拘わらず、それよりも高い照度の被写体を撮像した場合(図8A)と同様に明るい画像(図8C)が撮像されてIR照明部故障検出部30に出力されると、IR照明故障部30では、2つの画像の間で、画像の明るさの差異を検出することができない。このため、IR照明部21に射出光量低下の故障が発生していても、これを検出することができず、IR照明部21の故障を見逃してしまう可能性が考え得る。
<イ.故障していないIR照明部21を故障と誤判定する可能性>
次に、図8Dから図8Fを用いて、監視センサ装置100の第1の実施形態が、IR照明部21が故障していないにも拘わらず、故障したと誤って判定してしまう可能性を説明する。
図8Dと図8Eは、それぞれ第3と第4の時刻において、該第1の実施形態が撮像する被写体の状況を説明する図である。
図8Dは、第3の時刻において、IR照明部21から適切な光量のIR光が照射され、被写体が適切な照度条件下におかれた状況を表している。この場合、撮像制御部24は適切な露光条件を設定し、これにより撮像機能部20は図示するとおりの画像を撮像して、撮像した画像をIR照明故障検出部30に出力する。
図8Eは、第4の時刻において、被写体となる被介護者の居室内にIR照明部21とは異なる光(例えば外光)が入射して、居室内の一部の小分け領域aの照度が高くなった状況を表している。これは例えば、夜が明けて来て、居室の窓から居室内へ外光が入射する状態であったり、夜中に屋外で自動車の往来があって、そのヘッドライトが居室内に入射する状態であったりする。
図8Eに示すように、明るい部分(外光によって照らされた小分け領域a)が一部に存在する被写体を、このような明るい部分が存在しない図8Dと同じ撮像条件で撮像すると、明るい小分け領域aを撮像した画素は出力が飽和してしまい、その領域に本来存在する物体の形状を表すことができなくなってしまう。いわゆる白飛びした画像が撮像されてしまう。
このような画像が撮像されてしまうことを避けるため、被写体の一部に明るい領域が入り、撮像領域全体における被写体の明るさの平均値が高くなると、撮像制御部24は、照度の高い被写体の撮像に適した方向に(換言すれば、撮像される画像が暗くなるように)、露光条件を変更する場合がある。すなわち、撮像制御部24は、照度の高い被写体を撮像する場合(撮像領域全体の被写体の明るさの平均値が高い場合)には、照度の低い被写体を撮像する場合(撮像領域全体の被写体の明るさの平均値が低い場合)よりも、撮像部22の撮像感度(ISO感度)を低くしたり、撮像部22の露光時間を短くしたり、撮像部22に備わる絞りの開口を小さくしたり、画像処理部23で画像に掛けるゲインを小さくしたりする場合がある。
撮像制御部24がこのような撮像条件の変更を行った結果、図8Eに示すように明るい小分け領域aが撮像領域200に存在することにより撮像領域全体の被写体の明るさの平均値が高くなった被写体を撮像した場合でも、領域aのような明るい領域が無い図8Dに示すような被写体を撮像した場合と、画像全体の明るさの平均値が等しい画像(図8F)が撮像され得る。
ただし、図8Eの被写体を撮像する場合には、図8Dの被写体を撮像する場合よりも、撮像される画像が暗くなるように撮像条件を変更して図8Fに示す画像を得たため、図8Dと図8Fにおいて、図8Fにおける小分け領域a以外の小分け領域(例えば小分け領域b)の画像を比較すると、図8Fの小分け領域bは、図8Dの小分け領域bよりも暗い画像(明るさの低い画像、平均輝度の低い画像)となっている。図8Dと図8Fに示す2枚の画像を比較して、小分け領域bの明るさが低下する変化があると、IR照明故障検出部30は、この変化を、小分け領域bを照射するIR照明部21に備わる一部の光源の故障と判定してしまう可能性が考え得る。
<ウ.第2の実施形態の特徴>
そこで、監視センサ装置100の第2の実施形態では、撮像機能部20から出力される撮像画像をIR照明故障検出部30が監視して、その変化からIR照明部21の故障の有無を判定することに加えて、撮像制御部24から出力される撮像条件と画像処理条件についての情報の変化からもIR照明部21の故障の有無を判定するようになされている。IR照明故障検出部30が、IR照明部21に故障が発生したと判定した場合には、その旨を伝達制御部39に出力する。伝達制御部39は、IR照明部21に故障が発生したとの判定結果を、外部装置290を介して端末装置300に出力する。
<2−3−2C.IR照明故障検出部30>
<ア.被介護者の居室における照明の点灯状態および外光の入射状態>
監視センサ装置100を使用する場合、監視対象とする被介護者の居室における照明の点灯状態および外光の入射状態と、監視センサ装置100の動作状態は、以下のようになる。
(1)被介護者が就寝する前は、居室において可視光の照明が点灯している。
このとき、監視センサ装置100は、可視光画像を用いて被介護者を監視している。
(2)被介護者が就寝する直前に、居室の可視光の照明を消灯する。
このとき、監視センサ装置100は、可視光の照度低下を検出して、IR光の照射とIR光画像を用いた被介護者の監視を開始する。
(3)被介護者が就寝中且つ日の出までの間は、居室内はIR照明部21によって一定のIR光が照射され、これにより居室内の被写体の照度は一定に保たれている。
(4)日の出により、窓のブラインドやカーテンの隙間から外光が居室内に入射すると、居室内の可視光照度が部分的に上昇する。監視センサ装置100は、引き続きIR光の照射およびIR光画像による被介護者の監視を行う。
(5)被介護者が起床し、窓のブラインドやカーテンを開けたり、居室の可視光の照明を点灯したりすると、居室内が可視光で十分明るくなる。監視センサ装置100は、この居室内の可視光の照度上昇を検出して、IR光の照射およびIR光画像による被介護者の監視を終了する。
<イ.IR照明部21の故障の見逃しを防ぐ仕組み>
上記(2)によってIR光の照射とIR光画像を用いた被介護者の監視が開始されると、それ以降、居室の照度は、IR照明部21によって一定の照度に保たれるか、または、外光の入射により照度が上昇するか一方の変化しかない。IR照明部21が正常に動作していれば、照度が低下する方向の変化は発生しない。換言すれば、照度が低下する方向の変化が検出された場合には、IR照明部21に故障が発生している可能性が高いと言える。
このため、第1の時刻に撮像した図8Aに示す第1の画像と、第2の時刻に撮像した図8Cに示す第2の画像との間で、各小分け領域400の明るさに差異がなくても、第1の画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件と、第2の画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件とを比較して、これらの条件のいずれかが、より低照度の被写体の撮像に適した方向に変化している場合には、IR照明部21に故障が発生している可能性が高いと言える。
そこで、該第2の実施形態におけるIR照明故障検出部30は、各撮像画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件を、撮像画像間で比較するようになされており、これらの条件のいずれかが、より低照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、IR照明部21に故障が発生していると判定するようになっている。
例えば、撮像部22の撮像感度(ISO感度)が高くなる方向に変化するか、撮像部22での露光時間が長くなる方向に変化するか、撮像部22に備わる絞りの開口が大きくなる方向に変化するか、または画像処理部23で画像に掛けるゲインが大きくなる方向に変化するかのいずれかの変化が検出され、且つ、その変化の大きさが所定の閾値以上(例えば20%以上)である場合には、被写体の照度が低下したと判定され、IR照明部21に故障が発生したと判定される。
なお、IR照明部21に発生している故障の見逃しを防ぐ方法(以下、失報対策とも称する)については図37を参照して後述する。
<ウ.外光に起因した誤判定を防ぐ仕組み>
先に述べたように、上記(2)によってIR光の照射とIR光画像を用いた被介護者の監視が開始されると、それ以降、居室の照度は、IR照明部21によって一定の照度に保たれるか、または外光の入射により照度が上昇するかの一方の変化しかない。且つ、IR照明部21が故障する場合、照射光量が増える方向に故障することは、ほぼないと言える。
従って、第3の時刻に撮像した図8Dに示す第3の画像と、第4の時刻に撮像した図8Fに示す第4の画像との間で、一部の小分け領域400の明るさに差異があっても、第3の画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件と、第4の画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件とを比較して、これらの条件のいずれかが、より高照度の被写体の撮像に適した方向に変化している場合には、IR照明部21に故障による照度の変化ではなく、IR照明部21以外の光による被写体の照度の変化が発生している可能性が高いと言える。
そこで、該第2の実施形態におけるIR照明故障検出部30は、各撮像画像を撮像した場合の撮像機能部20における撮像条件および画像処理条件を、撮像画像間で比較する。そして、これらの条件のいずれかが、より高照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、前記画像の比較の結果一部の小分け領域400の明るさに差異があったとしても、これをIR照明部21の故障と判定しないようにする。
なお、上述した誤判定を防ぐ方法(以下、誤報対策とも称する)については図38を参照して後述する。
このような判定を行うことにより、図8Aから図8Cに示すような、IR照明部21の故障による変化を見逃す可能性が低減され、また、図8Dから図8Fに示すような外光による撮像画像の変化をIR照明部21の故障と誤って判定する可能性を低減させることができる。
<2−3−2D.経年的な変化を検出する仕組み>
該第2の実施形態におけるIR照明故障検出部30は、さらに、毎日決められた時刻に撮像された撮像画像の撮像条件を監視し、この情報を基に、IR照明部21に経年的な異常が発生していないか否かを判定することができる。
例えば、計測時刻を夜の12時と設定した場合、IR照明故障検出部30は、システム稼働初日の夜の12時における撮像画像の撮像条件を撮像条件の初期値とし、これ以降毎日夜の12時に撮像された撮像画像の撮像条件を前記の初期値と比較する。そして新たに撮像された撮像画像の撮像条件(例えば露光時間)が、初期値よりも一定の大きさ以上、例えば20%以上変化した場合には、これを経年的な異常(経年劣化)に基づく故障発生として検出する。
これにより、例えば、IR光源の経年的な劣化により照度が低下したり、IR照明部21に備わるカバーガラス上への継続的なほこりの堆積によって照度が低下したりした場合に、これを経年劣化による故障発生として検出することが可能となる。なお、初期値となる撮像条件の設定は、システム稼働初日に限らず、例えば初期値をリセットするための入力スイッチを設け、システムの使用者がこれを押した場合には、それ以後次の設定時刻に撮像した撮像条件を初期値とできるようにしてもよい。
なお、IR照明部21の経年劣化を検出する方法については図39を参照して後述する。
<2−3−3.監視センサ装置100の第3の実施形態>
次に、監視センサ装置100の第3の実施形態について説明する。
<2−3−3A.第3の実施形態の構成概要>
図9は、監視センサ装置100の第3の実施形態を示すブロック図である。該第3の実施形態の構成要素のうち、第2の実施形態と共通となる構成要素は、その説明を適宜省略する。該第3の実施形態は、IR照明故障検出部30が、安定画像生成部40と故障判定部41を備える。
<2−3−3B.第3の実施形態の特徴>
上述したように、第1および第2の実施形態におけるIR照明故障検出部30は、撮像画像ストリームに動体が撮像されている場合、IR照明部21の故障の有無を判定する方法の第2の例として、撮像画像ストリームに含まれる各撮像画像から動体(動被写体)を撮像した部分を削除し、動体を削除した後の画像を比較していた。
より具体的には、撮像画像ストリームの中から、
(1)(n−1)フレーム目から(n+1)フレーム目までの3枚の画像を比較して、これらの中から動体を撮像した部分を削除することで、第1の撮像画像を得て、
(2)(m−1)フレーム目から(m+1)目までの3枚の画像を比較して、これらの中から動体を撮像した部分を削除することで、第2の撮像画像を得て、
(3)第1および第2の撮像画像に共通して残されている小分け領域の画素データについて、それらの平均輝度を、第1および第2の撮像画像のそれぞれについて算出して比較していた。
この方法に対して考え得る問題点について図10から図12を参照して説明する。図10から図12は、被介護者230が使用している居室200を撮像した撮像画像ストリームにおいて、連続して撮像された27フレーム分の撮像画像を、3フレームずつ重ね合わせて表記したものである。
図10Aは第1から第3フレーム、図10Bは第4から第6フレーム、図10Cは第7から第9フレーム、図11Dは第10から第12フレーム、図11Eは第13から第15フレーム、図11Fは第16から第18フレーム、図12Gは第19から第21フレーム、図12Hは第22から第24フレーム、図12Iは第25から第27フレームを重ね合わせて表記したものである。図10Bと図10Cと図11Dには、被介護者230が、それぞれ3個ずつ横方向に位置を変えて記載されている。これは、第4フレームから第12のフレームの間に、居室200内の被介護者230が連続して移動したことを表している。
図10Cに示した第7から第9フレームにおいて、座標(X1,Y1)となる場所を撮像した画素が撮像した被写体は、被介護者230の頭部である。このような状況において、第1および第2の実施形態におけるIR照明故障検出部30が、IR照明部21の故障の有無を判定する方法の第2の例を用いると、上記第7から第9のフレームの座標(X1,Y1)となる場所を撮像した画素のデータには変化が見られず、その結果被写体が静止していると判断してしまうことが考え得る。
しかしながら、実際には、第7から第9フレームの間も、被介護者は連続して移動中であったので、第7から第9フレームの間に、座標(X1,Y1)となる場所において、被写体が静止していると判断することは、必ずしも適切ではない。
そこで、監視センサ装置100の第3の実施形態では、IR照明故障検出部30に安定画像生成部40と故障判定部41が備えられている。安定画像生成部40は、動体(動的な被写体)とそれ以外の被写体(静的な被写体)とをより正確に分離した上で、動体を含まない複数枚の画像(安定画像)を生成する。なお、安定画像を生成する方法については図35を参照して後述する。故障判定部41は、生成された複数枚の安定画像を比較して、IR照明部21の故障の有無を判定する。
監視センサ装置100の第1の実施形態では、特に、IR照明部21の故障の有無を判定する方法の第2の例において、異なる時刻に撮像された2枚の撮像画像の各画素が動体と静体のどちらを撮像したかを判定し、2枚の画像の双方において静体を撮像したと判定された画素を抽出して、2枚の画像のそれぞれについて抽出された画素の平均輝度を求めて比較していた。
これに対して、該第3の実施形態が備える安定画像生成部40は、撮像機能部20が出力する撮像画像ストリームを、一定の期間モニタし続け、且つ、この間の画素データを分析し続けることで、この一定の期間において、最も動きが少なく安定して撮像され続けた被写体は何であったのかを計測する。その結果、安定画像生成部40は、撮像画像に含まれる全ての画素について、前記一定の期間において最も動きが少なく安定して撮像され続けたと判定された被写体のデータを集めて、これを安定画像として、後段の故障判定部41に出力する。
<2−3−3C.安定画像生成部40>
該第3の実施形態が備える安定画像生成部40において、撮像機能部20から入力された撮像画像ストリームの中から、動体を除いた画像(安定画像)を作り出す方法について説明する。
安定画像生成部40は、注目する画素を、複数のフレームに亘って、継続してモニタおよび分析する。撮像画像に含まれるいずれの画素を注目画素とするかについては、撮像画像に含まれる全ての画素を注目画素として、これらの画素のそれぞれを継続してモニタおよび分析してもよい。または、撮像画像の全面に亘って適度に画素を間引いて抽出し、これらの間引き抽出された画素を注目画素として、それぞれを継続してモニタおよび分析してもよい。あるいは、撮像画像を基にして、一般的な画像の解像度変更技術を用いて撮像画像よりも解像度の小さな画像(換言すれば画像サイズの小さな画像)を作り出し、この解像度の小さな画像の全画素または適度に間引いた画素を抽出し、これらの画素を注目画素として、それぞれを継続してモニタおよび分析してもよい。
ここでは簡単のために、図10から図21に記載の座標(X1,Y1)および(X2,Y2)となる場所を撮像する2つの画素を注目画素と仮定して、安定画像生成部40において動体を除いた画像(安定画像)を作り出す方法を説明する。
安定画像生成部40が、座標(X1,Y1)となる場所を撮像する第1の画素と、座標(X2,Y2)となる場所を撮像する第2の画素を注目画素と設定すると、安定画像生成部40は、撮像画像ストリームに含まれる各撮像画像において、第1および第2の画素のデータを継続してモニタする。そして第1および第2の画素が撮像した被写体を表す指標として、例えばどのような輝度の値が、何個のフレームにおいて撮像されたのかを累積して計測する。
なお、以下の説明においては、安定画像生成部40の形態の一例として、安定画像生成部40が被写体の輝度を累積して計測する被写体輝度累積計測期間が、9フレームである場合を仮定して説明する。
また、説明のため、座標(X1,Y1)に配置された第1の被写体(ここでは居室の床)の輝度を輝度レベル1、座標(X2,Y2)に配置された第2の被写体(ここでは枕)の輝度を輝度レベル2、居室内にある第3の被写体(ここでは被介護者の頭部)の輝度を輝度レベル3と仮定する。
図13から図15は、図10から図12に示された第1から第27フレームにおいて第1の画素が撮像した被写体の輝度の分布として、安定画像生成部40が計測した結果を、説明のために3フレームずつ累積期間をずらしながら累積度数分布グラフに表したものである。
図13Cは、第1から第9フレームの間に、第1の画素では、第1の被写体(居室の床)が6回、第3の被写体(被介護者の頭部)が3回撮像されたことを表している。図14Fは、第10から第18フレームの間に、第1の画素では、第1の被写体(居室の床)が9回撮像されたことを表している。図13から図15に含まれる他の図が表わすものも同様であるため、ここでの説明を省略する。
図16から図18は、図10から図12に示された第1から第27フレームにおいて第2の画素が撮像した被写体の輝度の分布として、安定画像生成部40が計測した結果を、説明のために3フレームずつ累積期間をずらしながら累積度数分布グラフに表したものである。
図16Cは、第1から第9フレームの間に、第2の画素では、第2の被写体(枕)が9回撮像されたことを表している。図17Fは、第10から第18フレームの間に、第2の画素では、第2の被写体(枕)が3回、第3の被写体(被介護者の頭部)が6回撮像されたことを表している。図16から図18に含まれる他の図が表すものも同様であるため、ここでの説明を省略する。
次に、図13から図18を用いて説明した安定画像生成部40による計測結果から、安定画像生成部40が動体(動的な被写体)とそれ以外の被写体(静的な被写体)とをどのように分離して、動体を含まない画像(安定画像)を出力するかについて説明する。
図13Aから図15Iに示したように、安定画像生成部40は、第1フレームから第27フレームに至る、いずれの被写体輝度累積計測期間(9フレーム分)においても、第1の画素は第1の被写体(居室の床)を撮像していることが最も多いと計測した。その結果、安定画像生成部40は、動体を含まない画像(安定画像)として、第1の画素の部分には、第1フレーム以降、第1の被写体(居室の床)の撮像データを出力する。
一方、図16Aから図18Iに示したように、安定画像生成部40は、第1フレームから第15フレームまでの間は、いずれの被写体輝度累積計測期間においても、第2の画素は第2の被写体(枕)を撮像していることが最も多いと計測したが、第18フレーム以降は、いずれの被写体輝度累積計測期間においても、第3の被写体(被介護者の頭部)を撮像していることが最も多いと計測した。その結果、安定画像生成部40は、動体を含まない画像(安定画像)として第2の画素の部分には、第1フレームから第18フレームまでの間は、第2の被写体(枕)の撮像データを出力し、それ以降は、第3の被写体(被介護者の頭部)の撮像データを出力する。
図19から図21は、安定画像生成部40が、図10から図12に示す第1から第27フレームの画像を基にして、第1から第27フレームの間に出力した動体を含まない画像(安定画像)を、3フレームずつ重ね合わせて表記したものである。
安定画像生成部40は、動体を含まない画像(安定画像)として、座標(X1,Y1)となる場所を撮像した第1の画素については、第1フレーム以降、第1の被写体(居室の床)の撮像データを、故障判定部41に出力する。
また、安定画像生成部40は、動体を含まない画像(安定画像)として、座標(X2,Y2)となる場所を撮像した第2の画素については、第18フレームまで(図20Fまで)は第2の被写体(枕)の撮像データを故障判定部41に出力し、それ以降(図21G以降)は、第3の被写体(被介護者の頭部)の撮像データを故障判定部41に出力する。
なお、以上の説明においては、安定画像生成部40は、撮像機能部20から入力される撮像画像ストリームに含まれる全てのフレーム画像(撮像画像)をモニタして被写体輝度の累積計測を行う例を説明したが、必ずしも全てのフレーム画像(撮像画像)をモニタして被写体輝度の累積計測を行う必要は無く、時間的に離散化した複数枚のフレーム画像(撮像画像)をモニタして被写体輝度の累積計測を行ってもよい。
<2−3−3D.安定画像の種類>
次に、安定画像生成部40が出力する安定画像の2例(図22と図23)を用いて、該第3の実施形態の故障判定部41による、IR照明部21の故障を判定する方法についてを説明する。
<ア.安定画像の第1の例>
図22は、監視センサ装置100の第3の実施形態における撮像機能部20が撮像する撮像画像と、この撮像画像を基にして安定画像生成部40が作り出す安定画像の第1の例を示している。
時刻t1から監視センサ装置100の撮像動作が開始される。撮像動作開始時点となる時刻t1で撮像された撮像画像が、安定画像生成部40から出力される最初の安定画像(第1の安定画像)となる。安定画像生成部40は、時刻t1以降、先に述べた被写体輝度の累積計測を行い、動体を含まない安定画像を出力する。
時刻t1から時刻t4の間に撮像された撮像画像においては、被介護者が移動し続けている。このため、安定画像生成部40は、時刻t1から時刻t4の間、動体を含まない画像として、時刻t1から時刻t4の間に撮像された撮像画像から、移動中の被介護者を取り除き、被介護者がいた小分け領域には被介護者の後ろにある静物(背景)を画像として、安定画像を作り出して継続して出力する。
より具体的には、図22において、安定画像生成部40が、時刻t1に第1の安定画像を出力した後、その後安定画像を更新することなく、第1の安定画像を出力した状態を時刻t4まで維持するようにすればよい。または、時刻t1からt4までの間、撮像画像が撮像される度に、安定画像生成部40が最初の安定画像(第1の安定画像)を繰り返し出力するようにしてもよい。
被介護者は、時刻t4において寝床に入って動きを止め、時刻t4以降、同一の姿勢を取り続けている。安定画像生成部40は、被写体輝度の累積計測を継続した結果、時刻t4から時刻t6の間、被介護者が同一の姿勢を取り続け、この間の撮像画像に動体が含まれていないことを検出する。その結果、時刻t6において、同一の姿勢を取り続ける被介護者を含めた撮像画像を、2枚目の安定画像(第2の安定画像)として故障判定部41に出力するとともに、安定画像が変更されたことを故障判定部41に出力する。安定画像生成部40は、これ以降、第2の安定画像を継続して出力する。すなわち、安定画像生成部40が、時刻t6に第2の安定画像を出力した後、その後安定画像を更新することなく、第2の安定画像を出力した状態を維持するようにすればよい。または、時刻t6以降、撮像画像が撮像される度に、安定画像生成部40が第2の安定画像を繰り返し出力するようにしてもよい。
<イ.安定画像の第2の例>
図23は、監視センサ装置100の第3の実施形態における撮像機能部20が撮像する撮像画像と、この撮像画像を基にして安定画像生成部40が作り出す安定画像の第2の例を示している。
第2の例では、第1の例と同様に、時刻t1から監視センサ装置100の撮像動作が開始され、安定画像生成部40が時刻t1で第1の安定画像を出力する。
また、第2の例では、第1の例と同様に、時刻t1から時刻t4の間に撮像された撮像画像においては、被介護者が移動し続けている。このため、安定画像生成部40は、時刻t1から時刻t4の間、第1の安定画像を継続して出力する。すなわち、図23において、安定画像生成部40が、時刻t1に第1の安定画像を出力した後、その後安定画像を更新することなく、第1の安定画像を出力した状態を時刻t4まで維持するようにすればよい。または、時刻t1から時刻t4までの間、撮像画像が撮像される度に、安定画像生成部40が最初の安定画像(第1の安定画像)を繰り返し出力するようにしてもよい。
また、第2の例では、第1の例と同様に、被介護者は、時刻t4において寝床に入って動きを止め、時刻t4以降、同一の姿勢を取り続けている。しかし、第2の例では、時刻t5において、IR照明部21の一部が故障し、時刻t5以降、被写体の一部の照度が低下している。t4からt5の間で、IR照明部21が故障し、撮像画像に被写体照度が低下した部分240が生じたため、安定画像生成部40は、時刻t6においては、まだ被写体に動きがあると判定し、時刻t6においても引き続き第1の安定画像を出力する。
時刻t5以降、被写体の照度と被介護者の姿勢の双方に変化はない。このため、安定画像生成部40は、被写体輝度の累積計測を継続した結果、時刻t5から時刻t7の間、撮像画像に動体が含まれていないことを検出する。その結果、時刻t7において、IR照明部21の一部が故障して被写体照度が低下し、且つ、被介護者が同一の姿勢を取り続ける撮像画像を、2枚目の安定画像(第2の安定画像)として故障判定部41に出力するとともに、安定画像が変更されたことを故障判定部41に出力する。安定画像生成部40は、これ以降、第2の安定画像を継続して出力する。すなわち、安定画像生成部40が、時刻t7に第2の安定画像を出力した後、その後安定画像を更新することなく、第2の安定画像を出力した状態を維持するようにすればよい。または、時刻t7以降、撮像画像が撮像される度に、安定画像生成部40が第2の安定画像を繰り返し出力するようにしてもよい。
以上説明したように、安定画像生成部40から故障判定部41に出力される画像には、2種類ある。
安定画像生成部40から故障判定部41に出力される1種類目の画像は、IR照明部21に故障は無く、且つ、被写体の状態(被写体の形状や被写体表面の反射率等)がこれまでの安定画像に撮像されていた被写体とは異なる状態となったため、新たな被写体を撮像して出力された安定画像である(図22時刻t6から新たに表示された安定画像)。
安定画像生成部40から故障判定部41に出力される2種類目の画像は、IR照明部21に故障があり、これにより被写体の照度が低下したことで、撮像された画像がこれまでの安定画像とは異なるものとなった画像である(図23時刻t7から新たに表示された安定画像)。
<2−3−3E.故障判定部41の概要>
次に、監視センサ装置100の第3の実施形態における故障判定部41が、安定画像生成部40からの出力に基づいて、IR照明部21の故障の有無を判定する方法について、図24から図32を参照して説明する。
故障判定部41は、安定画像生成部40から出力された安定画像を少なくとも2枚分記憶するための画像記憶部411を備える。先に述べたように、安定画像生成部40は、故障判定部41に出力する安定画像を変更する度に、安定画像を変更したことを故障判定部41に通知する。故障判定部41は、安定画像生成部40から安定画像を変更した通知を受け取る度に、最新の安定画像を画像記憶部411に記憶させるとともに、例えば、最新の安定画像と、1つ前の安定画像とを比較して、IR照明部21に故障が発生しているか否かを判定する。
なお、故障判定部41における故障判定のための安定画像の比較は、上述した例に限らない。すなわち、安定画像生成部40から出力される複数枚の安定画像の中から、時間的な間隔を設けて比較対象とする安定画像を少なくとも2枚サンプリングして、これらを比較するようにしてもよい。例えば、一定の時間間隔(5分間毎等)でサンプリングして比較するようにしてもよい。または、一定の枚数毎(100枚毎等)にサンプリングして比較するようにしてもよい。あるいは、安定画像に変化がない場合でも、撮像部22において撮像画像が撮像される度に、これに同期して安定画像生成部40から安定画像が出力される場合(安定画像に変化がない場合には同じ安定画像が繰り返し出力される場合)においては、安定画像の変化の有無に拘わらず、安定画像が出力される度に、最新の安定画像と1つ前の安定画像を比較するようにしてもよい。
故障判定部41は、安定画像生成部40から出力される2種類の安定画像の変化のうち、(1)被写体の変化に起因した安定画像の変化は、IR照明部21の故障とは判定せず、(2)IR照明部21の故障による被写体照度低下に起因した安定画像の変化は、IR照明部21の故障と判定することで、IR照明部21の故障を検出する。
<2−3−3F.故障判定部41の第1の構成例>
図24は、故障判定部41の構成の第1の例を示すブロック図である。
<ア.第1の構成例の概要>
故障判定部41の第1の構成例は、画像記憶部411と画像比較部412を備える。
故障判定部41の画像記憶部411には、複数枚の安定画像の画像データと、新たに安定画像が作成された場合にはそのことを通知する情報とが安定画像生成部40から入力される。故障判定部41の画像比較部412には、撮像部22において撮像画像ストリームを撮像した場合の各撮像画像の撮像条件についての情報と、画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件についての情報が撮像制御部24から入力される。
画像記憶部411は、安定画像生成部40が出力する安定画像のうち、少なくとも、最新の安定画像と、その1つ前の安定画像の2枚を記憶できる容量を有し、これらを記憶する。
画像比較部412は、画像記憶部411に記憶された少なくとも2枚の安定画像の画像を比較する。画像比較部412は、比較の結果、安定画像の差異が所定の閾値よりも大きい場合は、安定画像の変化が、前記(2)IR照明部21の故障による被写体照度低下に起因した安定画像の変化であると判定する。その結果、画像比較部412は、IR照明部21に故障が発生したと判定する。故障判定部41は、IR照明部21に故障が発生したとの判定結果を、伝達制御部39に出力する。伝達制御部39は、IR照明部21に故障が発生したとの判定結果を、外部装置290を介して、端末装置300に出力する。
<イ.画像比較部412の詳細>
画像比較部412は、画像記憶部411に記憶された少なくとも2枚の安定画像のそれぞれを、複数の小分け領域400に分割し、これら複数の小分け領域400のそれぞれについて、その明るさを表す指標(例えば平均輝度)を算出する。
また、故障判定部41は、少なくとも2枚の安定画像に含まれる複数の小分け領域400のそれぞれについて、少なくとも2枚の安定画像の間で、明るさを表す指標の差(例えば平均輝度の差)が、閾値以上であるか否かを判定する。明るさを表す指標の差が、予め決めておいた第1の閾値以下となる場合には、「差分が小さい」と判定し、明るさを表す指標の差が、第1の閾値よりも大きい場合には、「差分が大きい」と判定する。
画像比較部412は、「差分が大きい」と判定する小分け領域400を検出した場合には、少なくとも2枚の安定画像の間で発生している変化が、前記(1)被写体の変化に起因した安定画像の変化ではなく前記(2)IR照明部21の故障による被写体照度低下に起因した安定画像の変化であると判定し、IR照明部21に故障が発生していると判定する。
安定画像生成部40が安定画像の第1の例(図22)および第2の例(図23)を出力する場合の、故障判定部41の動作を、図25と図26を参照して説明する。
図25Aは、安定画像第1の例(図22)のt1において出力された第1の安定画像、図25Bは、図22のt6において出力された第2の安定画像を示している。図25Cは、画像比較部412が図25Aと図25Bを比較した判定結果を示している。図25Aと図25Bを比較すると、図25Bにおいて、被写体として新たにベッドの上で就寝する被介護者が撮像されている。
この被介護者を撮像した小分け領域400においては、図25Aと図25Bの安定画像の間で、小分け領域400の明るさを表す指標(例えば平均輝度)に差があると検出されている。ただし、図25Bにおいて新たに撮像された被介護者の大きさは、小分け領域400の大きさに比べて小さい。よって、図25Bにおいて新たに被介護者が被写体として撮像されても、それによって当該小分け領域400の明るさを表す指標が変化する大きさは限定的である。したがって、画像比較部412は、図24Aと図25Bとの間で、当該小分け領域400の明るさを表す指標は、「差分が小さい」と判定する。画像比較部412は、「差分が大きい」と判定する小分け領域400を検出しなかった場合には、IR照明部21の故障は発生しなかったと判定し、この間の安定画像の変化は前記(1)被写体の変化に起因した安定画像の変化と判定する。
図26Aは、安定画像第2の例(図23)のt1において出力された第1の安定画像、図26Bは、図23のt7において出力された第2の安定画像を示している。図26Cは、画像比較部412が図26Aと図26Bを比較した判定結果を示している。図26Aと図26Bを比較した結果、図26Bにおいて、IR照明部21の故障によって照度が低下した被写体が、複数の小分け領域400に亘って撮像されている。
これら複数の小分け領域400においては、図26Aと図26Bの安定画像の間で、小分け領域400の明るさを表す指標(例えば平均輝度)に差があると検出されている。しかも、図26Bにおいて低照度下で撮像された範囲は、小分け領域400の1個の大きさよりも大きい。よって、図26Bにおいて新たに生じた被写体の変化は、複数の小分け領域400において、それぞれの小分け領域400の全体に亘っている。この小分け領域400全体に渡る被写体の変化により、当該小分け領域400の明るさを表す指標の変化量が大きい。したがって、画像比較部412は、図26Aと図26Bとの間で、複数の小分け領域400において、当該小分け領域400の明るさを表す指標は、「差分が大きい」と判定する。画像比較部412は、「差分が大きい」と判定する小分け領域400を検出した場合には、IR照明部21の故障が発生したと判定する。
なお、画像比較部412は、「差分が大きい」と判定された小分け領域400の数が、予め決めておいた第2の閾値よりも大きい場合には、少なくとも2枚の安定画像の間で、大規模な画像の変化が発生していると判定する。この場合、画像比較部412は、少なくとも2枚の安定画像の間で発生している変化が、前記(1)被写体の変化に起因した安定画像の変化ではなく前記(2)IR照明部21の故障による被写体照度低下に起因した安定画像の変化、IR照明部21の故障と判定するようにしてもよい。
例えば第2の閾値を2(個)と設定した場合、図25Cにおいて、「差分が大きい」と判定された小分け領域400は存在せず、当然、「差分が大きい」と判定された小分け領域400の個数は、第2の閾値よりも小さい。この場合、画像比較部412は、IR照明部21の故障は発生しなかったと判定し、この間の安定画像の変化は前記(1)被写体の変化に起因した安定画像の変化と判定する。
一方、図26Cにおいて、「差分が大きい」と判定された小分け領域400は4個存在し、その個数が予め決めておいた第2の閾値(2個)よりも大きい。この場合、画像比較部412は、前記(2)IR照明部21の故障による被写体照度低下に起因した安定画像の変化であると判定し、IR照明部21に故障が発生していると判定する。
また、画像比較部412は、予め決めておいた第3の閾値を有し、この第3の閾値を用いて安定画像を評価して、IR照明部21に故障が発生していると判定するようにしてもよい。
第3の閾値を有する場合については、図26を参照して説明する。図26Bにおいて、IR照明部21の一部の光源の射出光量が限定的に低下するのではなく、光量が著しく低下した場合またはほとんど光が射出されなくなった場合を想定する。この場合、図26Bにおいて故障したIR光源の照射範囲を撮像した画像は、いわゆるほぼ真っ黒の状態となり、その範囲を撮像した画素のデータは、ほぼゼロに近い状態となる。
このような状態の場合は、故障前後の安定画像(つまり図26Aと図26B)を比較するまでもなく、図26Bの画像における各画素のデータの値を評価して、各画素の値が予め決めておいた第3の閾値を下回っているか否かを評価するだけで、IR照明部21に故障が発生していることを検出することができる。故障判定部41において、図26Aと図26Bの安定画像を比較する前に、この第3の閾値を用いてIR照明部21の故障を検出するようにすれば、IR照明部21に著しい故障が発生した場合には、図26Aと図26Bの安定画像を比較する前に故障を検出することできる。これにより故障判定部41で故障を検出するために実行する処理を削減し、故障判定部41の動作に伴う電力消費を低減させることができる。
なお、小分け領域400の大きさは以下のように設定してよい。すなわち、1個のIR照明部が照射する範囲が、複数の小分け領域400を含むように、小分け領域400の大きさを設定してよい。さらに、1個のIR照明部が照射する範囲が、撮像される被写体面上において、縦方向と横方向のそれぞれに複数の小分け領域400を含むように、小分け領域400の大きさを設定してよい。
小分け領域400の大きさは、監視センサ装置100が製造された時点で、上記の好ましい大きさに設定されてよい。または、監視センサ装置100を実際に使用する現場に取り付けた後に、取り付けを行った者または監視センサ装置100を使用する者が、IR照明部に含まれる複数のIR光源のそれぞれが照射する範囲を順番に確認しながら、小分け領域400の大きさを上記の好ましい大きさに設定してよい。または、監視センサ装置100自体が、装置に備える複数のIR光源をそれぞれ順番に照射しながら、それぞれの照射状態で画像を撮像して、それぞれのIR光源が照射する大きさを把握し、小分け領域400の大きさを上記の好ましい大きさに自動的に設定できるようにしてもよい。
なお、画像比較部412において、複数枚の安定画像の明るさ比較する別の方法として、安定画像を小分けせずに、第1の実施形態における故障判定方法の第1の例と同様にして比較してもよい。すなわち、比較対象とする安定画像のそれぞれについて、安定画像全体に亘ってその明るさを表す指標の値を求め、得られた指標を比較してもよい。
<ウ.撮像条件を監視する構成の詳細>
上述したように、故障判定部41には、撮像部22において撮像画像ストリームを撮像した場合の各撮像画像の撮像条件についての情報と、画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件についての情報が、撮像制御部24から入力される。
故障判定部41は、これらの情報を監視し、監視センサ装置100の第2の実施形態と同様に、画像比較部412が比較する複数枚の安定画像が撮像された間に、これらの撮像条件と画像処理条件のいずれかが、より低照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、IR照明部21に故障が発生していると判定するようにする。
また、故障判定部41は、これらの情報を監視し、監視センサ装置100の第2の実施形態と同様に、画像比較部412が比較する複数枚の安定画像が撮像された間に、これらの撮像条件と画像処理条件のいずれかが、より高照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、前記画像の比較の結果一部の小分け領域400の明るさに差異があったとしても、これをIR照明部21の故障と判定せず、IR照明部21の動作は正常と判定するようにする。
<2−3−3G.故障判定部41の第2の構成例>
図27は、故障判定部41の構成の第2の例を説明する図である。故障判定部41の第2の構成例の構成要素のうち、第1の構成例と共通となるものについては、その説明を省略する。
<ア.第2の構成例の概要>
故障判定部41の第2の構成例は、第1の構成例に特徴比較部413と判定部414を追加したものである。該第2の構成例においては、第1の構成例と同様に、安定画像生成部40からの、複数枚の安定画像の画像データと、新たに安定画像が作成された場合にはそのことを通知する情報とが画像記憶部411に入力される。また、撮像制御部24からの、撮像部22において撮像画像ストリームを撮像した場合の各撮像画像の撮像条件についての情報と、画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件についての情報が判定部414に入力される。さらに、安定画像生成部40からの安定画像の更新情報(新たに安定画像を作成して出力したとの情報)が判定部414に入力される。
該第2の構成例における画像記憶部411は、該第1の構成例におけるそれと同様に、安定画像生成部40が出力する安定画像のうち、少なくとも、最新の安定画像と、その1つ前の安定画像の画像を記憶する。
該第2の構成例における画像比較部412は、該第1の構成例におけるそれと同様に、画像記憶部411に記憶された少なくとも2枚の安定画像の画像を小分け領域400毎に比較する。画像比較部412は、比較の結果、安定画像の各小分け領域400の差異が予め決めてある第1の閾値よりも大きいか否かを、判定部414に通知する。または、安定画像の各小分け領域400について、その差異が予め決めてある第1の閾値よりも大きいと判定された小分け領域400の個数が、予め決めてある第2の閾値よりも大きいか否かを、判定部414に通知する。
これと並行して、該第2の構成例における特徴比較部413は、安定画像生成部40が出力する複数枚の安定画像のそれぞれについて、画像に含まれる被写体の特徴点を抽出して、各安定画像の間で、その特徴点の差異を比較する。そして、特徴比較部413は、各安定画像間の特徴点の比較結果を判定部414に通知する。なお、複数枚の安定画像の特徴点の差異に基づく、IR照明部21の故障の有無の判定については図41を参照して後述する。
<イ.第2の構成例の特徴>
図28と図29は、該第2の構成例における画像比較部412と特徴比較部413とによる画像比較の違いと、それによりもたらされる作用効果の違いを説明する図である。
図28は、該第2の構成例における画像比較部412が、第1の構成例における画像比較部412と同様にして、複数枚の安定画像を比較した場合に得られる結果を、説明する図である。
安定画像生成部40が作り出す2種類の安定画像のうち、同図A、同図B、および同図Cは、(1)IR照明部21に故障は無く、且つ、被写体の状態(被写体の形状や被写体表面の反射率等)が大きく変化したため、新たな安定画像が出力された場合を示している。同図D、同図Eおよび同図Fは、(2)IR照明部21に故障があり、これにより撮像される画像が変化したため、新たな安定画像が出力された場合を示している。
なお、同図Aは、ベッドのシーツの上に、被写体となる被介護者が寝ている状態を表している。ここで、シーツは、寝具や絨毯等の被介護者の居室に存在する布類の中で、最も反射率が高い布の例と仮定している。同図Bは、就寝中の被介護者が、毛布等、シーツに比べて反射率の低い寝具を、ベッド上の広い範囲に広げた場合の状態を表している。同図Dは、ベッドの布団の中に、被写体となる被介護者が寝ている状態を表している。同図Eは、被写体が同図Dと同じ状態であるものの、IR照明部21の一部に故障が生じ、その射出光量が低下したため、故障したIR照明部21が照射している範囲の画像が暗くなった状態を表している。
同図Bにおいて、ベッド上の広い範囲において反射率の低い寝具が広げられたため、画像比較部412は、同図Aと同図Bに含まれる各小分け領域400を比較した結果として、同図Cに示すように、2つの小分け領域400において、それぞれの明るさの指標(例えば平均輝度)が大きく低下し、且つ、その周囲の4つの小分け領域400においても、その領域の明るさの指標がある程度低下したと出力する。
一方、同図Eにおいて、IR照明部に備わるIR光源の一部において射出光量が低下したものの、これにより被写体の照度が低下した領域の大きさは、同図Bに示された、反射率の低い被写体が広げられた面積よりも小さい。画像比較部412は、同図Dと同図Eに含まれる各小分け領域400を比較した結果として、同図Fに示すように、1つの小分け領域400において、その明るさの指標(例えば平均輝度)が大きく低下し、且つ、その周囲の3つの小分け領域400においても、その領域の明るさの指標がある程度低下したと出力する。
なお、該第2の構成例における画像比較部412は、第1の構成例における画像比較部412と同様に、第3の閾値を保持している。すなわち、安定画像生成部40から故障判定部41に、新たな安定画像が出力された場合、画像比較部412において、上に述べた最新の安定画像と1つ前の安定画像を比較する処理を行う前に、最新の安定画像の画像データが予め決めておいた第3の閾値を下回っているか否かを評価するようになされている。これにより、IR照明部21に著しい故障が発生した場合において、最新の安定画像の画像データの大きさを評価するだけで、IR照明部21に故障が発生したことを検出することができる、という作用効果をもたらす。
ここで、該第2の構成例における画像比較部412が、第1の構成例における画像比較部412と同様にして複数枚の安定画像を比較した場合に、得られる結果を考察する。仮に、同図Fで検出した安定画像の変化をIR照明部21の故障であると判定できるように第2の閾値を予め設定すると、同図Cで検出した安定画像の変化も、IR照明部21の故障であると誤って判定する事態が考え得る。
そこで、該第2の構成例は、IR照明部21に故障が発生したか否かを判定するために、画像比較部412とは別に、特徴比較部413を備えることが特徴となっている。
<ウ.特徴比較部413の詳細>
特徴比較部413には、画像比較部412と同様に、画像記憶部411に記憶された複数枚の安定画像が入力される。特徴比較部413は、これらの入力された安定画像から、その画像に撮像されている被写体の特徴を抽出する。また、特徴比較部413は、複数の安定画像の間で前記抽出結果を比較し、この比較の結果として複数の安定画像の間で有意な差異があるか否かを判定する。
被写体の特徴を抽出して比較して判定する方法の例としては、たとえば下記(1)乃至(3)のいずれであってもよい。
(1)安定画像の小分け領域400毎に、画像の輪郭成分を抽出する。例えば安定画像をハイパスフィルタに通す。抽出した輪郭成分を、例えば2値化する。そして、複数の安定画像それぞれの各小分け領域400の間、前記2値化された輪郭成分の変化を計測する。例えば、輪郭として抽出された画素の数の変化を計測する。または、比較の結果、輪郭として抽出した画素から輪郭として抽出されなくなった画素へと変化した画素の数と、これと逆の変化が生じた画素の数を計測する。これらのいずれかの計測結果の大きさから、画像の差異の有無を判定する。
(2)安定画像の小分け領域400毎に、画像の輪郭成分を抽出する。例えば安定画像をハイパスフィルタに通す。または公知のテクスチャ抽出手段を用いてテクスチャを抽出してもよい。そして、複数の安定画像それぞれのに備わる各小分け領域400の間で、抽出した輪郭成分の形状またはテクスチャの形状を比較して、差異の有無を判定する。
(3)安定画像の小分け領域400毎に、各領域に含まれる画素データ(YC変換前の画素データ)またはYC変換後の画素の輝度データの度数分布をデータの値別に計測する。そして、複数の安定画像それぞれのに備わる各小分け領域400の間で、計測したデータの値別の度数分布を比較して、差異の有無を判定する。
図29は、第2の構成例の故障判定部41に備わる特徴比較部413が、複数枚の安定画像を比較した場合に得られる結果を説明する図である。なお、図29は、特徴比較部413の例として、上記(1)安定画像の輪郭成分を抽出し、輪郭として抽出した画素から輪郭として抽出されなくなった画素へと変化した画素の数およびこれと逆の変化が生じた画素の数を計測して、計測結果の大きさから、画像の差異の有無を判定する例を示している。図29についての説明のうち、図28と共通の事項については、その説明を省略する。
図29Aおよび図29Bは、安定画像生成部が作り出す2種類の安定画像のうち、図28Aおよび図28Bと同様に被写体の状態(被写体の形状や被写体表面の反射率等)が大きく変化した安定画像を、特徴比較部413に入力し、被写体の特徴を抽出する処理を行った結果を表している。なお、図29Aおよび図29Bは、特徴比較部413で行う処理の一例として、2枚の安定画像を特徴比較部413に備わるハイパスフィルタ(不図示)を通し、得られた輪郭成分を2値化したものである。
このため、図29Aおよび図29Bは、高周波成分(いわゆる輪郭成分)であるか否かを表す2値化した画像となっている。図29Cは、特徴比較部413により図29Aの画像と図29Bの画像の差異を求めた結果である。被介護者が反射率の低い寝具を広げるという動作を行った結果、被写体の形状が変化し、それが被写体の輪郭の変化として、図29Cに示されている。
図29Dおよび図29Eは、安定画像生成部40が作り出す2種類の安定画像のうち、図28Dおよび図28Eと同様にIR照明部21に故障があり被写体照度が変化した安定画像を、特徴比較部413に入力し、被写体の特徴を抽出する処理を行った結果を表している。
なお、図29Dおよび図29Eは、特徴比較部413で行う処理の一例として、2枚の安定画像を特徴比較部413に備わるハイパスフィルタ(不図示)を通し、得られた輪郭成分を2値化したものである。このため、図29Dおよび図29Eは、高周波成分(いわゆる輪郭成分)であるか否かを表す2値化した画像となっている。図29Fは、特徴比較部413により、図29Dの画像と図29Fの画像の差異を求めた結果である。IR照明部21の一部において射出光量が低下する故障が発生したものの、被写体である居室と被介護者の形状に変化がなかったため、被写体の輪郭の変化は検出されなかったことが、図29Fに示されている。
該第2の構成例における特徴比較部413は、安定画像生成部40が作り出す2種類の安定画像のうち、図29Aおよび図29Bに示されたように、被写体の状態(被写体の形状や被写体表面の反射率等)が変化することによって安定画像に変化が生じた場合には、図29Cに示すように被写体の輪郭成分に変化があったとの比較結果を得て、得られた結果を判定部414に通知する。
一方、特徴比較部413は、図29Dおよび図29Eに示されたように、IR照明部21に故障が発生しこれにより撮像される画像が変化して安定画像に変化が生じた場合には、図29Fに示すように被写体の輪郭成分に変化がなかったとの比較結果を得て、得られた結果を判定部414に通知する。
<エ.判定部414の詳細>
該第2の構成例における判定部414は、4種類の入力、すなわち、安定画像生成部40からの安定画像の更新情報(新たな安定画像を作成して出力したとの情報)と、画像比較部412での判定結果と、特徴比較部413での判定結果と、撮像制御部24からの撮像条件についての情報とを用いて、IR照明部21に故障が発生したか否かを判定し、故障が発生した場合には、そのことを外部装置290を介して端末装置300に出力する。
第2の構成例における判定部414によるIR照明部21に故障が発生したか否かを判定する方法の例を説明する。
第2の構成例における判定部414は、前記判定を行う構成の初段として、撮像制御部24からの撮像条件と画像処理条件についての情報を用いてIR照明部21の故障の有無を判定する第1の判定部(不図示)を備える。該第1の判定部は、安定画像生成部40からの更新情報(新たな安定画像を作成し出力したとの情報)が入力されると、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、撮像部22における撮像画像の撮像条件と画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件とに変化がなかったか、撮像制御部24からの撮像条件と画像処理条件についての情報を基に、変化の有無を判定する。
そして、上述した故障検出部41の第1の構成例と同様にして、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、これらの撮像条件と画像処理条件のいずれかが、より低照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、IR照明部21に故障が発生していると判定する。
また、上述した故障検出部41の第1の構成例と同様にして、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、これらの撮像条件と画像処理条件のいずれかが、より高照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、前記画像の比較の結果、一部の小分け領域400の明るさに差異があったとしても、これをIR照明部21の故障と判定せず、IR照明部21の動作は正常と判定する。
第2の構成例における判定部414は、さらに、該第1の判定部の後段に、毎日決められた時刻に撮像された撮像画像の撮像条件を監視し、この情報を基に、IR照明部21に経年的な異常が発生していないか否かを判定する第2の判定部(不図示)を備える。
例えば、計測時刻を夜の12時と設定した場合、IR照明故障検出部30は、システム稼働初日の夜の12時における撮像画像の撮像条件を撮像条件の初期値とし、これ以降毎日夜の12時に撮像された撮像画像の撮像条件を前記の初期値と比較する。そして新たに撮像された撮像画像の撮像条件(例えば露光時間)が、初期値よりも一定の大きさ以上、例えば20%以上変化した場合には、これを故障として検出する。これにより、例えば、IR光源の経年的な劣化により照度が低下したり、IR照明部21に備えられたカバーガラス上への継続的なほこりの堆積によって照度が低下したりした場合に、これを異常として検出できる作用効果がもたらされる。なお、初期値となる撮像条件の設定は、システム稼働初日に限らず、例えば初期値をリセットするための入力スイッチを設け、システムの使用者がこれを押した場合には、それ以後次の設定時刻に撮像した撮像条件を初期値とできるようにしてもよい。
第2の構成例における判定部414は、該第2の判定部の後段に、画像比較部412における第3の閾値を用いた判定結果を利用してIR照明部21の故障の有無を判定する第3の判定部(不図示)を備える。前記安定画像生成部40から出力された最新の安定画像の画像データが、第3の閾値を下回っている、との判定結果が、画像比較部412から第3の判定部に通知されると、第3の判定部は、IR照明部21に射出光量が著しく低下する故障が発生したと判定する。
ここで、第3の判定部によるさらなる作用効果を説明する。IR照明部21が備える一部の光源において射出光量が著しく低下する故障が発生すると、第2の構成例における特徴比較部413では、被写体の輪郭またはテクチャの抽出が難しくなる。仮に、故障発生前となる第1の時刻には輪郭またはテクスチャを検出していて、故障発生後となる第2の時刻には輪郭またはテクスチャを一切検出できなくなると、特徴比較部413は画像の特徴の変化を判定するため、第1の時刻と第2の時刻の間に大規模な被写体の形状変化が発生して、被写体の輪郭やテクスチャが大幅に減少したと誤って判定してしまい、IR照明部21の故障を見逃すことが起こり得る。
これに対して、判定部414は第3の判定部の判定課結果も用いることで、仮に特徴比較部413において輪郭またはテクスチャの検出が難しくなるほどIR光の照度が低下する故障がIR照明部21で発生した場合においても、IR照明部21の故障を正しく検出できる。
第2の構成例における判定部414は、さらに、該第3の判定部の後段に、画像比較部412における第1および第2の閾値を用いた判定結果と、特徴比較部413での判定結果と、を用いてIR照明部21の故障の有無を判定する第4の判定部(不図示)を備える。
第4の判定部は、画像比較部412における第1および第2の閾値を用いた判定により、最新の安定画像と1つ前の安定画像との間で画像の差分が大きいとの判定結果の通知に応じ、特徴比較部413での判定結果を参照する。そして、第4の判定部は、最新の安定画像と1つ前の安定画像との間で発生した画像の差分が、被写体の状態(被写体の形状や被写体表面の反射率等)の変化によるものではないとの判定結果が得られた場合には、IR照明部21に故障が発生したと判定する。
なお、画像比較部412において、複数枚の安定画像の明るさ比較する別の方法として、安定画像を小分けせずに、第1の実施形態における故障判定方法の第1の例と同様にして比較してもよい。すなわち、比較対象とする安定画像のそれぞれについて、安定画像全体に亘ってその明るさを表す指標の値を求め、得られた指標を比較してもよい。
<オ.判定結果の外部への出力>
判定部414は、上記第1または第2または第3または第4の判定部が、IR照明部21に故障が発生したと判定した場合には、その旨を伝達制御部39に出力する。伝達制御部39は、IR照明部21に故障が発生したとの判定結果を、外部装置290を介して端末装置300に出力する。
<2−3−3H.故障判定部41の第3の構成例>
図30は、故障判定部41の第3の構成例を説明する図である。故障判定部41の第3の構成例を説明するにあたり、第2の構成例と共通となる事項については、一部は第2の構成例についての図を引用して説明し、他の一部についてはその説明を省略する。
<ア.第3の構成例の特徴>
上述した故障判定部41の第2の構成例は、安定画像に変化が生じた場合に、これが被写体の変化に起因した変化なのか、またはIR照明部21の故障に起因した変化なのかを判定するため、安定画像の各小分け領域400の明るさの変化を検出する画像比較部412を備えていた。
該画像比較部412は、複数枚の安定画像の画像を比較して、IR照明部21の故障とみなされるレベル以上の画像の変化が生じているか否かを判定する。ここで図28Fに記載した安定画像の変化を検出できるように判定レベルを設定すると、図28Cで検出した安定画像の変化も、IR照明部21の故障であると誤って判定してしまう第1の課題が考え得る。
そこで、故障判定部41の第2の構成例では、特徴比較部413をさらに備え、被写体の輪郭またはテクスチャの形状に変化があったかどうかの判定を加えることで、IR照明部21の故障の誤検出を防ぐ構成となっていた。
ただし、IR照明部21が備える一部の光源において射出光量が著しく低下する故障が発生すると、第2の構成例における特徴比較部413は、被写体の輪郭またはテクチャの抽出が難しくなる。このため、第2の構成例における特徴比較部413は、IR照明部21の故障発生前後に取得した安定画像を比較して、大規模な被写体の形状変化が発生したと誤って判定してしまう第2の課題が考え得る。
そこで、第2の構成例の故障判定部41は、IR照明部21の射出光量が閾値を越えて低下した場合には、判定部414に備わる第3の判定部がこれをIR照明部の故障と検出するようにし、これにより、特徴比較部413からの出力に基づいた誤判定を防ぐようになされていた。
図30に示す故障判定部41の第3の構成例では、上記第1および第2の課題を、第2の構成例の故障判定部41とは異なる方法によって解決するものである。
<イ.第3の構成例の概要>
第3の構成例の故障判定部41は、図30に示すように、画像記憶部411、画像比較部412、変化検出部415、および判定部414を備える。該第3の構成例において、画像記憶部411に対しては、安定画像生成部40から、複数枚の安定画像の画像データと、新たに安定画像が作成された場合にはそのことを通知する情報とが入力される。
判定部414に対しては、撮像制御部24から、撮像部22において撮像画像ストリームを撮像した場合の各撮像画像の撮像条件の情報と、画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件についての情報が入力される。さらに、判定部414に対しては、安定画像生成部40からの安定画像の更新情報(新たに安定画像を作成して出力したとの情報)が入力される。また、変化検出部415に対しては、安定画像生成部40からの安定画像の更新情報(新たに安定画像を作成して出力したとの情報)が入力され、撮像機能部20から、撮像機能部20において撮像された撮像画像ストリームが入力される。
該第3の構成例における画像記憶部411は、第2の構成例における画像記憶部411と同様に、安定画像生成部40が出力する安定画像のうち、少なくとも、最新の安定画像と、その1つ前の安定画像の画像を記憶する。
該第3の構成例における画像比較部412は、第2の構成例における画像比較部412と同様に、画像記憶部411に記憶された少なくとも2枚の安定画像の画像を比較し、その差異の大きさから、IR照明部21に故障が発生しているか否かを判定する。
画像比較部412については、図28Fで検出した安定画像の変化をIR照明部21の故障と判定できるように判定レベルを設定すると、図28Cで検出した安定画像の変化もIR照明部21の故障と誤って判定しまう課題が考え得る。これを解決するために、該第3の構成例では、変化検出部415をさらに備える。
変化検出部415は、撮像機能部20から入力される撮像画像ストリームに含まれる各撮像画像を比較し、画像の変化を検出する。この検出結果を基に、撮像機能部20から入力される安定画像の変化が、短時間で発生したかそれともある程度の時間を掛けて発生したものかを判定する。すなわち、安定画像が新たな安定画像へと更新された場合、最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、短時間で発生したかそれともある程度の時間を掛けて発生したものかを、最新の安定画像と1つ前の安定画像との間に撮像された撮像画像を比較しその変化を検知することで判定する。
該第3の構成例における判定部414は、画像比較部412での判定結果に加えて、変化検出部415での判定結果も用いることで、図28Cに示されるような大規模な被写体の変化をIR照明部21の故障として誤って検出してしまうことを防ぎ、故障をより正しく検出するようになされている。なお、撮像画像の変化の速度に基づく、IR照明部21の故障の有無の判定については図42を参照して後述する。
<ウ.変化検出部415の詳細>
図31は、図28Aから図28Bに示す、被介護者が寝具を掛けること等によって生じる、被写体の状態(被写体の形状や被写体表面の反射率等)の大規模な変化が、どのような時間経過で発生するかを説明する図である。
図32は、図28Dから図28Eに示す、IR照明部21に備わる一部の光源の射出光量低下が、一般的にどのような時間経過で発生するかを、説明する図である。
図31において、被介護者が寝具を掛けることによってベッド付近で生じる被写体の変化は、時刻t2から時刻t6の間で徐々に変化して発生している。一方、図32において、IR照明部21の故障によって生じる照度低下は、時刻t5までは発生しておらず、時刻t6において突然発生している。
変化検出部415は、撮像機能部20から入力される撮像画像ストリームに含まれる各撮像画像について、新しい撮像画像が入力される度に、最新の撮像画像と1つ前の撮像画像を比較する。そして各2枚の画像の間の変化の有無を検出する。そして、変化検出部415は、画像の変化が突然発生したと判定するか、それとも時間を掛けて発生したと判定するかを判断するための境界となる閾値を予め決めてこれを保持するようになされている。画像の変化がこの閾値を越える時間を掛けて発生した変化であるか、この閾値以下の短時間で発生した変化であるかを判定して、その結果を、判定部414に通知する。
例えば、図31および図32において、時刻tiで記載される時刻経過の2コマ分を閾値とした場合、図31に記載の時刻t2から時刻t6の間の撮像画像で発生した被介護者が寝具を掛ける変化は、時刻tiで記載される時刻経過の4コマ分に亘って発生した変化であるため、閾値を越える時間を掛けて発生した変化と判定される。一方、図32に記載の時刻t5から時刻t6の間の撮像画像で発生したIR照明部21の故障による照度低下は、時刻tiで記載される時刻経過の1コマ分以内で発生した変化であるため、閾値以下の短時間で発生した変化と判定される。
<エ.判定部414の詳細>
該第3の構成例における判定部414は、4種類の入力、すなわち、安定画像生成部40からの安定画像の更新情報(新たな安定画像を作成して出力したとの情報)と、画像比較部412での判定結果と、変化検出部415での判定結果と、撮像制御部24からの撮像条件についての情報とを用いて、IR照明部21に故障が発生したか否かを判定し、故障が発生した場合には、そのことを外部装置290を介して端末装置300に出力する。
第3の構成例における判定部414に備わる、IR照明部21に故障が発生したか否かを判定する構成について説明する。
第3の構成例における判定部414は、前記判定を行う構成の初段として、撮像制御部24からの撮像条件と画像処理条件についての情報を用いてIR照明部21の故障の有無を判定する第1の判定部(不図示)を備える。該第1の判定部は、安定画像生成部40からの更新情報(新たな安定画像を作成し出力したとの情報)が入力されると、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、撮像部22における撮像画素の撮像条件と画像処理部23において撮像画像に対して画像処理(例えばゲインを掛ける処理)を行った場合の画像処理条件とに変化がなかったか、撮像制御部24からの撮像条件と画像処理条件についての情報を基に、変化の有無を判定する。
そして、該第1の判定部は、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、これらの撮像条件と画像処理条件のいずれかが、より低照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、IR照明部21に故障が発生していると判定する。
また、該第1の判定部は、1つ前の安定画像の基となる撮像画像が撮像され始めてから最新の安定画像の基となる撮像画像が撮像し終わるまでの間に、これらの撮像条件と画像処理条件のいずれかが、より高照度の被写体の撮像に適した方向に、所定の閾値よりも大きく変化している場合には、前記画像の比較の結果、一部の小分け領域400の明るさに差異があったとしても、これをIR照明部21の故障と判定せず、IR照明部21の動作は正常と判定する。
第3の構成例における判定部414は、さらに、該第1の判定部の後段に、毎日決められた時刻に撮像された撮像画像の撮像条件を監視し、この情報を基に、IR照明部21に経年的な異常が発生していないか否かを判定する第2の判定部(不図示)を備える。
該第2の判定部は、例えば、計測時刻を夜の12時と設定した場合、IR照明故障検出部30は、システム稼働初日の夜の12時における撮像画像の撮像条件を撮像条件の初期値とし、これ以降毎日夜の12時に撮像された撮像画像の撮像条件を前記の初期値と比較する。そして、該第2の判定部は、新たに撮像された撮像画像の撮像条件(例えば露光時間)が、初期値よりも一定の大きさ以上、例えば20%以上変化した場合には、これを故障として検出する。これにより、例えば、IR光源の経年的な劣化により照度が低下したり、IR照明部21に備わるカバーガラス上への継続的なほこりの堆積によって照度が低下したりした場合に、これを異常として検出することができる。なお、初期値となる撮像条件の設定は、システム稼働初日に限らず、例えば初期値をリセットするための入力スイッチを設け、システムの使用者がこれを押した場合には、それ以後次の設定時刻に撮像した撮像条件を初期値とできるようにしてもよい。
第3の構成例における判定部414は、さらに、該第2の判定部の後段に、第3の判定部(不図示)を備える。該第3の判定部は、画像比較部412での検出結果と変化検出部415での検出結果を基に、安定画像が変化した場合に、その変化がIR照明部21の故障によるものか否かを判定する。第3の判定部は、画像比較部412における第1および第2の閾値を用いた判定により、最新の安定画像と1つ前の安定画像との間で画像の差分が大きいとの判定結果の通知に応じ、変化検出部415での判定結果を参照する。画像比較部412において、安定画像が閾値を越えて大きく変化したと検出され、且つ、変化検出部415において安定画像の変化が、閾値を越えて時間を掛けて変化したと検出された場合、第3の判定部は、安定画像の変化が、被写体の変化であると判定し、IR照明部21の故障とは判定しない。反対に、第3の判定部は、画像比較部412において、安定画像が閾値を越えて大きく変化したと検出され、且つ、変化検出部415において安定画像の変化が、閾値以下の短時間で変化したと検出された場合、安定画像の変化が、IR照明部21の故障によるものと判定する。
なお、画像比較部412において、複数枚の安定画像の明るさ比較する別の方法として、安定画像を小分けせずに、第1の実施形態における故障判定方法の第1の例と同様にして比較してもよい。すなわち、比較対象とする安定画像のそれぞれについて、安定画像全体に亘ってその明るさを表す指標の値を求め、得られた指標を比較してもよい。
<オ.判定結果の外部への出力>
第3の構成例における判定部414は、上述した第1乃至第3の判定部のいずれかが、IR照明部21に故障が発生したと判定した場合、その旨を伝達制御部39に出力する。伝達制御部39は、IR照明部21に故障が発生したとの判定結果を、外部装置290を介して端末装置300に出力する。
<カ.変形例>
故障判定部41の第3の構成例では、故障判定部41が変化検出部415を備え、撮像機能部20から入力される撮像画像ストリームに含まれる各撮像画像の間の画像の変化を検出するようになされている。
監視センサ装置100の変形例として、該変化検出部415を監視センサ装置100における安定画像生成部40にも設けるようにしてもよい。この場合、安定画像生成部40は、安定画像を作り出すとともに、画像の変化を突然発生したと判定するかそれとも時間を掛けて発生したと判定するか境界となる閾値を予め決めてこれを保持するようにする。そして、各安定画像を得るまでの発生した撮像画像の変化が、この閾値を越えて時間を掛けて変化したかそれともこの閾値以下の短時間で発生したかを判定して、その結果を、故障判定部41における判定部414に通知するようにしてもよい。
<2−4.ソフトウェア処理を用いた監視センサ装置100について>
以上に説明した監視センサ装置100の第1乃至第3の実施形態による動作について説明するが、その前に、第1乃至第3の実施形態による動作を細分化した各種のサブルーチンについて図33乃至図42を参照して説明する。
<第1および第2の撮像画像の生成処理>
図33は、第1の実施形態による故障判定方法の第1の例として、第1の撮像画像と第2の撮像画像を比較してIR照明部21の故障の有無を判定する場合における第1および第2の撮像画像の生成処理を説明するフローチャートである。
ステップS1において、IR照明故障検出部30は、第1の時刻に撮像した撮像画像、前記撮像画像の画素を間引き抽出して形成した画像、または、前記撮像画像を解像度変換して形成した画像を、画像比較に用いる第1の撮像画像に決定する。
ステップS2において、IR照明故障検出部30は、第2の時刻に撮像した撮像画像、前記撮像画像の画素を間引き抽出して形成した画像、または前記撮像画像を解像度変換して形成した画像を、画像比較に用いる第2の撮像画像に決定する。
第1の実施形態による故障判定方法の第1の例では、このようにして決定された第1および第2の撮像画像が比較されて、IR照明部21の故障の有無が判定される。
<動被写体を除去した第1および第2の撮像画像の生成処理>
次に、図34は、第1の実施形態による故障判定方法の第2の例として、動被写体を除去した複数の撮像画像を比較してIR照明部21の故障の有無を判定する場合における動被写体を除去した第1および第2の撮像画像の生成処理を説明するフローチャートである。
ステップS11において、IR照明故障検出部30は、第1の時刻とその前後に撮像した撮像画像を比較することで動被写体を特定して、前記第1の時刻に撮影した撮像画像から前記動被写体を削除した画像、前記動被写体を削除した画像の画素を間引き抽出して形成した画像、または、前記動被写体を削除した画像を解像度変換して形成した画像を、画像比較に用いる第1の撮像画像に決定する。
ステップS12において、IR照明故障検出部30は、第2の時刻とその前後に撮像した撮像画像を比較することで動被写体を特定して、前記第2の時刻に撮影した撮像画像から前記動被写体を削除した画像、前記動被写体を削除した画像の画素を間引き抽出して形成した画像、または、前記動被写体を削除した画像を解像度変換して形成した画像を、画像比較に用いる第2の撮像画像に決定する。
第1の実施形態による故障判定方法の第2の例では、このようにして決定された、動被写体が除去されている第1および第2の撮像画像が比較されて、IR照明部21の故障の有無が判定される。
<第1および第2の安定画像の生成処理>
次に、図35は、第3の実施形態におけるIR照明故障検出部30の安定画像生成部40による第1および第2の安定画像の生成処理を説明するフローチャートである。
ステップS21において、安定画像生成部40は、第1の時刻を含む一定期間、撮像画像ストリームをモニタし、この期間において最も動きが少なく安定して撮像された被写体のデータを集めて得た安定画像、前記安定画像の画素を間引き抽出して形成した画像、または、前記安定画像を解像度変換して形成した画像を、画像比較に用いる第1の安定画像に決定する。
ステップS22において、安定画像生成部40は、第2の時刻を含む一定期間、撮像画像ストリームをモニタし、この期間において最も動きが少なく安定して撮像された被写体のデータを集めて得た安定画像、前記安定画像の画素を間引き抽出して形成した画像、または、前記安定画像を解像度変換して形成した画像を、画像比較に用いる第2の安定画像に決定する。
第3の実施形態では、このようにして決定された、第1および第2の安定画像が比較されて、IR照明部21の故障の有無が判定される。
<複数の撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理>
次に、図36は、第1の実施の形態において、第1および第2の撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を説明するフローチャートである。
ステップS31において、IR照明故障検出部30は、第1の撮像画像と第2の撮像画像それぞれについて、画像全体の明るさの指標(または小分け領域毎の明るさの指標)を算出する。
ステップS32において、IR照明故障検出部30は、ステップS31で算出した第1および第2の撮像画像の画像全体の明るさの指標(またはは小分け領域毎の明るさの指標)の差が閾値以上であるか否かを判定する。両画像の差が閾値以上である場合、処理はステップS33に進められて、IR照明部21に故障ありと判定される。反対に、両画像の差が閾値よりも小さい場合、処理はステップS34に進められて、IR照明部21に故障なしと判定する。
<失報対策処理>
次に、図37は、第2の実施の形態における失報対策処理を説明するフローチャートである。
ステップS41において、IR照明故障検出部30は、第1の時刻および第2の時刻のそれぞれに撮像された撮像画像(第1の画像と第2の画像)の撮像条件と画像処理条件を取得する。
ステップS42において、IR照明故障検出部30は、撮像条件と画像処理条件の少なくとも一方の変化が、低照度の被写体の撮像に適した方向に変化し、変化量が閾値以上であるか否かを判定する。そして、この判定結果が肯定である場合、処理はステップS43に進められて、IR照明部21に故障ありと判定される。反対に、ステップS42の判定結果が否定である場合、ステップS43の処理はスキップされる。
このような失報対策処理を行うことにより、IR照明部21に発生している故障の見逃しを防ぐことができる。
<誤報対策処理>
次に、図38は、第2の実施の形態における誤報対策処理を説明するフローチャートである。
ステップS51において、IR照明故障検出部30は、第1の時刻および第2の時刻のそれぞれに撮像された撮像画像(第1の画像と第2の画像)の撮像条件と画像処理条件を取得する。なお、上述した失報対策処理に続けて当該誤報対策処理を行う場合、失報対策処理のステップS41で取得した情報を流用すればよい。
ステップS52において、IR照明故障検出部30は、撮像条件と画像処理条件の少なくとも一方の変化が、高照度の被写体の撮像に適した方向に変化し、変化量が閾値以上であるか否かを判定する。そして、この判定結果が肯定である場合、処理はステップS53に進められて、IR照明部21に故障なしと判定される。反対に、ステップS52の判定結果が否定である場合、ステップS53の処理はスキップされる。
このような誤報対策処理を行うことにより、IR照明部21に故障が発生していないにも拘らず、故障ありと通知してしまうことを防ぐことができる。
<経年劣化検出処理>
次に、図39は、第2の実施の形態におけるIR照明部21の経年劣化検出処理を説明するフローチャートである。
ステップS61において、IR照明故障検出部30は、システム稼働時の撮像条件と画像処理条件を取得して保存する(第1のデータとする)。ステップS62において、IR照明故障検出部30は、定期的に撮像条件と画像処理条件を取得する(第2のデータとする)。
ステップS63において、IR照明故障検出部30は、第1のデータと第2のデータを比較し、撮像条件と画像処理条件の少なくとも一方の変化が、低照度の被写体の撮像に適した方向に変化し、変化量が閾値以上であるか否かを判定する。この判定結果が肯定である場合、処理はステップS64に進められて、IR照明部21に経年劣化(による故障あり)と判定される。反対に、ステップS63の判定結果が否定である場合、ステップS64の処理はスキップされる。
上述した経年劣化検出処理を行うことにより、長い時間を要して徐々に発生したIR照明部21の故障、すなわち、経年劣化を検出することができる。
<1枚の撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理>
次に、図40は、1枚の撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を説明するフローチャートである。
ステップS71において、IR照明故障検出部30は、第1の撮像画像(または第2の撮像画像)の各画素値と閾値を比較する。ステップS72において、IR照明故障検出部30は、画素値が閾値以下の画素の数が一定の領域分以上存在するか否かを判定する。この判定結果が肯定である場合、処理はステップS73に進められて、IR照明部21に故障ありと判定される。反対に、ステップS72の判定結果が否定である場合、ステップS73の処理はスキップされる。
<複数枚の安定画像の特徴点の差異に基づいてIR照明部21の故障の有無を判定する処理>
次に、図41は、第1および第2の安定画像の特徴点の差異に基づいてIR照明部21の故障の有無を判定する処理を説明するフローチャートである。
ステップS81において、判定部414は、該処理の前段の処理(例えば、複数の撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理(図36))における故障判定結果が故障ありであるか否かを判定する。この判定結果が肯定である場合、処理はステップS82に進められる。
ステップS82において、特徴比較部413は、第1および第2の安定画像それぞれの特徴点を抽出して比較し、比較結果を判定部414に通知する。ステップS83において、比較部414は、第1および第2の安定画像間の特徴点の差分が閾値以上であるか否かを判定する。この判定結果が否定である場合、処理はステップS84に進められて、IR照明部21に故障ありと判定される。反対に、ステップS83の判定結果が肯定である場合、処理はステップS85に進められて、IR照明部21に故障なしと判定される。なお、ステップS81の判定結果が否定である場合にも、処理はステップS85に進められて、IR照明部21に故障なしと判定される。
<撮像画像の変化の速度に基づいてIR照明部21の故障の有無を判定する処理>
次に、図42は、撮像画像の変化の速度に基づいてIR照明部21の故障の有無を判定する処理を説明するフローチャートである。
ステップS91において、判定部414は、該処理の前段の処理(例えば、複数の撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理(図36))における故障判定結果が故障ありであるか否かを判定する。この判定結果が肯定である場合、処理はステップS92に進められる。
ステップS92において、変化検出部415は、撮像画像ストリームに含まれる各撮像画像を比較し、画像の変化を検出する。ステップS93において、変化検出部415は、この検出結果を基に、撮像機能部20から入力される安定画像の変化が、短時間で発生したかそれともある程度の時間を掛けて発生したものかを判定する。この判定結果が肯定である場合、処理はステップS94に進められて、IR照明部21に故障ありと判定される。反対に、ステップS93の判定結果が否定である場合、処理はステップS95に進められて、IR照明部21に故障なしと判定される。なお、ステップS91の判定結果が否定である場合にも、処理はステップS95に進められて、IR照明部21に故障なしと判定される。
<監視センサ装置100の第1乃至第3の実施形態による共通動作>
次に、図43は、監視センサ装置100の第1乃至第3の実施形態による共通動作を説明するフローチャートである。この共通動作は、例えば、被介護者が居る居室の照明が消灯されたときに開始される。
ステップS101において、被介護者が居る居室の撮像を開始する。すなわち、IR照明部21が撮像範囲12に対してIR光の照射を開始し、撮像部22が撮像範囲12を所定のフレームレートに従って連続して撮像し、その結果得られる動画像ストリームを画像処理部23に出力する。画像処理部23は、撮像部22から入力される動画像ストリームに対して所定の画像処理を行い、その結果をIR照明故障検出部30と状態検知部38に出力する。
ステップS102において、状態検知部38は、動画像ストリームに基づき、被介護者の状態を検知し、検知結果を伝達制御部39に通知する。ステップS103において、伝達制御部39は、状態検知部38の検知結果(被介護者の状態)を外部装置290に通知する。
ステップS104において、IR照明故障検出部30は、撮像機能部20から出力される撮像画像ストリームを外部装置290および端末装置300に伝達することなく、撮像画像ストリームに含まれる複数枚の撮像画像を比較し、この比較結果を基にして、IR照明部21の故障の有無を判定する。そして、IR照明部21に故障ありと判定した場合、ステップS105において、IR照明故障検出部30は、その旨を伝達制御部39を介して外部装置290や端末装置300に通知する。
ステップS106において、監視センサ装置100に備わる可視光照度検出部は、撮像している居室内が可視光により閾値以上に明るくなったか否かを判定する。撮像している居室内が可視光により閾値以上に明るくなっていないと判定された場合、処理はステップS101に戻されて、ステップS101乃至S106が繰り返される。その後、撮像している居室内が可視光により閾値以上に明るくなったと判定された場合、該共通動作は終了される。
<監視センサ装置100の第1の実施形態の動作>
次に、図44は、上述した共通動作のステップS104の処理における、監視センサ装置100の第1の実施形態による動作を説明するフローチャートである。
ステップS111において、撮像機能部20は、撮像画像を生成する処理を実行する。具体的には、図33または図34を参照して上述したとおりであるので、その説明は省略する。
ステップS112において、IR照明故障検出部30は、撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図40を参照して上述したとおりであるので、その説明は省略する。
ステップS113において、IR照明故障検出部30は、撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図36を参照して上述したとおりであるので、その説明は省略する。
以上で、上述した共通動作のステップS104の処理における、監視センサ装置100の第1の実施形態による動作の説明を終了する。
<監視センサ装置100の第1の実施形態の他の動作>
図45は、上述した共通動作のステップS104の処理における、監視センサ装置100の第1の実施形態による他の動作を説明するフローチャートである。
図45に示される他の動作は、図44に示された動作からステップS112の処理を省略したものである。
監視センサ装置100の第1の実施形態には、図43を参照して上述した共通動作のステップS104の処理において、図44に示された動作、または図45に示された他の動作のどちらを実行させてもよい。
<監視センサ装置100の第2の実施形態の動作>
次に、図46は、上述した共通動作のステップS104の処理における、監視センサ装置100の第2の実施形態による動作を説明するフローチャートである。
ステップS121において、撮像機能部20は、撮像画像を生成する処理を実行する。具体的には、図33または図34を参照して上述したとおりであるので、その説明は省略する。
ステップS122において、IR照明故障検出部30は、撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図40を参照して上述したとおりであるので、その説明は省略する。
ステップS123において、IR照明故障検出部30は、失報対策処理を実行する。具体的には、図37を参照して上述したとおりであるので、その説明は省略する。
ステップS124において、IR照明故障検出部30は、誤報対策処理を実行する。具体的には、図38を参照して上述したとおりであるので、その説明は省略する。
ステップS125において、IR照明故障検出部30は、経年劣化検出処理を実行する。具体的には、図39を参照して上述したとおりであるので、その説明は省略する。
ステップS126において、IR照明故障検出部30は、撮像画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図36を参照して上述したとおりであるので、その説明は省略する。
以上で、上述した共通動作のステップS104の処理における、監視センサ装置100の第2の実施形態による動作の説明を終了する。
<監視センサ装置100の第2の実施形態の他の動作>
図47は、上述した共通動作のステップS104の処理における、監視センサ装置100の第2の実施形態による他の動作を説明するフローチャートである。
図47に示される他の動作は、図46に示された動作からステップS122の処理を省略したものである。
<監視センサ装置100の第2の実施形態のさらに他の動作>
図48は、上述した共通動作のステップS104の処理における、監視センサ装置100の第2の実施形態によるさらに他の動作を説明するフローチャートである。
図48に示されるさらに他の動作は、図46に示された動作の各ステップの処理の実行順序を、S121,S122,S123,S125,S126、S124の順に変更したものである。
監視センサ装置100の第2の実施形態には、図43を参照して上述した共通動作のステップS104の処理において、図46に示された動作、図47に示された他の動作、または図48に示されたさらに他の動作のいずれを実行させてもよい。
<監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合の動作>
次に、図49は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合の動作を説明するフローチャートである。
ステップS131において、安定画像生成部40は、安定画像を生成する処理を実行する。具体的には、図35を参照して上述したとおりであるので、その説明は省略する。
ステップS132において、IR照明故障検出部30は、撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図40を参照して上述したとおりであるので、その説明は省略する。
ステップS133において、IR照明故障検出部30は、失報対策処理を実行する。具体的には、図37を参照して上述したとおりであるので、その説明は省略する。
ステップS134において、IR照明故障検出部30は、誤報対策処理を実行する。具体的には、図38を参照して上述したとおりであるので、その説明は省略する。
ステップS135において、IR照明故障検出部30は、経年劣化検出処理を実行する。具体的には、図39を参照して上述したとおりであるので、その説明は省略する。
ステップS136において、IR照明故障検出部30は、安定画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図36を参照して上述した説明と同様であるので、その説明は省略する。
以上で、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合の動作の説明を終了する。
<監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合の他の動作>
図50は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合の他の動作を説明するフローチャートである。
図50に示される他の動作は、図49に示された動作からステップS135の処理を省略したものである。
<監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合のさらに他の動作>
図51は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合のさらに他の動作を説明するフローチャートである。
図51に示されるさらに他の動作は、図49に示された動作の各ステップの処理の実行順序を、S131,S132,S133,S135,S136、S134の順に変更したものである。
監視センサ装置100の第3の実施形態における故障判定部41が第1の構成例を有する場合には、図43を参照して上述した共通動作のステップS104の処理において、図49に示された動作、図50に示された他の動作、または図51に示されたさらに他の動作のいずれを実行させてもよい。
<監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合の動作>
次に、図52は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合の動作を説明するフローチャートである。
ステップS141において、安定画像生成部40は、安定画像を生成する処理を実行する。具体的には、図35を参照して上述したとおりであるので、その説明は省略する。
ステップS142において、IR照明故障検出部30は、失報対策処理を実行する。具体的には、図37を参照して上述したとおりであるので、その説明は省略する。
ステップS143において、IR照明故障検出部30は、誤報対策処理を実行する。具体的には、図38を参照して上述したとおりであるので、その説明は省略する。
ステップS144において、IR照明故障検出部30は、経年劣化検出処理を実行する。具体的には、図39を参照して上述したとおりであるので、その説明は省略する。
ステップS145において、IR照明故障検出部30は、撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図40を参照して上述したとおりであるので、その説明は省略する。
ステップS146において、IR照明故障検出部30は、安定画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図36を参照して上述した説明と同様であるので、その説明は省略する。
ステップS147において、IR照明故障検出部30は、安定画像の特徴点の差異に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図41を参照して上述した説明と同様であるので、その説明は省略する。
以上で、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合の動作の説明を終了する。
<監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合の他の動作>
図53は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合の他の動作を説明するフローチャートである。
図53に示される他の動作は、図52に示された動作の各ステップの処理の実行順序を、S141,S145,S142,S143,S144、S146,S147の順に変更したものである。
<監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合のさらに他の動作>
図54は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合のさらに他の動作を説明するフローチャートである。
図54に示される他の動作は、図52に示された動作の各ステップの処理の実行順序を、S141,S145,S142,S144,S146、S147,S143の順に変更したものである。
監視センサ装置100の第3の実施形態における故障判定部41が第2の構成例を有する場合には、図43を参照して上述した共通動作のステップS104の処理において、図52に示された動作、図53に示された他の動作、または図54に示されたさらに他の動作のいずれを実行させてもよい。
<監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合の動作>
次に、図55は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合の動作を説明するフローチャートである。
ステップS151において、安定画像生成部40は、安定画像を生成する処理を実行する。具体的には、図35を参照して上述したとおりであるので、その説明は省略する。
ステップS152において、IR照明故障検出部30は、撮像画像の明るさの絶対値に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図40を参照して上述したとおりであるので、その説明は省略する。
ステップS153において、IR照明故障検出部30は、失報対策処理を実行する。具体的には、図37を参照して上述したとおりであるので、その説明は省略する。
ステップS154において、IR照明故障検出部30は、誤報対策処理を実行する。具体的には、図38を参照して上述したとおりであるので、その説明は省略する。
ステップS155において、IR照明故障検出部30は、経年劣化検出処理を実行する。具体的には、図39を参照して上述したとおりであるので、その説明は省略する。
ステップS156において、IR照明故障検出部30は、安定画像の明るさに基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図36を参照して上述した説明と同様であるので、その説明は省略する。
ステップS157において、IR照明故障検出部30は、安定画像の変化の速度に基づいてIR照明部21の故障の有無を判定する処理を実行する。具体的には、図42を参照して上述した説明と同様であるので、その説明は省略する。
以上で、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合の動作の説明を終了する。
<監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合の他の動作>
図56は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合の他の動作を説明するフローチャートである。
図56に示される他の動作は、図55に示された動作からステップS152の処理を省略したものである。
<監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合のさらに他の動作>
図57は、上述した共通動作のステップS104の処理における、監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合のさらに他の動作を説明するフローチャートである。
図57に示される他の動作は、図55に示された動作の各ステップの処理の実行順序を、S151,S152,S153,S155,S156、S157,S154の順に変更したものである。
監視センサ装置100の第3の実施形態における故障判定部41が第3の構成例を有する場合には、図43を参照して上述した共通動作のステップS104の処理において、図55に示された動作、図56に示された他の動作、または図57に示されたさらに他の動作のいずれを実行させてもよい。
ところで、上述した監視センサ装置100による一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図58は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
このコンピュータ1200において、CPU(Central Processing Unit)1201,ROM(Read Only Memory)1202,RAM(Random Access Memory)1203は、バス1204により相互に接続されている。
バス1204には、さらに、入出力インタフェース1205が接続されている。入出力インタフェース1205には、入力部1206、出力部1207、記憶部1208、通信部1209、およびドライブ1210が接続されている。
入力部1206は、キーボード、マウス、マイクロフォンなどよりなる。出力部1207は、ディスプレイ、スピーカなどよりなる。記憶部1208は、ハードディスクや不揮発性のメモリなどよりなる。通信部1209は、ネットワークインタフェースなどよりなる。ドライブ1210は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア1211を駆動する。
以上のように構成されるコンピュータ1200では、CPU1201が、例えば、記憶部1208に記憶されているプログラムを、入出力インタフェース1205およびバス1204を介して、RAM1203にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ1200(CPU1201)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1211に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータ1200では、プログラムは、リムーバブルメディア1211をドライブ1210に装着することにより、入出力インタフェース1205を介して、記憶部1208にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1209で受信し、記憶部1208にインストールすることができる。その他、プログラムは、ROM1202や記憶部1208に、あらかじめインストールしておくことができる。
なお、コンピュータ1200が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであってもよいし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
本技術は以下のような構成も取ることができる。
なお、本技術は以下のような構成も取ることができる。
(1)(監視システムの構成、第1乃至第3の実施形態に共通)
監視センサ装置と、
前記監視センサ装置で取得した情報を使用者に提示する端末装置と、
前記監視センサ装置と前記端末装置との間に介在する外部装置と
を備える監視システムにおいて、
前記監視センサ装置は、
監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
前記検知部の検知結果を前記外部装置または前記端末装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、前記撮像部によって撮像された前記画像を前記外部装置または前記端末装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、を含む第3伝達制御部(符号39)と、
前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を基にして前記赤外光照射部の故障を検出し、前記故障の検出結果が前記外部装置または前記端末装置に伝達される、故障検出部と
を備える
監視システム。

(2)(監視システムの構成、第1乃至第3の実施形態に共通)
前記第3伝達制御部は、前記故障検出部での前記故障の検出結果を前記外部装置または前記端末装置に伝達する動作の実行の有無も制御する
前記(1)に記載の監視システム。

(3)(監視システムが監視する内容、第1乃至第3の実施形態に共通)
前記監視対象は、前記監視センサ装置を設置した室内に居る人物であって、
前記状態は、前記人物の姿勢もしくは体勢である
前記(1)または(2)に記載の監視システム。

(4)(監視システムが伝達する情報、第1乃至第3の実施形態に共通)
前記外部装置または前記端末装置に伝達する前記検知結果は、
前記監視対象となる人物が、
予め定義された複数の状態のいずれかに該当するか、
それともいずれにも該当しないか、
との情報である
前記(3)に記載の監視システム。

(5)(監視システムが伝達する情報、第1乃至第3の実施形態に共通)
前記外部装置または前記端末装置に伝達する前記検知結果とは、
前記監視対象となる人物が、予め定義された複数の状態の中のどの状態にあるか、との情報である
前記(3)に記載の監視システム。

(6)(監視システムが伝達する情報、第1乃至第3の実施形態に共通)
前記予め定義された状態とは、前記人物が、前記室内に配置された寝床から離床した状態である
前記(4)または(5)に記載の監視システム。

(7)(監視システムが伝達する情報、第1乃至第3の実施形態に共通)
前記予め定義された状態とは、前記人物が、前記室内を移動している状態である
前記(4)または(5)に記載の監視システム。

(8)(監視システムが伝達する情報、第1乃至第3の実施形態に共通)
前記予め定義された状態とは、前記人物が、前記室内で転倒した状態である
前記(4)または(5)に記載の監視システム。

(9)(監視システムがさらに備える構成、第1乃至第3の実施形態に共通)
前記撮像部は、可視光にも感度を有する
前記(1)乃至(8)のいずれかに記載の監視システム。

(10)(監視システムがさらに備える構成、第1乃至第3の実施形態に共通)
前記監視センサ装置は、前記撮像の対象とする範囲における、可視光の照度を計測する可視光照度検出部をさらに備える
前記(1)乃至(9)のいずれかに記載の監視システム。

(11)(監視システムがさらに備える構成、第1乃至第3の実施形態に共通)
前記可視光検出部での検出結果を、前記赤外光照射部または前記故障検出部の起動または動作の停止に用いる
前記(10)に記載の監視システム。

(12)(監視システムがさらに備える構成、第1乃至第3の実施形態に共通)
前記監視センサ装置は、
前記撮像部における前記撮像動作を起動もしくは停止する制御、または、前記撮像を行う際の撮像条件の制御、あるいは、前記撮像した画像に対して画像処理を加える際の画像処理の条件の制御、のいずれかを行う、撮像制御部を備える
前記(1)乃至(11)のいずれかに記載の監視システム。

(13)(第1の実施形態、基本構成)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、前記複数の画像の明るさを比較した結果を基にして、前記赤外光照射部の故障を検出する
前記(12)に記載の監視システム。

(14)(第1の実施形態、故障検出方法)
前記複数の撮像画像の間で、前記複数の画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合には、前記赤外光照射部に故障が発生していると検出する、
前記(13)に記載の監視システム。

(15)(第1の実施形態、明るさの指標)
前記複数の画像の明るさの比較を、前記複数の画像に関する輝度の比較によって行う
前記(13)または(14)に記載の監視システム。

(16)(第1の実施形態、明るさの指標)
前記画像の明るさを表す指標の値は、
前記画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記画像に含まれる全ての画素の前記明るさを表す指標の平均値である
前記(13)乃至(15)のいずれかに記載の監視システム。

(17)(第1の実施形態、明るさの指標)
前記画像の明るさを表す指標の値は、
前記画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記画像に含まれる全ての画素の中から抽出した一部の画素の前記明るさを表す指標の平均値である
前記(13)乃至(15)のいずれかに記載の監視システム。

(18)(第1の実施形態、明るさの指標)
前記画像の明るさを表す指標の値は、
前記画像の解像度を変換した画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記解像度を変換した画像に含まれる全ての画素の前記明るさを表す指標の平均値である
前記(13)乃至(15)のいずれかに記載の監視システム。

(19)(第1の実施形態、明るさの指標)
前記画像の明るさを表す指標の値は、
前記画像の解像度を変換した画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記解像度を変換した画像に含まれる全ての画素の中から抽出した一部の画素の前記明るさを表す指標の平均値である
前記(13)乃至(15)のいずれかに記載の監視システム。

(20)(第1の実施形態、動被写体の除去)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された画像から動被写体を除去した後の複数の画像の間で、前記複数の画像の明るさを表す指標の値を比較した結果を基にして、前記赤外光照射部の故障を検出する
前記(13)乃至(19)のいずれかに記載の監視システム。

(21)(第1の実施形態、小分け領域毎の差異の判定)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された第1の複数枚の撮像画像のそれぞれを第2の複数個の小分け領域に分け、
前記第2の複数個の小分け領域のそれぞれを1つの画像として前記画像の明るさを表す指標の値を求め、
前記第1の複数枚の撮像画像の間で、前記第2の複数個の小分け領域毎に前記明るさを表す指標の値を比較した比較結果を基にして、前記赤外光照射部の故障を検出する
前記(13)乃至(20)のいずれかに記載の監視システム。

(22)(第1の実施形態、小分け領域毎の差異の判定)
前記第1の複数枚の撮像画像の間で、前記第2の複数個の小分け領域毎に前記明るさを表す指標の値を比較した結果、前記第2の複数個の小分け領域のいずれかにおいて、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合には、前記赤外光照射部に故障が発生していると検出する
前記(21)に記載の監視システム。

(23)(第2の実施形態、基本構成=撮像制御部からの情報入力)
前記監視センサ装置は、
前記撮像制御部からの情報を、前記故障検出部へ入力する構造を備える
前記(12)乃至(22)のいずれかに記載の監視システム。

(24)(第2の実施形態、撮像制御部からの情報を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像制御部からの情報を基にして、前記赤外光照射部の故障を検出する
前記(23)に記載の監視システム。

(25)(第2の実施形態、撮像制御部からの情報を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、
前記撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、
を比較した比較結果を基にして、前記赤外光照射部の故障を検出する
前記(24)に記載の監視システム。

(26)(第2の実施形態、失報対策)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理条件、の少なくとも一方が低照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(25)に記載の監視システム。

(27)(第2の実施形態、失報対策、撮像制御部における撮像条件を基にした故障検出)
前記撮像条件は、画像の撮像に用いた露光時間、または、ISO感度と呼ばれる画像を撮像した際の撮像感度、または、画像を撮像した際の絞りの大きさ、である
前記(26)に記載の監視システム。

(28)(第2の実施形態、失報対策、撮像制御部における撮像条件を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、撮像条件として、露光時間が長くなる方向に変化するか、または、絞りの開口が大きくなる方向に変化するか、または、ISO感度と呼ばれる撮像感度が高くなる方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(27)に記載の監視システム。

(29)(第2の実施形態、失報対策、撮像制御部における画像処理条件を基にした故障検出)
前記画像処理の条件は、撮像した画像に掛けるゲインの大きさである
前記(26)に記載の監視システム。

(30)(第2の実施形態、失報対策、撮像制御部における画像処理条件を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、画像処理条件として、撮像した画像に掛けるゲインが大きくなる方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(29)に記載の監視システム。

(31)(第2の実施形態、誤報対策)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の撮像条件と画像処理条件の少なくとも一方が高照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障なしと検出する
前記(25)に記載の監視システム。

(32)(第2の実施形態、誤報対策、撮像制御部における撮像条件を基にした故障検出)
前記撮像条件は、画像の撮像に用いた露光時間、または、ISO感度と呼ばれる画像を撮像した際の撮像感度、または、画像を撮像した際の絞りの大きさ、である
前記(31)に記載の監視システム。

(33)(第2の実施形態、誤報対策、撮像制御部における撮像条件を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、撮像条件として、露光時間が短くなる方向に変化するか、または、絞りの開口が小さくなる方向に変化するか、または、ISO感度と呼ばれる撮像感度が低くなる方向に変化した場合、前記赤外光照射部に故障なしと検出する
前記(32)に記載の監視システム。

(34)(第2の実施形態、誤報対策、撮像制御部における画像処理条件を基にした故障検出)
前記画像処理の条件は、撮像した画像に掛けるゲインの大きさである
前記(31)に記載の監視システム。

(35)(第2の実施形態、誤報対策、撮像制御部における画像処理条件を基にした故障検出)
前記監視センサ装置の前記故障検出部は、
前記撮像部によって撮像された複数の画像の間で、画像処理条件として、撮像した画像に掛けるゲインが小さくなる方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(34)に記載の監視システム。

(36)(第2の実施形態、経年劣化の検出)
前記監視センサ装置の前記故障検出部は、
予め設定した特定の日時に前記撮像部によって撮像された画像と、その後に定期的に撮像された画像の間で、
前記撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、の少なくとも一方を比較し、撮像条件と画像処理条件の少なくとも一方が低照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(25)に記載の監視システム。

(37)(第2の実施形態、経年劣化検出)
前記特定の日時は、システムが稼働した最初の日において予め定めた時刻である
前記(36)に記載の監視システム。

(38)(第3の実施形態、基本構成=安定画像生成部)
前記監視センサ装置は、安定画像の生成部をさらに備える
前記(12)に記載の監視システム。

(39)(第3の実施形態、基本構成=安定画像生成部)
前記安定画像は、前記撮像部によって一定期間撮像された撮像画像ストリームの画像において、動きが少なく安定して撮像された被写体の画像である
前記(38)に記載の監視システム。

(40)(第3の実施形態、故障検出方法)(第1の実施形態(13)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果を基にして、前記赤外光照射部の故障を検出する
前記(39)に記載の監視システム。

(41)(第3の実施形態、故障検出方法)(第1の実施形態(14)に相当)
前記複数の安定画像の間で、前記複数の安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合には、前記赤外光照射部に故障が発生していると検出する
前記(40)に記載の監視システム。

(42)(第3の実施形態、明るさの指標)(第1の実施形態(15)に相当)
前記複数の安定画像の明るさの比較を、前記複数の安定画像に関する輝度の比較によって行う
前記(40)または(41)に記載の監視システム。

(43)(第3の実施形態、明るさの指標)(第1の実施形態(16)に相当)
前記安定画像の明るさを表す指標の値は、
前記安定画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記安定画像に含まれる全ての画素の前記明るさを表す指標の平均値である
前記(40)乃至(42)のいずれかに記載の監視システム。

(44)(第3の実施形態、明るさの指標)(第1の実施形態(17)に相当)
前記安定画像の明るさを表す指標の値は、
前記安定画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記安定画像に含まれる全ての画素の中から抽出した一部の画素の前記明るさを表す指標の平均値である
前記(40)乃至(42)のいずれかに記載の監視システム。

(45)(第3の実施形態、明るさの指標)(第1の実施形態(18)に相当)
前記安定画像の明るさを表す指標の値は、
前記安定画像の解像度を変換した画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記解像度を変換した画像に含まれる全ての画素の前記明るさを表す指標の平均値である
前記(40)乃至(42)のいずれかに記載の監視システム。

(46)(第3の実施形態、明るさの指標)(第1の実施形態(19)に相当)
前記安定画像の明るさを表す指標の値は、
前記安定画像の解像度を変換した画像に含まれる複数の画素について前記各画素の前記明るさを表す指標の平均値を求めたものであって、前記解像度を変換した画像に含まれる全ての画素の中から抽出した一部の画素の前記明るさを表す指標の平均値である
前記(40)乃至(42)のいずれかに記載の監視システム。

(47)(第3の実施形態、小分け領域毎の差異の判定)(第1の実施形態(21)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した第1の複数枚の安定画像のそれぞれを第2の複数個の小分け領域に分け、
前記第2の複数個の小分け領域のそれぞれを1つの画像として前記画像の明るさを表す指標の値を求め、
前記第1の複数枚の安定画像の間で、前記第2の複数個の小分け領域毎に前記明るさを表す指標の値を比較した比較結果を基にして、前記赤外光照射部の故障を検出する
前記(40)乃至(46)のいずれかに記載の監視システム。

(48)(第3の実施形態、小分け領域毎の差異の判定)(第1の実施形態(22)に相当)
前記第1の複数枚の安定画像の間で、前記第2の複数個の小分け領域毎に前記明るさを表す指標の値を比較した結果、前記第2の複数個の小分け領域のいずれかにおいて、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合には、前記赤外光照射部に故障が発生していると検出する
前記(47)に記載の監視システム。

(49)(第3の実施形態、撮像制御部からの情報入力)(第2の実施形態(23)に相当)
前記監視センサ装置は、
前記撮像制御部からの情報を、前記故障検出部へ入力する構造をさらに備える
前記(40)乃至(48)のいずれかに記載の監視システム。

(50)(第3の実施形態、撮像制御部からの情報を基にした故障検出)(第2の実施形態(24)に相当)
前記監視センサ装置の前記故障検出部は、
前記撮像制御部からの情報を基にして、前記赤外光照射部の故障を検出する
前記(49)に記載の監視システム。

(51)(第3の実施形態、撮像制御部からの情報を基にした故障検出)(第2の実施形態(25)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、
を比較した比較結果を基にして、前記赤外光照射部の故障を検出する
前記(50)に記載の監視システム。

(52)(第3の実施形態、失報対策)(第2の実施形態(26)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、の少なくとも一方が低照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(51)に記載の監視システム。

(53)(第3の実施形態、失報対策、撮像制御部における撮像条件を基にした故障検出)(第2の実施形態(27)に相当)
前記撮像条件は、画像の撮像に用いた露光時間、または、ISO感度と呼ばれる画像を撮像した際の撮像感度、または、画像を撮像した際の絞りの大きさ、である
前記(52)に記載の監視システム。

(54)(第3の実施形態、失報対策、撮像制御部における撮像条件を基にした故障検出)(第2の実施形態(28)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件として、露光時間が長くなる方向に変化するか、または、絞りの開口が大きくなる方向に変化するか、または、ISO感度と呼ばれる撮像感度が高くなる方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(53)に記載の監視システム。

(55)(第3の実施形態、失報対策、撮像制御部における画像処理条件を基にした故障検出)(第2の実施形態(29)に相当)
前記画像処理の条件は、撮像した画像に掛けるゲインの大きさである
前記(52)に記載の監視システム。

(56)(第3の実施形態、失報対策、撮像制御部における画像処理条件を基にした故障検出)(第2の実施形態(30)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像に対して画像処理を加えた際の画像処理の条件として、前記各画像に掛けるゲインが大きくなる方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(55)に記載の監視システム。

(57)(第3の実施形態、誤報対策)(第2の実施形態(31)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、の少なくとも一方が高照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障なしと検出する
前記(51)に記載の監視システム。

(58)(第3の実施形態、誤報対策、撮像制御部における撮像条件を基にした故障検出)(第2の実施形態(32)に相当)
前記撮像条件は、画像の撮像に用いた露光時間、または、ISO感度と呼ばれる画像を撮像した際の撮像感度、または、画像を撮像した際の絞りの大きさ、である
前記(57)に記載の監視システム。

(59)(第3の実施形態、誤報対策、撮像制御部における撮像条件を基にした故障検出)(第2の実施形態(33)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件として、露光時間が短くなる方向に変化するか、または、絞りの開口が小さくなる方向に変化するか、または、ISO感度と呼ばれる撮像感度が低くなる方向に変化した場合、前記赤外光照射部に故障なしと検出する
前記(58)に記載の監視システム。

(60)(第3の実施形態、誤報対策、撮像制御部における画像処理条件を基にした故障検出)(第2の実施形態(34)に相当)
前記画像処理の条件は、撮像した画像に掛けるゲインの大きさである
前記(57)に記載の監視システム。

(61)(第3の実施形態、誤報対策、撮像制御部における画像処理条件を基にした故障検出)(第2の実施形態(35)に相当)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した複数の安定画像の間で、前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像に対して画像処理を加えた際の画像処理の条件として、前記各画像に掛けるゲインが小さくなる方向に変化した場合、前記赤外光照射部に故障なしと検出する
前記(60)に記載の監視システム。

(62)(第3の実施形態、経年劣化の検出)(第2の実施形態(36)に相当)
前記監視センサ装置の前記故障検出部は、
予め設定した特定の日時に前記安定画像の生成部が生成した安定画像と、その後に定期的に前記安定画像の生成部が生成した安定画像の間で、
前記安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件、あるいは、前記撮像した画像に対して画像処理を加えた際の画像処理の条件、の少なくとも一方を比較し、
前記撮像条件と画像処理条件の少なくとも一方が低照度の被写体に適した方向に変化した場合、前記赤外光照射部に故障ありと検出する
前記(51)に記載の監視システム。

(63)(第3の実施形態、経年劣化検出)(第2の実施形態(37)に相当)
前記特定の日時は、システムが稼働した最初の日において予め定めた時刻である
前記(62)に記載の監視システム。"

(64)(第3の実施形態、第1の構成例、第3の閾値)
前記監視センサ装置の前記故障検出部は、
前記安定画像の明るさについて予め定めた閾値を備え、
前記安定画像の生成部が生成した安定画像において、その明るさを表す指標の値が前記閾値を下回った場合には、前記赤外光照射部に故障が発生していると検出する
前記(38)乃至(51)のいずれかに記載の監視システム。

(65)(第3の実施形態、第1の構成例、故障判定部における判定方法)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
前記安定画像の生成部が生成した複数の安定画像の間で、前記複数の安定画像の明るさを比較した比較結果と、
前記比較を行う複数の安定画像において、前記複数の安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像条件、あるいは、前記各画像に対して画像処理を加えた際の画像処理の条件、を比較した比較結果と、
を基にして、
ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている場合と、
イ) 前記各画像の撮像条件あるいは前記画像処理の条件のいずれかが、より低照度の被写体の撮像に適した方向に変化している場合と、
ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件あるいは前記画像処理の条件のいずれもが、より高照度の被写体の撮像に適した方向へは変化していない場合には、
前記赤外光照射部に故障が発生していると検出する
前記(38)乃至(51)のいずれかに記載の監視システム。

(66)(第3の実施形態、第2の構成例、特徴点)
前記監視センサ装置は、
前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の安定画像の間で前記特徴を比較した結果を基にして、前記赤外光照射部の故障を検出する、特徴比較部をさらに備える
前記(38)乃至(51)のいずれかに記載の監視システム。

(67)(第3の実施形態、第2の構成例、特徴点)
前記被写体の特徴は、前記被写体の輪郭である
前記(66)に記載の監視システム。

(68)(第3の実施形態、第2の構成例、判定部における判定方法)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
前記安定画像の生成部が生成した複数の安定画像の間で、前記複数の安定画像の明るさを比較した比較結果と、
前記比較を行う複数の安定画像において、前記複数の安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像条件、あるいは、前記各画像に対して画像処理を加えた際の画像処理の条件、を比較した比較結果と、
前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の安定画像の間で前記特徴を比較した比較結果と、
を基にして、
ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている場合と、
イ) 前記各画像の撮像条件あるいは前記画像処理の条件のいずれかが、より低照度の被写体の撮像に適した方向に変化している場合と、
ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件あるいは前記画像処理の条件のいずれもが、より高照度の被写体の撮像に適した方向へは変化していない場合と、
エ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が、前記安定画像の特徴点の変化によるものではない場合には、
前記赤外光照射部に故障が発生していると検出する
前記(66)または(67)に記載の監視システム。

(69)(第3の実施形態、第3の構成例、変化速度)
前記監視センサ装置は、
安定画像の生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれだけの時間を掛けて発生したものなのかを検出する、変化検出部をさらに備える
前記(38)乃至(51)のいずれかに記載の監視システム。

(70)(第3の実施形態、第3の構成例、判定部における判定方法)
前記監視センサ装置の前記故障検出部は、
前記安定画像の生成部が生成した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
前記安定画像の生成部が生成した複数の安定画像の間で、前記複数の安定画像の明るさを比較した比較結果と、
前記比較を行う複数の安定画像において、前記複数の安定画像を作り出すもととなった撮像画像ストリームに含まれる各画像の撮像条件、あるいは、前記各画像に対して画像処理を加えた際の画像処理の条件、を比較した比較結果と、
安定画像の生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれほどの時間を掛けて発生したものなのかを検出し、その時間を予め定めた変化時間の閾値と比較した結果と、
を基にして、
ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている場合と、
イ) 前記各画像の撮像条件あるいは前記画像処理の条件のいずれかが、より低照度の被写体の撮像に適した方向に変化している場合と、
ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件あるいは前記画像処理の条件のいずれもが、より高照度の被写体の撮像に適した方向へは変化していない場合と、
エ) 前記最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が予め定めた変化時間の閾値よりも短い時間で発生したいた場合には、
前記赤外光照射部に故障が発生していると検出する
前記(69)に記載の監視システム。

(71)(第1の動作モード)
前記監視センサ装置の前記第1伝達制御部は、
第1の動作モードにおいて、前記検知部の検知結果または前記故障検出部の検出結果を、前記外部装置または前記端末装置に伝達する第1の伝達動作を実行させる
前記(1)乃至(70)のいずれかに記載の監視システム。

(72)(第2の動作モード)
前記監視センサ装置の前記第2伝達制御部は、
第2の動作モードにおいて、前記外部装置または前記端末装置との間で音声を伝達させる
前記(1)乃至(71)のいずれかに記載の監視システム。

(73)(第3の動作モード)
前記監視センサ装置の前記第2伝達制御部は、
第3の動作モードにおいて、前記撮像部によって撮像された前記画像を、前記外部装置または前記端末装置に伝達する第2の伝達動作を実行させる
前記(1)乃至(72)のいずれかに記載の監視システム。

(74)(第4の動作モード)
前記監視センサ装置の前記第2伝達制御部は、
第4の動作モードにおいて、前記撮像部によって撮像されて蓄積されていた前記画像を、前記外部装置または前記端末装置に伝達させる
前記(1)乃至(73)のいずれかに記載の監視システム。

(75)(動作モードの遷移)
前記検知部の検知結果または前記故障検出部の検出結果を前記監視センサ装置前記外部装置または前記端末装置へ伝達する、前記第1の動作モードにおける前記第1の伝達動作の実行をトリガとして、前記動作モードを第1の動作モードから第1の動作モードとは異なる動作モードへと遷移させる
前記(72)乃至(74)のいずれかに記載の監視システム。

(76)(監視センサ装置)
監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、
前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、
前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部と
を備える監視センサ装置。

(77)(方法)
監視センサ装置の監視方法において、
監視センサ装置による、
監視対象が存在し得る範囲に赤外光を照射する赤外光照射ステップと、
赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像ステップと、
前記撮像ステップによって撮像された画像に基づき、前記監視対象の状態を検知する検知ステップと、
前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御ステップと、
前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御ステップと、
前記第2伝達制御ステップにより前記第2の伝達動作の実行が停止されている状態において、前記撮像ステップによって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出ステップと
を含む監視方法。

(78)(プログラム)
コンピュータを、
監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、
前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、
前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部と
して機能させるプログラム。
20 撮像機能部, 21 IR照明部, 22 撮像部, 23 画像処理部, 24 撮像制御部, 30 IR照明故障検出部, 37 記憶部, 38 状態検知部, 39 伝達制御部, 40 安定画像生成部, 41 故障判定部, 100 監視センサ装置, 280 情報伝達部, 290 外部装置, 300 端末装置, 200 撮像範囲, 400 小分け領域, 411 画像記憶部, 412 画像比較部, 413 特徴比較部, 414 判定部, 415 変化検出部, 1000 監視システム, 1200 コンピュータ

Claims (20)

  1. 監視センサ装置と、
    前記監視センサ装置で取得した情報を使用者に提示する端末装置と、
    前記監視センサ装置と前記端末装置との間に介在する外部装置と
    を備える監視システムにおいて、
    前記監視センサ装置は、
    監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
    赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
    前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
    前記検知部の検知結果を前記外部装置または前記端末装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、前記撮像部によって撮像された前記画像を前記外部装置または前記端末装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部とを含む第3伝達制御部と、
    前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を基にして前記赤外光照射部の故障を検出する故障検出部とを備える
    監視システム。
  2. 前記第3伝達制御部は、前記故障検出部での前記故障の検出結果を前記外部装置または前記端末装置に伝達する動作の実行の有無をさらに制御する
    請求項1に記載の監視システム。
  3. 前記監視センサ装置は、
    前記撮像部における撮像動作を起動もしくは停止する制御、
    前記撮像部が撮像を行う際の撮像条件の制御、
    または、前記撮像した画像に対して、画像処理を加える際の画像処理条件の制御
    のうちの少なくとも一つの制御を行う撮像制御部を
    さらに備える
    請求項2に記載の監視システム。
  4. 前記監視センサ装置は、前記撮像制御部からの情報を、前記故障検出部へ入力する構造を有する
    請求項3に記載の監視システム。
  5. 前記監視センサ装置の前記故障検出部は、前記撮像制御部からの情報を基にして、前記赤外光照射部の故障を検出する
    請求項4に記載の監視システム。
  6. 前記監視センサ装置は、安定画像生成部をさらに備え、
    前記安定画像生成部は、前記撮像部によって一定期間撮像された撮像画像ストリームに含まれる複数の撮像画像について、該撮像画像内の被写体の変化を画像間で比較し、より変化が少ない被写体を備えた画像である安定画像を出力する
    請求項5に記載の監視システム。
  7. 前記撮像制御部は、前記撮像部が撮像を行う際の撮像条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件を比較し、該比較の結果を基にして前記赤外光照射部の故障を検出するか、
    または、
    前記撮像制御部は、前記撮像部が撮像した画像に対して、画像処理を加える際の画像処理条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像に対して加えられた前記画像処理の条件を比較し、該比較の結果を基にして前記赤外光照射部の故障を検出する
    請求項6に記載の監視システム。
  8. 前記撮像制御部は、前記撮像部が撮像を行う際の撮像条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像を行った際の撮像条件がより低照度の被写体に適した方向へ変化した場合に、前記赤外光照射部に故障が発生していると検出するか、
    または、
    前記撮像制御部は、前記撮像部が撮像した画像に対して、画像処理を加える際の画像処理条件の制御を行い、且つ、前記故障検出部は、前記安定画像生成部が出力した複数の安定画像の間で、前記安定画像のもととなった撮像画像ストリームに含まれる各画像に対して加えられた前記画像処理の条件がより低照度の被写体に適した方向へ変化した場合に、前記赤外光照射部に故障が発生していると検出する
    請求項7に記載の監視システム。
  9. 前記故障検出部は、
    前記安定画像生成部が出力した第1の複数枚の安定画像の間で、前記第1の複数枚の安定画像の明るさを比較した結果、
    または、
    前記安定画像生成部が出力した前記第1の複数枚の安定画像のそれぞれを第2の複数個の小分け領域に分け、前記第2の複数個の小分け領域毎に該小分け領域に含まれる画像の明るさを比較した結果
    を基にして、前記赤外光照射部の故障を検出する
    請求項8に記載の監視システム。
  10. 前記故障検出部は、
    前記安定画像生成部が出力した第1の複数枚の安定画像の間で、前記第1の複数枚の安定画像の明るさを比較し、該比較の結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合、
    または、
    前記安定画像生成部が出力した前記第1の複数枚の安定画像のそれぞれを第2の複数個の小分け領域に分け、前記第2の複数個の小分け領域毎に該小分け領域に含まれる画像の明るさを比較し、該比較の結果、前記明るさを表す指標の差が予め定めた閾値よりも大きい場合
    には、前記赤外光照射部に故障が発生していると検出する
    請求項9に記載の監視システム。
  11. 前記故障検出部は、前記安定画像生成部が出力した安定画像について、該安定画像の明るさを表す指標の値が予め定めた閾値を下回った場合には、前記赤外光照射部に故障が発生していると検出する
    請求項10に記載の監視システム。
  12. 前記故障検出部は、
    前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
    前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、
    前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件を比較した結果と
    を基にして、
    条件(ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている
    条件(イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している
    条件(ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化していない
    の前記条件(ア)乃至(ウ)の少なくとも一つの条件を満たす場合には前記赤外光照射部に故障が発生していると検出する
    請求項11に記載の監視システム。
  13. 前記監視センサ装置は、
    前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の前記安定画像の間で、前記特徴を比較する特徴比較部をさらに備える
    請求項10に記載の監視システム。
  14. 前記被写体の特徴は、前記被写体の輪郭である
    請求項13に記載の監視システム。
  15. 前記故障検出部は、
    前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
    前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、
    前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件、を比較した結果と、
    前記安定画像のそれぞれから、前記安定画像内の被写体の特徴を抽出し、複数の安定画像の間で前記特徴を比較した結果と
    を基にして、
    条件(ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている
    条件(イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している
    条件(ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化しておらず、かつ、前記明るさを表す指標の差が、前記安定画像の特徴点の変化によるものではない
    の前記条件(ア)乃至(ウ)の少なくとも一つの条件を満たす場合には前記赤外光照射部に故障が発生していると検出する
    請求項14に記載の監視システム。
  16. 前記監視センサ装置は、前記安定画像生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれだけの時間を掛けて発生したかを検出する、変化検出部をさらに備える
    請求項10に記載の監視システム。
  17. 前記故障検出部は、
    前記安定画像生成部が出力した各安定画像の明るさを表す指標の値を、予め定めた第1の閾値と比較した結果と、
    前記安定画像生成部が出力した複数の安定画像の間で、前記複数の安定画像の明るさを比較した結果と、
    前記比較を行う複数の安定画像の間で、前記複数の安定画像のもととなった撮像画像ストリームに含まれる各画像の撮像条件、または、前記各画像に対して画像処理が加えられた際の画像処理条件、を比較した結果と、
    前記安定画像生成部から出力される最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が、どれだけの時間を掛けて発生したかを検出し、その時間を予め定めた変化時間の閾値と比較した結果と
    を基にして、
    条件(ア) 前記各安定画像の明るさを表す指標の値が予め定めた前記第1の閾値を下回っている
    条件(イ) 前記各画像の撮像条件または前記画像処理条件の少なくとも一方が、より低照度の被写体に適した方向へ変化している
    条件(ウ) 前記安定画像の明るさを表す指標の値を比較した結果、前記明るさを表す指標の差が予め定めた第2の閾値よりも大きく、かつ、前記各画像の撮像条件および前記画像処理条件が、より高照度の被写体に適した方向へは変化しておらず、かつ、前記最新の安定画像と1つ前の安定画像との間に生じた被写体の変化が前記変化時間の閾値よりも短い時間で発生していた
    の前記条件(ア)乃至(ウ)の少なくとも一つの条件を満たす場合には前記赤外光照射部に故障が発生していると検出する
    請求項16に記載の監視システム。
  18. 監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
    赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
    前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
    前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、
    前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、
    前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部と
    を備える監視センサ装置。
  19. 監視センサ装置の監視方法において、
    監視センサ装置による、
    監視対象が存在し得る範囲に赤外光を照射する赤外光照射ステップと、
    赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像ステップと、
    前記撮像ステップによって撮像された画像に基づき、前記監視対象の状態を検知する検知ステップと、
    前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御ステップと、
    前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御ステップと、
    前記第2伝達制御ステップにより前記第2の伝達動作の実行が停止されている状態において、前記撮像ステップによって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出ステップと
    を含む監視方法。
  20. コンピュータを、
    監視対象が存在し得る範囲に赤外光を照射する赤外光照射部と、
    赤外光に感度を有し、前記赤外光照射部による赤外光照射下の前記監視対象が存在し得る範囲を撮像する撮像部と、
    前記撮像部によって撮像された画像に基づき、前記監視対象の状態を検知する検知部と、
    前記検知部の検知結果を他の装置に伝達する第1の伝達動作の実行の有無を制御する第1伝達制御部と、
    前記撮像部によって撮像された前記画像を、前記他の装置に伝達する第2の伝達動作の実行の有無を制御する第2伝達制御部と、
    前記第2伝達制御部により前記第2の伝達動作の実行が停止されている状態において、前記撮像部によって撮像された複数の画像を比較した比較結果を基にして、前記赤外光照射部の故障を検出する故障検出部と
    して機能させるプログラム。
JP2016221354A 2016-11-14 2016-11-14 監視システム、監視センサ装置、監視方法、およびプログラム Pending JP2018082233A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016221354A JP2018082233A (ja) 2016-11-14 2016-11-14 監視システム、監視センサ装置、監視方法、およびプログラム
PCT/JP2017/039469 WO2018088283A1 (ja) 2016-11-14 2017-11-01 監視システム、監視センサ装置、監視方法、およびプログラム
CN201780068864.9A CN109964480B (zh) 2016-11-14 2017-11-01 监控***、监控传感器设备、监控方法
US16/341,612 US20210368139A1 (en) 2016-11-14 2017-11-01 Monitoring system, monitoring sensor apparatus, monitoring method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016221354A JP2018082233A (ja) 2016-11-14 2016-11-14 監視システム、監視センサ装置、監視方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2018082233A true JP2018082233A (ja) 2018-05-24

Family

ID=62110249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016221354A Pending JP2018082233A (ja) 2016-11-14 2016-11-14 監視システム、監視センサ装置、監視方法、およびプログラム

Country Status (4)

Country Link
US (1) US20210368139A1 (ja)
JP (1) JP2018082233A (ja)
CN (1) CN109964480B (ja)
WO (1) WO2018088283A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021181952A (ja) * 2020-05-20 2021-11-25 株式会社日立エルジーデータストレージ 測距装置及び光源の発光診断方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112238829B (zh) * 2019-07-16 2023-06-02 华为技术有限公司 通信方法和装置
CN111160299A (zh) * 2019-12-31 2020-05-15 上海依图网络科技有限公司 活体识别方法及装置
CN213693880U (zh) * 2020-12-04 2021-07-13 赛万特科技有限责任公司 成像装置和具有夜视模式的摄像机
CN117911401B (zh) * 2024-03-15 2024-06-21 国网山东省电力公司泗水县供电公司 一种电力设备故障检测方法、***、存储介质及设备

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01140296A (ja) * 1987-11-26 1989-06-01 Fujitsu Ltd 設備監視システム
JPH027176A (ja) * 1988-06-27 1990-01-11 Canon Inc 画像入力装置
JP2851011B2 (ja) * 1990-07-24 1999-01-27 富士通株式会社 赤外線撮像装置の故障検出装置
JPH11154293A (ja) * 1997-11-19 1999-06-08 Harutoshi Akiyoshi 移動体管理システム
WO2005064922A1 (ja) * 2003-12-25 2005-07-14 Niles Co., Ltd. 撮像システム
JP4040613B2 (ja) * 2004-08-31 2008-01-30 キヤノン株式会社 撮像装置
JP4899534B2 (ja) * 2006-02-28 2012-03-21 ソニー株式会社 監視カメラ
JP2008054265A (ja) * 2006-08-24 2008-03-06 Neo Planning:Kk 施設用監視システム
CN201111336Y (zh) * 2006-12-18 2008-09-03 浙江惠康电子通信科技有限公司 一种无线远程视频监控***
JP5354767B2 (ja) * 2007-10-17 2013-11-27 株式会社日立国際電気 物体検知装置
CN103594003B (zh) * 2013-11-13 2015-11-25 安徽三联交通应用技术股份有限公司 一种用于驾驶人的远程监控与异常预警的方法
JPWO2015107928A1 (ja) * 2014-01-17 2017-03-23 ソニー株式会社 撮影システム、警告発生装置および方法、撮像装置および方法、並びにプログラム
EP3151552A4 (en) * 2014-05-30 2018-02-21 Hitachi Kokusai Electric Inc. Monitoring system and camera device
CN104837265A (zh) * 2015-05-13 2015-08-12 安徽省德诺电子科技有限公司 一种家居照明智能监控***
CN105719007A (zh) * 2016-01-22 2016-06-29 南京富岛信息工程有限公司 一种红外热轴音频通道故障预测方法
CN205679927U (zh) * 2016-05-10 2016-11-09 陕西云驰信息科技股份有限公司 一种智能家居远程监控***
CN106059868A (zh) * 2016-07-24 2016-10-26 哈尔滨理工大学 家居智能视频监控防护***

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021181952A (ja) * 2020-05-20 2021-11-25 株式会社日立エルジーデータストレージ 測距装置及び光源の発光診断方法
JP7297714B2 (ja) 2020-05-20 2023-06-26 株式会社日立エルジーデータストレージ 測距装置及び光源の発光診断方法

Also Published As

Publication number Publication date
US20210368139A1 (en) 2021-11-25
CN109964480A (zh) 2019-07-02
WO2018088283A1 (ja) 2018-05-17
CN109964480B (zh) 2021-01-01

Similar Documents

Publication Publication Date Title
WO2018088283A1 (ja) 監視システム、監視センサ装置、監視方法、およびプログラム
US10277805B2 (en) Monitoring system and camera device
JP4803376B2 (ja) カメラ妨害検知方式
US8159539B2 (en) Smoke detecting method and system
JP5470187B2 (ja) 画像処理装置、及び物体検出装置
JP6322128B2 (ja) 煙検出装置および煙検出方法
JP2014060711A (ja) 画像取込み設定の構成
JP6631618B2 (ja) 画像監視装置及び画像監視方法
JP2014017114A (ja) 照明システム
EP2000952A2 (en) Smoke detecting method and device
US9202283B2 (en) Method and device for detecting falls by image analysis
JP2016110261A (ja) 煙検出装置および煙検出方法
JP5235718B2 (ja) 映像監視システム
JP2017005485A (ja) 画像監視装置および画像監視方法
KR20060041555A (ko) 화력발전소 화재발생 감지 및 경보 시스템
JP5710230B2 (ja) 監視システムおよび監視方法
CN104378629A (zh) 一种摄像机故障的检测方法
JP2013004235A (ja) 照明システム
JP5167186B2 (ja) 煙検出装置
US10842414B2 (en) Information processing device, information processing method, program, and watching system
JP2020167500A (ja) 画像処理装置及び画像処理プログラム
JP6081786B2 (ja) 煙検出装置
JP2019075617A (ja) 撮像装置、および画像処理システム
US20220345623A1 (en) Smart Security Camera System with Automatically Adjustable Activity Zone and Method
JP2009151657A (ja) 複合型侵入検知装置