JP6870514B2 - 見守り支援システム及びその制御方法 - Google Patents

見守り支援システム及びその制御方法 Download PDF

Info

Publication number
JP6870514B2
JP6870514B2 JP2017138539A JP2017138539A JP6870514B2 JP 6870514 B2 JP6870514 B2 JP 6870514B2 JP 2017138539 A JP2017138539 A JP 2017138539A JP 2017138539 A JP2017138539 A JP 2017138539A JP 6870514 B2 JP6870514 B2 JP 6870514B2
Authority
JP
Japan
Prior art keywords
person
watching
determination
bed
watched
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017138539A
Other languages
English (en)
Other versions
JP2019021002A (ja
Inventor
信二 高橋
信二 高橋
田中 清明
清明 田中
純平 松永
純平 松永
達哉 村上
達哉 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2017138539A priority Critical patent/JP6870514B2/ja
Priority to PCT/JP2018/025596 priority patent/WO2019013105A1/ja
Publication of JP2019021002A publication Critical patent/JP2019021002A/ja
Application granted granted Critical
Publication of JP6870514B2 publication Critical patent/JP6870514B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/18Status alarms
    • G08B21/22Status alarms responsive to presence or absence of persons
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/04Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium using a single signalling line, e.g. in a closed loop

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Alarm Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、ベッド上の対象者の見守りを支援するための技術に関する。
ベッドからの転落事故などを未然に防ぐため、病院や介護施設などにおける患者の見守りを支援するシステムが知られている。特許文献1には、カメラで撮影した画像(撮影画像)から患者を検出し、その検出結果に基づいて患者の動作を判定し、その判定結果に応じた通知を行うシステムが提案されている。
特開2012−071003号公報
上述のように、撮影画像から対象者を検出し、その検出結果を見守り支援に役立てるという試みは、従来からなされている。しかしながら、対象者が他者に直接的に見守られている場合には通知が不要であるにも拘わらず、特許文献1のように所定の動作に応じて通知を行う方法では、そのような不要な通知が行われることがある。そして、不要な通知の発生は、通知を確認するシステム利用者の負担増加につながる。さらに、所定の動作に応じて撮影画像を通知する方法では、不要な通知により、撮影画像に写っている他者のプライバシーを侵害することになりかねない。
本発明は、上記実情に鑑みなされたものであって、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる技術を提供することを目的とする。
上記目的を達成するために、本発明では、撮像装置により撮影された画像(撮影画像)の判定領域に基づいて、対象者が他者に見守られているか否かを判定し、対象者が他者に見守られていると判定した場合に通知を省略する、という方法を採用する。
具体的には、本発明の第一態様は、ベッド上の対象者の見守りを支援する見守り支援システムであって、撮像装置により撮影された画像を取得する画像取得部と、前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定する見守り判定部と、前記撮影された画像に基づいて、前記対象者の状態を判定する状態判定部と、前記状態判定部の判定結果に応じた通知を行う出力部と、を有し、前記出力部は、前記対象者が前記他者に見守られていると前記見守り判定部により判定された場合に、前記通知を省略することを特徴とする見守り支援システムを提供する。
この構成によれば、ベッドの領域とその周辺の領域とを撮影した画像から、対象者が他者に見守られているか否かが判定される。ここで、患者や要介護者などの対象者を、看護師や介護者などの他者が見守る場合を考える。この場合には、対象者はベッドにいる可能性が高く、他者はベッド周辺にいる可能性が高い。そのため、上記構成によれば、対象者が他者に見守られているか否かを高精度に判定することができる。そして、通知は、直接的に見守られていない対象者を間接的に見守るために必要であり、対象者が他者に直接的
に見守られている場合には不要である。上記構成によれば、対象者が他者に見守られていると判定された場合に、通知が省略される。これにより、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。例えば、不要な通知をシステム利用者が確認するといった手間を省くことができる。また、見舞客などのシステムの利用に関与しない他者の画像が不必要に通知されることを抑制でき、他者のプライバシーを保護することができる。
前記見守り判定部は、前記判定領域に2人以上の人物が存在する場合に、前記対象者が前記他者に見守られていると判定するとよい。2人以上の人物の中に、対象者と、対象者を見守る他者とが含まれる可能性が高いからである。
前記見守り判定部は、前記ベッドに存在する第1の人物と、前記第1の人物の方を向いている第2の人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定してもよい。ベッドに存在する第1の人物は対象者である可能性が高く、対象者(第1の人物)の方を向いている第2の人物は対象者を見守る人物である可能性が高いからである。
前記見守り判定部は、顔向きのベクトルと、前記第1の人物へ向かうベクトルとのなす角度が閾値以下である人物を、前記第1の人物の方を向いている前記第2の人物として決定するとよい。顔向きのベクトルと、第1の人物へ向かうベクトルとのなす角度が閾値以下である人物は、第1の人物の方を向いている可能性が高いからである。
前記見守り判定部は、見守られる動作を行っている人物と、見守る動作を行っている人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定してもよい。見守られる動作を行っている人物は、他者に見守られている対象者である可能性が高く、見守る動作を行っている人物は、対象者を見守っている他者である可能性が高いからである。
なお、本発明は、上記構成ないし機能の少なくとも一部を有する見守り支援システムとして捉えることができる。また、本発明は、上記処理の少なくとも一部を含む、見守り支援方法又は見守り支援システムの制御方法や、これらの方法をコンピュータに実行させるためのプログラム、又は、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。上記構成及び処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。
本発明によれば、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。
図1は見守り支援システムのハードウェア構成および機能構成を模式的に示すブロック図である。 図2は撮像装置の設置例を示す図である。 図3Aは撮影画像の例であり、図3Bと図3Dは見守り判定領域の例であり、図3Cは行動判定領域の例である。 図4は状態監視処理のフローチャートである。 図5は見守り判定処理のフローチャートである。 図6Aと図6Bは撮影画像の例である。 図7は見守り判定処理(第1の変形例)のフローチャートである。 図8Aと図8Bは撮影画像の例である。 図9は見守り判定処理(第2の変形例)のフローチャートである。
本発明は、ベッド上の対象者の見守りを支援するための技術に関する。この技術は、病院や介護施設などにおいて、患者や要介護者などの離床・起床行動を自動で検知し、危険な状態が発生した場合などに必要な通知を行うシステムに適用することができる。このシステムは、例えば、高齢者、認知症患者、子供などの見守り支援に好ましく利用することができる。
以下、図面を参照して本発明を実施するための好ましい形態の一例を説明する。ただし、以下の実施形態に記載されている装置の構成や動作は一例であり、本発明の範囲をそれらのみに限定する趣旨のものではない。
(システム構成)
図1と図2を参照して、本発明の実施形態に係る見守り支援システムの構成を説明する。図1は、見守り支援システム1のハードウェア構成および機能構成を模式的に示すブロック図であり、図2は、撮像装置の設置例を示す図である。
見守り支援システム1は、主なハードウェア構成として、撮像装置10と情報処理装置11を有している。撮像装置10と情報処理装置11の間は有線又は無線により接続されている。図1では、1つの撮像装置10のみ示しているが、複数台の撮像装置10を情報処理装置11に接続してもよい。
撮像装置10は、ベッド上の対象者を撮影して画像データを取り込むためのデバイスである。撮像装置10としては、モノクロ又はカラーの可視光カメラ、赤外線カメラ、三次元カメラなどを用いることができる。本実施形態では、夜間でも(部屋内が暗い場合でも)対象者の見守りを可能とするため、赤外線LED照明100と近赤外線カメラ101で構成される撮像装置10を採用する。撮像装置10は、図2に示すように、ベッド20の頭側上方から足側に向かって、ベッド20の全体を俯瞰するように設置される。撮像装置10は所定の時間間隔(例えば、30fps)で撮影を行い、その画像データは情報処理装置11に順次取り込まれる。なお、撮像装置10の向きは特に限定されない。ベッド20の足側からの向きで撮像装置10が設置されてもよいし、ベッド20の側面側からの向きで撮像装置10が設置されてもよい。
情報処理装置11は、撮像装置10から取り込まれる画像データをリアルタイムに分析し、ベッド20上の対象者21の起床状態や離床状態を自動で検知し、必要な場合に通知を行う機能を備える装置である。情報処理装置11は、具体的な機能として、画像取得部110、検出部111、見守り判定部112、行動判定部113、出力部114、領域設定部115、記憶部116を有している。本実施形態の情報処理装置11は、CPU(プロセッサ)、メモリ、ストレージ(HDD、SSDなど)、入力デバイス(キーボード、マウス、タッチパネルなど)、出力デバイス(ディスプレイ、スピーカなど)、通信インタフェースなどを具備する汎用のコンピュータにより構成され、上述した情報処理装置11の各機能は、ストレージ又はメモリに格納されたプログラムをCPUが実行することにより実現される。ただし、情報処理装置11の構成はこの例に限られない。例えば、複数台のコンピュータによる分散コンピューティングを行ってもよいし、上記機能の一部をクラウドサーバにより実行してもよいし、上記機能の一部をASICやFPGAのような回路で実行してもよい。
画像取得部110は、撮像装置10により撮影された画像(撮影画像)を取得する機能である。画像取得部110より入力された画像データは一時的にメモリ又はストレージに
記録され、検出部111、見守り判定部112、行動判定部113などの処理に供される。
検出部111は、画像取得部110により取得された撮影画像を分析し、当該撮影画像から、見守り対象者21や他者(看護師や介護者など)を検出する。例えば、検出部111は、人物の人体又はその一部(頭部、顔、上半身など)を検出する。撮影画像から人体やその一部を検出する方法としてはいかなる方法を用いてもよい。例えば、古典的なHaar−like特徴量やHoG特徴量を用いた識別器による手法や近年のFaster R−CNNによる手法を用いた物体検出アルゴリズムを好ましく用いることができる。本実施形態の検出部111は、Haar−like特徴量を用いた識別器により頭部(首より上の部分;例えば対象者21の頭部22)を検出し、検出結果として、頭部の位置(x,y)及びサイズ(縦横のピクセル数)を出力する。頭部の位置(x,y)は、例えば、頭部を囲む矩形枠の中心点の画像座標で表される。なお、本実施形態の検出部111は検出結果を画像座標系の位置・サイズで出力するが、検出部111が画像座標系を空間座標系に換算し、人物の空間座標系における3次元位置や3次元的なサイズを出力してもよい。
見守り判定部112は、画像取得部110により取得された撮影画像の一部の領域であり、且つ、ベッド20を含む領域である見守り判定領域の画像に基づいて、対象者21が他者に見守られているか否かを判定する機能である。本実施形態では、見守り判定部112は、見守り判定領域に対する検出部111の検出結果に基づいて、対象者21が他者に見守られているか否かを判定する。見守り判定部112の処理(見守り判定処理)については後述する。
行動判定部113は、画像取得部110により取得された撮影画像に基づいて、対象者21の状態や行動を判定する機能である。本実施形態では、行動判定部113は、撮影画像全体に対する検出部111の検出結果に基づいて、起床判定、離床判定などを行う。
出力部114は、行動判定部113の判定結果に応じた通知を行う機能である。本実施形態では、出力部114は、行動判定部113により対象者21の起床動作ないし離床動作が検知された場合に、必要な通知を行う。出力部114は、対象者21の動作の危険度合いに応じて、通知の要否(例えば、危険な状態の場合のみ通知を行う)、通知の内容(例えばメッセージの内容)、通知手段(例えば音声、メール、ブザー、警告灯)、通知先(例えば看護師、医師)、通知の頻度などを切り替えることができる。本実施形態では、出力部114は、対象者21が他者に見守られていると見守り判定部112により判定された場合に、通知を省略する。
領域設定部115は、撮像装置10により撮影される撮影画像に対し判定領域(見守り判定領域や行動判定領域)を設定する機能である。見守り支援システム1はベッド20上の対象者21の状態監視を目的とするため、撮影画像内のベッド20の領域に基づき判定領域が設定される。判定領域の設定は、手動で行ってもよいし自動で行ってもよい。手動設定の場合、領域設定部115は、撮影画像内のベッド領域ないし判定領域そのものをユーザに入力させるためのユーザインタフェースを提供するとよい。自動設定の場合、領域設定部115は、物体認識処理により撮影画像からベッド領域を検出するとよい。
図3Aは、撮影画像の例であり、図3Bは、図3Aの撮影画像に対し設定された見守り判定領域の例である。図3Cは、図3Aの撮影画像に対し設定された行動判定領域の例である。本実施形態では、領域設定部115は、ベッド領域30を基準として、見守り判定領域A0と行動判定領域A1〜A3を設定する。見守り判定領域A0は、ベッド領域30とその周辺からなる領域であり、対象者21が他者に見守られている時に対象者21と他
者が存在し得る範囲に対応する。行動判定領域A1は、ベッド20の頭側に設定される領域であり、就床時(対象者21がベッド20に寝ている時)に対象者21の頭部22が存在し得る範囲に対応する(以後、就床領域A1と呼ぶ)。行動判定領域A2は、ベッド20の足側に設定される領域であり、起床時(対象者21が上半身を起こした姿勢の時)に対象者21の頭部22が存在し得る範囲に対応する(以後、起床領域A2と呼ぶ)。本実施形態において、ベッド領域30に対する各判定領域A0〜A2の相対的な位置・サイズが予め決められており、ベッド領域30が特定されれば各判定領域A0〜A2の範囲は計算で定まるものとする。行動判定領域A3は、行動判定領域A1、A2以外の領域である。離床時(対象者21がベッド20から離れた状態の時)は、対象者21の頭部22は行動判定領域A3内に存在する(以後、離床領域A3と呼ぶ)。
本実施形態では、見守り判定部112は、見守り判定領域A0に2つ以上の頭部の検出位置が属すか否かを判定する。そして、見守り判定部112は、見守り判定領域A0に2つ以上の頭部の検出位置が属す場合に、対象者21が他者に見守られていると判定し、そうでない場合に、対象者21が他者に見守られていないと判定する。
また、本実施形態では、行動判定部113は、頭部の検出位置が行動判定領域A1〜A3のいずれに属するかを判定し、対象者21の状態を分類する。ここでは、頭部が就床領域A1内で検出された場合を「就床状態」、起床領域A2内で検出された場合を「起床状態」、離床領域A3内で検出された場合を「離床状態」と呼ぶ。そして、行動判定部113は、「就寝状態」から「起床状態」への状態変化を起床動作として検知し、「起床状態」から「離床状態」への状態変化を離床動作として検知する。
記憶部116は、見守り支援システム1が処理に用いる各種のデータを記憶する機能である。記憶部116には、少なくとも、起床判定、離床判定などで用いる各種パラメータ(閾値など)、判定領域の設定情報、過去複数フレームの画像データ又は検出結果(移動速度や移動方向の計算のため)を記憶するための記憶エリアが設けられる。
(状態監視処理)
図4を参照して本システムの状態監視処理の一例を説明する。図4の処理フローは、撮像装置10から1フレームの画像が取り込まれる度に実行される。
まず、ステップS40において、画像取得部110は、撮像装置10から1フレームの撮影画像を取り込む。取得された撮影画像は記憶部116に一時的に記録される。
次に、ステップS41において、検出部111は、ステップS40で取得された撮影画像から頭部を検出する。検出された頭部の位置(xy座標)の情報は、ステップS40で取得された撮影画像の撮影時刻の情報または当該撮影画像のフレーム番号に対応付けられて記憶部116に記録される。
そして、ステップS42において、見守り判定部112は、ステップS41の検出結果を用いて見守り判定処理を行う。
次に、ステップS43において、ステップS42の判定結果に応じて処理が切り替えられる。対象者21が他者に見守られていると判定された場合には、ステップS44へ処理が進められる。対象者21が他者に見守られていると判定されなかった場合には、ステップS44とステップS45の処理が省略され、本フローチャートが終了される。
ステップS44において、行動判定部113は、ステップS41の検出結果を用いて、対象者21の状態や行動を判定する。ステップS45において、出力部114は、ステッ
プS44の判定結果に応じた通知を行う。
(見守り判定処理)
図5と図6Aと図6Bを参照して、ステップS42の見守り判定処理の一例について説明する。図5は、見守り判定部112により実行される見守り判定処理のフローチャートであり、図6Aと図6Bは、画像取得部110により取得された撮影画像の例である。
まず、ステップS50において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検出された場合には、ステップS51へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS52へ処理が進められる。
ステップS51において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
ステップS52において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
ここで、図6Aの撮影画像60がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部61のみが検出される。そのため、対象者21が他者に見守られていないと判定され(ステップS52)、対象者21の状態や行動に応じて通知が行われる(ステップS44とステップS45)。
次に、図6Bの撮影画像62がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部61と、対象者21を見守る他者の頭部63とが検出される。そのため、対象者21が他者に見守られていると判定され(ステップS51)、ステップS45の通知が省略される。
以上述べたように、本実施形態によれば、ベッドの領域とその周辺の領域とを撮影した画像から、対象者が他者に見守られているか否かが判定される。ここで、患者や要介護者などの対象者を、看護師や介護者などの他者が見守る場合を考える。この場合には、対象者はベッドにいる可能性が高く、他者はベッド周辺にいる可能性が高い。そのため、上記構成によれば、対象者が他者に見守られているか否かを高精度に判定することができる。
具体的には、見守り判定領域に2人以上の人物が存在する場合に限って、対象者が他者に見守られていると判定される。2人以上の人物の中に、対象者と、対象者を見守る他者とが含まれる可能性が高いため、この構成によれば、対象者が他者に見守られていることを高精度に検出することができる。さらに、撮影画像に2人以上の人物が写っている場合には、他者の状態が対象者の状態として誤検出されることがあるが、本実施形態では、そのような誤検出を抑制することもできる。
そして、通知は、直接的に見守られていない対象者を間接的に見守るために必要であり、対象者が他者に直接的に見守られている場合には不要である。本実施形態によれば、対象者が他者に見守られていると判定された場合に、通知が省略される。これにより、不要な通知を抑制することができ、システム利用者の負担軽減やプライバシー保護などの効果を得ることができる。例えば、不要な通知をシステム利用者が確認するといった手間を省くことができる。また、他者の画像が不必要に通知されることを抑制でき、他者のプライバシーを保護することができる。
<その他>
上記の実施形態の説明は、本発明を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。例えば、上記実施形態では、台形の見守り判定領域A0(図3B)が設定される例を説明したが、見守り判定領域A0の形状やサイズは特に限定されない。例えば、図3Dに示すように、六角形の見守り判定領域A0が設定されてもよい。
また、見守り判定処理のフローチャートは図5のフローチャートに限られない。以下に、見守り判定処理の変形例について説明する。
(第1の変形例)
図7と図8Aと図8Bを参照して、見守り判定処理の第1の変形例について説明する。図7は、見守り判定部112により実行される見守り判定処理のフローチャートであり、図8Aと図8Bは、画像取得部110により取得された撮影画像の例である。
まず、ステップS70において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検出された場合には、ステップS71へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS75へ処理が進められる。
ステップS71において、見守り判定部112は、画像取得部110により取得された撮影画像を用いて、当該撮影画像の見守り判定領域A0から顔を検出する。基本的には、頭部が検出された領域で、顔が検出される。但し、後頭部などの領域では、顔が写っていないため、頭部は検出されるが、顔は検出されない。
次に、ステップS72において、見守り判定部112は、ステップS71で1つ以上の顔が検出されたか否かを判定する。1つ以上の顔が検出された場合には、ステップS73へ処理が進められ、顔が1つも検出されなかった場合には、ステップS75へ処理が進められる。
ステップS73において、見守り判定部112は、ステップS41とステップS72の検出結果に基づいて、ベッド20に存在する第1の人物と、第1の人物の方を向いている第2の人物とが見守り判定領域A0に存在するか否かを判定する。ここで、第1の人物が第2の人物に見守られていると考えられるため、以後、第1の人物を「被見守り者」と記載し、第2の人物を「見守り者」と記載する。被見守り者と見守り者が存在する場合には、ステップS74へ処理が進められ、そうでない場合には、ステップS75へ処理が進められる。
ステップS74において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
ステップS75において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
ここで、図8Aの撮影画像80がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部81と、対象者21を見守らない他者の頭部82とが検出される。そして、ステップS71において、他者の顔83が検出される。
その後、ステップS73において、以下の処理が行われる。まず、見守り判定部112
は、ベッド20内で検出された頭部81を、被見守り者の頭部として決定する。次に、見守り判定部112は、顔83の向きのベクトル84と、顔83(頭部82)から頭部81へ向かうベクトル85とを算出する。そして、見守り判定部112は、ベクトル84とベクトル85のなす角度θ1(≦180度)が閾値以下であるか否かを判定する。閾値は、被見守り者の方を向いているか否かを判定するための角度であり、例えば45度である。
角度θ1が閾値(45度)よりも大きいため、見守り判定部112は、顔83の人物を、見守り者ではなく、被見守り者の方を向いていない人物として決定する。すなわち、見守り判定部112は、見守り判定領域A0に被見守り者が存在するが、見守り判定領域A0に見守り者が存在しないと判定する。そのため、対象者21が他者に見守られていないと判定され(ステップS75)、対象者21の状態や行動に応じて通知が行われる(ステップS44とステップS45)。
次に、図8Bの撮影画像86がステップS40で取得された場合を考える。この場合には、ステップS41において、見守り判定領域A0内の頭部として、対象者21の頭部81と、対象者21を見守る他者の頭部87とが検出される。そして、ステップS71において、他者の顔88が検出される。
その後、ステップS73において、以下の処理が行われる。まず、見守り判定部112は、ベッド20内で検出された頭部81を、被見守り者の頭部として決定する。次に、見守り判定部112は、顔88の向きのベクトル89と、顔88(頭部87)から頭部81へ向かうベクトル90とを算出する。そして、見守り判定部112は、ベクトル89とベクトル90のなす角度θ2(≦180度)が閾値以下であるか否かを判定する。
角度θ2は閾値(45度)以下であるため、見守り判定部112は、顔88の人物を、見守り者として決定する。すなわち、見守り判定部112は、見守り判定領域A0に被見守り者と見守り者が存在すると判定する。そのため、対象者21が他者に見守られていると判定され(ステップS74)、ステップS45の通知が省略される。
以上述べたように、第1の変形例によれば、ベッドに存在する被見守り者(第1の人物)と、被見守り者の方を向いている見守り者(第2の人物)とが見守り判定領域に存在する場合に限って、対象者が他者に見守られていると判定される。ベッドに存在する被見守り者は対象者である可能性が高く、対象者(被見守り者)の方を向いている見守り者は対象者を見守る人物である可能性が高い。そして、他者が対象者の傍にいたとしても、他者が対象者の方を向いていない場合には、他者が対象者を見守っているとは言いにくい。そのため、この構成によれば、対象者が他者に見守られているか否かをより高精度に判定することができる。
また、第1の変形例によれば、顔向きのベクトルと、被見守り者へ向かうベクトルとのなす角度が閾値以下である人物が、見守り者として決定される。顔向きのベクトルと、被見守り者へ向かうベクトルとのなす角度が閾値以下である人物は、被見守り者の方を向いている可能性が高い。そのため、この構成によれば、見守り者を高精度に検出することができる。
(第2の変形例)
図9を参照して、見守り判定処理の第2の変形例について説明する。図9は、見守り判定部112により実行される見守り判定処理のフローチャートである。
まず、ステップS90において、見守り判定部112は、見守り判定領域A0内で2つ以上の頭部が検出されたか否かを判定する。見守り判定領域A0内で2つ以上の頭部が検
出された場合には、ステップS91へ処理が進められ、見守り判定領域A0内で頭部が1つのみ検出された場合には、ステップS94へ処理が進められる。
ステップS91において、見守り判定部112は、画像取得部110により取得された撮影画像を用いて、当該撮影画像の見守り判定領域A0から、見守られる動作を行っている被見守り動作者と、見守る動作を行っている見守り動作者とを検出する。見守られる動作は、起床や就寝の被介助、食事の被介助、更衣の被介助などの動作であり、見守る動作は、起床や就寝の介助、食事の介助、更衣の介助などの動作である。被見守り動作者や見守り動作者は、例えば、HoG特徴量を用いた識別器による手法やFaster R−CNNによる手法を用いた物体検出アルゴリズムにより検出される。
次に、ステップS92において、見守り判定部112は、ステップS91で被見守り動作者と見守り動作者との両方が検出されたか否かを判定する。被見守り動作者と見守り動作者の両方が検出された場合には、ステップS93へ処理が進められ、そうでない場合には、ステップS94へ処理が進められる。
ステップS93において、見守り判定部112は、対象者21が他者に見守られていると判定する(見守りあり判定)。
ステップS94において、見守り判定部112は、対象者21が他者に見守られていないと判定する(見守りなし判定)。
以上述べたように、第2の変形例によれば、見守られる動作を行っている人物と、見守る動作を行っている人物とが見守り判定領域に存在する場合に限って、対象者が他者に見守られていると判定する。見守られる動作を行っている人物は、他者に見守られている対象者である可能性が高く、見守る動作を行っている人物は、対象者を見守っている他者である可能性が高い。そして、他者が対象者の傍にいたとしても、他者が見守る動作を行っていない場合には、他者が対象者を見守っているとは言いにくい。そのため、この構成によれば、対象者が他者に見守られているか否かをより高精度に判定することができる。
1:見守り支援システム 10:撮像装置 11:情報処理装置
110:画像取得部 111:検出部 112:見守り判定部 113:行動判定部 114:出力部 115:領域設定部 116:記憶部
100:赤外線LED照明 101:近赤外線カメラ 20:ベッド 21:対象者 22:頭部
30:ベッド領域 A0:見守り判定領域 A1:就床領域(行動判定領域) A2:起床領域(行動判定領域) A3:離床領域(行動判定領域)
60:撮影画像 61:頭部 62:撮影画像 63:頭部
80:撮影画像 81:頭部 82:頭部 83:顔 84:ベクトル 85:ベクトル 86:撮影画像 87:頭部 88:顔 89:ベクトル 90:ベクトル θ1:角度 θ2:角度

Claims (4)

  1. ベッド上の対象者の見守りを支援する見守り支援システムであって、
    撮像装置により撮影された画像を取得する画像取得部と、
    前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定する見守り判定部と、
    前記撮影された画像に基づいて、前記対象者の状態を判定する状態判定部と、
    前記状態判定部の判定結果に応じた通知を行う出力部と、
    を有し、
    前記見守り判定部は、前記ベッドに存在する第1の人物と、前記第1の人物の方を向いている第2の人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定し、
    前記出力部は、前記対象者が前記他者に見守られていると前記見守り判定部により判定された場合に、前記通知を省略する
    ことを特徴とする見守り支援システム。
  2. 前記見守り判定部は、顔向きのベクトルと、前記第1の人物へ向かうベクトルとのなす角度が閾値以下である人物を、前記第1の人物の方を向いている前記第2の人物として決定する
    ことを特徴とする請求項に記載の見守り支援システム。
  3. ベッド上の対象者の見守りを支援する見守り支援システムの制御方法であって、
    撮像装置により撮影された画像を取得するステップと、
    前記撮影された画像の一部の領域であり、且つ、前記ベッドを含む領域である判定領域の画像に基づいて、前記対象者が他者に見守られているか否かを判定するステップと、
    前記撮影された画像に基づいて、前記対象者の状態を判定するステップと、
    前記対象者の状態の判定結果に応じた通知を行うステップと、
    を有し、
    前記ベッドに存在する第1の人物と、前記第1の人物の方を向いている第2の人物とが前記判定領域に存在する場合に、前記対象者が前記他者に見守られていると判定され、
    前記対象者が前記他者に見守られていると判定された場合に、前記通知が省略される
    ことを特徴とする見守り支援システムの制御方法。
  4. 請求項に記載の見守り支援システムの制御方法の各ステップをコンピュータに実行させるためのプログラム。
JP2017138539A 2017-07-14 2017-07-14 見守り支援システム及びその制御方法 Active JP6870514B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017138539A JP6870514B2 (ja) 2017-07-14 2017-07-14 見守り支援システム及びその制御方法
PCT/JP2018/025596 WO2019013105A1 (ja) 2017-07-14 2018-07-05 見守り支援システム及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017138539A JP6870514B2 (ja) 2017-07-14 2017-07-14 見守り支援システム及びその制御方法

Publications (2)

Publication Number Publication Date
JP2019021002A JP2019021002A (ja) 2019-02-07
JP6870514B2 true JP6870514B2 (ja) 2021-05-12

Family

ID=65002445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017138539A Active JP6870514B2 (ja) 2017-07-14 2017-07-14 見守り支援システム及びその制御方法

Country Status (2)

Country Link
JP (1) JP6870514B2 (ja)
WO (1) WO2019013105A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112766185B (zh) * 2021-01-22 2022-06-14 燕山大学 基于深度学习的头部姿态监控方法、装置及***
JPWO2022215158A1 (ja) * 2021-04-06 2022-10-13

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5915199B2 (ja) * 2012-01-20 2016-05-11 富士通株式会社 状態検知装置および状態検知方法
JP2015139550A (ja) * 2014-01-29 2015-08-03 シャープ株式会社 離床判定装置および離床判定方法
CN105940434A (zh) * 2014-03-06 2016-09-14 诺日士精密株式会社 信息处理装置、信息处理方法及程序
JP2015220596A (ja) * 2014-05-16 2015-12-07 株式会社ニコン 電子機器
US10121062B2 (en) * 2014-11-03 2018-11-06 Koninklijke Philips N.V. Device, system and method for automated detection of orientation and/or location of a person
JP2016177680A (ja) * 2015-03-20 2016-10-06 株式会社リコー 情報処理システム、情報処理端末、情報処理方法、及びプログラム
US20180300538A1 (en) * 2015-06-10 2018-10-18 Konica Minolta, Inc. Image processing system, image processing apparatus, image processing method, and image processing program
JP6503262B2 (ja) * 2015-08-19 2019-04-17 アイホン株式会社 動作認識装置

Also Published As

Publication number Publication date
JP2019021002A (ja) 2019-02-07
WO2019013105A1 (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
US10786183B2 (en) Monitoring assistance system, control method thereof, and program
US9600993B2 (en) Method and system for behavior detection
JP2014236896A (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6822328B2 (ja) 見守り支援システム及びその制御方法
JP6119938B2 (ja) 画像処理システム、画像処理装置、画像処理方法、および画像処理プログラム
JP6870514B2 (ja) 見守り支援システム及びその制御方法
JP6822326B2 (ja) 見守り支援システム及びその制御方法
US10762761B2 (en) Monitoring assistance system, control method thereof, and program
JP6729510B2 (ja) 見守り支援システム及びその制御方法
JP2018533240A (ja) 占有検出
JP2015213537A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
WO2020008726A1 (ja) 対象物体検出プログラム、および対象物体検出装置
JP7351339B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
TWI697869B (zh) 姿態判斷方法、電子系統以及非暫態電腦可讀取記錄媒體
JP6729512B2 (ja) 見守り支援システム及びその制御方法
JP2021033379A (ja) 画像処理システム、画像処理プログラム、および画像処理方法
JP6635074B2 (ja) 見守り支援システム及びその制御方法
JP6606912B2 (ja) 浴室異常検知装置、浴室異常検知方法、及び浴室異常検知プログラム
US20220054046A1 (en) Assessing patient out-of-bed and out-of-chair activities using embedded infrared thermal cameras
JP7435609B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
US20230412919A1 (en) Device and method for controlling a camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20201027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210329

R150 Certificate of patent or registration of utility model

Ref document number: 6870514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250