JP7504193B2 - ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法 - Google Patents

ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法 Download PDF

Info

Publication number
JP7504193B2
JP7504193B2 JP2022506901A JP2022506901A JP7504193B2 JP 7504193 B2 JP7504193 B2 JP 7504193B2 JP 2022506901 A JP2022506901 A JP 2022506901A JP 2022506901 A JP2022506901 A JP 2022506901A JP 7504193 B2 JP7504193 B2 JP 7504193B2
Authority
JP
Japan
Prior art keywords
subject
fall
audio
determined
heart rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022506901A
Other languages
English (en)
Other versions
JP2022544757A (ja
JPWO2021032556A5 (ja
Inventor
サーマン パルヴァネー
アリ アクバル アハマド サマダーニ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2022544757A publication Critical patent/JP2022544757A/ja
Publication of JPWO2021032556A5 publication Critical patent/JPWO2021032556A5/ja
Application granted granted Critical
Publication of JP7504193B2 publication Critical patent/JP7504193B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0407Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
    • G08B21/043Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting an emergency event, e.g. a fall
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1116Determining posture transitions
    • A61B5/1117Fall detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/0205Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1118Determining activity level
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0407Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
    • G08B21/0423Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting deviation from an expected pattern of behaviour or schedule
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0446Sensor means for detecting worn on the body to detect changes of posture, e.g. a fall, inclination, acceleration, gait
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0469Presence detectors to detect unsafe condition, e.g. infrared sensor, microphone
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/001Alarm cancelling procedures or alarm forwarding decisions, e.g. based on absence of alarm confirmation
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/016Personal emergency signalling and security systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B29/00Checking or monitoring of signalling or alarm systems; Prevention or correction of operating errors, e.g. preventing unauthorised operation
    • G08B29/18Prevention or correction of operating errors
    • G08B29/183Single detectors using dual technologies

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Physiology (AREA)
  • Gerontology & Geriatric Medicine (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Cardiology (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Psychiatry (AREA)
  • Computer Security & Cryptography (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Pulmonology (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)

Description

本発明は、ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法に関する。
高齢者は、転倒の危険性が高く、その結果、一般的な歩行低下から重度の身体的障害までに及ぶ様々な悪い状態をもたらす。従来の転倒の加速度検出は、個人用緊急応答システム(PERS)における歩行の追跡及び転倒の検出に広く使用されてきた。加速度測定技術の技術的進歩にもかかわらず、特に、ユーザの転倒関連の疼痛レベルを検出するPERSの能力を向上させること、及び誤検出を減らすことに関して、未だ改善の余地がある。
特に、2014年の米国の65歳以上の人口は約4620万人で、これは2004年から約28%増加し、2040年までに約8230万人まで増加すると予測されている。この集団内において、85歳以上の人口は、2014年の約620万人から2040年には約1460万人まで3倍になると予測されている。高齢者の大部分は、住み慣れたところで年を重ねる(すなわち、自分の家及び地域に住み続ける)ように思われる。例えば、米国では、65歳以上のメディケア受益者(Medicare beneficiaries)の約93%が住み慣れたところで年を重ね、カナダでは65歳以上の人の約92%が住み慣れたところで年を重ねている。この急増する高齢者は、住み慣れたところで年を重ねながら、自立し、健康な生活を可能にする技術を必要とする。
転倒は、高齢者における有害で致死的な身体的障害の主な原因の一つである。例えば、毎年、65歳以上の高齢者の約3分の1が、少なくとも1回の転倒を経験し、これらの転倒の最大で約15%が、重傷及び死に至る。例えば、Philips LifelineのようなPERSは、ユーザの移動を連続的に監視し、転倒を自動的に検出し、必要に応じて緊急ケアを提供することにより、自立し、安全に住み慣れたところで年を重ねること可能にすることを目的とする。通常、PERSは、加速度計、ジャイロスコープ及び磁力計を一般的に有する慣性計測装置(IMU)を用いて、ユーザの活動及び移動状態を追跡する。これらのシステムは、非転倒のポジティブ(すなわち、例えば深い椅子に座っているような誤った事象)に対してロバストである、より正確な検出モデルから常に恩恵を受けることができる。転倒事象を検出することに加え、転倒に起因するユーザの疼痛レベルが自動的に評価され、それに応じて必要なケアを提供する、ユーザを意識したPERSを構築することが重要である。これは、一般的に痛みが完全に治療されていない、認知機能障害を持つ高齢者にとって特に重要である。従って、PERS技術の進歩にもかかわらず、転倒事象後のユーザの疼痛レベル及び強さの推定は、一般的に十分な精度ではない。
転倒の検出に加え、PERSは、例えば、IMUを用いて、ユーザの身体活動を測定するために使用されてもよい。IMUは、着用されるときに身体活動を測定するので、身体活動を測定することは挑戦的であり、身体活動を適正に評価するために、最低限の着用時間が必要とされる。ユーザによる着用時間は、PERSモニターを着用している間、ユーザが活動を行っていない(すなわち、座りっぱなし(sedentarism)である)ときと、例えば入浴及び睡眠中のような、ユーザが単にPERSモニターを着用していないときとを区別するために識別されなければならない。従来のPERSは、IMUの情報と共に、例えば心拍数及び心拍変動のようなバイタルサインに関する情報も収集することができる。心拍数及び拍数変動を測定するための典型的な供給源は、電極及びフォトプレチスモグラフィ(PPG)を使用する、ユーザの胸部に取り付けられる心電図(ECG)モニターである。しかしながら、ECGを測定することは、長期間の監視には不都合であり、正確なPPGの評価は、光源/検出器とユーザの皮膚との間の密接な接触を必要とし、このことも再び不都合である。
従って、ウェアラブルセンサを用いて、人の身体活動及び姿勢を評価し、ウェアラブルセンサが着用されていないときを検出し、並びにウェアラブルセンサを用いて、転倒事象を検出及び検証するために、効率的な手法が必要とされる。
本開示の一態様によれば、少なくとも1つのオーディオセンサ、並びに加速度計、ジャイロスコープ及び磁力計の少なくとも1つを含むウェアラブルセンサを用いて、被験者の身体活動の監視及び/又は転倒の検出を行うための方法が提供される。この方法は、加速度計、ジャイロスコープ及び磁力計の少なくとも1つを用いて被験者の活動を監視するステップ、この監視される活動に基づいて、特徴的な動きパターンを識別するステップ、前記識別された少なくとも1つの特徴的な動きパターンに基づいて、前記被験者が経験した見かけの転倒を検出するステップ、前記検出された見かけの転倒の後に、前記少なくとも1つのオーディオセンサにより供給される音声を監視するステップ、前記監視される音声に基づいて、前記検出された見かけの転倒が、前記被験者が経験した実際の転倒であるかを決定するステップ、並びに前記実際の転倒の表れを監視システムに伝え、応答動作の開始を可能にするステップを有する。
例示的な実施形態は、添付の図面と一緒に読まれるとき、以下の詳細な説明から最もよく理解される。様々な機能は、必ずしも一定の縮尺で描かれていないことが強調される。実際に、説明を明確にするために、寸法が任意に増減されることができる。適用可能であり、実用的である限り、同様の参照番号は、同様の要素を指す。
図1は、代表的な実施形態による、ウェアラブルセンサを用いて、被験者の活動の監視及び転倒の検出のために構成されるシステムの簡略化したブロック図を示す。 図2は、代表的な実施形態による、ウェアラブルセンサを用いて、被験者の身体活動の監視及び転倒の検出のための処理の簡略化した流れ図を示す。 図3は、代表的な実施形態による、転倒の確認及び疼痛レベルの推定のための分類を示す機能ブロック図である。 図4は、代表的な実施形態による、被験者上にあるウェアラブルセンサの身体活動の監視及び着用の検出のための処理の簡略化した流れ図を示す。 図5は、代表的な実施形態による、ウェアラブルセンサを用いて、被験者の活動の監視及び転倒の検出の方法が実施される一般的なコンピュータシステムを示す。
以下の詳細な説明において、限定ではなく説明を目的に、本願発明が教示していることに従う実施例の十分な理解を提供するために、具体的な詳細を開示する代表的な実施形態が説明される。既知のシステム、装置、材料、動作方法及び製造方法の説明は、前記代表的な実施形態の説明を分かり難くするのを避けるために省略されてもよい。とはいえ、当業者の範囲内にあるシステム、装置、材料及び方法は、本願発明が教示していることの範囲内であり、代表的な実施形態に従って使用され得る。本明細書において使用される用語は、単に特定の実施形態を説明することが目的であり、限定することを目的としてないことを理解されたい。定義される用語は、本願発明が教授している技術分野において一般に理解及び容認されるような、前記定義される用語の技術的及び科学的な意味に加えられる。
第1、第2、第3などの用語が、様々な要素又は構成要素を説明するために本明細書において使用されていたとしても、これらの要素又は構成要素が、これらの用語により限定されるべきではないことが理解される。これらの用語は、ある要素又は構成要素を他の要素又は構成要素と区別するためにのみ使用される。従って、以下に述べられる第1の要素又は構成要素は、本発明の概念を教示することから外れることなく、第2の要素又は構成要素と呼ばれることができる。
本明細書において使用される用語は、単に特定の実施形態を説明することが目的であり、限定することを目的としていない。本明細書及び添付の特許請求の範囲において使用されるように、文脈上明白に指示しない限り、複数あることを述べなくても、それらが単数及び複数であることも意図する。加えて、"有する"及び/又は"有している"という用語、及び/又は類似の用語は、本明細書において使用されるとき、述べた特徴、要素及び/又は構成要素が存在することを述べているが、1つ以上の他の特徴、要素、構成要素及び/又はそれらの集合が存在すること又は追加すること排除しない。本明細書において使用されるように、"及び/又は"という用語は、関連する列挙される項目の1つ以上からなる何れかの及び全ての組合せを含む。
特に述べない限り、要素又は構成要素が、他の要素又は構成要素に"接続される"、"結合される"又は"隣接している"と述べられるとき、この要素又は構成要素は、他の要素又は構成要素に直接的に接続又は結合されることができる、或いは介在する要素又は構成要素が存在してもよいことが理解される。すなわち、これらの及び同様の用語は、2つ要素又は構成要素を接続するために、1つ以上の中間の要素又は構成要素が用いられ得る場合を含む。しかしながら、要素又は構成要素が他の要素又は構成要素に"直接接続される"と述べられるとき、これは、2つの要素又は構成要素が、中間の又は介在する要素又は構成要素を用いずに互いに接続されている場合だけを含む。
上述したことを考慮すると、本開示は、従って、本開示の様々な態様、実施形態及び/又は具体的な特徴或いはサブコンポーネントの1つ以上によって、以下に具体的に述べるような利点の1つ以上をもたらすことを目的とする。限定ではなく説明を目的に、本願発明が教示していることに従う実施例の十分な理解を提供するために、具体的な詳細を開示している例示的な実施形態が説明される。しかしながら、本明細書に開示される具体的な詳細から外れている、本開示と一致する他の実施形態は、添付の特許請求の範囲内にある。その上、例示的な実施形態の説明を曖昧にしないために、知られている装置及び方法の説明が省略されてもよい。そのような方法及び装置は、本開示の範囲内にある。
本開示の様々な実施形態は、ユーザの転倒の聴覚的、加速度及び/又は心拍数ベースの検出、ユーザの転倒の強度及び/又は転倒関連の疼痛経験のためのシステム、方法並びに装置を提供する。多様な手法は、転倒検出の精度を改善し、転倒後の音声信号を用いて転倒の強度を推定することを可能にする。音声信号は、ユーザの疼痛レベルに関連する聴覚的な手がかりを含み、故に、転倒の重症度及び強度を示すことができる。様々な実施形態において、オーディオセンサ(例えば、1つ以上のマイクロフォン)が稼働し、最初の転倒の加速度を検知した後又はその検知に応答して、音声について周囲をスキャンする。音声信号は、ユーザの転倒後の心拍数が抽出される心音と同じく、音響及び韻律(有声及び無声)的な手がかりを含み、これらは、より正確で高感度な転倒の検知、疼痛関連の手がかりの自動的な監視、及び従ってより効率的でユーザを意識した緊急ケアを可能にする。
様々な実施形態は、その疼痛の音響的、韻律的及び心拍記録的な発現から、ユーザの転倒関連の疼痛の推定に重点を置いている。従って、例えばマイクロフォンのようなオーディオセンサは、例えばため息をつく、うめく及びうなるような、疼痛関連の音響的及び韻律的な手がかりをスキャンするために、PERS装置に含められてもよい。加えて、PERSのペンダントがユーザの胸部に位置決められるので、ユーザの心拍数は、加速度測定的に監視されるのと同じく、音響的に監視されてもよい。ユーザの心拍数及び心拍変動の変化は同様に、転倒関連の疼痛のレベルを示す。転倒事象関連の疼痛レベルを推定することにより、それに応じて、緊急ケアが提供され、よりユーザを意識した及び応答効率のよいPERS技術を促進することができる。
図1は、代表的な実施形態による、ウェアラブルセンサのユーザの身体活動の監視及び転倒の検出を行うように構成されるシステムの簡略化したブロック図を示す。
図1を参照すると、被験者106を評価するための、本明細書に記載される方法を実行するように構成される装置又はセンサ100は、被験者106の身体105上に物理的に置かれるウェアラブルセンサ110を含む。このウェアラブルセンサ110は、身体105の1つ以上の特性を監視することによりデータを収集するための、身体105に取り付け可能な如何なる装置でもよい。図示される実施形態において、ウェアラブルセンサ110は、慣性計測装置(IMU)111及び代表的なオーディオセンサ112により示される1つ以上のオーディオセンサを含む。
IMU111は、加速度計、ジャイロスコープ及び/又は磁力計を含むことができ、これらは、一般に、身体105の運動(及び運動の欠如)を検出するために使用される。IMU111は、被験者106の歩行の身体活動を追跡し、例えば、もたれかかる(reclining)、座る、立つ、歩く及び転倒するのを含む様々な事象を示す身体105の特徴的な動きパターンを捕捉又は識別するように構成される。特徴的な動きパターンは、例えば、追跡される身体活動に対応している、IMU111により提供されるデータと比較するために、事前にデータベース150に格納された前記特徴的な動きパターンのモデルと比較することにより識別されてもよい。特に、これら特徴的な動きパターンは、他の特徴的な動きに対応している、様々な動き信号で事前に訓練された分類モデルを用いて識別されてもよい。
オーディオセンサ112は、1つ以上のマイクロフォン又は音声信号を検出することが可能である他の装置又は装置のアレイを含むことができる。オーディオセンサ112は、検出された転倒事象に続く音響観測の音響/韻律的な有声部分及び無声(無音)部分について周囲をスキャンする。様々な実施形態において、ウェアラブルセンサ110が稼働するとき、オーディオセンサ112が連続して稼働してもよいし、又はオーディオセンサセンサ112が選択的に稼働してもよい。例えば、オーディオセンサ112は、IMU111を用いて、転倒又は明らかな転倒を検出するときにのみ可動してもよい。ウェアラブルセンサ110は、例えばPhilips Lifeline wearableのような市販のウェアラブル装置でもよい。ウェアラブルセンサ110は、例えば、被験者106の胸部108上又はその周りに着用されてもよい。その代わりに、特定の種類のフィットネスモニタリング装置が検討される。これらの装置は、しばしば、ユーザの手首に着用され、本教示により、転倒の検出及び所望する種類の活動の追跡における使用に適応する。これらの例示的な活動追跡装置は、リストバンド装置に埋め込まれたマイクロフォンを使用して転倒後の音声を収集するために使用されることが検討され、胸部に着用された装置により行われるような心音を介してではなく、リストバンドが心拍数を直接測定するという違いがある。さらにその代わりに、胸部に着用又は手首に着用する活動追跡装置ではなく、首の周りに横方向にしっかりと着座する首に置かれる装置が検討される。
データは、ウェアラブルセンサ110自身により収集されてもよいし、同様に、身体105上の種々の遠隔位置にある遠隔センサ(図示せず)又はウェアラブルセンサ110から離れた部屋の周りにある周囲センサにより収集されてもよく、前記遠隔センサは、無線及び/又は有線接続を介してウェアラブルセンサ110と通信している。特に、本教示により検討される周囲センサは、これらに限定されないが、圧電センサ、マイクロフォン、RADARセンサ及びLiDAR(light detection and ranging)センサのようなコレクタセンサを含む種々の圧力センサを含む。理解されるように、これらの周囲センサは、ユーザの位置の変化と同様に、ユーザの位置を容易に決定することができる。さらに、これらの周囲センサは、ユーザの姿勢(例えば、立っている、腹臥位又は仰臥位でいる、歩いている、座っている、睡眠している)を決定することができる。
センサ100は、例えば、少なくとも1つのシステムバス115を介して相互接続される、処理器120、メモリ130、ユーザインターフェース140、通信インターフェース145及びデータベース150をさらに含む。図1は、幾つかの点で、簡略化した抽象的概念を構成していること、及びセンサ100のこれら構成要素の実際の構成は、示されているよりも複雑であることが理解される。さらに、破線によりシステムバス115に接続されるウェアラブルセンサ110が示され、処理器120、メモリ130、ユーザインターフェース140、通信インターフェース145及びデータベース150の全て又は幾つかからなる何れかの組み合わせが、被験者106の身体105に着用されるウェアラブルセンサ110自身に組み込まれ得ることを示す。例えば、一実施形態において、処理器120、メモリ130、ユーザインターフェース140及び通信インターフェース145がウェアラブルセンサ110内に置かれ、ウェアラブルセンサ110により収集されたデータの局所化された処理を可能にする一方、データベース150は、通信インターフェース145を介した無線ネットワーク又は無線接続によってウェアラブルセンサ110にアクセス可能な遠隔サーバ内に置かれてもよい。その代わりに、他の実施形態において、前記通信インターフェース145は、例えば収集したデータの送信及び処理結果の受信のような基本的な通信を可能にするために、基本処理及びユーザインターフェース機能と一緒に、ウェアラブルセンサ110内に置かれてもよい。一方、処理器120、メモリ130及びデータベース150は、通信インターフェース145を介した無線ネットワーク又は無線接続によってウェアラブルセンサ110にアクセス可能な遠隔サーバ内に置かれてもよく、ウェアラブルセンサ110により収集された生データの遠隔処理を可能にする。この実施形態は、より効率的な処理及び拡張記憶を可能にする。局所的位置と遠隔的位置との間における、夫々の機能の分割を含む、処理器120、メモリ130、ユーザインターフェース140、通信インターフェース145及びデータベース150に対する場所の他の組み合わせは、本教示の範囲から逸脱することなく、組み込まれることができる。
処理器120は、メモリ130及びデータベース150に格納される命令を実行し、他の方法で生のデータを処理することが可能である任意のハードウェア装置でもよい。そのようなものとして、処理器120は、図5の例示的なコンピュータシステム500における処理器510に関して以下に説明されるように、マイクロプロセッサ、FPGA(field programmable gate array)、特定用途向け集積回路(ASIC)又は他の同様の装置を含むことができる。処理器120は、本明細書に記載される方法の一部又は全てを実施するために命令を実行することができる。加えて、処理器120は、例えば、メモリ/処理器の組み合わせからなる複数の組を必要とする分散方式で必然的に実現される方法に適応させるように、複数の装置間に分散されてもよい。
メモリ130は、例えば、キャッシュ又はシステムメモリのような様々なメモリを含むことができる。そのようなものとして、メモリ130は、図5の例示的なコンピュータシステム500におけるメインメモリ520及び/又はスタティックメモリ530に関して以下に説明されるように、SRAM(static random-access memory)、DRAM(dynamic RAM)、フラッシュメモリ、ROM(read only memory)又は他の同様のメモリ装置を含むことができる。本明細書に記載される機能の1つ以上をハードウェアで実施する1つ以上のASIC(又は他の処理装置)を処理器が含む実施形態において、上記機能に対応するように記載されるソフトウェアが、他の実施形態において省略されてよいことは明らかである。すなわち、メモリ130は、処理器120が実行するための命令及び/又は処理器120が動作する際に用いるデータを記憶することができる。
ユーザインターフェース140は、例えば、被験者106、家族、介護者、臨床医、技術者、医師及び/又は他の医療専門家のようなユーザとの通信を可能にするための1つ以上の装置を含むことができる。様々な実施形態において、ユーザインターフェース140は、上述したように、被験者106が即座にアクセスするために、全体的又は部分的にウェアラブルセンサ110上に含まれてもよいし、ユーザコマンドを受信するためのディスプレイ及びキー、ボタン、及び/又はタッチパッド又はタッチスクリーンを含んでもよい。その代わりに又はそれに加えて、ユーザインターフェース140は、通信インターフェース145を介して遠隔端末に伝えられるCLI(コマンドラインインタフェース)又はGUI(グラフィカルユーザインタフェース)を含んでもよい。上記遠隔端末は、ユーザコマンドを受信するためのディスプレイ、タッチパッド又はタッチスクリーン、マウス及びキーボードを含むことができる。
通信インターフェース145(例えば、ネットワークインターフェース)は、ウェアラブルセンサ110による他のハードウェア装置との通信を可能にする1つ以上の装置を含む。例えば、通信インターフェース145は、イーサネットプロトコルに従って通信するように構成されるネットワークインターフェースカード(NIC)を含む。加えて、通信インターフェース145は、TCP/IPプロトコルに従って通信するためのTCP/IPスタックを実装し、例えば、Bluetooth(登録商標)(例えば、IEEE802.15)及びWi-Fi(例えば、IEEE802.11)及び/又はWAN(wide area network)のようなローカルエリアネットワークのための様々な規格に従って無線通信を可能にする。通知インターフェース145に対し様々な代替の或いは追加のハードウェア又は構成が明らかである。
データベース150は、例えば、ROM、RAM、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリ装置又は同様の記憶媒体のような、1つ以上の機械可読な非一時的な記憶媒体を含むことができる。様々な実施形態において、データベース150は、処理器120が実行するための命令、又は処理器120が(単独で又はメモリ130と連携して)動作する際に用いるデータを記憶することができる。例えば、データベース150は、転倒の検出と同じく、活動及び姿勢の認識のための1つ以上のモデルを記憶することができる。一般的に、モデルの各々は、訓練する被験者の胸部上又は胸部に隣接して取り付けられるセンサにより取得される訓練データ又はそのシミュレーションに基づいて訓練されてもよい。モデルは、装置がどのように着用されているか及び/又は装置がどの位置及び/又は方向に置かれているかに基づいて、この装置を介して取得される訓練データに基づいて訓練される。モデルは訓練され、これらモデルの性能は、訓練データの様々な再サンプリングにより検証され、このデータは一般に訓練、検証及び試験の組に分割される。訓練データは、モデルを構築するために使用され、検証データは、モデルのハイパーパラメータを調整し、前記検証の組に対するモデルの性能を最適化するために使用される。試験データは、訓練段階中は完全に除外され、以前は見えなかったデータに対する訓練されたモデルの性能を検証するために使用される。モデルの各々は、モデルに適用される訓練データに基づいて、身体的活動及び姿勢を決定するための処理器が実行可能な命令を含んでもよい。モデルは、例えば、長・短期記憶(LSTM)ユニットを備える回帰型ニューラルネットワークモデルでもよい。
メモリ130は、様々なモジュールを含み、これらモジュールの各々は、センサ100の特定の機能に対応する、関連する処理器が実行可能な命令の組を有する。例えば、図示される実施形態において、メモリ130は、転倒検出モジュール131、転倒後音声取得モジュール132、音声セグメント化モジュール133、心音検出モジュール134、音声駆動型転倒検出確認モジュール135、音声駆動型疼痛レベル評価モジュール136、及び任意の着用検出モジュール137を含む。一実施形態において、メモリ130は、オプションのバッテリ最適化モジュール(図示せず)をさらに含むことができる。
転倒検出モジュール131は、被験者106が経験した見かけの転倒を検出するための処理器が実行可能な命令を含む。転倒検出モジュール131は、例えば、身体105の活動を監視することにより、IMU111からデータを受信する。転倒検出モジュール131は、受信したデータに基づいて被験者106の特徴的な動きパターンを特定し、この特徴的な動きパターンが転倒と一致するとき、見かけの転倒を検出する。すなわち、転倒検出モジュール131は、加速度信号を受信及び処理し、特異的な活動のセグメントを抽出し、各々の抽出されたセグメントを転倒した又は転倒していないと分類する。
転倒後音声取得モジュール132は、被験者106が経験した検出された見かけの転倒に続いて、オーディオセンサ112により供給される音声を監視するための処理器が実行可能な命令を含む。一実施形態において、転倒後音声取得モジュール132は、転倒検出モジュール131により転倒事象が検出されるときに起動する。転倒後音声取得モジュール132は、オーディオセンサ112を稼働させ、検出された転倒事象に続いて周囲音信号を受信し、被験者106により生成される、例えば言語、パラ言語及び韻律的な手がかりを含む、可聴の外傷関連の手がかりをスキャンする。オーディオセンサ112は、転倒の検出に続いて、被験者106の心音も取得する。従って、例えば、心拍数、心拍変動及び/又は心音の質のような心臓関連の情報は、被験者106に取り付けられた心電図モニター又はPPGを用いることなく決定されることができる。一実施形態において、オーディオセンサ112は、本教示の範囲から逸脱することなく、複数のオーディオセンサを用いて実施されてもよく、これらオーディオセンサの少なくとも1つは、周囲音を取得するための専用であり、これらオーディオセンサの少なくとも他の1つは、心音を取得するための専用である。前記心音を取得する少なくとも1つのオーディオセンサは、例えば、被験者106の胸部に向かって内側に向いてるマイクロフォンを含んでもよい。一実施形態において、オーディオセンサ112は、転倒を検出する前を含み、転倒が検出されたかどうかにかかわらず、被験者106がオーディオセンサ112を着用しているときはいつでも、被験者106の心音も取得する。
音声セグメント化モジュール133は、転倒後音声取得モジュール132により取得された音声信号から、疼痛関連の音声信号を分離するための処理器が実行可能な命令を含む。一般的に、音声セグメント化モジュール133は、前記取得された音声信号を受信し、例えば、データベース150から検索されるモデルを用いて、被験者106により生成される音声に対応する音声信号を分離する。モデルは、被験者106の音響プロファイルに合わせられてもよい。代表的な実施形態によれば、セグメント化モデルは、外傷関連の手がかりに対応する注釈付きの音響信号、並びに外傷事象がないことに対応する注釈付きの音響信号を使用して訓練される。これらセグメント化モデルは、セグメント化モデルを訓練するために、ユーザからの音響信号のみを使用するか、又は性別、年齢、慢性状態、或いは例えばユーザのスペクトルフォルマント(spectral formant)の特性のような音響プロファイルの何れかに関して同種のユーザに基づいて訓練されるコホート特有モデル(cohort-specific model)構築することにより、ユーザの音響プロファイルに合わせられる。セグメント化モデルは、連続的に収集した音響信号に見られるようなユーザのプロファイルの変化に適応させるために、定期的に更新されてもよい。次いで、分離された音声信号は、例えば、疼痛に特有の言語的及び音響的な手がかり、並びに異常な呼吸を含む、可聴の外傷関連の手がかりに対応するセグメントを抽出するために処理される。例えば、自然言語処理を用いて決定される、負傷を示す疼痛に特有な言語的及び音響的な手がかりの非限定的な実施例は、ため息をつく、うめく及びうなる、及び/又は不満を言う等、異常な呼吸、助けを求める及び/又は泣くことを含む。異常な呼吸の非限定的な実施例は、努力呼吸、ゼーゼーと息をする及び喘鳴、長期間の過換気又は頻呼吸、並びにチェーン-ストークス呼吸を含む。
一実施形態において、音声セグメント化モジュール133は、上述した、疼痛の発声(例えば、有声及び無声)及び/又は言語表現を含む、疼痛関連の手がかりに対応する抽出された一連の音声を入力として受信する分類器を提供する。これらの疼痛関連の手がかりは、例えば、Belin他著、"The Montreal Affective Voices: a validated set of nonverbal affective bursts for research on auditory affective processing", Behavior Research Methods, 40(2)(2008), pp531-539(以下、"MAV")により発表されるように、人間を観察することにより容易に認識できることが発表され、これは参照することにより、その全てが本明細書に組み入れられる。例えば、疼痛の評価は、既知の自己申告制のVAS(ビジュアルアナログスケール)を採用してもよい。
前記分類器は、図3を参照して以下に述べられるハイブリッド手法を使用することができる。第1に、その後に、一連の音声を受信する注意層(attention layer)が続く、双方向LSTMユニットを有するゲート付き回帰型ニューラルネットワークは、疼痛エピソードに対応するセグメントを識別し、そして注意を払い、これらのセグメントを固定長表現に符号化する。第2に、MACに含まれるものに関連する疼痛に特異的な音響及び韻律特性は、前記固定長表現と組み合わされ、シグモイド活性化を伴う全結合緻密層(fully-connected dense layer)の組に供給される。このハイブリッド分類器の重みは、この分類器の訓練中に学習され、検証セット(validation set)の分類性能を最適化することができる。
心音検出モジュール134は、心音を検出し、検出された心音に基づいて、心臓関連の情報(心臓プロファイル)、例えば心拍数、心拍変動及び/又は心音の質を決定するための処理器が実行可能な命令を含む。心音関連の音声信号は、転倒後音声取得モジュール132により提供される音声信号から検出されることができる。一実施形態において、心音検出モジュール134は、例えば、心拍数の聴覚-加速度検出を行うことができる。心音は最初に、被験者106の胸部に面するオーディオセンサ112の1つ以上のマイクロフォンにより取り込まれてもよく、これら取り込まれた心音信号は、明確にするために帯域通過フィルタリングされてもよい。また、ウェアラブルセンサ110の他の任意のマイクロフォン(図示せず)は、例えば、独立成分分析(ICA)及び/又は経験的モード分解(EMD)のような方法を用いて、環境雑音及び肺音をキャンセリングすることができる。
上述したように、オーディオセンサ112は、心音を取得することを専用とする1つ以上のオーディオセンサを含むように実装されてもよい。さらに、心臓の動きは、身体105の胸部及び腹部領域の皮膚に近接して位置決められる音響センサ112(例えば、1つ以上のマイクロフォン)により測定可能な音波を生じさせる皮膚振動として現れる。そのようなものとして、前記マイクロフォンは、周囲音及び皮膚振動の両方を受信するようにも適応する。さらに、皮膚振動は、これら皮膚振動が発生している場所(例えば、胸部108)の皮膚表面に置いてあるIMU111によりピックアップされてもよい。心拍数の聴覚-加速度の検出は、心音の2つの部分のリズム(S1-S2心音)に対応する成分のために、前記取得した聴覚信号と加速度信号の両方をスキャンする。センサ100は、被験者106の胸部108(及び/又は腹部)上に置いてあり、故に、胸部及び腹部領域の振動をピックアップすることができる。さらに、センサ100に埋め込まれるマイクロフォン(従って、オーディオセンサ)は、被験者106の心音を取り込み、転倒事象に続く被験者の心拍変動及びプロファイルの推定を可能にする。心音検出モジュール134は、被験者106の心臓へのセンサ100の近接及び心音の質を検出するように構成されてもよい。すなわち、特徴ベースの学習及び/又は深層学習が、心音の質を評価するのに使用されることができ、その一例は、Parvenah他による、発明の名称が"Classifier Ensemble for Detection of Abnormal Heart Sounds"である、本出願人が共同所有する国際特許出願WO2018046595A1により提供される。この国際特許出願WO2018046595A1の開示は、参照することにより、その全体を本明細書に明確に組み込まれる。例えば、心音(S1及びS2)の振幅は、被験者106の所定のベースライン振幅(疼痛がないか又は弛緩している)と比較されてもよい。心音の振幅とベースライン振幅との間の差は、心臓へのセンサ100の近接を示す。この検出された心臓へのセンサ100の近接は、信号品質メトリックとして使用されてもよく、ここで、センサ100(従って、音響センサ112)が心臓に対して近くにあるほど、信号品質は高くなる。特に、信号品質は、例えば、信号エネルギー、信号対雑音比(SNR)及び過去のデータとの相関を測定することにより決定されることもできる。信号品質は、信号品質メトリック(例えば、SNR)が所定のしきい値を超えるとき、許容可能であると決定される。
信号品質が許容可能であるとき、心音におけるS1音が検出され、連続するS1音の間にある間隔が心拍数と見なされ、所定の時間期間にわたる心拍数の変動が心拍変動として計算される。結果生じる心拍数及び心拍変動プロファイルは、上述した可聴の外傷関連の手がかりの有無にかかわらず、以下に述べられるように、実際の転倒の発生を確認するため及び/又は被験者106の前記関連する疼痛の経験を推定するために使用される。例えば、ベースラインと夫々比較される心拍数及び心拍変動は、音声駆動型疼痛レベル評価モジュール136を参照して以下に説明される、被験者106の生理学ベースの疼痛評価のために利用されることができる。
音声駆動型転倒検出確認モジュール135は、IMUベースの転倒検出モジュールにより検出された転倒事象の発生を、例えば、抽出される可聴の外傷関連の手がかり(例えば、口述、音声、言語及びパラ言語的な手がかり並びに呼吸の異常)、及び/又は心拍数情報を用いて確認するための処理器が実行可能な命令を含む。音声駆動型疼痛レベル評価モジュール136は、検出された転倒関連の疼痛のレベルを推定するために、心拍数情報と共に、抽出された可聴の外傷関連の手がかり(例えば、疼痛エピソード及びMAVの決定に対応する音声セグメントの固定長表現)を処理するための処理器が実行可能な命令を同様に含む。さらに、実際の転倒を確認した後の被験者106の全体的な健康及び全般的覚醒状態は、抽出された可聴の外傷関連の手がかり及び/又は心拍数情報を用いて、音声駆動型疼痛レベル評価モジュール136により評価される。音声駆動型転倒検出確認モジュール135は、音声駆動型疼痛レベル評価モジュール136により供給される推定される疼痛のレベルに基づいて、検出された転倒の強度を決定してもよい。
検出された転倒に関する情報は、推定される疼痛レベルと一緒に、例えば、Bluetooth(登録商標)又はWi-Fiのような無線インターフェースでもよい通信インターフェース145により、1つ以上の監視システムに伝えられてもよい。1つ以上の監視システムは、緊急派遣センター(例えば、911コールセンター又は独立系コールセンター、例えばフィリップス・ライフライン・コールセンター)、PERSサービスセンター及び/又は被験者106の介護者のコンピュータ、携帯電話又は他のネットワーク装置を含むことができる。心拍数、心拍変動及び/又は心拍の質に関する追加の情報も同様に監視システムに伝えられることができる。送信される情報は、監視システムにアクセスするエージェント又は介護者により評価されることができ、推定される疼痛レベル及び転倒の重症度に応じて、介入行動(例えば、緊急ケアの派遣)がそれに応じて採用されてもよい。加えて、メッセージを作成し、介護者又は臨床医に送られ、介護者又は臨床医に転倒並びにその後の生理学的な健康及び疼痛のレベルを通知することができる。この情報は、被験者106の健康を評価するために保存されてもよく、これは、診断を目的として及び精神状態/健康状態を早期に検出する(例えば、転倒の頻度及び重症度と、例えば糖尿病及び認知症のような様々な病状との間の相関関係を見出す)ために時間をかけて使用される。前記情報は、必要性(すなわち、高い疼痛レベルの転倒したユーザ)に応じて、緊急派遣センターの順番待ちリストにおいてユーザを優先順位付けするためにも使用されることができる。
着用検出モジュール137は、被験者106がウェアラブルセンサ110を着用しているかどうかを検出するための処理器が実行可能な命令を含む。一般的に、身体活動の有効な評価を提供するために、ウェアラブルセンサ110を着用するための最小限の着用時間が必要とされる。その上、言うまでもなく、上述した、転倒の検出、疼痛レベル及び転倒の重症度の評価並びに監視システムへの通知を提供するために、被験者106は、ウェアラブルセンサ110を着用しなければならない。さらに、ウェアラブルセンサ110を着用している間、被験者106による動きの欠如(すなわち、座りっぱなし)による被験者106により検出される活動がないことと、被験者106が単にセンサを着用していないこと(例えば、入浴中又は睡眠中)による被検体106により検出される活動がないこととを区別するために、着用時間を決定することが重要である。
データベース150に格納されると説明した情報は、追加として又はその代わりにメモリ130に格納されてもよいことは明らかである。すなわち、別々に示されたとしても、データベース150がメモリ130に含まれてもよい。この点において、メモリ130は、"記憶装置"を構成すると見なすこともでき、データベース150は"メモリ"と見なすことができる。他の様々な配列も明らかである。さらに、メモリ130及びデータベース150は、夫々が"非一時的な機械可読媒体"であると見なすことができる。本明細書に使用されるように、"非一時的な"という用語は、一時的な信号を除くが、揮発性及び不揮発性メモリの両方を含む、全ての形式の記憶装置を含むと理解される。
センサ100が、説明した各構成要素の1つを含むとして示されているが、様々な実施形態において、様々な構成要素が重複されてもよい。例えば、処理器120は、本明細書に記載される方法を単独で実行するように構成される、又は複数の処理器が協働して本明細書に記載される機能を達成するように、本明細書に記載される方法のステップ若しくはサブルーチンを実行するように構成される複数のマイクロプロセッサを含んでもよい。さらに、センサ100の一部がクラウドコンピューティングシステムに実装される場合、様々なハードウェア構成要素が別個の物理システムに属することができる。例えば、処理器120は、第1のサーバに第1の処理器を、及び第2のサーバに第2の処理器を含むことができる。
図2は、ウェアラブルセンサを用いて、被験者の身体活動の監視及び転倒の検出を行う処理を示す流れ図である。センサは、1つ以上のオーディオセンサ(例えば、マイクロフォン)及びIMU((例えば、加速度計、ジャイロスコープ及び磁力計の少なくとも1つ)を含み、胸部又は腹部に若しくはその近くで、被験者の身体に着用される。
図2を参照すると、ステップの全て又は一部は、例えば、図1におけるメモリ130(及び関連するモジュール)並びにデータベース150と共に、処理器120により行われてもよい。ブロックS211において、センサのIMUを用いて被験者の身体活動が監視され、監視される活動に基づいて、少なくとも1つの特徴的な動きパターンが識別される。これら特徴的な動きパターンは、様々な既知の事象に対応し、そのモデルは、データベースから取り出される。ブロックS212において、特徴的な動きパターンを識別することに基づいて、転倒事象が検出され、検出された転倒事象は、以下に述べられる確認に依存して、被験者が体験した見かけの転倒とみなされる。
検出された転倒事象に続いて、ブロックS213において、転倒後の音声が音声信号として取得される。これら転倒後の音は、例えば、検出された転倒事象の後に、被験者により生成される言語的、パラ言語的及び/又は韻律的な手がかりを含む、オーディオセンサにより供給される周囲音を含む。一実施形態において、オーディオセンサは、転倒事象が検出された後に稼働する。転倒後の音声は、検出された転倒事象に続き取得される被験者の心音を含むこともできる。心音からの音声信号は、本教示の範囲から逸脱することなく、周囲音を取得する同じオーディオセンサによるか、又は(例えば、被験者の胸部に向かって内側に向いた)心音専用のオーディオセンサにより取得されてもよい。
ブロックS213において取得される音声信号は、ブロックS214及びS215において処理される。ブロックS214において、被験者により生成される音声は、音声信号から分離され、可聴の外傷関連の手がかりに対応する音声セグメントは、分離された音声信号から抽出される。外傷関連の手がかりは、例えば、上述したように、疼痛に特異的な言語的及び音響的な手がかり、並びに異常な呼吸を含む。被験者により生成される音声は、例えば上述した例示的モデルのような、被験者の音響プロファイルに合わせられたモデルを用いて、取得された音声信号から分離されてもよい。ブロックS215において、心拍数、心拍変動及び/又は心音の質を含む心臓の情報(心臓プロファイル)が、ブロックS213において取得した音声信号に基づいて検出される。周囲音信号及び心音信号を夫々受信するために設置された別々のオーディオセンサにより音声信号が取得される限り、疼痛関連の音声及び心拍数情報の決定は、対応する専用の音声データを用いて行われてもよい。一実施形態において、心臓の情報を検出することは、上述したように、心拍数の聴覚-加速度の検出を含み、心音及び/又は皮膚の振動は、心臓に近接して位置決められる1つ以上のマイクロフォン及び/又は加速度計により取り込まれる。
ブロックS216において、検出された転倒事象(見かけの転倒)は、ブロックS214からの抽出された音声セグメント及び/又はブロックS215からの心音情報に少なくとも部分的に基づいて、被験者が体験した実際の転倒であるかどうかが決定される。検出された見かけの転倒が実際の転倒ではない(ステップS216においてNO)と決定されるとき、処理は、ステップS211に戻り、被験者の活動の監視を続ける。この時点において、次の転倒事象が検出されるまでオーディオセンサは、動作を停止(deactivate)してもよい。前記検出された転倒事象が実際の転倒である(ブロックS216においてYes)と決定されるとき、それにより、転倒事象の発生を確認し、ブロックS217において、転倒後に被験者が経験した疼痛のレベルが推定され、ブロックS218において、監視システムに連絡がとられ、応答動作を開始する。
検出された転倒事象が実際の転倒であるかどうかの決定は、ブロックS214において音声信号から抽出される可聴の外傷関連の手がかり、及び/又はブロックS215において音声信号において識別された心拍数の特徴を分析することにより行われてもよい。転倒後の外傷関連の手がかりは、音声駆動型疼痛レベル評価モジュール136を用いて自動的に検出されてもよい。外傷又は疼痛の手がかりの検出は、被験者106が苦しんでいることを示し、これは、同様にして、実際の転倒の発生を確認することができる。別の実施形態において、可聴の外傷関連の手がかりのリストが、対応する重みを提供することができ、可聴の外傷関連の手がかりの各々の重み付けられた検出が合計され、実際の転倒を示すための所定の疼痛しきい値と比較される。さらに、可聴の外傷関連の手がかりが、所定の無音しきい値を超える(意識消失に起因する)長期の無音を示すとき、検出された見かけの転倒は、実際の転倒であると決定される。同様に、検出される心拍数又は心拍変動は、対応するベースラインと比較されるとき、転倒を示していると見なされてもよい。例えば、検出された見かけの転倒は、被験者の心拍数が所定の心拍数ベースラインを超えるとき、及び/又は被験者の心拍変動が所定の心拍変動しきい値に満たないとき、実際の転倒であると決定されてもよい。これは、被験者が、実際の転倒の直後に異常に高い定常心拍数を維持することが予想されるからである。加えて、信頼レベルが、(例えば、加速度計、ジャイロスコープ及び/又は磁力計を含む)慣性計測装置による転倒事象の初期検出に割り当てられてもよい。そのようなものとして、IMUベースの転倒検出モジュールは、転倒後の疼痛及び心拍数の監視とは無関係に動作するように適応する。
同様に、ブロックS217において、被験者が経験した疼痛レベルは、ブロックS214において音声信号から抽出される可聴の外傷関連の手がかり、及び/又はブロックS215において音声信号において識別される心拍数の特徴に少なくとも部分的に基づいて推定される。これは、音声駆動型疼痛レベル評価モジュール136を用いて行われ、このモジュールは、上述したように、音声及び心音信号を介してユーザの疼痛レベルを推定するために使用される。
実際の転倒が発生したという結果の表れ、並びに推定される疼痛レベルの重症度及び/又は対応する転倒の重症度の表れが、ブロックS218において、1つ以上の監視システムに伝えられ、応答動作の開始を可能にする。上述したように、1つ以上の監視システムは、緊急派遣センター(例えば、911コールセンター)、PERSサービスセンター、及び/又は介護者及び/又は臨床医のコンピュータ、携帯電話又は他のネットワーク装置を含むことができる。加えて、被験者は、監視システム自身に触れるように促されて、応答動作の開始を再び可能にしてもよい。前記表れは、ウェアラブルセンサから無線伝送を介して少なくとも一部は受信され、例えば緊急派遣センターの遠隔端末のディスプレイ上に表示される被験者及び転倒に関する情報を含むことができる。例えば、表示される情報は、被験者の名前、住所及び/又は現在地、(例えば、所定の尺度に従う)被験者が経験している疼痛の重症度、心拍数情報、疼痛レベル及び心拍数情報の少なくとも一部に基づく(例えば、所定の尺度に従う)転倒の重症度、被験者の介護者の名前及び連絡先情報、並びに被験者の関連する既往歴の任意の組み合わせを含むことができる。
図3は、代表的な実施形態による、転倒を確認する及び疼痛レベルを推定するための分類を示す機能ブロック図である。示される実施形態は、図2に示されるブロックS214、S216及びS217の例示的な実施である。しかしながら、代替の実施が、本教示の範囲から逸脱することなく、組み込まれ得ることを理解されたい。図3の様々なブロック及び関連する機能は、例えば、関連する処理器が実行可能な命令の組として、図1に示されるメモリ130及び/又はデータベース150に記憶され、処理器120により実行されるように夫々実施される。
図3を参照すると、転倒後の音声信号305は、被験者の身体上にあるオーディオセンサにより検出される転倒事象に続いて供給される周囲音及び/又は被験者の心音を含むことができる。転倒後の音声信号305は、順方向回帰層(forward recurrent layer)310及び逆方向回帰層(reverse recurrent layer)320を含む双方向のゲート付き回帰型ニューラルネットワークに供給される。順方向回帰層310及び逆方向回帰層320の各々は、複数のLSTMユニットを含む回帰型ニューラルネットワークでもよく、ここで、順方向回帰層310は、音声信号を最初から最後まで順方向処理するための代表的なLSTMユニット311、312及び313を含み、逆方向回帰層320は、音声信号を最後から最初まで逆方向処理するための代表的なLSTMユニット321、322及び323を含む。転倒後の音声信号305は、LSTMユニット311、312及び313、並びにLSTMユニット321、322及び323の各々に供給され、これらのユニットが、被験者により生成される音声信号を分離する。
LSTMユニット311、312及び313、並びにLSTMユニット321、322及び323の各々の出力は、注意層330に供給される。この注意層330は、特徴、信号及びより一般的には、分類タスクにとって最も顕著なデータ点(すなわち、この代表的な実施形態において、疼痛あり、疼痛なし)を識別するように適合される、深層ニューラルネットワークにおける機構である。注意層330は、順方向回帰層310及び逆方向回帰層320により処理される一連の音声を受信し、疼痛エピソードに対応するセグメントを識別し、それらに注意を払い、これらのセグメントを固定長表現に符号化するように構成される。すなわち、注意層330は、LSTM処理された音声信号から、無関係のセグメントよりも高い疼痛関連の音声セグメントを識別し、重み付け、疼痛レベルを評価するために、最も顕著な音声セグメントに着目する。注意層330は、前記疼痛関連の音声セグメントの固定長表現を緻密層340に出力し、これは、深層学習アーキテクチャで使用される一般的な名前であり、全結合層と呼ばれる。
緻密層340は、線形変換モデルでもよい。疼痛関連の音声セグメントの固定長表現に加えて、緻密層340は、入力として、ブロック344(例えばデータベース150のようなMAVデータベース)から疼痛に特異的な特徴、及びブロック344(例えば心音検出モジュール134のような心拍数監視システム)から心拍変動の特徴を受信する。緻密層340は、MAVデータベースに含まれるものに対する、疼痛に特異的な音響及び韻律特性を、注意層330により出力される固定長表現と組み合わせる。一実施形態において、緻密層340は、心拍変動の特徴346を使用して、疼痛に特異的なMAV特徴と同様の方法でデータを増やすことができる。緻密層340は、ブロック350において、疼痛及び疼痛の強度の決定を出力し、ブロック360において、実際の転倒の確認を出力する。特に、疼痛及び疼痛の強度の決定は、実際の転倒の確認に考慮されることがある。本明細書に述べられるように、図3に示される代表的な実施形態は、機械学習コミュニティに知られ、時系列データの識別モデリング及び分類に使用される、異なる層及びユニットを使用するアーキテクチャを提供する。注意層を含む層及びユニットの特定の配置、並びにメタ特徴(MAV及びHRV)の追加は、例示的な例であり、本教示を限定することを目的とするものではない。
本開示の別の態様において、転倒の検出及び確認のためと同様に、心音の検出に少なくとも部分的に基づいて、被験者がセンサを着用しているかどうかを決定するために、オーディオセンサが使用されることもできる。図4は、代表的な実施形態による、被験者上にあるウェアラブルセンサの身体活動の監視及び着用の検出のための処理の簡略化された流れ図を示す。センサは、1つ以上のオーディオセンサ(例えば、マイクロフォン)及びIMU(例えば、加速度計、ジャイロスコープ及び磁力計の少なくとも1つ)を含み、胸部又は腹部で或いはその近くで、被験者の身体に着用される。
図4を参照すると、ステップの全て又は一部は、例えば、図1におけるメモリ130(及び着用検出モジュール137を含む関連するモジュール)並びにデータベース150と共に処理器120により行われてもよい。ブロックS411において、被験者の身体活動が、センサのIMUを用いて監視され、監視された活動に基づいて、少なくとも1つの特徴的な動きパターンが識別される。例示として、特定の代表的な実施形態によれば、例えばライフラインのような胸部に着用又は頸部に着用されるペンダントを使用して、転倒事象のみが検出される。しかしながら、胸部に着用されるIMUセンサは、動きパターン、例えば、身体の揺れ、歩数、歩幅、座位時間、並びに座位/立位時間をさらに特徴付けるために使用されてもよい。特徴的な動きパターンは、様々な既知の事象に対応し、その事象のモデルは、データベースから取り出すことができる。
ブロックS412において、被験者の心音が取得される。図2のブロックS213における心音の取得とは異なり、転倒事象が検出されるかどうかにかかわらず、被験者がセンサを着用しているときはいつでも(例えば、予定された間隔の間に、ある時間の間に、着用者によって稼働するように、及び/又はPERSシステム又は介護者によって稼働するように等)、心音がブロックS412において取得される。すなわち、心音は、任意の検出された転倒事象の前後に取得されてもよい。上述したように、心音からの音信号は、被験者の胸部に向かって内側を向いている心音専用のオーディオセンサにより取得されてもよい。その代わりに、本教示の範囲から逸脱することなく、周囲音を検出するために使用される同じオーディオセンサを使用して心音が取得されてもよい。例えば、ICA及び/又はEMDのような方法を使用して、環境雑音及び肺音をキャンセリングするために、他の任意のマイクロフォンが使用されてもよい。上述したように、心音は、例えば、心臓により生み出される実際の音声信号を検出するためのマイクロフォンを使用して、及び/又は皮膚の振動として現れる心臓の動きを検出するためのセンサを使用して、取得されてもよい。
ブロックS413において、検出された心音が処理され、これら検出された心音に基づいて、心拍数、心拍変動及び/又は心音の質を含む心臓関連の情報を決定する。上述したように、心臓関連の情報は、例えば、心音からS1及びS2を抽出するために、心音の2つの部分のリズム(S1-S2心音)に対応する、取得された可聴及び及び/又は加速度信号成分を使用して、可聴-加速度検出により決定されてもよい。次いで、連続するS1の間にある距離が心拍数として抽出され、心拍変動は、抽出された心拍数をある時間期間にわたり監視し、心拍数の変化を識別することにより、決定されることができる。心音の質の決定は、上述したように、特徴ベース及び/又は深層学習を含むことができる。例えば、検出された心音(S1及びS2)の振幅は、被験者に対し以前に決定されたベースライン振幅と比較されてもよい。検出された心音の振幅と夫々のベースライン振幅との間の差は、被験者の心臓へのセンサの近接、及び心音の信号品質を示し、これは、一般的に、センサが被験者の心臓に近いほど改善する。
ブロックS414において、ブロックS413において決定された心臓関連の情報に基づいて、センサが被験者により着用さているかどうかが決定される。例えば、ブロックS411での身体活動の監視が、被験者の座位行動(例えば、殆ど又は全く動いていない)を示すとき、心拍数、心拍変動及び/又は心音の質は、センサを着用している間に被験者が活動しないことにより生じる座位行動と、被験者がセンサを着用していないことにより生じる座位行動とを区別するために使用される。例えば、心拍数及び/又は心拍変動の欠如、及び/又は心音の質の低さは、身体活動の監視が座位行動を示しているときはいつでも、被験者はセンサを着用していないことを示す特徴である。例えば、身体活動の監視が座位行動を示し、心音の質が心音の質の所定のベースラインに満たないと決定されるとき、被験者はセンサを着用していないと決定され、及び身体活動の監視が座位行動を示し、心音の質が心音の質の所定のベースラインを超えていると決定されるとき、被験者はセンサを着用していると決定されてもよい。心拍数及び心拍変動に関しては、身体活動の監視が座位行動を示している間、心拍数及び/又は心拍変動が検出されないとき、被験者はセンサを着用していないと決定される。特に、被験者によりセンサが着用されているかどうかの決定は、前記身体活動の監視が動きを示すときにも行われる。これは、被験者が実際にセンサを着用せずに物理的に携帯さているか、或いは搬送している状況、又は被験者はセンサを着用しているが、センサは心臓関連の情報を検出する及び/又は決定することに関して、誤動作している(実際問題として、センサが着用されていないという決定が依然として扱われる)状況を検出する。
センサが被験者により着用されていない(ブロックS414においてNo)と決定されるとき、ブロックS415において、被験者にセンサを着用するように促すため、及びブロックS416において、センサを着用していない被験者への適切な応答を促すために監視システムに、1つ以上の通知が提供されてもよい。例えば、ブロックS415における通知は、被験者及び/又は介護者の注目を集めるために、可聴表示(例えば、チャイム音又はブザー音)及び/又は触覚表示(例えば、振動)をセンサに提供させることを含んでもよい。特に、介護者は、ユーザに対して遠隔地にいて、着用の順守に関する通知を受け取ることができる。ブロックS416における連絡は、被験者がセンサを着用していないという旨の表示を、上述したように、1つ以上の監視システム、例えば緊急派遣センター(例えば、911コールセンター)、PERSサービスセンター及び/又はコンピュータ、携帯電話及び/又は介護者の他のネットワーク装置に送信することを含む。この表示は、被験者が現在センサを着用していないことを介護者又は他の監視実体に通告する。これは、例えば、センサを着用するために、(例えば、電話、ウェアラブル装置及び/又は他のPERSシステム装置を介して)被験者に質問する及び/又は被験者に連絡するようなフォローアップ活動を促すことができる。次いで、処理はブロックS411に戻り、従って、身体活動を監視し、センサが着用されているかどうかを決定するために心音を取得及び分析することを試み続ける。
センサは被験者に着用されている(ブロックS414においてYes)と決定されるとき、ブロックS417において、活動の監視及び転倒の検出を行う処理が行われてもよい。この処理は、例えば、本教示の範囲から逸脱することなく、活動の監視及び転倒の検出を行うための他の処理が組み込まれてもよいが、図2に示される実施形態に従って行われる。例えば、身体活動の監視及びウェアラブルセンサの着用の検出のための例示的な処理は、心音の検出に依存し、図2を参照して上述したような、検出された転倒事象に続いて被験者が経験した疼痛のレベルを示す可聴の外傷関連の手がかりの検出には依存しない。従って、一実施形態において、ブロックS417において行われる活動の監視及び転倒の検出を行うための処理は、そうでなければ、検出された転倒事象に続き被験者により作られる音声信号を分離し、これらの分離された音声信号から可聴の外傷関連の手がかりに対応する音声セグメントを抽出する周囲音の検出を行うことをせずに、検出された転倒事象が実際の転倒であるかどうかを決定するステップ、及び検出した心臓関連の情報に依存して、転倒した被験者の疼痛レベルを推定するステップを含む。
例えば、一実施形態において、実際の転倒の発生を確認するステップ、並びに被験者の疼痛レベル及び/又は実際の転倒の重症度を推定するステップは、最初のIMUの転倒検出と組み合わせて、決定される心拍数(例えば、心拍数の増大は実際の転倒と一致する)及び/又は心拍数変動(例えば、心拍変動の減少は実際の転倒と一致する)だけを用いて達成される。すなわち、検出される見かけの転倒は、被験者の心拍数が所定の心拍数のベースラインを超えるとき、及び/又は被験者の心拍変動が所定の心拍変動しきい値に満たないとき、実際の転倒であると決定されてもよい。これは、被験者が実際の転倒の直後に、異常に高い定常心拍数を維持すると予想されるからである。
図5は、身体活動を監視する、センサが着用されているかどうかを検出する及びウェアラブルセンサを用いて転倒を検出する方法が、代表的な実施形態に従って実施される一般的なコンピュータシステムを例示している。
図5を参照すると、コンピュータシステム500は、このコンピュータシステム500に、本明細書に開示される方法又はコンピュータベースの機能の何れかの1つ又はそれ以上を行わせるために実行される命令の組を含むことができる。コンピュータシステム500は、スタンドアロン型の装置として動作してもよいし、又は、例えば、ネットワーク301を用いて、他のコンピュータシステム又は周辺装置に接続されてもよい。
ネットワーク上の配置において、コンピュータシステム500は、サーバとして、又はサーバ・クライアント型のユーザーネットワーク環境におけるクライアントユーザーコンピュータとして、すなわちピアツーピア(又は分散型)のネットワーク環境におけるピアコンピュータシステムとして動作することができる。コンピュータシステム500は、例えば、据え置き型コンピュータ、モバイルコンピュータ、パーソナルコンピュータ(PC)、ラップトップコンピュータ、タブレットコンピュータ、無線スマートフォン、PDA(personal digital assistant)又はその機械が行う動作を特定する命令の組を(順次的又は他の方法で)実行することができる他の何れかの機械のような様々な装置として実装されるか、或いはこれら様々な装置に組み込まれることもできる。コンピュータシステム500は、追加の装置を含む統合システムにある装置として組み込まれる、又はその装置に組み込まれることができる。一実施形態において、コンピュータシステム500は、音声、ビデオ又はデータ通信を提供する電子装置を用いて実装されることができる。さらに、コンピュータシステム500は1つで示されているが、"システム"という用語は、1つ以上のコンピュータ機能を行うための命令の1つ又は複数の組を個別に或いは一緒に実行するシステム又はサブシステムの何れかの集合を含むと解釈されるべきである。
図5に示されるように、コンピュータシステム500は、有形及び非一時的であり、1つ以上の処理器の代表である処理器510を含む。本明細書において使用されるように、"非一時的"という用語は、ある状態の不変の特性としてではなく、ある期間続くある状態の特性として解釈されるべきである。"非一時的"という用語は、例えば搬送波或いは搬送信号、又はいつ如何なる場所においても一時的にだけ存在する他の形成の特性のような一瞬の特性を否定する。処理器は、製品及び/又は機械部品である。コンピュータシステム500用の処理器510は、本明細書の様々な実施形態に記載されるような機能を行うソフトウェア命令を実行するように構成される。処理器510は、汎用の処理器でもよいし、又は特定用途向け集積回路(ASIC)の一部でもよい。処理器510は、マイクロプロセッサ、マイクロコンピュータ、プロセッサチップ、制御器、マイクロコントローラ、デジタル信号プロセッサ(DSP)、ステートマシン又はDLP(programable logic device)でもよい(又はそれらを含んでもよい)。処理器510は、例えば、FPGA(field programmable gate array)のようなPGA(programmable gate array)、又は離散ゲート(discrete gate)及び/又はトランジスタ論理回路を含む他の種類の回路を含む論理回路でもよい(又はそれらを含んでもよい)。処理器510は、CPU(central processing unit)又はGPU(graphics processing unit) 又はその両方とすることができる。加えて、本明細書に記載される如何なる処理器も、マルチプロセッサ、並列プロセッサ又はその両方を含んでもよい。マルチプロセッサは、単一の装置又は複数の装置に含まれても、又はそれらに結合されてもよい。
その上、コンピュータシステム500は、メインメモリ520及び/又はスタティックメモリ530を含むことができ、これらメモリは、バス508を介して互いに通信することができる。本明細書に記載されるメモリは、データ及び実行可能な命令を格納することができ、時間命令(time instruction)が記憶されている間は、非一時的である実体のある記憶媒体である。本明細書において使用されるように、"非一時的"という用語は、ある状態の不変の特性としてではなく、ある期間続くある状態の特性として解釈されるべきである。"非一時的"という用語は、例えば搬送波或いは搬送信号、又はいつ如何なる場所においても一時的にだけ存在する他の形成の特性のような一瞬の特性を否定する。本明細書において説明されるメモリは、製品及び/又は機械部品である。本明細書に記載されるメモリは、コンピュータによってデータ及び実行可能な命令が読み取られるコンピュータ可読媒体である。本明細書に記載されるメモリは、RAM(random access memory)、ROM(read only memory)、フラッシュメモリ、EPROM(electrically programmable read only memory)、EEPROM(electrically erasable programmable read-only memory)、レジスタ、ハードディスク、リムーバブルディスク、テープ、CD-ROM、DVD、フロッピー(登録商標)ディスク、ブルーレイディスク又は当技術分野において知られる他の形式の記憶媒体でもよい。これらメモリは、揮発性又は不揮発性、安全及び/又は暗号化される、安全対策無し及び/又は暗号化されていないものでもよい。
示されるように、コンピュータシステム500は、例えば、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)、フラットパネルディスプレイ、固体ディスプレイ又は陰極線管(CRT)のようなビデオディスプレイユニット550をさらに含んでもよい。加えて、コンピュータシステム500は、例えば、キーボード/仮想キーボード、タッチセンサー式入力画面又は音声認識を用いた音声入力のような入力装置560、及び、例えば、マウス又はタッチセンサー式入力画面或いはパッドのようなカーソル制御装置570を含んでもよい。コンピュータシステム500は、ディスクドライブユニット580、例えば、スピーカ又はリモートコントロールのような信号生成装置590及びネットワークインタフェース装置540を含むこともできる。
図5に示されるような一実施形態において、ディスクドライブユニット580は、命令の1つ以上の組584、例えばソフトウェアが埋め込まれることができるコンピュータ可読媒体582を含んでもよい。これら命令の組584は、コンピュータ可読媒体582から読み取られることができる。さらに、命令584は、処理器により実行されるとき、本明細書に記載される方法及び処理の1つ以上を行うために使用されることができる。一実施形態において、命令584は、メインメモリ520、スタティックメモリ530内に及び/又はコンピュータシステム500による実行中は、処理器510内に、完全に又は少なくとも部分的に常駐してもよい。
代替的な実施形態において、例えば、特定用途向け集積回路(ASIC)、PLA(programmable logic array)及び他のハードウェア構成要素のような専用ハードウェア実装が、本明細書に記載される方法の1つ以上を実施するように構成されることができる。本明細書に記載される1つ以上の実施形態は、モジュール間で及びモジュールを介して通信される関連する制御信号及びデータ信号を有する2つ以上の特定の相互接続されるハードウェアモジュール又は装置を用いて機能を実施してもよい。従って、本開示は、ソフトウェア、ファームウェア及びハードウェア実装を包含する。本願において、例えば、有形の非一時的な処理器及び/又はメモリのようなハードウェアではなく、ソフトウェアのみで実施される又は実施可能であると解釈されるべきではない。
本開示の様々な実施形態によれば、本明細書に記載される方法は、ソフトウェアプログラムを実行するハードウェアコンピュータシステムを用いて実施されることができる。さらに、例示的な非限定な実施形態において、実施は、分散処理、コンポーネント/オブジェクト分散処理、及び並列処理を含むことができる。仮想コンピュータシステム処理は、本明細書に記載されるような方法又は機能の1つ以上を実施するように構築されることができ、本明細書に記載される処理器は、仮想処理環境を支援するために使用されてもよい。
本開示は、命令584を含む又は伝播信号に応じて命令584を受信及び実行するコンピュータ可読媒体582を考えているので、ネットワーク501に接続される装置は、ネットワーク501を介して音声、ビデオ又はデータを通信することができる。さらに、ネットワークインタフェース装置540を介して、命令584がネットワーク501上で送信又は受信されてもよい。
上述したように、本開示は、本出願に記載される特定の実施形態に関して限定されるべきではなく、これら実施形態は、様々な態様を例示するためである。明らかであるように、本開示の精神及び範囲から逸脱することなく、多くの修正例及び変形例を行うことができる。本明細書に列挙されるものに加え、本開示の範囲内にある機能的に同等の方法及び装置は、上述した代表的な説明から明らかである。そのような修正例及び変形例は、添付の代表的な特許請求の範囲の範囲内に含まれることを意図している。本開示は、添付の代表的な特許請求の範囲の条件と、そのような代表的な特許請求の範囲が権利を有する同等物の全範囲によってのみ限定される。本明細書において使用される専門用語は、単に特定の実施形態を説明することを目的とし、限定することを意図していないことを理解されたい。
本明細書における実質的に如何なる複数及び/又は単数の用語の使用に関して、当業者は、文脈及び/又は出願に適切であるように、複数から単数に及び/又は単数から複数に変換することができる。明確にするために、様々な単数/複数の変更が、本明細書において明示的に示されてもよい。
当業者であれば、本明細書、特に添付の特許請求の範囲(例えば、添付の特許請求の範囲の主体)において使用される用語は、"非限定の"用語(例えば、"含んでいる"という用語は、"含んでいるがこれに限定されない"と解釈されるべきであり、"持つ"という用語は、"少なくとも持つ"と解釈されるべきであり、"含む"という用語は、"含むがこれに限定されない"と解釈されるべきである、等)として一般的に意図されることが理解される。当業者であれば、導入された請求項の記載において特定の数が意図される場合、そのような意図は、請求項において明示的に挙げられ、そのような記載がない場合、そのような意図は存在しないことがさらに理解される。例えば、理解を助けるために、以下の添付の特許請求の範囲は、請求項の記載を導入するための"少なくとも1つ"及び"1つ以上"という導入句の使用を含む。しかしながら、そのような語句の使用は、たとえ同じ請求項が、"1つ以上"又は"少なくとも1つ"という導入句及び不定冠詞(例えば、不定冠詞は"少なくとも1つ"又は"1つ以上"を意味すると解釈されるべきである)を含んでいるときでさえも、不定冠詞による請求項の記載の導入が、そのような導入された請求項の記載を含む如何なる特定の請求項を、そのような記載だけを含む実施形態に限定することを意味すると解釈されるべきではなく、請求項の記載を導入するために使用される定冠詞の使用に対しても同じことが当てはまる。
加えて、たとえ導入された請求項の記載において特定の数が明示的に記載されたとしても、そのような記載は、少なくとも記載された数を意味すると解釈されるべきである(例えば、"2つの記載"という無修飾の記載は、他の修飾語が無ければ、少なくとも2つの記載、又は2つ以上の記載を意味する)。その上、"A、B及びCなどの少なくとも1つ"に類似する伝統的表現法が使用される場合、一般的に、当業者が、前記伝統的表現法(例えば、"A、B及びCの少なくとも1つを持つシステム"は、Aのみ、Bのみ、Cのみ、A及びB、A及びC、B及びC、及び/又はA、B及びC、等を持つシステムを含むがこれらに限定されない)を理解しているという意味において、そのような構文が意図される。当業者であれば、明細書、特許請求の範囲又は図面の何れにおいても、2つ以上の代替用語を示す、略如何なる離接語(distinctive word)及び/又は離接句(distinctive phrase)は、それらの言葉の1つ、それらの言葉のどちらか、又は両方の言葉を含む可能性を考えていると理解されるべきである。例えば、"A又はB"という言葉は、"A"、"B"、又は"A及びB"の可能性を含むと理解される。
上述した説明は、その説明に関連する実施形態と共に、単に例示を目的として示されている。前記説明は、挙げられた事項がすべてではなく、本明細書に開示される概念を、開示される説明の正確な形に限定するものではない。当業者は、上記の説明から、修正例及び変形例が、上記の教示を考慮して可能であること、又は開示される実施形態を実施することにより取得され得ることを理解している。例えば、記載されるステップは、記載されたのと同じ順序で又は同じ分解度で行われる必要はない。同様に、同じ又は同様の目的を達成するために、必要に応じて、様々なステップが省略される、繰り返される又は組み合わされることができる。従って、本開示は、上述した実施形態に限定されるのではなく、代わりに、添付の特許請求の範囲により、その同等物な全範囲を考慮して定義される。
上述において、様々な好ましい実施形態が添付の図面を参照して説明された。しかしながら、以下の特許請求の範囲に記載されるように、本明細書に開示される本発明の概念のより広い範囲から逸脱することなく、様々な修正及び変更を行うことができ、さらなる実施形態が実施されることができることが明らかである。従って、明細書及び図面は、限定的ではなく例示的な意味と考えられるべきである。
ウェアラブルセンサを用いた、センサの着用検出及び被験者の転倒検出だけでなく、被験者の身体活動を監視するシステム及び方法が、多数の例示的な実施形態を参照して説明されたとしても、使用した言葉は、限定の言葉ではなく、説明及び例示する言葉であると理解される。その態様における最適なセンサ配置のシステム及び方法の範囲及び精神から逸脱することなく、添付の特許請求の範囲内において、現在述べるように及び修正されるように、変更が行われてよい。最適なセンサ配置のシステム及び方法が、特定の手段、材料及び実施形態を参照して説明されたとしても、最適なセンサ配置のシステム及び方法は、開示される詳細に限定されることを意図するのではなく、むしろ、ウェアラブルセンサを用いて被験者を評価するシステム及び方法は、例えば、添付の特許請求の範囲内にあるような、全ての機能的に同等な構造、方法及び使用にまで及ぶ。
本明細書に記載される実施形態の例示は、様々な実施形態の構造の一般的な理解を提供することを意図している。これらの例示は、本明細書に記載される、本開示の全ての要素及び特徴を完全に説明したものとなることを意図したものではない。本開示を検討すると、他の多くの実施形態が当業者に明らとなるであろう。例えば、本開示の範囲から逸脱することなく、構造的及び論理的な置き換え並びに変更が行われるように、本開示から他の実施形態が利用及び導出されることができる。加えて、これら例示は単に代表的なものであり、一定の縮尺で描かれていない。これら例示において、ある比率は誇張される一方、他の比率は極小化されている。従って、これら開示及び図面は、限定的ではなく例示的であると見なされるべきである。
本開示の1つ以上の実施形態は、単に便宜上及び本出願の範囲を自ら何れかの特定の発明又は発明の概念に限定することを意図することなく、本明細書において、"発明"という言葉により個々に及び/又は総称して呼ばれる。その上、本明細書において、特定の実施形態が例示及び説明されたとしても、同じ又は同様の目的を達成するように設計された如何なる後続する構成も、示される特定の実施形態の代わりに使用され得ることが分かる。本開示は、様々な実施形態の何れか及び全ての後続する適合又は変形にも及んでいると意図される。本記載を検討すると、上記の実施形態と本明細書に具体的に記載されていない他の実施形態との組み合わせが、当業者には明らかになるであろう。
本開示の要約は、37 C.F.R.§1.72(b)に従うために提供され、特許請求の範囲或いは請求項の意味を解釈又は限定するために使用されないという理解の下で提出される。加えて、上述した詳細な説明において、本開示の簡素化を目的に、様々な特徴は、1つの実施形態にまとめられるか又は記載される。本開示は、請求される実施形態が、各請求項に明示的に列挙したものよりも多くの特徴を必要とする意図を反映していると解釈されるべきではない。むしろ、以下の請求項が反映するように、本発明の要旨は、何れかの開示される実施形態の特徴の全てよりも少ないものに向けられる。従って、以下の請求項は、詳細な説明に組み込まれ、各請求項は、個々に請求される要旨を定義するものとして独立している。
開示される実施形態の上述した説明は、当業者が本開示に記載した概念を実施することを可能にするために提供される。そのようなものとして、上に開示した要旨は、例示的であり、限定的ではないと見なされるべきであり、添付の特許請求の範囲は、本開示の真の精神及び範囲内にある、上記修正、拡張及び他の実施形態にも及んでいると意図される。従って、法律の規定する最大限の範囲で、本開示の範囲は、以下の請求項及びそれらの同等物の最も広い許容可能な解釈により決定されるものであり、上述した詳細な説明により制限又は制限されるものではない。

Claims (21)

  1. 少なくとも1つのオーディオセンサ、並びに加速度計、ジャイロスコープ及び磁力計の少なくとも1つを含むウェアラブルセンサを用いて、被験者の身体活動の監視及び転倒の検出を行う方法において、前記方法は、
    前記加速度計、前記ジャイロスコープ及び前記磁力計の少なくとも1つを用いて、前記被験者の活動を監視し、前記監視された活動に基づいて、少なくとも1つの特徴的な動きパターンを識別するステップ、
    前記識別された少なくとも1つの特徴的な動きパターンに基づいて、前記被験者が経験した見かけの転倒を検出するステップ、
    前記検出された見かけの転倒の後に、前記少なくとも1つのオーディオセンサにより供給される音声を監視するステップであり、前記監視される音声は周囲音及び心音の両方を有する、ステップ、
    前記少なくとも1つのオーディオセンサにより供給される前記監視される音声に基づいて、前記検出された見かけの転倒が、前記被験者が経験した実際の転倒であるかどうかを決定するステップ、並びに
    前記実際の転倒の表れを監視システムに伝え、応答動作の開始を可能にするステップ
    を有する方法。
  2. 前記検出された見かけの転倒が実際の転倒であるかどうかを決定するステップは、
    前記被験者の音響プロファイルに合わせられた所定のモデルを用いて、前記被験者により生成され、前記少なくとも1つのオーディオセンサにより供給される音声信号を分離するステップ、
    前記分離された音声信号から、可聴の外傷関連の手がかりに対応するセグメントを抽出するステップ、及び
    前記抽出されたセグメントに基づいて、前記検出された見かけの転倒が、実際の転倒であると決定するステップ
    を有する、請求項1に記載の方法。
  3. 前記可聴の外傷関連の手がかりは、異常な呼吸をする、ため息をつく、うめく、うなる、不満を言う、泣く及び/又は転倒或いは負傷したことの言語的表現の1つ以上を有する、請求項2に記載の方法。
  4. 前記検出された見かけの転倒が実際の転倒であると決定されるとき、前記可聴の外傷関連の手がかりに基づいて、前記被験者により持続される疼痛の程度を推定し、前記実際の転倒の表れ及び前記疼痛の程度を前記監視システムに伝えるステップ
    をさらに有する、請求項2に記載の方法。
  5. 前記可聴の外傷関連の手がかりに対応するセグメントは、双方向長・短期記憶(双方向LSTM)を備えるゲート付き回帰型ニューラルネットワークを用いて、前記分離された音声信号から抽出される、請求項2に記載の方法。
  6. 前記分離された音声信号から可聴の外傷関連の手がかりに対応するセグメントを抽出することは、
    前記分離された音声信号から、口述の、言語的及びパラ言語的な手がかりを抽出するステップ、及び
    前記抽出された口述の、言語的及びパラ言語的な手がかりに基づいて、前記被験者の決定される心拍数と共に、前記被験者の疼痛のレベルを推定するステップ、
    を有し、前記疼痛のレベルが所定のしきい値を超えるとき、前記検出された見かけの転倒は、実際の転倒であると決定される、請求項2に記載の方法。
  7. 前記少なくとも1つのオーディオセンサにより供給される前記監視される音声に基づいて、前記被験者の心拍数、前記被験者の心拍変動及び心音の質の少なくとも1つを決定し、前記被験者の心拍数が所定の心拍数ベースラインを超えている及び/又は前記被験者の心拍変動が所定の心拍変動ベースラインに満たないことに基づいて、前記検出された見かけの転倒が実際の転倒であるかどうかを決定するステップ
    をさらに有する、請求項1に記載の方法。
  8. 前記決定された心拍数、前記決定された心拍変動及び前記決定された心音の質の少なくとも1つに基づいて、前記被験者は、前記ウェアラブルセンサを着用しているかどうかを決定するステップ
    をさらに有する、請求項7に記載の方法。
  9. 前記被験者は前記ウェアラブルセンサを着用していないと決定されるとき、前記被験者に前記ウェアラブルセンサを着用することを促すように、前記被験者及び/又は前記監視システムに通知するステップ
    を有する、請求項8に記載の方法。
  10. 所定のベースラインと夫々比較して、前記決定される心拍数が増大している及び/又は前記決定される心拍変動が減少しているとき、前記検出された見かけの転倒は、実際の転倒であると決定される、請求項8に記載の方法。
  11. 少なくとも1つのオーディオセンサ、並びに加速度計、ジャイロスコープ及び磁力計の少なくとも1つを有するウェアラブルセンサを用いて、被験者の身体活動の監視を行う方法において、前記方法は、
    前記加速度計、前記ジャイロスコープ及び前記磁力計の少なくとも1つを用いて、前記被験者の身体の動きを決定するステップ、
    前記少なくとも1つのオーディオセンサにより供給される前記被験者の心臓の心音を抽出するステップ、
    前記抽出された心音の音質を決定するステップ、
    前記決定された身体の動き及び前記抽出された心音の前記決定された音質を用いて、前記ウェアラブルセンサが被験者により着用されているかどうかを決定するステップ、並びに
    前記被験者は前記ウェアラブルセンサを着用していないと決定されるとき、前記被験者に前記ウェアラブルセンサを着用することを促すように、前記被験者及び監視システムの少なくとも1つに通知するステップ
    を有する方法。
  12. 前記決定された身体の動きが前記被験者の座位挙動を示し、前記抽出された心音の前記決定された音質が、所定のベースラインに満たないとき、前記ウェアラブルセンサは前記被験者により着用されていないと決定し、
    前記決定された身体の動きが前記被験者の座位挙動を示し、前記抽出された心音の前記決定された音質が、所定のベースラインを越えているとき、前記ウェアラブルセンサは前記被験者により着用されていると決定する、
    請求項11に記載の方法。
  13. 前記抽出された心音に基づいて、被験者の心拍数及び心拍変動を決定するステップ、
    前記加速度計により検知される加速度、並びに前記決定された心拍数及び前記決定された心拍変動の少なくとも1つに基づいて、前記被験者が経験した見かけの転倒を検出するステップ、
    前記決定された心拍数、前記決定された心拍変動及び前記抽出された心音の音質の少なくとも1つに対する変化に基づいて、前記検出された見かけの転倒は、前記被験者が経験した実際の転倒であるかどうかを決定するステップ、並びに
    前記検出された見かけの転倒が実際の転倒であると決定されるとき、前記実際の転倒の表れを前記監視システムに伝え、応答動作の開始を可能にするステップ
    を有する、請求項11に記載の方法。
  14. 前記検出された見かけの転倒は、所定のベースラインと夫々比較して、前記決定された心拍数が増大している、前記決定された心拍変動が減少している及び/又は前記音質が向上しているとき、実際の転倒であると決定される、請求項13に記載の方法。
  15. 前記見かけの転倒を検出した後に、前記ウェアラブルセンサの前記少なくとも1つのオーディオセンサにより供給される周囲音を監視するステップをさらに有する、請求項11に記載の方法。
  16. 前記監視された周囲音に基づいて、さらに、前記検出された見かけの転倒が、前記被験者が経験した実際の転倒であるかどうかを決定するステップをさらに有する、請求項15に記載の方法。
  17. 前記監視された周囲音が、自然言語処理により決定される、前記被験者による可聴の苦痛の様子を示すとき、前記検出された見かけの転倒は、実際の転倒であると決定される、請求項16に記載の方法。
  18. 被験者の身体活動を監視するための、前記被験者の身体上のウェアラブルセンサを含むセンサシステムにおいて、前記センサシステムは、
    前記被験者の身体活動を監視するように構成される慣性計測装置、
    前記被験者の周りの周囲音及び前記被験者の心音を検出するように構成される少なくとも1つのオーディオセンサ、
    転倒検出モジュール、転倒後音声取得モジュール、音声駆動型転倒検出確認モジュール及び音声駆動型疼痛レベル評価モジュールを有する、実行可能な命令を格納するメモリ、並びに
    前記メモリから取り出される前記命令を実行するように構成される処理器であり、前記命令は、実行されるとき、前記処理器に
    前記転倒検出モジュールに従って、前記慣性計測装置により監視される前記被験者の身体活動に基づいて、前記被験者が経験している見かけの転倒を検出させ、
    前記転倒後音声取得モジュールに従って、前記検出された見かけの転倒に続く、前記少なくとも1つのオーディオセンサにより供給される音声を取得させ、
    前記音声駆動型転倒検出確認モジュールに従って、前記取得した音声に基づいて、前記検出された見かけの転倒は、前記被験者が経験した実際の転倒であると決定させ、
    前記音声駆動型疼痛レベル評価モジュールに従って、前記被験者により生成され、前記取得した音声から抽出される可聴の外傷関連の手がかりに基づいて、前記被験者の疼痛のレベルを推定させる
    前記処理器、並びに
    前記実際の転倒の表れを、ワイヤレスネットワークを介して監視システムに伝え、応答動作の開始を可能するように構成される通信インターフェース
    を有する、センサシステム。
  19. 実行可能な命令を格納している前記メモリは、音声セグメント化モジュールをさら有し、前記命令は、実行されるとき、前記処理器に、さらに、
    前記音声セグメント化モジュールに従って、前記被験者の音響プロファイルに合わせられた所定のモデルを用いて、前記被験者により生成される音声信号を分離させ、前記分離された音声信号から、前記可聴な外傷関連の手がかりに対応するセグメントを抽出させる、
    請求項18に記載のシステム。
  20. 実行可能な命令を格納している前記メモリは、心音検出モジュールをさらに有し、前記命令は、実行されるとき、前記処理器に、さらに、
    前記心音検出モジュールに従って、前記取得した音声に基づいて、前記被験者の心拍数、前記被験者の心拍変動及び心音の質の少なくとも1つを決定させる、
    請求項18に記載のシステム。
  21. 実行可能な命令を格納している前記メモリは、着用検出モジュールをさらに有し、前記命令は、実行されるとき、前記処理器に、さらに、
    前記着用検出モジュールに従って、前記慣性計測装置により監視される前記被験者の身体活動及び前記決定された心音の質に基づいて、前記ウェアラブルセンサが前記被験者により着用されているかどうかを決定させる、
    請求項20に記載のシステム。
JP2022506901A 2019-08-20 2020-08-12 ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法 Active JP7504193B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962889289P 2019-08-20 2019-08-20
US62/889,289 2019-08-20
PCT/EP2020/072587 WO2021032556A1 (en) 2019-08-20 2020-08-12 System and method of detecting falls of a subject using a wearable sensor

Publications (3)

Publication Number Publication Date
JP2022544757A JP2022544757A (ja) 2022-10-21
JPWO2021032556A5 JPWO2021032556A5 (ja) 2023-07-19
JP7504193B2 true JP7504193B2 (ja) 2024-06-21

Family

ID=72088079

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022506901A Active JP7504193B2 (ja) 2019-08-20 2020-08-12 ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法

Country Status (5)

Country Link
US (1) US11800996B2 (ja)
EP (1) EP4018422A1 (ja)
JP (1) JP7504193B2 (ja)
CN (1) CN114269241A (ja)
WO (1) WO2021032556A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11380181B2 (en) * 2020-12-09 2022-07-05 MS Technologies Doppler radar system with machine learning applications for fall prediction and detection
DE102022209370A1 (de) * 2021-09-10 2023-03-16 Apple Inc. Kontextabhängige sturzerkennung mit einer mobilen vorrichtung
WO2023069781A1 (en) * 2021-10-24 2023-04-27 Simmons Chia Lin System and method for fall detection using multiple sensors, including barometric or atmospheric pressure sensors
FR3138843A1 (fr) * 2022-08-10 2024-02-16 Nov'in Dispositif de surveillance de l’activité d’un utilisateur
GB2622020A (en) * 2022-08-30 2024-03-06 Carewhere Ltd Body mounted tracker
CN115444381B (zh) * 2022-09-19 2024-07-02 吉林大学 一种基于生理信号的车内声品质评价方法和***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150145662A1 (en) 2013-11-26 2015-05-28 Hti Ip, L.L.C. Using audio signals in personal emergency response systems
JP2016067641A (ja) 2014-09-30 2016-05-09 東京エレクトロンデバイス株式会社 転倒検知処理装置及び転倒検知システム
JP2017134818A (ja) 2016-01-28 2017-08-03 中興保全股▲分▼有限公司 Sos機能付き入退室管理用スマートリストバンド及びそれを応用したスマート電気錠システム
WO2018151004A1 (ja) 2017-02-16 2018-08-23 パナソニックIpマネジメント株式会社 異変通知システムおよび異変通知方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6166639A (en) 1999-03-12 2000-12-26 Advanced Marketing Systems Corporation Personal emergency response system
US6333694B2 (en) 2000-03-09 2001-12-25 Advanced Marketing Systems Corporation Personal emergency response system
US7733224B2 (en) 2006-06-30 2010-06-08 Bao Tran Mesh network personal emergency response appliance
US8254591B2 (en) 2007-02-01 2012-08-28 Personics Holdings Inc. Method and device for audio recording
US20090322513A1 (en) 2008-06-27 2009-12-31 Franklin Dun-Jen Hwang Medical emergency alert system and method
US9230419B2 (en) 2010-07-27 2016-01-05 Rite-Hite Holding Corporation Methods and apparatus to detect and warn proximate entities of interest
US8810388B2 (en) 2011-02-23 2014-08-19 Peter G. Jacobs Position tracking and mobility assessment system
JP2013092923A (ja) 2011-10-26 2013-05-16 Seiko Epson Corp 転落検出装置及び転落監視システム
US20140266690A1 (en) * 2013-03-15 2014-09-18 SaferAging, Inc. Automated event severity determination in an emergency assistance system
US9241673B2 (en) * 2013-09-30 2016-01-26 Cyberonics, Inc. Systems and methods for validating monitoring device placement and locations
US20150269825A1 (en) 2014-03-20 2015-09-24 Bao Tran Patient monitoring appliance
WO2017017547A1 (en) 2015-07-28 2017-02-02 Koninklijke Philips N.V. Wearing compliance of personal emergency response system help button
US9955939B2 (en) * 2016-02-02 2018-05-01 Qualcomm Incorporated Stethoscope system including a sensor array
US20170319082A1 (en) 2016-05-05 2017-11-09 Siad Sayme Phono-Electro-Cardiogram Monitoring Unit
CN109843179A (zh) 2016-09-07 2019-06-04 皇家飞利浦有限公司 用于检测异常心音的分类器集成
US9953507B1 (en) * 2016-12-28 2018-04-24 Nortek Security & Control Llc Monitoring a wearing of a wearable device
US10629048B2 (en) * 2017-09-29 2020-04-21 Apple Inc. Detecting falls using a mobile device
GB2567826B (en) * 2017-10-24 2023-04-26 Cambridge Cognition Ltd System and method for assessing physiological state
WO2019166296A1 (en) * 2018-02-28 2019-09-06 Robert Bosch Gmbh System and method for audio event detection in surveillance systems
US11031013B1 (en) * 2019-06-17 2021-06-08 Express Scripts Strategic Development, Inc. Task completion based on speech analysis

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150145662A1 (en) 2013-11-26 2015-05-28 Hti Ip, L.L.C. Using audio signals in personal emergency response systems
JP2016067641A (ja) 2014-09-30 2016-05-09 東京エレクトロンデバイス株式会社 転倒検知処理装置及び転倒検知システム
JP2017134818A (ja) 2016-01-28 2017-08-03 中興保全股▲分▼有限公司 Sos機能付き入退室管理用スマートリストバンド及びそれを応用したスマート電気錠システム
WO2018151004A1 (ja) 2017-02-16 2018-08-23 パナソニックIpマネジメント株式会社 異変通知システムおよび異変通知方法

Also Published As

Publication number Publication date
JP2022544757A (ja) 2022-10-21
US11800996B2 (en) 2023-10-31
WO2021032556A1 (en) 2021-02-25
US20210052198A1 (en) 2021-02-25
EP4018422A1 (en) 2022-06-29
CN114269241A (zh) 2022-04-01

Similar Documents

Publication Publication Date Title
JP7504193B2 (ja) ウェアラブルセンサを用いて被験者の転倒を検出するシステム及び方法
US20200388287A1 (en) Intelligent health monitoring
EP3367908B1 (en) Programmable electronic stethoscope devices, algorithms, systems, and methods
JP4917373B2 (ja) 生体情報推定装置及びそれを搭載した電子機器
US20180008191A1 (en) Pain management wearable device
US20170319063A1 (en) Apparatus and method for recording and analysing lapses in memory and function
EP3364859A1 (en) System and method for monitoring and determining a medical condition of a user
Parra et al. Multimedia sensors embedded in smartphones for ambient assisted living and e-health
US20240057937A1 (en) Detecting and Measuring Snoring
US20210027893A1 (en) Pulmonary function estimation
Islam et al. BreathTrack: detecting regular breathing phases from unannotated acoustic data captured by a smartphone
JP2019512331A (ja) 視覚的コンテキストを用いる、生理学的パラメータの測定の適時トリガ
Romero et al. Acoustic screening for obstructive sleep apnea in home environments based on deep neural networks
WO2003041589A1 (fr) Appareil de diagnostic d'une fonction chaologique du cerveau
Hossain et al. Sleep well: a sound sleep monitoring framework for community scaling
TWI772762B (zh) 照護系統與自動照護方法
Rahman et al. Efficient online cough detection with a minimal feature set using smartphones for automated assessment of pulmonary patients
CN114340487A (zh) 一种处理哮喘患者咳嗽音以应用适当治疗的方法和装置
US20210177300A1 (en) Monitoring abnormal respiratory events
US11918346B2 (en) Methods and systems for pulmonary condition assessment
JP6942288B2 (ja) 情報処理装置、サウンドマスキングシステム、制御方法、及び制御プログラム
US20240188883A1 (en) Hypnodensity-based sleep apnea monitoring system and method of operation thereof
EP4298989A1 (en) System and method for determining a measure of a severity of sleep disordered breathing
Williams et al. Using time series techniques to forecast and analyze wake and sleep behavior
Adithya et al. A Deep Learning Framework for Comprehensive Sleep Analysis and Quality Tracking

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220617

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230710

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240507

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240611

R150 Certificate of patent or registration of utility model

Ref document number: 7504193

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150