JP2019508116A - 拍動検出のための装置、システム、及び方法 - Google Patents

拍動検出のための装置、システム、及び方法 Download PDF

Info

Publication number
JP2019508116A
JP2019508116A JP2018540804A JP2018540804A JP2019508116A JP 2019508116 A JP2019508116 A JP 2019508116A JP 2018540804 A JP2018540804 A JP 2018540804A JP 2018540804 A JP2018540804 A JP 2018540804A JP 2019508116 A JP2019508116 A JP 2019508116A
Authority
JP
Japan
Prior art keywords
signal
band
region
spectral
measure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018540804A
Other languages
English (en)
Inventor
ブリンカー アルベルトゥス コルネリス デン
ブリンカー アルベルトゥス コルネリス デン
ウェンジン ワン
ウェンジン ワン
ハーン ジェラルド デ
ハーン ジェラルド デ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2019508116A publication Critical patent/JP2019508116A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0261Measuring blood flow using optical means, e.g. infrared light
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/026Measuring blood flow
    • A61B5/0295Measuring blood flow using plethysmography, i.e. measuring the variations in the volume of a body part as modified by the circulation of blood therethrough, e.g. impedance plethysmography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2433Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A61B5/02427Details of sensor
    • A61B5/02433Details of sensor for infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02438Detecting, measuring or recording pulse rate or heart rate with portable devices, e.g. worn by the patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30076Plethysmography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Cardiology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Physiology (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Hematology (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Signal Processing (AREA)
  • Psychiatry (AREA)
  • Image Analysis (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)

Abstract

本発明は、拍動検出のための装置、システム、及び方法に関する。提案している装置は、時間系列の画像フレームを含むシーンの画像データを得るための入力インターフェース30と、画像データの関心領域から、周期的な生理現象を示す時間変化信号を抽出するための抽出ユニット31と、時間変化信号をスペクトル信号へと変換するための変換ユニット32と、スペクトル信号を、スペクトル信号の第1の周波数範囲をカバーする帯域内副信号と、スペクトル信号の第2の周波数範囲をカバーする帯域外副信号とに少なくとも分割するための分割ユニット33であって、第1の周波数範囲は周期的な生理現象の周波数範囲を少なくとも含む、分割ユニット33と、帯域内尺度を帯域内副信号から、帯域外尺度を帯域外副信号から、別々に導出するための分析ユニット34であって、帯域内尺度及び帯域外尺度は記述子を表現する、分析ユニット34と、関心領域を、記述子に基づいて、生物の拍動領域として、又は、非拍動領域として分類するための分類器35とを備える。

Description

本発明は、拍動検出、詳細には、皮膚検出のための装置、システム、及び方法に関する。潜在的な用途には、対象の生命徴候監視又は生存性のための関心領域の設定を決定することがある。
例えば心拍数(HR)、呼吸数(RR)、又は動脈血酸素飽和度(SpO2)といった人の生命徴候は、人の現在の健康状態の指標として、及び、重篤な医療事象の効果的な予測因子としての役割を果たす。この理由のため、生命徴候は、入院患者及び外来患者の治療環境において、家庭で、又は、さらには健康、娯楽、及び運動環境において、広く監視されている。
生命徴候を測定する1つのやり方は容積脈波記録法である。容積脈波記録法は、概して、器官又は身体部位の容積変化の測定を指し、具体的には、心拍ごとに対象の身体を通って伝わる心臓血管脈波による容積変化の検出を指す。
光電式容積脈波記録法(PPG)は、関心のある面積又は容積の光の反射又は透過の時間変数の変化を評価する光学測定技術である。PPGは、血液が周囲の組織より多く光を吸収するという原理に基づいており、そのため、心拍ごとの血量における変化が透過又は反射に相応に影響する。心拍数についての情報に加えて、又はそれに代わって、PPG波形は、呼吸などの生理現象に起因する情報を含み得る。異なる波長(典型的には、赤及び赤外線)において透過率及び/又は反射率を評価することで、血液酸素(又は、他の血液ガス/物質)の飽和状態を決定することができる。
近年、非影響測定のための非接触の遠隔PPG(rPPG)装置(カメラrPPG装置とも呼ばれる)が導入されている。遠隔PPGは、関心の対象から遠隔に配置された光源又は一般的には放射源を利用する。同様に、例えばカメラ又は光検出器といった検出器も、関心の対象から遠隔に配置され得る。そのため、遠隔光電式容積脈波記録のシステム及び装置は、非影響的であり且つ医療並びに非医療の日常の用途にもよく適していると考えられている。この技術は、特に、非常に繊細な皮膚を持つ新生児集中治療処置室(NICU)の患者、未熟児、又は広範囲熱傷を伴う患者など、生命徴候監視を必要とする極めて皮膚の敏感な患者にとって顕著な利点を有する。
Verkruysseらの「Remote plethysmographic imaging using ambient light」、Optics Express、16(26)、2008年12月22日、21434〜21445ページは、周囲の光と、赤色、緑色、及び青色の周波数帯域を使用する従来の消費者レベルのビデオカメラとを使用して光電式容積脈波記録の信号を遠隔から測定できることを実証している。
完全に非接触であるという利点とは別に、カメラ(概して撮像装置と呼ばれる)は、マルチスポット及び大面積測定を可能にする二次元の情報を提供し、多くの場合追加的なコンテキスト情報を含む。特定の測定点/領域への正しい配置に依存する接触式センサと異なり、rPPG技術を用いたパルス信号を測定するために使用される領域は、実際の画像から決定される必要がある。そのため、大きく変化する照明条件の下での信頼できる皮膚領域の正確な検出は、カメラベースのrPPGの装置及び方法の処理の流れにおいて極めて重要な部分になっている。
現在、皮膚領域の信頼できる検出及び追跡について知られている主要な手法は2つある。
1つの手法は、皮膚の色(RGBに基づく)の検出及びセグメント化に基づく。この手法による方法は、皮膚の色による領域の検出と追跡との両方において迅速である。しかしながら、この方法は、皮膚領域から反射される光の色も変化させる周囲の光の色の変化に対してロバストではなく、弱い照明条件の下、又は、暗闇においては、皮膚領域を検出できない。さらに、このような方法は、皮膚を、同じ色を伴う他の表面から常に識別できるとは限らない。
別の手法は、例えば、Gibertらの“Face detection based on photoplethysmography”、10th IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS)、2013において開示されているような、抽出されたPPG信号(PPGに基づく)に基づく。この手法による方法は、本物の皮膚の領域と、同じ皮膚の色の他の物体の領域とを識別することにおいてよりロバストである。
画像系列における対象からの生体組織又は拍動の検出は、様々な用途を有する。このうちの1つの用途は、遠隔光電式容積脈波記録法(rPPG)のための自動ROI検出、又は、患者監視のための、若しくは、例えば血管の健康測定を実施するためのBCG運動測定である。別の用途は、光電式容積脈波記録法の信号、又は、呼吸によって引き起こされる準周期的運動のいずれかから、対象の呼吸率を決定することである。呼吸によって引き起こされる準周期的動作の場合、拍動信号が、例えば衣服又は寝具といった皮膚ではない表面において見出され得る。さらに、例えば、プレイヤーの身振りを認識するためにカメラ技術を用いる遠隔ゲームの用途、顔検出、警備(監視カメラを用いた人のロバストな検出、マスクを着用する人の検出、又は、カメラ登録において本物のような覆面から本当の顔を区別すること)といった他の技術的な分野において、関心のあるものであり得る。
取得された画像における周期的な色変化自体が、生物の皮膚と皮膚以外とを区別するために使用され得ることが示されている。しかしながら、特に、例えば夜間の患者の監視といった、弱い光のレベル又は暗闇の中での用途については、特に近赤外(NIR)波長内でのこれら吸収変化の比較的小さい振幅は、なおも問題であり、実際の試みでは、皮膚と皮膚以外とを区別することに失敗してしまう。
本発明の目的は、特に、対象の生命徴候を検出するための装置及び方法における使用について、拍動のより信頼できて正確で素早い検出を可能にする装置及び対応する方法とシステムとを提供することである。
本発明の第1の態様では、
− 時間系列の画像フレームを含むシーンの画像データを得るための入力インターフェースと、
− 画像データの関心領域から、周期的な生理現象を示す時間変化信号を抽出するための抽出ユニットと、
− 時間変化信号をスペクトル信号へと変換するための変換ユニットと、
− スペクトル信号を、スペクトル信号の第1の周波数範囲をカバーする帯域内副信号と、スペクトル信号の第2の周波数範囲をカバーする帯域外副信号とに少なくとも分割するための分割ユニットであって、第1の周波数範囲は周期的な生理現象の周波数範囲を少なくとも含む、分割ユニットと、
− 帯域内尺度を帯域内副信号から、帯域外尺度を帯域外副信号から、別々に導出するための分析ユニットであって、帯域内尺度及び帯域外尺度は記述子を表現する、分析ユニットと、
− 関心領域を、記述子に基づいて、生物の拍動領域として、又は、非拍動領域として分類するための分類器と
を備える、拍動検出のための装置が提示される。
本発明のさらなる態様では、対応する方法が提示される。
本発明のなおもさらなる態様では、拍動検出のためのシステムが提示され、そのシステムは、
− シーンの画像データを取得するための撮像ユニットと、
− シーンの取得された画像データに基づいた拍動検出のための、本明細書で開示されているような装置と
を備える。
本発明のさらなる態様では、コンピュータで実行されるとき、そのコンピュータに、本明細書で開示されているような方法のステップを実行させるためのプログラムコード手段を含むコンピュータプログラムと、コンピュータで実行されるとき、本明細書で開示されている方法を実施させるコンピュータプログラム製品を内部に保存する不揮発性コンピュータ読取可能記録媒体とが提供される。
本発明の好ましい実施形態は従属請求項で定義されている。請求された方法、システム、コンピュータプログラム、及び媒体が、請求された装置と、及び、従属請求項で定義されたものと、同様及び/又は同一の好ましい実施形態を有し得ることは、理解されるものである。
本発明は、拍動信号を周波数領域におけるノイズから区別するという考えに基づかれており、より正確には、生物の拍動領域、又は、皮膚領域及び非皮膚領域などの拍動領域及び非拍動領域を示す完全な生物若しくは異なる身体部分の拍動領域を潜在的に含むシーンの画像データから導出される周波数領域信号における帯域内副信号と帯域外副信号とを別々に評価することで、拍動信号を周波数領域におけるノイズから区別するという考えに基づかれている。スペクトル信号は、例えば脈又は呼吸の信号といった、拍動検出について関心のある少なくとも1つの生命徴候パラメータ又は周期的な生理現象の周波数範囲を含む帯域内副信号と、第2の異なる周波数範囲をカバーする帯域外副信号へと少なくとも分割される。
例えば、従来の技術にあるような帯域フィルタ(例えば、1分間あたり42拍から120拍までに対応する0.7Hzから2Hzの間の安静時心拍数に調整される、脈信号のための帯域フィルタ)を用いて、帯域外副信号を放棄する代わりに、帯域内及び帯域外の周波数成分が周波数スペクトルにおいて保たれる。分析ユニットは、帯域内尺度を帯域内副信号から、帯域外尺度を帯域外副信号から、別々に導出するように構成される。それによって、帯域外信号及び対応する帯域外尺度が帯域内副信号を評価するための基準として作用できることが、見出されている。分析ユニットは、有利には、帯域内副信号及び帯域外副信号についての同じ尺度又は同じ種類の尺度を別々に導出するように構成される。したがって、帯域内信号及び帯域外信号が同じ動作に基づいて得られてもよい。利点は、例えば専用ASICを用いた、効率的な実施及び計算である。そのように訓練された分類器であれば、例えば、帯域内尺度と帯域外尺度とを入力として用い、例えば画像データの画像フレームの画像セグメントといった画像データにおける特定の関心領域(ROI)が拍動を示しているかどうかの信頼できる決定が行える。
別の言い方をすれば、呼吸又は心臓活動による(準)周期的な信号など、検出される拍動の特徴が、具体的には、帯域内副信号における心拍数(HR)又は呼吸数(RR)の周波数など、特定の予期される周波数で現れることと、スペクトルの他の部分では帯域内副信号がないこととが、考慮されている。
具体的には、ノイズの特性は、関心のある拍動が存在しないスペクトル信号の部分(帯域外副信号)において観察可能及び測定可能である。スペクトル信号のこの部分は、有利には、基準として、及び/又は、拍動が存在し得るスペクトルの他の部分、つまり、帯域内副信号におけるノイズ寄与を推定するために、使用できる。したがって、帯域内信号において、ノイズに加えて拍動の有無が特定され得る。有利には、低SNR条件の下での動作が、例えば、夜に監視する非影響的生命徴候について、改善され得る。
したがって、提案している装置、システム、及び方法は、三次元系列の画像フレームから一次元時間信号(ここでは「時間変化信号」とも呼ばれる)を実質的に抽出し、時間信号を変換されたスペクトル信号へと変換し、スペクトル信号を帯域内副信号と帯域外副信号へと分割し、帯域内尺度と帯域外尺度とを示す記述子を得るために帯域内副信号と帯域外副信号とを別々に分析し、記述子に基づいて三次元系列の画像フレームを分類することで、三次元時間系列の画像フレーム(具体的には、その画像セグメント)が、例えば呼吸又は心臓活動のため、生きている人の組織又は拍動を含むかどうかを、判定することができる。
本明細書で使用されるとき、画像は、300nmから1000nmまでの間の波長範囲で、又は、熱画像(2000nm〜12000nm)として、シーンから反射される検出された光を指示しているとして理解できるだけでなく、より一般的には、MRI、CTなどを含む任意の撮像モダリティから反射される検出された光を指示しているとしても理解でき、例えばオプティカルフローを用いて得られる、運動ベクトル場などの導出された画像も含み得る。
この状況において、例えばビデオ系列におけるROIからといった、画像データのROIから時間変化信号を抽出する時間において、ROIが実際に拍動を示しているかどうかは分からないことは、留意されるものである。この不確定性のため、ROIは、拍動を含んでいるかのように取り扱われ、時間変化信号が、例えば皮膚領域で従来から行われているように、周期的な生理現象を指示しているというこの仮定を伴ってROIから抽出される。別の言い方をすれば、周期的な生理現象を指示している時間変化信号は、拍動検出のための装置によって、つまり、周期的な生理現象を潜在的に示す信号によって検証される仮定として見なすことができる。根本的な生理的過程を考慮して、ここで用いられているような周期的な生理現象が、例えば心拍数の変動性又は変化する呼吸率のため、変化を受ける可能性があり、そのため、準周期的な生理現象も包含することは、理解されるものである。
変換について、FFT、DCT、ウェーブレット変換、ハール変換などの任意の種類の周波数領域変換が使用できる。
仕分けされた帯域内信号及び帯域外信号など、分析ユニットによって導出される例示の尺度は、後でさらに説明されることになる。
実施形態によれば、時間変化信号は、光電式容積脈波記録法(PPG)信号、周期的な生理現象を示す運動信号、心弾動図記録法(BCG)信号のうちの1つである。代替で、時間変化信号は前述の信号のうちの少なくとも1つを含んでもよい。PPG信号は、例えば拍動する血流による皮膚においての微妙な色変化によって引き起こされる、時間変化する吸収を示す吸収に基づく信号であり得る。PPG信号は、例えば、心拍数又は呼吸数を生命徴候として示すことができる。呼吸(胸部)運動信号などの運動信号が、呼吸などの生理現象によって引き起こされる対象の運動を指示できる。例えば、対象の胸部運動が監視され得る。運動ベクトル場は、例えば呼吸運動信号について、反射画像の代替又は追加として使用できるが、脈運動信号についても同じように使用できる。時間変化信号を間接的に得ることも可能である。例えば、毛布の(拍動性の/周期的な)運動は、ベッドに横たわる対象の呼吸を示すことができる。BCG信号は、運動変調光によって引き起こされる脈頻度信号を参照することができる。BCG信号は、例えば、頭を周期的な運動で移動させる心臓から頭への腹部大動脈及び頸動脈を介した血液の循環の移動など、心臓活動を指示できる。BCG信号を得ることは、A.Moco、S.Stuijk、及びG.de Haanによって、“Motion robust PPG−imaging through color channel mapping”、Biomedical Optical Express、Vol.7、No.5、1737〜1754ページ、2016年5月において例示により記載されている。なおも別の実施形態では、時間変化信号は、ピクセル値を示す「輝度」信号で得ある必要はないが、Balakrishnanらによって「Detecting Pulse from Head Motions in Video」IEEE Conference on Computer Vision and Pattern Recognition (CVPR)、2013において開示されているような、対象の微小運動から得られた運動ベクトル場のような、導出された信号又は画像であってもよい。運動が、例えば、対象を覆う衣服、毛髪、又は毛布へと伝えられ得るため、ROIが皮膚である必要のないことは、理解されるものである。
実施形態によれば、拍動検出のための装置は、皮膚検出のための装置であり、分類器は、関心領域を、記述子に基づいて、生物の皮膚領域として、又は、非皮膚領域として分類するように構成される。代替又は追加で、装置は、例えば、毛布の下のベッドに位置付けられる対象を監視するためにといった、呼吸に関する拍動の検出のために構成され得る。
実施形態によれば、変換ユニットは、時間変化信号を、位相情報のないスペクトル信号へと、具体的には、パワースペクトル又は絶対(振幅)スペクトルへと変換するように、つまり、複素スペクトルを本物の信号へと変換させるように構成される。フーリエ変換の出力は複素数(実数部及び虚数部)の信号である。位相情報が関心のあるものではない場合、複素サンプルのノルム(複素平面におけるベクトルの長さ)が取られ、これは絶対スペクトル又は振幅スペクトルとしばしば呼ばれる。これらの数字を2乗することで、パワースペクトルが得られる。これは、パルス(分かっていない位相及び周波数を伴う正弦曲線からモデル化されるだけであり得るが、大きい振幅として現れる)と、ノイズ(スペクトル(仕分けされている、又は、仕分けされていない)において、実質的に同じ振幅を伴う幅広い帯域の周波数として現れる無作為(振幅と位相との両方)の信号としてモデル化され得る)とを見分けることが望まれるため、有利である。具体的には、仕分けされているスペクトルを、分析ユニットによって導出された帯域内尺度及び帯域外尺度として取るとき、それらは分類するのが容易である。
実施形態では、分析ユニットは、仕分けされた帯域内副信号を帯域内尺度として、及び、仕分けされた帯域外副信号を帯域外尺度として得るために、帯域内副信号と帯域外副信号とを別々に仕分けするように構成される仕分けユニットを備える。そのため、仕分けされたスペクトルの副信号は記述子を表現する。したがって、拍動信号が、例えば、生物の皮膚領域、又は、皮膚領域及び非皮膚領域を示す完全な生物若しくは異なる身体部分の皮膚領域を潜在的に含むシーンの画像データから導出される仕分けされた周波数領域信号におけるエネルギーの分布を評価することで、周波数領域におけるノイズから区別できる。特に、(仕分けされた(又は、順位付けされた)周波数領域表現における)脈信号のエネルギーが、仕分けされた(又は、順位付けされた)ノイズスペクトルのエネルギーより素早く低下することが見出されている。そのように好ましくは訓練された分類器であれば、つまり、このような順位付けされたスペクトルの副信号を入力として用い、例えば画像データの画像フレームの画像セグメントといった画像データにおける特定の関心領域(ROI)が拍動(例えば、皮膚領域)を示しているかどうかの信頼できる決定が行える。
これによって、仕分けすることと順位付けすることとは、同義として理解されるものである。周波数サンプルの順番は、周波数サンプルが、低下又は増加する振幅で順番付けされて現れるように変更され、つまり、周波数サンプルは周波数方向において再び順番付けされる。
別の実施形態では、分析ユニットは、帯域内信号のスペクトル平坦性を帯域内尺度として、帯域外信号のスペクトル平坦性を帯域外尺度として、別々に決定するように構成されている。スペクトル平坦性の従来の定義は、信号の振幅スペクトルの算術平均値に対する幾何平均値の割合である。振幅スペクトルの代替として、パワースペクトルが基礎として取られてもよい。さらに、音響技術の異なる技術的分野において、Madhuによって「Note on measures for spectral flatness」、Electronics Letters、vol.45、no.23、2009年において提案されているようなスペクトル平坦性尺度が、適用されてもよい。この手法の利点は、帯域内副信号及び帯域外副信号についての尺度のロバストな決定、及び、限られた計算コストによる分類である。
さらなる実施形態では、分析ユニットは、帯域内尺度を帯域内信号の周波数ビンのエネルギーに基づいて、帯域外尺度を帯域外信号の周波数ビンのエネルギーに基づいて、別々に決定するように構成される。有利には、拍動は、そのため分類器において帯域内尺度と帯域外尺度とを比較することで検出され得る。さらなる実施形態では、分析ユニットは、帯域内尺度を、帯域内信号の周波数ビンにおけるエネルギーと、帯域内信号の平均エネルギーとの比較に基づいて、帯域外尺度を、帯域外信号の周波数ビンにおけるエネルギーと、帯域外信号の平均エネルギーとの比較に基づいて、別々に決定するように構成される。
別の実施形態では、分析ユニットは、統計的な異常値検出に基づいて帯域内尺度と帯域外尺度とを別々に決定するように構成される。例えば、エネルギー又は振幅の中央値などのロバストな推定は、分散推定と共に行われ得る。通常起こる中央値を超える振幅又はエネルギーが異常値として決定でき、拍動を示すことができる。通常起こる値は、例えば、平均又は平均値±標準偏差の1倍又は2倍として定義できる。さらに、少なくとも1つの分布のモデル、好ましくは、拍動及びノイズについての2つの分布が使用され、一方で帯域内副信号と比較され、他方で帯域外副信号と比較され得る。これによって、帯域外信号の値の分布がノイズモデルとして使用され得る。次に、帯域内信号の値の分布がノイズモデルと比較され得る。帯域内副信号の値の分布がノイズモデルと合致する場合、帯域外副信号に基づいて決定されているように、関心領域は、非拍動領域としてか、そうでなければ拍動領域として、分類され得る。
実施形態では、分類器は、帯域外尺度と帯域内尺度との比較に基づいて、関心領域を生物の拍動領域として、又は、非拍動領域として分類するように構成される。帯域外尺度は、非拍動を示すと見なされ得る。帯域内副信号との比較で、帯域外副信号は、関心の(準)周期的な生理現象の周波数範囲を含まない。したがって、第1の周波数範囲は第2の周波数範囲と異なる。したがって、帯域外信号は基準として働くことができる。それによって、ロバストな決定が、信号対ノイズ比についてさえも達成され得る。
さらなる実施形態では、帯域外尺度は非拍動をここでも指示でき、分類器は、帯域外尺度に基づいて、関心領域を生物の拍動領域として、又は、非拍動領域として分類するための判定閾値を決定するように構成される。この実施形態の利点は、分類において固定の判定閾値を用いる代わりに、判定閾値が帯域外尺度に基づいて適応され得ることである。例えば、帯域外副信号によって示されるように低信号であるが低ノイズである条件では、より低い判定閾値が設定され得る。それによって、よりロバストな決定が、例えば夜間におけるNIRに基づく測定といった、弱い光の条件における測定についても達成され得る。
実施形態では、分類器は、生物の拍動領域として、又は、非拍動領域としての関心領域の分類の一貫性がある測定基準を決定するように構成される。一貫性がある測定基準は、分類の空間及び/又は時間の一貫性を示すことができる。例えば、連結される領域だけが面領域とできる一方で、単一の隔離されたパッチは、(画像と実際に使用されるROIの大きさとにおける顔又は皮膚の部分の大きさに依存して)ほとんどあり得ないと示されることが期待される。時間領域についても同様に、時間内における特定の瞬間において拍動を作り出す(動き補償)パッチが、拍動を絶えず作り出すと期待される。したがって、一貫性がある測定基準は分類の信頼性を示すことができる。他の領域、具体的には、隣接する領域の情報が考慮され、他の猟奇は、画像の他の部分及び/又は時間における他の瞬間と呼ぶことができる。これは、例えば判定閾値を調節するといった、分類器の制御設定を操るために使用されてもよい。任意選択で、このような一貫性の確認は、後処理として実施されてもよい。
実施形態では、帯域内副信号が、スペクトル信号の周波数範囲の低い部分、又は、スペクトル信号の最も高い周波数ピークの周りの周波数範囲の部分をカバーするように、分割ユニットはスペクトル信号を分けるように構成される。例えば、帯域内は、単にオーバーサンプリングされた信号の低い方半分と単にでき、帯域外は、同じオーバーサンプリングされた信号の高い方半分と単にできる。より洗練されたものでは、帯域内は、例えば全周波数ビンの半分でといった、最も高い周波数ピークの周りの窓として定義でき、帯域外は、残りの周波数ビンによって定義され得る。周波数ビンを分離するための他の選択が、例えば、起こりそうなパルススペクトル成分(例えば、周波数領域における20%の最も高いピークだけ)を帯域内として選択し、残りのスペクトル成分を帯域外として選択することで、より正確な帯域内を定義するために同じく可能である。有利には、帯域内副信号は第1の周波数範囲をカバーし、第1の周波数範囲は、0.7Hzから4Hz(40bpm(1分間当たりの拍数)から240bpm)の間の周波数範囲における心拍数、及び/又は、0.2Hzから0.7Hz(幼児については1.6Hzまで)の間の呼吸数など、少なくとも1つの生命徴候パラメータの周波数範囲を含む。
別の実施形態では、変換ユニットは、スペクトルの振幅又はエネルギー(正規化の種類に依存する)が後の評価に影響のないようにスペクトル信号を正規化するように構成される。これは、スペクトルを、皮膚領域及び非皮膚領域におけるそれぞれのパルスの振幅及びノイズの振幅から実質的に無関係にさせる。正規化は、例えば、区分L1又はL2のノルムによって実施され得る。実際の実施形態は、すべての周波数のために位相スペクトルを一定値にリセットすることと、ロバストな分類を得るために振幅スペクトルを正規化することとを含み得る。
装置は、2つ以上の繰り返しを実施するために、変換ユニット、分割ユニット、及び/又は分析ユニットを制御するための制御ユニットをさらに備えてもよく、分析ユニットからの出力は、次の繰り返しにおいて変換ユニットのための入力信号として使用される。例えば、制御ユニットは、2つ以上の繰り返しを実施するために、変換ユニット、分割ユニット及び分析ユニットの仕分けユニットを制御するように構成され、仕分けユニットからの仕分けされたスペクトル信号出力は、次の繰り返しにおいて変換ユニットのための入力信号として使用される。したがって、繰り返しは、好ましくは分類器によって最終的に使用されるスペクトルの多重スケールの表現をもたらす信号の長さを半分にした後、以前の繰り返しの出力に作用する。特には、第1の繰り返しは、ノイズ周波数成分の位相をリセットするため、非組織を表現する比較的ピークのある信号をもたらす可能性がある。好ましくは、スペクトルの長さは異なる繰り返しで縮小され、つまり、変換が、多重スケールの表現をもたらす異なるスケールで実施され、より荒いスペクトル(より少ないサンプルを伴う)は、より荒いスケールではあるが、なおも同じ信号を描写する。
変換及び仕分けの繰り返しが、(ピークのある)パルススペクトルを平坦なスペクトルへと変換し、一方、(比較的平坦な)ノイズスペクトルがピークのあるスペクトルへと変換されることが、見出されている。繰り返しの変換において、位相情報、ピークの位置、及びスペクトルの振幅は好ましくは無視される。仕分けは、ピークが分類を向上させる同じ場所に実質的にあることを確実にする。
さらなる実施形態では、分類器は、例えば、分析ユニットから出力された仕分けされたスペクトル信号といった、分析ユニットから出力された尺度を、各々の繰り返しにおいて連結し、関心領域を、生物の拍動領域として、又は、非拍動領域として分類するための記述子として、連結された信号を使用するように構成される。例えば、連結されて分類されたスペクトル信号では、ピークのある部分と平坦部分とが交互となっており、その交互における配列は、非拍動領域からの時間変化信号と比較して、拍動領域からの時間変化信号について反対である。したがって、非常に信頼できる分類が、このような連結されて分類されたスペクトル信号に基づいて行われ得る。
さらに、実施形態では、抽出ユニットは、画像フレームあたりの画像データの画素の群の画像データ値を、組み合わせることで、具体的には、平均化することで、その組み合わされた画像データ値から時間変化信号を得るように構成される。したがって、画素の群にわたる平均化(組み合わせ)が取られてもよく、連結された平均の時間発展は、一次元時間信号として見なすことができる。これは分類の信頼性を向上させる。基本的には、(例えば、皮膚マップの)解像度の損失が、平均化が(時間変化信号からノイズをより少なくすることで)パルスとノイズとの間の差を増加させるため、分類の向上された信頼性に取って代わられる。
抽出ユニットは、波長において、又は、波長範囲において、画像フレームあたりの画像データの画素の群の画像データ値を、組み合わせることで、具体的には、平均化することで、その組み合わされた画像データ値から時間変化信号を得るようにさらに構成されてもよい。なおもさらには、抽出ユニットは、画素又は画素の群あたりで、及び、画像フレームあたりで、少なくとも2つの異なる波長の周波数帯域の画像データ値を加重平均として組み合わせて、組み合わせた画像データ値から時間変化信号を得るように構成されてもよい。したがって、波長(又は、色)あたりの画素の群にわたる平均化が取られてもよく、連結された平均の時間発展は、一次元時間信号を得るために波長あたりで連結されてもよい。これによって、抽出ユニットは、正規化血液量パルスベクトルの痕跡に基づく方法(つまり、PBV方法)、クロミナンスに基づく方法(つまり、CHROM方法)、ブラインド音源分離方法(つまり、BSS方法)、主成分分析(PCA)、又は独立成分分析(ICA)を用いて加重を計算するように構成されてもよい。
概して、例示の時間変化信号としてのPPG信号は、皮膚における血量の変化から生じる。したがって、変化は、反射/伝送された光の異なるスペクトル成分において見られるとき、特徴的な拍動の「痕跡」を提供する。この「痕跡」は、血液の吸収スペクトルと血液ない皮膚組織の吸収スペクトルとの対比(差)として基本的に生じる。例えばカメラ又はセンサといった検出器が離散した数の色の周波数帯域を有し、各々が光スペクトルの特定部分を感知し、これらの周波数帯域における相対的な拍動性は、「痕跡ベクトル」に配置でき、「正規化血流ベクトル」PBVとも称され得る。参照によりここで組み込まれているG.de Haan及びA.van Leest、「Improved motion robustness of remote−PPG by using the blood volume pulse signature」、Physiol.Meas.35 1913、2014によって、この痕跡ベクトルが分かっている場合、色周波数帯域及び痕跡に基づく運動ロバストなパルス信号抽出が可能である。パルス信号の品質について、痕跡が正確であり、痕跡ベクトルによって指示されているように、パルスベクトルの正規化された色周波数帯域との所定の相関関係を達成するために、知られている方法がノイズを出力パルス信号に混合するため、痕跡が正確であることは必須である。
PBV方法の詳細及び正規化血量ベクトル(「基準生理情報を示す設定配向を有する所定インデックス要素」と呼ばれる)の使用は、詳細が本明細書において参照により組み込まれている米国特許出願第2013/271591(A1)号にも記載されている。
分類器は、関心領域が生物の拍動領域(例えば、皮膚領域)である可能性を決定するように、つまり、分類器が、関心領域が皮膚領域であるかどうかの二値の決定を発するだけでなく、関心領域が皮膚領域である可能性も発する可能性を決定するように、さらに構成されてもよい。
分類器は、教師あり学習(例えば、AdaBoost、SVMなど)から得られ、変換された信号のサンプルを入力(例えば、順位付けされて正規化された周波数ビン)として取り、画像セグメントが、生きている人の組織である可能性、又は、拍動領域であるかないかの可能性を特定する信号(ハード(二値)ラベル、又は回帰値)を出力する。さらに、分類器は、生きている人の組織を含むセグメントを表現するための脈拍数帯域における変化する振幅、ノイズのレベル、及び周波数、及び/又は、呼吸数帯域における周波数を伴う正弦曲線を含む一次元時間信号と、例えば生きている人の組織を示す拍動を含まないセグメントを表現するノイズ信号とのデータセットを用いて訓練され得る。
装置は、画像データの画像フレームをセグメント化するためのセグメント化ユニットをさらに備えてもよく、抽出ユニットは、別の後の処理のために、2つ以上の画像フレームセグメントから時間変化信号を抽出するように構成される。時間変化信号が、反射された光からのBCGによって引き起こされる、又は、運動ベクトル場から得られる場合、異なるセグメントにおける拍動の時間変化(副)信号の極性が、出力の周期的信号においてそれらを組み合わせる前に評価され得る。有利には、同じ極性を有する(副)信号が組み合わされる。Mocoらの前述の文献に示されているように、BCG信号は、シェーディングに依存して、同位相及び逆位相で起こり得る。この概念は、例えば、運動方向が場所ごとで変わり得る呼吸運動を示す運動場から導出された時間変化信号にも適用できる。
本発明は、遠隔PPG技術の使用によって、生命徴候取得の状況において好ましくは使用される。この目的のために、撮像ユニットは、好ましくは、経時的なシーンの画像の系列を取得するように構成され、装置は、検出された皮膚領域、又は、画像の系列内の呼吸運動を示す領域からの画像情報に基づいて、シーン内の対象の生命徴候を検出するための生命徴候検出器をさらに備え得る。したがって、拍動領域の提案している検出は、生命徴候の取得の間、皮膚領域などの拍動領域を検出及び/又は追跡するために、一度又は連続的に使用され得る。
本発明のこれらの態様及び他の態様は、以後に記載した実施形態から夏季らかとなり、それら実施形態を参照することで解明されることになる。
本発明によるシステムの第1の実施形態の概略図である。 本発明による装置の第1の実施形態の概略図である。 異なる生物についての皮膚領域及び非皮膚領域からの例示の時間変化信号を示す図である。 異なる生物についての皮膚領域及び非皮膚領域からの例示の時間変化信号を示す図である。 本発明の実施形態による方法の様々なステップにおける例示の信号を示す図である。 本発明の実施形態による方法の様々なステップにおける例示の信号を示す図である。 本発明の実施形態による方法の様々なステップにおける例示の信号を示す図である。 第1の分析手法を示す図である。 第2の分析手法を示す図である。 第3の分析手法を示す図である。 本発明による装置の第2の実施形態の概略図である。 第2の実施形態による処理に関する記述子を示す図である。 本発明の第3の実施形態による処理に関する記述子を示す図である。 本発明の第3の実施形態による処理に関する記述子を示す図である。
図1は、拍動検出、具体的には、皮膚検出のための装置12を備える本発明によるシステム10の概略図を示している。システム10及び装置12は、対象14の生命徴候を対象の画像フレームの時間系列を含む画像データから検出するための装置及び方法で好ましくは使用され得る。対象14は、この例では患者であり、例えば病院又は他の医療機関においてベッド16に横たわっているが、例えば保育器に横たわる新生児若しくは早産児、又は、スポーツを行う競技者など、家若しくは異なる環境における人であってもよい。
撮像ユニット18は、シーンの画像データ(RGB画像とも呼ばれ、可視光及び/又は赤外線の波長範囲における画像として理解される)を取得するための、具体的には、PPG信号が導出され得る対象14の皮膚領域15を好ましくは含む、経時的な対象14の画像フレームの系列を取得するためのカメラ(検出ユニット、カメラに基づくセンサ、又は、遠隔PPGセンサとも称される)を備え得る。対象14の生命徴候を得るための装置12の適用において、皮膚領域15は、頬又は額など、好ましくは顔の領域であるが、頭又は腕など、視覚可能な皮膚表面を伴う身体の別の領域であってもよい。追加又は代替で、対象14の呼吸運動は、例えば、毛布17の下に位置付けられる対象の一部分によって引き起こされる微妙な呼吸の動作から、時間変化信号を得るように検出されてもよい。なおもさらには、BCG(心弾動図記録法)時間変化信号が、例えば、頭の微妙な動作から、又は、浅動脈の近くの皮膚の動作から、得られてもよい。以下の非限定的な例では、時間変化信号としてPPG信号が参照されることになる。教示が、必要な変更を加えて、(副)周期的な生理現象を示す他の種類の時間変化信号に適用することは、理解されるものである。
撮像によって捕らえられた画像フレームは、例えば(デジタル)カメラで、アナログ又はデジタルのフォトセンサによって捕捉されるビデオシーケンスに特に対応し得る。このようなカメラは、CMOS又はCCD画像センサなどのフォトセンサアレイを通常備え、フォトセンサアレイは、特定のスペクトル範囲(可視、nIR)で動作できる、又は、異なるスペクトル範囲についての情報を提供でき、PPG信号の抽出を特に可能にする。カメラは、アナログ又はデジタルの信号を提供できる。画像フレームは、関連するピクセル値を有する複数の画像画素を備える。特には、画像フレームは、フォトセンサの異なる受光素子で捕らえられる光強度値を表現する画素を備える。これらの受光素子は、特定のスペクトル範囲(つまり、特定の色を表現する)において感受性があり得る。画像フレームは、人の皮膚部分など、拍動領域を表現している少なくとも一部の画像画素を備える。それによって、画像画素は、光検出器の1つの受光素子と、その(アナログ又はデジタルの)出力に対応できる、又は、複数の受光素子の組み合わせ(例えば、ビニングを通じて)に基づいて決定され得る。開示は、MRI又はCT画像など、異なる撮像モダリティに適用されてもよい。
カメラ18を使用するとき、システム10は、例えば所定の波長範囲(例えば、赤、緑、及び/又は赤外線の波長範囲)において、光で、患者の顔(例えば、頬若しくは額の部分)及び/又は胸の領域の皮膚などの関心領域24を照らす/照射するためのランプ又はLEDなどの照明ユニット22(照明源、光源、又は電磁放射体とも呼ばれる)をさらに任意選択で備え得る。照明に応じて関心領域24から反射される光は、カメラ18によって検出される。別の実施形態では、専用の光源が提供されず、周囲の光が対象14の照明のために使用される。反射された光柄、所望の波長範囲(例えば、緑及び赤、赤外線、又は、少なくとも2つの波長周波数帯域をカバーする十分に大きい波長範囲における光)における光だけが、検出及び/又は評価され得る。熱カメラを使用する場合、人体の放射が直接的に用いられ得る。
示した実施形態における装置12は、決定された情報を表示するための、及び/又は、装置12、カメラ18、照明ユニット22、及び/又は、システム10の他のパラメータの設定を変更するために医療関係者にインターフェースを提供するためのインターフェース20に、さらに接続されている。このようなインターフェース20は、異なる表示部、ボタン、タッチスクリーン、キーボード、又は他のヒューマン・マシン・インターフェース手段を備え得る。
図1に示されているようなシステム10が、例えば、病院、医療機関、高齢者介護施設などに配置され得る。患者の監視とは別に、本発明は、新生児の監視、一般的な監視の用途、安全監視、又は、フィットネス機器、ウェアラブルデバイス、スマートフォンなどの携帯デバイスといった、いわゆるライフスタイル環境など、他の分野で適用されてもよい。装置12と、カメラ18と、インターフェース20との間の一方向又は双方向の通信が、無線又は有線の通信インターフェースを介して機能してもよい。本発明の他の実施形態は、独立して提供されずにカメラ18又はインターフェース20へと組み込まれる装置12を備え得る。
以下の非限定的な例では、拍動検出は、皮膚検出を参照して、具体的には、心拍による拍動に基づいて、記載されている。本開示の教示は、呼吸などの他の生理的過程に基づく拍動検出に従って適用されてもよい。
図2は、本発明による装置12aの第1の実施形態の概略的な図を示しており、装置12aは、図1に示したシステム10における装置12のように使用されてもよい。対象14の1つ又は複数の生命徴候を導出するために、対象の皮膚領域が画像データにおいて見出される。この目的のために、提案している装置12aは、シーンの画像データ40を得るための入力インターフェース30を備え、その画像データは、撮像ユニット18によって取得される画像フレームの時間系列を含む。抽出ユニット31がPPG信号41を画像データの関心領域から抽出し、その関心領域は、単一の画素、画素の群、又は、1つ若しくは複数の画像フレームのセグメント化から生じる領域であり得る。変換ユニット32がPPG信号41をスペクトル信号42へと変換する。分割ユニット33が、スペクトル信号を、スペクトル信号の第1の周波数範囲をカバーする帯域内副信号43と、スペクトル信号の第2の周波数範囲をカバーする帯域外副信号44とに少なくとも分割し、第1の周波数範囲は少なくとも1つの生命徴候パラメータの周波数範囲を含む。分析ユニット34が、帯域内尺度を帯域内副信号から、帯域外尺度を帯域外副信号から、別々に導出するように構成され、帯域内尺度及び帯域外尺度は記述子45を表現する。最後に、分類器35が、関心領域を、記述子に基づいて、生物の拍動領域として、又は、非拍動領域とし分類する。次に、分類器は、対応する分類結果46を発行でき、分類結果46は、二値の決定(例えば、関心領域が皮膚領域などの拍動領域であるかどうか)、又は、関心領域が拍動領域であるかどうかの可能性であり得る。
ユニット30〜34は、専用のハードウェア要素として構成されてもよいが、そのようにプログラムされた処理装置又はコンピュータとして構成されてもよい。装置12aは、例えば共通の筐体において(例えば、撮像ユニット18の共通の筐体において)、すべてのその要素及びユニットを含む統合装置として、又は、要素及びユニットが分散され得る、つまり、異なる位置にお配置された別々の要素及びユニットとして実施され得る、図1に示したような分散型装置として、構成されてもよい。
図3A及び図3Bは、異なる生物についての皮膚領域及び非皮膚領域からの例示の時間変化信号、ここではPPG信号41を図示する図を示している。具体的には、図3Aは、第1の対象(例えば、大人)からのパルス信号41aと、第2の対象(例えば、新生児)からのパルス信号41cとを示している。分かるように、異なる対象からのパルス信号は異なっている。さらに、単一の対象からのパルス信号でさえ、時間変化している(例えば、位相)。パルスは、概して明確な周期的な成分を有するが、振幅、位相、さらには周波数(例えば、心拍数変動)においても変化があり、典型的には、信号はセンサノイズを受けることにもなり、対象の運動によって歪められる可能性もある。図3Bは、第1の対象(例えば、大人)からのノイズ信号41bと、第2の対象(例えば、新生児)からのノイズ信号41dとを示している。分かるように、ノイズ信号は、学習することができない不規則/不定期な信号であり、パルス信号も相当の変動を呈する。したがって、1つの考え方は、得られた時間変化信号を、管理された学習を可能にする異なる表現へと変換することである。
パルスとノイズとを2つの分類として見なし、変換された表現(例えば、記述子)は、時間変化信号の3つの特性を好ましくは排除すべきである。記述子は、好ましくは、パルス/ノイズの位相変化、つまり、異なる時間におけるパルスに対して不変となるべきである。さらに、記述子は、好ましくは、パルス/ノイズの振幅に依存すべきではない。なおもさらには、記述子は、好ましくは、パルス/ノイズにおいて、つまり、異なる対象において、変化する周波数と無関係になるべきである。さらに有利には、同じ尺度又は同じ種類の尺度が、帯域内副信号と帯域外副信号とについて導出され得る。それによって、実施及び計算の複雑さが低減され、これは、ウェアラブルデバイスの電力消費を低減するのにも有利であり得る。
上記の要件を前提として、以下の例示の第1の手法が時間変化するPPG信号41に適用され、これは、第1の実施形態による方法の様々なステップにおける例示の信号を図示する図を示す図4の使用によって図示されている。第1のステップにおいて、スペクトル増幅が、変換ユニット32によってPPG信号41に任意選択で適用され得る(図示のために、パルス信号41a及びノイズ信号41bが図4Aに示されている)。パルスが周期的信号であるという有効な仮定に基づいて、変換ユニット32は、PPG信号41を時間領域から分析のための周波数領域へと、例えばフーリエ変換(FT)の使用によって、変換する。図4Bに示した変換されたパルス42aは周波数スペクトルにおいて相当のピークを提示し、一方、図4Bに示した変換されたノイズ42bは、このようなパターンを示さない不規則な信号である。これによって、フーリエ変換(又は、高速フーリエ変換(FFT))が、離散余弦変換(DCT)、離散正弦変換(DST)、ウェーブレット変換、又はハール変換によって置き換えられ得る。
FTの使用は
Figure 2019508116
のように記載できる。
Figure 2019508116
によって、
Figure 2019508116
のフーリエ変換(例えば、L=64);F(・)についての長さLを伴うPPG信号は、FT演算を意味する。
Figure 2019508116
の実数部及び虚数部は、振幅又はパワースペクトルを用いるだけで取り除かれ得る変化する位相情報を含む。好ましくは、パワースペクトルは、パルスの周波数ピークを概して増幅させ、ノイズを抑えるため、使用される。
Figure 2019508116
が、半分の冗長性を伴う鏡映スペクトルであるため、パワースペクトルを導出する前に半分にされる。
Figure 2019508116
ここで、conj(・)は結合を表している。
Figure 2019508116
は、要素ごとの積を表している。SL/2では、位相情報が消え、パルスの周波数ピークが、図4Bに示しているように、ノイズの周波数ピークと比較されることで増幅される。
次のステップでは、スペクトル正規化が変換ユニット32によって任意選択で実施され得る。この正規化は、スペクトルを、皮膚領域/非皮膚領域におけるそれぞれのパルスの振幅及びノイズの振幅から実質的に無関係にさせる。スペクトル振幅はSL/2においてなおも可変であり、SL/2
Figure 2019508116
のように正規化される。ここで、||・||pはLpノルムを表している。Lpノルムは、L1ノルム又はL2ノルムのいずれかであり得る。標準偏差の正規化は好ましいとされないが、これは、絶対エネルギー情報だけが排除されるべきであり、パルスとノイズとを区別するために変動はスペクトル内に残るべきであるためである。例示の実施形態では、L2ノルムが使用されるが、これは、正規化された
Figure 2019508116
がスペクトル振幅と無関係なためであり、その全体の相対エネルギー分布は、図4Cに示しているように、正規化されたスペクトルパルス信号42a’と、正規化されたスペクトルノイズ信号42b’とについて残ったままである。
次のステップでは、スペクトル信号42a’は分割ユニット33によって、スペクトル信号42a’の第1の周波数範囲をカバーする帯域内副信号43aと、スペクトル信号42a’の第2の周波数範囲をカバーする帯域外副信号44aとに分割される。図示した例では、例えばそれぞれ低い方半分及び高い方半分といった、帯域内副信号がスペクトル信号の周波数範囲の低い部分をカバーし、帯域外信号がスペクトル信号の周波数範囲の高い部分をカバーするように、分割ユニット33はスペクトル信号を分けるように構成されている。これによって、第1の周波数範囲は、例えば0.7Hzから4Hzの周波数範囲における心拍数、及び/又は、例えば0.2Hzから0.7Hzの周波数範囲の呼吸数など、少なくとも1つの生命徴候パラメータの周波数範囲を含む。スペクトル信号42b’についても同様に、帯域内副信号43bと帯域外副信号44bとをもたらす。
したがって、周波数分散を考慮して、
Figure 2019508116
はまだ分類のために直接的に使用されない。しかしながら、異なる個人が異なる心拍数を有するが、それらのパルス周波数は特定の(低い方の)帯域、つまり、1分間あたり[40,240]拍(bpm)又は[0.7,4]Hzにおいてほとんどはピークがあって集中されており、一方、背景(非皮膚)の信号は、通常は、高周波数帯域に広がるホワイトノイズである。このため、
Figure 2019508116
が分割ユニット33によって分けられ、例えば、2つの半体(副信号とも呼ばれる)へと半分にされ、好ましくは、「帯域内」周波数と「帯域外」周波数とを近似するために、低い方の部分と高い方の部分とに半分にされ、ここで、パルスに関する特性が暗黙的にここで利用されている。
次のステップでは、帯域内尺度及び帯域外尺度が、分析ユニット34によって帯域内副信号43及び帯域外副信号44からそれぞれ別々に導出され、帯域内尺度及び帯域外尺度は記述子45を表現する。所与の例では、分析ユニットは、仕分けされた帯域内副信号を帯域内尺度として、及び、仕分けされた帯域外副信号を帯域外尺度として得るために、帯域内副信号43と帯域外副信号44とを別々に仕分けするように構成される仕分けユニットを備える。このステップでは、スペクトル仕分けは、分析ユニット34の仕分けユニットによって実施される。
第1の実施形態によれば、周波数依存性は、分けられたスペクトルが仕分けされてから、
Figure 2019508116
として連結されるという点において、排除され得る。ここで、sort(・)は、例えば振幅/エネルギーの降順において、スペクトル入力を仕分けすることを表している。
Figure 2019508116
では、記述子45aのような仕分けされたスペクトルパルス信号と、記述子45bのような仕分けされたスペクトルノイズ信号とを示す図5に示されているように、パルス及びノイズにおける周波数分散は排除されるが、低い方の帯域と高い方の帯域とにおける本質的な違いは保存される。したがって、このステップでは、順位付け(仕分け)の手順が、周波数ビンに作用して本質的に実施される。
これによって、帯域内尺度46a、46bと帯域外尺度47a、47bとは、関心領域を、生物の拍動領域(図4の上方の列におけるパルス信号)として、又は、非拍動領域(図4の下方の列におけるノイズ信号)として分類するために分類器35に提供される元のPPG信号41a、41bの記述子45a、45bを一緒に表現している。図5から分かるように、仕分けされた振幅の低下は拍動45a及びノイズ45bの場合で異なる。具体的には、帯域内尺度46a、46bと帯域外尺度47a、47bとの間の比較は、分類において利用される異なる特徴を明確に示している。
提案している手法と知られている手法との間の本質的な違いは、非拍動成分を放棄する代わりに、帯域外信号が向上した信号処理のために使用されることである。これは、暗い光の条件の下で特に有利である。別の言い方をすれば、ここで提案している解決策は、例えば、未処理の信号か、より正確なパルス及びノイズか、又は、帯域内副信号及び帯域外副信号を使用し、生命徴候成分又は非生命徴候(例えば、HR及び非HR)成分が周波数スペクトルにおいて保存される。これによって、帯域外信号は基準として見なされ得る。
対照的に、知られている手法は、パルスとノイズとを分離するために、例えば帯域フィルタを用いて、帯域外信号を放棄しようとするが、提案している手法は、分離のために帯域内副信号と帯域外副信号との両方を呈する。したがって、所与の例において、仕分けされた帯域内スペクトルと帯域外スペクトルとにおけるすべての入力が分離のために使用されてもよい。帯域内尺度及び帯域外尺度のような仕分けされたスペクトルは、実際には、鋭い記述子として見なされ得る。
本質的に、この第1の実施形態によれば、(順位付けされた周波数スペクトル45aにおける)パルス信号のエネルギーが、順位付けされたノイズスペクトル45bのエネルギーより素早く低下するという現象が利用されている。これらの順位付けされたスペクトルを入力として使用する訓練された分類器35であれば、最適な決定を得ることができる。別の言い方をすれば、先に図示した第1の実施形態では、仕分けされたスペクトル信号45a、45bは、元の画像データにおけるそれぞれの関心領域が生物の拍動領域であるか非拍動領域であるかを決定するために、分類器35によって使用される。
ここで提案している手法は、仮定検証として見られてもよい。拍動は、心臓活動又は呼吸による周期的パルス信号など、準周期的信号の存在を本質的に含む。しかしながら、拍動検出では、心拍数などの正確な値を決定することは義務ではなく、代わりに、拍動の存在又は非存在に関する決定が関心のあるものである。したがって、検証される本質的な仮定は、期待されるスペクトル範囲、つまり、帯域内信号によってカバーされる第1の周波数範囲内に、拍動があるがどうかである。したがって、帯域外副信号によってカバーされる、(第1の周波数範囲と異なる、具体的には、重なっていない)第2の周波数範囲は、仮定検証のための基準として作用できる。第2の周波数範囲について、反対の期待、つまり、拍動が存在しないことが、存在する。
別の言い方をすれば、ノイズの特性は、典型的には生命徴候についての関心のある周波数領域の上方に存在する、生命徴候からの相当の寄与が存在しないスペクトルの部分において観察可能で測定可能である。そのため、スペクトルのこの部分(帯域外)は、基準として、及び/又は、拍動が存在し得るスペクトルの他の部分(帯域内)におけるノイズ寄与を推定するための基準として使用できる。
図6は、第2の分析手法を図示する図を示している。第1の処理ステップは、図4A及び図4Bを参照して記載したものと、図4Cの任意選択の正規化とに対応できる。第2の手法は、統計的な手法、又は、モデルに基づく統計的な手法として言及されてもよい。図4Aに示したPPG信号は時間離散信号xと見なすことができ、ここで、信号xはk=1・・・Kである指数kに依存する。この信号は、図4Bに示しているような周波数領域において変換され、スペクトル表現Xを作り出す。信号Xは、周波数f(又は、周波数ビン)の関数であり、X(f)として表される。帯域内副信号における周波数はfiによって表され、帯域外副信号における周波数はfoによって表される。所与の例において、PPG信号(図4A参照)におけるノイズは、独立して分配されたガウス性ホワイトノイズであることが仮定されている。そのため、信号のパワースペクトル密度関数(PSDF)は、2つの自由度を持つカイ二乗分布である。したがって、帯域外副信号におけるPSDFの例は、分布のパラメータを推測するために使用され得る。これは、帯域外信号について、平均値μ及び標準偏差σによって例示で指示されている。これによって、帯域外副信号に基づいて決定された分布は、帯域外尺度として作用できる。代替で、平均値及び/又は標準偏差は帯域外尺度として作用できる。
次に、帯域内副信号のサンプルのうちのどれが、この分布、つまり、帯域外副信号と同じ分布に追従しそうであるか、及び、どのサンプルが統計的に異常値ではないか、検証が行われ得る。具体的には、正の範囲(図6における曲線46aにおいて矢印によって指示されている)における異常値が色調を示す。例えば、Tが閾値(例えば、T=0.95)である確立p(X(fh))>TとなるようにPSDF X(fh)を伴うfhが存在する場合、拍動が検出されることが、検証され得る。他の仮定が、PSDFノイズ部分のサンプルについて他の分布をもたらすノイズ信号に行われ得ることは、理解されるものであるが、原理は同じままであり、異常値検証は、パラメータが帯域外副信号から推定されるパラメータ化された分布に基づく帯域内(fh)において行われ得る。代替で、このような統計的検証は、PSDFの代わりにスペクトル振幅においてであってもよい。
したがって、帯域外副信号に基づいて決定された分布(又は、分布を示すパラメータ)は、帯域外尺度として使用できる。したがって、帯域内副信号に基づいて決定された分布(又は、分布を示すパラメータ)は、帯域内尺度として使用できる。このような帯域内尺度及び帯域外尺度は、分類器によって使用される記述子を表現している。
帯域内尺度46a、46b及び帯域外尺度47a、47bとしての例示の分布は、図6に示されている。分かるように、ノイズ信号(下方のグラフ)についての尺度は良好な対応を示し、つまり、信号は非拍動領域として分類され得る。他方で、パルス信号(上方のグラフ)についての尺度は異なる分布を示し、つまり、信号は拍動領域として分類され得る。
根本的な分布の非完全な知識の場合、さらなる選択肢は、間隔法に頼るものである。帯域外副信号について、推定が、Xの平均m(例えば、平均値又は中央値)及び範囲r(例えば、標準又は四分位の範囲)から行われる。次に、HR帯域におけるサンプルが、範囲(標準又は四分位の範囲)によって割られた平均(平均値又は中央値)μからの単位偏差において表され、Z(fi)=(X(fh)−μ)/rとなる。それによって、値Zは正規化された間隔を本質的に表す。所定の閾を超える値Zは、拍動を指示している。したがって、Zにおける閾は、拍動検出のための分類器によって使用され得る。
確率又は間隔が閾を超える周波数fhを特定すると、これらが帯域外副信号において記載されているような分布又は距離にどれだけよく一致するか、つまり、帯域内尺度と帯域外尺度とがこのようなさらなるサンプルについてどれだけ類似しているかかが、残っているサンプルについてさらに確認され得る。相違がある場合、拍動を特定するための帯域外副信号帯域からのデータの使用は、信頼できない可能性がある。この場合、追加の検証ステップが実施され得る。
図7は、さらなる分析手法を図示する図を示している。第1の処理ステップは、図4A及び図4Bを参照して記載したものと、任意選択で図4Cの正規化とに対応できる。例では、分析ユニット34は、帯域内信号のスペクトル平坦性を帯域内尺度として、帯域外信号のスペクトル平坦性を帯域外尺度として、別々に決定すると構成されている。ここで用いられているようなスペクトル平坦性は、Madhuによって「Note on measures for spectral flatness」、Electronics Letters、vol.45、no.23、2009年において記載されているようなスペクトル値又はその確率変数の算術平均値分の幾何平均値として定義できる。パルス信号の場合、帯域内副信号は、明確な周波数ピーク(図4B参照)を示しており、そのため図7における帯域内尺度46aとして低い方のスペクトル平坦性を有する。一方で、帯域外信号は、このような拍動ピークを示しておらず、そのため、図7における帯域外尺度47aとして高い方のスペクトル平坦性を有する。一方で、図7における下の方保グラフに示しているように、拍動のない場合には、帯域内尺度46b及び帯域外尺度47bについての2つの平坦性の推定は、同様となるように仮定される。したがって、分類器は、PPG信号41a、41b(図4A参照)が、生物の拍動領域として、又は、非拍動領域として得られた関心領域を分類するために、これらの帯域内尺度と帯域外尺度とを容易かつ確実に比較できる。
代替で、2つのスペクトル平坦性の尺度基準の割合など、導出された尺度も使用され得る。さらに、全帯域に対するスペクトル平坦性などの追加のデータが、信頼性をさらに向上させるために、分類器によって使用されてもよい。平坦性尺度の対数スケーリングなど追加の変換が適用されてもよい。
任意選択で、上記の手法のうちの1つ又は複数が、例えば、(i)仕分け/順位付けに基づく手法、(ii)パラメータ化された統計モデルに由来する確率、(iii)間隔、及び(iv)スペクトル平坦性尺度のうちの1つ又は複数の組み合わせにおいて、訓練された分類器を使用して、組み合わせられてもよい。元のパラメータ、変換されたパラメータ、及び/又は導出されたパラメータの任意の組み合わせが、そのように訓練される分類器へと送り込まれ得る。
図8は、本発明の態様による装置12bの第2の実施形態の概略図を示している。この実施形態では、制御ユニット36が、変換ユニット32、分割ユニット33、及び分析ユニット34を制御して2つ以上の繰り返しを実施するために提供されている。示した例では、分析ユニット34は仕分けユニットを備え、仕分けユニットから出力された仕分けされたスペクトル信号45は、次の繰り返しにおいて変換ユニット32のための入力PPG信号41’として使用される。したがって、この実施形態によれば、多重スケールの繰り返しが、以下において説明されているように実施され得る。
装置12aの第1の実施形態があれば、変換された信号
Figure 2019508116
が、所与の入力PPG信号
Figure 2019508116
を得られる。ここで、パルス及びノイズは、自己単一化されているが相互に異なる繰り返しを有する。パルス及びノイズのための記述子が比較された場合、パルスの記述子は目立った特徴(例えば、第1の場所におけるピーク)を有するが、ノイズの記述子は有していない。より良好な分類性能を得るために、異なる分類からの記述子は、大きい階級同士間の分散を必要とし、つまり、パルスとノイズとは容易に区別可能である。これは、手順(増幅、正規化、仕分け)を繰り返すことで向上され得る。ここで、比較的平坦なノイズスペクトルは明確なピークへと変わり、一方、ピークのあるパルススペクトルは比較的平坦な結果へと変わる。組み合わされた2回の繰り返しは、2つの階級の間に逆位相パターンを提供する。
同様に、同じ変換が、変換された信号において1回又は2回さらに繰り返される。パルス及びノイズにおいて新たに生成されたパターンは、得られたパルス信号の記述子45a’及びノイズ信号の記述子45b’について図9に示しているように、反対の順序、つまり、「ピーク−平坦−ピーク」対「平坦−ピーク−平坦」で起こる。図示した例では、5回の繰り返しの仕分けされたスペクトル信号が連結されている。
したがって、このやり方では、より長い記述子Xが、異なるスケールにおいて繰り返しで変換された信号を収集/連結するために作り出される。
Figure 2019508116
ここで、
Figure 2019508116
は、長さL/(2×i)でのi番目における変換された信号である。繰り返しが終了されるとき、完全な記述子はL2ノルムによってさらに正規化され得る。実際、提案している記述子は、多重スケールの繰り返しが記述子を見分けることを向上できるという仮定で構築されている。このような仮定は、実験的に検証されている。
したがって、以前の繰り返しの出力に作用する繰り返しは、好ましくは、信号の長さ半分にした後、具体的には、スペクトル信号を帯域内副信号と帯域外副信号とに分割した後、開始される。この場合、繰り返しは、スペクトルの多重スケールの表現を分類器にとって利用可能とさせる。特には、第1の繰り返しは、ノイズ周波数成分における位相の排除のため、非組織を表現する比較的ピークのある信号をもたらす。この理由のため、少なくとも2つの続いて起こる変換、すなわち、FFT−位相消去−正規化−順位付け−FFT−位相消去−正規化−順位付けが実施され、ここで効率のために、第2の変換が、第1の繰り返しから得られた半分のスペクトルに作用し得る。
さらに、パルス表現とノイズ表現とを見分けることが、さらに改善され得る。実施形態では、変換された記述子(45a’,45b’)における平坦/ピークのパターンがさらにより平坦/ピークとさせられ得る。式(2)は、パワースペクトルを導出するために単一の信号を使用する。これは、2つの時間的に隣接する信号(1フレームずれている)を用いて向上させられ得る。これは、主にノイズ階級に利益があり、2つのノイズ信号の結合は、パワースペクトルの実数部分において負の入力を導出する。これは、ノイズ信号における高周波数成分、つまり、背景(非皮膚)信号はほとんどがホワイトノイズであり、そのためここで利用される。スペクトルにおいて最小の負の値を減算することで、図10Bに示しているように、第1の繰り返しにおいてノイズ記述子をより平坦にすることができ、図10Bは、図10A(及び図5)において示した元のノイズ記述子45bと比較される、このようにして得られたノイズ記述子45cを示している。そのため、このような実施形態では、増幅するステップは、2つの時間的に隣接する信号(1フレームずれている)を結合することで変更され得る。
先に図示しているように、好ましい実施形態では、位相情報を無視するが、絶対スペクトル又はパワースペクトルを取ることが、提案されている。
好ましくは、順位付けが2回行われ、帯域内順位付けと帯域外順位付けとが行われる。帯域内は、単にオーバーサンプリングされた信号の低い方半分とでき、帯域外は高い方半分とできる。しかしながら、より洗練されたものでは、帯域内は、例えば全ビン数の半分でといった、最も高い周波数ピークの周りの窓として定義でき、帯域外は、残りの周波数ビンによって形成される。
分類は、教師あり学習(例えば、AdaBoost、SVMなど)から得られ、変換された信号のサンプルを入力(例えば、位相情報のない順位付けされて正規化された周波数ビン)として取り、画像セグメントが、生きている人の組織である可能性、又は、拍動領域であるかないかの可能性を特定する信号(ハード(二値)ラベル、又は回帰値)を出力する分類器を使用し得る。教師あり学習は、皮膚表面と非皮膚表面とから得られた実際のデータを使用できるが、良好な性能は、生きている人の組織を含むセグメントを表現するための脈拍数帯域における変化する振幅、ノイズのレベル、及び周波数を伴う正弦曲線を含む一次元時間信号と、生きている人の組織を含まないセグメントを表現するノイズ信号とのデータセットを使用する分類器を訓練することで得られている。
なおもさらには、提案している方法は、セグメント化から得られる画像領域を分類するために適用されてもよく、可及的な運動追跡が、連続画像において経時的に個別のセグメントを追跡するために使用されてもよい。
本発明は、人の生命徴候の取得のためのrPPGの分野で好ましくは適用される。したがって、撮像ユニットによって得られた画像は、先に説明したように皮膚領域を検出するために使用されるだけでなく、検出された(及び、好ましくは、同じく本発明の使用によって、追跡された)皮膚領域から、心拍、SpO2など、人の生命徴候を導出するために使用されるPPG信号が導出される。撮像ユニット18は、(周囲光及び/又は照明によって)シーンが照らされる波長又は波長範囲において少なくとも敏感であるが、具体的には所望の生命徴候を得るために必要とされる場合、他の波長について敏感であってもよい。
本発明の別の実施形態では、皮膚検出についての提案している分析は、例えば、一般的に知られているような皮膚領域から反射される立体光のクロミナンス又は時間的な拍動の分析といった、皮膚検出のための別の方法と組み合わされてもよい。方法は、さらなるステップを含んでもよく、装置の様々な実施形態について先に説明したように、及び、本明細書で開示しているように、変更されてもよい。
提案している装置及び方法は、PPG又は運動に関連する生命徴候(例えば、心拍、SpO2、呼吸)の連続した非影響的な監視のために使用でき、NICU,手術室、又は一般病棟で使用できる。提案している装置及び方法は、例えば血管の健康尺度といった、個人のために使用されてもよい。概して、本発明は、拍動がシーンの画像において検出される必要があり、具体的には、皮膚が非皮膚から区別される必要があるすべての用途において使用され得る。
本発明は図面及び前述の記載において詳細に図示及び記載されてきたが、このような図示及び記載は、図示又は例示と見なされるものであり、限定的と見なされるものではなく、本発明は開示されている実施形態に限定されない。開示した実施形態に対する他の変形が、請求された発明を実施するときに、図面、本開示、及び添付の請求項の検討から、当業者によって理解されてもたらされ得る。
請求項では、「備える」という言葉は、他の要素又はステップを排除せず、「1つ(a、an)」という不定冠詞は複数を排除しない。単一の要素又は他のユニットが、請求項において列挙されたいくつかの項目の機能を遂行してもよい。特定の方策が相互に異なる独立請求項において列挙されている単なる事実は、これらの方策の組み合わせが有利に用いられ得ないということを指示しているのではない。
コンピュータプログラムが、他のハードウェアと一体に、又は、それらの一部として供給される光学保存媒体又はソリッドステート媒体など、適切な非一時的な媒体において保存/配給されてもよいが、インターネット又は他の無線電気通信システムを介してなど、他の形態で配給されてもよい。
請求項におけるあらゆる引用符号は、範囲を限定するとして解釈されるべきではない。

Claims (15)

  1. 拍動検出のための装置であって、前記装置は、
    時間系列の画像フレームを含むシーンの画像データを得るための入力インターフェースと、
    前記画像データの関心領域から、周期的な生理現象を示す時間変化信号を抽出するための抽出ユニットと、
    前記時間変化信号をスペクトル信号へと変換するための変換ユニットと、
    前記スペクトル信号を、前記スペクトル信号の第1の周波数範囲をカバーする帯域内副信号と、前記スペクトル信号の第2の周波数範囲をカバーする帯域外副信号とに少なくとも分割するための分割ユニットであって、前記第1の周波数範囲は前記周期的な生理現象の周波数範囲を少なくとも含む、分割ユニットと、
    帯域内尺度を前記帯域内副信号から、帯域外尺度を前記帯域外副信号から、別々に導出するための分析ユニットであって、前記帯域内尺度及び前記帯域外尺度は記述子を表現する、分析ユニットと、
    前記関心領域を、前記記述子に基づいて、生物の拍動領域として、又は、非拍動領域として分類するための分類器と
    を備える、装置。
  2. 前記時間変化信号は、光電式容積脈波記録法(PPG)信号、前記周期的な生理現象を示す運動信号、心弾動図記録法(BCG)信号のうちの1つである、
    請求項1に記載の装置。
  3. 前記装置は、皮膚検出のための装置であり、前記分類器は、前記関心領域を、前記記述子に基づいて、生物の皮膚領域として、又は、非皮膚領域として分類する、請求項1に記載の装置。
  4. 前記変換ユニットは、前記時間変化信号を、位相情報のないスペクトル信号へと、特に、パワースペクトル又は絶対スペクトルへと変換する、
    請求項1に記載の装置。
  5. 前記分析ユニットは、仕分けされた前記帯域内副信号を前記帯域内尺度として、及び、仕分けされた前記帯域外副信号を前記帯域外尺度として得るために、前記帯域内副信号と前記帯域外副信号とを別々に仕分けする仕分けユニットを備える、
    請求項1に記載の装置。
  6. 前記分析ユニットは、帯域内信号のスペクトル平坦性を前記帯域内尺度として、帯域外信号のスペクトル平坦性を前記帯域外尺度として、別々に決定する、
    請求項1に記載の装置。
  7. 前記分析ユニットは、前記帯域内尺度を帯域内信号の周波数ビンのエネルギーに基づいて、前記帯域外尺度を帯域外信号の周波数ビンのエネルギーに基づいて、別々に決定する、
    請求項1に記載の装置。
  8. 前記分析ユニットは、統計的な異常値検出に基づいて前記帯域内尺度と前記帯域外尺度とを別々に決定する、
    請求項1に記載の装置。
  9. 前記帯域外尺度は非拍動を示し、前記分類器は、前記帯域外尺度と前記帯域内尺度との比較に基づいて、前記関心領域を前記生物の拍動領域として、又は、前記非拍動領域として分類する、
    請求項1に記載の装置。
  10. 前記帯域外尺度は非拍動を示し、前記分類器は、前記帯域外尺度に基づいて、前記関心領域を前記生物の拍動領域として、又は、前記非拍動領域として分類するための判定閾値を決定する、
    請求項1に記載の装置。
  11. 前記分類器は、前記生物の拍動領域として、又は、前記非拍動領域としての前記関心領域の前記分類の一貫性がある測定基準をさらに決定する、
    請求項1に記載の装置。
  12. 前記帯域内副信号が、前記スペクトル信号の前記周波数範囲の低い部分、又は、前記スペクトル信号の最も高い周波数ピークの周りの前記周波数範囲の部分をカバーするように、前記分割ユニットは前記スペクトル信号を分ける、
    請求項1に記載の装置。
  13. 拍動検出のためのシステムであって、前記システムは、
    シーンの画像データを取得するための撮像ユニットと、
    取得された前記シーンの画像データに基づいた拍動検出のための、請求項1に記載の装置と
    を備える、システム。
  14. 拍動検出のための方法であって、前記方法は、
    時間系列の画像フレームを含むシーンの画像データを取得するステップと、
    前記画像データの関心領域から、周期的な生理現象を示す時間変化信号を抽出するステップと、
    前記時間変化信号をスペクトル信号へと変換するステップと、
    前記スペクトル信号を、前記スペクトル信号の第1の周波数範囲をカバーする帯域内副信号と、前記スペクトル信号の第2の周波数範囲をカバーする帯域外副信号とに少なくとも分割し、前記第1の周波数範囲は前記周期的な生理現象の周波数範囲を少なくとも含むステップと、
    帯域内尺度を前記帯域内副信号から、帯域外尺度を前記帯域外副信号から、別々に導出し、前記帯域内尺度及び前記帯域外尺度は記述子を表現するステップと、
    前記関心領域を、前記記述子に基づいて、生物の拍動領域として、又は、非拍動領域として分類するステップと、
    を備える、方法。
  15. コンピュータプログラムがコンピュータで実行されるとき、前記コンピュータに、請求項14に記載の方法のステップを実行させるためのプログラムコード手段を含む、コンピュータプログラム。
JP2018540804A 2016-02-08 2017-02-08 拍動検出のための装置、システム、及び方法 Pending JP2019508116A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP16154665 2016-02-08
EP16154665.0 2016-02-08
PCT/EP2017/052700 WO2017137415A1 (en) 2016-02-08 2017-02-08 Device, system and method for pulsatility detection

Publications (1)

Publication Number Publication Date
JP2019508116A true JP2019508116A (ja) 2019-03-28

Family

ID=55359412

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018540804A Pending JP2019508116A (ja) 2016-02-08 2017-02-08 拍動検出のための装置、システム、及び方法
JP2018540408A Active JP6538287B2 (ja) 2016-02-08 2017-02-08 皮膚検出に対する装置、システム及び方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018540408A Active JP6538287B2 (ja) 2016-02-08 2017-02-08 皮膚検出に対する装置、システム及び方法

Country Status (6)

Country Link
US (2) US10818010B2 (ja)
EP (2) EP3414739B1 (ja)
JP (2) JP2019508116A (ja)
CN (2) CN108701357B (ja)
RU (1) RU2018132127A (ja)
WO (2) WO2017137435A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3414739B1 (en) * 2016-02-08 2020-04-08 Koninklijke Philips N.V. Device, system and method for pulsatility detection
CA2958003C (en) 2016-02-19 2022-04-05 Paul Stanley Addison System and methods for video-based monitoring of vital signs
KR20230116072A (ko) * 2017-02-24 2023-08-03 서니브룩 리서치 인스티튜트 이미징에서의 노이즈 감소를 위한 시스템 및 방법
EP3681394A1 (en) 2017-11-13 2020-07-22 Covidien LP Systems and methods for video-based monitoring of a patient
US11311202B2 (en) 2017-11-14 2022-04-26 Arizona Board Of Regents On Behalf Of Arizona State University Robust real-time heart rate monitoring method based on heartbeat harmonics using small-scale radar
CA3086527A1 (en) 2018-01-08 2019-07-11 Covidien Lp Systems and methods for video-based non-contact tidal volume monitoring
WO2019240991A1 (en) 2018-06-15 2019-12-19 Covidien Lp Systems and methods for video-based patient monitoring during surgery
EP3833241A1 (en) 2018-08-09 2021-06-16 Covidien LP Video-based patient monitoring systems and associated methods for detecting and monitoring breathing
US11617520B2 (en) 2018-12-14 2023-04-04 Covidien Lp Depth sensing visualization modes for non-contact monitoring
US11564633B2 (en) * 2018-12-21 2023-01-31 Industrial Technology Research Institute State assessment system, diagnosis and treatment system, and method for operating the diagnosis and treatment system
CN109864740B (zh) * 2018-12-25 2022-02-01 北京津发科技股份有限公司 一种运动状态的表面肌电信号采集传感器和设备
US11315275B2 (en) 2019-01-28 2022-04-26 Covidien Lp Edge handling methods for associated depth sensing camera devices, systems, and methods
EP3698704A1 (en) * 2019-02-20 2020-08-26 Koninklijke Philips N.V. Device, system and method for determining physiological information
US11783483B2 (en) 2019-03-19 2023-10-10 Arizona Board Of Regents On Behalf Of Arizona State University Detecting abnormalities in vital signs of subjects of videos
US11771380B2 (en) 2019-03-19 2023-10-03 Arizona Board Of Regents On Behalf Of Arizona State University Vital sign monitoring system using an optical sensor
CN112037162B (zh) * 2019-05-17 2022-08-02 荣耀终端有限公司 一种面部痤疮的检测方法及设备
KR20200133112A (ko) * 2019-05-17 2020-11-26 삼성전자주식회사 생체 신호 측정 장치
CN112336318B (zh) * 2019-08-09 2022-02-18 复旦大学 一种自适应多模态融合的脉搏位置精确定位方法
CN110859615B (zh) * 2019-12-06 2020-07-31 电子科技大学 一种基于幅度排列的生理信号时间不可逆分析方法
CN111227795B (zh) * 2020-01-13 2022-07-22 天津众阳科技有限公司 一种人脸反射区颜色变化信息的提取方法
US11484208B2 (en) 2020-01-31 2022-11-01 Covidien Lp Attached sensor activation of additionally-streamed physiological parameters from non-contact monitoring systems and associated devices, systems, and methods
US11359915B1 (en) * 2020-05-15 2022-06-14 Lockheed Martin Corporation Active optical compressive sensing
CN112017155B (zh) * 2020-07-13 2023-12-26 浙江华锐捷技术有限公司 健康体征数据的测量方法、装置、***和存储介质
TWI741708B (zh) * 2020-07-30 2021-10-01 國立雲林科技大學 非接觸式呼吸檢測方法及其系統
CN112168171A (zh) * 2020-10-16 2021-01-05 北京中科心研科技有限公司 一种基于穿戴式脉搏信号的皮肤肤色检测方法及装置
CN112633093B (zh) * 2020-12-10 2024-04-16 中国人民解放军32181部队 一种装备状态检测方法及***
US11636700B2 (en) 2021-05-21 2023-04-25 Ford Global Technologies, Llc Camera identification
US11769313B2 (en) 2021-05-21 2023-09-26 Ford Global Technologies, Llc Counterfeit image detection
US11967184B2 (en) 2021-05-21 2024-04-23 Ford Global Technologies, Llc Counterfeit image detection
EP4098183A1 (en) 2021-06-02 2022-12-07 Koninklijke Philips N.V. Blood pressure detection
SE545755C2 (en) * 2022-02-25 2024-01-02 Detectivio Ab Non-contact oxygen saturation estimation
CN115661131B (zh) * 2022-11-17 2023-03-10 菲特(天津)检测技术有限公司 一种图像识别方法、装置、电子设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015055405A1 (en) * 2013-10-17 2015-04-23 Koninklijke Philips N.V. Automatic camera adjustment for remote photoplethysmography

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2165706A1 (ja) * 1971-11-23 1973-08-10 Commissariat Energie Atomique
US5309917A (en) * 1991-09-12 1994-05-10 Drexel University System and method of impedance cardiography and heartbeat determination
DE102004002918B4 (de) * 2004-01-20 2016-11-10 Siemens Healthcare Gmbh Vorrichtung zur Untersuchung der Haut
US7446316B2 (en) * 2005-10-31 2008-11-04 Honeywell International Inc. Skin detection sensor
US8504146B2 (en) * 2007-06-29 2013-08-06 The Regents Of The University Of California Multi-channel myoelectrical control using single muscle
JP5631901B2 (ja) * 2009-03-06 2014-11-26 コーニンクレッカ フィリップス エヌ ヴェ 少なくとも1の生物体の画像の処理
CN101716069A (zh) * 2009-11-17 2010-06-02 中国科学院安徽光学精密机械研究所 人体氧化应激无创荧光检测装置与方法
US8520074B2 (en) * 2010-12-14 2013-08-27 Xerox Corporation Determining a total number of people in an IR image obtained via an IR imaging system
EP2661219B1 (en) 2011-01-05 2019-05-15 Koninklijke Philips N.V. Device and method for extracting information from characteristic signals
WO2012128614A1 (en) * 2011-03-24 2012-09-27 Erasmus University Medical Center Rotterdam Method to determine the absorption coefficient in turbid media
US8838209B2 (en) * 2012-02-21 2014-09-16 Xerox Corporation Deriving arterial pulse transit time from a source video image
US10143377B2 (en) * 2012-05-02 2018-12-04 Augusta University Research Institute, Inc. Single channel imaging measurement of dynamic changes in heart or respiration rate
US8977347B2 (en) 2012-06-25 2015-03-10 Xerox Corporation Video-based estimation of heart rate variability
US10452894B2 (en) * 2012-06-26 2019-10-22 Qualcomm Incorporated Systems and method for facial verification
BR112015011573A2 (pt) * 2012-11-23 2017-07-11 Koninklijke Philips Nv dispositivo de monitoramento remoto, método de monitoramento remoto e programa de computador
JP6290248B2 (ja) * 2012-12-21 2018-03-07 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 遠隔検出された電磁放射線から生理学的情報を抽出するシステム及び方法
CN103149177B (zh) * 2013-01-14 2014-12-17 天津先阳科技发展有限公司 压力调制近红外光谱实现生物组织检测的装置和方法
CN105050492B (zh) * 2013-03-14 2019-01-08 皇家飞利浦有限公司 用于确定对象的生命体征的设备和方法
CN104434078A (zh) * 2013-09-13 2015-03-25 施乐公司 用时间序列信号确定基于视频的脉搏传导时间的***和方法
JP6194105B2 (ja) 2013-10-01 2017-09-06 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 遠隔フォトプレチスモグラフィ波形を取得するための改良された信号選択
US20150148632A1 (en) * 2013-11-26 2015-05-28 David Alan Benaron Calorie Monitoring Sensor And Method For Cell Phones, Smart Watches, Occupancy Sensors, And Wearables
US10478078B2 (en) * 2013-12-12 2019-11-19 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
EP3094248B1 (en) * 2014-01-16 2020-05-27 Nokia Technologies Oy Method and device for the detection of respiratory rate
US9336594B2 (en) * 2014-03-07 2016-05-10 Xerox Corporation Cardiac pulse rate estimation from source video data
US10028669B2 (en) * 2014-04-02 2018-07-24 Massachusetts Institute Of Technology Methods and apparatus for physiological measurement using color band photoplethysmographic sensor
US20150302158A1 (en) 2014-04-21 2015-10-22 Microsoft Corporation Video-based pulse measurement
US9459201B2 (en) * 2014-09-29 2016-10-04 Zyomed Corp. Systems and methods for noninvasive blood glucose and other analyte detection and measurement using collision computing
US10660533B2 (en) * 2014-09-30 2020-05-26 Rapsodo Pte. Ltd. Remote heart rate monitoring based on imaging for moving subjects
US9770213B2 (en) * 2014-10-30 2017-09-26 Koninklijke Philips N.V. Device, system and method for extracting physiological information
US9432133B2 (en) * 2015-02-03 2016-08-30 Keysight Technologies, Inc. Vector signal generator channel characterization employing orthogonal modulation
US10004427B1 (en) * 2015-08-04 2018-06-26 Verily Life Sciences Llc Methods, systems, and devices for determining a respiration rate
EP3414739B1 (en) 2016-02-08 2020-04-08 Koninklijke Philips N.V. Device, system and method for pulsatility detection

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015055405A1 (en) * 2013-10-17 2015-04-23 Koninklijke Philips N.V. Automatic camera adjustment for remote photoplethysmography

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
GIBERT GUILLAUME ET AL.: ""Face detection method based on photoplethysmography"", 2013 10TH IEEE INTERNATIONAL CONFERENCE ON ADVANCED VIDEO AND SIGNAL BASED SURVEILLANCE, JPN6019044388, 30 August 2013 (2013-08-30), pages 449 - 453, XP032509930, ISSN: 0004325063, DOI: 10.1109/AVSS.2013.6636681 *
KWON SUNGJUN ET AL.: ""ROI analysis for remote photoplethysmography on facial video"", 2015 37TH ANNUAL INTERNATIONAL CONFERENCE OF THE IEEE ENGINEERING IN MEDICINE AND BIOLOGY SOCIETY, JPN6019044386, 29 August 2015 (2015-08-29), pages 4938 - 4941, XP032811275, ISSN: 0004325062, DOI: 10.1109/EMBC.2015.7319499 *
N. MADHU: ""Note on measures for spectral flatness"", ELECTRONICS LETTERS, vol. 45, no. 23, JPN6019044390, 5 November 2009 (2009-11-05), pages 1195 - 1196, XP006034162, ISSN: 0004325064, DOI: 10.1049/EL:20091977 *

Also Published As

Publication number Publication date
CN108701357A (zh) 2018-10-23
RU2018132127A (ru) 2020-03-11
US10818010B2 (en) 2020-10-27
US20190050985A1 (en) 2019-02-14
EP3414738B1 (en) 2020-01-22
CN108604376B (zh) 2022-04-01
EP3414739A1 (en) 2018-12-19
CN108701357B (zh) 2022-08-02
EP3414739B1 (en) 2020-04-08
JP6538287B2 (ja) 2019-07-03
US20190057502A1 (en) 2019-02-21
EP3414738A1 (en) 2018-12-19
CN108604376A (zh) 2018-09-28
JP2019510532A (ja) 2019-04-18
WO2017137435A1 (en) 2017-08-17
WO2017137415A1 (en) 2017-08-17
US12020426B2 (en) 2024-06-25

Similar Documents

Publication Publication Date Title
CN108604376B (zh) 用于搏动性检测的设备、***和方法
CN106999116B (zh) 用于皮肤检测的设备和方法
EP3664704B1 (en) Device, system and method for determining a physiological parameter of a subject
US20200178809A1 (en) Device, system and method for determining a physiological parameter of a subject
US20140275832A1 (en) Device and method for obtaining vital sign information of a subject
EP3422931B1 (en) Device, system and method for determining a vital sign of a subject
Malasinghe et al. A comparative study of common steps in video-based remote heart rate detection methods
Sinhal et al. Color intensity: a study of RPPG algorithm for heart rate estimation
Zarándy et al. Multi-Level Optimization for Enabling Life Critical Visual Inspections of Infants in Resource Limited Environment
Islam et al. Extracting heart rate variability: a summary of camera based Photoplethysmograph
Balaraman et al. Cardiac Signal Monitoring System using NonContact Measurement for Physiological Features
Zhu et al. Privacy-protected Contactless Sleep Parameters Measurement using A Defocused Camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191031

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20191031

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200709

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200709

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200727

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200804

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200814

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200818

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200923

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20201125

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210108

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210205

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210205