CN111050638A - 用于接触式光学体积描记术(ppg)的计算机实现的方法和*** - Google Patents

用于接触式光学体积描记术(ppg)的计算机实现的方法和*** Download PDF

Info

Publication number
CN111050638A
CN111050638A CN201880056100.2A CN201880056100A CN111050638A CN 111050638 A CN111050638 A CN 111050638A CN 201880056100 A CN201880056100 A CN 201880056100A CN 111050638 A CN111050638 A CN 111050638A
Authority
CN
China
Prior art keywords
ppg
region
ppg signal
quality
segments
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880056100.2A
Other languages
English (en)
Other versions
CN111050638B (zh
Inventor
M·杰尼科
A·万尼克恩罗伊
K·莱森
L·格利坦
J·万德奥瓦
B·万阔普
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Combem
Original Assignee
Combem
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Combem filed Critical Combem
Publication of CN111050638A publication Critical patent/CN111050638A/zh
Application granted granted Critical
Publication of CN111050638B publication Critical patent/CN111050638B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A61B5/02427Details of sensor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/0245Detecting, measuring or recording pulse rate or heart rate by using sensing means generating electric signals, i.e. ECG signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/318Heart-related electrical modalities, e.g. electrocardiography [ECG]
    • A61B5/346Analysis of electrocardiograms
    • A61B5/349Detecting specific parameters of the electrocardiograph cycle
    • A61B5/361Detecting fibrillation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0233Special features of optical sensors or probes classified in A61B5/00
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7203Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7221Determining signal validity, reliability or quality
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7253Details of waveform analysis characterised by using transforms
    • A61B5/726Details of waveform analysis characterised by using transforms using Wavelet transforms

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Cardiology (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

一种用于简称为接触式PPG的接触式光学体积描记术的计算机实现的方法(100),包括:‑在时间间隔期间获得(101)透镜(301)或视频帧的子区域(321‑324;431‑434;531‑534;631‑634;731‑734)的多个PPG信号(311‑314;401‑404;501‑504;601‑608;701‑708);以及‑组合(105)多个PPG信号(311‑314;401‑404;501‑504;601‑608;701‑708),从而获得多区域PPG信号(405;505;609;709)。

Description

用于接触式光学体积描记术(PPG)的计算机实现的方法和 ***
技术领域
本发明一般而言涉及光学体积描记术或PPG,一种检测血容量改变的光学技术,该技术使得能够监视各种生理参数。本发明更具体地涉及直接PPG或所谓的接触式PPG,其中测量部件(即,光源和光电检测器)与被监视人员的皮肤直接接触。本发明一般而言设想改善接触式PPG中的信号质量。
背景技术
光学体积描记术或PPG是一种光学技术,其允许通过检测外周循环中的血液体积改变来监视一个或多个生理参数。PPG利用血液对光的吸收来跟踪这些体积改变。当光源照亮皮肤时,反射光会随着血液流动而变化。然后,光传感器将光反射的这些变化转换成数字信号,即,所谓的PPG信号。PPG信号通常使用脉搏血氧仪或光电检测器(例如集成在电子设备(如人的智能电话或其它智能可穿戴或不可穿戴设备)中的相机)记录。
除其它应用以外,PPG尤其可以被用于监视心血管和血液动力学参数(诸如心率、心率可变性、血压),或监视其它生理变量(诸如压力、呼吸或自主功能)。用PPG进行准确监视的一个关键部分是获得高质量、无伪像的信号,因为PPG会受到各种噪声源的影响。
标题为“Device and Method for Extracting Physiological Information”且由Koninklijke Philips N.V.提交的国际专利申请WO 2014/024104描述了一种改善远程PPG或非接触式PPG的准确性的方法,该方法通常被用于跟踪日常应用(例如健身)中较大的感兴趣区域(例如脸部)。该方法将感兴趣区域划分为空间子区域,并且将PPG信号划分为表示相应子区域的信号子集。信号子集被单独处理。该处理可以涉及质量估计。此后,信号子集被组合成增强信号。失真的子信号可以从组合信号中衰减或消除。
标题为“Video Coding and Decoding Devices and Methods Preserving PPGRelevant Information”且由Koninklijke Philips N.V.提交的美国专利申请US 2013/0272393A1也涉及远程PPG。
虽然远程PPG对被监视人员而言并不令人讨厌,但它对信号检测和信号处理提出了重大挑战。因此,远程PPG的使用仍然限于日常应用(如休闲或健身),因为其准确性和可靠性不足以用于医疗应用。
与远程PPG相反,本发明涉及接触式PPG或接触式PPG,其中测量部件与皮肤直接接触,以便获得促进医学诊断的更可靠、更准确的PPG信号。
在处理接触式PPG信号以确定心率可变性的应用中,信号质量低会导致不准确。虽然部分质量好的信号给出足够的信息来进行可靠的分析,但是伪像的存在会严重影响质量并会导致误导性结果。因此,需要使接触PPG信号尽可能干净,并识别和移除质量差的部分以仅保留质量好的部分用于进一步分析。
伪像包括运动、皮肤相对于光传感器的不良定位或环境光干扰。作者AlexeiA.Kamshilin等人的文章“A new look at the essence of the imagingphotoplethysmography”还报告了PPG信号中经常观察到的另一种伪像:PPG波形反转。这种现象通过信号或信号的一部分与信号的通常朝向相比被反转来表明。在皮肤的相邻区域中已经观察到这种现象,一个区域以通常的朝向呈现信号,而相邻区域以相反的朝向呈现信号。当这两个区域被用于提取信号时,这会导致PPG信号的质量下降。对这种现象的解释仍有待验证。
为了改善借助于相机记录的接触式PPG信号的质量,建议将图像像素划分为子区域或象限的矩阵,并应用确定最优子图像(即,其PPG信号具有最佳质量的象限,称为最优感兴趣区域)的选择算法。
作者Rong-Chao Peng等人的文章“Investigation of Five Algorithms forSelection of the Optimal Region of Interest in SmartphonePhotoplethysmography”描述了五种选择最优感兴趣区域的算法:
-方差(VAR)算法选择其PPG波形具有最高方差(即,最高信号功率)的象限作为最优感兴趣区域;
-频谱能量比(SER)算法选择PPG信号具有最高频谱能量比(即,指示心脏活动比例最高的象限)作为最优感兴趣区域;
-模板匹配(TM)算法选择其PPG信号与模板波形相似度最高的象限作为最优感兴趣区域;
-时间差(TD)算法选择其PPG信号对相邻帧之间的像素具有最高平均强度变化的象限作为最优感兴趣区域;以及
-梯度(GRAD)算法选择其PPG信号具有最大平均光强度梯度的象限作为最优感兴趣区域。
Peng等人的文章得出的结论是,TM和TD算法在选择最优感兴趣区域并因此选择使得能够以改善的准确性估计生理参数的PPG信号方面优于其它算法。
作者Walter Karlen等人的文章“Detection of the Optimal Region ofInterest for Camera Oximetry”描述了确定优选的象限或最优感兴趣区域的另一种算法。提出的算法仅考虑蓝色通道,并通过均值像素强度计算和增量合并分割(IMS)算法从PPG信号中提取节拍或脉冲。换句话说,所选择的最优感兴趣区域的PPG信号具有最高脉冲。另外,Karlen等人还教导选择白炽灯白平衡模式作为Samsung Galaxy Ace移动电话上PPG的优选设置。
除了选择像素的子集(所谓的最优感兴趣区域)外,还建议通过选择具体的颜色通道来生成PPG信号。Jihyoung Lee等人的文章“Comparison between red,green and bluelight reflection photoplethysmography for heart rate monitoring…”例如建议绿光更适合监视心率。
标题为“Systems and Methods for Identifying Non-Corrupted SignalSegments for Use in Determining Physiological Parameters”且由受让人NellcorPuritan Bennett Ireland提交的美国专利申请US2011/0077484A1教导了通过用经训练的神经网络处理PPG信号的小波变换来分析接触式PPG信号片段的质量。这导致识别出损坏的和未损坏的PPG信号片段。损坏的信号片段被移除或替换为较早接收的、未损坏的PPG信号片段。
已知的解决方案依赖单个感兴趣区域的选择并从这个选择的感兴趣区域中提取PPG信号。但是,选择的关注区域是静态的,即,最优区域是像素的单个子区域,对于整个测量而言,该子区域被认为是相同的。没有使用其它子区域的有用信息。当提取PPG信号的最优子区域在整个测量过程中发生变化时,这会导致不令人满意的结果。然后,提取出的PPG信号可以包含降低生理参数估计的准确性(例如,心率可变性的准确性,以及因此建立在其上的任何疾病诊断(例如AF诊断)的准确性)的反演和/或不良质量区段。
同样,事先在已知的用于接触式PPG信号提取的***中进行颜色选择,并且每次分析均静态地使用相同的颜色。
此外,旨在改善信号质量的现有技术解决方案均未针对可能对接触式PPG信号质量产生负面影响的各种厂商和智能设备类型的相机设置。
因此,本发明的目标是公开一种用于解决现有解决方案的上述一个或多个缺点的接触式PPG的计算机实现的方法。更具体地,一个目标是公开一种具有改善的准确性和可靠性的用于接触式PPG的方法。
发明内容
根据本发明,通过如权利要求1所述的用于接触式光学体积描记术(缩写为接触式PPG)的计算机实现的方法实现了上述确定的目标,包括:
-在时间间隔内为透镜或视频帧的相应子区域获得多个PPG信号,所述子区域中的每个子区域覆盖多个像素;以及
-组合多个PPG信号,从而获得多区域PPG信号。
因此,在空间上分割的(即,从用于接触式PPG的透镜的不同的多像素子区域获得的)多个接触式PPG信号被组合成多区域PPG信号。由于多个子区域的PPG信号的组合,质量好的PPG信息不会通过单个空间子区域的静态前期选择和/或单个颜色的静态前期选择被消除。不同PPG信号的质量好的部分将存在于多区域PPG信号中,因此增加了在多区域PPG信号中有价值信息的存在,以及由此得出的增加的任何生理参数估计的准确性和可靠性。
注意的是,根据本发明的方法中的每个PPG信号表示针对透镜的空间片段或子区域获得的直接PPG信号或接触式PPG信号。空间片段或子区域表示多个像素。例如,如果将透镜表面划分为四个子区域,那么每个子区域表示透镜的象限。
还应该注意的是,根据本发明的方法中的时间间隔与执行连续接触式PPG测量的时间间隔对应。该时间间隔通常应在几十秒(例如,30秒)至几分钟(例如,3分钟)的范围内。因此,如果为了监视目的而请求AF患者每天两次进行1分钟PPG测量,那么该时间间隔可以例如与60秒的视频帧的长度对应。
根据本发明,在这种时间间隔期间从不同的空间子区域获得的PPG信号可以被静态地组合成多区域PPG信号,或者它们可以被动态地组合成多区域PPG信号。静态组合子区域PPG信号意味着子区域PPG信号在后续时间间隔期间以相同的方式组合。静态组合多个子区域的PPG信号可以例如通过对子区域PPG信号求平均或者通过对子区域的特定子集的子区域PPG信号相加或求平均来获得。当静态组合子区域PPG信号时,可以在后续时间间隔中以不同的方式组合子区域PPG信号。作为示例,静态多区域PPG可以涉及进行评估,并且取决于那个评估,在第一时间间隔内添加子区域的第一子集的PPG信号,而子区域的与第一子集不同的第二子集的PPG信号基于对第二时间间隔PPG信号进行的新评估在第二时间间隔内被添加,从而预期测量间差异。例如,如果评估揭示递送质量好的PPG信号的子区域随时间变化,那么这可以是有利的。通过组合时间间隔的不同时间子片段中的子区域的不同子集的PPG信号来动态地组合PPG信号,以预期测量内差异,这将在下面进一步揭示。
还应该注意的是,在时间间隔内,可以选择或组合针对不同颜色获得的PPG信号,并且所选择或组合的颜色可以在空间子区域之间变化,这将在下面进一步解释。
如权利要求2定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例,还包括:
-处理多个PPG信号中的每个PPG信号,以识别其中PPG信号的质量测量高于阈值的PPG信号的质量好的片段和其中PPG信号的质量测量低于该阈值的PPG信号的质量差的片段;
-从多个PPG信号的每个PPG信号中移除质量差的片段;以及
-组合多个PPG信号的时间上对应的质量好的片段,以获得多区域PPG信号。
实际上,本发明的有利实施例实现了具有时间分割的动态多区域PPG。为透镜或视频帧的多个空间片段或子区域获得PPG信号。这些PPG信号中的每一个都被分割为时间片段,其典型长度为几秒钟。如果对60秒的时间间隔获得PPG信号,那么例如可以将这些PPG信号分割为每个5秒的十二个时间片段。对于所有PPG信号,分割是完全相同的,使得对于PPG信号中的每个片段,在时间上对应的片段存在于为其它子区域获得的PPG信号中。然后,每个PPG信号接受质量评估。根据某种质量测量,在质量好的PPG信号片段与质量差的PPG片段(即,质量评估超过给定质量阈值的PPG信号片段与质量评估保持在给定阈值以下的PPG信号片段)之间进行区分。质量差的PPG信号片段被消除,即,从相应的PPG信号中将其移除。将在时间上彼此对应的不同子区域PPG信号的质量好的片段进行组合:例如添加此类片段,或者对此类片段进行加权求和,其中权重与为此类片段确定的相应质量值成比例,或者可以考虑替代组合,如本领域技术人员将认识到的。因此,组成多区域PPG信号,其在准确性和可靠性方面表现得甚至更好,因为它仅组合了PPG信号的质量好的部分,而将PPG信号的质量差的部分从多区域PPG信号中排除。
如权利要求3定义的,在根据本发明的用于接触式PPG的计算机实现的方法的实施例中,质量好的片段包括非反转片段和反转片段,并且每个PPG信号的处理还包括识别反转片段并恢复反转片段。
实际上,反转的PPG信号在反转之后可以被维持为质量好的PPG信号。在根据本发明的方法的有利实施例中,质量评估在质量好的非反转PPG信号片段、反转的PPG信号片段与质量差的PPG信号片段之间进行区分。例如,这可以通过将每个PPG信号片段反转、应用质量测量并核实质量测量是否超过给定阈值来实现。如果反转的PPG信号被反转而变成非反转的质量好的PPG信号,那么该PPG信号片段是可以被维持用于多区域PPG信号组合的反转的PPG信号片段。还原PPG信号片段归结为改变样本的符号。通过还原反转的PPG信号片段并维持这种PPG信号片段用于多区域PPG信号的组合,可以进一步增强后者多区域PPG信号的准确性和可靠性。
如权利要求4定义的,在根据本发明的用于接触式PPG的计算机实现的方法的进一步的实施例中,每个PPG信号的处理包括:
-对PPG信号进行小波变换以获得经小波变换的PPG信号;以及
-将经小波变换的PPG信号供应给被训练以识别PPG信号的质量好的片段和PPG信号的质量差的片段的神经网络。
因此,本发明的优选实施例对PPG信号片段进行小波变换。然后将经小波变换的PPG信号片段供应给神经网络,该神经网络已通过样本集进行了训练,以区分质量好的信号片段与质量差的信号片段。但是,本领域技术人员将认识到的是,存在替代质量测量以不依赖小波变换和/或神经网络来区分质量好的PPG信号部分与质量差PPG信号部分。
如权利要求5定义的,在根据本发明的用于接触式PPG的计算机实现的方法的进一步的实施例中,进一步训练神经网络以识别反转的片段。
实际上,优选地还训练神经网络以区分反转的PPG信号片段。然后可以将这些反转的PPG信号片段还原为变成质量好的PPG信号片段,保留用于多区域PPG信号组合。
如权利要求6定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例包括:
-为来自颜色空间的相应颜色生成与多区域PPG信号相似的多个多区域PPG信号。
实际上,可选地,针对颜色空间的不同颜色(例如RGB空间中的红色、绿色和蓝色,或CYMK空间中的青色、黄色和品红色),获得子区域PPG信号。对于单色(例如绿色)获得的子区域PPG信号然后可以组合成那个颜色的多区域PPG信号。以这种方式,可以为颜色空间的相应颜色生成多区域PPG信号。如下面将解释的,然后可以静态地或动态地选择具有最高质量的颜色的多区域PPG信号。
如权利要求7定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-确定用于每种颜色的质量测量;以及
-在多个多区域PPG信号当中选择具有最高质量测量的用于那个颜色的多区域PPG信号。
因此,本发明的有利实施例产生用于颜色空间的多种颜色的多区域PPG信号,并基于质量评估静态地选择单一颜色的单个多区域PPG信号。然后将选择的单色的多区域PPG信号用于生理参数估计。但是对于下一个时间间隔,可能选择不同颜色的多区域PPG信号。
如权利要求8定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-确定用于每种颜色的质量测量;以及
-将用于多种颜色的多区域PPG信号组合成多色多区域PPG信号。
实际上,作为选择单色的替代方案,可以组合不同颜色的多区域PPG信号,只要补偿为不同颜色获得的PPG信号之间存在的相移即可。
如权利要求9定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-在时间间隔内获得用于相应颜色和相应子区域的多个PPG信号;
-处理多个PPG信号中的每个PPG信号,以识别其中PPG信号的质量测量高于阈值的所述PPG信号的质量好的片段和其中PPG信号的质量测量低于阈值的PPG信号的质量差的片段;
-从多个PPG信号中的每个PPG信号中移除质量差的片段;以及
-组合多个PPG信号的时间上对应的质量好的片段,以获得多色多区域PPG信号。
因此,本发明的高级实施例将每个子区域PPG信号分割为典型长度为几秒钟(例如5秒)的时间片段。为每种颜色完成此操作。对各个PPG信号片段进行处理以评估其质量。例如,可以将它们进行小波变换,然后馈送到区分质量好的片段、质量差的片段与可能反转的片段的神经网络中。质量差的片段被消除,并跨子区域和跨颜色组合时间上对应的质量好的片段,以便动态地生成多色多区域PPG信号,其中每个片段可以由不同的颜色和不同的子区域组成。如此获得的多色多区域PPG信号在准确性和可靠性方面是最优的,因为它动态地将最佳颜色与最佳子区域组合,同时消除了质量差的所有PPG信号部分。
如权利要求10定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括在时间间隔期间锁定透镜的设置,该设置至少包括:
-光圈;以及
-光敏度或曝光量。
实际上,为了降低振幅噪声并因此改善PPG信号的准确性和可靠性,优选地在整个PPG视频帧时间间隔期间锁定相机设置。优选地锁定的相机设置至少必须包括光圈和光敏度或曝光量。但是,其它相机设置(例如亮度)也可以在完整的PPG视频帧时间间隔期间锁定,以便进一步降低噪声并进一步改善PPG测量的准确性。值得注意的是,锁定相机设置带来了降噪和准确性的优势,而不受多区域PPG信号成分的影响。因此,同样是在没有多个子区域PPG信号被组合以组成多区域PPG信号的情况下和/或在没有多种颜色被组合以构成多色PPG信号的情况下,在PPG信号获取期间相机设置的锁定在振幅噪声降低方面带来了实质性的优势。
如权利要求11定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括检测多区域PPG信号中的峰,并且:
-检测多区域PPG信号中的初始峰;
-对多区域PPG信号中的初始峰加窗,从而生成加窗的初始峰;
-在多区域PPG信号中对加窗的初始峰求平均,从而生成峰模板;
-将初始峰与峰模板相关联;
-将相关性测量超过相关性阈值的初始峰维持为峰;以及
-丢弃相关性测量未超过相关性阈值的初始峰。
因此,本发明的优选实施例应用模板匹配峰值检测算法来检测合成的多区域PPG信号中的峰。第一步,在多区域PPG信号中检测初始振幅峰。每个初始峰都通过窗口进行加窗,该窗口从多区域PPG信号中过滤出检测到的初始峰之前的有限样本集和初始峰之后的有限样本集。然后,将如此获得的加窗的初始峰求平均,以构成与平均初始峰对应的峰模板。此后,将每个检测到的初始峰与模板峰进行比较或相关联,并且消除与模板峰的相关性保持在预定阈值以下的初始峰,即,不再将它们视为构成峰。模板匹配峰检测算法可以迭代地重复进行,可能会增加相关性阈值,直到所有峰都满足最终的期望相关性阈值。然后可以将最终的峰集合用于生理参数估计。
由权利要求12定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-通过确定多区域PPG信号中的后续峰值之间的时间差来提取RR-转速图(tachogram)。
因此,适用于其中监视或分析心跳或心率的应用的本发明的实施例可以从在多区域PPG信号中确定的峰中提取RR-转速图。考虑维持峰的定时。确定每两个后续峰之间的时间差以组成RR-转速图。
由权利要求13定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-处理多区域PPG信号以识别其中多区域PPG信号的质量测量高于阈值的多区域PPG信号的质量好的片段和其中多区域PPG信号的质量测量低于所述阈值的多区域PPG信号的质量差的片段;
-在提取RR-转速图之前,从多区域PPG信号中移除质量差的片段内的峰;以及
-从RR-转速图中移除全部或部分地位于多区域PPG信号的质量差的片段内的RR-转速图间隔。
因此,可以将RR-转速图处理为仅包含位于多区域PPG信号的质量好的间隔内的RR-转速图间隔。此外,必须根据测量来评估多区域PPG信号的片段的质量,以区分多区域PPG信号中的质量好的片段与质量差的片段。例如,基于小波变换和神经网络分析,质量评估可以与用于单个PPG信号的质量评估完全相同或相似,但是也可以应用替代的质量测量,如本领域技术人员将认识到的。质量评估导致在多区域PPG信号中识别出质量好的片段和质量差的片段,此后将其用于从这个多区域PPG信号中消除通过峰检测算法但位于多区域PPG信号的质量差的片段中的峰。因此,还将全部或部分地位于多区域PPG信号的这种质量差的间隔内的RR-转速图间隔从RR-转速图上移除,以获得可靠性改善的RR-转速图。
如权利要求14定义的,根据本发明的用于接触式PPG的计算机实现的方法的实施例还包括:
-确定后续峰值之间的时间差的可变性;以及
-根据可变性确定心房颤动风险得分。
适用于心房颤动(AF)风险分析的本发明的实施例还确定由峰检测算法维持的后续峰之间的时间差的可变性,即,心跳可变性或心率可变性。确定与这个可变性成比例的AF得分,并且当这个AF得分超过预定义的阈值时,可以警告患者或被监视人员,使得可以咨询临床医生以进行进一步的诊断。
除了如权利要求1-14定义的计算机实现的方法之外,本发明还涉及如权利要求15定义的对应的计算机程序产品,包括当程序在计算机上运行时用于执行该方法的计算机可执行指令。
本发明还涉及由权利要求16限定的计算机可读存储介质,包括计算机程序产品。
本发明还涉及如权利要求17限定的数据处理***,其被编程用于执行如权利要求1-14中的一项所述的方法。
附图说明
图1是图示根据本发明的用于接触式PPG的计算机实现的方法的实施例的框图;
图2图示了在根据本发明的用于接触式PPG的计算机实现的方法的实施例中处理PPG信号用于质量评估的的步骤;
图3图示了在用于根据本发明的接触式PPG的计算机实现的方法的实施例中获得用于多个子区域的多个PPG信号的步骤;
图4A和图4B图示了在根据本发明的实现静态多区域PPG的用于接触式PPG的计算机实现的方法的实施例中将多个PPG信号组合成多区域PPG信号的步骤;
图5A和图5B图示了在根据本发明的实现动态多区域PPG的用于接触式PPG的计算机实现的方法的实施例中将多个PPG信号组合成多区域PPG信号的步骤;
图6A和图6B图示了在根据本发明的利用颜色选择实现动态多区域PPG的用于接触式PPG的计算机实现的方法的实施例中将多个PPG信号组合成多区域PPG信号的步骤;
图7A和图7B图示了在根据本发明的实现动态多区域多色PPG的用于接触式PPG的的计算机实现的方法的实施例中将多个PPG信号组合成多区域PPG信号的步骤;
图8图示了在根据本发明的实现基于模板的峰选择的用于接触式PPG的计算机实现的方法的实施例中的峰检测步骤;
图9图示了在根据本发明的用于接触式PPG的计算机实现的方法的实施例中的RR-转速图提取的步骤;以及
图10图示了根据本发明的实施例的用于实现方法和设备的合适的计算***1000。
具体实施方式
图1示出了根据本发明的在用于接触式PPG或直接PPG的方法的实施例100中随后执行的步骤。在第一步101中,针对画布的相应子区域获得多个PPG信号。画布可以是例如集成在电子设备中的相机的透镜。可替代地,画布可以是表示由于一些成像操作而在单个时间点获得的像素的视频帧。在步骤1中获得的每个PPG信号表示画布的子区域,即,多个相邻像素的子集,例如画布的象限。对于单一颜色获得PPG信号,或者可替代地可以对于多种颜色(例如,每个子区域中的R、G和B颜色或C、M和Y颜色)获得PPG信号。PPG信号是在预定义的时间间隔期间获得的,该时间间隔通常设置为几十秒到几分钟。以30Hz的示例性频率获得PPG信号,这意味着成像设备每秒拍摄30幅图像以用作PPG信号的基础。测试表明,在获得PPG信号的时间间隔期间锁定相机或成像设备的某些设置是重要的,因为锁定相机设置会大大改善PPG信号的质量。这些设置至少包括光圈和光敏度或曝光量。如果PPG信号是由可穿戴设备(例如集成在智能电话中的相机)获得的,那么建议在执行步骤101期间远程控制相机设置以保持锁定。
在第二步102中,在视频帧之间执行内插以确保所有视频帧的相等采样。此后,在步骤103中,每个PPG信号被滤波,通常被带通滤波以移除噪声并获得在感兴趣的频带内的PPG信号。感兴趣的频带可以由医学应用确定。在进行心跳、心率或心率变化分析的情况下,感兴趣的频带例如是30Hz至200Hz范围内的频带。注意的是,获得PPG信号的步骤101、内插步骤102和滤波步骤可以共同构成远程执行的预处理的一部分,例如,在应用接触式PPG的人所穿戴的智能电话或其它电子设备上远程执行。将在以下段落中解释但通常是更加的处理密集的后续步骤104-107通常应集中执行,即,在具有更高处理能力的服务器上执行,但是在本发明将来的实施例中不排除某些步骤或子步骤也可以在电子设备上远程执行,因为此类电子设备的处理能力不断增长。
在步骤104中,处理每个PPG信号。处理涉及在子步骤141中评估质量和在子步骤142中检测反转。在本发明的静态实施方式中,可以在整个时间间隔上将评估质量和检测反转应用于整个PPG信号。可替代地,在本发明的动态实施方式中,将质量评估和反转检测应用于PPG信号的时间片段。因此,在PPG信号中识别质量好的部分和质量差的部分。PPG信号中被反转的部分被还原为仍然有用的质量好的部分。质量差的部分应从PPG信号中移除。
在步骤105中,将从不同子区域获得的多个PPG信号组合成多区域PPG信号,即,人工合成的PPG信号,其包含从表示图像画布的多个子区域的多个PPG信号中提取的信息。显然,多个子区域PPG信号的质量好的部分被组合成单个多区域PPG信号,该单个多区域PPG信号在用于后续生理参数提取的准确性和可靠性方面表现更好。在本发明的静态实施方式中,被发现为质量好的不同子区域的整个PPG信号(或者单个颜色或多个同步的颜色)被组合成单个多区域PPG信号。在本发明的动态实施方式中,多个PPG信号的时间上对应的片段被组合。组合在一起的PPG信号片段的集合通常随片段而变化,即,因为不同颜色的质量和不同的子区域的质量随时间而变化,所以可以在多区域PPG信号的不同片段中表示不同的子区域和/或不同的颜色。
对于这样组成的多区域PPG信号,在步骤106中应用峰检测算法以便检测峰,并在步骤107中确定峰间距离以便提取RR-转速图,这对于分析患者的心率可变性和AF风险级别是有用的。显然,在实现接触式PPG的本发明的实施例中,出于心跳、心率或心率可变性分析之外的其它目的,可以不执行步骤106和107。
图2图示了在本发明的实施例中执行的步骤104的操作,即,质量评估和反转检测。对每个子区域PPG信号201进行小波变换,从而产生经小波变换的子区域PPG信号202。然后将这种经小波变换的PPG信号202馈入神经网络203,该神经网络已经用训练数据集进行了训练,以区分质量好的PPG信号、质量差PPG信号与反转的PPG信号。神经网络203的结果是,子区域PPG信号被限定为质量好的PPG信号、质量差PPG信号或反转的PPG信号。在后一种情况下,PPG信号被还原,并且还原的PPG信号被限定为质量好的PPG信号。在本发明的动态实施方式中,对每个子区域PPG信号的每个片段执行基于小波变换和神经网络分析的质量评估。因此,在PPG信号201中识别质量好的部分,并在PPG信号201中识别质量差的部分241、242、243。最后从PPG信号204中移除质量差的部分241、242、243。同样,在考虑了多种颜色的本发明的实施方式中,如果例如由于不同的质量评估用于选择最佳颜色而对单色进行了前期选择,那么以上参考图2描述的质量评估和反转检测可以应用于单色,可以应用于多种颜色的整个PPG信号以便能够将质量好的颜色静态地组合成多色多区域PPG信号,或者可以应用于多种颜色的片段以便能够将子区域和颜色动态地组合成多色多区域PPG信号。
图3更详细地图示了获得多个PPG信号311、312、313和314的步骤101,这多个PPG信号311、312、313和314分别表示相机的透镜301的不同子区域321、322、323和324。在图3中,透镜区域被细分为4个象限:R1或321、R2或322、R3或323和R4或324。这些象限中的每一个与表示捕获的视频帧或图像中的多个相邻像素的不同子区域对应。透镜301的左上象限R1或321中的像素被用于获得第一PPG信号311。透镜301的右上象限R2或322中的像素被用于获得第二PPG信号312。透镜301的左下象限R3或323中的像素被用于获得第三PPG信号313。透镜301的右下象限R4或324中的像素被用于获得第四PPG信号314。所获得的PPG信号311、312、313和314不同,因为它们是由人体不同部位的光反射产生的,并且因为诸如反转之类的各种伪像而不同。根据本发明,子区域PPG信号311、312、313和314将被组合成单个多区域PPG信号,其具有比各个子区域PPG信号311、312、313和314改进的可靠性和准确性。考图4A-4B、图5A-5B、图6A-6B和图7A-7B,以下段落将描述将子区域PPG信号组合成多区域PPG信号的不同方式。
图4A示出了在后续时刻由类似于图3中的透镜301的透镜拍摄的五个视频帧421...422...423...424...425...426。每个视频帧421被细分为四个象限或子区域431、432、433和434,分别与透镜的子区域R1、R2、R3和R4对应。从第一子区域431或R1的像素中获得第一PPG信号401。这个PPG信号401的相应片段S1、S2、S3、S4和S5分别从视频帧421...422(不包括422)、422...423(不包括423)、423...424(不包括424)、424...425(不包括425)和425...426(不包括426)中的第一象限像素获得。从第二子区域432或R2的像素中获得第二PPG信号402。这个PPG信号402的相应片段S1、S2、S3、S4和S5分别从视频帧421...422(不包括422)、422...423(不包括423)、423...424(不包括424)、424...425(不包括425)和425...426(不包括426)中的第二象限像素获得。从第三子区域433或R3的像素中获得第三PPG信号403。这个PPG信号403的相应片段S1、S2、S3、S4和S5分别从视频帧421...422(不包括422)、422...423(不包括423)、423...424(不包括424)、424...425(不包括425)和425...426(不包括426)中的第三象限像素获得。从第四子区域434或R4的像素中获得第四PPG信号404。这个PPG信号404的相应片段S1、S2、S3、S4和S5分别从视频帧421...422(不包括422)、422...423(不包括423)、423...424(不包括424)、424...425(不包括425)和425...426(不包括426)中的第四象限像素获得。在图4B中,然后假设对整个子区域PPG信号401、402、403和404执行质量评估。进一步假设质量评估揭示了子区域PPG信号401和402的质量差,而子区域PPG信号403和404的质量好。因此,子区域PPG信号403和404被静态地组合成多区域PPG信号405,例如通过这些信号的平均和。质量差的子区域PPG信号401和402被移除,因此不在多区域PPG信号405的组成中使用。在图4A和图4B所示的静态多区域PPG实施例中,没有移除或选择子区域信号的各个片段以生成多区域PPG信号405。虽然移除了质量差的子区域PPG信号401和402,并且维持了质量好的子区域PPG信号403和404,但是仍然有可能在多区域PPG信号405中使用形成质量好的PPG信号403和404的一部分的质量差的片段,因此负面影响多区域PPG信号405的准确性。形成质量差的PPG信号401和402一部分的质量好的段也有可能未被使用,因此不能利用所有可能来组成最优的多区域PPG信号。但是,由图4A和图4B所示的本发明的静态多区域PPG实施例的优点在于它要求有限的处理以组成多区域PPG信号405。
以类似的方式,图5A示出了在后续时刻由类似于图3中的透镜301的透镜拍摄的视频帧521...522...523...524...525...526。每个视频帧521被细分为四个象限或子区域531、532、533和534,分别与透镜的子区域R1、R2、R3和R4对应。从第一子区域531或R1的像素中获得第一PPG信号501。这个PPG信号501的相应片段S1、S2、S3、S4和S5分别从视频帧521...522(不包括522)、522...523(不包括523)、523...524(不包括524)、524...525(不包括525)和525...526(不包括526)中的第一象限像素获得。从第二子区域532或R2的像素中获得第二PPG信号502。这个PPG信号502的相应片段S1、S2、S3、S4和S5分别从视频帧521...522(不包括522)、522...523(不包括523)、523...524(不包括524)、524...525(不包括525)和525...526(不包括526)中的第二象限像素获得。从第三子区域533或R3的像素中获得第三PPG信号503。这个PPG信号503的相应片段S1、S2、S3、S4和S5分别从视频帧521...522(不包括522)、522...523(不包括523)、523...524(不包括524)、524...525(不包括525)和525...526(不包括526)中的第三象限像素获得。从第四子区域534或R4的像素中获得第四PPG信号504。这个PPG信号504的相应片段S1、S2、S3、S4和S5分别从视频帧521...522(不包括522)、522...523(不包括523)、523...524(不包括524)、524...525(不包括525)和525...526(不包括526)中的第四象限像素获得。在图4B中,然后假设对子区域PPG信号501、502、503和504中的每个信号的各个片段S1、S2、S3、S4和S5执行质量评估。进一步假设质量评估揭示了子区域PPG信号503和504的片段S1、S2、S3和S4质量好,并且子区域信号PPG信号501和502的片段S5质量好。其它所有片段被假定为质量差。因此,子区域PPG信号501、502、503和504的质量好的片段被动态地组合以组成多区域PPG信号505。子区域PPG信号503和504的片段S1被组合成多区域PPG信号505的片段S1,例如通过这些信号的平均和。类似地,子区域PPG信号503和504的片段S2被组合成多区域PPG信号505的片段S2,子区域PPG信号503和504的片段S3被组合成多区域PPG信号505的片段S3,子区域PPG信号503和504的片段S4被组合成多区域PPG信号505的片段S4,子区域PPG信号501和502的片段S5被组合成多区域PPG信号505的片段S5。子区域PPG信号501、502、503和504的质量差的片段被移除,因此不在多区域PPG信号505的组成中使用。与图4A和图4B所示的静态多区域PPG组成相比,图5A和图5B所示的动态多区域PPG实施例的处理强度更密集,但是带来了所有子区域PPG信号的所有质量好的片段被使用以便生成具有增强的准确性和可靠性的多区域PPG信号505的优点。当与多区域PPG信号405相比时,由于使用了PPG信号501和502的质量好的片段S5,多区域PPG信号505例如在片段S5中包含附加的峰。
以类似的方式,图6A示出了在后续时刻由类似于图3中的透镜301的透镜拍摄的视频帧621...622...623...624...625...626。每个视频帧621被细分为四个象限或子区域631、632、633和634,分别与透镜的子区域R1、R2、R3和R4对应,并且对于这些象限631、632、633和634中的每一个获得第一颜色C1的像素和第二颜色C2的像素。从第一子区域631或R1的C1像素中获得第一PPG信号601,并且从第一子区域631或R1的C2像素中获得第二PPG信号602。这些PPG信号601和602的相应片段S1、S2、S3、S4和S5分别是从视频帧621...622(不包括622)、622...623(不包括623)、623...624(不包括624)、624...625(不包括625)和625...626(不包括626)中的第一象限C1和C2像素获得的。从第二子区域632或R2的C1像素中获得第三PPG信号603。从第二子区域632或R2的C2像素中获得第四PPG信号604。这些PPG信号603和604的相应片段S1、S2、S3、S4和S5分别从视频帧621...622(不包括622)、622...623(不包括623)、623...624(不包括624)、624...625(不包括625)和625...626(不包括626)中的第二象限C1和C2像素获得。从第三子区域633或R3的C1像素中获得第五PPG信号605。从第三子区域633或R3的C2像素中获得第六PPG信号606。这些PPG信号605和606的相应片段S1、S2、S3、S4和S5分别从视频帧621...622(不包括622)、622...623(不包括623)、623...624(不包括624)、624...625(不包括625)和625...626(不包括626)中的第三象限C1和C2像素获得。从第四子区域634或R4的C1像素中获得第七PPG信号607。从第四子区域634或R4的C2像素中获得第八PPG信号608。这些PPG信号607和608的相应片段S1、S2、S3、S4和S5分别是从视频帧621...622(不包括622)、622...623(不包括623)、623...624(不包括624)、624...625(不包括625)和625...626(不包括626)中的第四象限C1和C2像素获得。在图6B中,然后假设对每个子区域PPG信号601-608的各个片段S1、S2、S3、S4和S5执行质量评估。进一步假设,对于第一颜色C1,质量评估揭示子区域PPG信号605和607的片段S1、S2、S3和S4质量好,子区域信号PPG信号601和603的片段S5质量好。C1 PPG信号601、603、605和607中的所有其它片段均被假设为质量差。因此,子区域PPG信号601、603、605和607的质量好的C1片段被动态地组合以组成用于第一颜色C1的多区域PPG信号609。子区域PPG信号605和607的片段S1被组合成多区域PPG信号609的片段S1,例如通过这些信号的平均和。类似地,子区域PPG信号605和607的片段S2被组合成多区域PPG信号609的片段S2,子区域PPG信号605和607的片段S3被组合成多区域PPG信号609的片段S3,子区域PPG信号605和607的片段S4被组合成多区域PPG信号609的片段S4,并且子区域PPG信号601和603的片段S5被组合成多区域PPG信号609的片段S5。子区域PPG信号601、603、605和607的质量差的片段被移除,因此不在用于第一颜色C1的多区域PPG信号609的组成中使用。进一步假设,对于第二颜色C2,质量评估揭示子区域PPG信号602和604的片段S1、S2和S3的质量好,并且子区域PPG信号604、606和608的片段S4和S5的质量好。C2 PPG信号602、604、606和608中的所有其它片段均被假定为质量差。因此,子区域PPG信号602、604、606和608的质量好的C2片段被动态地组合以组成用于第二颜色C2的多区域PPG信号610。子区域PPG信号602和604的片段S1被组合成多区域PPG信号610的片段S1,例如通过这些信号的平均和。类似地,子区域PPG信号602和604的片段S2被组合成多区域PPG信号610的片段S2,子区域PPG信号602和604的片段S3被组合成多区域PPG信号610的片段S3,子区域PPG信号604、606和608的片段S4被组合成多区域PPG信号610的片段S4,并且子区域PPG信号604、606和608的片段S5被组合成多区域PPG信号610的片段S5。子区域PPG信号602、604、606和608的质量差的片段被移除,因此不在用于第二颜色C2的多区域PPG信号610的组成中使用。此后,对多区域PPG信号609和610进行质量评估,以便选择最佳颜色,即,根据某种质量测量,其多区域PPG信号具有最佳质量得分的颜色。在图6B中,假设质量评估揭示多区域PPG信号609具有比多区域PPG信号610更好的质量。因此,选择第一颜色C1。图6A和图6B所示的利用颜色选择的动态多区域PPG实施例更加处理密集,但是带来的优点是使用了所有子区域PPG信号的所有质量好的片段并且这是针对多种颜色。此外,选择最佳颜色以便优化多区域PPG信号的准确性和可靠性,而无需同步不同的颜色。
以类似的方式,图7A示出了在后续时刻由类似于图3中的透镜301的透镜拍摄的视频帧721...722...723...723...724...725...726。每个视频帧721被细分为四个象限或子区域731、732、733和734,分别与透镜的子区域R1、R2、R3和R4对应,并且对于这些象限731、732、733和734中的每一个获得第一颜色C1的像素和第二颜色C2的像素。从第一子区域731或R1的C1像素中获得第一PPG信号701,并且从第一子区域731或R1的C2像素中获得第二PPG信号702。这些PPG信号701和702的相应片段S1、S2、S3、S4和S5分别从视频帧721...722(不包括722)、722...723(不包括723)、723...724(不包括724)、724...725(不包括725)和725...726(不包括726)中的第一象限C1和C2像素获得。从第二子区域732或R2的C1像素中获得第三PPG信号703。从第二子区域732或R2的C2像素中获得第四PPG信号704。这些PPG信号703和704的相应片段S1、S2、S3、S4和S5分别从视频帧721...722(不包括722)、722...723(不包括723)、723...724(不包括724)、724...725(不包括725)和725...726(不包括726)中的第二象限C1和C2像素获得。从第三子区域733或R3的C1像素中获得第五PPG信号705。从第三子区域733或R3的C2像素中获得第六PPG信号706。这些PPG信号705和706的相应片段S1、S2、S3、S4和S5分别从视频帧721...722(不包括722)、722...723(不包括723)、723...724(不包括724)、724...725(不包括725)和725...726(不包括726)中的第三象限C1和C2像素获得。从第四子区域734或R4的C1像素中获得第七PPG信号707。从第四子区域734或R4的C2像素中获得第八PPG信号708。这些PPG信号707和708的相应片段S1、S2、S3、S4和S5分别从视频帧721...722(不包括722)、722...723(不包括723)、723...724(不包括724)、724...725(不包括725)和725...726(不包括726)中的第四象限C1和C2像素获得。在图7B中,然后假设对每个子区域PPG信号701-708的各个片段S1、S2、S3、S4和S5执行质量评估。进一步假设,对于第一颜色C1,质量评估揭示子区域PPG信号705和707的片段S1、S2、S3和S4质量好,并且子区域信号PPG信号701和703的片段S5质量好。C1PPG信号701、703、705和707中的所有其它片段均被假定为质量差。进一步假设,对于第二颜色C2,质量评估揭示子区域PPG信号702和704的片段S1、S2和S3质量好,并且子区域PPG信号704、706和708的片段S4和S5质量好。C2PPG信号702、704、706和708中的所有其它片段均被假定为质量差。然后将在时间上对应并假定同步的多种颜色的质量好的片段动态地组合成单个多色多区域PPG信号709。因此,子区域PPG信号702、704、705和707的片段S1被组合成多区域PPG信号709的片段S1,例如通过这些信号的平均和。类似地,子区域PPG信号702、704、705和707的片段S2被组合成多区域PPG信号709的片段S2,子区域PPG信号702、704、705和707的片段S3被组合成多区域PPG信号709的片段S3,子区域PPG信号704、705、706、707和708的片段S4被组合为多区域PPG信号709的片段S4,并且子区域PPG信号701、703、704、706和708的片段S5被组合成多区域PPG信号709的片段S5。子区域PPG信号701-708的质量差的片段被移除,因此不在多区域PPG信号709的组成中使用。图7A和图7B所示的动态多色多区域PPG实施例更加处理密集,并且要求颜色C1和C2之间的同步,但是其带来的优点是所有子区域PPG信号和所有颜色的所有质量好的片段都组合在一起。以这种方式,PPG信号709以最优的准确性和可靠性组成。与图6A和图6B所示的实施例相比,注意到例如,通过区域和颜色的动态组合获得的多色多区域PPG信号709也包含片段S4中的峰,而这个峰在通过利用颜色选择的区域的动态组合获得的多区域PPG信号609中仍然不存在。
图8图示了图1中的峰检测步骤106的可能实现。在多区域PPG信号801中,例如通过比较信号强度与平均信号强度,检测到峰。在多区域PPG信号801中检测到的峰用点进行标记。然后将这些峰加窗,并对加窗的峰求平均以生成峰模板802,即,模型峰。之后,将每个检测到的峰与峰模板802相关联。维持其相关性超过某个相关性阈值的峰。移除其相关性保持在相关性阈值以下的峰,例如图8中的803。对于其余的峰,重复地迭代求平均以生成峰模板、相关联以识别被保持的峰和被丢弃的峰的步骤,直到达到不再丢弃任何峰的稳定情况。
图9图示了图1中的RR-转速图提取步骤107的可能实施方式。RR-转速图900以时间为横轴,并以多区域PPG信号中的后续峰之间的时间差为纵轴。因此,如果多区域PPG信号中的峰表示被监视人员的心跳,那么RR-转速图示出峰速率的可变性,即,心率的可变性。通过执行多区域PPG信号的质量分析,可以改善提取出的RR-转速图的可靠性。可以使用类似于上文所述的质量评估技术来完成这种质量分析,即,基于小波变换和神经网络分析,但是本领域技术人员将认识到的是,也可以应用其它质量分析技术来识别多区域PPG信号中质量好的部分和质量差的部分。RR间隔全部或部分地位于多区域PPG信号的质量差的部分内,如图9中的901、902、903和904。以这种方式,获得经处理的、更可靠的RR-转速图。根据RR-转速图,可以确定峰速率的可变性。如果这种可变性超出某些阈值,那么可以将对应的心房颤动风险得分值报告给被监视人员或其医师。
图10示出了根据本发明的实施例的合适的计算***1000。计算***1000适于实现根据本发明的用于接触式PPG的方法的实施例。计算***1000一般可以被形成为合适的通用计算机,并且包括总线1010、处理器1002、本地存储器1004、一个或多个可选的输入接口1014、一个或多个可选的输出接口1016、通信接口1012、存储元件接口1006和一个或多个存储元件1008。总线1010可以包括允许计算***1000的部件之间的通信的一个或多个导体。处理器1002可以包括解释和执行编程指令的任何类型的常规处理器或微处理器。本地存储器1004可以包括存储信息和指令以供处理器1002执行的随机存取存储器(RAM)或另一种类型的动态存储设备和/或存储静态信息和指令以供处理器1002使用的只读存储器(ROM)或另一种类型的静态存储设备。输入接口1014可以包括允许操作者或用户向计算设备1000输入信息的一种或多种常规机构,诸如键盘1020、鼠标1030、笔、语音识别和/或生物统计机构、相机等。输出接口1016可以包括向操作者或用户输出信息的一种或多种常规机构,诸如显示器1040等。通信接口1012可以包括任何类似收发器的机制,诸如例如使得计算***1000能够与其它设备和/或***(例如与其它计算设备1081、1082、1083)通信的一个或多个以太网接口。计算***1000的通信接口1012可以借助于局域网(LAN)或诸如互联网之类的广域网(WAN)连接到这样的另一个计算***。存储元件接口1006可以包括用于将总线1010连接到一个或多个存储元件1008(诸如一个或多个本地盘(例如SATA磁盘驱动器))并控制向这些存储元件1008和/或从这些存储元件1008的数据读写的存储接口,诸如例如串行高级技术附件(SATA)接口或小型计算机***接口(SCSI)。虽然以上将存储元件1008描述为本地盘,但一般而言,可以使用任何其它合适的计算机可读介质(诸如可移动磁盘)、光学存储介质(诸如CD-ROM或DVD-ROM盘)、固态驱动器、闪存卡等。注意的是,可以集中地(例如在管理中心或云***中的服务器上)执行根据本发明的整个方法,或者可以部分地在远程电子设备(例如,用户穿戴的)上且部分地在中央服务器上执行。因此,计算***1000可以与中央可用的处理***或电子设备中可用的处理***对应。
虽然已经通过参考具体实施例对本发明进行了说明,但是对于本领域技术人员而言清晰的是,本发明不限于前述说明性实施例的细节,并且本发明可以通过各种改变和修改来实施,而不脱离其范围。因此,本实施例在所有方面都被认为是说明性而非限制性的,本发明的范围由所附权利要求书而不是前述描述来指示,并且因此所有落入权利要求书的含义和等同范围内的改变都旨在被涵盖在其中。换句话说,预期涵盖落入基本底层原理的范围内并且其本质属性在本专利申请中要求保护的任何和所有修改、变化或等同物。此外,本专利申请的读者将理解的是,词语“包括”或“包含”不排除其它元件或步骤,词语“一”不排除多个,并且单个元件(诸如计算机***、处理器或另一个集成单元)可以履行在权利要求书中阐述的若干单元的功能。权利要求书中的任何附图标记均不应被解释为限制所涉及的相应权利要求。在描述或权利要求书中使用时,引入术语“第一”、“第二”、“第三”、“a”、“b”、“c”等来区分相似的元件或步骤,而不一定描述顺序或时间次序。类似地,出于描述的目的而引入术语“顶部”、“底部”、“上方”、“下方”等,而不一定表示相对位置。应该理解的是,在适当的情况下,这样使用的术语是可互换的,并且本发明的实施例能够按照其它顺序或者以与上面描述或示出的(一个或多个)朝向不同的朝向来操作。

Claims (17)

1.一种用于简称为接触式PPG的接触式光学体积描记术的计算机实现的方法(100),包括:
-在时间间隔期间获得(101)透镜(301)或视频帧的对应子区域(321-324;431-434;531-534;631-634;731-734)的多个PPG信号(311-314;401-404;501-504;601-608;701-708),所述子区域(321-324;431-434;531-534;631-634;731-734)中的每个子区域覆盖多个像素;以及
-组合(105)所述多个PPG信号(311-314;401-404;501-504;601-608;701-708),从而获得多区域PPG信号(405;505;609;709)。
2.如权利要求1所述的用于接触式PPG的计算机实现的方法(100),还包括:
-处理(104)所述多个PPG信号(321-324;431-434;531-534;631-634;731-734)中的每个PPG信号,以识别(141)其中所述PPG信号的质量测量高于阈值的所述PPG信号的质量好的片段以及其中所述PPG信号的所述质量测量低于所述阈值的所述PPG信号的质量差的片段;
-从所述多个PPG信号中的每个PPG信号中移除所述质量差的片段;以及
-组合所述多个PPG信号(321-324;431-434;531-534;631-634;731-734)的时间上对应的质量好的片段,以获得所述多区域PPG信号(405;505;609;709)。
3.如权利要求2所述的用于接触式PPG的计算机实现的方法(100),其中所述质量好的片段包括非反转的片段和反转的片段,并且每个PPG信号的所述处理还包括识别(142)所述反转的片段并还原所述反转的片段。
4.如权利要求2或3所述的用于接触式PPG的计算机实现的方法(100),其中每个PPG信号(201)的所述处理(104)包括:
-对所述PPG信号(201)进行小波变换以获得经小波变换的PPG信号(202);以及
-将所述经小波变换的PPG信号(202)供应给神经网络(203),该神经网络被训练为识别所述PPG信号的质量好的片段和所述PPG信号(201)的质量差的片段(241,242,243)。
5.如权利要求3和权利要求4所述的用于接触式PPG的计算机实现的方法(100),其中进一步训练所述神经网络(203)以识别所述反转的片段。
6.如前述权利要求中的一项所述的用于接触式PPG的计算机实现的方法(100),包括:
-为来自颜色空间中的相应颜色(C1,C2)生成类似于所述多区域PPG信号(609)的多个多区域PPG信号(609,610)。
7.如权利要求6所述的用于接触式PPG的计算机实现的方法(100),还包括:
-确定用于所述颜色(C1,C2)中的每一种颜色的质量测量;以及
-从所述多个多区域PPG信号(609,610)当中选择具有最高质量测量的用于颜色(C1)的多区域PPG信号(609)。
8.如权利要求6所述的用于接触式PPG的计算机实现的方法(100),还包括:
-确定用于所述颜色(C1,C2)中的每一种颜色的质量测量;以及
-将用于多种颜色的多区域PPG信号组合成多色多区域PPG信号。
9.如权利要求8所述的用于接触式PPG的计算机实现的方法(100),还包括:
-在所述时间间隔期间获得用于相应颜色(C1;C2)和相应子区域(731,732,733,734)的多个PPG信号(701,703,705,707;702,704,706,708);
-处理所述多个PPG信号(701-708)中的每个PPG信号以识别其中所述PPG信号的质量测量高于阈值的所述PPG信号的质量好的片段和其中所述PPG信号的所述质量测量低于所述阈值的所述PPG信号的质量差的片段;
-从所述多个PPG信号(701-708)中的每个PPG信号中移除所述质量差的片段;以及
-组合所述多个PPG信号(701-708)的时间上对应的质量好的片段以获得所述多色多区域PPG信号(709)。
10.如前述权利要求中的一项所述的用于接触式PPG的计算机实现的方法(100),还包括在所述时间间隔期间锁定所述透镜(301)的设置,所述设置至少包括:
-光圈;以及
-光敏度或曝光量。
11.如前述权利要求中的一项所述的用于接触式PPG的计算机实现的方法(100),还包括检测(106)所述多区域PPG信号(801)中的峰,并且:
-检测所述多区域PPG信号(801)中的初始峰;
-对所述多区域PPG信号(801)中的所述初始峰进行加窗,从而生成加窗的初始峰;
-对所述多区域PPG信号(801)中的所述加窗的初始峰求平均,从而生成峰模板(802);
-将所述初始峰与所述峰模板(802)相关联;
-将相关性测量超过相关性阈值的初始峰维持为峰;以及
-丢弃其所述相关性测量未超过所述相关性阈值的初始峰。
12.如权利要求11所述的用于接触式PPG的计算机实现的方法(100),还包括:
-通过确定所述多区域PPG信号(801)中的后续峰之间的时间差来提取(107)RR-转速图(900)。
13.如权利要求12所述的用于接触式PPG的计算机实现的方法(100),还包括:
-处理所述多区域PPG信号(801)以识别其中所述多区域PPG信号(801)的质量测量高于阈值的所述多区域PPG信号(801)的质量好的片段,以及其中所述多区域PPG信号的所述质量测量低于所述阈值的所述多区域PPG信号(801)的质量差的片段;
-在提取所述RR-转速图(900)之前,从所述多区域PPG信号(801)中移除所述质量差的片段内的峰;以及
-从所述RR-转速图中移除全部或部分地位于所述多区域PPG信号(801)的所述质量差的片段内的RR-转速图间隔。
14.如权利要求12或权利要求13所述的用于接触式PPG的计算机实现的方法(100),还包括:
-确定后续峰之间的所述时间差的可变性;以及
-从所述可变性确定心房颤动风险得分。
15.一种计算机程序产品,包括计算机可执行指令,当程序在计算机上运行时,所述计算机可执行指令用于执行如权利要求1-14中的一项所述的方法。
16.一种计算机可读存储介质,包括如权利要求15所述的计算机程序产品。
17.一种数据处理***,被编程用于执行如权利要求1-14中的一项所述的方法。
CN201880056100.2A 2017-08-30 2018-08-10 用于接触式光学体积描记术(ppg)的计算机实现的方法和*** Active CN111050638B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17188626.0A EP3449820B1 (en) 2017-08-30 2017-08-30 Computer-implemented method and system for direct photoplethysmography (ppg)
EP17188626.0 2017-08-30
PCT/EP2018/071728 WO2019042739A1 (en) 2017-08-30 2018-08-10 COMPUTER-IMPLEMENTED METHOD AND SYSTEM FOR PHOTOPLETHYSMOGRAPHY (PPG) BY CONTACT

Publications (2)

Publication Number Publication Date
CN111050638A true CN111050638A (zh) 2020-04-21
CN111050638B CN111050638B (zh) 2023-07-25

Family

ID=59856367

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880056100.2A Active CN111050638B (zh) 2017-08-30 2018-08-10 用于接触式光学体积描记术(ppg)的计算机实现的方法和***

Country Status (4)

Country Link
US (1) US11583198B2 (zh)
EP (1) EP3449820B1 (zh)
CN (1) CN111050638B (zh)
WO (1) WO2019042739A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3473173B1 (en) * 2017-10-19 2024-04-03 Qompium Computer-implemented method and system for direct photoplethysmography (ppg) with multiple sensors
CN114081502B (zh) * 2021-11-11 2022-09-27 中国科学院深圳先进技术研究院 一种基于机器学习的非侵入性心脏病诊断方法和装置
EP4201317A1 (en) 2021-12-22 2023-06-28 Qompium A ppg signal processing device and corresponding computer-implemented method

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110077484A1 (en) * 2009-09-30 2011-03-31 Nellcor Puritan Bennett Ireland Systems And Methods For Identifying Non-Corrupted Signal Segments For Use In Determining Physiological Parameters
WO2014024104A1 (en) * 2012-08-06 2014-02-13 Koninklijke Philips N.V. Device and method for extracting physiological information
CN104688202A (zh) * 2013-12-09 2015-06-10 三星电子株式会社 模块化传感器平台
WO2015086338A1 (en) * 2013-12-12 2015-06-18 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
US20150282724A1 (en) * 2014-04-02 2015-10-08 Massachusetts Institute Of Technology Methods and Apparatus for Physiological Measurement Using Color Band Photoplethysmographic Sensor
CN105310650A (zh) * 2014-05-30 2016-02-10 联发科技股份有限公司 用于生命体征监测的控制器和方法
US20160220128A1 (en) * 2013-10-01 2016-08-04 Koninklijke Philips N.V. Improved signal selection for obtaining a remote photoplethysmographic waveform
CN106137175A (zh) * 2014-10-27 2016-11-23 塔塔咨询服务有限公司 生理参数估计
CN106357879A (zh) * 2015-07-13 2017-01-25 Lg电子株式会社 在移动终端中测量心跳/压力的装置和方法
CN106413530A (zh) * 2014-05-28 2017-02-15 皇家飞利浦有限公司 使用多通道ppg信号的运动伪影降低
WO2017025775A1 (en) * 2015-08-11 2017-02-16 Latvijas Universitate Device for adaptive photoplethysmography imaging
EP3207862A1 (en) * 2016-02-19 2017-08-23 Covidien LP Methods for video-based monitoring of vital signs

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090203998A1 (en) * 2008-02-13 2009-08-13 Gunnar Klinghult Heart rate counter, portable apparatus, method, and computer program for heart rate counting
US8532932B2 (en) * 2008-06-30 2013-09-10 Nellcor Puritan Bennett Ireland Consistent signal selection by signal segment selection techniques
US8636667B2 (en) * 2009-07-06 2014-01-28 Nellcor Puritan Bennett Ireland Systems and methods for processing physiological signals in wavelet space
EP2661882B1 (en) 2011-01-05 2015-06-24 Koninklijke Philips N.V. Video coding and decoding devices and methods preserving ppg relevant information
US10548490B2 (en) * 2012-03-01 2020-02-04 Pixart Imaging Inc. Physiological detection device and operating method thereof
US8977347B2 (en) * 2012-06-25 2015-03-10 Xerox Corporation Video-based estimation of heart rate variability
US9433386B2 (en) * 2013-07-09 2016-09-06 Xerox Corporation Method and apparatus for monitoring a subject for atrial fibrillation
US10893814B2 (en) * 2015-10-06 2021-01-19 Koninklijke Philips N.V. System and method for obtaining vital sign related information of a living being
CN108778109B (zh) * 2016-03-01 2022-02-11 皇家飞利浦有限公司 用于确定对象的生命体征的设备、***和方法
WO2018148701A1 (en) * 2017-02-13 2018-08-16 Massachusetts Institute Of Technology Methods and system for multi-channel bio-optical sensing

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110077484A1 (en) * 2009-09-30 2011-03-31 Nellcor Puritan Bennett Ireland Systems And Methods For Identifying Non-Corrupted Signal Segments For Use In Determining Physiological Parameters
WO2014024104A1 (en) * 2012-08-06 2014-02-13 Koninklijke Philips N.V. Device and method for extracting physiological information
US20160220128A1 (en) * 2013-10-01 2016-08-04 Koninklijke Philips N.V. Improved signal selection for obtaining a remote photoplethysmographic waveform
CN104688202A (zh) * 2013-12-09 2015-06-10 三星电子株式会社 模块化传感器平台
CN105813564A (zh) * 2013-12-12 2016-07-27 皇家飞利浦有限公司 用于确定对象的生命体征的设备和方法
WO2015086338A1 (en) * 2013-12-12 2015-06-18 Koninklijke Philips N.V. Device and method for determining vital signs of a subject
US20150282724A1 (en) * 2014-04-02 2015-10-08 Massachusetts Institute Of Technology Methods and Apparatus for Physiological Measurement Using Color Band Photoplethysmographic Sensor
CN106413530A (zh) * 2014-05-28 2017-02-15 皇家飞利浦有限公司 使用多通道ppg信号的运动伪影降低
CN105310650A (zh) * 2014-05-30 2016-02-10 联发科技股份有限公司 用于生命体征监测的控制器和方法
CN106137175A (zh) * 2014-10-27 2016-11-23 塔塔咨询服务有限公司 生理参数估计
CN106357879A (zh) * 2015-07-13 2017-01-25 Lg电子株式会社 在移动终端中测量心跳/压力的装置和方法
WO2017025775A1 (en) * 2015-08-11 2017-02-16 Latvijas Universitate Device for adaptive photoplethysmography imaging
EP3207862A1 (en) * 2016-02-19 2017-08-23 Covidien LP Methods for video-based monitoring of vital signs
US20170238805A1 (en) * 2016-02-19 2017-08-24 Covidien Lp Systems and methods for video-based monitoring of vital signs

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KARLEN WALTER ET AL: "Detection of the Optimal Region of Interest for Camera Oximetry", 《2013 35TH ANNUAL INTERNATIONAL CONFERENCE OF THE IEEE》 *

Also Published As

Publication number Publication date
US11583198B2 (en) 2023-02-21
EP3449820A1 (en) 2019-03-06
CN111050638B (zh) 2023-07-25
WO2019042739A1 (en) 2019-03-07
EP3449820B1 (en) 2023-05-24
US20200359922A1 (en) 2020-11-19

Similar Documents

Publication Publication Date Title
US11229372B2 (en) Systems and methods for computer monitoring of remote photoplethysmography based on chromaticity in a converted color space
US10398327B2 (en) Non-contact assessment of cardiovascular function using a multi-camera array
Wang et al. Discriminative signatures for remote-PPG
JP7339676B2 (ja) 複数のセンサを伴うダイレクトフォトプレチスモグラフィ(ppg)のためのコンピュータ実装方法及びシステム
EP3440991A1 (en) Device, system and method for determining a physiological parameter of a subject
CN110367950A (zh) 非接触式生理信息检测方法及***
Feng et al. Motion artifacts suppression for remote imaging photoplethysmography
CN111345803B (zh) 一种基于移动设备摄像头的心率变异性测量方法
CN111050638B (zh) 用于接触式光学体积描记术(ppg)的计算机实现的方法和***
CN109820499A (zh) 基于视频的高抗干扰心率检测方法、电子设备及存储介质
CN113361480B (zh) 基于人脸视频的人体脉搏波获取方法
Chen et al. Eliminating physiological information from facial videos
US20240138692A1 (en) Method and system for heart rate extraction from rgb images
Ren et al. Improving video-based heart rate and respiratory rate estimation via pulse-respiration quotient
JP2021045375A (ja) 生体情報検出装置及び生体情報検出方法
Yu et al. A spatio-temporal filtering approach to denoising of single-trial ERP in rapid image triage
JP6201520B2 (ja) 生理指標を用いる視線分析システムおよび方法
Park et al. Direct-global separation for improved imaging photoplethysmography
Ben Salah et al. Contactless heart rate estimation from facial video using skin detection and multi-resolution analysis
Yang et al. cbPPGGAN: A generic enhancement framework for unpaired pulse waveforms in camera-based photoplethysmography
Scebba et al. Improving ROI detection in photoplethysmographic imaging with thermal cameras
US20240041334A1 (en) Systems and methods for measuring physiologic vital signs and biomarkers using optical data
den Brinkera et al. Model-based camera-PPG
Huang et al. Deep learning-based robust heart rate estimation using remote photoplethysmography under different illuminations
Mehrnam et al. Concealed face recognition analysis based on recurrence plots

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant