CN109998525A - 一种基于判别式深度置信网络的心律失常自动分类方法 - Google Patents
一种基于判别式深度置信网络的心律失常自动分类方法 Download PDFInfo
- Publication number
- CN109998525A CN109998525A CN201910266921.5A CN201910266921A CN109998525A CN 109998525 A CN109998525 A CN 109998525A CN 201910266921 A CN201910266921 A CN 201910266921A CN 109998525 A CN109998525 A CN 109998525A
- Authority
- CN
- China
- Prior art keywords
- layer
- rbm
- ddbns
- training
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/318—Heart-related electrical modalities, e.g. electrocardiography [ECG]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7203—Signal processing specially adapted for physiological signals or for diagnostic purposes for noise prevention, reduction or removal
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Heart & Thoracic Surgery (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- General Engineering & Computer Science (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Fuzzy Systems (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Cardiology (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- Image Analysis (AREA)
Abstract
一种基于判别式深度置信网络的心律失常自动分类方法。属于心律失常的检测和分类技术领域,采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类。本发明包括:步骤一:ECG信号预处理,步骤二:DDBNs模型构建,步骤三:DDBNs模型训练,步骤四:DDBNs模型有监督微调,步骤五:ECG信号送入DDBNs网络,对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层。本发明应用于心律失常的自动分类。
Description
技术领域
本发明涉及心律失常的检测和分类,具体涉及一种基于判别式深度置信网络的心律失常自动分类方法。
背景技术
医生可对短期ECG信号进行视觉检测来诊断心律失常,而对动态心电图仪长期记录的ECG信号,无法仅依靠视觉检测。随着计算机科学的发展,ECG信号的自动分类分析技术应运而生,现已在心律失常的诊断和分析中起着重要作用,成为辅助临床诊断心脏疾病的重要手段。
近十几年,针对心律失常的检测和分类发展出了几种模式识别方法[1-3],主要涉及三个步骤:预处理、波形检测和分段、特征提取和分类。首先,对信号进行预处理,包括:基线漂移、工频干扰、肌电干扰等噪声去除[4];然后,波形的检测和分段,包括:P波,QRS波群和T波等特征点检测,并根据以上特征点将 ECG信号按心拍进行分段[5];最后,特征提取和分类,包括:使用形态,时域和变换域等信息表示心拍特征[6-8],使用主成分分析,独立成分分析和线性判别分析等进行特征降维[9],以及使用神经网络和支持向量机(support vectormachine,SVM)等实现ECG信号分类[10-11]。
上述特征提取的方法很大程度上依赖于对ECG信号特征的人为设计和选择,其有效性受诸多因素影响。最近,深度学习提供了一种特征提取和分类同时进行的方法可避免人为设计的特征。Acharya等[12]开发了一个11层的卷积神经网络 (convolutional neuralnetwork,CNN),实现了自动检测正常和心肌梗塞心律失常的算法,该模型含噪准确率为93.53%,无噪准确率为95.22%。Rahhal等[13]对于自动分类ECG信号,采用深度学习与主动学习(active learning,AL) 结合的方法,在特征学习阶段,通过由堆叠的去噪自动编码器(stacked denoising autoencoders,SDAEs)和其输出层添加柔性最大值(Softmax)回归层构建的深度神经网络(deep neural network,DNN)进行分类。Luo等[14]使用改进的频率切片小波变换提取ECG信号时频特征,送入由SDAEs的编码器层和 Softmax回归层构成的DNN,同时通过对心拍样本进行微调来实现ECG信号分类,其所提模型实现了97.5%的总体准确度。Tan等[15]将CNN与长短期记忆网络结合,提取ECG信号特征,实现对冠状动脉疾病的自动诊断。Yang等[16]通过堆叠稀疏自动编码器(stacked sparse autoencoders,SSAEs)深度学习网络提取ECG 信号特征,送入Softmax分类器实现ECG信号的分类。Meng等[17]采用原始ECG 信号与RR间期作为输入,通过4层深度置信网络(deep belief networks,DBNs) 进行无监督特征学习,提取的特征被送到SVM用于训练,自动识别6类心拍类型,总体精度98.49%。Wu等[18]将DBNs与Softmax分类器结合,完成特征提取,并实现5类ECG信号分类。熊博等[19]通过SDAEs与Softmax分类器,设计DNN,实现了心律失常患者类型的自动分类。Yildirim[20]开发了7层基于深度双向小波的长短期记忆网络(deep bidirectional long-short term memory network-based wavelet sequences,DBLSTM-WS),实现了5类心拍分类,总体精度为99.39%。
发明内容
本发明的目的是解决目前的提取方法很大程度上依赖于对ECG信号特征的人为设计和选择,其有效性受诸多因素影响的问题,提供一种采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类的基于判别式深度置信网络的心律失常自动分类方法。
上述的目的通过以下的技术方案实现:
一种基于判别式深度置信网络的心律失常自动分类方法,该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs网络前,需经过滤波、R峰定位和归一化;
步骤二:DDBNs模型构建;
(1)GRBM
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成,RBM 是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算样本在每个类别标签下的概率,从而预测最可能的类别y;
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,无标签数据送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从样本中学习到高层次的特征结构,顶层DRBM通过有监督学习,得到测试样本在各类别下的后验概率,由此输出对样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式损失函数,反向传播来调整网络参数,执行监督分类;
步骤五:ECG信号送入DDBNs网络;
对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x 归一化,得到一个心拍归一化样本,送入网络首层。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165 个采样点。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的步骤二GRBM的具体过程为:
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成,RBM 是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(1)、式(2)所示:
其中,θ1={wij,bi,cj},θ2={wij,bi,cj,σj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(3)、式(4)所示;对于GB-RBM,
可见和隐含层的条件概率如式(5)、(6)所示:
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs的首层,随后的隐含层由BB-RBM组成。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的步骤三的具体过程为:叠构建DDBNs的RBM训练能通过最大化训练样本的似然度进行,如式(7)所示:
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的步骤四的具体过程为:DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(8)损失函数,反向传播来调整网络参数,执行监督分类:
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的步骤五的具体过程为:对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层,如式(9)所示:
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征 R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入DRBM实现分类,如式(10)所示:
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
所述的一种基于判别式深度置信网络的心律失常自动分类方法,所述的 DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
本发明所达到的有益效果是:
1.本发明将DDBNs转换为使用Softmax回归层进行监督分类的DNN,采用反向传播对网络进行微调,进而实现正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏、起搏心拍共6类心律失常类型的自动分类。
2.本发明将GRBM提取的心拍信号形态特征与其RR间期特征有机融合送入 DRBM进行心律失常分类,使DRBM的特征学习和分类能力有效发挥,同时克服了人为特征设计及选取的影响。
3.本发明方法识别正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍6类形态,分类准确率达到99.84%±0.04%,取得了优于基于传统特征选择与其他深度学习方法的结果;在训练和测试集数据来源非一致时,对通过AL方法扩充少量训练集的措施进行了初步尝试,6类心拍信号的分类准确率可达99.31%±0.23%,也取得了满意的效果。
4.本发明所构建的提取ECG信号波形形态特征与RR间期特征融合后,结合 DRBM特征学习及分类的有效性,为深度学习自动提取ECG信号特征及分类提供一种新方法。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是DDBNs模型结构图;
图2是DRBM的联合分布模型图;
图3是DDBNs转换为Softmax分类的DNN结构图;
图4是ECG信号滤波效果对比图;
图5是DDBNs学习到的6类心拍特征图;
图6是6类心拍波形图;
具体实施方式
以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。
具体实施方式一:
一种基于判别式深度置信网络的心律失常自动分类方法,该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs网络前,需经过滤波、R峰定位和归一化;
步骤二:DDBNs模型构建;
(1)GRBM
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成, RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算样本在每个类别标签下的概率,从而预测最可能的类别y;
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,无标签数据送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从样本中学习到高层次的特征结构,顶层DRBM通过有监督学习,得到测试样本在各类别下的后验概率,由此输出对样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的 DNN,通过最小化式损失函数,反向传播来调整网络参数,执行监督分类;
步骤五:ECG信号送入DDBNs网络;
对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层。
具体实施方式二;
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9 层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165个采样点。
具体实施方式三:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤二GRBM的具体过程为:
所述的步骤二GRBM的具体过程为:
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成,RBM 是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(1)、式(2)所示:
其中,θ1={wij,bi,cj},θ2={wij,bi,cj,σj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(3)、式(4)所示;对于GB-RBM,
可见和隐含层的条件概率如式(5)、(6)所示:
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs的首层,随后的隐含层由BB-RBM组成。
具体实施方式四:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤三的具体过程为:叠构建DDBNs 的RBM训练能通过最大化训练样本的似然度进行,如式(7)所示:
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
具体实施方式五:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤四的具体过程为:DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(8)损失函数,反向传播来调整网络参数,执行监督分类:
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
具体实施方式六:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的步骤五的具体过程为:对送入DDBNs 的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层,如式(9)所示:
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入DRBM实现分类,如式(10)所示:
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
具体实施方式七:
本实施方式是对具体实施方式一所述的一种基于判别式深度置信网络的心律失常自动分类方法的进一步说明,所述的DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
DDBNs模型训练与性能评估:
首先,构建DDBNs初始化模型,用MIT-BIH AR的训练集对DDBNs预训练,并使用其权值初始化,然后使用反向传播微调整个模型。预训练阶段,使用FEPCD 与CD结合的训练方法;
构建了一个含3个隐含层的DDBNs模型,用于心拍信号的特征提取与分类。首先,将零均值单位方差归一化的单心拍ECG信号波形,送入DDBNs的前两层 GRBM,其首层采用GB-RBM,第二层采用BB-RBM,并通过无监督学习获得该网络参数,由此获得第i个心拍样本的形态特征Fi,Fi={f1,f2,…,fn}。此后,融入包括当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度(即当前RR间期减去下一个RR间期除以这两个RR间期的均值)构成的三维间期特征:Ri={r1,r2, r3},并将其送入DDBNs的顶层DRBM[17],即一层BB-RBM。然后通过有监督学习,获得该网络参数,完成心律失常的分类。本文构建的DDBNs模型结构如图1示;
数设置:首层GB-RBM学习率:0.01;其余层BB-RBM学习率:0.1;动量: [0.5,0.4,0.3,0.2,0.1,0];批次尺寸:100;训练次数:50。微调阶段,使用小批量梯度优化方法,参数设置:学习率:1;动量:0.5;批次尺寸:100;训练次数:200;λ:1×10-7。本实验的计算机环境为:中央处理器(central processing unit,CPU)(Core [email protected],Intel,美国);随机存取存储器(random access memory,RAM)(DDR4 16GB,Samsung,韩国);图形处理器(graphics processing unit,GPU)(GeForce GTX 1070,NVIDIA,美国)。
为便于对心拍信号分类结果的性能评估,使用以下6个标准测量指标[1]:灵敏度(sensitivity,Se),正检测率(positive predictivity,Pp),特异性 (specificity,Sp),假阳性率(false positive rate,FPR),假阴性率(false negative rate,FNR)和整体精度(overall accuracy,OA)。
选取MLII数据中6类心拍数据用于实验,它们包括正常节律、左束支传导阻滞、右束支传导阻滞、室性早搏、房性早搏和起搏心拍,心拍数据波形如图6 示,选择23条具有代表性ECG信号记录按心拍构成数据集,在保证训练集和测试集数据来源一致的条件下,利用留出法将数据集按2:1比例分为训练集和测试集,数据集各类心拍样本分布如表1所示:
表1心拍类别分布
Tab.1 Heart beat categorv disstribution
实验结果分析:
深度学***均值和标准差的统计方法计算OA,对基于DDBNs的心拍信号分类的准确度和稳定性进行评估。
为了获得较优的模型结构,设计比较了4种不同结构的DDBNs对ECG信号进行特征提取与分类的结果,其测试后OA如表2所示。其中DDBNs-1结构不含GRBM 层,DDBNs-2至DDBNs-4分别含有1、2、3层GRBM。
表2 4种DDENs下的OA
Tab.2 Overall accuracy of fourDDENs
通过对比,利用DDBNs-3结构的OA效果最好,其具有最高的平均值和最低的标准差,因此本文后续继续采用DDBNs-3结构:256-500-250(253)-100-6作为进一步性能测试的模型。该模型中的253,代表该层输入为上一层输出的250 维心拍信号形态特征结合3维RR间期特征。训练DDBNs-3,至分类前学习到的各类ECG信号的100维心拍特征如图6所示,可以观察到它们是稀疏而有区别的。如表3所示,给出了DDBNs-3在测试集上进行ECG信号心律失常分类的混淆矩阵。如表4所示,给出了心拍分类前5个测量指标的测试结果。
表3心拍分类结果混淆矩阵
Tab.3 Heart beat classification result confusion matrix
表4心拍分类测试结果
Tab.4 Heart beat classification test results
DBNs与Softmax结合方法(简写为:DBNs+Softmax)的性能对比如表5所示,其中ttrain为训练集上的训练时间,ttest为测试集上单个样本的测试时间。
表5 DDBNs与DBNs+softmax性能对比
Tab.5 Performance comparison between DDBNs and DBNs+Softmax
与DBNs+Softmax分类器的方法对比可知,采用DDBNs特征提取与分类的方法具有更好的性能。本文方法分别与双树复小波变换(dual tree complex wavelet transform,DTCWT)结合人工神经网络(artificial neural networks, ANN)(简写为:DTCWT+ANN)、近邻保持嵌入(neighborhood preserving embedding, NPE)算法结合SVM(简写为:NPE+SVM)、DBNs结合SVM(简写为:DBNs+SVM)、 DBNs+Softmax、SDAEs与Softmax(简写为:SDAEs+Softmax)、DBLSTM-WS 6种方法也进行性能对比,如表6所示。最终,与上述方法比较的结果显示了本方法的有效性。
表6心拍分类方法对比
Tab.6 Heart beat classification method comparison
实用性深入测试:
为了评估DDBNs模型在心律失常自动分类实际应用场景中的性能,本文采用 MIT-BIH AR中不同的患者记录分别构成训练集和测试集,其分布如表7所示。
表7心拍类别分布
Tab.7 Heart beat category distribution
由于训练集和测试集来源不同,其数据分布差异使得心律失常的自动分类具有挑战性。若单纯采用DDBNs与其微调算法模型,对表7数据集进行ECG信号心律失常分类结果一般,分类OA为61.32%±3.17%,尤其在训练集和测试集分布明显差异的L和A两类别分类准确度更低。为了克服这一不足,有效扩大标记训练集是一解决途径。在完成所提DDBNs微调算法基础上,通过AL方法从测试数据中挑选少量数据进行标记,并参与DDBNs模型的有监督微调,在保证算法实时性的同时,提高分类算法的适应性和准确性。
在加入主动学习的实验中,本文保持DDBNs初始化模型与微调参数设置不变,在AL阶段的参数设置如下:迭代数iter=5,每次选取标记样本数NAL=10。即每条测试记录通过5次AL算法迭代过程,共选择50个样本送入DDBNs微调模型中,更新模型参数。采用DDBNs-3结构作为本次性能测试模型,在测试集上进行ECG信号心律失常分类的混淆矩阵如表8所示,其6类心拍分类测试结果如表 9所示。
表8心拍分类结果混淆矩阵
Tab.8 Heart baat classification result confusion matrix
表9心拍分类测试结果
Tab.9 Heart beat classification test results
Claims (7)
1.一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:该方法包括如下步骤:
步骤一:ECG信号预处理;
ECG信号送入DDBNs网络前,需经过滤波、R峰定位和归一化;
步骤二:DDBNs模型构建;
(1)GRBM
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成,RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM;
(2)DRBM;
DRBM是采用具有两组可见层的单个RBM来训练联合密度模型,除了表示输入数据的单元A外,还有一个相当于“Softmax”的分类标签单元B,通过计算样本在每个类别标签下的概率,从而预测最可能的类别y;
其中y∈{1,2,…,k},k为样本类别数;
步骤三:DDBNs模型训练;
整体DDBNs模型采用贪婪的分层方式进行训练,无标签数据送入GRBM网络中,经过逐层无监督训练,每层RBM的输入为前一层的输出,以从样本中学习到高层次的特征结构,顶层DRBM通过有监督学习,得到测试样本在各类别下的后验概率,由此输出对样本分类的判别结果;
步骤四:DDBNs模型有监督微调;
DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式损失函数,反向传播来调整网络参数,执行监督分类;
步骤五:ECG信号送入DDBNs网络;
对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层。
2.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤一包括如下过程:
首先,对信号进行9尺度小波分解,将第1层细节系数90~180Hz和第9层近似系数0~0.35Hz置零,其他小波系数进行自适应小波阈值滤波处理后重构,去除基线漂移及高频干扰;
然后,通过R峰定位来确定心拍位置;
最后,选取包括P波和T波的心拍长度为256个采样点,即取R峰前90、后165个采样点。
3.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤二GRBM的具体过程为:
DBNs是学习提取训练数据深层次表示的图形模型,由堆叠的RBM组成,RBM是具有可见和隐含层互连的典型神经网络,在同一层中的任何两个神经元之间没有连接,在可见层上具有二元输入的RBM为BB-RBM,而在可见层上具有实值输入的RBM为GB-RBM,BB-RBM与GB-RBM的能量函数定义分别如式(1)、式(2)所示:
其中,θ1={wij,bi,cj},θ2={wij,bi,cj,σj}表示RBM待训练参数;
nv和nh分别为可见层与隐含层单元个数;
vi是可见层神经元;
hj是隐含层神经元;
wij是连接可见层和隐含层单元的权值;
bi和cj分别为可见层和隐含层神经元偏置;
σj是可见单元i的高斯分布的标准差;
对于BB-RBM,可见层和隐含层的条件概率如式(3)、式(4)所示;对于GB-RBM,可见和隐含层的条件概率如式(5)、(6)所示:
其中,δ=1/1+e-x为logistic函数;
η(·|μ,σ2)表示高斯分布的均值μ和方差σ2的概率密度函数;
由于输入数据是实值,因此上述GB-RBM用于DDBNs的首层,随后的隐含层由BB-RBM组成。
4.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤三的具体过程为:叠构建DDBNs的RBM训练能通过最大化训练样本的似然度进行,如式(7)所示:
对θ1,2对数概率求导,需求的条件概率分布和的联合概率分布,采用持续自由能对比散度与CD的综合算法,即首层采用FEPCD算法,其余层采用CD算法,对RBM模型进行训练。
5.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤四的具体过程为:DDBNs的逐层预训练完成后,将其转换为使用Softmax回归层作为输出的DNN,通过最小化式(8)损失函数,反向传播来调整网络参数,执行监督分类:
其中,是Softmax的模型参数;
m为训练样本数;
k为样本类别数;
1(·)为指示函数,代表如果该项为真,取1,否则取0,y为样本类别标签;
xi为顶层的输入心拍特征;
n为顶层输入神经元个数。
6.根据权利要求1所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的步骤五的具体过程为:对送入DDBNs的256维采样点x与三维RR间期特征r进行归一化处理,对x归一化,得到一个心拍归一化样本,送入网络首层,如式(9)所示:
其中,μt为训练集心拍样本的第t个均值;
σt为训练集心拍样本的第t个标准差;
而对当前心拍RR间期、下一心拍RR间期、相邻RR间期差异度三维间期特征R中的特征r归一化,得到一个心拍的间期特征,结合GRBM提取的形态特征,送入DRBM实现分类,如式(10)所示:
其中,rtmax为训练集RR间期特征的第t个最大值;
rtmin为训练集RR间期特征的第t个最小值。
7.根据权利要求1或5所述的一种基于判别式深度置信网络的心律失常自动分类方法,其特征是:所述的DDBNs模型有监督微调中第一项是指Softmax层的交叉熵损失函数,k维向量元素采用函数项实现概率分布的归一化,使得所有类别的概率总和为1,第二项是衰减惩罚项,实现过大参数的惩罚。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910266921.5A CN109998525B (zh) | 2019-04-03 | 2019-04-03 | 一种基于判别式深度置信网络的心律失常自动分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910266921.5A CN109998525B (zh) | 2019-04-03 | 2019-04-03 | 一种基于判别式深度置信网络的心律失常自动分类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109998525A true CN109998525A (zh) | 2019-07-12 |
CN109998525B CN109998525B (zh) | 2022-05-20 |
Family
ID=67169744
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910266921.5A Active CN109998525B (zh) | 2019-04-03 | 2019-04-03 | 一种基于判别式深度置信网络的心律失常自动分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109998525B (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110413781A (zh) * | 2019-07-19 | 2019-11-05 | 淮阴工学院 | 一种基于LD和ANN-SoftMax Regressor的中医药短文本多分类方法 |
CN110613445A (zh) * | 2019-09-25 | 2019-12-27 | 西安邮电大学 | 一种基于dwnn框架的心电信号的识别方法 |
CN110720894A (zh) * | 2019-11-08 | 2020-01-24 | 广州视源电子科技股份有限公司 | 一种心房扑动的检测方法、装置、设备及存储介质 |
CN110751131A (zh) * | 2019-11-16 | 2020-02-04 | 李汭傧 | 一种心律失常检测装置 |
CN110766099A (zh) * | 2019-11-08 | 2020-02-07 | 哈尔滨理工大学 | 结合判别式深度置信网络和主动学习的心电分类方法 |
CN110772268A (zh) * | 2019-11-01 | 2020-02-11 | 哈尔滨理工大学 | 一种多模脑电信号及1dcnn迁移的驾驶疲劳状态识别方法 |
CN111297327A (zh) * | 2020-02-20 | 2020-06-19 | 京东方科技集团股份有限公司 | 一种睡眠分析方法、***、电子设备及存储介质 |
CN111557659A (zh) * | 2020-05-22 | 2020-08-21 | 郑州大学 | 基于多特征融合与Stacking-DWKNN的心律失常分类方法 |
CN111557660A (zh) * | 2020-06-08 | 2020-08-21 | 东北大学 | 一种亚群体深度学习框架下的心律失常识别方法 |
CN112052750A (zh) * | 2020-08-20 | 2020-12-08 | 南京信息工程大学 | 基于类不平衡传感数据与深度模型的心律失常分类方法 |
CN112617850A (zh) * | 2021-01-04 | 2021-04-09 | 苏州大学 | 心电信号的早搏心拍检测方法 |
CN112763155A (zh) * | 2021-02-02 | 2021-05-07 | 南京信息工程大学 | 一种压力容器气体泄漏检测方法 |
CN113040778A (zh) * | 2019-12-26 | 2021-06-29 | 华为技术有限公司 | 诊断报告生成方法、装置、终端设备及可读存储介质 |
CN113317797A (zh) * | 2021-04-05 | 2021-08-31 | 宁波工程学院 | 一种结合医疗领域知识的可解释心率失常诊断方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102015219543A1 (de) * | 2014-10-21 | 2016-04-21 | Xerox Corp. | System und verfahren zum detektieren eines arrythmie-ereignisses aus einem herzsignal |
US20170188869A1 (en) * | 2016-01-04 | 2017-07-06 | AventuSoft, LLC | System and method of extraction of the heart valve signals |
CN107256393A (zh) * | 2017-06-05 | 2017-10-17 | 四川大学 | 基于深度学习的一维生理信号的特征提取与状态识别 |
CN108900432A (zh) * | 2018-07-05 | 2018-11-27 | 中山大学 | 一种基于网络流行为的内容感知方法 |
CN109190658A (zh) * | 2018-07-19 | 2019-01-11 | 中国电子科技集团公司电子科学研究院 | 视频觉醒度分类方法、装置及计算机设备 |
-
2019
- 2019-04-03 CN CN201910266921.5A patent/CN109998525B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102015219543A1 (de) * | 2014-10-21 | 2016-04-21 | Xerox Corp. | System und verfahren zum detektieren eines arrythmie-ereignisses aus einem herzsignal |
US20170188869A1 (en) * | 2016-01-04 | 2017-07-06 | AventuSoft, LLC | System and method of extraction of the heart valve signals |
CN107256393A (zh) * | 2017-06-05 | 2017-10-17 | 四川大学 | 基于深度学习的一维生理信号的特征提取与状态识别 |
CN108900432A (zh) * | 2018-07-05 | 2018-11-27 | 中山大学 | 一种基于网络流行为的内容感知方法 |
CN109190658A (zh) * | 2018-07-19 | 2019-01-11 | 中国电子科技集团公司电子科学研究院 | 视频觉醒度分类方法、装置及计算机设备 |
Non-Patent Citations (11)
Title |
---|
BAHAREH TAJI等: "《Classifying Measured Electrocardiogram Signal》", 《2017 IEEE INTERNATIONAL INSTRUMENTATION AND MEASUREMENT TECHNOLOGY CONFERENCE 》 * |
G. E. HINTON AND R. R. SALAKHUTDINOV: "《Reducing the Dimensionality of Data with Neural Networks》", 《SCIENCE》 * |
HAN-GYU KIM等: "《Discriminative Restricted Boltzmann Machine for Emergency Detection on Healthcare Robot》", 《2017 IEEE INTERNATIONAL CONFERENCE ON BIG DATA AND SMART COMPUTING (BIGCOMP)》 * |
M.M. AL RAHHAL等: "《Deep learning approach for active classification of electrocardiogram signals》", 《INFORMATION SCIENCES》 * |
MARK EASTWOOD AND CHRISINA JAYNE: "《Restricted Boltzmann Machines for Pre-training Deep Gaussian>", 《THE 2013 INTERNATIONAL JOINT CONFERENCE ON NEURAL NETWORKS (IJCNN)》 * |
MENG HUANHUAN等: "《Classification of Electrocardiogram Signals with Deep Belief Networks》", 《2014 IEEE 17TH INTERNATIONAL CONFERENCE ON COMPUTATIONAL SCIENCE AND ENGINEERING》 * |
SHERIN M. MATHEWS等: "《A novel application of deep learning for single-lead ECG classification》", 《COMPUTERS IN BIOLOGY AND MEDICINE》 * |
周林: "《基于深度神经网络的心律失常模式分类算法研究与实现》", 《硕士学位论文》 * |
白洋: "《基于深度置信网络的心律失常分类算法研究》", 《医药卫生科技辑》 * |
胡琼博: "《心电信号分析处理及软件实现》", 《医药卫生科技辑》 * |
陈娜等: "《基于判别式受限玻尔兹曼机的医学图像分类法》", 《计算机科学》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110413781A (zh) * | 2019-07-19 | 2019-11-05 | 淮阴工学院 | 一种基于LD和ANN-SoftMax Regressor的中医药短文本多分类方法 |
CN110413781B (zh) * | 2019-07-19 | 2023-06-23 | 淮阴工学院 | 一种基于LD和ANN-SoftMax Regressor的中医药短文本多分类方法 |
CN110613445A (zh) * | 2019-09-25 | 2019-12-27 | 西安邮电大学 | 一种基于dwnn框架的心电信号的识别方法 |
CN110772268A (zh) * | 2019-11-01 | 2020-02-11 | 哈尔滨理工大学 | 一种多模脑电信号及1dcnn迁移的驾驶疲劳状态识别方法 |
CN110720894A (zh) * | 2019-11-08 | 2020-01-24 | 广州视源电子科技股份有限公司 | 一种心房扑动的检测方法、装置、设备及存储介质 |
CN110766099A (zh) * | 2019-11-08 | 2020-02-07 | 哈尔滨理工大学 | 结合判别式深度置信网络和主动学习的心电分类方法 |
CN110751131A (zh) * | 2019-11-16 | 2020-02-04 | 李汭傧 | 一种心律失常检测装置 |
CN110751131B (zh) * | 2019-11-16 | 2022-09-02 | 李汭傧 | 一种心律失常检测装置 |
CN113040778B (zh) * | 2019-12-26 | 2022-07-29 | 华为技术有限公司 | 诊断报告生成方法、装置、终端设备及可读存储介质 |
CN113040778A (zh) * | 2019-12-26 | 2021-06-29 | 华为技术有限公司 | 诊断报告生成方法、装置、终端设备及可读存储介质 |
CN111297327A (zh) * | 2020-02-20 | 2020-06-19 | 京东方科技集团股份有限公司 | 一种睡眠分析方法、***、电子设备及存储介质 |
CN111297327B (zh) * | 2020-02-20 | 2023-12-01 | 京东方科技集团股份有限公司 | 一种睡眠分析方法、***、电子设备及存储介质 |
CN111557659A (zh) * | 2020-05-22 | 2020-08-21 | 郑州大学 | 基于多特征融合与Stacking-DWKNN的心律失常分类方法 |
CN111557660A (zh) * | 2020-06-08 | 2020-08-21 | 东北大学 | 一种亚群体深度学习框架下的心律失常识别方法 |
CN112052750A (zh) * | 2020-08-20 | 2020-12-08 | 南京信息工程大学 | 基于类不平衡传感数据与深度模型的心律失常分类方法 |
CN112617850A (zh) * | 2021-01-04 | 2021-04-09 | 苏州大学 | 心电信号的早搏心拍检测方法 |
CN112617850B (zh) * | 2021-01-04 | 2022-08-30 | 苏州大学 | 心电信号的早搏心拍检测*** |
CN112763155A (zh) * | 2021-02-02 | 2021-05-07 | 南京信息工程大学 | 一种压力容器气体泄漏检测方法 |
CN113317797B (zh) * | 2021-04-05 | 2022-11-08 | 宁波工程学院 | 一种结合医疗领域知识的可解释心律失常分类方法 |
CN113317797A (zh) * | 2021-04-05 | 2021-08-31 | 宁波工程学院 | 一种结合医疗领域知识的可解释心率失常诊断方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109998525B (zh) | 2022-05-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109998525A (zh) | 一种基于判别式深度置信网络的心律失常自动分类方法 | |
Huang et al. | On combining biclustering mining and AdaBoost for breast tumor classification | |
DK3100675T3 (en) | METHOD AND SYSTEM FOR RECOGNIZING PHYSIOLOGICAL SOUND | |
CN107822622B (zh) | 基于深度卷积神经网络的心电图诊断方法和*** | |
JP2018156668A (ja) | 学習が強化されたアトラスベース自動輪郭抽出方法及び装置 | |
CN110008674B (zh) | 一种高泛化性的心电信号身份认证方法 | |
CN109645983A (zh) | 一种基于多模块神经网络的不平衡心拍分类方法 | |
CN110020636B (zh) | 一种基于异常特征值的室性早搏智能分析方法 | |
CN110313894A (zh) | 基于卷积神经网络的心率失常分类算法 | |
Nguyen et al. | Pulmonary nodule detection based on faster R-CNN with adaptive anchor box | |
Rohmantri et al. | Arrhythmia classification using 2D convolutional neural network | |
CN112101413A (zh) | 面向脑卒中风险预测的智能*** | |
Refahi et al. | Ecg arrhythmia classification using least squares twin support vector machines | |
CN113080993A (zh) | 一种基于改进多基分类器集成的自动心律失常分析方法 | |
CN109033990B (zh) | 基于类内类间距离的cnn模型心拍分类方法 | |
Yu et al. | Combining independent component analysis and backpropagation neural network for ECG beat classification | |
Agranat | Bat species identification from zero crossing and full spectrum echolocation calls using Hidden Markov Models, Fisher scores, unsupervised clustering and balanced winnow pairwise classifiers | |
CN113069124A (zh) | 一种基于cnn-et模型的心电监测方法 | |
Sayed et al. | Arrhythmia classification based on novel distance series transform of phase space trajectories | |
CN111582330A (zh) | 基于肺部肿瘤影像划分样本空间下的集成ResNet-NRC方法 | |
Hughes et al. | Novel signal shape descriptors through wavelet transforms and dimensionality reduction | |
Yeh | An Analysis of ECG for Determining Heartbeat Case by Using the Principal Component Analysis and Fuzzy Logic. | |
CN113712525B (zh) | 一种生理参数处理方法、装置及医疗设备 | |
CN116028858A (zh) | 基于预标签的自监督神经网络学习心拍分类方法及*** | |
Yan et al. | Siamese-Prototypical Network with Data Augmentation Pre-training for Few-shot Medical Image Classification |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |