CN112957054B - 一种基于通道注意力分组残差网络的12导联心电信号分类方法 - Google Patents
一种基于通道注意力分组残差网络的12导联心电信号分类方法 Download PDFInfo
- Publication number
- CN112957054B CN112957054B CN202110092953.5A CN202110092953A CN112957054B CN 112957054 B CN112957054 B CN 112957054B CN 202110092953 A CN202110092953 A CN 202110092953A CN 112957054 B CN112957054 B CN 112957054B
- Authority
- CN
- China
- Prior art keywords
- spectrogram
- resnext
- network
- category
- record
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开了一种基于通道注意力分组残差网络的12导联心电信号分类方法,由于原始12导联心电信号的长度不一或时间过长,无法对其直接分类,需要对每条记录以等长的时间间隔分割处理,把分割好心电信号片段经过SIFT变换到频域中,得到频谱图,然后对频谱图取对数最后得到对数频谱图,然后将对数频谱图输入到设计好的基于通道注意力分组残差网络(XSENet)网络中进行分类。该方法的主干网络主要采用分组残差网络和Senet结合的思想。该方法具有分类识别率高等优点。该主干网络的输入为12导联心电信号在频域上取对数后的频谱图,每个输出分别为所属类别的概率,是一种端对端的心电信号分类方法;本发明降低了解决问题的繁琐复杂过程,有效地提高了心电信号分类准确率。
Description
技术领域
本发明属于机器学习与模式识别技术领域,利用给定的12导联心电信号(ECG)数据集构造一种鲁棒性较强的神经网络预测方法,以期达到对新的心电信号给出正确分类。
背景技术
心血管疾病(CVD)是最常见的死亡原因之一,占全世界死亡人数的31%以上,统计显示,心脏猝死占所有心脏疾病死亡的一半,超过80%的心脏猝死于心率失常密切相关。心电图(ECG)是诊断心脏相关疾病的临床标准,对心率失常的筛选和分类尤其有价值。一般通过直观分析心电图的形态,可以区分不同类型的心率失常。然而,心电图的形态高度依赖于主体,不同受试者差异有统计学意义,心电分析在很大程度上依赖医生的经验,视觉评估难以准确诊断心律失常。因此,开发出一种能够分析心电信号的计算机辅助诊断技术具有重要意义。近年来,深度学习在不同的应用场景中显示出强大的信息提取和拟合能力,如图像分类和疾病监测等。其动机在于通过模拟人类大脑的神经连接结构来建立模型。卷积神经网络是目前最受欢迎的深度学习方法,其本质是一种表示学习方法,是一种端到端学习的深度学习方法。深度网络是以端到端的多层方式集成了低/中/高级特征和分类器,特征的“层次”可以通过层叠层的深度来丰富。但是,深度神经网络训练很困难,往往会出席那梯度消失或梯度***问题。分组残差网络(ResNext)在解决深度卷积神经网络退化的问题上,没有直接向网络中堆砌层去拟合所需的潜在映射,而是显示地让这些层拟合残差映射,并且包含了分组卷积的思想,不同组的卷积能够学习到更加多样的表示。
Senet的核心思想在于通过网络去学习特征权重,使得有效的特征向量全重大,无效或效果小的特征向量权重小,训练模型达到更好的效果。Senet作为一个轻量级的网络可以嵌入到以后的网络中。
本发明提出一种基于通道注意力分组残差网络的12导联心电信号分类方法(XSENet)。
发明内容
本发明的目的在于针对传统的心电信号分类技术存在特征提取繁琐复杂,准确率低以及泛化能力差等缺点,提出一种基于通道注意力分组残差网络的12导联心电信号分类方法(XSENet)。
本发明公开了一种基于通道注意力分组残差网络的12导联心电信号分类方法,由于原始心电信号的长度不一或时间过长,无法对其直接分类,需要对每条记录以等长的时间间隔分割处理,把分割好心电信号片段经过SIFT变换到频域中,得到频谱图,然后对频谱图取对数最后得到对数频谱图,然后将对数频谱图输入到设计好的XSENet网络中进行分类。该方法的主干网络主要采用分组残差网络和Senet结合的思想,该方法具有分类识别率高等优点。该网络的输入为心电信号在频域上取对数后的频谱图,每个输出分别为所属类别的概率,是一种端对端的心电信号分类方法:
本发明整体流程见图1,其具体方法步骤如下:
S1.对12导联心电信号进行预处理
(1)计算每个样本的总长度RL,确定分割窗口长度WL以及窗口移动步长S,对每个样本进行等长度的分割,每条记录分割出片段数量为:
(2)将分割等到的心电信号子片段经过STFT变换到频域中,得到频谱图;
(3)对频谱图取对数,得到对数频谱图;
(4)最后对对数频谱图进行Z-Score归一化处理
S2.构建面向12导联心电信号的XSENet模型
该模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_seblock2、Resnext_seblock3、Resnext_seblock4。特征向量A进入Resnext_se block1,分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′},然后将其合并为A′,然后A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_seblock2的输入,接着以此进入Resnext_seblock3、Resnext_seblock4,最后进入全连接层。其中Senet的网络结构包括globalaveragepooling,两层全连接层,sigmoid层。
S3.对S2中构建的模型进行优化训练
所采用的损失函数是主干网络的损失和辅助分类器的损失组成的联合损失函数,数学定义如下:
以W表示主干网络的权重,则有:
W=(W1,···,Wn)
输出层softmax表示为:
主干网络的损失函数为:
S4.对测试集中的每条12导联心电记录进行预测
具体步骤如下:
(1)对测试集中每个12导联心电信号记录,采用S1中所述的方法进行预处理,每个记录共有N个对数频谱图Spes={spe1,spe2,…,speN}本心电频谱图所属记录的类别作为该频谱图的标签。
(2)将分割的片段Spes输入到训练好的DSRXNet模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量Wn={wn 1,wn 2,…,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率。
(3)计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0...,wn j,...,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为MaxW=[maxw1 k1,maxw2 k2,…,maxwN kj].其中Kj表示所有K个类别中第j个类别。
(4)通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的投票数向量WNums=[w1,w2,…,wk],则投票数最多的类别即为该记录的最终分类结果。
本发明是一种基于深度监督分组残差网络的12导联心电信号分类方法,不需要对心电信号做过多的预处理,相比传统的方法,有效的减少了繁琐复杂的预处理过程。该网络结构采用Resnext作为主干网络,通过基数C控制组的数量,不同组的卷积能够学到输入特征更加多样的表示,加强网络对特征进行多角度理解的能力,将Senet融入其中,采用一种全新的“特征重标定”策略,具体来说,通过学习的方式来自动获取每个特征通道的重要程度,依照这个重要程度去增强有用的特征并抑制对当前任务用处不大的特征,便于模型学习通道特征关系。
本发明的有益效果在于:(1)降低了解决问题的繁琐复杂过程;(2)有效地提高了心电信号分类准确率。
附图说明
图1是本法方法的流程图
图2是本发明设计的每个Resnext的结构图
图3是本发明设计的Resnext_se block的结构图
图4是本发明中所设计的神经网络模型的整体结构
具体实施方式
为了使本发明的目的、技术方案和优点更加清晰,下面详细给出技术发明方案中所涉及的各个细节问题的说明:
本发明提出一种基于深度监督分组残差网络的12导联心电信号分类方法,所使用的心电信号数据来源于2018年中国生理信号挑战赛(ChinaPhysiological SignalChallenge 2018)12导联心电信号数据。该数据是由11家医院中收集而来,官方公开的训练集中包含了6877条记录,其中男性3699条,女性3178条。此外还有2954条记录作为测试集,但是不对外公开。同时,数据集也提供了个体的年龄和性别。信号的采样率为500Hz,每条记录包含标准12导联,数据集共包含了8个心率失常类和1个正常心律类共9种心电类型,具体为:正常(Normal)、房颤(AF)、一级房室传导阻滞(I-AVB)、左束支传导阻滞(LBBB)、右束支传导阻滞(RBBB)、房性早搏(PAC)、室性早搏(PVC)、ST段抑止(STD)和ST段抬高(STE)。每个样本有1-3个参考标签。
为验证本发明的有效性以及可行性,具体实施方式如下:
步骤1:数据预处理
(1)对所有心电信号记录,计算每条记录的总长度RL,确定分割出窗口长度WL以及窗口移动步长S,对每条记录进行等长的分割。
(2)将分割等到的心电信号子片段经过STFT变换到频域中,得到频谱图。
(3)把频谱图取对数,得到对数频谱图
(4)把该对数频谱图作为一个训练样本,其对应所属记录的类别作为该样本标签。
步骤2:构建面向心电信号的DSRXNet神经网络模型
对于模型的搭建,采用Resnext作为主干网络,加强模型对特征进行多角度理解的能力,将Senet融入其中,便于模型学习通道特征关系。除此之外,利用深度监督的思想在Resnext的每一个block后增加了辅助分类器,能够对每个block提供直接监督层,而不是只在输出层监督,为模型学习增加了附加约束,使得最终得到的分类优化效果达到最佳状态。
该网络结构具体组成为该模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_se block2、Resnext_se block3、Resnext_se block4。Resnext_se block1首先将输入的特征向量A分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′}然后将其合并为A′,A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_se block2的输入,接着以此进入Resnext_seblock3、Resnext_se block4,最后进入全连接层。其中Senet的网络结构包括global averagepooling,两层全连接层,sigmoid层。
步骤3:对搭建的模型进行优化训练
本发明使用经典的Softmax损失函数,将辅助分类器的损失函数和主干网络的损失函数进行加和作为最终的损失函数。
以W表示主干网络的权重,则有:
W=(W1,...,Wn)
输出层softmax表示为:
主干网络的损失函数为:
本发明神经网络模型每层使用Relu激活函数,其定义形式:
该网络权重W的初始化方式为He初始化。在训练过程中,使用的优化方式是Momentum Optimizer。在实际应用中,与其他自适应学习率算法相比,Momentum Optimizer方法收敛速度更快,学习效果更为有效。
步骤4:分类预测过程,具体做法如下:
现假设每条心电信号记录共有N条分割片段的对数频谱图Spes={spe1,spe2,...,speN},本心电片段所属记录的类别作为该样本标签。
其次,把分割的片段Spes输入到训练好的模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量为:Wn={wn 1,wn 2,...,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率。
然后计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0...,wn j,...,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为:
MaxW=[maxw1 k1,maxw2 k2,...,maxwN kj].其中Kj表示所有K个类别中第j个类别。
最后,通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的加权投票数向量WNums=[w1,w2,...,wk],则投票数最多的类别即为该记录的最终分类结果。
为验证本发明方法的有效性及可行性,以CPSC2018比赛的12导联心电信号数据集来验证,在测试集中的最终实验结果如表1:
表1
Claims (1)
1.一种基于通道注意力分组残差网络的12导联心电信号分类方法,其特征在于:该方法包括以下步骤:
S1.对12导联心电信号进行预处理;
(1)计算每个样本的总长度RL,确定分割窗口长度WL以及窗口移动步长S,对每个样本进行等长度的分割,每条记录分割出片段数量为:
(2)将分割得到的心电信号子片段经过STFT变换到频域中,得到频谱图;
(3)对频谱图取对数,得到对数频谱图;
(4)最后对对数频谱图进行Z-Score归一化处理;
S2.构建面向12导联心电信号的XSENet模型;
该XSENet模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_se block2、Resnext_se block3、Resnext_se block4;特征向量A进入Resnext_se block1,分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′},然后将其合并为A′,然后A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_se block2的输入,接着以此进入Resnext_seblock3、Resnext_se block4,最后进入全连接层;其中Senet的网络结构包括globalaverage pooling,两层全连接层,sigmoid层;
S3.对S2中构建的XSENet模型进行优化训练;
所采用的损失函数是主干网络的损失和辅助分类器的损失组成的联合损失函数,数学定义如下:
以W表示主干网络的权重,则有:
W=(W1,...Wn);
输出层softmax表示为:
主干网络的损失函数为:
S4.对测试集中的每条12导联心电记录进行预测;
具体步骤如下:
(1)对测试集中每个12导联心电信号记录,采用S1中所述的方法进行预处理,每个记录共有N个对数频谱图Spes={spe1,spe2,...,speN},本心电频谱图所属记录的类别作为该频谱图的标签;
(2)将分割的片段Spes输入到训练好的XSENet模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量Wn={wn 1,wn 2,...,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率;
(3)计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0…,wn j,…,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为MaxW=[maxw1 k1,maxw2 k2,...,maxwN kj],其中Kj表示所有K个类别中第j个类别;
(4)通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的投票数向量WNums=[w1,w2,...,wk],则投票数最多的类别即为该记录的最终分类结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110092953.5A CN112957054B (zh) | 2021-01-25 | 2021-01-25 | 一种基于通道注意力分组残差网络的12导联心电信号分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110092953.5A CN112957054B (zh) | 2021-01-25 | 2021-01-25 | 一种基于通道注意力分组残差网络的12导联心电信号分类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112957054A CN112957054A (zh) | 2021-06-15 |
CN112957054B true CN112957054B (zh) | 2023-06-23 |
Family
ID=76271393
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110092953.5A Active CN112957054B (zh) | 2021-01-25 | 2021-01-25 | 一种基于通道注意力分组残差网络的12导联心电信号分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112957054B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113855043B (zh) * | 2021-08-29 | 2023-08-18 | 北京工业大学 | 一种融合多导联注意力机制的ResNeXt网络分类方法 |
CN113768515A (zh) * | 2021-09-17 | 2021-12-10 | 重庆邮电大学 | 一种基于深度卷积神经网络的心电信号分类方法 |
CN115429284B (zh) * | 2022-09-16 | 2024-05-03 | 山东科技大学 | 心电信号分类方法、***、计算机设备以及可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109620152A (zh) * | 2018-12-16 | 2019-04-16 | 北京工业大学 | 一种基于MutiFacolLoss-Densenet的心电信号分类方法 |
CN110046604A (zh) * | 2019-04-25 | 2019-07-23 | 成都信息工程大学 | 一种基于残差网络的单导联ecg心律失常检测分类方法 |
CN110251120A (zh) * | 2019-06-06 | 2019-09-20 | 山东省计算中心(国家超级计算济南中心) | 基于注意力机制的深度残差神经网络的心电图分类方法 |
JP2020020872A (ja) * | 2018-07-30 | 2020-02-06 | 国立研究開発法人情報通信研究機構 | 識別器、学習済モデル、学習方法 |
CN111184511A (zh) * | 2020-02-04 | 2020-05-22 | 西安交通大学 | 一种基于注意力机制和卷积神经网络的脑电信号分类方法 |
CN111814622A (zh) * | 2020-06-29 | 2020-10-23 | 华南农业大学 | 农作物病虫害类型识别方法、***、设备和介质 |
-
2021
- 2021-01-25 CN CN202110092953.5A patent/CN112957054B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020020872A (ja) * | 2018-07-30 | 2020-02-06 | 国立研究開発法人情報通信研究機構 | 識別器、学習済モデル、学習方法 |
CN109620152A (zh) * | 2018-12-16 | 2019-04-16 | 北京工业大学 | 一种基于MutiFacolLoss-Densenet的心电信号分类方法 |
CN110046604A (zh) * | 2019-04-25 | 2019-07-23 | 成都信息工程大学 | 一种基于残差网络的单导联ecg心律失常检测分类方法 |
CN110251120A (zh) * | 2019-06-06 | 2019-09-20 | 山东省计算中心(国家超级计算济南中心) | 基于注意力机制的深度残差神经网络的心电图分类方法 |
CN111184511A (zh) * | 2020-02-04 | 2020-05-22 | 西安交通大学 | 一种基于注意力机制和卷积神经网络的脑电信号分类方法 |
CN111814622A (zh) * | 2020-06-29 | 2020-10-23 | 华南农业大学 | 农作物病虫害类型识别方法、***、设备和介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112957054A (zh) | 2021-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112957054B (zh) | 一种基于通道注意力分组残差网络的12导联心电信号分类方法 | |
Sellami et al. | A robust deep convolutional neural network with batch-weighted loss for heartbeat classification | |
CN107822622B (zh) | 基于深度卷积神经网络的心电图诊断方法和*** | |
CN110890155B (zh) | 一种基于导联注意力机制的多类心律失常检测方法 | |
CN109620152B (zh) | 一种基于MutiFacolLoss-Densenet的心电信号分类方法 | |
CN110638430B (zh) | 级联神经网络ecg信号心律失常分类模型的搭建方法 | |
TW201643865A (zh) | 識別生理聲音的方法以及系統 | |
CN110974214A (zh) | 一种基于深度学习的自动心电图分类方法、***及设备 | |
Xia et al. | Generative adversarial network with transformer generator for boosting ECG classification | |
CN115470832B (zh) | 一种基于区块链的心电信号数据处理方法 | |
Feng et al. | Unsupervised semantic-aware adaptive feature fusion network for arrhythmia detection | |
US8750973B2 (en) | Method and system for detecting P-waves in the surface ECG signal | |
CN111368627A (zh) | Cnn结合改进频率小波切片变换的心音分类方法及*** | |
CN113095302A (zh) | 用于心律失常分类的深度模型、利用该模型的方法及装置 | |
Güler et al. | Two-stage classification of respiratory sound patterns | |
CN113901893A (zh) | 基于多重级联深度神经网络的心电信号的识别与分类方法 | |
Yadav et al. | Analysis of heart disease using parallel and sequential ensemble methods with feature selection techniques: heart disease prediction | |
Wang et al. | Multiscale residual network based on channel spatial attention mechanism for multilabel ECG classification | |
CN113855042B (zh) | 融合深度和医学特征的基于序列标注的多导联心电信号分类方法 | |
Tung et al. | Multi-lead ECG classification via an information-based attention convolutional neural network | |
CN116649899A (zh) | 一种基于注意力机制特征融合的心电信号分类方法 | |
Li et al. | AdapSQA: Adaptive ECG Signal Quality Assessment Model for Inter-Patient Paradigm using Unsupervised Domain Adaptation | |
CN113855043B (zh) | 一种融合多导联注意力机制的ResNeXt网络分类方法 | |
Sangeetha et al. | A CNN based similarity learning for cardiac arrhythmia prediction | |
He et al. | Automatic classification of arrhythmias by residual network and BiGRU with attention mechanism |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |