CN108256629A - 基于卷积网络和自编码的eeg信号无监督特征学习方法 - Google Patents

基于卷积网络和自编码的eeg信号无监督特征学习方法 Download PDF

Info

Publication number
CN108256629A
CN108256629A CN201810046404.2A CN201810046404A CN108256629A CN 108256629 A CN108256629 A CN 108256629A CN 201810046404 A CN201810046404 A CN 201810046404A CN 108256629 A CN108256629 A CN 108256629A
Authority
CN
China
Prior art keywords
feature
data
coding
eeg
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810046404.2A
Other languages
English (en)
Other versions
CN108256629B (zh
Inventor
张仲楠
温廷羲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamen University
Original Assignee
Xiamen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamen University filed Critical Xiamen University
Priority to CN201810046404.2A priority Critical patent/CN108256629B/zh
Publication of CN108256629A publication Critical patent/CN108256629A/zh
Application granted granted Critical
Publication of CN108256629B publication Critical patent/CN108256629B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Error Detection And Correction (AREA)

Abstract

基于卷积网络和自编码的EEG信号无监督特征学习方法，涉及卷积网络。对EEG数据样本的数据进行预见处理，通过0‑1标准化，即对样本数据进行线性变换，将数据映射到[0,1]间；基于深度卷积网络和自编码构建AE‑CDNN模型的构建，并利用训练数据对AE‑CDNN模型进行训练；测试数据通过训练好的AE‑CDNN模型降维到较低的维度，有利于EEG数据的分类。采用基于深度卷积网络和自编码构建AE‑CDNN模型，进行癫痫EEG信号无监督的特征学习。针对两个公开癫痫EEG数据集进行特征学习和分类。AE‑CDNN模型能够很好的应用于癫痫脑信号特征提取。

Description

基于卷积网络和自编码的EEG信号无监督特征学习方法
技术领域
本发明涉及卷积网络，尤其是涉及基于卷积网络和自编码的EEG信号无监督特征学习方法。
背景技术
癫痫是一种影响所有年龄人群的非传染性脑部慢性病，目前全世界约有5000万癫痫患者，它已成为全球范围内最常见的神经***疾病之一[1]。癫痫发作造成患者认知功能紊乱(如丧失意识、知觉等)会给患者带来极大身体伤害(如发作时骨折及受伤)，同时也会因遭到羞辱和歧视给其精神上带来巨大的痛苦。由于癫痫发作能够对患者大脑产生不可逆的伤害，并具有无端反复发作的特点，因此如何对癫痫进行准确分析和预防具有重要意义。
脑电图(EEG)是测量来自大脑中神经元的离子电流产生的电压波动，其反映大脑生物电的活动规律并包含大量的生理和疾病信息[2]。因为癫痫在发作时脑电活动的频率和节律会发生变化，EEG是最常用于诊断癫痫的重要方法。在继Gotamn(1982)首次采用EEG进行癫痫检测后，学者针对基于EEG进行癫痫疾病检测做出大量研究[4-6]。基于EEG进行癫痫疾病检测本质上是对病患EEG的分类，针对癫痫患者的癫痫发作与未发作脑电信号的分类研究有[7-9]，针对健康者、患者癫痫发作与未发作脑电分类研究有[10-12].这些研究基本上遵循着数据获取预处理，特征提取，分类模型训练，EEG信号分类。其中在数据预处理方面，Sharma et al.[13]对EEG相邻的通道的信号相减来减少噪音对EEG信号的影响。Anindya etal[14]通过6th order Butter-worth filter将EEG中大于64Hz的频率过滤掉。特征提取一直是EEG分类研究的重点，特征提取极大降低了数据的维度，少量的特征能够很好的对EEG数据进行描述也极大提高了癫痫脑电信号的分类性能。针对EEG特征提取的方法很多，包括time-domain,frequency-domain,time–frequency analysis,and chaotic features等。Zandi et al[15]proposed an algorithm based on wavelet for real-time detectionof epileptic seizures.Polat et al[16]extract feature using fast Fouriertransform and classified the egg using decision tree classifier.Acharya et al[17]的一篇关于熵在癫痫检测应用的综述中提及了大量基于熵的特征提取方法如Approximate Entropy,Sample Entropy,Spectral Entropy等。
这些常用的方法的核心是要针对EEG进行有效特征提取。然而设计新特征的过程是非常复杂且难以验证，而从大量的time-domain,frequency-domain,time–frequencyanalysis,and chaotic features选取较优的若干特征也是异常困难的。同时一些小波变换、经验模态分析、去趋势多重分形等特征提取过程复杂且相当耗时。近年来，深度学习已经成为机器学习的研究热点，其在计算机视觉研究中得到很好的效果，在EEG分类研究上，Tabar et al.[18]short time Fourier transform将EEG转化成2D images,然后通过一个深度学习模型自主进行特征学习并进行分类。Xun et al.[19]通过较小的窗口将EEG分截成小段，利用a context-learning model对每一个小段形成“EEG word”从而得到”EEGdictionary”及部分特征，又将原始数据通过”EEG dictionary”得到新的特征，将这两部分特征放入分类器计算。深度学习能够从数据中自主进行特征学习，从而极大提高分类模型的性能。因为具有强大的特征学习能力，当前深度卷积神经网络是图像领域中重要的研究热点，也不断对EEG的分类研究产生影响。Masci et al.[20]提出Convolutional auto-encoder，该模型通过卷积神经网络进行特征学习的一种无监督特征学习方法。Chen etal.[21]present several descriptors for feature-based matching based onConvolution and Pooling Autoencoders.Noh et al[22]propose a novel semanticsegmentation algorithm by learning a deconvolution network。然而这些优秀的无监督特征学习方法都集中于图像分析领域。而本发明将基于Convolution,deconvolution及Autoencoders进行EEG无监督特征学习并应用于癫痫检测。
虽然有经验的专家能够识别癫痫EEG且学者们已经基于EEG对癫痫检测问题做了大量的研究，但是在癫痫的自动检测上还存在许多挑战。特征设计和选择上存在诸多困难，且这些方法是否能够适用于新的病人仍然未知。相对于如何提高分类准确率，当前更加迫切需要一种具有自主特征学习能力的模型。
参见文献：
[1]WHO,World Health Organization,Epilepsy,2012,URL:http://www.who.int/mediacentre/factsheets/fs999/zh/.
[2]Koubeissi M Z.Niedermeyer’s Electroencephalography,BasicPrinciples,Clinical Applications,and Related Fields,6th ed[M].LippincottWilliams&Wilkins,2010.
[3]Gotman J.Automatic recognition of epileptic seizures in the EEG[J].Electroencephalography&Clinical Neurophysiology,1982,54(5):530-540.
[4]Zhang,Y,Xu,G,Wang,J,&Liang,L.An automatic patient-specific seizureonset detection method in intracranial EEG based on incremental nonlineardimensionalityreduction[J].Computers in Biology&Medicine,2010,40(11-12):889-899.
[5]Shoeb A,Kharbouch A,Soegaard J,Schachter,S,&Guttag,J.A machine-learning algorithm for detecting seizure termination in scalp EEG[J].Epilepsy&behavior:E&B,2011,22Suppl 1(1):S36.
[6]Qaraqe M,Ismail M,Serpedin E.Band-sensitive seizure onsetdetection via CSP-enhanced EEG features[J].Epilepsy&Behavior,2015,50:77-87.
[9]Pachori R B,Patidar S.Epileptic seizure classification in EEGsignals using second-order difference plot of intrinsic mode functions.[J].Computer Methods&Programs in Biomedicine,2013,113(2):494-502.
[8]Sharma R,Pachori R B.Classification of epileptic seizures in EEGsignals based on phase space representation of intrinsic mode functions[J].Expert Systems with Applications,2014,42(3):1106-1117.
[9]Zhu G,Li Y,Wen P P.Epileptic seizure detection in EEGs signalsusing a fast weighted horizontal visibility algorithm[J].Computer Methods&Programs in Biomedicine,2014,115(2):64–75.
[10]Tzallas A T,Tsipouras M G,Fotiadis D I.Automatic SeizureDetection Based on Time-Frequency Analysis and Artificial Neural Networks[J].Computational Intelligence&Neuroscience,2007,2007(4):18.
[11]E D.Least squares support vector machine employing model-based methods coefficients for analysis of EEG signals[J].Expert Systems withApplications,2010,37(1):233-239.
[12]Murugavel A S M,Ramakrishnan S.Hierarchical multi-class SVM withELM kernel for epileptic EEG signal classification[J].Medical&BiologicalEngineering&Computing,2016,54(1):149-161.
[13]Sharma R,Pachori R B,Gautam S.Empirical Mode Decomposition BasedClassification of Focal and Non-focal EEG Signals[C]//InternationalConference on Medical Biometrics.IEEE,2014:135-140.
[14]Das A B,Bhuiyan M I H.Discrimination and classification of focaland non-focal EEG signals using entropy-based features in the EMD-DWT domain[J].Biomedical Signal Processing&Control,2016,29:11-21.
[15]Zandi A S,Javidan M,Dumont G A,&Tafreshi R.Automated Real-TimeEpileptic Seizure Detection in Scalp EEG Recordings Using an Algorithm Basedon Wavelet Packet Transform[J].IEEE transactions on bio-medical engineering,2010,57(7):1639-51.
[16]Polat K,S.Classification of epileptiform EEG using a hybridsystem based on decision tree classifier and fast Fourier transform[J].Applied Mathematics&Computation,2007,187(2):1017-1026.
[17]Acharya U R,Fujita H,Sudarshan V K,Bhat,S,&Koh,J E W.Applicationof entropies for automated diagnosis of epilepsy using EEG signals:A review[J].Knowledge-Based Systems,2015,88:85-96.
[18]Tabar Y R,Halici U.A novel deep learning approach forclassification of EEG motor imagery signals[J].Journal of Neural Engineering,2017,14(1):016003.
[19]Xun G,Jia X,Zhang A.Detecting epileptic seizures withelectroencephalogram via a context-learning model[J].BMC Medical Informaticsand Decision Making,2016,16(2):70.
[20]Masci J,Meier U,Dan C,Dan C&Schmidhuber J.Stacked ConvolutionalAuto-Encoders for Hierarchical Feature Extraction[C]//InternationalConference on Artificial Neural Networks.Springer-Verlag,2011:52-59.
[21]Chen L,Rottensteiner F,Heipke C.Feature Descriptor by Convolutionand Pooling Autoencoders[J].ISPRS-International Archives of thePhotogrammetry,Remote Sensing and Spatial Information Sciences,2015,XL-3/W2(3):31-38.
[22]Noh H,Hong S,Han B.Learning Deconvolution Network for SemanticSegmentation[C]//IEEE International Conference on Computer Vision.IEEEComputer Society,2015:1520-1528.
[23]Hinton G E,Zemel R S.Autoencoders,minimum description length andHelmholtz free energy[C]//International Conference on Neural InformationProcessing Systems.Morgan Kaufmann Publishers Inc.1993:3-10.
[24]Ahmad T,Fairuz R A,Zakaria F,Lsa H.Selection of a subset of EEGchannels of epileptic patient during seizure using PCA[C]//WseasInternational Conference on Signal Processing,Robotics and Automation.WorldScientific and Engineering Academy and Society(WSEAS),2008:270-273.
[25]Vincent P,Larochelle H,Lajoie I,Bengio,Y,&Manzagol,P A.StackedDenoising Autoencoders:Learning Useful Representations in a Deep Network witha Local Denoising Criterion.[J].Journal of Machine Learning Research,2010,11(12):3371-3408.
[26]Kingma D,Ba J.Adam:A Method for Stochastic Optimization[J].Computer Science,2014.
[27]Andrzejak R G,Lehnertz K,Mormann F,David,P,&Elger,C E.Indicationsof nonlinear deterministic and finite-dimensional structures in time seriesof brain electrical activity:dependence on recording region and brain state[J].Physical Review E Statistical Nonlinear&Soft Matter Physics,2001,64(1):061907.
[28]Shoeb A H.Application of machine learning to epileptic seizureonset detection and treatment[J].Massachusetts Institute of Technology,2009.
[29]Pedregosa,F.,Varoquaux,Ga&#,Gramfort,A.,Michel,V.,Thirion,B.,&Grisel,O.,et al.(2012).Scikit-learn:machine learning in python.Journal ofMachine Learning Research,12(10),2825-2830.
[30]Hinton G E,Salakhutdinov R R.Reducing the dimensionality of datawith neural networks[J].Science,2006,313(5786):504.
[31]Wang J.Geometric Structure of High-Dimensional Data andDimensionality Reduction[M]//Geometric structure of high-dimensional data anddimensionality reduction,/.Higher Education Press,2012.
[32]Pachori R B,Patidar S.Epileptic seizure classification in EEGsignals using second-order difference plot of intrinsic mode functions[J].Computer Methods&Programs in Biomedicine,2014,113(2):494-502.
[33]Sharma R,Pachori R B.Classification of epileptic seizures in EEGsignals based on phase space representation of intrinsic mode functions[J].Expert Systems with Applications,2015,42(3):1106-1117.
[34]Wen T,Zhang Z.Effective and extensible feature extraction methodusing genetic algorithm-based frequency-domain feature search for epilepticEEG multiclassification[J].Medicine,2017,96(19):e6879.
发明内容
本发明的目的在于提供有利于分类器取得更高检测准确率，更快检测速度的基于卷积网络和自编码的EEG信号无监督特征学习方法。
本发明包括以下步骤：
1)对EEG数据样本的数据进行预见处理，通过0-1标准化，即对样本数据进行线性变换，将数据映射到[0,1]间；
2)基于深度卷积网络和自编码构建AE-CDNN模型的构建，并利用训练数据对AE-CDNN模型进行训练；
3)测试数据通过训练好的AE-CDNN模型降维到较低的维度，从而有利于EEG数据的分类。
与现有技术相比，本发明具有以下突出优点：
本发明采用基于深度卷积网络和自编码构建AE-CDNN模型，进行癫痫EEG信号无监督的特征学习。我们针对两个公开癫痫EEG数据集(一个是颅内EEG信号，一个是脑表皮EEG信号)进行特征学习和分类。实验表明，AE-CDNN模型所提取出的特征在信号分类所得到的结果，要优于采用Principal Component Analysis或Sparse Random projection得到特征。同时采用多种常用分类器(未经参数调整)对AE-CDNN模型得到的特征进行分类，大部分分类器都得较高的准确率且不输于已有最新研究结果。结果还显示AE-CDNN模型得到的特征清晰，有效，易学习，使分类器快速收敛，加快分类器训练速度。由此可见，AE-CDNN模型能够很好的应用于癫痫脑信号特征提取。
附图说明
图1为AE-CDNN模型的基本结构。在图1中，主要分为编码过程和解码过程两个部分。
图2为实际中基AE-CDNN模型构建的网络结构图。
具体实施方式
以下实施例将结合附图对本发明作进一步的说明
本发明实施例包括以下步骤：
1)要求的EEG数据样本的每个维度上的数值控制在(0,1)间。通过0-1标准化，对样本数据进行线性变换，将数据映射到[0,1]间，转换函数如下：
其中d为输入样本x上一个维度的值，max(data)所有样本中各维度上最大值，min(data)所有样本中各维度上最小值。
2)基于深度卷积网络和自编码构建AE-CDNN模型。该深度卷积网络模型(AE-CDNN)的框架结构见图1。模型主要分两个阶段，编码阶段操作包括样本输入、卷积层、池化层(下采样层)、Reshape层、全连接层、产生特征编码，解码阶段包括特征编码输入、全连接层、Reshape层、解卷积层、上采样层，输出重建后的样本。下面对模型中各层的具体操作进行说明。
输入样本为一维的EEG数据，令x为输入数据，卷积层相当于特征提取器，它利用多个卷积核对x进行卷积计算(多个卷积核对x局部感知)，得到多个能够保持输入信号的主要成分的Feature maps。那么卷积层中第k个Feature maps fmk的计算如下：
fmk＝g(w_ck*x+b_ck) (2)
卷积层的第K个卷积核中，w_ck和b_ck表示卷积核的filters和biases，*表示卷积计算。
池化层是一个下采样过程将上层的Feature maps采样得到Pooled feature maps降低数据的维度。池化操作这里采用长度为l的窗口，对feature maps进行滑动采样，窗口滑动为l即每次采样区间不相互覆盖，对窗口进行最大值采样得到pooled feature maps。计算过程如下：
pmk＝Maxpooling(fmk,1) (3)
这里可迭代多次卷积、池化降低pooled feature maps数量和维度，从而得到m个pooled feature maps。Reshape层将Pooled feature maps映射到一维向量上，然后通过全连接层的操作，即综合所有Pooled feature maps信息后得到特征编码。Reshape层的操作连接所有的pooled feature maps得到一个长为r一维向量v，那么v经全连接层的计算得到特征编码：
c＝g(w_v*v+b_f) (4)
其中，w_f与b_f分别表示全连接层的权重和偏置，c表示得到的编码。
完成编码过程后，进行解码过程(即信号重建)，首先，特征编码通过第二个全连接层计算得到一个长度为r一维向量v’，计算如下：
v'＝g(w_v'*c) (5)
全连接层中的权重为w_v‘，由于要保证在解码过程中，所有的信息是来自编码，因此在该层不设置偏置。然后，第二个Reshape层将v’切分个m个对应于第一个Reshape操作前的Pooled feature maps。那么第k个Pooled feature maps表示为pm′k。在上采样层中，利用原先的采样窗口***与先前采样的相同值。从而得到fm′k，即：
fm'k＝upsampling(pm'k,1) (6)
而解卷积为如下：
其中解卷积核为w_c′k对shape等于w_ck装置后的shape，b_ck为其偏置，为解卷积计算，从而得到重建信号y。网络中除输出层激活函数采用sigmoid激活函数，其它激活函数采用relu激活函数。
假定有N个训练样本，x(i)表示一个样本，样本x(i)经过模型计算得到y(i)那么需要最小化的损失函数如传统Autoencoders模型中的目标函数(式(3))，计算如下：
其中avg(x(i))为样本x(i)的平均值。该网络模型损失函数采用adam[26]优化器进行优化。
3)基于AE-CDNN模型构建的深度网络结构参见图2，这是一个多层的网络结构，虽然网络深度增加能够增强模型的学习能力，但也可能造成训练时梯度消失或容易过拟合等问题，在深度网络中，固定了网络深度，编码过程及解码过程。在实验中通过设定不同的特征编码长度m(即特征数量)来分析模型的学习能力。网络中的参数如下，其中Convolutional(k_szie＝3,c＝16)表示某一卷积层，K_size＝3表示该层卷积核的大小为3，c＝16表示该层的输出通道数为16。Pooling(k＝2)为某一池化层，k＝2即下采样因子为2且stride为1，Deconvolutional(k_szie＝3,c＝1)为某一解卷积层，K_size＝3该层解卷积核的大小为3，c＝16该层的输出通道数为1。Depooling(k＝2)为上采样层。输入的原始数据是长度为4096的一维数组，经过Convolutional(k_szie＝3,c＝16)后变成4096*16的矩阵(表示16个通道，每个通道长度为4096)，那么Convolutional(k_szie＝3,c＝32)则把上一层的矩阵变成4096*32，再经过Pooling(k＝2)后矩阵变成2048*32。
4)利用训练数据对AE-CDNN模型进行训练，测试数据通过训练好的AE-CDNN模型降维到较低的维度，从而有利于EEG数据的分类。

Claims (7)

1.基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于包括以下步骤：
1)对EEG数据样本的数据进行预见处理，通过0-1标准化，即对样本数据进行线性变换，将数据映射到[0,1]间；
2)基于深度卷积网络和自编码构建AE-CDNN模型的构建，并利用训练数据对AE-CDNN模型进行训练；
3)测试数据通过训练好的AE-CDNN模型降维到较低的维度，从而有利于EEG数据的分类。
2.如权利要求1所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于在步骤1)中，所述通过0-1标准化，即对样本数据进行线性变换，将数据映射到[0,1]间，转换函数如下：
其中，d为输入样本x上一个维度的值，max(data)所有样本中各维度上最大值，min(data)所有样本中各维度上最小值。
3.如权利要求1所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于在步骤2)中，所述基于深度卷积网络和自编码构建AE-CDNN模型的构建，具体方法如下：深度卷积网络模型分两个阶段，编码阶段操作包括样本输入、卷积层、池化层、Reshape层、全连接层、产生特征编码，解码阶段包括特征编码输入、全连接层、Reshape层、解卷积层、上采样层，输出重建后的样本。
4.如权利要求1所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于在步骤2)中，所述AE-CDNN模型的具体操作如下：
输入样本为一维的EEG数据，令x为输入数据，卷积层相当于特征提取器，它利用多个卷积核对x进行卷积计算，得到多个能够保持输入信号的主要成分的Feature maps，那么卷积层中第k个Feature maps fmk的计算如下：
fmk＝g(w_ck*x+b_ck)
卷积层的第K个卷积核中，w_ck和b_ck表示卷积核的filters和biases，*表示卷积计算；
池化层是一个下采样过程将上层的Feature maps采样得到Pooled feature maps降低数据的维度，池化操作这里采用长度为l的窗口，对feature maps进行滑动采样，窗口滑动为l即每次采样区间不相互覆盖，对窗口进行最大值采样得到pooled feature maps，计算过程如下：
pmk＝Maxpooling(fmk,1)
这里可迭代多次卷积、池化降低pooled feature maps数量和维度，从而得到m个pooled feature maps，Reshape层将Pooled feature maps映射到一维向量上，然后通过全连接层的操作，即综合所有Pooled feature maps信息后得到特征编码，Reshape层的操作连接所有的pooled feature maps得到一个长为r一维向量v，那么v经全连接层的计算得到特征编码：
c＝g(w_v*v+b_f)
其中，w_f与b_f分别表示全连接层的权重和偏置，c表示得到的编码；
完成编码过程后，进行解码过程，首先，特征编码通过第二个全连接层计算得到一个长度为r一维向量v’，计算如下：
v'＝g(w_v'*c)
全连接层中的权重为w_v′，由于要保证在解码过程中，所有的信息是来自编码，因此在该层不设置偏置；然后，第二个Reshape层将v’切分个m个对应于第一个Reshape操作前的Pooled feature maps；那么第k个Pooled feature maps表示为pm′k，在上采样层中，利用原先的采样窗口***与先前采样的相同值，从而得到fm'k，即：
fm'k＝upsampling(pm'k,1)
而解卷积为如下：
y＝∑g(w_c'kοfm'k+b_c'k)
其中解卷积核为w_c′k对shape等于w_ck装置后的shape，b_ck为其偏置，为解卷积计算，从而得到重建信号y；网络中除输出层激活函数采用sigmoid激活函数，其它激活函数采用relu激活函数；
假定有N个训练样本，x(i)表示一个样本，样本x(i)经过模型计算得到y(i)那么需要最小化的损失函数如传统Autoencoders模型中的目标函数，计算如下：
其中avg(x(i))为样本x(i)的平均值。
5.如权利要求1所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于在步骤2)中，基于AE-CDNN模型构建的深度网络结构，是一个多层的网络结构，虽然网络深度增加能够增强模型的学习能力，但可能造成训练时梯度消失或容易过拟合问题，在深度网络中，固定网络深度，编码过程及解码过程，在实验中通过设定不同的特征编码长度m分析模型的学习能力。
6.如权利要求5所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于网络中的参数如下：其中Convolutional(k_szie＝3,c＝16)表示某一卷积层，K_size＝3表示该层卷积核的大小为3，c＝16表示该层的输出通道数为16，Pooling(k＝2)为某一池化层，k＝2即下采样因子为2且stride为1，Deconvolutional(k_szie＝3,c＝1)为某一解卷积层，K_size＝3该层解卷积核的大小为3，c＝16该层的输出通道数为1，Depooling(k＝2)为上采样层；输入的原始数据是长度为4096的一维数组，经过Convolutional(k_szie＝3,c＝16)后变成4096*16的矩阵，那么Convolutional(k_szie＝3,c＝32)则把上一层的矩阵变成4096*32，再经过Pooling(k＝2)后矩阵变成2048*32。
7.如权利要求1所述基于卷积网络和自编码的EEG信号无监督特征学习方法，其特征在于在步骤3)中，所述测试数据通过训练好的AE-CDNN模型降维到较低的维度，从而有利于EEG数据的分类的具体方法为：利用训练数据对AE-CDNN模型进行训练，测试数据通过训练好的AE-CDNN模型降维到较低的维度，从而有利于EEG数据的分类。
CN201810046404.2A 2018-01-17 2018-01-17 基于卷积网络和自编码的eeg信号无监督特征学习方法 Active CN108256629B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810046404.2A CN108256629B (zh) 2018-01-17 2018-01-17 基于卷积网络和自编码的eeg信号无监督特征学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810046404.2A CN108256629B (zh) 2018-01-17 2018-01-17 基于卷积网络和自编码的eeg信号无监督特征学习方法

Publications (2)

Publication Number Publication Date
CN108256629A true CN108256629A (zh) 2018-07-06
CN108256629B CN108256629B (zh) 2020-10-23

Family

ID=62741185

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810046404.2A Active CN108256629B (zh) 2018-01-17 2018-01-17 基于卷积网络和自编码的eeg信号无监督特征学习方法

Country Status (1)

Country Link
CN (1) CN108256629B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108921141A (zh) * 2018-08-16 2018-11-30 广东工业大学 一种基于深度自编码神经网络的脑电信号eeg特征提取方法
CN109009097A (zh) * 2018-07-18 2018-12-18 厦门大学 一种自适应不同采样频率的脑电分类方法
CN109222966A (zh) * 2018-10-09 2019-01-18 山东大学 一种基于变分自编码器的脑电信号情感分类方法
CN109711383A (zh) * 2019-01-07 2019-05-03 重庆邮电大学 基于时频域的卷积神经网络运动想象脑电信号识别方法
CN110062164A (zh) * 2019-04-22 2019-07-26 深圳市商汤科技有限公司 视频图像处理方法及装置
CN111368686A (zh) * 2020-02-27 2020-07-03 西安交通大学 一种基于深度学习的脑电图情感分类方法
CN111951958A (zh) * 2020-08-21 2020-11-17 深圳大学 一种基于自编码的疼痛数据评估方法及相关组件
CN112587155A (zh) * 2020-12-12 2021-04-02 中山大学 一种基于自监督学习的脑电波图异常检测的方法及装置
CN112826512A (zh) * 2021-02-05 2021-05-25 南京慧脑云计算有限公司 一种癫痫棘波自动检测与峰值定位方法
CN113688822A (zh) * 2021-09-07 2021-11-23 河南工业大学 一种时序注意力机制场景图像识别方法
US11443137B2 (en) 2019-07-31 2022-09-13 Rohde & Schwarz Gmbh & Co. Kg Method and apparatus for detecting signal features
CN116049016A (zh) * 2023-03-01 2023-05-02 哈尔滨师范大学 基于深度学习的忽略成员的方法异味检测策略

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140180986A1 (en) * 2012-12-24 2014-06-26 Google Inc. System and method for addressing overfitting in a neural network
CN104794504A (zh) * 2015-04-28 2015-07-22 浙江大学 基于深度学习的图形图案文字检测方法
CN105512534A (zh) * 2015-12-31 2016-04-20 湖南人文科技学院 一种基于脑电波和虹膜及人脸识别的复合鉴证的可自毁式身份识别***
US20170004260A1 (en) * 2012-08-16 2017-01-05 Ginger.io, Inc. Method for providing health therapeutic interventions to a user
CN106447039A (zh) * 2016-09-28 2017-02-22 西安交通大学 基于自编码神经网络的无监督特征提取方法
US20170068888A1 (en) * 2015-09-09 2017-03-09 Intel Corporation Cost-sensitive classification with deep learning using cost-aware pre-training
CN106951844A (zh) * 2017-03-10 2017-07-14 中国矿业大学 一种基于深度极速学习机的脑电信号分类方法及***

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170004260A1 (en) * 2012-08-16 2017-01-05 Ginger.io, Inc. Method for providing health therapeutic interventions to a user
US20140180986A1 (en) * 2012-12-24 2014-06-26 Google Inc. System and method for addressing overfitting in a neural network
CN104794504A (zh) * 2015-04-28 2015-07-22 浙江大学 基于深度学习的图形图案文字检测方法
US20170068888A1 (en) * 2015-09-09 2017-03-09 Intel Corporation Cost-sensitive classification with deep learning using cost-aware pre-training
CN105512534A (zh) * 2015-12-31 2016-04-20 湖南人文科技学院 一种基于脑电波和虹膜及人脸识别的复合鉴证的可自毁式身份识别***
CN106447039A (zh) * 2016-09-28 2017-02-22 西安交通大学 基于自编码神经网络的无监督特征提取方法
CN106951844A (zh) * 2017-03-10 2017-07-14 中国矿业大学 一种基于深度极速学习机的脑电信号分类方法及***

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JONATHAN MASCI等: "Stacked Convolutional Auto-Encoders for Hierarchical Feature Extraction", 《INTERNATIONAL CONFERENCE ON ARTIFICIAL NEURAL NETWORKS》 *
XIANG ZHANG等: "Multi-Person Brain Activity Recognition via Comprehensive EEG signal analysis", 《MOBIQUITOUS 2017: COMPUTING, NETWORKING AND SERVICES》 *
YOUSEF REZAEI TABAR等: "A novel deep learning approach for classification of EEG motor imagery signals", 《JOURNAL OF NEURAL ENGINEERING》 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109009097A (zh) * 2018-07-18 2018-12-18 厦门大学 一种自适应不同采样频率的脑电分类方法
CN108921141B (zh) * 2018-08-16 2021-10-19 广东工业大学 一种基于深度自编码神经网络的脑电信号eeg特征提取方法
CN108921141A (zh) * 2018-08-16 2018-11-30 广东工业大学 一种基于深度自编码神经网络的脑电信号eeg特征提取方法
CN109222966A (zh) * 2018-10-09 2019-01-18 山东大学 一种基于变分自编码器的脑电信号情感分类方法
CN109711383A (zh) * 2019-01-07 2019-05-03 重庆邮电大学 基于时频域的卷积神经网络运动想象脑电信号识别方法
CN113992848A (zh) * 2019-04-22 2022-01-28 深圳市商汤科技有限公司 视频图像处理方法及装置
CN113992847A (zh) * 2019-04-22 2022-01-28 深圳市商汤科技有限公司 视频图像处理方法及装置
CN110062164A (zh) * 2019-04-22 2019-07-26 深圳市商汤科技有限公司 视频图像处理方法及装置
US11443137B2 (en) 2019-07-31 2022-09-13 Rohde & Schwarz Gmbh & Co. Kg Method and apparatus for detecting signal features
CN111368686A (zh) * 2020-02-27 2020-07-03 西安交通大学 一种基于深度学习的脑电图情感分类方法
CN111951958A (zh) * 2020-08-21 2020-11-17 深圳大学 一种基于自编码的疼痛数据评估方法及相关组件
CN112587155A (zh) * 2020-12-12 2021-04-02 中山大学 一种基于自监督学习的脑电波图异常检测的方法及装置
CN112826512A (zh) * 2021-02-05 2021-05-25 南京慧脑云计算有限公司 一种癫痫棘波自动检测与峰值定位方法
CN112826512B (zh) * 2021-02-05 2022-11-25 南京慧脑云计算有限公司 一种癫痫棘波自动检测与峰值定位方法
CN113688822A (zh) * 2021-09-07 2021-11-23 河南工业大学 一种时序注意力机制场景图像识别方法
CN116049016A (zh) * 2023-03-01 2023-05-02 哈尔滨师范大学 基于深度学习的忽略成员的方法异味检测策略
CN116049016B (zh) * 2023-03-01 2024-02-06 哈尔滨师范大学 基于深度学习的忽略成员的方法异味检测策略

Also Published As

Publication number Publication date
CN108256629B (zh) 2020-10-23

Similar Documents

Publication Publication Date Title
CN108256629A (zh) 基于卷积网络和自编码的eeg信号无监督特征学习方法
Wen et al. Deep convolution neural network and autoencoders-based unsupervised feature learning of EEG signals
Hussein et al. Optimized deep neural network architecture for robust detection of epileptic seizures using EEG signals
Altaheri et al. Physics-informed attention temporal convolutional network for EEG-based motor imagery classification
Hussein et al. Epileptic seizure detection: A deep learning approach
Yuan et al. Patients’ EEG data analysis via spectrogram image with a convolution neural network
Sun et al. Unsupervised EEG feature extraction based on echo state network
Yuan et al. Wave2vec: Deep representation learning for clinical temporal data
Peng et al. Automatic epileptic seizure detection via Stein kernel-based sparse representation
Das et al. A spatio-temporal model for EEG-based person identification
CN110236533A (zh) 基于多深度神经网络迁移特征学习的癫痫发作预测方法
CN114209323B (zh) 一种识别情绪的方法以及基于脑电数据的情绪识别模型
Fawaz et al. Encoding rich frequencies for classification of stroke patients EEG signals
Diykh et al. Texture analysis based graph approach for automatic detection of neonatal seizure from multi-channel EEG signals
Jaiswal et al. Local transformed features for epileptic seizure detection in EEG signal
Ibrahim et al. Deep‐learning‐based seizure detection and prediction from electroencephalography signals
Deniz et al. Automated robust human emotion classification system using hybrid EEG features with ICBrainDB dataset
Santoso et al. Epileptic EEG signal classification using convolutional neural network based on multi-segment of EEG signal
CN114595725A (zh) 一种基于加法网络和监督对比学习的脑电信号分类方法
Fayyaz et al. Classifying alcoholics and control patients using deep learning and peak visualization method
Shyu et al. Less parameterization inception-based end to end CNN model for EEG seizure detection
Salimpour et al. Stockwell transform and semi-supervised feature selection from deep features for classification of BCI signals
Zhou et al. Phase space reconstruction, geometric filtering based Fisher discriminant analysis and minimum distance to the Riemannian means algorithm for epileptic seizure classification
Xu et al. Trends and challenges of processing measurements from wearable devices intended for epileptic seizure prediction
Qu et al. Epileptogenic region detection based on deep CNN with transfer learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant