CN109669009A - 基于域校正的域自适应极限学习机电子鼻漂移抑制方法 - Google Patents

基于域校正的域自适应极限学习机电子鼻漂移抑制方法 Download PDF

Info

Publication number
CN109669009A
CN109669009A CN201910021835.8A CN201910021835A CN109669009A CN 109669009 A CN109669009 A CN 109669009A CN 201910021835 A CN201910021835 A CN 201910021835A CN 109669009 A CN109669009 A CN 109669009A
Authority
CN
China
Prior art keywords
domain
data
aiming field
matrix
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910021835.8A
Other languages
English (en)
Inventor
梁志芳
徐娟
杨皓诚
杨柳
熊炼
郭坦
陶洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN201910021835.8A priority Critical patent/CN109669009A/zh
Publication of CN109669009A publication Critical patent/CN109669009A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/0004—Gaseous mixtures, e.g. polluted air
    • G01N33/0009—General constructional details of gas analysers, e.g. portable test equipment
    • G01N33/0062—General constructional details of gas analysers, e.g. portable test equipment concerning the measuring method or the display, e.g. intermittent measurement or digital display
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Food Science & Technology (AREA)
  • Combustion & Propulsion (AREA)
  • Medicinal Chemistry (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了基于域校正的域自适应极限学习机电子鼻漂移抑制方法，其从数据分布的角度出发，将数据分布不一致的源域数据和目标域数据映射到一个高维希尔伯特空间，在此空间最小化源域和目标域的域距离，同时，在最大程度上保留原始源域和目标域的数据属性。得到域校正后的源域和目标域数据，从数据层面上对漂移进行了抑制。再将目标域中的迁移样本和无标签样本纳入ELM中学习，得到域自适用ELM，从决策层面提高预测模型的鲁棒性。本发明的优点：在不增加样本的情况下，调整数据分布，并将目标域中无标签样本纳入到分类器的学习当中，从数据层面和决策层面两个层面上抑制了漂移，提高模型鲁棒性。

Description

基于域校正的域自适应极限学习机电子鼻漂移抑制方法
技术领域
本发明属于电子鼻的气味识别领域，涉及一种基于域校正的域自适应极限学习机电子鼻漂移抑制方法。
背景技术
电子鼻是由一组传感器阵列结合相应的模式识别算法组成的***，可对气体进行识别。当待检测的气体进入检测室时，气体传感器会对其产生一个瞬态响应信号，利用模式识别算法根据传感器响应识别气体。电子鼻在过去的二十多年里经历了迅猛的发展，已经被用于香水、水果、酒、茶和咖啡等的检测。
在气味识别中，很多对于电子鼻分类和回归的模式识别算法已经被提出来。其中神经网络是非常重要的一种方式，包含有导师监督和无导师监督两种学习方式。BP算法和SFAM是在基于自适应共振理论的ARTMAP网络基础上的一种简化，支持向量机(SupportVector Machine,SVM)是在统计学习理论的基础上发展的一种新的模式识别方法，极限学习机 (Extreme learning machine,ELM)是一种简单易用、有效的单隐层前馈神经网络学习算法，这些都被用于分类算法当中。
以上这些模式识别算法都倾向于在一个单一的电子鼻***中找到准确率更高、更有效的算法。然而将未发生漂移的源域数据进行模型训练，得到的模式识别模型应用在发生漂移的目标域数据时，将得到较低的识别准确率，而且模型的泛化性较差。
通常，我们将没有发生传感器漂移的电子鼻数据称为源域，发生传感器漂移的电子鼻数据称为目标域，源域和目标域数据的特征分布不一致，并且随着时间的推移，电子鼻传感器数据发生漂移的程度越来越严重，电子鼻***的气体传感器发生漂移的原因是由于开放环境、温度、湿度等的影响。实际的应用场景中，由于传感器敏感材料发生老化造成漂移，使得利用未发生传感器漂移的数据训练的模式识别模型不能直接应用于已经发生传感器漂移的电子鼻***之上。目标域当中的无标签数据在构建预测模型时往往被忽略，然后这些数据也包含大量信息，能增强模型的鲁棒性和泛化性。
发明内容
有鉴于此，本发明的目的在于提供一种基于域校正的域自适应极限学习机漂移抑制方法，它能够找到一个变换基矩阵使源域和目标域映射到一个高维希尔伯特空间，使源域和目标域的距离最小化。从而改善源域和目标域之间数据分布不一致的问题，从数据层面抑制传感器漂移。再将目标域迁移样本和无标签样本纳入预测模型ELM中学习，得到域自适应ELM模型。从决策层面提高预测模型的鲁棒性，增强电子鼻的抗干扰能力，达到干扰抑制的目标。
为了说明简单，本说明书中规定了以下符号：
源域和目标域用下角标“S”和“T”表示，源域样本集相应的目标值为其中，d和m分别是输入神经元和输出神经元个数，NS是源域的样本数目。目标域样本集记为XT，其中大部分为无标签数据，小部分为带标签的迁移样本，那么迁移样本可以表示为相应的标签值为不带标签的样本可以表示为其中NM和Nu分别表示迁移样本和目标域中无标签样本的数目。基变换P是一个将源域和目标域的映射到相同子空间的非线性映射矩阵。表示l2范数。(·)T表示矩阵的转置运算，(·)-1表示矩阵的逆运算。大写的粗黑体表示矩阵，小写的粗黑体表示向量，变量用斜体表示。
本发明主要解决的技术问题是通过这样的技术方案实现的，它包括有以下步骤：
步骤1)获取源域的训练样本和标签和目标域样本
步骤2)获取目标域迁移样本以及目标域中无标签样本
步骤3)输入正则化系数μ和变换基矩阵维度m；
步骤4)利用源域数据和目标域数据通过构造核矩阵K，构造分布矩阵L，其元素为构造中心矩阵
步骤5)对(KLK+μI)-1KHK进行特征分解，并取前m个最小特征值对应的特征向量构建基矩阵P；
步骤6)得到域校正后的源域数据X'S＝PTXS和目标域数据X'T＝PTXT，并利用{X'S,tS}训练ELM得到输出权重βB；
步骤7)输入正则化系数CS、CM和Cu；
步骤8)利用随机输入权重矩阵W和隐含层误差矩阵B初始化ELM的L个隐含层神经元网络；
步骤9)计算目标域中迁移样本和无标签样本的隐含层输出HM＝H(W·XM+B)和 Hu＝H(W·Xu+B)；
步骤10)计算输出权重此处获得的权重考虑了源域的所有样本和目标域的迁移样本，以及目标域中无标签样本的信息，最终可预测目标域中无标签数据的标签为
由于采用了上述技术方案，找到了一种将源域数据和目标域数据的原始空间向相同子空间映射的关系矩阵P，在此子空间中，源域和目标域的分布一致性得到了提高，从数据层面上抑制了电子鼻的干扰。将目标域的迁移样本和无标签样本纳入到ELM预测模型的学习中，得到域自适应ELM。从决策层上提高了预测模型的鲁棒性，实现了传感器漂移抑制。
附图说明
为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步的详细描述，其中：
图1为本方法发明流程图；
图2为基于域校正的域自适应ELM方法的示意图；
具体实施方式
下面将结合附图，对本发明的优选实施例进行详细的描述。
本发明提供了基于域校正的域自适应极限学习机漂移抑制方法，该方法是从数据分布的角度出发对电子鼻漂移问题进行分析和解决。当漂移发生时，电子鼻不同时间采集的数据的特征分布发生了改变。如果用发生传感器漂移前的数据进行模型的训练，然后对发生传感器漂移后的数据进行测试，这将不符合传统的机器学习要求数据分布相同的假设，从而使得预测性能下降。目前大部分模式识别方法是由源域数据及其标签训练而得，信息量相当丰富的目标域样本往往被忽视。
本发明提供的方法将源域和目标域映射到同一子空间后，最小化源域和目标域的距离，同时最大程度上保留源域和目标域的数据属性。这样使得源域和目标域的数据分布一致性得到提高。在决策层上，将目标域的样本纳入预测模型的学习中，得到域自适应ELM漂移抑制模型。该方法提高了预测模型对于发生漂移的传感器所采集气体的识别精度，从而实现了漂移抑制。
本发明的步骤包括：
步骤1：获取源域样本集(电子鼻传感器在未发生漂移时所采集的传感器阵列数据) 相应的目标值为其中，d和m分别是输入神经元和输出神经元个数，NS是源域的样本数目。获取目标域样本集(电子鼻传感器发生漂移之后所采集的传感器阵列数据)记为
步骤2：从目标域样本中选出迁移样本和无标签样本
步骤3：获取正则化系数μ和维度m；
步骤4：为了使源域和目标域数据之间的特征分布差异变小，将源域和目标域通过一个非线性变换映射到一个可再生希尔伯特空间。目标函数可以表示如下：
利用源域数据和目标域数据通过构造核矩阵K，再构造分布矩阵L，其元素为式(1)将变为：
maxtr(KL)-λtr(K) (2)
引入矩阵P来转换经验映射核到一个m维的子空间，核学习问题变为：
其中，中心矩阵为式(3)可以简化为：
步骤5：对式(4)进行求解，可以化简为对(KLK+μI)-1KHK进行特征分解并取前m个最小特征值对应的特征向量，得到映射基矩阵P；
步骤6：得到域校正后的源域数据X'S＝PTXS和目标域数据X'T＝PTXT，并利用{X'S,tS}训练ELM得到输出权重βB；
步骤7：输入正则化系数CS、CT和Cu；
步骤8：利用随机输入权重矩阵W和隐含层误差矩阵B初始化ELM的L个隐含层神经元网络；
步骤9：计算目标域中迁移样本和无标签样本的隐含层输出HM＝H(W·XM+B)和 Hu＝H(W·Xu+B)；
步骤10：本方法提出的域自适应ELM的目标函数可以表示为：
其中，β代表需要学习的分类器，CS和HS代表源域的正则化系数和隐含层输出，CM和HM代表目标域中迁移样本的正则化系数和隐含层输出，Cu和Hu代表目标域中无标签样本的正则化系数和隐含层输出。第一项是补偿过拟合，第二项和第三项分别是源域和目标域迁移样本最小二乘损失函数，第四项是为了正则化，让源域和目标域之间实现域自适应。
对式(5)进行求导，令其为0，可得：
计算输出权重β可得：
其中，I是单位矩阵，最后预测目标域中无标签数据的标签
最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管通过上述实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其做出各种各样的改变，而不偏离本发明权利要求书所限定的范围。

Claims (2)

1.基于域校正的域自适应极限学习机电子鼻漂移抑制方法，其特征是，包括以下步骤：
步骤1、获取源域的训练样本和标签以及目标域样本
步骤2、获取目标域迁移样本以及目标域中无标签样本
步骤3、输入正则化系数μ和变换基矩阵维度m；
步骤4、利用源域数据和目标域数据通过构造核矩阵K，构造分布矩阵L，其元素为构造中心矩阵
步骤5、对(KLK+μI)-1KHK进行特征分解，并取前m个最小特征值对应的特征向量构建基矩阵P；
步骤6、得到域校正后的源域数据和目标域数据并利用训练ELM得到输出权重βB；
步骤7、输入正则化系数和
步骤8、利用随机输入权重矩阵W和隐含层误差矩阵B初始化ELM的L个隐含层神经元网络；
步骤9、计算目标域中迁移样本和无标签样本的隐含层输出和
步骤10、计算输出权重
并预测目标域中无标签数据的标签
2.根据权利要求1所述的基于域校正的电子鼻***漂移补偿方法，其特征是，所述步骤3中变换基矩阵维度m应不大于样本维度d。
CN201910021835.8A 2019-01-10 2019-01-10 基于域校正的域自适应极限学习机电子鼻漂移抑制方法 Pending CN109669009A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910021835.8A CN109669009A (zh) 2019-01-10 2019-01-10 基于域校正的域自适应极限学习机电子鼻漂移抑制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910021835.8A CN109669009A (zh) 2019-01-10 2019-01-10 基于域校正的域自适应极限学习机电子鼻漂移抑制方法

Publications (1)

Publication Number Publication Date
CN109669009A true CN109669009A (zh) 2019-04-23

Family

ID=66150484

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910021835.8A Pending CN109669009A (zh) 2019-01-10 2019-01-10 基于域校正的域自适应极限学习机电子鼻漂移抑制方法

Country Status (1)

Country Link
CN (1) CN109669009A (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110146655A (zh) * 2019-05-31 2019-08-20 重庆大学 一种基于自适应子空间学习范式的抗电子鼻漂移方法
CN110222785A (zh) * 2019-06-13 2019-09-10 重庆大学 用于气体传感器漂移校正的自适应置信度主动学习方法
CN110458022A (zh) * 2019-07-10 2019-11-15 中国地质大学（武汉） 一种基于域适应的可自主学习目标检测方法
CN111931815A (zh) * 2020-07-08 2020-11-13 西南大学 基于迁移样本的跨域迁移电子鼻漂移抑制方法
CN112816616A (zh) * 2019-11-18 2021-05-18 重庆邮电大学 一种基于盲领域自适应的电子鼻漂移补偿方法
CN113532263A (zh) * 2021-06-09 2021-10-22 厦门大学 一种面向柔性传感器时序性能变化的关节角度预测方法
CN113627084A (zh) * 2021-08-06 2021-11-09 西南大学 基于极限学习机的电子鼻信号漂移补偿子空间对齐方法
CN113740381A (zh) * 2021-08-12 2021-12-03 西南大学 一种基于流形学习的跨域子空间学习电子鼻漂移补偿方法
CN114358283A (zh) * 2022-01-12 2022-04-15 深圳大学 气体识别神经网络模型的优化方法及相关设备
CN115015472A (zh) * 2022-02-25 2022-09-06 重庆邮电大学 一种基于域自适应的极限学习机传感器漂移数据重构方法
CN115808504A (zh) * 2022-12-01 2023-03-17 哈尔滨工业大学 一种用于浓度预测的气体传感器在线漂移补偿方法
US11664820B2 (en) 2019-09-25 2023-05-30 Nokia Technologies Oy Domain adaptation

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8837715B2 (en) * 2011-02-17 2014-09-16 Gradiant, Centro Tecnolóxico de Telecomunicacións de Galica Method and apparatus for secure iterative processing and adaptive filtering
CN105891422A (zh) * 2016-04-08 2016-08-24 重庆大学 基于源域迁移极限学习漂移补偿的电子鼻气体识别方法
CN105913079A (zh) * 2016-04-08 2016-08-31 重庆大学 基于目标域迁移极限学习的电子鼻异构数据识别方法
CN106803124A (zh) * 2017-01-21 2017-06-06 中国海洋大学 基于流形正则和范数正则的领域迁移极限学习机方法
CN109060001A (zh) * 2018-05-29 2018-12-21 浙江工业大学 一种基于特征迁移学习的多工况过程软测量建模方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8837715B2 (en) * 2011-02-17 2014-09-16 Gradiant, Centro Tecnolóxico de Telecomunicacións de Galica Method and apparatus for secure iterative processing and adaptive filtering
CN105891422A (zh) * 2016-04-08 2016-08-24 重庆大学 基于源域迁移极限学习漂移补偿的电子鼻气体识别方法
CN105913079A (zh) * 2016-04-08 2016-08-31 重庆大学 基于目标域迁移极限学习的电子鼻异构数据识别方法
CN106803124A (zh) * 2017-01-21 2017-06-06 中国海洋大学 基于流形正则和范数正则的领域迁移极限学习机方法
CN109060001A (zh) * 2018-05-29 2018-12-21 浙江工业大学 一种基于特征迁移学习的多工况过程软测量建模方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
YANG TAO ETAL: "Domain Correction Based on Kernel Transformation for Drift Compensation in the E-Nose System", 《SENSORS》 *

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110146655B (zh) * 2019-05-31 2021-12-21 重庆大学 一种基于自适应子空间学习范式的抗电子鼻漂移方法
CN110146655A (zh) * 2019-05-31 2019-08-20 重庆大学 一种基于自适应子空间学习范式的抗电子鼻漂移方法
CN110222785A (zh) * 2019-06-13 2019-09-10 重庆大学 用于气体传感器漂移校正的自适应置信度主动学习方法
CN110222785B (zh) * 2019-06-13 2023-10-13 重庆大学 用于气体传感器漂移校正的自适应置信度主动学习方法
CN110458022A (zh) * 2019-07-10 2019-11-15 中国地质大学（武汉） 一种基于域适应的可自主学习目标检测方法
CN110458022B (zh) * 2019-07-10 2022-07-12 中国地质大学（武汉） 一种基于域适应的可自主学习目标检测方法
US11664820B2 (en) 2019-09-25 2023-05-30 Nokia Technologies Oy Domain adaptation
CN112816616A (zh) * 2019-11-18 2021-05-18 重庆邮电大学 一种基于盲领域自适应的电子鼻漂移补偿方法
CN111931815B (zh) * 2020-07-08 2022-10-18 西南大学 基于迁移样本的跨域迁移电子鼻漂移抑制方法
CN111931815A (zh) * 2020-07-08 2020-11-13 西南大学 基于迁移样本的跨域迁移电子鼻漂移抑制方法
CN113532263A (zh) * 2021-06-09 2021-10-22 厦门大学 一种面向柔性传感器时序性能变化的关节角度预测方法
CN113627084A (zh) * 2021-08-06 2021-11-09 西南大学 基于极限学习机的电子鼻信号漂移补偿子空间对齐方法
CN113627084B (zh) * 2021-08-06 2024-05-10 西南大学 基于极限学习机的电子鼻信号漂移补偿子空间对齐方法
CN113740381A (zh) * 2021-08-12 2021-12-03 西南大学 一种基于流形学习的跨域子空间学习电子鼻漂移补偿方法
CN114358283A (zh) * 2022-01-12 2022-04-15 深圳大学 气体识别神经网络模型的优化方法及相关设备
CN115015472A (zh) * 2022-02-25 2022-09-06 重庆邮电大学 一种基于域自适应的极限学习机传感器漂移数据重构方法
CN115808504A (zh) * 2022-12-01 2023-03-17 哈尔滨工业大学 一种用于浓度预测的气体传感器在线漂移补偿方法
CN115808504B (zh) * 2022-12-01 2024-06-04 哈尔滨工业大学 一种用于浓度预测的气体传感器在线漂移补偿方法

Similar Documents

Publication Publication Date Title
CN109669009A (zh) 基于域校正的域自适应极限学习机电子鼻漂移抑制方法
CN105891422B (zh) 基于源域迁移极限学习漂移补偿的电子鼻气体识别方法
CN110414788B (zh) 一种基于相似日和改进lstm的电能质量预测方法
CN105913079B (zh) 基于目标域迁移极限学习的电子鼻异构数据识别方法
CN109033095A (zh) 基于注意力机制的目标变换方法
Zhao et al. Global-and-local-structure-based neural network for fault detection
CN110046252A (zh) 一种基于注意力机制神经网络与知识图谱的医疗文本分级方法
CN109165735A (zh) 基于生成对抗网络与自适应比例生成新样本的方法
Kar et al. An ensemble machine learning approach for determination of the optimum sampling time for evapotranspiration assessment from high-throughput phenotyping data
CN105956603A (zh) 一种基于张量时域关联模型的视频序列分类方法
CN113780242A (zh) 一种基于模型迁移学习的跨场景水声目标分类方法
CN111222689A (zh) 基于多尺度时间特征的lstm负荷预测方法、介质及电子装置
CN115984745A (zh) 用于黑蒜发酵的水分控制方法
CN104820967A (zh) 在轨计算成像方法
CN113420815B (zh) 半监督rsdae的非线性pls间歇过程监测方法
Yang et al. Estimation of physical parameters under location uncertainty using an ensemble2–expectation–maximization algorithm
CN106528679A (zh) 基于多线性自回归模型的时间序列分析方法
Cacciarelli et al. Hidden dimensions of the data: PCA vs autoencoders
Saffari et al. Behind-the-meter load and PV disaggregation via deep spatiotemporal graph generative sparse coding with capsule network
CN116484275B (zh) 基于自适应时空图卷积神经网络的铝电解阳极效应监测方法
CN109061544B (zh) 一种电能计量误差估计方法
CN115129029B (zh) 基于子领域适配字典学习的工业***故障诊断方法和***
Zhang et al. The Role of Knowledge Creation‐Oriented Convolutional Neural Network in Learning Interaction
Keesman et al. Nonlinear set-membership estimation: A support vector machine approach
Wang et al. Sq-swin: a pretrained siamese quadratic swin transformer for lettuce browning prediction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190423