CN117312777B - 基于扩散模型的工业设备时间序列生成方法及装置 - Google Patents

基于扩散模型的工业设备时间序列生成方法及装置 Download PDF

Info

Publication number
CN117312777B
CN117312777B CN202311595067.XA CN202311595067A CN117312777B CN 117312777 B CN117312777 B CN 117312777B CN 202311595067 A CN202311595067 A CN 202311595067A CN 117312777 B CN117312777 B CN 117312777B
Authority
CN
China
Prior art keywords
noise
data
target
layer
inputting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311595067.XA
Other languages
English (en)
Other versions
CN117312777A (zh
Inventor
任磊
王海腾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202311595067.XA priority Critical patent/CN117312777B/zh
Publication of CN117312777A publication Critical patent/CN117312777A/zh
Application granted granted Critical
Publication of CN117312777B publication Critical patent/CN117312777B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/10—Pre-processing; Data cleansing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2123/00—Data types
    • G06F2123/02—Data types in the time domain, e.g. time-series data
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请提供一种基于扩散模型的工业设备时间序列生成方法及装置，涉及时间序列技术领域，获取工业设备的时间序列的参数指标数据；将目标高斯噪声分布中目标时刻的噪声作为时间序列的初始变量；将参数指标数据和初始变量输入至基于扩散模型构建的噪声预测模型中，得到噪声预测模型输出的预测噪声；根据初始变量对预测噪声进行解噪，得到时间序列中位于目标时刻的前一时刻的目标变量；将目标变量和参数指标数据输入至噪声预测模型中进行迭代，生成工业设备的时间序列。通过基于扩散模型的构建的噪声预测模型进行工业设备的时间序列的生成，降低了现有技术中存在模型训练过程难以收敛的问题，从而提升工业设备的时间序列的效率。

Description

基于扩散模型的工业设备时间序列生成方法及装置
技术领域
本申请涉及时间序列技术领域，尤其涉及一种基于扩散模型的工业设备时间序列生成方法及装置。
背景技术
工业设备的时间序列（例如，发动机的运行数据）存在数据质量差、采样频率高、噪声大，以及，涉及复杂的时间依赖关系等特点。
目前，对于工业设备的时间序列的生成多采用生成对抗网络模型（GenerativeAdversarial Nets，GAN）进行。
但是，由于GAN模型中生成器和判别器之间的对抗性，导致GAN模型训练过程不容易收敛，从而使得工业设备的时间序列生成较为困难、效率较低。
发明内容
本申请提供一种基于扩散模型的工业设备时间序列生成方法及装置，可以降低工业设备的时间序列生成的困难、提高生成效率。
第一方面，本申请提供一种基于扩散模型的工业设备时间序列生成方法，包括：
获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；
将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；
将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；
根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；
将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。
可选的，所述将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声，包括：
将所述初始变量输入至所述噪声预测模型的嵌入模块的卷积层中，对所述初始变量进行卷积处理，得到第一数据；
将所述参数指标数据输入至所述噪声预测模型的嵌入模块的全连接层中，对所述参数指标数据进行数据转换，得到参数指标向量；
将所述第一数据和所述参数指标向量输入至所述噪声预测模型的UNet模块中，对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声。
可选的，所述UNet模块包括编码器层、时间分解重构层、解码器层，以及，卷积层，所述对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声，包括：
将所述参数指标向量嵌入至所述编码器层和所述解码器层；
将所述第一数据输入至所述编码器层进行编码处理，得到第二数据；
将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据；
将所述第三数据输入至所述解码器层进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
可选的，所述时间分解重构层包括：池化层、卷积层和注意力层；所述将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据，包括：
将所述第二数据输入池化层进行池化处理，得到目标特征数据；所述目标特征数据包括峰值特征数据和趋势特征数据；
对所述峰值特征数据和所述趋势特征数据串联后输入至卷积层和注意力层进行处理，得到所述第三数据。
可选的，所述方法还包括：
获取训练样本，所述训练样本包括至少一个工业设备的样本时间序列、所述样本时间序列的参数指标数据，所述样本时间序列的时间步长，以及，标签噪声；
将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声；
根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数；
根据所述目标损失函数，通过反向传播的方式对所述噪声预测模型进行训练。
可选的，所述将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声，包括：
将所述样本时间序列输入嵌入模块的扩散层中进行噪声扩散，得到所述样本时间序列的潜在变量；
将所述样本时间序列的潜在变量输入嵌入模块的卷积层中，对所述潜在变量进行卷积处理，得到第五数据；
对所述参数指标数据和所述时间步长分别输入嵌入模块的全连接层中进行数据处理，得到第六数据；
将所述第五数据和所述第六数据输入UNet模块进行处理，得到所述目标噪声。
可选的，所述根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数，包括：
根据所述标签噪声和所述目标噪声，获取噪声估计损失函数；
将所述标签噪声和所述目标噪声映射至目标维度空间，获取所述标签噪声和所述目标噪声的相似性函数；
根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数。
可选的，所述根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数，包括：
将所述噪声估计损失函数和所述相似性函数进行加和处理，得到所述目标损失函数。
第二方面，本申请提供一种基于扩散模型的工业设备时间序列生成装置，包括：
获取模块，用于获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；
确定模块，用于将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；
处理模块，用于将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；
解噪模块，用于根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；
迭代模块，用于将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。
第三方面，本申请提供一种电子设备，包括：存储器和处理器；
存储器用于存储计算机指令；处理器用于运行存储器存储的计算机指令实现第一方面中任一项的方法。
第四方面，本申请提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行以实现第一方面中任一项的方法。
第五方面，本申请提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现第一方面中任一项的方法。
本申请提供的基于扩散模型的工业设备时间序列生成方法及装置，通过获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。通过基于扩散模型的构建的噪声预测模型进行工业设备的时间序列的生成，降低了现有技术中存在模型训练过程难以收敛的问题，从而提升工业设备的时间序列的效率。
附图说明
图1为本申请实施例提供的噪声预测模型的结构示意图；
图2为本申请实施例提供的工业设备时间序列生成方法的流程示意图；
图3为本申请实施例提供的生成预测噪声的流程示意图；
图4为本申请实施例提供的时间分解重构层的结构示意图；
图5为本申请实施例提供的噪声预测模型的训练方法的流程示意图；
图6为本申请实施例提供的噪声预测模型的训练过程的示意图；
图7为本申请实施例提供的工业设备时间序列生成装置的结构示意图；
图8为本申请实施例提供的电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
在本申请的实施例中，采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分，并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定，并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是，本申请实施例中，“示例性的”或者“例如”等词用于表示例子、例证或说明。本申请中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
时间序列（或称动态数列）是指将同一统计指标的数值按其发生的时间先后顺序排列而成的数列。时间序列分析的主要目的是根据已有的历史数据对未来进行预测。
在工业场景中，使用工业设备的时间序列对工业设备进行预测管理（例如，通过发动机的运行数据对发动机的寿命进行预测），可以对工业设备的使用过程进行评估。为提高对工业设备进行预测管理的精度，通常需要多个具有相似性的工业设备的时间序列。
相关技术中，可以使用GAN模型基于原始工业设备的时间序列生成多个具有相似性的工业设备的时间序列。
但是，工业设备的时间序列存在数据质量差、采样频率高、噪声大，以及，涉及复杂的时间依赖关系等特点，这使得GAN模型中的生成器难以学习时间序列数据中的模式，导致使用GAN模型生成工业设备的时间序列较为困难，效率较低。
有鉴于此，本申请提供一种基于扩散模型的工业设备时间序列生成方法及装置，通过基于扩散模型构建的噪声预测模型进行工业设备的时间序列的生产，可以降低生成工业设备的时间序列的困难程度，从而提升生成工业设备的时间序列的效率。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以独立实现，也可以相互结合，对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图1为本申请实施例提供的噪声预测模型的示意图，如图1所示，噪声预测模型中可以包括嵌入模块和UNet模块（又可以称为时间分解重构UNet模块）。
所述嵌入模块中可以包括扩散层、卷积层和全连接层。所述UNet模块中可以包括编码器层、卷积层、解码器层、时间分解重构层（TDR）。
其中，所述时间分解重构层中又可以包括池化层、卷积层、注意力层。
扩散层可以对输入的数据进行扩散处理，对所述数据逐渐增加高斯噪声，将所述数据转换成随机噪声。
编码器层中可以包括至少一个编码器，可以对输入的数据进行特征学习，解码器层中可以包括至少一个解码器，可以对输入的数据进行语义学习。
在一些实施例中，编码器可以由多个卷积块组成，每个卷积块包括卷积层（通常是3x3卷积核）、批量归一化（Batch Normalization）和激活函数（通常是ReLU）组成。
解码器可以由多个反卷积块组成，每个反卷积块包含反卷积层（也称为转置卷积）、批量归一化和激活函数。
时间分解重构层用于学***均趋势特征和峰值趋势特征。其中，注意力层可以采用注意力机制对输入的数据进行处理。
在一些实施例中，在所述噪声预测模型的训练和使用过程中，对于输入的数据可以采用不同的方式进行处理。
例如，在训练模式下，所述噪声预测模型的嵌入模块接收到输入的数据时，可以根据输入的数据的类型分别采用扩散层和全连接层对数据进行处理后，输入至后续的结构层进行处理。例如，对输入的数据中的时间序列采用扩散层进行处理，对所述时间序列的参数指标数据输入至全连接层进行处理。
在使用模式下，述噪声预测模型的嵌入模块接收到输入的数据时，对输入的数据中的目标噪声直接采用卷积层进行处理，对参数指标数据输入至全连接层进行处理。即，在使用模式下，可以跳过扩散层。
下面基于图1所示的噪声预测模型，对本申请实施例提供的工业设备时间序列生成方法进行说明。
图2为本申请实施例提供的基于扩散模型的工业设备时间序列生成方法的流程示意图，如图2所示，包括：
S201、获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关。
本申请实施例的执行主体为软件和/或硬件装置，该硬件装置可以为电子设备或者电子设备中的处理芯片。
本申请实施例中，所述参数指标数据用于指示生成的时间序列的类型，例如，发动机、齿轮箱、轴承、铣刀、汽轮机的健康指标数据。通过参数指标数据可以对所述噪声预测模型进行约束，使得最终生成的时间序列与原始时间序列相似。
在一些实施例中，所述工业设备的时间序列的参数指标数据可以从外部获取。例如，电子设备接收到用户输入的工业设备的时间序列的参数指标数据。
S202、将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量。
本申请实施例中，高斯噪声是指其的概率密度函数服从高斯分布（即正态分布）的一类噪声。目标高斯噪声可以为从外部获取的一种噪声。
确定目标高斯噪声时，电子设备可以进行随机取样，确定目标时刻，从所述目标高斯噪声分布中获取所述目标时刻对应的噪声。换句话说，从高斯噪声分布中随机抽样，得到所述目标时刻的噪声。
例如，从目标高斯噪声分布中随时抽取变量/>，即，。
确定所述目标时刻的噪声时，可以将所述目标时刻的噪声作为生成时间序列的初始变量。
S203、将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声。
本申请实施例中，扩散模型可以为基于马尔克夫链的数学模型。所述噪声预测模型为基于扩散模型构建，且训练完成的噪声预测模型，可以用于生成包括样本时间序列特征的预测噪声。
将所述参数指标数据和所述初始变量输入至所述噪声预测模型中，以使所述噪声预测模型进行处理，生成所述预测噪声。
S204、根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量。
本申请实施例中，对所述预测噪声进行解噪，可以为对预测噪声进行噪声还原，得到前一时刻（例如，t-1时刻）的变量即，逐步消除预测噪声中包括的噪声，保留其中的时间序列特征。
示例性的，可以通过如下所示方式对初始变量进行解噪：
S205、将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。
本申请实施例中，将解噪后得到的前一时刻（例如，t-1时刻）的目标变量以及所述参数指标数据输入至所述噪声预测模型中，得到所述噪声预测模型输出的t-2时刻对应的预测噪声，对t-2时刻对应的预测噪声进行解噪，得到t-2时刻对应的目标变量。
循环迭代执行所述模型预测和解噪的过程，直至t=0时刻，得到的即为生成所述工业设备的时间序列。
本申请实施例提供的工业设备时间序列生成方法，通过获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。通过基于扩散模型的构建的噪声预测模型进行工业设备的时间序列的生成，降低了现有技术中存在模型训练过程难以收敛的问题，从而提升工业设备的时间序列的效率。
在上述实施例的基础上，下面对噪声预测模型生成预测的过程进行进一步说明。
图3为本申请实施例提供的生成预测噪声的流程示意图，如图3所示，包括：
S301、将所述初始变量输入至所述噪声预测模型的嵌入模块的卷积层中，对所述初始变量进行卷积处理，得到第一数据。
本申请实施例中，所述卷积层可以为1维（1D）卷积层，通过1D卷积层可以所述初始变量进行时间序列嵌入。
示例性的，
其中，Conv1D(·)表示1D卷积层，表示嵌入的时间序列，即所述第一数据。
S302、将所述参数指标数据输入至所述噪声预测模型的嵌入模块的全连接层中，对所述参数指标数据进行数据转换，得到参数指标向量。
本申请实施例中，所述全连接层可以为具有两层全连接（FC）网络的结构层，每个全连接网络中包括一个激活函数（例如，GeLU函数）。
示例性的，
其中，FC(·)表示全连接层和位置编码函数，为参数指标数据，/>为参数指标向量。
在一些实施例中，对与所述参数指标数据的处理，还可以通过设置参数𝛼来调整参数指标数据的程度。对于嵌入的参数指标向量，其中的𝛼将被设置为随机值。例如，𝛼的值越大，嵌入参数指标向量中的随机值就越大，这将导致较少的参数指标数据。
S303、将所述第一数据和所述参数指标向量输入至所述噪声预测模型的UNet模块中，对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声。
本申请实施例中，UNet模块接收到所述第一数据和所述参数指标向量时，可以采用不同的网络结构对所述第一数据和所述参数指标向量进行处理。
示例性的，UNet模块对所述第一数据和所述参数指标向量进行处理可以包括如下所示步骤：
A1、将所述参数指标向量嵌入至所述编码器层和所述解码器层。
A2、将所述第一数据输入至所述编码器层进行编码处理，得到第二数据。
A3、将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据。
A4、将所述第三数据输入至所述解码器层进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
在一些实施例中，请继续参考图1，UNet模块中的编码器层可以包括3个编码器，每个编码器包括两个连续的1D卷积块，后面跟随一个下采样操作。每个卷积块包括两个卷积层。
解码器层可以包括3个解码器，每个编码器包括两个连续的1D卷积块，后面跟随一个上采样操作，每个卷积块包括两个卷积层。
接收到所述参数指标向量时，可以将所述参数指标向量嵌入至所述编码器层中的各个编码器和所述解码器层中的各个解码器。使得编码器和解码器在进行数据处理时尽可能使处理后的数据包括所述参数指标向量相关的信息，从而提升后续时间序列生成的相关性。
将所述第一数据输入至所述编码器层中的各个编码器进行编码处理，得到第二数据，将所述第二数据输入至所述时间分解重构层中的各个层进行时间分解重构处理，得到第三数据，将所述第三数据输入至所述解码器层中的各个解码器中进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
应理解，编码器层、解码器层以及时间分解重构层中包括多个网络结构，在进行数据处理时，输入的数据为上一网络结构结构的输出结果。例如，编码器层中包括3个编码器，第2个编码器的输入数据为第1个编码器的输出结果。
本申请实施例中，为提升噪声预测模型学习时间序列生成背景下的复杂时间模式，使得最终生成的时间序列与原始时间序列具有较高的相似性，在模型处理过程中引入的时间分解重构层（时间序列分解技术），通过时间分解重构层来提取时间序列的底层模式和趋势信息，可以增强生成的时间序列和真实时间序列之间的相似性。
下面对时间分解重构层的处理过程进行说明。
示例性的，将所述第二数据输入池化层进行池化处理，得到目标特征数据；所述目标特征数据包括峰值特征数据和趋势特征数据；对所述峰值特征数据和所述趋势特征数据串联后输入至卷积层和注意力层进行处理，得到所述第三数据。
在一些实施例中，对所述第二数据进行平均池化处理，得到所述趋势特征数据；对所述第二数据进行最大池化处理，得到所述峰值特征数据。
本申请实施例中，所述时间分解重构层可以包括：池化层、卷积层和注意力层三种类型。
在一种可能的实现方式中，其连接关系可以如图4所示，包括两个池化层、5个卷积层、以及注意力层。
将第二数据分别输入至池化层中进行池化处理，使用平均池化和最大池化来分解第二数据，生成峰值特征数据和趋势特征数据。将峰值特征数据和趋势特征数据进行串联后输入至卷积层中进行时序特征串联。
在一种可能的实现方式中，使用平均池化和最大池化来分解第二数据，生成峰值特征数据和趋势特征数据时，可以使用同一池化层采用不同的池化方法进行处理，也可以采用不同的池化层进行处理，本申请实施例对此不进行限制。
将串联后时序特征输入至3个1维卷积层进行处理，生成分离的特征，然后执行注意力机制进行特征提取，最后通过1维卷积层进行处理生成第三数据。
示例性的，对于输入的第二数据（X），可以采用如下所示方式表示时序特征串联过程：
其中，为趋势特征数据，/>为峰值特征数据，表示对X进行平均池化处理，表示对X进行最大池化处理，/>表示串联后卷积的处理结果。
在执行时序特征串联后，可以执行卷积注意结构来重构多传感器时间序列。首先，通过三个1维卷积层处理时间序列，生成分离的特征，然后执行注意机制，如下所示：
其中，是参数矩阵，/>是缩放因子。
综上所述，本申请实施例提供的生成预测噪声的方法，通过引入时间分解重构（TDR）机制，可以使生成噪声中包括的时间序列特征与原始时间序列特征的相似性较高，从而提升生成的工业设备的时间序列的准确性。
在上述实施例的基础上，下面对所述噪声预测模型的训练过程进行说明。
图5为本申请实施例提供的噪声预测模型训练方法的流程示意图，如图5所示，包括：
S501、获取训练样本，所述训练样本包括至少一个工业设备的样本时间序列、所述样本时间序列的参数指标数据，所述样本时间序列的时间步长，以及，标签噪声。
本申请实施例中，时间步长，是指前后两个时间点之间的差值，即，样本时间序列中离散的数据之间的差值。标签噪声为用于对所述样本时间序列进行噪声扩散。可以从目标高斯噪声分布中获取。
S502、将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声。
在一些实施例中，所述噪声预测模型根据训练样本输出目标噪声的方式可以如下所示：
示例性的，对所述样本时间序列进行噪声扩散，得到所述样本时间序列的潜在变量；将所述样本时间序列的潜在变量输入嵌入模块的卷积层中，对所述潜在变量进行卷积处理，得到第五数据；对所述参数指标数据和所述时间步长分别输入嵌入模块的全连接层中进行数据处理，得到第六数据；将所述第五数据和所述第六数据输入UNet模块进行处理，得到所述目标噪声。
如图6所示，获取到样本时间序列（原始信号），使用标签噪声对所述样本时间序列进行噪声扩散（diffusion），得到所述潜在变量。
示例性的，对所述样本时间序列进行噪声扩散可以类似条件扩散的过程，是指对样本时间序列逐渐增加高斯噪声直至数据变成随机噪声的过程。
对于原始数据（样本时间序列），扩散过程的每一步都是对上一步的/>添加高斯噪声:
为噪声分布符号，(0，I)为高斯噪声的分布范围。
通过不断加噪，只要扩散过程的总步数T足够大，那么最终得到的就会无限趋向于一个高斯随机噪声，整个扩散过程就是一个马尔可夫链:
在实际扩散过程中可以直接基于原始数据来对任意t步的/>进行采样，获得
，
利用重参数技巧可得:
其中,这种方法可以仅计算一次完成前向过程中的加噪,而不需要逐步加噪。通过扩散过程得到扩散之后的噪声序列（潜在变量）。
对于参数指标数据的处理与前述实施例中的类似，此处不再赘述。
对于时间步长，使用一个具有两层全连接（FC）网络的正弦嵌入将离散时间步长t嵌入到连续时间特征中，使噪声预测网络能够理解随时间变化的数据。
其中，是时间编码，PosEmbed(·)表示正弦位置嵌入方法，GeLU是一个激活函数。
将处理后的参数指标数据和时间步长进行合并后，嵌入至所述UNet模块中的编码器层和解码器层。对潜在变量经过卷积后输入至UNet模块中进行处理。
UNet模块根据输入的数据输出目标噪声的过程与上述实施例中输出预测噪声的过程类似，此处不再赘述。
S503、根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数。
本申请实施例中，UNet模块接收到输入的潜在变量时，可以对潜在变量进行学习，输出预测的噪声，对所述预测的噪声进行降噪，即，将恢复至/>，对潜在变量进行降噪的过程与扩散过程类似，也可以通过马尔可夫链定义：
对潜在变量进行降噪中添加了参数指标数据（），将参数指标数据添加至降噪过程，降噪过程可以满足如下所示公式：
其中，和/>为过程参数，可以由下述公式进行定义：
在对噪声预测模型进行训练时，可以采用最小化噪声估计损失的方式确定损失函数，为增强合成时间序列和真实时间序列之间的相似性，通过在损失函数中引入最大均值差异（Maximum Mean Discrepancy，MMD）来正则化损失函数，作为最终的目标损失函数。
示例性的，根据所述标签噪声和所述目标噪声，获取噪声估计损失函数；将所述标签噪声和所述目标噪声映射至目标维度空间，获取所述标签噪声和所述目标噪声的相似性函数；根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数。
示例性的，噪声估计损失函数可以满足如下所示公式：
其中，D为样本时间序列分布，为样本噪声，/>为误差数学期望符号。
相似性函数可以满足如下所示公式：
其中，K(·)代表设计用于在高特征维度空间中再现分布的正定核函数（核矩阵），和/>分别为/>和m进行正定核函数处理后的值。/>
和m可以由如下所示公式定义：
确定所述噪声估计损失函数和所述相似性函数，可以对噪声估计损失函数和所述相似性函数进行处理，得到所述目标损失函数。
示例性的，将所述噪声估计损失函数和所述相似性函数进行加和处理，得到所述目标损失函数。
目标损失函数可以满足如下所示公式：
在一些实施例中，目标损失函数还可以如下所示：
其中，为平衡超参数，可以用于调整目标损失函数，以提高目标损失函数的收敛速度。例如，/>可以设置为0.1。
S504、根据所述目标损失函数，通过反向传播的方式对所述噪声预测模型进行训练。
本申请实施例中，根据目标损失函数，通过反向传播的方式对所述噪声预测模型进行迭代训练，在所述目标损失函数收敛时，所述噪声预测模型训练完成。
应理解，训练完成的噪声预测模型可以几率训练时输入的时间序列特征，在使用时，只需给定条件信息与随机噪声，即可以生成包括所述时间序列特征的预测噪声。
本申请实施例提供的噪声预测模型的训练方法，通过在损失函数中添加相似性函数，可以提高生成的时间序列和真实时间序列之间的相似性。
本申请实施例还提供一种基于扩散模型的工业设备时间序列生成装置。
图7为本申请实施例提供的基于扩散模型的工业设备时间序列生成装置70的结构示意图，如图7所示，包括：
获取模块701，获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关。
确定模块702，用于将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量。
处理模块703，用于将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声。
解噪模块704，用于根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量。
迭代模块705，用于将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列。
可选的，处理模块703，还用于将所述初始变量输入至所述噪声预测模型的嵌入模块的卷积层中，对所述随机变量进行卷积处理，得到第一数据；将所述参数指标数据输入至所述噪声预测模型的嵌入模块的全连接层中，对所述参数指标数据进行数据转换，得到参数指标向量；将所述第一数据和所述参数指标向量输入至所述噪声预测模型的UNet模块中，对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声。
可选的，处理模块703，还用于将所述参数指标向量嵌入至所述编码器层和所述解码器层；将所述第一数据输入至所述编码器层进行编码处理，得到第二数据；将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据；将所述第三数据输入至所述解码器层进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
可选的，处理模块703，还用于将所述第二数据输入池化层进行池化处理，得到目标特征数据；所述目标特征数据包括峰值特征数据和趋势特征数据；对所述峰值特征数据和所述趋势特征数据串联后输入至卷积层和注意力层进行处理，得到所述第三数据。
可选的，时间序列生成装置70还包括：训练模块706。
训练模块706，用于获取训练样本，所述训练样本包括至少一个工业设备的样本时间序列、所述样本时间序列的参数指标数据，所述样本时间序列的时间步长，以及，标签噪声；将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声；根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数；根据所述目标损失函数，通过反向传播的方式对所述噪声预测模型进行训练。
可选的，训练模块706，还用于将所述样本时间序列输入嵌入模块的扩散层中进行噪声扩散，得到所述样本时间序列的潜在变量；将所述样本时间序列的潜在变量输入嵌入模块的卷积层中，对所述潜在变量进行卷积处理，得到第五数据；对所述参数指标数据和所述时间步长分别输入嵌入模块的全连接层中进行数据处理，得到第六数据；将所述第五数据和所述第六数据输入UNet模块进行处理，得到所述目标噪声。
可选的，训练模块706，还用于根据所述标签噪声和所述目标噪声，获取噪声估计损失函数；将所述标签噪声和所述目标噪声映射至目标维度空间，获取所述标签噪声和所述目标噪声的相似性函数；根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数。
可选的，训练模块706，还用于将所述噪声估计损失函数和所述相似性函数进行加和处理，得到所述目标损失函数。
本申请实施例提供的基于扩散模型的工业设备时间序列生成装置可以执行上述任一实施例提供的基于扩散模型的工业设备时间序列生成方法，其原理和技术效果类似，此处不再赘述。
本申请实施例还提供一种电子设备。
图8为本申请实施例提供的电子设备80的结构示意图，如图8所示，包括：
处理器801。
存储器802，用于存储终端设备的可执行指令。
具体的，程序可以包括程序代码，程序代码包括计算机操作指令。存储器802可能包含高速RAM存储器，也可能还包括非易失性存储器（non-volatile memory），例如至少一个磁盘存储器。
处理器801用于执行存储器802存储的计算机执行指令，以实现前述方法实施例所描述的基于扩散模型的工业设备时间序列生成方法实施例的技术方案。
其中，处理器801可能是一个中央处理器（Central Processing Unit，简称为CPU），或者是特定集成电路（Application Specific Integrated Circuit，简称为ASIC），或者是被配置成实施本申请实施例的一个或多个集成电路。
可选的，电子设备80还可以包括通信接口803，以通过通信接口803可以与外部设备进行通信交互，外部设备例如可以是用户终端（例如，手机、平板）。在具体实现上，如果通信接口803、存储器802和处理器801独立实现，则通信接口803、存储器802和处理器801可以通过总线相互连接并完成相互间的通信。
总线可以是工业标准体系结构（Industry Standard Architecture，简称为ISA）总线、外部设备互连（Peripheral Component，简称为PCI）总线或扩展工业标准体系结构（Extended Industry Standard Architecture，简称为EISA）总线等。总线可以分为地址总线、数据总线、控制总线等，但并不表示仅有一根总线或一种类型的总线。
可选的，在具体实现上，如果通信接口803、存储器802和处理器801集成在一块芯片上实现，则通信接口803、存储器802和处理器801可以通过内部接口完成通信。
本申请实施例中还提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述基于扩散模型的工业设备时间序列生成方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。
一种可能的实现方式中，计算机可读介质可以包括随机存取存储器（RandomAccess Memory，RAM），只读存储器（Read-Only Memory，ROM），只读光盘（compact discread-only memory，CD-ROM）或其它光盘存储器，磁盘存储器或其它磁存储设备，或目标于承载的任何其它介质或以指令或数据结构的形式存储所需的程序代码，并且可由计算机访问。而且，任何连接被适当地称为计算机可读介质。例如，如果使用同轴电缆，光纤电缆，双绞线，数字用户线（Digital Subscriber Line，DSL）或无线技术（如红外，无线电和微波）从网站，服务器或其它远程源传输软件，则同轴电缆，光纤电缆，双绞线，DSL或诸如红外，无线电和微波之类的无线技术包括在介质的定义中。如本文所使用的磁盘和光盘包括光盘，激光盘，光盘，数字通用光盘（Digital Versatile Disc，DVD），软盘和蓝光盘，其中磁盘通常以磁性方式再现数据，而光盘利用激光光学地再现数据。上述的组合也应包括在计算机可读介质的范围内。
本申请实施例中还提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述基于扩散模型的工业设备时间序列生成方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。
在上述终端设备或者服务器的具体实现中，应理解，处理器可以是中央处理单元（英文：Central Processing Unit，简称：CPU），还可以是其他通用处理器、数字信号处理器（英文：Digital Signal Processor，简称：DSP）、专用集成电路（英文：ApplicationSpecific Integrated Circuit，简称：ASIC）等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。
本领域技术人员可以理解，上述任一方法实施例的全部或部分步骤可以通过与程序指令相关的硬件来完成。前述的程序可以存储于计算机可读取存储介质中，该程序被执行时，执行上述方法实施例的全部或部分的步骤。
本申请技术方案如果以软件的形式实现并作为产品销售或使用时，可以存储在计算机可读取存储介质中。基于这样的理解，本申请的技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在存储介质中，包括计算机程序或者若干指令。该计算机软件产品使得计算机设备（可以是个人计算机、服务器、网络设备或者类似的电子设备）执行本申请实施例所述方法的全部或部分步骤。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本申请所必须的。
进一步需要说明的是，虽然流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
应该理解，上述的装置实施例仅是示意性的，本申请的装置还可通过其它的方式实现。例如，上述实施例中单元/模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。例如，多个单元、模块或组件可以结合，或者可以集成到另一个***，或一些特征可以忽略或不执行。
另外，若无特别说明，在本申请各个实施例中的各功能单元/模块可以集成在一个单元/模块中，也可以是各个单元/模块单独物理存在，也可以两个或两个以上单元/模块集成在一起。上述集成的单元/模块既可以采用硬件的形式实现，也可以采用软件程序模块的形式实现。
集成的单元/模块如果以硬件的形式实现时，该硬件可以是数字电路，模拟电路等等。硬件结构的物理实现包括但不局限于晶体管，忆阻器等等。若无特别说明，处理器可以是任何适当的硬件处理器，比如CPU、GPU、FPGA、DSP和ASIC等等。若无特别说明，存储单元可以是任何适当的磁存储介质或者磁光存储介质，比如，阻变式存储器RRAM（ResistiveRandom Access Memory）、动态随机存取存储器DRAM（Dynamic Random Access Memory）、静态随机存取存储器SRAM（Static Random-Access Memory）、增强动态随机存取存储器EDRAM（Enhanced Dynamic Random Access Memory）、高带宽内存HBM（High-Bandwidth Memory）、混合存储立方 HMC（Hybrid Memory Cube）等等。
集成的单元/模块如果以软件程序模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储器中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储器中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例方法的全部或部分步骤。而前述的存储器包括：U盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。上述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
最后应说明的是：以上各实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述各实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

Claims (8)

1.一种基于扩散模型的工业设备时间序列生成方法，其特征在于，包括：
获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；所述参数指标数据用于指示生成的时间序列的类型；所述参数指标数据包括发动机的健康指标数据、齿轮箱的健康指标数据、轴承的健康指标数据、铣刀的健康指标数据以及汽轮机的健康指标数据中的至少一种；
将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；
将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；
根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；
将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列；
所述将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声，包括：
将所述初始变量输入至所述噪声预测模型的嵌入模块的卷积层中，对所述初始变量进行卷积处理，得到第一数据；
将所述参数指标数据输入至所述噪声预测模型的嵌入模块的全连接层中，对所述参数指标数据进行数据转换，得到参数指标向量；
将所述第一数据和所述参数指标向量输入至所述噪声预测模型的UNet模块中，对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声；
所述UNet模块包括编码器层、时间分解重构层、解码器层，以及，卷积层，所述对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声，包括：
将所述参数指标向量嵌入至所述编码器层和所述解码器层；
将所述第一数据输入至所述编码器层进行编码处理，得到第二数据；
将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据；
将所述第三数据输入至所述解码器层进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
2.根据权利要求1所述的方法，其特征在于，所述时间分解重构层包括：池化层、卷积层和注意力层；所述将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据，包括：
将所述第二数据输入池化层进行池化处理，得到目标特征数据；所述目标特征数据包括峰值特征数据和趋势特征数据；
对所述峰值特征数据和所述趋势特征数据串联后输入至卷积层和注意力层进行处理，得到所述第三数据。
3.根据权利要求2所述的方法，其特征在于，所述将所述第二数据输入池化层进行池化处理，得到目标特征数据，包括：
对所述第二数据进行平均池化处理，得到所述趋势特征数据；
对所述第二数据进行最大池化处理，得到所述峰值特征数据。
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获取训练样本，所述训练样本包括至少一个工业设备的样本时间序列、所述样本时间序列的参数指标数据，所述样本时间序列的时间步长，以及，标签噪声；
将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声；
根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数；
根据所述目标损失函数，通过反向传播的方式对所述噪声预测模型进行训练。
5.根据权利要求4所述的方法，其特征在于，所述将所述训练样本输入至所述噪声预测模型中，得到所述噪声预测模型输出的目标噪声，包括：
将所述样本时间序列输入嵌入模块的扩散层中进行噪声扩散，得到所述样本时间序列的潜在变量；
将所述样本时间序列的潜在变量输入嵌入模块的卷积层中，对所述潜在变量进行卷积处理，得到第五数据；
对所述参数指标数据和所述时间步长分别输入嵌入模块的全连接层中进行数据处理，得到第六数据；
将所述第五数据和所述第六数据输入UNet模块进行处理，得到所述目标噪声。
6.根据权利要求4所述的方法，其特征在于，所述根据所述标签噪声和所述目标噪声，通过最大均值差异MMD的方式，获取所述噪声预测模型的目标损失函数，包括：
根据所述标签噪声和所述目标噪声，获取噪声估计损失函数；
将所述标签噪声和所述目标噪声映射至目标维度空间，获取所述标签噪声和所述目标噪声的相似性函数；
根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数。
7.根据权利要求6所述的方法，其特征在于，所述根据所述噪声估计损失函数和所述相似性函数，得到所述目标损失函数，包括：
将所述噪声估计损失函数和所述相似性函数进行加和处理，得到所述目标损失函数。
8.一种基于扩散模型的工业设备时间序列生成装置，其特征在于，包括：
获取模块，用于获取工业设备的时间序列的参数指标数据，所述参数指标数据与所述时间序列的类型相关；所述参数指标数据用于指示生成的时间序列的类型；所述参数指标数据包括发动机的健康指标数据、齿轮箱的健康指标数据、轴承的健康指标数据、铣刀的健康指标数据以及汽轮机的健康指标数据中的至少一种；
确定模块，用于将目标高斯噪声分布中目标时刻的噪声作为所述时间序列的初始变量；
处理模块，用于将所述参数指标数据和所述初始变量输入至基于扩散模型构建的噪声预测模型中，得到所述噪声预测模型输出的预测噪声；
解噪模块，用于根据所述初始变量对所述预测噪声进行解噪，得到所述时间序列中位于所述目标时刻的前一时刻的目标变量；
迭代模块，用于将所述目标变量和所述参数指标数据输入至所述噪声预测模型中进行迭代，生成所述工业设备的时间序列；
所述处理模块，还用于将所述初始变量输入至所述噪声预测模型的嵌入模块的卷积层中，对所述初始变量进行卷积处理，得到第一数据；将所述参数指标数据输入至所述噪声预测模型的嵌入模块的全连接层中，对所述参数指标数据进行数据转换，得到参数指标向量；将所述第一数据和所述参数指标向量输入至所述噪声预测模型的UNet模块中，对所述第一数据和所述参数指标向量进行重构处理，得到所述预测噪声；
所述UNet模块包括编码器层、时间分解重构层、解码器层；
所述处理模块，还用于将所述参数指标向量嵌入至所述编码器层和所述解码器层；将所述第一数据输入至所述编码器层进行编码处理，得到第二数据；将所述第二数据输入至所述时间分解重构层进行时间分解重构处理，得到第三数据；将所述第三数据输入至所述解码器层进行解码处理，得到第四数据，并将所述第四数据输入至所述卷积层进行卷积处理，得到所述预测噪声。
CN202311595067.XA 2023-11-28 2023-11-28 基于扩散模型的工业设备时间序列生成方法及装置 Active CN117312777B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311595067.XA CN117312777B (zh) 2023-11-28 2023-11-28 基于扩散模型的工业设备时间序列生成方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311595067.XA CN117312777B (zh) 2023-11-28 2023-11-28 基于扩散模型的工业设备时间序列生成方法及装置

Publications (2)

Publication Number Publication Date
CN117312777A CN117312777A (zh) 2023-12-29
CN117312777B true CN117312777B (zh) 2024-02-20

Family

ID=89281373

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311595067.XA Active CN117312777B (zh) 2023-11-28 2023-11-28 基于扩散模型的工业设备时间序列生成方法及装置

Country Status (1)

Country Link
CN (1) CN117312777B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117789744B (zh) * 2024-02-26 2024-05-24 青岛海尔科技有限公司 基于模型融合的语音降噪方法、装置及存储介质
CN118035926B (zh) * 2024-04-11 2024-06-18 合肥工业大学 基于多元数据扩散的模型训练、水检测方法及***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116703607A (zh) * 2023-06-15 2023-09-05 上海交通大学宁波人工智能研究院 一种基于扩散模型的金融时间序列预测方法与***
CN116796212A (zh) * 2023-07-12 2023-09-22 河南大学 基于权重递增的条件扩散模型的时间序列异常检测方法及装置
CN117056728A (zh) * 2023-08-28 2023-11-14 慕思健康睡眠股份有限公司 一种时间序列生成方法、装置、设备和存储介质
CN117076931A (zh) * 2023-10-12 2023-11-17 北京科技大学 一种基于条件扩散模型的时间序列数据预测方法和***

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230368337A1 (en) * 2022-05-13 2023-11-16 Nvidia Corporation Techniques for content synthesis using denoising diffusion models

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116703607A (zh) * 2023-06-15 2023-09-05 上海交通大学宁波人工智能研究院 一种基于扩散模型的金融时间序列预测方法与***
CN116796212A (zh) * 2023-07-12 2023-09-22 河南大学 基于权重递增的条件扩散模型的时间序列异常检测方法及装置
CN117056728A (zh) * 2023-08-28 2023-11-14 慕思健康睡眠股份有限公司 一种时间序列生成方法、装置、设备和存储介质
CN117076931A (zh) * 2023-10-12 2023-11-17 北京科技大学 一种基于条件扩散模型的时间序列数据预测方法和***

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
噪声的随机微分方程模型与应用;扈罗全;;中国电子科学研究院学报(06);全文 *

Also Published As

Publication number Publication date
CN117312777A (zh) 2023-12-29

Similar Documents

Publication Publication Date Title
CN117312777B (zh) 基于扩散模型的工业设备时间序列生成方法及装置
CN109671026B (zh) 基于空洞卷积及自动编解码神经网络的灰度图像降噪方法
CN111738020B (zh) 一种翻译模型的训练方法及装置
Wang et al. TRC‐YOLO: A real‐time detection method for lightweight targets based on mobile devices
CN116049459B (zh) 跨模态互检索的方法、装置、服务器及存储介质
CN115018954A (zh) 图像生成方法、装置和电子设备
CN111898482A (zh) 基于渐进型生成对抗网络的人脸预测方法
Wang et al. A new blind image denoising method based on asymmetric generative adversarial network
CN116863012A (zh) 基于扩散模型的文图生成任务推理加速方法和***
Fakhari et al. A new restricted boltzmann machine training algorithm for image restoration
CN116127925B (zh) 基于对文本进行破坏处理的文本数据增强方法及装置
CN117197268A (zh) 图像生成方法、装置及存储介质
CN112507107A (zh) 术语匹配方法、装置、终端和计算机可读存储介质
CN116310624A (zh) 用于图像的模型训练方法以及无监督图像哈希检索方法
CN113506581B (zh) 一种语音增强方法和装置
WO2023055614A1 (en) Embedding compression for efficient representation learning in graph
CN112785575B (zh) 一种图像处理的方法、装置和存储介质
Deshmukh Image compression using neural networks
CN115879515B (zh) 文档网络主题建模方法、变分邻域编码器、终端及介质
CN116010858B (zh) 基于自监督学习的通道注意MLP-Mixer网络模型装置及其应用
CN114819122B (zh) 基于脉冲神经网络的数据处理方法及装置
CN117313656B (zh) 文本生成方法、训练方法、模型、装置、设备及存储介质
CN113222113B (zh) 一种基于反缩放卷积层的信号生成方法及装置
CN117131203B (zh) 一种基于知识图谱的文本生成隐写方法、相关方法及装置
CN117975211A (zh) 一种基于多模态信息的图像处理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant