CN115796407A - 一种生产线故障预测方法及相关设备 - Google Patents

Abstract

本发明公开了生产线故障预测方法及相关设备,方法包括：获取输入序列数据，输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；将输入序列数据输入至初始特征提取层，获取初始特征提取层输出的初始序列特征，初始序列特征中包括各个时刻的运行数据分别对应的特征向量；基于初始序列特征，生成N个拆分序列特征；将N个拆分序列特征分别输入至各个自注意力模块，获取每个自注意力模块的输出，每个自注意力模块包括至少一个自注意力层，将各个自注意力模块的输出连接后输入至预测模块，获取预测模块输出的故障预测结果序列。本发明可以实现生产线不停机状态下的故障预测。

Description

一种生产线故障预测方法及相关设备

技术领域

本发明涉及人工智能技术领域，特别涉及一种生产线故障预测方法及相关设备。

背景技术

生产线上包括多种机械设备，多种机械设备配合实现复杂生产过程。构成生产线的多个组件由于部件老化、生产环境（粉尘、清洁不及时）等问题会造成生产线故障，生产线故障停机检修会严重影响生产效率。但是现有技术中，需要在生产结束后停机由技术人员巡检以避免故障发生，无法在生产线正常运行的情况下进行故障预测。

因此，现有技术还有待改进和提高。

发明内容

针对现有技术的上述缺陷，本发明提供一种生产线故障预测方法，旨在解决现有技术中无法在生产线正常运行的情况下进行故障预测的问题。

为了解决上述技术问题，本发明所采用的技术方案如下：

本发明的第一方面，提供一种生产线故障预测方法，所述方法包括：

获取输入序列数据，所述输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；

将所述输入序列数据输入至初始特征提取层，获取所述初始特征提取层输出的初始序列特征，所述初始序列特征中包括各个时刻的运行数据分别对应的特征向量；

基于所述初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个所述拆分序列特征与所述初始序列特征相同，第n个所述拆分序列特征为第n-1个拆分序列特征中的部分特征向量；

将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，每个所述自注意力模块包括至少一个自注意力层，将各个所述自注意力模块的输出连接后输入至预测模块，获取所述预测模块输出的故障预测结果序列；

其中，所述故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

所述的生产线故障预测方法，其中，所述基于所述初始序列特征，生成N个拆分序列特征，包括：

在第n-1个所述拆分序列特征中选取后1/M的特征向量，得到第n个所述拆分序列特征。

所述的生产线故障预测方法，其中，第一个所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量高于其他的所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量。

所述的生产线故障预测方法，其中，所述自注意力模块中还包括下采样模块，所述将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，包括：

在每个所述自注意力层中，对输入的序列特征执行如下操作：

获取输入的序列特征中每个特征向量对应的查询向量，得到查询集合；

通过所述下采样模块对所述查询集合中的所述查询向量进行下采样，得到多个目标查询向量，所述目标查询向量中至少一位为0，基于所述目标查询向量获取所述自注意力层的输出。

所述的生产线故障预测方法，其中，所述基于所述目标查询向量获取所述自注意力层的输出，包括：

获取输入的序列特征中每个特征向量对应的键向量和值向量；

基于各个所述目标查询向量、各个所述键向量和各个所述值向量获取所述自注意力层的输出。

所述的抓生产线故障预测方法，其中，所述初始特征提取层、所述自注意力模块以及所述预测模块的参数基于如下步骤确定：

在多个训练数据中确定样本训练数据，每个所述训练数据中包括样本输入序列数据以及所述样本输入序列数据对应的故障预测结果标签；

根据所述初始特征提取层、所述自注意力模块以及所述预测模块获取所述样本输入序列数据对应的样本故障预测结果序列；

根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，根据所述训练损失更新所述初始特征提取层、所述自注意力模块以及所述预测模块的参数。

所述的生产线故障预测方法，其中，所述根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，包括：

根据所述故障预测结果标签和所述样本故障预测结果序列之间的差异获取第一损失；

获取所述样本输入序列数据对应的所述目标查询向量，获取所述样本输入序列数据中的所有所述查询向量对应的自注意力层的输出，根据所有所述查询向量对应的自注意力层的输出和所有所述目标查询向量对应的自注意力层的输出获取第二损失；

根据所述第一损失和所述第二损失确定所述训练损失。

本发明的第二方面，提供一种生产线故障预测装置，包括：

输入数据获取单元，用于获取输入序列数据，所述输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；

初始特征提取单元，用于将所述输入序列数据输入至初始特征提取层，获取所述初始特征提取层输出的初始序列特征，所述初始序列特征中包括各个时刻的运行数据分别对应的特征向量；

特征拆分单元，用于基于所述初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个所述拆分序列特征与所述初始序列特征相同，第n个所述拆分序列特征为第n-1个拆分序列特征中的部分特征向量；

预测单元，用于将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，每个所述自注意力模块包括至少一个自注意力层，将各个所述自注意力模块的输出连接后输入至预测模块，获取所述预测模块输出的故障预测结果序列；

其中，所述故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

本发明的第三方面，提供一种终端，所述终端包括处理器、与处理器通信连接的计算机可读存储介质，所述计算机可读存储介质适于存储多条指令，所述处理器适于调用所述计算机可读存储介质中的指令，以执行实现上述任一项所述的生产线故障预测方法的步骤。

本发明的第四方面，提供一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述任一项所述的生产线故障预测方法的步骤。

与现有技术相比，本发明提供了一种生产线故障预测方法，所述的生产线故障预测方法，采集生产线的运行数据，将运行数据输入至神经网络模型中进行处理，得到故障预测结构，可以实现生产线不停机状态下的故障预测。

附图说明

图1为本发明提供的生产线故障预测方法的实施例的流程图；

图2为本发明提供的生产线故障预测装置的实施例的结构原理图；

图3为本发明提供的终端的实施例的原理示意图。

具体实施方式

为使本发明的目的、技术方案及效果更加清楚、明确，以下参照附图并举实施例对本发明进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。

本发明提供的生产线故障预测方法，可以应用于具有计算能力的终端中，终端可以但不限于是各种计算机、服务器、移动设备等。

如图1所示，生产线故障预测方法的一个实施例中，包括步骤：

S100、获取输入序列数据，输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据。

生产线的运行数据包括生产线上的设备的运行数据，例如设备的运行温度、工作电压等，可以通过设置在设备上的传感器以及与设备通信连接的采集装置获取，生产线的运行数据还可以包括生产线上生产的产品的合规性数据，可以通过对下线的产品进行测试获取，运行数据还可以包括生产线的图像数据，可以通过设置在生产线上或生产线周围的摄像头获取。

将一段时间内各个时刻的运行数据按时间顺序排列，得到输入序列数据，相邻的两个时刻之间间隔固定时长。

S200、将输入序列数据输入至初始特征提取层，获取初始特征提取层输出的初始序列特征，初始序列特征中包括各个时刻的运行数据分别对应的特征向量。

在本实施例中，通过神经网络模型来对输入序列数据进行处理，输出故障预测结果，该神经网络模型包括初始特征提取层，输入序列数据首先被输入至初始特征提取层，初始特征提取层中可以采用现有的特征提取网络的结构，经过初始特征提取层，输入序列数据中每个时刻的运行数据被处理为特征向量，组成初始序列特征。

S300、基于初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个拆分序列特征与初始序列特征相同，第n个拆分序列特征为第n-1个拆分序列特征中的部分特征向量。

在预测出故障后，生产线检修需要提前进行工期安排，因此，在本实施例中，是生成长序列的预测输出，长序列的预测输出的准确性也需要长序列的输入来提供足够的信息。而在长序列的处理过程中，很可能会丢失细节信息，而特别是距离预测时间段的时间越近的细节信息，对预测结果会更有帮助。在本实施例中，为了保留细节信息。对初始序列特征进行拆分，得到拆分序列特征，具体包括：在第n-1个拆分序列特征中选取后1/M的特征向量，得到第n个拆分序列特征。

M为大于1的正整数，以M取2为例，对于完整的初始序列特征，生成多个拆分序列特征，第一个拆分序列特征与初始序列特征相同，第二个拆分序列特征包括初始序列特征的后1/2的特征向量，第三个拆分序列特征包括初始序列特征的后1/4的特征向量。

S400、将N个拆分序列特征分别输入至各个自注意力模块，获取每个自注意力模块的输出，每个自注意力模块包括至少一个自注意力层，将各个自注意力模块的输出连接后输入至预测模块，获取预测模块输出的故障预测结果序列。

在本实施例中，预测模块一步生成故障预测结果序列以降低预测时间复杂度。在本实施例的神经网络模型中，对应每个拆分序列特征，分别设置一个对应的自注意力模块，每个自注意力模块包括至少一个自注意力层，其中，由于第一个拆分序列特征的数据量更多，第一个拆分序列特征对应的自注意力模块中包括的自注意力层的数量高于其他的拆分序列特征对应的自注意力模块中包括的自注意力层的数量，用于提取更高层次的信息。

在传统的自注意力机制中，对于每一个输入特征向量，首先计算其对应的查询向量、键向量和值向量，每一个查询向量都要与所有的键向量点乘，这会造成很大的计算量，降低效率。为了提升效率，本实施例中，自注意力模块中包括下采样模块，在每个自注意力层中，对输入该自注意力层的序列特征，执行如下操作：

获取输入的序列特征中每个特征向量对应的查询向量，得到查询集合；

通过下采样模块对查询集合中的查询向量进行下采样，得到多个目标查询向量，目标查询向量中至少一位为0，基于目标查询向量获取自注意力层的输出。

特征向量对应的查询向量是基于特征向量和自注意力层对应的查询矩阵得到的。针对本实施例中输入至自注意力层的特征序列较长的特征，设置了下采样模块，对特征序列中每个特征向量对应的查询向量进行下采样，只保留每个查询向量中的部分元素，其余的元素置为0，由于对于0的元素，在点乘过程中可以不进行运算，直接置点乘结果为0，这样便可以降低自注意力机制中的运算量。

可以看出，对查询向量进行下采样后得到的目标查询向量，二者的尺寸相同，只是目标查询向量中存在0元素。基于目标查询向量获取自注意力层的输出，包括：

获取输入的序列特征中每个特征向量对应的键向量和值向量；

基于各个目标查询向量、各个键向量和各个值向量获取自注意力层的输出。

具体地，根据传统的自注意力机制中基于查询向量query、键向量key和值向量value获取自注意力输出的方式获取本实施例中自注意力层的输出。

自注意力层输出的也是多个特征向量组成的序列，将其输入至神经网络的下个模块，如果自注意力块中只有一个自注意力层，那么该自注意力层的输出就是该自注意力模块的输出，如果自注意力块中有多个自注意力层，那么每个自注意力层的输入为上一个自注意力层的输出，最后一个自注意力层的输出为自注意力模块的输出。

将各个自注意力模块输出的特征连接后输入至预测模块，预测模块可以采用现有的解码器的结构，预测模块输出故障预测结果序列。

前文中初始特征提取层、自注意力模块以及预测模块的参数基于神经网络模型的训练过程确定。具体训练过程如下：

在多个训练数据中确定样本训练数据，每个训练数据中包括样本输入序列数据以及样本输入序列数据对应的故障预测结果标签；

根据初始特征提取层、自注意力模块以及预测模块获取样本输入序列数据对应的样本故障预测结果序列；

根据故障预测结果标签和样本故障预测结果序列获取训练损失，根据训练损失更新初始特征提取层、自注意力模块以及预测模块的参数。

为了进一步提升训练效率以及提升神经网络模型的学习能力，在本实施例中，针对本实施例中设置的下采样层的输出设置了对应的损失计算过程，这样，可以使得神经网络模型能够实现在降低运算复杂度的同时可以保证在放弃部分信息的情况下维持模型的预测准确性。具体地，根据故障预测结果标签和样本故障预测结果序列获取训练损失，包括：

根据故障预测结果标签和样本故障预测结果序列之间的差异获取第一损失；

获取样本输入序列数据对应的目标查询向量，获取样本输入序列数据中的所有查询向量对应的自注意力层的输出，根据所有查询向量对应的自注意力层的输出和目标查询向量对应的自注意力层的输出获取第二损失；

根据第一损失和第二损失确定训练损失。

可以理解，为了保证对查询向量进行下采样后不损失对预测结果重要性的信息，下采样后的查询向量的注意力机制输出与下采样前的查询向量的注意力机制输出越接近越好，因此，在本实施例提供的方法中，在训练过程中，除了计算基于下采样后的目标查询向量对应的注意力层输出外，在基于原始的查询向量计算对应的注意力层输出，根据二者的差异获取第二损失。根据第二损失、样本输入序列对应的样本故障预测结果序列与故障预测结果标签之间的差异得到训练损失来更新神经网络模型各个模块的参数。

进一步地，为了防止模型训练过程向尽可能不降目标查询向量中的元素置为0，以使得第一损失尽可能小的方向发展，在本实施例中，还设置有第三损失，即根据第一损失和第二损失确定训练损失，包括：

基于样本输入序列对应的目标查询向量中0元素的个数，确定第三损失；

根据第一损失、第二损失和第三损失确定训练损失。

也就是说，基于模型计算效率的考虑，希望目标查询向量中0元素个数越多越好，这样可以降低运算时间复杂度。

综上所述，本实施例提供一种生产线故障预测方法，采集生产线的运行数据，将运行数据输入至神经网络模型中进行处理，得到故障预测结构，可以实现生产线不停机状态下的故障预测。

应该理解的是，虽然本发明说明书附图中给出的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取计算机可读存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本发明所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器（ROM）、可编程ROM（PROM）、电可编程ROM（EPROM）、电可擦除可编程ROM（EEPROM）或闪存。易失性存储器可包括随机存取存储器（RAM）或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM（SRAM）、动态RAM（DRAM）、同步DRAM（SDRAM）、双数据率SDRAM（DDRSDRAM）、增强型SDRAM（ESDRAM）、同步链路（Synchlink） DRAM（SLDRAM）、存储器总线（Rambus）直接RAM（RDRAM）、直接存储器总线动态RAM（DRDRAM）、以及存储器总线动态RAM（RDRAM）等。

基于上述实施例，本发明还相应提供了一种生产线故障预测装置，如图2所示，生产线故障预测装置包括：

输入数据获取单元，用于获取输入序列数据，输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据，具体如实施例一中所述；

初始特征提取单元，用于将输入序列数据输入至初始特征提取层，获取初始特征提取层输出的初始序列特征，初始序列特征中包括各个时刻的运行数据分别对应的特征向量，具体如实施例一中所述；

特征拆分单元，用于基于初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个拆分序列特征与初始序列特征相同，第n个拆分序列特征为第n-1个拆分序列特征中的部分特征向量，具体如实施例一中所述；

预测单元，用于将N个拆分序列特征分别输入至各个自注意力模块，获取每个自注意力模块的输出，每个自注意力模块包括至少一个自注意力层，将各个自注意力模块的输出连接后输入至预测模块，获取预测模块输出的故障预测结果序列，具体如实施例一中所述；

其中，故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

基于上述实施例，本发明还相应提供了一种终端，如图3所示，所述终端包括处理器10以及存储器20。图3仅示出了终端的部分组件，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。

所述存储器20在一些实施例中可以是所述终端的内部存储单元，例如终端的硬盘或内存。所述存储器20在另一些实施例中也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡（Smart Media Card, SMC），安全数字（SecureDigital, SD）卡，闪存卡（Flash Card）等。进一步地，所述存储器20还可以既包括所述终端的内部存储单元也包括外部存储设备。所述存储器20用于存储安装于所述终端的应用软件及各类数据。所述存储器20还可以用于暂时地存储已经输出或者将要输出的数据。在一实施例中，存储器20上存储有生产线故障预测程序30，该生产线故障预测程序30可被处理器10所执行，从而实现本申请中生产线故障预测方法。

所述处理器10在一些实施例中可以是一中央处理器（Central Processing Unit,CPU），微处理器或其他芯片，用于运行所述存储器20中存储的程序代码或处理数据，例如执行所述生产线故障预测方法等。

在一实施例中，当处理器10执行所述存储器20中生产线故障预测程序30时实现以下步骤：

获取输入序列数据，所述输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；

将所述输入序列数据输入至初始特征提取层，获取所述初始特征提取层输出的初始序列特征，所述初始序列特征中包括各个时刻的运行数据分别对应的特征向量；

基于所述初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个所述拆分序列特征与所述初始序列特征相同，第n个所述拆分序列特征为第n-1个拆分序列特征中的部分特征向量；

将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，每个所述自注意力模块包括至少一个自注意力层，将各个所述自注意力模块的输出连接后输入至预测模块，获取所述预测模块输出的故障预测结果序列；

其中，所述故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

其中，所述基于所述初始序列特征，生成N个拆分序列特征，包括：

在第n-1个所述拆分序列特征中选取后1/M的特征向量，得到第n个所述拆分序列特征。

其中，第一个所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量高于其他的所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量。

其中，所述自注意力模块中还包括下采样模块，所述将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，包括：

在每个所述自注意力层中，对输入的序列特征执行如下操作：

获取输入的序列特征中每个特征向量对应的查询向量，得到查询集合；

通过所述下采样模块对所述查询集合中的所述查询向量进行下采样，得到多个目标查询向量，所述目标查询向量中至少一位为0，基于所述目标查询向量获取所述自注意力层的输出。

其中，所述基于所述目标查询向量获取所述自注意力层的输出，包括：

获取输入的序列特征中每个特征向量对应的键向量和值向量；

基于各个所述目标查询向量、各个所述键向量和各个所述值向量获取所述自注意力层的输出。

其中，所述初始特征提取层、所述自注意力模块以及所述预测模块的参数基于如下步骤确定：

在多个训练数据中确定样本训练数据，每个所述训练数据中包括样本输入序列数据以及所述样本输入序列数据对应的故障预测结果标签；

根据所述初始特征提取层、所述自注意力模块以及所述预测模块获取所述样本输入序列数据对应的样本故障预测结果序列；

根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，根据所述训练损失更新所述初始特征提取层、所述自注意力模块以及所述预测模块的参数。

其中，所述根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，包括：

根据所述故障预测结果标签和所述样本故障预测结果序列之间的差异获取第一损失；

获取所述样本输入序列数据对应的所述目标查询向量，获取所述样本输入序列数据中的所有所述查询向量对应的自注意力层的输出，根据所有所述查询向量对应的自注意力层的输出和所有所述目标查询向量对应的自注意力层的输出获取第二损失；

根据所述第一损失和所述第二损失确定所述训练损失。

本发明还提供一种计算机可读存储介质，其中，存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如上所述的生产线故障预测方法的步骤。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种生产线故障预测方法，其特征在于，所述方法包括：

获取输入序列数据，所述输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；

将所述输入序列数据输入至初始特征提取层，获取所述初始特征提取层输出的初始序列特征，所述初始序列特征中包括各个时刻的运行数据分别对应的特征向量；

基于所述初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个所述拆分序列特征与所述初始序列特征相同，第n个所述拆分序列特征为第n-1个拆分序列特征中的部分特征向量；

将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，每个所述自注意力模块包括至少一个自注意力层，将各个所述自注意力模块的输出连接后输入至预测模块，获取所述预测模块输出的故障预测结果序列；

其中，所述故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

2.根据权利要求1所述的生产线故障预测方法，其特征在于，所述基于所述初始序列特征，生成N个拆分序列特征，包括：

在第n-1个所述拆分序列特征中选取后1/M的特征向量，得到第n个所述拆分序列特征。

3.根据权利要求1所述的生产线故障预测方法，其特征在于，第一个所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量高于其他的所述拆分序列特征对应的所述自注意力模块中包括的所述自注意力层的数量。

4.根据权利要求1所述的生产线故障预测方法，其特征在于，所述自注意力模块中还包括下采样模块，所述将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，包括：

在每个所述自注意力层中，对输入的序列特征执行如下操作：

获取输入的序列特征中每个特征向量对应的查询向量，得到查询集合；

通过所述下采样模块对所述查询集合中的所述查询向量进行下采样，得到多个目标查询向量，所述目标查询向量中至少一位为0，基于所述目标查询向量获取所述自注意力层的输出。

5.根据权利要求4所述的生产线故障预测方法，其特征在于，所述基于所述目标查询向量获取所述自注意力层的输出，包括：

获取输入的序列特征中每个特征向量对应的键向量和值向量；

基于各个所述目标查询向量、各个所述键向量和各个所述值向量获取所述自注意力层的输出。

6.根据权利要求4所述的生产线故障预测方法，其特征在于，所述初始特征提取层、所述自注意力模块以及所述预测模块的参数基于如下步骤确定：

在多个训练数据中确定样本训练数据，每个所述训练数据中包括样本输入序列数据以及所述样本输入序列数据对应的故障预测结果标签；

根据所述初始特征提取层、所述自注意力模块以及所述预测模块获取所述样本输入序列数据对应的样本故障预测结果序列；

根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，根据所述训练损失更新所述初始特征提取层、所述自注意力模块以及所述预测模块的参数。

7.根据权利要求6所述的生产线故障预测方法，其特征在于，所述根据所述故障预测结果标签和所述样本故障预测结果序列获取训练损失，包括：

根据所述故障预测结果标签和所述样本故障预测结果序列之间的差异获取第一损失；

获取所述样本输入序列数据对应的所述目标查询向量，获取所述样本输入序列数据中的所有所述查询向量对应的自注意力层的输出，根据所有所述查询向量对应的自注意力层的输出和所有所述目标查询向量对应的自注意力层的输出获取第二损失；

根据所述第一损失和所述第二损失确定所述训练损失。

8.一种生产线故障预测装置，其特征在于，包括：

输入数据获取单元，用于获取输入序列数据，所述输入序列数据包括按时间顺序排序的生产线在预设时段内各个时刻的运行数据；

初始特征提取单元，用于将所述输入序列数据输入至初始特征提取层，获取所述初始特征提取层输出的初始序列特征，所述初始序列特征中包括各个时刻的运行数据分别对应的特征向量；

特征拆分单元，用于基于所述初始序列特征，生成N个拆分序列特征，其中，N为大于1的正整数，第一个所述拆分序列特征与所述初始序列特征相同，第n个所述拆分序列特征为第n-1个拆分序列特征中的部分特征向量；

预测单元，用于将所述N个拆分序列特征分别输入至各个自注意力模块，获取每个所述自注意力模块的输出，每个所述自注意力模块包括至少一个自注意力层，将各个所述自注意力模块的输出连接后输入至预测模块，获取所述预测模块输出的故障预测结果序列；

其中，所述故障预测结果序列中包括预设时段之后预设时长内各个时刻的故障预测结果。

9.一种终端，其特征在于，所述终端包括：处理器、与处理器通信连接的计算机可读存储介质，所述计算机可读存储介质适于存储多条指令，所述处理器适于调用所述计算机可读存储介质中的指令，以执行实现上述权利要求1-7任一项所述的生产线故障预测方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如权利要求1-7任一项所述的生产线故障预测方法的步骤。

Images