CN115169439A - 一种基于序列到序列网络的有效波高预测方法和*** - Google Patents

Abstract

本发明公开了一种基于序列到序列网络的有效波高预测方法和***，本发明通过获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集；使用随机森林算法对第一波浪数据集进行特征选择，获得第二波浪数据集；构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。本发明能够提高有效波高预测精度，并对异常值有更好的预测效果。

Description

一种基于序列到序列网络的有效波高预测方法和***

技术领域

本发明涉及海浪参数计算技术领域，具体涉及一种基于序列到序列网络的有效波高预测方法和***。

背景技术

极端海浪威胁人类的生命安全，破坏海岸工程，对人们的生产活动有重大影响。准确、快速的有效波高预测在航线规划、港口建设、海浪发电和军事活动等领域具有重要意义。然而，海洋是一个复杂的混沌***，由于海洋环境的不确定性和气象要素之间复杂的相互作用，我们难以准确预测有效波高。

应用最广泛的有效波高预报方法是基于物理的数值方法。这些方法根据物理条件和过程的变化，利用数学模型来描述波浪，通常是复杂和难以求解的。此外，这些方法很难挖掘出海洋数据中蕴含的对有效波高预测有价值的深层潜特征，并将其应用到波浪预测过程中。随着人工智能的兴起，基于机器学习的有效波高预测方法发展迅速，可以从海洋数据中挖掘有价值的潜在特征来实现较好的预测效果。随着对有效波高预测的重视程度不断提高，预测效果也在稳步提高，但仍存在以下几个挑战有待解决:

(1)现有的方法很少详细地评估浮标数据中潜在的有价值的有效波高预测特征；

(2)预测精度有待进一步提高；

(3)大多数方法对异常值的预测效果不理想。

发明内容

为解决现有技术中存在的问题，本发明提供一种基于序列到序列网络的有效波高预测方法和***，能够提高有效波高预测精度，并对异常值有更好的预测效果。

为达到上述目的，本发明的技术方案是这样实现的：

第一方面，本发明实施例提供了一种基于序列到序列网络的有效波高预测方法，包括步骤：

获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集；

使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集；

构建带有基于记忆层的注意力机制的序列到序列模型，采用所述序列到序列模型对所述第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

通过所述训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

与现有技术相比，本发明第一方面具有以下有益效果：

本方法通过获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集；使用随机森林算法对第一波浪数据集进行特征选择，获得第二波浪数据集；构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。本方法通过在原始波浪数据集中加入滞后变量，能够增强原始波浪数据集中的特征；通过随机森林算法对第一波浪数据集中的每个特征相对于有效波高的重要性进行了排序，从而对第一波浪数据集进行特征选择，消除不相关或冗余的特征，为预测带来增益，提高预测模型的准确性；本方法还通过构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值，通过构建带有基于记忆层的注意力机制的序列到序列网络，以减少长序列预测中遗忘问题的发生，同时可较好地捕捉有效波高的突变，进一步提高预测模型的准确性，从而提高有效波高预测精度，对异常值有更好的预测效果。

根据本发明的一些实施例，所述获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集，包括：

将所述原始波浪数据集中的当前波浪数据的历史有效波高数据作为滞后变量加入到所述原始波浪数据集中，获得第一波浪数据集。

根据本发明的一些实施例，所述使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集，包括：

获取所述第一波浪数据集的有效波高观测值，初始化历史相关系数为零，初始化第二波浪数据集为空数据集，初始化耐心值为零，预设最大耐心值；

使用随机森林算法对所述第一波浪数据集中的特征按特征重要性由高到低进行排序，获得排好序的第一波浪数据集；

将所述排好序的第一波浪数据集中的特征按特征重要性由高到低依次添加到所述第二波浪数据集中，每添加一次数据到所述第二波浪数据集中时，则通过神经网络计算一次有效波高预测值；

计算所述有效波高预测值与所述有效波高观测值之间的当前相关系数，将所述当前相关系数和所述历史相关系数进行判断：

若所述当前相关系数大于所述历史相关系数，则将所述第一波浪数据集中的特征添加到所述第二波浪数据集中；

若所述当前相关系数小于或等于所述历史相关系数，则将所述耐心值增加一，并移除所述当前相关系数对应的所述第一波浪数据集中的特征；

在第一波浪数据集中的所有数据判断完或所述耐心值增加到大于所述最大耐心值后结束判断，获得特征选择后的第二波浪数据集。

根据本发明的一些实施例，所述构建带有基于记忆层的注意力机制的序列到序列模型，包括：

采用门控递归单元网络作为编码器和解码器，基于所述编码器和所述解码器挖掘时间序列中前后值之间的关系；

在注意力机制中增加记忆层，根据所述编码器、所述解码器和所述注意力机制构建序列到序列模型。

根据本发明的一些实施例，通过如下公式建立所述编码器：

Input:X＝(x₁,x₂,...,x_t)

z_t＝σ(W_z·[h_t-1,x_t])

r_t＝σ(W_r·[h_t-1,x_t])

其中，X表示门控递归单元网络中每个单元的当前输入数据集，x_t表示当前时刻的数据，h_t-1表示从前一时刻t-1传递过来的隐藏状态，z_t表示更新门，r_t表示重置门，

表示当前时刻的中间记忆，所述中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示所述更新门z_t的权值矩阵，W_r表示所述重置门r_t的权值矩阵，W表示所述中间记忆

的权值矩阵，h_t表示当前时刻隐藏状态，Input表示门控递归单元网络的输入，Output表示门控递归单元网络的输出。

根据本发明的一些实施例，通过如下公式建立所述解码器：

Input:X＝(c₁,c₂,...,c_k)

s₀＝h_t

z_k＝σ(W_z·[s_k-1,c_k])

r_k＝σ(W_r·[s_k-1,c_k])

Output:y_k＝s_k

其中，X表示解码器的输入，所述解码器的输入通过注意力机制获得，s₀＝h_t表示所述编码器的最后一个隐藏状态h_t被用作解码器隐藏层的初始输入s₀，z_k表示更新门，r_k表示重置门，

表示当前时刻的中间记忆，所述中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示所述更新门z_k的权值矩阵，W_r表示所述重置门r_k的权值矩阵，W表示所述中间记忆

的权值矩阵，s_k表示当前时刻隐藏状态，y_k＝s_k表示将当前时刻隐藏状态s_k作为门控递归单元网络的输出y_k。

根据本发明的一些实施例，通过如下公式建立所述注意力机制：

score(h_i,s_j)＝v^Ttanh(W[h_i；s_j]+b)

ω_ij＝Softmax((score(h_i,s_j)))

其中，h_i表示所述编码器在i时刻的隐藏状态，s_j表示所述解码器在j时刻的隐藏状态，根据所述h_i和所述s_j获得对应的输出分数，v^T和b表示神经网络中的偏置参数，ω_ij表示通过softmax函数归一化分数来计算所述编码器与所述解码器隐藏状态之间的权重，

表示所述编码器输出的加权平均值，c_j+1表示记忆层，所述记忆层将所述编码器中隐藏单元的输出h_j用于下一时刻的预测，通过所述h_j和所述

在特征维上拼接，并进行线性变换后获得的t_j+1时刻解码器的输入。

第二方面，本发明实施例提供了一种基于序列到序列网络的有效波高预测***，包括：

第一波浪数据集获取单元，用于获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集；

第二波浪数据集获取单元，用于使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集；

序列到序列模型训练单元，用于构建带有基于记忆层的注意力机制的序列到序列模型，采用所述序列到序列模型对所述第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

最终有效波高预测值获取单元，用于通过所述训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

与现有技术相比，本发明第二方面具有以下有益效果：

本***第一波浪数据集通过获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集；第二波浪数据集获取单元使用随机森林算法对第一波浪数据集进行特征选择，获得第二波浪数据集；序列到序列模型训练单元构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；最终有效波高预测值获取单元通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。本***通过在原始波浪数据集中加入滞后变量，能够增强原始波浪数据集中的特征；通过随机森林算法对第一波浪数据集中的每个特征相对于有效波高的重要性进行了排序，从而对第一波浪数据集进行特征选择，消除不相关或冗余的特征，为预测带来增益，提高预测模型的准确性；本***还通过构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值，通过构建带有基于记忆层的注意力机制的序列到序列网络，以减少长序列预测中遗忘问题的发生，同时可较好地捕捉有效波高的突变，进一步提高预测模型的准确性，从而提高有效波高预测精度，对异常值有更好的预测效果。

第三方面，本发明实施例提供了一种基于序列到序列网络的有效波高预测设备，包括至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器；所述存储器存储有可被所述至少一个控制处理器执行的指令，所述指令被所述至少一个控制处理器执行，以使所述至少一个控制处理器能够执行如上所述的一种基于序列到序列网络的有效波高预测方法。

第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如上所述的一种基于序列到序列网络的有效波高预测方法。

可以理解的是，上述第三方面至第四方面与相关技术相比存在的有益效果与上述第一方面与相关技术相比存在的有益效果相同，可以参见上述第一方面中的相关描述，在此不再赘述。

附图说明

本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：

图1为本发明一个实施例提供的一种基于序列到序列网络的有效波高预测方法的流程图；

图2为本发明一个实施例提供的带有基于记忆层的注意力机制的序列到序列模型的结构图；

图3为本发明一个实施例提供的一种基于序列到序列网络的有效波高预测***的结构图。

具体实施方式

下面将结合附图，对本公开实施例的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。基于本公开的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。需要说明的是，在不冲突的情况下，本公开实施例及实施例中的特征可以相互组合。另外，附图的作用在于用图形补充说明书文字部分的描述，使人能够直观地、形象地理解本公开的每个技术特征和整体技术方案，但其不能理解为对本公开保护范围的限制。

在本发明的描述中，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，除非另有说明，“多个”的含义是两个或两个以上。

本发明的描述中，除非另有明确的限定，设置、安装、连接等词语应做广义理解，所属技术领域技术人员可以结合技术方案的具体内容合理确定上述词语在本发明中的具体含义。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应用最广泛的有效波高预报方法是基于物理的数值方法。这些方法根据物理条件和过程的变化，利用数学模型来描述波浪，通常是复杂和难以求解的。此外，这些方法很难挖掘出海洋数据中蕴含的对有效波高预测有价值的深层潜特征，并将其应用到波浪预测过程中。随着人工智能的兴起，基于机器学习的有效波高预测方法发展迅速，可以从海洋数据中挖掘有价值的潜在特征来实现较好的预测效果。随着对有效波高预测的重视程度不断提高，预测效果也在稳步提高，但仍存在以下几个挑战有待解决:

(1)现有的方法很少详细地评估浮标数据中潜在的有价值的有效波高预测特征；

(2)预测精度有待进一步提高；

(3)大多数方法对异常值的预测效果不理想。

为解决上述问题，本发明通过在原始波浪数据集中加入滞后变量，能够增强原始波浪数据集中的特征；通过随机森林算法对第一波浪数据集中的每个特征相对于有效波高的重要性进行了排序，从而对第一波浪数据集进行特征选择，消除不相关或冗余的特征，为预测带来增益，提高预测模型的准确性；本发明还通过构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值，通过构建带有基于记忆层的注意力机制的序列到序列网络，以减少长序列预测中遗忘问题的发生，同时可较好地捕捉有效波高的突变，进一步提高预测模型的准确性，从而提高有效波高预测精度，对异常值有更好的预测效果。

参照图1，本发明实施例提供了一种基于序列到序列网络的有效波高预测方法，包括步骤：

步骤S100、获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集；

具体的，获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集。

例如，假设原始波浪数据集为

其中n表示浮标数据特征数量，T₁表示每个特征的时间步长，即，

长度为T₂的待预测有效波高序列表示为

本实施例的目标是找到一个足够好的函数F，使预测值和实际值之间的误差尽可能小。

Y＝F(X)

本实施例利用神经网络挖掘T₁时间步的输入特征与T₂时间步的待预测特征(有效波高)之间的函数关系。

根据自回归移动平均模型的原理，本实施例将待预测特征随时间变化形成的数据序列视为随机序列，这个随机序列的变化反映了原始波浪数据在时间上的连续性。一方面，被预测的特征会受到其他特征的影响；另一方面，它有自己的变化规律。预测值Y_t受其自身t时间段变化的影响的变化规律如下公式所示：

Y_t＝β₁Y_t-1+β₂Y_t-2+...+β_TY_t-T+Z_t

预测特征在t时刻的预测值Y_t可以看作是之前时间的值加余项的线性组合的形式，这与多层感知器(MLP)的思想是一致的。受此启发，在有效波高预测问题中，本实施例将原始波浪数据集中的当前波浪数据的历史有效波高数据作为滞后变量加入到原始波浪数据集中，获得第一波浪数据集。本实施例中将1到12小时之前的波浪数据加入到当前波浪数据中，作为1到12阶的滞后变量。需要说明的是，本实施例不限定滞后变量只为1到12小时的数据，这个时间段可以根据需要进行调整。

在本实施例中，通过在原始波浪数据集中加入滞后变量，能够增强原始波浪数据集中的特征。

步骤S200、使用随机森林算法对第一波浪数据集进行特征选择，获得第二波浪数据集；

具体的，随机森林算法作为bagging算法和决策树算法的结合，被广泛应用于特征选择。假设给定具有c个特征X₁,X₂,...,X_c的数据集，想要计算不同特征X_i和X_j，i≠j之间的相对重要性。在随机森林算法中，一个特征的重要性是指该特征在随机森林的每棵决策树中的平均贡献度，由基尼指数计算出。该基尼指数公式如下：

其中，K表示所有样本可分为K个类别，p_hk表示类别k在节点h中所占的比例。在确定节点h的基尼指数后，可以计算特征X_j在节点h的重要性，即，节点h分支前后基尼指数的变化：

其中，GI_m和GI_o分别表示节点h分支后两个新节点的基尼指数。将特征X_j在决策树中出现的集合表示为H，则特征X_j在树i中的重要性

为：

假设随机森林中有N棵树，特征X_j的重要性评分

为：

由于不同区域的海洋环境差异较大，每个站点数据的特征选择结果也存在一定的差异。此外，尽管随机森林算法将海浪数据的每个特征相对于有效波高的重要性进行了排序，但具体选择哪些特征作为模型的输入以达到最佳的预测效果，还需要在实践中进行检验。因此，本实施例为每个站点设计了一个自适应特征选择算法，该算法发具体过程如下：

获取第一波浪数据集的有效波高观测值，初始化历史相关系数为零，初始化第二波浪数据集为空数据集，初始化耐心值为零，预设最大耐心值；

使用上述的随机森林算法对第一波浪数据集中的特征按特征重要性由高到低进行排序，获得排好序的第一波浪数据集；

将排好序的第一波浪数据集中的特征按特征重要性由高到低依次添加到第二波浪数据集中，每添加一次数据到第二波浪数据集中时，则通过神经网络计算一次有效波高预测值；

计算有效波高预测值与有效波高观测值之间的当前相关系数，相关系数的计算公式如下所示：

其中，其中y_i是有效波高观测值，p_i是有效波高预测值，

是有效波高观测值的平均值，

是有效波高预测值的平均值；

将当前相关系数和历史相关系数进行判断：

若当前相关系数大于历史相关系数，则将第一波浪数据集中的特征添加到第二波浪数据集中；

若当前相关系数小于或等于历史相关系数，则将耐心值增加一，并移除当前相关系数对应第一波浪数据集中的特征；

在第一波浪数据集中的所有数据判断完或耐心值增加到大于最大耐心值后结束判断，获得特征选择后的第二波浪数据集。

在通过随机森林得到特征的重要性排序后，本实施例使用前向选择的方法将特征按重要性由高到低的顺序依次添加到第二波浪数据集中。每次添加后，本实施例使用当前第二波浪数据集进行24小时有效波高预测，并记录预测结果与真实值之间的相关系数。最后，选择最优的相关系数对应的特征集作为序列到序列模型的输入。

在本实施例中，通过随机森林算法对第一波浪数据集中的每个特征相对于有效波高的重要性进行了排序，并选择最优的相关系数对应的特征集作为序列到序列模型的输入，消除了不相关或冗余的特征，增加了特征之间的相关性，为预测带来增益，提高预测模型的准确性。

步骤S300、构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

具体的，参照图2，在本实施例中，由于递归神经网络的缺陷，即使是优化后的长短时记忆网络(LSTM)、门控递归单元网络(GRU)等递归神经网络，在输入长序列时也只能尽量减少而不能避免遗忘的发生。为了缓解这一问题，本实施例在序列到序列模型(Seq2seq)中加入了带有基于记忆层的注意力机制。具体地说，本实施例引入了一个神经网络来计算编码器的输出贡献对解码器的权重。基于上述权重，然计算编码器的加权平均输出，它将解码器的特定解码与编码器的某些输出关联起来，具体过程如下所示：

采用门控递归单元网络作为编码器和解码器，基于编码器和解码器挖掘时间序列中前后值之间的关系，其中，

通过如下公式建立编码器：

Input:X＝(x₁,x₂,...,x_t)

z_t＝σ(W_z·[h_t-1,x_t])

r_t＝σ(W_r·[h_t-1,x_t])

其中，X表示门控递归单元网络中每个单元的当前输入数据集，x_t表示当前时刻的数据，h_t-1表示从前一时刻t-1传递过来的隐藏状态，z_t表示更新门，r_t表示重置门，

表示当前时刻的中间记忆，中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示更新门z_t的权值矩阵，W_r表示重置门r_t的权值矩阵，W表示中间记忆

的权值矩阵，h_t表示当前时刻隐藏状态，Input表示门控递归单元网络的输入，Output表示门控递归单元网络的输出。

通过如下公式建立解码器：

Input:X＝(c₁,c₂,...,c_k)

s₀＝h_t

z_k＝σ(W_z·[s_k-1,c_k])

r_k＝σ(W_r·[s_k-1,c_k])

Output:y_k＝s_k

其中，X表示解码器的输入，解码器的输入通过注意力机制获得，s₀＝h_t表示编码器的最后一个隐藏状态h_t被用作解码器隐藏层的初始输入s₀，z_k表示更新门，r_k表示重置门，

表示当前时刻的中间记忆，中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示更新门z_k的权值矩阵，W_r表示重置门r_k的权值矩阵，W表示中间记忆

的权值矩阵，s_k表示当前时刻隐藏状态，y_k＝s_k表示将当前时刻隐藏状态s_k作为门控递归单元网络的输出y_k。

在注意力机制中增加记忆层，根据编码器、解码器和注意力机制构建序列到序列模型，通过如下公式建立带有基于记忆层的注意力机制：

score(h_i,s_j)＝v^Ttanh(W[h_i；s_j]+b)

ω_ij＝Softmax((score(h_i,s_j)))

其中，h_i表示编码器在i时刻的隐藏状态，s_j表示解码器在j时刻的隐藏状态，根据h_i和s_j获得对应的输出分数，v^T和b表示神经网络中的偏置参数，ω_ij表示通过softmax函数归一化分数来计算编码器与解码器隐藏状态之间的权重，

表示编码器输出的加权平均值，c_j+1表示记忆层，记忆层将编码器中隐藏单元的输出h_j用于下一时刻的预测，通过h_j和

在特征维上拼接，并进行线性变换后获得的t_j+1时刻解码器的输入。

采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型。

本实施例中，构建了一个带有注意机制的序列到序列模型，使用门控递归单元网络作为编码器和解码器来挖掘时间序列中前后值之间的关系。为了减少输入长序列时遗忘问题的发生，本实施例还设计了一个记忆层来增加解码器隐藏层在注意机制中的权重。同时，深化了编解码器的网络深度，提高了网络泛化能力和特征提取能力。本实施例通过构建带有基于记忆层的注意力机制的序列到序列网络，以减少长序列预测中遗忘问题的发生，同时可较好地捕捉有效波高的突变，进一步提高预测模型的准确性。

步骤S400、通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

具体的，通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值，具体过程为：

在训练好的序列到序列模型中输入待预测数据，训练好的序列到序列模型中的编码器的最后一个隐藏状态

被用作解码器隐藏层的初始输入s₀。用h_i表示编码器在i时刻的隐藏状态，i＝1,2,...,t₁，用s_j表示解码器在j时刻的隐藏状态，j＝t₁+1,t₁+2,...,t₁+t₂。然后根据这两个向量通过如下公式计算相应的输出分数：

score(h_i,s_j)＝v^T tanh(W[h_i；s_j]+b)。

再根据得到的输出分数，使用softmax函数归一化分数来计算编码器与解码器隐藏状态之间的权重ω_ij，公式如下所示：

ω_ij＝Softmax((score(h_i,s_j)))。

根据计算出的权重，我们推导出编码器输出的加权平均值

公式如下所示：

为了充分利用解码信息，将上一步的预测结果用于下一步预测，本实施例设计了一个存储层来存储解码器每一步的输出s_j，通过

和s_j在特征维上拼接，并进行线性变换后获得的t_j时刻解码器的输入c_j，计算公式如下：

再通过解码器获得待预测数据的最终有效波高预测值y_j，通过上述步骤完成待预测数据的有效波高预测。

在本实施例中，通过在原始波浪数据集中加入滞后变量，能够增强原始波浪数据集中的特征；通过随机森林算法对第一波浪数据集中的每个特征相对于有效波高的重要性进行了排序，从而对第一波浪数据集进行特征选择，消除不相关或冗余的特征，为预测带来增益，提高预测模型的准确性；本实施例还通过构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值，通过构建带有基于记忆层的注意力机制的序列到序列网络，以减少长序列预测中遗忘问题的发生，同时可较好地捕捉有效波高的突变，进一步提高预测模型的准确性，从而提高有效波高预测精度，对异常值有更好的预测效果。

参照图3，本发明实施例提供了一种基于序列到序列网络的有效波高预测***，包括：

第一波浪数据集获取单元100，用于获取原始波浪数据集，在原始波浪数据集中加入滞后变量，获得第一波浪数据集；

第二波浪数据集获取单元200，用于使用随机森林算法对第一波浪数据集进行特征选择，获得第二波浪数据集；

序列到序列模型训练单元300，用于构建带有基于记忆层的注意力机制的序列到序列模型，采用序列到序列模型对第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

最终有效波高预测值获取单元400，用于通过训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

需要说明的是，由于本实施例中的一种基于序列到序列网络的有效波高预测***与上述的一种基于序列到序列网络的有效波高预测方法基于相同的发明构思，因此，方法实施例中的相应内容同样适用于本***实施例，此处不再详述。

本发明实施例还提供了一种基于序列到序列网络的有效波高预测设备，包括：至少一个控制处理器和用于与至少一个控制处理器通信连接的存储器。

存储器作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

实现上述实施例的一种基于序列到序列网络的有效波高预测方法所需的非暂态软件程序以及指令存储在存储器中，当被处理器执行时，执行上述实施例中的一种基于序列到序列网络的有效波高预测方法，例如，执行以上描述的图1中的方法步骤S100至步骤S400。

以上所描述的***实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

本发明实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令被一个或多个控制处理器执行，可使得上述一个或多个控制处理器执行上述方法实施例中的一种基于序列到序列网络的有效波高预测方法，例如，执行以上描述的图1中的方法步骤S100至S400的功能。

通过以上的实施方式的描述，本领域技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现。本领域技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(ReadOnly Memory,ROM)或随机存储记忆体(Random Access Memory,RAM)等。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

以上是对本发明的较佳实施进行了具体说明，但本发明并不局限于上述实施方式，熟悉本领域的技术人员在不违背本发明精神的共享条件下还可作出种种等同的变形或替换，这些等同的变形或替换均包括在本发明权利要求所限定的范围内。

Claims (10)

1.一种基于序列到序列网络的有效波高预测方法，其特征在于，包括步骤：

获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集；

使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集；

构建带有基于记忆层的注意力机制的序列到序列模型，采用所述序列到序列模型对所述第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

通过所述训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

2.根据权利要求1所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，所述获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集，包括：

将所述原始波浪数据集中的当前波浪数据的历史有效波高数据作为滞后变量加入到所述原始波浪数据集中，获得第一波浪数据集。

3.根据权利要求1所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，所述使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集，包括：

获取所述第一波浪数据集的有效波高观测值，初始化历史相关系数为零，初始化第二波浪数据集为空数据集，初始化耐心值为零，预设最大耐心值；

使用随机森林算法对所述第一波浪数据集中的特征按特征重要性由高到低进行排序，获得排好序的第一波浪数据集；

将所述排好序的第一波浪数据集中的特征按特征重要性由高到低依次添加到所述第二波浪数据集中，每添加一次数据到所述第二波浪数据集中时，则通过神经网络计算一次有效波高预测值；

计算所述有效波高预测值与所述有效波高观测值之间的当前相关系数，将所述当前相关系数和所述历史相关系数进行判断：

若所述当前相关系数大于所述历史相关系数，则将所述第一波浪数据集中的特征添加到所述第二波浪数据集中；

若所述当前相关系数小于或等于所述历史相关系数，则将所述耐心值增加一，并移除所述当前相关系数对应的所述第一波浪数据集中的特征；

在第一波浪数据集中的所有数据判断完或所述耐心值增加到大于所述最大耐心值后结束判断，获得特征选择后的第二波浪数据集。

4.根据权利要求1所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，所述构建带有基于记忆层的注意力机制的序列到序列模型，包括：

采用门控递归单元网络作为编码器和解码器，基于所述编码器和所述解码器挖掘时间序列中前后值之间的关系；

在注意力机制中增加记忆层，根据所述编码器、所述解码器和所述注意力机制构建序列到序列模型。

5.根据权利要求4所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，通过如下公式建立所述编码器：

Input:X＝(x₁,x₂,...,x_t)

z_t＝σ(W_z·[h_t-1,x_t])

r_t＝σ(W_r·[h_t-1,x_t])

Output:

其中，X表示门控递归单元网络中每个单元的当前输入数据集，x_t表示当前时刻的数据，h_t-1表示从前一时刻t-1传递过来的隐藏状态，z_t表示更新门，r_t表示重置门，

表示当前时刻的中间记忆，所述中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示所述更新门z_t的权值矩阵，W_r表示所述重置门r_t的权值矩阵，W表示所述中间记忆

的权值矩阵，h_t表示当前时刻隐藏状态，Input表示门控递归单元网络的输入，Output表示门控递归单元网络的输出。

6.根据权利要求5所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，通过如下公式建立所述解码器：

Input:X＝(c₁,c₂,...,c_k)

s₀＝h_t

z_k＝σ(W_z·[s_k-1,c_k])

r_k＝σ(W_r·[s_k-1,c_k])

Output:y_k＝s_k

其中，X表示解码器的输入，所述解码器的输入通过注意力机制获得，s₀＝h_t表示所述编码器的最后一个隐藏状态h_t被用作解码器隐藏层的初始输入s₀，z_k表示更新门，r_k表示重置门，

表示当前时刻的中间记忆，所述中间记忆表示前一时刻的记忆与当前时刻的记忆的输入结合，W_z表示所述更新门z_k的权值矩阵，W_r表示所述重置门r_k的权值矩阵，W表示所述中间记忆

的权值矩阵，s_k表示当前时刻隐藏状态，y_k＝s_k表示将当前时刻隐藏状态s_k作为门控递归单元网络的输出y_k。

7.根据权利要求6所述的一种基于序列到序列网络的有效波高预测方法，其特征在于，通过如下公式建立所述注意力机制：

score(h_i,s_j)＝v^Ttanh(W[h_i；s_j]+b)

ω_ij＝Softmax((score(h_i,s_j)))

其中，h_i表示所述编码器在i时刻的隐藏状态，s_j表示所述解码器在j时刻的隐藏状态，根据所述h_i和所述s_j获得对应的输出分数，v^T和b表示神经网络中的偏置参数，ω_ij表示通过softmax函数归一化分数来计算所述编码器与所述解码器隐藏状态之间的权重，

表示所述编码器输出的加权平均值，c_j+1表示记忆层，所述记忆层将所述编码器中隐藏单元的输出h_j用于下一时刻的预测，通过所述h_j和所述

在特征维上拼接，并进行线性变换后获得的t_j+1时刻解码器的输入。

8.一种基于序列到序列网络的有效波高预测***，其特征在于，包括：

第一波浪数据集获取单元，用于获取原始波浪数据集，在所述原始波浪数据集中加入滞后变量，获得第一波浪数据集；

第二波浪数据集获取单元，用于使用随机森林算法对所述第一波浪数据集进行特征选择，获得第二波浪数据集；

序列到序列模型训练单元，用于构建带有基于记忆层的注意力机制的序列到序列模型，采用所述序列到序列模型对所述第二波浪数据集进行有效波高预测训练，获得训练好的序列到序列模型；

最终有效波高预测值获取单元，用于通过所述训练好的序列到序列模型对待预测数据进行有效波高预测，获得最终有效波高预测值。

9.一种基于序列到序列网络的有效波高预测设备，其特征在于，包括至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器；所述存储器存储有可被所述至少一个控制处理器执行的指令，所述指令被所述至少一个控制处理器执行，以使所述至少一个控制处理器能够执行如权利要求1至7任一项所述的一种基于序列到序列网络的有效波高预测方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如权利要求1至7任一项所述的一种基于序列到序列网络的有效波高预测方法。

Images