CN114417938A - 一种利用知识向量嵌入的电磁目标分类方法 - Google Patents

Abstract

本发明公开了一种利用知识向量嵌入的电磁目标分类方法，利用已知的电磁目标信息的数据，建立电磁目标的图结构，基于图神经网络，对每个电磁目标类别对应的图节点进行嵌入向量表示；采集电磁目标信号，对电磁目标数据进行短时傅里叶变换获取其时频数据，再对其进行预处理，作为用来训练卷积神经网络的样本；构建卷积神经网络，基于电磁目标类别对应的图节点的嵌入向量表示的结果，训练卷积神经网络，最后得到后续对采集的电磁目标信号进行分类识别的参考向量；利用得到的参考向量，对采集的电磁目标信号进行分类识别。本发明适用性强，将类别关系知识结合到网络训练中，解决了传统分类网络只适用于识别在训练集中出现过的类别的不足。

Description

一种利用知识向量嵌入的电磁目标分类方法

技术领域

本发明涉及通信领域和人工智能领域，具体涉及到一种利用知识向量嵌入的电磁目标分类方法。

背景技术

在知识图谱中，图结构的知识主要包括节点知识和关系知识。节点可以表示某个已知的类别，关系为每个类别之间的联系程度，可直观反映出节点与节点关系的密切程度，将图结构嵌入为向量形式后，其每一节点的向量表征能够反映节点之间的关系知识。近年来，由于图神经网络的发展，其可以有效利用图结构中节点的属性与相互关系，并依赖其相互关系进行建模，将节点嵌入为向量，为后续计算机的处理提供可计算的数据格式。目前，使用图神经网络进行样本嵌入，再对电磁目标进行分类时，主要存在以下两个方面的问题：一是图神经网络架构主要用于节点的分类上，对于多样本嵌入的电磁目标分类任务的执行效率较低；二是图神经网络需要每个节点与其余节点的先验关系知识，在实际情况中，关系信息很难反映在样本层面。卷积神经网络可以将不同的输入根据标签进行分类，传统的卷积神经网络在用于图结构分类时，存在以下缺点：(1)传统方法中的标签不能反映样本间的联系及关系的紧密程度；(2)传统的卷积神经网络的输出无法作为具有图结构的知识的嵌入表示。

发明内容

针对如何对具有图结构的先验知识样本进行嵌入并对电磁目标进行分类的问题，结合两种不同结构的神经网络的特点，本发明将具有先验知识结构的样本进行向量嵌入，再将其用于分类神经网络训练的技术，实现电磁目标的类别关系等先验知识与电磁数据特征在向量嵌入空间的融合，从而构建数据与知识共同驱动的电磁目标分类器。根据样本所属类别间关系的密切程度，可以得到能够反映样本间关系的嵌入结果。嵌入向量距离的远近可以用来反映样本间特征的联系程度。本发明将传统的以卷积神经网络为代表的分类神经网络的硬判决转化为计算向量间相似度的软判决，从而解决了目前样本嵌入结果无法反映样本所属类别间关系与分类判决时的硬判决的问题。

本发明总体分为两个步骤，一是基于图神经网络对包含相互关系的类别对应的图节点进行嵌入，二是基于图神经网络的嵌入结果对卷积神经网络进行训练，使之对类别下的样本进行嵌入的结果能够反映样本所属类别的关系。

本发明公开了一种利用知识向量嵌入的电磁目标分类方法，其具体步骤包括：利用已知的电磁目标信息的数据，建立电磁目标的图结构，该图结构包括图节点和关系，图节点用于表示已知的电磁目标类别，关系用于表示每个电磁目标类别之间的关联程度；

S1,基于图神经网络，对每个电磁目标类别对应的图节点进行嵌入向量表示。对电磁目标类别对应图节点的基本描述过程包括：将电磁目标的类别与类别间的关系用邻接矩阵D来表示，邻接矩阵D的第i行、第j列的元素d_ij表示第i个电磁目标类别和第j个电磁目标类别之间的关系，所有电磁目标类别的特征用矩阵F表示，矩阵F的第i行表示第i个电磁目标类别的特征，将D和F输入到图神经网络中，对该图神经网络进行训练，以得到所有电磁目标类别对应图节点的嵌入向量表示。

所述的步骤S1，其具体包括：

在图神经中，ReLU(·)为线性整流函数；‖·‖表示l2范数；softmax(·)表示逻辑回归函数；E为单位矩阵，N表示单位矩阵E的维度，也是该图神经网络的层数；Wⁱ为图神经网络的第i个隐藏层的权重,W⁰∈R^M×N,W¹∈R^N×H,M为图节点的特征向量的维度，H为该图神经网络输出的嵌入向量的维度，k为对该图神经网络进行训练时的迭代次数；

其中，

表示归一化拉普拉斯矩阵，

表示度矩阵，

表示矩阵

的第i行、第i列的元素，

表示矩阵

的第i行、第j列的元素，

表示无向图邻接矩阵；L_i为第i个电磁目标类别的标签；Q为电磁目标类别对应图节点的嵌入向量表示。

所述的对图神经网络进行训练，得到所有电磁目标类别对应图节点的嵌入向量表示，其具体步骤包括：

S11,初始化图神经网络的权重矩阵Wⁱ,i＝0，1，...,N，N表示图神经网络的层数。

S12,计算该图神经网络的输出Y，其计算公式为：

其中，f()表示该图神经网络的计算函数；

S13,在此输出条件下，计算该图神经网络的损失函数Loss：

其中，L_l表示第l个电磁目标类别的标签，f表示矩阵F中的某一行，即某个电磁目标类别的特征向量，Y_f表示特征向量f输入到该图神经网络后得到的输出；L表示电磁目标类别的标签的集合。

S14,根据该损失函数，使用批量梯度下降法(BGD)更新该图神经网络的权重；迭代次数k取值加1；

S15,重复步骤S12至步骤S14的过程，直到迭代次数k到达预先设定的值；

S16,计算电磁目标类别对应图节点的嵌入向量表示Q，其计算公式为:

从而得到电磁目标类别对应图节点的嵌入向量表示。

S2,对电磁目标信号进行预处理；

采集电磁目标信号，按采集时间对电磁目标信号进行保存，对电磁目标数据进行短时傅里叶变换获取其时频数据，再对其进行预处理，将该时频数据变换为卷积神经网络可处理的数据格式，作为用来训练卷积神经网络的样本。

S3,构建卷积神经网络，基于图神经网络得到的电磁目标类别对应的图节点的嵌入向量表示的结果，训练卷积神经网络，最后得到后续对采集的电磁目标信号进行分类识别的参考向量；利用卷积神经网络，实现电磁目标类别的信号特征的嵌入表示到电磁目标类别对应图节点的嵌入向量的映射。

所述的步骤S3，其具体包括：

通过步骤S1得到了样本所属类别对应的图节点的嵌入向量表示，将样本所属类别对应的图节点的嵌入向量作为该卷积神经网络的标签，将步骤S2中预处理后的电磁目标的时频数据作为训练样本，用样本所属类别对应的图节点的嵌入向量和训练样本的嵌入向量之间的距离来作为训练该卷积神经网络的损失函数。通过对该卷积神经网络进行多次迭代优化训练后，最后得到后续对采集的电磁目标信号进行分类识别的参考向量。对该卷积神经网络的多次迭代优化训练过程，其具体包括：

S31，构建一个具有两层卷积层，两层池化层，两层全连接层结构的卷积神经网络，初始化该网络的图节点权重；所述的卷积层、池化层和全连接层依次连接；

S32，将步骤S2中预处理后的电磁目标的时频数据P作为训练样本输入至该卷积神经网络中，在该卷积神经网络最后一层得到该训练样本的特征向量R；

S33，计算网络的损失函数：L＝-‖R-Q‖，其中，Q为输入的训练样本所属类别对应的图节点的嵌入向量表示，‖.‖表示求范数；

S34，根据随机梯度下降法对该卷积神经网络的参数进行优化，更新该网络中图节点的权重；

S35，重复步骤S32至步骤S34，直到迭代次数达到预先设定好的值，完成对该卷积神经网络的训练；

S36，完成对该卷积神经网络的训练后，得到的输出R即是样本最终的嵌入向量表示结果；

S37，计算同一类别的样本数据的嵌入向量表示结果的平均值Rc,将Rc做为后续对采集的电磁目标信号进行分类识别的参考向量；

S4,利用步骤S3中得到的参考向量，对采集的电磁目标信号进行分类识别，其具体步骤包括：

S41，对采集的电磁目标信号进行短时傅里叶变换和预处理，得到待识别样本P’，将该待识别样本P’输入到步骤S3中训练完成的卷积神经网络。

S42，通过卷积神经网络，计算得到待识别样本P’对应的输出向量R’。

S43，计算输出向量R’与每一类别的样本数据的嵌入向量表示结果的平均值的向量相似度，输出向量R’与第i类别的向量相似度表示为εⁱ,i＝1,...,n，n为类别总数，所述的向量相似度，通过计算两个向量的皮尔森相关系数得到。

S44，将得到的向量相似度分别与门限值η比较，若存在ε^j≥η,j∈n，则判定该待识别样本P’属于第j个电磁目标类别；若对任意ε^j，均有ε^j＜η,j∈n，则判定该待识别样本P’属于一个新的电磁目标类别。

本发明的有益效果为：

本发明适用性强，适用范围广，将类别关系知识结合到网络训练中，解决了传统分类网络只适用于识别在训练集中出现过的类别的不足。利用样本所属类别的关系信息，使样本的嵌入结果更具有有效性。本发明采用了基于图神经网络的嵌入结果来训练卷积神经网络，有效地将样本所属类别的关系信息反映在嵌入结果上。有利于后续对样本的分析以及下游的应用。

附图说明

图1为本发明方法的实现流程图；

图2为本实施中的类别对应节点的关系结构图；

图3为本实施中的类别嵌入向量经过降维后得到的结果图；

图4为本实施中的样本嵌入向量经过降维后得到的结果图。

具体实施方式

为了更好的了解本发明内容，这里给出一个实施例。

图1为本发明方法的实现流程图；图2为本实施中的类别对应节点的关系结构图；图3为本实施中的类别嵌入向量经过降维后得到的结果图；图4为本实施中的样本嵌入向量经过降维后得到的结果图。

本发明公开了一种利用知识向量嵌入的电磁目标分类方法，其具体步骤包括：利用已知的电磁目标信息的数据，建立电磁目标的图结构，该图结构包括图节点和关系，图节点用于表示已知的电磁目标类别，关系用于表示每个电磁目标类别之间的关联程度；

S1,基于图神经网络，对每个电磁目标类别对应的图节点进行嵌入向量表示。对电磁目标类别对应图节点的基本描述过程包括：将电磁目标的类别与类别间的关系用邻接矩阵D来表示，邻接矩阵D的第i行、第j列的元素d_ij表示第i个电磁目标类别和第j个电磁目标类别之间的关系，所有电磁目标类别的特征用矩阵F表示，矩阵F的第i行表示第i个电磁目标类别的特征，将D和F输入到图神经网络中，对该图神经网络进行训练，以得到所有电磁目标类别对应图节点的嵌入向量表示。

在图神经中，ReLU(·)为线性整流函数；‖·‖表示12范数；softmax(·)表示逻辑回归函数；E为单位矩阵，N表示单位矩阵E的维度，也是该图神经网络的层数；Wⁱ为图神经网络的第i个隐藏层的权重,W⁰∈R^M×N,W¹∈R^N×H,M为图节点的特征向量的维度，H为该图神经网络输出的嵌入向量的维度，k为对该图神经网络进行训练时的迭代次数；

其中，

表示归一化拉普拉斯矩阵，

表示度矩阵，

表示矩阵

的第i行、第i列的元素，

表示矩阵

的第i行、第j列的元素，

表示无向图邻接矩阵；L_i为第i个电磁目标类别的标签；Q为电磁目标类别对应图节点的嵌入向量表示。

所述的对图神经网络进行训练，得到所有电磁目标类别对应图节点的嵌入向量表示，其具体步骤包括：

S11,初始化图神经网络的权重矩阵Wⁱ,i＝0，1，...,N，N表示图神经网络的层数。

S12,计算该图神经网络的输出Y，其计算公式为：

其中，f()表示该图神经网络的计算函数；

S13,在此输出条件下，计算该图神经网络的损失函数Loss：

其中，L_l表示第l个电磁目标类别的标签，f表示矩阵F中的某一行，即某个电磁目标类别的特征向量，Y_f表示特征向量f输入到该图神经网络后得到的输出；L表示电磁目标类别的标签的集合；

表示对所有电磁目标类别的特征向量，输入到该图神经网络后，计算该图神经网络得到的所有输出的和。某个电磁目标类别的特征向量，即某个电磁目标类别的若干个特定参数构成的向量。

S14,根据该损失函数，使用批量梯度下降法(BGD)更新该图神经网络的权重；迭代次数k取值加1；

S15,重复步骤S12至步骤S14的过程，直到迭代次数k到达预先设定的值；

S16,计算电磁目标类别对应图节点的嵌入向量表示Q，其计算公式为:

S2,对电磁目标信号进行预处理；

采集电磁目标信号，按采集时间对电磁目标信号进行保存，对电磁目标数据进行短时傅里叶变换获取其时频数据，再对其进行预处理，将该时频数据变换为卷积神经网络可处理的数据格式，作为用来训练卷积神经网络的样本，卷积神经网络可处理的数据格式包括图片或者矩阵数据，方便卷积神经网络进行卷积操作。

S3,构建卷积神经网络，基于图神经网络得到的电磁目标类别对应的图节点的嵌入向量表示的结果，训练卷积神经网络，最后得到后续对采集的电磁目标信号进行分类识别的参考向量；利用卷积神经网络，实现电磁目标类别的信号特征的嵌入表示到电磁目标类别对应图节点的嵌入向量的映射。

通过步骤S1得到了样本所属类别对应的图节点的嵌入向量表示，类别对应的图节点表示可以反映出类别之间关系的密切程度，将样本所属类别对应的图节点的嵌入向量作为该卷积神经网络的标签，将步骤S2中预处理后的电磁目标的时频数据作为训练样本，用样本所属类别对应的图节点的嵌入向量和训练样本的嵌入向量之间的距离来作为训练该卷积神经网络的损失函数。通过对该卷积神经网络进行多次迭代优化训练后，最后得到后续对采集的电磁目标信号进行分类识别的参考向量。对该卷积神经网络的多次迭代优化训练过程，其具体包括：

S31，构建一个具有两层卷积层，两层池化层，两层全连接层结构的卷积神经网络，初始化该网络的图节点权重；所述的卷积层、池化层和全连接层依次连接；

S32，将步骤S2中预处理后的电磁目标的时频数据P作为训练样本输入至该卷积神经网络中，在该卷积神经网络最后一层得到该训练样本的特征向量R；

S33，计算网络的损失函数：L＝-‖R-Q‖，其中，Q为输入的训练样本所属类别对应的图节点的嵌入向量表示，‖.‖表示求范数；

S34，根据随机梯度下降法对该卷积神经网络的参数进行优化，更新该网络中图节点的权重；

S35，重复步骤S32至步骤S34，直到迭代次数达到预先设定好的值，完成对该卷积神经网络的训练；

S36，完成对该卷积神经网络的训练后，得到的输出R即是样本最终的嵌入向量表示结果；

S37，计算同一类别的样本数据的嵌入向量表示结果的平均值Rc,将Rc做为后续对采集的电磁目标信号进行分类识别的参考向量；

S4,利用步骤S3中得到的参考向量，对采集的电磁目标信号进行分类识别，其具体步骤包括：

S41，对采集的电磁目标信号进行短时傅里叶变换和预处理，得到待识别样本P’，将该待识别样本P’输入到步骤S3中训练完成的卷积神经网络。

S42，通过卷积神经网络，计算得到待识别样本P’对应的输出向量R’。

S43，计算输出向量R’与每一类别的样本数据的嵌入向量表示结果的平均值的向量相似度，输出向量R’与第i类别的向量相似度表示为εⁱ,i＝1,...,n，n为类别总数，所述的向量相似度，通过计算两个向量的皮尔森相关系数得到。

S44，将得到的向量相似度分别与门限值η比较，若存在ε^j≥η,j∈n，则判定该待识别样本P’属于第j个电磁目标类别；若对任意ε^j，均有ε^j＜η,j∈n，则判定该待识别样本P’属于一个新的电磁目标类别。

通过基于图神经网络的嵌入结果来训练卷积神经网络，最终可以得到每个类别的样本的嵌入表示。利用该嵌入表示可进行基于嵌入向量相似度的分类识别。样本嵌入结果既可以反映样本间的相似程度，又可以反映样本所属类别关系的密切程度。当相似程度小于所设定的门限值，则可判定为新的一类。

基于图神经网络对包含相互关系信息的类别对应的图节点进行嵌入，通过对图神经网络的训练，能够得到各个类别对应节点的嵌入结果。嵌入的向量之间的距离能够较好反映节点的相互联系程度。图2是利用图神经网络对节点进行嵌入的验证结果。

对于类别节点，一共有15个类别对应的节点，邻接矩阵A的大小为15×15，节点特征矩阵X的大小为15×15。选择的图神经网络的卷积层为两层，嵌入结果Q的大小为15×128，每个节点的嵌入向量的维度为128维。

类别对应节点的关系结构和嵌入向量经过降维后的结果如图3所示。

基于图神经网络嵌入结果训练卷积神经网络；在完成了对样本所属类别的嵌入后，需要利用类别嵌入结果的先验知识对样本进行嵌入。每一个类下有100个样本，15个类一共有1500个样本，将样本进行短时傅里叶变换获取其时频图。通过一个具有两层卷积层，两层池化层，两层全连接层结构的卷积神经网络得到的嵌入向量为128维的。样本的嵌入向量之间的距离可以反映样本间的关系紧密程度。将样本的嵌入向量经过降维之后，可以得到如图4所示的结果。

在得到样本嵌入结果后，有利于后续对样本数据的分析以及基于嵌入向量的下游应用。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (4)

1.一种利用知识向量嵌入的电磁目标分类方法，其特征在于，利用已知的电磁目标信息的数据，建立电磁目标的图结构，该图结构包括图节点和关系，图节点用于表示已知的电磁目标类别，关系用于表示每个电磁目标类别之间的关联程度；该方法的具体步骤包括：

S1,基于图神经网络，对每个电磁目标类别对应的图节点进行嵌入向量表示；对电磁目标类别对应图节点的基本描述过程包括：将电磁目标的类别与类别间的关系用邻接矩阵D来表示，邻接矩阵D的第i行、第j列的元素d_ij表示第i个电磁目标类别和第j个电磁目标类别之间的关系，所有电磁目标类别的特征用矩阵F表示，矩阵F的第i行表示第i个电磁目标类别的特征，将D和F输入到图神经网络中，对该图神经网络进行训练，以得到所有电磁目标类别对应图节点的嵌入向量表示；

S2,对电磁目标信号进行预处理；

采集电磁目标信号，按采集时间对电磁目标信号进行保存，对电磁目标数据进行短时傅里叶变换获取其时频数据，再对其进行预处理，将该时频数据变换为卷积神经网络可处理的数据格式，作为用来训练卷积神经网络的样本；

S3,构建卷积神经网络，基于图神经网络得到的电磁目标类别对应的图节点的嵌入向量表示的结果，训练卷积神经网络，最后得到后续对采集的电磁目标信号进行分类识别的参考向量；利用卷积神经网络，实现电磁目标类别的信号特征的嵌入表示到电磁目标类别对应图节点的嵌入向量的映射；

S4,利用步骤S3中得到的参考向量，对采集的电磁目标信号进行分类识别。

2.如权利要求1所述的利用知识向量嵌入的电磁目标分类方法，其特征在于，

所述的步骤S1，其具体包括：

在图神经中，ReLU(·)为线性整流函数；‖·‖表示l2范数；softmax(·)表示逻辑回归函数；E为单位矩阵，N表示单位矩阵E的维度，也是该图神经网络的层数；Wⁱ为图神经网络的第i个隐藏层的权重,W⁰∈R^M×N,W¹∈R^N×H,M为图节点的特征向量的维度，H为该图神经网络输出的嵌入向量的维度，k为对该图神经网络进行训练时的迭代次数；

其中，

表示归一化拉普拉斯矩阵，

表示度矩阵，

表示矩阵

的第i行、第i列的元素，

表示矩阵

的第i行、第j列的元素，

表示无向图邻接矩阵；L_i为第i个电磁目标类别的标签；Q为电磁目标类别对应图节点的嵌入向量表示；

所述的对图神经网络进行训练，得到所有电磁目标类别对应图节点的嵌入向量表示，其具体步骤包括：

S11,初始化图神经网络的权重矩阵Wⁱ,i＝0，1，...,N，N表示图神经网络的层数；

S12,计算该图神经网络的输出Y，其计算公式为：

其中，f()表示该图神经网络的计算函数；

S13,在此输出条件下，计算该图神经网络的损失函数Loss：

其中，L_l表示第l个电磁目标类别的标签，f表示矩阵F中的某一行，即某个电磁目标类别的特征向量，Y_f表示特征向量f输入到该图神经网络后得到的输出；L表示电磁目标类别的标签的集合；

S14,根据该损失函数，使用批量梯度下降法(BGD)更新该图神经网络的权重；迭代次数k取值加1；

S15,重复步骤S12至步骤S14的过程，直到迭代次数k到达预先设定的值；

S16,计算电磁目标类别对应图节点的嵌入向量表示Q，其计算公式为:

从而得到电磁目标类别对应图节点的嵌入向量表示。

3.如权利要求1所述的利用知识向量嵌入的电磁目标分类方法，其特征在于，

所述的步骤S3，其具体包括：

通过步骤S1得到了样本所属类别对应的图节点的嵌入向量表示，将样本所属类别对应的图节点的嵌入向量作为该卷积神经网络的标签，将步骤S2中预处理后的电磁目标的时频数据作为训练样本，用样本所属类别对应的图节点的嵌入向量和训练样本的嵌入向量之间的距离来作为训练该卷积神经网络的损失函数；通过对该卷积神经网络进行多次迭代优化训练后，最后得到后续对采集的电磁目标信号进行分类识别的参考向量；对该卷积神经网络的多次迭代优化训练过程，其具体包括：

S31，构建一个具有两层卷积层，两层池化层，两层全连接层结构的卷积神经网络，初始化该网络的图节点权重；所述的卷积层、池化层和全连接层依次连接；

S32，将步骤S2中预处理后的电磁目标的时频数据P作为训练样本输入至该卷积神经网络中，在该卷积神经网络最后一层得到该训练样本的特征向量R；

S33，计算网络的损失函数：L＝-‖R-Q‖，其中，Q为输入的训练样本所属类别对应的图节点的嵌入向量表示，‖.‖表示求范数；

S34，根据随机梯度下降法对该卷积神经网络的参数进行优化，更新该网络中图节点的权重；

S35，重复步骤S32至步骤S34，直到迭代次数达到预先设定好的值，完成对该卷积神经网络的训练；

S36，完成对该卷积神经网络的训练后，得到的输出R即是样本最终的嵌入向量表示结果；

S37，计算同一类别的样本数据的嵌入向量表示结果的平均值Rc,将Rc做为后续对采集的电磁目标信号进行分类识别的参考向量。

4.如权利要求1所述的利用知识向量嵌入的电磁目标分类方法，其特征在于，

所述的步骤S4，其具体步骤包括：

S41，对采集的电磁目标信号进行短时傅里叶变换和预处理，得到待识别样本P’，将该待识别样本P’输入到步骤S3中训练完成的卷积神经网络；

S42，通过卷积神经网络，计算得到待识别样本P’对应的输出向量R’；

S43，计算输出向量R’与每一类别的样本数据的嵌入向量表示结果的平均值的向量相似度，输出向量R’与第i类别的向量相似度表示为εⁱ,i＝1,...,n，n为类别总数，所述的向量相似度，通过计算两个向量的皮尔森相关系数得到；

S44，将得到的向量相似度分别与门限值η比较，若存在ε^j≥η,j∈n，则判定该待识别样本P’属于第j个电磁目标类别；若对任意ε^j，均有ε^j＜η,j∈n，则判定该待识别样本P’属于一个新的电磁目标类别。

Images