CN116304083A - 性能-故障关系图谱的关系预测方法及装置 - Google Patents
性能-故障关系图谱的关系预测方法及装置 Download PDFInfo
- Publication number
- CN116304083A CN116304083A CN202310065743.6A CN202310065743A CN116304083A CN 116304083 A CN116304083 A CN 116304083A CN 202310065743 A CN202310065743 A CN 202310065743A CN 116304083 A CN116304083 A CN 116304083A
- Authority
- CN
- China
- Prior art keywords
- entity
- vector
- relation
- relationship
- performance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 239000013598 vector Substances 0.000 claims abstract description 229
- 238000012549 training Methods 0.000 claims abstract description 107
- 239000011159 matrix material Substances 0.000 claims description 37
- 230000006870 function Effects 0.000 claims description 28
- 230000009467 reduction Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 238000012847 principal component analysis method Methods 0.000 claims description 5
- 238000004422 calculation algorithm Methods 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 238000000513 principal component analysis Methods 0.000 claims description 2
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000003930 cognitive ability Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000011058 failure modes and effects analysis Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005295 random walk Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Analysis (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Optimization (AREA)
- Databases & Information Systems (AREA)
- Pure & Applied Mathematics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Mathematics (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Animal Behavior & Ethology (AREA)
- Algebra (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种性能‑故障关系图谱的关系预测方法及装置,其中方法包括:获取性能‑故障关系图谱中各实体的实体向量和各已知关系的关系向量;基于所述性能‑故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;利用训练好的RNN模型对所述性能‑故障关系图谱中关系未知的两个实体之间的关系进行预测。本方案,能够实现性能‑故障关系图谱的关系预测。
Description
技术领域
本发明实施例涉及航空航天技术领域,特别涉及一种性能-故障关系图谱的关系预测方法及装置。
背景技术
目前,航天器控制***的性能与故障的映射关系一般采用FMEA或故障树的形式表示,在航天器控制***发生异常后,地面专家通过人工查询的方式来确定故障源,该方式难以保证故障诊断的实时性和可视化。而知识图谱作为描述海量知识、知识属性及知识间关系的有效工具,为故障诊断提供了一种新的手段。
目前,考虑各种模型知识、专家知识和数据,通过人工方式或自动方式构建了航天器控制***性能-故障关系图谱。但由于航天器故障相关知识属于领域知识,缺乏完备的航天器故障知识库,而航天器控制***结构复杂、部件众多,数据数量大且关系紧密,同时设计人员认知能力有限,很难建立精确完整的航天器控制***性能-故障关系图谱,直接影响故障诊断结果的准确性。
基于此,亟需提供一种性能-故障关系图谱的关系预测方法,以实现性能-故障关系图谱的关系预测。
发明内容
本发明实施例提供了一种性能-故障关系图谱的关系预测方法及装置,能够实现性能-故障关系图谱的关系预测。
第一方面,本发明实施例提供了一种性能-故障关系图谱的关系预测方法,包括:
获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
第二方面,本发明实施例还提供了一种性能-故障关系图谱的关系预测装置,包括:
向量获取单元,用于获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
样本获取单元,用于基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
训练单元,用于针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
预测单元,用于利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
第三方面,本发明实施例还提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时,实现本说明书任一实施例所述的方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行本说明书任一实施例所述的方法。
本发明实施例提供了一种性能-故障关系图谱的关系预测方法及装置,通过获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量,并基于性能-故障关系图谱获取多个训练样本,其中,每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;利用多个训练样本对RNN模型进行训练,在训练时,训练样本中路径上的每一个实体的实体向量作为RNN的输入向量,训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,使得RNN模型能够充分学习路径上各个相邻实体之间的关系,进而能够对头实体和尾实体之间的关系进行预测。可见,本方案,在性能-故障关系图谱的基础上,将表示学习与深度神经网络相结合进行关系推理,以实现关系预测。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种性能-故障关系图谱的关系预测方法流程图;
图2是本发明一实施例提供的一种RNN模型的结构示意图;
图3是本发明一实施例提供的一种电子设备的硬件架构图;
图4是本发明一实施例提供的一种性能-故障关系图谱的关系预测装置结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参考图1,本发明实施例提供了一种性能-故障关系图谱的关系预测方法,该方法包括:
步骤100,获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
步骤102,基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
步骤104,针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
步骤106,利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
本发明实施例中,通过获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量,并基于性能-故障关系图谱获取多个训练样本,其中,每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;利用多个训练样本对RNN模型进行训练,在训练时,训练样本中路径上的每一个实体的实体向量作为RNN的输入向量,训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,使得RNN模型能够充分学习路径上各个相邻实体之间的关系,进而能够对头实体和尾实体之间的关系进行预测。可见,本方案,在性能-故障关系图谱的基础上,将表示学习与深度神经网络相结合进行关系推理,以实现关系预测。
下面描述图1所示的各个步骤的执行方式。
首先,针对步骤100,获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量。
本发明实施例中,可以针对航天器初步建立性能-故障关系图谱,性能-故障关系图谱包括实体和连边,连边用于表征所连接两个实体之间的关系。由于航天器的性能-故障关系图谱存在关系的不完整,因此,需要对未知关系进行预测,以保证性能-故障关系图谱的完整性,提高故障诊断结果的准确性。
需要说明的是,性能-故障关系图谱的建立方式可以采用现有图谱构建方式来实现,在此不进行详细说明。
在本发明实施例中,采用表示学习和深度神经网络相结合的关系推断方法,为了给深度学习提供基础信息,需要获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量。具体地,本步骤100可以包括如下步骤A1~A4:
A1、利用TransE(Translating Embedding,表示学习)模型对所述性能-故障关系图谱中的三元组进行处理,提取各实体的语义特征和各已知关系的语义特征,以得到各实体的语义向量和各已知关系的语义向量。
在本发明实施例中,本步骤A1具体包括:
A11、从所述性能-故障关系图谱中提取三元组(h,r,t),h为头实体,t为尾实体,r为头实体h和尾实体t之间的关系;
为了方便计算,还可以对m维向量进行归一化处理为单位向量。
A13、在向量化的三元组中随机抽取多个三元组作为正样本,针对每一个正样本,随机替换该正样本中的头实体或尾实体得到负样本,对TransE模型进行训练,训练目标是使三元组的向量满足h+r=t;
A14、基于设置的得分函数和损失函数,通过基于梯度的优化算法进行优化求解,直至训练收敛,得到实体的m维语义向量和已知关系的m维语义向量。
为了满足训练目标,可以根据h+r与t的欧氏距离或曼哈顿距离设置如下得分函数:
f(h,r,t)=||h+r-t||L1/L2
根据TransE模型的训练目标,要保证正样本的得分函数尽量小,负样本的得分函数尽量大,损失函数可以设置为:
其中,S为正样本集合,(h’,r,t’)为正样本(h,r,t)对应的负样本,γ表示损失函数中的间隔(γ>0)。
对选取的正样本和负样本进行上述得分函数和损失函数的计算,当训练未收敛时,需要循环执行步骤A3和A4,直至训练收敛,得到实体的各实体的语义向量和各已知关系的语义向量。
A2、采用主成分分析法对各实体的语义向量和各已知关系的语义向量进行降维,将各已知关系降维后的语义向量作为各已知关系的关系向量。
本发明实施例中,采用主成分分析法PCA对m维语义向量进行主成分提取,得到降成k维的语义向量,具体为:
A21、将n个m维语义向量排列组成m行n列的向量矩阵X;m、n均为不小于3的整数;
A22、将向量矩阵X的每一行进行去中心化处理,得到处理后的矩阵Xc;
去中心化的方式为:
Xcij为矩阵Xc的第i行j列元素,Xij为向量矩阵X的第i行j列元素,k为降维后的维度,且是小于m的正整数。
A23、根据向量矩阵X和矩阵Xc计算协方差矩阵C;
其中,协方差矩阵C可以通过如下公式计算得到:
A24、利用特征值分解法求出矩阵C的特征值及对应的特征向量,将特征向量按照对应特征值的由大到小的顺序进行排列,得到单位特征向量,取前k列组成转换矩阵P∈Rm ×k;k为小于m的正整数;
A25、利用转换矩阵P将向量矩阵X转换到k个特征向量构成的新空间,得到降维矩阵Y∈Rk×n,按列分离得到n个的k维语义向量。
其中,可以通过如下公式将向量矩阵X转换到k个特征向量:
Y=PTX
需要说明的是,实体的语义向量降维和关系的语义向量降维均是采用上述方式实现。在降维完成后,可以直接将关系降维后的语义向量作为关系向量。
本实施例中,采用主成分分析法将语义向量的维度由m维降维至k维,实现实体、关系向量的降维,既保留了高阶特征,防止深度神经网络出现过拟合现象,又提高了计算效率。
A3、将每一个实体在所述性能-故障关系图谱中的位置信息转换为布尔型向量,得到每一个实体的位置向量。
在本发明一个实施例中,本步骤A3可以包括:将所述性能-故障关系图谱中的所有实体按顺序(e1,e2,…en)进行排列,针对每一个实体,定义n维零向量为该实体的位置向量,若该实体与实体ei存在关系,则该实体的位置向量中第i个元素置1,否则置为0;其中,i=1,2,…,n;n为不小于3的整数。n为实体的总数量。
采用one-hot编码方式获得所有实体的位置向量,从而可以得到实体在性能-故障关系图谱中的全局位置信息。
A4、将各实体降维后的语义向量和对应的位置向量进行拼接,得到各实体的实体向量。
其中,该拼接方式可以将语义向量拼接在位置向量之后,也可以是将位置向量拼接在语义向量之后,也可以是其他拼接方式,但所有实体的拼接方式均采用统一拼接方式,以保证准确性。
本实施例中,既考虑了实体的语义信息,能让计算机理解其复杂的物理关系;又考虑到位置信息,避免因故障知识不完备而造成神经网络学习不充分。
需要说明的是,除上述步骤A1~A4的方式确定实体向量和关系向量之外,还可以直接将步骤A1得到的实体的语义向量作为实体向量,步骤A1得到的关系的语义向量作为关系向量,也可以将步骤A2中实体降维后的语义向量作为实体向量。
然后,针对步骤102,基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径。
在本发明实施例中,获取训练样本的方式可以是在性能-故障关系图谱中,随机取头实体和尾实体,若该头实体和尾实体之间存在已知关系,则将该头实体和尾实体作为训练样本,并针对该头实体和尾实体之间进行随机游走得到头实体和尾实体之间的路径,路径上存在的实体称为中间实体。
另外,为了保证后续RNN模型的训练结果准确性,可以将获取的训练样本按比例划分为训练集和测试集,比如训练集和测试集的比例为7:3。
接下来,针对步骤104,针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练。
在对头实体和尾实体之间存在的关系进行推断时,需要结合头实体和尾实体之间路径上各个中间实体的信息,且需要逐个基于相邻两个实体之间的关系进行逐步推理,具体地,在本发明一个实施例中,该步骤104中每一个训练样本对RNN模型的训练过程可以包括如下步骤B1~B4:
B1、针对该训练样本,从头实体的实体向量出发,沿该训练样本中路径进行时间推进,以得到每一个时刻所对应实体的实体向量;
B2、针对每一个时刻,基于当前时刻所对应实体的实体向量、当前时刻的记忆状态以及权重参数,利用记忆激活函数计算下一个时刻的记忆状态,直到最终时刻达到路径的尾实体,得到最终时刻的记忆状态;所述权重参数包括:输入样本权重、输入权重和输出权重;
B3、根据最终时刻的记忆状态输出关系预测向量;
B4、根据所述关系预测向量和该训练样本的关系向量,对所述权重参数进行优化,并利用其它训练样本重复本训练过程,直到训练完成为止,得到训练好的RNN模型。
举例来说,假设头实体的实体向量为eh,尾实体的实体向量为et,头实体与尾实体之间路径上包括(t-1)个中间实体,其实体向量按路径上从头实体至尾实体的顺序依次为e1、e2、…、et-1,那么从头实体eh出发,将头实体eh的实体向量输入RNN中,可以设当前时刻的记忆状态为初始记忆状态S0=0,可以通过如下公式得到下一个时刻的记忆状态1:
S1=f(Ueh+WS0)
其中,记忆激活函数f()可以选用tanh函数;输出激活函数g()可以选用softmax,可以得到当前时刻输出的关系预测向量O1:
O1=g(VS1)
其中,U为输入样本权重,W为输入权重,V为输出权重。
沿路径进行时间推进,则针对中间实体e1,在当前时刻将中间实体的实体向量输入RNN中,当前时刻的记忆状态为S1,按照上述记忆状态的计算公式和关系预测向量的计算公式可以得到下一个时刻的记忆状态S2和关系预测向量O2,依次进行计算,直到达到路径的尾实体et,得到其记忆状态St与最终时刻的输出关系预测向量Ot:
St=f(Uet+WSt-1)
Ot=g(VSt)
其中,最终时刻输出的Ot即为关系预测向量R,该关系预测向量的维数为q,向量的q个布尔型元素与性能-故障关系图谱的q个关系对应,若存在关系,则相应元素置1,否则为0。也就是说,关系预测向量R中元素为1的位置所对应的关系即为针对该训练样本中头实体和尾实体之间预测的关系。
其中,该训练样本的关系向量T为RNN模型期望的输出,根据关系预测向量和关系向量可以计算出均方差函数:
其中,g为训练样本数,据此采用梯度下降法对权重参数与偏置值进行优化,直到达到训练次数上限或MSE满足要求为止,RNN模型训练完成。
请参考图2,为RNN模型的结构示意图。
最后,针对步骤106,利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
在得到训练完成的RNN模型之后,若需要对性能-故障关系图谱中关系未知的两个实体之间的关系进行预测,可以直接将该两个实体的实体向量输入至RNN模型中,RNN模型的输出即为预测的关系。
如图3、图4所示,本发明实施例提供了一种性能-故障关系图谱的关系预测装置。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。从硬件层面而言,如图3所示,为本发明实施例提供的一种性能-故障关系图谱的关系预测装置所在电子设备的一种硬件架构图,除了图3所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的电子设备通常还可以包括其他硬件,如负责处理报文的转发芯片等等。以软件实现为例,如图4所示,作为一个逻辑意义上的装置,是通过其所在电子设备的CPU将非易失性存储器中对应的计算机程序读取到内存中运行形成的。本实施例提供的一种性能-故障关系图谱的关系预测装置,包括:
向量获取单元401,用于获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
样本获取单元402,用于基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
训练单元403,用于针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
预测单元404,用于利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
在本发明一个实施例中,所述向量获取单元,具体用于:
利用TransE模型对所述性能-故障关系图谱中的三元组进行处理,提取各实体的语义特征和各已知关系的语义特征,以得到各实体的语义向量和各已知关系的语义向量;
采用主成分分析法对各实体的语义向量和各已知关系的语义向量进行降维,将各已知关系降维后的语义向量作为各已知关系的关系向量;
将每一个实体在所述性能-故障关系图谱中的位置信息转换为布尔型向量,得到每一个实体的位置向量;
将各实体降维后的语义向量和对应的位置向量进行拼接,得到各实体的实体向量。
在本发明一个实施例中,所述向量获取单元,在利用TransE模型对所述性能-故障关系图谱中的三元组进行处理,提取各实体的语义特征和已知关系的语义特征,以得到各实体的语义向量和各已知关系的语义向量时,具体包括:
从所述性能-故障关系图谱中提取三元组(h,r,t),h为头实体,t为尾实体,r为头实体h和尾实体t之间的关系;
在向量化的三元组中随机抽取多个三元组作为正样本,针对每一个正样本,随机替换该正样本中的头实体或尾实体得到负样本,对TransE模型进行训练,训练目标是使三元组的向量满足h+r=t;
基于设置的得分函数和损失函数,通过基于梯度的优化算法进行优化求解,直至训练收敛,得到实体的m维语义向量和已知关系的m维语义向量。
在本发明一个实施例中,所述向量获取单元,在采用主成分分析法对各实体的语义向量和各已知关系的语义向量进行降维时,具体包括:
将n个m维语义向量排列组成m行n列的向量矩阵X;m、n均为不小于3的整数;
将向量矩阵X的每一行进行去中心化处理,得到处理后的矩阵Xc;
根据向量矩阵X和矩阵Xc计算协方差矩阵C;
利用特征值分解法求出矩阵C的特征值及对应的特征向量,将特征向量按照对应特征值的由大到小的顺序进行排列,得到单位特征向量,取前k列组成转换矩阵P∈Rm×k;k为小于m的正整数;
利用转换矩阵P将向量矩阵X转换到k个特征向量构成的新空间,得到降维矩阵Y∈Rk×n,按列分离得到n个的k维语义向量。
在本发明一个实施例中,所述向量获取单元,在将每一个实体在所述性能-故障关系图谱中的位置信息转换为布尔型向量,得到每一个实体的位置向量时,具体包括:
将所述性能-故障关系图谱中的所有实体按顺序进行排列,针对每一个实体,定义n维零向量为该实体的位置向量,若该实体与实体ei存在关系,则该实体的位置向量中第i个元素置1,否则置为0;其中,i=1,2,…,n;n为不小于3的整数。
在本发明一个实施例中,所述训练单元在利用每一个训练样本对RNN模型进行训练的过程,具体包括:
针对该训练样本,从头实体的实体向量出发,沿该训练样本中路径进行时间推进,以得到每一个时刻所对应实体的实体向量;
针对每一个时刻,基于当前时刻所对应实体的实体向量、当前时刻的记忆状态以及权重参数,利用记忆激活函数计算下一个时刻的记忆状态,直到最终时刻达到路径的尾实体,得到最终时刻的记忆状态;所述权重参数包括:输入样本权重、输入权重和输出权重;
根据最终时刻的记忆状态输出关系预测向量;
根据所述关系预测向量和该训练样本的关系向量,对所述权重参数进行优化,并利用其它训练样本重复本训练过程,直到训练完成为止,得到训练好的RNN模型。
在本发明一个实施例中,所述训练单元具体利用如下公式计算下一个时刻的记忆状态,包括:
Si+1=f(Uei+WSi)
所述训练单元在根据最终时刻的记忆状态输出关系预测向量时,具体包括:
所述关系预测向量通过如下公式计算:
Ot=g(VSt)
其中,Si为当前时刻的记忆状态,Si+1为下一时刻的记忆状态,f()为记忆激活函数,U为输入样本权重,W为输入权重,V为输出权重,St为最终时刻的记忆状态,Ot为所述关系预测向量,g()为输出激活函数。
可以理解的是,本发明实施例示意的结构并不构成对一种性能-故障关系图谱的关系预测装置的具体限定。在本发明的另一些实施例中,一种性能-故障关系图谱的关系预测装置可以包括比图示更多或者更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件、软件或者软件和硬件的组合来实现。
上述装置内的各模块之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,具体内容可参见本发明方法实施例中的叙述,此处不再赘述。
本发明实施例还提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时,实现本发明任一实施例中的一种性能-故障关系图谱的关系预测方法。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在被处理器执行时,使所述处理器执行本发明任一实施例中的一种性能-故障关系图谱的关系预测方法。
具体地,可以提供配有存储介质的***或者装置,在该存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码,且使该***或者装置的计算机(或CPU或MPU)读出并执行存储在存储介质中的程序代码。
在这种情况下,从存储介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能,因此程序代码和存储程序代码的存储介质构成了本发明的一部分。
用于提供程序代码的存储介质实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RAM、DVD-RW、DVD+RW)、磁带、非易失性存储卡和ROM。可选择地,可以由通信网络从服务器计算机上下载程序代码。
此外,应该清楚的是,不仅可以通过执行计算机所读出的程序代码,而且可以通过基于程序代码的指令使计算机上操作的操作***等来完成部分或者全部的实际操作,从而实现上述实施例中任意一项实施例的功能。
此外,可以理解的是,将由存储介质读出的程序代码写到***计算机内的扩展板中所设置的存储器中或者写到与计算机相连接的扩展模块中设置的存储器中,随后基于程序代码的指令使安装在扩展板或者扩展模块上的CPU等来执行部分和全部实际操作,从而实现上述实施例中任一实施例的功能。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个…”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储在计算机可读取的存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种性能-故障关系图谱的关系预测方法,其特征在于,包括:
获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
2.根据权利要求1所述的方法,其特征在于,所述获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量,包括:
利用TransE模型对所述性能-故障关系图谱中的三元组进行处理,提取各实体的语义特征和各已知关系的语义特征,以得到各实体的语义向量和各已知关系的语义向量;
采用主成分分析法对各实体的语义向量和各已知关系的语义向量进行降维,将各已知关系降维后的语义向量作为各已知关系的关系向量;
将每一个实体在所述性能-故障关系图谱中的位置信息转换为布尔型向量,得到每一个实体的位置向量;
将各实体降维后的语义向量和对应的位置向量进行拼接,得到各实体的实体向量。
3.根据权利要求2所述的方法,其特征在于,所述利用TransE模型对所述性能-故障关系图谱中的三元组进行处理,提取各实体的语义特征和已知关系的语义特征,以得到各实体的语义向量和各已知关系的语义向量,包括:
从所述性能-故障关系图谱中提取三元组(h,r,t),h为头实体,t为尾实体,r为头实体h和尾实体t之间的关系;
在向量化的三元组中随机抽取多个三元组作为正样本,针对每一个正样本,随机替换该正样本中的头实体或尾实体得到负样本,对TransE模型进行训练,训练目标是使三元组的向量满足h+r=t;
基于设置的得分函数和损失函数,通过基于梯度的优化算法进行优化求解,直至训练收敛,得到实体的m维语义向量和已知关系的m维语义向量。
4.根据权利要求2所述的方法,其特征在于,所述采用主成分分析法对各实体的语义向量和各已知关系的语义向量进行降维,包括:
将n个m维语义向量排列组成m行n列的向量矩阵X;m、n均为不小于3的整数;
将向量矩阵X的每一行进行去中心化处理,得到处理后的矩阵Xc;
根据向量矩阵X和矩阵Xc计算协方差矩阵C;
利用特征值分解法求出矩阵C的特征值及对应的特征向量,将特征向量按照对应特征值的由大到小的顺序进行排列,得到单位特征向量,取前k列组成转换矩阵P∈Rm×k;k为小于m的正整数;
利用转换矩阵P将向量矩阵X转换到k个特征向量构成的新空间,得到降维矩阵Y∈Rk×n,按列分离得到n个的k维语义向量。
5.根据权利要求2所述的方法,其特征在于,所述将每一个实体在所述性能-故障关系图谱中的位置信息转换为布尔型向量,得到每一个实体的位置向量,包括:
将所述性能-故障关系图谱中的所有实体按顺序进行排列,针对每一个实体,定义n维零向量为该实体的位置向量,若该实体与实体ei存在关系,则该实体的位置向量中第i个元素置1,否则置为0;其中,i=1,2,…,n;n为不小于3的整数。
6.根据权利要求1-5中任一所述的方法,其特征在于,利用每一个训练样本对RNN模型进行训练的过程,包括:
针对该训练样本,从头实体的实体向量出发,沿该训练样本中路径进行时间推进,以得到每一个时刻所对应实体的实体向量;
针对每一个时刻,基于当前时刻所对应实体的实体向量、当前时刻的记忆状态以及权重参数,利用记忆激活函数计算下一个时刻的记忆状态,直到最终时刻达到路径的尾实体,得到最终时刻的记忆状态;所述权重参数包括:输入样本权重、输入权重和输出权重;
根据最终时刻的记忆状态输出关系预测向量;
根据所述关系预测向量和该训练样本的关系向量,对所述权重参数进行优化,并利用其它训练样本重复本训练过程,直到训练完成为止,得到训练好的RNN模型。
7.根据权利要求6所述的方法,其特征在于,
利用如下公式计算下一个时刻的记忆状态,包括:
Si+1=f(Uei+WSi)
所述根据最终时刻的记忆状态输出关系预测向量,包括:
所述关系预测向量通过如下公式计算:
Ot=g(VSt)
其中,Si为当前时刻的记忆状态,Si+1为下一时刻的记忆状态,f()为记忆激活函数,U为输入样本权重,W为输入权重,V为输出权重,St为最终时刻的记忆状态,Ot为所述关系预测向量,g()为输出激活函数。
8.一种性能-故障关系图谱的关系预测装置,其特征在于,包括:
向量获取单元,用于获取性能-故障关系图谱中各实体的实体向量和各已知关系的关系向量;
样本获取单元,用于基于所述性能-故障关系图谱,获取多个训练样本;每一个训练样本均包括:存在已知关系的头实体和尾实体,及,该头实体和尾实体之间的路径;
训练单元,用于针对每一个训练样本,将该训练样本中路径上的每一个实体的实体向量作为RNN模型的输入向量,将该训练样本中头实体和尾实体之间存在的已知关系的关系向量作为RNN模型的输出向量,以对RNN模型进行训练;
预测单元,用于利用训练好的RNN模型对所述性能-故障关系图谱中关系未知的两个实体之间的关系进行预测。
9.一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310065743.6A CN116304083B (zh) | 2023-01-13 | 2023-01-13 | 性能-故障关系图谱的关系预测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310065743.6A CN116304083B (zh) | 2023-01-13 | 2023-01-13 | 性能-故障关系图谱的关系预测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116304083A true CN116304083A (zh) | 2023-06-23 |
CN116304083B CN116304083B (zh) | 2023-09-15 |
Family
ID=86780539
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310065743.6A Active CN116304083B (zh) | 2023-01-13 | 2023-01-13 | 性能-故障关系图谱的关系预测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116304083B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190122111A1 (en) * | 2017-10-24 | 2019-04-25 | Nec Laboratories America, Inc. | Adaptive Convolutional Neural Knowledge Graph Learning System Leveraging Entity Descriptions |
CN110688489A (zh) * | 2019-09-09 | 2020-01-14 | 中国电子科技集团公司电子科学研究院 | 基于交互注意力的知识图谱推演方法、装置和存储介质 |
US20210027178A1 (en) * | 2019-07-26 | 2021-01-28 | Ricoh Company, Ltd. | Recommendation method and recommendation apparatus based on deep reinforcement learning, and non-transitory computer-readable recording medium |
CN113128689A (zh) * | 2021-04-27 | 2021-07-16 | 中国电力科学研究院有限公司 | 一种调控知识图谱的实体关系路径推理方法及*** |
CN113239131A (zh) * | 2021-06-18 | 2021-08-10 | 国网湖南省电力有限公司 | 基于元学习的少样本知识图谱补全方法 |
CN113535984A (zh) * | 2021-08-11 | 2021-10-22 | 华侨大学 | 一种基于注意力机制的知识图谱关系预测方法及装置 |
CN115438189A (zh) * | 2022-08-30 | 2022-12-06 | 西安理工大学 | 融合实体描述与路径信息的知识图谱表示学习模型的方法 |
-
2023
- 2023-01-13 CN CN202310065743.6A patent/CN116304083B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190122111A1 (en) * | 2017-10-24 | 2019-04-25 | Nec Laboratories America, Inc. | Adaptive Convolutional Neural Knowledge Graph Learning System Leveraging Entity Descriptions |
US20210027178A1 (en) * | 2019-07-26 | 2021-01-28 | Ricoh Company, Ltd. | Recommendation method and recommendation apparatus based on deep reinforcement learning, and non-transitory computer-readable recording medium |
CN110688489A (zh) * | 2019-09-09 | 2020-01-14 | 中国电子科技集团公司电子科学研究院 | 基于交互注意力的知识图谱推演方法、装置和存储介质 |
CN113128689A (zh) * | 2021-04-27 | 2021-07-16 | 中国电力科学研究院有限公司 | 一种调控知识图谱的实体关系路径推理方法及*** |
CN113239131A (zh) * | 2021-06-18 | 2021-08-10 | 国网湖南省电力有限公司 | 基于元学习的少样本知识图谱补全方法 |
CN113535984A (zh) * | 2021-08-11 | 2021-10-22 | 华侨大学 | 一种基于注意力机制的知识图谱关系预测方法及装置 |
CN115438189A (zh) * | 2022-08-30 | 2022-12-06 | 西安理工大学 | 融合实体描述与路径信息的知识图谱表示学习模型的方法 |
Non-Patent Citations (2)
Title |
---|
邢晓宇 等: "考虑语义和位置信息的航天器知识图谱关系预测方法", 《空间控制技术与应用》, vol. 48, no. 6, pages 32 - 39 * |
陈海旭 等: "一种结合路径信息和嵌入模型的知识推理方法", 《小型微型计算机***》, vol. 41, no. 6 * |
Also Published As
Publication number | Publication date |
---|---|
CN116304083B (zh) | 2023-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11610131B2 (en) | Ensembling of neural network models | |
Bhattacharya et al. | Differentiable causal discovery under unmeasured confounding | |
JP5250076B2 (ja) | 構造予測モデル学習装置、方法、プログラム、及び記録媒体 | |
WO2018131259A1 (ja) | 文章評価装置、及び文章評価方法 | |
US20180082215A1 (en) | Information processing apparatus and information processing method | |
JP2005504367A (ja) | 監視ニューラルネットワーク学習のための組合せ手法 | |
JP7178513B2 (ja) | ディープラーニングに基づく中国語単語分割方法、装置、記憶媒体及びコンピュータ機器 | |
Chen et al. | Universal symmetry constraint extraction for analog and mixed-signal circuits with graph neural networks | |
WO2013125482A1 (ja) | 文書評価装置、文書評価方法、及びコンピュータ読み取り可能な記録媒体 | |
CN112069801A (zh) | 基于依存句法的句子主干抽取方法、设备和可读存储介质 | |
CN113705092B (zh) | 基于机器学习的疾病预测方法及装置 | |
US10733344B2 (en) | Method of selecting a prover | |
US20210217501A1 (en) | Learning device and learning method | |
CN117540262A (zh) | 一种基于前馈与反馈结合的变压器故障预测建模方法 | |
CN104008301B (zh) | 一种领域概念层次结构自动构建方法 | |
CN116861269A (zh) | 工程领域的多源异构数据融合及分析方法 | |
CN110222824B (zh) | 智能算法模型自主生成及进化方法、***、装置 | |
CN116304083B (zh) | 性能-故障关系图谱的关系预测方法及装置 | |
EP3474196A1 (en) | Method of selecting a prover | |
CN116089611B (zh) | 基于性能-故障关系图谱的航天器故障诊断方法及装置 | |
CN112818164B (zh) | 音乐类型识别方法、装置、设备及存储介质 | |
CN114428720A (zh) | 基于p-k的软件缺陷预测方法、装置、电子设备及介质 | |
Valdés et al. | Evolutionary computation methods for helicopter loads estimation | |
CN116360387B (zh) | 融合贝叶斯网络和性能-故障关系图谱的故障定位方法 | |
Li et al. | LSTM-based ensemble learning for time-dependent reliability analysis |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |