CN112860918B - 一种基于协同演化建模的时序知识图谱表示学习方法 - Google Patents
一种基于协同演化建模的时序知识图谱表示学习方法 Download PDFInfo
- Publication number
- CN112860918B CN112860918B CN202110305818.4A CN202110305818A CN112860918B CN 112860918 B CN112860918 B CN 112860918B CN 202110305818 A CN202110305818 A CN 202110305818A CN 112860918 B CN112860918 B CN 112860918B
- Authority
- CN
- China
- Prior art keywords
- social
- representing
- entity
- knowledge graph
- fact
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 230000006870 function Effects 0.000 claims abstract description 25
- 238000011478 gradient descent method Methods 0.000 claims abstract description 5
- 239000013598 vector Substances 0.000 claims description 40
- 230000014509 gene expression Effects 0.000 claims description 23
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000002269 spontaneous effect Effects 0.000 claims description 10
- 230000000694 effects Effects 0.000 claims description 9
- 230000005284 excitation Effects 0.000 claims description 8
- 238000013507 mapping Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 4
- 230000017105 transposition Effects 0.000 claims 1
- 230000009286 beneficial effect Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 238000005312 nonlinear dynamic Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000003997 social interaction Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于协同演化建模的时序知识图谱表示学习方法,属于时序知识图谱技术领域,根据待表示的时序知识图谱,初始化模型的参数以及任一实体和关系的嵌入表示;计算得到每个已知事实的发生概率,并通过最大化已知事实的发生概率得到局部结构的演化损失;为每个时序知识图谱快照的图结构计算其对应的软模块度,并最大化软模块度得到全局结构的演化损失;计算得到模型的整体损失函数;利用梯度下降法迭代优化所述模型的整体损失函数,直至模型收敛。本发明解决了以往的工作因为忽略时序知识图谱的演化本质而无法获得准确的嵌入表示的问题。
Description
技术领域
本发明属于时序知识图谱技术领域,尤其涉及一种基于协同演化建模的时序知识图谱表示学习方法。
背景技术
知识图谱作为一种具有语义属性的知识库***,被广泛用于各个领域中结构化数据的存储与管理,比如动态社交。知识图谱可以被表示成一个异构有向图,其中节点代表了现实世界中的实体与概念,而带有标签的有向边则代表了它们之间的关系。尽管目前已有很多知识图谱表示学习方法被提出,但他们很少考虑知识图谱的动态性,尤其是忽略了其演化本质,这种知识的更新迭代反映到知识图谱上则表现为实体的出现与消失或关系的建立与解除,因此知识图谱本身具有时变性和演化性。现有的工作忽略了知识图谱的时间特性,导致他们所学习到的嵌入表示是不准确不合理的。
近年来,一些工作尝试为这种随时间变化的知识图谱学***面的方法,其通过将不同时间下的知识映射到不同的超平面上来分别学习每个时间下的嵌入表示;基于历时实体嵌入的方法,其将实体的嵌入表示看作一个与时间相关的非线性函数;基于张量分解的方法,其利用邻接矩阵的低秩分解来学习时序知识图谱的嵌入表示。
然而,上述工作要么独立地学习每个时刻的嵌入表示,从而忽略了时序知识图谱的演化本质;要么将其演化本质简化为实体的非线性动态性,无法反映时序知识图谱的详细演化机制。事实上,从局部结构来看,随着时间的发展,关系不断在实体之间建立或解除,从而驱动了时序知识图谱的演化。而从全局结构来看,大量的关系建立与解除共同形成了时序知识图谱中社团结构的缓慢演化过程,同时,局部结构演化与全局结构演化并非互相独立的,局部结构演化是全局结构演化的内在机制,全局结构演化是局部结演化的外驱动因,考虑局部和全局结构的协同演化过程能够学习到更为准确的时序知识图谱嵌入表示,目前还没有工作考虑到这一点。
发明内容
针对现有技术中的上述不足,本发明提供的一种基于协同演化建模的时序知识图谱表示学习方法,其创新点在于同时从局部结构和全局结构两个角度建模时序知识的演化过程,并提出了一个新的软模块度用于衡量社团结构,本方法解决了以往的工作因为忽略时序知识图谱的演化本质而无法获得准确的嵌入表示的问题。
为了达到以上目的,本发明采用的技术方案为:
本方案提供一种基于协同演化建模的时序知识图谱表示学习方法,包括以下步骤:
S1、根据待表示的时序知识图谱,初始化模型的参数以及任一实体和关系的嵌入表示;
S2、以时序知识图谱中事实对应时间戳的顺序,输入时序知识图谱的已知事实计算得到每个已知事实的发生概率,并通过最大化已知事实的发生概率得到局部结构的演化损失;
S3、以时间顺序输入时序知识图谱在每个时间戳下的时序知识图谱快照,为每个时序知识图谱快照的图结构计算其对应的软模块度,并最大化软模块度得到全局结构的演化损失;
S4、根据所述局部结构的演化损失以及全局结构的演化损失,计算得到模型的整体损失函数;
S5、利用梯度下降法迭代优化所述模型的整体损失函数,并更新模型的参数以及实体和关系的嵌入表示;
S6、判断模型是否收敛,若是,得到最终的实体和关系嵌入表示,完成时序知识图谱表示学习,否则,返回步骤S1。
本发明的有益效果是:本发明设计了一个新的基于协同演化的时序知识图谱表示学习方法,能够从局部和全局演化两个方面对知识的演化过程进行建模,捕获知识演化的内在机理,从而学习到更准确的表示向量来提升事件预测等下游任务的性能。相比于以往的方法,本发明提出的方法具有更高的运行效率且能够适应流式数据的线上环境。
进一步地,所述步骤S1中初始化任一实体e在时间戳τ下的嵌入表示uτe的表达式如下:
其中,θe、ωe和ve均表示特定于当前实体的向量。
上述进一步方案的有益效果是:能够充分考虑不同实体的不同策略演化方式,如:周期型演化策略,非周期型演化趋势以及静态属性。
再进一步地,所述步骤S2包括以下步骤:
S201、以时序知识图谱中事实对应时间戳τ的顺序,输入当前时序知识图谱的已知事实,对于任一已知事实(s,r,o,τ),根据其参与者计算得到该事实自发发生的强度其中,所述参与者为已知事实中包含的实体s,o以及关系r;
其中,ηs,r(τi)和ηo,r(τi)分别表示当前动态事实中的头实体s和尾实体o在τi时刻的历史事实对当前动态事实的影响,表示在τi时刻下实体e所具有的关系集合,表示关系级注意力,和Zr表示历史事实中关系的嵌入表示,表示历史事件所包含的关系,V表示用于衡量关系向量间相似性的参数矩阵,h表示τi时刻下与实体e存在关系的实体,βh,x表示实体注意力,表示h在τi时刻下的向量表示,表示x在τi时刻下的向量表示,x表示实体e在当前动态事实中存在关系的实体,r'表示τi时刻下实体e所具有的关系中的某一个,h'表示h特定的某一个,表示τi时刻下与实体e具有关系的实体集合,表示h'在τi时刻下的向量表示;
S205、根据所述每个已知事实的发生概率,通过最大化事实的发生概率计算得到局部结构的演化损失Llocal:
其中,I(τ)表示τ时刻之前的历史事件组成的集合。
上述进一步方案的有益效果是:对不同的历史事件施加自适应的重要性权重,从而灵活地考虑不同的历史事实对当前事实的不同影响。
上述进一步方案的有益效果是:能够有效识别任一时刻的自发事实。
上述进一步方案的有益效果是:同时考虑了事实的自发强度和历史事实对其的影响,能够充分建模一个事实的发生强度。
再进一步地,所述步骤S204中每个已知事实发生的概率p(s,r,o|I(τ))的表达式如下:
其中,表示候选事实(e,r,o,τ)的发生强度,表示候选事实(s,r,e,τ)的发生强度,e表示实体集合中的任一实体,ε表示一个时序知识图谱的实体集合,I(τ)表示τ时刻之前的历史事件组成的集合,s表示当前事实包含的头实体,r表示当前事实包含的关系,o表示当前事实包含的尾实体。
上述进一步方案的有益效果是:充分最大化有效事实的发生概率。
再进一步地,所述步骤S3包括以下步骤:
S304、根据所述每个实体的社团分配向量,最大化所述软模块度得到全局结构的演化损失Lglobal。
上述进一步方案的有益效果是:能充分考虑时序知识图谱的动态性与异构性。
上述进一步方案的有益效果是:能够灵活地考虑不同关系带来的实体间不同的连接强度。
上述进一步方案的有益效果是:能够同时基于当前时间戳下时序知识图谱的拓扑结构以及社团缓慢演化的特性计算实体的社团划分。
再进一步地,所述步骤S304中全局结构的演化损失Lglobal的表达式如下:
其中,T表示转置运算符号,mτ表示时序知识图谱在时间戳τ存在的关系总数,Tr(·)表示矩阵的迹,Hτ表示时间戳τ下的社团分配矩阵,表示软模块度矩阵,norm(·)表示二范数正则化,Hτ表示时间戳τ下的社团分配矩阵。
上述进一步方案的有益效果是:能够简化软模块度的最大化过程,加速模型收敛。
附图说明
图1为本发明的方法流程图。
图2为本方法应用于动态社交网络的方法流程图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
实施例
如图1所示,本发明提供了一种基于协同演化建模的时序知识图谱表示学习方法,其实现方法如下:
S1、根据待表示的时序知识图谱,初始化模型的参数以及任一实体和关系的嵌入表示;
其中,θe、ωe和ve均表示特定于当前实体的向量。
S2、以时序知识图谱中事实对应时间戳的顺序,输入时序知识图谱的已知事实计算得到每个已知事实的发生概率,并通过最大化已知事实的发生概率得到局部结构的演化损失,其实现方法如下:
S201、以时序知识图谱中事实对应时间戳τ的顺序,输入当前时序知识图谱的已知事实,对于任一已知事实(s,r,o,τ),根据其参与者计算得到该事实自发发生的强度其中,所述参与者为已知事实中包含的实体s,o以及关系r;
S205、根据所述每个已知事实的发生概率,通过最大化事实的发生概率计算得到局部结构的演化损失Llocal。
本实施例中,为了考虑历史事实对当前事实发生概率的影响,本发明首先将发生于τi时刻的历史事实对当前时间的影响分解为两部分:
其中,ηs,r(τi)和ηo,r(τi)分别表示当前动态事实中的头实体s和尾实体o在τi时刻的历史事实对当前动态事实的影响。对于每一个实体,由于其不同的历史事实会通过不同的关系与不同的实体连接,因此不同的历史事实对当前事实具有不同的影响,为此,本发明将τi时间戳下实体e的所有历史事实看作一种层次结构,并通过如下方式量化其对当前事实的影响力:
其中,e代表考虑历史事实影响的实体(s或o),x代表历史事实中的目标实体(当e为s时,x为o),表示在τi时刻下实体e所具有的关系集合,是在τi时间戳下实体τi存在关系的实体的集合V表示用于衡量关系向量间相似性的参数矩阵。为了建模不同历史事实对当前事实的不同重要性,本发明使用层次注意力机制,分别计算了关系级注意力和实体级注意力βh,x,关系级注意力的计算方式如下:
由于上式可能得到负值,而事实发生的概率为小于等于1的正数,因此本发明通过一个指数函数将上述发生强度转换为正数:
因此,可以得到每个已知事实发生的概率p(s,r,o|I(τ)):
其中,表示候选事实(e,r,o,τ)的发生强度,表示候选事实(s,r,e,τ)的发生强度,e表示实体集合中的任一实体,ε表示一个时序知识图谱的实体集合,I(τ)表示τ时刻之前的历史事件组成的集合,s表示当前事实包含的头实体,r表示当前事实包含的关系,o表示当前事实包含的尾实体。
本实施例中,通过最小化损失函数来最大化每个已知事实发生的概率:
S3、以时间顺序输入时序知识图谱在每个时间戳下的时序知识图谱快照,为每个时序知识图谱快照的图结构计算其对应的软模块度,并最大化软模块度得到全局结构的演化损失,其实现方法如下:
S304、根据所述每个实体的社团分配向量,最大化所述软模块度得到全局结构的演化损失Lglobal。
本实施例中,在建模时序知识图谱的社团结构过程时,考虑到实体间使用不同的关系连接可能会带来不同的连接强度,首先通过下式计算两个实体间的连接强度:
基于此,可以得到时序知识图谱在每个时间戳下的软模块矩阵,该矩阵中的每个元素通过以下方式得到:
为了最大化时序知识图谱在每个时间戳下的软模块度,本发明需要得到每个实体的社团分配向量。考虑到时序知识图谱中的实体具有多种类型,且同一个实体可能同时属于多个不同的社团,允许对实体进行软社团分配,并通过下式得到每个实体的社团分配:
本实施例中,最后通过最小化如下损失函数来最大化时序知识图谱在各时间戳下的软模块度:
S4、根据所述局部结构的演化损失以及全局结构的演化损失,计算得到模型的整体损失函数L:
L=Llocal+Lglobal
S5、利用梯度下降法迭代优化所述模型的整体损失函数,并更新模型的参数以及实体和关系的嵌入表示;
S6、判断模型是否收敛,若是,得到最终的实体和关系嵌入表示,完成时序知识图谱表示学习,否则,返回步骤S1。
本发明不同于现有方法都忽视了时序知识图谱的演化本质,本发明的模型通过同时建模时序知识图谱的局部结构演化和全局结构演化来学习时序知识图谱的嵌入表示,因而本发明的模型所学习到的嵌入表示能够有效捕获时序知识图谱的演化本质。本发明所提出的基于层次注意力的时序点过程能够考虑实体语义的多种演化模式,并为不同的历史事件计算不同的影响力,从而有效建模实体间关系的建立。本发明的模型能够基于软模块度有效建模时序知识图谱中的动态社团划分,学习到时序知识图谱在宏观层面上的演化过程。如表1所示,表1为实验结果对比表。
表1
实施例2
下面对本发明作进一步说明。
本发明中对于任一现实世界中的动态社交网络,先通过实体消歧,关系抽取等手段将其表示为一个用于描述实体间关系的时序知识图谱,进而将该所得时序知识图谱输入上述提出的模型中通过梯度下降优化得到社会实体与关系所对应的嵌入表示,之后该嵌入表示被用于描述事实可信度的得分函数从而衡量每个候选事实的可信度,并从中选出可信度最高的事实来对原始动态社交网络进行补充,如图2所示,其实现方法如下:
A1、根据待表示的当前动态社交知识图谱,初始化模型的参数以及任一社交实体和关系的嵌入表示;
其中,θe、ωe和ve均表示特定于当前社交实体的向量。
A2、以社交知识图谱中事实对应时间戳的顺序,输入当前动态社交知识图谱的已知社交事实计算得到每个已知社交事实的发生概率,并通过最大化已知社交事实的发生概率得到局部结构的演化损失,其实现方法如下:
A201、以社交知识图谱中事实对应时间戳τ的顺序,输入当前动态社交时序知识图谱的已知社交事实,对于任一已知社交事实(s,r,o,τ),根据其参与者计算得到该社交事实自发发生的强度其中,所述参与者为已知社交事实中包含的社交实体s,o以及社交关系r;
A205、根据所述每个已知社交事实的发生概率,通过最大化事实的发生概率计算得到局部结构的演化损失Llocal。
本实施例中,为了考虑历史事实对当前事实发生概率的影响,本发明首先将发生于τi时刻的历史事实对当前时间的影响分解为两部分:
其中,ηs,r(τi)和ηo,r(τi)分别表示当前动态社交事实中的头社交实体s和尾社交实体o在τi时刻的历史社交事实对当前动态社交事实的影响。对于每一个实体,由于其不同的历史事实会通过不同的关系与不同的实体连接,因此不同的历史事实对当前事实具有不同的影响,为此,本发明将τi时间戳下实体e的所有历史事实看作一种层次结构,并通过如下方式量化其对当前事实的影响力:
其中,e代表考虑历史社交事实影响的社交实体(s或o),x代表历史事实中的目标实体(当e为s时,x为o),表示在τi时刻下实体e所具有的关系集合,是在τi时间戳下实体τi存在关系的实体的集合V表示用于衡量关系向量间相似性的参数矩阵。为了建模不同历史事实对当前事实的不同重要性,本发明使用层次注意力机制,分别计算了关系级注意力和社交实体级注意力βh,x,关系级注意力的计算方式如下:
由于上式可能得到负值,而事实发生的概率为小于等于1的正数,因此本发明通过一个指数函数将上述发生强度转换为正数:
因此,可以得到每个已知社交事实发生的概率p(s,r,o|I(τ)):
其中,表示候选社交事实(e,r,o,τ)的发生强度,表示候选社交事实(s,r,e,τ)的发生强度,e表示实体集合中的任一社交实体,ε表示一个社交知识图谱的实体集合,I(τ)表示τ时刻之前的历史事件组成的集合,s表示当前事实包含的头社交实体,r表示当前事实包含的社交关系,o表示当前事实包含的尾社交实体。
本实施例中,通过最小化损失函数来最大化每个已知事实发生的概率:
A3、以时间顺序输入当前动态社交知识图谱在每个时间戳下的社交知识图谱快照,为每个社交知识图谱快照的图结构计算其对应的软模块度,并最大化软模块度得到全局结构的演化损失,其实现方法如下:
A304、根据所述每个社交实体的社团分配向量,最大化所述软模块度得到全局结构的演化损失Lglobal。
本实施例中,在建模时序知识图谱的社团结构过程时,考虑到实体间使用不同的关系连接可能会带来不同的连接强度,首先通过下式计算两个实体间的连接强度:
基于此,可以得到时序知识图谱在每个时间戳下的软模块矩阵,该矩阵中的每个元素通过以下方式得到:
为了最大化时序知识图谱在每个时间戳下的软模块度,本发明需要得到每个社交实体的社团分配向量。考虑到时序知识图谱中的实体具有多种类型,且同一个社交实体可能同时属于多个不同的社团,允许对社交实体进行软社团分配,并通过下式得到每个实体的社团分配:
本实施例中,最后通过最小化如下损失函数来最大化时序知识图谱在各时间戳下的软模块度:
A4、根据所述局部结构的演化损失以及全局结构的演化损失,计算得到模型的整体损失函数L:
L=Llocal+Lglobal
A5、利用梯度下降法迭代优化所述模型的整体损失函数,并更新模型的参数以及社交实体和关系的嵌入表示;
A6、判断模型是否收敛,若是,得到最终的社交实体和关系嵌入表示,完成时序知识图谱表示学习,否则,返回步骤A1。
Claims (6)
1.一种基于协同演化建模的时序知识图谱表示学习方法,其特征在于,包括以下步骤:
S1、根据待表示的当前动态社交时序知识图谱,初始化模型的参数以及任一社交实体和关系的嵌入表示;
S2、以社交时序知识图谱中事实对应时间戳的顺序,输入当前动态社交时序知识图谱的已知社交事实计算得到每个已知社交事实的发生概率,并通过最大化已知社交事实的发生概率得到局部结构的演化损失;
S3、以时间顺序输入当前动态社交时序知识图谱在每个时间戳下的社交时序知识图谱快照,为每个社交时序知识图谱快照的图结构计算其对应的软模块度,并最大化软模块度得到全局结构的演化损失;
所述步骤S3包括以下步骤:
S304、根据所述每个社交实体的社团分配向量,最大化所述软模块度得到全局结构的演化损失Lglobal;
所述步骤S304中全局结构的演化损失Lglobal的表达式如下:
S4、根据所述局部结构的演化损失以及全局结构的演化损失,计算得到模型的整体损失函数;
S5、利用梯度下降法迭代优化所述模型的整体损失函数,并更新模型的参数以及社交实体和社交关系的嵌入表示;
S6、判断模型是否收敛,若是,得到最终的社交实体和社交关系嵌入表示,完成时序知识图谱表示学习,否则,返回步骤S1。
3.根据权利要求1所述的基于协同演化建模的时序知识图谱表示学习方法,其特征在于,所述步骤S2包括以下步骤:
S201、以社交时序知识图谱中事实对应时间戳τ的顺序,输入当前动态社交时序知识图谱的已知社交事实,对于任一已知社交事实(s,r,o,τ),根据其参与者计算得到该社交事实自发发生的强度其中,所述参与者为已知社交事实中包含的社交实体s,o以及社交关系r;
其中,ηs,r(τi)和ηo,r(τi)分别表示当前动态社交事实中的头社交实体s和尾社交实体o在τi时刻的历史社交事实对当前动态社交事实的影响,表示在τi时刻下社交实体e所具有的关系集合,表示关系级注意力,和Zr表示历史社交事实中关系的嵌入表示,表示历史事件所包含的关系,V表示用于衡量关系向量间相似性的参数矩阵,h表示τi时刻下与社交实体e存在关系的社交实体,βh,x表示实体注意力,表示h在τi时刻下的向量表示,表示x在τi时刻下的向量表示,x表示社交实体e在当前动态社交事实中存在关系的实体,r'表示τi时刻下社交实体e所具有的社交关系中的某一个,h'表示h特定的某一个,表示τi时刻下与社交实体e具有社交关系的实体集合,表示h'在τi时刻下的向量表示;
S205、根据所述每个已知社交事实的发生概率,通过最大化事实的发生概率计算得到局部结构的演化损失Llocal:
其中,I(τ)表示τ时刻之前的历史事件组成的集合。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110305818.4A CN112860918B (zh) | 2021-03-23 | 2021-03-23 | 一种基于协同演化建模的时序知识图谱表示学习方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110305818.4A CN112860918B (zh) | 2021-03-23 | 2021-03-23 | 一种基于协同演化建模的时序知识图谱表示学习方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112860918A CN112860918A (zh) | 2021-05-28 |
CN112860918B true CN112860918B (zh) | 2023-03-14 |
Family
ID=75992217
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110305818.4A Active CN112860918B (zh) | 2021-03-23 | 2021-03-23 | 一种基于协同演化建模的时序知识图谱表示学习方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112860918B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113742489B (zh) * | 2021-08-05 | 2024-07-05 | 昆明理工大学 | 一种基于时序知识图谱的综合影响力补偿方法 |
CN113934862B (zh) * | 2021-09-29 | 2022-10-14 | 北方工业大学 | 社区安全风险预测方法、装置、电子设备及介质 |
CN114117064B (zh) * | 2021-11-09 | 2023-05-26 | 西南交通大学 | 一种基于多时间粒度的知识动态演化的城市地铁流量预测方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10795937B2 (en) * | 2016-08-08 | 2020-10-06 | International Business Machines Corporation | Expressive temporal predictions over semantically driven time windows |
US20190018827A1 (en) * | 2017-07-12 | 2019-01-17 | Google Inc. | Electronic content insertion systems and methods |
CN108733792B (zh) * | 2018-05-14 | 2020-12-01 | 北京大学深圳研究生院 | 一种实体关系抽取方法 |
CN111581396B (zh) * | 2020-05-06 | 2023-03-31 | 西安交通大学 | 一种基于多维特征融合与依存句法的事件图谱构建***及方法 |
CN111723729B (zh) * | 2020-06-18 | 2022-08-05 | 四川千图禾科技有限公司 | 基于知识图谱的监控视频犬类姿态和行为智能识别方法 |
CN112215435B (zh) * | 2020-11-02 | 2023-06-09 | 银江技术股份有限公司 | 一种基于循环自回归模型的城市拥堵传播模式的预测方法 |
CN112364132A (zh) * | 2020-11-12 | 2021-02-12 | 苏州大学 | 基于依存句法的相似度计算模型和***及搭建***的方法 |
-
2021
- 2021-03-23 CN CN202110305818.4A patent/CN112860918B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112860918A (zh) | 2021-05-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112860918B (zh) | 一种基于协同演化建模的时序知识图谱表示学习方法 | |
Zheng et al. | Meta label correction for noisy label learning | |
WO2023065545A1 (zh) | 风险预测方法、装置、设备及存储介质 | |
CN111047085B (zh) | 一种基于元学习的混合动力车辆工况预测方法 | |
CN112699247A (zh) | 一种基于多类交叉熵对比补全编码的知识表示学习框架 | |
CN110244689A (zh) | 一种基于判别性特征学习方法的auv自适应故障诊断方法 | |
CN113361685B (zh) | 一种基于学习者知识状态演化表示的知识追踪方法及*** | |
CN111931814B (zh) | 一种基于类内结构紧致约束的无监督对抗域适应方法 | |
CN107092987B (zh) | 一种中小型无人机自主着舰风速预测方法 | |
CN111198550A (zh) | 基于案例推理的云端智能生产优化调度在线决策方法及*** | |
Lin et al. | Master general parking skill via deep learning | |
CN116402352A (zh) | 一种企业风险预测方法、装置、电子设备及介质 | |
Vadrot et al. | Survey of machine-learning wall models for large-eddy simulation | |
Xu et al. | Living with artificial intelligence: A paradigm shift toward future network traffic control | |
CN114399055A (zh) | 一种基于联邦学习的域泛化方法 | |
CN116501444B (zh) | 智能网联汽车域控制器虚拟机异常云边协同监测和恢复***及方法 | |
CN116484016A (zh) | 一种基于时序路径自动维护的时序知识图谱推理方法和*** | |
CN114240539B (zh) | 一种基于Tucker分解和知识图谱的商品推荐方法 | |
CN113835964B (zh) | 基于小样本学习的云数据中心服务器能耗预测方法 | |
Imani et al. | Hierarchical, distributed and brain-inspired learning for internet of things systems | |
CN115423105A (zh) | 一种预训练语言模型构建方法、***及装置 | |
Papageorgiou et al. | Bagged nonlinear hebbian learning algorithm for fuzzy cognitive maps working on classification tasks | |
CN112070127A (zh) | 一种基于智能分析的海量数据样本增量分析方法 | |
CN111950691A (zh) | 一种基于潜在动作表示空间的强化学习策略学习方法 | |
CN112131403B (zh) | 一种动态环境下的知识图谱表示学习方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |