WO2022108206A1 - Method and apparatus for completing describable knowledge graph - Google Patents
Method and apparatus for completing describable knowledge graph Download PDFInfo
- Publication number
- WO2022108206A1 WO2022108206A1 PCT/KR2021/015999 KR2021015999W WO2022108206A1 WO 2022108206 A1 WO2022108206 A1 WO 2022108206A1 KR 2021015999 W KR2021015999 W KR 2021015999W WO 2022108206 A1 WO2022108206 A1 WO 2022108206A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- segments
- explainable
- knowledge graph
- paths
- subject
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 23
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 15
- 230000015654 memory Effects 0.000 claims abstract description 15
- 238000003062 neural network model Methods 0.000 claims abstract description 6
- 238000005295 random walk Methods 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 239000000284 extract Substances 0.000 abstract description 6
- 238000010586 diagram Methods 0.000 description 7
- 238000009795 derivation Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000007792 addition Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 101100242890 Quaranfil virus (isolate QrfV/Tick/Afghanistan/EG_T_377/1968) PA gene Proteins 0.000 description 1
- 101150027881 Segment-3 gene Proteins 0.000 description 1
- 101100242891 Thogoto virus (isolate SiAr 126) Segment 3 gene Proteins 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
Definitions
- the present invention relates to a method and apparatus for completing an explanatory knowledge graph.
- the knowledge graph refers to information that expresses the relationship between resources and resources accumulated from various sources, such as the web, and graphically expresses the meaning between these concepts.
- the knowledge graph has a problem in that triples are missing or some data connection is insufficient.
- the present invention intends to propose a method and apparatus for completing a knowledge graph that can provide validity of a derivation process as a basis for link prediction.
- an explanatory knowledge graph completion apparatus comprising: a processor; and a memory connected to the processor, wherein the memory extracts a plurality of relational paths capable of connecting the subject and the object from a query triple including a subject, a predicate, and an object, and the extracted plurality of relational paths Generates a plurality of explainable segments using Compare semantic similarity between a plurality of explainable segments and a query predicate included in the query triple, and select a segment with high importance in link prediction for the query triple among the plurality of explainable segments through the semantic similarity comparison
- An explanatory knowledge graph completion apparatus is provided for storing program instructions executable by the processor to determine.
- the plurality of relationship paths may be defined as paths connected only to the one or more relationships excluding the one or more entities among one or more entities and one or more relationships that may be connected from the subject to the object.
- the program instructions may extract the plurality of relationship paths by searching the one or more entities and the one or more relationships between the subject and the object through a random walk using a path ranking algorithm (PRA).
- PRA path ranking algorithm
- the program instructions express the subject and object of all triples connected by the query predicate in pairs, and remove some of the plurality of relationship paths by using the pair's random walk probability for each of the plurality of relationship paths.
- the program instructions may remove some of the plurality of relational paths by using a ratio of pairs having the random walk probability greater than 0, an average value of the random walk probability, and a length of each of the plurality of relational paths.
- Each of the plurality of explainable segments is preprocessed with the same length n, and each entity and relationship is expressed as a d-dimensional vector, and the CNN receives data converted into a matrix of n ⁇ d form for each of the plurality of explainable segments as input.
- a feature map of each of the plurality of explainable segments is output, and the LSTM includes a forward LSTM layer and a backward LSTM layer, and an embedding vector of each of the plurality of explainable segments can be generated by receiving the feature map as an input.
- the program instructions may calculate an attention score for each of the plurality of explainable segments by comparing the semantic similarity, and determine a segment having high importance in a link prediction result for the query triple based on the attention score. .
- a method for completing a knowledge graph that can be described in a device including a processor and a memory connected to the processor, wherein in a query triple including a subject, a predicate, and an object, the subject and the object can be connected extracting a plurality of relationship paths; generating a plurality of explainable segments using the extracted plurality of relationship paths; extracting an embedding vector for each of the generated plurality of explainable segments using a neural network model combining CNN and LSTM; comparing semantic similarity between a plurality of descriptive segments represented by the embedding vector and a query predicate included in the query triple using an attention mechanism; and determining a segment having high importance for link prediction with respect to the query triple from among the plurality of explainable segments through the semantic similarity comparison.
- FIG. 1 is a diagram illustrating the configuration of an explanatory knowledge graph completion apparatus according to an exemplary embodiment of the present invention.
- FIG. 2 is a view for explaining a process of completing an explanatory knowledge graph according to the present embodiment.
- FIG. 3 is a diagram illustrating an explainable segment embedding process according to an embodiment of the present invention.
- FIG. 4 is a diagram illustrating the structure of an attention mechanism for link prediction according to an embodiment of the present invention.
- Knowledge graph completion is the task of supplementing the incomplete knowledge graph by predicting missing links. It predicts the object corresponding to ? when the query triple ⁇ subject, predicate, ?> is given.
- the subject and the object are defined as an entity (entity), and the predicate is defined as a relation.
- the present invention relates to a method capable of presenting a description of a result of link prediction, and when a query triple is input, not only predicting a link to an object corresponding to a correct answer among a plurality of candidate objects connected to a subject, but also predicting a link We present an inference path to provide an explanation supporting the predicted link outcome.
- the inference path is defined as a set of entities and relationships that can reach the object starting with the subject, and the explanatory inference path is defined as an explanation segment.
- FIG. 1 is a diagram illustrating the configuration of an explanatory knowledge graph completion apparatus according to an exemplary embodiment of the present invention.
- the knowledge graph completion apparatus may include a processor 100 and a memory 102 .
- the processor 100 may include a central processing unit (CPU) capable of executing a computer program or other virtual machines.
- CPU central processing unit
- Memory 102 may include a non-volatile storage device such as a fixed hard drive or a removable storage device.
- the removable storage device may include a compact flash unit, a USB memory stick, and the like.
- Memory 102 may also include volatile memory, such as various random access memories.
- Such memory 102 stores program instructions executable by the processor 100 .
- the program instructions according to the present embodiment extract a plurality of relational paths that can connect the subject and the object from a query triple including a subject, a predicate, and an object, and use the extracted plurality of relational paths to provide a plurality of explanations.
- Generates a possible segment extracts an embedding vector for each of the generated plurality of explainable segments using a neural network model that combines CNN and LSTM, and uses an attention mechanism to generate a plurality of explainable segments expressed by the embedding vector and
- the semantic similarity with the predicate included in the query triple is compared, and a segment having a high importance in link prediction for the query triple is determined from among the plurality of explainable segments through the semantic similarity comparison.
- a process of determining an explanatory segment with high importance for link prediction for completing the knowledge graph will be described in detail.
- the object of the query triple may be an object corresponding to the correct answer among objects that can be connected to the subject.
- FIG. 2 is a view for explaining a process of completing an explanatory knowledge graph according to the present embodiment.
- FIG. 2 is a diagram exemplarily illustrating a case in which the United States is the correct object as the object in the query triple ⁇ Tom Cruise, nationality, ?>.
- a segment that can be explained in FIG. 2 means three inference paths existing between Tom Cruise and the United States as follows.
- explanation means an explanation supporting the result of link prediction, and the present invention classifies meaningful (high importance in link prediction) segments and meaningless segments among various explanatory segments.
- a segment having a high importance in the link prediction result of the query triple may be determined as a segment having an attention score described below or higher than a preset value or a segment having a preset rank or higher among a plurality of segments.
- explanation segment3 that cannot be presented as a basis for the inference result is classified as a meaningless explanation segment
- explanation segment1,2 that cannot be presented as a basis for link prediction is classified as a meaningful explanation segment.
- the explainable segment means various paths that can connect the subject (s) and the object (o) of the triple ⁇ s, r, o>.
- the relational path is a path that can be connected from the subject to the object.
- a path connected only by a relationship, not an object, in that path means
- e denotes an entity and r denotes a relationship.
- a number of entities and relationships between a subject and an object are searched through a random walk using a path ranking algorithm (PRA), and various relationship paths are extracted through this.
- PRA path ranking algorithm
- the subject and object of all triples connected by the query predicate are expressed as a pair (s,o), and a random walk probability value of each pair for all relationship paths is calculated.
- the random walk probability is a mathematical expression of moving randomly, that is, probabilistically, at every moment in a given space.
- FIG. 3 is a diagram illustrating an explainable segment embedding process according to an embodiment of the present invention.
- an embedding vector for each of the generated plurality of explainable segments is extracted using a neural network model combining CNN and LSTM.
- each entity and relationship are expressed as a d-dimensional vector, transformed into an n ⁇ d matrix, and input to CNN.
- CNNs are mainly used to extract and enhance features of text data as well as images, and show relatively high performance in extracting semantic and grammatical relationships between several words.
- CNN is used to express the characteristics of each entity and relationship in the explainable segment as a vector implied.
- CNN uses k filters with a window size of 2 to move one space in the order of entities and relationships in the explainable segment. and output the feature map.
- a pooling operation is performed to reduce the dimension while preserving all the key information, and finally, a vector that preserves local information is generated.
- LTM Long Short-Term Memory
- bidirectional LSTM is applied.
- a segment that can be explained is composed of a form that starts with a subject and arrives at an object by successively connecting entities and relationships.
- an attention mechanism is applied to evaluate the importance of each explainable segment.
- FIG. 4 is a diagram illustrating the structure of an attention mechanism for link prediction according to an embodiment of the present invention.
- the importance of link prediction results is identified by calculating the semantic similarity between each explanatory segment expressed as an embedding vector and a query predicate through CNN and LSTM.
- explanation segments 3 and 4 can be classified as explanation segments that are not helpful to link prediction results because the attention score is low.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Tourism & Hospitality (AREA)
- Game Theory and Decision Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Development Economics (AREA)
- General Business, Economics & Management (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Marketing (AREA)
- Entrepreneurship & Innovation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Disclosed are a method and apparatus for completing a describable knowledge graph. According to the present invention, provided is the apparatus for completing a describable knowledge graph, comprising: a processor; and a memory connected to the processor, wherein the memory stores program instructions executable by the processor to: extract a plurality of relation paths for connecting a subject and an object in a query triple including the subject, a predicate, and the object; generate a plurality of describable segments by using the extracted plurality of relation paths; extract an embedding vector for each of the generated plurality of describable segments by using a neural network model in which a CNN and an LSTM are combined; compare the semantic similarity between the plurality of describable segments represented by the embedding vector and the query predicate included in the query triple, by using an attention mechanism; and determine a segment having high importance for link prediction regarding the query triple from among the plurality of describable segments via the semantic similarity comparison.
Description
본 발명은 설명 가능한 지식그래프 완성 방법 및 장치에 관한 것이다. The present invention relates to a method and apparatus for completing an explanatory knowledge graph.
지식그래프란 웹 등과 같은 다양한 소스로부터 축적한 자원과 자원 사이의 관계를 정보로 표현한 것을 뜻하며, 이러한 개념들 사이의 의미를 그래프적으로 표현한 것을 말한다. 하지만 지식그래프는 트리플들이 누락 되있거나, 일부 데이터의 연결이 부족한 문제점이 있다. The knowledge graph refers to information that expresses the relationship between resources and resources accumulated from various sources, such as the web, and graphically expresses the meaning between these concepts. However, the knowledge graph has a problem in that triples are missing or some data connection is insufficient.
불완전한 지식그래프를 보완하기 위해 링크 예측에 관한 연구가 이전부터 많이 이루어지고 있다. 최근에는 딥러닝 기반의 링크 예측 연구가 활발히 이루어지고 있지만 링크 예측의 결과만 제시할 뿐 도출되는 결과의 근거와 도출과정의 타당성은 제공하지 못하고 있다. In order to supplement the incomplete knowledge graph, many studies on link prediction have been conducted before. Recently, deep learning-based link prediction research has been actively conducted, but only the link prediction results are presented, but the basis for the derived results and the validity of the derivation process are not provided.
또한 링크 예측의 결과가 좋지 않을 때, 좋지 않은 원인을 즉각적으로 알지 못하여 어떻게 이러한 결정을 했는지 파악하지 못하면서 딥러닝 기반의 링크 예측에 대해 크게 의존할 수 없게 된다. 따라서 사람이 이해하는 형태로 설명하고 제시할 수 있는 설명 가능한 링크 예측이 중요하며, 링크 예측의 결과에 대해 뒷받침 할 수 있는 설명이 제시된다면 사용자에게 설득력 있는 결과를 보여줄 수 있고, 효율적인 모델을 설계 할 때, 중요한 방향을 알 수 있다. In addition, when the results of link prediction are not good, the cause of the bad is not immediately known, so how this decision was made, it is not possible to rely heavily on deep learning-based link prediction. Therefore, it is important to predict an explanatory link that can be explained and presented in a form that can be understood by humans. When you do, you can see an important direction.
상기한 종래기술의 문제점을 해결하기 위해, 본 발명은 링크 예측의 근거로 도출 과정의 타당성을 제공할 수 있는 지식그래프 완성 방법 및 장치를 제안하고자 한다.In order to solve the problems of the prior art, the present invention intends to propose a method and apparatus for completing a knowledge graph that can provide validity of a derivation process as a basis for link prediction.
상기한 바와 같은 목적을 달성하기 위하여, 본 발명의 일 실시예에 따르면, 설명 가능한 지식그래프 완성 장치로서, 프로세서; 및 상기 프로세서에 연결되는 메모리를 포함하되, 상기 메모리는, 주어, 술어 및 목적어를 포함하는 쿼리 트리플에서, 상기 주어와 목적어를 연결할 수 있는 복수의 관계 경로를 추출하고, 상기 추출된 복수의 관계 경로를 이용하여 복수의 설명 가능한 세그먼트를 생성하고, CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출하고, 어텐션 메커니즘을 이용하여 상기 임베딩 벡터로 표현되는 복수의 설명 가능한 세그먼트와 상기 쿼리 트리플에 포함된 쿼리 술어와의 의미적 유사성을 비교하고, 상기 의미적 유사성 비교를 통해 상기 복수의 설명 가능한 세그먼트 중 상기 쿼리 트리플에 대한 링크 예측에 중요도가 높은 세그먼트를 결정하도록, 상기 프로세서에 의해 실행 가능한 프로그램 명령어들을 저장하는 설명 가능한 지식그래프 완성 장치가 제공된다. In order to achieve the above object, according to an embodiment of the present invention, an explanatory knowledge graph completion apparatus, comprising: a processor; and a memory connected to the processor, wherein the memory extracts a plurality of relational paths capable of connecting the subject and the object from a query triple including a subject, a predicate, and an object, and the extracted plurality of relational paths Generates a plurality of explainable segments using Compare semantic similarity between a plurality of explainable segments and a query predicate included in the query triple, and select a segment with high importance in link prediction for the query triple among the plurality of explainable segments through the semantic similarity comparison An explanatory knowledge graph completion apparatus is provided for storing program instructions executable by the processor to determine.
상기 복수의 관계 경로는, 상기 주어에서 상기 목적어로 연결될 수 있는 하나 이상의 개체 및 하나 이상의 관계 중 상기 하나 이상의 개체를 제외하고 상기 하나 이상의 관계로만 연결되는 경로로 정의될 수 있다. The plurality of relationship paths may be defined as paths connected only to the one or more relationships excluding the one or more entities among one or more entities and one or more relationships that may be connected from the subject to the object.
상기 프로그램 명령어들은, path ranking algorithm(PRA)를 이용하여 상기 주어와 상기 목적어 사이의 상기 하나 이상의 개체와 상기 하나 이상의 관계를 랜덤 워크를 통해 탐색하여 상기 복수의 관계 경로를 추출할 수 있다. The program instructions may extract the plurality of relationship paths by searching the one or more entities and the one or more relationships between the subject and the object through a random walk using a path ranking algorithm (PRA).
상기 프로그램 명령어들은, 상기 쿼리 술어로 연결되는 모든 트리플의 주어와 목적어를 쌍으로 표현하고, 상기 복수의 관계 경로 각각에 대한 상기 쌍의 랜덤 워크 확률을 이용하여 상기 복수의 관계 경로 중 일부를 제거할 수 있다. The program instructions express the subject and object of all triples connected by the query predicate in pairs, and remove some of the plurality of relationship paths by using the pair's random walk probability for each of the plurality of relationship paths. can
상기 프로그램 명령어들은, 상기 랜덤 워크 확률이 0보다 큰 쌍의 비율, 상기 랜덤 워크 확률의 평균값 및 상기 복수의 관계 경로 각각의 길이를 이용하여 상기 복수의 관계 경로 중 일부를 제거할 수 있다. The program instructions may remove some of the plurality of relational paths by using a ratio of pairs having the random walk probability greater than 0, an average value of the random walk probability, and a length of each of the plurality of relational paths.
상기 복수의 설명 가능한 세그먼트 각각은 동일한 길이 n으로 전처리되고 각 개체 및 관계가 d차원 벡터로 표현되고, 상기 CNN은 상기 복수의 설명 가능한 세그먼트 각각은 n×d 형태의 행렬로 변환된 데이터을 입력으로 하여 상기 복수의 설명 가능한 세그먼트 각각의 특징맵을 출력하고, 상기 LSTM은 순방향 LSTM 계층 및 역방향 LSTM 계층을 포함하고 상기 특징맵을 입력으로 하여 상기 복수의 설명 가능한 세그먼트 각각의 임베딩 벡터를 생성할 수 있다. Each of the plurality of explainable segments is preprocessed with the same length n, and each entity and relationship is expressed as a d-dimensional vector, and the CNN receives data converted into a matrix of n×d form for each of the plurality of explainable segments as input. A feature map of each of the plurality of explainable segments is output, and the LSTM includes a forward LSTM layer and a backward LSTM layer, and an embedding vector of each of the plurality of explainable segments can be generated by receiving the feature map as an input.
상기 프로그램 명령어들은, 상기 의미적 유사성을 비교를 통해 상기 복수의 설명 가능한 세그먼트 각각에 대한 어텐션 스코어를 계산하고, 상기 어텐션 스코어를 통해 상기 쿼리 트리플에 대한 링크 예측 결과에 중요도가 높은 세그먼트를 결정할 수 있다. The program instructions may calculate an attention score for each of the plurality of explainable segments by comparing the semantic similarity, and determine a segment having high importance in a link prediction result for the query triple based on the attention score. .
본 발명의 다른 측면에 따르면, 프로세서 및 상기 프로세서에 연결되는 메모리를 포함하는 장치에서 설명 가능한 지식그래프를 완성하는 방법으로서, 주어, 술어 및 목적어를 포함하는 쿼리 트리플에서, 상기 주어와 목적어를 연결할 수 있는 복수의 관계 경로를 추출하는 단계; 상기 추출된 복수의 관계 경로를 이용하여 복수의 설명 가능한 세그먼트를 생성하는 단계; CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출하는 단계; 어텐션 메커니즘을 이용하여 상기 임베딩 벡터로 표현되는 복수의 설명 가능한 세그먼트와 상기 쿼리 트리플에 포함된 쿼리 술어와의 의미적 유사성을 비교하는 단계; 및 상기 의미적 유사성 비교를 통해 상기 복수의 설명 가능한 세그먼트 중 상기 쿼리 트리플에 대한 링크 예측에 중요도가 높은 세그먼트를 결정하는 단계를 포함하는 설명 가능한 지식그래프 완성 방법이 제공된다. According to another aspect of the present invention, there is provided a method for completing a knowledge graph that can be described in a device including a processor and a memory connected to the processor, wherein in a query triple including a subject, a predicate, and an object, the subject and the object can be connected extracting a plurality of relationship paths; generating a plurality of explainable segments using the extracted plurality of relationship paths; extracting an embedding vector for each of the generated plurality of explainable segments using a neural network model combining CNN and LSTM; comparing semantic similarity between a plurality of descriptive segments represented by the embedding vector and a query predicate included in the query triple using an attention mechanism; and determining a segment having high importance for link prediction with respect to the query triple from among the plurality of explainable segments through the semantic similarity comparison.
본 발명의 또 다른 측면에 따르면, 상기한 방법을 수행하는 컴퓨터 판독 가능한 프로그램이 제공된다. According to another aspect of the present invention, there is provided a computer readable program for performing the above method.
본 발명에 따르면, 불완전한 지식그래프의 누락된 링크를 예측할 뿐만 아니라 링크 예측의 결과에 대한 설명을 제시할 수 있어 결과의 근거와 도출 과정의 타당성을 제공할 수 있다. According to the present invention, it is possible to not only predict the missing link of the incomplete knowledge graph, but also provide a description of the result of link prediction, thereby providing the basis for the result and the validity of the derivation process.
도 1은 본 발명의 바람직한 일 실시예에 따른 설명 가능한 지식그래프 완성 장치의 구성을 도시한 도면이다. 1 is a diagram illustrating the configuration of an explanatory knowledge graph completion apparatus according to an exemplary embodiment of the present invention.
도 2는 본 실시예에 따른 설명 가능한 지식그래프 완성 과정을 설명하기 위한 도면이다. 2 is a view for explaining a process of completing an explanatory knowledge graph according to the present embodiment.
도 3은 본 발명의 일 실시예에 따른 설명 가능한 세그먼트 임베딩 과정을 도시한 도면이다. 3 is a diagram illustrating an explainable segment embedding process according to an embodiment of the present invention.
도 4는 본 발명의 일 실시예에 따른 링크 예측을 위한 어텐션 메커니즘 구조를 도시한 도면이다.4 is a diagram illustrating the structure of an attention mechanism for link prediction according to an embodiment of the present invention.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다.Since the present invention can have various changes and can have various embodiments, specific embodiments are illustrated in the drawings and described in detail.
그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.However, this is not intended to limit the present invention to specific embodiments, and it should be understood to include all modifications, equivalents and substitutes included in the spirit and scope of the present invention. In describing each figure, like reference numerals have been used for like elements.
지식그래프 완성(링크 예측)은 누락된 링크를 예측하여 불완전한 지식그래프를 보완하는 작업으로, 쿼리 트리플 <주어, 술어, ?>가 주어졌을 때, ?에 해당하는 목적어를 예측하는 것을 말한다. Knowledge graph completion (link prediction) is the task of supplementing the incomplete knowledge graph by predicting missing links. It predicts the object corresponding to ? when the query triple <subject, predicate, ?> is given.
여기서, 주어(subject)와 목적어(object)는 개체(엔티티), 술어는 릴레이션(relation, 관계)으로 정의된다. Here, the subject and the object are defined as an entity (entity), and the predicate is defined as a relation.
본 발명은 링크 예측의 결과에 대한 설명을 제시할 수 있는 방법에 관한 것으로서, 쿼리 트리플이 입력되는 경우, 주어와 연결되는 복수의 후보 목적어 중 정답에 해당하는 목적어에 대한 링크를 예측하는 것뿐만 아니라 예측된 링크 결과를 뒷받침하는 설명을 제시하기 위한 추론 경로를 제시한다. The present invention relates to a method capable of presenting a description of a result of link prediction, and when a query triple is input, not only predicting a link to an object corresponding to a correct answer among a plurality of candidate objects connected to a subject, but also predicting a link We present an inference path to provide an explanation supporting the predicted link outcome.
여기서, 추론 경로는 주어를 시작으로 목적어에 도달할 수 있는 개체와 관계의 집합으로 정의되며, 설명 가능한 추론 경로를 explanation segment(설명 가능한 세그먼트)라 정의한다. Here, the inference path is defined as a set of entities and relationships that can reach the object starting with the subject, and the explanatory inference path is defined as an explanation segment.
도 1은 본 발명의 바람직한 일 실시예에 따른 설명 가능한 지식그래프 완성 장치의 구성을 도시한 도면이다. 1 is a diagram illustrating the configuration of an explanatory knowledge graph completion apparatus according to an exemplary embodiment of the present invention.
도 1에 도시된 바와 같이, 본 실시예에 따른 지식그래프 완성 장치는 프로세서(100) 및 메모리(102)를 포함할 수 있다. As shown in FIG. 1 , the knowledge graph completion apparatus according to the present embodiment may include a processor 100 and a memory 102 .
프로세서(100)는 컴퓨터 프로그램을 실행할 수 있는 CPU(central processing unit)나 그밖에 가상 머신 등을 포함할 수 있다. The processor 100 may include a central processing unit (CPU) capable of executing a computer program or other virtual machines.
메모리(102)는 고정식 하드 드라이브나 착탈식 저장 장치와 같은 불휘발성 저장 장치를 포함할 수 있다. 착탈식 저장 장치는 컴팩트 플래시 유닛, USB 메모리 스틱 등을 포함할 수 있다. 메모리(102)는 각종 랜덤 액세스 메모리와 같은 휘발성 메모리도 포함할 수 있다. Memory 102 may include a non-volatile storage device such as a fixed hard drive or a removable storage device. The removable storage device may include a compact flash unit, a USB memory stick, and the like. Memory 102 may also include volatile memory, such as various random access memories.
이와 같은 메모리(102)에는 프로세서(100)에 의해 실행 가능한 프로그램 명령어들이 저장된다. Such memory 102 stores program instructions executable by the processor 100 .
본 실시예에 따른 프로그램 명령어들은, 주어, 술어 및 목적어를 포함하는 쿼리 트리플에서, 상기 주어와 목적어를 연결할 수 있는 복수의 관계 경로를 추출하고, 상기 추출된 복수의 관계 경로를 이용하여 복수의 설명 가능한 세그먼트를 생성하고, CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출하고, 어텐션 메커니즘을 이용하여 상기 임베딩 벡터로 표현되는 복수의 설명 가능한 세그먼트와 상기 쿼리 트리플에 포함된 술어와의 의미적 유사성을 비교하고, 상기 의미적 유사성 비교를 통해 상기 복수의 설명 가능한 세그먼트 중 상기 쿼리 트리플에 대한 링크 예측에 중요도가 높은 세그먼트를 결정한다. 이하에서는, 지식그래프 완성을 위한 링크 예측에 중요도가 높은 설명 가능한 세그먼트를 결정하는 과정을 상세하게 설명한다. The program instructions according to the present embodiment extract a plurality of relational paths that can connect the subject and the object from a query triple including a subject, a predicate, and an object, and use the extracted plurality of relational paths to provide a plurality of explanations. Generates a possible segment, extracts an embedding vector for each of the generated plurality of explainable segments using a neural network model that combines CNN and LSTM, and uses an attention mechanism to generate a plurality of explainable segments expressed by the embedding vector and The semantic similarity with the predicate included in the query triple is compared, and a segment having a high importance in link prediction for the query triple is determined from among the plurality of explainable segments through the semantic similarity comparison. Hereinafter, a process of determining an explanatory segment with high importance for link prediction for completing the knowledge graph will be described in detail.
여기서, 쿼리 트리플의 목적어는 주어와 연결될 수 있는 개체 중 정답에 해당하는 목적어일 수 있다. Here, the object of the query triple may be an object corresponding to the correct answer among objects that can be connected to the subject.
도 2는 본 실시예에 따른 설명 가능한 지식그래프 완성 과정을 설명하기 위한 도면이다. 2 is a view for explaining a process of completing an explanatory knowledge graph according to the present embodiment.
도 2에서는 쿼리 트리플 <톰 크루즈, nationality, ?>에서 목적어로 미국이 정답 목적어인 경우를 예시적으로 도시한 도면이다. FIG. 2 is a diagram exemplarily illustrating a case in which the United States is the correct object as the object in the query triple <Tom Cruise, nationality, ?>.
도 2에서 설명 가능한 세그먼트는 아래와 같이 톰 크루즈와 미국 사이에 존재하는 3개의 추론 경로를 의미한다. A segment that can be explained in FIG. 2 means three inference paths existing between Tom Cruise and the United States as follows.
Explanation Segments1 :Explanation Segments1:
<톰 크루즈, bornIn, 시러큐스, cityOf, 뉴욕, locatedIn, 미국><Tom Cruise, bornIn, Syracuse, cityOf, New York, locatedIn, USA>
Explanation Segments2 :Explanation Segments2:
<톰 크루즈, father, 토마스 크루즈 메이포더 3세, nationality, 미국><Tom Cruise, father, Thomas Cruise Mayford III, nationality, USA>
Explanation Segments3 :Explanation Segments3:
<톰 크루즈, coworker, 브래드 피트, coworker, 레오나르도 디카프리오, nationality 미국><Tom Cruise, coworker, brad pitt, coworker, leonardo dicaprio, nationality USA>
본 명세서에서 explanation은 링크 예측의 결과를 뒷받침하는 설명을 뜻하며, 본 발명은 다양한 설명 가능한 세그먼트 중 의미가 있는(링크 예측에서 중요도가 높은) 세그먼트와 의미없는 세그먼트를 분류한다. In this specification, explanation means an explanation supporting the result of link prediction, and the present invention classifies meaningful (high importance in link prediction) segments and meaningless segments among various explanatory segments.
쿼리 트리플의 링크 예측 결과에 중요도가 높은 세그먼트는 이하에서 설명하는 어텐션 스코어가 미리 설정된 수치 이상이거나, 복수의 세그먼트 중 미리 설정된 순위 이상의 세그먼트로 결정될 수 있다. A segment having a high importance in the link prediction result of the query triple may be determined as a segment having an attention score described below or higher than a preset value or a segment having a preset rank or higher among a plurality of segments.
도 2에서는 추론 결과에 근거로 제시될 수 없는 explanation segment3 가 의미없는 explanation segment로 분류되고, 링크 예측에 대한 근거로 제시될 수 있는 explanation segment1,2 가 의미있는 explanation segment로 분류된다.In FIG. 2 , explanation segment3 that cannot be presented as a basis for the inference result is classified as a meaningless explanation segment, and explanation segment1,2 that cannot be presented as a basis for link prediction is classified as a meaningful explanation segment.
상기한 바와 같이, 설명 가능한 세그먼트는 트리플 <s, r, o>의 주어(s)와 목적어(o)를 연결할 수 있는 다양한 경로를 의미한다. As described above, the explainable segment means various paths that can connect the subject (s) and the object (o) of the triple <s, r, o>.
설명 가능한 세그먼트를 생성하기 위해, 쿼리 트리플에 포함된 쿼리 술어(r)에 대한 다양한 관계 경로를 추출한다. In order to create a descriptive segment, various relational paths for the query predicate (r) included in the query triple are extracted.
여기서, 관계 경로는 주어에서 목적어로 연결될 수 있는 경로 가 존재할 때, 해당 경로에서 개체가 아닌 관계로만 연결된 경로 를 의미한다. Here, the relational path is a path that can be connected from the subject to the object. When is present, a path connected only by a relationship, not an object, in that path. means
여기서, e는 개체, r은 관계를 의미한다. Here, e denotes an entity and r denotes a relationship.
본 발명의 바람직한 일 실시예에 따르면, path ranking algorithm(PRA)를 이용하여 주어와 목적어 사이의 수많은 개체와 관계들을 랜덤 워크를 통해 탐색하고, 이를 통해 다양한 관계 경로를 추출한다. According to a preferred embodiment of the present invention, a number of entities and relationships between a subject and an object are searched through a random walk using a path ranking algorithm (PRA), and various relationship paths are extracted through this.
그러나 대용량 지식그래프의 경우 수많은 관계 경로가 추출되어 데이터가 기하급수적으로 증가하고, 링크 예측 모델의 학습에 도움이 되지 않는 관계 경로가 다수 존재하는 문제가 있어 관계 경로를 필터링하는 과정이 필요하다. However, in the case of a large-capacity knowledge graph, there are problems in that numerous relational paths are extracted and the data increases exponentially, and there are many relational paths that are not conducive to learning the link prediction model, so a process of filtering the relational paths is required.
이를 위해, 본 실시예에서는 우선 쿼리 술어로 연결되는 모든 트리플의 주어와 목적어를 쌍 (s,o)로 표현하고 모든 관계 경로에 대한 각 쌍의 랜덤 워크 확률값을 계산한다. To this end, in the present embodiment, the subject and object of all triples connected by the query predicate are expressed as a pair (s,o), and a random walk probability value of each pair for all relationship paths is calculated.
여기서, 랜덤 워크 확률은 주어진 공간에서 매 순간 랜덤으로, 즉 확률적으로 이동하는 모습을 수학적으로 표현한 것이다. Here, the random walk probability is a mathematical expression of moving randomly, that is, probabilistically, at every moment in a given space.
이후, 랜덤 워크 확률이 0보다 큰 쌍의 비율이 미리 설정된 수치(예를 들어, 0.7) 이상인 관계 경로를 추출하고, 각 관계 경로에 대한 랜덤 워드 확률의 평균값이 미리 설정된 수치(예를 들어, 0.05) 이하인 관계 경로를 제거한다. Thereafter, a relationship path in which the ratio of pairs having a random walk probability greater than 0 is greater than or equal to a preset numerical value (eg, 0.7) is extracted, and the average value of the random word probability for each relationship path is a preset numerical value (eg, 0.05) ) and the following relationship paths are removed.
또한, 관계 경로의 길이가 소정 수치 이하(예를 들어, 3)인 관계 경로를 추출한다. In addition, a relational path whose length is less than or equal to a predetermined value (for example, 3) is extracted.
PRA를 통해 생성된 관계 경로에 개체를 매핑하여 최종적으로 설명 가능한 세그먼트를 생성한다. It maps entities to relational paths created through PRA to finally create descriptive segments.
예를 들어, 상기한 쿼리 술어 nationality에 대한 관계 경로가 인 경우 쿼리 트리플 <톰 크루즈, nationality, 미국>에 대한 설명 가능한 세그먼트인 <톰 크루즈, bornIn, 시러큐스, cityOf, 뉴욕, locatedIn, 미국> 가 생성된다. 하나의 쿼리 트리플에는 다양한 관계 경로가 존재할 수 있고, 같은 관계 경로에도 여러 개의 설명 가능한 세그먼트가 생성될 수 있다.For example, if the relationship path for the query predicate nationality above is , an explanatory segment for the query triple <Tom Cruise, nationality, USA>, <Tom Cruise, bornIn, Syracuse, cityOf, New York, locatedIn, USA> is created. Various relationship paths may exist in one query triple, and multiple explainable segments may be created in the same relationship path.
설명 가능한 세그먼트를 이용하여 링크 예측 모델을 학습하기 위해 각 설명 가능한 세그먼트를 고유의 벡터를 통해 효과적으로 표현하는 임베딩 작업이 필요하다. In order to train a link prediction model using explainable segments, an embedding operation that effectively expresses each explainable segment through a unique vector is required.
도 3은 본 발명의 일 실시예에 따른 설명 가능한 세그먼트 임베딩 과정을 도시한 도면이다. 3 is a diagram illustrating an explainable segment embedding process according to an embodiment of the present invention.
도 3을 참조하면, CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출한다. Referring to FIG. 3 , an embedding vector for each of the generated plurality of explainable segments is extracted using a neural network model combining CNN and LSTM.
설명 가능한 세그먼트를 CNN(합성곱 신경망)의 입력으로 사용하기 위해 소정 길이 이하(예를 들어, 7)의 설명 가능한 세그먼트를 제로 패딩(zero padding)하여 모든 설명 가능한 세그먼트의 길이를 동일한 길이(n)로 전처리한다. In order to use the explainable segment as an input of a convolutional neural network (CNN), zero padding of an explainable segment of a predetermined length or less (for example, 7) makes the length of all explainable segments the same length (n) preprocessed with
이후, 각 개체와 관계를 d차원 벡터로 표현하여 n×d 형태의 행렬로 변환하고, 이를 CNN에 입력한다. Then, each entity and relationship are expressed as a d-dimensional vector, transformed into an n×d matrix, and input to CNN.
CNN은 이미지뿐만 아니라, 텍스트 데이터의 특징을 추출하고 강화하는데 주로 사용되며, 여러 단어 사이의 의미적, 문법적 관계를 추출하는데 비교적 높은 성능을 보인다. CNNs are mainly used to extract and enhance features of text data as well as images, and show relatively high performance in extracting semantic and grammatical relationships between several words.
따라서 설명 가능한 세그먼트의 각 개체와 관계들의 특징을 함축한 벡터로 표현하기 위해 CNN을 사용하며, CNN은 윈도우 사이즈가 2인 k개의 필터를 사용하여 설명 가능한 세그먼트의 개체 및 관계의 순서대로 한 칸씩 이동하며 특징맵을 출력한다. Therefore, CNN is used to express the characteristics of each entity and relationship in the explainable segment as a vector implied. CNN uses k filters with a window size of 2 to move one space in the order of entities and relationships in the explainable segment. and output the feature map.
이 후 핵심적인 정보를 모두 보전하면서 차원을 줄이기 위해 pooling 작업을 수행하여 최종적으로 지역적 정보를 보전한 벡터를 생성한다. After that, a pooling operation is performed to reduce the dimension while preserving all the key information, and finally, a vector that preserves local information is generated.
설명 가능한 세그먼트의 순서적 특징을 추출하기 위해 LSTM(Long Short-Term Memory)이 제공된다. Long Short-Term Memory (LSTM) is provided to extract sequential features of descriptive segments.
본 실시예에 따르면, 양방향 LSTM이 적용된다. According to this embodiment, bidirectional LSTM is applied.
설명 가능한 세그먼트는 주어로 시작하여 개체와 관계가 연속적으로 연결되어 목적어에 도달하는 형태로 구성되는데, 순서상 특징이 큰 의미가 있어 순방향 LSTM 계층이 제공된다. A segment that can be explained is composed of a form that starts with a subject and arrives at an object by successively connecting entities and relationships.
또한 역방향으로 연결되는 inverse 관계를 포함하여 학습하기 위해 역방향 LSTM 계층이 추가된다. 최종적으로 순방향 LSTM을 통해 출력되는 벡터와 역방향 LSTM을 통해 출력되는 벡터를 결합하여 하나의 설명 가능한 세그먼트의 임베딩 벡터 을 생성한다.In addition, a reverse LSTM layer is added to learn including inverse relationships connected in the reverse direction. Finally, by combining the vector output through the forward LSTM and the vector output through the backward LSTM, the embedding vector of one descriptive segment create
쿼리 트리플 <s, r, o>의 주어 s와 목적어 o 사이에 존재하는 모든 설명 가능한 세그먼트가 링크 예측에 도움이 되는 것은 아니다. Not all explainable segments between the subject s and the object o of the query triple <s, r, o> are helpful for link prediction.
링크 예측에 큰 도움이 되는 의미있는 설명 가능한 세그먼트가 있는 반면 의미없는 설명 가능한 세그먼트가 존재한다. There are meaningful explainable segments that are of great help in link prediction, while there are nonsensical explainable segments.
본 실시예에 따르면, 각 설명 가능한 세그먼트의 중요도를 평가하기 위해 어텐션 메커니즘이 적용된다. According to this embodiment, an attention mechanism is applied to evaluate the importance of each explainable segment.
도 4는 본 발명의 일 실시예에 따른 링크 예측을 위한 어텐션 메커니즘 구조를 도시한 도면이다. 4 is a diagram illustrating the structure of an attention mechanism for link prediction according to an embodiment of the present invention.
도 4를 참조하면, CNN 및 LSTM을 통해 임베딩 벡터로 표현된 각 설명 가능한 세그먼트와 쿼리 술어의 의미적 유사성을 계산하여 링크 예측 결과에 대한 중요도를 파악한다. Referring to FIG. 4 , the importance of link prediction results is identified by calculating the semantic similarity between each explanatory segment expressed as an embedding vector and a query predicate through CNN and LSTM.
우선 쿼리 술어 r을 임베딩된 설명 가능한 세그먼트 와 동일한 크기로 임베딩하여 임베딩 쿼리 술어 을 생성하고 이들의 의미적 유사성을 아래의 수학식을 이용하여 계산한다. First put the query predicate r into an embedded descriptive segment Embed with the same size as the embedding query predicate , and their semantic similarity is calculated using the following equation.
와
는 학습할 weight 변수를 의미하고 q는 각 설명 가능한 세그먼트들을 어텐션 스코어로 가중합 하여 하나의 벡터로 표현한 것을 의미한다. Wow is the weight variable to be learned, and q is the weighted sum of each explainable segment with an attention score and expressed as a vector.
위 계산을 통해 생성되는 는 어텐션 스코어(attention score)를 의미하며, 각 설명 가능한 세그먼트가 링크 예측의 결과에 얼마나 영향을 미치는지를 파악할 수 있는 중요한 지표가 된다. generated by the above calculation. stands for the attention score, and it is an important indicator to understand how much each explainable segment affects the result of link prediction.
따라서 어텐션 스코어를 활용하여 링크 예측 결과에 큰 영향을 미치는 의미있는 설명 가능한 세그먼트와 덜 영향을 미치는 의미없는 설명 가능한 세그먼트를 구별할 수 있다.Therefore, by utilizing the attention score, it is possible to distinguish between meaningful and explainable segments that have a large influence on the link prediction result from those that have less influence on the link prediction results.
예를 들어, 쿼리 트리플 <톰 크루즈, nationality, 미국>에 대한 4가지 설명 가능한 세그먼트가 아래와 같이 생성되었을 때, explanation segment1, 2와 쿼리 술어 nationality와의 유사성 즉, 어텐션 스코어가 높게 계산되어 링크 예측에서의 중요한 explanation segment라 할 수 있다.For example, when four explanatory segments for the query triple <Tom Cruise, nationality, USA> are generated as follows, the similarity between explanation segments 1 and 2 and the query predicate nationality, that is, the attention score is calculated high, It can be said to be an important explanation segment.
반대로 explanation segment 3, 4는 어텐션 스코어가 낮기 때문에 링크 예측 결과에 도움이 되지 않는 explanation segment라 구분할 수 있다.Conversely, explanation segments 3 and 4 can be classified as explanation segments that are not helpful to link prediction results because the attention score is low.
Explanation Segments1 :Explanation Segments1:
<톰 크루즈, bornIn, 시러큐스, cityOf, 뉴욕, locatedIn, 미국><Tom Cruise, bornIn, Syracuse, cityOf, New York, locatedIn, USA>
Attention Score : 0.55Attention Score: 0.55
Explanation Segments2 :Explanation Segments2:
<톰 크루즈, father, 메이포더 3세, nationality, 미국><Tom Cruise, father, Mayford III, nationality, USA>
Attention Score : 0.32Attention Score: 0.32
Explanation Segments3 :Explanation Segments3:
<톰 크루즈, friend, 벤 스틸러, nationality, 미국><Tom Cruise, friend, Ben Stiller, nationality, USA>
Attention Score : 0.12Attention Score: 0.12
Explanation Segments4 :Explanation Segments4:
<톰 크루즈, coworker, 브래드 피트, coworker, 레오나르도 디카프리오, nationality 미국><Tom Cruise, coworker, brad pitt, coworker, leonardo dicaprio, nationality USA>
Attention Score : 0.01Attention Score: 0.01
상기한 본 발명의 실시예는 예시의 목적을 위해 개시된 것이고, 본 발명에 대한 통상의 지식을 가지는 당업자라면 본 발명의 사상과 범위 안에서 다양한 수정, 변경, 부가가 가능할 것이며, 이러한 수정, 변경 및 부가는 하기의 특허청구범위에 속하는 것으로 보아야 할 것이다. The above-described embodiments of the present invention have been disclosed for purposes of illustration, and various modifications, changes, and additions will be possible within the spirit and scope of the present invention by those skilled in the art having ordinary knowledge of the present invention, and such modifications, changes and additions should be regarded as belonging to the following claims.
Claims (10)
- 설명 가능한 지식그래프 완성 장치로서, As a knowledge graph completion device that can be explained,프로세서; 및processor; and상기 프로세서에 연결되는 메모리를 포함하되, a memory coupled to the processor;상기 메모리는, The memory is주어, 술어 및 목적어를 포함하는 쿼리 트리플에서, 상기 주어와 목적어를 연결할 수 있는 복수의 관계 경로를 추출하고, Extracting a plurality of relational paths that can connect the subject and the object from a query triple including a subject, a predicate, and an object,상기 추출된 복수의 관계 경로를 이용하여 복수의 설명 가능한 세그먼트를 생성하고, generating a plurality of explainable segments using the extracted plurality of relational paths;CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출하고, Extracting an embedding vector for each of the generated plurality of explainable segments using a neural network model that combines CNN and LSTM,어텐션 메커니즘을 이용하여 상기 임베딩 벡터로 표현되는 복수의 설명 가능한 세그먼트와 상기 쿼리 트리플에 포함된 쿼리 술어와의 의미적 유사성을 비교하고, comparing the semantic similarity between a plurality of descriptive segments represented by the embedding vector and a query predicate included in the query triple by using an attention mechanism;상기 의미적 유사성 비교를 통해 상기 복수의 설명 가능한 세그먼트 중 상기 쿼리 트리플에 대한 링크 예측에 중요도가 높은 세그먼트를 결정하도록, To determine a segment with high importance in link prediction for the query triple from among the plurality of explainable segments through the semantic similarity comparison,상기 프로세서에 의해 실행 가능한 프로그램 명령어들을 저장하는 설명 가능한 지식그래프 완성 장치.An explanatory knowledge graph completion device for storing program instructions executable by the processor.
- 제1항에 있어서, According to claim 1,상기 복수의 관계 경로는, 상기 주어에서 상기 목적어로 연결될 수 있는 하나 이상의 개체 및 하나 이상의 관계 중 상기 하나 이상의 개체를 제외하고 상기 하나 이상의 관계로만 연결되는 경로로 정의되는 설명 가능한 지식그래프 완성 장치.The plurality of relational paths is an explanatory knowledge graph completion device defined as a path connected only to the one or more relationships excluding the one or more entities among one or more entities and one or more relationships that can be connected from the subject to the object.
- 제2항에 있어서, 3. The method of claim 2,상기 프로그램 명령어들은, The program instructions arepath ranking algorithm(PRA)를 이용하여 상기 주어와 상기 목적어 사이의 상기 하나 이상의 개체와 상기 하나 이상의 관계를 랜덤 워크를 통해 탐색하여 상기 복수의 관계 경로를 추출하는 설명 가능한 지식그래프 완성 장치.An explanatory knowledge graph completion apparatus for extracting the plurality of relationship paths by using a path ranking algorithm (PRA) to search the one or more entities and the one or more relationships between the subject and the object through a random walk.
- 제3항에 있어서, 4. The method of claim 3,상기 프로그램 명령어들은, The program instructions are상기 쿼리 술어로 연결되는 모든 트리플의 주어와 목적어를 쌍으로 표현하고, Expressing the subject and object of all triples connected by the query predicate as a pair,상기 복수의 관계 경로 각각에 대한 상기 쌍의 랜덤 워크 확률을 이용하여 상기 복수의 관계 경로 중 일부를 제거하는 설명 가능한 지식그래프 완성 장치.An explanatory knowledge graph completion apparatus for removing some of the plurality of relationship paths by using the pair's random walk probability for each of the plurality of relationship paths.
- 제4항에 있어서, 5. The method of claim 4,상기 프로그램 명령어들은, The program instructions are상기 랜덤 워크 확률이 0보다 큰 쌍의 비율, 상기 랜덤 워크 확률의 평균값 및 상기 복수의 관계 경로 각각의 길이를 이용하여 상기 복수의 관계 경로 중 일부를 제거하는 설명 가능한 지식그래프 완성 장치.An explanatory knowledge graph completion apparatus for removing some of the plurality of relationship paths by using the ratio of pairs having the random walk probability greater than 0, the average value of the random walk probability, and the length of each of the plurality of relationship paths.
- 제1항에 있어서, According to claim 1,상기 복수의 설명 가능한 세그먼트 각각은 동일한 길이 n으로 전처리되고 각 개체 및 관계가 d차원 벡터로 표현되고, each of the plurality of descriptive segments is preprocessed to the same length n and each entity and relationship is expressed as a d-dimensional vector,상기 CNN은 상기 복수의 설명 가능한 세그먼트 각각은 n×d 형태의 행렬로 변환된 데이터을 입력으로 하여 상기 복수의 설명 가능한 세그먼트 각각의 특징맵을 출력하고, The CNN outputs a feature map of each of the plurality of explainable segments by inputting data transformed into an n×d matrix in each of the plurality of explainable segments,상기 LSTM은 순방향 LSTM 계층 및 역방향 LSTM 계층을 포함하고 상기 특징맵을 입력으로 하여 상기 복수의 설명 가능한 세그먼트 각각의 임베딩 벡터를 생성하는 설명 가능한 지식그래프 완성 장치.The LSTM includes a forward LSTM layer and a backward LSTM layer, and an apparatus for completing an explanatory knowledge graph to generate an embedding vector of each of the plurality of explainable segments by inputting the feature map as an input.
- 제1항에 있어서, The method of claim 1,상기 프로그램 명령어들은, The program instructions are상기 의미적 유사성을 비교를 통해 상기 복수의 설명 가능한 세그먼트 각각에 대한 어텐션 스코어를 계산하고, calculating an attention score for each of the plurality of explainable segments by comparing the semantic similarity;상기 어텐션 스코어를 통해 상기 쿼리 트리플에 대한 링크 예측 결과에 중요도가 높은 세그먼트를 결정하는 설명 가능한 지식그래프 완성 장치.An explanatory knowledge graph completion device for determining a segment with high importance in a link prediction result for the query triple through the attention score.
- 프로세서 및 상기 프로세서에 연결되는 메모리를 포함하는 장치에서 설명 가능한 지식그래프를 완성하는 방법으로서, A method of completing a knowledge graph that can be described in a device comprising a processor and a memory connected to the processor,주어, 술어 및 목적어를 포함하는 쿼리 트리플에서, 상기 주어와 목적어를 연결할 수 있는 복수의 관계 경로를 추출하는 단계; extracting, from a query triple including a subject, a predicate, and an object, a plurality of relational paths capable of connecting the subject and the object;상기 추출된 복수의 관계 경로를 이용하여 복수의 설명 가능한 세그먼트를 생성하는 단계; generating a plurality of explainable segments using the extracted plurality of relationship paths;CNN 및 LSTM을 결합한 신경망 모델을 이용하여 상기 생성된 복수의 설명 가능한 세그먼트 각각에 대한 임베딩 벡터를 추출하는 단계; extracting an embedding vector for each of the generated plurality of explainable segments using a neural network model combining CNN and LSTM;어텐션 메커니즘을 이용하여 상기 임베딩 벡터로 표현되는 복수의 설명 가능한 세그먼트와 상기 쿼리 트리플에 포함된 쿼리 술어와의 의미적 유사성을 비교하는 단계; 및comparing semantic similarity between a plurality of descriptive segments represented by the embedding vector and a query predicate included in the query triple using an attention mechanism; and상기 의미적 유사성 비교를 통해 상기 복수의 설명 가능한 세그먼트 중 상기 쿼리 트리플에 대한 링크 예측에 중요도가 높은 세그먼트를 결정하는 단계를 포함하는 설명 가능한 지식그래프 완성 방법. and determining a segment having high importance for link prediction with respect to the query triple from among the plurality of explainable segments through the semantic similarity comparison.
- 제8항에 있어서, 9. The method of claim 8,상기 복수의 관계 경로는, 상기 주어에서 상기 목적어로 연결될 수 있는 하나 이상의 개체 및 하나 이상의 관계 중 상기 하나 이상의 개체를 제외하고 상기 하나 이상의 관계로만 연결되는 경로로 정의되는 설명 가능한 지식그래프 완성 방법. The plurality of relational paths are defined as paths connected only to the one or more relationships excluding the one or more entities among one or more entities and one or more relationships that can be connected from the subject to the object.
- 제8항에 따른 방법을 수행하는 컴퓨터 판독 가능한 프로그램. A computer readable program for performing the method according to claim 8 .
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2020-0155501 | 2020-11-19 | ||
KR20200155501 | 2020-11-19 | ||
KR10-2021-0016548 | 2021-02-05 | ||
KR1020210016548A KR102464999B1 (en) | 2020-11-19 | 2021-02-05 | Explainable knowledge graph completion method and apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2022108206A1 true WO2022108206A1 (en) | 2022-05-27 |
Family
ID=81709267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2021/015999 WO2022108206A1 (en) | 2020-11-19 | 2021-11-05 | Method and apparatus for completing describable knowledge graph |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2022108206A1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115826627A (en) * | 2023-02-21 | 2023-03-21 | 白杨时代(北京)科技有限公司 | Method, system, equipment and storage medium for determining formation instruction |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120097840A (en) * | 2011-02-25 | 2012-09-05 | 주식회사 솔트룩스 | Method and apparatus for selecting rdf triple using vector space model |
KR20190033269A (en) * | 2017-09-21 | 2019-03-29 | 숭실대학교산학협력단 | Knowledge Base completion method and server |
KR101991320B1 (en) * | 2017-03-24 | 2019-06-21 | (주)아크릴 | Method for extending ontology using resources represented by the ontology |
US20200065668A1 (en) * | 2018-08-27 | 2020-02-27 | NEC Laboratories Europe GmbH | Method and system for learning sequence encoders for temporal knowledge graph completion |
KR20200083404A (en) * | 2018-09-19 | 2020-07-08 | 주식회사 포티투마루 | Method, system and computer program for artificial intelligence answer |
KR102203065B1 (en) * | 2019-09-03 | 2021-01-14 | 숭실대학교산학협력단 | Triple verification device and method |
-
2021
- 2021-11-05 WO PCT/KR2021/015999 patent/WO2022108206A1/en active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120097840A (en) * | 2011-02-25 | 2012-09-05 | 주식회사 솔트룩스 | Method and apparatus for selecting rdf triple using vector space model |
KR101991320B1 (en) * | 2017-03-24 | 2019-06-21 | (주)아크릴 | Method for extending ontology using resources represented by the ontology |
KR20190033269A (en) * | 2017-09-21 | 2019-03-29 | 숭실대학교산학협력단 | Knowledge Base completion method and server |
US20200065668A1 (en) * | 2018-08-27 | 2020-02-27 | NEC Laboratories Europe GmbH | Method and system for learning sequence encoders for temporal knowledge graph completion |
KR20200083404A (en) * | 2018-09-19 | 2020-07-08 | 주식회사 포티투마루 | Method, system and computer program for artificial intelligence answer |
KR102203065B1 (en) * | 2019-09-03 | 2021-01-14 | 숭실대학교산학협력단 | Triple verification device and method |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115826627A (en) * | 2023-02-21 | 2023-03-21 | 白杨时代(北京)科技有限公司 | Method, system, equipment and storage medium for determining formation instruction |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021096009A1 (en) | Method and device for supplementing knowledge on basis of relation network | |
WO2019103224A1 (en) | System and method for extracting core keyword in document | |
WO2017057921A1 (en) | Method and system for automatically classifying data expressed by a plurality of factors with values of text word and symbol sequence by using deep learning | |
WO2018016673A1 (en) | Device and method for automatically extracting alternative word, and recording medium for performing same | |
WO2020111314A1 (en) | Conceptual graph-based query-response apparatus and method | |
WO2020122456A1 (en) | System and method for matching similarities between images and texts | |
WO2020045714A1 (en) | Method and system for recognizing contents | |
WO2021095987A1 (en) | Multi-type entity-based knowledge complementing method and apparatus | |
CN111597314A (en) | Reasoning question-answering method, device and equipment | |
WO2021215551A1 (en) | Blockchain-based electronic research note verification method and electronic research note management apparatus using same | |
WO2021153861A1 (en) | Method for detecting multiple objects and apparatus therefor | |
WO2022108206A1 (en) | Method and apparatus for completing describable knowledge graph | |
WO2022114368A1 (en) | Method and device for completing knowledge through neuro-symbolic-based relation embedding | |
WO2019107625A1 (en) | Machine translation method and apparatus therefor | |
WO2023063486A1 (en) | Method for creating machine learning model, and device thereof | |
KR102464999B1 (en) | Explainable knowledge graph completion method and apparatus | |
WO2022080583A1 (en) | Deep learning-based bitcoin block data prediction system taking into account time series distribution characteristics | |
WO2018147543A1 (en) | Concept graph based query-response system and context search method using same | |
WO2021132760A1 (en) | Method of predicting columns and tables used when translating sql queries from natural language on basis of neural network | |
WO2014148664A1 (en) | Multi-language search system, multi-language search method, and image search system, based on meaning of word | |
WO2024048854A1 (en) | Reasoning method based on structural attention mechanism for knowledge-based question answering and computing apparatus for performing same | |
CN117076608A (en) | Script event prediction method and device for integrating external event knowledge based on text dynamic span | |
WO2022186539A1 (en) | Image classification-based celebrity identification method and apparatus | |
WO2022154376A1 (en) | Apparatus and method for providing user's interior style analysis model on basis of sns text | |
WO2022154586A1 (en) | Method for determining target protein of compound, and target protein determination apparatus performing said method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21894977 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 21894977 Country of ref document: EP Kind code of ref document: A1 |