JP2022040026A - エンティティリンキング方法、装置、電子デバイス及び記憶媒体 - Google Patents
エンティティリンキング方法、装置、電子デバイス及び記憶媒体 Download PDFInfo
- Publication number
- JP2022040026A JP2022040026A JP2021134380A JP2021134380A JP2022040026A JP 2022040026 A JP2022040026 A JP 2022040026A JP 2021134380 A JP2021134380 A JP 2021134380A JP 2021134380 A JP2021134380 A JP 2021134380A JP 2022040026 A JP2022040026 A JP 2022040026A
- Authority
- JP
- Japan
- Prior art keywords
- entity
- target
- category
- query text
- representation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2148—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/28—Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (17)
- エンティティリンキング方法であって、
クエリテキストに対してエンティティ検出を行ってターゲットエンティティを取得することと、
予め訓練された文脈表現モデルを用いて、前記クエリテキストの特徴表現を生成することと、
前記クエリテキストの特徴表現と、予め取得された前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現とに基づいて、前記ターゲットエンティティを最も一致度の高いエンティティカテゴリにリンキングすることと、を含む、
方法。 - 予め訓練された文脈表現モデルを用いて、前記クエリテキストの特徴表現を生成することの後、前記クエリテキストの特徴表現と予め取得されたターゲットエンティティに対応する各エンティティカテゴリの特徴表現とに基づいて、前記ターゲットエンティティを最も一致度の高いエンティティカテゴリにリンキングすることの前に、更に、
予め生成されたエンティティ特徴ライブラリから、前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を取得すること、を含む、
請求項1に記載の方法。 - 予め生成されたエンティティ特徴ライブラリから前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を取得する前に、更に、
エンティティ表現モデルと前記ターゲットエンティティの各エンティティカテゴリとに基づいて、前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を生成することと、
前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を前記エンティティ特徴ライブラリに格納することと、を含む、
請求項2に記載の方法。 - エンティティ表現モデルと前記ターゲットエンティティの各エンティティカテゴリとに基づいて、前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を生成することは、
前記ターゲットエンティティの各エンティティカテゴリに対応する複数の訓練サンプルペアを採集することであって、各訓練サンプルペアがポジティブサンプルとネガティブサンプルを含み、前記ポジティブサンプルにエンティティと、前記エンティティと同一のエンティティカテゴリに属するポジティブサンプルエンティティとが含まれ、前記ネガティブサンプルに前記エンティティと、前記ポジティブサンプルにおける前記エンティティと同一のエンティティカテゴリに属さないネガティブサンプルエンティティが含まれることと、
前記複数の訓練サンプルペアを使用して、前記エンティティ表現モデルにより生成された前記ポジティブサンプルで標識されるエンティティカテゴリの特徴表現が前記ポジティブサンプルエンティティの特徴表現と一致し、前記ネガティブサンプルエンティティの特徴表現と一致しないように、前記エンティティ表現モデルを訓練することにより、前記ターゲットエンティティに対応するエンティティカテゴリの特徴表現を得ることと、を含む、
請求項3に記載の方法。 - 予め訓練された文脈表現モデルを用いて、前記クエリテキストの特徴表現を生成することは、
前記クエリテキストをトークン化して複数のトークンを得ることと、
前記複数のトークンのそれぞれに対して埋め込み表現を行うことと、
埋め込み表現が行われた前記複数のトークンを前記文脈表現モデルに入力し、前記文脈表現モデルが出力する前記クエリテキストの特徴表現を取得することと、を含む、
請求項1に記載の方法。 - クエリテキストに対してエンティティ検出を行ってターゲットエンティティを取得することの後、前記クエリテキストの特徴表現と、予め取得された前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現とに基づいて、前記ターゲットエンティティを最も一致度の高いエンティティカテゴリにリンキングすることの前に、更に、
前記ターゲットエンティティが少なくとも2つのエンティティカテゴリに対応することを検出して決定すること、を含む、
請求項1に記載の方法。 - クエリテキストに対してエンティティ検出を行ってターゲットエンティティを取得することは、
エンティティ識別モデルを使用して前記クエリテキストに対してエンティティ検出を行って前記ターゲットエンティティを取得し、及び/又は、
予め生成されたエンティティ辞書を用いて前記クエリテキストに対してエンティティ検出を行って前記ターゲットエンティティを取得すること、を含む、
請求項1~6のいずれか1項に記載の方法。 - エンティティリンキング装置であって、
クエリテキストに対してエンティティ検出を行ってターゲットエンティティを取得する検出モジュールと、
予め訓練された文脈表現モデルを用いて、前記クエリテキストの特徴表現を生成する第1生成モジュールと、
前記クエリテキストの特徴表現と、予め取得された前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現とに基づいて、前記ターゲットエンティティを最も一致度の高いエンティティカテゴリにリンキングするリンキングモジュールと、を備える、
装置。 - 予め生成されたエンティティ特徴ライブラリから、前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を取得する取得モジュールを更に備える請求項8に記載の装置。
- エンティティ表現モデルと前記ターゲットエンティティの各エンティティカテゴリとに基づいて、前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を生成する第2生成モジュールと、
前記ターゲットエンティティに対応する各エンティティカテゴリの特徴表現を前記エンティティ特徴ライブラリに格納する格納モジュールと、を更に備える、
請求項9に記載の装置。 - 前記第2生成モジュールは、
前記ターゲットエンティティの各エンティティカテゴリに対応する複数の訓練サンプルペアを採集する採集ユニットであって、各訓練サンプルペアがポジティブサンプルとネガティブサンプルを含み、前記ポジティブサンプルにエンティティと、前記エンティティと同一のエンティティカテゴリに属するポジティブサンプルエンティティとが含まれ、前記ネガティブサンプルに前記エンティティと、前記ポジティブサンプルにおける前記エンティティと同一のエンティティカテゴリに属さないネガティブサンプルエンティティとが含まれる採集ユニットと、
前記複数の訓練サンプルペアを使用して、前記エンティティ表現モデルにより生成された前記ポジティブサンプルで標識されるエンティティカテゴリの特徴表現が前記ポジティブサンプルエンティティの特徴表現と一致し、前記ネガティブサンプルエンティティの特徴表現と一致しないように、前記エンティティ表現モデルを訓練することにより、前記ターゲットエンティティに対応するエンティティカテゴリの特徴表現を得る訓練ユニットと、を備える、
請求項10に記載の装置。 - 前記第1生成モジュールは、
前記クエリテキストをトークン化して複数のトークンを得るトークン化ユニットと、
前記複数のトークンのそれぞれに対して埋め込み表現を行う表現ユニットと、
埋め込み表現が行われた前記複数のトークンを前記文脈表現モデルに入力し、前記文脈表現モデルが出力する前記クエリテキストの特徴表現を取得する取得ユニットと、を備える、
請求項8に記載の装置。 - 前記検出モジュールは、更に、前記ターゲットエンティティが少なくとも2つのエンティティカテゴリに対応することを検出して決定する、
請求項8に記載の装置。 - 前記検出モジュールは、
エンティティ識別モデルを使用して前記クエリテキストに対してエンティティ検出を行って前記ターゲットエンティティを取得し、及び/又は、
予め生成されたエンティティ辞書を用いて前記クエリテキストに対してエンティティ検出を行って前記ターゲットエンティティを取得する、
請求項8~13のいずれか1項に記載の装置。 - 少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信接続されたメモリと、を備え、
前記メモリに前記少なくとも1つのプロセッサにより実行可能なコマンドが記憶されており、前記コマンドが前記少なくとも1つのプロセッサにより実行されると、前記少なくとも1つのプロセッサに請求項1~7のいずれか1項に記載の方法を実行させる電子デバイス。 - コンピュータに請求項1~7のいずれか1項に記載の方法を実行させるためのコンピュータコマンドが記憶された非一時的なコンピュータ可読記憶媒体。
- コンピュータに請求項1~7のいずれか1項に記載の方法を実行させるためのプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010886164.4A CN111931509A (zh) | 2020-08-28 | 2020-08-28 | 实体链指方法、装置、电子设备及存储介质 |
CN202010886164.4 | 2020-08-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022040026A true JP2022040026A (ja) | 2022-03-10 |
JP7234483B2 JP7234483B2 (ja) | 2023-03-08 |
Family
ID=73309481
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021134380A Active JP7234483B2 (ja) | 2020-08-28 | 2021-08-19 | エンティティリンキング方法、装置、電子デバイス、記憶媒体及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20220067439A1 (ja) |
EP (1) | EP3961476A1 (ja) |
JP (1) | JP7234483B2 (ja) |
KR (1) | KR102573637B1 (ja) |
CN (1) | CN111931509A (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12045843B2 (en) * | 2020-10-09 | 2024-07-23 | Jpmorgan Chase Bank , N.A. | Systems and methods for tracking data shared with third parties using artificial intelligence-machine learning |
CN112597305B (zh) * | 2020-12-22 | 2023-09-01 | 上海师范大学 | 基于深度学习的科技文献作者名消歧方法及web端消歧装置 |
US20230008868A1 (en) * | 2021-07-08 | 2023-01-12 | Nippon Telegraph And Telephone Corporation | User authentication device, user authentication method, and user authentication computer program |
CN114647739B (zh) * | 2022-02-25 | 2023-02-28 | 北京百度网讯科技有限公司 | 实体链指方法、装置、电子设备及存储介质 |
CN114970491B (zh) * | 2022-08-02 | 2022-10-04 | 深圳市城市公共安全技术研究院有限公司 | 一种文本衔接性判断方法、装置、电子设备及存储介质 |
CN115796280B (zh) * | 2023-01-31 | 2023-06-09 | 南京万得资讯科技有限公司 | 一种适用于金融领域高效可控的实体识别实体链接*** |
CN117271804B (zh) * | 2023-11-21 | 2024-03-01 | 之江实验室 | 一种共病特征知识库生成方法、装置、设备及介质 |
CN117689963B (zh) * | 2024-02-02 | 2024-04-09 | 南京邮电大学 | 一种基于多模态预训练模型的视觉实体链接方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111869A (ja) * | 1996-10-07 | 1998-04-28 | Fujitsu Ltd | 情報分類装置とその方法 |
JP2010224675A (ja) * | 2009-03-19 | 2010-10-07 | Toshiba Corp | 情報検索装置及び方法 |
JP2011059748A (ja) * | 2009-09-07 | 2011-03-24 | Nippon Telegr & Teleph Corp <Ntt> | キーワードタイプ判定装置、キーワードタイプ判定方法およびキーワードタイプ判定プログラム |
JP2017509963A (ja) * | 2014-01-31 | 2017-04-06 | グーグル インコーポレイテッド | 文書のベクトル表現の生成 |
US20180173694A1 (en) * | 2016-12-21 | 2018-06-21 | Industrial Technology Research Institute | Methods and computer systems for named entity verification, named entity verification model training, and phrase expansion |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150095017A1 (en) * | 2013-09-27 | 2015-04-02 | Google Inc. | System and method for learning word embeddings using neural language models |
US9836453B2 (en) * | 2015-08-27 | 2017-12-05 | Conduent Business Services, Llc | Document-specific gazetteers for named entity recognition |
CN106940702A (zh) * | 2016-01-05 | 2017-07-11 | 富士通株式会社 | 连接短文本中实体提及与语义知识库中实体的方法和设备 |
CN106407180B (zh) * | 2016-08-30 | 2021-01-01 | 北京奇艺世纪科技有限公司 | 一种实体消歧方法及装置 |
CN107861939B (zh) * | 2017-09-30 | 2021-05-14 | 昆明理工大学 | 一种融合词向量和主题模型的领域实体消歧方法 |
CN108280061B (zh) * | 2018-01-17 | 2021-10-26 | 北京百度网讯科技有限公司 | 基于歧义实体词的文本处理方法和装置 |
CN110209830B (zh) * | 2018-02-12 | 2023-06-06 | 株式会社理光 | 实体链接方法、装置、设备、计算机可读存储介质 |
CN109522393A (zh) * | 2018-10-11 | 2019-03-26 | 平安科技(深圳)有限公司 | 智能问答方法、装置、计算机设备和存储介质 |
CN111523326B (zh) * | 2020-04-23 | 2023-03-17 | 北京百度网讯科技有限公司 | 实体链指方法、装置、设备以及存储介质 |
CN111428507B (zh) * | 2020-06-09 | 2020-09-11 | 北京百度网讯科技有限公司 | 实体链指方法、装置、设备以及存储介质 |
-
2020
- 2020-08-28 CN CN202010886164.4A patent/CN111931509A/zh not_active Withdrawn
-
2021
- 2021-05-13 US US17/319,631 patent/US20220067439A1/en not_active Abandoned
- 2021-05-14 EP EP21173906.5A patent/EP3961476A1/en not_active Ceased
- 2021-08-11 KR KR1020210106324A patent/KR102573637B1/ko active IP Right Grant
- 2021-08-19 JP JP2021134380A patent/JP7234483B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10111869A (ja) * | 1996-10-07 | 1998-04-28 | Fujitsu Ltd | 情報分類装置とその方法 |
JP2010224675A (ja) * | 2009-03-19 | 2010-10-07 | Toshiba Corp | 情報検索装置及び方法 |
JP2011059748A (ja) * | 2009-09-07 | 2011-03-24 | Nippon Telegr & Teleph Corp <Ntt> | キーワードタイプ判定装置、キーワードタイプ判定方法およびキーワードタイプ判定プログラム |
JP2017509963A (ja) * | 2014-01-31 | 2017-04-06 | グーグル インコーポレイテッド | 文書のベクトル表現の生成 |
US20180173694A1 (en) * | 2016-12-21 | 2018-06-21 | Industrial Technology Research Institute | Methods and computer systems for named entity verification, named entity verification model training, and phrase expansion |
Also Published As
Publication number | Publication date |
---|---|
CN111931509A (zh) | 2020-11-13 |
KR20220029384A (ko) | 2022-03-08 |
KR102573637B1 (ko) | 2023-08-31 |
US20220067439A1 (en) | 2022-03-03 |
JP7234483B2 (ja) | 2023-03-08 |
EP3961476A1 (en) | 2022-03-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7234483B2 (ja) | エンティティリンキング方法、装置、電子デバイス、記憶媒体及びプログラム | |
JP7247441B2 (ja) | セマンティック表現モデルの処理方法、装置、電子機器、及び記憶媒体 | |
CN111221983B (zh) | 时序知识图谱生成方法、装置、设备和介质 | |
CN112507715B (zh) | 确定实体之间关联关系的方法、装置、设备和存储介质 | |
KR102532396B1 (ko) | 데이터 세트 처리 방법, 장치, 전자 기기 및 저장 매체 | |
CN112560479B (zh) | 摘要抽取模型训练方法、摘要抽取方法、装置和电子设备 | |
JP7264866B2 (ja) | イベント関係の生成方法、装置、電子機器及び記憶媒体 | |
CN111783468B (zh) | 文本处理方法、装置、设备和介质 | |
CN111832292A (zh) | 文本识别处理方法、装置、电子设备和存储介质 | |
JP2022018095A (ja) | マルチモーダル事前訓練モデル取得方法、装置、電子デバイス及び記憶媒体 | |
JP7096919B2 (ja) | エンティティワードの認識方法と装置 | |
CN111488740B (zh) | 一种因果关系的判别方法、装置、电子设备及存储介质 | |
US9734238B2 (en) | Context based passage retreival and scoring in a question answering system | |
JP2021111420A (ja) | テキストエンティティの語義記述処理方法、装置及び機器 | |
US20220129448A1 (en) | Intelligent dialogue method and apparatus, and storage medium | |
CN111950291A (zh) | 语义表示模型的生成方法、装置、电子设备及存储介质 | |
CN111859953B (zh) | 训练数据的挖掘方法、装置、电子设备及存储介质 | |
CN111831814A (zh) | 摘要生成模型的预训练方法、装置、电子设备和存储介质 | |
JP2022008207A (ja) | トリプルサンプルの生成方法、装置、電子デバイス及び記憶媒体 | |
JP2022091122A (ja) | 汎化処理方法、装置、デバイス、コンピュータ記憶媒体及びプログラム | |
CN113312451B (zh) | 文本标签确定方法和装置 | |
Jung et al. | LN-Annote: An alternative approach to information extraction from emails using locally-customized named-entity recognition | |
CN112328710A (zh) | 实体信息处理方法、装置、电子设备和存储介质 | |
Banerjee et al. | A Novel Approach for Emotion Detection from Text Data using Natural Language Processing and Machine Learning | |
US20240249186A1 (en) | Systems and methods for using contrastive pre-training to generate text and code embeddings |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210819 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220927 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221025 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230201 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7234483 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |