JP2019114239A - 機械学習およびファジーマッチングを使用した階層型の自動的な文書の分類およびメタデータ識別 - Google Patents
機械学習およびファジーマッチングを使用した階層型の自動的な文書の分類およびメタデータ識別 Download PDFInfo
- Publication number
- JP2019114239A JP2019114239A JP2018197523A JP2018197523A JP2019114239A JP 2019114239 A JP2019114239 A JP 2019114239A JP 2018197523 A JP2018197523 A JP 2018197523A JP 2018197523 A JP2018197523 A JP 2018197523A JP 2019114239 A JP2019114239 A JP 2019114239A
- Authority
- JP
- Japan
- Prior art keywords
- metadata
- image
- document
- interest
- electronic document
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010801 machine learning Methods 0.000 title claims description 18
- 238000000034 method Methods 0.000 claims abstract description 80
- 230000015654 memory Effects 0.000 claims description 22
- 238000004422 calculation algorithm Methods 0.000 claims description 21
- 238000004891 communication Methods 0.000 claims description 9
- 238000007781 pre-processing Methods 0.000 claims description 9
- 230000009467 reduction Effects 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 238000012937 correction Methods 0.000 claims description 3
- 238000005520 cutting process Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 61
- 230000001502 supplementing effect Effects 0.000 abstract 1
- 238000012549 training Methods 0.000 description 30
- 230000000875 corresponding effect Effects 0.000 description 29
- 238000000605 extraction Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 10
- 238000003860 storage Methods 0.000 description 9
- 238000013145 classification model Methods 0.000 description 7
- 238000013527 convolutional neural network Methods 0.000 description 7
- 238000001914 filtration Methods 0.000 description 7
- 239000000284 extract Substances 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000012015 optical character recognition Methods 0.000 description 3
- 230000008520 organization Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- RGNPBRKPHBKNKX-UHFFFAOYSA-N hexaflumuron Chemical compound C1=C(Cl)C(OC(F)(F)C(F)F)=C(Cl)C=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F RGNPBRKPHBKNKX-UHFFFAOYSA-N 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000013488 ordinary least square regression Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000012628 principal component regression Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2468—Fuzzy queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/93—Document management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
- G06N5/048—Fuzzy inferencing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
- G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
- G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
- G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/413—Classification of content, e.g. text, photographs or tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/10—Recognition assisted with metadata
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/26—Techniques for post-processing, e.g. correcting the recognition result
- G06V30/262—Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
- G06V30/268—Lexical context
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/416—Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Fuzzy Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Biodiversity & Conservation Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Probability & Statistics with Applications (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
本特許出願は、参照により本願明細書にその全体が援用される、2017年11月13日に米国特許庁に出願された米国特許出願第15/810,885号の優先権を主張する。
メタデータフィールド内に編成されたメタデータデータ要素を含むデータベースであって、メタデータフィールドは、メタデータカテゴリデータ要素を含んだメタデータカテゴリフィールドを少なくとも含む、データベースと、
機械学習アルゴリズムに基づいて確立されたテキストベースの文書分類器モデル、メタデータカテゴリ識別モデルおよびファジーテキストマッチャーを記憶するメモリと、
データベースおよびメモリと通信しているシステム回路構成であって、
電子文書を受信し、
テキストベースの文書分類器モデルを使用して、電子文書が所定のセットの文書カテゴリに属すると判断するのに応答して、
電子文書に対応する画像を取得し、
画像と、メタデータカテゴリフィールドの第1のメタデータカテゴリデータ要素との第1の関連を、メタデータカテゴリ識別モデルを使用して取得し、
電子文書と、データベースのメタデータデータ要素のサブセットとの第2の関連群を、ファジーテキストマッチャーを使用して取得し、
第1のメタデータカテゴリデータ要素と、データベースのメタデータデータ要素のサブセットに対応するメタデータカテゴリデータ要素のセットとの中で、単一のメタデータカテゴリデータ要素を、電子文書のラベルとして、第1の関連および第2の関連群に基づき決定する、
ように構成されたシステム回路構成と、
を含んでもよい。
分類結果を取得するために、対応するテキスト文書をテキストベースの文書分類器モデルに入力することと、
分類結果が所定のセットの文書カテゴリ中にあると判断することと、
により、電子文書が所定のセットの文書カテゴリに属すると判断するよう構成されてもよい。
システム回路構成は、メタデータカテゴリ識別モデルを関心対象領域に適用することにより第1の関連を取得するよう構成されてもよい。
画像に対する関心対象領域の位置およびサイズを決定することと、
画像から関心対象領域を取得するために、関心対象領域の位置およびサイズに従って画像を切り取り、さらに/またはその形を変更し、さらに/または整列し直すことと、
により、電子文書に対応する画像から関心対象領域を取得するよう構成されてもよい。
画像に対する関心対象領域の位置およびサイズを決定することと、
切り取られた画像を取得するために、関心対象領域の位置およびサイズに従って画像を切り取ることと、
切り取られた画像を、関心対象領域を取得するために前処理することと、
により、電子文書に対応する画像から関心対象領域を取得するよう構成されてもよい。
電子文書を表現するために、電子文書に含まれるテキストのnグラムのセットを抽出することと、
データベースのメタデータデータ要素のうちnグラムのセットと一致したサブセットを識別して第2の関連群を取得するために、nグラムのセットとデータベースのメタデータデータ要素との間のファジーマッチングを実行することと、
により、ファジーテキストマッチャーを使用して、電子文書と、データベースのメタデータデータ要素のサブセットとの第2の関連群を取得するよう構成されてもよい。
電子文書のnグラムのセットと最も一致したメタデータデータ要素の集合を取得して対応する関連群を取得するために、メタデータフィールドそれぞれの中で所定数の上位一致メタデータデータ要素を識別するべく、nグラムのセットと、データベースのメタデータデータ要素との間のファジーマッチングを実行することと、
nグラムのセットと最も一致したメタデータデータ要素の集合の対応する関連群の、重み付けされた比較によって、メタデータデータ要素のサブセットを識別することと、
を含んでもよい。
メモリとシステム回路構成とを有するシステムにより電子文書を受信するステップと、
機械学習アルゴリズムに基づいて確立されてメモリに記憶されたテキストベースの文書分類器モデルを使用して、電子文書が所定のセットの文書カテゴリに属すると判断するステップに応答して、
電子文書に対応する画像を取得するステップと、
画像と、メタデータカテゴリのセットの中の第1のメタデータカテゴリとの第1の関連を、メモリに記憶されたメタデータカテゴリ識別モデルを使用して取得するステップであって、メタデータカテゴリのセットは、メタデータカテゴリフィールドを含むメタデータフィールドに編成されたメタデータデータ要素を含むシステムのデータベース内のメタデータカテゴリフィールドにデータ要素として記憶される、ステップと、
電子文書と、データベースのメタデータデータ要素のサブセットとの第2の関連群を、メモリに記憶されたファジーテキストマッチャーを使用して取得するステップと、
第1のメタデータカテゴリと、データベースのメタデータデータ要素のサブセットに対応するメタデータカテゴリのセットとの中で、単一のメタデータカテゴリを、第1の関連および第2の関連群に基づいて、電子文書のラベルとして決定するステップと、
を含んでもよい。
分類結果を取得するために、対応するテキスト文書をテキストベースの文書分類器モデルに入力するステップと、
分類結果が所定のセットの文書カテゴリ中のものであると判断するステップと、
による。
画像に対する関心対象領域の位置およびサイズを決定するステップと、
画像から関心対象領域を取得するために、関心対象領域の位置およびサイズに従って画像を切り取り、さらに/またはその形を変更し、さらに/または整列し直すステップと、
を含んでもよい。
画像に対する関心対象領域の位置およびサイズを決定するステップと、
切り取られた画像を取得するために、関心対象領域の位置およびサイズに従って画像を切り取るステップと、
切り取られた画像を、関心対象領域を取得するために前処理するステップと、
を含んでもよい。
電子文書を表現するために、電子文書に含まれるテキストのnグラムのセットを抽出するステップと、
データベースのメタデータデータ要素のうちnグラムのセットと一致したサブセットを識別して第2の関連群を取得するために、nグラムのセットとデータベースのメタデータデータ要素との間のファジーマッチングを実行するステップと、
を含んでもよい。
電子文書のnグラムのセットと最も一致したメタデータデータ要素の集合を取得して対応する関連群を取得するために、メタデータフィールドそれぞれの中で所定数の上位一致メタデータデータ要素を識別するべく、nグラムのセットと、データベースのメタデータデータ要素との間のファジーマッチングを実行するステップと、
nグラムのセットと最も一致したメタデータデータ要素の集合の対応する関連群の、重み付けされた比較によって、メタデータデータ要素のサブセットを識別するステップと、
を含んでもよい。
Claims (20)
- メタデータフィールド内に編成されたメタデータデータ要素を含むデータベースであって、前記メタデータフィールドは、メタデータカテゴリデータ要素を含んだメタデータカテゴリフィールドを少なくとも含む、前記データベースと、
機械学習アルゴリズムに基づいて確立されたテキストベースの文書分類器モデル、メタデータカテゴリ識別モデルおよびファジーテキストマッチャーを記憶するメモリと、
前記データベースおよび前記メモリと通信しているシステム回路構成であって、
電子文書を受信し、
前記テキストベースの文書分類器モデルを使用して、前記電子文書が所定のセットの文書カテゴリに属すると判断するのに応答して、
前記電子文書に対応する画像を取得し、
前記画像と、前記メタデータカテゴリフィールドの第1のメタデータカテゴリデータ要素との第1の関連を、前記メタデータカテゴリ識別モデルを使用して取得し、
前記電子文書と、前記データベースの前記メタデータデータ要素のサブセットとの第2の関連群を、前記ファジーテキストマッチャーを使用して取得し、
前記第1のメタデータカテゴリデータ要素と、前記データベースの前記メタデータデータ要素の前記サブセットに対応するメタデータカテゴリデータ要素のセットとの中で、単一のメタデータカテゴリデータ要素を、前記電子文書のラベルとして、前記第1の関連および前記第2の関連群に基づき決定する、
ように構成された前記システム回路構成と、
を含むシステム。 - 前記システム回路構成は、前記電子文書を対応するテキスト文書に変換するようさらに構成され、前記システム回路構成は、
分類結果を取得するために、前記対応するテキスト文書を前記テキストベースの文書分類器モデルに入力することと、
前記分類結果が前記所定のセットの文書カテゴリ中にあると判断することと、
により、前記電子文書が前記所定のセットの文書カテゴリに属すると判断するよう構成される、請求項1に記載のシステム。 - 前記システム回路構成は、前記電子文書に対応する前記画像から関心対象領域を取得するようさらに構成され、
前記システム回路構成は、前記メタデータカテゴリ識別モデルを前記関心対象領域に適用することにより前記第1の関連を取得するよう構成される、
請求項1に記載のシステム。 - 前記関心対象領域は、前記画像の一部を含む、請求項3に記載のシステム。
- 前記システム回路構成は、
前記画像に対する前記関心対象領域の位置およびサイズを決定することと、
前記画像から前記関心対象領域を取得するために、前記関心対象領域の前記位置およびサイズに従って前記画像を切り取り、さらに/またはその形を変更し、さらに/または整列し直すことと
により、前記電子文書に対応する前記画像から前記関心対象領域を取得するよう構成される、請求項3に記載のシステム。 - 前記システム回路構成は、
前記画像に対する前記関心対象領域の位置およびサイズを決定することと、
切り取られた画像を取得するために、前記関心対象領域の前記位置およびサイズに従って前記画像を切り取ることと、
前記切り取られた画像を、前記関心対象領域を取得するために前処理することと、
により、前記電子文書に対応する前記画像から前記関心対象領域を取得するよう構成される、請求項3に記載のシステム。 - 前記関心対象領域は、画素の配列を含み、前記切り取られた画像を前処理することは、画素分解能の低減と、ゆがみの修正とのうちの少なくとも1つを含む、請求項6に記載のシステム。
- 前記システム回路構成は、
前記電子文書を表現するために、前記電子文書に含まれるテキストのnグラムのセットを抽出することと、
前記データベースの前記メタデータデータ要素のうち前記nグラムのセットと一致した前記サブセットを識別して前記第2の関連群を取得するために、前記nグラムのセットと前記データベースの前記メタデータデータ要素との間のファジーマッチングを実行することと、
により、前記ファジーテキストマッチャーを使用して、前記電子文書と、前記データベースの前記メタデータデータ要素の前記サブセットとの前記第2の関連群を取得するよう構成される、請求項1に記載のシステム。 - ファジーマッチングを実行することは、
前記電子文書の前記nグラムのセットと最も一致したメタデータデータ要素の集合を取得して対応する関連群を取得するために、前記メタデータフィールドそれぞれの中で所定数の上位一致メタデータデータ要素を識別するべく、前記nグラムのセットと、前記データベースの前記メタデータデータ要素との間のファジーマッチングを実行することと、
前記nグラムのセットと最も一致したメタデータデータ要素の前記集合の対応する関連群の、重み付けされた比較によって、前記メタデータデータ要素の前記サブセットを識別することと、
を含む、請求項8に記載のシステム。 - 前記nグラムのセットは、ユニグラムのセット、バイグラムのセットおよびトライグラムのセットを含む、請求項8に記載のシステム。
- 前記nグラムのセットと、前記データベースのデータ項目との間のファジーマッチングを実行することは、前記ユニグラムのセット、前記バイグラムのセットおよび前記トライグラムのセットに異なる重みをかけることを含む、請求項10に記載のシステム。
- 前記トライグラムのセットに、前記バイグラムのセットよりも大きな重みが与えられ、前記バイグラムのセットに、前記ユニグラムのセットよりも大きな重みが与えられる、請求項11に記載のシステム。
- メモリとシステム回路構成とを有するシステムにより電子文書を受信するステップと、
機械学習アルゴリズムに基づいて確立されて前記メモリに記憶されたテキストベースの文書分類器モデルを使用して、前記電子文書が所定のセットの文書カテゴリに属すると判断するステップに応答して、
前記電子文書に対応する画像を取得するステップと、
前記画像と、メタデータカテゴリのセットの中の第1のメタデータカテゴリとの第1の関連を、前記メモリに記憶されたメタデータカテゴリ識別モデルを使用して取得するステップであって、前記メタデータカテゴリのセットは、メタデータカテゴリフィールドを含むメタデータフィールドに編成されたメタデータデータ要素を含む前記システムのデータベース内の前記メタデータカテゴリフィールドにデータ要素として記憶される、前記ステップと、
前記電子文書と、前記データベースの前記メタデータデータ要素のサブセットとの第2の関連群を、前記メモリに記憶されたファジーテキストマッチャーを使用して取得するステップと、
前記第1のメタデータカテゴリと、前記データベースの前記メタデータデータ要素の前記サブセットに対応するメタデータカテゴリのセットとの中で、単一のメタデータカテゴリを、前記第1の関連および前記第2の関連群に基づいて、前記電子文書のラベルとして決定するステップと、
を含む方法。 - 前記方法は、前記電子文書を対応するテキスト文書に変換するステップをさらに含み、前記電子文書が前記所定のセットの文書カテゴリに属すると判断するステップは、
分類結果を取得するために、前記対応するテキスト文書を前記テキストベースの文書分類器モデルに入力するステップと、
前記分類結果が前記所定のセットの文書カテゴリ中のものであると判断するステップと、
による、請求項13に記載の方法。 - 前記方法は、前記電子文書に対応する前記画像から関心対象領域を取得するようさらに構成され、前記第1の関連を取得するステップは、前記メタデータカテゴリ識別モデルを前記関心対象領域に適用するステップを含む、請求項13に記載の方法。
- 前記関心対象領域は、前記画像の一部を含む、請求項15に記載の方法。
- 前記電子文書に対応する前記画像から前記関心対象領域を取得するステップは、
前記画像に対する前記関心対象領域の位置およびサイズを決定するステップと、
前記画像から前記関心対象領域を取得するために、前記関心対象領域の前記位置およびサイズに従って前記画像を切り取り、さらに/またはその形を変更し、さらに/または整列し直すステップと、
を含む、請求項15に記載の方法。 - 前記電子文書に対応する前記画像から前記関心対象領域を取得するステップは、
前記画像に対する前記関心対象領域の位置およびサイズを決定するステップと、
切り取られた画像を取得するために、前記関心対象領域の前記位置およびサイズに従って前記画像を切り取るステップと、
前記切り取られた画像を、前記関心対象領域を取得するために前処理するステップと、
を含む、請求項15に記載の方法。 - 前記電子文書と、前記データベースの前記メタデータデータ要素の前記サブセットに対応する前記メタデータカテゴリのセットとの前記第2の関連群を取得するステップは、
前記電子文書を表現するために、前記電子文書に含まれるテキストのnグラムのセットを抽出するステップと、
前記データベースの前記メタデータデータ要素のうち前記nグラムのセットと一致した前記サブセットを識別して前記第2の関連群を取得するために、前記nグラムのセットと前記データベースの前記メタデータデータ要素との間のファジーマッチングを実行するステップと、
を含む、請求項13に記載の方法。 - ファジーマッチングを実行するステップは、
前記電子文書の前記nグラムのセットと最も一致したメタデータデータ要素の集合を取得して対応する関連群を取得するために、前記メタデータフィールドそれぞれの中で所定数の上位一致メタデータデータ要素を識別するべく、前記nグラムのセットと、前記データベースの前記メタデータデータ要素との間のファジーマッチングを実行するステップと、
前記nグラムのセットと最も一致したメタデータデータ要素の前記集合の対応する関連群の、重み付けされた比較によって、前記メタデータデータ要素の前記サブセットを識別するステップと、
を含む、請求項19に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/810,885 US11106716B2 (en) | 2017-11-13 | 2017-11-13 | Automatic hierarchical classification and metadata identification of document using machine learning and fuzzy matching |
US15/810,885 | 2017-11-13 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019114239A true JP2019114239A (ja) | 2019-07-11 |
JP6629942B2 JP6629942B2 (ja) | 2020-01-15 |
Family
ID=63833819
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018197523A Active JP6629942B2 (ja) | 2017-11-13 | 2018-10-19 | 機械学習およびファジーマッチングを使用した階層型の自動的な文書の分類およびメタデータ識別 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11106716B2 (ja) |
EP (1) | EP3483784A3 (ja) |
JP (1) | JP6629942B2 (ja) |
CN (1) | CN109783635A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021064260A (ja) * | 2019-10-16 | 2021-04-22 | トッパン・フォームズ株式会社 | 学習装置、学習方法、及びプログラム |
WO2021107447A1 (ko) * | 2019-11-25 | 2021-06-03 | 주식회사 데이터마케팅코리아 | 마케팅 지식 그래프를 위한 문서 분류 처리 방법 및 그 장치 |
KR102363769B1 (ko) * | 2020-09-16 | 2022-02-16 | 광운대학교 산학협력단 | 전자화 문서를 단계별로 분류하여 제공하기 위한 시스템 및 방법, 동 방법을 컴퓨터에서 실행하기 위한 컴퓨터 프로그램이 기록된, 컴퓨터 판독 가능한 기록 매체 |
KR102554452B1 (ko) * | 2022-06-21 | 2023-07-11 | 한국과학기술정보연구원 | 메타데이터 추출장치 및 메타데이터 추출 방법 |
KR102571815B1 (ko) * | 2022-11-14 | 2023-08-28 | 주식회사 플랜티넷 | 객체 군집화 및 객체 선택 기반 문서 분류 방법 및 장치 |
Families Citing this family (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11270224B2 (en) * | 2018-03-30 | 2022-03-08 | Konica Minolta Business Solutions U.S.A., Inc. | Automatic generation of training data for supervised machine learning |
US10942963B1 (en) * | 2018-04-05 | 2021-03-09 | Intuit Inc. | Method and system for generating topic names for groups of terms |
JP7140591B2 (ja) * | 2018-07-26 | 2022-09-21 | キヤノン株式会社 | 画像形成装置及びその制御方法、並びにプログラム |
US11074354B2 (en) * | 2018-09-19 | 2021-07-27 | International Business Machines Corporation | Segmenting, redacting, and transporting secure documents in a mixed security environment |
US10769496B2 (en) * | 2018-10-25 | 2020-09-08 | Adobe Inc. | Logo detection |
US10949664B2 (en) * | 2019-04-08 | 2021-03-16 | Kyocera Document Solutions Inc. | Optical character recognition training data generation for neural networks by parsing page description language jobs |
CN110309306B (zh) * | 2019-06-19 | 2022-08-26 | 淮阴工学院 | 一种基于wsd层级记忆网络的文档建模分类方法 |
CN110532448B (zh) * | 2019-07-04 | 2023-04-18 | 平安科技(深圳)有限公司 | 基于神经网络的文档分类方法、装置、设备及存储介质 |
CN110704687B (zh) * | 2019-09-02 | 2023-08-11 | 平安科技(深圳)有限公司 | 文字布局方法、装置及计算机可读存储介质 |
CN111026916B (zh) * | 2019-12-10 | 2023-07-04 | 北京百度网讯科技有限公司 | 文本描述的转换方法、装置、电子设备及存储介质 |
US11361565B2 (en) * | 2019-12-12 | 2022-06-14 | The Boeing Company | Natural language processing (NLP) pipeline for automated attribute extraction |
CN111143643B (zh) * | 2019-12-23 | 2023-11-03 | 中汇信息技术(上海)有限公司 | 元素识别方法、装置、可读存储介质和电子设备 |
WO2021137689A1 (en) * | 2019-12-31 | 2021-07-08 | Mimos Berhad | System for library materials classification and a method thereof |
US11455812B2 (en) * | 2020-03-13 | 2022-09-27 | International Business Machines Corporation | Extracting non-textual data from documents via machine learning |
CN111492370B (zh) * | 2020-03-19 | 2023-05-26 | 香港应用科技研究院有限公司 | 用于识别结构化布局的文本图像的装置和方法 |
CN111506727B (zh) * | 2020-04-16 | 2023-10-03 | 腾讯科技(深圳)有限公司 | 文本内容类别获取方法、装置、计算机设备和存储介质 |
US11651024B2 (en) * | 2020-05-13 | 2023-05-16 | The Boeing Company | Automated part-information gathering and tracking |
CN111597804B (zh) * | 2020-05-15 | 2023-03-10 | 腾讯科技(深圳)有限公司 | 一种实体识别模型训练的方法以及相关装置 |
CN111709327B (zh) * | 2020-05-29 | 2023-06-27 | 中国人民财产保险股份有限公司 | 基于ocr识别的模糊匹配方法和装置 |
BR112023000470A2 (pt) | 2020-07-24 | 2023-03-28 | Bristol Myers Squibb Co | Classificação de documentos de farmacovigilância usando análise de imagem |
US20220100964A1 (en) * | 2020-09-25 | 2022-03-31 | UiPath, Inc. | Deep learning based document splitter |
US11830268B2 (en) * | 2020-11-16 | 2023-11-28 | Kyocera Document Solutions Inc. | Hierarchal document classification system and method |
KR102469779B1 (ko) * | 2020-11-25 | 2022-11-21 | 신현준 | 문서 분류 방법 및 이를 위한 문서 관리 장치 |
US11822599B2 (en) * | 2020-12-16 | 2023-11-21 | International Business Machines Corporation | Visualization resonance for collaborative discourse |
US11704352B2 (en) | 2021-05-03 | 2023-07-18 | Bank Of America Corporation | Automated categorization and assembly of low-quality images into electronic documents |
US11798258B2 (en) | 2021-05-03 | 2023-10-24 | Bank Of America Corporation | Automated categorization and assembly of low-quality images into electronic documents |
US11810381B2 (en) | 2021-06-10 | 2023-11-07 | International Business Machines Corporation | Automatic rule prediction and generation for document classification and validation |
US11281858B1 (en) * | 2021-07-13 | 2022-03-22 | Exceed AI Ltd | Systems and methods for data classification |
US11881041B2 (en) | 2021-09-02 | 2024-01-23 | Bank Of America Corporation | Automated categorization and processing of document images of varying degrees of quality |
US20230101817A1 (en) * | 2021-09-28 | 2023-03-30 | Nationstar Mortgage LLC, d/b/a/ Mr. Cooper | Systems and methods for machine learning-based data extraction |
CN114760369B (zh) * | 2022-04-14 | 2023-12-19 | 曙光网络科技有限公司 | 一种协议元数据提取方法、装置、设备及存储介质 |
CN114969001B (zh) * | 2022-05-24 | 2024-05-10 | 浪潮卓数大数据产业发展有限公司 | 一种数据库元数据字段匹配方法、装置、设备及介质 |
US11615236B1 (en) * | 2022-07-19 | 2023-03-28 | Intuit Inc. | Machine learning model based electronic document completion |
CN117493641B (zh) * | 2024-01-02 | 2024-03-22 | 中国电子科技集团公司第二十八研究所 | 一种基于语义元数据的二次模糊搜索方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000112993A (ja) * | 1998-09-30 | 2000-04-21 | Ricoh Co Ltd | 文書分類方法、記憶媒体、文書分類装置及び文書分類システム |
JP2008176625A (ja) * | 2007-01-19 | 2008-07-31 | Seiko Epson Corp | 文字認識結果の管理装置およびその方法並びにコンピュータプログラム |
JP2012517637A (ja) * | 2009-02-10 | 2012-08-02 | コファックス, インコーポレイテッド | 文書の有効性を決定するためのシステム、方法およびコンピュータプログラム製品 |
JP2015503813A (ja) * | 2012-01-12 | 2015-02-02 | コファックス, インコーポレイテッド | モバイル画像キャプチャおよび処理のためのシステムならびに方法 |
JP2016071412A (ja) * | 2014-09-26 | 2016-05-09 | キヤノン株式会社 | 画像分類装置、画像分類システム、画像分類方法、及びプログラム |
US20170278015A1 (en) * | 2016-03-24 | 2017-09-28 | Accenture Global Solutions Limited | Self-learning log classification system |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU9228298A (en) * | 1997-09-12 | 1999-04-05 | Infoseek Corporation | Methods for iteratively and interactively performing collection selection in full text searches |
US8145677B2 (en) * | 2007-03-27 | 2012-03-27 | Faleh Jassem Al-Shameri | Automated generation of metadata for mining image and text data |
US9767354B2 (en) * | 2009-02-10 | 2017-09-19 | Kofax, Inc. | Global geographic information retrieval, validation, and normalization |
US8938257B2 (en) * | 2011-08-19 | 2015-01-20 | Qualcomm, Incorporated | Logo detection for indoor positioning |
WO2013173626A2 (en) * | 2012-05-18 | 2013-11-21 | Clipfile Corporation | Using content |
US9524274B2 (en) | 2013-06-06 | 2016-12-20 | Xerox Corporation | Methods and systems for generation of document structures based on sequential constraints |
US9231898B2 (en) | 2013-02-08 | 2016-01-05 | Machine Zone, Inc. | Systems and methods for multi-user multi-lingual communications |
US10140511B2 (en) * | 2013-03-13 | 2018-11-27 | Kofax, Inc. | Building classification and extraction models based on electronic forms |
US9645999B1 (en) * | 2016-08-02 | 2017-05-09 | Quid, Inc. | Adjustment of document relationship graphs |
-
2017
- 2017-11-13 US US15/810,885 patent/US11106716B2/en active Active
-
2018
- 2018-10-10 EP EP18199681.0A patent/EP3483784A3/en not_active Ceased
- 2018-10-19 JP JP2018197523A patent/JP6629942B2/ja active Active
- 2018-10-19 CN CN201811219473.5A patent/CN109783635A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000112993A (ja) * | 1998-09-30 | 2000-04-21 | Ricoh Co Ltd | 文書分類方法、記憶媒体、文書分類装置及び文書分類システム |
JP2008176625A (ja) * | 2007-01-19 | 2008-07-31 | Seiko Epson Corp | 文字認識結果の管理装置およびその方法並びにコンピュータプログラム |
JP2012517637A (ja) * | 2009-02-10 | 2012-08-02 | コファックス, インコーポレイテッド | 文書の有効性を決定するためのシステム、方法およびコンピュータプログラム製品 |
JP2015503813A (ja) * | 2012-01-12 | 2015-02-02 | コファックス, インコーポレイテッド | モバイル画像キャプチャおよび処理のためのシステムならびに方法 |
JP2016071412A (ja) * | 2014-09-26 | 2016-05-09 | キヤノン株式会社 | 画像分類装置、画像分類システム、画像分類方法、及びプログラム |
US20170278015A1 (en) * | 2016-03-24 | 2017-09-28 | Accenture Global Solutions Limited | Self-learning log classification system |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021064260A (ja) * | 2019-10-16 | 2021-04-22 | トッパン・フォームズ株式会社 | 学習装置、学習方法、及びプログラム |
JP7365845B2 (ja) | 2019-10-16 | 2023-10-20 | Toppanエッジ株式会社 | 学習装置、学習方法、及びプログラム |
WO2021107447A1 (ko) * | 2019-11-25 | 2021-06-03 | 주식회사 데이터마케팅코리아 | 마케팅 지식 그래프를 위한 문서 분류 처리 방법 및 그 장치 |
KR102363769B1 (ko) * | 2020-09-16 | 2022-02-16 | 광운대학교 산학협력단 | 전자화 문서를 단계별로 분류하여 제공하기 위한 시스템 및 방법, 동 방법을 컴퓨터에서 실행하기 위한 컴퓨터 프로그램이 기록된, 컴퓨터 판독 가능한 기록 매체 |
KR102554452B1 (ko) * | 2022-06-21 | 2023-07-11 | 한국과학기술정보연구원 | 메타데이터 추출장치 및 메타데이터 추출 방법 |
KR102571815B1 (ko) * | 2022-11-14 | 2023-08-28 | 주식회사 플랜티넷 | 객체 군집화 및 객체 선택 기반 문서 분류 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
CN109783635A (zh) | 2019-05-21 |
JP6629942B2 (ja) | 2020-01-15 |
US11106716B2 (en) | 2021-08-31 |
EP3483784A3 (en) | 2019-09-11 |
EP3483784A2 (en) | 2019-05-15 |
US20190147103A1 (en) | 2019-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6629942B2 (ja) | 機械学習およびファジーマッチングを使用した階層型の自動的な文書の分類およびメタデータ識別 | |
US10936970B2 (en) | Machine learning document processing | |
US20200081899A1 (en) | Automated database schema matching | |
US20150331936A1 (en) | Method and system for extracting a product and classifying text-based electronic documents | |
US10592704B2 (en) | System and method for electronic automated printed circuit design | |
Singh et al. | A study of moment based features on handwritten digit recognition | |
JP2011248596A (ja) | 画像入り文書の検索システム及び検索方法 | |
CN114612921B (zh) | 表单识别方法、装置、电子设备和计算机可读介质 | |
Pengcheng et al. | Fast Chinese calligraphic character recognition with large-scale data | |
CN107943881B (zh) | 题库生成方法、服务器及计算机可读存储介质 | |
US20230351115A1 (en) | Document image processing including tokenization of non-textual semantic elements | |
US12001966B2 (en) | Generation of digital standards using machine-learning model | |
US11797774B2 (en) | Extraction of genealogy data from obituaries | |
KR102502422B1 (ko) | 전자 문서 내 인공지능 기반 정보 추출 방법 및 장치 | |
CN113887422B (zh) | 基于人工智能的表格图片内容提取方法、装置及设备 | |
Agin et al. | An approach to the segmentation of multi-page document flow using binary classification | |
Diem et al. | Semi-automated document image clustering and retrieval | |
US20220044048A1 (en) | System and method to recognise characters from an image | |
Bashir et al. | Script identification: a review | |
JP7453731B2 (ja) | 半構造化ドキュメントから情報を取り出す方法及びシステム | |
CN111753861A (zh) | 主动学习自动图像标注***及方法 | |
US20240127577A1 (en) | Generating templates using structure-based matching | |
US12014561B2 (en) | Image reading systems, methods and storage medium for performing geometric extraction | |
Tavoli et al. | A Novel Word-Spotting Method for Handwritten Documents Using an Optimization-Based Classifier | |
KR20220142901A (ko) | 반정형 문서로부터 정보를 추출하는 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181019 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20190312 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191126 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6629942 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |