JP6621514B1 - 要約作成装置、要約作成方法、及びプログラム - Google Patents

要約作成装置、要約作成方法、及びプログラム Download PDF

Info

Publication number
JP6621514B1
JP6621514B1 JP2018202347A JP2018202347A JP6621514B1 JP 6621514 B1 JP6621514 B1 JP 6621514B1 JP 2018202347 A JP2018202347 A JP 2018202347A JP 2018202347 A JP2018202347 A JP 2018202347A JP 6621514 B1 JP6621514 B1 JP 6621514B1
Authority
JP
Japan
Prior art keywords
appearance
document
degree
algorithm
elements
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018202347A
Other languages
English (en)
Other versions
JP2020067987A (ja
Inventor
ヴィジャイ ドルタニ
ヴィジャイ ドルタニ
ラスグイド ニオ
ラスグイド ニオ
容朱 鄭
容朱 鄭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rakuten Inc filed Critical Rakuten Inc
Priority to JP2018202347A priority Critical patent/JP6621514B1/ja
Priority to US16/655,185 priority patent/US11061950B2/en
Application granted granted Critical
Publication of JP6621514B1 publication Critical patent/JP6621514B1/ja
Publication of JP2020067987A publication Critical patent/JP2020067987A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/3332Query translation
    • G06F16/3334Selection or weighting of terms from queries, including natural language queries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/34Browsing; Visualisation therefor
    • G06F16/345Summarisation for human users
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • G06F40/216Parsing using statistical methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/253Grammatical analysis; Style critique

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】要約の精度を高める。【解決手段】要約作成装置(10)の取得手段(101)は、文書から1又は複数の要素を抽出し、抽出された要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、文書から複数の要素及びその出現度を取得する。正規化手段(102)は、アルゴリズムごとに、取得手段(101)により取得された出現度を正規化する。選択手段(104)は、正規化手段(102)により正規化された出現度に基づいて、文書の中から少なくとも1つの文を選択する。作成手段(105)は、選択手段(104)により選択された文に基づいて、文書の要約を作成する。【選択図】図3

Description

本発明は、要約作成装置、要約作成方法、及びプログラムに関する。
従来、ウェブページ等の文書の要約を作成する技術が知られている。例えば、非特許文献1には、自然言語処理で用いられる複数のアルゴリズムとして、BG(Bi−Grams)、NE(Named Entities)、SD(Syntactic Dependencies)、及びSF(Semantic Frames)の4つを用いて、文書を特徴付ける要素を抽出し、その出現頻度を取得し、当該取得された出現頻度に基づいて文書に含まれる文を選択し、要約を作成する技術が記載されている。
http://www.aclweb.org/anthology/P15-2138
しかしながら、アルゴリズムによって抽出される要素は異なるため、その出現頻度の分布にはアルゴリズムごとの偏りがある。そのため、上記技術のように、複数のアルゴリズムを利用して要素を抽出し、その出現頻度に基づいて文書に含まれる文を選択すると、出現頻度の高い要素を抽出する傾向のあるアルゴリズムにより抽出された要素が優先的に採択され、結果として、複数のアルゴリズムを使用しているにもかかわらず、特定のアルゴリズムのみを用いた結果と差異がなくなってしまう。
アルゴリズムには、解析しようとする文書の種類によって、適不適が存在し、万能のアルゴリズムは知られていない。そのため、要約を作成しようとする文書の種類によって適したアルゴリズムを柔軟に追加変更することが望ましいが、特定のアルゴリズムにより抽出された要素が優先されてしまうと、アルゴリズムを追加変更することによっても結果がほとんど変わらず、要約の精度を十分に向上させることができない。
上記非特許文献1では、BGにより抽出された要素の頻度と、それ以外のアルゴリズムにより抽出された要素の頻度との間に異なる重み付けをすることが示唆されているが、その重みをどのように設定すれば要約の精度を向上させることができるのかまったく不明であって、様々な文書に対して適した重みを発見的に人手で設定することは非現実的であり、事実上不可能である。
本発明は上記課題に鑑みてなされたものであって、その目的は、要約の精度を高めることが可能な要約作成装置、要約作成方法、及びプログラムを提供することである。
上記課題を解決するために、本発明に係る要約作成装置は、文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段と、前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段と、前記正規化手段により正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段と、前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段と、を含むことを特徴とする。
本発明に係る要約作成方法は、文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得ステップと、前記アルゴリズムごとに、前記取得ステップにより取得された出現度を正規化する正規化ステップと、前記正規化ステップにより正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択ステップと、前記選択ステップにより選択された文に基づいて、前記文書の要約を作成する作成ステップと、を含むことを特徴とする。
本発明に係るプログラムは、文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段、前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段、前記正規化手段により正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段、前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段、としてコンピュータを機能させる。
また、本発明の一態様では、前記要約作成装置は、前記正規化手段により正規化された出現度に基づいて、前記要素をフィルタリングするフィルタリング手段を更に含み、前記選択手段は、前記フィルタリング手段によりフィルタリングされた要素の前記正規化された出現度を用いて、所定の選択条件に基づいて、前記文書の中から少なくとも1つの文を選択する、ことを特徴とする。
また、本発明の一態様では、前記所定の選択条件は、前記選択手段により選択される文に含まれる前記要素の前記正規化された出現度の総和が最大となり、かつ、当該選択される文が所定の分量未満になることである、ことを特徴とする。
また、本発明の一態様では、前記選択手段は、整数線形計画法を用いて前記文書の中から少なくとも1つの文を選択する、ことを特徴とする。
また、本発明の一態様では、前記フィルタリング手段は、前記正規化された出現度の分布に基づいてフィルタリング条件を設定し、当該設定されたフィルタリング条件に基づいてフィルタリングを実行する、ことを特徴とする。
また、本発明の一態様では、前記フィルタリング手段は、抽出に用いられたアルゴリズムに依らず、前記正規化された出現度が上位となる所定割合の要素が抽出されるように、フィルタリングを実行する、ことを特徴とする。
また、本発明の一態様では、前記複数のアルゴリズムには、Tf−Idf(Term frequency−Inverse document frequency)法と、予め定められた属性の属性値を前記要素として抽出する属性抽出法と、の少なくとも一方が含まれる、ことを特徴とする。
また、本発明の一態様では、前記作成手段は、前記選択手段により選択された文を、当該文が前記文書中で出現する順番に従って並べることによって、前記要約を作成する、ことを特徴とする。
また、本発明の一態様では、前記文書は、商品、施設、又はサービスの説明文であり、前記複数のアルゴリズムには、前記商品、前記施設、又は前記サービスの属性の属性値を前記要素として抽出する属性抽出法を含み、前記正規化手段は、前記属性抽出法により取得された出現度の分布が、他のアルゴリズムにより取得された正規化後の出現度の分布に近づくように、正規化を実行する、ことを特徴とする。
本発明によれば、要約の精度を高めることが可能になる。
要約作成システムの全体構成を示す図である。 サーバの物理的構成を示す図である。 要約作成システムで実現される機能の一例を示す機能ブロック図である。 各機能により実行される処理の説明図である。 商品データベースのデータ格納例を示す図である。 属性データベースのデータ格納例を示す図である。 取得部により取得された要素と出現度の関係を示す図である。 正規化の前後における各アルゴリズムの出現度の分布の変化を示す図である。 作成部によって作成された要約の一例を示す図である。 作成部によって作成された要約の一例を示す図である。 要約作成システムで実行される処理の一例を示すフロー図である。
[1.要約作成システムの全体構成]
以下、本発明に関わる要約作成システムの実施形態の例を説明する。図1は、要約作成システムの全体構成を示す図である。図1に示すように、要約作成システム1は、サーバ10、店舗端末20、及びユーザ端末30を含み、これらはインターネット等のネットワークNに接続される。なお、図1では、サーバ10、店舗端末20、及びユーザ端末30の各々を1台ずつ示しているが、これらは複数台あってもよい。
図2は、サーバ10の物理的構成を示す図である。図2に示すように、サーバ10は、サーバコンピュータであり、例えば、CPU11、メモリ12、及び通信インタフェース13を含み、これらはバス14で接続されている。サーバ10は、本発明に係る要約作成装置の一例である。CPU11は、メモリ12に記憶されたプログラムやデータに従って処理を実行する。なお、図2では、CPU11を1つとしているが、サーバ10は、少なくとも1つのプロセッサを含めばよく、2つ以上のCPU11を含んでもよい。メモリ12は、主記憶部及び補助記憶部を含む。例えば、主記憶部はRAMなどの揮発性メモリであり、補助記憶部は、ハードディスクやフラッシュメモリなどの不揮発性メモリである。通信インタフェース13は、有線通信又は無線通信用の通信インタフェースであり、例えば、ネットワークNを介してデータ通信を行う。
店舗端末20は、店舗の担当者が操作するコンピュータであり、ユーザ端末30は、ユーザが操作するコンピュータである。店舗端末20及びユーザ端末30の各々は、例えば、パーソナルコンピュータ、携帯情報端末(タブレット型コンピュータを含む)、又は携帯電話機(スマートフォンを含む)等である。店舗端末20及びユーザ端末30の各々は、CPU、メモリ、通信インタフェース、タッチパネルやマウス等の入力デバイス、及び液晶モニタ又は有機ELモニタ等を含む。
なお、メモリ12に記憶されるものとして説明するプログラム及びデータは、ネットワークNを介してサーバ10に供給されるようにしてもよい。また、サーバ10のハードウェア構成は、上記の例に限られず、種々のハードウェアを適用可能である。例えば、サーバ10は、コンピュータ読み取り可能な情報記憶媒体を読み取る読取装置(例えば、光ディスクドライブやメモリカードスロット)や外部機器と直接的に接続するための入出力インタフェース(例えば、USB端子)を含んでもよい。情報記憶媒体に記憶されたプログラムやデータが読取装置又は入出力インタフェースを介して、サーバ10に供給されるようにしてもよい。
[2.要約作成システムの概要]
要約作成システム1は、自然言語処理を行う、互いに異なる複数のアルゴリズムを使用して、文書の要約を作成する。要約作成システム1で用いられるアルゴリズムは、文書を解析して、当該文書から1又は複数の要素を抽出し、抽出された要素の各々の出現度を取得するものである。このようなアルゴリズムは、種々のものが知られており、文書の性質に応じて任意の既知の又は新規なアルゴリズムを使用してよい。本実施形態では、BG、NE、SD、SF、Tf−Idf(Term frequency−Inverse document frequency)、及び属性抽出法の6つを使用する場合を例に挙げて説明する。これらのアルゴリズムは、教師データに基づく学習を必要としない非学習モデル(教師なしモデル)であり、言語的特徴に基づいて文書内の語を解析する。これらのアルゴリズムの概要は後述する。
文書は、要約の作成対象となる文字の集まりであり、例えば、ウェブページ、判決文、記事、論説、雑誌、小説、又は特許公報といった任意の種類の文書であってよい。文書は、コンピュータによる解析を行う都合上、電子データとして与えられるが、その電子データは任意のファイル形式であってよく、例えば、ドキュメントファイル、HTMLファイル、XMLファイル、リッチテキストファイル、又はテキストファイルである。文書は、少なくとも1つの文を含み、文以外にも、画像、動画、又は表等が含まれていてもよい。
文は、1つの完結した意味を表す言語表現の単位であり、少なくとも1つの語を含む。語は、文字列又は単語である。日本語等であれば、文は、句点によって区切られる部分であり、例えば、文書の最初の語から最初の句点までの部分、又は、ある句点の次の語から次の句点までの部分である。英語等であれば、文は、ピリオドによって区切られる部分であり、例えば、文書の最初の語から最初のピリオドまでの部分、又は、あるピリオドの次の語から次のピリオドまでの部分である。
要約は、文書の論旨又は要点が簡潔に表されたものであり、文書よりも分量(文字数又はワード数)が少ない。要約は、少なくとも1つの文を含み、文以外にも、文書中の画像、動画、又は表等が含まれていてもよい。要約は、文書に含まれる文を改変せずに組み合わせたものであってもよいし、文書に含まれる文を改変したうえで組み合わせたものであってもよいが、本実施形態では、非学習モデルが利用されるので、文書内の文が改変されずに要約が作成される場合を説明する。
本実施形態では、文書の一例として、店舗がオンライン上で販売する商品のウェブページにおける説明文を説明する。ウェブページは、任意のレイアウトで作成されてよく、例えば、商品のタイトル、説明文、画像、動画、又は表等を含む。ウェブページは、予め定められたレイアウトで作成されてもよいし、特にレイアウトが定められていなくてもよい。ウェブページは、ユーザ端末30のブラウザで表示されてもよいし、ユーザ端末30にインストールされたアプリケーション上で表示されてもよい。
店舗の担当者は、店舗端末20を操作して自由にウェブページを作成することができ、任意のテキスト、画像、動画、又は表をウェブページに埋め込むことができる。このため、店舗によっては、長い説明文を入力することがあり、ウェブページの可読性に乏しいことがある。このため、本実施形態の要約作成システム1は、ウェブページにおける説明文から、商品の説明として重要な部分だけを含む可読性の高い要約を作成し、ユーザに提供する。
既に説明したように、アルゴリズムを用いて抽出される要素は、アルゴリズムごとに異なり、また、アルゴリズムには、解析しようとする文書の種類によって、適不適が存在しているから、特定のアルゴリズムによる解析は、特定の観点に対する偏りがあると考えられる。このため、精度の高い要約、即ち、様々な観者による様々な観点から見て、総合的に文書の特徴を出来る限り多く含む要約を作成するためには、単一のアルゴリズムを使用するのではなく、複数のアルゴリズムを複合的に利用して文書を解析することが望ましい。
この点、従来技術で説明したように、複数のアルゴリズムを複合的に利用したとしても、特定のアルゴリズムにより抽出された要素が優先的に採択されてしまうと、結局は、特定のアルゴリズムのみを用いた結果と差異がなく、要約の精度を十分に向上させることができない。例えば、本実施形態のような商品のウェブページであれば、店舗の担当者は、消費者に商品を説明するため、商品の性質を説明文に優先的に記載すると考えられる。このため、かかる説明文には、商品の属性の名前や属性値がそれ以外の語や表現に比べ、高い頻度で含まれることになる。このため、先述した6つのアルゴリズムのうち、属性抽出法により抽出された要素の出現度の分布は、他のアルゴリズムにより抽出された要素の出現度の分布よりも全体的に高い値に偏ることになる。
そこで、本実施形態の要約作成システム1は、アルゴリズムごとに出現度を正規化してアルゴリズム間の出現度の分布の差を調整することによって、ある特定のアルゴリズムだけが採用されてしまうといったことを防止し、要約の精度を高めるようにしている。以降、要約作成システム1の詳細を説明する。
[3.要約作成システムで実現される機能]
図3は、要約作成システム1で実現される機能の一例を示す機能ブロック図であり、図4は、図3に示す各機能により実行される処理の説明図である。図3に示すように、要約作成システム1では、データ記憶部100、取得部101、正規化部102、フィルタリング部103、選択部104、及び作成部105が実現される。本実施形態では、これら各機能がサーバ10により実現される場合を説明する。
[3−1.データ記憶部]
データ記憶部100は、メモリ12を主として実現される。データ記憶部100は、要約を作成するために必要なデータを記憶する。ここでは、データ記憶部100が記憶するデータの一例として、商品データベースDB1と、属性データベースDB2と、について説明する。
図5は、商品データベースDB1のデータ格納例を示す図である。図5に示すように、商品データベースDB1は、商品に関する各種情報が格納されるデータベースである。ウェブページは、商品データベースDB1に格納された情報に基づいて表示される。商品データベースDB1には、商品を一意に識別する商品IDに関連付けて、説明文、画像、口コミ、及び作成部105によって作成された要約等の情報が格納される。なお、図5では、説明文等を英語で記載しているが、日本語や中国語といった任意の言語であってよい。
商品データベースDB1に格納された説明文は、作成部105による要約の作成対象の文書である。商品データベースDB1に格納された全ての説明文が要約の作成対象となってもよいし、所定の分量(所定の文字数又は所定のワード数。例えば、100文字又は50単語。)以上の説明文だけが要約の作成対象となってもよい。先述したように、説明文は、店舗の担当者が店舗端末20から任意の文章を入力可能である。説明文の分量(文字数)は、上限値が設定されていてもよいが、特に分量に制限がなくてもよい。図5では、説明文をテキストのみで示しているが、所定のマークアップ言語を利用して説明文が作成されてもよく、この場合には、説明文にテーブルタグ等が含まれてもよい。
画像は、カメラで撮影された商品の画像であり、店舗端末20からアップロードされる。口コミは、商品を購入したユーザのユーザ端末30からアップロードされた当該商品の感想であり、任意の文章が入力される。商品によっては、多数の口コミが存在するので、後述する変形例のように、口コミが要約の作成対象となってもよい。
なお、商品データベースDB1に格納される情報は、上記の例に限られない。商品データベースDB1には、商品に関する任意の情報が格納されるようにすればよく、例えば、商品を取り扱う店舗を一意に識別する店舗ID、商品のタイトル、ジャンル、カテゴリ、動画、又は在庫数といった種々の情報が格納されてもよい。
図6は、属性データベースDB2のデータ格納例を示す図である。図6に示すように、属性データベースDB2は、商品の属性と属性値の組み合わせが格納されるデータベースである。属性データベースDB2に格納された情報は、属性抽出法で利用される。属性データベースDB2は、要約作成システム1の管理者や店舗の担当者によって作成されてもよいし、説明文中に含まれる単語が抽出されることによって作成されてもよい。なお、図6では、属性と属性値を英語で記載しているが、日本語や中国語といった任意の言語であってよい。
属性は、商品の分類であり、例えば、色、サイズ、ブランド、重量、価格帯、又は産地等である。別の言い方をすれば、属性は、商品の特徴、種類、性質、ジャンル、又はカテゴリである。商品の詳細は、ウェブページに表示される商品の説明文に記載されるため、属性は、説明文に含まれる単語の分類ということもできる。属性データベースDB2には、属性の名前(項目名)を示す文字列が格納される。なお、属性の名前には、表記ゆれが存在することがあるので、同じ意味を表す複数の名前が1つの属性としてまとめられていてもよい。
属性値は、商品の具体的な特徴を示す情報である。属性値は、文字列、数値、又はこれらの組み合わせで示される。属性には、複数の属性値が関連付けられており、属性と属性値は1対多の関係にある。例えば、色という属性であれば、属性値は、赤、青、緑、又は黒といった色の名前となる。また例えば、サイズという属性であれば、属性値は、S、M、L、又はXLといったサイズの名前となる。また例えば、ブランドという属性であれば、属性値はブランド名である。
[3−2.取得部]
取得部101は、CPU11を主として実現される。取得部101は、商品の説明文から1又は複数の要素を抽出し、抽出された要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、文書から複数の要素及びその出現度を取得する。取得部101は、アルゴリズムごとに、商品の説明文の中から要素を抽出する処理と、当該要素の出現度を計算する処理と、を実行する。
取得部101は、任意の組み合わせのアルゴリズムを利用してよく、例えば、Tf−Idf法と、予め定められた属性の属性値を要素として抽出する属性抽出法と、の少なくとも一方が含まれる。Tf−Idf法又は属性抽出法の何れか一方だけが利用されてもよいが、本願の発明者達は、これらのアルゴリズムと商品の説明文との相性がよいことを独自に発見したため、本実施形態では、これらの両方とも利用するものとする。また、本実施形態では、商品の説明文が文書に相当するので、複数のアルゴリズムには、商品の属性の属性値を要素として抽出する属性抽出法が含まれる。
本実施形態で要素とは、要約を作成しようとする文書からアルゴリズムによって抽出される文字又は語、あるいはそれらの組み合わせである。多くの場合、要素は、文書中に含まれる文字や語をひとまとまりとして抜き出したものであるが、SFのように、文書中に含まれない語を要素として抽出する場合もある。通常、要素は1〜数文字又は1〜数語程度の言語的クラスタである。
アルゴリズムにおいて、要素は、出現度の計算対象である。要素は、自然言語処理ではコンセプトと呼ばれることもある。要素は、それ自体意味のある語によって構成されることもあるし、それ自体では特に意味がない文字によって構成されることもあり、使用するアルゴリズムや解析対象となる文章の言語によっても異なる。例えば、代表的なアルゴリズムであるBGにおいて、解析対象となる文章が英語である場合には、要素は隣接する2つの単語であり、解析対照となる文書が日本語である場合には、要素は隣接する2文字である。要素は、複数のアルゴリズムで共通であってもよいが、本実施形態では、アルゴリズムごとに別々に要素が抽出される。このため、あるアルゴリズムが抽出した要素と同じ要素は、他のアルゴリズムでは抽出されないこともあるし、偶然抽出されることもある。本実施形態では、要素の出現度は、当該要素を抽出したアルゴリズムによって計算され、当該要素を抽出しなかった他のアルゴリズムが計算するわけではない。
また、本実施形態で「出現度」とは、特定の文書からある要素が抽出される回数(これを「出現頻度」と呼ぶ。)に基づいて求められる値であり、出現頻度が高いほど出現度も高く、出現頻度が低いほど出現度も低くなるように定められる。そして、出現度には、出現頻度が含まれる。本実施形態で使用される6つのアルゴリズムのうち、BG、NE、SD、SF及び属性抽出法では出現度として出現頻度を用い、Tf−Idfでは出現度としてTf−Idfスコアを用いる。
一般に、特定の文書中に多く出現する要素は、その文書を特徴付ける重要な要素であると考えられるため、出現度がより高い要素は、より重要であると考えられる。即ち、出現度は、文書の中での要素の重要度の推定値であると考えられる。自然言語処理では、出現度は特徴量又はスコアと呼ばれることもある。多くのアルゴリズムにおいて、出現度は解析対象となる単一の文書について計算されるが、Tf−Idfのように、出現度を計算するに当たって、単一の文書における要素の出現頻度だけでなく、複数の文書(文書全体)にわたる要素の出現の有無を考慮するものも存在する。
取得部101は、商品データベースDB1に格納された商品の説明文を取得し、アルゴリズムごとに、当該説明文に含まれる要素の出現度を取得する。以降の説明では、要素にiの符号を付し、出現度にwn,iの符号を付して説明する。
要素i及び出現度wn,iのiは、自然数であり、要素を一意に識別する数値である。ここでは、iの初期値を1とし、アルゴリズムが要素を抽出するたびにiの値がインクリメントされる。なお、本実施形態では、後述するフィルタリングの後に要素を示す数値が採番し直されるので、iは、フィルタリング前の要素を示す数値である。
出現度wn,iのnは、自然数であり、アルゴリズムを一意に識別する数値である。本実施形態では、BG、NE、SD、SF、Tf−Idf、及び属性抽出法の6つのアルゴリズムが利用されるので、ここでは、nの値は、これらの順番に1〜6の各々の数値が付与されるものとする。出現度wn,iは、nの値が示すアルゴリズムで計算された要素iの出現度を示すことになる。
図4に示すように、取得部101は、商品データベースDB1に格納された任意の商品の説明文を取得し、当該取得した説明文を6つのアルゴリズムの各々に入力する。取得部101は、アルゴリズムごとに、当該アルゴリズムで定義された方法に基づいて、商品の説明文に含まれる要素iを抽出し、当該要素iが出現する回数をカウントして出現度wn,iを取得する。要素の抽出方法及び出現度の計算方法自体は、アルゴリズムで定められた方法を利用すればよく、例えば、次のようにして計算される。
例えば、BGは、連続した2語の出現度によって文書を解析するアルゴリズムなので(例えば、「https://lagunita.stanford.edu/c4x/Engineering/CS-224N/asset/slp4.pdf」を参照)、取得部101は、説明文に含まれる連続した2語(隣り合う2語のセット)を要素iとして抽出し、説明文の中で当該要素iが出現した回数をカウントすることによって出現度w1,iを取得する。日本語等であれば、連続した2文字が要素iとなり、英語等であれば、連続した2単語が要素iとなる。なお、BGは、いわゆるn−gramの一例であり、1−gramを利用するのであれば要素iは1語となり、3−gram以上を利用するのであれば要素iは3語以上となる。なお、取得部101は、出現度が閾値(例えば、2)以上のものだけを要素cとして抽出し、1回しか出現しないものは排除してもよい。この点は、他のアルゴリズムについても同様である。
また例えば、NEは、文書中に存在する固有表現を解析するアルゴリズムなので(例えば、「https://www.nltk.org/book/ch07.html」を参照)、取得部101は、説明文に含まれる固有表現(例えば、固有名詞)を要素iとして抽出し、説明文の中で当該要素iが出現した回数をカウントすることによって出現度w2,iを取得する。例えば、予め定められた固有表現のリスト内に存在する語が説明文に存在していれば、NEにおける要素となりうる。また例えば、固有表現はカッコやダブルクォーテーション等の記号で囲われた単語は固有表現であることが多いので、これらの記号で囲われた部分は、NEにおける要素となりうる。また例えば、英語等の言語であれば、文中に大文字で記載されるものは固有表現であることが多いので、文中に大文字で記載された部分は、NEにおける要素となりうる。
また例えば、SDは、文書中に存在する語同士の関連性を解析するアルゴリズムなので(例えば、「https://nlp.stanford.edu/software/dependencies_manual.pdf」を参照)、取得部101は、説明文において文法的に関係性のある語の組を要素iとして抽出し、説明文の中で当該要素iが出現した回数をカウントすることによって出現度w3,iを取得する。例えば、複数の単語を単語間の分法を付して抽出したものが、SDにおける要素となる。また例えば、名詞の所有格である「〜’s」又は「〜s’」は、その後の名詞に係る語(係り受けのある語)のため、SDにおける要素となりうる。また例えば、複数の名詞が並んでいる場合には互いに関係性のある語なので、SDにおける要素となりうる。また例えば、受動態の動詞は名詞に係ることが多いため、SDにおける要素となりうる。
また例えば、SFは、文書中に存在する語を意味的に解析するアルゴリズムなので(例えば、「https://en.wikipedia.org/wiki/Frame_semantics_(linguistics)」を参照)、取得部101は、説明文において意味的に関係性のある語を要素iとして抽出し、説明文の中で当該要素iが出現した回数をカウントして出現度w4,iを取得する。例えば、複数の単語の組み合わせに単語間の意味的な繋がりが付されたものが、SFにおける要素として抽出される。また例えば、物とその所有主体、物とその属性(色やサイズなど)、全体とその一部分、あるいは上位概念と下位概念といった語の組み合わせはSFにおける要素となりうる。なお、SFにおける要素は、説明文中に存在しない他の名称に置き換わることがある。
また例えば、Tf−Idfは、特定のウェブページに存在する語を抽出するアルゴリズムなので(例えば、「https://ja.wikipedia.org/wiki/Tf-idf」を参照)、取得部101は、説明文に含まれる少なくとも1つの語を要素iとして抽出し、当該ウェブページの中で当該要素iが出現した回数と、他のウェブページの中で当該要素iが出現した回数と、をカウントして出現度w5,iを取得する。Tf−Idfでは、複数のウェブページで万遍なく使用されている語ではなく、ある特定のウェブページにおいて特異的に多く用いられている語が出現度w5,iが高いと評価されるので、要素iが抽出された特定のウェブページの中での出現回数が多いほど出現度w5,iは高くなる一方、他の多くのウェブページにおいて普遍的に出現するほど出現度w5,iは低くなる。
また例えば、属性抽出法は、文書に含まれる属性又は属性値を分析するアルゴリズムなので、取得部101は、説明文に含まれる属性又は属性値を要素iとして抽出し、説明文の中で当該要素iが出現した回数をカウントして出現度w6,iとして取得する。本実施形態では、属性データベースDB2に属性と属性値の組み合わせが格納されているので、属性データベースDB2内の属性の名前又は属性値と一致する語がウェブページ内に存在していれば、属性抽出法における要素となる。また例えば、属性データベースDB2に定義された属性値と一致する語が存在する場合に、当該属性値に関連付けられた属性の名前が抽出されてもよい。なお、特に属性値を定義せずに属性の名前だけを定義しておいてもよく、この場合には、説明文中に「Color:red」といった語が出現した場合に、属性抽出法における要素としてもよい。この場合、「Color」だけが要素となってもよいし、「red」も含めて要素としてもよい。
図7は、取得部101により取得された要素iと出現度wn,iの関係を示す図である。図7に示すように、取得部101は、上記説明した各アルゴリズムを利用して要素iと出現度wn,iを取得し、これらを抽出したアルゴリズムと関連付けてデータ記憶部100に一時的に保持する。アルゴリズムごとに取得された各要素iの出現度wn,iは、後述する正規化部102によって正規化される。
[3−3.正規化部]
正規化部102は、CPU11を主として実現される。正規化部102は、アルゴリズムごとに、取得部101により取得された出現度wn,iを正規化する。以降、正規化後の出現度をw´n,iと記載する。
正規化部102は、アルゴリズムごとに、当該アルゴリズムによって抽出された要素iの出現度wn,iの分布に基づいて、出現度wn,iが示す値を正規化する。なお、正規化自体は、種々の手法を適用可能であり、本実施形態では、min−max正規化法を用いるため、正規化後の出現度w´n,iが示す値の範囲は特定の範囲に制限される。値の範囲をどのように設定するかは任意である。もちろん、これ以外の方法、例えば、z−score正規化法等の他の手法を用いてもよく、その場合、正規化後の出現度w´n,iが示す値の範囲や、平均値・分散等の統計量は、正規化に用いる手法に依存する。
min−max正規化法は、その分布内の値の最小値と最大値が一定となるようにリスケーリングするものであり、異なるアルゴリズム間では、統計量として最小値と最大値が共通となる。具体的には、正規化部102は、アルゴリズムごとの出現度wn,iの最小値をwn,min、最大値をwn,maxとおくと、正規化後の出現度w´n,iを次の数式1により計算する。
Figure 0006621514
ここでa,bは任意のスケーリングパラメータであり、本実施形態ではa=10、b=1としているから、正規化後の出現度w´n,iの分布は、異なるアルゴリズムごとに最小値が1、最大値が10となる。
図4に示すように、例えば、正規化部102は、BGを利用して抽出された要素iの出現度w1,iの正規化を行い、正規化された出現度w´1,iを取得する。他のアルゴリズムについても同様に、正規化部102は、NE、SD、SF、Tf−Idf、及び属性抽出法の各々のアルゴリズムごとに、当該アルゴリズムを利用して抽出された要素iの出現度wn,iの正規化を行い、正規化された出現度w´n,iを取得する。
図8は、正規化の前後における各アルゴリズムの出現度の分布の変化を示す図である。図8の縦軸は出現度であり、要素iの出現度を円で示している。図8に示す例では、属性抽出法の出現度w6,iは、他のアルゴリズムの出現度w1,i〜w5,iに比べて著しく高い。また、Tf−Idfによる出現度w5,iは、BG〜SFの4つのアルゴリズムによる出現度w1,i〜w4,iよりも高い値を示しているため、これら出現度の大小を単純にある一意の閾値と比較することは妥当ではない。そこで、正規化部102は、それぞれのアルゴリズムによって取得された出現度wn,iを正規化することによって、正規化後のそれぞれのアルゴリズムについての出現度w´n,iの分布を互いに近づける。言い換えれば、正規化部102は、特定のアルゴリズムにより取得された出現度wm,iの分布が、他のアルゴリズムにより取得された正規化後の出現度w´n,i|n≠mの分布に近づくように正規化を行う。ここで、ある出現度の分布が、他の出現度の分布に近づくとは、先の出現度についての任意の統計量(例えば、平均値、分散、中央値、最大値、最小値等)の一つ又は複数が、後の出現度についての同種の統計量により近くなる又は一致することをいうものとする。
図8に示すように、正規化後の各出現度w´1,i〜w´6,iの分布は、大きな偏りがなく、Tf−Idfによる正規化後の出現度w´5,i及び、属性抽出法による正規化後の出現度w´6,iのいずれも、BG〜SFの4つのアルゴリズムによる正規化後の出現度w´1,i〜w´4,iと同一の値域に分布していることがわかる。即ち、正規化部102は、正規化を実行することで、各アルゴリズムで抽出された要素iの正規化された出現度w´n,iのスケールを互いに揃え、これら出現度w´1,i〜w´6,iの大小をある一意の閾値と比較することを可能とする。図8の例では、正規化部102は、特に、Tf−Idfにより取得された出現度w5,iと、属性抽出法により取得された出現度w6,iの分布が、他のアルゴリズムにより取得された正規化後の出現度w´1,i〜w´4,iの分布に近づくように正規化を実行したことになる。もちろん、程度の差こそあれ、正規化部102は、特定のいずれのアルゴリズムにより取得された出現度wm,iについても、その分布が他のアルゴリズムにより取得された正規化後の出現度w´n,i|n≠mに近づくように正規化を行っている。
[3−4.フィルタリング部]
フィルタリング部103は、CPU11を主として実現される。フィルタリング部103は、正規化部102により正規化された出現度w´n,iに基づいて、要素をフィルタリングする。フィルタリング部103は、要素iの正規化された出現度w´n,iとフィルタリング条件とに基づいて、要素iをフィルタリングする。
フィルタリング条件は、抽出された全ての要素iの中の一部を抽出するための条件であればよく、正規化された出現度w´n,iに関する任意の条件が設定されてよい。例えば、出現度w´n,iの閾値がフィルタリング条件として設定されてもよいし、出現度w´n,iの上位X%(Xは100未満の正数。例えば、X=10〜30程度。)といった条件がフィルタリング条件として設定されてもよい。他にも例えば、正規化された出現度w´n,iの降順となるように要素iをソートしたうえで所定順序までの要素iを抽出するといった条件がフィルタリング条件として設定されてもよい。
フィルタリング条件は、固定値であってもよいが、本実施形態では、動的に設定されるものとする。ここで、動的にフィルタリング条件を設定するとは、フィルタリング部103が、各アルゴリズムにより取得された正規化された出現度w´n,iの分布に基づいて、その都度フィルタリング条件を設定することをいう。即ち、フィルタリング部103は、正規化された出現度w´n,iの分布に基づいてフィルタリング条件を設定し、当該設定されたフィルタリング条件に基づいてフィルタリングを実行する。このようにして設定されたフィルタリング条件は、他の文書について設定されたフィルタリング条件と偶然一致することもあるが、通常は文書ごとに異なる。
本実施形態では、フィルタリング条件の一例として、正規化された出現度w´n,iの閾値thを説明する。フィルタリング部103は、正規化された出現度w´n,iの分布に基づいて、閾値thを動的に設定することになる。図8に示すように、ここでは、フィルタリング部103は、正規化された出現度w´n,iが上位となる所定割合の要素iが抽出されるように、閾値thを設定する。フィルタリング部103は、抽出に用いられたアルゴリズムに依らず、正規化された出現度w´n,iが上位となる所定割合の要素iが抽出されるように、フィルタリングを実行することになる。所定割合は、任意の割合であればよく、図8では20%としているが、20%未満であってもよいし、20%より多くてもよい。
なお、フィルタリングは、主に、後述する選択部104が要素iを選択する際の母集団を減らす目的で実行されるので、抽出された要素iがそもそも少なかった場合には、フィルタリングは省略してもよい。また、要素iの数に応じてフィルタリング条件が設定されてもよい。例えば、上記では、上位20%の要素iが抽出されるように閾値thが設定される場合を説明したが、要素iが少なければ、より多くの要素iが抽出されるように、閾値thを下げてフィルタリング条件を甘くしてもよい。これとは逆に、要素iが多ければ、要素iを絞り込むために、閾値thを下げてフィルタリング条件を厳しくしてもよい。
なお、図4に示すように、本実施形態では、フィルタリング後の要素は、連番となるように採番し直されるものとする。このため、以降の説明では、フィルタリング後の要素をkと記載し、当該要素の正規化された出現度をw(以降では特にアルゴリズムを区別する必要がないため、nの数値を省略する。)と記載する。
要素k及び出現度wのkは、自然数であり、フィルタリング後の要素を一意に識別する数値である。ここでは、kの初期値を1とし、フィルタリング部103が要素をフィルタリングして抽出するたびにkの値がインクリメントされる。フィルタリングによって要素が絞り込まれるので、kの最大値は、フィルタリング前の要素を示すiの最大値よりも小さい。なお、要素を識別する数値は、特に採番し直さなくてもよく、もともとのiの値が要素の識別情報として用いられてもよい(その場合、kの値は、連番ではなく飛び飛びのものが用いられることになる)。
[3−5.選択部]
選択部104は、CPU11を主として実現される。選択部104は、正規化部102により正規化された出現度wに基づいて、ウェブページの中から少なくとも1つの文を選択する。選択部104により選択された文は、要約を作成するために利用される文である。選択部104は、1つだけの文を選択してもよいし、複数の文を選択してもよい。
なお、以降の説明では、ウェブページ内の商品の説明文に含まれる個々の文にjの符号を付して説明する。文jのjは、自然数であり、文を一意に識別する数値である。ここでは、jの初期値を1とし、ウェブページ内の商品の説明文の頭から順番に各文にjの数値が付与される。
本実施形態では、文jを選択するための選択条件が定められており、選択部104は、当該選択条件に基づいて、商品の説明文の中から文jを選択する。選択条件は、予め定められた条件であればよく、例えば、出現度wの高さに関する条件であってもよいし、選択される文jの分量に関する条件であってもよい。なお、選択される文jの分量とは、選択される分jに含まれる単語数又は文字数、あるいはそれらに関する量を示すものとする。
本実施形態では、フィルタリングが実行されるので、選択部104は、フィルタリング部103によりフィルタリングされた要素kの正規化された出現度wを用いて、所定の選択条件に基づいて、商品の説明文の中から少なくとも1つの文jを選択する。フィルタリングで抽出されなかった要素については、所定の選択条件の判定対象とはならず、フィルタリングで抽出された要素kが判定対象となる。別の言い方をすれば、フィルタリングで抽出されなかった要素は、選択部104による選択の母集団には含まれず、フィルタリングで抽出された要素kだけが母集団となる。
本実施形態では、所定の選択条件が、選択部104により選択される文jに含まれる要素の正規化された出現度wの総和が最大となり、かつ、当該選択される文jが所定の分量未満になることである場合を説明する。このような選択条件下において解を求める問題は、最適化問題(Optimization Problem)の内、整数線形計画問題(Integer Linear Problem)として知られており、NP困難のクラスに属することが知られている。そのため、選択部104は、整数線形計画法(ILP:Integer Linear Program)を用いて、商品の説明文の中から少なくとも1つの文jを選択する。即ち、選択部104は、所定の制約条件を満たしつつ、所定の目的関数を最大化する近似解となるように、商品の説明文の中から少なくとも1つの文jを選択する。整数線形計画法のアルゴリズムには、全ての要素iのうち、フィルタリング部103によりフィルタリングされた要素kが入力される。
図4に示すように、本実施形態では、目的関数を下記の数式2で示し、制約条件を下記の数式3〜4で示す。選択部104は、数式3〜4の制約条件を満たす中で、数式2の値が最大となるように、要素kと文jを選択する。なお、下記の数式2〜4では、要素kが選択された場合にはcの値は1となり、要素kが選択されなかった場合にはcの値は0となる。また、文jが選択された場合にはsの値は1となり、文jが選択されなかった場合にはsの値は0となる。
Figure 0006621514
Figure 0006621514
Figure 0006621514
Figure 0006621514
数式2は、選択された要素kの出現度wの総和である。なお、同じ要素kが複数の文j中に存在することがあるが、この場合は当該要素kの出現度wが重複して加算されるわけではなく、当該要素kの出現度wは1回だけ加算される。
数式3のlは、文jの長さである。長さlは、文字数(記号数)であってもよいしワード数であってもよい。数式3のLは、要約の分量の上限値であり、任意の数値を設定可能である。例えば、Lは、150文字程度としてもよいし、50ワード程度としてもよい。数式3が示す制約条件は、選択された文jの長さlの総和が閾値L以下となることを意味する。
数式4のOcckjは、文jの中に要素kが含まれている場合に1となり、文jの中に要素kが含まれていない場合に0となる。数式4が示す制約条件は、ある文jが選択された場合には、当該文jに含まれる要素kは、必ず選択されるということを意味する。即ち、ある文jが選択されたにもかかわらず、その選択された文jに含まれる要素kが選択されないということはなく、そのような要素kは必ず選択されなければならない。一方で、ある文jが選択されなかった場合には、その選択されなかった文jに含まれる要素kが選択されないとは限らない。そのような要素kは、選択された別の文jにも含まれているかもしれないからである。
数式5のOcckjは、数式4と同様である。数式5が示す制約条件は、選択された要素kは、選択された文jのいずれかには必ず含まれているということを意味する。即ち、要素kが選択されたにもかかわらず、選択された文jの中のどの文にも含まれていないといったことはなく、少なくとも1つの選択された文jには含まれていなければならない。
なお、上記では、整数線形計画法による近似的解法により、所定の制約条件を満たしつつ、所定の目的関数を最大化する近似解として、選択条件を満たす文jを選択したが、選択部104は、他の手法を利用して、選択条件を満たす文jを選択してもよい。例えば、選択部104は、総当たり法等を用いて完全解を求めてもよい。あるいは、他の探索アリゴリズム、例えば任意の発見的解法(Heuristic)等を利用してもよい。
[3−6.作成部]
作成部105は、CPU11を主として実現される。作成部105は、選択部104により選択された文j(即ち、s=1であるような文j)に基づいて、商品の説明文の要約を作成する。作成部105は、選択部104により選択された文jをそのまま並べることによって要約を作成してもよいし、選択部104により選択された文jの一部を編集することによって要約を作成してもよい。なお、選択部104により選択された文jが1つだけであった場合には、作成部105は、当該1つの文jをそのまま要約としてもよいし、当該1つの文sの一部を編集することによって要約を作成してもよい。なお、編集とは、文jの中の一部の語を削除・改変すること、文jに語を追加(挿入)することである。
本実施形態では、作成部105は、選択部104により選択された文jを、当該文jが説明文中で出現する順番に従って並べることによって、要約を作成する。即ち、作成部105は、説明文の中での文jの順番を変えず、説明文の中での並び順通りに文jを並べることによって、要約を作成する。本実施形態では、説明文の頭から順番にjの値が採番されるので、作成部105は、選択部104により選択された文jを、jの値の昇順に並べることによって、要約を作成する。
図9及び図10は、作成部105によって作成された要約の一例を示す図である。なお、図9及び図10では、公知の技術であるTextRank及びPG(Pointer Generator network)の各々との対比も示している。TextRankは、本実施形態で説明したアルゴリズムと同様に非学習モデル(教師なしモデル)の一種であり、PageRankというウェブページの重要度を抽出する技術を自然言語に流用したアルゴリズムである。なお、PGは、教師データを必要とする学習モデル(教師ありモデル)の一種であり、深層学習における畳み込みニューラルネットワークを利用したアルゴリズムである。PGは、入力した文書に含まれる文をそのまま流用するのではなく、改変を加えたうえで要約を作成する点が特徴とされている。
図9及び図10に示すように、TextRankの要約は、本実施形態に係る要約作成システム1により作成された要約に比べて長く冗長であり要約の精度が低く、PGの要約は、文法的又は意味的に誤った文章が生成されて、一部が不明瞭な内容となっている。また、本発明者達の研究によれば、TextRankでは、比較的短い説明文の場合には当該説明文がそのまま要約として出力されることがあり、PGでは、ブランド名やモデル名といった要約を作成するうえで重要な固有表現が説明文に含まれている場合に、これらの固有表現がしばしば抜け落ちてしまうことがわかっている。一方、図9及び図10に示すように、本実施形態に係る要約作成システム1が作成した要約は、商品の説明文の重要な部分が抜け落ちることなく簡潔に記載されており、要約の精度が高くなっている。
[4.要約作成システムで実行される処理]
図11は、要約作成システム1で実行される処理の一例を示すフロー図である。図11に示す処理は、サーバ10によって実行され、CPU11がメモリ12に記憶されたプログラムに従って動作することによって実行される。下記に説明する処理は、図3に示す機能ブロックにより実行される処理の一例である。
図11に示すように、まず、CPU11は、メモリ12に記憶された商品データベースDB1を参照し、要約の作成対象となる商品の説明文を取得する(S1)。S1においては、CPU11は、商品データベースDB1に説明文が格納された商品の中から任意の商品の商品を選択すればよく、例えば、要約がまだ作成されていない説明文を、要約の作成対象として選択する。
CPU11は、複数のアルゴリズムの各々に基づいて、商品の説明文に含まれる複数の要素cの各々の出現度wn,iを取得する(S2)。S2においては、CPU11は、BG、NE、SD、SF、Tf−Idf、及び属性抽出法の各々を利用して、説明文の中から要素iを抽出し、当該要素iが出現した回数に基づいて出現度wn,iを取得する。
CPU11は、アルゴリズムごとに、要素iの出現度wn,iを正規化する(S3)。S3においては、CPU11は、min−max正規化法に基づいて、各アルゴリズムが抽出した要素iの出現度wn,iの正規化を行い、正規化後の出現度w´n,iを取得する。
CPU11は、S3において正規化された出現度w´n,iの分布に基づいて、フィルタリングの閾値thを設定する(S4)。S4においては、CPU11は、全ての要素iのうち、正規化された出現度w´n,iの上位所定割合の要素iが抽出されるように閾値thを設定する。
CPU11は、S3において正規化された出現度w´n,iと、S4で設定した閾値thと、に基づいて、要素iをフィルタリングする(S5)。S5においては、CPU11は、各要素iの出現度w´n,iと閾値thを比較し、全ての要素iの中から、閾値th以上の出現度w´n,iの要素iを抽出する。先述したように、フィルタリングが実行されると、要素を識別する数値が採番し直されて要素kとなる。
CPU11は、S5でフィルタリングされた要素kの正規化された出現度wに基づいて、商品の説明文の中から少なくとも1つの文jを選択する(S6)。S6においては、CPU11は、整数線形計画法に基づいて、数式3〜4の各々を満たしつつ、数式2が示す目的関数を最大化する近似解となるように、少なくとも1つの文jを選択する。即ち、CPU11は、選択された文jの分量が上限値L以下となり、選択された文jに含まれる要素kは必ず選択され、かつ、選択された要素kは選択された文jの何れかには必ず含まれている中で、当該選択された要素kの出現度wの総和が最大になるように、文jを選択する。
CPU11は、S6で選択した文jに基づいて、要約を作成し(S7)、本処理は終了する。S7においては、CPU11は、S6で選択した文jを順番に並べて要約を作成する。文jが1つだけであれば、当該1つの文jをそのまま要約とする。CPU11は、S7で作成した要約を商品データベースDB1に格納する。商品データベースDB1に要約が格納されると、ユーザが商品のウェブページにアクセスした場合に、ユーザ端末30に要約が表示される。
以上説明した要約作成システム1によれば、複数のアルゴリズムの各々に基づいて商品の説明文に含まれる複数の要素iの各々の出現度wn,iを取得し、アルゴリズムごとに出現度wn,iを正規化したうえで、少なくとも1つの文jを選択して要約を作成するので、全体的に出現度wn,iが高いアルゴリズムにより抽出された要素iばかりが偏って選択されるといったことを防止し、要約の精度を高めることができる。即ち、より多くの観点で文jを選択して要約を作成することで、特定の観点だけで要約が作成されてしまうといったことを防止し、要約の精度を高めることができる。
また、正規化された出現度w´n,iに基づいて要素iをフィルタリングしたうえで、所定の条件に基づいて少なくとも1つの文jを選択することで、文jを選択する際の母集団が少なくなるので、要約を作成する際のサーバ10の処理負荷を軽減することができ、より迅速に要約を作成することができる。
また、正規化された出現度w´n,iの総和が最大となり、かつ、選択される文jの分量が所定の分量未満となるように、少なくとも1つの文jが選択されて要約が作成されることで、商品の説明文の中で重要な部分を含み、かつ、適度な長さの要約を作成することができ、要約の精度を効果的に高めることができる。
また、整数線形計画法を用いて説明文の中から少なくとも1つの文jを選択することで、要約の精度を効果的に高めることができる。更に、整数線形計画問題は、NP困難であり、処理項目数の増加が計算量の著しい増加をもたらすことが知られているが、正規化された出現度w´n,iに基づいて要素iをフィルタリングすることで処理項目数を減らすことができ、要約を作成する際のサーバ10の処理負荷を軽減することができ、より迅速に要約を作成することができる。また、整数線形計画法を用いた要約作成は、非学習モデルによる処理であるため、教師データの作成、学習器の作成、及びRNNによる大規模な演算等が不要になり、自然言語処理における効率化を図ることができる。
また、正規化された出現度w´n,iの分布に基づいてフィルタリング条件が設定されてフィルタリングが実行されることで、出現度w´n,iの分布に応じた最適なフィルタリング条件が設定され、フィルタリングの精度を高めることができる。その結果、商品の説明文の中でより重要な部分を抽出することができ、要約の精度を効果的に高めることができる。
また、要素iの抽出に用いられたアルゴリズムに依らず、正規化された出現度w´n,iが上位となる所定割合の要素kが抽出されるように、フィルタリングが実行されることで、商品の説明文の中でより重要な部分を利用して要約を作成することができ、要約の精度を効果的に高めることができる。
また、アルゴリズムとしてTf−Idfと属性抽出法の少なくとも一方を含めることで、これらと相性の良い商品の説明文の要約の精度を効果的に高めることができる。
また、商品の説明文の中から選択された文jを、商品の説明文中で出現する順番に従って並べて要約を作成することによって、要約が自然な流れの文章となり、要約の精度を効果的に高めることができる。
また、商品等の説明文の要約を作成する場合には、属性抽出法の出現度w6,iが全体的に高くなりがちであるが、属性抽出法により取得された出現度w6,iの分布が他のアルゴリズムにより取得された出現度w1,i〜w5,iの分布に近づくように、正規化が実行されることで、属性抽出法より抽出された要素iばかりが偏って選択されることを防止し、要約の精度を高めることができる。即ち、属性抽出法以外のアルゴリズムにより抽出された要素iをも満遍なく選択するようにすることにより、より多くの観点で文jを選択して要約を作成することができ、属性抽出法等の特定のアルゴリズムに基づく観点だけで要約が作成されてしまうことを防止し、要約の精度を高めることができる。
[5.変形例]
なお、本発明は、以上に説明した実施形態に限定されるものではない。本発明の趣旨を逸脱しない範囲で、適宜変更可能である。
例えば、商品データベースDB1に格納された全ての商品の説明文が要約の作成対象となる場合を説明したが、一部の説明文だけが要約の作成対象となってもよい。例えば、説明文の分量が少ない場合には要約を作成する必要がないので、所定の分量以上の説明文だけが要約の作成対象となってもよい。この場合、サーバ10は、商品データベースDB1に格納された商品の説明文の分量が所定の分量以上であるか否かを判定する。サーバ10は、所定の分量以上の説明文については、取得部101、正規化部102、フィルタリング部103、選択部104、及び作成部105の各々の処理を実行して要約を作成し、所定の分量未満の説明文については、これらの処理を実行せずに要約を作成しないようにしてもよい。
また例えば、実施形態では、1つの文書から1つの要約が作成される場合を説明したが、複数の文書から1つの要約が作成されてもよい。この場合、取得部101は、複数の文書の各々に含まれる要素iの出現度wn,iを取得する。正規化部102、フィルタリング部103、及び選択部104の処理は、複数の文書から取得された要素iの出現度wn,iが用いられるという点で異なるだけであり、処理内容は実施形態で説明した通りである。作成部105は、複数の文書をまとめた1つの要約を作成することになる。例えば、実施形態で説明した口コミが文書に相当する場合、作成部105は、ある商品の複数の口コミをまとめた1つの要約を作成してもよい。
また例えば、文書の一例として商品の説明文を説明したが、文書は、任意の内容であってよく、例えば、施設又はサービスの説明文であってもよい。施設は、ホテル、旅館、又はレストラン等の宿泊施設であってもよいし、イベント会場、会社、又は工場等の施設であってもよい。サービスは、任意のサービスであってよく、例えば、宿泊施設の提供サービス、レストランにおける食事の提供サービス、金融サービス、又は保険サービスである。複数のアルゴリズムには、施設又はサービスの属性の属性値を要素として抽出する属性抽出法が含まれていてもよい。施設又はサービスの説明文は、施設又はサービスの性質を考慮して入力されるので、説明文の中に施設又はサービスの属性や属性値が含まれることが多く、属性抽出法の出現度が高くなりがちである。このため、属性抽出法により抽出された施設又はサービスの説明文の要素の出現度が正規化されて、他のアルゴリズムの出現度のスケールに合わせるようにしてもよい。
また例えば、ウェブページが文書に相当する場合には、ニュース記事、掲示板、チャット、SNS、又はインターネット上の百科事典等の種々のウェブページの要約を作成するために、要約作成システム1が用いられてもよい。先述したように、ウェブページ以外の文書の要約を作成するために、要約作成システム1が用いられてもよい。また例えば、要約作成システム1で利用されるアルゴリズムは、実施形態で説明した6つの組み合わせに限られず、任意の組み合わせであってよい。例えば、実施形態で説明した6つのアルゴリズムのうちの2つ〜5つだけが利用されてもよいし、これらとは別のアルゴリズムが利用されてもよい。
また例えば、要約作成システム1の各機能のうち、フィルタリング部103は省略してもよい。また例えば、データ記憶部100は、要約作成システム1に含まれている必要はなく、データベースサーバによって実現されてもよい。また例えば、サーバ10で実現されるものとして説明した機能は、サーバ10以外のコンピュータによって実現されてもよく、例えば、店舗端末20において実現されてもよい。即ち、サーバ10以外のコンピュータが本発明に係る要約作成装置に相当してもよい。
1 要約作成システム、N ネットワーク、10 サーバ、11 CPU、12 メモリ、13 通信インタフェース、14 バス、20 店舗端末、30 ユーザ端末、th 閾値、100 データ記憶部、101 取得部、102 正規化部、103 フィルタリング部、104 選択部、105 作成部、DB1 商品データベース、DB2 属性データベース。

Claims (11)

  1. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段と、
    前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段と、
    前記正規化手段により正規化された出現度の分布に基づいてフィルタリング条件を設定し、当該設定されたフィルタリング条件に基づいて前記要素をフィルタリングするフィルタリング手段と、
    前記フィルタリング手段によりフィルタリングされた要素の前記正規化された出現度を用いて、所定の選択条件に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段と、
    前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段と、
    を含むことを特徴とする要約作成装置。
  2. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段と、
    前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段と、
    前記正規化手段により正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段と、
    前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段と、
    を含み、
    前記文書は、商品、施設、又はサービスの説明文であり、
    前記複数のアルゴリズムには、前記商品、前記施設、又は前記サービスの属性の属性値を前記要素として抽出する属性抽出法を含み、
    前記正規化手段は、前記属性抽出法により取得された出現度の分布が、他のアルゴリズムにより取得された正規化後の出現度の分布に近づくように、正規化を実行する、
    ことを特徴とする要約作成装置。
  3. 前記所定の選択条件は、前記選択手段により選択される文に含まれる前記要素の前記正規化された出現度の総和が最大となり、かつ、当該選択される文が所定の分量未満になることである、
    ことを特徴とする請求項に記載の要約作成装置。
  4. 前記選択手段は、整数線形計画法を用いて前記文書の中から少なくとも1つの文を選択する、
    ことを特徴とする請求項3に記載の要約作成装置。
  5. 前記フィルタリング手段は、抽出に用いられたアルゴリズムに依らず、前記正規化された出現度が上位となる所定割合の要素が抽出されるように、フィルタリングを実行する、
    ことを特徴とする請求項1、3、又は4の何れかに記載の要約作成装置。
  6. 前記複数のアルゴリズムには、Tf−Idf(Term frequency−Inverse document frequency)法と、予め定められた属性の属性値を前記要素として抽出する属性抽出法と、の少なくとも一方が含まれる、
    ことを特徴とする請求項1、3、4、又は5の何れかに記載の要約作成装置。
  7. 前記作成手段は、前記選択手段により選択された文を、当該文が前記文書中で出現する順番に従って並べることによって、前記要約を作成する、
    ことを特徴とする請求項1〜の何れかに記載の要約作成装置。
  8. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得ステップと、
    前記アルゴリズムごとに、前記取得ステップにより取得された出現度を正規化する正規化ステップと、
    前記正規化ステップにより正規化された出現度の分布に基づいてフィルタリング条件を設定し、当該設定されたフィルタリング条件に基づいて前記要素をフィルタリングするフィルタリングステップと、
    前記フィルタリングステップによりフィルタリングされた要素の前記正規化された出現度を用いて、所定の選択条件に基づいて、前記文書の中から少なくとも1つの文を選択する選択ステップと、
    前記選択ステップにより選択された文に基づいて、前記文書の要約を作成する作成ステップと、
    を含むことを特徴とする要約作成方法。
  9. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得ステップと、
    前記アルゴリズムごとに、前記取得ステップにより取得された出現度を正規化する正規化ステップと、
    前記正規化ステップにより正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択ステップと、
    前記選択ステップにより選択された文に基づいて、前記文書の要約を作成する作成ステップと、
    を含み、
    前記文書は、商品、施設、又はサービスの説明文であり、
    前記複数のアルゴリズムには、前記商品、前記施設、又は前記サービスの属性の属性値を前記要素として抽出する属性抽出法を含み、
    前記正規化ステップは、前記属性抽出法により取得された出現度の分布が、他のアルゴリズムにより取得された正規化後の出現度の分布に近づくように、正規化を実行する、
    ことを特徴とする要約作成方法。
  10. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段、
    前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段、
    前記正規化手段により正規化された出現度の分布に基づいてフィルタリング条件を設定し、当該設定されたフィルタリング条件に基づいて前記要素をフィルタリングするフィルタリング手段、
    前記フィルタリング手段によりフィルタリングされた要素の前記正規化された出現度を用いて、所定の選択条件に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段、
    前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段、
    としてコンピュータを機能させるためのプログラム。
  11. 文書から1又は複数の要素を抽出し、抽出された前記要素の各々の出現度を取得するアルゴリズムであって、互いに異なる複数のアルゴリズムを用いて、前記文書から複数の前記要素及びその出現度を取得する取得手段、
    前記アルゴリズムごとに、前記取得手段により取得された出現度を正規化する正規化手段、
    前記正規化手段により正規化された出現度に基づいて、前記文書の中から少なくとも1つの文を選択する選択手段、
    前記選択手段により選択された文に基づいて、前記文書の要約を作成する作成手段、
    としてコンピュータを機能させるためのプログラムであって、
    前記文書は、商品、施設、又はサービスの説明文であり、
    前記複数のアルゴリズムには、前記商品、前記施設、又は前記サービスの属性の属性値を前記要素として抽出する属性抽出法を含み、
    前記正規化手段は、前記属性抽出法により取得された出現度の分布が、他のアルゴリズムにより取得された正規化後の出現度の分布に近づくように、正規化を実行する、
    プログラム。
JP2018202347A 2018-10-26 2018-10-26 要約作成装置、要約作成方法、及びプログラム Active JP6621514B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018202347A JP6621514B1 (ja) 2018-10-26 2018-10-26 要約作成装置、要約作成方法、及びプログラム
US16/655,185 US11061950B2 (en) 2018-10-26 2019-10-16 Summary generating device, summary generating method, and information storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018202347A JP6621514B1 (ja) 2018-10-26 2018-10-26 要約作成装置、要約作成方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP6621514B1 true JP6621514B1 (ja) 2019-12-18
JP2020067987A JP2020067987A (ja) 2020-04-30

Family

ID=68917164

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018202347A Active JP6621514B1 (ja) 2018-10-26 2018-10-26 要約作成装置、要約作成方法、及びプログラム

Country Status (2)

Country Link
US (1) US11061950B2 (ja)
JP (1) JP6621514B1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11461822B2 (en) * 2019-07-09 2022-10-04 Walmart Apollo, Llc Methods and apparatus for automatically providing personalized item reviews
US20220405343A1 (en) * 2021-06-17 2022-12-22 Verizon Media Inc. Generation and presentation of summary list based upon article
US20230214581A1 (en) * 2022-01-06 2023-07-06 Jpmorgan Chase Bank , N.A. Systems and methods for quantum computing-based extractive summarization

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000353162A (ja) * 1999-06-11 2000-12-19 Ricoh Co Ltd 重要文抽出装置およびその方法ならびに記憶媒体
US7017114B2 (en) * 2000-09-20 2006-03-21 International Business Machines Corporation Automatic correlation method for generating summaries for text documents
US7607083B2 (en) * 2000-12-12 2009-10-20 Nec Corporation Test summarization using relevance measures and latent semantic analysis
JP2004118545A (ja) * 2002-09-26 2004-04-15 Nec Corp テキスト要約システム、テキスト要約方法、および、テキスト要約プログラム
JP4942727B2 (ja) * 2008-11-26 2012-05-30 日本電信電話株式会社 テキスト要約装置、その方法およびプログラム
WO2016175786A1 (en) * 2015-04-29 2016-11-03 Hewlett-Packard Development Company, L.P. Author identification based on functional summarization
JP6613644B2 (ja) * 2015-06-17 2019-12-04 大日本印刷株式会社 情報処理装置、情報処理システム及びプログラム
JP6415619B2 (ja) * 2017-03-17 2018-10-31 ヤフー株式会社 解析装置、解析方法、およびプログラム

Also Published As

Publication number Publication date
US20200134011A1 (en) 2020-04-30
US11061950B2 (en) 2021-07-13
JP2020067987A (ja) 2020-04-30

Similar Documents

Publication Publication Date Title
US11048882B2 (en) Automatic semantic rating and abstraction of literature
US20240028651A1 (en) System and method for processing documents
Abainia et al. A novel robust Arabic light stemmer
US20070220063A1 (en) Event data translation system
WO2020000717A1 (zh) 网页分类方法、装置及计算机可读存储介质
US9483740B1 (en) Automated data classification
JP6621514B1 (ja) 要約作成装置、要約作成方法、及びプログラム
CN111428503B (zh) 同名人物的识别处理方法及处理装置
JP2020140692A (ja) 文抽出システム、文抽出方法、及びプログラム
CN107908749B (zh) 一种基于搜索引擎的人物检索***及方法
JP6409071B2 (ja) 文の並び替え方法および計算機
KR20200064490A (ko) 프로필 자동생성서버 및 방법
Bartík Text-based web page classification with use of visual information
JP7490241B2 (ja) クラスタ解析方法、クラスタ解析システム、及びクラスタ解析プログラム
JP6260678B2 (ja) 情報処理装置、情報処理方法、及び情報処理プログラム
US11900060B2 (en) Information processing device, information processing method, and computer program product
KR101078978B1 (ko) 문서 분류 시스템
CN113868431A (zh) 面向金融知识图谱的关系抽取方法、装置及存储介质
JP2021101375A (ja) 辞書構築装置、辞書の生産方法、およびプログラム
KR101078966B1 (ko) 문서 분석 시스템
US20230306194A1 (en) Extensible framework for generating accessible captions for data visualizations
JP5690300B2 (ja) 属性抽出装置、属性抽出方法、および属性抽出プログラム
Alghazal Talent Acquisition Process Optimization Using Machine Learning in Resumes’ Ranking and Matching to Job Descriptions
JP2024035205A (ja) 意見分析システム、意見分析方法、及びプログラム
Potvin et al. A Position-Based Method for the Extraction of Financial Information in PDF Documents

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191119

R150 Certificate of patent or registration of utility model

Ref document number: 6621514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250