JP2019185676A - 情報処理装置及び情報処理プログラム - Google Patents

情報処理装置及び情報処理プログラム Download PDF

Info

Publication number
JP2019185676A
JP2019185676A JP2018079379A JP2018079379A JP2019185676A JP 2019185676 A JP2019185676 A JP 2019185676A JP 2018079379 A JP2018079379 A JP 2018079379A JP 2018079379 A JP2018079379 A JP 2018079379A JP 2019185676 A JP2019185676 A JP 2019185676A
Authority
JP
Japan
Prior art keywords
data
designated
diagram
semantic
partial data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018079379A
Other languages
English (en)
Other versions
JP7095377B2 (ja
Inventor
賢吾 得地
Kengo Tokuchi
賢吾 得地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2018079379A priority Critical patent/JP7095377B2/ja
Priority to US16/043,176 priority patent/US10970583B2/en
Priority to CN201811018206.1A priority patent/CN110399605A/zh
Publication of JP2019185676A publication Critical patent/JP2019185676A/ja
Application granted granted Critical
Publication of JP7095377B2 publication Critical patent/JP7095377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0486Drag-and-drop
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/22Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of characters or indicia using display control signals derived from coded signals representing the characters or indicia, e.g. with a character-code memory
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1822Parsing for meaning understanding
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】対象データの意味を表現した図を表示した後で、対象データの少なくとも一部分を抽出する。【解決手段】意味図生成部30は、対象データ14の意味に基づいて、対象データ14の少なくとも一部分の意味を表現した意味図40を生成する。表示制御部34は、意味図40を表示部24に表示する。表示部24上において、意味図40の一部又は全部である指定部分が指定され、指定部分が意味図40の表示領域外に移動させられると、抽出部32は、指定部分の表現に利用した対象データ14の少なくとも一部分である部分データ70を抽出する。部分データ70が抽出された場合に、意味図生成部30は、対象データ14から部分データ70を除いた残りの部分を表現した意味図40’’を再生成し、表示部34は意味図40’’を表示する。【選択図】図1

Description

本発明は、情報処理装置及び情報処理プログラムに関する。
従来、ドキュメント、動画像、あるいは音声データを含む対象データの要約を出力する技術が提案されている。
例えば特許文献1には、静止画又は動画を含むコンテンツから対象被写体が映っている部分を抽出し、抽出した部分を組み合わせてダイジェストコンテンツを構成する情報処理装置が開示されている。また、例えば特許文献2には、動画において、利用者により選択された登場人物との間に所定の関係性を有する登場人物が登場する区間を検出し、検出した区間を出力する情報処理装置が開示されている。
特開2013−171373号公報 特開2013−25748号公報
ところで、ドキュメント、動画像、あるいは音声データを含む対象データの意味を表現した図を作成して表示することが考えられる。ここで、対象データの意味を表現した図が表示された後に、対象データの少なくとも一部分を抽出したい場合がある。
本発明の目的は、対象データの意味を表現した図を表示した後で、対象データの少なくとも一部分を抽出することにある。
請求項1に係る発明は、対象データの意味を表現した図を表示部に表示する表示制御部と、前記図の一部又は全部である指定部分が指定された場合、前記指定部分の表現に利用した前記対象データの少なくとも一部分である部分データを抽出する抽出部と、を備える情報処理装置である。
請求項2に係る発明は、前記表示制御部は、前記対象データにおける意味上の複数の区分それぞれの意味を表現した複数の前記図を表示し、前記抽出部は、前記複数の図のうち、前記指定部分として指定された前記図の表現に利用した前記部分データを抽出する、請求項1に記載の情報処理装置である。
請求項3に係る発明は、前記図は、1又は複数の構成要素から構成され、前記抽出部は、前記構成要素が前記指定部分として指定された場合、指定された前記構成要素の表現に利用した前記部分データを抽出する、請求項2に記載の情報処理装置である。
請求項4に係る発明は、前記抽出部は、前記複数の図に共通して含まれる前記構成要素が前記指定部分として指定された場合、指定された前記構成要素を含む前記複数の図に対応する複数の前記区分それぞれから、指定された前記構成要素の表現に利用した前記部分データを抽出する、請求項3に記載の情報処理装置である。
請求項5に係る発明は、前記表示制御部は、前記抽出部が前記部分データを抽出した場合、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、請求項1に記載の情報処理装置である。
請求項6に係る発明は、前記表示制御部は、前記対象データにおける意味上の複数の区分それぞれの意味を表現した複数の前記図を表示し、前記複数の図のうちいずれかの前記図の一部又は全部が前記指定部分として指定されて当該指定部分に応じた前記部分データが抽出された場合、前記指定部分を含む前記図に対応する前記区分のうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、請求項5に記載の情報処理装置である。
請求項7に係る発明は、前記表示制御部は、前記指定部分を含む前記図に対応する前記区分から前記部分データを除いたことによって変化する、当該区分以外の区分である他区分の意味に応じて再生成された前記図を表示する、請求項6に記載の情報処理装置である。
請求項8に係る発明は、前記図が生成される前記他区分が利用者によって選択可能である、請求項7に記載の情報処理装置である。
請求項9に係る発明は、前記表示制御部は、前記部分データが抽出された前記区分の意味の変化に連動して意味が変化する関係にある前記他区分の変化後の意味に応じて再生成された前記図を表示する、請求項7に記載の情報処理装置である。
請求項10に係る発明は、前記抽出部は、前記表示部上において、前記図の表示領域内から前記表示領域外へ前記指定部分が移動されることで、前記部分データを抽出する、請求項1に記載の情報処理装置である。
請求項11に係る発明は、前記表示制御部は、前記指定部分の移動先の位置に前記部分データを表示する、請求項10に記載の情報処理装置である。
請求項12に係る発明は、前記表示制御部は、前記対象データに含まれない付加情報の表現を含む前記図を表示し、前記抽出部は、前記部分データとして前記付加情報を抽出しない、請求項1に記載の情報処理装置である。
請求項13に係る発明は、前記表示制御部は、前記対象データに含まれない付加情報の表現を含む前記図を表示し、前記抽出部は、前記部分データとして前記付加情報を抽出する、請求項1に記載の情報処理装置である。
請求項14に係る発明は、前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出した場合、前記付加情報の表現を変更せずに、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、請求項12又は13に記載の情報処理装置である。
請求項15に係る発明は、前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出した場合、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された、前記付加情報の表現を含まない前記図を表示する、請求項12又は13に記載の情報処理装置である。
請求項16に係る発明は、前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出して前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示した場合、前記付加情報の編集を利用者に促す画面を前記表示部に表示する、請求項12又は13に記載の情報処理装置である。
請求項17に係る発明は、前記対象データと前記部分データのデータ形式が互いに異なる、請求項1に記載の情報処理装置である。
請求項18に係る発明は、前記指定部分を指定するための音声指示を受け付ける音声入力部、をさらに備える、請求項1に記載の情報処理装置である。
請求項19に係る発明は、前記部分データが抽出されて前記図が生成された場合、前記対象データに登場する登場対象であって前記図によって表現されている登場対象が、前記部分データが除かれたことによって意味上の影響を受けた場合、当該登場対象に対する通知を出力する通知制御部、をさらに備える、請求項5に記載の情報処理装置である。
請求項20に係る発明は、コンピュータを、対象データの意味を表現した図を表示部に表示する表示制御部と、前記図の一部又は全部である指定部分が指定された場合、前記指定部分の表現に利用した前記対象データの少なくとも一部分である部分データを抽出する抽出部と、として機能させる情報処理プログラムである。
請求項1又は20に係る発明によれば、対象データの意味を表現した図を表示した後で、対象データの少なくとも一部分を抽出することができる。
請求項2に係る発明によれば、複数の図のうち、指定部分として指定された図の表現に利用した部分データを抽出することができる。
請求項3に係る発明によれば、指定部分として指定された構成要素の表現に利用した部分データを抽出することができる。
請求項4に係る発明によれば、対象データの複数の区分それぞれから、複数の図に共通して含まれる構成要素の表現に利用した部分データを抽出することができる。
請求項5に係る発明によれば、対象データから部分データを除いた残りの部分を表現した図を表示することができる。
請求項6に係る発明によれば、指定部分に対応した区分から部分データを除いた残りの部分を表現した図を表示することができる。
請求項7に係る発明によれば、指定部分に対応した区分から部分データが抽出された場合に、他区分に応じた図を生成して表示することができる。
請求項8に係る発明によれば、利用者は、図の生成の対象となる他区分を選択することができる。
請求項9に係る発明によれば、部分データが抽出された区分の意味の変化に連動して意味が変化する他区分に応じた図を生成して表示することができる。
請求項10に係る発明によれば、表示部上において、図の表示領域内から表示領域外に指定部分を移動させることで部分データを抽出することができる。
請求項11に係る発明によれば、抽出された部分データを表示部に表示することができる。
請求項12に係る発明によれば、付加情報の表現を含む図を表示した後で、指定部分が指定された場合、付加情報を含まない部分データを抽出することができる。
請求項13に係る発明によれば、付加情報の表現を含む図を表示した後で、指定部分が指定された場合、付加情報を含む部分データを抽出することができる。
請求項14に係る発明によれば、付加情報の表現を含む図を作成した後で、部分データが抽出された場合、付加情報の表現が変更されていない図を生成して表示することができる。
請求項15に係る発明によれば、付加情報の表現を含む図を作成した後で、部分データが抽出された場合、付加情報の表現を含まない図を生成して表示することができる。
請求項16に係る発明によれば、付加情報の表現を含む図を作成した後で、部分データが抽出された場合、利用者は、再生成された図に関する付加情報を編集することができる。
請求項17に係る発明によれば、対象データとはデータ形式が異なる部分データを抽出することができる。
請求項18に係る発明によれば、音声指示により指定部分を指定することができる。
請求項19に係る発明によれば、対象データから部分データが除かれたことにより意味上の影響を受けた登場対象に対して通知を出力することができる。
本実施形態に係る情報処理装置の構成概略図である。 対象データの意味を表現した意味図の表示例を示す図である。 付加情報の表現を含む意味図の表示例を示す図である。 意味図及び追加データの表示例を示す図である。 追加データが画像形式で表示された例を示す図である。 対象データに対して追加データが指定される様子を示す図である。 追加データを考慮して再生成された意味図の表示例を示す図である。 追加データが指定された際に表示される、意味図を再生成する区分を指定する画面の例を示す図である。 指定された区分に追加データが追加されたことによって変化した他区分の意味に応じて再生成された区分意味図の表示例を示す図である。 付加情報の表現を含む意味図に対して追加データを指定する様子を示す図である。 付加情報の表現を変更せずに再生成された意味図の表示例を示す図である。 再生成された、付加情報の表現を含まない意味図の表示例を示す図である。 追加データが対象データに追加された場合に表示される、付加情報の編集画面の例を示す図である。 対象データの意味を表現した意味図から部分データが抽出される様子を示す図である。 対象データの意味を表現した意味図から構成要素が指定されて部分データが抽出される様子を示す図である。 複数の区分意味図に共通して含まれる構成要素が指定部分として指定された場合に部分データが抽出される様子を示す図である。 対象データから部分データを除いた残りの部分に応じて再生成された意味図を示す図である。 部分データを抽出する際に表示される、意味図を再生成する区分を指定する画面の例を示す図である。 指定された区分から部分データが抽出されたことによって変化した他区分の意味に応じて再生成された意味図の表示例を示す図である。 付加情報の表現を含む意味図から部分データが抽出される様子を示す図である。 部分データが抽出された際に、付加情報の表現を変更せずに、対象データから部分データを除いた残りの部分に応じて再生成された意味図の表示例を示す図である。 部分データが抽出された際に、対象データから部分データを除いた残りの部分に応じて再生成された、付加情報の表現を含まない意味図の表示例を示す図である。 部分データが抽出された際に表示される付加情報の編集画面の例を示す図である。
<情報処理装置の構成概略>
図1は、本実施形態に係る情報処理装置10の構成概略図である。情報処理装置10の例としては、例えばパーソナルコンピュータ、スマートフォンなどの携帯端末、あるいはサーバなどであるが、情報処理装置10は、以下の機能を実現可能な限りにおいてどのような装置であってもよい。
記憶部12は、例えばROM、RAM、あるいはハードディスクなどを含んで構成される。記憶部12には、情報処理装置10の各部を動作させるための情報処理プログラムが記憶される。さらに、図1に示すように、記憶部12には対象データ14及び追加データ16が記憶される。
対象データ14は、情報処理装置10の処理の対象となるデータであり、ウェブページあるいは電子ドキュメントなどの電子文書、動画像データ、あるいは音声データを含むものである。対象データ14は、通信部18を介して情報処理装置10以外の装置から取得してもよく、情報処理装置10が作成したものであってもよい。対象データ14の内容としては、例えば、会議の議事録などであるが、もちろん対象データ14の内容としてはこれには限られない。
追加データ16も、対象データ14と同様にウェブページあるいは電子ドキュメントなどの電子文書、動画像データ、あるいは音声データを含むものである。追加データ16は、制御部26が対象データ14の意味を表現した意味図を作成した後に、情報処理装置10が取得するデータである。追加データ16の内容としては、例えば対象データ14が会議の議事録である場合では、議事録を見た上司が入力する校閲データや、会議の出席者によって後から提示された追加資料などであるが、もちろん追加データ16の内容としてはこれには限られない。
追加データ16も、通信部18を介して情報処理装置10以外の装置から取得してもよく、情報処理装置10が作成したものであってもよい。追加データ16のデータ形式は対象データ14と同じであってもよく、異なっていてもよい。例えば、対象データ14が動画像であり、追加データが静止画像であってよい。また、追加データ16は複数記憶部12に記憶されていてもよい。
通信部18は、例えばネットワークアダプタを含んで構成される。通信部18は、LANあるいはインターネットなどの通信回線を介して他の装置と通信する機能を発揮する。
入力部20は、例えばタッチパネル、キーボード、あるいはマウスなどを含んで構成される。また、入力部20としては、カメラやセンサを利用した非接触操作(ジェスチャー)を受け付けるインターフェースを含んで構成されてもよい。入力部20は、情報処理装置10に対する利用者(ユーザ)の指示を受け付ける。
音声入力部22は、例えばマイクなどを含んで構成される。音声入力部22は、情報処理装置10に対するユーザの音声指示を受け付ける。
表示部24は、例えば液晶パネルなどを含んで構成される。表示部24には、種々の画面が表示され、特に、制御部26の処理結果が表示される。
なお、情報処理装置10がサーバである場合には、情報処理装置10は、入力部20、音声入力部22、及び表示部24を有していなくてもよい。その場合は、タッチパネル、キーボードあるいはマウスなどの入力部、及び、マイクなどの音声入力部を有するユーザ端末と通信する通信部18が、ユーザ端末から送信されてくるユーザの指示あるいは音声指示を受信する。すなわち、通信部18が、入力部20あるいは音声入力部22の機能を発揮する。また、ユーザ端末の液晶パネルなどが表示部24の機能を発揮する。
制御部26は、例えばCPUあるいはマイクロコントローラを含んで構成される。制御部26は、記憶部12に記憶された情報処理プログラムに従って、情報処理装置10の各部を制御する。図1に示されるように、制御部26は、解析部28、意味図生成部30、抽出部32、表示制御部34、及び、通知制御部36としても機能する。
解析部28は、対象データ14を解析することで対象データ14の意味(内容)を取得する。同様に、解析部28は、追加データ16を解析することで、追加データ16の意味を取得する。以下、解析部28の処理の説明において対象データ14に対する処理を説明するが、解析部28は、追加データ16に対しても同様の処理を行う。
具体的には、解析部28は、対象データ14から抽出した文字列に対して自然言語処理を施すことによって対象データ14の意味を取得する。
対象データ14からの文字列の抽出について、対象データ14が電子文書である場合には、例えば電子文書に対して文字認識処理を施すことによって文字列を抽出することができる。対象データ14が動画像データあるいは音声データである場合には、動画像データあるいは音声データに含まれる音声をテキストデータに変換することによって文字列を抽出することができる。
自然言語処理とは、形態素解析、構文解析、意味解析、あるいは文脈解析を含む処理である。
形態素解析とは、対象言語の文法や、辞書と呼ばれる単語の品詞などの情報に基づいて、文字列を複数の形態素(言語で意味を持つ最小単位)の列に分割した上で、各形態素の品詞などを判別する処理である。
構文解析とは、複数の形態素間の関係(例えば修飾−被修飾の関係)などの構文論的な関係を判別し、これにより複数の形態素間の位置関係(かかり受けなど)を決定する処理である。構文解析によって複数のパターンの構文木(各形態素をノードとする木構造)が形成される。
意味解析とは、各形態素の意味を考慮し、各形態素の意味に基づいて、複数の形態素間の正しい繋がりを決定する処理である。意味解析によって、複数のパターンの構文木から意味的に正しい構文木が選択される。
文脈解析とは、1又は複数の形態素からなる文に跨って構文解析及び意味解析を行う処理である。例えば、文脈解析によれば、第1文の内容に基づいて、第2文に登場する指示代名詞の内容が把握される。
好適には、解析部28は、対象データ14に対して自然言語処理を施すことによって、対象データ14のうち特に重要な1又は複数の部分を特定する。特に、解析部28は、対象データ14内に明示的に現れる文字列のみならず、当該文字列の内容から推定される内容を含む内容を重要部分として特定してもよい。
また、解析部28は、対象データ14全体の意味を解析した上で、対象データ14の全体の要約を表す要約文字列を生成するようにしてもよい。要約とは、対象データ14が特に表したい意味(内容)であり、対象データ14の重要部分と重複してもよい。ただし、要約文字列としては、対象データ14から抽出された文字列の一部分でなくてもよい。
また、解析部28は、対象データ14の意味に基づいて、対象データ14を複数の区分に分けるようにしてもよい。例えば、対象データ14を目的、課題、解決手段、次回迄の課題という4つの区分に分けるようにしてもよい。
また、解析部28は、区分毎に重要部分を特定するようにしてもよい。さらに、解析部28は、区分毎に要約文字列を生成するようにしてもよい。
なお、対象データ14をどのような区分に分けるかは、ユーザが設定できるようになっているのが好ましい。
意味図生成部30は、解析部28によって得られた対象データ14の意味に基づいて、対象データ14の少なくとも一部分の意味を表現した意味図を生成する。意味図の一例としては、意味図の生成対象となった対象データ14の一部分に含まれる各用語の関係、例えば、主語(何が)、述語(何をした)、目的語(何を)などの関係が分かるような図である。意味図は、1又は複数の構成要素を含んで構成される。構成要素は、図形、写真、あるいは文字などである。例えば、意味図は、主語を表す構成要素、述語を表す構成要素、目的語を表す構成要素の組み合わせで構成される。意味図の詳細については後述する。
意味図生成部30は、例えば、対象データ14のうち重要だと判断された重要部分の意味を表現した意味図を生成する。重要部分の判定は、例えば解析部28の解析結果に基づいて実行する。また、意味図生成部30は、解析部28が生成した要約文字列を表現した意味図を生成するようにしてもよい。
意味図生成部30は、対象データ14の複数の部分の意味を表現した複数の意味図を生成するようにしてもよい。例えば、上述のように解析部28が対象データ14を複数の区分に分けた場合には、意味図生成部30は、対象データ14の複数の区分それぞれを表現した複数の区分意味図からなる意味図を生成してもよい。もちろん、意味図生成部30は、複数の区分のうち、1つの区分を表現した1つの意味図を生成するようにしてもよい。
また、意味図生成部30は、対象データ14を表現した意味図を生成した後に、当該対象データ14に対する追加データ16がユーザなどによって指定された場合に、対象データの意味のみならず、追加データ16の意味も併せて考慮した上で、意味図を再生成する。
抽出部32は、意味図生成部30が生成した、対象データ14を表現した意味図に対して指定部分がユーザなどによって指定された場合に、当該指定部分の表現に利用した対象データ14の少なくとも一部分を部分データとして抽出する。指定部分は意味図の一部又は全部であってよく、また、部分データは対象データ14の全部であってもよい。抽出された部分データは記憶部12に記憶されるか、通信部18を介して他の装置へ送信される。
なお、抽出部32が対象データ14から部分データを抽出した際に、意味図生成部30は、対象データ14から部分データを除いた残りの部分を表現した意味図を再生成するようにしてもよい。もちろん、意味図生成部30は、部分データが抽出された場合に、生成済みの意味図をそのまま残す(すなわち再生成しない)ようにしてもよい。
表示制御部34は、種々の画面を表示部24に表示する処理を実行する。特に、表示制御部34は、意味図生成部30が生成(あるいは再生成)した意味図、追加データ16、あるいは抽出部32が抽出した部分データなどを表示部24に表示する。
通知制御部36は、対象データ14に対する追加データ16が指定されて、追加データ16が考慮されて意味図が再生成された場合、対象データ14に登場する登場対象であって意味図によって表現されている(意味図に含まれる)登場対象が、追加データ16を考慮することによって意味上の影響を受けた場合、当該登場対象に対する通知を出力する。また、通知制御部36は、対象データ14から部分データが抽出されて意味図が再生成された場合、対象データ14に登場する登場対象であって意味図によって表現されている登場対象が、部分データが除かれたことによって意味上の影響を受けた場合、当該登場対象に対する通知を出力する。
ここで、登場対象は人物を含むが、これに限られるものではない。例えば、登場対象には、AIロボットあるいは種々の装置(例えば動物に餌や薬を与える装置)などが含まれる。登場対象が人物である場合には、通知制御部36は、例えば、当該人物に対してメールを送信することなどによって通知を出力する。また、登場対象がAIロボットや装置である場合には、これらを制御するための信号を通知として出力する。
以下、意味図生成部30、抽出部32、表示制御部34、及び通知制御部36の処理の詳細について説明する。
<意味図の詳細>
まず、意味図生成部30が生成する意味図の詳細を説明する。図2には、意味図生成部30が生成した、対象データ14を表現した意味図40が表示部24に表示された例が示されている。
図2に示す通り、本実施形態においては、意味図40は、対象データ14における意味上の複数の区分に応じた複数の区分意味図42a〜42d(以下、複数の区分意味図42a〜42dを総称して区分意味図42と記載する)から構成されている。もちろん、意味図40は、対象データ14の1つの区分(一部分)を表現した1つの図であってもよい。
図2の例では、解析部28により対象データ14が目的、課題、解決手段、及び次回迄の課題の4つの区分に分けられ、意味図生成部30により、目的に対応する区分意味図42a、課題に対応する区分意味図42b、解決手段に対応する区分意味図42c、次回迄の課題に対応する区分意味図42dが生成され、表示制御部34により、これら区分意味図42から構成される意味図40が表示部24に表示されている。
対象データ14の各区分に対応する各区分意味図42は、解析部28により生成された各区分の要約文字列を表現したものであってよい。例えば、図2の区分意味図42aは対象データ14における目的の要約文字列を表現したものであり、区分意味図42bは対象データ14における課題の要約文字列を表現したものであり、区分意味図42cは対象データ14における解決手段の要約文字列を表現したものであり、区分意味図42dは対象データ14における次回迄の宿題の要約文字列を表現したものである。
あるいは、各区分に対応する各区分意味図42は、対象データ14の複数の区分それぞれの一部分(例えば重要部分)を表現したものであってもよい。
また、複数の区分としては、目的、課題、解決手段、及び次回までの課題に限られない。例えば、複数の区分としては、対象データ14の意味における起、承、転、及び結であってもよい。また、複数の区分としては、機器、通信、及び人など、対象データ14の内容に応じた区分であってもよい。
本実施形態では、意味図40(各区分意味図42)は、1又は複数の構成要素44から構成される。構成要素44によって、各区分の少なくとも一部の意味が表現されている。例えば、図2における目的の区分に対応する区分意味図42aにおいて、構成要素44として、男性を表す図形、スマートフォンを表す図形、お金を表す図形、及びキャッシュレジスタを表す図形を含んでおり、これらの構成要素44により「電子決済」が表現されている。また、スマートフォンによる電子決済であることをより分かりやすくするために、区分意味図42aにおいて、スマートフォンを表す図形からキャッシュレジスタを表す図形へ向かう矢印の構成要素44が含まれている。
意味図40に含まれる構成要素44としては図形に限らず、写真あるいは文字であってもよい。例えば、図2に示す区分意味図42dにおいては、「Aさん:コンビニβにヒアリング」といった文字の構成要素44が含まれている。
なお、表示制御部34は、意味図40に含まれる構成要素44が表現する用語の対象データ14における重要度に基づいて、当該構成要素44の表示態様を決定するようにしてもよい。例えば、解析部28の処理結果に基づいて、より重要であると判定された用語を表現する構成要素44をより大きく表示する。もちろん、構成要素44の重要度は大きさ以外の表示態様で表現されるようにしてもよい。例えば、構成要素44の色、あるいは、構成要素44が文字である場合には、構成要素44のフォントなどによって重要度を表現するようにしてもよい。
また、意味図生成部30は、対象データ14に含まれない付加情報を考慮して、当該付加情報の表現を含む意味図40を生成してもよい。図3に、付加情報の表現46を含む意味図40が表示部24に表示された例が示されている。図3の例では、複数の区分意味図42が、それぞれ付加情報の表現46を含んでいる。
本実施形態では、付加情報はユーザにより付加される。具体的には、意味図40が表示された後で、ユーザが表示された意味図40に対する付加情報を入力部20を用いて入力することで付加情報が付加される。図3の例では、各区分意味図42に対するユーザのコメントが、各区分意味図42(すなわち対象データ14の各区分)に対する付加情報であり、ユーザが入力したコメントに対応する文字列を含む吹き出しが付加情報の表現46となっている。もちろん、付加情報はそれ以外の方法によって付加されてもよいし、付加情報の内容はユーザによって入力されるもの以外であってもよい。
<追加データを考慮した意味図の再生成処理>
以下、意味図生成部30が、対象データ14を表現した意味図を生成した後に、追加データ16がユーザによって指定された場合に、意味図を再生成する処理の詳細について説明する。
まず、対象データ14に対する追加データ16の指定方法について説明する。本実施形態では、図4に示される通り、表示制御部34は、対象データ14を表現した(追加データ16を考慮する前の)意味図40と共に、意味図40の表示領域外に追加データ16を表示する。図4の例では、複数の追加データ16(動画ファイルB.mpeg4、文書6.docx、及び静止画像G.jpeg)が示されている。このように、追加データ16としては様々なデータ形式をとることができる。例えば、対象データ14が動画である場合にも、追加データとして静止画や電子文書(ドキュメント)を指定可能である。すなわち、上述のように、対象データ14と追加データ16のデータ形式が互いに異なっていてもよい。
図4においては、追加データ16は文字列で表示されているが、図5に示される通り、表示制御部34は、追加データ16を画像形式で表示してもよい。例えば、追加データ16が動画であれば、当該動画の1つのフレームを表示してもよい。あるいは、追加データ16が静止画であれば、当該静止画の一部あるいは縮小画像を表示してもよい。また、意味図生成部30が追加データ16の意味を表す画像を生成して、表示制御部34が当該画像を表示するようにしてもよい。
ユーザは、表示部24上において、追加データ16を意味図40の表示領域外から表示領域内へ移動させることで、当該意味図40に対応する対象データ14に対する追加データ16を指定することができる。図6には、追加データ16が意味図40の表示領域外から表示領域内へ移動される様子が示されている。表示部24上における追加データの移動は、例えば、タッチパネル上において、追加データ16上に指又はスタイラスをタッチして、タッチパネルへの接触を維持しながら指又はスタイラスを意味図40の表示領域内まで移動させること(すなわちスライド操作をすること)で実現される。あるいは、マウスを用いて、表示部24上を移動するポインタを追加データ16上に移動させた上でマウスのボタンを押下し、ボタンの押下を維持しながらポインタを意味図40の表示領域内まで移動させること(すなわちドラッグ操作をすること)で実現される。もちろん、その他の方法で追加データ16を意味図40の表示領域内に移動させてもよい。
複数の追加データ16が表示された場合には、ユーザは、表示された複数の追加データ16を個別に意味図40の表示領域内に移動可能となっている。これにより、複数の追加データ16がある場合に、ユーザは、複数の追加データ16の中から選択した追加データ16を指定することができる。
また、意味図40が複数の区分意味図42から構成される場合には、追加データ16の移動先によって、対象データ14の区分を指定した上で、追加データを指定することができる。図6の例では、追加データ16である静止画像G.jpegが、区分意味図42cの表示領域内に移動されている。これにより、対象データ14のうち、区分意味図42cに対応する解決手段の区分が指定区分として指定された上で、追加データ16が指定される。
なお、対象データ14に対する追加データ16の指定は、上記以外の方法で行ってもよい。例えば、表示制御部34が、対象データ14に対する追加データ16を選択する選択画面を表示部24に表示し、ユーザが、当該選択画面において追加データ16を指定するようにしてもよい。もちろんその場合であっても、指定区分を指定した上で追加データを指定可能となっているのが望ましい。また、対象データ14に対する追加データ16を指定するための音声指示を音声入力部22に入力することで追加データ16を指定するようにしてもよい。
対象データ14に対する追加データ16が指定されると、意味図生成部30は、指定された追加データ16を考慮して意味図を再生成する。そして、表示制御部34は、意味図生成部30が再生成した意味図40’を表示部24に表示させる。図7に、再生成された意味図40’の表示例が示されている。意味図40’においては、追加データ16を考慮する前の意味図40に比して、区分意味図42cにいくつかの構成要素44(図7において一点鎖線で囲まれた構成要素44)が加えられている。なお、再生成された意味図40’は追加データ16を考慮したものであるが、その内容は必ずしも追加データ16を考慮する前の意味図40と異なっていなくてもよい。追加データ16の内容によっては、意味図40と意味図40’の内容が同じである場合もある。
図7に示された意味図40’は、図6に示すように、指定区分として解決手段が指定された上で追加データ16が指定された場合に再生成されたものである。このように、対象データ14に対して、指定区分が指定された上で追加データ16が指定された場合、意味図生成部30は、追加データ16を考慮して、指定区分(図7の例では解決手段)を表現した区分意味図42c’(以下、追加データが指定されたことにより再生成された区分意味図を総称して区分意味図42’と記載する)を再生成する。例えば、区分意味図42c’は、対象データ14の指定区分である解決手段の内容、及び追加データ16の内容を表現したものとなる。このとき、指定区分以外の区分である他区分の区分意味図42a、42b、及び42cは再生成の対象としなくてもよい。
追加データ16の内容を対象データ14の指定区分の内容に追加した場合、他区分の内容にも影響が及ぶ場合がある。例えば、指定区分である解決手段の内容に追加データ16の内容が追加された結果、他区分である次回までの宿題の内容が変化する場合がある。また、例えば、指定区分である課題の内容に追加データ16の内容が追加された結果、他区分である解決手段あるいは次回までの宿題の内容が変化する場合がある。
したがって、対象データ14に対して、指定区分が指定された上で追加データ16が指定された場合、意味図生成部30は、指定区分に対応する区分意味図42cのみならず、指定区分への追加データ16によって内容が変化する他区分に対応する区分意味図42a、42b、及び42dも再生成の対象とするようにしてもよい。
追加データ16が指定されたときに意味図の再生成の対象となる他区分はユーザによって選択可能となっていてもよい。本実施形態では、図8に示すように、指定区分が指定された上で追加データ16が指定されたときに、表示制御部34は、意味図の再生成の対象となる他区分をユーザに選択させるための他区分選択ウィンドウ50を表示する。ユーザが他区分選択ウィンドウ50において意味図の再生成の対象となる他区分を選択すると、意味図生成部30は、追加データ16を考慮して、指定区分の区分意味図42’cと、選択された他区分の区分意味図42’を再生成する。
図9には、他区分選択ウィンドウ50において他区分として次回までの宿題が選択され、解決手段を指定区分として追加データ16が指定された場合に、指定区分の解決手段に応じた区分意味図42c’と他区分の次回までの宿題に応じた区分意味図42d’が再生成されて表示された例が示されている。再生成された区分意味図42d’においては、解決手段の内容が変化したことで、次回までの宿題として、新たに、CさんがレジメーカにΩをヒアリングすることが示されている。
ここで、対象データ14に対して追加データ16が指定されたことによって、区分意味図42d’が示すように、対象データ14に登場する人物であるCさんが意味上の影響を受けている。したがって、通知制御部36は、Cさんに対して通知(例えばメールなど)を出力する。これにより、Cさんは、追加データ16によって自分の次回までの宿題が変更されたことを容易に把握することができる。
また、追加データ16が指定されたときに意味図の再生成の対象となる他区分は、ユーザ選択によらずに自動的に決定されるようにしてもよい。具体的には、意味図生成部30は、対象データ14において、指定区分の意味の変化に連動して意味が変化する関係にある他区分の意味図を再生成する対象として自動的に選択し、選択した他区分の変化後の意味を表現する意味図を再生成するようにしてもよい。
指定区分の意味の変化に連動して意味が変化する関係にある他区分とは、例えば、指定区分が上位概念の意味を有している場合にその下位概念の意味を有する他区分、あるいは、指定区分が上流の意味を有している場合にその下流の意味を有する他区分である。また、例えば、対象データ14が一連のステップを表すデータである場合においては、指定区分が前ステップに関する意味を有している場合に後ステップに関する意味を有する他区分である。
本実施形態の例(目的、課題、解決手段、及び次回までの宿題の4つの区分の例)では、例えば、課題が変化することで、解決手段及び次回までの宿題が変化する場合が多い。したがって、課題が指定区分に指定された上で追加データ16が指定された場合には、意味図生成部30は、課題のみならず、解決手段及び次回までの宿題を意味図の再生成の対象として自動的に選択してよい。
なお、追加データ16が指定されたときに意味図を再生成する対象を指定区分の区分意味図42のみとするか、あるいは他区分の区分意味図42まで含めることとするかは、ユーザなどによって設定可能となっていてもよい。
上述の通り、意味図生成部30は、付加情報の表現46を含む意味図40を生成することができる。図10に示すように、付加情報の表現46を含む意味図40に対して追加データ16が指定された場合にも、意味図生成部30は意味図40を再生成の対象とする。この場合、付加情報が対象データ14に含まれない意味を有していることから、再生成した意味図40’における付加情報の表現46の取り扱いが問題となり得る。
図11には、付加情報の表現46を含む意味図40に対して、指定区分が指定された上で追加データ16が指定されて再生成された意味図40’の第1の表示例が示されている。図10と図11を比較して分かるように、本実施形態においては、意味図生成部30は、追加データ16が指定される前の意味図40が有する付加情報の表現46を変更せずに、意味図40’を再生成する。
また、図12には、付加情報の表現46を含む意味図40に対して、指定区分が指定された上で追加データ16が指定されることで再生成された意味図40’の第2の表示例が示されている。図12に示される通り、意味図生成部30は、追加データ16が指定される前の意味図40が有する付加情報の表現46を含まない意味図40’を再生成するようにしてもよい。図12の例では、指定区分として解決手段が指定されているので、指定区分に係る区分意味図42c’のみが再生成されており、区分意味図42c’においては区分意味図42cが有していた付加情報の表現46が削除されている。これにより、区分意味図42c’の表現内容と、区分意味図42c’に付された付加情報の表現46の内容とに齟齬が生じることを防止している。
また、表示制御部34は、付加情報の表現46を含む意味図40に対して追加データ16が指定されることで再生成された意味図40’を表示した場合、付加情報の編集をユーザに促す画面を表示部24に表示するようにしてもよい。図13には、付加情報の編集をユーザに促す画面の表示例が示されている。図13の例では、指定区分として解決手段が指定され、それに応じて、指定区分である解決手段の区分意味図42c’、及び、他区分である次回までの宿題の区分意味図42d’が再生成されている。したがって、表示制御部34は、再生成された区分意味図42c’においては、区分意味図42cが有していた付加情報の表現46を削除した上で、新たに、ユーザに区分意味図42c’に対する付加情報(ここではコメント)を入力するためのコメント入力欄52を表示している。同様に、表示制御部34は、再生成された区分意味図42d’においては、区分意味図42dが有していた付加情報の表現46を削除した上で、新たに、ユーザに区分意味図42d’に対する付加情報を入力するためのコメント入力欄52を表示している。
付加情報の編集をユーザに促す画面としては、図13に示した画面以外の画面であってもよい。また、付加情報の編集をユーザに促す画面を表示する前に、ユーザに「意味図が再生成されたのでコメントの編集をしますか?」といったような確認画面を表示し、ユーザの確認を得た上で付加情報の編集をユーザに促す画面を表示するようにしてもよい。
また、図13の例においては、区分意味図42c’に対する付加情報と、区分意味図42d’に対する付加情報を同時に編集可能となっているが、複数の区分意味図42’が再生成された場合には、複数の区分意味図42’についての複数の付加情報をユーザに順次編集させるべく、各区分意味図42’に対する付加情報の編集画面を順次表示するようにしてもよい。このとき、付加情報の編集画面の表示順は、再生成された各区分意味図42’に対応する対象データ14の各区分間の関係に応じて決定されるのが好ましい。例えば、対象データ14が起、承、転、結の区分に分けられている場合には、起の区分意味図42’に対する付加情報、承の区分意味図42’に対する付加情報、転の区分意味図42’に対する付加情報、結の区分意味図42’に対する付加情報の順に編集画面を表示させるのが好ましい。
以上説明した通り、情報処理装置10においては、対象データ14における意味上の区分を表現した意味図40が生成された後に、対象データ14に対して追加データ16が指定された場合に、対象データ14及び追加データ16の意味を考慮した意味図40’が再生成されて表示される。これにより、ユーザは、追加データ16を考慮した対象データ14の内容をより容易に把握できるようになる。例えば、対象データ14が会議の議事録である場合に、会議の出席者から追加資料が事後的に提出された場合において、当該追加資料を考慮した意味図40’を再生成することで、ユーザは、追加資料を含む議事録の内容を容易に把握することができるようになる。
<意味図が生成された対象データからの部分データの抽出処理>
以下、対象データ14を表現した意味図40が表示された後に、抽出部32が、対象データ14の少なくとも一部分を抽出する処理の詳細について説明する。
図14に、対象データ14を表現した意味図40において指定部分が指定されて、部分データが抽出される様子が示されている。抽出部32は、表示部24に表示された対象データ14を表現した意味図40の一部又は全部である指定部分がユーザなどによって指定された場合に、指定部分の表現に利用した対象データ14の少なくとも一部分である部分データを抽出する。
本実施形態では、表示部24上において、意味図40の一部又は全部を指定部分として選択して、当該指定部分を意味図40表示領域内から表示領域外へ移動させることで、指定部分を指定することができる。追加データの移動と同様に、表示部24上における指定部分の移動は、例えば、スライド操作あるいはドラッグ操作などにより実現される。
なお、指定部分として意味図40の全体が指定された場合、抽出部は対象データ14そのものを抽出するようにしてもよい。例えば、対象データがサーバなどに記憶されていてユーザが直接対象データ14にアクセスできない場合において、ユーザは、意味図40を全体を指定部分として指定することで、意味図40が表現する対象データ14の全体を取得することができる。
図14においても、意味図40は、対象データ14の複数の区分に対応する複数の区分意味図42から構成されている。このように、意味図40が複数の区分意味図42から構成される場合、ユーザがタッチした区分意味図42の全体が指定部分として選択されるようにすることができる。例えば、図14に示す通り、ユーザが区分意味図42cをタッチし、そのまま区分意味図42cを意味図40の表示領域外へスライド操作すると、指定部分として区分意味図42cの全体が指定される。
指定部分が指定されると、抽出部32は、指定部分の表現に利用した対象データ14の少なくとも一部分である部分データ70を抽出する。図14の例では、指定部分として区分意味図42cが指定されているので、この場合、抽出部32は、対象データ14から、区分意味図42cが表現する部分を部分データ70として抽出する。
なお、ユーザがタッチした区分意味図42の一部を指定部分として指定可能となっていてもよい。この場合、例えば、ユーザが区分意味図42の一部を指で囲むなどして指定した上で、指定した部分を意味図40の表示領域外へ移動させるなどの操作をすることで、区分意味図42の一部を指定部分として指定することができる。
指定部分が意味図40の表示領域内から表示領域外へ移動された場合、表示制御部34は、指定部分の移動先に、抽出された部分データ70を表示する。なお、指定部分の移動先とは、スライド操作の終点(指あるいはスタイラスがタッチパネルから離された位置)、あるいはドラッグ操作の終点(マウスのボタンの押下が解除された位置)である。これにより、ユーザは、抽出された部分データ70がどのようなデータであるかを容易に把握することができる。図14の例では、区分意味図42cは、動画ファイルA.mpeg4、文書3.docx、静止画像C.jpegを表現したものであるので、部分データとしてこれらのデータが抽出されている。
対象データ14のデータ形式と部分データ70のデータ形式が互いに異なっていてもよい。例えば、対象データ14が動画である場合、抽出部32は、当該動画の1フレームの静止画を部分データ70として抽出してもよい。
なお、図14においては、意味図40は複数の区分意味図42から構成されているが、部分データ70の抽出の対象となる対象データ14を表現した意味図は、複数の区分に分けられたものでなくてもよい。
意味図40が1又は複数の構成要素を含んでいる場合、構成要素を指定部分として指定することができるようになっていてもよい。図15には、意味図40に含まれる構成要素44が指定部分として指定される様子が示されている。図15に示す通り、ユーザは、意味図に含まれる構成要素44を選択して、当該構成要素44を意味図40表示領域内から表示領域外へ移動させることで、当該構成要素44を指定部分として指定することができる。なお、複数の構成要素44を指定部分として指定可能となっていてもよい。
構成要素44が指定されると、抽出部32は、対象データ14のうち、指定された構成要素44の表現に利用した少なくとも一部分である部分データ70を抽出する。図15の例では、指定部分として、「携帯端末」を表す構成要素44が指定されているので、この場合、抽出部32は、対象データ14から、当該構成要素44が表現する部分を部分データ70として抽出する。
意味図40を構成する複数の区分意味図42において、共通して含まれる構成要素44が指定部分として指定された場合、抽出部32は、指定された構成要素44を含む複数の区分意味図42に対応する複数の区分それぞれから、指定された構成要素44の表現に利用した部分データ70を抽出する。
図16に示された意味図40においては、「サーバ」を表す構成要素44は、区分意味図42b及び42cに共通して含まれている。この場合、ユーザによって、区分意味図42b及び42cの一方に含まれる「サーバ」を表す構成要素44が指定部分として指定された場合に、区分意味図42b及び42cの他方に含まれる「サーバ」を表す構成要素44も自動的に指定部分として指定されるようにしてもよい。その上で、抽出部32は、区分意味図42bに対応する対象データ14の区分である課題から、「サーバ」を表す構成要素44の表現に利用した部分を部分データ70として抽出すると共に、区分意味図42cに対応する対象データ14の区分である解決手段から、「サーバ」を表す構成要素44の表現に利用した部分を部分データ70として抽出するようにしてもよい。これにより、複数の部分データ70が抽出される。
なお、意味図40における指定部分の指定は、上記以外の方法で行ってもよい。例えば、意味図40において指定部分を指定するための音声指示を音声入力部22に入力することで指定部分を指定するようにしてもよい。
抽出部32によって部分データが抽出された場合、意味図生成部30は、対象データ14から部分データを除いた残りの部分に応じて意味図を再生成し、表示制御部34が再生成された意味図を表示部24に表示するようにしてもよい。
図17には、解決手段を表現した区分意味図42cから「携帯端末」を表す構成要素44が指定部分として指定されて部分データが抽出された場合(図15参照)に、意味図生成部30が再生成した区分意味図42c’’(以下、部分データが抽出されたことにより再生成された区分意味図を総称して区分意味図42’’と記載する)が示されている。図17の例のように、意味図40が複数の区分意味図42から構成されている場合において、いずれかの区分意味図42の一部又は全部が指定部分として指定されて、当該指定部分に応じた部分データ70が抽出された場合、意味図生成部30は、指定部分を含む区分意味図42に対応する対象データ14の区分のうち部分データ70を除いた残りの部分を表現した区分意味図42’’を再生成する。例えば、区分意味図42c’’は、対象データ14の指定区分である解決手段の内容から部分データ70を除いた残りの部分を表現したものである。図17の例においては、区分意味図42c’’は、区分意味図42cに比して、指定部分として指定された「携帯端末」を表す構成要素44が削除されている。
指定部分に対応する対象データ14の区分の内容から部分データ70の内容を除いた場合、指定部分に対応する区分である他区分の内容にも影響が及ぶ場合がある。例えば、指定部分に対応する区分である解決手段の内容から部分データ70の内容を除いた結果、他区分である次回までの宿題の内容が変化する場合がある。また、例えば、指定部分に対応する区分である課題の内容から部分データ70の内容を除いた結果、他区分である解決手段あるいは次回までの宿題の内容が変化する場合がある。
したがって、意味図40が複数の区分意味図42から構成されている場合において、指定部分に対応する対象データ14の区分の内容から部分データ70が抽出された場合、意味図生成部30は、指定部分を含む区分意味図42cのみならず、部分データ70が抽出されることによって内容が変化する他区分に対応する区分意味図42a,42b又は42dも再生成の対象とするようにしてもよい。
部分データ70が抽出されたときに意味図の再生成の対象となる他区分はユーザによって選択可能となっていてもよい。本実施形態では、図18に示すように、部分データ70が抽出されたときに、表示制御部34は、意味図の再生成の対象となる他区分をユーザに選択させるための他区分選択ウィンドウ80を表示する。ユーザが他区分選択ウィンドウ80において意味図の再生成の対象となる他区分を選択すると、意味図生成部30は、対象データ14から部分データ70を除いた内容を表現するように、指定区分の区分意味図42c’’と、選択された他区分の区分意味図42’’を再生成する。
図19には、区分意味図42cに含まれる構成要素44が指定部分として指定されて部分データ70が抽出され、他区分選択ウィンドウ80において他区分として次回までの宿題が選択された場合に、指定部分に係る区分意味図42c’’と選択された他区分に係る次回までの宿題に応じた区分意味図42d’’が再生成されて表示された例が示されている。再生成された区分意味図42d’’においては、解決手段の内容が変化したことで、次回までの宿題として、新たに、CさんがレジメーカにΩをヒアリングすることが示されている。
ここで、対象データ14から部分データ70が除かれたことによって、区分意味図42d’’が示すように、対象データ14に登場する人物であるCさんが意味上の影響を受けている。したがって、通知制御部36は、Cさんに対して通知(例えばメールなど)を出力する。これにより、Cさんは、対象データ14から部分データ70が除かれたことによって自分の次回までの宿題が変更されたことを容易に把握することができる。
また、部分データ70が抽出されたときに意味図の再生成の対象となる他区分は、ユーザ選択によらずに自動的に決定されるようにしてもよい。具体的には、意味図生成部30は、対象データ14において、部分データ70が抽出された区分の意味の変化に連動して意味が変化する関係にある他区分を意味図を再生成する対象として自動的に選択するようにしてもよい。
なお、部分データ70が抽出されたときに意味図を再生成する対象を指定部分を含む区分意味図42のみとするか、あるいは他区分の区分意味図42まで含めることとするかは、ユーザなどによって設定可能となっていてもよい。
図20に示すように、付加情報の表現46を含む意味図40に対して指定部分が指定された場合、付加情報は対象データ14の内容に含まれない情報であるため、抽出部32は、部分データ70として付加情報を抽出しなくてもよい。一方、付加情報の表現46を含む意味図40に対して指定部分が指定された場合、抽出部32は、付加情報を含めた部分データ70を抽出するようにしてもよい。図21には、部分データ70として付加情報である「ユーザの付加情報.txt」が抽出されている。
また、付加情報の表現46を含む意味図40に対して指定部分が指定されて部分データ70が抽出された場合にも、意味図生成部30は意味図40を再生成の対象とする。図21には、付加情報の表現46を含む意味図40に対して指定部分が指定されて部分データ70が抽出されたことで再生成された意味図40’’の第1の表示例が示されている。図20と図21を比較して分かるように、本実施形態においては、意味図生成部30は、部分データ70が抽出される前の意味図40が有する付加情報の表現46を変更せずに、意味図40’’を再生成する。
また、図22には、付加情報の表現46を含む意味図40に対して指定部分が指定されて部分データ70が抽出されたことで再生成された意味図40’’の第2の表示例が示されている。図22に示される通り、意味図生成部30は、部分データ70が抽出される前の意味図40が有する付加情報の表現46を含まない意味図40’’を再生成するようにしてもよい。図22の例では、区分意味図42cの一部が指定部分として指定されているので、区分意味図42c’’のみが再生成されており、区分意味図42c’’においては区分意味図42cが有していた付加情報の表現46が削除されている。これにより、区分意味図42c’’の表現内容と、区分意味図42c’’に付された付加情報の表現46の内容とに齟齬が生じることを防止している。
また、表示制御部34は、付加情報の表現46を含む意味図40に対して指定部分が指定されて部分データ70が抽出されることで再生成された意味図40’’を表示した場合、付加情報の編集をユーザに促す画面を表示部24に表示するようにしてもよい。図23には、付加情報の編集をユーザに促す画面の表示例が示されている。図23の例では、区分意味図42cの一部が指定部分として指定されて部分データ70が抽出され、それに応じて、指定部分に係る区分意味図42c’’、及び、他区分に係る区分意味図42d’’が再生成されている。したがって、表示制御部34は、再生成された区分意味図42c’’においては、区分意味図42cが有していた付加情報の表現46を削除した上で、新たに、ユーザに区分意味図42c’’に対する付加情報(ここではコメント)を入力するためのコメント入力欄52を表示している。同様に、表示制御部34は、再生成された区分意味図42d’’においては、区分意味図42dが有していた付加情報の表現46を削除した上で、新たに、ユーザに区分意味図42d’’に対する付加情報を入力するためのコメント入力欄52を表示している。
追加データ16が追加されて意味図40’が再生成された場合同様、付加情報の編集をユーザに促す画面としては、図23に示した画面以外の画面であってもよい。また、付加情報の編集をユーザに促す画面を表示する前に、ユーザに「意味図が再生成されたのでコメントの編集をしますか?」といったような確認画面を表示し、ユーザの確認を得た上で付加情報の編集をユーザに促す画面を表示するようにしてもよい。
また、図23の例においては、区分意味図42c’’に対する付加情報と、区分意味図42d’’に対する付加情報を同時に編集可能となっているが、追加データ16が追加されて意味図40’が再生成された場合同様、複数の区分意味図42’’が再生成された場合には、複数の区分意味図42’’についての複数の付加情報をユーザに順次編集させるべく、各区分意味図42’’に対する付加情報の編集画面を順次表示するようにしてもよい。このとき、付加情報の編集画面の表示順は、再生成された各区分意味図42’’に対応する対象データ14の各区分間の関係に応じて決定されるのが好ましい。
以上説明した通り、情報処理装置10においては、対象データ14における意味上の区分を表現した意味図40が生成された後に、意味図40において指定部分が指定された場合に、当該指定部分の表現に利用した対象データ14の少なくとも一部を部分データとして抽出することができる。例えば、対象データ14が会議の議事録である場合には、ユーザは、意味図40において議事録の大まかな内容を把握した上で、所望の部分を指定部分として指定して抽出された部分データ70を確認することで、所望の部分の詳細を確認することが容易にできるようになる。また、対象データ14の一部である部分データ70を種々の目的に転用することが容易にできるようになる。また、部分データ70を除いた対象データ14の残りの部分で意味図40’’が再生成されるから、生成された意味図40の一部を削除して意味図40’’を再生成させる用途で部分データ70を抽出用することもできる。
以上、本発明に係る実施形態を説明したが、本発明は上記実施形態に限られるものではなく、各実施形態を組み合わせて利用してもよいし、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。
10 情報処理装置、12 記憶部、14 対象データ、16 追加データ、18 通信部、20 入力部、22 音声入力部、24 表示部、26 制御部、28 解析部、30 意味図生成部、32 抽出部、34 表示制御部、36 通知制御部。

Claims (20)

  1. 対象データの意味を表現した図を表示部に表示する表示制御部と、
    前記図の一部又は全部である指定部分が指定された場合、前記指定部分の表現に利用した前記対象データの少なくとも一部分である部分データを抽出する抽出部と、
    を備える情報処理装置。
  2. 前記表示制御部は、前記対象データにおける意味上の複数の区分それぞれの意味を表現した複数の前記図を表示し、
    前記抽出部は、前記複数の図のうち、前記指定部分として指定された前記図の表現に利用した前記部分データを抽出する、
    請求項1に記載の情報処理装置。
  3. 前記図は、1又は複数の構成要素から構成され、
    前記抽出部は、前記構成要素が前記指定部分として指定された場合、指定された前記構成要素の表現に利用した前記部分データを抽出する、
    請求項2に記載の情報処理装置。
  4. 前記抽出部は、前記複数の図に共通して含まれる前記構成要素が前記指定部分として指定された場合、指定された前記構成要素を含む前記複数の図に対応する複数の前記区分それぞれから、指定された前記構成要素の表現に利用した前記部分データを抽出する、
    請求項3に記載の情報処理装置。
  5. 前記表示制御部は、前記抽出部が前記部分データを抽出した場合、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、
    請求項1に記載の情報処理装置。
  6. 前記表示制御部は、前記対象データにおける意味上の複数の区分それぞれの意味を表現した複数の前記図を表示し、前記複数の図のうちいずれかの前記図の一部又は全部が前記指定部分として指定されて当該指定部分に応じた前記部分データが抽出された場合、前記指定部分を含む前記図に対応する前記区分のうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、
    請求項5に記載の情報処理装置。
  7. 前記表示制御部は、前記指定部分を含む前記図に対応する前記区分から前記部分データを除いたことによって変化する、当該区分以外の区分である他区分の意味に応じて再生成された前記図を表示する、
    請求項6に記載の情報処理装置。
  8. 前記図が生成される前記他区分が利用者によって選択可能である、
    請求項7に記載の情報処理装置。
  9. 前記表示制御部は、前記部分データが抽出された前記区分の意味の変化に連動して意味が変化する関係にある前記他区分の変化後の意味に応じて再生成された前記図を表示する、
    請求項7に記載の情報処理装置。
  10. 前記抽出部は、前記表示部上において、前記図の表示領域内から前記表示領域外へ前記指定部分が移動されることで、前記部分データを抽出する、
    請求項1に記載の情報処理装置。
  11. 前記表示制御部は、前記指定部分の移動先の位置に前記部分データを表示する、
    請求項10に記載の情報処理装置。
  12. 前記表示制御部は、前記対象データに含まれない付加情報の表現を含む前記図を表示し、
    前記抽出部は、前記部分データとして前記付加情報を抽出しない、
    請求項1に記載の情報処理装置。
  13. 前記表示制御部は、前記対象データに含まれない付加情報の表現を含む前記図を表示し、
    前記抽出部は、前記部分データとして前記付加情報を抽出する、
    請求項1に記載の情報処理装置。
  14. 前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出した場合、前記付加情報の表現を変更せずに、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示する、
    請求項12又は13に記載の情報処理装置。
  15. 前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出した場合、前記対象データのうち前記部分データを除いた残りの部分に応じて生成された、前記付加情報の表現を含まない前記図を表示する、
    請求項12又は13に記載の情報処理装置。
  16. 前記表示制御部は、前記付加情報の表現を含む前記図を表示した後に、前記抽出部が前記部分データを抽出して前記対象データのうち前記部分データを除いた残りの部分に応じて生成された前記図を表示した場合、前記付加情報の編集を利用者に促す画面を前記表示部に表示する、
    請求項12又は13に記載の情報処理装置。
  17. 前記対象データと前記部分データのデータ形式が互いに異なる、
    請求項1に記載の情報処理装置。
  18. 前記指定部分を指定するための音声指示を受け付ける音声入力部、
    をさらに備える、請求項1に記載の情報処理装置。
  19. 前記部分データが抽出されて前記図が生成された場合、前記対象データに登場する登場対象であって前記図によって表現されている登場対象が、前記部分データが除かれたことによって意味上の影響を受けた場合、当該登場対象に対する通知を出力する通知制御部、
    をさらに備える、請求項5に記載の情報処理装置。
  20. コンピュータを、
    対象データの意味を表現した図を表示部に表示する表示制御部と、
    前記図の一部又は全部である指定部分が指定された場合、前記指定部分の表現に利用した前記対象データの少なくとも一部分である部分データを抽出する抽出部と、
    として機能させる情報処理プログラム。
JP2018079379A 2018-04-17 2018-04-17 情報処理装置及び情報処理プログラム Active JP7095377B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018079379A JP7095377B2 (ja) 2018-04-17 2018-04-17 情報処理装置及び情報処理プログラム
US16/043,176 US10970583B2 (en) 2018-04-17 2018-07-24 Information processing apparatus, and non-transitory computer readable medium
CN201811018206.1A CN110399605A (zh) 2018-04-17 2018-09-03 信息处理装置及存储程序的计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018079379A JP7095377B2 (ja) 2018-04-17 2018-04-17 情報処理装置及び情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2019185676A true JP2019185676A (ja) 2019-10-24
JP7095377B2 JP7095377B2 (ja) 2022-07-05

Family

ID=68161715

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018079379A Active JP7095377B2 (ja) 2018-04-17 2018-04-17 情報処理装置及び情報処理プログラム

Country Status (3)

Country Link
US (1) US10970583B2 (ja)
JP (1) JP7095377B2 (ja)
CN (1) CN110399605A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021156998A1 (ja) * 2020-02-06 2021-08-12 三菱電機株式会社 データ処理装置、データ処理方法及びデータ処理プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10322331A (ja) * 1997-05-20 1998-12-04 Fujitsu Ltd 会議支援システム及び記録媒体
JP2011180948A (ja) * 2010-03-03 2011-09-15 Brother Industries Ltd 端末装置、会議サーバおよび処理プログラム
JP2015088913A (ja) * 2013-10-30 2015-05-07 株式会社リコー 会議支援装置、会議支援システム及び会議支援方法
JP2017004270A (ja) * 2015-06-10 2017-01-05 日本電信電話株式会社 会議支援システム、及び会議支援方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11306197A (ja) * 1998-04-24 1999-11-05 Canon Inc 画像処理装置及びその方法、コンピュータ可読メモリ
US6804684B2 (en) * 2001-05-07 2004-10-12 Eastman Kodak Company Method for associating semantic information with multiple images in an image database environment
JP4833216B2 (ja) * 2005-09-21 2011-12-07 パナソニック株式会社 映像作成装置および映像作成方法
CN101452504A (zh) * 2008-12-05 2009-06-10 深圳市斯尔顿科技有限公司 医疗诊断管理***及其方法
CN101807198A (zh) * 2010-01-08 2010-08-18 中国科学院软件研究所 一种基于草图的视频摘要生成方法
JP2012008663A (ja) * 2010-06-22 2012-01-12 Hama Rubber Eikomu Kk 思考の過程で対話により知識の構造化、ビジュアル化を支援し、構造化した知識を共有化できる対話型知識データベースシステム12
CN102110304B (zh) * 2011-03-29 2012-08-22 华南理工大学 一种基于素材引擎的漫画自动生成方法
JP2013025748A (ja) 2011-07-26 2013-02-04 Sony Corp 情報処理装置、動画要約方法、及びプログラム
KR101858608B1 (ko) * 2011-10-28 2018-05-17 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP6200431B2 (ja) * 2011-12-27 2017-09-20 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. テキスト分析システム
CN102609512A (zh) * 2012-02-07 2012-07-25 北京中机科海科技发展有限公司 异构信息知识挖掘与可视化分析***及方法
JP5870742B2 (ja) 2012-02-20 2016-03-01 ソニー株式会社 情報処理装置、システムおよび情報処理方法
CN103870506B (zh) * 2012-12-17 2017-02-08 中国科学院计算技术研究所 一种网页信息的抽取方法和***
WO2014134093A1 (en) * 2013-03-01 2014-09-04 Nuance Communications, Inc. Methods and apparatus for determining a clinician's intent to order an item
EP3039578A1 (en) * 2013-08-30 2016-07-06 Unsilo A/S Method and system for identifying and evaluating semantic patterns in written language
CN103473369A (zh) * 2013-09-27 2013-12-25 清华大学 基于语义的信息采集方法及***
CN103699689B (zh) * 2014-01-09 2017-02-15 百度在线网络技术(北京)有限公司 事件知识库的构建方法及装置
US9946924B2 (en) * 2015-06-10 2018-04-17 Accenture Global Services Limited System and method for automating information abstraction process for documents
CN105047029B (zh) * 2015-07-20 2018-02-13 北京大学 一种自动展示几何题解题过程的课件生成方法
US10181187B2 (en) * 2015-09-09 2019-01-15 Canon Kabushiki Kaisha Information processing apparatus, method thereof, information processing system, and computer-readable storage medium that display a medical image with comment information
DE102016010909A1 (de) * 2015-11-11 2017-05-11 Adobe Systems Incorporated Strukturiertes Modellieren, Extrahieren und Lokalisieren von Wissen aus Bildern
CN106156365B (zh) * 2016-08-03 2019-06-18 北京儒博科技有限公司 一种知识图谱的生成方法及装置
CN106815293A (zh) * 2016-12-08 2017-06-09 中国电子科技集团公司第三十二研究所 一种面向情报分析的构建知识图谱的***及方法
CN107785071A (zh) * 2017-10-25 2018-03-09 德清晨英电子科技有限公司 一种智慧医疗病情跟踪***及方法
CN107657063A (zh) * 2017-10-30 2018-02-02 合肥工业大学 医学知识图谱的构建方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10322331A (ja) * 1997-05-20 1998-12-04 Fujitsu Ltd 会議支援システム及び記録媒体
JP2011180948A (ja) * 2010-03-03 2011-09-15 Brother Industries Ltd 端末装置、会議サーバおよび処理プログラム
JP2015088913A (ja) * 2013-10-30 2015-05-07 株式会社リコー 会議支援装置、会議支援システム及び会議支援方法
JP2017004270A (ja) * 2015-06-10 2017-01-05 日本電信電話株式会社 会議支援システム、及び会議支援方法

Also Published As

Publication number Publication date
CN110399605A (zh) 2019-11-01
JP7095377B2 (ja) 2022-07-05
US20190318192A1 (en) 2019-10-17
US10970583B2 (en) 2021-04-06

Similar Documents

Publication Publication Date Title
JP7447965B2 (ja) 文書を編集するためのプログラム、方法、及び装置
CN108027873B (zh) 基于捕捉到的笔画信息来与助理组件交互
US10671251B2 (en) Interactive eReader interface generation based on synchronization of textual and audial descriptors
US10664650B2 (en) Slide tagging and filtering
US10552539B2 (en) Dynamic highlighting of text in electronic documents
CN104182469B (zh) 对文档进行注释的方法和输入法***
WO2005098663A1 (ja) 情報管理装置
JP2017174090A (ja) 情報処理装置及びプログラム
CN109033163B (zh) 一种在日历中添加日记的方法及装置
JP7095377B2 (ja) 情報処理装置及び情報処理プログラム
CN107908792B (zh) 信息推送方法和装置
JP7095376B2 (ja) 情報処理装置及び情報処理プログラム
KR100897992B1 (ko) 자연언어처리 기술을 이용한 텍스트-이미지 변환 시스템및 그 방법
JP2019133605A (ja) 情報処理装置及び情報処理プログラム
JPWO2020044290A5 (ja)
JP7225541B2 (ja) 情報処理装置及び情報処理プログラム
JP2018136771A (ja) 学習装置、編集装置、学習方法、編集方法およびプログラム
US10102197B2 (en) Classifier designer—a graphical system for designing classifiers using visual representations of example content
JP2019133604A (ja) 情報処理装置及び情報処理プログラム
JP2012108899A (ja) 電子機器、ネットワークシステム、およびコンテンツ編集方法
US20170177178A1 (en) E-reader summarization and customized dictionary
JP2011248739A (ja) 文書処理装置、文書処理方法、及びプログラム
JP2021067922A (ja) 映像コンテンツに対する合成音のリアルタイム生成を基盤としたコンテンツ編集支援方法およびシステム
JP2014235511A (ja) 情報処理装置、制御方法、及びコンピュータプログラム
CN110325989A (zh) 估计的阅读时间

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220606

R150 Certificate of patent or registration of utility model

Ref document number: 7095377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150