JP7301596B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP7301596B2
JP7301596B2 JP2019089139A JP2019089139A JP7301596B2 JP 7301596 B2 JP7301596 B2 JP 7301596B2 JP 2019089139 A JP2019089139 A JP 2019089139A JP 2019089139 A JP2019089139 A JP 2019089139A JP 7301596 B2 JP7301596 B2 JP 7301596B2
Authority
JP
Japan
Prior art keywords
extracted
item name
character string
extracting
value corresponding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019089139A
Other languages
English (en)
Other versions
JP2020184276A5 (ja
JP2020184276A (ja
Inventor
夏樹 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019089139A priority Critical patent/JP7301596B2/ja
Priority to US16/864,421 priority patent/US11301675B2/en
Publication of JP2020184276A publication Critical patent/JP2020184276A/ja
Publication of JP2020184276A5 publication Critical patent/JP2020184276A5/ja
Application granted granted Critical
Publication of JP7301596B2 publication Critical patent/JP7301596B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/413Classification of content, e.g. text, photographs or tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/12Digital output to print unit, e.g. line printer, chain printer
    • G06F3/1201Dedicated interfaces to print systems
    • G06F3/1223Dedicated interfaces to print systems specifically adapted to use a particular technique
    • G06F3/1237Print job management
    • G06F3/1253Configuration of print job parameters, e.g. using UI at the client
    • G06F3/1256User feedback, e.g. print preview, test print, proofing, pre-flight checks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/416Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00355Mark-sheet input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00355Mark-sheet input
    • H04N1/00358Type of the scanned marks
    • H04N1/00366Marks in boxes or the like, e.g. crosses or blacking out
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00352Input means
    • H04N1/00355Mark-sheet input
    • H04N1/00368Location of the scanned marks
    • H04N1/00374Location of the scanned marks on the same page as at least a part of the image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Character Input (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Character Discrimination (AREA)

Description

画像データ内に記述された文書を解析し文書情報を取得するための装置、方法、プログラムに関する。
従来、帳票などの紙文書をスキャンして電子化し、文字認識処理(OCR処理)をして文字情報を抽出することで、紙文書に記述された内容を取得する方法がある。この方法を用いて、例えばレシートや領収証、請求書などから項目名(Key)とその値(Value)を取得する技術が広く知られている。またそのような技術において、チェックボックスのような選択式の項目に対してユーザが選択した値を取得する方法が提案されている(特許文献1参照)。特許文献1に記載の方法では、帳票のスキャン画像と、事前に保持しておいた帳票のフォーマットとを照らし合わせて、チェックボックスの領域を特定し、チェックボックスに記入された値を取得する。
特開2005-234790号公報
しかし、「1:男 2:女」のような凡例が用意されている選択式の項目では、ユーザが選択した値は、凡例が記載されている領域とは異なる領域に記入される。そのため、特許文献1に記載の方法を用いて凡例が記載されている領域を特定できない。仮に凡例の位置を特定できたとしても、凡例に対してユーザが選択した値(上記の“1”や“2”)を取得することができなかった。
そこで、本発明は、文書に記入された値を文書のスキャン画像から抽出する場面において、凡例が用意された選択式の項目に対してユーザが選択した値を正確に取得可能とすることを目的とする。
本開示の技術は、文書画像から項目名を抽出する第1の抽出手段と、前記文書画像からユーザにより入力された入力情報を抽出する第2の抽出手段と、前記文書画像から凡例を抽出する第3の抽出手段と、前記入力情報が前記項目名に対応する値として適さない場合に、前記凡例から前記入力情報に対応する値を抽出し、該抽出した値を前記項目名に対応する値として取得する取得手段と、を備えることを特徴とする画像処理装置である。
本発明によれば、文書に記入された値を文書のスキャン画像から抽出する場面において、凡例が用意された選択式の項目に対してユーザが選択した値を正確に取得することができる。
第1実施形態に係る画像処理システムの全体構成の一例を示すブロック図。 MFPのハードウェア構成の一例を示すブロック図。 ファイルサーバのハードウェア構成の一例を示すブロック図。 MFPのソフトウェア構成の一例を示すブロック図。 MFPが実行する文字認識処理を説明するための図。 スキャン設定画面の一例を示す図。 文書画像の一例を示す図。
以下、本発明を実施するための形態について図面を用いて説明する。なお、以下の実施の形態は特許請求の範囲に係る発明を限定するものでなく、また実施の形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。
[第1の実施形態]
まず、第1実施形態に係る画像処理装置を備える画像処理システムの構成を説明する。次に、第1実施形態に係る画像処理装置の主要部である画像解析部の構成及び動作を説明する。
<画像処理システムの構成>
図1は、第1実施形態に係る画像処理システムの全体構成の一例を示すブロック図である。画像処理システムは、MFP101とファイルサーバ102とを備える。MFP110とファイルサーバ102は、LAN(Local Area Network)を介して互いに通信可能に接続されている。
MFP(Multi Function Peripheral)110は、スキャナやプリンタといった複数の機能を有する複合機であり、画像処理装置の一例である。ファイルサーバ102は、電子化された文書ファイルの保存や管理をする外部サーバの一例である。本実施形態の画像処理システムは、MFP110とファイルサーバ102とを備える構成としているがこれに限定されない。例えば、MFP110がファイルサーバ102の役割を兼ね備えてもよい。また例えば、LANに代えてインターネットなどを介してMFP110とファイルサーバ102とが接続されていてもよい。また、MFP110は、PSTN(Public Switched Telephone Networks)を介して、ファクシミリ装置(不図示)との間で画像データをファクシミリ通信することができる。
図2は、MFP110のハードウェア構成の一例を示すブロック図である。MFP110は、制御部210、操作部220、プリンタ部221、スキャナ部222、及びモデム223を有する。制御部210は、CPU211、ROM212、RAM213、HDD214、操作部I/F215、プリンタ部I/F216、スキャナ部I/F217、モデムI/F218、及びネットワークI/F219を有し、MFP110全体の動作を制御する。
CPU211は、ROM212に記憶された制御プログラムを読み出して、スキャン機能やプリント機能、通信機能などMFP110が有する各種機能を実行するとともに、それら各種機能を制御する。RAM213は、CPU211の主メモリ、ワークエリア等の一時記憶領域として用いられる。なお、本実施形態では1つのCPU211が1つのメモリ(RAM213またはHDD214)を用いて後述のフローチャートに示す各処理を実行するものとするが、これに限定されない。例えば、複数のCPUや複数のRAMまたはHDDを協働させて各処理を実行させてもよい。HDD214は、画像データや各種プログラムを記憶するハードディスクドライブである。操作部I/F215は、操作部220と制御部210とを接続するインタフェースである。操作部220には、タッチパネルやキーボードなどが備えられており、ユーザによる操作や入力、指示などを受け付ける。プリンタ部I/F216は、プリンタ部221と制御部210とを接続するインタフェースである。印刷用の画像データはプリンタ部I/F216を介して制御部210からプリンタ部221へ転送され、記録媒体上に印刷される。スキャナ部I/F217は、スキャナ部222と制御部210とを接続するインタフェースである。スキャナ部222は、不図示の原稿台やADF(Auto Document Feeder)にセットされた原稿を読み取って画像データを生成し、スキャナ部I/F217を介して制御部210に入力する。MFP110は、スキャナ部222で生成された画像データをプリンタ部221から印刷出力(コピー)する他、ファイル送信またはメール送信することができる。モデムI/F218は、モデム223と制御部210とを接続するインタフェースである。モデム223は、PSTN上のファクシミリ装置との間で画像データをファクシミリ通信する。ネットワークI/F219は、制御部210(MFP110)をLANに接続するインタフェースである。MFP110は、ネットワークI/F219を用いてLAN10上の外部装置(ファイルサーバ102など)に画像データや情報を送信したり、各種情報を受信したりする。
図3は、ファイルサーバ102のハードウェア構成の一例を示すブロック図である。ファイルサーバ102は、CPU311、ROM312、RAM313、HDD314及びネットワークI/F315を有する。CPU311は、ROM312に記憶された制御プログラムを読み出して各種処理を実行することで、ファイルサーバ102全体の動作を制御する。RAM313は、CPU311の主メモリ、ワークエリア等の一時記憶領域として用いられる。HDD314は、画像データや各種プログラムを記憶するハードディスクドライブである。ネットワークI/F315は、ファイルサーバ102をLANに接続するインタフェースである。ファイルサーバ102は、ネットワークI/F315を用いてLAN上の他の装置(MFP110など)との間で各種情報を送受信する。
図4は、MFP110のソフトウェア構成の一例を示すブロック図である。MFP110は、ネイティブ機能モジュール410とアディショナル機能モジュール420とを有する。ネイティブ機能モジュール410に含まれる各部はMFP110に標準的に備えられたものであるのに対し、アディショナル機能モジュール420の各部はMFP110に追加インストールされたアプリケーションである。アディショナル機能モジュール420は、Java(登録商標)をベースとしたアプリケーションであり、MFP110への機能追加を容易に実現できる。なお、MFP110には図示しない他のアディショナル機能モジュール(追加アプリケーション)がインストールされていても良い。
表示制御部423は、MFP110の操作部220の液晶表示部に、ユーザによる操作や入力、指示などを受け付けるためのUI(ユーザインタフェース)画面を表示する。なお、本実施形態における操作部220の液晶表示部は、タッチパネル機能を有する。したがって、以下において、操作部220の液晶表示部を単にタッチパネルと表現する場合がある。
スキャン指示部421は、表示制御部423を介して入力されるユーザ指示に従い、スキャン実行部411に対して、ユーザ指示に含まれるスキャン設定や転送設定の情報を送信するとともに、スキャン処理を要求する。
スキャン実行部411は、スキャン指示部421からスキャン設定を含んだスキャン要求を受け取ると、スキャン処理を実行する。より詳細にはスキャン実行部411は、スキャナ部I/F217を介してスキャナ部222にスキャン処理を実行させる。それにより、原稿台(不図示)に載置された原稿上の画像が読み取られ、スキャン画像データが生成される。スキャン実行部411は、スキャナ部222で生成されたスキャン画像データをデータ転送部412に送る。データ転送部412は、スキャン実行部411から受け取ったスキャン画像データを、スキャン実行部411から受け取った転送設定に従って転送する。画像データの転送先としては、ファイルサーバ102、LAN上のパーソナルコンピュータ(PC)(不図示)等を設定可能である。しかし、ここではスキャン実行部411が生成したスキャン画像データが一旦全てアディショナル機能モジュール420に転送されるように設定されているものとする。データ転送部412は、FTPクライアント機能を有していて、FTPサーバ機能を有するデータ受信部422に対してFTPでスキャン画像データを転送する。
データ受信部422は、データ転送部412から転送されたスキャン画像データを受信し、アップロード実行部424に渡す。アップロード実行部424は、受信したスキャン画像データを画像解析部425に渡す。画像解析部425は、スキャン画像データに対して画像解析(領域特定処理やOCR処理(文字列認識処理))を行い、解析して得られた情報(領域情報と文字列情報)をアップロード実行部424に渡す。アップロード実行部424は、データ受信部422から受け取ったスキャン画像データと、画像解析部425から受け取った領域情報及び文字列情報とを表示制御部423に渡す。
表示制御部423は、操作部220のタッチパネルに、スキャン設定の入力を受け付けるためのUI画面(例えば、後述する図6に示すUI画面)や、フォルダパス設定やファイル名設定の入力を受け付けるためのUI画面(図示せず)を表示する。また、表示制御部423は、操作部220のタッチパネルに、データ受信部422から受け取ったスキャン画像データや、画像解析部425から受け取った領域情報及び文字列情報を表示可能である。
アップロード実行部424は、操作部220のタッチパネルを介して受け付けたフォルダパス設定とファイル名設定とに従ってファイルサーバ102に接続し、ファイルサーバ102にスキャン画像データをアップロードする。アップロード実行部424は、アップロードが完了すると、表示制御部423にアップロードが完了したことを通知する。表示制御部423は、アップロード実行部424からの通知に従って表示内容を更新する。
また、アップロード実行部424は、SMB(Server Message Block)クライアント機能を有する。これにより、アップロード実行部424は、SMBサーバ機能を有するファイルサーバ102に対してSMBを用いてファイル及びフォルダ操作を行うことができる。なお、SMBの他に、WebDAV(Distributed Authoring and Versioning protocol for the WWW)、FTP(File Transfer Protocol)が使用可能である。また、SMTP(Simple Mail Transfer Protocol)等も使用可能である。また、それ以外にファイル送信目的以外のSOAPやREST(Representational State Transfer)等も使用可能である。
図5(a)は、MFP101がスキャンした画像データに対して文字認識処理を実行し、認識結果を得るまでの動作の一例を示すフローチャートである。図5(a)に示す一連の動作(ステップ)は、MFP101のCPU211がHDD214に記憶された制御プログラムを実行することにより実現される。
S501において、表示制御部423は、操作部220のタッチパネルにスキャン設定画面を表示する。図6は、スキャン設定画面の一例を示す図である。図6に示すスキャン設定画面600を介してユーザがスキャンの開始指示を入力すると、スキャン実行部411においてスキャン処理が実行される。図7は、スキャン処理して得られたスキャン画像データによって表される画像(スキャン画像)を示す図である。図7には、文書画像の一例であって、帳票をスキャンして得られたスキャン画像が示されている。
MFP101のユーザはスキャン設定画面600を介して、スキャン実行部411に実行させるスキャン処理のための設定を、設定キー601~605を介して入力する。[カラー設定]キー601は、原稿をスキャンする際のカラーまたはモノクロを設定するためのキーである。[解像度設定]キー602は、原稿をスキャンする際の解像度を設定するためのキーである。[両面読み取り設定]キー603は、両面読み取りの設定をするためのキーである。[原稿混載設定]キー604は、原稿混載の有無を設定するためのキーである。[画像形式設定]キー605は、スキャン画像データの保存形式を指定するためのキーである。これら設定キー601~605には、MFP110においてサポートされている範囲で設定可能な候補(選択肢)が表示され、ユーザは表示された候補から望むものを選択する。なお、上述した設定キーは一例であって、これらすべての設定項目が存在しなくても良いし、これら以外の設定項目が存在しても良い。ユーザは、このようなスキャン設定画面600を介してスキャン処理について詳細な設定を行う。[キャンセル]ボタン620は、スキャン設定を中止する場合に用いるボタンである。[スキャン開始]ボタン621は、原稿台等にセットした原稿に対するスキャン処理の開始を指示するためのボタンである。
S502において、画像解析部425は、S501で得られたスキャン画像データに対してOCR処理を実行する。ここでは、図7に示す帳票のスキャン画像を示すスキャン画像データがS501で得られているものとする。またここでは、OCR処理として、公知である一般的な文字列抽出処理が実行されるものとする。さらに、OCR処理には、文字列を抽出する処理以外に、例えば表の罫線を取得する処理や、罫線同士を繋ぎ合わせて1つのセルとして認識する処理が含まれるものとする。
S503において画像解析部425は、S502のOCR処理により得られたOCR結果から、取得対象となる項目名を抽出する。ここで、項目名の例としては例えば「性別」や「身長」などが考えられる。取得対象となる項目名の決定方法としては、事前にデータベースなどに取得対象となる項目名を入力しておき、それに合致するものを選択する方法が考えられる。しかし、例えばS502のOCR処理により得られたOCR結果に出現する単語(文字列)やその出現位置から推測して、項目名を含むと推認される文字列領域を特定するなどしても良い。ここでは、領域701の「性別」が得られたものとする。
S504において画像解析部425は、S503で抽出した項目名に対応する入力情報(値(Value))が記載されている領域を特定し、該領域内から値を抽出する。ここで、値を抽出する方法としては、「項目名から一定距離以内の右方向(図7における右方向)に存在する値」のようなルールを事前に設定し、そのルールに従って値を抽出する方法が考えられる。また、図7で示すような帳票の形式の原稿に対しては「隣り合うセルの値」のようなルールを設定しても良い。図7に示す例では、領域701の「性別」に対応する値として、領域704の「1」が抽出される。
S505において画像解析部425は、後段の処理(S506の処理)を行うかどうかの判定を行う。具体的には、S504で抽出した値(文字列)が、S503で抽出した項目名に適しているかを判定する。つまり、図7における領域701のように項目名が「性別」であった場合、項目名に対応する適切な値は、「男」や「女」、「Male」「Female」といったように性別を特定できる文字列となる。一方で、値の位置としては領域704が特定されたが、領域704に実際に記載されている値は凡例に従って記述された「1」という値であり、「性別」を示す値としては不適切である。なお、項目名に対応する適切な値の例などは項目名の登録時に合わせて登録するようにしても良いし、事前に画像処理システムが既知の項目名とその値の候補一覧とを保持しておいても良い。以上のようにして、S504で抽出した値が項目名に適しているかどうかが判定される。適切であると判断した場合は(S505 YES)、S507において画像解析部425は、S504で抽出した値をそのまま項目名に対応する値として採用し、処理を終了する。
適切でないと判断した場合は(S505 NO)、S506において画像解析部425は、S504で抽出した値に対応する凡例の値を抽出する処理(以下、判定抽出処理と呼ぶ)を行う。ここで、S506の凡例抽出処理について図5(b)を用いて説明する。図5(b)には、S506の凡例抽出処理のフローの一例が示されている。
S510において画像解析部425は、項目に対応する凡例が記載されている位置を、値が記載されている位置から相対的に探索する。ここで一般的に凡例が記載される位置は、値が記載されている位置に対して「同じセル内」「左右のセル」「上方向のセル」「下方向のセル」のように、値が記載されている位置と同じ位置か、値が記載されている位置に対して直線方向の位置であると考えられる。または「項目名が記載されたセル内」に凡例が記載されると考えられる。そこで、これらのセルに凡例候補が存在するか否かを探索していく。本実施形態においては、上述したセルを順に探索して、凡例の書式に合致したものを凡例候補として抽出する。ここで、S510の処理について、図7に示す帳票のスキャン画像700を用いて具体的に説明する。
まず画像解析部425は、S504で値が記載されている位置として特定された領域704のセル内及び領域704の周辺の領域を探索する。本実施形態では、領域704のセル内と領域704の隣接セルである領域701,707,705とが順に探索される。なお、それらの領域よりも優先度を低くして他の領域(例えば、領域706や領域708)を探索対象に含めるようにしても良い。
次に画像解析部425は、探索した各領域に記載されている文字列が凡例の書式を満たしているかどうかを確認する。一般的に、凡例は「1:XXX、2:YYY、…」のように値の選択候補を含む情報であり、識別子(ここでは数字)と実際の値とが併記して列挙される書式を有する。画像解析部425は、このような凡例の書式を文字列のフォーマットとして定義し、そのフォーマットに合致する文字列を凡例候補であると判断する。なお、ここでは上記のようなフォーマットを例示したが、例えば数字の部分がアルファベットであってもよいし、「:」の部分が「;」や「.」などの別の記号であっても良い。また、凡例の書式として複数のフォーマットを登録しておき、それらのいずれかに合致した文字列を凡例候補として採用するようにしても良い。つまり、定義したフォーマットに従った文字列を凡例候補として判断することができれば、凡例の書式や、凡例の書式の登録方法等は限定されない。このような凡例候補の判定方法により、図7に示す例では、領域707内の文字列「1:男 2:女 3:他」が凡例候補として抽出される。なお、凡例に含まれる識別子は、連番の数字や、昇順に並んだアルファベットが利用されるケースが多い。したがって、連番の数字や昇順に並んだアルファベットを含む領域を優先して凡例候補として採用するようにしても良い。また、領域708までを探索対象とした場合には、領域708内の文字列「1:有 2:無」も凡例候補として抽出されることになる。そのような場合には、値が記載されている位置からの距離やその位置に対する直線方向のズレがより小さい領域(ここでは、領域707)内の文字列を優先して抽出すれば良い。さらに、領域704と領域708の間に領域702,705のように異なる項目の列が存在する場合には、その列より後方(図における下方)には該当する凡例がないと判断して、領域706,708を探索候補から外すなどしても良い。
S511において画像解析部425は、S510の探索の結果に基づき、凡例候補となる領域が存在するかどうかを判断する。存在する場合は(S511のYYES)、処理はS512に進む。存在しない場合は(S511のNO)、処理はS515に進む。
S512において画像解析部425は、S504で抽出された値(文字列)と、S510で抽出された凡例候補とを比較し、値の候補を取得する。図7に示す例では、領域704と領域707とが比較されることになる。領域704から抽出される値は「1」であり、領域707から抽出される凡例候補は「1:男 2:女 3:他」である。よって、凡例のフォーマットが「1:XXX、2:YYY、……」と定義されている場合には、「1」に対応する「男」が値の候補として取得される。
S513において画像解析部425は、S512で得られた値の候補がS503で抽出された項目名に対応する適切な値かどうかを判断する。先述したように、項目名が「性別」であった場合、項目名に対応する適切な値は、「男」や「女」、「Male」、「Female」といった文字列となる。ここでは値の候補として「男」が取得されているため、値の候補が項目名に適していると判断できる。値の候補が項目名に適している場合(S513 YES)、S514において画像解析部425は、S512で取得した値の候補をS503で抽出された項目名に対応する値として採用して、処理を終了する。そうでない場合(S513 NO)、処理はS515に進む。
S515において画像解析部425は、S503で抽出された項目に対応する値は得られなかったとして、S504で抽出された値(ここでは、「1」)をそのまま採用して、処理を終了する。
なお、最初の凡例候補(ここでは、「1:男 2:女 3:他」)から項目名に対応する適切な値を取得することができなかった場合において、S510で他の凡例候補(優先度が低い凡例候補)が抽出されている場合がある。そのような場合には、再度S512に戻り、他の凡例候補から値の候補を取得し直すようにしても良い。
以上のように、本実施形態によれば、文書に記入された値を文書のスキャン画像から抽出する場面において、凡例が用意された選択式の項目に対してユーザが選択した値を正確に取得することができる。
また、本実施形態では、文書のスキャン画像から凡例が記載されている領域を特定し、その領域から取得した凡例と、S503で抽出した値とを照らし合わせて、実際の値を取得している。よって、帳票のフォーマットや実際の値への変換規則等を事前に保持していなくても、S503で抽出した値の実際の値を取得することができるので、開発コストを削減することができる。
なお、図5(a)(b)に示すフローは一例であり、凡例が用意された選択式の項目に対してユーザが選択した値を取得できれば、文字認識処理及び凡例抽出処理は上記の処理順に限定されない。
(他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。

Claims (12)

  1. 文書画像の文字認識結果から項目名を抽出する第1の抽出手段と、
    前記抽出された項目名の前記文書画像における記載位置に基づいて、前記文書画像の文字認識結果から、前記項目名に対応する文字列を抽出する第2の抽出手段と、
    前記文書画像に記載されている凡例を抽出する第3の抽出手段と、
    前記第3の抽出手段で抽出された凡例から前記文字列に対応する値を抽出し、該抽出した値を前記項目名に対応する値として採用する採用手段と、を備える
    ことを特徴とする画像処理装置。
  2. 前記採用手段は、前記第2の抽出手段で抽出した前記文字列が前記項目名に対応する値として適さない場合に、前記第3の抽出手段で抽出した凡例から前記文字列に対応する値を抽出し、該抽出した値を前記項目名に対応する値として採用する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記凡例は、前記項目名に対応する値の選択候補と、該選択候補のそれぞれに割り当てられた識別子とが併記された情報であり、
    前記採用手段は、
    前記項目名に対応する値の選択候補のうち、前記第2の抽出手段で抽出された前記文字列に合致する前記識別子に対応する選択候補を、前記項目名に対応する値として採用する
    ことを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記採用手段は、前記第2の抽出手段で抽出された前記文字列に合致する前記識別子に対応する選択候補が、前記項目名に対応する値として適さない場合には、前記文字列を前記項目名に対応する値としてそのまま採用する
    ことを特徴とする請求項3に記載の画像処理装置。
  5. 前記第3の抽出手段は、前記第1の抽出手段で抽出された前記項目名を含む領域と、前記第2の抽出手段で抽出された前記文字列を含む領域と、記第2の抽出手段で抽出された前記文字列を含む領域の周辺の領域と、の少なくともいずれかを探索して前記凡例を抽出する
    ことを特徴とする請求項1から請求項4のうちのいずれか1項に記載の画像処理装置。
  6. 前記第2の抽出手段で抽出された前記文字列が記載されていた領域の周辺の領域とは、前記文字列が記載されていた領域の水平方向または垂直方向に隣接する領域である
    ことを特徴とする請求項5に記載の画像処理装置。
  7. 前記第3の抽出手段は、前記第1の抽出手段で抽出された前記項目名を含む領域と、前記第2の抽出手段で抽出された前記文字列を含む領域と、記第2の抽出手段で抽出された前記文字列を含む領域の周辺の領域とを探索する際、予め設定された優先度に従って順に探索する
    ことを特徴とする請求項5または請求項6に記載の画像処理装置。
  8. 前記採用手段は、前記第3の抽出手段が前記凡例を抽出できなかった場合、前記第2の抽出手段で抽出された前記文字列を前記項目名に対応する値としてそのまま取得する
    ことを特徴とする請求項1から請求項7のうちのいずれか1項に記載の画像処理装置。
  9. 前記採用手段は、
    前記第2の抽出手段で抽出された前記文字列が前記項目名に対応する値として適さない場合に、前記第3の抽出手段で抽出された凡例から前記文字列に対応する値を抽出して、該抽出した値を前記項目名に対応する値として採用する一方、
    前記第2の抽出手段で抽出された前記文字列が前記項目名に対応する値として適する場合に、前記文字列を前記項目名に対応する値としてそのまま採用する
    ことを特徴とする請求項1から請求項8のうちのいずれか1項に記載の画像処理装置。
  10. 前記文書画像が帳票をスキャンして得られるスキャン画像である
    ことを特徴とする請求項1から請求項9のうちのいずれか1項に記載の画像処理装置。
  11. 文書画像の文字認識結果から項目名を抽出する第1の抽出ステップと、
    前記抽出された項目名の前記文書画像における記載位置に基づいて、前記文書画像の文字認識結果から、前記項目名に対応する文字列を抽出する第2の抽出ステップと、
    前記文書画像に記載されていた凡例を抽出する第3の抽出ステップと、
    前記第3の抽出ステップで抽出された凡例から前記文字列に対応する値を抽出し、該抽出した値を前記項目名に対応する値として採用する採用ステップと、を含む
    ことを特徴とする画像処理方法。
  12. コンピュータに、請求項11に記載の画像処理方法を実行させるためのプログラム。
JP2019089139A 2019-05-09 2019-05-09 画像処理装置、画像処理方法、及びプログラム Active JP7301596B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019089139A JP7301596B2 (ja) 2019-05-09 2019-05-09 画像処理装置、画像処理方法、及びプログラム
US16/864,421 US11301675B2 (en) 2019-05-09 2020-05-01 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019089139A JP7301596B2 (ja) 2019-05-09 2019-05-09 画像処理装置、画像処理方法、及びプログラム

Publications (3)

Publication Number Publication Date
JP2020184276A JP2020184276A (ja) 2020-11-12
JP2020184276A5 JP2020184276A5 (ja) 2022-05-17
JP7301596B2 true JP7301596B2 (ja) 2023-07-03

Family

ID=73045474

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019089139A Active JP7301596B2 (ja) 2019-05-09 2019-05-09 画像処理装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US11301675B2 (ja)
JP (1) JP7301596B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102618275B1 (ko) * 2020-11-30 2023-12-27 박회준 의약 관련 이미지 획득 방법 및 디바이스
KR102656230B1 (ko) * 2020-11-30 2024-04-09 박회준 획득된 이미지의 정보 제공방법 및 디바이스
JP2022091530A (ja) * 2020-12-09 2022-06-21 キヤノン株式会社 情報処理装置、画像処理システム、制御方法、並びにプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4238711B2 (ja) 2003-12-08 2009-03-18 健二 長沼 マークシート方式
JP2013218364A (ja) 2012-04-04 2013-10-24 Canon Inc 画像処理システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08315066A (ja) * 1995-05-19 1996-11-29 Pfu Ltd 回答用カード定義体作成処理システム
JP2005234790A (ja) 2004-02-18 2005-09-02 Ricoh Co Ltd 手書き帳票処理システム、手書き帳票処理方法
JP4671885B2 (ja) * 2005-06-01 2011-04-20 株式会社リコー 画像処理装置、プログラムおよび画像処理方法
JP6791191B2 (ja) * 2018-04-02 2020-11-25 日本電気株式会社 画像処理装置、画像処理方法およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4238711B2 (ja) 2003-12-08 2009-03-18 健二 長沼 マークシート方式
JP2013218364A (ja) 2012-04-04 2013-10-24 Canon Inc 画像処理システム

Also Published As

Publication number Publication date
US11301675B2 (en) 2022-04-12
US20200356769A1 (en) 2020-11-12
JP2020184276A (ja) 2020-11-12

Similar Documents

Publication Publication Date Title
JP6968647B2 (ja) スキャン画像にファイル名を設定するための装置、その制御方法及びプログラム
JP6891073B2 (ja) スキャン画像にファイル名等を設定するための装置、その制御方法及びプログラム
US8339645B2 (en) Managing apparatus, image processing apparatus, and processing method for the same, wherein a first user stores a temporary object having attribute information specified but not partial-area data, at a later time an object is received from a second user that includes both partial-area data and attribute information, the storage unit is searched for the temporary object that matches attribute information of the received object, and the first user is notified in response to a match
US8879108B2 (en) Apparatus for registering documents in a document management server
JP7301596B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US10375267B2 (en) Mediation server
JP6762722B2 (ja) 情報処理装置、制御方法、及びプログラム
US20090279116A1 (en) Image data processing apparatus
JP2021163178A (ja) 情報処理装置
US20200174637A1 (en) Device, method, and storage medium
KR20200059168A (ko) 화상 처리 장치, 그 제어 방법, 및 저장 매체
JP6742737B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
US7783111B2 (en) Writing image acquisition apparatus, writing information extraction method, and storage medium
JP2021047517A (ja) 画像処理装置、その制御方法およびプログラム
JP2016096393A (ja) 情報処理装置、システム、情報処理方法およびプログラム
JP2019087826A (ja) 画像送信装置
JP2023053602A (ja) 装置、情報処理方法、及びプログラム
JP6983687B2 (ja) スキャン画像データに関連する情報を設定するための装置、方法、及びプログラム
JP2010055163A (ja) 画像処理プログラム、画像処理装置及び画像処理システム
JP7422471B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
JP2008118489A (ja) ファクシミリ配信システム及びファクシミリ装置
JP2010146123A (ja) 文書処理装置、文書処理方法、及びプログラム
JP5454188B2 (ja) 画像読取装置、画像処理システム、画像処理方法、プログラム、及び記録媒体
JP2010191609A (ja) ワークフロー実行装置、ワークフロー実行方法およびワークフロー実行プログラム
JP2021114709A (ja) 画像形成装置、画像形成方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220509

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230621

R151 Written notification of patent or utility model registration

Ref document number: 7301596

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151