JP5822865B2 - 画像処理装置、罫線判定方法、及び罫線判定プログラム - Google Patents

画像処理装置、罫線判定方法、及び罫線判定プログラム Download PDF

Info

Publication number
JP5822865B2
JP5822865B2 JP2013092261A JP2013092261A JP5822865B2 JP 5822865 B2 JP5822865 B2 JP 5822865B2 JP 2013092261 A JP2013092261 A JP 2013092261A JP 2013092261 A JP2013092261 A JP 2013092261A JP 5822865 B2 JP5822865 B2 JP 5822865B2
Authority
JP
Japan
Prior art keywords
image
ruled line
linear
image data
ruled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013092261A
Other languages
English (en)
Other versions
JP2014215797A (ja
Inventor
昌人 塩瀬
昌人 塩瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Document Solutions Inc
Original Assignee
Kyocera Document Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Document Solutions Inc filed Critical Kyocera Document Solutions Inc
Priority to JP2013092261A priority Critical patent/JP5822865B2/ja
Priority to US14/261,308 priority patent/US9355326B2/en
Publication of JP2014215797A publication Critical patent/JP2014215797A/ja
Application granted granted Critical
Publication of JP5822865B2 publication Critical patent/JP5822865B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/148Segmentation of character regions
    • G06V30/155Removing patterns interfering with the pattern to be recognised, such as ruled lines or underlines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0081Image reader

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像データーにおける罫線を判定する画像処理装置、罫線判定方法、及び罫線判定プログラムに関する。
罫線付きノートに鉛筆やボールペンなどにより手書きされた原稿を複写する際に、薄い文字を明瞭にするために設定濃度を上げて原稿を複写する場合がある。この場合、複写された手書き文字の印刷濃度のみならず、ノートに印刷されていた罫線の印刷濃度も上がる。印刷濃度が上がった罫線が邪魔になるため、複写された手書き文字が不明瞭になって識別されにくい問題が生じる。
このような問題に対処するため、原稿を複写する際に、罫線を削除する技術が、特許文献1及び特許文献2に開示されている。具体的には、特許文献1には、文字と罫線とが同一色で構成された画像データーの中から主走査方向及び副走査方向に所定の長さ以上の黒画素が連続する部分を罫線として推定し、推定された罫線部分と黒画像との交差パターンにより、罫線か文字かを判断して罫線を除去する罫線除去方法が開示されている。特許文献2には、画像をモノクロ化した後に、所定の閾値以上の長さで連続する連続画素を一の罫線であると判定すると共に、特定の交差パターンで一の罫線に接続する連続画素も他の罫線と判定して、これらの一の罫線及び他の罫線を除去する画像処理装置が開示されている。
特開2000−222524号公報 特開2007−193446号公報
しかしながら、前掲の特許文献1及び特許文献2に記載の従来の技術では、罫線を抽出するために、画像データーから色の情報を取り除いた後に、推定された罫線と交差する黒画像の交差パターンを検出するなどの複雑な演算処理を必要とする。また、従来の技術では、罫線と文字とが交差する部分があると、罫線が正しく除去されずに残ってしまう問題や、誤って文字の一部が削除されるという問題が生じるおそれがある。
従って、本発明は前記事情に鑑みてなされたものであり、その目的とするところは、画像データーの中から高精度に罫線を判定することが可能な画像処理装置、罫線判定方法、及び罫線判定プログラムを提供することにある。
本発明に係る画像処理装置は、第1画像抽出手段及び第1判定手段を備える。前記第1画像抽出手段は、所定範囲内の色調を有する基準画素が直線状に連続する複数の線状画像を画像データーから抽出する。前記第1判定手段は、前記第1画像抽出手段によって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する。前記画像処理装置の構成によれば、画像データーの中から高精度に罫線を判定することができる。
また、本発明に係る罫線判定方法は、第1画素抽出ステップ及び第1判定ステップを実行する。前記第1画像抽出ステップは、所定範囲内の色調を有する基準画素が直線状に連続する複数の線状画像を画像データーから抽出する。前記第1判定ステップは、前記第1画像抽出ステップによって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する。前記画像処理方法によれば、画像データーの中から高精度に罫線を判定することができる。
また、本発明に係る罫線判定プログラムは、コンピューターに第1画像抽出ステップ、及び第1罫線判定ステップを実行させる。前記第1画像抽出ステップは、所定範囲内の色調を有する基準画素が直線状に連続する複数の線状画像を画像データーから抽出する。前記第1判定ステップは、前記第1画像抽出ステップによって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する。前記罫線判定プログラムによれば、画像データーの中から罫線を高精度で抽出することができる。
本発明によれば、画像データーの中から罫線を高精度に判定することができる。
本発明の実施形態に係る複合機の概略構成を模式的に示す断面図。 制御部の概略構成を示すブロック図。 罫線削除処理の手順の一例を示すフローチャート。 罫線削除前の用紙の例を示す図。 罫線削除後の用紙の例を示す図。 罫線削除前の用紙の例の拡大図。 第1変形例の画像回転処理の手順の一例を示すフローチャート。 第2変形例の印刷情報削除処理の手順の一例を示すフローチャート。
以下、添付図面を参照しながら、本発明の実施形態について説明し、本発明の理解に供する。なお、以下に説明する実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定するものではない。
<複合機100の概略構成>
まず、図1を参照しつつ、本発明の実施形態の複合機100の概略構成について説明する。なお、図1は、前記複合機100を模式的に示す断面図である。
前記複合機100は、画像読取部1、ADF(automatic document feeder)2、画像形成部3、給紙部4、及び操作表示部6等を備えた画像処理装置である。前記操作表示部6は、制御部5(図2参照)からの制御指示に従って各種の情報を表示し、ユーザー操作に応じて前記制御部5に各種の情報を入力するタッチパネル等である。
なお、前記複合機100は、本発明の画像処理装置の一例に過ぎない。例えば、本発明は、スキャナー、プリンター、ファクシミリ装置、複写機、パーソナルコンピューター等の画像処理装置であってもよい。
前記画像読取部1は、用紙Pからカラーの画像データーを取得する。前記画像読取部1は、用紙カバー20、コンタクトガラス11、読取ユニット12、ミラー13、ミラー14、光学レンズ15、及びCCD(Charge Coupled Device)16等を備えた画像読取手段である。前記コンタクトガラス11は、前記画像読取部1の上面に設けられており、前記複合機100の画像読取対象となる用紙Pが載置される透明な用紙台である。
前記用紙カバー20は、必要に応じて前記コンタクトガラス11を覆うものである。そして、前記画像読取部1は、前記制御部5により制御されることによって、前記コンタクトガラス11上に載置された用紙Pから画像データーを読み取る。
前記読取ユニット12は、LED光源121及びミラー122を備えており、ステッピングモーター等の移動機構を用いた不図示の移動機構により副走査方向(図1における左右方向9)へ移動可能に構成されている。そして、前記移動機構により前記読取ユニット12が副走査方向に移動されると、前記LED光源121から前記コンタクトガラス11に向けて照射される光が副走査方向に走査される。
前記LED光源121は、前記複合機100の主走査方向(図1における前後方向8)に沿って配列された多数の白色LEDを備えている。前記LED光源121は、前記コンタクトガラス11上の読取位置12Aにある用紙Pに向けて1ライン分の白色光を照射する。なお、前記読取位置12Aは、前記読取ユニット12の副走査方向への移動に伴って副走査方向へ移動する。
前記ミラー122は、前記LED光源121から前記読取位置12Aにある用紙Pに光を照射したときの反射光を前記ミラー13に向けて反射させる。そして、前記ミラー122で反射した光は、前記ミラー13及び前記ミラー14により前記光学レンズ15に導かれる。前記光学レンズ15は、入射した光を集光して前記CCD16に入射させる。
前記CCD16は、受光した光をその光量に応じた電気信号(電圧)に変換して前記制御部5に出力する光電変換素子である。具体的には、前記CCD16は、前記LED光源121から光が照射されたときに用紙Pから反射した光に基づいて用紙Pの画像に対応する電気信号に基づいて画像データーを生成する。
前記ADF2は、前記用紙カバー20に設けられている。前記ADF2は、用紙トレイ21、複数の搬送ローラー22、用紙押さえ23、及び排紙部24等を備えた自動原稿送り装置である。
前記ADF2は、前記搬送ローラー22各々を不図示のステッピングモーターで駆動させることにより、前記用紙トレイ21にセットされた用紙Pを前記コンタクトガラス11上の前記読取位置12Aを通過させて前記排紙部24まで搬送させる。この際に、前記画像読取部1により前記読取位置12Aを通過する用紙Pから画像データーが読み取られる。
前記用紙押さえ23は、前記コンタクトガラス11上の前記読取位置12Aの上方に用紙Pが通過できる間隔を隔てた位置に設けられている。前記用紙押さえ23は、主走査方向に長尺状に形成されており、その下面(前記コンタクトガラス11側の面)には白色のシートが貼り付けられている。前記複合機100では、前記白色のシートの画像データーが白色基準データーとして読み取られる。前記白色基準データーは、周知のシェーディング補正等で用いられる。
前記画像形成部3は、前記画像読取部1で読み取られた画像データー、又は外部のパーソナルコンピューター等の情報処理装置から入力された画像データーに基づいて画像形成処理(印刷処理)を実行する電子写真方式の画像形成手段である。
前記画像形成部3は、感光体ドラム31、帯電装置32、LSU(Laser Scanner Unit)33、現像装置34、転写ローラー35、除電装置36、定着ローラー37、及び加圧ローラー38等を備えている。そして、前記画像形成部3では、前記給紙部4により搬送される用紙Sに以下の手順で画像が形成され、画像形成後の用紙Sは排紙トレイ41に排紙される。
具体的には、まず、前記帯電装置32により前記感光体ドラム31が所定の電位に一様に帯電される。次に、前記LSU33により前記感光体ドラム31の表面に画像データーに基づく光が照射される。これにより、前記感光体ドラム31の表面に静電潜像が形成される。そして、前記感光体ドラム31上の静電潜像は前記現像装置34によりトナー像として現像(可視像化)される。続いて、前記感光体ドラム31に形成されたトナー像は前記転写ローラー35により用紙Sに転写される。その後、用紙Sに転写されたトナー像は、その用紙Sが前記定着ローラー37及び前記加圧ローラー38の間を通過して排出される際に前記定着ローラー37で加熱されて用紙Sに溶融定着する。なお、前記感光体ドラム31の電位は前記除電装置36で除電される。
次に、図2を参照しつつ、前記制御部5の概略機能について説明する。なお、図2は、前記制御部5の構成を示すブロック図である。
前記制御部5は、CPU51、ROM52、RAM53、EEPROM54、送受信部55、及び画像RAM56等を有している。前記制御部5は、前記ROM52に記憶された所定の制御プログラムを前記CPU51で実行することにより、前記複合機100を統括的に制御する。また、前記ROM52には、後述の罫線削除処理(図3参照)を実行させるための罫線判定プログラムが予め記憶されている。この罫線判定プログラムは、図3等に示されるフローチャートの各ステップを前記制御部5の前記CPU51に実行させるためのプログラムである。前記CPU51は、前記罫線判定プログラムに従って動作することにより、画像データーから罫線を除去する。また、前記RAM53は揮発性の記憶手段、前記EEPROM54は不揮発性の記憶手段であって、前記CPU51が実行する各種の処理の一時記憶メモリーとして使用される。前記送受信部55は、前記CPU51の制御により、他の情報処理装置からカラーの画像データーを取得する。前記画像RAM56は、前記画像読取部1及び前記送受信部55により取得されたカラーの画像データーを記憶する。
なお、前記制御部5は、集積回路(ASIC、DSP)等の電子回路により構成されてもよく、前記複合機100を統括的に制御するメイン制御部と別に設けられた制御部でもよい。
<罫線削除処理>
以下、図3のフローチャート及び図4乃至図6の用紙Pの図を参照しつつ、前記制御部5によって実行される罫線削除処理の手順の説明とともに、本発明の罫線判定方法について説明する。なお、図3のフローチャートにおいてステップS1、S2、・・・は処理手順(ステップ)番号を表している。ここに、罫線削除処理を実行するときの前記制御部5が本発明に係る第1画像抽出手段、第2画像抽出手段、第3画像抽出手段、第1判定手段、第2判定手段、第3判定手段、及び削除手段の一例である。なお、図4は、罫線削除前の用紙Pの例を示す図であり、図5は、罫線削除後の用紙Pの例を示す図であり、図6は、罫線削除前の用紙Pの例の拡大図である。
当該罫線削除処理は、前記複合機100においてユーザーによる複写指示及び罫線削除指示が入力されることに応じて実行される。前記複合機100に用紙Pを読み取らせて画像データーを得る場合、ユーザーは前記コンタクトガラス11上に用紙Pを載置した後に前記用紙カバー20で用紙Pを覆う。なお、外部記憶媒体から画像データーを得る場合、ユーザーは外部記憶媒体を前記複合機100が備える接続端子に接続する。外部の情報処理装置から画像データーを得る場合には、ユーザーは外部の情報処理装置を前記複合機100の前記接続端子に接続する。これにより、罫線削除処理における一連の手順から後述するステップS1、つまり前記画像読取部1による用紙Pの画像読取処理を省略することができる。
前記制御部5は、前記操作表示部6から画像形成指示及び罫線削除指示が入力されると前記ステップS1以下の処理を実行する。
なお、説明の便宜のため、前記画像読取部1の解像度を600dpi(dots per inch)とし、用紙PのサイズをA4(297mm×210mm)とする。この条件で用紙Pから読み取られた画像データーには、7016画素×4961画素の数の画素がある。画像データーは、各1画素にはRGBの各色に8ビットの階調情報が割り当てられており、1677万7216色を表示できる所謂フルカラーであるものとする。つまり、各1画素の色深度は、24bpp(bit per pixel)である。また、用紙P及び用紙Sの紙面水平方向をX軸方向81(図4参照)、紙面垂直方向をY軸方向82(図4参照)と定義する。
(ステップS1)
まず、前記ステップS1において、前記制御部5は、前記画像読取部1により用紙Pの濃度及び色相の情報を含むカラーの画像データーを得て、前記画像RAM56に記憶させる。また、必要に応じて、画像データーから下地色を除去する下地除去処理、画像データーの明暗の比率を変換する明度変換処理、及び画像データーからノイズを取り除くスムージング処理などを、前記制御部5は実行する。
なお、以下の説明では、前記ステップS1において、前記制御部5は、1枚の用紙Pのカラーの画像データーを一度に全て取得する場合を前提として説明する。しかし、この場合に限らず、前記ステップS1において、前記制御部5が、用紙Pの画像データーを複数のラインごとに取得する処理であってもよい。この場合、前記制御部5は、取得した複数のラインを一つのブロックとして、一つのブロックごとに罫線削除処理を実行する。また、前記制御部5は、あるブロックの罫線削除処理で使用した罫線の情報を使用して、次のブロックの罫線削除処理を実行してもよい。
(ステップS2)
ステップS2において、前記制御部5は、所定範囲内の色調を有する基準画素が直線状に連続する線状画像を画像データーの中から抽出する。具体的には、前記制御部5は、所定範囲内の濃度及び所定範囲内の色相を有する基準画素が直線状に連続する線状画像を画像データーの中から抽出する。詳細には、前記制御部5は、画像データーを水平方向(用紙Pの前記X軸方向81)へ走査して、水平方向及び右下がりに前記所定範囲内の濃度及び色相の基準画素が連続する連続画素を抽出する。また、前記制御部5は、左右を反転した画像データーを同様に走査することにより、水平方向及び右上がりに前記所定範囲内の濃度及び色相の基準画素が連続する連続画素を抽出する。このように、濃度及び色相を含む前記基準画素によって前記線状画像が抽出されるため、仮に前記線状画像に他の画像が交差する部分があっても、その違いを高い精度で判別することができ、前記線状画像のみを正確に抽出することができる。
なお、前記所定範囲内とは、濃度及び色相が同程度と判断される範囲のことを言う。例えば、隣接する画素において、RGBの各色の下位2ビットの濃度情報が異なる場合は、前記所定範囲内であり、連続画素であると前記制御部5に判定される。しかし、下位から3ビット目以上の濃度情報が異なる場合は、所定範囲外であり、連続しない画素であると前記制御部5に判定される。
上述のように、前記ステップS2において、前記所定範囲内の色調を有する基準画素が直線状に連続する複数の前記線状画像を画像データーから抽出する前記制御部5は、本発明の第1画像抽出手段の一例である。また、前記ステップS2が、本発明の罫線判定方法の第1画像抽出ステップの一例である。なお、上述の前記ステップS2では、濃度及び色相を有する基準画素によって前記線状画像を抽出することとしたが、所定範囲内の濃度を有する基準画素、或いは、所定範囲内の色相を有する基準画素だけで前記線状画像を抽出するようにしてもよい。つまり、前記色調は、濃度及び色相の双方又はいずれか一方である。
(ステップS3)
ステップS3において、前記制御部5は、前記ステップS2により抽出された前記線状画像の中から第1閾値以上に連続する前記線状画像を抽出する。具体的には、前記制御部5は、抽出された前記線状画像の右端のX座標の値から左端のX座標の値を引いた値の絶対値が前記第1閾値以上であるか否かによって罫線候補か否かを判定する。
前記制御部5は、前記第1閾値以上の数の前記線状画像がないと判定すると、処理を終了させる(S3のNO側)。つまり、前記制御部5は、画像データーの中に罫線が無いと判定する。
一方、前記制御部5は、前記第1閾値以上の前記線状画像があると判定すると、処理をステップS4に移行させる(S3のYES側)。
なお、前記第1閾値は、画像データーの中の幅方向に対して、間違いなく罫線であると考えられる長さである。例えば、A4サイズである用紙Pの幅4961画素に対して、約半分の2450画素であることが考えられる。図4(A)に示される用紙Pにおいて、罫線61A〜61C、61E、61H、61J、太罫線62A、62B、62D、及び標題用罫線63が罫線候補として抽出される。
このように、前記ステップS3において、前記所定範囲内の画素が前記第1閾値以上直線に連続したものを前記線状画像として抽出する前記制御部5は、本発明の第1抽出手段の他の一例である。これにより、前記制御部5は、罫線として十分な長さがある前記線状画像のみを罫線候補として選択することができる。
(ステップS4)
次に、ステップS4において、前記制御部5は、前記ステップS3により抽出された複数の前記第1閾値以上の前記線状画像が3本以上であるか否かを判定する。
前記制御部5は、画像データーの中から抽出された前記線状画像が3本未満であると判定すると、処理を終了させる(S4のNO側)。この場合、後述するステップS6において、前記線状画像の間隔を比較できないからである。
一方、前記制御部5は、画像データーの中から抽出された前記線状画像が3本以上あると判定すると、処理をステップS5に移行させる(S4のYES側)。
(ステップS5)
次に、ステップS5において、前記制御部5は、前記ステップS3により抽出された複数の前記線状画像の間隔を求める。具体的には、前記制御部5は、抽出された一の前記線状画像と隣接する他の前記線状画像と間で、右端及び左端の前記X軸方向81のX座標及びY軸方向82のY座標の値を抽出する。前記制御部5は、一の前記線状画像の右端及左端のX座標及びY座標の値から他の前記線状画像の右端及左端のX座標及びY座標の値を引き、右端間隔及び左端間隔を求めることができる。なお、右端間隔及び左端間隔の両端の間隔が等しいものが、前記制御部5により等間隔の罫線候補とされる。
(ステップS6)
次に、ステップS6において、前記制御部5は、前記ステップS5により求められた罫線候補である前記線状画像の間隔に基づいて、複数の前記線状画像に等間隔で出現する前記線状画像があるか否かを判定する。
前記制御部5は、等間隔の前記線状画像がないと判定すると、処理を終了させる(S6のNO側)。つまり、前記制御部5は、画像データーの中に罫線がないと判定する。
一方、前記制御部5は、等間隔の前記線状画像があると判定すると、その等間隔を罫線間隔として前記RAM53に記憶させて、処理をステップS7に移行させる(S6のYES側)。
(ステップS7)
次に、ステップS7において、前記制御部5は、画像データーの中に前記罫線間隔で出現する前記線状画像を罫線であると判定する。具体的には、前記制御部5は、罫線の幅の誤差及び、罫線間隔の誤差を考慮して、誤差が所定の間隔範囲内である場合に、罫線と判定する。
例えば、図4(B)に示される用紙Pにおいて、太さがn画素の前記罫線61Bと前記罫線61Cとの間隔がm画素数であり、5行目ごとに出現する太さがn+3乃至n+5画素の前記太罫線62Bと前記罫線61Cとの間隔がm画素乃至m+2画素である。前記制御部5は、m画素の間隔とm乃至m+2画素の間隔を前記間隔範囲内として、前記罫線間隔と判定する。また、その際に、前記制御部5は、太さがn画素の前記罫線61B及び前記罫線61Cと、太さがn+3乃至n+5画素の前記太罫線62Bとを更に考慮してこれらの間隔が前記罫線間隔か否かを判定する。
これにより、前記制御部5は、罫線として十分な長さがあり、前記罫線間隔の前記線状画像のみを罫線と判定することができる。例えば、図4(A)に示される用紙Pにおいて、前記太罫線62A、前記罫線61A〜61C、前記太罫線62B、前記罫線61J、及び前記太罫線62Dが前記制御部5により罫線と判定される。
このように、前記ステップS4乃至前記ステップS7において、前記ステップS3によって抽出された複数の前記線状画像に前記罫線間隔で出現する前記線状画像がある場合に、前記罫線間隔の前記線状画像を罫線と判定する前記制御部5は、本発明の第1判定手段の一例である。また、前記ステップS4乃至前記ステップS7が、本発明の罫線判定方法の第1判定ステップの一例である。
(ステップS8)
ステップS8において、前記制御部5は、前記ステップS2により抽出された前記線状画像の中から罫線と判定されなかった前記第1閾値以上の前記線状画像及び前記第1閾値未満であり第2閾値以上である準線状画像を抽出する。これにより、前記制御部5は、罫線が存在する可能性が高い位置にあるが、前記第1閾値未満であるために罫線候補とされなかった前記線状画像も罫線候補とすることができる。また、前記準線状画像が罫線と判定されることにより、罫線と判定されなかった前記第1閾値以上の前記線状画像であっても罫線と判定される可能性があるため、前記制御部5は、これらも罫線候補とする。
なお、前記第2閾値は、前記第1閾値よりも小さい値であるが、罫線が手書き文字71及び手書き文字72などにより分断された可能性が高いと考えられる十分な長さである。
言い換えると、前記ステップS3により抽出される前記線状画像は、前記所定範囲内の画素が前記第1閾値以上の数を直線状に連続したものである。なお、前記ステップS8において、画像データーの中から前記第1閾値未満であり前記第2閾値以上である前記所定範囲内の画素が連続してなる前記準線状画像を抽出する前記制御部5は、本発明の第2画像抽出手段の一例である。
(ステップS9)
次に、前記ステップS9において、前記制御部5は、前記ステップS4乃至前記ステップS7により判定された罫線から前記罫線間隔の位置に、前記準線状画像及び罫線と判定されなかった前記第1閾値以上の他の前記線状画像のいずれか一方又は双方があるかないかを判定する。
前記制御部5は、前記罫線間隔の位置に、前記準線状画像及び他の前記線状画像のいずれもないと判定すると、処理をステップS11に移行させる(S9のNO側)。この場合、前記制御部5は、画像データーの中に前記ステップS7において罫線と判定された前記線状画像以外に罫線はないと判定する。
一方、前記制御部5は、前記罫線間隔の位置に、前記準線状画像及び他の前記線状画像のいずれか一方又は双方があると判定すると、処理をステップS10に移行させる(S9のYES側)。
(ステップS10)
次に、前記ステップS10において、前記制御部5は、前記ステップS9において判定された前記準線状画像及び他の前記線状画像を罫線と判定する。
なお、前記第2閾値は、画像データーの中の幅方向に対して、罫線である可能性が高いと考えられる長さである。例えば、A4サイズである用紙Pの幅4961画素に対して、約20分の1の240画素であることが考えられる。図4(A)に示される用紙Pにおいて、罫線61D、61F、及び61Gが、前記制御部5により前記準線状画像であると判定され、さらに罫線であると判定される。また、前記ステップS7の段階では、前記第1閾値以上の前記線状画像であるが前記罫線間隔でないため罫線と判定されなかった他の前記線状画像である前記罫線61E及び前記罫線61Hが、前記制御部5により新たに罫線と判定される。
このように、前記ステップS10において、前記ステップS7により判定された罫線から前記罫線間隔を隔てた位置に前記準線状画像がある場合に、前記準線状画像を罫線と判定する前記制御部5は、本発明の第2判定手段の一例である。また、前記ステップS10において、該ステップにより罫線と判定された前記準線状画像から前記罫線間隔を隔てた他の前記線状画像を罫線と判定する前記制御部5は、本発明の第1判定手段の他の一例である。
前記ステップS3乃至前記ステップS7において、罫線である可能性が高い前記第1閾値以上の前記線状画像を、前記制御部5は罫線と判定した。これに対して、前記ステップS8乃至前記ステップS10において、罫線である可能性が高いと判定された結果を使用して、その判定から漏れた前記線状画像の中から前記制御部5は罫線を判定する。この処理は、前記ステップS1において、用紙Pを複数のブロックごとに読み取り、ブロックごとに前記制御部5が罫線削除処理を実行する際に、罫線と判定されるべき前記線状画像及び前記準線状画像が判定から漏れることを防止することができる。
(ステップS11、ステップS12)
次のステップS11では、前記制御部5は、画像データーの中から罫線と判定された前記線状画像及び前記準線状画像と同一直線状にある前記所定範囲内の画素を抽出して罫線と判定する。
その後、ステップS12において、前記制御部5は、罫線と判定された前記線状画像及び前記準線状画像から前記罫線間隔を隔てた位置に前記所定範囲内の画素を点状画素として抽出して、この点状画素を罫線と判定する。ここで、点状画素とは、罫線上の広範囲に前記手書き文字71又は前記手書き文字72があるために、罫線が細分化されものであり、その細分化された罫線の長さが前記第2閾値よりも短くされたものである。このような点状画素は、ステップS2では線状画像として抽出されないが、ステップS12の処理が行われることによって抽出されて、罫線の一部と判定される。
これにより、前記制御部5は、前記罫線61Fが前記手書き文字71により区切られても短く区切られた部分を罫線と判定することができるため、前記罫線61Fと前記罫線61Fに交差する前記手書き文字71とを高い精度で分離することができる。例えば、図4(A)に示される用紙Pにおいて、前記ステップS11が実行されると、前記罫線61D、61F、61G、及び太罫線62Cの文字間の罫線画素が、前記制御部5により新たに罫線と判定される。また、前記ステップS12が実行されると、罫線上に前記手書き文字71が多数存在するために、前記ステップS10までの処理では罫線とは判定できない罫線61Iを前記点状画素して抽出され罫線として判定される。前記ステップS11及び前記ステップS12により、前記手書き文字71の「O、M」などの文字内部と前記罫線61F及び前記罫線61Iなどが重なる部分の画素が前記点状画素として抽出され罫線と判定される。このように、前記制御部5は細切れにされた罫線を高い精度で判定することができる。
(ステップS13)
ステップS13において、前記制御部5は、画像データーの中から罫線と判定された全ての画素を削除する。
例えば、図4に示される罫線削除前の用紙Pは、図5に示される罫線削除後の用紙Pのように、前記制御部5が実行する罫線削除処理により、罫線と判定される前記罫線61A〜前記罫線61J及び前記太罫線62A〜前記太罫線62Dが用紙Pから削除される。しかし、図5及び図6に示されるように、他の罫線とは間隔が異なる前記標題用罫線63、及び前記手書き文字72の下線部分は削除されない。これにより、前記制御部5は、従来の2値化による罫線削除では、削除されてしまう可能性が高い前記手書き文字72の下線部分や他の罫線と異なる前記標題用罫線63を残しつつ、印刷された罫線部分を削除することができる。
このように、前記ステップS13において、画像データーの中から罫線と判定された削除画素を削除する前記制御部5は、本発明の削除手段の一例である。
(ステップS14)
ステップS14において、前記制御部5は、前記ステップS13において削除された画素の領域の色調を画像データーの地色画像の色調に変更する。詳細には、削除された画素の領域の濃度及び色相を、画像データーの地色画像の濃度及び色相に変更する。用紙Pが白地の場合は、前記ステップS14を実行する必要はない。しかし、用紙Pに地色がある場合に、前記ステップS13において、前記制御部5により画像データーの中から罫線の画素が削除されると、元々罫線があった部分が地色と異なる濃度及び色相になる。そのため、画像データーに地色がある場合に、前記制御部5が削除した画素の領域を地色画素の濃度及び色相に変更することにより、罫線が削除された画像データーを見やすくすることができる。
なお、地色画像の濃度及び色相は、予め定められた設定値にする方法と画像データーの中から抽出する方法とがある。例えば、地色画像の濃度及び色相を抽出する方法は、罫線に隣接する複数の隣接画素を抽出し、複数の隣接画素の中から濃度及び色相の数が最も多い画素にすることが考えられる。
<実施形態の効果>
以上説明したように、本発明の前記複合機100によれば、画像データーの中から罫線を高精度に判定することができる。
また、従来の罫線削除処理では、2値化された画像データーをそのまま処理して罫線を判定するため、罫線と交わる他の画素が罫線か否かを判定するために複雑で多くの演算処理が必要であった。しかし、本発明の前記複合機100によれば、罫線の間隔や罫線を構成する画素の濃度及び色相のいずれか一方又双方の情報に基づいて、罫線であるかないかを判定するため、演算処理を減らすことができる。
<実施形態の変形例>
(第1変形例)
前記実施形態の説明では、前記複合機100は、前記罫線間隔にある罫線のみを用紙Pの画像データーから判定する例について説明したが、この例に限るものではない。以下に、前記実施形態の第1変形例として、罫線のみならず、罫線と同質の画素を用紙Pから抽出して削除する前記複合機100について説明する。
一般的なノート、原稿用紙、グラフ用紙などの罫線が印刷されている用紙は、罫線以外の他の情報も罫線と同濃度及び同色で印刷されている。そのため、罫線を構成する画素の濃度及び色相の情報を使用することにより、前記複合機100は、罫線以外の印刷情報を抽出することができる。
ここで、本第1変形例が前記実施形態と異なるところは、図3に示された罫線削除処理の前記ステップS8以降の処理であり、その他の部分は前記実施形態の構成及び処理と共通する。そのため、ここでは、異なる部分だけ説明して、共通する部分の説明は省略する。
以下、図7のフローチャート及び図4及び図5の用紙Pの図を参照しつつ、前記制御部5によって実行される印刷情報除去処理の手順について説明する。
(ステップS21、ステップS22)
前記ステップS7において、罫線が判定されると、ステップS21において、前記制御部5は、罫線を構成する罫線画素の色及び濃度の情報を抽出する。
続いて、ステップS22において、前記制御部5は、前記ステップS21により抽出された罫線画素の濃度及び色相と同じ濃度及び色相を有する画素を削除対象の画素(削除画素)として画像データーの中から抽出する。
これにより、用紙Pの中から罫線と同じ濃度及び色相で印刷された印刷情報を抽出することができる。例えば、図4に示された用紙Pにおいて、前記標題用罫線63、日付や番号を記載するページ情報記載欄64、列を表す列点65、所定行ごとに行の位置を判別可能にする行点66、及び用紙Pのロゴマーク67などを前記制御部5は抽出することができる。このように、前記ステップS21及び前記ステップS22において、前記ステップS7により罫線と判定された前記線状画像の色調と同じ色調を有する画素を前記画像データーの中から前記削除画素として抽出する前記制御部5は、第4画素抽出手段の一例である。
(ステップS23)
次のステップS23では、前記制御部5は、前記ステップS21により抽出された前記削除画素を画像データーの中から削除して、前記ステップS14に移行する。これにより、前記制御部5は、罫線と同濃度及び同色の画素を用紙Pの画像データーから削除して、前記手書き文字71及び前記手書き文字72のみを残すことができる。また、図4の用紙Pには、記載されていないが、罫線に直交する縦線、罫線に対して傾いている斜線、及び点線などが用紙Pに印刷さていても、罫線の画素と色及び濃度が前記所定範囲内である限り、前記制御部5は削除することができる。
なお、前記ページ情報記載欄64を削除せずに残したい場合には、抽出された前記削除画素を画像データーの中から削除する範囲を限定し、限定された範囲内で前記制御部5が前記削除画素を削除することが考えられる。例えば、A4サイズの上から15分の1(約410画素)の範囲を削除禁止にすることにより、前記印刷情報除去において、前記制御部5は、必要な印刷情報を残しつつ他の印刷情報を除去することができる。この場合、前記印刷情報除去が実行された後の画像データーの中には、前記手書き文字71、前記手書き文字72、前記ページ情報記載欄64、及び上方の前記ロゴマーク67のみが含まれる。
このように、第1変形例の前記複合機100によれば、用紙Pの画像データーから罫線のみならず、罫線と同濃度及び同色の画素を抽出して削除することができる。つまり、前記複合機100では、用紙Pの画像データー中に罫線と同濃度及び同色で表される縦線、斜線、及び点線などを抽出する処理や判定する処理を、複雑な演算を伴うことなく、容易に行うことができる。
(第2変形例)
前記実施形態の説明では、前記複合機100は、前記罫線間隔にある罫線のみを用紙Pから抽出する例について説明したが、この例に限るものではない。以下に、前記実施形態の第2変形例として、罫線を抽出した後に、罫線に基づいて、画像データーを回転させて見やすくする前記複合機100について説明する。
ここで、本第2変形例が前記実施形態と異なるところは、図3に示された罫線削除処理の前記ステップS8以降の処理であり、その他の部分は実施形態の構成及び処理と共通するため、ここでは、異なる部分だけ説明して、共通する部分の説明は省略する。
以下、図8のフローチャートを参照しつつ、前記制御部5によって実行される回転処理の手順について説明する。
(ステップS31)
前記ステップS7において、罫線が判定されると、ステップS31において、前記制御部5は、罫線の両端の座標情報を抽出して、Y座標が一致するか否かを判定する。
前記制御部5は、Y座標が一致すると判定すると、処理を終了させる(S31のYES側)。つまり、前記制御部5は、用紙Pが傾いていないと判定し、そのため、画像データーを回転させる必要がないと判定する。
一方、前記制御部5は、Y座標が一致しないと判定すると、処理をステップS32に移行させる(S31のNO側)。
このように、前記ステップS31において、前記ステップS4乃至前記ステップS7により罫線と判定された前記線状画像の両端それぞれの画像データーの中における位置情報に基づいて、前記罫線が傾斜しているかいなかを判定する前記制御部5は、本発明の傾度判定手段の一例である。
(ステップS32、ステップS33)
次に、ステップS32において、前記制御部5は、Y座標の差分を抽出する。具体的には、罫線の右端のY座標の値から罫線の左端のY座標の値を引くことにより差分を抽出する。
ステップS33において、前記制御部5は、Y座標の差分を解消する向きに画像データーを回転する。具体的には、前記ステップS33において、差分がプラスの場合、前記制御部5は、罫線が右肩上がりであると判定して、差分に対応する回転量だけ画像データーを時計回りに回転させる。また、前記ステップS33において、差分がマイナスの場合、前記制御部5は、罫線が右肩下がりがりであると判定して、差分に対応する回転量だけ画像データーを反時計回りに回転させる。
このように、前記ステップS32及び前記ステップS33において、前記ステップS31により傾斜していると判定された場合に、傾斜度に応じて画像データーを傾斜方向と反対方向へ回転させて補正する前記制御部5は、本発明の補正手段の一例である。
第2変形例の前記複合機100によれば、用紙Pの画像データーを回転させて罫線の方向と画像データー外枠の底辺の方向とを一致させることができる。これにより、画像データー内の前記手書き文字71及び前記手書き文字72を読みやすくすることができる。もちろん、第2変形例は、本発明の実施形態及び第1変形例と組み合わせることが考えられる。これにより、罫線を削除するとともに、前記手書き文字71及び前記手書き文字72の向きを回転させて、見やすくできる。
<実施形態の他の適用例>
前記実施形態の説明では、本発明の画像処理装置の一例として前記複合機100について説明したが、これに限るものではない。
本発明は、前述の各ステップに従った処理を行うことにより画像データーの中から罫線を抽出する罫判定方法として捉えることができる。また、本発明は、コンピューターに、前述の各ステップを実行させて画像データーの中から罫線を抽出させるプログラムとして捉えることができる。
本発明の説明では、前記画像読取部1が用紙Pのカラーの画像データーを読み取り、カラーの色相に基づいて、処理をする場合について説明したが、これに限るものではない。カラーの画像データーの代わりに、濃度情報のみがあるグレースケールの画像データーであってもよい。
100:複合機(画像処理装置の一例)
1:画像読取部
2:ADF
3:画像形成部
4:給紙部
5:制御部
6:操作表示部
51:CPU
52:ROM
53:RAM
54:EEPROM
55:送受信部
56:画像RAM
61A〜61J:罫線
62A〜62D:太罫線
63:標題用罫線
64:ページ情報記載欄
65:列点
66:行点
67:ロゴマーク
71、72:手書き文字
P、S:用紙

Claims (10)

  1. 所定範囲内の色調を有する基準画素が第1閾値以上直線状に連続する複数の線状画像を画像データーから抽出する第1画像抽出手段と、
    前記第1画像抽出手段によって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する第1判定手段と、
    前記画像データーの中から前記基準画素の連続が第2閾値以上であり前記第1閾値未満である準線状画像を抽出する第2画像抽出手段と、
    前記第1判定手段により判定された罫線から前記等間隔を隔てた位置に前記準線状画像がある場合に、前記準線状画像を罫線と判定する第2判定手段と、
    を備える画像処理装置。
  2. 前記色調は、濃度及び色相の双方又はいずれか一方である請求項1に記載の画像処理装置。
  3. 前記第1判定手段は、前記第2判定手段により罫線と判定された前記準線状画像から前記等間隔を隔てた前記線状画像を罫線と判定する請求項1又は2に記載の画像処理装置。
  4. 前記画像データーの中から罫線と判定された前記線状画像及び前記準線状画像と同一直線状にある前記基準画素又は罫線と判定された前記線状画像及び前記準線状画像から前記等間隔を隔てた位置に前記所定範囲内の画素を点状画素として抽出する第3画像抽出手段と、
    前記第3画像抽出手段によって抽出された前記点状画素を罫線と判定する第3判定手段と、
    を更に備える請求項1〜3のいずれかに記載の画像処理装置。
  5. 前記画像データーの中から罫線と判定された画素を削除する削除手段を更に備えた請求項1〜のいずれかに記載の画像処理装置。
  6. 前記削除手段は、削除対象の画素色調を前記画像データーの地色画像の色調に変更する請求項に記載の画像処理装置。
  7. 前記第1判定手段により罫線と判定された前記線状画像の色調と同じ色調を有する画素を前記画像データーの中から削除対象として抽出する第4画素抽出手段を更に備え、
    前記削除手段は、前記第4画素抽出手段により抽出された前記削除対象の画素を削除する請求項又はに記載の画像処理装置。
  8. 前記画像データーにおいて、前記第1判定手段により罫線と判定された前記線状画像の両端の位置情報に基づいて、前記罫線が傾斜しているかいなかを判定する傾度判定手段と、
    前記傾度判定手段により傾斜していると判定された場合に、傾斜度に応じて前記画像データーを傾斜方向と反対方向へ回転させて補正する補正手段と、
    を更に備える請求項1〜のいずれかに記載の画像処理装置。
  9. 所定範囲内の色調を有する基準画素が第1閾値以上直線状に連続する複数の線状画像を画像データーから抽出する第1画像抽出ステップと、
    前記第1画像抽出ステップによって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する第1判定ステップと、
    前記画像データーの中から前記基準画素の連続が第2閾値以上であり前記第1閾値未満である準線状画像を抽出する第2画像抽出ステップと、
    前記第1判定ステップにより判定された罫線から前記等間隔を隔てた位置に前記準線状画像がある場合に、前記準線状画像を罫線と判定する第2判定ステップと、
    を実行する罫線判定方法。
  10. コンピューターに、
    所定範囲内の色調を有する基準画素が第1閾値以上直線状に連続する複数の線状画像を画像データーから抽出する第1画像抽出ステップと、
    前記第1画像抽出ステップによって抽出された前記複数の線状画像に等間隔で出現する線状画像がある場合に、前記等間隔の線状画像を罫線と判定する第1判定ステップと、
    前記画像データーの中から前記基準画素の連続が第2閾値以上であり前記第1閾値未満である準線状画像を抽出する第2画像抽出ステップと、
    前記第1判定ステップにより判定された罫線から前記等間隔を隔てた位置に前記準線状画像がある場合に、前記準線状画像を罫線と判定する第2判定ステップと、
    を実行させるための罫線判定プログラム。
JP2013092261A 2013-04-25 2013-04-25 画像処理装置、罫線判定方法、及び罫線判定プログラム Expired - Fee Related JP5822865B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013092261A JP5822865B2 (ja) 2013-04-25 2013-04-25 画像処理装置、罫線判定方法、及び罫線判定プログラム
US14/261,308 US9355326B2 (en) 2013-04-25 2014-04-24 Image processing apparatus, ruled line determination method, and storage medium having ruled line determination program stored therein

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013092261A JP5822865B2 (ja) 2013-04-25 2013-04-25 画像処理装置、罫線判定方法、及び罫線判定プログラム

Publications (2)

Publication Number Publication Date
JP2014215797A JP2014215797A (ja) 2014-11-17
JP5822865B2 true JP5822865B2 (ja) 2015-11-25

Family

ID=51789291

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013092261A Expired - Fee Related JP5822865B2 (ja) 2013-04-25 2013-04-25 画像処理装置、罫線判定方法、及び罫線判定プログラム

Country Status (2)

Country Link
US (1) US9355326B2 (ja)
JP (1) JP5822865B2 (ja)

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5581635A (en) * 1995-07-25 1996-12-03 United Parcel Service Of America, Inc. Method and system for fast rotation of run-length encoded images
JP3642615B2 (ja) * 1995-10-30 2005-04-27 富士通株式会社 パターン領域切り出し方式及びパターン抽出装置
US5859929A (en) * 1995-12-01 1999-01-12 United Parcel Service Of America, Inc. System for character preserving guidelines removal in optically scanned text
JP3411472B2 (ja) * 1997-05-30 2003-06-03 富士通株式会社 パターン抽出装置
JP2000222524A (ja) 1999-02-02 2000-08-11 Ntt Data Corp 罫線除去方法及び装置、記録媒体
JP3864246B2 (ja) * 2001-05-30 2006-12-27 インターナショナル・ビジネス・マシーンズ・コーポレーション 画像処理方法、画像処理システムおよびプログラム
JP4603807B2 (ja) * 2004-03-10 2010-12-22 富士通株式会社 文字認識装置,文字認識方法,媒体処理方法,文字認識プログラムおよび文字認識プログラムを記録したコンピュータ読取可能な記録媒体
JP4598426B2 (ja) * 2004-03-30 2010-12-15 富士通株式会社 境界抽出方法、プログラムおよびこれを用いた装置
JP4167680B2 (ja) * 2005-09-14 2008-10-15 Necアクセステクニカ株式会社 原稿読取装置および原稿読取方法
JP4329764B2 (ja) 2006-01-17 2009-09-09 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置および罫線抽出プログラム
JP4973063B2 (ja) * 2006-08-14 2012-07-11 富士通株式会社 表データ処理方法及び装置
JP2008141384A (ja) * 2006-11-30 2008-06-19 Brother Ind Ltd 画像処理装置および画像処理プログラム
JP4835459B2 (ja) * 2007-02-16 2011-12-14 富士通株式会社 表認識プログラム、表認識方法および表認識装置
JP4491488B2 (ja) * 2008-03-03 2010-06-30 シャープ株式会社 画像処理装置、画像読取装置、画像データ出力処理装置、および画像処理方法
JP4909311B2 (ja) * 2008-03-31 2012-04-04 富士通フロンテック株式会社 文字認識装置

Also Published As

Publication number Publication date
US9355326B2 (en) 2016-05-31
JP2014215797A (ja) 2014-11-17
US20140321716A1 (en) 2014-10-30

Similar Documents

Publication Publication Date Title
JP6288521B2 (ja) 画像処理装置
JP5645689B2 (ja) 画像処理装置及びこれを備えた画像形成装置
JP4079046B2 (ja) 画像処理装置及び画像処理方法
US9826118B2 (en) Image formation apparatus
JP6269455B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4502001B2 (ja) 画像処理装置および画像処理方法
JP2007087196A (ja) 画像判定方法、画像処理装置、及び画像出力装置
JP2016184914A (ja) 画像処理装置
JP5822865B2 (ja) 画像処理装置、罫線判定方法、及び罫線判定プログラム
JP2012253776A (ja) 画像形成装置及び画像処理プログラム
JP6623979B2 (ja) 画像処理装置及び画像処理方法
JP6081874B2 (ja) 画像読取装置
JP2009105492A (ja) 画像処理装置及び画像形成装置
JP4743878B2 (ja) 画像形成装置
JP6451693B2 (ja) 画像処理装置、画像処理方法
JP2010109479A (ja) 画像処理装置、プログラムおよび画像処理方法
JP6579388B2 (ja) 画像読取装置
JP6805521B2 (ja) 画像読み取り装置、同装置における読み取り画像の補正方法及び読み取り画像の補正プログラム
JP6105521B2 (ja) 画像処理装置、プログラム及び画像形成装置
JP6095558B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP5802782B2 (ja) マーク検出装置
JP2014241154A (ja) マーク検出装置
JP2016091341A (ja) 画像処理装置
JP2021022764A (ja) 画像処理装置
JP2012029116A (ja) 画像判別装置、及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150219

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20150528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150619

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20150619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151006

R150 Certificate of patent or registration of utility model

Ref document number: 5822865

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees