JP3689240B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP3689240B2
JP3689240B2 JP18654198A JP18654198A JP3689240B2 JP 3689240 B2 JP3689240 B2 JP 3689240B2 JP 18654198 A JP18654198 A JP 18654198A JP 18654198 A JP18654198 A JP 18654198A JP 3689240 B2 JP3689240 B2 JP 3689240B2
Authority
JP
Japan
Prior art keywords
page
boundary
section
image
switching point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP18654198A
Other languages
Japanese (ja)
Other versions
JP2000022932A (en
Inventor
博也 秦
浩 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP18654198A priority Critical patent/JP3689240B2/en
Publication of JP2000022932A publication Critical patent/JP2000022932A/en
Application granted granted Critical
Publication of JP3689240B2 publication Critical patent/JP3689240B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、複写機,ファクシミリ等における画像読取装置やスキャナなどの画像処理装置に関し、さらに詳しく言えば、製本原稿を読み取った場合の画像補正機能を有する画像処理装置に関するものである。
【0002】
【従来の技術】
一般的なフラットベッドタイプのスキャナ(複写機の画像読取部などを含む)で製本原稿を読み取る場合、製本原稿の綴じ部の浮きにより、図12に示すように、▲1▼主走査方向の縮み(文字、罫線が曲がる)、▲2▼副走査方向の縮み(文字がつぶれる)、▲3▼ピントのずれ(文字がぼける)、▲4▼影の発生(地肌が汚れる)などの画像劣化が発生する。
【0003】
このような画像劣化に対し、特開平5−161002号公報、特開平5−161003号公報、特開平5−161004号公報および特開平6−205194号公報に各種の対応技術が開示されている。
【0004】
ところで、上記のような画像劣化に対応し、適切な画像補正を行って高品位な読取画像を得るためには、スキャンした画像に対し、補正を施すべき部分を適切に設定する必要が有る。
【0005】
そこで、本願出願人は、ページの湾曲している綴じ部領域と平面部のページ領域を分離して制御切替点を検出し、見開き製本原稿の綴じ部とページ部の画像処理を異ならせる技術を別途開発している。この制御切替点の決め方は、まず、ページ平面部の検出したページ境界位置データの離れたある2点の位置データから、見開き左右ページのページ平面部の境界の直線部の傾き及び位置を算出し、その算出されたページ平面部境界の直線の延長線上から所定の距離だけ離れ、かつ、ある範囲でそれ以上近づかないことを条件として切替点の位置を判断するものである。
【0006】
【発明が解決しようとする課題】
しかしながら、上記の切替点決定方法では、対象とする本のページ平面部にある2点、すなわち、左右合計4点の位置を予め確定する必要があり、そのため、様々なサイズの原稿に対応することができなかった。
【0007】
また、一般に、原稿セット時にはページスキュー(傾き)があり、基準原稿スケールからの距離によっては正確な切替点の決定を行うことはできず、プレスキャンが必要でまたページメモリを要するという問題もある。さらに、綴じ部画像補正のリアルタイムでの処理ができないという問題もある。
【0008】
本発明は、画像処理装置における上述の問題を解決し、サイズの分からない原稿にも対応することができ、また、プレスキャンやページメモリを必要とせずに綴じ部画像補正をリアルタイムで処理することのできる画像処理装置を提供することを課題とする。
【0009】
【課題を解決するための手段】
前記の課題は、本発明により、原稿画像を読み取る読取手段と、読取画像に補正処理を施す画像補正手段とを有し、見開き製本原稿のページ境界を検出してページ境界部の形状を認識し、該ページ境界の形状より見開きページの綴じ部領域を判別し、見開きページの綴じ部領域を分離して前記ページ境界の形状より見開き製本原稿の形状を認識し、前記画像補正手段による見開き製本原稿画像の綴じ部と平面部の補正処理を切り替え可能な画像処理装置において、前記綴じ部と平面部の補正処理を切り替える位置を切替点とし、ページ先端から副走査方向に所定の距離の位置から主走査方向片側の前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以上になる区間が所定区間続くことを条件として先頭側ページの前記切替点を算出することにより解決される。
【0010】
また、本発明は前記の課題を解決するため、ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの方向の変化点を検出し、該変化点を先頭側ページと後続ページの境目位置とすることを提案する。
【0011】
さらに、本発明は前記の課題を解決するため、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続くことを条件として後続ページの前記切替点を算出することを提案する。
【0012】
さらに、本発明は前記の課題を解決するため、ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以上になる区間が所定区間続く位置を検出し、該検出位置から所定距離以上戻った位置を先頭側ページの切替点とすることを提案する。
【0013】
さらに、本発明は前記の課題を解決するため、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続く位置を検出し、該検出位置に基づいて後続ページの切替点を算出することを提案する。
【0014】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は、本発明に係る画像処理装置の一例を示す斜視図である。この図において、装置本体1の上面にコンタクトガラス2が設けられている。このコンタクトガラス2の左辺には横原稿スケール3が、また、奥側の辺には奥原稿スケール4が夫々配設されている。コンタクトガラス2上に載置する原稿は、上記原稿スケール3,4に突き当てて載置する。すなわち、本装置はコンタクトガラス2の左奥のコーナーが原稿基準5となっており、原稿は読み取る面を下向きにし、原稿角部を原稿基準5に合わせてセットする。図1には、製本原稿10がページを開いた状態でコンタクトガラス2上にセットされた様子が示されている。そして、コンタクトガラス2の下方の装置内部には、スリット露光の読取手段(図示せず)が配置されている。また、装置内部には図示しない画像補正手段が設けられ、読取手段によって読み取った画像に対し、補正処理を施すことができるように構成されている。なお、この画像処理装置はフラットベットタイプのスキャナとして一般的な形態のものであり、例えばデジタル複写機の場合には、本体1の下側に作像部としてのプリンタ部が配置される。
【0015】
原稿スケール3,4は、コンタクトガラス2より高く段差がある構造となっており、原稿の突き当てセットを行い易いようになっている。本実施形態では、横原稿スケール3が読取手段による読み取りの先頭側になっており、コンタクトガラス2上に見開いてセットされた製本原稿10の左側が先頭ページ、右側が後端ページとなる。ところで、製本原稿10が厚手の場合には、その画像読み取り時に綴じ部の写りを良くするためにオペレータが製本原稿の綴じ部を押圧する場合も有り、製本原稿読み取り時には原稿圧板6を開放したまま読み取る場合も多い。
【0016】
オペレータが図示しない操作部から画像読み取り開始を指示することにより、読取手段の原稿照明ランプが点灯し、原稿面をスリット走査して原稿画像を読み取る。なお、奥側の原稿スケール4の下側は黒く塗装されており、コンタクトガラス2上にセットされた原稿との濃度判別が付き易い構成となっている。
【0017】
図2は、上記製本原稿10を読み取った画像を示すものである。この図において、縦軸は主走査方向を、横軸は副走査方向を表わしており、右上の角がコンタクトガラス2の左奥の原稿基準5に相当する。図2では、コンタクトガラス2上で左側に位置する先頭ページが右側となり、コンタクトガラス2上で右側に位置する後端ページが左側となる。
【0018】
読み取りデータには原稿部10´と背景部G(図にハッチングで示す非画像領域)があり、両者の境界がある。そして、境界分布が直線となるページ部(平面部)と曲線となる綴じ部があり、ページ部と綴じ部の境目を切替点と呼ぶ。図4に示すように、見開き製本画像においては、先頭ページの切替点と後端ページの切替点がある。ページ切替点は、見開き製本原稿の綴じ部とページ部の画像処理を異ならせるための制御切替点でもある。
【0019】
本願発明はページ切替点の検出方法に特徴があり、プレスキャンを行わずに、また、ページメモリを設けることなく、リアルタイムでの綴じ部画像補正処理を可能とするものである。
【0020】
ここで、本願発明によるページ切替点検出の特徴を、後述する補正処理と関連させて、本願の請求項ごとにまとめて簡単に説明しておく。
【0021】
(1) 見開き製本原稿画像に対する綴じ部補正処理では、ページ平面部と綴じ部を切替点で分け、ページ平面部では画像シフトのみ、綴じ部では画像シフトを含む主走査方向復元処理及び副走査方向復元処理を行う。先頭ページの境界線は、ページ先頭から直線、ページ面が浮いた綴じ部近傍は曲線となって読み取られる。本発明ではこの特徴を利用して先頭ページ側の切替点を検出するようにしている。
【0022】
(2) 本実施形態では、先頭ページは先頭ページの切替点の境界位置アドレスを、後端ページは後端ページの切替点の境界位置アドレスを元に復元倍率を算出して綴じ部復元処理をするため、先頭ページと後端ページの境目を知る必要がある。この境目を「方向(境界線の傾きの方向)の変化点」とし、隣接する区間の境界線の傾きを比べることで決定するようにしている。
【0023】
(3)綴じ部補正処理ではページ平面部と綴じ部を切替点で分け、ページ平面部では画像シフトのみ、綴じ部では画像シフトを含む主走査方向復元処理及び副走査方向復元処理を行う。後端ページの境界線は方向の変化点から、ページ面が浮いた綴じ部近傍は曲線、ページ面がコンタクトガラスに接している平面部は直線となって読み取られる。本発明ではこの特徴を利用して後端ページ側の切替点を検出するようにしている。
【0024】
(4)綴じ部補正処理ではページ平面部と綴じ部を切替点で分け、ページ平面部では画像シフトのみ、綴じ部では画像シフトを含む主走査方向復元処理及び副走査方向復元処理を行う。境界線の切替点の検出は曲線部の傾きを見ることによって行っている。切替点算出の元データは、境界の傾きの差が所定値以上になる点なので、検出した位置では傾きが始まっている。このため、曲線部に入ってからの判定により遅れが生じている。したがって、本発明では、副走査方向の縮みが起こらないで、より正確な副走査方向の復元処理ができるように綴じ部区間を広げて、製本原稿の先頭ページ側の平面部と綴じ部の切替点を決めるようにしている。
【0025】
(5)綴じ部補正処理ではページ平面部と綴じ部を切替点で分け、ページ平面部では画像シフトのみ、綴じ部では画像シフトを含む主走査方向復元処理及び副走査方向復元処理を行う。後端ページでは、切替点を算出するための元データ(基準値)である「検出した位置」を検出した時点で切替点が決まり、同時にその処理領域に対応する復元処理を始められるように、製本原稿の後端ページ側の平面部と綴じ部の切替点を決めるようにしている。
【0026】
図3は、製本原稿10をコンタクトガラス2上にセットした様子を示す縦断面図である。この図に示すように、原稿スケール3は高さHを有しており、原稿スケール3に製本原稿10の側端部を突き当ててセットした場合、スケール3の角部に本の傾斜した小口が当たってしまい、先頭ページの右側に小口が写ってしまうことになる。この小口の画像部分を避けるために、ページ切替点の検出は、ページ先頭から副走査方向に所定の距離:X(図2参照)の位置から探し始めるようにされている。なお、所定の距離:Xは、図示しない操作部から設定することができるように構成され、例えば5mmが設定される。
【0027】
図4は、左右ページ(先頭ページと後端ページ)の切替点及び中央のページ境目の検出概念を説明する模式図である。
本実施形態では、読み取りデータの原稿部10´と背景部の境界である境界線BLの傾きを検出し、それに基づいてページ切替点及びページ境目の検出を行っている。ここでは、先頭ページの切替点と後端ページの切替点の間の部分を「綴じ部境界線」と呼び、その両側の部分を「ページ直線部」と呼ぶ。
【0028】
具体的には、境界線BLを区間に分割し、各区間毎に境界線の傾きを検出している。副走査方向に図の右から左へ切替点(ページ切替点)を探していくと、初めは(区間▲1▼より右の部分では)各区間の境界線の傾きは小さく、隣接する区間の境界線の傾きの差は所定値以下である。そして、綴じ部に近づくにしたがって境界線の傾き(図4では水平線からの角度)が大きくなっていき、区間▲1▼の境界線の傾きと隣の区間▲2▼の境界線の傾きの差が所定値より大きくなる。次に、区間▲2▼の境界線の傾きと隣の区間▲3▼の境界線の傾きの差も所定値より大きくなり、隣接する区間の境界線の傾きの差が所定値より大きくなる区間が2区間続いたことになる。本実施形態では、この隣接する区間の境界線の傾きの差が所定値より大きくなる区間が2区間続くことを条件として先頭ページの切替点を算出する。
【0029】
先頭ページの切替点を決めた後、さらに左に向かってページの境目(境界線の方向の変化点)を探していくと、ある区間で境界線の傾きの符号が変わる。仮に、先頭ページにおける綴じ部付近のように境界線が右肩上がりの方向を(+)とすれば、後端ページにおける綴じ部付近では境界線の符号は(−)であり、隣接する区間で境界線の傾きの符号が変化する個所がある。本実施形態では、この隣接する区間で境界線の傾きの符号が変化することを条件としてページの境目と決定する。
【0030】
さらに、図中左に向かって後端ページの切替点を探していくと、後端ページでは区間Aと区間B、区間Bと区間C、区間Cと区間Dで境界線の傾きの差が所定値より大きくなり、上記のように、隣接する区間の境界線の傾きの差が所定値より大きくなる区間が2区間続いたことで後端ページの切替点が決定される。
【0031】
ページ切替点の具体的な検出方法を説明する前に、境界線の傾きの検出について説明しておく。ただし、境界線の傾きの検出方法そのものは本願発明の趣旨ではないので、その概要を説明するにとどめる。
【0032】
原稿面を線順次に読み取る場合、ある区間内での副走査方向のライン数が16本であれば境界アドレスは16点であり、その16点の境界アドレスに基づいてその区間の境界線の傾きを算出する。
【0033】
境界線の傾きの求め方としては一般に次の3つの方法がある。
(a)サンプル点から最小二乗法により直線を算出し、その傾きを求める。
(b)外側の4点の重心をつなぐ直線により直線を算出し、その傾きを求める。
(c)区間両端の2点をつなぐ直線により直線を算出し、その傾きを求める。
【0034】
検出区間を一定とすると、上記の方法で求めた直線の区間始点と終点の主走査方向の差をその直線の傾き、すなわち境界線の傾きとして用いる。本実施形態では最も簡単な方法である上記(c)の方法を採用している。
【0035】
図5は、上記(c)の方法による境界線の傾き算出法を説明する模式図である。この図において、ある1区間内でサンプリングされた境界アドレスが16点あり、区間両端の2点をつないでその区間の境界線を代表する線分とし、その線分(直線)の始点と終点の主走査方向の差(図では、B−A)を境界線の傾きとする。
【0036】
次に、このようにして求めた区間境界線の傾きから切替点を決定する具体例について図6を参照して説明する。
図6において、横軸は副走査方向を表わし、縦軸は主走査方向を表わしている。読取り検出(切替点検出)の処理順番は右から左に向かって進められる。ここで、図中に書き込まれた語句の意味を箇条書きで記す。
「検出した位置」は、切替点検出の基準となる位置である。
「平面部と綴じ部の境目」は、「検出した位置」から「第1の指定区間」だけ戻った位置である。
「第1の指定区間」は、切替点検出のための連続区間のことである。
「第2の指定区間」は、先頭ページの「切替点」を決定するための所定の区間(ここでは5区間以上)である。先頭ページの「切替点」は、先頭ページにおける「平面部と綴じ部の境目」から「第2の指定区間」だけ(5区間以上)戻ったところとして決定される。
「第3の指定区間」は、後端ページの「切替点」を決定するための所定の区間(ここでは5区間以上)である。後端ページの「切替点」は、後端ページにおける「平面部と綴じ部の境目」から「第3の指定区間」だけ(5区間以上)進んだところとして決定される。
【0037】
さて、本実施形態では、隣接する区間の境界線の傾きの差が所定値より大きくなる区間が2区間続くことを条件として先頭ページの切替点を算出するものであるが、ここでは、隣接する区間の境界線の傾きの差が所定値より大きくなる区間が2区間続いたところを上記の「検出した位置」とし、この「検出した位置」を基準として「切替点」を決定するようにしている。また、境界線の傾きを画素数で表わしており、境界線の傾きの差の所定値を1画素とする。すなわち、隣接する区間の境界線の傾きの差が画素数で1以上となる区間が2区間続いたところを「検出した位置」とする。
【0038】
図6において、先頭ページの各区間毎に境界線の傾きを比べてみると、区間▲1▼と▲2▼では共に境界線の傾きが0.9画素であり、両区間の傾きの差は0である。そして、区間▲2▼と▲3▼の傾きの差は2.1−0.9=1.2画素である。区間▲2▼と▲3▼で傾きの差が1画素以上となったが、まだ傾きの差が1画素以上となる区間が2区間続いていない。次の区間▲3▼と▲4▼の境界線の傾きの差は3.2−2.1=1.1画素である。この区間▲4▼まで検出したところで、境界線の傾きの差が1画素以上となる区間が2区間連続した(区間▲3▼と▲4▼)ことになり、ここを上記の先頭ページにおける「検出した位置」とする。また、上記の「第1の指定区間」は区間▲3▼と▲4▼の2区間である。
【0039】
そして、この先頭ページの「検出した位置」を基準として「切替点」を算出する。区間▲3▼の始まりのラインを上記の「平面部と綴じ部の境目」とし、ここから上記の「第2の指定区間」すなわち5区間以上戻ったところを先頭ページの「切替点」と決定する。
【0040】
また、本実施形態では、隣接する区間の境界線の傾きの差が所定値以下になる区間が2区間続くことを条件として後端ページの切替点を算出するようにしている。先頭ページと同様に、隣接する区間の境界線の傾きの差が所定値以下になる区間が2区間続いたところを上記の「(後端ページの)検出した位置」とし、この後端ページの「検出した位置」を基準として後端ページの「切替点」を決定するようにしている。また、境界線の傾きを画素数で表わした場合、境界線の傾きの差の所定値を1画素とする。すなわち、隣接する区間の境界線の傾きの差が画素数で1以下となる区間が2区間続いたところを後端ページの「検出した位置」とする。
【0041】
図6において、後端ページの各区間毎に境界線の傾きを比べてみると、区間AとBの境界線の傾きの差は3.2−2.1=1.1画素である。次の区間BとCの境界線の傾きの差は2.1−0.9=1.2画素である。さらに、区間CとDの境界線の傾きの差は0.9−0.9=0画素である。ここで傾きの差が1画素以下になったが、まだ2区間連続していない。次の区間DとEの境界線の傾きの差は0.9−0.9=0画素であり、区間Eまで検出すると、隣接する区間の境界線の傾きの差が画素数で1以下となる区間が2区間続いたことになる。したがって、区間Eの終わりのラインを上記の後端ページの「検出した位置」とする。
【0042】
この後端ページの「検出した位置」に基づいて、区間Dの始まりのラインが後端ページにおける「平面部と綴じ部の境目」とし、ここから上記の「第3の指定区間」、ここでは5区間以上進んだ位置を後端ページの「切替点」と決定する。
【0043】
ところで、「第1の指定区間」=「第2の指定区間」とし、「第2の指定区間」=「第3の指定区間」と設定すれば、「第1の指定区間」=「第3の指定区間」となり、後端ページにおいては、切替点を算出するための元データである「検出した位置」を検出した時点で「切替点」が決定でき、同時にその処理領域に対する復元処理を開始することができる。
【0044】
図7は、上記の切替点検出処理の手順を示すフローチャートである。上述の如く、ある区間での境界アドレスをサンプリングして境界線の傾きを算出する(S1)、そして、隣接する区間の境界線の傾きの差が1画素(1dot)より大きいか否かを判断する(S2)。次に、境界線の傾きの差が1画素より大きい区間が2区間以上連続するかどうかを判断し(S3)、検出点(検出した位置)を決定する(S4)。次に、「平面部と綴じ部の境目」を決定し(S5)、切替点を算出する。ここでは、切替点Dの主走査及び副走査方向のアドレスD及びDを算出する(S6)。
【0045】
以下に、製本原稿10を読み取った際の画像データに対する綴じ部形状認識処理、主走査方向復元処理、副走査方向復元処理を含む綴じ部補正処理について説明する。 綴じ部形状認識処理は、コンタクトガラス2上にセットした製本原稿10の載置奥側の頁境界位置を読取装置の読み取り画像データから行う。この境界位置検出は、奥側の原稿スケール4の黒色部から、又は原稿圧板6の開放状態による空間部の黒色部から読み取り、製本原稿10の頁の地肌である白色部を判別する。
【0046】
まず、綴じ部補正処理手段の綴じ部形状認識処理について説明する。境界検出による形状認識処理は次の▲1▼〜▲4▼よりなる。
▲1▼ 綴じ部補正処理手段は、頁の境界判別に先立ち、読み取り画像データに対して主走査方向の複数画素、例えば8画素の移動平均処理を行うことにより、画像濃度のばらつきに対して正確な頁境界部の位置を算出する。
【0047】
▲2▼ 主走査方向における画素濃度分布の黒ピークDbp(背景空間)と白ピークDwp(ページ地肌)の発生区間で、次式により適応閾値Lthを算出する。
Lth=1/3*(Dwp−Dbp)+Dbp
上記の適応閾値Lthで主走査方向の先頭画素よりデータを比較し、閾値以上が7画素連続する最初の画素アドレスA を求める。また、検出アドレスA の隣接2画素の階調データから、直線補間して1/8画素精度で境界アドレスAを求める。
【0048】
▲3▼ 境界アドレスA について副走査方向の8ライン分の移動平均をとリ、境界アドレスA とする。
【0049】
▲4▼ 境界アドレスA から境界分布が直線となるページ部の境界近似直線を求め、その直線から離れて曲線となる部分を綴じ部として分割し、復元処理を切り換える。
【0050】
上記の▲2▼における、ピークとその発生区間の求め方について解説する。
主走査の黒ピークと白ピークをサンプリングして更新していく。
保持している黒ピークよりレベル10上がった(白側へ)位置から、以前に格納した黒ピークと比較し、小さい値(黒側)の場合は、その前で処理を打ち切る。また、レベル10以上白くなると地肌部とし、再び黒ピークになった場合は画像とみなす。
小さい値が見つからない場合は280画素で打ち切る。
黒ピークと白ピークの検出範囲で中間値を閾値として交差し、その先6画素連続して閾値以上である点を境界とする。
【0051】
上記の▲4▼における、処理切り換え点の求め方について解説する。
直線部分のデータの一部から傾きを求める。画像開始点(ページの端)から500画素のところと2000画素のところのA のアドレスデータから、その2点を結ぶ直線を求める。
直線から曲線への仮の切替点を決める。直線から4画素以上離れていることを条件とする。
切替点を決定する。仮の切替点から256画素(16mm)戻った点を直線と曲線の切替点とする。
切替点を切り換える点を決定する。左右のページの真の境界アドレスを求めるための基準値は切替点の境界アドレスであり、左右のページの基準値を切り換える点は境界アドレスの最も大きい値の点とする。
【0052】
次に、主走査方向復元処理について説明する。
画像の伸長とシフトでは、一般にデジタル複写機の変倍の補間演算である3次関数コンボリューション法を用いており、変倍は倍率ピッチを細かくしている。主走査方向復元処理は次の▲1▼、▲2▼よりなる。
【0053】
▲1▼ ページ部(平面部)復元
境界アドレスA から、境界が直線となるように、主走査各ライン毎に画素開始側に画像をシフトする。画像シフトは3次関数コンボリューション法を用い、シフト分解能は境界アドレスA の1/8画素としている。
【0054】
▲2▼ 綴じ部復元
境界アドレスA から、主走査各ライン毎の投影画像の縮小率を求める。画像拡大は上記縮小率の逆数より、画像シフトは境界アドレスA より、いずれも3次関数コンボリューションによる画素補間を用い、その演算精度は有効桁数13桁と充分高くとっている。
【0055】
上記の▲2▼における画像シフトと拡大倍率について解説する(図9参照)。
・光軸アドレスAkは本スキャナの固定値で2400(画素目)としている。切替点の境界アドレスをKaとすると、綴じ部の主走査方向の拡大倍率Mは次式で求められる。
【式1】

Figure 0003689240
・境界アドレスA の整数部分の画素分を配列で左にシフトする。
・境界アドレスA の小数部分を1から引いた量:deを求める。(de=1−r)
・サンプル点の位置をNとして、変倍後のNの位置にはN/Mの位置の濃度データを3次関数コンボリューション法で補間して求める。
・境界アドレスA の小数部分をシフトするので、変倍後のNの位置にはN/M−deの位置の濃度データを補間で求める。
【0056】
3次関数コンボリューション法について解説する。
主走査方向では、ページ部(平面部)では等倍なのでシフトのみ、綴じ部ではシフトと変倍を行う。図8は、復元処理における画像シフトを説明するもので、等倍データから仮想データを補間により求めている。この図において、読取りデータ、復元データの双方とも、データは等間隔の位置にあることが分かる。例えば3´を求める場合、読取りデータにおける3,4間を1とすれば3と3´の間はrとなる。綴じ部復元では変倍になり、等倍データと仮想データの間隔が変わっている。ただし、どちらも等間隔である。
【0057】
通常の複写機では、rのピッチを1/4又は1/8として、テーブル方式を用いて算出しているが、本実施形態では精度を上げるために下記の▲1▼、▲2▼により演算している。
▲1▼ 位置
・ピッチ内の拡大後のN番目の画素値を求める。拡大前のピッチ内ではN番目とする。
・N/M=n、(nの整数部)=k、(nの小数部)=rとする。
・Nがk−1、k、k+1、k+2(1+r、r、1−r、2−r)の4つからnの画素値を求める。
・N´番目の画素値を濃度N´とする。
▲2▼ 3次関数コンボリューション法ルーチン
【式2】
Figure 0003689240
【0058】
次に、副走査方向復元処理について説明する。副走査方向復元処理は次の▲1▼、▲2▼よりなる。
▲1▼ ページ部(平面部)復元
未処理(平面部は画像伸縮が無いため)
【0059】
▲2▼ 綴じ部復元
・幾何学的に主走査方向の画像投影倍長さと綴じ部の深さは比例関係にあり、境界アドレスA から以下の式により綴じ部深さ:Tを求める。
【式3】
Figure 0003689240
ここで、焦点面距離及び光軸アドレス:Ak(図9参照)はスキャナにより一定値として与えられ、本実施形態では夫々427.757(mm)、2400(画素)とした。また、Kaは切替点の境界アドレスである。
・1ライン毎の復元すべき副走査方向の画像長さは、綴じ部深さ:Tにて次式のように求められる。なお、式中のT及びTn−1については図10を参照。
【式4】
Figure 0003689240
・したがって、画像長さLnの累積が副走査方向のページ長さになる。
なお、画像拡大は3次関数コンボリューションによる画素補間を用い、その計算精度は充分高くとっている。ここでの画像拡大については以下の解説を参照されたい。
【0060】
解説1:副走査方向の倍率の制限条件
・通常、綴じ部深さが深くなるに連れ、深さの変化量が増す。したがって、深さに応じて伸長に制限をかけている。
・隣り合う境界アドレスの差が、その位置の『深さ(mm)/5』(画素)以上離れている場合には、隣り合う境界アドレスの差を『深さ(mm)/5』(画素)に制限して境界の誤検出による副走査復元のエラーを制限する。
【0061】
解説2:読取りデータが等間隔でないときの補間方法について
・綴じ部の副走査方向の復元では画像長さLは位置によって異なり、図11に示すように、元画像データ(読取データ)は等間隔ではない。この図では、3´の位置の濃度を求めるために2,3,4,5の位置の濃度データを使うが、r1,r2,r3,r4は3〜4間の距離を1としている。
・実際の式を以下に示す。
【式5】
Figure 0003689240
これをrとして3次関数コンボリューション法で計算して補間をする。
【0062】
上述した見開き製本画像における補正処理において、切替点を使用する部分についてまとめると以下の通りである。
第1に、綴じ部領域と平面部領域での処理の切り替えを行う。綴じ部領域では主走査方向シフト処理、主走査復元処理、副走査復元処理を行う。これに対して、平面部領域では主走査方向シフト処理のみを行う。この2つの領域での処理の切り替えを行う位置が切替点である。
第2に、主走査復元の倍率算出の基準として切替点のアドレスを使っている。
【0063】
以上、本発明をフラットベッドタイプのスキャナを例にとって説明したが、本発明は本実施形態に限られるものではない。単体のスキャナとしてだけでなく、複写機やファクシミリ等の画像読取部にも本発明を適用できるものである。また、本願出願人が別途開発したような、製本原稿のページをめくることのできるページめくり読み取り装置にも本発明を適用することができる。各種の画像処理装置において、本願発明は、見開き製本原稿の綴じ部とページ部の画像処理を異ならせるために、ページの湾曲している綴じ部領域と平面部のページ領域とを分離し、その制御切替点を検出するものである。
【0064】
【発明の効果】
以上説明したように、本発明の画像処理装置によれば、ページ先端から副走査方向に所定の距離の位置からページ境界の検出を開始し、ある区間ごとの境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値より大きくなる区間が所定区間続くことを条件として先頭側ページの前記切替点を算出するので、区間ごとに綴じ部復元処理を行っていけるため、その区間分のバッファメモリを搭載してやれば、プレスキャンを行わずに又ページメモリが無くとも、リアルタイムで綴じ部復元処理を行うことができる。また、切替点を決定するための境界アドレスとして復元処理用のアドレスを利用することができるので、処理が容易である。
【0065】
請求項2の構成により、ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、ある区間ごとの境界線の傾きを求め、隣接する区間の境界線の傾きの方向の変化点を検出し、該変化点を先頭側ページと後続ページの境目位置とするので、先頭ページは先頭ページの切替点の境界位置アドレスを、後端ページは後端ページの切替点の境界位置アドレスを元に復元倍率を算出して綴じ部復元処理をすることができる。綴じ部領域で使う主走査方向の復元の倍率は、先頭ページと後続ページの切替点の境界アドレスを基準として算出されるため、ページ境目でエリアを分けるための副走査方向の位置情報としてページの境目(方向の変化点)が使われる。
【0066】
請求項3の構成により、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続くことを条件として後続ページの前記切替点を算出するので、サイズの小さな原稿を含め、どのようなサイズの製本原稿にも対応することができる。また、綴じ部補正処理をリアルタイムで行うことができる。
【0067】
請求項4の構成により、ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以上になる区間が所定区間続く位置を検出し、該検出位置から所定距離以上戻った位置を先頭側ページの切替点とするので、綴じ部領域を広げることにより、副走査方向の伸長不足が起こらず、より正確な副走査方向の復元処理を行うことができる。
【0068】
請求項5の構成により、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続く位置を検出し、該検出位置に基づいて後続ページの切替点を算出するので、切替点算出のための元データである「検出位置」を検出した時点で切替点を決定することができる。そのため、「検出位置」の検出と同時にその処理領域に応じた復元処理を開始することができる。また、片方向からの切替点検出の処理で先頭側ページと後続ページで均等な切り替え位置決定の処理を行う場合に適している。
【図面の簡単な説明】
【図1】本発明に係る画像処理装置の一例を示す斜視図である。
【図2】その画像処理装置により読み取った製本原稿の画像を示す平面図である。
【図3】製本原稿をコンタクトガラス上にセットした様子を示す縦断面図である。
【図4】ページ切替点及びページ境目の検出概念を説明する模式図である。
【図5】本実施形態における、境界線の傾き算出法を説明する模式図である。
【図6】区間境界線の傾きから切替点を決定する方法を説明する模式図である。
【図7】本実施形態における、切替点検出処理の手順を示すフローチャートである。
【図8】ページ部(平面部)復元処理における画像シフトを説明する模式図である。
【図9】綴じ部復元処理に関係する綴じ部境界歪を説明する模式図である。
【図10】綴じ部復元処理に関係する画像長さ算出を説明する模式図である。
【図11】綴じ部復元処理における読取データが等間隔でないときの補間方法を説明する模式図である。
【図12】従来のスキャナにおける画像劣化の例を示す模式図である。
【符号の説明】
1 画像処理装置(本体)
2 コンタクトガラス
3 横原稿スケール
4 奥原稿スケール
5 原稿基準
6 圧板
10 製本原稿[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus such as an image reading apparatus or a scanner in a copying machine, a facsimile, or the like, and more specifically to an image processing apparatus having an image correction function when a bound original is read.
[0002]
[Prior art]
When a bookbinding document is read by a general flatbed type scanner (including an image reading unit of a copying machine), as shown in FIG. 12, (1) shrinkage in the main scanning direction due to floating of the binding portion of the bookbinding document. (2) Image degradation such as (2) shrinkage in the sub-scanning direction (characters are crushed), (3) out of focus (characters are blurred), and (4) generation of shadows (background is dirty) Occur.
[0003]
Various countermeasure techniques for such image degradation are disclosed in JP-A-5-161002, JP-A-5-161003, JP-A-5-161004, and JP-A-6-205194.
[0004]
By the way, in order to cope with the image deterioration as described above and obtain a high-quality read image by performing appropriate image correction, it is necessary to appropriately set a portion to be corrected for the scanned image.
[0005]
Therefore, the applicant of the present application separates the binding part area where the page is curved and the page area of the flat part, detects the control switching point, and makes the image processing of the binding part and the page part of the spread bookbinding document different. It is developed separately. This control switching point is determined by first calculating the slope and position of the straight line portion of the boundary between the page plane portions of the left and right pages from the position data of two points apart from the detected page boundary position data of the page plane portion. The position of the switching point is determined on the condition that the calculated distance is a predetermined distance from the extended line of the straight line of the page plane portion boundary and is not further approached within a certain range.
[0006]
[Problems to be solved by the invention]
However, in the above switching point determination method, it is necessary to determine in advance the positions of two points on the page plane portion of the target book, that is, a total of four points on the left and right sides. I could not.
[0007]
In general, there is a page skew (tilt) when the document is set, and an accurate switching point cannot be determined depending on the distance from the reference document scale, and there is a problem that pre-scanning is necessary and a page memory is required. . Further, there is a problem that the binding portion image correction cannot be performed in real time.
[0008]
The present invention solves the above-mentioned problems in the image processing apparatus, can deal with a document whose size is unknown, and processes binding portion image correction in real time without the need for prescanning or page memory. An object of the present invention is to provide an image processing apparatus capable of performing the above.
[0009]
[Means for Solving the Problems]
According to the present invention, the present invention has a reading means for reading an original image and an image correction means for performing correction processing on the read image, and detects the page boundary of the spread bookbinding original to recognize the shape of the page boundary. The binding portion area of the spread page is determined from the shape of the page boundary, the binding portion area of the spread page is separated, the shape of the spread bookbinding document is recognized from the shape of the page boundary, and the spread bookbinding document by the image correction unit In an image processing apparatus capable of switching between correction processing for a binding portion and a flat portion of an image, a position at which the correction processing for the binding portion and the flat portion is switched is set as a switching point, and from a position at a predetermined distance in the sub-scanning direction from the front end of the page. One side of main scanning direction Starts detection of the page boundary, obtains the slope of the boundary line for each section of a predetermined width, and starts on the condition that the section where the difference between the slopes of the boundary lines of adjacent sections exceeds a predetermined value continues for a predetermined section This is solved by calculating the switching point of the page.
[0010]
In order to solve the above problem, the present invention starts detection of the page boundary from a position at a predetermined distance in the sub-scanning direction from the front end of the page, obtains the inclination of the boundary line for each section of a predetermined width, and It is proposed that a change point in the direction of the inclination of the boundary line of a section to be detected is detected and the change point is set as a boundary position between the first page and the subsequent page.
[0011]
Furthermore, in order to solve the above-mentioned problem, the present invention obtains the slope of the boundary line for each section having a predetermined width, and the section in which the difference between the slopes of the boundary lines of adjacent sections is equal to or less than a predetermined value continues for a predetermined section. It is proposed to calculate the switching point of the subsequent page as a condition.
[0012]
Further, in order to solve the above problems, the present invention starts detection of the page boundary from a position at a predetermined distance in the sub-scanning direction from the front end of the page, obtains the inclination of the boundary line for each section of a predetermined width, It is proposed to detect a position where a section where the difference in the slope of the boundary line between the sections to be detected exceeds a predetermined value continues for a predetermined section, and to set a position returned from the detected position by a predetermined distance or more as a switching point of the first page.
[0013]
Further, in order to solve the above-described problem, the present invention obtains the inclination of the boundary line for each section having a predetermined width, and determines a position where a section in which the difference between the slopes of the boundary lines of adjacent sections is not more than a predetermined value continues for a predetermined section. It is proposed to detect and calculate the switching point of the subsequent page based on the detected position.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a perspective view showing an example of an image processing apparatus according to the present invention. In this figure, a contact glass 2 is provided on the upper surface of the apparatus body 1. A horizontal document scale 3 is disposed on the left side of the contact glass 2, and a back document scale 4 is disposed on the back side. The document placed on the contact glass 2 is placed against the document scales 3 and 4. That is, in this apparatus, the corner on the back left of the contact glass 2 is the document reference 5, and the document is set with the reading surface facing downward and the corner of the document aligned with the document reference 5. FIG. 1 shows a state in which a bookbinding document 10 is set on the contact glass 2 with the page opened. A reading means (not shown) for slit exposure is arranged inside the apparatus below the contact glass 2. Further, an image correction unit (not shown) is provided inside the apparatus, and is configured so that correction processing can be performed on an image read by the reading unit. This image processing apparatus is of a general form as a flatbed type scanner. For example, in the case of a digital copying machine, a printer unit as an image forming unit is disposed below the main body 1.
[0015]
The document scales 3 and 4 have a structure that is higher than the contact glass 2 and has a step, so that it is easy to perform abutment setting of the document. In the present embodiment, the horizontal document scale 3 is the leading side of reading by the reading means, and the left side of the bookbinding document 10 set open on the contact glass 2 is the leading page and the right side is the trailing page. When the bookbinding document 10 is thick, the operator may press the binding portion of the bookbinding document in order to improve the image of the binding portion when reading the image, and the document pressure plate 6 is kept open when the bookbinding document is read. Often read.
[0016]
When an operator instructs the start of image reading from an operation unit (not shown), the document illumination lamp of the reading unit is turned on, and the document surface is slit-scanned to read the document image. Note that the lower side of the document scale 4 on the back side is painted black, so that it is easy to distinguish the density from the document set on the contact glass 2.
[0017]
FIG. 2 shows an image obtained by reading the bookbinding document 10. In this figure, the vertical axis represents the main scanning direction, the horizontal axis represents the sub-scanning direction, and the upper right corner corresponds to the document reference 5 at the left back of the contact glass 2. In FIG. 2, the first page located on the left side on the contact glass 2 is the right side, and the rear page located on the right side on the contact glass 2 is the left side.
[0018]
The read data includes a document portion 10 ′ and a background portion G (non-image area indicated by hatching in the drawing), and there is a boundary between them. Then, there are a page portion (plane portion) where the boundary distribution is a straight line and a binding portion where the boundary distribution is a curve, and the boundary between the page portion and the binding portion is called a switching point. As shown in FIG. 4, in the spread bookbinding image, there are a switching point for the first page and a switching point for the trailing page. The page switching point is also a control switching point for differentiating the image processing of the binding portion and the page portion of the spread bookbinding document.
[0019]
The present invention is characterized by a method for detecting a page switching point, and enables a binding portion image correction process in real time without performing pre-scanning and without providing a page memory.
[0020]
Here, the features of the page switching point detection according to the present invention will be briefly described collectively for each claim of the present application in relation to the correction processing described later.
[0021]
(1) In the binding portion correction processing for the spread bookbinding original image, the page plane portion and the binding portion are divided at the switching points, only the image shift is performed on the page plane portion, and the main scanning direction restoration processing including the image shift is performed on the binding portion and the sub scanning direction. Perform the restoration process. The boundary line of the first page is read as a straight line from the top of the page, and the vicinity of the binding portion where the page surface is lifted is a curved line. In the present invention, this feature is used to detect the switching point on the first page side.
[0022]
(2) In this embodiment, the first page calculates the restoration magnification based on the boundary position address of the switching point of the first page, and the trailing page calculates the binding magnification based on the boundary position address of the switching point of the trailing page. Therefore, it is necessary to know the boundary between the first page and the last page. This boundary is set as a “change point of direction (inclination direction of boundary line)” and is determined by comparing the inclinations of the boundary lines of adjacent sections.
[0023]
(3) In the binding portion correction processing, the page plane portion and the binding portion are divided at the switching points, and only the image shift is performed on the page plane portion, and the main scanning direction restoration processing and sub-scanning direction restoration processing including image shift is performed on the binding portion. The boundary line of the rear end page is read from the direction change point, the vicinity of the binding portion where the page surface is floated is a curve, and the flat portion where the page surface is in contact with the contact glass is read as a straight line. In the present invention, this feature is used to detect the switching point on the trailing page side.
[0024]
(4) In the binding portion correction processing, the page plane portion and the binding portion are divided at the switching points, and only the image shift is performed on the page plane portion, and the main scanning direction restoration processing and the sub scanning direction restoration processing including image shift are performed on the binding portion. Detection of the boundary line switching point is performed by observing the slope of the curved portion. Since the original data for calculating the switching point is a point where the difference in the inclination of the boundary becomes a predetermined value or more, the inclination starts at the detected position. For this reason, a delay occurs due to the determination after entering the curved portion. Therefore, in the present invention, the binding section is widened so that more accurate restoration processing in the sub-scanning direction can be performed without causing contraction in the sub-scanning direction, and switching between the flat portion and the binding portion on the first page side of the bookbinding document is performed. The point is decided.
[0025]
(5) In the binding portion correction process, the page plane portion and the binding portion are divided at the switching points, and only the image shift is performed on the page plane portion, and the main scanning direction restoration processing and the sub-scanning direction restoration processing including image shift are performed on the binding portion. In the rear page, the switching point is determined when the “detected position” that is the original data (reference value) for calculating the switching point is detected, and at the same time, the restoration process corresponding to the processing area can be started. The switching point between the flat portion and the binding portion on the rear end page side of the bookbinding document is determined.
[0026]
FIG. 3 is a longitudinal sectional view showing a state in which the bookbinding document 10 is set on the contact glass 2. As shown in this figure, the document scale 3 has a height H, and when the side edge of the bookbinding document 10 is set against the document scale 3, the booklet is inclined at the corner of the scale 3. Will result in a forehead appearing on the right side of the first page. In order to avoid the fore edge image portion, the page switching point is detected from a position at a predetermined distance: X (see FIG. 2) in the sub-scanning direction from the top of the page. The predetermined distance: X is configured to be set from an operation unit (not shown), and is set to 5 mm, for example.
[0027]
FIG. 4 is a schematic diagram for explaining the detection concept of the switching point between the left and right pages (first page and rear page) and the middle page boundary.
In the present embodiment, the inclination of the boundary line BL, which is the boundary between the document portion 10 'and the background portion of the read data, is detected, and the page switching point and the page boundary are detected based on the detected inclination. Here, a portion between the switching point of the first page and the switching point of the rear page is called a “boundary boundary line”, and portions on both sides thereof are called “page straight line portions”.
[0028]
Specifically, the boundary line BL is divided into sections, and the inclination of the boundary line is detected for each section. When searching for a switching point (page switching point) from the right to the left in the figure in the sub-scanning direction, the slope of the boundary line of each section is small at the beginning (in the part to the right of section (1)), and the adjacent section The difference in the inclination of the boundary line is not more than a predetermined value. Then, the inclination of the boundary line (the angle from the horizontal line in FIG. 4) increases as it approaches the binding portion, and the difference between the inclination of the boundary line in the section (1) and the inclination of the boundary line in the adjacent section (2) Becomes larger than a predetermined value. Next, the difference between the slope of the boundary line of section (2) and the slope of the boundary line of the adjacent section (3) is also larger than a predetermined value, and the difference between the slopes of the boundary lines of adjacent sections is larger than the predetermined value. Will continue for 2 sections. In the present embodiment, the switching point of the first page is calculated on the condition that two sections in which the difference in slope of the boundary line between adjacent sections is greater than a predetermined value continue.
[0029]
After the switching point of the first page is determined, when the page boundary (change point in the direction of the boundary line) is searched further to the left, the sign of the inclination of the boundary line changes in a certain section. If the boundary line rises to the right (+) as in the vicinity of the binding portion in the first page, the sign of the boundary line is (−) in the vicinity of the binding portion in the trailing page, and in the adjacent section. There are places where the sign of the boundary slope changes. In the present embodiment, the boundary between pages is determined on the condition that the sign of the slope of the boundary line changes in this adjacent section.
[0030]
Furthermore, when searching for the switching point of the rear end page toward the left in the figure, the difference in the slope of the boundary line between the section A and the section B, the section B and the section C, and the section C and the section D is predetermined on the rear end page. As described above, the switching point of the trailing page is determined by continuing two sections in which the difference between the slopes of the boundary lines of adjacent sections is larger than a predetermined value.
[0031]
Before describing a specific method for detecting a page switching point, detection of the inclination of the boundary line will be described. However, the method of detecting the inclination of the boundary line itself is not the gist of the present invention, and only the outline thereof will be described.
[0032]
When the document surface is read line-sequentially, if the number of lines in the sub-scanning direction within a section is 16, the boundary address is 16 points, and the boundary line slope of the section is based on the 16-point boundary address. Is calculated.
[0033]
There are generally the following three methods for obtaining the inclination of the boundary line.
(A) A straight line is calculated from the sample points by the least square method, and the inclination is obtained.
(B) A straight line is calculated from the straight lines connecting the centroids of the four outer points, and the inclination is obtained.
(C) A straight line is calculated by a straight line connecting two points at both ends of the section, and the inclination is obtained.
[0034]
If the detection interval is constant, the difference between the straight line start point and end point in the main scanning direction obtained by the above method is used as the inclination of the straight line, that is, the boundary line. In the present embodiment, the method (c), which is the simplest method, is employed.
[0035]
FIG. 5 is a schematic diagram for explaining the boundary line inclination calculation method by the method (c). In this figure, there are 16 boundary addresses sampled within a certain section. Two points at both ends of the section are connected to represent the boundary line of the section, and the start and end points of the line segment (straight line) are shown. The difference in the main scanning direction (B−A in the figure) is the inclination of the boundary line.
[0036]
Next, a specific example of determining the switching point from the slope of the section boundary line thus obtained will be described with reference to FIG.
In FIG. 6, the horizontal axis represents the sub-scanning direction, and the vertical axis represents the main scanning direction. The processing order of reading detection (switching point detection) proceeds from right to left. Here, the meanings of the words written in the figure are written in bullets.
The “detected position” is a position serving as a reference for detecting the switching point.
The “border between the plane portion and the binding portion” is a position returned from the “detected position” by the “first specified section”.
The “first designated section” is a continuous section for switching point detection.
The “second designated section” is a predetermined section (here, five sections or more) for determining the “switching point” of the first page. The “switching point” of the first page is determined as a point where “second designated section” (five sections or more) is returned from “the boundary between the plane portion and the binding portion” on the first page.
The “third designated section” is a predetermined section (here, five sections or more) for determining the “switching point” of the rear page. The “switching point” of the rear end page is determined as a position advanced by “third designated section” (more than five sections) from the “border between the plane portion and the binding portion” in the rear end page.
[0037]
In the present embodiment, the switching point of the first page is calculated on condition that two sections in which the difference between the slopes of the boundary lines of the adjacent sections is larger than a predetermined value continue. The above-mentioned “detected position” is a place where two sections in which the difference in slope of the section boundary is greater than a predetermined value is continued, and the “switching point” is determined based on this “detected position”. Yes. In addition, the inclination of the boundary line is represented by the number of pixels, and a predetermined value of the difference in the inclination of the boundary line is one pixel. That is, a “detected position” is a place where two sections in which the difference in the slope of the boundary line between adjacent sections is 1 or more continue in two sections.
[0038]
In FIG. 6, when the slope of the boundary line is compared for each section of the first page, the slope of the boundary line is 0.9 pixels in both sections (1) and (2), and the difference between the slopes of both sections is 0. The difference in slope between sections (2) and (3) is 2.1−0.9 = 1.2 pixels. The difference in inclination between the sections (2) and (3) is 1 pixel or more, but the section in which the difference in inclination is 1 pixel or more has not yet continued for 2 sections. The difference in slope of the boundary between the next section (3) and (4) is 3.2-2.1 = 1.1 pixels. When the section {circle over (4)} is detected, the section in which the difference in the slope of the boundary line is 1 pixel or more continues (sections {circle over (3)} and {circle over (4)}). Detected position ”. In addition, the above-mentioned “first designated section” is two sections, section (3) and section (4).
[0039]
Then, the “switching point” is calculated based on the “detected position” of the first page. The starting line of section (3) is defined as the above-mentioned “border between the plane portion and the binding portion”, and the “second designated section”, that is, the point that has returned five sections or more from here is determined as the “switching point” of the first page. To do.
[0040]
Further, in the present embodiment, the switching point of the trailing edge page is calculated on condition that two sections in which the difference between the slopes of the boundary lines of adjacent sections is equal to or less than a predetermined value continue. Similarly to the first page, the location where the difference between the slopes of the boundary lines of adjacent sections continues for two sections is the above-mentioned “detected position (of the rear page)”. The “switching point” of the rear end page is determined based on the “detected position”. Further, when the inclination of the boundary line is expressed by the number of pixels, the predetermined value of the difference in the inclination of the boundary line is set to one pixel. That is, the “detected position” of the rear page is a portion where two intervals in which the difference in the gradient of the boundary line between adjacent intervals is equal to or less than 1 in the number of pixels continue.
[0041]
In FIG. 6, when comparing the gradient of the boundary line for each section of the trailing page, the difference in the gradient of the boundary line between the sections A and B is 3.2-2.1 = 1.1 pixels. The difference in the slope of the boundary line between the next sections B and C is 2.1−0.9 = 1.2 pixels. Further, the difference in slope of the boundary line between the sections C and D is 0.9−0.9 = 0 pixels. Here, the difference in inclination is 1 pixel or less, but it is not yet continuous for two sections. The difference between the slopes of the boundary lines of the next sections D and E is 0.9-0.9 = 0 pixels. When the section E is detected, the difference between the slopes of the boundary lines of the adjacent sections is 1 or less in terms of the number of pixels. That is, two sections continued. Therefore, the line at the end of the section E is set as the “detected position” on the rear end page.
[0042]
Based on the “detected position” of the rear page, the line at the beginning of the section D is defined as the “border between the plane portion and the binding portion” in the rear page, from which the above “third designated section”, here The position advanced 5 sections or more is determined as the “switching point” on the rear page.
[0043]
By the way, if “first designated section” = “second designated section” and “second designated section” = “third designated section” are set, “first designated section” = “third The “switching point” can be determined when the “detected position”, which is the original data for calculating the switching point, is detected on the trailing page, and at the same time, restoration processing for that processing area is started. can do.
[0044]
FIG. 7 is a flowchart showing the procedure of the switching point detection process. As described above, the boundary address in a certain section is sampled to calculate the inclination of the boundary line (S1), and it is determined whether or not the difference in the inclination of the boundary line in the adjacent section is larger than one pixel (1 dot). (S2). Next, it is determined whether or not two or more sections where the difference in the slope of the boundary line is greater than one pixel continue (S3), and a detection point (detected position) is determined (S4). Next, “the boundary between the plane portion and the binding portion” is determined (S5), and the switching point is calculated. Here, the address D of the switching point D in the main scanning and sub-scanning directions M And D S Is calculated (S6).
[0045]
Hereinafter, a binding portion correction process including a binding portion shape recognition process, a main scanning direction restoration process, and a sub-scanning direction restoration process for image data when the bookbinding document 10 is read will be described. In the binding portion shape recognition process, the page boundary position on the back side of the bookbinding document 10 set on the contact glass 2 is determined from the read image data of the reading device. This boundary position detection is performed by reading from the black portion of the document scale 4 on the back side or from the black portion of the space portion when the document pressure plate 6 is opened to determine the white portion that is the background of the page of the bookbinding document 10.
[0046]
First, the binding part shape recognition process of the binding part correction processing unit will be described. The shape recognition process by boundary detection includes the following (1) to (4).
{Circle around (1)} The binding portion correction processing means accurately corrects variations in image density by performing moving average processing of a plurality of pixels in the main scanning direction, for example, eight pixels, on the read image data prior to page boundary determination. The position of the correct page boundary is calculated.
[0047]
{Circle around (2)} The adaptive threshold Lth is calculated according to the following equation in the generation interval of the black peak Dbp (background space) and the white peak Dwp (page background) of the pixel density distribution in the main scanning direction.
Lth = 1/3 * (Dwp−Dbp) + Dbp
Data is compared from the first pixel in the main scanning direction with the adaptive threshold value Lth, and the first pixel address A in which seven pixels are equal to or greater than the threshold value continues. 1 Ask for. Detection address A 1 Boundary address A with 1/8 pixel accuracy by linear interpolation from the gradation data of two adjacent pixels of 2 Ask for.
[0048]
(3) Boundary address A 2 The moving average of 8 lines in the sub-scanning direction is calculated for the boundary address A 3 And
[0049]
(4) Boundary address A 3 The boundary approximation line of the page part where the boundary distribution becomes a straight line is obtained from the above, the part that becomes a curve away from the straight line is divided as a binding part, and the restoration process is switched.
[0050]
How to find the peak and its section in (2) above is explained.
The main scan black peak and white peak are sampled and updated.
Compared with the previously stored black peak from a position 10 level higher than the held black peak (to the white side), if the value is smaller (black side), the processing is terminated before that. Further, when the color becomes 10 or more white, it becomes a background portion, and when it becomes a black peak again, it is regarded as an image.
If a small value is not found, it is cut off at 280 pixels.
In the detection range of the black peak and the white peak, an intermediate value is crossed as a threshold value, and a point that is 6 pixels or more continuously beyond the threshold value is defined as a boundary.
[0051]
The method for obtaining the process switching point in (4) above will be described.
The inclination is obtained from a part of the data of the straight line portion. A at 500 pixels and 2000 pixels from the image start point (edge of the page) 3 From the address data, a straight line connecting the two points is obtained.
Decide a temporary switching point from a straight line to a curved line. The condition is that it is at least 4 pixels away from the straight line.
Determine the switching point. A point returned 256 pixels (16 mm) from the temporary switching point is defined as a switching point between a straight line and a curve.
Determine the switching point. The reference value for determining the true boundary address of the left and right pages is the boundary address of the switching point, and the point at which the reference values of the left and right pages are switched is the point with the largest boundary address.
[0052]
Next, the main scanning direction restoration process will be described.
In the expansion and shift of an image, a cubic function convolution method, which is an interpolation operation for scaling of a digital copying machine, is generally used, and scaling has a finer magnification pitch. The main scanning direction restoring process includes the following (1) and (2).
[0053]
▲ 1 ▼ Restoring the page part (flat part)
Boundary address A 3 Thus, the image is shifted to the pixel start side for each main scanning line so that the boundary becomes a straight line. The image shift uses a cubic function convolution method, and the shift resolution is the boundary address A 3 1/8 pixel.
[0054]
(2) Binding section restoration
Boundary address A 3 From this, the reduction ratio of the projected image for each main scanning line is obtained. Image enlargement is the reciprocal of the above reduction ratio, and image shift is the boundary address A 3 Accordingly, pixel interpolation using cubic function convolution is used, and the calculation accuracy is sufficiently high, such as 13 effective digits.
[0055]
The image shift and magnification in (2) above will be described (see FIG. 9).
The optical axis address Ak is 2400 (pixel), which is a fixed value of this scanner. When the boundary address of the switching point is Ka, the enlargement magnification M in the main scanning direction of the binding portion is obtained by the following equation.
[Formula 1]
Figure 0003689240
・ Boundary address A 3 The integer part of pixels is shifted to the left in the array.
・ Boundary address A 3 The amount: de obtained by subtracting the decimal part of 1 from 1. (De = 1-r)
The position of the sample point is set to N, and the density data at the position of N / M is obtained by interpolating by the cubic function convolution method at the position of N after scaling.
・ Boundary address A 3 Therefore, the density data at the position of N / M-de is obtained by interpolation at the position of N after scaling.
[0056]
The cubic function convolution method is explained.
In the main scanning direction, the page portion (planar portion) has the same magnification, so only shifting is performed, and the binding portion performs shifting and scaling. FIG. 8 illustrates image shift in the restoration process, and virtual data is obtained from the same-size data by interpolation. In this figure, it can be seen that both the read data and the restored data are at equally spaced positions. For example, when 3 ′ is obtained, if 1 between 3 and 4 in the read data is 1, r is between 3 and 3 ′. In the binding portion restoration, the magnification is changed, and the interval between the same-size data and the virtual data is changed. However, both are equally spaced.
[0057]
In a normal copying machine, the pitch of r is set to 1/4 or 1/8, and is calculated using a table method. In this embodiment, calculation is performed by the following (1) and (2) in order to increase accuracy. doing.
▲ 1 ▼ Position
・ N after expansion in the pitch 1 Find the th pixel value. It is Nth in the pitch before expansion.
N / M = n, (integer part of n) = k, and (fractional part of n) = r.
The pixel value of n is obtained from four of N, k-1, k, k + 1, k + 2 (1 + r, r, 1-r, 2-r).
The N′th pixel value is set as the density N ′.
(2) Cubic function convolution method routine
[Formula 2]
Figure 0003689240
[0058]
Next, the sub-scanning direction restoration process will be described. The sub-scanning direction restoring process includes the following (1) and (2).
▲ 1 ▼ Restoring the page part (flat part)
Unprocessed (since the flat part has no image expansion / contraction)
[0059]
(2) Binding section restoration
Geometrically, the image projection double length in the main scanning direction and the depth of the binding portion are proportional to each other, and the boundary address A 3 From the following equation, the binding portion depth: T is obtained.
[Formula 3]
Figure 0003689240
Here, the focal plane distance and the optical axis address: Ak (see FIG. 9) are given as constant values by the scanner, and in this embodiment, they are 427.757 (mm) and 2400 (pixels), respectively. Ka is the boundary address of the switching point.
The image length in the sub-scanning direction to be restored for each line is obtained by the following equation using the binding depth: T. T in the formula n And T n-1 Refer to FIG.
[Formula 4]
Figure 0003689240
Therefore, the accumulation of the image length Ln becomes the page length in the sub-scanning direction.
Note that image interpolation uses pixel interpolation by cubic function convolution, and its calculation accuracy is sufficiently high. Please refer to the following explanation for image enlargement.
[0060]
Explanation 1: Limiting conditions for magnification in the sub-scanning direction
・ Normally, the amount of change in depth increases as the binding depth increases. Therefore, the expansion is limited according to the depth.
When the difference between adjacent boundary addresses is more than “depth (mm) / 5” (pixel) at the position, the difference between adjacent boundary addresses is set to “depth (mm) / 5” (pixel ) To limit errors in sub-scan restoration due to erroneous boundary detection.
[0061]
Explanation 2: Interpolation method when read data is not equally spaced
In the restoration of the binding portion in the sub-scanning direction, the image length L varies depending on the position, and the original image data (read data) is not equally spaced as shown in FIG. In this figure, the density data at positions 2, 3, 4, and 5 are used to obtain the density at the position 3 ′, but r1, r2, r3, and r4 have a distance between 3 and 4.
・ The actual formula is shown below.
[Formula 5]
Figure 0003689240
This is set to r and calculated by a cubic function convolution method to perform interpolation.
[0062]
In the correction process for the spread bookbinding image described above, the parts using the switching points are summarized as follows.
First, the processing is switched between the binding area and the flat area. In the binding area, main scanning direction shift processing, main scanning restoration processing, and sub-scanning restoration processing are performed. On the other hand, only the main scanning direction shift process is performed in the plane area. The position where the processing is switched in these two areas is the switching point.
Second, the address of the switching point is used as a reference for calculating the magnification for main scanning restoration.
[0063]
Although the present invention has been described above by taking the flat bed type scanner as an example, the present invention is not limited to this embodiment. The present invention can be applied not only to a single scanner but also to an image reading unit such as a copying machine or a facsimile. Further, the present invention can also be applied to a page turning reading apparatus that can turn a page of a bookbinding manuscript developed separately by the applicant of the present application. In various image processing apparatuses, the present invention separates the binding area of the page and the page area of the plane portion in order to make the image processing of the binding portion and the page portion of the spread booklet different, The control switching point is detected.
[0064]
【The invention's effect】
As described above, according to the image processing apparatus of the present invention, detection of a page boundary is started from a position at a predetermined distance in the sub-scanning direction from the front end of the page, the inclination of the boundary line for each section is obtained, and adjacent Since the above-mentioned switching point of the first page is calculated on condition that the section where the difference in slope of the section boundary is greater than the predetermined value continues, the section restoration process can be performed for each section. If the buffer memory is provided, the binding portion restoration process can be performed in real time without performing the pre-scan and without the page memory. Further, since the address for restoration processing can be used as the boundary address for determining the switching point, the processing is easy.
[0065]
According to the configuration of claim 2, detection of the page boundary is started from a position at a predetermined distance in the sub-scanning direction from the front end of the page, the inclination of the boundary line for each section is obtained, and the direction of the inclination of the boundary line of the adjacent section Is detected, and the change point is used as the boundary position between the first page and the succeeding page. Therefore, the first page is the boundary position address of the first page switching point, the rear page is the boundary of the rear page switching point. It is possible to calculate the restoration magnification based on the position address and perform the binding portion restoration process. The restoration magnification in the main scanning direction used in the binding area is calculated on the basis of the boundary address of the switching point between the first page and the succeeding page. Therefore, the position information of the page is used as position information in the sub scanning direction for dividing the area at the page boundary. Borders (direction change points) are used.
[0066]
According to the configuration of claim 3, the slope of the boundary line is obtained for each section having a predetermined width, and the section of the succeeding page continues on the condition that a section in which the difference between the slopes of the boundary lines of adjacent sections is equal to or less than a predetermined value continues. Since the switching point is calculated, it is possible to handle bookbinding originals of any size including originals of small sizes. Further, the binding portion correction process can be performed in real time.
[0067]
According to the configuration of claim 4, the detection of the page boundary is started from a position at a predetermined distance in the sub-scanning direction from the front end of the page, the inclination of the boundary line is obtained for each section having a predetermined width, and the boundary line between adjacent sections is detected. The position where the interval where the difference in inclination is equal to or greater than a predetermined value is detected continues for a predetermined interval, and the position returned from the detection position by a predetermined distance or more is used as the switching point of the first page. Insufficient expansion in the direction does not occur, and more accurate restoration processing in the sub-scanning direction can be performed.
[0068]
According to the configuration of claim 5, the inclination of the boundary line is obtained for each section having a predetermined width, a position where the difference between the boundary lines of adjacent sections is equal to or less than a predetermined value is detected, and the detected position is detected. Since the switching point of the subsequent page is calculated based on the above, the switching point can be determined when the “detection position” that is the original data for calculating the switching point is detected. Therefore, the restoration process corresponding to the processing area can be started simultaneously with the detection of the “detection position”. Further, it is suitable for the case where the switching position determination processing is equally performed on the first page and the subsequent page in the switching point detection processing from one direction.
[Brief description of the drawings]
FIG. 1 is a perspective view showing an example of an image processing apparatus according to the present invention.
FIG. 2 is a plan view showing an image of a bookbinding document read by the image processing apparatus.
FIG. 3 is a longitudinal sectional view showing a state in which a bookbinding document is set on a contact glass.
FIG. 4 is a schematic diagram for explaining a concept of detecting a page switching point and a page boundary.
FIG. 5 is a schematic diagram for explaining a boundary line inclination calculation method in the present embodiment;
FIG. 6 is a schematic diagram illustrating a method for determining a switching point from the slope of a section boundary line.
FIG. 7 is a flowchart illustrating a procedure of switching point detection processing in the present embodiment.
FIG. 8 is a schematic diagram for explaining image shift in the page portion (planar portion) restoration processing.
FIG. 9 is a schematic diagram for explaining binding portion boundary distortion related to binding portion restoration processing;
FIG. 10 is a schematic diagram illustrating image length calculation related to the binding portion restoration processing.
FIG. 11 is a schematic diagram illustrating an interpolation method when read data is not equally spaced in the binding portion restoration process.
FIG. 12 is a schematic diagram illustrating an example of image deterioration in a conventional scanner.
[Explanation of symbols]
1 Image processing device (main unit)
2 Contact glass
3 Horizontal manuscript scale
4 Back scale
5 Document standards
6 Pressure plate
10 Bookbinding manuscript

Claims (5)

原稿画像を読み取る読取手段と、読取画像に補正処理を施す画像補正手段とを有し、
見開き製本原稿のページ境界を検出してページ境界部の形状を認識し、該ページ境界の形状より見開きページの綴じ部領域を判別し、見開きページの綴じ部領域を分離して前記ページ境界の形状より見開き製本原稿の形状を認識し、前記画像補正手段による見開き製本原稿画像の綴じ部と平面部の補正処理を切り替え可能な画像処理装置において、
前記綴じ部と平面部の補正処理を切り替える位置を切替点とし、
ページ先端から副走査方向に所定の距離の位置から主走査方向片側の前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以上になる区間が所定区間続くことを条件として先頭側ページの前記切替点を算出することを特徴とする画像処理装置。
A reading unit that reads a document image; and an image correction unit that performs correction processing on the read image;
Detects the page boundary of a spread booklet document, recognizes the shape of the page boundary, determines the binding area of the spread page from the shape of the page boundary, separates the binding area of the spread page, and forms the page boundary In an image processing apparatus capable of recognizing the shape of a two-page spread original and switching the correction processing between the binding portion and the flat portion of the two-page book original image by the image correcting unit,
A position for switching the correction processing of the binding portion and the flat portion is a switching point,
The detection of the page boundary on one side of the main scanning direction is started from a position at a predetermined distance in the sub-scanning direction from the front end of the page, and the inclination of the boundary line is obtained for each section of a predetermined width. An image processing apparatus that calculates the switching point of the first page on condition that a section in which the difference is equal to or greater than a predetermined value continues for a predetermined section.
ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの方向の変化点を検出し、該変化点を先頭側ページと後続ページの境目位置とすることを特徴とする、請求項1に記載の画像処理装置。The detection of the page boundary is started from a position at a predetermined distance in the sub-scanning direction from the top of the page, the inclination of the boundary line is obtained for each section of a predetermined width, and the change point in the direction of the inclination of the boundary line of the adjacent section is determined. The image processing apparatus according to claim 1, wherein the image processing apparatus detects and changes the change point as a boundary position between the first page and the subsequent page. 所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続くことを条件として後続ページの前記切替点を算出することを特徴とする、請求項1に記載の画像処理装置。Obtaining the slope of the boundary line for each section of a predetermined width, and calculating the switching point of the subsequent page on condition that a section in which the difference between the slopes of the boundary lines of adjacent sections is equal to or less than a predetermined value continues. The image processing apparatus according to claim 1, wherein the image processing apparatus is characterized. ページ先端から副走査方向に所定の距離の位置から前記ページ境界の検出を開始し、所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以上になる区間が所定区間続く位置を検出し、該検出位置から所定距離以上戻った位置を先頭側ページの切替点とすることを特徴とする、請求項1に記載の画像処理装置。The detection of the page boundary is started from a position at a predetermined distance in the sub-scanning direction from the top of the page, and the inclination of the boundary line is obtained for each section having a predetermined width. The image processing apparatus according to claim 1, wherein a position where a predetermined period continues is detected, and a position returned from the detected position by a predetermined distance or more is set as a switching point of the first page. 所定の幅の区間ごとに境界線の傾きを求め、隣接する区間の境界線の傾きの差が所定値以下になる区間が所定区間続く位置を検出し、該検出位置に基づいて後続ページの切替点を算出することを特徴とする、請求項1に記載の画像処理装置。Find the slope of the boundary line for each section with a predetermined width, detect the position where the section where the difference in the slope of the boundary line between adjacent sections is less than a predetermined value continues for a predetermined section, and switch the subsequent page based on the detected position The image processing apparatus according to claim 1, wherein a point is calculated.
JP18654198A 1998-07-01 1998-07-01 Image processing device Expired - Fee Related JP3689240B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18654198A JP3689240B2 (en) 1998-07-01 1998-07-01 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18654198A JP3689240B2 (en) 1998-07-01 1998-07-01 Image processing device

Publications (2)

Publication Number Publication Date
JP2000022932A JP2000022932A (en) 2000-01-21
JP3689240B2 true JP3689240B2 (en) 2005-08-31

Family

ID=16190315

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18654198A Expired - Fee Related JP3689240B2 (en) 1998-07-01 1998-07-01 Image processing device

Country Status (1)

Country Link
JP (1) JP3689240B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4883574B2 (en) * 2007-01-04 2012-02-22 株式会社沖データ Image processing device
JP5706556B2 (en) * 2014-04-07 2015-04-22 株式会社Pfu Overhead scanner device, image acquisition method, and program

Also Published As

Publication number Publication date
JP2000022932A (en) 2000-01-21

Similar Documents

Publication Publication Date Title
JP4141235B2 (en) Image correction apparatus and program
US5497236A (en) Method and apparatus for distortion correction of scanned images
JP4991411B2 (en) Image processing method
US8285080B2 (en) Image processing apparatus and image processing method
US7430065B2 (en) Method and system for correcting distortions in image data scanned from bound originals
JP3618056B2 (en) Image processing device
JPH1065877A (en) Picture processor
JPH1013669A (en) Data processing method for image reader
US6385347B1 (en) Image reading system
US5973792A (en) Image processing apparatus that can read out image of original with fidelity
JP3634626B2 (en) Image reading device
JP4162633B2 (en) Image distortion correction apparatus, image reading apparatus, image forming apparatus, program, and storage medium
JP3689240B2 (en) Image processing device
US7161706B2 (en) System for improving digital coplers and multifunction peripheral devices
JP3582988B2 (en) Non-contact image reader
JP4006242B2 (en) Image correction apparatus, program, storage medium, and image correction method
TW201208355A (en) Method for auto-cropping image
US8009912B2 (en) Image-processing apparatus which has an image region distinction processing capability, and an image region distinction processing method
JP2009284190A (en) Image reading apparatus and image reading system
JP3865215B2 (en) Image distortion correction apparatus, program, storage medium, and image distortion correction method
JP3384208B2 (en) Image reading device
JP2000261653A (en) Image processing unit
JP3926294B2 (en) Image distortion correction apparatus, image reading apparatus, image forming apparatus, image distortion correction method, image distortion correction program, and recording medium
JP3648382B2 (en) Image processing device
JPH09284491A (en) Image reader

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050222

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050610

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080617

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090617

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090617

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100617

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110617

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110617

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120617

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130617

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees