JP4136860B2 - 画像歪み補正装置、画像読取装置、画像形成装置及びプログラム - Google Patents

Description

本発明は、画像歪み補正装置、画像読取装置、画像形成装置及びプログラムに関する。

フラットベッドスキャナを用いて読み取る原稿の多くはシート状の原稿であり、コンタクトガラス上に開閉自在の圧板を設け、コンタクトガラス上に原稿を載置した後に圧板を閉じて原稿をスキャンするようにしている。しかし、原稿としてはシート状のものに限られず、ブック原稿（本、冊子など）も原稿として扱われることがあり、そのような場合にもコンタクトガラス上にブック原稿を載置し、原稿をスキャンすることになる。
ところが、原稿としてブック原稿を用いた場合には、図４７に示すように、ブック原稿１００のページ綴じ部１０１がコンタクトガラス１０２から浮き上がってしまう。このようにブック原稿１００のページ綴じ部１０１がコンタクトガラス１０２から浮き上がってしまった場合には、ページ綴じ部１０１が焦点面から離れてしまうため、浮き上がった部分のスキャン画像には、画像歪み、影、文字ぼけなどの画像劣化が発生する。劣化したページ綴じ部１０１の画像は読みにくく、ＯＣＲにより文字認識処理を行うときの認識率が著しく低下する。特に、厚手製本ではその割合が高く、また、ブック原稿１００のページ綴じ部１０１を焦点面から離れないように加圧作業した場合には、ブック原稿１００自体を破損してしまうこともある。
このような問題を解決すべく、画像の濃度情報から物体の３次元形状を推定する方法を用いて、画像の歪みを補正する方法が提案されている。このような画像の濃度情報から物体の３次元形状を推定する方法としては、非特許文献１に記載されているShape from Shadingと呼ばれる方法が代表的な例である。
また、特許文献１には、三角測量方式により書籍の形状を測定し、歪みを補正する方法が提案されている。
さらに、特許文献２には、読み取りスキャン画像のページ外形の形状を用いて書籍表面の３次元形状を推定する方法が提案されている。
しかしながら、前述したShape from Shadingと呼ばれる方法によれば、計算量が多く、歪み補正処理の計算時間が長いので、実用化は困難である。
また、特許文献１に記載されている方法によれば、三角測量方式により書籍の形状を測定するための特別な形状計測装置が必要になるため、装置を小型化する上で適切ではない。
さらに、特許文献２に記載されている方法によれば、少ない計算量で歪み補正ができるが、ページ外形が画像中に完全に収まりきれずに途中で切れているような場合には有効な補正ができない。
そこで、ページ外形が途中で切れているような読み取りスキャン画像であっても、その歪みを少ない計算量で有効に補正することができる画像歪み補正装置を特願２００２−２４７６４３にて提案した。そこでは、ページ外形だけではなく文字行情報および罫線情報を用いて画像の歪みを補正し、しかも、スキャナ（画像読取手段）の固有パラメータ（レンズの焦点面距離、スキャン光軸の位置（アドレス））を利用していないので、任意のスキャナの出力画像を補正できる。
特開平５−１６１００２号公報 特開平１１−４１４５５号公報 特願２００２−２４７６４３ T. Wada, H. Uchida and T. Matsuyama, "Shape from Shading with Interreflections under a Proximal Light Source: Distortion-Free Copying of an Unfolded Book", International Journal Computer Vision 24(2), 125-135(1997)

しかしながら、スキャナの固有パラメータが既知である場合もあり、そのときはパラメータを利用した方が一般に補正精度は向上する。
本発明の目的は、スキャナパラメータが既知の場合と未知の場合とにおいて、それぞれ適切な補正方法を与え、補正精度の向上が図れるような画像歪み補正装置、画像読取装置、画像形成装置及びプログラムを提供することである。

上記の課題を解決するために、本発明の請求項１は、主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取って得られたスキャン画像を主走査方向および副走査方向に伸張して歪み補正を行う画像歪み補正装置において、前記スキャン画像から歪み補正を行うための参照線を抽出する参照線抽出手段と、前記抽出した参照線の形状に基づいて前記スキャン画像の主走査方向の歪みを補正する主走査方向歪み補正手段と、を備え、前記参照線抽出手段は、前記スキャン画像中から、副走査方向に延びる罫線、主走査方向に垂直な文字行の各文字の位置を連結した線、主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線のいずれかを、前記スキャン画像中の主走査方向における上辺近傍及び下辺近傍からそれぞれ１本づつ参照線として抽出し、前記主走査方向歪み補正手段は、前記参照線の曲線部分が該参照線の直線部分を延長した線に一致するよう、補正前後の画像の対応点を求めて主走査方向の歪みを補正することを特徴とする。
また、本発明の請求項２は、請求項１記載の画像歪み補正装置において、前記参照線抽出手段は、更にスキャン画像のページ外形の抽出処理を行い、前記主走査方向歪み補正手段による歪み補正に用いる参照線を、前記ページ外形、罫線、主走査方向に垂直な文字行の各文字の位置を連結した線または主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線、の順位で参照線を抽出することを特徴とする。
また、本発明の請求項３は、請求項１記載の画像歪み補正装置において、前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が既知の場合は、この位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする。
また、本発明の請求項４は、請求項１記載の画像歪み補正装置において、前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が未知の場合は、スキャン画像の主走査方向の中心位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする。

また、本発明の請求項５は、請求項１乃至４のいずれか１項記載の画像歪み補正装置において、前記主走査方向歪み補正手段は、参照線の曲線部分に対応する副走査方向の位置でのみ主走査方向の歪み補正を行うことを特徴とする。
また、本発明の請求項６は、請求項１乃至５のいずれか１項記載の画像歪み補正装置において、前記主走査方向歪み補正手段は、前記スキャン画像のそれぞれ左右のページ毎に主走査方向の歪み補正を行うことを特徴とする。
また、本発明の請求項７は、請求項１乃至６のいずれか１項記載の画像歪み補正装置において、前記主走査方向歪み補正手段は、前記参照線抽出手段が抽出した参照線についての情報を保持し、他のページの補正に前記参照線についての情報を用いて主走査方向の歪み補正を行うことを特徴とする。
また、本発明の請求項８の画像読取装置は、主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取る画像読取手段と、該画像読取手段が読み取ったスキャン画像の補正を行う請求項１乃至７のいずれか１項記載の画像歪み補正装置とを備えたことを特徴とする。
また、本発明の請求項９の画像形成装置は、主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取る画像読取手段と、該画像読取手段が読み取ったスキャン画像の補正を行う請求項１乃至７のいずれか１項記載の画像歪み補正装置と、該画像歪み補正装置が補正した画像データに基づいた画像を用紙上に印刷する画像印刷装置とを備えたことを特徴とする。
また、本発明の請求項１０は、主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取って得られたスキャン画像を主走査方向に伸張して歪み補正をコンピュータに実行させるプログラムであって、コンピュータを前記スキャン画像中から、副走査方向に延びる罫線、主走査方向に垂直な文字行の各文字の位置を連結した線、主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線のいずれかを、前記スキャン画像中の主走査方向における上辺近傍及び下辺近傍からそれぞれ１本づつ参照線として抽出する参照線抽出手段、前記参照線の曲線部分が該参照線の直線部分を延長した線に一致するよう、補正前後の画像の対応点を求めて主走査方向の歪みを補正する主走査方向歪み補正手段として機能させることを特徴とする。

また、本発明の請求項１１は、請求項１０記載のプログラムにおいて、前記参照線抽出手段は、更にスキャン画像のページ外形の抽出処理を行い、前記主走査方向歪み補正手段による歪み補正に用いる参照線を、前記ページ外形、罫線、主走査方向に垂直な文字行の各文字の位置を連結した線または主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線、の順位で参照線を抽出することを特徴とする。
また、本発明の請求項１２は、請求項１０記載のプログラムにおいて、前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が既知の場合は、この位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする。
また、本発明の請求項１３は、請求項１０記載のプログラムにおいて、前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が未知の場合は、スキャン画像の主走査方向の中心位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする。
また、本発明の請求項１４は、請求項１０乃至１３のいずれか１項記載のプログラムにおいて、前記主走査方向歪み補正手段は、参照線の曲線部分に対応する副走査方向の位置でのみ主走査方向の歪み補正を行うことを特徴とする。
また、本発明の請求項１５は、請求項１０乃至１４のいずれか１項記載のプログラムにおいて、前記主走査方向歪み補正手段は、前記スキャン画像のそれぞれ左右のページ毎に主走査方向の歪み補正を行うことを特徴とする。
また、本発明の請求項１６は、請求項１０乃至１５のいずれか１項記載のプログラムにおいて、前記主走査方向歪み補正手段は、前記参照線抽出手段が抽出した参照線についての情報を保持し、他のページの補正に前記参照線についての情報を用いて主走査方向の歪み補正を行うことを特徴とする。

本発明によれば、スキャナパラメータが既知の場合と未知の場合において、それぞれ適切な補正方法を選択して補正するので、よりよい補正精度を与える画像歪み補正装置、画像読取装置、画像形成装置及びプログラムを提供できる。

本発明の実施の一形態を図１乃至図４６に基づいて説明する。本実施の形態の画像歪み補正装置は画像形成装置であるデジタル複写機に備えられており、画像読取装置としてはデジタル複写機のスキャナ部が適用されている。
ここで、図１はスキャナ部１の構成を示す縦断面図である。図１に示すように、スキャナ部１は、原稿を載置するコンタクトガラス２と、原稿の露光用の露光ランプ３および第一反射ミラー４からなる第一走行体５と、第二反射ミラー６および第三反射ミラー７からなる第二走行体８と、原稿の画像を読み取る撮像素子としてのＣＣＤ（Charge Coupled Device）９と、このＣＣＤ９に結像させるためのレンズユニット１０と、原稿を載置する基準になるとともにコンタクトガラス２のズレや外れを防止する原稿スケール１１と、この原稿スケール１１の下側に設置されたシェーディング補正用の白基準板１２と、フレーム１４とを備えている。ＣＣＤ９はセンサボード１３上に形成されている。
原稿の走査時には、第一走行体５および第二走行体８はステッピングモータ２４（図３参照）によって副走査方向に移動する。すなわち、第一走行体５および第二走行体８がコンタクトガラス２の下を走行して、露光ランプ３で原稿を露光走査し、その反射光を第一反射ミラー４、第二反射ミラー６および第三反射ミラー７で反射して、レンズユニット１０を通してＣＣＤ９に結像させる。ここに、画像読取手段が実現されている。
このようなスキャナ部１は、このスキャナ部１で読み取られた原稿の画像に基づく画像データに応じ、例えば電子写真方式で用紙上に画像の形成を行う画像印刷装置であるプリンタ部（図示せず）を備えるデジタル複写機１６に搭載されている。
図２は、スキャナ部１を搭載したデジタル複写機１６の上部部分を示す斜視図である。図２に示すように、スキャナ部１には、コンタクトガラス２に対して開閉自在な圧板１７と、この圧板１７の開閉を検出する開閉センサ１８とが設けられている。
なお、デジタル複写機１６に備えられるプリンタとしては、電子写真方式のほか、インクジェット方式、昇華型熱転写方式、銀塩写真方式、直接感熱記録方式、溶融型熱転写方式など、種々の印刷方式を適用することができる。その具体的な構成については周知であるため、詳細な説明は省略する。

図３は、スキャナ部１の制御系の電気的な接続を示すブロック図である。図３に示すように、この制御系は、スキャナ部１の全体を制御するメイン制御部１９に、ＣＣＤ９で読み取った画像データに各種の画像処理を施す回路である画像処理部２０と、第一走行体５および第二走行体８を制御する回路である走行体制御部２１と、デジタル複写機１６への各種操作を受け付け、また、各種メッセージを表示する操作パネル２２と、ＣＣＤ９で読み取った画像データや所定のデータ等を記憶するメモリ２３とが接続されている。なお、操作パネル２２には、コピー開始を宣言するためのコピースタートキー等が設けられている。また、走行体制御部２１には、露光ランプ３と、第一走行体５および第二走行体８を駆動するステッピングモータ２４と、第一走行体５および第二走行体８がホームポジションにあるか否かを検出するスキャナホームポジションセンサ（ＨＰセンサ）２５と、開閉センサ１８とが接続されている。
ここで、図４は画像処理部２０の基本的な内部構成を示すブロック図である。図４に示すように、画像処理部２０は、原稿をＣＣＤ９により読み取ったアナログ画像信号の増幅処理やデジタル変換処理等を行うアナログビデオ処理部２６、シェーディング補正処理を行うシェーディング補正処理部２７、シェーディング補正処理後のデジタル画像信号に、ＭＴＦ補正、変倍処理、γ補正等の各種画像データ処理を行いスキャン画像を生成する画像データ処理部２８、本実施の形態の特長的な機能であるスキャン画像の歪み補正機能を実現する画像歪み補正部２９から構成されている。以上のような画像処理後のデジタル画像信号は、メイン制御部１９を介してプリンタ部に送信されて、画像形成に供される。
メイン制御部１９は、図５に示すように、各部を集中的に制御するＣＰＵ（Central Processing Unit）３１を備えており、このＣＰＵ３１には、ＢＩＯＳなどを記憶した読出し専用メモリであるＲＯＭ（Read Only Memory）３２と、各種データを書換え可能に記憶してＣＰＵ３１の作業エリアとして機能するＲＡＭ（Random Access Memory）３３とがバス３４で接続されており、マイクロコンピュータを構成している。さらにバス３４には、制御プログラムが記憶されたＨＤＤ３５と、ＣＤ（Compact Disc）−ＲＯＭ３７を読み取るＣＤ−ＲＯＭドライブ３６と、プリンタ部等との通信を司るインタフェース（Ｉ／Ｆ）３８とが接続されている。

図５に示すＣＤ−ＲＯＭ３７は、この発明の記憶媒体を実施するものであり、所定の制御プログラムが記憶されている。ＣＰＵ３１は、ＣＤ−ＲＯＭ３７に記憶されている制御プログラムをＣＤ−ＲＯＭドライブ３６で読み取り、ＨＤＤ３５にインストールする。これにより、メイン制御部１９は、後述するような各種の処理を行うことが可能な状態となる。
なお、記憶媒体としては、ＣＤ−ＲＯＭ３７のみならず、ＤＶＤなどの各種の光ディスク、各種光磁気ディスク、フレキシブルディスクなどの各種磁気ディスク、半導体メモリ等、各種方式のメディアを用いることができる。また、インターネットなどのネットワークからプログラムをダウンロードし、ＨＤＤ３５にインストールするようにしてもよい。この場合に、送信側のサーバでプログラムを記憶している記憶装置も、この発明の記憶媒体である。なお、プログラムは、所定のＯＳ（Operating System）上で動作するものであってもよいし、その場合に後述の各種処理の一部の実行をＯＳに肩代わりさせるものであってもよいし、ワープロソフトなど所定のアプリケーションソフトやＯＳなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
次に、メイン制御部１９に設けられたＣＰＵ３１が制御プログラムに基づいて実行する各種処理の内容について説明する。ここでは、ＣＰＵ３１が実行する処理のうち、本実施の形態のスキャナ部１が備える特長的な機能であるスキャン画像の歪み補正機能を実現する画像歪み補正装置である画像歪み補正部２９におけるスキャン画像の歪み補正処理についてのみ説明する。

図６は、スキャン画像の歪み補正処理の流れを概略的に示すフローチャートである。なお、ここでは、図７に示すように、ブック原稿４０がそのページ綴じ部４１とスキャナ部１の画像読み取りの主走査方向とが平行になるように位置させてコンタクトガラス２に載置されている場合について説明する。
まず、ステップＳ１において、画像データ処理部２８から出力されたコンタクトガラス２に載置されているブック原稿４０のスキャン画像を入力する。ここで、図８は入力した画像の一例を示したものである。そして、図９に示すように、入力されたブック原稿４０のスキャン画像には、ページ綴じ部４１の近傍において歪みが生じている。
次いで、ブック原稿４０のスキャン画像（例えば、モノクロ多値画像）の最適２値化処理を実行し（ステップＳ２）、副走査方向の黒画素（スキャン画像の画素の中でその濃度値が予め定めた濃度値よりも濃い画素）数のヒストグラムを求める（ステップＳ３）。図１０は、図８に示した画像の綴じ部境界線左側の黒画素ヒストグラムである。図１０中の横軸は、主走査方向の黒画素（スキャン画像の画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の位置を示し、図１０中の縦軸は、その位置毎の黒画素数を示すものである。なお、綴じ部境界線としては、スキャン画像中の画素の中でその濃度値が最も濃い画素が位置する副走査方向の位置が選択される。
なお、スキャン画像がカラー多値画像の場合における２値化処理は、例えばＲＧＢ成分の何れか一つの成分に着目し（例えばＧ成分）、Ｇ成分の所定の濃度閾値よりも大きいものを黒画素とし、Ｇ成分の所定の濃度閾値よりも小さいものを白画素とすれば良い。また、ＲＧＢを色変換して輝度成分と色差成分とに分け、輝度成分で閾値処理を行うようにしても良い。
続くステップＳ４においては、ページ外形／罫線／文字行の抽出処理を実行する。ここで、図１１は、ページ外形／罫線／文字行の抽出処理の流れを概略的に示すフローチャートである。

［スキャン画像からのページ外形の抽出］
まず、ステップＳ４１におけるスキャン画像からのページ外形の抽出処理について説明する。ここで、図１２は上端にページ外形が存在するスキャン画像の一例を示す説明図、図１３は図１２に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。図１３に示すヒストグラムのｘ軸はスキャン画像の主走査方向（図１２の上下方向）を示すものであり、スキャン画像の上端はヒストグラムの左端に対応付けられている。なお、ページ外形が下端に存在するスキャン画像の場合には、スキャン画像の下端がヒストグラムの右端に対応付けられることになる。したがって、図１２に示すようにスキャン画像の上端にページ外形が存在する場合、スキャン画像の上部に黒い帯が現れることから、図１３に示すヒストグラムの左端には高い縦棒が現れることになる。本実施の形態では、このような特性を利用して、スキャン画像にページ外形が存在するか否かの判断を行う。
より具体的には、図１３に示すように、綴じ部境界線からスキャン画像の左端（図１２の左端）までの距離ＡＯ、ヒストグラム縦棒の高さＢＯとし、その比率を下記に示す式（１）により算出し、

算出された比率ｋが、予め定められた閾値よりも大きい場合に、スキャン画像にページ外形が存在すると判断する。
なお、スキャン画像の上下にページ外形が存在する場合には、ヒストグラムの左右両端に高い縦棒が現れることになるので、このような場合には、ヒストグラムの左右両端の高い縦棒に基づいてスキャン画像にページ外形が存在するか否かの判断がそれぞれ実行される。
ここに、ページ外形判別手段の機能が実行される。
以上の処理により、スキャン画像にページ外形が存在すると判断された場合には、左右ページの上下辺のいずれにページ外形が存在しているのかという情報とともにページ外形を抽出し、ＲＡＭ３３に一時的に記憶する。
なお、このスキャン画像にページ外形が存在するか否かの判断処理は、スキャン画像の綴じ部境界線を境にした左右ページ毎に実行される。

［スキャン画像からの罫線の抽出］
続くステップＳ４２においては、スキャン画像からの罫線の抽出処理を実行する。
ステップＳ４２におけるスキャン画像からの罫線の抽出処理について説明する。
［罫線候補の検出］
ここで、図１４は長い罫線が存在するスキャン画像の一例を示す説明図、図１５は図１４に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムである。
図１５に示すヒストグラムのｘ軸はスキャン画像の主走査方向（図１４の上下方向）を示すものであり、スキャン画像の上端はヒストグラムの左端に対応付けられている。図１４に示すようにスキャン画像に罫線が存在する場合には、図１５に示すヒストグラムに幅の狭いピークが現れることになる。本実施の形態では、このような特性を利用して、スキャン画像に罫線が存在するか否かの判断を行う。
より具体的には、まず、図１５に示すヒストグラムに現れた幅の狭いピークの高さＨを求めるとともに、求められた各ピークの中央位置（高さが半分の位置）における幅Ｗを求める。そして、ピークの高さＨが予め定められた閾値ｔｈＨよりも高く、かつ、ピークの中央位置の幅Ｗが予め定められた閾値ｔｈＷより小さなピークが存在する場合、そのピークを罫線の候補とする。
ここに、罫線候補抽出手段の機能が実行される。
続いて、罫線の候補とされたピークについて、罫線の連続性を利用して、更に罫線か否かの判断をする。図１６に示すように、候補罫線上の適当な位置（例えば、ページの中心線の位置）を開始点とし、この開始点から候補罫線を左右方向へ探索し、切断点（罫線がかすれて途切れている部分）の数を累積する。切断点の数が予め定められた閾値より少なければ、この候補を罫線と判断する。このように罫線連続性に基づいて罫線か否かの判断をすることにより、罫線として誤って検出された小さな文字で構成された横書き文字行や点線等を排除することが可能になる。
ここに、罫線判別手段の機能が実行される。

［罫線の座標検出］
以上のようにして罫線を判別した後、各罫線の座標を検出する。罫線座標の検出は、図１７に示すように、罫線の主走査方向（図１７のｙ軸方向）の座標値を罫線部の黒画素ランの中点座標とした場合、図１７に示す罫線の左端のｘ１における主走査方向座標値はｙ１となる。
［最適罫線の選択］
次に、候補罫線の中から歪み補正に最適な罫線を選択する。図１８に示すように複数の罫線が検出される場合、どの罫線を用いて歪み補正するかを選択する必要がある。最適な罫線の選択基準の一例としては、罫線の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内（図１８の網掛け領域）に罫線の一部がかかっていることを条件とし、その中で上下いずれかのページ外形に最も近い罫線を選択するようにする。図１８においては、左右ページから各１本ずつの罫線を選択する場合を示している。ここでは、罫線<1>と罫線<2>とが選択されている。
また、最適な罫線の選択基準の別の例としては、罫線の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内（図１９の網掛け領域）に罫線の一部がかかっていることを条件とし、各ページの上部では上端のページ外形に、各ページの下部では下端のページ外形に、それぞれ最も近い罫線を選択するようにする。図１９においては、左右ページをさらに上下部分に分け、その各４ブロックにおいて１本ずつの罫線を選択する場合を示している。ここでは、左上のブロックでは罫線<1>、右下のブロックでは罫線<2>、左下のブロックでは罫線<3>が選択されている。なお、図１９中の右上のブロックには上記２条件（罫線の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内に罫線の一部がかかっている）を満足する罫線が存在しないので、選択された罫線はない。
なお、上記２条件（罫線の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内に罫線の一部がかかっている）については、その両方ではなくいずれか一方のみを満足するものであっても良い。また、選択基準として上例では「ページ外形に最も近い」を用いているが、これに限るものではなく、「罫線の湾曲が最も大きい」を用いても良い。ここで、「罫線の湾曲」は罫線の左右両端点の主走査方向の座標値の差で表すものとする。

［最適罫線の座標値の決定］
最適な罫線が選択された場合には、罫線の（主走査方向の）座標値を決定する。罫線の（主走査方向の）座標値は、選択された罫線を左右ページのそれぞれ両端に達するまで近似して延長することにより決定される。図２０において、罫線が存在しているＢＣ部については、前述した罫線座標検出処理により既に座標値は決まっていることから、それ以外の延長部分について罫線の（主走査方向の）座標値を決定することになる。より詳細には、図２０に示すＡＢ部は直線近似で（主走査方向の）座標値を推定し、ＣＤ部は多項式近似曲線で（主走査方向の）座標値を推定する。
［不適切な罫線の排除］
最後に不適切な罫線を排除する。これは、前述したように多項式近似により座標値を推定する際に、多項式近似による推定曲線の形状が不適切である場合には補正の際にかえって歪みが増大する恐れがあるので、このような罫線を排除するものである。不適切な近似曲線形状の例としては、図２１に示すように、曲線が書籍の外側へ向かうような曲線<1>や、中心線を超えて大きく内側へ食い込むような曲線<2>である。
なお、推定曲線の形状が不適切であるとして罫線を排除した場合には、再び最適な罫線を選択し、上記の処理を繰り返すことになる。
以上の処理により、スキャン画像に罫線が存在すると判断された場合には、左右各ページのいずれの位置に罫線が存在しているのかという情報とともに罫線を抽出し、ＲＡＭ３３に一時的に記憶する。
［スキャン画像からの文字行の抽出］
続くステップＳ４３においては、スキャン画像からの文字行の抽出処理を実行する。ステップＳ４３におけるスキャン画像からの文字行の抽出処理について説明する。本実施の形態においては、まず、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別を行う。

［文字行の判別］
スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別手法について説明する。ここで、図２２は図８に示した画像の副走査方向の黒白反転数ヒストグラムである。図２２中の横軸は、副走査方向（左右方向）の黒画素（スキャン画像を黒白反転させた画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の主走査方向上での位置を示し、図２２中の縦軸は、その位置毎の黒画素数を示すものである。また、図２３は図８に示した画像の主走査方向の黒白反転数ヒストグラムである。図２３中の横軸は、主走査方向（上下方向）の黒画素（スキャン画像を黒白反転させた画素の中でその濃度値が予め定めた濃度値よりも濃い画素）の副走査方向上での位置を示し、図２３中の縦軸は、その位置毎の黒画素数を示すものである。画像中の文字が横書きの図８に示したようなスキャン画像の場合、図２２に示すような副走査方向のヒストグラムは激しく変化するが、図２３に示すような主走査方向のヒストグラムの変化は少ない。また、特に図示しないが、スキャン画像中の文字行が縦書き文字行である場合には、主走査方向のヒストグラムは激しく変化するが、副走査方向のヒストグラムの変化は少ない。

上述したような判別手法は、具体的には下記に示す各式により実現される。まず、下記に示す式（２）により、

主走査方向ｙの位置でのヒストグラム値Ｐｎｔ（ｙ）の平均値ｍｅａｎ_Ｈが算出される。ここで、ｈｅｉｇｈｔは画像の高さである。そして、下記に示す式（３）により、

副走査方向のヒストグラムの主走査方向に関する分散σ_Ｈが得られる。
同様に、下記に示す式（４）により、

副走査方向ｘの位置でのヒストグラム値Ｐｎｔ（ｘ）の平均値ｍｅａｎ_Ｖが算出される。ここで、ｗｉｄｔｈは画像の幅である。そして、下記に示す式（５）により、

主走査方向のヒストグラムの副走査方向に関する分散σ_Ｖが得られる。

上述したようにスキャン画像中の文字行が横書き文字行である場合には、副走査方向のヒストグラムの主走査方向に関する分散σ_Ｈが、主走査方向のヒストグラムの副走査方向に関する分散σ_Ｖより大きい。逆に、スキャン画像中の文字行が縦書き文字行である場合には、主走査方向のヒストグラムの副走査方向に関する分散σ_Ｖが、副走査方向のヒストグラムの主走査方向に関する分散σ_Ｈより大きい。つまり、分散σ_Ｈと分散σ_Ｖとの比較により、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別が可能になっている。
なお、スキャン画像中の文字行が縦書き文字行なのか、横書き文字行なのかの判別に、黒白反転数ヒストグラムを用いたのは、文字行と写真部分との混同を避けるためである。一般に、黒画素ヒストグラムの値が同程度の場合、文字領域のほうが写真領域よりも黒白反転数ヒストグラムの値が大きくなるからである。
ここに、文書判別手段の機能が実行される。

［横書き文字行の座標検出］
以上のようにして文字行を判別した後、まず、各横書き文字行の座標を検出する。横書き文字行の座標の検出にあたっては、文字認識処理に用いられる文字単位の外接矩形抽出処理を行うとともに、横書き文字行の抽出処理を行う。なお、文字認識処理については周知の技術であるので、その説明は省略する。ここで、スキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を図２４に示す。そして、各文字の外接矩形の中心点の座標をその文字の座標とみなし、横書き文字行の座標を検出する。
［最適横書き文字行の選択］
次に、抽出した横書き文字行の中から歪み補正に最適な横書き文字行を選択する。
複数の横書き文字行が検出される場合、どの横書き文字行を用いて歪み補正するかを選択する必要がある。最適な横書き文字行の選択基準の一例としては、前述した最適な罫線の選択基準と基本的に同様であって、図２５に示すように横書き文字行の長さＢＣが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内（図２５の網掛け領域）に横書き文字行の一部Ｃがかかっていることを条件とし、その中で上下いずれかのページ外形に最も近い横書き文字行を選択するようにする。ここで、Ｂは文字行の一番左の矩形の中心であり、Ｃは一番右の矩形の中心である。なお、最適な横書き文字行の選択は、左右ページから各１本ずつのページ外形に最も近い横書き文字行を選択するものであっても良いし、左右ページをさらに上下部分に分け、その各４ブロックにおいて１本ずつのページ外形に最も近い横書き文字行を選択するものであっても良い。
なお、上記２条件（横書き文字行の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内に横書き文字行の一部がかかっている）については、その両方ではなくいずれか一方のみを満足するものであっても良い。また、選択基準として上例では「ページ外形に最も近い」を用いているが、これに限るものではなく、「横書き文字行の湾曲が最も大きい」を用いても良い。ここで、「横書き文字行の湾曲」は横書き文字行の両端の文字外接矩形の中心座標の主走査方向の座標値の差で表すものとする。

［最適横書き文字行の座標値の決定］
最適な横書き文字行が選択された場合には、横書き文字行の（主走査方向の）座標値を決定する。横書き文字行の（主走査方向の）座標値は、横書き文字行内の各文字外接矩形の中心点を連結し、直線部分と曲線部分とを近似して抽出することにより横書き文字行の（主走査方向の）座標値を決定することになる。より詳細には、図２５に示すＤは綴じ部境界線であり、ＢＤの間は多項式近似曲線で（主走査方向の）座標値を推定し、一番左端のＡとＢとの間は近似直線の値で（主走査方向の）座標値を推定する。
［不適切な横書き文字行の排除］
最後に不適切な横書き文字行を排除する。これは、前述したように多項式近似により座標値を推定する際に、多項式近似による推定曲線の形状が不適切である場合には補正の際にかえって歪みが増大する恐れがあるので、このような横書き文字行を排除するものである。不適切な近似曲線形状の例としては、前述した罫線の場合と同様であって、特に図示しないが、曲線が書籍の外側へ向かうような場合や、中心線を超えて大きく内側へ食い込むような場合である。
なお、推定曲線の形状が不適切であるとして横書き文字行を排除した場合には、再び最適な横書き文字行を選択し、上記の処理を繰り返すことになる。
以上の処理により、スキャン画像に横書き文字行が存在すると判断された場合には、左右各ページのいずれの位置に横書き文字行が存在しているのかという情報とともに横書き文字行を抽出し、ＲＡＭ３３に一時的に記憶する。
［縦書き文字行の各文字の座標検出］
続いて、各縦書き文字行の座標を検出する。縦書き文字行の座標の検出にあたっては、文字認識処理に用いられる文字単位の外接矩形抽出処理を行う。なお、文字認識処理については周知の技術であるので、その説明は省略する。そして、各文字の外接矩形の中心点の座標をその文字の座標とみなす。

［横書き文字行の抽出］
次に、各縦書き文字行から横書き文字行を抽出する。横書き文字行の抽出は、各縦書き文字行の一番上の文字を連結した外形、または、各縦書き文字行の一番下の文字を連結した外形を横書き文字行とみなすものである。より詳細には、左右ページから各１本ずつの文字行を選択する場合は、各縦書き文字行の一番上もしくは一番下の各一文字を連結した外形を一つの行とみなして抽出する。また、左右ページをさらに上下部分に分け、その４ブロックにおいて１本ずつの文字行を選択する場合は、左上部、右上部においては各縦書き文字行の一番上の各一文字を連結した外形を一つの行とみなし、左下部、右下部においては各縦書き文字行の一番下の各一文字を連結した外形を一つの行とみなして抽出する。
その際、図２６に示すように抽出された外形の長さＢＣが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内（図２６の網掛け領域）に抽出された外形の一部Ｃがかかっていることを条件とし、外形を抽出する。なお、上記２条件（抽出された外形の長さが予め定められた閾値より長く、かつ、綴じ部境界線を挟んだ左右の一定幅領域内に抽出された外形の一部がかかっている）については、その両方ではなくいずれか一方のみを満足するものであっても良い。したがって、上記条件を満足しない場合は、歪み補正用の縦書き文字行の外形は無いということになる。
［抽出された外形の座標値の決定］
縦書き文字行に応じて外形が抽出された場合には、なお、縦書き文字行の外形の（主走査方向の）座標値を決定する。縦書き文字行の外形の座標値は、図２７に示すように、各縦書き文字行の一番上の各一文字を連結した外形である場合には、連結する各文字の外接矩形の上辺中心点を連結し、直線部分と曲線部分とを近似して抽出することにより縦書き文字行の外形の（主走査方向の）座標値を決定することになる。また、図２７に示すように、各縦書き文字行の一番下の各一文字を連結した外形である場合には、連結する各文字の外接矩形の下辺中心点を連結し、直線部分と曲線部分とを近似して抽出することにより縦書き文字行の外形の（主走査方向の）座標値を決定することになる。より詳細には、図２６に示すＤは綴じ部境界線であり、ＢＤの間は多項式近似曲線で（主走査方向の）座標値を推定し、一番左端のＡとＢとの間は近似直線の値で（主走査方向の）座標値を推定する。

［不適切な縦書き文字行の外形の排除］
最後に不適切な縦書き文字行の外形を排除する。これは、前述したように多項式近似により座標値を推定する際に、多項式近似による推定曲線の形状が不適切である場合には補正の際にかえって歪みが増大する恐れがあるので、このような縦書き文字行の外形を排除するものである。不適切な近似曲線形状の例としては、前述した罫線や横書き文字行の場合と同様であって、特に図示しないが、曲線が書籍の外側へ向かうような場合や、中心線を超えて大きく内側へ食い込むような場合である。
なお、推定曲線の形状が不適切であるとして縦書き文字行の外形を排除した場合には、歪み補正用の縦書き文字行の外形は無いということになる。
以上の処理により、スキャン画像に縦書き文字行の外形が存在すると判断された場合には、左右各ページのいずれの位置に縦書き文字行の外形が存在しているのかという情報とともに縦書き文字行の外形を抽出し、ＲＡＭ３３に一時的に記憶する。
なお、以下においては、横書き文字行及び縦書き文字行の外形を文字列として扱うものとする。
以上、ステップＳ４１〜Ｓ４３の処理により、ページ外形／罫線／文字行の抽出処理（ステップＳ４）が終了する。
続くステップＳ５（図６参照）においては、画像歪み補正処理を実行する。画像歪み補正処理は、図２８に示すように、概略的には、歪み補正（伸張）に際しての基準となる線（参照線１）としてスキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行のいずれかを選択する処理（ステップＳ５１：参照線１選択処理）、上記参照線１に対応するものであって補正率（伸張率）の算出用の参照線２としてスキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行のいずれかを選択する処理（ステップＳ５２：参照線２選択処理）、参照線１と参照線２に基づいてスキャン画像に伸張処理を施して主走査方向の歪みを補正する処理と、参照線１もしくは参照線２から算出されたページ面のスキャン面からの距離（浮きの高さ）もしくは補正画像の文字外接矩形、に基づいてスキャン画像に伸張処理を施して副走査方向の歪みを補正する処理（ステップＳ５３：主走査方向歪み補正処理と副走査方向歪み補正処理）とにより構成されている。
ここで、参照線１選択処理（ステップＳ５１）及び参照線２選択処理（ステップＳ５２）においては、参照線１または参照線２として、スキャン画像の上辺（もしくは下辺）の近傍に位置するページ外形／罫線／文字行のいずれかを、左右各ページについて選択することになるが、本実施の形態におけるページ外形、罫線、文字行の選択の優先順位は、
ページ外形＞罫線＞文字行
としている。このような選択優先順位にしたのは、文字行はページ外形や罫線に比べて抽出精度が低く、また、画像の外側にあるページ外形を利用する方が精度の高い歪み補正率を得ることができるためである。

次に、主走査方向歪み補正処理と副走査方向歪み補正処理（ステップＳ５３）について説明する。この処理はスキャナパラメータが既知の場合と未知の場合とで処理が異なる。即ち、スキャナの機種が既知の場合は当該スキャナのスキャナレンズの光軸の主走査方向の位置（図２９のＡｋ）と、スキャナレンズの中心とスキャン面間の距離（図２９の焦点面距離）をスキャナパラメータとして、予め記憶しておく。
まず、スキャナパラメータが既知の場合を説明する。この場合、基本的に、主走査方向の１ラインを補正したら、次にそのラインに関して副走査方向の補正を行う、という処理を主走査方向の全ライン、もしくは、参照線１または参照線２が曲線である部分の主走査方向ラインについて行う。
主走査方向の補正は次のように行う。図３０には、補正前の参照線１、参照線２をそれぞれ実線で、補正後をそれぞれ点線で表している。補正後の点線は、補正前の参照線１、参照線２の直線部分（平坦部）をそのまま延長したものである。ここで、副走査方向の位置Ｘにおいて、基準線上の点ＰがＰ’に、参照線上の点ＱがＱ’に、それぞれ補正される。さて、位置Ｘにおける主走査方向上の任意の点ＹがＹ’に補正されるとして、次の関係式が成り立つ、
ＹＰ／ＹＱ＝Ｙ’Ｐ’／Ｙ’Ｑ’
よって、各点の主走査方向の位置を、点ＰならＰ（ｙ）というように表すと、
（Ｙ（ｙ）−Ｐ（ｙ））／（Ｙ（ｙ）−Ｑ（ｙ））＝
（Ｙ’（ｙ）−Ｐ’（ｙ））／（Ｙ’（ｙ）−Ｑ’（ｙ））
となるので、これを変形して、
Ｙ（ｙ）＝
（（Ｐ（ｙ）−Ｑ（ｙ））／（Ｐ’（ｙ）−Ｑ’（ｙ）））Ｙ’（ｙ）＋
（Ｐ’（ｙ）Ｑ（ｙ）−Ｐ（ｙ）Ｑ’（ｙ））／（Ｐ’（ｙ）−Ｑ’（ｙ））
となる。
上式を利用して、補正後にＹ’（ｙ）の位置に来るべき点の補正前の位置Ｙ（ｙ）を求めることができる。つまり、補正前のＹ（ｙ）の画素値を補正後のＹ’（ｙ）に移せばよいわけである。ただし、Ｙ（ｙ）の算出値は一般に小数となるので、その前後の整数位置に対応する画素値の線形補間結果を用いる。即ち、図３１において、Ｙ（ｙ）の前後の整数をそれぞれＮ，Ｎ＋１、これに対応する画素値をＤ（Ｎ），Ｄ（Ｎ＋１）とすると、Ｙ（ｙ）における画素値Ｄ（Ｙ（ｙ））は図に示したような線形関係を満足するように算出する。

以上は、全ての参照線１と参照線２がページ外形／罫線／文字行のいずれかである場合であるが、適切なページ外形や罫線、文字行が抽出されなかった場合は次のようにする。図３２は、右ページ上方にページ外形／罫線／文字行が存在しない場合の例である。この場合は、レンズ光軸の軌跡（図３２のＬ）を参照線２とみなして、上記と同様の処理を行う。ただしこの場合は図３０におけるＱとＱ’は一致する。なお、ページ下方にページ外形／罫線／文字行が存在しない場合は、Ｌを参照線１とみなして同様に行う（ＰとＰ’が一致）。ページの上方／下方ともにページ外形／罫線／文字行が存在しない場合は、手がかり無しとして、そのページの補正は行わない。
以上の処理をスキャン画像の左右ページ毎に独立して実行する。また、ある見開き左右ページにおける参照線１および参照線２についての情報を保持しておき、他の見開き左右ページの補正にこれを利用してもよい。例えば、連続する見開きページをスキャンする際、見開き左右ページを１セットと考えて、参照線１、参照線２の抽出は５セットに１回のみ行うものとし、あるセットで参照線１、参照線２を抽出したら、その後に続く４セットではこれらの情報をそのまま流用するということを行っても良い。これにより、参照線１、参照線２を抽出するための時間が節約できるので、全体の処理速度が向上する。

副走査方向の補正は次のようにする。即ち、ページ面のスキャン面からの距離の変化量を利用して、書籍原稿の断面曲線が直線となるように展開して画像を伸長する。具体的には、ページ面のスキャン面からの浮きの高さの変化量により画像の伸長を行う。図３３に示すように、ブック原稿ページ面の形状を読み取ってライン毎の微少な三角形とし、ページの読み取り１ラインにおける画像長さＬｎを次の式
Ｌｎ＝平方根｛１＋（Ｔｎ−Ｔｎ−１）＊＊２｝
により算出し、画像長さＬｎの累積をページの伸長長さとする。その結果、近似した三角形の斜辺は湾曲したページの形状とほぼ等しくなるので（折れ線近似）、その累積をページの画像長さとすることにより、正確なページ長さを得る。特に、１ライン毎の最小ピッチによる形状近似により、その長さの補正精度は高い。
隣接する主走査方向のライン上の注目画素の画素間隔を基準“１”として演算することにより、読み取りライン間隔が変化、すなわち、平面状としたときの原稿に対してサンプリング画素間隔が逐次替わっていくのに対し、画像伸長処理を適応する。また、幾何学的に主走査方向の画像投影倍長さとページ面のスキャン面からの距離は比例関係にあり、図２９に示すように、参照線１もしくは参照線２の主走査方向のアドレスＡ３と、参照線１もしくは参照線２の直線部分（平坦部）のアドレスＫａよりページ面のスキャン面からの距離Ｔを以下の式
Ｔ＝焦点面距離＊（Ａ３−Ａｋ）／｛（Ａｋ−Ｋａ）−（Ａ３−Ａｋ）｝
により、求めることができる。このようにして算出される隣接する主走査ラインの深さの差により、１画素毎の微少ピッチの直線で近似してページの補正位置を算出することができる。なお、参照線１／参照線２の求め方や、適切な参照線１／参照線２が存在しない場合の対応は主走査方向の補正の場合と基本的に同様である。
このようにして算出されたページ面のスキャン面からの距離Ｔは、図３３に示すように、１ライン毎の復元すべき副走査方向の画像長さＬｎの算出に用いられることになる。すなわち、前述した次の式
Ｌｎ＝平方根｛１＋（Ｔｎ−Ｔｎ−１）＊＊２｝
により、１ライン毎の補正すべき副走査方向の画像長さＬｎが算出される。したがって、画像長さＬｎの累積が副走査方向のページ長さになる。

通常、ページ面のスキャン面からの距離が高くなるに連れてその高さの変化量が増す。そこで、本実施の形態においては、その位置のページ面のスキャン面からの距離に応じて画像伸長に制限をかける。例えば、隣り合う境界アドレスの差をその位置の（高さ［ｍｍ］／５）［画素］に制限して境界の誤検出による副走査方向補正のエラーを抑制する。
副走査方向の補正では画像長さＬｎは位置によって異なり、図３４に示すように元画像と補正画像の対応する点の位置は一般に異なる。Ｎに存在した点がＮ’に、Ｎ＋１の点がＮ＋１’にそれぞれ補正される場合、求めるべきは整数Ｘ’の位置（これも一般にはＮ＋１’と一致するとは限らない）の画素値である。Ｎ’とＸ’間の距離をａ、Ｘ’とＮ＋１’間の距離をｂとそれぞれおくと、元画像におけるＸ’の対応点Ｘは、
（Ｘ−Ｎ）／（Ｎ＋１−Ｘ）＝ａ／ｂ
の関係にある。
上式によりＸの位置が分かったら、補正前のＸの画素値を補正後のＸ’に移せばよいわけである。ただし、Ｘの算出値は一般に小数となるので、その前後の整数位置に対応する画素値の線形補間結果を用いる。即ち、図３５において、Ｘの前後のＮ、Ｎ＋１に対応する画素値をＤ（Ｎ）、Ｄ（Ｎ＋１）とすると、Ｘにおける画素値Ｄ（Ｘ）は図に示したような線形関係を満足するように算出する。以上の処理を、副走査方向の全ての位置、もしくは、参照線１または参照線２が曲線である部分の副走査方向の位置に対して行う。
以上の処理をスキャン画像の左右ページ毎に独立して実行する。また、ある見開き左右ページにおける書籍原稿のスキャン面からの距離と、参照線１または参照線２についての情報を保持しておき、他の見開き左右ページの補正にこれを利用してもよい。例えば、連続する見開きページをスキャンする際、見開き左右ページを１セットと考えて、書籍原稿のスキャン面からの距離の算出や参照線１、参照線２の抽出は５セットに１回のみ行うものとし、あるセットで距離の算出や参照線１、参照線２の抽出を行ったら、その後に続く４セットではこれらの情報をそのまま流用するということを行っても良い。これにより、書籍原稿のスキャン面からの距離の算出や参照線１、参照線２を抽出するための時間が節約できるので、全体の処理速度が向上する。
ここまでが、スキャナパラメータが既知の場合の、主走査方向歪み補正処理と副走査方向歪み補正処理（ステップＳ５３）の説明である。

次に、スキャナパラメータが未知の場合を説明する。
主走査方向の補正はスキャナパラメータが既知の場合と基本的に同様であるが、適切なページ外形や罫線、文字行が抽出されなかった場合の処理が若干異なる。図３２において、スキャナパラメータが既知の場合はレンズ光軸の軌跡（図３２のＬ）を参照線２とみなしたが、未知の場合（図３６）は副走査方向に平行な中心線（図３６のＣ）を参照線２とみなす。この場合も図３０におけるＱとＱ’は一致する。ページ下方にページ外形／罫線／文字行が存在しない場合は、Ｃを参照線１とみなして同様に行う（ＰとＰ’が一致）。ページの上方／下方ともにページ外形／罫線／文字行が存在しない場合は、手がかり無しとして、そのページの補正は行わない。
次に、副走査方向歪み補正処理について説明する。ここで、図３７は副走査方向歪み補正処理の流れを概略的に示すフローチャートである。図３７に示すように、ステップＳ１０１においては、主走査方向歪み補正されたスキャン画像に基づいて文字認識処理に用いられる方法で文字の外接矩形Ａ（図３８参照）を抽出する。ここで、文字認識処理については周知の技術であるので、その説明は省略する。このように文字の外接矩形Ａを抽出するのは、この文字の外接矩形Ａの形状の変化を基に、副走査方向の歪みを補正するためである。ここでは、図３８に示すように、文字外接矩形Ａの横辺の長さｗ、縦辺の長さｈ、および、文字の中心Ｂを定義する。ここで、文字の中心Ｂは、外接矩形Ａの対角線の交点である。
続いて、図３９に示すように、スキャン画像をブック原稿４０のページ綴じ部４１に平行な方向の複数の短冊状の領域Ｃに分割した後（ステップＳ１０２）、各短冊領域Ｃについて、そこに含まれる文字外接矩形Ａに関する特徴量を求める（ステップＳ１０３）。ここで、ある短冊領域Ｃに含まれる文字外接矩形Ａとは、その中心が当該短冊領域Ｃに含まれるような外接矩形Ａのことである。例えば、図３９の短冊領域Ｃ１に含まれる外接矩形Ａは、図中の網掛けを施した矩形である。

さて、上記の文字外接矩形Ａに関する特徴量は、
（文字の横辺の長さ）／（文字の縦辺の長さ）＝ｗ／ｈ
を基に求められる。すなわち、各短冊領域Ｃについて、そこに含まれる全ての文字外接矩形Ａのｗ／ｈの値の平均値をその短冊領域Ｃの特徴量とするのである。
しかしながら、単に、ｗ／ｈの平均値を算出すると不適切な場合がある。文字の中には、句読点や数式中の記号のようにそのサイズが元々小さく、ｗ／ｈの値が不安定なものがある。また、矩形抽出の際に隣接する文字同士がくっついて抽出されてしまい、ｗが極端に大きい文字外接矩形Ａが生じる場合もある。特徴量を求める場合は、このような特殊な文字や極端にｗが大きいものを予め排除しておく必要がある。そこで、続くステップＳ１０４においては、予め閾値を定めておいて、ｈの値がその閾値より小さな文字外接矩形Ａを予め排除するとともに、ｗ／ｈの比率に関する閾値を予め定めておき、ｗ／ｈの値が其の閾値よりも大きい文字外接矩形Ａも予め排除する。例えば、図４０中に示した網掛けを施した文字外接矩形Ａが予め排除されることになる。
続くステップＳ１０５においては、前述したように極端な文字外接矩形Ａを排除した後に、各短冊領域Ｃ内の文字外接矩形Ａのｗ／ｈの平均値を求める。図４１に各短冊領域Ｃ内の外接矩形Ａのｗ／ｈの平均値の一例を示す。なお、図４１中の短冊領域Ｃ２は、ページ綴じ部を含む短冊領域である。
続いて、ページ綴じ部を含む短冊領域Ｃ２に文字外接矩形Ａが存在するか否かを判断する（ステップＳ１０６）。これは、図４０に示すように、一般にはページ綴じ部付近には文字外接矩形Ａが存在しない場合が多いからである。ページ綴じ部を含む短冊領域Ｃ２に文字外接矩形Ａが存在する場合は（ステップＳ１０６のＹ）、その文字外接矩形Ａを利用して特徴量は算出されているのでそのままステップＳ１０８に進む。
一方、ページ綴じ部を含む短冊領域Ｃ２に文字外接矩形Ａが存在しない場合は（ステップＳ１０６のＮ）、ステップＳ１０７に進み、ページ綴じ部を含む短冊領域Ｃ２の特徴量を求める。なお、ページ綴じ部を含む短冊領域Ｃ２の識別は、例えば、スキャン画像（例えば、モノクロ多値画像）の地肌濃度変化を各短冊領域Ｃごとに求め、短冊領域Ｃ内の最も濃度の薄い濃度値を求めることにより実現される。

図４２は地肌濃度変化を求めた一例を示したものであり、地肌濃度が最も濃い短冊領域が、ページ綴じ部を含む短冊領域Ｃ２であるとみなされる。
なお、スキャン画像がカラー多値画像の場合におけるページ綴じ部を含む短冊領域Ｃ２の識別は、例えばＲＧＢ成分の何れか一つの成分（例えばＧ成分）に着目し、そのＧ成分の地肌濃度を使用して識別するようにすれば良い。また、ＲＧＢを色変換して輝度成分と色差成分とに分け、輝度成分を使用してページ綴じ部を含む短冊領域Ｃ２を識別するようにしても良い。
ページ綴じ部を含む短冊領域Ｃ２の特徴量は、次のようにして定められる。ここでは、統計的特徴量の算出対象となり得る文字外接矩形Ａが存在し、かつ、ページ綴じ部を含む短冊領域Ｃ２の最近傍である短冊領域Ｃの特徴量に対して予め定めた定数値を乗じることにより算出された値が、ページ綴じ部を含む短冊領域Ｃ２における特徴量とみなされるものである。つまり、図４１に示した例では、ページ綴じ部を含む短冊領域Ｃ２の左右何れの短冊領域Ｃ３，Ｃ４にも文字外接矩形Ａが存在するので、どちらか適当な方の特徴量を選択し（ここでは右側の○印の方）、それに予め定めた定数値（ここでは０．５）を乗じて、これをページ綴じ部を含む短冊領域Ｃ２の特徴量としている。
続くステップＳ１０８においては、各短冊領域Ｃの特徴量に対する適切なフィルタリング処理、例えば、短冊領域Ｃの位置の変化方向（即ち副走査方向）に関する移動平均を求める処理を施すなどして、短冊領域Ｃの位置の変化に対する（副走査方向の）特徴量の変化がなだらかになるようにする。ただし、ここでもページ綴じ部付近は特別な処理が必要となる。なぜなら、副走査方向に関して長さが全て等しいウィンドウを用いてフィルタリングを行うと、ページ綴じ部付近の特徴量の変化の鋭さが失われてしまうからである。

ここで、長さが全て５であるウィンドウを用いて図４１に示した各短冊領域Ｃの特徴量に対してフィルタリング処理を施した結果を図４３に示す。図４３に示すように、長さが全て５であるウィンドウを用いてフィルタリング処理を施した場合には、ページ綴じ部付近の特徴量（ｗ／ｈ）の変化がなだらかになり過ぎてしまう。このような場合には、ページ綴じ部付近での適切な画像補正が不可能になってしまう。
そこで、本実施の形態においては、フィルタリング処理の際には、フィルタのウィンドウがページ綴じ部を含む短冊領域Ｃ２の両側の短冊領域Ｃ３，Ｃ４に跨がらないように、ページ綴じ部付近でウィンドウ長を調整する。ここで、図４４はページ綴じ部付近でウィンドウ長を調整してフィルタリング処理を施した結果を示すグラフである。図４４に示すように、ページ綴じ部付近でウィンドウ長を調整した場合には、ページ綴じ部付近の特徴量（ｗ／ｈ）の変化を適切に表現できるので、良好な画像補正が実現できる。
続くステップＳ１０９においては、各短冊領域Ｃの推定歪み量を算出する。各短冊領域Ｃの推定歪み量の算出手法は、以下に示す通りである。
まず、短冊領域の歪み量を算出するための基準となる短冊領域（基準短冊領域）を定める。ここでは、歪みが最も小さいと考えられる短冊領域Ｃ、例えば、特徴量（ｗ／ｈ）が最大である短冊領域Ｃを基準短冊領域とする。この処理は左右ページで共通に行っても良いが、左右独立に基準短冊領域を定めても構わない。図４４においては、左右独立に基準短冊領域を定めた例を示しており、○印を施した短冊領域Ｃが基準短冊領域であり、左側の基準特徴量を“Ｌｗ０／Ｌｈ０”、右側の基準特徴量を“Ｒｗ０／Ｒｈ０”、でそれぞれ示している。
次に、基準短冊領域の特徴量ｗ０／ｈ０をスキャン画像全体の基準特徴量とし、
（各短冊領域の特徴量）／（基準特徴量）＝（ｗ／ｈ）／（ｗ０／ｈ０）
の値を、各短冊領域の推定歪み量として算出する。
なお、ページ綴じ部から外れたページ外側付近の短冊領域Ｃを基準短冊領域とすると、ページ綴じ部付近とはフォントや活字のサイズの違いが大きくて、適切な推定歪み量が算出できない場合も考えられる。そのような画像を対象とする場合は、基準短冊領域の探索範囲を予めページ綴じ部付近に限定しておくのが有効である。これを実現するためには、参照線１または参照線２が曲線である部分の副走査方向の位置に対してのみ行うようにすれば良い。

最後に、スキャン画像に対して、短冊領域Ｃの短辺方向（副走査方向）の拡大処理を行い、ページ綴じ部付近の歪みを補正する（ステップＳ１１０）。その場合の拡大率（副走査方向の歪み補正率（伸張率））は、ステップＳ１０９において算出した推定歪み量の逆数、すなわち、
（基準特徴量）／（各短冊領域の特徴量）＝（ｗ０／ｈ０）／（ｗ／ｈ）
とする。ここで、上記の基準短冊領域を左右共通に定めた場合には、この拡大率も左右共通の基準特徴量によって算出し、独立に定めた場合には、左右それぞれの基準特徴量で独立に算出するようにする。図４５は、図４４に示した特徴量に基づいて算出した補正拡大率を示したものである。
ここに、副走査方向歪み補正率算出手段の機能および副走査方向歪み補正手段の機能が実行される。
なお、ここでも、ページ綴じ部付近から離れた短冊領域Ｃはもともと画像の歪みが無い領域である可能性が高いので、拡大処理の対象としない方が良い場合がある。拡大処理を行ったために、かえって不自然な歪みが生じてしまう可能性があるからである。これを防ぐために、参照線１または参照線２が曲線である部分の副走査方向の位置に対してのみ拡大すれば良い。即ち、参照線１または参照線２が直線の部部では、推定歪み量を“１”とする。
また、短冊領域Ｃ内において共通の補正拡大率を適用した場合、隣接する短冊領域Ｃの境界部での補正拡大率が不連続となるため、補正画像が不自然となる。そこで、隣接する短冊領域Ｃの境界部での補正拡大率が連続的に変化するように、補正拡大率を予め補正しておく。これは、例えば図４５に示す短冊領域Ｃの中央部分の補正拡大率を推定歪み量の逆数を示す点としてプロットし、これらの点を線分で結んで直線補完することで、他の部分の補正拡大率とすることで実現できる。以上の処理により、スキャン画像の副走査方向の補正拡大率が確定する。
以上の処理をスキャン画像の左右ページ毎に独立して実行する。また、ある見開き左右ページにおける補正拡大率についての情報を保持しておき、他の見開き左右ページの補正にこれを利用してもよい。例えば、連続する見開きページをスキャンする際、見開き左右ページを１セットと考えて、補正拡大率の算出は５セットに１回のみ行うものとし、あるセットで補正拡大率を算出したら、その後に続く４セットではその情報をそのまま流用するということを行っても良い。これにより、補正拡大率を算出するための時間が節約できるので、全体の処理速度が向上する。

以上、ステップＳ１０１〜Ｓ１１０の処理により副走査方向歪み補正処理（ステップＳ５５）が終了し、図６に示すスキャン画像の歪み補正処理が終了する。ここで、図４６は歪みを補正した画像を示す平面図である。以上の処理によれば、図８に示したようなページ綴じ部の近傍において生じていたスキャン画像の歪みが、図４６に示すように補正されることになる。
以上のように、スキャナパラメータが未知の場合は、まず主走査方向の補正が全ライン分終了した後に、文字外接矩形を用いて副走査方向の補正を行うのが基本である。

本発明のスキャナ部の構成を示す縦断面図である。 スキャナ部を搭載したデジタル複写機の上部部分を示す斜視図である。 スキャナ部の制御系の電気的な接続を示すブロック図である。 本発明の画像処理部の基本的な内部構成を示すブロック図である。 メイン制御部の電気的な接続を示すブロック図である。 スキャン画像の歪み補正処理の流れを概略的に示すフローチャートである。 ブック原稿を読み取る際の状態を示す斜視図である。 入力した画像の一例を示す平面図である。 スキャン画像で歪みが生じる部分を説明する図である。 図８に示した画像の綴じ部境界線左側の黒画素ヒストグラムを示す図である。 ページ外形／罫線／文字行の抽出処理の流れを概略的に示すフローチャートである。 上端にページ外形が存在するスキャン画像の一例を示す説明図である。 図１２に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムを示す図である。 長い罫線が存在するスキャン画像の一例を示す説明図である。 図１４に示したスキャン画像の綴じ部境界線左側の黒画素ヒストグラムを示す図である。 罫線連続性に基づく罫線か否かの判断を説明する図である。 罫線の座標検出を説明する図である。 左右ページから各１本ずつの罫線を選択する場合を示す説明図である。 左右ページをさらに上下部分に分け、その各４ブロックにおいて１本ずつの罫線を選択する場合を示す説明図である。 延長した最適罫線の座標値の決定を示す説明図である。 不適切な近似罫線の例を示す説明図である。 図８に示した画像の副走査方向の黒白反転数ヒストグラムを示す図である。 図８に示した画像の主走査方向の黒白反転数ヒストグラムを示す図である。 スキャン画像の文字外接矩形抽出処理および文字行抽出処理の結果の一例を示す図である。 最適横書き文字行の選択を示す説明図である。 縦書き文字行からの横書き文字行の抽出を示す説明図である。 縦書き文字行の外形の座標値の決定を示す説明図である。 画像歪み補正処理の流れを概略的に示すフローチャートである。 スキャナパラメータを説明する図である。 主走査方向の補正前後の基準線、参照線を示す説明図である。 整数位置に対応する画素値の線形補間を示す説明図である。 右ページ上方にページ外形／罫線／文字行が存在しない場合を示す説明図である。 湾曲したページの形状の近似を示す説明図である。 元画像と補正画像の対応する点の位置を示す図である。 整数位置に対応する画素値の線形補間を示す説明図である。 スキャナパラメータが既知の場合での主走査方向の補正前後の基準線、参照線を示す説明図である。 副走査方向歪み補正処理の流れを概略的に示すフローチャートである。 スキャン画像に基づく文字の外接矩形を示す説明図である。 スキャン画像をブック原稿のページ綴じ部に平行な方向の複数の短冊状の領域に分割した状態を示す図である。 排除する文字外接矩形を示す説明図である。 各短冊領域内の外接矩形の特徴量の平均値の一例を示すグラフ図である。 各短冊領域ごとの地肌濃度変化の一例を示すグラフ図である。 図４１に示した各短冊領域の特徴量に対してフィルタリング処理を施した結果を示すグラフ図である。 ページ綴じ部付近でウィンドウ長を調整してフィルタリング処理を施した結果を示すグラフ図である。 図４４に示した特徴量に基づいて算出した補正拡大率を示すグラフ図である。 歪みを補正した画像を示す平面図である。 ブック原稿のページ綴じ部がコンタクトガラスから浮き上がった状態を示す正面図である。

符号の説明

１ スキャナ部
２ コンタクトガラス
１６ 画像形成装置
２０ 画像処理部
２９ 画像歪み補正部
４０ ブック原稿
４１ ページ綴じ部

Claims (16)

1. 主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取って得られたスキャン画像を主走査方向および副走査方向に伸張して歪み補正を行う画像歪み補正装置において、
   前記スキャン画像から歪み補正を行うための参照線を抽出する参照線抽出手段と、
   前記抽出した参照線の形状に基づいて前記スキャン画像の主走査方向の歪みを補正する主走査方向歪み補正手段と、を備え、
   前記参照線抽出手段は、前記スキャン画像中から、副走査方向に延びる罫線、主走査方向に垂直な文字行の各文字の位置を連結した線、主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線のいずれかを、前記スキャン画像中の主走査方向における上辺近傍及び下辺近傍からそれぞれ１本づつ参照線として抽出し、
   前記主走査方向歪み補正手段は、前記参照線の曲線部分が該参照線の直線部分を延長した線に一致するよう、補正前後の画像の対応点を求めて主走査方向の歪みを補正することを特徴とする画像歪み補正装置。
2. 前記参照線抽出手段は、更にスキャン画像のページ外形の抽出処理を行い、前記主走査方向歪み補正手段による歪み補正に用いる参照線を、前記ページ外形、罫線、主走査方向に垂直な文字行の各文字の位置を連結した線または主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線、の順位で参照線を抽出することを特徴とする請求項１記載の画像歪み補正装置。
3. 前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が既知の場合は、この位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする請求項１記載の画像歪み補正装置。
4. 前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が未知の場合は、スキャン画像の主走査方向の中心位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする請求項１記載の画像歪み補正装置。
5. 前記主走査方向歪み補正手段は、参照線の曲線部分に対応する副走査方向の位置でのみ主走査方向の歪み補正を行うことを特徴とする請求項１乃至４のいずれか１項記載の画像歪み補正装置。
6. 前記主走査方向歪み補正手段は、前記スキャン画像のそれぞれ左右のページ毎に主走査方向の歪み補正を行うことを特徴とする請求項１乃至５のいずれか１項記載の画像歪み補正装置。
7. 前記主走査方向歪み補正手段は、前記参照線抽出手段が抽出した参照線についての情報を保持し、他のページの補正に前記参照線についての情報を用いて主走査方向の歪み補正を行うことを特徴とする請求項１乃至６のいずれか１項記載の画像歪み補正装置。
8. 主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取る画像読取手段と、該画像読取手段が読み取ったスキャン画像の補正を行う請求項１乃至７のいずれか１項記載の画像歪み補正装置とを備えたことを特徴とする画像読取装置。
9. 主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取る画像読取手段と、該画像読取手段が読み取ったスキャン画像の補正を行う請求項１乃至７のいずれか１項記載の画像歪み補正装置と、該画像歪み補正装置が補正した画像データに基づいた画像を用紙上に印刷する画像印刷装置とを備えたことを特徴とする画像形成装置。
10. 主走査方向に対してページ綴じ部がほぼ平行となるように、スキャン面に載置した書籍原稿画像を読み取って得られたスキャン画像を主走査方向に伸張して歪み補正をコンピュータに実行させるプログラムであって、
    コンピュータを前記スキャン画像中から、副走査方向に延びる罫線、主走査方向に垂直な文字行の各文字の位置を連結した線、主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線のいずれかを、前記スキャン画像中の主走査方向における上辺近傍及び下辺近傍からそれぞれ１本づつ参照線として抽出する参照線抽出手段、前記参照線の曲線部分が該参照線の直線部分を延長した線に一致するよう、補正前後の画像の対応点を求めて主走査方向の歪みを補正する主走査方向歪み補正手段として機能させることを特徴とするプログラム。
11. 前記参照線抽出手段は、更にスキャン画像のページ外形の抽出処理を行い、前記主走査方向歪み補正手段による歪み補正に用いる参照線を、前記ページ外形、罫線、主走査方向に垂直な文字行の各文字の位置を連結した線または主走査方向に平行な文字行の先頭もしくは末尾の文字の位置を連結した線、の順位で参照線を抽出することを特徴とする請求項１０記載のプログラム。
12. 前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が既知の場合は、この位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする請求項１０記載のプログラム。
13. 前記参照線抽出手段は、参照線となるべき対象が存在せず、スキャナレンズの光軸の主走査方向の位置が未知の場合は、スキャン画像の主走査方向の中心位置を通る副走査方向に平行な直線を参照線として抽出することを特徴とする請求項１０記載のプログラム。
14. 前記主走査方向歪み補正手段は、参照線の曲線部分に対応する副走査方向の位置でのみ主走査方向の歪み補正を行うことを特徴とする請求項１０乃至１３のいずれか１項記載のプログラム。
15. 前記主走査方向歪み補正手段は、前記スキャン画像のそれぞれ左右のページ毎に主走査方向の歪み補正を行うことを特徴とする請求項１０乃至１４のいずれか１項記載のプログラム。
16. 前記主走査方向歪み補正手段は、前記参照線抽出手段が抽出した参照線についての情報を保持し、他のページの補正に前記参照線についての情報を用いて主走査方向の歪み補正を行うことを特徴とする請求項１０乃至１５のいずれか１項記載のプログラム。

Images