JP5703777B2 - 画像処理装置、画素補間方法およびプログラム - Google Patents

Description

本発明は、画像中の画素値が欠落した画素や不正な画素値を有する画素を補間するために画素補間処理を行う装置、その装置により行われる画素補間方法、その方法を実現するためのコンピュータ可読なプログラムに関する。

光学的な手段を用いて画像を読み取るスキャナ装置には、ＣＩＳ(Contact Image Sensor)を採用する装置と、ＣＣＤ(Charge Coupled Device)を採用する装置とがある。ＣＩＳを採用する装置は、原稿を読み取り面に密着しなければならないことから、立体的な原稿を読み取ることができないが、ＣＣＤを採用する装置と比較して、本体の厚さが薄く、価格も安く、読み取った画像に出やすいノイズを低減する技術が向上してきていることから、近年では広く使用されるようになってきている。例えば、ＣＩＳは、１パス両面読取機能を有する画像読取装置において、裏面を読み取るために用いられている。

このＣＩＳは、光源にＲＧＢの発光ダイオード(LED)を用い、ＲＧＢの光をそれぞれ高速に切り換えて、原稿からの光を、レンズを通して撮像素子(CMOSイメージセンサ)へ入力し、ＣＭＯＳイメージセンサで、その入力された原稿からの光を１画素ずつ電圧値へ変換し、出力するものである。

このＣＩＳを採用したスキャナ装置は、原稿をローラでセンサに密着させて１ラインずつ読み取る密着イメージセンサ方式を採用する。ＣＩＳは、１本の長いセンサを作製することが難しいことから、短いセンサを、その長さ方向へ複数並べるように配置して読み取り部を構成する。このため、センサ間に一定のギャップが生じ、このギャップにおいては画像信号を取得することができない。その結果、画像信号の欠落が生じる。

また、ＣＩＳを採用した装置に限らず、スキャナ装置では、画像信号を読み取るセンサの不具合や、原稿がセットされるコンタクトガラスの汚れ等の光路の途中に遮蔽物が存在することによっても、画像信号が欠落したり、読み取られた画像信号が不正な値を示したりすることがある。

これでは、読み取られた画像に欠落した画素や不正な画素値を有する画素が存在することとなり、画質が低下してしまうという問題があった。この問題に鑑み、従来において欠落した画素の画素値や不正な画素値を、その画素の周囲にある画素の画素値を用いて推定し、その推定した値に置き換えて補間する技術が知られている。

例えば、対象画素の周囲にある画素の画素値を用いて線形補間する方法や、２次以上の関数を用いて多項式補間あるいはスプライン補間する方法等がある。線形補間による補間方法は、濃度変化の少ない部分の補間には適しているが、網点領域のように濃度変化の激しい部分の補間には適していない。

多項式補間やスプライン補間による内挿法は、デジタル写真等の、画像を標本化する際のサンプリング周期が画像のパターンの変動周期に対して十分に短いものに対し、高い精度で画素値を推定することができる。しかしながら、網点画像については、網点の線数に比較して画像の解像度が十分でないことから、サンプリング周期が画像の変動周期に対して十分ではなく、この内挿法では、元のパターンを正しく再現することができない場合が多い。

そこで、内挿法の問題点を解決するべく、パターンマッチングを用いる手法が提案されている。この手法では、内挿法では再現することができない高い周波数成分を、補間画素の近隣した位置にある類似パターンを用いて再現することができる。

しかしながら、一般的にパターンマッチングでは、内挿法と比較して広い範囲の情報を用いることから、基準とするパターンに対する最適解が求まるが、それが補間画素に対して最適であるとは限らない。これは、パターンマッチングで類似パターンを探索する際に、全体として少しずつ異なるパターンと、大部分が一致するのであるが、一部大きく異なるパターンとの区別を行わないために生じる問題である。

特に、高数線の網点領域のように、特定の画素に情報が偏在しているケースでは、類似パターンの選択仕方が補間結果に大きな影響を与えることになる。また、濃度の低い網点領域では相対的に背景に属する画素の占める割合が高いため、網点領域ではない背景領域に類似パターンを検出してしまうか、その反対に検出されないことがある。

したがって、補間を行う際には補間画素の属する領域の特性に応じて補間手法を使い分ける必要がある。そこで、補間画素の画素値を正確に推定するため、補間画素の位置が網点領域内であればパターンマッチングを用いて補間画素を含むパターンと類似するパターンを画像中から探索し、最も類似するパターン内で補間画素に対応する画素の画素値を、補間画素の画素値として決定する装置が提案されている（特許文献１参照）。

この装置は、画像読取センサによって読み取られた画像データに基づいて、コンタクトイメージセンサの連結部分に対応する補間対象画素位置が網点領域内であるか非網点領域内であるかを判別し、その補間対象画素位置が非網点領域である場合には、線形補間により補間対象画素の画素データを生成し、補間対象画素位置に挿入する。一方、網点領域である場合には、パターンマッチングにより補間対象画素の画素データを生成し、補間対象画素位置に挿入する。

このとき、補間対象画素位置付近の画像領域内に、その補間対象画素を含む１つの基準ブロックと、その基準ブロックと同じ大きさでかつ補間対象画素を含まない複数の参照ブロックとを設定し、その基準ブロック内の画素データと各参照ブロック内の画素データとに基づいて、基準ブロックと各参照ブロックとの間の相関値をそれぞれ算出し、基準ブロックと最も相関が高い参照ブロック内の画素データのうち、基準ブロック内の補間対象画素と対応する画素の画素データを、補間対象画素の画素データとして決定している。

しかしながら、この補間手法では、画素値がなだらかに変化する画像については高い精度で補間することができるものの、画素値が急激に変化する画像については補間精度が低くなるという問題があった。

また、一般的にパターンマッチングでは、広い範囲を参照して類似パターンを探索することから、画像のコンテンツに起因する網点の濃度変化による影響を受けやすいという問題もある。これは、類似パターンの探索範囲内に網点の濃度変化が存在すると、補間画素に近隣した範囲とは異なる網点の濃度域から類似パターンを検出してしまい、目的とする値からずれた画素値を取得してしまう危険性があるためである。

そこで、このようなパターンマッチングを用いて補間画素の画素値を求める際、画素値が急激に変化する画像についても高精度な画素補間を実現することができ、また、画像のコンテンツに起因する網点の濃度変化による影響も受けることなく、高精度な画素補間を実現することができる装置や方法の提供が望まれていた。

本発明は、上記課題に鑑み、補間画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、この判定結果に基づいて、第一補間方法としてのパターンマッチング法を用いて補間画素の画素値を生成する第一画素値生成部と、第一補間方法とは異なる第二補間方法を用いて補間画素の画素値を生成する第二画素値生成部のいずれを用いて画素値を生成するかを判断する制御部と、その判断により決定された画素値生成部により生成した画素値を補間画素に挿入する画素値挿入部とを含む構成を採用する。

そして、周期性判定部が、その補間画素を含む画像領域内の各画素の画素値を用いて、画素値の変動周期を計算する周期計算部を含み、第一画素値生成部が、周期計算部により計算された変動周期を用いて補間画素を含む基本パターンを生成し、該基本パターンの中心を支点として１以上の異なる角度で回転させて１以上の回転パターンを生成し、この基本パターンと１以上の回転パターンとから構成される基準パターンを用いて画像内の類似するパターンを探索し、探索した該類似するパターンから補間画素の画素値を生成する。

このように、補間画素が属する領域の特性に合わせて補間方法を切り替えることにより、補間画素ごとにその画素値を推定するのに最適な手法を用いることができ、また、基本パターンおよび１以上の回転パターンといったテンプレートとなる複数のパターンを用いて類似するパターンを探索することで、画素値が急激に変化する画像についても、画像のコンテンツに起因する網点の濃度変化による影響を受けることなく、高精度な画素補間を実現することができる。

第二補間方法としては、例えば、内挿法を挙げることができる。また、第一画素値生成部が、パターンマッチング法の二次元テンプレートマッチングを採用する場合、第二画素値生成部が、一次元テンプレートマッチングを採用することが可能である。

回転パターンは、基本パターンを４５度単位で回転させたパターン、もしくは９０度単位で回転させたパターン、または１８０度単位で回転させたパターンのいずれかを選択して生成される。

上記の周期性判定部は、補間画素を中心として両側に設定される領域の各々が周期領域であるかを判定する部分領域周期性判定部を含むことができる。この部分領域周期性判定部は、補間画素の左側に設定される部分領域が周期領域であるか、補間画素の右側に設定される部分領域が周期領域であるかを判定し、パターンマッチング法を採用する第一画素値生成部は、例えば、いずれか一方のみが周期領域と判定されれば、他方は非周期領域であるから、パターンマッチング法を用いる補間方法において、非周期領域は探索範囲から除き、探索範囲を狭めることにより、類似するパターンの誤検出を防止することができる。したがって、この第一画素値生成部は、部分領域周期性判定部により判定された判定結果を用いて探索範囲を設定する。

１ラインのような広い範囲で見ると周期性があっても、補間画素近傍の狭い範囲で見ると、周期性がないケースが存在し、このようなケースでは判断基準で周期性があると誤判定されてしまう。例えば、網点領域に近傍する非網点領域や、２つの網点領域に挟まれた非網点領域は、誤判定を受けやすい。誤判定されてしまうと、網点領域の外側にある平坦な領域を網点領域として補間してしまい、補間結果として不正な画素値が出現してしまう。そこで、本発明では、周期領域であると判定された場合に補間画素に近隣して１以上の参照領域を設定し、その１以上の参照領域の画像特徴に基づき、その補間画素が周期領域と非周期領域とのいずれに存在するかを判定する境界判定部をさらに備えることができる。

この場合、制御部は、周期性判定部による判定結果に加えて、この境界判定部による判定結果を用いて、第一画素値生成部または第二画素値生成部のいずれを用いて画素値を生成するかを判定する。

補間精度を高めるには、生成された画素値により補間した補間結果が妥当であるかを検証することが望ましい。このため、本発明では、この検証を行うための妥当性検証部をさらに含む構成を採用することができる。この妥当性検証部は、第一画素値生成部により生成された画素値による補間結果の妥当性を判断するが、妥当でないと判断した場合、制御部が、第一画素値生成部に代えて第二画素値生成部により画素値を生成させるように切り替えることができる。

この妥当性検証部は、第一画素値生成部が類似パターンの探索に使用した基本パターンまたは回転パターンと、補間画素を含む基本パターンまたは回転パターンとの相違度が閾値未満であるか、または類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。

また、本発明では、さらに補間精度を高めるために、第一補間方法および第二補間方法とは異なる第三補間方法を用いて補間画素の画素値を生成する第三画素値生成部をさらに含むことができる。この場合、妥当性検証部は、第一画素値生成部により画素値を生成した場合、その生成された画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、制御部が、第一画素値生成部に代えて第三画素値生成部により画素値を生成させる。そして、再び妥当性検証部が、第三画素値生成部により生成された画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、制御部が、第三画素値生成部に代えて第二画素値生成部により画素値を生成させる。

また、制御部は、周期性判定部と境界判定部との少なくとも１つから得られた判定結果に基づき、第一画素値生成部と第二画素値生成部と第三画素値生成部のいずれを用いて画素値を生成するかを判断することができる。判断された画素値生成部は自己が採用する補間方法を用いて画素値を生成し、それを画素値挿入部が補間画素に与えて補間する。その後、上記のようにして妥当性検証部が妥当性を判断し、妥当でなければ別の画素値生成部に画素値を生成させることにより、最適な画素値を与えて高精度な画素補間を実現することができる。

本発明では、上記の各部を備える画像処理装置を提供することができるが、そのほか、この画像処理装置により補間画素を補間する方法も提供することができる。この方法は、周期性判定部が行う、周期領域であるかを判定する周期性判定ステップを含み、この周期性判定ステップは、その補間画素を含む画像領域内の各画素の画素値を用いて、画素値の変動周期を計算する周期計算ステップを含む。また、制御部が行う、この判定結果に基づき、第一画素値生成部と第二画素値生成部のいずれを用いて画素値を生成するかを判断する判断ステップを含む。

この方法は、判断ステップで第一画素値生成部を用いて画素値を生成すると判断された場合に、第一画素値生成部が行う、周期計算ステップで計算された変動周期を用いて補間画素を含む基本パターンを生成し、該基本パターンの中心を支点として１以上の異なる角度で回転させて１以上の回転パターンを生成し、この基本パターンと１以上の回転パターンとから構成される基準パターンを用いて画像内の類似するパターンを探索し、探索した該類似するパターンから補間画素の画素値を生成するステップと、画素値挿入部が行う、この判断ステップで判断された第一画素値生成部または第二画素値生成部が生成した画素値を補間画素に挿入する挿入ステップとを含む。

本発明では、この画素補間方法を実現するためのコンピュータ可読なプログラムを提供することもでき、さらには、このプログラムをＣＤ−ＲＯＭやＳＤカード等の記録媒体に格納して提供することも可能である。

本発明の画像処理装置のハードウェア構成を例示した図。 画像処理装置の第１実施形態を示した機能ブロック図。 補間画素を含む画像を例示した図。 判定領域と、判定領域における水平方向の画素の位置と画素値との関係を例示した図。 周期領域および非周期領域の例を示した図。 画素の位置と画素値との関係を示した図。 代表周期を示す画像とテンプレートとを例示した図。 画素の位置と画素値との関係を例示した図。 図２に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 図９に示すステップ９１０で行われる処理の流れを示したフローチャート図。 部分領域の周期性判定に用いる判定領域を例示した図。 図１０に示すステップ１０１０、１０２０、１０２５で行われる周期性の判定の詳細な処理を示したフローチャート図。 図９に示すステップ９２５で行われる処理の流れを示したフローチャート図。 画像処理装置の第２実施形態を示した機能ブロック図。 図１４に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 画像処理装置の第３実施形態を示した機能ブロック図。 図１６に示す画像処理装置により実行される画素補間処理の流れを示したフローチャート図。 画像処理装置の第４実施形態を示した機能ブロック図。 図１８に示す画像処理装置により実行される画像補間処理の流れを示したフローチャート図。 画像処理装置の第５実施形態を示した機能ブロック図。 図２０に示す画像処理装置により実行される画像補間処理の流れを示したフローチャート図。

本発明の画像処理装置は、画像を読み取るスキャナ装置とケーブルで直接、またはネットワークを介して接続される。スキャナ装置は、これに限られるものではないが、ここではＣＩＳを採用したスキャナ装置とされる。このスキャナ装置により読み取られた画像には、センサ間のギャップにより欠落した画素値や不正な画素値を有する画素が含まれることから、本発明の画像処理装置は、その画素の画素値を生成し、その生成した画素値でその画素を補間する処理を行う。

ここで、画素値は、１画素を８ビットで表すグレースケール画像では、黒が０で、白が２５５の値をとり、１画素をＲＧＢの各色８ビットで表すカラー画像では、赤、緑、青の各色につき０〜２５５の値をとり、すべてが０のとき黒で、すべてが２５５のとき白を表すものである。

画像処理装置は、画素を補間する処理を実行するために、ＰＣ、ワークステーション、サーバ、ＭＦＰ等の、この処理を実行するためのプログラムが記録された記憶装置と、このプログラムを読み出し実行するプロセッサと、スキャナ装置やネットワークと接続するためのインタフェースとを含んで構成される。

具体的には、図１に示すように、例えば、プロセッサとしてマイクロプロセッサユニット(MPU）１１を備え、記憶装置として、ＢＩＯＳ(Basic Input Output System)やファームウェアを格納する不揮発性メモリであるＲＯＭ(Read Only Memory)１２と、ＭＰＵ１１によるプログラム処理を可能とする実行記憶空間を提供するＲＡＭ(Random Access Memory)１３とを備える構成とすることができる。

ＭＰＵ１１は、内部バスを介してインタフェースの１つである記憶制御用インタフェース１４に接続され、その記憶制御用インタフェース１４に接続される記憶装置の１つであるハードディスク１５へアクセスし、各種アプリケーションやデータの読み出し、実行し、書き込みを行う。この記憶制御用インタフェース１４としては、ＩＤＥ(Integrated Device Electronics)、ＡＴＡ(AT Attachment)、シリアルＡＴＡ、ＵｌｔｒａＡＴＡ等の規格により、ハードディスク１５の入出力を管理するインタフェースを使用することができる。ＭＰＵ１１は、内部バスを介してＵＳＢ(Universal Serial Bus)、ＩＥＥＥ１３９４等のシリアルまたはパラレル・インタフェース１６を制御し、キーボード、マウス、プリンタといった入出力装置１７と通信し、ユーザからの入力を受け付けることができる。

また、この画像処理装置１０は、ＭＰＵ１１からの指令に応答して、ビデオ信号を処理し、表示装置１８へと表示させるＶＲＡＭ(Video RAM)１９、グラフィックチップ２０と、ネットワークを介して他の機器と通信するために該ネットワークと接続されるネットワークＩ／Ｆ２１とを含んで構成することができる。ＶＲＡＭ１９は、表示装置１８に対するビデオ表示のための記憶装置として使用されるＲＡＭであり、グラフィックチップ２０は、画像データ処理を行う集積回路である。

画像処理装置１０は、ＲＯＭ１２やハードディスク１５、その他の図示しないＮＶ−ＲＡＭやＳＤカード等の記憶装置に格納されたプログラムをＭＰＵ１１が読み出し、ＲＡＭ１３のメモリ領域に展開することにより、適切なＯＳ(Operating System)の下、後述する各処理を実現し、そのＭＰＵ１１を、各処理を実現するための各部として構成することができる。ＯＳとしては、Ｗｉｎｄｏｗｓ（登録商標）、ＵＮＩＸ（登録商標）、ＬＩＮＵＸ（登録商標）等を採用することができる。なお、画像処理装置１０は、上述したＰＣ等に限られるものではなく、特定の用途向けに複数機能の回路を１つにまとめたＡＳＩＣ(Application Specific Integrated Circuit)として構成することも可能である。

図２は、本発明の画像処理装置の第１実施形態を示した機能ブロック図である。画像処理装置１０は、上述したように、ＲＯＭ１２やハードディスク１５等の記憶装置に記憶されているプログラムを、プロセッサであるＭＰＵ１１が読み出し実行することにより各機能を実現することができる。すなわち、画像処理装置１０は、周期性判定部３０と、第一画素値生成部３１と、第二画素値生成部３２と、制御部３３と、画素値挿入部３４とを含む構成とされる。図２には図示していないが、補間画素を設定する画素設定部をさらに備えることができる。

画像処理装置１０は、まず、上記の画素設定部により、画素値を挿入し補間する対象の補間画素を、処理対象となる画像内で検出する。補間画素は、予めユーザが位置を検出しておくこともできるし、装置が逐次その位置を検出することも可能である。位置は、例えば、向かって左下隅の座標を基準座標（０，０）として主走査方向と同じ右方向への画素数ａと、上方向への画素数ｂとを用い、座標（ａ，ｂ）として表すことができる。

画像処理装置１０が補間画素を検出する場合の検出方法としては、例えば、予め指定された明るさや色の画素であるかどうかを、１画素ずつ画素値を調べて補間画素を検出する方法や、既知の画像を読み取った際の正解値からのずれ量の大きさを評価することにより補間画素を検出する方法や、水平または鉛直方向の周期性が不連続となる位置を検出し、その位置にある画素を補間画素として検出する方法を挙げることができる。この補間画素は、孤立した点であってもよいし、点が連続した線分であってもよい。この線分であってもよいとしているのは、ギャップは、撮像素子が移動する方向である副走査方向へ連続して形成され、点が連続した線分として構成されることもあるからである。

補間画素を含む画像としては、図３に示す黒色のほぼ同じ大きさの点がほぼ規則正しく配列する網点画像の中に、縦すじが発生したものが挙げられる。この縦すじは、その画像の中央部を横断するように、点が欠落している部分と点が周囲より大きくなっている部分とから構成されている。このような画像の場合、点は一定の間隔で配列していることから周期性を有し、その縦すじの部分において周期性が不連続となる。このため、水平方向の周期性が不連続となる位置を検出することで、補間画素を検出することができる。

周期性判定部３０は、補間画素を含むように所定の大きさの判定領域を定め、その判定領域内で画素値の変動に周期性があるか否かを判定する。判定領域は、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることもできるし、補間画素を含む任意の高さをもった矩形領域とすることもできる。

判定領域のサイズは、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。装置が動的に決定する場合、予め指定された領域サイズで一度補間処理を行い、それより小さいサイズでも十分に補間処理を行うことができるようであれば、一定サイズで小さくしていくことができ、反対に補間処理を行うことができない場合には、一定サイズで大きくしていくことができる。

画像の１ラインを抜き出し、判定領域としたものを図４に例示する。図４（ａ）では、黒色で示される網点を表す画素と、白色で示される背景を表す画素とが一定間隔で配置されていて、その間にグラデーションを与えるように画素値が異なるグレーの画素が配置されている。また、この図４（ａ）には、上記のギャップによって欠落した画素４０が示されている。

この判定領域における水平方向の画素の位置と、画素値との関係を例示した図を、図４（ｂ）に示す。画素値はその画素において一定であることから、とびとびの値を示すが、これを滑らかにつなぐと、一定の周期で画素値が増減する波形で表すことができる。このため、この判定領域では画素値の変動に周期性があることを検出することができる。

このような周期性がある判定領域を例示すると、図５（ａ）に示す網点や斜線で表される網点領域を挙げることができる。一方、周期性のない判定領域を例示すると、図５（ｂ）に示す文字や規則的に配列していない点から構成される不連続領域、図５（ｃ）に示す１色やグラデーションで表される背景等の平坦領域を挙げることができる。

なお、網点で表される網点画像は、実際には点が任意のスクリーン角をもって直線状に配置されることから、点が水平方向に一定の間隔で配列したものとはなっておらず、斜めに一定の間隔で配列したものとなっている。このため、図４（ｂ）に示すような同じ振幅の波形にはならないものの、振幅が異なる一定間隔でピークを有する波形になることから、周期性があることを判定することができる。

図３や図４のように図に示すことで、周期性の有無を容易に判断することができるが、実際には図を作成し、それを参照して判断することはできないことから、例えば、補間画素を含む所定のサイズの領域である判定領域を設定し、その判定領域内において変動周期を計算し、計算された変動周期を用いて判定領域の周期性の有無を判定することにより、周期性を判定することができる。このため、周期性判定部３０は、変動周期を計算するための周期計算部３０ａを含んで構成される。

周期性を判定するために変動周期を求める必要があるが、判定領域内の画素値の変動周期が常に一定とは限らない。そこで、周期性を判定するために用いる変動周期として代表周期を採用する。この代表周期を求める一例として、判定領域内において画素値が極大となる位置（ピーク位置）、具体的には図４（ｂ）に示す波形の正方向のピークを示す画素の位置を記録していき、あるピーク位置から次のピーク位置までの距離のヒストグラムを判定領域全体にわたって作成した上で、度数の最も多い階級に対する値である最頻値となる距離を代表周期として採用することができる。この代表周期は、画素数で表すことができ、図４に示す実施形態では、ほぼ６画素ごとにピークとなり、ピーク間距離が６画素となることが最も多いことから、代表周期は６画素とされる。なお、代表周期にある程度の誤差を許容する観点から、代表周期±１の距離を用いることも可能である。

このとき、極大となる位置ではなく、極小となる位置（図４（ｂ）に示す波形の負方向のピークを示す画素の位置）を用いて求めることも可能である。代表周期を求める際に画素値の変動の周期性を利用するとノイズ耐性が低いため、画素値の自己相関を求め、その変動の周期性を利用すればノイズ耐性が上昇する。このため、これらの極大となる位置および極小となる位置を用いて求める場合、自己相関を用いることが望ましい。ここで、ノイズ耐性が上昇する理由は、ノイズが多くの場合に画素値に乗るため、画素値を直接利用する場合よりも、複数の画素値を用いて導出された自己相関という形で利用した場合のほうが、ノイズによる影響を低く抑えることができるからである。

自己相関とは、ある信号とその信号に所定の位相ずれを与えた信号との相関のことである。この場合、判定領域内において自己相関を求めていき、画素値に代えて自己相関の値を用いてヒストグラムを作成し、最頻値を代表周期として採用することができる。この自己相関の値としては、相関係数を用いることもできるし、共分散を用い、より計算を簡便にすることも可能である。

ここで、共分散Ｓは、２つの画素値の共変動の大きさを示す指標で、比較するパターンの一方のｉ番目の画素値をｘ_ｉとし、他方のパターンのｉ番目の画素値をｙ_ｉとし、一方のパターンの画素値の平均値をｘ_ｍとし、他方のパターンの画素値の平均値をｙ_ｍとし、パターンの画素数をｎとすると、以下の式１により求めることができる。

相関係数Ｒは、２つの確率変数の間の類似性の度合いを示す指標で、一方のパターンの標準偏差をσ_ｘとし、他方のパターンの標準偏差をσ_ｙとすると、以下の式２により求めることができる。

信頼度Ｃ_ｖは、例えば、以下の式３を用いて求めることができる。式３中、Ｔは、上記で求めた代表周期で、Ｆ_ｒは、上記ヒストグラムにおける代表周期Ｔに対応する距離の度数で、Ｎは、判定領域の画素数である。なお、Ｆ_ｒは、代表周期Ｔの度数だけでなく、代表周期を推定する際の誤差を許容するためにＴ±１の度数の合計を用いてもよい。この式３は、代表周期と同じピーク位置間の距離を有するものが、判定領域全体のどの程度の割合を占めているかを信頼度として定義することを意味している。

この信頼度が閾値よりも高い場合に周期性があると判断し、閾値以下である場合には周期性なしと判断するが、この閾値は、予めユーザによって設定することができ、また、動的に決定することも可能である。予めユーザによって設定する場合、シミュレーションや実験を行い、周期性の有無を判断するのに好適な信頼度を求めることにより閾値を決定し、その閾値を設定することができる。動的に決定する場合は、例えば、実際に周期性を有する網点領域と周期性を有しない不連続領域または平坦領域について信頼度を求め、その中間値を閾値として決定することができる。

第一画素値生成部３１は、補間方法として、パターンマッチング法を用いて、補間画像の画素値を生成する。パターンマッチング法の具体例として、テンプレートマッチングを用いることができる。テンプレートマッチングは、画像の中から指定した部分の画像であるテンプレートを用い、そのテンプレートと似ている位置を探すもので、テンプレートと画像の中のパターン間の一致度を求めることにより行うことができる。

本発明は、このテンプレートを用いて最も類似するパターンを探索するが、テンプレートとして複数のパターンを用いて探索する。これら複数のパターンは、テンプレートのサイズを基準パターンのサイズとして決定し、基準パターンのサイズの領域を切り出し、これを基本パターンとして設定し、この基本パターンの中心を支点として１以上の異なる角度で回転させて１以上の回転パターンを生成することにより、１つの基本パターンと１以上の回転パターンとして生成される。このように複数のパターンを用いて探索することにより、画素値が急激に変化する画像についても、画像のコンテンツに起因する網点の濃度変化による影響を受けることなく、高精度な画素補間を実現することができる。

ここで、これらの複数のパターンを用いて探索することで、高精度で探索することができる理由について簡単に説明する。主走査方向に並ぶ画素の位置と画素値との関係を示す図６を参照して説明する。例えば、主走査方向に連続して並ぶ４つの画素５０〜５３からなるパターンＡを用いて、類似するパターンをこの図６の中から探そうとしても、連続して並ぶ４つの画素の画素値すべてが、パターンＡを構成する画素の対応する画素値すべてに近似したものはないため、このパターンＡだけでは、この中から適切なパターンを見つけることはできない。

しかしながら、このパターンＡを１８０度回転させた回転パターンを用いると、回転パターンは、画素５３、画素５２、画素５１、画素５０の順に配列することになり、画素５３の画素値と近似した画素値を有する画素５４、次の画素５２の画素値と近似した画素値を有する画素５５、さらに次の画素５１の画素値と近似した画素値を有する画素５６、最後の画素５０の画素値と近似した画素値を有する画素５７という連続して並ぶ４つの画素５４〜５７から構成されるパターンＢを検出することができる。このため、回転パターンを用いることにより類似パターンの検出確率が上昇し、その結果、探索領域を狭く設定しても、従来と同等もしくはそれ以上の検出性能を確保することができ、高精度での画素補間を実現することができる。

この機能を実現するために第一画素値生成部３１は、最初に、基準パターンのサイズを決定する。基準パターンの幅は、上記のようにして求めた代表周期を基準として設定する。基準パターンの幅は、代表周期の幅と一致させることができるが、これに限られるものではなく、代表周期の幅の画素数より左右に１画素ずつ大きめにしたり、左右に１画素ずつ小さめとする等、やや大きめまたはやや小さめにすることができる。次に、テンプレートの高さを設定するが、幅と同様に、代表周期の高さと一致させることができる。この高さも、これに限られるものではなく、やや大きめあるいは小さめとすることができる。上記では１画素ずつ大きめあるいは小さめと例示したが、２画素以上であってもよい。

補間画素が網点領域に属する場合には、一辺が概ね代表周期である正方形の領域として設定することが望ましい。これは、代表周期を示す画像を、例えば幅６画素で、高さ１画素の図７（ａ）に示すようなものとすると、幅６画素、高さ６画素の正方形の領域とすることで、図７（ｂ）に示すように網点１つ分を表現することができるからである。このように網点１つ分の領域としてテンプレートのサイズを決定することで、類似するパターンを探索する際に、網点１つ分のみの情報を用い、補間画素を含む網点に最適な類似するパターンを取得することができる。

また、代表周期が非常に小さい場合、例えば３画素のような場合には、テンプレートのサイズを少し大きめ、例えば、その３画素の左右に１画素ずつ追加した５画素にすることができる。これは、代表周期が非常に小さい場合、一致度の評価に用いる画素数が少なくなってしまい、類似するパターンの検出の安定性が低下してしまうからである。

第一画素値生成部３１は、上記のようにして決定した基準パターンのサイズに基づき、基準パターンを作成する。補間画素を含む、その基準パターンのサイズの領域を画像中から切り出し、これを基本パターンとして設定する。このとき、基本パターンは、補間画素を中心としてその左右、上下が対称となる形状として切り出し、設定することが好ましい。このように切り出し、設定することで、補間画素を含むパターンの方向性に依存することなく、類似するパターンの探索を行うことができる。

第一画素生成部３１は、次に、基本パターンの中心、補間画素が中心である場合には補間画素を支点として、所定の角度ずつ回転させ、各角度で回転させたときのパターンを各回転パターンとして設定する。例えば、９０度ずつ回転させるとき、９０度、１８０度、２７０度回転させたときの３つのパターンが回転パターンとして設定される。また、１８０度ずつ回転させる場合は、１８０度回転させたときの１つのパターンが回転パターンとして設定される。これらの回転角度は、任意に設定することができ、その設定に応じて１以上の回転パターンが生成され、それが設定される。なお、回転角度０度のパターンは、基本パターンと同一であるため、採用する必要はない。

この回転角度は、補間画素が属するパターンの特徴に合わせて決定することもできる。例えば、円形の網点であれば、９０度ずつ回転させてパターンを生成することが望ましく、ハッチングのような線であれば、１８０度ずつ回転させてパターンを生成することが望ましい。

この回転パターンは、基本パターンの中心を支点として所定角度ずつ回転させて得られるパターンから構成されるが、これに限られるものではなく、基本パターンを上下あるいは左右に反転させて作成することも可能である。この場合、回転させるか、反転させるかの判断が必要となるが、例えば、補間画素が属するパターンが線対称であるか、点対称であるかに基づいて判断することができる。具体的には、網点は、回転であっても反転であってもよいが、ハッチングのような線のパターンについては回転が適していることから、ハッチングのような線については回転、網点については反転と判断することができる。

第一画素値生成部３１は、テンプレートとしての複数のパターンを生成後、そのテンプレートを用いて類似するパターンを探索するにあたって、所定の探索領域を設定する。この探索領域は、代表周期に基づき設定することができる。探索領域は、例えば、代表周期が上記の幅６画素、高さ１画素とされるとき、その代表周期を中心として左右に６画素ずつ追加した幅１８画素で、幅と同じ高さ１８画素の正方形の領域とすることができる。このように、幅と高さを同じ画素数とすることで、探索範囲のパターンの方向性に依存せずに探索を行うことができる。上記の幅１８画素、高さ１８画素の領域は、あくまで１つの例であるので、これに限られるものではなく、これより広い、幅３０画素、高さ３０画素という領域等を探索領域とすることができる。

探索領域は、上記の正方形の領域に限られるものではないが、画像をバッファするメモリの制約等からその範囲の高さを低く抑える必要がある場合は、その分、幅を広くとることが望ましい。高さを低く抑えると、類似するパターンを探索する対象が少なくなり、画素補間の精度が低下するからである。また、周期性判定部３０により補間画素に向かって左側に設定された領域が周期性なしと判断された場合、補間画素に向かって左側に設定された領域を探索領域から除外することが望ましい。右側についても同様である。このように探索領域を狭めることにより、類似するパターンが検出されるべきでない領域からの誤検出を防止することができる。

第一画素値生成部３１は、探索領域を上記のようにして設定した後、作成したテンプレートを用い、その探索領域内にある、そのテンプレートに類似する類似パターンを探索する。具体的には、探索領域内の各位置においてテンプレートとの一致度を求め、最も一致度が高い位置を類似パターンとして選択する。一致度として、ＳＡＤ(Sum of Absolute Difference)やＳＳＤ(Sum of Squared Difference)等の相違度、相関係数や共分散等の類似度を用いることができる。

ＳＡＤは、テンプレートと比較するパターンを切り出し、テンプレートとパターンの同じ位置にある画素の輝度値の差をそれぞれ求め、その差の絶対値を合計したものであり、この合計値が小さいほど類似し、大きいほど相違することを示すものである。また、ＳＳＤは、その輝度値の差を二乗し、その合計を用いるもので、これも、この合計値が小さいほど類似し、大きいほど相違することを示すものである。相関係数および共分散については上記式１、２により求めることができる。相関係数は、−１から１までの値をとり、その値が１に近づくほど強い正の相関があり、０に近いほど相関が弱く、−１に近づくほど負の相関がある。これは、１に近づくほど類似するパターンであることを意味し、−１に近づくほど反転したパターンに類似したものとなる。このことから、値が大きいほど類似度が高いと判断することができる。共分散は、相関係数に対応することから、その値が大きいほど類似度が高いと判断することができる。

一致度の評価に際して、補間画素の画素値が一致度に影響を与えないように補間画素を一致度の計算から除外するか、比較対象のパターンにおいて同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。なお、類似するパターンは一致度が高い順に複数選択することも可能である。

また、補間画素が画像全体で複数存在する場合、一致度の計算において、今挿入しようとしている補間画素だけでなく、他の補間画素も計算から除外するか、比較対象のパターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。これは、基準パターンや比較対象のパターンに今挿入しようとしている補間画素だけではなく、他の補間画素が含まれている場合があり、補間画素は基本的に画素値が欠落しているか、不正な値を保持しているため、一致度の計算に使用されることは好ましくないからである。なお、既に挿入済みの補間画素の画素値は一致度の計算に使用することができる。また、比較対象パターンに他の補間画素が存在する場合、その補間画素が一致度の計算に用いられないように計算から除外するか、基準パターンの同じ位置にある画素の画素値を用いて仮の画素値を設定しておくことが望ましい。

このようにして探索した最も類似するパターンにおいて、テンプレートにおける補間画素の位置に対応する位置にある画素の画素値を取得する。最も類似するパターンのみを用いる場合には、このようにして取得した画素値を補間画素の画素値とすることができる。また、一致度が高い順に選択した複数の類似するパターンを用いる場合には、それら複数のパターンから取得した画素値を合成し、補間画素の画素値を求めることができる。画素値を合成する方法としては、一様な重みにより平均する方法、類似するパターンの一致度が高いほど大きな重みとなるように制御した上で加重平均を行う方法を挙げることができる。

テンプレートは、基本パターンと１以上の回転パターンとから構成されるため、探索領域内で類似パターンを探索する際、以下の２つの順序でその探索を行うことができる。１つの順序としては、まず、基本パターンを用いて探索領域全体にわたって類似パターンを探索し、その後、回転パターンを用いて探索領域全体にわたって類似パターンを探索する。もう１つの順序としては、探索領域内の探索位置を固定し、まず、基本パターンを用いて一致度を評価し、次に、回転パターンを用いて一致度を評価して、その位置におけるパターンを評価した後、次の位置へ移動し、同様に基本パターンと回転パターンによる評価を行う。なお、探索領域が複数存在する場合は、その数だけ上記のいずれかの順序での探索を繰り返す。

最も一致度が高い位置を類似パターンとして決定することができるが、その位置が複数存在する場合、所定の基準に基づいてどの位置を採用するかを決定する。この場合、最初に見つかった位置を採用する、最後に見つかった位置を採用する、補間画素に近い位置を採用する等を基準として採用することができる。

基本パターンと回転パターンといった複数のパターンを用いて類似パターンの探索を行った結果、複数のパターンで最も一致度が高い位置が得られる場合があるが、どのパターンを使用して探索した結果を採用するかを決定する必要がある。そこで、所定の基準に基づいて、どのパターンの結果を採用するかを決定することができる。例えば、基本パターンの結果を採用する、比較順序の早いパターンの結果を採用する、パターンの優劣はつけず、見つかった位置のみで判断する等を基準として採用することができる。また、これらを適宜組み合わせ、この組み合わせた基準を採用することも可能である。

第一画素値生成部３１は、最後に、このようにして決定された基本パターンまたは回転パターンと類似パターンとを比較し、基本パターンまたは回転パターンにおける補間画素の位置に対応する位置にある類似パターン内の画素の画素値を取得する。類似パターンが１つであれば、このようにして１つの画素値を取得することができるが、複数存在する場合には、上記の基準によって複数の画素値を取得し、その画素値を合成して１つの画素値を得ることができる。このときの合成方法としては、一様な重みにより平均する方法、類似パターンの一致度が高いほど大きな重みとなるように制御した上で加重平均を求める方法を挙げることができる。

ここで、テンプレートマッチングには、二次元テンプレートマッチング、一次元テンプレートマッチングがある。二次元テンプレートマッチングでは、画像内の補間画素近辺、すなわち補間画素の左右や上下、斜め方向にある任意の領域をパターンとして切り出し、そのパターンとテンプレートとの一致度を求めることにより、最も類似するパターンを探索する。この実施形態において、第一画素値生成部３１が採用するテンプレートマッチングは二次元テンプレートマッチングである。これに対し、一次元テンプレートマッチングでは、補間画素が存在する１ライン内からパターンを切り出し、一致度を求め、最も類似するパターンを探索する。この二次元テンプレートマッチングと一次元テンプレートマッチングは、異なる補間方法であるため、後述する第二画素値生成部３２や、第三画素値生成部等において採用することができる。

第二画素値生成部３２は、第一画素値生成部３１とは異なる補間方法を用いて、補間画素の画素値を生成する。異なる補間方法として、上記の一次元テンプレートマッチングを用いることもできるが、内挿法を用いることもできる。この内挿法には、最近傍補間（０次補間）、線形補間（一次補間）、放物線補間（二次補間）、キュービック補間（三次補間）、多項式補間、スプライン補間、ラグランジュ補間等があり、線形補間やキュービック補間を二次元に拡張したバイリニア補間やバイキュービック補間等を用いることも可能である。

１ライン上に順に配列する画素Ａ〜Ｆがあり、画素Ｃの画素値が欠落している場合、これを、画素の位置と画素値との関係を示すグラフに表すと、図８（ａ）に示すようなものとなる。画素Ｃの実際の画素値は、白丸で示す値である。この場合、画素の位置が１つ移動するにつれて画素値が一定の値ほど増加しているので、画素の位置と画素値との関係を一次関数で表すことができ、得られた一次関数を用いて補間すべき画素Ｃの画素値を求めることができる（線形補間）。

また、図８（ｂ）に示すような曲線で表される場合は、その曲線に最も適合する補間方法を選択することにより行うことができる。二次関数により表すことができる場合は、放物線補間を、三次関数により表すことができる場合は、キュービック補間を、多項式により表すことができる場合は、多項式補間あるいはラグランジュ補間を、個別の多項式を用いて表現できる場合は、スプライン補間を選択することができる。

ここでは第一画素値生成部３１がパターンマッチング法を採用し、第二画素値生成部３２が内挿法を採用する構成としたが、第一画素値生成部３１が内挿法を採用し、第二画素値生成部３２がパターンマッチング法を採用する構成としてもよい。また、同じ内挿法であるが、線形補間とスプライン補間等の異なる補間法を採用する構成とすることも可能である。

制御部３３は、処理対象の画像を受け付け、それを周期性判定部３０へ送り、周期性判定部３０が判定した結果を受け取り、それに基づき、第一画素値生成部３１と第二画素値生成部３２のいずれを用いて画素値を生成するかを判断する。制御部３３は、例えば、周期性判定部３０において周期性があると判定された場合に、パターンマッチング法を用いる第一画素値生成部３１を採用し、そうでない場合に内挿法を用いる第二画素値生成部３２を採用することができる。そして、決定した第一画素値生成部３１または第二画素値生成部３２へ画像のデータを送り、そのいずれかが生成した画素値を受け付け、画素値挿入部３４へ画像のデータと設定した画素の位置情報ともに、その画素値を送る。

画素値挿入部３４は、制御部３３により判定された第一画素値生成部３１または第二画素値生成部３２を採用して生成された画素値を、先に設定された補間画素に挿入する。画素値挿入部３４は、補間画素に対し、第一画素値生成部３１または第二画素値生成部３２が生成した画素値を設定し、または置き換えることにより挿入する。これにより、補間画素１つ分の補間処理が完了する。補間画素が複数存在する場合には、上記の各部における処理を補間画素の数だけ繰り返す。

これらの各部が各処理を行い、補間画素の画素値を生成し、その画素値により補間画素を補間する処理について、図９に示すフローチャートを参照して説明する。ステップ９００からこの処理を開始し、まず、ステップ９０５において、画素設定部が、画素値を挿入する対象の補間画素を検出し、補間処理すべき補間画素を設定する。この検出は、上述した方法を用いて行うことができる。補間画素が複数存在する場合は、例えばその画素が配置されている座標位置に基づいて順に並べ、順に１つを選択し、その１つを設定することができる。

ステップ９１０において、周期性判定部３０が、補間画素を含む領域を指定し、その領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、判定領域を指定し、周期性の有無を判定する。

次にステップ９１５で、補間画素に用いる補間方法を決定する。これは、制御部３３が、ステップ９１０において判定された結果に基づき、第一画素値生成部３１と第二画素値生成部３２のいずれを採用し、補間画素の画素値を生成するかを判断する。上述したように、周期性判定部３０が周期性ありと判定した場合は、パターンマッチング法と決定し、周期性なしと判定した場合は、内挿法と決定する。

ステップ９２０で、第一画素値生成部３１が採用されるか否かが判断される。ステップ９１５で決定された補間方法が、パターンマッチング法であれば、その方法を用いて補間処理を行う第一画素値生成部３１が採用されると判断され、それ以外であれば、第一画素値生成部３１は採用されないと判断される。

ステップ９２０で第一画素値生成部３１が採用されると判断された場合、ステップ９２５へ進み、第一画素値生成部３１が用いる補間方法、ここではパターンマッチング法により類似パターンを探索し、その探索した類似パターンに基づき補間画素の画素値を生成する。一方、ステップ９２０で第一画素値生成部３１が採用されないと判断された場合、ステップ９３０へ進み、第二画素値生成部３２が用いる補間方法、ここでは内挿法により補間画素の画素値を生成する。

次にステップ９３５で、ステップ９２５またはステップ９３０で生成された補間画素の画素値を、ステップ９０５において設定した補間画素へ挿入する。この補間画素は、画素値を有しないか、有するにしても不正な値であるため、この補間画素への生成した画素値を挿入することにより、補間画素に画素値を設定する。そして、ステップ９４０へ進み、すべての補間画素の補間を終えたかを判断する。ステップ９０５において検出した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ９４０においてすべての補間画素の補間を終えたと判断された場合はステップ９４５へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ９０５へ戻り、次の補間画素を設定し、画素値の生成を行い、画素値を挿入する処理を行う。

ここで、ステップ９１０では、補間画素を含む領域の周期性を判定するために、図１０に示すような処理を実行する。まず、ステップ１０００で、周期性の判定を行うステップを開始すると、ステップ１００５で、判定領域内の各画素の画素値を用い、代表周期を計算する。すなわち、信頼度を計算し、テンプレートのサイズや探索領域を決定する上で必要となる代表周期を算出する。そして、ステップ１０１０で、その代表周期を用い、判定領域全体の周期性を判定する。

それに続いて、ステップ１０１５で、判定領域を、補間画素を中心として左右の領域に分け、左側の領域と右側の領域とを設定する。ここでは、周期性判定部３０が、さらに部分領域周期性判定部を備えており、この部分領域周期性判定部が左右の領域に分け、それらを部分領域として設定し、各部分領域に周期性があるか否かを判定する。

したがって、ステップ１０２０において、補間画素に向かって左側の領域に対し、その領域における代表周期を求め、それを用いて周期性を判定し、ステップ１０２５で、補間画素に向かって右側の領域に対し、その領域における代表周期を求め、それを用いて周期性を判定する。これらの判定が終了したところで、ステップ１０３０において周期性の判定を終了する。

これらのステップ１０１５〜１０２５では、図１１（ａ）に示すように、補間画素６０が中心にくるようにして判定領域６１を設定すると、図１１（ｂ）に示すように、補間画素６０の左右で判定領域を分割し、補間画素６０の左側の領域を、左側の周期性を判定する部分領域６２として、また、補間画素６０の右側の領域を、右側の周期性を判定する部分領域６３として設定し、各部分領域６２、６３につき周期性を判定することができる。

周期性の有無を適切に判定することができれば、図１１（ｂ）に示すような補間画素６０の高さ方向である真上および真下の領域を除く、補間画素６０の左右に隣接する判定領域６１といった大きい部分領域６２、６３とする必要はなく、これよりも小さい、図１１（ｃ）に示すような範囲の部分領域６４、６５とすることも可能である。また、部分領域は、判定領域６１内でなければならないということはなく、一部が判定領域６１外にはみ出すように設定することも可能である。

図１１では、判定領域６１を、３画素以上の所定の幅および高さとして二次元の領域として設定しているが、補間画素６０と同じ高さ、すなわち高さ１画素で、所定の画素数からなる幅の一次元の領域を判定領域６１とすることも可能である。

このように、補間画素の左右の領域の周期性、補間画素を含む判定領域全体の周期性を判定することで、その補間画素を含む領域の周期性を判定することができる。すなわち、左右、全体の領域に周期性があれば、補間画素を含む領域に周期性があると言え、補間画素を含む領域は周期性がある領域と判定することができる。

ステップ１０１０、ステップ１０２０および１０２５において行われる判定では、各周期性の有無を判定するために、図１２に示すような処理を実行する。まず、ステップ１２００で、各ステップ（ステップ１０１０、ステップ１０２０、ステップ１０２５）の実行を開始すると、その処理を開始し、ステップ１２０５で、上記のようにして判定領域内において画素値が極大となるピーク間の距離の最頻値を求め、その最頻値を画素値の代表周期として算出する。なお、判定領域全体の代表周期は、ステップ１０１０において算出していることから、ここでは省略し、それを採用することができる。

次に、ステップ１２１０で、先のステップで求めた代表周期を用いて信頼度を計算する。信頼度は、上述した相違度や類似度を計算することにより求めることができる。ステップ１２１５で、その求めた信頼度が閾値を超えるかどうかを判断することにより周期性の有無を判定し、ステップ１２２０においてこの処理を終了する。信頼度が閾値を超える場合は周期性ありと判定し、閾値以下である場合は周期性なしと判定する。

図１０に示す処理の流れでは、代表周期を推定した後、判定領域全体の周期性を判定し、続いて左側の部分領域の周期性を判定し、それに続いて右側の部分領域の周期性を判定することにより、補間画素を含む領域の周期性を判定しているが、本発明ではこれに限られるものではなく、まず、左右の部分領域の周期性を判定した後に、判定領域全体の周期性を判定することも可能である。また、左右の周期性を判定し、その判定において周期性があれば、それを代表周期として採用するとともに全体が周期性ありと判定し、左右のいずれも周期性がないと判定されれば、全体も周期性なしと判定することも可能である。

したがって、左右の部分領域の少なくとも一方に周期性があると判断されれば、周期性ありと判定し、両方になければ、周期性なしと判定することができる。これは、少なくとも一方に周期性が認められれば、その補間画素を含む領域は、周期性を有する可能性が高く、周期性を有する際に使用する補間方法を採用して補間処理を行うほうが、高い精度で補間することができるからである。

図９に示すステップ９２５で第一画素値生成部３１がテンプレートマッチングにより補間画素の画素値を生成する際、この第一画素値生成部３１は、図１３に示す処理を実行する。まず、ステップ１３００でこの処理を開始し、ステップ１３０５でテンプレートとしての基準パターンのサイズを決定する。このサイズの決定は、上記のように代表周期を基準として行うことができる。

次に、ステップ１３１０において、決定した基準パターンのサイズに基づき、補間画素を含むそのサイズの領域を切り出し、これを基本パターンとして生成する。続いて、ステップ１３１５において、基本パターンの中心、中心が補間画素である場合には補間画素を支点として、所定の角度ずつ回転させて１以上の回転パターンを生成する。

ステップ１３２０で、代表周期に基づき、類似パターンを探索する領域を設定する。この探索領域は、上記のようにして決定し、その領域を設定することができる。そして、ステップ１３２５で、生成した基本パターンおよび１以上の回転パターンをテンプレートとして用い、設定した探索領域内を、類似パターンを求めて探索する。類似パターンの探索は、基本パターンおよび回転パターンとの一致度を求め、最も一致度が高いパターンを選択することにより行うことができる。

ステップ１３３０において、探索した類似パターンと、その類似パターンを探索するために使用した基本パターンまたは回転パターンとを比較し、基本パターンまたは回転パターンに含まれる補間画素の位置に対応する位置にある類似パターン内の画素の画素値を、補間画素へ挿入すべき画素値として取得する。この取得により、ステップ１３３５へ進み、この処理を終了する。

図１４は、画像処理装置の第２実施形態を示した機能ブロック図である。この実施形態では、図２に示す第１実施形態と同様の、周期性判定部７０、第一画素値生成部７１、第二画素値生成部７２、制御部７３、画素値挿入部７４を備えるほか、さらに、境界判定部７５を含んで構成されている。なお、周期性判定部７０は、図２に示す周期性判定部３０と同様に、周期計算部３０ａを含んで構成されるが、部分領域周期性判定部については備えていても、備えていなくてもよい。

周期性判定部７０、第一画素値生成部７１、第二画素値生成部７２、制御部７３、画素値挿入部７４が行う処理については、上述した第１実施形態と同様であるので、ここでは説明を省略し、境界判定部７５について説明する。境界判定部７５は、周期性判定部３０により補間画素を含む画像領域が周期性のある領域（周期領域）であると判定された場合に、その補間画素が本当に周期領域に属しているか否かを判定する。

補間画素は、周期領域内または非周期領域内のいずれかに存在し、補間画素の画素値は、同じ領域内のその補間画素の近傍に存在する画素の画素値から推定することが可能である。これは、補間画素を中心とした数個の連続する画素から構成されるパターンが、その近傍に存在するパターンに類似することから、その近傍に存在するパターンから推定可能だからである。

しかしながら、補間画素が周期領域と非周期領域との境界付近に存在する場合、補間画素は周期領域内に存在するのに、その近傍に存在するパターンは非周期領域のものを採用すると、正しく補間することができなくなる。このため、正しい周期領域内のパターンを採用して推定することができるように、境界判定部７５が本当にどちらの領域に属するかを判定する。

その一例として、補間画素を中心として、この補間画素から所定の距離だけ左右に離れた位置に参照領域を設定し、補間画素の左右に設定した参照領域において画像特徴の１つである画素値の分散を個別に求め、左右両方とも分散が閾値以上であれば周期領域に、閾値未満である場合には非周期領域に存在すると判定することができる。

上記所定の距離は、例えば３画素とすることができる。これは、網点が６画素ごとに配置される場合、後述するパターンマッチングに、補間画素を中心としてこの補間画素の左右３画素分をテンプレートとして用いることから、このテンプレートの外側で最も近い位置である、補間画素の左右３画素分離れた位置に参照領域を設定するものである。最も近い位置としているのは、テンプレートにパターンが近似しているものは、テンプレートの近傍に存在していることが多いためである。なお、この距離は３画素に限られるものではなく、適切に判断することができるのであれば、いかなる距離であってもよい。

参照領域は、例えば、補間画素を含む高さ１画素の領域、すなわち画像の１ラインとすることができる。また、参照領域は、上記の判定領域と同様、補間画素を含む任意の高さを有する矩形領域とすることもできる。この領域も、予めユーザによって設定することもできるし、上記判定領域の場合と同様にして、装置が動的に決定することも可能である。この参照領域は、補間画素の左右に限られるものではなく、上下や上下左右等に設定することができ、１以上の領域を設定することができる。

分散は、以下の式４により求めることができる。式４中、ｘ_ｉは、参照領域内のｉ番目にある画素の画素値で、ｘ_ｍは、参照領域内にある画素の画素値の平均値であり、ｎは、参照領域内にある画素の画素数である。なお、この分散は、参照領域内の画素の最大輝度値と最小輝度値との差や、カラー画像の場合には最大の緑成分の値（Ｇ成分値）と最小のＧ成分値との差等で代替することも可能である。

制御部７３は、周期性判定部７０による周期性の判定に加えて、境界判定部７５による判定の結果に基づき、補間方法を決定し、第一画素値生成部７１と第二画素値生成部７２のいずれを採用するかを決定し、決定した画素値生成部に補間画素に挿入すべき画素値を生成させるが、予め第一画素値生成部７１と第二画素値生成部７２の両方で補間画素の画素値を生成しておき、制御部７３がいずれかを選択するという並列処理で実現することも可能である。

図１４に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１５に示すフローチャートを参照して説明する。ステップ１５００からこの処理を開始し、まず、ステップ１５０５において、画素設定部が、画素値を挿入する対象の補間画素を検出し、補間処理すべき補間画素を設定する。この検出は、上述した方法を用いて行うことができる。補間画素が複数存在する場合は、例えばその画素が配置されている座標位置に基づいて順に並べ、順に１つを選択し、その１つを設定することができる。

ステップ１５１０において、周期性判定部７０が、補間画素を含む領域を指定し、その領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、領域を指定し、周期性を判定する。次にステップ１５１５で、補間画素が本当に周期領域と非周期領域のいずれに存在するかを判定する。

次にステップ１５２０で、補間画素に用いる補間方法を決定する。これは、制御部７３が、ステップ１５１０およびステップ１５１５において判定された結果に基づき、第一画素値生成部７１が採用する補間方法と第二画素値生成部７２が採用する補間方法のいずれを用い、補間画素の画素値を生成するかを判断する。上述したように、周期性判定部７０が周期性ありと判定した場合は、パターンマッチング法と決定し、周期性なしと判定した場合は、内挿法と決定する。

ステップ１５２５で、第一画素値生成部７１が採用されるか否かが判断される。ステップ１５２０で決定された補間方法が、パターンマッチング法であれば、その方法を用いて補間処理を行う第一画素値生成部７１が採用されると判断され、それ以外であれば、第一画素値生成部７１は採用されないと判断される。

ステップ１５２５で第一画素値生成部７１が採用されると判断された場合、ステップ１５３０へ進み、第一画素値生成部７１が用いる補間方法、ここではパターンマッチング法により類似するパターンを探索し、その探索した類似するパターンに基づき補間画素の画素値を生成する。一方、ステップ１５２５で第一画素値生成部７１が採用されないと判断された場合、ステップ１５３５へ進み、第二画素値生成部７２が用いる補間方法、ここでは内挿法により補間画素の画素値を生成する。

次にステップ１５４０で、ステップ１５３０またはステップ１５３５で生成された補間画素の画素値を、ステップ１５０５において設定した補間画素へ挿入する。この補間画素は、画素値を有しないか、有するにしても不正な値であるため、この補間画素への生成した画素値を挿入することにより、補間画素に画素値を設定する。そして、ステップ１５４５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１５０５において検出した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１５４５においてすべての補間画素の補間を終えたと判断された場合はステップ１５５０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１５０５へ戻り、次の補間画素を設定し、画素値の生成を行い、画素値を挿入する処理を行う。なお、ステップ１５１０および１５３０においては、図１０、図１２、図１３に示す処理と同様の処理を実行することができる。

図１６は、画像処理装置の第３実施形態を示した機能ブロック図である。この実施形態では、図２に示す第１実施形態と同様の、周期性判定部８０、第一画素値生成部８１、第二画素値生成部８２、制御部８３、画素値挿入部８４を備えるほか、さらに、第一画素値生成部８１または第二画素値生成部８２により生成された補間画素の画素値の妥当性を検証する妥当性検証部８５を備える。このため、制御部８３は、第一画素値生成部８１が採用された際に生成された画素値が妥当であるか否かを妥当性検証部８５によって検証し、妥当性がないと判定された場合、第二画素値生成部８２により補間画素の画素値を生成する。

周期性判定部８０、第一画素値生成部８１、第二画素値生成部８２、制御部８３、画素値挿入部８４が行う処理については、上述した第１実施形態と同様であるので、ここでは説明を省略し、妥当性検証部８５について説明する。妥当性検証部８５は、例えば、第一画素値生成部８１により生成された画素値が妥当であるか否かを判定する。

妥当性の検証は、第一画素値生成部８１が画素値を生成する際に得られる関連情報を用いて行うことができる。関連情報としては、第一画素値生成部８１が補間方法としてパターンマッチング法を用いる場合、テンプレートと比較する対象のパターンとの相違度または類似度を挙げることができる。相違度または類似度は、上述したＳＡＤ、ＳＳＤ、相関係数、共分散等を用いることができる。

妥当性検証部８５は、第一画素値生成部８１が類似パターンの探索に使用した基本パターンまたは回転パターンと、その補間画素を含む基本パターンまたは回転パターンとの相違度または類似度を求め、その相違度が閾値未満またはその類似度が閾値以上であるかを判断することにより、妥当であるかを判断することができる。相違度が閾値未満なら妥当であり、類似度が閾値以上であれば妥当である。

このため、妥当性検証部８５において、相違度または類似度を閾値処理し、相違度が閾値未満または類似度が閾値以上であることを妥当と判断するための条件とすることができる。この閾値も、上述した閾値等と同様に、予めユーザによって設定することもできるし、装置が動的に決定することも可能である。

制御部８３は、これに伴い、第一画素値生成部８１が採用された際に生成された画素値が妥当であるか否かを妥当性検証部８５によって検証し、妥当性がないと判定された場合、第二画素値生成部８２により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部８１と第二画素値生成部８２の両方で補間画素の画素値を生成しておき、妥当性検証部８５による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

この図１６に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１７に示すフローチャートを参照して説明する。ステップ１７００からこの処理を開始し、まず、ステップ１７０５において、図１６に図示しない画素設定部が、画素値を挿入する対象である補間画素を検出し、補間画素を設定する。この検出は、上述した方法を用いて行うことができる。複数の補間画素が存在する場合は、上記と同様にして、その１つを設定する。

ステップ１７１０において、周期性判定部８０が、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ１７１５において、補間画素に用いる補間方法を決定する。これは、制御部８３が、ステップ１７１０において判定された結果に基づき、第一画素値生成部８１が採用する補間方法と第二画素値生成部８２が採用する補間方法のいずれを用いて、補間画素の画素値を生成するかを判断する。ステップ１７２０で、判断された補間方法に基づき、第一画素値生成部８１が採用されるか否かを判定する。

ステップ１７２０で第一画素値生成部８１が採用されると判定された場合、ステップ１７２５へ進み、第一画素値生成部８１が用いる補間方法、ここではパターンマッチング法により補間画素の画素値を生成する。続いて、ステップ１７３０において、妥当性検証部８５が第一画素値生成部８１により生成された画素値が妥当であるか否かを検証し、ステップ１７３５において、その画素値が妥当かを判定する。妥当であるか否かは、画素値を生成する際に得られる関連情報、具体的には相違度または類似度を用い、その相違度が閾値未満か、または類似度が閾値以上かを判断することにより行うことができる。

ステップ１７２０で第一画素値生成部８１が採用されないと判断された場合、ステップ１７４０へ進み、第二画素値生成部８２が用いる補間方法、ここでは内挿法により補間画素の画素値を生成する。また、ステップ１７３５で妥当でないと判定された場合も、ステップ１７４０へ進み、第二画素値生成部８２が用いる補間方法により補間画素の画素値を生成する。

ステップ１７３５で、画素値が妥当と判定された場合、またはステップ１７４０で、第二画素値生成部８２により補間画素の画素値が生成された後、ステップ１７４５へ進み、その画素値を、ステップ１７０５において検出した補間画素へ挿入する。これにより、その画素値を補間画素の画素値として設定する。そして、ステップ１７５０へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１７０５において設定した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１７５０においてすべての補間画素の補間を終えたと判断された場合はステップ１７５５へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１７０５へ戻り、次の補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

図１８は、画像処理装置の第４実施形態を示した機能ブロック図である。この実施形態では、図１６に示す第３実施形態と同様の、周期性判定部９０、第一画素値生成部９１、第二画素値生成部９２、制御部９３、画素値挿入部９４、妥当性検証部９５を備えており、これらに加えて、第一画素値生成部９１および第二画素値生成部９２が採用する補間方法とは異なる手法を用いて補間画素の画素値を生成する第三画素値生成部９６を備えている。このため、制御部９３は、第一画素値生成部９１が採用された際に生成された画素値が妥当であるか否かを妥当性検証部９５によって検証し、妥当性がないと判定された場合、第三画素値生成部９６により補間画素の画素値を生成し、その画素値が妥当性検証部９５によって検証され、これも妥当性がないと判定された場合に、第二画素値生成部９２により補間画素の画素値を生成するように構成されている。

この第４実施形態では、図１６に示す第３実施形態の構成に、第三画素値生成部９６のみが追加された構成とされているが、これに限られるものではなく、第四画素値生成部や第五画素値生成部等をさらに追加し、４つ以上の画素値生成部から構成することも可能である。この場合、制御部９３が、各画素値生成部が生成した画素値が妥当であるかを判定し、妥当でないと判定された場合に別の画素値生成部により画素値を生成することができる。

この第４実施形態における周期性判定部９０、第一画素値生成部９１、第二画素値生成部９２、制御部９３、画素値挿入部９４、妥当性検証部９５が行う処理については、上述した第３実施形態と同様であり、第三画素値生成部９６も、補間方法が異なるのみで、第一画素値生成部９１や第二画素値生成部９２と同様、補間画素の画素値を生成するものであるので、これらについての説明は省略する。

なお、制御部９３は、第一画素値生成部９１が採用された際に生成された画素値が妥当であるか否かを妥当性検証部９５によって検証し、妥当性がないと判定された場合、第三画素値生成部９６により補間画素の画素値を生成し、生成された画素値が妥当であるか否かを妥当性検証部９５によって検証し、妥当性がないと判定された場合、第二画素値生成部９２により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部９１と第二画素値生成部９２と第三画素値生成部９６のすべてにおいて補間画素の画素値を生成しておき、妥当性検証部９５による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

第三画素値生成部９６は、第一画素値生成部９１および第二画素値生成部９２とは異なる補間方法を用いるが、第一画素値生成部９１が二次元のテンプレートマッチングを用い、第二画素値生成部９２が線形補間を採用するとき、第三画素値生成部９６は、それら以外の一次元のテンプレートマッチング、放物線補間、キュービック補間、多項式補間、スプライン補間等を採用することができる。

この図１８に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図１９に示すフローチャートを参照して説明する。ステップ１９００からこの処理を開始し、まず、ステップ１９０５において、図１８に図示しない画素設定部が、画素値を挿入する対象である補間画素を検出し、補間画素を設定する。この検出は、上述した方法を用いて行うことができる。この場合も同様にして、補間画素が複数存在するときはその１つを設定する。

ステップ１９１０において、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ１９１５において、補間画素に用いる補間方法を決定する。これは、制御部９３が、ステップ１９１０において判定された結果に基づき、第一画素値生成部９１が採用する補間方法、第二画素値生成部９２が採用する補間方法、第三画素値生成部９６が採用する補間方法のいずれを用い、補間画素の画素値を生成するかを判断する。次にステップ１９２０で、決定された補間方法に基づき、第一画素値生成部９１が採用されるかを判定する。

ステップ１９２０で第一画素値生成部９１が採用されると判定された場合、ステップ１９２５へ進み、第一画素値生成部９１が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１９３０において、妥当性検証部９５が第一画素値生成部９１により生成された画素値が妥当であるか否かを検証し、ステップ１９３５において、その画素値が妥当かを判定する。

妥当性の判断は、第一画素値生成部９１が画素値を生成する際に得られる関連情報を用いて行われる。第一画素値生成部９１は、テンプレートと、画素値生成に使用した最適なパターンとの相違度または類似度を関連情報として用い、相違度が閾値未満または類似度が閾値以上であれば妥当と判断することができる。このとき、テンプレートとしては、補間画素を除いたものを用いることもできるし、生成した画素値を挿入した後のものを用いることも可能である。

ステップ１９３５で、妥当でないと判定された場合、ステップ１９４０へ進み、第三画素値生成部９６が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ１９４５において、妥当性検証部９５が第三画素値生成部９６により生成された画素値が妥当であるか否かを検証し、ステップ１９５０において、その画素値が妥当かを判定する。

ステップ１９２０で第一画素値生成部９１が採用されないと判断された場合、またはステップ１９５０で妥当でないと判定された場合、ステップ１９５５へ進み、第二画素値生成部９２が用いる補間方法により補間画素の画素値を生成する。

ステップ１９３５で、画素値が妥当と判定された場合、もしくはステップ１９５０で、画素値が妥当と判定された場合、またはステップ１９５５で画素値が生成された後、ステップ１９６０へ進み、その画素値を、ステップ１９０５において検出した補間画素へ挿入する。そして、ステップ１９６５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ１９０５において検出した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ１９６５においてすべての補間画素の補間を終えたと判断された場合はステップ１９７０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ１９０５へ戻り、次の補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

図２０は、画像処理装置の第５実施形態を示した機能ブロック図である。この第５実施形態では、図１８に示す第４実施形態と同様の、周期性判定部１００、第一画素値生成部１０１、第二画素値生成部１０２、制御部１０３、画素値挿入部１０４、妥当性検証部１０５、第三画素値生成部１０６を備え、上記第２実施形態において採用した境界判定部１０７を備える構成とされている。このため、制御部１０３は、周期性判定部１００の判定結果に加えて、境界判定部１０７の判定結果に基づき、第一画素値生成部１０１、第二画素値生成部１０２、第三画素値生成部１０６を切り替えるように構成されている。

補間方法の決定方法の一例として、補間画素を含む領域に周期性があり、補間画素が周期領域内であれば、第一画素値生成部１０１を採用し、補間画素を含む領域に周期性があり、補間画素が非周期領域内であれば第二画素値生成部１０２を採用し、補間画素を含む領域に周期性がない場合、第三画素値生成部１０６を採用することができる。

その他の例としては、補間画素を含む領域の周期が短く、補間画素が周期領域内であれば、第一画素値生成部１０１を採用し、補間画素を含む領域の周期が短く、補間画素が非周期領域内であれば、第二画素値生成部１０２を採用し、それ以外であれば、第三画素値生成部１０６を採用することができる。

この実施形態では、第一画素値生成部１０１が採用された場合、その際に生成された画素値が妥当であるか否かを妥当性検証部１０５によって検証し、第一画素値生成部９１が採用されない場合、第三画素値生成部１０６が採用されたかを判定し、採用された場合は、第三画素値生成部１０６により補間画素の画素値を生成し、生成された画素値が妥当であるか否かを妥当性検証部１０５によって検証し、第三画素値生成部１０６が採用されない場合、第二画素値生成部１０２により補間画素の画素値を生成するが、これに限られるものではなく、予め第一画素値生成部１０１と第二画素値生成部１０２と第三画素値生成部１０６のすべてにおいて補間画素の画素値を生成しておき、妥当性検証部１０５による検証結果に基づき、いずれかを選択するという並列処理で実現することも可能である。

この図２０に示す画像処理装置を用いて、補間画素の画素値を補正する処理について、図２１に示すフローチャートを参照して説明する。ステップ２１００からこの処理を開始し、まず、ステップ２１０５において、画素値を挿入する対象である補間画素を検出し、その補間画素を設定する。この検出は、上述した方法を用いて行うことができる。この場合も同様にして、補間画素が複数存在するときはその１つを設定する。

ステップ２１１０において、周期性判定部１００が、補間画素を含む領域内で、画素値の変動に周期性を有するか否かを判定する。上述した領域サイズの決定方法、周期性の判定方法を用いて、周期性を判定する。続いて、ステップ２１１５において、境界判定部１０７が、補間画素が本当に周期領域と非周期領域のどちらの領域に存在するかを判定する。この判定には、上記の境界の判定方法、参照領域のサイズ決定方法を採用し、左右の参照領域で個別に画素値の分散を求め、求めた分散が左右の参照領域でいずれも閾値以上であるかを判断することにより行う。閾値以上であれば、補間画素は周期領域に存在すると判定される。

そして、ステップ２１２０で、補間画素に用いる補間方法を決定する。これは、制御部１０３が、ステップ２１１０およびステップ２１１５において判定された結果に基づき、第一画素値生成部１０１が採用する補間方法、第二画素値生成部１０２が採用する補間方法、第三画素値生成部１０６が採用する補間方法のいずれを用い、補間画素の画素値を生成するかを判断する。次のステップ２１２５では、決定された補間方法に基づき、第一画素値生成部１０１が採用されるかを判定する。

ステップ２１２５で第一画素値生成部１０１が採用されると判定された場合、ステップ２１３０へ進み、第一画素値生成部１０１が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ２１３５において、妥当性検証部１０５が第一画素値生成部１０１により生成された画素値が妥当であるか否かを検証し、ステップ２１４０において、その画素値が妥当かを判定する。

ステップ２１２５で第一画素値生成部１０１が採用されないと判定された場合、ステップ２１４５へ進み、第三画素値生成部１０６が採用されるかを判定する。第三画素値生成部１０６が採用されると判定された場合、また、ステップ２１４０で妥当でないと判定された場合は、ステップ２１５０へ進み、第三画素値生成部１０６が用いる補間方法により補間画素の画素値を生成する。続いて、ステップ２１５５において、妥当性検証部１０５が第三画素値生成部１０６により生成された画素値が妥当であるか否かを検証し、ステップ２１６０において、その画素値が妥当かを判定する。

ステップ２１４５で第三画素値生成部１０６が採用されないと判定された場合、ステップ２１６５へ進み、第二画素値生成部１０２が用いる補間方法により補間画素の画素値を生成する。また、ステップ２１６０で妥当でないと判定された場合、ステップ２１６５へ進み、第二画素値生成部１０２が用いる補間方法により補間画素の画素値を生成する。

ステップ２１４０で妥当と判定された場合、ステップ２１６０で妥当と判定された場合、ステップ２１６５で画素値が生成された後、ステップ２１７０へ進み、その画素値を、ステップ２１０５において設定した補間画素へ挿入する。そして、ステップ２１７５へ進み、すべての補間画素の補間を終えたかを判断する。ステップ２１０５において設定した補間画素が複数存在する場合は、そのすべてに生成された画素値が挿入されたかを判定する。

ステップ２１７５においてすべての補間画素の補間を終えたと判断された場合はステップ２１８０へ進み、この処理を終了する。一方、まだ終えていないと判断された場合、ステップ２１０５へ戻り、再び補間画素を設定し、画素値の生成を行い、挿入する処理を行う。

本発明では、上述した画像処理装置や、その画像処理装置により実行される画像検査方法のほか、その方法を実現するためのコンピュータ可読なプログラムも提供することが可能である。なお、このプログラムは、ＦＤ、ＣＤ、ＤＶＤ、ＳＤカード、ＵＳＢメモリ等の記録媒体に格納し、そのプログラムが記録された記録媒体として提供することも可能である。

これまで本発明を、画像処理装置および画像検査方法として上述した実施の形態をもって説明してきたが、本発明は上述した実施の形態に限定されるものではなく、他の実施の形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。

したがって、上記第２実施形態の構成に妥当性検証部を備えるか、または第３実施形態の構成に境界判定部を備える構成、すなわち周期性判定部、境界判定部、第一画素値生成部、第二画素値生成部、制御部、画素値挿入部、妥当性検証部から構成される装置とすることも可能である。また、第４実施形態の構成の妥当性検証部に代えて境界判定部を備える構成、すなわち、周期性判定部、境界判定部、第一画素値生成部、第二画素値生成部、第三画素値生成部、制御部、画素値挿入部から構成される装置とすることも可能である。

１０…画像処理装置、１１…ＭＰＵ、１２…ＲＯＭ、１３…ＲＡＭ、１４…記憶制御用インタフェース、１５…ハードディスク、１６…インタフェース、１７…入出力装置、１８…表示装置、１９…ＶＲＡＭ、２０…グラフィックチップ、２１…ネットワークＩ／Ｆ、３０、７０、８０、９０、１００…周期性判定部、３０ａ…周期計算部、３１、７１、８１、９１、１０１…第一画素値生成部、３２、７２、８２、９２、１０２…第二画素値生成部、３３、７３、８３、９３、１０３…制御部、３４、７４、８４、９４、１０４…画素値挿入部、４０…欠落した画素、５０〜５７…画素、６０…補間画素、６１…判定領域、６２〜６５…部分領域、７５、１０７…境界判定部、８５、９５、１０５…妥当性検証部、９６、１０６…第三画素値生成部

特許第４３３０１６４号公報

Claims (20)

1. 所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する画像処理装置であって、
   前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定部と、
   前記画素を中心として両側に設定される領域の各々が周期領域であるかを判定する部分領域周期性判定部と、
   第一補間方法を用いて前記画素の画素値を生成する第一画素値生成部と、
   前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値を生成する第二画素値生成部と、
   前記周期性判定部により得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部のいずれを用いて前記画素値を生成するかを判断する制御部と、
   前記制御部により判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素値を前記画素に挿入する画素値挿入部とを含み、
   前記周期性判定部が、前記画素を含む画像領域内の各画素の画素値を用いて、画素値の変動周期を計算する周期計算部を備え、
   前記第一補間方法がパターンマッチング法であり、前記第一画素値生成部が、前記周期計算部により計算された前記変動周期を用いて、前記画素を含む基本パターンを生成し、該基本パターンの中心を支点として１以上の異なる角度で回転させ、または該基本パターンを反転させて１以上の回転パターンを生成し、前記部分領域周期性判定部により判定された判定結果に基づき、前記画像内の類似パターンを探索する画像領域を決定し、前記基本パターンと前記１以上の回転パターンとをテンプレートとして用いて、決定した前記画像領域内の類似パターンを探索し、探索して得られた前記類似パターンから前記画素の画素値を生成する、画像処理装置。
2. 前記第一画素値生成部は、前記周期計算部により計算された画素値の変動周期に基づき、前記パターンマッチング法で用いられるテンプレートのサイズを決定する、請求項１に記載の画像処理装置。
3. 前記第二補間方法は、内挿法である、請求項１または２に記載の画像処理装置。
4. 前記周期性判定部により前記周期領域と判定された場合に、前記画素に近隣して１以上の参照領域を設定し、前記１以上の参照領域の画像特徴に基づき、前記画素が前記周期領域と該周期領域以外の非周期領域とのいずれに存在するかを判定する境界判定部をさらに含み、
   前記制御部は、前記周期性判定部および前記境界判定部により得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部のいずれを用いて前記画素値を生成するかを判断する、請求項１〜３のいずれか１項に記載の画像処理装置。
5. 生成された前記画素値により補間した補間結果が妥当であるかを検証する妥当性検証部をさらに含み、
   前記妥当性検証部が前記第一画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部は、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素値を生成させる、請求項１〜４のいずれか１項に記載の画像処理装置。
6. 前記妥当性検証部は、前記第一画素値生成部が前記類似パターンの探索に使用した前記基本パターンまたは前記回転パターンと、前記画素を含む前記基本パターンまたは前記回転パターンとの相違度が閾値未満または類似度が閾値以上であるかを判断することにより、妥当であるかを判断する、請求項５に記載の画像処理装置。
7. 前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
   前記妥当性検証部が、前記第一画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部が、前記第一画素値生成部に代えて前記第三画素値生成部により前記画素値を生成させる、請求項５または６に記載の画像処理装置。
8. さらに、前記妥当性検証部が、前記第三画素値生成部により生成された前記画素値による補間結果の妥当性を判断し、妥当でないと判断した場合、前記制御部が、前記第三画素値生成部に代えて前記第二画素値生成部により前記画素値を生成させる、請求項７に記載の画像処理装置。
9. 前記周期性判定部により前記周期領域と判定された場合に、前記画素に近隣して１以上の参照領域を設定し、前記１以上の参照領域の画像特徴に基づき、前記画素が前記周期領域と該周期領域以外の非周期領域とのいずれに存在するかを判定する境界判定部と、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部とを含み、
   前記制御部が、前記周期性判定部と前記境界判定部とにより得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素値を生成するかを判断する、請求項１〜３のいずれか１項に記載の画像処理装置。
10. 前記第一補間方法は、二次元テンプレートマッチングであり、前記第二補間方法は、内挿法であり、前記第三補間方法は、一次元テンプレートマッチングである、請求項７〜９のいずれか１項に記載の画像処理装置。
11. 画像処理装置により所定の位置にある画素の画素値を生成し、前記画素値により前記画素を補間する方法であって、
    前記画素を含む画像領域が周期的な画素値の変動を伴う周期領域であるかを判定する周期性判定ステップと、
    前記画素を中心として両側に設定される領域の各々が周期領域であるかを判定する部分領域周期性判定ステップと、
    前記周期性判定ステップにより得られた判定結果に基づき、前記画像処理装置が備える第一補間方法を用いて前記画素の画素値を生成する第一画素値生成部と、前記第一補間方法とは異なる第二補間方法を用いて前記画素の画素値を生成する第二画素値生成部のいずれを用いて前記画素値を生成するかを判断する判断ステップと、
    前記判断ステップで判断された前記第一画素値生成部または前記第二画素値生成部が生成した前記画素値を前記画素に挿入する挿入ステップとを含み、
    前記周期性判定ステップが、前記画素を含む画像領域内の各画素の画素値を用いて、画素値の変動周期を計算するステップを含み、
    前記第一補間方法が、パターンマッチング法であり、
    前記方法は、前記第一画素値生成部が、前記計算するステップで計算された前記変動周期を用いて、前記画素を含む基本パターンを生成し、該基本パターンの中心を支点として１以上の異なる角度で回転させ、または該基本パターンを反転させて１以上の回転パターンを生成するステップと、前記部分領域周期性判定ステップの判定結果に基づき、前記画像内の類似パターンを探索する画像領域を決定する領域決定ステップと、前記基本パターンと前記１以上の回転パターンとをテンプレートとして用いて、前記領域決定ステップで決定された前記画像領域内の類似パターンを探索し、探索して得られた前記類似パターンから前記画素の画素値を生成する生成ステップをさらに含む、画素補間方法。
12. 前記第一画素値生成部が、前記計算するステップで計算された前記変動周期に基づき、前記パターンマッチング法で用いられるテンプレートのサイズを決定するサイズ決定ステップを含む、請求項１１に記載の画素補間方法。
13. 前記第二補間方法は、内挿法である、請求項１１または１２に記載の画素補間方法。
14. 生成された前記画素値により補間した補間結果が妥当であるかを検証する検証ステップと、前記検証ステップで前記第一画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第一画素値生成部に代えて前記第二画素値生成部により前記画素値を生成するステップとを含む、請求項１１〜１３のいずれか１項に記載の画素補間方法。
15. 前記検証ステップは、前記第一画素値生成部が前記類似パターンの探索に使用した前記基本パターンまたは前記回転パターンと、前記画素を含む前記基本パターンまたは前記回転パターンとの相違度が閾値未満または類似度が閾値以上であるかを判断することにより、妥当であるかを判断する、請求項１４に記載の画素補間方法。
16. 前記画像処理装置は、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
    前記方法は、前記検証ステップで前記第一画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第一画素値生成部に代えて前記第三画素値生成部により前記画素値を生成するステップをさらに含む、請求項１４または１５に記載の画素補間方法。
17. さらに、前記検証ステップで前記第三画素値生成部により生成された前記画素値による補間結果が妥当でないと判断された場合、前記第三画素値生成部に代えて前記第二画素値生成部により前記画素値を生成するステップを含む、請求項１６に記載の画素補間方法。
18. 前記画像処理装置は、前記第一補間方法および前記第二補間方法とは異なる第三補間方法を用いて前記画素の画素値を生成する第三画素値生成部をさらに含み、
    前記方法は、前記周期性判定ステップで前記周期領域と判定された場合に、前記画素に近隣して１以上の参照領域を設定し、前記１以上の参照領域の画像特徴に基づき、前記画素が前記周期領域と該周期領域以外の非周期領域とのいずれに存在するかを判定する境界判定ステップをさらに含み、
    前記判断ステップでは、前記周期性判定ステップと前記境界判定ステップとにより得られた判定結果に基づき、前記第一画素値生成部と前記第二画素値生成部と前記第三画素値生成部のいずれを用いて前記画素値を生成するかを判断する、請求項１１〜１５のいずれか１項に記載の画素補間方法。
19. 前記第一補間方法は、二次元テンプレートマッチングであり、前記第二補間方法は、内挿法であり、前記第三補間方法は、一次元テンプレートマッチングである、請求項１６〜１８のいずれか１項に記載の画素補間方法。
20. 請求項１１〜１９のいずれか１項に記載の画素補間方法をコンピュータに実行させるためのプログラム。