JP4009805B2 - 画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 - Google Patents
画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 Download PDFInfo
- Publication number
- JP4009805B2 JP4009805B2 JP2000010232A JP2000010232A JP4009805B2 JP 4009805 B2 JP4009805 B2 JP 4009805B2 JP 2000010232 A JP2000010232 A JP 2000010232A JP 2000010232 A JP2000010232 A JP 2000010232A JP 4009805 B2 JP4009805 B2 JP 4009805B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- pixel
- change
- interpolation
- degree
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 210
- 230000008859 change Effects 0.000 claims description 216
- 230000008569 process Effects 0.000 claims description 108
- 238000012545 processing Methods 0.000 claims description 105
- 238000011156 evaluation Methods 0.000 claims description 39
- 239000000470 constituent Substances 0.000 claims description 15
- 230000007423 decrease Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 30
- 238000006243 chemical reaction Methods 0.000 description 19
- 238000004364 calculation method Methods 0.000 description 18
- 239000003086 colorant Substances 0.000 description 5
- 238000003708 edge detection Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000012888 cubic function Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000007792 addition Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 239000000976 ink Substances 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Description
【発明の属する技術分野】
本発明は、複数の画素からなる画像データを補間する画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体に関する。
【0002】
【従来の技術】
コンピュータなどで画像を扱う際には、画像をドットマトリクス状の複数の画素で表現し、各画素を階調値で表している。例えば、コンピュータの画面で水平方向に640ドット、垂直方向に480ドットの画素で写真やコンピュータグラフィックスを表示することが多い。
【0003】
一方、カラープリンタの性能向上がめざましく、そのドット密度は720dpi(dot/inch)というように極めて高精度となっている。すると、640×480ドットの画像をドット単位で対応させて印刷させようとすると極めて小さくなってしまう。この場合、階調値も異なる上、解像度の意味合い自体が異なるのであるから、ドット間を補間して印刷用のデータに変換しなければならない。
【0004】
従来、このような場合にドットを補間する手法として、最近隣内挿法(ニアリストネイバ補間:以下、ニアリスト法と呼ぶ)や、3次たたみ込み内挿法(キュービックコンボリューション補間:以下、キュービック法と呼ぶ)などの手法が知られている。また、特開平6−225140号公報にはドットを補間したときの縁部のスムージングを行うにあたり、予め縁部がスムーズとなるような拡大形態となるようにドットパターンを用意しておく技術が開示されている。
【0005】
【発明が解決しようとする課題】
上述した従来の補間技術においては、次のような課題があった。ニアリスト法においては処理量が少ない反面、補間倍率が大きくなると画像によっては画質の荒さが目立つようになるのが通常である。しかしながら、画像によってはたとえニアリスト法であったとしても画質の荒さが殆ど気にならないこともある。例えば、空のように画像に変化のないようなものであれば殆ど気にならない。
【0006】
一方、キュービック法は補間する画素をなだらかに変化させるため、補間倍率が大きくなったとしてもさほど画質は悪化しない。しかしながら、多次演算を行う関係上、演算量は極めて多大となるし、もともと画像に変化が少ない部分では殆ど意味のないこともある。このように、ニアリスト法やキュービック法などの各種の手法にはそれぞれに得失があるが、利用者がそれを選択するのは難しい。また、一つの画像の中でも部分的に優劣が変化することもある。
【0007】
なお、特開平6−225140号公報に開示された発明においては、予めパターンを要しておくことから補間倍率が固定的にならざるを得ないし、カラーの画像を前提とするとパターンの数が膨大となって予め用意しておくこと自体が困難である。本発明は、上記課題にかんがみてなされたもので、効率よく補間処理することが可能な画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体の提供を目的とする。
【0008】
【課題を解決するための手段】
上記目的を達成するため、請求項1にかかる発明は、画像を複数の画素で表現した画像データを取得する画像データ取得手段と、上記画像データに基づいて各画素の階調値の変化度合いを評価するにあたり、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出することとし、当該画素の階調値の変化度合いと近隣の画素の階調値の変化度合いのうちいずれかが所定の条件に合致すると判断されれば、当該画素については同条件が合致するものとして上記変化度合いを評価する画素変化度合評価手段と、上記画像データにおける構成画素数を増やす補間処理を行なうにあたり上記所定の条件に対応した複数の補間処理を実行可能な画素補間手段と、上記画素変化度合評価手段によって、補間される領域を取り囲む画素のうち所定数以上の画素において上記変化度合いが所定のしきい値よりも大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択して上記画素補間手段を実行させる補間処理選択手段とを具備する構成としてある。
【0009】
上記のように構成した請求項1にかかる発明においては、画像を複数の画素で表現した画像データの構成画素数を増やす補間処理を行うにあたり、画素補間手段は複数の補間処理の中からいずれかを選択して実行可能となっており、画像データ取得手段が対象となる画像データを取得すると、上記画素変化度合評価手段は同画像データに基づいて各画素の階調値の変化度合いを評価する。ここで、画素変化度合評価手段は当該画素の階調値の変化度合いのみならず周囲の画素の階調値の変化度合いも考慮して評価している。より具体的には、当該画素の階調値の変化度合いと近隣の画素の階調値の変化度合いのうちいずれかが所定の条件に合致すると判断されれば、当該画素については同条件が合致するものとして上記変化度合いを評価する。また、その前提として、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出している。
【0010】
そして、上記補間処理選択手段はこの画素変化度合評価手段によって、補間される領域を取り囲む画素のうち所定数以上の画素において上記変化度合いが所定のしきい値よりも大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択して上記画素補間手段に実行させる。この場合、予め各条件に対して最適な補間結果を得ることができるような補間処理を対応させておき、この対応関係に基づいて評価結果から補間処理を選択する。すなわち、画素の階調値の変化度合いは補間処理の具体的手法に密接に関連するので、画素の階調値の変化度合いを評価して積極的に補間処理を変更することにより、無駄のない補間処理を実現する。
【0011】
一方、補間処理の処理内容によっては画素の階調値の変化度合い次第で影響を及ぼす範囲が異なってくる。例えば、補間処理を実行するにあたって必要とする画素の数が一つであるものもあれば、複数の画素に基づいて補間処理するものもある。後者の例であれば、一つでも変化度合いが大きい画素があると補間処理を変えるのか、あるいは一つでも変化度合いが小さい画素があると補間処理を変えるのかといったことが問題となる。そして、補間処理で要する画素が複数であり、そのうちの一つでも変化度合いが大きいときには、二つの態様が考えられる。すなわち、補間処理で対象とする範囲の残り画素については評価する必要が無くなるし、逆に既に評価した画素について変化度合いが小さかったとしても当該評価は不要となる。すなわち、変化度合いが大きい画素がある場合には他の画素における本来の評価に関わらず変化度合いが大きい場合と同様の補間処理を実行することになるので、本来の評価自体を修正する必要がある。
【0012】
本発明では、周囲の画素の階調値の変化度合いも利用して当該画素の階調値の変化度合いを評価しているので、このような二方向の判断を簡素化することになる。ここで、画像データは画像を複数の画素で表現したものであり、各画素についてデータで表したものであればよく、カラー画像であっても良いし、モノクログレースケール画像であってもよい。画像データ取得手段は、かかる画像データを取得するものであり、上記画素補間手段が構成画素を増やすための補間処理を行うにあたり、対象となる画像データを保持するようなものであればよい。従って、その取得手法は特に限定されるものではなく、各種のものを採用可能である。例えば、インターフェイスを介して外部機器から取得するものであってもよいし、撮像手段を備えて画像を撮像するものであっても良い。また、コンピュータグラフィックアプリケーションを実行してマウスやキーボードから入力するものであってもよい。
【0013】
画素変化度合評価手段は、画素の階調値の変化度合いが所定の条件に合致するかを判断するものであり、判断の手法や結果は特に限定されるものではない。例えば、階調値の変化度合いが大きいという条件であるとか、小さいという条件を設定可能である。また、このように単に大きいか小さいかという択一的な判定だけでなく、階調値の変化度合いが所定の範囲に属するかという条件でも良い。さらに、条件は一種類に限る必要もなく、複数としても良い。例えば、階調値の変化度合いにランク付けをして条件を設定しておき、どのランクの条件が合致するかを判断するようにしても良い。むろん、多段階の条件を設定することにより、多段階の補間処理を対応させることができるようにもなる。一方、条件に合致するか否かの判断は評価結果に基づいて行なう必要はない。所定の条件に合致する画素の近隣では同条件が合致するというように評価されているため、この評価結果を利用するとさらにその近隣画素まで条件が成立してしまうからである。むろん、判断の内容として条件が合致する場合にその画素の近隣でどの範囲まで条件が合致することにするのかという判断を含めることも可能である。
【0014】
また、画素の階調値の変化自体については、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出する。むろん、画像の変化度合いを明るさの階調値に基づいて判断するため、比較的容易に同変化度合いを求めることができる。
【0015】
むろん、これ以外にも画素の階調値の変化度合いを把握することは可能であるが、多要素のパラメータで表される画素を一律に把握するにあたって明るさの階調値を利用するのは比較的容易である。請求項2にかかる発明は、請求項1に記載の画像データ補間装置において、画素変化度合評価手段は、各画素の階調値の変化度合いと所定のしきい値とを比較し、当該画素の階調値の変化度合いの方が大きいと判断されるときに上記所定の条件に合致すると評価し、上記補間処理選択手段は、補間される領域を取り囲むすべての画素において上記変化度合いが大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択する構成としてある。
【0016】
上記のように構成した請求項2にかかる発明においては、エッジのような変化度合いが大きい画素であるか否かを判断するが、その際にエッジ画素を取り囲むすべての画素において画素の階調値の変化度合いが大きいものと判定しておく。このように各画素毎に周囲の画素の階調値の変化度合いをも含めて判定しているので、補間処理を行うときに各領域において周囲の画素がすべて変化度合いが大きいものと判定されているかだけを判断し、その場合にのみ変化度合いの大きい画素に適用する補間処理を実施する。
【0017】
画素補間手段では、画素の階調値の変化度合いに関連する複数の補間処理を実行可能であればよく、補間処理自体としては各種の処理が可能である。その一例として、請求項3にかかる発明は、請求項1または請求項2に記載の画像データ補間装置において、上記画素補間手段は、変化度合いの小さい領域で適用して好適な補間処理として、補間処理前の最近隣画素の画像データを新たな構成画素の画像データに利用する補間処理を実行可能な構成としてある。
【0018】
上記のように構成した請求項3にかかる発明においては、一つの補間処理として補間処理前の最近隣画素の画像データを新たな構成画素の画像データに利用するが、同じ画素のデータが増えるとしても変化度合いの小さい領域であれば何ら問題なく、処理量が少ない点で好適である。また、他の一例として、請求項4にかかる発明は、請求項1〜請求項3のいずれかに記載の画像データ補間装置において、上記画素補間手段は、変化度合いの大きい領域で適用して好適な補間処理として補間する画素の階調値がなだらかに変化するように周囲の画素の画像データから演算処理で補間画素の画像データを算出する補間処理を実行可能な構成としてある。
【0019】
上記のように構成した請求項4にかかる発明においては、周囲の画素の画像データを利用して演算処理することにより、補間する画素の階調値はなだらかに変化する。このように、なだらかに変化させると、変化度合いの大きい画素の並びがあったとして、この間を補間したとしても段差が目立たない。補間する画素の階調値がなだらかに変化する演算手法は各種のものを採用可能であるが、その変化態様は画質に影響を与える。従って、ある意味では演算手法を変えることによって画質を調整可能となるともいえる。画質を調整可能な一例として、請求項5にかかる発明は、請求項4に記載の画像データ補間装置において、上記画素補間手段は、変化度合いの大きい画素間で補間画素の画像データを算出するにあたり、画像データの変化態様を略S字型としつつその傾斜を調整するとともに、両端部位では低い側にアンダーシュートを発生させつつ高い側にオーバーシュートを発生させて高低差を形成してその高低差を調整することにより、画像の変化度合いを最適なものとするように調整する構成としてある。
【0020】
上記のように構成した請求項5にかかる発明においては、補間する画素の階調値をなだらかに変化させるにあたり、変化度合いの大きい画素間で画像データの変化態様を略S字型とする。従って、なだらかには変化するもののその変化態様は単に直線的に結ぶ勾配よりは急峻とさせることができ、その傾斜を調整して画像の変化度合いを最適なものとすることが可能となる。また、両端部位で低い側にアンダーシュートを発生させつつ高い側にオーバーシュートを発生させると高低差は大きくなり、かつ、その高低差を調整することによっても見かけ上の画像の変化度合いを最適なものとすることが可能となる。このような演算処理の一例としては、多次演算処理の3次たたみ込み内挿法などを使用可能であるし、かかる調整を可能とする演算処理はこれに限られず、他の演算手法を採用することもできる。
【0021】
画素の階調値の変化度合いが画像全体にわたって一定であることはないため、補間処理選択手段は、適宜、補間処理を選択して切り換えなければならない。そして、かかる切り換えの頻度も特に限定されるものでなく、各種の手法を採用可能である。その一例として、請求項6にかかる発明は、請求項1〜請求項5のいずれかに記載の画像データ補間装置において、上記補間処理選択手段は、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づいて画素単位で上記補間処理を選択して実行させる構成としてある。
【0022】
上記のように構成した請求項6にかかる発明においては、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づき、上記補間処理選択手段が画素単位で上記補間処理を選択して実行させる。すなわち、変化度合いが画素単位で評価される以上、これに対応して補間処理も変更する。また、他の一例として、請求項7にかかる発明は、請求項1〜請求項5のいずれかに記載の画像データ補間装置において、上記補間処理選択手段は、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づいて複数画素からなる所定の小領域毎に上記補間処理を選択して実行させる構成としてある。
【0023】
上記のように構成した請求項7にかかる発明においては、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づき、上記補間処理選択手段が複数画素からなる所定の小領域毎に上記補間処理を選択して実行させる。このように、画像の変化度合いに応じて補間処理を選択する手法は必ずしも実体のある装置に限られる必要はなく、その方法としても機能することは容易に理解できる。このため、請求項8〜請求項14にかかる発明は、上記画像データ補間装置が実施する補間方法に対応した構成としてある。すなわち、必ずしも実体のある装置に限らず、その方法としても有効であることに相違はない。
【0024】
ところで、このような画像データ補間装置は単独で存在する場合もあるし、ある機器に組み込まれた状態で利用されることもあるなど、発明の思想としてはこれに限らず、各種の態様を含むものである。従って、ソフトウェアであったりハードウェアであったりするなど、適宜、変更可能である。発明の思想の具現化例として画像データ補間装置のソフトウェアとなる場合には、かかるソフトウェアを記録した記録媒体上においても当然に存在し、利用されるといわざるをえない。その意味で、請求項17〜請求項24にかかる発明は、上記画像データ補間装置をコンピュータで実施させる各ステップに対応した構成としてある。
【0025】
むろん、その記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体においても全く同様に考えることができる。また、一次複製品、二次複製品などの複製段階については全く問う余地無く同等である。なお、本請求項の媒体とは異なるが、供給方法として通信回線を利用して行なう場合でも本発明が利用されていることにはかわりない。さらに、一部がソフトウェアであって、一部がハードウェアで実現されている場合においても発明の思想において全く異なるものはなく、一部を記録媒体上に記憶しておいて必要に応じて適宜読み込まれるような形態のものとしてあってもよい。
【0026】
また、本画像データ補間装置全体を組み入れる対象の一つには画像出力装置なども当然に上げられる。例えば、ディジタルスチルカメラであるとかビデオカメラなどでは光学ズームに加えてディジタルズームも利用されているが、このようなカメラに組み込んでズームをする際に利用してもよい。また、高機能なテレビジョンにおいても画面をズームすることが可能となっているものもあるが、このような場合にも画像の変化度合いに応じた補間処理でズームするようにしても良い。すなわち、アニメーションなどのように一定の範囲では同じ色が塗られる場合においてはその変化度合いは低く、主に境界部分でのみ変化度合いが大きくなるため、それぞれに応じた補間処理を適宜選択して実施すればよい。
【0027】
【発明の効果】
以上説明したように請求項1、請求項8、請求項15にかかる本発明は、画像の変化度合いに応じて補間処理を変更するとともに、画像の変化度合いを評価する時点で周囲の画素の階調値の変化度合いをも考慮しているので補間処理の判定を煩雑にすることもなく、極めて簡易に最適な補間結果を得ることが可能な画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体を提供することができる。
【0028】
また、請求項2、請求項9、請求項16にかかる発明によれば、変化度合いの大きい画素の評価を予め周囲の画素に反映させておき、その反映結果に基づいて各領域での補間処理を選択するため、選択の処理を簡易にして最適な補間結果を得ることができる。
【0029】
さらに、請求項3、請求項10、請求項17にかかる発明によれば、変化度合いの小さい領域では画質に影響することなく処理量を減らすことができる。さらに、請求項4、請求項11、請求項18にかかる発明によれば、変化度合いの大きい画素の並びについてこの間を補間したとしても段差が目立たたず画質の劣化を防止することができる。さらに、請求項5、請求項12、請求項19にかかる発明によれば、S字カーブの傾斜と、アンダーシュートとオーバーシュートによる高低差とにより、画質の調整を比較的容易に実現できる。
【0030】
さらに、請求項6、請求項13、請求項20にかかる発明によれば、画素単位で補間処理を選択するのできめ細かに補間結果を向上させることができる。さらに、請求項7、請求項14、請求項21にかかる発明によれば、小領域毎に補間処理を選択するので処理を簡易化することができる。
【0031】
【発明の実施の形態】
以下、図面にもとづいて本発明の実施形態を説明する。図1は、本発明の画像データ補間装置を表すクレーム対応図である。ディジタル処理を前提とすると、画像はドットマトリクス状の複数の画素で表現することになり、各画素を表すデータの集まりで画像データが構成される。そして、画素単位で処理する系においては、画像の拡大縮小は画素単位で実施することになる。本画像データ補間装置はこのような画素単位での拡大処理を実施するものであり、画像データ取得手段C1は、このような画像データを取得し、画素補間手段C2はこの画像データにおける構成画素数を増やす補間処理を行う。ここで、画素補間手段C2は補間処理として画素の階調値の変化度合いに対応する複数の補間処理を実行可能となっており、画素変化度合評価手段C3が上記画像データに基づいて画素ごとの変化度合いを評価する。ただし、このときには周囲の画素の階調値の変化度合いの評価も利用した上で最終的に当該画素ごとの変化度合いを評価する。すると、補間処理選択手段C4はそのようにして評価された画素の階調値の変化度合いに対応して最適な補間結果を得ることが可能な補間処理を選択し、上記画素補間手段C2に実行させる。
【0032】
本実施形態においてはこのような画像データ補間装置を実現するハードウェアの一例としてコンピュータシステム10を採用している。図2は、同コンピュータシステム10をブロック図により示している。本コンピュータシステム10は、画像入力デバイスとして、スキャナ11aとデジタルスチルカメラ11bとビデオカメラ11cとを備えており、コンピュータ本体12に接続されている。それぞれの入力デバイスは画像をドットマトリクス状の画素で表現した画像データを生成してコンピュータ本体12に出力可能となっており、ここで同画像データはRGBの三原色においてそれぞれ256階調表示することにより、約1670万色を表現可能となっている。
【0033】
コンピュータ本体12には、外部補助記憶装置としてのフロッピーディスクドライブ13aとハードディスク13bとCD−ROMドライブ13cとが接続されており、ハードディスク13bにはシステム関連の主要プログラムが記録されており、フロッピーディスクやCD−ROMなどから適宜必要なプログラムなどを読み込み可能となっている。また、コンピュータ本体12を外部のネットワークなどに接続するための通信デバイスとしてモデム14aが接続されており、外部のネットワークに同公衆通信回線を介して接続し、ソフトウェアやデータをダウンロードして導入可能となっている。この例ではモデム14aにて電話回線を介して外部にアクセスするようにしているが、LANアダプタを介してネットワークに対してアクセスする構成とすることも可能である。この他、コンピュータ本体12の操作用にキーボード15aやマウス15bも接続されている。
【0034】
さらに、画像出力デバイスとして、ディスプレイ17aとカラープリンタ17bとを備えている。ディスプレイ17aについては水平方向に800画素と垂直方向に600画素の表示エリアを備えており、各画素毎に上述した1670万色の表示が可能となっている。むろん、この解像度は一例に過ぎず、640×480画素であったり、1024×720画素であるなど、適宜、変更可能である。
【0035】
また、カラープリンタ17bはインクジェットプリンタであり、CMYKの四色の色インクを用いて記録媒体たる印刷用紙上にドットを付して画像を印刷可能となっている。画像密度は360×360dpiや720×720dpiといった高密度印刷が可能となっているが、階調表限については色インクを付すか否かといった2階調表現となっている。一方、このような画像入力デバイスを使用して画像を入力しつつ、画像出力デバイスに表示あるいは出力するため、コンピュータ本体12内では所定のプログラムが実行されることになる。そのうち、基本プログラムとして稼働しているのはオペレーティングシステム(OS)12aであり、このオペレーティングシステム12aにはディスプレイ17aでの表示を行わせるディスプレイドライバ(DSP DRV)12bとカラープリンタ17bに印刷出力を行わせるプリンタドライバ(PRT DRV)12cが組み込まれている。これらのドライバ12b,12cの類はディスプレイ17aやカラープリンタ17bの機種に依存しており、それぞれの機種に応じてオペレーティングシステム12aに対して追加変更可能である。また、機種に依存して標準処理以上の付加機能を実現することもできるようになっている。すなわち、オペレーティングシステム12aという標準システム上で共通化した処理体系を維持しつつ、許容される範囲内での各種の追加的処理を実現できる。
【0036】
この基本プログラムとしてのオペレーティングシステム12a上でアプリケーション12dが実行される。アプリケーション12dの処理内容は様々であり、操作デバイスとしてのキーボード15aやマウス15bの操作を監視し、操作された場合には各種の外部機器を適切に制御して対応する演算処理などを実行し、さらには、処理結果をディスプレイ17aに表示したり、カラープリンタ17bに出力したりすることになる。
【0037】
かかるコンピュータシステム10では、画像入力デバイスであるスキャナ11aなどで画像データを取得し、アプリケーション12dによる所定の画像処理を実行した後、画像出力デバイスとしてのディスプレイ17aやカラープリンタ17bに表示出力することが可能である。この場合、単に画素同士の対応に着目すると、カラープリンタ17bにおける画素密度とスキャナ11aの画素密度が一致する場合にはスキャンした元画像の大きさと印刷される画像の大きさとが一致するが、両者にずれがあれば画像の大きさが異なることになる。スキャナ11aの場合はカラープリンタ17bの画素密度と近似するものも多いが、高画質化のために画素密度の向上が図られているカラープリンタ17bの画素密度の方が一般的な画像入力デバイスにおける画素密度よりも高密度であることが多い。特に、ディスプレイ17aの表示密度と比較すると各段に高密度であり、ディスプレイ17a上での表示を画素単位で一致させて印刷させるとなると極めて小さな画像になりかねない。
【0038】
このため、オペレーティングシステム12aで基準となる画素密度を決定しつつ実際のデバイスごとの画素密度の相違を解消するために解像度変換が実施される。例えば、ディスプレイ17aの解像度が72dpiであるとするときに、オペレーティングシステム12aで360dpiを基準とするならば、ディスプレイドライバ12bが両者の間の解像度変換を実施する。また、同様の状況でカラープリンタ17bの解像度が720dpiであればプリンタドライバ12cが解像度変換を実施する。
【0039】
解像度変換は画像データにおける構成画素数を増やす処理にあたるので補間処理に該当し、これらのディスプレイドライバ12bやプリンタドライバ12cがその機能の一つとして補間処理を実施する。ここにおいて、ディスプレイドライバ12bやプリンタドライバ12cは上述した画素補間手段C2はもとより、以下に述べるように画素変化度合評価手段C3や補間処理選択手段C4を実行し、解像度変換において最もバランスの良い補間結果を得ることができるようにしている。なお、かかるディスプレイドライバ12bやプリンタドライバ12cは、ハードディスク13bに記憶されており、起動時にコンピュータ本体12にて読み込まれて稼働する。また、導入時にはCD−ROMであるとかフロッピーディスクなどの媒体に記録されてインストールされる。従って、これらの媒体は画像データ補間プログラムを記録した媒体を構成する。
【0040】
本実施形態においては、画像データ補間装置をコンピュータシステム10として実現しているが、必ずしもかかるコンピュータシステムを必要とするわけではなく、同様の画像データに対して補間処理が必要なシステムであればよい。例えば、図3に示すようにデジタルスチルカメラ11b1内に補間処理する画像データ補間装置を組み込み、補間処理した画像データを用いてディスプレイ17a1に表示させたりカラープリンタ17b1に印字させるようなシステムであっても良い。また、図4に示すように、コンピュータシステムを介することなく画像データを入力して印刷するカラープリンタ17b2においては、スキャナ11a2やデジタルスチルカメラ11b2あるいはモデム14a2等を介して入力される画像データについて自動的に解像度変換を行って印刷処理するように構成することも可能である。
【0041】
この他、図5に示すようなカラーファクシミリ装置18aや図6に示すようなカラーコピー装置18bといった画像データを扱う各種の装置においても当然に適用可能である。図7は、上述したプリンタドライバ12cが実行する解像度変換に関連するソフトウェアフローを示している。ステップST102は元画像データを入力する。アプリケーション12dにてスキャナ11aから画像を読み込み、所定の画像処理を行った後で印刷処理すると、所定の解像度の印刷データがオペレーティングシステム12aを介してプリンタドライバ12cに引き渡されるため、この引渡の段階が該当する。むろん、スキャナ11aにて画像を読み込むものであってもよく、いずれにしても当該処理が画像データ取得手段C1に該当する。
【0042】
ステップST104〜ST108は、読み込んだ画像データにおける画素の階調値の変化度合いを評価する処理である。画像データはRGB256階調で表され、各要素色毎の変化をとるにしても三色分の変化度合いが生じ、このままでは変化度合いを評価するのは困難である。そこで、本実施形態においては、輝度にのみ着目し、輝度勾配をもって変化度合いと判断することとする。ここで、画像データがその成分要素として輝度を持っていればその輝度値を用いて輝度勾配を算出することが可能であるが、上述したようにRGBの各要素色毎に階調表示する本画像データでは直接の成分値とはなっていない。しかしながら、輝度値が直接の成分値となっていない画像データの場合でも、間接的には輝度を表す成分値を備えており、輝度値が直接の成分値となっていない表色空間から輝度値が直接の成分値となっている表色空間への変換を行えば輝度値を得ることができる。
【0043】
異なる表色空間の間での色変換は変換式によって一義的に定まるものではなく、それぞれの成分値を座標とする色空間について相互に対応関係を求めておき、この対応関係を記憶した色変換テーブルを参照して逐次変換する必要がある。すると、厳密には1670万個の要素の色変換テーブルを持たなければならない。効率的な記憶資源の利用を考えた結果、すべての座標値についての対応関係を用意しておくのではなく、通常は適当なとびとびの格子点について対応関係を用意しておき、補間演算を併用することが多い。しかし、かかる補間演算はいくつかの乗算や加算を経て可能となるものであるため、演算処理量は膨大となってくる。
【0044】
すなわち、フルサイズの色変換テーブルを使用するのであれば処理量としては少なくなるもののテーブルサイズが非現実的な問題となり、テーブルサイズを現実的なサイズにすれば演算処理量が非現実的となることが多い。このような状況に鑑み、本実施形態においては、テレビジョンなどの場合に利用されているように、RGBの三原色から輝度を求める次式の変換式を採用している。すなわち、P点での輝度yp についてはRGBの成分値(Rp,Gp,Bp )から、
yp=0.30Rp+0.59Gp+0.11Bp
とする。このようにすれば、三回の乗算と二回の加算だけで輝度値を求めることができるようになる。
【0045】
本実施形態においては、RGBの画像データを対象としている結果、このような変換式を採用しているが、その背景には各成分値が色の明るさを示しているので、それぞれの成分値を単独で見た場合に輝度に線形に対応しているという性質がある。従って、よりおおざっぱに言えばそれぞれの加算割合を考慮することなく単に
yp=(Rp+Gp+Bp)/3
というように簡略化することも不可能ではない。
【0046】
このようにして輝度を求めることとした上で、図8と図9は、輝度勾配を算出するためのエッジ検出フィルタを示している。画像データはドットマトリクス状の画素から構成されているので、注目画素を中心とする近隣の八画素との間で画像の変化度合いを評価すべきである。そういった意味では図9に示すように、注目画素に8倍の重み付けを与えつつ周囲の画素を均等に評価してそれを合算することでフィルタを掛けることが好ましい。しかしながら、経験的には必ずしも周囲の八画素を評価しなくても図8に示すように注目画素と周囲の四画素だけから評価可能である。むろん、四画素を利用するか八画素を利用するかでは演算量の差が大きく、このようにして評価対象を少なくすると処理時間を減らすことができる。
【0047】
図8や図9に示すエッジ検出フィルタを利用した結果を各画素のエッジ量Eと呼ぶと、その分布は図10に示すように正規分布的となることが予想され、画像の変化度合いが大きいエッジ部分であるか否かはしきい値thと比較することによって判定できる。図8と図9に示すエッジ検出フィルタはそれぞれしきい値としてth=32およびth=64というエッジ量のしきい値が妥当する。従って、エッジの画素か否かは次式から評価する。
(E<−th) or (th>E)
この評価をドットマトリクス状の画素の全てに実施するのがステップST106の処理であり、各画素単位でエッジの画素のように画像の変化度合いが大きい画素であるか否かを評価する。
【0048】
ところで、各画素単位で画像の変化度合いが大きいか否かを判定するとしても、補間処理は一定の領域毎に画素を生成する処理であるから、その領域単位で画像の変化度合いが大きいか否かを判定する必要がある。各領域ごとにこの変化度合いを判定するのは煩雑であるから、ステップST108であらかじめエッジ画素であるか否かを判定してフラグを設定する。この場合、図11に示すように、エッジ画素を取り囲む全ての画素において画像の変化度合いが大きいものと判断する。より具体的には、各画素の階調値の変化度合いが図12(a)に示すようになっているとするときに、しきい値が「32」であれば、しきい値を越える画素はxy座標で示すところの(0,0)(3,0)(4,0)(1,1)(2,1)であるとしても、エッジ画素の隣接画素にはフラグを設定することになる。すると、同図(b)に示すようにy=0,1の全画素と、(4,2)を除くy=2の画素についてはフラグが設定されることになる。この結果、後の工程で各画素単位で注目ブロックを移動させていくときにフラグだけを参照して補間処理を適宜選択できるようになる。ここではしきい値を「32」と設定して画素の階調値の変化度合いがこれよりも大きいという条件が設定されているのであり、変化度合いをこのしきい値「32」と比較する判断を行なう。これで大きいと判断されるのは、上述した(0,0)(3,0)(4,0)(1,1)(2,1)という5つの画素であるが、各画素と隣接する画素のいずれかでも条件が合致すれば条件が合致すると評価するのであるから、これらの隣接画素でフラグが設定される。
【0049】
むろん、本実施形態においては、これらのステップST104〜ST108の処理が画素変化度合評価手段C3を構成することになる。以上のように設定したフラグに基づき、ステップST110以下ではループ処理で補間画素を生成していく。図13は既存の画素に対して補間して生成される画素の配置を概略的に示している。既存の画素について仮に座標を(X,Y)として表示し、補間で生成される画素の座標を<X,Y>として表示している。
【0050】
既存の四つの画素で囲まれる一つの領域をブロックと呼び、各ブロックごとに補間する画素の補間処理を選択する。ステップST108では各画素ごとに周囲の画素の階調値の変化度合いも考慮してフラグを設定しているので、各ブロックでは四つの画素(0,0)(1,0)(0,1)(1,1)についていずれについてもフラグが設定されていれば変化度合いの大きい場合の補間処理を選択することになり、どれか一つでもフラグが設定されていなければ変化度合いの小さい場合の補間処理を選択することになる。ステップST110では、この条件に基づいて当該ブロック内部に適用する補間処理を判断し、変化度合いが小さい場合にはステップST112にてニアリスト法による補間処理で補間を実行するし、変化度合いが大きい場合にはステップST114にてキュービック法による補間処理で補間を実行する。また、一つのブロックを補間処理した後、ステップST116とステップST118にて処理対象となるブロックを移動させ、全てのブロックが終了すればステップST120にて補間された画像データを出力する。
【0051】
なお、図中にはステップST118の終了後にステップST110に戻るような流れを実線で示しているが、破線で示すようにブロック毎にエッジ画素を集計する処理を繰り返すようにしても良い。むろん、このような意味でステップST110の処理を中心としてステップST116,ST118の処理を含めて補間処理選択手段C4を構成することになる。なお、プリンタドライバ12cの場合、解像度変換だけで印刷データが得られるわけではなく、色変換であるとか、ハーフトーン処理が必要になる。従って、ここで画像データを出力するというのは、次の段階へのデータの受け渡しを意味することになる。
【0052】
本実施形態の場合は、四つの画素に囲まれる領域をブロックと呼んで補間処理を選択しているが、補間処理を変更する基準は演算能力や補間処理などに応じて適宜変更可能である。例えば、図14に示すように、注目画素を中心とする領域を基準として補間処理する場合もある。このような場合は、かかる注目画素を矢印のように走査させて移動させながら補間処理を適宜実施していけばよい。ここで、注目画素を移動させていきながら補間処理を選択する手法について説明する。上述した例ではブロック毎に変化度合いが大きいか否かを判定するにあたり、当該領域に含まれる全てのフラグが「1」となっている場合にだけ画像の変化度合いが大きい領域と判断している。しかしながら、必ずしもこのように全てのフラグが「1」になっている必要もないともいえる。例えば、図15(a)に示すように4画素で囲まれる領域に補間処理で画素を生成するものとする。この場合、図11でエッジ画素の隣接画素にフラグを立てる関係上、本来であれば上述したように4画素全てにフラグが立っている場合だけが変化度合いの大きい領域と判定することになりえる。しかしながら、このように判断するとブロックを1画素分だ横に移動させた場合には縦の辺が共通する関係で縦の二画素について毎回判断が重複するし、縦方向に移動させれば横の辺が共通する関係で横の二画素について毎回判断が重複する。このような重複状況は演算処理において無駄である。一方、同図(b)に示すように領域の隣接状況を考慮すれば、1領域ごとに左上の1画素を代表させて関連づけることが可能であるし、少なくともエッジ画素に同視しうる画素の近辺で変化度合いが大きいと判断しても対して支障はないといえる。また、隣接画素同士に囲まれる領域というのは実際には極めて微少な領域であることを鑑みても十分であるといえる。そして、このようにして1画素に1領域を対応させれば、ブロックを移動させる際に注目画素を移動させていき、その注目画素のエッジ量だけで領域の変化度合いを判定することが可能となるし、判定に要する演算処理量も低減する。
【0053】
また、補間する画素の側でブロックを形成するようにすることも可能である。図16はこの例を示しており、図中、□の格子点が補間する画素を示し、○の格子点が既存の画素を示している。いま、補間する画素について5×5のブロックを一つとし、その中に含まれる既存の画素のエッジ量に基づいて当該領域が画像の変化度合いの大きいものであるか否かを判断する。この場合、一つのブロックを決めて当該ブロックに含まれる既存の画素を抽出し、そのエッジ量の積算値を求め、当該ブロック内では同一の補間処理で画素を生成すればよい。
【0054】
むろん、以上の場合においてより大きな領域毎にブロックを設定して補間処理を選択しても良く、例えば、10×10画素毎をブロックとすることも可能である。また、ブロックを設定せずに補間する画素毎にそれを取り囲む既存の画素についてのエッジ量を判断して補間処理を選択することも可能である。図16の例で言えば内側に配列される3×3の□の格子点は、いずれも○で示す四つの既存の格子点の中に含まれ、それぞれの□の格子点を生成する際にこれを取り囲む○で示す四つの既存の格子点についてのエッジ量に基づいて補間処理を選択するということである。むろん、演算処理上、このような処理の方が都合よい場合に実現すればよい。すなわち、先に補間処理するブロックを特定して補間処理を決めてからその内部に画素を補間するという手法であっても良いし、補間する画素毎にブロックの状況を判定して補間処理を選択しても良い。
【0055】
さらに、上述したフローではステップST108にて予めエッジ画素に隣接する画素にフラグを設定しておき、ブロック毎に同フラグを参照するようにしている。しかしながら、図7にて破線で示すようにブロックを移動させるフローとすることも可能であり、この場合には敢えてフラグを設定する必要もなく、当該ブロックの周囲の画素のエッジ量を判断して補間処理を選択するようにすれば良い。
【0056】
上述したように別々の補間処理を備えているステップST112,ST114の処理は画素補間手段C2を構成することになる。この場合、画素補間手段C2はソフトウェアで実現されているが、その構成にオペレーティングシステムは必須ではない。すなわち、オペレーティングシステムの関数などを呼び出して所定の機能を実施するようにもできるし、オペレーティングシステムを呼び出すことなく所定の機能を実施するようにもできる。そして、媒体にプログラムが記録されて供給される過程においても、単独で本発明を構成することはいうまでもない。むろん、ソフトウェアで実現する他の構成要素についても全く同様である。
【0057】
ここで、それぞれの補間処理について詳述する。画像の変化度合いが小さい場合に適するとともに演算処理量が極めて少ない補間処理として、ニアリスト法の補間処理がある。ニアリスト法は図17に示すように、周囲の四つの格子点Pij,Pi+1j,Pij+1,Pi+1j+1と内挿したい点Puvとの距離を求め、もっとも近い格子点のデータをそのまま移行させる。これを一般式で表すと、
Puv=Pij
ここで、i=[u+0.5]、j=[v+0.5]である。なお、[]はガウス記号で整数部分を取ることを示している。
【0058】
図18は、ニアリスト法で画素数を縦横3倍ずつに補間する状況を示している。補間される画素は最初の四隅の画素のうちもっとも近い画素のデータをそのまま移行させることになる。従って、図19に示すように白い画素を背景として黒い画素が斜めに配置される元画像は、図20に示すように黒の画素が縦横に3倍に拡大されつつ斜め方向に配置される関係が保持される。ニアリスト法においては、画像のエッジがそのまま保持される特徴を有する。それ故に隣接する画素の差が大きい場合には、拡大するとジャギーが目立つことになる。しかし、背景の空のような部分では隣接する画素の並びにおいて両者の間にさほど変化がなく、拡大しても殆どジャギーは目立たない。また、それ以上に演算量の少なさは処理時間を短縮するうえで極めて効果が大きい。従って、画像の変化度合いが小さい部分で積極的にニアリスト法を選択するメリットは大きい。
【0059】
一方、写真のような自然画に適する一方で演算処理量が大きい補間処理として、キュービック法の補間処理がある。キュービック法は図21に示すように、内挿したい点Puvを取り囲む四つの格子点のみならず、その一周り外周の格子点を含む計16の格子点のデータを利用する。3次たたみ込み関数を用いた一般式は次式のようになる。
【0060】
【数1】
また、ここで距離に応じた影響度合いを3次たたみ込み関数で表すとすると、f(t) = {sin(πt)}/πtとなる。なお、上述した各距離x1〜x4,y1〜y4は格子点Puvの座標値(u,v)について絶対値を利用して次のように算出することになる。
x1 = 1+(u-|u|) y1 = 1+(v-|v|)
x2 = (u-|u|) y2 = (v-|v|)
x3 = 1-(u-|u|) y3 = 1-(v-|v|)
x4 = 2-(u-|u|) y4 = 2-(v-|v|)
以上の前提のもとでPについて展開すると、
【0061】
【数2】
となる。なお、3次たたみ込み関数と呼ばれるように距離に応じた影響度合いf(t)は次のような三次式で近似される。
【0062】
【数3】
このキュービック法では一方の格子点から他方の格子点へと近づくにつれて徐々に変化していき、その変化具合がいわゆる3次関数的になるという特徴を有している。
【0063】
図22と図23はキュービック法にて補間される際の具体例を示している。理解を容易にするため、垂直方向についてのデータの変化はなく、水平方向についてエッジが生じているモデルについて説明する。また、補間する画素を3点とする。まず、図23の具体的数値について説明する。補間前の画素の階調値を左列に「Original」として示しており、階調値「64」の画素(P0、P1、P2、P3)が4点並び、階調値「128」の画素(P4)を1点挟み、階調値「192」の画素(P5、P6、P7、P8、P9)が5点並んでいる。この場合、エッジは階調値「128」の画素の部分である。
【0064】
ここで各画素間に3点の画素(Pn1、Pn2、Pn3)を内挿することになると、内挿される画素間の距離は「0.25」となり、上述したx1〜x4は内挿点毎に表の中程の列の数値となる。x1〜x4に対応してf(x1)〜f(x4)も一義的に計算されることになり、例えば、x1,x2,x3,x4が、それぞれ「1.25」、「0.25」、「0.75」、「1.75」となる場合、それに対するf(t)については、概略「−0.14」、「0.89」、「0.30」、「−0.05」となる。また、x1,x2,x3,x4が、それぞれ「1.50」、「0.50」、「0.50」、「1.50」となる場合、それに対するf(t)については、「−0.125」、「0.625」、「0.625」、「−0.125」となる。また、x1,x2,x3,x4が、それぞれ「1.75」、「0.75」、「0.25」、「1.25」となる場合、それに対するf(t)については、概略「−0.05」、「0.30」、「0.89」、「−0.14」となる。以上の結果を用いて内挿点の階調値を演算した結果を表の右列に示しているとともに、図22においてグラフで示している。なお、このグラフの意味するところについて後に詳述する。
【0065】
垂直方向についてのデータの変化がないものとみなすと、演算は簡略化され、水平方向に並ぶ四つの格子点のデータ(P1,P2,P3,P4 )だけを参照しつつ、内挿点から各格子点までの距離に応じた影響度合いf(t)を利用して次のように算出できる。
P=P1・f(x1)+P21f(x2)+P3・f(x3)+P4・f(x4)
従って、内挿点P21について算出する場合には、
P21=64*f(1.25)+64*f(0.25)+64*f(0.75)+128*f(1.75)
=64*(-0.14063)+64*(0.890625)+64*(0.296875)+128*(-0.04688)
=61
となる。
【0066】
キュービック法によれば3次関数的に表せる以上、そのカーブの形状を調整することによって補間結果の品質を左右することができる。その調整の一例として、
0<t<0.5 f(t) = -(8/7)t**3-(4/7)t**2+1
0.5<t<1 f(t) = (1-t)(10/7)
1<t<1.5 f(t) = (8/7)(t-1)**3+(4/7)(t-1)**2-(t-1)
1.5<t<2 f(t) = (3/7)(t-2)
としたものをMキュービック法と呼ぶことにする。
【0067】
図24はMキュービック法にて補間される際の具体例を示しており、キュービック法の場合と同じ仮定のモデルについて補間した結果を示している。また、図22にもMキュービック法による補間処理結果を示しており、この例では3次関数的なカーブがわずかに急峻となり、画像全体のイメージがシャープとなる。上述したニアリスト法やキュービック法やMキュービック法の特性の理解のために他の補間手法である共1次内挿法(バイリニア補間:以下、バイリニア法と呼ぶ)について説明する。
【0068】
バイリニア法は、図25に示すように、一方の格子点から他方の格子点へと近づくにつれて徐々に変化していく点でキュービック法に近いが、その変化が両側の格子点のデータだけに依存する一次関数的である点で異なる。すなわち、内挿したい点Puvを取り囲む四つの格子点Pij,Pi+1j,Pij+1,Pi+1j+1で区画される領域を当該内挿点Puvで四つの区画に分割し、その面積比で対角位置のデータに重み付けする。これを式で表すと、
P={(i+1)−u}{(j+1)−v}Pij
+{(i+1)−u}{v−j}Pij+1
+{u−i }{(j+1)−v}Pi+1j
+{u−i }{v−j}Pi+1j+1
となる。なお、i=[u]、j=[v]である。
【0069】
二つのキュービック法とバイリニア法は一方の格子点から他方の格子点へと近づくにつれて徐々に変化していく点で共通するが、その変化状況が3次関数的であるか1次関数的であるかが異なり、画像としてみたときの差異は大きい。図26はニアリスト法とキュービック法とMキュービック法とバイリニア法における補間結果の相違を理解しやすくするために二次元的に表した図である。同図において、横軸に位置を示し、縦軸に補間関数を示している。むろん、この補間関数は上述した距離に応じた影響度合いに該当する。t=0、t=1、t=2の位置に格子点が存在し、内挿点はt=0〜1の位置となる。
【0070】
バイリニア法の場合、隣接する二点間(t=0〜1)で直線的に変化するだけであるので境界をスムージングすることになり、画面の印象はぼやけてしまう。すなわち、角部のスムージングと異なり、境界がスムージングされると、本来あるべき輪郭がなくなってしまうし、写真においてはピントが甘くなってしまう。一方、キュービックにおいては、隣接する二点間(t=0〜1)においては山形の凸を描いて徐々に近接するのみならず、さらに同二点間の外側(t=1〜2)において下方に押し下げる効果をもつ。すなわち、エッジ部分は段差が生じない程度に大きな高低差を有するように変化され、写真においてはシャープさを増しつつ段差が生じないという好適な影響を及ぼす。また、Mキュービックではよりシャープさを増す影響を及ぼす。なお、キュービック法は演算処理量が大きく、補間倍率が大きくなって補間すべき画素数が大きくなれば多大な演算処理量を要することになる。
【0071】
画質の面を重視すれば、キュービック法のような三次関数を選びそうであるが、コンピュータの処理では速度と画質のバランスも大きい。すなわち、画質の向上程度に応じて処理速度の低下具合の許容度が大きくなるが、画質の向上が微量あるいは多少画質が向上落ちるとしても処理速度が高速である方を好むという場合もある。一方、以上のような補間関数の比較とともに具体的な数値を示す図22、図23、図24を参照するとより理解しやすい。図22の例を参照し、もともとのエッジ部分である階調値「64」の画素(P3)と、階調値「128」の画素(P4)と、階調値「192」の画素(P5)という三点に注目してみると、単純に直線的に連結する手法はバイリニア法に相当し、これに対してキュービック法では具体的なS字カーブが形成されているし、Mキュービック法ではそのS字カーブがより急峻となっている。むろん、S字カーブの方向は画素の階調値変化を急峻とするものであり、エッジが強調されている。また、このエッジ画素に隣接する領域(P2〜P3、P5〜P6)ではいわゆるアンダーシュートとオーバーシュートが生じており、低い側に生じるアンダーシュートと高い側に生じるオーバーシュートにより、エッジ画素を挟む両側の高低差が大きくなる。従って、これらの二つの要因によってエッジが強調されることが理解できる。
【0072】
画像がシャープに見えるか否かはこのS字カーブにおける中央部分の傾斜角度が影響を与えることも容易に理解できる。また、エッジの両側のアンダーシュートとオーバーシュートによって生じる高低差も同様に影響を与えるものといえる。すなわち、高次関数を利用して画像データの変化態様を略S字型とし、画像データの低い側から高い側に移行するときに一旦は最低値よりも減少してから上昇して最高値を超して再び減少させている。そして、その際のアンダーシュートと傾斜度合いとオーバーシュートとを上記高次関数のパラメータで調整して画像の変化度合いを最適なものとさせている。
【0073】
一方、このような関係は図26に示す補間関数においてt=0〜1の区間において傾斜が急となりつつ、t=1〜2の区間において増加した重み分を打ち消すように負の側へ引き寄せるカーブとなっている場合に生じる。従って、シャープさを調整しようとする場合には、(1)補間関数においてシャープさの基準となる理想的な傾斜を決定し、(2)t=0〜1の区間において上記傾斜を発生させるカーブを決定し、(3)t=1〜2の区間においてこのカーブによって増える重み付けを相殺するように負の側に引き寄せつつ、オーバーシュートとアンダーシュートが生じやすいカーブを決定することによって実現できる。むろん、この後の作業では特定されるカーブとなるように多次演算関数のパラメータを決定するが、かかるパラメータの決定方法は極めて多様であるから、実質的な意味でS字カーブにおける中央部分の傾斜角度とアンダーシュート及びオーバーシュートを調整することに他ならない。
【0074】
各補間処理には以上のような特性の違いがあり、ステップST110にて画像の変化度合いが小さいと判断されたブロックでは、ステップST112にてニアリスト法の補間処理を実行するし、逆に変化度合いが大きいと判断されたブロックでは、キュービック法やMキュービック法の補間処理を実行する。キュービック法で補間処理をする場合には演算時間が多大となってしまうものの、画像の変化度合いが小さいような部分ではニアリスト法に切り替えるため、全体としての処理時間は極めて低減する。特に、コンピュータグラフィックスのように同色で一定領域を塗りつぶしてあるような場合には一律にニアリスト法を実行しても全く問題ないので、処理時間は低減する。また、自然画であっても拡大したときにジャギーが目立ちやすい部分というのは面積比でいってもそれほど大きくないのが普通であるから、このように画像の変化度合いを逐次切り替えることによって画質を劣化させることなく処理量を低減させることができる。
【0075】
本実施形態においては、フラグによって二種類ある補間処理のいずれかを実行するようにしているが、画素の階調値の変化度合いに対して段階的に対応する複数の補間処理を実行するようにしても良い。また、図27に示すように、二つの補間処理を重ねて実行することとしてその拡大倍率を画像の変化度合いに対応させるようにしても良い。例えば、補間倍率が5倍であるとして画像の変化度合いが小さめであればニアリスト法で5倍に補間処理するし、画像の変化度合いが大きめであればキュービック法で5倍の補間処理する。これらの場合は上述した実施形態と同様であるが、画像の変化度合いが中間的な値である場合にはキュービック法で2倍に補間処理し、残りの2.5倍をニアリスト法で補間処理する。このようにして二つの補間処理でありながら実質的には画像の変化度合いに応じた複数の補間処理を選択できることになる。
【0076】
なお、キュービック法のように補間処理の演算量が大きいものについては、あえて補間倍率を2倍というような整数倍とするメリットがある。図28は水平方向と垂直方向に2倍に補間する処理例を示している。予め、補間後の画像データについての変数領域を確保するとして、整数倍の補間処理であれば元画像の画像データは整数倍した座標値に対応する画素の画像データとなる。図に示す例で言えば、旧座標値(0,0)は新座標値(0,0)に対応し、旧座標値(1,0)は新座標値(2,0)に対応し、旧座標値(0,1)は新座標値(0,2)に対応し、旧座標値(1,1)は新座標値(2,2)に対応するということである。
【0077】
すなわち、補間処理自体は任意の倍率で実行可能であるにしても、整数倍の補間処理だけを実行するようにすると、補間すべき画素が減り、処理の高速化を図ることができる。このように、画像入力デバイスを有するとともに画像出力デバイスを有するコンピュータシステム10において、プリンタドライバ12cはステップST102にて元画像データを入力した後、ステップST104〜108にて画像の変化度合いをその周囲の画素の階調値の変化度合いの評価も利用しながら検出してフラグを設定しておき、ステップST110にて同フラグを参照することにより、画像の変化度合いの小さいブロックではステップST112にてニアリスト法による補間処理を実行するし、画像の変化度合いの大きいブロックではステップST114にてキュービック法による補間処理を実行するようにしたため、補間処理の判定を煩雑にすることなく、画質を劣化させない範囲でできる限りニアリスト法を実行するように制御され、自動的に最適な補間処理を選択しつつ演算処理量を低減させる。
【図面の簡単な説明】
【図1】本発明の一実施形態にかかる画像データ補間装置のクレーム対応図である。
【図2】同画像データ補間装置の具体的ハードウェアのブロック図である。
【図3】本発明の画像データ補間装置の他の適用例を示す概略ブロック図である。
【図4】本発明の画像データ補間装置の他の適用例を示す概略ブロック図である。
【図5】本発明の画像データ補間装置の他の適用例を示す概略ブロック図である。
【図6】本発明の画像データ補間装置の他の適用例を示す概略ブロック図である。
【図7】本発明の画像データ補間装置におけるフローチャートである。
【図8】エッジ検出フィルタの一例を示す図である。
【図9】エッジ検出フィルタの他の一例を示す図である。
【図10】エッジ量の分布としきい値との関係を示す図である。
【図11】注目画素とフラグの設定判断で対象とする画素の関係を示す図である。
【図12】エッジ量とフラグの設定状況を示す図である。
【図13】既存の画素で形成されるブロックと補間する画素との関係を示す図である。
【図14】注目画素を基準としてブロックを形成する場合を示す図である。
【図15】フラグの状況と領域の対応を示す図である。
【図16】補間する画素でブロックを形成する場合を示す図である。
【図17】ニアリスト法の概念図である。
【図18】ニアリスト法で各格子点のデータが移行される状況を示す図である。
【図19】ニアリスト法の補間前の状況を示す概略図である。
【図20】ニアリスト法の補間後の状況を示す概略図である。
【図21】キュービック法の概念図である。
【図22】キュービック法の具体的適用時におけるデータの変化状況を示す図である。
【図23】キュービック法の具体的適用例を示す図である。
【図24】ハイブリッドバイキュービック法の具体的適用例を示す図である。
【図25】バイリニア法の概念図である。
【図26】補間関数の変化状況を示す図である。
【図27】画像の変化度合いに応じて複数の補間処理の補間倍率を分配する関係を示す図である。
【図28】整数倍の補間処理を示す概略図である。
【符号の説明】
10…コンピュータシステム
11a…スキャナ
11a2…スキャナ
11b…デジタルスチルカメラ
11b1…デジタルスチルカメラ
11b2…デジタルスチルカメラ
11c…ビデオカメラ
12…コンピュータ本体
12a…オペレーティングシステム
12b…ディスプレイドライバ
12b…ドライバ
12c…プリンタドライバ
12d…アプリケーション
13a…フロッピーディスクドライブ
13b…ハードディスク
13c…CD−ROMドライブ
14a…モデム
14a2…モデム
15a…キーボード
15b…マウス
17a…ディスプレイ
17a1…ディスプレイ
17b…カラープリンタ
17b1…カラープリンタ
17b2…カラープリンタ
18a…カラーファクシミリ装置
18b…カラーコピー装置
Claims (21)
- 画像を複数の画素で表現した画像データを取得する画像データ取得手段と、
上記画像データに基づいて各画素の階調値の変化度合いを評価するにあたり、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出することとし、当該画素の階調値の変化度合いと近隣の画素の階調値の変化度合いのうちいずれかが所定の条件に合致すると判断されれば、当該画素については同条件が合致するものとして上記変化度合いを評価する画素変化度合評価手段と、
上記画像データにおける構成画素数を増やす補間処理を行なうにあたり上記所定の条件に対応した複数の補間処理を実行可能な画素補間手段と、
上記画素変化度合評価手段によって、補間される領域を取り囲む画素のうち所定数以上の画素において上記変化度合いが所定のしきい値よりも大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択して上記画素補間手段を実行させる補間処理選択手段とを具備することを特徴とする画像データ補間装置。 - 上記請求項1に記載の画像データ補間装置において、
画素変化度合評価手段は、各画素の階調値の変化度合いと所定のしきい値とを比較し、当該画素の階調値の変化度合いの方が大きいと判断されるときに上記所定の条件に合致すると評価し、
上記補間処理選択手段は、補間される領域を取り囲むすべての画素において上記変化度合いが大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択することを特徴とする画像データ補間装置。 - 上記請求項1に記載の画像データ補間装置において、
上記画素補間手段は、上記画素変化度合評価手段によって、補間される領域を取り囲む画素のうち、上記変化度合いが上記所定のしきい値よりも大きいと評価されている画素の数が上記所定数未満であるときに、補間処理前の最近隣画素の画像データを新たな構成画素の画像データに利用する補間処理を実行可能であることを特徴とする画像データ補間装置。 - 上記請求項1または請求項3に記載の画像データ補間装置において、
上記画素補間手段は、上記画素変化度合評価手段によって、補間される領域を取り囲む画素のうち、上記所定数以上の画素において上記変化度合いが上記所定のしきい値よりも大きいと評価されているときに、補間する画素の階調値がなだらかに変化するように周囲の画素の画像データから演算処理で補間画素の画像データを算出する補間処理を実行可能であることを特徴とする画像データ補間装置。 - 上記請求項4に記載の画像データ補間装置において、
上記画素補間手段は、高次関数を利用して画像データの変化態様を略S字型とし、画像データの低い側から高い側に移行するときに一旦は最低値よりも減少してから上昇して最高値を超して再び減少させ、その際のアンダーシュートと傾斜度合いとオーバーシュートとを上記高次関数のパラメータで調整して画像の変化度合いを最適なものとさせることを特徴とする画像データ補間装置。 - 上記請求項1〜請求項5のいずれか一項に記載の画像データ補間装置において、
上記補間処理選択手段は、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づいて画素単位で上記補間処理を選択して実行させることを特徴とする画像データ補間装置。 - 上記請求項1〜請求項5のいずれか一項に記載の画像データ補間装置において、
上記補間処理選択手段は、上記画素変化度合評価手段によって評価された画素の階調値の変化度合いに基づいて複数画素からなる所定の小領域毎に上記補間処理を選択して実行させることを特徴とする画像データ補間装置。 - 画像を複数の画素で表現した画像データについてその構成画素数を増やす画像データ補間方法であって、
画像データ取得手段により上記画像データを取得する工程と、
画像変化度合評価手段により上記画像データに基づいて各画素の階調値の変化度合いを評価するにあたり、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出することとし、当該画素の階調値の変化度合いと近隣の画素の階調値の変化度合いのうちいずれかが所定の条件に合致すると判断されれば、当該画素については同条件が合致するものとして上記変化度合いを評価する工程と、
上記評価に基づいて補間される領域を取り囲む画素のうち所定数以上の画素において上記変化度合いが所定のしきい値よりも大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を補間処理選択手段により選択する工程と、
選択された補間処理で上記画像データにおける構成画素数を画素補間手段により増やす工程とを具備することを特徴とする画像データ補間方法。 - 上記請求項8に記載の画像データ補間方法において、
各画素の階調値の変化度合いと所定のしきい値とを比較し、当該画素の階調値の変化度合いの方が大きいと判断されるときに上記所定の条件に合致すると評価し、補間される領域を取り囲むすべての画素において上記変化度合いが大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択することを特徴とする画像データ補間方法。 - 上記請求項8に記載の画像データ補間方法において、
上記変化度合いを評価する工程において、補間される領域を取り囲む画素のうち、上記変化度合いが上記所定のしきい値よりも大きいと評価されている画素の数が上記所定数未満であるときに、補間処理前の最近隣画素の画像データを新たな構成画素の画像データに利用する補間処理を実行可能であることを特徴とする画像データ補間方法。 - 上記請求項8または請求項10に記載の画像データ補間方法において、
上記変化度合いを評価する工程において、補間される領域を取り囲む画素のうち、上記所定数以上の画素において上記変化度合いが上記所定のしきい値よりも大きいと評価されているときに、補間する画素の階調値がなだらかに変化するように周囲の画素の画像データから演算処理で補間画素の画像データを算出する補間処理を実行可能であることを特徴とする画像データ補間方法。 - 上記請求項11に記載の画像データ補間方法において、
高次関数を利用して画像データの変化態様を略S字型とし、画像データの低い側から高い側に移行するときに一旦は最低値よりも減少してから上昇して最高値を超して再び減少させ、その際のアンダーシュートと傾斜度合いとオーバーシュートとを上記高次関数のパラメータで調整して画像の変化度合いを最適なものとさせることを特徴とする画像データ補間方法。 - 上記請求項8〜請求項12のいずれか一項に記載の画像データ補間方法において、
評価された画素の階調値の変化度合いに基づいて画素単位で上記補間処理を選択して実行させることを特徴とする画像データ補間方法。 - 上記請求項8〜請求項12のいずれか一項に記載の画像データ補間方法において、
評価された画素の階調値の変化度合いに基づいて複数画素からなる所定の小領域毎に上記補間処理を選択して実行させることを特徴とする画像データ補間方法。 - 画像を複数の画素で表現した画像データについてその構成画素数を増やすようにコンピュータに補間処理を実行させる画像データ補間プログラムを記録した媒体であって、
画像データ取得手段により上記画像データを取得するステップと、
画像変化度合評価手段により上記画像データに基づいて各画素の階調値の変化度合いを評価するにあたり、各画素の明るさの階調値を求めるとともに周囲の画素の明るさの階調値との比較で上記変化度合いを算出することとし、当該画素の階調値の変化度合いと近隣の画素の階調値の変化度合いのうちいずれかが所定の条件に合致すると判断されれば、当該画素については同条件が合致するものとして上記変化度合いを評価するステップと、
上記評価に基づいて補間される領域を取り囲む画素のうち所定数以上の画素において上記変化度合いが所定のしきい値よりも大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を補間処理選択手段により選択するステップと、
選択された補間処理で上記画像データにおける構成画素数を画素補間手段により増やすステップとを具備することを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項15に記載の画像データ補間プログラムを記録した媒体において、
各画素の階調値の変化度合いと所定のしきい値とを比較し、当該画素の階調値の変化度合いの方が大きいと判断されるときに上記所定の条件に合致すると評価し、補間される領域を取り囲むすべての画素において上記変化度合いが大きいと評価されているときに変化度合いの大きい画素に適用する補間処理を選択することを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項15に記載の画像データ補間プログラムを記録した媒体において、
上記変化度合いを評価するステップにおいて、補間される領域を取り囲む画素のうち、上記変化度合いが上記所定のしきい値よりも大きいと評価されている画素の数が上記所定数未満であるときに、補間処理前の最近隣画素の画像データを新たな構成画素の画像データに利用する補間処理を実行可能であることを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項15または請求項17に記載の画像データ補間プログラムを記録した媒体において、
上記変化度合いを評価するステップにおいて、補間される領域を取り囲む画素のうち、上記所定数以上の画素において上記変化度合いが上記所定のしきい値よりも大きいと評価されているときに、補間する画素の階調値がなだらかに変化するように周囲の画素の画像データから演算処理で補間画素の画像データを算出する補間処理を実行可能であることを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項18に記載の画像データ補間プログラムを記録した媒体において、
高次関数を利用して画像データの変化態様を略S字型とし、画像データの低い側から高い側に移行するときに一旦は最低値よりも減少してから上昇して最高値を超して再び減少させ、その際のアンダーシュートと傾斜度合いとオーバーシュートとを上記高次関数のパラメータで調整して画像の変化度合いを最適なものとさせることを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項15〜請求項19のいずれか一項に記載の画像データ補間プログラムを記録した媒体において、
評価された画素の階調値の変化度合いに基づいて画素単位で上記補間処理を選択して実行させることを特徴とする画像データ補間プログラムを記録した媒体。 - 上記請求項15〜請求項19のいずれか一項に記載の画像データ補間プログラムを記録した媒体において、
評価された画素の階調値の変化度合いに基づいて複数画素からなる所定の小領域毎に上記補間処理を選択して実行させることを特徴とする画像データ補間プログラムを記録した媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000010232A JP4009805B2 (ja) | 1998-04-06 | 2000-01-14 | 画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9373998 | 1998-04-06 | ||
JP2000010232A JP4009805B2 (ja) | 1998-04-06 | 2000-01-14 | 画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10093741A Division JP3045134B2 (ja) | 1998-04-06 | 1998-04-06 | 画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2000188681A JP2000188681A (ja) | 2000-07-04 |
JP2000188681A5 JP2000188681A5 (ja) | 2005-09-15 |
JP4009805B2 true JP4009805B2 (ja) | 2007-11-21 |
Family
ID=18538268
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000010232A Expired - Fee Related JP4009805B2 (ja) | 1998-04-06 | 2000-01-14 | 画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4009805B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7163892B2 (en) | 2000-05-02 | 2007-01-16 | Catalysts & Chemicals Industries Co., Ltd. | Process for producing integrated circuit, and substrate with integrated circuit |
-
2000
- 2000-01-14 JP JP2000010232A patent/JP4009805B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000188681A (ja) | 2000-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0949585B1 (en) | Apparatus and method for image data interpolation | |
EP0949586A2 (en) | Apparatus and method for image data interpolation | |
JP3075269B2 (ja) | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録した媒体 | |
JP3167120B2 (ja) | 画像処理装置及び方法 | |
JP2007266699A (ja) | 画像データ変換処理装置および画像データ変換処理方法 | |
JP4058583B2 (ja) | 印刷制御装置、印刷制御方法および印刷制御プログラムを記録した媒体 | |
JP3045134B2 (ja) | 画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP4009805B2 (ja) | 画像データ補間装置、画像データ補間方法、画像データ補間プログラムを記録した媒体 | |
JP3201338B2 (ja) | 画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP4400760B2 (ja) | 画像データ補間装置、画像データ印刷装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP3173496B2 (ja) | 画像データ補間装置、画像データ補間処理用コンピュータ、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP3063754B2 (ja) | 画像デ―タ補間装置、画像デ―タ補間方法、画像デ―タ補間プログラムを記録した媒体 | |
JP3478498B2 (ja) | オブジェクト画素判断装置、オブジェクト画素判断方法、オブジェクト画素判断プログラムを記録した媒体およびオブジェクト画素判断プログラム | |
JP4171902B2 (ja) | オブジェクト画素抽出装置、オブジェクト画素抽出方法、オブジェクト画素抽出プログラムを記録した媒体およびオブジェクト画素抽出プログラム | |
JP3581460B2 (ja) | 画像処理方法とその装置 | |
JP2962310B1 (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した媒体 | |
JP3462423B2 (ja) | 印刷制御プログラムを記録した媒体、印刷制御装置および印刷制御方法 | |
JP4115073B2 (ja) | 画像処理装置および画像処理方法 | |
JP2000076430A5 (ja) | ||
JP3815514B2 (ja) | 拡大画像の画素高速補間方式および画像処理装置 | |
JP2000076430A (ja) | 画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP3054338B2 (ja) | 画像処理装置およびその方法 | |
JP4081628B2 (ja) | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JPH07262351A (ja) | 画像処理装置及びその制御方法 | |
JP3758030B2 (ja) | 画像データ補間プログラム、画像データ補間方法および画像データ補間装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050406 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070606 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070717 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070808 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070821 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110914 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130914 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |