JP4140472B2 - 形成画像検査装置 - Google Patents

形成画像検査装置 Download PDF

Info

Publication number
JP4140472B2
JP4140472B2 JP2003278126A JP2003278126A JP4140472B2 JP 4140472 B2 JP4140472 B2 JP 4140472B2 JP 2003278126 A JP2003278126 A JP 2003278126A JP 2003278126 A JP2003278126 A JP 2003278126A JP 4140472 B2 JP4140472 B2 JP 4140472B2
Authority
JP
Japan
Prior art keywords
image
determination
information
determination criterion
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003278126A
Other languages
English (en)
Other versions
JP2005045585A (ja
Inventor
靖幸 田中
善弥 伊本
理夫 菊地
賢治 表木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2003278126A priority Critical patent/JP4140472B2/ja
Publication of JP2005045585A publication Critical patent/JP2005045585A/ja
Application granted granted Critical
Publication of JP4140472B2 publication Critical patent/JP4140472B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Facsimiles In General (AREA)
  • Image Analysis (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)
  • Control Or Security For Electrophotography (AREA)

Description

本発明は、画像形成装置より出力された画像が、この画像の元となる原稿画像に対して正しく形成されたものか検査を行う装置に関する。
画像情報に基づき用紙などの記録媒体上の画像を形成する画像形成装置が知られている。このような画像形成装置において、形成された画像が、その元となる画像情報のとおりに形成されたかを確認または検査したいという要求がある。この要求に応えるために、形成された画像を検査する装置が提供されている。このような検査装置において、良否判定の基準を変更したいという要求がある。すなわち、元の画像に対してそのとおりに形成されていない部分すなわち欠陥がある場合に、どの程度までの欠陥を許容するのかの基準またはしきい値を変更したいという要求がある。従来、判定基準を変更するには、保守担当者が、判定に用いられるパラメータやソフトウエアのアルゴリズムを直接変更するか、使用者が代表的な少数のパラメータに対して、個々に判定を甘くする方向か、厳しくする方向かを指示するなどの方法がとられていた。例えば、特許文献1には、欠陥検出のしきい値を一次式の係数を指定して補正して、判断基準の変更を行っていた。
特開平10−132757号公報
しかしながら、保守担当者によるパラメータやアルゴリズムの変更は、大がかりなものとなり、頻繁に行うことはできない。また、最大公約数的な意見を集約して判定基準が定められるため、個々の使用者にとっては、自分の要求を必ずしも満たすものとはならない場合があった。
また、いくつかのパラメータを使用者自身が設定する場合、ある欠陥が、どのようなパラメータの設定をすることによって検出可能となるのか、使用者にとってわかりにくく、適切な設定を行うことが難しかった。
本発明は、形成された画像に基づき判定基準を更新する検査装置を提供することを目的とする。
本発明は、当該装置を利用する使用者の良否判定の結果に基づき、あらかじめ定められている判定基準情報を修正し、次回からの基準として用いる。使用者は、良否を判断すればよく、判断基準に対して、そのパラメータ設定、アルゴリズムの変更などを行う必要がない。
判定基準情報は、画像形成の元の情報(基準画像情報)と、形成された画像から読取った情報(対象画像情報)の個々の画像情報から得られる複数の特徴量と、その画像情報の良否判定結果とに基づき算出されるものとすることができる。形成画像の検査を行うごとに、対象画像情報の特徴量と良否判定結果を、過去の判定基準情報に加えて新たな判定基準情報を作成することができる。また、装置が判定基準情報に基づき行った判定と、使用者の判定が異なったときに、そのときの対象画像情報の特徴量と判定結果をそれまでの判定基準情報に加えて新たな判定基準情報を算出してもよい。この場合、検査を行うたびに判定基準を更新する場合に比して、判定基準情報の算出頻度は低下するので、装置の演算負担は低減される。
また、判定基準情報はテンプレートを用いることができる。テンプレートは、特徴的な画像の欠陥を個々に特徴的に示すテンプレートすることができ、装置の判定と異なる判定を使用者が行った場合、判定の相違の元となった画像欠陥に基づき新たなテンプレートを追加または削除するようにできる。装置が良と判定し、使用者が否と判定した場合は、使用者の判定の根拠となった画像欠陥に対応するテンプレートを作成して、これを追加するようにできる。また、逆に装置が否と判定し、使用者が良とした場合には、装置の判定の根拠となったテンプレートを削除するようにもできる。
また、複数の画像欠陥の例に基づき作成された単一のテンプレートを用いる場合は、装置の判定と、使用者の判定が異なった場合に、判定の相違の元となった画像欠陥を加え、または除いて新たなテンプレートを作成するようにできる。
以下、本発明の実施の形態(以下実施形態という)を、図面に従って説明する。図1は、本実施形態の、画像形成装置10により形成された画像の検査を行う画像検査装置12の概略構成を示す図である。画像形成装置10は、記録媒体上に画像を形成するどのような形式の装置も含まれるが、以下の説明においてはコンピュータの出力装置としてのプリンタを想定している。プリンタにおいて記録媒体上に画像を形成する処理をここでは印刷と称している。同様に、所定の情報に基づきその上に画像形成された記録媒体を印刷物と称する。
画像形成装置10は、クライアントコンピュータ14から印刷のジョブを受信すると、ジョブに記載されたページ記述言語(PDL)を解釈して、原稿画像情報16の生成を行う。原稿画像情報16に基づき印刷部18にて記録媒体である用紙上に印刷を行う。印刷が行われた用紙、すなわち印刷物20は、画像検査装置12により、所定の品質で印刷が行われたかが判定され、その判定に応じて分別部22にて分別され、出力される。検査済みの印刷物24は、例えば別個のトレイに排出されるなどして、その良否が識別可能となるように出力される。
画像検査装置12は、原稿画像情報16を、印刷された画像の良否判断の基準とする画像として、基準画像取得部26により取得し、さらにこの画像の特徴量の算出を特徴量算出部28で行う。画像の特徴量は、例えば、単色多値画像であれば、注目画素を含む近隣数〜数十画素からなる画素領域の画素値の最大値、最小値、平均値、中央値、分散、標準偏差、レンジ(最大、最小値の差)、空間周波数分布などである。また、フルカラー画像の場合であれば、RGB、CMYKまたはL***などの色空間に変換した後の個々の色成分ごとの、画素値の最大値、最小値、平均値など前述の特徴量である。
また、印刷物20上の画像について、検査対象となる画像として対象画像読取部30にて読取を行う。対象画像の読取に係る構成は既知のスキャナなどの構成を利用できる。対象画像読取部30で取得された対象画像について、特徴量算出部32にて特徴量の算出が行われる。この特徴量の算出は、前述の基準画像に対する場合と同様である。
基準画像および対象画像の特徴量から、判定部34にて印刷された画像の良否が判定される。判定部34の判定においては、事前に定められた判定基準が参照される。判定基準は、あらかじめ、良と判定された画像情報と不良と判定された画像情報とから、その特徴量に対し、主成分分析などを行うことにより、良・不良を分離できるベクトル空間を求めておき、この空間を判定基準として用いる。例えば、この空間における基準画像と対象画像の距離(例えばマハラノビス距離)を基準として、印刷物の良否判定を行う。印刷された画像、すなわち対象画像が基準画像に近ければ(距離が短い)良と判定でき、ある程度遠ければ画像上に許容できない何らかの欠陥が発生しており、不良と判断できる。この判定基準の空間は、判定基準空間記憶部36に記憶される。
判定部34の判定結果に基づき分別部22により印刷物20の分別が行われる。また、この判定結果および算出された特徴量が、特徴量・判定結果記憶部38に記憶される。また、対象画像についての特徴量と画像の判定結果は、対応づけて記憶されている。一方、対象画像読取部30で読み取られた対象画像情報は、画像記憶部40に記憶される。対象画像情報を記憶しておくことにより、注目する印刷物に対応する画像情報を呼び出して直ちに表示することができる。
使用者は、検査済印刷物24を見て、これに対応する対象画像を表示させることができる。例えば、検査装置においては良品と判断された印刷物を使用者は不良と判断し、その画像を確認する場合、使用者は表示制御部42を操作して、この印刷された画像に対応する対象画像を表示/入力部44に表示させることができる。そして、この画像に関する検査装置の判定結果を覆す指令を、表示/入力部44から入力する。この入力によって、判定基準更新部46は、判定基準空間の再算出を行う。すなわち、使用者によって不良と判定された画像に関する特徴量、および過去の画像の特徴量と判定結果を特徴量・判定結果記憶部38より読み出し、これらに基づき良・不良を分離できる空間を算出し、これにより判定基準空間記憶部36に記憶される判定基準の空間を更新する。また、使用者に判定が覆された画像に関して、特徴量・判定結果記憶部38に記憶される判定結果について修正する。
また、表示/入力部44から画像上の欠陥を使用者が指摘することができるようにしてもよい。さらに、表示/入力部44をタッチパネルディスプレイにより構成し、ここに表示された対象画像の欠陥部分を直接触れて欠陥の位置を入力できるようにしてもよい。
画像記憶部40に記憶される画像は、複数の画像とすることが好ましく、画像形成装置10に印刷させつつ、過去に印刷された画像を表示するようにできることが好ましい。また、出力された印刷物のそれぞれに、この印刷物が特定される情報を書き込んでおき、この情報を入力することにより、その画像に関する判定の変更を行ってもよい。これによれば、画像を表示させる必要はなく、よって画像記憶部40も省略することができる。
また、判定基準となる空間は、一つと限らず、用途(例えば文字画像、写真画像などの画像の種類)ごと、使用者ごとなどに対応して複数用意しておくことができ、これらは別個に更新される。また、判定基準の空間の初期値48は、判定基準が更新されても記憶しておき、必要に応じて初期値に戻すようにできる。
図2は、他の実施形態である画像検査装置50の概略構成を示す図である。画像検査装置50は、前述の画像検査装置10と同様に画像形成装置10により形成された画像の検査を行うものである。画像検査装置10の各構成要素など、図1に示したものと同一の構成要素については、同一の符号を付し、その説明を省略する。
画像検査装置12は、原稿画像情報16を、印刷された画像の良否判断の基準とする画像として、基準画像取得部26により取得する。また、印刷物20上の画像について、検査対象となる画像として対象画像読取部30にて読取を行う。基準画像と対象画像は判定部52にて、それぞれの画像の対応する画素の濃度などを示す画素値の差分からなる差分画像を算出する。基準画像のとおり対象画像が印刷されていれば、差分画像の各画素値は0となる。印刷された対象画像に何らかの欠陥があれば、その欠陥の部分の画素値が0ではない値を持つようになり、この差分画像から欠陥の有無が判定できる。さらに、判定部52においては、テンプレート記憶部54に記憶されているテンプレートを読み出して、先の差分画像に適用する。テンプレートは代表的な欠陥を抽出するのに適切なテンプレートが複数、あらかじめ記憶されている。図3は、テンプレートの例を示す図であり、(a)図は、所定の領域の画素が白くなってしまう、いわゆる白抜けと呼ばれる欠陥に対応するテンプレートの例である。差分画像に対し、このテンプレートを走査して、これと一致性の高い部分がないかをみて、欠陥の有無を判断する。他の画像欠陥についても、それに応じたテンプレートを用意し、欠陥の有無を判断する。各画像欠陥に対しては、画像の品質に影響を与えない程度のものについては、欠陥と判断しないように、所定のしきい値が設けられている。
判定部52にて、許容できない欠陥があると判定された印刷物に対しては、分別部22にて、良品と区別可能となるように処理がなされる。これについては、図1の場合と同様である。また、差分画像は、差分画像記憶部56に送られ、対象画像についても、対応する印刷物と対応づけて画像記憶部40に記憶される。
図1の実施形態と同様、使用者は検査済印刷物24をみて、これに対応する対象画像を表示させることができ、画像検査装置50の判定とは異なる判定を入力することができる。使用者の判定を受けてテンプレート更新部58は、その判定の対象となる対象画像に対応した差分画像を差分画像記憶部56より読み出し、ここで、使用者が不良と判定した部分に関する差分画像を新たな欠陥のテンプレートとしてテンプレート記憶部54に追加する。例えば、白抜けの中心付近にトナーが固まって付与された画像など、前述の図3(a)のテンプレートでは一致性が低くなるので、不良と判定されない場合がある。このときには、図3(b)のような、白抜けの中心部分に核があるテンプレートを新たに追加する。
逆に、装置が不良と判定した画像に対し、使用者は良と判定した場合、その部分に関する差分画像を非欠陥のテンプレートとしてテンプレート記憶部54に記憶する。差分画像において、欠陥テンプレートに比較的一致性が高い画像領域があったとしても、非欠陥テンプレートにより一致性が高い場合には、その画像に関しては良と判定する。例えば、装置50により、白抜けと判定されても、方向性があるために実際には目立たなくなるような欠陥については、図3(c)のような方向性があるテンプレートを作成し、このテンプレートに一致性の高い欠陥は(a)のテンプレートによって白抜けと判定されても、不良との判定を行わない。また、装置が不良と判定し使用者が良とした欠陥については、それに対応するテンプレートを削除、すなわち次回からは用いないようにすることもできる。
また、表示/入力部44からは、その画像の良否の判定に加えて、その画像において画像検査装置50の判定を覆した根拠となる部分を使用者が指摘するようにできる。テンプレート更新部58は、その指摘された部分に対応する差分画像の部分を抽出し、これをテンプレート記憶部54に記憶させるようにすることができる。前述したように、表示/入力部44は、タッチパネルディスプレイとして構成することもできる。また、テンプレートは、使用者ごとなどに対応して複数組を用意しておくことができ、各組ごとに別個に更新される。また、テンプレートの初期値60は、判定基準が更新されても記憶しておき、必要に応じて初期値に戻すようにできる。
上記は、欠陥の種類に対応した個々のテンプレートの更新を容易にし、個々に一致性を見て画像の良否を判断したが、個々の欠陥に対応した複数種類の欠陥の代表画像から、判定用の単一のテンプレートを作成するようにすることもできる。この場合の欠陥の代表画像は、複数種類のテンプレートを用意する場合の個々のテンプレートに対応する。使用者の判定に基づき、新たな欠陥の代表画像を追加する場合には、これを、それ以前のテンプレートの元になった欠陥の代表画像と共に合成してテンプレートを再度算出する。テンプレート合成の元になった代表画像は、テンプレート記憶部54に記憶され、テンプレートの更新を行う場合には、ここより読み出され、テンプレート更新部58にて、新たなテンプレートの算出がなされる。
以上の実施形態によれば、使用者が、検査済印刷物に対して、特に画像検査装置12,50が判定したのと異なる良否判定をした場合に、その良否、または良否とその根拠となる部位を入力することにより、その使用者の判定を考慮した新たな判定基準が作成され、更新される。
本実施形態の画像検査装置を含む画像形成システムの概略構成を示すブロック図である。 他の実施形態の画像検査装置を含む画像形成システムの概略構成を示すブロック図である。 テンプレートの例を示す図である。
符号の説明
10 画像形成装置、12,50 画像検査装置、26 基準画像取得部(基準画像情報取得手段)、30 対象画像読取部(対象画像情報取得手段)、28,32 特徴量算出部、34 判定部(判定手段)、36 判定基準空間記憶部(判定基準情報記憶手段)、38 特徴量・判定結果記憶部、40 画像記憶部、42 表示制御部、44 表示/入力部(良否入力手段)、46 判定基準更新部(判定基準更新手段)、48,60 初期値、52 判定部、54 テンプレート記憶部(判定基準情報記憶手段)、58 テンプレート更新部(判定基準更新手段)。

Claims (8)

  1. 原稿情報を画像形成の基準となる基準画像情報として取得する基準画像情報取得手段と、
    前記基準画像情報に基づき形成された画像を読取り、検査対象となる対象画像情報を取得する対象画像情報取得手段と、
    良否判定の基準となる判定基準情報を記憶する判定基準情報記憶手段と、
    前記基準画像情報と前記対象画像情報とを比較して、前記判定基準情報に基づき良否の判定を行う判定手段と、
    を有する形成画像検査装置であって、さらに、
    形成された画像に対する装置使用者の良否の判定を受け付ける良否入力手段と、
    前記使用者の良否判定に基づき前記判定基準情報を更新する判定基準更新手段と、
    を有する形成画像検査装置。
  2. 請求項1に記載の形成画像検査装置であって、
    前記判定基準情報は、過去の前記基準画像情報および前記対象画像情報から得られる複数の特徴量と、その画像情報の良否の判定結果とに基づき算出され、
    前記判定基準更新手段は、前記使用者の良否判定結果とその画像の特徴量を、それまでの前記判定基準情報に加えて判定基準を再度算出し、更新する、
    形成画像検査装置。
  3. 請求項1に記載の形成画像検査装置であって、
    前記判定基準情報は、画像の欠陥を個々に特徴的に示すテンプレートであり、
    前記判定基準更新手段は、前記使用者の良否判定が、前記判定手段の判定結果と異なる場合に、判定の相違の元になった画像欠陥または非欠陥に基づき新たなテンプレートを追加または削除する、
    形成画像検査装置。
  4. 請求項1に記載の画像形成装置であって、
    前記判定基準情報は、特徴的な画像の欠陥に基づき形成された単一のテンプレートであり、
    前記判定基準更新手段は、前記使用者の良否判定が、前記判定手段の判定結果と異なる場合に、判定の相違の元になった画像欠陥を新たに加え、または除いて前記テンプレートを再度作成し、更新する、
    形成画像検査装置。
  5. 請求項1から4のいずれか1項に記載の画像形成装置であって、
    前記判定基準情報記憶手段は、複数の判定基準情報を記憶可能であり、
    前記判定手段は、個々の判定基準情報の一つを用いて良否の判定を行う、
    形成画像検査装置。
  6. 請求項1から5のいずれか1項に記載の画像形成装置であって、
    前記判定基準情報記憶手段は、前記判定基準情報が更新された後も、初期の判定基準情報を記憶し、要求に応じて、更新された判定基準情報を初期の情報に戻すことが可能である、
    形成画像検査装置。
  7. 請求項1から6のいずれか1項に記載の形成画像検査装置であって、対象画像情報中の欠陥を使用者が指摘する欠陥指摘手段を有し、前記判定基準更新手段は、前記指摘された欠陥について判定基準情報の修正を行う、形成画像検査装置。
  8. 請求項1から6のいずれか1項に記載の形成画像検査装置であって、
    現在検査中の対象画像情報から所定数さかのぼったものまでの複数の情報を記憶しておく、対象画像記憶手段と、
    使用者が否と判定した対象画像情報を前記対象画像記憶手段より呼び出して画面に表示し、表示された画像に対して使用者が行う欠陥に関する指摘を受け付ける画面入力手段と、
    を有する形成画像検査装置。

JP2003278126A 2003-07-23 2003-07-23 形成画像検査装置 Expired - Fee Related JP4140472B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003278126A JP4140472B2 (ja) 2003-07-23 2003-07-23 形成画像検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003278126A JP4140472B2 (ja) 2003-07-23 2003-07-23 形成画像検査装置

Publications (2)

Publication Number Publication Date
JP2005045585A JP2005045585A (ja) 2005-02-17
JP4140472B2 true JP4140472B2 (ja) 2008-08-27

Family

ID=34264634

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003278126A Expired - Fee Related JP4140472B2 (ja) 2003-07-23 2003-07-23 形成画像検査装置

Country Status (1)

Country Link
JP (1) JP4140472B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4710495B2 (ja) * 2005-09-06 2011-06-29 富士ゼロックス株式会社 故障診断システム、画像形成装置及び故障診断方法
JP2007173912A (ja) * 2005-12-19 2007-07-05 Glory Ltd 印刷検査装置
JP6011796B2 (ja) * 2012-12-19 2016-10-19 コニカミノルタ株式会社 画像形成装置
JP6232999B2 (ja) * 2013-03-15 2017-11-22 株式会社リコー 画像検査装置、画像検査システム及び画像検査方法
JP6384746B2 (ja) * 2013-08-09 2018-09-05 株式会社リコー 画像検査装置、及び画像検査方法
JP6244944B2 (ja) * 2014-01-28 2017-12-13 株式会社リコー 画像検査装置、画像形成システム及び画像検査プログラム
JP6613641B2 (ja) * 2014-11-14 2019-12-04 株式会社リコー 検査装置、閾値変更方法及びプログラム
CN106383131B (zh) * 2016-09-20 2023-11-28 珠海格力电器股份有限公司 印刷品视觉检测方法、装置和***
JP2019039727A (ja) * 2017-08-23 2019-03-14 富士通株式会社 画像検査装置、画像検査方法および画像検査プログラム
JP7449154B2 (ja) 2020-04-24 2024-03-13 キヤノン株式会社 画像形成システム、画像形成装置、情報処理装置及びプログラム

Also Published As

Publication number Publication date
JP2005045585A (ja) 2005-02-17

Similar Documents

Publication Publication Date Title
JP7468716B2 (ja) 検査システム、検査方法及び検査プログラム
US9213894B2 (en) Image evaluation device, image evaluation method and program storage medium
US7961321B2 (en) Applications, systems and methods for identifying and monitoring critical colors in a print job and using an embedded color sensing device to measure critical color test patterns inserted in the print job
US20200128135A1 (en) Image inspection apparatus and image inspection program
US8705119B2 (en) Applications, systems and methods for identifying and monitoring critical colors in customer print jobs
US9544447B2 (en) Inspecting device, method for changing threshold, and computer-readable storage medium
US9727805B2 (en) Image evaluation device, image evaluation method and program storage medium
JP6613641B2 (ja) 検査装置、閾値変更方法及びプログラム
JP2013005092A (ja) 検品装置、検品方法、検品システム、コンピュータプログラム
JP4140472B2 (ja) 形成画像検査装置
US20210389712A1 (en) Image forming system, image inspection device, abnormality detection level setting method, and program
JP6230514B2 (ja) 画像欠陥検出装置及び方法並びにプログラム
EP4236286B1 (en) Printed-matter inspection system, program, and printed-matter inspection method
JP7148012B2 (ja) 画像検査装置および画像検査プログラム
JP7176660B1 (ja) 画像検査装置、画像検査システム、プログラムおよび画像検査方法
JP7099649B2 (ja) 画像検査装置および画像検査プログラム
JP2023124557A (ja) 画像処理装置、印刷システム、画像処理方法、及びプログラム
JP2022087169A (ja) プログラム、画像形成システム、画像検査方法及び画像検査装置
JP2024050672A (ja) 検査装置、プログラム、および検査システム
JP2021110813A (ja) 画像検査装置、画像形成装置、画像の検査方法およびプログラム
JP2005210312A (ja) 検査支援画像作成装置、画像形成装置、検査支援画像作成方法、およびプログラム
JP2021180404A (ja) 情報処理装置、情報処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080520

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080602

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110620

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110620

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120620

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130620

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140620

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees