JP2012026908A - 欠陥検査方法及び欠陥検査装置 - Google Patents

欠陥検査方法及び欠陥検査装置 Download PDF

Info

Publication number
JP2012026908A
JP2012026908A JP2010166801A JP2010166801A JP2012026908A JP 2012026908 A JP2012026908 A JP 2012026908A JP 2010166801 A JP2010166801 A JP 2010166801A JP 2010166801 A JP2010166801 A JP 2010166801A JP 2012026908 A JP2012026908 A JP 2012026908A
Authority
JP
Japan
Prior art keywords
inspection
image
procedure
defect
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010166801A
Other languages
English (en)
Inventor
Shuichi Saito
秀一 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyodo Printing Co Ltd
Original Assignee
Kyodo Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyodo Printing Co Ltd filed Critical Kyodo Printing Co Ltd
Priority to JP2010166801A priority Critical patent/JP2012026908A/ja
Publication of JP2012026908A publication Critical patent/JP2012026908A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Inking, Control Or Cleaning Of Printing Machines (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】事前準備の手前をなるべく軽減し、対象とする領域全体の欠陥を隈なく検査することができる技術を提供する。
【解決手段】被検査物(クレジットカードC)のサインパネル領域SPに繰り返し絵柄が付されている場合、事前にサインパネル領域SPの検査画像から繰り返し絵柄の色成分を抽出し、その色成分を除去しておく(A)。次に、検査処理において被検査物を撮像し、事前に抽出しておいた色成分を元に検査画像から繰り返し絵柄の色成分を除去する(B)。基準画像と検査画像とをパターンマッチングした後に二値化し、欠陥D1,D2等を抽出する。
【選択図】図8

Description

本発明は、被検査物を撮像して得た画像を用いて表面に現れる欠陥を検査する欠陥検査方法及び欠陥検査装置に関するものである。
従来、この種の欠陥検査方法又は欠陥検査装置に関し、例えば商取引に用いられるクレジットカードやキャッシュカード、ICカード等の被検査物について、地模様(例えば単純文字列)のような繰り返し絵柄が付されたサインパネル領域の欠陥を画像処理によって自動的に検査する先行技術が知られている(例えば、特許文献1参照。)。
上記の先行技術では、サインパネル領域そのものの配置はある程度一定していても、そこに付されている繰り返し絵柄の配置が被検査物ごとに安定していない点をカバーするため、繰り返し絵柄を縦横に一単位(繰り返しの一周期)以上多く含めた大きめの拡大基準画像を予め欠陥検査用に生成している。そして被検査物の検査に際しては、サインパネル領域に相当する検査対象画像の繰り返し絵柄を元に拡大基準画像との位置合わせを行い、その上で、両者を比較した後の差分画像に基づいて欠陥を抽出するという手法が採用されている。この場合、差分画像において、拡大基準画像と検査対象画像とが重なっている領域では繰り返し絵柄が消失し、その後に何も存在しなければ、検査対象画像が欠陥を有していないと判断することができる。一方、差分画像内で繰り返し絵柄が消失した後も何らかの差分値が残っていれば、それによって検査対象画像が欠陥を有していたと判断することができる。
上述した先行技術の手法によれば、被検査物ごとにサインパネル領域内での繰り返し絵柄の配置が一定していなかったとしても、一つ一つの画像は予め生成されている拡大基準画像内のどこかに収まる(どこかで繰り返し絵柄が一致する)ため、繰り返し絵柄の位置ずれ(不一致)そのものを欠陥として過検出(誤検出)する心配はないと考えられる。
特開2000−326494号公報(段落0014〜0016、図1−図3)
しかしながら先行技術で用いている手法では、予めサインパネル領域に印刷される予定の繰り返し絵柄のパターン(図案、原図等)を入手した上で、実際に製品化されるサインパネル領域の大きさよりも一回り以上大きい拡大基準画像を作成しておく必要があり、それだけ事前準備に多大な手間がかかってしまう。
また、差分画像には被検査画像内に存在していた欠陥だけでなく、検査対象画像の外側に元の拡大検査画像に含まれていた繰り返し絵柄が残った状態となる。このため先行技術の手法では、差分画像の中で被検査画像が重なっていた部分の内側では欠陥を検査することができるものの、被検査画像の外枠(拡大検査画像との境界)近傍では正確な検査をすることができない。例えば、サインパネルの枠(縁)近傍に印刷の欠けがあったとしても、そのような欠けの部分が繰り返し絵柄に重なっていなければ、差分画像には欠陥として現れてこないため、これを検査で発見することは不可能である。
そこで本発明は、事前準備の手前をなるべく軽減し、対象とする領域全体の欠陥を隈なく検査することができる技術の提供を課題とする。
上記の課題を解決するため、本発明は以下の解決手段を採用する。
第1に本発明は、以下の工程から構成される欠陥検査方法である。
(1)事前工程
この工程では、所定の繰り返し絵柄が付された被検査物について、その繰り返し絵柄を構成する色成分を事前に抽出する。繰り返し絵柄が多様な色彩で構成されている場合、それら色彩を構成する全ての色成分をここで抽出することとする。抽出された色成分には、例えばR成分、G成分、B成分の値の組み合わせとして、(R1,G1,B1)〜(Rn,Gn,Bn)のように、多様な色彩を表すのに必要な全ての要素が含まれるものとする。
(2)取得工程
この工程では、被検査物を撮像した検査画像を取得する。なお取得する画像は、予め撮像して保存されていたものでもよいし、この工程の中で撮像したものであってもよい。
(3)除去工程
この工程は、上記の検査画像を構成する画素のうち、事前工程で抽出した色成分を有する対象画素からその色成分を除去する工程である。上記(1)の事前工程では、繰り返し絵柄を構成する色成分を予め抽出しているため、ここでいう「対象画素」とは、(2)の取得工程で取得された検査画像のなかで、繰り返し絵柄を構成している個々の画素に相当することになる。また「色成分の除去」は、例えば対象画素を全て白色画素に置き換えることで実行することができる。これにより、検査画像から繰り返し絵柄の色成分のみが除去された状態となる。
(4)判断工程
この工程は、対象画素の色成分が除去された後の検査画像に基づいて、少なくとも被検査物の繰り返し絵柄を含む領域について欠陥の有無を判断する工程である。このとき例えば、予め用意された基準画像と検査画像とを比較し、それらの差分から欠陥の有無を判断してもよい。この段階では既に、検査画像において繰り返し絵柄の色成分が除去されているため、基準画像と検査画像との比較において繰り返し絵柄の細かな違いは全く問題にならない。これにより、繰り返し絵柄の違い(不一致)を欠陥として過検出することなく、良好な欠陥の検査が可能となる。
また、基準画像を予め繰り返し絵柄が付される領域の大きさ(例えば、サインパネル領域の外枠サイズ)に合わせて用意しておけば、これと検査画像との比較により、サインパネル領域の細かな枠欠けの欠陥をも容易に検査することが可能となる。
次に本発明の欠陥検査方法は、各工程において以下の内容を追加することができる。
(1)の事前工程は、以下の第1事前手順〜第4事前手順を含んでもよい。
〔1〕第1事前手順
この手順では、被検査物を撮像して得られた基準画像のうち、少なくとも繰り返し絵柄を含む検査領域を規定する。例えば、樹脂製カードの片面(裏面)全体を撮像した基準画像の中で、繰り返し絵柄(サインパネルに相当する部分)を含めた広めの検査領域を規定する。
〔2〕第2事前手順
次に、第1事前手順で規定した検査領域のうち、繰り返し絵柄(又は繰り返し絵柄のみ)で構成される絵柄領域を規定する。例えば、純粋に繰り返し絵柄のみが含まれる範囲(サインパネル領域の内側部分)を絵柄領域として指定することができる。これにより、絵柄領域には繰り返し絵柄とその下地部分のみが画像として含まれることになる。
〔3〕第3事前手順
次に、第2事前手順で規定した絵柄領域を構成する全ての画素について、それぞれ色成分の濃度値を抽出する。「色成分の濃度値」は、例えばRGB体系でいうR成分、G成分、B成分の各値の組み合わせとして表すことができる。また、濃度値を256階調(R0,G0,B0〜Rn,Gn,Bn;nは255)で表す場合、理論上は濃度値として256×256×256通りの組み合わせが存在することになる。いずれにしても、繰り返し絵柄がどのような色構成を有するかは被検査物によって多様であるため、ここでは繰り返し絵柄に用いられている全ての色成分の濃度値を抽出することとする。
〔4〕第4事前手順
続いて、第3事前手順で抽出した濃度値に基づいて、検査領域内で少なくとも繰り返し絵柄を構成する除去対象画素を特定し、これら除去対象画素の濃度値を所定の濃度値に置き換えた上で基準画像を保存する。ここでいう「除去対象画素」とは、〔1〕第1事前手順で規定された検査領域のなかで、少なくとも繰り返し絵柄を構成している個々の画素に相当することになる。繰り返し絵柄以外でも色成分を有する部分(例えば単独の絵柄、下地部分を含む)があれば、そのような部分を構成する個々の画素も「除去対象画素」に含まれる。また「所定の濃度値」は、除去対象画素の濃度値を検査領域全体で同一とするものであれば、適宜の値でよい。したがって、これら「除去対象画素」の濃度値を例えば最大値(Rmax,Gmax,Bmax)に置き換えることにより、基準画像から繰り返し絵柄の色成分のみが除去された状態となる。
そしてこの場合、上記(4)の判断工程では、第4事前手順にて保存された基準画像を構成する個々の画素と検査画像を構成する個々の画素との濃度値の差から欠陥の有無を判断することができる。ここでは既に、検査画像についても先の(3)除去工程で繰り返し絵柄の色成分が除去された状態にあるため、基準画像と検査画像とで互いの画素の濃度値を比較すれば、その差分から欠陥の有無を容易に判断することができる。
より好ましくは、上記(3)の除去工程は、以下の第1,第2除去手順を含んでもよい。
〔I〕第1除去手順
先ず、検査画像を構成する全ての画素について、それぞれ色成分の濃度値を抽出する。ここでいう「色成分の濃度値」もまた、例えばRGB体系でいうR成分、G成分、B成分の各値の組み合わせ(R,G,B)として表すことができる。
〔II〕第2除去手順
次に、第1除去手順で抽出した濃度値と上記〔3〕の第3事前手順で抽出した濃度値との差が所定値以内にある画素を対象画素として、その濃度値を所定の濃度値に置き換えた上で検査画像を保存する。「差が所定値以内にある画素」とは、例えば第3事前手順で抽出した濃度値が(R1,G1,B1)であったとすると、画素の濃度値が(R1±n,G1±n,B1±n)にあるものとすることができる。また所定値nは、例えば検査画像を撮像する際の照明や環境の変化に応じて適宜に設定することができる。なお「所定の濃度値」は、〔4〕第4事前手順で用いたものと同じ値とする。これにより、基準画像から抽出した濃度値と検査画像から抽出した濃度値とが完全に一致していない場合であっても、検査画像内で繰り返し絵柄を構成する画素の色成分を確実に除去することができる。
また上記(4)の判断工程は、以下の手順を含んでもよい。
〔i〕補正手順
先ず、基準画像に対して第2除去手順にて保存された検査画像のパターンマッチングを行い、その結果から基準画像に対する検査画像の位置ずれを補正する。これにより、基準画像と検査画像との相対的な位置合わせが行われた状態となる。
〔ii〕二値化手順
次に、補正された検査画像を構成する個々の画素について、基準画像内でそれぞれ対応する位置の画素との濃度差に基づき二値化を行う。上記のように位置合わせされた画素同士を同じ位置で比較すると、欠陥がない場合は互いの濃度差が極小(0に近い)になり、逆に欠陥がある場合は濃度差が大きくなる傾向にある。したがって、事前に判断の基準となる閾値を設定しておき、濃度差がこの閾値以下である画素については白色画素(バイナリで1)とし、逆に濃度差が閾値を超える画素については黒色画素(バイナリで0)とすることで、全画素の二値化を行うことができる。
〔iii〕グループ化手順
続いて、二値化手順で二値化された個々の画素をその値別にグループ化する。すなわち、互いに隣接している白色画素、あるいは互いに隣接(近接)している黒色画素をまとめてグループ化する。これにより、特に欠陥部分に相当する黒色画素があれば、これらが複数個まとまってグループ化された状態となる。
〔iv〕抽出手順
そして、グループ化された後の検査画像内から欠陥を抽出する。上記のように、欠陥部分に相当する黒色画素がまとまってグループ化されていれば、それらを容易に欠陥として抽出することができる。
次に本発明は、欠陥検査装置を提供する。この欠陥検査装置は、上述した欠陥検査方法を実行することができる。
すなわち欠陥検査装置は、所定の繰り返し絵柄が付された被検査物について、その繰り返し絵柄を構成する色成分を事前に抽出する抽出手段と、被検査物を撮像した検査画像を取得する画像取得手段と、検査画像を構成する画素のうち、抽出手段により抽出された色成分を有する対象画素からその色成分を除去する除去手段と、対象画素の色成分が除去された後の検査画像に基づいて、少なくとも被検査物の繰り返し絵柄を含む領域について欠陥の有無を判断する判断手段とを備えるものである。
本発明の欠陥検査装置によれば、例えば樹脂製カードのサインパネル領域のように、多様な色彩で繰り返し絵柄が付された被検査物についても、個々の物品ごとの繰り返し絵柄の違い(位置の不揃い)を欠陥として過検出することなく、その色成分を除去した上で正確に欠陥の有無を検査することができる。また、比較対象となる基準画像を一回り以上大きくする必要がなく、サインパネル領域と同等のサイズに設定することができるので、サインパネル領域の枠欠けに相当する欠陥についても正確に検査することが可能となる。
以上のように本発明の欠陥検査方法及び欠陥検査装置によれば、繰り返し絵柄のように外観上で個体差が大きい領域を有する被検査物についても、その個体差を欠陥として誤検出することなく、本来の欠陥だけを確実に検査することができる。また、検査対象となる領域の外枠部分に発生する細かな欠陥についても、これを確実に検査することができる。
欠陥検査の対象となる被検査物の裏面図である。 一実施形態の欠陥検査装置の構成例を概略的に示した図である。 検査ユニットの構成をより詳細に示すブロック図である。 検査ユニットにおいて実行される検査前処理の手順例を示したフローチャートである。 検査前処理において使用される基準画像の例を示した図である。 基準画像の一部を画素レベルに拡大して示した概念図である。 検査ユニットにおいて実行される検査処理の手順例を示すフローチャートである。 検査処理において使用される基準画像及び検査画像の例をそれぞれ示した図である。
以下、本発明の実施形態について図面を参照しながら説明する。
図1は、本実施形態において欠陥検査の対象となる被検査物の裏面図である。被検査物は、例えば樹脂製の商取引カード(クレジットカードC)であり、図示されている裏面には、例えば磁気ストライプ領域MSやサインパネル領域SPといった使用目的別の領域が設けられている。
このうち磁気ストライプ領域MSには、例えばクレジットカードCの固有IDやその他の取引情報が磁気読み取り可能な形式で記録されている。またサインパネル領域SPは、クレジットカードCの裏面に貼り付けられて(印刷されて)形成されており、ここには筆記具を用いてクレジットカードCの正規の使用者(所有者)が署名することができる。また図示されていない表面には、例えばクレジットカードCの発行者名や各種の標章(商標)を含むデザインが施されている。
磁気ストライプ領域MSを含むクレジットカードCの本体は、例えば複数枚の樹脂シートを積層し、これらを熱溶着させて一体成形されている。一方、サインパネル領域SPは、本体の外面に対して後工程での印刷によって形成された部分である。なお図1には、サインパネル領域SPの外枠(境界)が実線で示されているが、実際にはこのような囲み線は付されていない。
〔繰り返し絵柄〕
図1に示されているように、サインパネル領域SPは全体として長細い矩形状をなし、その長手方向がクレジットカードCの横方向に合致している。サインパネル領域SPには、例えば文字列を基調とした繰り返し絵柄が付されている。このような繰り返し絵柄は、例えば「KP CARD」の文字列を横方向及び縦方向に連続して配列し、また、その文字部分の色彩を規則的又は不規則に変化させたデザインを有する。
繰り返し絵柄はそのデザイン上、サインパネル領域SPの四辺で文字列が途切れている場合もある。また文字列「KP CARD」が横に連続している方向は、サインパネル領域SPの横方向に対して僅かに傾斜(右上がり傾斜)している。なお、繰り返し絵柄の配列方向は斜めに限らず、水平方向又は垂直方向であってもよいし、その他の方向であってもよい。
〔欠陥検査装置〕
次に図2は、一実施形態の欠陥検査装置10の構成例を概略的に示した図である。欠陥検査方法は、この欠陥検査装置10を用いて実現することができる。ここでは先ず、欠陥検査装置10の構成列について説明する。
欠陥検査装置10は、例えば搬送機構としてベルトコンベア12を備えている。このベルトコンベア12は、無端状の搬送ベルト12aをコンベアローラ12bの回転に伴って一定方向に周回走行させながら、その搬送面上に載置したクレジットカードC(被検査物)を搬送ベルト12aの走行方向に搬送する。なおベルトコンベア12は、その動力として図示しないモータを備えている。コンベアローラ12bは、図示されていないモータから動力の供給を受け、一定速度で同じ方向(図1でみて時計回り方向)に回転する。
クレジットカードCは、例えば図示しない供給ホッパから1枚ずつ繰り出されてベルトコンベア12上に供給されている。図示しない供給ホッパには、被検査物であるクレジットカードCが例えば厚み方向に積層された状態で収容されている。ベルトコンベア12上に供給されたクレジットカードCは、一定の間隔で連続的に搬送されていく。また、ベルトコンベア12の終端から送出されたクレジットカードCは、例えばダンパ装置14を介して下流コンベア16に引き継がれる。
ダンパ装置14はダンパプレート14aを有しており、このダンパプレート14aは図示しないモータを用いたリンク機構の働きにより、図中に実線で示される搬送姿勢か、もしくは二点鎖線で示される排除姿勢のいずれかに変化する。ダンパ装置14は、ダンパプレート14aを搬送姿勢に保持している状態で、ベルトコンベア12から送出されたクレジットカードCを良品として下流コンベア16に受け渡しする。下流コンベア16は、受け取った良品のクレジットカードCを例えば図示しない集積ホッパに向けて搬送する。
一方、ダンパ装置14は、ダンパプレート14aを排除姿勢に変化させた状態で、ベルトコンベア12から送出されたクレジットカードCを欠陥品として下方に排除する。欠陥品として排除されたクレジットカードCは、例えば図示しない回収ボックスにて回収される。
上記のベルトコンベア12には、例えば一方のコンベアローラ12bにロータリエンコーダ12cが連結されている。ロータリエンコーダ12cは、コンベアローラ12bの回転に伴って駆動され、一定の回転角度ごとにパルス信号を発生させる。
欠陥検査装置10は撮像機器としてのラインセンサ18を備えており、このラインセンサ18は、ベルトコンベア12の上方に設置されている。ラインセンサ18には、一定の幅で直線状に配列された多数の撮像素子が内蔵されている。なお、ラインセンサ18に用いるイメージセンシングデバイスには、例えばCCDイメージセンサ、CMOSイメージセンサ等の半導体方式の他に、電子管方式の撮像管等も使用可能である。なお、ラインセンサ18の前面(受光面の前方)には、クレジットカードC表面からの反射光を撮像素子に結像させるレンズ(図示されていない)が設置されていてもよい。
また欠陥検査装置10は照明器具20を備えている。この照明器具20は、被検査物であるクレジットカードCの表面を照らす光源として使用されている。照明器具20もまたベルトコンベア12の上方に設置されており、照明器具20とラインセンサ18とは、図2中の撮像位置にあるクレジットカードCを挟んで互いに対極に位置している。照明器具20から照射された照明光はクレジットカードCを照明し、その反射光が図示しないレンズを通じてラインセンサ18に到達する。なお照明器具22には、例えば冷陰極管、LED、放電管、白熱ランプ等の各種の照明灯を用いることができる。
この他に欠陥検査装置10は、上記の機械的要素の他に電子計算機としての機能を有した検査ユニット24を備えている。検査ユニット24は、中央演算処理装置(CPU)や記憶装置(ROM,RAM)、入出力インタフェース(I/O)等を有した電子計算機として構成されている。電子計算機の例としては、汎用のパーソナルコンピュータ、ワークステーション等を挙げることができる。検査ユニット24には、上記のロータリエンコーダ12cからパルス信号が入力されるとともに、ラインセンサ18から画像信号が入力されるものとなっている。検査ユニット24は、これら入力信号に基づいて画像データの各種処理を行う。なお、検査ユニット24で行われる処理についてはさらに後述する。
また検査ユニット24には、表示部26及び入力デバイス28がそれぞれ付属している。このうち表示部26は、例えば液晶ディスプレイ等の画像表示器である。また入力デバイス28は、例えばキーボードやマウス等のコンピュータ機器である。
図3は、検査ユニット24の構成をより詳細に示すブロック図である。検査ユニット24は、その構成要素として入力部34、データ処理部36、データ記憶部38、検査処理部40、出力部42及びGUI44を備えるほか、これらの動作を制御するCPU50を備えている。以下、それぞれの構成要素について説明する。なお、ここでは検査ユニット24の内部にCPU50とは別のデータ処理部36及び検査処理部40を設けた例を挙げているが、これらデータ処理部36や検査処理部40の機能はCPU50のリソースを用いてソフトウエアにより実現してもよい。また、ここで図示とともに挙げた構成はあくまで好ましい一例であり、検査ユニット24には他の構成を採用することもできる。
入力部34には、入力インタフェースを介してラインセンサ18からの画像信号及びロータリエンコーダ12cからのパルス信号が入力される。入力部34は、入力されるパルス信号を参照しながら画像信号(アナログ信号)を必要に応じて減衰調整し、A/D変換してデータ処理部36に伝送する機能を有する。
またGUI44には、上記の入力デバイス28からオペレータによる入力操作(例えばキーボード操作、マウスの操作等)の信号が入力される。GUI44は、これら入力操作の信号を外部割り込み信号として受け付け、これをデータバス46経由でCPU50に伝送する。
データ処理部36は、伝送された画像信号を1ライン分の画像データ(ラスタデータ)の形式で処理する。このとき1ライン中の各画素には、例えばRGBカラーで各色成分の濃度値(0〜255)が割り当てられる。色成分の濃度値は、R成分、G成分及びB成分がそれぞれ256階調を有することから、それらの組み合わせは理論上、256×256×256通りとなる。またデータ処理部36は、1ライン中に含まれる各画素に対してカラムアドレスを付与するとともに、1ラインごとにローアドレスを付与する。
データ処理部36で処理された1ラインごとの画像データは、データバス46を介してデータ記憶部38に転送される。データ記憶部38には一定の記憶領域が確保されており、この記憶領域には、画像データに付与されるローアドレス及びカラムアドレスにそれぞれ対応したメモリアドレスが割り当てられている。転送された画像データ(RGB別の0〜255の濃度値)は、それぞれ対応するメモリアドレスのメモリセル(例えば3バイト分)に書き込まれる。
検査処理部40は、データバス46を介してデータ記憶部38にアクセスし、記憶領域から画像データを読み出して検査処理を行う。また検査処理部40は、検査結果データをデータ記憶部38に書き込むとともに、必要に応じて検査結果データを出力部42に転送する。なお、検査処理部40が行う検査処理の具体的な態様についてはさらに後述する。
出力部42は、上記のように検査結果データを出力するほか、必要に応じて撮像された画像データ(クレジットカードCの画像)を出力する。データの出力先は、例えば上記の表示部26(図3には示さず)や、他の汎用コンピュータ、記録媒体等である。これにより、表示部26に検査画像を表示して、これをオペレータが画面上で視認することができる。
その他、特に図示していないが、検査ユニット24はデータ補正部を備えていてもよい。データ補正部は、データ記憶部38に記憶された画像データを読み出し、その補正処理を行う。補正処理は、例えば搬送機構12による搬送速度の周期的な変化による濃淡むらの補正や、室内照明のフリッカ等による濃度差の変化を補正する目的で行われる。またこのようなデータ補正部の機能は、CPU50のリソースを用いて実現してもよい。
〔画像データの生成〕
検査ユニット24において、画像データの生成は例えば以下のプロセスを通じて行われる。すなわち検査ユニット24は、ロータリエンコーダ12cからパルス信号の入力があると、ラインセンサ18を用いて1ライン分の撮画(撮像)を実行する。これにより、ラインセンサ18では各撮像素子がアクティブ(露光状態)となり、主走査線からの受光強度に基づいてカラーの画像信号が生成される。次にパルス信号の入力があると、検査ユニット24は1ライン分の撮画を終了する。ここまでの処理を経ると、1ライン分の画像データが生成される。なお主走査線は、例えばクレジットカードCの搬送方向に対して垂直な方向に設定されている。
検査ユニット24は、1ライン分の画像データ生成プロセスを1回終了すると、また改めて次回の画像データ生成プロセスを繰り返し、これらを複数ライン分だけ蓄積して1単位の画像データを生成する。本実施形態のように被検査物が個片のクレジットカードCである場合、画像データ生成プロセスは、クレジットカードCの搬送方向でみたエッジをトリガとして開始時と終了時を決定してもよい。例えば、搬送方向でみて先頭に位置するクレジットカードCのエッジが検出されると、検査ユニット24は上記の画像データプロセスを開始する。そして、後端のエッジを検出すると、検査ユニット24はそこでクレジットカードCの1枚分の画像データ生成プロセスを終了する。このとき生成された1枚分の画像データは、例えば被検査物番号と対応付けてデータ記憶部38に記録される。
〔事前工程〕
図4は、検査ユニット24において実行される検査前処理の手順例を示したフローチャートである。また図5は、検査前処理において使用される基準画像の例を示した図である。なお検査前処理は、実際の検査処理に先立ち、予め良品であることが確認済みの健全なクレジットカードCを用いて行うこととする。また、実際の検査処理については後述する。ここでは先ず、各手順を追って検査前処理の概要を説明する。
ステップS10:検査前処理において検査ユニット24は、ラインセンサ18により撮像された画像を基準画像として取り込む。具体的には、良品であるクレジットカードCをベルトコンベア12で搬送しつつ、ラインセンサ18を用いて基準画像を撮像する。
ステップS20:次に検査ユニット24は、基準画像の検査領域を設定する。検査領域の設定は、例えば基準画像を表示部26に表示させた状態で、オペレータが入力デバイス28を用いて行うことができる。基準画像にはクレジットカードCの裏面全体が含まれているが、ここでは基準画像内でサインパネル領域SPを含む一部の検査領域を設定することになる。なお、オペレータが検査領域を設定する操作の具体例については、図5を参照しながらさらに後述する。
ステップS30:次に検査ユニット24は、基準画像の繰り返し絵柄領域を設定する。繰り返し絵柄領域の設定もまた、例えば基準画像を表示部26に表示させた状態で、オペレータが入力デバイス28を用いて行うことができる。同様に、基準画像にはクレジットカードCの裏面全体が含まれているが、ここでは基準画像内でも、サインパネル領域SPだけを含む繰り返し絵柄領域(サインパネル領域SP以外を含まない領域)を設定することになる。なお、オペレータが繰り返し絵柄領域を設定する操作の具体例についても、図5を参照しながらさらに後述する。
ステップS40:続いて検査ユニット24は、設定された繰り返し絵柄領域内の画素からその色成分の濃度値を抽出する。ここで抽出した色成分の濃度値には、繰り返し絵柄としての文字列「KP CARD」を構成する画素や、その下地となる部分を構成する画素の全ての濃度値が含まれる。また色成分には、上記のようにRGB値で256×256×256通りの組み合わせが理論上で存在する。ただし、サインパネル領域SPが例えば白地部分に数色分の文字列だけで構成されていた場合、実際に抽出されるRGB値の組み合わせは理論値よりもずいぶん少なくなる。
また検査ユニット24は、抽出した色成分の組み合わせに基づいて、検査領域内の画素から色成分を除去する。これにより、検査領域から繰り返し絵柄の色成分が除去された状態となる。
ステップS50:そして検査ユニット24は、色成分を除去した基準画像のデータをデータ記憶部38に保存する。このとき、ステップS10で取り込んだ基準画像のデータを上書き保存してもよいし、あるいは、別のファイル名で基準画像のデータを保存してもよい。
〔基準画像の検査領域設定(第1事前手順)〕
図5中(A):上記のステップS20において、検査ユニット24は例えば基準画像としてのクレジットカードC全体を表示部26に表示させつつ、入力デバイス28を用いた入力操作を受け付ける。このとき欠陥検査装置10のオペレータは、マウス等の入力デバイス28を用いて基準画像内で検査領域を設定することができる。
例えば、オペレータに対し、基準画像内でサインパネル領域SPを含む一回り大きい範囲(図示の点P1〜点P2)をマウス等で指定し、この範囲を検査領域(図中符号A1)として指定する入力操作を要求することで、検査ユニット24において検査領域を設定することができる。なお検査領域は、サインパネル領域SPの全体を含む大まかな範囲であればよく、厳密にどこからどこまでを設定しなければならないといった制約はない。
〔基準画像の繰り返し絵柄領域設定(第2事前手順)〕
図5中(B):また上記のステップS30において、検査ユニット24は同じく基準画像としてのクレジットカードC全体を表示部26に表示させつつ、入力デバイス28を用いた入力操作を受け付ける。そして欠陥検査装置10のオペレータは、マウス等を用いて基準画像内で繰り返し絵柄領域を設定することができる。
例えば、オペレータに対し、基準画像内でサインパネル領域SP内の繰り返し絵柄だけを含む範囲(図示の点P3〜点P4)をマウス等で指定し、この範囲を繰り返し絵柄領域(図中符号A2)として指定する入力操作を要求することで、検査ユニット24において繰り返し絵柄領域を設定することができる。繰り返し絵柄領域についても、厳密にどこからどこまでを設定しなければならないという制約はなく、繰り返し絵柄だけを含む範囲であれば、繰り返し絵柄領域の大きさは特に限定されていない。
図6は、基準画像の一部を画素レベルに拡大して示した概念図である。なお図6では便宜上、繰り返し絵柄の大きさに対する1画素(ピクセル)の大きさをある程度誇張して示している。
〔色成分の抽出(第3事前手順)〕
上記のステップS40において、検査ユニット24は繰り返し絵柄領域内にある1つ1つの画素の濃度値(R,G,B)を順に読み取り、そこから色成分の濃度値を抽出する。具体的には、繰り返し絵柄の文字列部分に相当する対象の画素Px1,Px2,Px3,Px4,・・・等について、それぞれの濃度値(R1,G1,B1),(R2,G2,B2),(R3,G3,B3),(R4,G4,B4),・・・等を抽出する。ここで抽出された濃度値は、例えば検査ユニット24のデータ記憶部38にテーブル化して記憶される。なお、繰り返し絵柄の下地部分にも何らかの色成分を有する場合、その色成分を合わせて抽出してもよい。この場合、下地部分に相当する画素も濃度値を抽出する対象画素となる。
〔色成分の除去(第4事前手順)〕
全ての対象画素Px1,Px2,Px3,Px4,・・・等から色成分を抽出すると、同じくステップS40において、検査ユニット24は検査領域内の全ての画素から繰り返し絵柄の色成分を除去していく。具体的には、抽出済みの濃度値のデータ(R1,G1,B1),(R2,G2,B2),(R3,G3,B3),(R4,G4,B4),・・・等に基づき、各成分で濃度値の差が所定値nの範囲内にある画素の濃度値を例えば(255,255,255)に置き換える。すなわち、濃度値が(R1±n,G1±n,B1±n),(R2±n,G2±n,B2±n),(R3±n,G3±n,B3±n),(R4±n,G4±n,B4±n),・・・にある画素について、それらの濃度値を全て例えば(255,255,255)に変換する。なお「255(=FFH)」は、256階調の場合の最大値である。また所定値nは、撮像時の照明や環境条件の変化を考慮した値であり、本実施形態では例えばn=3程度としている。
以上の手順を実行することにより、この後のステップS50で基準画像は繰り返し絵柄の色成分が除去された状態で保存されることになる。
〔検査処理〕
次に図7は、検査ユニット24において実行される検査処理の手順例を示すフローチャートである。また図8は、検査処理において使用される基準画像及び検査画像の例をそれぞれ示した図である。検査処理は、被検査物となるクレジットカードCを用いて行うこととする。以下、各手順を追って検査処理の内容を説明する。
〔取得工程〕
ステップS100:検査処理においても検査ユニット24は、ラインセンサ18により撮像された画像を検査画像として取り込む。具体的には、被検査物であるクレジットカードCを1枚ずつベルトコンベア12で搬送しつつ、ラインセンサ18を用いて検査画像を撮像する。
〔除去工程〕
ステップS110:次に検査ユニット24は、検査画像の繰り返し絵柄を除去する。より詳細には、検査ユニット24はここで以下の処理を実行する。
(1)今回の検査画像に対して検査領域を設定する。すなわち、先の検査前処理(ステップS20)で基準画像について設定した検査領域の範囲(点P1〜点P2の範囲)に基づき、今回の検査画像に対しても同じ範囲を検査領域として設定する。
(2)先の検査前処理(ステップS40)で抽出した色成分の濃度値に基づき、設定した検査領域内で濃度値が(R1±n,G1±n,B1±n),(R2±n,G2±n,B2±n),(R3±n,G3±n,B3±n),(R4±n,G4±n,B4±n),・・・にある画素(除去対象画素)について、それらの濃度値を全て例えば(255,255,255)に変換する。なお、検査領域内でサインパネル領域SPの外側に相当する部分については、例えば黒色画素(0,0,0)に変換される。
以上より、検査画像の検査領域内では、繰り返し絵柄の色成分が除去された状態となる。
〔判断工程〕
ステップS120:次に検査ユニット24は、基準画像に対する検査画像のパターンマッチングを行う。具体的には、基準画像に含まれるサインパネル領域SPに対し、今回の検査画像に含まれるサインパネル領域SPの位置ずれ(印刷ずれ)を考慮して、正規化相関法を用いたパターンマッチングを行う。これにより、基準画像に対する検査画像の相対的なサインパネル領域SPの位置ずれ量(X−Y各方向の画素数、ただし、X:横方向、Y:縦方向)が補正量として得られる。なお、正規化相関法については公知の手法であり、ここではその詳細な説明を省略する。
ステップS130:そして検査ユニット24は、上記パターンマッチングの結果から得られた補正量を元に、検査画像の位置補正(いわゆるAffine変換)を行う。これにより、基準画像に対する検査画像のサインパネル領域SPの位置合わせが行われる(補正手順)。
ステップS140:次に検査ユニット24は、二値化処理を行う。この処理では、検査ユニット24は位置合わせ済みの検査画像の画素を1つずつ、基準画像の対応する画素と比較し、それぞれの濃度差を算出する。例えば、今回の検査画像の画素値(R1a,G1a,B1a)を基準画像の対応する画素値(R1,G1,B1)から減算して差分値を求める。その結果、差分値が所定の閾値N(例えばRGBの各値で10程度)以下であれば、検査ユニット24は今回の画素値を1(=白色画素)とする。これに対し、差分値が閾値Nを超えていれば、検査ユニット24は今回の画素値を0(=黒色画素)とする(二値化手順)。
ステップS150:次に検査ユニット24は、二値化した画素のグループ化処理を実行する。この処理では、例えば画素値(0又は1)が共通する画素同士で、互いに隣接又は近接するものをグループ化する(グループ化手順)。
ステップS160:グループ化処理から復帰すると、次に検査ユニット24は、判定処理を実行する。この処理では、例えばグループ化された黒色画素の大きさ(例えば画素数)に基づき、欠陥に該当するグループを抽出する(抽出手順)。なお、どの程度の大きさのグループが欠陥に該当するかについては、予め基準値(例えば数画素〜十数画素等)を設定しておけばよい。そして検査ユニット24は、抽出した欠陥の大きさや個数、位置から合否判定を行い、最終的に今回の検査画像(被検査物であるクレジットカードC)が良品であるか、それとも欠陥品であるかを判定する。
ステップS170:最後に検査ユニット24は、判定結果を保存する。この手順では、検査画像ごとの欠陥の有無に加えて、検査画像内で欠陥が存在する位置やその大きさ、範囲等の情報を画像データと関連付けて保存する。ここで保存した情報は、たとえば一覧形式で表示部26に表示したり、あるいは検査レポートとして出力したりすることができる。なお、ここで保存した検査画像のデータは、適宜に呼び出してサムネイル表示したり、あるいはサムネイル形式で出力したりすることができる。
〔画像の例〕
図8は、基準画像及び検査画像それぞれの一例を示す図である。以下、それぞれについて説明する。
〔基準画像〕
図8中(A):上記のように基準画像(検査領域A1)は、クレジットカードC全体の中でサインパネル領域SPを含む一回り大きい範囲である。上記のように基準画像は、その繰り返し絵柄の色成分が除去されているため、サインパネル領域SPの全体が白色画像として現れる。また基準画像(検査領域A1)の中で、サインパネル領域SPより外側の部分は黒色画像に変換されている。なお、上記のように基準画像は予め健全なクレジットカードCを用いて作成されているため、基本的に基準画像に欠陥部分は存在していない。
〔検査画像〕
図8中(B):この例は、欠陥部分が存在するクレジットカードCを撮像して得られた検査画像である。この検査画像(検査領域A1)もまた、その繰り返し絵柄の色成分が除去されているが、そのサインパネル領域SPには欠陥部分D1,D2が含まれている。特に欠陥部分D1は、サインパネル領域SPの枠部分の欠けを示している。また欠陥部分D2は、サインパネル領域SP内の汚れや印刷の剥がれ等を示している。
以上のように本実施形態の欠陥検査装置10及びこれを用いた欠陥検査方法によれば、繰り返し絵柄の色成分を除去した状態で、対象となるサインパネル領域SPの欠陥の有無を正確に検査することができる。このため、個々の製品で繰り返し絵柄の位置が少しずつ違っていたとしても、そのような違いを欠陥として過検出してしまうことがない。
また、基準画像の大きさと検査画像の大きさが相互に一致しており、互いを位置合わせした上で画素ごとに比較を行うため、特にサインパネル領域SPの枠部分の欠陥についても確実に検査することができる。
本発明は、上述した一実施形態に制約されることなく、種々に変形して実施可能である。一実施形態では、ラインセンサ18を用いて基準画像や検査画像を撮像しているが、デジタルカメラを用いて撮像を行ってもよい。
一実施形態では、被検査物を商取引カード(クレジットカードC)としているが、何らかの繰り返し絵柄を有する物品であれば、特にカード製品に限られない。また繰り返し絵柄は、文字列の繰り返しパターンに限らず、その他の形態であってもよい。
一実施形態では、検査前処理(図4)で色成分を抽出した画素の濃度値を例として最大値(255,255,255)に置き換えているが、予め決まった一定の濃度値であれば、例えば(150,150,150)、(200,200,200)等のような適宜の濃度値に置き換えてもよい。この場合、検査処理(図7)の繰り返し絵柄除去(ステップS110)においても、除去対象の画素は同じ濃度値に置き換えられるものとする。
また一実施形態では、サインパネル領域SPの下地部分が白色である例を挙げているが、下地部分が何らかの色彩を有するものであってもよい。この場合、下地部分についても色成分を抽出し、その色成分を除去した上で欠陥の有無を検査することができる。
その他、一実施形態で挙げた各種機器の配置はいずれも好ましい例示であり、本発明の実施に際して機器の配置を適宜に変更可能である。
10 欠陥検査装置
12 ベルトコンベア
14 ダンパ装置
16 下流コンベア
18 ラインセンサ
20 照明器具
24 検査ユニット
C クレジットカード
SP サインパネル領域
A1 検査領域
A2 繰り返し絵柄領域

Claims (5)

  1. 所定の繰り返し絵柄が付された被検査物について、その繰り返し絵柄を構成する色成分を事前に抽出する事前工程と、
    前記被検査物を撮像した検査画像を取得する取得工程と、
    前記検査画像を構成する画素のうち、前記事前工程で抽出した色成分を有する対象画素からその色成分を除去する除去工程と、
    前記対象画素の色成分が除去された後の前記検査画像に基づいて、少なくとも前記被検査物の前記繰り返し絵柄を含む領域について欠陥の有無を判断する判断工程と
    を有する欠陥検査方法。
  2. 請求項1に記載の欠陥検査方法において、
    前記事前工程は、
    前記被検査物を撮像して得られた基準画像のうち、少なくとも前記繰り返し絵柄を含む検査領域を規定する第1事前手順と、
    前記第1事前手順で規定した検査領域のうち、前記繰り返し絵柄で構成される絵柄領域を規定する第2事前手順と、
    前記第2事前手順で規定した絵柄領域を構成する全ての画素について、それぞれ色成分の濃度値を抽出する第3事前手順と、
    前記第3事前手順で抽出した濃度値に基づいて前記検査領域内で少なくとも前記繰り返し絵柄を構成する除去対象画素を特定し、これら除去対象画素の濃度値を所定の濃度値に置き換えた上で前記基準画像を保存する第4事前手順とを含み、
    前記判断工程では、
    前記第4事前手順にて保存された前記基準画像を構成する個々の画素と前記検査画像を構成する個々の画素との濃度値の差から欠陥の有無を判断することを特徴とする欠陥検査方法。
  3. 請求項2に記載の欠陥検査方法において、
    前記除去工程は、
    前記検査画像を構成する全ての画素について、それぞれ色成分の濃度値を抽出する第1除去手順と、
    前記第1除去手順で抽出した濃度値と前記第3事前手順で抽出した濃度値との差が所定値以内にある画素を前記対象画素として、その濃度値を前記所定の濃度値に置き換えた上で前記検査画像を保存する第2除去手順とを含むことを特徴とする欠陥検査方法。
  4. 請求項3に記載の欠陥検査方法において、
    前記判断工程は、
    前記基準画像に対して前記第2除去手順にて保存された前記検査画像のパターンマッチングを行い、その結果から前記基準画像に対する前記検査画像の位置ずれを補正する補正手順と、
    前記補正された前記検査画像を構成する個々の画素について、前記基準画像内でそれぞれ対応する位置の画素との濃度差に基づき二値化を行う二値化手順と、
    前記二値化手順で二値化された個々の画素をその値別にグループ化するグループ化手順と、
    前記グループ化された後の前記検査画像内から欠陥を抽出する抽出手順とを含むことを特徴とする欠陥検査方法。
  5. 所定の繰り返し絵柄が付された被検査物について、その繰り返し絵柄を構成する色成分を事前に抽出する抽出手段と、
    前記被検査物を撮像した検査画像を取得する画像取得手段と、
    前記検査画像を構成する画素のうち、前記抽出手段により抽出された色成分を有する対象画素からその色成分を除去する除去手段と、
    前記対象画素の色成分が除去された後の前記検査画像に基づいて、少なくとも前記被検査物の前記繰り返し絵柄を含む領域について欠陥の有無を判断する判断手段と
    を備えた欠陥検査装置。
JP2010166801A 2010-07-26 2010-07-26 欠陥検査方法及び欠陥検査装置 Pending JP2012026908A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010166801A JP2012026908A (ja) 2010-07-26 2010-07-26 欠陥検査方法及び欠陥検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010166801A JP2012026908A (ja) 2010-07-26 2010-07-26 欠陥検査方法及び欠陥検査装置

Publications (1)

Publication Number Publication Date
JP2012026908A true JP2012026908A (ja) 2012-02-09

Family

ID=45780000

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010166801A Pending JP2012026908A (ja) 2010-07-26 2010-07-26 欠陥検査方法及び欠陥検査装置

Country Status (1)

Country Link
JP (1) JP2012026908A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103240230A (zh) * 2013-05-20 2013-08-14 上海东方磁卡工程有限公司 一种智能卡的线圈引出线无损伤检测***及检测方法
JP2015068741A (ja) * 2013-09-30 2015-04-13 大日本印刷株式会社 サインパネル検査システム、サインパネル検査方法
USD733564S1 (en) 2012-11-05 2015-07-07 Otsuka Pharmaceutical Co., Ltd. Container
USD734158S1 (en) 2013-02-22 2015-07-14 Otsuka Pharmaceutical Co., Ltd. Container
USD734661S1 (en) 2013-12-12 2015-07-21 Otsuka Pharmaceutical Co., Ltd. Container
JP2018072191A (ja) * 2016-10-31 2018-05-10 大日本印刷株式会社 積層体の検査装置,方法およびプログラム
CN109839194A (zh) * 2018-05-25 2019-06-04 广州市彩鸿皮革有限公司 一种皮革生产用依据潘通色卡制作的通用色卡的方法
CN110954538A (zh) * 2018-09-25 2020-04-03 柯尼卡美能达株式会社 图像检查***、图像检查方法、以及储存有图像检查程序的计算机能够读取的记录介质
CN115243897A (zh) * 2020-03-02 2022-10-25 Bst有限公司 记录印刷产品检查数据的方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD733564S1 (en) 2012-11-05 2015-07-07 Otsuka Pharmaceutical Co., Ltd. Container
USD734158S1 (en) 2013-02-22 2015-07-14 Otsuka Pharmaceutical Co., Ltd. Container
CN103240230A (zh) * 2013-05-20 2013-08-14 上海东方磁卡工程有限公司 一种智能卡的线圈引出线无损伤检测***及检测方法
JP2015068741A (ja) * 2013-09-30 2015-04-13 大日本印刷株式会社 サインパネル検査システム、サインパネル検査方法
USD734661S1 (en) 2013-12-12 2015-07-21 Otsuka Pharmaceutical Co., Ltd. Container
JP2018072191A (ja) * 2016-10-31 2018-05-10 大日本印刷株式会社 積層体の検査装置,方法およびプログラム
CN109839194A (zh) * 2018-05-25 2019-06-04 广州市彩鸿皮革有限公司 一种皮革生产用依据潘通色卡制作的通用色卡的方法
CN110954538A (zh) * 2018-09-25 2020-04-03 柯尼卡美能达株式会社 图像检查***、图像检查方法、以及储存有图像检查程序的计算机能够读取的记录介质
CN115243897A (zh) * 2020-03-02 2022-10-25 Bst有限公司 记录印刷产品检查数据的方法
CN115243897B (zh) * 2020-03-02 2024-03-26 Bst有限公司 记录印刷产品检查数据的方法

Similar Documents

Publication Publication Date Title
JP2012026908A (ja) 欠陥検査方法及び欠陥検査装置
JP2007293809A (ja) 位置ずれ検出装置、位置ずれ検出方法、位置ずれ検出プログラムおよび記録媒体
JP4525090B2 (ja) 紙皺検査装置、制御装置
JP6696323B2 (ja) パターン検査装置およびパターン検査方法
JP4626151B2 (ja) 印刷検査装置及び方法
JP5167731B2 (ja) 検査装置および方法
JP2003329601A (ja) 欠陥検査装置及び欠陥検査方法
WO2005062028A1 (ja) 基板検査装置
JP4093426B2 (ja) 検査装置、検査方法
JP2011252886A (ja) 印刷物の検査方法及び印刷物の検査装置
WO2017134869A1 (ja) 固形製剤用テンプレート作成方法、固形製剤用テンプレート作成プログラムを記録したコンピュータが読み取り可能な記録媒体、固形製剤印刷検査方法、及び固形製剤印刷検査装置
JP2002024802A (ja) 画像処理システム
JP2001175854A (ja) 画像による良否検査装置
JPH06258226A (ja) 錠剤の外観検査方法
JP2014106069A (ja) 印刷物検査方法及び印刷物検査装置
JP2003329596A (ja) 欠陥検査装置及び欠陥検査方法
JP6776815B2 (ja) 積層体の検査装置,方法およびプログラム
JP4613090B2 (ja) 検査装置
JP4084257B2 (ja) プリント基板検査装置
JP2020024110A (ja) 検査装置および検査方法
JP4760258B2 (ja) 印刷品質検査装置および印刷品質検査方法
JP3415307B2 (ja) 外観検査装置
JP6260175B2 (ja) サインパネル検査システム、サインパネル検査方法
JP2004226212A (ja) 透明体上のピンホール欠点および汚れ欠点を検出する方法および装置
JP2017223558A (ja) 画像処理装置、孔検査システムおよび画像処理方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20111226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120226