JP4686552B2 - 画像リサンプリングを用いた指センサ装置及びこれに関連する方法 - Google Patents

画像リサンプリングを用いた指センサ装置及びこれに関連する方法 Download PDF

Info

Publication number
JP4686552B2
JP4686552B2 JP2007556319A JP2007556319A JP4686552B2 JP 4686552 B2 JP4686552 B2 JP 4686552B2 JP 2007556319 A JP2007556319 A JP 2007556319A JP 2007556319 A JP2007556319 A JP 2007556319A JP 4686552 B2 JP4686552 B2 JP 4686552B2
Authority
JP
Japan
Prior art keywords
finger
image data
finger image
data sets
data set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007556319A
Other languages
English (en)
Other versions
JP2008533562A (ja
Inventor
アール セトラク デール
イー コルネット バーバラ
セングプタ クンタル
Original Assignee
オーセンテック,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オーセンテック,インコーポレイテッド filed Critical オーセンテック,インコーポレイテッド
Publication of JP2008533562A publication Critical patent/JP2008533562A/ja
Application granted granted Critical
Publication of JP4686552B2 publication Critical patent/JP4686552B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12Fingerprints or palmprints
    • G06V40/1335Combining adjacent partial images (e.g. slices) to create a composite input or reference pattern; Tracking a sweeping finger movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Biology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Image Input (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Collating Specific Patterns (AREA)

Description

(発明の分野)
本発明はバイオメトリクス(生体計測)に関するものであり、特に、指センシング及びこれに関連する方法に関するものである。
(発明の背景)
指紋センシング及び整合は、信頼性があり広範に用いられている個人識別または検証技術である。特に、指紋識別の一般的な方法は、指紋またはその画像のサンプルを走査し、画像、及び/または指紋画像固有の特徴を記憶することを含む。指紋サンプルの特徴は、例えば検証目的で、データベース中に既にある参照指紋についての情報と比較して、個人の適切な識別を判定することができる。
米国特許第5,963,679号 米国特許第6,259,804号 米国特許出願第2005/0089202号
指紋センシング用の特に有利な方法は、本発明の譲受人に譲渡された米国特許第5,963,679号及び第6,259,804号に開示され、その全文を参考文献として本明細書に含める。指紋センサは集積回路型センサであり、ユーザの指紋を電界信号で導出し、この電界を、集積回路基板上の電界センシング画素のアレイで検出する。これに加えての指センシング集積回路及び方法は、米国で公開されている米国特許出願第2005/0089202号、発明の名称”Multi-biometric finger sensor including electric field sensing pixels and associated methods”に開示され、これも本発明の譲受人に譲渡されており、その全文を参考文献として本明細書に含める。
米国特許第6,002,815号 米国特許第6,289,114号
集積回路型指センサの1つの種類はいわゆるスライドまたはスワイプセンサであり、比較的小さい矩形のセンシング面を含み、ユーザはこのセンシング面上で自分の指をスライドさせる(すべらせる)か動かす。このスライドセンサから収集したデータからユーザの指の全体画像を生成することが望ましいことがある。実際に、従来技術は、スライドセンサから全体画像を構成するためのシステム設計哲学の2つのクラスを含むものと考えることができる。一方のクラスは、例えば米国特許第6,002,815号に開示されているように、多様な種類の指速度センサを用いて、サンプリングレート(速度)を制御するか、あるいは繰り返しデータを棄却するかのいずれかを行う。他方のクラスは、例えば米国特許第6,289,114号に開示されているように、部分的にオーバラップ(重複)する画像フレームどうしの相互相関を用いて冗長なデータを除外し、画像フレームをつなぎ合わせて単一の全体画像にする。
従来技術の方法は、いくつかの欠点を抱えている。例えば、画像のデスキュー(傾き、曲がり、歪み等の修正)用と部分画像のつなぎ合わせ用に2つの別個のプロセスが必要になり得る。これらのプロセスは、非一様な指の動きの影響によって生じるノイズを低減するメカニズムを欠いていることがあり、そして広範囲に変化する指の速度に容易に適応できないことがある。もちろん、指がより低速でスライドすると、余分なデータは一般に棄却される。
(発明の概要)
以上の背景を考慮するに、従って本発明の目的は、指スライド用途用に高画質の画像データセットを生成する指センサ装置及びこれに関連する方法を提供することにある。
本発明による上記及び他の目的、特徴及び利点は、指画像センシングアレイ上で指がスライドする動きに基づいて複数の指画像データセットのそれぞれを生成する複数の指画像センシングアレイ;及びこの指画像センシングアレイと協働して、上記指画像データセットに基づいて指の動きを測定し、測定した指の動きに基づいて上記指画像データセットをリサンプリング(再サンプリング)することによって、リサンプリングした指画像データセットを生成するプロセッサを具えた指センサ装置によって提供される。このプロセッサはさらに、上記リサンプリングした指画像データセットを生成する際に、複数の指画像データセットをデスキューする。換言すれば、上記プロセッサは、センサが画素を順次、即ちセンサの一方の側から始まり他方の側に向かって進んで読み取る時間中に蓄積された増分的な指の動きを記述することができる。上記プロセッサは、上記指画像センシングアレイに垂直な方向からある角度をなす指の動きを記述し、そして指を動かす動作のコース上でのこの角度の変化を記述することもできる。
上記プロセッサは、上記リサンプリングした指画像データセットが上記複数の指画像データセットをスーパーサンプリング(より細かくサンプリング)した指画像データセットを規定するのに十分なレート(速度)で、上記複数の指画像センシングアレイを走査することができる。従って、上記プロセッサは、上記スーパーサンプリングした指画像データセットをダウンサンプリング(より粗くサンプリング)して所望の解像度にすることによって、上記リサンプリングした指画像データセットを生成することもできる。上記プロセッサは、上記指画像データセットの各々が完結した画像データセットを規定するように、上記指画像センシングアレイの各々を走査することもできる。
上記プロセッサは、上記複数の指画像データセットの各々における少なくとも1つの指の特徴を識別し追跡することに基づいて、指の動きを測定することもできる。例えば、上記プロセッサは指の動きを二次元で測定することができる。
上記プロセッサはさらに、上記リサンプリングした指画像データセット及び記憶している指画像データセットに基づいて、指の整合を判定することができる。その代わりに、あるいはこれに加えて、上記プロセッサは、上記リサンプリングした指画像データセットに基づいて指画像をディスプレイ上に生成することができる。
上記指画像センシングアレイの各々は、指画像センシング画素のリニアアレイで構成することができる。例えば、上記指画像センシング画素の各々は、集積回路型指画像センシング画素で構成することができる。
一部の好適例では、上記プロセッサを上記センシング画素と同じ集積回路上に組み込むことができ、他の好適例では、上記プロセッサを、上記指センシングアレイを含む電子装置のホストプロセッサとすることができる。これらの独立したプロセッサの好適例では、多重データバスを、上記指画像センシングアレイと上記プロセッサとの間に接続することができる。これに加えて、上記指画像センシングアレイの少なくとも隣接したいくつかは、不均等な間隔に配置することができる。簡潔に上述したように、上記指センサ装置は、筐体を具えた携帯電子装置に有利に内蔵させることができる。
本発明の他の態様は、指センシング方法に指向したものである。この方法は、複数の指画像センシングアレイ上で指がスライドする動きに基づいて複数の指画像データセットのそれぞれを生成するステップと;上記指画像データセットに基づいて指の動きを測定するステップと;測定した指の動きに基づいて上記指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成するステップとを具えることができる。これに加えて、上記リサンプリングした指画像データセットを生成するステップはさらに、上記複数の指画像データセットをデスキューすることを含むことができる。
(好適な実施例の詳細な説明)
以下、本発明の好適な実施例について図面を参照しながらより詳細に説明する。しかし、本発明は多くの異なる形態で具体化することができ、本明細書に記載の実施例に限定されるものと考えるべきでない。むしろ、これらの実施例は、本明細書の開示を詳細かつ完全にし、本発明の範囲を当業者に十分伝えるために提供する。図面を通して、同じ要素は同じ参照番号で参照する。
ここで最初に図1及び2を参照しながら、本発明による、指センサ装置30を具えたセルラ電話機20の形の好適な電子装置を説明する。セルラ電話機20は、指センサ装置30を支持する携帯用の筐体21を具えている。これに加えて、セルラ電話機20は、例えばディスプレイ22及び入力キー23を具え、これらも筐体21によって支持される。充電式バッテリ36は、当業者にとって明らかな種々の電子構成要素に給電することができる。ディスプレイ22はライン36経由でホストまたは装置プロセッサ32に接続されている。装置プロセッサ32も、例えば多重通信バス33経由でスライド式指センサ31に接続されており、これについては以下でより詳細に説明する。PDA、ラップトップ・コンピュータのような他の電子装置も指センサ装置30を使用することができる。
指センサ装置30は、例えば集積回路の形の指センサ31を含み、この集積回路は、集積回路基板42を含み、そして3つのリニア指センシングアレイ45〜47をその内部に有する。これに加えて、スライド式指センサ31は、例えば随意的な処理回路41をその内部に含み、処理回路41は、本明細書に説明する画像処理の一部または全部を実行することができる。一部の実施例では、上記画像処理の大部分または全部を装置プロセッサ32によって実行することができる。装置プロセッサ32は、それ自身の埋め込み型メモリを含むか、あるいは実施例に示すように外部メモリ53に接続することができる。
当業者には明らかなように、セルラ電話機または他の携帯電子装置用の装置プロセッサ32は一般に、指センサ装置30が直ちに使用することのできる追加的な処理リソースを有する。もちろん、他の実施例では、画像処理のすべてを、集積回路型スライド式指センサ31のオンボード処理回路41によって実行することができる。当業者には明らかなように、ユーザの指35と上記センシングアレイとの間の相対的な動きに頼る他の種類の指センサも、本明細書に説明する処理技術によって利用することができる。
図に示すスライド式指センサ31には、3つのリニア指センシングアレイ45〜47が設けられ、これらのアレイは不均等な間隔を有する。他の実施例では、アレイ45〜47を均等な間隔にすることができ、そしてアレイの数を異ならせることもできる。これに加えて、指センシングアレイ45〜47の各々は、図に示すように直線状(リニア)にすることができ、そして図2に最良に示すように、複数の集積回路型指画像センシング画素45a〜47aで構成することができる。例えば、集積回路型指画像センシング画素45a〜47aは、米国特許第5,963,679号及び第6,259,804号に開示されているような電界センシング画素とすることができ、これらの特許はその全文を参考文献として本明細書に含める。他の実施例では、例えば熱、赤外線、あるいは光センシングに基づくもののような、異なる種類の集積回路型指センシング画素を用いることができる。さらに他の実施例では、指センシングアレイを、当業者にとって明らかな、集積回路型以外の形で設けることができる。
指センサ装置30は、指画像センシングアレイ上で指35がスライドする動きに基づいて複数の指画像データセットのそれぞれを生成する指画像センシングアレイ45〜47、及びこれらの指画像センシングアレイと協働するプロセッサを具えている。図に示す実施例では、このプロセッサは独立したホストまたは装置プロセッサ32である。プロセッサ32は、指画像データセットに基づいて指の動きを測定し、そして測定した指の動きに基づいて指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成するように設定またはプログラムすることができる。換言すれば、プロセッサ32は、図に示す指の動き測定器51、並びにその下流に接続されたリサンプラ52を規定することができる。以下でより詳細に説明するように、プロセッサのリサンプラ52は、リサンプリングした指画像データセットを生成する際に指画像データセットをデスキュー(傾き、曲がり、歪み等を修正)して、指画像センシングアレイ45〜47に垂直な方向からある角度をなす指35の動きを記述することもできる。
プロセッサ32は、リサンプリングした指画像データセットが、複数の指画像データセットをスーパーサンプリング(より細かくサンプリング)した指画像データセットを規定するのに十分なレートで、指画像センシングアレイ45〜47を走査することができる。従って、プロセッサ32は、スーパーサンプリングした指画像データセットをダウンサンプリング(より粗くサンプリング)して所望の解像度にすることによって、リサンプリングした指画像データセットを生成することもできる。プロセッサ32は、指画像センシングアレイ45〜47の各々を走査し、これにより各指画像データセットは完結した指画像データセットを規定することもできる。このことは、例えば走査中に、部分画像のみを収集し、及び/または冗長なデータを消去する従来技術の方法とは対照的である。
プロセッサ32の指の動き測定器51は、各々の指画像データセットにおける少なくとも1つの指の特徴を識別し追跡することに基づいて指の動きを測定することができ、このことは当業者にとって明らかである。より詳細には、プロセッサ32は指の動きを二次元で測定することができる。
プロセッサはさらに、リサンプリングした指画像データセット及び記憶している指画像データセットに基づいて、指の整合を判定することができる。図に示す装置プロセッサ32は、略図で示す指整合器54を具え、その動作は当業者にとって明らかである。その代わりに、あるいはこれに加えて、プロセッサ32はディスプレイドライバ55を具えて、リサンプリングした指画像データセットに基づいて指画像をディスプレイ22上に生成することができる。
本発明の他の態様は、指センシング方法に指向したものである。この方法は、複数の指画像センシングアレイ45〜47上で指がスライドする動きに基づいて複数の指画像データセットのそれぞれを生成するステップと;これらの指画像データセットに基づいて指の動きを測定するステップと;測定した指の動きに基づいて上記指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成するステップとを具えることができる。これに加えて、リサンプリングした指画像データセットを生成するステップはさらに、上記複数の指画像データセットをデスキューすることを含むことができる。
他の意味で考えれば、本発明の方法はいくつかのセンシングアレイ45〜47を指35が移動する経路中に配置し、各アレイは完結した指の画像を生成する。結果的なデータは同時に取得した同じ物体(指)のいくつかの画像であるが、既知の物理的距離だけ分離された異なるセンサ位置からの画像である。指の速度は捕捉プロセス中に大きく変化し得るので、生の画像は指の動きの方向に可変のピクセレーション(画素区分)を有し得る。そしてプロセッサ32は、これらのいくつかの画像を用いて、時間に対する指の動きの特性を計算し、そしてこの特性を用いて、生の画像の最適なリサンプリングを実行して、単一の高画質の正規化した画像を規則的なピクセレーションで生成することができる。この最適なリサンプリングは同時に、センサの有限の走査(スキャン)レートによって生じるデータのスキュー(歪み)、及び変化する指の速度によって生じるピクセレーションの変動を修正することができる。この方法はある意味で、2つの異なる画像を組み合わせて結果的に単一画像にする立体映像に似ている。本発明の方法は、移動物体(例えば車内のセル電話機)からの単一の無線信号を、異なる位置にあるいくつかの異なるアンテナによって異なる遅延を以って捕捉する際に用いる信号処理とも、いくつかの特徴を共有する。
指センサ装置30は複数のリニア画素アレイ45〜47を具え、これらは、指が複数のアレイ上を順次通過しながらアレイ上をスライドするように配置されている。リニアアレイ45〜47は同期して走査するか、少なくとも走査どうしに既知の時間関係を持たせて走査することができる。各リニアアレイ45〜47は、指のスライド速度に依存する可変の垂直画素ピッチを有する指表面全体の画像を生成する。指の速度特性の推定値は、各リニアアレイによって生成される画像中の選択した特徴の位置を見つけ、そしてアレイ45〜47の既知の物理的間隔を用いて速度を計算することによって作成される。一次元または二次元の動きを計算することができる。そして指の速度の特性を用いて、リニアアレイ画像をデスキューして、画像をリサンプリングして標準的な固定サンプリングレートの画像にすることができる。
指センサ装置30及びこれに関連する方法は多くの利点を提供する。例えば、指センシング装置20は指の速度の広範囲の変動にわたる精度を享受する。指の速度の広範囲の変化の存在下でも提供される正確な撮像は、順次走査されるセンシングアレイからのデータを、アレイ中の異なる位置にあって走査される画素間に生じる遅延について調整することを必要とする。デスキュープロセスはこれらの遅延を補償し、そして指の速度に依存しない同じ最終画像を生成する。
指センサ装置30及びこれに関連する方法は、増強された効率を提供することもできる。デスキューとリサンプリングとを組み合わせて単一の最適化されたプロセスにすることができる。この方法は、一次元または二次元のいずれかの動きを取り扱い、従ってリニアアレイ45〜47の法線に合っていない動きに効率的に適応することができる。センサ装置30及びこれに関連する方法は、毎回異なるリニアセンサアレイを用いて肌を何回か走査し、そしてこれらの測定値を組み合わせて単一の最適な結果にすることによって、画像ノイズ及びアーティファクト(歪像)を低減することもできる。より遅い指の動きを許容し、より多数の測定値を最終結果の計算に含めることによって、改善された感度、低減されたノイズ、及びアーティファクトの低減を生み出すことができる。従来技術の装置における、有用な画像を生成することのできない弱い画像化(イメージング)の指は、今度はより遅い指の動きを用いることによって良好に撮像することができる。
リニアアレイ45〜47の間隔は厳密なものではないが、異なる目的の異なる方法で最適化することができる。例えば、リニアアレイ45〜47の不均等な間隔は、リニアアレイの法線方向に対する種々の角度で生じる指の動きを取り扱うシステム能力を改善することができる。
ここで、追加的に図3を参照しながら、画像データセット処理の態様をさらに説明する。説明を明瞭にするために、指撮像センシングアレイのうち2つだけ(45、46)を例示している。各アレイ45、46は可変画素ピッチの画像60、61を生成し、これらの画像から指速度特性63を生成する。この特性を入力して、高解像度のデスキューされた粗いマトリクス画像65を生成し、最終的に、ダウンサンプリングされた固定垂直画素ピッチの画像66を生成する。
ここで、指画像データセットの取得について、追加的に図4を参照しながらさらに説明する。3つのリニアアレイ45〜47は同時に動作し、連続的にデータを捕捉する。リニアアレイ45〜47の走査を随意的に同期させて、その後のデータ処理を簡略化することができる。これらのアレイからのデータは、規則的な時間ベース(時間間隔)で捕捉するか、あるいはタイムスタンプ(時刻印)を付けて、リサンプリングアルゴリズムが必要とする時間の参照データを提供することができる。アレイ45〜47からの画素データを多重化して単一のデータストリームにして、これらのアレイからプロセッサ、例えばオンボードプロセッサまたは上述した装置プロセッサ32への伝送の利便性を図る。そしてこのデータストリームを多重分離して、各アレイによって生成された生の画像データセットまたは画像60〜62を復元することができる。
ここで追加的に図5を参照しながら、指速度特性63が、指35がスライドする動作中の各時点における指速度の推定値であることを説明する。この速度は、各生の画像60〜62中のある特徴を含む領域60a〜62aを識別することによって計算することができる。この図に示す実施例では、y方向が支配的な指の動きの方向であり、リニアセンサアレイ45〜47の長軸に対する法線方向であり、x方向はリニアセンサアレイに平行な方向である。x及びyの両方向の速度を計算して、指の斜めの動きへの適応を可能にすることができる。
指35の特徴は、画像処理技術の当業者にとって周知の種々の方法を用いて識別し、センシングアレイ45〜47からの画像60〜62を通して追跡することができる。生の画像60〜62の垂直(y軸)方向のピクセレーションは変動し得るので、広幅(x)で縦に短い(y)領域60a〜62aによって表現される特徴は、取り扱いをより容易にすることができ、そしてより広い範囲の指速度にわたって良好な結果を生み出すことができる。この場合には、特徴は単に、多種多様なグレースケールの変化を有する領域とすることができる。明らかに、速度特性63の推定値の信頼性レベルは、曲線上の計算する点の数に応じて変化し、そして3つ以上のリニアアレイを有するセンサ31については、実行する速度計算における冗長性の度合いに応じて変化する。当業者にとって明らかなように、平滑化、内挿補間、曲線の当てはめ、及び他のデータ増大方法を適切な所に適用することができ、このことは当業者にとって明らかである。
遅い指の速度は、物理的特徴及び画素サイズに対してオーバーサンプリング(より高いサンプリングレートでのサンプリング)した生の画像60〜62によって特徴付けることができる。高い指の速度では、生の画像60〜62はアンダーサンプリング(より低いサンプリングレートでのサンプリング)されるようになり得る。例えば3つ以上のより多数のリニアアレイを使用する実施例では、すべてのセンサアレイをまとめた集合的なサンプリングレートが、対象の特徴を撮像するのに必要なベース・サンプリングレート、即ちナイキスト基準に基づくサンプリングレートを超える限り、アンダーサンプリングされた生の画像を用いて、良好なリサンプリングを実行することができる。
ここで追加的に図6を参照しながら、指速度に基づくリサンプリングをさらに説明する。指35がアレイ45〜47上を移動する際に、これらのアレイは、3つの完結した指の画像60〜62を、指の速度と共に変化する垂直解像度で生成する。図に示す実施例は、指35をアレイ45〜47上でゆっくり始動させて連続的に加速することによって生成され得る管状形式の速度特性63を用いた例を利用する。
マトリクス65の大きな格子上の平行斜線を付けた部分は、図に示す速度特性に基づく、生の画像から正規化した画像上への画素値(グレースケール)の配置を例示する。図に示すこの例では、正規化した画像を最初にスーパーサンプリングした形式で表現し、そしてすべての生の画素を配置した後にダウンサンプリングして最終画像66を生成する。このスーパーピクセレーション(スーパーサンプリングした画素化)は、発生し得るリサンプリングのディジタル化誤差を最小化する。よりメモリ密度の低いこれらの誤差を制御するために他の方法が利用可能であり、このことは当業者が容易に理解する所である。
平行斜線を付けた各画素中の数字は、この画素のデータが生の画像のどの走査(または行)から来たかを示す。例えば、左傾き平行斜線を付けた0を含む画素中のグレースケールデータはすべて、左傾き平行斜線を付けた生の画像62の0番目の行から来たものである。この例では、指35は下向きにスライドし、データストリーム中の最初のデータ(従って、生の画像の最上部のデータ)は、指の下部についてのデータである。ここに示す例では、この逆転を、生の画像60〜62を統合画像65にマッピングするプロセスにおいて修正し、従って最終画像66は正しい上下左右の向きを有する。指35が遅く動く際には、画像の底部及び中央部付近では、複数の測定値を組み合わせて各出力画素の最終値が生成されていることがわかる。より速い指の速度が生じると、データは自動的に、出力画素にわたって均等に拡散される。スーパーサンプリングしたアレイ65中にデータを配置した後に、画像処理に精通した者にとって周知の多数のダウンサンプリング・アルゴリズムのいずれかを用いて、これらのデータをダウンサンプリングして所望の垂直及び水平解像度にする。統合した画像データを最適にリサンプリングすることによって、この種の画像用のダウンサンプリング・アルゴリズムは、生のデータにノイズがあるか、生のデータが弱いか、あるいは生のデータの品質が変動する際にも、原画像の最尤推定値を生成することができる。
ここで追加的に図7〜13を参照しながら、好適な指の画像データの処理を説明する。より詳細には、この例におけるデータを生成するために用いる指センサ70は、各々が196画素の4つのリニアアレイ71〜74を有し、これらのアレイはa=50ミクロン及びb=300ミクロンの間隔を有する。各リニアアレイ71〜74によって生成される指全体の可変垂直解像度の画像のそれぞれを、図8〜11の画像75〜79によって示す。これらの画像は、上記垂直及び水平解像度の固定解像度のデータを含むように表示されている。実際に、この例において指がスライドする速度では、画素は垂直方向の方が水平方向より大きい画像領域を表現する。この表示方法の結果は、これらの画像が垂直方向に押し縮められて見える、ということである。比較のため、単一アレイからの画像を直線的に引き伸ばして生じた画像を図12の画像81によって示し、本明細書で説明するように、4つの可変垂直解像度の画像をリサンプリングして組み合わせて生じた画像を図13に示す。
単一アレイからの画像81(図12)には、指がスライドする速度の変化が、稜線の幅の明らかな変化及び稜線の方向角の屈曲として見られる。図13のリサンプリングした画像80では、この画像の歪みが修正されている。なお、リサンプリングした画像80は右に傾いている。これは、指がセンサ70上を少し斜めにスライドした結果である。指センサ装置は小さい水平速度を検出して、リサンプリング中にこの水平速度を補償する。この補償は正規化の効果を有して、当業者が見込むよりもずっと正確なパターン整合(マッチング)を可能にする。
当業者にとって明らかなように、2つ以上のバイオメトリクスは、例えば本願の譲受人に譲渡された米国特許出願第2005/0089202号、発明の名称”Multi-biometric finger sensor including electric field sensing pixels and associated methods”に開示されたように検出することができ、この特許出願の全文を参考文献として本明細書に含める。従って、以上の説明及び関連する図面において提供される教示が利益となる当業者は、本発明の多数の変形及び他の実施例を想到し得る。従って、本発明は開示した特定実施例に限定されず、その変形及び実施例が特許請求の範囲に含まれることは明らかである。
本発明による指センサ装置を含む電子装置の概略図である。 図1に示す指センサ装置の特に断面をより詳細に示す図である。 図1に示す指センサ装置によって実行される画像処理の概略図であり、明瞭に図示するために簡略化して2つの指センシングアレイのみを示す。 図1に示す指センサ装置によって実行される画像処理の他の概略図であり、多重化を含む。 図1に示す指センサ装置によって実行される画像処理をより詳細に示す図であり、指の動き判定を含む。 図1に示す指センサ装置によって実行される画像処理をより詳細に示す図であり、リサンプリングを含む。 本発明による指センサ装置の例における指画像センシングアレイの概略図である。 図7の例における指センシングアレイからの指画像のサンプルである。 図7の例における指センシングアレイからの指画像のサンプルである。 図7の例における指センシングアレイからの指画像のサンプルである。 図7の例における指センシングアレイからの指画像のサンプルである。 従来技術により処理した指画像のサンプルに基づく線形拡大したサンプル画像である。 図8〜11の指画像のサンプルに基づき、本発明により処理した完成画像のサンプルである。

Claims (26)

  1. 互いに平行に配置された複数の指画像センシングアレイと;
    前記複数の指画像センシングアレイと協働するプロセッサとを具え、
    前記複数の指画像センシングアレイは、前記複数の指画像センシングアレイ上で指が、前記平行に配置された複数の指画像センシングアレイを横断する方向にスライドする動きに基づいて、複数の指画像データセットのそれぞれを生成し、
    前記プロセッサは、前記複数の指画像データセットに基づいて指の動きを測定し、そして前記測定した指の動きに基づいて前記複数の指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成し、
    前記リサンプリングすることは、少なくとも、
    前記測定した指の動きを用いて、前記複数の指画像データセットを単一アレイの形に配列し、これにより、前記指画像データセットの各々の解像度よりも高い解像度を有するスーパーサンプリングした指画像データアレイを生成し、
    前記スーパーサンプリングした指画像データアレイをダウンサンプリングして、前記スーパーサンプリングした指画像データアレイの解像度よりも低い解像度を有するダウンサンプリングした指画像データアレイを生成し、これにより、前記リサンプリングした指画像データセットを規定する
    ことによって行うことを特徴とする指センサ装置。
  2. 前記プロセッサがさらに、前記リサンプリングした指画像データセットを生成する際に、前記複数の指画像データセットをデスキューすることを特徴とする請求項1に記載の指センサ装置。
  3. 前記プロセッサが、前記複数の指画像センシングアレイの各々を、前記指画像データセットの各々が完結した指画像データセットを規定するように走査することを特徴とする請求項1に記載の指センサ装置。
  4. 前記プロセッサが、前記複数の指画像データセットの各指画像データセット中の少なくとも1つの特徴を識別して追跡することに基づいて、指の動きを測定することを特徴とする請求項1に記載の指センサ装置。
  5. 前記プロセッサが指の動きを二次元で測定することを特徴とする請求項4に記載の指センサ装置。
  6. 前記プロセッサがさらに、前記リサンプリングした指画像データセット、及び記憶している指画像データセットに基づいて、指の整合を判定することを特徴とする請求項1に記載の指センサ装置。
  7. さらにディスプレイを具え、前記プロセッサが、前記リサンプリングした指画像データセットに基づいて、前記ディスプレイ上に指画像を生成することを特徴とする請求項1に記載の指センサ装置。
  8. 前記複数の指画像センシングアレイの各々が、指画像センシング画素のリニアアレイで構成されることを特徴とする請求項1に記載の指センサ装置。
  9. 前記指画像センシング画素の各々が、集積回路型指画像センシング画素で構成されることを特徴とする請求項8に記載の指センサ装置。
  10. さらに、前記複数の指画像センシングアレイと前記プロセッサとの間に接続された多重データバスを具えていることを特徴とする請求項1に記載の指センサ装置。
  11. 前記プロセッサが、前記複数の指画像センシングアレイから分離していることを特徴とする請求項1に記載の指センサ装置。
  12. 前記複数の指画像センシングアレイの少なくともいくつかの隣接するものどうしが、不均等な間隔で配置されていることを特徴とする請求項1に記載の指センサ装置。
  13. 筐体と;
    前記筐体によって支持される指センサ装置とを具え、
    前記指センサ装置が、
    互いに平行に配置された複数の指画像センシングアレイと;
    前記複数の指画像センシングアレイと協働するプロセッサとを具え、
    前記複数の指画像センシングアレイは、前記複数の指画像センシングアレイ上で指が、前記平行に配置された複数の指画像センシングアレイを横断する方向にスライドする動きに基づいて、複数の指画像データセットのそれぞれを生成し、前記複数の指センシングアレイの各々が、集積回路型指画像センシング画素のリニアアレイで構成され、
    前記プロセッサは、前記複数の指画像データセットに基づいて指の動きを測定し、そして前記測定した指の動きに基づいて前記複数の指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成し、
    前記リサンプリングすることは、少なくとも、
    前記測定した指の動きを用いて、前記複数の指画像データセットを単一アレイの形に配列し、これにより、前記指画像データセットの各々の解像度よりも高い解像度を有するスーパーサンプリングした指画像データアレイを生成し、
    前記スーパーサンプリングした指画像データアレイをダウンサンプリングして、前記スーパーサンプリングした指画像データアレイの解像度よりも低い解像度を有するダウンサンプリングした指画像データアレイを生成し、これにより、前記リサンプリングした指画像データセットを規定する
    ことによって行うことを特徴とする電子装置。
  14. 前記プロセッサがさらに、前記リサンプリングした指画像データセットを生成する際に、前記複数の指画像データセットをデスキューすることを特徴とする請求項13に記載の電子装置。
  15. 前記プロセッサが、前記複数の指画像センシングアレイの各々を、前記指画像データセットの各々が完結した指画像データセットを規定するように走査することを特徴とする請求項13に記載の電子装置。
  16. 前記プロセッサが、前記複数の指画像データセットの各指画像データセット中の少なくとも1つの特徴を識別して追跡することに基づいて、指の動きを測定することを特徴とする請求項13に記載の電子装置。
  17. 前記プロセッサがさらに、前記リサンプリングした指画像データセット、及び記憶している指画像データセットに基づいて、指の整合を判定することを特徴とする請求項13に記載の電子装置。
  18. さらに、前記筐体によって支持されるディスプレイを具え、前記プロセッサが、前記リサンプリングした指画像データセットに基づいて、前記ディスプレイ上に指画像を生成することを特徴とする請求項13に記載の電子装置。
  19. 互いに平行に配置された複数の指画像センシングアレイ上で指が、前記平行に配置された複数の指画像センシングアレイを横断する方向にスライドする動きに基づいて、複数の指画像データセットのそれぞれを生成するステップと;
    前記複数の指画像データセットに基づいて指の動きを測定するステップと;
    前記測定した指の動きに基づいて前記複数の指画像データセットをリサンプリングすることによって、リサンプリングした指画像データセットを生成するステップとを具え、
    前記リサンプリングすることは、少なくとも、
    前記測定した指の動きを用いて、前記複数の指画像データセットを単一アレイの形に配列し、これにより、前記指画像データセットの各々の解像度よりも高い解像度を有するスーパーサンプリングした指画像データアレイを生成し、
    前記スーパーサンプリングした指画像データアレイをダウンサンプリングして、前記スーパーサンプリングした指画像データアレイの解像度よりも低い解像度を有するダウンサンプリングした指画像データアレイを生成し、これにより、前記リサンプリングした指画像データセットを規定する
    ことによって行うことを特徴とする指センシング方法。
  20. 前記リサンプリングした指画像データセットを生成するステップがさらに、前記複数の指画像データセットをデスキューすることを含むことを特徴とする請求項19に記載の指センシング方法。
  21. 前記複数の指画像データセットのそれぞれを生成するステップが、前記複数の指画像センシングアレイの各々を、前記指画像データセットの各々が完結した指画像データセットを規定するように走査することを含むことを特徴とする請求項19に記載の指センシング方法。
  22. 前記指の動きを測定するステップが、前記複数の指画像データセットの各指画像データセット中の少なくとも1つの特徴を識別して追跡することに基づいて、指の動きを測定することを含むことを特徴とする請求項19に記載の指センシング方法。
  23. さらに、前記リサンプリングした指画像データセット、及び記憶している指画像データセットに基づいて、指の整合を判定するステップを具えていることを特徴とする請求項19に記載の指センシング方法。
  24. さらに、前記リサンプリングした指画像データセットに基づいて、指画像をディスプレイ上に生成するステップを具えていることを特徴とする請求項19に記載の指センシング方法。
  25. 前記複数の指画像センシングアレイの各々が、指画像センシング画素のリニアアレイで構成されることを特徴とする請求項19に記載の指センシング方法。
  26. 前記指画像センシング画素の各々が、集積回路型指画像センシング画素で構成されることを特徴とする請求項25に記載の指センシング方法。
JP2007556319A 2005-02-17 2006-02-17 画像リサンプリングを用いた指センサ装置及びこれに関連する方法 Expired - Fee Related JP4686552B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US65463305P 2005-02-17 2005-02-17
US60/654,633 2005-02-17
PCT/US2006/005626 WO2007024259A2 (en) 2005-02-17 2006-02-17 Finger sensor apparatus using image resampling and associated methods

Publications (2)

Publication Number Publication Date
JP2008533562A JP2008533562A (ja) 2008-08-21
JP4686552B2 true JP4686552B2 (ja) 2011-05-25

Family

ID=37772048

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007556319A Expired - Fee Related JP4686552B2 (ja) 2005-02-17 2006-02-17 画像リサンプリングを用いた指センサ装置及びこれに関連する方法

Country Status (7)

Country Link
US (1) US7734074B2 (ja)
EP (1) EP1866837B1 (ja)
JP (1) JP4686552B2 (ja)
KR (1) KR100942081B1 (ja)
CN (1) CN101263511B (ja)
CA (1) CA2598482C (ja)
WO (1) WO2007024259A2 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8447077B2 (en) 2006-09-11 2013-05-21 Validity Sensors, Inc. Method and apparatus for fingerprint motion tracking using an in-line array
WO2006041780A1 (en) 2004-10-04 2006-04-20 Validity Sensors, Inc. Fingerprint sensing assemblies comprising a substrate
US8116540B2 (en) 2008-04-04 2012-02-14 Validity Sensors, Inc. Apparatus and method for reducing noise in fingerprint sensing circuits
WO2010036445A1 (en) 2008-07-22 2010-04-01 Validity Sensors, Inc. System, device and method for securing a device component
US8471679B2 (en) * 2008-10-28 2013-06-25 Authentec, Inc. Electronic device including finger movement based musical tone generation and related methods
US8278946B2 (en) 2009-01-15 2012-10-02 Validity Sensors, Inc. Apparatus and method for detecting finger activity on a fingerprint sensor
US8600122B2 (en) * 2009-01-15 2013-12-03 Validity Sensors, Inc. Apparatus and method for culling substantially redundant data in fingerprint sensing circuits
US9336428B2 (en) * 2009-10-30 2016-05-10 Synaptics Incorporated Integrated fingerprint sensor and display
CN105160234B (zh) * 2010-01-21 2019-02-05 华为终端(东莞)有限公司 一种认证的方法和装置
US9666635B2 (en) 2010-02-19 2017-05-30 Synaptics Incorporated Fingerprint sensing circuit
US8716613B2 (en) 2010-03-02 2014-05-06 Synaptics Incoporated Apparatus and method for electrostatic discharge protection
US9001040B2 (en) 2010-06-02 2015-04-07 Synaptics Incorporated Integrated fingerprint sensor and navigation device
US20120092294A1 (en) 2010-10-18 2012-04-19 Qualcomm Mems Technologies, Inc. Combination touch, handwriting and fingerprint sensor
US8594393B2 (en) 2011-01-26 2013-11-26 Validity Sensors System for and method of image reconstruction with dual line scanner using line counts
US8538097B2 (en) 2011-01-26 2013-09-17 Validity Sensors, Inc. User input utilizing dual line scanner apparatus and method
KR101160681B1 (ko) 2011-10-19 2012-06-28 배경덕 이동 통신 단말기의 활성화 시에 특정 동작이 수행되도록 하기 위한 방법, 이동 통신 단말기 및 컴퓨터 판독 가능 기록 매체
US9195877B2 (en) 2011-12-23 2015-11-24 Synaptics Incorporated Methods and devices for capacitive image sensing
US9137438B2 (en) 2012-03-27 2015-09-15 Synaptics Incorporated Biometric object sensor and method
CN102663666B (zh) * 2012-03-27 2014-05-14 中国人民解放军国防科学技术大学 基于fpga的二维图像重采样算法加速器
US9251329B2 (en) 2012-03-27 2016-02-02 Synaptics Incorporated Button depress wakeup and wakeup strategy
US9600709B2 (en) 2012-03-28 2017-03-21 Synaptics Incorporated Methods and systems for enrolling biometric data
US9024910B2 (en) 2012-04-23 2015-05-05 Qualcomm Mems Technologies, Inc. Touchscreen with bridged force-sensitive resistors
US9665762B2 (en) 2013-01-11 2017-05-30 Synaptics Incorporated Tiered wakeup strategy
US9135494B2 (en) * 2013-09-09 2015-09-15 Apple Inc. Finger biometric sensor for flagging as sufficient enrollment finger biometric data sets and related methods
NO20140653A1 (no) 2014-05-27 2015-11-30 Idex Asa Biometrisk sensor
CN105447436B (zh) * 2014-12-19 2017-08-04 比亚迪股份有限公司 指纹识别***及指纹识别方法及电子设备
USD776664S1 (en) * 2015-05-20 2017-01-17 Chaya Coleena Hendrick Smart card
TWI575464B (zh) * 2015-06-04 2017-03-21 指紋卡公司 用於基於指紋的導移的方法及系統
US9721142B2 (en) * 2015-06-26 2017-08-01 Synaptics Incorporated Multi-resolution fingerprint sensor
KR102395991B1 (ko) * 2015-10-29 2022-05-10 삼성전자주식회사 터치-지문 복합 센서를 포함하는 전자 기기
US10042467B2 (en) 2016-01-29 2018-08-07 Synaptics Incorporated Integrated capacitive fingerprint sensor
CN106228123B (zh) * 2016-07-14 2019-02-12 浙江赢视科技有限公司 自动调整处理的指纹识别器及其识别方法
CN106203366B (zh) * 2016-07-14 2019-02-12 浙江赢视科技有限公司 电容式指纹识别装置及其识别方法
CN106599822B (zh) * 2016-12-08 2019-11-12 江苏邦融微电子有限公司 一种可变分辨率的指纹采集单元阵列及其采集方法
US10776469B2 (en) * 2017-07-18 2020-09-15 Samsung Electronics Co., Ltd. Method for generating 3D biometric model of body part of user and electronic device thereof
US11301664B2 (en) * 2018-09-12 2022-04-12 Fingerprint Cards Anacatum Ip Ab Reconstruction of fingerprint subimages
TWI773991B (zh) * 2020-05-19 2022-08-11 財團法人工業技術研究院 指紋辨識方法及電子互動裝置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003052675A1 (en) * 2001-12-18 2003-06-26 Philipson Lars H G Method and device for secure transactions
JP2004086463A (ja) * 2002-08-26 2004-03-18 Casio Comput Co Ltd 画像登録方法、画像登録装置、および画像登録処理プログラム
WO2004026139A1 (ja) * 2002-09-17 2004-04-01 Fujitsu Limited 生体情報取得装置および生体情報による認証装置
JP2004164170A (ja) * 2002-11-12 2004-06-10 Fujitsu Ltd 生体特徴データ取得装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5963679A (en) 1996-01-26 1999-10-05 Harris Corporation Electric field fingerprint sensor apparatus and related methods
FR2749955B1 (fr) 1996-06-14 1998-09-11 Thomson Csf Systeme de lecture d'empreintes digitales
US6259804B1 (en) 1997-05-16 2001-07-10 Authentic, Inc. Fingerprint sensor with gain control features and associated methods
US6002815A (en) 1997-07-16 1999-12-14 Kinetic Sciences, Inc. Linear sensor imaging method and apparatus
SE0001761L (sv) * 2000-05-15 2001-07-02 Ericsson Telefon Ab L M Metod för alstring av en sammansatt bild samt en apparat för detektering av fingeravtryck
US6661424B1 (en) * 2000-07-07 2003-12-09 Hewlett-Packard Development Company, L.P. Anti-aliasing in a computer graphics system using a texture mapping subsystem to down-sample super-sampled images
US7289649B1 (en) * 2000-08-10 2007-10-30 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Fingerprint imager
JP4114032B2 (ja) * 2000-09-26 2008-07-09 セイコーエプソン株式会社 個人認証装置
EP1374146B1 (en) * 2000-12-05 2005-10-19 Validity Sensors Inc. Swiped aperture capacitive fingerprint sensing systems and methods
US7203347B2 (en) * 2001-06-27 2007-04-10 Activcard Ireland Limited Method and system for extracting an area of interest from within a swipe image of a biological surface
US7043061B2 (en) * 2001-06-27 2006-05-09 Laurence Hamid Swipe imager with multiple sensing arrays
US7006078B2 (en) * 2002-05-07 2006-02-28 Mcquint, Inc. Apparatus and method for sensing the degree and touch strength of a human body on a sensor
US6930792B2 (en) 2002-08-02 2005-08-16 Cross Match Technologies, Inc. Web-enabled live scanner and method for control
EP1671261A2 (en) 2003-09-05 2006-06-21 Authentec, Inc. Multi-biometric finger sensor using different biometrics having different selectivities and associated methods

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003052675A1 (en) * 2001-12-18 2003-06-26 Philipson Lars H G Method and device for secure transactions
JP2004086463A (ja) * 2002-08-26 2004-03-18 Casio Comput Co Ltd 画像登録方法、画像登録装置、および画像登録処理プログラム
WO2004026139A1 (ja) * 2002-09-17 2004-04-01 Fujitsu Limited 生体情報取得装置および生体情報による認証装置
JP2004164170A (ja) * 2002-11-12 2004-06-10 Fujitsu Ltd 生体特徴データ取得装置

Also Published As

Publication number Publication date
WO2007024259A2 (en) 2007-03-01
KR20070110034A (ko) 2007-11-15
JP2008533562A (ja) 2008-08-21
CN101263511B (zh) 2012-01-04
CN101263511A (zh) 2008-09-10
KR100942081B1 (ko) 2010-02-12
US7734074B2 (en) 2010-06-08
WO2007024259A3 (en) 2008-01-24
CA2598482A1 (en) 2007-03-01
EP1866837A2 (en) 2007-12-19
CA2598482C (en) 2012-04-17
EP1866837B1 (en) 2012-01-18
US20060182319A1 (en) 2006-08-17

Similar Documents

Publication Publication Date Title
JP4686552B2 (ja) 画像リサンプリングを用いた指センサ装置及びこれに関連する方法
US7263212B2 (en) Generation of reconstructed image data based on moved distance and tilt of slice data
JP4428766B2 (ja) ナビゲーション位置取得方法
US8811688B2 (en) Method and apparatus for fingerprint image reconstruction
JP4443074B2 (ja) 指紋撮像装置
US8229184B2 (en) Method and algorithm for accurate finger motion tracking
JP5293950B2 (ja) 個人認証装置及び電子機器
US8059872B2 (en) Fingerprint image forming apparatus, finger movement amount calculation method, and fingerprint image forming method
US8358815B2 (en) Method and apparatus for two-dimensional finger motion tracking and control
EP2128817B1 (en) Image reading device, image reading program, and image reading method
US20040022451A1 (en) Image distortion correcting method and apparatus, and storage medium
US9189684B2 (en) Biometric authentication device, biometric authentication method, and non-transitory computer-readable recording medium
WO2009079221A2 (en) Method and algorithm for accurate finger motion tracking
US7606440B2 (en) Linear image sensing device with image matching function
US20060215913A1 (en) Maze pattern analysis with image matching
US10783618B2 (en) Compensating for geometric distortion of images in constrained processing environments
JP5299632B2 (ja) 個人認証装置、プログラム及び記録媒体
EP1632901A2 (en) Maze pattern analysis for using a digital pen
JP2007328500A (ja) 画像取得装置および個人認証システム、並びに、画像構成方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20081212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100511

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101115

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20101126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110214

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140218

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4686552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees