JP2007122048A - 顕微鏡検査システム及び蛍光を可視化するための記録方法 - Google Patents

顕微鏡検査システム及び蛍光を可視化するための記録方法 Download PDF

Info

Publication number
JP2007122048A
JP2007122048A JP2006274846A JP2006274846A JP2007122048A JP 2007122048 A JP2007122048 A JP 2007122048A JP 2006274846 A JP2006274846 A JP 2006274846A JP 2006274846 A JP2006274846 A JP 2006274846A JP 2007122048 A JP2007122048 A JP 2007122048A
Authority
JP
Japan
Prior art keywords
image
gain
binary number
charge amount
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006274846A
Other languages
English (en)
Other versions
JP5218881B2 (ja
Inventor
Helge Jess
イエス、ヘルゲ
Petra Weinschenk
ヴァインシェンク、ペトラ
Martin Schneider
シュナイダー、マルティン
Christoph Hauger
ホーガー、クリストフ
Hans-Joachim Miesner
ミースナー、ハンス−ヨアヒム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss Surgical GmbH
Original Assignee
Carl Zeiss Surgical GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Carl Zeiss Surgical GmbH filed Critical Carl Zeiss Surgical GmbH
Publication of JP2007122048A publication Critical patent/JP2007122048A/ja
Application granted granted Critical
Publication of JP5218881B2 publication Critical patent/JP5218881B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6428Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Optics & Photonics (AREA)
  • Chemical Kinetics & Catalysis (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Microscoopes, Condenser (AREA)

Abstract

【課題】発生している蛍光をより見やすく表示することが可能な、顕微鏡システムおよび蛍光を可視化するための記録方法を提供すること。
【解決手段】イメージセンサ及びイメージセンサに関係する回路は、一連の蛍光画像を記録するために用いられる。前記イメージセンサは、入射された放射によって生じる電荷を蓄積するための複数の画素を有し、前記回路は、画素に蓄積された電荷を二進数に変換する。回路の利得は調整可能である。利得は、記録工程の開始時において、適切な最大値に設定される。記録工程において、記録された画像の1つ以上の輝度値が、適切に選択された最大輝度値を超えることが決定された場合には、利得は減少される。記録開始時に利得を最大値に設定することにより、弱い蛍光によっても重要な画像信号が確実に得られる。
【選択図】図1

Description

本発明は、顕微鏡検査システム及び蛍光を可視化するための記録方法に関する。
蛍光マーカーは、特定の組織の特徴、組織の種類、組織の構造及び組織の機能を可視化する等、様々な目的のために、医療及び生物学における応用に用いられている。ここで、蛍光マーカー又はそのような蛍光マーカーの原型となる物は、検査又は治療がなされている組織標本もしくは患者にアプライされる。蛍光マーカーは、組織標本又は患者の特定の組織の種類又は組織の構造内に蓄積され、その組織の構造及び組織の種類は、蛍光を励起するための光を組織標本に照射し、対応する蛍光を観察することにより、観察者によって知覚され、その位置が特定され得る。時として強度が低く、観測者の目に見える蛍光を得るために、様々な光学器具が用いられる。従来の顕微鏡検査システム及び記録方法は、特許文献1により既知であり、これらの全開示を参照により本明細書に援用する。この従来の顕微鏡検査システムを用いれば、蛍光マーカー又はその原型となる物を標本にアプライし、その後、対応する蛍光を観察して対応する画像を記録し、これらの画像をアーカイブしてフィルムとして再生することが可能である。
米国特許出願公開第2004/0109231号明細書
この従来のシステムにおいては、輝度やコントラストが低いなど、記録された画像の質が低かったり、記録された画像において重要度の高い蛍光が見られなかったりすることがある。その場合、より高い濃度の蛍光マーカーを用いたり、所望の結果を得るために他のパラメータを変更して、検出工程を繰り返す必要がある。
本発明は、上記課題を考慮してなされたものである。
本発明の実施の形態は、発生している蛍光をより見やすく表示することが可能な、顕微鏡検査システム及び蛍光を可視化するための記録方法を提供する。
本発明の実施の形態は、イメージセンサと、前記イメージセンサに接続された回路とを用いている。前記イメージセンサは、入射された放射によって生じる電荷を蓄積するための複数の画素を備え、前記回路は、調整可能な利得を用いて、前記画素に蓄積された電荷を二進数に変換する。記録シーケンスが開始されるとき、利得は適切な最大値に設定される。記録シーケンスの間、記録された画像の1つ以上の強度値が、適切に選択された輝度値を超えることが決定された場合には、利得は減少するであろう。
記録開始時に利得を最大値に設定することにより、弱い蛍光によっても重要な画像信号が得られることが確実となる。蛍光マーカー又はその原型となる物をアプライした後、蛍光画像の画像輝度は連続的に増加するであろう。その場合、初めに利得が高い値に設定されていたため、幾つかの輝度値が、最大輝度値を超える、もしくは、さらに大きな輝度値や桁外れな値を取る可能性がある。これを避けるため、画像が適切なコントラストを有し、画像内において、最大値を超える輝度値又はオーバーフロー値を取る領域が、小さいままであるように、利得の値を連続的に減少させる。検出可能な蛍光強度が低い、蛍光の開始時において、すでに高いコントラストを有する画像を記録し、かつ、蛍光強度が連続的に増加するときにも、十分な画像を記録し続けることが可能である。
本発明の一実施の形態は、カメラシステムを用いて一連の蛍光画像を記録する方法であって、前記カメラシステムが、入射された放射によって生じる電荷を蓄積するための複数の画素を有するイメージセンサと、画素の群に蓄積された電荷量を二進数に変換するための回路であって、それぞれの二進数が、電荷量の範囲内の電荷量を表わすように、前記変換の利得が調整可能であり、電荷量の範囲内の電荷が、少なくとも1つの利得に応じた電荷量の限界もしくはそれ未満である回路とを備え、前記電荷量の限界が、少ない第1の電荷量となるように、少なくとも1つの利得を設定する工程を含み、さらに、前記イメージセンサによって検出された画像を表わす二進数を前記回路から受け取る工程と、前記検出された画像を表わす少なくとも1つの二進数が、最大値よりも大きい電荷量を表わす場合において、前記電荷量の限界が、前記少なくとも1つの利得の先の調整における限度よりも大きくなるように、前記少なくとも1つの利得を再度調整する工程とを繰り返し行う蛍光画像の記録方法を提供する。
一般的に、二進数は、イメージセンサのそれぞれの画素に関連する、検出強度値を表わす。このような二進数から生じた表示画像において、高い放射量(radiation dose)を受けるイメージセンサの画素領域に対応するこれらの領域は明るく見え、一方、低い放射量を受けるイメージセンサの画素領域は、前記対応する画像において、暗い領域に見える。しかし、二進数が、異なる符号化スキームによって、画素内に発生した電荷量を表わすことも可能である。例えば、高い放射量を受ける画素領域が、表示画像の対応する領域において、暗い領域に見え、一方、明るく見える表示画像の領域が、低い放射量を受けるイメージセンサの画素領域に対応するように、二進数が反転した輝度を表わすことも可能である。
前記回路は、電荷量の範囲がそれぞれの二進数と関連するように、画素の群に蓄積された電荷量を複数の二進数に変換する。この場合、互いに異なる二進数に対応する電荷量の範囲は、殆ど重ならない。電荷量の範囲内の電荷量は、電荷量の限界未満である。画素の群に蓄積され、電荷量の限界よりも大きい電荷量は、オーバーフローを表わす特定の二進数に変換することが可能である。例えば、電荷量は、0から254の8ビットの二進数に変換することが可能であり、二進数255は、電荷量の限界、もしくは、電荷量の限界よりも大きいオーバーフローを表わすことができる。
電荷量の限界は、調整可能な利得によって決定される。
イメージセンサは、画素に蓄積された電荷が行方向に移動するCCDセンサであって、それぞれの列の電荷量が順次電圧に変換され、前記電圧が増幅され、前記増幅された電圧が、アナログ・デジタル変換器(ADC)を用いて二進数に変換されるCCDセンサであることが可能である。前記電圧の増幅は、調整可能な利得を有する電圧増幅器によって行われる。同様に、アナログ・デジタル変換器の利得も調整可能である。
イメージセンサは、それぞれの画素に蓄積された電荷量の変換が、前記画素の位置において行われるCMOSセンサであって、前記画素に対応する電圧値が、前記画素の行と列とをアドレス指定することによって読み出され得るCMOSセンサからなっていてもよい。ここで、電荷量の変換の利得を電圧に調整することも可能であり、前記電圧の増幅の利得及び増幅された電圧の変換の利得を二進数に変換することも可能である。
本発明の一実施の形態によれば、イメージセンサによって検出された画像を表わす、受け取られた二進数は、記録媒体に記録され得る。
本発明の例示的な一実施の形態によれば、記録媒体における記録は、開始時間よりも前に検出された複数の画像が記録されないように、開始時間後にのみ行われる。
他の一実施の形態によれば、検出された全ての画像を記録媒体に記録し、マーカーを記録媒体に付加的に保存することが可能であり、前記マーカーは、開始時間近くに記録された記録画像を示す。
前記開始時間は、複数の方法により決定される。
一実施の形態によれば、前記開始時間は、検出された画像のコントラストに基づいて決定される。記録の開始において、まだ蛍光マーカーが決められた標本に蓄積されていないとき、記録された蛍光画像のコントラストは、小さいかもしくは存在しないであろう。標本内の蛍光マーカーの蓄積が増加するにしたがって、前記画像のコントラストは、増加し、低い方の閾値を超えるであろう。その場合、低い方の閾値を超える時間を開始時間とすることができる。
蓄積された電荷量が二進数に変換される画素の群は、1つの単一画素からなっていてもよい。その一方で、前記画素の群は、複数の画素からなることも可能である。
一実施の形態によれば、イメージセンサは、例えば、4つの隣り合う画素の蓄積された電荷を、前記センサを読み出す際に集約するCCDセンサからなっていてもよい。この場合、前記集約された電荷が前記二進数に変換される。
さらなる一実施の形態によれば、1つ以上の画素の電荷量を表わす複数の二進数が平均化されてもよい。これにより、このように前記変換の中間結果を表わす複数の二進数が集約され、最終的な二進数となる。その結果、イメージセンサの画素解像度との比較において、解像度が減少してはいるが、画像ノイズが軽減された、表示可能な画像が、データの減少によって実現される。
前記蛍光マーカーは、いかなる適切な蛍光マーカーもしくはその原型となる物であってもよい。例えば、励起波長が約700nmから約800nmの範囲にあり、蛍光波長が約800nmから約900nmの範囲にあるインドシアニングリーン(ICG)が挙げられる。さらに、蛍光マーカーの原型となる物として、励起波長が約400nmから約430nmの範囲にあり、蛍光波長が約630nmから約720nmの範囲にある蛍光マーカーとなる5−アミノレブリン酸(5−ALA)も挙げられる。
以下に述べる例示的な実施の形態において、同様の機能及び構造を有する構成要素については、可能な限り同様の参照符号を付している。従って、或る特定の実施の形態における個々の構成要件の特徴を理解するにあたり、他の実施の形態や課題を解決するための手段における記載を参照されたい。
図1は、光軸7を有する対物レンズ5を含む顕微鏡検査光学系3を備えた顕微鏡検査システム1を概略的に示している。検査される物体9は、対物レンズ5の物体平面内に配置される。物体9から発せられる光は、対物レンズ5によって平行ビーム11となるように変形され、その中に2つのズーム系12、13が光軸7から或る距離を置いて配置される。ズーム系12、13は、平行ビーム11の部分ビーム14、15を用い、当該部分ビーム14、15を、顕微鏡検査システム1の筒の本体の偏向プリズム(図1においては図示せず)を通して、接眼レンズ16、17に供給する。ユーザは、左目18と右目19でそれぞれ接眼レンズ16、17を覗き込むと、画像として物体9の拡大された表示を知覚するであろう。ユーザが両目18、19で物体9の立体画像を知覚するように、左目18で知覚される画像は、光軸7に対して角度(で物体を見たときの画像に対応し、右目19で知覚される画像は、光軸7に対して角度−(で物体9を見たときの画像に対応している。
ビーム23として光の一部を分枝するために、半透明ミラー21が部分ビーム15内に配置されている。ビーム23は、さらなるビームスプリッタ25によって分割され、ビーム27、29となる。ビーム27は、カメラ32が光軸7に対して観測角−(で物体9の画像を検出するように、カメラアダプタ光学素子31を通してカメラ32の光検出素子に供給される。カメラ32によって検出された画像は、画像データとして、データライン33を通ってコントローラ35に伝送される。
ビーム39は、半透明ミラー37によって部分ビーム14から分枝される。ビーム39は、カメラ43が光軸7に対して観測角(で物体9の画像を検出するように、カメラアダプタ光学素子41を通して、さらなるカメラ43の光検出素子に供給される。カメラ43によって検出された画像は、画像データとして、データライン45を通ってコントローラ35に供給される。頭部装着型ディスプレイ49に一体化され、かつ、図1において参照符号51、52として概略的に示されるディスプレイが、ユーザの左目及び右目で知覚されたであろうそれぞれの画像を供給するように、コントローラ35は、カメラ32、43によって画像データとして検出された画像を、ライン47を通して、顕微鏡検査システム1のユーザの頭部に着けて持ち運ばれる頭部装着型ディスプレイ49に伝送する。
従って、ユーザは、接眼レンズ16、17を直接覗き込む位置にいない場合においても、頭部装着型ディスプレイ49を用いて、物体9の可視光画像の表示を観察することにより、物体9の立体表示を知覚するであろう。
ビーム29は、カメラ55が物体の赤外線画像を検出できるように、カメラアダプタ光学素子53を通して、カメラ55の光検出素子に供給される。フィルタ57が、ビーム29内に配置される。フィルタ57の透過特性は、特定の用途において用いられる蛍光マーカーの蛍光波長に合わせられる。示された例において、蛍光マーカーは、約835nmの蛍光発光を有するICGである。フィルタ57の透過特性は、810nmよりも大きい波長を有する光のみが透過され、810nm未満の波長の光は透過されないように設計されている。従って、カメラ55は、以下にさらに示されるように、顕微鏡検査システム1の照射系63によって物体の蛍光が励起された場合に、物体9の蛍光物質の分布を表わす物体9の画像を検出する。
カメラ55によって検出された画像は、データライン65を通ってコントローラ35に伝送される。コントローラ35は、画像データとして、カメラ55によって検出された画像を、データライン67を通してLCDディスプレイ69に伝送する。LCDディスプレイ69は、画像データを、平行光学系70及び半透明ミラー68によって部分ビーム15と重ね合わせられた画像として表示する。LCDディスプレイ69の画像は、物体9の直接的な光学像と重ね合わせられた形で、ユーザの目19によって知覚されるであろう。LCDディスプレイ69は、カメラ55によって検出された赤外線光強度の分布を、緑色などの可視色で表示する。赤外線画像を表示するためには、緑色を用いるのが好ましい。何故なら、物体9を形成する人体組織には、通常、比較的少量ではあるが緑色が含まれるからである。
カメラ55によって検出され、かつ、カメラ32によって検出された可視光画像と重ね合わせられた赤外線光画像が、ディスプレイ51に表示されるように、コントローラ35は、頭部装着型ディスプレイ49のディスプレイ51に伝送された画像データのデータ処理を行う。従って、頭部に頭部装着型ディスプレイ49を装着しているユーザも、物体の可視光画像と赤外線光画像とが重ね合わせられた表示を、その右目で知覚するであろう。
参照簡便と明瞭性のために図1には図示していないが、さらなるビームが、左目18に供給される部分ビーム14から分枝されていてもよい。このようなさらなるビームは、部分ビーム15、LCDディスプレイ69、平行光学系70及び半透明ミラー68について上述したように、可視光の部分ビーム14と重ね合わせられた画像を生じさせるために、さらなる赤外線カメラに供給されてもよい。そして、ユーザは、物体9の立体的な赤外線光画像を知覚するであろう。このような付加的なカメラによって生じた画像データは、頭部装着型ディスプレイ49が物体9内の蛍光物質の分布を表わす立体表示も供給するように、頭部装着型ディスプレイ49のディスプレイ52にも供給される。
1つもしくは複数のレンズ75を通り、光源から放射された光を光ファイバーバンドル77内に結合させるための、光ファイバーバンドル77の入射端76に向けられた平行光ビーム74を発生させるために、照射系63は、光源としてのハロゲンランプ71と、リフレクタ72と、コリメータ73とを備えている。前記光は、光ファイバーバンドル77によって対物レンズ5の近くまで運ばれ、光ファイバーバンドル77の出射端78から出射する。物体9に向けられる照射光ビーム81を形成するために、出射している光を整形するための平行光学系79が設けられている。本実施の形態は、光源としてハロゲンランプを使用するものに限定されるものではない。キセノンランプなどの他の光源を使用してもよい。
照射系63は、互いに隣接して配置された2つのフィルタ84、85を有するフィルタプレート83をさらに備えている。フィルタ84がフィルタプレート83の第1の位置においてビーム74内に配置され、かつ、フィルタ85がフィルタプレート83の第2の位置においてビーム74内に配置されるように、コントローラ35によって制御されるアクチュエータ87が、図1における両矢印88によって示される方向にフィルタプレート83を移動させるために設けられている。
フィルタ84の透過特性は、フィルタ84が可視光及び約800nmを上限値とする波長の光をほぼ完全に透過させ、その上限値を超える波長の光を殆ど透過させないように設計されている。フィルタ84は、検査されている物体9の領域における蛍光物質の蛍光を観察する用途のために、ビーム74内に位置している。接眼レンズ16、17を覗き込み、カメラ32、43によって検出された画像を観察することにより、物体9の可視光画像を知覚するために、照射光ビーム81がカメラ55によって検出された蛍光を励起し、かつ、可視光を物体9の領域に照射するように、上限値である800nmは、ICGの励起波長よりも大きい波長となっている。しかし、上限値800nmが蛍光マーカーの発光波長である835nmよりも小さいのは、カメラ55によって検出される蛍光の波長を有する光が、蛍光マーカーの蛍光のみから生じるように、蛍光の波長を有する光を物体9に照射しないようにするためである。
蛍光を観察することが望ましくない場合には、コントローラ35は、アクチュエータ87を駆動して、フィルタ85がビーム74内に配置されるようにフィルタプレート83を移動させる。フィルタ85の透過特性は、フィルタ85が約710nmである上限値以下の波長の可視光を殆ど透過させ、その上限値を超える波長の光を殆ど透過させないように設計されている。フィルタ85は、照明光ビーム81からの放熱を取り除くための熱保護フィルタとして用いられている。さもなければ、物体9を不必要に加熱してしまうことになるからである。ICGの励起スペクトルも710nm未満の波長まで増加したとしても、フランク(flank)93は、ICGの最大励起波長59よりもはるかに小さい。しかし、フィルタ85がビーム74内に配置された場合には、物質の蛍光は殆ど励起されない。
図2は、カメラ55及びコントローラ35の機能を図示している。カメラ55は、CCDカメラであり、行及び列に配置された複数の画素103を有するイメージセンサ101を備えている。読み出し回路102は、イメージセンサ101を制御し、イメージセンサ101の信号から画像を生成するために用いられている。読み出し回路102は、カメラ55に配置されるであろう構成要素と、コントローラ35に配置されるであろう構成要素とを備えている。
露光中、画素に電荷が蓄積される。それぞれの露光の終了時に、図2の矢印107によって示されるように、それぞれの画素に蓄積された電荷が、列ごとにレジスタ105に移動させられる。一列の電荷がレジスタ105に移動するや否や、図2の矢印111によって示されるように、それぞれの電荷が、電荷・電圧変換ユニット109へ連続的に移動させられる。電荷・電圧変換ユニット109は、それぞれの電荷を、可変利得を有する増幅器113によって増幅された対応する電圧に変換し、前記電圧は、可変利得を有するアナログ・デジタル変換器115に供給される。アナログ・デジタル変換器115は、前記電圧を二進数(binary values)に変換する。示された例においては、0から254の輝度値が生じるように、前記二進数は8ビットを有している。二進数255は、画素内に蓄積された電荷がオーバーフローしている状態、つまり、電荷が電荷量の限界よりも大きい状態を表わしている。電荷量の限界は、増幅器113の利得の設定及びアナログ・デジタル変換器115の利得によって規定される。利得を組み合わせることにより、画素の電荷量の二進数への変換のスケールファクターが与えられる。変換の利得の合計は、画素に蓄積された電子の量を二進数(binary number)で割った値、つまり、画素の輝度値として規定され得る。
示された例において、前記二進数は、データライン65を介してコントローラ35に供給され、コントローラ35は、例えば、中間画像データメモリ119に前記二進数を保存するためのフレームグラバー117を備えている。そして、それぞれのデータ値が、中間画像データメモリ119の4つの対応する画像輝度値を平均することによって得られる画像輝度値を表わす画像データで、画像データメモリ121を満たすことにより、画像のデータ量を減らすために、コントローラ35のプロセッサが第1の画像処理を行う。他の例では、画像データメモリ121において1つのデータ値を得るために、9、16又はそれ以上の中間画像データメモリ119の画像輝度値を平均することにより、データがより大幅に減少してもよい。データの減少により、細かい点や画像ノイズが次の計算に影響を与えないようにもなる。
画像データメモリ121からの画像データは、ハードディスク123などの記憶媒体に、次々と、つまり画像ごとに書き込まれる。コントローラ35のプロセッサ上で動くソフトウェアの一部として実装されていてもよい画像分析モジュール125は、画像データメモリ121に保存された輝度値の輝度分析を行う。輝度値のうちの1つが、示された例において250以下から選択される最大値を超えた場合には、さらに輝度の高い次の画像が、画像の2進法表示(binary representation)の有効なダイナミックレンジを超える可能性があることを示唆する。その場合、画像分析モジュール125は、制御ライン66を通して、増幅器113及びアナログ・デジタル変換器115の1つ又は両方の利得の設定を減少させるであろう。例えば、前記利得は、現在の利得の95%の値に設定される。
処理の開始時には、利得は所定の最大値に設定されているため、画像内の弱い蛍光が、確実に二進符号化(binary coding)の有効なダイナミックレンジをすでに最大限利用していることになる。そして、その後は、蛍光画像の強度を増加させながら前記利得を減少させているため、幾つかの、又はそれ以上の画素におけるオーバーフローは、可能な限り避けられるであろう。
ここで、一般的に、蛍光放射は、簡単には検出されない低い強度を有することも想定される。このため、処理の開始時において、検出される蛍光強度の減少は可能な限り避けられる。光学系内に最終的に存在する開口は、可能な限り取り除かれるか又は開かれる。さらに、カメラ55の露光時間は、所定の値、特に、カメラにとって有効な最大値に調整される。
一連の蛍光画像の記録方法の一実施の形態を、図3を参照しながら説明する。図3に示された処理手順は、例えば、図1に示されたボタン97を押すことによって開始され得る。その後、ステップ201において、コントローラ35がフィルタプレート83をビーム経路内へ動かす。ステップ203において、増幅器113及びアナログ・デジタル変換器115の利得が、それぞれの最大値に設定される。ステップ205においてイメージカウンタnが0に設定され、ステップ207において、1つの画像の二進数又は輝度値が、ライン65を通してカメラから供給され、画像データメモリ121に保存される。
その後、ステップ209においてイメージカウンタを増加させ、次の画像をステップ211においてカメラから受け取り、ステップ211において、ハードディスク123に保存され、LCDディスプレイ69及びディスプレイ51、52に表示される。ステップ213においては、画像内に蛍光が検出可能であるか否かが決定される。これは、現在記録されている画像のコントラストと、先に記録された画像のコントラストとを比較することによって行われる。コントラストの増加が検出された場合には、蛍光の開始が想定される。コントラストの増加が検出されない場合には、ステップ209から処理が続けられ、画像が繰り返し記録される。
画像におけるコントラストは、この画像における最大輝度値から最小輝度値を減算することによって決定され得る。最大輝度値と最小輝度値との差が、コントラストを表わしている。
ステップ213において所定の閾値よりも大きいコントラストの変化が検出された場合には、蛍光が開始されることになり、イメージカウンタnの現在の値がnstartとして保存されるステップ215において、処理が続けられる。
その後、ステップ217においてイメージカウンタnを増加させ、ステップ219において、次の画像を受け取り、表示及び記録をする。ステップ221において、処理を終了させるべきか否かが決定される。300秒などの最大継続時間が超過したか否かを決定することがそのような終了に含まれる。もしくは、ボタン97などのユーザインターフェース素子の状態が決定され、これにより、ユーザにさらなる画像の記録を終了させる。
さらに、ステップ221において画像分析を行うことにより、記録の終了を決定することも可能である。前記画像分析は、例えば、蛍光が退色するか否かを決定し、それは、画像の最大輝度値が、適切に設定された閾値よりも小さいか否かを決定することによって行うことができる。
一連の画像における蛍光強度の増加のみを記録したい場合には、蛍光の終了は、次の画像の輝度を比較することによって決定されてもよい。輝度の増加がこれ以上決定されないのであれば、コントローラ35は、ステップ221においてさらなる画像の記録を終了させてもよいし、ステップ227において処理を継続させてもよい。
処理が終了しない場合には、ステップ223において、画像の輝度値が閾値より大きいか否かが決定される。図2を参照して上述したように、8ビットで表わされる最も大きい数が255であることを考慮し、閾値として250が選択される。ステップ223における決定により、最大輝度に達していないと結論づけられた場合には、ステップ217において、さらなる画像の記録、表示及び保存のための処理が続けられる。最大輝度に達した場合には、ステップ225の処理が続けられ、増幅器113の利得及び/又はアナログ・デジタル変換器115の利得が例えば5%低減される。その後、必要であれば、さらなる画像を記録、表示及び保存し、利得をさらに減少させるために、ステップ217の処理が続けられる。
ステップ221において記録が終了する場合には、ステップ227において処理が続けられ、イメージカウンタnの現在の値がnendとして保存される。その後、蛍光フィルタ83がビーム経路から取り外され、ステップ229において熱保護フィルタ85がビーム経路に挿入される。その後、ステップ231において、増幅器113の利得とアナログ・デジタル変換器115の利得とが、カメラの通常動作のモードで用いられるような正常値に設定される。
蛍光画像を再生するための処理手順を、図4に示すフローチャートを参照しながら説明する。
再生開始後、記憶媒体123に保存された画像は、LCDディスプレイ69及び頭部装着型ディスプレイ49、又は、コントローラ35に接続されたモニタ50上に表示される。このために、ステップ251において、記録の開始及び終了を表わす値nstart及びnendが、メモリから取り出される。その後、ステップ253において、イメージカウンタnが開始値nstartに設定される。イメージカウンタnに対応する画像B(n)が、ステップ255において記憶媒体123から取り出され、ステップ257において各種ディスプレイに表示される。イメージカウンタは、ステップ259において増加される。イメージカウンタが、ステップ261の決定において値nendに達しなかった場合には、記憶媒体からさらに画像を取り出し、これらの画像を表示するために、ステップ255において処理が続けられる。全ての画像が表示されたことがステップ261において決定された場合には、ユーザが処理を終了したか否かがステップ263において決定される。そうでなかった場合には、一連の画像を再度再生するために、ステップ253の処理が続けられる。
上述したように、最大画像強度が閾値を超えるとすぐに、利得を減少させることが可能である。その一方で、画像内の最大輝度値がさらなる閾値を下回るとすぐに、利得を再度増加させることも可能である。これにより、蛍光が減少するときにも、有効なダイナミックレンジを用いて画像を記録し続けることが可能となる。
いかなるデータ形式を用いても、画像を記憶媒体に保存することができる。特に、圧縮データ形式で画像を保存することが可能であり、この場合には、保存されるデータの量を減らすために、いかなる適切なデータ圧縮方式をも用いることができる。例えば、ビデオ画像を圧縮するためには、画像の一部だけが完全な画像として保存され、残りの画像が、保存されたデータから再計算されることが可能なように、他の値、予測値及び動画ベクトルとして保存されるMPEG方式が用いられる。画像データの圧縮により、画質のある一定の低下が生じるかもしれないが、このような画質の低下は、例示された顕微鏡検査システムの性能や実施方法の著しい劣化につながらないことは明らかである。
さらに、画像の検出時における利得、もしくは、増幅器113及び/又はアナログ・デジタル変換器115の利得を表わす値を、画像データと共に記憶媒体に保存することも可能である。そして、再生時において、画像を記録するために用いられる利得を計算することも可能である。例えば、比較的高い利得で記録された画像は、比較的低い利得で記録された画像に比べて輝度が低い。また、ユーザは、時間と共に増加する蛍光強度をより良く知覚することができる。特に、ユーザは、2つの再生モードを切り替えることができる。第1の再生モードにおいては、画像を記録する際の利得を計算しながら画像が再生され、一方、第2の再生モードにおいては、このような適応(adaptation)はなされず、ほぼ記録された通りに画像が再生される。
実施の形態によれば、イメージセンサ及びイメージセンサに関係する回路は、一連の蛍光画像を記録するために用いられる。イメージセンサは、入射された放射によって生じた電荷を蓄積するための複数の画素を有し、前記回路は、画素に蓄積された電荷を二進数に変換する。回路の利得は調整可能である。利得は、記録工程の開始時において、適切な最大値に設定される。記録工程において、記録された画像の1つ以上の輝度値が、適切に選択された最大輝度値を超えることが決定された場合には、利得は減少される。
本発明についてその例示的な実施の形態を参照して説明してきたが、多くの代替、修正及び変形が当業者にとって自明であることは明らかである。従って、本明細書において述べた本発明の例示的な実施の形態は、説明のためのものであり、いかなる点においても本発明を限定するものではない。特許請求の範囲によって定められる本発明の精神及び範囲から逸脱することなく、様々な変更を加えることができる。
図1は、本発明の一実施の形態による顕微鏡検査システムにおけるビーム経路を示す概略図である。 図2は、図1に示す顕微鏡検査システムにおいて用いることが可能なイメージセンサ及び対応する回路構成を示す機能図である。 図3は、本発明の一実施の形態による画像記録方法を示すフローチャートである。 図4は、画像表示方法を示すフローチャートである。

Claims (19)

  1. 蛍光を可視化する顕微鏡検査システムであって、
    入射された放射によって生じる電荷を蓄積するための複数の画素を有するイメージセンサと、
    前記イメージセンサの前記画素上に物体領域を結像するための第1のビーム経路を有する顕微鏡検査光学系と、
    画素の群に蓄積された電荷量を二進数に変換するための回路であって、それぞれの二進数が、少なくとも1つの利得に応じた電荷量の限界未満である電荷量の範囲内にある電荷量を表わすように、前記変換の前記少なくとも1つの利得が調整可能である回路と、
    前記電荷量の限界が、少ない第1の電荷量となるように、少なくとも1つの利得を調整する工程を含み、さらに、前記イメージセンサによって検出された画像を表わす二進数を前記回路から繰り返し受け取る工程と、前記検出された画像を表わす少なくとも1つの前記二進数が、最大値よりも大きい電荷量を表わす場合において、前記電荷量の限界が、前記少なくとも1つの利得の先の調整における限界よりも大きくなるように、少なくとも1つの前記利得を調整する工程とを繰り返し行うよう構成されたコントローラとを備えたことを特徴とする顕微鏡検査システム。
  2. 記録媒体をさらに備え、前記コントローラが、さらに、前記イメージセンサによって検出された前記画像を表わす前記二進数を前記記録媒体に保存するように構成された、請求項1に記載の顕微鏡検査システム。
  3. 前記コントローラが、さらに、開始時間後においてのみ、前記二進数を前記記録媒体に保存するように構成された、請求項2に記載の顕微鏡検査システム。
  4. 前記二進数によって表わされた前記画像を表示するためのディスプレイをさらに備えた、請求項1に記載の顕微鏡検査システム。
  5. 前記顕微鏡検査光学系が、前記物体領域をユーザの目に表示するための、少なくとも1つの接眼レンズを含む第2のビーム経路を備えた、請求項1に記載の顕微鏡検査システム。
  6. 前記イメージセンサが、CCDセンサ及びCMOSセンサのうちの1つを備えた、請求項1に記載の顕微鏡検査システム。
  7. 前記回路がアナログ増幅器を備え、前記少なくとも1つの利得が、前記アナログ増幅器の利得である、請求項1に記載の顕微鏡検査システム。
  8. 前記回路がアナログ・デジタル変換器を備え、前記少なくとも1つの利得が、前記アナログ・デジタル変換器の利得である、請求項1に記載の顕微鏡検査システム。
  9. カメラシステムを用いて一連の蛍光画像を記録する方法であって、
    前記カメラシステムが、
    入射された放射によって生じる電荷を蓄積するための複数の画素を有するイメージセンサと、
    画素の群に蓄積された電荷量を二進数に変換するための回路であって、それぞれの二進数が、少なくとも1つの利得に応じた電荷量の限界未満である電荷量の範囲内にある電荷量を表わすように、前記変換の前記少なくとも1つの利得が調整可能である回路とを備え、
    前記電荷量の限界が、少ない第1の電荷量となるように、少なくとも1つの利得を調整する工程を含み、
    前記イメージセンサによって検出された画像を表わす二進数を前記回路から受け取る工程と、前記検出された画像を表わす少なくとも1つの前記二進数が、最大値よりも大きい電荷量を表わす場合において、前記電荷量の限界が、前記少なくとも1つの利得の先の調整における限界よりも大きくなるように、前記少なくとも1つの利得を再度調整する工程とを繰り返し行うことを特徴とする記録方法。
  10. 前記イメージセンサによって検出された前記画像を表わす前記二進数を受け取る工程が、前記二進数を前記記録媒体に保存する工程を含む、請求項9に記載の記録方法。
  11. 開始時間後においてのみ、前記二進数を前記記録媒体に保存する、請求項10に記載の記録方法。
  12. 前記記録媒体から前記二進数を受け取る工程と、前記二進数によって表わされる前記画像を表示する工程とをさらに含む、請求項10に記載の記録方法。
  13. 前記二進数を前記記録媒体に保存する工程が、前記開始時間を表わす第1のマーカーを保存する工程を含み、前記表示工程が、前記開始時間後に保存された画像に対してのみ行われる、請求項11に記載の記録方法。
  14. 前記二進数によって表わされる前記画像のコントラストに応じて前記開始時間を決定する工程をさらに含む、請求項11に記載の記録方法。
  15. 前記画素の群が1つの単一画素からなる、請求項9に記載の記録方法。
  16. 蛍光マーカー又は蛍光マーカーの原型となる物を物体にアプライする工程をさらに含み、前記イメージセンサに入射する放射が、前記物体から発せられる蛍光放射を含む、請求項9に記載の記録方法。
  17. 前記物体が、生物の外側にある生体外標本である、請求項16に記載の記録方法。
  18. 前記物体が、動物又は人体の一部である、請求項16に記載の記録方法。
  19. 前記コントローラが、請求項9に記載の記録方法を行うように構成された、請求項1に記載の顕微鏡検査システム。
JP2006274846A 2005-10-06 2006-10-06 顕微鏡検査システム及び蛍光を可視化するための記録方法 Active JP5218881B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102005048006A DE102005048006A1 (de) 2005-10-06 2005-10-06 Mikroskopiesystem und Aufnahmeverfahren zur Sichtbarmachung einer Fluoreszenz
DE102005048006.3 2005-10-06

Publications (2)

Publication Number Publication Date
JP2007122048A true JP2007122048A (ja) 2007-05-17
JP5218881B2 JP5218881B2 (ja) 2013-06-26

Family

ID=37671024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006274846A Active JP5218881B2 (ja) 2005-10-06 2006-10-06 顕微鏡検査システム及び蛍光を可視化するための記録方法

Country Status (5)

Country Link
US (1) US7369073B2 (ja)
EP (1) EP1772726B1 (ja)
JP (1) JP5218881B2 (ja)
AT (1) ATE535796T1 (ja)
DE (1) DE102005048006A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008304541A (ja) * 2007-06-05 2008-12-18 Olympus Corp 顕微鏡撮像装置
JP2011523100A (ja) * 2008-06-13 2011-08-04 カール ツァイス サージカル ゲーエムベーハー 多チャネルのデータ挿入を伴う光学式観測機器
JP2012098271A (ja) * 2010-08-09 2012-05-24 Carl Zeiss Meditec Ag 1組のフィルタ、蛍光観察システム、および蛍光観察を実行する方法
DE102015216570A1 (de) * 2015-08-31 2016-11-03 Carl Zeiss Meditec Ag Mikroskopiesystem
JP2018156073A (ja) * 2017-03-20 2018-10-04 カール・ツアイス・メディテック・アーゲー イメージセンサとディスプレイを有する手術用顕微鏡及び手術用顕微鏡の操作方法

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8581982B1 (en) * 2007-07-30 2013-11-12 Flir Systems, Inc. Infrared camera vehicle integration systems and methods
US20090234225A1 (en) * 2008-01-10 2009-09-17 The Ohio State University Research Foundation Fluorescence detection system
US9044142B2 (en) * 2010-03-12 2015-06-02 Carl Zeiss Meditec Ag Surgical optical systems for detecting brain tumors
US20140160476A1 (en) * 2012-12-07 2014-06-12 Massachusetts Institute Of Technology Method and Apparatus for Performing Spectral Classification
DE102014008243A1 (de) * 2014-05-27 2015-12-03 Carl Zeiss Meditec Ag Fluoreszenbeobachtungssystem und optisches Filtersystem hierfür
DE102014016850B9 (de) * 2014-11-13 2017-07-27 Carl Zeiss Meditec Ag Optisches System zur Fluoreszenzbeobachtung

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000321503A (ja) * 1999-05-13 2000-11-24 Keyence Corp 共焦点顕微鏡の自動調整方法および共焦点顕微鏡
JP2004163413A (ja) * 2002-08-28 2004-06-10 Carl-Zeiss-Stiftung Trading As Carl Zeiss 顕微鏡システムおよび顕微鏡検査方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4884980A (en) * 1988-01-15 1989-12-05 General Motors Corporation Insert molded multiple contact electrical connector
US4884890A (en) 1988-02-25 1989-12-05 Nanometrics Incorporated Method for normalizing the detection signals of magnified images of fluorescing materials
JPH031772A (ja) * 1989-05-30 1991-01-08 Sony Corp 撮像装置
JP3221967B2 (ja) * 1993-03-31 2001-10-22 富士写真フイルム株式会社 撮像装置
US5614948A (en) * 1996-04-26 1997-03-25 Intel Corporation Camera having an adaptive gain control
US5804813A (en) * 1996-06-06 1998-09-08 National Science Council Of Republic Of China Differential confocal microscopy
US6059720A (en) * 1997-03-07 2000-05-09 Asahi Kogaku Kogyo Kabushiki Kaisha Endoscope system with amplification of fluorescent image
US6795238B2 (en) * 1997-12-02 2004-09-21 Olympus Optical Co., Ltd. Electronic camera for microscope
US6078390A (en) 1998-05-04 2000-06-20 General Scanning, Inc. Scanning system and method of operation for automatically setting detection sensitivity
JP4624513B2 (ja) * 1999-01-19 2011-02-02 オリンパス株式会社 顕微鏡用撮像装置
DE19957418B4 (de) 1999-11-29 2016-02-04 Leica Microsystems Cms Gmbh Verfahren zur lichtoptischen Abtastung eines Objekts und Rastermikroskop zur Anwendung des Verfahrens
US6917377B2 (en) * 2000-02-04 2005-07-12 Olympus Optical Co., Ltd. Microscope system
US20010043279A1 (en) * 2000-03-07 2001-11-22 Masahito Niikawa Digital camera
DE10109130B4 (de) 2001-02-24 2015-02-19 Carl Zeiss Microscopy Gmbh Verfahren zur Aufzeichnung und Darstellung von Fluoreszenzbildern mit hoher räumlicher Auflösung
US7199823B2 (en) * 2001-06-18 2007-04-03 Olympus Optical Co., Ltd. Method and apparatus for improving live view performance of an image pickup apparatus for a microscope
JP4021183B2 (ja) * 2001-11-29 2007-12-12 オリンパス株式会社 合焦状態信号出力装置
GB2385481B (en) * 2002-02-13 2004-01-07 Fairfield Imaging Ltd Microscopy imaging system and method
US7053935B2 (en) * 2002-02-21 2006-05-30 Eastman Kodak Company Apparatus and method for accurate electronic color capture and reproduction
DE10252005B4 (de) 2002-11-06 2005-06-16 Leica Microsystems Heidelberg Gmbh Rauscharmes Mikroskop

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000321503A (ja) * 1999-05-13 2000-11-24 Keyence Corp 共焦点顕微鏡の自動調整方法および共焦点顕微鏡
JP2004163413A (ja) * 2002-08-28 2004-06-10 Carl-Zeiss-Stiftung Trading As Carl Zeiss 顕微鏡システムおよび顕微鏡検査方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008304541A (ja) * 2007-06-05 2008-12-18 Olympus Corp 顕微鏡撮像装置
JP2011523100A (ja) * 2008-06-13 2011-08-04 カール ツァイス サージカル ゲーエムベーハー 多チャネルのデータ挿入を伴う光学式観測機器
JP2012098271A (ja) * 2010-08-09 2012-05-24 Carl Zeiss Meditec Ag 1組のフィルタ、蛍光観察システム、および蛍光観察を実行する方法
DE102015216570A1 (de) * 2015-08-31 2016-11-03 Carl Zeiss Meditec Ag Mikroskopiesystem
JP2018156073A (ja) * 2017-03-20 2018-10-04 カール・ツアイス・メディテック・アーゲー イメージセンサとディスプレイを有する手術用顕微鏡及び手術用顕微鏡の操作方法

Also Published As

Publication number Publication date
US20070090985A1 (en) 2007-04-26
ATE535796T1 (de) 2011-12-15
EP1772726A1 (de) 2007-04-11
US7369073B2 (en) 2008-05-06
JP5218881B2 (ja) 2013-06-26
DE102005048006A1 (de) 2007-04-12
EP1772726B1 (de) 2011-11-30

Similar Documents

Publication Publication Date Title
JP5218881B2 (ja) 顕微鏡検査システム及び蛍光を可視化するための記録方法
JP5984681B2 (ja) 蛍光観察装置
US8451328B2 (en) Image processing device, imaging device, computer-readable device, and image processing method for processing a fluorescence image
US8542273B2 (en) Arrangement and method for generating images with expanded dynamics
US20070073104A1 (en) Electronic endoscope system
WO2013027455A1 (ja) 自動露光制御装置、制御装置、内視鏡装置及び自動露光制御方法
JP2003215469A (ja) 内視鏡装置
JPH10225427A (ja) 蛍光電子内視鏡
CN109561819B (zh) 内窥镜装置和内窥镜装置的控制方法
JP7272670B2 (ja) カメラ装置、画像処理方法およびカメラシステム
JPS6081979A (ja) 撮像装置
JPWO2019087557A1 (ja) 内視鏡システム
CN102843951A (zh) 荧光观察装置
US10089768B2 (en) Image processing device, image processing method, image processing program, and imaging system
CN102791179B (zh) 荧光内窥镜装置
JP5393215B2 (ja) 蛍光観察装置、蛍光観察システムおよび蛍光観察装置の作動方法
JP5592715B2 (ja) 画像処理装置および画像処理方法
CN114414046A (zh) 观察辅助装置、信息处理方法以及程序
JP5354831B2 (ja) 眼科撮影装置
JP3001033B2 (ja) 内視鏡装置
Kwok et al. Illumination matters part IV: blackout and whiteout in flexible ureteroscopy-first report on a phenomenon observed by PEARLS
US7925331B2 (en) Apparatus for displaying a tissue containing a fluorescent dye
JP3946985B2 (ja) 蛍光画像撮像装置
US20110213204A1 (en) Endoscope system and imaging device thereof
Verweg et al. Speckle-based super-resolution imaging via a multimode fiber

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120409

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120412

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120509

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120514

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120615

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120702

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20130221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130221

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5218881

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250