JP2015530618A - 3次元構造化照明を用いた蛍光確率顕微鏡での位置を解像するための方法及びシステム - Google Patents

3次元構造化照明を用いた蛍光確率顕微鏡での位置を解像するための方法及びシステム Download PDF

Info

Publication number
JP2015530618A
JP2015530618A JP2015533016A JP2015533016A JP2015530618A JP 2015530618 A JP2015530618 A JP 2015530618A JP 2015533016 A JP2015533016 A JP 2015533016A JP 2015533016 A JP2015533016 A JP 2015533016A JP 2015530618 A JP2015530618 A JP 2015530618A
Authority
JP
Japan
Prior art keywords
image
images
sample
subset
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015533016A
Other languages
English (en)
Other versions
JP6371289B2 (ja
Inventor
クーパー,ジェレミー
ドハーティ,ウィリアム・エム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Global Life Sciences Solutions USA LLC
Original Assignee
Amersham Biosciences Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amersham Biosciences Corp filed Critical Amersham Biosciences Corp
Publication of JP2015530618A publication Critical patent/JP2015530618A/ja
Application granted granted Critical
Publication of JP6371289B2 publication Critical patent/JP6371289B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/6486Measuring fluorescence of biological material, e.g. DNA, RNA, cells
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/06Means for illuminating specimens
    • G02B21/08Condensers
    • G02B21/14Condensers affording illumination for phase-contrast observation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/16Microscopes adapted for ultraviolet illumination ; Fluorescence microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/58Optics for apodization or superresolution; Optical synthetic aperture systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/063Illuminating optical parts
    • G01N2201/0633Directed, collimated illumination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/063Illuminating optical parts
    • G01N2201/0636Reflectors

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

3次元構造化照明顕微鏡(「3D−SIM」)を用いて蛍光確率顕微鏡で試料成分の位置を解像する方法及びシステムが開示される。1つの態様では、試料標本の成分は、蛍光体で標識され、かつ蛍光体のサブセットを活性化状態に確率的に変えるための光の周波数を用いて弱く照明される。その後、試料は、活性化蛍光体が蛍光を引き起こす励起光の3次元構造化照明パターン(「3D−SIP」)で照明される。3D−SIPは試料の体積内に徐々に移動され、かつ画像が記録されるので、計算方法が、活性化された蛍光体の位置を探しかつ洗練するように、画像を処理するために使用され、それによって試料成分の超解像画像を生成する。【選択図】図1

Description

本開示は、構造化照明顕微鏡に関する。
蛍光顕微鏡は、細胞及び生物の3次元内部を調べるために、及び、蛍光標識を介して特異性を有する特定の生体分子を可視化するために、生物科学において広く使用される。しかし、蛍光顕微鏡の最大の弱点の一つは、適度な空間分解能であり、これは、基本的に光の波長によって制限される。典型的な広視野光学顕微鏡は、真の3次元イメージングを可能にするために、試料についての十分な情報を集めないという点で、別の弱点を有しており、この弱点は、欠落コーン問題と呼ばれる。一連の2次元画像として取得され、しばしば、異なる焦点を持つセクションと呼ばれる、生画像データにおける欠落コーン問題の症状は、データの各セクションが、試料の対応するセクションからの焦点の合った情報だけでなく、他のすべてのセクションからの焦点の合わないぼやけを含むという点にある。従来の顕微鏡データからの3次元再構成は、不足している情報を補うように試みるために、蛍光色素の密度の非負性のような先験的な制約に、現在依存する必要がある。
共焦点顕微鏡は、焦点の合わない光が検出器に到達することを物理的に遮断するために、ピンホール開口を用いて両方の弱点に対処する一つの技術である。共焦点顕微鏡は、真の3次元イメージングを提供し、同時に、軸方向(すなわち、深さ)及び横方向の双方に、従来の限界を若干超えた解像度を拡張する。しかし、横方向の解像度の向上は、小さなピンホールが用いられる場合にのみ起こるが、小さなピンホールを使用することによって、多くの焦点の合った光が、望ましくない焦点の合わない光と一緒に廃棄される。実際には、典型的な生物学的試料の弱い蛍光及び共焦点顕微鏡で通常に使用される低感度の検出器が与えられた場合に、このような小さなピンホールを使用することが有利であるのは、まれである。焦点の合った光の有害な損失は、通常、任意の解像度の利点を上回る。その結果、代表的な共焦点顕微鏡は、より広いピンホールで作動され、それは、従来の広視野蛍光顕微鏡によって提供される解像度を超える唯一のわずかな改善である横方向の解像度を生成する。
国際公開第2011/085766号公報
近年では、顕微鏡の光通過帯域内への周波数混合高解像度情報に対して空間的に構造化照明光を用いて、光の有意な損失なしに、蛍光顕微鏡の横方向の解像度を2倍にすることができることが実証されている。具体的には、3次元構造化照明顕微鏡(「3D−SIM」)は、共焦点顕微鏡に比べて、横方向及び軸方向の分解能において、2倍の向上を達成できる。3D−SIMは、特殊な蛍光色素又はタンパク質を必要としないため、生物学者は、3D−SIMを用いて高解像度を実現し、便利でお馴染みの蛍光標識技術を保持する。被写体の複数の画像は、試料を介して3次元構造化照明パターンを移動させることによって生成される。より高い解像度は、回折によって通常ぼかされた細かい空間的な詳細を復元するために、連立方程式を解くことによって達成される。3D−SIMによって提供される横方向及び軸方向の解像度の向上があってさえ、科学者、技術者、及び顕微鏡製造者は、蛍光顕微鏡を用いて試料成分の横方向及び軸方向の分解能を向上させるデータ処理方法及び顕微鏡システムを求め続けている。
例示的な蛍光顕微鏡の概略図を示す。 電子バンド図の一例を示す。 対象物平面内の点光源から出力される光を受け取る例示的な顕微鏡の光学システムを示す。 画像平面におけるスポットの例示的な強度分布を示す。 光学システムに関連付けられた回折限界の一例を示す。 蛍光を発する蛍光体のまばらな分布の一例を示す。 3次元構造化照明パターンの作成を示す。 3次元構造化照明パターンの強度分布を示す。 対物レンズの光軸に垂直にステップされた3次元構造化照明パターンにステップする一例を示す。 対物レンズの光軸に平行にステップされた3次元構造化照明パターンの例を示す。 例示的な蛍光顕微鏡の概略図を示す。 対物レンズの上方に形成され、かつ3つの回転角度で回転された、3次元構造化照明パターンの上面図を示す。 円筒形体積で表される試料標本のイメージングのための画像データ収集の例を示す。 円筒形体積で表される試料標本のイメージングのための画像データ収集の例を示す。 円筒形体積で表される試料標本のイメージングのための画像データ収集の例を示す。 試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像を示す。 図13の拡大図において表現されるスポットの拡大図を示す。 横方向及び軸方向の空間的な間隔を介して段を付けられた3次元構造化照明パターンの断面図を示す。 余弦及び正弦曲線の図を示し、各々、蛍光体によって直面する横方向強度変化における振動を特徴付ける。 余弦及び正弦曲線の図を示し、各々、蛍光体によって直面する軸方向強度変化における振動を特徴付ける。 超解像画像を得るために解像画像を合成する例を示す。 回転されかつ試料標本内の異なる位置に移された3次元構造化照明パターンの例示的な表現を示す。 試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像を示す。 ビームを交差させることにより画成された2次元表面の一例を示す。 試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像を示す。 蛍光顕微鏡で蛍光体の位置を決定し、かつ解像するための計算方法の制御フロー図を示す。 試料標本の超解像画像を決定するための効率的な方法を実行するコンピュータシステムの一例を示す。 実験及びシミュレーションからの結果の図を示す。 実験及びシミュレーションからの結果の図を示す。 実験及びシミュレーションからの結果の図を示す。 実験及びシミュレーションからの結果の図を示す。 実験及びシミュレーションからの結果の図を示す。
3次元構造化照明顕微鏡(「3D−SIM」)を用いて蛍光確率顕微鏡(fluorescence stochastic microscopy)で試料成分の位置を解像する方法及びシステムについて開示する。3次元構造化照明パターン(「3D−SIP」)の時間変化する局所構造の個々の蛍光体の蛍光強度応答は、確率的な蛍光方法だけで得られる横方向の超解像と同等又はそれよりも良好である、横方向及び軸方向の分解能を可能にする。1つの態様では、試料は、蛍光体の位置が正確に決定された場合、それらの位置が、蛍光顕微鏡使用者にとって関心構造、成分、又は細胞小器官の画像を生成することを保証するように、十分な濃度の蛍光体で標識されている。最初に、蛍光体は、非蛍光で暗い状態にある。試料は、蛍光体のサブセットが暗い状態から活性化状態に確率的に変わるように、光の周波数を用いて、照射される。活性化は、蛍光体間の平均間隔が回折限界距離(すなわち、約200nm)よりも大きいことを保証するために、弱い照明を用いて行われる。次いで、試料は、活性化蛍光体に蛍光を引き起こさせる励起光の3D−SIPを用いて照明される。3D−SIPは試料の体積内に徐々に移動され、かつ画像が記録されるので、活性化蛍光体の位置を探して洗練するように画像を処理するために、計算方法が使用される。
一実施形態では、顕微鏡を使用して試料標本の一以上の成分を標識する光放射粒子の座標位置を決定するための方法が提供される。本方法は、
光放射粒子のサブセットを活性化する工程と、
3次元構造化照明パターンにおける励起光を用いて照射粒子のサブセットから放射される光の一連の画像を取得する工程と、
一連の画像からの光放射粒子の解像画像を生成する工程と、
一以上の成分の超解像画像を得るために処理された複数の解像画像を得るために、活性化、照明、取得及び生成を繰り返す工程とを含む。
粒子のサブセットを活性化する工程は、光放射粒子のサブセットを確率的に活性化する低強度の活性化光を用いて試料を照明する工程をさらに含んでもよい。一連の画像を取得する工程は、試料内で交差するように、対物レンズを透過したコヒーレント励起光の3以上のビームから照明パターンを生成する工程をさらに含んでもよい。一連の画像を取得する工程は、一連の各画像を取得するのに先立って、照明パターンの位置を変更する工程をさらに含んでもよく、照明パターンの位置を変更する工程は、照明パターンを回転させること、及び、照明パターンを平行移動させることをさらに含んでもよい。方法は、活性化状態における光放射粒子のサブセットを光退色させることを含んでもよい。
解像画像を生成する工程は、
スポットの加算画像を生成するために、一連の画像を加算する工程と、
スポットの重心位置を求める工程と、
解像画像を生成するために、スポット重心位置を解像する工程とをさらに含んでもよい。
本方法は、単一の蛍光体のための一貫性のない画像の結果に関連する画像データを破棄する工程をさらに含んでもよい。方法では、複数の解像画像は、超解像画像を得るために処理されてもよい。本方法は、超解像画像を生成するために解像画像を加算する工程をさらに含む。
顕微鏡を使用して試料標本の超解像画像を生成するための方法が、さらに提供される。本方法は、
試料の成分に付着した光放射粒子の異なるサブセットを別々に活性化する工程と、
3次元構造化照明パターンで励起光を試料に繰り返し照射し、かつ試料内の異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得することによって、活性化粒子のサブセット毎に一連の画像を生成する工程と、
活性化粒子のサブセット毎に解像画像を生成するために、一連の画像を合成する工程と、
試料の超解像画像を生成するために解像画像を合成する工程とを含む。
粒子の異なるサブセットを活性化する工程は、さらに、光放射粒子のサブセットを確率的に活性化するために低強度の活性化光で試料を照明する工程をさらに含んでもよい。3次元構造化照明パターンで励起光を試料に照射する工程は、試料内で交差するように、対物レンズを通過するコヒーレント励起光の3以上のビームを干渉させることをさらに含んでもよい。
異なる位置において照明パターンに対して粒子のサブセットから放射される光の画像を取得する工程は、照明パターンを回転させること、又は、画像毎に異なる横方向位置に照明パターンを平行移動させることを含んでもよい。異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得する工程は、画像毎に異なる軸方向位置に照射パターンを移動させることを含んでもよい。
本方法は、各解像画像が生成された後に、活性化状態における光放射粒子の各サブセットを光退色させることを含んでもよい。
解像画像を生成する工程は、
スポットの加算画像を生成するために、一連の画像を加算する工程と、
スポットの重心位置を決定する工程と、
解像画像を生成するために、スポット重心位置を解像する工程とをさらに含んでもよい。
本方法は、単一の蛍光体のための一貫性のない画像の結果に関連する画像データを破棄する工程をさらに含んでもよい。
超解像画像を生成するために解像画像を合成する工程は、解像画像を加算する工程をさらに含んでもよい。
蛍光顕微鏡
図1は、例示的な蛍光顕微鏡100の概略図を示す。多くの種類の蛍光顕微鏡と、対応する光路とが、存在する。顕微鏡100は、顕微鏡検査で使用されるすべての異なる多様な機器内の光路を表すものではないが、代わりに、以下により詳細に記載された蛍光確率顕微鏡及び3D−SIM顕微鏡を実現するために使用される部品の配置を例示することを意図している。顕微鏡100は、第1活性化光源102と、励起光源104とを備える。光源102は、ビーム106を平行にする1つのレンズ又は一連のレンズ108を透過した光106の低強度で実質的な単色光を放射する。ビーム106は、その後、ステージ116によって支持された試料114の領域にビーム106を集束する対物レンズ112に入るように、第1ダイクロイックミラー110から反射される。ビーム106の低強度で短時間の光は、比較的少数の蛍光体を活性状態へと確率的に励起する。
光源104は、ビーム118を平行にする1つのレンズ又は一連のレンズ120を透過したコヒーレント光の高強度で実質的な単色ビーム118を放射する。ビーム118は、また、特定の偏光を有する光源104から出力されることができる。ビーム118は、その後、ビームを3以上の別々のコヒーレントビーム124〜126に分割するスプリッタ122を通過する。例えば、スプリッタ122は、各々、0次、+1次、及び−1次回折ビームと呼ばれる、3つの同一平面上の発散コヒーレントビーム124〜126に、ビーム118を分割する1次元の透過型回折格子とすることができる。スプリッタ122は、様々な異なる種類の透過型回折格子のいずれかであることができる。例えば、スプリッタ122は、格子の一面に形成された実質的に平行な一連の溝を有するガラスの透明板からなる1次元透過型回折格子とすることができるか、又は、スプリッタ122は、実質的に平行な一連の薄いスリットを有する不透明板とすることができる。代わりに、スプリッタ122は、ビーム118を3つ以上の別々のコヒーレントビームに分割するように配置された2つ以上のビームスプリッタとすることができる。3つのビーム124〜126は、ビームが、0次回折ビーム125にほぼ平行に配向された+1次及び−1次回折ビーム124及び126と同一平面上にあるように、ビーム124〜126を再配向する1つのレンズ又は一連のレンズ128を通過する。図1の例では、ビーム124〜126は、ビーム124〜126のうちの1つ以上の位相を制御する照明位相制御(「IPC」)130を通過する。IPCの例は、Applied Precision社が所有するPCT/SE2012/050227に記載されている。ビーム124〜126は、次いで、第2ダイクロイックミラー132で反射され、対物レンズ112の後焦点面134に再集束される。対物レンズ112は、試料114内の焦点面136付近で交差するように、ビーム124〜126を再び平行にする。ビーム124〜126は、3次元構造化照明顕微鏡と題する小節で以下に詳細に説明されるように、干渉し、かつ試料114の体積内に高コントラストの3次元構造化照明パターンを生成する。
試料114は、細胞の細胞小器官のような複数の異なる種類の成分を含み、各種類の成分は、異なる種類の蛍光プローブで標識されることができる。各種類のプローブは、試料114の特定の成分に特異的に結合するように設計され、各種類の蛍光体は、特定の種類のプローブに結合される。試料114が、電磁スペクトルの可視及び近可視部分内の周波数を有する光を放射させる周波数を有する3次元構造化照明パターンで照明されると、活性化された蛍光体から放射される蛍光光の部分は、集められ、かつ対物レンズ112によって平行にされてビーム138に入る。ダイクロイックミラー110及び132は、ビーム138の透過を許容し、かつフィルタ及びイメージング光学システム140は、迷励起光をろ過し、かつ検出器142の感知部上にビーム138の焦点を合わせる。検出器142は、光検出器アレイ、CCDカメラ、又はCMOSカメラとすることができる。光源102は、また、活性化された蛍光体を光退色させるように光106と同じ経路を辿る光の実質的な単色ビームを出力するように、制御することができる。蛍光体を活性化させかつ光退色させるための光源102から出力される光の使用は、蛍光確率顕微鏡と題する小節で、以下、より詳細に説明されている。図1に示すように、第1光源102及び第2光源104、IPC130、及び検出器142は、コンピュータシステム144に接続されている。システム144は、タイミングと、光源102及び104、IPC130、及び検出器142のタイミング及び動作を制御し、以下に詳細に記載されるように蛍光体から放射される光の位置を解像するために、検出器142によって取り込まれた画像を処理することができる。
蛍光確率顕微鏡
光源102は、一組の又は少数の、試料114中の蛍光体を活性状態に変える活性化周波数を有する低強度の光を短時間照射する。一組の蛍光体が活性化された後、光源102は「オフ」にされ、光源104は、それらの蛍光体を既に蛍光を発する活性状態にさせる励起周波数を有する、より高い強度の光を放射するために、「オン」にされている。図2は、試料の成分を標識するために使用される蛍光体に関連する電子バンド図200の一例を示す。蛍光体は、試料に導入されると、各種類の蛍光体は、試料の特定の成分に結合するプローブに取り付けられる。蛍光体は、まず、非蛍光の又は暗い状態202にあり、この状態は、蛍光体のための基底状態であってもよい。図1を参照して上述したように、光源102は、比較的少数の蛍光体を活性状態204に確率的に変えるために、短時間の間、活性化周波数va(すなわち、電子エネルギーhva≧Ea、ここではhはプランク定数)を有し、かつ非常に低い強度を有する活性化光を放射する。活性化光は、「オフ」にされ、続いて、既に活性状態にある蛍光体のサブセットのみを蛍光状態206にさらに励起する励起周波数ve(すなわち、電子エネルギーhve≧Ee)を有する光を放射するように光源104を「オン」にする。蛍光状態にある蛍光体は、低エネルギー中間状態208、続いて熱緩和に遷移し、活性状態204に戻るときに、周波数vf及び電子エネルギーhvfを有する蛍光光を放射する。特定の実施形態では、光源104は、活性化蛍光体に、数百、数千以上の励起/放射サイクル210を受けるようにさせるのに十分な励起光を放射することができる。光源102は、活性化された蛍光体を光退色させるために使用することができる。或いは、光源102は、蛍光体を活性状態204から非活性状態212に変える第3周波数を有する光を放射することができる。蛍光体を活性状態204から非活性状態212に変えることは、活性化又は励起周波数のいずれかで照射されたときに、活性状態又は蛍光状態に戻ることができない分子への、活性化された各蛍光体の完全又は部分的な再構成とすることができる。
確率蛍光顕微鏡法は、放射蛍光体が、約200nmよりも大きな距離だけ互いに分離されている場合に、経時的に、蛍光体で標識された試料の成分の異なるサブセットから放射された一連の蛍光の中間画像を収集する。換言すれば、試料中の光放射蛍光体の位置が従来の光学顕微鏡によって解像することができる場合、試料中の蛍光体の位置は、ある場合には、10nm以下の分解能で、決定されることができる。しかし、蛍光放射信号は、放射蛍光体が試料内にまばらに配置されている場合にのみ、解明されることができるので、多数の中間画像は、試料の最終画像を構築するために、まばらで確率的に分布した活性化された蛍光体の異なるサブセットから生成される。検出器142によって取り込まれた各中間画像は、まばらに配置された蛍光体のサブセットの回折限界画像である。蛍光体から顕微鏡100の光学システムを通過して放射される蛍光光は、光検出器142の画像平面において幾分広がる。フィルタ化及びイメージング光学システム140は、試料の対象物平面から検出器142の画像平面に出力される光を向かわせ、かつ集束する、顕微鏡100のカメラレンズ及び他の光学部品を備えてもよい。円形開口を有する光学システムが、画像平面において対応する明るい狭義の画像点というよりむしろ、蛍光体から放射される蛍光光のような、試料の対象物平面内の点光源から出力される平面波の出力を受信すると、その光は、実際には、光と闇のリングを順に交代させることから構成されたエアリーディスク(Airy disk)と呼ばれる円形スポットに広がる。図3は、試料の対象物平面306における点光源(x,y)304から出力された光を受ける例示的な顕微鏡の光学システム302の図を示す。例えば、点光源304は、図1に示す試料114の焦点面136において蛍光を発する蛍光体とすることができる。光学システム302は、検出器142の対応する画像平面310にスポット308を生成するように光を拡散する。点光源304から出力された光は、点(x’,y’)312の周りに中心が置かれたスポット308に、スポット308にわたって対称なエアリーディスク314で表される対応する強度分布を有する、光学システム302によって変換される強度I(x,y)を有する。
図4は、画像平面の1次元におけるエアリーディスクの例示的な強度分布を示す。横軸402は、図3に示す点(x’,y’)312のような点を通過する画像平面における線であり、縦軸403は、強度を表す。エアリーディスクは、中央のピークから離れて外側に延びる高さ405〜414を減少させる2次ピークを有する、高くて比較的狭い中心ピーク404を有する。曲線の高さは、強度に対応する。エアリーディスクの表面上の任意の点は、画像平面上の対応する位置で観測される強度を表す。言い換えれば、対象物平面における点光源の光学システムによって生成される画像は、エアリーディスクの中心ピーク404に対応し、中央のピークを囲むリング又は稜線に対応する半径を増加させる光の同心リングを有する、中央の明るいディスクとして、現れる。
エアリーディスクの半径は、したがって、隣接するエアリーディスクとの重なりと、画像の回折限界とを決定する。図5は、光学システムに関連付けられた回折限界の一例を示す。距離s1506によって分離された対象物平面における2点(x1,y1)502及び(x2,y2)504を考慮されたい。光学システムから出力されるこれらの2点の画像は、各々、画像点(x’1,y’1)及び(x’2,y’2)を中心に置かれた2つのエアリーディスク508及び510として現れる。点光源502及び504から画像平面におけるディスク508及び510によって表される強度分布を有するスポットへの光の広がりは、回折に関連する現象である。s1が十分大きくて、画像平面におけるディスク508及び510の中心間の対応する距離s’1512がエアリーディスクを分離し、その結果、曲線514によって図5に表される、2つのエアリーディスクの合成が、二峰性を有するままであるとき、画像平面における点502及び504の画像は、互いから区別することができる。しかし、対象物平面における2つの点516及び518は、十分に小さな距離s2520(すなわち、s2<s1)だけ分離され、画像平面における2点の対応する画像522及び524が、重なり、2つのエアリーディスクの加算を有し、曲線526によって表され、単一のピークに合流するとき、2点516及び518は、画像平面において解像されえない。従来の光学顕微鏡に対する、最小間隔、又は最大解像度は、一般的に次のようにみなされる。
式中、
θは光学システムに入射又は出射できる光の最大円錐の半角であり、
λは光の波長であり、
nは光学システムが動作している媒体の屈折率であり、
NAは顕微鏡対物レンズの開口数である。
入力画像における最小間隔又は最大解像度は、右側のディスクの第1左側ゼロ点が、左側のディスクの第1右側ゼロ点と一致するエアリーディスク間の間隔に対応する。イメージングすることができる任意の2つの隣接する蛍光する蛍光体の、最小間隔又は最大解像度は、光学顕微鏡システムにとっての約200nmに対応する。最小間隔又は最大の解像度は、画像平面における点源のエアリーディスク画像が、回折の結果として生じるので、「回折限界」と呼ばれる。
少なくとも200nmだけ分離された、同時に活性化された低密度の蛍光体を得るために、光源102は、非常に低い強度でかつ短時間の活性化ビーム106を放射し、その結果、活性化周波数を有するわずかな光子が、小さく確率的に分布した蛍光体のサブセットを励起するように、試料114の対象物平面に到達する。その結果、200nm未満で分離された任意の2つの活性化された蛍光体が生じる可能性は、非常に低い。活性化された蛍光体が、続いて、光源104から出力された周波数の励起光で励起されたとき、検出器142によって取り込まれた画像は、理想的には、エアリーディスクによって特徴付けることができる非重複スポットのまばらな分布で構成されている。
図6は、画像平面における4つの蛍光を発する蛍光体のまばらな確率分布の例示的な対象物平面602を示す。対象物平面602における蛍光を発する蛍光体のまばらな確率分布は、3次元構造化照明顕微鏡と題する小節において以下に説明するように、活性化光の非常に低い強度のビームを用いて試料に活性化させ、続いて、励起光の3次元干渉パターンを用いて、活性化された蛍光体のセットを励起させることにより、生成される。光学システム608は、対象物平面602における4つの蛍光点光源から出力される光を収集し、点光源からの光がシステム608を通過するにつれて、画像平面610における対応する4つのスポットを生成するように、広がる。例えば、対象物平面602における点光源604は、画像平面610におけるスポット612に対応する。画像平面610における各スポットの強度分布は、上述したように、エアリーディスクによって特徴付けることができる。各スポットの中央ピーク強度に対応する画素の座標を決定し、かつ解像するように、画像平面610におけるスポットを処理するための方法は、重心位置を解像するための方法と題する小節において、以下で説明される。
3次元構造化照明顕微鏡
図7A〜図7Cは、コヒーレントビーム124から126の交点から3次元構造化照明パターン(「3D−SIP」)の作成を示す。図7Aにおいて、ビーム124〜126は、対物レンズ112の背面に伝えられる。ビーム124〜126は、コヒーレント光源104から発信するので、ビーム124〜126の平面波は、ビーム方向に垂直な、平面702のような任意の面で同一の位相を有している。ビーム124〜126がコヒーレントである一方、各ビームは、他の2つのビームとは異なる位相変位を有することができる。対物レンズ112は、図7Aに示すように、2つの非軸方向のビーム124及び126の方向を変化させる焦点704に、ビームを集束させる。その結果、3つの平面波は、もはや、異なる方向を有する波ベクトルと平行ではなく、平面波の3つのセットは、建設的干渉によって形成され、かつ相殺的干渉により形成される暗領域によって囲まれた励起光の輝線の3D−SIPを形成するように交差する。図7A〜図7C、及び以降の図は、y方向に延び、かつxz平面において離間された輝線を用いて、3D−SIPの向きを表す離間デカルト座標系を含む。デカルト座標系は、顕微鏡座標及び相対物を表すために使用することができる。z方向は、対物レンズ112の光軸に平行である。図7Bの例において、静止3D−SIP706は、対物レンズ112の焦点面と交差する。線708は、暗い又はより低い強度の領域によって分離された励起光の輝線を表す。図7Cは、対物レンズ112のxz平面図及び3D−SIP706を備えた輝線の真向き図を示す。白丸710は、暗い領域712内の励起光の輝線の中心の真向き図を表す。
図7Dは、3D−SIPを備えた励起光の輝線の強度分布のxz平面断面図を示す。輝線は、強度が線の中心から離れて減少するにつれ灰色に色褪せる細長い白いスポットで表される。ガウス曲線714及び715は、輝線716を横切って、各々、横方向(すなわち、x方向)及び軸方向(すなわちz方向)断面強度分布を表す。明るい線の間の黒又は非常に暗い領域は、励起光強度が非常に小さい又は存在しない破壊的な干渉領域を表す。横方向ピッチPl718及び軸方向ピッチPa719は、中心ビーム125に対する外側ビーム124及び126の角度によって、決定される。例えば、横方向のピッチは、約440nmから450nmであることができ、一方、軸方向のピッチは、典型的には2倍の長さである。
図1を参照して上述したように、試料114は、多数の異なる種類の成分、例えば、細胞の細胞小器官を含んでもよく、各種類の成分は、異なる種類の蛍光プローブを用いて標識されてもよい。各種類のプローブは、試料の特定の成分に特異的に結合するように設計され、各種類の蛍光体は、特定の種類のプローブに結合される。試料114が、励起周波数を有する3D−SIPで照明されると、蛍光体と交差する3D−SIPの各輝線は、蛍光体からの光の放射を励起する可能性がある。図7Dに示す明るい線の間の暗い領域に配置された試料114の成分に取り付けられた蛍光体は、励起光の強度が著しく低いため、蛍光を発する可能性が低いが、一方、明るい線のより高強度領域と交差する蛍光体は、蛍光を発する可能性がより高い。蛍光を発する蛍光体から放射された蛍光の一部は、図1に示すビーム138の中に対物レンズ112によって、集められ、かつ平行にされ、検出器142に伝わる。
画像データは、3D−SIPにより励起された蛍光を発する蛍光体の画像を取得することによって、試料内の新しい位置に3D−SIPを移動させることによって、続いて、別の画像を取得することによって、かつ多数の画像を取得するためにこれらの工程を体系的に繰り返すことによって、取得される。IPC130は、対物レンズ112の光軸に対して垂直な3D−SIP706を横方向に平行移動させるために使用されることができる。図8A〜図8Eは、対物レンズ112の光軸802の周りに中心が置かれた横方向ピッチの5つの等間隔な横方向位置を介して、3D−SIP706にステップする例を示す。図8A〜図8Eの例では、図8を参照して上述したように、3D−SIP706の輝線は、y方向に延びている。図8A〜図8Eにおける標識されたマークh1〜h5は、光軸802の周りに中心が置かれているほぼ等しい空間的な間隔で分離された5つの横方向に離れた位置を表している。言い換えると、3D−SIP706の明るい線の間の間隔は、より細かい間隔距離を標本とするために使用される5つの横方向ステップを用いて、より細かい間隔距離を生成するために、6で割られる。点線804は、z方向における3D−SIP706の中心を特定する。図8A〜図8Eは、3D−SIP706が光軸802に対して実質的に垂直に平行移動される5つの別個の横方向ステップを表す。例えば、図8Aにおいて、3D−SIP706は、「h1」で示される第1横方向位置にあり、図8Bにおいて、3D−SIP706は、「h2」で示される第2横方向位置に間隔を介してステップされている。図8A〜図8Eに示す5の横方向位置の各々において、励起光放射蛍光体の画像が取り込まれる。最後のステップは、次のサイクルの第1横方向位置に3D−SIPを置き直す。
IPC130は、また、対物レンズ112の光軸に対して平行な3D−SIP706を軸方向に平行移動するために、使用されることができる。図9A〜図9Dは、軸方向ピッチの4つの等間隔の軸方向位置を介してステップされた3D−SIP706の例を示す。図9A〜図9Dにおける標識されたマークv1〜v4は、ほぼ等しい軸方向の空間的な間隔で分離された4つの軸方向位置を表す。言い換えると、3D−SIP706の明るい線の間の間隔は、より細かい間隔距離を標本とするために使用される4つの横方向ステップを用いて、より細かい間隔距離を生成するために、5で割られている。図9の例では、点線902は、x方向における3D−SIP706の中心を通過する。図9A〜図9Dは、3D−SIP706が光軸802に実質的に平行に軸方向で平行移動された4つの個別のステップを表す。例えば、図9Aにおいて、3D−SIP706は、「v1」で示される第1軸方向位置にあり、図9Bにおいて、3D−SIP706は、「v2」で示される第2軸方向位置に間隔を空けた軸を介してステップされる。図9A〜図9Dにおいて表される4つの軸方向位置の各々において、3D−SIPは、合計で20個の別々の画像に対する各ステップのために取り込まれた光放射蛍光体の画像を用いて、図8A〜図8Eに表される5つの横方向位置を介してステップされることができる。最後のステップは、次のサイクルの第1軸方向位置に3D−SIPを置き直す。
図8及び図9に示す5つの横方向ステップ及び4つの軸方向ステップは、3D−SIPがステップされることができる、多数の横方向及び縦方向のステップの例を単に表す。実際には、多数の横方向及び軸方向のステップは、横方向及び軸方向のピッチがどのくらい多くの空間間隔に分割されるかに応じて、わずか1つのステップから5つ以上のステップまでに及びうる。位置復号方式に応じて、ステップが均等に配置される必要はないことに、注意されたい。
別の実施形態では、蛍光顕微鏡は、対物レンズの光軸に垂直な横方向平面(すなわち、xy平面)における3D−SIPを回転させる照明パターン回転子(「IPR」)を備えることができる。図10は、例示的な蛍光顕微鏡1000の概略図を示す。顕微鏡1000は、顕微鏡100に類似する。ただし、顕微鏡1000が、IPR1002を備えることを除く。IPR1002は、IPC130と第2ダイクロイックミラー132との間のビーム124〜126と交差し、コンピュータシステム144に電子的に接続され、かつコンピュータシステム144によって操作される。図10は、2つの実質的に垂直な光軸1004及び1006を含む。IPR1002は、光軸1004の周りで、ある角度に至るまでビーム124〜126を回転させ、これは、順々に、光軸1006の周りで同一角度に至るまで試料114における3D−SIPの回転をもたらす。
図11A〜図11Cは、試料114における対物レンズ112の上方に形成された3D−SIP706の上面図(すなわち、xy平面)を示す。図11Aにおいて、IPR1102は、3D−SIP706の輝線が、対物レンズ112の上方でy軸に対して初期になるように、光軸1104の周りでビーム124〜126を回転させる。図11Bにおいて、IPR1102は、光軸1004の周りで60度までビーム124〜126を回転させ、y軸に対する0度の角度まで、光軸1006の周りで60度に至るまで回転された3D−SIP706をもたらす。図11Cにおいて、IPR1002は、光軸1004の周りで追加の60度に至るまでビーム124〜126を回転させ、y軸に対する60度の角度まで、光軸1006の周りで60度に至るまで回転された3D−SIP706をもたらす。
IPC130及びIPR1002は、系統的に3D−SIPを用いて、確率的に活性化された試料標本を走査するために、一緒に操作されることができる。図12A〜図12Gは、円筒体積1200で示される試料標本の3D−SIMイメージングのための画像データ収集の例を示す。対物レンズ(図示せず)は、図12に示す直交座標系のxy平面の下に配置されることができる。図12A〜図12Gにおいて、平行線1202は、3D−SIPの輝線の角度位置を表す。図8を参照して上述したように、ビームは、3D−SIPを試料1202の対象物平面に形成されるようにする対物レンズ内又は後方にある焦点面に、集束される。対象物平面のための高解像度画像を再構成するために、3D−SIMデータ処理のための数学的手法は、円筒1200によって示される試料体積から収集されるデータから、試料平面のための高解像度画像を再構成する。まず、図12Aに示すように、3D−SIPは、y軸に対して平行に向けられた3D−SIPの輝線を有する試料体積1200の上面、又は第1面に中心が置かれ、蛍光を発する蛍光体の第1画像が記録される。その後、方向矢印1204によって表されるように、3D−SIPは、線1202と直交する方向に空間的な間隔を介してステップを介して横方向にステップされ、画像がステップ毎に記録される。例えば、5つの横方向ステップは、5つの異なる横方向に偏位された3D−SIPを生成するために実行されることができる。その3D−SIPから、図8を参照して上述したように、5つの別々の画像が収集される。その後、図12Bに示すように、3D−SIPは、60度1206だけ回転され、次の画像が記録される。その後、3D−SIPは、方向矢印1208によって表されるように、多数の空間的な間隔を介して、横方向にステップされ、画像がステップ毎に記録される。その後、図12Cに示すように、3D−SIPは、別の60度1210(すなわち、図12Aの元の向きに対して120度又は−60度)だけ回転され、3D−SIPは、方向矢印1212によって示されるように、ステップ毎に記録される画像を用いて多数のステップを介して、横方向にステップされる。3D−SIPの角度は、y軸に対して0度に置き直され、その後、図12Dに示すように、第2平面1214上で3D−SIPを中心に置くことによって、3D−SIPは軸方向1213(すなわち、z方向)にステップされ、画像が、線1202と直交する方向1216における多数の横方向のステップに対して取り込まれる。図12E及び12Fは、3D−SIPの60度回転1218及び追加の60度回転1220及び方向1222及び1224における関連する横方向ステップを表し、各々、実行された同数の横方向ステップ及び回転角度毎に取り込まれる画像を伴う。図12Gは、図12A〜図12Fを参照して上述したように、各々標本にされた試料体積1202の軸方向で離間された8つの規則的な間隔の対象物平面を示す。例えば、8つの平面の各々は、試料1200の合計で120個の異なる記録画像を生成するために、回転毎に、3回転及び5つの横方向ステップで照明することができる。
実際には、軸方向(すなわち、z方向)における対象物平面又はステップの数は、8つに限定されるものではなく、横方向ステップの数は、5つに限定されるものではない。一般的に、試料体積の記録画像の数は、l×n×mとすることができ、ここで、lは、試料体積の各対象物平面における角度回転の数であり、nは、横方向ステップの数であり、mは、軸方向ステップの数である。回転の最小数が3つに限定されるものではないことに注意されたい。3D−SIPの平行移動及び回転は組合せることができる。よく較正されたシステムでは、わずか3つの画像が、蛍光体の集合体を超解像するのに十分であることがある。
重心位置を解像するための方法
図13は、取り込まれた試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像1302を示す。この例では、画像は、図8及び図10を参照して上述したような3D−SIPを使用して、取り込まれる。各画像は、画像が取り込まれるときに3D−SIPがある横方向及び軸方向ステップで特定される。例えば、画像1304は、(h1,v1)として特定され、3D−SIPが、図8及び図10を参照して上述した横方向位置h1及び軸方向位置v1にあるときの光放射蛍光体の画像を表す。各画像は、試料内の異なる位置における3D−SIPを用いて、活性化された蛍光体を励起することによって得られるため、画像内の活性化された各蛍光体に関連するスポットは、異なっている。例えば、画像1302の各々を通る破線1305は、画像1302に共通のスポット1306を特定し、かつ3D−SIPにより励起される単一の光放射蛍光体の画像を表す。図13は、各々、四角で表現された画像画素を用いた、画像(h3,v1)、(h5,v1)、及び(h5,v4)の部分領域1312〜1314の拡大図1308〜1310を含む。スポット1306は、影付きの画素群として拡大図1308〜1310に示されている。一連の画像1302内の各画素は、(x,y)座標及び強度Iを有する。便宜上、拡大図1308〜1310に示す画素は、同じ陰影で表されているが、実際には、実際の記録画素強度は、図3及び図4を参照して上述したように、エアリーディスクに応じて分配される。
画像1302は、試料の確率的に活性化された蛍光体の加算画像1316を生成するために、加算される。加算画像1316の各画素の強度は、画像1302内の対応する画素の強度を加算することによって、計算することができる。
式中、(xi,yi)は、画素座標であり、Mは、一連の画像における画像の数であり、jは、画像インデックスである。領域1320の拡大図1318における影付き画素は、画像1302の各々におけるスポット1306における対応する画素の強度の加算を表している。加算画像1316が取得された後、加算画像1316は、個々のスポットの大きさ及び形状を検査することによって、フィルタ処理される。スポット1322のような不規則な形状のスポット、及び、スポット1324及び1326のような最大直径のしきい値よりも大きい又は最小直径のしきい値よりも小さい直径を有するスポットは、各々、加算画像1316及び画像1302から廃棄される。
次に、加算画像1316における残りのスポットの重心座標(xc,yc)は、重心のフィルタ処理された画像1328を生成するように、計算される。例えば、各スポットの重心(xc,yc)は、加重平均を用いて、算出することができる。
式中、Nは、スポットに属するものとして特定される画素の数を表し、Iiは、座標(xi,yi)の画素の強度を表す。z座標は、顕微鏡の倍率設定により決定される。代わりに、重心は、非加重平均を用いて算出することができる(すなわち、Iiは、強度値「1」を割り当てられる)。さらに別の実施形態では、重心は、スポットの重心として特定されるガウス最大値に対応する画素座標を用いて、各スポットにガウス分布にフィッティングすることによって、計算することができる。図13において、フィルタ処理された画像1328の拡大図1332における影付き画素1330は、加算画像1316におけるスポット1306の重心画素を表す。
次に、フィルタ処理された画像1328における重心が画像1302の対応するスポットの重心として使用されている。例えば、一点鎖線1336は、重心画素1330及び影付き画素1338〜1340を通過する。影付き画素1338〜1340は、重心1330と同じ座標を持ち、各々、拡大図1308〜1310におけるスポット1306の重心として指定されている。
次に、カウントは、画像1302におけるスポットの各々について計算される。カウントは、スポットの重心の近傍内にある画素の強度の加算である。図14は、図13の拡大図1309に表されるスポットの拡大を示す。スポットを備える画素の強度は、整数値で表現される。例えば、重心画素1339の強度は、「9」である。画素1339の座標は、図13に示す重心画素1330の座標と同じであることに注意されたい。この例では、画素1339に割り当てられた数は、「64」であり、3×3の近傍の画素内にある画素の強度を加算すること1402によって決定され、重心画素1339の周りに中心が置かれた破線四角1404によって特定される。別の実施形態では、近傍は、画素重心の周りに中心が置かれた5×5の近傍とすることができる。さらに別の実施形態では、近傍は、近傍内に入る画素強度の各々を乗じた重み付け係数を含むことができる。
カウントが画像1302におけるスポットの重心に割り当てられた後に、カウントが解像画像を生成するためにフィルタ処理された画像1328の重心座標を解像し、かつ改良するために、使用される。一実施形態では、これは、カウントベクトルを生成することによって達成することができる。カウントベクトルの要素は、画像1302の各々に共通のスポットに関連する数であり、パターンが試料体積を介してステップされるにつれて、3D−SIPの輝線の強度における変化を表す余弦及び正弦ベクトルを用いて、カウントベクトルを数学的に組合せている。横方向及び軸方向のカウントベクトルは、以下の式で表すことができる。
式中、Ds,h,vは、スポットインデックスs、h及びvを用いて、スポットのカウントを表すベクトル要素であり、一連の画像における画像を特定するインデックスである。蛍光体と3D−SIPの輝線との間の相互作用は、各々、横方向ピッチPL及び軸方向ピッチPA内の完全な振動の周期を用いて、正弦及び余弦関数によって特徴付けられることができる。余弦及び正弦の横方向ベクトルは、以下の式で表される。
式中、、cos(j2π/n)は、余弦ベクトル要素であり、sin(j2π/n)は、正弦ベクトルの要素であり、nは、横方向のステップの数に等しく、jは、0からn−1に及ぶステップインデックスである。余弦及び正弦の横方向のベクトルは、次のように、軸方向に対して構築されている。
式中、cos(j2π/m)は、余弦ベクトル要素であり、sin(j2π/m)は、正弦ベクトル要素であり、mは、0からm−1までの軸方向におけるステップの数に等しい。各スポットについて、対応する横方向カウントベクトルは、次式で与えられる横方向の位相を計算するために、関連する横方向の余弦及び正弦ベクトルと組み合わされている。
式中、「・」は、スカラー積又はドット積である。また、各スポットについて、軸方向のカウントベクトルは、次式によって与えられる軸方向の位相を計算するために、軸方向の余弦及び正弦ベクトルと組み合わされている。
位相φL及びφAは、長さに変換され、スポットの重心座標を解像するために使用される。
フィルタ処理された画像におけるスポットの重心座標を解像するために、余弦、正弦、及びカウントベクトルを使用する例が、今、図15〜図17を参照して説明される。図15は、3D−SIPの4つの線のxz平面断面図を示し、各線は、図8及び図9を参照して上述した、横方向及び軸方向の空間的な間隔を介してステップされる異なる線パターンによって、表される。楕円は、図7Dを参照して上述した、3D−SIPにおける励起光の輝線の強度分布のxz平面の断面形状を表すために、使用される。例えば、固体楕円形1502のような固体楕円は、図8及び図9を参照して上述した、横方向及び軸方向の位置を介してステップされる同一の線のxz平面断面を表す。影付きの円1504は、試料の蛍光体を表し、線1502が横方向及び軸方向の位置を介してステップされるにつれて、線1502と相互作用する。線が、近くにステップされ、かつ蛍光体1504を最終的に包み込むにつれて、蛍光体から放射される光の強度は、増加する。例えば、線1502が軸方向位置v3にあるとき、蛍光体から放射される光の強度は、増加し、その後、線1502が横方向位置h1〜h5を介してステップされるにつれて、減少する。
蛍光体1504は、線1502が図15Aに示す横方向及び軸方向の位置を介してステップされるにつれて、線1502の励起光との少なくともある程度の重複を有するが、最強の相互作用は、線1502が横方向位置h1〜h5を介してステップされ、かつ軸方向位置がV3であるとき、及び、横方向位置がh2であり、かつ線が軸方向位置v1〜v4を介してステップされるときに、発生する。その結果、これらの位置に関連する画像は、蛍光体1504のx及びz座標を解像するように選択される。言い換えると、画像(h1,v3)、(h2,v3)、(h3,v3)、(h4,v3)、及び(h5,v3)の各々における蛍光体1504を表すスポットに関連付けられたカウントは、次式で示される横方向カウントベクトルを形成するように、使用される。
また、画像(h2,v1)、(h2,v2)、(h2,v3)、及び(h2,v4)の各々における蛍光体を表す同一のスポットに関連付けられたカウントは、次式で示される軸方向カウントベクトルを形成するように、使用される。
図15Aを参照して上述したように、蛍光体1504と線1502との間の相互作用は、線が位置(h1,v3)、(h2,v3)、(h3,v3)、(h4,v3)、及び(h5,v3)を介して横方向にステップされるにつれて、正弦波状に増加及び減少し、線が位置(h2,v1)、(h2,v2)、(h2,v3)、及び(h2,v4)を介して軸方向にステップされるにつれて、正弦波状に増加及び減少する。これらの正弦波の相互作用は、図15Aに示す横方向ピッチPL及び軸方向ピッチPAに等しい完全な振動の周期で、正弦関数及び余弦関数によって特徴付けられることができる。言い換えれば、横方向ピッチPL及び軸方向ピッチPAは、2πラジアンに対応し、ピッチが分割される間隔は、図15Bに示すように、ラジアンで表されることができる。特に、図15Aに示す軸方向位置v1、v2、v3、及びv4は、各々、図15Bに示す0、π/2、π/2、及び3π/2に対応し、図15Aに示す横方向位置h1、h2、h3、h4、及びh5は、各々、図15Bに示す0、2π/5、4π/5、6π/5、及び8π/5に対応する。
図16A及び図16Bは、余弦及び正弦曲線の図を示し、各々、線1502が横方向位置h1、h2、h3、h4、及びh5を介してステップされるにつれて、蛍光体1504により引き起こされた輝線1502の強度における振動を特徴付ける。図16Aにおける白丸1702のような白丸は、0、2π/5、4π/5、6π/5、及び8π/5での正弦関数値を表し、これらは、次式によって与えられる横方向余弦ベクトルを形成するために使用される。
同様に、図17Bにおける白丸は、同一位置に対する正弦関数値を表し、次式によって与えられる横方向余弦ベクトルを形成するために使用される。
図17A及び図17Bは、余弦及び正弦曲線の図を示し、各々、線1502が軸方向位置v1、v2、v3、及びv4を介してステップされるにつれて、蛍光体1504により引き起こされた輝線1502の強度における振動を特徴付ける。図17Aにおける白丸は、0、π/2、π、及び3π/2での余弦関数値を表し、これらは、次式によって与えられる軸方向余弦ベクトルを形成するために使用される。
同様に、図17Bにおける白丸は、同一位置のための正弦関数値を表し、次式によって与えられる軸方向正弦ベクトルを形成するために使用される。
横方向の余弦及び正弦ベクトルは、次式で与えられる横方向位相を計算するために、対応する横方向カウントベクトルと組み合わされている。
式中、「・」は、スカラー積又はドット積である。軸方向の余弦及び正弦ベクトルは、次式で与えられる軸方向位相を計算するために、対応する軸方向カウントベクトルと組み合わされている。
位相φA及びφBは、次式により、ラジアンからの長さ寸法に変えられることができる。
これは、次式のように蛍光体に対する解像座標を計算するために使用される。
上述の方法は、活性化された蛍光体のセットの解像画像を生成するために、フィルタ処理された画像1328における重心の各々に対して繰り返される。
軸方向及び横方向のステップの数は、上述した数に限定されるものではない。実際には、ステップの任意の適切な数が、角度毎に使用されることができる。例えば、SIPの回転角度毎に4つのSIPステップを移動させるために、PL/4及びPA/4のオフセットピッチ(offset pitch)が使用されることができる。
解像画像を生成するための上述の計算方法は、解像画像のセットを生成するために繰り返され、解像画像のセットの各々は、活性化された蛍光体の異なるセットである。その後、解像画像は、試料の超解像画像を形成するために合成される。図18は、試料の超解像画像を得るために解像画像を合成する例を示す。図18に示すように、例えば、解像画像1〜8の各々は、図13〜図17を参照して上述したように、まばらに活性化された蛍光体の異なるセットからデータを収集することによって、生成される。その後、解像画像は、最終的な複合超解像画像1804を生成するために一緒に加算され1802、最終的な複合超解像画像1804は、試料において、蛍光体で標識された、構造体、細胞小器官、細胞成分、又は他の特徴1806を明らかにする。
上述の計算方法は、次のようにアドレスすることができる蛍光体に対する曖昧な軸方向位相φA位置を生成することができる。例えば、軸方向位相φA位置測定値が、21度と201度であるとし、それらが、180度又はπラジアンだけ位相がずれており、π位相曖昧性と呼ばれる。π位相曖昧性は、蛍光体間の相対座標において、又は絶対座標において、処理されることができる。まず、相対座標を考えてみる。実際には、横方向ピッチは、典型的には、数百ナノメートルである。例えば、横方向ピッチは、440nmとすることができる。その結果、横方向ピッチの位相は、顕微鏡の視野を横切る輝線に垂直な約440nmだけ分離されたバンドにおいて、ほぼ同様であり、約440nmは、これらのバンドにおける蛍光体間の相対距離を与える。同様の関係は、η×440+220におけるバンドに対して存在し、これらは、バンドの第1セットと180度位相がずれている。一般的に、複数の横方向ステップは、xy平面における複数の方向に取り出されることができる。多くの蛍光体の複数の画像が、蛍光体の自己無撞着マップ上で収束のために許容された。
π位相曖昧性は、また、3D−SIPの横方向及び軸方向ステップ毎に顕微鏡座標に対するx、y及びz方向における3D−SIPをマッピングすることによって、解像することができる。3D−SIPを移動させるための機構は、安定し、3D−SIP位置は、高精度に把握されることができる。各スポットのxy平面の重心は、適切な分解能で計算され、蛍光体の位置が与えられると、π位相曖昧性は、解像する。
2π位相曖昧性(すなわち、モジュロ2π)に対して、3D−SIPは、横方向ピッチと同様に長さ尺度で軸方向に繰り返されるが、横方向ピッチよりも長い。2π位相曖昧性を解像するための1つのアプローチは、焦点を変更すること、及び、焦点に対応する異なるz座標を有するスポットのサイズ及び強度における変化を観察することにより、軸方向に蛍光体をマッピングすることである。
別のアプローチは、3D−SIPのピッチを変更し、かつ蛍光体の集合体の位置の相対的な位相における誘起変化を観察することである。さらに、上述した任意の基準面下の蛍光体は、より位相偏位を蓄積し、2π位相曖昧性は、ピッチにおける変化が十分小さくて新しい2π位相曖昧性が有限Z深さ(例えば、2マイクロメートル)において生じない場合、解像することができる。3D−SIP(横方向及び軸方向)のピッチは、対物レンズ112の後方に、図1及び図7を参照して上述した2つの位相コヒーレント外側ビーム124及び126の分離によって、制御される。IPC130は、3D−SIPにおけるピッチの変化をもたらす、外側ビーム124及び126の位相における小さな変化を生成することができる。このようにピッチを変更することは、また、上述したπ位相曖昧性を解像し、かつ横方向位置決めを解像するために、使用されることができることに注意されたい。新しいピッチにおける少数の画像は、2π位相曖昧性を解像するために使用されることができる。
別の実施形態では、フィルタ処理された画像に表されたスポットの重心座標は、試料体積内の3D−SIPの位置に対応するベクトルを使用して、解像することができる。図19は、円筒体積1902によって表される試料標本内の異なる位置に、回転され、かつ偏位された3D−SIPの例示的な表現を示している。図19において、ディスク1904〜1907は、試料1902内の3D−SIPの4つの位置及び向きを表している。各ディスク内の線は、3D−SIPの励起光の輝線がxy平面と平行に延びる方向を表す。
図20は、試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像2002を示す。この例では、画像は、図19を参照して上述したように、試料の体積内に移動された3D−SIPを使用して、取り込まれる。各画像は、3D−SIPの中央のおおよその座標位置を表すベクトルによって特定される。
図13を参照して上述したように、画像2002は、加算画像2016を生成するために加算される。領域2020の拡大図2018における影付き画素は、画像2002の各々におけるスポット2006に関連付けられた対応する画素の強度の加算を表している。加算画像2016が取得された後、スポットは、図13を参照して上述したように、個々のスポットの大きさ及び形状に応じてフィルタ処理され、残りのスポットの重心座標は、図14を参照して上述したように、重心のフィルタ処理された画像2022を生成するために計算される。例えば、フィルタ処理された画像2022におけるドット2024は、点線2005で示されるように画像2002の各々に共通するスポット2006の重心を表し、拡大図2028において影付き画素2026によって表される。フィルタ処理された画像2022におけるスポットの重心は、画像2002の各々に対応するスポットの重心として使用される。例えば、一点鎖線2030は、拡大図2028における重心画素2026を通過し、かつ影付き画素2032〜2034を通過する。影付き画素2032〜2034は、重心2026と同一の画素座標を有し、画像2002の各々におけるスポット2006の重心座標として指定されている。
フィルタ処理された画像2022における各重心座標は、重心毎に最小二乗方程式のセットを解くことによって、解像画像を生成するように解像する。3つの回転角度の各々について、3つの平面波は、図7を参照して上述したように、SIPを生成するように干渉する。回転角度の各々は、三つの交差ビーム124〜126によって画成される2次元表面として、別々に処理される。図21は、交差ビーム124〜126によって画成される2次元表面2102の一例を示す。ビーム124〜126の平面波が表面2102に沿って伝播するので、平面波は位相を蓄積する。
画像再構成プログラムにおける電界強度及び振幅を連続的に計算するための代替案は、一度電界強度を計算し、かつ細かいメッシュの2次元ルックアップテーブルとして保存することである。
最小二乗和は、ルックアップテーブルの各々における同じ2次元インデックを変化させることによって、最小化される。
画像再構成プログラムにおける電界強度及び振幅を連続的に計算するための代替案は、一度電界強度を計算し、かつ細かいメッシュの2次元ルックアップテーブルとして保存することである。一つの方法は、オフセット毎に異なるルックアップテーブルを計算することを含む。最小二乗和は、ルックアップテーブルの各々における同じ2次元インデックを変化させることによって、最小化される。
方法の実施形態は、また、重複するスポットの重心位置を解像するための数学的手法を含む。1つの名目上の解像スポットからの信号が、2つの隣接する蛍光体からの信号を含む場合、適合データは、コントラストが低下するため、矛盾した及び/又は弱い適合を生成する。特定の場合には、接近した位置にある2つの蛍光体が仮定されることができ、上述した最小化は、最良適合を生成する2つの位置を見つけるために、使用されることができる。一般に、2つの蛍光体の強度は、適合の一部であってもよい。図22は、試料標本の確率的に活性化された蛍光体のセットの仮想的な一連の画像2202を示す。画像は、図20を参照して上述したのと同じ方法で取り込まれる。ただし、画像2202が、画像2202に共通するスポット2206と重複することを含むことを除く。画像2202の各々における重複スポットは、3D−SIPによってある程度まで励起される2つの接近して置かれた光放射蛍光体を表す。
図13を参照して上述したように、画像2202は、加算画像2204を生成するために加算される。領域2218の拡大図2216における影付き画素は、画像2202の各々における重複スポット2206に関連付けられた対応する画素の強度の加算を表す。
図22に示すスポット2206のような重複スポットに対して、最小二乗方程式の異なるセットが、重複スポットの重心を計算するために使用される。
或いは、Djは、スポットの1つに関連付けられた規格化カウントである。実際には、隣接するスポットは、異なる初期強度I1及びI2を有することができる。この場合には、重複スポットの重心を計算するために使用される最小二乗方程式のセットは、次式で与えられる。
図23は、蛍光顕微鏡において蛍光体の位置を決定し、かつ解像するための計算方法の制御フロー図を示す。ブロック2301において、試料標本は、図1を参照して上述したように、限定されかつ空間的に分布した複数の蛍光体を確率的に活性化するために、活性化光の弱い強度ビームで照明される。ブロック2302において、試料内の焦点面は、対物レンズの焦点を設定することによって選択される。ブロック2303において、励起光の3D−SIPは、試料内に作成され、図1及び図7〜図11を参照して上述したように、焦点面に中心が置かれる。ブロック2304〜2306は、光放射蛍光体の画像を取得する処理を表しており、このときに、3D−SIPが、横方向及び軸方向の位置を介してステップされ、かつ図8、図9、図11、及び図12を参照して上述したように、一連の画像を生成するために、回転されてもよい。ブロック2304において、試料における蛍光を発する活性化された蛍光体の画像が取り込まれ、かつ記憶される。ブロック2305において、3D−SIPが、試料内の異なる位置にステップされ又は回転されるときに、本方法は、2306のブロックに進む。そうでない場合、方法は、ブロック2307に進む。ブロック2306において、3D−SIPは、図8及び図9を参照して上述したように、横方向及び軸方向の位置を介してステップされ、3D−SIPは、図11及び図12を参照して上述したように、回転されてもよい。ブロック2307において、一連の画像は、図13及び図20を参照して上述したように、加算画像を形成するために加算される。ブロック2308において、加算画像は、フィルタ処理され、最大及び最小直径のしきい値よりも大きいか又は小さいスポットを除去するようにし、フィルタ処理された画像を生成するために、不規則な形状のスポットを除去するようにする。ブロック2309において、フィルタ処理された画像内に残っているスポットの重心は、図14を参照して上述したように、算出される。ブロック2310において、フィルタ処理された画像中の重心の重心座標は、図16、図17、図20、及び図22を参照して上述したように、解像画像を生成するために解像する。ブロック2311において、試料の新しい対象物平面(すなわち、z座標)が、収束されるものであるとき、方法はブロック2312に進み、そうでない場合、方法はブロック2313に進む。ブロック2312において、試料内の新しい対象物平面は、対物レンズの焦点を変更することによって選択されることができ、ブロック2303〜2311に関連付けられた処理は、新しい対象物平面に対して繰り返される。ブロック2313において、ある解像画像は、図18を参照して上述したように、対象物平面において活性化された蛍光体の超解像画像を生成するために合成される。ブロック2314において、活性化された蛍光体は、図1を参照して上述したように、光退色されることができる。ブロック2315において、蛍光体の新しいセットが活性化されるものであるとき、本方法は、ブロック2301〜2314に関連付けられた処理を繰り返し、そうでなければ、本方法は停止する。
図24は、試料標本の超解像画像を決定するための効率的な方法を実行する、図1のコンピュータシステム144の例示的な一例を示す。多くの小さな、中規模の、及び大きなコンピュータシステムの内部成分、並びに特化されたプロセッサベースの記憶システムは、この一般化されたアーキテクチャに関連して記述されることができる。それにも拘わらず、各々の特定のシステムは、この一般化されたアーキテクチャと類似のアーキテクチャを有する、多くの付加的な構成要素、サブシステム、及び類似の並列なシステムを備えていてもよい。コンピュータシステムは、1以上の中央処理装置(「CPU」)2402〜2405、CPU/メモリサブシステムバス2410又は複数のバスによってCPUに相互接続された1つ以上の電子メモリ2408、追加のバス2414及び2416を有するCPU/メモリサブシステムバス2410と相互接続する第1ブリッジ2412、又は、複数の、高速シリアル相互接続を含む他の種類の高速相互接続媒体を含む。これらのバス又はシリアル相互接続は、同様に、CPU及びメモリをグラフィックスプロセッサ2418のような専用プロセッサと、1つ以上の追加のブリッジ2420とに接続し、これらの相互接続は、高速シリアルリンクに、又は、コントローラ2427のような複数のコントローラ2422〜2427に相互接続され、コンピュータ読み取り可能媒体2428、電子ディスプレイ、入力デバイス、及び他のそのようなコンポーネント、サブコンポーネント、及び計算資源のような、様々な異なる種類のコンピュータ読み取り可能媒体へのアクセスを提供する。視覚表示画面、オーディオスピーカ、及び他の出力インターフェースを備える電子ディスプレイと、マウス、キーボード、タッチスクリーン、及び他のそのような入力インターフェースを備える入力デバイスとは、一緒に、コンピュータシステムが人間のユーザーと対話することを可能にする入出力インターフェースを構成する。コンピュータ読み取り可能媒体2428は、電子メモリ、光学又は磁気ディスクドライブ、USBドライブ、フラッシュメモリ及び他のそのようなデータ記憶装置のようなデータ記憶装置である。コンピュータ読み取り可能媒体2428は、機械読み取り可能命令を記憶するように使用されることができ、記憶動作中に、エンコードされたデータを記憶するために使用されることができ、そこからエンコードデータは、コンピュータシステム、データ記憶システム、及び周辺機器により、読出し動作中に、読み出されることができる。機械読み取り可能命令は、上述の方法を実行し、かつ光源と対物レンズを操作する。
速度を最適化し、かつ計算要件を最小化するために、できるだけ少ない画像が、許容されることが可能なだけ高くまで、各々の画像における活性蛍光体空間密度を増加させることによって、記録されることができる。増加した数の活性蛍光体を用いることにより、対応するスポットが、画像平面に重なり、かつ回折限界の光学システムを用いて区別されることができない可能性が高い。例えば、与えられたスポットが、一貫性のない、又は不満足な複数の余弦及び正弦ベクトル積を与えるとき、スポットが特定される。
活性化された蛍光体は、「オフ」又は「点滅」さえ早く変わるかもしれないことに注意されたい。本明細書に記載された方法は、軸方向位置の冗長な測定値を含んでいるので、単一の蛍光体に対する一貫性のない結果は、特定されることができ、その蛍光体は、画像データから破棄される。
実験結果
軸方向に重複するシミュレートされたデータにおける重複応答曲線に一致する、最小二乗を使用したMatLabにおけるモンテカルロテストが、実行された。
図25Aは、期待される3D−SIMの局在分布を示すモンテカルロ試験からの結果を示す。蛍光体毎に受け入れられた画像の総数は、10個の画像を越え、10個の画像の間で、3D−SIPは、10分の1の期間、軸方向にステップされる。図25Aにおけるモンテカルロデータは、人工画像スタックから処理された。画像スタックは、MatLabにおいて処理され、加算画像におけるスポットは、そこで、MatLabの「bwareopen」機能を用いて自動的に特定された。SIPは、10個の垂直レベルを介してPA/10によって軸方向にステップされ、かつ合計50個の画像に対して、垂直レベル毎に、5つのステップに対して、PL/5によって横方向にステップされた。データは、図20を参照して上述した正弦−余弦ベクトルの積法によって、処理された。スポットの重心は、ランダムに生成され、読出しノイズ及びショットノイズの影響は、ガウススポット画素の幾何学形状に組み込まれた。横方向の解像度は、同程度である。9個の画素は、含まれている各画像におけるスポット毎に加算され、ショット及び読出しノイズが含まれている。第1パネル2502に対して、1000個の電子は、ピッチ/40に等しい半値全幅(「FWHM」)有し、10枚の画像に分布している。CCD及びCMOS検出器は、光子によって伝導バンドに励起された電子の数を測定する。ショットノイズのような量は、電子の数ではなく、カウントの数に依存する。システムに依存する係数「カウントあたりの電子」は、既知の光子伝達曲線を用いて、決定されることができる。第2パネル2504に対して、300個の電子は、ピッチ/25に等しいFWHMを有し、10枚の画像に分布している。第3パネル2506に対して、100個の電子は、ピッチ/15に等しいFWHMを有し、10枚の画像に分布している。本明細書に記載の方法は、ロバストであり、画像スタックを通じて分布された非常に少ない(例えば、100個の)検出された電子を用いてさえ、超解像度3次元位置情報を提供する。
図25B及び図25Cは、488nmでSIPによって照明された緑色100nmの蛍光ビーズを使用して得られた実際の画像からのデータである。画像スタックは、MatLabで処理され、加算画像におけるスポットは、そこで、MatLabの「bwareaopen」機能を使用して、自動的に特定された。SIPは、10個の垂直レベルを介してPA/10によって軸方向にステップされ、かつ合計50個の画像に対して、各垂直レベルにおける5つのステップに対してPL/5によって横方向にステップされた。データは、図20を参照して上述した正弦−余弦ベクトルの積法によって処理された。5つの横方向ステップの蛍光体毎に、2つが最も強い垂直変調信号を生成した。これらの2つの走査は、同様の変調強度であるが逆位相を報告した。2つの走査は、同じ蛍光体を観察するが、効果的に独立した実験であり、したがって、それらの結果を比較することは有意義である。エラーがなかった場合、結果は、位相が正確に180度ずれているであろう。図25B及び25Cは、180度からの相違の分布を示し、それらは、ナノメートルにSIPピッチによってスケールが合わせられている。どちらの場合においても、分布のFWHMは、十分に10nm未満であり、技術の力を発揮させている。特に、図25Bは、10個の軸方向ステップ及び5つの横方向ステップを使用して得られた50個の画像に対する蛍光ビーズの位置の軸方向分布のヒストグラムを示す。データは、1205個の100ナノメートル蛍光ビーズからなる試料を用いて得られた。2つの位相、約180度ずれた位相は、減算され、その平均値は、ゼロの周りでヒストグラムの中心に対して減算される。分布のFWHMは、約7ナノメートルであり、それは、約2倍の標準偏差である。図25Cは、図25Bに表される同じビーズの横方向分布のヒストグラムを示す。横方向分布は、図25Bに示す軸方向分布とほぼ同じである。
図25Dは、完全な2π垂直3D−SIP変位の数に対するナノメートルにおけるオフセット位置の図を示す。結果は、単一のピッチを走査することによって得られ、2π位相曖昧性における結果は、曲線2508によって表される。しかし、2%だけ延長された3次元視野のピッチを用いるが、同じ試料を再走査することは、曲線2510で表される位置オフセットを与え、同一の3D−SIPのピッチが4%だけ延長されたとき、オフセット位置は、曲線2512によって表されるよりも大きくさえなった。曲線2508、2510、及び2512は、見掛けの位置が、一般的に、第1の3D−SIP(変位0)においてさえのピッチにおける変化に伴って変化し、かつ変位の差が区別可能であることを示す。
図25Eは、56ナノメートルで区切られた2つの蛍光ビーズのヒストグラムを示す。モンテカルロ試験は、2つの変調された蛍光体に対するデータを適合させることにより、2蛍光体(two-fluor)仮説を試験することによって、z方向における近くの蛍光体を区別した。孤立した蛍光ビーズは、2蛍光体仮説に失敗した。図25Eの結果は、人工的な画像スタックを使用しなかったが、モンテカルロ変調データベクトルの分析であった。
上述の説明は、説明の目的のために、本開示の完全な理解を提供するための特定の用語を使用した。しかし、特定の詳細は、本明細書で説明されるシステム及び方法を実施するために必要とされないことは、当業者には明らかであろう。具体的な実施例の上述の説明は、例示及び説明のために提示されている。それらは、網羅されるべきこと、又は、説明された正確な形態に本開示を限定することは、意図されていない。明らかに、多くの修正及び変形が、上述の教示に鑑みて可能である。例えば、上述のようにz座標を変更するために、対物レンズ112の焦点を変えるよりもむしろ、顕微鏡のステージ111が、z座標における実質的に同じ変更を生成するために光軸に沿って移動されることができる。
実施例は、本開示の原理及び実際の応用を最良に説明するために示されかつ記述されており、それによって、当業者に、本開示、及び、考えられる特定の用途に適した様々な修正を伴う様々な例を最良に利用させることを可能にする。本開示の範囲は、添付の特許請求の範囲及びその均等物によって画成されることが、意図されている。

Claims (20)

  1. 顕微鏡を使用して試料標本の一以上の成分を標識する光放射粒子の座標位置を決定するための方法であって、
    光放射粒子のサブセットを活性化する工程と、
    3次元構造化照明パターンにおいて励起光を用いて照明される粒子のサブセットから放射される光の一連の画像を取得する工程と、
    一連の画像からの光放射粒子の解像画像を生成する工程と、
    一以上の成分の超解像画像を得るために処理された複数の解像画像を得るために、活性化、照明、取得及び生成を繰り返す工程と
    を含む方法。
  2. 粒子のサブセットを活性化する工程が、光放射粒子のサブセットを確率的に活性化する低強度の活性化光を試料に照射することをさらに含む、請求項1記載の方法。
  3. 一連の画像を取得する工程が、試料内で交差するように、対物レンズを透過したコヒーレント励起光の3以上のビームから照明パターンを生成することをさらに含む、請求項1又は請求項2記載の方法。
  4. 一連の画像を取得する工程が、一連の各画像を取得する前に、照明パターンの位置を変化させることをさらに含む、請求項1乃至請求項3のいずれか1項記載の方法。
  5. 照明パターンの位置を変化させる工程が、照明パターンを回転させることをさらに含む、請求項1乃至請求項4のいずれか1項記載の方法。
  6. 照明パターンの位置を変更する工程が、照明パターンを平行移動させることをさらに含む、請求項1乃至請求項5のいずれか1項記載の方法。
  7. 活性化状態における光放射粒子のサブセットを光退色させることをさらに含む、請求項1乃至請求項6のいずれか1項記載の方法。
  8. 解像画像を生成する工程が、
    スポットの加算画像を生成するために、一連の画像を加算する工程と、
    スポットの重心位置を決定する工程と、
    解像画像を生成するために、スポット重心位置を解像する工程と
    をさらに含む、請求項1乃至請求項7のいずれか1項記載の方法。
  9. 単一の蛍光体のための一貫性のない画像の結果に関連する画像データを破棄することをさらに含む、請求項1乃至請求項8のいずれか1項記載の方法。
  10. 超解像画像を得るために複数の解像画像が処理され、超解像画像を生成するために解像画像を加算することをさらに含む、請求項1乃至請求項9のいずれか1項記載の方法。
  11. 顕微鏡を用いて試料標本の超解像画像を生成するための方法であって、
    試料の成分に付着した光放射粒子の異なるサブセットを別々に活性化する工程と、
    3次元構造化照明パターンで励起光を試料に繰り返し照射し、かつ試料内の異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得することによって、活性化粒子のサブセット毎に一連の画像を生成する工程と、
    活性化粒子のサブセット毎に解像画像を生成するために、一連の画像を合成する工程と、
    試料の超解像画像を生成するために解像画像を合成する工程と
    を含む、方法。
  12. 粒子の異なるサブセットを活性化する工程が、光放射粒子のサブセットを確率的に活性化するために、低強度の活性化光を試料に照射することをさらに含む、請求項11記載の方法。
  13. 3次元構造化照明パターンで励起光を試料に照射する工程が、試料内で交差するように、対物レンズを通過したコヒーレント励起光の3以上のビームを干渉させることをさらに含む、請求項11又は請求項12記載の方法。
  14. 異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得する工程が、照明パターンを回転させることをさらに含む、請求項11乃至請求項13のいずれか1項記載の方法。
  15. 異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得する工程が、画像毎に異なる横方向位置に照明パターンを平行移動させることをさらに含む、請求項11乃至請求項14のいずれか1項記載の方法。
  16. 異なる位置における照明パターンに対して粒子のサブセットから放射される光の画像を取得する工程が、画像毎に異なる軸方向位置に照射パターンを移動させることをさらに含む、請求項11乃至請求項15のいずれか1項記載の方法。
  17. 各解像画像が生成された後に、活性化状態における光放射粒子の各サブセットを光退色させることをさらに含む、請求項11乃至請求項16のいずれか1項記載の方法。
  18. 解像画像を生成する工程が、
    スポットの加算画像を生成するために、一連の画像を加算する工程と、
    スポットの重心位置を決定する工程と、
    解像画像を生成するために、スポット重心位置を解像する工程と
    をさらに含む、請求項11乃至請求項17のいずれか1項記載の方法。
  19. 単一の蛍光体のための一貫性のない画像の結果に関連付けられた画像データを破棄することをさらに含む、請求項11乃至請求項18のいずれか1項記載の方法。
  20. 超解像画像を生成するために解像画像を合成する工程が、解像画像を加算することをさらに含む、請求項11乃至請求項19のいずれか1項記載の方法。
JP2015533016A 2012-09-24 2013-09-23 3次元構造化照明を用いた蛍光確率顕微鏡での位置を解像するための方法及びシステム Active JP6371289B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
SE1251069-9 2012-09-24
SE1251069 2012-09-24
PCT/SE2013/051104 WO2014046606A1 (en) 2012-09-24 2013-09-23 Methods for resolving positions in fluorescence stochastic microscopy using three-dimensional structured illumination.

Publications (2)

Publication Number Publication Date
JP2015530618A true JP2015530618A (ja) 2015-10-15
JP6371289B2 JP6371289B2 (ja) 2018-08-08

Family

ID=50341768

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015533016A Active JP6371289B2 (ja) 2012-09-24 2013-09-23 3次元構造化照明を用いた蛍光確率顕微鏡での位置を解像するための方法及びシステム

Country Status (4)

Country Link
US (1) US9581548B2 (ja)
EP (1) EP2898312B1 (ja)
JP (1) JP6371289B2 (ja)
WO (1) WO2014046606A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104026A1 (ja) * 2015-12-16 2017-06-22 オリンパス株式会社 蛍光観察装置および蛍光観察システム、インキュベータ

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6284372B2 (ja) * 2014-01-21 2018-02-28 オリンパス株式会社 走査型レーザ顕微鏡および超解像画像生成方法
JP6270615B2 (ja) * 2014-05-02 2018-01-31 オリンパス株式会社 標本像データ生成装置、及び、標本像データ生成方法
US10795144B2 (en) * 2014-12-06 2020-10-06 Howard Hughes Medical Institute Microscopy with structured plane illumination and point accumulation for imaging and nanoscale topography
US10003754B2 (en) 2015-06-18 2018-06-19 Agilent Technologies, Inc. Full field visual-mid-infrared imaging system
US10908072B2 (en) * 2016-12-15 2021-02-02 The Board Of Regents Of The University Of Texas System Total internal reflection and transmission illumination fluorescence microscopy imaging system with improved background suppression
WO2019109181A1 (en) * 2017-12-05 2019-06-13 Simon Fraser University Methods for analysis of single molecule localization microscopy to define molecular architecture
NL2020619B1 (en) 2018-01-16 2019-07-25 Illumina Inc Dual optical grating slide structured illumination imaging
US11327018B2 (en) * 2018-04-13 2022-05-10 The Regents Of The University Of Michigan Sub-diffraction imaging, coding and decoding of non-bleaching scatters
NL2023860B1 (en) * 2019-09-19 2021-05-25 Univ Delft Tech Pattern activated structured illumination localization microscopy
CN111256616A (zh) * 2020-03-30 2020-06-09 阳宇春 计量级3d超景深显微***及检测方法
KR20220030067A (ko) * 2020-09-02 2022-03-10 삼성전자주식회사 웨이퍼 검사 장치 및 이를 포함하는 시스템
DE102021116504A1 (de) 2021-06-25 2022-12-29 Abberior Instruments Gmbh Verfahren, Computerprogramm und Vorrichtung zum Schätzen einer Position eines Emitters oder Reflektors in einer Probe

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008542826A (ja) * 2005-05-23 2008-11-27 エフ. ヘスス ハラルド 光変換可能な光学標識を用いる光学顕微鏡法
JP2011514532A (ja) * 2008-03-19 2011-05-06 ルプレヒト−カールス−ウニヴェルジテート ハイデルベルク 蛍光顕微鏡において単一色素分子の局在化のための方法および装置
WO2011085766A1 (de) * 2009-12-22 2011-07-21 Carl Zeiss Microimaging Gmbh Hochauflösendes mikroskop und verfahren zur zwei- oder dreidimensionalen positionsbestimmung von objekten
US20110194175A1 (en) * 2009-12-09 2011-08-11 Dougherty William M Method and system for fast three-dimensional structured-illumination-microscopy imaging
JP2012510066A (ja) * 2008-11-27 2012-04-26 カール・ツァイス・マイクロイメージング・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 分解能増進顕微鏡法
WO2012118530A1 (en) * 2011-03-01 2012-09-07 Applied Precision, Inc. Variable orientation illumination-pattern rotator
WO2012118436A1 (en) * 2011-03-01 2012-09-07 Applied Precision, Inc. Systems and methods for illumination phase control in fluorescence microscopy

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7627153B2 (en) * 2005-08-04 2009-12-01 Carl Zeiss Microimaging Gmbh Repositioning inaccuracies in an automated imaging system
WO2007030835A2 (en) * 2005-09-10 2007-03-15 Baer Stephen C High resolution microscopy using an optically switchable fluorophore
US8289503B2 (en) 2005-09-27 2012-10-16 Chemimage Corporation System and method for classifying a disease state using representative data sets
US7776613B2 (en) 2006-08-07 2010-08-17 President And Fellows Of Harvard College Sub-diffraction image resolution and other imaging techniques
DE102006047912A1 (de) 2006-10-06 2008-04-10 Carl Zeiss Microimaging Gmbh Verfahren und Anordnung zur parallelisierten mikroskopischen Bildgebung
DE102008009216A1 (de) 2008-02-13 2009-08-20 Carl Zeiss Microimaging Gmbh Vorrichtung und Verfahren zum räumlich hochauflösenden Abbilden einer Struktur einer Probe
US8705043B2 (en) * 2009-12-14 2014-04-22 Academia Sinica Height measurement by correlating intensity with position of scanning object along optical axis of a structured illumination microscope
WO2011106323A2 (en) * 2010-02-23 2011-09-01 The Board Of Trustees Of The University Of Illinois Photobleaching and intermittency localization microscopy
DE102011053232B4 (de) * 2011-09-02 2020-08-06 Leica Microsystems Cms Gmbh Mikroskopische Einrichtung und mikroskopisches Verfahren zur dreidimensionalen Lokalisierung von punktförmigen Objekten

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008542826A (ja) * 2005-05-23 2008-11-27 エフ. ヘスス ハラルド 光変換可能な光学標識を用いる光学顕微鏡法
JP2011514532A (ja) * 2008-03-19 2011-05-06 ルプレヒト−カールス−ウニヴェルジテート ハイデルベルク 蛍光顕微鏡において単一色素分子の局在化のための方法および装置
JP2012510066A (ja) * 2008-11-27 2012-04-26 カール・ツァイス・マイクロイメージング・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 分解能増進顕微鏡法
US20110194175A1 (en) * 2009-12-09 2011-08-11 Dougherty William M Method and system for fast three-dimensional structured-illumination-microscopy imaging
WO2011085766A1 (de) * 2009-12-22 2011-07-21 Carl Zeiss Microimaging Gmbh Hochauflösendes mikroskop und verfahren zur zwei- oder dreidimensionalen positionsbestimmung von objekten
WO2012118530A1 (en) * 2011-03-01 2012-09-07 Applied Precision, Inc. Variable orientation illumination-pattern rotator
WO2012118436A1 (en) * 2011-03-01 2012-09-07 Applied Precision, Inc. Systems and methods for illumination phase control in fluorescence microscopy

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017104026A1 (ja) * 2015-12-16 2017-06-22 オリンパス株式会社 蛍光観察装置および蛍光観察システム、インキュベータ
US10302929B2 (en) 2015-12-16 2019-05-28 Olympus Corporation Fluorescence microscopy apparatus

Also Published As

Publication number Publication date
US9581548B2 (en) 2017-02-28
WO2014046606A1 (en) 2014-03-27
EP2898312B1 (en) 2021-03-24
US20150241351A1 (en) 2015-08-27
EP2898312A4 (en) 2016-07-06
JP6371289B2 (ja) 2018-08-08
EP2898312A1 (en) 2015-07-29

Similar Documents

Publication Publication Date Title
JP6371289B2 (ja) 3次元構造化照明を用いた蛍光確率顕微鏡での位置を解像するための方法及びシステム
US10795144B2 (en) Microscopy with structured plane illumination and point accumulation for imaging and nanoscale topography
Backlund et al. The role of molecular dipole orientation in single‐molecule fluorescence microscopy and implications for super‐resolution imaging
JP6895284B2 (ja) 光シート顕微鏡および光シート顕微鏡を作動するための方法
JP5055292B2 (ja) 共焦点イメージング方法および装置
JP5399322B2 (ja) 三次元干渉顕微鏡観察
EP2801854B1 (en) Method and apparatus for combination of localization microscopy and structured illumination microscopy
US9933363B2 (en) System and method for dense-stochastic-sampling imaging
US9086536B2 (en) Talbot imaging devices and systems
JP5120873B2 (ja) 分光計測装置及び分光計測方法
EP1413911A1 (en) Method and device for 3 dimensional imaging of suspended micro-objects providing high-resolution microscopy
CN105486638B (zh) 一种超分辨阵列扫描结构光照明成像装置及其成像方法
CN105765690A (zh) 可变照明傅立叶重叠关联成像设备、***以及方法
CN105758799B (zh) 一种超分辨阵列虚拟结构光照明成像装置及其成像方法
JP2001509612A (ja) ウェーブフィールド顕微鏡、ウェーブフィールド顕微鏡法、dna順序決定のためのウェーブフィールド顕微鏡法、およびウェーブフィールド顕微鏡に対する較正方法
KR20220110661A (ko) 이미지들로부터 값들을 추정하는 장치 및 방법
Abrahamsson et al. Structured illumination microscopy
RU2502983C1 (ru) Способ наноскопии
Paul Improving Sensitive Microscopy Techniques: SERS, SIM, and Spinning Disks
Freeman Spinning Disk Microscopy
EP4038434A1 (en) Devices and methods for the characterization of the 3d orientation of light emitting dipoles
JP5943432B2 (ja) 共焦点顕微鏡
Dougherty et al. 3D structured illumination microscopy
CN111580260A (zh) 一种高速光学三维光切片显微***及方法
Fiolka Improving the resolution in total internal reflection fluorescence and phase microscopy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20171121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180712

R150 Certificate of patent or registration of utility model

Ref document number: 6371289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250