JP6235563B2 - ウェーブレット分析を用いた単一粒子位置特定の方法および装置 - Google Patents

ウェーブレット分析を用いた単一粒子位置特定の方法および装置 Download PDF

Info

Publication number
JP6235563B2
JP6235563B2 JP2015509335A JP2015509335A JP6235563B2 JP 6235563 B2 JP6235563 B2 JP 6235563B2 JP 2015509335 A JP2015509335 A JP 2015509335A JP 2015509335 A JP2015509335 A JP 2015509335A JP 6235563 B2 JP6235563 B2 JP 6235563B2
Authority
JP
Japan
Prior art keywords
image
wavelet
particles
dimension
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015509335A
Other languages
English (en)
Other versions
JP2015516063A (ja
Inventor
ジャン−バプタイズ シバリタ,
ジャン−バプタイズ シバリタ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Centre National de la Recherche Scientifique CNRS
Original Assignee
Centre National de la Recherche Scientifique CNRS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Centre National de la Recherche Scientifique CNRS filed Critical Centre National de la Recherche Scientifique CNRS
Publication of JP2015516063A publication Critical patent/JP2015516063A/ja
Application granted granted Critical
Publication of JP6235563B2 publication Critical patent/JP6235563B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • G01N21/645Specially adapted constructive features of fluorimeters
    • G01N21/6456Spatial resolved fluorescence measurements; Imaging
    • G01N21/6458Fluorescence microscopy
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/168Segmentation; Edge detection involving transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/02Investigating particle size or size distribution
    • G01N15/0205Investigating particle size or size distribution by optical means
    • G01N2015/0238Single particle scatter
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N2015/1486Counting the particles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02Preprocessing
    • G06F2218/04Denoising
    • G06F2218/06Denoising by applying a scale-space analysis, e.g. using wavelet analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • G06F2218/10Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)

Description

生物学的用途のための光学顕微鏡法の分野は、単一粒子の検出につながる技術的進歩に伴って、定質的飛躍を遂げている。近年、単一粒子実験が、生物学および生物物理学において、結像技法を使用して、多くの実験室におけるルーチンとなっており、多数の生物学的プロセスに新しい洞察を提供している。ほとんどの場合、単一粒子実験の定量的分析のための第1のステップは、光学顕微鏡法の回折限界を優に下回る、ナノメートル範囲内のサブピクセル精度での粒子の位置の決定である。例えば、連続的時間経過画像内の蛍光標識されたタンパク質の精密な位置は、特定の膜タンパク質の拡散特性を決定するため、または分子モータのステッピング機構を解明するために使用されることができる。
近年、光学システム内の光の回折限界(典型的には、約250nm)を上回る、いくつかの超解像度光学顕微鏡法技法が、開発されている。これらとして、(蛍光)光活性化局在顕微鏡法((F)PALM)、確率的光学再構成顕微鏡法(STORM)、および(GSD)基底状態抑制顕微鏡法が挙げられる。これらの技法は、単一蛍光体の疎らなサブセットの逐次光切り替えに基づく。これらは、各単一点放出体によって生成される点広がり関数(PSF)の中心を正確に決定する能力を利用する。最終的には、画像の解像度は、達成された粒子位置特定精度によって決定される。これらの技法は、その価格妥当性および従来の全内部反射蛍光(TIRF)顕微鏡上への比較的に単純な実装のため、普及しつつある。
概して、確率的光学再構成は、3つのステップ、すなわち、(i)試料からの単一粒子の数万枚の画像の取得、(ii)最大百万個の単離された単一放出体の精密な位置特定、および(iii)検出された個々の粒子の位置から再構成された超解像画像の可視化を含む。これらのステップの逐次性質は、高取得フレーム率および処理ステップの負担に伴って、通常、ユーザが、画像取得中に超解像度画像を確認することを妨げる。その結果、ルーチンユーザの場合、後処理に先立ってデータにアクセスする可能性はなく、全体的取得パイプラインが断片化される必要があるので、膨大な時間の損失につながる。
図1は、PALM顕微鏡法のような確率的光学再構成技法を用いて、超解像度画像を記録および再構成するための典型的手技100を図示する。手技100は、蛍光顕微鏡(図示せず)を用いて、画像を取得し、次いで、以下のステップに従って、取得された画像を後処理することを伴う。ステップ102では、可視光の短パルスが、個々に、各PSFを解像するために十分に離れて広く分離された蛍光体のサブセットを活性化させる。ステップ104では、異なる波長を伴う第2のレーザが使用され、1つまたはいくつかの画像112が記録される間、その(不可逆的)光退色まで、活性蛍光体を励起させる。ステップ102および104は、連続して繰り返され、結像された蛍光体の密度が、着目構造の完全再現のために十分に高くなるまで(典型的には、数千フレーム)、蛍光体の異なるサブセットを活性化し、次いで、不可逆に光退色させる。画像取得が完了すると、後処理が生じ、ステップ106において、フレーム毎ベースで、結像された蛍光体の検出を開始する。可能性として考えられる蛍光体が、特定のフレーム内で検出されると、その位置が、ステップ108において、PSFに類似するプロファイルにガウス分布を適合することによって決定される。ステップ108は、取得されたデータのフレーム毎に繰り返される。ステップ110において再構成された画像は、全位置特定の重ね合せによって得られ、超解像度画像116を形成する。当業者によって理解されるように、1つ以上のプロセッサおよび/または処理ユニットが、ステップ106、108、および110を行い得る。
位置特定の観点から、その良好な性能により、PSF適合のために使用される標準的数学モデルは、2次元ガウス関数である。通常、取得ステップ102および104は、数分かかる一方、処理ステップ106、108、および110は、反復最小化ステップ、典型的には、最尤推定法(MLE)または非線形最小二乗法(NLLS)を要求するため、ガウス適合が実施されるとき、計算に最大数時間かかり得る。これは、取得直後に顕微鏡内で得られた結果を迅速に評価し、実験条件を現場で改善することを事実上不可能にする。最近、MLEガウス適合の超並列実装が、提案されている。本解決策は、計算時間を大幅に低減させたが、専用グラフィック処理ユニット(GPU)ハードウェアアーキテクチャの使用を要求する。
本開示の実施形態は、3次元(3D)空間内の1つ以上の粒子(例えば、細胞、分子、および/または蛍光マーカーで標識された粒子)の位置を推定するための装置、対応する方法、および対応する非一過性コンピュータプログラム製品を含む。少なくともある場合には、本装置は、結像システムの光学軸に対して非対称である点広がり関数(PSF)を用いた、非点収差結像システム等の結像システムを含む。本装置はまた、結像システムと光学連通し、3D空間内の平面の画像を検出するように構成されている検出器を含み得る。検出器に動作可能に連結されたメモリは、画像の表現を記憶するように構成される。本装置はまた、メモリおよび/または検出器に動作可能に連結され得る、プロセッサを含む。少なくともいくつかの実施形態では、プロセッサは、以下に説明されるステップのうちの1つ以上を行うように構成されているグラフィック処理ユニット(GPU)を含む。
少なくともいくつかの実施形態では、プロセッサは、非一過性コンピュータプログラム製品内に記憶された命令としてエンコードされ得る、一連のステップを実施することによって、粒子の位置を特定するように構成される。プロセッサは、画像(の表現)を受信し、画像のウェーブレット分解を実施し、画像のウェーブレットマップを形成する。プロセッサは、a trousウェーブレット分解技法または任意の他の好適なウェーブレット分解技法を使用して、ウェーブレット分解を行うように構成され得る。
プロセッサは、例えば、ウェーブレットマップの少なくとも一部に流域計算を実施することによって、結果として生じるウェーブレットマップを所定の閾値を上回る強度値を有する少なくとも1つの領域にセグメント化する。ある場合には、ウェーブレットマップをセグメント化することは、(i)ウェーブレットマップに関連付けられた背景雑音レベルを決定することと、(ii)背景雑音レベルに関連付けられた標準偏差を推定することと、(iii)標準偏差に基づいて、所定の閾値を選択することとを含み得る。例えば、プロセッサは、所定の閾値を標準偏差の約0.5倍〜約2.0倍となるように選択し得る。
ウェーブレットマップのセグメント化に応答して、プロセッサは、セグメント化された領域の重心、すなわち、質量中心の位置を推定する。重心の位置は、3D空間内の第1の次元および第2の次元における粒子の位置に対応する。例えば、重心の位置は、結像システムによって結像された3D空間の平面内の粒子の横軸(例えば、x、y)位置を表し得る。ある場合には、プロセッサは、第1の次元および第2の次元における粒子の位置を約1〜約5nmの精度まで推定し得る。
いくつかの実施形態では、プロセッサは、結像システムが、3D空間の別の画像を取得する間、画像を分解し、ウェーブレットマップをセグメント化し、および/または重心を推定するように構成される。例えば、プロセッサは、50フレーム/秒、75フレーム/秒、100フレーム/秒、またはそれ以上のフレーム率で、画像取得の間、これらのステップをリアルタイムで行うように構成され得る。
プロセッサはまた、セグメント化されたウェーブレットマップの領域に対する結像システムのPSFの適合性を決定する。例えば、結像システムが、非点収差式である場合、プロセッサは、セグメント化された領域に対する結像システムのPSFを表す、非等方性ガウス分布を使用する。プロセッサは、適合されたPSFの質量中心の推定値として、重心を使用し得る。
プロセッサは、適合性から3D空間の第3の次元における粒子の位置を推定する。言い換えると、プロセッサは、適合性を使用して、結像システムの焦点面に対する平面の軸方向(z)位置を決定し、平面の軸方向位置を使用して、粒子の軸方向位置を推定し得る。非点収差結像システムとともに使用されると、プロセッサは、セグメント化された領域に適合された楕円形の偏心および配向から、軸方向位置を推定し得る。約10〜約50nmの精度で、これを行い得る。
いくつかの実施形態はまた、レーザ等の光源を含み、粒子による蛍光放出を励起させる。光源は、励起ビームを放出し、その強度および/または波長は、公知の技法を使用して調整されることができる。これらの実施形態では、プロセッサはさらに、画像の分析を実施し、画像の分析に基づいて、励起ビームの強度および/または波長を調節するように構成され得る。プロセッサはまた、画像の分析に基づいて、結像システムの焦点、視野、フレームサイズ、フレーム率、および積分時間のうちの少なくとも1つを調節するように構成され得る。
先述の概要は、例証にすぎず、いかようにも限定的となることを目的としていない。上記で説明される例証的側面、実施形態、および特徴に加えて、以下の図面および発明を実施するための形態を参照することにより、さらなる側面、実施形態、および特徴が明白となるであろう。
本明細書に組み込まれ、その一部を構成する、添付図面は、開示された技術の実施形態を図示し、説明とともに、開示された技術の性質を説明する働きをする。
図1は、蛍光粒子の位置特定に基づいて、超解像度画像を形成するための取得および処理技法を図示する。 図2Aは、2次元および3次元両方における超解像度結像のためのウェーブレットベースの単一粒子位置特定を実施するように構成されている、蛍光顕微鏡の概略図である。 図2Bは、その点広がり関数(PSF)が、光学軸(z次元)に対して非対称である、非点収差対物レンズを図示する。 図2Cは、2次元および3次元ウェーブレットベースの粒子位置特定を図示する、流れ図である。 図2Dは、画像取得を制御するために、リアルタイムおよび/または近リアルタイムウェーブレットベースの粒子位置特定を使用するシステムを図示する。 図3は、100nmピクセルサイズの256ピクセル×256ピクセルマトリクス上の単一粒子のシミュレートされた画像を示す。 図4は、シミュレートされたデータを使用したウェーブレットセグメント化を図示する。 図5Aおよび5Bは、それぞれ、粒子密度および信号対雑音比(SNR)の関数としてのウェーブレット分析およびガウス多標的追跡(MTT)分析に対する計算時間のプロットである。 図5Aおよび5Bは、それぞれ、粒子密度および信号対雑音比(SNR)の関数としてのウェーブレット分析およびガウス多標的追跡(MTT)分析に対する計算時間のプロットである。 図5Cは、粒子密度の関数としてのウェーブレット分析およびQuickPALM分析に対する計算時間のプロットである。 図5Dは、異なる粒子位置特定技法の2次元リアルタイム検出(左)および3次元後処理適合(右)に対する処理時間対粒子の数のプロットである。 図6は、異なる粒子密度におけるウェーブレットセグメント化およびMTT分析に対する位置特定精度対SNRのプロットである。 図7は、各シミュレートされた単一粒子対SNRの座標の周囲の半径100nm以内の誤検出の検出のプロットである。 図8は、各シミュレートされた単一粒子対SNRの座標の周囲の半径100nm以内の検出漏れの検出のプロットである。 図9A−9Cは、200nm(周縁)〜6nm(中心)の範囲の可変幅の交互するストライプから作成された試験パターンの内側においてシミュレートされた単一粒子データを使用したウェーブレットベースの粒子位置特定の試験を図示する。 図9A−9Cは、200nm(周縁)〜6nm(中心)の範囲の可変幅の交互するストライプから作成された試験パターンの内側においてシミュレートされた単一粒子データを使用したウェーブレットベースの粒子位置特定の試験を図示する。 図9A−9Cは、200nm(周縁)〜6nm(中心)の範囲の可変幅の交互するストライプから作成された試験パターンの内側においてシミュレートされた単一粒子データを使用したウェーブレットベースの粒子位置特定の試験を図示する。 図10A−10Dは、実験PALMデータを用いたウェーブレットセグメント化およびMTTアルゴリズムの性能を図示する、実験データを示す。 図10A−10Dは、実験PALMデータを用いたウェーブレットセグメント化およびMTTアルゴリズムの性能を図示する、実験データを示す。 図10A−10Dは、実験PALMデータを用いたウェーブレットセグメント化およびMTTアルゴリズムの性能を図示する、実験データを示す。 図10A−10Dは、実験PALMデータを用いたウェーブレットセグメント化およびMTTアルゴリズムの性能を図示する、実験データを示す。 図11Aおよび11Bは、Alexa647蛍光体で標識されたチューブリンの回折限界画像である。図11Cは、Alexa647蛍光体で標識されたチューブリンの単一分子の種々の配向を示す、一連の回折限界画像を含む。図11Dおよび11Eは、リアルタイムで構成された、それぞれ、図11Aおよび11Bに示される分子のdSTORM超解像度強度画像である。図11Fおよび11Gは、それぞれ、図11Dおよび11Eに示される分子の3Dマッピングを示す。図11Hは、図11Fおよび11Gに示される個々の分子の3D位置を抽出するために使用される顕微鏡の較正関数(PSF)のプロットである。
粒子検出および重心位置特定(centroid localization)のためのウェーブレットセグメント化は、時間がかかるデータ分析によって生じる限界に対処する。本発明の装置および技法は、生物細胞、分子(例えば、蛍光タンパク質)、有機蛍光体、量子ドット、カーボンナノチューブ、ダイヤモンド、金属または誘電ビーズ、および蛍光体で標識された粒子を含むが、それらに限定されない、単一粒子結像、超解像度結像、粒子追跡、および/または蛍光粒子の操作のために使用されることができる。本ウェーブレットアプローチには、2次元(2D)ガウス適合を伴うものより2桁以上高速であるその処理時間と、ナノメートルの位であり得る、その非常に良好な位置特定精度(localization accuracy)の少なくとも2つの利点がある。加えて、2Dウェーブレット位置特定(wavelet localization)は、追加の適合技法とともに使用され、3次元(3D)におけるリアルタイムまたは近リアルタイム位置特定を提供することができる。
(単一分子のウェーブレットベースの局在顕微鏡法)
図2Aは、超解像度結像のための2Dおよび3D両方の単一粒子位置特定を実施するように構成されている、蛍光顕微鏡200を示す。図2Aは、蛍光顕微鏡を示すが、当業者は、本明細書に開示されるウェーブレットベースの技法が、任意の好適な結像システムと適合性があり、それに対して拡張され得ることを容易に理解するであろう。例えば、ウェーブレットベースの粒子位置特定はまた、広視野顕微鏡、共焦点顕微鏡、多光子蛍光顕微鏡、および全内部反射蛍光(TIRF)顕微鏡を含む、任意の好適な蛍光顕微鏡とともに使用されることができる。
顕微鏡200は、音響光学可変波長フィルタ(AOTF)等の励起フィルタ204に向かって光を放出するレーザ等の光源202を含み、励起フィルタ204は、光を励起波長で透過し、光を他の波長で吸収、反射、または回折する。当業者は、励起フィルタ204が調整可能であり得、光源202自体が、異なる励起波長で狭帯域幅放射を放出可能な調整可能レーザまたは源であり得ることを容易に理解するであろう。
狭帯域幅励起放射は、励起放射を試料Sの表面上または試料2内のある点に集束させる、対物レンズ208に向かって、ダイクロイックミラー206から反射する。当業者によって理解されるように、対物レンズ208は、1つ以上のレンズ要素およびプリズム要素を含み得、それらの各々は、所定の点広がり関数(PSF)を伴うビームを産生するように、湾曲または別様に成形され得る。PSFは、集束ビームによって産生されるぼやけた点の形状を表す。完璧なレンズの場合、PSFは、円形であり、その半径は、焦点面からの距離の関数として変動する。
図2Bは、完璧なレンズと異なり、対物レンズ208が、対物レンズの光学軸(図2Aおよび2Bに示される座標系内のz軸)に沿って非対称である、PSFを有することを示す。言い換えると、PSFは、対物レンズの焦点面からの距離の関数として、形状および/または配向を変化させる(単にスケールを変化させるのとは対照的)。例えば、対物レンズ208は、図2Bに示されるように、若干、非点収差を導入するレンズ要素または位相マスクを含み得る。対物レンズ208が、非点収差を有するとき、PSFは、焦点面の一方の側においてその半長径がx軸と整列された楕円形209a、公称焦点面における円形209b、および、焦点面の他方の側においてその半長径がy軸と整列された別の楕円形209cとして現れ得る。代替として、対物レンズ208は、z軸に沿った位置の関数として回転するPSFを有し得る。z軸に対するPSFの非対称性は、以下に説明されるように、z次元における粒子の位置を位置特定するために使用されることができる。PSFは、事前に計算されるか、または、例えば、既知の標本を結像し、その結果を使用して、顕微鏡200を較正することによって、実験的に決定されることができる。
標本S中の蛍光粒子(蛍光体)は、励起光を吸収し、励起波長と異なる放出波長で蛍光放射を放出する。対物レンズ208は、ダイクロイックミラー206および放出フィルタ210を介して、電子増倍型電荷結合素子(EM−CCD)、ガイガーモードアバランシェフォトダイオードアレイ、または任意の他の好適な検出器アレイ等の検出器220上に蛍光放射を結像させる。励起フィルタ204のように、放出フィルタ210も、光を放出波長で透過し、光を他の波長で吸収または反射し、検出器220における焦点ぼけ、雑音、および他の望ましくない効果を低減させる。
検出器220は、入射光を電流または電圧等の検出可能電気信号に変換し、その振幅は、対物レンズ208によって投影される標本Sの画像を表す。検出器220は、画像の表現を記憶する、メモリ230と、リアルタイム、近リアルタイム、またはオフライン(例えば、後処理において)で画像を処理し、標本S中の1つ以上の粒子を位置特定する、プロセッサ240とに連結される。いくつかの実施形態では、プロセッサ240は、少なくとも1つの中央処理ユニット(CPU)242と、少なくとも1つのグラフィック処理ユニット(GPU)244とを含む。CPU242およびGPU244は、ウェーブレットベースの位置特定に関連付けられた異なるタスクを行い、例えば、リアルタイムまたは近リアルタイム粒子位置特定のための計算時間を短縮することができる。
本ハイブリッドCPU242/GPU244アーキテクチャは、50フレーム/秒以上の画像取得率で、リアルタイム分析を可能にする。ウェーブレット分解は、コンボリューションに非常に類似するため、画像内の各ピクセルは、画像内の他のピクセルから独立して処理されることができる。ウェーブレット分解の局所性質は、GPU244上での並列ピクセル毎処理に好適である。実際、ハイブリッドCPU/GPUプロセッサ240を用いた計算時間は、500,000個の分子の画像に対して、CPUのみの実装より約7倍高速であり得る。
(2Dおよび3Dウェーブレットベースの位置特定)
図2Cは、3Dウェーブレットベースの画像セグメント化および粒子位置特定プロセス250と、3Dプロセス250の一部を形成する、2D(リアルタイム)ウェーブレットベースの単一粒子位置特定プロセス260の両方を図示する流れ図である。プロセス250および260は両方とも、例えば、図2Aに示される顕微鏡200または任意の他の好適な結像システムを使用した、ゼロ、1つ、または2つ以上の蛍光粒子を伴う、少なくとも1つの2D画像の取得(ステップ252)から開始する。(粒子が画像内に現れない場合、粒子は、位置特定されない。)ウェーブレットフィルタ処理は、画像雑音を除去し、ハード閾値法およびオブジェクトセグメント化を可能にする。流域アルゴリズムが、標識化後に適用され、密接に融合した粒子が分離され、重心セグメント化を使用して、2Dにおいて位置特定される。PSF形状に対する適合が使用され、位置特定された粒子の軸方向位置を読み出し、粒子の3D位置をもたらす。
これらのプロセス250、260は、ユーザが、画像取得の間、超解像画像を確認することを可能にする。これらはまた、以下により詳細に説明されるように、取得および位置特定パラメータをリアルタイムで制御することによって取得プロセスを最適化する可能性をもたらす。位置特定プロセス250、260は、各分子画像のSNRに応じて、ナノメートルスケールの解像度(例えば、1nm、2nm、3nm、4nm、5nm、または10nm、または数ナノメートル〜約50nmの間の任意の他の値以内)で、2(2D)または3(3D)次元のいずれかにおいて、各粒子の空間座標の精密な読み出しを可能にする。高取得フレーム率(例えば、50フレーム/秒、100フレーム/秒、またはそれ以上の率)でのリアルタイム再構成には時間がかかり過ぎ得る、ガウスPSF適合と異なり、ウェーブレットベースの位置特定は、50フレーム/秒以上のフレーム率において、リアルタイム処理のために使用されることができる。
(2D粒子位置特定)
ステップ254では、プロセッサ(例えば、図2Aに示されるハイブリッドCPU/GPUプロセッサ240)が、3次Bスプライン曲線を使用する「a trous」と呼ばれる冗長ウェーブレット変換を使用して、2D画像をウェーブレットマップに分解する。(他のウェーブレット変換も、同様に機能し得る。)a trousウェーブレット変換は、周知であり、以下により詳細に説明される。プロセッサは、a trousウェーブレット分解を迅速かつ正確に実行し、1つ以上の等方性の点を検出することができる。この分解は、雑音の大部分が存在する場所である、高周波数の源画像(例えば、以下に説明される、図4の2列目に示されるような)を含む第1のウェーブレットマップ(または、第1のウェーブレット平面)をもたらす。また、回折限界に近いサイズを伴う構造(例えば、図4の3列目に示されるような)を含む第2のウェーブレットマップ(または、第2のウェーブレット平面)をもたらす。この第2のウェーブレットマップは、単一粒子位置特定に非常に好適である。より高次のウェーブレットマップは、より粗い画像詳細およびより低い空間周波数を含み得る。
ステップ254の一部として、プロセッサは、その値が、2D画像に関連付けられた背景雑音レベルの標準偏差の約0.1倍〜約10倍(例えば、約0.5倍〜約2.0倍)の範囲である固定閾値を適用することによって、第2のウェーブレット平面を抽出する。例えば、プロセッサは、標準偏差と等しい閾値から開始し、画質に基づいて、および/またはユーザ入力に応答して、閾値を調節し得る。また、第1のウェーブレットマップから背景ガウス雑音を推定することによって、最大雑音レベルであり得るこの背景雑音レベルを決定し得る。単一粒子の特定の信号が、単一粒子ベースの超解像度に対して所望されるように、疎らである場合、源画像の標準偏差は、閾値処理のために使用される、雑音レベルの良好な推定値である。図4の4列目に示される画像のウェーブレットセグメント化のために使用された閾値は、最も雑音の多い画像の標準偏差の0.5倍に設定された。
単一粒子ベースの超解像度結像は、多数の検出された粒子を使用して、画像を(再)構成することからから恩恵を受け得る。いくつかの生物学的用途、とりわけ、生体細胞動態の場合、高結像率が、要求され、したがって、高密度の蛍光単一粒子を伴う画像が、取得される。これは、異なる粒子からの複数のPSFが重複するとき、不正確な粒子位置特定をもたらし得る(図4における1列目の中央および下の画像内の左上アスタリスク参照)。
ステップ256では、プロセッサは、第2のウェーブレットマップを1粒子ずつ伴う領域に分割またはセグメント化する。プロセッサは、流域アルゴリズムを適用することによって、第2のウェーブレットマップをセグメント化し得る。流域アルゴリズムの適用は、粒子を表す領域が所定の閾値を上回る強度値を有し、粒子の不在を表す領域が所定の閾値を下回る強度値を有することを決定することを伴い得る。プロセッサはまた、あるサイズ(例えば、4ピクセル未満)を下回る領域を除去し、雑音による可能性として考えられる残りの位置特定を回避し得る。
ステップ258では、プロセッサは、粒子を表す各領域に対して、重心、すなわち、質量中心の位置を推定する。画像が2Dであるため、重心は、画像によって表される3D体積の平面内の粒子の横軸座標(例えば、そのxおよびy座標)を表す。画像のSNRに応じて、プロセッサは、10nm、5nm、4nm、3nm、2nm、またはさらに1nmを上回る精度で、重心を特定可能であり得る。プロセッサは、この重心抽出の結果を使用して、ステップ270において、粒子の2D超解像度画像を生成し得る。また、以下に説明されるように、3D画像可視化(ステップ284)を含む、さらなる処理のために、粒子の横軸座標をメモリ内に記憶し得る(ステップ272)。
ステップ259では、プロセッサは、ウェーブレット分解、ウェーブレットセグメント化、および/または重心抽出を通して導出された画像(または、画像特性)に基づいて、統計計算または分析を実施する。例えば、プロセッサは、画像内の粒子の数、強度、および空間分布を決定し得る。ステップ262では、プロセッサは、全所望の2D画像を取得したかどうかを決定する。取得されるべきさらなる画像が存在する場合、プロセッサは、ステップ263において、ステップ259において決定された画像統計が容認可能であるかどうかチェックする。そうではない場合、プロセッサは、ステップ264において、粒子からの蛍光放出を励起するために使用されるビームの強度を調節し得る。また、結像システムに3D体積内の別の平面に焦点を合させ得る。
(3D粒子位置特定)
3D位置特定は、結像システムのPSFの演繹的知識を利用し、粒子の軸方向位置、すなわち、3D空間内の第3の次元(例えば、z次元)における位置を見出すことを伴う。例えば、非点収差レンズを使用する、PSF工学は、軸方向位置の読み出しを可能にする。実際、この情報は、通常、最尤推定法(MLE)または非線形最小二乗法(NLLS)のような高度な方法を使用して、粒子の周囲にガウス適合を適用することによって計算される。位置特定精度の観点におけるMLEおよびNLLSの信頼性にかかわらず、最終画像を再構成するために要求される時間は、ルーチンにおけるデータ生成の障害のままである。QuickPALM(古典的Hogbom「CLEAN」法)またはLivePALM(fluoroBancroftアルゴリズム)のような他の方法も提案された。これらの技法は、計算時間の観点から非常に効率的であるが、オフライン処理(後処理)に限定され得る。
プロセッサが、ステップ262において、所望の2D画像の全てが取得されたことを示す場合、またはその指標を受信する場合、ステップ280において、3D画像を生成するかどうかを決定する。3D画像が所望される場合、プロセッサは、例えば、50nm、40nm、25nm、10nm、5nm、またはそれ以上の精度で、以前に位置特定された粒子のうちの1つ以上の軸方向(z)位置を特定する(ステップ282)。ある実施形態では、プロセッサのGPUは、各粒子の横軸位置(重心)の周囲の、結像システムの非対称PSFに基づいて関数を適合することによって、この3D位置特定を実施する。z次元の関数としての関数パラメータは、結像システムの較正を通して決定され得、位置特定された粒子の軸方向座標は、ウェーブレットセグメント化プロセスによって既に計算された座標(例えば、重心)の周囲の生データの局所適合を実施することによって読み出されることができる。
結像システムが、非点収差式である場合、例えば、GPUは、光学軸(軸方向またはz次元)に沿って変化する偏心配向(eccentricity orientation)を伴う楕円形形状であるPSFに基づいて、適合を計算し得る。例えば、GPUは、粒子の軸方向座標を決定するために使用される楕円形パラメータ(例えば、楕円形の長軸および短軸のサイズおよび配向)を計算するために、非線形最小二乗法を使用して、非等方性ガウス分布を9ピクセル×9ピクセル面積に適合させ得る。適合された楕円形が偏心しているほど、粒子は、対物レンズの焦点面から遠くにある。楕円形の長軸の配向は、粒子が焦点面の近い側または遠い側にあるかどうかを示す。完全円形適合は、粒子が焦点面にあることを示す。当業者は、他の適合関数および/または他のPSFもまた、可能性であることを容易に理解するであろう。
この適合ステップは、CPU内で行われると、時間がかかり得、GPUベースの実装を示唆する。なお、リアルタイム制約は、超並列実装を可能にしない場合がある。その結果、GPUベースの実装でも、ガウス適合がリアルタイムで行われることを可能にしない場合がある。したがって、リアルタイムまたは近リアルタイム粒子位置特定の場合、プロセッサは、2ステップアプローチを実装する、すなわち、i)ウェーブレットセグメント化を使用して、2D画像をリアルタイムで計算し(プロセス260)、ii)画像取得の終了直後、適合および3D抽出を計算し得る(ステップ266)。GPU実装は、CPU単独での数十分と比較して、百万個の粒子の軸方向座標を数分で計算可能にする。これは、ユーザが、取得プロセス後、実践的使用のために十分に高速である、数秒から数分以内に3D情報にアクセスすることを可能にする。計算は、GPU対CPUの場合、ほぼ20倍高速となる。GPU実装は、各検出された粒子のPSFが横断平面において異なる場合、3D適合の並列性質を効率的に利用することができる。
(「A Trou」ウェーブレット実装)
V{i}をレベルiにおける係数マップ、W{i}をレベルiにおけるウェーブレット(または、詳細)係数マップとして定義する。V{i}およびW{i}は、オリジナル画像と同一のサイズを有する。W{2}は、前述のように、閾値および流域技法を使用してセグメント化された第2のウェーブレットマップである。一実装では、a trousウェーブレット分解は、以下のステップを含む。
(1)V{0}をオリジナル画像に対して初期化する。
(2)V{1}:V{1}=convV(convH(V{1}、g{1})、g{1})を計算する。
(3)V{2}:V{2}=convV(convH(V{2}、g{2})、g{2})を計算する。
(4)W{2}:W{2}=V{1}−V{2}を計算する。
ここでは、g{1}は、低域通過[H2、H1、H0、H1、H2]を指し、g{2}は、低域通過[H2、0、H1、0、H0、0、H1、0、H2]を指し、H0=3/8、H1=1/4、H2=1/16である。convHは、列(columns)にわたるコンボリューションを指し、convVは、行(lines)にわたるコンボリューションを指す。
(リアルタイム位置特定を使用した結像制御)
図2Dは、リアルタイムまたは近リアルタイム粒子位置特定を使用して、結像システム291による画像取得を制御するためのシステム290を図示する。結像システム291は、1つ以上のレンズ(例えば、対物レンズ208(図2A))または他の光学要素および/または3D空間の場所(標本S(図2A))に対する焦点面の位置を変化させるための1つ以上のステージを含み得る。システム290は、画像(フレーム)を取得するためのCCDカメラ220と、画像分析292を実施するためのGPU244(例えば、ハイブリッドプロセッサ240の一部)およびメモリ230とを含み、画像分析292は、超解像度画像再構成294、ライブ粒子/画像統計296、および自動結像システム制御298のための粒子位置特定を含む。
プロセッサ240は、粒子を励起させるために使用される源(レーザ)202の強度を制御し得る。例えば、プロセッサ240は、所与の画像内で可視である粒子の数を増加させるように、源の強度を上げてもよい。また、例えば、所与のフレーム取得期間で位置特定されるべき視野内に、多過ぎるまたは少な過ぎる粒子が現れるため、所与の画像内で可視の粒子の数を減少させるように、源の強度を下げ得る。ある実施形態では、プロセッサ240はまた、放出波長を調整し得る(例えば、レーザ202またはフィルタ204を調整することによって)。プロセッサ240は、異なる蛍光体を励起させるため、または励起される蛍光体の数を増減させるために、これを行い得る。
プロセッサ240はまた、フレームあたりの粒子密度のリアルタイム調整のために、おそらく、最適密度を達成するために、結像システムの視野を移動、拡張、縮小、または別様に制御し得る。これは、結像システムの焦点面または視野を変化させることによって行い得る。代替として、または加えて、プロセッサ240は、CCDカメラ220の積分時間(integration time)、フレーム率、および/またはフレームサイズを調節または制御し得る。
(シミュレートされた画像を用いた2Dウェーブレットセグメント化)
単離された単一点放出体のシミュレーションは、ウェーブレットセグメント化の検出および位置決定ならびに重心決定の速度、信頼性、および精度を図示する。
(現実的単一粒子画像のシミュレーション)
単一粒子画像が、最大強度I、標準偏差σ、および強度オフセットBの2D等方性ガウス分布を使用してシミュレートされ、ピクセルサイズDの離散空間内でサンプリングされた。σおよびDは、それぞれ、物体空間内の対物レンズの解像度およびCCDカメラピクセルサイズを指す。この場合、高NA対物レンズに対する理想的サンプリングをシミュレートするために、σ=1およびD=100nmである。2πσIは、単一粒子あたりの収集される光子の数Nを指す。オフセットI値は、1000グレーレベルであり、I強度は、超解像度顕微鏡法において使用される従来の一般的蛍光タンパク質および有機単一粒子色素によって放出される光子の数に匹敵する、100〜1000グレーレベルの範囲であった。画像は、ポアソン(光子)およびガウス(電子)雑音の混合物によって変質される。各ピクセルpにおいて、シミュレートされた画像の強度Iに対する雑音モデルは、限定光子数Nから生じる率μのポアソン雑音と、電子雑音を集約する平均Iおよび分散σのガウス雑音Bとの和となる。利得は、CCDによって収集された画像内の光電子あたりのグレーレベルの比率を表す。最後に、強度は、I=gN+Bとして記述され得る。各画像に対して、SNRは、以下のように定義される。
Figure 0006235563
式中、Iは、単一粒子信号の最大強度であり、σ は、背景強度の分散であり、σ は、光子の数に比例する、単一粒子に対して積算された信号として計算される、光子雑音を構成する。
図3は、100nmピクセルサイズの256ピクセル×256ピクセルマトリクス上の単一粒子のシミュレートされた画像を示す。各単一点は、分散σ=1ピクセル(例えば、250nmのFWHM)を伴う2Dガウス関数を用いて、コンボリューションされ、次いで、100nmのピクセルサイズを用いて、256ピクセル×256ピクセルマトリクス上でサンプリングされる。画像が、次いで、ガウスおよびポアソン雑音の混合物によって変性される。これらのシミュレーションは、画像あたりの異なるSNRおよび粒子密度で行われた。2.6〜10.3のSNR値および0.1粒子/μm〜1粒子/μmの粒子密度は、蛍光タンパク質または有機蛍光色素を使用したPALMおよびSTORM結像において遭遇される実験条件の範囲を網羅する。所与のSNRおよび密度に対して、ランダムに再分布された粒子の一連の100フレームが、生成された。
図3では、そのような合成データの実施例が、粒子密度の増加およびSNRの減少に対して示される。図3のパネル(1)は、SNR=7.1、粒子密度0.1、0.25、0.5、0.75、および1粒子/μm(左から右)における実施例を示す。パネル(2)は、分子密度0.1粒子/μm、10.3、6.6、3.6、3、および2.6(左から右)の線形単位におけるSNRにおける実施例を示す。パネル(3)は、差し込み図内で正規化される、異なるSNRに対する1つの単一粒子にわたる強度プロファイルのプロット(左)と、同一のデータの生画像(右)を含む。図3に示されるデータの典型的SNR値は、選定された蛍光体およびシミュレートされた実験条件に応じて、約8である。より低いSNRにおける調査性能は、より低い量子収率を伴う蛍光探査および光活性化可能な蛍光体(sptPALM)の単一粒子追跡の両方を満たし、両方とも、各画像フレーム内でより少ない光子が検出されることにつながる。
図4は、シミュレートされたデータを使用したウェーブレットセグメント化を図示する。各列は、異なるタイプの画像を示し、各行は、異なるSNRを示す。左から右に、(1)ボックス内の単一粒子の位置特定を伴う、源画像、(2)源画像に関連付けられた第1のウェーブレット平面、(3)源画像に関連付けられた第2のウェーブレット平面、(4)セグメント化された画像、(5)セグメント化された画像において定義された位置特定粒子に対する重心計算である。上から下に、最も雑音の多い画像の標準偏差の0.5倍によって定義された、同一のセグメント化閾値を使用した異なるSNR(それぞれ、10.3、3.6、および3)を伴う例証である。マーカー(*)は、誤検出および検出漏れの検出を図示する。
(ウェーブレットセグメント化対ガウス適合)
生成された画像は、速度および精度の観点から、ウェーブレットセグメント化アプローチおよびガウス適合アプローチの性能を比較するために使用されることができる。この比較は、ガウス適合アプローチとして、多標的追跡(MTT)を使用して行われた。MTTは、理論的限界に近い性能を伴う、高密度単一粒子検出計算のためのロバストな技法である。MTTは、粒子検出のための仮説検定に続いて、多パラメータガウス適合を使用し、単一粒子のサブピクセル位置を推定する。MTTは、重複PSFの位置を決定可能であり、追跡能力を含むが、この比較は、収縮ループおよび軌道決定を除く、単一PSFの検出および位置決めに限定される。
ウェーブレットセグメント化およびMITTは両方とも、O(n)の複雑性を有し、式中、nは、フレームあたりの画像内のピクセルの数である。表1(以下)は、両方法の主要ステップを詳述する。2つのアプローチ間の差異の1つは、位置特定座標が計算される方法である。ウェーブレットの場合、単純重心が、各領域に対して第2のウェーブレットマップ上で計算される。セグメント化後の粒子の数およびその表面は、限定されるため、流域の複雑性も同様に、O(n)に近似され得る。ガウス適合は、2Dガウス曲線を記述する5つのパラメータ(x、y、σ、強度、およびオフセット)を抽出するために、最低30回の反復に依拠する。したがって、ここでの比較は、その計算複雑性の代わりに、計算動作の数に基づく。
Figure 0006235563
(計算時間)
効率的結像実験を実施する要素の1つは、取得の間またはその直後に実験構成を改変し得る決定を行う能力である。これは、顕微鏡下の実験の効果的時間が、試料の生理学的条件を維持するために限定され得る、生体細胞実験において、特に有用であり得る。長い後処理時間(すなわち、実際の実験後)は、したがって、数十万個の単一粒子データ点の定量的分析を伴う超解像度結像実験の設計および可能な用途を大幅に制限し得る。
図5A−5Cは、広範囲のSNRおよび粒子密度値における一連の100枚の画像に対する計算時間の比較を示す。これらの比較は、クロック速度2.26GHz、48GBのRAM、および2つのクワッドIntel XeonプロセッサE5520を伴う、Dell Precision T7500コンピュータ上で行われたが、1つのみのコアが、計算の間、使用された。一般に、ウェーブレット技法の計算速度は、MTTより10倍以上高速である。
図5Aおよび5Bは、ウェーブレットセグメント化とMTTアプローチとの間の計算時間の比較を示す。シミュレートされた単一粒子を伴う一連の100枚の画像の位置を検出および決定するために必要とされる合計時間は、異なるSNRに対する分子密度の関数(図5A)と、いくつかの分子密度に対するSNRの関数(図5B)として表される。SNRの関数としての計算時間は、ウェーブレットセグメント化およびMTTの両方に対して、SNRの同様の値で飽和するが、飽和レベルは、ウェーブレット分析の場合、約20倍高速である(対数スケールに留意されたい)。一方、図5Aは、粒子密度の関数としての計算時間の線形増加を示す。なお、正確な実験記録は、典型的には、重複PSFを回避するために、粒子密度をより低い密度レベルに制限するであろう。
図5Cは、前述で使用された同一のシミュレートされたデータセットにおける一連の4000枚の画像に対するウェーブレットアプローチとQuickPALMとの間の比較を示し、画像フレームあたりの粒子密度は、0.1〜0.75粒子/μmであり、QuickPALMアルゴリズムに対して1〜4のCPUを使用した。QuickPALMは、プログラムを並列して処理され得る多くのタスクに分割し、その性能を使用されるプロセッサの数にリンクさせることを伴う、マルチスレッディングアプローチを使用する。QuickPALMでは、2〜4のCPUプロセッサが、計算のために使用された。図5Cは、ウェーブレットセグメント化が、4つのプロセッサを使用しても、高密度(>150粒子)の場合、QuickPALMより効率的であることを示す。低密度(<150粒子)の場合、ウェーブレットセグメント化およびQuickPALMは両方とも、使用されるプロセッサの数に応じて変動性を伴う、同様の性能を示す。QuickPALMと異なり、ウェーブレットセグメント化は、マルチプロセッサアーキテクチャを伴っても、1つのみのプロセッサを使用する。なお、異なる画像の処理は、ウェーブレットセグメント化では完全に独立しているので、マルチプロセッサアーキテクチャ上の実装は、実行可能である。
図5Dは、異なる粒子位置特定技法の2次元リアルタイム検出(左)および3次元後処理適合(右)に対する処理時間対粒子の数のプロットである。標準的CPUプロセッサおよびハイブリッドCPU/GPUプロセッサ(「WaveTracer」)上に実装される2Dウェーブレットベースの位置特定は、ガウス分解より数桁高速である。実際、これらは、100フレーム/秒(以下)のフレーム率約、および100粒子/平方ミクロンの粒子密度に対するリアルタイム画像再構成に好適である。3Dウェーブレットベースの位置特定は、3Dガウス適合より何桁も高速であり、1,000,000粒子以上の場合でも、数分以下(近リアルタイム)で行われることができる。
(位置特定精度)
再構成された画像の解像度は、各単一蛍光体の位置を決定する際の精度に依存する。故に、任意の位置特定技法の全体的性能が、計算速度にわたり指示精度を損なわないことが望ましい。各粒子の位置特定における誤差を特性評価する方法の1つは、シミュレートされたデータの座標と、分析されたデータ内の最も近い座標との間のユークリッド距離を測定することである。位置特定精度が、次いで、各データセットの全検出に対して計算された位置決め誤差の平均値として定義され得る。
図6は、SNRの関数として、蛍光体の位置を読み出す際の両アルゴリズムの性能を示す。位置特定精度は、各データセット内の全検出に対して計算された位置決め誤差の平均値として計算され、いくつかの分子密度に対するSNRの関数として示される。予期されるように、位置特定精度は、検出された光子の数が大きい場合、SNRに反比例し、低SNRでは、背景雑音によって左右される。単一粒子位置を決定する際の精度は、本研究において使用されるSNRおよび粒子密度の全範囲に対して、両アルゴリズムを使用して比較可能である。ウェーブレットアプローチアルゴリズムを用いて得られる結果は、可変粒子密度およびSNRを伴う異なるシミュレートされたデータのセットに対して、表2(以下)に要約される。
(誤検出および検出漏れ率)
検討すべき別のパラメータは、粒子検出の信頼性、すなわち、雑音の多い画像内で個々のPSFを検出する能力である。例えば、シミュレートされたデータ内に存在する粒子が、半径100nm以内に、分析されたデータセット内に一致する検出を有していない場合、検出漏れの検出としてカウントされ得る。同様に、誤検出の検出は、半径100nm以内に、シミュレートされたデータに存在しなかった、分析されたデータセット内の粒子の識別として定義され得る。
図7および8は、それぞれ、異なる分子密度におけるウェーブレットアプローチおよびMTTに対するSNRの関数として、誤検出率および検出漏れ率を示す。これらのプロットは、誤検出および検出漏れの検出の割合が、所与の分子密度において極めて一定のままであるウェーブレット分析によって行われる誤検出率を除き、ウェーブレットアプローチおよびMTTの両方で類似し、シミュレートされたデータのSNRに大きく依存することを示す。異なる最小強度閾値の選定は、計算速度および位置特定精度の観点において、性能を事実上損なうことなく、誤検出および検出漏れの検出率を改変させ得る。また、粒子検出および位置特定に先立って適用される、雑音低減フィルタは、検出誤差を改善し得る。
(試験パターンシミュレーション)
図9A−9Cは、幅200nm〜6nmの範囲のサイズの交互黒色および白色ストライプから作成される試験パターンを使用したシミュレーションを図示する。このタイプの試験パターンは、X線結像システムの解像度を決定するために、放射線学において広く使用されている。これは、セグメント化性能を視覚的に監視し、再構成された画像から変調伝達関数(MTF)を計算するために使用されることができる。MTF(f)は、比率C(f)/C(0)として、試験パターンの各周波数fに対して計算され、式中、C(f)は、周波数fに対するコントラストであり、C(0)は、低周波数に対するコントラストである。
図9Aは、理想的シミュレートされたパターン(上)および限定粒子数から再構成されたシミュレートされたパターン(下)の両方を示す。図9Bは、種々のSNRおよび粒子密度に対する位置特定後の再構成された画像を示す。このシミュレーションおよび分析は、黒色ストライプが、前述のプロトコルを使用して(図9Aおよび9B)、0.5粒子/μmおよびSNR7.1から1粒子/μmおよびSNR3.1の異なる密度およびSNRにおける単一粒子を取り込んだ4つの異なる単一粒子実験のものである。
図9Cは、図9Aおよび9Bにおけるシミュレーションに対するコントラスト関数(左)およびMTF(f)(右)を示し、次いで、画像の解像度がMTF(fc)=0のときに得られたカットオフ周波数(fc)の逆数として推定される。この表現は、理想的基準(例えば、密度0.5粒子/μm、SNR6.6、および解像度約25nm)からのSNRの低下および粒子密度の増加が、超解像度画像の解像度を劣化させるという事実を立証する。これは、1粒子/μm密度およびSNR3の場合における、ライン50nmおよびさらに100nmに対するコントラストの損失によって図示される。その視覚的側面に加え、この表現は、他のシミュレーションを補完し、源点の座標の知識を要求せず、性能検定に対してそれをより好適にする。また、それは、単一粒子超解像度顕微鏡法に影響を及ぼす、解像度に及ぼす検出された粒子の密度の影響の定量化も可能にする。この側面が、本願において定量化されなくても、限定粒子数が、シミュレートされた画像のMTFに影響を及ぼすことは明らかである。
最後に、表2は、閾値がそれを下回ると、コントラストに雑音が多くなる、MTF(f)>15%である第1の点におけるMTFの線形補間およびカットオフ周波数計算の結果を示す。表2における結果は、シミュレーションにおいて計算された解像度に合致する。異なるSNRおよび分子密度においてシミュレートされたデータを用いた分析は、ウェーブレットアプローチが、最大20倍の計算速度の増加を伴って、古典的ガウス適合分析と比較して、位置特定精度または検出された粒子の数を損なわせないことを示す。
Figure 0006235563
(実験データを用いた2Dウェーブレットベースの位置特定対ガウス適合)
超解像度結像が、倒立蛍光顕微鏡上で行われた。光活性化は、405nmレーザを用いて行われ、励起は、561nmレーザを用いて行われ、両方とも、顕微鏡にコリメートされ、高NA(1.49)100倍対物レンズの背面に集束され、したがって、広視野構成において、試料を照明する。光子密度は、3×10−2kW/cm(405nm)および4kW/cm(561nm)であった。単一粒子信号が、561nmダイクロイックを用いて分離され、617nmを中心とするスペクトル幅70nmの放出フィルタを用いてフィルタ処理された。信号は、1.5倍レンズを用いて拡大され、ピクセルサイズ16μmを用いて、EMCCD上に集束され、したがって、画像平面上のピクセルサイズは、107nmとなった。蛍光体の事前に変換された形態の低解像度画像が、照明(励起485nm、放出525nm)のための水銀灯を使用して得られた。
図10A−10Cは、ウェーブレットベースの位置特定およびガウス適合で処理された、ABP−tdEosFPを発現し、4%パラホルムアルデヒドで固定されたラットの海馬神経のアクチン細胞骨格の実験的に取得された画像を示す。図10Aは、蛍光体の事前に変換された形態の回折限界予備スナップショット(左)を示す。続いて、単一tdEosFP蛍光体の疎らなサブセットが、光変換され、退色するまで結像され、50msの50,000フレームの長期取得を記録した(約42分の記録)。これらのフレームは、ウェーブレットベースの位置特定およびガウス適合を用いて処理され、図10Aの中心および右における超解像度再構成物を生成した。ウェーブレットセグメント化アルゴリズムを用いた処理は、7.7分かかり、1,058,886個の単一粒子事象を識別した一方、ガウス分布アプローチは、116分かかり、1,092,266個の事象を検出した。再構成された超解像度画像は、同一の解像度を有し、画像の劣化は、観察されなかった。
図10Bは、低解像度画像、およびウェーブレットセグメント化およびMTTの両方を用いて行われた超解像度再構成物に対する樹状突起軸(図10Aにおける白色線)を横断する強度プロファイルセクションを示す。これらの超解像度画像は、検出された単一粒子の位置座標を重畳することによってレンダリングされ、検出された粒子の平均位置特定精度によって決定された標準偏差を有する、単位強度値の2Dガウス曲線で表された。
図10Cの上パネルは、単一樹状突起棘を含むより小さい領域内の検出された蛍光体のSNRを示す(図10A(左)におけるボックス)。より小さい領域は、約2.65μm×2.65μmであり、個々の樹状突起棘を含んでおり、45,878個の単一粒子事象がウェーブレットセグメント化を用いて検出された。検出された粒子は、事前に変換された蛍光体の回折限界画像と重ね合わせられる。図10Cの下パネルは、ピクセルサイズ9.6nmを伴う、超解像度再構成物を示し、各単一粒子は、1ピクセルの単位強度によって表される。
図10Dは、平均SNR5.3を伴う、領域内で検出された単一蛍光体強度のSNR値のヒストグラムであり、SNRの平均値は、最も明るい10%、25%、50%、75%、および100%検出を検討する。より具体的には、図10Dは、4588,11469、22939,34405、および45878個の検出に対応する、全検出された粒子の最も明るい10%、25%、50%、75%、および100%と、それぞれ、10.8、8.7、7.1、6.1、および5.3のSNRの平均値を検討する、平均SNR分布を示す。
単一粒子技法に基づく超解像度光学顕微鏡法は、とりわけ、取得パラメータおよび画像分析に依存し得る。より一般的には、超解像度顕微鏡法は、実験データを用いて得られた画像解像度の実質定量的情報を欠く。ある場合には、空間解像度は、データ自体で定量化されるか、または理論的フレームワークを使用して決定されるかのいずれかであった。単一粒子位置特定(例えば、PALM、STORM、およびGSD)に基づく技法では、最終再構成画像の解像度は、粒子あたりの検出された光子の数に比例し得る、各個々の粒子のSNRと、総粒子密度とに依存する。再構成された画像解像度は、指示精度の2.4倍である、単一粒子位置の不確実性分布のFWHMと見なされ得る。しかし、超解像度画像の有意義な表現は、最小密度の検出粒子に変換される、最小サンプリングを要求し得る。ナイキスト−シャノンの情報サンプリング定理は、2fの周波数でサンプリングされる場合、帯域幅fの信号が、その全体として、再構成され得ることを示す。単一粒子ベースの超解像度の分野では、本定理の一般化は、一般に、画像解像度および検出された粒子の密度の観点において使用される。すなわち、検出された粒子のサンプリングは、画像解像度の密度の少なくとも2倍であるべきである。
生物学的実験データの場合、全検出された粒子のSNRは、樹状突起棘のPALM表現に対して図10Dに図示されるように、広い分布を有し得る。そのような広い分布および単一粒子検出の高密度を前提として、PALM再構成の解像度を改善する方法の1つは、最高SNRを伴う点のみを検討し、解像度の損失に影響する低指示精度を伴うものを排除することである。この帰納的フィルタ処理は、最終画像解像度を改善し得るが、粒子の密度の低下を犠牲にし、解像度のさらに別の制限要因を伴う。実際、これは、各個々の粒子の位置特定精度から独立して、ある画像解像度に達成するために、最小粒子密度を与える。図10Cの個々の突起棘の場合、検出されたアクチン粒子は、面積1μm内に分布する。
その結果、サンプリング定理のこの一般化に従う解像度は、最も明るい10%の検出を検討すると29.5nm、最も明るい粒子の25%を検討すると18.7nm、検出の50%では13.2nm、75%では10.8nm、および100%では9.3nmとなる。この解像度限界は、検出された粒子の密度によって与えられ、検出のSNRによってではない。したがって、低密度の場合、検出された粒子の数は、最大画像解像度を定義し得る一方、その基準を超えると、検出のSNRは、限界パラメータとなり得る。分子密度とデータの帰納的フィルタ処理との間の均衡は、超解像度画像を構成するときに考慮すべき2つの要因である。
(3Dウェーブレットベースの粒子位置特定)
図11Aおよび11Bは、Alexa647蛍光体で標識されたチューブリンの回折限界画像である。図11Cは、一連の回折限界画像を含み、単一分子の種々の配向を示す。図11Dおよび11Eは、それぞれ、図11Aおよび11Bに示される場面からリアルタイムで構成されたdSTORM超解像度強度画像である。図11Fおよび11Gは、それぞれ、図11Dおよび11Eに示される分子の3Dマッピングを示す。これらの3Dマッピングは、図11Dおよび11Eに示される2D超解像度画像の構成後に生成された。
図11Hは、個々の分子の3D位置を抽出するために使用された顕微鏡の較正関数(PSF)のプロットである。x軸は、公称焦点面から測定されたz距離を表し、y軸は、検出された画像に対するガウス適合の半値全幅(σ)を表す。差し込み画像は、焦点面から異なる距離におけるPSFの外観を図示する。公称焦点面から負の距離では、PSFは、プロットのx軸と平行に整列された長軸を伴う略楕円形であるように現れる。PSFの偏心は、焦点面に近いほど減少し、次いで、公称焦点面からの正の距離に伴って増加し、長軸は、プロットのx軸に垂直に整列されている。
図11における超解像度画像は、前述のウェーブレットセグメント化およびガウス適合を使用して、リアルタイム(2D)または近リアルタイム(3D)で得られた。最右の画像は、横方向(x、y)解像度15nmおよび軸方向(z)解像度40nmを伴う異なる平面における微小管構築を示し、2D超解像度画像は、100フレーム/秒のストリーム取得の間、リアルタイムで観察され得る一方、1.2百万個の粒子の3D再構成は、取得後、数秒から数分以内に得られた。画像粒子密度は、取得の間、405nmレーザ電力を調節することによって、全体的取得プロセスの間、一定に保たれた。
(免疫細胞化学)
COS7細胞が、18mmカバースリップ上に置かれ、4%パラホルムアルデヒドおよびスクロースを使用して固定され、PBS、次いで、PBSを含む1%BSAで洗浄された。洗浄された細胞は、透過化に先立って、5分間、NHCl50mMでインキュベートされた。これらは、0.1%トリトンを使用して透過処理され、30分間、1%BSAを含むPBSでインキュベートされた。これらは、次いで、30分間、マウス抗βチューブリン抗体(T4026、Clone2.1、Sigma)でインキュベートされ、1%BSAを含むPBSで数回洗浄された。一次抗体が、次いで、Alexa647連結抗マウスIgG二次抗体(A21245、Invitrogen)を室温で30分間インキュベートすることによって現れた。
(直接確率的光学再構成顕微鏡法)
染色されたカバースリップは、翌日、100X、1.45NAPL−APO対物レンズおよびパーフェクトフォーカスシステムを具備する、倒立電動顕微鏡(Nikon Ti,Japan)上に搭載された密閉されたチャンバ(Ludin Chamber, Life Imaging Services,Switzerland)内において、室温で結像され、傾斜照明モードで長期取得を可能にした。結像は、還元および酸素除去系を含む、細胞外溶液中で行われた。dSTORMの場合、Alexa647の蛍光集合は、最初に、30−50kW/cm強度で、640nmレーザを使用して、暗状態に変換された。蛍光集合が、フレームあたり所望の密度の単一粒子に変換されると、レーザ電力が、7−15kW/cmまで減少され、20,000フレームに対して50fpsで連続して結像された。フレームあたりの単一粒子のレベルは、405nmレーザ(Omicron, Germany)を使用することによって制御された。レーザ電力は、確率的に活性化された粒子の特定のレベルを保つように調節され、取得の間、良好に分離された。
蛍光集合および単一粒子蛍光は両方とも、ダイクロイックおよび放出フィルタ(それぞれ、D101−R561およびF39−617、Chroma、USA)とクアッドバンドダイクロイックフィルタ(Di01−R405/488/561/635、Semrock、USA)の組み合わせによって収集された。蛍光は、高感度EM CCD(Evolve,Photometric,USA)を使用して収集された。取得シーケンスは、256ピクセル×256ピクセル以下の着目領域の面積を使用して、50フレーム/秒(20msec露光時間)におけるストリーミングモードで、Metamorphソフトウェア(分子デバイス、USA)によって駆動された。Multicolour蛍光マイクロビーズ(Tetraspeck,Invitrogen)が、長期取得を登録し、横変位および色シフトを補正するために使用された。空間解像度14nmが、dSTORM単一粒子画像として、同様のSNRを伴って取得された100nmTetraspeckビーズ上の重心決定を使用して測定された。
(結論)
本発明の種々の実施形態が、明細書に説明および図示されたが、当業者は、機能を果たし、および/または本明細書に説明される結果および/または利点のうちの1つ以上を得るために、種々の他の手段および/または構造を容易に想起し、そのような変形例および/または修正はそれぞれ、本明細書に説明される本発明の実施形態の範囲内であると見なされる。より一般的には、当業者は、本明細書に説明される全パラメータ、寸法、材料、および構成が、例示であることが意図され、実際のパラメータ、寸法、材料、および/または構成が、本発明の教示が使用される、具体的用途または複数の用途に依存するであろうことを容易に理解するであろう。当業者は、本明細書に説明される本発明の実施形態に特有の多くの均等物を認識する、またはルーチンにすぎない実験を使用して、確認可能であろう。したがって、前述の実施形態は、一例として提示されるにすぎず、具体的に、説明および請求されない限り、添付の請求項およびその均等物の範囲内において、本発明の実施形態が実践され得ることを理解されたい。本開示の本発明の実施形態は、本明細書に説明される各個々の特徴、システム、物品、材料、キット、および/または方法を対象とする。加えて、2つ以上のそのような特徴、システム、物品、材料、キット、および/または方法の任意の組み合わせも、そのような特徴、システム、物品、材料、キット、および/または方法が、互に矛盾しない限り、本発明の本開示の範囲内に含まれる。
前述の実施形態は、多数の方法のいずれかにおいて実装され得る。例えば、実施形態は、ハードウェア、ソフトウェア、またはそれらの組み合わせを使用して実装され得る。ソフトウェア内に実装されるとき、ソフトウェアコードが、単一コンピュータ内に提供されるか、または複数のコンピュータ間に分散されるかにかかわらず、任意の好適なプロセッサまたはプロセッサ集合上で実行されることができる。
さらに、コンピュータは、ラック搭載コンピュータ、デスクトップコンピュータ、ラップトップコンピュータ、またはタブレットコンピュータ等のいくつかの形態のいずれかにおいて具現化され得ることを理解されたい。加えて、コンピュータは、携帯情報端末(PDA)、スマートフォン、あるいは任意の他の好適なポータブルまたは固定電子デバイスを含む、概して、コンピュータとして見なされないが、好適な処理能力を伴う、デバイス内に埋め込まれ得る。
また、コンピュータは、1つ以上の入力および出力デバイスを有し得る。これらのデバイスは、とりわけ、ユーザインターフェースを提示するために使用されることができる。ユーザインターフェースを提供するために使用されることができる、出力デバイスの実施例として、出力の可視提示のためのプリンタまたはディスプレイ画面および出力の可聴提示のためのスピーカまたは他の音発生デバイスが挙げられる。ユーザインターフェースのために使用されることができる、入力デバイスの実施例として、キーボード、ならびにマウス、タッチパッド、およびディジタイズ用タブレット等の指示デバイスが挙げられる。別の実施例として、コンピュータは、発話認識を通して、または他の可聴形式において、入力情報を受信し得る。
そのようなコンピュータは、企業ネットワーク等のローカルエリアネットワークまたは広域ネットワーク、およびインテリジェントネットワーク(IN)またはインターネットを含む、任意の好適な形態における1つ以上のネットワークによって、相互接続され得る。そのようなネットワークは、任意の好適な技術に基づいてもよく、任意の好適なプロトコルに従って動作し得、無線ネットワーク、有線ネットワーク、または光ファイバネットワークを含み得る。
メモリは、任意のコンピュータ読み取り可能な媒体を備え得、本明細書に説明される種々の機能性を実装するためのコンピュータ命令(また、本明細書では、「プロセッサ実行可能命令」と称される)を記憶し得る。処理ユニット(例えば、CPUおよびGPU)が、命令を実行するために使用され得る。通信インターフェースは、有線または無線ネットワーク、バス、あるいは他の通信手段に連結され得、したがって、プロセッサおよび/または処理ユニットが、他のデバイスに通信を伝送する、および/またはそこから通信を受信することを可能にし得る。ディスプレイユニットは、例えば、ユーザが、命令の実行に関連して、種々の情報を確認することを可能にするために提供され得る。ユーザ入力デバイスは、例えば、ユーザが、手動調節を行う、選択を行う、データまたは種々の他の情報を打ち込む、および/または命令の実行の間、プロセッサと種々の様式のいずれかで相互作用することを可能にするために提供され得る。
本明細書で概説された種々の方法またはプロセスは、種々のオペレーティングシステムまたはプラットフォームの任意の1つを採用する、1つ以上のプロセッサ上で実行可能なソフトウェアとしてコード化され得る。加えて、そのようなソフトウェアは、いくつかの好適なプログラミング言語および/またはプログラミングまたはスクリプティングツールのいずれかを使用して書かれてもよく、また、フレームワークまたは仮想機械上で実行される、実行可能機械言語コードまたは中間コードとしてコンパイルされ得る。
この点において、本発明の種々の概念は、非一過性コンピュータ読み取り可能な記憶媒体(または、複数のコンピュータ読み取り可能な記憶媒体)(例えば、コンピュータメモリ、1つ以上のフロッピー(登録商標)ディスク、コンパクトディスク、光学ディスク、磁気テープ、フラッシュメモリ、フィールドプログラマブルゲートアレイまたは他の半導体デバイス内の回路構成、あるいは1つ以上のコンピュータまたは他のプロセッサ上で実行されると、前述の本発明の種々の実施形態を実装する方法を実施する、1つ以上のプログラムでエンコードされた他の非一過性媒体または有形コンピュータ記憶媒体)として具現化され得る。コンピュータ読み取り可能な媒体または媒体は、その上に記憶されたプログラムまたは複数のプログラムが、1つ以上の異なるコンピュータまたは他のプロセッサ上にロードされ、前述のような本発明の種々の側面を実装し得るように、トランスポータブルであることができる。
用語「プログラム」または「ソフトウェア」は、前述のような実施形態の種々の側面を実装するように、コンピュータまたは他のプロセッサをプログラムするために採用され得る、任意のタイプのコンピュータコードまたは一式のコンピュータ実行可能命令を指すように、一般的意味において、本明細書で使用される。加えて、一側面によると、実行されると、本発明の方法を実施する、1つ以上のコンピュータプログラムは、本発明の種々の側面を実装するために、単一コンピュータまたはプロセッサ上に常駐する必要はなく、いくつかの異なるコンピュータまたはプロセッサ間にモジュール方式で分散され得ることを理解されたい。
コンピュータ実行可能命令は、1つ以上のコンピュータまたは他のデバイスによって実行される、プログラムモジュール等の多くの形態であり得る。概して、プログラムモジュールは、特定のタスクを実施する、または特定の抽象データタイプを実装する、ルーチン、プログラム、オブジェクト、構成要素、データ構造等を含む。典型的には、プログラムモジュールの機能性は、種々の実施形態において、所望に応じて、組み合わせられる、または分散され得る。
また、データ構造は、任意の好適な形態において、コンピュータ読み取り可能な媒体内に記憶され得る。例証の便宜上、データ構造は、データ構造内の場所を通して関連するフィールドを有するように示され得る。そのような関係は、同様に、フィールド間の関係を伝える、コンピュータ読み取り可能な媒体内の場所を伴うフィールドのための記憶を割り当てることによって達成され得る。しかしながら、任意の好適な機構が、データ構造のフィールド内の情報間の関係を確立するために使用され得る(例えば、ポインタ、タグ、またはデータ要素間の関係を確立するための他の機構の使用を通して)。
また、本発明の種々の概念は、その実施例が提供された、1つ以上の方法として具現化され得る。方法の一部として行われる作用は、任意の好適な方法で順序付けられてもよい。故に、実施形態は、作用が図示されるものと異なる順序で行われるように構築され得、例証的実施形態において、逐次作用として示される場合でも、いくつかの作用を同時に実施することを含み得る。
本明細書に定義および使用される全ての定義は、辞書定義、参照することによって組み込まれる文書中の定義、および/または定義される用語の通常の意味に優先するものと理解されたい。
流れ図が本明細書で使用される。流れ図の使用は、行われる動作の順序に関して限定的となるように意図されていない。本明細書で説明された主題は、異なる他の構成要素内に含有される、またはそれらと接続される、異なる構成要素を図示することもある。そのような描写されたアーキテクチャは例示的にすぎず、実際には、同一の機能性を達成する、多くの他のアーキテクチャを実装できることを理解されたい。概念的な意味で、所望の機能性が達成されるように、同一の機能性を達成するための構成要素の任意の配列が、効果的に「関連付けられる」。したがって、アーキテクチャまたは中間構成要素にかかわらず、所望の機能性が達成されるように、特定の機能性を達成するように組み合わせられる、本明細書の任意の2つの構成要素は、互に「関連付けられる」と見なすことができる。同様に、そのように関連付けられる任意の2つの構成要素はまた、所望の機能性を達成するように、互に「動作可能に接続される」または「動作可能に連結される」と見なすこともでき、そのように関連付けられることが可能な任意の2つの構成要素はまた、所望の機能性を達成するように、互に「動作可能に連結可能である」と見なすこともできる。動作可能に連結可能なものの特定の実施例は、物理的に嵌合可能な、および/または物理的に相互作用する構成要素、および/または無線で相互作用可能な、および/または無線で相互作用する構成要素、および/または論理的に相互作用する、および/または論理的に相互作用可能な構成要素を含むが、それらに限定されない。
実質的にあらゆる複数形および/または単数形の用語の本明細書での使用に関して、当業者であれば、文脈および/または用途に適切であるように、複数形から単数形へ、および/または単数形から複数形へ言い換えることができる。種々の単数/複数形の順列が、明確にするために明示的に本明細書に記載され得る。
一般に、本明細書で、特に、添付の請求項(例えば、添付の請求項の本文)で使用される用語は、概して、「非制約的な」用語として意図されていることが、当業者によって理解されるであろう(例えば、「〜を含む」という用語は、「〜を含むが、それらに限定されない」として解釈されるべきであり、「〜を有する」という用語は、「少なくとも〜を有する」として解釈されるべきであり、「含む」という用語は、「含むが、それらに限定されない」として解釈されるべきである、等)。さらに、特定の番号の導入された請求項の記載が意図される場合、そのような意図は、請求項で明示的に記載され、そのような記載がない場合、そのような意図は存在しないことが、当業者によって理解されるであろう。例えば、理解の補助として、以下の添付の請求項は、請求項の記載を導入するように、「少なくとも1つの」および「1つ以上の」という導入語句の使用を含み得る。
しかしながら、そのような語句の使用は、たとえ同一の請求項が、「1つ以上の」または「少なくとも1つの」という導入語句、および「1つの」(「a」または「an」)等の不定冠詞を含むときでさえも、「1つの」(「a」または「an」)という不定冠詞による請求項の記載の導入は、そのような導入された請求項の記載を含む任意の特定の請求項を、1つだけのそのような記載を含む主題に限定すると示唆するように解釈されるべきではない(例えば、「1つの」(「a」および/または「an」)は、典型的には、「少なくとも1つの」または「1つ以上の」)を意味するように解釈されるべきである)。同じことが、請求項の記載を導入するために使用される定冠詞の使用に当てはまる。加えて、たとえ特定の番号の導入された請求項の記載が明示的に記載されたとしても、当業者であれば、そのような記載は、典型的には、少なくとも記載された番号を意味すると解釈されるべきであると認識するであろう(例えば、他の修飾語がない「2つの記載」という最低限の記載は、典型的には、少なくとも2つの記載、または2つ以上の記載を意味する)。
さらに、「A、B、およびC等のうちの少なくとも1つ」に類似する慣例が使用される場合において、一般に、当業者であれば慣例を理解するであろうという意味で、そのような構造が意図される(例えば、「A、B、およびCのうちの少なくとも1つを有するシステム」は、Aのみ、Bのみ、Cのみ、ともにAおよびB、ともにAおよびC、ともにBおよびC、および/またはともにA、B、およびC等を有する、システムを含むが、それらに限定されないであろう)。「A、B、およびC等のうちの少なくとも1つ」に類似する慣例が使用される場合において、一般に、当業者であれば慣例を理解するであろうという意味で、そのような構造が意図される(例えば、「A、B、およびCのうちの少なくとも1つを有するシステム」は、Aのみ、Bのみ、Cのみ、ともにAおよびB、ともにAおよびC、ともにBおよびC、および/またはともにA、B、およびC等を有する、システムを含むが、それらに限定されないであろう)。
さらに、説明、請求項、または図面の中にかかわらず、2つ以上の代替的な用語を提示する、事実上あらゆる離接語および/または語句は、該用語のうちの1つ、該用語のいずれか一方、または両方の用語を含む可能性を考慮すると理解されるべきであると、当業者によって理解されるであろう。例えば、「AまたはB」および「Aおよび/またはB」という語句はそれぞれ、「A」または「B」あるいは「AおよびB」の可能性を含むと理解されるであろう。
例証的実施形態の先述の説明が、例証および説明の目的で提示されている。開示される正確な形式に関して包括的または限定的となることは意図されておらず、修正および変形例が、上記の教示に照らして可能であるか、または開示された実施形態の実践から取得され得る。本発明の範囲は、本明細書に添付される請求項およびそれらの同等物によって定義されることが意図されている。

Claims (28)

  1. 3次元(3D)空間内で1つ以上の粒子の位置を推定するための装置であって、
    光学軸を画定し、前記光学軸に対して非対称である点広がり関数(PSF)を有する結像システムと、
    前記結像システムと光学連通し、前記3D空間内の平面の画像を検出するように構成されている検出器と、
    前記検出器に動作可能に連結され、前記画像の表現を記憶するように構成されているメモリと、
    前記メモリに動作可能に連結されているプロセッサと
    を備え、前記プロセッサは、
    (a)前記3D空間内の平面の画像のウェーブレット分解を実施し、前記画像のウェーブレットマップを形成することと、
    (b)前記ウェーブレットマップを所定の閾値を上回る強度値を有する少なくとも1つの領域にセグメント化することと、
    (c)前記少なくとも1つの領域の重心の位置を推定することであって、前記重心の位置は、前記3D空間内の第1の次元および第2の次元における前記粒子の位置に対応することと、
    (d)前記ウェーブレットマップのセグメント化の間に特定された少なくとも1つの領域の前記重心の周囲のデータを用いて、前記少なくとも1つの領域に対する前記PSFの適合性を決定することと、
    (e)前記ウェーブレットマップのセグメント化の間に特定された前記データを用いて、前記適合性から前記3D空間の第3の次元における前記粒子の位置を推定することと
    を行うように構成されている、装置。
  2. 前記粒子は、生物細胞、分子、蛍光タンパク質、有機蛍光体、量子ドット、カーボンナノチューブ、ダイヤモンド、金属ビーズ、誘電ビーズ、および蛍光体で標識された粒子のうちの少なくとも1つ含む、請求項1に記載の装置。
  3. 前記結像システムは、非点収差結像システムである、請求項1に記載の装置。
  4. 前記プロセッサは、(a)、(b)、および(c)を行うように構成されているグラフィック処理ユニット(GPU)を備えている、請求項1に記載の装置。
  5. (a)は、前記ウェーブレット分解 a trousを実施することを含む、請求項1に記載の装置。
  6. (b)は、前記ウェーブレットマップの少なくとも一部の流域計算を実施することを含む、請求項1に記載の装置。
  7. (b)は、
    (i)前記ウェーブレットマップに関連付けられた背景雑音レベルを決定することと、
    (ii)前記背景雑音レベルに関連付けられた標準偏差を推定することと、
    (iii)前記標準偏差に基づいて、前記所定の閾値を選択することと、
    をさらに含む、請求項1に記載の装置。
  8. (iii)は、前記所定の閾値を前記標準偏差の0.5倍〜2.0倍であるように選択することを含む、請求項7に記載の装置。
  9. (c)は、前記第1の次元および前記第2の次元における前記粒子の位置を1nm〜5nmの精度まで推定することを含む、請求項1に記載の装置。
  10. (e)は、前記第3の次元における前記粒子の位置を10nm〜50nmの精度まで推定することを含む、請求項1に記載の装置。
  11. 前記プロセッサは、前記結像システムが、前記3D空間の別の画像を取得する間、(a)、(b)、および(c)を実施するようにさらに構成されている、請求項1に記載の装置。
  12. 前記1つ以上の粒子による蛍光放出を励起させる光源をさらに備え、
    前記プロセッサは、前記画像の分析を実施し、前記画像の分析に基づいて、前記光源の強度および波長のうちの少なくとも1つを調節するようにさらに構成されている、請求項1に記載の装置。
  13. 前記プロセッサは、前記画像の分析を実施し、前記画像の分析に基づいて、前記結像システムの焦点、視野、フレームサイズ、フレーム率、および積分時間のうちの少なくとも1つを調節するようにさらに構成されている、請求項1に記載の装置。
  14. 3次元(3D)空間内で1つ以上の粒子の位置を推定する方法であって、前記方法は、
    (a)前記3D空間内の平面の画像のウェーブレット分解を実施し、前記画像のウェーブレットマップを形成するステップと、
    (b)前記ウェーブレットマップを所定の閾値を上回る強度値を有する少なくとも1つの領域にセグメント化するステップと、
    (c)前記少なくとも1つの領域の重心の位置を推定するステップであって、前記重心の位置は、前記3D空間内の第1の次元および第2の次元における前記粒子の位置に対応する、ステップと、
    (d)前記ウェーブレットマップのセグメント化の間に特定された少なくとも1つの領域の前記重心の周囲のデータを用いて、前記少なくとも1つの領域に対するPSFの適合性を決定するステップと、
    (e)前記ウェーブレットマップのセグメント化の間に特定された前記データを用いて、前記適合性から前記3D空間の第3の次元における前記粒子の位置を推定するステップと
    を含む、方法。
  15. 前記粒子は、生物細胞、分子、蛍光タンパク質、有機蛍光体、量子ドット、カーボンナノチューブ、ダイヤモンド、金属ビーズ、誘電ビーズ、および蛍光体で標識された粒子のうちの少なくとも1つを含む、請求項14に記載の方法。
  16. (a)は、前記ウェーブレット分解a trousを実施することを含む、請求項14に記載の方法。
  17. (b)は、前記ウェーブレットマップの少なくとも一部の流域計算を実施することを含む、請求項14に記載の方法。
  18. (b)は、
    (i)前記ウェーブレットマップに関連付けられた背景雑音レベルを決定することと、
    (ii)前記背景雑音レベルに関連付けられた標準偏差を推定することと、
    (iii)前記標準偏差に基づいて、前記所定の閾値を選択することと
    をさらに含む、請求項14に記載の方法。
  19. (iii)は、前記所定の閾値を前記標準偏差の0.5倍〜2.0倍であるように選択することを含む、請求項18に記載の方法。
  20. (c)は、前記第1の次元および前記第2の次元における前記粒子の位置を1nm〜5nmの精度まで推定することを含む、請求項14に記載の方法。
  21. (e)は、前記第3の次元における前記粒子の位置を10nm〜50nmの精度まで推定することを含む、請求項14に記載の方法。
  22. 前記PSFは、前記3D空間の第3の次元に対して非対称であり、(a)の前に、
    前記PSFによって特徴付けられる結像システムを用いて、画像を取得することをさらに含む、請求項14に記載の方法。
  23. 前記結像システムは、非点収差結像システムである、請求項22に記載の方法。
  24. 前記3D空間の複数の画像を取得することであって、前記複数の画像内の各画像は、前記3D空間の異なる平面に対応する、ことと、
    前記複数の画像内の各画像に対して、ステップ(a)、(b)、および(c)を実施することと
    をさらに含む、請求項14に記載の方法。
  25. ステップ(a)、(b)、および(c)のうちの少なくとも1つを実施する間、前記3D空間内の別の平面の別の画像を取得することをさらに含む、請求項14に記載の方法。
  26. 前記画像の分析を実施することと、
    前記画像の分析に基づいて、前記結像システムの焦点、視野、フレームサイズ、フレーム率、および積分時間のうちの少なくとも1つを調節することと
    をさらに含む、請求項14に記載の方法。
  27. 前記画像は、前記1つ以上の粒子による蛍光放出を表し、前記方法は、
    前記画像の分析を実施することと、
    前記画像の分析に基づいて、前記蛍光放出を励起させるために使用される光源の強度および波長のうちの少なくとも1つを調節することと
    をさらに含む、請求項14に記載の方法。
  28. 非一過性コンピュータプログラム製品であって、
    前記プログラム製品は、プロセッサによって実行されると、
    (a)3D空間内の平面の画像のウェーブレット分解を実施し、前記画像のウェーブレットマップを形成することと、
    (b)前記ウェーブレットマップを所定の閾値を上回る強度値を有する少なくとも1つの領域にセグメント化することと、
    (c)前記少なくとも1つの領域の重心の位置を推定することであって、前記重心の位置は、前記3D空間内の第1の次元および第2の次元における粒子の位置に対応する、ことと、
    (d)前記ウェーブレットマップのセグメント化の間に特定された少なくとも1つの領域の前記重心の周囲のデータを用いて、前記少なくとも1つの領域に対するPSFの適合性を決定することと、
    (e)前記ウェーブレットマップのセグメント化の間に特定された前記データを用いて、前記適合性から前記3D空間の第3の次元における粒子の位置を推定することと
    を前記プロセッサに行わせる、
    非一過性コンピュータプログラム製品。
JP2015509335A 2012-05-02 2013-01-16 ウェーブレット分析を用いた単一粒子位置特定の方法および装置 Active JP6235563B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP12166450.2 2012-05-02
EP12166450.2A EP2660639B1 (en) 2012-05-02 2012-05-02 Method and apparatus for single-particle localization using wavelet analysis
PCT/EP2013/050706 WO2013164103A1 (en) 2012-05-02 2013-01-16 Method and apparatus for single-particle localization using wavelet analysis

Publications (2)

Publication Number Publication Date
JP2015516063A JP2015516063A (ja) 2015-06-04
JP6235563B2 true JP6235563B2 (ja) 2017-11-22

Family

ID=47561625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015509335A Active JP6235563B2 (ja) 2012-05-02 2013-01-16 ウェーブレット分析を用いた単一粒子位置特定の方法および装置

Country Status (7)

Country Link
US (2) US9117273B2 (ja)
EP (2) EP2660639B1 (ja)
JP (1) JP6235563B2 (ja)
CN (1) CN104285175B (ja)
AU (1) AU2013200219B2 (ja)
CA (1) CA2802420C (ja)
WO (1) WO2013164103A1 (ja)

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9599611B2 (en) 2005-04-25 2017-03-21 Trustees Of Boston University Structured substrates for optical surface profiling
US9291562B2 (en) * 2011-11-15 2016-03-22 Max-Planck-Gesellschaft Zur Foerderung Der Wissenschaften E.V. Method and apparatus for tracking a particle, particularly a single molecule, in a sample
WO2014144820A1 (en) 2013-03-15 2014-09-18 The Regents Of The University Of Colorado 3-d localization and imaging of dense arrays of particles
CN107209110B (zh) 2014-08-28 2020-01-17 辛格科技公司 高吞吐量生化筛查
GB2535473A (en) * 2015-02-16 2016-08-24 Univ Bar Ilan Cell analysis using dynamic biophysical methods
EP3620838A1 (en) * 2015-06-02 2020-03-11 Life Technologies Corporation Systems and methods for calibrating a structured illumination imaging system and for capturing a structured illumination image
US10031328B2 (en) * 2015-07-24 2018-07-24 General Electric Company Systems and methods for image processing in optical microscopes
EP3353528B1 (en) 2015-09-22 2023-11-29 Trustees of Boston University Multiplexed phenotyping of nanovesicles
DE102015219121A1 (de) * 2015-10-02 2017-04-06 Carl Zeiss Microscopy Gmbh Mikroskopsteuerungsverfahren und Mikroskop
JP6617774B2 (ja) 2015-11-27 2019-12-11 株式会社ニコン 顕微鏡装置
DE102016000873A1 (de) * 2016-01-27 2017-07-27 Diehl Defence Gmbh & Co. Kg Verfahren zum Erkennen eines Objekts in einem Suchbild
US11262359B2 (en) 2016-02-05 2022-03-01 NanoView Biosciences, Inc. Detection of exosomes having surface markers
CN105699276B (zh) * 2016-03-07 2018-09-25 广东工业大学 一种超分辨成像装置及方法
CN106023121B (zh) * 2016-04-29 2018-08-31 中国科学院生物物理研究所 一种贝叶斯显微成像方法
CN109154552B (zh) * 2016-05-19 2022-08-12 通快光电器件有限公司 光学颗粒传感器
US10768406B2 (en) 2016-06-20 2020-09-08 Scanogen Inc. Imaging system
CN106373116B (zh) * 2016-08-24 2019-04-12 中国科学院自动化研究所 基于双光子图像的突触检测方法
CN106897969B (zh) * 2017-02-20 2019-08-30 华中科技大学 一种用于超分辨定位显微成像的数据处理装置及方法
CN107153632B (zh) * 2017-05-10 2021-04-20 广西师范大学 一种量子Haar小波变换实现量子线路设计的方法
TWI659227B (zh) * 2017-06-20 2019-05-11 Academia Sinica 以影像導引之顯微照射的顯微鏡系統及方法
EP3735606B1 (en) * 2018-01-02 2023-03-22 King's College London Method and system for localisation microscopy
CN107991769B (zh) * 2018-01-12 2020-07-10 凝辉(天津)科技有限责任公司 二维扫描器件
EP3514600A1 (en) * 2018-01-19 2019-07-24 Leica Instruments (Singapore) Pte. Ltd. Method for fluorescence intensity normalization
DE102018103714A1 (de) * 2018-02-20 2019-08-22 Volume Graphics Gmbh Verfahren zur Bestimmung von Fehlern von aus digitalen Objektdarstellungen abgeleiteten Parametern
CN112154317A (zh) * 2018-04-26 2020-12-29 贝克顿·迪金森公司 颗粒分析仪的表征和分选
JP7306810B2 (ja) 2018-09-28 2023-07-11 シスメックス株式会社 顕微鏡システムの制御方法、顕微鏡システム、プログラム、記録媒体
CN109409281A (zh) * 2018-10-22 2019-03-01 河南科技大学 一种基于改进的小波阈值函数的降噪方法
DE102018220779A1 (de) * 2018-12-03 2020-06-04 Carl Zeiss Microscopy Gmbh Nachweisverfahren von induzierten Lichtsignalen in einer dreidimensionalen Region einer Probe
CN109727672B (zh) * 2018-12-28 2023-04-07 江苏瑞尔医疗科技有限公司 患者胸腹部肿瘤呼吸运动预测跟踪方法
US11523046B2 (en) * 2019-06-03 2022-12-06 Molecular Devices, Llc System and method to correct for variation of in-focus plane across a field of view of a microscope objective
CN110161008B (zh) * 2019-06-04 2021-10-29 山东理工大学 共光轴度和放大倍数可自校准的荧光颗粒示踪方法与装置
US11389066B2 (en) * 2019-06-20 2022-07-19 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral, fluorescence, and laser mapping imaging system
US12013496B2 (en) * 2019-06-20 2024-06-18 Cilag Gmbh International Noise aware edge enhancement in a pulsed laser mapping imaging system
US11540696B2 (en) 2019-06-20 2023-01-03 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11471055B2 (en) 2019-06-20 2022-10-18 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11925328B2 (en) 2019-06-20 2024-03-12 Cilag Gmbh International Noise aware edge enhancement in a pulsed hyperspectral imaging system
US11898909B2 (en) 2019-06-20 2024-02-13 Cilag Gmbh International Noise aware edge enhancement in a pulsed fluorescence imaging system
US11300515B2 (en) * 2019-07-30 2022-04-12 Washington University Methods for quantifying and enhancing accuracy in microscopy using measures of localization confidence
US11585755B2 (en) * 2020-01-16 2023-02-21 The Texas A&M University System System for measuring anomalous diffusion using fluorescence recovery after photobleaching and associated method
CN113686546B (zh) * 2020-05-19 2022-07-12 复旦大学 一种离轴成像***点扩散函数的测量方法和建模方法
CN111696067B (zh) * 2020-06-16 2023-04-07 桂林电子科技大学 一种基于图像融合***的宝石图像融合方法
US11740180B2 (en) * 2020-09-28 2023-08-29 Purdue Research Foundation Method of measuring diffusion in a medium
CN112232267A (zh) * 2020-10-29 2021-01-15 国网河北省电力有限公司 一种滞留人员检测方法及***
CN112730352A (zh) * 2020-12-08 2021-04-30 北京林业大学 实时观察植物细胞核蛋白的结构、面积和空间分布的方法
TWI830680B (zh) * 2021-05-07 2024-01-21 由田新技股份有限公司 螢光檢測方法
CN115308129A (zh) * 2022-07-01 2022-11-08 江苏诺鬲生物科技有限公司 一种自动确定荧光暗场相机聚焦位置的方法和装置
KR102530482B1 (ko) * 2022-11-17 2023-05-09 (주)서용엔지니어링 정수처리시설 내 미세 유충 감지 장치
CN117092206A (zh) * 2023-08-09 2023-11-21 国网四川省电力公司电力科学研究院 电缆铅封区域的缺陷检测方法、计算机设备及存储介质
CN117422735B (zh) * 2023-12-13 2024-03-26 南方科技大学 粒子测速方法、粒子测速装置、电子设备及存储介质
CN117788396A (zh) * 2023-12-18 2024-03-29 江苏省特种设备安全监督检验研究院 一种基于深度学习的dr图像缺陷智能识别算法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5736410A (en) * 1992-09-14 1998-04-07 Sri International Up-converting reporters for biological and other assays using laser excitation techniques
JP3127111B2 (ja) * 1996-02-22 2001-01-22 株式会社日立製作所 フロー式粒子画像解析方法および装置
JP2001509612A (ja) * 1997-07-10 2001-07-24 ルプレヒト−カールス−ウニヴェルジテート ハイデルベルク ウェーブフィールド顕微鏡、ウェーブフィールド顕微鏡法、dna順序決定のためのウェーブフィールド顕微鏡法、およびウェーブフィールド顕微鏡に対する較正方法
US20080208511A1 (en) * 2005-03-07 2008-08-28 Michael Trainer Methods and apparatus for determining characteristics of particles
US8334514B2 (en) * 2004-05-20 2012-12-18 Board Of Regents Of The Nevada System Of Higher Education, On Behalf Of The University Of Nevada, Reno Method, system, and computer program product for localizing photons and a light source emitting the photons
US8031926B2 (en) * 2004-05-20 2011-10-04 Board Of Regents Of The Nevada System Of Higher Education, On Behalf Of The University Of Nevada, Reno Discrete event distribution sampling apparatus and methods
WO2006127692A2 (en) * 2005-05-23 2006-11-30 Hess Harald F Optical microscopy with phototransformable optical labels
JP4789177B2 (ja) * 2005-07-06 2011-10-12 独立行政法人科学技術振興機構 3次元位置観測方法及び装置
US7705970B2 (en) * 2006-06-05 2010-04-27 The Regents Of The University Of Colorado Method and system for optical imaging and ranging
US7776613B2 (en) * 2006-08-07 2010-08-17 President And Fellows Of Harvard College Sub-diffraction image resolution and other imaging techniques
US8369642B2 (en) * 2006-11-21 2013-02-05 Stmicroelectronics (Research & Development) Ltd Artifact removal from phase encoded images
JP4845698B2 (ja) 2006-12-06 2011-12-28 アイシン精機株式会社 眼部検出装置、眼部検出方法及びプログラム
CN105403545B (zh) * 2007-12-21 2019-05-28 哈佛大学 三维中的亚衍射极限图像分辨率
WO2009115108A1 (en) * 2008-03-19 2009-09-24 Ruprecht-Karls-Universität Heidelberg A method and an apparatus for localization of single dye molecules in the fluorescent microscopy
JP5554776B2 (ja) * 2008-05-30 2014-07-23 ジーイー・ヘルスケア・バイオサイエンス・コーポレイション 1以上のデフォーカス画像又は低コントラスト対雑音比画像を検出し除去するシステム及び方法
EP2609742A4 (en) * 2010-08-27 2015-07-08 Univ Leland Stanford Junior MICROSCOPIC IMAGING DEVICE WITH ADVANCED IMAGING FEATURES
US9523846B2 (en) * 2010-09-24 2016-12-20 Carl Zeiss Microscopy Gmbh 3D localisation microscopy and 4D localisation microscopy and tracking methods and systems
US8624986B2 (en) * 2011-03-31 2014-01-07 Sony Corporation Motion robust depth estimation using convolution and wavelet transforms

Also Published As

Publication number Publication date
CA2802420A1 (en) 2013-11-02
EP2966492B1 (en) 2020-10-21
AU2013200219A1 (en) 2013-11-21
EP2966492A1 (en) 2016-01-13
WO2013164103A1 (en) 2013-11-07
EP2660639A1 (en) 2013-11-06
US9117273B2 (en) 2015-08-25
CA2802420C (en) 2020-08-04
EP2660639B1 (en) 2016-04-13
US20160086027A1 (en) 2016-03-24
AU2013200219B2 (en) 2016-07-21
CN104285175A (zh) 2015-01-14
JP2015516063A (ja) 2015-06-04
US10115013B2 (en) 2018-10-30
US20130294645A1 (en) 2013-11-07
CN104285175B (zh) 2017-07-21

Similar Documents

Publication Publication Date Title
JP6235563B2 (ja) ウェーブレット分析を用いた単一粒子位置特定の方法および装置
Chen et al. Three-dimensional residual channel attention networks denoise and sharpen fluorescence microscopy image volumes
US11222415B2 (en) Systems and methods for deep learning microscopy
Izeddin et al. Wavelet analysis for single molecule localization microscopy
US10930061B2 (en) Three-dimensional image processing to locate nanoparticles in biological and nonbiological media
US10955331B2 (en) Imaging or measurement methods and systems
JP2020530637A (ja) 予測タグ付けを有する画像を生成するための画像処理のためのシステム、デバイス、および方法
US20170322516A1 (en) Autofocus System and Method in Digital Holography
Prigent et al. SPITFIR (e): a supermaneuverable algorithm for fast denoising and deconvolution of 3D fluorescence microscopy images and videos
WO2019246478A1 (en) Systems and methods for interferometric multifocus microscopy
Prigent et al. SPITFIR (e): A supermaneuverable algorithm for restoring 2D-3D fluorescence images and videos, and background subtraction
Middleton Machine learning improves image restoration
Zhao et al. Enhancing detectable fluorescence fluctuation for high-throughput and four-dimensional live-cell super-resolution imaging
EP4249850A1 (en) Controller for an imaging system, system and corresponding method
Vicente et al. Development of a semi-automatic algorithm for deconvolution and quantification of three-dimensional microscopy images
Ye et al. Universal and High-Fidelity Resolution Extending for Fluorescence Microscopy Using a Single-Training Physics-Informed Sparse Neural Network
Keller et al. Super‐Resolution Data Analysis
Yu Introduction of Fourier Ring Correlation (FRC) and Apply to Validate Blind Inpainting Method
Hui et al. Deep Learning-Enabled Transformation of Scanning Superlens Microscopy Images into Scanning Electron Microscopy-like Large Depth-of-Field Images
Patwary Performance Aanalysis of PCA-based Image Reconstruction in 3D Wide Field Fluorescence Microscopy
Wilson Quantitative analysis of microscopy
Andronov Development of advanced methods for super-resolution microscopy data analysis and segmentation
Altinok Computational analysis of biological images: A study of microtubule dynamic behavior
Temerinac-Ott Multiview reconstruction for 3D Images from light sheet based fluorescence microscopy

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20151119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20151119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161122

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170420

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170511

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171026

R150 Certificate of patent or registration of utility model

Ref document number: 6235563

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250