JP2016541028A - 3d顕微鏡の較正 - Google Patents
3d顕微鏡の較正 Download PDFInfo
- Publication number
- JP2016541028A JP2016541028A JP2016550895A JP2016550895A JP2016541028A JP 2016541028 A JP2016541028 A JP 2016541028A JP 2016550895 A JP2016550895 A JP 2016550895A JP 2016550895 A JP2016550895 A JP 2016550895A JP 2016541028 A JP2016541028 A JP 2016541028A
- Authority
- JP
- Japan
- Prior art keywords
- test pattern
- image
- microscope
- images
- contrast metric
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/18—Arrangements with more than one light path, e.g. for comparing two specimens
- G02B21/20—Binocular arrangements
- G02B21/22—Stereoscopic arrangements
Landscapes
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Microscoopes, Condenser (AREA)
- Studio Devices (AREA)
Abstract
テストパターンを用いて顕微鏡を較正する方法(240乃至280)であって、テストパターンの複数の(較正)画像を顕微鏡でキャプチャする(240)ことによって行われる。テストパターンは、複数の繰り返し及び重複2Dサブパターンの全域にわたる、複数の一意に識別可能な位置を有する。方法は、テストパターンの選択されたパッチにおけるキャプチャされた画像からの画像コントラストメトリック(907)と、対応する領域における基準コントラストメトリック(840)とを決定(830)し、基準コントラストメトリックと画像コントラストメトリックとを用いて正規化されたコントラストメトリック(520)を決定する。方法は、一連の深度においてテストパターンを用いてキャプチャされた画像のスタック(410)について、複数の位置において2つのキャプチャ画像の深度を正規化されたコントラストメトリックと一連の所定の較正データ(450)とを用いて推定し(530、540)、少なくとも2つの画像について決定された深度推定値の比較を用いて顕微鏡(550、280)を較正する(280)。
Description
本願は、35 U.S.C.第119条に基づいて、2013年1月7日に出願されたオーストラリア特許出願第2013254920号の出願日の利益を請求するものであり、それを、本願に全て記述されているように、全体として参照により本願に援用する。
本発明は、デジタル撮像デバイスの較正に関するものであり、特に、顕微鏡の較正に適用される。較正は、撮像デバイスのアライメント及びその他の光学的性質の測定及び補正に用いられる。較正は、試料の画像のキャプチャ及びその後の画像の後処理における効率及び精度を改善することができる。
バーチャル顕微鏡法とは、医師が顕微鏡を制御しているかのように、多様な倍率のシミュレーション、及び、多様な三次元(3D)ビューによって生物試料をナビゲートして観察する能力を医師に与える技術である。バーチャル顕微鏡法は、試料の顕微鏡画像のデータベースにアクセスできるコンピュータのモニタやタブレットデバイスなどのディスプレイデバイスを用いて実現することができる。バーチャル顕微鏡法には、従来の顕微鏡法と比べて、幾つかの利点がある。バーチャル顕微鏡法では、観察する際に試料自体は必要ではなく、それによって、アーカイビング、遠隔治療及び教育が容易になる。また、バーチャル顕微鏡法では、例えば、コンピュータ診断システムの一環として、試料画像を処理して被写界深度を変化させ、普通なら目で観察するのは困難なはずの病理的特性を明らかにすることも可能になる。
バーチャル顕微鏡法のための画像のキャプチャは、一般に、高スループットのスライド式スキャナを用いて行われる。試料は、試料台の上に機械的にロードされて、顕微鏡対物レンズの下で移動し、その間、試料のいろいろな部分の画像がセンサ上にキャプチャされる。隣り合う画像は、部分的にオーバラップしており、同一試料の複数の画像が、顕微鏡に接続されたコンピュータシステムによって3D立体表現として合成されるようになっている。試料の動きが十分正確に制御できるならば、理論的には、これらの画像を直接合成することができ、いかなる欠陥もないシームレスな3Dビューが生成される。典型的には、試料の動きや撮像デバイスの光学的許容差によって位置の誤差や隣接画像の回転などの幾何学的歪みが生じるため、この通りにはならない。一般的に、ソフトウェアアルゴリズムは、隣接する画像の間に欠陥が生じないようにするため、隣接する画像を同じ深度で登録するだけでなく、異なる深度でも登録するように画像を処理する必要がある。
顕微鏡法は、幾つかの重要な点において、その他の画像モザイク化タスクとは異なっている。第一に、典型的には、対象(試料)が光学系の下の試料台によって動かされるのであって、パノラマビューのキャプチャの場合に行われることがあるだろうが、光学系が動かされて対象の多様な部分をキャプチャするのではない。試料台の動きは、非常に正確に制御することが可能であり、試料は、基板に固定されてもよい。また、顕微鏡は、例えば、特注の照明設備を備えた実験室内の防振台上に設置されるというように、管理された環境下で用いられ、結像系の光学的許容差(光学部品及び試料台のアライメント及び向き)は、非常に厳密である。そのような装置では、モザイク化のためのキャプチャされた画像タイルの粗アライメントは、かなり正確であり、照度は、均一であり、タイル間の変換は、厳格な変換で十分に表される。一方、試料の幾つかの重要な特徴のスケールは、数画素のオーダである可能性があり、これらの特徴は、キャプチャされたタイル画像上に密集して配置される可能性がある。これは、バーチャル顕微鏡法に必要なスティッチング精度が非常に高いことを意味する。加えて、顕微鏡が自動的にロードされてバッチモードで操作されることを考えると、処理スループット要件も高い。
画像登録プロセスは、2つの隣接画像間でオーバラップ(重複)する領域内の画素を比較して、画像内の相対的変形を決定する。一部のシステムでは、両方の画像のオーバラップする領域内の全ての画素を用いて、この変形を演算する。しかしながら、このプロセスの速度は、オーバラップ領域内の小さな画像パッチでのみ測定を行うことによって、大幅に改善される。これらのパッチベースの技術は、桁違いの高速化が可能であり、加えて、顕微鏡の場合と同様に、画像内の歪みが小さい場合、非常に正確である。
センサ技術及び光学部品の進歩に伴って、一度の撮像でキャプチャ可能な試料の画像の面積が増大してきている。しかしながら、例えば、部品の好ましくない傾きが原因で起こる、撮像される試料に対する焦点面の位置ずれは、浅い被写界深度と組み合わさる場合、キャプチャ面積の増大が原因で拡大される。顕微鏡キャプチャの効率及び精度を改善する1つの手段は、顕微鏡におけるアライメント及び光学歪みを測定し、可能であれば、そのような位置ずれ及び歪みによってもたらされる系統的誤差を補正することである。
深度は、視野内の局部的なコントラスト又はシャープネスを測定するフォーカス関数を利用して、顕微鏡内で測定されてもよい。フォーカス関数が最大である軸上のロケーションは、ベストフォーカスの位置を定義するが、それは、薄い試料の深度を示すと考えてもよい。多くのフォーカス関数は、正規化された分散を含む文献に記載されている。しかしながら、この手法を用いてベストフォーカスのロケーションを正確に決定するためには、ベストフォーカスのどちらかの側にある1つ以上の画像を含めて、多くの画像を多様な深度でキャプチャしなければならない。これでは、オートフォーカス技術を用いて不要な画像のキャプチャを回避するような深度推定方法の効率が制限される。
アクティブな照度及びアパーチャマスクを利用した別の深度推定方法が知られているが、これらの技術では、標準的な顕微鏡設備には必要でない追加部品が必要となる。
従って、追加部品を必要としない、顕微鏡を較正する効率的で正確な方法が必要である。
本開示の一側面によって、テストパターンを用いて顕微鏡を較正する方法が提供される。かかる方法は、
(a)顕微鏡の光学系を介してテストパターンの複数の画像をキャプチャすることであって、前記テストパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたる、複数の一意に識別可能な位置を有すること、
(b)少なくとも2つのキャプチャされた画像の上の複数の対応する位置の各々について、
−テストパターンの上の複数の一意に識別可能な位置から選択された位置における、キャプチャ画像のパッチと、テストパターンの対応する領域とを、対応する領域についてのロケーションがテストパターンにおける複数の繰り返し及び重複2Dサブパターンによって決定されるように選択し、
−選択されたパッチにおけるテストパターンのキャプチャ画像からの画像コントラストメトリックと、対応する領域のテストパターンの基準コントラストメトリックとを決定し、
−基準コントラストメトリック及び画像コントラストメトリックを用いて、正規化されたコントラストメトリックを決定することであって、正規化されたコントラストメトリックは、テストパターンの局部的な非均一なテキスチャの影響を補償すること、
(c)正規化されたコントラストメトリック、及び、一連の深度においてテストパターンを用いてキャプチャされた画像のスタックについての一連の所定の較正データを用いて、複数の位置における少なくとも2つのキャプチャ画像の深度を推定すること、
(d)少なくとも2つの画像についての決定された深度の推定値の比較を用いて、顕微鏡を較正すること、
を含む。
(a)顕微鏡の光学系を介してテストパターンの複数の画像をキャプチャすることであって、前記テストパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたる、複数の一意に識別可能な位置を有すること、
(b)少なくとも2つのキャプチャされた画像の上の複数の対応する位置の各々について、
−テストパターンの上の複数の一意に識別可能な位置から選択された位置における、キャプチャ画像のパッチと、テストパターンの対応する領域とを、対応する領域についてのロケーションがテストパターンにおける複数の繰り返し及び重複2Dサブパターンによって決定されるように選択し、
−選択されたパッチにおけるテストパターンのキャプチャ画像からの画像コントラストメトリックと、対応する領域のテストパターンの基準コントラストメトリックとを決定し、
−基準コントラストメトリック及び画像コントラストメトリックを用いて、正規化されたコントラストメトリックを決定することであって、正規化されたコントラストメトリックは、テストパターンの局部的な非均一なテキスチャの影響を補償すること、
(c)正規化されたコントラストメトリック、及び、一連の深度においてテストパターンを用いてキャプチャされた画像のスタックについての一連の所定の較正データを用いて、複数の位置における少なくとも2つのキャプチャ画像の深度を推定すること、
(d)少なくとも2つの画像についての決定された深度の推定値の比較を用いて、顕微鏡を較正すること、
を含む。
複数の画像は、キャプチャの間にアキシャルオフセットが顕微鏡の試料台に与えられた画像対としてキャプチャされることが好ましい。詳細には、工程(c)は、画像対の各々の画像の各々の位置についての複数の深度を、画像対の正規化されたコントラストメトリックに基づいて推定し、深度を位置のそれぞれについての深度の単一の推定値に分離することを含む。
少なくとも1つのキャプチ画像の複数の位置の各々についての深度の推定値は、その画像についてのワープマップを形成することが望ましい。
特定の実施では、方法は、
顕微鏡のベストフォーカスの深度の少なくとも上下にわたる深度の、テストパターンの画像のスタックをキャプチャすることと、
キャプチャされたスタック画像の各々についての複数の位置の各々についての所定の較正データを、
(i)各スタック画像について、横方向ワープマップを形成し、
(ii)横方向ワープマップから正規化されたコントラストデータを形成し、
(iii)正規化されたコントラストデータを分析して、所定の較正データを形成すること、
によって生成すること、を更に含む。
顕微鏡のベストフォーカスの深度の少なくとも上下にわたる深度の、テストパターンの画像のスタックをキャプチャすることと、
キャプチャされたスタック画像の各々についての複数の位置の各々についての所定の較正データを、
(i)各スタック画像について、横方向ワープマップを形成し、
(ii)横方向ワープマップから正規化されたコントラストデータを形成し、
(iii)正規化されたコントラストデータを分析して、所定の較正データを形成すること、
によって生成すること、を更に含む。
この場合、正規化されたコントラストデータを形成することは、
−テストパターンの上の複数の一意に識別可能な位置から選択された位置における、テストパターンのキャプチャされたスタック画像のパッチと、テストパターンの対応する領域とを、対応する領域についてのロケーションがテストパターンの複数の繰り返し及び重複2Dサブパタンによって決定されるように、選択すること、
−選択されたパッチのキャプチャされたスタック画像からの画像コントラストメトリック、及び、対応する領域のテストパターンの基準コントラストメトリックを決定すること、
−基準コントラストメトリック及び画像コントラストメトリックを利用して、正規化されたコントラストメトリックを決定することであって、正規化されたコントラストメトリックは、テストパターンの局部的な非均一なテキスチャの影響を補償すること、
を含んでいてもよい。
−テストパターンの上の複数の一意に識別可能な位置から選択された位置における、テストパターンのキャプチャされたスタック画像のパッチと、テストパターンの対応する領域とを、対応する領域についてのロケーションがテストパターンの複数の繰り返し及び重複2Dサブパタンによって決定されるように、選択すること、
−選択されたパッチのキャプチャされたスタック画像からの画像コントラストメトリック、及び、対応する領域のテストパターンの基準コントラストメトリックを決定すること、
−基準コントラストメトリック及び画像コントラストメトリックを利用して、正規化されたコントラストメトリックを決定することであって、正規化されたコントラストメトリックは、テストパターンの局部的な非均一なテキスチャの影響を補償すること、
を含んでいてもよい。
典型的には、キャプチャ画像の平面の上のさまざまな位置にわたる、複数の決定された深度オフセットが、顕微鏡のセンサの2D位置の間、及び、テストパターンに関する顕微鏡の焦点面での3D位置の間のワープマップを定義する。
工程(c)は、現在の位置についての単一の深度の推定値を決定するために、少なくとも深度の推定値の対と、所定の較正データから既知である深度オフセットとを比較することを含むと有利である。ここで、方法は、画像をキャプチャする間に顕微鏡の構成を調整することを更に含んでいてもよい。
その他の側面も開示する。
次に、本発明の少なくとも1つの実施形態について、以下の図面を参照しながら説明する。
コンテクスト
図1は、汎用顕微鏡キャプチャシステム100の高レベル系統図である。較正ターゲット102は、既知の精密にエッチングされたテストパターンがその表面上に形成された基板である。較正ターゲット102は、例えば、レンズなどの顕微鏡101の光学系の下にある可動式の試料台108の上に物理的に位置している。較正ターゲット102は、較正ターゲット102の面を形成する横軸x及びyの方向に、顕微鏡101の視野と同じ、又は、それより大きい空間広がりを有していることが理想である。
図1は、汎用顕微鏡キャプチャシステム100の高レベル系統図である。較正ターゲット102は、既知の精密にエッチングされたテストパターンがその表面上に形成された基板である。較正ターゲット102は、例えば、レンズなどの顕微鏡101の光学系の下にある可動式の試料台108の上に物理的に位置している。較正ターゲット102は、較正ターゲット102の面を形成する横軸x及びyの方向に、顕微鏡101の視野と同じ、又は、それより大きい空間広がりを有していることが理想である。
顕微鏡101に組み込まれたカメラ103によって、較正ターゲット102の複数の画像104がキャプチャされる際に、顕微鏡101の試料台108が動いてもよい。カメラ103は、試料台の各々のロケーションで1つ以上の画像を撮像する。複数の画像は、異なる光学的設定で、或いは、異なるタイプの照明を用いて撮像されてもよい。キャプチャ画像104は、コンピュータシステム105に渡されるが、コンピュータシステム105は、画像104をすぐに処理し始めてもよいし、後で処理するために記憶装置106にそれらを格納してもよい。コンピュータシステム105は、典型的には、図1に示すように、制御接続部109を介して、試料台108のX、Y及びZ方向のそれぞれへの動きを制御するように構成される。
コンピュータ105は、1つ以上のキャプチャ画像について、3Dワープマップを生成する。3Dワープマップは、顕微鏡101のセンサによってキャプチャされた画素に対応する焦点の位置と、較正ターゲット102の上の真のロケーションとの間の関係を定義する。コンピュータ105は、ワープマップを用いて、顕微鏡101を機械的に調整するのに用いられる、顕微鏡101の較正パラメータを決定する。表示デバイス107は、コンピュータ105に接続されており、キャプチャ画像104のうちのいずれかを、コンピュータ105によって形成された、それらの継ぎ合わされた画像のいずれか、又は、ワープマップなどとともに、再生可能にする。
顕微鏡101の被写界深度は、顕微鏡101の光学的構成に基づいて推定されてもよい。この被写界深度の標準的な近似値Dは、以下の関係で与えられる。
ここで、NAは、開口数であり、nは、媒質内での屈折率であり(空気中では、n=1.0であり、レンズが、例えば、油に浸された場合には、より高くなる)、λは、顕微鏡での光の波長である。空気中では、開口数が0.7、波長が500nmであれば、推定される被写界深度は、1ミクロンである。キャプチャ画像104は、深度が、この距離から、較正ターゲット102のベストフォーカスの上及び下の深度までおよぶ可能性があり、これが、像面における正確な測定のための2次元(2D)ルーラを形成する。
図15A及び図15Bは、汎用コンピュータシステム1500を示す図であって、かかるシステムによって、これまで説明した各種の構成が実現化される。
図15Aに示すように、コンピュータシステム1500は、コンピュータモジュール105と、キーボード1502、マウスポインタデバイス1503、スキャナ1526、カメラ103及びマイクロフォン1580などの入力デバイスと、プリンタ1515、表示デバイス107、ラウドスピーカ1517などの出力デバイスとを含む。外部の変調復調(モデム)トランシーバデバイス1516は、コンピュータモジュール105によって用いられ、接続部1521を介して、通信ネットワーク1520との交信が行われてもよい。通信ネットワーク1520は、インターネットなどのワイドエリアネットワーク(WAN)、セルラ通信ネットワーク、或いは、私設WANであってもよい。接続部1521が電話線である場合、モデム1516は、従来の「ダイヤルアップ」モデムであってもよい。また、接続部1521が高容量(例えば、ケーブル)接続である場合、モデム1516は、ブロードバンドモデムであってもよい。通信ネットワーク1520へのワイヤレス接続に、ワイヤレスモデムが用いられてもよい。一部の実施で所望されているように、カメラ103は、ネットワーク1520に直接接続されていてもよく、それを介して、画像104がコンピュータ105に転送される。このような形態において、コンピュータ105は、画像処理のためにクラウドコンピューティング環境に実装されたサーバタイプのデバイスであってもよい。
コンピュータモジュール105は、典型的には、少なくとも1つのプロセッサユニット1505と、メモリユニット1506とを含む。例えば、メモリユニット1506は、半導体ランダムアクセスメモリ(RAM)と半導体読み出し専用メモリ(ROM)とを有してもよい。また、コンピュータモジュール105は、ビデオディスプレイ107、ラウドスピーカ1517及びマイクロフォン1580に接続するオーディオ・ビデオ・インタフェース1507と、キーボード1502、マウス1503、スキャナ1526、カメラ103及び任意でジョイスティック又はその他のヒューマン・インタフェース・デバイス(不図示)に接続するI/Oインタフェース1513と、外部のモデム1516及びプリンタ1515のインタフェース1508とを含めて、幾つかの入出力(I/O)インタフェースを含む。一部の実施では、モデム1516は、コンピュータモジュール105の内部に、例えば、インタフェース1508の内部に、組み込まれていてもよい。コンピュータモジュール105は、ローカル・ネットワーク・インタフェース1511も含み、それによって、コンピュータシステム1500は、接続部1523を介して、ローカルエリアネットワーク(LAN)として知られるローカルエリア通信ネットワーク1522に接続することができる。また、図15Aに示すように、ローカル通信ネットワーク1522は、接続部1524を介して、ワイドネットワーク1520に接続してもよく、これは、典型的には、所謂、「ファイアウォール」デバイス、或いは、同様の機能性のデバイスを含む。ローカル・ネットワーク・インタフェース1511は、イーサネット回路カード、Bluetooth(商標)ワイヤレス装置、又は、IEEE802.11ワイヤレス装置を含んでいてもよいが、その他のタイプの多くのインタフェースがインタフェース1511として実現化されてもよい。
望ましくは、或いは、適切には、コンピュータと顕微鏡101の試料台108との間の制御接続部109は、ネットワーク1520又は1522のいずれかへの接続を介して行われるか、或いは、例えば、I/Oインタフェース1513への直接接続(不図示)を介して行われてもよい。
I/Oインタフェース1508及び1513は、シリアル接続及びパラレル接続のいずれかを、又は、両方を提供してもよく、前者は、典型的には、USB(Universal Serial Bus)標準に従って実装され、対応するUSBコネクタ(不図示)を有する。記憶デバイス1509が提供され、典型的には、ハードディスクドライブ(HDD)1510を含む。その他の記憶デバイス、例えば、フロッピーディスクドライブや磁気テープドライブ(不図示)が用いられてもよい。光ディスクドライブ1512は、典型的には、不揮発性のデータソースとして動作するように提供される。可搬型のメモリデバイス、例えば、光ディスク(例えば、CD−ROM、DVD、Blu−rayディスク(商標))、USB−RAM、可搬型の外付けハードドライブ、フロッピーディスクなどが、システム1500に対する適切なデータソースとして用いられてもよい。図1の構成に関して、データ記憶装置106は、HDD1510又はメモリ1506を用いて、或いは、ネットワーク1520及び1522のいずれか一方又は両方の上にリモート方式で、実装されてもよい。
コンピュータモジュール105の構成要素1505乃至1513は、典型的には、相互接続バス1504を介して、当業者には既知であるコンピュータシステム1500の従来の動作モードをもたらす方式で通信する。例えば、プロセッサ1505は、接続部1518を用いて、システムバス1504に接続する。同様に、メモリ1506及び光ディスクドライブ1512は、接続部1519によって、システムバス1504に接続する。説明した構成を実現化するコンピュータの例として、IBM−PC、互換機、Sun Sparcstation、Apple Mac(商標)、或いは、同様のコンピュータシステムがある。
これから説明する画像処理及び顕微鏡較正の方法は、コンピュータシステム1500を用いて実装されるものであって、図2から図14までの各プロセスは、コンピュータシステム1500で実行可能な1つ以上のソフトウェアアプリケーションプログラム1533として、特に、コンピュータ105で実施されるものである。特に、方法の各工程は、コンピュータシステム1500で実行されるソフトウェア1533の命令1531(図15B参照)によって実現される。ソフトウェアの命令1531は、それぞれが1つ以上の具体的なタスクを実行するための1つ以上のコードモジュールとして形成される。また、ソフトウェアは、2つの別々の部分に分割され、その第1部分及び対応するコードモジュールは、画像処理及び較正方法を実行し、第2部分及び対応するコードモジュールは、第1部分とユーザとの間のユーザインタフェースを管理してもよい。
ソフトウェアは、例えば、以下に説明する記憶デバイスを含めて、コンピュータ可読媒体に記憶されてもよい。ソフトウェアは、コンピュータ可読媒体からコンピュータシステム1500にロードされ、次いで、コンピュータシステム1500によって実行される。コンピュータ可読媒体に記録されたそのようなソフトウェア又はコンピュータプログラムを有するコンピュータ可読媒体は、コンピュータプログラムプロダクトである。コンピュータシステム1500でコンピュータプログラムプロダクトを使用することは、画像処理及び顕微鏡較正のための有利な装置を達成するのに好ましい。
ソフトウェア1533は、典型的には、HDD1510又はメモリ1506に記憶される。ソフトウェアは、コンピュータ可読媒体からコンピュータシステム1500にロードされ、コンピュータシステム1500によって実行される。従って、例えば、ソフトウェア1533は、光ディスクドライブ1512によって読み取られる、光学的に読取可能なディスク記憶媒体(例えば、CD−ROM)1525に記憶されていてもよい。そのようなソフトウェア又はコンピュータプログラムが記録されているコンピュータ可読媒体は、コンピュータプログラムプロダクトである。コンピュータシステム1500でコンピュータプログラムプロダクトを使用することは、画像処理及び顕微鏡較正のための装置を達成するのに好ましい。
場合によっては、アプリケーションプログラム1533は、1つ以上のCD−ROM1525において符号化され、対応するドライブ1512を介して読み取られる形態でユーザに供給されることがあり、或いは、ネットワーク1520又は1522からユーザによって読み取られることがある。また、ソフトウェアは、その他のコンピュータ可読媒体からコンピュータシステム1500にロードされることもある。コンピュータ可読記憶媒体とは、記録された命令及び/又はデータを実行及び/又は処理するためにコンピュータシステム1500に提供するいずれかの非一時的で有形の記憶媒体のことを言う。そのような記憶媒体の例として、フロッピーディスク、磁気テープ、CD−ROM、DVD、Blu−rayディスク(商標)、ハードディスクドライブ、ROM又は集積回路、USBメモリ、光磁気ディスク、或いは、PCMCIAカードなどのコンピュータ可読カードなどがあり、それらのデバイスがコンピュータモジュール105の内部にあるのか外部にあるのかを問わない。ソフトウェア、アプリケーションプログラム、命令及び/又はデータをコンピュータモジュール105に提供することに加わる一時的又は非有形のコンピュータ可読通信媒体の例として、無線又は赤外線送信チャネル、別のコンピュータ又はネットワークデバイスへのネットワーク接続があり、更に、電子メール送信及びウェブサイトに記録された情報を含むインターネット又はイントラネットなどがある。
上述のアプリケーションプログラム1533の第2部分及び対応するコードモジュールは、実行され、ディスプレイ107に1つ以上のグラフィカルユーザインタフェース(GUI)がレンダリングされるか、或いは、その他の要領で表現されてもよい。コンピュータシステム1500及びアプリケーションのユーザは、典型的には、キーボード1502及びマウス1503の操作を介して、制御コマンド及び/又は入力をGUIに関連するアプリケーションに提供するのに機能的に適切な形態で、インタフェースを操作してもよい。また、例えば、ラウドスピーカ1517を介した音声プロンプト出力及びマイクロフォン1580を介したユーザ音声コマンド入力を利用する音声インタフェースなどの、その他の形態の機能的に適切なユーザインタフェースが実装されていてもよい。
図15Bは、プロセッサ1505及び「メモリ」1534の詳細な概略ブロック図である。メモリ1534は、図15Aのコンピュータモジュール105によってアクセスされる全てのメモリモジュール(HDD1509及び半導体メモリ1506を含む)の論理的集合を表す。
コンピュータモジュール105が初期に起動される場合、POST(Power−on self−test)プログラム1550が動作する。POSTプログラム1550は、典型的には、図15Aの半導体メモリ1506のROM1549に記憶される。ソフトウェアを記憶するROM1549などのハードウェアデバイスは、ファームウェアと呼ばれることがある。POSTプログラム1550は、コンピュータモジュール105の内部のハードウェアを検査して適切に機能することを保証し、典型的には、プロセッサ1505、メモリ1534(1509、1506)、及び、これも典型的にはROM1549に記憶されるBIOS(basic input−output systems software)モジュール1551が正確に動作することを確認する。POSTプログラムが正常に実行された後、BIOS1551は、図15Aのハードディスクドライブ1510を起動する。ハードディスクドライブ1510の起動は、プロセッサ1505を介して、ハードディスクドライブ1510に常駐するブートストラップ・ローダ・プログラム552を実行させる。これは、オペレーティングシステム1553をRAMメモリ1506にロードし、それによって、オペレーティングシステム1553は動作を開始する。オペレーティングシステム1553は、プロセッサ管理、メモリ管理、デバイス管理、記憶管理、ソフトウェアアプリケーションインタフェース及び一般的なユーザインタフェースを含めて、各種の高レベル機能を実現するための、プロセッサ1505によって実行可能なシステムレベルのアプリケーションである。
オペレーティングシステム1553は、メモリ1534(1509、1506)を管理して、コンピュータモジュール105で実行中の各プロセス又はアプリケーションが、別のプロセスに割り当てられているメモリと衝突することなく動作するのに十分なメモリを有することを保証する。また、図15Aのシステム1500で利用可能な多様なタイプのメモリは、各プロセスが効果的に動作するように適切に使用されなければならない。従って、メモリの集合1534は、(別段の指定がない限り)メモリの特定のセグメントがどのように割り振られているかを示すことが意図されているのではなく、コンピュータシステム1500によってアクセス可能なメモリの概要、及び、それがどのように使用されているかを示すことが意図されている。
図15Bに示すように、プロセッサ1505は、制御ユニット1539、数値演算ユニット(ALU)1540、及び、キャッシュメモリとも呼ばれるローカルメモリ又は内部メモリ1548を含めて、幾つかの機能モジュールを含む。キャッシュメモリ1548は、典型的には、レジスタセクションに、複数の記憶レジスタ1544乃至1546を含む。1つ以上の内部バス1541は、これらの機能モジュールを機能的に相互接続する。また、プロセッサ1505は、典型的には、接続部1518を用いて、システムバス1504を介して外部デバイスと通信するための1つ以上のインタフェース1542を有する。メモリ1534は、接続部1519を用いて、バス1504に接続する。
アプリケーションプログラム1533は、条件分岐及びループ命令を含む一連の命令1531を含む。また、プログラム1533は、プログラム1533の実行に用いられるデータ1532を含む。命令1531及びデータ1532は、メモリロケーション1528、1529、1530及び1535、1536、1537にそれぞれ記憶される。メモリロケーション1530に示す命令によって示されるように、命令1531とメモリロケーション1528乃至1530との相対的な大きさに応じて、ある個別の命令が、単一のメモリロケーションに記憶されてもよい。また、メモリロケーション1528及び1529に示す命令セグメントによって示されるように、命令が幾つかの部分にセグメント化され、その各々が別個のメモリロケーションに記憶されてもよい。
一般に、プロセッサ1505には、そこで実行される一組の命令が与えられる。プロセッサ1505は、その後の入力を待ち、それに対して、プロセッサ1505は、別の組の命令を実行することによって反応する。各入力は、1つ以上の入力デバイス1502、1503によって生成されたデータと、ネットワーク1520、1502のうちの1つの全域にわたって外部ソースから受信されたデータと、記憶デバイス1506、1509のうちの1つから検索されたデータと、或いは、対応するリーダ1512に挿入された記憶媒体1525から検索されたデータとを含めて、図15Aに全て示してある幾つかのソースのうちの1つ以上から提供されてもよい。場合によっては、一組の命令の実行は、データの出力をもたらすことがある。また、実行は、データ又は変数をメモリ1534に記憶することに関わることがある。
開示する画像処理及び顕微鏡較正装置は、入力変数1554を使用するが、それらは、メモリ1534のうちの対応するメモリロケーション1555、1556、1557に記憶される。装置は、出力変数1561を生成するが、それらは、メモリ1534のうちの対応するメモリロケーション1562、1563、1564に記憶される。中間媒介変数1558は、メモリロケーション1559、1560、1566及び1567に記憶される。
図15Bのプロセッサ1505を参照するに、レジスタ1544、1545、1546と、数値演算ユニット(ALU)1540と、制御ユニット1539とが連携して、プログラム1533を形成する命令集合のうちの全ての命令について、「フェッチ、復号、実行」サイクルを行うのに必要なマイクロ操作のシーケンスを行う。それぞれの「フェッチ、復号、実行」サイクルは、
(i)メモリロケーション1528、1529、1530から命令1531をフェッチするか、又は、読み取るフェッチ操作、
(ii)どの命令がフェッチされたのかを制御ユニット1539が判定する復号操作、及び、
(iii)制御ユニット1539及び/又はALU1540が命令を実行する実行操作
を含む。
(i)メモリロケーション1528、1529、1530から命令1531をフェッチするか、又は、読み取るフェッチ操作、
(ii)どの命令がフェッチされたのかを制御ユニット1539が判定する復号操作、及び、
(iii)制御ユニット1539及び/又はALU1540が命令を実行する実行操作
を含む。
その後、次の命令について、更なるフェッチ、復号、実行のサイクルが実行されてもよい。同様に、制御ユニット1539が値をメモリロケーション1532に記憶するか、又は、書き込む記憶サイクルが行われてもよい。
図2乃至図14の各プロセスのそれぞれの工程又はサブプロセスは、プログラム1533の1つ以上のセグメントに関連付けられており、プログラム1533の記載されたセグメントについての命令集合のうちの全ての命令について、フェッチ、復号、実行のサイクルを連携して行う、レジスタセクション1544、1545、1547、ALU1540、及び、制御ユニット1539によって行われる。
詳細
顕微鏡の較正を行うのに使用される方法200の概要を図2に示す。最初のステップ210では、パターン化された領域が視野内にあり、焦点が概略で合うように、適切な較正ターゲット102が顕微鏡の試料台の上にロードされる。この工程は、手動で行われてもよいが、顕微鏡101の製造環境では、例えば、コンピュータ105によるコンピュータ制御の下でロボットを利用して行われてもよい。方法200の残りの部分は、典型的には、HDD1510に記憶されたソフトウェアを用いて、コンピュータ105によってコンピュータ実装され、その他の方法でメモリ1506又はHDD1510に記憶されるか、又は、ロードされた画像104を利用してプロセッサ1505によって実行される。
顕微鏡の較正を行うのに使用される方法200の概要を図2に示す。最初のステップ210では、パターン化された領域が視野内にあり、焦点が概略で合うように、適切な較正ターゲット102が顕微鏡の試料台の上にロードされる。この工程は、手動で行われてもよいが、顕微鏡101の製造環境では、例えば、コンピュータ105によるコンピュータ制御の下でロボットを利用して行われてもよい。方法200の残りの部分は、典型的には、HDD1510に記憶されたソフトウェアを用いて、コンピュータ105によってコンピュータ実装され、その他の方法でメモリ1506又はHDD1510に記憶されるか、又は、ロードされた画像104を利用してプロセッサ1505によって実行される。
図3A乃至図3Eは、較正ターゲット102のための適切なテストパターン305がどのようにして生成されるかを示す図である。領域301(図3A)乃至304(図3D)は、モノクロ画素として表された疑似ランダム2次元バイナリパターンを示す。パターンのサイズ(即ち、パターンの画素数)は、それぞれ異なっており、各パターンは、共通因子を共有していない。パターン301乃至304は、それぞれ正方形をしており、より広い領域の範囲の上にパターンを繰り返すことによって、より広い領域をタイル張りするのに用いることができる。次いで、このようなより広い領域は、オーバレイ、或いは、オーバラップされたり、「AND」又は「OR」のような1つ以上のブール演算を用いて結合されたりすることができる。これによって、非周期性の疑似ランダムパターンが、個別のパターン301、301、303及び304のサイズの積によって与えられる領域の上に生成される。結果として、そのようなパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたって、一意に識別可能な各位置を有する。このパターンの一例を、図3Eに示すパターン305によって示しているが、これは、テストパターンであって、2Dルーラと呼ばれることもあり、適切な較正ターゲット102を形成する際の使用に適している。典型的には、テストパターン305は、基板上にエッチングされて較正ターゲット102を形成する。この例では、2Dルーラは、各次元において、画素ロケーション0から105までの範囲を有する(即ち、106×106画素)。実際には、例えば、2500×2500画素以上の、非常に広いパターン化された領域が使用される。
2Dルーラの1つの有益な特性は、ルーラの生成に用いられた全てのタイル張りパターンと少なくとも同じ広さのルーラ(テストパターン305)の領域からなるキャプチャ画像について、テストパターンに対するキャプチャ画像の歪みが大きすぎないような、正確な横方向ロケーションが決定されることである。キャプチャ画像のうちのパッチ領域のロケーションを決定する方法は、方法600のステップ635乃至650に関して後述する。2Dルーラの第2の有益な特性は、どこでも高レベルの非均一テキスチャを有するように、テストパターン(例えば、305)を構成できるため、2Dルーラが深度の推定用のフォーカス関数を用いた分析に対して敏感であることである。分散非均一テキスチャの一例を図3Eに示し、それについての正規化されたヒストグラムを図16に示しているが、そこから、テキスチャについてのカウント値が、一部のカウントはその他のカウントと一致しそうであるとしても、非均一であることがわかる。
顕微鏡101が透過顕微鏡である場合、較正ターゲット102は、ガラス又はその他の平らな透明基板上のクロムのような薄層に、パターンを正確にエッチングすることによって製造されてもよい。較正ターゲット102の画素特性は、顕微鏡の解像度よりも大きいことが必要である。例えば、0.5ミクロンの解像度の顕微鏡では、画素特性は、典型的には、1又は2ミクロンのサイズであってもよい。0.5ミクロンの膜厚のクロム層を用いて形成されたパターンであれば、クロムが残っている場所で光の透過を実質的に十分に防ぐことが可能である。
図2に戻って、2Dルーラ(テストパターン305の形状をなす較正ターゲット102)の画像104の1つ以上のスタックは、ステップ220において、カメラ103を用いてキャプチャされる。画像104の各スタックは、単一の横方向の試料台ロケーションで(即ち、共通の視野を用いて)一連の深度にわたって撮像されるため、「stack」という記述子が用いられる。深度の集合は、2Dルーラの現在のビューのベストフォーカスの一方の側から他方の側までの範囲の焦点範囲におよぶように構成されることが望ましく、また、顕微鏡101の被写界深度よりも大きいことが望ましい。例えば、倍率が20倍で、開口数(NA)が0.7の空気浸レンズ(被写界深度は、1.0ミクロン)で組み立てられる典型的な顕微鏡では、スタックは、2Dルーラの現在のビューのベストフォーカスの付近を中心とする10層のキャプチャ層からなることがある。画像の複数のスタックは、異なる環境条件(例えば、温度)で、及び/又は、異なる光の波長で(例えば、特定の波長で照明を行うことによって)撮像されてもよい。また、顕微鏡101が同時キャプチャのための複数のセンサを含む場合、画像104のスタックは、センサごとにキャプチャされてもよい。後者の場合、複数のセンサのキャプチャ視野は、顕微鏡101の光学設計に応じて、横方向又は軸方向のいずれかに、或いは、その両方にオフセットされてもよい。
ステップ220で画像104のスタックがキャプチャされた後、ステップ230において、各スタックが分析され、顕微鏡101のための深度の較正データが生成される。ステップ230については、方法400及び図4を参照して以下で更に詳しく説明する。較正データは、ステップ250において、一連の顕微鏡構成及び試料台位置について深度を推定するのに用いられる。
次に、ステップ240において、別の一連の画像104が、カメラ103を用いてキャプチャされる。ここでは、ステップ240でキャプチャされる、これらの別の画像は、一連の「較正」画像と呼ばれる。較正画像の集合には、試料台深度は一定だが、試料台のロケーションが異なるものや、顕微鏡101の構成が異なるもの(例えば、異なる傾き及びパターンの横方向シフト)などについての、較正ターゲット102のテストパターン305のキャプチャ画像が含まれている。従って、ステップ240でキャプチャされた一連の較正画像は、ステップ220でキャプチャされた画像のスタックとは異なる。構成の厳密な集合は、行われる較正タスクの詳細に依存する。較正画像は、対としてキャプチャされ、画像をキャプチャする間の、構成における唯一の変更点は、試料台のアキシャルオフセットである。較正画像の集合がキャプチャされる間の顕微鏡101の操作については、以下の方法1100及び1200の考察で詳しく説明する。ステップ250では、ステップ240でキャプチャされた較正画像が対で分析され、3Dワープマップデータが生成される。この工程については、方法500及び図5を参照して以下で詳しく説明する。
顕微鏡画像についての一連の3Dワープマップが生成された後、処理は、顕微鏡のための一連の較正パラメータを決定するステップ260に続く。採用される厳密な較正手順に依存して、較正パラメータは、
(i)顕微鏡の光学部品についての最適化された構成及び設定、
(ii)波長又は温度などの環境条件を用いて顕微鏡の動作を記述する関数のパラメータ、又は、
(iii)画像キャプチャ領域又は顕微鏡101の部品の動きに関する変換のパラメータ
を含めて幾つかの形態をとる。
(i)顕微鏡の光学部品についての最適化された構成及び設定、
(ii)波長又は温度などの環境条件を用いて顕微鏡の動作を記述する関数のパラメータ、又は、
(iii)画像キャプチャ領域又は顕微鏡101の部品の動きに関する変換のパラメータ
を含めて幾つかの形態をとる。
図11の概略フロー図によって示される方法1100は、ステップ260での使用に適した較正パラメータを決定する1つの方法を説明する。図12の概略フロー図によって示される方法1200は、ステップ260で使用される較正パラメータを決定する第2の別の方法を説明する。
ステップ260で決定された較正パラメータは、その後の顕微鏡操作の間に用いるために、ステップ270において、データ記憶装置106に記憶されてもよい。また、ステップ280において、顕微鏡101の構成及び設定を適宜に調整することによって顕微鏡101を較正するために、較正パラメータが直接用いられてもよい。
次に、1つ以上の画像スタックを分析することによって顕微鏡についての深度の較正データを生成するための、ステップ230で用いられる例示的な方法400について、図4を参照して以下で詳しく説明する。方法400は、好ましくは、プロセッサ1505によって実行されるソフトウェアを用いて実装され、各スタックを順番に処理するためのループ構造を確立し、ループは、処理するためにステップ220でキャプチャされた次の画像スタックを選択するステップ410において開始される。選択が行われると、例えば、HDD1510からスタックの画像が抽出され、プロセッサ1505によって直ぐにアクセスされるようにするため、画像がメモリ1506にロードされる。
ステップ420において、選択された画像スタックの各々の画像について、プロセッサ1505によって、横方向ワープマップが生成される。横方向ワープマップは、画素で定義されたセンサ画像の座標と、2Dルーラパターンの空間の座標とをマッピングする、アフィン変換、投影変換又は非線形変換の形態をとってもよく、生成された場合には、選択された画像スタックの各々の画像のHDD1510に記憶されてもよい。図6は、そのような横方向ワープマップを生成するための較正ターゲットの画像を分析するのに適した方法600を示す概略フロー図である。この方法は、ステップ420において、較正スタック画像の各々について順番に用いられてもよい。
ステップ430において、ステップ420からの横方向ワープマップデータを用いて、スタックの各画像についての正規化されたコントラストデータを生成する。正規化されたコントラストデータは、深度推定用に選択された横方向ロケーションの格子(深度推定格子)上の各点におけるスカラ値から確立されたメトリックの形態であってもよい。図8は、格子ロケーション付近の画像パッチの分析に基づいて、そのような正規化されたコントラストメトリックデータを生成するために較正ターゲットの画像を分析するのに適した方法800を示す概略フロー図である。この方法は、ステップ430において、較正スタック画像の各々について順番に用いられてもよい。
方法400は、ステップ435で開始される別のループ構造を用いて、正規化されたコントラストデータを、個々の深度推定格子ロケーションにおいて別々に分析し、その格子ロケーションについての較正データを形成する。ステップ440は、現在の深度推定格子ロケーションにおけるスタックの各々の画像について、一連の正規化されたコントラストデータを選択する。スタックの画像の深度の関数として、これらの値に対してフィットが行われる。適切なフィット関数は、オフセット変更されたガウス関数F(z)に基づいている。
ここで、zは、深度であり、パラメータpiは、正規化されたコントラストデータ値に対するフィットのパラメータである。非線形フィット法を用いて関数フィットが生成されてもよく、例えば、フィットのパラメータを、正規化されたコントラスト値とフィット関数との間の平均二乗誤差を簡単なシンプレックスアルゴリズムを用いて最小化することによって求めてもよい。
用いることが可能な代替の関数フィットは、深度パラメータにおいて、非対称である。例えば、そのような代替の関数フィットは、
のように、非対称ガウス関数に基づいていてもよく、ここで、関数p(z)は、階段関数又は双曲正接などの平滑関数に基づいて、ピーク焦点深度p2の各々の側で異なることがある。
のように、非対称ガウス関数に基づいていてもよく、ここで、関数p(z)は、階段関数又は双曲正接などの平滑関数に基づいて、ピーク焦点深度p2の各々の側で異なることがある。
図9Aに示すプロットは、正規化されたコントラストメトリックをフォーカス関数にフィットさせることを示す。プロット上のドット906(その一部だけが特定されている)は、ベストフォーカスに近いノミナル中心点(z=0)付近の−8ミクロンから8ミクロンまでの、個別の深度集合における算出された正規化されたメトリック値を表す。ライン907は、データに対するオフセット変更されたガウス(焦点)関数フィットを表す。画像パッチ901乃至905は、深度−5、−3、0、3、5μm付近の正規化されたコントラスト値を算出するのに用いられる、キャプチャ画像からのパッチを表しており、方法800のステップ830を参照して以下で更に説明する。
方法400に戻って、ステップ440で生成された正規化されたコントラストデータへの関数フィット(例えば、907)は、ステップ450で反転され、正規化されたコントラスト値に基づく深度推定に使用される第2関数が与えられ、これを較正関数と呼ぶ。この関数のパラメータは、その後で使用される(深度)較正データとして、ステップ450において、データ記憶装置106に記憶される。オフセット変更されたガウス関数について、この逆関数は、
によって与えられる。この関数は、対数と指数について原則的に分岐し、1つが深度p2におけるベストフォーカスのいずれかの側にあるような2つの解を与える。図9Bは、図9Aに示す関数フィットに対応する正規化されたコントラストメトリックが関数908としてプロットされた解z+を示す。式4の逆関数を用いて、テストパターンのパッチ画像に対応する深度の解(z+)を、正規化されたコントラストメトリックに基づいて決定することができ、これが、ステップ280に従って顕微鏡101を較正するのに使用される深度オフセット値である。一部のフィット関数については、逆関数を分析的に表現できないこともある。深度の解(z+)は、顕微鏡101のベストフォーカスに対するキャプチャ画像のテストパッチの深度を表す。図9Bの関数908は、顕微鏡101についての較正データを表す。例えば、較正データは、それについて関数980が反転できるような、関数908に関連する一連の係数であってもよい。
によって与えられる。この関数は、対数と指数について原則的に分岐し、1つが深度p2におけるベストフォーカスのいずれかの側にあるような2つの解を与える。図9Bは、図9Aに示す関数フィットに対応する正規化されたコントラストメトリックが関数908としてプロットされた解z+を示す。式4の逆関数を用いて、テストパターンのパッチ画像に対応する深度の解(z+)を、正規化されたコントラストメトリックに基づいて決定することができ、これが、ステップ280に従って顕微鏡101を較正するのに使用される深度オフセット値である。一部のフィット関数については、逆関数を分析的に表現できないこともある。深度の解(z+)は、顕微鏡101のベストフォーカスに対するキャプチャ画像のテストパッチの深度を表す。図9Bの関数908は、顕微鏡101についての較正データを表す。例えば、較正データは、それについて関数980が反転できるような、関数908に関連する一連の係数であってもよい。
ステップ450で逆関数フィットのパラメータを記憶した後、ステップ460は、処理すべき別の深度推定格子ロケーションがあるかどうかを確認し、そうである場合、処理はステップ435に戻り、そうでない場合、処理はステップ470に続く。ステップ470は、処理すべき別の画像スタックがあるかどうかを確認し、そうである場合、処理はステップ410に戻り、そうでない場合、方法400の処理は終了する。
図5は、3Dワープマップを生成する例示的な方法500を示す概略フロー図であって、方法500は、ステップ250での使用に適している。方法500は、既知である試料台のアキシャルオフセットが較正画像のキャプチャの間の顕微鏡構成における唯一の変更点であるような較正画像対を分析するために、ステップ510で開始されるループ構造を採用している。既知のアキシャルオフセットは、「dz」と呼ばれる。
ステップ515において、較正画像対の各々について、横方向ワープマップが生成される。横方向ワープマップは、キャプチャ画像の画素で定義された座標と、2Dルーラパターンの空間の座標とをマッピングする、アフィン変換、投影変換又は非線形変換の形態をとってもよい。図6は、そのような横方向ワープマップを生成するための較正ターゲットの画像を分析するのに適した方法600を示す概略フロー図である。この方法は、ステップ515において、較正画像対の各々の画像について用いられてもよい。
ステップ520において、ステップ515からの横方向ワープマップデータを用いて、較正画像対についての正規化されたコントラストデータを生成する。正規化されたコントラストデータは、深度推定用に選択された横方向ロケーションの格子(深度推定格子)上の各点におけるスカラ値の形態であってもよい。図8は、格子ロケーション付近の画像パッチの分析に基づいて、そのような正規化されたコントラストデータを生成するための較正ターゲットの較正画像を分析するのに適した方法800を示す概略フロー図である。この方法は、ステップ520において、較正画像対の各々の画像について用いられてもよい。
次に、ステップ525で開始されるループ構造が、深度推定格子ロケーションの各々における推定された深度に対して順番に採用される。ステップ530において、現在の深度推定格子ロケーションにおいて、このロケーションについてステップ520で決定された正規化されたコントラストメトリックに基づいて、現在の対の第1較正画像について2つの深度が推定される。2つの深度は、既知の較正関数と、現在の格子ロケーションにおいてステップ450で決定された対応するパラメータ集合とに基づいて、ベストフォーカスロケーション(z±)の上及び下の解によって与えられる。第1画像に対応する深度は、
と呼ばれる。ステップ540において、現在の対の第2較正画像について、530のプロセスが繰り返され、
と呼ばれる、現在の格子ロケーションに対応する2つの深度が推定される。
と呼ばれる。ステップ540において、現在の対の第2較正画像について、530のプロセスが繰り返され、
と呼ばれる、現在の格子ロケーションに対応する2つの深度が推定される。
次に、ステップ550において、ステップ530及び540で推定された深度対である
及び
が、(以前にステップ230の較正データ、即ち、所定の較正データの一部として決定された)画像と画像の間の既知の深度オフセット、即ち、dz、と比較され、現在の対の各々の較正画像についての現在の格子ロケーションについて、単一の深度の推定値が決定される。4つの誤差項である
は、深度オフセットと2つの深度の推定値間の差との間の差異の絶対値として算出される。これは、以下のように算出されてもよい。
ここで、誤差項
の第1添え字は、第1画像
についての深度の選択対象を示し、第2添え字は、第1画像
についての深度の選択対象を示す。誤差項の最小値に対応する添え字は、第1画像及び第2画像からの最良の深度の選択対象を提供する。例えば、
=2μm、
=−2μm、
=3μm、
=−3μm及びdz=1μmである場合には、E++=−0μm、E+−=6μm、E−+=4μm、E−−=2μmである。最小の誤差項は、E++であり、従って、選択される深度は、2つの画像について、
及び
(それぞれ、2μm及び3μm)である。
及び
が、(以前にステップ230の較正データ、即ち、所定の較正データの一部として決定された)画像と画像の間の既知の深度オフセット、即ち、dz、と比較され、現在の対の各々の較正画像についての現在の格子ロケーションについて、単一の深度の推定値が決定される。4つの誤差項である
は、深度オフセットと2つの深度の推定値間の差との間の差異の絶対値として算出される。これは、以下のように算出されてもよい。
ここで、誤差項
の第1添え字は、第1画像
についての深度の選択対象を示し、第2添え字は、第1画像
についての深度の選択対象を示す。誤差項の最小値に対応する添え字は、第1画像及び第2画像からの最良の深度の選択対象を提供する。例えば、
=2μm、
=−2μm、
=3μm、
=−3μm及びdz=1μmである場合には、E++=−0μm、E+−=6μm、E−+=4μm、E−−=2μmである。最小の誤差項は、E++であり、従って、選択される深度は、2つの画像について、
及び
(それぞれ、2μm及び3μm)である。
画像対についての深度の推定値がステップ550で決定された後、ステップ560は、深度推定格子に関して別のロケーションがあるかどうかを確認し、そうである場合、処理はステップ525に戻り、そうでない場合、処理はステップ570に続く。
ステップ570において、プロセッサ1505は、ステップ550で決定された深度推定格子ロケーションにおける深度の推定値と、ステップ515で生成された横方向ワープマップとに基づいて、3Dワープマップを形成する。次いで、3Dワープマップは、HDD1510に記憶されてもよい。ワープマップを定義する適切な方法は、画像センサのx軸に沿ったi番目の画素座標と、y軸に沿ったj番目の画素座標とに対応する焦点面の位置の深度を定義して、軸方向のワープマップZ(i,j)を形成することである。各画像の3Dワープマップは、センサ上の画素ロケーションに対応する横方向及び軸方向ロケーションを生成するために独立して用いられる軸方法ワープマップと横方向ワープマップとで定義される。
軸方向ワープマップの最も簡素な形態は、センサ画素座標の双一次関数
Z(i,j)=Z0+Z1i+Z2j (6)
であり、ここで、Z0、Z1及びZ2は、線形フィットのパラメータである。画素座標(i,j)における深度推定格子ロケーションと、一連の深度の推定値とを所与として、フィットのパラメータの最小二乗推定値が、標準的な推定方法を用いて決定されてもよい。軸方向ワープマップに適した代替の関数には、2次関数
Z(i,j)=Z0+Z1i+Z2j+Z3i2+Z4ij+Z5j2 (7)
及び、その他の非線形形態が含まれる。フィットのパラメータについての最小二乗推定法が、2次のフィットに用いられてもよい。軸方向ワープマップ関数における自由パラメータ(即ち、1次のフィットについて3、2次のフィットについて6)より多くの点が深度推定格子内にある場合には、深度推定データ内のアウトライアに対するフィットのロバスト性を改善するような方法が用いられてもよい。例えば、RANSAC(RANdom Sample Consensus)法は、信頼性がより高いフィットが得られる深度推定格子点の部分集合を選択するのに用いられる、ロバストな推定用の周知の方法である。
Z(i,j)=Z0+Z1i+Z2j (6)
であり、ここで、Z0、Z1及びZ2は、線形フィットのパラメータである。画素座標(i,j)における深度推定格子ロケーションと、一連の深度の推定値とを所与として、フィットのパラメータの最小二乗推定値が、標準的な推定方法を用いて決定されてもよい。軸方向ワープマップに適した代替の関数には、2次関数
Z(i,j)=Z0+Z1i+Z2j+Z3i2+Z4ij+Z5j2 (7)
及び、その他の非線形形態が含まれる。フィットのパラメータについての最小二乗推定法が、2次のフィットに用いられてもよい。軸方向ワープマップ関数における自由パラメータ(即ち、1次のフィットについて3、2次のフィットについて6)より多くの点が深度推定格子内にある場合には、深度推定データ内のアウトライアに対するフィットのロバスト性を改善するような方法が用いられてもよい。例えば、RANSAC(RANdom Sample Consensus)法は、信頼性がより高いフィットが得られる深度推定格子点の部分集合を選択するのに用いられる、ロバストな推定用の周知の方法である。
3Dワープマップがステップ570で生成された後、ステップ580は、処理すべき別の較正画像対があるかどうかを確認し、そうである場合、処理はステップ510に戻り、そうでない場合、方法500の処理は終了する。
図6は、横方向ワープマップを生成するために較正ターゲットの画像を分析するのに適した方法600を示す概略フロー図である。ステップ515とステップ420とのいずれか一方において、この方法を用いて、較正ターゲットの画像が分析されてもよい。横方向ワープマップは、センサ画像の画素で定義された座標と、2Dルーラパターンの空間の座標とをマッピングする、アフィン変換、投影変換又は非線形変換の形態をとってもよい。
アフィン変換は、1つの画像X=[x,y]Tにおける画素ロケーションから第2画像X’=[x’,y’]Tの画素ロケーションへのマッピングであって、ここで、x及びyは、それぞれ、水平座標及び垂直座標であって、それらの関係は
であって、ここでa乃至fは、変換を定義する6つのパラメータの集合を形成する。
であって、ここでa乃至fは、変換を定義する6つのパラメータの集合を形成する。
投影変換は、同次座標を用いて、線形行列形式で表すことができる。2つの同次座標z=[x,y,1]とz’=[x’,y’,1]との間の点対応は、
wz’=Hmz (9)
と表すことができ、ここで、wは、任意のスケーリングであり、投影変換行列Hmは、
として与えられる、8つの自由パラメータを有する3×3行列であって、ここでh11・・・h23は、アフィン変換パラメータであって、h31及びh32は、投影歪みパラメータである。同一の投影変換が、この行列のいずれかのスカラ倍について与えられる。
wz’=Hmz (9)
と表すことができ、ここで、wは、任意のスケーリングであり、投影変換行列Hmは、
として与えられる、8つの自由パラメータを有する3×3行列であって、ここでh11・・・h23は、アフィン変換パラメータであって、h31及びh32は、投影歪みパラメータである。同一の投影変換が、この行列のいずれかのスカラ倍について与えられる。
立方変換は、
の形式の非線形変換であって、ここで、20個のパラメータciは、変換を定義し、斜めの項は、第1画像における座標の多項式
P=[x3,x2y,xy2,y3,x2,xy,y2,x,y,1] (12)
という形態で定義される。
の形式の非線形変換であって、ここで、20個のパラメータciは、変換を定義し、斜めの項は、第1画像における座標の多項式
P=[x3,x2y,xy2,y3,x2,xy,y2,x,y,1] (12)
という形態で定義される。
ステップ610は、較正ターゲットに対する画像の粗アライメントを決定するための任意の処理ステップである。この粗アライメントは、例えば、顕微鏡視野に対する較正ターゲットの設置方向などの情報に加えて、画像内の画素の粗回転及びおよその解像度を決定する形式であってもよい。加えて、ステップ610は、パースペクティブ又はアフィン歪みなどの、より高次の変換を提供してもよい。ステップ610が行われない場合には、較正ターゲットの粗アライメントは既知であって、例えば、画素解像度として、回転はゼロであると仮定して、方法600に提供されると仮定される。ステップ610で用いられる粗アライメントの適切な方法は、図7を参照して以下の方法700で説明する。
ステップ620は、キャプチャ画素画像を分析するための横方向アライメント格子を選択する。アライメントは、アライメント格子点の中心付近の小さなパッチの分析に基づいて行われる。この分析には、図3を参照して上述した較正ターゲットを定義するのに用いられる周期的パターンの予想されるサイズと少なくとも同じ大きさの、正方形のパッチが適している。画像の外側の周囲に、バッファ領域が定義される。バッファ領域は、粗アライメントに従って画像空間へ変換された最大の周期的パターンを含む、画像空間の境界ボックスの予想されるサイズの半分で与えられることが望ましい。横方向ワープマップの生成には、このバッファ領域の端部に伸びる、等間隔の格子点の長方形格子が適している。
図13Aは、画像領域上の横方向アライメント格子ロケーションを示す図であって、そのバッファ領域1303は、画像1301の外側から内向きに固定距離1304だけ伸びている。ドット1302を含む5×4のドット格子は、アライメント格子ロケーションを定義する。図13Bは、バッファ領域1303のサイズの決定を示す図である。パターン1307は、較正ターゲット102の上でテストパターン305を定義するのに用いられた周期パターンのうちで最大のものである。パターンは、粗回転(粗回転情報が取得できない場合、ゼロと扱われる)と、粗スケーリング情報と、較正ターゲットの形状サイズとに従って、画像空間にマッピングされる場合、1307を領域1305にマッピングする。境界ボックス1306は、パターン1305(画像空間で画素サイズを示す格子の塗りつぶし)を含む境界ボックスである。バッファ領域の幅wは、以下のように算出されてもよい。
ここで、Nmaxは、最大周期であって、Lfeatは、較正ターゲットの形状サイズであって、Lpixは、およその画素解像度であって、θは、較正ターゲットの粗回転である。例えば、予想されるスケーリングが、画素当たり0.5ミクロンである場合、形状サイズは2ミクロン、最大周期は51であり、回転はなく、バッファ領域は102画素である。5度の回転の場合、境界ボックスは、111画素まで増加する。
ここで、Nmaxは、最大周期であって、Lfeatは、較正ターゲットの形状サイズであって、Lpixは、およその画素解像度であって、θは、較正ターゲットの粗回転である。例えば、予想されるスケーリングが、画素当たり0.5ミクロンである場合、形状サイズは2ミクロン、最大周期は51であり、回転はなく、バッファ領域は102画素である。5度の回転の場合、境界ボックスは、111画素まで増加する。
格子点の総数は、自由パラメータの数と少なくとも同数であるべきで、算出される変換の信頼性を向上させるため、例えば、RANSACなどの、ロバスト性を高める方法の効果的な利用を可能にするように、更に多くてもよい。上述のアフィン変換、立方変換及び投影変換は、それぞれ、6個、8個、20個のパラメータを有する。ステップ650で生成されるように、格子ロケーションにおける較正ターゲット102の上の横方向ロケーションの推定のロバスト性に依存して、格子ロケーションの適切な数は、6×6である。
ステップ620で横方向アライメント格子を設定した後、アライメント格子の上の各点の較正ターゲットの上の位置を順番に測定するため、ステップ630で開始されるループ構造が採用される。まず、ステップ635において、粗アラインされた画像パッチが、アライメント格子ロケーションを中心にして生成される。画像パッチは、較正ターゲット画像の粗回転(θ)と、ターゲット形状及び画素解像度(Lfeat及びLpix)の組み合わせに起因するスケーリングとを考慮して変換される。例えば、立方又は正弦補間などの高次の補間スキームは、この変換について適切であって、これは、フーリエ空間において行なわれてもよい。
次に、ステップ640において、格子点における較正ターゲット102の特定のテストパターン305の周期的パターンのベクトルオフセットは、例えば、相関に基づく方法又は勾配に基づく方法などのシフト推定法によって決定される。これに関連して、例えば、図3Eのテストパターン305などの、いずれかのテストパターンが、必要に応じて、その後の処理及び比較に使用されるように記憶装置106(HDD1510)に記憶されてもよい。また、シフト推定法は、比較された画像パッチがどのくらい類似しているかに対応する信頼値を返してもよい。周期的パターンについては、図3A乃至3Dに既に示しており、且つ、これまでに説明した。シフト推定については、異なる画像からの2つのパッチ1010及び1020を示す図10を参照して説明する。シフトは、画像2からのパッチ1020が画像1からのパッチ1010からオフセットされて、パッチがオーバラップしている領域を最も類似させなければならない、横軸及び縦軸における量のベクトルs=[sx,sy]Tである。この場合、パターンのデザインが周期的であって、パディングや窓関数が適用されない場合に、周期的境界条件が用いられる。テストパターン305で用いられる周期的パターン(例えば、301、302、303及び304)の各々が、例えば、メモリ106に記憶され、ステップ635からの粗アライメントされたパッチの中心から得られた、同じサイズの画像パッチと比較され、ベクトルオフセットsi=[sx,sy]が推定される。
ステップ640で生成されたベクトルオフセットは、次いで、ルーラの上の横方向ロケーションを決定するために、ステップ650において、分析される。較正ターゲット102を構成するのに用いられるテストパターン305の周期的性質を考えると、i番目のシフト推定は、i番目のパターン周期piを法として、格子点x’=(x’,Y’)Tの真の位置の推定であると解釈することができる。
座標x及びyは、分析の最初の部分で別個に考慮されてもよい。i番目のシフト推定のx成分を用いて、ターゲットの既知の物理範囲内での見込まれるxのロケーションの有限集合が選択されてもよい。一連のシフト推定値に関連する見込まれるロケーションの集合を一緒に考慮し、且つ、シフト推定値が十分に正確であると仮定すると、多様なパターンからの見込まれるロケーションの分布は、格子点の真のロケーションの付近に非常に緊密に密集するであろう。一緒に考慮された周期の集合の積が十分大きい場合には、較正ターゲットによってカバーされる領域内の単一の点において、これが生じるであろうし、位置推定は、点の密集に基づいて(例えば、平均値又は中央値を用いて)形成されてもよい。
ロケーション推定値は、ルーラの周期的パターンの部分集合を用いて形成されてもよい。図3A乃至3Eに示すような4つの周期的パターンに基づいてデザインされた較正ターゲット102の場合には、3つのパターンに基づいて4つの異なる位置推定値を形成することができる。これらの推定値のうちで最良のものが、個々の推定されたロケーションにおいて2Dルーラの既知のテストパターン305をステップ635からの粗アライメントされたパッチと比較することによって、選択されてもよい。最良のロケーション推定値を選択する1つの方法は、推定されたロケーションにおけるテストパターン305と画像パッチとの間の相関シフト推定を行うことである。この場合、周期的境界条件は使用されず、パディング及び窓関数、例えば、Tukey窓関数
を用いることが適切である。ここで、wは、座標(i,j)における画素の重み付けであり、Wは、パッチの幅であり、Hは、パッチの高さであり、αは、窓関数のスプレッドを定義する非整数パラメータであり、その適切なパラメータ設定は、0.5である。相関は、格子ロケーションの位置の補正を提供し、また、最良の位置推定値を選択するのに用いられる信頼性スコアを提供するであろう。
を用いることが適切である。ここで、wは、座標(i,j)における画素の重み付けであり、Wは、パッチの幅であり、Hは、パッチの高さであり、αは、窓関数のスプレッドを定義する非整数パラメータであり、その適切なパラメータ設定は、0.5である。相関は、格子ロケーションの位置の補正を提供し、また、最良の位置推定値を選択するのに用いられる信頼性スコアを提供するであろう。
ステップ650でベクトル位置が生成された後、ステップ660は、処理すべき別の横方向アライメント格子ロケーションがあるかどうかを確認し、そうである場合、処理はステップ630に戻り、そうでない場合、処理はステップ670に続く。
ステップ670は、較正空間(x’)における推定ロケーションと、センサ画素空間(x)における横方向アライメント格子点との対応する対に基づいて、画像についての横方向ワープマップを形成する。横方向ワープマップは、上述したように、アフィン変換、投影変換、立方変換、或いは、その他の変換であってもよい。2つの空間内の点の対の集合に基づいて、アフィン変換、投影変換及び各種の適切な非線形変換の係数を推定する方法は、周知である。例えば、立方変換の係数は、一連の対応する点対について、式(11)の立方変換行列を係数Pにおける一連の線形等式として設定し、係数についての最小二乗解を求めることによって解かれてもよい。推定値のロバスト性を向上させる方法も周知であり、例えば、RANSAC法を用いて点対の部分集合に対するフィットを求め、次いで、フィットのインライアとアウトライアとを比較し、それによってロバストで正確なフィットに到達してもよい。ステップ670で横方向ワープマップを形成することで、ステップ600の処理は完了する。
図7は、ステップ610で用いられる較正ターゲット102についての粗アライメントの方法700を示す図である。この場合においても、方法700は、HDD1510に記憶されたソフトウェアを用いて実装され、プロセッサ1505によって実行されてもよい。方法700は、顕微鏡101を用いて撮像された較正ターゲット102のキャプチャ画像の画素に対する較正ターゲット102の回転を推定するステップ710で開始される。まず、キャプチャ画像の大きな正方形のパッチが選択される。このパッチは、好ましくは、各周期的パターン301乃至304の幾つかの周期を含むような大きさが十分あることが必要である。これまでに定義したTukeyウィンドウなどの窓関数が、選択されたパッチに適用され、次いで、フーリエ変換が行われる。2Dルーラのパターンの予想される周期性に満たない周波数に関連するスペクトル部分(顕微鏡101のおおよその既知の構成に基づくおおよその画素スケーリングを用いて推定される)を除去するため、ローパスフィルタが適用される。次に、複素フーリエ係数の絶対値が求められて、角度座標及び距離座標を変換するためラドン変換が適用され、ここで、変換についての適切な解像度は、角度座標では1000、距離座標では400である。ラドン変換された係数(R)は、距離座標上で合計され、πラジアンの角度範囲にわたる角度の原画像のスペクトルにおける累乗に対応する値の1次元アレーが与えられる。パターンは、x及びyにおいて周期的であることを考えると、単位円のうちの1つの四分円内の回転推定値を決定することのみ可能であるため、アレーの前半がアレーの後半に加えられて、0乃至π/2の角度範囲に対応するパワースペクトルが与えられてもよい。較正ターゲット102の回転推定値は、このパワースペクトルのピークに対応する角度として選択される。
ステップ710での粗回転推定に続いて、画素サイズを推定するために、ステップ720において、粗画素スケール推定が行われる。これは、ステップ710のラドン変換された係数(R)を、ステップ710で検出されたパワースペクトルの角度ピークに関連する指標において処理することによって達成される。このサンプルデータは、ラドン変換の距離座標の方向に沿った、テストパターン305の周期的パターンの平均周期性に関連する周期性を有する。このサンプルデータは、信号の周期性を決定するために、フーリエ変換されてもよい。次に、周期的パターンの各サイズが十分に近い場合には、この測定された信号の周期性を、ピーク指標に関連する角度における周期的パターンの平均周期性と比較して、粗スケーリング推定値を決定してもよい。
ステップ720での粗スケーリング推定に続いて、較正ターゲット102の2Dルーラの最良の構成を決定するために、ステップ730で開始されるループ構造が採用される。一般に、画像化されるルーラの正確な詳細は(即ち、テストパターン305から)既知であるはずなので、ルーラは上向きに設置すべきである。しかしながら、場合によっては、プロセッサ1505が、ルーラが上向きか下向きかを決定したり、既知のルーラのライブラリからどのルーラが画像化されたことがあるかを選択したりすることが有益である。ルーラの詳細が正確に既知であり、ルーラが正しく上向きに設置されていると想定される場合には、相互に90度回転している4つの見込まれる構成が存在する。各構成についての周期的パターンは、構成に従ってテストパターンを回転又は反映させることによって形成される。
ステップ740において、次の見込まれるルーラ構成が、現在の構成についての周期的パターンと、それらに関連する相関強度のオフセットとを、ステップ640で説明した方法を用いて行うことによって確認される。ステップ760は、確認すべき別の構成があるかどうかを確認し、そうである場合には、処理はステップ730に戻る。確認すべき別の構成がない場合には、処理はステップ770に続き、ここで、最良のルーラ構成が、ルーラの周期的パターンの集合についての信頼性スコアの合計が最高になるような構成として選択され、方法700は終了する。
非線形歪みが少ない光学系の場合、一般に、1つの粗アライメント工程を行えば十分である。しかしながら、キャプチャ領域が広い、及び/又は、光学歪みが大きい場合、例えば、投影歪み又は樽型歪みの場合、視野全域の複数のロケーションで粗アライメントを行って、上述のような単純な回転及びスケーリングだけでなく、より多くの係数の集合に基づいて粗アライメントを定義することが適切である。
図8は、較正ターゲット102のキャプチャ画像を分析して、キャプチャ画像のパッチの分析に基づいて、正規化されたコントラストデータ又はメトリックを生成する方法800の概略フロー図である。この方法は、ステップ430及び520で用いられてもよい。
方法800は、深度推定格子を選択するステップ810で開始される。コントラストメトリックは、キャプチャ画像の深度推定格子を形成する各点の中心の付近で選択された小さなパッチの分析に基づいて算出される。この分析には、正方形のパッチが適しており、適切なパッチサイズは、コントラスト・メトリック・パッチ・サイズと呼ばれ、100画素である。バッファ領域は、キャプチャ画像の外側の周囲に定義され、コントラストパッチサイズの半分によって与えられる場合には、このバッファ領域の端部に広がっている均一なスペースの格子点からなる長方形格子が、横方向ワープマップの生成に適している。点の適切な数は、画像キャプチャ領域のサイズと顕微鏡の焦点面の平坦度とに依存するが、6×6付近であってもよい。これは、後で図13Aを参照して説明する。
次に、任意のステップ820において、例えば、けられに起因する、視野全体の不均一照度を補正するために、キャプチャ画像データにラジオメトリック補正が行われてもよい。ラジオメトリック補正の方法は、既知である。
続いて、ステップ825では、ステップ810で選択された深度推定格子の各点を処理するのにループ構造が用いられる。まず、ステップ830では、画像コントラストメトリックが現在の格子点において算出される。コントラストメトリックパッチサイズを有するキャプチャ画像のパッチが選択され、例えば、Tukeyウィンドウなどの上述の定義された窓関数が適用される。次に、キャプチャ画像からのウィンドウパッチについて、コントラストメトリックが算出される。正規化された分散を含めて、文献で説明された多くのフォーカス関数が、このステップに適している。正規化された分散は、以下で定義される。
ここで、Ii,jは、パッチのロケーション(i,j)における画素の強度であり、W及びHは、パッチの幅及び高さであり、μは、パッチ全体の平均強度である。
ここで、Ii,jは、パッチのロケーション(i,j)における画素の強度であり、W及びHは、パッチの幅及び高さであり、μは、パッチ全体の平均強度である。
現在の格子ロケーションにおけるコントラストメトリックの演算に続いて、ステップ840において、正規化が演算される。正規化は、基準コントラストメトリックとみなされてもよく、テストパターン305を用いて決定される。まず、キャプチャ画像の現在の格子ロケーションの位置が、以前にステップ670による処理フローで推定された、キャプチャ画像についての既知の横方向ワープマップに従って、テストパターン305の空間に変換される。次に、テストパターン305の変換された位置付近の領域が、テストパターン305の記憶された表現からか、又は、テストパターン305が形成された既知の周期的パターン(例えば、301乃至304)に従って構築されるかのいずれかによって選択される。領域のサイズは、既知の横方向ワープマップに従って、領域が画像空間(即ち、キャプチャ画像における選択されたパッチの空間)へと変換された時に、ステップ830で用いられたコントラスト・メトリック・パッチ・サイズと少なくとも同じ広さのエリアを領域がカバーするように、選択される。これは、図13Cに示されており、この場合、テストパターン305(較正ターゲット102)の空間の適切なサイズの領域1330が、キャプチャ画像空間のパッチ1340の範囲内にフィットするように変換される。ここで、斜線領域1350は、領域1340の範囲内に含まれるキャプチャ画像空間の必要なパッチサイズ(コントラスト・メトリック・パッチ・サイズ)を表す。
テストパターン305から導出された領域(例えば、1330)は、次いで、横方向ワープマップによる画像空間に変換される。この変換には、より高次の補間法が適している。また、較正ターゲット102が正方形領域で構成されるはずであることを考えると、フラットな領域で構成される高解像度表現(例えば、ターゲットが光の透過をブロックする場合にはゼロ、ターゲットが光を透過させる場合には1)を生成するために、モルフォロジー演算を用いてテストパターン領域1330を最初にアップスケールすることが適切である。テストパターン305のこの高解像度表現は、次いで、補間されて、上述のモルフォロジーアップスケーリングによる横方向ワープマップに比べてダウンスケールされた、変更された横方向ワープマップによる画像スペース領域が生成される。変換された構成ターゲット1340のうちの領域1350は、元の横方向アライメント格子点に従って中心を有し、且つ、キャプチャ画像のコントラストメトリックパッチサイズを使って、選択される。コントラストメトリックが、ステップ830で用いられたのと同じ方法に従って、この領域について算出され、この値が、基準コントラストメトリックである正規化を定義する。
次いで、ステップ850において、正規化されたコントラストメトリックが、ステップ830で算出された画像コントラストメトリックをステップ840で決定された正規化(基準コントラストメトリック)によって分割することによって、算出される。正規化されたコントラストメトリックは、上述のように、テストパターンデータの局部的な非均一テキスチャの影響を補償するという属性を有する。この後、ステップ860は、処理すべき横方向アライメント格子ロケーションが別にあるかどうかを確認し、そうである場合、処理はステップ825に戻り、そうでない場合、方法800は終了する。
図11は、方法200のステップ260で用いられる顕微鏡についての較正パラメータを決定する(第1)方法1100を示す概略フロー図である。方法1100は、図14の図に従って構成された顕微鏡1400に適している。顕微鏡1400は、概略を示すように、試料台1410を含み、その上に較正ターゲット1420が置かれている。光は、試料台1410及びターゲット1420を通過し、次いで、1つ以上のレンズ(1430及び1450)で構成される光学系を通過し、ミラー1440で反射され、センサ1460の上に焦点を結ぶ。レンズ1430、1450の中心を通る例示的な光路1470を示す。この装置では、センサ1460は、z軸で変換されて、x軸の周りを回転してもよく、ミラー1440は、y軸の周りで傾斜していてもよい。これらの3つの構成属性は、方法1100の最初のステップ1110において、調整パラメータとして選択される。別の構成属性の集合を有する代替の顕微鏡装置は、ここで説明したものと同様の技法を用いて較正される。
ステップ1110で調整パラメータを選択した後、ステップ1120は、調整パラメータに対応する一連の較正画像について生成されたワープマップを選択する。例えば、個々の調整パラメータが、既知の範囲の値に対して変化する場合には、適切な画像の集合は、調整パラメータによって定義される空間の均一サンプリングに対応する。例えば、上述の3つの調整パラメータは、それぞれ、5つの個別の値でサンプリングされてもよく、画像一式は、3D格子上のこれらの調整パラメータの全ての組み合わせを含む(5×5×5)=125画像に基づいている。
次に、ステップ1130において、ワープマップが調整パラメータにフィットされる。フィットの最も簡素な方法は、画像の集合に対応する調整パラメータの個別の集合におけるパラメータのサンプリングに基づいて、各ワープマップの各パラメータについて、3D補間関数を生成することである。いずれかの中間ロケーションにおける各パラメータの値は、補間に基づいて求められてもよく、それに従って、ワープマップが決定されてもよい。この目的において、線形補間が用いられてもよい。
このフィットは、センサ変換、センサ回転及びミラー回転の線形関数としてモデル化されてもよく、i番目の画像については、
、
、及び、
と表現される。線形フィットは、
であって、ここで
、
であり、Cは、線形係数の3×4行列である。システムの各種のノイズソースに起因して、上述の式は、残余誤差項∈iを含む。式(18)は、
zi=HiCf+∈i (19)
と書き直されるが、ここで、Cfは、行列Cの係数の平坦化されたベクトルであり、
Cf=(C00,C01,C02,C03,C10,C11,C12,C13,C20,C21,C22,C23)T (20)
及び、
線形フィット係数
を伴う構成
に対応する一連の画像について、各画像に式(19)の形式の式を含めることによって、線形等式の集合が構築される。これによって、以下の式が与えられる。
、
、及び、
と表現される。線形フィットは、
であって、ここで
、
であり、Cは、線形係数の3×4行列である。システムの各種のノイズソースに起因して、上述の式は、残余誤差項∈iを含む。式(18)は、
zi=HiCf+∈i (19)
と書き直されるが、ここで、Cfは、行列Cの係数の平坦化されたベクトルであり、
Cf=(C00,C01,C02,C03,C10,C11,C12,C13,C20,C21,C22,C23)T (20)
及び、
線形フィット係数
を伴う構成
に対応する一連の画像について、各画像に式(19)の形式の式を含めることによって、線形等式の集合が構築される。これによって、以下の式が与えられる。
較正行列Cfの係数は、最小二乗法において標準的な方法を用いて式(22)を解くことによって、決定することができる。このフィットの利点は、例えば、定義された属性を有する表面を顕微鏡1400がフォローしなければならない場合に、所望のワープマップに対応する調整パラメータの集合を決定する目的で反転させることが比較的簡単であることである。
調整パラメータに対するワープマップのフィットが完了した後、方法1100の処理は終了する。方法1100の結果、選択されたワープマップを調整パラメータの集合にフィットさせることによって、顕微鏡101の調整を提供する補足的な調整パラメータが決定され、その後、キャプチャされる画像からのワープのチューニングアウトが可能になり、顕微鏡101を用いた撮像の向上が得られる。
方法1100が方法200のステップ260で適用される場合には、任意のステップ270は、各種の補間関数及びステップ1130で決定された係数をHDD1510に記憶し、ステップ280は、特定の表面を追跡する目的において、調整パラメータを設定するように構成されてもよい。次いで、横方向ワープマップが、例えば、試料のスライド画像全体を生成するため、画像を処理するのに有益な情報を供給してもよい。
図12は、方法200のステップ260で使用される、顕微鏡用の較正パラメータを決定する別の(第2)方法1200を示す概略フロー図である。また、方法1200は、図14の図に従って構成される顕微鏡にも適しているが、顕微鏡は、ターゲット1420から一連のセンサ1460までの複数の光路1470を含んでいてもよい。各光路は、対応するセンサ1460とミラー1440とを含み、従って、調整パラメータの集合は、z軸に沿った変換と、各センサについてx軸の周りの回転と、各ミラーについてy軸の周りのミラー回転とを含む(即ち、光路ごとに合計3つの調整パラメータ)。
方法1200は、各センサに関連するワープマップデータを順番に処理するためのループ構造を採用するステップ1210で開始される。方法1200は、現在のセンサについて、及び、各環境条件についてワープマップデータを順番に処理するための第2ループ構造を採用するステップ1220に続く。環境条件の一例は、温度であってもよい。
次に、ステップ1230において、調整パラメータの集合が選択されるが、これらは、現在のセンサに関連するパラメータの集合である。この後、ステップ1240は、現在の環境条件での調整パラメータに対応する一連の較正画像について、ワープマップを選択する。上述のステップ1120を参照して説明したように、調整パラメータの各々が、既知の範囲の値に対して変化する場合には、適切な画像の集合は、調整パラメータによって定義される空間の均一サンプリングに対応する。例えば、上述の3つの調整パラメータは、それぞれ、5つの個別の値でサンプリングされてもよく、画像一式は、3D格子上のこれらの調整パラメータの全ての組み合わせを含む(5×5×5)=125画像に基づいている。
次いで、ステップ1250は、上述のステップ1130で説明したのと同じ方法に従って、選択されたワープマップを調整パラメータにフィットさせる。次いで、処理は、考慮すべき別の環境条件があるかどうかを確認するステップ1260に続き、そうである場合、処理はステップ1220に戻り、そうでない場合、処理はステップ1270に続く。ステップ1270は、ステップ1250で決定された補間関数及び係数の集合を環境条件データにフィットさせる。これは、線形補間などの補間法を用いて達成されてもよい。次いで、処理は、考慮すべき別のセンサがあるかどうかを確認するステップ1260に続き、そうである場合、処理はステップ1210に戻り、そうでない場合、方法1200は終了する。
方法1200が方法200のステップ260で適用される場合には、任意のステップ270は、ステップ1270で決定された各種の補間関数及び係数を記憶するように動作し、ステップ280を用いて、ある範囲の環境条件でセンサの集合ができるだけ同一平面上であるように構成されることを保証するか、或いは、特定の表面プロフィールに合致するようにセンサの集合を積極的に構成する目的において、調整パラメータが設定されてもよい。
ここで説明した装置は、例えば、2Dルーラターゲットについての標準的焦点を求めることを横方向位置推定と組み合わせるなど、同程度の既存の手法よりも優れた幾つかの利点を提供する。利点には、
(i)既存の技術は、2Dロケーションと深度とのうちいずれか一方を得るのに対して、本装置は、深度を2Dロケーションとともに決定し、それによって既存の2Dルーラ利用を3Dの場合にも拡張すること、
(ii)本装置は2つの画像を用いるのに対して、先行技術の手法は個々の未知の深度フィットについて少なくとも1つの画像を必要とし(最小でも3つのパラメータ、或いは、変更ガウスフィットについては5つ)、且つ、少なくとも1つの追加の画像を使った場合に最も良く機能するという点で、3D位置推定に用いられる画像がより少ないこと、
(iii)本装置は、ベストフォーカスに対するテスト画像の深度に関する制約がより少ない。例えば、本装置は、ベストフォーカスの同一側にある画像対を使って機能することができ、比較的長い距離に対して行うことができる。一方、既存の手法は、ベストフォーカスの両側に画像があることを必要とすることにより、(顕微鏡部品が傾斜している)視野全域にわたって焦点面が変化する場合には、最大10ミクロンの深度変化が生じること、
(iv)本装置の横方向精度は、既存の手法と同じであること、
(v)本装置の深度精度は、一般に、既存の装置のそれと同程度であり、一部の適用分野では、既存の手法の深度精度は本装置より高いのが、そのような精度は、条件付きの操作(傾斜が小さい、キャプチャ画像のスペースが近い)によって実現されるにすぎないこと、
などがある。
(i)既存の技術は、2Dロケーションと深度とのうちいずれか一方を得るのに対して、本装置は、深度を2Dロケーションとともに決定し、それによって既存の2Dルーラ利用を3Dの場合にも拡張すること、
(ii)本装置は2つの画像を用いるのに対して、先行技術の手法は個々の未知の深度フィットについて少なくとも1つの画像を必要とし(最小でも3つのパラメータ、或いは、変更ガウスフィットについては5つ)、且つ、少なくとも1つの追加の画像を使った場合に最も良く機能するという点で、3D位置推定に用いられる画像がより少ないこと、
(iii)本装置は、ベストフォーカスに対するテスト画像の深度に関する制約がより少ない。例えば、本装置は、ベストフォーカスの同一側にある画像対を使って機能することができ、比較的長い距離に対して行うことができる。一方、既存の手法は、ベストフォーカスの両側に画像があることを必要とすることにより、(顕微鏡部品が傾斜している)視野全域にわたって焦点面が変化する場合には、最大10ミクロンの深度変化が生じること、
(iv)本装置の横方向精度は、既存の手法と同じであること、
(v)本装置の深度精度は、一般に、既存の装置のそれと同程度であり、一部の適用分野では、既存の手法の深度精度は本装置より高いのが、そのような精度は、条件付きの操作(傾斜が小さい、キャプチャ画像のスペースが近い)によって実現されるにすぎないこと、
などがある。
産業上の利用可能性
説明した装置は、コンピュータ産業及びデータ処理産業に適用可能であり、特に、3Dバーチャル顕微鏡法などの顕微鏡画像の観察に適用可能である。
説明した装置は、コンピュータ産業及びデータ処理産業に適用可能であり、特に、3Dバーチャル顕微鏡法などの顕微鏡画像の観察に適用可能である。
以上、本発明の一部の実施形態だけを説明したが、本発明の範囲及び趣旨から逸脱することなく、修正及び/又は変更がそれに対して行われる可能性があり、実施形態は例示的なものであって、限定的なものではない。
(オーストラリアのみ)本明細書において、「comprising(含む)」という用語は、「主に含むけれども必ずしもそれだけを含むのではない」、又は、「有する」、又は、「含む」、ことを意味し、「それだけで構成される」ことを意味しない。「comprising(含む)」という用語の変形、例えば、「comprise」及び「comprises」は、それらに対応して変化する意味を有する。
Claims (17)
- テストパターンを用いて顕微鏡を較正する方法であって、
(a)前記顕微鏡の光学系を介して前記テストパターンの複数の画像をキャプチャする工程であって、前記テストパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたる、複数の一意に識別可能な位置を有する工程と、
(b)少なくとも2つのキャプチャ画像の上の複数の対応する位置の各々について、
−前記テストパターンの上の前記複数の一意に識別可能な位置から選択された位置における、キャプチャ画像のパッチと、前記テストパターンの対応する領域とを、前記対応する領域についてのロケーションが前記テストパターンにおける前記複数の繰り返し及び重複2Dサブパターンによって決定されるように選択する工程と、
−前記選択されたパッチにおける前記テストパターンの前記キャプチャ画像からの画像コントラストメトリックと、前記対応する領域の前記テストパターンの基準コントラストメトリックとを決定する工程と、
−前記基準コントラストメトリック及び前記画像コントラストメトリックを用いて、正規化されたコントラストメトリックを決定する工程であって、前記正規化されたコントラストメトリックは、前記テストパターンの局部的な非均一のテキスチャの影響を補償する工程と、
(c)前記正規化されたコントラストメトリック、及び、一連の深度において前記テストパターンを用いてキャプチャされた画像のスタックについての一連の所定の較正データを用いて、前記複数の位置における前記少なくとも2つのキャプチャ画像の深度を推定する工程と、
(d)前記少なくとも2つの画像についての前記決定された深度の推定値の比較を用いて、前記顕微鏡を較正する工程と、
を有することを特徴とする方法。 - 前記複数の画像は、前記キャプチャの間にアキシャルオフセットが前記顕微鏡の試料台に与えられた画像対としてキャプチャされることを特徴とする請求項1に記載の方法。
- 工程(c)は、前記対の各々の画像の各々の位置についての複数の深度を、前記画像対の前記正規化されたコントラストメトリックに基づいて推定する工程と、前記深度を前記位置のそれぞれについての深度の単一の推定値に分離する工程と、を含むことを特徴とする請求項2に記載の方法。
- 前記少なくとも1つのキャプチャ画像の前記複数の位置の各々についての前記深度の推定値は、当該画像についてのワープマップを形成することを特徴とする請求項1に記載の方法。
- 前記顕微鏡のベストフォーカスの深度の少なくとも上下にわたる深度の、前記テストパターンの画像の前記スタックをキャプチャする工程と、
前記キャプチャスタック画像の各々についての前記複数の位置の各々についての前記所定の較正データを、
(i)各スタック画像について、横方向ワープマップを形成する工程と、
(ii)前記横方向ワープマップから正規化されたコントラストデータを形成する工程と、
(iii)前記正規化されたコントラストデータを分析して、前記所定の較正データを形成する工程と、
によって生成する工程と、を更に含むことを特徴とする請求項1に記載の方法。 - 前記正規化されたコントラストデータを形成する工程は、
−前記テストパターンの上の前記複数の一意に識別可能な位置から選択された位置における、前記テストパターンの前記キャプチャスタック画像のパッチと、前記テストパターンの対応する領域とを、前記対応する領域についてのロケーションが前記テストパターンの前記複数の繰り返し及び重複2Dサブパタンによって決定されるように選択する工程と、
−前記選択されたパッチの前記キャプチャスタック画像からの画像コントラストメトリックと、前記対応する領域の前記テストパターンの基準コントラストメトリックとを決定する工程と、
−前記基準コントラストメトリックと前記画像コントラストメトリックとを利用して、正規化されたコントラストメトリックを決定する工程であって、前記正規化されたコントラストメトリックは、前記テストパターンの局部的な非均一なテキスチャの影響を補償する工程と、
を含むことを特徴とする請求項5に記載の方法。 - 前記キャプチャ画像の平面の上のさまざまな位置にわたる、複数の決定された深度オフセットが、前記顕微鏡のセンサの2D位置間、及び、前記テストパターンに関する前記顕微鏡の前記焦点面での3D位置間のワープマップを定義することを特徴とする請求項1に記載の方法。
- 工程(c)は、現在の位置についての単一の深度の推定値を決定するために、少なくとも深度の推定値対と前記所定の較正データから既知である深度オフセットとを比較する工程を含むことを特徴とする請求項1に記載の方法。
- 前記画像をキャプチャする間に前記顕微鏡の構成を調整する工程を更に含むことを特徴とする請求項8に記載の方法。
- 請求項1乃至9のうちいずれか1項に記載の方法によって較正された顕微鏡。
- コンピュータで読み取り可能な記憶媒体であって、プログラムが記録されており、前記プログラムは、テストパターンを用いて顕微鏡を較正するためコンピュータ装置によって実行可能であり、前記プログラムは、
前記顕微鏡の光学系を介して前記テストパターンの複数の画像をキャプチャする工程であって、前記テストパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたる、複数の一意に識別可能な位置を有する工程のためのコードと、
少なくとも2つのキャプチャ画像の上の複数の対応する位置の各々について、
−前記テストパターンの上の前記複数の一意に識別可能な位置から選択された位置における、キャプチャ画像のパッチと、前記テストパターンの対応する領域とを、前記対応する領域についてのロケーションが前記テストパターンの前記複数の繰り返し及び重複2Dサブパターンによって決定されるように選択し、
−前記選択されたパッチにおける前記テストパターンの前記キャプチャ画像からの画像コントラストメトリックと、前記対応する領域の前記テストパターンの基準コントラストメトリックとを決定し、
−前記基準コントラストメトリック及び前記画像コントラストメトリックを用いて、正規化されたコントラストメトリックを決定し、且つ、前記正規化されたコントラストメトリックは、前記テストパターンの局部的な非均一なテキスチャの影響を補償するために実行可能なコードと、
前記正規化されたコントラストメトリック、及び、一連の深度において前記テストパターンを用いてキャプチャされた画像のスタックについての一連の所定の較正データを用いて、前記複数の位置における前記少なくとも2つのキャプチャ画像の深度を推定するためのコードと、
前記少なくとも2つの画像についての前記決定された深度の推定値の比較を用いて、前記顕微鏡を較正するためのコードと、
を含むことを特徴とする記憶媒体。 - 前記複数の画像は、前記キャプチャの間にアキシャルオフセットが前記顕微鏡の試料台に与えられた画像対としてキャプチャされることを特徴とする請求項11に記載の記憶媒体。
- 前記推定するためのコードは、前記対の各々の画像の各々の位置についての複数の深度を、前記画像対の前記正規化されたコントラストメトリックに基づいて推定し、前記深度を前記位置のそれぞれについての深度の単一の推定値に分離するためのコードを含むことを特徴とする請求項12に記載の記憶媒体。
- 前記顕微鏡のベストフォーカスの深度の少なくとも上下にわたる深度の、前記テストパターンの画像の前記スタックをキャプチャするためのコードと、
前記キャプチャスタック画像の各々についての前記複数の位置の各々についての前記所定の較正データを、
(i)各スタック画像について、横方向ワープマップを形成する工程と、
(ii)前記横方向ワープマップから正規化されたコントラストデータを形成する工程と、
(iii)前記正規化されたコントラストデータを分析して、前記所定の較正データを形成する工程と、
によって生成するためのコードと、
を更に含むことを特徴とする請求項11に記載の記憶媒体。 - 正規化されたコントラストデータを形成するためのコードは、
−前記テストパターンの上の前記複数の一意に識別可能な位置から選択された位置における、前記テストパターンのキャプチャスタック画像のパッチと、前記テストパターンの対応する領域とを、前記対応する領域についてのロケーションが前記テストパターンの前記複数の繰り返し及び重複2Dサブパターンによって決定されるように選択するためのコードと、
−前記選択されたパッチの前記キャプチャスタック画像からの画像コントラストメトリックと、前記対応する領域の前記テストパターンの基準コントラストメトリックとを決定するためのコードと、
−前記基準コントラストメトリックと前記画像コントラストメトリックとに基づいて、正規化されたコントラストメトリックを決定し、且つ、前記正規化されたコントラストメトリックは、前記テストパターンの局部的な非均一なテキスチャの影響を補償するためのコードと、
を含むことを特徴とする請求項14に記載の記憶媒体。 - 顕微鏡較正システムであって、
可動式の試料台(108)と、前記試料台に取り付けられたテストパターンの画像(104)をキャプチャするためのセンサ(103、1460)と、を有する顕微鏡(101)と、
前記試料台及び前記センサに接続され、
前記顕微鏡の光学系を介して前記テストパターンの複数の画像がキャプチャされ、前記テストパターンは、複数の繰り返し及び重複2Dサブパターンによって定義されるパターンの全域にわたる、複数の一意に識別可能な位置を有し、
少なくとも2つのキャプチャ画像の上の複数の対応する位置の各々について、
−前記テストパターンの上の前記複数の一意に識別可能な位置から選択された位置における、キャプチャ画像のパッチと、前記テストパターンの対応する領域とを、前記対応する領域についてのロケーションが前記テストパターンにおける前記複数の繰り返し及び重複2Dサブパターンによって決定されるように選択し、
−前記選択されたパッチにおける前記テストパターンの前記キャプチャ画像からの画像コントラストメトリックと、前記対応する領域の前記テストパターンの基準コントラストメトリックとを決定し、
−前記基準コントラストメトリック及び前記画像コントラストメトリックを用いて、正規化されたコントラストメトリックを決定し、前記正規化されたコントラストメトリックは、前記テストパターンの局部的な非均一なテキスチャの影響を補償し、
前記正規化されたコントラストメトリック、及び、一連の深度において前記テストパターンを用いてキャプチャされた画像のスタックについての一連の所定の較正データを用いて、前記複数の位置における前記少なくとも2つのキャプチャ画像の深度を推定し、
前記少なくとも2つの画像についての前記決定された深度の推定値の比較を用いて、前記顕微鏡を較正する、
ように動作可能なコンピュータプロセッサ装置と、
を含むことを特徴とする顕微鏡較正システム。 - 前記較正は、前記比較に従って、前記試料台の位置を調整する工程を含むことを特徴とする請求項16に記載の顕微鏡較正システム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
AU2013254920 | 2013-11-07 | ||
AU2013254920A AU2013254920A1 (en) | 2013-11-07 | 2013-11-07 | 3D microscope calibration |
PCT/AU2014/001032 WO2015066756A1 (en) | 2013-11-07 | 2014-11-06 | 3d microscope calibration |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016541028A true JP2016541028A (ja) | 2016-12-28 |
Family
ID=53040699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016550895A Pending JP2016541028A (ja) | 2013-11-07 | 2014-11-06 | 3d顕微鏡の較正 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20160282598A1 (ja) |
JP (1) | JP2016541028A (ja) |
AU (1) | AU2013254920A1 (ja) |
WO (1) | WO2015066756A1 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11044390B2 (en) * | 2016-02-10 | 2021-06-22 | Karl Storz Imaging, Inc. | Imaging system for identifying a boundary between active and inactive portions of a digital image |
US10846882B2 (en) | 2016-11-08 | 2020-11-24 | Thermo Electron Scientific Instruments Llc | System and method of dimensional calibration for an analytical microscope |
CN110381812B (zh) | 2016-12-30 | 2022-08-30 | 巴科股份有限公司 | 用于相机校准的***和方法 |
US11986311B2 (en) | 2016-12-30 | 2024-05-21 | Barco Nv | System and method for 3D reconstruction |
US10247910B1 (en) * | 2018-03-14 | 2019-04-02 | Nanotronics Imaging, Inc. | Systems, devices and methods for automatic microscopic focus |
US10146041B1 (en) | 2018-05-01 | 2018-12-04 | Nanotronics Imaging, Inc. | Systems, devices and methods for automatic microscope focus |
US10789696B2 (en) * | 2018-05-24 | 2020-09-29 | Tfi Digital Media Limited | Patch selection for neural network based no-reference image quality assessment |
US11302017B2 (en) * | 2019-03-12 | 2022-04-12 | L&T Technology Services Limited | Generating composite image from multiple images captured for subject |
DE102019119310A1 (de) * | 2019-07-17 | 2021-01-21 | Carl Zeiss Microscopy Gmbh | Mikroskop und Verfahren zum Erzeugen eines mikroskopischen Bildes mit einer erweiterten Schärfentiefe |
CN110530508A (zh) * | 2019-09-03 | 2019-12-03 | 吉林大学 | 一种检测微振动传感装置性能的方法及*** |
DE102020211702A1 (de) * | 2020-09-18 | 2022-03-24 | Carl Zeiss Microscopy Gmbh | Verfahren zum Überwachen einer Immersionsflüssigkeit in einem Mikroskop |
CN117649434B (zh) * | 2024-01-30 | 2024-04-30 | 国仪量子技术(合肥)股份有限公司 | 电子显微镜及其图像配准方法和装置、存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007034050A (ja) * | 2005-07-28 | 2007-02-08 | Olympus Corp | 観察装置及びその制御方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6181474B1 (en) * | 1999-03-22 | 2001-01-30 | Kovex Corporation | Scanning confocal microscope with objective lens position tracking |
AU2006203027B2 (en) * | 2006-07-14 | 2009-11-19 | Canon Kabushiki Kaisha | Improved two-dimensional measurement system |
JP5134804B2 (ja) * | 2006-10-06 | 2013-01-30 | 株式会社日立ハイテクノロジーズ | 走査電子顕微鏡および走査電子顕微鏡像の歪み校正 |
US9389408B2 (en) * | 2010-07-23 | 2016-07-12 | Zeta Instruments, Inc. | 3D microscope and methods of measuring patterned substrates |
-
2013
- 2013-11-07 AU AU2013254920A patent/AU2013254920A1/en not_active Abandoned
-
2014
- 2014-11-06 WO PCT/AU2014/001032 patent/WO2015066756A1/en active Application Filing
- 2014-11-06 US US15/034,277 patent/US20160282598A1/en not_active Abandoned
- 2014-11-06 JP JP2016550895A patent/JP2016541028A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007034050A (ja) * | 2005-07-28 | 2007-02-08 | Olympus Corp | 観察装置及びその制御方法 |
Also Published As
Publication number | Publication date |
---|---|
AU2013254920A1 (en) | 2015-05-21 |
WO2015066756A1 (en) | 2015-05-14 |
US20160282598A1 (en) | 2016-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2016541028A (ja) | 3d顕微鏡の較正 | |
US10401716B2 (en) | Calibration of projection systems | |
US10859809B2 (en) | Illumination systems and devices for Fourier Ptychographic imaging | |
JP5362087B2 (ja) | 距離情報を決定するための方法、距離マップを決定するための方法、コンピュータ装置、撮影システム、コンピュータプログラム | |
US20170363853A1 (en) | Reconstruction algorithm for fourier ptychographic imaging | |
JP6079333B2 (ja) | 校正装置、方法及びプログラム | |
US9607384B2 (en) | Optimal patch ranking for coordinate transform estimation of microscope images from sparse patch shift estimates | |
JP6217227B2 (ja) | 校正装置、方法及びプログラム | |
WO2012053521A1 (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
US9639948B2 (en) | Motion blur compensation for depth from defocus | |
JP6899894B2 (ja) | パターン検出 | |
KR20130040121A (ko) | Dfd 이미징 시스템 및 방법 | |
AU2013260650B2 (en) | Rotational phase unwrapping | |
JP2016100698A (ja) | 校正装置、校正方法、プログラム | |
JP4694624B2 (ja) | 画像補正装置及び方法、並びにコンピュータプログラム | |
JP2017090420A (ja) | 3次元情報復元装置及び3次元情報復元方法 | |
Chen et al. | Finding optimal focusing distance and edge blur distribution for weakly calibrated 3-D vision | |
JP6776004B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5728399B2 (ja) | 計測装置、方法及びプログラム | |
AU2013273789A1 (en) | Thickness estimation for Microscopy | |
JP2006003276A (ja) | 3次元形状計測システム | |
WO2015095912A9 (en) | Overlapped layers in 3d capture | |
JP2013152429A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
De Villiers et al. | Effects of lens distortion calibration patterns on the accuracy of monocular 3D measurements | |
Marshall et al. | Image registration and a metric to assess the transformation function |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170403 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180709 |