JP2017526011A - 広視野顕微鏡スキャンにおける埋め込み画像のためのシステムおよび方法 - Google Patents
広視野顕微鏡スキャンにおける埋め込み画像のためのシステムおよび方法 Download PDFInfo
- Publication number
- JP2017526011A JP2017526011A JP2017510584A JP2017510584A JP2017526011A JP 2017526011 A JP2017526011 A JP 2017526011A JP 2017510584 A JP2017510584 A JP 2017510584A JP 2017510584 A JP2017510584 A JP 2017510584A JP 2017526011 A JP2017526011 A JP 2017526011A
- Authority
- JP
- Japan
- Prior art keywords
- new image
- image
- stack
- scan
- microscope
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Microscoopes, Condenser (AREA)
- Studio Devices (AREA)
Abstract
顕微鏡によって取り込まれた画像を獲得し、組み合わせるための方法およびシステムが提供される。本方法は、撮像デバイスを使用して顕微鏡から新しい画像を取り込むことと、新しい画像と以前の画像とを比較して新しい画像の推定位置を提供することと、新しい画像の推定位置に基づいて、メモリに記憶されたスキャンの隣接キーフレームを識別することと、新しい画像と識別したキーフレームとを比較して隣接キーフレームからの新しい画像の相対変位を決定することと、新しい画像の相対変位に基づいて、新しい画像の位置を決定することと、を含む。本システムは、顕微鏡と、顕微鏡を通して画像を取り込むための、顕微鏡に結合されたカメラと、カメラに結合されたコンピューティングデバイスであって、メモリ、および本明細書で説明されるような方法を行うように構成され、適合されるプロセッサを備える、コンピューティングデバイスと、を備える。
Description
多くの臨床研究において、広視野顕微鏡画像の獲得は、極めて有益である。自動顕微鏡[1]または手動ステージ顕微鏡[2]を使用する多くの技法が提案されている。本文書において、スキャンは、標本の広視野を網羅する、大きい画像と称される。スキャンは、図1Aのように、標本の多数のより小さい画像で、または図1Bのように、統合された画像で構成することができる。図1Aにおいて、より小さい画像は、キーフレームと称される。キーフレームの相対的な場所は、先験的に知られている。これは、自動スキャンシステムまたは画像ベースの技法[2]を使用して行うことができる。一般性を失うことなく、本文書の残り部分については、スキャンが同じサイズを有する多数のキーフレームで構成されることが想定される。
本開示の実施形態は、以下、単なる一例として添付図面を参照しながら説明される。
序論
問題の定義
よく見られる使用事例を考慮すると、科学技術者または臨床医には、標本の一部をより高い解像度で観察すること、またはz軸において一部分を調査することが有益であり得る。換言すれば、異なる倍率または深さによって獲得される他の画像を主スキャンの中へ埋め込むことが有益である。画像は、ステージを空間的に移動させることによって獲得される、または顕微鏡の焦点を変えることによって獲得される、いずれかの一群の画像である。この文書の残り部分について、前者は、マルチ対物レンズスキャニングと称され、一方で後者は、Zスタックと称される。このような特徴の前提条件は、広視野スキャン内で任意の対物レンズによって獲得される画像の正確なローカライゼーションであることに留意されたい。図2は、高倍率の対物レンズおよびZスタックによって取り込まれた埋め込みスキャンを有するスキャンを示す。図2に示されるように、元々のスキャンは、異なる対物レンズの倍率によって取り込まれる別のスキャンを含む場合があり、または異なる焦点/深さによって取り込まれる画像であるZスタックを有する場合がある。
問題の定義
よく見られる使用事例を考慮すると、科学技術者または臨床医には、標本の一部をより高い解像度で観察すること、またはz軸において一部分を調査することが有益であり得る。換言すれば、異なる倍率または深さによって獲得される他の画像を主スキャンの中へ埋め込むことが有益である。画像は、ステージを空間的に移動させることによって獲得される、または顕微鏡の焦点を変えることによって獲得される、いずれかの一群の画像である。この文書の残り部分について、前者は、マルチ対物レンズスキャニングと称され、一方で後者は、Zスタックと称される。このような特徴の前提条件は、広視野スキャン内で任意の対物レンズによって獲得される画像の正確なローカライゼーションであることに留意されたい。図2は、高倍率の対物レンズおよびZスタックによって取り込まれた埋め込みスキャンを有するスキャンを示す。図2に示されるように、元々のスキャンは、異なる対物レンズの倍率によって取り込まれる別のスキャンを含む場合があり、または異なる焦点/深さによって取り込まれる画像であるZスタックを有する場合がある。
上述した特徴は、画像のライブ獲得とともに、モーター付きステージを有する顕微鏡に提供されるが、手動ステージでは利用できない。本明細書で説明されるいくつかの実施形態は、これらの特徴を集合的に提供するシステムを評価する。
本開示では、手動顕微鏡に搭載されたカメラから画像のストリームが獲得され、標本のライブデジタル画像を提供することが想定される。カメラの最新のデジタル画像は、以下、現在画像フレームと称される。ユーザは、手動ステージおよび顕微鏡の焦点調節を制御する。ユーザは、自分が対物レンズを切り替えるときにシステムに通知する。次いで、システムは、既に取り込まれたスキャン内のライブ画像を自動的にローカライズする。ユーザはまた、Zスタックを獲得するために自分が焦点を変化させようとするときにもシステムに通知するができる。図3は、システムハードウェアの概要を示す。図3に示されるように、手動顕微鏡には、処理コンピュータにリアルタイム画像をストリーミングするカメラが搭載される。画像は、リアルタイムに処理され、ディスプレイ上で視覚化が行われる。
本開示は、本明細書で開示される実施形態の3つの態様を網羅する。第1は、スキャン内の画像のローカライゼーションであり、これは、「マルチ対物レンズのローカライゼーション」の節において提示される。第2は、このようなスキャンを元々のスキャン内で異なる対物レンズでステッチし、埋め込むための提案されたシステムであり、これは、「マルチ対物レンズのスキャニング」の節において提示される。第3は、スキャン内に埋め込まれたZスタックを記憶し、管理するための提案されたシステムであり、これは、「Zスタック」の節において提示される。
マルチ対物レンズのローカライゼーション
スキャンを考慮すると、マルチ対物レンズのローカライゼーションは、スキャンの再構築において使用される対物レンズと異なる対物レンズによって取り込まれる画像のストリームのローカライゼーションと定義される。図4Aおよび4Bは、2つの異なるシナリオを示し、図中、画像(斜線で示される)は、より大きい倍率またはより小さい倍率を使用して取り込まれる。図4Aにおいて、現在画像フレームは、元々のスキャンの倍率よりも小さい倍率を有する対物レンズによって取り込まれる。図4Bにおいて、現在画像フレームは、元々のスキャンの倍率よりも大きい倍率を有する対物レンズによって取り込まれる。画像は、スキャンの1つ以上のキーフレームとの重なりを有することができる。画像は、元々サイズ
を有するが、元々のスキャンに対する相対倍率によってスケーリングすることができる。例えば、元々のスキャンが10倍の対物レンズによって取り込まれ、現在画像フレームが40倍の対物レンズによって取り込まれる場合、画像は、0.25倍にスケーリングすることができる。元々のスキャンに対して時間tに取り込まれる現在フレームの位置は、
Ptで表される。
スキャンを考慮すると、マルチ対物レンズのローカライゼーションは、スキャンの再構築において使用される対物レンズと異なる対物レンズによって取り込まれる画像のストリームのローカライゼーションと定義される。図4Aおよび4Bは、2つの異なるシナリオを示し、図中、画像(斜線で示される)は、より大きい倍率またはより小さい倍率を使用して取り込まれる。図4Aにおいて、現在画像フレームは、元々のスキャンの倍率よりも小さい倍率を有する対物レンズによって取り込まれる。図4Bにおいて、現在画像フレームは、元々のスキャンの倍率よりも大きい倍率を有する対物レンズによって取り込まれる。画像は、スキャンの1つ以上のキーフレームとの重なりを有することができる。画像は、元々サイズ
を有するが、元々のスキャンに対する相対倍率によってスケーリングすることができる。例えば、元々のスキャンが10倍の対物レンズによって取り込まれ、現在画像フレームが40倍の対物レンズによって取り込まれる場合、画像は、0.25倍にスケーリングすることができる。元々のスキャンに対して時間tに取り込まれる現在フレームの位置は、
Ptで表される。
ローカライゼーションは、一連の画像マッチングを介して行われる。次の節では、マッチングプロセスが説明される。
2つのフレームの登録
特徴検出
特徴検出は、現在画像フレームに対して行われる。この特徴は、画像登録(リンキング)に使用される。特徴検出の結果は、一組の特徴であり、それぞれが一組の特性を含むことができる。
・画像座標(x,y)の位置
・スケールおよび方向などの幾何学的特性
・特徴の周囲の画像パターンを説明するために使用される画像特性
特徴検出
特徴検出は、現在画像フレームに対して行われる。この特徴は、画像登録(リンキング)に使用される。特徴検出の結果は、一組の特徴であり、それぞれが一組の特性を含むことができる。
・画像座標(x,y)の位置
・スケールおよび方向などの幾何学的特性
・特徴の周囲の画像パターンを説明するために使用される画像特性
2つのフレームのマッチング
フレームのマッチングは、該フレームの特徴をマッチさせることによって行われる。多くの技術は、この目的のために提案されている[2][3]。双方の画像において特徴の長いリストが検出されることを想定すると、この部分は、2つのステップを含む(フレームは、基準フレームおよびマッチングフレームと称される):
1.基準フレームの特徴毎に、マッチングフレームの中の最も近い特徴を見つける。最も近い特徴は、最も類似する特性を有するはずである。
2.マッチした特徴に基づいて、変位を集合的に見つける。
フレームのマッチングは、該フレームの特徴をマッチさせることによって行われる。多くの技術は、この目的のために提案されている[2][3]。双方の画像において特徴の長いリストが検出されることを想定すると、この部分は、2つのステップを含む(フレームは、基準フレームおよびマッチングフレームと称される):
1.基準フレームの特徴毎に、マッチングフレームの中の最も近い特徴を見つける。最も近い特徴は、最も類似する特性を有するはずである。
2.マッチした特徴に基づいて、変位を集合的に見つける。
追跡、リンキング、およびローカライゼーションの定義
画像のストリームを考慮すると、本文書における追跡という用語は、以前のフレームに対する現在フレームのマッチングを指す。マッチングがdの変位をもたらすことを想定すると、現在フレームの位置は、Pt=Pt−1+dとして推定される。現在フレームは、それが以前のフレームとのマッチングに成功した場合に、追跡されていると呼ばれる。
画像のストリームを考慮すると、本文書における追跡という用語は、以前のフレームに対する現在フレームのマッチングを指す。マッチングがdの変位をもたらすことを想定すると、現在フレームの位置は、Pt=Pt−1+dとして推定される。現在フレームは、それが以前のフレームとのマッチングに成功した場合に、追跡されていると呼ばれる。
「リンキング」という用語は、本明細書で使用されるときに、キーフレームに対する現在画像フレームのマッチングを指す。現在画像フレームは、それがキーフレームの少なくとも1つとのマッチングに成功した場合に、リンクされていると呼ばれる。
「ローカライゼーション」という用語は、本明細書で使用されるときに、追跡およびリンキングに基づく現在フレームの位置が正しいかどうかを判定することを指す。現在画像フレームは、スキャンにおけるその位置が正しい場合に、ローカライズされていると呼ばれる。
ローカライゼーションプロセス
ローカライゼーションプロセス
異なる対物レンズの倍率で獲得されるキーフレーム内の現在画像フレームのローカライゼーションのプロセスである、ローカライゼーションプロセスは、図5に示され、以下のように概説される。
1.現在画像フレームを前処理し、特徴を抽出する。
2.新しいフレームの中の特徴の位置
およびスケールSiを、このフレームおよびキーフレームの倍率の違いに従ってスケーリングする。新しいフレームがmnの倍率を有し、キーフレームがmkの倍率を有すると想定する。
したがって、位置およびスケールは、以下のようにスケーリングされる。
3.追跡。現在画像フレームがその位置を推定するために以前のフレームとマッチされる。
4.リンキング。次に、現在画像フレームを隣接キーフレームにマッチさせてその場所を修正し、追跡によってもたらされる不正確なマッチングが蓄積する可能性を取り除く。
1.現在画像フレームを前処理し、特徴を抽出する。
2.新しいフレームの中の特徴の位置
およびスケールSiを、このフレームおよびキーフレームの倍率の違いに従ってスケーリングする。新しいフレームがmnの倍率を有し、キーフレームがmkの倍率を有すると想定する。
したがって、位置およびスケールは、以下のようにスケーリングされる。
3.追跡。現在画像フレームがその位置を推定するために以前のフレームとマッチされる。
4.リンキング。次に、現在画像フレームを隣接キーフレームにマッチさせてその場所を修正し、追跡によってもたらされる不正確なマッチングが蓄積する可能性を取り除く。
リンキングは、マルチ対物レンズのマッチングの事例において常に成功するとは限らない。したがって、追跡情報をリンキング情報と組み合わせて現在フレームの位置を決定する。このプロセスは、次の節で説明される。
2.4正確なローカライゼーションのための追跡およびリンキングの組み合わせ
現在画像フレームの位置は、リンキングおよび追跡情報に基づいて推定される。現在画像フレームは、それが連結または追跡され、以前の画像フレームがローカライズされる場合にローカライズされる。この論理は、図6に示され、該図は、現在画像フレームの正確なローカライゼーションのための追跡およびリンキング情報の組み合わせを説明する図である。対物レンズの光学特性の違いが、画像の変化をもたらす場合がある。こうした変化は、対物レンズ間での画像のマッチングを失敗させる場合がある。ローカライゼーションアルゴリズムのロバスト性を向上させるために、画像ローカライゼーションのための代替方法として、追跡をアルゴリズムに加えることができる。
現在画像フレームの位置は、リンキングおよび追跡情報に基づいて推定される。現在画像フレームは、それが連結または追跡され、以前の画像フレームがローカライズされる場合にローカライズされる。この論理は、図6に示され、該図は、現在画像フレームの正確なローカライゼーションのための追跡およびリンキング情報の組み合わせを説明する図である。対物レンズの光学特性の違いが、画像の変化をもたらす場合がある。こうした変化は、対物レンズ間での画像のマッチングを失敗させる場合がある。ローカライゼーションアルゴリズムのロバスト性を向上させるために、画像ローカライゼーションのための代替方法として、追跡をアルゴリズムに加えることができる。
2.5全数探索
以前のステップにおいて現在画像フレームがローカライズされなかった場合、アルゴリズムは、全数探索状態に入る。このステップでは、キーフレームが、現在画像フレームまでのそれらの距離に従ってソートされる。以前のステップとは対照的に、この時点では、これらのキーフレームのすべてではなく一部分だけがフレームにリンクされる。これは、全数探索がシステムのリアルタイム性能を妨げることを防止するために行われる。n個のキーフレームが、現在画像フレームまでのそれらの距離に基づいてソートされることを想定する。:
全数探索の最初に、第1のm個の要素
だけが処理される。リンキングが成功しなかった場合には、次のフレームについて、第2のm個の要素
が処理される(図7を参照されたい)、などである。図7は、現在画像フレームがその隣接キーフレーム内でローカライズされない事例における全数探索を例示し、すべてのキーフレームが、現在画像フレームまでのそれらの距離に関してソートされ、各繰り返しにおいて、キーフレームの一部分だけが、現在画像フレームのローカライゼーションについて調査される。現在画像フレームは、各繰り返し時に更新されるので、基準フレームは、同じままではない。しかしながら、全数探索は、1秒足らずですべてのキーフレームを巡回することができるので、基準フレームは、それほど移動しないと想定することができる。
以前のステップにおいて現在画像フレームがローカライズされなかった場合、アルゴリズムは、全数探索状態に入る。このステップでは、キーフレームが、現在画像フレームまでのそれらの距離に従ってソートされる。以前のステップとは対照的に、この時点では、これらのキーフレームのすべてではなく一部分だけがフレームにリンクされる。これは、全数探索がシステムのリアルタイム性能を妨げることを防止するために行われる。n個のキーフレームが、現在画像フレームまでのそれらの距離に基づいてソートされることを想定する。:
全数探索の最初に、第1のm個の要素
だけが処理される。リンキングが成功しなかった場合には、次のフレームについて、第2のm個の要素
が処理される(図7を参照されたい)、などである。図7は、現在画像フレームがその隣接キーフレーム内でローカライズされない事例における全数探索を例示し、すべてのキーフレームが、現在画像フレームまでのそれらの距離に関してソートされ、各繰り返しにおいて、キーフレームの一部分だけが、現在画像フレームのローカライゼーションについて調査される。現在画像フレームは、各繰り返し時に更新されるので、基準フレームは、同じままではない。しかしながら、全数探索は、1秒足らずですべてのキーフレームを巡回することができるので、基準フレームは、それほど移動しないと想定することができる。
相対倍率の修正
対物レンズに示される倍率は、必ずしも正確であるとは限らない。例えば、10倍の対物レンズは、10.01の倍率を有する場合がある。正確な倍率は、物理的な較正を使用して達成することができる。しかしながらこのような情報がない場合は、画像マッチングのプロセスにおいて、異なる対物レンズ間の「相対」倍率を見つけることができる。キーフレームの中の特徴のいくつかと現在画像とが、互いに正しくマッチされることを想定する。各特徴は、ある位置を有し、また、ある点として表すことができることに留意されたい。基準フレームの中のマッチした特徴は、
として列記することができ、マッチングフレームの中のマッチしたフレームは、
として列記することができる。同じインデックスを有する特徴がマッチし、すなわち、
riがmiに対応する。図8は、このような相関関係を示し、また、2つのフレームの間の変位を見つけるための以前の手法も示す。相対倍率の修正を例示する図8に示されるように、これは、現在画像フレームおよびマッチングキーフレームのマッチした特徴に対して行われるプロクルステス分析[4]を介して行うことができる。フレームは、変位の後にほぼマッチされるが、2つのフレームの間には、依然として相対スケールが存在する。したがって、2つのフレーム間の相対スケールは、適切に再算出されなければならない。各点がxおよびy双方の成分を有することを想定する。:
最初に、すべての成分の平均を算出する:
対物レンズに示される倍率は、必ずしも正確であるとは限らない。例えば、10倍の対物レンズは、10.01の倍率を有する場合がある。正確な倍率は、物理的な較正を使用して達成することができる。しかしながらこのような情報がない場合は、画像マッチングのプロセスにおいて、異なる対物レンズ間の「相対」倍率を見つけることができる。キーフレームの中の特徴のいくつかと現在画像とが、互いに正しくマッチされることを想定する。各特徴は、ある位置を有し、また、ある点として表すことができることに留意されたい。基準フレームの中のマッチした特徴は、
として列記することができ、マッチングフレームの中のマッチしたフレームは、
として列記することができる。同じインデックスを有する特徴がマッチし、すなわち、
riがmiに対応する。図8は、このような相関関係を示し、また、2つのフレームの間の変位を見つけるための以前の手法も示す。相対倍率の修正を例示する図8に示されるように、これは、現在画像フレームおよびマッチングキーフレームのマッチした特徴に対して行われるプロクルステス分析[4]を介して行うことができる。フレームは、変位の後にほぼマッチされるが、2つのフレームの間には、依然として相対スケールが存在する。したがって、2つのフレーム間の相対スケールは、適切に再算出されなければならない。各点がxおよびy双方の成分を有することを想定する。:
最初に、すべての成分の平均を算出する:
次に、点セット毎のスケールを算出する:
次いで、正確な相対倍率を
として算出し、
式中、sは、元々は対物レンズの先見的な知識に基づいて算出した相対倍率である。例えば、10倍および40倍の対物レンズ場合は、s=0.25である。
として算出し、
式中、sは、元々は対物レンズの先見的な知識に基づいて算出した相対倍率である。例えば、10倍および40倍の対物レンズ場合は、s=0.25である。
マルチ対物レンズのスキャニング
複数のスキャンのリンキング
ユーザは、異なる対物レンズによって取り込まれた画像をステッチし、別のスキャンを作り出すように選択することができる。このようなステッチングのための多くの技術が提案されている[2]。この状況において、このスキャンと元々のスキャンとの間に親子関係が確立される。対応する座標空間を関連させるために、2つのスキャンの間にリンクがセットアップされる。子スキャンにおいてn個のフレームが取り込まれることを想定する。これらのフレームのステッチングは、
の位置をもたらす。また、マルチ対物レンズのローカライゼーションを使用することによって、親スキャン内のこれらのフレームの位置が見つけられる。:
これらの座標空間を関連させるために、プロクルステス分析[4]を使用することができ、ここで、未知のものは、平行移動およびスケールである。
複数のスキャンのリンキング
ユーザは、異なる対物レンズによって取り込まれた画像をステッチし、別のスキャンを作り出すように選択することができる。このようなステッチングのための多くの技術が提案されている[2]。この状況において、このスキャンと元々のスキャンとの間に親子関係が確立される。対応する座標空間を関連させるために、2つのスキャンの間にリンクがセットアップされる。子スキャンにおいてn個のフレームが取り込まれることを想定する。これらのフレームのステッチングは、
の位置をもたらす。また、マルチ対物レンズのローカライゼーションを使用することによって、親スキャン内のこれらのフレームの位置が見つけられる。:
これらの座標空間を関連させるために、プロクルステス分析[4]を使用することができ、ここで、未知のものは、平行移動およびスケールである。
ユーザインターフェース
ユーザは、任意のときに異なる対物レンズに切り替えることができる。ユーザはまた、選択した対物レンズでスキャニングを開始することもできる。この時点で、親対物レンズによって取り込まれた以前のスキャンは、背景の中に半透明で示される。これは、ユーザが2つのスキャンを互いに関連させるための視覚的支援を提供する。スキャンを完了した後に、ユーザは、再度親対物レンズに切り替えることができる。この時点で、異なる対物レンズによって取り込まれたスキャンは、半透明で示され、クリックすることができる。ユーザのクリックによって、スキャンビューを切り替えて、子スキャンをアクティブにする。すなわち、40倍のスキャンが不透明になり、一方で、10倍のスキャンが半透明になる。図9Aおよび9Bは、マルチ対物レンズのスキャンのユーザインターフェースの概要を示し、該図において、ユーザは、対物レンズを切り替え、各スキャンを別々に修正することができ、一方で、他のスキャンは、半透明に見える。
ユーザは、任意のときに異なる対物レンズに切り替えることができる。ユーザはまた、選択した対物レンズでスキャニングを開始することもできる。この時点で、親対物レンズによって取り込まれた以前のスキャンは、背景の中に半透明で示される。これは、ユーザが2つのスキャンを互いに関連させるための視覚的支援を提供する。スキャンを完了した後に、ユーザは、再度親対物レンズに切り替えることができる。この時点で、異なる対物レンズによって取り込まれたスキャンは、半透明で示され、クリックすることができる。ユーザのクリックによって、スキャンビューを切り替えて、子スキャンをアクティブにする。すなわち、40倍のスキャンが不透明になり、一方で、10倍のスキャンが半透明になる。図9Aおよび9Bは、マルチ対物レンズのスキャンのユーザインターフェースの概要を示し、該図において、ユーザは、対物レンズを切り替え、各スキャンを別々に修正することができ、一方で、他のスキャンは、半透明に見える。
マルチ対物レンズのスキャンの記録
親スキャンおよびその子スキャンは、それら自体のファイルフォーマットを使用して保存される。子スキャンは、追加的なファイルを使用して親スキャンにリンクさせることができる。子スキャンファイルへの経路および親スキャン内の子スキャンの位置などの情報が、このファイルに記録される。
親スキャンおよびその子スキャンは、それら自体のファイルフォーマットを使用して保存される。子スキャンは、追加的なファイルを使用して親スキャンにリンクさせることができる。子スキャンファイルへの経路および親スキャン内の子スキャンの位置などの情報が、このファイルに記録される。
Zスタック
顕微鏡検査における試料のデジタル化は、通常、大きい2Dスキャンを取り込むことによって達成される。この解決策は、大部分の状況に当てはまるが、狭い被写界深度を取り込むことだけしか可能にせず、ある特定の試料の分析に有益な情報を剥ぎ取ってしまう。この問題の解決策は、Zスタックの取り込みである。Zスタックは、異なる焦点面において同じ標本を表す画像のスタックとして定義される。理論的には、スキャンのスタックに至る試料全体のZスタックを取り込むことができる。しかしながら、スキャンを構成する画像が高解像度であるため、スキャンのスタックは、あまりに多くのメモリ空間を必要とするので、実際的でなくなる。
顕微鏡検査における試料のデジタル化は、通常、大きい2Dスキャンを取り込むことによって達成される。この解決策は、大部分の状況に当てはまるが、狭い被写界深度を取り込むことだけしか可能にせず、ある特定の試料の分析に有益な情報を剥ぎ取ってしまう。この問題の解決策は、Zスタックの取り込みである。Zスタックは、異なる焦点面において同じ標本を表す画像のスタックとして定義される。理論的には、スキャンのスタックに至る試料全体のZスタックを取り込むことができる。しかしながら、スキャンを構成する画像が高解像度であるため、スキャンのスタックは、あまりに多くのメモリ空間を必要とするので、実際的でなくなる。
この節は、標本の限定された領域を網羅するZスタックを記録し、試料全体を網羅するスキャンに該スタックを添付することによって、メモリ使用量を低減させるための方法を提案する。この解決策は、メモリ使用量を少なく保ちながら、分析のためのスキャンの十分な深さ情報を提供するといった利点を有する。
この節は、2つの部分に分けられる。顕微鏡を使用してZスタックを記録し、視覚化するためのワークフローが第1の節において説明され、Zスタックのスキャンへの添付が第2の節において説明される。
Zスタックの記録
ハードウェアのセットアップ
図10に示されるように、Zスタックは、顕微鏡に搭載されるデジタルビデオカメラを使用して記録することができる。図10において、本システムセットアップは、画像を取り込むカメラが搭載される顕微鏡を備え、一方で、顕微鏡ステージは、異なる深さで移動する。カメラが、顕微鏡の下に配置された標本を一定の時間間隔で取り込んでいる間、試料が異なる深さで確認されるように顕微鏡ステージを移動させることができる。その結果、カメラによって取り込まれた画像は、再グループ化して、記録中に生じたステージの移動の量だけによって制限される深さの範囲で、試料の同じ場所を表す画像のスタックを形成することができる。この方法は、必ずしも深さ情報の分析に限定されるとは限らず、記録中にステージを横方向/空間的に移動させることによって、試料のある領域を記録するために使用することができることに留意されたい。
ハードウェアのセットアップ
図10に示されるように、Zスタックは、顕微鏡に搭載されるデジタルビデオカメラを使用して記録することができる。図10において、本システムセットアップは、画像を取り込むカメラが搭載される顕微鏡を備え、一方で、顕微鏡ステージは、異なる深さで移動する。カメラが、顕微鏡の下に配置された標本を一定の時間間隔で取り込んでいる間、試料が異なる深さで確認されるように顕微鏡ステージを移動させることができる。その結果、カメラによって取り込まれた画像は、再グループ化して、記録中に生じたステージの移動の量だけによって制限される深さの範囲で、試料の同じ場所を表す画像のスタックを形成することができる。この方法は、必ずしも深さ情報の分析に限定されるとは限らず、記録中にステージを横方向/空間的に移動させることによって、試料のある領域を記録するために使用することができることに留意されたい。
Zスタックの視覚化
Zスタックは、図11に示されるように一度に1つのフレームを視覚化し、該図は、Zスタックを確認するためのユーザインターフェースを例示する。Zスタックを通り抜けるための異なる方法がある。第1の方法は、ビデオの再生に類似する方法における記録速度と同じ速度(または、速度の係数)で、最初から最後までZスタックを再生することである。第2の方法は、マウスのスクロールホイールを使用して、またはマウスによって現在フレームのカーソルをドラッグして、フレームを通してスクロールし、Zスタックに沿って前方または後方に進めることを可能にすることである。最後の方法は、図11に示されるように、スライダーを使用して任意のランダムなフレームを選択して、スタック内を確認することである。
Zスタックは、図11に示されるように一度に1つのフレームを視覚化し、該図は、Zスタックを確認するためのユーザインターフェースを例示する。Zスタックを通り抜けるための異なる方法がある。第1の方法は、ビデオの再生に類似する方法における記録速度と同じ速度(または、速度の係数)で、最初から最後までZスタックを再生することである。第2の方法は、マウスのスクロールホイールを使用して、またはマウスによって現在フレームのカーソルをドラッグして、フレームを通してスクロールし、Zスタックに沿って前方または後方に進めることを可能にすることである。最後の方法は、図11に示されるように、スライダーを使用して任意のランダムなフレームを選択して、スタック内を確認することである。
ユーザインターフェースは、Zスタックの最初および最後をトリミングするなどの、他の特徴を有することができることに留意されたい。例えば、Zスタックを手動で記録するユーザは、ソフトウェアの「記録」ボタンをクリックし、ユーザの顕微鏡を準備するためにいくらか時間をとり、次いで、焦点ノブまたはステージを駆動して、対象の焦点面および領域を取り込む。これらの動作の間に取り込まれたフレームは、トリミングしてZスタックのサイズを低減させることができる。
Zスタックは、多くのメモリ空間を使用し得るので、視覚化されているスタック全体をメモリに保持しておくことは困難である。この問題に適応するために、Zスタックをハードディスクに保存されるファイルに保持し、現在表示されているフレームだけをロードすることが可能である。しかしながら、これは、Zスタックを保存するために使用されるファイルフォーマットが、スタック内のフレームのランダムアクセスを可能にすることが想定される。この課題を解決するために、次の節で、保存技法が提案される。
Zスタックの保存
高解像度画像を含むZスタックは、メモリ空間に関して高コストになり得る。よって、スタックの画像を圧縮することは、Zスタックの記録における重要なステップになる。以前の節で述べたとおり、Zスタックの画像は、任意の順序でファイルから直接視覚化することができる。圧縮アルゴリズムは、Zスタック内のランダムなフレームの復号化を可能にする。故に、標準ビデオ圧縮プロセスの使用は、このようなプロセスが一時的な様式で画像を圧縮するので、通常注記適切であり、Zスタックにおける隣接画像間の必然的な依存性につながる。ビデオ圧縮アルゴリズムは、大きい圧縮比を提供するが、Zスタックにおける任意の画像nの解凍は、以前の画像n−1の解凍を必要とし、その結果、Zスタックの第1のフレームに到達するまで、以前の画像の解凍を必要とする。この解凍方法は、最初から最後への順序でビデオを読み出すときにだけ適切である。しかしながら、Zスタックの全体を通したフレームのランダムアクセスには適さない。1つの解決策は、Zスタックのフレームを別個の画像として個々に圧縮することである。これは、最良の圧縮比を提供することはできないが、Zスタックを読み出すための要件を満たす。次いで、これらの圧縮画像は、TIFFなどの多層画像ファイルフォーマットで保存することができる。
高解像度画像を含むZスタックは、メモリ空間に関して高コストになり得る。よって、スタックの画像を圧縮することは、Zスタックの記録における重要なステップになる。以前の節で述べたとおり、Zスタックの画像は、任意の順序でファイルから直接視覚化することができる。圧縮アルゴリズムは、Zスタック内のランダムなフレームの復号化を可能にする。故に、標準ビデオ圧縮プロセスの使用は、このようなプロセスが一時的な様式で画像を圧縮するので、通常注記適切であり、Zスタックにおける隣接画像間の必然的な依存性につながる。ビデオ圧縮アルゴリズムは、大きい圧縮比を提供するが、Zスタックにおける任意の画像nの解凍は、以前の画像n−1の解凍を必要とし、その結果、Zスタックの第1のフレームに到達するまで、以前の画像の解凍を必要とする。この解凍方法は、最初から最後への順序でビデオを読み出すときにだけ適切である。しかしながら、Zスタックの全体を通したフレームのランダムアクセスには適さない。1つの解決策は、Zスタックのフレームを別個の画像として個々に圧縮することである。これは、最良の圧縮比を提供することはできないが、Zスタックを読み出すための要件を満たす。次いで、これらの圧縮画像は、TIFFなどの多層画像ファイルフォーマットで保存することができる。
Zスタックのスキャンへの添付
Zスタックは、試料の限定された領域しか網羅しないので、標本を分析するための十分な情報を提供しない場合がある。しかしながら、スキャン内でローカライズされたときに、強力な特徴になる。この部分は、Zスタックを、顕微鏡およびデジタルビデオカメラを使用して手動で記録された試料スキャンの中へ埋め込むための装置を提案する。
Zスタックは、試料の限定された領域しか網羅しないので、標本を分析するための十分な情報を提供しない場合がある。しかしながら、スキャン内でローカライズされたときに、強力な特徴になる。この部分は、Zスタックを、顕微鏡およびデジタルビデオカメラを使用して手動で記録された試料スキャンの中へ埋め込むための装置を提案する。
Zスタックの記録
この節は、顕微鏡およびデジタルカメラを使用して試料を手動でスキャンするためのシステムを有することを想定する。このようなシステムのユーザインターフェースは、図12に示されるように、スキャンのビュー、ならびにカメラによって取り込まれた現在画像フレームの位置を備える。中央の四角形は、スキャンに対するカメラの現在位置を示す。
この節は、顕微鏡およびデジタルカメラを使用して試料を手動でスキャンするためのシステムを有することを想定する。このようなシステムのユーザインターフェースは、図12に示されるように、スキャンのビュー、ならびにカメラによって取り込まれた現在画像フレームの位置を備える。中央の四角形は、スキャンに対するカメラの現在位置を示す。
対象の領域を見つけたときに、ユーザは、「Zスタックの記録」の節で説明したように、ボタンをクリックすることによって、新しいZスタックの記録を開始することができる。記録されたときに、Zスタックの位置は、手動スキャンシステムのローカライゼーションアルゴリズムを使用して分かっている。ユーザは、顕微鏡ステージを横方向に自由に移動させることができるので、システムは、Zスタック全体の位置を、記録される第1のフレームの場所に設定することに留意されたい。長方形を有するスキャンに注釈を付けることによって、Zスタックとスキャンとの間にリンクが確立される。長方形の位置およびサイズは、Zスタックの1つにマッチし、又、クリックして、「Zスタックの視覚化」の節で説明したZスタックのビューアを開くことができる(図13を参照されたい)。図13において、Zスタックは、スキャンにおいてローカライズされ、そして、半透明の画像を有する輪郭長方形として示される。これらの長方形は、クリック可能であり、Zスタックを確認するための別の窓を開く。
「マルチ対物レンズのローカライゼーション」の節で説明されるローカライゼーションアルゴリズムは、スキャンのために使用した倍率とは異なる倍率を有する対物レンズを使用してZスタックを記録するときに、現在フレームの位置の推定だけを提供する。この推定は、記録されたZスタックの位置の精度を保証することができない。この課題の解決策は、ユーザが、マウスを使用してスキャン内のZスタックを表す長方形の注釈をドラッグすることによって、スキャンに対するZスタックの位置を精緻化することを可能にすることである。長方形の注釈の半透明の内側にZスタックの画像の1つを描画することによって、視覚フィードバックをユーザに提供することができる。これは、Zスタックとスキャンとの間の重なりを見ることができるので有益であるが、長方形の内側に描画されるフレームは、スキャンと同じ焦点面に記録されることを想定する。選択したフレームを説明されるようにすることを確実にするためのいくつかの方法がある。スキャンが鮮明な画像で慎重に構成される場合、スキャンに最良にマッチするように、Zスタック内の最も鮮明なフレームを選択することができる。別の可能性は、記録される第1のフレームを常時選択することであるが、これは、スキャンと同じ焦点面から始めてZスタックが記録されることが想定される。
これは、記録する対象の領域をユーザが見つけた時点で記録を開始するので、許容可能な想定である。この領域は、スキャンを閲覧することによってだけ見つけることができ、該閲覧は、カメラを移動させ、一方で、スキャンと同じ焦点面に存在する。
これは、記録する対象の領域をユーザが見つけた時点で記録を開始するので、許容可能な想定である。この領域は、スキャンを閲覧することによってだけ見つけることができ、該閲覧は、カメラを移動させ、一方で、スキャンと同じ焦点面に存在する。
Zスタックとスキャンとの間のリンクの保存
スキャンおよびZスタックは、それら自体のファイルフォーマットを使用して保存される。この構造は、柔軟性のために保たれるべきである。したがって、スキャンとそのスキャンに記録されるZスタックとの間の関係を記憶するために、追加ファイルが作り出されるべきである。このファイルは、スキャンおよび個々のZスタックのファイルへのパス名を含むべきである。また、スキャンに対するZスタックの位置も含むべきである。
スキャンおよびZスタックは、それら自体のファイルフォーマットを使用して保存される。この構造は、柔軟性のために保たれるべきである。したがって、スキャンとそのスキャンに記録されるZスタックとの間の関係を記憶するために、追加ファイルが作り出されるべきである。このファイルは、スキャンおよび個々のZスタックのファイルへのパス名を含むべきである。また、スキャンに対するZスタックの位置も含むべきである。
前述の説明では、実施形態の完全な理解を提供するために、説明の目的で多数の詳細が記載される。しかしながら、これらの具体的な詳細は、必要とされないことが当業者には明らかになるであろう。他の事例では、理解を不明瞭にしないために、よく知られている電気構造および回路がブロック図の形態で示される。例えば、本明細書で説明される実施形態が、ソフトウェアルーチン、ハードウェア回路、ファームウェア、またはこれらの組み合わせとして実施されるかどうかに関する具体的な詳細は提供されない。
本開示の実施形態は、機械可読媒体(コンピュータ可読媒体、プロセッサ可読媒体、またはその中に具現化されるコンピュータ可読プログラムコードを有するコンピュータ使用可能媒体とも称される)に記憶されるコンピュータプログラム製品として表すことができる。機械可読媒体は、磁気、光、またはディスケット、コンパクトディスクリードオンリーメモリ(CD−ROM)、メモリデバイス(揮発性もしくは不揮発性)、もしくは類似する記憶機構を含む電気記憶媒体を含む、任意の適切な有形の非一時的な媒体とすることができる。機械可読媒体は、様々な複数組の命令、コードシーケンス、設定情報、または実行されたときにプロセッサに本開示の実施形態による方法のステップを行わせる他のデータを含むことができる。当業者は、記載される実現形態を実施するために必要な他の命令および動作もまた、機械可読媒体に記憶することができることを認識するであろう。機械可読媒体に記憶される命令は、プロセッサまたは他の適切な処理デバイスによって実行することができ、記載されるタスクを行うために回路とインターフェースをとることができる。
上で説明した実施形態は、単なる実施例であることが意図される。変更、修正、および変形を、当業者によって特定の実施形態に生じさせることができる。特許請求の範囲の範囲は、本明細書に記載される特定の実施形態によって限定されるべきではなく、総じて明細書と一致する様式で制限されるべきである。
非特許文献
以下の非特許文献は、参照によりその全体が本明細書に組み込まれる。
[1]「BZ−9000 All−in−one Fluorescence Microscope,」 Keyence Corporation,[Online].入手先:http://www.keyence.com/products/microscope/fluorescence−microscope/bz−9000/index.jsp.
[2]H.a.L.L.a.C.B.a.A.M.a.L.S.LO,「Apparatus and method for digital microscopy imaging」.2013.
[3]The proceedings of the seventh IEEE international conference on Computer vision,1999での、D.G.Lowe,「Object recognition from local scale−invariant features,」.
[4]G.D.J.C.Gower,Procrustes Problems,Oxford University Press,2004.
非特許文献
以下の非特許文献は、参照によりその全体が本明細書に組み込まれる。
[1]「BZ−9000 All−in−one Fluorescence Microscope,」 Keyence Corporation,[Online].入手先:http://www.keyence.com/products/microscope/fluorescence−microscope/bz−9000/index.jsp.
[2]H.a.L.L.a.C.B.a.A.M.a.L.S.LO,「Apparatus and method for digital microscopy imaging」.2013.
[3]The proceedings of the seventh IEEE international conference on Computer vision,1999での、D.G.Lowe,「Object recognition from local scale−invariant features,」.
[4]G.D.J.C.Gower,Procrustes Problems,Oxford University Press,2004.
Claims (17)
- システムであって、
顕微鏡と、
前記顕微鏡を通して画像を取り込むための、前記顕微鏡に結合されたカメラと、
前記カメラに結合されたコンピューティングデバイスであって、
メモリ、および
プロセッサであって、
前記カメラから新しい画像を獲得し、
以前の画像と前記新しい画像とを比較して前記新しい画像の推定位置を提供し、
前記新しい画像の前記推定位置に基づいて、前記メモリに記憶されたスキャンの隣接キーフレームを識別し、
前記新しい画像と前記識別したキーフレームとを比較して前記隣接キーフレームからの前記新しい画像の相対変位を決定し、そして、
前記隣接キーフレームからの前記新しい画像の前記相対変位に基づいて、前記新しい画像の位置を決定するように構成され、適合される、
プロセッサを備える、
コンピューティングデバイスと、
を備える、システム。 - 前記プロセッサが、
前記新しい画像がローカライズされたかどうかを判定し、
前記画像がローカライズされていなかった場合に、全数探索を行って前記新しい画像の位置を決定するようにさらに構成される、請求項1に記載のシステム。 - 前記全数探索が、各繰り返しにおいて前記キーフレームの一部分を選択し、前記新しい画像と前記キーフレームの選択した一部分とを比較することによって繰り返しで行われる、請求項2に記載のシステム。
- 前記コンピューティングデバイスに結合されたディスプレイをさらに備え、
前期プロセッサが、前記スキャンおよび前記新しい画像を前記ディスプレイにレンダリングするようにさらに構成される、請求項1に記載のシステム。 - 前記プロセッサが、前記新しい画像を既存のスキャンに埋め込むようにさらに構成される、請求項1に記載のシステム。
- 前記プロセッサが、zスタックを既存のスキャンに埋め込むようにさらに構成され、前記zスタックが、異なる深さで取り込まれた前記試料の一組の画像である、請求項1に記載のシステム。
- 前記プロセッサが、前記zスタックの中の各画像のランダムアクセスを許可する様式で前記zスタックを圧縮するようにさらに構成される、請求項6に記載のシステム。
- 入力デバイスをさらに備え、前記プロセッサが、前記既存のスキャンに対して埋め込み画像を移動させるためのユーザ入力を受け付けるようにさらに構成される、請求項1に記載のシステム。
- 顕微鏡によって取り込まれた画像を獲得し、組み合わせる方法であって、
撮像デバイスを使用して前記顕微鏡から新しい画像を取り込むことと、
前記新しい画像と以前の画像とを比較して前記新しい画像の推定位置を提供することと、
前記新しい画像の前記推定位置に基づいて、メモリに記憶されたスキャンの隣接キーフレームを識別することと、
前記新しい画像と前記識別したキーフレームとを比較して前記隣接キーフレームからの前記新しい画像の相対変位を決定することと、
前記新しい画像の前記相対変位に基づいて、前記新しい画像の位置を決定することと、
を含む、方法。 - 前記新しい画像がローカライズされたかどうかを判定することと、
前記画像がローカライズされていなかった場合に、全数探索を行って前記新しい画像の位置を決定することと、をさらに含む、請求項9に記載の方法。 - 前記全数探索が、各繰り返しにおける前記キーフレームの一部分を選択し、前記新しい画像と前記キーフレームの選択した一部分とを比較することによって繰り返しで行われる、請求項10に記載の方法。
- 前記スキャンおよび前記新しい画像を前記ディスプレイにレンダリングすることをさらに含む、請求項9に記載の方法。
- 前記新しい画像を既存のスキャンに埋め込むことをさらに含む、請求項9に記載の方法。
- zスタックを既存のスキャンに埋め込むことをさらに含み、前記zスタックが、異なる深さで取り込まれた前記試料の一組の画像である、請求項9に記載の方法。
- 前記zスタックの中の各画像のランダムアクセスを許可する様式で前記zスタックを圧縮することをさらに含む、請求項14に記載の方法。
- 入力デバイスにおいてユーザ入力を検出し、前記ユーザ入力に応答して、前記既存のスキャンに対して埋め込み画像を移動させることをさらに含む、請求項9に記載の方法。
- プロセッサによって実行して、請求項9〜16のいずれか一項に記載の方法を行うためのステートメントおよび命令を記憶する、非一時的なコンピュータ可読メモリ。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462038499P | 2014-08-18 | 2014-08-18 | |
US62/038,499 | 2014-08-18 | ||
PCT/CA2015/050779 WO2016026038A1 (en) | 2014-08-18 | 2015-08-17 | System and method for embedded images in large field-of-view microscopic scans |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017526011A true JP2017526011A (ja) | 2017-09-07 |
Family
ID=55350042
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017510584A Pending JP2017526011A (ja) | 2014-08-18 | 2015-08-17 | 広視野顕微鏡スキャンにおける埋め込み画像のためのシステムおよび方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20170242235A1 (ja) |
EP (1) | EP3183612A4 (ja) |
JP (1) | JP2017526011A (ja) |
CN (1) | CN107076980A (ja) |
CA (1) | CA2995719A1 (ja) |
WO (1) | WO2016026038A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018054690A (ja) * | 2016-09-26 | 2018-04-05 | オリンパス株式会社 | 顕微鏡撮像システム |
EP3785021B1 (en) * | 2018-04-24 | 2024-03-27 | First Frontier Pty Ltd | System and method for performing automated analysis of air samples |
CN110211183B (zh) * | 2019-06-13 | 2022-10-21 | 广州番禺职业技术学院 | 基于单次成像大视场led透镜贴装的多目标定位*** |
CN113628247A (zh) * | 2021-07-29 | 2021-11-09 | 华中科技大学 | 一种***样本的自动化搜索成像方法及*** |
CN118134751B (zh) * | 2024-04-30 | 2024-07-23 | 合肥埃科光电科技股份有限公司 | 工作距离修正方法、多采图装置拼接方法、***和设备 |
Family Cites Families (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4760385A (en) * | 1985-04-22 | 1988-07-26 | E. I. Du Pont De Nemours And Company | Electronic mosaic imaging process |
US6597818B2 (en) * | 1997-05-09 | 2003-07-22 | Sarnoff Corporation | Method and apparatus for performing geo-spatial registration of imagery |
US6434280B1 (en) * | 1997-11-10 | 2002-08-13 | Gentech Corporation | System and method for generating super-resolution-enhanced mosaic images |
IL125337A0 (en) * | 1998-07-14 | 1999-03-12 | Nova Measuring Instr Ltd | Method and apparatus for lithography monitoring and process control |
EP1008956A1 (en) * | 1998-12-08 | 2000-06-14 | Synoptics Limited | Automatic image montage system |
US6711283B1 (en) * | 2000-05-03 | 2004-03-23 | Aperio Technologies, Inc. | Fully automatic rapid microscope slide scanner |
US7062091B2 (en) * | 2001-01-16 | 2006-06-13 | Applied Precision, Llc | Coordinate calibration for scanning systems |
WO2002084368A1 (en) * | 2001-04-12 | 2002-10-24 | Cellavision Ab | A method in microscopy and a microscope, where subimages are recorded and puzzled in the same coordinate system to enable a precise positioning of the microscope stage |
SE517626C3 (sv) * | 2001-04-12 | 2002-09-04 | Cellavision Ab | Förfarande vid mikroskopering för att söka av och positionera ett objekt, där bilder tas och sammanfogas i samma bildkoordinatsystem för att noggrant kunna ställa in mikroskopbordet |
US7596249B2 (en) * | 2002-02-22 | 2009-09-29 | Olympus America Inc. | Focusable virtual microscopy apparatus and method |
IL156589A0 (en) * | 2003-06-23 | 2004-01-04 | Nova Measuring Instr Ltd | Method and system for automatic target finding |
US7756357B2 (en) * | 2003-07-01 | 2010-07-13 | Olympus Corporation | Microscope system for obtaining high and low magnification images |
JP5134365B2 (ja) * | 2004-05-27 | 2013-01-30 | アペリオ・テクノロジーズ・インコーポレイテッド | 三次元仮想スライドを生成しかつ可視化するためのシステム及び方法 |
US7792338B2 (en) * | 2004-08-16 | 2010-09-07 | Olympus America Inc. | Method and apparatus of mechanical stage positioning in virtual microscopy image capture |
US7643665B2 (en) * | 2004-08-31 | 2010-01-05 | Semiconductor Insights Inc. | Method of design analysis of existing integrated circuits |
US7456377B2 (en) * | 2004-08-31 | 2008-11-25 | Carl Zeiss Microimaging Ais, Inc. | System and method for creating magnified images of a microscope slide |
US20060127880A1 (en) * | 2004-12-15 | 2006-06-15 | Walter Harris | Computerized image capture of structures of interest within a tissue sample |
CA2507174C (en) * | 2005-05-13 | 2013-07-16 | Semiconductor Insights Inc. | Method of registering and aligning multiple images |
EP2095332B1 (en) * | 2006-11-16 | 2010-08-11 | Visiopharm A/s | Feature-based registration of sectional images |
US8098956B2 (en) * | 2007-03-23 | 2012-01-17 | Vantana Medical Systems, Inc. | Digital microscope slide scanning system and methods |
US20090041316A1 (en) * | 2007-08-07 | 2009-02-12 | California Institute Of Technology | Vibratome assisted subsurface imaging microscopy (vibra-ssim) |
US20090091566A1 (en) * | 2007-10-05 | 2009-04-09 | Turney Stephen G | System and methods for thick specimen imaging using a microscope based tissue sectioning device |
US8131056B2 (en) * | 2008-09-30 | 2012-03-06 | International Business Machines Corporation | Constructing variability maps by correlating off-state leakage emission images to layout information |
US8781219B2 (en) * | 2008-10-12 | 2014-07-15 | Fei Company | High accuracy beam placement for local area navigation |
US8509565B2 (en) * | 2008-12-15 | 2013-08-13 | National Tsing Hua University | Optimal multi-resolution blending of confocal microscope images |
US8331726B2 (en) * | 2009-06-29 | 2012-12-11 | International Business Machines Corporation | Creating emission images of integrated circuits |
US20110169985A1 (en) * | 2009-07-23 | 2011-07-14 | Four Chambers Studio, LLC | Method of Generating Seamless Mosaic Images from Multi-Axis and Multi-Focus Photographic Data |
US9075106B2 (en) * | 2009-07-30 | 2015-07-07 | International Business Machines Corporation | Detecting chip alterations with light emission |
US8564623B2 (en) * | 2009-12-11 | 2013-10-22 | Molecular Devices, Llc | Integrated data visualization for multi-dimensional microscopy |
JP5434621B2 (ja) * | 2010-01-19 | 2014-03-05 | ソニー株式会社 | 情報処理装置、情報処理方法、及びそのプログラム |
US8817015B2 (en) * | 2010-03-03 | 2014-08-26 | Adobe Systems Incorporated | Methods, apparatus, and computer-readable storage media for depth-based rendering of focused plenoptic camera data |
US8396269B2 (en) * | 2010-04-08 | 2013-03-12 | Digital Pathco LLC | Image quality assessment including comparison of overlapped margins |
JP2012010275A (ja) * | 2010-06-28 | 2012-01-12 | Sony Corp | 情報処理装置、情報処理方法、及びそのプログラム |
JP5324534B2 (ja) * | 2010-07-29 | 2013-10-23 | 株式会社日立ハイテクノロジーズ | 検査方法及び装置 |
DE102010039652A1 (de) * | 2010-08-23 | 2012-02-23 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Mosaikaufnahmeerzeugung |
US8724000B2 (en) * | 2010-08-27 | 2014-05-13 | Adobe Systems Incorporated | Methods and apparatus for super-resolution in integral photography |
WO2012155267A1 (en) * | 2011-05-13 | 2012-11-22 | Fibics Incorporated | Microscopy imaging method and system |
JP2013025466A (ja) * | 2011-07-19 | 2013-02-04 | Sony Corp | 画像処理装置、画像処理システム及び画像処理プログラム |
US9224063B2 (en) * | 2011-08-02 | 2015-12-29 | Viewsiq Inc. | Apparatus and method for digital microscopy imaging |
US9080855B2 (en) * | 2011-09-23 | 2015-07-14 | Mitutoyo Corporation | Method utilizing image correlation to determine position measurements in a machine vision system |
JP2013179581A (ja) * | 2012-02-07 | 2013-09-09 | Canon Inc | 画像生成装置及びその制御方法 |
SG11201406105UA (en) * | 2012-03-30 | 2014-10-30 | Clarient Diagnostic Services Inc | Immunofluorescence and fluorescent-based nucleic acid analysis on a single sample |
JP2013230145A (ja) * | 2012-04-30 | 2013-11-14 | Masahiko Sato | 細胞集団の状態を評価するための方法、候補化合物の発癌性を評価するための方法、潜在的な抗癌化合物の抗癌活性を評価するための方法及び治療用細胞集団の品質を評価するための方法 |
JP2014090401A (ja) * | 2012-10-05 | 2014-05-15 | Canon Inc | 撮像システム及びその制御方法 |
AU2012268846A1 (en) * | 2012-12-21 | 2014-07-10 | Canon Kabushiki Kaisha | Optimal patch ranking for coordinate transform estimation of microscope images from sparse patch shift estimates |
US20160062101A1 (en) * | 2013-04-08 | 2016-03-03 | Wdi Wise Device Inc. | Method and apparatus for small and large format histology sample examination |
JP6290559B2 (ja) * | 2013-09-03 | 2018-03-07 | 株式会社日立ハイテクサイエンス | 断面加工観察方法、断面加工観察装置 |
WO2015199772A2 (en) * | 2014-03-28 | 2015-12-30 | Konica Minolta Laboratory U.S.A., Inc. | Method and system of stitching aerial data using information from previous aerial images |
KR101953679B1 (ko) * | 2014-06-27 | 2019-03-04 | 코닌클리즈케 케이피엔 엔.브이. | Hevc-타일드 비디오 스트림을 기초로 한 관심영역 결정 |
JP6190768B2 (ja) * | 2014-07-02 | 2017-08-30 | 株式会社日立ハイテクノロジーズ | 電子顕微鏡装置およびそれを用いた撮像方法 |
US10226173B2 (en) * | 2014-07-07 | 2019-03-12 | University Of Rochester | System and method for real-time montaging from live moving retina |
US10003754B2 (en) * | 2015-06-18 | 2018-06-19 | Agilent Technologies, Inc. | Full field visual-mid-infrared imaging system |
US9721371B2 (en) * | 2015-12-02 | 2017-08-01 | Caterpillar Inc. | Systems and methods for stitching metallographic and stereoscopic images |
-
2015
- 2015-08-17 US US15/504,576 patent/US20170242235A1/en not_active Abandoned
- 2015-08-17 EP EP15834419.2A patent/EP3183612A4/en not_active Withdrawn
- 2015-08-17 JP JP2017510584A patent/JP2017526011A/ja active Pending
- 2015-08-17 CN CN201580055627.XA patent/CN107076980A/zh active Pending
- 2015-08-17 CA CA2995719A patent/CA2995719A1/en not_active Abandoned
- 2015-08-17 WO PCT/CA2015/050779 patent/WO2016026038A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
CA2995719A1 (en) | 2016-02-25 |
EP3183612A4 (en) | 2018-06-27 |
US20170242235A1 (en) | 2017-08-24 |
WO2016026038A1 (en) | 2016-02-25 |
EP3183612A1 (en) | 2017-06-28 |
CN107076980A (zh) | 2017-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017526011A (ja) | 広視野顕微鏡スキャンにおける埋め込み画像のためのシステムおよび方法 | |
US8350905B2 (en) | Microscope system, image generating method, and program for practicing the same | |
JP4937850B2 (ja) | 顕微鏡システム、そのvs画像生成方法、プログラム | |
JP2019530048A (ja) | 病理データ捕捉 | |
CA2901164C (en) | Referencing in multi-acquisition slide imaging | |
US10582126B2 (en) | Method and device for generating a microscopy panoramic representation | |
JP5996334B2 (ja) | 顕微鏡システム、標本画像生成方法及びプログラム | |
RU2010117215A (ru) | Устройство и способ обработки изображений, устройство ввода изображений и программа | |
US12038966B2 (en) | Method and apparatus for data retrieval in a lightfield database | |
JP5928308B2 (ja) | 画像取得装置および画像取得方法 | |
CN111932542B (zh) | 一种基于多焦距的图像识别方法及装置、存储介质 | |
US20040202357A1 (en) | Silhouette image acquisition | |
JP2014203038A (ja) | 分析装置、分析プログラム及び分析システム | |
Piccinini et al. | Extended depth of focus in optical microscopy: Assessment of existing methods and a new proposal | |
KR101274530B1 (ko) | 이미지 정합 기반 흉부영상 진단 시스템 및 방법 | |
US20110115896A1 (en) | High-speed and large-scale microscope imaging | |
US9214019B2 (en) | Method and system to digitize pathology specimens in a stepwise fashion for review | |
US12008750B2 (en) | Generating annotation data of tissue images | |
WO2014196097A1 (ja) | 画像処理システム、画像処理装置、プログラム、記憶媒体及び画像処理方法 | |
JP6702360B2 (ja) | 情報処理方法、情報処理システム及び情報処理装置 | |
CN113125434A (zh) | 图像分析***和控制拍摄样本图像的方法 | |
JP5530126B2 (ja) | 三次元細胞画像解析システム及びそれに用いる三次元細胞画像解析装置 | |
US20130215146A1 (en) | Image-drawing-data generation apparatus, method for generating image drawing data, and program | |
US11972619B2 (en) | Information processing device, information processing system, information processing method and computer-readable recording medium | |
JP2017041273A (ja) | 情報処理システム及び情報処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180814 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190809 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190827 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200325 |