JP2015156011A - 画像取得装置およびその制御方法 - Google Patents

画像取得装置およびその制御方法 Download PDF

Info

Publication number
JP2015156011A
JP2015156011A JP2014203059A JP2014203059A JP2015156011A JP 2015156011 A JP2015156011 A JP 2015156011A JP 2014203059 A JP2014203059 A JP 2014203059A JP 2014203059 A JP2014203059 A JP 2014203059A JP 2015156011 A JP2015156011 A JP 2015156011A
Authority
JP
Japan
Prior art keywords
imaging
image
image acquisition
sample
interval
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014203059A
Other languages
English (en)
Inventor
齋藤 裕
Yutaka Saito
裕 齋藤
直人 布施
Naoto Fuse
直人 布施
智朗 川上
Tomoaki Kawakami
智朗 川上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014203059A priority Critical patent/JP2015156011A/ja
Priority to PCT/JP2015/000042 priority patent/WO2015107872A1/en
Publication of JP2015156011A publication Critical patent/JP2015156011A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/18Arrangements with more than one light path, e.g. for comparing two specimens
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/24Base structure
    • G02B21/241Devices for focusing
    • G02B21/245Devices for focusing using auxiliary sources, detectors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/14Beam splitting or combining systems operating by reflection only
    • G02B27/145Beam splitting or combining systems operating by reflection only having sequential partially reflecting surfaces
    • G02B27/146Beam splitting or combining systems operating by reflection only having sequential partially reflecting surfaces with a tree or branched structure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/236Image signal generators using stereoscopic image cameras using a single 2D image sensor using varifocal lenses or mirrors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microscoopes, Condenser (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】試料から複数層の画像を取得する処理を効率的に実行することのできる技術を提供する。
【解決手段】画像取得装置が、試料からの光を集光する光学系と、前記光学系からの光路を複数の光路に分割する分割手段と、前記複数の光路上にそれぞれ受光面を有する複数の撮像手段と、前記複数の撮像手段を用いて第一の処理および第二の処理を行う制御手段と、前記複数の撮像手段の受光面と光学的に共役な試料側の面である複数の基準面の間隔を変更する変更手段と、を有する。前記変更手段は、前記複数の撮像手段が前記第一の処理のための撮像を行う場合と前記第二の処理のための撮像を行う場合とで、前記複数の基準面の間隔を変える。
【選択図】図1

Description

本発明は、画像取得装置に関し、特に、試料の多層の画像を高速で取得するための画像取得装置に関する。
病理学の分野等で、光学顕微鏡の代替として、試料を撮像することによりデジタル画像を取得する画像取得装置が注目されている。この装置においては、取得した画像データを用いて、医師による病状診断を可能とする。この種の装置は、デジタル顕微鏡システム、スライドスキャナ、バーチャルスライドシステムなどと呼ばれる。病理診断画像のデジタル化により、例えば細胞の形状把握や個数算出、細胞質と核の面積比を算出することで、病理診断に有用な種々の情報の提示も可能となる。
一方で、細胞には厚みがあるため、医師は、厚み方向(Z方向)に細胞核等の構造物がどのように分布しているかも総合して病理診断を行う必要がある。このため、顕微鏡のような焦点深度の浅い光学系を有する画像取得装置においては、例えば、試料を載せたステージをZ方向に移動させながら構造物を検出し、画像を取得すべきZ範囲(高さ範囲)を決定する。そして、ステージの高さを微小移動させながら、そのZ範囲内の複数層の画像を取得する。こうして撮像した複数の画像から、全ての領域で焦点が合った全焦点画像や、厚み方向の構造物の分布が把握できる三次元画像を構築することが行われる。各層の画像はレイヤー画像、複数層のレイヤー画像群はZスタック画像とも呼ばれる。
ところが、観察すべき構造物は、試料内のどの高さに分布しているか未知であるため、試料内の広域を探索する必要があり、探索に時間を要することがあった。一方で、高さ方向に高分解能の画像を取得するためには、ステージ高さの移動を狭ピッチで制御する必要があり、対象層の画像取得に更に時間を要した。病理診断用のスライドスキャナ等の大量の試料の画像取得を行う装置で、このように時間を要すると、経時変化の影響で、最初の方に取得した画像と最後の方に取得した画像との相関が担保できず、正確な比較診断の妨げとなることがある。例えば、病理診断においては、同一の試料に対して、照射する光の波長等の条件を複数変えて画像取得し、それらを比較して診断を行うことがある。その際に、観察された差異が、照射条件の違いによって観察された症状なのか、経時変化(例えば光源の温度変動)によって違って現れた誤差なのかが判別困難となる。
特許文献1には、被写体からの光を複数の光に分割し、光軸に沿って配設位置が互いに異なるようにされた複数の撮像素子で受光することで、フォーカス位置が互いに異なる複数の画像信号を記録できる画像信号記録装置が開示されている。この構成によって、複数層の画像を取得する時間を、従来よりも削減できる。
また、特許文献2には、顕微鏡と対象物の距離を順次変化させ、コントラストが最大となる距離を求める粗調整手段と、粗調整手段で求めた距離付近を微移動し、コントラストが最大となる距離を更に求める微調整手段とを備える画像処理装置が開示されている。この方法を用いれば、コントラストが最大となる距離から遠い距離付近での微移動が割愛できるので、画像を取得すべきZ範囲の探索時間を、従来よりも削減できる。
しかしながら、多層画像の取得と試料内の探索のように、異なる目的の複数の処理に対して、トータルの処理時間を削減するための方法に関しては、いずれの文献にも開示されていない。なお、多層画像の取得を行う撮像系と、試料内の探索を行う撮像系を分け、並列に処理を行うことでトータルの処理時間を削減することも考えられるが、この場合は装
置の大型化とコスト増を招くため、好ましくない。
また、別の課題として、カラー画像の取得に関する課題が挙げられる。病理診断の対象となる標本は染色されていることがほとんどのため、病理診断を行う上でカラー画像の取得は必須である。しかしながら、ベイヤー配列の撮像素子を用いる構成では、高精細化を実現することが難しい。一方、高精細化のために、光源の色をR,G,Bに切り替えながら撮像する方法もあるが、この構成は装置の大型化を招くとともに、3回の照明・撮像を行う必要があり撮像時間がかかるという難点がある。
特開平10−257369号公報 特開平8−021950号公報
本発明はこのような事情に鑑みてなされたもので、試料から複数層の画像を取得する処理を効率的に実行することのできる技術を提供することを目的とする。また、本発明の他の目的は、一つの撮像系で、目的の異なる複数の処理に応じた画像取得を効率的に実行することのできる技術を提供することにある。
本発明の第1態様は、試料からの光を集光する光学系と、前記光学系からの光路を複数の光路に分割する分割手段と、前記複数の光路上にそれぞれ受光面を有する複数の撮像手段と、前記複数の撮像手段を用いて第一の処理および第二の処理を行う制御手段と、前記複数の撮像手段の受光面と光学的に共役な試料側の面である複数の基準面の間隔を変更する変更手段と、を有し、前記変更手段は、前記複数の撮像手段が前記第一の処理のための撮像を行う場合と前記第二の処理のための撮像を行う場合とで、前記複数の基準面の間隔を変えることを特徴とする画像取得装である。
本発明の第2態様は、試料からの光を集光する光学系と、前記光学系からの光路を複数の光路に分割する分割手段と、前記複数の光路上にそれぞれ受光面を有する複数の撮像手段と、を有する画像取得装置の制御方法であって、前記複数の基準面の間隔を第一の間隔に設定する工程と、前記第一の間隔に設定された前記複数の撮像手段を用いて第一の処理を行う工程と、前記複数の基準面の間隔を前記第一の間隔よりも小さい第二の間隔に設定する工程と、前記第二の間隔に設定された前記複数の撮像手段を用いて第二の処理を行う工程と、を含むことを特徴とする画像取得装置の制御方法である。
本発明によれば、試料から複数層の画像を取得する処理を効率的に実行することができる。また、本発明によれば、一つの撮像系で、目的の異なる複数の処理に応じた画像取得を効率的に実行することができる。
第1実施形態に係る画像取得装置の概略図。 画像取得装置のユニット配置図。 制御ユニットの機能ブロック図。 制御ユニットのハードウェア構成図。 Z範囲探索処理と多層画像取得処理との関係を説明するための図。 評価指標のプロファイル例。 画像取得装置の処理全体を表すフローチャート。 Z範囲探索処理を表すフローチャート。 多層画像取得処理を表すフローチャート。 第2実施形態に係る画像取得装置の概略図。 画像取得装置のユニット配置図。 Z範囲探索処理とカラー画像取得処理との関係を説明するための図。 評価指標のプロファイル例。 画像取得装置の処理全体を表すフローチャート。 カラー画像取得処理を表すフローチャート。 第2実施形態に係る画像取得装置の変形例を示す概略図。
以下、図面を参照しながら本発明の実施の形態を説明する。本実施形態の説明においては、画像取得装置としてデジタル顕微鏡(スライドスキャナ)を、画像取得の対象となる試料としてスライド(プレパラートとも呼ばれる。)を好ましい例として提示するが、本発明の範囲は特にこれらに限定されない。また、説明を具体化するために例示する数値も、特に言及しない限りは、本発明の範囲を限定するものではない。
なお、各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
<第1実施形態>
本発明の第1実施形態に係る画像取得装置について、図1を用いて説明する。
(画像取得装置の構成)
図1は、第1実施形態に係る画像取得装置100の構成を示す図である。図1に基づいて、画像取得装置100の構成について説明する。以下の説明においては、Z方向を光学系である対物レンズ102の光軸方向、XY方向をその光軸に垂直な方向と定義する。Z方向は、試料の高さ方向(厚み方向)とも一致する。
画像取得装置100は、対物レンズ102、光路分割ユニット103、撮像ユニット104A〜104D、撮像ユニット移動機構108A〜108D、ステージ105、制御ユニット106、表示ユニット107を有する。対物レンズ102は、試料であるスライド101からの光(透過光または反射光)を集光する光学系である。光路分割ユニット103は、対物レンズ102からの光束を4つの光路に分割する分割手段である。撮像ユニット104A〜104Dは、分割光路それぞれの光軸上に配置された複数の撮像手段である。撮像ユニット移動機構108A〜108Dは、撮像ユニット104A〜104Dをそれぞれ光軸方向に移動させる変更手段である。ステージ105は、スライド101を保持し移動させる第二の変更手段である。制御ユニット106は、画像取得装置100を制御して表示用画像データを生成する制御手段である。表示ユニット107は、デジタル画像を表示する表示手段である。スライド101のXYZ位置がステージ105によって移動制御され、スライド101内の高さの異なる4つの層が、対物レンズ102、光路分割ユニット103を介して、撮像ユニット104A〜104Dによって同時に撮像される。
スライド101は、スライドグラス上に試料(組織切片等の生体サンプルなど)を配置し、封入剤およびカバーグラスで試料を固定した、プレパラート標本である。
対物レンズ102は、レンズ及びミラーの組み合わせで構成され、不図示の本体フレームおよび鏡筒によって保持される。対物レンズ102は、光路分割ユニット103とともに、スライド101の光像を撮像ユニット104A〜104Dの受光面に結像させるための結像光学系を構成する。また、対物レンズ102は、スライド101の光像を所定の倍
率で拡大し、撮像ユニット104A〜104Dのいずれの受光面においても同じ拡大率で投影する。対物レンズ102の被写界深度は、約1um(マイクロメートル)から数umと非常に狭い。
光路分割ユニット103は、不図示の本体フレームあるいは対物レンズ102の鏡筒によって保持され、対物レンズ102からの光束を、撮像ユニット104A〜104Dに向けて4分割するための光学系である。光路分割ユニット103は、対物レンズ102の視野全域が各撮像ユニット104A〜104Dの受光面に投影されるように構成・配置される。
撮像ユニット104A〜104Dは、不図示の本体フレームあるいは対物レンズ102の鏡筒によって保持され、CCDやCMOSセンサ等の(2次元)撮像素子により構成される。高画素センサを使用することで、広域かつ高空間分解能画像の一括取得が可能となる。本実施形態においては、6.4um(マイクロメートル)ピッチのフルサイズCMOSを光学25.6倍の対物レンズ102と組み合わせることによって、1.4mm×0.9mm領域からの0.25um/pixelの画像一括取得を実現する。本明細書では、対物レンズ102に対して、各撮像ユニット104A〜104Dの受光面と光学的に共役な位置にある試料側(物体側)の面を「基準面」と呼ぶ。4つの撮像ユニット104A〜104Dに対応する4つの基準面のZ方向(光軸方向)の位置を異ならせることで、スライド101内の異なるZ位置の層を同時に撮像できる。撮像ユニット104A〜104Dからの出力データの取り込みは、制御ユニット106によって制御される。
撮像ユニット移動機構108A〜108Dは、制御ユニット106から出力される制御目標値に応じて、撮像ユニット104A〜104Dをそれぞれ光軸方向に移動させる。撮像ユニット移動機構108A〜108Dは、後述するZステージの位置決め精度に対し、対物レンズ102の光学倍率の2乗程度の位置決め精度で駆動可能であれば良い。該移動機構は、リニアモータ、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システム、板バネなどの弾性変形を利用した案内機構とピエゾアクチュエータを用いた機構などで構成することができる。
撮像ユニット104A〜104Dが移動することで、4つの基準面同士のZ方向の間隔(ピッチ)が変更され、任意の高さにある複数(4つ)の層が同時に撮像可能となる。本実施形態においては、後述するZ範囲探索処理(第一の処理)と多層画像取得処理(第二の処理)との間で、4つの基準面同士の間隔を変更させる。なお、本実施形態では4つの基準面を等間隔に配置するが、試料に合わせて、あるいは、画像取得の目的に合わせて、基準面同士の間隔を不等間隔に設定することもできる。
本実施形態では、すべての撮像ユニット104A〜104Dが移動する構成としたが、1つの撮像ユニットを固定し(撮像ユニット移動機構を設置しない)、他の撮像ユニットの相対位置を移動させる構成としてもよい。これにより、撮像ユニット移動機構の数が減り、構成が簡易になる。
また、本実施形態では、一例として、撮像ユニット104A〜104Dをそれぞれ光軸方向に移動させることで4つの基準面同士の間隔を変更する構成とした。この構成に限らず、分割光路上それぞれに複数のミラーやリレーレンズを配置し、それらを移動させることで分割光路の光路長を変更し、4つの基準面同士の間隔を変更する構成としても良い。
ステージ105は、スライド101を保持する保持部と、制御ユニット106から出力される制御目標値に応じて、保持部をXY方向に移動させるXYステージと、保持部をZ方向に移動させるZステージを含む(いずれも不図示)。XYステージは、特に、25m
m以上の広範囲に駆動可能なものが好ましい。XYステージは、リニアモータや、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システムなどで構成することができる。一方、Zステージは、特に、0.1um以下の位置決め精度で駆動可能なものが好ましい。Zステージは、リニアモータや、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システムや、板バネ案内機構とピエゾアクチュエータを用いた機構などで構成することができる。
XYステージが移動することで、スライド101と対物レンズ102とのXY相対位置が変更され、スライド101の所望の領域の分割画像が取得可能となる。また、XY移動を連続して制御しながら分割画像の取得を繰り返すことで、スライド101の広域を撮像することができる。広域から画像取得するためのXY移動順序は、XY取得対象範囲に基づいて決定する。XY取得対象範囲は、画像を取得すべき試料内のXY範囲(領域の広がり)を定義する情報である。XY取得対象範囲は、不図示の予備計測系によって予め計測した、試料のXY形状情報に基づいて決定しても良いし、必要に応じてユーザからの指示に基づいても良い。XY取得対象範囲の設定によって、病理診断などに必要な領域の画像データを選択的に生成することができ、例えば試料の存在しない領域等を削除して表示用画像データの容量を小さくし、データのハンドリングを容易にできる。なお、通常は、検出した試料の存在領域と等しくなるようにXY取得対象領域を決定する。
一方、Zステージが移動することで、スライド101と4つの基準面とのZ相対位置が変更され、スライド101内の異なる高さ(深さ)の4層分の画像が同時に取得可能となる。また、Z移動を連続して制御しながら画像の取得を繰り返すことで、同じXY領域に対し4層以上の画像の取得が可能となる。この処理を多層画像取得処理とよぶ。多層画像取得処理におけるZ移動順序は、Z取得対象範囲に基づいて決定する。Z取得対象範囲は、多層の画像を取得すべき試料内のZ範囲(高さ範囲)を定義する情報であり、後述するZ範囲探索処理の結果に基づいて決定する。なお、本実施形態では、一例として、Zステージが移動することでスライド101と対物レンズ102の4つの基準面とのZ相対位置を変更する構成としたが、対物レンズ102または撮像ユニット104A〜104Dが移動する構成としても良い。
制御ユニット106は、CPU、メモリ、ハードディスクなどを含む演算処理の高速な汎用のコンピュータやワークステーション、専用のグラフィックボード、あるいはこれらの組み合わせによって構成される。制御ユニット106は、ステージ105、撮像ユニット104A〜104D、撮像ユニット移動機構108A〜108D、表示ユニット107との間で、制御情報や画像データの入出力を行うためのインターフェースを備える。また、制御ユニット106は、画像取得装置100の設定を変更するためのインターフェース、試料の位置情報や形状情報を入力するためのインターフェースを備えても良い。後述する制御ユニット106の機能は、ハードディスクなどの記憶媒体に格納されたプログラムをメモリにロードし、CPUが実行することにより実現されるものである。
表示ユニット107は、画像取得装置100の生成した表示用画像データに基づいて、病理診断に適した観察用画像を表示する機能を有する。CRTや液晶等のモニタにより表示ユニット107を構成することができる。
(光路の分割)
図2は、4つの基準面を撮像するための、対物レンズ102、光路分割ユニット103、撮像ユニット104A〜104Dの配置図である。光路分割ユニット103は、対物レンズ102の像側に配置した3つのビームスプリッタ31〜33から構成される。
図2に示すように、対物レンズ102の4つの基準面を、対物レンズ102に近い側からOSa〜OSdとする。撮像ユニット104A〜104Dの受光面の位置は、それぞれ基準面OSa〜OSdの位置と光学的共役となるように配置されている。すなわち、基準面OSaからの光束LFaは、ビームスプリッタ31で反射され、ビームスプリッタ33を透過して、撮像ユニット104Aの受光面に結像する。基準面OSbからの光束LFbは、ビームスプリッタ31とビームスプリッタ33でそれぞれ反射され、撮像ユニット104Bの受光面に結像する。基準面OScからの光束LFcは、ビームスプリッタ31とビームスプリッタ32を透過し、撮像ユニット104Cの受光面に結像する。基準面OSdからの光束LFdは、ビームスプリッタ31を透過し、ビームスプリッタ32で反射され、撮像ユニット104Dの受光面に結像する。各撮像ユニット104A〜104Dは、制御ユニット106からの制御指令に応じて、それぞれ撮像データDa〜Ddを出力する。
ステージ105によって、試料内の所望の層のZ位置を最上位の基準面OSaに一致させることで、その層に合焦した撮像データDaを撮像ユニット104Aから得られる。これと同時に、その層からそれぞれ所定距離(基準面OSb〜OSdの基準面OSaからの距離)離れた3層の撮像データDb〜Ddが、撮像ユニット104B〜104Dから得られる。
後述するように、本実施形態では、試料内を探索し画像を取得すべきZ範囲を決定するZ範囲探索処理(第一の処理)と、そのZ範囲について多層の画像を取得する多層画像取得処理(第二の処理)とを実行する。Z範囲探索処理では、基準面OSa〜OSdの間隔が対物レンズ102の被写界深度よりも大きく(例えば数倍)となるようにすることが好ましい。こうすることで、Zステージの移動回数を削減することが可能となる。一方、多層画像取得処理では、基準面OSa〜OSdの間隔が対物レンズ102の被写界深度以下となるようにすることが好ましい。こうすることで、試料内の構造物にピントの合った画像がいずれかの撮像ユニットで必ず得られることを保証でき、高さ方向に高分解能な多層の画像が取得可能となる。本実施形態では、Z範囲探索処理時の基準面OSa〜OSdの間隔(第一の間隔)を対物レンズ102の被写界深度の4倍とし、多層画像取得処理時の基準面OSa〜OSdの間隔(第二の間隔)を対物レンズ102の被写界深度と等しくする。
また、本実施形態では、一例として、3個のビームスプリッタおよび4個の撮像ユニットによって4つの層を同時撮像できる構成としたが、これに限定するものではない。例えば、1個のビームスプリッタおよび2個の撮像ユニットによって2つの層を同時撮像する構成とできる。あるいは、1個のダイクロイックミラーおよび3個の撮像ユニットによって3つの層を同時撮像する構成とできる。5つ以上の層を同時撮像する構成を採ることもできる。このように、対物レンズ102の焦点深度や光路分割ユニット103の形状・構成などによって適宜決定できる。
(制御ユニットの機能)
図3は、制御ユニット106の機能ブロック図である。図3に示すように、制御ユニット106は、主制御部60、ステージ位置制御部61、撮像ユニット位置制御部62、撮像制御部63、データ処理部64から構成される。
主制御部60は、画像取得装置100を構成する各部の動作を統括的に制御する。例えば、主制御部60は、試料の多層の画像を取得し、全焦点画像データや三次元画像データもしくはそれらの合成画像データを生成し、表示用画像データとして出力するための同期制御を行う。また、主制御部60は、不図示の光源の調光制御や各種光学素子の切り換え等、試料の画像取得に伴う画像取得装置100の各部の調整を行うとともに、各部の状態
を適宜ユーザに通知可能とする。
ステージ位置制御部61は、ステージ105のXY移動およびZ移動を、出力インターフェースを介して制御し、スライド101の所望の領域の所望の層を基準面OSa〜OSdのいずれかの位置に送り込ませる。また、ステージ位置制御部61は、ステージ105のXYZ位置座標を入力インターフェースを介して取得する。
ステージ位置制御部61は更に、Z範囲探索処理時および多層画像取得処理時のZ移動順序(ステージ105をZ移動させる制御目標値)を決定する。本実施形態では、最初に探索範囲又はZ取得対象範囲の上端(又は下端)に基準面の上端(又は下端)が合うようにステージ105を移動させた後、1ステップずつ同じ方向(下方向又は上方向)にステージ105をシフト移動させていく。これによりステージ移動および位置合わせを効率化でき、時間短縮を図ることができる。ここで、1ステップの移動量(変更量)は、Z範囲探索処理と多層画像取得処理とで変えるとよい。好ましくは、1ステップの移動量は基準面の間隔の4倍に設定するとよい。これにより探索範囲又はZ取得対象範囲を等間隔で撮像でき、効率良い画像取得が可能となる。本実施形態の場合は、対物レンズ102の被写界深度をdとして、1ステップの移動量が、Z範囲探索処理時においては16×d、多層画像取得処理においては4×dに設定される。
撮像ユニット位置制御部62は、撮像ユニット移動機構108A〜108Dによる撮像ユニット104A〜104Dの光軸方向の移動を出力インターフェースを介して制御し、基準面OSa〜OSd同士の間隔(相対距離)を変更する。本実施形態では、Z範囲探索処理時には基準面の間隔を4×dに設定し、多層画像取得処理時には基準面の間隔をdに設定する。また、撮像ユニット位置制御部62は、撮像ユニット104A〜104Dの光軸方向の座標を、入力インターフェースを介して取得し、基準面OSa〜OSdのZ位置を算出する。ここで、基準面OSa〜OSdのZ位置は、撮像ユニット104A〜104Dから対物レンズ102の像側焦点位置までの光路長、対物レンズ102の光学倍率に基づいて算出すれば良い。
撮像制御部63は、ステージ105および撮像ユニット104A〜104Dの移動完了に同期して、撮像ユニット104A〜104Dによる撮像を、入出力インターフェースを介して制御し、撮像データ群Da〜Ddを入力する。Z範囲探索処理時には、高空間分解能な撮像データを必要としないため、撮像ユニット104A〜104Dに対し、撮像データを間引くように制御してもよい。これによりZ範囲探索処理を高速化できる。また、撮像制御部63は、撮像データと関連付けて、位置情報を取得する。位置情報とは、各撮像素ユニットがスライド101のどの分割領域(XY位置)、およびどの層(Z位置)を撮像したものかを表す情報である。例えば、ステージ105の、制御目標としたXYZ位置座標や移動完了後のXYZ位置座標および基準面のZ位置より取得することができる。また、関連付ける方法としては、例えば、撮像データと位置情報データに同じヘッダ情報を付加すれば良い。ヘッダ情報は、タイムスタンプ等のユニークな情報であることが好ましい。あるいは、関連付けたい位置情報を、撮像データのヘッダ情報に含めても良い。この位置情報を参照することで、撮像データがスライド101のどの分割領域(XY位置)のどの層(Z位置)の画像であるかを識別できる。以下の説明では、撮像データに関連付けられた位置情報で表されるスライド101上のXY位置やZ位置のことを、単に、撮像データのXY位置やZ位置と記す。
データ処理部64は、Z範囲探索処理において、撮像制御部63を介して撮像データ群Da〜Ddを受け取り、Z取得対象範囲の算出を行う。例えば、データ処理部64は、得られた撮像データ群を用いて、最大コントラストの画像が得られるZ位置を推定(検出)し、そのZ位置を基準に(Z位置を含むように)Z取得対象範囲を設定するとよい。高コ
ントラストな画像が得られるZ位置を検出する方法には、カメラにおけるパッシブ方式のオートフォーカスの技術を利用することができる。
具体的に、本実施形態のデータ処理部64は、撮像データごとに、各画素についてそれぞれ近傍の画素との輝度の微分値又は差分値を算出し、その値を全画素分合計して評価指標を算出する。この評価指標は画像のコントラストを表している。次にデータ処理部64は、各撮像データの評価指標及びZ位置から、評価指標のプロファイル(Z位置に対する評価指標の変化(コントラスト分布))を作成し、評価指標がピークを示すピークZ位置を求める。このピークZ位置を基準にZ取得対象範囲を決定する。Z取得対象範囲の決定方法としては、例えば、ピークZ位置を中心とする所定のZ範囲をZ取得対象範囲としてもよいし、評価指標プロファイルの半値幅に基づいてZ取得対象範囲を設定してもよい。あるいは、評価指標を算出する単位領域を設定(例えば全領域の1/16)して領域ごとにピークZ位置を求め、ピークZ位置の最小値から最大値までをZ取得対象範囲とすると良い。
また、データ処理部64は、Z取得対象範囲内の画像取得完了に同期して、撮像データ群とそのZ位置情報に基づいて、分割領域内の全ての箇所で焦点が合った全焦点画像データおよび/または厚み方向の形状分布が把握できる三次元画像データを生成する。全焦点画像データは、例えば、分割画像における各画素についてそれぞれ近傍の画素との輝度の微分値や差分値を算出し、この値を評価値とする。そして、Z取得対象範囲内から取得した他の画像データの評価値と比較し、最も評価値の高い画素をその画素位置における焦点のデータとみなして構築する。三次元画像データは、焦点とみなした各画素のZ座標をもとに構築することができる。あるいは、撮像データ群の各画素をボクセル空間にマッピングすることで三次元画像データを生成してもよい。あるいは、表示処理の際に、ユーザの指定したXYZ位置の画像に切り替えて表示できるように、複数層の画像データとXYZ位置と関連付けたもの(Zスタック画像)でも良い。
更に、データ処理部64は、XY取得対象範囲内の画像取得完了に同期して、分割領域ごとの全焦点画像データおよび/または三次元画像データとそのXY位置に基づいて、合成画像データを生成する。合成画像データは、スライド101のXY取得対象範囲の全域を表す画像データであり、各分割領域の画像データを位置合わせし接続することで生成される。接続方法には、繋ぎ合わせ(タイリング)、重畳(隣接画像間の重なり部分をブレンド)、補間処理により滑らかに繋げるなど、どのような方法を用いてもよい。
こうして、データ処理部64は、撮像データ群を用いて、全焦点画像データ、三次元画像データ、合成画像データなどの表示用画像データ(観察用画像データ)を生成する。データ処理部64は、これらの表示用画像データを出力インターフェースを介して出力し、表示ユニット107において表示可能とする。なお、全焦点画像データまたは三次元画像データの生成、合成画像データの生成順序は逆でも良い。つまり、各分割領域の撮像データを接続して各層の合成画像データを生成した後、複数層の合成画像データから全焦点画像データや三次元画像データを生成することもできる。なお、上述した表示用画像データの生成方法は一例であり、他の画像処理法を用いてもよい。また、データ処理部64が上記以外の表示用画像データ、例えば、観察や診断に有益な画像特徴を強調ないし抽出した画像データ、視線方向(観察方向)を変更した画像データなどを生成することもできる。
(制御ユニットのハードウェア構成)
図4は、制御ユニット106のハードウェア構成を示すブロック図である。
制御ユニット106としては、例えばパーソナルコンピュータ(PC)200が用いられる。PC200は、CPU(Central Processing Unit)201、HDD(Hard Disk D
rive)202、RAM(Random Access Memory)203、入出力I/F204、及びこれらを互いに接続するバス205を備える。
CPU201は、必要に応じてRAM203等にアクセスし、各種演算処理を行いながらPC200全体を統括的に制御する。HDD202は、CPU201に実行させるプログラムや各種パラメータなどが記憶されている補助記憶装置である。撮像ユニットから取得した撮像データや生成した全焦点画像データ、三次元画像データ、合成画像データ、表示用データなどをHDD202に記憶させることもできる。RAM203は、CPU201の作業用領域等として用いられ、実行中の各種プログラム、制御ユニット106において処理の対象となる各種データを一時的に保持する。
入出力I/F204は、光通信、Gigabit Ethernet(登録商標)、USB(Universal Serial Bus)、PCIe(Peripheral Component Interconnect Express)(登録商標)
、DVI(Digital Visual Interface)等を使用した汎用インターフェースで構成できる。入出力I/F204には、ステージ105、撮像ユニット104A〜104D、撮像ユニット移動機構108A〜108D、表示ユニット107、および不図示の入力装置等が接続される。生成した表示用データや各種データを記憶させる画像サーバを入出力I/F204に接続することもできる。図1では、表示ユニット107が外部装置として接続される形態を想定しているが、表示装置と一体化したPCを用いて制御ユニット106と表示ユニット107を一つの装置で構成しても良い。入力装置は、例えばマウス等のポインティングデバイス、キーボード、タッチパネル、その他の操作入力装置である。タッチパネルディスプレイのように表示ユニット107と入力装置を兼ねるデバイスを用いることもできる。
(Z範囲探索処理と多層画像取得処理との関係)
(1)Z範囲探索処理
図5は、Z範囲探索処理および多層画像取得処理における、4つの基準面の間隔の違いについて示した図である。横軸は時間tを示している。
T0は、取得対象とした分割領域が、XYステージによって対物レンズ102の視野内に送り込まれ、Z範囲探索処理を開始した時の状態を表す。この時、基準面OSa〜OSdの間隔は広く設定される(例えば、対物レンズ102の被写界深度の4倍)。この設定により、粗い間隔で4つの層が同時撮像される。1回目の探索では、試料の上端(これより上には画像取得したい層は存在しない位置:例えばカバーグラス上面)が、基準面OSaのZ位置に一致するようにステージ105が制御される。この状態で、出力された撮像データ群Da〜Ddに基づいて、Z取得対象範囲の最上位層LTおよび最下位層LBが決定される。
図6を参照してZ取得対象範囲の決定方法を説明する。図6は、上述したデータ処理部64で算出された評価指標プロファイルであり、横軸がZ位置、縦軸が評価指標を表す。撮像データ群Da〜Ddから算出された評価指標がそれぞれDCa〜DCdである。このプロファイルから、評価指標がピークとなるピークZ位置ZPを推定する。ピークの推定方法としては、図6のように所定のプロファイル形状モデルをDCa〜DCdにマッピングすることでピークを推定する方法でも良いし、単純にDCa〜DCdのうちの最大のものをピークに選ぶ方法でも良い。そして、推定されたピークZ位置ZPを中心とする所定のZ範囲をZ取得対象範囲とし、最上位層LTのZ位置ZTと最下位層LBのZ位置ZBとを決定する。ピークZ位置ZP、Z位置ZT、ZBはZステージの上面からの相対値として求めるとよい。
評価指標プロファイルからピークが推定できない場合には、基準面OSa〜OSdの範
囲内に観察すべき構造物が含まれていない、もしくは基準面OSa〜OSdの範囲以上に観察すべき構造物が広がっていると判断し、ステージ105のZ位置を1ステップ移動させた後に、上記と同様の処理を実行するとよい。この時、ステージ105のZ位置を1ステップ移動させる前のDCa〜DCdも使用してピークを推定することが望ましい。
ここで、試料の上端から下端までZ範囲探索処理を行ってもピークが推定できない場合がある。試料の上端とは、これより上には画像取得したい層は存在しない位置であり、例えばカバーグラス上面である。また、試料の下端とは、これより下には画像取得したい層は存在しない位置であり、例えばスライドグラス上面である。ピークが推定できないケースとしては、評価指標がいずれも小さい値である場合、評価指標がいずれも大きい値である場合、評価指標が不連続に変化する場合などがある。例えば、ある閾値(ピークとみなす下限値)を超える評価指標が一つもない場合には、評価指標がいずれも小さいと判定でき、逆に全部又はほとんどの評価指標がその閾値を超えていた場合は、評価指標がいずれも大きいと判定できる。評価指標が不連続に変化する場合とは、一つの評価指標のみが突出して大きい場合や、二つ以上のピークが現れている場合などである。これらは、例えば、隣の評価指標との差分(評価指標の傾き)の大きさや符号の変化を評価することで判定できる。
上記のような試料の上端から下端までZ範囲探索処理を行ってもピークが推定できない場合には、基準面OSa〜OSdの間隔を、ピーク位置が推定できなかった初回の探索(第一の処理)時とは変更して再探索(第二の処理)すると良い。例えば、評価指標の変化が連続的でない場合、試料に対して探索が粗すぎ、ピーク位置が推定しにくくなっている可能性がある。この場合、基準面OSa〜OSdの間隔を狭くし、初回の評価指標プロファイルで最大値を示したZ位置のあたりに基準面OSa〜OSdが配置されるようにステージ105を制御する。そして、再び撮像ユニット104A〜104Dで撮像を行い、評価指標プロファイルからピーク推定を実行する。この方法によれば、初回の探索結果を元に、ピーク位置の可能性が高い付近を再探索するので、ピーク位置(観察すべき構造物が存在するZ位置)を正確に検出することが可能になる。
あるいは、対物レンズ102のNA(開口数)を異なる値に設定して再探索処理を行うと良い。例えば、評価指標がいずれも小さい値である場合、いずれのステージ位置においても基準面OSa〜OSdとピーク位置とが離れており、いずれの撮像ユニット104A〜104Dにもボケた像が入射され、ピーク位置が推定しにくくなっている可能性がある。この場合、低NA(広焦点深度)に設定することによって、相対的に基準面OSa〜OSdの間隔を狭くしたのと同様の状態とすることができる。こうして、比較的ピーク位置に近い基準面に相当する撮像ユニットに入射される像のボケを小さくし、算出される評価指標の値を大きくすることができる。一方で、評価指標がいずれも大きい値である場合、いずれの基準面OSa〜OSdもピーク位置に十分近く、いずれの撮像ユニット104A〜104Dにもボケの大きな像は入射されず、ピーク位置が推定しにくくなっている可能性がある。この場合、高NA(狭焦点深度)に設定することによって、相対的に基準面OSa〜OSdの間隔を広くしたのと同様の状態とすることができる。こうして、比較的ピーク位置に遠い基準面に相当する撮像ユニットに入射される像のボケを大きくし、算出される評価指標の値を小さくすることができる。対物レンズ102のNAを調整する構成としては、複数の異なる開口の視野遮蔽板を用途に応じて配置するNA絞りや、複数の視野遮蔽羽根からなる虹彩絞りなどを用いることができる。
(2)多層画像取得処理
T1は、Z範囲探索処理で決定したZ取得対象範囲の多層画像取得処理を開始した時の状態を表す。この時、基準面OSa〜OSdの間隔は、対物レンズ102の被写界深度と同じ(又はそれ以下)に設定される。また、Z取得対象範囲の最上位層LTが、基準面O
SaのZ位置に一致するようにステージ105が制御される。この状態で、Z取得対象範囲内の最上位層LTから基準面OSdのZ位置に相当する層までの範囲が、撮像ユニット104A〜104Dにより撮像される。この状態で、Z取得対象範囲内の最下位層LBが、基準面OSa〜OSdのいずれの被写界深度からも外れていた場合には、ステージ105のZ位置を1ステップ移動させ、画像取得を繰り返す。
(画像取得の方法)
本実施形態における画像取得装置100の画像取得方法について、図7に示すフローチャートを用いて説明する。
まずステップS601では、主制御部60が、画像取得装置100の処理条件(XY取得対象範囲等)を取得する。更に、主制御部60は、XY取得対象範囲に基づいてステージのXY移動順序(XYステージ制御目標値テーブル)を算出する。このテーブルには、スライド101上の複数の分割領域を順に撮像するために、各分割領域を対物レンズ102の視野内に移動させるためのXYステージの制御目標値が記述されている。なお、各分割領域の大きさは、撮像ユニットの有効撮像領域を対物レンズ102の物体側に投影した大きさに対応する。
次のステップS602では、主制御部60が、XY移動順序に基づいて(例えば、XYステージ制御目標値テーブルから、1番上の行に記載の目標値を読み出して)、ステージ位置制御部61を介してステージ105を制御する。また、移動後のステージ105のXY位置座標を取得する。更に、主制御部60が、撮像ユニット位置制御部62を介して撮像ユニット移動機構108A〜108Dを制御し、撮像ユニット104A〜104Dを光軸方向に移動させる。そして、基準面OSa〜OSd同士の間隔をZ範囲探索処理時の第一の間隔(例えば、対物レンズ102の被写界深度の4倍)に設定する。
次のステップS603では、主制御部60が、ステージ位置制御部61、撮像制御部63、データ処理部64を介してZ範囲探索処理を実行し、Z取得対象範囲を決定する。このステップの詳細は、図8で後述する。
次のステップS604では、主制御部60が、撮像ユニット位置制御部62を介して撮像ユニット移動機構108A〜108Dを制御し、撮像ユニット104A〜104Dを光軸方向に移動させる。そして、基準面OSa〜OSd同士の間隔を多層画像取得処理時の第二の間隔(例えば、対物レンズ102の被写界深度以下)に設定する。
次のステップS605では、主制御部60が、ステージ位置制御部61、撮像制御部63、データ処理部64を介して多層画像取得処理を実行し、Z取得対象範囲内の複数の観察対象層の画像を取得する。このステップの詳細は、図9で後述する。
次のステップS606では、主制御部60が、XY取得対象範囲内の画像取得が完了したか(XYステージ制御目標値テーブルの最後の行まで実行したか)否かを判断する。完了したと判断した場合、ステップS607へ移行する。一方、未完であると判断した場合、ステップS602へ移行し、XYステージ制御目標値テーブルから読み出す行を1つ進め、ステージ位置制御部61を介したステージ105の制御を続ける。
次のステップS607では、主制御部60が、データ処理部64を介して表示用画像データを生成制御し、画像取得を完了する。
(Z範囲探索処理)
Z範囲探索処理の詳細について、図8に示すフローチャートを用いて説明する。
まずステップS611では、ステージ位置制御部61が、ステージ105のZ移動の目標位置を決定し、ステージ105を制御する。また、ステージ位置制御部61が、移動後のステージ105のZ位置座標を取得する。
ステージ移動と撮像を複数回繰り返す場合、ステップS611におけるZ移動の目標位置の決定処理の内容は、1回目の場合と、2回目以降の場合とで異なる。1回目には、探索範囲の上端又は下端のうちの近い方に基準面が合うようにZステージの移動を行う。例えば、ステージ位置制御部61は、試料の上端と基準面OSaのZ位置の差と、試料の下端と基準面OSdのZ位置の差を比較する。試料の上端とは、これより上には画像取得したい層は存在しない位置であり、例えばカバーグラス上面である。また、試料の下端とは、これより下には画像取得したい層は存在しない位置であり、例えばスライドグラス上面である。カバーグラス上面およびスライドグラス上面の位置は、予めメモリに記憶しておいた所定値(例えば、観察対象として想定されるサンプルのカバーグラス上面の最高値およびスライドグラス上面の最低値)や、別途用意した計測手段による計測値、ユーザによる指定値等をステップS601において処理条件と同時に取得しておけば良い。前者が小さかった場合、試料の上端と基準面OSaのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「上」に設定する。後者が小さかった場合、試料の下端と基準面OSdのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「下」に設定する。2回目以降のステップS611では、設定された移動方向にZステージを1ステップ(基準面OSa〜OSd同士の間隔の4倍)シフト移動させる。
本実施形態では、上記のような判定を行い、1回目のZ位置と2回目以降のステージ移動方向を決定することで、ステージの移動量を最小にでき、Z範囲探索処理の時間短縮を図ることができる。ただし、ステージ移動の時間が問題とならない場合には、こうした判定を行わず、予め決められた移動方向あるいはユーザから指示された移動方向で制御してもよい。
次のステップS612では、撮像制御部63が、撮像ユニット104A〜104Dによる撮像を制御し、撮像データ群Da〜Ddを取得する。また、撮像制御部63は、撮像データと関連付けて、取得した画像の位置情報を取得する。ここで、Z範囲探索処理時には、高空間分解能な撮像データを必要としないため、撮像ユニット104A〜104Dに対し、撮像データを間引くように制御することで、高速化できる。
次のステップS613では、データ処理部64が、撮像データ群Da〜Ddから、評価指標DCa〜DCdを算出する。また、データ処理部64が、この評価指標と撮像データに関連付けられたスライド101上のZ位置情報とから、評価指標のプロファイルを作成し、評価指標がピークを示す(Zステージ上面基準の)ピークZ位置を推定する。このピークZ位置に基づいてZ取得対象範囲を決定する。
次のステップS614では、主制御部60が、Z範囲探索が完了したか否かを判断する。判断方法としては、評価指標がピークとなる(Zステージ上面基準の)ピークZ位置を推定できたか否かとする。完了したと判断した場合、Z範囲探索処理を終了する。一方、未完であると判断した場合、ステップS611へ移行し、ステージ位置制御部61を介してステージ105を制御する。ここで、ピークZ位置を推定できないまま、試料の上端もしくは下端に到達してしまった場合に、前述した再探索処理を行うと良い。
(多層画像取得処理)
多層画像取得処理の詳細について、図9に示すフローチャートを用いて説明する。
まずステップS621では、ステージ位置制御部61が、ステージ105のZ移動の目標位置を決定し、ステージ105を制御する。また、ステージ位置制御部61が、移動後のステージ105のZ位置座標を取得する。
ステージ移動と撮像を複数回繰り返す場合、ステップS621におけるZ移動の目標位置の決定処理の内容は、1回目の場合と、2回目以降の場合とで異なる。1回目には、Z取得対象範囲の上端(最上位層LT)又は下端(最下位層LB)のうちの近い方に基準面が合うようにZステージの移動を行う。例えば、ステージ位置制御部61は、Z取得対象範囲の最上位層LTと基準面OSaのZ位置の差と、Z取得対象範囲の最下位層LBと基準面OSdのZ位置の差を比較する。前者が小さかった場合、最上位層LTと基準面OSaのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「上」に設定する。後者が小さかった場合、最下位層LBと基準面OSdのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「下」に設定する。2回目以降のステップS621では、設定された移動方向にZステージを1ステップ(基準面OSa〜OSd同士の間隔の4倍)シフト移動させる。
本実施形態では、上記のような判定を行い、1回目のZ位置と2回目以降のステージ移動方向を決定することで、ステージの移動量を最小にでき、多層画像取得処理の時間短縮を図ることができる。ただし、ステージ移動の時間が問題とならない場合には、こうした判定を行わず、予め決められた移動方向あるいはユーザから指示された移動方向で制御してもよい。
次のステップS622では、撮像制御部63が、撮像ユニット104A〜104Dによる撮像を制御し、撮像データ群Da〜Ddを入力する。また、撮像制御部63は、撮像データと関連付けて、取得した画像の位置情報を取得する。
次のステップS623では、主制御部60が、Z取得対象範囲内の画像取得が完了したか否かを判断する。判断方法としては、Z取得対象範囲の最下位層LBのZ位置(2回目以降のZステージの移動方向が「上」の場合)もしくはZ取得対象範囲の最上位層LBのZ位置(2回目以降のZステージの移動方向が「下」の場合)が基準面OSa〜OSdのいずれかの被写界深度内に入っているかどうかで判断する。完了したと判断した場合、ステップS624へ移行する。一方、未完であると判断した場合、ステップS621へ移行し、ステージ位置制御部61を介してステージ105を制御する。
次のステップS624では、主制御部60が、データ処理部64を介して、撮像データ群とそのZ位置情報に基づいて、分割領域内の全ての箇所で焦点が合った全焦点画像データおよび/または厚み方向の形状分布が把握できる三次元画像データを生成する。そして、Z取得対象範囲内の多層画像取得処理を完了する。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、複数の撮像ユニットそれぞれの基準面が試料内の異なる高さ(Z位置)にあり、かつ、目的とする処理に応じて基準面同士の間隔を変えることができる。これにより、例えばZ範囲探索処理のように試料内の広いZ範囲を観察(分析)する必要があるときは、基準面の間隔を広めにとるなど、効率(処理時間の短縮)を重視した設定にできる。また、多層画像取得処理のように試料内の限られたZ範囲を高い分解能で観察(分析)する必要があるときは、基準面の間隔を狭くし、画像品質を重視した設定にできる。このように、目的とする処理に応じて適応的に基準面の間隔を制御することで、全体としての処理の効率化及び処理時間の短縮を図ることが可能となる。加えて、一つの撮像系でZ範囲探索処理と多層画像取得処理のような目的の異なる処理に柔
軟に対応できるため、装置全体の小型化と低コストを図ることもできる。
<第2実施形態>
次に、本発明の第2実施形態の画像取得装置について説明する。第1実施形態では、Z範囲探索処理と多層画像取得処理とで基準面の間隔を変更したのに対し、第2実施形態では、Z範囲探索処理とカラー画像取得処理とで基準面の間隔を変更する。
(画像取得装置の構成)
図10は、第2実施形態に係る画像取得装置300の構成を示す図である。図10に基づいて、画像取得装置300の構成について説明する。以下の説明においては、Z方向を結像光学系302の光軸方向、XY方向をその光軸に垂直な方向と定義する。Z方向は、試料の高さ方向(厚み方向)とも一致する。
画像取得装置300は、結像光学系302、光源309、光路色分割ユニット303、撮像ユニット304A〜304C、撮像ユニット移動機構308A〜308C、ステージ305、制御ユニット306、表示ユニット307を有する。結像光学系302は、試料であるスライド301から入射される光を集光する光学系である。光源309は、スライド301に光を当てる照明である。光路色分割ユニット303は、光路分割と色分割の機能をもつ光学部材であり、結像光学系302からの光束を3つの光路および色に分割する分割手段である。撮像ユニット304A〜304Cは、分割光路それぞれの光軸上に配置された複数の撮像手段である。撮像ユニット移動機構308A〜308Cは、撮像ユニット304A〜304Cをそれぞれ光軸方向に移動させる変更手段である。ステージ305は、スライド301を保持し移動させる第二の変更手段である。制御ユニット306は、画像取得装置300を制御して表示用画像データを生成する制御手段である。表示ユニット307は、デジタル画像を表示する表示手段である。
スライド301の位置がステージ305によって移動制御され、スライド301の同一又は異なる層が、結像光学系302、光路色分割ユニット303を介して、撮像ユニット304A〜304Cによって同時に撮像される。光路色分割ユニット303によって、撮像ユニット304A、304B、304Cは夫々異なる色の画像を撮像する。本実施形態においては一例として、撮像ユニット304AはRを、撮像ユニット304BはGを、撮像ユニット304CはBを撮像するように設定されている。すなわち、本実施形態の画像取得装置300は、1ショット(1回の露光・撮像)で3つの層の単色画像を取得することもできるし、1つの層のRGBの高精細カラー画像を取得することもできる。
スライド301は、本実施形態の画像取得装置300の画像取得対象物であり、カバーグラスと試料とスライドグラスを含んで構成される。具体的には、スライドグラス上に配置された試料(組織切片等の生体サンプルなど)が、カバーグラス及び封入剤で密封されている。
結像光学系302は、対物レンズ、結像レンズ、ミラーなどの光学部品の組み合わせで構成される光学系であり、不図示の本体フレームおよび鏡筒によって保持される。結像光学系302は、光路色分割ユニット303との組み合わせで、スライド301の像を撮像ユニット304A〜304Cの受光面に結像させる。また、結像光学系302は、スライド301の光像を所定の倍率で拡大し、撮像ユニット304A〜304Cのいずれの受光面においても同じ拡大率で投影する。更に、結像光学系302は、その光軸に垂直な3つの基準面と撮像ユニット304A〜304Cの受光面それぞれとが互いに光学的共役となるように配置されており、物体側が基準面に相当し、像側が受光面(撮像面)に相当する。
光路色分割ユニット303は、不図示の本体フレームあるいは結像光学系302の鏡筒によって保持され、結像光学系302から入射された光路を、撮像ユニット304A〜304Cに向けて3分割するための光学系である。光路色分割ユニット303には、例えば、ダイクロイックプリズムなどを適用することができる。光路色分割ユニット303は、結像光学系302の視野全域が各撮像ユニット304A〜304Cの受光面に投影されるように構成・配置される。
ここでは、共役関係となる基準面(物体面)と受光面(撮像面)のペアが色別にかつ離散的に(空間的に離れて)複数組存在することが重要である。本実施形態の画像取得装置300では、結像光学系302と光路色分割ユニット303の組み合わせからなる光学系によってそれが実現されているが、この光学系に限定するものではない。例えば、図16に示すように、光路色分割ユニット303後段の各光路上にそれぞれ結像レンズ310A〜310Cを配置してもよい。ここで、光路色分割ユニット303上で分割される光は、色分岐する面において所望の入射角の範囲に収まっており、撮像ユニット304A〜304Cの各々で、色別の像を取得する。
撮像ユニット304A〜304Cは、不図示の本体フレームあるいは結像光学系302の鏡筒によって保持され、CCDやCMOSセンサ等の(2次元)撮像素子により構成される。高画素センサを使用することで、広域からの高空間分解能画像の一括取得を可能とする。また、結像光学系302の視野全域が投影されるように、撮像ユニット304A〜304Cが構成・配置される。各撮像ユニット304A〜304Cの受光面と光学的に共役な位置にある試料側(物体側)の面を「基準面」と呼ぶ。3つの撮像ユニット304A〜304Cに対応する3つの基準面のZ方向(光軸方向)の位置を一致させれば、スライド301内のある層のR画像、G画像、B画像を同時に撮像できる。一方、3つの基準面のZ方向の位置を異ならせることで、スライド301内の異なるZ位置の3つの層の画像を同時に撮像できる。撮像ユニット304A〜304Cからの出力データの取り込みは、制御ユニット306によって制御される。
撮像ユニット移動機構308A〜308Cは、制御ユニット306から出力される制御目標値に応じて、撮像ユニット304A〜304Cをそれぞれ光軸方向に移動させる。撮像ユニット移動機構308A〜308Cは、後述するZステージの位置決め精度に対し、結像光学系302の光学倍率の2乗程度の位置決め精度で駆動可能であれば良い。該移動機構は、リニアモータ、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システムや、板バネなどの弾性変形を利用した案内機構とピエゾアクチュエータを用いた機構などで構成できる。
撮像ユニット304A〜304Cが移動することで、3つの基準面同士のZ方向の間隔(ピッチ)が変更され、任意の高さにある複数(3つ)の層が同時に撮像可能となる。本実施形態においては、後述するZ範囲探索処理(第一の処理)と探索したZ範囲のカラー画像取得処理(第二の処理)との間で、3つの基準面同士のZ相対位置を変更させる。この構成によって、各撮像ユニットは、Z範囲探索処理時の位置とカラー画像取得処理時の位置との、2ポジションの移動で済むため、比較的簡易な機構によって構成可能となる。
本実施形態では、すべての撮像ユニット304A〜304Cが移動する構成としたが、1つの撮像ユニットを固定し(撮像ユニット移動機構を設置しない)、他の撮像ユニットの相対位置を移動させる構成としてもよい。これにより、撮像ユニット移動機構の数が減り、構成が簡易になる。
また、本実施形態では、一例として、撮像ユニット304A〜304Cをそれぞれ光軸方向に移動させることで3つの基準面間のZ相対位置を変更する構成とした。この構成に
限らず、分割光路上それぞれに複数のミラーやリレーレンズを配置し、それらを移動させることで分割光路の光路長を変更し、3つ以上の基準面間のZ相対位置を変更する構成としても良い。
ステージ305は、スライド301を保持する保持部と、制御ユニット306から出力される制御目標値に応じて、保持部をXY方向に移動させるXYステージと、保持部をZ方向に移動させるZステージを含む(いずれも不図示)。XYステージは、特に、一般的なスライドサイズの76mm×26mm以上の広範囲に駆動可能なものが好ましい。XYステージは、リニアモータ、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システムなどで構成することができる。一方、Zステージは、特に、0.1um以下の位置決め精度で駆動可能なものが好ましい。Zステージは、リニアモータや、直動ガイドを用いたステージ、直動ボールネジを用いたDCモータ、パルスモータ、VCMなどで駆動する直動システムや、板バネ案内機構とピエゾアクチュエータを用いた機構などで構成することができる。
XYステージが移動することで、スライド301と結像光学系302とのXY相対位置が変更され、スライド301の所望の領域の分割画像が取得可能となる。また、XY移動を連続して制御することで、スライド301の広域からの分割画像の取得が可能となる。広域から画像取得するためのXY移動順序は、XY取得対象範囲に基づいて決定する。XY取得対象範囲は、不図示の予備計測系によって予め計測した、試料のXY形状情報に基づいて決定しても良いし、必要に応じてユーザからの指示に基づいても良い。XY取得対象範囲の設定によって、病理診断などに必要な領域の画像データを選択的に生成することができ、例えば試料の存在しない領域等を排除して表示用画像データの容量を小さくし、データのハンドリングを容易にできる。なお、通常は、検出した試料の存在領域と等しくなるようにXY取得対象領域を決定する。
一方、Zステージが移動することで、スライド301と結像光学系302の3つの基準面とのZ相対位置が変更され、スライド301内の所望の観察対象層を被写界深度内とした複数層の画像が同時に取得可能となる。また、Z移動を連続して制御しながら画像の取得を繰り返すことで、スライド301の同じXY領域に対し多層の画像の取得が可能となる。この処理を多層画像取得処理とよぶ。多層画像取得処理におけるZ移動順序は、Z取得対象範囲に基づいて決定する。なお、本実施形態では、一例として、Zステージが移動することでスライド301と結像光学系302の3つの基準面とのZ相対位置を変更する構成としたが、結像光学系302または撮像ユニット304A〜304Cが移動する構成としても良い。
制御ユニット306は、CPU、メモリ、ハードディスクなどを含む演算処理の高速な汎用のコンピュータやワークステーション、専用のグラフィックボード、あるいはこれらの組み合わせによって構成される。制御ユニット306は、ステージ305、撮像ユニット304A〜304C、撮像ユニット移動機構308A〜308Cの制御情報を入出力するためのインターフェースを備える。また制御ユニット306は、表示ユニット307に表示用画像データを出力するため、画像取得装置300の設定を変更するためのインターフェースを備える。更に、試料の位置情報や形状情報を入力するためのインターフェースを備えても良い。制御ユニット306の機能は、ハードディスクなどの記憶媒体に格納されたプログラムをメモリにロードし、CPUが実行することにより実現されるものである。
制御ユニット306によって、ステージ305、撮像ユニット304A〜304C、撮像ユニット移動機構308A〜308Cが順次制御される。そして、撮像ユニット304A〜304Cから出力される撮像データからZ取得対象範囲が算出され、その結果に基づ
いて、スライド301の複数観察対象層を被写界深度内とした分割画像が取得される。
その後、画像合成処理によって分割画像ごとに全焦点画像データや三次元画像データが生成される。更に、全焦点画像データや三次元画像データ、もしくはそれらを広域に表示するための合成画像データが、表示用画像データとして出力される。
表示ユニット307は、画像取得装置300の生成した表示用画像データに基づいて、病理診断に適した観察用画像を表示する機能を有する。CRTや液晶等のモニタにより表示ユニット307を構成することができる。
(光路の分割)
図11は、画像取得装置300における、3つの基準面を撮像するための、結像光学系302、光路色分割ユニット303、撮像ユニット304A〜304Cの配置図である。
結像光学系302から入射する光束は、光路色分割ユニット303によって3つの光束に分割される。本実施形態では、入射光束のうちRの波長帯域の光は撮像ユニット304A側へ反射され、Gの波長帯域の光は光路色分割ユニット303を透過して撮像ユニット304Bへ導かれ、Bの波長帯域の光は撮像ユニット304C側へ反射される。このように、光路色分割ユニット303は、スライド301からの光束の光路分割と色分割を行う。
図11に示すように、結像光学系302の3つの基準面を、結像光学系302に近い側からOSa〜OScとする。撮像ユニット304A〜304Cの受光面(撮像面)の位置は、それぞれ基準面OSa〜OScの位置と光学的共役となるように配置されている。したがって、基準面OSaからの光束のうちのRの波長帯域の光LFaが、撮像ユニット304Aの受光面に結像する。また、基準面OSbからの光束のうちのGの波長帯域の光LFbが撮像ユニット304Bの受光面に結像し、基準面OScからの光束のうちのBの波長帯域の光LFcが撮像ユニット304Cの受光面に結像する。
撮像ユニット304Aは、制御ユニット306からの制御指令に応じて、受光面に結像した光像を取り込み、撮像データDaを出力する。同様に、撮像ユニット304B、304Cは、制御ユニット306からの制御指令に応じて、それぞれ撮像データDb、Dcを出力する。本実施形態において、撮像データDaはR単色の画像データ、撮像データDbはG単色の画像データ、撮像データDcはB単色の画像データとなっている。
後述するZ範囲探索処理時の撮像ユニット304A〜304Cの光軸方向の配置は、基準面OSa〜OScの間隔が結像光学系302の被写界深度よりも大きく(例えば数倍)となるようにすることが好ましい。こうすることで、Z範囲を探索する際のZステージの移動回数を削減することが可能となる。
また、本実施形態では、一例として、1個のダイクロイックプリズムおよび3個の撮像ユニットによって3つの層を異なる色で同時撮像できる構成としたが、これに限定するものではない。例えば、2個の平板型のダイクロイックミラーを光軸上に配置し、入射した光束をRの光束、Gの光束、Bの光束に分割し、それぞれを3個の撮像ユニットに導いてもよい。あるいは、2枚のハーフミラーを光軸上に配置し、入射した光束を3方向に分割し、ハーフミラーと撮像ユニットの間にR,G,Bのカラーフィルタを配置してもよい。また、図16に示したように、結像レンズを分割されたR,G,Bそれぞれの光路上に配置してもよい。このように、結像光学系302の焦点深度や光路色分割ユニット303の形状・構成などによって適宜決定できる。
(制御ユニットの機能)
次に、制御ユニット306の機能について説明する。制御ユニット306は、図3に示した第1実施形態の制御ユニット106と基本的に同じ構成のため、以下、図3と同じ符号を参照して説明を行う。制御ユニット306は、主制御部60、ステージステージ位置制御部61、撮像ユニット位置制御部62、撮像制御部63、データ処理部64から構成される。
主制御部60は、画像取得装置300を構成する各部の動作を統括的に制御する。具体的には、主制御部60は、試料の多層において、各層の単色の画像を取得し、それらを合成してカラー画像を取得する。そして、多層から取得したカラー画像もしくは単色の画像から、全焦点画像データや三次元画像データもしくはそれらの合成画像データを、表示用画像データとして出力するための同期制御を行う。また、主制御部60は、光源309の調光制御や各種光学素子の切り換え等、試料の画像取得に伴う画像取得装置300の各部の調整を行うとともに、各部の状態を適宜ユーザに通知可能とする。
ステージ位置制御部61は、ステージ305のXY移動およびZ移動を、出力インターフェースを介して制御する。そして、スライド301の所望の分割領域の層を基準面位置に送り込ませる。また、ステージ305のXYZ位置座標を、入力インターフェースを介して取得する。
ステージ位置制御部61は更に、試料のZ取得対象範囲と、Zステージの現在のZ位置に基づいて、Z範囲探索処理時およびカラー画像取得処理時のZ移動順序(ステージ305をZ移動させる制御目標値)を決定する。本実施形態では、最初にZ取得対象範囲の上端(又は下端)に基準面の上端(又は下端)が合うようにステージ305を移動させた後、1ステップずつ同じ方向(下方向又は上方向)にステージ305をシフト移動させていく。これによりステージ移動および位置合わせを効率化でき、時間短縮を図ることができる。
撮像ユニット位置制御部62は、撮像ユニット移動機構308A〜308Cによる撮像ユニット304A〜304Cの光軸方向の移動を、出力インターフェースを介して制御し、処理に応じて、基準面OSa〜OSc同士の間隔(相対距離)を適宜変更する。これにより、試料内の粗い間隔の層を同時撮像してZ取得対象範囲を決定する「Z範囲探索処理」と、Z取得対象範囲内の複数層のカラー画像を取得する「カラー画像取得処理」を可能とする。それぞれの処理での基準面の設定は図12(a)を参照して後述する。また、撮像ユニット位置制御部62は、撮像ユニット304A〜304Cの光軸方向の座標を、入力インターフェースを介して取得し、基準面OSa〜OScのZ位置を算出する。ここで、基準面OSa〜OScのZ位置は、撮像ユニット304A〜304Cから結像光学系302の像側焦点位置までの光路長、結像光学系302の光学倍率に基づいて算出すれば良い。もしくは、撮像ユニット304A〜304Cと光学的に共役となる基準面OSa〜OScのZ位置を、計測によってあらかじめ取得しておいてもよい。
撮像制御部63及びデータ処理部64の機能については、第1実施形態のものと同様のため、ここでは説明を割愛する。
制御ユニット306のハードウェア構成については、第1実施形態の制御ユニット106(図4参照)と同様のため、ここでは説明を割愛する。
(Z範囲探索処理とカラー画像取得処理との関係)
(1)Z範囲探索処理
図12(a)は、Z範囲探索処理およびカラー画像取得処理における、スライド301
内の試料と3つの基準面との関係について示した図である。
T0は、取得対象とした分割領域が、XYステージによって結像光学系302の視野内に送り込まれ、Z範囲探索処理を開始した時の状態を表す。この時、基準面OSa〜OScの間隔(相対距離)d0は広い間隔(例えば、結像光学系302の被写界深度の数倍程度)に設定される。この設定により、粗い間隔で試料内の3つの層が同時に撮像され、撮像データDa〜Dcが得られる。最初の探索では、試料の上端(これより上には画像取得したい層は存在しない位置:例えばカバーグラス上面)が、基準面OSaのZ位置に一致するようにステージ305が制御される。必要に応じて複数回の探索を行う場合、2回目以降の探索では、基準面OSa〜OScの間隔を維持したまま、Zステージを1ステップ分移動する。1ステップの移動量は例えば3×d0に設定される。
このようにして1回ないし複数回の探索で得られた撮像データ群Da〜Dcに基づいて、Z取得対象範囲の最上位層LTおよび最下位層LBが決定される。
図13は、上述したデータ処理部64で算出された評価指標プロファイルであり、横軸がZ位置、縦軸が評価指標を表す。撮像データ群Da〜Dcから算出された評価指標がそれぞれDCa〜DCcである。図13は、2回の探索で得られた6枚の撮像データからそれぞれ6個の評価指標が得られた例である。
評価指数は、撮像データごとに、各画素についてそれぞれ近傍の画素との輝度の微分値もしくは差分値を算出して得る。評価指標としては、例えば、近傍の画素との差を二乗して画像全体で加算するブレナー微分がある。ブレナー微分Bは以下の式で表すことができる。
Figure 2015156011

ここで、I(i,j)は撮像データであり、(i,j)に位置する画素の画素値を表す。mは対象とする近傍画素との間隔であり、例えば2が使われる。N,Mは撮像データのX方向、Y方向の画素数である。
撮像データDa〜Dcは、光路色分割ユニット303により色分割された光を撮像したデータであるため、互いに色の異なる単色の画像データとなっている。データ処理部64は、これらの色の異なる単色のデータから、評価指標プロファイルを算出する。評価指標プロファイルを算出する際に、色間補正などを行うことが望ましい。例えば、軸上色収差が発生している(例えばBの共役位置がR・Gに対してずれている)場合では、それによる色別の像(光学倍率)の変化をあらかじめ計測等で取得しておき、その分だけ図13に示す横軸Zを補正する。
データ処理部64は、この算出したプロファイルから、評価指標がピークとなるピークZ位置ZPを推定し、最上位LTおよび最下位LBそれぞれのZ位置ZT,ZBを決定する。ZP、ZT、ZBのZ位置は、Zステージの上面を基準(例えば上面のZ=0)として求める。ピークZ位置ZPの推定では、例えば、各Z位置における評価指標を次式のローレンツ関数B(Z)で近似し、近似式のピーク値を位置ZPとしてもよい。
Figure 2015156011

また、最上位LTおよび最下位LBは、近似式のピーク値に対して特定割合となる閾値で決定してもよい(例えば、ピーク値の30%を閾値と定め、上記近似式の値が閾値以上となるZ範囲の上端と下端をそれぞれLT,LBとする)。
一回の探索で得られた3枚の撮像データ群Da〜Dcからピーク位置が推定できなかった場合、図12(a)に示すように、ステージ305のZ位置を1ステップ移動させて、ピーク位置の推定を繰り返す。この時、前回までの探索で得られた撮像データ群Da〜Dcも使用してピークを推定することが望ましい。試料の上端から下端までZ範囲探索処理を行ってもピークが推定できない場合には、第1実施形態で述べたのと同様、結像光学系のNAを変更したり、基準面の間隔(相対距離)を変更して、Z範囲探索処理を行うとよい。
(2)カラー画像取得処理
T1は、T0でのZ範囲探索処理で決定した、Z取得対象範囲のカラー画像取得処理時の状態を表す。本実施形態においては、カラー画像取得処理時は、基準面OSa〜OScの間隔(相対距離)をゼロに設定し、3つの撮像ユニット304A〜304Cで試料内の同じZ位置を撮像する。基準面のZ位置を一致させて撮像された撮像データDa、Db、Dcは、試料内の同じZ位置(深さ)の層のR、G、Bそれぞれの単色の画像データとなっている。それらの単色画像データを合成することで、そのZ位置でのカラー画像データを取得することができる。
例えば、初回のカラー画像取得処理時には、Z取得対象範囲の最上位LTが、基準面OSa〜OScのZ位置に一致するようにステージ305が制御される。その後、ステージ305のZ位置をステップ量d1で順に移動しながら、カラー画像取得処理を繰り返す。Z取得対象範囲の最下位LBのZ位置またはそれより下の層まで撮像したら、カラー画像取得処理を終了する。これにより、Z取得対象範囲の複数層のカラー画像が取得される。この時、ステップ量d1は、結像光学系102の被写界深度と同等か若しくは小さいことが望ましく、前述のT0時における基準面OSa〜OScの間隔d0よりも小さいことが望ましい。
図12(b)は、カラー画像取得処理の別の実施形態を示している。T11〜T18は、図12(a)におけるT0でのZ範囲探索処理で決定した、Z取得対象範囲のカラー画像取得処理時の状態を表す。図12(b)に示す方法では、基準面OSa〜OScの間隔(相対距離)をd2に設定し、3つの撮像ユニット304A〜304Cで試料内の異なるZ位置を撮像する。この時の間隔(相対距離)d2は、結像光学系102の被写界深度と同等か若しくは小さいことが望ましく、前述のT0時における間隔(相対距離)d0よりも小さいことが望ましい。
撮像手順としては、まず、時刻T11において、基準面OScがZ取得対象範囲の最上位LTに位置するように、ステージ305のZ位置を調整し、撮像を行う。これにより、LT層のB色画像が撮像される。次に時刻T12において、基準面の相対距離d2と同じ量だけステージ305を移動し、基準面OScのZ位置をL1層に一致させ撮像を行う。このとき、基準面OSbはLT層に一致しており、これにより、L1層のB色画像およびLT層のG色画像が撮像される。次に時刻T13において、基準面の相対距離d2と同じ量だけステージ305を移動し、基準面OScのZ位置をL2層に一致させ撮像を行う。
このとき、基準面OSbはL1層に一致しており、基準面OSaはLT層に一致している。これにより、L2層のB色画像、L1層のG色画像、およびLT層のR色画像が撮像される。この時点で、LT層はRGBの3色の画像が揃ったことになり、この3色の画像を合成することで、LT層のカラー画像を取得することができる。このようにして、順次ステージ305を移動していき、L5層までのカラー画像を取得していく。この時、L5層はZ取得対象範囲の最下位LBと同じもしくはそれよりも下の層となっている。
(画像取得の方法)
本実施形態における画像取得装置300の画像取得方法について、図14に示すフローチャートを用いて説明する。
まずステップS1601では、主制御部60が、画像取得装置300の処理条件(XY取得対象範囲等)を取得する。更に、主制御部60は、XY取得対象範囲に基づいてステージのXY移動順序(XYステージ制御目標値テーブル)を算出する。このテーブルには、スライド301上の複数の分割領域を順に撮像するために、各分割領域を結像光学系302の視野内に移動させるためのXYステージの制御目標値が記述されている。なお、各分割領域の大きさは、撮像ユニットの有効撮像領域を結像光学系302の物体側に投影した大きさに対応する。
次のステップS1602では、主制御部60が、XY移動順序に基づいて(例えば、XYステージ制御目標値テーブルから、1番上の行に記載の目標値を読み出して)、ステージ位置制御部61を介してステージ305を制御する。また、移動後のステージ305のXY位置座標を取得する。更に、主制御部60が、撮像ユニット位置制御部62を介して撮像ユニット移動機構308A〜308Cを制御し、撮像ユニット304A〜304Cを光軸方向に移動させる。そして、基準面OSa〜OSc同士の間隔をZ範囲探索処理時の第一の間隔(例えば、結像光学系302の被写界深度の4倍)に設定する。
次のステップS1603では、主制御部60が、ステージ位置制御部61、撮像制御部63、データ処理部64を介してZ範囲探索処理を実行し、Z取得対象範囲を決定する。Z範囲探索処理の詳細は、第1実施形態の図8に示したものと基本的に同じである。(ただし、基準面の数および1回の探索で取得できる撮像データの数が3つである点、2回目以降の探索を行う場合のステップ量がd0×3である点などが、第1実施形態と異なる。)
次のステップS1604では、主制御部60が、撮像ユニット位置制御部62を介して撮像ユニット移動機構308A〜308Cを制御し、撮像ユニット304A〜304Cを光軸方向に移動させる。そして、図12(a)および図12(b)で示したように、基準面OSa〜OSc同士の間隔をカラー画像取得処理時の第二の間隔(間隔=ゼロ、又は、間隔≦結像光学系302の被写界深度)に設定する。
次のステップS1605では、主制御部60が、ステージ位置制御部61、撮像制御部63、データ処理部64を介してカラー画像取得処理を実行し、Z取得対象範囲内の複数の観察対象層のカラー画像を取得する。このステップの詳細は、図15で後述する。
次のステップS1606では、主制御部60が、XY取得対象範囲内の画像取得が完了したか(XYステージ制御目標値テーブルの最後の行まで実行したか)否かを判断する。完了したと判断した場合、ステップS1607へ移行する。一方、未完であると判断した場合、ステップS1602へ移行し、XYステージ制御目標値テーブルから読み出す行を1つ進め、ステージ位置制御部61を介したステージ305の制御を続ける。
次のステップS1607では、主制御部60が、データ処理部64を介して表示用画像
データを生成制御し、画像取得を完了する。
(カラー画像取得処理)
カラー画像取得処理の詳細について、図15に示すフローチャートを用いて説明する。
まずステップS1621では、ステージ位置制御部61が、ステージ305のZ移動の目標位置を決定し、ステージ305を制御する。また、ステージ位置制御部61が、移動後のステージ305のZ位置座標を取得する。
ステージ移動と撮像を複数回繰り返す場合、ステップS1621におけるZ移動の目標位置の決定処理の内容は、1回目の場合と、2回目以降の場合とで異なる。図12(a)に示した実施形態の場合、1回目では、Z取得対象範囲の上端(最上位層LT)又は下端(最下位層LB)のうちの近い方に基準面OSa〜OSc(全て同じZ位置)が合うようにZステージの移動を行う。例えば、ステージ位置制御部61は、Z取得対象範囲の最上位層LTと基準面OSa〜OScのZ位置の差と、Z取得対象範囲の最下位層LBと基準面OSa〜OScのZ位置の差を比較する。前者が小さかった場合、最上位層LTと基準面OSa〜OSc(全て同じZ位置)のZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「上(+Z方向)」に設定する。後者が小さかった場合、最下位層LBと基準面OSa〜OSc(全て同じZ位置)のZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「下(−Z方向)」に設定する。2回目以降のステップS1621では、設定された移動方向にZステージを1ステップ(図12(a)におけるd1)シフト移動させる。
また、図12(b)に示した実施形態の場合、1回目では、ステージ位置制御部61は、Z取得対象範囲の最上位層LTと基準面OSaのZ位置の差と、Z取得対象範囲の最下位層LBと基準面OScのZ位置の差を比較する。前者が小さかった場合、最上位層LTと基準面OScのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「上(+Z方向)」に設定する。後者が小さかった場合、最下位層LBと基準面OSaのZ位置が一致するようにZステージを移動させ、2回目以降のZステージの移動方向を「下(−Z方向)」に設定する。2回目以降のステップS1621では、設定された移動方向にZステージを1ステップ(図12(b)におけるd2)シフト移動させる。
本実施形態では、上記のような判定を行い、1回目のZ位置と2回目以降のステージ移動方向を決定することで、ステージの移動量を最小にでき、カラー画像取得処理の時間短縮を図ることができる。ただし、ステージ移動の時間が問題とならない場合には、こうした判定を行わず、予め決められた移動方向あるいはユーザから指示された移動方向で制御してもよい。
次のステップS1622では、撮像制御部63が、撮像ユニット304A〜304Cによる撮像を制御し、撮像データ群Da〜Dcを入力する。また、撮像制御部63は、撮像データと関連付けて、取得した画像の位置情報を取得する。
次のステップS1623では、主制御部60が、Z取得対象範囲内の画像取得が完了したか否かを判断する。完了したと判断した場合、ステップS1624へ移行する。一方、未完であると判断した場合、ステップS1621へ移行し、ステージ位置制御部61を介してステージ305を制御する。
次のステップS1624では、主制御部60が、データ処理部64を介して、撮像データ群とそのZ位置情報に基づいて、試料内の各Z位置に対応するRGBカラー画像を生成
する。このとき、同じZ位置で撮像されたR色画像データである撮像データDa、G色画像データである撮像データDb、B色画像データである撮像データDcを合成することで、RGBカラー画像が生成される。
次のステップS1625では、主制御部60が、データ処理部64を介して、RGBカラー画像データ群とそのZ位置情報に基づいて、全焦点画像データおよび/または厚み方向の形状分布が把握できる三次元画像データを生成する。そして、Z取得対象範囲内の観察対象層のカラー画像取得を完了する。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、互いに異なる色(波長帯域)の画像データを撮像可能な複数の撮像ユニットを有し、目的とする処理に応じて各撮像ユニットの基準面同士の間隔(相対距離)を変えることができる。これにより、例えばZ範囲探索処理のように試料内の広いZ範囲を観察(分析)する必要があるときは、基準面の間隔を広めにとるなど、効率(処理時間の短縮)を重視した設定にできる。一方、カラー画像取得処理のように高解像度のカラー画像を取得する必要があるときは、図12(a)のように基準面の間隔をゼロにして1ショットでカラー画像を取得するか、図12(b)のように1ステップずつ基準面をずらしてカラー画像を取得する。このように、目的とする処理に応じて適応的に基準面の間隔を制御することで、全体としての処理の効率化及び処理時間の短縮を図ることが可能となる。また、試料の多層から高速に高解像度のカラー画像を取得できるため、病理診断等で正確に比較診断できるようになる。加えて、一つの撮像系でZ範囲探索処理とカラー画像取得処理のような目的の異なる処理に柔軟に対応できるため、装置全体の小型化と低コストを図ることもできる。
<第3実施形態>
本発明の画像取得方法は、前述した実施形態の機能の全部または一部を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)の形態で、システムあるいは装置に供給することができる。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することで達成可能である。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
また、コンピュータが、読み出したプログラムコードを実行することにより、コンピュータ上で稼働しているオペレーティングシステム(OS)などが、実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。
更に、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。
なお、本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
<その他の実施形態>
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。また、第1から第3
の実施形態で説明してきた構成は、お互いに組み合わせて使用できる。従って、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に想到し得るものであり、そのような様々な組み合わせによるシステムも本発明の範疇に属する。
例えば、病理診断における細胞診のように、比較的厚い試料の多層の画像を取得したい場合等、Z取得対象範囲がスライドの高さ方向のほぼ全域であるような場合、取得画像のデータが膨大となってしまう。このような場合、Z範囲探索処理で取得した撮像データをそのまま分割領域の画像データとして記録し、全焦点画像データや三次元画像データや合成画像データの生成に利用してもよい。Z範囲探索処理で得られる画像データだけでは高さ方向(Z方向)の分解能が低いので、多層画像取得処理では、Z範囲探索処理で得られた画像データの間を補完するための画像取得を行う。言い換えると、粗い間隔で試料内の複数層の画像を取得する第一の処理を行った後、第一の処理で取得した画像の間を補完するために、第一の処理よりも狭い間隔で試料内の複数層の画像を取得する第二の処理を行うのである。このとき、Z取得対象範囲の全域について補完してもよいが、特に高さ方向の分解能が必要な層の周辺だけに多層画像取得処理を実施してもよい。高さ方向の分解能が必要な層は、ユーザが指定してもよいし、Z範囲探索処理で計算した評価指標に基づいて決定してもよい(例えば、高コントラストな画像が得られる層の周辺を補完するなど)。
100:画像取得装置、101:スライド、102:対物レンズ、103:光路分割ユニット、104A〜104D:撮像ユニット、105:ステージ、106:制御ユニット、108A〜108D:撮像ユニット移動機構

Claims (23)

  1. 試料からの光を集光する光学系と、
    前記光学系からの光路を複数の光路に分割する分割手段と、
    前記複数の光路上にそれぞれ受光面を有する複数の撮像手段と、
    前記複数の撮像手段を用いて第一の処理および第二の処理を行う制御手段と、
    前記複数の撮像手段の受光面と光学的に共役な試料側の面である複数の基準面の間隔を変更する変更手段と、を有し、
    前記変更手段は、前記複数の撮像手段が前記第一の処理のための撮像を行う場合と前記第二の処理のための撮像を行う場合とで、前記複数の基準面の間隔を変える
    ことを特徴とする画像取得装置。
  2. 前記第一の処理は、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により得られた画像データに基づき、前記試料内で画像を取得すべき層の高さを決定する処理であり、
    前記第二の処理は、前記第一の処理のときよりも前記複数の基準面の間隔を小さくし、前記第一の処理で決定された高さを基準とする範囲から、前記複数の撮像手段により前記試料の複数層の撮像を行う処理である
    ことを特徴とする請求項1に記載の画像取得装置。
  3. 前記第二の処理では、前記複数の基準面の間隔をゼロにする
    ことを特徴とする請求項2に記載の画像取得装置。
  4. 前記複数の撮像手段は、互いに異なる色の単色画像データを撮像するものであり、
    前記第二の処理では、前記複数層のそれぞれについて、前記複数の撮像手段により得られた複数の色の単色画像データを合成してカラー画像データが生成される
    ことを特徴とする請求項2又は3に記載の画像取得装置。
  5. 前記第一の処理では、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により得られた画像データに基づき、最大コントラストの画像が得られる高さを推定し、前記推定された高さを含むように前記画像を取得すべき層の高さを選ぶ
    ことを特徴とする請求項2〜4のうちいずれか1項に記載の画像取得装置。
  6. 前記第一の処理は、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により前記試料の複数層の撮像を行う処理であり、
    前記第二の処理は、前記第一の処理とは前記複数の基準面の間隔を変更した前記複数の撮像手段により、前記第一の処理で撮像した前記複数層のあいだを補完する層を撮像する処理である
    ことを特徴とする請求項1に記載の画像取得装置。
  7. 前記第一の処理は、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により得られた画像データに基づき、前記試料内で画像を取得すべき層の高さを決定する処理であり、
    前記第二の処理は、前記第一の処理において前記画像を取得すべき層の高さを決定できなかった場合に、前記第一の処理のときよりも前記複数の基準面の間隔を小さくして前記複数の撮像手段により得られた画像データに基づき、前記試料内で画像を取得すべき層の高さを決定する処理である
    ことを特徴とする請求項1に記載の画像取得装置。
  8. 前記試料と前記複数の基準面との高さ方向の相対位置を変更する第二の変更手段をさら
    に備え、
    前記第二の変更手段による前記試料と前記複数の基準面の高さ方向の相対位置の変更と、前記複数の撮像手段による撮像とを複数回繰り返すことにより、前記基準面の数よりも多くの層の画像データを取得可能である
    ことを特徴とする請求項1〜7のうちいずれか1項に記載の画像取得装置。
  9. 前記第二の変更手段は、前記複数の撮像手段が前記第一の処理のための撮像を行う場合と前記第二の処理のための撮像を行う場合とで、前記試料と前記複数の基準面の高さ方向の相対位置の変更量を変える
    ことを特徴とする請求項8に記載の画像取得装置。
  10. 前記第二の変更手段は、前記試料と前記複数の基準面の高さ方向の相対位置の変更量を、前記複数の基準面の間隔に前記基準面の数を掛けた値に設定する
    ことを特徴とする請求項9に記載の画像取得装置。
  11. 前記第二の変更手段は、1回目に、前記試料のうち画像データを取得すべき範囲の上端又は下端に前記複数の基準面のいずれかが合うように、前記試料と前記複数の基準面の高さ方向の相対位置を変更し、2回目以降、前記試料と前記複数の基準面の相対位置を同じ方向に変更する
    ことを特徴とする請求項8〜10のうちいずれか1項に記載の画像取得装置。
  12. 前記第二の変更手段は、前記試料を保持し光軸方向に移動するステージである
    ことを特徴とする請求項8〜11のうちいずれか1項に記載の画像取得装置。
  13. 前記変更手段は、前記第二の処理のための撮像を行う場合の前記複数の基準面の間隔を、前記光学系の被写界深度以下に設定する
    ことを特徴とする請求項1〜12のうちいずれか1項に記載の画像取得装置。
  14. 前記変更手段は、前記複数の撮像手段の受光面の光軸方向の位置を変更することにより、前記複数の基準面の間隔を変更する
    ことを特徴とする請求項1〜13のうちいずれか1項に記載の画像取得装置。
  15. 前記複数の撮像手段のうち1つの撮像手段の受光面が固定されており、
    前記変更手段は、他の撮像手段の受光面の位置を変更する
    ことを特徴とする請求項14に記載の画像取得装置。
  16. 前記制御手段は、前記撮像手段の画像データと、対応する基準面の高さの情報との関連付けを行う
    ことを特徴とする請求項1〜15のうちいずれか1項に記載の画像取得装置。
  17. 前記制御手段は、前記第二の処理で得られた前記複数層の画像データを用いて、前記試料の観察に用いるための画像データを生成する
    ことを特徴とする請求項2〜5のうちいずれか1項に記載の画像取得装置。
  18. 試料からの光を集光する光学系と、
    前記光学系からの光路を複数の光路に分割する分割手段と、
    前記複数の光路上にそれぞれ受光面を有する複数の撮像手段と、を有する画像取得装置の制御方法であって、
    前記複数の基準面の間隔を第一の間隔に設定する工程と、
    前記第一の間隔に設定された前記複数の撮像手段を用いて第一の処理を行う工程と、
    前記複数の基準面の間隔を前記第一の間隔よりも小さい第二の間隔に設定する工程と、
    前記第二の間隔に設定された前記複数の撮像手段を用いて第二の処理を行う工程と、を含む
    ことを特徴とする画像取得装置の制御方法。
  19. 前記第一の処理は、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により得られた画像データに基づき、前記試料内で画像を取得すべき層の高さを決定する処理であり、
    前記第二の処理は、前記第一の処理で決定された高さを基準とする範囲から、前記複数の撮像手段により前記試料の複数層の撮像を行う処理である
    ことを特徴とする請求項18に記載の画像取得装置の制御方法。
  20. 前記第二の処理では、前記複数の基準面の間隔をゼロにする
    ことを特徴とする請求項19に記載の画像取得装置の制御方法。
  21. 前記第一の処理では、前記複数の基準面を前記試料内の異なる高さに配置して前記複数の撮像手段により得られた画像データに基づき、最大コントラストの画像が得られる高さを推定し、前記推定された高さを含むように前記画像を取得すべき層の高さを選ぶことを特徴とする請求項19又は20に記載の画像取得装置の制御方法。
  22. 前記複数の撮像手段の受光面の光軸方向の位置を変更することにより、前記基準面同士の間隔を変更する
    ことを特徴とする請求項18〜21のうちいずれか1項に記載の画像取得装置の制御方法。
  23. 前記第二の間隔が、前記光学系の被写界深度以下に設定される
    ことを特徴とする請求項18〜22のうちいずれか1項に記載の画像取得装置の制御方法。
JP2014203059A 2014-01-15 2014-10-01 画像取得装置およびその制御方法 Pending JP2015156011A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014203059A JP2015156011A (ja) 2014-01-15 2014-10-01 画像取得装置およびその制御方法
PCT/JP2015/000042 WO2015107872A1 (en) 2014-01-15 2015-01-07 Image acquisition apparatus and control method thereof

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014005401 2014-01-15
JP2014005401 2014-01-15
JP2014203059A JP2015156011A (ja) 2014-01-15 2014-10-01 画像取得装置およびその制御方法

Publications (1)

Publication Number Publication Date
JP2015156011A true JP2015156011A (ja) 2015-08-27

Family

ID=53542769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014203059A Pending JP2015156011A (ja) 2014-01-15 2014-10-01 画像取得装置およびその制御方法

Country Status (2)

Country Link
JP (1) JP2015156011A (ja)
WO (1) WO2015107872A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017156443A (ja) * 2016-02-29 2017-09-07 富士フイルム株式会社 細胞観察装置および方法
JP2018082416A (ja) * 2016-03-18 2018-05-24 パナソニックIpマネジメント株式会社 画像生成装置、画像生成方法及びプログラム
JP2019204009A (ja) * 2018-05-24 2019-11-28 オリンパス株式会社 顕微鏡システム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10149844B2 (en) 2015-09-16 2018-12-11 Philip Morris Products S.A. Inhalable nicotine formulations, and methods of making and using thereof
KR20230143408A (ko) * 2022-04-05 2023-10-12 주식회사 뷰웍스 영상 획득 장치 및 영상 획득 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10257369A (ja) * 1997-03-13 1998-09-25 Sony Corp 画像信号記録装置、記録再生装置および記録方法
JP2004170637A (ja) * 2002-11-19 2004-06-17 Olympus Corp 光学装置
WO2010044870A1 (en) * 2008-10-14 2010-04-22 The Burnham Institute For Medical Research Automated scanning cytometry using chromatic aberration for multiplanar image acquisition

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017156443A (ja) * 2016-02-29 2017-09-07 富士フイルム株式会社 細胞観察装置および方法
WO2017149880A1 (ja) * 2016-02-29 2017-09-08 富士フイルム株式会社 細胞観察装置および方法
KR20180104041A (ko) * 2016-02-29 2018-09-19 후지필름 가부시키가이샤 세포 관찰 장치 및 방법
KR102066807B1 (ko) * 2016-02-29 2020-01-15 후지필름 가부시키가이샤 세포 관찰 장치 및 방법
US11061214B2 (en) 2016-02-29 2021-07-13 Fujifilm Corporation Cell observation apparatus and method
JP2018082416A (ja) * 2016-03-18 2018-05-24 パナソニックIpマネジメント株式会社 画像生成装置、画像生成方法及びプログラム
JP2019204009A (ja) * 2018-05-24 2019-11-28 オリンパス株式会社 顕微鏡システム

Also Published As

Publication number Publication date
WO2015107872A1 (en) 2015-07-23

Similar Documents

Publication Publication Date Title
US7456377B2 (en) System and method for creating magnified images of a microscope slide
US8350905B2 (en) Microscope system, image generating method, and program for practicing the same
JP2015156011A (ja) 画像取得装置およびその制御方法
JP2013201530A (ja) 撮像装置及びその制御方法
CN107850754A (zh) 具有快速样本自动聚焦的成像组件
WO2004010380A3 (en) Measuring 3d deformations of an object by comparing focusing conditions for sharp capturing of said object before and after deformation
JP2011085594A (ja) 多軸統合システムおよび方法
JP2005017557A (ja) 三次元顕微鏡システムおよび画像表示方法
JP2015230393A (ja) 撮像装置の制御方法および撮像システム
CN111429562A (zh) 基于深度学习的宽场彩色光切片显微成像方法
TWI500963B (zh) An image capturing device and method
US11163145B2 (en) Observation device, observation method, and observation device control program
US10429632B2 (en) Microscopy system, microscopy method, and computer-readable recording medium
US11402607B2 (en) Observation device, observation method, and observation device control program
JP2015187705A (ja) 画像取得装置およびその制御方法
CN112992336A (zh) 一种病理智能诊断***
JP5508214B2 (ja) 顕微鏡スライドの拡大イメージを作成するシステム及び方法
Li et al. Rapid whole slide imaging via learning-based two-shot virtual autofocusing
TW202020728A (zh) 細胞檢測方法、裝置與系統
JP6746722B2 (ja) 顕微鏡用スライドガラスの曲面の高さの測算方法及び顕微鏡
JP2015220625A (ja) 画像取得装置および画像取得方法
CN111279242B (zh) 双处理器图像处理
CN203117515U (zh) 高清自动识别比对显微镜
JP2016206228A (ja) 合焦位置検出装置、合焦位置検出方法、撮像装置、撮像システム
US20140363095A1 (en) Image processing device, image processing method, and program