JP2013201530A - 撮像装置及びその制御方法 - Google Patents
撮像装置及びその制御方法 Download PDFInfo
- Publication number
- JP2013201530A JP2013201530A JP2012067614A JP2012067614A JP2013201530A JP 2013201530 A JP2013201530 A JP 2013201530A JP 2012067614 A JP2012067614 A JP 2012067614A JP 2012067614 A JP2012067614 A JP 2012067614A JP 2013201530 A JP2013201530 A JP 2013201530A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- depth
- images
- alignment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/815—Camera processing pipelines; Components thereof for controlling the resolution by using a single image
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Microscoopes, Condenser (AREA)
- Studio Devices (AREA)
Abstract
【課題】画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させる。
【解決手段】撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置の制御方法が、複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する工程と、第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う工程と、第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する工程と、を含む。第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像である。
【選択図】図10
【解決手段】撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置の制御方法が、複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する工程と、第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う工程と、第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する工程と、を含む。第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像である。
【選択図】図10
Description
本発明は、撮像装置の制御方法に関し、特に、撮像素子を用いて領域を分割して撮像し、それら複数の分割領域を合成して大画面を生成する撮像装置の制御方法に関する。
病理分野において、病理診断のツールである光学顕微鏡の代替として、スライドに載置された標本を撮像しデジタル化してディスプレイ上での病理診断を可能とするバーチャル・スライド装置がある。バーチャル・スライド装置による病理診断のデジタル化により、従来の標本の光学顕微鏡像をデジタルデータとして取り扱える。それによって、遠隔診断の迅速化、デジタル画像を使った患者への説明、希少症例の共有化、教育・実習の効率化、などのメリットが得られる。
光学顕微鏡での操作をバーチャル・スライド装置で実現するためには、スライド上の標本全体をデジタル化する必要がある。標本全体のデジタル化により、バーチャル・スライド装置で作成したデジタルデータをPC(Personal Computer)やWS(Workstation)で動作するビューワソフトで観察することができる。標本全体をデジタル化した場合の画素数は、通常、数億画素から数十億画素と非常に大きなデータ量となる。そのためバーチャル・スライド装置では、数十万から数百万程度の画素数を有する2次元撮像素子、または、数千程度の画素数を有する1次元撮像素子を用いて標本の領域を複数に分割して撮像することが行われる。分割撮像を行うため、標本全体の画像の生成には複数の分割画像を合成することが必要となる。
分割画像の合成における位置合わせとして、つなぎ合わせ部分の特徴抽出と相関法によるパターンマッチングを用いる手法がある。つなぎ合わせ部分において、標本が被写界深度から外れているなどに起因する画像ぼけが発生すると、分割画像間での十分な特徴の対応が得られず、位置合わせ精度が低下するという課題がある。
特許文献1は、容易な操作で絞りを調節して被写界深度を変更して撮影する撮影技術、所謂、被写界深度ブラケット機能を開示している。しかしながら、その画像を用いて合成画像を生成することを開示していない。
また、画像合成に関しては、特許文献2、特許文献3に開示されている技術が知られている。特許文献2は、第2の露光制御手段による露光制御で撮影された間引き画像を用いて位置ずれ量を演算し、第1の露光制御手段による露光制御で撮影された画像を用いてHDR(High Dynamic Range)画像を生成する技術である。特許文献3は、縮小画像を用いて特徴領域を抽出し、その特徴領域を用いて、露光時間の長さの異なる複数画像の画像間ずれ量検知、及び、画像間ずれ補正を行って、HDR画像を生成する技術である。
また、画像合成に関しては、特許文献2、特許文献3に開示されている技術が知られている。特許文献2は、第2の露光制御手段による露光制御で撮影された間引き画像を用いて位置ずれ量を演算し、第1の露光制御手段による露光制御で撮影された画像を用いてHDR(High Dynamic Range)画像を生成する技術である。特許文献3は、縮小画像を用いて特徴領域を抽出し、その特徴領域を用いて、露光時間の長さの異なる複数画像の画像間ずれ量検知、及び、画像間ずれ補正を行って、HDR画像を生成する技術である。
特許文献1では、絞りを絞って被写界深度を深くして撮影するため、コントラストが向
上したピントの合った画像が取得できることを開示している。しかし、これらの画像を利用した合成画像の生成は開示していない。本発明者らが特許文献1の方法によりコントラストの向上した画像を取得し、その画像を基に合成を行う検討を行った。その結果、合成画像を生成する一工程である繋ぎ合わせ部分の位置合わせが精度良く行えることがわかった。しかしながら、絞りを絞った撮影のために、合成された画像の高周波成分が失われて解像度が低下するという新たな課題が発生することがわかった。
特許文献2、特許文献3に開示されているHDR画像生成技術では、HDR画像とは別に、画像間の位置合わせ処理のための画像を用いるために、画像間の位置合わせ処理を高速に行うことができる。しかしながら、これらの技術は、位置合わせ精度を向上させる効果が得られるものではない。
上したピントの合った画像が取得できることを開示している。しかし、これらの画像を利用した合成画像の生成は開示していない。本発明者らが特許文献1の方法によりコントラストの向上した画像を取得し、その画像を基に合成を行う検討を行った。その結果、合成画像を生成する一工程である繋ぎ合わせ部分の位置合わせが精度良く行えることがわかった。しかしながら、絞りを絞った撮影のために、合成された画像の高周波成分が失われて解像度が低下するという新たな課題が発生することがわかった。
特許文献2、特許文献3に開示されているHDR画像生成技術では、HDR画像とは別に、画像間の位置合わせ処理のための画像を用いるために、画像間の位置合わせ処理を高速に行うことができる。しかしながら、これらの技術は、位置合わせ精度を向上させる効果が得られるものではない。
本発明は、このような問題点に鑑みてなされたものであり、画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることを目的とする。
本発明の第一態様は、撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置の制御方法であって、複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する工程と、第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う工程と、第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する工程と、を含み、第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像であることを特徴とする撮像装置の制御方法である。
本発明の第二態様は、撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置であって、複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する手段と、第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う手段と、第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する手段と、を含み、第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像であることを特徴とする撮像装置である。
本発明によれば、画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
まず、本発明における技術背景を説明する。図1と図2では、光学像における開口絞りの効果を説明する。図3では、デジタル画像における開口絞りの効果を説明する。
(絞りによる空間周波数に対するコントラスト変化)
図1(a)は、開口絞りによる空間周波数とコントラストの変化を説明する模式図である。図1(a)の横軸は白黒パターンの半周期(ハーフピッチ[μm])、縦軸はコントラストである。図1(b)に示すようにハーフピッチは白黒パターンの半周期を意味するので、空間周波数とは反比例の関係にある。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、空間周波数におけるコントラストの変化を示している。開口絞りが開放側であるほど、空間周波数の高い領域(ハーフピッチ0.5[μm]〜1.75[μm])ではコントラストが大きい、すなわち、高解像度な画像が得られる。病理検査での組織診や細胞診で、ハーフピッチ0.5[μm]程度の細かい構造を観察するには、高解像度を確保するために、開口絞りを開放側にしたほうが良いことがわかる。
光学の一般特性として、フォーカス面において、開口絞りを開放して高NAとしたほうが、空間周波数の高い領域でコントラストが大きい、すなわち、高解像度となる像が得られる。
図1(a)は、開口絞りによる空間周波数とコントラストの変化を説明する模式図である。図1(a)の横軸は白黒パターンの半周期(ハーフピッチ[μm])、縦軸はコントラストである。図1(b)に示すようにハーフピッチは白黒パターンの半周期を意味するので、空間周波数とは反比例の関係にある。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、空間周波数におけるコントラストの変化を示している。開口絞りが開放側であるほど、空間周波数の高い領域(ハーフピッチ0.5[μm]〜1.75[μm])ではコントラストが大きい、すなわち、高解像度な画像が得られる。病理検査での組織診や細胞診で、ハーフピッチ0.5[μm]程度の細かい構造を観察するには、高解像度を確保するために、開口絞りを開放側にしたほうが良いことがわかる。
光学の一般特性として、フォーカス面において、開口絞りを開放して高NAとしたほうが、空間周波数の高い領域でコントラストが大きい、すなわち、高解像度となる像が得られる。
(絞りによる深度に対する空間周波数変化)
図2は、開口絞りによる深度の変化を説明する図である。図2の横軸は白黒パターンの半周期(ハーフピッチ[μm])、縦軸は50%DOF(Depth Of Field)[μm]である。50%DOFは物側焦点からの深度であり、物側焦点からの前側、もしくは、後側のズレ量に着目しているため50%としている。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、50%DOF[μm]において得られる空間周波数を示している。50%DOF4μmにおいて、開口絞りが絞り側であるほど、空間周波数の高い像が得られる。50%DOF4μmでは、絞り側の絞り3では、ハーフピッチ1.1[μm]程度の構造が得られるが、開放側の絞り1では、ハーフピッチ1.8[μm]程度の構造までしか得られない。病理検査での組織診や細胞診で、50%DOF4μmにおいて得られる構造の精細さは、開口絞り程度により異なることがわかる。
光学の一般特性として、開口絞りを絞って低NAとしたほうが、フォーカス面から離れた位置では高解像度となる像が得られる。
図2は、開口絞りによる深度の変化を説明する図である。図2の横軸は白黒パターンの半周期(ハーフピッチ[μm])、縦軸は50%DOF(Depth Of Field)[μm]である。50%DOFは物側焦点からの深度であり、物側焦点からの前側、もしくは、後側のズレ量に着目しているため50%としている。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、50%DOF[μm]において得られる空間周波数を示している。50%DOF4μmにおいて、開口絞りが絞り側であるほど、空間周波数の高い像が得られる。50%DOF4μmでは、絞り側の絞り3では、ハーフピッチ1.1[μm]程度の構造が得られるが、開放側の絞り1では、ハーフピッチ1.8[μm]程度の構造までしか得られない。病理検査での組織診や細胞診で、50%DOF4μmにおいて得られる構造の精細さは、開口絞り程度により異なることがわかる。
光学の一般特性として、開口絞りを絞って低NAとしたほうが、フォーカス面から離れた位置では高解像度となる像が得られる。
(絞りによるデフォーカス量に対するコントラスト評価値変化)
図3は、開口絞りによるデフォーカス量とコントラスト評価値の変化を説明する図である。図3の横軸はデフォーカス量[μm]、縦軸はコントラスト評価値の一例である。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、デフォーカス量[μm]における、ある画像のコントラスト評価値の変化を示している。デフォーカス量は物体面におけるフォーカス面からのズレ量として示している。開口絞りが開放側であるほど、デフォーカス量の小さい領域(デフォーカス量0[μm]〜1.0[μm])では高いコントラスト評価値が得られるが、デフォーカス量が大きい領域(デフォーカス量2.0[μm]〜5.0[μm])では、開口絞りが絞り側であるほど高いコントラスト評価値が得られる。病理検査の細胞診でzスタック画像群を取得する場合には、開口絞りを絞ったほうが、デフォーカス量が大きい領域でも高いコントラスト評価値となる画像が得られることがわかる。
図3は、開口絞りによるデフォーカス量とコントラスト評価値の変化を説明する図である。図3の横軸はデフォーカス量[μm]、縦軸はコントラスト評価値の一例である。開口絞りの開放側から順に点線(絞り1)、実線(絞り2)、破線(絞り3)として、デフォーカス量[μm]における、ある画像のコントラスト評価値の変化を示している。デフォーカス量は物体面におけるフォーカス面からのズレ量として示している。開口絞りが開放側であるほど、デフォーカス量の小さい領域(デフォーカス量0[μm]〜1.0[μm])では高いコントラスト評価値が得られるが、デフォーカス量が大きい領域(デフォーカス量2.0[μm]〜5.0[μm])では、開口絞りが絞り側であるほど高いコントラスト評価値が得られる。病理検査の細胞診でzスタック画像群を取得する場合には、開口絞りを絞ったほうが、デフォーカス量が大きい領域でも高いコントラスト評価値となる画像が得られることがわかる。
ここでのコントラスト評価値とは、コントラスト評価値をE、画素の輝度成分をL(m,n)とした場合に、以下の式を用いて算出できる。ここで、mは画素のY方向位置、nは画素のX方向位置を表している。
右辺の第1項はX方向に隣り合う画素の輝度差を表しており、第2項はY方向に隣り合う画素の輝度差を表している。コントラスト評価値Eは、X方向とY方向に隣り合う画素の輝度差の自乗和を示す指標である。なお、図3ではコントラスト評価値Eを0〜1で規格化した値を用いている。
画像、特に自然画像などの一般特性として、開口絞りを絞って低NAとしたほうが、デフォーカス量が大きい領域でコントラスト評価値の高い画像が得られる。
本発明に関わるバーチャル・スライド装置は、数μm前後の細胞小器官を観察する装置である。このような微細構造を観察するためには、図1(a)で示したように、微細構造のコントラストを上げるために開口絞りを開放して高NAとするのが良い。一方で、図2に示したように、スライドに載置された標本の厚さ程度の深度を確保する場合には、開口絞りを絞って低NAとしたほうが、解像力が上がる。このように、深度を考慮するか否かで、開口絞りの効果は相反するものとなる。また、図3に示したように、細胞のピントが合っているフォーカス面では開口絞りを開放して高NAとしたほうが高コントラストな画像が得られる。しかしながら、深さ方向まで考えると、開口絞りを絞って低NAとしたほうが、フォーカス面から外れた細胞のコントラストが確保できる画像が得られる。このように、細胞の深さ方向での位置により、開口絞りの効果は相反するものとなる。
以上説明したように、本発明は、要求される深度に対応して開口絞りを調整し、必要なコントラスト、解像度が得られることを利用したものである。
[第1の実施形態]
まず、本発明の第1の実施形態を、図面を参照しながら説明する。
まず、本発明の第1の実施形態を、図面を参照しながら説明する。
(撮像装置の構成)
図4は、撮像装置の概略構成を説明する模式図である。この撮像装置は、被写体となるスライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像
として取得するための装置である。
図4は、撮像装置の概略構成を説明する模式図である。この撮像装置は、被写体となるスライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像
として取得するための装置である。
図4(a)は撮像装置の概略構成を示す模式図である。撮像装置は、光源401、照明光学系402、開口絞り404、結像光学系405、撮像部406、画像処理部407、撮像制御部408、XYZ移動機構409、レール移動機構410を備えて構成される。後述するが、画像処理部407は、位置合わせパラメータ生成部、現像・補正部、画像ズレ補正部、合成部、圧縮部、伝送部などの機能ブロックを有している。撮像装置の各部の動作やタイミングは、撮像制御部408によって制御される。
光源401は撮像用の照明光を発生する手段である。光源401としては、RGB3色の発光波長を有する光源、例えばLEDやLD等を用いて各単色光を電気的に切り替えて発光する構成や、白色LEDとカラーホイールで各単色光を機械的に切り替える構成が用いられる。この場合、撮像部406の撮像素子群にはカラーフィルタを有さないモノクロ撮像素子が用いられる。光源401と撮像部406は、撮像制御部408の制御により同期して動作する。撮像制御部408の制御に従って、光源401ではRGBを順次発光させ、撮像部406は光源401の発光タイミングに同期して露光し、RGBそれぞれの画像を取得する。RGB各画像から1枚の撮像画像の生成は後段の画像処理部407内の現像・補正部で行う。
照明光学系402は、光源401の光を効率良くスライド403に導光する光学系である。
スライド403は、病理検査の対象となる標本を支持する支持プレートであり、標本をスライドグラスに載置し、マウント液を使ってカバーグラスで封入したものである。
開口絞り404は、スライド403からの透過光(より正確には、撮像対象領域からの拡散光)の絞りを制御する。開口絞り404による効果は、図1から図3で説明した通りである。撮像対象領域は図5で説明する。
結像光学系405は、スライド403からの透過光を拡大して導光し、撮像部406の像面上にスライド403(より正確には、撮像対象領域)の実像を結像する光学系である。
スライド403は、病理検査の対象となる標本を支持する支持プレートであり、標本をスライドグラスに載置し、マウント液を使ってカバーグラスで封入したものである。
開口絞り404は、スライド403からの透過光(より正確には、撮像対象領域からの拡散光)の絞りを制御する。開口絞り404による効果は、図1から図3で説明した通りである。撮像対象領域は図5で説明する。
結像光学系405は、スライド403からの透過光を拡大して導光し、撮像部406の像面上にスライド403(より正確には、撮像対象領域)の実像を結像する光学系である。
XYZ移動機構409は、標本が撮像画面の中央付近に位置するように制御するXY平面移動機構と、標本のZ方向位置を制御するZ方向移動機構とを備える。光軸に垂直な面をXY平面、光軸方向をZ方向としている。スライド403における標本のXY平面位置は、図4(b)で説明するプレ計測で把握する。スライド403の標本のZ方向位置は、撮像部406のオートフォーカス機能を利用して決定する。撮像部406のオートフォーカス機能は、広く実用化されているコントラストAFや位相差AFにより実現できる。撮像制御部408が、プレ計測、オートフォーカス機能の情報からスライド403のXYZ位置を制御する。
レール移動機構410は、スライド403を本撮像系とプレ計測系の間を移動させる機構であり、詳細を図4(b)に示した。スライド403はXYZ移動機構409上に支持されており、さらに、それらはレール移動機構410上に支持されている。この構成で、スライド403は、レール411を介してプレ計測系と本撮像系との間を移動できる。本撮像系とは図4(a)に示す撮像機構であり、プレ計測系はスライド403の標本位置を把握するための計測機構である。本実施形態の撮像装置は、まず、プレ計測系でスライド403の標本位置を把握し、本撮像系に移動して、標本の高解像大サイズ撮像を行う。
撮像部406は、2次元撮像素子を有して構成される撮像手段である。2次元撮像素子としては、CMOSイメージセンサやCCDイメージセンサが用いられる。撮像部406には、2次元撮像素子、CDS回路(相関2重サンプリング回路)、AGC回路(オート
・ゲイン・コントロール回路)、AD変換回路(アナログ・デジタル変換回路)、オートフォーカス機能が含まれる。撮像部406からは、撮像画像のデジタル信号が画像処理部407に伝送される。
・ゲイン・コントロール回路)、AD変換回路(アナログ・デジタル変換回路)、オートフォーカス機能が含まれる。撮像部406からは、撮像画像のデジタル信号が画像処理部407に伝送される。
画像処理部407は、現像・補正部、位置合わせパラメータ生成部、画像ズレ補正部、合成部、圧縮部の機能ブロックを有している。現像・補正部は、撮像部406で取得した撮像画像のデジタル信号の現像処理、補正処理を行う。機能としては、黒レベル補正、DNR(Digital Noise Reduction)、画素欠陥補正、撮像素子の個体ばらつきやシェーディングに対する輝度補正、現像処理、ホワイトバランス処理、強調処理、歪曲収差補正、倍率色収差補正などを含む。位置合わせパラメータ生成部は、複数の撮像画像(分割画像)を繋ぎ合わせるための補正パラメータの生成を行う。位置合わせパラメータ生成用の分割画像に対して、歪曲収差補正など画像補正を行い、補正後の各画像に対して、特徴量抽出、位置ズレ検知、補正パラメータ生成、の各工程を行う。画像ズレ補正部は、位置合わせパラメータ生成部で生成した補正パラメータを用いて複数の撮像画像(分割画像)の位置ズレ補正を行う。合成部は、画像ズレ補正後の各撮像画像(分割画像)を繋ぎ合わせる処理を行う。ここで繋ぎ合せる画像は、現像・補正部で歪曲収差補正や倍率収差補正済みの画像である。圧縮部は、合成部から出力されるブロック画像毎に逐次圧縮処理を行う。伝送部は、圧縮ブロック画像の信号をパーソナルコンピュータ(PC)やワークステーション(WS)に出力する。PCやWSへの信号伝送では、ギガビット・イーサネットなどの大容量の伝送が可能な通信規格を用いる。PCやWSでは、送られてくる圧縮ブロック画像ごとに順次ストレージに格納する。取得した標本の撮像画像の閲覧にはビューワソフトを用いると良い。ビューワソフトは閲覧領域の圧縮ブロック画像を読み出して伸張しディスプレイに表示する。
以上の構成により、標本の高解像かつ大サイズ(広画角)のデジタル画像の取得と取得画像の表示が実現できる。
ここでは、光源401で単色光を順次発光させてモノクロの2次元撮像素子で撮像する構成を説明したが、光源を白色LEDとし、撮像素子をカラーフィルタ付撮像素子としても良い。
ここでは、光源401で単色光を順次発光させてモノクロの2次元撮像素子で撮像する構成を説明したが、光源を白色LEDとし、撮像素子をカラーフィルタ付撮像素子としても良い。
(撮像対象領域と撮像タイル)
図5は、2次元撮像素子による撮像タイルを説明する模式図である。本実施形態の撮像装置は、スライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。高解像かつ大サイズ(広画角)を両立するために、2次元撮像素子で撮像対象領域をいくつかの領域に分割して、その分割領域を撮像する。ここでは、標本の全体像となる撮像領域を「撮像対象領域」、分割領域を「撮像タイル」とよび、撮像対象領域は撮像タイルを合成して構成されるものとする。また、光軸に垂直な面をxy平面としている。
図5は、2次元撮像素子による撮像タイルを説明する模式図である。本実施形態の撮像装置は、スライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。高解像かつ大サイズ(広画角)を両立するために、2次元撮像素子で撮像対象領域をいくつかの領域に分割して、その分割領域を撮像する。ここでは、標本の全体像となる撮像領域を「撮像対象領域」、分割領域を「撮像タイル」とよび、撮像対象領域は撮像タイルを合成して構成されるものとする。また、光軸に垂直な面をxy平面としている。
図5(a)は、物体面における撮像対象領域と標本を示す模式図である。撮像対象領域501をx方向に8分割、y方向に6分割し、その1領域が撮像タイル503である。撮像対象領域501は、スライド403における座標で設定される領域であり、スライド403での標本502位置を考慮してスライド403ごとに設定される。プレ計測において、標本502が撮像対象領域501の中心付近となるように、スライド403における撮像対象領域501の座標設定が行われる。
図5(b)は、物体面における撮像タイル503を示す模式図である。撮像タイル(N、M)は、y方向にN番目、x方向にM番目の撮像タイルを示している。複数の分割領域(撮像タイル)の撮像例として、まずは、x方向に撮像タイル(1、1)から撮像タイル(1、8)まで撮像し、次に、y方向に移動して撮像タイル(2、1)から撮像タイル(
2、8)まで撮像する、といった撮像順番を矢印で示している。各撮像タイルの合成を考えると、注目する撮像タイルは、その周辺全ての撮像タイルと画像の合成処理を行うことになる。撮像タイル(3、4)であれば、撮像タイル(2、3)、(2、4)、(2、5)、(3、3)、(3、5)、(4、3)、(4、4)、(4、5)の8つの撮像タイルと合成処理が行われる。合成処理において、隣接する撮像タイルは互いに重複した領域を有し、その重複領域を位置合わせ領域として利用するが、図5ではその位置合わせ領域を省略して記載している。
2、8)まで撮像する、といった撮像順番を矢印で示している。各撮像タイルの合成を考えると、注目する撮像タイルは、その周辺全ての撮像タイルと画像の合成処理を行うことになる。撮像タイル(3、4)であれば、撮像タイル(2、3)、(2、4)、(2、5)、(3、3)、(3、5)、(4、3)、(4、4)、(4、5)の8つの撮像タイルと合成処理が行われる。合成処理において、隣接する撮像タイルは互いに重複した領域を有し、その重複領域を位置合わせ領域として利用するが、図5ではその位置合わせ領域を省略して記載している。
ここでは、撮像対象領域501のすべての撮像タイルを撮像するものとして説明したが、撮像タイル(1、1)などの標本502が存在しない撮像タイルは撮像せずにスキップする処理とすることも可能である。これにより、撮像回数減少による撮像時間短縮、撮像画像枚数削減によるメモリ容量削減、といった効果がある。
以上説明したように、本撮像装置は、撮像対象領域を幾つかの撮像タイル(分割領域)に分割して、各撮像タイルを順々に撮像し、各撮像タイルはそれぞれ周辺全ての撮像タイルと合成処理が行われる。
(焦点位置と被写界深度)
図6は、標本での焦点位置と被写界深度を説明する模式図である。
図6(a)は、物体面における組織診標本上面図を示す模式図である。撮像タイル(4、6)601と撮像タイル(4、7)602の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図6は、標本での焦点位置と被写界深度を説明する模式図である。
図6(a)は、物体面における組織診標本上面図を示す模式図である。撮像タイル(4、6)601と撮像タイル(4、7)602の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図6(b)は、組織診標本断面図を示す模式図であり、図6(a)に示す切断面610における標本502のxz平面を示している。スライドグラスとカバーグラスに挟まれた領域に標本502があり、標本502の表面のうねりが曲線で示されている。撮像タイル(4、6)601のxz平面が603、撮像タイル(4、7)602のxz平面が604である。スライドグラスとカバーグラスの間隙は4μmである。
図6(c)は、組織診標本断面拡大図を示す模式図であり、図6(b)に示した603と604を拡大した図である。まず、603の領域に着目して、焦点位置と被写界深度について説明する。603の焦点位置605は破線で示されている。焦点位置605は、標本502表面を最小自乗法などで直線近似した面であり、撮像部406のオートフォーカス機能により決定される位置である。実際の焦点位置605は、1断面である603の標本502の表面うねりで決まるものではなく、撮像タイル(4、6)601における標本502の表面うねりで決定されるものである。以下、簡単のため、1断面の表面うねりが焦点位置を決定するとして説明する。603の第1の画像の被写界深度608は、斜線(左下がり斜線)で示された範囲であり、開口絞り404により決定される範囲である。ここでの第1の画像の被写界深度は、±0.5μmである。第1の画像とは画像合成に供する画像であり、合成画像を構成する画像である。第1の画像の詳細は後述する。同様に、604の領域に着目すると、焦点位置606が破線で、第1の画像の被写界深度607が斜線(右下がり斜線)で示されている。位置合わせ領域(xz平面)609は、撮像タイル(4、6)601と撮像タイル(4、7)602の重複領域であり、合成処理で位置合わせ領域として使用される領域である。画像合成での位置合わせはxy平面の画像を利用するが、ここでの位置合わせ領域(xz平面)609は、その1断面であるxz平面を示している。ここで、位置合わせ領域(xz平面)609における、603の第1の画像の被写界深度608と、604の第1の画像の被写界深度607の関係について説明する。各撮像タイルでは、それぞれの標本502の表面うねりにより焦点位置が決まるため、図6(c)に示すように、隣り合う撮像タイルで第1の画像の被写界深度が重なりをもたない場合が発生する。このような状況は、表面うねりの傾斜が大きい箇所が、撮像タイル間
の位置合わせ領域付近にあるときや、XYZ移動機構409のZ移動精度が高くないときに起こる可能性がある。図6(c)はxz平面の1断面で考えた場合だが、xy平面で考えた場合にも、撮像タイル(4、6)601で山型に***し、撮像タイル(4、7)602で谷型に陥没しているような表面うねりでは、第1の画像の被写界深度が重なりをもたない状況が発生する可能性がある。その場合、撮像タイル(4、6)601、及び、撮像タイル(4、7)602の位置合わせ領域で画像ボケが発生する。画像ボケの発生(ボケ具合)は、各撮像タイルにおける焦点位置、被写界深度、及び、標本502の表面うねりに依存する。
の位置合わせ領域付近にあるときや、XYZ移動機構409のZ移動精度が高くないときに起こる可能性がある。図6(c)はxz平面の1断面で考えた場合だが、xy平面で考えた場合にも、撮像タイル(4、6)601で山型に***し、撮像タイル(4、7)602で谷型に陥没しているような表面うねりでは、第1の画像の被写界深度が重なりをもたない状況が発生する可能性がある。その場合、撮像タイル(4、6)601、及び、撮像タイル(4、7)602の位置合わせ領域で画像ボケが発生する。画像ボケの発生(ボケ具合)は、各撮像タイルにおける焦点位置、被写界深度、及び、標本502の表面うねりに依存する。
以上説明したように、各撮像タイルにおける焦点位置、被写界深度、標本の表面うねりにより、合成処理を行うための位置合わせ領域で画像ボケが発生する場合がある。位置合わせ領域での画像ボケにより、位置合わせにおける特徴量抽出(後述)の精度が著しく低下し、精度の良い画像の合成処理ができなくなってしまう。合成処理に供するいずれかの撮像タイルで特徴量抽出の精度が低下すると、画像の合成処理の精度が低下してしまう。
(プレ計測処理)
図7は、プレ計測を説明するフローチャートである。なお、以下に述べる各ステップの処理は、図4(b)に示すプレ計測系で行われるものである。
図7は、プレ計測を説明するフローチャートである。なお、以下に述べる各ステップの処理は、図4(b)に示すプレ計測系で行われるものである。
ステップS701では、標本502のプレ撮像を行う。スライド403の全体像を撮影するためのものであり、産業用デジタルカメラなどで行われる。
ステップS702では、標本502の領域、及び、標本502のスライド403における位置を把握する。プレ撮像画像を用いて、標本502の領域抽出と、抽出した領域がスライド403のどの領域に存在しているかを座標情報として記憶する。
ステップS702では、標本502の領域、及び、標本502のスライド403における位置を把握する。プレ撮像画像を用いて、標本502の領域抽出と、抽出した領域がスライド403のどの領域に存在しているかを座標情報として記憶する。
ステップS703では、本撮像系における撮像対象領域の設定を行う。図5を参照すると、スライド403上の標本502の存在位置に合わせて、スライド403での撮像対象領域501の座標が設定される。標本502が撮像対象領域501の中心付近となるように、スライド403における撮像対象領域501の座標設定が行われる。
ステップS704では、撮像する撮像タイルの設定を行う。図5(b)を参照すると、撮像タイル(1、1)などの、撮像対象領域501で標本502が存在しない撮像タイルの撮像実行可否の判断を行う。撮像の必要がないと判断された撮像タイルの撮像をスキップして、撮像する撮像タイルの選定を行う。撮像実行可否判断は、ユーザが指定することもできるし、標本502の領域抽出結果から自動で判定することもできる。
以上の説明のとおり、プレ計測処理において、スライド403における撮像対象領域501の座標設定、撮像する撮像タイルの設定が行われる。
以上の説明のとおり、プレ計測処理において、スライド403における撮像対象領域501の座標設定、撮像する撮像タイルの設定が行われる。
(本撮像処理)
図8は、本撮像を説明するフローチャートである。なお、以下に述べる各ステップの処理は、図4(b)に示す本撮像系で行われるものである。
図8(a)は、複数回撮像タイルを撮像して撮像対象領域501を取得する処理フローを示している。撮像タイルの撮像には、位置合わせ用の画像である第2の画像の撮像、及び、合成用の画像である第1の画像の撮像を含んでいる。なお、以下に述べる各ステップの処理は、撮像制御部408が実行するか、又は、撮像制御部408からの指令に基づき撮像装置の各部が実行するものである。
図8は、本撮像を説明するフローチャートである。なお、以下に述べる各ステップの処理は、図4(b)に示す本撮像系で行われるものである。
図8(a)は、複数回撮像タイルを撮像して撮像対象領域501を取得する処理フローを示している。撮像タイルの撮像には、位置合わせ用の画像である第2の画像の撮像、及び、合成用の画像である第1の画像の撮像を含んでいる。なお、以下に述べる各ステップの処理は、撮像制御部408が実行するか、又は、撮像制御部408からの指令に基づき撮像装置の各部が実行するものである。
ステップS801では、本撮像の初期位置(N=1;Nは撮像対象である撮像タイルの通し番号)へスライドを移動させる。スライド403をプレ計測系から本撮像系に移動させ、かつ、プレ計測で取得したスライド403における撮像対象領域501の座標情報に
基づき、最初に撮像する撮像タイルが撮像できるようにスライド403をセットする。更に、撮像部406のオートフォーカス機能によりスライド403のz方向位置をセットする。ここで、撮像タイルの焦点位置が決定される。図7のS704で標本502が存在しない撮像タイルは撮像しないと判断した場合には、撮像タイル(1、3)を最初に撮像する撮像タイルとして、当該撮像タイルが本撮像系の初期位置としてセットされる。
基づき、最初に撮像する撮像タイルが撮像できるようにスライド403をセットする。更に、撮像部406のオートフォーカス機能によりスライド403のz方向位置をセットする。ここで、撮像タイルの焦点位置が決定される。図7のS704で標本502が存在しない撮像タイルは撮像しないと判断した場合には、撮像タイル(1、3)を最初に撮像する撮像タイルとして、当該撮像タイルが本撮像系の初期位置としてセットされる。
ステップS802では、絞り制御1を行う。開口絞り404を制御して、位置合わせ用である第2の画像を撮影するための絞りとする。第2の画像は、被写界深度が深く、デフォーカス量が大きい領域でコントラストが高い画像であり、図2、図3で説明したように、開口絞り404を絞って低NAとすることで得られる。
ステップS803では、撮像タイルN番目の第2の画像の撮像を行う。第2の画像は、位置合わせに用いる画像であり、合成に用いる画像(第1の画像)とは別に取得する。
ステップS803では、撮像タイルN番目の第2の画像の撮像を行う。第2の画像は、位置合わせに用いる画像であり、合成に用いる画像(第1の画像)とは別に取得する。
ステップS804では、絞り制御2を行う。開口絞り404を制御して、合成用である第1の画像を撮影するための絞りとする。第1の画像は、空間周波数の高い領域においてMTF(Modulation Transfer Function)が得られる画像(高解像な画像)であり、図1で説明したように、開口絞り404を開放して高NAとすることで得られる。
ステップS805では、撮像タイルN番目の第1の画像の撮像を行う。第1の画像は、合成に用いる画像であり、位置合わせに用いる画像(第2の画像)とは別に取得する。
ステップS805では、撮像タイルN番目の第1の画像の撮像を行う。第1の画像は、合成に用いる画像であり、位置合わせに用いる画像(第2の画像)とは別に取得する。
ステップS806では、撮像対象領域501の全ての撮像タイルの撮像が終了したか否かを判断する。撮像対象領域501の全ての撮像タイルの撮像が終了していなければ、S807へ進む。全ての撮像タイルの撮像が終了していれば、処理を終了する。
ステップS807では、次の撮像タイルが撮像できる位置に、XYZ移動機構409によりスライド403を移動させる。
ステップS807では、次の撮像タイルが撮像できる位置に、XYZ移動機構409によりスライド403を移動させる。
図8(b)は図8(a)のS805の第1の画像撮像での処理をさらに分解した処理フローを示している。
ステップS808では、単色光源(R光源、G光源、または、B光源)の発光、及び、2次元撮像素子の露光を開始する。単色光源の点灯タイミングと2次元撮像素子の露光タイミングは同期して動作するように制御される。
ステップS809では、2次元撮像素子から単色画像信号(R画像信号、G画像信号、または、B画像信号)の読み出しを行う。
ステップS810では、RGB画像の撮像が全て終了したかどうかを判断する。RGB各画像の撮像が終了していなければS808へ戻り、次の色の撮像を行う。全ての色の撮像が終了していれば処理を終了する。
以上の処理ステップにしたがって、各撮像タイルにおいて、位置合わせ用の画像である第2の画像と、合成用の画像である第1の画像の撮像を連続して行う。
ステップS808では、単色光源(R光源、G光源、または、B光源)の発光、及び、2次元撮像素子の露光を開始する。単色光源の点灯タイミングと2次元撮像素子の露光タイミングは同期して動作するように制御される。
ステップS809では、2次元撮像素子から単色画像信号(R画像信号、G画像信号、または、B画像信号)の読み出しを行う。
ステップS810では、RGB画像の撮像が全て終了したかどうかを判断する。RGB各画像の撮像が終了していなければS808へ戻り、次の色の撮像を行う。全ての色の撮像が終了していれば処理を終了する。
以上の処理ステップにしたがって、各撮像タイルにおいて、位置合わせ用の画像である第2の画像と、合成用の画像である第1の画像の撮像を連続して行う。
(撮像機能)
図9は、本撮像に関わる機能ブロック図である。図9(a)には、撮像部406と画像処理部407を分解した機能ブロック図が示してある。画像処理部407は、第1の画像格納部901、第2の画像格納部902、CPU903、位置合わせパラメータ生成部904、現像・補正部905、画像ズレ補正部906、合成部907、圧縮部908、CPU909、伝送部910を備えて構成される。図9(b)には、位置合わせパラメータ生成部904を分解した機能ブロック図が示してある。位置合わせパラメータ生成部904は、画像補正部911、特徴量抽出部912、位置ズレ検知部913、補正パラメータ生成部914を備えて構成される。
図9は、本撮像に関わる機能ブロック図である。図9(a)には、撮像部406と画像処理部407を分解した機能ブロック図が示してある。画像処理部407は、第1の画像格納部901、第2の画像格納部902、CPU903、位置合わせパラメータ生成部904、現像・補正部905、画像ズレ補正部906、合成部907、圧縮部908、CPU909、伝送部910を備えて構成される。図9(b)には、位置合わせパラメータ生成部904を分解した機能ブロック図が示してある。位置合わせパラメータ生成部904は、画像補正部911、特徴量抽出部912、位置ズレ検知部913、補正パラメータ生成部914を備えて構成される。
第1の画像格納部901は、第1の画像を格納するためのメモリである。第1の画像格
納部901の書き込みはCPU903により制御され、読み出しはCPU909により制御される。
第2の画像格納部902は、第2の画像を格納するためのメモリである。第1の画像格納部901と同様に、第2の画像格納部902の書き込みはCPU903により制御され、読み出しはCPU909により制御される。
CPU903は、撮像部406で取得した第1の画像、及び、第2の画像を、それぞれ、第1の画像格納部901、及び、第2の画像格納部902に格納するタイミングを制御するCPUである。
納部901の書き込みはCPU903により制御され、読み出しはCPU909により制御される。
第2の画像格納部902は、第2の画像を格納するためのメモリである。第1の画像格納部901と同様に、第2の画像格納部902の書き込みはCPU903により制御され、読み出しはCPU909により制御される。
CPU903は、撮像部406で取得した第1の画像、及び、第2の画像を、それぞれ、第1の画像格納部901、及び、第2の画像格納部902に格納するタイミングを制御するCPUである。
位置合わせパラメータ生成部904は、第2の画像格納部902に格納した第2の画像に対して、各撮像タイル(分割画像)を繋ぎ合わせるための補正パラメータの生成を行う。まず、画像補正部911では、位置合わせパラメータ生成用の各撮像タイル画像に対して、歪曲収差補正などの画像補正を行う。次に、特徴量抽出部912では、補正後の各画像の位置合わせ領域における特徴量を抽出する。次に、位置ズレ検知部913では、特徴量をもとに各画像の相対的位置ズレを検知する。そして、補正パラメータ生成部914では、相対的位置ズレ量から、各画像の位置ズレ補正量(補正パラメータ)を生成する。
現像・補正部905は、第1の画像格納部901に格納した第1の画像に対して、現像処理、補正処理を行う。機能としては、黒レベル補正、DNR(Digital Noise Reduction)、画素欠陥補正、撮像素子の個体ばらつきやシェーディングに対する輝度補正、現像処理、ホワイトバランス処理、強調処理、歪曲収差補正、倍率色収差補正などを含む。
画像ズレ補正部906は、位置合わせパラメータ生成部904で生成した補正パラメータを用いて、各撮像タイルの第1の画像の位置ズレ補正を行う。
合成部907は、画像ズレ補正後の各撮像タイル(分割画像)を繋ぎ合わせる処理を行う。ここで繋ぎ合せる画像は、現像・補正部905で歪曲収差補正や倍率収差補正済みの画像である。
圧縮部908は、合成部907から出力されるブロック画像毎に逐次圧縮処理を行う。
CPU909は、第1の画像格納部901に格納されている第1の画像を現像・補正部905に読み出すタイミング、及び、第2の画像格納部902に格納されている第2の画像を位置合わせパラメータ生成部904に読み出すタイミングを制御するCPUである。
伝送部910は、圧縮ブロック画像の信号をPCやWSに出力する。PCやWSへの信号伝送では、ギガビット・イーサネットなどの大容量の伝送が可能な通信規格を用いる。
画像ズレ補正部906は、位置合わせパラメータ生成部904で生成した補正パラメータを用いて、各撮像タイルの第1の画像の位置ズレ補正を行う。
合成部907は、画像ズレ補正後の各撮像タイル(分割画像)を繋ぎ合わせる処理を行う。ここで繋ぎ合せる画像は、現像・補正部905で歪曲収差補正や倍率収差補正済みの画像である。
圧縮部908は、合成部907から出力されるブロック画像毎に逐次圧縮処理を行う。
CPU909は、第1の画像格納部901に格納されている第1の画像を現像・補正部905に読み出すタイミング、及び、第2の画像格納部902に格納されている第2の画像を位置合わせパラメータ生成部904に読み出すタイミングを制御するCPUである。
伝送部910は、圧縮ブロック画像の信号をPCやWSに出力する。PCやWSへの信号伝送では、ギガビット・イーサネットなどの大容量の伝送が可能な通信規格を用いる。
以上の機能ブロックにより、第1の画像の位置合わせ領域がボケた画像であっても、第2の画像を用いて画像ズレ補正のための補正パラメータが生成でき、その補正パラメータを用いて、第1の画像の画像ズレ補正と画像の合成処理が実現できる。
(画像合成処理の概念)
図10は、画像処理部407による合成画像生成の工程を説明する模式図である。本発明のポイントとなる、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成する工程を概念的に示している。本実施例では、第1の画像と第2の画像は、被写界深度が異なる画像である。
図10は、画像処理部407による合成画像生成の工程を説明する模式図である。本発明のポイントとなる、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成する工程を概念的に示している。本実施例では、第1の画像と第2の画像は、被写界深度が異なる画像である。
ステップS1001では、撮像タイル(4、6)601の第1の画像1001と撮像タイル(4、7)602の第1の画像1002を示している。これらの第1の画像は、高解像な画像であり、図1で説明したように、開口絞り404を開放して高NAとすることで得られる。病理検査の組織診や細胞診では、ハーフピッチ0.5[μm]程度の細かい構造を観察する必要があり、観察用の画像として高解像な画像が求められている。
ステップS1002では、撮像タイル(4、6)601の第2の画像1003と撮像タイル(4、7)602の第2の画像1004を示している。これらの第2の画像は、被写界深度が深く、デフォーカス量が大きい領域でコントラストが高い画像であり、図2、図3で説明したように、開口絞り404を絞って低NAとすることで得られる。図6で説明したように、第1の画像では位置合わせ領域で画像ボケがある場合でも、開口絞り404を絞った第2の画像では被写界深度が深くなることで位置合わせ領域の画像ボケを解消できる。第2の画像は位置合わせパラメータ生成に用いる画像であるため、位置合わせ領域のみの取得で良い。ここでは、隣り合う撮像タイル間での合成に着目しているために、画像1003では右端の位置合わせ領域のみ、画像1004では左端の位置合わせ領域のみを取得している。しかし、例えば、撮像タイル(3、4)のように周辺8つの撮像タイルと合成処理を行うには、撮像タイルの周辺(上端、右端、下端、左端)の位置合わせ領域の取得が必要である(図5参照)。
ここで、第1の画像と第2の画像について説明する。第1の画像では染色標本を観察することから、第1の画像はカラー画像とすることが望ましいが、第2の画像はカラー画像である必要はなく、モノクロ画像でも良い。更に、第2の画像からの特徴量抽出を考えると、高いコントラストが得られる色の輝度情報から生成したモノクロ画像であればなお良い。高いコントラストが得られる色は、第2の画像を解析することにより特定することもできるし、標本の染色方法から特定することもできる。例えば、標本がHE染色(ヘマトキシリン・エオジン染色)の場合には、ヘマトキシリンの青紫色に着目し、B画像信号をモノクロ画像とする、などである。標本の染色方法は、スライドに関係付けられた染色情報から得ることができる。染色情報は、例えば、スライドに貼付された2次元コードやICチップから読み取るか、或いは、ユーザ入力若しくはデータ入力により与えられる。また、第1の画像は高解像である必要から全画素読み出し画像であることが望まれるが、第2の画像は特徴量が抽出できれば良いため第1の画像よりも低解像度の画像(例えば、間引き画像)でも良い。
第2の画像をモノクロ画像、低解像度画像、撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。また、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
ステップS1003では、画像合成に供する第2の画像1003と1004から、位置合わせパラメータを生成することを示している。各第2の画像は、光学系収差による画像歪みを補正する画像補正が施され、補正後の画像から特徴量が抽出される。そして、第2の画像それぞれの特徴量を比較して位置ズレを検知し、画像ズレ補正のための補正パラメータを生成する。ここでの画像補正は、第1の画像に対して行う画像補正と同様のパラメータを用いて行う。また、第2の画像と第1の画像は、被写界深度が違うのみで撮像範囲(画角)は同一である。そのため、第2の画像から生成した補正パラメータは、そのまま第1の画像に対して適用できる。ただし、カラー画像とモノクロ画像では、倍率色収差の影響で画像の歪み程度が変化するため、モノクロ画像を用いる場合には、倍率色収差の影響を加味した画像補正が必要である。
ステップS1004では、第2の画像1003と1004から生成した補正パラメータを用いて、第1の画像1001と1002の画像ズレ補正を行う。
ステップS1005では、第1の画像1001と1002の合成画像1005を生成する。
以上説明したように、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維
持したまま、画像合成における位置合わせ精度を向上させることができる。
ステップS1005では、第1の画像1001と1002の合成画像1005を生成する。
以上説明したように、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維
持したまま、画像合成における位置合わせ精度を向上させることができる。
(位置合わせ)
図11は、撮像タイル(分割画像)の位置合わせを説明する模式図である。ここでは、第1の画像を用いたときに発生する画像ボケと、その対処法となるボケの少ない第2の画像を用いることで精度良い位置合わせができることを説明する。
図11は、撮像タイル(分割画像)の位置合わせを説明する模式図である。ここでは、第1の画像を用いたときに発生する画像ボケと、その対処法となるボケの少ない第2の画像を用いることで精度良い位置合わせができることを説明する。
図11(a)は撮像タイル(4、6)601のxz断面図であり、図11(b)は撮像タイル(4、7)602のxz断面図である。図11(a)、(b)は、図6(c)の603と604を分解して図示したものであり、位置合わせ領域(xz平面)609を網掛けで示している。図11(c)は撮像タイル(4、6)601のxy平面図であり、図11(a)の上面図に対応する。ただし、図11(c)は、図11(a)の1断面にしか対応していないが、説明を簡単にするため、全断面で同じ表面うねりであると仮定して説明する。同様に、図11(d)は撮像タイル(4、7)602のxy平面図であり、図11(b)の上面図に対応する。ただし、図11(d)は、図11(b)の1断面にしか対応していないが、説明を簡単にするため、全断面で同じ表面うねりであると仮定して説明する。図11(c)、(d)には、標本表面の細胞(1103は細胞の1つ)が図示されており、それらを特徴量として抽出するものとする。
図11(a)と(c)の対応をみると、位置合わせ領域(xy平面)1101のほぼ右4分の3の領域が被写界深度から外れており、画像ボケ領域1104となる。同様に、図11(b)と(d)対応させると、位置合わせ領域(xy平面)1102のほぼ左4分の3の領域が被写界深度から外れており、画像ボケ領域1105となる。ボケた領域では特徴量抽出精度が低下するため、第1の画像を用いたのでは位置合わせ領域(xy平面)1101と1102との相関をとることができない。そこで、開口絞り404を絞って低NAとして被写界深度を2μm程度とすることで、画像ボケの少ない第2の画像が取得でき、精度良く位置合わせを行うことができる。被写界深度としては、厚い標本への対応、表面うねりのマージン、被写界深度端でのコントラスト確保を考慮し、図2に示すように、50%DOF4μm程度(被写界深度8μm程度)を考えれば十分である。このとき、開口絞りを絞った状態である絞り3では、ハーフピッチ1.1[μm]程度の構造まで撮像できることになる。
以上説明したように、第1の画像では発生してしまう可能性のある画像ボケに対して、被写界深度の深い第2の画像を用いることで、位置合わせにおける特徴量抽出が精度良く行える。
(画像合成処理)
図12は、画像処理部407による撮像タイル(分割画像)の合成を説明するフローチャートである。なお、図10では発明のポイントとなる工程の概念的なフローを説明したが、ここでは、機能ブロックと対応付けた説明を行う。
図12は、画像処理部407による撮像タイル(分割画像)の合成を説明するフローチャートである。なお、図10では発明のポイントとなる工程の概念的なフローを説明したが、ここでは、機能ブロックと対応付けた説明を行う。
ステップS1201では、第2の画像に対して歪曲収差補正などの画像補正を行う。第2の画像としてモノクロ画像を用いる場合には、倍率色収差の影響を加味した画像補正を行う。これは、位置合わせパラメータ生成部904内の画像補正部911で行われる。
ステップS1202では、第2の画像の特徴量抽出を行う。病理検査における組織診や細胞診では、核、細胞膜などの細胞小器官やピロリ菌などが特徴となり得る。これは、位置合わせパラメータ生成部904内の特徴量抽出部912で行われる。
ステップS1203では、抽出した特徴量をもとに、第2の画像同士の相対的位置ズレ量を検知する。これは、位置合わせパラメータ生成部904内の位置ズレ検知部913で行われる。
ステップS1204では、第2の画像同士の相対的位置ズレ量から、各画像の位置ズレ補正量(補正パラメータ)の生成を行う。S1201の画像補正により、第1の画像と第2の画像は等価な画像とみなせる。そのため、第2の画像から求めた補正パラメータは、第1の画像に対しても適用できる。これは、位置合わせパラメータ生成部904内の補正パラメータ生成部914で行われる。
S1201からS1204までの処理は、第2の画像に対して行われる処理である。
ステップS1202では、第2の画像の特徴量抽出を行う。病理検査における組織診や細胞診では、核、細胞膜などの細胞小器官やピロリ菌などが特徴となり得る。これは、位置合わせパラメータ生成部904内の特徴量抽出部912で行われる。
ステップS1203では、抽出した特徴量をもとに、第2の画像同士の相対的位置ズレ量を検知する。これは、位置合わせパラメータ生成部904内の位置ズレ検知部913で行われる。
ステップS1204では、第2の画像同士の相対的位置ズレ量から、各画像の位置ズレ補正量(補正パラメータ)の生成を行う。S1201の画像補正により、第1の画像と第2の画像は等価な画像とみなせる。そのため、第2の画像から求めた補正パラメータは、第1の画像に対しても適用できる。これは、位置合わせパラメータ生成部904内の補正パラメータ生成部914で行われる。
S1201からS1204までの処理は、第2の画像に対して行われる処理である。
ステップS1205では、第1の画像に対して現像・補正を行う。黒レベル補正、DNR(Digital Noise Reduction)、画素欠陥補正、撮像素子の個体ばらつきやシェーディングに対する輝度補正、現像処理、ホワイトバランス処理、強調処理、歪曲収差補正、倍率色収差補正などが行われる。これは、現像・補正部905で行われる。
ステップS1206では、第2の画像から生成した補正パラメータを用いて、第1の画像に対して画像ズレ補正を行う。これは、画像ズレ補正部906で行われる。
ステップS1207では、第1の画像の合成画像を生成する。これは、合成部907で行われる。
S1205からS1207までの処理は、第1の画像に対して行われる処理である。
以上の処理ステップにしたがって、第2の画像を用いて位置合わせを行い、第1の画像を用いて画像合成を行う。
ステップS1206では、第2の画像から生成した補正パラメータを用いて、第1の画像に対して画像ズレ補正を行う。これは、画像ズレ補正部906で行われる。
ステップS1207では、第1の画像の合成画像を生成する。これは、合成部907で行われる。
S1205からS1207までの処理は、第1の画像に対して行われる処理である。
以上の処理ステップにしたがって、第2の画像を用いて位置合わせを行い、第1の画像を用いて画像合成を行う。
(画像合成シーケンス)
図13は、撮像タイル(分割画像)の合成を説明するシーケンス図である。撮像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。
図13は、撮像タイル(分割画像)の合成を説明するシーケンス図である。撮像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。
ステップS1301では、撮像部406が撮像タイル(4、6)601の第2の画像を取得する。
ステップS1302では、CPU903の制御により、撮像タイル(4、6)601の第2の画像を第2の画像格納部902に格納する。
ステップS1303では、撮像部406が撮像タイル(4、6)601の第1の画像を取得する。
ステップS1304では、CPU903の制御により、撮像タイル(4、6)601の第1の画像を第1の画像格納部901に格納する。
ステップS1305では、撮像部406が撮像タイル(4、7)602の第2の画像を取得する。
ステップS1306では、CPU903の制御により、撮像タイル(4、6)602の第2の画像を第2の画像格納部902に格納する。
ステップS1307では、撮像部406が撮像タイル(4、7)602の第1の画像を取得する。
ステップS1308では、CPU903の制御により、撮像タイル(4、7)602の第1の画像を第1の画像格納部901に格納する。
S1301からS1308までに示した、画像取得から画像格納までは、第1の画像格納部901、もしくは、第2の画像格納部902からのビジー信号を受信しない限りは、CPU903の制御により順次実行される。
ステップS1302では、CPU903の制御により、撮像タイル(4、6)601の第2の画像を第2の画像格納部902に格納する。
ステップS1303では、撮像部406が撮像タイル(4、6)601の第1の画像を取得する。
ステップS1304では、CPU903の制御により、撮像タイル(4、6)601の第1の画像を第1の画像格納部901に格納する。
ステップS1305では、撮像部406が撮像タイル(4、7)602の第2の画像を取得する。
ステップS1306では、CPU903の制御により、撮像タイル(4、6)602の第2の画像を第2の画像格納部902に格納する。
ステップS1307では、撮像部406が撮像タイル(4、7)602の第1の画像を取得する。
ステップS1308では、CPU903の制御により、撮像タイル(4、7)602の第1の画像を第1の画像格納部901に格納する。
S1301からS1308までに示した、画像取得から画像格納までは、第1の画像格納部901、もしくは、第2の画像格納部902からのビジー信号を受信しない限りは、CPU903の制御により順次実行される。
ステップS1309では、第2の画像格納部902から撮像タイル(4、6)601の第2の画像を読み出し、位置合わせパラメータ生成部904において当該画像の画像補正、特徴量抽出を行う。この処理は、S1302での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1310では、第2の画像格納部902から撮像タイル(4、7)602の第2の画像を読み出し、位置合わせパラメータ生成部904において当該画像の画像補正、特徴量抽出を行う。この処理は、S1306での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1310では、第2の画像格納部902から撮像タイル(4、7)602の第2の画像を読み出し、位置合わせパラメータ生成部904において当該画像の画像補正、特徴量抽出を行う。この処理は、S1306での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1311では、位置合わせパラメータ生成部904において補正パラメータ生成を行う。補正パラメータは、S1309で抽出した撮像タイル(4、6)601の第2の画像の特徴量と、S1310で抽出した撮像タイル(4、7)602の第2の画像の特徴量とを用いた位置ズレ検知部913により生成される。
ステップS1312では、現像・補正部905において、撮像タイル(4、6)601の第1の画像の現像・補正処理を行う。この処理は、S1304での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1313では、現像・補正部905において、撮像タイル(4、7)602の第1の画像の現像・補正処理を行う。この処理は、S1308での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1313では、現像・補正部905において、撮像タイル(4、7)602の第1の画像の現像・補正処理を行う。この処理は、S1308での画像格納処理が終了するのを待たずに実施しても良い。
ステップS1314では、画像ズレ補正部906において、S1311で生成した補正パラメータを用いて、撮像タイル(4、6)601の第1の画像と撮像タイル(4、7)602の第1の画像の画像ズレ補正を行う。この処理は、S1311の処理、及び、S1313の処理が終了後に即座に実行される。
ステップS1315では、合成部907において、画像ズレ補正後の撮像タイル(4、6)601の第1の画像と撮像タイル(4、7)602の第1の画像の合成処理を行う。
ステップS1315では、合成部907において、画像ズレ補正後の撮像タイル(4、6)601の第1の画像と撮像タイル(4、7)602の第1の画像の合成処理を行う。
以上説明したように、第2の画像と第1の画像は時間的に順番に取得され、第2の画像が第1の画像に先行して取得される。それにより、第2の画像からの特徴量抽出を第1の画像の取得と同時に(並列に)行うことができ、S1313の撮像タイル(4、7)602の現像・補正処理の直後に、S1314の画像ズレ補正を行うことができる。特徴量抽出による待ち時間が発生せず、合成までの処理時間を短縮することができる。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像である。第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
更に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像より先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像である。第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
更に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像より先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
(本実施形態の変形例)
ここで、以上述べた本実施形態の変形例について説明する。第1の画像は高い解像度を有した画像であるが、一方で、被写界深度が浅く、標本の表面うねりに対して画像ボケが
発生しやすい。そこで、第1の画像の画像ボケの程度を画像のコントラストで把握し、画像のコントラストがしきい値以下の場合には、第1の画像を第2の画像で置き換えることを行う。この場合、第2の画像としては第1の画像と被写界深度以外の属性(カラー画像、全画素読み出し画像、撮像タイル(分割領域)をすべて含む画像)はすべて同じ画像とする必要がある。
ここで、以上述べた本実施形態の変形例について説明する。第1の画像は高い解像度を有した画像であるが、一方で、被写界深度が浅く、標本の表面うねりに対して画像ボケが
発生しやすい。そこで、第1の画像の画像ボケの程度を画像のコントラストで把握し、画像のコントラストがしきい値以下の場合には、第1の画像を第2の画像で置き換えることを行う。この場合、第2の画像としては第1の画像と被写界深度以外の属性(カラー画像、全画素読み出し画像、撮像タイル(分割領域)をすべて含む画像)はすべて同じ画像とする必要がある。
(撮像機能)
図14は、コントラスト判定を行う場合の本撮像に関わる機能ブロック図である。図9で示した本撮像に関わる機能ブロック図に、コントラスト判定部1401が追加された構成である。コントラスト判定部1401以外の機能ブロックは、図9で説明したものと同一である。
図14は、コントラスト判定を行う場合の本撮像に関わる機能ブロック図である。図9で示した本撮像に関わる機能ブロック図に、コントラスト判定部1401が追加された構成である。コントラスト判定部1401以外の機能ブロックは、図9で説明したものと同一である。
コントラスト判定部1401は、第1の画像のコントラストを判定する。コントラスト判定部1401は、第1の画像格納部901に格納してある第1の画像を読み出して、コントラスト判定を行う。第1の画像のコントラストは、図3で説明したコントラスト評価値を用いることで数値化できる。コントラスト評価値がしきい値以上であれば、第1の画像は観察に耐え得る画像であると判断し、そのまま画像合成に用いる。コントラスト評価値がしきい値未満であれば、第1の画像は観察に耐え得ない画像であると判断し、第2の画像を画像合成に用いる。しきい値は、多くの病理検査画像(組織診画像、細胞診画像)を用いて病理診断医に観察に耐え得るか否かをヒアリングするなどして決定する。
以上の機能ブロックにより、第1の画像が観察に耐えられないボケ画像であった場合には、第2の画像を用いて画像合成をすることができ、画像ボケの少ない合成画像が実現できる。
以上の機能ブロックにより、第1の画像が観察に耐えられないボケ画像であった場合には、第2の画像を用いて画像合成をすることができ、画像ボケの少ない合成画像が実現できる。
(画像合成処理)
図15は、コントラスト判定を行う場合の分割画像の合成を説明するフローチャートである。図12で示した撮像タイル(分割画像)の合成を説明するフローチャートに、S1501とS1502が追加された構成である。S1501とS1502以外の処理ステップは、図12で説明したものと同一である。
図15は、コントラスト判定を行う場合の分割画像の合成を説明するフローチャートである。図12で示した撮像タイル(分割画像)の合成を説明するフローチャートに、S1501とS1502が追加された構成である。S1501とS1502以外の処理ステップは、図12で説明したものと同一である。
ステップS1501では、第1の画像のコントラスト判定を行い、第1の画像のコントラスト評価値がしきい値以上かどうかを判断する。しきい値以上であればS1205へ進み、しきい値未満であればS1502へ進む。これは、コントラスト判定部1401で行われる。
ステップS1502では、第2の画像読み出しを行う。CPU909により第2の画像が読み出され、S1205の現像・補正処理に進む。
以上の処理ステップにしたがって、第1の画像が観察に耐え得ないボケた画像であると判断した場合には、第1の画像の代わりに第2の画像を用いて画像合成を行う。
ステップS1502では、第2の画像読み出しを行う。CPU909により第2の画像が読み出され、S1205の現像・補正処理に進む。
以上の処理ステップにしたがって、第1の画像が観察に耐え得ないボケた画像であると判断した場合には、第1の画像の代わりに第2の画像を用いて画像合成を行う。
(本実施形態の変形例の利点)
以上述べた本実施形態の変形例の構成によれば、第1の画像が観察に耐えられないボケ画像であった場合には、第2の画像を用いて画像合成をすることができ、画像ボケの少ない合成画像が実現できる。
ここで、処理を簡略化するため、第1の画像のコントラスト評価値をしきい値と比較しているが、第1の画像と第2の画像のコントラスト評価値を比較して、コントラスト評価値の高い画像を画像合成に用いる画像として選択する構成も可能である。
以上述べた本実施形態の変形例の構成によれば、第1の画像が観察に耐えられないボケ画像であった場合には、第2の画像を用いて画像合成をすることができ、画像ボケの少ない合成画像が実現できる。
ここで、処理を簡略化するため、第1の画像のコントラスト評価値をしきい値と比較しているが、第1の画像と第2の画像のコントラスト評価値を比較して、コントラスト評価値の高い画像を画像合成に用いる画像として選択する構成も可能である。
[第2の実施形態]
次に、本発明の第2の実施形態を、図面を参照しながら説明する。第1の実施形態では、画像合成に供するすべての撮像タイル(分割領域)で第1の画像と第2の画像を取得す
る例について述べた。これに対し、本実施形態では、被写界深度判定を行い、合成までの処理時間を短縮する例について述べる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省略する。図4に示した撮像装置の概略構成、図5に示した撮像対象領域と撮像タイルの説明、図6に示した焦点位置と被写界深度の説明、図9に示した本撮像の機能ブロック図、図11に示した位置合わせの説明、図13に示した画像合成シーケンスは、第1の実施形態と同じである。
次に、本発明の第2の実施形態を、図面を参照しながら説明する。第1の実施形態では、画像合成に供するすべての撮像タイル(分割領域)で第1の画像と第2の画像を取得す
る例について述べた。これに対し、本実施形態では、被写界深度判定を行い、合成までの処理時間を短縮する例について述べる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省略する。図4に示した撮像装置の概略構成、図5に示した撮像対象領域と撮像タイルの説明、図6に示した焦点位置と被写界深度の説明、図9に示した本撮像の機能ブロック図、図11に示した位置合わせの説明、図13に示した画像合成シーケンスは、第1の実施形態と同じである。
(標本表面形状計測)
図16は、プレ計測での標本表面形状計測を説明する模式図である。標本表面形状計測は、標本の表面うねりを計測するためのものであり、波面計測用光源1601と波面計測センサ1602で構成される。図4(b)に示すプレ計測系に、標本表面形状計測が追加される構成となる。波面計測センサ1602として、シャックハルトマンセンサなどが用いられる。波面計測センサ1602は、波面計測用光源1601から照射された光の標本表面での反射光(標本表面の像のずれ)を測定し、標本表面のうねり状態を把握するものである。
以上の構成により、プレ計測系において、図6(c)に示した標本断面形状(標本表面のうねり状態)が把握できる。
図16は、プレ計測での標本表面形状計測を説明する模式図である。標本表面形状計測は、標本の表面うねりを計測するためのものであり、波面計測用光源1601と波面計測センサ1602で構成される。図4(b)に示すプレ計測系に、標本表面形状計測が追加される構成となる。波面計測センサ1602として、シャックハルトマンセンサなどが用いられる。波面計測センサ1602は、波面計測用光源1601から照射された光の標本表面での反射光(標本表面の像のずれ)を測定し、標本表面のうねり状態を把握するものである。
以上の構成により、プレ計測系において、図6(c)に示した標本断面形状(標本表面のうねり状態)が把握できる。
(プレ計測処理、本撮像処理)
図17は、被写界深度判定を行う場合のプレ計測、本撮像を説明するフローチャートである。
図17(a)はプレ計測を説明するフローチャートである。図7で示したプレ計測を説明するフローチャートに、S1701からS1704が追加された構成である。S1701からS1704以外の処理ステップは、図7で説明したものと同一である。
図17は、被写界深度判定を行う場合のプレ計測、本撮像を説明するフローチャートである。
図17(a)はプレ計測を説明するフローチャートである。図7で示したプレ計測を説明するフローチャートに、S1701からS1704が追加された構成である。S1701からS1704以外の処理ステップは、図7で説明したものと同一である。
ステップS1701では、標本表面形状計測を行う。標本表面形状計測により、標本表面のうねり状態が把握できる。
ステップS1702では、標本表面のうねり状態に基づき、すべての撮像タイルでの焦点位置を決定する。
ステップS1703では、各撮像タイルの被写界深度判定を行う。S1702で決定した焦点位置と絞り制御1での被写界深度(±0.5μm)から、位置合わせ領域での標本表面うねり範囲が被写界深度内かどうかを、すべての撮像タイルで判断する。標本表面うねり範囲とは、位置合わせ領域での表面うねりのz方向範囲である。例えば、図6(c)では、スライドグラス側をz=0μmとすると、位置合わせ領域(xz平面)609における標本表面うねり範囲は、z=約1.7μmからz=約2.8μmまでの範囲となる。ただし、図6(c)は、説明を簡単にするために、位置合わせ領域の1断面のみを示しているが、実際には全断面(表面うねり)で把握する。撮像タイルにおける焦点位置と被写界深度内か否かの情報は、S1704、及び、本撮像で用いるため、テーブルとして記憶しておく。
ステップS1702では、標本表面のうねり状態に基づき、すべての撮像タイルでの焦点位置を決定する。
ステップS1703では、各撮像タイルの被写界深度判定を行う。S1702で決定した焦点位置と絞り制御1での被写界深度(±0.5μm)から、位置合わせ領域での標本表面うねり範囲が被写界深度内かどうかを、すべての撮像タイルで判断する。標本表面うねり範囲とは、位置合わせ領域での表面うねりのz方向範囲である。例えば、図6(c)では、スライドグラス側をz=0μmとすると、位置合わせ領域(xz平面)609における標本表面うねり範囲は、z=約1.7μmからz=約2.8μmまでの範囲となる。ただし、図6(c)は、説明を簡単にするために、位置合わせ領域の1断面のみを示しているが、実際には全断面(表面うねり)で把握する。撮像タイルにおける焦点位置と被写界深度内か否かの情報は、S1704、及び、本撮像で用いるため、テーブルとして記憶しておく。
ステップS1704では、S1703で取得した撮像タイルにおける焦点位置と被写界深度内か否かの情報を基に、撮像タイルの撮像順番の決定を行う。画像合成に供する複数の撮像タイル(分割領域)のうち、標本表面のうねり範囲が被写界深度に収まっているものを第1の撮像タイル(第1の分割領域)とよび、それ以外を第2の撮像タイル(第2の分割領域)とよぶ。このとき、第1の撮像タイル(第1の分割領域)の画像が第2の撮像タイル(第2の分割領域)の画像に時間的に先行して取得されるように、すべての撮像タイルに対して撮像順番付けを行う。
以上の処理ステップにしたがって、プレ計測において被写界深度判定と撮像タイルの撮像順番の決定を行う。
以上の処理ステップにしたがって、プレ計測において被写界深度判定と撮像タイルの撮像順番の決定を行う。
図17(b)は本撮像を説明するフローチャートである。図8で示した本撮像を説明するフローチャートに、S1705とS1706が追加された構成である。S1705とS1706以外の処理ステップは、図8で説明したものと同一である。
ステップS1705では、本撮像の初期位置(N=1;Nは撮像対象である撮像タイルの通し番号)へスライドを移動させる。スライド403をプレ計測系から本撮像系に移動させ、かつ、プレ計測のS1704で決定した撮像タイルの撮像順番に基づき、最初に撮像する撮像タイルが撮像できるようにスライド403をセットする。更に、S1703でテーブルとして記憶した焦点位置情報に基づき、スライド403のz方向位置をセットする。
ステップS1706では、被写界深度判定を行う。S1703でテーブルとして記憶した当該撮像タイルが被写界深度内か否かの情報に基づき判断する。当該撮像タイルが被写界深度内であればS804へ進み、被写界深度内でなければS802へ進む。当該撮像タイルが被写界深度内であれば、第2の画像の撮像が省略できる。
以上の処理ステップにしたがって、各撮像タイルにおいて、位置合わせ用の画像である第2の画像と、合成用の画像である第1の画像の撮像を連続して行う。
ステップS1706では、被写界深度判定を行う。S1703でテーブルとして記憶した当該撮像タイルが被写界深度内か否かの情報に基づき判断する。当該撮像タイルが被写界深度内であればS804へ進み、被写界深度内でなければS802へ進む。当該撮像タイルが被写界深度内であれば、第2の画像の撮像が省略できる。
以上の処理ステップにしたがって、各撮像タイルにおいて、位置合わせ用の画像である第2の画像と、合成用の画像である第1の画像の撮像を連続して行う。
(画像合成シーケンス)
図18は、被写界深度判定を行う場合の分割画像の合成を説明するシーケンス図である。撮像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。図13で示した分割画像の合成を説明するシーケンス図と同じ処理は同一符号で示している。新たに追加されたS1801の処理は黒塗り四角で示している。
ここで、撮像タイル(4、6)601の位置合わせ領域は、被写界深度判定で被写界深度に収まっていると判断され、撮像タイル(4、7)602の位置合わせ領域は、被写界深度判定で被写界深度に収まっていないと判断されたものとする。
図18は、被写界深度判定を行う場合の分割画像の合成を説明するシーケンス図である。撮像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。図13で示した分割画像の合成を説明するシーケンス図と同じ処理は同一符号で示している。新たに追加されたS1801の処理は黒塗り四角で示している。
ここで、撮像タイル(4、6)601の位置合わせ領域は、被写界深度判定で被写界深度に収まっていると判断され、撮像タイル(4、7)602の位置合わせ領域は、被写界深度判定で被写界深度に収まっていないと判断されたものとする。
ステップS1801では、第1の画像格納部901から撮像タイル(4、6)601の第1の画像(の位置合わせ領域)を読み出し、位置合わせパラメータ生成部904において当該画像の画像補正、特徴量抽出を行う。この処理は、S1304での画像格納処理が終了するのを待たずに実施しても良い。これは、S1309とほぼ同一の処理で、対象となる画像が第2の画像から第1の画像に置き換わっただけである。
図13で示したシーケンス図と比較すると、図18では、撮像タイル(4、6)601の第2の画像の取得が省略され、撮像タイル(4、6)601の画像補正・特徴量抽出を第1の画像で行っている。被写界深度判定を行ったことで撮像タイル(4、6)601の第2の画像の取得が省略され、合成までの処理時間が短縮されている。更に、被写界深度判定で被写界深度に収まっていると判断された撮像タイル(4、6)601が時間先行して取得されたことにより、合成までの処理時間が短縮されている。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、画像合成に供する領域の被写界深度を判定する被写界深度判定工程を有し、被写界深度に収まっていると判断された分割領域に対しては、第1の画像のみ取得し、位置合わせに第1の画像を用いることで、撮像から合成までの処理時間を短縮できる。
更に、画像合成に供する第1の分割領域と第2の分割領域において、第1の分割領域と第2の分割領域は時間的に順番に取得され、被写界深度判定工程で被写界深度に収まっていると判断された分割領域が先行して取得されることで、撮像から合成までの処理時間を
短縮できる。
以上述べた本実施形態の構成によれば、画像合成に供する領域の被写界深度を判定する被写界深度判定工程を有し、被写界深度に収まっていると判断された分割領域に対しては、第1の画像のみ取得し、位置合わせに第1の画像を用いることで、撮像から合成までの処理時間を短縮できる。
更に、画像合成に供する第1の分割領域と第2の分割領域において、第1の分割領域と第2の分割領域は時間的に順番に取得され、被写界深度判定工程で被写界深度に収まっていると判断された分割領域が先行して取得されることで、撮像から合成までの処理時間を
短縮できる。
[第3の実施形態]
次に、本発明の第3の実施形態を、図面を参照しながら説明する。
第1の実施形態では、第1の画像と第2の画像は被写界深度が異なる画像であるが、本実施形態では、第1の画像と第2の画像は焦点位置が異なる画像である。また、第1の実施形態では、画像合成に供するすべての撮像タイル(分割領域)で第1の画像と第2の画像をそれぞれ1枚ずつ取得する例であり、主に、病理検査の組織診標本に対して適用できる。これに対し、本実施形態では、各撮像タイル(分割領域)で複数枚撮像し、そこから第1の画像と第2の画像を選択して画像合成する例であり、主に、zスタック画像を取得する病理検査の細胞診標本に対して適用できる。zスタック画像とは、焦点位置を変えながら撮像することにより得られた複数枚の2次元画像から構成されるデータである。zスタック画像を構成する各焦点位置の2次元画像は、レイヤー画像と呼ばれる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省略する。図4に示した撮像装置の概略構成、図5に示した撮像対象領域と撮像タイルの説明、図7に示したプレ計測処理は、第1の実施形態と同じである。
次に、本発明の第3の実施形態を、図面を参照しながら説明する。
第1の実施形態では、第1の画像と第2の画像は被写界深度が異なる画像であるが、本実施形態では、第1の画像と第2の画像は焦点位置が異なる画像である。また、第1の実施形態では、画像合成に供するすべての撮像タイル(分割領域)で第1の画像と第2の画像をそれぞれ1枚ずつ取得する例であり、主に、病理検査の組織診標本に対して適用できる。これに対し、本実施形態では、各撮像タイル(分割領域)で複数枚撮像し、そこから第1の画像と第2の画像を選択して画像合成する例であり、主に、zスタック画像を取得する病理検査の細胞診標本に対して適用できる。zスタック画像とは、焦点位置を変えながら撮像することにより得られた複数枚の2次元画像から構成されるデータである。zスタック画像を構成する各焦点位置の2次元画像は、レイヤー画像と呼ばれる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省略する。図4に示した撮像装置の概略構成、図5に示した撮像対象領域と撮像タイルの説明、図7に示したプレ計測処理は、第1の実施形態と同じである。
(zスタック画像群と被写界深度)
図19は、細胞診におけるzスタック画像群と被写界深度を説明する模式図である。
図19(a)は、物体面における細胞診標本上面図を示す模式図である。1901は細胞診標本である。撮像タイル(4、6)1902と撮像タイル(4、7)1903の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図19は、細胞診におけるzスタック画像群と被写界深度を説明する模式図である。
図19(a)は、物体面における細胞診標本上面図を示す模式図である。1901は細胞診標本である。撮像タイル(4、6)1902と撮像タイル(4、7)1903の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図19(b)は、細胞診標本断面拡大図を示す模式図であり、図19(a)に示す切断面1909における標本1901のxz平面を示している。撮像タイル(4、6)1902のxz平面が1904、撮像タイル(4、7)1903のxz平面が1905である。細胞診でのスライドグラスとカバーグラスの間隙は数十μmである。まず、zスタック画像の焦点位置と被写界深度について説明する。#1〜#5は、撮像タイル(4、6)1902における5枚のレイヤー画像であり、それぞれの焦点位置が破線で示されている。撮像タイル(4、7)1903におけるレイヤー画像#1’〜#5’の焦点位置も破線で示されている(符号は不図示)。
以下、1904の領域に着目して説明する。レイヤー画像#5を観察するものとする。観察面であるレイヤー画像#5の被写界深度1907は、斜線(左下がり斜線)で示された範囲である。細胞(1906は細胞の1つ)は標本内に散在、浮遊している。1904と1905に対する位置合わせ領域(xz平面)1908は、撮像タイル(4、6)1902と撮像タイル(4、7)1903の重複領域であり、合成処理で位置合わせ領域として使用される領域である。画像合成での位置合わせはxy平面の画像を利用するが、ここでの位置合わせ領域(xz平面)は、その1断面であるxz平面を示している。
ここで、位置合わせ領域(xz平面)1908における、観察面(#5;第1の画像)とそのほかの面(#1〜#4)の関係について説明する。観察面の位置合わせ領域(xz平面)1908では、位置合わせに必要な特徴となる細胞が存在しないため、特徴量の相関比較の精度が低下する。一方、#2や#3の位置合わせ領域(xz平面)1908では、特徴量となる細胞が存在するため、観察面と比較して、高精度で位置合わせが行える。位置合わせ精度に寄与する細胞の存在はランダムであるため、観察面での位置合わせが常に精度良く行えるとは限らない。図19(b)はxz平面の1断面で考えた場合だが、y軸を含めた3次元で考えた場合にも、位置合わせ領域(xyz空間;xy平面とz軸は被写界深度範囲)に位置合わせ精度が確保できる程度の細胞が存在しない可能性がある。
図19(c)は、位置合わせ領域におけるレイヤー画像#1〜#5のコントラストを比較した表である。各レイヤー画像のコントラストは、図3で説明したコントラスト評価値を用いることで数値化できる。コントラスト評価値を用いて、十分な精度で位置合わせができるかどうかという観点で各レイヤー画像のコントラスト判定を行う。コントラスト判定の基準は、多くの病理検査画像(組織診画像、細胞診画像)を用いて病理診断医に観察に耐え得るか否かをヒアリングするなどして決定する。コントラスト判定により、観察面であるレイヤー画像#5での位置合わせ精度は低いが、レイヤー画像#3では高精度に位置合わせが行えることがわかる。第1の実施形態と対比させると、観察面であるレイヤー画像#5が第1の画像であり、レイヤー画像#3が第2の画像となる。
以上説明したように、合成処理を行うための位置合わせ領域において、位置合わせ精度に寄与する細胞の存在はランダムであるため、観察面のレイヤー画像(第1の画像)での位置合わせが常に精度良く行えるとは限らない。そのため、位置合わせ精度が確保できる観察面以外のレイヤー画像(第2の画像)で位置合わせを行うことが好ましい場合がある。
(撮像機能)
図20は、zスタック画像撮像に関わる機能ブロック図である。図20(a)には、撮
像部406と画像処理部407を分解した機能ブロック図が示してある。画像処理部407は、現像・補正部2001、zスタック画像格納部2002、zスタック画像格納部2003、CPU2004、コントラスト判定部2005、位置合わせパラメータ生成部2006、画像ズレ補正部2007、合成部2008、圧縮部2009、CPU2010、伝送部2011を備えて構成される。図20(b)には、位置合わせパラメータ生成部2006を分解した機能ブロック図が示してある。位置合わせパラメータ生成部2006は、特徴量抽出部2012、位置ズレ検知部2013、補正パラメータ生成部2014を備えて構成される。
図20は、zスタック画像撮像に関わる機能ブロック図である。図20(a)には、撮
像部406と画像処理部407を分解した機能ブロック図が示してある。画像処理部407は、現像・補正部2001、zスタック画像格納部2002、zスタック画像格納部2003、CPU2004、コントラスト判定部2005、位置合わせパラメータ生成部2006、画像ズレ補正部2007、合成部2008、圧縮部2009、CPU2010、伝送部2011を備えて構成される。図20(b)には、位置合わせパラメータ生成部2006を分解した機能ブロック図が示してある。位置合わせパラメータ生成部2006は、特徴量抽出部2012、位置ズレ検知部2013、補正パラメータ生成部2014を備えて構成される。
現像・補正部2001は、撮像部406が撮像したzスタック画像の各レイヤー画像に対して、順次、現像処理、補正処理を行う。機能としては、黒レベル補正、DNR(Digital Noise Reduction)、画素欠陥補正、撮像素子の個体ばらつきやシェーディングに対する輝度補正、現像処理、ホワイトバランス処理、強調処理、歪曲収差補正、倍率色収差補正などを含む。
zスタック画像格納部2002は、画像合成に供する一方の撮像タイル(分割領域)のレイヤー画像群を格納するためのメモリである。zスタック画像格納部2002の書き込みはCPU2004により制御され、読み出しはCPU2010により制御される。
zスタック画像格納部2003は、画像合成に供する他方の撮像タイル(分割領域)のレイヤー画像群を格納するためのメモリである。zスタック画像格納部2002と同様に、zスタック画像格納部2003の書き込みはCPU2004により制御され、読み出しはCPU2010により制御される。
zスタック画像格納部2003は、画像合成に供する他方の撮像タイル(分割領域)のレイヤー画像群を格納するためのメモリである。zスタック画像格納部2002と同様に、zスタック画像格納部2003の書き込みはCPU2004により制御され、読み出しはCPU2010により制御される。
CPU2004は、撮像部406で取得したzスタック画像(レイヤー画像群)を、撮像タイル(分割領域)ごとに、zスタック画像格納部2002、及び、zスタック画像格納部2003に格納するタイミングを制御するCPUである。
コントラスト判定部2005は、画像合成に供するいずれか一方の撮像タイル(分割領域)のレイヤー画像群を用いて、位置合わせ領域のコントラストを判定する。画像のコントラストは、図3で説明したコントラスト評価値を用いることで数値化できる。コントラスト評価値を用いて、十分な精度で位置合わせができるかどうかという観点で各レイヤー画像のコントラスト判定を行う。コントラスト判定の基準は、多くの病理検査画像(組織
診画像、細胞診画像)を用いて病理診断医に観察に耐え得るか否かをヒアリングするなどして決定する。ここで、いずれのレイヤー画像もコントラスト判定の基準を満たさない場合のエラー処理として、zスタック画像を構成するレイヤー画像の中で最もコントラストの大きな画像を選択することも可能である。
診画像、細胞診画像)を用いて病理診断医に観察に耐え得るか否かをヒアリングするなどして決定する。ここで、いずれのレイヤー画像もコントラスト判定の基準を満たさない場合のエラー処理として、zスタック画像を構成するレイヤー画像の中で最もコントラストの大きな画像を選択することも可能である。
位置合わせパラメータ生成部2006は、コントラスト判定部2005でコントラストが高いと判定された面の画像(第2の画像)に対して、各撮像タイル(分割画像)を繋ぎ合わせるための補正パラメータの生成を行う。まず、特徴量抽出部2012では、補正後の各画像の位置合わせ領域における特徴量を抽出する。次に、位置ズレ検知部2013では、特徴量をもとに各画像の相対的位置ズレを検知する。そして、補正パラメータ生成部2014では、相対的位置ズレ量から、各画像の位置ズレ補正量(補正パラメータ)を生成する。
画像ズレ補正部2007は、位置合わせパラメータ生成部2006で生成した補正パラメータを用いて、撮像タイルそれぞれの観察面の画像(第1の画像)の位置ズレ補正を行う。
合成部2008は、画像ズレ補正後の各観察面の画像(第1の画像)を繋ぎ合わせる処理を行う。
圧縮部2009は、合成部から出力されるブロック画像毎に逐次圧縮処理を行う。
CPU2010は、zスタック画像格納部2002に格納されているレイヤー画像群を読み出すタイミング、及び、zスタック画像格納部2003に格納されているレイヤー画像群を読み出すタイミングを制御するCPUである。
伝送部2011は、圧縮ブロック画像の信号をPCやWSに出力する。PCやWSへの信号伝送では、ギガビット・イーサネットなどの大容量の伝送が可能な通信規格を用いる。
以上の機能ブロックにより、コントラストの良いレイヤー画像(第2の画像)で位置合わせパラメータ生成を行い、観察面の画像(第1の画像)で精度良い合成画像が実現できる。
合成部2008は、画像ズレ補正後の各観察面の画像(第1の画像)を繋ぎ合わせる処理を行う。
圧縮部2009は、合成部から出力されるブロック画像毎に逐次圧縮処理を行う。
CPU2010は、zスタック画像格納部2002に格納されているレイヤー画像群を読み出すタイミング、及び、zスタック画像格納部2003に格納されているレイヤー画像群を読み出すタイミングを制御するCPUである。
伝送部2011は、圧縮ブロック画像の信号をPCやWSに出力する。PCやWSへの信号伝送では、ギガビット・イーサネットなどの大容量の伝送が可能な通信規格を用いる。
以上の機能ブロックにより、コントラストの良いレイヤー画像(第2の画像)で位置合わせパラメータ生成を行い、観察面の画像(第1の画像)で精度良い合成画像が実現できる。
(画像合成処理の概念)
図21は、zスタック画像を用いた合成画像生成の工程を説明する模式図である。本発
明のポイントとなる、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成する工程を概念的に示している。本実施形態では、第1の画像と第2の画像は、焦点位置が異なる画像である。
図21は、zスタック画像を用いた合成画像生成の工程を説明する模式図である。本発
明のポイントとなる、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成する工程を概念的に示している。本実施形態では、第1の画像と第2の画像は、焦点位置が異なる画像である。
ステップS2101では、撮像タイル(4、6)1902のレイヤー画像群(#1〜#5)2101と撮像タイル(4、7)1903のレイヤー画像群(#1’〜#5’)2102を示している。レイヤー画像#5、#5’が観察面である。これらのレイヤー画像群は、空間周波数の高い領域においてコントラストが得られる画像(高解像な画像)であり、図1で説明したように、開口絞り404を開放して高NAとすることで得られる。病理検査の組織診や細胞診では、ハーフピッチ0.5[μm]程度の細かい構造を観察する必要があり、観察用の画像として高解像な画像が求められている。
ステップS2102では、画像合成に供するいずれか一方の撮像タイル(分割領域)のレイヤー画像群を用いて、位置合わせ領域のコントラストを判定する。
ステップS2103では、撮像タイル(4、6)1902の第2の画像2103と撮像タイル(4、7)1903の第2の画像2104を示している。これらの第2の画像は、S2102でコントラストが高いと判定された画像であり、位置合わせパラメータ生成を行うのに適した画像である。ここでは、レイヤー画像#3、#3’が第2の画像として選
ばれている。第2の画像は位置合わせパラメータ生成に用いる画像であるため、位置合わせ領域のみの取得で良い。ここでは、隣り合う撮像タイル間での合成に着目しているために、2103では画像右端の位置合わせ領域のみ、2104では画像左端の位置合わせ領域のみを取得している。しかし、例えば、撮像タイル(3、4)のように周辺8つの撮像タイルと合成処理を行うには、撮像タイルの周辺(上端、右端、下端、左端)の位置合わせ領域の取得が必要である(図5参照)。
ばれている。第2の画像は位置合わせパラメータ生成に用いる画像であるため、位置合わせ領域のみの取得で良い。ここでは、隣り合う撮像タイル間での合成に着目しているために、2103では画像右端の位置合わせ領域のみ、2104では画像左端の位置合わせ領域のみを取得している。しかし、例えば、撮像タイル(3、4)のように周辺8つの撮像タイルと合成処理を行うには、撮像タイルの周辺(上端、右端、下端、左端)の位置合わせ領域の取得が必要である(図5参照)。
ここで、第1の画像と第2の画像について説明する。本実施の形態で撮像する画像としてzスタック画像を想定しているため、いずれの撮像画像も同一の属性(カラー画像、全画素読み出し画像、撮像タイル(分割領域)をすべて含む画像)を有している。しかしながら、S2102からS2104の工程における第2の画像として、その画像データすべてを利用する必要はない。そこで、第1の画像では染色標本を観察することから、第1の画像はカラー画像とすることが望ましいが、第2の画像はカラー画像である必要はなく、モノクロ画像でも良い。更に、第2の画像からの特徴量抽出を考えると、高いコントラストが得られる色の輝度情報から生成したモノクロ画像であればなお良い。高いコントラストが得られる色は、第2の画像を解析することにより特定することもできるし、標本の染色方法から特定することもできる。例えば、標本がHE染色(ヘマトキシリン・エオジン染色)の場合には、ヘマトキシリンの青紫色に着目し、B画像信号をモノクロ画像とする、などである。また、第1の画像は高解像である必要から全画素読み出し画像であることが望まれるが、第2の画像は特徴量が抽出できれば良いため低解像度画像(例えば間引き画像)でも良い。
第2の画像をモノクロ画像、低解像度画像、撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。また、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
ステップS2104では、画像合成に供する第2の画像2103と2104から、位置合わせパラメータを生成することを示している。各第2の画像の特徴量抽出を行い、それぞれの特徴量を比較して位置ズレを検知し、画像ズレ補正のための補正パラメータを生成する。第2の画像と第1の画像は、焦点位置が違うのみで撮像範囲(画角)は同一である。そのため、第2の画像から生成した補正パラメータは、そのまま第1の画像に対して適用できる。ただし、カラー画像とモノクロ画像では、倍率色収差の影響で画像の歪み程度が変化するため、第2の画像としてモノクロ画像を用いる場合には、倍率色収差の影響を加味した画像補正が必要である。
ステップS2105では、撮像タイル(4、6)1902の第1の画像2105と撮像タイル(4、7)1903の第1の画像2106を示している。これら第1の画像は、観察面の画像であり、ここではレイヤー画像#5、#5’が選ばれる。
ステップS2106では、第2の画像2103と2104から生成した補正パラメータを用いて、第1の画像2105と2106の画像ズレ補正を行う。
ステップS2107では、第1の画像2105と2106の合成画像2107を生成する。
以上説明したように、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像合成における位置合わせ精度を向上させることができる。
ステップS2107では、第1の画像2105と2106の合成画像2107を生成する。
以上説明したように、第2の画像を用いて撮像タイル(分割領域)間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像合成における位置合わせ精度を向上させることができる。
図22は、zスタック画像を用いた分割画像の合成を説明するシーケンス図である。撮
像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。
像から合成までの処理に寄与する主要な機能ブロックごとに縦軸があり、縦軸の上から下への方向が時間の経過を示している。四角は処理を示しており、矢印は画像データと制御データの流れを示している。
ステップS2201では、撮像部406が、撮像タイル(4、6)1902のレイヤー画像群(#1〜#5)を取得する。
ステップS2202では、現像・補正部2001が、撮像タイル(4、6)1902のレイヤー画像群の現像・補正処理を行う。
ステップS2203では、CPU2004の制御により、撮像タイル(4、6)1902の現像・補正後のレイヤー画像群をzスタック画像格納部2002に格納する。
ステップS2204では、撮像部406が、撮像タイル(4、7)1903のレイヤー画像群(#1’〜#5’)を取得する。
ステップS2205では、現像・補正部2001が、撮像タイル(4、7)1903のレイヤー画像群の現像・補正処理を行う。
ステップS2206では、CPU2004の制御により、撮像タイル(4、7)1903の現像・補正後のレイヤー画像群をzスタック画像格納部2003に格納する。
S2201からS2206までに示した、画像取得から画像格納までは、zスタック画像格納部2002、もしくは、zスタック画像格納部2003からのビジー信号を受信しない限りは、CPU2004の制御により順次実行される。
ステップS2202では、現像・補正部2001が、撮像タイル(4、6)1902のレイヤー画像群の現像・補正処理を行う。
ステップS2203では、CPU2004の制御により、撮像タイル(4、6)1902の現像・補正後のレイヤー画像群をzスタック画像格納部2002に格納する。
ステップS2204では、撮像部406が、撮像タイル(4、7)1903のレイヤー画像群(#1’〜#5’)を取得する。
ステップS2205では、現像・補正部2001が、撮像タイル(4、7)1903のレイヤー画像群の現像・補正処理を行う。
ステップS2206では、CPU2004の制御により、撮像タイル(4、7)1903の現像・補正後のレイヤー画像群をzスタック画像格納部2003に格納する。
S2201からS2206までに示した、画像取得から画像格納までは、zスタック画像格納部2002、もしくは、zスタック画像格納部2003からのビジー信号を受信しない限りは、CPU2004の制御により順次実行される。
ステップS2207では、コントラスト判定部2005が、撮像タイル(4、6)1902の各レイヤー画像の位置合わせ領域に対してコントラスト判定を行う。
ステップS2208では、コントラスト判定部2005でコントラストが高いと判定された焦点位置のレイヤー画像(第2の画像)をzスタック画像格納部2002から読み出し、その画像中の位置合わせ領域から特徴量抽出を行う。
ステップS2209では、コントラスト判定部2005によりコントラストが高いと判定された焦点位置のレイヤー画像(第2の画像)をzスタック画像格納部2003から読み出し、その画像中の位置合わせ領域から特徴量抽出を行う。
ステップS2210では、位置合わせパラメータ生成部2006において補正パラメータ生成を行う。補正パラメータは、S2208で抽出した撮像タイル(4、6)1902の第2の画像の特徴量と、S2209で抽出した撮像タイル(4、7)1903の第2の画像の特徴量とを用いて生成される。
ステップS2208では、コントラスト判定部2005でコントラストが高いと判定された焦点位置のレイヤー画像(第2の画像)をzスタック画像格納部2002から読み出し、その画像中の位置合わせ領域から特徴量抽出を行う。
ステップS2209では、コントラスト判定部2005によりコントラストが高いと判定された焦点位置のレイヤー画像(第2の画像)をzスタック画像格納部2003から読み出し、その画像中の位置合わせ領域から特徴量抽出を行う。
ステップS2210では、位置合わせパラメータ生成部2006において補正パラメータ生成を行う。補正パラメータは、S2208で抽出した撮像タイル(4、6)1902の第2の画像の特徴量と、S2209で抽出した撮像タイル(4、7)1903の第2の画像の特徴量とを用いて生成される。
ステップS2211では、画像ズレ補正部2007において、S2210で生成した補正パラメータを用いて、撮像タイル(4、6)1902の観察面(第1の画像)と撮像タイル(4、7)1903の観察面(第1の画像)の画像ズレ補正を行う。この処理は、S2210の処理が終了後に即座に実行される。
ステップS2212では、合成部2008において、画像ズレ補正後の撮像タイル(4、6)1902の観察面の画像(第1の画像)と撮像タイル(4、7)1903の観察面の画像(第1の画像)の合成処理を行う。
以上の処理シーケンスにしたがって、zスタック画像の場合に、コントラスト判定でコントラストが高いと判定された焦点位置のレイヤー画像(第2の画像)を用いて撮像タイル(分割領域)間の位置合わせを行い、観察面のレイヤー画像(第1の画像)を用いて合成画像を生成する。
本実施形態では、第1の画像をzスタック画像を構成するレイヤー画像群の中から選択するとしたが、第1の画像は複数のレイヤー画像を深度合成した合成画像としても良い。
本実施形態では、第1の画像をzスタック画像を構成するレイヤー画像群の中から選択するとしたが、第1の画像は複数のレイヤー画像を深度合成した合成画像としても良い。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、画像合成に供する領域のコントラストを判定するコントラスト判定工程を有し、第1の画像は観察面の画像であり、第2の画像はコントラスト判定手段でコントラストが高いと判定された画像である。第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像合成における位置合わせ精度を向上させることができる。
更に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
以上述べた本実施形態の構成によれば、画像合成に供する領域のコントラストを判定するコントラスト判定工程を有し、第1の画像は観察面の画像であり、第2の画像はコントラスト判定手段でコントラストが高いと判定された画像である。第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、画像合成における位置合わせ精度を向上させることができる。
更に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
(本実施形態の変形例)
ここで、以上述べた本実施形態の変形例について説明する。変形例は、zスタック画像の画像枚数を削減するために、観察面(第1の画像)以外のレイヤーでは被写界深度を深くした画像とする。この方法は、主に、病理検査の細胞診標本で予め観察面を指定する場合に適用できる。本実施形態の変形例では、第1の画像と第2の画像は、焦点位置と被写界深度の両方が異なる画像である。
ここで、以上述べた本実施形態の変形例について説明する。変形例は、zスタック画像の画像枚数を削減するために、観察面(第1の画像)以外のレイヤーでは被写界深度を深くした画像とする。この方法は、主に、病理検査の細胞診標本で予め観察面を指定する場合に適用できる。本実施形態の変形例では、第1の画像と第2の画像は、焦点位置と被写界深度の両方が異なる画像である。
(zスタック画像と被写界深度)
図23は、zスタック画像枚数削減での焦点位置と被写界深度を説明する模式図である
。
図23(a)は、物体面における細胞診標本上面図を示す模式図である。2301は細胞診標本である。撮像タイル(4、6)2302と撮像タイル(4、7)2303の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図23は、zスタック画像枚数削減での焦点位置と被写界深度を説明する模式図である
。
図23(a)は、物体面における細胞診標本上面図を示す模式図である。2301は細胞診標本である。撮像タイル(4、6)2302と撮像タイル(4、7)2303の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図23(b)は、細胞診標本断面拡大図を示す模式図であり、図23(a)に示す切断面2310における標本2301のxz平面を示している。撮像タイル(4、6)2302のxz平面が2304、撮像タイル(4、7)2303のxz平面が2305である。細胞診でのスライドグラスとカバーグラスの間隙は数十μmである。まず、zスタック画像の各レイヤー画像の焦点位置と被写界深度について説明する。#2、#5は、撮像タイル(4、6)2302におけるレイヤー画像であり、それぞれの焦点位置が破線で示されている。撮像タイル(4、7)2303におけるレイヤー画像#2’、#5’の焦点位置も破線で示されている(符号は不図示)。
以下、2304の領域に着目して説明する。レイヤー画像#5を観察するものとする。観察面でないレイヤー画像#2の被写界深度2307は、斜線(右下がり斜線)で示された範囲であり、開口絞り404により決定される範囲である。観察面であるレイヤー画像#5の被写界深度2308は、斜線(左下がり斜線)で示された範囲であり、開口絞り404により決定される範囲である。レイヤー画像#2は開口絞り404を絞った状態で撮像した画像であり、レイヤー画像#5は開口絞り404を開放した状態で撮像した画像である。細胞(2306は細胞の1つ)は標本内に散在、浮遊している。2304と2305に対する位置合わせ領域(xz平面)2309は、撮像タイル(4、6)2302と撮像タイル(4、7)2303の重複領域であり、合成処理で位置合わせ領域として使用される領域である。画像合成での位置合わせはxy平面の画像を利用するが、ここでの位置合わせ領域(xz平面)は、その1断面であるxz平面を示している。
ここで、位置合わせ領域(xz平面)2309における、観察面(#5;第1の画像)
とそのほかの面(#2)の関係について説明する。観察面の位置合わせ領域(xz平面)2309では、位置合わせに必要な特徴となる細胞が存在しないため、特徴量の相関比較の精度が低下する。一方、#2の位置合わせ領域(xz平面)2309では、被写界深度を広くしたことで特徴量となる細胞が十分存在し、観察面と比較して、高精度で位置合わせが行える。位置合わせ精度に寄与する細胞の存在はランダムであるため、観察面での位置合わせが常に精度良く行えるとは限らない。図23(b)はxz平面の1断面で考えた場合だが、y軸を含めた3次元で考えた場合にも、位置合わせ領域(xyz空間;xy平面とz軸は被写界深度範囲)に位置合わせ精度が確保できる程度の細胞が存在しない可能性がある。
とそのほかの面(#2)の関係について説明する。観察面の位置合わせ領域(xz平面)2309では、位置合わせに必要な特徴となる細胞が存在しないため、特徴量の相関比較の精度が低下する。一方、#2の位置合わせ領域(xz平面)2309では、被写界深度を広くしたことで特徴量となる細胞が十分存在し、観察面と比較して、高精度で位置合わせが行える。位置合わせ精度に寄与する細胞の存在はランダムであるため、観察面での位置合わせが常に精度良く行えるとは限らない。図23(b)はxz平面の1断面で考えた場合だが、y軸を含めた3次元で考えた場合にも、位置合わせ領域(xyz空間;xy平面とz軸は被写界深度範囲)に位置合わせ精度が確保できる程度の細胞が存在しない可能性がある。
図23(c)は、位置合わせ領域におけるレイヤー画像のコントラストを比較した表である。各レイヤー画像のコントラストは、図3で説明したコントラスト評価値を用いることで数値化できる。コントラスト評価値を用いて、十分な精度で位置合わせができるかどうかという観点で各レイヤー画像のコントラスト判定を行う。コントラスト判定の基準は、多くの病理検査画像(組織診画像、細胞診画像)を用いて病理診断医に観察に耐え得るか否かをヒアリングするなどして決定する。コントラスト判定により、観察面であるレイヤー画像#5での位置合わせ精度は低いが、レイヤー画像#2では高精度に位置合わせが行えることがわかる。観察面であるレイヤー画像#5が第1の画像であり、レイヤー画像#2が第2の画像である。ここで、いずれのレイヤー画像もコントラスト判定の基準を満たさない場合のエラー処理として、zスタック画像を構成するレイヤー画像の中で最もコントラストの大きなレイヤー画像を選択することも可能である。
以上説明したように、合成処理を行うための位置合わせ領域において、位置合わせ精度に寄与する細胞の存在はランダムであるため、観察面(第1の画像)での位置合わせが常に精度良く行えるとは限らない。そのため、観察面以外のレイヤー画像(第2の画像)の被写界深度を深くすることで、位置合わせ精度を十分確保することができる場合がある。
(本実施形態の変形例の利点)
以上述べた本実施形態の変形例の構成によれば、観察面以外のレイヤー画像(第2の画像)の被写界深度を深くして、位置合わせ精度を十分確保することで、観察面のレイヤー画像に対して精度の良い合成画像が実現できる。
以上述べた本実施形態の変形例の構成によれば、観察面以外のレイヤー画像(第2の画像)の被写界深度を深くして、位置合わせ精度を十分確保することで、観察面のレイヤー画像に対して精度の良い合成画像が実現できる。
(本実施形態の別の変形例)
ここで、以上述べた本実施形態の別の変形例について説明する。画像のコントラスト判定を行う代わりに、被写界深度判定を行う例である。第2の画像を被写界深度判定により選び出す例であり、主に、zスタック画像を取得する組織診標本で予め観察面を指定する場合に適用できる。
ここで、以上述べた本実施形態の別の変形例について説明する。画像のコントラスト判定を行う代わりに、被写界深度判定を行う例である。第2の画像を被写界深度判定により選び出す例であり、主に、zスタック画像を取得する組織診標本で予め観察面を指定する場合に適用できる。
(zスタック画像と被写界深度)
図24は、zスタック画像枚数削減での焦点位置と被写界深度を説明する模式図である
。
図24(a)は、物体面における組織診標本上面図を示す模式図である。2401は組織診標本である。撮像タイル(4、6)2402と撮像タイル(4、7)2403の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図24は、zスタック画像枚数削減での焦点位置と被写界深度を説明する模式図である
。
図24(a)は、物体面における組織診標本上面図を示す模式図である。2401は組織診標本である。撮像タイル(4、6)2402と撮像タイル(4、7)2403の合成処理に着目することとし、重複領域を含めた撮像タイルを太枠で示している。
図24(b)は、組織診標本断面図を示す模式図であり、図24(a)に示す切断面2408における標本2401のxz平面を示している。撮像タイル(4、6)2402のxz平面が2404、撮像タイル(4、7)2403のxz平面が2405である。スライドグラスとカバーグラスに挟まれた領域に標本2401があり、標本2401の表面のうねりを示している。スライドグラスとカバーグラスの間隙は4μmである。観察面24
09を破線で示している。
09を破線で示している。
図24(c)は、組織診標本断面拡大図を示す模式図である。zスタック画像の焦点位置と被写界深度について説明する。#1〜#5は、撮像タイル(4、6)2402における5枚のレイヤー画像であり、それぞれの焦点位置が破線で示されている。撮像タイル(4、7)2403におけるレイヤー画像#1’〜#5’の焦点位置も破線で示されている(符号は不図示)。
以下、2404の領域に着目して説明する。レイヤー画像#1を観察するものとする。観察面であるレイヤー画像#1の被写界深度2406は、斜線(左下がり斜線)で示された範囲である。2404と2405に対する位置合わせ領域(xz平面)2407は、撮像タイル(4、6)2402と撮像タイル(4、7)2403の重複領域であり、合成処理で位置合わせ領域として使用される領域である。画像合成での位置合わせはxy平面の画像を利用するが、ここでの位置合わせ領域(xz平面)は、その1断面であるxz平面を示している。
ここで、位置合わせ領域(xz平面)2407における、観察面(#1;第1の画像)の被写界深度とそのほかの面(#2〜#5)の被写界深度の関係について説明する。zスタック画像では一意に焦点位置が決まるため、図24(c)に示すように、位置合わせ領域2407における標本の表面うねりが、観察面(第1の画像)の被写界深度から外れる場合が発生する。このような状況は、表面うねりの傾斜が大きい箇所が、撮像タイル間の位置合わせ領域付近にあるときに起こる可能性がある。図24(c)はxz平面の1断面で考えた場合だが、xy平面で考えた場合にも、撮像タイル(4、6)2402で山型に***し、撮像タイル(4、7)2403で谷型に陥没しているような表面うねりでは、標本の表面うねりが、観察面(第1の画像)の被写界深度から外れる場合が発生する可能性がある。その場合、撮像タイル(4、6)2402、及び、撮像タイル(4、7)2403の位置合わせ領域で画像ボケが発生する。画像ボケの発生(ボケ具合)は、zスタック画像の焦点位置、被写界深度、及び、標本502の表面うねりに依存する。
図24(d)は、位置合わせ領域におけるレイヤー画像群の被写界深度を比較した表である。被写界深度判定は、実施例2(図16〜図18)で説明した構成で実現できる。被写界深度判定により、観察面であるレイヤー画像#1での位置合わせ精度は低いが、レイヤー画像#2では高精度に位置合わせが行えることがわかる。観察面であるレイヤー画像#1が第1の画像であり、レイヤー画像#2が第2の画像である。
以上説明したように、画像のコントラスト判定を行う代わりに被写界深度判定を行い、被写界深度内である観察面以外のレイヤー画像(第2の画像)を用いることで、位置合わせ精度を十分確保することができる。
(本実施形態の変形例の利点)
以上述べた本実施形態の変形例の構成によれば、画像のコントラスト判定を行う代わりに被写界深度判定を行い、被写界深度内である観察面以外のレイヤー画像(第2の画像)を用いることで位置合わせ精度が確保でき、精度の良い合成画像が実現できる。
以上述べた本実施形態の変形例の構成によれば、画像のコントラスト判定を行う代わりに被写界深度判定を行い、被写界深度内である観察面以外のレイヤー画像(第2の画像)を用いることで位置合わせ精度が確保でき、精度の良い合成画像が実現できる。
[第4の実施形態]
次に、本発明の第4の実施形態を、図面を参照しながら説明する。第1の実施形態から第3の実施形態では、撮像部として2次元撮像素子を用いる例を説明したが、本実施の形態では、1次元撮像素子を用いる例について述べる。
次に、本発明の第4の実施形態を、図面を参照しながら説明する。第1の実施形態から第3の実施形態では、撮像部として2次元撮像素子を用いる例を説明したが、本実施の形態では、1次元撮像素子を用いる例について述べる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省
略する。図4に示した撮像装置の概略構成、図6に示した焦点位置と被写界深度の説明、図7に示したプレ計測のフロー説明、図8に示した本撮像のフロー説明、図9に示した本撮像の機能ブロック図、図10に示した合成画像生成の工程の説明、図11に示した位置合わせの説明、図12に示した合成のフロー説明、図13に示した画像合成シーケンスは、第1の実施形態と同じである。
略する。図4に示した撮像装置の概略構成、図6に示した焦点位置と被写界深度の説明、図7に示したプレ計測のフロー説明、図8に示した本撮像のフロー説明、図9に示した本撮像の機能ブロック図、図10に示した合成画像生成の工程の説明、図11に示した位置合わせの説明、図12に示した合成のフロー説明、図13に示した画像合成シーケンスは、第1の実施形態と同じである。
(撮像対象領域と撮像タイル)
図25は、1次元撮像素子による撮像タイルを説明する模式図である。本実施形態の撮像装置は、スライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。高解像かつ大サイズ(広画角)を両立するために、1次元撮像素子で撮像対象領域をいくつかの領域に分割して、その分割領域を撮像する。ここでは、標本の全体像となる撮像領域を撮像対象領域、分割領域を撮像タイルとし、撮像対象領域は撮像タイルを合成して構成されるものとする。また、光軸に垂直な面をxy平面としている。
図25は、1次元撮像素子による撮像タイルを説明する模式図である。本実施形態の撮像装置は、スライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。高解像かつ大サイズ(広画角)を両立するために、1次元撮像素子で撮像対象領域をいくつかの領域に分割して、その分割領域を撮像する。ここでは、標本の全体像となる撮像領域を撮像対象領域、分割領域を撮像タイルとし、撮像対象領域は撮像タイルを合成して構成されるものとする。また、光軸に垂直な面をxy平面としている。
図25(a)は、物体面における撮像対象領域と標本を示す模式図である。撮像対象領域501をx方向に8分割し、その1領域が撮像タイル2501である。撮像対象領域501は、スライド403における座標で設定される領域であり、スライド403での標本502位置を考慮してスライド403ごとに設定される。プレ計測において、標本502が撮像対象領域501の中心付近となるように、スライド403における撮像対象領域501の座標設定が行われる。
図25(b)は、物体面における撮像タイルを示す模式図である。撮像タイル(L)は、x方向にL番目の撮像タイルを示している。複数の分割領域(撮像タイル)の撮像例として、x方向に撮像タイル(1)から撮像タイル(8)まで撮像する、といった撮像順番を矢印で示している。各撮像タイルの合成を考えると、注目する撮像タイルは、その左右の撮像タイルと画像の合成処理を行うことになる。撮像タイル(3)であれば、撮像タイル(2)と撮像タイル(4)の2つの撮像タイルと合成処理が行われる。合成処理において、隣接する撮像タイルはそれぞれ重複した領域を有し、その重複領域を位置合わせ領域として利用するが、図25ではその位置合わせ領域を省略して記載している。
ここでは、撮像対象領域501のすべての撮像タイルを撮像するものとして説明したが、標本502が存在しない撮像タイルがある場合には、その撮像タイルを撮像せずにスキップする処理とすることも可能である。これにより、撮像回数減少による撮像時間短縮、撮像画像枚数削減によるメモリ容量削減、といった効果がある。
以上説明したように、本撮像装置は、撮像対象領域を幾つかの撮像タイル(分割領域)に分割して、各撮像タイルを順々に撮像し、各撮像タイルはそれぞれ周辺全ての撮像タイルと合成処理が行われる。
(焦点位置と被写界深度)
図6(a)は2次元撮像素子で撮像した場合の撮像タイルを示しているが、図6(a)を図25で置き換えれば、1次元撮像素子でも同様の説明が可能である。ピントを合わせるために、1次元撮像素子のz方向位置を標本502の表面うねりに合わせて移動させる場合にも、焦点位置605は、標本502表面を最小自乗法などで直線近似した面となるため、図6(c)に示す焦点位置で説明できる。1次元撮像素子を用いた場合、各撮像タイルにおける焦点位置、被写界深度、標本の表面うねりにより、被写界深度の狭い第1の画像では、合成処理を行うための位置合わせ領域で画像ボケが発生する場合がある。そのため、被写界深度の深い第2の画像を用いることで位置合わせ精度が確保でき、精度の良い合成画像が実現できる。
図6(a)は2次元撮像素子で撮像した場合の撮像タイルを示しているが、図6(a)を図25で置き換えれば、1次元撮像素子でも同様の説明が可能である。ピントを合わせるために、1次元撮像素子のz方向位置を標本502の表面うねりに合わせて移動させる場合にも、焦点位置605は、標本502表面を最小自乗法などで直線近似した面となるため、図6(c)に示す焦点位置で説明できる。1次元撮像素子を用いた場合、各撮像タイルにおける焦点位置、被写界深度、標本の表面うねりにより、被写界深度の狭い第1の画像では、合成処理を行うための位置合わせ領域で画像ボケが発生する場合がある。そのため、被写界深度の深い第2の画像を用いることで位置合わせ精度が確保でき、精度の良い合成画像が実現できる。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像であり、第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
第1の実施形態同様に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像に先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像であり、第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
第1の実施形態同様に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像に先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
[第5の実施形態]
次に、本発明の第5の実施形態を、図面を参照しながら説明する。第1の実施形態から第4の実施形態では、撮像部として単一の撮像素子を用いる例を説明したが、本実施の形態では、複数の撮像素子を用いる例について述べる。
次に、本発明の第5の実施形態を、図面を参照しながら説明する。第1の実施形態から第4の実施形態では、撮像部として単一の撮像素子を用いる例を説明したが、本実施の形態では、複数の撮像素子を用いる例について述べる。
本実施形態の説明において、前述した第1の実施形態と同一の部分についての説明を省略する。図5に示した撮像タイルの説明、図6に示した焦点位置と被写界深度の説明、図7に示したプレ計測のフロー説明、図8に示した本撮像のフロー説明、図9に示した本撮像の機能ブロック図、図10に示した合成画像生成の工程の説明、図11に示した位置合わせの説明、図12に示した合成のフロー説明、図13に示した画像合成シーケンスは、第1の実施形態と同じである。
(撮像装置の構成)
図26は、撮像装置の概略構成を説明する模式図である。この撮像装置は、被写体となるスライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。図4で示した撮像装置の概略構成と比べると、撮像部2601、XY移動機構2602が異なっている。撮像部2601、XY移動機構2602以外の機能ブロックは、図4で説明したものと同一である。
図26は、撮像装置の概略構成を説明する模式図である。この撮像装置は、被写体となるスライド403上の標本の光学顕微鏡像を高解像かつ大サイズ(広画角)のデジタル画像として取得するための装置である。図4で示した撮像装置の概略構成と比べると、撮像部2601、XY移動機構2602が異なっている。撮像部2601、XY移動機構2602以外の機能ブロックは、図4で説明したものと同一である。
撮像部2601は、複数の2次元撮像素子を有して構成される撮像手段である。2次元撮像素子としては、CMOSイメージセンサやCCDイメージセンサが用いられる。撮像部2601としては、複数の2次元撮像素子と、各2次元素子に備わるCDS回路(相関2重サンプリング回路)、AGC回路(オート・ゲイン・コントロール回路)、AD変換回路(アナログ・デジタル変換回路)、オートフォーカス機能が含まれる。撮像部2601からは、撮像画像のデジタル信号が画像処理部407に伝送される。
XY移動機構2602は、標本が撮像画面の中央付近に位置するように制御するXY平面移動機構を備える。光軸に垂直な面をXY平面、光軸方向をZ方向としている。スライド403の標本のXY平面位置は、図26(b)に示すプレ計測で把握する。撮像制御部408が、プレ計測の情報からスライド403のXY位置を制御する。なお、スライド403と撮像部2601のZ方向位置は、撮像部406のオートフォーカス機能を利用して決定され、2次元撮像素子のZ方向が撮像制御部408により制御される。オートフォー
カス機能は、広く実用化されているコントラストAFや位相差AFにより実現できる。
以上の構成により、標本の高解像・大サイズ撮像と取得画像の表示が実現できる。
カス機能は、広く実用化されているコントラストAFや位相差AFにより実現できる。
以上の構成により、標本の高解像・大サイズ撮像と取得画像の表示が実現できる。
(撮像素子の移動機構)
図27は、複数撮像素子による大画面撮像と撮像素子の移動機構を説明する模式図である。
図27(a)は、撮像素子2701a〜2701lと撮像タイル2702の関係を模式的に示している。撮像部2601は、互いに間隙を介してX方向とY方向の2次元的に離散的に配置された複数の2次元撮像素子を有して構成される。本実施形態では、4列×3行の12個の2次元撮像素子2701a〜2701lが設けられている。これらの撮像素子は同一の基板上に実装してもよいし、別々の基板上に実装してもよい。なお、個々の撮像素子を区別するために、参照符号に対し、1行目の左から順にa〜d、2行目にe〜h、3行目にi〜lのアルファベットを付しているが、図示の便宜のため図面中では「2701a〜2701l」のように略記する。他の図面においても同様である。
図27は、複数撮像素子による大画面撮像と撮像素子の移動機構を説明する模式図である。
図27(a)は、撮像素子2701a〜2701lと撮像タイル2702の関係を模式的に示している。撮像部2601は、互いに間隙を介してX方向とY方向の2次元的に離散的に配置された複数の2次元撮像素子を有して構成される。本実施形態では、4列×3行の12個の2次元撮像素子2701a〜2701lが設けられている。これらの撮像素子は同一の基板上に実装してもよいし、別々の基板上に実装してもよい。なお、個々の撮像素子を区別するために、参照符号に対し、1行目の左から順にa〜d、2行目にe〜h、3行目にi〜lのアルファベットを付しているが、図示の便宜のため図面中では「2701a〜2701l」のように略記する。他の図面においても同様である。
図27(b)は、各撮像素子が備えるZ移動機構を模式的に示している。撮像素子2701aは撮像素子保持板2703で保持されている。Z移動機構2704aが撮像素子保持板2703をz方向に移動させることで、焦点位置の調整(撮像素子2701aとスライド403の間隔調整)を行う。Z移動機構はすべての撮像素子が備え、撮像タイルごとに独立に焦点位置が制御できる。
以上の構成により、撮像タイルごとに焦点位置が制御した画像が取得できる。
以上の構成により、撮像タイルごとに焦点位置が制御した画像が取得できる。
(分割撮像の手順)
図28は、本撮像でのスライド移動による大画面撮像を説明する模式図である。
図28(a)は、撮像素子2701a〜2701lと、像面での撮像基準領域2802aの位置関係を模式的に図示している。物体面の標本が倒立像として像面に形成されるものとして図示する。撮像基準領域とは、スライドの位置に依存せず、物体面の基準位置として存在する領域である。なお、像面で図示する場合に撮像基準領域2802a、物体面で図示する場合に撮像基準領域2802bと表記する。撮像基準領域は、固定配置されている結像光学系405に対しては固定された領域であるが、スライド403との相対位置関係はスライド403の移動に合わせて変動する。スライド403上の標本の領域としては、撮像基準領域2802bとは別に、撮像対象領域2803を定義する。スライド403が初期位置(後述)にある場合は、撮像基準領域2802bと撮像対象領域2803は一致する。像面における撮像基準領域2802aと撮像素子2701a〜2701lと結像光学系405の有効視野2801の位置関係は固定である。説明を簡単にするため、結像光学系405の歪曲収差の影響は無視している。
図28は、本撮像でのスライド移動による大画面撮像を説明する模式図である。
図28(a)は、撮像素子2701a〜2701lと、像面での撮像基準領域2802aの位置関係を模式的に図示している。物体面の標本が倒立像として像面に形成されるものとして図示する。撮像基準領域とは、スライドの位置に依存せず、物体面の基準位置として存在する領域である。なお、像面で図示する場合に撮像基準領域2802a、物体面で図示する場合に撮像基準領域2802bと表記する。撮像基準領域は、固定配置されている結像光学系405に対しては固定された領域であるが、スライド403との相対位置関係はスライド403の移動に合わせて変動する。スライド403上の標本の領域としては、撮像基準領域2802bとは別に、撮像対象領域2803を定義する。スライド403が初期位置(後述)にある場合は、撮像基準領域2802bと撮像対象領域2803は一致する。像面における撮像基準領域2802aと撮像素子2701a〜2701lと結像光学系405の有効視野2801の位置関係は固定である。説明を簡単にするため、結像光学系405の歪曲収差の影響は無視している。
図28(b)の(1)から(4)は、XY移動機構2602によりスライド403を移動させたときに、撮像対象領域2803を撮像素子2701a〜2701lでどのように撮像していくかをわかり易く説明するための模式的な図である。スライド403(撮像対象領域2803)を移動させながら全領域を撮像するときは、歪曲収差を考慮に入れる必要を排除するために、図28(b)の(1)から(4)に示すように物体面での撮像対象領域2803の等間隔移動を考えるのが簡単である。実際には撮像素子2701a〜2701lで各分割領域を撮像後に、現像・補正部で各撮像素子に合わせた歪曲収差補正が必要であるが、撮像対象領域2803全体を隙間なく撮像することだけを考えるのであれば、物体面で考えるだけで十分である。図28(b)の(1)には1回目の撮像で取得するエリアを黒ベタで示している。1回目の撮像位置(初期位置)では光源の発光波長を切り替えてRGBの各画像を取得する。スライド403が初期位置にある場合は、撮像基準領域2802b(実線)と撮像対象領域2803(一点鎖線)は一致している。(2)には移動機構によりスライド403をY正方向に移動させた後の、2回目の撮像で取得するエ
リアを斜線(左下がり斜線)で示している。(3)には移動機構によりスライド403をX負方向に移動させた後の、3回目の撮像で取得するエリアを逆斜線(右下がり斜線)で、(4)には移動機構によりスライド403をY負方向に移動させた後の、4回目の撮像で取得するエリアを網掛けで示している。なお、後段の合成処理を簡易なシーケンスで行うために、物体面におけるX方向に隣り合う分割領域のY方向の読み出し画素数は概略一致していると良い。また、合成部107で合成処理を行うために、隣接する撮像素子間には重複領域が必要となるが、説明を簡単にするために、ここでは重複領域を省略している。
以上より、複数の撮像素子により4回の撮像(XY移動機構によるスライド移動回数が3回)で撮像対象領域全体を隙間なく撮像することができる。
リアを斜線(左下がり斜線)で示している。(3)には移動機構によりスライド403をX負方向に移動させた後の、3回目の撮像で取得するエリアを逆斜線(右下がり斜線)で、(4)には移動機構によりスライド403をY負方向に移動させた後の、4回目の撮像で取得するエリアを網掛けで示している。なお、後段の合成処理を簡易なシーケンスで行うために、物体面におけるX方向に隣り合う分割領域のY方向の読み出し画素数は概略一致していると良い。また、合成部107で合成処理を行うために、隣接する撮像素子間には重複領域が必要となるが、説明を簡単にするために、ここでは重複領域を省略している。
以上より、複数の撮像素子により4回の撮像(XY移動機構によるスライド移動回数が3回)で撮像対象領域全体を隙間なく撮像することができる。
(本実施形態の利点)
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像であり、第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
第1の実施形態同様に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像に先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
以上述べた本実施形態の構成によれば、第2の画像は第1の画像よりも被写界深度の深い画像であり、第2の画像を用いて分割領域間の位置合わせを行い、第1の画像を用いて合成画像を生成することで、第1の画像が有する高い解像度を維持したまま、画像合成における位置合わせ精度を向上させることができる。
第1の実施形態同様に、第1の画像はカラー画像であり第2の画像はモノクロ画像とすること、また、第1の画像は全画素読み出し画像であり第2の画像は低解像度画像とすること、また、第1の画像は撮像タイル(分割領域)をすべて含み第2の画像は撮像タイル(分割領域)の一部のみを含む画像とすることで、計算時間短縮、計算コスト削減、データ容量削減、消費電力削減、といった効果がある。
更に、第2の画像として、染色による色の輝度情報から生成した、高コントラストのモノクロ画像を用いることで、データ容量を削減しつつ特徴量抽出精度を維持できるといった効果がある。
更に、第1の画像と第2の画像は時間的に順番に取得され、第2の画像を第1の画像に先行して取得することで、特徴量抽出と第1の画像の取得とを同時に行うことにより、合成までの処理時間を短縮することができる。
403:スライド、406:撮像部、407:画像処理部、501:撮像対象領域、502:標本、503:撮像タイル、904:位置合わせパラメータ生成部、906:画像ズレ補正部、907:合成部
Claims (15)
- 撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置の制御方法であって、
複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する工程と、
第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う工程と、
第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する工程と、を含み、
第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像である
ことを特徴とする撮像装置の制御方法。 - 第2の画像は、第1の画像よりも被写界深度の深い画像である
ことを特徴とする請求項1に記載の撮像装置の制御方法。 - 第2の画像は、互いに焦点位置が異なる複数の画像のうちから選ばれた画像である
ことを特徴とする請求項1に記載の撮像装置の制御方法。 - 第1の画像はカラー画像であり、第2の画像はモノクロ画像である
ことを特徴とする請求項1〜3のうちいずれか一項に記載の撮像装置の制御方法。 - 撮像対象領域には染色された標本が含まれており、
第2の画像は、染色による色の輝度情報から生成されるモノクロ画像である
ことを特徴とする請求項4に記載の撮像装置の制御方法。 - 第2の画像は、第1の画像よりも低解像度の画像である
ことを特徴とする請求項1〜5のうちいずれか一項に記載の撮像装置の制御方法。 - 第2の画像は、分割領域のうちの一部の領域のみの画像である
ことを特徴とする請求項1〜6のうちいずれか一項に記載の撮像装置の制御方法。 - 第2の画像が第1の画像に時間的に先行して取得される
ことを特徴とする請求項2に記載の撮像装置の制御方法。 - 合成画像を生成する工程において、ある分割領域の第1の画像のコントラストがしきい値以下である場合に、当該分割領域では第1の画像の代わりに第2の画像が合成に用いられる
ことを特徴とする請求項2に記載の撮像装置の制御方法。 - 合成画像を生成する工程において、ある分割領域の第2の画像のコントラストが第1の画像のコントラストよりも高い場合に、当該分割領域では第1の画像の代わりに第2の画像が合成に用いられる
ことを特徴とする請求項2に記載の撮像装置の制御方法。 - 分割領域ごとに、標本表面のうねりの範囲が被写界深度に収まっているか否かを判定する工程をさらに有し、
標本表面のうねりの範囲が被写界深度に収まっていると判定された分割領域に対しては、第2の画像の取得が省略され、第2の画像の代わりに第1の画像が位置合わせに用いられる
ことを特徴とする請求項2に記載の撮像装置の制御方法。 - 標本表面のうねりの範囲が被写界深度に収まっていると判定された第1の分割領域の画像が、標本表面のうねりの範囲が被写界深度に収まっていないと判定された第2の分割領域の画像に時間的に先行して取得される
ことを特徴とする請求項11に記載の撮像装置の制御方法。 - 分割領域ごとに、前記互いに焦点位置が異なる複数のうち、いずれの画像のコントラストが高いかを判定する工程をさらに有し、
前記複数の画像のうち最もコントラストが高いと判定された画像が第2の画像として選ばれる
ことを特徴とする請求項3に記載の撮像装置の制御方法。 - 分割領域ごとに、前記互いに焦点位置が異なる複数の画像のうち、いずれの画像の被写界深度に標本表面のうねりの範囲が収まっているかを判定する工程をさらに有し、
前記複数の画像のうち標本表面のうねりの範囲が被写界深度に収まっていると判定された画像が第2の画像として選ばれる
ことを特徴とする請求項3に記載の撮像装置の制御方法。 - 撮像対象領域を複数の分割領域にわけて撮像し、得られた分割領域ごとの画像を合成することにより分割領域よりも大きい領域の合成画像を生成する撮像装置であって、
複数の分割領域のそれぞれについて、第1の画像と第2の画像を取得する手段と、
第2の画像を用いて、隣接する分割領域間で画像の位置合わせを行う手段と、
第2の画像を用いた位置合わせの結果にしたがって、隣接する分割領域間で第1の画像どうしを合成することにより、合成画像を生成する手段と、を含み、
第2の画像は、第1の画像に対し、被写界深度若しくは焦点位置、又はその両方が異なる画像である
ことを特徴とする撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012067614A JP2013201530A (ja) | 2012-03-23 | 2012-03-23 | 撮像装置及びその制御方法 |
US13/786,560 US9088729B2 (en) | 2012-03-23 | 2013-03-06 | Imaging apparatus and method of controlling same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012067614A JP2013201530A (ja) | 2012-03-23 | 2012-03-23 | 撮像装置及びその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013201530A true JP2013201530A (ja) | 2013-10-03 |
JP2013201530A5 JP2013201530A5 (ja) | 2015-04-30 |
Family
ID=49211455
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012067614A Abandoned JP2013201530A (ja) | 2012-03-23 | 2012-03-23 | 撮像装置及びその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9088729B2 (ja) |
JP (1) | JP2013201530A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017525228A (ja) * | 2014-06-17 | 2017-08-31 | ゼットティーイー コーポレーションZte Corporation | カメラ自動焦点最適化の方法及びカメラ |
CN107950017A (zh) * | 2016-06-15 | 2018-04-20 | 索尼公司 | 图像处理设备、图像处理方法以及摄像设备 |
WO2019088034A1 (ja) * | 2017-11-06 | 2019-05-09 | 富士フイルム株式会社 | 観察領域設定装置、撮像制御装置、観察領域設定装置の作動方法、及び観察領域設定プログラム |
JP2020052119A (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Screenホールディングス | 画像処理方法および画像処理装置 |
JPWO2019053768A1 (ja) * | 2017-09-12 | 2020-10-29 | 株式会社ニコン | 顕微鏡および観察方法 |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014178357A (ja) * | 2013-03-13 | 2014-09-25 | Sony Corp | デジタル顕微鏡装置、その撮像方法およびプログラム |
JP6455829B2 (ja) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US9127891B2 (en) * | 2013-07-10 | 2015-09-08 | Honeywell International, Inc. | Furnace visualization |
US8977024B1 (en) * | 2014-01-31 | 2015-03-10 | Afraxis, Inc. | Distributed anatomical image analysis |
DE102014003145A1 (de) * | 2014-03-04 | 2015-09-10 | Carl Zeiss Microscopy Gmbh | Verfahren zur Korrektur der sphärischen Aberration bei mikroskopischen Anwendungen |
JP6346793B2 (ja) * | 2014-06-03 | 2018-06-20 | オリンパス株式会社 | 撮像装置、撮像装置の制御方法、及びプログラム |
JP6487938B2 (ja) * | 2014-11-20 | 2019-03-20 | オリンパス株式会社 | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム |
US10410398B2 (en) * | 2015-02-20 | 2019-09-10 | Qualcomm Incorporated | Systems and methods for reducing memory bandwidth using low quality tiles |
JP6478713B2 (ja) * | 2015-03-04 | 2019-03-06 | キヤノン株式会社 | 計測装置および計測方法 |
US9894285B1 (en) * | 2015-10-01 | 2018-02-13 | Hrl Laboratories, Llc | Real-time auto exposure adjustment of camera using contrast entropy |
KR101767380B1 (ko) * | 2016-05-03 | 2017-08-11 | 대한민국 | 족적 조회 방법 및 시스템 |
CN107872614A (zh) * | 2016-09-27 | 2018-04-03 | 中兴通讯股份有限公司 | 一种拍摄方法及拍摄装置 |
CN112889265B (zh) * | 2018-11-02 | 2022-12-09 | Oppo广东移动通信有限公司 | 深度图像处理方法、深度图像处理装置和电子装置 |
GB2578769B (en) | 2018-11-07 | 2022-07-20 | Advanced Risc Mach Ltd | Data processing systems |
GB2583061B (en) * | 2019-02-12 | 2023-03-15 | Advanced Risc Mach Ltd | Data processing systems |
CN111416936B (zh) * | 2020-03-24 | 2021-09-17 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112702538A (zh) * | 2021-01-13 | 2021-04-23 | 上海臻面智能信息科技有限公司 | 一种深度相机及其成像方法 |
JP7250054B2 (ja) * | 2021-02-04 | 2023-03-31 | 日本電子株式会社 | 分析装置および画像処理方法 |
CN117880630B (zh) * | 2024-03-13 | 2024-06-07 | 杭州星犀科技有限公司 | 对焦深度获取方法、对焦深度获取***及终端 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3395770B2 (ja) | 2000-09-29 | 2003-04-14 | ミノルタ株式会社 | デジタルスチルカメラ |
US7653260B2 (en) * | 2004-06-17 | 2010-01-26 | Carl Zeis MicroImaging GmbH | System and method of registering field of view |
US7456377B2 (en) * | 2004-08-31 | 2008-11-25 | Carl Zeiss Microimaging Ais, Inc. | System and method for creating magnified images of a microscope slide |
JP4878815B2 (ja) | 2005-06-10 | 2012-02-15 | オリンパス株式会社 | 顕微鏡装置 |
US8452082B2 (en) * | 2007-09-27 | 2013-05-28 | Eastman Kodak Company | Pattern conversion for interpolation |
JP2010258885A (ja) | 2009-04-27 | 2010-11-11 | Ricoh Co Ltd | 撮像装置及び画像処理方法 |
JP2009207188A (ja) | 2009-06-15 | 2009-09-10 | Seiko Epson Corp | 撮像装置及びコンピュータプログラム |
-
2012
- 2012-03-23 JP JP2012067614A patent/JP2013201530A/ja not_active Abandoned
-
2013
- 2013-03-06 US US13/786,560 patent/US9088729B2/en not_active Expired - Fee Related
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017525228A (ja) * | 2014-06-17 | 2017-08-31 | ゼットティーイー コーポレーションZte Corporation | カメラ自動焦点最適化の方法及びカメラ |
CN107950017A (zh) * | 2016-06-15 | 2018-04-20 | 索尼公司 | 图像处理设备、图像处理方法以及摄像设备 |
CN107950017B (zh) * | 2016-06-15 | 2023-07-21 | 索尼公司 | 图像处理设备、图像处理方法以及摄像设备 |
JPWO2019053768A1 (ja) * | 2017-09-12 | 2020-10-29 | 株式会社ニコン | 顕微鏡および観察方法 |
JP7063337B2 (ja) | 2017-09-12 | 2022-05-09 | 株式会社ニコン | 顕微鏡および観察方法 |
WO2019088034A1 (ja) * | 2017-11-06 | 2019-05-09 | 富士フイルム株式会社 | 観察領域設定装置、撮像制御装置、観察領域設定装置の作動方法、及び観察領域設定プログラム |
JPWO2019088034A1 (ja) * | 2017-11-06 | 2020-11-19 | 富士フイルム株式会社 | 観察領域設定装置、撮像制御装置、観察領域設定装置の作動方法、及び観察領域設定プログラム |
JP2020052119A (ja) * | 2018-09-25 | 2020-04-02 | 株式会社Screenホールディングス | 画像処理方法および画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
US9088729B2 (en) | 2015-07-21 |
US20130250144A1 (en) | 2013-09-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2013201530A (ja) | 撮像装置及びその制御方法 | |
US8743195B2 (en) | Whole slide fluorescence scanner | |
US9426363B2 (en) | Image forming apparatus image forming method and image sensor | |
JP5725975B2 (ja) | 撮像装置及び撮像方法 | |
CN105578033B (zh) | 图像捕获装置及图像捕获装置的控制方法 | |
JP6414050B2 (ja) | 情報処理装置、情報処理方法、および情報処理プログラム | |
RU2734447C2 (ru) | Система для формирования синтезированного двухмерного изображения биологического образца с повышенной глубиной резкости | |
JP2012095186A (ja) | 電子機器 | |
US11482021B2 (en) | Adaptive sensing based on depth | |
US8982454B2 (en) | Microscope and filter inserting method | |
JP6295343B2 (ja) | サンプルの複数の深さで画像データを同時に収集する方法 | |
JP2012003214A (ja) | 情報処理装置、情報処理方法、プログラム、撮像装置、及び光学顕微鏡を搭載した撮像装置 | |
CN113454511B (zh) | 显微图像的压缩获取 | |
Riley et al. | Digital photography: a primer for pathologists | |
US11828927B2 (en) | Accelerating digital microscopy scans using empty/dirty area detection | |
JP2016125913A (ja) | 画像取得装置及び画像取得装置の制御方法 | |
JP2013200640A (ja) | 画像処理装置、画像処理システム、画像処理方法、およびプログラム | |
JP2013044967A (ja) | 顕微鏡システム、標本画像生成方法及びプログラム | |
JP2015156011A (ja) | 画像取得装置およびその制御方法 | |
US10721413B2 (en) | Microscopy system, microscopy method, and computer readable recording medium | |
CN105651699B (zh) | 一种基于面阵相机的动态跟焦方法 | |
US10298833B2 (en) | Image capturing apparatus and focusing method thereof | |
JP2015035782A (ja) | 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム | |
JPWO2013179329A1 (ja) | 光記録媒体及び光情報再生方法 | |
JP2011209573A (ja) | 合焦装置、合焦方法、合焦プログラム及び顕微鏡 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150310 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150310 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20151120 |