JP7291808B2 - 画像処理システム、画像処理方法 - Google Patents

画像処理システム、画像処理方法 Download PDF

Info

Publication number
JP7291808B2
JP7291808B2 JP2021571069A JP2021571069A JP7291808B2 JP 7291808 B2 JP7291808 B2 JP 7291808B2 JP 2021571069 A JP2021571069 A JP 2021571069A JP 2021571069 A JP2021571069 A JP 2021571069A JP 7291808 B2 JP7291808 B2 JP 7291808B2
Authority
JP
Japan
Prior art keywords
image
processing system
image processing
identification range
setting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021571069A
Other languages
English (en)
Other versions
JPWO2021144830A1 (ja
JPWO2021144830A5 (ja
Inventor
加奈子 磯野
博一 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Evident Corp
Original Assignee
Evident Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Evident Corp filed Critical Evident Corp
Publication of JPWO2021144830A1 publication Critical patent/JPWO2021144830A1/ja
Publication of JPWO2021144830A5 publication Critical patent/JPWO2021144830A5/ja
Application granted granted Critical
Publication of JP7291808B2 publication Critical patent/JP7291808B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • H04N1/4074Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original using histograms
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/008Details of detection or image processing, including general computer control
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/368Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements details of associated display arrangements, e.g. mounting of LCD monitor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)

Description

本開示は、画像処理システムに関し、特に、Pixelated Photon Detector(以降、PPDと記す)を備える画像処理システムに関する。
PPDは、マルチピクセル化したアバランシェフォトダイオード(APD:Avalanche Photodiode)の一種である。PPDは、ガイガーモードで動作することで、1フォトンに対して感度を有し、且つ、フォトン数に比例した出力を得ることができる。
PPDを採用した顕微鏡システムは、例えば、特許文献1に記載されている。特許文献1には、印加電圧を変更することで、PPDからの出力を調整することが記載されている。
米国特許出願公開第2016/0181459号明細書
特許文献1に記載されるように、光検出器にPPDが採用されている場合であっても、印加する電圧を調整することで、光検出器でのゲインを調整することができる。この点は、光検出器に光電子増倍管(PMT:Photomultiplier Tube)が採用されている場合と同様である。
従って、PPDを採用した顕微鏡システムでも、PMTを採用した従来の顕微鏡システムと同様に、光検出器へ印加する電圧を調整することで画像のコントラストを調整することができる。PMTの場合、印加電圧を変更することによって光検出器でのゲインを調整すると、シグナルとノイズのレベルは変化するが、S/Nは変化しない。しかしながら、PPDの場合、印加電圧を変更することによって光検出器でのゲインを調整するとシグナルが変化する以上にノイズのレベルが変化してしまい、その結果、S/Nも変化してしまう。
以上のような実情を踏まえ、本開示の一つの目的は、PPDを備える画像処理システムにおいて、画像のコントラスト調整を容易に行う技術を提供することである。
本開示の一態様に係る画像処理システムは、スキャナと、PPD(Pixelated Photon Detector)と、少なくとも1つのプロセッサと、を備え、前記少なくとも1つのプロセッサは、識別すべき階調の範囲である識別範囲を第1画像の階調分布に基づいて設定する設定画面を表示部に表示し、少なくとも前記識別範囲に基づいて第1画像が変換された第2画像を前記表示部に表示する、ように構成され、前記第1画像は、前記PPDで検出された光の強度信号と前記スキャナによる走査位置とに基づいて生成され、前記少なくとも1つのプロセッサは、前記識別範囲を有する入力階調範囲と、前記第2画像を構成する各画素のビット数により算出される出力階調範囲と、を対応付けた情報に基づいて、前記第1画像を前記第2画像に変換する、ように構成されることを特徴とする。
本開示の一態様に係る画像処理方法は、設定画面を表示部に表示することと、第1画像が変換された第2画像を前記表示部に表示することと、を含み、前記設定画面は、識別すべき階調の範囲である識別範囲を前記第1画像の階調分布に基づいて設定する画面であり、前記第1画像は、PPD(Pixelated Photon Detector)で検出された光の強度信号とスキャナによる走査位置とに基づいて生成され、前記第2画像は、少なくとも前記識別範囲に基づいて前記第1画像が変換された画像であり、さらに、前記第2画像は、前記識別範囲を有する入力階調範囲と、前記第2画像を構成する各画素のビット数により算出され出力階調範囲とを対応付けた情報に基づいて前記第1画像が変換された画像である。
本開示によれば、PPDを備える画像処理システムにおいて、画像のコントラスト調整を容易に行うことができる。
一実施形態に係る画像処理システム1の構成を例示した図である。 ルックアップテーブル(LUT:LookUp Table)を用いた階調変換について説明するための図である。 画像処理システム1が行う第1の実施形態に係る処理のフローチャートである。 設定画面の一例を示した図である。 LUTの入力階調と出力階調の関係の一例を示した図である。 推奨値を算出するための情報を入力する画面の一例を示した図である。 ヒストグラムから識別範囲を算出する方法の一例を説明するための図である。 無効画素を設定するための情報を入力する画面の一例を示した図である。 ヒストグラムの更新方法の一例を説明するための図である。 スキャン設定画面の一例を示した図である。 スキャナの切り替え方法の一例を説明するための図である。 設定画面の変形例を示した図である。 画像処理システム1が行う第2の実施形態に係る処理のフローチャートである。 Z位置毎の識別範囲を設定する画面の一例を示した図である。 画像と識別範囲の保存方法の一例を説明するための図である。 画像と識別範囲の保存方法の別の例を説明するための図である。
図1は、一実施形態に係る画像処理システム1の構成を例示した図である。図2は、ルックアップテーブル(LUT:LookUp Table)を用いた階調変換について説明するための図である。以下、図1及び図2を参照しながら、画像処理システム1について説明する。
画像処理システム1は、図1に示すように、光学機器100と、光学機器100に接続されたコンピュータ10と、コンピュータ10に接続された表示装置20及び入力装置30と、を備えている。光学機器100は、例えば、レーザ走査型顕微鏡の本体であり、画像処理システム1は、例えば、レーザ走査型顕微鏡システムである。
光学機器100は、サンプルを光で走査するスキャナと、ガイガーモードで動作するPPD111と、を含んでいる。コンピュータ10は、PPD111で検出された光の強度信号とスキャナの走査位置とに基づいて生成した画像のコントラストをLUTを用いて調整して、コントラストが調整された画像を表示装置20に表示する。また、コンピュータ10は、入力装置30を用いて利用者が入力した情報に基づいて光学機器100を制御してもよい。以下、画像処理システム1の各構成についてさらに詳細に説明する。
光学機器100では、スキャンユニット105が、レーザ107から出射したレーザ光でステージ101上のサンプルを走査し、PPD111が、共焦点絞り109を含む共焦点光学系を経由して入射したサンプルからの光を検出する。そして、光学機器100は、PPD111で検出したサンプルからの光の強度信号と、スキャンユニット105による走査位置と、をコンピュータ10へ出力する。
光学機器100は、ステージ101、対物レンズ102、焦準装置103、リレー光学系104、スキャンユニット105、ビームスプリッタ106、光源であるレーザ107、結像レンズ108、共焦点絞り109、レンズ110、及び、PPD111を備えている。光学機器100は、さらに、アナログ増幅器112、AD変換器113、デジタル増幅器114を備えている。
レーザ107から出射し、ビームスプリッタ106で反射したレーザ光は、スキャンユニット105及びリレー光学系104を経由して、対物レンズ102に入射する。ビームスプリッタ106は、例えば、レーザ光を反射するダイクロイックミラーである。対物レンズ102は、レーザ光をステージ101上に配置されたサンプルに集光し、サンプルに光スポットを形成する。
レーザ光が照射されたサンプルでは、蛍光物質が励起され、レーザ光とは異なる波長の蛍光が放射される。蛍光は、対物レンズ102、リレー光学系104、及び、スキャンユニット105を経由して入射するビームスプリッタ106を透過し、結像レンズ108によって共焦点絞り109に集光する。共焦点絞り109には、対物レンズ102の前側(サンプル側)の焦点位置と光学的に共役な位置に共焦点ピンホールが形成されている。このため、光スポットが形成された位置以外で生じた蛍光は共焦点絞り109で遮断され、光スポットが形成された位置で生じた蛍光だけが共焦点絞り109を通過してレンズ110を経由してPPD111で検出される。
サンプルからの光を検出したPPD111は、入射フォトン数に応じた強度信号を出力する。PPD111から出力された強度信号は、AD変換器113でのサンプリング前後に、アナログ増幅器112とデジタル増幅器114によって増幅される。光学機器100は、アナログ増幅器112及びデジタル増幅器114で増幅された強度信号と、強度信号に対応する走査位置と、をコンピュータ10へ出力する。
スキャンユニット105は、互いに直交する方向にサンプルを走査する、少なくとも1組のスキャナを含んでいる。スキャンユニット105は、例えば、2つのガルバノスキャナを含んでもよく、ガルバノスキャナとレゾナントスキャナを含んでもよい。なお、スキャンユニット105に含まれるスキャナは、ガルバノスキャナ、レゾナントスキャナに限らない。光を偏向してサンプルを走査する構成であればよく、例えば、音響光学偏向器(AOD)など、その他の光偏向器がスキャナに採用されてもよい。スキャナの振り角度を変更し、それによって、レーザ光を偏向する方向を変更することで、対物レンズ102の瞳面における光軸に対するレーザ光の角度を変更することが可能である。これにより、光スポットの位置を対物レンズ102の光軸と直交する方向に移動させることができる。光学機器100は、コンピュータ10からの命令に応じてスキャンユニット105を制御することで、レーザ光でサンプルをニ次元に走査することが可能であり、サンプルの二次元画像の構築に必要な情報を取得することができる。
コンピュータ10は、少なくとも1つのプロセッサ11と、少なくとも1つのメモリ12を備えていて、光学機器100から出力された強度信号と強度信号に対応する走査位置とに基づいてサンプルの画像を生成する。なお、以降では、強度信号と走査位置とに基づいて生成された画像を、必要に応じて第1画像と記し、第1画像に対してコンピュータ10がさらに画像処理を行うことによって生成される画像と区別する。
少なくとも1つのメモリ12には、画像のコントラストを調整するためのLUT13が格納されている。少なくとも1つのプロセッサ11は、少なくとも、LUT13を設定するための設定画面を表示装置20に表示する第1表示処理と、LUT13を用いて第1画像が階調変換された表示用の第2画像を表示装置20に表示する第2表示処理と、を行うように構成される。また、少なくとも1つのプロセッサ11は、コントラストを調整するためにLUT13を用いて第1画像を構成する各画素の階調を変換する階調変換処理と、を行うように構成されてもよい。
プロセッサ11は、メモリ12に格納されているソフトウェアを実行することで上述した処理を行ってもよく、ハードウェア処理によって上述した処理を行ってもよく、又は、ソフトウェア処理とハードウェア処理の組み合わせによって上述した処理を行ってもよい。プロセッサ11が実行するソフトウェアは、コンピュータ可読媒体に格納されている。プロセッサ11は、任意の電気回路を含み、デジタル信号を処理する回路とアナログ信号を処理する回路の少なくとも1つを含むことができる。プロセッサ11は、例えば、回路基板上の1つ又は複数の集積回路(IC:Integrated Circuit)を含み、さらに、1つ又は複数の電子部品を含むことができる。集積回路は、例えば、中央処理装置(CPU:Central Processing Unit)、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)などであってもよい。集積回路は、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)などであってもよい。
メモリ12は、プロセッサ11が実行するソフトウェアを格納したコンピュータ可読媒体を含んでいる。なお、本明細書において、コンピュータ可読媒体は、非一時的なコンピュータ可読媒体である。メモリ12は、例えば、1つ又は複数の任意の半導体メモリ、1つ又は複数のその他の記憶装置、を含むことができる。半導体メモリは、例えば、RAM(Random Access Memory)などの揮発性メモリ、ROM(Read Only Memory)、プログラマブルROM、フラッシュメモリなどの不揮発性メモリを含んでいる。RAMには、例えば、DRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)などが含まれてもよい。その他の記憶装置には、例えば、コンピュータ可読媒体として例えば磁気ディスクを含む磁気記憶装置、コンピュータ可読媒体として例えば光ディスクを含む光学記憶装置などが含まれてもよい。
プロセッサ11が行う第1表示処理は、第1画像が取り得る階調の範囲の中から識別範囲を設定する設定画面を表示する処理である。識別範囲は、識別すべき階調の範囲のことである。第1画像が取り得る階調の範囲は、画像を構成する各画素が何ビットで表されているか、即ち、第1画像を構成する各画素のビット数、に依存する。例えば、第1画像を構成する各画素のビット数が12ビットであれば、第1画像の画素は、0から4095までの4096個の階調を取り得るため、プロセッサ11は、0から4095の中から識別範囲を設定する設定画面を表示装置20に表示する。
プロセッサ11が行う階調変換処理は、少なくとも識別範囲に基づいて第1画像を変換することによって、表示装置20に表示するための第2画像を生成する処理である。具体的には、プロセッサ11は、まず、設定された識別範囲に基づいてLUT13を作成し、メモリ12に格納する。詳細には、プロセッサ11は、識別範囲を有する入力階調範囲と、第2画像を構成する各画素のビット数により算出される出力階調範囲と、を対応付けた情報を、LUT13としてメモリ12に格納する。具体的には、例えば、第1画像が12ビット画像であり、第2画像が、例えば、表示装置20の表示階調範囲に合わせた8ビット画像であり、設定された識別範囲が1000から2000の場合であれば、1000から2000の入力階調範囲と、0から255の出力階調範囲と、を対応付けた情報を、LUT13としてメモリ12に格納する。なお、グレースケールで表示する場合は前途の通りであるが、カラーで表示する場合は、第2画像はRGB各8ビットから構成される24ビット画像であり、例えば、赤単色の場合は、1000から2000の入力階調範囲に対してRを0から255段階の出力階調範囲に対応付け、Gを全て0に対応付け、Bを全て0に対応づけた情報をLUT13としてメモリ12に格納する。また、黄緑のような混合色の場合は、1000から2000の入力階調範囲に対してRを0から123段階の出力階調範囲に対応付け、Gを0から255段階の出力階調範囲に対応付け、Bを全て0に対応付けた情報をLUT13としてメモリ12に格納する。その後、プロセッサ11は、入力画像である第1画像の各画素の階調をLUT13を用いて階調変換することで、出力画像である第2画像を生成する。即ち、LUT13に基づいて第1画像を第2画像に変換する。
プロセッサ11が行う第2表示処理は、少なくとも識別範囲に基づいて第1画像が変換された第2画像を表示装置20に表示する処理である。これにより、例えば、図2に示すように、画像に含まれる階調範囲がグラフG1で示す範囲からグラフG2の実線に示す範囲に変換されるため、画像の階調範囲が表示装置20の表示階調範囲に単純に投影される場合(グラフG2の点線)よりも広いダイナミックレンジを有する第2画像を得ることができる。なお、画像のダイナミックレンジとは、画像を構成する画素が有する最大階調と最小階調の比を用いて表される。
表示装置20は、画像処理システム1の表示部の一例である。表示装置20は、例えば、液晶ディスプレイ、有機ELディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどである。表示装置20には、例えば、設定画面が表示される。入力装置30は、画像処理システム1の入力部の一例である。入力装置30は、利用者の操作に応じた操作信号をコンピュータ10へ出力する。入力装置30は、例えば、キーボードであるが、マウス、ジョイスティック、タッチパネル、スタイラスなどを含んでもよい。
画像処理システム1では、光検出器にPPD111が用いられている。PPD111は、1フォトンに対して感度を有する画素を並列接続したマルチピクセル構造を有し、複数の画素が配列された受光面を有している。1画素が検出できるフォトン数は単位時間当たり1フォトン程度であるが、PPD111がマルチピクセル構造を有することで、受光面に入射したフォトン数に比例した出力を得ることが可能である。そのため、画像処理システム1では、1フォトンという微弱な光を検出しながら、ある程度の数のフォトンまでを飽和することなく検出することが可能であり、高い分解能と広いダイナミックレンジに対応可能である。具体的には、例えば、サンプルの蛍光色素の褪色を考慮して数μsec当たり1フォトンを検出した際に1階調の出力が得られるような印加電圧を設定することで、高い分解能と広いダイナミックレンジを両立可能である。従って、画像処理システム1によれば、高い分解能と広いダイナミックレンジを有する画像を得ることができる。
また、画像処理システム1では、LUT13を用いたデジタル変換によってコントラストが調整された新たな画像が生成される。このため、コントラスト調整の目的で、光検出器への印加電圧を変更する必要がない。従って、印加電圧を一定に保つことができるため、印加電圧の変更に伴うノイズレベルの変動を回避しながら、より広いコントラストを有するように画像のコントラストを調整することができる。なお、印加電圧の変更に伴って生じるノイズとしては、例えば、ダークカウント、クロストーク、アフターパルスなどが挙げられる。
また、PD111を備える画像処理システム1は、フォトンカウンタとしても利用可能である。画像処理システム1では、PPD111への印加電圧を一定に保つことで、1フォントに対する強度信号のレベルを一定に維持することができるため、フォトンカウントの精度を容易に維持することができる。
さらに、画像処理システム1では、表示装置20に識別範囲を設定する設定画面が表示される。このため、利用者が望む任意の階調範囲を識別範囲に設定して、識別範囲を最大階調範囲にまで拡大することで、高いコントラストの画像を容易に得ることができる。
以上のように、画像処理システム1によれば、光検出器への印加電圧を変更する代わりにLUT13を用いたデジタル画像処理を施すことで、PPD111を採用することで得られる様々なメリットを享受しながら、容易に画像のコントラストを調整することができる。
これに対して、光検出器としてPMTを採用した従来の画像処理システムでは、画像のコントラストを調整する方法として、印加電圧を調整する方法が伝統的に採用されている。これは、PMTでは、広いダイナミックレンジと1フォトンレベルの分解能とを両立することが困難であり、そのため、ダイナミックレンジと分解能のバランスを調整する目的で印加電圧の調整が元々行われていたためである。つまり、従来の画像処理システムでは、コントラストを印加電圧を用いて調整する場合には、バランス調整とコントラスト調整を単一の作業で行うことができるのに対して、コントラストをLUTを用いて調整する場合、バランス調整とコントラスト調整を別々の作業として行うことになるとの理由で、LUTの利用が敬遠されていたためである。
光検出器にPPDを採用した場合も、印加電圧の変更によって画像のコントラスト調整を行うといった方法が採用されるのが通常である。特許文献1に記載されるシステムは、まさにその具体例である。これに対して、本願の出願人は、PPDの特徴を考慮してコントラスト調整方法を鋭意検討した結果、PMTとは異なる方法でコントラスト調整を行うことが望ましいこと、特に、LUTを用いてコントラスト調整を行うことが望ましいことを見出した。
画像のコントラストを調整するその他の方法としては、例えば、アナログゲインを調整する回路を光学機器100に設ける方法が考えられる。しかしながら、この方法でコントラストを十分に調整するためには、可変抵抗器を用いる必要があるが、可変抵抗器は一般に固定抵抗器よりも抵抗温度係数が大きい。このため、この方法で微妙なコントラストを調整することは難しい。
以下、上述した画像処理システム1を用いた処理の具体例について説明する。
[第1の実施形態]
図3は、画像処理システム1が行う本実施形態に係る処理のフローチャートである。図4は、設定画面の一例を示した図である。図5は、LUTの入力階調と出力階調の関係の一例を示した図である。図6は、推奨値を算出するための情報を入力する画面の一例を示した図である。図7は、ヒストグラムから識別範囲を算出する方法の一例を説明するための図である。図8は、無効画素を設定するための情報を入力する画面の一例を示した図である。図9は、ヒストグラムの更新方法の一例を説明するための図である。図10は、スキャン設定画面の一例を示した図である。図11は、スキャナの切り替え方法の一例を説明するための図である。以下、図3から図11を参照しながら、画像処理システム1が行う本実施形態に係る処理について説明する。
本実施形態では、画像処理システム1は、図3に示すように、まず、本番撮影前に観察条件を設定する(ステップS1)。画像処理システム1は、その後、設定した観察条件で本番撮影を行い(ステップS2)、最後に、撮影結果のデータを記憶する(ステップS3)。
ステップS1では、コンピュータ10のプロセッサ11は、例えば、表示装置20に設定画面である画面21を表示する。画面21には、図4に示すように、複数のグラフィカルユーザインタフェース(GUI)部品が配置されている。また、画面21には、複数のGUI部品に加えて、光学機器100で取得した第1画像を識別範囲に基づいて変換した第2画像が表示されてもよい。第2画像が表示されることで、利用者は、第2画像を見ながら複数のGUI部品を操作して観察条件を変更することができる。利用者は、観察条件の変更による第2画像の変化を観察することで、望ましい観察条件を探索することができる。なお、観察条件には、例えば、光学機器100の構成要素(スキャンユニット105、レーザ107、PPD111など)の動作設定、画像処理設定などが含まれる。
リストボックスL1は、検出チャンネルを変更するための部品である。光学機器100が複数の光検出器(検出チャンネル)を備えている場合には、リストボックスL1を用いて検出チャンネルを変更することができる。図4には、第1チャンネル(CH1)が選択された状態が示されている。第1チャンネルは、例えば、PPD111である。なお、この例では、単一のチャンネルが選択される例を示したが、複数のチャンネルが選択されて同時に利用されてもよい。
ボタンB11及びボタンB12は、リピートボタンである。ボタンB11が押下されることでリピートスキャンが開始されて、画面21にボタンB12が表示される。また、ボタンB12が押下されることでリピートスキャンが終了されて、画面21にボタンB11が表示される。即ち、ボタンB11は、リピートスキャンが実行されていない状態を示し、ボタンB12は、リピートスキャンが実行されている状態を示している。ボタンB12が表示されている状態では、画面21には、リピートスキャンで撮影したサンプルの最新の画像(第2画像)が表示される。なお、リピートスキャンとは、スキャンユニット105がサンプルを繰り返し走査する処理のことであり、リピートスキャンを実行することで、表示装置20に表示されている画像が随時更新される。
リストボックスL2は、レーザ107から出射されるレーザ光の波長を変更するための部品である。図4には、レーザ波長として445nmが選択された状態が示されている。テキストボックスT1とスライダSL1は、レーザ107の出力を設定するための部品であり、レーザ107の出力を設定する光源出力領域を構成する。図4には、レーザ107の出力が0である状態が示されている。テキストボックスT1内の数値を変更すること、又は、スライダSL1をスライドすることで、出力を調整することができる。
テキストボックスT2とスライダSL2は、デジタル増幅器114でのデジタルゲインを設定するための部品であり、デジタルゲインを設定する領域を構成する。図4には、デジタルゲインが1倍である状態が示されている。テキストボックスT2内の数値を変更すること、又は、スライダSL2をスライドすることで、デジタルゲインを調整することができる。
テキストボックスT3とスライダSL3は、PPD111から出力される強度信号のオフセットを設定するための部品であり、オフセットを設定する領域を構成する。図4には、オフセットが既定値の0%である状態が示されている。テキストボックスT3内の数値を変更すること、又は、スライダSL3をスライドすることで、オフセットを調整することができる。
テキストボックスT4とスライダSL4は、識別範囲の上限を設定するための部品であり、識別範囲の上限を設定する上限領域を構成する。図4には、識別範囲の上限が2000である状態が示されている。テキストボックスT5とスライダSL5は、識別範囲の下限を設定するための部品であり、識別範囲の下限を設定する下限領域を構成する。図4には、識別範囲の下限が1000である状態が示されている。図4に示す画面21には、上限領域と下限領域が含まれていて、識別範囲が1000から2000に設定されている状態が示されている。テキストボックスT4及びテキストボックスT5内の数値を変更すること、又は、スライダSL4及びスライダSL5をスライドすることで、識別範囲を調整することができる。
識別範囲が調整されると、プロセッサ11は、メモリ12に格納したLUT13を更新する。例えば、図4に示すように、識別範囲が1000から2000に設定された場合であれば、図5に示すように、LUT13を、グラフG3に示す入力階調と出力階調との関係に更新する。より詳細には、入力階調1000以下を出力階調0に対応付け、入力階調1000から2000を出力階調0(最小階調値)から255(最大階調値)に線形に対応付け、入力階調2000以上を出力階調255に対応付ける。グラフG3に示す関係を有するLUT13を用いることで、第1画像における1000から2000までの階調範囲を0から255の階調範囲に拡大した第2画像を表示することができる。また、ここでは第2画像の階調範囲を一般的な表示装置の表示階調範囲に合わせて0~255の範囲としているが、第2画像の階調範囲は、表示装置の表示階調範囲に合わせて、適宜、設定すればよい。例えば、表示装置の表示階調範囲が12ビットで0~4095の範囲であれば、第2画像の階調範囲も0~4095に設定すればよい。
上限領域と下限領域は、識別範囲を設定する識別範囲領域を構成している。画面21に上限領域と下限領域が含まれることで、識別範囲の上限と下限を独立に設定することができるため、高い自由度で識別範囲を調整することが可能となる。また、画面21は、識別範囲領域に加えて、識別範囲領域に近接して配置された、第2画像を調整する調整領域を含んでいる。図4には、調整領域が、レーザ107の出力を設定する領域、デジタルゲインを設定する領域、及び、オフセットを設定する領域を含む例が示されているが、調整領域は、レーザ107の出力を設定する領域、デジタルゲインを設定する領域、又は、オフセットを設定する領域の少なくとも1つを含んでいればよい。識別範囲領域に近接して調整領域が含まれることで、画像のコントラスト調整のための種々の設定を一つの画面上でまとめて行うことが可能であり、操作性の高いシステムを提供することができる。
また、識別範囲領域及び調整領域に含まれるGUI部品は、入力装置30を用いて手動で操作することができるが、プロセッサ11は、これらのGUI部品に初期値を設定してもよい。例えば、プロセッサ11は、上限領域に識別範囲の上限の初期値を表示し、下限領域に識別範囲の下限の初期値を表示してもよい。適切な初期値が設定されることで、利用者の操作によってコントラストを調整する前から、ある程度高いコントラストを有するサンプルの画像を表示することができる。従って、レーザ107の出力を過度に上げることなく、その後のコントラスト調整を比較的短時間で行うことが可能となるため、観察条件の設定工程で生じるサンプルへのダメージを抑制することができる。特に、蛍光観察に画像処理システム1を使用する場合であれば、サンプルの退色を抑制することができる。
識別範囲の上限の初期値は、例えば、予め決められたプリセット値であってもよく、又は、後述する推奨値であってもよい。また、識別範囲の下限の初期値は、例えば、予め決められたプリセット値であってもよく、又は、PPD111に光が入射していないときに出力される強度信号の階調に相当する値であってもよい。プリセット値は、利用者が任意に設定可能である。
推奨値は、利用者が入力した情報に基づいてコンピュータ10が算出した値である。画像処理システム1では、ボタンB3を押下することで、図6に示す推奨値を算出するための情報を入力する画面22が表示される。画面22には、フォトン数から推奨値を算出する場合に選択されるラジオボタンR1と、PMTの印加電圧から推奨値を算出する場合に選択されるラジオボタンR2と、が含まれている。
テキストボックスT6は、検出すべきフォトン数、より詳細には、1画素当たりに検出すべきフォトン数、を設定するための部品である。ラジオボタンR1を選択した状態でOKボタンが押下されると、プロセッサ11は、テキストボックスT6から検出すべきフォトン数を取得し、取得したフォトン数のフォトンがPPD111に入射した場合にPPD111から出力される強度信号に対応する階調を推奨値として算出し、さらに、算出した推奨値を、画面21の上限領域に初期値として表示する。これにより、検出すべきフォトン数のフォトンがPPD111に入射した場合であっても飽和しないという条件で、LUT13が更新される。このため、LUT13を用いて、フォトン数の正確なカウントと高いコントラストの画像の表示とを両立することができる。
なお、具体的な計算方法は、例えば、以下のとおりである。検出すべきフォトン数をPHとし、PPD111でのゲイン(つまり、1フォトン当たりの階調数)をG1とすると、推奨値は、PH×G1で算出される。
テキストボックスT7は、PMTに加える電圧、より詳細には、従来の画像処理システムを使用する場合に利用者が望む画像のコントラストを得るためにPMTに印加するであろう電圧、を設定するための部品である。ラジオボタンR2を選択した状態でOKボタンが押下されると、プロセッサ11は、テキストボックスT7に示される印加電圧が加わったPMTで検出可能なフォトン数を推定し、推定したフォトン数のフォトンがPPD111に入射した場合にPPD111から出力される強度信号に対応する階調を推奨値として算出し、さらに、算出した推奨値を、画面21の上限領域に初期値として表示する。これにより、PMTを備える従来の画像処理システムに慣れている利用者であっても容易に適切な識別範囲を設定して、LUT13を更新することができる。このため、操作性の高い画像処理システム1を提供することができる。
なお、具体的な計算方法は、例えば、以下のとおりである。第2画像を構成する各画素の最大階調数をSIGとし、バックグラウンド強度をBGとし、PPD111でのゲインをG1とし、テキストボックスT7から取得した電圧を加えたときのPMTでのゲインをG2とすると、推奨値は、(SIG-BG)/G2×G1+BGで算出される。ここで、バックグラウンド強度とは光が入射しない時に設定される階調であって、システムに予め設定された値である。バックグラウンド強度の階調を0ではなく、少し浮かせることにより、光が入射しない時の出力信号が温度変化によって変動しても、階調データが0以下になることを回避することができる。
ボタンB21及びボタンB22は、自動設定ボタンである。ボタンB21が押下されることで識別範囲の自動設定が有効になり、画面21にボタンB22が表示される。また、ボタンB22が押下されることで識別範囲の手動設定が有効になり、画面21にボタンB21が表示される。即ち、ボタンB21は、識別範囲の手動設定状態を示し、ボタンB22は、識別範囲の自動設定状態を示している。ボタンB21及びボタンB22は、識別範囲の手動設定と自動設定を切り替える切替領域を構成する。図4に示すように、画面21は、識別範囲を手動で設定する識別範囲領域と、切替領域と、を含み、切替領域は、識別範囲領域に近接して配置されている。
プロセッサ11は、識別範囲の自動設定が有効な場合に、少なくとも第1画像に基づいて識別範囲を設定し、少なくとも設定した識別範囲に基づいて第2画像を生成する。より詳細には、プロセッサ11は、第1画像を構成する画素の階調のヒストグラムを算出し、少なくとも算出したヒストグラムに基づいて識別範囲を設定する。ヒストグラムを算出することで、画像がどのような階調の画素で構成されているかを知ることができるため、画像に必要な階調範囲を絞り込んで識別範囲を適切に設定することができる。例えば、ヒストグラムが表す階調分布の最小値(つまり、第1画像に含まれる最小の階調値)から階調分布の最大値(つまり、第1画像に含まれる最大の階調値)までを識別範囲に設定してもよい。
また、画像にノイズ成分が含まれている場合には、階調分布の最小値から最大値までの階調範囲は識別範囲として適切でないことがある。このため、プロセッサ11は、ノイズ成分の影響を排除するために所定の割合の画素を無効化してもよく、無効画素の割合とヒストグラムとに基づいて識別範囲を設定してもよい。具体的には、プロセッサ11は、図7に示すように、算出したヒストグラムの端部から、無効画素の割合に対応する個数の画素を除外してもよい。即ち、図7のグラフG4に示すように、有効画素の最小の階調値から最大の階調値までを識別範囲に設定してもよい。これにより、ノイズ成分の影響を抑制して適切な識別範囲を自動的に設定することが可能となる。なお、図7には、上位2%と下位2%の画素を無効化する例が示されている。
無効画素の割合は、予め決められたプリセット値であってもよく、又は、利用者が任意に設定してもよい。画像処理システム1では、ボタンB21を押下することで、図8に示す無効画素を設定するための情報を入力する画面23が表示されてもよい。画面23には、第1画像のヒストグラムH1と、階調と表示装置20に表示される色との関係を示すカラーバーC1と、テキストボックスT8からT11が含まれている。
テキストボックスT8とテキストボックスT9は、識別範囲の最小値と最大値を設定するための部品であり、第1画像に含まれる最小の階調値と最大の階調値が初期値として設定されている。テキストボックスT10とテキストボックスT11は、無効画素の割合を設定するための部品であり、テキストボックスT10は、ヒストグラムの下端から何パーセントの画素を無効化するか、テキストボックスT11はヒストグラムの上端から何パーセントの画素を無効化するかを設定する部品である。図8には、無効画素の割合が0%に設定されている例が示されている。
図8に示すように、ヒストグラムH1を表示した画面23上で無効画素の割合を利用者に設定させることで、画像のノイズ成分を適切に無効化することが容易になる。
ところで、光学機器100とコンピュータ10の間では、強度信号を含むパケットがやり取りされる。リピートスキャンの実行中、即ち、スキャンユニット105が繰り返し走査している期間中、プロセッサ11は、識別範囲の自動設定が有効な場合には、パケットを受信する毎に、1フレーム相当の強度信号に基づいて、ヒストグラムを更新することが望ましい。これにより、最新の情報に基づいて識別範囲を設定することができるため、適切な範囲を識別範囲に設定することができる。
しかしながら、1つのパケットに含まれる信号強度のデータサイズは、適切な時間間隔で画像転送及び画像表示が行われるように、ピクセル積算時間、画像サイズ、スキャンモード、同時使用チャンネル数などによって変化する。これは、1つのパケットに含まれる信号強度のデータサイズが大きくなりすぎると、画像の更新頻度が低くなり、画像表示が不自然になってしまうからである。また、1つのパケットに含まれる信号強度のデータサイズが小さくなりすぎると、画像の更新頻度は高くなるが、転送負荷及び表示負荷が増大してしまうからである。
そのため、図9に示すように、1つのパケットPに含まれる信号強度が、1フレーム相当のデータに満たない場合があり、例えば、1ライン相当のデータに過ぎないこともある。このような場合には、最新のパケットから抽出した信号強度に、以前に受信したパケットから抽出した信号強度を加えることで、1フレーム相当の信号強度を取得し、取得した1フレーム相当の信号強度に基づいて、ヒストグラムを更新することが望ましい。これにより、サンプルの走査に時間がかかり、その結果、1フレーム分の画像生成に時間がかかるレーザ走査型顕微鏡で画像を取得する場合であっても、ヒストグラムとLUT13を随時更新することができる。このため、常に適切なコントラストを有するサンプルの画像を表示することができる。
なお、以前に受信したパケットから抽出する信号強度は新しいものから順に抽出されることが望ましい。これにより、各ラインの最新の信号強度からなる1フレーム相当の信号強度に基づいて、ヒストグラムを更新することができる。ただし、最初の1フレーム相当の信号強度が光学機器100からコンピュータ10に送信されるまでの間は、すでに送信されている1フレーム未満の信号強度に基づいてヒストグラムを作成及び更新してもよい。
また、反対に、1つのパケットに1フレーム以上の信号強度が含まれることもある。このような場合には、プロセッサ11は、パケットに含まれる信号強度の一部を間引くことで、1フレーム相当の信号強度を抽出して、抽出した信号強度に基づいて、ヒストグラムを更新することが望ましい。例えば、パケットに含まれる最新のフレームの信号強度に基づいて、ヒストグラムを更新してもよい。
以上のように、画像処理システム1は、ステップS1において、表示装置20に表示された画面21上で望ましい観察条件を探索し、LUT13を更新することができる。その後、観察条件を変更することなく、ステップS2の本番撮影を行う場合には、画像処理システム1は、本番撮影で取得した第1画像をLUT13を用いて第2画像に変換し、第2画像を表示装置20に表示する。そして、最後のステップS3において、メモリ12が、第1画像と第2画像の少なくとも一方と、識別範囲と、を関連付けて記憶する。メモリ12には、少なくとも画像と識別範囲の組み合わせを記憶すればよい。LUT13には、識別範囲の情報が含まれているため、メモリ12は、識別範囲の代わりにLUT13を画像と関連付けて記憶してもよい。なお、今までは識別範囲の設定が自動設定の場合について説明したが、識別範囲の自動設定が無効の場合、つまり、識別範囲の設定をユーザー操作により手動で行う場合でも、第1画像を構成する画素の階調のヒストグラムを算出してもよい。この場合、プロセッサは、リピートスキャン実行中にヒストグラムを算出し、算出したヒストグラムを随時、表示装置20に表示することにより、ユーザーは、ヒストグラムを見ながら、画像の明るさを正確に調整することができる。
ところで、ステップS1の観察条件設定は、できるだけ短時間で完了することが望まれる。このため、観察条件を探索中は、スキャンユニット105を、本番撮影時の設定よりも画像を短時間で取得可能な設定で動作させるのが通常である。このような場合には、探索終了後、スキャンユニット105の動作設定(以降、スキャン設定と記す)を本番撮影用に変更してから、本番撮影が行われる。
しかしながら、スキャン設定を変更すると、ピクセル積算時間が変化するため、取得される画像の明るさが変化してしまう。このため、ステップS1で生成されたLUT13を用いて本番撮影で取得した画像に対して階調変換を行うと、表示装置20に表示される画像が期待するコントラストを有しないことがある。なお、ピクセル積算時間は、1画素当たりの露光時間のことであり、1画素当たりの走査時間に依存する。
そこで、画像処理システム1は、スキャン設定が変更されると、スキャン設定の変更に応じて識別範囲を補正してもよく、補正された識別範囲に基づいてLUT13を更新してもよい。具体的には、例えば、図10に示すスキャン設定画面において、ラジオボタンR7を選択して補正を有効にすることで、スキャン設定に応じて識別範囲を自動的に補正してもよい。
画像処理システム1では、ボタンB4を押下することで、図10に示すスキャン設定画面である画面24が表示される。画面24には、スキャナのタイプを選択するためのGUI部品(ラジオボタンR3、ラジオボタンR4)と、スキャナの動作モードを選択するためのGUI部品(ラジオボタンR5、ラジオボタンR6)と、スキャンスピードを設定するためのGUI部品であるスライダSL6と、スキャンサイズを設定するためのGUI部品であるリストボックスL3と、識別範囲の自動補正の有効と無効を切り替えるためのGUI部品(ラジオボタンR7、ラジオボタンR8)が含まれている。
スキャンユニット105は、例えば、図11に示すように、X方向(画像の走査線方向)にサンプルを走査するガルバノスキャナ116とレゾナントスキャナ117と、X方向と直交するY方向にサンプルを走査するガルバノスキャナ115を含んでいる。画面24において、ラジオボタンR3を選択することで、スキャンユニット105内で光がガルバノスキャナ116に導かれるように、光路上にリフレクタ118が挿入される。一方、ラジオボタンR4を選択することで、スキャンユニット105内で光がレゾナントスキャナ117に導かれるように、光路上からリフレクタ118が取り除かれる。レゾナントスキャナ117は、ガルバノスキャナ116よりも高速に動作するため、ラジオボタンR4が選択されることで、ラジオボタンR3が選択されている場合よりも、ピクセル積算時間が短くなる。画面24において、スキャンモード、スキャンスピード、スキャンサイズが変更された場合も、ピクセル積算時間が変化する。ただし、スキャンサイズの変更は、スキャンタイプがレゾナントスキャナである場合にのみピクセル積算時間を変化させ、スキャンモードの変更は、スキャンタイプがガルバノスキャナである場合にのみピクセル積算時間を変化させる。
識別範囲の自動補正が有効な状態で、画面24でスキャン設定が変更されると、ピクセル積算時間(1画素当たりの露光時間)が変更されるため、プロセッサ11は、少なくとも変更前後のピクセル積算時間に基づいて、識別範囲を補正する。例えば、ピクセル積算時間が2倍になった場合には、プロセッサ11は、識別範囲の上限と下限をそれぞれ半分の値に変更することで、識別範囲を補正してもよい。これにより、スキャン設定の変更に伴う識別範囲の手動での再設定を省略することが可能となる。
以上のように、本実施形態によれば、PPD111を採用することで得られる様々なメリットを享受しながら、容易に画像のコントラストを調整することができる。
なお、本実施形態では、スキャン設定の変更を契機にして識別範囲を補正する例を示したが、プロセッサ11は、スキャン設定の変更に限らず、ピクセル積算時間が変更されたことを契機にして、識別範囲を補正してもよい。
また、本実施形態では、変更前後のピクセル積算時間に基づいて識別範囲を補正する例を示したが、スキャン設定の変更に伴ってその他のパラメータも変動する場合には、プロセッサ11は、ピクセル積算時間以外のパラメータを考慮して識別範囲を補正してもよい。例えば、スキャン設定変更に伴って、バックグラウンド強度、デジタル及びアナログゲイン、第1画像(強度信号)の最大階調数が変更される場合には、これらを考慮して識別範囲を補正してもよい。
具体的には、変更前の識別範囲の上限をMAXBとし、変更後の識別範囲の上限をMAXAとし、変更前のピクセル積算時間をPITBとし、変更後のピクセル積算時間をPITAとし、変更前のバックグラウンド強度をBGBとし、変更後のバックグラウンド強度をBGAとし、変更前のゲインをGBとし、変更後のゲインをGAとし、変更前の最大階調数をGDBとし、変更後の最大階調数をGDAとすると、変更後の識別範囲の上限は、下式で算出してもよい。
MAXA=(MAXB-BGB)×(PITA/PITB)×(GDA/GDB)×(GA/GB)+BGA
図12は、設定画面の変形例を示した図である。本実施形態では、設定画面として、図4に示す画面21を例示したが、プロセッサ11は、図12に示す画面25を設定画面として表示装置20に表示してもよい。画面25は、識別範囲領域が、テキストボックスT12及びスライダSL7からなる点が、画面21とは異なっている。
テキストボックスT12とスライダSL7は、識別範囲を設定するための部品である。テキストボックスT12内の数値を変更すること、又は、スライダSL7をスライドすることで、識別範囲を調整することができる。より詳細には、テキストボックスT12またはスライダSL7で倍率を設定することで、識別範囲の下限がバックグラウンド強度の階調で、且つ、識別範囲の上限が最大階調数を倍率で割った値に設定される。
画面25を表示することによっても、利用者は、識別範囲に自由に設定することができるため、画像のコントラストの調整が容易に行うことができる。さらに、画面25では、第2画像のコントラストが高くなるスライダSL7(第1スライダ)の移動方向と、第2画像のコントラストが高くなるスライダSL1(第2スライダ)の移動方向とは、ともに右方向であり、一致している。このため、コントラスト調整の操作性がさらに向上した画像処理システム1を提供することが可能となる。
[第2の実施形態]
図13は、画像処理システム1が行う本実施形態に係る処理のフローチャートである。図14は、Z位置毎の識別範囲を設定する画面の一例を示した図である。図15は、画像と識別範囲の保存方法の一例を説明するための図である。以下、図13から図15を参照しながら、画像処理システム1が行う本実施形態に係る処理について説明する。
本実施形態に係る処理は、本番撮影においてZ-Series撮影を行う点が、第1の実施形態とは異なっている。なお、Z-Series撮影とは、深さ方向に観察面を所定距離ずつ移動しながら二次元画像の取得を繰り返す撮影方法のことであり、サンプルの3次元情報を得るために用いられる。Z-Series撮影は、Zスタック撮影とも呼ばれる。
画像処理システム1は、図13に示すように、まず、Z-Series撮影前に観察条件を設定する(ステップS11)。画像処理システム1は、その後、設定した観察条件でZ-Series撮影を行い(ステップS12)、最後に、撮影結果のデータを記憶する(ステップS13)。以下、各ステップについて、第1の実施形態との違いに着目して説明する。
ステップS11では、プロセッサ11は、例えば、表示装置20に設定画面を表示し、手動又は自動で識別範囲を設定する。この点は、図3に示すステップS1と同様である。ただし、プロセッサ11は、観察深さ毎に識別範囲を設定する点が異なっている。プロセッサ11は、観察深さ毎に設定された識別範囲に基づいて、観察深さ毎のLUT13を作成し、メモリ12に格納する。
プロセッサ11は、例えば、図14に示す画面26を設定画面として表示してもよい。画面26には、観察深さ(Z位置)毎の識別範囲を示すテーブルTLと、識別範囲の登録と削除を行うためのボタン(ボタンB5、ボタンB6)が含まれている。
利用者は、コンピュータ10を介して焦準装置103を制御することで、少なくとも2つの異なる観察深さに対して、識別範囲を設定する。なお、観察深さは、例えば、焦準装置103に取り付けられたエンコーダからの出力などによってプロセッサ11によって自動的に認識されてもよい。プロセッサ11は、少なくとも2つの異なる観察深さに対して設定された複数の識別範囲に基づいて、観察深さ毎の識別範囲を設定する。より具体的には、プロセッサ11は、複数の識別範囲に基づいて線形補間により観察深さ毎の識別範囲を設定してもよい。線形補間により観察深さ毎の識別範囲を設定することで、識別範囲の設定作業を大幅に削減することが可能であり、さらに、サンプルが均質であれば高い精度で適切な識別範囲を推定して設定することが可能である。
画面26には、さらに、深さ毎にLUT13を切り替えて使用するか否かを設定するGUI部品(ラジオボタンR9からラジオボタンR12)が含まれている。ラジオボタンR9が選択されることで、プロセッサ11は、Z-Series撮影中に観察深さ毎にLUT13を切り替えて使用する。また、ラジオボタンR11が選択されることで、プロセッサ11は、焦準装置103を手動で操作中に深さ毎にLUT13を切り替えて使用する。
ステップS12では、プロセッサ11は、Z-Series撮影を行い、ラジオボタンR9が選択されている場合には、図15に示すように、観察深さ毎に作成されたLUT13を用いて階調変換処理を行う。一般に、観察深さが深くなるほど画像の明るさは暗くなるが、観察深さ毎に作成されたLUT13を用いて階調変換処理を行うことで、観察深さによらず高いコントラストを有する画像を表示することができる。
ステップS13では、メモリ12が、図15に示すように、階調変換前の第1画像と、第1画像の観察深さに対応する識別範囲と、を関連付けて記憶する。即ち、メモリ12には、Z-Series撮影で取得した複数の第1画像からなる画像群DS1と、互いに異なる観察深さに対して設定された複数の識別範囲からなる識別範囲群RS1が記憶される。なお、識別範囲の代わりに、LUT13が記憶されてもよい。観察深さ毎に第1画像と識別範囲又はLUT13を関連付けて記憶することで、画像処理システム1は、階調変換前の生の情報を確保しながら、必要に応じて第2画像を作成し表示することができる。
本実施形態によっても、第1の実施形態と同様に、PPD111を採用することで得られる様々なメリットを享受しながら、容易に画像のコントラストを調整することができる。
図16は、画像と識別範囲の保存方法の別の例を説明するための図である。本実施形態では、階調変換前の第1画像と、第1画像の観察深さに対応する識別範囲と、を関連付けて記憶する例を示したが、画像と識別範囲の組み合わせはこの例に限らない。
プロセッサ11は、例えば、図16に示すように、識別範囲群RS1に含まれる1つの識別範囲を代表識別範囲に決定する。なお、代表識別範囲は、識別範囲群RS1に含まれる識別範囲に限らず、任意の識別範囲であってもよい。その後、プロセッサ11は、画像群DS1に対して識別範囲群RS1と代表識別範囲を用いて階調変換処理を行うことで、画像群DS3を生成する。画像群DS3の各画素の強度は、代表識別範囲の最小値と最大値をそれぞれMin、Maxとし、各観察深さに対応する識別範囲の最小値と最大値をそれぞれMinZ、MaxZとするとき、以下の式で算出される。
変換後の強度=(変換前の強度-MinZ)×(Max-Min)/(MaxZ-MinZ)+Min
なお、プロセッサ11が代表識別範囲を決定する方法としては、識別範囲群RS1の中からユーザーが指定した識別範囲を、プロセッサ11が代表識別範囲として決定してもよい。また、Z-Series撮影で取得した複数の第1画像からなる画像群DS1の識別範囲群RS1のうち、識別範囲の最小値と最大値の差が最も大きい画像の識別範囲を代表識別範囲として、プロセッサ11が自動的に決定してもよい。代表識別範囲よりも広い識別範囲が設定されたZ位置の画像では生データの階調が圧縮されてしまい1フォトンに対して感度を有すというPPDの利点を十分に活かすことができなくなる。これに対して、最も広い識別範囲を代表識別範囲とすることにより代表識別範囲より広い識別範囲を有す画像がなくなるので、各Z位置での画像の生データの階調が圧縮されるのを防止できる。
メモリ12は、図16に示すように、画像群DS3を構成する各画像と、代表識別範囲と、を関連付けて記憶してもよい。この場合も、画像群DS3に対して代表識別範囲を用いて階調変換処理を行うことで、画像群DS2を生成することができるため、必要に応じて第2画像を作成し表示することができる。
上述した実施形態は、発明の理解を容易にするための具体例を示したものであり、本発明の実施形態はこれに限定されるものではない。画像処理システムは、特許請求の範囲の記載を逸脱しない範囲において、さまざまな変形、変更が可能である。
上述した実施形態では、リピートスキャンで取得された画像に基づいて識別範囲を設定する例を示したが、識別範囲は、静止画像、特に、リピートスキャン後に取得した静止画像に基づいて識別範囲を設定してもよい。
上述した実施形態では、LUTを用いて識別範囲を最大階調範囲に線形に割り当てるコントラスト調整の方法を例示したが、例示したコントラスト調整をガンマ補正と組み合わせて行ってもよい。
上述した実施形態では、識別範囲の設定によるコントラスト調整方法に注目して説明したが、強度信号が全体的に弱い場合には、デジタルゲインを調整してから上述したコントラスト調整を行ってもよい。
上述した実施形態では、観察深さ毎の識別範囲を補間により算出する例を示したが、補間は広義に解釈されるべきである。補間には、内挿だけではなく外挿も含まれる。
1 画像処理システム
10 コンピュータ
11 プロセッサ
12 メモリ
13 LUT
20 表示装置
21~26 画面
30 入力装置
100 光学機器
105 スキャンユニット
107 レーザ
109 共焦点絞り
111 PPD
115 ガルバノスキャナ
116 レゾナントスキャナ
117 リフレクタ

Claims (20)

  1. スキャナと、
    PPD(Pixelated Photon Detector)と、
    少なくとも1つのプロセッサと、を備え、
    前記少なくとも1つのプロセッサは、
    識別すべき階調の範囲である識別範囲を第1画像の階調分布に基づいて設定する設定画面を表示部に表示し、
    少なくとも前記識別範囲に基づいて前記第1画像が変換された第2画像を前記表示部に表示する、ように構成され、
    前記第1画像は、前記PPDで検出された光の強度信号と前記スキャナによる走査位置とに基づいて生成され
    前記少なくとも1つのプロセッサは、前記識別範囲を有する入力階調範囲と、前記第2画像を構成する各画素のビット数により算出される出力階調範囲と、を対応付けた情報に基づいて、前記第1画像を前記第2画像に変換する、ように構成される
    ことを特徴とする画像処理システム。
  2. 請求項1に記載の画像処理システムにおいて、
    前記設定画面は、
    前記識別範囲の上限を設定する上限領域と、
    前記識別範囲の下限を設定する下限領域と、を含む
    ことを特徴とする画像処理システム。
  3. 請求項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、
    前記上限領域に前記識別範囲の上限の初期値を表示し、
    前記下限領域に前記識別範囲の下限の初期値を表示する、ように構成される
    ことを特徴とする画像処理システム。
  4. 請求項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、
    光電子増倍管(PMT:Photo multiplier tube)を含む画像処理システムを使用する場合に利用者が望む画像のコントラストを得るために前記PMTに加えるであろう電圧を取得し、
    前記電圧が加えられた前記PMTで検出可能なフォトン数を推定し、
    前記フォトン数のフォトンが前記PPDに入射した場合に前記PPDから出力される強度信号に対応する階調を、前記上限領域に、前記上限の初期値として表示する、ように構成される
    ことを特徴とする画像処理システム。
  5. 請求項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、
    検出すべきフォトン数を取得し、
    前記フォトン数のフォトンが前記PPDに入射した場合に前記PPDから出力される強度信号に対応する階調を、前記上限領域に、前記上限の初期値として表示する、ように構成される
    ことを特徴とする画像処理システム。
  6. 請求項1に記載の画像処理システムにおいて、
    前記設定画面は、
    前記識別範囲を設定する識別範囲領域と、
    前記識別範囲領域に近接して配置された、前記第2画像を調整する調整領域と、を含む
    ことを特徴とする画像処理システム。
  7. 請求項に記載の画像処理システムにおいて、
    前記調整領域は、光源の出力を設定する領域、前記強度信号のオフセットを設定する領域、又は、デジタルゲインを設定する領域、の少なくとも1つを含む
    ことを特徴とする画像処理システム。
  8. 請求項1に記載の画像処理システムにおいて、
    前記設定画面は、
    前記識別範囲を設定する第1スライダを含む識別範囲領域と、
    前記識別範囲領域に近接して配置された、光源の出力を設定する第2スライダを含む光源出力領域と、を含み、
    前記第2画像のコントラストが高くなる前記第1スライダの移動方向と、前記第2画像のコントラストが高くなる前記第2スライダの移動方向とが、一致する
    ことを特徴とする画像処理システム。
  9. 請求項1乃至請求項のいずれか1項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、前記識別範囲の自動設定が有効な場合に、
    少なくとも前記第1画像に基づいて前記識別範囲を設定する、ように構成される
    ことを特徴とする画像処理システム。
  10. 請求項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、
    前記第1画像を構成する画素の階調のヒストグラムを算出し、
    少なくとも前記ヒストグラムに基づいて前記識別範囲を設定する、ように構成される
    ことを特徴とする画像処理システム。
  11. 請求項10に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、
    無効とする画素の割合を取得し、
    前記ヒストグラムの端部から前記割合に対応する個数の画素のデータを除外する、ように構成される
    ことを特徴とする画像処理システム。
  12. 請求項10又は請求項11に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、前記スキャナが繰り返し走査している期間中、強度信号を含むパケットを受信する毎に、1フレーム相当の強度信号に基づいて、前記ヒストグラムを更新する
    ことを特徴とする画像処理システム。
  13. 請求項12に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、前記パケットに含まれる強度信号が1フレーム相当のデータに満たない場合には、各ラインの最新の強度信号からなる1フレーム相当の強度信号に基づいて、前記ヒストグラムを更新する
    ことを特徴とする画像処理システム。
  14. 請求項12に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、前記パケットに1フレーム以上の強度信号が含まれるには、前記パケットに含まれる最新のフレームの強度信号に基づいて、前記ヒストグラムを更新する
    ことを特徴とする画像処理システム。
  15. 請求項乃至請求項14のいずれか1項に記載の画像処理システムにおいて、
    前記設定画面は、
    前記識別範囲を手動で設定する識別範囲領域と、
    前記識別範囲領域に近接して配置された、前記識別範囲の手動設定と自動設定とを切り替える切替領域と、を含む
    ことを特徴とする画像処理システム。
  16. 請求項1乃至請求項15のいずれか1項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、少なくとも2つの異なる深さに対して設定された複数の識別範囲に基づいて、深さ毎の識別範囲を設定する
    ことを特徴とする画像処理システム。
  17. 請求項16に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、前記複数の識別範囲に基づいて線形補間により深さ毎の識別範囲を設定する
    ことを特徴とする画像処理システム。
  18. 請求項1乃至請求項17のいずれか1項に記載の画像処理システムにおいて、さらに、
    前記第1画像と前記第2画像の少なくとも一方を、前記識別範囲と関連付けて記憶するメモリを備える
    ことを特徴とする画像処理システム。
  19. 請求項1乃至請求項18のいずれか1項に記載の画像処理システムにおいて、
    前記少なくとも1つのプロセッサは、1画素当たりの露光時間が変更された場合に、少なくとも変更前後の露光時間に基づいて、前記識別範囲を補正する
    ことを特徴とする画像処理システム。
  20. 設定画面を表示部に表示することと、
    第1画像が変換された第2画像を前記表示部に表示することと、を含み、
    前記設定画面は識別すべき階調の範囲である識別範囲を前記第1画像の階調分布に基づいて設定する画面であり、
    前記第1画像は、PPD(Pixelated Photon Detector)で検出された光の強度信号とスキャナによる走査位置とに基づいて生成され、
    前記第2画像は、少なくとも前記識別範囲に基づいて前記第1画像が変換された画像であり、
    さらに、前記第2画像は、前記識別範囲を有する入力階調範囲と、前記第2画像を構成する各画素のビット数により算出され出力階調範囲とを対応付けた情報に基づいて前記第1画像が変換された画像である
    ことを特徴とする画像処理方法。
JP2021571069A 2020-01-14 2020-01-14 画像処理システム、画像処理方法 Active JP7291808B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/000814 WO2021144830A1 (ja) 2020-01-14 2020-01-14 画像処理システム

Publications (3)

Publication Number Publication Date
JPWO2021144830A1 JPWO2021144830A1 (ja) 2021-07-22
JPWO2021144830A5 JPWO2021144830A5 (ja) 2022-08-22
JP7291808B2 true JP7291808B2 (ja) 2023-06-15

Family

ID=76863916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021571069A Active JP7291808B2 (ja) 2020-01-14 2020-01-14 画像処理システム、画像処理方法

Country Status (3)

Country Link
US (1) US11900574B2 (ja)
JP (1) JP7291808B2 (ja)
WO (1) WO2021144830A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011100204A (ja) 2009-11-04 2011-05-19 Seiko Epson Corp 画像処理装置、画像処理方法、画像処理プログラム、撮像装置及び電子機器
JP2011205347A (ja) 2010-03-25 2011-10-13 Nikon Corp 画像表示装置およびプログラム
JP2016001227A (ja) 2014-06-11 2016-01-07 オリンパス株式会社 レーザ顕微鏡装置
JP2016018309A (ja) 2014-07-07 2016-02-01 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2016143030A (ja) 2015-02-05 2016-08-08 オリンパス株式会社 レーザ顕微鏡装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10795144B2 (en) * 2014-12-06 2020-10-06 Howard Hughes Medical Institute Microscopy with structured plane illumination and point accumulation for imaging and nanoscale topography
DE102014119300A1 (de) 2014-12-19 2016-06-23 Leica Microsystems Cms Gmbh Verfahren zum Erhöhen des dynamischen Bereichs eines Silizium-Photomultipliers (SiPM)

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011100204A (ja) 2009-11-04 2011-05-19 Seiko Epson Corp 画像処理装置、画像処理方法、画像処理プログラム、撮像装置及び電子機器
JP2011205347A (ja) 2010-03-25 2011-10-13 Nikon Corp 画像表示装置およびプログラム
JP2016001227A (ja) 2014-06-11 2016-01-07 オリンパス株式会社 レーザ顕微鏡装置
JP2016018309A (ja) 2014-07-07 2016-02-01 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2016143030A (ja) 2015-02-05 2016-08-08 オリンパス株式会社 レーザ顕微鏡装置

Also Published As

Publication number Publication date
JPWO2021144830A1 (ja) 2021-07-22
US11900574B2 (en) 2024-02-13
WO2021144830A1 (ja) 2021-07-22
US20220335582A1 (en) 2022-10-20

Similar Documents

Publication Publication Date Title
US10718715B2 (en) Microscopy system, microscopy method, and computer-readable storage medium
US20090185034A1 (en) Imaging device for microscope
JP2012237693A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4865271B2 (ja) 共焦点走査型顕微鏡
JP7291808B2 (ja) 画像処理システム、画像処理方法
JP2018194780A (ja) 顕微鏡システム、制御方法、及び、プログラム
JP2000275541A (ja) レーザ顕微鏡
JP6479178B2 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
US9373158B2 (en) Method for reducing image artifacts produced by a CMOS camera
JP4542302B2 (ja) 共焦点顕微鏡システム
JP2010161664A (ja) 顕微鏡撮影システム、画像入力装置、自動露出方法及びプログラム
JP2010262104A (ja) 走査型共焦点顕微鏡
JPH0346743A (ja) 走査形電子顕微鏡等の画質調整装置
JPH11296680A (ja) コントラスト改善機能を有する画像処理装置及び荷電粒子線装置
JP4493453B2 (ja) 光検出回路および該光検出回路を備えた走査型共焦点顕微鏡
JP3783790B2 (ja) レーザー顕微鏡
JP4185712B2 (ja) カラー顕微鏡
JP4812276B2 (ja) 光検出回路および該光検出回路を備えたレーザ顕微鏡
JP2004343358A (ja) 画像処理システム、画像処理制御方法、及びプログラム
JP2005291720A (ja) 蛍光検出装置、濃淡情報補正方法および濃淡情報補正プログラム
JP7369801B2 (ja) 顕微鏡システム、設定探索方法、及び、プログラム
JP4044914B2 (ja) 走査顕微鏡
JP2018097048A (ja) 検出装置および顕微鏡システム
US20230073435A1 (en) Image processing apparatus and image processing method
JP2007206388A (ja) 走査型共焦点レーザ顕微鏡、及びその制御方法、並びにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220624

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220908

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20220908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230605

R151 Written notification of patent or utility model registration

Ref document number: 7291808

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151