JP6045355B2 - 画像処理装置、顕微鏡システム、及び画像処理プログラム - Google Patents

画像処理装置、顕微鏡システム、及び画像処理プログラム Download PDF

Info

Publication number
JP6045355B2
JP6045355B2 JP2013004006A JP2013004006A JP6045355B2 JP 6045355 B2 JP6045355 B2 JP 6045355B2 JP 2013004006 A JP2013004006 A JP 2013004006A JP 2013004006 A JP2013004006 A JP 2013004006A JP 6045355 B2 JP6045355 B2 JP 6045355B2
Authority
JP
Japan
Prior art keywords
image
gradation
pixel
normalized
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013004006A
Other languages
English (en)
Other versions
JP2014135702A (ja
Inventor
誉人 神長
誉人 神長
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013004006A priority Critical patent/JP6045355B2/ja
Priority to US14/104,967 priority patent/US9274328B2/en
Publication of JP2014135702A publication Critical patent/JP2014135702A/ja
Application granted granted Critical
Publication of JP6045355B2 publication Critical patent/JP6045355B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30141Printed circuit board [PCB]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Optics & Photonics (AREA)
  • Microscoopes, Condenser (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、複数の画像を合成してより高いダイナミックレンジを有する画像を生成する画像処理装置、顕微鏡システム、及び、画像処理プログラムに関する。
従来から、顕微鏡システムなどの、撮像装置を備えた画像処理装置の分野では、異なる露光条件で撮像した複数枚の画像(以降、原画像と記す。)を合成して、原画像より高いダイナミックレンジを有する画像(以降、HDR画像と記す。)を生成するハイダイナミックレンジ処理(以降、HDR処理と記す)が知られている。
HDR処理によれば、いわゆる白トビや黒つぶれと呼ばれる現象を抑制することが可能であり、原理的には、明部、暗部ともに被写体を良好に画像化した高画質の画像を得ることができる。例えば、半田付けされたプリント基板を普通に撮像すると図1(a)に示すように半田部分1が白トビしてしまう場合であっても、HDR処理を行うことによって、図1(b)に示すように半田部分1の階調を正しく表現した画像を得ることができる。
しかしながら、実際のHDR処理では、被写体の明部が暗部として暗部が明部として画像化されることがある。例えば、図1(c)は、被写体の明部である半田部分1が暗部として画像化された例を示している。このため、白トビや黒つぶれが抑制されるにも関わらず、画質が劣化した画像が生成されてしまう。
このような画質の劣化は、静止画表示においても決して好ましいものではないが、動画表示においては、特に避けるべきものである。その理由は、動画表示では、画質が劣化する領域が時間とともに移動することで、単純な画質の劣化にとどまらず、図2及び図3に示すような動画表示中の明滅現象として観察者に観察されることになるためであり、画質の劣化が観察者に与える不快感や負担が大きいからである。なお、図2(a)から図2(e)は、それぞれ異なるタイミングで生成されたHDR画像を例示した図であり、図3(a)から図3(e)は、図2(a)から図2(e)を拡大した図である。図2及び図3には、画質が劣化した領域(暗部として画像化された半田部分)が移動している様子が示されている。
HDR画像の画質の劣化にはさまざまな要因が考えられるが、合成対象である原画像間の位置ずれが主要な要因として挙げられる。位置ずれは、典型的には、ステージ操作により視野を移動させながら原画像を撮像した場合や、撮像装置自身にブレが生じた場合などに発生すると考えられる。なお、位置ずれには、原画像間の画角のずれも含まれる。
そこで、位置ずれを補正することで、位置ずれに起因するHDR画像の画質の劣化を抑制する技術が提案されている。特許文献1には、原画像間の位置ずれ量を動きベクトルとして算出して、これらの原画像を位置合わせしてから合成するデジタルカメラが開示されている。
特開2012−165259号公報
特許文献1に開示される位置ずれを補正してから原画像を合成する技術は、位置ずれに起因する画質の劣化の抑制に効果的である。その一方で、位置ずれ量を算出する処理や位置合わせ処理が必要なことから、上記の技術には、次のような課題がある。
第1に、HDR画像の生成に時間がかかる。このため、リアルタイムで被写体の画像を表示することが困難になる。また、動画表示におけるフレームレートが制限される可能性もある。
第2に、HDR処理に用いられる回路やソフトウェアの規模が増大する。このため、高速に動作するCPUや大容量のメモリなどの、高いスペックのハードウェアが必要となる。
第3に、位置ずれ量の算出処理や位置合わせ処理が失敗した場合、つまり、これらの処理が精度を欠く場合には、画質が保証されない。このため、極端に画質が劣化した画像が生成される可能性がある。
このように、位置ずれを補正してから原画像を合成する技術は、画質の改善において有効な技術である反面、さまざまな課題があることから、位置ずれを補正することなく位置ずれに起因する画質の劣化を抑制することができる技術が求められている。
以上のような実情を踏まえ、本発明は、位置ずれを補正することなく、位置ずれに起因する画質の劣化が抑制されたHDR画像を生成する技術を提供することを目的とする。
本発明の第1の態様は、同一の被写体を異なる撮像条件で画像化して得られた明るさの異なる複数の画像の明るさを前記撮像条件に基づいて補正して複数の正規化画像を生成する正規化部と、前記複数の正規化画像を合成して合成画像を生成する画像合成部と、を備え、前記画像合成部は、前記複数の画像のうちの最も明るい画像である基準画像に対応する前記正規化画像を基準正規化画像と定義する場合において、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記合成画像の画素の階調を前記基準正規化画像の画素の階調に近づけるように、前記基準正規化画像と前記基準正規化画像以外の前記正規化画像である非基準正規化画像とを合成する画像処理装置を提供する。
本発明の第2の態様は、第1の態様に記載の画像処理装置において、前記画像合成部は、前記非基準正規化画像の画素の階調が前記基準正規化画像の画素の階調に基づいて算出される閾値を下回るときに、前記基準正規化画像の画素の階調と前記閾値とを前記基準正規化画像の画素の階調によって決定される合成比率で掛け合わせて前記合成画像の画素の階調を算出する画像処理装置を提供する。
本発明の第3の態様は、第1の態様に記載の画像処理装置において、前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調に基づいて算出される閾値を下回るときに、前記合成画像の画素の階調を前記閾値で置換する画像処理装置を提供する。
本発明の第4の態様は、第2の態様または第3の態様に記載の画像処理装置において、前記閾値は、前記基準正規化画像の画素の階調よりも小さい画像処理装置を提供する。
本発明の第5の態様は、第1の態様に記載の画像処理装置において、前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記非基準正規化画像の重み付けを前記基準正規化画像の画素の階調によって決定される重み付けよりも小さくして、合成する画像処理装置を提供する。
本発明の第6の態様は、第5の態様に記載の画像処理装置において、前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さいほど、前記非基準正規化画像の前記重み付けを小さくする画像処理装置を提供する。
本発明の第7の態様は、第1の態様乃至第6の態様のいずれか1つに記載の画像処理装置において、前記画像合成部は、前記合成画像を前記基準正規化画像として、さらに、前記合成画像である前記基準正規化画像と非基準正規化画像を合成して、第2の合成画像を生成する画像処理装置を提供する。
本発明の第8の態様は、第1の態様乃至第7の態様のいずれか1つに記載の画像処理装置において、さらに、同一の被写体を異なる撮像条件で画像化して明るさの異なる前記複数の画像を取得する画像取得部を備える画像処理装置を提供する。
本発明の第9の態様は、第1の態様乃至第8の態様のいずれか1つに記載の画像処理装置を備え、前記画像合成部で生成された前記合成画像を表示する顕微鏡システムを提供する。
本発明の第10の態様は、同一の被写体を異なる撮像条件で画像化して得られた明るさの異なる複数の画像の明るさを前記撮像条件に基づいて補正して複数の正規化画像を生成するステップと、前記複数の正規化画像を合成して合成画像を生成するステップであって、前記複数の画像のうちの最も明るい画像である基準画像に対応する前記正規化画像を基準正規化画像と定義する場合において、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記合成画像の画素の階調を前記基準正規化画像の画素の階調に近づけるように、前記基準正規化画像と前記基準正規化画像以外の前記正規化画像である非基準正規化画像とを合成するステップと、をコンピュータに実行させるプログラムを提供する。
本発明によれば、位置ずれを補正することなく、位置ずれに起因する画質の劣化が抑制されたHDR画像を生成する技術を提供することができる。
半田付けされたプリント基板の画像を例示した図である。 プリント基板を被写体とする、異なるタイミングで生成されたHDR画像を例示した図である。 図2の拡大図である。 本発明の一実施例に係る顕微鏡システムの構成を例示した図である。 図4に示す顕微鏡システムに含まれるホストシステムで行われる処理のフローチャートである。 図5に示す処理に含まれる画像合成処理のフローチャートである。 図6に示す画像合成処理に含まれる重み特性算出処理で算出される重み特性を例示した図である。 従来の重み付け合成処理のフローチャートである。 図4に示す顕微鏡システムに含まれるホストシステムで行われる、実施例1に係る重み付け合成処理のフローチャートである。 図9に示す実施例1に係る重み付け合成処理により生成されたプリント基板のHDR画像を例示した図である。 図9に示す実施例1に係る重み付け合成処理により異なるタイミングで生成されたプリント基板のHDR画像を例示した図である。 図11の拡大図である。 図4に示す顕微鏡システムに含まれるホストシステムで行われる、実施例2に係る重み付け合成処理のフローチャートである。 図13に示す実施例2に係る重み付け合成処理に含まれる重み付け補正処理で算出される重み特性を例示した図である。 図13に示す実施例2に係る重み付け合成処理により生成されたプリント基板のHDR画像を例示した図である。 図13に示す実施例2に係る重み付け合成処理により異なるタイミングで生成されたプリント基板のHDR画像を例示した図である。 図16の拡大図である。
図4は、本発明の一実施例に係る顕微鏡システム100の構成を例示した図である。図4を参照しながら、標本Sがプリント基板である場合を例にして顕微鏡システム100の構成について説明する。ただし、被写体はプリント基板に限られず、例えば、生体標本などであってもよい。即ち、図4に例示される顕微鏡システム100は、工業用顕微鏡システムに限られず、生物用顕微鏡システムとして構成されてもよい。
顕微鏡システム100は、図4に示すように、被写体である標本Sを撮像する撮像装置13を有する顕微鏡装置10と、顕微鏡装置10に接続されたホストシステム20を備えている。顕微鏡装置10は、顕微鏡本体11を備えていて、撮像装置13は、顕微鏡本体11に取り付けられている。また、顕微鏡本体11には、撮像装置13に加えて、光源装置12も取り付けられている。
顕微鏡本体11は、標本Sを配置するステージ14と、対物レンズ16が装着されたレボルバ15とを支持している。また、顕微鏡本体11の内部には、ハーフミラー17が配置され、光源装置12からの照明光が通る照明光路と標本Sからの観察光が通る観察光路とを分岐させる光路分岐素子として機能している。なお、光路分岐素子はハーフミラー17に限られない。任意の光路分岐素子が顕微鏡本体11の内部に配置されてもよい。例えば、蛍光観察を行う場合であれば、ハーフミラー17の代わりにダイクロイックミラーが配置されてもよい。
ステージ14は、対物レンズ16の光軸に直交する水平な設置面を有し、対物レンズ16の光軸に直交するXY方向、及び、対物レンズ16の光軸と平行なZ方向に移動自在に構成されている。ステージ14は、ホストシステム20の制御下で図示しないモータの駆動により電動でXY方向及びZ方向に移動する電動ステージであるが、図示しないツマミを操作することで手動でXY方向及びZ方向に移動してもよい。また、ステージ14は、XY方向とZ方向のいずれか一方のみ電動で移動し、他方は手動で移動するように構成されてもよい。
レボルバ15は、顕微鏡本体11に回転自在に保持されていて、レボルバ15の回転により、レボルバ15に装着された対物レンズから選択された一の対物レンズ(ここでは、対物レンズ16)が標本Sの上方に、より詳細には、観察光路上に、配置される。
対物レンズ16は、他の対物レンズとともに交換自在にレボルバ15に装着されていて、これらの対物レンズは、レボルバ15の回転により観察倍率や観察法に応じて択一的に切り替えて使用される。なお、顕微鏡システム100の観察倍率の変更は、対物レンズの切り替えにより実現される代わりに、例えば、観察光路上に設けられたズーム光学系の倍率の変更により実現されてもよい。また、対物レンズの切り替えとズーム光学系の倍率の変更を組み合わせて観察倍率を変更してもよい。
光源装置12は、ハロゲンランプ、LEDなどの光源とコレクタレンズとを備えた落射照明用の光源装置であり、例えば、顕微鏡本体11の後方に取り付けられている。光源装置12は、さらに、ハロゲンランプなどのランプ光源からの光量を調整するためのND(Neutral Density)フィルタを備えても良い。なお、照明光量の調整は、NDフィルタによるものに限られない。例えば、照明光路上に配置された開口絞りの径を変更することで調整されてもよく、光源がLED光源であれば、PWM(Pulse Width Modulation)制御などの光源自体の発光制御により調整されてもよい。また、光源装置12は、光ファイバーを介して顕微鏡本体11に接続されるファイバー光源であってもよく、また、レーザを備えたレーザ光源装置であってもよい。さらに、顕微鏡装置10は、落射照明用の光源装置12に加えて、または、光源装置12の代わりに、透過照明用の光源装置を備えてもよい。
撮像装置13は、例えば、デジタルカメラであり、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えている。撮像装置13は、受光面に標本像を形成する観察光を電気信号(アナログ信号)に変換し増幅後にデジタル信号に変換することで取得される標本Sの画像データをホストシステム20へ出力する。出力された画像データは、ホストシステム20の記憶部80に記憶される。なお、以降では、撮像装置13により取得された画像データを原画像データと記し、原画像データにより表現される標本Sの画像を原画像と記す。
図4では、プリント基板を被写体として明視野観察を行う正立顕微鏡として顕微鏡装置10が図示されているが、顕微鏡装置10は、倒立顕微鏡であってもよい。また、観察法も明視野観察に限られず、任意の観察法(例えば、暗視野観察、蛍光観察、偏光観察、微分干渉観察など)により被写体の観察が行なわれてもよい。その場合、観察法に応じて、フィルタや光学系は適宜交換される。
ホストシステム20は、顕微鏡システム100全体を制御する制御部30、入力部60、表示部70、及び、記憶部80を備えている。ホストシステム20は、例えば、ワークステーションやパーソナルコンピュータなどの汎用のコンピュータであってもよく、または、専用装置であってもよい。
制御部30は、顕微鏡装置10の駆動を制御する駆動制御部40と、HDR画像を生成する画像処理部50を含んでいる。制御部30は、例えば、CPU(Central Processing Unit)であり、CPUが制御プログラムを実行することで、ホストシステム20は、顕微鏡装置10の駆動を制御する駆動制御装置として機能するともに、顕微鏡装置10で取得された複数の原画像を合成してHDR画像を生成する画像処理装置としても機能する。
駆動制御部40は、撮像装置制御部41、光源装置制御部42、倍率切替機構制御部43、XY移動機構制御部44、及びZ移動機構制御部45を含み、これらの各制御部は、それぞれ顕微鏡システム100の異なる部分を制御する。
撮像装置制御部41は、撮像素子から出力されるアナログ信号を増幅させるためのアナログゲインの設定、自動露出制御のON/OFFの切り替え、露光時間の設定等を行って、撮像装置13の撮像動作を制御する。
光源装置制御部42は、光源装置12を制御して光源装置12から出射されて標本Sに照射される照明光量を調整する。また、光源装置制御部42は、照明光路上に配置された絞りを制御して絞りの径を変更することで照明光量を調整してもよい。さらに、光源装置制御部42は、NDフィルタ切り替え装置を制御して照明光路上のNDフィルタを切り替えることで照明光量を調整してもよい。
倍率切替機構制御部43は、レボルバ15を制御して回転させることで観察に使用する対物レンズを切り替えて観察倍率を変更する。さらに、倍率切替機構制御部43は、図示しないズーム光学系を制御してズーム光学系の倍率を変更することで観察倍率を変更してもよい。
XY移動機構制御部44は、図示しない原点センサによってステージ14のXY方向における所定の原点位置を検知し、この原点位置を基点としてモータの駆動量を制御する。これにより、ステージ14を任意のXY位置に移動させて標本Sの観察位置を調整する。なお、ステージ14のXY位置は適宜XY移動機構制御部44へ出力される。
Z移動機構制御部45は、図示しない原点センサによってステージ14のZ方向における所定の原点位置を検知し、この原点位置を基点としてモータの駆動量を制御する。これにより、ステージ14を任意のZ位置に移動させて標本Sに対して対物レンズ16の焦点位置を調節する。Z移動機構制御部45は、ステージ14の代わりにレボルバ15を任意のZ位置を移動させて、標本Sに対して対物レンズ16の焦点位置を調節してもよい。ステージ14またはレボルバ15のZ位置は適宜Z移動機構制御部45へ出力される。
顕微鏡システム100では、駆動制御部40は、HDR画像を生成するために、顕微鏡装置10の駆動を制御して、顕微鏡装置10に同一の被写体(標本S)を異なる撮像条件で画像化した明るさの異なる複数の原画像を取得させる。即ち、顕微鏡装置10は、駆動制御部40の制御の下、同一の被写体(標本S)を異なる撮像条件で画像化して明るさの異なる複数の原画像を取得する画像取得部として機能する。ここで、撮像条件とは、例えば、露光時間の設定、アナログゲインの設定、絞り径の設定、NDフィルタの設定、光源から出射される単位時間当たりの光量の設定など、画像の明るさを異ならせる各種条件のことである。
画像処理部50は、正規化部51、画像合成部52、階調圧縮部53を含み、これらが連動して、標本Sを撮像した明るさの異なる複数の原画像からHDR画像を生成する。
正規化部51は、顕微鏡装置10で取得した明るさの異なる複数の原画像と、それらの撮像条件を取得する。そして、各原画像を撮像条件に基づいて補正することで複数の正規化画像を生成する。例えば、露光時間のみが異なる2枚の原画像がある場合であれば、露光時間に基づいて原画像を補正して正規化画像を取得する。
画像合成部52は、正規化部51で生成された複数の正規化画像を合成するHDR処理により、原画像よりも高いダイナミックレンジを有する合成画像であるHDR画像を生成する。画像合成部52の動作の詳細については後述する。
階調圧縮部53は、画像合成部52で生成されたHDR画像の画質を維持しながら画像の階調を圧縮して、表示部70で表示可能なHDR画像に変換する。なお、階調圧縮部53では、既知の任意の圧縮アルゴリズムが利用される。
入力部60は、例えば、キーボード、マウス、タッチパネル等の、ユーザからの指示を受け付ける手段であり、受け付けた指示に応じた操作信号を制御部30へ出力する。
表示部70は、例えば、CRT(Cathode Ray Tube)ディスプレイ、LCD(Liquid Crystal Display)、有機EL(electroluminescence)ディスプレイ等のディスプレイ装置であり、制御部30からの信号を基にして画面上にHDR画像等を表示する。なお、入力部60と表示部70は、タッチパネルをディスプレイ装置の画面に重ねて配置するなどして、一体に構成してもよい。
記憶部80は、ROM(Read Only Memory)やRAM(Random Access Memory)等の主記憶装置、ハードディスク等の外部記憶装置を含んでいる。記憶部80は、さらに、可搬記録媒体駆動装置とそれに挿入される光ディスクやフラッシュメモリ等の可搬記録媒体を含んでもよい。記憶部80には、顕微鏡システム100の制御プログラム、及び、画像データを含む制御プログラムの実行中に使用される各種データなどが記憶される。このうち、制御プログラムは、ROMまたは可搬記録媒体に記録されていて、RAM上にロードして実行される。
図4では、入力部60、表示部70、記憶部80がホストシステム20の内部に設けられた例が示されているが、顕微鏡システム100は、これらをホストシステム20に接続される周辺機器として構成してもよい。また、ホストシステム20には、さらに、外部の装置との通信に用いられる通信装置や、印刷装置などが接続されてもよい。
図5は、本発明の一実施例に係る顕微鏡システム100に含まれるホストシステム20で行われる処理のフローチャートであり、図6は、図5に示す処理に含まれる画像合成処理のフローチャートである。図5及び図6を参照しながら、ホストシステム20による、HDR画像を生成して表示する処理について説明する。図5及び図6に示す処理は、記憶部80のROMまたは可搬記録媒体に記録されている制御プログラムがRAMにロードされ、制御部30で実行されることにより行われ、例えば、入力部60からのユーザの指示によって開始される。
まず、駆動制御部40は、入力部60に入力されたユーザの指示に従って撮像条件を設定する(図5のステップS10)。ここで、撮像条件は、明るさの異なる複数の原画像を取得するために、複数設定される。その後、駆動制御部40(撮像装置制御部41)は、顕微鏡装置10に撮像を指示し、ステップS10で設定された複数の撮像条件の各々で顕微鏡装置10に原画像を取得させる(図5のステップS20)。これにより、顕微鏡装置10が取得した、標本Sを異なる撮像条件で画像化した明るさの異なる複数の原画像は、ホストシステム20へ送信され、記憶部80に記憶される。この際、各原画像の撮像条件も記憶部80に記憶される。
次に、画像処理部50は、複数の原画像を合成して、原画像より高いダイナミックレンジを有するHDR画像を生成する(図5のステップS30)。
より詳細には、画像処理部50は、図6に示すように、記憶部80から複数の原画像と複数の原画像の撮像条件を読み出す(図6のステップS31、ステップS32)。ここで、複数の原画像を読み出すと同時に明るい順に並べて、最も明るい画像を基準画像として定義する。そして、基準画像に合成する合成対象の原画像(以降、非基準画像と記す)の枚数分のループ処理(以降、第1のループ処理と記す)を開始し(図6のステップS33)、基準画像に対して、非基準画像をより明るい画像から順番に1枚ずつ合成する。
第1のループ処理内では、画像処理部50(正規化部51)は、まず、ゲイン算出処理を行う(図6のステップS34)。ゲイン算出処理は、基準画像と各非基準画像との撮像条件の差異を調整するためのゲインを算出する処理であり、ゲインは画像毎に算出される。基準画像と非基準画像との撮像条件の差異が露光時間のみの場合であれば、基準画像を調整するゲインG1を任意の定数aとすると、非基準画像を調整するゲインG2は、定数a×基準画像の露光時間T1/非基準画像の露光時間T2で算出される。従って、各非基準画像の露光時間が基準画像の露光時間の1/2、1/4、1/8、・・・であれば、各非基準画像のゲインは、2a、4a、8a、・・・となる。
次に、画像処理部50(画像合成部52)は、重み特性算出処理を行う(図6のステップS35)。重み特性算出処理は、合成する際の基準画像と非基準画像の重み付け、即ち、基準画像と非基準画像の合成比率、を決定するための重み特性を算出する処理である。なお、非基準画像の重み特性WC2は基準画像の重み特性WC1に依存している。算出方法は、既存のHDR処理で用いられている任意の手法を採用し得るので、詳細な説明を省略する。
図7は、ステップS35で算出された重み特性を例示した図であり、横軸は1で規格化した基準画像(または、後述する基準正規化画像)の画素の階調であり、縦軸は重み付けである。実線で示される重み特性WC1は基準画像の重み特性を示している。一方、破線で示される重み特性WC2は非基準画像の重み特性であり、基準画像の重み特性WC1から一意に決定されるものである。具体的には、1と基準画像の重み特性WC1との差分として算出される。基準画像の飽和している画素の階調を非基準画像の画素の階調によって適切に補正することができるように、基準画像の重み特性WC1は、基準画像の階調が高いほど基準画像の重み付けが低下するような特性であればよい。従って、基準画像の重み特性WC1は、例えば、図7(a)に示すように、基準画像の所定の階調から最大階調(ここでは、1)までの間で直線的に変化してもよく、図7(b)に示すように、曲線的に変化してもよい。
ゲインと重み特性を算出すると、画像処理部50は、基準画像の画素数分のループ処理(以降、第2のループ処理と記す)を開始し(図6のステップS36)、基準画像の各画素に対して非基準画像の各画素を合成する。
第2のループ処理内では、画像処理部50(正規化部51)は、まず、ゲイン乗算処理を行う(図6のステップS37)。つまり、基準画像の画素にステップS34で算出したゲインG1を、非基準画像の画素にステップS34で算出したゲインG2を乗じて画素の階調を補正する。この処理を全画素に対して行うことで、異なる撮像条件で取得された基準画像と非基準画像の明るさが撮像条件に基づいて補正され、明るさに関して同じ条件の画像(以降、正規化画像と記す)が生成される。なお、以降では、ステップS37の処理により画像の明るさ、つまり、すべての画素の階調、が補正された画像である正規化画像のうち基準画像に対応する正規化画像を、特に、基準正規化画像と記す。また、基準正規化画像以外の正規化画像を、非基準正規化画像と記す。
ゲイン乗算処理が終了すると、画像処理部50(画像合成部52)は、重み付け合成処理を行う(図6のステップS38)。ホストシステム20の重み付け合成処理は、従来のHDR処理内で行われる重み付け合成処理と明確に異なっている。ここでは、従来との差異についての理解を容易にするために、まず、従来の重み付け合成処理について説明し、その後、ホストシステム20の重み付け合成処理について説明する。なお、ホストシステム20の重み付け合成処理の具体例は、各実施例において詳細に説明する。
図8は、従来の重み付け合成処理のフローチャートである。従来の重み付け合成処理では、まず、ステップS35で算出された重み特性とステップS37で算出された基準正規化画像の画素の階調とに基づいて、基準正規化画像の画素の重み付けと非基準正規化画像の画素の重み付けを算出する(図8のステップS101)。
その後、ステップS101で算出した重み付けを用いて、HDR画像の画素の階調lvOutを算出する(図8のステップS102)。算出式は、基準正規化画像の画素の階調lv1、非基準正規化画像の画素の階調lv2、基準正規化画像の画素の重み付けwt1、非基準正規化画像の画素の重み付けwt2を用いて、以下のように表される。
lvOut=wt1×lv1+wt2×lv2 ・・・(1)
上記の式(1)から明らかなように、非基準正規化画像の成分(ここでは、wt2×lv2)がHDR画像の画素の階調に影響を及ぼすのは、wt2が0よりも大きいとき、つまり、図7を参照すると基準正規化画像の画素の階調が高いときであり、これには、飽和するほど高いときも含まれる。このため、通常は、非基準正規化画像の画素の階調lv2は、基準正規化画像の画素の階調lv1よりも大きいかまたは同程度であり、従って、HDR画像の画素の階調lvOutも基準正規化画像の画素の階調lv1よりも大きいかまたは同程度である。
しかしながら、基準正規化画像の画素の階調が飽和するほど高い場合であっても、基準正規化画像と非基準正規化画像の位置がずれているときには、基準正規化画像の明るい画素に非基準正規化画像の暗い画素が重なり、階調lv2が階調lv1よりも小さくなることがある。その結果、階調lvOutも階調lv1よりも小さく算出されてしまうことがある。このため、白トビや黒つぶれが抑制されるにも関わらず、画質が劣化したHDR画像が生成されてしまい、HDR画像の動画表示中においては、明滅現象が発生してしまう。
これに対して、ホストシステム20の重み付け合成処理は、基準正規化画像の画素の階調lv1によって決定される合成比率(重み付けwt1とwt2の比率)に基づいて算出されるHDR画像の画素の階調lvOutが基準正規化画像の画素の階調lv1よりも小さくなるときにHDR画像の画素の階調lvOutを基準正規化画像の画素の階調lv1に近づけるように、基準正規化画像と非基準正規化画像とを合成するというものである。
これにより、ホストシステム20では、基準画像(または基準正規化画像)の白トビ部分が極端に低い階調で表現されたHDR画像が生成されることを抑制することができる。このため、位置ずれに起因するHDR画像の画質の劣化を抑制し、ひいては、HDR画像の動画表示中における明滅現象の発生を抑制することができる。
一方で、位置ずれが起こっていない場合は、従来の重み付け合成処理と同等のHDR画像を出力できる。
図6のステップS38の重み付け合成処理が終了すると、画像処理部50は、ステップS36に戻って、すべての画素に対してステップS37とステップS38の処理を繰り返し行う。すべての画素に対しての処理が終了し、最も明るい原画像である基準画像と2番目に明るい原画像とを合成したHDR画像が生成されると、画像処理部50は、ステップS33に戻って生成されたHDR画像を改めて基準画像と定義して、基準画像と3番目に明るい原画像とを合成して第2の合成画像であるHDR画像を生成する(ステップS33からステップS38)。すべての原画像を合成してステップS33のループ処理が終了すると、最終的に得られたHDR画像を階調圧縮部53に出力して(図6のステップS39)、図5の画像合成処理を終了する(図5のステップS30)。
その後、階調圧縮部53は、HDR画像の階調数と出力フォーマットの有効ビット数から算出される階調数とが一致しない場合には、HDR画像に対して階調圧縮処理を行う(図5のステップS40)。そして、画像処理部50は、階調圧縮処理により生成された、表示部70で表示可能なHDR画像を表示部70へ出力して、表示部70に表示させる(図5のステップS50)。なお、HDR画像は、必要に応じて記憶部80に記憶される。
以上のように、ホストシステム20及びホストシステム20を備えた顕微鏡システム100によれば、位置ずれを補正することなく、位置ずれに起因する画質の劣化が抑制されたHDR画像を生成することができる。従って、従来のHDR画像を生成する顕微鏡システムに比べて、高速にHDR画像を生成することが可能であり、よりリアルタイム画像に近いHDR画像を表示することができる。
また、ホストシステム20及び顕微鏡システム100によれば、既存の顕微鏡システムのプログラムを変更するだけで、位置ずれに起因する画質の劣化が抑制されたHDR画像を生成することができる。さらに、ソフトウェアの規模もほとんど変わらないため、従来程度のスペックのハードウェアでHDR処理を行うことができる。
また、位置ずれ量の算出処理や位置合わせ処理のような高度な演算処理を使用した場合、例えば、画像的特長が乏しい画像や似たような模様が周期的に現れるような画像が入力されると、HDR処理に失敗することがあるが、ホストシステム20及び顕微鏡システム100では位置ずれ量の算出処理や位置合わせ処理のような高度な演算処理を要しないため、HDR処理が失敗する可能性が極めて低く、従来の顕微鏡システムに比べて極端に画質が劣化したHDR画像が生成される可能性を低く抑えることができる。なお、ホストシステム20及び顕微鏡システム100は、位置ずれを補正してから合成処理を行う従来のHDR処理と、位置ずれを補正することなく合成処理を行う上述したHDR処理とを、切り替えて実行してもよい。例えば、従来のHDR処理で位置ずれの補正に失敗した場合に、上述したHDR処理を実行してもよい。
以下、ホストシステム20の重み付け合成処理の具体例を実施例1及び実施例2において詳細に説明する。
図9は、図4に示す顕微鏡システム100に含まれるホストシステム20で行われる、本実施例に係る重み付け合成処理のフローチャートである。図9に示す本実施例に係る重み付け合成処理は、非基準正規化画像の画素の階調lv2が基準正規化画像の画素の階調lv1に基づいて算出される閾値Thlv2を下回るときに、画像合成部52が階調lv1と閾値Thlv2とを階調lv1によって決定される合成比率(重み付けwt1とwt2の比率)で掛け合わせてHDR画像の画素の階調lvOutを算出するものである。
まず、画像合成部52は、図6のステップS35、ステップS37で算出された重み特性WC1及び重み特性WC2と基準正規化画像の画素の階調とに基づいて、基準正規化画像の画素の重み付けwt1と非基準正規化画像の画素の重み付けwt2を算出する(図9のステップS201)。
次に、画像合成部52は、ステップS201で算出した重み付けwt2が0よりも大きいか否かを判断し(図9のステップS202)、重み付けwt2が0以下である場合には、従来の重み付け合成処理と同様の算出式(式(1)を参照)でHDR画像の画素の階調lvOutを算出し(図9のステップS205)、重み付け合成処理を終了する。
重み付けwt2が0よりも大きい場合には、閾値Thlv2を算出する(図9のステップS203)。閾値Thlv2の算出式は、基準正規化画像の画素の階調lv1、閾値係数Kthを用いて、以下のように表される。
Thlv2=Kth×lv1 ・・・(2)
ここで、閾値係数Kthは、以下の条件を満たす定数である。
0<Kth≦1 ・・・(3)
その後、ステップS201で算出した重み付けとステップS203で算出した閾値を用いて、HDR画像の画素の階調lvOutを算出し(図9のステップS204)、重み付け合成処理を終了する。算出式は、基準正規化画像の画素の階調lv1、非基準正規化画像の画素の階調lv2、基準正規化画像の画素の重み付けwt1、非基準正規化画像の画素の重み付けwt2、閾値Thlv2を用いて、以下のように表される。
lvOut=wt1×lv1+wt2×MAX(lv2,Thlv2)・・・(4)
ここで、MAX関数は、最も大きな引数を返す関数である。従って、MAX(lv2,Thlv2)は、階調lv2と閾値Thlv2のうちより大きな方を返す。即ち、lv2がThlv2よりも小さい場合には、Thlv2が返される。
なお、ステップS202の処理は省略しても良い。ステップS202がNOの場合は、重み付けwt2の値は0であるので、ステップS204の算出式とステップS205の算出式との差異はないからである。
図10は、図9に示す本実施例に係る重み付け合成処理により生成されたプリント基板のHDR画像を例示した図である。図11は、図9に示す本実施例に係る重み付け合成処理により異なるタイミングで生成されたプリント基板のHDR画像を例示した図であり、図12は、図11の拡大図である。
本実施例では、非基準正規化画像の画素の階調lv2が閾値Thlv2(=Kth×lv1)よりも小さい場合には、従来の重み付け合成処理における非基準正規化画像の成分に相当する成分(ここでは、wt2×MAX(lv2,Thlv2))は、wt2×Kth×lv1となる。つまり、非基準正規化画像の画素の階調lv2によらず、wt2×Kth×lv1以上の値が保証される。このため、基準画像と非基準画像との間の位置ずれにより階調lv2が階調lv1よりも極端に小さな値を示す場合であっても、利用者が許容できる画質の劣化に応じて閾値係数Kthを設定することで、HDR画像の画素の階調lvOutが極端に小さな値となることを防止して、画質の劣化を許容範囲内に抑えることができる。なお、後述する特殊な原因を除き、位置ずれが発生していなければ階調lv2は階調lv1に比べて常に同等以上の値となり、常に階調lv2≧閾値Thlv2となる。よって、位置ずれが発生していなければ従来の重み付け合成処理による出力結果と変わらない。
従って、図10に示すように、本実施例によれば、位置ずれにより本来明部である半田部分1が暗部として画像化される場合であっても、図1(c)に示す位置ずれを補正することなく生成される従来のHDR画像の半田部分1と比較して、半田部分1の輝度の低下を抑えることができる。このため、位置ずれを補正することなく、位置ずれに起因する画質の劣化を抑制したHDR画像を生成することができる。なお、顕微鏡システムの観察対象である標本には、輝度差やエッジが乏しいものや周期的なパターンが多く含まれるものなど、画像解析による位置合わせを誤りやすいものも多い。このため、位置ずれを補正する必要がない本実施例に係るHDR処理は、位置を検出する手段を有しない手動ステージで標本の位置を変化させる顕微鏡システムにおいて、特に好適である。
また、明部が極端に暗く表示されることがないため、図11及び図12に示すように、図2及び図3に示す従来の明滅現象と比較して、明滅現象における輝度差を小さくすることができる。このため、動画表示中に観察者に与える不快感や負担を軽減することができる。
さらに、本実施例に係る重み付け合成処理は、位置ずれが生じていない場合は従来の重み付け合成処理と同等の処理となるため、位置ずれが生じていない場合のHDR画像を損なわずに、位置ずれが生じた場合のHDR画像の劣化を抑制することができる。
さらに、図9に示すように、本実施例に係る重み付け合成処理は、従来の重み付け合成処理に簡単な計算処理を追加したものであり、位置ずれを補正して合成する場合と比較して計算量の増加は極めて少ない。このため、位置ずれを補正する場合よりも高速にHDR画像を生成することが可能であり、リアルタイム画像に近いHDR画像を表示することができる。また、高い性能のハードウェアも必要としないため、従来の装置をそのまま利用することが可能であり、本実施例に係る重み付け合成処理を顕微鏡システムに容易に導入することができる。
ところで、位置ずれが発生していない場合であっても、階調lv2が階調lv1よりも小さくなる、つまり、lv1>lv2となる場合がある。これは、例えば、撮像装置制御部41が設定した露出時間と撮像装置13の実際の露出時間との間の誤差、制御プログラムの計算精度に起因する誤差などが原因として考えられ、原画像間の撮像条件の違いが大きい場合に特に生じやすい。このような誤差が原因で階調lv2が階調lv1よりもわずかに小さくなる場合にまで階調lv2を閾値Thlv2によって置換すると、階調lv2が有する階調情報が失われてしまい、HDR画像に反映されない。このため、わずかな誤差によって階調lv2が階調lv1を下回った場合には置換が行なわれないように、閾値係数Kthを1よりもある程度小さな値、例えば、0.9や0.95などに設定することが望ましい。つまり、閾値Thlv2を階調lv1よりもある程度小さく設定することが望ましい。これにより、階調lv2が有する階調情報が失われるような事態をできる限り避けつつ、位置ずれによる画質の劣化を抑制することができる。また、階調lv1と階調lv2の階調差が小さい場合は位置ずれによる画質の劣化も大きくなく、そのような場合は、階調lv2の階調情報をHDR画像に反映させた方がHDR画像の見栄えがよいという理由からも、閾値係数Kthを1よりも小さな値に設定することが望ましい。
なお、図6では、2枚の原画像の合成を繰り返すことですべての原画像を合成する例を示したが、3枚以上の原画像を一度に合成するように変形してもよい。従来技術の手法を参考として、各々の原画像の撮像条件やヒストグラム分布から適当な重み付けを計算して合成してもよい。この場合、図9に示すような階調lv2を閾値Thlv2で置換する処理の代わりに、階調lvOutを閾値Thlvで置換する処理が行われてもよい。3枚合成の場合であれば、例えば、式(5)及び(6)で閾値Thlvを算出し、式(7)で算出した階調lvOutが閾値Thlvよりも小さいときに、式(8)で示すように、階調lvOutを閾値Thlvで置換してもよい。
Thlv=Kth×lv1 ・・・(5)
0<Kth<1 ・・・(6)
lvOut=wt1×lv1+wt2×lv2+wt3×lv3 ・・・(7)
lvOut=MAX(lvOut、Thlv) ・・・(8)
図13は、図4に示す顕微鏡システム100に含まれるホストシステム20で行われる、本実施例に係る重み付け合成処理のフローチャートである。実施例1に係る重み付け合成処理が、画素の階調(例えば、階調lv2、階調lvOut)に閾値処理を施すものであるのに対して、本実施例に係る重み付け合成処理は、重み付けを調整するものである点が異なっている。より具体的には、本実施例に係る重み付け合成処理は、図13に示すように、基準正規化画像の画素の階調lv1によって決定される合成比率(wt1、wt2)に基づいて算出されるHDR画像の画素の階調lvOutが基準正規化画像の画素の階調lv1よりも小さくなるときに非基準正規化画像の重み付けwt2を当初の合成比率によって決定される重み付けよりも小さくして、合成するものである。
画像合成部52が、図6のステップS35、ステップS37で算出された重み特性WC1及び重み特性WC2と基準正規化画像の画素の階調とに基づいて、基準正規化画像の画素の重み付けwt1と非基準正規化画像の画素の重み付けwt2を算出し、算出した重み付けwt2が0よりも大きいか否かを判断する点は、実施例1に係る重み付け合成処理と同様である(図13のステップS301、ステップS302)。また、重み付けwt2が0以下である場合には、従来の重み付け合成処理と同様の算出式(式(1)を参照)でHDR画像の画素の階調lvOutを算出し、重み付け合成処理を終了する点も、実施例1に係る重み付け合成処理と同様である(図13のステップS305)。
重み付けwt2が0よりも大きい場合には、重み付けwt1と重み付けwt2を補正する(図13のステップS303)。まず、比較係数Klcを算出する。比較係数Klcの算出式は、基準正規化画像の画素の階調lv1、非基準正規化画像の画素の階調lv2を用いて、以下のように表される。
Klc=FlvCmpr(lv1,lv2) ・・・(9)
ここで、FlvCmpr関数は、最小値を示す第2引数と最大値を示す第3引数とで第1引数をクリップするClip関数を用いて、以下のように表される。
FlvCmpr(lv1,lv2)=Clip(lv2/lv1,0,1)
・・・(10)
つまり、比較係数Klcは、0以上1以下の値であり、lv2/lv1が0以下であれば0、1以上であれば1、それ以外であればlv2/lv1である。従って、位置ずれがない場合には、通常、階調lv2は階調lv1に等しいかまたはそれよりも大きくなるので、比較係数Klcは1となる。一方、位置ずれなど(数値計算誤差などを含む)が生じて階調lv2が階調lv1よりも小さくなった場合には、比較係数Klcは1未満の値をとる。また、階調lv1に対する階調lv2の相対的な大きさが小さいほど、比較係数Klcは小さな値をとる。なお、比較係数Klcは、階調lv1に対する階調lv2の相対的な大きさが小さいほど小さな値をとる限り、式(9)及び式(10)に示す算出式の代わりに他の任意の算出式を用いて算出されても良い。
比較係数Klcが算出されると、重み付けwt1を補正した補正後の重み付けwt1’と、重み付けwt2を補正した補正後の重み付けwt2’とを算出する。算出式は、比較係数Klc、抑制重み付けwtS、補正前の重み付けwt2を用いて以下のように表される。
wt2’=Klc×wt2+(1−Klc)×wtS ・・・(11)
wt1’=(1−wt2’) ・・・(12)
ここで、抑制重み付けwtSは、重み特性WC2の最大値を規定するものであり、以下の条件を満たす定数である。
0≦wtS≦1 ・・・(13)
ステップS303では、位置ずれなどが生じていない場合、つまり、比較係数Klcが1であるときには、式(11)及び式(12)からwt2’=wt2、wt1’=wt1となるため、重み付けは補正されない。このため、重み特性WC1、重み特性WC2は、実施例1と同様であり、例えば、図7(a)に示すような特性である。
一方、位置ずれなどが生じて比較係数Klcが1未満になると、重み付けが補正される。例えば、比較係数Klcの大きさが中程度の場合であれば、重み特性WC1、重み特性WC2は、図14(a)に示すような特性を示し、補正後の重み付けwt2’の特性である重み特性WC2の最大値は、抑制重み付けwtSと1の間の値となる。また、比較係数Klcが0の場合であれば、重み特性WC1、重み特性WC2は、図14(a)に示すような特性を示し、重み特性WC2の最大値は、抑制重み付けwtSとなる。
その後、ステップS303で算出した重み付けを用いて、HDR画像の画素の階調lvOutを算出し(図13のステップS304)、重み付け合成処理を終了する。算出式は、基準正規化画像の画素の階調lv1、非基準正規化画像の画素の階調lv2、基準正規化画像の画素の補正後の重み付けwt1’、非基準正規化画像の画素の補正後の重み付けwt2’を用いて、以下のように表される。
lvOut=wt1’×lv1+wt2’×lv2 ・・・(14)
なお、ステップS302の処理を省略して、比較係数Klcを算出して重み付けを補正する処理を常に行ってもよい。
図15は、図13に示す本実施例に係る重み付け合成処理により生成されたプリント基板のHDR画像を例示した図である。図16は、図13に示す本実施例に係る重み付け合成処理により異なるタイミングで生成されたプリント基板のHDR画像を例示した図であり、図17は、図16の拡大図である。
本実施例では、位置ずれなどが生じていない場合には、重み付けは補正されず、式(14)は従来の重み付け合成処理の算出式(式(1)を参照)と同じものになる。このため、従来と同様の合成結果が得られる。その一方で、位置ずれなどが生じて階調lv2が階調lv1よりも小さくなる場合には、それに応じて比較係数Klcが小さくなり重み付けwt2’も小さくなる。これにより、階調lv2が小さな値を示す場合であっても、HDR画像の画素の階調lvoutが極端に小さくなることを防止することができる。
従って、図15に示すように、本実施例によれば、位置ずれにより本来明部である半田部分1が暗部として画像化される場合であっても、図1(c)に示す位置ずれを補正することなく生成される従来のHDR画像の半田部分1と比較して、半田部分1の輝度の低下を抑えることができる。このため、実施例1と同様に、位置ずれを補正することなく、位置ずれに起因する画質の劣化を抑制したHDR画像を生成することができる。また、階調lv1に対する階調lv2の大きさに応じて比較係数Klcが連続的に変化するため、不自然な階調の変化を防止することが可能であり、閾値処理を行う実施例1よりも自然なHDR画像を生成することができる。
また、明部が極端に暗く表示されることがないため、図16及び図17に示すように、図2及び図3に示す従来の明滅現象と比較して、明滅現象における輝度差を小さくすることができる。このため、実施例1と同様に、動画表示中に観察者に与える不快感や負担を軽減することができる。また、実施例1と同様に、位置ずれが生じていない場合は従来の重み付け合成処理と同等の処理となるため、位置ずれが生じていない場合のHDR画像を損なわずに、位置ずれが生じた場合のHDR画像の劣化を抑制することができる。
さらに、階調lv2が小さいほど階調lv2の重み付けwt2’が小さくなるが、階調lv2を閾値で置換する実施例1と異なり、HDR画像の画素の階調lvoutには、階調lv2が小さいときにも階調lv2の階調情報が反映される。このため、実施例1では、図10に示すように、閾値処理が行われた半田部分1の階調の変化が乏しいのに対して、本実施例では、図15に示すように、半田部分1の階調の変化を捉えて、半田部分1の構造を可視化することができる。また、階調lvoutに階調lv2の階調情報が反映されるので、実施例1のような計算誤差などを考慮した閾値の設定も不要である。なお、抑制重み付けwtSは、画質の劣化を抑制するためには小さいほうがよいが、階調lv2の階調情報をHDR画像に反映させるためにはある程度大きいほうがよい。従って、抑制重み付けwtSは、例えば、0.5など中程度の値であることが望ましい。
その他、本実施例も、位置ずれを補正して合成する場合と比較して計算量の増加が少ない点、その結果、高速な画像表示が可能な点、高性能のハードウェアを必要としない点、顕微鏡システムへの導入が容易な点などについては、実施例1と同様である。
上述した各実施例は、発明の理解を容易にするために具体例を示したものであり、本発明はこれらの実施例に限定されるものではない。各実施例に係る顕微鏡システムは、特許請求の範囲により規定される本発明の思想を逸脱しない範囲において、つまり、HDR画像の画素の階調lvOutが階調lv2よりも極端に小さな値となることを防止できる限りにおいて、さまざまな変形、変更が可能である。例えば、明るい画像から順番に合成するのではなく、暗い画像から順番に合成するように、処理を変形してもよい。
1 半田部分
10 顕微鏡装置
11 顕微鏡本体
12 光源装置
13 撮像装置
14 ステージ
15 レボルバ
16 対物レンズ
17 ハーフミラー
20 ホストシステム
30 制御部
40 駆動制御部
41 撮像装置制御部
42 光源装置制御部
43 倍率切替機構制御部
44 XY移動機構制御部
45 Z移動機構制御部
50 画像処理部
51 正規化部
52 画像合成部
53 階調圧縮部
60 入力部
70 表示部
80 記憶部
100 顕微鏡システム
S 標本

Claims (10)

  1. 同一の被写体を異なる撮像条件で画像化して得られた明るさの異なる複数の画像の明るさを前記撮像条件に基づいて補正して複数の正規化画像を生成する正規化部と、
    前記複数の正規化画像を合成して合成画像を生成する画像合成部と、を備え、
    前記画像合成部は、
    前記複数の画像のうちの最も明るい画像である基準画像に対応する前記正規化画像を基準正規化画像と定義する場合において、
    前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記合成画像の画素の階調を前記基準正規化画像の画素の階調に近づけるように、前記基準正規化画像と前記基準正規化画像以外の前記正規化画像である非基準正規化画像とを合成する
    ことを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記画像合成部は、前記非基準正規化画像の画素の階調が前記基準正規化画像の画素の階調に基づいて算出される閾値を下回るときに、前記基準正規化画像の画素の階調と前記閾値とを前記基準正規化画像の画素の階調によって決定される合成比率で掛け合わせて前記合成画像の画素の階調を算出する
    ことを特徴とする画像処理装置。
  3. 請求項1に記載の画像処理装置において、
    前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調に基づいて算出される閾値を下回るときに、前記合成画像の画素の階調を前記閾値で置換する
    ことを特徴とする画像処理装置。
  4. 請求項2または請求項3に記載の画像処理装置において、
    前記閾値は、前記基準正規化画像の画素の階調よりも小さい
    ことを特徴とする画像処理装置。
  5. 請求項1に記載の画像処理装置において、
    前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記非基準正規化画像の重み付けを前記基準正規化画像の画素の階調によって決定される重み付けよりも小さくして、合成する
    ことを特徴とする画像処理装置。
  6. 請求項5に記載の画像処理装置において、
    前記画像合成部は、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さいほど、前記非基準正規化画像の前記重み付けを小さくする
    ことを特徴とする画像処理装置。
  7. 請求項1乃至請求項6のいずれか1項に記載の画像処理装置において、
    前記画像合成部は、前記合成画像を前記基準正規化画像として、さらに、前記合成画像である前記基準正規化画像と非基準正規化画像を合成して、第2の合成画像を生成する
    ことを特徴とする画像処理装置。
  8. 請求項1乃至請求項7のいずれか1項に記載の画像処理装置において、さらに、
    同一の被写体を異なる撮像条件で画像化して明るさの異なる前記複数の画像を取得する画像取得部を備える
    ことを特徴とする画像処理装置。
  9. 請求項1乃至請求項8のいずれか1項に記載の画像処理装置を備え、
    前記画像合成部で生成された前記合成画像を表示することを特徴とする顕微鏡システム。
  10. 同一の被写体を異なる撮像条件で画像化して得られた明るさの異なる複数の画像の明るさを前記撮像条件に基づいて補正して複数の正規化画像を生成するステップと、
    前記複数の正規化画像を合成して合成画像を生成するステップであって、前記複数の画像のうちの最も明るい画像である基準画像に対応する前記正規化画像を基準正規化画像と定義する場合において、前記合成画像の画素の階調が前記基準正規化画像の画素の階調よりも小さくなるときに前記合成画像の画素の階調を前記基準正規化画像の画素の階調に近づけるように、前記基準正規化画像と前記基準正規化画像以外の前記正規化画像である非基準正規化画像とを合成するステップと、を
    コンピュータに実行させることを特徴とするプログラム。
JP2013004006A 2013-01-11 2013-01-11 画像処理装置、顕微鏡システム、及び画像処理プログラム Active JP6045355B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013004006A JP6045355B2 (ja) 2013-01-11 2013-01-11 画像処理装置、顕微鏡システム、及び画像処理プログラム
US14/104,967 US9274328B2 (en) 2013-01-11 2013-12-12 Image processing apparatus, microscope system, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013004006A JP6045355B2 (ja) 2013-01-11 2013-01-11 画像処理装置、顕微鏡システム、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2014135702A JP2014135702A (ja) 2014-07-24
JP6045355B2 true JP6045355B2 (ja) 2016-12-14

Family

ID=51164833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013004006A Active JP6045355B2 (ja) 2013-01-11 2013-01-11 画像処理装置、顕微鏡システム、及び画像処理プログラム

Country Status (2)

Country Link
US (1) US9274328B2 (ja)
JP (1) JP6045355B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102014112002A1 (de) 2014-08-21 2016-02-25 Carl Zeiss Microscopy Gmbh Verfahren zur Abbildung einer Probe mittels eines Mikroskops und Mikroskop
DE102015208087A1 (de) * 2015-04-30 2016-11-03 Carl Zeiss Microscopy Gmbh Verfahren zum Generieren eines reflektionsreduzierten Kontrastbildes und diesbezügliche Vorrichtungen
WO2017110653A1 (ja) 2015-12-22 2017-06-29 オリンパス株式会社 顕微鏡システム
DE102018206406B3 (de) 2018-04-25 2019-09-12 Carl Zeiss Meditec Ag Mikroskopiesystem und Verfahren zum Betrieb eines Mikroskopiesystems
WO2020255365A1 (ja) * 2019-06-21 2020-12-24 株式会社Fuji 画像合成装置、画像取得装置、画像処理システム、画像処理方法
DE102020123505A1 (de) 2020-09-09 2022-03-10 Carl Zeiss Microscopy Gmbh Mikroskopiesystem und verfahren zum erzeugen eines übersichtsbildes
DE102020123504A1 (de) 2020-09-09 2022-03-10 Carl Zeiss Microscopy Gmbh Mikroskopiesystem und verfahren zum erzeugen eines hdr-bildes
CN112102315B (zh) * 2020-11-02 2021-02-19 腾讯科技(深圳)有限公司 医学影像处理方法、装置、计算机设备和存储介质
US11727534B2 (en) 2020-12-08 2023-08-15 International Business Machines Corporation Normalizing OCT image data

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5517242A (en) * 1993-06-29 1996-05-14 Kabushiki Kaisha Toyota Chuo Kenkyusho Image sensing device having expanded dynamic range
JP3084189B2 (ja) * 1993-06-29 2000-09-04 株式会社豊田中央研究所 撮像装置
JP2001304842A (ja) * 2000-04-25 2001-10-31 Hitachi Ltd パターン検査方法及びその装置並びに基板の処理方法
JP4399693B2 (ja) * 2000-09-21 2010-01-20 ソニー株式会社 撮像装置
JP4622711B2 (ja) * 2005-07-11 2011-02-02 カシオ計算機株式会社 画像合成装置、画像合成方法、及び、プログラム
WO2008004439A1 (fr) * 2006-07-06 2008-01-10 Nikon Corporation Dispositif d'évaluation de caractéristiques de correction de gradation, dispositif de traitement d'image, procédé d'évaluation de caractéristiques de correction de gradation, procédé de traitement d'image, programme d'évaluation de caractéristiques de cor
JP2012165259A (ja) 2011-02-08 2012-08-30 Olympus Corp 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置

Also Published As

Publication number Publication date
JP2014135702A (ja) 2014-07-24
US9274328B2 (en) 2016-03-01
US20140198197A1 (en) 2014-07-17

Similar Documents

Publication Publication Date Title
JP6045355B2 (ja) 画像処理装置、顕微鏡システム、及び画像処理プログラム
JP5767485B2 (ja) 画像処理装置及び制御方法
US9218653B2 (en) Method and apparatus for dynamic range enhancement of an image
JP5856733B2 (ja) 撮像装置
JP5408053B2 (ja) 画像処理装置、画像処理方法
JP5672796B2 (ja) 画像処理装置、画像処理方法
JP5877693B2 (ja) 画像処理センサ、画像処理方法及びコンピュータプログラム
KR20080022399A (ko) 영상 생성 장치 및 방법
JP6289044B2 (ja) 観察装置
JP2005347939A (ja) 撮像装置および信号処理方法
JP2013187681A (ja) 画像合成装置及び画像合成方法
JP2014179756A (ja) 画像処理装置、その制御方法、および制御プログラム
WO2017163427A1 (ja) 顕微鏡観察システム、顕微鏡観察方法、及び顕微鏡観察プログラム
JP2004200971A (ja) 画像処理装置、画像処理プログラム、画像処理方法および電子カメラ
US8212865B2 (en) Microscope image pickup apparatus, microscope image pickup program product, microscope image pickup program transmission medium and microscope image pickup method
JP6108680B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP6479178B2 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JP2015233232A (ja) 画像取得装置
JP5585117B2 (ja) マルチディスプレイシステム、マルチディスプレイ調整方法およびプログラム
JP2014039222A (ja) 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置
JPWO2016079853A1 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム
JP3914810B2 (ja) 撮像装置、撮像方法及びそのプログラム
JP2017212533A (ja) 撮像表示システム及び撮像装置
JP2014085377A (ja) 画像表示システム、撮像装置、画像表示装置及びその制御方法
JP5125478B2 (ja) 撮像装置及び画像効果付与プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161115

R151 Written notification of patent or utility model registration

Ref document number: 6045355

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250