JP6261446B2 - Endoscope device - Google Patents
Endoscope device Download PDFInfo
- Publication number
- JP6261446B2 JP6261446B2 JP2014107262A JP2014107262A JP6261446B2 JP 6261446 B2 JP6261446 B2 JP 6261446B2 JP 2014107262 A JP2014107262 A JP 2014107262A JP 2014107262 A JP2014107262 A JP 2014107262A JP 6261446 B2 JP6261446 B2 JP 6261446B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- value
- unit
- matrix
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000011159 matrix material Substances 0.000 claims description 148
- 239000003795 chemical substances by application Substances 0.000 claims description 47
- 239000002131 composite material Substances 0.000 claims description 41
- 238000003384 imaging method Methods 0.000 claims description 33
- 238000002073 fluorescence micrograph Methods 0.000 claims description 23
- 230000005284 excitation Effects 0.000 claims description 13
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 11
- 239000003814 drug Substances 0.000 claims description 7
- 229940079593 drug Drugs 0.000 claims description 7
- 239000007850 fluorescent dye Substances 0.000 claims description 4
- 230000000877 morphologic effect Effects 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 claims 1
- 238000005286 illumination Methods 0.000 description 32
- 230000000875 corresponding effect Effects 0.000 description 27
- 238000001444 catalytic combustion detection Methods 0.000 description 25
- 238000006243 chemical reaction Methods 0.000 description 17
- 235000019557 luminance Nutrition 0.000 description 14
- 230000006870 function Effects 0.000 description 12
- 230000015654 memory Effects 0.000 description 12
- 238000000034 method Methods 0.000 description 12
- 201000005569 Gout Diseases 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 238000003780 insertion Methods 0.000 description 6
- 230000037431 insertion Effects 0.000 description 6
- 230000004888 barrier function Effects 0.000 description 5
- 239000003086 colorant Substances 0.000 description 5
- 229910052724 xenon Inorganic materials 0.000 description 5
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 5
- 230000003902 lesion Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 238000000799 fluorescence microscopy Methods 0.000 description 2
- 238000012632 fluorescent imaging Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- HPNSNYBUADCFDR-UHFFFAOYSA-N chromafenozide Chemical compound CC1=CC(C)=CC(C(=O)N(NC(=O)C=2C(=C3CCCOC3=CC=2)C)C(C)(C)C)=C1 HPNSNYBUADCFDR-UHFFFAOYSA-N 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
- Endoscopes (AREA)
Description
本発明は蛍光薬剤が投与された被検体に対する蛍光と参照光の合成画像を生成する内視鏡装置に関する。 The present invention relates to an endoscope apparatus that generates a combined image of fluorescence and reference light for a subject to which a fluorescent drug is administered.
近年、内視鏡は、医療分野等において広く用いられるようになっている。また、従来においては、可視領域の照明光の下で患部等を肉眼で観察する場合と同等の観察ができる通常光観察の他に、蛍光薬剤を投与して蛍光観察することも行われるようになっている。
蛍光観察を行う場合、蛍光画像と、通常光画像とを合成する合成画像を表示する内視鏡装置も提案されている。
例えば、特開2012−217670号公報の従来例においては、画像処理部により通常光画像(参照光画像)と蛍光画像との合成画像において蛍光画像を適切に観察できるようにするために、両者の特性(γ値、輝度レベル、コントラスト等)のバランスを適切に調節する信号増幅処理等を施すことを開示している。
また、この従来例においては、蛍光の画像信号を合成画像のGチャンネル、通常光画像のRチャンネル及びBチャンネルの画像信号を、それぞれ合成画像のRチャンネル及びBチャンネルに割り当てることにより、合成画像を擬似カラー表示することを開示している。
In recent years, endoscopes have been widely used in the medical field and the like. In addition, conventionally, in addition to normal light observation that enables observation equivalent to the case of observing the affected area with the naked eye under illumination light in the visible region, fluorescent observation is performed by administering a fluorescent agent. It has become.
In the case of performing fluorescence observation, an endoscope apparatus that displays a combined image obtained by combining a fluorescent image and a normal light image has also been proposed.
For example, in the conventional example of Japanese Patent Application Laid-Open No. 2012-217670, in order for the image processing unit to appropriately observe the fluorescence image in the composite image of the normal light image (reference light image) and the fluorescence image, It discloses that a signal amplification process or the like for appropriately adjusting the balance of characteristics (γ value, luminance level, contrast, etc.) is performed.
Further, in this conventional example, the composite image is assigned by assigning the fluorescence image signal to the G channel of the composite image, and the R channel and B channel signals of the normal light image to the R channel and B channel of the composite image, respectively. The pseudo color display is disclosed.
しかしながら、上記従来例は、蛍光画像と通常光画像(参照光画像)の合成画像をRGB擬似カラー画像として生成する場合、病変部に対応する蛍光色の視認し易さとしての視認性と、蛍光の強度の変動に対する背景色の変動しにくさとしての安定性の観点からRGBの比率を決定することを開示していない。
上記視認性と安定性は、蛍光薬剤の特性によって適切な値が異なるために、蛍光薬剤が異なる場合にも適切な視認性と安定性とを確保できることが望まれる。
本発明は上述した点に鑑みてなされたもので、実際に用いられる蛍光薬剤の特性に応じて適切な視認性と安定性とを確保できる内視鏡装置を提供することを目的とする。
However, in the above conventional example, when a composite image of a fluorescent image and a normal light image (reference light image) is generated as an RGB pseudo color image, the visibility as the ease of visually recognizing the fluorescent color corresponding to the lesioned part, and the fluorescence It is not disclosed to determine the ratio of RGB from the viewpoint of stability as the difficulty of fluctuation of the background color with respect to the fluctuation of the intensity.
Since the appropriate values of the visibility and stability vary depending on the characteristics of the fluorescent agent, it is desired that appropriate visibility and stability can be ensured even when the fluorescent agent is different.
The present invention has been made in view of the above-described points, and an object of the present invention is to provide an endoscope apparatus that can ensure appropriate visibility and stability in accordance with the characteristics of a fluorescent agent actually used.
本発明の一態様の内視鏡装置は、蛍光薬剤が与えられた被検体を照明するために、前記蛍光薬剤を励起して蛍光を発生させる励起光と、前記被検体の形態情報を取得するための参照光とを発生させる光源部と、前記被検体からの光を受光して撮像画像を生成する撮像部と、複数種類の前記蛍光薬剤を投与した場合における病変部と正常部とを蛍光により撮像した場合の輝度の比率を表すTBRの値を入力する情報入力部と、前記撮像部において前記被検体からの蛍光を受光して生成される蛍光画像を赤色に割り当て、前記撮像部において前記参照光で照明された前記被検体からの光を受光して生成される参照光画像を緑色と青色とに割り当てる色割り当て部と、前記色割り当て部において割り当てられた異なる複数の色成分に対してマトリクス係数を乗算するマトリクス演算を行ない、観察画像を表示するための表示部に前記マトリクス演算の結果を出力する演算部と、前記情報入力部から入力される前記蛍光薬剤の前記TBRの値が低い値の場合程、前記赤色の蛍光画像に対して乗算する第1のマトリクス係数要素の値を大きくし、当該第1のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての緑色成分画像を生成するように、また、前記蛍光薬剤の前記TBRの値が高い値の場合程、前記赤色の蛍光画像に乗算する第2のマトリクス係数要素の値を大きくし、当該第2のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての青色成分画像を生成するように、それぞれ蛍光薬剤の前記TBRの値に応じて、前記第1、第2のマトリクス係数要素を持つ前記マトリクス係数を決定する決定部と、を有する。 The endoscope apparatus according to one aspect of the present invention acquires excitation light that excites the fluorescent agent to generate fluorescence and illumination, and morphological information of the subject, in order to illuminate the subject to which the fluorescent agent is given. A light source unit that generates reference light for generating light, an imaging unit that receives light from the subject to generate a captured image, and a lesioned part and a normal part when multiple types of fluorescent agents are administered. An information input unit that inputs a value of TBR that represents a luminance ratio when imaged by the method, and a fluorescence image generated by receiving fluorescence from the subject in the imaging unit is assigned to red, and the imaging unit A color assignment unit that assigns a reference light image generated by receiving light from the subject illuminated with reference light to green and blue, and a plurality of different color components assigned by the color assignment unit Matric A calculation unit that multiplies the coefficients and outputs a result of the matrix calculation to a display unit for displaying an observation image; and a value of the TBR value of the fluorescent agent input from the information input unit is low In this case, the value of the first matrix coefficient element to be multiplied with respect to the red fluorescent image is increased, and as the color component image of the observation image displayed on the display unit by the multiplication of the first matrix coefficient element. to produce a green component image and the as the case of the value is high value of TBR fluorescent drug, increase the value of the second matrix coefficients elements multiplied by the red fluorescence image, the second wherein to produce the blue color component image as a color component image of the observation image displayed on the display unit, according to the value of the TBR each fluorescent agent by the matrix multiplication coefficient element, Serial first, has a determination unit configured to determine the matrix coefficients with a second matrix coefficients element, a.
本発明によれば、実際に用いられる蛍光薬剤の特性に応じて適切な視認性と安定性とを確保できる。 According to the present invention, appropriate visibility and stability can be ensured according to the characteristics of the fluorescent agent actually used.
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように、本発明の第1の実施形態の内視鏡装置1は、被検体の内部に挿入される撮像部を内蔵した内視鏡2と、内視鏡2に照明光を供給する光源装置3と、内視鏡2の撮像部から出力される撮像信号に対する信号処理を行い、合成画像(第1の合成画像及び第2の合成画像)を生成する信号処理装置としてのビデプロセッサ4と、ビデオプロセッサ4により生成された内視鏡画像をカラー表示するカラーモニタ5と、符号化された内視鏡画像を圧縮画像として記録するファイリング装置6とを有する。
また、内視鏡装置1は、蛍光観察する場合に用いられる蛍光薬剤における視認性に関する情報を入力する情報入力部を構成するキーボード7と、キーボード7から入力された視認性に関する情報が入力されることにより、蛍光観察モードにおける蛍光画像と参照光画像とから第2の合成画像を生成する場合のマトリクス係数を決定する決定部を構成するマトリクス係数決定回路8とを有し、ビデオプロセッサ4は、(蛍光観察モードの場合において)視認性と安定性を満たす内視鏡画像としての第2の合成画像を生成する。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First embodiment)
As shown in FIG. 1, an
In addition, the
内視鏡2は、被検体10の体腔内に挿入される挿入部11を有し、挿入部11の後端(基端)には観察モードを切り替えるスイッチとしてのモード切替スイッチ13が設けられた操作部12を有する。また、挿入部11内及び操作部12内には照明光を伝送するライトガイド14が挿通され、操作部12から延出されたケーブル内を挿通されたライトガイド14の入射端面は、光源装置3に着脱自在に接続される。
光源装置3から出射される照明光は、ライトガイド14の入射端面に入射(供給)され、ライトガイド14の先端面から照明レンズ15を経て体腔内の患部等に照射される。照明レンズ15は挿入部11の先端面に設けられた照明窓に取り付けられている。なお、後述するように光源装置3は、通常光観察モードにおいては、赤(R)、緑(G)、青(B)の波長帯域の面順次の照明光を出射し、蛍光観察モードにおいては蛍光撮像を行うためのRの波長帯域の励起光と、Gの波長帯域の参照光とを面順次の照明光として出射する。
The
Illumination light emitted from the
挿入部11の先端部には、照明窓に隣接して設けられた第1の観察窓には第1の対物レンズ16aが取り付けられ、第2の観察窓には第2の対物レンズ16bが取り付けられ、第1の対物レンズ16a、第2の対物レンズ16bの各結像位置には撮像部を構成する撮像素子として例えば電荷結像素子(CCDと略記)17a、17bがそれぞれ配置されている。
また、第2の対物レンズ16bとCCD17bとの間には、バリアフィルタ(又は励起光カットフィルタ)18が配置され、バリアフィルタ18は、対物レンズ16bを通ってCCD17bに結像される入射光における励起光をカットし、かつ蛍光と参照光を透過する特性に設定されている(後述する図参照)。CCD17aは、通常光観察モードにおいて使用される通常光撮像用CCDを形成し、CCD17bは、蛍光観察モードにおいて使用される蛍光撮像用CCDを形成する。
蛍光観察モードにおいては、蛍光観察モードにおける撮像部を形成するCCD17bは、励起光が照射のされた被検体10(を構成する生体組織)から発せられる蛍光により被検体10を撮像した蛍光撮像画像(又は蛍光画像)の撮像信号(蛍光撮像信号とも言う)を出力し、参照光が照射された被検体10(の反射光)を撮像した参照光撮像画像(又は参照光画像)の撮像信号(参照光撮像信号とも言う)を出力する。
The first
In addition, a barrier filter (or excitation light cut filter) 18 is disposed between the second objective lens 16b and the
In the fluorescence observation mode, the
光源装置3は、照明光路に沿って、照明光を発光するキセノンランプ21と、キセノンランプ21の照明光の光量を調整する絞り22と、絞り23を通った照明光を面順次光にする回転フィルタ23と、回転フィルタ23を経た面順次光を集光してライトガイド14の入射端面に入射させる集光レンズ25とが配置され、更に光源装置3は、回転フィルタ23を回転駆動する(フィルタ回転用)モータ26aの回転を制御する制御回路27を備える。なお、モータ26aは、例えば1フレーム分の画像信号を生成する1フレーム期間に1回転する。
また、モータ26aは、例えば照明光路と垂直な方向に移動するラック28aに取り付けられ、このラック28aは、移動用モータ26bの回転軸に取り付けたピニオンギア28bと噛合している。また、光源装置3内に設けた電源回路29は、キセノンランプ21に点灯用の電力を供給して発光させると共に、モータ26a,26bに対しても駆動信号を供給する。なお、照明光を発光する光源としてのキセノンランプ21の代わりに、例えば白色光を発生する白色発光ダイオードを用いても良い。
The
The
図1に示す回転フィルタ23は(以下に説明する第1のフィルタ組が照明光路上に配置された)通常光観察モードの設定状態であり、この設定状態においてモード切替スイッチ13が操作されると、ビデオプロセッサ4内に設けたモード切替回路31がモード切替の操作を検出して、モード切替信号を発生する。モード切替信号により移動用モータ26bが回転して、回転フィルタ23,モータ26aをラック28a毎、図1における上方向Aに移動し、第2のフィルタ組が照明光路上に配置される状態にする。
また、第2のフィルタ組が照明光路上に配置された蛍光観察モードの設定状態においてモード切替スイッチ13が操作されると、モード切替信号により移動用モータ26bが逆方向に回転して、回転フィルタ23,モータ26aをラック28a毎、下方向に移動し、第1のフィルタ組が照明光路上に配置される状態になる。
回転フィルタ23は、図2に示すように、円盤状に構成され中心を回転軸とした2重構造となっており、外側の円周部分には通常光観察モードの場合の照明光を生成する第1のフィルタ組を構成するRフィルタ23R,Gフィルタ23G,Bフィルタ23Bが配置され、内側の円周部分には蛍光観察の場合の照明光を生成する第2のフィルタ組を構成する励起光を生成する色フィルタとしての2つのRフィルタ23Reと、参照光を生成する色フィルタとしてのGフィルタ23Grとが配置されている。
The
In addition, when the
As shown in FIG. 2, the
図3は、Rフィルタ23R,Gフィルタ23G,Bフィルタ23Bの透過特性(実線)と、Rフィルタ23Reと、Gフィルタ23Gr(2点鎖線)の透過特性を示す。Rフィルタ23R,Gフィルタ23G,Bフィルタ23Bは、それぞれR,G,Bの波長帯域を一部がオーバラップする広帯域の透過特性を有する。
Rフィルタ23Reは、蛍光観察に用いられる蛍光薬剤に照射する励起光を透過するように設定されており、本実施形態においては、例えば580−645nmの波長帯域の光を透過するように設定している。また、蛍光観察の場合において、蛍光観察部位の形状、輪郭等の形態情報を取得するための参照光画像(反射光画像)成分を取得できるようにするための参照光を生成するGフィルタ23Grは、530−550nmの波長帯域の光を透過するように設定している。
また、図3においてバリアフィルタ18の透過特性を点線で示す。バリアフィルタ18は、参照光を生成するGフィルタ23Grの透過波長帯域となる530−550nmの波長帯域の光を透過すると共に、励起光の波長帯域をカットし、(複数種類の)蛍光薬剤が蛍光を発生する波長帯域を含むように例えば680−800nmの波長帯域の光を透過するように設定している。回転フィルタ23は、モータ26aにより、例えば図2の矢印Bで示すように回転される。
FIG. 3 shows the transmission characteristics (solid line) of the
The R filter 23Re is set so as to transmit excitation light applied to a fluorescent agent used for fluorescence observation. In the present embodiment, the R filter 23Re is set so as to transmit light in a wavelength band of, for example, 580 to 645 nm. Yes. Further, in the case of fluorescence observation, the G filter 23Gr that generates reference light for enabling acquisition of reference light image (reflected light image) components for acquiring shape information such as the shape and contour of the fluorescence observation site is provided. It is set to transmit light in a wavelength band of 530 to 550 nm.
In FIG. 3, the transmission characteristics of the
CCD17a,17bは信号線を介して、ビデオプロセッサ4内の切替回路32a,32bと接続される。両切替回路32a,32bは、モード切替回路31のモード切替信号により、連動して切り替えられる。なお、後述する切替回路38、42a,42b,42cもモード切替回路31のモード切替信号により、連動して切り替えられる。
図1の設定状態(通常光観察モードの設定状態)では、接点aがONし、この状態においてはビデオプロセッサ4内のCCDドライバ33は、CCD17aにCCD駆動信号を印加し、CCD17aは、その撮像面に結像された光学像を光電変換した撮像信号を出力し、この撮像信号は切替回路32aの接点aを経てビデオプロセッサ4内のアンプ34に入力される。蛍光観察モードの場合には、両切替回路32a,32b、37、42a,42b,42cは、接点bがONするように設定される。
アンプ34で増幅された撮像信号は、プロセス回路35に入力され、相関二重サンプリング(CDSと略記)処理されて信号成分を有するベースバンドの画像信号が生成される。プロセス回路35の出力信号は、A/D変換回路36に入力され、A/D変換回路36は、アナログの画像信号をデジタルの画像信号に変換して出力する。なお、本明細書においては、画像と該画像を表す画像信号とは、実質的に同じ意味で用いる。
The
In the setting state of FIG. 1 (normal light observation mode setting state), the contact a is turned on. In this state, the
The imaging signal amplified by the
A/D変換回路36から出力される画像信号は、ホワイトバランス(図1ではWSと略記)回路37に入力されると共に、スルーして切替回路38の接点bに入力される。
ホワイトバランス回路37は、通常光観察モードの設定状態(図1の設定状態)の場合において、白色の基準被写体を撮像した場合には、カラーモニタ5により基準被写体を内視鏡画像として表示した場合に、内視鏡画像が白色となるようにホワイトバランス回路37内のアンプのゲインを調整する。ホワイトバランス回路37から出力される画像信号は、切替回路38の接点aを経てセレクタ39に入力される。また、蛍光観察モードの場合においてホワイトバランス回路37をスルーした画像信号は接点bを経てセレクタ39に入力される。
セレクタ39は、タイミングジェネレータ(以下、TGと略記)45により、回転フィルタ23の回転に同期して入力される画像信号を3つの同時化メモリ40a,40b,40cに格納する。また、TG45は、制御回路27、CCDドライバ33、アンプ34,プロセス回路35、A/D変換回路36、ホワイトバランス回路37にタイミング信号等を印加し、それぞれがタイミング信号等に同期して動作する。
The image signal output from the A /
The
The
本実施形態においては、通常光観察モードの設定状態の場合には、CCD17aによってR,G,Bの照明光の場合にそれぞれ撮像された場合のR,G,Bの色成分画像がR,G,Bの画像として、同時化メモリ40a,40b,40cにそれぞれ格納される。これに対して、蛍光観察モードの設定状態の場合には、CCD17bによってRの励起光で撮像された場合の蛍光撮像画像に対応する蛍光画像が同時化メモリ40aに、Gの参照光の場合で撮像された場合の参照光撮像画像に対応するGの色成分画像が参照光画像として、2つの同時化メモリ40b,40cに格納されるように色成分を割り当てる。
従って、同時化メモリ40a,40b,40cは、撮像部により被検体10からの蛍光を受光して生成される蛍光画像と、参照光で照明された被検体10からの光を受光して生成される参照光画像と、をそれぞれ異なる複数の色成分に割り当てる色割り当て部を形成する。
同時化メモリ40a,40b,40cに格納された画像は、1フレーム期間後に同時に読み出され、マトリクス回路41を形成する3つの乗算回路41a,41b,41cにそれぞれ入力されると共に、切替回路42a,42b,42cの接点aにそれぞれ印加される。
In the present embodiment, when the normal light observation mode is set, R, G, and B color component images captured by the
Therefore, the
The images stored in the
マトリクス回路41は、色割り当て部を形成する同時化メモリ40a,40b,40cから出力される3つの色成分画像に対して、演算部を構成するマトリクス回路41によりマトリクス変換を行うことにより合成画像を生成する。
切替回路42a,42b,42cの各接点bには、マトリクス回路41の乗算回路41a,41b,41cで乗算された合成画像を形成する3つの色成分画像がそれぞれ印加される。切替回路42a,42b,42cもモード切替信号により連動して切り替えられる。
マトリクス回路41を形成する乗算回路41a,41b,41cには、マトリクス係数決定回路8から、キーボード7による入力情報としての(蛍光観察モードの際に被検体10に投与されている蛍光薬剤の視認性に関する情報)に対応して可変設定される3つのマトリクス係数要素Mr,Mg,Mb(図4A参照)からなるマトリクス係数Mが(乗算係数として)入力される。なお、以下に説明するようにマトリクス係数要素Mrは、視認性に関する情報が変化しても固定された値となる。
The
Three color component images forming a composite image multiplied by the
The
そして、マトリクス回路41の乗算回路41a,41b,41cは、同時化メモリ40a,40b,40cから出力される蛍光画像の画像信号としてのRの色信号、参照光画像の画像信号としてのG、Bの色信号と、マトリクス係数Mとを乗算した3つの乗算信号をマトリクス回路41の出力信号として切替回路42a,42b,42cの各接点bに印加する。具体的には、マトリクス回路41に入力されるR,G,Bの(色信号の)色成分画像をRin,Gin,Binとし、マトリクス回路41から出力されるR,G,Bの(色信号の)色成分画像をRout,Gout,Boutとし、マトリクス係数Mを規定する複数の係数要素となる3つのマトリクス係数要素をMr,Mg,Mbとした場合、マトリクス回路41は、以下の式(1)ようにマトリクス変換を行い、変換された色信号の色成分画像Rout,Gout,Boutを合成画像として出力する。本実施形態においては、マトリクス係数要素をMrを1に規格化している(Mr=1)。
The
[式1]
なお、式(1)と図4Aの表とから分かるように、マトリクス係数Mを形成する係数要素としてのMr,Mg,Mb(図4AではMr:Mg:Mb)は、マトリクス変換された合成画像におけるR,G,B色成分画像が生成される場合の係数要素の値で示している。
まず、色割り当て部を構成する同時化メモリ40a,40b,40cは、蛍光画像が割り当てられた第1の色(第1の色は赤色)の画像と、前記参照光画像がそれぞれ割り当てられた第2の色(第2の色は緑色)の画像及び第3の色(第3の色は青色)の画像を生成する。
[Formula 1]
As can be seen from Equation (1) and the table of FIG. 4A, Mr, Mg, and Mb (Mr: Mg: Mb in FIG. 4A) as coefficient elements forming the matrix coefficient M are matrix-converted composite images. The R, G, and B color component images in FIG.
First, the
そして、演算部を構成するマトリクス回路41は、第1の色の画像に対して、マトリクス係数Mをそれぞれ形成する第1のマトリクス係数要素Mg、第2のマトリクス係数要素Mbそれぞれを乗算して(蛍光の強度による病変部の)視認性の機能に密接に関連する前記第2の色、蛍光の強度が変動した場合における該変動を抑制して知覚させる前記第3の色にそれぞれ相当し、合成画像を形成する第2の画像となる色成分画像Gout、第3の画像となる色成分画像Boutをそれぞれ生成し、更に第2の色の画像及び前記第3の色の画像に対して、マトリクス係数Mを形成する一定の値となる第3のマトリクス係数要素Mrを乗算して加算したものを前記第1の色に相当し、合成画像を形成する第1の画像としてのRoutを生成する。
マトリクス回路41は、式(1)に示すようにマトリクスの対角線に沿った係数要素が0となるマトリクス係数Mを用いて入力される(色割り当て部が出力する)複数の色成分画像から合成画像を生成するマトリクス変換を行うため、マトリクス変換により色成分画像全てに対してそれぞれ異なる色の色成分画像に色変換を行って合成画像を生成するとも言える。
Then, the
The
式(1)により、蛍光画像の色成分となる蛍光色の病変部に対する該蛍光色の視認し易さとしての視認性と、蛍光強度の変動に対する(背景画像の)背景色の変動しにくさ(又は背景色の変動を抑制して知覚させる機能)としての安定性とを保持する合成画像を生成するようにマトリクス変換を行う。
マトリクス回路41は、実質的に、蛍光観察モードの場合においてのみ、入力される画像信号をマトリクス係数Mを用いてマトリクス変換した合成画像(の画像信号)を後段側に出力する。図1においてはマトリクス回路41の外部に切替回路42a,42b,42cを設けた構成を示しているが、マトリクス回路41が切替回路42a,42b,42cを含む構成にし、蛍光観察モードの場合においては入力される複数の色成分画像(の画像信号)に対してマトリクス変換を行った合成画像(の画像信号)を後段側に出力し、通常光観察モードにおいては、入力される画像(の画像信号)に対してマトリクス変換を行うことなく、入力される画像(の画像信号)をそのまま出力するようにしても良い。
According to the equation (1), the visibility of the fluorescent color as a color component of the fluorescent image is easily recognized and the background color (background image) is less likely to fluctuate with respect to the fluctuation of the fluorescent intensity. Matrix conversion is performed so as to generate a composite image that retains stability as a function (or a function to perceive the background color while suppressing fluctuations).
The
マトリクス係数決定回路8は、図4Aに示すように視認性に関する情報としての蛍光薬剤のTBR値(Tumor Backgraund Ratio Value)と、(入力される色成分画像Rin,Gin,Binに対応して設定された)3つのマトリクス係数要素Mr,Mg,Mb(上記のようにMrは1に規格化)からなるマトリクス係数Mとを対応付けた対応付け情報を表形式で記憶(格納)したルックアップテーブル(LUTと略記)8aを備える。また、LUT8aには、代表的なTBR値に対応付けた蛍光薬剤M1,M2,M3,…Mn…の情報も格納されている。
従って、術者等のユーザは、キーボード7から蛍光観察に用いる蛍光薬剤の視認性に関する情報としてのTBR値をマトリクス係数決定回路8に入力することにより、マトリクス係数決定回路8は、TBR値に対応するマトリクス係数MをLUT8aから選択して決定し、マトリクス回路41に出力する。演算部を構成するマトリクス回路41は、決定されたマトリクス係数Mを用いてマトリクス回路41に入力される入力画像信号と乗算する演算を行う。
As shown in FIG. 4A, the matrix
Therefore, a user such as an operator inputs a TBR value as information relating to the visibility of the fluorescent agent used for fluorescence observation from the
蛍光薬剤のTBR値は、病変部に対応する蛍光高輝度領域と、病変部の周辺にある正常部(背景部)に対応する蛍光低輝度領域との各々の輝度の比率として定義される。図4BはTBR値(の定義)の説明図を示す。
未定又は既知のTBR値を有する蛍光薬剤を投与して病変部51をCCD17bにより蛍光撮像した場合に得られる病変部51の画素値をItとし、病変部51の周辺の正常部52をCCD16bにより蛍光撮像した場合に得られる正常部52の画素値をIbとした場合、TBR(値)Vは
V=It/Ib (2)
により得られる。より単純化して、TBR(値)Vは、蛍光薬剤を投与した場合における病変部51と正常部52とを蛍光撮像した場合の輝度の比率を表すと述べても良い。このようにして、蛍光薬剤に対して予めTBR値を算出することができる。そして、LUT8aに蛍光薬剤に対応付けてTBR値を格納することができる。
The TBR value of the fluorescent agent is defined as the ratio of the respective luminances of the fluorescent high luminance region corresponding to the lesioned part and the fluorescent low luminance region corresponding to the normal part (background part) around the lesioned part. FIG. 4B is an explanatory diagram of (definition) the TBR value.
When a fluorescent drug having an unknown or known TBR value is administered and the
Is obtained. More simply, it may be said that the TBR (value) V represents a luminance ratio when the
また、ユーザは、キーボード7からTBR値を入力する代わりに、蛍光観察に用いる蛍光薬剤の情報を入力することにより、マトリクス係数決定回路8は、入力された蛍光薬剤に対応するマトリクス係数MをLUT8aの対応付け情報から決定し、マトリクス回路41に出力することもできる。
また、マトリクス係数決定回路8は、LUT8aには含まれないTBR値の場合に対しても、LUT8aに格納されている代表的な情報を用いて、当該TBR値に対応するマトリクス係数を補間により決定する例えば補間回路8bを備える。
切替回路42a,42b,42cから出力される画像信号は、それぞれD/A変換回路43a,43b,43cに入力され、切替回路42a,42b,42cは、入力信号をアナログの画像信号に変換して、カラーモニタ5のR,G,Bチャンネルに出力すると共に、符号化回路44に出力する。カラーモニタ5は、R,G,Bチャンネルに入力された第2の合成画像の画像信号をそれぞれR,G,Bの色でカラー表示する。
Further, instead of inputting the TBR value from the
In addition, the matrix
The image signals output from the switching
符号化された画像信号は、ファイリング装置6に出力され、ファイリングされる。
通常光観察モードにおいては、公知のようにR,G,Bの照明光のもとで観察部位を撮像したR,G,Bの色信号の画像を通常光画像としてカラーモニタ5でカラー表示する。
これに対して、蛍光観察モードにおいては、励起光の照明の下で被検体10における患部等の観察部位から発せられる蛍光により撮像した場合の蛍光画像をRチャンネルの色に割り当て、Gの参照光による照明もとで(反射光として)撮像した場合の参照光画像をG及びBチャンネルの色に割り当てて、複数の色成分画像を生成する。
更に、Rチャンネルの色と、G及びBチャンネルの色に対してマトリクス回路41により蛍光薬剤に応じて決定したマトリクス係数Mを用いてマトリクス変換を行い、生成した合成画像の画像をカラーモニタ5に出力し、カラーモニタ5により、視認性と安定性を確保した擬似カラーの合成画像を表示する。
The encoded image signal is output to the
In the normal light observation mode, as is well known, an image of R, G, B color signals obtained by imaging an observation site under R, G, B illumination light is displayed in color on the color monitor 5 as a normal light image. .
On the other hand, in the fluorescence observation mode, a fluorescence image obtained by imaging with fluorescence emitted from an observation site such as an affected part in the subject 10 under illumination of excitation light is assigned to the color of the R channel, and the G reference light A reference light image when imaged under illumination by (as reflected light) is assigned to the colors of the G and B channels, and a plurality of color component images are generated.
Further, matrix conversion is performed on the R channel color and the G and B channel colors using the matrix coefficient M determined according to the fluorescent agent by the
図1に示すようにモード切替回路31は、モード切替信号を調光パラメータ切替回路46に出力する。調光パラメータ切替回路46は、回転フィルタ23の第1のフィルタ組あるいは第2のフィルタ組に応じた調光パラメータを調光回路47に出力し、調光回路47は調光パラメータ切替回路46からの調光パラメータに基づき光源装置3の絞り22を制御し、適正な明るさ制御を行う。
蛍光観察モードにおける複数の色成分画像を生成する色割り当て部を少なくとも含む画像生成回路48は、図1におけるアンプ34〜同時化メモリ40a、40b、40cにより構成される。
蛍光観察モードにおいてカラーモニタ5で表示される蛍光画像の色成分画像と参照光画像の色成分画像とを合成する合成画像は、上記のように蛍光画像の色成分画像と、蛍光画像の背景画像となる参照光画像の色成分画像とからなる複数の色成分画像からマトリクス変換により生成される。
As shown in FIG. 1, the
The
The composite image that combines the color component image of the fluorescence image displayed on the color monitor 5 and the color component image of the reference light image in the fluorescence observation mode is the color component image of the fluorescence image and the background image of the fluorescence image as described above. Is generated by matrix conversion from a plurality of color component images composed of the color component images of the reference light image.
本実施形態においては、蛍光観察モードにおいてカラーモニタ5に表示する擬似カラーの合成画像を表示する場合、人間の視覚神経伝達モデルにおいて視覚上、鋭敏な特性を示す赤色のチャンネルに割り当てられた蛍光画像から、式(1)のようにTBR値に応じて可変設定されるマトリクス変換を行うことにより、TBR値が変化した場合においても、蛍光画像を表す赤色の病変部51を視認し易くする視認性と、安定性を確保した合成画像を生成する。換言すると、TBR値が変化した場合において、マトリクス係数Mを固定した場合には、視認性と安定性が適切に設定されない画像になってしまう欠点を、TBR値に応じてマトリクス係数Mを可変設定することにより、この欠点を解消する。
また、本実施形態においては、マトリクス係数決定回路8は、蛍光薬剤の特性として、TBRが大きい(高い)場合には、安定性を確保する機能(要因)を大きくして、視認性と安定性を確保し、TBRが小さい(低い)場合には、視認性を確保する機能(要因)を大きくして、視認性を優先して確保するようにマトリクス係数を決定する。なお、蛍光薬剤としては、視認性が高いのもの方が望ましいが、実際には蛍光薬剤の種類によって、視認性の高いものと低いものが存在する。
In the present embodiment, when a pseudo color composite image to be displayed on the color monitor 5 is displayed in the fluorescence observation mode, the fluorescence image assigned to the red channel showing visually sensitive characteristics in the human visual nerve transmission model. From the above, by performing matrix conversion that is variably set according to the TBR value as in Expression (1), even when the TBR value changes, the visibility that makes it easy to visually recognize the
In the present embodiment, the matrix
図4Aに示すようにLUT8aには、以下のようなマトリクス係数Mを予め記憶(格納)する記憶部の機能を有する。
LUT8aは、蛍光薬剤のTBR値が小さくなる程、視認性の機能を高めるようにマトリクス回路41に入力される蛍光画像の色成分画像(に相当する入力信号)Rinに乗算する(第1のマトリクス係数要素としての)マトリクス係数要素Mgを大きくし、蛍光薬剤のTBR値が大きくなる程、安定性の機能を高めるように蛍光画像の色成分画像(に相当する入力信号)Rinに乗算する(第2のマトリクス係数要素としての)マトリクス係数要素Mbを大きくして、合成画像の色成分画像としての緑色成分画像としてのGout、青色成分画像としてのBoutをそれぞれ生成するように、蛍光薬剤の視認性に関する情報(具体的にはTBR値)に応じて、マトリクス係数要素Mg,Mbを持つマトリクス係数Mを記憶(格納)している。
また、LUT8aは、参照光画像が割り当てられた第2の色(緑色)の画像及び前記第3の色(青色)の画像に対して、前記マトリクス係数を形成する一定の値(具体的には1)となる第3のマトリクス係数要素となるマトリクス係数要素Mrを乗算して加算したものを第1の色(赤色)に相当し、合成画像を形成する第1の画像となる色成分画像Routを生成する。
As shown in FIG. 4A, the
The
Further, the
本実施形態の内視鏡装置1は、蛍光薬剤が投与される被検体10を照明するために、前記蛍光薬剤を励起して蛍光を発生させる励起光と、前記被検体10の形態情報を取得するための参照光とを発生させる光源部を構成する光源装置3と、前記被検体10からの光を受光して、撮像画像(の信号)を生成する撮像部を構成するCCD17bと、前記蛍光薬剤の視認性に関する情報を入力する情報入力部を構成するキーボード7と、前記撮像部において前記被検体10からの蛍光を受光して生成される蛍光画像と、前記撮像部において前記参照光で照明された前記被検体10からの光を受光して生成される参照光画像と、をそれぞれ異なる複数の色成分に割り当てる色割り当て部を形成する同時化メモリ40a,40b,40cと、前記色割り当て部において割り当てられた前記異なる複数の色成分(画像)に対してマトリクス係数を乗算するマトリクス演算を行い、観察画像を表示するための表示部としてのカラーモニタ5にマトリクス演算の結果を出力する演算部を構成するマトリクス回路41と、前記情報入力部から入力される前記蛍光薬剤の視認性に関する情報が、前記視認性の機能が高い値の場合程、前記蛍光の強度が変動した場合における前記表示部における前記観察画像の色調の変化を抑制するように、前記演算部が乗算に用いる前記マトリクス係数を決定する決定部を構成するマトリクス係数決定回路8と、を有することを特徴とする。
In order to illuminate the subject 10 to which the fluorescent agent is administered, the
次に本実施形態の動作を図5のフローチャートを参照して説明する。
内視鏡装置1の電源が投入され、初期設定の状態で内視鏡装置1は動作状態となる。例えば通常観察モードで動作するように初期設定がされているとする。この場合には、ステップS1に示すように内視鏡装置1は、通常光観察モードで動作する。
通常光観察モードの場合には、光源装置3は図1に示す状態、つまり照明光路上に回転フィルタ23の外周側が配置された状態となり、またビデオプロセッサ4は切替回路32a,32b,38,42a,42b,42cにおける各接点aがONした状態となる。ステップS2に示すように光源装置3は、通常光としてのR,G,Bの面順次光)を発生する。また、ビデオプロセッサ4は、CCD17aにCCD駆動信号を印加し、CCD17aにより撮像した撮像画像の撮像信号に対する信号処理を行う。
ステップS3に示すようにカラーモニタ5は、通常光で撮像した通常光画像を表示する。術者等のユーザは、内視鏡2を被検体10内に挿入し、被検体10内の患部等を観察する。患部等が病変部の可能性があるような場合において、蛍光観察モードで観察することを望む場合には、ユーザはモード切替スイッチ13を操作し、蛍光観察モードに切り替える。
Next, the operation of this embodiment will be described with reference to the flowchart of FIG.
The power supply of the
In the normal light observation mode, the
As shown in step S3, the color monitor 5 displays a normal light image captured with normal light. A user such as a surgeon inserts the
ステップS4に示すようにモード切替回路31は、モード切替スイッチ13の操作の有無、換言すると観察モードの切替を監視している。観察モードの切替が行われない場合には、ステップS3の処理に戻り、カラーモニタ5は、通常光で撮像した通常光画像を表示する。
一方、観察モードの切替の操作が行われるとモード切替回路31は、モード切替信号を発生し、光源装置3のモータ26bを駆動し、回転フィルタ23の内周側部分が照明光路上に位置するように移動する。つまり、ステップS5に示すように光源装置3は、蛍光観察モードに対応した照明光としての励起光と参照光を発生する。
また、モード切替回路31は、モード切替信号によりビデオプロセッサ4内の切替回路32a,32b,38,42a,42b,42cにおける各接点bがONする状態に切り替える。
また、ステップS6に示すようにユーザは、キーボード7から被検体10に投与した蛍光薬剤の視認性に関する情報としての例えばTBR値を入力する。
As shown in step S4, the
On the other hand, when the observation mode switching operation is performed, the
Further, the
Further, as shown in step S <b> 6, the user inputs, for example, a TBR value as information on the visibility of the fluorescent drug administered to the subject 10 from the
すると、ステップS7に示すようにマトリクス係数決定回路8は、入力されたTBR値に対応するマトリクス係数MをLUT8aから決定する。つまり、マトリクス係数決定回路8は、実際に使用される蛍光薬剤に対応したマトリクス係数Mを決定する。マトリクス係数決定回路8は、決定したマトリクス係数Mをマトリクス回路41に出力する。マトリクス回路41は、式(1)に従ったマトリクス演算を行い、演算結果で生成した合成画像を形成する3つの色成分画像Rout,Gout,Boutを出力する。
マトリクス回路41に入力される蛍光画像と参照光画像に対してマトリクス回路41によりマトリクス変換により生成される合成画像は、蛍光画像と参照光画像とをTBR値に応じて適切な視認性と安定性を持つように合成したものとなる。
そして、ステップS8に示すようにカラーモニタ5は、蛍光画像と参照光画像を合成した合成画像を観察画像として表示する。
Then, as shown in step S7, the matrix
The composite image generated by matrix conversion by the
As shown in step S8, the color monitor 5 displays a synthesized image obtained by synthesizing the fluorescent image and the reference light image as an observation image.
ユーザは、合成画像を観察することにより、通常光画像の場合よりも患部における蛍光薬剤の集積の程度に対応した蛍光強度の様子から病変の程度を診断し易くなる。
ステップS9に示すようにモード切替回路31は、モード切替スイッチ13の操作の有無、換言すると観察モードの切替を監視している。観察モードの切替が行われない場合には、ステップS8の処理に戻り、カラーモニタ5は、蛍光観察モードで撮像した第2の合成画像を表示する状態を継続する。
一方、観察モードの切替の操作が行われるとモード切替回路31は、モード切替信号を発生し、光源装置3のモータ26bをステップS5の場合と逆方向に移動させるように回転駆動し、図1に示す状態に設定する。つまり、ステップS10に示すように光源装置3はステップS2の場合と同様に通常光を発生する。そして、ステップS3に示す処理に戻る。
By observing the composite image, the user can more easily diagnose the degree of the lesion from the state of the fluorescence intensity corresponding to the degree of accumulation of the fluorescent agent in the affected area than in the case of the normal light image.
As shown in step S9, the
On the other hand, when the operation for switching the observation mode is performed, the
なお、図5においては、蛍光薬剤のTBR値を入力する処理を、蛍光観察モードに切り替えた後のステップS6において行う場合で説明したが、ステップS6よりも前に行うようにしても良い。例えば初期設定を行う最初のステップにおいて、蛍光薬剤のTBR値を入力し、マトリクス係数決定回路8は、TBR値の入力後、又は蛍光観察モードに切り替えられた直後に、決定したマトリクス係数Mをマトリクス回路41に出力するようにしても良い。
また、図5においては、キーボード7から入力されたTBR値がLUT8aに存在する(又はLUT8aに含まれる値の)場合で説明したが、入力されるTBR値が、LUT8aに含まれないTBR値の場合においても、図6に示すように補間回路8bにより補間を用いて対応するマトリクス係数を決定するようにしても良い。
図5のステップS6により、蛍光薬剤のTBR値が入力された場合、ステップS11に示すようにマトリクス係数決定回路8(の補間回路8b)は、入力されたTBR値がLUT8aに存在するか否かを判定する。以下においては入力されたTBR値をVで表す。
In addition, in FIG. 5, although the process which inputs the TBR value of a fluorescent agent was performed in step S6 after switching to fluorescence observation mode, you may make it perform before step S6. For example, in the first step of performing the initial setting, the TBR value of the fluorescent agent is input, and the matrix
In FIG. 5, the case where the TBR value input from the
When the TBR value of the fluorescent agent is input in step S6 of FIG. 5, as shown in step S11, the matrix coefficient determination circuit 8 (the
入力されたTBR値Vが図4Aに示すようにLUT8aに存在する場合には、ステップS7に示すように入力されたTBR値Vに対応するマトリクス係数MをLUT8aから簡単に決定する。
一方、入力されたTBR値VがLUT8aに存在しない判定結果の場合には、ステップS12に示すように補間回路8bは、LUT8aにおける既知の複数のTBR値に対するマトリクス係数Mの特性曲線を用いて入力されたTBR値Vに対応するマトリクス係数を決定する。この場合、既知の複数のTBR値に対するマトリクス係数要素Mg、Mbの各特性曲線を用いて入力されたTBR値Vに対応するマトリクス係数要素Mg,Mbを決定し、図5のステップS8の処理に移る。
本実施形態においては、実際に使用する蛍光薬剤の視認性に関する特性に応じて、マトリクス係数Mを可変決定(可変設定)するようにしているので、合成画像観察画像としてを表示する場合、視認性と安定性とを確保した状態で表示することができる。
従って、本実施形態によれば、蛍光画像の輝度レベルが変動し易い状況においても、術者等のユーザが、カラーモニタ5に表示される観察画像から、観察部位が病変であるか否かを判断し易い環境を提供できる。次に、本発明の第2の実施形態を説明する。
When the input TBR value V exists in the
On the other hand, if the input TBR value V is a determination result that does not exist in the
In the present embodiment, since the matrix coefficient M is variably determined (variably set) according to the characteristics relating to the visibility of the fluorescent agent that is actually used, the visibility is displayed when the composite image observation image is displayed. And stability can be displayed.
Therefore, according to the present embodiment, even in a situation where the luminance level of the fluorescent image is likely to fluctuate, a user such as an operator can determine whether or not the observation site is a lesion from the observation image displayed on the color monitor 5. An environment that is easy to judge can be provided. Next, a second embodiment of the present invention will be described.
(第2の実施形態)
図7は本発明の第2の実施形態の内視鏡装置1Bを示す。内視鏡装置1Bは、図1の内視鏡装置1において、キーボード7から入力される蛍光薬剤の視認性に関する情報としての例えばTBR値を、マトリクス係数決定回路8の他に、調光回路47にも入力する構成にしている。また、マトリクス係数決定回路8から出力されるマトリクス係数Mをマトリクス回路41の他に、調光回路47にも入力する構成にしている。
第1の実施形態において説明したように、蛍光観察モードにおいては、マトリクス変換を行う。本実施形態においては、通常観察モードと蛍光観察モードにおいて、適切な明るさの内視鏡画像となるように、調光回路47を用いて照明光量を自動調整、つまり自動調光する。このために、例えば、切替回路42a, 42b, 42cの出力信号を調光回路47に入力し、調光回路47は、切替回路42a, 42b, 42cから出力される画像の明るさに応じて、自動調光する調光信号を生成する。
調光回路47は、自動調光する調光信号を生成するために切替回路42a, 42b, 42cから出力される画像の明るさに相当する明るさ信号生成部を構成する明るさ信号生成回路47aを有する。明るさ信号生成回路47aは、通常光観察モードにおいては、通常光画像の明るさに相当する輝度信号YをY=0.30R+0.59G+0.11BGにより生成する。なお、切替回路42a, 42b, 42cから出力される画像の画像信号は、(通常光画像の場合であるが)式(1)の定義に沿った表現を用いると、上記R,G,BがRout,Gout,Boutとなる。
(Second Embodiment)
FIG. 7 shows an endoscope apparatus 1B according to a second embodiment of the present invention. In the endoscope apparatus 1B shown in FIG. 1, the dimming
As described in the first embodiment, matrix conversion is performed in the fluorescence observation mode. In the present embodiment, in the normal observation mode and the fluorescence observation mode, the illumination light amount is automatically adjusted, that is, automatically dimmed using the
The dimming
また、調光回路47は、明るさ信号生成回路47aから出力される上記輝度信号Yの(数フレーム期間での)平均値と、通常光画像の明るさの目標値との差分に相当する差分信号を調光信号として絞り22に出力する。なお、調光回路47の内部又は外部に、この調光信号を生成して出力する調光部としての機能を持つ調光信号生成回路を設けるようにしても良い(以下の蛍光観察モードの場合にも適用しても良い)。
一方、蛍光観察モードにおいては、蛍光薬剤により蛍光画像部分が病変部や正常部により、その明るさが変動し易くなる。そのために、調光信号を生成する場合、基本的には、参照光画像による寄与に比較して蛍光画像により寄与を低く設定することにより、観察する部位が変化しても、調光信号の明るさが実質的には参照光画像の明るさで主に決定されるように、切替回路42a, 42b, 42cから出力される合成画像の明るさに相当する輝度信号Yfを生成するように設定する。
このため、蛍光観察モードにおける明るさ信号生成回路47aは、例えば調光回路47の内部に設けたLUT47bに格納されたTBR値に対応付けて変化する調光係数D(α,β)を用いて(蛍光観察モードにおける)合成画像の明るさに相当する輝度信号Yfを生成する。
In addition, the dimming
On the other hand, in the fluorescence observation mode, the brightness of the fluorescent image portion is likely to fluctuate depending on the lesioned part or the normal part due to the fluorescent agent. Therefore, when the dimming signal is generated, basically, the brightness of the dimming signal is changed even if the observed part is changed by setting the contribution lower by the fluorescence image than the contribution by the reference light image. Is set so as to generate a luminance signal Yf corresponding to the brightness of the composite image output from the switching
For this reason, the brightness signal generation circuit 47a in the fluorescence observation mode uses, for example, a dimming coefficient D (α, β) that changes in association with the TBR value stored in the
具体的には、蛍光観察モードにおいては、切替回路42a, 42b, 42cの出力信号をRout,Gout,Boutとすると、明るさ信号生成回路47aは、輝度信号Yfを図8の表で示す調光係数Dを形成する、蛍光画像、参照光画像にそれぞれ乗算される調光係数要素α,βを用いて
Yf=α×Rout+β×Gout (3)
により生成する。前述したように蛍光観察モードにおいては、切替回路42a, 42b, 42cにはGの参照光で撮像した同じ画像が格納されているので、一方のみを用いることができる。勿論、GoutとBoutとを用いて輝度信号Yfを定義しても良い。
式(3)は、蛍光画像を表す色成分画像Routと参照光画像の色成分画像Goutとにそれぞれ乗算される調光係数要素α,βにおいて後者が前者よりもかなり大きく設定される。
また、調光回路47は、明るさ信号生成回路47aから出力される上記輝度信号Yfの(数フレーム期間での)平均値と、第1の合成画像の明るさの目標値との差分に相当する差分信号を調光信号として絞り22に出力する。
Specifically, in the fluorescence observation mode, when the output signals of the switching
Generate by. As described above, in the fluorescence observation mode, since the same image captured with the G reference light is stored in the
In Expression (3), the latter is set to be considerably larger than the former in the dimming coefficient elements α and β that are respectively multiplied by the color component image Rout representing the fluorescence image and the color component image Gout of the reference light image.
The dimming
また、本実施形態においては、以下のようにTBR値に応じてマトリクス係数Mを変更した影響も考慮して式(3)の調光係数要素α,βを調整する。
そして、本実施形態は、蛍光観察モードにおいて、以下のように自動調光する構成及び特徴を有する。 赤色に割り当てられる蛍光画像と、緑色及び青色に割り当てられる参照光画像と、を所定の比率で加算して、合成画像の明るさに相当する明るさ信号値を生成する明るさ信号生成部としての明るさ信号生成回路47aと、明るさ信号生成部により生成された明るさ信号値と、第1の合成画像の明るさの目標値と、を比較した結果に基づき光源部が発生する光の強度を調整する調光信号を生成する調光部としての調光回路47又は、調光信号生成回路を有し、明るさ信号生成部は、蛍光薬剤の視認性に関する情報、又は演算部を構成するマトリクス回路41において乗算されるマトリクス係数Mに応じて前記所定の比を調整する。
In the present embodiment, the dimming coefficient elements α and β in Expression (3) are adjusted in consideration of the effect of changing the matrix coefficient M according to the TBR value as follows.
And this embodiment has the structure and the characteristic which adjust automatically as follows in fluorescence observation mode. As a brightness signal generator that adds a fluorescent image assigned to red and a reference light image assigned to green and blue at a predetermined ratio to generate a brightness signal value corresponding to the brightness of the composite image The intensity of light generated by the light source unit based on the result of comparing the brightness signal value generated by the brightness signal generation circuit 47a, the brightness signal generation unit, and the brightness target value of the first composite image. The dimming
第1の実施形態及び本実施形態においては、蛍光観察モードにおいては、色割り当て部から出力される複数の色成分画像からTBR値に応じて、マトリクス係数Mを変更して合成画像を生成し、合成画像を観察画像としてカラーモニタ5で表示する。このため、カラーモニタ5で表示される観察画像の明るさと、調光に用いる画像の明るさがTBR値に応じて異なってしまう場合が発生する。両者の画像の明るさの差異を補正するように、本実施形態においては、TBR値に応じて、輝度信号Yfを調光係数D(α,β)により補正し、両画像での明るさのずれを抑制(低減)する。 具体的には、TBR値が大きくなる場合程、蛍光画像成分による画像の明るさへの寄与が大きくなってしまう影響を補正するために、調光係数要素βの値を大きくして、蛍光画像の視認性の機能が大きくなった場合における蛍光画像成分により画像の明るさが変動し易くなることを抑制する。
逆にTBR値が小さくなる(低くなる)場合程、蛍光画像成分による画像の明るさへの寄与が小さくなってしまう影響を補正するために、調光係数要素αの値を大きくする。図7におけるその他の構成は、図1等に示す第1の実施形態と同様の構成である。
In the first embodiment and the present embodiment, in the fluorescence observation mode, a composite image is generated by changing the matrix coefficient M from a plurality of color component images output from the color assignment unit according to the TBR value, The composite image is displayed on the color monitor 5 as an observation image. For this reason, the brightness of the observation image displayed on the color monitor 5 and the brightness of the image used for dimming may differ depending on the TBR value. In this embodiment, the brightness signal Yf is corrected by the dimming coefficient D (α, β) according to the TBR value so that the brightness difference between the two images is corrected. Suppress (reduce) the deviation. Specifically, in order to correct the influence that the contribution to the brightness of the image due to the fluorescence image component increases as the TBR value increases, the value of the dimming coefficient element β is increased to increase the fluorescence image. It is possible to prevent the brightness of the image from easily fluctuating due to the fluorescent image component when the visibility function of the image becomes larger.
Conversely, as the TBR value becomes smaller (lower), the value of the dimming coefficient element α is increased in order to correct the influence that the contribution of the fluorescent image component to the brightness of the image becomes smaller. Other configurations in FIG. 7 are the same as those in the first embodiment shown in FIG.
このような構成による本実施形態の動作を以下に説明する。本実施形態における代表的な動作は、図9に示すフローチャートのようになる。図9のフローチャートは、図5のフローチャートにおいて、ステップS3とS4(又はステップS2とS3)の間にステップS11,ステップS7とS8(又はステップS8とS9)との間にステップS12の処理を行う内容となる。
本実施形態は、内視鏡装置1Bの電源が投入されると図5のステップS1〜S3と同様の処理を行う。また、ステップS3の処理と共に、ステップS11に示すように調光回路47は、切替回路42a, 42b, 42cから出力される色成分画像から通常光画像の明るさの調光信号を生成し、絞り22の開口量を調整して自動調光する。
ステップS11の後のステップS4からステップS7までは、図5の場合と同様の処理となる。ステップS7においてマトリクス係数決定回路8がTBR値に対応したマトリクス係数を決定する。また、ステップS12に示すように調光回路47は、蛍光観察モードにおいて、TBR値に対応した調光信号を生成し、自動調光を行う。ステップS12の処理の後、ステップS8の処理が行われる。その他の動作は第1の実施形態と同様である。
The operation of the present embodiment having such a configuration will be described below. A typical operation in the present embodiment is as shown in a flowchart of FIG. The flowchart of FIG. 9 performs the processing of step S12 between steps S3 and S4 (or steps S2 and S3) and between steps S7 and S8 (or steps S8 and S9) in the flowchart of FIG. It becomes contents.
In the present embodiment, when the power of the endoscope apparatus 1B is turned on, processing similar to steps S1 to S3 in FIG. 5 is performed. In addition to the processing in step S3, as shown in step S11, the dimming
Steps S4 to S7 after step S11 are the same as in FIG. In step S7, the matrix
本実施形態によれば、第1の実施形態と同様の効果を有すると共に、さらに蛍光観察モードにおいても、蛍光薬剤に応じて、カラーモニタ5に表示される観察画像の擬似カラーの色調が変化した場合においても、観察や診断に適した適切な明るさを維持するように表示できる。
なお、上述した実施形態においては、通常光観察用の撮像素子と蛍光観察用の撮像素子との2つを備えた内視鏡2の場合で説明したが、蛍光観察用の撮像素子を形成するCCD17b側のバリアフィルタ18の特性を変更して、通常光観察用の撮像素子の機能を持たせるようにしても良い。
According to this embodiment, the same effect as that of the first embodiment is obtained, and also in the fluorescence observation mode, the pseudo color tone of the observation image displayed on the color monitor 5 is changed according to the fluorescent agent. Even in such a case, display can be performed so as to maintain appropriate brightness suitable for observation and diagnosis.
In the above-described embodiment, the case of the
1…内視鏡装置、2…内視鏡、3…光源装置、4…ビデオプロセッサ、5…カラーモニタ、7…キーボード、8…マトリクス係数決定回路、8a…LUT、8b…補間回路、10…被検体、11…挿入部、13…モード切替スイッチ、17a,17b…CCD、21…キセノンランプ、22…絞り、23…回転フィルタ、26a,26b…モータ、31…モード切替回路、32a,32b,38,42a,42b,42c…切替回路、33…CCDドライバ、40a,40b,40c…同時化メモリ、41…マトリクス回路、45…タイミングジェネレータ、47…調光回路、47a…LUT、48…合成画像生成回路
DESCRIPTION OF
Claims (6)
前記被検体からの光を受光して撮像画像を生成する撮像部と、
複数種類の前記蛍光薬剤を投与した場合における病変部と正常部とを蛍光により撮像した場合の輝度の比率を表すTBRの値を入力する情報入力部と、
前記撮像部において前記被検体からの蛍光を受光して生成される蛍光画像を赤色に割り当て、前記撮像部において前記参照光で照明された前記被検体からの光を受光して生成される参照光画像を緑色と青色とに割り当てる色割り当て部と、
前記色割り当て部において割り当てられた異なる複数の色成分に対してマトリクス係数を乗算するマトリクス演算を行ない、観察画像を表示するための表示部に前記マトリクス演算の結果を出力する演算部と、
前記情報入力部から入力される前記蛍光薬剤の前記TBRの値が低い値の場合程、前記赤色の蛍光画像に対して乗算する第1のマトリクス係数要素の値を大きくし、当該第1のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての緑色成分画像を生成するように、また、前記蛍光薬剤の前記TBRの値が高い値の場合程、前記赤色の蛍光画像に乗算する第2のマトリクス係数要素の値を大きくし、当該第2のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての青色成分画像を生成するように、それぞれ蛍光薬剤の前記TBRの値に応じて、前記第1、第2のマトリクス係数要素を持つ前記マトリクス係数を決定する決定部と、
を有することを特徴とする内視鏡装置。 A light source unit that generates excitation light that excites the fluorescent agent to generate fluorescence in order to illuminate the subject to which the fluorescent agent is given, and reference light that acquires morphological information of the subject;
An imaging unit that receives light from the subject and generates a captured image;
An information input unit for inputting a value of TBR that represents a ratio of luminance when a lesioned part and a normal part are imaged by fluorescence when a plurality of types of the fluorescent agents are administered;
A fluorescence image generated by receiving fluorescence from the subject in the imaging unit is assigned to red, and reference light generated by receiving light from the subject illuminated by the reference light in the imaging unit A color assignment unit for assigning images to green and blue,
A calculation unit that performs matrix calculation to multiply a plurality of different color components allocated in the color allocation unit by a matrix coefficient, and outputs the result of the matrix calculation to a display unit for displaying an observation image;
When the TBR value of the fluorescent agent input from the information input unit is lower, the value of the first matrix coefficient element to be multiplied with the red fluorescent image is increased, and the first matrix is increased. In order to generate a green component image as a color component image of an observation image displayed on the display unit by multiplication of coefficient elements, and when the TBR value of the fluorescent agent is higher, the red fluorescence To increase the value of the second matrix coefficient element to be multiplied by the image and generate a blue component image as a color component image of the observation image displayed on the display unit by multiplication of the second matrix coefficient element, A determining unit that determines the matrix coefficient having the first and second matrix coefficient elements according to the value of the TBR of each fluorescent agent;
An endoscope apparatus characterized by comprising:
前記決定部は、前記情報入力部から入力された前記TBRの値に基づき、前記記憶部に記憶された前記対応付け情報から前記演算部が乗算に用いる前記マトリクス係数を選択し、
前記演算部は、選択された前記マトリクス係数を用いて乗算することにより合成画像を生成することを特徴とする請求項1に記載の内視鏡装置。 A storage unit that stores a plurality of pieces of information having different TBR values of the fluorescent agent and a plurality of pieces of matrix coefficients corresponding to the pieces of information as association information;
The determination unit selects the matrix coefficient used by the calculation unit for multiplication from the association information stored in the storage unit based on the value of the TBR input from the information input unit,
The endoscope apparatus according to claim 1, wherein the arithmetic unit generates a composite image by multiplying using the selected matrix coefficient.
前記明るさ信号生成部により生成された前記明るさ信号値と、明るさの目標値と、を比較した結果に基づき前記光源部が発生する光の強度を調整する調光信号を生成する調光部と、を有し、
前記明るさ信号生成部は、前記蛍光薬剤の前記TBRの値、又は前記演算部において乗算される前記マトリクス係数に応じて前記所定の比率を調整することを特徴とする請求項1に記載の内視鏡装置。 Furthermore, a brightness signal generation unit that generates a brightness signal value by adding a signal related to the fluorescent image assigned to the red color and a signal related to the reference light image assigned to the green color and the blue color at a predetermined ratio When,
Dimming that generates a dimming signal that adjusts the intensity of light generated by the light source unit based on a result of comparing the brightness signal value generated by the brightness signal generating unit with a target value of brightness And
The said brightness signal production | generation part adjusts the said predetermined ratio according to the value of the said TBR of the said fluorescent agent, or the said matrix coefficient multiplied in the said calculating part, The inside of Claim 1 characterized by the above-mentioned. Endoscopic device.
前記情報入力部から前記蛍光薬剤の前記TBRの値が入力されることにより、前記決定部は、前記TBRの値に対応付けられた前記マトリクス係数を前記演算部に出力することを特徴とする請求項2に記載の内視鏡装置。 The storage unit stores the matrix coefficient in association with the value of the TBR,
When the TBR value of the fluorescent agent is input from the information input unit, the determination unit outputs the matrix coefficient associated with the TBR value to the calculation unit. Item 5. The endoscope apparatus according to Item 2.
前記演算部は、前記第1の色成分に割り当てられた前記蛍光画像に対して、前記マトリクス係数をそれぞれ形成する第1のマトリクス係数要素、第2のマトリクス係数要素それぞれを乗算して視認性の機能に対応した前記第2の色成分、前記蛍光の強度が変動した場合における該変動を抑制して知覚させる前記第3の色成分にそれぞれ相当し、前記表示部に表示される前記観察画像を形成する第2の画像、第3の画像をそれぞれ生成し、
前記第2の色成分に割り当てられた前記参照光画像及び前記第3の色成分に割り当てられた前記参照光画像に対して、前記マトリクス係数を形成する一定の値となる第3のマトリクス係数要素を乗算して加算し、前記表示部において表示される前記観察画像を形成する前記第1の色成分に対応する第1の画像を生成すること特徴とする請求項1に記載の内視鏡装置。 The color assignment unit assigns the fluorescent image to a red component that is a first color component , and assigns the reference light image to a green component that is a second color component and a blue component that is a third color component,
The calculation unit multiplies the fluorescence image assigned to the first color component by a first matrix coefficient element and a second matrix coefficient element that respectively form the matrix coefficient, thereby improving visibility. The second color component corresponding to the function and the third color component that suppresses the change when the intensity of the fluorescence changes and perceives the change, and the observation image displayed on the display unit Generate a second image and a third image to be formed,
A third matrix coefficient element having a constant value for forming the matrix coefficient with respect to the reference light image assigned to the second color component and the reference light image assigned to the third color component The endoscope apparatus according to claim 1, wherein the first image corresponding to the first color component forming the observation image displayed on the display unit is generated by multiplying and adding .
前記TBRの値が高い値の場合程、前記第1の色成分に乗算される前記第2のマトリクス係数要素の値を大きくするように前記マトリクス係数を決定することを特徴とする請求項5に記載の内視鏡装置。 The determining unit, the value of the TBR fluorescent drug is higher when the value is low value before Symbol TBR, the first matrix is multiplied by the first color component inputted from the information input unit Increase the value of the coefficient element,
As when the value is high value before Symbol T BR, claims, characterized in that to determine the matrix coefficients so as to increase the value of the second matrix coefficients elements to be multiplied to the first color component 5. The endoscope apparatus according to 5.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014107262A JP6261446B2 (en) | 2014-05-23 | 2014-05-23 | Endoscope device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014107262A JP6261446B2 (en) | 2014-05-23 | 2014-05-23 | Endoscope device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015221161A JP2015221161A (en) | 2015-12-10 |
JP6261446B2 true JP6261446B2 (en) | 2018-01-17 |
Family
ID=54784568
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014107262A Active JP6261446B2 (en) | 2014-05-23 | 2014-05-23 | Endoscope device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6261446B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109219385B (en) * | 2016-06-21 | 2021-03-30 | 奥林巴斯株式会社 | Endoscope system, image processing apparatus, image processing method, and medium |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2011048886A1 (en) * | 2009-10-20 | 2013-03-07 | オリンパスメディカルシステムズ株式会社 | Fluorescence observation equipment |
JP6053673B2 (en) * | 2011-04-28 | 2016-12-27 | オリンパス株式会社 | Fluorescence observation apparatus and image display method thereof |
-
2014
- 2014-05-23 JP JP2014107262A patent/JP6261446B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015221161A (en) | 2015-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101184841B1 (en) | Endoscopic device and its processing method | |
JP5326065B2 (en) | Endoscope device | |
JP5308815B2 (en) | Biological observation system | |
WO2016121556A1 (en) | Processor device for endoscope, method for operating same, and control program | |
JP5669828B2 (en) | Image processing apparatus and fluorescence observation apparatus | |
WO2017154292A1 (en) | Endoscope system, processor device, and endoscope system operation method | |
US10165934B2 (en) | Endoscope apparatus with addition of image signals | |
JP6690003B2 (en) | Endoscope system and operating method thereof | |
JP2006218283A (en) | Endoscope apparatus | |
JP6581952B2 (en) | Endoscope system and operating method thereof | |
WO2017022324A1 (en) | Image signal processing method, image signal processing device and image signal processing program | |
JP5041936B2 (en) | Biological observation device | |
JP5747362B2 (en) | Endoscope device | |
JP6616071B2 (en) | Endoscope processor device, operation method of endoscope processor device, control program for endoscope | |
JP6261446B2 (en) | Endoscope device | |
JP5764472B2 (en) | Endoscopic diagnosis device | |
JP2016158837A (en) | Endoscope light source device, endoscope system, and operation method of endoscope light source device | |
WO2018079217A1 (en) | Endoscopic system and operation method thereof | |
JP5856943B2 (en) | Imaging system | |
JPWO2016059906A1 (en) | Endoscope device and light source device for endoscope | |
JP6203124B2 (en) | Endoscope apparatus and method for operating endoscope apparatus | |
JP2013094489A (en) | Endoscope apparatus | |
JP5331863B2 (en) | Endoscope device | |
JP6242558B2 (en) | Imaging system and image processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160916 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170912 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171128 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171212 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6261446 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |