JP6261446B2 - Endoscope device - Google Patents

Endoscope device Download PDF

Info

Publication number
JP6261446B2
JP6261446B2 JP2014107262A JP2014107262A JP6261446B2 JP 6261446 B2 JP6261446 B2 JP 6261446B2 JP 2014107262 A JP2014107262 A JP 2014107262A JP 2014107262 A JP2014107262 A JP 2014107262A JP 6261446 B2 JP6261446 B2 JP 6261446B2
Authority
JP
Japan
Prior art keywords
image
value
unit
matrix
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014107262A
Other languages
Japanese (ja)
Other versions
JP2015221161A (en
Inventor
圭 久保
圭 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2014107262A priority Critical patent/JP6261446B2/en
Publication of JP2015221161A publication Critical patent/JP2015221161A/en
Application granted granted Critical
Publication of JP6261446B2 publication Critical patent/JP6261446B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Description

本発明は蛍光薬剤が投与された被検体に対する蛍光と参照光の合成画像を生成する内視鏡装置に関する。 The present invention relates to an endoscope apparatus that generates a combined image of fluorescence and reference light for a subject to which a fluorescent drug is administered.

近年、内視鏡は、医療分野等において広く用いられるようになっている。また、従来においては、可視領域の照明光の下で患部等を肉眼で観察する場合と同等の観察ができる通常光観察の他に、蛍光薬剤を投与して蛍光観察することも行われるようになっている。
蛍光観察を行う場合、蛍光画像と、通常光画像とを合成する合成画像を表示する内視鏡装置も提案されている。
例えば、特開2012−217670号公報の従来例においては、画像処理部により通常光画像(参照光画像)と蛍光画像との合成画像において蛍光画像を適切に観察できるようにするために、両者の特性(γ値、輝度レベル、コントラスト等)のバランスを適切に調節する信号増幅処理等を施すことを開示している。
また、この従来例においては、蛍光の画像信号を合成画像のGチャンネル、通常光画像のRチャンネル及びBチャンネルの画像信号を、それぞれ合成画像のRチャンネル及びBチャンネルに割り当てることにより、合成画像を擬似カラー表示することを開示している。
In recent years, endoscopes have been widely used in the medical field and the like. In addition, conventionally, in addition to normal light observation that enables observation equivalent to the case of observing the affected area with the naked eye under illumination light in the visible region, fluorescent observation is performed by administering a fluorescent agent. It has become.
In the case of performing fluorescence observation, an endoscope apparatus that displays a combined image obtained by combining a fluorescent image and a normal light image has also been proposed.
For example, in the conventional example of Japanese Patent Application Laid-Open No. 2012-217670, in order for the image processing unit to appropriately observe the fluorescence image in the composite image of the normal light image (reference light image) and the fluorescence image, It discloses that a signal amplification process or the like for appropriately adjusting the balance of characteristics (γ value, luminance level, contrast, etc.) is performed.
Further, in this conventional example, the composite image is assigned by assigning the fluorescence image signal to the G channel of the composite image, and the R channel and B channel signals of the normal light image to the R channel and B channel of the composite image, respectively. The pseudo color display is disclosed.

特開2012−217670号公報JP 2012-217670 A

しかしながら、上記従来例は、蛍光画像と通常光画像(参照光画像)の合成画像をRGB擬似カラー画像として生成する場合、病変部に対応する蛍光色の視認し易さとしての視認性と、蛍光の強度の変動に対する背景色の変動しにくさとしての安定性の観点からRGBの比率を決定することを開示していない。
上記視認性と安定性は、蛍光薬剤の特性によって適切な値が異なるために、蛍光薬剤が異なる場合にも適切な視認性と安定性とを確保できることが望まれる。
本発明は上述した点に鑑みてなされたもので、実際に用いられる蛍光薬剤の特性に応じて適切な視認性と安定性とを確保できる内視鏡装置を提供することを目的とする。
However, in the above conventional example, when a composite image of a fluorescent image and a normal light image (reference light image) is generated as an RGB pseudo color image, the visibility as the ease of visually recognizing the fluorescent color corresponding to the lesioned part, and the fluorescence It is not disclosed to determine the ratio of RGB from the viewpoint of stability as the difficulty of fluctuation of the background color with respect to the fluctuation of the intensity.
Since the appropriate values of the visibility and stability vary depending on the characteristics of the fluorescent agent, it is desired that appropriate visibility and stability can be ensured even when the fluorescent agent is different.
The present invention has been made in view of the above-described points, and an object of the present invention is to provide an endoscope apparatus that can ensure appropriate visibility and stability in accordance with the characteristics of a fluorescent agent actually used.

本発明の一態様の内視鏡装置は、蛍光薬剤が与えられた被検体を照明するために、前記蛍光薬剤を励起して蛍光を発生させる励起光と、前記被検体の形態情報を取得するための参照光とを発生させる光源部と、前記被検体からの光を受光して撮像画像を生成する撮像部と、複数種類の前記蛍光薬剤を投与した場合における病変部と正常部とを蛍光により撮像した場合の輝度の比率を表すTBRの値を入力する情報入力部と、前記撮像部において前記被検体からの蛍光を受光して生成される蛍光画像を赤色に割り当て、前記撮像部において前記参照光で照明された前記被検体からの光を受光して生成される参照光画像を緑色と青色とに割り当てる色割り当て部と、前記色割り当て部において割り当てられた異なる複数の色成分に対してマトリクス係数を乗算するマトリクス演算を行ない、観察画像を表示するための表示部に前記マトリクス演算の結果を出力する演算部と、前記情報入力部から入力される前記蛍光薬剤の前記TBRの値が低い値の場合程、前記赤色の蛍光画像に対して乗算する第1のマトリクス係数要素の値を大きくし、当該第1のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての緑色成分画像を生成するように、また、前記蛍光薬剤の前記TBRの値が高い値の場合程、前記赤色の蛍光画像に乗算する第2のマトリクス係数要素の値を大きくし、当該第2のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての青色成分画像を生成するように、それぞれ蛍光薬剤の前記TBRの値に応じて、前記第1、第2のマトリクス係数要素を持つ前記マトリクス係数を決定する決定部と、を有する。 The endoscope apparatus according to one aspect of the present invention acquires excitation light that excites the fluorescent agent to generate fluorescence and illumination, and morphological information of the subject, in order to illuminate the subject to which the fluorescent agent is given. A light source unit that generates reference light for generating light, an imaging unit that receives light from the subject to generate a captured image, and a lesioned part and a normal part when multiple types of fluorescent agents are administered. An information input unit that inputs a value of TBR that represents a luminance ratio when imaged by the method, and a fluorescence image generated by receiving fluorescence from the subject in the imaging unit is assigned to red, and the imaging unit A color assignment unit that assigns a reference light image generated by receiving light from the subject illuminated with reference light to green and blue, and a plurality of different color components assigned by the color assignment unit Matric A calculation unit that multiplies the coefficients and outputs a result of the matrix calculation to a display unit for displaying an observation image; and a value of the TBR value of the fluorescent agent input from the information input unit is low In this case, the value of the first matrix coefficient element to be multiplied with respect to the red fluorescent image is increased, and as the color component image of the observation image displayed on the display unit by the multiplication of the first matrix coefficient element. to produce a green component image and the as the case of the value is high value of TBR fluorescent drug, increase the value of the second matrix coefficients elements multiplied by the red fluorescence image, the second wherein to produce the blue color component image as a color component image of the observation image displayed on the display unit, according to the value of the TBR each fluorescent agent by the matrix multiplication coefficient element, Serial first, has a determination unit configured to determine the matrix coefficients with a second matrix coefficients element, a.

本発明によれば、実際に用いられる蛍光薬剤の特性に応じて適切な視認性と安定性とを確保できる。   According to the present invention, appropriate visibility and stability can be ensured according to the characteristics of the fluorescent agent actually used.

図1は本発明の第1の実施形態の内視鏡装置の全体構成を示す図。FIG. 1 is a diagram showing an overall configuration of an endoscope apparatus according to a first embodiment of the present invention. 図2は回転フィルタに設けられた色フィルタの構成を示す図。FIG. 2 is a diagram illustrating a configuration of a color filter provided in the rotation filter. 図3は色フィルタ等の透過特性を示す図。FIG. 3 is a diagram illustrating transmission characteristics of color filters and the like. 図4AはLUTの内容を表形式で示す図。FIG. 4A is a diagram showing the contents of the LUT in a table format. 図4BはTBR値の説明図。FIG. 4B is an explanatory diagram of a TBR value. 図5は第1の実施形態の代表的な処理内容を示すフローチャート。FIG. 5 is a flowchart showing typical processing contents of the first embodiment. 図6は図6における蛍光観察モードの場合におけるマトリクス係数の設定処理を示すフローチャート。FIG. 6 is a flowchart showing matrix coefficient setting processing in the fluorescence observation mode in FIG. 図7は本発明の第2の実施形態の内視鏡装置の全体構成を示す図。FIG. 7 is a diagram showing an overall configuration of an endoscope apparatus according to a second embodiment of the present invention. 図8は調光回路に設けたLUTの内容を表形式で示す図。FIG. 8 is a diagram showing the contents of the LUT provided in the dimming circuit in a table format. 図9は第2の実施形態の代表的な処理内容を示すフローチャート。FIG. 9 is a flowchart showing typical processing contents of the second embodiment.

以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように、本発明の第1の実施形態の内視鏡装置1は、被検体の内部に挿入される撮像部を内蔵した内視鏡2と、内視鏡2に照明光を供給する光源装置3と、内視鏡2の撮像部から出力される撮像信号に対する信号処理を行い、合成画像(第1の合成画像及び第2の合成画像)を生成する信号処理装置としてのビデプロセッサ4と、ビデオプロセッサ4により生成された内視鏡画像をカラー表示するカラーモニタ5と、符号化された内視鏡画像を圧縮画像として記録するファイリング装置6とを有する。
また、内視鏡装置1は、蛍光観察する場合に用いられる蛍光薬剤における視認性に関する情報を入力する情報入力部を構成するキーボード7と、キーボード7から入力された視認性に関する情報が入力されることにより、蛍光観察モードにおける蛍光画像と参照光画像とから第2の合成画像を生成する場合のマトリクス係数を決定する決定部を構成するマトリクス係数決定回路8とを有し、ビデオプロセッサ4は、(蛍光観察モードの場合において)視認性と安定性を満たす内視鏡画像としての第2の合成画像を生成する。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(First embodiment)
As shown in FIG. 1, an endoscope apparatus 1 according to a first embodiment of the present invention includes an endoscope 2 including an imaging unit that is inserted into a subject, and illumination light to the endoscope 2. A video processing device as a signal processing device that performs signal processing on the supplied light source device 3 and an imaging signal output from the imaging unit of the endoscope 2 to generate a composite image (first composite image and second composite image). The processor 4 includes a color monitor 5 that displays an endoscopic image generated by the video processor 4 in color, and a filing device 6 that records the encoded endoscopic image as a compressed image.
In addition, the endoscope apparatus 1 receives a keyboard 7 constituting an information input unit for inputting information on visibility in a fluorescent agent used for fluorescence observation, and information on visibility input from the keyboard 7. Thus, the video processor 4 includes a matrix coefficient determination circuit 8 that constitutes a determination unit that determines a matrix coefficient when generating a second composite image from the fluorescence image and the reference light image in the fluorescence observation mode. A second composite image is generated as an endoscopic image that satisfies visibility and stability (in the case of the fluorescence observation mode).

内視鏡2は、被検体10の体腔内に挿入される挿入部11を有し、挿入部11の後端(基端)には観察モードを切り替えるスイッチとしてのモード切替スイッチ13が設けられた操作部12を有する。また、挿入部11内及び操作部12内には照明光を伝送するライトガイド14が挿通され、操作部12から延出されたケーブル内を挿通されたライトガイド14の入射端面は、光源装置3に着脱自在に接続される。
光源装置3から出射される照明光は、ライトガイド14の入射端面に入射(供給)され、ライトガイド14の先端面から照明レンズ15を経て体腔内の患部等に照射される。照明レンズ15は挿入部11の先端面に設けられた照明窓に取り付けられている。なお、後述するように光源装置3は、通常光観察モードにおいては、赤(R)、緑(G)、青(B)の波長帯域の面順次の照明光を出射し、蛍光観察モードにおいては蛍光撮像を行うためのRの波長帯域の励起光と、Gの波長帯域の参照光とを面順次の照明光として出射する。
The endoscope 2 has an insertion portion 11 to be inserted into the body cavity of the subject 10, and a mode changeover switch 13 as a switch for switching an observation mode is provided at the rear end (base end) of the insertion portion 11. An operation unit 12 is provided. A light guide 14 that transmits illumination light is inserted into the insertion unit 11 and the operation unit 12, and an incident end surface of the light guide 14 that is inserted through a cable extending from the operation unit 12 is the light source device 3. Is detachably connected.
Illumination light emitted from the light source device 3 is incident on (supplied to) the incident end face of the light guide 14, and is irradiated from the distal end face of the light guide 14 through the illumination lens 15 to the affected part in the body cavity. The illumination lens 15 is attached to an illumination window provided on the distal end surface of the insertion portion 11. As will be described later, the light source device 3 emits surface-sequential illumination light in the red (R), green (G), and blue (B) wavelength bands in the normal light observation mode, and in the fluorescence observation mode. Excitation light in the R wavelength band for fluorescence imaging and reference light in the G wavelength band are emitted as field-sequential illumination light.

挿入部11の先端部には、照明窓に隣接して設けられた第1の観察窓には第1の対物レンズ16aが取り付けられ、第2の観察窓には第2の対物レンズ16bが取り付けられ、第1の対物レンズ16a、第2の対物レンズ16bの各結像位置には撮像部を構成する撮像素子として例えば電荷結像素子(CCDと略記)17a、17bがそれぞれ配置されている。
また、第2の対物レンズ16bとCCD17bとの間には、バリアフィルタ(又は励起光カットフィルタ)18が配置され、バリアフィルタ18は、対物レンズ16bを通ってCCD17bに結像される入射光における励起光をカットし、かつ蛍光と参照光を透過する特性に設定されている(後述する図参照)。CCD17aは、通常光観察モードにおいて使用される通常光撮像用CCDを形成し、CCD17bは、蛍光観察モードにおいて使用される蛍光撮像用CCDを形成する。
蛍光観察モードにおいては、蛍光観察モードにおける撮像部を形成するCCD17bは、励起光が照射のされた被検体10(を構成する生体組織)から発せられる蛍光により被検体10を撮像した蛍光撮像画像(又は蛍光画像)の撮像信号(蛍光撮像信号とも言う)を出力し、参照光が照射された被検体10(の反射光)を撮像した参照光撮像画像(又は参照光画像)の撮像信号(参照光撮像信号とも言う)を出力する。
The first objective lens 16a is attached to the first observation window provided adjacent to the illumination window, and the second objective lens 16b is attached to the second observation window at the distal end of the insertion portion 11. For example, charge imaging elements (abbreviated as CCD) 17a and 17b are arranged as imaging elements constituting the imaging unit at the imaging positions of the first objective lens 16a and the second objective lens 16b, respectively.
In addition, a barrier filter (or excitation light cut filter) 18 is disposed between the second objective lens 16b and the CCD 17b, and the barrier filter 18 in the incident light imaged on the CCD 17b through the objective lens 16b. The excitation light is cut and the fluorescence and reference light are transmitted (see the later-described figure). The CCD 17a forms a normal light imaging CCD used in the normal light observation mode, and the CCD 17b forms a fluorescent imaging CCD used in the fluorescence observation mode.
In the fluorescence observation mode, the CCD 17b that forms the imaging unit in the fluorescence observation mode captures the subject 10 with the fluorescence emitted from the subject 10 (the biological tissue constituting the subject) irradiated with the excitation light (the fluorescent imaging image ( (Or fluorescent image) imaging signal (also referred to as fluorescence imaging signal) is output, and a reference light imaging image (or reference light image) imaging signal (reference) is obtained by imaging the subject 10 (reflected light) irradiated with the reference light. Also called an optical imaging signal).

光源装置3は、照明光路に沿って、照明光を発光するキセノンランプ21と、キセノンランプ21の照明光の光量を調整する絞り22と、絞り23を通った照明光を面順次光にする回転フィルタ23と、回転フィルタ23を経た面順次光を集光してライトガイド14の入射端面に入射させる集光レンズ25とが配置され、更に光源装置3は、回転フィルタ23を回転駆動する(フィルタ回転用)モータ26aの回転を制御する制御回路27を備える。なお、モータ26aは、例えば1フレーム分の画像信号を生成する1フレーム期間に1回転する。
また、モータ26aは、例えば照明光路と垂直な方向に移動するラック28aに取り付けられ、このラック28aは、移動用モータ26bの回転軸に取り付けたピニオンギア28bと噛合している。また、光源装置3内に設けた電源回路29は、キセノンランプ21に点灯用の電力を供給して発光させると共に、モータ26a,26bに対しても駆動信号を供給する。なお、照明光を発光する光源としてのキセノンランプ21の代わりに、例えば白色光を発生する白色発光ダイオードを用いても良い。
The light source device 3 rotates along the illumination optical path so that the xenon lamp 21 that emits illumination light, the diaphragm 22 that adjusts the amount of illumination light of the xenon lamp 21, and the illumination light that passes through the diaphragm 23 are converted into plane sequential light. A filter 23 and a condensing lens 25 that condenses the surface sequential light that has passed through the rotary filter 23 and makes it incident on the incident end face of the light guide 14 are disposed. Further, the light source device 3 rotationally drives the rotary filter 23 (filter A control circuit 27 for controlling the rotation of the motor 26a is provided. For example, the motor 26a rotates once in one frame period in which an image signal for one frame is generated.
The motor 26a is attached to, for example, a rack 28a that moves in a direction perpendicular to the illumination optical path, and this rack 28a meshes with a pinion gear 28b attached to the rotating shaft of the moving motor 26b. The power supply circuit 29 provided in the light source device 3 supplies lighting power to the xenon lamp 21 to emit light, and also supplies drive signals to the motors 26a and 26b. Instead of the xenon lamp 21 as a light source that emits illumination light, for example, a white light emitting diode that generates white light may be used.

図1に示す回転フィルタ23は(以下に説明する第1のフィルタ組が照明光路上に配置された)通常光観察モードの設定状態であり、この設定状態においてモード切替スイッチ13が操作されると、ビデオプロセッサ4内に設けたモード切替回路31がモード切替の操作を検出して、モード切替信号を発生する。モード切替信号により移動用モータ26bが回転して、回転フィルタ23,モータ26aをラック28a毎、図1における上方向Aに移動し、第2のフィルタ組が照明光路上に配置される状態にする。
また、第2のフィルタ組が照明光路上に配置された蛍光観察モードの設定状態においてモード切替スイッチ13が操作されると、モード切替信号により移動用モータ26bが逆方向に回転して、回転フィルタ23,モータ26aをラック28a毎、下方向に移動し、第1のフィルタ組が照明光路上に配置される状態になる。
回転フィルタ23は、図2に示すように、円盤状に構成され中心を回転軸とした2重構造となっており、外側の円周部分には通常光観察モードの場合の照明光を生成する第1のフィルタ組を構成するRフィルタ23R,Gフィルタ23G,Bフィルタ23Bが配置され、内側の円周部分には蛍光観察の場合の照明光を生成する第2のフィルタ組を構成する励起光を生成する色フィルタとしての2つのRフィルタ23Reと、参照光を生成する色フィルタとしてのGフィルタ23Grとが配置されている。
The rotary filter 23 shown in FIG. 1 is in a normal light observation mode setting state (a first filter set described below is disposed on the illumination optical path), and when the mode switch 13 is operated in this setting state. A mode switching circuit 31 provided in the video processor 4 detects a mode switching operation and generates a mode switching signal. The movement motor 26b is rotated by the mode switching signal, and the rotary filter 23 and the motor 26a are moved in the upward direction A in FIG. 1 for each rack 28a so that the second filter set is arranged on the illumination optical path. .
In addition, when the mode switch 13 is operated in the fluorescence observation mode setting state in which the second filter set is arranged on the illumination optical path, the moving motor 26b rotates in the reverse direction by the mode switching signal, and the rotation filter 23, the motor 26a is moved downward for each rack 28a, and the first filter set is placed on the illumination optical path.
As shown in FIG. 2, the rotary filter 23 is formed in a disk shape and has a double structure with the center as a rotation axis, and generates illumination light in the normal light observation mode on the outer circumferential portion. An R filter 23R, a G filter 23G, and a B filter 23B constituting the first filter set are arranged, and excitation light constituting the second filter set that generates illumination light in the case of fluorescence observation is arranged on the inner circumferential portion. Two R filters 23Re as color filters for generating the color filter and a G filter 23Gr as a color filter for generating the reference light are arranged.

図3は、Rフィルタ23R,Gフィルタ23G,Bフィルタ23Bの透過特性(実線)と、Rフィルタ23Reと、Gフィルタ23Gr(2点鎖線)の透過特性を示す。Rフィルタ23R,Gフィルタ23G,Bフィルタ23Bは、それぞれR,G,Bの波長帯域を一部がオーバラップする広帯域の透過特性を有する。
Rフィルタ23Reは、蛍光観察に用いられる蛍光薬剤に照射する励起光を透過するように設定されており、本実施形態においては、例えば580−645nmの波長帯域の光を透過するように設定している。また、蛍光観察の場合において、蛍光観察部位の形状、輪郭等の形態情報を取得するための参照光画像(反射光画像)成分を取得できるようにするための参照光を生成するGフィルタ23Grは、530−550nmの波長帯域の光を透過するように設定している。
また、図3においてバリアフィルタ18の透過特性を点線で示す。バリアフィルタ18は、参照光を生成するGフィルタ23Grの透過波長帯域となる530−550nmの波長帯域の光を透過すると共に、励起光の波長帯域をカットし、(複数種類の)蛍光薬剤が蛍光を発生する波長帯域を含むように例えば680−800nmの波長帯域の光を透過するように設定している。回転フィルタ23は、モータ26aにより、例えば図2の矢印Bで示すように回転される。
FIG. 3 shows the transmission characteristics (solid line) of the R filter 23R, the G filter 23G, and the B filter 23B, and the transmission characteristics of the R filter 23Re and the G filter 23Gr (two-dot chain line). The R filter 23R, the G filter 23G, and the B filter 23B have broadband transmission characteristics in which the R, G, and B wavelength bands partially overlap each other.
The R filter 23Re is set so as to transmit excitation light applied to a fluorescent agent used for fluorescence observation. In the present embodiment, the R filter 23Re is set so as to transmit light in a wavelength band of, for example, 580 to 645 nm. Yes. Further, in the case of fluorescence observation, the G filter 23Gr that generates reference light for enabling acquisition of reference light image (reflected light image) components for acquiring shape information such as the shape and contour of the fluorescence observation site is provided. It is set to transmit light in a wavelength band of 530 to 550 nm.
In FIG. 3, the transmission characteristics of the barrier filter 18 are indicated by dotted lines. The barrier filter 18 transmits light in the wavelength band of 530 to 550 nm, which is the transmission wavelength band of the G filter 23Gr that generates the reference light, cuts the wavelength band of the excitation light, and (a plurality of types of) fluorescent agents are fluorescent. For example, light of a wavelength band of 680 to 800 nm is set so as to be transmitted. The rotary filter 23 is rotated by a motor 26a, for example, as shown by an arrow B in FIG.

CCD17a,17bは信号線を介して、ビデオプロセッサ4内の切替回路32a,32bと接続される。両切替回路32a,32bは、モード切替回路31のモード切替信号により、連動して切り替えられる。なお、後述する切替回路38、42a,42b,42cもモード切替回路31のモード切替信号により、連動して切り替えられる。
図1の設定状態(通常光観察モードの設定状態)では、接点aがONし、この状態においてはビデオプロセッサ4内のCCDドライバ33は、CCD17aにCCD駆動信号を印加し、CCD17aは、その撮像面に結像された光学像を光電変換した撮像信号を出力し、この撮像信号は切替回路32aの接点aを経てビデオプロセッサ4内のアンプ34に入力される。蛍光観察モードの場合には、両切替回路32a,32b、37、42a,42b,42cは、接点bがONするように設定される。
アンプ34で増幅された撮像信号は、プロセス回路35に入力され、相関二重サンプリング(CDSと略記)処理されて信号成分を有するベースバンドの画像信号が生成される。プロセス回路35の出力信号は、A/D変換回路36に入力され、A/D変換回路36は、アナログの画像信号をデジタルの画像信号に変換して出力する。なお、本明細書においては、画像と該画像を表す画像信号とは、実質的に同じ意味で用いる。
The CCDs 17a and 17b are connected to switching circuits 32a and 32b in the video processor 4 through signal lines. Both switching circuits 32 a and 32 b are switched in conjunction with a mode switching signal from the mode switching circuit 31. Note that switching circuits 38, 42a, 42b, and 42c, which will be described later, are also switched in conjunction with a mode switching signal from the mode switching circuit 31.
In the setting state of FIG. 1 (normal light observation mode setting state), the contact a is turned on. In this state, the CCD driver 33 in the video processor 4 applies a CCD drive signal to the CCD 17a, and the CCD 17a captures the image thereof. An imaging signal obtained by photoelectrically converting the optical image formed on the surface is output, and this imaging signal is input to the amplifier 34 in the video processor 4 through the contact point a of the switching circuit 32a. In the fluorescence observation mode, the switching circuits 32a, 32b, 37, 42a, 42b, and 42c are set so that the contact b is turned on.
The imaging signal amplified by the amplifier 34 is input to the process circuit 35 and subjected to correlated double sampling (abbreviated as CDS) to generate a baseband image signal having a signal component. An output signal of the process circuit 35 is input to an A / D conversion circuit 36, which converts an analog image signal into a digital image signal and outputs the digital image signal. In this specification, an image and an image signal representing the image are used with substantially the same meaning.

A/D変換回路36から出力される画像信号は、ホワイトバランス(図1ではWSと略記)回路37に入力されると共に、スルーして切替回路38の接点bに入力される。
ホワイトバランス回路37は、通常光観察モードの設定状態(図1の設定状態)の場合において、白色の基準被写体を撮像した場合には、カラーモニタ5により基準被写体を内視鏡画像として表示した場合に、内視鏡画像が白色となるようにホワイトバランス回路37内のアンプのゲインを調整する。ホワイトバランス回路37から出力される画像信号は、切替回路38の接点aを経てセレクタ39に入力される。また、蛍光観察モードの場合においてホワイトバランス回路37をスルーした画像信号は接点bを経てセレクタ39に入力される。
セレクタ39は、タイミングジェネレータ(以下、TGと略記)45により、回転フィルタ23の回転に同期して入力される画像信号を3つの同時化メモリ40a,40b,40cに格納する。また、TG45は、制御回路27、CCDドライバ33、アンプ34,プロセス回路35、A/D変換回路36、ホワイトバランス回路37にタイミング信号等を印加し、それぞれがタイミング信号等に同期して動作する。
The image signal output from the A / D conversion circuit 36 is input to a white balance (abbreviated as WS in FIG. 1) circuit 37 and is input through the contact b of the switching circuit 38 through.
The white balance circuit 37 displays the reference subject as an endoscopic image on the color monitor 5 when the white reference subject is imaged in the normal light observation mode setting state (the setting state in FIG. 1). In addition, the gain of the amplifier in the white balance circuit 37 is adjusted so that the endoscopic image is white. The image signal output from the white balance circuit 37 is input to the selector 39 via the contact point “a” of the switching circuit 38. In the fluorescence observation mode, the image signal that has passed through the white balance circuit 37 is input to the selector 39 via the contact point b.
The selector 39 stores an image signal input in synchronization with the rotation of the rotary filter 23 in three synchronization memories 40a, 40b, and 40c by a timing generator (hereinafter abbreviated as TG) 45. The TG 45 applies timing signals to the control circuit 27, the CCD driver 33, the amplifier 34, the process circuit 35, the A / D conversion circuit 36, and the white balance circuit 37, and each operates in synchronization with the timing signals. .

本実施形態においては、通常光観察モードの設定状態の場合には、CCD17aによってR,G,Bの照明光の場合にそれぞれ撮像された場合のR,G,Bの色成分画像がR,G,Bの画像として、同時化メモリ40a,40b,40cにそれぞれ格納される。これに対して、蛍光観察モードの設定状態の場合には、CCD17bによってRの励起光で撮像された場合の蛍光撮像画像に対応する蛍光画像が同時化メモリ40aに、Gの参照光の場合で撮像された場合の参照光撮像画像に対応するGの色成分画像が参照光画像として、2つの同時化メモリ40b,40cに格納されるように色成分を割り当てる。
従って、同時化メモリ40a,40b,40cは、撮像部により被検体10からの蛍光を受光して生成される蛍光画像と、参照光で照明された被検体10からの光を受光して生成される参照光画像と、をそれぞれ異なる複数の色成分に割り当てる色割り当て部を形成する。
同時化メモリ40a,40b,40cに格納された画像は、1フレーム期間後に同時に読み出され、マトリクス回路41を形成する3つの乗算回路41a,41b,41cにそれぞれ入力されると共に、切替回路42a,42b,42cの接点aにそれぞれ印加される。
In the present embodiment, when the normal light observation mode is set, R, G, and B color component images captured by the CCD 17a in the case of R, G, and B illumination light are respectively R, G. , B images are stored in the synchronization memories 40a, 40b, 40c, respectively. On the other hand, in the setting state of the fluorescence observation mode, the fluorescence image corresponding to the fluorescence captured image captured by the CCD 17b with the R excitation light is stored in the synchronization memory 40a in the case of the G reference light. The color components are allocated so that the G color component image corresponding to the reference light captured image when captured is stored in the two synchronization memories 40b and 40c as the reference light image.
Therefore, the synchronization memories 40a, 40b, and 40c are generated by receiving the fluorescence image generated by receiving the fluorescence from the subject 10 by the imaging unit and the light from the subject 10 illuminated with the reference light. And a color allocating unit that allocates the reference light image to a plurality of different color components.
The images stored in the synchronization memories 40a, 40b, and 40c are simultaneously read out after one frame period and are input to the three multiplication circuits 41a, 41b, and 41c forming the matrix circuit 41, and the switching circuits 42a, The voltage is applied to the contact point a of 42b and 42c, respectively.

マトリクス回路41は、色割り当て部を形成する同時化メモリ40a,40b,40cから出力される3つの色成分画像に対して、演算部を構成するマトリクス回路41によりマトリクス変換を行うことにより合成画像を生成する。
切替回路42a,42b,42cの各接点bには、マトリクス回路41の乗算回路41a,41b,41cで乗算された合成画像を形成する3つの色成分画像がそれぞれ印加される。切替回路42a,42b,42cもモード切替信号により連動して切り替えられる。
マトリクス回路41を形成する乗算回路41a,41b,41cには、マトリクス係数決定回路8から、キーボード7による入力情報としての(蛍光観察モードの際に被検体10に投与されている蛍光薬剤の視認性に関する情報)に対応して可変設定される3つのマトリクス係数要素Mr,Mg,Mb(図4A参照)からなるマトリクス係数Mが(乗算係数として)入力される。なお、以下に説明するようにマトリクス係数要素Mrは、視認性に関する情報が変化しても固定された値となる。
The matrix circuit 41 performs a matrix conversion on the three color component images output from the synchronization memories 40a, 40b, and 40c forming the color allocation unit by the matrix circuit 41 that constitutes the calculation unit, thereby generating a composite image. Generate.
Three color component images forming a composite image multiplied by the multiplication circuits 41a, 41b, and 41c of the matrix circuit 41 are applied to the respective contacts b of the switching circuits 42a, 42b, and 42c. The switching circuits 42a, 42b, and 42c are also switched in conjunction with the mode switching signal.
The multiplication circuits 41a, 41b, and 41c forming the matrix circuit 41 are supplied from the matrix coefficient determination circuit 8 as the input information by the keyboard 7 (visibility of the fluorescent drug administered to the subject 10 in the fluorescence observation mode). The matrix coefficient M composed of three matrix coefficient elements Mr, Mg, and Mb (see FIG. 4A) that are variably set corresponding to (information on the information) is input (as a multiplication coefficient). Note that, as will be described below, the matrix coefficient element Mr has a fixed value even if information regarding visibility changes.

そして、マトリクス回路41の乗算回路41a,41b,41cは、同時化メモリ40a,40b,40cから出力される蛍光画像の画像信号としてのRの色信号、参照光画像の画像信号としてのG、Bの色信号と、マトリクス係数Mとを乗算した3つの乗算信号をマトリクス回路41の出力信号として切替回路42a,42b,42cの各接点bに印加する。具体的には、マトリクス回路41に入力されるR,G,Bの(色信号の)色成分画像をRin,Gin,Binとし、マトリクス回路41から出力されるR,G,Bの(色信号の)色成分画像をRout,Gout,Boutとし、マトリクス係数Mを規定する複数の係数要素となる3つのマトリクス係数要素をMr,Mg,Mbとした場合、マトリクス回路41は、以下の式(1)ようにマトリクス変換を行い、変換された色信号の色成分画像Rout,Gout,Boutを合成画像として出力する。本実施形態においては、マトリクス係数要素をMrを1に規格化している(Mr=1)。 The multiplication circuits 41a, 41b, and 41c of the matrix circuit 41 are R color signals as image signals of fluorescent images output from the synchronization memories 40a, 40b, and 40c, and G and B as image signals of reference light images. The three multiplied signals obtained by multiplying the color signal by the matrix coefficient M are applied as output signals of the matrix circuit 41 to the respective contacts b of the switching circuits 42a, 42b, and 42c. Specifically, R, G, and B (color signals) color component images input to the matrix circuit 41 are Rin, Gin, and Bin, and R, G, and B (color signals) output from the matrix circuit 41 are displayed. When the color component image is Rout, Gout, and Bout, and three matrix coefficient elements that are a plurality of coefficient elements that define the matrix coefficient M are Mr, Mg, and Mb, the matrix circuit 41 has the following equation (1) The matrix conversion is performed as described above, and the color component images Rout, Gout, and Bout of the converted color signals are output as synthesized images. In the present embodiment, the matrix coefficient elements are normalized to Mr = 1 (Mr = 1).

[式1]

Figure 0006261446
なお、式(1)と図4Aの表とから分かるように、マトリクス係数Mを形成する係数要素としてのMr,Mg,Mb(図4AではMr:Mg:Mb)は、マトリクス変換された合成画像におけるR,G,B色成分画像が生成される場合の係数要素の値で示している。
まず、色割り当て部を構成する同時化メモリ40a,40b,40cは、蛍光画像が割り当てられた第1の色(第1の色は赤色)の画像と、前記参照光画像がそれぞれ割り当てられた第2の色(第2の色は緑色)の画像及び第3の色(第3の色は青色)の画像を生成する。 [Formula 1]
Figure 0006261446
As can be seen from Equation (1) and the table of FIG. 4A, Mr, Mg, and Mb (Mr: Mg: Mb in FIG. 4A) as coefficient elements forming the matrix coefficient M are matrix-converted composite images. The R, G, and B color component images in FIG.
First, the synchronization memories 40a, 40b, and 40c constituting the color assigning unit are the first color (first color is red) to which the fluorescent image is assigned and the first light to which the reference light image is assigned. An image of two colors (second color is green) and a third color (third color is blue) are generated.

そして、演算部を構成するマトリクス回路41は、第1の色の画像に対して、マトリクス係数Mをそれぞれ形成する第1のマトリクス係数要素Mg、第2のマトリクス係数要素Mbそれぞれを乗算して(蛍光の強度による病変部の)視認性の機能に密接に関連する前記第2の色、蛍光の強度が変動した場合における該変動を抑制して知覚させる前記第3の色にそれぞれ相当し、合成画像を形成する第2の画像となる色成分画像Gout、第3の画像となる色成分画像Boutをそれぞれ生成し、更に第2の色の画像及び前記第3の色の画像に対して、マトリクス係数Mを形成する一定の値となる第3のマトリクス係数要素Mrを乗算して加算したものを前記第1の色に相当し、合成画像を形成する第1の画像としてのRoutを生成する。
マトリクス回路41は、式(1)に示すようにマトリクスの対角線に沿った係数要素が0となるマトリクス係数Mを用いて入力される(色割り当て部が出力する)複数の色成分画像から合成画像を生成するマトリクス変換を行うため、マトリクス変換により色成分画像全てに対してそれぞれ異なる色の色成分画像に色変換を行って合成画像を生成するとも言える。
Then, the matrix circuit 41 constituting the arithmetic unit multiplies the first color image by the first matrix coefficient element Mg and the second matrix coefficient element Mb, which respectively form the matrix coefficient M ( This corresponds to the second color closely related to the visibility function of the lesion (by the intensity of fluorescence) and the third color to be perceived while suppressing the fluctuation when the fluorescence intensity fluctuates. A color component image Gout that is a second image that forms an image and a color component image Bout that is a third image are generated, respectively, and a matrix for the second color image and the third color image. A value obtained by multiplying and adding the third matrix coefficient element Mr, which is a constant value forming the coefficient M, corresponds to the first color, and Rout as a first image forming a composite image is generated.
The matrix circuit 41 receives a composite image from a plurality of color component images (output from the color assignment unit) that are input using a matrix coefficient M in which the coefficient elements along the diagonal of the matrix are 0 as shown in Expression (1). Therefore, it can be said that a composite image is generated by performing color conversion on color component images of different colors for all color component images by matrix conversion.

式(1)により、蛍光画像の色成分となる蛍光色の病変部に対する該蛍光色の視認し易さとしての視認性と、蛍光強度の変動に対する(背景画像の)背景色の変動しにくさ(又は背景色の変動を抑制して知覚させる機能)としての安定性とを保持する合成画像を生成するようにマトリクス変換を行う。
マトリクス回路41は、実質的に、蛍光観察モードの場合においてのみ、入力される画像信号をマトリクス係数Mを用いてマトリクス変換した合成画像(の画像信号)を後段側に出力する。図1においてはマトリクス回路41の外部に切替回路42a,42b,42cを設けた構成を示しているが、マトリクス回路41が切替回路42a,42b,42cを含む構成にし、蛍光観察モードの場合においては入力される複数の色成分画像(の画像信号)に対してマトリクス変換を行った合成画像(の画像信号)を後段側に出力し、通常光観察モードにおいては、入力される画像(の画像信号)に対してマトリクス変換を行うことなく、入力される画像(の画像信号)をそのまま出力するようにしても良い。
According to the equation (1), the visibility of the fluorescent color as a color component of the fluorescent image is easily recognized and the background color (background image) is less likely to fluctuate with respect to the fluctuation of the fluorescent intensity. Matrix conversion is performed so as to generate a composite image that retains stability as a function (or a function to perceive the background color while suppressing fluctuations).
The matrix circuit 41 outputs a composite image (image signal) obtained by performing matrix conversion on the input image signal using the matrix coefficient M to the subsequent stage substantially only in the fluorescence observation mode. FIG. 1 shows a configuration in which the switching circuits 42a, 42b, and 42c are provided outside the matrix circuit 41. However, in the case of the fluorescence observation mode, the matrix circuit 41 includes the switching circuits 42a, 42b, and 42c. A composite image (image signal) obtained by performing matrix conversion on a plurality of input color component images (image signals thereof) is output to the subsequent stage. In the normal light observation mode, the input image (image signal thereof) is output. The input image (its image signal) may be output as it is without performing matrix conversion.

マトリクス係数決定回路8は、図4Aに示すように視認性に関する情報としての蛍光薬剤のTBR値(Tumor Backgraund Ratio Value)と、(入力される色成分画像Rin,Gin,Binに対応して設定された)3つのマトリクス係数要素Mr,Mg,Mb(上記のようにMrは1に規格化)からなるマトリクス係数Mとを対応付けた対応付け情報を表形式で記憶(格納)したルックアップテーブル(LUTと略記)8aを備える。また、LUT8aには、代表的なTBR値に対応付けた蛍光薬剤M1,M2,M3,…Mn…の情報も格納されている。
従って、術者等のユーザは、キーボード7から蛍光観察に用いる蛍光薬剤の視認性に関する情報としてのTBR値をマトリクス係数決定回路8に入力することにより、マトリクス係数決定回路8は、TBR値に対応するマトリクス係数MをLUT8aから選択して決定し、マトリクス回路41に出力する。演算部を構成するマトリクス回路41は、決定されたマトリクス係数Mを用いてマトリクス回路41に入力される入力画像信号と乗算する演算を行う。
As shown in FIG. 4A, the matrix coefficient determination circuit 8 is set in correspondence with the TBR value (Tumor Backgraund Ratio Value) of the fluorescent agent as information relating to visibility and (input color component images Rin, Gin, Bin). A look-up table (stored) that stores (stores) the association information in association with the matrix coefficient M composed of three matrix coefficient elements Mr, Mg, Mb (Mr is normalized to 1 as described above) Abbreviated as LUT) 8a. The LUT 8a also stores information on the fluorescent agents M1, M2, M3,... Mn, which are associated with typical TBR values.
Therefore, a user such as an operator inputs a TBR value as information relating to the visibility of the fluorescent agent used for fluorescence observation from the keyboard 7 to the matrix coefficient determination circuit 8, so that the matrix coefficient determination circuit 8 corresponds to the TBR value. The matrix coefficient M to be selected is selected from the LUT 8 a and determined and output to the matrix circuit 41. The matrix circuit 41 constituting the calculation unit performs a calculation to multiply the input image signal input to the matrix circuit 41 using the determined matrix coefficient M.

蛍光薬剤のTBR値は、病変部に対応する蛍光高輝度領域と、病変部の周辺にある正常部(背景部)に対応する蛍光低輝度領域との各々の輝度の比率として定義される。図4BはTBR値(の定義)の説明図を示す。
未定又は既知のTBR値を有する蛍光薬剤を投与して病変部51をCCD17bにより蛍光撮像した場合に得られる病変部51の画素値をItとし、病変部51の周辺の正常部52をCCD16bにより蛍光撮像した場合に得られる正常部52の画素値をIbとした場合、TBR(値)Vは
V=It/Ib (2)
により得られる。より単純化して、TBR(値)Vは、蛍光薬剤を投与した場合における病変部51と正常部52とを蛍光撮像した場合の輝度の比率を表すと述べても良い。このようにして、蛍光薬剤に対して予めTBR値を算出することができる。そして、LUT8aに蛍光薬剤に対応付けてTBR値を格納することができる。
The TBR value of the fluorescent agent is defined as the ratio of the respective luminances of the fluorescent high luminance region corresponding to the lesioned part and the fluorescent low luminance region corresponding to the normal part (background part) around the lesioned part. FIG. 4B is an explanatory diagram of (definition) the TBR value.
When a fluorescent drug having an unknown or known TBR value is administered and the lesioned part 51 is fluorescently imaged by the CCD 17b, the pixel value of the lesioned part 51 obtained as It is set as It, and the normal part 52 around the lesioned part 51 is fluorescent by the CCD 16b. When the pixel value of the normal portion 52 obtained when the image is taken is Ib, TBR (value) V is V = It / Ib (2)
Is obtained. More simply, it may be said that the TBR (value) V represents a luminance ratio when the lesioned part 51 and the normal part 52 are fluorescently imaged when the fluorescent agent is administered. In this way, the TBR value can be calculated in advance for the fluorescent agent. Then, the TBR value can be stored in the LUT 8a in association with the fluorescent agent.

また、ユーザは、キーボード7からTBR値を入力する代わりに、蛍光観察に用いる蛍光薬剤の情報を入力することにより、マトリクス係数決定回路8は、入力された蛍光薬剤に対応するマトリクス係数MをLUT8aの対応付け情報から決定し、マトリクス回路41に出力することもできる。
また、マトリクス係数決定回路8は、LUT8aには含まれないTBR値の場合に対しても、LUT8aに格納されている代表的な情報を用いて、当該TBR値に対応するマトリクス係数を補間により決定する例えば補間回路8bを備える。
切替回路42a,42b,42cから出力される画像信号は、それぞれD/A変換回路43a,43b,43cに入力され、切替回路42a,42b,42cは、入力信号をアナログの画像信号に変換して、カラーモニタ5のR,G,Bチャンネルに出力すると共に、符号化回路44に出力する。カラーモニタ5は、R,G,Bチャンネルに入力された第2の合成画像の画像信号をそれぞれR,G,Bの色でカラー表示する。
Further, instead of inputting the TBR value from the keyboard 7, the user inputs information on the fluorescent agent used for fluorescence observation, so that the matrix coefficient determination circuit 8 sets the matrix coefficient M corresponding to the input fluorescent agent to the LUT 8a. It is also possible to determine from the association information and output to the matrix circuit 41.
In addition, the matrix coefficient determination circuit 8 determines the matrix coefficient corresponding to the TBR value by interpolation using the representative information stored in the LUT 8a even when the TBR value is not included in the LUT 8a. For example, an interpolation circuit 8b is provided.
The image signals output from the switching circuits 42a, 42b, and 42c are respectively input to the D / A conversion circuits 43a, 43b, and 43c. The switching circuits 42a, 42b, and 42c convert the input signals into analog image signals. And output to the R, G and B channels of the color monitor 5 and to the encoding circuit 44. The color monitor 5 displays the image signals of the second composite image input to the R, G, and B channels in colors of R, G, and B, respectively.

符号化された画像信号は、ファイリング装置6に出力され、ファイリングされる。
通常光観察モードにおいては、公知のようにR,G,Bの照明光のもとで観察部位を撮像したR,G,Bの色信号の画像を通常光画像としてカラーモニタ5でカラー表示する。
これに対して、蛍光観察モードにおいては、励起光の照明の下で被検体10における患部等の観察部位から発せられる蛍光により撮像した場合の蛍光画像をRチャンネルの色に割り当て、Gの参照光による照明もとで(反射光として)撮像した場合の参照光画像をG及びBチャンネルの色に割り当てて、複数の色成分画像を生成する。
更に、Rチャンネルの色と、G及びBチャンネルの色に対してマトリクス回路41により蛍光薬剤に応じて決定したマトリクス係数Mを用いてマトリクス変換を行い、生成した合成画像の画像をカラーモニタ5に出力し、カラーモニタ5により、視認性と安定性を確保した擬似カラーの合成画像を表示する。
The encoded image signal is output to the filing device 6 and filed.
In the normal light observation mode, as is well known, an image of R, G, B color signals obtained by imaging an observation site under R, G, B illumination light is displayed in color on the color monitor 5 as a normal light image. .
On the other hand, in the fluorescence observation mode, a fluorescence image obtained by imaging with fluorescence emitted from an observation site such as an affected part in the subject 10 under illumination of excitation light is assigned to the color of the R channel, and the G reference light A reference light image when imaged under illumination by (as reflected light) is assigned to the colors of the G and B channels, and a plurality of color component images are generated.
Further, matrix conversion is performed on the R channel color and the G and B channel colors using the matrix coefficient M determined according to the fluorescent agent by the matrix circuit 41, and the generated composite image is displayed on the color monitor 5. Then, the color monitor 5 displays a pseudo-color composite image ensuring visibility and stability.

図1に示すようにモード切替回路31は、モード切替信号を調光パラメータ切替回路46に出力する。調光パラメータ切替回路46は、回転フィルタ23の第1のフィルタ組あるいは第2のフィルタ組に応じた調光パラメータを調光回路47に出力し、調光回路47は調光パラメータ切替回路46からの調光パラメータに基づき光源装置3の絞り22を制御し、適正な明るさ制御を行う。
蛍光観察モードにおける複数の色成分画像を生成する色割り当て部を少なくとも含む画像生成回路48は、図1におけるアンプ34〜同時化メモリ40a、40b、40cにより構成される。
蛍光観察モードにおいてカラーモニタ5で表示される蛍光画像の色成分画像と参照光画像の色成分画像とを合成する合成画像は、上記のように蛍光画像の色成分画像と、蛍光画像の背景画像となる参照光画像の色成分画像とからなる複数の色成分画像からマトリクス変換により生成される。
As shown in FIG. 1, the mode switching circuit 31 outputs a mode switching signal to the dimming parameter switching circuit 46. The dimming parameter switching circuit 46 outputs the dimming parameters corresponding to the first filter group or the second filter group of the rotary filter 23 to the dimming circuit 47, and the dimming circuit 47 is supplied from the dimming parameter switching circuit 46. The aperture 22 of the light source device 3 is controlled based on the dimming parameter, and appropriate brightness control is performed.
The image generation circuit 48 including at least a color assignment unit that generates a plurality of color component images in the fluorescence observation mode is configured by the amplifier 34 to the synchronization memories 40a, 40b, and 40c in FIG.
The composite image that combines the color component image of the fluorescence image displayed on the color monitor 5 and the color component image of the reference light image in the fluorescence observation mode is the color component image of the fluorescence image and the background image of the fluorescence image as described above. Is generated by matrix conversion from a plurality of color component images composed of the color component images of the reference light image.

本実施形態においては、蛍光観察モードにおいてカラーモニタ5に表示する擬似カラーの合成画像を表示する場合、人間の視覚神経伝達モデルにおいて視覚上、鋭敏な特性を示す赤色のチャンネルに割り当てられた蛍光画像から、式(1)のようにTBR値に応じて可変設定されるマトリクス変換を行うことにより、TBR値が変化した場合においても、蛍光画像を表す赤色の病変部51を視認し易くする視認性と、安定性を確保した合成画像を生成する。換言すると、TBR値が変化した場合において、マトリクス係数Mを固定した場合には、視認性と安定性が適切に設定されない画像になってしまう欠点を、TBR値に応じてマトリクス係数Mを可変設定することにより、この欠点を解消する。
また、本実施形態においては、マトリクス係数決定回路8は、蛍光薬剤の特性として、TBRが大きい(高い)場合には、安定性を確保する機能(要因)を大きくして、視認性と安定性を確保し、TBRが小さい(低い)場合には、視認性を確保する機能(要因)を大きくして、視認性を優先して確保するようにマトリクス係数を決定する。なお、蛍光薬剤としては、視認性が高いのもの方が望ましいが、実際には蛍光薬剤の種類によって、視認性の高いものと低いものが存在する。
In the present embodiment, when a pseudo color composite image to be displayed on the color monitor 5 is displayed in the fluorescence observation mode, the fluorescence image assigned to the red channel showing visually sensitive characteristics in the human visual nerve transmission model. From the above, by performing matrix conversion that is variably set according to the TBR value as in Expression (1), even when the TBR value changes, the visibility that makes it easy to visually recognize the red lesion 51 representing the fluorescent image Then, a composite image ensuring stability is generated. In other words, if the matrix coefficient M is fixed when the TBR value is changed, the matrix coefficient M is variably set according to the TBR value. This eliminates this drawback.
In the present embodiment, the matrix coefficient determination circuit 8 increases the function (factor) for ensuring stability when the TBR is large (high) as the characteristic of the fluorescent agent, so that the visibility and stability are increased. When the TBR is small (low), the function (factor) for ensuring the visibility is increased, and the matrix coefficient is determined so that the visibility is given priority. In addition, as a fluorescent agent, the one with high visibility is desirable, but actually there are one with high visibility and one with low visibility depending on the type of fluorescent agent.

図4Aに示すようにLUT8aには、以下のようなマトリクス係数Mを予め記憶(格納)する記憶部の機能を有する。
LUT8aは、蛍光薬剤のTBR値が小さくなる程、視認性の機能を高めるようにマトリクス回路41に入力される蛍光画像の色成分画像(に相当する入力信号)Rinに乗算する(第1のマトリクス係数要素としての)マトリクス係数要素Mgを大きくし、蛍光薬剤のTBR値が大きくなる程、安定性の機能を高めるように蛍光画像の色成分画像(に相当する入力信号)Rinに乗算する(第2のマトリクス係数要素としての)マトリクス係数要素Mbを大きくして、合成画像の色成分画像としての緑色成分画像としてのGout、青色成分画像としてのBoutをそれぞれ生成するように、蛍光薬剤の視認性に関する情報(具体的にはTBR値)に応じて、マトリクス係数要素Mg,Mbを持つマトリクス係数Mを記憶(格納)している。
また、LUT8aは、参照光画像が割り当てられた第2の色(緑色)の画像及び前記第3の色(青色)の画像に対して、前記マトリクス係数を形成する一定の値(具体的には1)となる第3のマトリクス係数要素となるマトリクス係数要素Mrを乗算して加算したものを第1の色(赤色)に相当し、合成画像を形成する第1の画像となる色成分画像Routを生成する。
As shown in FIG. 4A, the LUT 8a has the function of a storage unit that stores (stores) matrix coefficients M as follows in advance.
The LUT 8a multiplies the color component image (corresponding input signal) Rin of the fluorescent image input to the matrix circuit 41 so as to improve the visibility function as the TBR value of the fluorescent agent decreases (first matrix). The matrix coefficient element Mg (as the coefficient element) is increased, and the color component image (corresponding to the input signal) Rin of the fluorescent image is multiplied (first input) so as to increase the stability function as the TBR value of the fluorescent agent increases. The visibility of the fluorescent agent so that the matrix coefficient element Mb (as the matrix coefficient element of 2) is increased to generate Gout as the green component image and Bout as the blue component image, respectively, as the color component image of the composite image The matrix coefficient M having matrix coefficient elements Mg and Mb is stored (stored) in accordance with the information regarding (specifically, the TBR value).
Further, the LUT 8a is a fixed value (specifically, the matrix coefficient is formed with respect to the second color (green) image and the third color (blue) image to which the reference light image is assigned. A color component image Rout serving as the first image forming the composite image corresponds to the first color (red), which is obtained by multiplying and adding the matrix coefficient element Mr serving as the third matrix coefficient element 1). Is generated.

本実施形態の内視鏡装置1は、蛍光薬剤が投与される被検体10を照明するために、前記蛍光薬剤を励起して蛍光を発生させる励起光と、前記被検体10の形態情報を取得するための参照光とを発生させる光源部を構成する光源装置3と、前記被検体10からの光を受光して、撮像画像(の信号)を生成する撮像部を構成するCCD17bと、前記蛍光薬剤の視認性に関する情報を入力する情報入力部を構成するキーボード7と、前記撮像部において前記被検体10からの蛍光を受光して生成される蛍光画像と、前記撮像部において前記参照光で照明された前記被検体10からの光を受光して生成される参照光画像と、をそれぞれ異なる複数の色成分に割り当てる色割り当て部を形成する同時化メモリ40a,40b,40cと、前記色割り当て部において割り当てられた前記異なる複数の色成分(画像)に対してマトリクス係数を乗算するマトリクス演算を行い、観察画像を表示するための表示部としてのカラーモニタ5にマトリクス演算の結果を出力する演算部を構成するマトリクス回路41と、前記情報入力部から入力される前記蛍光薬剤の視認性に関する情報が、前記視認性の機能が高い値の場合程、前記蛍光の強度が変動した場合における前記表示部における前記観察画像の色調の変化を抑制するように、前記演算部が乗算に用いる前記マトリクス係数を決定する決定部を構成するマトリクス係数決定回路8と、を有することを特徴とする。 In order to illuminate the subject 10 to which the fluorescent agent is administered, the endoscope apparatus 1 according to the present embodiment acquires excitation light that excites the fluorescent agent to generate fluorescence, and morphological information of the subject 10. A light source device 3 that constitutes a light source unit that generates reference light for generating light, a CCD 17b that constitutes an imaging unit that receives light from the subject 10 and generates a captured image (signal thereof), and the fluorescence A keyboard 7 constituting an information input unit for inputting information on drug visibility, a fluorescence image generated by receiving fluorescence from the subject 10 in the imaging unit, and illumination with the reference light in the imaging unit A synchronization memory 40a, 40b, 40c for forming a color allocation unit that allocates the reference light image generated by receiving the light from the subject 10 to a plurality of different color components, and the color allocation The matrix calculation is performed by multiplying the plurality of different color components (images) assigned by the image processing unit by a matrix coefficient, and the result of the matrix calculation is output to the color monitor 5 as a display unit for displaying the observation image. The matrix circuit 41 constituting the calculation unit and the information on the visibility of the fluorescent agent input from the information input unit have a higher value of the visibility function. And a matrix coefficient determination circuit 8 that constitutes a determination unit that determines the matrix coefficient used for multiplication by the arithmetic unit so as to suppress a change in color tone of the observation image in the display unit.

次に本実施形態の動作を図5のフローチャートを参照して説明する。
内視鏡装置1の電源が投入され、初期設定の状態で内視鏡装置1は動作状態となる。例えば通常観察モードで動作するように初期設定がされているとする。この場合には、ステップS1に示すように内視鏡装置1は、通常光観察モードで動作する。
通常光観察モードの場合には、光源装置3は図1に示す状態、つまり照明光路上に回転フィルタ23の外周側が配置された状態となり、またビデオプロセッサ4は切替回路32a,32b,38,42a,42b,42cにおける各接点aがONした状態となる。ステップS2に示すように光源装置3は、通常光としてのR,G,Bの面順次光)を発生する。また、ビデオプロセッサ4は、CCD17aにCCD駆動信号を印加し、CCD17aにより撮像した撮像画像の撮像信号に対する信号処理を行う。
ステップS3に示すようにカラーモニタ5は、通常光で撮像した通常光画像を表示する。術者等のユーザは、内視鏡2を被検体10内に挿入し、被検体10内の患部等を観察する。患部等が病変部の可能性があるような場合において、蛍光観察モードで観察することを望む場合には、ユーザはモード切替スイッチ13を操作し、蛍光観察モードに切り替える。
Next, the operation of this embodiment will be described with reference to the flowchart of FIG.
The power supply of the endoscope apparatus 1 is turned on, and the endoscope apparatus 1 is in an operating state in an initial setting state. For example, it is assumed that initial settings are made so as to operate in the normal observation mode. In this case, as shown in step S1, the endoscope apparatus 1 operates in the normal light observation mode.
In the normal light observation mode, the light source device 3 is in the state shown in FIG. 1, that is, the outer peripheral side of the rotary filter 23 is disposed on the illumination optical path, and the video processor 4 is in the switching circuits 32a, 32b, 38, 42a. , 42b, 42c, each contact a is turned on. As shown in step S2, the light source device 3 generates R, G, and B plane sequential light as normal light. In addition, the video processor 4 applies a CCD drive signal to the CCD 17a, and performs signal processing on the imaging signal of the captured image captured by the CCD 17a.
As shown in step S3, the color monitor 5 displays a normal light image captured with normal light. A user such as a surgeon inserts the endoscope 2 into the subject 10 and observes the affected area in the subject 10. When it is desired that the affected part or the like is a lesioned part and observation is performed in the fluorescence observation mode, the user operates the mode switch 13 to switch to the fluorescence observation mode.

ステップS4に示すようにモード切替回路31は、モード切替スイッチ13の操作の有無、換言すると観察モードの切替を監視している。観察モードの切替が行われない場合には、ステップS3の処理に戻り、カラーモニタ5は、通常光で撮像した通常光画像を表示する。
一方、観察モードの切替の操作が行われるとモード切替回路31は、モード切替信号を発生し、光源装置3のモータ26bを駆動し、回転フィルタ23の内周側部分が照明光路上に位置するように移動する。つまり、ステップS5に示すように光源装置3は、蛍光観察モードに対応した照明光としての励起光と参照光を発生する。
また、モード切替回路31は、モード切替信号によりビデオプロセッサ4内の切替回路32a,32b,38,42a,42b,42cにおける各接点bがONする状態に切り替える。
また、ステップS6に示すようにユーザは、キーボード7から被検体10に投与した蛍光薬剤の視認性に関する情報としての例えばTBR値を入力する。
As shown in step S4, the mode switching circuit 31 monitors whether the mode switch 13 is operated, in other words, the observation mode switching. If the observation mode is not switched, the process returns to step S3, and the color monitor 5 displays a normal light image captured with normal light.
On the other hand, when the observation mode switching operation is performed, the mode switching circuit 31 generates a mode switching signal, drives the motor 26b of the light source device 3, and the inner peripheral side portion of the rotary filter 23 is positioned on the illumination optical path. To move. That is, as shown in step S5, the light source device 3 generates excitation light and reference light as illumination light corresponding to the fluorescence observation mode.
Further, the mode switching circuit 31 switches to a state in which each contact b in the switching circuits 32a, 32b, 38, 42a, 42b, 42c in the video processor 4 is turned on by the mode switching signal.
Further, as shown in step S <b> 6, the user inputs, for example, a TBR value as information on the visibility of the fluorescent drug administered to the subject 10 from the keyboard 7.

すると、ステップS7に示すようにマトリクス係数決定回路8は、入力されたTBR値に対応するマトリクス係数MをLUT8aから決定する。つまり、マトリクス係数決定回路8は、実際に使用される蛍光薬剤に対応したマトリクス係数Mを決定する。マトリクス係数決定回路8は、決定したマトリクス係数Mをマトリクス回路41に出力する。マトリクス回路41は、式(1)に従ったマトリクス演算を行い、演算結果で生成した合成画像を形成する3つの色成分画像Rout,Gout,Boutを出力する。
マトリクス回路41に入力される蛍光画像と参照光画像に対してマトリクス回路41によりマトリクス変換により生成される合成画像は、蛍光画像と参照光画像とをTBR値に応じて適切な視認性と安定性を持つように合成したものとなる。
そして、ステップS8に示すようにカラーモニタ5は、蛍光画像と参照光画像を合成した合成画像を観察画像として表示する。
Then, as shown in step S7, the matrix coefficient determination circuit 8 determines the matrix coefficient M corresponding to the input TBR value from the LUT 8a. That is, the matrix coefficient determination circuit 8 determines the matrix coefficient M corresponding to the fluorescent agent actually used. The matrix coefficient determination circuit 8 outputs the determined matrix coefficient M to the matrix circuit 41. The matrix circuit 41 performs matrix calculation according to Expression (1), and outputs three color component images Rout, Gout, and Bout that form a composite image generated by the calculation result.
The composite image generated by matrix conversion by the matrix circuit 41 with respect to the fluorescence image and the reference light image input to the matrix circuit 41 is suitable for visibility and stability of the fluorescence image and the reference light image according to the TBR value. It will be synthesized to have.
As shown in step S8, the color monitor 5 displays a synthesized image obtained by synthesizing the fluorescent image and the reference light image as an observation image.

ユーザは、合成画像を観察することにより、通常光画像の場合よりも患部における蛍光薬剤の集積の程度に対応した蛍光強度の様子から病変の程度を診断し易くなる。
ステップS9に示すようにモード切替回路31は、モード切替スイッチ13の操作の有無、換言すると観察モードの切替を監視している。観察モードの切替が行われない場合には、ステップS8の処理に戻り、カラーモニタ5は、蛍光観察モードで撮像した第2の合成画像を表示する状態を継続する。
一方、観察モードの切替の操作が行われるとモード切替回路31は、モード切替信号を発生し、光源装置3のモータ26bをステップS5の場合と逆方向に移動させるように回転駆動し、図1に示す状態に設定する。つまり、ステップS10に示すように光源装置3はステップS2の場合と同様に通常光を発生する。そして、ステップS3に示す処理に戻る。
By observing the composite image, the user can more easily diagnose the degree of the lesion from the state of the fluorescence intensity corresponding to the degree of accumulation of the fluorescent agent in the affected area than in the case of the normal light image.
As shown in step S9, the mode switching circuit 31 monitors whether the mode switch 13 is operated, in other words, the observation mode switching. If the observation mode is not switched, the process returns to step S8, and the color monitor 5 continues to display the second composite image captured in the fluorescence observation mode.
On the other hand, when the operation for switching the observation mode is performed, the mode switching circuit 31 generates a mode switching signal and rotationally drives the motor 26b of the light source device 3 so as to move in the direction opposite to that in step S5. Set to the state shown in. That is, as shown in step S10, the light source device 3 generates normal light as in step S2. Then, the process returns to step S3.

なお、図5においては、蛍光薬剤のTBR値を入力する処理を、蛍光観察モードに切り替えた後のステップS6において行う場合で説明したが、ステップS6よりも前に行うようにしても良い。例えば初期設定を行う最初のステップにおいて、蛍光薬剤のTBR値を入力し、マトリクス係数決定回路8は、TBR値の入力後、又は蛍光観察モードに切り替えられた直後に、決定したマトリクス係数Mをマトリクス回路41に出力するようにしても良い。
また、図5においては、キーボード7から入力されたTBR値がLUT8aに存在する(又はLUT8aに含まれる値の)場合で説明したが、入力されるTBR値が、LUT8aに含まれないTBR値の場合においても、図6に示すように補間回路8bにより補間を用いて対応するマトリクス係数を決定するようにしても良い。
図5のステップS6により、蛍光薬剤のTBR値が入力された場合、ステップS11に示すようにマトリクス係数決定回路8(の補間回路8b)は、入力されたTBR値がLUT8aに存在するか否かを判定する。以下においては入力されたTBR値をVで表す。
In addition, in FIG. 5, although the process which inputs the TBR value of a fluorescent agent was performed in step S6 after switching to fluorescence observation mode, you may make it perform before step S6. For example, in the first step of performing the initial setting, the TBR value of the fluorescent agent is input, and the matrix coefficient determination circuit 8 matrixes the determined matrix coefficient M after the input of the TBR value or immediately after switching to the fluorescence observation mode. You may make it output to the circuit 41. FIG.
In FIG. 5, the case where the TBR value input from the keyboard 7 exists in the LUT 8 a (or the value included in the LUT 8 a) has been described. However, the input TBR value is a TBR value not included in the LUT 8 a. Even in this case, as shown in FIG. 6, the interpolation circuit 8b may determine the corresponding matrix coefficient using interpolation.
When the TBR value of the fluorescent agent is input in step S6 of FIG. 5, as shown in step S11, the matrix coefficient determination circuit 8 (the interpolation circuit 8b thereof) determines whether or not the input TBR value exists in the LUT 8a. Determine. In the following, the inputted TBR value is represented by V.

入力されたTBR値Vが図4Aに示すようにLUT8aに存在する場合には、ステップS7に示すように入力されたTBR値Vに対応するマトリクス係数MをLUT8aから簡単に決定する。
一方、入力されたTBR値VがLUT8aに存在しない判定結果の場合には、ステップS12に示すように補間回路8bは、LUT8aにおける既知の複数のTBR値に対するマトリクス係数Mの特性曲線を用いて入力されたTBR値Vに対応するマトリクス係数を決定する。この場合、既知の複数のTBR値に対するマトリクス係数要素Mg、Mbの各特性曲線を用いて入力されたTBR値Vに対応するマトリクス係数要素Mg,Mbを決定し、図5のステップS8の処理に移る。
本実施形態においては、実際に使用する蛍光薬剤の視認性に関する特性に応じて、マトリクス係数Mを可変決定(可変設定)するようにしているので、合成画像観察画像としてを表示する場合、視認性と安定性とを確保した状態で表示することができる。
従って、本実施形態によれば、蛍光画像の輝度レベルが変動し易い状況においても、術者等のユーザが、カラーモニタ5に表示される観察画像から、観察部位が病変であるか否かを判断し易い環境を提供できる。次に、本発明の第2の実施形態を説明する。
When the input TBR value V exists in the LUT 8a as shown in FIG. 4A, the matrix coefficient M corresponding to the input TBR value V is simply determined from the LUT 8a as shown in step S7.
On the other hand, if the input TBR value V is a determination result that does not exist in the LUT 8a, the interpolation circuit 8b uses the characteristic curve of the matrix coefficient M for a plurality of known TBR values in the LUT 8a as shown in step S12. A matrix coefficient corresponding to the determined TBR value V is determined. In this case, the matrix coefficient elements Mg and Mb corresponding to the input TBR value V are determined using the characteristic curves of the matrix coefficient elements Mg and Mb for a plurality of known TBR values, and the process of step S8 in FIG. 5 is performed. Move.
In the present embodiment, since the matrix coefficient M is variably determined (variably set) according to the characteristics relating to the visibility of the fluorescent agent that is actually used, the visibility is displayed when the composite image observation image is displayed. And stability can be displayed.
Therefore, according to the present embodiment, even in a situation where the luminance level of the fluorescent image is likely to fluctuate, a user such as an operator can determine whether or not the observation site is a lesion from the observation image displayed on the color monitor 5. An environment that is easy to judge can be provided. Next, a second embodiment of the present invention will be described.

(第2の実施形態)
図7は本発明の第2の実施形態の内視鏡装置1Bを示す。内視鏡装置1Bは、図1の内視鏡装置1において、キーボード7から入力される蛍光薬剤の視認性に関する情報としての例えばTBR値を、マトリクス係数決定回路8の他に、調光回路47にも入力する構成にしている。また、マトリクス係数決定回路8から出力されるマトリクス係数Mをマトリクス回路41の他に、調光回路47にも入力する構成にしている。

第1の実施形態において説明したように、蛍光観察モードにおいては、マトリクス変換を行う。本実施形態においては、通常観察モードと蛍光観察モードにおいて、適切な明るさの内視鏡画像となるように、調光回路47を用いて照明光量を自動調整、つまり自動調光する。このために、例えば、切替回路42a, 42b, 42cの出力信号を調光回路47に入力し、調光回路47は、切替回路42a, 42b, 42cから出力される画像の明るさに応じて、自動調光する調光信号を生成する。
調光回路47は、自動調光する調光信号を生成するために切替回路42a, 42b, 42cから出力される画像の明るさに相当する明るさ信号生成部を構成する明るさ信号生成回路47aを有する。明るさ信号生成回路47aは、通常光観察モードにおいては、通常光画像の明るさに相当する輝度信号YをY=0.30R+0.59G+0.11BGにより生成する。なお、切替回路42a, 42b, 42cから出力される画像の画像信号は、(通常光画像の場合であるが)式(1)の定義に沿った表現を用いると、上記R,G,BがRout,Gout,Boutとなる。
(Second Embodiment)
FIG. 7 shows an endoscope apparatus 1B according to a second embodiment of the present invention. In the endoscope apparatus 1B shown in FIG. 1, the dimming circuit 47 uses, for example, a TBR value as information relating to the visibility of the fluorescent agent input from the keyboard 7 in addition to the matrix coefficient determination circuit 8 in the endoscope apparatus 1 shown in FIG. It is also configured to input. In addition, the matrix coefficient M output from the matrix coefficient determination circuit 8 is input to the dimming circuit 47 in addition to the matrix circuit 41.

As described in the first embodiment, matrix conversion is performed in the fluorescence observation mode. In the present embodiment, in the normal observation mode and the fluorescence observation mode, the illumination light amount is automatically adjusted, that is, automatically dimmed using the dimming circuit 47 so as to obtain an endoscopic image with appropriate brightness. For this purpose, for example, the output signals of the switching circuits 42a, 42b, and 42c are input to the dimming circuit 47, and the dimming circuit 47, depending on the brightness of the image output from the switching circuits 42a, 42b, and 42c, A dimming signal for automatic dimming is generated.
The dimming circuit 47 is a brightness signal generating circuit 47a that constitutes a brightness signal generating unit corresponding to the brightness of the image output from the switching circuits 42a, 42b, and 42c in order to generate a dimming signal for automatic dimming. Have In the normal light observation mode, the brightness signal generation circuit 47a generates a luminance signal Y corresponding to the brightness of the normal light image by Y = 0.30R + 0.59G + 0.11BG. Note that the image signals of the images output from the switching circuits 42a, 42b, and 42c can be expressed as R, G, and B using the expression in accordance with the expression (1) (although it is a case of a normal light image). Rout, Gout, and Bout.


また、調光回路47は、明るさ信号生成回路47aから出力される上記輝度信号Yの(数フレーム期間での)平均値と、通常光画像の明るさの目標値との差分に相当する差分信号を調光信号として絞り22に出力する。なお、調光回路47の内部又は外部に、この調光信号を生成して出力する調光部としての機能を持つ調光信号生成回路を設けるようにしても良い(以下の蛍光観察モードの場合にも適用しても良い)。
一方、蛍光観察モードにおいては、蛍光薬剤により蛍光画像部分が病変部や正常部により、その明るさが変動し易くなる。そのために、調光信号を生成する場合、基本的には、参照光画像による寄与に比較して蛍光画像により寄与を低く設定することにより、観察する部位が変化しても、調光信号の明るさが実質的には参照光画像の明るさで主に決定されるように、切替回路42a, 42b, 42cから出力される合成画像の明るさに相当する輝度信号Yfを生成するように設定する。
このため、蛍光観察モードにおける明るさ信号生成回路47aは、例えば調光回路47の内部に設けたLUT47bに格納されたTBR値に対応付けて変化する調光係数D(α,β)を用いて(蛍光観察モードにおける)合成画像の明るさに相当する輝度信号Yfを生成する。

In addition, the dimming circuit 47 is a difference corresponding to the difference between the average value (in several frame periods) of the luminance signal Y output from the brightness signal generation circuit 47a and the target value of the brightness of the normal light image. The signal is output to the diaphragm 22 as a dimming signal. A dimming signal generation circuit having a function as a dimming unit that generates and outputs the dimming signal may be provided inside or outside the dimming circuit 47 (in the case of the following fluorescence observation mode) May also be applied).
On the other hand, in the fluorescence observation mode, the brightness of the fluorescent image portion is likely to fluctuate depending on the lesioned part or the normal part due to the fluorescent agent. Therefore, when the dimming signal is generated, basically, the brightness of the dimming signal is changed even if the observed part is changed by setting the contribution lower by the fluorescence image than the contribution by the reference light image. Is set so as to generate a luminance signal Yf corresponding to the brightness of the composite image output from the switching circuits 42a, 42b, 42c so that the brightness is substantially determined mainly by the brightness of the reference light image. .
For this reason, the brightness signal generation circuit 47a in the fluorescence observation mode uses, for example, a dimming coefficient D (α, β) that changes in association with the TBR value stored in the LUT 47b provided inside the dimming circuit 47. A luminance signal Yf corresponding to the brightness of the composite image (in the fluorescence observation mode) is generated.


具体的には、蛍光観察モードにおいては、切替回路42a, 42b, 42cの出力信号をRout,Gout,Boutとすると、明るさ信号生成回路47aは、輝度信号Yfを図8の表で示す調光係数Dを形成する、蛍光画像、参照光画像にそれぞれ乗算される調光係数要素α,βを用いて
Yf=α×Rout+β×Gout (3)
により生成する。前述したように蛍光観察モードにおいては、切替回路42a, 42b, 42cにはGの参照光で撮像した同じ画像が格納されているので、一方のみを用いることができる。勿論、GoutとBoutとを用いて輝度信号Yfを定義しても良い。
式(3)は、蛍光画像を表す色成分画像Routと参照光画像の色成分画像Goutとにそれぞれ乗算される調光係数要素α,βにおいて後者が前者よりもかなり大きく設定される。
また、調光回路47は、明るさ信号生成回路47aから出力される上記輝度信号Yfの(数フレーム期間での)平均値と、第1の合成画像の明るさの目標値との差分に相当する差分信号を調光信号として絞り22に出力する。

Specifically, in the fluorescence observation mode, when the output signals of the switching circuits 42a, 42b, and 42c are Rout, Gout, and Bout, the brightness signal generation circuit 47a controls the luminance signal Yf as shown in the table of FIG. Yf = α × Rout + β × Gout (3) using the dimming coefficient elements α and β that are respectively multiplied to the fluorescence image and the reference light image to form the coefficient D
Generate by. As described above, in the fluorescence observation mode, since the same image captured with the G reference light is stored in the switching circuits 42a, 42b, and 42c, only one of them can be used. Of course, the luminance signal Yf may be defined using Gout and Bout.
In Expression (3), the latter is set to be considerably larger than the former in the dimming coefficient elements α and β that are respectively multiplied by the color component image Rout representing the fluorescence image and the color component image Gout of the reference light image.
The dimming circuit 47 corresponds to the difference between the average value (in several frame periods) of the luminance signal Yf output from the brightness signal generation circuit 47a and the target brightness value of the first composite image. The difference signal to be output is output to the diaphragm 22 as a dimming signal.


また、本実施形態においては、以下のようにTBR値に応じてマトリクス係数Mを変更した影響も考慮して式(3)の調光係数要素α,βを調整する。
そして、本実施形態は、蛍光観察モードにおいて、以下のように自動調光する構成及び特徴を有する。 赤色に割り当てられる蛍光画像と、緑色及び青色に割り当てられる参照光画像と、を所定の比率で加算して、合成画像の明るさに相当する明るさ信号値を生成する明るさ信号生成部としての明るさ信号生成回路47aと、明るさ信号生成部により生成された明るさ信号値と、第1の合成画像の明るさの目標値と、を比較した結果に基づき光源部が発生する光の強度を調整する調光信号を生成する調光部としての調光回路47又は、調光信号生成回路を有し、明るさ信号生成部は、蛍光薬剤の視認性に関する情報、又は演算部を構成するマトリクス回路41において乗算されるマトリクス係数Mに応じて前記所定の比を調整する。

In the present embodiment, the dimming coefficient elements α and β in Expression (3) are adjusted in consideration of the effect of changing the matrix coefficient M according to the TBR value as follows.
And this embodiment has the structure and the characteristic which adjust automatically as follows in fluorescence observation mode. As a brightness signal generator that adds a fluorescent image assigned to red and a reference light image assigned to green and blue at a predetermined ratio to generate a brightness signal value corresponding to the brightness of the composite image The intensity of light generated by the light source unit based on the result of comparing the brightness signal value generated by the brightness signal generation circuit 47a, the brightness signal generation unit, and the brightness target value of the first composite image. The dimming circuit 47 or the dimming signal generation circuit as a dimming unit that generates a dimming signal for adjusting the brightness, and the brightness signal generation unit constitutes information on the visibility of the fluorescent agent or a calculation unit The predetermined ratio is adjusted according to the matrix coefficient M multiplied in the matrix circuit 41.


第1の実施形態及び本実施形態においては、蛍光観察モードにおいては、色割り当て部から出力される複数の色成分画像からTBR値に応じて、マトリクス係数Mを変更して合成画像を生成し、合成画像を観察画像としてカラーモニタ5で表示する。このため、カラーモニタ5で表示される観察画像の明るさと、調光に用いる画像の明るさがTBR値に応じて異なってしまう場合が発生する。両者の画像の明るさの差異を補正するように、本実施形態においては、TBR値に応じて、輝度信号Yfを調光係数D(α,β)により補正し、両画像での明るさのずれを抑制(低減)する。 具体的には、TBR値が大きくなる場合程、蛍光画像成分による画像の明るさへの寄与が大きくなってしまう影響を補正するために、調光係数要素βの値を大きくして、蛍光画像の視認性の機能が大きくなった場合における蛍光画像成分により画像の明るさが変動し易くなることを抑制する。
逆にTBR値が小さくなる(低くなる)場合程、蛍光画像成分による画像の明るさへの寄与が小さくなってしまう影響を補正するために、調光係数要素αの値を大きくする。図7におけるその他の構成は、図1等に示す第1の実施形態と同様の構成である。

In the first embodiment and the present embodiment, in the fluorescence observation mode, a composite image is generated by changing the matrix coefficient M from a plurality of color component images output from the color assignment unit according to the TBR value, The composite image is displayed on the color monitor 5 as an observation image. For this reason, the brightness of the observation image displayed on the color monitor 5 and the brightness of the image used for dimming may differ depending on the TBR value. In this embodiment, the brightness signal Yf is corrected by the dimming coefficient D (α, β) according to the TBR value so that the brightness difference between the two images is corrected. Suppress (reduce) the deviation. Specifically, in order to correct the influence that the contribution to the brightness of the image due to the fluorescence image component increases as the TBR value increases, the value of the dimming coefficient element β is increased to increase the fluorescence image. It is possible to prevent the brightness of the image from easily fluctuating due to the fluorescent image component when the visibility function of the image becomes larger.
Conversely, as the TBR value becomes smaller (lower), the value of the dimming coefficient element α is increased in order to correct the influence that the contribution of the fluorescent image component to the brightness of the image becomes smaller. Other configurations in FIG. 7 are the same as those in the first embodiment shown in FIG.

このような構成による本実施形態の動作を以下に説明する。本実施形態における代表的な動作は、図9に示すフローチャートのようになる。図9のフローチャートは、図5のフローチャートにおいて、ステップS3とS4(又はステップS2とS3)の間にステップS11,ステップS7とS8(又はステップS8とS9)との間にステップS12の処理を行う内容となる。
本実施形態は、内視鏡装置1Bの電源が投入されると図5のステップS1〜S3と同様の処理を行う。また、ステップS3の処理と共に、ステップS11に示すように調光回路47は、切替回路42a, 42b, 42cから出力される色成分画像から通常光画像の明るさの調光信号を生成し、絞り22の開口量を調整して自動調光する。
ステップS11の後のステップS4からステップS7までは、図5の場合と同様の処理となる。ステップS7においてマトリクス係数決定回路8がTBR値に対応したマトリクス係数を決定する。また、ステップS12に示すように調光回路47は、蛍光観察モードにおいて、TBR値に対応した調光信号を生成し、自動調光を行う。ステップS12の処理の後、ステップS8の処理が行われる。その他の動作は第1の実施形態と同様である。
The operation of the present embodiment having such a configuration will be described below. A typical operation in the present embodiment is as shown in a flowchart of FIG. The flowchart of FIG. 9 performs the processing of step S12 between steps S3 and S4 (or steps S2 and S3) and between steps S7 and S8 (or steps S8 and S9) in the flowchart of FIG. It becomes contents.
In the present embodiment, when the power of the endoscope apparatus 1B is turned on, processing similar to steps S1 to S3 in FIG. 5 is performed. In addition to the processing in step S3, as shown in step S11, the dimming circuit 47 generates a dimming signal of the brightness of the normal light image from the color component images output from the switching circuits 42a, 42b, 42c, and the aperture The aperture of 22 is adjusted for automatic light control.
Steps S4 to S7 after step S11 are the same as in FIG. In step S7, the matrix coefficient determination circuit 8 determines a matrix coefficient corresponding to the TBR value. Further, as shown in step S12, the dimming circuit 47 generates a dimming signal corresponding to the TBR value and performs automatic dimming in the fluorescence observation mode. After the process of step S12, the process of step S8 is performed. Other operations are the same as those in the first embodiment.

本実施形態によれば、第1の実施形態と同様の効果を有すると共に、さらに蛍光観察モードにおいても、蛍光薬剤に応じて、カラーモニタ5に表示される観察画像の擬似カラーの色調が変化した場合においても、観察や診断に適した適切な明るさを維持するように表示できる。
なお、上述した実施形態においては、通常光観察用の撮像素子と蛍光観察用の撮像素子との2つを備えた内視鏡2の場合で説明したが、蛍光観察用の撮像素子を形成するCCD17b側のバリアフィルタ18の特性を変更して、通常光観察用の撮像素子の機能を持たせるようにしても良い。
According to this embodiment, the same effect as that of the first embodiment is obtained, and also in the fluorescence observation mode, the pseudo color tone of the observation image displayed on the color monitor 5 is changed according to the fluorescent agent. Even in such a case, display can be performed so as to maintain appropriate brightness suitable for observation and diagnosis.
In the above-described embodiment, the case of the endoscope 2 including the imaging element for normal light observation and the imaging element for fluorescence observation has been described. However, the imaging element for fluorescence observation is formed. The characteristics of the barrier filter 18 on the CCD 17b side may be changed to have the function of an imaging element for normal light observation.

1…内視鏡装置、2…内視鏡、3…光源装置、4…ビデオプロセッサ、5…カラーモニタ、7…キーボード、8…マトリクス係数決定回路、8a…LUT、8b…補間回路、10…被検体、11…挿入部、13…モード切替スイッチ、17a,17b…CCD、21…キセノンランプ、22…絞り、23…回転フィルタ、26a,26b…モータ、31…モード切替回路、32a,32b,38,42a,42b,42c…切替回路、33…CCDドライバ、40a,40b,40c…同時化メモリ、41…マトリクス回路、45…タイミングジェネレータ、47…調光回路、47a…LUT、48…合成画像生成回路   DESCRIPTION OF SYMBOLS 1 ... Endoscope apparatus, 2 ... Endoscope, 3 ... Light source apparatus, 4 ... Video processor, 5 ... Color monitor, 7 ... Keyboard, 8 ... Matrix coefficient determination circuit, 8a ... LUT, 8b ... Interpolation circuit, 10 ... Subject: 11 ... Insertion part, 13 ... Mode change switch, 17a, 17b ... CCD, 21 ... Xenon lamp, 22 ... Aperture, 23 ... Rotation filter, 26a, 26b ... Motor, 31 ... Mode change circuit, 32a, 32b, 38, 42a, 42b, 42c ... switching circuit, 33 ... CCD driver, 40a, 40b, 40c ... synchronization memory, 41 ... matrix circuit, 45 ... timing generator, 47 ... dimming circuit, 47a ... LUT, 48 ... composite image Generator circuit

Claims (6)

蛍光薬剤が与えられた被検体を照明するために、前記蛍光薬剤を励起して蛍光を発生させる励起光と、前記被検体の形態情報を取得するための参照光とを発生させる光源部と、
前記被検体からの光を受光して撮像画像を生成する撮像部と、
複数種類の前記蛍光薬剤を投与した場合における病変部と正常部とを蛍光により撮像した場合の輝度の比率を表すTBRの値を入力する情報入力部と、
前記撮像部において前記被検体からの蛍光を受光して生成される蛍光画像を赤色に割り当て、前記撮像部において前記参照光で照明された前記被検体からの光を受光して生成される参照光画像を緑色と青色とに割り当てる色割り当て部と、
前記色割り当て部において割り当てられた異なる複数の色成分に対してマトリクス係数を乗算するマトリクス演算を行ない、観察画像を表示するための表示部に前記マトリクス演算の結果を出力する演算部と、
前記情報入力部から入力される前記蛍光薬剤の前記TBRの値が低い値の場合程、前記赤色の蛍光画像に対して乗算する第1のマトリクス係数要素の値を大きくし、当該第1のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての緑色成分画像を生成するように、また、前記蛍光薬剤の前記TBRの値が高い値の場合程、前記赤色の蛍光画像に乗算する第2のマトリクス係数要素の値を大きくし、当該第2のマトリクス係数要素の乗算により前記表示部に表示される観察画像の色成分画像としての青色成分画像を生成するように、それぞれ蛍光薬剤の前記TBRの値に応じて、前記第1、第2のマトリクス係数要素を持つ前記マトリクス係数を決定する決定部と、
を有することを特徴とする内視鏡装置。
A light source unit that generates excitation light that excites the fluorescent agent to generate fluorescence in order to illuminate the subject to which the fluorescent agent is given, and reference light that acquires morphological information of the subject;
An imaging unit that receives light from the subject and generates a captured image;
An information input unit for inputting a value of TBR that represents a ratio of luminance when a lesioned part and a normal part are imaged by fluorescence when a plurality of types of the fluorescent agents are administered;
A fluorescence image generated by receiving fluorescence from the subject in the imaging unit is assigned to red, and reference light generated by receiving light from the subject illuminated by the reference light in the imaging unit A color assignment unit for assigning images to green and blue,
A calculation unit that performs matrix calculation to multiply a plurality of different color components allocated in the color allocation unit by a matrix coefficient, and outputs the result of the matrix calculation to a display unit for displaying an observation image;
When the TBR value of the fluorescent agent input from the information input unit is lower, the value of the first matrix coefficient element to be multiplied with the red fluorescent image is increased, and the first matrix is increased. In order to generate a green component image as a color component image of an observation image displayed on the display unit by multiplication of coefficient elements, and when the TBR value of the fluorescent agent is higher, the red fluorescence To increase the value of the second matrix coefficient element to be multiplied by the image and generate a blue component image as a color component image of the observation image displayed on the display unit by multiplication of the second matrix coefficient element, A determining unit that determines the matrix coefficient having the first and second matrix coefficient elements according to the value of the TBR of each fluorescent agent;
An endoscope apparatus characterized by comprising:
前記蛍光薬剤の前記TBRの値が異なる複数の情報と、該複数の情報にそれぞれ対応する複数の前記マトリクス係数とを対応付けた対応付け情報として記憶する記憶部を有し、
前記決定部は、前記情報入力部から入力された前記TBRの値に基づき、前記記憶部に記憶された前記対応付け情報から前記演算部が乗算に用いる前記マトリクス係数を選択し、
前記演算部は、選択された前記マトリクス係数を用いて乗算することにより合成画像を生成することを特徴とする請求項1に記載の内視鏡装置。
A storage unit that stores a plurality of pieces of information having different TBR values of the fluorescent agent and a plurality of pieces of matrix coefficients corresponding to the pieces of information as association information;
The determination unit selects the matrix coefficient used by the calculation unit for multiplication from the association information stored in the storage unit based on the value of the TBR input from the information input unit,
The endoscope apparatus according to claim 1, wherein the arithmetic unit generates a composite image by multiplying using the selected matrix coefficient.
更に、前記赤色に割り当てられる前記蛍光画像に関する信号と、前記緑色及び前記青色に割り当てられる前記参照光画像に関する信号と、を所定の比率で加算して明るさ信号値を生成する明るさ信号生成部と、
前記明るさ信号生成部により生成された前記明るさ信号値と、明るさの目標値と、を比較した結果に基づき前記光源部が発生する光の強度を調整する調光信号を生成する調光部と、を有し、
前記明るさ信号生成部は、前記蛍光薬剤の前記TBRの値、又は前記演算部において乗算される前記マトリクス係数に応じて前記所定の比率を調整することを特徴とする請求項1に記載の内視鏡装置。
Furthermore, a brightness signal generation unit that generates a brightness signal value by adding a signal related to the fluorescent image assigned to the red color and a signal related to the reference light image assigned to the green color and the blue color at a predetermined ratio When,
Dimming that generates a dimming signal that adjusts the intensity of light generated by the light source unit based on a result of comparing the brightness signal value generated by the brightness signal generating unit with a target value of brightness And
The said brightness signal production | generation part adjusts the said predetermined ratio according to the value of the said TBR of the said fluorescent agent, or the said matrix coefficient multiplied in the said calculating part, The inside of Claim 1 characterized by the above-mentioned. Endoscopic device.
前記記憶部は、前記TBRの値にそれぞれ対応付けて前記マトリクス係数を記憶し、
前記情報入力部から前記蛍光薬剤の前記TBRの値が入力されることにより、前記決定部は、前記TBRの値に対応付けられた前記マトリクス係数を前記演算部に出力することを特徴とする請求項2に記載の内視鏡装置。
The storage unit stores the matrix coefficient in association with the value of the TBR,
When the TBR value of the fluorescent agent is input from the information input unit, the determination unit outputs the matrix coefficient associated with the TBR value to the calculation unit. Item 5. The endoscope apparatus according to Item 2.
前記色割り当て部は、前記蛍光画像を第1の色成分である赤色成分に割り当て、前記参照光画像を第2の色成分である緑色成分と第3の色成分である青色成分とに割り当て、
前記演算部は、前記第1の色成分に割り当てられた前記蛍光画像に対して、前記マトリクス係数をそれぞれ形成する第1のマトリクス係数要素、第2のマトリクス係数要素それぞれを乗算して視認性の機能に対応した前記第2の色成分、前記蛍光の強度が変動した場合における該変動を抑制して知覚させる前記第3の色成分にそれぞれ相当し、前記表示部に表示される前記観察画像を形成する第2の画像、第3の画像をそれぞれ生成し、
前記第2の色成分に割り当てられた前記参照光画像及び前記第3の色成分に割り当てられた前記参照光画像に対して、前記マトリクス係数を形成する一定の値となる第3のマトリクス係数要素を乗算して加算し、前記表示部において表示される前記観察画像を形成する前記第1の色成分に対応する第1の画像を生成すること特徴とする請求項1に記載の内視鏡装置。
The color assignment unit assigns the fluorescent image to a red component that is a first color component , and assigns the reference light image to a green component that is a second color component and a blue component that is a third color component,
The calculation unit multiplies the fluorescence image assigned to the first color component by a first matrix coefficient element and a second matrix coefficient element that respectively form the matrix coefficient, thereby improving visibility. The second color component corresponding to the function and the third color component that suppresses the change when the intensity of the fluorescence changes and perceives the change, and the observation image displayed on the display unit Generate a second image and a third image to be formed,
A third matrix coefficient element having a constant value for forming the matrix coefficient with respect to the reference light image assigned to the second color component and the reference light image assigned to the third color component The endoscope apparatus according to claim 1, wherein the first image corresponding to the first color component forming the observation image displayed on the display unit is generated by multiplying and adding .
前記決定部は、前記情報入力部から入力される前記蛍光薬剤の前記TBRの値が、前記TBRの値が低い値の場合程、前記第1の色成分に乗算される前記第1のマトリクス係数要素の値を大きくし、
記TBRの値が高い値の場合程、前記第1の色成分に乗算される前記第2のマトリクス係数要素の値を大きくするように前記マトリクス係数を決定することを特徴とする請求項5に記載の内視鏡装置。
The determining unit, the value of the TBR fluorescent drug is higher when the value is low value before Symbol TBR, the first matrix is multiplied by the first color component inputted from the information input unit Increase the value of the coefficient element,
As when the value is high value before Symbol T BR, claims, characterized in that to determine the matrix coefficients so as to increase the value of the second matrix coefficients elements to be multiplied to the first color component 5. The endoscope apparatus according to 5.
JP2014107262A 2014-05-23 2014-05-23 Endoscope device Active JP6261446B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014107262A JP6261446B2 (en) 2014-05-23 2014-05-23 Endoscope device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014107262A JP6261446B2 (en) 2014-05-23 2014-05-23 Endoscope device

Publications (2)

Publication Number Publication Date
JP2015221161A JP2015221161A (en) 2015-12-10
JP6261446B2 true JP6261446B2 (en) 2018-01-17

Family

ID=54784568

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014107262A Active JP6261446B2 (en) 2014-05-23 2014-05-23 Endoscope device

Country Status (1)

Country Link
JP (1) JP6261446B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109219385B (en) * 2016-06-21 2021-03-30 奥林巴斯株式会社 Endoscope system, image processing apparatus, image processing method, and medium

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2011048886A1 (en) * 2009-10-20 2013-03-07 オリンパスメディカルシステムズ株式会社 Fluorescence observation equipment
JP6053673B2 (en) * 2011-04-28 2016-12-27 オリンパス株式会社 Fluorescence observation apparatus and image display method thereof

Also Published As

Publication number Publication date
JP2015221161A (en) 2015-12-10

Similar Documents

Publication Publication Date Title
KR101184841B1 (en) Endoscopic device and its processing method
JP5326065B2 (en) Endoscope device
JP5308815B2 (en) Biological observation system
WO2016121556A1 (en) Processor device for endoscope, method for operating same, and control program
JP5669828B2 (en) Image processing apparatus and fluorescence observation apparatus
WO2017154292A1 (en) Endoscope system, processor device, and endoscope system operation method
US10165934B2 (en) Endoscope apparatus with addition of image signals
JP6690003B2 (en) Endoscope system and operating method thereof
JP2006218283A (en) Endoscope apparatus
JP6581952B2 (en) Endoscope system and operating method thereof
WO2017022324A1 (en) Image signal processing method, image signal processing device and image signal processing program
JP5041936B2 (en) Biological observation device
JP5747362B2 (en) Endoscope device
JP6616071B2 (en) Endoscope processor device, operation method of endoscope processor device, control program for endoscope
JP6261446B2 (en) Endoscope device
JP5764472B2 (en) Endoscopic diagnosis device
JP2016158837A (en) Endoscope light source device, endoscope system, and operation method of endoscope light source device
WO2018079217A1 (en) Endoscopic system and operation method thereof
JP5856943B2 (en) Imaging system
JPWO2016059906A1 (en) Endoscope device and light source device for endoscope
JP6203124B2 (en) Endoscope apparatus and method for operating endoscope apparatus
JP2013094489A (en) Endoscope apparatus
JP5331863B2 (en) Endoscope device
JP6242558B2 (en) Imaging system and image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171212

R151 Written notification of patent or utility model registration

Ref document number: 6261446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250