JP6204314B2 - 電子内視鏡システム - Google Patents

電子内視鏡システム Download PDF

Info

Publication number
JP6204314B2
JP6204314B2 JP2014179036A JP2014179036A JP6204314B2 JP 6204314 B2 JP6204314 B2 JP 6204314B2 JP 2014179036 A JP2014179036 A JP 2014179036A JP 2014179036 A JP2014179036 A JP 2014179036A JP 6204314 B2 JP6204314 B2 JP 6204314B2
Authority
JP
Japan
Prior art keywords
index
image data
endoscope system
electronic endoscope
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014179036A
Other languages
English (en)
Other versions
JP2016052391A (ja
Inventor
千葉 亨
亨 千葉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2014179036A priority Critical patent/JP6204314B2/ja
Priority to US14/837,300 priority patent/US10426325B2/en
Priority to CN201911241393.4A priority patent/CN110840379B/zh
Priority to CN201510549104.2A priority patent/CN105380587A/zh
Priority to EP16175262.1A priority patent/EP3106079B1/en
Priority to EP15183306.8A priority patent/EP2992805B1/en
Publication of JP2016052391A publication Critical patent/JP2016052391A/ja
Application granted granted Critical
Publication of JP6204314B2 publication Critical patent/JP6204314B2/ja
Priority to US16/542,783 priority patent/US11224335B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/0002Operational features of endoscopes provided with data storages
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/14551Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters for measuring blood gases
    • A61B5/14552Details of sensors specially adapted therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/1455Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters
    • A61B5/1459Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue using optical sensors, e.g. spectral photometrical oximeters invasive, e.g. introduced into the body by a catheter
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • G01N21/314Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry with comparison of measurements at specific and non-specific wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4738Diffuse reflection, e.g. also for testing fluids, fibrous materials
    • G01N21/474Details of optical heads therefor, e.g. using optical fibres
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00059Operational features of endoscopes provided with identification means for the endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/145Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
    • A61B5/14546Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue for measuring analytes not otherwise provided for, e.g. ions, cytochromes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • G01N21/314Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry with comparison of measurements at specific and non-specific wavelengths
    • G01N2021/3148Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry with comparison of measurements at specific and non-specific wavelengths using three or more wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • G01N33/483Physical analysis of biological material
    • G01N33/487Physical analysis of biological material of liquid biological material
    • G01N33/49Blood
    • G01N33/4925Blood measuring blood gas content, e.g. O2, CO2, HCO3
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Optics & Photonics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は撮像システムに関する。
近年、分光画像撮影機能を備えた内視鏡装置(分光内視鏡装置)が提案されている。このような分光内視鏡装置によれば、消化器の粘膜等の生体組織の分光特性に関する情報(例えば反射スペクトル)を得ることができる。この生体組織の反射スペクトルは、測定対象となる生体組織の表層近傍に含まれる物質の種類や濃度の情報を反映していることが知られている。具体的には、生体組織の反射スペクトルより算出される吸収は、その生体組織を構成する複数の物質の吸収を線形的に重畳したものとなることが知られている。
病変部の生体組織は、健常部の生体組織とは、その組成、成分量において異なることが知られている。特に、癌などに代表される病変部の異常は、血液の状態、とりわけ全血液量や酸素飽和度の状態と深く関わることが多くの先行研究で報告されている。ここで、注目する2つの生体組織を、それらが有する可視域の分光学的特徴量を利用して、定性、定量することは、分光分析化学の分野では良く利用されている手法である。よって病変部を含む生体組織の血液の分光特性と、健常部のみの生体組織のそれとを比較して、生体組織に何らかの病変部が含まれるかどうかを推定することができる。
分光画像は、異なる波長の光で撮像された複数の画像情報から構成されるが、分光画像に含まれる波長情報(画像情報を取得する波長の数)が多いほど、より詳細な生体組織の情報を分光画像から得ることができる。特許文献1には、400〜800nmの波長域において5nmの波長間隔で分光画像を取得する分光内視鏡装置の構成例が開示されている。
特開2012−245223号公報
しかしながら、特許文献1に記載されているような波長分解能の高い分光画像を得るには、波長を変えながら多数の画像を撮像する必要がある。さらに、画像の解析に必要な計算量も多く、長い計算時間を要する。すなわち、有効な診断支援情報を得るためには、比較的に煩雑な撮影操作と計算を繰り返すことが必要となり、長い時間を要するという問題がある。
本発明は上記の事情に鑑みてなされたものであり、酸素飽和度分布等の生体物質の分布を表す画像情報を短時間で取得可能な撮像システムを提供することを目的とする。
本発明の一実施形態によれば、離隔した複数の波長域を含む照明光を発する光源装置と、被写体である生体組織が反射した照明光の像を撮像する、RGBカラーフィルタを備えた撮像素子と、撮像素子が生成する画像データに基づいて、生体組織に含まれる第1生体物質と第2生体物質とのモル濃度比を示す指標を計算する画像処理部と、を備え、複数の波長域が、RGBカラーフィルタのBフィルタを透過する第1波長域と、RGBカラーフィルタのGフィルタを透過する第2波長域と、を含み、第1波長域が、RGBカラーフィルタを備えた撮像素子のBフィルタが装着された受光素子によって撮像された生体組織の画像データBの値がモル濃度比に応じて変動する波長域であり、第2波長域が、生体組織の複数の等吸収点を含み、撮像素子のGフィルタが装着された受光素子によって撮像された生体組織の画像データGの値がモル濃度比に依らず一定となる波長域であり、画像処理部が、画像データB及び画像データGに基づいてモル濃度比との相関を有する第1の指標を計算する、撮像システムが提供される。
上記の撮像システムにおいて、光源装置が、白色光源と、白色光源から放射された白色光から照明光を分離する光学フィルタと、を備えた構成としてもよい。
上記の撮像システムにおいて、画像データBを画像データGで除算した値を第1の指標とする構成としてもよい。
上記の撮像システムにおいて、複数の波長域が、RGBカラーフィルタのRフィルタを透過する第3波長域を含み、第3波長域において生体組織の光吸収が十分に小さく、画像処理部が、画像データGと、撮像素子のRフィルタが装着された受光素子によって撮像された生体組織の画像データRとに基づいて、第1生体物質と第2生体物質のモル濃度の和との相関を有する第2の指標を計算する構成としてもよい。
上記の撮像システムにおいて、画像データGを画像データRで除算した値を第2の指標とする構成としてもよい。
上記の撮像システムにおいて、照明光により照明された色基準板を撮像して得たR、G、B各色の画像データであるベースライン画像データBL、BL、BLを記憶するメモリを備えた構成としてもよい。
上記の撮像システムにおいて、画像データR、G、Bに替えて、以下の数式1〜3により定義される規格化画像データR、G、Bを使用して指標を計算する構成としてもよい。
上記の撮像システムにおいて、画像処理部が、生体組織における第1の指標の分布を示す第1の指標画像データを生成する構成としてもよい。
上記の撮像システムにおいて、第1の指標画像データが、第1の指標を画素値とする画像データである構成としてもよい。
上記の撮像システムにおいて、第1生体物質が酸素化ヘモグロビンであり、第2生体物質が還元ヘモグロビンであり、第1の指標が酸素飽和度との相関を有する構成としてもよい。
上記の撮像システムにおいて、第1の指標及び第2の指標に基づいて、生体組織が悪性腫瘍である疑いの度合を示す第3の指標を計算する構成としてもよい。
上記の撮像システムにおいて、第1の指標が第1の基準値よりも低く、且つ、第2の指標が第2の基準値よりも高い画素に対して、第3の指標を生体組織が悪性腫瘍である疑いが高いことを示す値に設定する構成としてもよい。
上記の撮像システムにおいて、第2波長域が、生体組織の一対の等吸収点によって区画され、その内部に生体組織の別の一対の等吸収点を含む、波長域である構成としてもよい。
上記の撮像システムにおいて、内視鏡装置である構成としてもよい。
本発明の一実施形態によれば、酸素飽和度分布等の生体物質の分布を表す画像情報を短時間で取得することが可能になる。
ヘモグロビンの透過スペクトルである。 波長域W2における血液の透過光量と酸素飽和度との関係をプロットしたグラフである。 波長域W7における血液の透過光量と酸素飽和度との関係をプロットしたグラフである。 本発明の実施形態の電子内視鏡システムの構成を示すブロック図である。 固体撮像素子が備えるカラーフィルタの透過スペクトルである。 光学フィルタの透過スペクトルである。 本発明の実施形態に係る分析処理を説明するフローチャートである。 本発明の実施の形態に係る電子内視鏡システムによって生成された内視鏡画像の例である。(a)は内視鏡画像であり、(b)は酸素飽和度分布画像である。 波長域W2に対応する光学フィルタの透過波長域をずらした場合に生じる指標Xの誤差のシミュレーション結果をプロットしたグラフである。
以下、本発明の実施形態について図面を参照しながら説明する。なお、以下においては、本発明の一実施形態として電子内視鏡システムを例に取り説明する。
以下に説明する本発明の実施形態に係る電子内視鏡システムは、波長域の異なる光で撮像した複数の画像(本実施形態では、1つのカラー画像を構成するR、G、Bの3原色の画像)に基づいて被写体の生体情報(例えば、酸素飽和度や血液量)を定量的に分析して、分析結果を画像化して表示する装置である。以下に説明する本実施形態の電子内視鏡システムを用いた酸素飽和度等の定量分析では、可視域における血液の分光特性(すなわち、ヘモグロビンの分光特性)が酸素飽和度に応じて連続的に変化する性質が利用される。
[ヘモグロビンの分光特性及び酸素飽和度の計算原理]
本発明の実施形態に係る電子内視鏡システムの詳しい構成を説明する前に、可視域におけるヘモグロビンの分光特性と、本実施形態における酸素飽和度の計算原理について説明する。
図1に、ヘモグロビンの透過スペクトルを示す。ヘモグロビンの分光スペクトルは、酸素飽和度(全ヘモグロビンのうち酸素化ヘモグロビンが占める割合)に応じて変化する。図1における実線の波形は、酸素飽和度が100%の場合(すなわち、酸素化ヘモグロビンHbO2)の透過スペクトルであり、長破線の波形は、酸素飽和度が0%の場合(すなわち、還元ヘモグロビンHb)の透過スペクトルである。また、短破線は、その中間の酸素飽和度(10、20、30、・・・90%)におけるヘモグロビン(酸素化ヘモグロビンと還元ヘモグロビンの混合物)の透過スペクトルである。
なお、ヘモグロビンの吸収(吸光度)Aは、光透過率Tから以下の数式4により計算される。
図1に示されるヘモグロビンの透過スペクトルは、各成分(酸素化ヘモグロビン、還元ヘモグロビン)の濃度の和が一定となる2成分系の分光スペクトルであるため、各成分の濃度比(すなわち、酸素飽和度)によらず吸収A(すなわち透過率T)が一定となる等吸収点E1(424nm)、E2(452nm)、E3(502nm)、E4(528nm)、E5(546nm)、E6(570nm)及びE7(584nm)が現れる。本明細書では、等吸収点E1からE2までの波長領域を波長域W1、等吸収点E2からE3までの波長領域を波長域W2、等吸収点E3からE4までの波長領域を波長域W3、等吸収点E4からE5までの波長領域を波長域W4、等吸収点E5からE6までの波長領域を波長域W5、等吸収点E6からE7までの波長領域を波長域W6と定義する。
隣接する等吸収点間では、酸素飽和度の増加に応じて吸収が単調に増加又は減少する。また、隣接する等吸収点間では、ヘモグロビンの吸収Aは、酸素飽和度に対してほぼ線形的に変化する。図2は、波長域W2における血液の透過光量(縦軸)と酸素飽和度(横軸)との関係をプロットしたグラフである。なお、縦軸の透過光量は、波長域W2の全域で積分した値である。図2のグラフより、波長域W2において、ヘモグロビンの吸収が酸素飽和度に対してほぼ線形的に減少することがわかる。なお、隣接する波長域W1においては、ヘモグロビンの吸収が酸素飽和度に対して線形的に増加する。具体的には、光透過率に関しては、正確にはランバート・ベールの法則(Beer-Lambert Law)に従う変化量であるが、20nm〜80nm程度のある程度の狭い波長領域においてはほぼ線形の変化と見なすことができる。
また、等吸収点E4からE7までの波長領域(すなわち、波長域W4〜W6の連続した波長領域。本明細書では波長域W7と定義する。)に着目すると、波長域W4及びW6においては、酸素飽和度の増加に応じて血液の吸収が単調に増加するが、波長域W5においては、逆に酸素飽和度の増加に応じて血液の吸収が単調に減少する。しかしながら、本発明者は、波長域W5における血液の吸収の減少量が、波長域W4及びW6における血液の吸収の増加量の和と略等しく、波長域W7全体としては血液の吸収が酸素飽和度に依らず略一定となることを見出した。
図3は、波長域W7における血液の透過光量(縦軸)と酸素飽和度(横軸)との関係をプロットしたグラフである。なお、縦軸の透過光量は、波長域W7の全域で積分した値である。透過光量の平均値は0.267(任意単位)、標準偏差は1.86×10−5であった。図3のグラフより、波長域W7全体では、血液の透過光量が酸素飽和度に依らず略一定となることがわかる。
また、図1に示されるように、概ね630nm以上(特に、650nm以上)の波長領域においては、ヘモグロビンの吸収が少なく、酸素飽和度が変化しても光透過率は殆ど変化しない。また、白色光源にキセノンランプを使用する場合、波長750nm以下(特に、720nm以下)の波長領域においては、白色光源の十分に大きな光量が得られる。従って、例えば650〜720nmの波長領域を、ヘモグロビンの吸収が無い透明領域として、透過光量の基準の波長領域として使用することができる。本明細書では、波長650nmから波長720nmまでの波長領域を波長域WRと定義する。
上述したように、波長域W2におけるヘモグロビンの吸収AW2は酸素飽和度の増加に対して線形的に減少することが知られている。波長域W7(波長域W4〜W6)におけるヘモグロビンの吸収AW7は酸素飽和度に依らず一定値とみなせることから、吸収AW7を基準とした吸収AW2の値は酸素飽和度を反映した指標を与えることになる。具体的には次の数式5によって定義される指標Xにより酸素飽和度を表すことができる。

従って、予め実験的に又は計算により酸素飽和度と指標Xとの定量的な関係を取得すれば、指標Xの値から酸素飽和度を推定することができる。
[電子内視鏡システム1全体の構成]
図4は、本実施形態の電子内視鏡システム1の構成を示すブロック図である。図4に示されるように、電子内視鏡システム1は、電子スコープ100、プロセッサ200及びモニタ300を備えている。
プロセッサ200は、システムコントローラ202、タイミングコントローラ204、画像処理回路220、ランプ208及び光学フィルタ装置260を備えている。システムコントローラ202は、メモリ212に記憶された各種プログラムを実行し、電子内視鏡システム1全体を統合的に制御する。また、システムコントローラ202は、操作パネル214に接続されている。システムコントローラ202は、操作パネル214より入力されるユーザからの指示に応じて、電子内視鏡システム1の各動作及び各動作のためのパラメータを変更する。タイミングコントローラ204は、各部の動作のタイミングを調整するクロックパルスを電子内視鏡システム1内の各回路に出力する。
ランプ208は、ランプ電源イグナイタ206による始動後、照射光Lを射出する。ランプ208は、例えば、キセノンランプ、ハロゲンランプ、水銀ランプ、メタルハライドランプ等の高輝度ランプやLED(Light Emitting Diode)である。照射光Lは、主に可視光領域から不可視である赤外光領域に広がるスペクトルを持つ光(又は少なくとも可視光領域を含む白色光)である。
ランプ208と集光レンズ210との間には、光学フィルタ装置260が配置されている。光学フィルタ装置260は、フィルタ駆動部264と、フィルタ駆動部264に装着された光学フィルタ262を備えている。フィルタ駆動部264は、光学フィルタ262を、照射光Lの光路上の位置(実線)と光路から退避した位置(破線)との間で、光路と直交する方向にスライド可能に構成されている。なお、フィルタ駆動部264の構成は、上述のものに限定されず、例えば回転フィルタ装置のように、光学フィルタ262の重心から外れた回動軸の周りに光学フィルタ262を回動させることにより、照射光Lの光路上に光学フィルタ262を挿抜する構成としてもよい。光学フィルタ262の詳細については後述する。
本実施形態の電子内視鏡システム1は、ランプ208から放射された白色光をそのまま(或いは、赤外成分及び/又は紫外成分を除去して)照明光(通常光Ln)として使用して内視鏡観察を行う通常観察モードと、白色光を光学フィルタ262に通して(或いは、更に赤外成分及び/又は紫外成分を除去して)得たフィルタ光Lfを照明光として使用して内視鏡観察を行う特殊観察モードと、特殊観察モードで使用される補正値を取得するためのベースライン測定モードの3つの動作モードで動作可能に構成されている。光学フィルタ262は、通常観察モードでは光路から退避した位置に配置され、特殊観察モードでは光路上に配置される。
光学フィルタ装置260を通過した照射光L(フィルタ光Lf又は通常光Ln)は、集光レンズ210によってLCB(Light Carrying Bundle)102の入射端面に集光されて、LCB102内に導入される。
LCB102内に導入された照射光Lは、LCB102内を伝播して電子スコープ100の先端に配置されたLCB102の射出端面より射出され、配光レンズ104を介して被写体に照射される。照射光Lにより照射された被写体からの戻り光は、対物レンズ106を介して固体撮像素子108の受光面上で光学像を結ぶ。
固体撮像素子108は、ベイヤ型画素配置を有する単板式カラーCCD(Charge Coupled Device)イメージセンサである。固体撮像素子108は、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して画像信号(画像データ)を生成して出力する。固体撮像素子108は、赤色の光を透過させるRフィルタと、緑色の光を透過させるGフィルタと、青色の光を透過させるBフィルタとが固体撮像素子108の各受光素子上に直接形成された、いわゆるオンチップカラーフィルタを備えている。固体撮像素子108が生成する画像信号には、Rフィルタが装着された受光素子によって撮像された画像信号R、Gフィルタが装着された受光素子によって撮像された画像信号G及びBフィルタが装着された受光素子によって撮像された画像信号Bが含まれている。
図5は、固体撮像素子108のRフィルタ、Gフィルタ及びBフィルタの透過スペクトルである。Rフィルタは、波長域WRを含む概ね600nm以上の波長領域の光を透過させるフィルタである。Gフィルタは、波長域W7を含む概ね510〜630nmの波長領域の光を透過させるフィルタである。また、Bフィルタは、波長域W1及びW2を含む概ね510nm以下の波長領域の光を透過させるフィルタである。後述するように、光学フィルタ262は、波長域WR、W7及びW2の3つの波長領域の光のみを選択的に透過させる光学特性を有している。光学フィルタ262を透過した波長域WR、W7及びW2の光の像は、固体撮像素子108のRフィルタ、Gフィルタ及びBフィルタが装着された受光素子によってそれぞれ撮像され、画像信号R、G及びBとしてそれぞれ出力される。
なお、固体撮像素子108は、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えてもよい。
図4に示されるように、電子スコープ100の接続部内には、ドライバ信号処理回路110が備えられている。ドライバ信号処理回路110には、画像信号がフィールド周期で固体撮像素子108より入力される。ドライバ信号処理回路110は、固体撮像素子108より入力される画像信号に対して所定の処理を施した後、プロセッサ200の画像処理回路220へ出力する。
ドライバ信号処理回路110はまた、メモリ112にアクセスして電子スコープ100の固有情報を読み出す。メモリ112に記録される電子スコープ100の固有情報には、例えば、固体撮像素子108の画素数や感度、動作可能なフィールドレート、型番等が含まれる。ドライバ信号処理回路110は、メモリ112より読み出された固有情報をシステムコントローラ202に出力する。
システムコントローラ202は、電子スコープ100の固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、プロセッサ200に接続されている電子スコープに適した処理がなされるようにプロセッサ200内の各種回路の動作やタイミングを制御する。
タイミングコントローラ204は、システムコントローラ202によるタイミング制御に従って、ドライバ信号処理回路110にクロックパルスを供給する。ドライバ信号処理回路110は、タイミングコントローラ204から供給されるクロックパルスに従って、固体撮像素子108をプロセッサ200側で処理される映像のフィールドレートに同期したタイミングで駆動制御する。
画像処理回路220は、ドライバ信号処理回路110より1フィールド周期で入力される画像信号に対して色補完、マトリクス演算、Y/C分離等の所定の信号処理を施した後、モニタ表示用の画面データを生成し、生成されたモニタ表示用の画面データを所定のビデオフォーマット信号に変換する。変換されたビデオフォーマット信号は、モニタ300に出力される。これにより、被写体の画像がモニタ300の表示画面に表示される。
また、画像処理回路220は、分析処理回路230を備えている。分析処理回路230は、特殊観察モードにおいて、取得した画像信号R(Red)、G(Green)、B(Blue)に基づいて分光学的な分析処理を行い、被写体である生体組織における酸素飽和度との相関を有する指標の値を計算し、計算結果を視覚的に表示するための画像データを生成する。
上述のように、本実施形態の電子内視鏡システム1は、光学フィルタ262を使用せず、ランプ208から放射された白色光(通常光Ln)を照明光として使用してする通常観察モードと、白色光を光学フィルタ262に通して得られるフィルタ光Lfを照明光として使用して分光学的な分析を行う特殊観察モードと、特殊観察用の補正値を取得するためのベースライン測定モードの3つのモードで動作するように構成されている。各モードの切り替えは、電子スコープ100の操作部又はプロセッサ200の操作パネル214に対するユーザ操作によって行われる。
通常観察モードでは、システムコントローラ202は、光学フィルタ装置260を制御して光学フィルタ262を光路上から退避させ、被写体に通常光Lnを照射して撮像を行う。そして、撮像素子108によって撮像された画像データを、必要に応じて画像処理を施した後に、ビデオ信号に変換して、モニタ300に表示させる。
特殊観察モード及びベースライン測定モードでは、システムコントローラ202は、光学フィルタ装置260を制御して光学フィルタ262を光路上に配置し、被写体にフィルタ光Lfを照射して撮像を行う。そして、特殊観察モードでは、撮像素子108によって撮像された画像データに基づいて、後述する分析処理を行う。
ベースライン測定モードは、実際の内視鏡観察を行う前に、無彩色の拡散板や標準反射板等の色基準板を被写体として、フィルタ光Lfによる照明下で撮像を行い、後述する特殊観察モードの規格化処理に使用するデータを取得するモードである。
ベースライン測定モードにおいてフィルタ光Lfを用いて撮像した3原色の画像データR(x,y)、G(x,y)、B(x,y)は、それぞれベースライン画像データBL(x,y)、BL(x,y)、BL(x,y)として、分析処理回路230の内部メモリに記憶される。なお、R(x,y)、G(x,y)、B(x,y)及びBL(x,y)、BL(x,y)、BL(x,y)は、それぞれ画素(x,y)の画像データ及びベースライン画像データの値である。また、画素(x,y)は、水平方向の座標x及び垂直方向の座標yにより特定される。
[光学フィルタの構成と特性]
図6は、光学フィルタ262の透過スペクトルである。光学フィルタ262は、少なくとも可視光線波長領域において、波長域W2、W7及びWRの3つの波長領域の光のみを選択的に透過させる光学特性を有する、所謂多峰性の誘電体多層膜フィルタである。光学フィルタ262は、各波長域W2、W7及びWRにおいて平坦な透過特性を有しているが、波長域W7における透過率は他の波長域W2及びWRよりも低く調整されている。これは、本実施形態で使用する白色光源の発光スペクトルが波長域W7内にピークを有しているため、波長域W7における透過率を下げることにより、光学フィルタ262を透過した後の各波長域W2、W7、WRの光量を略均一にして受光データのノイズレベルを一定に保つためである。このフィルタの透過率特性は実際に用いる光源の分光波長輝度特性、受光素子の感度特性に鑑みて決めることができる。なお、光学フィルタ262には、他の方式の光学フィルタ(例えば、吸収型の光学フィルタや誘電体多層膜を波長選択性の反射膜として用いたエタロンフィルタ等)を用いてもよい。
[特殊観察モードにおける分析処理]
次に、特殊観察モードにおいて行われる分析処理について説明する。
図7は、分析処理を説明するフローチャートである。分析処理では、先ず固体撮像素子108による被写体の撮像が行われ、分析処理回路230は、固体撮像素子108が生成した3原色の画像データR(x,y)、G(x,y)、B(x,y)を取得する(S1)。
次に、分析処理回路230が、処理S1にて取得した画像データR(x,y)、G(x,y)及びB(x,y)を用いて、以下の分析処理(処理S3〜S6)の対象とする画素(x,y)を選別する画素選別処理S2を行う。
血液を含んでいない箇所や、組織の色がヘモグロビン以外の物質により支配的な影響を受けている箇所については、画素の色情報から酸素飽和度や血液量を計算しても意味のある値は得られず、単なるノイズとなる。このようなノイズを算出して医師に提供すると、適切な診断の妨げとなるだけでなく、画像処理部500に無用な負荷を与えて処理速度を低下させるという弊害が生じる。そこで、本実施形態の画像生成処理は、分析処理に適した画素(すなわち、ヘモグロビンの分光学的特徴が記録された画素)を選別して、選別された画素に対してのみ分析処理を行うように構成されている。
画素選別処理S2では、以下の数式6、数式7及び数式8の条件を全て充足する画素のみが分析処理の対象画素として選別される。
ここで、a、a、aは正の定数である。
上記の3つの条件式は、血液の透過スペクトルにおける、「G成分<B成分<R成分」の値の大小関係に基づいて設定されている。なお、上記の3つの条件式のうちの1つ又は2つのみを使用して(例えば、血液に特有の赤色に注目して数式7及び/又は数式8のみを使用して)画素選別処理S2を行っても良い。
次に、分析処理回路230が、規格化処理S3を行う。本実施形態の規格化処理S3は、電子内視鏡システム1自体の光学的特性(例えば光学フィルタの透過率や撮像素子の受光感度)を補正して、定量的な分析を可能にするための処理である。
規格化処理においては、分析処理回路230は、光学フィルタ262を透過したフィルタ光Lfを用いて取得した画像データR(x,y)及びベースライン画像データBL(x,y)から、次の数式9により、規格化画像データR(x,y)が計算される。
同様に、次の数式10及び数式11により、規格化画像データG(x,y)及びB(x,y)が計算される。
なお、以下の説明では、規格化画像データR(x,y)、G(x,y)、B(x,y)を使用するが、規格化処理を行わずに、規格化画像データR(x,y)、G(x,y)、B(x,y)に替えて画像データR(x,y)、G(x,y)、B(x,y)を使用して指標の計算を行ってもよい。
次に、分析処理回路230は、以下の数式12により、酸素飽和度との相関を有する第1指標Xを計算する(S4)。
画像データG(x,y)は、光学フィルタ262を透過した波長域W7の光によって形成された光学像を表すものである。また、画像データB(x,y)は、光学フィルタ262を透過した波長域W2の光によって形成された光学像を表すものである。上述のように、波長域W2の光に対する生体組織の反射率(すなわち、画像データBの値)は、酸素飽和度及び総ヘモグロビン量の両者に依存する。一方、波長域W7の光に対する生体組織の反射率(すなわち、画像データGの値)は、酸素飽和度には依存せず、総ヘモグロビン量に依存する。規格化反射率B(補正後の画像データBの値)を規格化反射率G(補正後の画像データGの値)で除算することにより、総ヘモグロビン量の寄与を相殺することができる。また、この除算により、生体組織の表面状態や生体組織への照明光IL(フィルタ光Lf)の入射角による生体組織の反射率への寄与も相殺され、酸素飽和度の寄与のみを抽出することができる。そのため、第1指標Xは、酸素飽和度の良い指標となる。
次に、分析処理回路230は、以下の数式13により、生体組織中の血液量(総ヘモグロビン量)と相関を有する第2指標Yを計算する(S5)。
上述したように、規格化反射率Gは、酸素飽和度には依存せず、総ヘモグロビン量に依存する値である。一方、規格化反射率R(補正後の画像データRの値)は、ヘモグロビンの吸収が殆ど無い波長域WRにおける生体組織の反射率であるため、酸素飽和度にも総ヘモグロビン量にも依存しない。規格化反射率Gを規格化反射率Rで除算することにより、生体組織の表面状態や生体組織への照明光ILの入射角による生体組織の反射率への寄与が相殺され、総ヘモグロビン量の寄与のみを抽出することができる。そのため、第2指標Yは、総ヘモグロビン量の良い指標となる。
次に、分析処理回路230は、第1指標X及び第2指標Yに基づいて、悪性腫瘍の疑い度を表す第3指標Zを計算する。
悪性腫瘍の組織では、血管新生により正常な組織よりも総ヘモグロビン量が多く、尚且つ、酸素の代謝が顕著であるため酸素飽和度は正常な組織よりも低いことが知られている。そこで、分析処理回路230は、数式12により計算した酸素飽和度を示す第1指標Xが所定の基準値(第1基準値)よりも小さく、且つ、数式13により計算した総ヘモグロビン量を示す第2指標Yが所定の基準値(第2基準値)よりも大きな画素を抽出して、これらの画素の第3指標Zの値を、悪性腫瘍の疑いがあることを示す「1」に設定し、その他の画素の第3指標Zの値を「0」に設定する。
また、第1指標X、第2指標Y及び第3指標Zをそれぞれ2値の指標とし、第1指標Xと第2指標Yとの論理積又は論理和として第3指標Zを計算する構成としてもよい。この場合、例えば、数式5の右辺の値が所定値未満の場合にX=1(低酸素飽和度)、所定値以上の場合にX=0(正常値)とし、数式13の右辺の値が所定値以上の場合にY=1(血液量大)、所定値未満の場合にY=0(正常値)として、Z=X・Y(論理積)又はZ=X+Y(論理和)によりZを計算することもできる。
上記は、第3指標Zを2値の指標とした場合の例であるが、第3指標Zを悪性腫瘍の疑いの度合を示す多値(あるいは実数等の連続値)の指標としてもよい。この場合、例えば、第1指標X(x,y)の第1基準値や平均値からの偏差と、第2指標Y(x,y)の第2基準値や平均値からの偏差に基づいて、悪性腫瘍の疑いの度合を示す第3指標Z(x,y)を計算する構成とすることができる。第3指標Z(x,y)は、例えば、第1指標X(x,y)の偏差と第2基準値の偏差との和や積として計算することができる。
次に、分析処理回路230は、第1指標X(x,y)、第2指標Y(x,y)又は第3指標Z(x,y)のうち、予めユーザが指定したものを画素値(輝度)とする指標画像データを生成する(S7)。なお、処理S7において、第1指標X(x,y)、第2指標Y(x,y)又は第3指標Z(x,y)の全ての指標画像データを生成する構成としてもよい。
次に、分析処理回路230は、画像データR(x,y)、G(x,y)、B(x,y)について色補正処理S8を行う。光学フィルタ262を通したフィルタ光Lfは、R(波長域WR)、G(波長域W7)、B(波長域W2)の3原色のスペクトル成分を含むため、フィルタ光Lfを使用してカラー画像を撮像することができる。しかしながら、フィルタ光Lfのスペクトルは帯域が限定されているため、フィルタ光Lfを使用して撮像した画像は、通常光Lnを使用して撮像した画像と比べて、やや不自然な色合いとなる。そこで、本実施形態では、フィルタ光Lfを使用して撮像した画像データR(x,y)、G(x,y)、B(x,y)に対して、通常光Lnを使用した場合に得られる画像に色合いを近づけるための色補正処理S8を行う。
色補正処理S8は、例えば画像データR(x,y)、G(x,y)、B(x,y)に対して、予め取得した補正値C、C、Cを加算又は乗算することによって行われる。あるいは、通常光Ln用のカラーマトリックスMnとは別にフィルタ光Lf用のカラーマトリックスMfを用意し、カラーマトリックス演算により色補正を行う構成としてもよい。補正値C、C、CやカラーマトリックスMfは、例えばフィルタ光Lfで照明した色基準板を電子内視鏡システムによって撮像して得た画像データに基づいて予め設定され、分析処理回路230の内部メモリに記憶される。また、色補正処理S8を行わない設定とすることもできる。
次に、分析処理回路230は、色補正処理S8を施した画像データや処理S7において生成した指標画像データ等に基づいて、モニタ300に表示するための画面データを生成する(S9)。画面データ生成処理S9では、例えば色補正後の内視鏡画像と一種類以上の指標画像とを1画面上に並べて表示する複数画面表示、色補正後の内視鏡画像のみを表示する内視鏡画像表示、ユーザが指定した一種類以上の指標画像のみを表示する指標画像表示等の各種の画面データを生成することができる。生成する画面データの種類は、電子スコープ100の操作部又はプロセッサ200の操作パネル214に対するユーザ操作によって選択される。また、プロセッサ200の操作パネル214等から入力された患者情報等の関連情報がスーパーインポーズにより各表示画面上に表示される。
図8は、モニタ300に表示される画面の例である。図8(a)が内視鏡画像であり、図6(b)が第1指標X(x,y)の指標画像である。なお、図8の画像は、中指の近位指節間関節付近を輪ゴムで圧迫した状態の右手を観察したものである。図8(b)には、右中指の圧迫部よりも遠位側において、圧迫によって血流が阻害されたことにより、酸素飽和度が低くなっていることが示されている。また、圧迫部の近位側直近では、動脈血が滞留して、局所的に酸素飽和度が高くなっていることが読み取れる。
特殊観察モードにおいて、内視鏡画像と指標画像とをモニタ300上に2画面表示させながら内視鏡観察を行うことにより、総ヘモグロビン量と酸素飽和度に特徴的変化がある悪性腫瘍をより確実に発見することが可能になる。また、悪性腫瘍が疑われる箇所を発見したときには、電子スコープ100の操作により、特殊観察モードから通常観察モードに迅速に切り替えて、より色再現性の高い通常観察画像を全画面表示させ、更に精密な診断を行うことができる。本実施形態の電子内視鏡システム1は、電子スコープ100の操作により、光学フィルタ262を光路上に自動的に挿抜して、画像処理の方法を変更するだけで、通常観察モードと特殊観察モードを容易且つ速やかに切り替えることができるように構成されている。
また、本実施形態の電子内視鏡システム1では、3つの波長域W2、W7及びWRを分離する多峰性の光学フィルタ262が採用され、更に、3つの波長域W2、W7及びWRが固体撮像素子108のBフィルタ、Gフィルタ及びRフィルタをそれぞれ透過する構成が採用されている。これらの構成により、1フレーム(2フィールド)の撮像により1フレームの内視鏡画像と指標画像を生成することが可能となるため、実効的なフレームレートの高い映像が得られる。
また、光学フィルタ262の3つの透過波長領域は、所望の精度の指標X、Yが得られるならば、ヘモグロビンの等吸収点によって定義される波長域W2、W7及びWRから多少ずれていてもよい。図9は、波長域W2(452〜502nm)に対応する光学フィルタ262の透過波長域をずらした場合に生じる指標Xの誤差をシミュレーションした結果をプロットしたグラフである。図9の横軸は酸素飽和度を示し、縦軸は指標Xの誤差を示す。
図9におけるプロットAは、波長域W2から長波長側に2nmずらした454〜504nmの波長領域を透過する光学フィルタ262を使用した場合の誤差である。プロットBは、波長域W2から短波長側に6nmずらした446〜596nmの波長領域を透過する光学フィルタ262を使用した場合の誤差である。また、プロットCは、波長域W2から短波長側に12nmずらした440〜490nmの波長領域を透過する光学フィルタ262を使用した場合の誤差である。いずれのプロットも、誤差は8%未満となった。また、短波長側にずれた場合よりも、長波長側にずれた場合の方が、少し誤差が大きくなる傾向が見られる。
正常な生体組織の酸素飽和度は大凡90%以上になるが、悪性腫瘍における酸素飽和度は大凡40%以下になるという報告等がある。従って、指標Xの誤差を大凡±5%以下に抑えることができれば、悪性腫瘍を判別する用途としては、十分に実用に耐えうると考えられる。
従って、光学フィルタ262の波長域W2に対応する透過波長域のずれ量としては、±12nmの範囲(長波長側にずれた場合に誤差が大きくなることを考慮すると、−12nm〜+10nmの範囲)で十分に許容されると考えられる。少なくとも、図9にプロットした条件(すなわち、波長のずれ量が−12nm〜+2nm)の範囲内であれば、指標Xの誤差を十分に実用的な範囲内に抑えることができる。
また、図9は、波長域W2に対応する透過波長域について、帯域幅を変えずに波長をシフトさせた場合のシミュレーション結果であるが、帯域幅の増減を伴う波長領域のずれに対しても、略同程度の許容差を与えることができると考えられる。すなわち、波長域W2に対応する透過波長域の短波長端及び長波長端の各波長について、±12nm(好ましくは−12nm〜+10nm、更に好ましくは−12nm〜+2nm)の範囲内の誤差を許容することができると考えられる。
また、波長域W7及び波長域WRに対応する透過波長域についても、少なくとも同程度の許容差が認められると考えられる。
以上の実施形態によれば、波長領域が極めて狭い等吸収点の替わりに波長領域全体の吸収が酸素飽和度に依存しない比較的に広い波長領域を使用するため、レーザ光等の極狭帯域かつ分光エネルギー密度の高い光を使用する必要がなくなり、バンドパスフィルタによって白色光から波長分離した光のような分光エネルギー密度が低い狭帯域光を使用しても、酸素飽和度の影響を受けずにヘモグロビン濃度(血液濃度)の情報を正確に推定することが可能になる。
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。
上記の実施形態は、特殊観察モードで使用する青色の波長領域として波長域W2を使用した例であるが、波長域W2に替えて波長域W1を使用することもできる。波長域W1は、波長域W2よりも、酸素化ヘモグロビンと還元ヘモグロビンとの吸収の差が大きい。そのため、波長域W1を使用することにより、酸素飽和度の変化をより高感度で検出することが可能になる。一方、波長域W2は、波長域W1よりも、ヘモグロビンの吸収が小さく、また、ランプ208にキセノンランプを使用する場合にはランプ208の発光強度も高くなるため、大きな光量が得られる。そのため、波長域W2を使用することにより、酸素飽和度をより高精度(低ノイズ)に検出することが可能になる。
上記の実施形態は、分光学的な分析結果をグレースケール又はモノクロの指標画像により表示する例であるが、分析結果の表示方法はこれに限定されない。例えば、指標値に応じて画像データR(x,y)、G(x,y)、B(x,y)に変更を加える構成としてもよい。例えば、指標値が基準値を超えた画素に対して、明度を高くする処理や、色相を変化させる処理(例えば、R成分を増加させて赤味を強くする処理や、色相を所定角度だけ回転させる処理)、画素を明滅させる(あるいは、周期的に色相を変化させる)処理を行うことができる。
また、上記の実施形態の固体撮像素子108は、オンチップのカラーフィルタを備えたカラー画像撮像用の固体撮像素子であるとして説明したが、この構成に限定されるものではなく、例えば、白黒画像撮像用の固体撮像素子を用い、いわゆる面順次方式のカラーフィルタを備えた構成としてもよい。また、カラーフィルタは、ランプ208から固体撮像素子108までの光路上のいずれかの位置に配置することができる。
また、上記の実施形態では、光学フィルタ装置260が光源側に設けられ、照射光ILに対してフィルタリングを行う構成が採用されているが、本発明はこの構成に限定されるものではなく、光学フィルタ装置260を撮像素子側(例えば、対物光学系106と撮像素子108との間)に設けて、被写体からの戻り光をフィルタリングする構成とすることもできる。
また、上記の実施形態は、本発明をデジタルカメラの一形態である電子内視鏡システムに適用した例であるが、他の種類のデジタルカメラ(例えば、デジタル一眼レフカメラやデジタルビデオカメラ)を使用したシステムに本発明を適用することもできる。例えば、本発明をデジタルスチルカメラに適用すると、体表組織の観察や開頭手術時の脳組織の観察(例えば、脳血流量の迅速検査)を行うことができる。
1 電子内視鏡システム
100 電子スコープ
102 LCB
104 配光レンズ
106 対物レンズ
108 固体撮像素子
110 ドライバ信号処理回路
112 メモリ
200 プロセッサ
202 システムコントローラ
204 タイミングコントローラ
206 ランプ電源イグナイタ
208 ランプ
210 集光レンズ
212 メモリ
214 操作パネル
220 画像処理回路
230 分析処理回路
260 光学フィルタ装置

Claims (12)

  1. 光源装置から発せられた照明光を被写体である生体組織が反射した像を撮像する、RGBカラーフィルタを備えた撮像素子と、
    前記撮像素子が生成する画像データに基づいて、前記生体組織に含まれる酸素化ヘモグロビン還元ヘモグロビンとのモル濃度比との相関を有する第1の指標と、前記酸素化ヘモグロビンと前記還元ヘモグロビンとのモル濃度和と相関を有する第2の指標と、前記第1の指標と前記第2の指標とに基づいて前記生体組織が病変部である疑い度合い示す第3指標と、求める画像処理部と、を備え、
    前記照明光は、
    前記モル濃度比に応じて変動する第1波長域と、
    前記生体組織の複数の等吸収点を含み、該生体組織による前記照明光の吸収が前記モル濃度比に依らず一定となる波長域である第2波長域と、を含み、
    前記画像処理部は、モニタに表示するための前記第3指標の画像を生成する、
    電子内視鏡システム
  2. 前記光源装置が、LEDである、
    請求項1に記載の電子内視鏡システム。
  3. 前記第1波長域は、前記RGBカラーフィルタのBフィルタを透過する波長域であり、
    前記第2波長域は、前記RGBカラーフィルタのGフィルタを透過する波長域である、
    請求項1又は2に記載の電子内視鏡システム。
  4. 前記照明光は、前記RGBカラーフィルタのRフィルタを透過する第3波長域を含み、
    前記画像処理部が、前記第2波長域の情報に基づいて生成された画像データGと前記第3波長域の情報に基づいて生成された画像データRとに基づいて、前記第2の指標を求める
    請求項1から請求項3のいずれか一項に記載の電子内視鏡システム。
  5. 前記画像データGを前記画像データRで除算した値を前記第2の指標とする、
    請求項4に記載の電子内視鏡システム。
  6. 前記照明光により照明された色基準板を撮像して得たR、G、B各色の画像データであるベースライン画像データBL、BL、BLを記憶するメモリを備えた、
    請求項1から請求項5のいずれか一項に記載の電子内視鏡システム。
  7. 画像データR、G、Bに替えて、以下の数式1〜3により定義される規格化画像データR、G、Bを使用して指標を計算する、
    請求項6に記載の電子内視鏡システム。
  8. 前記画像処理部が、前記生体組織における前記第1の指標の分布を示す第1の指標画像データを生成する、
    請求項1から請求項7のいずれか一項に記載の電子内視鏡システム。
  9. 前記第1の指標画像データが、前記第1の指標を画素値とする画像データである、
    請求項8に記載の電子内視鏡システム。
  10. 前記第1の指標及び前記第2の指標に基づいて、前記生体組織が悪性腫瘍である疑いの度合を示す第3の指標を計算する、
    請求項1から請求項のいずれか一項に記載の電子内視鏡システム。
  11. 前記第1の指標が第1の基準値よりも低く、且つ、前記第2の指標が第2の基準値よりも高い画素に対して、前記第3の指標を前記生体組織が悪性腫瘍である疑いが高いことを示す値に設定する、
    請求項10に記載の電子内視鏡システム。
  12. 前記第2波長域が、
    前記生体組織の一対の等吸収点によって区画され、
    その内部に前記生体組織の別の一対の等吸収点を含む、波長域である、
    請求項1から請求項11のいずれか一項に記載の電子内視鏡システム
JP2014179036A 2014-09-03 2014-09-03 電子内視鏡システム Active JP6204314B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2014179036A JP6204314B2 (ja) 2014-09-03 2014-09-03 電子内視鏡システム
US14/837,300 US10426325B2 (en) 2014-09-03 2015-08-27 Image capturing system and electronic endoscope system
CN201510549104.2A CN105380587A (zh) 2014-09-03 2015-08-31 图像采集***和电子内窥镜***
CN201911241393.4A CN110840379B (zh) 2014-09-03 2015-08-31 图像采集***和电子内窥镜***
EP16175262.1A EP3106079B1 (en) 2014-09-03 2015-09-01 Image capturing system and electronic endoscope system
EP15183306.8A EP2992805B1 (en) 2014-09-03 2015-09-01 Electronic endoscope system
US16/542,783 US11224335B2 (en) 2014-09-03 2019-08-16 Image capturing system and electronic endoscope system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014179036A JP6204314B2 (ja) 2014-09-03 2014-09-03 電子内視鏡システム

Publications (2)

Publication Number Publication Date
JP2016052391A JP2016052391A (ja) 2016-04-14
JP6204314B2 true JP6204314B2 (ja) 2017-09-27

Family

ID=54014716

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014179036A Active JP6204314B2 (ja) 2014-09-03 2014-09-03 電子内視鏡システム

Country Status (4)

Country Link
US (2) US10426325B2 (ja)
EP (2) EP2992805B1 (ja)
JP (1) JP6204314B2 (ja)
CN (2) CN105380587A (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014036759A (ja) 2012-08-17 2014-02-27 Hoya Corp 電子内視鏡システムおよび内視鏡用光源装置
SG11201608738SA (en) * 2014-05-05 2016-11-29 Helen Of Troy Ltd Otoscope and otoscopic method based on spectral analysis
EP3278710B1 (en) * 2015-04-02 2020-04-22 FUJIFILM Corporation Processor device and endoscopic system
WO2017142399A1 (en) * 2016-02-16 2017-08-24 Stichting Het Nederlands Kanker Instituut-Antoni van Leeuwenhoek Ziekenhuis Method, apparatus and software for detection and localization of hidden defects in optically diffuse media
JP6437943B2 (ja) * 2016-03-07 2018-12-12 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
JP6629639B2 (ja) * 2016-03-07 2020-01-15 富士フイルム株式会社 内視鏡システム、プロセッサ装置、及び、内視鏡システムの作動方法
CN109414158A (zh) * 2016-06-29 2019-03-01 奥林巴斯株式会社 内窥镜
JP6570484B2 (ja) 2016-07-04 2019-09-04 Hoya株式会社 分析装置
WO2018021240A1 (ja) * 2016-07-25 2018-02-01 学校法人同志社 病態診断支援システム、病態診断データ生成システム、および病態診断支援方法
CN109475281B (zh) * 2016-09-02 2021-08-20 Hoya株式会社 电子内窥镜***
US10905318B2 (en) 2016-10-14 2021-02-02 Hoya Corporation Endoscope system
WO2018079217A1 (ja) * 2016-10-27 2018-05-03 富士フイルム株式会社 内視鏡システム及びその作動方法
US11602277B2 (en) 2017-01-16 2023-03-14 Hoya Corporation Endoscope system and image display device
JP6850871B2 (ja) 2017-03-31 2021-03-31 Hoya株式会社 電子内視鏡システム
JP2020062063A (ja) * 2017-03-31 2020-04-23 国立大学法人九州大学 ヘモグロビン定量装置、ヘモグロビン定量方法及びヘモグロビン定量プログラム
GB2561863A (en) 2017-04-25 2018-10-31 Sumitomo Chemical Co Methods for colorimetric analysis
JP6439083B1 (ja) * 2017-05-02 2018-12-19 オリンパス株式会社 内視鏡システム
JP6960773B2 (ja) * 2017-05-26 2021-11-05 池上通信機株式会社 撮像画像処理システム
DE112019004271T5 (de) * 2018-08-31 2021-05-27 Hoya Corporation Endoskopsystem und Verfahren zum Bedienen des Endoskopsystems
JPWO2020066670A1 (ja) * 2018-09-27 2021-06-10 Hoya株式会社 電子内視鏡システム
DE112020002107T5 (de) * 2019-04-26 2022-03-03 Hoya Corporation Elektronisches endoskopsystem und datenverarbeitungsvorrichtung
CN115731205B (zh) * 2022-11-28 2024-04-26 北京大学 内窥镜的图像处理装置、方法、电子设备及存储介质

Family Cites Families (66)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5362149A (en) 1976-11-15 1978-06-03 Matsushita Electric Ind Co Ltd Arrester circuit
JPS559755A (en) 1978-07-08 1980-01-23 Hitoshi Hatano Mannmade gatheringgplace for fish
JPS583731A (ja) 1981-06-30 1983-01-10 Aida Eng Ltd フアインブランキング加工用機械プレス
JPS607857A (ja) 1983-06-27 1985-01-16 テルモ株式会社 腹膜透析用装置
JPH0679594A (ja) 1992-08-27 1994-03-22 Hitachi Cable Ltd 金型プレートのジグ研削加工方法
US5408998A (en) 1994-03-10 1995-04-25 Ethicon Endo-Surgery Video based tissue oximetry
JP2001314370A (ja) 2000-05-08 2001-11-13 Olympus Optical Co Ltd 光源装置
JP3583731B2 (ja) 2000-07-21 2004-11-04 オリンパス株式会社 内視鏡装置および光源装置
JP3607857B2 (ja) 2000-07-27 2005-01-05 オリンパス株式会社 内視鏡装置
EP1302152B1 (en) 2000-07-21 2013-03-20 Olympus Corporation Endoscope apparatus
JP3559755B2 (ja) 2000-07-27 2004-09-02 オリンパス株式会社 内視鏡装置
US6678398B2 (en) 2000-09-18 2004-01-13 Sti Medical Systems, Inc. Dual mode real-time screening and rapid full-area, selective-spectral, remote imaging and analysis device and process
JP4590095B2 (ja) 2000-12-07 2010-12-01 オリンパス株式会社 光源装置
JP3884265B2 (ja) 2001-10-22 2007-02-21 オリンパス株式会社 内視鏡装置
US7172553B2 (en) 2001-05-16 2007-02-06 Olympus Corporation Endoscope system using normal light and fluorescence
JP2003093343A (ja) 2001-09-21 2003-04-02 Fuji Photo Optical Co Ltd 内視鏡装置
US6932762B2 (en) 2001-09-21 2005-08-23 Fujinon Corporation Endoscope having red component cut filter
US20050027166A1 (en) 2003-06-17 2005-02-03 Shinya Matsumoto Endoscope system for fluorescent observation
US7949387B2 (en) 2004-03-19 2011-05-24 Board Of Supervisors Of Louisiana State University And Agricultural And Mechanical College Method for evaluating relative oxygen saturation in body tissues
JP4559149B2 (ja) 2004-07-23 2010-10-06 オリンパス株式会社 照明光学系、照明光学系を用いた照明装置、及び照明光学系又は照明光学系を用いた照明装置を用いた観察システム
JP4855728B2 (ja) 2005-07-27 2012-01-18 オリンパスメディカルシステムズ株式会社 照明装置及び観察装置
JP5208430B2 (ja) 2007-01-31 2013-06-12 オリンパス株式会社 生体組織用蛍光観察装置
JP5219440B2 (ja) 2007-09-12 2013-06-26 キヤノン株式会社 測定装置
US8849380B2 (en) * 2007-11-26 2014-09-30 Canfield Scientific Inc. Multi-spectral tissue imaging
JP2009153621A (ja) 2007-12-25 2009-07-16 Olympus Corp 生体観察装置および内視鏡装置
WO2010044432A1 (ja) 2008-10-17 2010-04-22 オリンパスメディカルシステムズ株式会社 内視鏡システムおよび内視鏡画像処理装置
JP5767775B2 (ja) 2009-07-06 2015-08-19 富士フイルム株式会社 内視鏡装置
JP5541914B2 (ja) 2009-12-28 2014-07-09 オリンパス株式会社 画像処理装置、電子機器、プログラム及び内視鏡装置の作動方法
US8879352B2 (en) * 2010-01-25 2014-11-04 The Arizona Board Of Regents On Behalf Of The University Of Arizona Ultrasonic/photoacoustic imaging devices and methods
US9420153B2 (en) 2010-02-10 2016-08-16 Hoya Corporation Electronic endoscope system
WO2011099322A1 (ja) 2010-02-10 2011-08-18 Hoya株式会社 電子内視鏡システム
JP2013521900A (ja) * 2010-03-17 2013-06-13 ズオン、ハイシャン 高速マルチスペクトルイメージングの方法および装置と癌検出および局在診断への応用
JP5452300B2 (ja) * 2010-03-19 2014-03-26 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、電子内視鏡システムの作動方法、病理観察装置および病理顕微鏡装置
JP5457247B2 (ja) 2010-03-26 2014-04-02 富士フイルム株式会社 電子内視鏡システム、電子内視鏡用のプロセッサ装置、及び電子内視鏡システムの作動方法
JP5597021B2 (ja) 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
JP5076036B2 (ja) 2010-06-25 2012-11-21 オリンパスメディカルシステムズ株式会社 内視鏡装置
WO2012047806A1 (en) 2010-10-08 2012-04-12 Edwards Lifesciences Corporation System, method and computer program product for optical measurement of blood parameters
JP5231511B2 (ja) * 2010-11-09 2013-07-10 富士フイルム株式会社 内視鏡診断装置
JP5303012B2 (ja) * 2010-12-15 2013-10-02 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置及び内視鏡システムの作動方法
JP5222934B2 (ja) 2010-12-21 2013-06-26 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
JP5496075B2 (ja) 2010-12-27 2014-05-21 富士フイルム株式会社 内視鏡診断装置
JP5752423B2 (ja) 2011-01-11 2015-07-22 富士フイルム株式会社 分光計測システムおよび分光計測システムの作動方法
JP2012235962A (ja) 2011-05-13 2012-12-06 Hoya Corp 電子内視鏡装置
JP5611892B2 (ja) * 2011-05-24 2014-10-22 富士フイルム株式会社 内視鏡システム及び内視鏡システムの作動方法
JP2012245223A (ja) 2011-05-30 2012-12-13 Hoya Corp 電子内視鏡装置及び分光画像最適化方法
JP5579672B2 (ja) 2011-08-15 2014-08-27 富士フイルム株式会社 内視鏡システム、及び光源装置
EP2754379B1 (en) 2011-09-05 2019-07-03 FUJIFILM Corporation Endoscope system and image display method
JP2014530668A (ja) 2011-09-15 2014-11-20 ザ トラスティーズ オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク 組織励起を用いた蛍光検体の測定
JP5331860B2 (ja) 2011-09-15 2013-10-30 富士フイルム株式会社 内視鏡システム及び光源装置
JP5923099B2 (ja) 2011-09-29 2016-05-24 Hoya株式会社 診断システム
JP6146955B2 (ja) * 2012-03-13 2017-06-14 キヤノン株式会社 装置、表示制御方法、及びプログラム
EP2700349A4 (en) 2012-03-30 2015-08-26 Olympus Medical Systems Corp ENDOSCOPIC DEVICE
JP2014000301A (ja) * 2012-06-20 2014-01-09 Fujifilm Corp 光源装置及び内視鏡システム
JP5623469B2 (ja) * 2012-07-06 2014-11-12 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡用制御プログラム
JP5702755B2 (ja) 2012-07-24 2015-04-15 富士フイルム株式会社 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡システムの作動方法
JP2014036759A (ja) 2012-08-17 2014-02-27 Hoya Corp 電子内視鏡システムおよび内視鏡用光源装置
JP5774563B2 (ja) 2012-09-04 2015-09-09 富士フイルム株式会社 内視鏡システム及びそのプロセッサ装置並びに内視鏡システムの作動方法
JP5690790B2 (ja) 2012-09-21 2015-03-25 富士フイルム株式会社 内視鏡システム及び内視鏡システムの作動方法
JP5670399B2 (ja) 2012-09-26 2015-02-18 富士フイルム株式会社 内視鏡システム及びそのプロセッサ装置並びに内視鏡システムの作動方法
JP2014230647A (ja) 2013-05-29 2014-12-11 Hoya株式会社 表示装置、表示方法および表示プログラム
CN105324064B (zh) 2013-05-30 2017-10-27 Hoya株式会社 生成示出生物组织中生物物质浓度分布图像的方法和装置
JP6257926B2 (ja) 2013-05-31 2018-01-10 Hoya株式会社 波長可変光バンドパスフィルタモジュール、波長可変光源装置及び分光内視鏡装置
JP6010571B2 (ja) 2014-02-27 2016-10-19 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、内視鏡システム用プロセッサ装置の作動方法
JP6039639B2 (ja) 2014-02-27 2016-12-07 富士フイルム株式会社 内視鏡システム、内視鏡システム用プロセッサ装置、内視鏡システムの作動方法、及び内視鏡システム用プロセッサ装置の作動方法
JP6121368B2 (ja) * 2014-06-27 2017-04-26 富士フイルム株式会社 医用画像処理装置及びその作動方法並びに内視鏡システム
JP6085649B2 (ja) 2014-08-29 2017-02-22 富士フイルム株式会社 内視鏡用光源装置及び内視鏡システム

Also Published As

Publication number Publication date
EP3106079B1 (en) 2021-12-29
EP2992805B1 (en) 2022-01-05
CN110840379A (zh) 2020-02-28
EP3106079A1 (en) 2016-12-21
US20190374096A1 (en) 2019-12-12
JP2016052391A (ja) 2016-04-14
CN110840379B (zh) 2022-05-17
US10426325B2 (en) 2019-10-01
US11224335B2 (en) 2022-01-18
EP2992805A1 (en) 2016-03-09
CN105380587A (zh) 2016-03-09
US20160058274A1 (en) 2016-03-03

Similar Documents

Publication Publication Date Title
JP6204314B2 (ja) 電子内視鏡システム
WO2017145529A1 (ja) 計算システム
CN110325100B (zh) 内窥镜***及其操作方法
CN105615894B (zh) 分析装置以及分析方法
JP6356122B2 (ja) 生体組織中の生体物質の濃度分布を示す画像を生成する装置の作動方法及び装置
JP5466182B2 (ja) 内視鏡システムおよび内視鏡システムの作動方法
JP5923099B2 (ja) 診断システム
US9907493B2 (en) Endoscope system processor device, endoscope system, operation method for endoscope system processor device, and operation method for endoscope system
WO2013164962A1 (ja) 内視鏡装置
CN111989023B (zh) 内窥镜***及使内窥镜***工作的方法
JP5752423B2 (ja) 分光計測システムおよび分光計測システムの作動方法
WO2017119239A1 (ja) 内視鏡装置
JP2018000975A (ja) 分析装置
JP6615369B2 (ja) 内視鏡システム
JP6284451B2 (ja) 内視鏡装置
JP2021035549A (ja) 内視鏡システム
WO2018043728A1 (ja) 内視鏡システム及び特徴量算出方法
US20030216626A1 (en) Fluorescence judging method and apparatus
CN109561808B (zh) 分析装置
JP6783168B2 (ja) 内視鏡システム及び分析装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170228

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170626

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170831

R150 Certificate of patent or registration of utility model

Ref document number: 6204314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250