JP2021149558A - 医療用画像処理装置、医療用観察システムおよび画像処理方法 - Google Patents

医療用画像処理装置、医療用観察システムおよび画像処理方法 Download PDF

Info

Publication number
JP2021149558A
JP2021149558A JP2020049175A JP2020049175A JP2021149558A JP 2021149558 A JP2021149558 A JP 2021149558A JP 2020049175 A JP2020049175 A JP 2020049175A JP 2020049175 A JP2020049175 A JP 2020049175A JP 2021149558 A JP2021149558 A JP 2021149558A
Authority
JP
Japan
Prior art keywords
light
image processing
fluorescence
pixel
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020049175A
Other languages
English (en)
Other versions
JP2021149558A5 (ja
Inventor
一博 山口
Kazuhiro Yamaguchi
一博 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Priority to JP2020049175A priority Critical patent/JP2021149558A/ja
Priority to US17/167,110 priority patent/US11774772B2/en
Publication of JP2021149558A publication Critical patent/JP2021149558A/ja
Publication of JP2021149558A5 publication Critical patent/JP2021149558A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/14Beam splitting or combining systems operating by reflection only
    • G02B27/141Beam splitting or combining systems operating by reflection only using dichroic mirrors
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00186Optical arrangements with imaging filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/042Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by a proximal camera, e.g. a CCD camera
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/0012Surgical microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0032Optical details of illumination, e.g. light-sources, pinholes, beam splitters, slits, fibers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/0004Microscopes specially adapted for specific applications
    • G02B21/002Scanning microscopes
    • G02B21/0024Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
    • G02B21/0052Optical details of the image generation
    • G02B21/0076Optical details of the image generation arrangements using fluorescence or luminescence
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B23/00Telescopes, e.g. binoculars; Periscopes; Instruments for viewing the inside of hollow bodies; Viewfinders; Optical aiming or sighting devices
    • G02B23/24Instruments or systems for viewing the inside of hollow bodies, e.g. fibrescopes
    • G02B23/2476Non-optical details, e.g. housings, mountings, supports
    • G02B23/2484Arrangements in relation to a camera or imaging device
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/1006Beam splitting or combining systems for splitting or combining different wavelengths
    • G02B27/1013Beam splitting or combining systems for splitting or combining different wavelengths for colour or multispectral image sensors, e.g. splitting an image into monochromatic image components on respective sensors

Landscapes

  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optics & Photonics (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)
  • Image Input (AREA)

Abstract

【課題】装置の小型化を図ることができる医療用画像処理装置、医療用観察システムおよび画像処理方法を提供する。【解決手段】医療用画像処理装置は、画像処理部91を備え、画像処理部91は、画像データに含まれる第1の可視光が被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、第1の画素値と、補完画素値と、に基づいて、背景画像を生成し、画像データに含まれる蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する。【選択図】図2

Description

本開示は、被観察体の撮像することによって画像データに対して画像処理を行う医療用画像処理装置、医療用観察システムおよび画像処理方法に関する。
従来、手術用顕微鏡では、ダイクロイックビームスプリッタを介して3つの撮像素子の各々に赤色光、緑色光および青色光を導光し、かつ、3つの撮像素子のうち1つに赤外光を導光することによって、蛍光画像と可視光画像とを観察する技術が知られている(例えば特許文献1参照)。
特許第5646844号公報
しかしながら、上述した特許文献1では、3つの撮像素子を用いて蛍光画像と可視光画像とを観察しているため、装置の小型化を図ることが難しいという問題点があった。
本開示は、上記に鑑みてなされたものであって、装置の小型化を図ることができる医療用画像処理装置、医療用観察システムおよび画像処理方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本開示に係る制御装置は、光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、
前記画像処理部は、
前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する。
また、本開示に係る医療用画像処理装置は、光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、前記医療用撮像装置は、前記反射光と、前記蛍光と、複数の波長帯域毎に分光するダイクロイックプリズムと、前記ダイクロイックプリズムが分光した複数の波長帯域の光の各々を受光して複数の前記画像データを生成する複数の撮像素子と、を備え、前記画像処理部は、前記画像データに基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する画素値を補完する補完画素値を生成し、前記画像データと、前記補完画素値と、に基づいて、背景画像を生成し、前記画像データに基づいて、蛍光画像を生成する。
また、本開示に係る医療用観察システムは、上記の医療用画像処理装置と、前記医療用撮像装置を回動可能に支持する支持部と、前記支持部の基端部を回動可能に保持し、床面上を移動可能なベース部と、をさらに備える。
また、本開示に係る画像処理方法は、光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う医療用画像処理装置が実行する画像処理方法であって、前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する。
本開示によれば、装置の小型化を図ることができるという効果を奏する。
図1は、実施の形態1に係る医療用観察システムの全体構成を示す図である。 図2は、実施の形態1に係る医療用観察システムの機能構成を示すブロック図である。 図3は、実施の形態1に係る画素部の構成を模式的に示す図である。 図4は、実施の形態1に係るカラーフィルタの構成を模式的に示す図である。 図5は、実施の形態1に係る各波長帯域におけるカラーフィルタ透過後のイメージセンサの感度を模式的に示す図である。 図6は、実施の形態1に係る医療用観察システムが実行する処理の概要を示すフローチャートである。 図7は、実施の形態1に係る医療用観察システムが実行する蛍光観察モード時における処理の概要を模式的に示す図である。 図8Aは、医療用途で被検体の術部(生体組織)を撮像した画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図8Bは、医療用途で被検体の術部(生体組織)を撮像した画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図8Cは、医療用途で被検体の術部(生体組織)を撮像した画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図9Aは、医療用途で被検体の術部(生体組織)を撮像した別の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図9Bは、医療用途で被検体の術部(生体組織)を撮像した別の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図9Cは、医療用途で被検体の術部(生体組織)を撮像した別の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。 図10は、医療用途で被検体の術部(生体組織)を撮像した複数の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す表である。 図11は、実施の形態1に係る第1の生成部が蛍光画像を生成する際の生成方法を模式的に示す図である。 図12は、実施の形態1に係る第1の生成部が蛍光画像を生成する際の生成方法の別の一例を示す模式図である。 図13は、実施の形態1に係る第2の生成部が背景画像を生成する際の生成方法を模式的に示す図である。 図14は、実施の形態1の変形例に係る撮像部の構成を示す概念図である。 図15は、実施の形態2に係る医療用観察システムの概略構成を示す図である。 図16は、実施の形態2に係る医療用観察システムの要部の機能構成を示すブロック図である。 図17は、実施の形態3に係る医療用観察システムの概略構成を示す図である。
以下、本開示を実施するための形態(以下、「実施の形態」という)を図面とともに詳細に説明する。なお、以下の実施の形態により本開示が限定されるものでない。また、以下の説明において参照する各図は、本開示の内容を理解でき得る程度に形状、大きさ、および位置関係を概略的に示してあるに過ぎない。即ち、本開示は、各図で例示された形状、大きさ、および位置関係のみに限定されるものでない。
(実施の形態1)
〔医療用観察システムの概略構成〕
図1は、実施の形態1に係る医療用観察システムの全体構成を示す図である。図1に示す医療用観察システム1は、被観察体の微小部位を拡大して観察する顕微鏡としての機能を有する医療用の観察装置2と、光ファイバ等によって構成されたライトガイド4を経由して観察装置2に照明光を供給する光源装置3と、観察装置2が撮像した画像データに基づく画像を表示する表示装置8と、医療用観察システム1の動作を統括的に制御する制御装置9と、を備える。
〔観察装置の概略構成〕
まず、観察装置2の概略構成について説明する。観察装置2は、被観察体の微小部位を観察する顕微鏡部5と、顕微鏡部5の基端部に接続され、顕微鏡部5を回動可能に支持する支持部6と、支持部6の基端部を回動可能に保持し、床面上を移動可能なベース部7と、を備える。
顕微鏡部5は、円柱状の外観を有し、その内部に、ズーム機能およびフォーカス機能を有する光学系と、光学系が結像した被写体像を受光して光電変換を行うことによって画像データを生成する撮像素子(図示略)と、被観察体に照明光を照射する光出射部(図示略)と、を有する。また、顕微鏡部5の側面には、観察装置2の動作指示の入力を受け付ける入力部24を構成する各種スイッチが設けられている。顕微鏡部5の下端部の開口面には、内部の光学系等を保護するカバーガラスが設けられている(図示略)。術者等のユーザは、顕微鏡部5を把持した状態で各種スイッチを操作しながら、顕微鏡部5を移動したり、顕微鏡部5の角度を変更したり、観察装置2のモードを変更したり、ズームまたはフォーカス操作を行ったりする。なお、顕微鏡部5の形状は、円筒状に限定されることなく、例えば多角筒状であってもよい。
光源装置3は、制御装置9の制御のもと、ライトガイド4を経由して観察装置2に赤色の波長帯域の光、緑色の波長帯域の光および青色の波長帯域の光を含む白色光および赤外光の少なくとも1つの照明光を供給する。光源装置3は、キセノンランプやメタルハライドランプ等の放電ランプ、LED(Light Emitting Diode)やLD(Laser Diode)等の固体発光素子、またはハロゲンランプ等の発光部材等を用いて構成される。
表示装置8は、制御装置9が生成した表示画像や医療用観察システムに関する各種情報を表示する。表示装置8は、液晶や有機EL(Electro Luminescence)等を用いて構成される。表示装置8は、2D画像または3D画像を表示する。
制御装置9は、医療用観察システム1の各部を統括的に制御する。制御装置9は、メモリと、CPU(Central Processing Unit)等の汎用プロセッサやASIC(Application Specific Integrated Circuit)やGPU(Graphics Processing Unit)等の特定の機能を実行する各種演算回路等のハードウェアを有するプロセッサを用いて実現される。また、プログラマブル集積回路の一種であるFPGA(Field Programmable Gate Array:図示略)を用いて構成するようにしてもよい。なお、FPGAにより構成される場合は、コンフィグレーションデータを記憶するメモリを設け、メモリから読み出したコンフィグレーションデータにより、プログラマブル集積回路であるFPGAをコンフィグレーションしてもよい。なお、制御装置9の詳細な構成は、後述する。
〔医療用観察システムの機能構成〕
次に、医療用観察システム1の機能構成について説明する。図2は、医療用観察システム1の機能構成を示すブロック図である。
〔観察装置の機能構成〕
まず、観察装置2の機能構成について説明する。
観察装置2は、顕微鏡部5と、検出部23と、入力部24と、第1の制御部25と、を備える。
顕微鏡部5は、観察対象である被観察体の像を拡大することによって画像データを生成する撮像部21と、光源装置3から供給された照明光を被観察体に向けて照射する光出射部22と、を備える。
撮像部21は、光学系211と、撮像素子212と、カットフィルタ213と、を備える。なお、撮像部21が実施の形態1に係る医療用撮像装置として機能する。
光学系211は、ズームおよびフォーカス機能を有し、カットフィルタ213を経由して被写体像を撮像素子212の受光面に結像する。光学系211は、1または複数のレンズと、このレンズを光路L1に沿って移動させるモータ等を用いて実現される。
撮像素子212は、カットフィルタ213を経由して光学系211が結像した被写体像を受光して光電変換を行うことによって画像データ(RAWデータ)を生成する。撮像素子212は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサを用いて実現される。撮像素子212は、画素部212aと、カラーフィルタ212bと、を有する。
図3は、画素部212aの構成を模式的に示す図である。図3に示すように、画素部212aは、光量に応じた電荷を蓄積するフォトダイオード等の複数の画素Pn,m(n=1以上の整数,m=1以上の整数)が2次元マトリクス状に配置されてなる。画素部212aは、第1の制御部25の制御のもと、複数の画素Pn,mのうち読み出し対象として任意に設定された読み出し領域の画素Pn,mから画像信号を画像データとして読み出して制御装置9へ出力する。具体的には、画素部212aが生成する画像データは、伝送ケーブルを経由して制御装置9へ伝送される。なお、画素部212aが生成した画像データに対してE/O変換を行うことによって光信号によって制御装置9へ伝送してもよい。
図4は、カラーフィルタ212bの構成を模式的に示す図である。図4に示すカラーフィルタ212bは、2×2を1つのユニットとするベイヤー配列で構成される。カラーフィルタ212b、赤色の波長帯域の光を透過するフィルタRと、緑色の波長帯域の光を透過する2つのフィルタG(フィルタGr、フィルタGb)と、青色の波長帯域の光を透過するフィルタBと、を用いて構成される。
以下においては、フィルタRが受光面に配置されてなる画素Pn,mをR画素、フィルタGrおよびフィルタGbが受光面に配置されてなる画素Pn,m+1をGr画素、画素Pn+1,mをGb画素(以下Gr、Gbを合わせてG画素と記載)、フィルタBが受光面に配置されてなる画素Pn+1,m+1をB画素として表記して説明する。さらに、実施の形態1では、フィルタRが赤色の波長帯域の光(第1の可視光)および蛍光を透過する第1のフィルタとして機能し、フィルタBが青色の波長帯域の光(第2の可視光)および蛍光を透過する第2のフィルタとして機能し、フィルタGが緑色の波長帯域の光(第3の可視光)および蛍光を透過する第3のフィルタとして機能する。即ち、R画素の画素値には、赤色の反射光および蛍光の成分が含まれ、G画素(Gr画素、Gb画素)の画素値には、緑光の反射光および蛍光が含まれ、B画素の画素値には、青光の反射光および蛍光が含まれる。
カットフィルタ213は、光学系211と撮像素子212との光路L1上に配置される。カットフィルタ213は、光学系211が結像した被写体像に含まれる励起光の波長成分(例えば740±10nm)の光を遮光し、励起光以外の波長成分の光を透過する。
ここで、各画素の分光特性について説明する。図5は、各波長帯域におけるカラーフィルタ透過後の撮像素子の感度を模式的に示す図である。図5において、横軸が波長(nm)を示し、縦軸が分光特性を示す。また、図5において、曲線LがB画素の分光特性を示し、曲線LがG画素の分光特性を示し、曲線LがR画素の分光特性を示し、直線LIRが蛍光物質に対して励起光が照射されることによって発する蛍光の波長帯域を示す。また、曲線LCUTは、カットフィルタ213の透過特性を示す。
図5の曲線Lおよび直線LIRに示すように、B画素は、青色の波長帯域(435nm〜480nm)の光(以下、単に「青光」という)に感度を有し、かつ、蛍光物質に対して励起光が照射されることによって発する波長帯域の蛍光(830±10nm)に感度を有する。また、図5の曲線Lおよび直線LIRに示すように、G画素(Gr画素およびGb画素)は、緑色の波長帯域(500nm〜560nm)の光(以下、単に「緑光」という)に感度を有し、かつ、蛍光物質に対して励起光が照射されることによって発する波長帯域の蛍光(830±10nm)に感度を有する。さらに、図5の曲線Lおよび直線LIRに示すように、R画素は、赤色の波長帯域(610nm〜750nm)の光(以下、単に「赤光」という)に感度を有し、かつ、蛍光物質に対して励起光が照射されることによって発する波長帯域の蛍光(830±10nm)に感度を有する。
光出射部22は、1または複数のレンズを用いて構成された照明光学系を有する。光出射部22は、ライトガイド4を経由して光源装置3から供給された白色光、赤色の波長帯域の光、緑色の波長帯域の光、青色の波長帯域の光および赤外光の少なくとも1つの波長帯域の光の照明光を、撮像部21の撮像方向と同じ方向へ照明光を照射する。なお、光出射部22は、顕微鏡部5にLED(Light Emitting Diode)やレーザ光源等を設けることによって、ライトガイド等の光伝送を省略してもよい。
検出部23は、観察装置2の状態情報を逐次検出する。観察装置2の状態情報は、撮像部21の位置、フォーカスおよびズームに関する情報を含む。検出部23は、これらの情報を検出するための各種センサを有する。
入力部24は、撮像部21に対する動作指示の入力を受け付ける。入力部24は、撮像部21におけるフォーカスおよびズーム操作をそれぞれ指示する入力を受け付けるフォーカススイッチおよびズームスイッチ、電動視野移動モードの指示入力を受け付ける電動視野移動モードスイッチおよび医療用観察システム1の観察モードの切り替えを指示する入力を受け付けるモード切替スイッチ等を有する。入力部24を構成する各種スイッチやボタン等は、図1に示すように、顕微鏡部5の側面に設けられる。
第1の制御部25は、入力部24が入力を受け付けた動作指示または後述する制御装置9から入力された動作指示に応じて撮像部21の動作を制御する。また、第1の制御部25は、後述する制御装置9の第2の制御部94と連携して観察装置2を統括的に制御する。第1の制御部25は、メモリと、CPUやFPGA、ASIC等のプロセッサを用いて構成される。
〔光源装置の構成〕
次に、光源装置3の構成について説明する。
光源装置3は、第1の光源部31と、第2の光源部32と、第3の光源部33と、第4の光源部34と、を備える。
第1の光源部31は、制御装置9の制御のもと、ライトガイド4を経由して、赤光を観察装置2の光出射部22へ供給する。第1の光源部31は、赤色LED等を用いて実現される。
第2の光源部32は、制御装置9の制御のもと、ライトガイド4を経由して、緑光を観察装置2の光出射部22へ供給する。第2の光源部32は、緑色LED等を用いて実現される。
第3の光源部33は、制御装置9の制御のもと、ライトガイド4を経由して、青光を観察装置2の光出射部22へ供給する。第3の光源部33は、青色LED等を用いて実現される。
第4の光源部34は、ライトガイド4を介して、蛍光物質を励起する赤外光を観察装置2の光出射部22へ供給する。第4の光源部34は、制御装置9の制御のもと、蛍光物質を励起する励起光として機能する赤外光(波長帯域740±10nm)を供給する。第2の光源部32は、ICG(Indocyanine Green)観察に用いられる赤外光(700〜1000nm)を照射可能な半導体レーザ素子と所定の波長帯域(波長帯域740±10nm)のみを透過させるフィルタ等を用いて構成される。なお、以下においては、赤外光として説明するが、これに限定されることなく、例えば、ヘマトポルフィリン誘導体等の光感受性物質を腫瘍組織に予め蓄積させて蛍光を観察させるPDD(Photo Dynamic Diagnosis)観察に用いられる光(波長帯域415±10nm)、およびコラーゲン等の蛍光物質からの自家発光を観察するAFI(Auto Fluorescence Imaging)観察に用いられる光(波長帯域390〜470nm+波長帯域540〜560nm)であってもよい。
〔制御装置の構成〕
次に、制御装置9の機能構成について説明する。
制御装置9は、画像処理部91と、入力部92と、記録部93と、第2の制御部94と、を備える。
画像処理部91は、観察装置2から伝送された画像データに対して、各種の画像処理を行って表示装置8が表示する表示用の表示画像(映像データ)を生成する。ここで、画像処理としては、色補正、色強調および輪郭強調等の各種画像処理等が挙げられる。また、画像処理部91は、観察装置2から伝送された画像データに含まれる第1の可視光(赤光および緑光の一方)を受光した画素が出力した第1の画素値に基づいて、第1の可視光(赤光および緑光の一方)と異なる帯域である第2の可視光(青光)の成分に相当する補完画素値を生成し、第1の画素値と、補完画素値と、に基づいて、背景画像を生成し、観察装置2から伝送された画像データに含まれる蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する。画像処理部91は、メモリと、GPU(Graphics Processing Unit)、ASICまたはFPGA等のプロセッサを用いて実現される。画像処理部91は、少なくとも減算部911と、第1の生成部912と、第2の生成部913と、第3の生成部914と、合成部915と、を有する。
減算部911は、撮像部21から入力された画像データに含まれる第1,第3のフィルタ(フィルタRまたはフィルタG)が配置されてなる画素(R画素またはG画素)が出力した第1,第3の画素値から、第2のフィルタ(フィルタB)が配置されてなる画素(B画素)が出力した第2の画素値を減算し、この減算した減算結果を第2の生成部913へ出力する。具体的には、減算部911は、第1,第3の画素値から、第1,第3のフィルタの蛍光波長の分光感度を第2のフィルタの蛍光波長の分光感度で除算した値に第2の画素値を乗算した乗算結果を減算し、この減算した減算結果を第2の生成部913へ出力してもよい。なお、減算部911による算出方法は、後述する。
第1の生成部912は、第2の制御部94の制御のもと、撮像部21から入力された画像データに含まれる第2のフィルタ(フィルタB)が配置されてなる画素(B画素)が出力した第2の画素値に基づいて、蛍光画像を生成し、この蛍光画像を合成部915へ出力する。具体的には、第1の生成部912は、画像データに含まれるB画素の画素値に基づいて、R画素およびG画素の画素値を補完することによって蛍光画像を生成して合成部915へ出力する。さらに、第1の生成部912は、蛍光画像に対して、着色化処理を行う。具体的には、第1の生成部912は、蛍光画像の輝度値に基づいて、色調変換処等によって蛍光画像の着色化を行って着色化した蛍光画像を合成部915へ出力する。例えば、第1の生成部912は、蛍光画像の輝度値に基づいて、蛍光領域が緑色となるように着色化処理を行う。なお、第1の生成部912は、第2の制御部94を経由して入力部92から入力される蛍光画像の蛍光領域の色を指定する指定信号に基づいて、蛍光画像において着色化する色を設定してもよい。
第2の生成部913は、第2の制御部94の制御のもと、撮像部21から入力された画像データに含まれる第1,第3のフィルタ(フィルタR、フィルタG)が配置されてなる画素(R画素、G画素)が出力した第1,第3の画素値に基づいて、第1の背景画像を生成し、この第1の背景画像を第3の生成部914へ出力する。具体的には、第2の生成部913は、減算部911から入力された入力結果に基づいて、第1の背景画像を生成する。さらに、第2の生成部913は、撮像部21から入力された画像データに含まれる第1,第3のフィルタ(フィルタR、フィルタG)が配置されてなる画素(R画素、G画素)が出力した第1,第3の画素値に基づいて、可視光に含まれない赤色、緑色および青色のいずれか1つの光の成分に相当する画素値を補完する補完画素値を生成し、この補完画素値を第3の生成部914へ出力する。
第3の生成部914は、第2の生成部913から入力された補完画素値と、第1,第3の画素値(第1の背景画像)と、に基づいて、第2の背景画像を生成し、この第2の背景画像を合成部915へ出力する。さらに、第3の生成部914は、第2の背景画像に対して白黒化処理を行って合成部915へ出力してもよい。例えば、第3の生成部914は、背景画像の彩度を低下させる彩度低下処理を行って白黒化した第2の背景画像を合成部915へ出力してもよい。
合成部915は、第1の生成部912から入力された蛍光画像と、第3の生成部914から入力された第2の背景画像と、を合成した合成画像を生成し、この合成画像を表示装置8へ出力する。具体的には、合成部915は、蛍光画像と、第2の背景画像と、を所定の比率(例えば1:1)で合成することによって合成画像を生成する。
入力部92は、キーボード、マウス、タッチパネル、フットスイッチ等のユーザインタフェースを用いて実現され、各種情報の入力を受け付ける。
記録部93は、フラッシュメモリやDRAM(Dynamic Random Access Memory)等の半導体メモリを用いて構成され、医療用観察システム1が実行する各種プログラムや処理中のデータを一時的に記録するプログラム記録部931を有する。
第2の制御部94は、医療用観察システム1の各部を統括的に制御する。第2の制御部94は、プログラムが記録された内部メモリ(図示略)を有するCPU等の汎用プロセッサやASIC等の特定の機能を実行する各種演算回路等の専用プロセッサを用いて実現される。また、プログラマブル集積回路の一種であるFPGAを用いて構成するようにしてもよい。なお、FPGAにより構成される場合は、コンフィグレーションデータを記憶するメモリを設け、メモリから読み出したコンフィグレーションデータにより、プログラマブル集積回路であるFPGAをコンフィグレーションしてもよい。
〔医療用観察システムの処理〕
次に、医療用観察システム1が実行する処理について説明する。図6は、医療用観察システム1が実行する処理の概要を示すフローチャートである。
図6に示すように、第2の制御部94は、医療用観察システム1が白色光を被写体へ照射する白色光観察モードに設定されているか否かを判断する(ステップS101)。第2の制御部94によって医療用観察システム1が白色光を被写体へ照射する白色光観察モードに設定されていると判断された場合(ステップS101:Yes)、医療用観察システム1は、後述するステップS102へ移行する。これに対して、第2の制御部94によって医療用観察システム1が白色光を被写体へ照射する白色光観察モードに設定されていると判断された場合(ステップS101:No)、医療用観察システム1は、後述するステップS107へ移行する。
ステップS102において、第2の制御部94は、第1の光源部31、第2の光源部32および第3の光源部33の各々を発光させることによって白色光を照射させる。
この時、第4の光源部34は消灯させる。
続いて、第2の制御部94は、第1の制御部25を制御することによって、撮像部21に被写体からの反射光を受光させることによって撮像させる(ステップS103)。
その後、画像処理部91は、撮像部21から入力された画像データに対して、各種の画像処理を行って白色光観察画像を生成する(ステップS104)。
続いて、表示装置8は、画像処理部91から入力された白色光観察画像を表示する(ステップS105)。これにより、医者等のユーザは、被観察体を観察することができる。
その後、第2の制御部94は、入力部92から被観察体の観察を終了する指示信号が入力されたか否かを判断する(ステップS106)。第2の制御部94によって入力部92から被観察体の観察を終了する指示信号が入力されたと判断された場合(ステップS106:Yes)、医療用観察システム1は、本処理を終了する。これに対して、入力部92から被観察体の観察を終了する指示信号が入力されていないと判断された場合(ステップS106:No)、医療用観察システム1は、上述したステップS101へ戻る。
ステップS107において、第2の制御部94は、医療用観察システム1が少なくとも励起光を被写体へ照射する蛍光観察モードに設定されているか否かを判断する(ステップS101)。第2の制御部94によって医療用観察システム1が少なくとも励起光を被写体へ照射する蛍光観察モードに設定されていると判断された場合(ステップS107:Yes)、医療用観察システム1は、後述するステップS108へ移行する。これに対して、第2の制御部94によって医療用観察システム1が少なくとも励起光を被写体へ照射する蛍光観察モードに設定されていないと判断された場合(ステップS107:No)、医療用観察システム1は、ステップS106へ移行する。
ステップS108において、第2の制御部94は、第4の光源部34を発光させて励起光を蛍光物質が投与された被写体に向けて照射させ、かつ、第1の光源部31および第2の光源部32の各々を発光させることによって赤光および緑光を被写体に向けて照射させる(ステップS108)。具体的には、図7に示すように、第2の制御部94は、光源装置3における第4の光源部34を発光させて励起光IRを蛍光物質が投与された被写体Oに向けて照射させる。この場合、第2の制御部94は、第4の光源部34と同時に、第1の光源部31および第2の光源部32の各々を発光させることによって、励起光IR1、赤光Wおよび緑光Wを被写体Oに向けて照射させる。また、第3の光源部33は、消灯させる。
続いて、第2の制御部94は、撮像部21に被写体Oが発光した蛍光IRを受光させることによって撮像させ、かつ、被写体Oからの戻り光または被写体Oで反射された反射光である赤光Wおよび緑光Wを受光させることによって撮像させる(ステップS109)。この場合において、図7に示すように、カットフィルタ213は、被写体Oで反射された励起光IRを遮光し、被写体Oからの蛍光IR、赤光Wおよび緑光Wの各々を透過する。また、撮像素子212における各画素(R画素、G画素およびB画素)には、各フィルタ(フィルタR、フィルタGおよびフィルタB)の各々が赤外光領域に感度を有する。このため、光源装置3が赤色光を照射しておらず、カットフィルタ213に励起光IRが遮光されているので、撮像素子212のB画素には、蛍光IRのみが入射する。さらに、撮像素子212のR画素には、蛍光IRおよび被写体Oで反射された赤光Wの各々が入射する。さらにまた、撮像素子212のG画素には、蛍光IRおよび被写体Oで反射された緑光Wの各々が入射する。このとき、R画素およびG画素の各々が出力する画素値は、R画素およびG画素の各々に入射する蛍光IRの強度が赤色反射光および緑色反射光の強度に対して微弱となるため、赤色反射光および緑色反射光が支配的となる。さらに、B画素の画素値は、光源装置3が青光を照射していないため、蛍光IRが支配的となる。即ち、画像処理部91は、B画素の出力値を蛍光IRによる出力値として用いることができ、かつ、R画素およびG画素の出力値を可視光(赤色反射光および緑色反射光)による出力値として用いることができる。
その後、減算部911は、撮像部21から入力された画像データに含まれる第1,第3のフィルタ(フィルタRまたはフィルタG)が配置されてなる画素(R画素またはG画素)が出力した第1,第3の画素値から、第2のフィルタ(フィルタB)が配置されてなる画素(B画素)が出力した第2の画素値を減算する減算処理を行う(ステップS110)。
ここで、減算部911が行う減算処理の詳細について説明する。
Gr画素から出力される画素値に含まれる蛍光成分の値(以下、単に「IRgr」という)、Gb画素から出力される画素値に含まれる蛍光成分の値(以下、単に「IRgb」という)、R画素から出力される画素値に含まれる蛍光成分の値(以下、単に「IRr」という)とした場合、各画素の蛍光成分を除いた画素値をB画素から出力される画素値に含まれる蛍光成分の値(以下、単に「IRb」という)から推測することができる。具体的には、図5の直線LIRにおける、R画素、G画素(Gr画素、Gb画素)およびB画素の各々の分光感度を、r、gおよびb[%]とした場合、R画素、G画素(Gr画素、Gb画素)およびB画素の各々に入力される蛍光成分は、一定と考えられる。このため、以下の式が成り立つ。
IRgr≒IRgb≒(g/b)*IRb ・・・(1)
IRr≒(r/b)*IRb ・・・(2)
また、光源装置3が青光を照射していないため、B画素の画素値=IRbである。このため、R画素の画素値をR、Gr画素の画素値をGr、Gb画素の画素値をGb、およびB画素の画素値をBとした場合、減算部911は、以下の式(3)〜(5)を行うことによって、R画素の画素値およびG画素の画素値の各々から蛍光成分の値を減算した値を算出する。
Gr画素の画素値=Gr−(g/b)*IRgr≒Gr−(g/b)*B ・・・(3)
Gb画素の画素値=Gb−(g/b)*IRgb≒Gb−(g/b)*B ・・・(4)
R画素の画素値=R−(r/b)*IRr≒R−(r/b)*B ・・・(5)
続いて、画像処理部91は、第2の制御部94の制御のもと、蛍光画像および第1の背景画像を生成する(ステップS111)。具体的には、第1の生成部912は、撮像素子212から入力された画像データに含まれる各B画素の画素値を用いて蛍光画像を生成する。この場合、図7に示すように、第1の生成部912は、各B画素の画素値を用いてR画素、G画素の各々の位置に対応する画素値を補完した蛍光画像P1を生成する。この蛍光画像P1は、蛍光の輝度画像である。さらに、第2の生成部913は、撮像素子212から入力された画像データであって、減算部911から入力された画像データに含まれる各R画素および各G画素の各々の画素値を用いて第1の背景画像P2を生成する。この場合、図7に示すように、第2の生成部913は、各R画素および各B画素の各々の画素値を用いてB画素の位置に対応する画素値を補完した第1の背景画像P2を生成する。この第1の背景画像P2は、赤色成分および緑色成分のみであり、白色光観察時には存在した青色成分がないため、例えばB画素の画素値を黒として第1の背景画像P2を生成し、第1の背景画像P2にデモザイク処理によって画像を生成した場合、不自然な色彩となる。このため、図7に示す第1の背景画像P2には、不自然な色彩を表現するため、ハッチングを施している。
その後、画像処理部91は、B画素の画素値を補完した補完画像値を生成する(ステップS112)。具体的には、第2の生成部913は、減算部911から入力された画像データに含まれる第1,第3のフィルタ(フィルタR、フィルタG)が配置されてなる画素(R画素、G画素)が出力した第1,第3の画素値に基づいて、光源装置3が照射した可視光に含まれない赤色、緑色および青色のいずれか1つの光の成分に相当する画素値を補完した補完画素値を生成する。例えば、第2の生成部913は、G画素が出力した第3の画素値に基づいて、各B画素が出力する青光の成分に相当する画素値を補完した補完画素値を生成し、この補完画素値を第3の生成部914へ出力する。なお、第2の生成部913は、R画素が出力した第1の画素値に基づいて、各B画素が出力する青光の成分に相当する画素値を補完した補完画素値を生成し、この補完画素値を第3の生成部914へ出力してもよい。
ここで、第2の生成部913が補完する補完方法について説明する。図8A〜図8Cは、医療用途で被検体の術部(生体組織)を撮像した画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。図9A〜図9Cは、医療用途で被検体の術部(生体組織)を撮像した別の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す図である。図10は、医療用途で被検体の術部(生体組織)を撮像した複数の画像を赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関関係を示す表である。
医療用途で術部を撮影した画像は、血液や脂肪等を撮像しているため、赤、黄、白などの色が支配的である。このため、図8A〜図8C、図9A〜図9Cおよび図10の表T1に示すように、医療用途で撮像した画像は、赤色画像、緑色画像、青色画像に分離し、それぞれの画像の同一位置にある画素の相関を取った場合、G画素とB画素の相関が他の相関にくらべ非常に高い。このため、第2の生成部913は、補完するB画素の画素値を、このB画素の近傍に位置するG画素の画素値から補完することによってB画素の補完画素値を生成する。具体的には、第2の生成部913は、以下の方法1〜方法6等を用いて対象B画素(注目するB画素)の補完画素値を生成する。
方法1:対象B画素に隣接するGr画素の画素値を複製した値を補完画素値とする。
方法2:対象B画素に隣接するGb画素の画素値を複製した値を補完画素値とする。
方法3:対象B画素に隣接するGr画素の画素値とGb画素の画素値との平均値を補完画素値とする。
方法4:対象B画素に隣接するGr画素の画素値とGb画素の画素値とを比較し、大きい方の画素値を複製した値を補完画素値とする。
方法5:対象B画素に隣接するGr画素の画素値とGb画素の画素値とを比較し、小さい方の画素値を複製した値を補完画素値とする。
方法6:対象B画素を中心に所定の範囲(例えば3×3)に位置する複数のGr画素の各々の画素値と複数のGb画素の各々の画素値との平均値を補完画素値とする。
ここで、第1の生成部912が蛍光画像P1を生成する際の生成方法について説明する。図11は、第1の生成部912が蛍光画像P1を生成する際の生成方法を模式的に示す図である。
図11に示すように、第1の生成部912は、撮像素子212から入力された画像データに含まれるベイヤー配列におけるユニットZ1におけるR画素(A3)およびG画素(A1,A2)の各々の画素値を使わず、B画素(画素Pn,m)の画素値を、R画素(A3)およびG画素(A1,A2)の画素値として複製することによって、R画素およびG画素の各々の位置に対応する画素値を補完する。同様に、第1の生成部912は、ユニットZ2において、B画素(画素Pn,m+2)の画素値を、R画素およびG画素(例えばA4)の画素値として複製することによって、R画素およびG画素の各々の位置に対応する画素値を補完する。さらに、第1の生成部912は、ユニットZ3において、B画素(画素Pn+2,m)の画素値を、R画素およびG画素(例えばA5)の画素値として複製することによって、R画素、G画素の各々の位置に対応する画素値を補完する。このように、第1の生成部912は、各ユニットにおけるB画素の画素値を用いて、R画素およびG画素の各々の位置に対応する画素値を補完した蛍光画像P1を生成する。
図12は、第1の生成部912が蛍光画像P1を生成する際の生成方法の別の一例を示す模式図である。
図12に示すように、第1の生成部912は、隣接するB画素の画素値の平均値を用いてR画素およびG画素の各々の位置に対応する画素値を補完することによって蛍光画像P1を生成する。具体的には、第1の生成部912は、G画素(A1)の画素値を、G画素に隣接するB画素(画素Pn,m)の画素値とB画素(画素Pn,m+2)の画素値との平均値((画素Pn,mの画素値)+(画素Pn,m+2の画素値)/2)とする。同様に、第1の生成部912は、G画素(A2)の画素値を、G画素に隣接するB画素(画素Pn,m)の画素値とB画素(画素Pn+2,m)の画素値との平均値((画素Pn+2,mの画素値)+(画素Pn,mの画素値)/2)とする。また、第1の生成部912は、R画素(A3)の画素値を、R画素に隣接するB画素(画素Pn,m)の画素値とB画素(画素Pn+2,m+2)の画素値との平均値((画素Pn2,mの画素値)+(画素Pn+2,m+2の画素値)/2)とする。このように、第1の生成部912は、隣接するB画素の画素値の平均値を用いてR画素およびG画素の各々の位置に対応する画素値を補完することによって蛍光画像P1を生成する。
図13は、第2の生成部913が第1の背景画像P2を生成する際の生成方法を模式的に示す図である。
図13に示すように、第2の生成部913は、B画素(画素Pn,m)を黒(画素値が0)として見なして、第1の背景画像P2を生成する。
図6に戻り、ステップS113以降の説明を続ける。
ステップS113において、第3の生成部914は、第2の生成部913から入力された補完画素値と、第1の背景画像と、に基づいて、第2の背景画像を生成する。具体的には、図7に示すように、第3の生成部914は、第2の生成部913から入力された補完画素値と、第1の背景画像P2とを合成し、デモザイク処理を行うことによって、第2の背景画像P3を生成する。これにより、第2の背景画像P3は、白色光観察時の色彩に近いものとなる。
続いて、第3の生成部914は、第2の背景画像P3に対して白黒化処理を行って合成部915へ出力してもよい(ステップS114)。具体的には、第3の生成部914は、第2の背景画像P3に対してグレースケール化処理を行うことによってグレースケール画像を生成し、このグレースケール画像を合成部915へ出力してもよい。
続いて、第1の生成部912は、蛍光画像P1に対して着色化処理を行って合成部915へ出力する(ステップS115)。具体的には、第1の生成部912は、蛍光画像P1の輝度値に基づいて、色調変換処等によって蛍光画像P1の着色化を行って着色化した蛍光画像P1を合成部915へ出力する。例えば、第1の生成部912は、蛍光画像P1を緑色に着色化を行う。
その後、合成部915は、第1の生成部912が生成した蛍光画像P1と第3の生成部914が生成した第2の背景画像P3とを合成した合成画像P4を生成する(ステップS114)。具体的には、図7に示すように、合成部915は、蛍光画像P1と第2の背景画像P3(背景画像)とを合成した合成画像P4を生成し、この合成画像P4を表示装置8へ出力する。この場合、合成部915は、蛍光画像P1と第2の背景画像P3とを所定の比率(例えば1:1)で合成することによって合成画像P4を生成する。
その後、表示装置8は、合成部915から入力された合成画像P4を表示する(ステップS115)。これにより、図7に示すように、医者等のユーザは、表示装置8が表示するより自然な色彩に近い合成画像P5を観察することによって蛍光領域Q1の位置を把握することができる。ステップS112の後、医療用観察システム1は、ステップS106へ移行する。
以上説明した実施の形態1によれば、画像処理部91が画像データに含まれる第1,第3のフィルタ(フィルタR,フィルタG)が配置されてなる画素が出力した第1,第3の画素値(R画素、G画素)に基づいて、青光の成分に相当する画素値を補完した補完画素値を生成するとともに、第1,第3の画素値と、補完画素値と、に基づいて、赤色、緑色および青色の波長帯域の光の成分に相当する背景画像(第2の背景画像)を生成し、かつ、画像データに含まれる第2のフィルタ(フィルタB)が配置されてなる画素(B画素)が出力した第2の画素値に基づいて、蛍光画像を生成する。この方法では、光源装置3から可視光と赤外線の励起光は同時に照射すればよく、交互に照射する必要はないため、被観察体の観察箇所のちらつきを防止するとともに、装置の小型化を図ることができる。
また、実施の形態1によれば、通常のベイヤー配列の1つの撮像素子212を用いて蛍光画像P1と、通常の白色光観察画像と、を生成することができるので、特別な撮像素子を用いることなく、白色光観察モードと蛍光観察モードとを適宜切り替えながら被観察体の観察箇所を観察することができる。
また、実施の形態1では、画像処理部91がG画素の画素値に基づいて、B画素の画素値を補完画素値として生成するので、白色光観察に近い色彩に近い背景画像(第2の背景画像)を生成することができる。
また、実施の形態1によれば、画像処理部91が背景画像(第2の背景画像)に対して白黒化処理を行った後に、この白黒化処理を行った背景画像(第2の背景画像)と蛍光画像とを合成しているため、合成画像上における蛍光領域を強調することができる。
また、実施の形態1によれば、画像処理部91が蛍光画像に対して単色化処理を行った後に、この着色化処理を行った蛍光画像と背景画像(第2の背景画像)とを合成しているため、合成画像上における蛍光領域を強調することができる。
また、実施の形態1によれば、医療用観察システム1が白色光観察モードに設定されている場合、第2の制御部94が第1の光源部31、第2の光源部32および第3の光源部33を発光させて白色光を照射させる一方、医療用観察システム1が蛍光観察モードに設定されている場合、第2の制御部94が第1の光源部31、第2の光源部32および第4の光源部34を発光させて可視光と励起光とを同時に照射させるため、白色光観察モードと蛍光観察モードとを適宜切り替えながら被観察体の観察箇所を観察することができる。
また、実施の形態1によれば、画像処理部91が第1の画素値(R画素およびG画素の各々の画素値)から、第1のフィルタ(フィルタR、フィルタG)の分光感度を第2のフィルタ(フィルタB)の分光感度で除算した値に、第2の画素値(B画素の画素値)を乗算した乗算結果を減算し、この減算した減算結果に基づいて背景画像を生成するため、蛍光成分を除いた背景画像を生成することができる。
なお、実施の形態1では、画像処理部91が、第1の画素値(R画素およびG画素の各々の画素値)から、第1のフィルタ(フィルタR、フィルタG)の蛍光波長の分光感度を第2のフィルタ(フィルタB)の蛍光波長の分光感度で除算した値に、第2の画素値(B画素の画素値)を乗算した乗算結果を減算していたが、単に第1の画素値から第2の画素値をそのまま用いてもよい。
また、実施の形態1では、医療用観察システム1が蛍光観察モードに設定されている場合、第2の制御部94が第2の光源部32および第3の光源部33の各々を発光させていたが、第1の光源部31と、第2の光源部32および第3の光源部33の一方を発光させることによって可視光(赤光+緑光または赤光+青光)を照射させてもよい。例えば、第1の光源部31および第3の光源部33を発光させることによって照明光(赤光+青光)を被写体に照射した場合、画像処理部91は、上述したB画素に対する処理を上述したG画素の処理と同様の処理を行い、G画素に対する処理を上述したB画素の処理と同様の処理を実行することによって、背景画像および蛍光画像を生成すればよい。
また、実施の形態1では、画像処理部91が背景画像に対して白黒化処理を行っていたが、蛍光画像に対して白黒化処理を行ってもよいし、背景画像および蛍光画像の各々に対して白黒化処理を行ってもよい。これにより、合成画像上における蛍光領域を強調することができる。もちろん、画像処理部91は、背景画像および蛍光画像の各々に対して白黒化処理を省略してもよい。これにより、処理を単純化することができる。
また、実施の形態1では、画像処理部91が蛍光画像に対して着色化処理を行っていたが、背景画像に対して着色化処理を行ってもよいし、背景画像および蛍光画像の各々に対して着色化処理を行ってもよい。この場合、画像処理部91は、背景画像および蛍光画像の各々に対して互いに異なる色となるように着色化処理を行う。これにより、合成画像上における蛍光領域を強調することができる。もちろん、画像処理部91は、背景画像および蛍光画像の各々に対して着色化処理を省略してもよい。これにより、処理を単純化することができる。
また、実施の形態1では、蛍光観察モード時に第1の光源部31、第2の光源部32および第4の光源部34を発光させていたが、例えば白色光を照射可能な光源と、青色の波長帯域を遮光し、それ以外の波長帯域の光を透過するカットフィルタを設け、蛍光観察モード時にカットフィルタを白色光が発光する白色光の光路上に配置するようにしてもよい。もちろん、カットフィルタの透過特性を、緑色の波長帯域を遮光し、それ以外の波長帯域の光を透過するものであっても適用することができる。
また、実施の形態1では、緑色および青色の一方の波長帯域を遮光し、それ以外の波長帯域の光を透過するカットフィルタを、光学系211とカットフィルタ213との光路上に挿脱可能に設け、蛍光観察モード時に光学系211とカットフィルタ213との光路上に挿入する場合であっても適用することができる。
(実施の形態1の変形例)
次に、実施の形態1の変形例について説明する。上述した実施の形態1では、ベイヤー配列で構成された1つの撮像素子212(単板)で撮像していたが、実施の形態1の変形例では、複数の撮像素子を用いる。
図14は、実施の形態1の変形例に係る撮像部の構成を示す概念図である。図14に示す撮像部21は、上述した撮像素子212に代えて、撮像素子212R、撮像素子212G、撮像素子212Bおよびダイクロイックプリズム214を備える。
撮像素子212Rは、上述した画素部212aと、後述するダイクロイックプリズム214によって分光された赤光を受光して光電変換を行うことによって画像データを生成する。
撮像素子212Gは、上述した画素部212aと、後述するダイクロイックプリズム214によって分光された緑光を受光して光電変換を行うことによって画像データを生成する。
撮像素子212Bは、上述した画素部212aと、後述するダイクロイックプリズム214によって分光された青光を受光して光電変換を行うことによって画像データを生成する。
ダイクロイックプリズム214は、カットフィルタ213を介して入射した光のうち赤光および蛍光を撮像素子212Rへ出射し、緑光および蛍光を撮像素子212Gへ出射し、青光および蛍光を撮像素子212Bへ出射する。
このように構成された撮像部21を備える医療用観察システムは、上述した医療用観察システム1と同様の処理(図6を参照)を行う。
以上説明した実施の形態1の変形例によれば、上述した実施の形態1と同様の効果を奏する。
(実施の形態2)
次に、実施の形態2について説明する。上述した実施の形態1では、医療用観察システムとして手術用顕微鏡を説明したが、実施の形態2では、硬性鏡を有する内視鏡システムを医療用観察システムとして説明する。なお、上述した実施の形態1に係る医療用観察システム1と同一の構成には同一の符号を付して詳細な説明を省略する。
〔医療用観察システムの構成〕
図15は、実施の形態2に係る医療用観察システムの概略構成を示す図である。図15に示す医療用観察システム1Bは、医療分野に用いられ、生体等の被検体内の生体組織を観察するシステムである。なお、実施の形態2では、医療用観察システム1Bとして、図15に示す硬性鏡(挿入部102)を用いた硬性内視鏡システムについて説明する。
図15に示す医療用観察システム1Bは、挿入部102と、光源装置3と、ライトガイド104と、内視鏡カメラヘッド105(内視鏡用撮像装置)と、第1の伝送ケーブル106と、表示装置8と、第2の伝送ケーブル108と、制御装置9と、第3の伝送ケーブル1010と、を備える。
挿入部102は、硬質または少なくとも一部が軟性で細長形状を有する。挿入部102は、トロッカーを経由して患者等の被検体内に挿入される。挿入部102は、内部に観察像を結像するレンズ等の光学系が設けられている。
ライトガイド104は、一端が光源装置3に着脱自在に接続され、かつ、他端が挿入部102に着脱自在に接続される。ライトガイド104は、光源装置3から供給された照明光を一端から端に導光し、挿入部102へ供給する。
内視鏡カメラヘッド105は、挿入部102の接眼部121が着脱自在に接続される。内視鏡カメラヘッド105は、制御装置9による制御のもと、挿入部102によって結像された観察像を受光して光電変換を行うことによって画像データ(RAWデータ)を生成し、この画像データを第1の伝送ケーブル106を経由して制御装置9へ出力する。
第1の伝送ケーブル106は、一端がビデオコネクタ161を経由して制御装置9に着脱自在に接続され、他端がカメラヘッドコネクタ162を経由して内視鏡カメラヘッド105に着脱自在に接続される。第1の伝送ケーブル106は、内視鏡カメラヘッド105から出力される画像データを制御装置9へ伝送し、かつ、制御装置9から出力される設定データおよび電力等を内視鏡カメラヘッド105へ伝送する。
第2の伝送ケーブル108は、一端が表示装置8に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。第2の伝送ケーブル108は、制御装置9において画像処理が施された画像データを表示装置8へ伝送する。
第3の伝送ケーブル1010は、一端が光源装置3に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。第3の伝送ケーブル1010は、制御装置9からの制御データを光源装置3へ伝送する。
〔医療用観察システムの要部の機能構成〕
次に、上述した医療用観察システム1Bの要部の機能構成について説明する。図16は、医療用観察システム1Bの要部の機能構成を示すブロック図である。
〔内視鏡カメラヘッドの構成〕
まず、内視鏡カメラヘッド105の構成について説明する。内視鏡カメラヘッド105は、撮像素子212と、カットフィルタ213と、レンズユニット501と、カメラヘッドメモリ502と、カメラヘッド制御部503と、を備える。
レンズユニット501は、挿入部102の光学系が集光した被写体像を撮像素子212の受光面に結像する。レンズユニット501は、焦点位置を変更可能である。レンズユニット501は、複数のレンズを用いて構成される。
カメラヘッドメモリ502は、内視鏡カメラヘッド105に関する各種情報(例えば撮像素子212の画素情報、カットフィルタ213の特性)を記録する。また、カメラヘッドメモリ502は、第1の伝送ケーブル106を経由して制御装置9から伝送されてくる各種設定データおよび制御用のパラメータを記録する。カメラヘッドメモリ502は、不揮発性メモリや揮発性メモリを用いて構成される。
カメラヘッド制御部503は、第1の伝送ケーブル106を経由して制御装置9から受信した設定データに基づいて、内視鏡カメラヘッド105を構成する各部の動作を制御する。カメラヘッド制御部503は、TG(Timing Generator)と、CPU等のハードウェアを有する処理装置であるプロセッサと、プロセッサが使用する一時的な記憶域であるメモリを用いて実現される。
このように構成された医療用観察システム1Bは、上述し医療用観察システム1と同様の処理(図6を参照)を行う。
以上説明した実施の形態2によれば、上述した実施の形態1と同様の効果を奏するとともに、内視鏡カメラヘッド105の小型化を図ることができる。
(実施の形態3)
次に、実施の形態3について説明する。実施の形態3では、医療用観察システムとして軟性の内視鏡を用いた軟性内視鏡システムに適用した場合について説明する。なお、上述した実施の形態1に係る医療用観察システム1と同一の構成には同一の符号を付して詳細な説明を省略する。
〔医療用観察システムの概略構成〕
図17は、実施の形態3に係る医療用観察システムの概略構成を示す図である。図17に示す医療用観察システム1Cは、被検体内に挿入することによって被検体内の体内を撮像することによって画像データを生成し、この画像データに基づく画像を表示する。
図17に示すように、医療用観察システム1Cは、被検体内に挿入部202を挿入することによって観察部位の体内画像を撮像して画像データを生成する内視鏡201と、光源装置3と、表示装置8と、制御装置9と、を備える。内視鏡201は、挿入部202の先端部203に撮像部21が設けられてなる。
このように構成された医療用観察システム1Cは、上述し医療用観察システム1と同様の処理(図6を参照)を行う。
以上説明した実施の形態3によれば、軟性の内視鏡201を備える医療用観察システム1Cであっても、上述した実施の形態1と同様の効果を得ることができる。
(その他の実施の形態)
上述した本開示の実施の形態1〜3に係る医療用観察システムに開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上述した本開示の実施の形態1〜3に係る医療用観察システムに記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、上述した本開示の実施の形態に係る医療用観察システムで説明した構成要素を適宜組み合わせてもよい。
また、本開示の実施の形態1〜3に係る医療用観察システムでは、上述してきた「部」は、「手段」や「回路」などに読み替えることができる。例えば、制御部は、制御手段や制御回路に読み替えることができる。
また、本開示の実施の形態1〜3に係る医療用観察システムに実行させるプログラムは、インストール可能な形式または実行可能な形式のファイルデータでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB媒体、フラッシュメモリ等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、本開示の実施の形態1〜3に係る医療用観察システムに実行させるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてタイミング間の処理の前後関係を明示していたが、本開示を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。即ち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。例えば、蛍光画像の生成、着色化処理と背景画像の生成および白黒化処理は並列処理することが可能である。
以上、本願の実施の形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、本開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
なお、本技術は以下のような構成も取ることができる。
(付記1)
光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、
前記画像処理部は、
前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、
前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、
前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する、
医療用画像処理装置。
(付記2)
(付記1)に記載の医療用画像処理装置であって、
前記医療用撮像装置は、
前記医療用撮像装置は、
撮像素子の入射面側に設けられ、前記励起光を遮光する一方、前記第1の可視光が前記被写体で反射した反射光および前記蛍光を透過するカットフィルタを備える、
医療用画像処理装置。
(付記3)
(付記1)または(付記2)に記載の医療用画像処理装置であって、
前記画像処理部は、
前記第1の画素値から前記第2の画素値を減算し、該減算した減算結果と、前記補完画素値と、に基づいて、前記背景画像を生成する、
医療用画像処理装置。
(付記4)
(付記1)に記載の医療用画像処理装置であって、
前記医療用撮像装置は、
複数の画素を有する画素部、並びに前記第1の可視光と前記蛍光とを透過可能な第1のフィルタおよび前記第2の可視光と前記蛍光とを透過可能な第2のフィルタを前記複数の画素の各々の受光面に有し、前記第1の可視光および前記第2の可視光の少なくとも一方が前記被写体で反射した反射光および前記蛍光の少なくとも一方を撮像することによって画像データを生成する撮像素子を備え、
前記第1の画素値は、
前記第1のフィルタが配置されてなる画素が出力したものであり、
前記第2の画素値は、
前記第2のフィルタが配置されてなる画素が出力したものである、
医療用画像処理装置。
(付記5)
(付記4)に記載の医療用画像処理装置であって、
前記画像処理部は、
前記第1の画素値から、前記第1のフィルタの蛍光波長の分光感度を前記第2のフィルタの蛍光波長の分光感度で除算した値に前記第2の画素値を乗算した乗算結果を減算し、該減算した減算結果と、前記補完画素値と、に基づいて前記背景画像を生成する、
医療用画像処理装置。
(付記6)
(付記4)または(付記5)に記載の医療用画像処理装置であって、
前記第1の可視光は、
赤色の波長帯域の光および緑色の波長帯域の光の一方であり、
前記第1のフィルタは、
前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記緑色の波長帯域の光と、前記蛍光と、を透過する緑色フィルタの一方であり、
前記第2のフィルタは、
青色の波長帯域の光および前記蛍光を透過する青色フィルタである、
医療用画像処理装置。
(付記7)
(付記6)に記載の医療用画像処理装置であって、
前記光源装置は、
前記第1の可視光および前記第2の可視光と波長帯域が異なる第3の可視光を照射可能であり、
前記撮像素子は、
前記第3の可視光と前記蛍光とを透過可能な第3のフィルタを有し、
前記第3の可視光は、
前記赤色の波長帯域の光および前記緑色の波長帯域の光の他方であり、
前記第1のフィルタは、
前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記緑色の波長帯域の光と、前記蛍光と、を透過する緑色フィルタの他方である、
医療用画像処理装置。
(付記8)
(付記7)に記載の医療用画像処理装置であって、
前記画像処理部は、
前記緑色フィルタが配置されてなる画素が出力した前記第1の画素値に基づいて、前記補完画素値を生成する、
医療用画像処理装置。
(付記9)
(付記4)または(付記5)に記載の医療用画像処理装置であって、
前記第1の可視光は、
赤色の波長帯域の光および青色の波長帯域の光の一方であり、
前記第1のフィルタは、
前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記青色の波長帯域の光と、前記蛍光と、を透過する青色フィルタの一方であり、
前記第2のフィルタは、
緑色の波長帯域の光および前記蛍光を透過する緑色フィルタである、
医療用画像処理装置。
(付記10)
(付記9)に記載の医療用画像処理装置であって、
前記光源装置は、
前記第1の可視光および前記第2の可視光と波長帯域が異なる第3の可視光を照射可能であり、
前記撮像素子は、
前記第3の可視光と前記蛍光とを透過可能な第3のフィルタを有し、
前記第3の可視光は、
前記赤色の波長帯域の光および前記青色の波長帯域の光の他方であり、
前記第1のフィルタは、
前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記青色の波長帯域の光と、前記蛍光と、を透過する青色フィルタの他方である、
医療用画像処理装置。
(付記11)
(付記10)に記載の医療用画像処理装置であって、
前記画像処理部は、
前記青色フィルタが配置されてなる画素が出力した前記第1の画素値に基づいて、前記補完画素値を生成する、
医療用画像処理装置。
(付記12)
(付記6)〜(付記11)のいずれか1つに記載の医療用画像処理装置であって、
前記光源装置を制御する制御部をさらに備え、
前記光源装置は、
赤色の波長帯域の光を発光可能な第1の光源部と、
前記緑色の波長帯域の光を発光可能な第2の光源部と、
前記青色の波長帯域の光を発光可能な第3の光源部と、
前記励起光を発光可能な第4の光源部と、
を備え、
前記制御部は、
白色光による観察を行う白色光観察モードの場合、前記第1の光源部、前記第2の光源部および前記第3の光源部を発光させる一方、
前記蛍光を観察する蛍光観察モードの場合、前記第1の光源部と、前記第4の光源部と、前記第2の光源部および前記第3の光源部の一方と、を発光させる、
医療用画像処理装置。
(付記13)
(付記1)〜(付記12)のいずれか一つに記載の医療用画像処理装置であって、
前記画像処理部は、
前記背景画像と、前記蛍光画像と、を合成した合成画像を生成する、
医療用画像処理装置。
(付記14)
(付記1)〜(付記12)のいずれか1つに記載の医療用画像処理装置であって、
前記画像処理部は、
前記背景画像および前記蛍光画像の少なくとも一方に対して白黒化処理を行う、
医療用画像処理装置。
(付記15)
(付記1)〜(付記12)のいずれか1つに記載の医療用画像処理装置であって、
前記画像処理部は、
前記背景画像および前記蛍光画像の少なくとも一方に対して着色化処理を行う、
医療用画像処理装置。
(付記16)
(付記1)〜(付記15)のいずれか1つに記載の医療用画像処理装置であって、
前記蛍光物質は、
インドシアニングリーンであり、
前記励起光は、
中心波長が740nmである、
医療用画像処理装置。
(付記17)
互いに異なる波長帯域の第1の可視光および第2の可視光と、蛍光物質を励起させて蛍光を発光させる励起光と、を照射可能な光源装置が被写体に前記第1の可視光と前記蛍光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、
前記医療用撮像装置は、
前記反射光と、前記蛍光と、複数の波長帯域毎に分光するダイクロイックプリズムと、前記ダイクロイックプリズムが分光した複数の波長帯域の光の各々を受光して複数の前記画像データを生成する複数の撮像素子と、
を備え、
前記画像処理部は、
前記画像データに基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する画素値を補完する補完画素値を生成し、
前記画像データと、前記補完画素値と、に基づいて、背景画像を生成し、
前記画像データに基づいて、蛍光画像を生成する、
医療用画像処理装置。
(付記18)
(付記1)〜(付記17)のいずれか1つに記載の医療用画像処理装置と、
前記医療用撮像装置を回動可能に支持する支持部と、
前記支持部の基端部を回動可能に保持し、床面上を移動可能なベース部と、
をさらに備える、
医療用観察システム。
(付記19)
(付記1)〜(付記17)のいずれか1つに記載の医療用画像処理装置と、
被検体内に挿入可能であり、前記反射光および前記蛍光を集光して撮像素子の受光面に被写体像を結像する光学系を有する挿入部をさらに備える、
医療用観察システム。
(付記20)
(付記19)に記載の医療用観察システムであって、
前記挿入部は、前記医療用撮像装置に対して着脱自在である、
医療用観察システム。
(付記21)
光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う医療用画像処理装置が実行する画像処理方法であって、
前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、
前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、
前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する、
画像処理方法。
1,1B,1C 医療用観察システム
2 観察装置
3 光源装置
4 ライトガイド
5 顕微鏡部
6 支持部
7 ベース部
8 表示装置
9 制御装置
21 撮像部
22 光出射部
23 駆動部
24 検出部
25 入力部
26 第1の制御部
31 第1の光源部
32 第2の光源部
33 第3の光源部
34 第4の光源部
91 画像処理部
92 入力部
93 記録部
94 第2の制御部
102 挿入部
104 ライトガイド
105 内視鏡カメラヘッド
106 第1の伝送ケーブル
108 第2の伝送ケーブル
121 接眼部
161 ビデオコネクタ
162 カメラヘッドコネクタ
201 内視鏡
202 挿入部
203 先端部
211 光学系
212,212B,212G,212R 撮像素子
212a 画素部
212b カラーフィルタ
213 カットフィルタ
214 ダイクロイックプリズム
501 レンズユニット
502 カメラヘッドメモリ
503 カメラヘッド制御部
911 減算部
912 第1の生成部
913 第2の生成部
914 第3の生成部
915 合成部
931 プログラム記録部
1010 第3の伝送ケーブル
P1 蛍光画像
P2 第1の背景画像
P3 第3の背景画像
P4,P5 合成画像
Q1 蛍光領域

Claims (20)

  1. 光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、
    前記画像処理部は、
    前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、
    前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、
    前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する、
    医療用画像処理装置。
  2. 請求項1に記載の医療用画像処理装置であって、
    前記医療用撮像装置は、
    撮像素子の入射面側に設けられ、前記励起光を遮光する一方、前記第1の可視光が前記被写体で反射した反射光および前記蛍光を透過するカットフィルタを備える、
    医療用画像処理装置。
  3. 請求項1に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記第1の画素値から前記第2の画素値を減算し、該減算した減算結果と、前記補完画素値と、に基づいて、前記背景画像を生成する、
    医療用画像処理装置。
  4. 請求項1に記載の医療用画像処理装置であって、
    前記医療用撮像装置は、
    複数の画素を有する画素部、並びに前記第1の可視光と前記蛍光とを透過可能な第1のフィルタおよび前記第2の可視光と前記蛍光とを透過可能な第2のフィルタを前記複数の画素の各々の受光面に有し、前記第1の可視光および前記第2の可視光の少なくとも一方が前記被写体で反射した反射光および前記蛍光の少なくとも一方を撮像することによって画像データを生成する撮像素子を備え、
    前記第1の画素値は、
    前記第1のフィルタが配置されてなる画素が出力したものであり、
    前記第2の画素値は、
    前記第2のフィルタが配置されてなる画素が出力したものである、
    医療用画像処理装置。
  5. 請求項4に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記第1の画素値から、前記第1のフィルタの蛍光波長の分光感度を前記第2のフィルタの蛍光波長の分光感度で除算した値に前記第2の画素値を乗算した乗算結果を減算し、該減算した減算結果と、前記補完画素値と、に基づいて前記背景画像を生成する、
    医療用画像処理装置。
  6. 請求項4に記載の医療用画像処理装置であって、
    前記第1の可視光は、
    赤色の波長帯域の光および緑色の波長帯域の光の一方であり、
    前記第1のフィルタは、
    前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記緑色の波長帯域の光と、前記蛍光と、を透過する緑色フィルタの一方であり、
    前記第2のフィルタは、
    青色の波長帯域の光および前記蛍光を透過する青色フィルタである、
    医療用画像処理装置。
  7. 請求項6に記載の医療用画像処理装置であって、
    前記光源装置は、
    前記第1の可視光および前記第2の可視光と波長帯域が異なる第3の可視光を照射可能であり、
    前記撮像素子は、
    前記第3の可視光と前記蛍光とを透過可能な第3のフィルタを有し、
    前記第3の可視光は、
    前記赤色の波長帯域の光および前記緑色の波長帯域の光の他方であり、
    前記第1のフィルタは、
    前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記緑色の波長帯域の光と、前記蛍光と、を透過する緑色フィルタの他方である、
    医療用画像処理装置。
  8. 請求項7に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記緑色フィルタが配置されてなる画素が出力した前記第1の画素値に基づいて、前記補完画素値を生成する、
    医療用画像処理装置。
  9. 請求項4に記載の医療用画像処理装置であって、
    前記第1の可視光は、
    赤色の波長帯域の光および青色の波長帯域の光の一方であり、
    前記第1のフィルタは、
    前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記青色の波長帯域の光と、前記蛍光と、を透過する青色フィルタの一方であり、
    前記第2のフィルタは、
    緑色の波長帯域の光および前記蛍光を透過する緑色フィルタである、
    医療用画像処理装置。
  10. 請求項9に記載の医療用画像処理装置であって、
    前記光源装置は、
    前記第1の可視光および前記第2の可視光と波長帯域が異なる第3の可視光を照射可能であり、
    前記撮像素子は、
    前記第3の可視光と前記蛍光とを透過可能な第3のフィルタを有し、
    前記第3の可視光は、
    前記赤色の波長帯域の光および前記青色の波長帯域の光の他方であり、
    前記第1のフィルタは、
    前記赤色の波長帯域の光と、前記蛍光と、を透過する赤色フィルタおよび前記青色の波長帯域の光と、前記蛍光と、を透過する青色フィルタの他方である、
    医療用画像処理装置。
  11. 請求項10に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記青色フィルタが配置されてなる画素が出力した前記第1の画素値に基づいて、前記補完画素値を生成する、
    医療用画像処理装置。
  12. 請求項6に記載の医療用画像処理装置であって、
    前記光源装置を制御する制御部をさらに備え、
    前記光源装置は、
    赤色の波長帯域の光を発光可能な第1の光源部と、
    前記緑色の波長帯域の光を発光可能な第2の光源部と、
    前記青色の波長帯域の光を発光可能な第3の光源部と、
    前記励起光を発光可能な第4の光源部と、
    を備え、
    前記制御部は、
    白色光による観察を行う白色光観察モードの場合、前記第1の光源部、前記第2の光源部および前記第3の光源部を発光させる一方、
    前記蛍光を観察する蛍光観察モードの場合、前記第1の光源部と、前記第4の光源部と、前記第2の光源部および前記第3の光源部の一方と、を発光させる、
    医療用画像処理装置。
  13. 請求項1に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記背景画像と、前記蛍光画像と、を合成した合成画像を生成する、
    医療用画像処理装置。
  14. 請求項1に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記背景画像および前記蛍光画像の少なくとも一方に対して白黒化処理を行う、
    医療用画像処理装置。
  15. 請求項1に記載の医療用画像処理装置であって、
    前記画像処理部は、
    前記背景画像および前記蛍光画像の少なくとも一方に対して着色化処理を行う、
    医療用画像処理装置。
  16. 請求項1に記載の医療用画像処理装置であって、
    前記蛍光物質は、
    インドシアニングリーンであり、
    前記励起光は、
    中心波長が740nmである、
    医療用画像処理装置。
  17. 光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う画像処理部を備え、
    前記医療用撮像装置は、
    前記反射光と、前記蛍光と、複数の波長帯域毎に分光するダイクロイックプリズムと、前記ダイクロイックプリズムが分光した複数の波長帯域の光の各々を受光して複数の前記画像データを生成する複数の撮像素子と、
    を備え、
    前記画像処理部は、
    前記画像データに基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する画素値を補完する補完画素値を生成し、
    前記画像データと、前記補完画素値と、に基づいて、背景画像を生成し、
    前記画像データに基づいて、蛍光画像を生成する、
    医療用画像処理装置。
  18. 請求項1に記載の医療用画像処理装置と、
    前記医療用撮像装置を回動可能に支持する支持部と、
    前記支持部の基端部を回動可能に保持し、床面上を移動可能なベース部と、
    をさらに備える、
    医療用観察システム。
  19. 請求項1に記載の医療用画像処理装置と、
    被検体内に挿入可能であり、前記反射光および前記蛍光を集光して撮像素子の受光面に被写体像を結像する光学系を有する挿入部をさらに備える、
    医療用観察システム。
  20. 光源装置が被写体に第1の可視光と蛍光物質を励起させて蛍光を発光させる励起光とを同時に照射した際に、前記第1の可視光が前記被写体で反射した反射光と、前記蛍光と、を医療用撮像装置が撮像することによって生成した画像データに基づいて、画像処理を行う医療用画像処理装置が実行する画像処理方法であって、
    前記画像データに含まれる前記第1の可視光が前記被写体で反射した反射光を受光した画素が出力した第1の画素値に基づいて、前記第1の可視光と異なる帯域である第2の可視光の成分に相当する補完画素値を生成し、
    前記第1の画素値と、前記補完画素値と、に基づいて、背景画像を生成し、
    前記画像データに含まれる前記蛍光を受光した画素が出力した第2の画素値に基づいて、蛍光画像を生成する、
    画像処理方法。
JP2020049175A 2020-03-19 2020-03-19 医療用画像処理装置、医療用観察システムおよび画像処理方法 Pending JP2021149558A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020049175A JP2021149558A (ja) 2020-03-19 2020-03-19 医療用画像処理装置、医療用観察システムおよび画像処理方法
US17/167,110 US11774772B2 (en) 2020-03-19 2021-02-04 Medical image processing device, medical observation system, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020049175A JP2021149558A (ja) 2020-03-19 2020-03-19 医療用画像処理装置、医療用観察システムおよび画像処理方法

Publications (2)

Publication Number Publication Date
JP2021149558A true JP2021149558A (ja) 2021-09-27
JP2021149558A5 JP2021149558A5 (ja) 2023-03-08

Family

ID=77747952

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020049175A Pending JP2021149558A (ja) 2020-03-19 2020-03-19 医療用画像処理装置、医療用観察システムおよび画像処理方法

Country Status (2)

Country Link
US (1) US11774772B2 (ja)
JP (1) JP2021149558A (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6110887B2 (ja) * 2015-03-17 2017-04-05 浜松ホトニクス株式会社 重畳画像生成装置及び重畳画像生成装置の作動方法
JP6484336B2 (ja) * 2015-06-17 2019-03-13 オリンパス株式会社 撮像装置
JP6710151B2 (ja) * 2016-12-02 2020-06-17 富士フイルム株式会社 内視鏡装置及び内視鏡装置の作動方法
EP3690819B1 (en) * 2019-01-31 2023-09-13 Leica Instruments (Singapore) Pte. Ltd. Image processing device and method, and medical observation device comprising such an image processing device, using an intensity or brightness-dependent variation of a pseudocolor pattern characteristic

Also Published As

Publication number Publication date
US20210294084A1 (en) 2021-09-23
US11774772B2 (en) 2023-10-03

Similar Documents

Publication Publication Date Title
JP5259882B2 (ja) 撮像装置
JP5968944B2 (ja) 内視鏡システム、プロセッサ装置、光源装置、内視鏡システムの作動方法、プロセッサ装置の作動方法、光源装置の作動方法
JP4554944B2 (ja) 内視鏡装置
JP5815426B2 (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、及び画像処理方法
JP5229723B2 (ja) 蛍光画像取得装置
JP5507376B2 (ja) 撮像装置
JP5110702B2 (ja) 蛍光画像取得装置
JP5460536B2 (ja) 電子内視鏡システム
JP5283545B2 (ja) 内視鏡システムおよび内視鏡用プロセッサ装置
WO2019087557A1 (ja) 内視鏡システム
JP2012213575A (ja) 眼科撮影装置
JP2010213992A (ja) 内視鏡システム、内視鏡用プロセッサ装置、並びに内視鏡駆動方法
JPWO2018163500A1 (ja) 内視鏡装置
JP5544260B2 (ja) 電子内視鏡システム
JP6137892B2 (ja) 撮像システム
JP6616071B2 (ja) 内視鏡用のプロセッサ装置、内視鏡用のプロセッサ装置の作動方法、内視鏡用の制御プログラム
WO2021186803A1 (ja) 医療用観察システム、制御装置および制御方法
US11774772B2 (en) Medical image processing device, medical observation system, and image processing method
JP2013013589A (ja) 画像信号処理装置、撮像システム、及び電子内視鏡システム
JP7068438B2 (ja) 画像処理装置、内視鏡システム、画像処理方法およびプログラム
US11463668B2 (en) Medical image processing device, medical observation system, and image processing method
WO2021039870A1 (ja) 医療用画像処理装置および医療用観察システム
US11582427B2 (en) Medical image processing apparatus and medical observation system
WO2020188969A1 (ja) 医療用制御装置及び医療用観察装置
JP2021148897A (ja) 制御装置および医療用観察システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240227