JP6385465B2 - 内視鏡装置 - Google Patents

内視鏡装置 Download PDF

Info

Publication number
JP6385465B2
JP6385465B2 JP2016570395A JP2016570395A JP6385465B2 JP 6385465 B2 JP6385465 B2 JP 6385465B2 JP 2016570395 A JP2016570395 A JP 2016570395A JP 2016570395 A JP2016570395 A JP 2016570395A JP 6385465 B2 JP6385465 B2 JP 6385465B2
Authority
JP
Japan
Prior art keywords
image signal
visible light
state
fluorescence
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016570395A
Other languages
English (en)
Other versions
JPWO2016117049A1 (ja
Inventor
秀一 加藤
秀一 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016117049A1 publication Critical patent/JPWO2016117049A1/ja
Application granted granted Critical
Publication of JP6385465B2 publication Critical patent/JP6385465B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/043Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0638Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/06Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
    • A61B1/0646Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements with illumination filters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/0035Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for acquisition of images from more than one imaging mode, e.g. combining MRI and optical tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0071Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by measuring fluorescence emission
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • A61B5/0084Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters
    • A61B5/0086Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes for introduction into the body, e.g. by catheters using infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)

Description

本発明は、内視鏡装置に関する。
癌などの病巣に蓄積された蛍光物質からの蛍光を検出し、その蛍光に基づく蛍光画像の明るさから病変の有無を判断する診断法が知られている。例えば、インドシアニングリーン(ICG)と呼ばれる蛍光物質が検査対象者の体内に予め投与される。また、蛍光物質を励起する励起光が蛍光物質に照射される。ICGは病巣に親和性をもち、赤外領域で励起し、蛍光を発する。蛍光観察が可能な内視鏡は、可視光に基づく可視光画像を用いる通常観察に加えて蛍光画像の観察が可能である。蛍光観察が可能な内視鏡は上記の診断に用いられている。
例えば、蛍光観察が可能な内視鏡が特許文献1と特許文献2とに開示されている。特許文献1に開示された第1の従来技術では、光源装置により生成された可視光と励起光とは、被検査体に照射される。被検査体により反射された可視光および励起光と、励起光がICGに照射されたときに励起した蛍光とが、対物レンズに入射する。対物レンズは、体腔内に挿入する内視鏡挿入部の先端部に配置されている。内視鏡挿入部内にイメージガイドファイバが配置されている。イメージガイドファイバの後端面にカメラヘッドが配置されている。対物レンズからイメージガイドファイバを介してカメラヘッドに入射した光は、ダイクロイックミラーにより可視光と、励起光および蛍光とに分離される。可視光はCCDにより検出される。励起光カットフィルタにより、励起光と蛍光とから励起光が遮断される。蛍光のみが、可視光を検出するCCDと異なるCCDにより検出される。
特許文献1に開示された第2の従来技術では、光源装置により、可視光の撮影時には可視光のみが生成され、蛍光の撮影時には励起光のみが生成される。可視光の撮影時には、被検査体により反射された可視光がCCDにより検出される。蛍光の撮影時には、被検査体により反射された励起光と、励起光がICGに照射されたときに励起した蛍光とが対物レンズに入射する。励起光カットフィルタにより、励起光が遮断される。蛍光のみが、可視光を検出するCCDと同一のCCDにより検出される。
特許文献2に開示された第3の従来技術では、光源で生成された可視光と励起光とは、被検査体に照射される。被検査体により反射された可視光および励起光と、励起光がICGに照射されたときに励起した蛍光とが内視鏡先端部に入射する。励起光カットフィルタにより、励起光が遮断される。撮像装置は、積層された第1の基板と第2の基板とを有する。第1の基板で可視光が検出される。可視光は、第1の基板と第2の基板との間に配置された可視光カットフィルタにより遮断される。蛍光のみが第2の基板で検出される。
日本国特許第3962122号公報 日本国特開2014−135535号公報
第1の従来技術では、ダイクロイックミラーによる光の分離のためにスペースが必要である。このため、イメージセンサであるCCDが搭載されるカメラヘッドの小型化が難しい。
第2の従来技術では、蛍光と可視光とが同一のCCDにより検出される。このため、ダイクロイックミラーは不要である。しかし、蛍光は微弱であるため、蛍光の高感度な検出のためには、より大きな画素サイズが必要である。つまり、画素数が減るため、分解能が低下する。この結果、可視光の検出結果に基づく可視光画像の画質が大幅に劣化する。一方、大きな画素サイズが保持される場合、すなわち画素数が保持される場合、イメージセンサのサイズはより大きい。このため、イメージセンサの搭載された撮像部(内視鏡挿入部の先端部)の小型化が難しい。可視光の検出が優先される場合、画素サイズは保持される。しかし、蛍光の高感度な検出が難しい。
第3の従来技術では、ダイクロイックミラーは不要である。可視光と蛍光とは、異なる基板で検出される。このため、蛍光検出の高感度化すなわち画素サイズの大型化は、可視光画像の画質に影響しない。しかし、蛍光を検出する第2の基板の光学的前方には、少なくとも第1の基板と可視光カットフィルタとが配置される。これらは、非常に微弱な蛍光を減衰させて更に微弱にするため、第2の基板において蛍光の検出が難しい。これを解決するために第2の基板の画素サイズを大きくすると、蛍光の検出結果に基づく蛍光画像の画質が大幅に劣化する。この結果、病変位置の特定が困難になる場合がある。
上記のように、第1から第3の従来技術では、イメージセンサが搭載される領域(撮像部)の小型化と、蛍光および可視光の高精度(高感度、高分解能)な検出との両立は難しい。
本発明は、撮像部の小型化と、蛍光および可視光の高精度な検出とを両立することができる内視鏡装置を提供する。
本発明の第1の態様によれば、内視鏡装置は、光源と、撮像部と、演算部と、切替部と、を有する。前記光源は、可視光と励起光とを発生する。前記演算部は、第1の信号に基づく可視光画像信号と、第2の信号および第3の信号に基づく蛍光画像信号とを生成する。前記切替部は、第1の状態と第2の状態とを切り替える。前記第1の状態では前記可視光が被写体に照射される。前記第2の状態では前記励起光が前記被写体に照射される。前記撮像部は、励起光カットフィルタと、第1のイメージセンサと、第2のイメージセンサと、を有する。前記励起光カットフィルタは、前記可視光が前記被写体に照射されたときに前記被写体によって反射された前記可視光を透過し、前記励起光が前記被写体に照射されたときに発生する蛍光を透過し、前記励起光が被写体に照射されたときに前記被写体によって反射された前記励起光を遮断する。前記第1のイメージセンサは、複数の第1のフォトダイオードを有する。前記複数の第1のフォトダイオードは、前記励起光カットフィルタを透過した前記可視光に応じた前記第1の信号と、前記励起光カットフィルタを透過した前記蛍光に応じた前記第2の信号とを生成する。前記第2のイメージセンサは、複数の第2のフォトダイオードを有する。前記複数の第2のフォトダイオードは、前記複数の第1のフォトダイオードを透過した前記蛍光に応じた前記第3の信号を生成する。
本発明の第2の態様によれば、第1の態様において、前記複数の第2のフォトダイオードのそれぞれのサイズは前記複数の第1のフォトダイオードのそれぞれのサイズよりも大きくてもよい。
本発明の第3の態様によれば、第2の態様において、2つ以上の前記第1のフォトダイオードと1つの前記第2のフォトダイオードとが重なってもよい。前記2つ以上の前記第1のフォトダイオードを透過した前記蛍光が前記1つの前記第2のフォトダイオードに入射してもよい。
本発明の第4の態様によれば、第1の態様において、前記演算部は、前記第2の信号と前記第3の信号とに基づいて、前記複数の第2のフォトダイオードのそれぞれの領域に対応する画素値を演算することにより前記蛍光画像信号を生成してもよい。
本発明の第5の態様によれば、第1の態様において、前記演算部は、前記第2の信号と前記第3の信号とに基づいて、前記複数の第1のフォトダイオードのそれぞれの領域に対応する画素値を演算することにより前記蛍光画像信号を生成してもよい。
本発明の第6の態様によれば、第1の態様において、前記演算部は、前記可視光画像信号における1つの画素に対応する前記蛍光画像信号における画素の数が異なる場合、前記可視光画像信号における1つの画素に対応する前記蛍光画像信号における画素の数が一致するように前記可視光画像信号と前記蛍光画像信号との少なくとも一方に基づく演算を行ってもよい。前記演算部は、前記演算が行われた前記可視光画像信号と前記蛍光画像信号とを重畳してもよい。
本発明の第7の態様によれば、第6の態様において、前記可視光画像信号と前記蛍光画像信号とが重畳されるときの前記可視光画像信号と前記蛍光画像信号との重み付けは変更可能であってもよい。
本発明の第8の態様によれば、第7の態様において、前記演算部は、前記蛍光画像信号の画素値に基づいて前記重み付けを決定してもよい。
本発明の第9の態様によれば、第7の態様において、前記演算部は、ユーザの指示に基づいて前記重み付けを決定してもよい。
本発明の第10の態様によれば、第6の態様において、前記演算部は、前記可視光画像信号と前記蛍光画像信号とを重畳するとき、相対的に波長が長い光が強調された画像に相当する前記可視光画像信号を用いてもよい。
本発明の第11の態様によれば、第1の態様において、前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行ってもよい。前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレームの数は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレームの数と同一であってもよい。
本発明の第12の態様によれば、第1の態様において、前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行ってもよい。前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレームの数は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレームの数よりも多くてもよい。
本発明の第13の態様によれば、第1の態様において、前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行ってもよい。前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレーム長は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレーム長よりも長くてもよい。
本発明の第14の態様によれば、第1の態様において、近赤外光に対する前記第2のイメージセンサの感度は、近赤外光に対する前記第1のイメージセンサの感度よりも高くてもよい。
上記の各態様によれば、複数の第1のフォトダイオードと複数の第2のフォトダイオードとが異なるイメージセンサに配置されている。このため、複数の第1のフォトダイオードの各々のサイズを複数の第2のフォトダイオードの各々のサイズよりも小さく設定することで、可視光の高分解能な検出が可能である。また、第1のイメージセンサと第2のイメージセンサとを積層することでダイクロックミラー等による光の分離が不要となり、撮像部の小型化が可能である。更に、蛍光画像信号は、2つのイメージセンサの信号(第1のイメージセンサによって生成された第2の信号および第2のイメージセンサによって生成された第3の信号)に基づいて生成される。このため、蛍光の高感度な検出が可能である。したがって、撮像部の小型化と、蛍光および可視光の高精度な検出とを両立することができる。
本発明の実施形態の内視鏡装置の構成を示すブロック図である。 本発明の実施形態の撮像部の構成を示すブロック図である。 本発明の実施形態において、第1のイメージセンサが有する複数の第1のフォトダイオードと、第2のイメージセンサが有する複数の第2のフォトダイオードとを示す模式図である。 本発明の実施形態において、第1のイメージセンサが有する複数の第1のフォトダイオードと、第2のイメージセンサが有する複数の第2のフォトダイオードとを示す模式図である。 本発明の実施形態において、第1のイメージセンサが有する複数の第1のフォトダイオードと、第2のイメージセンサが有する複数の第2のフォトダイオードとを示す模式図である。 本発明の実施形態において、可視光画像信号と蛍光画像信号との画素値を示す模式図である。 本発明の実施形態において、可視光画像信号と蛍光画像信号との画素値を示す模式図である。 本発明の実施形態において、可視光画像信号と蛍光画像信号との画素値を示す模式図である。 本発明の実施形態において、可視光画像信号と蛍光画像信号との画素値を示す模式図である。 本発明の実施形態の変形例の内視鏡装置の構成を示すブロック図である。 本発明の実施形態において、可視光と励起光とが切り替わる様子を示す参考図である。 本発明の実施形態において、可視光と励起光とが切り替わる様子を示す参考図である。 本発明の実施形態において、可視光と励起光とが切り替わる様子を示す参考図である。
図面を参照し、本発明の実施形態を説明する。図1は、本発明の実施形態の内視鏡装置1の構成を示している。図1に示すように、内視鏡装置1は、内視鏡挿入部10と、光源11と、ライトガイド12と、プロセッサ13と、ディスプレイ14とを有する。内視鏡挿入部10は、撮像部100を先端部に有する。
内視鏡挿入部10は、被写体(被検査体)に挿入される。光源11は、可視光と、可視光の波長よりも波長が長い励起光とを発生する。例えば、光源11は、可視光を発生する第1の光源と、励起光を発生する第2の光源とを有する。光源11は撮像部100に配置されてもよい。ライトガイド12は、光源11で発生した可視光と励起光とを内視鏡挿入部10に導く。
プロセッサ13は、演算部130と、切替部131とを有する。演算部130は、第1の信号に基づく可視光画像信号と、第2の信号および第3の信号に基づく蛍光画像信号とを生成する。第1の信号は、可視光が被写体に照射されたときに撮像部100で生成される信号である。第2の信号および第3の信号は、励起光が被写体に照射されたときに撮像部100で生成される信号である。
切替部131は、第1の状態と第2の状態とを切り替える。第1の状態では可視光が被写体に照射される。第2の状態では励起光が被写体に照射される。つまり、切替部131は、可視光と励起光とが被写体に時分割で照射されるように可視光と励起光との切替を制御する。
ディスプレイ14は、演算部130によって生成された可視光画像信号に基づく可視光画像と、演算部130によって生成された蛍光画像信号に基づく蛍光画像とを表示する。ディスプレイ14は、可視光画像信号と蛍光画像信号とが重畳された重畳画像信号に基づく画像を表示してもよい。
図2は、内視鏡挿入部10の先端部に配置された撮像部100の構成を示している。図2に示すように、撮像部100は、レンズ101と、励起光カットフィルタ102と、第1のイメージセンサ103と、第2のイメージセンサ104とを有する。また、ライトガイド12が撮像部100内に配置されている。ライトガイド12によって撮像部100に伝送された可視光と励起光とは、撮像部100の先端面から被写体に照射される。第1のイメージセンサ103と、第2のイメージセンサ104とは積層されている。
レンズ101は、被検査体からの光を集光する。レンズ101を通過した光は励起光カットフィルタ102に入射する。励起光カットフィルタ102は、可視光が被写体に照射されたときに被写体によって反射された可視光を透過する。また、励起光カットフィルタ102は、励起光が被写体に照射されたときに発生する蛍光を透過する。また、励起光カットフィルタ102は、励起光が被写体に照射されたときに被写体によって反射された励起光を遮断する。
第1のイメージセンサ103は、複数の第1のフォトダイオードを有する。複数の第1のフォトダイオードは、励起光カットフィルタ102を透過した可視光に応じた第1の信号と、励起光カットフィルタ102を透過した蛍光に応じた第2の信号とを生成する。つまり、第1のイメージセンサ103は、撮像を行い、第1の信号と第2の信号とを生成する。可視光と励起光とは被写体に時分割で照射されるので、第1のイメージセンサ103は、第1の信号と第2の信号とを時分割で生成する。
第2のイメージセンサ104は、複数の第2のフォトダイオードを有する。複数の第2のフォトダイオードは、複数の第1のフォトダイオードを透過した蛍光に応じた第3の信号を生成する。つまり、第2のイメージセンサ104は、撮像を行い、第3の信号を生成する。
上記のように、可視光および蛍光を検出するための複数の第1のフォトダイオードと、蛍光を検出するための複数の第2のフォトダイオードとが、異なるイメージセンサに配置されている。このため、複数の第2のフォトダイオードのサイズに関わらず、複数の第1のフォトダイオードの数を増加させることが可能である。つまり、可視光の高分解能な検出が可能である。また、第1のイメージセンサ103と、第2のイメージセンサ104とは積層されているため、ダイクロイックミラー等による光の分離が不要となり、撮像部100の小型化が可能である。
また、蛍光画像信号は、第1のイメージセンサ103によって生成された第2の信号と、第2のイメージセンサ104によって生成された第3の信号とに基づいて生成される。このため、蛍光の高感度な検出が可能である。したがって、撮像部100の小型化と、蛍光および可視光の高精度な検出とを両立することができる。
図3は、第1のイメージセンサ103が有する複数の第1のフォトダイオード1030と、第2のイメージセンサ104が有する複数の第2のフォトダイオード1040とを示している。図3に示すように、第1のイメージセンサ103と第2のイメージセンサ104とは積層されている。複数の第1のフォトダイオード1030は行列状に配置されている。複数の第2のフォトダイオード1040は行列状に配置されている。複数の第1のフォトダイオード1030のそれぞれのサイズ(面積)と複数の第2のフォトダイオード1040のそれぞれのサイズ(面積)とは異なる。このため、複数の第1のフォトダイオード1030の数と複数の第2のフォトダイオード1040の数とは異なる。
複数の第1のフォトダイオード1030の表面にはカラーフィルタが配置されている。例えば、赤(R)の波長の光を透過するRカラーフィルタと、緑(G)の波長の光を透過するGカラーフィルタと、青(B)の波長の光を透過するBカラーフィルタとが配置されている。Rカラーフィルタと、Gカラーフィルタと、Bカラーフィルタとの配列はベイヤー配列である。
複数の第2のフォトダイオード1040のそれぞれのサイズは複数の第1のフォトダイオード1030のそれぞれのサイズよりも大きい。このため、可視光検出の分解能を損なわずに高感度な蛍光検出が可能である。
2つ以上の第1のフォトダイオード1030と1つの第2のフォトダイオード1040とが重なる。2つ以上の第1のフォトダイオード1030を透過した蛍光が1つの第2のフォトダイオード1040に入射する。図3では、4つの第1のフォトダイオード1030と1つの第2のフォトダイオード1040とが重なる。また、4つの第1のフォトダイオード1030を透過した蛍光が1つの第2のフォトダイオード1040に入射する。このため、第2のイメージセンサ104において、第1のイメージセンサ103を透過した蛍光を効率的に受光することができる。
蛍光画像信号の生成方法を説明する。蛍光画像信号の第1の生成方法では、演算部130は、第2の信号と第3の信号とに基づいて、複数の第2のフォトダイオード1040のそれぞれの領域に対応する画素値を演算することにより蛍光画像信号を生成する。
図4は、図3と同様に複数の第1のフォトダイオード1030と複数の第2のフォトダイオード1040とを示している。被写体に励起光が照射されたとき、被写体で蛍光が発生する。励起光カットフィルタ102によって励起光が遮断されるので、蛍光が第1のイメージセンサ103に入射する。蛍光の一部は複数の第1のフォトダイオード1030で吸収される。残りの蛍光は第1のイメージセンサ103を透過し、第2のイメージセンサ104に入射する。
図4では、16個の第1のフォトダイオード1030が示されている。16個の第1のフォトダイオード1030によって生成される第2の信号の値(画素値)はそれぞれ、R1_IR〜R4_IR、Gr1_IR〜Gr4_IR、Gb1_IR〜Gb4_IR、B1_IR〜B4_IRである。
図4では、4個の第2のフォトダイオード1040が示されている。4個の第2のフォトダイオード1040によって生成される第3の信号の値(画素値)はそれぞれ、IR1〜IR4である。
例えば、演算部130は、1つの第2のフォトダイオード1040aに対応する蛍光画像信号の画素値S_IR1を(1)式により算出する。
S_IR1=IR1+R1_IR+Gr1_IR+B1_IR+Gb1_IR (1)
(1)式では、1つの第2のフォトダイオード1040aに対応する第3の信号(IR1)に、4つの第1のフォトダイオード1030のそれぞれに対応する第2の信号の演算結果(R1_IR+Gr1_IR+B1_IR+Gb1_IR)が加算される。(1)式では、第2の信号の演算は加算である。しかし、第2の信号の演算は加算以外でもよい。第2のフォトダイオード1040a以外の第2のフォトダイオード1040に対応する蛍光画像信号の画素値は(1)式と同様の演算により算出される。
蛍光画像信号の第1の生成方法では、蛍光検出の感度が向上する。
蛍光画像信号の第2の生成方法では、演算部130は、第2の信号と第3の信号とに基づいて、複数の第1のフォトダイオード1030のそれぞれの領域に対応する画素値を演算することにより蛍光画像信号を生成する。
図5は、図3と同様に複数の第1のフォトダイオード1030と複数の第2のフォトダイオード1040とを示している。図5では、16個の第1のフォトダイオード1030と4個の第2のフォトダイオード1040とが示されている。16個の第1のフォトダイオード1030によって生成される第2の信号の値(画素値)と、4個の第2のフォトダイオード1040によって生成される第3の信号の値(画素値)とは、図4を用いて説明した値と同様である。
例えば、演算部130は、1つの第1のフォトダイオード1030aに対応する蛍光画像信号の画素値S_R1を(2)式により算出する。(2)式において、n1は補正パラメータである。例えば、n1の値は、蛍光に対するカラーフィルタの透過率に応じた値である。
S_R1=IR1+R1_IR×n1 (2)
(2)式では、1つの第2のフォトダイオード1040に対応する第3の信号(IR1)に、第1のフォトダイオード1030aに対応する第2の信号の演算結果(R1_IR×n1)が加算される。(2)式では、第2の信号の演算は乗算である。しかし、第2の信号の演算は乗算以外でもよい。第1のフォトダイオード1030a以外の第1のフォトダイオード1030に対応する蛍光画像信号の画素値は(2)式と同様の演算により算出される。
蛍光画像信号の第2の生成方法では、蛍光検出の感度が向上する。第1のフォトダイオード1030のサイズは第2のフォトダイオード1040のサイズよりも小さいため、第2のフォトダイオード1040よりも多くの第1のフォトダイオード1030が配置されうる。このため、蛍光画像信号の第2の生成方法では、蛍光画像信号の第1の生成方法と比較して、蛍光画像信号の分解能が向上する。
可視光画像信号と蛍光画像信号とが重畳されてもよい。以下では、可視光画像信号と蛍光画像信号とを重畳する方法を説明する。
ここで、複数の第1のフォトダイオード1030により生成された、可視光に応じた信号に基づく可視光画像信号を構成する複数の画素を複数の第1の画素と定義する。複数の第1のフォトダイオード1030と複数の第2のフォトダイオード1040とにより生成された、蛍光に応じた信号に基づく蛍光画像信号を構成する複数の画素を複数の第2の画素と定義する。例えば、第2の画素の画素値は、(1)式または(2)式と同様の演算により算出された値である。演算部130は、1つの第1の画素に対応する第2の画素の数が異なる(1でない)場合、これが一致する(1になる)ように可視光画像信号と蛍光画像信号との少なくとも一方に基づく演算を行う。演算部130は、演算が行われた可視光画像信号と蛍光画像信号とを重畳する。
可視光画像信号と蛍光画像信号とを重畳する第1の例を説明する。図6は、可視光画像信号と蛍光画像信号とを重畳する第1の例における可視光画像信号と蛍光画像信号との画素値を示している。
図6では、可視光画像信号と蛍光画像信号との一部の画素値が代表として示されており、可視光画像信号と蛍光画像信号との全体の画素値は示されていない。図6では、蛍光画像信号の4つの第2の画素の画素値(IR1〜IR4)が示されている。また、図6では、可視光画像信号の4つの第1の画素の画素値(R,G,G,B)が示されている。可視光画像信号は、ベイヤー配列を構成する色毎の第1の画素の画素値を有する。
例えば、蛍光画像信号の第2の画素の画素値は、図5と(2)式とで示される、蛍光画像信号の第2の生成方法により生成される。蛍光画像信号に対してエッジ強調処理が行われてもよい。
例えば、可視光画像信号に対してデモザイキングが行われる。デモザイキングでは、図6に示す4つの第1の画素の画素値と、その周囲の複数の第1の画素の画素値とが使用される。デモザイキングによって、ベイヤー配列を構成する色毎に画素値が補間される。図6では、デモザイキングが行われた後の可視光画像信号は、赤(R)に対応する4つの第1の画素の画素値(R1〜R4)と、緑(G)に対応する4つの第1の画素の画素値(G1〜G4)と、青(B)に対応する4つの第1の画素の画素値(B1〜B4)とを有する。つまり、デモザイキングが行われた後の可視光画像信号において、それぞれの第1の画素に対応する画素値は、色毎の画素値を有する。
デモザイキングによって、可視光画像信号の1つの画素に対応する蛍光画像信号の画素の数が同一になる。デモザイキングが行われた後の可視光画像信号に対して、ホワイトバランス処理またはエッジ強調処理等が行われてもよい。
演算部130は、デモザイキングが行われた後の可視光画像信号と、蛍光画像信号とを重畳することにより、重畳画像信号を生成する。例えば、演算部130は、1つの第1の画素に対応する重畳画像信号の画素値R1’,G1’,B1’を(3)〜(5)式により算出する。(3)〜(5)式において、αは、可視光画像信号と蛍光画像信号との割合を決定する重み付け係数である。(3)〜(5)式において、βrと、βgと、βbとは、色毎の蛍光画像信号の割合を決定する係数である。例えば、βrが0、βgが1、βbが0である場合、重畳画像信号に基づく画像において、蛍光が緑で表示される。
R1’=α×R1+(1−α)×IR1×βr (3)
G1’=α×G1+(1−α)×IR1×βg (4)
B1’=α×B1+(1−α)×IR1×βb (5)
他の第1の画素に対応する重畳画像信号の画素値は(3)〜(5)式と同様の演算により算出される。
可視光画像信号と蛍光画像信号とを重畳することにより、重畳画像信号に基づく画像において、蛍光の発光位置すなわち病変の位置を表示することができる。このため、画像を見たユーザが病変の位置を特定することが容易である。
可視光画像信号と蛍光画像信号とを重畳する第2の例を説明する。図7は、可視光画像信号と蛍光画像信号とを重畳する第2の例における可視光画像信号と蛍光画像信号との画素値を示している。
図7では、可視光画像信号と蛍光画像信号との一部の画素値が代表として示されており、可視光画像信号と蛍光画像信号との全体の画素値は示されていない。図7では、蛍光画像信号の1つの第2の画素の画素値(IR)が示されている。また、図7では、可視光画像信号の4つの第1の画素の画素値(R,G,G,B)が示されている。可視光画像信号は、ベイヤー配列を構成する色毎の第1の画素の画素値を有する。例えば、蛍光画像信号の第2の画素の画素値は、図4と(1)式とで示される、蛍光画像信号の第1の生成方法により生成される。
例えば、可視光画像信号に対してデモザイキングが行われる。図7では、デモザイキングが行われた後の可視光画像信号は、赤(R)に対応する4つの第1の画素の画素値(R1〜R4)と、緑(G)に対応する4つの第1の画素の画素値(G1〜G4)と、青(B)に対応する4つの第1の画素の画素値(B1〜B4)とを有する。つまり、デモザイキングが行われた後の可視光画像信号において、それぞれの第1の画素に対応する第1の画素の画素値は、色毎の画素値を有する。
例えば、デモザイキングが行われた後の可視光画像信号に対して、画素混合が行われる。画素混合では、色毎に画素値が混合される。図7では、画素混合が行われた後の可視光画像信号は、赤(R)に対応する1つの第1の画素の画素値(R5)と、緑(G)に対応する1つの第1の画素の画素値(G5)と、青(B)に対応する1つの第1の画素の画素値(B5)とを有する。
画素混合によって、可視光画像信号の1つの画素に対応する蛍光画像信号の画素の数が同一になる。
演算部130は、画素混合が行われた後の可視光画像信号と、蛍光画像信号とを重畳することにより、重畳画像信号を生成する。例えば、演算部130は、1つの第1の画素に対応する重畳画像信号の画素値R5’,G5’,B5’を(6)〜(8)式により算出する。(6)〜(8)式において、αは、可視光画像信号と蛍光画像信号との割合を決定する重み付け係数である。(6)〜(8)式において、βrと、βgと、βbとは、色毎の蛍光画像信号の割合を決定する係数である。
R5’=α×R5+(1−α)×IR×βr (6)
G5’=α×G5+(1−α)×IR×βg (7)
B5’=α×B5+(1−α)×IR×βb (8)
他の第1の画素に対応する重畳画像信号の画素値は(6)〜(8)式と同様の演算により算出される。
可視光画像信号と蛍光画像信号とを重畳する第3の例を説明する。図8は、可視光画像信号と蛍光画像信号とを重畳する第3の例における可視光画像信号と蛍光画像信号との画素値を示している。
図8では、可視光画像信号と蛍光画像信号との一部の画素値が代表として示されており、可視光画像信号と蛍光画像信号との全体の画素値は示されていない。図8では、蛍光画像信号の1つの第2の画素の画素値(IR)が示されている。また、図8では、可視光画像信号の4つの第1の画素の画素値(R,G,G,B)が示されている。可視光画像信号は、ベイヤー配列を構成する色毎の第1の画素の画素値を有する。例えば、蛍光画像信号の第2の画素の画素値は、図4と(1)式とで示される、蛍光画像信号の第1の生成方法により生成される。
例えば、蛍光画像信号に対して、画素補間が行われる。画素補間では、可視光画像信号の各画素に対応する位置の画素値が補間される。例えば、公知のニアレストネイバーの補間処理が行われる。バイリニアまたはバイキュービックの補間処理が行われてもよい。図8では、画素補間が行われた後の蛍光画像信号は、4つの第2の画素の画素値(IR1〜IR4)を有する。画素補間が行われた後の蛍光画像信号に、可視光画像がガイド画像として用いられるフィルタ処理、または輪郭強調フィルタ処理が行われてもよい。例えば、可視光画像がガイド画像として用いられるフィルタ処理は、公知のGuided filterまたはjoint bilateral filterによる処理である。例えば、輪郭強調フィルタ処理は、公知のラプラシアンフィルタまたはSobelフィルタによる処理である。
例えば、可視光画像信号に対してデモザイキングが行われる。図8では、デモザイキングが行われた後の可視光画像信号は、赤(R)に対応する4つの第1の画素の画素値(R1〜R4)と、緑(G)に対応する4つの第1の画素の画素値(G1〜G4)と、青(B)に対応する4つの第1の画素の画素値(B1〜B4)とを有する。つまり、デモザイキングが行われた後の可視光画像信号において、それぞれの第1の画素に対応する第1の画素の画素値は、色毎の画素値を有する。
演算部130は、デモザイキングが行われた後の可視光画像信号と、画素補間が行われた後の蛍光画像信号とを重畳することにより、重畳画像信号を生成する。例えば、演算部130は、(3)〜(5)式と同様の演算により、重畳画像信号を生成する。
可視光画像信号と蛍光画像信号とを重畳する第4の例を説明する。演算部130は、可視光画像信号と蛍光画像信号とを重畳するとき、相対的に波長が長い光が強調された画像に相当する可視光画像信号を用いてもよい。図9は、可視光画像信号と蛍光画像信号とを重畳する第4の例における可視光画像信号と蛍光画像信号との画素値を示している。
図9では、可視光画像信号と蛍光画像信号との一部の画素値が代表として示されており、可視光画像信号と蛍光画像信号との全体の画素値は示されていない。図9では、蛍光画像信号の4つの第2の画素の画素値(IR1〜IR4)が示されている。また、図9では、可視光画像信号の4つの第1の画素の画素値(R,G,G,B)が示されている。可視光画像信号は、ベイヤー配列を構成する色毎の第1の画素の画素値を有する。例えば、蛍光画像信号の第2の画素の画素値は、図5と(2)式とで示される、蛍光画像信号の第2の生成方法により生成される。
例えば、可視光画像信号に対して画素補間が行われる。可視光画像信号に対する画素補間では、赤(R)に対応する第1の画素の画素値のみが使用される。例えば、可視光画像信号に対する画素補間では、バイリニアの補間処理が行われる。図9では、画素補間が行われた後の可視光画像信号は、赤(R)に対応する4つの第1の画素の画素値(R1〜R4)を有する。つまり、画素補間が行われた後の可視光画像信号において、それぞれの第1の画素に対応する第1の画素の画素値は、赤(R)に対応する画素値を有する。画素補間が行われた後の可視光画像信号は、緑(G)および青(B)の光よりも波長が長い赤(R)の光が強調された画像に相当する。
画素補間によって、可視光画像信号の1つの画素に対応する蛍光画像信号の画素の数が同一になる。
演算部130は、画素補間が行われた後の可視光画像信号と、蛍光画像信号とを重畳することにより、重畳画像信号を生成する。例えば、演算部130は、1つの第1の画素に対応する重畳画像信号の画素値R1’,G1’,B1’を(9)〜(11)式により算出する。(9)〜(11)式において、αは、可視光画像信号と蛍光画像信号との割合を決定する重み付け係数である。(9)〜(11)式において、βrと、βgと、βbとは、色毎の蛍光画像信号の割合を決定する係数である。
R1’=α×R1+(1−α)×IR1×βr (9)
G1’= (1−α)×IR1×βg (10)
B1’= (1−α)×IR1×βb (11)
他の第1の画素に対応する重畳画像信号の画素値は(9)〜(11)式と同様の演算により算出される。
相対的に波長が長い光が強調された画像では、深い位置の血管等の病変の位置に比較的近い領域が強調される。相対的に波長が長い光が強調された画像に相当する可視光画像信号を用いて可視光画像信号と蛍光画像信号とを重畳することにより、病変位置の特定がより容易になる。
可視光画像信号と蛍光画像信号とが重畳されるときの可視光画像信号と蛍光画像信号との重み付け((3)〜(11)式の重み付け係数α)は変更可能である。可視光画像信号と蛍光画像信号との重み付けに応じて、可視光画像に対する蛍光画像の強調の程度が変化する。例えば、可視光画像信号と蛍光画像信号との重み付けは、被写体に応じて変更される。これによって、重畳画像信号に基づく画像において、被写体に応じて蛍光が見やすくなる。
演算部130は、蛍光画像信号の複数の第2の画素の画素値に基づいて、可視光画像信号と蛍光画像信号との重み付けを決定してもよい。例えば、演算部130は、可視光画像信号と蛍光画像信号との重み付けを(9)式により決定する。
Figure 0006385465
(9)式において、第2の平均値を第1の平均値で割った値に補正パラメータn2が乗算される。第2の平均値は、蛍光画像信号において画素値が所定値を超えている画素の平均画素値である。第1の平均値は、可視光画像信号において上記の画素に対応する画素の平均画素値である。可視光画像信号に対するデモザイキング等により、可視光画像信号の1つの画素の数に対応する蛍光画像信号の画素の数とは同一である。このため、蛍光画像信号の各画素の第2の画素の画素値は可視光画像信号の各画素の第1の画素の画素値と対応する。ある画素に対応する蛍光画像信号の画素値が所定値を超えている場合、同じ画素に対応する可視光画像信号の画素値から第1の平均値が算出される。
上記により、演算部130は、蛍光の強度に基づいて可視光画像信号と蛍光画像信号との重み付けを決定することができる。
図10は、本発明の実施形態の変形例の内視鏡装置1aの構成を示している。図10に示すように、内視鏡装置1aは、内視鏡挿入部10と、光源11と、ライトガイド12と、プロセッサ13と、ディスプレイ14と、設定ボタン15とを有する。内視鏡挿入部10は、撮像部100を先端部に有する。
図10に示す構成について、図1に示す構成と異なる点を説明する。設定ボタン15は、ユーザによって操作され、ユーザからの指示を受け付ける。演算部130は、ユーザの指示に基づいて可視光画像信号と蛍光画像信号との重み付けを決定する。
上記以外の点については、図10に示す構成は図1に示す構成と同様である。
例えば、演算部130は、可視光画像信号と蛍光画像信号との重み付けを所定値に設定する。演算部130は、設定された重み付けを用いて、重畳画像信号を生成する。ディスプレイ14は、重畳画像信号に基づく画像を表示する。ユーザは、ディスプレイ14に表示された画像を確認しながら、設定ボタン15を操作する。設定ボタン15の操作により、可視光画像信号と蛍光画像信号との重み付けの変更が指示される。演算部130は、ユーザの指示に基づいて可視光画像信号と蛍光画像信号との重み付けを決定する。演算部130は、決定された重み付けを用いて、重畳画像信号を生成する。ディスプレイ14は、重畳画像信号に基づく画像を表示する。
上記により、演算部130は、ユーザの好みに応じて、可視光画像信号と蛍光画像信号との重み付けを決定することができる。
可視光と励起光との切替方法を説明する。可視光と励起光との第1の切替方法では、切替部131は、第1の状態から第2の状態への切替を一定の周期で行い、第2の状態から第1の状態への切替を一定の周期で行う。第1の状態から第2の状態への切替の周期と、第2の状態から第1の状態への切替の周期とは同一である。第1の状態が継続する時間と、第2の状態が継続する時間とは同一である。内視鏡装置1が第2の状態であるときに第1のイメージセンサ103と第2のイメージセンサ104とが行う撮像のフレームの数は、内視鏡装置1が第1の状態であるときに第1のイメージセンサ103が行う撮像のフレームの数と同一である第1の状態では可視光が被写体に照射される。第2の状態では励起光が被写体に照射される。
図11は、可視光と励起光との第1の切替方法により可視光と励起光とが切り替わる様子を示している。第1のイメージセンサ103と第2のイメージセンサ104とは一定のフレーム周期で撮像を行う。第1のイメージセンサ103と第2のイメージセンサ104とによる撮像に同期して、可視光の照射と励起光の照射とが交互に行われる。つまり、可視光の照射と励起光の照射とは撮像の1フレーム毎に交互に行われる。可視光の照射が行われるとき、第1のイメージセンサ103は撮像を行う。可視光の照射が行われるとき、第2のイメージセンサ104は撮像を停止してもよい。励起光の照射が行われるとき、第1のイメージセンサ103と第2のイメージセンサ104とは撮像を行う。
図11では、撮像の1フレームが拡大されて示されている。撮像の1フレームにおいて、複数の第1のフォトダイオードまたは複数の第2のフォトダイオードの配列の行毎に撮像の制御が順次行われる。1行の撮像の制御は、以下のように行われる。第1のフォトダイオードまたは第2のフォトダイオードがリセットされる。続いて、第1のフォトダイオードまたは第2のフォトダイオードにおいて露光が行われる。続いて、第1のフォトダイオードまたは第2のフォトダイオードに蓄積された電荷が容量等の蓄積部に転送された後、蓄積部から信号が読み出される。
可視光と励起光との第1の切替方法では、撮像の1フレームに同期して可視光と励起光とが切り替わる。可視光画像の撮像と蛍光画像の撮像とのタイミングのずれは1フレームのみである。このため、ほぼ同一時刻で撮像された可視光画像と蛍光画像との取得が可能である。この結果、可視光画像と蛍光画像との被写体のずれ量が抑制される。さらに、ユーザが可視光画像と蛍光画像との比較を行いやすい。可視光画像信号と蛍光画像信号とが重畳された場合においても、ユーザは、重畳画像信号に基づく画像において、可視光画像信号に基づく部分と蛍光画像信号に基づく部分との比較を行いやすい。
可視光と励起光との第2の切替方法では、切替部131は、第1の状態から第2の状態への切替を一定の周期で行い、第2の状態から第1の状態への切替を一定の周期で行う。第1の状態から第2の状態への切替の周期と、第2の状態から第1の状態への切替の周期とは同一である。第1の状態が継続する時間と、第2の状態が継続する時間とは異なる。内視鏡装置1が第2の状態であるときに第1のイメージセンサ103と第2のイメージセンサ104とが行う撮像のフレームの数は、内視鏡装置1が第1の状態であるときに第1のイメージセンサ103が行う撮像のフレームの数よりも多い。第1の状態では可視光が被写体に照射される。第2の状態では励起光が被写体に照射される。
図12は、可視光と励起光との第2の切替方法により可視光と励起光とが切り替わる様子を示している。第1のイメージセンサ103と第2のイメージセンサ104とは一定のフレーム周期で撮像を行う。可視光の照射は撮像の1フレームで行われる。励起光の照射は、連続する撮像の2フレームで行われる。可視光の照射と励起光の照射とは交互に行われる。つまり、連続する撮像の3フレームのうち1フレームで可視光の照射が行われ、残りの2フレームで励起光の照射が行われる。可視光の照射が行われるとき、第1のイメージセンサ103は撮像を行う。可視光の照射が行われるとき、第2のイメージセンサ104は撮像を停止してもよい。励起光の照射が行われるとき、第1のイメージセンサ103と第2のイメージセンサ104とは撮像を行う。
図12では、撮像の1フレームが拡大されて示されている。図12における撮像の1フレームは、図11における撮像の1フレームと同様である。
可視光と励起光との第2の切替方法では、所定時間に占める励起光の照射時間が可視光の照射時間よりも長くなるように、可視光と励起光との切替が行われればよい。可視光の照射が継続する期間は、連続する撮像の2フレームに限らない。可視光の照射が継続する期間は、連続する撮像の3フレーム以上であってもよい。また、励起光の照射が継続する期間は、撮像の1フレームに限らない。励起光の照射が継続する期間は、連続する撮像の2フレーム以上であってもよい。
可視光と励起光との第2の切替方法では、可視光画像と蛍光画像との取得の同時性が大きく損なわれることなく、蛍光検出の感度が向上する。
可視光と励起光との第3の切替方法では、切替部131は、第1の状態から第2の状態への切替を一定の周期で行い、第2の状態から第1の状態への切替を一定の周期で行う。第1の状態から第2の状態への切替の周期と、第2の状態から第1の状態への切替の周期とは同一である。第1の状態が継続する時間と、第2の状態が継続する時間とは異なる。内視鏡装置1が第2の状態であるときに第1のイメージセンサ103と第2のイメージセンサ104とが行う撮像のフレーム長は、内視鏡装置1が第1の状態であるときに第1のイメージセンサ103が行う撮像のフレーム長よりも長い。第1の状態では可視光が被写体に照射される。第2の状態では励起光が被写体に照射される。
図13は、可視光と励起光との第3の切替方法により可視光と励起光とが切り替わる様子を示している。励起光が照射されているときの撮像の1フレームは、可視光が照射されているときの撮像の1フレームよりも長い。第1のイメージセンサ103と第2のイメージセンサ104とによる撮像に同期して、可視光の照射と励起光の照射とが交互に行われる。つまり、可視光の照射と励起光の照射とは撮像の1フレーム毎に交互に行われる。
上記のように、可視光が照射される第1の状態と、励起光が照射される第2の状態とでは、撮像の1フレームの長さが異なる。このため、可視光の照射時間と励起光の照射時間とが異なる。励起光が照射されているときの撮像の1フレームは、可視光が照射されているときの撮像の1フレームよりも長いため、励起光の照射時間は可視光の照射時間よりも長い。可視光の照射が行われるとき、第1のイメージセンサ103は撮像を行う。可視光の照射が行われるとき、第2のイメージセンサ104は撮像を停止してもよい。励起光の照射が行われるとき、第1のイメージセンサ103と第2のイメージセンサ104とは撮像を行う。
図13では、励起光が照射されているときの撮像の1フレームと、可視光が照射されているときの撮像の1フレームとがそれぞれ拡大されて示されている。第1のイメージセンサ103と第2のイメージセンサ104とによる撮像における動作の手順は、図11を参照して説明した手順と同様である。しかし、励起光が照射されているときの撮像と、可視光が照射されているときの撮像とでは、露光期間が異なる。図13に示すように、励起光が照射されるときの撮像における露光期間は、可視光が照射されるときの撮像における露光期間よりも長い。
可視光と励起光との第3の切替方法では、可視光画像と蛍光画像との取得の同時性が大きく損なわれることなく、蛍光検出の感度が向上する。
近赤外光に対する第2のイメージセンサ104の感度は、近赤外光に対する第1のイメージセンサ103の感度よりも高くてもよい。例えば、第1のイメージセンサ103には、近赤外光の感度が低い、つまり近赤外光を比較的透過しやすい裏面照射(BSI:Back Side Illumination)型イメージセンサが用いられる。例えば、第2のイメージセンサ104には、近赤外光の感度が非常に高い表面照射(FSI:Front Side Illumination)型イメージセンサが用いられる。
励起光と蛍光との波長は、近赤外光の波長帯域にある。近赤外光に対する第2のイメージセンサ104の感度が高いことにより、蛍光検出の感度が向上する。
本発明の各態様の内視鏡装置は、ライトガイド12と、ディスプレイ14と、設定ボタン15との少なくとも1つに対応する構成を有していなくてもよい。
本発明の実施形態によれば、内視鏡装置1は、光源11と、撮像部100を有する内視鏡挿入部10と、演算部130と、切替部131とを有する。撮像部100は、励起光カットフィルタ102と、第1のイメージセンサ103と、第2のイメージセンサ104とを有する。
本発明の実施形態では、撮像部100の小型化と、蛍光および可視光の高精度な検出とを両立することができる。
以上、図面を参照して本発明の実施形態について詳述してきたが、具体的な構成は上記の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
本発明の各実施形態によれば、カメラヘッドの小型化と、蛍光および可視光の高精度な検出とを両立することができる。
1,1a 内視鏡装置
10 内視鏡挿入部
11 光源
12 ライトガイド
13 プロセッサ
14 ディスプレイ
15 設定ボタン
100 撮像部
101 レンズ
102 励起光カットフィルタ
103 第1のイメージセンサ
104 第2のイメージセンサ
130 演算部
131 切替部

Claims (14)

  1. 可視光と励起光とを発生する光源と、
    撮像部と、
    第1の信号に基づく可視光画像信号と、第2の信号および第3の信号に基づく蛍光画像信号とを生成する演算部と、
    第1の状態と第2の状態とを切り替え、前記第1の状態では前記可視光が被写体に照射され、前記第2の状態では前記励起光が前記被写体に照射される切替部と、
    を有し、
    前記撮像部は、
    前記可視光が前記被写体に照射されたときに前記被写体によって反射された前記可視光を透過し、前記励起光が前記被写体に照射されたときに発生する蛍光を透過し、前記励起光が被写体に照射されたときに前記被写体によって反射された前記励起光を遮断する励起光カットフィルタと、
    複数の第1のフォトダイオードを有し、前記複数の第1のフォトダイオードは、前記励起光カットフィルタを透過した前記可視光に応じた前記第1の信号と、前記励起光カットフィルタを透過した前記蛍光に応じた前記第2の信号とを生成する第1のイメージセンサと、
    複数の第2のフォトダイオードを有し、前記複数の第2のフォトダイオードは、前記複数の第1のフォトダイオードを透過した前記蛍光に応じた前記第3の信号を生成する第2のイメージセンサと、
    を有する内視鏡装置。
  2. 前記複数の第2のフォトダイオードのそれぞれのサイズは前記複数の第1のフォトダイオードのそれぞれのサイズよりも大きい請求項1に記載の内視鏡装置。
  3. 2つ以上の前記第1のフォトダイオードと1つの前記第2のフォトダイオードとが重なり、
    前記2つ以上の前記第1のフォトダイオードを透過した前記蛍光が前記1つの前記第2のフォトダイオードに入射する
    請求項2に記載の内視鏡装置。
  4. 前記演算部は、前記第2の信号と前記第3の信号とに基づいて、前記複数の第2のフォトダイオードのそれぞれの領域に対応する画素値を演算することにより前記蛍光画像信号を生成する請求項1に記載の内視鏡装置。
  5. 前記演算部は、前記第2の信号と前記第3の信号とに基づいて、前記複数の第1のフォトダイオードのそれぞれの領域に対応する画素値を演算することにより前記蛍光画像信号を生成する請求項1に記載の内視鏡装置。
  6. 前記演算部は、前記可視光画像信号における1つの画素に対応する前記蛍光画像信号における画素の数が異なる場合、前記可視光画像信号における1つの画素に対応する前記蛍光画像信号における画素の数が一致するように前記可視光画像信号と前記蛍光画像信号との少なくとも一方に基づく演算を行い、
    前記演算部は、前記演算が行われた前記可視光画像信号と前記蛍光画像信号とを重畳する
    請求項1に記載の内視鏡装置。
  7. 前記可視光画像信号と前記蛍光画像信号とが重畳されるときの前記可視光画像信号と前記蛍光画像信号との重み付けは変更可能である請求項6に記載の内視鏡装置。
  8. 前記演算部は、前記蛍光画像信号の画素値に基づいて前記重み付けを決定する請求項7に記載の内視鏡装置。
  9. 前記演算部は、ユーザの指示に基づいて前記重み付けを決定する請求項7に記載の内視鏡装置。
  10. 前記演算部は、前記可視光画像信号と前記蛍光画像信号とを重畳するとき、相対的に波長が長い光が強調された画像に相当する前記可視光画像信号を用いる請求項6に記載の内視鏡装置。
  11. 前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行い、
    前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレームの数は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレームの数と同一である請求項1に記載の内視鏡装置。
  12. 前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行い、
    前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレームの数は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレームの数よりも多い請求項1に記載の内視鏡装置。
  13. 前記切替部は、前記第1の状態から前記第2の状態への切替を一定の周期で行い、前記第2の状態から前記第1の状態への切替を前記一定の周期で行い、
    前記内視鏡装置が前記第2の状態であるときに前記第1のイメージセンサと前記第2のイメージセンサとが行う撮像のフレーム長は、前記内視鏡装置が前記第1の状態であるときに前記第1のイメージセンサが行う撮像のフレーム長よりも長い請求項1に記載の内視鏡装置。
  14. 近赤外光に対する前記第2のイメージセンサの感度は、近赤外光に対する前記第1のイメージセンサの感度よりも高い請求項1に記載の内視鏡装置。
JP2016570395A 2015-01-21 2015-01-21 内視鏡装置 Active JP6385465B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/051505 WO2016117049A1 (ja) 2015-01-21 2015-01-21 内視鏡装置

Publications (2)

Publication Number Publication Date
JPWO2016117049A1 JPWO2016117049A1 (ja) 2017-10-26
JP6385465B2 true JP6385465B2 (ja) 2018-09-05

Family

ID=56416615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016570395A Active JP6385465B2 (ja) 2015-01-21 2015-01-21 内視鏡装置

Country Status (5)

Country Link
US (1) US10874293B2 (ja)
JP (1) JP6385465B2 (ja)
CN (1) CN107105977B (ja)
DE (1) DE112015005326T5 (ja)
WO (1) WO2016117049A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017176811A (ja) * 2016-03-28 2017-10-05 ソニー株式会社 撮像装置、撮像方法及び医療用観察機器
JP6626783B2 (ja) * 2016-06-02 2019-12-25 Hoya株式会社 画像処理装置および電子内視鏡システム
WO2018225122A1 (ja) * 2017-06-05 2018-12-13 オリンパス株式会社 内視鏡装置
WO2021051222A1 (zh) * 2019-09-16 2021-03-25 北京数字精准医疗科技有限公司 内窥镜***、混合光源、视频采集装置及图像处理器
JP7378315B2 (ja) * 2020-02-18 2023-11-13 ソニー・オリンパスメディカルソリューションズ株式会社 医療用信号処理装置、および医療用信号処理方法
CN113208567A (zh) * 2021-06-07 2021-08-06 上海微创医疗机器人(集团)股份有限公司 多光谱成像***、成像方法和存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3962122B2 (ja) 1996-11-20 2007-08-22 オリンパス株式会社 内視鏡装置
ATE309739T1 (de) * 1999-01-26 2005-12-15 Newton Lab Inc Vorrichtung zur autofluoreszensbildgebung für ein endoskop
US7460160B2 (en) * 2004-09-24 2008-12-02 Microsoft Corporation Multispectral digital camera employing both visible light and non-visible light sensing on a single image sensor
SE0402576D0 (sv) * 2004-10-25 2004-10-25 Forskarpatent I Uppsala Ab Multispectral and hyperspectral imaging
US7821552B2 (en) * 2005-12-27 2010-10-26 Sanyo Electric Co., Ltd. Imaging apparatus provided with imaging device having sensitivity in visible and infrared regions
JP4949806B2 (ja) * 2006-11-10 2012-06-13 オンセミコンダクター・トレーディング・リミテッド 撮像装置及び画像信号処理装置
JP2008227250A (ja) * 2007-03-14 2008-09-25 Fujifilm Corp 複合型固体撮像素子
JP5184016B2 (ja) * 2007-09-12 2013-04-17 オンセミコンダクター・トレーディング・リミテッド 撮像装置
EP2268194B1 (en) * 2008-03-18 2016-08-31 Novadaq Technologies Inc. Imaging system for combined full-color reflectance and near-infrared imaging
JP5389380B2 (ja) * 2008-05-28 2014-01-15 オリンパス株式会社 信号処理システム及び信号処理プログラム
US20110080506A1 (en) * 2009-10-07 2011-04-07 Ping-Kuo Weng Image sensing device and system
KR102012810B1 (ko) * 2011-05-12 2019-08-21 디퍼이 신테스 프로덕츠, 인코포레이티드 이미징 센서 및 이미징 센서에 대한 데이터를 액세스하는 방법
CN103140161B (zh) * 2011-06-14 2015-06-17 奥林巴斯医疗株式会社 医疗设备
JP2013070030A (ja) * 2011-09-06 2013-04-18 Sony Corp 撮像素子、電子機器、並びに、情報処理装置
US20130075607A1 (en) * 2011-09-22 2013-03-28 Manoj Bikumandla Image sensors having stacked photodetector arrays
JP5421475B2 (ja) * 2012-07-04 2014-02-19 誠 雫石 撮像素子、半導体集積回路及び撮像装置
JP6076093B2 (ja) * 2013-01-08 2017-02-08 オリンパス株式会社 撮像装置

Also Published As

Publication number Publication date
US10874293B2 (en) 2020-12-29
JPWO2016117049A1 (ja) 2017-10-26
CN107105977B (zh) 2019-02-12
WO2016117049A1 (ja) 2016-07-28
DE112015005326T5 (de) 2017-08-31
CN107105977A (zh) 2017-08-29
US20170251912A1 (en) 2017-09-07

Similar Documents

Publication Publication Date Title
JP6385465B2 (ja) 内視鏡装置
EP2992805B1 (en) Electronic endoscope system
WO2017145529A1 (ja) 計算システム
JP5385350B2 (ja) 画像表示方法および装置
JP6467562B2 (ja) 内視鏡システム
JP7135082B2 (ja) 内視鏡装置、内視鏡装置の作動方法、及びプログラム
JP6072374B2 (ja) 観察装置
JP5358368B2 (ja) 内視鏡システム
JP2011200367A (ja) 画像撮像方法および装置
CN111526773B (zh) 内窥镜图像获取***及方法
JP2014014439A (ja) 内視鏡システム、内視鏡システムのプロセッサ装置、及び内視鏡用制御プログラム
JP6615369B2 (ja) 内視鏡システム
JP6284451B2 (ja) 内視鏡装置
JP2011101771A (ja) 画像表示装置
WO2014156604A1 (ja) 内視鏡システム及びその作動方法並びにプロセッサ装置
JP6570484B2 (ja) 分析装置
JP5414369B2 (ja) 眼底カメラ及び制御方法
WO2015025595A1 (ja) 内視鏡システム及び作動方法
JP7477158B2 (ja) 3板式カメラ
JP6458142B2 (ja) 赤外蛍光観察装置
JP2022156811A (ja) 電子内視鏡用プロセッサ及び電子内視鏡システム
JP5990141B2 (ja) 内視鏡システム及びプロセッサ装置並びに作動方法
JP2015047440A (ja) プロセッサ
JP2019055290A (ja) プロセッサ及び内視鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180807

R151 Written notification of patent or utility model registration

Ref document number: 6385465

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250