CN116133572A - 图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序 - Google Patents
图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序 Download PDFInfo
- Publication number
- CN116133572A CN116133572A CN202180061060.2A CN202180061060A CN116133572A CN 116133572 A CN116133572 A CN 116133572A CN 202180061060 A CN202180061060 A CN 202180061060A CN 116133572 A CN116133572 A CN 116133572A
- Authority
- CN
- China
- Prior art keywords
- image
- analysis
- display
- analysis result
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010191 image analysis Methods 0.000 title claims abstract description 207
- 238000012545 processing Methods 0.000 title claims abstract description 173
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000004458 analytical method Methods 0.000 claims abstract description 506
- 238000005286 illumination Methods 0.000 claims description 65
- 230000003902 lesion Effects 0.000 claims description 56
- 230000008569 process Effects 0.000 claims description 24
- 238000001228 spectrum Methods 0.000 claims description 19
- 230000002159 abnormal effect Effects 0.000 claims description 9
- 230000003595 spectral effect Effects 0.000 claims description 9
- 238000004378 air conditioning Methods 0.000 claims 10
- 238000011017 operating method Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 20
- 238000003745 diagnosis Methods 0.000 description 18
- 210000004204 blood vessel Anatomy 0.000 description 17
- 230000000875 corresponding effect Effects 0.000 description 17
- 206010028980 Neoplasm Diseases 0.000 description 12
- 201000011510 cancer Diseases 0.000 description 12
- 239000003086 colorant Substances 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 10
- 238000003780 insertion Methods 0.000 description 10
- 230000037431 insertion Effects 0.000 description 9
- 238000010801 machine learning Methods 0.000 description 7
- 230000009467 reduction Effects 0.000 description 7
- 230000000295 complement effect Effects 0.000 description 6
- 238000003703 image analysis method Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 239000004065 semiconductor Substances 0.000 description 6
- 230000007547 defect Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 208000037062 Polyps Diseases 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 4
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 4
- 238000004195 computer-aided diagnosis Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000005284 excitation Effects 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 229910052760 oxygen Inorganic materials 0.000 description 4
- 239000001301 oxygen Substances 0.000 description 4
- 238000005452 bending Methods 0.000 description 3
- 238000002595 magnetic resonance imaging Methods 0.000 description 3
- 206010009900 Colitis ulcerative Diseases 0.000 description 2
- 206010061218 Inflammation Diseases 0.000 description 2
- 206010061298 Mucosal haemorrhage Diseases 0.000 description 2
- 201000006704 Ulcerative Colitis Diseases 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 201000010099 disease Diseases 0.000 description 2
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001839 endoscopy Methods 0.000 description 2
- 230000004054 inflammatory process Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 210000002429 large intestine Anatomy 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 206010015150 Erythema Diseases 0.000 description 1
- 102000001554 Hemoglobins Human genes 0.000 description 1
- 108010054147 Hemoglobins Proteins 0.000 description 1
- 208000032843 Hemorrhage Diseases 0.000 description 1
- OAICVXFJPJFONN-UHFFFAOYSA-N Phosphorus Chemical compound [P] OAICVXFJPJFONN-UHFFFAOYSA-N 0.000 description 1
- 208000025865 Ulcer Diseases 0.000 description 1
- 238000001574 biopsy Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000002775 capsule Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000010410 layer Substances 0.000 description 1
- 238000009607 mammography Methods 0.000 description 1
- 210000004877 mucosa Anatomy 0.000 description 1
- 210000004400 mucous membrane Anatomy 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 239000002344 surface layer Substances 0.000 description 1
- 230000009747 swallowing Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 231100000397 ulcer Toxicity 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00006—Operational features of endoscopes characterised by electronic signal processing of control signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000096—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/063—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements for monochromatic or narrow-band illumination
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0638—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements providing two or more wavelengths
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/06—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor with illuminating arrangements
- A61B1/0655—Control therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10152—Varying illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30028—Colon; Small intestine
- G06T2207/30032—Colon polyp
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Radiology & Medical Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Pathology (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Endoscopes (AREA)
Abstract
本发明提供一种防止看漏内窥镜图像中应关注的区域的图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序。图像分析处理装置具备处理器,处理器执行如下处理:获取用于图像分析的多种类型的分析用图像;按分析用图像的每种类型并行地进行分析用图像的图像分析;获取多个基于图像分析的分析结果;及进行将基于多个分析结果的分析结果显示和基于多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器(18)上的控制。
Description
技术领域
本发明涉及一种图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序。
背景技术
在医疗领域,使用具备光源装置、内窥镜及处理器装置的内窥镜***的诊断正在广泛进行。在使用内窥镜***的诊断中,通过被称为图像强调内窥镜或图像强调观察(IEE、image enhanced endoscopy)的方法,使用通过内窥镜拍摄观察对象而得的图像(以下,称为内窥镜图像)来强调显示观察对象的表面结构、病变或生物体信息等,获得供医生诊断观察对象的诊断支援信息。
在IEE中,已知通过对拍摄观察对象而得的内窥镜图像进行数字图像处理来使用的方法或使用对观察对象照射特定照明光进行拍摄而得的内窥镜图像的方法等来获得各种类型的内窥镜图像的方法。例如,医生通过选择特定类型的内窥镜图像来判定观察对象中的血管密集的区域或氧饱和度低的区域等生物体信息,并将这些区域强调显示于显示器等。这种显示作为供医生诊断观察对象的诊断支援信息是有用的。
并且,还开发了CAD(Computer-Aided Diagnosis(计算机辅助诊断))技术,其通过对基于IEE等的各种内窥镜图像进行图像分析,根据观察对象中有病变可能性的区域的范围或炎症程度等来判定疾病的等级等,并将得到的判定结果显示于显示器上作为诊断支援信息来提供。例如,已知一种内窥镜***,其使用基于IEE的内窥镜图像来精确地判定溃疡性结肠炎的等级等疾病的重症度或进展程度(专利文献1)。
以往技术文献
专利文献
专利文献1:日本特开2020-65685号公报
发明内容
发明要解决的技术课题
在IEE或CAD等中,根据作为内窥镜的使用者的医生的指示,将特定类型的内窥镜图像显示于显示器上,并且通过显示于显示器上的内窥镜图像的图像分析来获得图像分析结果,作为诊断支援信息。例如,在医生希望通过明亮且自然的颜色对观察对象进行观察的情况下,会在显示器上显示将照明光设为白色光来拍摄观察对象而得的内窥镜图像,使用该内窥镜图像来进行图像分析,可获得基于图像分析结果的诊断支援信息。另一方面,在医生希望对观察对象的表层血管密集的病变进行详细观察的情况下,会在显示器上显示尽管亮度比基于白色光的内窥镜图像差但强调了表层血管的基于IEE的内窥镜图像,使用该内窥镜图像来进行图像分析,可获得基于图像分析结果的诊断支援信息。
如此,得到的效果、目的或用途根据基于IEE或CAI)的内窥镜图像的类型而不同,因此通过根据医生的指示等显示于显示器上的内窥镜图像的类型的图像分析,肯定会存在无法良好地获得的诊断支援信息。另一方面,通过其他类型的内窥镜图像,有时则能够良好地获得该诊断支援信息。因此,在利用内窥镜进行的观察中使用IEE或CAD时,例如,通过使用其他类型的内窥镜图像的图像分析,能够良好地获得诊断支援信息,尽管如此,根据内窥镜图像的类型,即使进行相同的图像分析,也会无法良好地获得该诊断支援信息,因此有可能会看漏病变等观察对象的异常。
本发明的目的在于,提供一种防止看漏内窥镜图像中应关注的区域的图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序。
用于解决技术课题的手段
本发明的图像分析处理装置根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,并且具备处理器。处理器执行如下处理:获取用于图像分析的多种类型的分析用图像;按分析用图像的每种类型并行地进行分析用图像的图像分析;获取多个基于图像分析的分析结果;及进行将包括基于多个分析结果的分析结果显示和基于多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器上的控制。
优选,处理器按分析用图像的每种类型独立地进行图像分析。
优选,处理器执行如下处理:获取将观察对象的特定状态与通过拍摄包括特定状态的观察对象而得的分析用图像预先建立了对应关系的对应信息;及根据分析用图像和对应信息来获得分析结果。
优选,处理器执行如下处理:按分析用图像的每种类型获取对应信息;及根据分析用图像和与分析用图像的类型对应地获取的对应信息来获得分析结果。
优选,特定状态为观察对象的结构异常的状态、观察对象为特定病变的状态及观察对象的生物体信息的值异常的状态中的至少一种状态。
优选,分析结果包括观察对象的特定状态的区域的信息。
优选,分析结果包括与分析结果相关的准确度。
优选,处理器执行如下处理:通过比较多个分析结果而将与分析结果相关的准确度最高的分析结果选为关注分析结果;及创建包括关注分析结果的分析结果显示。
优选,处理器执行如下处理:通过对图像进行强调处理来生成第1分析用图像;及获取第1分析用图像来作为分析用图像的一种。
优选,处理器对图像进行色彩强调处理或结构强调处理。
优选,处理器执行如下处理:将分析结果与得到分析结果的分析用图像的类型建立对应关系来获取;及进行在显示器上显示表示分析结果与得到分析结果的分析用图像的类型之间的关联建立的凡例显示的控制。
并且,本发明的内窥镜***具备:图像分析处理装置;及光源部,发射对观察对象照射的照明光。
优选,处理器获取通过拍摄利用由光源部发射的分光光谱互不相同的多个照明光分别照射的观察对象而得的图像来作为互不相同的类型的分析用图像。
优选,处理器获取通过拍摄利用由光源部发射的白色照明光照射的观察对象而得的图像来作为分析用图像的一种。
优选,处理器获取通过拍摄利用由光源部发射的包括预先设定的波段的窄带光的照明光照射的观察对象而得的图像来作为分析用图像的一种。
优选,光源部按预先设定的顺序反复发射分光光谱互不相同的多个照明光中的每一个。
优选,处理器执行如下处理:将分析结果与得到分析结果的分析用图像的类型建立对应关系来获取;及进行在显示器上显示表示分析结果与得到分析结果的分析用图像的类型之间的关联建立的凡例显示的控制。
并且,本发明的图像分析处理装置的工作方法中,该图像分析处理装置根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,该工作方法包括:分析用图像获取步骤,获取用于图像分析的多种类型的分析用图像;图像分析处理步骤,按分析用图像的每种类型对分析用图像并行地进行图像分析;分析结果获取步骤,获取多个基于图像分析的分析结果;及显示控制步骤,进行将包括基于多个分析结果的分析结果显示和多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器上的控制。
并且,本发明的图像分析处理装置用程序安装于图像分析处理装置,该图像分析处理装置根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,该图像分析处理装置用程序用于使计算机实现如下功能:分析用图像获取功能,获取用于图像分析的多种类型的分析用图像;图像分析处理功能,按分析用图像的每种类型对分析用图像并行地进行图像分析;分析结果获取功能,获取多个基于图像分析的分析结果;及显示控制功能,进行将包括基于多个分析结果的分析结果显示和多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器上的控制。
发明效果
根据本发明,能够防止看漏内窥镜图像中应关注的区域。
附图说明
图1是内窥镜***的外观图。
图2是内窥镜的操作部的外观图。
图3是表示内窥镜***的功能的框图。
图4是表示普通光的光谱的曲线图。
图5是表示特殊光的光谱的曲线图。
图6是说明照明光图案的说明图。
图7是表示图像处理部的功能的框图。
图8是表示图像分析处理部的功能的框图。
图9是说明对应信息获取部的功能的说明图。
图10是表示具备各对应信息处理部的图像分析处理部的功能的框图。
图11是表示显示图像生成部的功能的框图。
图12是说明第1分析结果显示的图像图。
图13是说明第2分析结果显示的图像图。
图14是观察图像的图像图。
图15是说明在观察图像上重叠有作为两种分析结果显示的图形的显示图像的图像图。
图16是说明作为第2分析结果显示的图形和字符的图像图。
图17是表示具备关注分析结果选择部的图像处理部的功能的框图。
图18是说明表示由关注分析结果选择部选择的分析结果的图形等的图像图。
图19是说明在观察图像上重叠有表示由关注分析结果选择部选择的分析结果的图形等的显示图像的图像图。
图20是说明作为第1分析结果显示的图形和字符的图像图。
图21是说明在观察图像上重叠有作为分析结果显示的图形和字符的显示图像的图像图。
图22是说明具备凡例显示的显示图像的图像图。
图23是说明以不显眼的方式显示基于不显示的图像的分析结果显示的显示图像的图像图。
图24是说明利用字符显示基于不显示的图像的分析结果显示的显示图像的图像图。
图25是表示第2特殊光的光谱的曲线图。
图26是说明包括第2特殊光的照明光图案的说明图。
图27是说明在观察图像上重叠有三种分析结果显示的显示图像的图像图。
图28是说明图像分析处理装置的处理的流程的流程图。
图29是表示诊断支援装置的说明图。
图30是表示医务支援装置的说明图。
具体实施方式
如图1所示,内窥镜***10具备内窥镜12、光源装置14、处理器装置16、显示器18及键盘19。内窥镜12拍摄观察对象。光源装置14发射对观察对象照射的照明光。处理器装置16为图像分析处理装置,进行内窥镜***10的***控制及内窥镜图像的图像分析处理等。显示器18为显示包括内窥镜图像等的显示图像的显示部。键盘19为向处理器装置16等输入设定等的输入器件。
作为观察模式,内窥镜***10具备通常模式、特殊模式及图像分析模式这三种模式。在通常模式下,通过对观察对象照射普通光进行拍摄,在显示器18上显示自然色彩的普通光图像作为显示图像。在特殊模式下,通过对观察对象照射波段或分光光谱与普通光不同的特殊光进行拍摄,在显示器18上显示强调了观察对象的特定结构等的特殊光图像作为显示图像。在图像分析模式下,当在显示器18上显示通过对观察对象照射普通光或特殊光进行拍摄而得的普通光图像或特殊光图像时,通过对基于普通光图像或特殊光图像等的多种类型的分析用图像进行图像分析来获得多个分析结果。然后,在显示器18上显示在普通光图像或特殊光图像等观察图像上重叠有基于多个分析结果的分析结果显示的显示图像。另外,在通常模式或图像分析模式下,若为视觉辨认度良好的图像,则即使为经强调处理等的强调图像,也可以在显示时用作普通光图像或特殊光图像。
用于图像分析的分析用图像的类型根据照明光的类型及强调处理的类型进行划分。因此,照明光相同的内窥镜图像为相同类型的分析用图像,照明光不同的内窥镜图像为不同类型的分析用图像。并且,通过相同方法进行强调处理的内窥镜图像为相同类型的分析用图像,通过不同方法进行强调处理的内窥镜图像为不同类型的分析用图像。照明光的类型根据照明光的分光光谱进行划分。在照明光不同的情况下,照明光的分光光谱不同。因此,例如,利用白色光拍摄的内窥镜图像与利用白色光以外的照明光拍摄的内窥镜图像为不同类型的分析用图像。并且,强调处理的类型根据强调处理的方法进行划分。因此,例如,利用白色光拍摄且实施了色彩强调处理的内窥镜图像与利用白色光拍摄且实施了结构强调处理的内窥镜图像为不同类型的分析用图像。
内窥镜12具有:***部12a,***到具有观察对象的受检体内;操作部12b,设置于***部12a的基端部分;弯曲部12c,设置于***部12a的前端侧;及前端部12d。弯曲部12e通过对操作部12b的角度旋钮12e(参考图2)进行操作而弯曲。其结果,前端部12d朝向所期望的方向。并且,如图2所示,操作部12b除角度旋钮12e以外,还设置有处置器具***口12f、观测器按钮12g及变焦操作部13。处置器具***口12f为***活检钳、勒除器或电灼器等处置器具的入口。***到处置器具***口12f内的处置器具从前端部12d突出。可以对观测器按钮12g分配各种操作,在本实施方式中,用于切换观察模式的操作。通过操作变焦操作部13,能够放大或缩小观察对象进行拍摄。
如图3所示,光源装置14具备:光源部20,具备发射照明光的光源;及光源控制部22,控制光源部20的动作。光源部20发射对观察对象照射的照明光。照明光包括用于发射照明光的激发光等发光。光源部20例如包括激光二极管、LED(Light Emitting Diode(发光二极管))、氙气灯或卤素灯的光源,至少发射白色照明光或用于发射白色照明光的激发光。白色包括使用内窥镜12拍摄观察对象时实质上与白色等同的所谓的伪白色。
根据需要,光源部20包括被激发光照射时发光的荧光体或调节照明光或激发光的波段、分光光谱或光量等的滤光器等。此外,光源部20能够发射至少由窄带的光(以下,称为窄带光)构成的照明光。并且,光源部20能够发射分光光谱互不相同的多个照明光。照明光可以包括窄带光。并且,光源部20例如能够发射拍摄图像时所需的具有特定波段或特定分光光谱的光,该图像用于计算观察对象所包含的血红蛋白的氧饱和度等生物体信息。
“窄带”是指,在与观察对象的特性和/或图像传感器45所具有的滤色器的分光特性之间的关系方面,实质上几乎为单一的波段。例如,在波段例如为约±20nm以下(优选为约±10nm以下)的情况下,该光为窄带。
在本实施方式中,光源部20具有V-LED20a、B-LED20b、G-LED20c及R-LED20d这四种颜色的LED。V-LED20a发射中心波长为405nm且波段为380~420nm的紫色光VL。B-LED20b发射中心波长为460nm且波段为420~500nm的蓝色光BL。G-LED20c发射波段达到480~600nm的绿色光GL。R-LED20d发射中心波长为620~630nm且波段达到600~650nm的红色光RL。另外,V-LED20a和B-LED20b的中心波长具有约±20nm的宽度,优选具有约±5nm至约±10nm左右的宽度。另外,紫色光VL为用于检测在特殊光模式或图像分析模式下使用的表层血管的密集、粘膜内出血及粘膜外出血的短波长的光,优选在中心波长或峰值波长中包括410nm。并且,紫色光VL优选为窄带光。
光源控制部22控制构成光源部20的各光源的点亮、熄灭或屏蔽的定时及发光量等。其结果,光源部20能够以预先设定的期间及发光量发射分光光谱不同的多种类型的照明光。在本实施方式中,光源控制部22通过对各LED20a~20d的点亮或熄灭、点亮时的发光量或滤光器的插拔等分别输入独立的控制信号来调节照明光的分光光谱。由此,光源部20发射由白色照明光、分光光谱不同的多种类型的照明光或至少由窄带光构成的照明光等。包括白色光的照明光在内,通过拍摄利用分光光谱互不相同的多个照明光分别照射的观察对象而得的内窥镜图像为互不相同的类型的分析用图像。
在本实施方式中,如图4所示,光源部20在光源控制部22的控制下发射白色照明光作为普通光NL。在设定为通常模式或图像分析模式的情况下,光源控制部22控制各LED20a~20d发射紫色光VL、蓝色光BL、绿色光GL及红色光RL之间的光强度比为Vc∶Bc∶Gc∶Rc的白色光。光强度比Vc∶Bc∶Gc∶Rc对应于白色照明光的光量条件。通过拍摄利用由光源部20发射的白色照明光照射的观察对象而得的普通光图像为分析用图像的一种。
在设定为特殊模式及图像分析模式的情况下,光源控制部22控制各LED20a~20d发射紫色光VL、蓝色光BL、绿色光GL及红色光RL之间的光强度比为Vs1∶Bs1∶Gs1∶Rs1的特殊光作为特殊光。光强度比Vs1∶Bs1∶Gs1∶Rs1对应于特殊光的光量条件。特殊光优选强调表层血管及息肉等结构。因此,特殊光优选使紫色光VL的光强度大于蓝色光BL的光强度。例如,如图5所示,将紫色光VL的光强度Vs1与蓝色光BL的光强度Bs1的比率设为“4∶1”。本实施方式的特殊光SL为包括窄带紫色光VL的照明光。通过拍摄利用由光源部20发射的特殊光SL照射的观察对象而得的特殊光图像为分析用图像的一种。
另外,在本说明书中,光强度比包括至少一个半导体光源的比率为0(零)的情况。因此,包括各半导体光源中的任一个或两个以上未点亮的情况。例如,在如紫色光VL、蓝色光BL、绿色光GL及红色光RL之间的光强度比为1∶0∶0∶0的情况那样仅点亮半导体光源中的一个而未点亮其他三个的情况下,也视为具有光强度比。
光源部20优选按预先设定的顺序反复发射分光光谱互不相同的多个照明光中的每一个。在本实施方式中,按预先设定的顺序反复发射普通光NL和特殊光SL。在本实施方式中,例如,如图6所示,光源控制部22连续发射5帧(5FL)普通光NL,接着发射1帧(1FL)特殊光SL,再次连续发射5帧(5FL)普通光CL,并再次发射1帧(1FL)特殊光SL。以按连续发射5帧(5FL)普通光NL,接着发射1帧(1FL)特殊光SL的顺序构成的照明图案为一个周期(1CY),重复该周期。
内窥镜12的前端部12d设置有照明光学***30a和摄影光学***30b(参考图3)。照明光学***30a具有照明透镜42,并且经由该照明透镜42朝向观察对象射出照明光。
摄影光学***30b具有物镜43、变焦透镜44及图像传感器45。图像传感器45利用经由物镜43及变焦透镜44从观察对象返回的照明光的反射光等(除反射光以外,还包括散射光、由观察对象发射的荧光或由例如用于观察对象的药剂产生的荧光等)来拍摄观察对象。变焦透镜44通过操作变焦操作部13来移动,以放大或缩小观察对象的像。
图像传感器45按像素具有多种颜色的滤色器中的一种颜色的滤色器。在本实施方式中,图像传感器45为具有原色系滤色器的彩色传感器。具体而言,图像传感器45具有:R像素,具有红色滤色器(R滤波器);G像素,具有绿色滤色器(G滤波器);及B像素,具有蓝色滤色器(B滤波器)。
另外,作为图像传感器45,可以利用CCD(Charge Coupled Device(电荷耦合器件))传感器或CMOS(Complementary Metal Oxide Semiconductor(互补型金属氧化物半导体))传感器。并且,本实施方式的图像传感器45为原色系彩色传感器,但也可以使用补色系彩色传感器。补色系彩色传感器例如具有设置有青色滤色器的青色像素、设置有品红色滤色器的品红色像素、设置有黄色滤色器的黄色像素及设置有绿色滤色器的绿色像素。在使用补色系彩色传感器的情况下,从上述各颜色的像素获得的图像只要进行补色-原色颜色转换,便能够转换为与通过原色系彩色传感器获得的图像相同的图像。在原色系或补色系传感器中,在具有一种或多种W像素(几乎接收所有波段的光的白色像素)等具有上述以外的特性的像素的情况下也相同。并且,本实施方式的图像传感器45为彩色传感器,但也可以使用不具有滤色器的单色传感器。
在处理器装置16中,与由如后述的控制部51、图像获取部52、图像处理部56及显示控制部57等进行的处理等相关的程序被编入到存储器(未图示)中。该程序通过由发挥图像分析处理装置的功能的处理器装置16所具备的处理器构成的控制部51动作,由此实现控制部51、图像获取部52、图像处理部56及显示控制部57的功能。
控制部51进行照明光的照射定时与摄影的定时的同步控制等内窥镜***10的统一控制。在使用键盘19等进行了各种设定的输入等的情况下,控制部51将该设定输入到光源控制部22、图像传感器45或图像处理部56等内窥镜***10的各部中。
图像获取部52从图像传感器45获取使用各颜色的像素拍摄观察对象而得的图像(即,RAW图像)。并且,RAW图像为实施去马赛克处理之前的图像(内窥镜图像)。若为实施去马赛克处理之前的图像,则对从图像传感器45获取的图像实施降噪处理等任意处理之后的图像也包括在RAW图像中。
为了根据需要对获取到的RAW图像实施各种处理,图像获取部52具备DSP(DigitalSignal Processor(数字信号处理器))53、降噪部54及转换部55。
DSP53例如具备偏移处理部、缺陷校正处理部、去马赛克处理部、线性矩阵处理部及YC转换处理部等(均未图示)。DSP53使用它们对RAW图像或使用RAW图像生成的图像实施各种处理。
偏移处理部对RAW图像实施偏移处理。偏移处理为从RAW图像减少暗电流成分来设定准确的零电平的处理。偏移处理有时称为钳位处理。缺陷校正处理部对RAW图像实施缺陷校正处理。缺陷校正处理为在图像传感器45包括具有由制造工序或经时变化产生的缺陷的像素(缺陷像素)的情况下校正或生成与图像传感器45的缺陷像素对应的RAW像素的像素值的处理。
去马赛克处理部对与各颜色的滤色器对应的各颜色的RAW图像实施去马赛克处理。去马赛克处理为通过插值来生成RAW图像中因滤色器的排列而缺失的像素值的处理。线性矩阵处理部对通过将一个或多个RAW图像分配给RGB各颜色的通道而生成的内窥镜图像进行线性矩阵处理。线性矩阵处理为提高内窥镜图像的颜色再现性的处理。由YC转换处理部进行的YC转换处理为将通过将一个或多个RAW图像分配给RGB各颜色的通道而生成的内窥镜图像转换为具有亮度通道Y、色差通道Cb及色差通道Cr的内窥镜图像的处理。
降噪部54例如使用移动平均法或中值滤波法等对具有亮度通道Y、色差通道Cb及色差通道Cr的内窥镜图像实施降噪处理。转换部55重新将降噪处理后的亮度通道Y、色差通道Cb及色差通道Cr再转换为具有BGR各颜色的通道的内窥镜图像。
图像处理部56对由图像获取部52输出的内窥镜图像进行必要的图像处理、图像分析或运算等。如图7所示,图像处理部56具备强调处理部61、分析用图像获取部62、图像分析处理部63、分析结果获取部64及显示图像生成部65。强调处理部61具备色彩强调部66及结构强调部67。
强调处理部61对由图像获取部52输出的内窥镜图像进行强调处理。分析用图像获取部62获取用于图像分析的多种类型的分析用图像。图像分析处理部63按分析用图像的每种类型并行地进行分析用图像的图像分析。分析结果获取部64获取基于图像分析的多个分析结果。显示图像生成部65生成用于在显示器18上显示的分析结果显示和观察图像。
由强调处理部61进行的强调处理是指,以与其他组织或结构等进行区分来获得特定部分的信息的方式对强调处理前的内窥镜图像进行处理。例如,相对于其他部分(例如,正常的粘膜等)变更具有特定特征的部分的色彩或亮度等的处理为强调处理。强调处理部61进行处理的内窥镜图像可以为普通光图像,也可以为特殊光图像。经强调处理的内窥镜图像用作分析用图像的一种。
色彩强调部66对获取到的内窥镜图像进行色彩强调处理,以使其成为例如利用颜色及彩度清晰地表示观察对象中的正常区域与异常区域的边界的内窥镜图像。色彩强调部66在获取到的内窥镜图像中进行颜色信息转换处理。颜色信息转换处理为针对获取到的内窥镜图像将分布在颜色空间上的多个范围分别转移到与转换前的范围建立有对应关系的转换目标范围的处理。由于正常区域与异常区域的边界清晰,因此经色彩强调部66的处理的内窥镜图像为能够将异常区域更容易且精确地判定为特定区域的图像。经色彩强调处理的内窥镜图像是作为分析用图像的一种的第1分析用图像。
结构强调部67对获取到的内窥镜图像进行结构强调处理,以使其成为例如强调表示观察对象中的血管的内窥镜图像。结构强调部67在获取到的内窥镜图像中求出作为横轴采用像素值(亮度值)、纵轴采用频度的曲线图的浓度直方图,并利用预先存储于图像处理部56的存储器(未图示)等中的灰度校正表进行灰度校正。灰度校正表中,横轴表示输入值,纵轴表示输出值,并且其具有表示输入值与输出值之间的对应关系的灰度校正曲线,例如根据大致S字形状的灰度校正曲线来进行灰度校正,以扩大获取到的内窥镜图像的动态范围。由此,结构强调的强调处理前的原图像中浓度低的部分的浓度会变得更低,浓度高的部分的浓度会变得更高,因此例如血管区域与不存在血管的区域的浓度差增加,促使血管的对比度提高。因此,经结构强调部67的处理的内窥镜图像为因血管的对比度提高而血管结构的视觉辨认度提高且例如能够将血管的密集度高的区域更容易且精确地判定为特定区域的图像。经结构强调处理的内窥镜图像是作为分析用图像的一种的第1分析用图像。
分析用图像获取部62获取多种类型的分析用图像。分析用图像为基于从图像获取部52输出的普通光图像或特殊光图像的图像。将未经强调处理的普通光图像或特殊光图像及经强调处理的普通光图像或特殊光图像作为分析用图像。分析用图像的类型根据照明光的类型及强调处理的方法来区分。在本实施方式中,作为多种类型的分析用图像,获取拍摄利用普通光照射的观察对象而得的普通光图像和拍摄利用特殊光照射的观察对象而得的特殊光图像这两种类型的分析用图像。另外,在本实施方式中,不进行强调处理。
图像分析处理部63对由分析用图像获取部62获取的分析用图像按分析用图像的每种类型并行地进行图像分析。并行地进行图像分析表示,分析用图像的每个类型的图像分析处理部(参考图8)存在多个,并且分别进行它们的图像分析。分析用图像的每个类型的图像分析处理可以同时实施,也可以分别实施,而不是同时实施。因此,图像分析处理部63能够按分析用图像的每种类型独立地进行图像分析。在本实施方式中,每次获取分析用图像时,通过对应的图像分析处理部对获取到的分析用图像进行图像分析。
如图8所示,图像分析处理部63具备按分析用图像的每种类型设置的第1图像用分析部71、第2图像用分析部72及第3图像用分析部73,并且与分析用图像的类型的数量对应地具备至第n图像用分析部74为止的各图像用分析部。如此,图像分析处理部63按分析用图像的每种类型具备与分析用图像的各类型对应的图像用分析部,并且通过各图像用分析部按分析用图像的每种类型进行图像分析,因此按分析用图像的每种类型并行地进行图像分析。在本实施方式中,在第1图像用分析部71中实施普通光图像的图像分析,在第2图像用分析部72中实施特殊光的图像分析,第1图像用分析部71和第2图像用分析部72并行地工作。
图像分析可以使用以往进行的图像分析方法。在图像分析处理部63中,可以由第1图像用分析部71至第n图像用分析部74为止的各图像用分析部实施相同方法的图像分析,也可以由各图像用分析部根据分析用图像的类型来实施互不相同的方法的图像分析。在根据分析用图像的类型来实施不同方法的图像分析的情况下,优选根据分析用图像的类型选择可获得良好的分析结果的图像分析方法来进行。
作为图像分析方法,可举出使用图像处理的方法或使用机器学习技术的方法等。具体而言,例如可举出使用图像的像素值和/或亮度值等值的方法、计算从图像计算出的氧饱和度等生物体信息的值的方法或使用将观察对象的特定状态与通过拍摄包括特定状态的观察对象而得的各分析用图像预先建立了对应关系的对应信息的方法等。通过图像分析的这些方法来判定病变的有无、病变的概率、病变的进展程度等或分析结果的准确度等。
图像分析处理部63优选具备获取将观察对象的特定状态与通过拍摄包括特定状态的观察对象而得的分析用图像预先建立了对应关系的对应信息的对应信息获取部。并且,图像分析处理部63优选根据分析用图像和对应信息来获得分析结果。
观察对象的特定状态例如为观察对象的色调状态或结构等异常的状态、观察对象为特定病变的状态、观察方式的生物体信息的值异常的状态或观察对象不存在病变等而正常或健康的状态等,其预先设定。具体而言,在观察对象为大肠的情况下,特定状态例如设定为存在大肠粘膜的炎症、发红、溃疡、息肉或出血等异常、癌症或溃疡性结肠炎等病变或氧饱和度极低等生物体信息的异常的状态。
在预先得知观察对象处于某个特定状态的情况下,对应信息为将通过拍摄该观察对象而得的分析用图像与观察对象的特定状态的细节及其区域的信息等建立了对应关系的信息。对应信息获取部预先获取多个对应信息。因此,如图9所示,通过将不知道特定状态的获取到的分析用图像输入到对应信息获取部中,对应信息获取部根据多个对应信息对该分析用图像进行图像分析,输出包括在该分析用图像中的与观察对象的特定状态相关的区域或细节等。另外,与特定状态相关的区域或细节等的输出还包括“不存在特定状态的区域”之类的内容。
对应信息获取部优选按分析用图像的每种类型获取对应信息,图像分析处理部63优选根据分析用图像和与分析用图像的类型对应地获取的对应信息来获得分析结果。在预先得知观察对象处于某个特定状态的情况下,与分析用图像的类型对应地获取的对应信息为将通过拍摄该观察对象而得的特定类型的分析用图像与观察对象的特定状态相关的区域或细节等信息等建立了对应关系的信息。并且,对应信息获取部可以进行获取经图像分析处理部63的处理后的分析结果作为对应信息的反馈或学习。如图10所示,在图像分析处理部63中,第1图像用分析部71具备第1对应信息获取部75,第2图像用分析部72具备第2对应信息获取部76,第3图像用分析部73具备第3对应信息获取部77,第n图像用分析部74具备第n对应信息获取部78。
能够通过图像分析获得良好的结果的观察对象的特定状态有时根据分析用图像的类型而不同。因此,通过分析用图像的每个类型具备对应信息获取部,例如能够在分析用图像为特殊光图像时因进行图像分析时的亮度不足而在特殊光图像中难以检测远景下的病变的情况下,作为并行地进行图像分析的其他类型的分析用图像的普通光图像容易检测在特殊光图像中难以检测的远景下的病变。并且,例如,特殊光图像能够容易检测观察对象的表层或中层的血管密集部位,普通光图像能够容易检测息肉等结构作为与特殊光图像的情况不同的观察对象的特定状态,因此能够检测不同类型的关注区域。
对应信息获取部例如为机器学习中的已学习模型。由于能够通过图像分析更快速或精确地获得作为分析结果的诊断支援信息,因此优选进行将基于机器学习的已学习模型用作对应信息获取部的图像分析。在本实施方式中,作为各对应信息获取部,使用机器学习中的已学习模型来进行用于判定病变的有无的图像分析。另外,在该情况下,已学习模型使用对各类型的分析用图像进行了学习的已学习模型。因此,第1对应信息获取部75和第2对应信息获取部76优选为互不相同的已学习模型。例如,在本实施方式中,第1对应信息获取部75为与普通光图像对应的已学习模型,第2对应信息获取部76为与特殊光图像对应的已学习模型。另外,各已学习模型可以进行学习由图像分析处理部63得到的分析结果的反馈。
分析结果获取部64获取图像分析处理部63通过各分析处理部按分析用图像的每种类型进行图像分析而得的分析结果。由于各分析处理部分别获得分析结果,因此分析结果获取部64获取多个分析结果。分析结果包括与所实施的图像分析方法对应的内容。在本实施方式中,由于图像分析方法中使用已学习模型来判定病变的有无,因此分析结果为包括在经图像分析的分析用图像中的观察对象的病变的有无及存在病变时的区域。
在本实施方式中,获得分析普通光图像而得的第1分析结果和分析特殊光图像而得的第2分析结果这两种分析结果。第1分析结果为根据普通光图像而得的作为观察对象的特定状态的病变的有无及存在病变时的区域,第2分析结果为根据特殊光图像而得的作为同一观察对象的特定状态的病变的有无及存在病变时的区域。
如图11所示,显示图像生成部65具备分析结果显示生成部79和观察图像生成部80。分析结果显示生成部79生成基于多个分析结果的分析结果显示。观察图像生成部80根据多种类型的分析用图像中的至少一种类型的分析用图像来生成包括观察对象的观察图像。分析结果显示为用于向医生等使用者通知多个分析结果的显示,只要是使用者能够掌握多个分析结果的显示,则显示形式并无限定。多个分析结果根据预先设定的条件来选择。例如,在本实施方式中,若获取1帧照明光为特殊光SL的特殊光图像,则连续获取5帧照明光为普通光NL的普通光图像。在该情况下,预先设定的条件例如将基于获取到的1帧特殊光图像的第2分析结果和基于获取该特殊光图像之前和之后的多个特定数量的帧的普通光图像的第1分析结果选为多个分析结果。
多个分析结果可以彼此区分显示,也可以根据情况不区分显示。具体而言,例如通过图形、颜色、花纹、字符或它们的组合来显示。图形等的大小例如优选与观察对象处于特定状态的区域的大小匹配。在多个分析结果的显示以相同大小的图形显示于同一区域的情况下,优选调整各分析结果的显示大小,以不重叠的方式显示图形。另外,在未检测到病变等特定状态的情况等无需显示分析结果的情况下,不显示分析结果。
在本实施方式中,获取第1分析结果和第2分析结果这两个分析结果,并将它们区分显示。并且,分析结果显示是分析结果为观察对象的病变的有无及存在病变时的区域且能够区分第1分析结果和第2分析结果的方式的显示。
在第1分析结果及第2分析结果中作为观察对象的特定状态检测到病变的情况下,如图12所示,表示第1分析结果的第1分析结果显示81通过用方形图形82包围观察对象中的病变区域来表示。并且,如图13所示,表示第2分析结果的第2分析结果显示83通过用方形图形84包围观察对象中的病变区域来表示。图形82和图形84由不同颜色表示。在图11及图12中,不同朝向的斜线表示不同颜色。
显示图像生成部65还生成基于多种类型的分析用图像中的至少一种类型的分析用图像的观察图像。观察图像为使用者选择显示于显示器18上的分析用图像。在显示于显示器18上时需要的情况下,显示图像生成部65通过对为了显示而选择的分析用图像进行图像处理来生成观察图像。在本实施方式中,观察图像持续显示至作出显示切换指示。
如图14所示,在本实施方式中,使用者选择将普通光图像显示于显示器18,因此显示图像生成部65实施将普通光图像显示于显示器18时需要的图像处理,作为观察图像85。因此,显示器上持续显示拍摄观察对象而得的普通光图像。在本实施方式中,以6帧中1帧的比例获取特殊光图像,但特殊光图像不显示于显示器18上,代替显示获取到的1帧特殊光图像,持续显示获取特殊光图像的1帧前的1帧普通光图像等。另外,可以根据使用者的设定将观察图像85切换为特殊光图像等。在该情况下,以6帧中1帧的比例获取普通光图像,并且普通光图像不显示于显示器18上。
显示控制部57进行将基于多个分析结果的分析结果显示和基于多种类型的分析用图像中的至少一种类型的分析用图像的观察图像85显示于显示器18上的控制。具体而言,显示控制部57进行如下控制:在观察图像85上对准多个分析结果显示的位置之后进行重叠来形成显示图像,并将显示图像显示于显示器18上。多个分析结果显示以能够区分识别各分析结果显示的方式重叠在观察图像85上。在本实施方式中,将显示第1分析结果的图形82和显示第2分析结果的图形84分别由互不相同的颜色显示。如图15所示,显示控制部57进行将显示第1分析结果的图形82和显示第2分析结果的图形84通过不同颜色重叠在观察图像85上的控制。
如上所述,根据作为图像分析处理装置的处理器装置16或内窥镜***10,通过按内窥镜图像的每种类型并行地进行图像分析,例如不仅能够快速获得基于选择显示于显示器上的一种类型的内窥镜图像的图像分析结果,而且还能够快速获得基于其他类型的内窥镜图像的图像分析结果。并且,在能够良好地获得的分析结果根据内窥镜图像的类型而不同的情况下,即使为在一个内窥镜图像中未检测到的分析结果,有时也会在另一个内窥镜图像中良好地检测到,从而能够防止看漏病变等应关注的区域。
在本实施方式中,将普通光图像和特殊光图像作为分析用图像,因此普通光图像具有足够的亮度,通过基于第1图像用分析部71的图像分析可在远景下良好地检测到病变,特殊光图像则亮度不足,通过基于第2图像用分析部72的图像分析无法在远景下检测到该病变,即使在该情况下,也会以图形82的形式重叠在观察图像85上显示于显示器18上。尤其,在将观察图像85设为特殊光图像而主要进行近景的观察的情况下,较暗地显示于显示器18上的远景下的病变等以图形82的形式显示,因此即使将特殊光图像持续显示于显示器18上,也能够防止针对难以通过肉眼观察进行判定且较暗地显示的区域中的病变等关注区域看漏病变等。
另外,分析结果优选包括与分析结果相关的准确度。与分析结果相关的准确度为分析结果的准确程度或不包括误差的程度。在以特定状态的有无为分析结果的情况下,除作为分析结果检测特定状态的区域的信息以外,在图像分析中检测区域的信息时,还用准确度表示包括多少误差或噪声等。具体而言,与分析结果相关的准确度由数值表示。例如,在将特定病变设为癌症的情况下,根据分析用图像的类型,有可能会存在能够良好地进行癌症的检测的分析用图像的类型和无法良好地进行癌症的检测的分析用图像的类型,因此与关于癌症的检测的分析结果相关的准确度不同。并且,即使为相同类型的分析用图像,有时也会根据分析用图像的状况(例如,根据产生模糊等图像的状态),即使作为分析结果检测到癌症,与该分析结果相关的准确度也会不同。因此,优选根据各图像分析的状况用数值表示分析结果的准确度。
在图像分析处理部63中,也可以通过设定成通过对所选择的分析用图像进行的图像分析还将与分析结果相关的准确度显示为分析结果,与作为分析结果的病变的有无及存在病变时的区域一并用数值和/或字符显示与分析结果本身相关的准确度。在用数值表示准确度的情况下,优选用百分比等以准确度随着数值增加而增加的形式表示。例如,在图像分析中使用基于机器学习的已学习模型的情况下,作为分析结果,能够以数值的形式输出与分析结果相关的准确度,因此优选。
如图16所示,在分析结果包括与分析结果相关的准确度的情况下,在本实施方式中,在显示第2分析结果时,第2分析结果显示83包括表示作为分析结果的病变区域的图形84和表示与分析结果相关的准确度的准确度显示86。
通过分析结果包括与分析结果相关的准确度,能够一目了然地掌握分析结果的细节。例如,在根据分析结果用图形显示病变区域时,还显示与分析结果相关的准确度,因此使用者能够详细掌握诊断支援信息。
并且,具备通过比较多个分析结果而将分析结果的准确度最高的分析结果选为关注分析结果的关注分析结果选择部,在显示图像生成部65中,优选创建包括关注分析结果的分析结果显示。如图17所示,在该情况下,图像处理部56具备关注分析结果选择部91。
关注分析结果选择部91比较多个分析结果。在进行比较的情况下,当多个分析结果包括观察对象中的同一区域时,比较这些分析结果。并且,在多个分析结果中,将分析结果所包括的分析结果的准确度最高的分析结果选为关注分析结果。另外,为了判定多个分析结果在观察对象中包括同一区域,可以在对成为多个分析结果的基础的多个分析用图像进行区域辨别处理之后,由关注分析结果选择部91比较多个分析结果。
如图18所示,在本实施方式中,在第1分析结果针对与表示第2分析结果的图形84相同的区域也检测到其为病变且第1分析结果显示81包括图形87和准确度显示88的情况下,关注分析结果选择部91比较图形84所表示的第2分析结果的准确度80%(参考图15)和图形87所表示的第1分析结果的准确度60%。然后,将作为分析结果的准确度高的分析结果的第2分析结果选为关注分析结果。
分析结果显示生成部79(参考图11)以包括关注分析结果的方式创建分析结果显示。如图19所示,在本实施方式中,在关注分析结果选择部91将第2分析结果选为关注分析结果的情况下,关于观察对象中的图形84及图形87所表示的区域的病变,不表示基于第1分析结果的图形87及准确度显示88,而生成基于第2分析结果的图形84及由准确度显示86表示的分析结果显示。显示控制部57将该分析结果显示重叠在观察图像85上显示于显示器18上。
通过关注分析结果选择部91,能够在多个分析结果中以更高的准确度显示分析结果。因此,能够提高图像分析的精度或可靠性。
另外,分析结果可以包括观察对象中的区域处于特定状态的概率。处于特定状态的概率为表示观察状态处于预先设定的特定状态的几率的数值。具体而言,例如,在将特定病变设为癌症的情况下,在观察对象中,越确定是癌症,就将越高的数值显示为概率,有癌症的可能性但越不确定是癌症,就将越低的数值显示为概率。尤其,在使用基于机器学习的已学习模型的图像分析中,作为分析结果,能够输出图像中处于预先设定的特定状态的区域及其概率。因此,在图像分析处理部63中,通过将图像分析部对所选择的分析用图像进行的图像分析方法设定为例如检测癌症的区域及其概率来显示癌症的区域及其概率。
如图20所示,在分析结果包括观察对象中的区域处于特定状态的概率的情况下,在本实施方式中,在显示第1分析结果时,第1分析结果显示81包括表示作为分析结果的病变区域的图形82和观察对象中的区域处于特定状态的概率显示89。概率显示89例如为“癌症怀疑率50%”等。
通过分析结果包括观察对象中的区域处于特定状态的概率,能够一目了然地详细掌握分析结果。例如,在根据分析结果用图形显示病变区域时,还显示区域处于特定状态的概率,因此使用者能够容易且详细掌握诊断支援信息,从而能够更良好地防止看漏病变等。
另外,关于分析结果包括观察对象中的区域处于特定状态的概率的情况,也可以与分析结果包括与分析结果相关的准确度的情况相同。例如,在多个分析结果中针对观察对象的同一区域获得不同概率的情况下,设为包括这些概率中最高的概率的分析结果的分析结果显示。如图21所示,在本实施方式中,针对观察对象中的图形84或图形87(参考图18)所表示的区域的病变,关于分析结果所包括的观察对象中的区域处于特定状态的概率,不表示基于第1分析结果的图形87及概率显示,并将用图形84及概率显示90表示概率最高的第2分析结果的分析结果显示重叠在观察图像85上显示于显示器18上。并且,关于第1分析结果显示81中的图形82的区域,第2分析结果不包括其为病变的分析结果,因此图形82的区域照旧表示第1分析结果显示81的图形82及概率显示89。如此,认为多个分析结果中的至少一个是病变的观察对象的区域优选包括在分析结果显示中显示于显示图像上。
通过在从多个分析结果中选择关注分析结果之后,使分析结果包括观察对象中的区域处于特定状态的概率,能够进一步提高图像分析的精度或可靠性,从而能够更良好地防止看漏病变等关注区域。
另外,分析结果获取部64优选将分析结果与得到分析结果的分析用图像的类型建立对应关系来获取,显示控制部57优选进行在显示器18上显示表示分析结果与得到分析结果的分析用图像的类型之间的关联建立的凡例显示的控制。凡例显示为以与分析结果显示的显示相同的颜色等形式表示分析用图像的类型以能够一目了然地掌握分析结果显示的显示为哪种分析用图像的类型的分析结果的显示。通过凡例显示,能够快速且容易掌握分析结果显示根据哪种类型的分析用图像而得,因此例如还能够掌握分析结果显示的可靠性等。
如图22所示,在本实施方式中,表示第1分析结果的图形82以使用普通光而得的内窥镜图像为分析用图像,表示第2分析结果的图形84以使用特殊光而得的内窥镜图像为分析用图像。因此,在观察图像85的左下方显示用与图形82相同的颜色表示通过普通光得到的情况的“普通光”和用与图形84相同的颜色表示通过特殊光得到的情况的“特殊光”作为凡例显示95。
通过将分析结果根据哪种分析用图像而得显示为凡例,在显示表示分析结果的图形等时,能够一目了然地容易掌握分析结果是根据良好地进行哪种病变等的检测的图像而得的。并且,当显示图像为普通光图像时,即使在观察对象中不存在病变等而凡例显示95不显示任何表示分析结果的图形等的情况下,也能够容易掌握当前获取到的是哪种类型的分析用图像,即,正在进行哪种IEE。例如,能够掌握在照明光的一个周期(图6、1CY)内使用了基于哪种类型的特殊光的照明光。因此,凡例显示95作为在内窥镜检查中表示当前时点正在进行的IEE是哪种的显示也是有用的。
并且,也可以设为将基于显示于显示器18上的观察图像85以外的类型的分析用图像的分析结果与基于成为观察图像85的基础的分析用图像的分析结果进行了区分的分析结果显示。如图23所示,也可以用深色表示图形82及概率显示89以使其显眼,用浅色或点线等显示图形84及准确度显示86以使其不显眼,该图形82及概率显示89为基于成为观察图像85的基础的普通光图像的分析结果显示,该图形84及准确度显示86为基于如观察图像85那样不显示的特殊光图像的分析结果显示。在图23中,斜线的间隔宽的显示表示浅色或点线。
并且,作为基于如观察图像85那样不显示的特殊光图像的分析结果显示的图形84及准确度显示86也可以通过重叠在观察图像85上以外的方法表示。例如,如图24所示,基于特殊光图像的分析结果可以与凡例显示95一并用语句表示。并且,也可以在观察图像85的外部以子画面的形式表示第2分析结果显示83。
另外,多种类型的分析用图像并不限于两种类型,也可以为三种类型以上。例如,分析用图像以利用普通光照射而得的内窥镜图像为第一种类型的分析用图像,以基于图5所示的分光光谱的特殊光为第1特殊光,并以利用第1特殊光照射而得的内窥镜图像为第二种类型的分析用图像,以利用与第1特殊光不同的第2特殊光照射而得的内窥镜图像为第三种类型的分析用图像。
光源控制部22控制各LED20a~20d发射紫色光VL、蓝色光BL、绿色光GL及红色光RL之间的光强度比为Vs2∶Bs2∶Gs2∶Rs2的特殊光作为第2特殊光。光强度比Vs2∶Bs2∶Gs2∶Rs2对应于第2特殊光的光量条件。第2特殊光优选强调表层血管。因此,如图25所示,第2特殊光将光强度比设为1∶0∶0∶0,仅发射作为短波长的窄带光的紫色光VL。
在本实施方式中,例如,如图26所示,光源控制部22连续发射5帧(5FL)普通光NL,接着发射1帧(1FL)第1特殊光1SL,再次连续发射5帧(5FL)普通光CL,接着发射1帧(1FL)第2特殊光2SL。以按该顺序构成的照明图案为一个周期(1CY),重复该周期。
与上述实施方式相同地,基于第2特殊光的分析用图像由第3图像用分析部73(参考图10)进行图像分析,并将第3分析结果发送至分析结果获取部64。分析结果获取部64获取基于普通光的分析用图像的第1分析结果、基于第1特殊光的分析用图像的第2分析结果及基于第2特殊光的分析用图像的第3分析结果。如图27所示,第3分析结果由图形96显示。
如图27所示,根据情况,作为第3分析结果所包括的检测结果的图形96会与作为第2分析结果所包括的检测结果的图形84重叠。基于第1特殊光的内窥镜图像良好地表示表层血管及息肉等结构,基于第2特殊光的内窥镜图像强调表示表层血管,因此第2分析结果所包括的图形84的区域与第3分析结果所包括的图形96的区域重叠的区域为表层血管等结构发生异常的可能性高的区域,作为分析结果,包括提示使用者要尤其注意的警告显示98。
并且,在特定的多个分析用图像的分析结果包括同一区域的情况下,图像分析处理部63可以使针对该区域的分析结果包括观察对象处于特定状态的情况。在如本实施方式那样第2分析结果和第3分析结果包括同一区域的情况下,也可以设为与仅第2分析结果或仅第3分析结果包括特定区域的情况不同的分析结果。作为不同的分析结果,可举出在第2分析结果及第3分析结果分别包括特定病变的概率的情况下,既包括第2分析结果也包括第3分析结果的区域显示特定病变的深度方向等。例如,通过使用机器学习的图像分析,将即使癌症等特定病变较轻也能够检测或在深度方向上等也精确地表示特定病变区域等组合在一起,由此能够包括更精确的分析结果。
接着,参考图28所示的流程图对与由作为图像分析处理装置的处理器装置16或内窥镜***10进行的图像分析相关的处理的一连串的流程进行说明。若开始观察,则根据规定的照明光图案(参考图6)按预先设定的顺序发射照明光。首先,照明光为普通光,从而获取普通光图像(步骤ST110)。接着,照明光为特殊光,从而获取特殊光图像(步骤ST120)。并行地实施普通光图像分析(步骤ST130)和特殊光图像分析(步骤ST140)。基于普通光图像分析的第1分析结果和基于特殊光图像的第2分析结果由分析结果获取部获取(步骤ST160)。在多个分析结果包括针对观察对象的同一区域的分析结果的情况下,关注分析结果选择部选择关注分析结果(步骤ST170)。根据所选择的关注分析结果来创建分析结果显示,并且如预先设定那样,根据多个分析用图像中的一种类型来生成显示图像(步骤ST170)。分析结果显示和显示图像由显示控制部57显示于显示器18上(步骤ST180)。
在上述实施方式及变形例等中,处理器装置16发挥图像分析处理装置的功能,但也可以与处理器装置16另行地设置包括图像处理部56的图像分析处理装置。此外,如图29所示,图像处理部56例如可以设置于从内窥镜***10直接获取或从PACS(PictureArchiving and Communication Systems(图像存储与通信***))910间接获取由内窥镜12拍摄的RAW图像的诊断支援装置911。并且,如图30所示,可以在经由网络926与包括内窥镜***10的第1检查装置921、第2检查装置922、……、第K检查装置923等各种检查装置连接的医务支援装置930设置图像处理部56。
上述各实施方式及变形例可以任意组合其一部分或全部来实施。并且,在上述各实施方式及变形例中,内窥镜12使用了具有挠性***部12a的所谓的软性内窥镜,但本发明也适合于使用供观察对象吞咽使用的胶囊型内窥镜、用于外科手术等的硬性内窥镜(腹腔镜)的情况。
上述实施方式及变形例等包括一种图像分析处理装置的工作方法,其中,该图像分析处理装置具备处理器,根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,该工作方法包括:分析用图像获取步骤,获取用于图像分析的多种类型的分析用图像;图像分析处理步骤,按分析用图像的每种类型对分析用图像并行地进行图像分析;分析结果获取步骤,获取多个基于图像分析的分析结果;及显示控制步骤,进行将包括基于多个分析结果的分析结果显示和多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器上的控制。
并且,上述实施方式及变形例等包括一种图像分析处理装置用程序,其安装于图像分析处理装置,该图像分析处理装置具备处理器,根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,该图像分析处理装置用程序用于使计算机实现如下功能:分析用图像获取功能,获取用于图像分析的多种类型的分析用图像;图像分析处理功能,按分析用图像的每种类型对分析用图像并行地进行图像分析;分析结果获取功能,获取多个基于图像分析的分析结果;及显示控制功能,进行将包括基于多个分析结果的分析结果显示和多种类型的分析用图像中的至少一种类型的分析用图像的显示图像显示于显示器上的控制。
在上述实施方式中,作为图像分析处理装置的处理器装置16所包括的控制部51、图像获取部52、DSP53、降噪部54、转换部55、图像处理部56及显示控制部57之类的执行各种处理的处理部(processing unit)的硬件结构为如下所示的各种处理器(processor)。各种处理器包括作为执行软件(程序)来发挥各种处理部的功能的通用处理器的CPU(CentralProcessing Unit(中央处理器))、FPGA(Field Programmable Gate Array(现场可编程门阵列))等作为能够在制造后变更电路结构的处理器的可编程逻辑器件(Progra mmableLogic Device:PLD)、作为具有为了执行各种处理而专门设计的电路结构的处理器的专用电路等。
一个处理部可以由这些各种处理器中的一个构成,也可以由相同种类或不同种类的两个以上处理器的组合(例如,多个FPGA或CPU和FPGA的组合)构成。并且,也可以由一个处理器构成多个处理部。作为由一个处理器构成多个处理部的例子,首先,如以客户端或服务器等计算机为代表有如下方式:由一个以上CPU和软件的组合构成一个处理器,并由该处理器发挥多个处理部的功能。其次,如以片上***(System On Chip:SoC)等为代表有如下方式:使用由一个IC(Integrated Circuit(集成电路))芯片实现包括多个处理部的***整体的功能的处理器。
如此,各种处理部使用一个以上的上述各种处理器来构成为硬件结构。
进而,更具体而言,这些各种处理器的硬件结构为组合半导体元件等电路元件而成的形式的电路(circuitry)。
另外,除获取内窥镜图像等的内窥镜***、处理器装置、其他相关装置等以外,本发明还可以用于获取内窥镜图像以外的医疗图像(包括动画)的***或装置等。例如,本发明可以适用于超声波检查装置、X射线图像摄影装置(包括CT(Computed Tomography(计算机断层扫描))检查装置及***X射线摄影装置等)、MRI(magnetic resonance imaging(磁共振成像))装置等。
符号说明
10-内窥镜***,12-内窥镜,12a-***部,12b-操作部,12c-弯曲部,12d-前端部,12e-角度旋钮,12f-处置器具***口,12g-观测器按钮,13-变焦操作部,14-光源装置,16-处理器装置,18-显示器,19-键盘,20-光源部,20a-V-LED,20b-B-LED,20c-G-LED,20d-R-LED,22-光源控制部,30a-照明光学***,30b-摄影光学***,41-光导,42-照明透镜,43-物镜,44-变焦透镜,45-图像传感器,51-控制部,52-图像获取部,53-DSP,54-降噪部,55-转换部,56-图像处理部,57-显示控制部,61-强调处理部,62-分析用图像获取部,63-图像分析处理部,64-分析结果获取部,65-显示图像生成部,66-色彩强调部,67-结构强调部,71-第1图像用分析部,72-第2图像用分析部,73-第3图像用分析部,74-第n图像用分析部,75-第1对应信息获取部,76-第2对应信息获取部,77-第3对应信息获取部,78-第n对应信息获取部,79-分析结果显示生成部,80-观察图像生成部,81-第1分析结果显示,82、84、87、96-图形,83-第2分析结果显示,85-观察图像,86、88-准确度显示,89、97-概率显示,91-关注分析结果选择部,95-凡例显示,98-警告显示,910-PACS,911-诊断支援装置,921-第1检查装置,922-第2检查装置,923-第K检查装置,926-网络,930-医务支援装置,NL-普通光,SL-特殊光,1SL-第1特殊光,2SL-第2特殊光,ST110~ST180-步骤。
Claims (19)
1.一种图像分析处理装置,其具备处理器,根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,
所述处理器执行如下处理:
获取用于图像分析的多种类型的分析用图像;
按所述分析用图像的每种类型并行地进行所述分析用图像的所述图像分析;
获取多个基于所述图像分析的分析结果;及
进行将基于多个所述分析结果的分析结果显示和基于多种类型的所述分析用图像中的至少一种类型的所述分析用图像的显示图像显示于显示器上的控制。
2.根据权利要求1所述的图像分析处理装置,其中,
所述处理器按所述分析用图像的每种类型独立地进行所述图像分析。
3.根据权利要求1或2所述的图像分析处理装置,其中,
所述处理器执行如下处理:
获取将所述观察对象的特定状态与通过拍摄包括所述特定状态的所述观察对象而得的所述分析用图像预先建立了对应关系的对应信息;及
根据所述分析用图像和所述对应信息来获得所述分析结果。
4.根据权利要求3所述的图像分析处理装置,其中,
所述处理器执行如下处理:
按所述分析用图像的每种类型获取所述对应信息;及
根据所述分析用图像和与所述分析用图像的类型对应地获取的所述对应信息来获得所述分析结果。
5.根据权利要求3或4所述的图像分析处理装置,其中,
所述特定状态为所述观察对象的结构异常的状态、所述观察对象为特定病变的状态及所述观察对象的生物体信息的值异常的状态中的至少一种状态。
6.根据权利要求3至5中任一项所述的图像分析处理装置,其中,
所述分析结果包括所述观察对象的所述特定状态的区域的信息。
7.根据权利要求1至6中任一项所述的图像分析处理装置,其中,
所述分析结果包括与所述分析结果相关的准确度。
8.根据权利要求7所述的图像分析处理装置,其中,
所述处理器执行如下处理:
通过比较多个所述分析结果而将与所述分析结果相关的准确度最高的所述分析结果选为关注分析结果;及
创建包括所述关注分析结果的所述分析结果显示。
9.根据权利要求1至8中任一项所述的图像分析处理装置,其中,
所述处理器执行如下处理:
通过对所述图像进行强调处理来生成第1分析用图像;及
获取所述第1分析用图像来作为所述分析用图像的一种。
10.根据权利要求9所述的图像分析处理装置,其中,
所述处理器对所述图像进行色彩强调处理或结构强调处理。
11.根据权利要求1至10中任一项所述的图像分析处理装置,其中,
所述处理器执行如下处理:
将所述分析结果与得到所述分析结果的所述分析用图像的类型建立对应关系来获取;及
进行在所述显示器上显示表示所述分析结果与得到所述分析结果的所述分析用图像的类型之间的关联建立的凡例显示的控制。
12.一种内窥镜***,其具备:
权利要求1至11中任一项所述的图像分析处理装置;及
光源部,发射对所述观察对象照射的照明光。
13.根据权利要求12所述的内窥镜***,其中,
所述处理器获取通过拍摄利用由所述光源部发射的分光光谱互不相同的多个照明光分别照射的所述观察对象而得的所述图像来作为互不相同的类型的所述分析用图像。
14.根据权利要求13所述的内窥镜***,其中,
所述处理器获取通过拍摄利用由所述光源部发射的白色照明光照射的所述观察对象而得的所述图像来作为所述分析用图像的一种。
15.根据权利要求13所述的内窥镜***,其中,
所述处理器获取通过拍摄利用由所述光源部发射的包括预先设定的波段的窄带光的照明光照射的所述观察对象而得的所述图像来作为所述分析用图像的一种。
16.根据权利要求12至15中任一项所述的内窥镜***,其中,
所述光源部按预先设定的顺序反复发射分光光谱互不相同的多个照明光中的每一个。
17.根据权利要求12至16中任一项所述的内窥镜***,其中,
所述处理器执行如下处理:
将所述分析结果与得到所述分析结果的所述分析用图像的类型建立对应关系来获取;及
进行在所述显示器上显示表示所述分析结果与得到所述分析结果的所述分析用图像的类型之间的关联建立的凡例显示的控制。
18.一种图像分析处理装置的工作方法,其中,
所述图像分析处理装置根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,所述工作方法包括:
分析用图像获取步骤,获取用于图像分析的多种类型的分析用图像;
图像分析处理步骤,按所述分析用图像的每种类型对所述分析用图像并行地进行所述图像分析;
分析结果获取步骤,获取多个基于所述图像分析的分析结果;及
显示控制步骤,进行将包括基于多个所述分析结果的分析结果显示和多种类型的所述分析用图像中的至少一种类型的所述分析用图像的显示图像显示于显示器上的控制。
19.一种图像分析处理装置用程序,其安装于图像分析处理装置,
所述图像分析处理装置根据通过使用内窥镜拍摄观察对象而得的图像来进行图像分析,所述图像分析处理装置用程序用于使计算机实现如下功能:
分析用图像获取功能,获取用于图像分析的多种类型的分析用图像;
图像分析处理功能,按所述分析用图像的每种类型对所述分析用图像并行地进行所述图像分析;
分析结果获取功能,获取多个基于所述图像分析的分析结果;及
显示控制功能,进行将包括基于多个所述分析结果的分析结果显示和多种类型的所述分析用图像中的至少一种类型的所述分析用图像的显示图像显示于显示器上的控制。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020-120459 | 2020-07-14 | ||
JP2020120459 | 2020-07-14 | ||
PCT/JP2021/022684 WO2022014235A1 (ja) | 2020-07-14 | 2021-06-15 | 画像解析処理装置、内視鏡システム、画像解析処理装置の作動方法、及び画像解析処理装置用プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116133572A true CN116133572A (zh) | 2023-05-16 |
Family
ID=79555482
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180061060.2A Pending CN116133572A (zh) | 2020-07-14 | 2021-06-15 | 图像分析处理装置、内窥镜***、图像分析处理装置的工作方法及图像分析处理装置用程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230141302A1 (zh) |
EP (1) | EP4183311A4 (zh) |
JP (1) | JP7508559B2 (zh) |
CN (1) | CN116133572A (zh) |
WO (1) | WO2022014235A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023244659A1 (en) * | 2022-06-16 | 2023-12-21 | Intuitive Surgical Operations, Inc. | Non-visible-spectrum light image-based training and use of a machine learning model |
JP2024095408A (ja) * | 2022-12-28 | 2024-07-10 | 株式会社アドバンテスト | 蛍光検出装置 |
WO2024150335A1 (ja) * | 2023-01-11 | 2024-07-18 | 日本電気株式会社 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110475503A (zh) * | 2017-03-30 | 2019-11-19 | 富士胶片株式会社 | 医疗用图像处理装置及内窥镜***以及医疗用图像处理装置的工作方法 |
CN111655116A (zh) * | 2017-10-30 | 2020-09-11 | 公益财团法人癌研究会 | 图像诊断辅助装置、资料收集方法、图像诊断辅助方法及图像诊断辅助程序 |
JP6925501B2 (ja) * | 2018-03-02 | 2021-08-25 | 富士フイルム株式会社 | 画像処理装置及び内視鏡システム |
EP3811845A4 (en) * | 2018-06-22 | 2022-03-16 | AI Medical Service Inc. | METHOD OF ASSISTING A DISEASE DIAGNOSIS BASED ON AN ENDOSCOPE IMAGE OF THE DIGESTIVE ORGAN, DIAGNOSIS SUPPORT SYSTEM, DIAGNOSIS SUPPORT PROGRAM AND COMPUTER READABLE RECORDING MEDIUM WITH THE DIAGNOSIS SUPPORT PROGRAM STORED THEREON |
JP2020065685A (ja) | 2018-10-24 | 2020-04-30 | 富士フイルム株式会社 | 内視鏡システム |
-
2021
- 2021-06-15 CN CN202180061060.2A patent/CN116133572A/zh active Pending
- 2021-06-15 WO PCT/JP2021/022684 patent/WO2022014235A1/ja unknown
- 2021-06-15 JP JP2022536182A patent/JP7508559B2/ja active Active
- 2021-06-15 EP EP21842709.4A patent/EP4183311A4/en active Pending
-
2023
- 2023-01-11 US US18/153,136 patent/US20230141302A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4183311A4 (en) | 2023-12-06 |
EP4183311A1 (en) | 2023-05-24 |
JP7508559B2 (ja) | 2024-07-01 |
WO2022014235A1 (ja) | 2022-01-20 |
US20230141302A1 (en) | 2023-05-11 |
JPWO2022014235A1 (zh) | 2022-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110325100B (zh) | 内窥镜***及其操作方法 | |
JP7508559B2 (ja) | 画像解析処理装置、内視鏡システム、画像解析処理装置の作動方法、及び画像解析処理装置用プログラム | |
US20210153730A1 (en) | Endoscope system | |
JP7335399B2 (ja) | 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法 | |
JP2023014380A (ja) | 内視鏡システム | |
CN117481579A (zh) | 内窥镜***及其工作方法 | |
JP2020065685A (ja) | 内視鏡システム | |
EP4035585A1 (en) | Image processing device, endoscopic system, and operation method of image processing | |
JP2014212925A (ja) | 画像処理装置及び内視鏡システムの作動方法 | |
US20230237659A1 (en) | Image processing apparatus, endoscope system, operation method of image processing apparatus, and non-transitory computer readable medium | |
CN116134363A (zh) | 内窥镜***及其工作方法 | |
US12020350B2 (en) | Image processing apparatus | |
WO2021199910A1 (ja) | 医用画像処理システム、医用画像処理システムの作動方法 | |
JP7214886B2 (ja) | 画像処理装置及びその作動方法 | |
WO2021006121A1 (ja) | 画像処理装置、内視鏡システム、及び画像処理装置の作動方法 | |
WO2022009478A1 (ja) | 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム | |
WO2022210508A1 (ja) | プロセッサ装置、医療画像処理装置、及び医療画像処理システム、並びに内視鏡システム | |
US11998165B2 (en) | Image processing device and method of operating same | |
WO2022059233A1 (ja) | 画像処理装置、内視鏡システム、画像処理装置の作動方法、及び画像処理装置用プログラム | |
US12051201B2 (en) | Image processing device capable of accurately determining ulcerative colitis by using a medical image and method of operating the same | |
CN114627045A (zh) | 医用图像处理***、医用图像处理***的工作方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |