CN115209782A - 内窥镜***和基于内窥镜***的管腔扫描方法 - Google Patents
内窥镜***和基于内窥镜***的管腔扫描方法 Download PDFInfo
- Publication number
- CN115209782A CN115209782A CN202080097620.5A CN202080097620A CN115209782A CN 115209782 A CN115209782 A CN 115209782A CN 202080097620 A CN202080097620 A CN 202080097620A CN 115209782 A CN115209782 A CN 115209782A
- Authority
- CN
- China
- Prior art keywords
- lumen
- unit
- image
- analysis
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00147—Holding or positioning arrangements
- A61B1/0016—Holding or positioning arrangements using motor drive units
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00064—Constructional details of the endoscope body
- A61B1/00071—Insertion part of the endoscope body
- A61B1/0008—Insertion part of the endoscope body characterised by distal tip features
- A61B1/00096—Optical elements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/05—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00163—Optical arrangements
- A61B1/00172—Optical arrangements with means for scanning
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/012—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor characterised by internal passages or accessories therefor
- A61B1/015—Control of fluid supply or evacuation
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biophysics (AREA)
- Physics & Mathematics (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Optics & Photonics (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
内窥镜***(1)包含:***部(2b);被摄体光取得部(20),其设置于***部(2b),取得来自被摄体的光即被摄体光;摄像部,其基于被摄体光进行拍摄,由此取得视野内的摄像图像;扭转机构(18),其使被摄体光取得部(20)旋转;进退机构(17),其使***部(2b)在***方向或拔出方向上移动;以及控制部(33),其对扭转机构(18)和进退机构(17)进行控制,以通过摄像部的视野进行管腔的内壁的扫描。
Description
技术领域
本发明涉及内窥镜***和基于内窥镜***的管腔扫描方法等。
背景技术
以往,内窥镜广泛利用于医疗领域和工业领域。例如,在医疗领域中,医生将内窥镜的***部***到被检体内,观看显示装置中显示的摄像图像来观察被检体内,由此,能够进行内窥镜检查等。
例如,在基于大肠内窥镜的大肠检查中医师手动进行操作的情况下,有时在大肠管腔的扫描中产生不均。其结果为,可能发生病变的漏看。在专利文献1中公开了如下方法:在***医疗设备时,对致动器进行控制,由此自动地对前端部的运动进行导航。
此外,以掌握大肠内窥镜的未观察部位等为目的,研究了根据由内窥镜拍摄到的动态图像来构建肠道的三维模型的方法。例如在非专利文献1中公开了使用圆筒模型生成大肠表面的映射图的方法。
现有技术文献
专利文献
专利文献1:日本特开2017-164555号公报
非专利文献
非专利文献1:Mohammad Ali Armin1 et al,"Automated visibility map ofthe internal colon surface from colonoscopy video",International Journal ofComputer Assisted Radiology and Surgery,2016,Volume 11,Issue number 9,p.1599-1610
发明内容
发明要解决的课题
专利文献1是使医疗设备朝向标的区域的移动自动化的方法,没有公开用于对管腔进行扫描的控制。即,专利文献1无法抑制观察管腔构造时的漏看。此外,非专利文献1没有公开对***部2b的移动进行控制的方法。
根据本发明的若干个方式,能够提供可抑制管腔构造中的漏看的内窥镜***和基于内窥镜***的管腔扫描方法等。
用于解决课题的手段
本发明的一个方式涉及一种内窥镜***,其包含:***部,其被***到管腔中;被摄体光取得部,其设置于所述***部,取得来自被摄体的光即被摄体光;摄像部,其基于所述被摄体光进行拍摄,由此取得视野内的摄像图像;扭转机构,其使所述被摄体光取得部旋转;进退机构,其使所述***部在***方向或拔出方向上移动;以及控制部,其对所述扭转机构和所述进退机构进行控制,由此对所述摄像部的所述视野的运动进行控制,所述控制部对所述扭转机构和所述进退机构进行控制,以通过所述视野进行所述管腔的内壁的扫描。
本发明的其他方式涉及一种基于内窥镜***的管腔扫描方法,其包含以下内容:将内窥镜***的***部***到管腔中,所述内窥镜***具有所述***部、设置于所述***部且取得来自被摄体的返回光即被摄体光的被摄体光取得部、以及基于所述被摄体光进行拍摄而取得视野内的摄像图像的摄像部;以及进行使所述被摄体光取得部旋转的扭转动作和使所述***部在***方向或拔出方向上移动的进退动作,以通过所述视野进行所述管腔的内壁的扫描。
附图说明
图1是内窥镜***的结构例。
图2是内窥镜的结构例。
图3是内窥镜***的各部的结构例。
图4是***部的结构例。
图5是说明通过扭转机构使摄像部的视野旋转的图。
图6是***部的其他结构例。
图7是***部的其他结构例。
图8的(A)~图8的(D)是***部的其他结构例。
图9的(A)、图9的(B)是说明基于摄像部的视野的扫描的图。
图10是说明基于摄像部的视野的扫描的图。
图11是说明基于摄像部的视野的扫描的图。
图12是图像处理装置的其他结构例。
图13是说明可否分析判定处理的流程图。
图14是存在由于褶皱等而引起的隐藏部分的情况下的摄像图像的例子。
图15是内窥镜***的其他结构例。
图16是管腔构造检测装置的结构例。
图17是说明管腔构造信息的取得处理的流程图。
图18是管腔构造信息的例子。
图19是说明使用光束法平差的管腔构造信息的取得处理的流程图。
图20是说明多个特征点与前端部的位置姿态之间的关系的示意图。
图21是图像处理装置的其他结构例。
图22是可否分析信息和管腔构造信息的关联的例子。
图23的(A)、图23的(B)是前端部与不可分析部分的位置关系的例子。
具体实施方式
下面,对本实施方式进行说明。另外,以下说明的本实施方式不对权利要求书所记载的内容进行不当限定。此外,本实施方式中说明的全部结构不一定是本发明的必须结构要件。
1.***结构例
在使用内窥镜***的检查中,抑制关注区域的漏看是重要的。另外,关注区域是指对用户来说观察的优先顺位相对高于其他区域的区域。在用户是进行诊断、治疗的医生的情况下,关注区域例如对应于如上述那样拍摄到病变部的区域。但是,如果医生想要观察的对象是泡、残渣,则关注区域也可以是拍摄到该泡部分、残渣部分的区域。即,用户应该关注的对象根据观察目的而不同,但是,在进行该观察时,对用户来说观察的优先顺位相对高于其他区域的区域成为关注区域。
下面,对内窥镜***是观察活体内的***、观察对象是大肠的例子进行说明。即,在本实施方式中在后面说明的管腔在狭义上是肠道。但是,本实施方式的方法也可以将肠道以外的管腔作为对象。例如,也可以将大肠以外的消化道作为对象,也可以将活体的其他部位中的管腔构造作为对象。此外,内窥镜***也可以是用于观察管腔状的部件的工业用内窥镜。此外,下面将对关注区域是病变的例子进行说明,但是,如上所述,关注区域能够扩展到病变以外的区域。
为了抑制病变的漏看,没有遗漏地对肠道等管腔构造的表面整体进行拍摄是重要的。但是,以往,很难掌握内窥镜在管腔构造的哪个部分如何运动、以及由此在什么样的摄像状态下对管腔构造的什么样的范围进行了拍摄这样的准确的状况。此外,在医师手动操作内窥镜的情况下,医师需要并行地执行操作和基于摄像图像的诊断等。因此,例如在集中于诊断的情况下,无法执行正确的操作,其结果是,在大肠管腔的扫描中产生不均。此外,在集中于操作的情况下,无法充分阅览摄像图像,尽管拍摄到了病变,也可能漏看该病变。
由此,在本实施方式的方法中,在通过控制内窥镜***1的扭转机构18和进退机构17而对摄像部的视野的运动进行控制的结构中,执行通过该视野进行管腔的内壁的扫描这样的控制。
这里的摄像部的视野是指由该摄像部的光轴方向和视场角决定的给定空间。例如,摄像部的视野是以与摄像元件15对应的位置为顶点且摄像部的光轴穿过该顶点和底面的中心的棱锥状或圆锥状的空间。通过使摄像部的光轴朝向病变所在的方向或与其接近的方向,能够在视野内捕捉病变。例如,在如后述那样构成为通过被摄体光取得部20取得被摄体光、摄像部接收该被摄体光从而输出摄像图像的情况下,被摄体光取得部20与被摄体之间的相对位置关系发生变化,由此导致视野内捕捉的被摄体发生变化。
此外,本实施方式中的扫描是指通过使上述视野按照规定规则移动而依次对管腔内表面的规定范围进行拍摄的动作。这里的规定范围在理想情况下是管腔内壁整体。
根据本实施方式的方法,进行内窥镜***的控制,以全面地对管腔的内壁进行拍摄。因此,能够减轻医师对内窥镜的操作负担,并且能够抑制由于未对管腔构造的一部分进行拍摄而发生漏看。但是,本实施方式的方法是进行能够抑制漏看发生的可能性的控制的方法,并不保证完全抑制漏看。另外,在本实施方式中,也可以在管腔构造中存在一次也没进入摄像部的视野的区域的情况下,判定为可能漏看。或者,如在第2实施方式中在后面说明的那样,也可以在存在不可分析部分的情况下判定为可能漏看,该不可分析部分是未在能够分析的状态下被拍摄到的部分。
2.第1实施方式
2.1***结构例
图1是本实施方式的内窥镜***1的结构图。内窥镜***1包含:内窥镜2、图像处理装置3、光源装置4以及作为显示装置的监视器6。医生能够使用内窥镜***1对仰卧在床8上的患者Pa进行大肠内的内窥镜检查。但是,内窥镜***1不限于图1的结构,能够进行省略它们的一部分结构要素、追加其他结构要素等各种变形实施。例如如后述那样,内窥镜***1也可以包含管腔构造检测装置5、磁场产生装置7等。
此外,在图1中示出了图像处理装置3设置于内窥镜2的附近的例子,但不限于此。例如,图像处理装置3的一部分或全部功能也可以由能够经由网络进行连接的服务器***等来构建。换言之,图像处理装置3也可以通过云计算来实现。这里的网络可以是内部网等专用网络,也可以是互联网等公共通信网。此外,网络可以是有线、无线。
图2是内窥镜2的立体图。内窥镜2具备:操作部2a、具有挠性的***部2b、以及包含信号线等的通用缆线2c。内窥镜2是将管状的***部2b***到体腔内的管状***装置。在通用缆线2c的前端设置有连接器,内窥镜2通过该连接器以能够拆装的方式与光源装置4和图像处理装置3连接。这里,内窥镜2是能够***大肠内部的内窥镜。并且,虽然没有图示,但在通用缆线2c内贯穿***有光导22,内窥镜2使来自光源装置4的照明光穿过光导22而从***部2b的前端射出。
如图2所示,***部2b从***部2b的前端朝向基端具有前端部11、能够弯曲的弯曲部12和挠性管部13。***部2b被***到作为被摄体的患者Pa的管腔中。前端部11的基端部与弯曲部12的前端连接,弯曲部12的基端部与挠性管部13的前端连接。***部2b的前端部11是内窥镜2的前端部,并且是硬的前端硬质部。
弯曲部12能够根据对设置于操作部2a的弯曲操作部件14进行的操作而向期望的方向弯曲。弯曲操作部件14例如包含左右弯曲操作旋钮14a和上下弯曲操作旋钮14b。当使弯曲部12弯曲,改变前端部11的位置和朝向,在视野内捕捉被检体内的观察部位时,照明光被照射到观察部位。弯曲部12具有沿着***部2b的长度轴方向连结的多个弯曲块。由此,医生一边将***部2b推入大肠内或从大肠内拔出,一边使弯曲部12向各个方向弯曲,由此,能够观察患者Pa的大肠内部。
左右弯曲操作旋钮14a和上下弯曲操作旋钮14b对贯穿***到***部2b内的操作线进行牵引和松弛,以使弯曲部12弯曲。弯曲操作部件14还具有对弯曲后的弯曲部12的位置进行固定的固定旋钮14c。另外,在操作部2a中,除了弯曲操作部件14以外,还设置有释放按钮、送气送水按钮等各种操作按钮。
挠性管部13具有挠性,根据外力而弯曲。挠性管部13是从操作部2a延伸出的管状部件。
此外,在***部2b的前端部11设置有作为摄像装置的摄像元件15。通过摄像元件15对被光源装置4的照明光照明的大肠内的观察部位进行拍摄。即,摄像元件15构成如下的摄像部:设置于***部2b的前端部11,用于对被检体内进行拍摄而取得摄像图像。由摄像元件15得到的摄像信号经由通用缆线2c内的信号线被提供到图像处理装置3。另外,设置有摄像元件15的位置不限于***部2b的前端部11。例如,通过对来自被摄体的光进行引导,也可以在比前端部11更靠基端侧的位置设置摄像元件15。
图像处理装置3是对接收到的摄像信号进行规定的图像处理而生成摄像图像的视频处理器。生成的摄像图像的影像信号从图像处理装置3输出到监视器6,实时的摄像图像显示在监视器6上。进行检查的医生能够将***部2b的前端部11从患者Pa的******,对患者Pa的大肠内进行观察。
光源装置4是能够射出通常光观察模式用的通常光的光源装置。另外,在内窥镜***1除了具有通常光观察模式以外还具有特殊光观察模式的情况下,光源装置4选择性地射出通常光观察模式用的通常光和特殊光观察模式用的特殊光。光源装置4根据设置于图像处理装置3的用于切换观察模式的切换开关的状态来将通常光和特殊光中的任意一方作为照明光射出。
图3是示出包含图像处理装置3的内窥镜***1的各部的结构的示意图。图像处理装置3进行图像处理、***整体的控制。图像处理装置3包含:图像取得部31、图像处理部32、控制部33、存储部34和对焦控制部35。***部2b包含:被摄体光取得部20、摄像元件15、照明透镜21和光导22。具体而言,被摄体光取得部20是包含一个或多个透镜的物镜光学***。例如,被摄体光取得部20包含由致动器20b驱动的对焦透镜20a。
光导22将来自光源装置4的照明光引导至***部2b的前端。照明透镜21对被摄体照射由光导22引导的照明光。被摄体光取得部20取得从被摄体反射的反射光即被摄体光。被摄体光取得部20也可以包含对焦透镜20a,并且能够根据对焦透镜20a的位置对合焦物***置进行变更。致动器20b根据来自对焦控制部35的指示对对焦透镜20a进行驱动。这里,合焦物***置是指在由透镜***、像面、物体构成的***处于合焦状态时的物体的位置。例如,在将像面设为摄像元件的面的情况下,合焦物***置是指在使用该摄像元件经由上述透镜***对被摄体像进行拍摄的情况下摄像图像中焦点理想地对准的被摄体的位置。
作为摄像部的摄像元件15可以是单色传感器,也可以是具有滤色镜的元件。滤色镜可以是广泛公知的拜尔滤镜,也可以是补色滤镜,还可以是其他滤镜。补色滤镜是包含青色、品红和黄色各颜色的滤镜的滤镜。
本实施方式的图像处理装置3由下述的硬件构成。硬件能够包含对数字信号进行处理的电路和对模拟信号进行处理的电路中的至少一方。例如,硬件能够由安装于电路基板的一个或多个电路装置、一个或多个电路元件构成。一个或多个电路装置例如是IC、FPGA(field-programmable gate array:现场可编程门阵列)等。一个或多个电路元件例如是电阻、电容器等。
此外,图像处理装置3也可以通过下述的处理器实现。本实施方式的图像处理装置3包含存储信息的存储器、以及根据存储器中存储的信息进行动作的处理器。信息例如是程序和各种数据等。处理器包含硬件。处理器能够使用CPU(Central Processing Unit:中央处理单元)、GPU(Graphics Processing Unit:图形处理单元)、DSP(Digital SignalProcessor:数字信号处理器)等各种处理器。存储器可以是SRAM(Static Random AccessMemory:静态随机存取存储器)、DRAM(Dynamic Random Access Memory:动态随机存取存储器)等半导体存储器,也可以是寄存器,还可以是硬盘装置(HDD:Hard Disk Drive:硬盘驱动器)等磁存储装置,还可以是光盘装置等光学式存储装置。例如,存储器存储有计算机可读取的命令,处理器执行该命令,由此,图像处理装置3的各部的功能作为处理而实现。具体而言,图像处理装置3的各部是包含图3所示的控制部33的各部。这里的命令可以是构成程序的命令集的命令,也可以是对处理器的硬件电路指示动作的命令。
此外,本实施方式的图像处理装置3的各部也可以作为在处理器上运行的程序的模块来实现。例如,控制部33是对内窥镜***1的各部进行控制的控制模块。具体而言,控制部33也可以是对使用图4~图7等在后面说明的扭转机构18、进退机构17进行控制的控制模块。
此外,实现由本实施方式的图像处理装置3的各部进行的处理的程序例如能够存储于计算机可读取的介质即信息存储装置。信息存储装置例如能够通过光盘、存储卡、HDD或半导体存储器等来实现。半导体存储器例如是ROM。图像处理装置3的控制部33等根据信息存储装置中存储的程序来进行本实施方式的各种处理。即,信息存储装置存储用于使计算机作为图像处理装置3的各部发挥功能的程序。计算机是具有输入装置、处理部、存储部、输出部的装置。程序是用于使计算机执行图像处理装置3的各部的处理的程序。
图像取得部31取得从摄像部依次输出的摄像图像,将所取得的摄像图像依次输出到图像处理部32、对焦控制部35。图像处理部32对摄像图像进行白平衡处理、去马赛克(同时化)处理、降噪处理、颜色转换处理、灰度转换处理、轮廓强调处理等各种图像处理,并依次输出到监视器6。控制部33进行各种控制信号的输入输出。
对焦控制部35根据摄像图像控制对焦透镜20a。对焦控制部35例如根据公知的对比度AF控制对焦透镜20a。但是,在本实施方式的内窥镜***1中,AF不是必需的结构,能够省略对焦控制部35。
光源装置4包含光源控制部41和光源42。光源控制部41按照从控制部33依次输出的光源的目标光量对光源42的光量进行控制。光源42发出照明光。光源42可以是氙光源,也可以是LED(light emitting diode:发光二极管),还可以是激光光源。此外,光源42也可以是其他光源,发光方式没有限定。
2.2***部的详细结构例
图4是示出***部2b的结构例的示意图。如图4所示,将***部2b的长度方向设为基准轴AX1。另外,基准轴AX1在狭义上是挠性管部13的长度方向。在弯曲部12未弯曲的状态下,该弯曲部12的长度方向和基准轴AX1大致一致。换言之,通过进行弯曲操作,弯曲部12的长度方向变化为与基准轴AX1不同的方向。
如图4所示,进退机构17例如包含使***部2b在与基准轴AX1对应的方向上移动的进退辊17a、以及对进退辊17a进行驱动的驱动部19。对应的方向可以是相同的方向,也可以是大致相同的方向。大致相同的方向是与基准轴AX1所成的角度为规定阈值以下的方向。进退辊17a能够以AX2为旋转轴在D1或D2所示的方向上旋转。进退辊17a的一部分与***部2b接触。因此,***部2b通过使进退辊17a向D1的方向旋转而向近前方向移动。这里的近前方向是朝向***部2b的基端侧的方向,在***时对应于***侧。此外,***部2b通过使进退辊17a向D2的方向旋转而向里侧方向移动。这里的里侧方向是向前端侧推入***部2b的方向,在***时对应于盲肠侧。
此外,扭转机构18例如包含使***部2b以基准轴AX1为旋转轴进行旋转的旋转辊18a、以及对旋转辊进行驱动的驱动部19。另外,对进退辊17a进行驱动的驱动部和对旋转辊18a进行驱动的驱动部也可以分别设置。旋转辊18a能够以AX3为旋转轴向D3或D4所示的方向旋转。旋转辊18a的一部分与***部2b接触。因此,***部2b通过旋转辊18a旋转而向与旋转辊18a相反的方向旋转。
此外,如图4所示,弯曲部12能够相对于基准轴AX1弯曲。具体而言,弯曲部12能够通过对上下弯曲操作旋钮14b和左右弯曲操作旋钮14a中的至少一方进行操作来调整相对于基准轴AX1的弯曲角度。图4所示的θ表示弯曲角度。
图5是说明在使弯曲部12相对于基准轴AX1弯曲的状态下使旋转辊18a旋转时的前端部11的运动的图。图5的F1和F2表示弯曲部12弯曲的状态下的***部2b。此外,图5的F3和F4分别表示***部2b为F1、F2的状态下的摄像部的视野。
例如,在使弯曲部12相对于基准轴AX1以任意的弯曲角度θ进行了弯曲的状态下,通过使旋转辊18a旋转360°,能够全面地对管腔的周向进行拍摄。此外,通过对进退辊17a进行驱动,能够使摄像部的视野在管腔的长度方向上移动。即,根据扭转机构18和进退机构17的控制,能够进行扫描管腔内壁这样的视野控制。关于具体的扫描,使用图9的(A)~图11在后面说明。
图6是示出***部2b的其他结构的示意图。在图4中,示出了使用旋转辊18a使***部2b整体绕基准轴AX1旋转的结构。与此相对,在图6所示的结构中,扭转机构18具有旋转机构18b,该旋转机构18b仅使***部2b中的接近前端部11的一部分绕基准轴AX1旋转。在图6所示的例子中,***部2b中的前端部11和弯曲部12能够通过旋转机构18b绕基准轴AX1旋转,挠性管部13不绕基准轴AX1旋转。但是,关于使***部2b中的哪个部分能够旋转,能够进行各种变形实施。
如图4~图6所示,扭转机构18例如是在使弯曲部12相对于基准轴AX1弯曲的状态下使***部2b的至少一部分绕基准轴AX1旋转的机构,***部2b可以是整体旋转,也可以是前端侧的一部分旋转。
此外,扭转机构18只要能够使摄像部的视野旋转即可,不限于使***部2b绕基准轴AX1旋转。如上所述,弯曲部12具有上下弯曲操作旋钮14b和左右弯曲操作旋钮14a,在相对于基准轴AX1的弯曲角度θ的基础上,还能够将弯曲方向调整为上下左右4个方向。例如,在将朝向上方向的弯曲设为基准位置的情况下,右方向或左方向的弯曲对应于绕基准轴AX1旋转±90度。此外,下方向对应于绕基准轴AX1旋转±180度。此外,通过对上下方向的弯曲程度和左右方向的弯曲程度进行调整,还能够实现0°与±90°之间、±90°与±180°之间的旋转。
即,扭转机构18是对弯曲部12进行驱动的机构,该扭转机构18也可以通过使弯曲部12的形状变化来使被摄体光取得部20绕基准轴AX1旋转。例如,扭转机构18包含用于使左右弯曲操作旋钮14a和上下弯曲操作旋钮14b旋转的未图示的马达等。控制部33对该马达进行控制,从而自动操作左右弯曲操作旋钮14a和上下弯曲操作旋钮14b。
图7是示出弯曲部12的其他结构的示意图。如图7所示,弯曲部12也可以包含能够进行单独控制的2个以上的弯曲部。在图7的例子中,弯曲部12包含第1弯曲部12a、第2弯曲部12b和第3弯曲部12c。第1弯曲部12a~第3弯曲部12c例如分别能够进行上下方向和左右方向的操作。这样,通过将弯曲部12划分成多个弯曲部,能够高精度地控制被摄体光取得部20相对于管腔的位置姿态。例如在扭转机构18不具有旋转辊18a、旋转机构18b的情况下,通过将弯曲部12划分成多个弯曲部,细致地控制旋转量的间隔量等变得容易。
此外,也能够将图7所示的结构与图4所示的使***部2b整体旋转的结构、图6所示的使***部2b的前端部分旋转的结构等使***部2b的一部分或全部旋转的结构进行组合。
图8的(A)~图8的(D)是示出***部2b的其他结构的示意图。如图8的(A)~图8的(D)所示,被摄体光取得部20也可以能够接收来自***部2b的侧面的被摄体光。
在图8的(A)、图8的(B)所示的结构中,***部2b的一部分或全部能够通过与图4或图6相同的扭转机构18旋转。通过***部2b的旋转,设置于侧面的被摄体光取得部20绕基准轴AX1旋转,因此,摄像部的视野绕基准轴AX1旋转。即,扭转机构18能够通过不使弯曲部12弯曲的结构实现。
此外,如图8的(C)所示,也可以是***部2b不旋转的结构。在图8的(C)中,***部2b也可以具有透明部18c,在该透明部18c的内部,被摄体光取得部20能够绕***部2b的轴旋转。这样,通过在***部2b的内部使被摄体光取得部20旋转,也能够使摄像部的视野绕基准轴AX1旋转。
此外,如图8的(D)所示,被摄体光取得部20也可以是能够对被摄体光的受光方向进行变更的结构。例如,扭转机构18也可以包含对作为被摄体光取得部20的物镜光学***进行驱动的未图示的驱动部。控制部33对物镜光学***进行驱动,从而使摄像部的视野变化。例如,在能够将被摄体光的受光方向变更为上下方向和左右方向的情况下,通过使受光方向依次变化,能够使摄像部的视野绕基准轴AX1旋转。或者,也可以通过将被摄体光的取得方向以相对于基准轴AX1向规定方向倾斜规定角度的状态进行固定,并在该状态下使***部2b的一部分或全部绕基准轴AX1旋转,从而使摄像部的视野绕基准轴AX1旋转。
另外,在使用图8的(A)~图8的(D)所示的结构的情况下,摄像部的光轴成为与***部2b的插拔方向即沿着基准轴AX1的方向不同的方向的轴。因此,摄像图像成为适合于管腔内壁的诊断等的图像,但却成为不适合于插拔的图像。例如,即使显示对侧面方向进行拍摄而得到的摄像图像,医师也不容易根据该摄像图像进行向里侧方向的***。
由此,内窥镜2也可以包含侧面观察用的结构和正面观察用的结构。例如,内窥镜2包含侧面观察用的被摄体光取得部20和摄像部之外的正面观察用的第2被摄体光取得部和第2摄像部。这样,能够适当地进行用于插拔的观察和用于诊断的观察。
或者,内窥镜2也可以包含侧面观察用的被摄体光取得部20和正面观察用的第2被摄体光取得部,并且共用摄像部。该情况下,摄像部能够选择性地接收来自侧面观察用的被摄体光取得部20的被摄体光和来自正面观察用的第2被摄体光取得部的被摄体光中的任意一方。例如,通过对以能够插拔的方式设置于如下光路上的遮光部件进行控制,从而进行被摄体光的选择,该光路是来自被摄体的反射光经由被摄体光取得部20或第2被摄体光取得部入射到摄像部为止的路径。这样,能够在用于插拔的观察和用于诊断的观察之间切换使用一个摄像部。此外,在使用图8的(D)所示的结构的情况下,被摄体光的受光方向也可以在用于插拔的正面方向和用于观察的侧面方向之间进行切换。
2.3扫描的例子
接着,对扫描的例子、即基于扭转机构18和进退机构17的视野的具体的控制例进行说明。另外,如上所述,***部2b的结构能够实施各种变形,在任意的结构中,都能够使摄像部的视野沿着管腔的长度方向移动,并且能够使摄像部的视野在管腔的周向上旋转。因此,以下省略***部2b的具体结构,着眼于摄像部的视野进行说明。此外,以下为了简化说明,将管腔作为圆筒进行说明。
图9的(A)是说明进行螺旋状的扫描的情况下的视野的移动的图。例如,在将肠道表面中的包含在摄像部的视野中的范围设为摄像范围的情况下,图9的(A)是说明该摄像范围的基准点的时间序列变化的图。摄像范围的基准点例如是摄像范围的中心,对应于摄像部的光轴与肠道表面的交点。图9的(B)是说明摄像范围的基准点位于C1时的摄像范围与摄像范围的基准点位于C2时的摄像范围的位置关系的图。图9的(B)的C3表示与C1对应的摄像范围,C4表示与C2对应的摄像范围。
摄像元件15经由被摄体光取得部20取得来自与摄像范围对应的被摄体的反射光,由此生成与该摄像范围对应的摄像图像。下面,对摄像图像中的纵向是沿着基准轴AX1的方向、横向是绕基准轴AX1的旋转方向的例子进行说明。但是,摄像图像的纵横方向与基准轴AX1的方向之间的关系是任意的。此外,为了便于说明,对摄像范围是矩形的例子进行说明,但是,实际的摄像范围的形状根据摄像角度、肠道的表面形状而变化。
在图9的(A)所示的例子中,控制部33对扭转机构18进行控制,由此使摄像部的视野绕基准轴AX1旋转,并且对进退机构17进行控制,由此使摄像部的视野在沿着基准轴AX1的方向上移动。另外,这里,对绕基准轴AX1的旋转速度和沿着基准轴AX1的方向的移动速度为恒定的例子进行说明,但是速度也可以是可变的。
此时,控制部33对扭转机构18进行控制,以使给定的帧中的摄像部的视野与下一帧中的摄像部的视野在管腔的周向上具有重叠。例如,在将摄像部的摄像间隔设为t(秒)、将每单位时间的旋转角度设为vθ(度/秒)、将摄像部的水平视场角设为θ1(度)的情况下,控制部33将vθ设定为满足下式(1)。这样,在时间序列上连续的2张摄像图像具有重复的区域。即,能够抑制在管腔的周向上产生未被拍摄的区域。
t×vθ≦θ1…(1)
此外,控制部33根据基于扭转机构18的视野的旋转速度,设定基于进退机构17的视野的移动速度。例如,对进退机构17进行控制,以使给定的帧中的摄像图像与视野从该处开始绕基准轴AX1旋转1周后的摄像图像在沿着基准轴AX1的方向上具有重叠。如果是图9的(B)的例子,则控制部33使C3所示的摄像范围的下侧的区域与旋转1周后的摄像范围即C4的上侧的区域重复。例如,在将基于扭转机构18的摄像部的视野的旋转周期设为T(秒)、将基于进退机构17的摄像部的视野的移动速度设为vz(cm/秒)、将摄像范围的纵向的长度设为H(cm)的情况下,控制部33将vz设定为满足下式(2)。这里,T=360/vθ。此外,H由摄像部的垂直视场角θ2和从摄像部到被摄体的距离L来决定。另外,如图9的(A)所示,在假定管腔为圆柱且基准轴AX1与穿过圆柱的中心的轴一致的情况下,根据圆柱的半径r求出距离L。在如图8的(A)~图8的(D)那样不使弯曲部12弯曲的结构的情况下,距离L能够通过半径r来近似。此外,在使用弯曲部12的情况下,能够根据该弯曲部12的长度、弯曲量等已知信息来估计距离L。这样,也能够抑制在管腔的长度方向上产生成为未被拍摄的间隙的区域。
T×vz≦H…(2)
例如,图像处理装置3的存储部34存储满足上式(1)的vθ和满足上式(2)的vz作为控制参数。控制部33根据从存储部34读出的vθ和vz来对扭转机构18和进退机构17进行控制。由此,实现通过摄像部的视野进行管腔的内壁的扫描这样的扭转机构18和进退机构17的控制。
图10是说明摄像部的视野的移动的其他图。如图10所示,控制部33也可以交替地执行使摄像部的视野绕基准轴AX1旋转的扭转机构18的控制和使摄像部的视野在沿着基准轴AX1的方向上移动的进退机构17的控制。如果是图10的例子,则控制部33首先对扭转机构18进行控制来使视野绕基准轴AX1旋转1周(D1),然后,对进退机构17进行控制来使视野在沿着基准轴AX1的方向上移动(D2)。此后也同样交替地反复进行视野绕基准轴AX1的旋转和在基准轴AX1方向上的移动。
与图9的例子同样,控制部33例如根据满足上式(1)的vθ对扭转机构18进行控制。但是,由于与扭转机构18排他地对进退机构17进行控制,因此与控制有关的制约小。具体而言,基于进退机构17的视野的移动速度是任意的,控制部33对1次移动的移动量进行控制即可。例如,控制部33对进退机构17进行控制,以使D2所示的1次移动的移动量成为摄像范围的纵向的长度即H以下。这样,能够抑制在管腔的长度方向上产生未被拍摄的区域。
此外,在图9的(A)、图10中,对摄像部的视野能够向相同方向连续旋转的情况下的扫描进行说明。但是,根据扭转机构18的结构,也会考虑朝向相同方向的旋转周数被限制的情况。例如,在如图6所示那样在***部2b的前端侧设置有旋转机构18b的情况下,包含该旋转机构18b的部分成为清洗等的对象,因此,为了实现多周旋转,需要耐受清洗的机械密封。与此相对,通过限制相同方向上的旋转周数,容易实现密封。由此,控制部33也可以进行不包含在相同方向上的连续旋转在内的控制。
图11是说明摄像部的视野的移动的其他图。与图10所示的例子同样,控制部33交替地执行使摄像部的视野绕基准轴AX1旋转的扭转机构18的控制和使摄像部的视野在沿着基准轴AX1的方向上移动的进退机构17的控制。但是,控制部33对扭转机构18进行控制,以便交替地进行摄像部的视野在规定方向上的旋转和在相反方向上的旋转。
如果是图11的例子,则控制部33进行如下控制:在使摄像部的视野在规定方向上旋转1周后(E1),使其在沿着基准轴AX1的方向上移动规定量(E2),并且使摄像部的视野在与E1相反的方向上旋转1周(E3)。此后也同样,每当旋转1周时,切换旋转方向。此外,在这里示出了在规定方向上的连续的旋转周数是旋转1周的例子,但是旋转周数也可以是旋转2周以上。
该情况下,控制部33也对扭转机构18和进退机构17进行控制,以抑制在管腔的周向和长度方向这两个方向上产生未被拍摄的区域。例如,控制部33例如根据满足上式(1)的vθ对扭转机构18进行控制,并且对进退机构17进行控制,以使E2所示的1次的移动量成为摄像范围的纵向的长度即H以下。
如上所述,本实施方式的内窥镜***1包含被***到管腔中的***部2b、被摄体光取得部20、摄像部、扭转机构18、进退机构17和控制部33。被摄体光取得部20设置于***部2b,取得来自被摄体的光即被摄体光。摄像部基于被摄体光进行拍摄,由此取得视野内的摄像图像。扭转机构18使被摄体光取得部20旋转。例如,扭转机构18在将***部2b的轴设为基准轴AX1的情况下,以基准轴AX1为旋转轴使被摄体光取得部20旋转。进退机构17使***部2b在***方向或拔出方向上移动。***方向是管腔的里侧方向,在管腔是肠道的情况下,***方向是从***朝向盲肠附近的方向。拔出方向是与***方向相反的方向。例如,进退机构17使***部2b在与基准轴AX1对应的方向上移动。控制部33对扭转机构18和进退机构17进行控制,由此对摄像部的视野的运动进行控制。而且,控制部33对扭转机构18和进退机构17进行控制,以通过视野进行管腔的内壁的扫描。
这里,与基准轴AX1对应的方向是指与基准轴AX1相同或大致相同的方向,并且与基准轴AX1对应的方向表示其与基准轴AX1所成的角度为给定的角度阈值以下的方向。
根据本实施方式的方法,在通过具有扭转机构18和进退机构17而能够进行***部2b的自动控制的内窥镜***1中,能够进行拍摄以对管腔内壁进行扫描。由于抑制了在使用内窥镜***1的观察中产生未被拍摄的部分,因此能够抑制关注区域的漏看。
此外,控制部33通过对***部2b利用进退机构17在沿着基准轴AX1的方向上的移动和被摄体光取得部20利用扭转机构18在管腔的周向上的周期性旋转进行组合,来进行扫描。
这里的周期性旋转也可以是图9的(A)那样的连续地反复进行相同方向的旋转。此外,周期性旋转也可以是间歇地反复进行旋转。间歇地反复进行例如是指如图10那样在给定的方向上进行了给定的旋转量的旋转后,在隔着进行沿着基准轴AX1的方向的移动的期间后,再次进行相同方向、相同旋转量的旋转。此外,周期性旋转也可以如图11那样包含在给定的方向上的旋转和在相反方向上的旋转这两者。
这样,通过进行周期性控制,能够抑制产生未被拍摄的部分。即,如果能够实现一个周期的控制,则此后反复进行同样的控制即可,因此,能够削减控制所需要的信息量,还容易进行控制的自动化。控制所需要的信息例如包含上述的vθ、vz等控制参数、用于使控制部33执行基于该控制参数的进退机构17和扭转机构18的控制的控制程序。
此外,将在给定的定时由摄像部拍摄到的摄像图像设为第1摄像图像。在第1摄像图像的拍摄后,控制部33进行如下控制、并在该控制后将由摄像部拍摄到的摄像图像设为第2摄像图像,该控制是将使被摄体光取得部20绕基准轴AX1旋转大致1周的控制和利用进退机构17使***部2b在沿着基准轴AX1的方向上移动的控制组合而成的控制。该情况下,控制部33对扭转机构18和进退机构17进行控制,以使拍摄到第1摄像图像时的视野和拍摄到第2摄像图像时的视野具有重复部分。换言之,控制部33对扭转机构18和进退机构17进行控制,以使第1摄像图像和第2摄像图像具有重复部分。
在考虑没有遗漏地对管腔内表面的整体进行拍摄的情况下,摄像图像彼此重复是重要的。例如如上式(1)所示那样,需要对基于扭转机构18的旋转速度进行控制,以使给定的帧中的摄像图像与下一帧中的摄像图像重复。但是,在一边使摄像部的视野旋转一边观察管腔内壁的情况下,还需要考虑给定的1周旋转和下1周旋转之间的重复。具体而言,如上式(2)所示,需要对基于进退机构17的移动速度或移动量进行控制。
第1摄像图像例如是对C3所示的摄像范围进行拍摄而得到的图像,第2摄像图像例如是对C4所示的摄像范围进行拍摄而得到的图像。第1摄像图像和第2摄像图像具有重复区域,由此抑制在管腔的长度方向上在给定的摄像图像中拍摄到的摄像范围与不同的摄像图像中拍摄到的的摄像范围之间产生间隙。
另外,根据拍摄的帧率和基于扭转机构18的旋转速度的设定,第1摄像图像和第2摄像图像不一定是对来自相同方向的被摄体光进行拍摄而得到的。即,上述的旋转大致1周的旋转角度可以是360°,但是不限于此,也可以是与360°之差为给定的阈值以下的其他角度。
此外,如果考虑图11的例子,则第2摄像图像不限于在以第1摄像图像为基准使视野旋转了大致1周的状态下拍摄到的图像。例如,将摄像部对来自绕基准轴AX1的旋转角度为的方向的被摄体光进行拍摄而得到的摄像图像设为第1摄像图像。然后,可以在第1摄像图像的拍摄后,控制部33进行如下控制,在控制部33进行该控制后,将由摄像部对来自绕基准轴AX1的旋转角度为的方向的被摄体光进行拍摄而得到的摄像图像设为第2摄像图像,该控制是将使被摄体光取得部20绕基准轴AX1旋转的控制和利用进退机构17使***部2b在沿着基准轴AX1的方向上移动的控制组合而成的控制。表示与之间的差分为规定阈值以下的角度。即,从对第1摄像图像进行拍摄后到对第2摄像图像进行拍摄为止的摄像部的视野的具体运动是任意的。例如,摄像部的视野可以在给定的方向上旋转1周,也可以在中途切换旋转方向。在该情况下,也进行使第1摄像图像与第2摄像图像重复这样的控制,由此抑制在管腔的长度方向上产生未被拍摄的部分,其中,第1摄像图像是对垂直于基准轴AX1的方向中的给定的方向进行拍摄而得到的图像,第2摄像图像是在第1摄像图像之后对大致相同的方向进行拍摄而得到的图像。
此外,如图9的(A)所示,控制部33也可以进行基于扭转机构18的旋转和基于进退机构17的移动,由此进行使被摄体光取得部20呈螺旋状移动的控制。在狭义上,基于扭转机构18的旋转和基于进退机构17的移动是同时进行的。此外,如图10、图11所示,控制部33也可以进行使基于扭转机构18的旋转和基于进退机构17的移动交替进行的控制。
在同时进行基于扭转机构18的旋转和基于进退机构17的移动的情况下,能够使管腔的观察高速化。因此,能够减轻医师、患者的负担。在交替地进行基于扭转机构18的旋转和基于进退机构17的移动的情况下,容易进行使摄像部的视野重复的控制。因此,能够进一步抑制产生未被拍摄的区域。
此外,扭转机构18也可以具有能够使***部2b的前端绕基准轴AX1旋转的机构。这里的机构具体对应于图6所示的旋转机构18b。
这样,不需要使***部2b的整体旋转,因此操作部2a不会伴随着***部2b的旋转而运动,观察变得容易。另一方面,在如图4所示那样使***部2b整体旋转的情况下,具有不需要考虑旋转机构的密封这样的优点。
此外,在本实施方式中,也可以通过在将***部2b向管腔的里侧方向***后将其向近前方向***进行管腔的观察。朝向里侧方向的***通常是从***到盲肠的***,或者是从***到盲肠之前的能够***的最深部为止的***。然后,控制部33至少在向近前方向拔出***部2b时,对扭转机构18和进退机构17进行控制。
在大肠等管腔构造中,在***部2b的***时,需要越过各种屈曲部。在***过程中,为了容易***而使用在对管腔进行脱气后将前端部11推压到管腔的壁面等方法,因此很难进行管腔构造的观察。因此,在***到最里部后,在向管腔进行了送气的状态下进行管腔内壁的观察。
本实施方式的方法涉及用于抑制管腔构造的漏看的***部2b的控制,该控制是拔出时优选的控制。
但是,控制部33也可以在将***部2b向管腔的里侧方向***时对扭转机构18和进退机构17进行控制。如上所述,在***过程中需要进行越过屈曲部等操作,公知有轴保持缩短法等各种方法。控制部33对扭转机构18和进退机构17进行控制,由此能够适当地辅助***部2b的***。例如,能够与医师的熟练度无关地执行适当的***,因此能够减轻患者负担。
此外,本实施方式的方法能够应用于以下的管腔操作方法。管腔操作方法包含以下内容:将内窥镜***1的***部2b***到管腔中;以及进行使被摄体光取得部20旋转的扭转动作和使摄像部在***部2b的***方向或拔出方向上移动的进退动作,以通过摄像部的视野进行管腔的内壁的扫描。例如,扭转动作是以基准轴AX1为旋转轴使被摄体光取得部20旋转的动作。此外,进退动作是使***部2b在沿着基准轴AX1的方向上移动的动作。如上所述,这里的内窥镜***1具有***部2b、设置于该***部2b且取得来自被摄体的返回光即被摄体光的被摄体光取得部20、以及基于被摄体光进行拍摄而取得视野内的摄像图像的摄像部。
此外,管腔操作方法也可以通过对进退动作和使被摄体光取得部20在管腔的周向上周期性地旋转的扭转动作进行组合来进行扫描。
2.4扫描时的具体控制
通过进行以上说明的扭转机构18和进退机构17的控制,能够全面地对管腔构造的内表面进行拍摄。但是,在管腔容易变形的情况下,根据管腔的状态,即使进行了上述控制,也很难适当地进行拍摄。例如在管腔是肠道的情况下,肠道会伸缩,因此褶皱的状态等会根据肠道内的气压而变化。在送气不充分的情况下,容易产生使用图14在后面说明的隐藏部分,因此也容易发生漏看。
由此,在通过控制扭转机构18和进退机构17来进行管腔的内壁的扫描时,控制部33进行保持管腔的状态的控制。这样,能够抑制***部2b的前端部11、狭义上是被摄体光取得部20与管腔壁面接触、其他部分被管腔的一部分遮挡等。即,能够抑制产生在摄像图像中未被充分拍摄到的隐藏部分等。
更具体而言,控制部33执行如下控制作为保持管腔的状态的控制,在该控制中,进行对管腔注入气体的送气和从管腔排出气体的脱气。这样,能够维持管腔内的气压,因此能够适当地维持适合于观察的状态。另外,如上所述,在肠道的观察中,通过进行送气来使肠道鼓起的控制是重要的。但是,在过度地进行了送气的情况下,患者的负担会增大。通过进行送气和脱气这两者,能够维持适当的状态。
此外,控制部33也可以执行对被检体的***进行调整的控制作为保持管腔的状态的控制。在将肠道等活体内的部位作为观察对象的情况下,肠道的状态会根据被检体的***而变化。这里的***例如包含右侧臥位、左侧臥位、仰臥位等。通过控制***,能够容易地进行肠道的观察。
另外,这里的“保持管腔的状态”是指管腔维持适合于观察的状态。即,在适合于观察的***恒定的情况下,保持管腔的状态的控制相当于用于将***保持恒定的控制。但是,在肠道的每个部位的优选***不同的情况下,通过采取与部位对应的***,能够将管腔的状态保持为适合于观察的状态。该情况下,保持管腔的状态的控制相当于根据部位来进行***变更的控制。
另外,对被检体的***进行调整的控制也可以是对指示***变更的信息进行提示的控制。或者,对被检体的***进行调整的控制也可以是对被检体躺着的床8进行控制。例如,床8也可以包含用于变更倾斜度的驱动部,控制部33对该驱动部输出指示驱动的信号,由此对被检体的***进行调整。
另外,关于进行送气和脱气的控制以及对被检体的***进行调整的控制,可以进行它们双方,也可以进行任意一方。
2.5再扫描
此外,在本实施方式中,也可以根据摄像结果进行针对扫描的反馈。具体而言,控制部33也可以在判定为在管腔中的进行了扫描的部分中存在未进入摄像部的视野的部分的情况下,进行再扫描。这里,具体而言,未进入视野是指在从扫描开始到处理对象定时为止的期间内一次也没进入摄像部的视野。
例如,控制部33在图9的(B)的C3和C4所示的2个摄像范围不重复的情况下,判定为存在未进入摄像部的视野的部分。更具体而言,控制部33进行第1摄像图像与第2摄像图像的比较处理,判定是否存在重复的部分。例如,控制部33进行将第1摄像图像的一部分作为模板图像的模板匹配。或者,如在第3实施方式中在后面说明的那样,如果能够取得管腔构造信息,则控制部33也可以在管腔构造信息存在缺失的情况下判定为存在未进入摄像部的视野的部分。
例如也可以在将***部2b向里侧方向再次***规定量后,使用与此前相同的扫描条件进行再扫描。这里的扫描条件至少包含扭转机构18的控制条件和进退机构17的控制条件。例如,扫描条件包含基于扭转机构18的旋转速度、基于进退机构17的移动速度或移动量。或者,如在第2实施方式中在后面说明的那样,在再扫描中,也可以变更扫描条件。例如,控制部33对前端部11基于进退机构17在沿着基准轴AX1的方向上的移动速度或移动量进行抑制。
3.第2实施方式
图12是示出本实施方式的图像处理装置3的结构例的图。如图12所示,图像处理装置3也可以在使用图3在前面说明的结构的基础上,还包含分析部36和可否分析判定部37。但是,图像处理装置3不限于图12的结构,能够实施省略分析部36和可否分析判定部37中的任意一方、追加其他结构要素等各种变形。下面,对各部进行详细说明。此外,分析部36和可否分析判定部37中的至少一方也可以设置于与图像处理装置3不同的装置。
3.1分析部
分析部36根据摄像图像进行分析。例如在关注区域是病变的情况下,分析可以是从摄像图像中检测病变的检测处理,也可以是根据恶性度对该病变进行分类的分类处理。通过包含分析部36,不仅是***部2b的扫描,也能够辅助用户进行与关注区域有关的分析。
分析部36对摄像图像进行图像处理,由此进行检测处理或分类处理。这里的图像处理例如是根据图像求出特征量并判定该特征量是否满足规定的条件的处理。特征量可以是图像的亮度,也可以是明度、色相、色度,也可以是边缘提取处理的结果,还可以是使用给定的模板图像的匹配处理的结果。模板图像例如是拍摄到关注区域的图像。是否满足条件的判定例如是特征量的值与给定的阈值的比较处理。
或者,分析部36也可以使用学习完毕模型进行分析。例如,学习装置进行根据对学习用图像赋予了正解数据而得到的学习用数据来生成学习完毕模型的处理。学习用图像是拍摄管腔内部得到的图像,狭义上是拍摄肠道得到的活体内图像。正解数据是确定学习图像中包含的关注区域的信息。这里的正解数据是确定包含关注区域的检测框的位置和该检测框中包含的被摄体的种类的信息。被摄体的种类例如包括“正常粘膜”、“息肉”等。或者,正解数据也可以是针对学习用图像的各像素确定该像素中拍摄到的被摄体的种类的信息。
这里的模型例如是广泛公知的神经网络。学习装置对神经网络输入学习用图像,使用该时间点的加权系数进行运算,由此求出输出。学习装置求出表示输出与正解数据之间的误差的误差函数,对加权系数进行更新,以减小该误差函数。关于加权系数的更新,例如能够应用广泛公知的误差反向传播法等。学习装置使用大量学习用数据反复进行加权系数的更新,由此生成学习完毕模型。
图像处理装置3的存储部34存储学习完毕模型。这里的学习完毕模型包含加权系数。此外,学习完毕模型也可以包含用于根据加权系数进行正向的运算的推理程序。分析部36从存储部34取得学习完毕模型。分析部36将从图像处理部32输出的摄像图像输入到学习完毕模型,由此取得分析结果。如上所述,分析结果是确定检测框和该检测框中包含的被摄体的种类的信息。或者,分析结果是针对作为输入的摄像图像的各像素确定该像素中拍摄到的被摄体的种类的信息。此外,分析结果也可以包含表示检测框、被摄体的种类的准确度的信息。
控制部33对扭转机构18和进退机构17进行控制,以通过与摄像图像对应的视野中的、分析部36能够分析的部分进行管腔的内壁的扫描。
如在第1实施方式中在前面说明的那样,通过摄像部的视野来扫描管腔的内壁,由此能够抑制产生一次也没进入视野而被漏看的部分。但是,即使是进入了视野内的部分,在该部分未在能够分析的状态下被拍摄到的情况下,也无法适当地执行分析部36的分析。具体而言,上述的检测处理、分类处理的精度降低,因此可能无法检测出关注区域,或者有可能错误地进行分类。在这点上,并非通过视野整体而是通过其中的能够分析的部分来进行扫描,由此可提高能够适当地执行分析的可能性。
具体而言,在将摄像图像中的分析部36能够分析的区域设为可分析区域的情况下,控制部33对扭转机构18和进退机构17进行控制,以使对应于第1摄像图像的可分析区域与对应于第2摄像图像的可分析区域重复。如上所述,第1摄像图像例如是对图9的(B)的C3所示的摄像范围进行拍摄而得到的图像,第2摄像图像是对C4所示的摄像范围进行拍摄而得到的图像。这样,能够根据摄像图像判定是否通过视野中的能够分析的部分进行了适当的扫描。
例如,在扫描前已知在摄像图像中的中央区域能够取得明亮而适合于分析的图像、而在周缘区域取得昏暗而不适合于分析的图像的情况下,存储部34存储为了使得中央区域彼此重复而设定的旋转速度vθ和移动速度vz。然后,控制部33根据存储部34中存储的信息对扭转机构18和进退机构17进行控制。
但是,还考虑如果不取得摄像图像则不知道摄像图像的哪个区域是可分析区域的情况。该情况下,根据可否分析判定部37的判定结果来决定可分析区域。在根据决定后的可分析区域而判定为多个摄像图像的可分析区域不重复的情况下,控制部33也可以进行再扫描。
此外,在分析部36从摄像图像中检测到关注区域的情况下,控制部33也可以进行存储与关注区域有关的信息的处理和向用户提示与关注区域有关的信息的处理中的至少一个处理。
例如,也可以在观察中实时地执行分析部36的分析。在该情况下,通过进行向用户提示与关注区域有关的信息的处理,能够辅助用户观察关注区域。例如,能够抑制虽然拍摄到了关注区域但用户却漏看的情况。或者,通过实时地存储与检测到的关注区域有关的信息,能够在观察结束后等任意的定时向用户进行提示等。
此外,例如也可以在观察结束后执行分析部36的分析。在该情况下,用户通过取得、阅览所存储的与关注区域有关的信息,能够在任意的定时判定关注区域的有无、恶性度。
3.2可否分析判定
接着,对可否分析判定部37执行的判定处理进行说明。可否分析判定部37根据摄像图像判定在该摄像图像中拍摄到的被摄体是否处于能够分析的状态。也将可否分析判定部37输出的信息表述为可否分析信息。下面,将管腔构造中的在能够分析的状态下被拍摄到的部分表述为可分析部分,将除此以外的部分表述为不可分析部分。
首先,研究能够分析/不能分析的含义。如在第1实施方式中在前面说明的那样,原本一次也没进入摄像部的视野的部分是不能分析的。例如如上所述,在第1摄像图像与第2摄像图像不重复的情况下,判定为存在未进入视野的不可分析部分。或者,如在第3实施方式中在后面说明的那样,根据管腔构造信息取得的缺失来判定该部分的有无。
关于进入了视野但被判定为不可分析的不可分析部分,例如考虑以下2个部分。第1,位于摄像部的视野内且在摄像图像上也能够看到,但摄像条件差的部分。第2,位于摄像部的视野内,但在摄像图像上看不到的部分。
摄像条件差例如相当于由于摄像部与病变之间的距离远、或从倾斜方向对病变进行了拍摄等要因而导致分辨率低的情况等。分辨率低具体是指病变在图像上的尺寸非常小。关于摄像条件差的部分,虽然进行了拍摄本身,但是病变检测、恶性度判定的精度低,无法执行期望的分析。因此,在本实施方式的方法中,在存在摄像条件差的部分的情况下,判定为有可能漏看病变。
此外,在摄像图像上看不到的部分例如相当于被遮挡物遮挡的部分。这里的遮挡物是残渣、泡、污水、止血用的夹子等肠道以外的物体。肠道中的被遮挡物遮挡的部分在摄像图像上无法视觉辨认,因此,存在于该遮挡物的背面的病变被漏看。因此,在存在遮挡物的情况下,也判定为有可能漏看病变。此外,位于摄像部的视野内但在摄像图像上看不到的部分还包含由于褶皱等管腔构造而产生的隐藏部分。隐藏部分例如是褶皱的背面。背面是指褶皱的面中的、位于与摄像部相反一侧的面。褶皱的背面被该褶皱的摄像部侧的面遮挡,因此,即使在视野内,也不会被拍摄到摄像图像中。
可否分析判定部37将肠道中的位于摄像部的视野内、在摄像图像上也能看到且摄像条件好的部分判定为可分析部分,将除此以外的部分判定为不可分析部分。
根据以上说明可知,关于不可分析部分,可以考虑以下3种情况。在本实施方式的方法中,也可以将不可分析部分分类为以下的(1)~(3)中的任意一方。为了便于说明,也将被分类为(1)的不可分析部分表述为第1不可分析部分。同样,也将被分类为(2)、(3)的不可分析部分分别表述为第2不可分析部分、第3不可分析部分。此外,在不需要分类的情况下,以下的(1)~(3)都仅表述为不可分析部分。此外,分类不限于以下这3种情况,也可以进一步细化。
(1)位于摄像部的视野内、在摄像图像上也能看到,但摄像条件差的部分。
(2)位于摄像部的视野内但在摄像图像上看不到的部分。
(3)一次也没进入摄像部的视野内的部分。
可否分析判定部37检测摄像图像中的与不可分析部分对应的图像上的区域作为不可分析区域。另外,在对不可分析部分进行细化的情况下,将与第1不可分析部分对应的图像上的区域设为第1不可分析区域。同样,将与第2不可分析部分对应的图像上的区域设为第2不可分析区域。由于未拍摄到第3不可分析部分,因此不需要考虑第3不可分析区域。
图13是说明可否分析的判定处理的流程图。在开始该处理后,首先,可否分析判定部37从图像处理部32取得摄像图像(S21)。接着,可否分析判定部37根据摄像图像的画质来判定可否分析(S22)。这里的画质具体是表示摄像图像的明亮度、摄像角度、遮挡程度的信息。遮挡程度在狭义上是遮挡物的有无。
具体而言,表示明亮度的信息是亮度的信息。亮度是RGB这3个像素值的加权和,能够利用各种权重。摄像图像中的极亮的区域、例如泛白的区域不包含管腔的具体信息,不适合于分析。管腔的信息包含管腔表面的凹凸构造、管腔表面或内部的血管构造、粘膜的色调等各种信息。由此,可否分析判定部37将摄像图像中的明亮度为规定以上的区域判定为不可分析区域。例如,可否分析判定部37将亮度为给定的第1亮度阈值以上的区域判定为不可分析区域。
此外,摄像图像中的极暗的区域、例如涂黑的区域也不包含管腔的具体信息,不适合于分析。因此,可否分析判定部37将摄像图像中的明亮度为规定以下的区域判定为不可分析区域。例如,可否分析判定部37将亮度为给定的第2亮度阈值以下的区域判定为不可分析区域。这里,第1亮度阈值>第2亮度阈值。此外,作为表示明亮度的信息,也可以使用明度等其他信息。
另外,关于泛白、涂黑的区域,丢失管腔信息的可能性高,因此可否分析判定部37将该区域判定为第2不可分析区域。但是,根据阈值的设定,也会存在虽然视觉辨认性低但残存有管腔的信息的情况。因此,可否分析判定部37也可以将根据明亮度被判定为不可分析区域的区域设为第1不可分析区域。此外,可否分析判定部37也可以省略不可分析区域的分类。
此外,可否分析判定部37检测管腔内的遮挡物,将管腔表面被该遮挡物覆盖的区域判定为不可分析区域。残渣、污水、泡、血液、止血用的夹子等遮挡物呈现出与粘膜等管腔表面不同的色调。由此,可否分析判定部37例如根据摄像图像进行从RGB的像素值向HSV颜色空间的转换处理,并将摄像图像中的色相(Hue)、色度(Saturation)为给定的范围内的区域判定为被遮挡物遮挡的不可分析区域。此外,可否分析判定部37也可以进行从RGB的像素值向YCrCb颜色空间的转换处理,并根据作为色差信号的Cr、Cb中的至少一方来检测遮挡物。此外,可否分析判定部37也可以在存在明亮度不均的情况下,在进行浓淡校正等滤波处理后,进行上述色调的判定处理。浓淡校正处理例如是针对每个区域的伽马校正处理。此外,在如止血用的夹子那样遮挡物的颜色、形状为已知的情况下,可否分析判定部37也可以进行该遮挡物的采样图像与摄像图像的比较处理,由此进行检测遮挡物的处理。
另外,即使存在被遮挡物覆盖的区域,在该区域的面积足够小的情况下,在该遮挡物之下存在息肉等关注区域的可能性也低。由此,可否分析判定部37也可以将被遮挡物覆盖的区域中的规定尺寸以上的区域设为不可分析区域。另外,这里的尺寸可以是图像上尺寸,也可以是管腔上的实际尺寸。从图像上尺寸向实际尺寸的转换能够根据透镜、摄像元件等的光学特性信息和到被摄体的距离信息来执行。光学特性信息在设计上是已知的。距离信息可以使用距离传感器来取得,也可以根据使用立体照相机的立体图像来计算出。此外,距离信息也可以使用在第3实施方式中在后面说明的管腔构造信息的计算结果来求出。如后述那样,在管腔构造信息的计算处理中,对前端部11的三维位置和特征点的三维位置进行估计,因此能够根据估计结果来决定从前端部11到摄像图像上的给定的像素的距离。此外,可否分析判定部37也可以根据摄像图像的明亮度来计算距离信息。该情况下,判定为明亮区域的距离近、昏暗区域的距离远。
另外,存在遮挡物的区域会丢失管腔信息,因此可否分析判定部37将该区域判定为第2不可分析区域。
此外,可否分析判定部37根据被摄体的摄像角度来判定可否分析。这里的摄像角度例如是指将前端部11和被摄体连接的直线与被摄体表面的法线方向所成的角度。例如,在***部前端与被摄体正对着的情况下,摄像角度成为接近0°的较小的值。另一方面,在光轴成为沿着管腔的长度方向的方向的情况下,管腔壁面的摄像角度成为比0°大一定程度的值。在摄像角度大的情况下,从倾斜方向对被摄体进行拍摄,因此,该被摄体在图像上的尺寸非常小,可能会丢失细微的构造等的信息。
可否分析判定部37例如也可以取得管腔构造信息的计算处理结果,计算摄像图像中的各被摄体的摄像角度。在该情况下,可否分析判定部37将摄像角度成为给定的角度阈值以上的区域判定为不可分析区域。或者,可否分析判定部37也可以根据距离信息来判定摄像角度。例如,在摄像角度大的情况下,在图像上的狭小范围内,到被摄体的距离急剧变化。因此,可否分析判定部37也可以判定包含处理对象像素的给定的区域中的距离信息的变化程度,在变化程度大的情况下,判定为摄像角度大。距离信息能够根据摄像图像的明亮度等各种信息来计算。例如,可否分析判定部37也可以将摄像图像分割成多个区域,并根据各区域的明亮度分布来求出摄像角度。
另外,可否分析判定部37将摄像角度大的区域判定为第1不可分析区域。
以上,作为与画质有关的判定基准对明亮度、遮挡程度、摄像角度进行了说明。在图13的S22中,可否分析判定部37也可以使用它们全部进行判定。例如,可否分析判定部37将在明亮度、遮挡程度、摄像角度中的至少一个判定基准下被判定为不可分析的区域设为不可分析区域。但是,可否分析判定部37也可以使用明亮度、遮挡程度、摄像角度的一部分判定基准来进行可否分析的判定。
接着,可否分析判定部37检测有无隐藏部分,由此进行可否分析的判定(S23)。图14是示出存在褶皱时的摄像图像的例子的图。如图14所示,在存在褶皱那样的由于肠道的表面构造而未被拍摄到的隐藏部分的情况下,拍摄到照明光照射不到且成为暗影的部分SA。暗影的部分SA与其他部分相比,明亮度阶段性地降低。因此,在相邻的像素或相邻的像素区域之间亮度差为规定的亮度值以上时,可否分析判定部37判定为存在隐藏部分。例如,可否分析判定部37将包含成为暗影的部分SA的给定的区域判定为不可分析区域。
更具体而言,可否分析判定部37取得表示摄像图像的明亮度的信息。表示明亮度的信息例如是上述的亮度。然后,在图像中的规定的像素区域内相邻的2个像素的亮度值之差为规定值以上、或者存在昏暗的条纹状部分的情况下,可否分析判定部37将对象区域判定为不可分析区域。
或者,可否分析判定部37也可以取得使用了距离传感器等的距离信息。在该情况下,在相邻的2个像素的距离之差为规定值以上、或者存在距离的变化不连续的部分时,可否分析判定部37将对象的区域判定为不可分析区域。
另外,可否分析判定部37将被判定为存在由于褶皱等而引起的隐藏部分的区域判定为第2不可分析区域。
接着,可否分析判定部37根据区域尺寸进行可否分析的判定(S24)。通过步骤S22、S23的处理,针对摄像图像的各像素来取得能够分析和不能分析中的任意一个的判定结果。可否分析判定部37将被判定为能够分析的连续的像素设定为一个可分析区域。同样,可否分析判定部37将被判定为不能分析的连续的像素设定为一个不可分析区域。
在可分析区域的尺寸为给定的尺寸阈值以下的情况下,可否分析判定部37将该可分析区域变更为不可分析区域。这里的尺寸例如是图像上的尺寸,也可以是面积。图像上的面积例如是成为对象的区域中包含的像素的总数。即使画质没有问题,在成为对象的区域在图像上的面积极小的情况下,关注区域未以足够的大小被拍摄,因此也很难进行适当的分析。由此,通过将面积为规定以下的区域从可分析区域中排除,能够适当地判定可否分析。另外,即使面积大于尺寸阈值,在区域在纵向、横向上极长的情况下,也很难进行适当的分析。由此,可否分析判定部37也可以在满足可分析区域的纵向的长度为规定以下、横向的长度为规定以下中的至少一方的情况下,将该可分析区域变更为不可分析区域。此外,可否分析判定部37也可以进行将图像上的尺寸转换为实际尺寸的处理,并根据转换后的尺寸判定可否分析。
另外,可否分析判定部37将由于尺寸小而被变更为不可分析区域的区域判定为第1不可分析区域。
接着,可否分析判定部37判定是否由用户执行分析(S25)。不由用户执行分析的情况例如相当于内窥镜***1包含上述的分析部36且通过该分析部36进行分析的情况。但是,分析部36也可以设置于内窥镜***1的外部。
在省略分析部36而由用户进行分析的情况下(S25:是),可否分析判定部37根据图像的稳定性判定可否分析(S26)。这里的图像的稳定性是指时间序列的摄像图像之间的被摄体的运动的大小。运动包含平行移动、旋转、振动等,通过前端部11和被摄体相对移动而产生。设想用户一边观看动态图像一边判定关注区域的有无、恶性度等。因此,即使给定的帧中的摄像图像包含根据画质、区域尺寸被判定为能够分析的区域,在包含该帧的期间内的图像的稳定性低的情况下,图像上的被摄体的状态也会剧烈变化,因此用户很难进行分析。由此,可否分析判定部37根据包含作为处理对象的摄像图像的时间序列的图像来判定图像的稳定性,在运动为规定以上的情况下,将作为该处理对象的摄像图像中包含的可分析区域变更为不可分析区域。另外,可否分析判定部37也可以针对平行移动、旋转、振动各自的运动量进行判定,还可以将它们汇总来求出一个运动量,并进行求出的运动量与阈值的比较。另外,关于求出运动量的方法,公知有运动矢量、光流等各种方法,在本实施方式中能够广泛应用这些方法。运动量的大小也可以根据实际的尺寸、或者摄像图像上的外观上的大小来进行判断。
另外,可否分析判定部37将由于运动大而被判定为不可分析区域的区域判定为第1不可分析区域。
另一方面,在用户不进行分析的情况下(S25:否),在图像的稳定性低的情况下,也能够进行适当的分析。因此,可否分析判定部37省略步骤S26的处理。
如上所述,内窥镜***1包含可否分析判定部37,该可否分析判定部37根据摄像图像判定是否能够进行基于该摄像图像的分析。这样,能够适当地判定管腔是否在能够分析的状态下被进行了拍摄。
如上所述,可否分析判定部37也可以根据摄像图像中的被摄体的运动的大小来输出可否分析信息。这样,例如在可能由于运动大而导致用户无法观察图像上的被摄体的情况下,判定为不可分析。例如,即使存在以高画质被拍摄到的被摄体,在该被摄体在动态图像中始终持续运动的情况下,也能够判定为不适合于分析。
此外,可否分析判定部37根据摄像图像的画质输出可否分析信息。这样,在由于画质差而无法分析的情况下,能够判定为可能漏看。
此外,可否分析判定部37也可以在根据给定的基准将摄像图像划分成多个区域后,根据多个区域的各区域的大小来输出各区域中的可否分析信息。这里的给定的基准例如是如上所述的画质。此外,多个区域是可分析区域或不可分析区域。一个可分析区域由被判定为能够分析的连续的像素构成。这样,能够抑制将小到不适合于分析的程度的区域判定为可分析区域。
此外,控制部33也可以根据可否分析信息对扭转机构18和进退机构17进行控制。例如在第1摄像图像的一部分或全部区域、特别是图9的(B)的C3中的下侧的区域中检测到不可分析区域的情况下,控制部33进行减小进退机构17的移动速度或移动量的控制。在该情况下,与图9的(B)的例子相比,与第2摄像区域对应的摄像范围C4向上侧位移,因此,能够进行容易使2个摄像图像的可分析区域重复的控制。即,能够全面地、且在能够分析的状态下对管腔进行拍摄。
此外,控制部33也可以在判定为在管腔中的进行了扫描的部分中存在分析部36不能分析的部分的情况下,进行再扫描。如上所述,这里的再扫描可以是通过抑制***部2b的拔出量而对相同部分进行拍摄,也可以是通过将***部2b再次向里侧方向***而对相同部分进行拍摄。这样,能够抑制产生不可分析部分,能够抑制漏看。
在进行再扫描时,控制部33也可以进行变更扫描条件的控制。具体而言,控制部33使用与拍摄被判定为不可分析的摄像图像时的扫描条件不同的扫描条件来进行再扫描。这里的扫描条件包含与扫描中的前端部11的运动有关的条件、与拍摄摄像图像时的光源或光学***有关的条件、以及对摄像图像进行的图像处理的条件等。
如上所述,在存在不可分析部分的情况下,可认为摄像时的画质、运动量不适当,或者作为对象的部分具有褶皱等产生隐藏部分的构造。因此,在不变更扫描条件而进行了再扫描的情况下,在该再扫描中也同样可能产生不可分析部分。通过变更扫描条件,能够抑制产生不可分析部分。
具体而言,控制部33执行如下控制中的至少一个控制作为变更扫描条件的控制:进行对管腔注入气体的送气和从管腔排出气体的脱气的控制;去除位于管腔内部的遮挡物的控制;以及对基于扭转机构18和进退机构17中的至少一方的视野的运动进行变更的控制。
例如,通过进行送气、脱气,能够消除褶皱折叠的状态。因此,通过送气或脱气能够拍摄隐藏部分。或者,通过去除遮挡物,能够对位于遮挡物的背面的被摄体进行拍摄。遮挡物的去除可以通过基于送水的清洗来进行,也可以通过抽吸来进行。此外,遮挡物有时会附着于前端部11而不是管腔的壁面,但在该情况下也能够基于送水、抽吸进行去除。
此外,控制部33通过对视野的运动进行变更来对摄像角度、到管腔的距离进行变更。由此,能够从接近正面的位置在合焦的状态下对被摄体进行拍摄,并且还能够确保足够的分辨率。例如,控制部33也可以使***部2b在与基准轴AX1垂直的方向上移动,由此对旋转轴进行调整。或者,控制部33也可以对弯曲部12的弯曲程度进行变更,由此进行变更旋转半径的控制。或者,控制部33也可以取得前端部11与管腔之间的距离信息,根据该距离信息动态地变更旋转半径,由此进行追踪肠道表面的扫描。距离信息能够通过任意的方法来取得,例如通过距离传感器取得。另外,在进行追踪肠道表面的扫描的情况下,需要取得距离信息,并根据该距离信息对弯曲部12进行控制,因此,为了提高追踪性,优选减小旋转速度。此外,通过对摄像角度、到管腔的距离进行变更,还能够对摄像图像的明亮度进行调整。
此外,为了改善画质,控制部33可以对光源部的光量进行控制,也可以对针对摄像信号的AGC(Auto Gain Control:自动增益控制)中的输出电平进行控制,还可以对降噪等图像处理的参数进行控制。
此外,控制部33也可以根据不可分析部分是否位于此后要拍摄的预定的范围内来切换控制。此后要拍摄的预定的范围具体是比前端部11的当前位置更靠***侧的范围。例如,控制部33根据表示进退机构17的控制历史的信息,判定作为对象的不可分析部分相对于前端部11的当前位置是靠近前侧还是靠近里侧。表示控制历史的信息例如是对进退机构17进行驱动的驱动部中包含的编码器的时间序列的输出。不位于此后要拍摄的预定的范围内的不可分析部分是依然会漏看的可能性高的部分,因此,下面表述为漏看部分。
即使上述第3不可分析部分存在于此后要拍摄的预定的范围内,其也只是未被拍摄,通过继续进行扫描,其有可能在能够分析的状态下被进行拍摄。因此,针对第3不可分析部分变更扫描条件的必要性低,首先通过通常的扫描来尝试拍摄即可。此外,针对存在于此后要拍摄的预定的范围内的第1、第2不可分析部分,即使不改变扫描条件,它们进入视野的可能性也高。但是,如上所述,第1、第2不可分析部分是进入视野但在摄像图像上未被明确拍摄到的部分。因此,控制部33在考虑了被判定为不可分析的要因的基础上,对扫描条件进行变更。
此外,针对不位于要拍摄的预定的范围内的第1~第3不可分析部分,都有可能需要进行朝向里侧方向的***这样的与通常的扫描不同的控制。因此,控制部33进行将***部2b***的控制,并且在变更了扫描条件后执行再扫描。另外,将***部2b***的控制可以是使用扭转机构18、进退机构17自动地将***部2b***的控制,也可以是请求用户***的提示控制等。
4.第3实施方式
此外,内窥镜***1也可以取得表示管腔构造的管腔构造信息。下面,对管腔构造信息的取得处理进行详细说明。此外,还对将管腔构造信息和在第2实施方式中在前面说明的可否分析信息关联起来的方法进行说明。
4.1管腔构造信息的取得处理
图15是示出本实施方式的内窥镜***1的结构的图。内窥镜***1也可以在图1所示的结构的基础上包含管腔构造检测装置5和磁场产生装置7。
在***部2b的前端部11配置有磁传感器16。具体而言,磁传感器16是配置于前端部11的摄像元件15的附近且用于检测摄像元件15的视点的位置和姿态的检测装置。磁传感器16具有2个线圈16a、16b。例如,圆筒状的2个线圈16a、16b的2个中心轴相互正交。因此,磁传感器16是6轴传感器,其检测前端部11的位置坐标和取向。这里的取向是指欧拉角。磁传感器16的信号线2e从内窥镜2延伸出,与管腔构造检测装置5连接。
磁场产生装置7产生规定的磁场,磁传感器16检测由磁场产生装置7产生的磁场。磁场产生装置7通过信号线7a与管腔构造检测装置5连接。磁场的检测信号经由信号线2e从内窥镜2提供到管腔构造检测装置5。另外,也可以代替磁传感器16而在前端部11设置磁场产生元件,也可以代替磁场产生装置7而在患者Pa的外部设置磁传感器,从而检测前端部11的位置和姿态。这里,通过磁传感器16,实时地检测前端部11的位置和姿态,换言之,实时地检测由摄像元件15取得的摄像图像的视点的位置和朝向。
图16是管腔构造检测装置5的结构例。管腔构造检测装置5包含:处理器51、存储装置52、接口53、位置姿态检测部55和驱动电路56。管腔构造检测装置5的各部通过总线58相互连接。
处理器51是具有CPU和存储器且对管腔构造检测装置5内的各部的处理进行控制的控制部。存储器是包含ROM、RAM等的存储部。在ROM中存储有由CPU执行的各种处理程序和各种数据。CPU能够读出并执行ROM和存储装置52中存储的各种程序。
在存储装置52中存储有管腔构造计算程序。管腔构造计算程序是根据前端部11的位置和姿态的信息以及摄像图像来计算管腔构造信息的软件程序。通过CPU读出并执行管腔构造计算程序,处理器51构成管腔构造计算部,该管腔构造计算部根据由摄像元件15得到的摄像图像和由磁传感器16检测到的前端部11的三维配置来计算管腔的三维构造。
接口53将由处理器51计算出的管腔构造信息输出到图像处理装置3。接口53例如是与图像处理装置3进行通信的通信接口。
此外,接口53也可以兼作图像取入部。图像取入部是以一定的周期取入在图像处理装置3中得到的摄像图像的处理部。例如,以与从内窥镜2取得图像的帧率相同的速率,在1秒内从图像处理装置3取得30张摄像图像。另外,这里,图像取入部在1秒内取入30张摄像图像,但也可以以比帧率长的周期来取得摄像图像。例如,图像取入部也可以在1秒内取入3张等的摄像图像。
位置姿态检测部55对驱动磁场产生装置7的驱动电路56进行控制,使磁场产生装置7产生规定的磁场。位置姿态检测部55通过磁传感器16检测该磁场,并根据检测到的该磁场的检测信号来生成摄像元件15的位置坐标(x、y、z)和取向(vx、vy、vz)的数据。取向是指欧拉角。即,位置姿态检测部55是根据来自磁传感器16的检测信号检测摄像元件15的位置和姿态的检测装置。
图17是示出管腔构造的计算处理的流程的例子的流程图。首先,医生在将***部2b的前端部11配置在***的位置的状态下对未图示的输入装置进行规定的操作。根据该操作,处理器51设定来自位置姿态检测部55的位置和姿态的数据作为计算管腔构造时的前端部11的基准位置和基准姿态(S1)。例如,医生在将前端部11接触到***的状态下,进行将三维空间内的***的位置处的前端部11的基准位置和基准姿态设为初始值的设定。通过以下的处理计算出的管腔构造是根据这里设定的基准位置和基准姿态而计算出的。
在设定基准位置和基准姿态后,医生将前端部11***到大肠的最里部。从***部2b的前端部11位于大肠的最里部的状态起,一边输送空气来使大肠内扩张,医生一边拉拽***部2b一边使其朝向***移动,并且在中途停止***部2b的拔出的同时,使弯曲部12向各个方向弯曲来观察大肠的内壁。在医生观察大肠的内壁时,计算大肠的管腔构造。
作为图像取入部的接口53从由图像处理装置3每三十分之一秒提供的摄像图像中取得每个规定的周期Δt的摄像图像(S2)。周期Δt例如是0.5秒。CPU获取由取得了摄像图像时的位置姿态检测部55输出的前端部11的位置和姿态的信息(S3)。
处理器51计算在S2中取得的1张摄像图像和此前已经取得的1张以上的摄像图像中的多个特征点等在三维空间内的位置信息(S4)。计算出的多个特征点等的位置信息的集合成为管腔构造的信息。如后述那样,各特征点的位置信息可以根据图像信息使用SLAM(Simultaneous Localization and Mapping:即时定位与地图构建)、SfM(Structure fromMotion:运动恢复结构)等方法来计算,也可以使用三角测量的原理来计算。关于各特征点的位置的计算方法在后面说明。
另外,在取得了最初的1张摄像图像时,由于不存在此前已经取得的摄像图像,因此在取得规定张数的摄像图像之前,不执行S4的处理。
处理器51通过追加计算出的多个特征点等的位置信息,生成或更新管腔构造信息(S5)。
图18是管腔构造信息的例子。在S5中生成的管腔构造信息通过由内窥镜2观察到的区域中的一个以上的特征点等的集合而构成。管腔构造信息是3D数据。图18示出了从给定的视点观察管腔构造信息时的图像。例如在显示管腔构造信息的情况下,用户通过输入对视点位置进行变更的指示,能够对从360度的期望的方向观察时的管腔的构造进行确认。
此外,在图18中,例示出了还考虑了管腔中的凹凸的管腔构造信息。但是,管腔构造信息也可以是进一步被简化的信息。例如,管腔构造信息也可以是圆筒模型。通过将管腔假定为圆筒,能够减轻处理负荷。例如在如后述那样不使用磁传感器16等传感器的实施方式中,通过将管腔的形状设为圆筒而实现的计算量的削减效果较大。此外,作为简化的方法,可以设想没有屈曲的直线状的管腔、仅具有简单的屈曲的管腔,也可以设想仅标准的管腔构造的每个部位的长度、直径等尺寸不同的构造模型。
管腔构造检测装置5的接口53将生成的管腔构造信息输出到图像处理装置3(S6)。此外,在S6中,接口53也可以进行在监视器6中显示管腔构造信息的控制。接着,处理器51判定***部2b是否已从患者中拔出(S7)。例如,用户在拔出了***部2b的情况下,使用未图示的输入装置进行表示观察结束的用户输入。处理器51根据该用户输入来进行S7所示的判定。在未进行拔出的情况下(S7:否),处理返回到S2。
关于S4的特征点等位置的计算,存在各种方法。下面,对若干个方法进行说明。处理器51也可以利用SLAM、SfM等方法计算连续的多个图像上的特征点的位置。
在管腔构造信息的生成中,能够应用如下的光束法平差:使用非线性最小二乘法,根据图像对内部参数、外部参数和世界坐标点组进行优化。例如,使用估计出的各参数对提取出的多个特征点的世界坐标点进行透视投影转换,并以使重投影误差成为最小的方式来求出各参数和各世界坐标点组。
通过求解5点和8点算法来计算与前端部11有关的外部参数。根据前端部11的位置和三角测量法来计算特征点的位置。投影到图像平面上的3D点的坐标与基于重投影误差的特征点之间的误差E通过下面的式(3)表示。
【数学式1】
这里,L是K个图像上的特征点的数量,Psj是在图像平面上通过三角测量和前端部11的参数而估计出的3D点Pi的坐标位置,Pi是图像上的对应的特征点的坐标位置。使用LM(Levenberg-Marquartdt)法,以将式(3)的误差E的函数最小化的方式来计算前端部11的位置坐标。
图19是通过光束法平差进行各特征点在三维空间内的位置计算的方法的流程图。处理器51在将***的位置设定为初始位置时,将时刻t设为t0,将软件计数器的计数值n设为0(S11)。
处理器51取得时刻t0的摄像图像和前端部11的位置及姿态的信息(S12)。从图像处理装置3取得摄像图像。从位置姿态检测部55取得前端部11的位置和姿态的信息。
处理器51决定初始位置即***的位置处的前端部11的位置和姿态(S13)。例如,将***的位置(x、y、z)决定为(0,0,0),将姿态(vx、vy、vz)决定为(0,1,0)。S11和S13对应于图17的S1。
处理器51取得时刻(t0+nΔt)的摄像图像和前端部11的位置及姿态的信息(S14)。S12和S14对应于图17的S2。另外,也可以对前端部11的位置和姿态的信息进行校正。例如,使用卡尔曼滤波器对前端部11在过去通过的路径进行校正,根据校正后的该路径,对过去的前端部11的位置进行校正。
处理器51在n成为k时,提取各摄像图像中的多个特征点,将k个时间点的前端部11的位置和姿态即前端部11的三维配置设为已知,并通过上述的光束法平差来计算在所得到的摄像图像中包含的m个特征点的位置(S15)。
图20是用于说明连续取得的多个摄像图像上的特征点与前端部11的位置和姿态之间的关系的示意图。在图20中,白色三角形Pw表示前端部11的实际的位置和姿态,黑色三角形Pb表示估计出的前端部11的位置和姿态。示出了前端部11沿着实线实际移动的情况。被估计出的前端部11沿着虚线移动。伴随着时间经过,前端部11的位置移动,前端部11的姿态发生变化。
此外,在图20中,白色四边形pw表示特征点的实际的位置,黑色四边形pb表示特征点的被估计出即计算出的位置。特征点例如是在摄像图像中形状、颜色具有特征且容易判别或追踪的部位。
为了得到大肠的三维管腔构造,求出大肠的肠道的内壁上的多个特征点的坐标,通过求出的多个坐标的集合或将这些坐标连接起来来生成三维模型。即,管腔的三维构造是根据计算出的各特征点在三维空间内的位置来决定的。
在图20中,各时间点的前端部11的位置和姿态的信息包含与6个轴相应的信息,因此k个时间点的前端部11的位置和姿态的信息包含6k个信息。各特征点的位置包含与3个轴相应的信息,因此m个特征点的位置的信息包含3m个信息。因此,在使用SLAM、SfM等方法的情况下,应决定的参数的个数为(6k+3m)个。
在本实施方式的方法中,如上所述,可以在内窥镜2的前端部11设置有磁传感器16,管腔构造检测装置5可以包含位置姿态检测部55,该位置姿态检测部55取得由磁传感器16检测到的位置姿态信息。在该情况下,与前端部11的位置和姿态对应的6k个参数为已知。基于处理器51的优化运算被限定为计算3m个参数,因此能够减少优化运算的处理量。因此,能够实现处理的高速化。此外,通过削减参数数量来抑制检测误差的蓄积,因此能够抑制生成的三维模型构造发生偏差。
此外,即使在内窥镜2的***部2b的前端部11被推压到管腔的内壁、浸渍于脏污的清洗水中、摄像图像抖动等而无法得到适当的连续的摄像图像的情况下,也能够得到前端部11的位置和姿态的信息。因此,即使发生无法得到连续的摄像图像的情况,能够计算3m个参数的可能性也提高。其结果是,管腔构造的计算的鲁棒性提高。
返回图19继续进行说明。处理器51在生成完毕的管腔构造信息中追加新计算出的特征点的位置信息,并对管腔构造信息进行更新(S16)。S16对应于图17的S5。
处理器51对过去计算出的特征点的位置信息进行校正(S17)。针对新计算而得到的3m个特征点中的过去计算出的特征点的位置信息,使用新计算出的位置信息、例如通过平均值运算来对过去计算出的位置信息进行校正。另外,也可以不进行S17的处理,也可以利用新计算出的特征点的位置信息对过去计算出的各特征点的位置信息进行更新。
在S17之后,处理器51将n增加1(S18),判定是否输入了检查结束的命令(S19)。检查结束的命令例如是在***部2b从大肠拔出后由医生向输入装置输入的规定的命令。当输入该命令时(S19:是),处理结束。
在未输入检查结束的命令时(S19:否),处理转移到S14。其结果是,处理器51取得从摄像图像的最后的取得时刻起经过周期Δt之后的摄像图像(S14),并执行S14以后的处理。
通过进行以上的处理,输出管腔构造信息。设想本实施方式中的管腔是除了端部以外没有孔等的连续的曲面。由此,在取得的管腔构造信息中,期待给定的特征点与其附近的特征点之间的距离在某种程度上较小。在存在特征点粗的部分的情况下,能够判定为该部分是不可分析部分,该特征点粗的部分例如在某种程度上较宽的范围内特征点为规定阈值以下的部分。更具体而言,判定为是不可分析部分中的上述第3不可分析部分。另外,在大肠的观察中,首先将***部2b***到里侧,一边拔出一边生成管腔构造信息。由此,基本上将比当前观察中的部位更靠***侧的部分判定为第3不可分析部分。
此外,这里的不可分析部分例如对应于图18的UIA。在图18中,示出了管腔构造信息因存在不可分析部分而被分割成2个的例子。如果是设置有用于检测***部2b的前端部11的位置和姿态的传感器,则在像这样管腔构造信息被分割的情况下,也能够确定被分割后的多个管腔构造信息的位置关系。即,在管腔构造信息被分割的情况下,也能够对管腔整体的构造进行估计。
另外,在能够使用传感器检测位置姿态的情况下,求出管腔构造信息的处理不限于光束法平差。例如,处理器51也可以根据2个图像,使用三角测量来求出管腔构造信息。具体而言,处理器51根据前端部11的位置和姿态的信息以及2张摄像图像,使用三角测量来计算特征点的位置。即,根据摄像元件15的位置及姿态的信息和由摄像元件15取得的2张摄像图像中包含的特征点的像素的位置信息而基于三角测量计算出像素在三维空间内的位置信息,根据该像素在三维空间内的位置信息来决定管腔的三维构造。
此外,可以根据在2个时刻得到的2张摄像图像进行三角测量,也可以根据使用立体照相机在相同时刻得到的2张摄像图像进行三角测量。
此外,处理器51也可以使用光度立体法图像来计算各特征点的位置。在该情况下,在***部2b的前端部11设置有多个照明窗。通过对设置于光源装置4的照明用的多个发光二极管的驱动进行控制,能够将从多个照明窗射出的多个照明光进行切换并选择性地射出。
被摄体的表面的图像中的阴影部分的状态根据照明光的切换而变化。因此,能够根据该变化量来计算到被摄体的表面上的阴影部分为止的距离。即,能够根据由选择性地进行动作的多个照明部进行照明而得到的摄像图像中的阴影区域的图像,基于光度立体法决定管腔的三维构造。
此外,处理器51也可以使用距离传感器来计算管腔构造。距离传感器例如是通过TOF(Time Of Flight:飞行时间)检测距离图像的传感器。距离传感器通过计测光的飞行时间来计测距离。距离传感器设置于***部2b的前端部11,针对每个像素来检测从前端部11到管腔的内壁的距离。能够根据由距离传感器检测到的与各像素有关的距离和前端部11的位置姿态来计算大肠的内壁的各点的位置信息即管腔的三维构造。另外,距离传感器也可以是LiDAR(Light Detection and Ranging/Laser Imaging Detection and Ranging:激光成像探测)等其他方式的传感器。此外,也可以在前端部11设置射出规定的图案光的照明部,处理器51通过图案光投影来进行从前端部11到内壁的测距。
此外,在本实施方式的方法中,在管腔构造信息的计算中使用磁传感器16等位置姿态检测用的传感器的结构不是必需的。具体而言,能够省略图15所示的磁传感器16和磁场产生装置7。
在该情况下,处理器51根据多个摄像图像,使用SLAM、SfM等方法计算管腔构造信息。例如,在上述的例子中,处理器51执行对包含前端部11的位置姿态的(6k+3m)个参数进行优化的处理。
如图15、图16所示,本实施方式的内窥镜***1也可以包含管腔构造信息取得部。管腔构造信息取得部具体对应于处理器51。管腔构造信息取得部根据摄像图像来求出表示管腔的构造的管腔构造信息。此外,内窥镜***1也可以包含位置姿态检测部55,该位置姿态检测部55从位置传感器取得被摄体光取得部20相对于管腔的位置姿态信息,该位置传感器设置在被***到管腔中的***部2b的前端。位置传感器例如是磁传感器16。在该情况下,管腔构造信息取得部根据位置姿态信息和摄像图像来求出表示管腔的构造的管腔构造信息。另外,在图15和图16中,对管腔构造检测装置5包含位置姿态检测部55和管腔构造信息取得部的例子进行了说明,但管腔构造检测装置5也可以与图像处理装置3一体地设置。此外,管腔构造检测装置5的一部分或全部结构也可以通过云计算来实现。
在不取得管腔构造信息的情况下,也能够根据进退机构17的控制量估计***量,并且也能够根据扭转机构18的控制量大致地估计对管腔的哪个部分进行了拍摄。这里的控制量例如是编码器的输出。但是,管腔构造信息是根据摄像图像而取得的,因此与使用编码器输出的情况相比,能够高精度地估计对管腔的哪个部分以怎样的方式进行了拍摄。特别地,通过并用位置姿态信息,在如图18所示那样管腔构造被截断为2个以上的情况下,也能够对该2个以上的管腔构造的位置关系进行估计,因此能够高精度地对管腔的整体构造进行估计。由此,能够适当地执行关于是否适当地进行了扫描的判定、进行再扫描时的扫描条件的设定等。
4.2关联处理
图21是示出本实施方式的图像处理装置3的结构的图。如图21所示,图像处理装置3在图12所示的结构的基础上,还包含关联处理部38和漏看判定部39。但是,图像处理装置3不限于图21的结构,能够实施省略一部分结构要素、追加其他结构要素等各种变形。
关联处理部38进行将由可否分析判定部37求出的可否分析信息与管腔构造信息关联起来的处理。如上所述,使用摄像图像来执行可否分析的判定。通过将摄像图像上的可分析区域或不可分析区域是位于管腔构造的哪个部分关联起来,能够适当地判定应进行再扫描的部分。另外,能够根据扭转机构18、进退机构17的控制历史来估计再扫描的对象部分,而通过将可否分析信息与管腔构造信息对应起来,能够高精度地确定对象部分。此外,也考虑在进行再扫描时由用户将***部2b向里侧方向***。在该情况下,通过提示关联结果,能够以容易理解的方式向用户提示用于拍摄不可分析部分的具体操作。
另外,在管腔构造信息的计算处理中,对前端部11的位置姿态和摄像图像中的特征点的三维位置进行估计。即,在并行地执行使用内窥镜2的摄像图像的拍摄和管腔构造信息的计算的情况下,已经进行了摄像图像上的特征点与管腔构造的对应。
因此,关联处理部38通过使用管腔构造信息的计算处理结果来执行可否分析信息与管腔构造信息的关联处理。例如,关联处理部38能够根据特征点的三维位置来估计摄像图像中的特征点以外的点的三维位置。因此,通过利用多个点来规定摄像图像的可分析区域,并估计该多个点的三维位置,由此决定管腔构造中的与可分析区域对应的可分析部分。这里的多个点例如是设定在可分析区域的轮廓上的3个以上的点。
或者,规定可分析区域的多个点也可以是在管腔构造信息的计算中使用的特征点。例如,可否分析判定部37也可以取得在管腔构造信息的计算处理中设定的特征点的信息,根据该特征点来进行可否分析判定。例如,可以针对由3个以上的特征点包围的区域的每一个区域来执行图13的S22中的基于画质的判定。这样,通过直接利用在管腔构造信息的取得中使用的信息,能够确定可分析区域、不可分析区域的三维位置。具体而言,关联处理部38在2个以上的定时拍摄到的多个摄像图像上分别设定多个特征点。然后,关联处理部38判定在2个以上的定时拍摄到的的摄像图像上的多个特征点彼此的对应关系,由此在管腔的构造上关联可否分析信息。
图22是说明将可否分析信息与管腔构造关联起来的处理的示意图。可否分析信息是对摄像图像上的可分析区域和不可分析区域中的至少一方进行确定的信息。在图22中,例示出了椭圆形状的可分析区域A2和不可分析区域A1,但各区域例如是由3个以上的特征点规定的多边形。关联处理部38将三维位置已确定的多个特征点的集合即管腔构造信息中的、由规定可分析区域的特征点包围的闭合区域确定为可分析部分。例如,将与可分析区域A2对应的部分判定为可分析部分A4。然后,关联处理部38将管腔构造中的未被确定为可分析部分的区域确定为不可分析部分。
或者,关联处理部38也可以在确定可分析部分的同时,将管腔构造信息中的、由规定不可分析区域的特征点包围的闭合区域确定为不可分析部分。例如,将与不可分析区域A1对应的管腔上的部分判定为不可分析部分A3。在该情况下,根据第1摄像图像被判定为不可分析部分的管腔构造的给定部分有时会根据第2摄像图像被判定为可分析部分。在像这样可分析部分与不可分析部分重复的情况下,该重复部分被判定为可分析部分。这是因为,如果根据至少1张摄像图像被判定为能够分析,则通过使用该摄像图像能够以充分的精度进行分析。
图像处理装置3输出关联结果。例如,图像处理装置3进行将可分析部分和不可分析部分以不同形式进行显示的管腔构造信息显示于监视器6等显示部的处理。例如,不可分析部分也可以用与可分析部分不同的颜色进行显示、进行闪烁等动画显示。图22中的A3、A5、A6、A7是不可分析部分,该不可分析部分用与A4等可分析部分不同的颜色进行显示。此外,也可以显示箭头等对象、文本,由此进行提高不可分析部分的视觉辨认性的显示处理。
此外,在将不可分析部分细化为上述的第1~第3不可分析部分等的情况下,关联处理部38将摄像图像上的不可分析区域与管腔构造信息关联起来,由此确定不可分析部分。具体而言,与第1不可分析区域相关联的部分是第1不可分析部分,与第2不可分析区域相关联的部分是第2不可分析部分。此外,第3不可分析部分如上述那样能够根据管腔构造信息的缺失来进行检测。另外,在第1不可分析部分与第2不可分析部分重复的情况下,关联处理部38也可以根据各不可分析部分的尺寸、形状等来求出最终的关联结果。在该情况下,图像处理装置3进行将可分析部分、第1不可分析部分、第2不可分析部分、第3不可分析部分分别以不同形式显示于监视器6等的处理。
通过图22所示的处理,能够将管腔构造信息和可否分析信息关联起来。并且,图像处理装置3也可以检测不可分析部分中的、需要再次将***部2b向管腔的里侧方向***的部分即漏看部分。
图23的(A)、图23的(B)是例示内窥镜2的前端部11与不可分析部分的位置关系的图。图23的(A)、图23的(B)中的B1和B3表示不可分析部分,B2和B4表示摄像部的视野。在将***部2b***到最里部后,一边向近前侧拔出***部2b,一边使用内窥镜***1进行肠道的观察。最里部例如是盲肠的附近,近前侧是***侧。即使存在不可分析部分,在如图23的(A)所示那样该不可分析部分存在于前端部11的附近的情况下,也能够通过比较简单的操作对该不可分析部分进行拍摄。这里的操作例如是改变弯曲部12的朝向、稍微推压***部2b等操作。
与此相对,在图23的(B)中,在屈曲部的前方存在不可分析部分。屈曲部例如是SD交汇点等。为了观察比屈曲部更靠里侧的不可分析部分,需要进行越过屈曲部、褶皱的操作。
本实施方式的漏看判定部39不将图23的(A)所示的不可分析部分判定为漏看部分,而将图23的(B)所示的不可分析部分判定为漏看部分。此外,在不可分析部分存在于比前端部11的当前位置更靠近前侧的情况下,在此后的扫描中能够对其进行观察的可能性较高。由此,漏看判定部39不将比当前位置更靠近前侧的不可分析部分判定为漏看部分。这样,能够将只要用户不执行明确的操作则无法观察的可能性高的不可分析部分判定为漏看部分。
例如,在存在不可分析部分的情况下,漏看判定部39进行不可分析部分的位置与前端部11的当前位置的比较处理,由此判定不可分析部分是否位于比前端部11的当前位置更靠肠道的里侧方向。例如,漏看判定部39根据在管腔构造信息的计算处理中取得的时间序列的位置信息来判定里侧方向和近前方向。这里的位置信息可以是由磁传感器16等位置姿态检测传感器取得的信息,也可以是使用SLAM、SfM优化的参数。另外,检测加速度的陀螺仪传感器这样的与位置姿态的变化量有关的传感器通过适当地反复进行检测结果的时间积分也能够求出位置姿态,因此也可以将其设为位置姿态检测传感器。如上所述,在开始观察时是管腔的最里部,此后的前端部11的移动方向是近前方向。或者,在能够利用磁传感器16等的情况下,也可以根据在朝向里侧方向***时取得的位置姿态信息来判断里侧方向和近前方向。***时的移动方向是里侧方向。
在不可分析部分比前端部11更靠里侧方向的情况下,漏看判定部39判定是否能够通过弯曲部12的操作对该不可分析部分进行拍摄。弯曲部12的当前的位置姿态例如根据左右弯曲操作旋钮14a和上下弯曲操作旋钮14b的控制数据是已知的。此外,弯曲部12的最大弯曲角度等在设计上是已知的。因此,关联处理部38能够根据这些信息来判定是否能够通过弯曲部12的操作对该不可分析部分进行拍摄。
漏看判定部39将位于比前端部11更靠里侧方向且被判定为仅通过弯曲部12的操作无法进行拍摄的不可分析部分判定为漏看部分。此外,如上所述,不越过屈曲部这样的短距离的推入操作是比较容易的。因此,漏看判定部39还可以根据前端部11与不可分析部分之间的距离、屈曲部的有无等来判定是否将不可分析部分设为漏看部分,而不仅仅是根据不可分析部分是否位于比前端部11更靠里侧方向。
如上所述,内窥镜***1也可以包含关联处理部38,该关联处理部38根据可否分析信息和管腔构造信息,在管腔的构造上关联可否分析信息。关联处理部38将管腔的构造中的根据至少1张摄像图像被判定为能够分析的部分判定为可分析部分,将管腔的构造中的除了可分析部分以外的部分判定为不可分析部分。
根据本实施方式的方法,能够将是否以可执行病变检测、恶性度判定等期望的分析的状态对管腔进行了拍摄与该管腔的构造关联起来。因此,能够适当地判定在管腔构造中的哪个区域可能发生漏看。由此,能够适当地执行上述的再扫描。或者,内窥镜***1也可以向观察中的用户提示关联结果。
此外,内窥镜***1也可以将被判定为必须将***部2b向管腔的里侧方向***才能观察的不可分析部分判定为漏看部分。这样,能够确定发生漏看的可能性高的部分。例如,能够高精度地判定是否需要进行再扫描、此时是否需要再次将***部2b***。此外,在进行再次***的情况下,能够估计怎样使***部2b进行移动较好。
控制部33也可以进行扭转机构18和进退机构17的控制,以使漏看部分位于摄像部的视野内。这样,能够自动地执行再扫描,在狭义上是能够自动地执行伴随***部2b的再次***的再扫描,因此能够减轻医师等的负担。但是,控制部33也可以向用户提示用于对漏看部分进行拍摄的信息,并向用户委托用于进行再次***的具体操作。
此外,在通过将***部2b向管腔的里侧方向***后将其向近前方向拔出而进行管腔的观察的情况下,控制部33也可以在向近前方向拔出***部2b时进行扭转机构18和进退机构17的控制以及确定可分析部分的控制,扭转机构18和进退机构17的控制例如是通过摄像部的视野进行管腔的内壁的扫描。在容易对管腔的内壁进行拍摄的状况下,能够执行扫描和关联的各种控制。
另外,如上所述详细说明了本实施方式,但是,本领域技术人员能够容易地理解能够进行实质上不脱离本实施方式的新事项和效果的多种变形。因此,这样的变形例全部包含在本发明的范围内。例如,在说明书或附图中,至少一次与更加广义或同义的不同术语一起记载的术语能够在说明书或附图的任意位置被置换为该不同的术语。此外,本实施方式和变形例的全部组合也包含在本发明的范围内。此外,处理装置、内窥镜***等的结构和动作等也不限于本实施方式中说明的内容,能够实施各种变形。
标号说明
1:内窥镜***;2:内窥镜;2a:操作部;2b:***部;2c:通用缆线;2e:信号线;3:图像处理装置;4:光源装置;5:管腔构造检测装置;6:监视器;7:磁场产生装置;7a:信号线;8:床;11:前端部;12:弯曲部;12a:弯曲部;12b:弯曲部;12c:弯曲部;13:挠性管部;14:弯曲操作部件;14a:左右弯曲操作旋钮;14b:上下弯曲操作旋钮;14c:固定旋钮;15:摄像元件;16:磁传感器;16a、16b:线圈;17:进退机构;17a:进退辊;18:扭转机构;18a:旋转辊;18b:旋转机构;18c:透明部;19:驱动部;20:被摄体光取得部;20a:对焦透镜;20b:致动器;21:照明透镜;22:光导;31:图像取得部;32:图像处理部;33:控制部;34:存储部;35:对焦控制部;36:分析部;37:可否分析判定部;38:关联处理部;39:漏看判定部;51:处理器;52:存储装置;53:接口;55:位置姿态检测部;56:驱动电路;58:总线;AX1:基准轴;Pa:患者;SA:隐藏部分。
Claims (27)
1.一种内窥镜***,其特征在于,所述内窥镜***包含:
***部,其被***到管腔中;
被摄体光取得部,其设置于所述***部,取得来自被摄体的光即被摄体光;
摄像部,其基于所述被摄体光进行拍摄,由此取得视野内的摄像图像;
扭转机构,其使所述被摄体光取得部旋转;
进退机构,其使所述***部在***方向或拔出方向上移动;以及
控制部,其对所述扭转机构和所述进退机构进行控制,由此对所述摄像部的所述视野的运动进行控制,
所述控制部对所述扭转机构和所述进退机构进行控制,以通过所述视野进行所述管腔的内壁的扫描。
2.根据权利要求1所述的内窥镜***,其特征在于,
在将所述***部的轴设为基准轴的情况下,所述控制部通过对所述***部利用所述进退机构在沿着所述基准轴的方向上的移动和所述被摄体光取得部利用所述扭转机构在所述管腔的周向上的周期性旋转进行组合,来进行所述扫描。
3.根据权利要求2所述的内窥镜***,其特征在于,
将在给定的定时由所述摄像部拍摄到的所述摄像图像设为第1摄像图像,
将在所述第1摄像图像的拍摄后且由所述控制部进行了如下控制之后、由所述摄像部拍摄到的所述摄像图像设为第2摄像图像,该控制是将使所述被摄体光取得部绕所述基准轴旋转大致1周的控制和利用所述进退机构使所述***部在沿着所述基准轴的方向上移动的控制组合而成的控制,并且在这种情况下,
所述控制部对所述扭转机构和所述进退机构进行控制,以使所述第1摄像图像和所述第2摄像图像具有重复部分。
4.根据权利要求1所述的内窥镜***,其特征在于,
所述内窥镜***包含分析部,所述分析部根据所述摄像图像进行分析,
所述控制部对所述扭转机构和所述进退机构进行控制,以通过所述摄像部的所述视野中的、所述分析部能够分析的部分来进行所述管腔的内壁的扫描。
5.根据权利要求3所述的内窥镜***,其特征在于,
所述内窥镜***包含分析部,所述分析部根据所述摄像图像进行分析,
在将所述摄像图像中的、所述分析部能够分析的区域设为可分析区域的情况下,
所述控制部对所述扭转机构和所述进退机构进行控制,以使所述第1摄像图像中的所述可分析区域和所述第2摄像图像中的所述可分析区域具有重复部分。
6.根据权利要求4所述的内窥镜***,其特征在于,
在所述分析部根据所述摄像图像检测到关注区域的情况下,
所述控制部进行存储与所述关注区域有关的信息的处理和向用户提示与所述关注区域有关的所述信息的处理中的至少一个处理。
7.根据权利要求1所述的内窥镜***,其特征在于,
所述内窥镜***包含可否分析判定部,所述可否分析判定部根据所述摄像图像输出表示所述摄像图像是否处于可分析状态的可否分析信息,
所述控制部根据所述可否分析信息对所述扭转机构和所述进退机构进行控制。
8.根据权利要求7所述的内窥镜***,其特征在于,
所述可否分析判定部根据所述摄像图像中的被摄体的运动的大小来输出所述可否分析信息。
9.根据权利要求7所述的内窥镜***,其特征在于,
所述可否分析判定部根据所述摄像图像的画质来输出所述可否分析信息。
10.根据权利要求1所述的内窥镜***,其特征在于,
通过进行基于所述扭转机构的旋转和基于所述进退机构的移动,所述控制部进行使所述被摄体光取得部呈螺旋状移动的控制,或者进行使基于所述扭转机构的旋转和基于所述进退机构的移动交替进行的控制。
11.根据权利要求1所述的内窥镜***,其特征在于,
所述扭转机构具有在将所述***部的轴设为基准轴的情况下能够使所述***部的前端绕所述基准轴旋转的机构。
12.根据权利要求1所述的内窥镜***,其特征在于,
所述控制部在对所述扭转机构和所述进退机构进行控制以通过所述摄像部的所述视野进行所述管腔的内壁的扫描时,进行保持所述管腔的状态的控制。
13.根据权利要求12所述的内窥镜***,其特征在于,
所述控制部执行如下两种控制中的至少一方作为保持所述管腔的所述状态的控制,该两种控制是进行对所述管腔注入气体的送气及从所述管腔排出气体的脱气的控制和对被检体的***进行调整的控制。
14.根据权利要求1所述的内窥镜***,其特征在于,
所述控制部在判定为在所述管腔中的进行了所述扫描的部分中存在未进入所述摄像部的所述视野的部分的情况下,进行再扫描。
15.根据权利要求4所述的内窥镜***,其特征在于,
所述控制部在判定为在所述管腔中的进行了所述扫描的部分中存在所述分析部不能分析的部分的情况下,进行再扫描。
16.根据权利要求14或15所述的内窥镜***,其特征在于,
所述控制部在进行所述再扫描时,进行变更扫描条件的控制。
17.根据权利要求16所述的内窥镜***,其特征在于,
所述控制部执行如下控制中的至少一个控制作为变更所述扫描条件的控制:
进行对所述管腔注入气体的送气及从所述管腔排出气体的脱气的控制;
去除位于所述管腔内部的遮挡物的控制;以及
对基于所述扭转机构和所述进退机构中的至少一方的所述视野的运动进行变更的控制。
18.根据权利要求1所述的内窥镜***,其特征在于,
所述内窥镜***包含管腔构造信息取得部,所述管腔构造信息取得部根据所述摄像图像求出表示所述管腔的构造的管腔构造信息。
19.根据权利要求18所述的内窥镜***,其特征在于,
所述内窥镜***包含:
可否分析判定部,其根据所述摄像图像输出表示所述摄像图像是否处于可分析状态的可否分析信息;以及
关联处理部,其根据所述可否分析信息和所述管腔构造信息,在所述管腔的构造上关联所述可否分析信息,
所述关联处理部对可分析部分和不可分析部分进行确定,其中,该可分析部分是所述管腔的构造中的根据至少一张所述摄像图像被判定为能够分析的区域,该不可分析部分是所述管腔的构造中的除了所述可分析部分以外的部分。
20.根据权利要求19所述的内窥镜***,其特征在于,
所述内窥镜***包含位置姿态检测部,所述位置姿态检测部从位置传感器取得所述被摄体光取得部相对于所述管腔的位置姿态信息,该位置传感器设置在被***到所述管腔中的所述***部的前端,
所述管腔构造信息取得部根据所述位置姿态信息和所述摄像图像求出所述管腔构造信息。
21.根据权利要求19所述的内窥镜***,其特征在于,
所述内窥镜***包含漏看判定部,所述漏看判定部将被判定为必须将所述***部向所述管腔的里侧方向***才能观察的所述不可分析部分判定为漏看部分。
22.根据权利要求21所述的内窥镜***,其特征在于,
所述控制部进行所述扭转机构和所述进退机构的控制,以使所述漏看部分位于所述摄像部的所述视野内。
23.根据权利要求1所述的内窥镜***,其特征在于,
在将所述***部向所述管腔的里侧方向***后,在通过将所述***部向近前方向拔出而进行所述管腔的观察的情况下,
所述控制部至少在将所述***部向所述近前方向拔出时,对所述扭转机构和所述进退机构进行控制。
24.根据权利要求23所述的内窥镜***,其特征在于,
所述控制部在将所述***部向所述管腔的里侧方向***时,对所述扭转机构和所述进退机构进行控制。
25.根据权利要求20所述的内窥镜***,其特征在于,
在将所述***部向所述管腔的里侧方向***后,在通过将所述***部向近前方向拔出而进行所述管腔的观察的情况下,
所述关联处理部在将所述***部向所述近前方向拔出时,根据所述可否分析信息和所述管腔构造信息来进行在所述管腔的构造上关联所述可否分析信息的处理,
所述控制部在将所述***部向所述近前方向拔出时,进行所述扭转机构和所述进退机构的控制,以通过所述摄像部的所述视野进行所述管腔的内壁的扫描。
26.一种基于内窥镜***的管腔扫描方法,其包含以下内容:
将内窥镜***的***部***到管腔中,所述内窥镜***具有所述***部、设置于所述***部且取得来自被摄体的返回光即被摄体光的被摄体光取得部、以及基于所述被摄体光进行拍摄从而取得视野内的摄像图像的摄像部;以及
进行使所述被摄体光取得部旋转的扭转动作和使所述***部在***方向或拔出方向上移动的进退动作,以通过所述视野进行所述管腔的内壁的扫描。
27.根据权利要求26所述的基于内窥镜***的管腔扫描方法,其特征在于,
通过对所述进退动作和使所述被摄体光取得部在所述管腔的周向上周期性地旋转的所述扭转动作进行组合,来进行所述扫描。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/007976 WO2021171465A1 (ja) | 2020-02-27 | 2020-02-27 | 内視鏡システム及び内視鏡システムによる管腔走査方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115209782A true CN115209782A (zh) | 2022-10-18 |
Family
ID=77491088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080097620.5A Pending CN115209782A (zh) | 2020-02-27 | 2020-02-27 | 内窥镜***和基于内窥镜***的管腔扫描方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220400931A1 (zh) |
JP (1) | JP7385731B2 (zh) |
CN (1) | CN115209782A (zh) |
WO (1) | WO2021171465A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3705018A4 (en) * | 2017-11-01 | 2020-10-14 | Sony Corporation | SURGICAL ARM SYSTEM AND SURGICAL ARM CONTROL SYSTEM |
WO2024028924A1 (ja) * | 2022-08-01 | 2024-02-08 | 日本電気株式会社 | 内視鏡検査支援装置、内視鏡検査支援方法、及び、記録媒体 |
CN116430574B (zh) * | 2023-06-12 | 2023-08-29 | 之江实验室 | 一种镜头图像传感器cmos安装调节装置及方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009297415A (ja) * | 2008-06-17 | 2009-12-24 | Fujinon Corp | 電子内視鏡及び画像処理プログラム |
JP2017225700A (ja) * | 2016-06-23 | 2017-12-28 | オリンパス株式会社 | 観察支援装置及び内視鏡システム |
US20180007322A1 (en) * | 2016-07-01 | 2018-01-04 | Olympus Corporation | Endoscope system |
JP6889282B2 (ja) | 2017-12-22 | 2021-06-18 | 富士フイルム株式会社 | 医療画像処理装置及び方法、内視鏡システム、プロセッサ装置、診断支援装置並びにプログラム |
JP6578619B1 (ja) * | 2019-04-11 | 2019-09-25 | 株式会社ラムテック | 画像分析装置及び画像分析プログラム |
-
2020
- 2020-02-27 WO PCT/JP2020/007976 patent/WO2021171465A1/ja active Application Filing
- 2020-02-27 CN CN202080097620.5A patent/CN115209782A/zh active Pending
- 2020-02-27 JP JP2022502699A patent/JP7385731B2/ja active Active
-
2022
- 2022-08-26 US US17/896,227 patent/US20220400931A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20220400931A1 (en) | 2022-12-22 |
WO2021171465A1 (ja) | 2021-09-02 |
JPWO2021171465A1 (zh) | 2021-09-02 |
JP7385731B2 (ja) | 2023-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4585048B2 (ja) | 内視鏡システム | |
KR100890102B1 (ko) | 의료 화상 처리 장치 및 의료 화상 처리 방법 | |
JP5855358B2 (ja) | 内視鏡装置及び内視鏡装置の作動方法 | |
JP4832927B2 (ja) | 医療用画像処理装置及び医療用画像処理方法 | |
JP4994737B2 (ja) | 医療用画像処理装置及び医療用画像処理方法 | |
US20220400931A1 (en) | Endoscope system, method of scanning lumen using endoscope system, and endoscope | |
JP5750669B2 (ja) | 内視鏡システム | |
US20220398771A1 (en) | Luminal structure calculation apparatus, creation method for luminal structure information, and non-transitory recording medium recording luminal structure information creation program | |
US20220409030A1 (en) | Processing device, endoscope system, and method for processing captured image | |
JPWO2012153568A1 (ja) | 医用画像処理装置 | |
JP4077716B2 (ja) | 内視鏡挿入方向検出装置 | |
JP2006187470A (ja) | 医療画像処理装置 | |
JP4981335B2 (ja) | 医療用画像処理装置及び医療用画像処理方法 | |
JP6987243B2 (ja) | ランドマーク推定方法、内視鏡装置、及び、位置推定プログラム | |
WO2021149141A1 (ja) | フォーカス制御装置、内視鏡システム及びフォーカス制御装置の作動方法 | |
JP2008093213A (ja) | 医療用画像処理装置及び医療用画像処理方法 | |
JP2007236630A (ja) | 医療用画像処理装置及び医療用画像処理方法 | |
US20240062471A1 (en) | Image processing apparatus, endoscope apparatus, and image processing method | |
WO2022202400A1 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
WO2022202520A1 (ja) | 医療情報処理装置、内視鏡システム、医療情報処理方法、及び医療情報処理プログラム | |
JP4776919B2 (ja) | 医療画像処理装置 | |
CN114785948B (zh) | 内窥镜调焦方法、装置、内镜图像处理器及可读存储介质 | |
US20220375089A1 (en) | Endoscope apparatus, information processing method, and storage medium | |
JP5148096B2 (ja) | 医療用画像処理装置及び医療用画像処理装置の作動方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |