CN113490455A - 超声波内窥镜***及超声波内窥镜***的工作方法 - Google Patents
超声波内窥镜***及超声波内窥镜***的工作方法 Download PDFInfo
- Publication number
- CN113490455A CN113490455A CN201980093155.5A CN201980093155A CN113490455A CN 113490455 A CN113490455 A CN 113490455A CN 201980093155 A CN201980093155 A CN 201980093155A CN 113490455 A CN113490455 A CN 113490455A
- Authority
- CN
- China
- Prior art keywords
- ultrasonic
- image
- organ
- displayed
- endoscope
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/045—Control thereof
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/12—Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
- A61B8/4444—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
- A61B8/445—Details of catheter construction
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
- A61B8/4444—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
- A61B8/4461—Features of the scanning mechanism, e.g. for moving the transducer within the housing of the probe
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Surgery (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Endoscopes (AREA)
Abstract
在本发明的超声波内窥镜***及超声波内窥镜***的工作方法中,超声波图像识别部对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部的位置之间的关系中的至少一者。超声波图像识别部根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的名称及超声波内窥镜的前端部的位置中的至少一者,显示控制部将器官的名称及超声波内窥镜的前端部的位置中的至少一个显示于显示器。
Description
技术领域
本发明涉及一种使用超声波观察受检体的体内的观察对象部位的状态的超声波内窥镜***及超声波内窥镜***的工作方法。
背景技术
超声波内窥镜***以经消化管观察胰脏或胆囊等为主要目的,将在前端具有内窥镜观察部及超声波观察部的超声波内窥镜***于受检体的消化管内,并拍摄消化管内的内窥镜图像及位于消化管壁外侧的部位的超声波图像。
在超声波内窥镜***中,从超声波内窥镜的前端所具有的照明部对消化管内的观察对象相邻部位照射照明光,通过超声波内窥镜的前端所具有的摄像部接收其反射光,由反射光的摄像信号生成内窥镜图像。并且,通过超声波内窥镜的前端所具有的多个超声波振子,使位于消化管壁外侧的器官等观察对象部位收发超声波,根据超声波的接收信号生成超声波图像。
在观察内窥镜图像时,若将超声波内窥镜***于受检体的消化管内,则例如看到食道的内壁,若进一步推进超声波内窥镜的前端部,则看到胃的内壁,如此执业医师(超声波内窥镜***的用户)比较容易知晓当前超声波内窥镜的前端部位于受检体的消化器内的哪个位置,朝向哪个方向,正在观察哪个部位。
相对于此,存在对超声波图像不熟练的执业医师极难分辨在超声波图像中显示有什么,例如是胰脏还是胆囊,或是血管还是胆管还是胰管,进而显示于超声波图像的胰脏及胆囊等器官的范围在哪里等问题。并且,对超声波图像不熟练的执业医师在超声波图像的观察中,难以分辨当前超声波内窥镜的前端部位于哪个位置,朝向哪个方向,正在观察哪个部位,从而存在在受检体的体内会迷失的问题。
在此,作为对与本发明具有关联性的以往技术文献,有专利文献1~4。
在专利文献1中记载有如下内容,即,大致提取受检体内的诊断部位的图像中的目标部位,预测用于使用神经网络识别目标部位的大局信息,使用大局信息识别目标部位的轮廓,并且与原图像一同显示其识别结果。
在专利文献2中记载有如下内容,即,根据来自线圈的电信号,生成超声波内窥镜的前端部的位置/取向数据,由该位置/取向数据生成用于表示超声波内窥镜的***形状的***形状数据,通过与受检者的器官群等组织结构的三维活体组织模型数据进行组合,生成导向图像,并生成组合了超声波图像与导向图像的合成图像的视频信号而显示于显示器。
并且,在专利文献2中记载有如下内容,即,立体导向图像及截面导向图像配置于画面的左侧区域并显示,超声波图像配置于画面的右侧区域并显示。
而且,在专利文献2中记载有用于放大或缩小超声波图像的显示范围的按钮。
在专利文献3中记载有如下内容,即,在显示装置的画面内,将受检体的超声波断层像及其光学图像相邻显示于一位置,以便能够同时观察两个图像。
在专利文献4中记载有如下内容,即,超声波图像及示意图显示于同一画面,示意图为图解图或人体的实际的光学图像,在示意图中一并显示超声波内窥镜的扫描面及***形状。
并且,在专利文献4中记载有如下内容,即,从使用线圈而检测到的超声波内窥镜的位置及方向的信号检测超声波内窥镜的扫描位置的区域并输出超声波扫描区域数据,从部位名称存储部读取与超声波扫描区域数据对应的部位名称数据,在超声波图像上重叠显示部位名称。
以往技术文献
专利文献
专利文献1:日本特开平06-233761号公报
专利文献2:日本特开2010-069018号公报
专利文献3:日本特开平02-045045号公报
专利文献4:日本特开2004-113629号公报
发明内容
发明要解决的技术课题
在专利文献1中记载有识别诊断部位的图像中的目标部位的轮廓的内容,但并未记载从图像识别目标部位的名称的内容。
在专利文献2、4中记载有使用线圈而检测超声波内窥镜的前端部的位置及朝向的内容,但并未记载无需线圈等追加组件而从超声波图像检测超声波内窥镜的前端部的位置及朝向的内容。
在专利文献2~4中记载有组合显示图解图等导向图像、内窥镜图像及超声波图像的内容,但并未记载根据来自用户的指示而切换这些图像的组合并通俗易懂地显示的内容。并且,并未记载例如组合显示图解图等导向图像、内窥镜图像及超声波图像的内容。
在专利文献4中记载有在超声波图像上重叠显示部位名称的内容,但并未记载不使用部位名称数据等追加数据而从超声波图像识别显示于该超声波图像的部位的名称的内容。
而且,在专利文献1~4中并未记载同时显示超声波图像中所显示的器官的名称及器官的范围,或同时显示超声波内窥镜的前端部的位置进而朝向及器官的范围,或同时显示超声波图像中所显示的器官的名称、超声波内窥镜的前端部的位置进而朝向及超声波图像中所显示的器官的范围的内容。
因此,本发明的第1目的在于提供一种从超声波图像识别显示于超声波图像的器官的名称进而器官的范围及超声波内窥镜的前端部的位置进而朝向,并且能够显示于显示器的超声波内窥镜***及超声波内窥镜***的工作方法。
并且,本发明的第2目的在于提供一种根据来自用户的指示,能够切换内窥镜图像、超声波图像及解剖学图解图并通俗易懂地显示的超声波内窥镜***及超声波内窥镜***的工作方法。
用于解决技术课题的手段
为了实现上述目的,本发明提供一种超声波内窥镜***,其具备:超声波内窥镜,在前端具有超声波振子;
超声波观测装置,通过超声波振子收发超声波,并且根据超声波的接收信号生成诊断用超声波图像;
超声波图像识别部,对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部的位置之间的关系中的至少一者,根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的名称及超声波内窥镜的前端部的位置中的至少一者;及
显示控制部,将通过超声波图像识别部识别出的器官的名称及超声波内窥镜的前端部的位置中的至少一个显示于显示器。
在此,优选还具备指示获取部,获取由用户输入的指示,
显示控制部根据来自用户的指示,在诊断用超声波图像上重叠显示器官的名称,在解剖学图解图上重叠显示超声波内窥镜的前端部的位置。
并且,优选显示控制部根据来自用户的指示,从未显示器官的名称的诊断用超声波图像、重叠显示有器官的名称的诊断用超声波图像、未显示超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有器官的名称的诊断用超声波图像及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于显示器的画面内。
优选超声波内窥镜在前端还具有照明部及摄像部,
超声波内窥镜***还具备:
内窥镜处理器,通过摄像部接收从照明部照射的照明光的反射光,并且由反射光的摄像信号生成诊断用内窥镜图像;及
指示获取部,获取由用户输入的指示,
显示控制部根据来自用户的指示,将诊断用内窥镜图像显示于显示器的画面内。
优选还具备内窥镜图像识别部,从诊断用内窥镜图像识别显示于诊断用内窥镜图像的病变区域,
显示控制部根据来自用户的指示,将重叠显示有病变区域的诊断用内窥镜图像显示于显示器。
并且,优选显示控制部根据来自用户的指示,从未显示病变区域的诊断用内窥镜图像、重叠显示有病变区域的诊断用内窥镜图像、未显示器官的名称的诊断用超声波图像、重叠显示有器官的名称的诊断用超声波图像、未显示超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有器官的名称的诊断用超声波图像及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于显示器的画面内。
并且,优选从显示于显示器的两个以上的图像中,将一个图像设为关注图像并显示得比其他图像大。
并且,优选显示控制部根据来自用户的指示,将关注图像从一个图像切换显示为其他图像中的一个。
并且,优选显示控制部根据来自用户的指示,将未显示器官的名称的诊断用超声波图像、重叠显示有器官的名称的诊断用超声波图像及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图并列显示于显示器的画面内。
并且,优选在诊断用超声波图像或解剖学图解图显示于显示器的画面内的情况下,超声波图像识别部进行动作,在诊断用内窥镜图像显示于显示器的画面内的情况下,内窥镜图像识别部进行动作。
并且,优选超声波图像识别部对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部的位置及朝向之间的关系中的至少一者,根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的名称以及超声波内窥镜的前端部的位置及朝向中的至少一者,
显示控制部将通过超声波图像识别部识别出的器官的名称及通过超声波图像识别部识别出的超声波内窥镜的前端部的位置及朝向中的至少一个显示于显示器。
指示获取部,获取由用户输入的指示,
显示控制部根据来自用户的指示,将重叠显示有超声波内窥镜的前端部的位置及朝向的解剖学图解图显示于显示器。
优选超声波图像识别部还对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的范围之间的关系,根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的范围,
显示控制部还将通过超声波图像识别部识别出的器官的范围显示于显示器。
并且,优选显示控制部对通过超声波图像识别部识别出的器官的范围的内部区域进行着色,将内部区域被着色的器官的范围显示于显示器,或设置表示通过超声波图像识别部识别出的器官的范围的框而对框进行着色,将框被着色的器官的范围显示于显示器。
并且,优选显示控制部按照通过超声波图像识别部识别出范围的器官的种类,将内部区域或框着色为不同的颜色。
指示获取部,获取由用户输入的指示;及
颜色登记部,根据来自用户的指示,登记器官的种类与内部区域或框的颜色之间的关系,
显示控制部将内部区域或框着色为根据来自用户的指示而指定的颜色,或着色为与登记于颜色登记部的器官的种类对应的内部区域或框的颜色。
优选超声波图像识别部还计算通过超声波图像识别部识别出的器官的名称的可信度,
显示控制部根据可信度,确定显示于显示器的器官的名称的显示方法及内部区域或框的着色方法中的至少一者。
并且,优选在诊断用超声波图像上重叠显示器官的名称的情况下,显示控制部根据显示于器官的名称的显示区域的背后的诊断用超声波图像的亮度,确定器官的名称的颜色及内部区域或框的颜色中的至少一者。
指示获取部,获取由用户输入的指示,
显示控制部根据来自用户的指示对以下进行切换:对于通过超声波图像识别部识别出的器官的名称及内部区域或框被着色的器官的范围这两者,仅显示一者,或显示两者,或两者都不显示。
并且,优选显示控制部根据通过超声波图像识别部识别出的器官的范围,确定将通过超声波图像识别部识别出的器官的名称显示于显示器的位置。
并且,优选显示控制部根据通过超声波图像识别部识别出的器官的范围,确定是否将通过超声波图像识别部识别出的器官的名称显示于显示器。
指示获取部,获取由用户输入的指示;及
器官登记部,根据来自用户的指示,登记显示范围的器官的种类,
在通过超声波图像识别部识别出范围的器官为登记于器官登记部的器官的情况下,显示控制部将通过超声波图像识别部识别出的器官的范围显示于显示器。
指示获取部,获取由用户输入的指示,
显示控制部根据来自用户的指示,依次切换显示范围的器官的种类。
并且,优选超声波图像识别部内置于超声波观测装置。
优选超声波内窥镜在前端还具有照明部及摄像部,
还具备通过摄像部接收从照明部照射的照明光的反射光并且由反射光的摄像信号生成诊断用内窥镜图像的内窥镜处理器,
超声波图像识别部内置于内窥镜处理器。
优选超声波内窥镜在前端还具有照明部及摄像部,
还具备通过摄像部接收从照明部照射的照明光的反射光并且由反射光的摄像信号生成诊断用内窥镜图像的内窥镜处理器,
超声波图像识别部设置于超声波观测装置及内窥镜处理器的外部。
并且,本发明提供一种超声波内窥镜***的工作方法,其包括:超声波图像识别部对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部的位置之间的关系中的至少一者的步骤;
超声波观测装置通过超声波内窥镜的前端所具有的超声波振子收发超声波,并且根据超声波的接收信号生成诊断用超声波图像的步骤;
超声波图像识别部根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的名称及超声波内窥镜的前端部的位置中的至少一者的步骤;及
显示控制部将通过超声波图像识别部识别出的器官的名称及超声波内窥镜的前端部的位置中的至少一个显示于显示器的步骤。
在此,优选根据来自用户的指示,在诊断用超声波图像上重叠显示器官的名称,在解剖学图解图上重叠显示超声波内窥镜的前端部的位置。
并且,优选根据来自用户的指示,从未显示器官的名称的诊断用超声波图像、重叠显示有器官的名称的诊断用超声波图像、未显示超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有器官的名称的诊断用超声波图像及重叠显示有超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于显示器的画面内。
并且,优选从显示于显示器的两个以上的图像中,将一个图像设为关注图像并显示得比其他图像大。
并且,优选根据来自用户的指示,将关注图像从一个图像切换显示为其他图像中的一个。
并且,优选对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部的位置及朝向之间的关系中的至少一者,
根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的名称以及超声波内窥镜的前端部的位置及朝向中的至少一者,
将通过超声波图像识别部识别出的器官的名称以及通过超声波图像识别部识别出的超声波内窥镜的前端部的位置及朝向中的至少一个显示于显示器。
优选还包括:超声波图像识别部对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的范围之间的关系的步骤;
超声波图像识别部根据学习结果,从诊断用超声波图像识别显示于诊断用超声波图像的器官的范围的步骤;及
显示控制部将通过超声波图像识别部识别出的器官的范围显示于显示器的步骤。
并且,超声波图像识别部、显示控制部、指示获取部及内窥镜图像识别部优选为硬件或执行程序的处理器,颜色登记部及器官登记部优选为硬件或存储器。
发明效果
根据本发明,显示于诊断用超声波图像的器官的名称进而器官的范围显示于显示器,因此例如即便是对超声波图像不熟练的用户也能够准确地识别在超声波图像中显示有什么,显示于超声波图像的器官的范围在哪里。并且,超声波内窥镜的前端部的位置及朝向显示于显示器,因此例如即便是对超声波图像不熟练的用户,也能够准确地识别当前超声波内窥镜的前端部位于哪个位置,朝向哪个方向,正在观察哪个部位,从而在受检体的体内不会迷失。
并且,根据本发明,能够切换内窥镜图像、超声波图像及解剖学图解图而通俗易懂地显示。用户所关心的关注图像随时发生变化,但用户能够以任意的定时切换关注图像,因此能够将当时所关心的图像设为关注图像而显示得比其他图像大来进行阅览。
附图说明
图1是表示本发明的第1实施方式所涉及的超声波内窥镜***的概略结构的图。
图2是表示超声波内窥镜的***部的前端部及其周边的俯视图。
图3是表示用图2所图示的I-I截面来切断了超声波内窥镜的***部的前端部时的截面的图。
图4是表示内窥镜图像识别部的结构的一实施方式的框图。
图5是表示超声波观测装置的结构的框图。
图6是表示超声波图像识别部的结构的一实施方式的框图。
图7A是表示大动脉、腹腔动脉及肠系膜上动脉的合流部的一实施方式的解剖学图解图。
图7B是表示图7A所示的大动脉、腹腔动脉及肠系膜上动脉的合流部的超声波图像的一实施方式的概念图。
图8A是表示胰尾部的一实施方式的解剖学图解图。
图8B是表示图8A所示的胰尾部的超声波图像的一实施方式的概念图。
图9A是表示脾静脉、肠系膜上静脉及门静脉的合流部的一实施方式的解剖学图解图。
图9B是表示图9A所示的脾静脉、肠系膜上静脉及门静脉的合流部的超声波图像的一实施方式的概念图。
图10A是表示胰头部的一实施方式的解剖学图解图。
图10B是表示图10A所示的胰头部的超声波图像的一实施方式的概念图。
图11是表示使用了超声波内窥镜***的诊断处理的流程的图。
图12是表示诊断处理中的诊断步骤的顺序的图。
图13A是表示诊断用超声波图像及解剖学图解图的显示位置的一实施方式的概念图。
图13B是表示图13A所示的诊断用超声波图像及解剖学图解图的一实施方式的概念图。
图14A是表示第1诊断用超声波图像、第2诊断用超声波图像及解剖学图解图的显示位置的一实施方式的概念图。
图14B是表示图14A所示的第1诊断用超声波图像、第2诊断用超声波图像及解剖学图解图的一实施方式的概念图。
图15A是表示内窥镜图像、诊断用超声波图像及解剖学图解图的显示位置的一实施方式的概念图。
图15B是表示图15A所示的内窥镜图像、诊断用超声波图像及解剖学图解图的一实施方式的概念图。
图16是表示从显示于显示器的图像中,关注图像从一个图像切换显示为其他图像中的一个时的情况的一实施方式的概念图。
图17是表示超声波图像识别部内置于超声波观测装置时的超声波内窥镜***的结构的一实施方式的框图。
图18是表示超声波图像识别部内置于内窥镜处理器时的超声波内窥镜***的结构的一实施方式的框图。
图19是表示超声波图像识别部设置于超声波观测装置及内窥镜处理器外部时的超声波内窥镜***的结构的一实施方式的框图。
图20是表示第2实施方式的超声波观测装置的结构的框图。
图21是表示第2实施方式的超声波图像识别部的结构的框图。
图22A是表示未对器官的范围进行着色而仅显示有器官的名称的超声波图像的一实施方式的概念图。
图22B是表示未显示器官的名称而仅对器官的范围进行着色的超声波图像的一实施方式的概念图。
具体实施方式
参考附图所示的优选实施方式对本发明的一实施方式(本实施方式)所涉及的超声波内窥镜***进行详细说明。
另外,本实施方式为本发明的代表性的实施方式,但只不过是一例,并不限定本发明。
<<超声波内窥镜***的概要>>
关于本实施方式所涉及的超声波内窥镜***10,参考图1对其概要进行说明。图1是表示超声波内窥镜***10的概略结构的第1实施方式的图。
超声波内窥镜***10用于使用超声波来观察受检体即患者体内的观察对象部位的状态(以下,也称为超声波诊断)。在此,观察对象部位为难以从患者的体表侧进行检查的部位,例如为胰脏或胆囊。通过使用超声波内窥镜***10,经由患者的体腔即食道、胃、十二指肠、小肠及大肠等消化管能够对观察对象部位的状态及有无异常进行超声波诊断。
超声波内窥镜***10获取超声波图像及内窥镜图像,如图1所示,具有超声波内窥镜12、超声波观测装置14、内窥镜处理器16、光源装置18、显示器20、送水罐21a、抽吸泵21b及操作台100。
超声波内窥镜12具备***于患者体腔内的***部22、由医生或技师等执业医师(用户)操作的操作部24及安装于***部22的前端部40的超声波振子单元46(参考图2及图3)。超声波内窥镜12作为超声波观察部36,在前端具有超声波振子单元46所具备的多个超声波振子48(参考图2及图3)。并且,超声波内窥镜12作为内窥镜观察部38,在前端具有包含照明窗88等的照明部以及包含观察窗82、物镜84及固体成像元件86等的摄像部(参考图2及图3)。执业医师通过超声波内窥镜12的功能,获取内窥镜图像及超声波图像。
在此,“内窥镜图像”为通过光学方法拍摄患者的体腔内壁而获得的图像。并且,“超声波图像”为接收从患者的体腔内朝向观察对象部位发送的超声波的反射波(回波)并通过对该接收信号进行图像化而获得的图像。
另外,关于超声波内窥镜12,将在后面详细说明。
超声波观测装置14经由通用塞绳26及设置于其端部的超声波用连接器32a与超声波内窥镜12连接。超声波观测装置14控制超声波内窥镜12的超声波振子单元46并发送超声波。并且,超声波观测装置14对超声波振子单元46接收了所发送的超声波的反射波(回波)时的接收信号进行图像化而生成超声波图像。换言之,超声波观测装置14通过超声波振子单元46所具备的多个超声波振子48收发超声波,根据超声波的接收信号生成诊断用超声波图像(以下,也简称为超声波图像)。
另外,关于超声波观测装置14,将在后面详细说明。
内窥镜处理器16经由通用塞绳26及设置于其端部的内窥镜用连接器32b与超声波内窥镜12连接。内窥镜处理器16获取通过超声波内窥镜12(详细而言,后述的固体成像元件86)拍摄的观察对象相邻部位的图像数据,并对所获取的图像数据实施规定的图像处理而生成内窥镜图像。换言之,内窥镜处理器16将从超声波内窥镜12的前端所具有的照明部照射的照明光的反射光通过同样由超声波内窥镜12的前端具有的摄像部接收,并且由反射光的摄像信号生成诊断用内窥镜图像(以下,也简称为内窥镜图像)。
在此,“观察对象相邻部位”是指,在患者的体腔内壁中,位于与观察对象部相邻的位置的部分。
另外,在本实施方式中,超声波观测装置14及内窥镜处理器16由单独设置的两台装置(计算机)构成。但是,并不限定于此,也可以由一台装置来构成超声波观测装置14及内窥镜处理器16这两者。
光源装置18经由通用塞绳26及设置于其端部的光源用连接器32c与超声波内窥镜12连接。光源装置18在使用超声波内窥镜12来拍摄观察对象相邻部位时,照射由红色光、绿色光及蓝色光这三原色光构成的白色光或特定波长光。光源装置18照射的光通过内含于通用塞绳26的光导件(未图示)而在超声波内窥镜12内传播,并从超声波内窥镜12(详细而言,后述的照明窗88)射出。由此,观察对象相邻部位被来自光源装置18的光照射。
显示器20与超声波观测装置14及内窥镜处理器16连接,并且显示通过超声波观测装置14生成的超声波图像、通过内窥镜处理器16生成的内窥镜图像及其他解剖学图解图。
作为超声波图像及内窥镜图像的显示方式,可以是将一个图像切换为其他图像中的一个并显示于显示器20的方式,也可以是同时并列显示两个以上的图像的方式。
另外,在本实施方式中,在一台显示器20中显示超声波图像及内窥镜图像,但也可以单独设置超声波图像显示用的显示器、内窥镜图像显示用的显示器及解剖学图解图用的显示器。并且,除了显示器20以外的显示方式例如也可以以显示于执业医师所携带的终端的显示器的方式显示超声波图像及内窥镜图像。
操作台100为获取从执业医师(用户)输入的指示的指示获取部的一例,是为了在进行超声波诊断时执业医师输入所需的信息,或对超声波观测装置14发出开始超声波诊断的指示等而设置的装置。操作台100例如由键盘、鼠标、追踪球、触控板及触摸面板等构成。若操作操作台100,则根据其操作内容,超声波观测装置14的CPU(控制电路)152(参考图5)控制装置各部(例如,后述的接收电路142及发送电路144)。
具体而言,执业医师在开始超声波诊断的前阶段,通过操作台100输入检查信息(例如,包含年月日及顺序编号等的检查顺序信息以及包含患者ID及患者名称等的患者信息)。完成检查信息的输入之后,若执业医师通过操作台100发出开始超声波诊断的指示,则超声波观测装置14的CPU152以根据所输入的检查信息实施超声波诊断的方式控制超声波观测装置14各部。
并且,执业医师在实施超声波诊断时,通过操作台100能够设定各种控制参数。作为控制参数,例如可举出实况模式及冻结模式的选择结果、显示深度(深度)的设定值及超声波图像生成模式的选择结果等。
在此,“实况模式”为依次显示(实时显示)以规定的帧速率获得的超声波图像(动态图像)的模式。“冻结模式”为从后述的电影存储器150读取过去所生成的超声波图像(动态图像)的1帧图像(静态图像)并显示的模式。
在本实施方式中,存在多个可选择的超声波图像生成模式,具体而言,B(Brightness:亮度)模式、CF(Color Flow:彩色血流)模式及PW(Pulse Wave:脉冲多普勒)模式。B模式为将超声波回波的振幅转换为亮度而显示断层图像的模式。CF模式为将平均血流速度、血流变动、血流信号的强度或血流动力等映射为各种颜色而重叠显示于B模式图像的模式。PW模式为显示根据脉冲波的收发而检测的超声波回波源的速度(例如,血流的速度)的模式。
另外,上述超声波图像生成模式只不过是一例,可以包含除了上述三种模式以外的模式,例如A(Amplitude:振幅)模式、M(Motion:运动)模式及造影模式等。
<<超声波内窥镜12的结构>>
接着,参考所示出的图1及图2、图3及图5对超声波内窥镜12的结构进行说明。图2是放大示出超声波内窥镜12的***部22的前端部及其周边的俯视图。图3是表示用图2所图示的I-I截面来切断了超声波内窥镜12的***部22的前端部40时的剖视图。
如前述,超声波内窥镜12具有***部22及操作部24。如图1所示,***部22从前端侧(自由端侧)依次具备前端部40、弯曲部42及软性部43。如图2所示,在前端部40设置有超声波观察部36及内窥镜观察部38。如图3所示,在超声波观察部36配置有具备多个超声波振子48的超声波振子单元46。
并且,如图2所示,在前端部40设置有处置器具导出口44。处置器具导出口44成为钳子、穿刺针或高频刀等处置器具(未图示)的出口。并且,处置器具导出口44还成为抽吸血液及体内污物等抽吸物时的抽吸口。
弯曲部42为连接设置于比前端部40更靠基端侧(与设置有超声波振子单元46的侧相反的一侧)的部分,且弯曲自如。软性部43为连结弯曲部42与操作部24之间的部分,且具有挠性,并且以细长延伸的状态设置。
在***部22及操作部24各自的内部分别形成有多个送气送水用管路及抽吸用管路。而且,在***部22及操作部24各自的内部形成有一端通往处置器具导出口44的处置器具通道45。
接着,在超声波内窥镜12的结构要件中,对超声波观察部36、内窥镜观察部38、送水罐21a、抽吸泵21b及操作部24进行详细说明。
(超声波观察部36)
超声波观察部36是为了获取超声波图像而设置的部分,在***部22的前端部40中配置于前端侧。如图3所示,超声波观察部36具备超声波振子单元46、多个同轴电缆56及FPC(Flexible Printed Circuit:挠性印制电路)60。
超声波振子单元46相当于超声波探头(探针),在患者的体腔内,使用排列有后述的多个超声波振子48的超声波振子阵列50而发送超声波,且接收在观察对象部位反射的超声波的反射波(回波)而输出接收信号。本实施方式所涉及的超声波振子单元46为凸型,以放射状(圆弧状)发送超声波。但是,关于超声波振子单元46的种类(型式)并不特别限定于此,只要能够收发超声波,则可以是其他种类,例如可以是径向型及直线型等。
如图3所示,超声波振子单元46通过层叠背衬材料层54、超声波振子阵列50、声匹配层74及声透镜76而构成。
超声波振子阵列50由以一维阵列状排列的多个超声波振子48(超声波换能器)构成。更详细而言,超声波振子阵列50通过N个(例如N=128)超声波振子48沿前端部40的轴线方向(***部22的纵轴方向)以凸弯曲状等间隔排列而构成。另外,超声波振子阵列50也可以构成为将多个超声波振子48以二维阵列状配置。
N个超声波振子48的每一个通过在压电元件(压电体)的两个表面配置电极而构成。作为压电元件,可使用钛酸钡(BaTiO3)、锆钛酸铅(PZT)及铌酸钾(KNbO3)等。
电极由对多个超声波振子48的每一个单独设置的单独电极(未图示)及在多个超声波振子48中通用的振子接地电极(未图示)构成。并且,电极经由同轴电缆56及FPC60与超声波观测装置14电连接。
脉冲状的驱动电压作为输入信号(发送信号)而从超声波观测装置14通过同轴电缆56供给至各超声波振子48。若该驱动电压施加于超声波振子48的电极,则压电元件伸缩而超声波振子48进行驱动(振动)。其结果,从超声波振子48输出脉冲状的超声波。此时,从超声波振子48输出的超声波的振幅成为与该超声波振子48输出超声波时的强度(输出强度)相对应的大小。在此,输出强度被定义为从超声波振子48输出的超声波的声压的大小。
并且,若接收超声波的反射波(回波),则伴随于此各超声波振子48进行振动(驱动),各超声波振子48的压电元件产生电信号。该电信号作为超声波的接收信号而从各超声波振子48朝向超声波观测装置14输出。此时,从超声波振子48输出的电信号的大小(电压值)成为与该超声波振子48接收了超声波时的接收灵敏度相对应的大小。在此,接收灵敏度被定义为相对于超声波振子48发送的超声波的振幅,该超声波振子48接收并输出超声波的电信号的振幅之比。
在本实施方式中,通过多工器140(参考图5)等电子开关依次驱动N个超声波振子48,由此超声波以沿配置有超声波振子阵列50的曲面的扫描范围例如自曲面的曲率中心起数十mm左右的范围进行扫描。更详细而言,在作为超声波图像获取B模式图像(断层图像)时,通过选择多工器140的开口通道,对N个超声波振子48中连续排列的m个(例如,m=N/2)的超声波振子48(以下,称为驱动对象振子)供给驱动电压。由此,m个驱动对象振子被驱动,从开口通道的各驱动对象振子输出超声波。从m个驱动对象振子输出的超声波立即被合成,该合成波(超声波束)朝向观察对象部位发送。然后,m个驱动对象振子的每一个接收在观察对象部位反射的超声波(回波),并输出与在该时点的接收灵敏度相对应的电信号(接收信号)。
而且,将N个超声波振子48中的驱动对象振子的位置每次错开一个(每次错开一个超声波振子48)而重复进行上述一系列工序(即,驱动电压的供给、超声波的收发及电信号的输出)。具体而言,从N个超声波振子48中以位于一端的超声波振子48为中心的其两侧的m个驱动对象振子开始上述一系列工序。而且,在每次通过由多工器140切换开口通道而错开驱动对象振子的位置时,重复上述一系列工序。最终,共计N次重复实施上述一系列工序,直至到达N个超声波振子48中以位于另一端的超声波振子48为中心的其两侧的m个驱动对象振子。
背衬材料层54从背面侧支承超声波振子阵列50的各超声波振子48。并且,背衬材料层54具有如下功能,即,使从超声波振子48发出的超声波或在观察对象部位反射的超声波(回波)中传播到背衬材料层54侧的超声波衰减。另外,背衬材料由硬质橡胶等具有刚性的材料构成,并且根据需要添加有超声波衰减材料(铁氧体及陶瓷等)。
声匹配层74重叠于超声波振子阵列50上,并且为了取得患者的人体与超声波振子48之间的声阻抗匹配而设置。通过设置有声匹配层74,能够提高超声波的透射率。作为声匹配层74的材料,能够使用声阻抗的值与超声波振子48的压电元件相比,更接近患者的人体的声阻抗的值的有机材料。具体而言,作为声匹配层74的材料,可举出环氧系树脂、硅橡胶、聚酰亚胺及聚乙烯等。
重叠于声匹配层74上的声透镜76使从超声波振子阵列50发出的超声波朝向观察对象部位会聚。另外,声透镜76例如由硅系树脂(混炼型硅橡胶(HTV橡胶)、液状硅橡胶RTV橡胶)等)、丁二烯系树脂及聚氨酯系树脂等构成,并且根据需要混合氧化钛、氧化铝或二氧化硅等粉末。
FPC60与各超声波振子48所具备的电极电连接。多个同轴电缆56的每一个通过其一端配线于FPC60。而且,若超声波内窥镜12经由超声波用连接器32a与超声波观测装置14连接,则多个同轴电缆56的每一个通过其另一端(与FPC60侧相反的一侧)与超声波观测装置14电连接。
(内窥镜观察部38)
内窥镜观察部38是为了获取内窥镜图像而设置的部分,在***部22的前端部40中配置于比超声波观察部36更靠基端侧的位置。如图2及图3所示,内窥镜观察部38由观察窗82、物镜84、固体成像元件86、照明窗88、清洗喷嘴90及配线电缆92等构成。
观察窗82在***部22的前端部40中以相对于轴线方向(***部22的长度轴方向)倾斜的状态安装。在观察对象相邻部位反射而从观察窗82入射的光通过物镜84成像于固体成像元件86的成像面。
固体成像元件86对透射观察窗82及物镜84而成像于成像面的观察对象相邻部位的反射光进行光电转换并输出成像信号。作为固体成像元件86,能够利用CCD(chargecoupled device:电荷耦合器件)及CMOS(CompLementaryMetal Oxide Semiconductor:互补金属氧化物半导体)等。通过固体成像元件86输出的摄像图像信号经由从***部22延伸设置至操作部24的配线电缆92通过通用塞绳26传输至内窥镜处理器16。
照明窗88设置于观察窗82的两侧位置。在照明窗88中连接有光导件(未图示)的射出端。光导件从***部22延伸设置至操作部24,其入射端与经由通用塞绳26连接的光源装置18连接。通过光源装置18发出的照明光在光导件中传播,并从照明窗88照向观察对象相邻部位。
清洗喷嘴90是为了清洗观察窗82及照明窗88的表面而形成于***部22的前端部40的喷出孔,空气或清洗用液体从清洗喷嘴90朝向观察窗82及照明窗88喷出。另外,在本实施方式中,从清洗喷嘴90喷出的清洗用液体为水,尤其为脱气水。但是,关于清洗用液体并无特别限定,也可以是其他液体,例如普通的水(未脱气的水)。
(送水罐21a及抽吸泵21b)
送水罐21a为储存脱气水的罐,并且通过送气送水用软管34a与光源用连接器32c连接。另外,脱气水可用作从清洗喷嘴90喷出的清洗用液体。
抽吸泵21b通过处置器具导出口44抽吸体腔内的抽吸物(包含以清洗用供给的脱气水)。抽吸泵21b通过抽吸用软管34b与光源用连接器32c连接。另外,超声波内窥镜***10也可以具备对规定的送气目的地供给空气的送气泵等。
在***部22及操作部24内设置有处置器具通道45及送气送水管路(未图示)。
处置器具通道45连通设置于操作部24的处置器具***口130与处置器具导出口44之间。并且,处置器具通道45与设置于操作部24的抽吸按钮28b连接。抽吸按钮28b除了处置器具通道45以外,还与抽吸泵21b连接。
送气送水管路在其一端侧与清洗喷嘴90连通,在另一端侧与设置于操作部24的送气送水按钮28a连接。送气送水按钮28a除了送气送水管路以外,还与送水罐21a连接。
(操作部24)
操作部24为在开始超声波诊断时、诊断中及诊断结束时等由执业医师操作的部分,在其一端连接有通用塞绳26的一端。并且,如图1所示,操作部24具有送气送水按钮28a、抽吸按钮28b、一对弯角钮29及处置器具***口(钳子口)30。
若转动一对各弯角钮29的每一个,则弯曲部42被远程操作而弯曲变形。通过该变形操作,能够使设置于超声波观察部36及内窥镜观察部38的***部22的前端部40朝向所期望的方向。
处置器具***口30是为了***贯通钳子等处置器具(未图示)而形成的孔,且经由处置器具通道45与处置器具导出口44连通。***于处置器具***口30的处置器具通过处置器具通道45之后从处置器具导出口44导入于体腔内。
送气送水按钮28a及抽吸按钮28b为两档切换式的按钮,且为了切换设置于***部22及操作部24各自的内部的管路的开闭而操作。
<<内窥镜处理器16的概略结构>>
在此,省略对内窥镜处理器16的详细结构的说明,但内窥镜处理器16除了拍摄内窥镜图像的以往公知的常规构成要件以外,还具备内窥镜图像识别部170。
内窥镜图像识别部170对多个学习用内窥镜图像预先学习学习用内窥镜图像与显示于学习用内窥镜图像的病变区域之间的关系,根据学习结果,从通过内窥镜处理器16生成的诊断用内窥镜图像识别显示于该诊断用内窥镜图像的病变区域。
学习用内窥镜图像为内窥镜图像识别部170用于学习内窥镜图像与显示于内窥镜图像的病变区域之间的关系的现有的内窥镜图像,例如能够利用过去拍摄的各种内窥镜图像。
如图4所示,内窥镜图像识别部170具备病变区域检测部102、位置信息获取部104、选择部106及病变区域检测控制部108。
病变区域检测部102根据学习结果,从诊断用内窥镜图像检测病变区域。病变区域检测部102具备分别与体腔内的多个位置对应的多个检测部。在此,作为一例,如图4所示,具备第1~第11检测部102A~102K。第1检测部102A与直肠对应,第2检测部102B与乙状结肠对应,第3检测部102C与降结肠对应,第4检测部102D与横结肠对应,第5检测部102E与升结肠对应,第6检测部102F与盲肠对应,第7检测部102G与回肠对应,第8检测部102H与空肠对应,第9检测部102I与十二指肠对应,第10检测部102J与胃对应,第11检测部102K与食道对应。
第1~第11检测部102A~102K分别为学习完毕模型。该多个学习完毕模型分别为使用由不同的学习用内窥镜图像构成的数据集而进行了学习的模型。详细而言,多个学习完毕模型分别为使用由拍摄了体腔内的不同的位置的学习用内窥镜图像构成的数据集而预先学习了学习用内窥镜图像与显示于学习用内窥镜图像的病变区域之间的关系的模式。
即,第1检测部102A为使用由直肠的学习用内窥镜图像构成的数据集而进行学习的模型,第2检测部102B为使用由乙状结肠的学习用内窥镜图像构成的数据集而进行学习的模型,第3检测部102C为使用由降结肠的学习用内窥镜图像构成的数据集而进行学习的模型,第4检测部102D为使用由横结肠的学习用内窥镜图像构成的数据集而进行学习的模型,第5检测部102E为使用由升结肠的学习用内窥镜图像构成的数据集而进行学习的模型,第6检测部102F为使用由盲肠的学习用内窥镜图像构成的数据集而进行学习的模型,第7检测部102G为使用由回肠的学习用内窥镜图像构成的数据集而进行学习的模型,第8检测部102H为使用由空肠的学习用内窥镜图像构成的数据集而进行学习的模型,第9检测部102I为使用由十二指肠的学习用内窥镜图像构成的数据集而进行学习的模型,第10检测部102J为使用由胃的学习用内窥镜图像构成的数据集而进行学习的模型,第11检测部102K为使用由食道的学习用内窥镜图像构成数据集而进行学习的模型。
学习方法只要是能够从多个学习用内窥镜图像学习内窥镜图像与病变区域之间的关系并生成学习完毕模型的方法,则并无特别限定。
作为学习方法,例如能够利用作为人工智能(AI:Artificial Intellige nce)技术之一即机器学(machine learning)的一例的使用层次结构型神经网络的深度学(Deeplearning)等。
另外,可以利用除深度学习以外的机器学习,也可以利用除机器学习以外的人工智能技术,还可以利用除人工智能技术以外的学习方法。
并且,也可以仅使用学习用内窥镜图像来生成学习完毕模型。在该情况下,学习完毕模型不会被更新,从而能够始终使用相同的学习完毕模型。
或者,也可以以除了学习用内窥镜图像以外还使用诊断用内窥镜图像而生成学习完毕模型的方式构成。在该情况下,学习诊断用内窥镜图像与显示于该诊断用内窥镜图像的病变区域之间的关系而随时更新学习完毕模型。
接着,位置信息获取部104获取内窥镜图像的体腔内的位置信息。在此,医生等执业医师使用操作台100输入位置信息。位置信息获取部104获取从操作台100输入的位置信息。
作为图像的体腔内的位置信息,输入直肠、乙状结肠、降结肠、横结肠、升结肠、盲肠、回肠、空肠、十二指肠、胃及食道等的信息。也可以以将这些位置候选可选择地显示于显示器20并且医生等执业医师使用操作台100进行选择的方式构成。
接着,选择部106从病变区域检测部102选择与位置信息获取部104所获取的位置信息对应的检测部。即,选择部106在位置信息为直肠时选择第1检测部102A,在为乙状结肠时选择第2检测部102B,在为降结肠时选择第3检测部102C,在为横结肠时选择第4检测部102D,在为升结肠时选择第5检测部102E,在为盲肠时选择第6检测部102F,在为回肠时选择第7检测部102G,在为空肠时选择第8检测部102H,在为十二指肠时选择第9检测部102I,在为胃时选择第10检测部102J,在为食道时选择第11检测部102K。
接着,病变区域检测控制部108通过选择部106所选择的检测部从内窥镜图像检测病变区域。这里的病变区域并不限定于由疾病引起的区域,还包含与外观上正常的状态不同的状态的区域。作为病变区域,例如能够例示息肉、癌、大肠憩室、炎症、EMR(EndoscopicMucosal Resection:内镜下粘膜切除术)瘢痕或ESD(Endoscopic SubmucosalDissection:内镜粘膜下剥离术)瘢痕等治疗痕迹、夹闭部位、出血点、穿孔及血管异型性等。
在内窥镜图像识别部170中,通过位置信息获取部104获取内窥镜图像的体腔内的位置信息。
接着,通过选择部106从病变区域检测部102选择与位置信息获取部104所获取的位置信息对应的检测部。
接着,通过病变区域检测控制部108以选择部106所选择的检测部根据学习结果从诊断用内窥镜图像检测病变区域的方式进行控制。
<<超声波观测装置14的结构>>
超声波观测装置14使超声波振子单元46收发超声波,且对在接收超声波时超声波振子48(详细而言,驱动对象元件)所输出的接收信号进行图像化而生成超声波图像。并且,超声波观测装置14除了所生成的超声波图像以外,还将从内窥镜处理器16传送的内窥镜图像及解剖学图解图等显示于显示器20。
如图5所示,超声波观测装置14具有多工器140、接收电路142、发送电路144、A/D转换器146、ASIC(Application Specific Integrated Circuit:专用集成电路)148、电影存储器150、CPU(Central Processing Unit:中央处理器)152、DSC(Digital ScanConverter:数字扫描转换器)154、超声波图像识别部168及显示控制部172。
接收电路142及发送电路144与超声波内窥镜12的超声波振子阵列50电连接。多工器140从N个超声波振子48中最多选择m个驱动对象振子,并且使其通道开口。
发送电路144由FPGA(现场可编程门阵列)、脉冲发生器(脉冲发生电路158)及SW(开关)等构成,并且与MUX(多工器140)连接。另外,也可以代替FPGA而使用ASIC(专用集成电路)。
发送电路144是为了从超声波振子单元46发送超声波而按照从CPU152传送过来的控制信号对通过多工器140选择的驱动对象振子供给超声波发送用驱动电压的电路。驱动电压为脉冲状的电压信号(发送信号),且经由通用塞绳26及同轴电缆56施加于驱动对象振子的电极。
发送电路144具有根据控制信号而生成发送信号的脉冲发生电路158,通过CPU152的控制,使用脉冲发生电路158生成驱动多个超声波振子48而产生超声波的发送信号并供给至多个超声波振子48。更详细而言,在通过CPU152的控制进行超声波诊断时,发送电路144使用脉冲发生电路158生成具有用于进行超声波诊断的驱动电压的发送信号。
接收电路142为接收从接收了超声波(回波)的驱动对象振子输出的电信号即接收信号的电路。并且,接收电路142按照从CPU152传送过来的控制信号放大从超声波振子48接收的接收信号,并将放大后的信号传递至A/D转换器146。A/D转换器146与接收电路142连接,且将从接收电路142接收的接收信号从模拟信号转换为数字信号,并将转换后的数字信号输出至ASIC148。
ASIC148与A/D转换器146连接,如图5所示,构成相位匹配部160、B模式图像生成部162、PW模式图像生成部164、CF模式图像生成部166及存储控制器151。
另外,在本实施方式中,通过如ASIC148那样的硬件电路实现上述功能(具体而言,相位匹配部160、B模式图像生成部162、PW模式图像生成部164、CF模式图像生成部166及存储控制器151),但并不限定于此。也可以通过使中央运算装置(CPU)与用于执行各种数据处理的软件(计算机程序)联动来实现上述功能。
相位匹配部160执行对通过A/D转换器146进行了数字信号化的接收信号(接收数据)附加延迟时间而进行整相相加(使接收数据的相位匹配之后进行加法运算)的处理。通过整相相加处理,生成超声波回波的焦点缩小的声线信号。
B模式图像生成部162、PW模式图像生成部164及CF模式图像生成部166根据在超声波振子单元46接收了超声波时多个超声波振子48中的驱动对象振子所输出的电信号(严格而言,通过对接收数据进行整相相加而生成的声线信号),生成超声波图像。
B模式图像生成部162为生成患者内部(体腔内)的断层图像即B模式图像的图像生成部。B模式图像生成部162通过STC(Sensitivity Time gain Control:灵敏度时间控制)对依次生成的声线信号实施根据超声波的反射位置的深度而由传播距离引起的衰减的校正。并且,B模式图像生成部162对校正后的声线信号实施包络检波处理及Log(对数)压缩处理而生成B模式图像(图像信号)。
PW模式图像生成部164为生成显示规定方向上的血流的速度的图像的图像生成部。PW模式图像生成部164在由相位匹配部160依次生成的声线信号中,对相同方向上的多个声线信号实施高速傅里叶变换,由此提取频率成分。然后,PW模式图像生成部164由所提取的频率成分计算血流的速度,并生成显示计算出的血流的速度的PW模式图像(图像信号)。
CF模式图像生成部166为生成显示规定方向上的血流的信息的图像的图像生成部。CF模式图像生成部166求出在通过相位匹配部160依次生成的声线信号中相同方向上的多个声线信号的自相关,由此生成显示与血流相关的信息的图像信号。然后,CF模式图像生成部166根据上述图像信号,生成对通过B模式图像生成部162生成的B模式图像叠加了与血流相关的信息的作为彩色图像的CF模式图像(图像信号)。
存储控制器151将B模式图像生成部162、PW模式图像生成部164或CF模式图像生成部166所生成的图像信号存储于电影存储器150。
DSC154与ASIC148连接,并且将B模式图像生成部162、PW模式图像生成部164或CF模式图像生成部166所生成的图像的信号转换为按照常规电视信号的扫描方式的图像信号(光栅转换),并对图像信号实施灰度处理等各种所需的图像处理之后输出至超声波图像识别部168。
超声波图像识别部168对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的名称(观察对象部位的名称)之间的关系以及学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部40的位置及朝向之间的关系中的至少一者,根据学习结果,从通过超声波观测装置14生成的诊断用超声波图像识别显示于该诊断用超声波图像的器官的名称以及超声波内窥镜12的前端部40的位置及朝向中的至少一者。
学习用超声波图像为超声波图像识别部168用于学习超声波图像、器官的名称以及超声波内窥镜12的前端部40的位置及朝向之间的关系的现有的超声波图像,例如能够利用过去拍摄的各种超声波图像。
如图6所示,超声波图像识别部168具备器官名称检测部112、位置及朝向检测部114、选择部116及器官名称检测控制部118。
器官名称检测部112根据学习结果,从诊断用超声波图像检测显示于诊断用超声波图像的器官的名称。器官名称检测部112具备分别与成为受检体的体内的观察对象部位的多个位置对应的多个检测部。在此,作为一例,具备第1~第11检测部112A~112K。第1检测部112A与大动脉、腹腔动脉及肠系膜上动脉的合流部对应,第2检测部112B与胰体部对应,第3检测部112C与胰尾部对应,第4检测部112D与脾静脉、肠系膜上静脉及门静脉的合流部(汇流点)对应,第5检测部112E与胰头部对应,第6检测部112F与胆囊对应,第7检测部112G与门静脉对应,第8检测部112H与胆总管对应,第9检测部112I与胆囊对应,第10检测部112J与胰头钩突部对应,第11检测部112K与***状突起对应。
第1~第11检测部112A~112K分别为学习完毕模型。该多个学习完毕模型分别为使用由不同的学习用超声波图像构成的数据集而进行学习的模型。详细而言,多个学习完毕模型分别为由拍摄了成为受检体的体内的观察对象部位的不同的位置的学习用超声波图像构成的数据集而预先学习了学习用超声波图像与显示于学习用超声波图像的器官的名称之间的关系的模型。
即,第1检测部112A为使用由大动脉、腹腔动脉及肠系膜上动脉的合流部的学习用超声波图像构成的数据集而进行学习的模型,第2检测部112B为使用由胰体部的学习用超声波图像构成的数据集而进行学习的模型,第3检测部112C为使用由胰尾部的学习用超声波图像构成的数据集而进行学习的模型,第4检测部112D为使用由脾静脉、肠系膜上静脉及门静脉的合流部的学习用超声波图像构成的数据集而进行学习的模型,第5检测部112E为使用由胰头部的学习用超声波图像构成的数据集而进行学习的模型,第6检测部112F为使用由胆囊的学习用超声波图像构成的数据集而进行学习的模型,第7检测部112G为使用由门静脉的学习用超声波图像构成的数据集而进行学习的模型,第8检测部112H为使用由胆总管的学习用超声波图像构成的数据集而进行学习的模型,第9检测部112I为使用由胆囊的学习用超声波图像构成的数据集而进行学习的模型,第10检测部112J为使用由胰头钩突部的学习用超声波图像构成的数据集而进行学习的模型,第11检测部112K为使用由***状突起的学习用超声波图像构成数据集而进行学习的模型。
大致确定有拍摄超声波图像时的体内的观察路径(超声波内窥镜12的前端部40的移动路径)及代表性的观察点(超声波内窥镜12的前端部40的位置及朝向)。因此,能够建立关联地学习代表性的观察点上的超声波图像、显示于该超声波图像的器官的名称以及该观察点上的超声波内窥镜12的前端部40的位置及朝向。
以下,对拍摄超声波图像时的体内的代表性的观察点(超声波内窥镜12的前端部40的位置及朝向)进行说明。
作为体内的代表性的观察点,例如有以下(1)~(11)等。
(1)大动脉、腹腔动脉及肠系膜上动脉的合流部
(2)胰体部
(3)胰尾部
(4)脾静脉、肠系膜上静脉及门静脉的合流部(汇流点)
(5)胰头部
(6)胆囊
(7)门静脉
(8)胆总管
(9)胆囊
(10)胰头钩突部
(11)***状突起
在此,(1)大动脉、腹腔动脉及肠系膜上动脉的合流部、(2)胰体部、(3)胰尾部、(4)脾静脉、肠系膜上静脉及门静脉的合流部、(5)胰头部及(6)胆囊为来自胃内的代表性的观察点,(7)门静脉、(8)胆总管及(9)胆囊为来自十二指肠球部的代表性的观察点,(10)胰头钩突部及(11)***状突起为来自十二指肠降部的代表性的观察点。
例如,作为观察点,对以(1)大动脉、腹腔动脉及肠系膜上动脉的合流部、(3)胰尾部、(4)脾静脉、肠系膜上静脉及门静脉的合流部及(5)胰头部的顺序进行观察时的观察顺序进行说明。
图7A是表示大动脉、腹腔动脉及肠系膜上动脉的合流部的一实施方式的解剖学图解图,图7B是表示其超声波图像的一实施方式的概念图。图8A是表示胰尾部的一实施方式的解剖学图解图,图8B是表示其超声波图像的一实施方式的概念图。图9A是表示脾静脉、肠系膜上静脉及门静脉的合流部的一实施方式的解剖学图解图,图9B是表示其超声波图像的一实施方式的概念图。图10A是表示胰头部的一实施方式的解剖学图解图,图10B是表示其超声波图像的一实施方式的概念图。
在图7A及图7B中,HV表示肝静脉,IVC表示下腔静脉,Ao表示大动脉,CA表示腹腔动脉,SMA表示肠系膜上动脉,SV表示脾静脉。
在观察(1)大动脉、腹腔动脉及肠系膜上动脉的合流部时,若一边追随肝静脉,一边使超声波内窥镜12的***部22的前端部40向顺时针方向旋转,则可描绘出下腔静脉。而且,若使前端部40向顺时针方向旋转,则可描绘出大动脉。若沿大动脉推进前端部40,则如图7A及图7B所示,可描绘出腹腔动脉及肠系膜上动脉。
在图8A及图8B中,SA表示脾动脉,SV表示脾静脉,Panc表示胰脏,Spl een表示脾脏。
接着,在观察(3)胰尾部时,若进一步使前端部40向顺时针方向旋转,则可描绘出胰体部、脾动脉及脾静脉。若进一步使前端部40向顺时针方向旋转,则可描绘出胰体尾部及左肾脏。若一边追随脾动脉及脾静脉,一边使前端部40向顺时针方向旋转,并且设为仰角,则如图8A及图8B所示,可描绘出从胰尾部至脾门部。
在图9A及图9B中,SV表示脾静脉,SMV表示肠系膜上静脉,PV表示门静脉,PD表示胰管。
接着,在观察(4)脾静脉、肠系膜上静脉及门静脉的合流部时,若以带仰角的状态使前端部40向逆时针方向旋转,则可描绘出左肾上腺。若从胰尾部追随脾静脉而使前端部40向逆时针方向旋转,则可描绘至胰体部。若进一步追随脾静脉,则图9A及图9B所示,可描绘出脾静脉、肠系膜上静脉及门静脉的合流部。
在图10A及图10B中,PD表示胰管,CBD表示胆总管,Panc表示胰脏。
接着,在观察(5)胰头部时,若一边向逆时针方向旋转一边推进前端部40而从脾静脉、肠系膜上静脉及门静脉的合流部追随胰管,则如图10A及图10B所示,可描绘出胰头体转移部、主胰管及胆总管。
另外,以进行观察时的观察点为一例进行了说明,但并不限定于此,执业医师能够以所期望的顺序来观察所期望的观察点。
接着,位置及朝向检测部114根据学习结果,从诊断用超声波图像检测超声波内窥镜12的前端部40的位置及朝向。
作为超声波内窥镜12的前端部40的位置,例如检测上述的观察点,即(1)大动脉、腹腔动脉及肠系膜上动脉的合流部、(2)胰体部、(3)胰尾部、(4)脾静脉、肠系膜上静脉及门静脉的合流部、(5)胰头部及(6)胆囊(来自胃内的代表性的观察点)、(7)门静脉、(8)胆总管及(9)胆囊(十二指肠球部的代表性的观察点)、(10)胰头钩突部及(11)***状突起(来自十二指肠降部的代表性的观察点)等。
并且,作为超声波内窥镜12的前端部40的朝向,检测观察上述(1)~(11)的部位时的超声波内窥镜12的前端部40的朝向。
位置及朝向检测部114为学习完毕模型。该学习完毕模型分别为对多个学习用超声波图像使用由拍摄了成为受检体的体内的观察对象部位的不同的位置的学习用内窥镜图像构成的数据集而预先学习了学习用超声波图像与拍摄学习用超声波图像时的超声波内窥镜的前端部40的位置及朝向之间的关系的模型。
学习方法只要是能够从多个学习用超声波图像学习超声波图像、器官的名称以及超声波内窥镜12的前端部40的位置及朝向之间的关系并生成学习完毕模型的方法,则并无特别限定。
作为学习方法,例如能够利用作为人工智能(AI:Artificial Intellige nce)技术之一即机器学(machine learning)的一例的使用层次结构型神经网络的深度学(Deeplearning)等。
另外,可以利用除深度学习以外的机器学习,也可以利用除机器学习以外的人工智能技术,还可以利用除人工智能技术以外的学习方法。
并且,也可以仅使用学习用超声波图像来生成学习完毕模型。在该情况下,学习完毕模型不会被更新,从而能够始终使用相同的学习完毕模型。
或者,也可以以除了学习用超声波图像以外还使用诊断用超声波图像来生成学习完毕模型的方式构成。在该情况下,学习诊断用超声波图像、显示于该诊断用超声波图像的器官的名称以及拍摄了该诊断用超声波图像时的超声波内窥镜12的前端部40的位置及朝向之间的关系而随时更新学习完毕模型。
另外,超声波图像识别部168进一步而言位置及朝向检测部114检测超声波内窥镜12的前端部40的朝向并不是必须的。
如本实施方式,在超声波振子单元46为凸型时,根据超声波内窥镜12的前端部40的朝向而超声波的发送方向发生变化,因此优选检测超声波内窥镜12的前端部40的朝向。
另一方面,在超声波振子单元46为径向型时,与超声波内窥镜12的前端部40的朝向无关地,超声波遍及超声波内窥镜12的径向的整周被发送,因此无需检测超声波内窥镜12的前端部40的朝向。
接着,选择部116从器官名称检测部112选择与位置及朝向检测部114检测到的超声波内窥镜12的前端部40的位置对应的检测部。
即,选择部116在超声波内窥镜12的前端部40的位置为(1)大动脉、腹腔动脉及肠系膜上动脉的合流部时选择第1检测部112A,在为(2)胰体部时选择第2检测部112B,在为(3)胰尾部时选择第3检测部112C,在为(4)脾静脉、肠系膜上静脉及门静脉的合流部时选择第4检测部112D,在为(5)胰头部时选择第5检测部112E,在为(6)胆囊时选择第6检测部112F,在为(7)门静脉时选择第7检测部112G,在为(8)胆总管时选择第8检测部112H,在为(9)胆囊时选择第9检测部112I,在为(10)胰头钩突部时选择第10检测部112J,在为(11)***状突起时选择第11检测部112K。
接着,器官名称检测控制部118通过选择部116所选择的检测部,从诊断用超声波图像检测显示于诊断用超声波图像的器官的名称。作为器官的名称,包含使用超声波观测装置14可观测的受检体的体内的所有观察对象部位,例如能够例示肝脏、胰脏、脾脏、肾脏、肾上腺、大动脉、腹腔动脉、脾动脉、肠系膜上动脉、下腔静脉、肝静脉、门静脉、脾静脉、肠系膜上静脉、胆囊、胆总管、胰管及***状突起等。
在超声波图像识别部168中,通过位置及朝向检测部114,并根据学习结果,从诊断用超声波图像检测超声波内窥镜12的前端部40的位置及朝向。
接着,通过选择部116,从器官名称检测部112选择与位置及朝向检测部114检测到的超声波内窥镜12的前端部40的位置对应的检测部。
接着,通过器官名称检测控制部118以选择部116所选择的检测部根据学习结果从诊断用超声波图像检测显示于诊断用超声波图像的器官的名称的方式进行控制。
接着,显示控制部172将通过超声波图像识别部168识别出的器官的名称及超声波内窥镜12的前端部40的位置中的至少一个显示于显示器20。或者,显示控制部172将通过超声波图像识别部168识别出的器官的名称以及同样通过超声波图像识别部168识别出的超声波内窥镜12的前端部40的位置及朝向中的至少一个显示于显示器20。
并且,显示控制部172根据来自执业医师的指示,在内窥镜图像上重叠显示病变区域,或在超声波图像上重叠显示器官的名称,或在解剖学图解图上重叠显示超声波内窥镜12的前端部40的位置及朝向。
换言之,显示控制部172根据来自执业医师的指示,从未显示病变区域的内窥镜图像、重叠显示有病变区域的内窥镜图像、未显示器官的名称的超声波图像、重叠显示有器官的名称的超声波图像、未显示超声波内窥镜12的前端部40的位置的解剖学图解图及重叠显示有超声波内窥镜12的前端部40的位置的解剖学图解图中,将一个图像或两个以上的图像并列显示于显示器20的画面内。
作为一实施方式,显示控制部172将包含重叠显示有器官的名称的超声波图像及重叠显示有超声波内窥镜12的前端部40的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于显示器20的画面内。
器官的名称例如在超声波图像上重叠而显示于该器官的附近,例如显示于该器官上,超声波内窥镜12的前端部40的位置及朝向例如重叠显示于解剖学图解图上。病变区域例如在内窥镜图像上重叠而以框线来包围病变区域的方式显示。
电影存储器150具有用于积蓄1帧量或数帧量的图像信号的容量。ASIC148所生成的图像信号输出至DSC154,另一方面,通过存储控制器151也存储于电影存储器150。在为冻结模式时,存储控制器151读取存储于电影存储器150的图像信号并输出至DSC154。由此,在显示器20中可显示基于从电影存储器150读取的图像信号的超声波图像(静态图像)。
CPU152作为控制超声波观测装置14各部的控制部而发挥作用,与接收电路142、发送电路144、A/D转换器146及ASIC148连接,并控制这些器件。具体而言,CPU152与操作台100连接,并且按照通过操作台100输入的检查信息及控制参数等控制超声波观测装置14各部。
并且,若超声波内窥镜12经由超声波用连接器32a与超声波观测装置14连接,则CPU152通过PnP(Plug and Play:即插即用)等方式自动识别超声波内窥镜12。
<<关于超声波内窥镜***10的动作例>>
接着,作为超声波内窥镜***10的动作例,参考图11及图12对与超声波诊断相关的一系列处理(以下,也称为诊断处理)的流程进行说明。图11是表示使用了超声波内窥镜***10的诊断处理的流程的图。图12是表示诊断处理中的诊断步骤的顺序的图。
若以超声波内窥镜12与超声波观测装置14、内窥镜处理器16及光源装置18连接的状态对超声波内窥镜***10各部接通电源,则以其为触发而开始诊断处理。在诊断处理中,如图11所示,首先实施输入步骤(S001)。在输入步骤中,执业医师通过操作台100输入检查信息及控制参数等。若完成输入步骤,则实施待机步骤(S002),直至发出开始诊断的指示。
接着,若从执业医师发出诊断开始指示(S003中“是”),则CPU152控制超声波观测装置14各部而实施诊断步骤(S004)。诊断步骤按照图12中所图示的流程进行,在所指定的图像生成模式为B模式时(S031中“是”),以生成B模式图像的方式控制超声波观测装置14各部(S032)。并且,在所指定的图像生成模式不是B模式(S031中“否”)而是CF模式时(S033中“是”),以生成CF模式图像的方式控制超声波观测装置14各部(S034)。而且,在所指定的图像生成模式不是CF模式(S033中“否”)而是PW模式时(S035中“是”),以生成PW模式图像的方式控制超声波观测装置14各部(S036)。另外,在所指定的图像生成模式不是PW模式时(S035中“否”),转到步骤S037。
接着,CPU152判定超声波诊断是否已结束(S037)。在超声波诊断尚未结束时(S037中“否”),返回到诊断步骤S031,并且重复实施基于各图像生成模式的超声波图像的生成,直至诊断结束条件成立。作为诊断结束条件,例如可举出执业医师通过操作台100指示结束诊断等。
另一方面,若诊断结束条件成立而超声波诊断结束(S037中“是”),则结束诊断步骤。
接着,返回到图11,若超声波内窥镜***10各部的电源成为关断状态(S006中“是”),则结束诊断处理。另一方面,在超声波内窥镜***10各部的电源维持开通状态时(S005中“否”),返回到输入步骤S001,并重复上述诊断处理的各步骤。
<<内窥镜图像、超声波图像及解剖学图解图的显示方法>>
接着,对内窥镜图像、超声波图像及解剖学图解图的显示方法进行说明。
执业医师通过操作操作台100发出指示,能够将内窥镜图像、超声波图像及解剖学图解图中的至少一个显示于显示器20的画面内。
在该情况下,通过显示控制部172,并根据来自执业医师的指示,从内窥镜图像(有/无显示病变区域)、超声波图像(有/无显示器官的名称)及解剖学图解图(有/无显示超声波内窥镜12的前端部40的位置及朝向)中,一个图像或两个以上的图像并列显示于显示器20的画面内。并且,通过显示控制部172,从显示于显示器20的两个以上的图像中,一个图像作为关注图像显示得比其他图像大。
在超声波内窥镜***10中,在超声波图像或解剖学图解图显示于显示器20的画面内时,超声波图像识别部168进行动作,在内窥镜图像显示于显示器20的画面内时,内窥镜图像识别部170进行动作。
由此,根据来自执业医师的指示,能够将在其上重叠显示有病变区域的内窥镜图像显示于显示器20,或将在其上重叠显示有器官的名称的超声波图像显示于显示器20,或将在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图显示于显示器20。
另外,在超声波图像上重叠显示器官的名称,或在解剖学图解图上重叠显示超声波内窥镜12的前端部40的位置及朝向并不是必须的。例如,可以与超声波图像另行将器官的名称显示于显示器20,也可以与解剖学图解图另行将超声波内窥镜12的前端部40的位置及朝向显示于显示器20。
在超声波内窥镜***10中,例如在超声波图像上重叠而显示于超声波图像的器官的名称显示于显示器20,因此例如即便是对超声波图像不熟练的执业医师,也能够准确地识别在超声波图像中显示有什么。并且,例如超声波内窥镜12的前端部40的位置及朝向在解剖学图解图上重叠而显示于显示器20,因此例如即便是对超声波图像不熟练的执业医师,也能够准确地识别当前超声波内窥镜12的前端部40位于哪个位置,朝向哪个方向,正在观察哪个部位,从而在受检体的体内不会迷失。而且,病变区域在内窥镜图像上重叠而显示于显示器20,因此能够准确地识别病变区域。
例如,执业医师能够将超声波图像及解剖学图解图并列显示于显示器20的画面内。
在该情况下,通过显示控制部172,并根据来自执业医师的指示,例如在其上重叠显示有器官的名称的超声波图像以及在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图并列显示于显示器20的画面内。并且,从显示于显示器20的超声波图像及解剖学图解图中,一个图像作为关注图像显示得比其他图像大。
图13A是表示超声波图像及解剖学图解图的显示位置的一实施方式的概念图,图13B是表示其超声波图像及解剖学图解图的一实施方式的概念图。
如图13A及图13B所示,作为初始画面,例如在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图显示于显示器20的画面内的左上部,在其上重叠显示有器官的名称的超声波图像显示于显示器20的画面内的右部。并且,作为初始画面,例如超声波图像显示得比解剖学图解图大。
并且,执业医师能够将在其上重叠显示有器官的名称的超声波图像(第1诊断用超声波图像)、与第1诊断用超声波图像相同的超声波图像但未显示器官的名称的超声波图像(第2诊断用超声波图像)以及在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图显示于显示器20的画面内。
在该情况下,通过显示控制部172,并根据来自执业医师的指示,例如第1诊断用超声波图像、第2诊断用超声波图像以及在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图并列显示于显示器20的画面内。并且,从显示于显示器20的第1诊断用超声波图像、第2诊断用超声波图像及解剖学图解图中,一个图像作为关注图像显示得比其他图像大。
图14A是表示第1诊断用超声波图像、第2诊断用超声波图像及解剖学图解图的显示位置的一实施方式的概念图,图14B是表示第1诊断用超声波图像、第2诊断用超声波图像及解剖学图解图的一实施方式的概念图。
如图14A及图14B所示,作为初始画面,例如在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图显示于显示器20的画面内的左上部,第1诊断用超声波图像显示于显示器20的画面内的左下部,第2诊断用超声波图像显示于显示器20的画面内的右部。并且,作为初始画面,例如第2诊断用超声波图像显示得比解剖学图解图及第1诊断用超声波图像大。
并且,执业医师能够将内窥镜图像、超声波图像及解剖学图解图显示于显示器20的画面内。
在该情况下,通过显示控制部172,并根据来自执业医师的指示,例如内窥镜图像、在其上重叠显示有器官的名称的超声波图像以及在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图并列显示于显示器20的画面内。并且,从显示于显示器20的内窥镜图像、超声波图像及解剖学图解图中,一个图像作为关注图像显示得比其他图像大。
图15A是表示内窥镜图像、超声波图像及解剖学图解图的显示位置的一实施方式的概念图,图15B是表示内窥镜图像、超声波图像及解剖学图解图的一实施方式的概念图。
如图15A及图15B所示,作为初始画面,例如在其上重叠显示有超声波内窥镜12的前端部40的位置及朝向的解剖学图解图显示于显示器20的画面内的左上部,未显示病变区域的内窥镜图像显示于显示器20的画面内的左下部,在其上重叠显示有器官的名称的超声波图像显示于显示器20的画面内的右部。并且,作为初始画面,例如超声波图像显示得比解剖学图解图及内窥镜图像大。
另外,对内窥镜图像、超声波图像及解剖学图解图的显示方法进行了说明,但并不限定于此,能够将一个图像或任意地组合两个以上的图像而并列显示于显示器20的画面内。
并且,作为初始画面,能够任意地设定将内窥镜图像、超声波图像及解剖学图解图配置于哪个位置,并且将显示于显示器20的图像中哪一个图像显示得比其他图像大。例如,作为初始图像,可以替换显示图14A及图14B所示的第1诊断用超声波图像与第2诊断用超声波图像。
并且,执业医师能够从显示于显示器20的图像中切换显示关注图像。
例如,假设内窥镜图像、超声波图像及解剖学图解图显示于显示器20的画面内。
在该情况下,通过显示控制部172,并根据来自执业医师的指示,从显示于显示器20的内窥镜图像、超声波图像及解剖学图解图中,关注图像从一个图像切换显示为其他图像中的一个。
如图16的左上部所示,作为初始画面,假设解剖学图解图显示于显示器20的画面内的左上部,内窥镜图像显示于显示器20的画面内的左下部,超声波图像显示于显示器20的画面内的右部。并且,作为初始画面,假设超声波图像作为关注图像显示得比解剖学图解图及内窥镜图像大。
例如,在从图16的左上部的状态通过执业医师而内窥镜图像选择为关注图像时,如图16的右上部所示,解剖学图解图显示于显示器20的画面内的左上部,超声波图像显示于显示器20的画面内的左下部,内窥镜图像显示于显示器20的画面内的右部。并且,内窥镜图像显示得比解剖学图解图及超声波图像大。
并且,在从图16的左上部的状态通过执业医师而解剖学图解图选择为关注图像时,如图16的下部所示,内窥镜图像显示于显示器20的画面内的左上部,超声波图像显示于显示器20的画面内的左下部,解剖学图解图显示于显示器20的画面内的右部。并且,解剖学图解图显示得比内窥镜图像及超声波图像大。
从图16的右上部的状态通过执业医师而解剖学图解图选择为关注图像时的动作也与从图16的左上部的状态解剖学图解图选择为关注图像时的动作相同。
在从图16的右上部的状态通过执业医师而超声波图像选择为关注图像时,如图16的左上部所示,超声波图像显示得比解剖学图解图及内窥镜图像大。
从图16的下部的状态通过执业医师而超声波图像选择为关注图像时的动作也与从图16的右上部的状态超声波图像选择为关注图像时的动作相同。
在超声波内窥镜***10中,能够切换内窥镜图像、超声波图像及解剖学图解图并通俗易懂地显示。执业医师所关心的关注图像随时发生变化,但执业医师能够以任意的定时切换关注图像,因此能够将当时所关心的图像设为关注图像而显示得比其他图像大来进行阅览。
另外,以从显示于显示器20的内窥镜图像、超声波图像及解剖学图解图中切换关注图像时为例子进行了说明,但并不限定于此,从显示于显示器20的两个以上的图像中切换关注图像时也同样地进行动作。
<<超声波图像识别部168及内窥镜图像识别部170的配置位置>>
接着,对超声波图像识别部168及内窥镜图像识别部170的配置位置进行说明。
在本实施方式的情况下,超声波图像识别部168内置于超声波观测装置14,但并不限于此,例如可以内置于内窥镜处理器16,或也可以设置于超声波观测装置14及内窥镜处理器16的外部。
如本实施方式,在超声波图像识别部168内置于超声波观测装置14时,如图17所示,内窥镜图像从内窥镜处理器16传送至超声波观测装置14。
并且,在超声波图像识别部168内置于内窥镜处理器16时,如图18所示,超声波图像从超声波观测装置14传送至内窥镜处理器16。
在超声波图像识别部168设置于超声波观测装置14及内窥镜处理器16的外部时,如图19所示,内窥镜图像从内窥镜处理器16传送至超声波观测装置14,进而内窥镜图像及超声波图像从超声波观测装置14传送至超声波图像识别部168。
在该情况下,也可以将超声波图像从超声波观测装置14传送至内窥镜处理器16,进而将内窥镜图像及超声波图像从内窥镜处理器16传送至超声波图像识别部168。或者,也可以将内窥镜图像从内窥镜处理器16传送至超声波图像识别部168,而不是从内窥镜处理器16传送至超声波观测装置14,进而从超声波观测装置14传送至超声波图像识别部168。
显示控制部172配置于输出至显示器20的最终图像信号与显示器20之间。
在超声波图像识别部168内置于超声波观测装置14时,显示控制部172例如能够内置于超声波观测装置14,或设置于超声波观测装置14与显示器20之间。
并且,在超声波图像识别部168内置于内窥镜处理器16时,显示控制部172例如能够内置于内窥镜处理器16,或设置于内窥镜处理器16与显示器20之间。
而且,在超声波图像识别部168设置于超声波观测装置14及内窥镜处理器16的外部时,显示控制部172例如能够设置于超声波观测装置14及内窥镜处理器16的外部。
显示控制部172根据来自执业医师的指示,从内窥镜图像(有/无显示病变区域)、超声波图像(有/无显示器官的名称)及解剖学图解图(有/无显示超声波内窥镜12的前端部40的位置及朝向)中,将一个图像或两个以上的图像并列显示于显示器20的画面内。
内窥镜图像识别部170的配置位置也能够以与超声波图像识别部168的配置位置相同的方式确定。即,在本实施方式的情况下,内窥镜图像识别部170内置于内窥镜处理器16,但并不限于此,例如也可以内置于超声波观测装置14,或设置于超声波观测装置14及内窥镜处理器16的外部。
如此,在超声波内窥镜***10中,超声波图像识别部168及内窥镜图像识别部170的配置位置不是固定的,能够将超声波图像识别部168及内窥镜图像识别部170配置于任意的配置位置。
接着,参考图20及图21对第2实施方式所涉及的超声波内窥镜***进行说明。图20是表示第2实施方式的超声波观测装置14B的结构的框图,图21是表示第2实施方式的超声波图像识别部168B的结构的框图。
<<超声波内窥镜***的概要>>
第2实施方式的超声波内窥镜***的结构代替第1实施方式的超声波内窥镜***10所具备的超声波观测装置14而具备超声波观测装置14B,除此以外与第1实施方式的超声波内窥镜***10相同,因此省略除此以外的相同的结构要件的详细说明。
以下,继续对超声波观测装置14B进行说明。
<<超声波观测装置14B的结构>>
图20所示的超声波观测装置14B的结构代替第1实施方式的超声波观测装置14所具备的超声波图像识别部168及显示控制部172而具备超声波图像识别部168B及显示控制部172B,而且具备颜色登记部174及器官登记部176,除此以外与第1实施方式的超声波观测装置14相同,因此对除此以外的相同的结构要件标注相同的符号,并省略其详细说明。
超声波图像识别部168B关于与显示于诊断用超声波图像的器官的名称以及超声波内窥镜12的前端部40的位置及朝向相关的学习及识别,以与第1实施方式的超声波图像识别部168相同的方式发挥作用。
此外,超声波图像识别部168B对多个学习用超声波图像预先学习学习用超声波图像与显示于学习用超声波图像的器官的范围(器官的区域)之间的关系,根据学习结果,从诊断用超声波图像识别显示于该诊断用超声波图像的器官的范围。
学习用超声波图像为超声波图像识别部168B用于学习超声波图像与器官的范围之间的关系的现有的超声波图像,例如能够利用过去拍摄的各种超声波图像。
图21所示的超声波图像识别部168B的结构代替第1实施方式的超声波图像识别部168所具备的选择部116及器官名称检测控制部118而具备选择部116B以及器官名称及范围检测控制部118B,而且具备器官范围检测部120,除此以外,与第1实施方式的超声波图像识别部168相同,因此对除此以外的相同的结构要件标注相同的符号,并省略其详细说明。
器官范围检测部120根据学习结果,从诊断用超声波图像检测显示于诊断用超声波图像的器官的范围。器官范围检测部120具备分别与成为受检体的体内的观察对象部位的多个位置对应的多个检测部。在此,作为一例,具备第1~第11检测部120A~120K。第1检测部120A与大动脉、腹腔动脉及肠系膜上动脉的合流部对应,第2检测部120B与胰体部对应,第3检测部120C与胰尾部对应,第4检测部120D与脾静脉、肠系膜上静脉及门静脉的合流部(汇流点)对应,第5检测部120E与胰头部对应,第6检测部120F与胆囊对应,第7检测部120G与门静脉对应,第8检测部120H与胆总管对应,第9检测部120I与胆囊对应,第10检测部120J与胰头钩突部对应,第11检测部120K与***状突起对应。
第1~第11检测部120A~120K分别为学习完毕模型。该多个学习完毕模型分别为使用由不同的学习用超声波图像构成的数据集而进行学习的模型。详细而言,多个学习完毕模型分别为使用由拍摄了成为受检体的体内的观察对象部位的不同的位置的学习用超声波图像构成的数据集而预先学习了学习用超声波图像与显示于学习用超声波图像的器官的范围之间的关系的模型。
即,第1检测部120A为使用由大动脉、腹腔动脉及肠系膜上动脉的合流部的学习用超声波图像构成的数据集而进行学习的模型,第2检测部120B为使用由胰体部的学习用超声波图像构成的数据集而进行学习的模型,第3检测部120C为使用由胰尾部的学习用超声波图像构成的数据集而进行学习的模型,第4检测部120D为使用由脾静脉、肠系膜上静脉及门静脉的合流部的学习用超声波图像构成的数据集而进行学习的模型,第5检测部120E为使用由胰头部的学习用超声波图像构成的数据集而进行学习的模型,第6检测部120F为使用由胆囊的学习用超声波图像构成的数据集而进行学习的模型,第7检测部120G为使用由门静脉的学习用超声波图像构成的数据集而进行学习的模型,第8检测部120H为使用由胆总管的学习用超声波图像构成的数据集而进行学习的模型,第9检测部120I为使用由胆囊的学习用超声波图像构成的数据集而进行学习的模型,第10检测部120J为使用由胰头钩突部的学习用超声波图像构成的数据集而进行学习的模型,第11检测部120K为使用由***状突起的学习用超声波图像构成的数据集而进行学习的模型。
如前述,大致确定有拍摄超声波图像时的体内的观察路径及代表性的观察点。因此,能够建立关联地学习代表性的观察点上的超声波图像与显示于该超声波图像的器官的范围。
学习方法只要是能够从多个学习用超声波图像学习超声波图像与器官的范围之间的关系并生成学习完毕模型的方法,则并无特别限定。学习方法及学习完毕模型的更新方法等如前述。
选择部116B关于从器官名称检测部112对检测部的选择,以与第1实施方式的选择部116相同的方式发挥作用。
此外,选择部116B从器官范围检测部120选择与位置及朝向检测部114检测到的超声波内窥镜12的前端部40的位置对应的检测部。
即,选择部116B在超声波内窥镜12的前端部40的位置为(1)大动脉、腹腔动脉及肠系膜上动脉的合流部时选择第1检测部120A,在为(2)胰体部时选择第2检测部120B,在为(3)胰尾部时选择第3检测部120C,在为(4)脾静脉、肠系膜上静脉及门静脉的合流部时选择第4检测部120D,在为(5)胰头部时选择第5检测部120E,在为(6)胆囊时选择第6检测部120F,在为(7)门静脉时选择第7检测部120(G,在为(8)胆总管时选择第8检测部120H,在为(9)胆囊时选择第9检测部120i,在为(10)胰头钩突部时选择第10检测部120J,在为(11)***状突起时选择第11检测部120K。
器官名称及范围检测控制部118B关于器官名称检测部112的控制,以与第1实施方式的器官名称检测控制部118相同的方式发挥作用。
此外,器官名称及范围检测控制部118B通过选择部116B从器官范围检测部120选择的检测部,从诊断用超声波图像检测显示于该诊断用超声波图像的器官的范围。
另外,作为由器官范围检测部120检测范围的器官,包含使用超声波观测装置14可观测的受检体的体内的所有观察对象部位。
在超声波图像识别部168B中,通过位置及朝向检测部114,并根据学习结果,从诊断用超声波图像检测超声波内窥镜12的前端部40的位置及朝向。
接着,通过选择部116B,从器官名称检测部112及器官范围检测部120选择与位置及朝向检测部114检测到的超声波内窥镜12的前端部40的位置对应的检测部。
接着,通过器官名称及范围检测控制部118B以选择部116B所选择的检测部根据学习结果而从诊断用超声波图像检测显示于诊断用超声波图像的器官的名称及器官的范围的方式进行控制。
在第2实施方式的超声波内窥镜***中,例如在超声波图像上重叠而显示于超声波图像的器官的名称进而器官的范围显示于显示器20,超声波内窥镜12的前端部40的位置及朝向在解剖学图解图上重叠而显示于显示器20。因此,例如即便是对超声波图像不熟练的执业医师,也能够准确地识别在超声波图像中显示有什么,显示于超声波图像的器官的范围在哪里。并且,能够准确地识别当前超声波内窥镜12的前端部40位于哪个位置,朝向哪个方向,正在观察哪个部位,从而在受检体的体内不会迷失。
返回到图20,显示控制部172B以与第1实施方式的显示控制部172相同的方式发挥作用。
此外,显示控制部172B将通过超声波图像识别部168B识别出的器官的范围显示于显示器20。
颜色登记部174根据来自执业医师的指示,登记器官的种类与器官的范围的颜色之间的关系。进一步详细而言,登记器官的种类与表示器官的范围的内部区域或器官的范围的框的颜色之间的关系。登记于颜色登记部174的器官的种类与器官的内部区域或框的颜色之间的关系输出至显示控制部172B。
表示器官的范围的框(以下,也称为器官的框)是器官的轮廓,也是与其他器官的边界线。
器官的范围的内部区域(以下,也称为器官的内部区域)是被器官的框包围的密闭空间内的区域。
器官登记部176根据来自执业医师的指示,登记显示范围的器官的种类。登记于器官登记部176的显示范围的器官的种类输出至显示控制部172B。
<<器官的名称及器官的范围的显示方法>>
接着,对器官的名称及器官的范围的显示方法进行说明。
执业医师能够指定是否显示超声波图像中所显示的器官的范围。
若根据来自执业医师的指示指定显示器官的范围,则如图22B所示,通过显示控制部172B,例如通过超声波图像识别部168B识别出的器官的范围的内部区域着色为所设定的颜色,并且该内部区域被着色的器官的范围显示于显示器20。或者,设置通过超声波图像识别部168B识别出的表示器官的范围的框而该框着色为所设定的颜色,并且框被着色的器官的范围显示于显示器20。
另一方面,若根据来自执业医师的指示指定不显示器官的范围,则不会通过显示控制部172B显示器官的范围。
通过对器官的内部区域或框进行着色并显示,执业医师能够明确地识别器官的范围。
另外,所设定的颜色为预先设定于显示控制部172B的颜色,对其并无特别限定,优选为除白色或黑色以外的颜色,以便执业医师在超声波图像中能够容易识别器官的范围。
并且,显示控制部172B优选按照通过超声波图像识别部168B识别出范围的器官的种类,将器官的内部区域或框着色为不同的颜色。
显示控制部172B例如能够将彼此相邻的两个以上的器官的内部区域或框着色为色相均匀地分开的颜色或包含色相均匀地分开的颜色的所设定的色相范围的颜色,以便执业医师容易识别颜色的差异。并且,显示控制部172B能够将血管的内部区域或框、除血液以外的体液流动的脉管的内部区域或框以及除血管及脉管以外的器官的内部区域或框着色为同样色相均匀地分开的颜色或包含色相均匀地分开的颜色的所设定的色相范围的颜色。
例如,在两个器官相邻时,将其中一个器官的内部区域或框的颜色着色为另一个器官的内部区域或框的颜色的补色或包含该补色的所设定的色相范围的颜色。并且,在三个器官相邻时,将这三个器官的内部区域或框的颜色着色为色相均匀地分开的颜色,如R(红色)、G(绿色)及B(蓝色)。
由此,执业医师例如即使在两个以上的器官相邻的情况下,也能够根据颜色的差异明确地识别各器官的范围。
并且,执业医师能够将器官的范围着色为执业医师所指定的颜色,或着色为执业医师预先登记的颜色。
若根据来自执业医师的指示指定对器官的范围进行着色的颜色,则通过显示控制部172B,器官的内部区域或框着色为根据来自执业医师的指示而指定的颜色。或者,在器官的种类与器官的内部区域或框的颜色之间的关系已登记于颜色登记部174时,通过显示控制部172B,器官的内部区域或框着色为与登记于颜色登记部174的器官的种类对应的器官的内部区域或框的颜色。
如此,执业医师能够将器官的范围着色为执业医师所期望的颜色,因此例如根据颜色能够轻松地识别器官的种类,如红色表示肝脏。
并且,在检测显示于诊断用超声波图像的器官的名称时,超声波图像识别部168B的器官名称检测部112能够计算通过器官名称检测部112识别出的器官的名称的可信度。
器官的名称的可信度是指,通过器官名称检测部112识别出的器官的名称是准确的名称的几率。例如,在检测到器官的名称是肝脏时,以显示于诊断用超声波图像的器官的名称是肝脏的几率为90%的方式计算器官的名称的可信度。
在该情况下,显示控制部172B根据通过超声波图像识别部168B计算出的可信度,能够确定显示于显示器20的器官的名称的显示方法及器官的内部区域或框的着色方法中的至少一者。
在显示器官的名称时,显示控制部172B根据可信度,例如能够进行如下中的至少一者:确定显示于显示器20的器官的名称的大小、确定对器官的内部区域或框进行着色的颜色及确定是否显示特定字符。
例如,在可信度较低时,显示控制部172B与可信度较高的情况相比缩小器官的名称的大小,或使对器官的内部区域或框进行着色的颜色的浓度变淡,或若器官的名称是肝脏,则以“肝脏?”的方式,为了表现器官的名称是肝脏的几率较低而显示如“?”那样的特定字符。
在对器官的内部区域或框进行着色时,显示控制部172B根据可信度,例如能够确定对器官的内部区域或框进行着色的颜色的浓度。
例如,在可信度较低时,使对器官的内部区域或框进行着色的颜色的浓度变淡,在可信度较高时,使对器官的内部区域或框进行着色的颜色的浓度变浓。
如此,通过确定器官的名称的显示方法及器官的内部区域或框的着色方法,执业医师能够判断通过超声波图像识别部168B识别出的器官的名称是否准确。
并且,在诊断用超声波图像上重叠显示器官的名称时,显示控制部172B优选根据显示于器官的名称的显示区域的背后的诊断用超声波图像的亮度,确定器官的名称的颜色及器官的内部区域或框的颜色中的至少一者。
在器官的名称的显示区域的背后的超声波图像的亮度较亮时,显示控制部172B提高器官的名称的颜色的浓度,或降低器官的内部区域或框的颜色的浓度。
由此,即使在器官的名称与其背景的超声波图像重合,或器官的名称与其背景的被着色的器官的内部区域或框重合的情况下,也能够使执业医师容易看清器官的名称。
并且,执业医师能够指定是否显示器官的名称及是否对器官的范围进行着色。
显示控制部172B根据来自执业医师的指示对以下进行切换:对于通过超声波图像识别部168B识别出的器官的名称及内部区域或框被着色的器官的范围这两者,仅显示一者,或显示两者,或两者都不显示。
例如,若根据来自执业医师的指示指定仅显示器官的名称,则如图22A所示,显示控制部172B不对器官的范围进行着色,而仅显示器官的名称,若指定仅对器官的范围进行着色,则如图22B所示,不显示器官的名称,而仅对器官的范围进行着色。并且,若指定进行器官的名称的显示及器官的范围的着色这两者,则显示器官的名称,且对器官的范围进行着色。另一方面,若指定均不进行器官的名称的显示及器官的范围的着色这两者,则不显示器官的名称,且不对器官的范围进行着色。
并且,显示控制部172B根据通过超声波图像识别部168B识别出的器官的范围,能够确定将通过超声波图像识别部168B识别出的器官的名称显示于显示器20的位置,或确定是否显示于显示器20。
例如,在通过超声波图像识别部168B识别出的器官的范围较小时,显示控制部172B不显示器官的名称,在器官的范围较大时,显示器官的名称。并且,在器官的范围较小时,将器官的名称不在器官的范围的范围内显示而显示于其附近,在器官的范围较大时,将器官的名称显示于器官的范围内。
并且,执业医师能够显示仅执业医师预先登记的种类的器官的范围。
在显示范围的器官的种类已登记于器官登记部176时,限于通过超声波图像识别部168B识别出范围的器官为登记于器官登记部176的器官时,通过显示控制部172B,由超声波图像识别部168B识别出的器官的范围显示于显示器20。
如此,执业医师能够显示仅所期望的种类的器官的范围,因此能够轻松地识别该所期望的种类的器官。
并且,执业医师能够指定显示范围的器官的种类。
例如,若根据来自执业医师的指示依次指定显示范围的器官的种类,则相应于此,通过显示控制部172B,依次切换显示范围的器官的种类。
在本发明的装置中,例如,内窥镜图像识别部170(病变区域检测部102、位置信息获取部104、选择部106及病变区域检测控制部108)、超声波图像识别部168、168B(器官名称检测部112、器官范围检测部120、位置及朝向检测部114、选择部116、选择部116B、器官名称检测控制部118、器官名称及范围检测控制部118B)、显示控制部172、172B及操作台(指示获取部)100等执行各种处理的处理部(Processing Unit)的硬件结构可以是专用的硬件,也可以是执行程序的各种处理器或计算机。并且,电影存储器150、颜色登记部174及器官登记部176的硬件结构可以是专用的硬件,或也可以是半导体存储器等存储器。
各种处理器中包含执行软件(程序)而作为各种处理部发挥作用的通用的处理器即CPU(Central Processing Unit/中央处理器)、FPGA(Field Progr ammable GateArray/现场可编程门阵列)等制造后能够变更电路结构的处理器即可编程逻辑器件(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit/专用集成电路)等具有为了执行特定处理而专门设计的电路结构的处理器即专用电气电路等。
可以将一个处理部由这些各种处理器中的一个来构成,也可以由相同种类或不同种类的两个以上的处理器的组合(例如,多个FPGA的组合或FPGA及CPU的组合)等来构成。并且,可以将多个处理部由各种处理器中的一个来构成,也可以由集成多个处理部中的两个以上而使用一个处理器来构成。
例如,以服务器及客户端等计算机为代表,有由一个以上的CPU与软件的组合来构成一个处理器,并且该处理器作为多个处理部而发挥作用的方式。并且,有如以片上***(System on Chip:SoC)等为代表,使用将包含多个处理部的整个***的功能由一个IC(Integrated Circuit/集成电路)芯片来实现的处理器的方式。
而且,更具体而言,这些各种处理器的硬件结构为组合了半导体元件等电路元件的方式的电气电路(Circuitry)。
并且,本发明的方法例如能够通过用于使计算机执行其各步骤的程序来实施。并且,还能够提供记录有该程序的计算机可读取的记录介质。
以上,对本发明进行了详细说明,但本发明并不限定于上述实施方式,在不脱离本发明的宗旨的范围内,可以进行各种改良及变更是显而易见的。
符号说明
10-超声波内窥镜***,12-超声波内窥镜,14、14B-超声波观测装置,16-内窥镜处理器,18-光源装置,20-显示器,21a-送水罐,21b-抽吸泵,22-***部,24-操作部,26-通用塞绳,28a-送气送水按钮,28b-抽吸按钮,29-弯角钮,30-处置器具***口,32a-超声波用连接器,32b-内窥镜用连接器,32c-光源用连接器,34a-送气送水用软管,34b-抽吸用软管,36-超声波观察部,38-内窥镜观察部,40-前端部,42-弯曲部,43-软性部,44-处置器具导出口,45-处置器具通道,46-超声波振子单元,48-超声波振子,50-超声波振子阵列,54-背衬材料层,56-同轴电缆,60-FPC,74-声匹配层,76-声透镜,82-观察窗,84-物镜,86-固体成像元件,88-照明窗,90-清洗喷嘴,92-配线电缆,100-操作台,102-病变区域检测部,104-位置信息获取部,106、116-选择部,108-病变区域检测控制部,102A~102K-第1~第11检测部,112-器官名称检测部,114-位置及朝向检测部,118-器官名称检测控制部,112A~112K-第1~第11检测部,140-多工器,142-接收电路,144-发送电路,M6-A/D转换器,148-ASIC,150-电影存储器,151-存储控制器,152-CPU,154-DSC,158-脉冲发生电路,160-相位匹配部,162-B模式图像生成部,164-PW模式图像生成部,166-CF模式图像生成部,168、168B-超声波图像识别部,170-内窥镜图像识别部,172、172B-显示控制部,174-颜色登记部,176-器官登记部。
Claims (33)
1.一种超声波内窥镜***,其具备:
超声波内窥镜,在前端具有超声波振子;
超声波观测装置,通过所述超声波振子收发超声波,并且根据所述超声波的接收信号生成诊断用超声波图像;
超声波图像识别部,对多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的名称之间的关系及所述学习用超声波图像与拍摄所述学习用超声波图像时的所述超声波内窥镜的前端部的位置之间的关系中的至少一者,根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的名称及所述超声波内窥镜的前端部的位置中的至少一者;及
显示控制部,将通过所述超声波图像识别部识别出的所述器官的名称及所述超声波内窥镜的前端部的位置中的至少一个显示于显示器。
2.根据权利要求1所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示,
所述显示控制部根据来自所述用户的指示,在所述诊断用超声波图像上重叠显示所述器官的名称,在解剖学图解图上重叠显示所述超声波内窥镜的前端部的位置。
3.根据权利要求2所述的超声波内窥镜***,其中,
所述显示控制部根据来自所述用户的指示,从未显示所述器官的名称的所述诊断用超声波图像、重叠显示有所述器官的名称的所述诊断用超声波图像、未显示所述超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有所述器官的名称的所述诊断用超声波图像及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于所述显示器的画面内。
4.根据权利要求1至3中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜在前端还具有照明部及摄像部,
所述超声波内窥镜***还具备:
内窥镜处理器,通过所述摄像部接收从所述照明部照射的照明光的反射光,并且由所述反射光的摄像信号生成诊断用内窥镜图像;及
指示获取部,获取由用户输入的指示,
所述显示控制部根据来自所述用户的指示,将所述诊断用内窥镜图像显示于所述显示器的画面内。
5.根据权利要求4所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
内窥镜图像识别部,从所述诊断用内窥镜图像识别显示于所述诊断用内窥镜图像的病变区域,
所述显示控制部根据来自所述用户的指示,将重叠显示有所述病变区域的所述诊断用内窥镜图像显示于所述显示器。
6.根据权利要求5所述的超声波内窥镜***,其中,
所述显示控制部根据来自所述用户的指示,从未显示所述病变区域的所述诊断用内窥镜图像、重叠显示有所述病变区域的所述诊断用内窥镜图像、未显示所述器官的名称的所述诊断用超声波图像、重叠显示有所述器官的名称的所述诊断用超声波图像、未显示所述超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有所述器官的名称的所述诊断用超声波图像及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于所述显示器的画面内。
7.根据权利要求3或6所述的超声波内窥镜***,其中,
从显示于所述显示器的两个以上的图像中,将一个图像设为关注图像并显示得比其他图像大。
8.根据权利要求7所述的超声波内窥镜***,其中,
所述显示控制部根据来自所述用户的指示,将所述关注图像从所述一个图像切换显示为所述其他图像中的一个。
9.根据权利要求3、6至8中任一项所述的超声波内窥镜***,其中,
所述显示控制部根据来自所述用户的指示,将未显示所述器官的名称的所述诊断用超声波图像、重叠显示有所述器官的名称的所述论断用超声波图像及重叠显示有所述超声波内窥镜的前端部的位置的所述解剖学图解图并列显示于所述显示器的画面内。
10.根据权利要求5或6所述的超声波内窥镜***,其中,
在所述诊断用超声波图像或解剖学图解图显示于所述显示器的画面内的情况下,所述超声波图像识别部进行动作,在所述诊断用内窥镜图像显示于所述显示器的画面内的情况下,所述内窥镜图像识别部进行动作。
11.根据权利要求1至10中任一项所述的超声波内窥镜***,其中,
所述超声波图像识别部对所述多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的名称之间的关系以及所述学习用超声波图像与拍摄所述学习用超声波图像时的所述超声波内窥镜的前端部的位置及朝向之间的关系中的至少一者,根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的名称以及所述超声波内窥镜的前端部的位置及朝向中的至少一者,
所述显示控制部将通过所述超声波图像识别部识别出的所述器官的名称以及通过所述超声波图像识别部识别出的所述超声波内窥镜的前端部的位置及朝向中的至少一个显示于所述显示器。
12.根据权利要求11所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示,
所述显示控制部根据来自所述用户的指示,将重叠显示有所述超声波内窥镜的前端部的位置及朝向的解剖学图解图显示于所述显示器。
13.根据权利要求1至12中任一项所述的超声波内窥镜***,其中,
所述超声波图像识别部还对所述多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的范围之间的关系,根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的范围,
所述显示控制部还将通过所述超声波图像识别部识别出的所述器官的范围显示于显示器。
14.根据权利要求13所述的超声波内窥镜***,其中,
所述显示控制部对通过所述超声波图像识别部识别出的所述器官的范围的内部区域进行着色,将所述内部区域被着色的所述器官的范围显示于所述显示器,或设置表示通过所述超声波图像识别部识别出的所述器官的范围的框并对所述框进行着色,将所述框被着色的所述器官的范围显示于所述显示器。
15.根据权利要求14所述的超声波内窥镜***,其中,
所述显示控制部按照通过所述超声波图像识别部识别出范围的器官的每个种类,将所述内部区域或所述框着色为不同的颜色。
16.根据权利要求15所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示;及
颜色登记部,根据来自所述用户的指示,登记所述器官的种类与所述内部区域或所述框的颜色之间的关系,
所述显示控制部将所述内部区域或所述框着色为根据来自所述用户的指示而指定的颜色,或着色为与登记于所述颜色登记部的所述器官的种类对应的所述内部区域或所述框的颜色。
17.根据权利要求14至16中任一项所述的超声波内窥镜***,其中,
所述超声波图像识别部还计算通过所述超声波图像识别部识别出的所述器官的名称的可信度,
所述显示控制部根据所述可信度,确定显示于所述显示器的所述器官的名称的显示方法及所述内部区域或所述框的着色方法中的至少一者。
18.根据权利要求14至17中任一项所述的超声波内窥镜***,其中,
在所述诊断用超声波图像上重叠显示所述器官的名称的情况下,所述显示控制部根据显示于所述器官的名称的显示区域的背后的所述诊断用超声波图像的亮度,确定所述器官的名称的颜色及所述内部区域或所述框的颜色中的至少一者。
19.根据权利要求14至18中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示,
所述显示控制部根据来自所述用户的指示对以下进行切换:对于通过所述超声波图像识别部识别出的所述器官的名称及所述内部区域或所述框被着色的所述器官的范围这两者,仅显示一者,或显示两者,或两者都不显示。
20.根据权利要求13至19中任一项所述的超声波内窥镜***,其中,
所述显示控制部根据通过所述超声波图像识别部识别出的所述器官的范围,确定将通过所述超声波图像识别部识别出的所述器官的名称显示于所述显示器的位置。
21.根据权利要求13至20中任一项所述的超声波内窥镜***,其中,
所述显示控制部根据通过所述超声波图像识别部识别出的所述器官的范围,确定是否将通过所述超声波图像识别部识别出的所述器官的名称显示于所述显示器。
22.根据权利要求13至21中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示;及
器官登记部,根据来自所述用户的指示,登记显示范围的器官的种类,
在通过所述超声波图像识别部识别出范围的器官为登记于所述器官登记部的器官的情况下,所述显示控制部将通过所述超声波图像识别部识别出的器官的范围显示于所述显示器。
23.根据权利要求13至22中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜***还具备:
指示获取部,获取由用户输入的指示,
所述显示控制部根据来自所述用户的指示,依次切换显示范围的器官的种类。
24.根据权利要求1至23中任一项所述的超声波内窥镜***,其中,
所述超声波图像识别部内置于所述超声波观测装置。
25.根据权利要求1至23中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜在前端还具有照明部及摄像部,
所述超声波内窥镜***还具备:
内窥镜处理器,通过所述摄像部接收从所述照明部照射的照明光的反射光,由所述反射光的摄像信号生成诊断用内窥镜图像,
所述超声波图像识别部内置于所述内窥镜处理器。
26.根据权利要求1至23中任一项所述的超声波内窥镜***,其中,
所述超声波内窥镜在前端还具有照明部及摄像部,
所述超声波内窥镜***还具备:
内窥镜处理器,通过所述摄像部接收从所述照明部照射的照明光的反射光,由所述反射光的摄像信号生成诊断用内窥镜图像,
所述超声波图像识别部设置于所述超声波观测装置及所述内窥镜处理器的外部。
27.一种超声波内窥镜***的工作方法,其包括:
超声波图像识别部对多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的名称之间的关系及所述学习用超声波图像与拍摄所述学习用超声波图像时的超声波内窥镜的前端部的位置之间的关系中的至少一者的步骤;
超声波观测装置通过所述超声波内窥镜的前端所具有的超声波振子收发超声波,并且根据所述超声波的接收信号生成诊断用超声波图像的步骤;
所述超声波图像识别部根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的名称及所述超声波内窥镜的前端部的位置中的至少一者的步骤;及
显示控制部将通过所述超声波图像识别部识别出的所述器官的名称及所述超声波内窥镜的前端部的位置中的至少一个显示于显示器的步骤。
28.根据权利要求27所述的超声波内窥镜***的工作方法,其中,
根据来自用户的指示,在所述诊断用超声波图像上重叠显示所述器官的名称,在解剖学图解图上重叠显示所述超声波内窥镜的前端部的位置。
29.根据权利要求28所述的超声波内窥镜***的工作方法,其中,
根据来自所述用户的指示,从未显示所述器官的名称的所述诊断用超声波图像、重叠显示有所述器官的名称的所述诊断用超声波图像、未显示所述超声波内窥镜的前端部的位置的解剖学图解图及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中,将包含重叠显示有所述器官的名称的所述诊断用超声波图像及重叠显示有所述超声波内窥镜的前端部的位置的解剖学图解图中的至少一者的两个以上的图像并列显示于所述显示器的画面内。
30.根据权利要求29所述的超声波内窥镜***的工作方法,其中,
从显示于所述显示器的两个以上的图像中,将一个图像设为关注图像并显示得比其他图像大。
31.根据权利要求30所述的超声波内窥镜***的工作方法,其中,
根据来自所述用户的指示,将所述关注图像从所述一个图像切换显示为所述其他图像中的一个。
32.根据权利要求27至30中任一项所述的超声波内窥镜***的工作方法,其中,
对所述多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的名称之间的关系及所述学习用超声波图像与拍摄所述学习用超声波图像时的所述超声波内窥镜的前端部的位置及朝向之间的关系中的至少一者,
根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的名称以及所述超声波内窥镜的前端部的位置及朝向中的至少一者,
将通过所述超声波图像识别部识别出的所述器官的名称以及通过所述超声波图像识别部识别出的所述超声波内窥镜的前端部的位置及朝向中的至少一个显示于所述显示器。
33.根据权利要求27至32中任一项所述的超声波内窥镜***的工作方法,其中,
所述超声波内窥镜***的工作方法还包括:
所述超声波图像识别部对所述多个学习用超声波图像预先学习所述学习用超声波图像与显示于所述学习用超声波图像的器官的范围之间的关系的步骤;
所述超声波图像识别部根据学习结果,从所述诊断用超声波图像识别显示于所述诊断用超声波图像的器官的范围的步骤;及
所述显示控制部将通过所述超声波图像识别部识别出的所述器官的范围显示于显示器的步骤。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019035846 | 2019-02-28 | ||
JP2019-035846 | 2019-02-28 | ||
JP2019156614 | 2019-08-29 | ||
JP2019-156614 | 2019-08-29 | ||
PCT/JP2019/045429 WO2020174778A1 (ja) | 2019-02-28 | 2019-11-20 | 超音波内視鏡システムおよび超音波内視鏡システムの作動方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113490455A true CN113490455A (zh) | 2021-10-08 |
Family
ID=72239944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980093155.5A Pending CN113490455A (zh) | 2019-02-28 | 2019-11-20 | 超声波内窥镜***及超声波内窥镜***的工作方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210369238A1 (zh) |
EP (1) | EP3932323A4 (zh) |
JP (1) | JP7218425B2 (zh) |
CN (1) | CN113490455A (zh) |
WO (1) | WO2020174778A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022181748A1 (zh) * | 2021-02-26 | 2022-09-01 | ||
CN117956939A (zh) * | 2021-11-04 | 2024-04-30 | 阿瑙特株式会社 | 计算机程序、学习模型的生成方法、以及信息处理装置 |
CN114569043A (zh) * | 2022-01-29 | 2022-06-03 | 重庆天如生物科技有限公司 | 一种基于人工智能的内窥镜辅助检查方法及装置 |
WO2024095674A1 (ja) * | 2022-11-04 | 2024-05-10 | 富士フイルム株式会社 | 医療支援装置、内視鏡、医療支援方法、及びプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011004951A (ja) * | 2009-06-25 | 2011-01-13 | Toshiba Corp | 画像診断支援システム |
JP2011206428A (ja) * | 2010-03-30 | 2011-10-20 | Fujifilm Corp | 体腔内挿入型超音波検査装置 |
CN106796460A (zh) * | 2014-10-10 | 2017-05-31 | Nec显示器解决方案株式会社 | 显示***、输入装置、显示装置及显示方法 |
WO2017195540A1 (ja) * | 2016-05-12 | 2017-11-16 | 株式会社日立製作所 | 超音波撮像装置、画像処理装置、及びその方法 |
WO2018225448A1 (ja) * | 2017-06-09 | 2018-12-13 | 智裕 多田 | 消化器官の内視鏡画像による疾患の診断支援方法、診断支援システム、診断支援プログラム及びこの診断支援プログラムを記憶したコンピュータ読み取り可能な記録媒体 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0245045A (ja) | 1988-08-04 | 1990-02-15 | Hitachi Medical Corp | 内視鏡付超音波診断装置 |
JPH06233761A (ja) | 1993-02-09 | 1994-08-23 | Hitachi Medical Corp | 医用画像診断装置 |
JP2004113629A (ja) | 2002-09-27 | 2004-04-15 | Olympus Corp | 超音波診断装置 |
JP5161013B2 (ja) | 2008-09-18 | 2013-03-13 | オリンパスメディカルシステムズ株式会社 | 医用ガイドシステム |
JP6270026B2 (ja) * | 2013-12-05 | 2018-01-31 | 国立大学法人名古屋大学 | 内視鏡観察支援装置 |
JP6956483B2 (ja) * | 2016-11-16 | 2021-11-02 | キヤノンメディカルシステムズ株式会社 | 超音波診断装置、及び走査支援プログラム |
-
2019
- 2019-11-20 JP JP2021501574A patent/JP7218425B2/ja active Active
- 2019-11-20 WO PCT/JP2019/045429 patent/WO2020174778A1/ja unknown
- 2019-11-20 CN CN201980093155.5A patent/CN113490455A/zh active Pending
- 2019-11-20 EP EP19917336.0A patent/EP3932323A4/en active Pending
-
2021
- 2021-08-11 US US17/399,837 patent/US20210369238A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011004951A (ja) * | 2009-06-25 | 2011-01-13 | Toshiba Corp | 画像診断支援システム |
JP2011206428A (ja) * | 2010-03-30 | 2011-10-20 | Fujifilm Corp | 体腔内挿入型超音波検査装置 |
CN106796460A (zh) * | 2014-10-10 | 2017-05-31 | Nec显示器解决方案株式会社 | 显示***、输入装置、显示装置及显示方法 |
WO2017195540A1 (ja) * | 2016-05-12 | 2017-11-16 | 株式会社日立製作所 | 超音波撮像装置、画像処理装置、及びその方法 |
WO2018225448A1 (ja) * | 2017-06-09 | 2018-12-13 | 智裕 多田 | 消化器官の内視鏡画像による疾患の診断支援方法、診断支援システム、診断支援プログラム及びこの診断支援プログラムを記憶したコンピュータ読み取り可能な記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP7218425B2 (ja) | 2023-02-06 |
JPWO2020174778A1 (ja) | 2021-12-16 |
US20210369238A1 (en) | 2021-12-02 |
EP3932323A1 (en) | 2022-01-05 |
EP3932323A4 (en) | 2022-04-13 |
WO2020174778A1 (ja) | 2020-09-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113490455A (zh) | 超声波内窥镜***及超声波内窥镜***的工作方法 | |
US11998396B2 (en) | Ultrasound diagnostic apparatus and operation method of ultrasound diagnostic apparatus | |
WO2019138773A1 (ja) | 医療画像処理装置、内視鏡システム、医療画像処理方法及びプログラム | |
JP6899804B2 (ja) | 超音波診断装置および超音波診断装置の作動方法 | |
JP7265593B2 (ja) | 超音波システム、及び、超音波画像生成方法 | |
WO2014038703A1 (ja) | 超音波診断装置、医用画像処理装置及び画像処理プログラム | |
JP7157710B2 (ja) | 計測装置、超音波診断装置、計測方法、計測プログラム | |
JP2021035442A (ja) | 超音波診断システムおよび超音波診断システムの作動方法 | |
WO2021039101A1 (ja) | 超音波内視鏡システムおよび超音波内視鏡システムの作動方法 | |
CN111685794B (zh) | 超声波诊断***及超声波诊断***的工作方法 | |
US20200305834A1 (en) | Ultrasound observation apparatus and ultrasonic endoscope system | |
CN107106141B (zh) | 医疗诊断装置及其工作方法以及存储介质 | |
JP7292184B2 (ja) | 学習装置、学習方法および学習済みモデル | |
JP7041014B2 (ja) | 超音波診断装置、及び、超音波診断装置の作動方法 | |
CN117915838A (zh) | 超声波内窥镜***及超声波内窥镜***的工作方法 | |
JP2022066545A (ja) | 超音波診断装置、及び、超音波診断装置の作動方法 | |
JP2022132940A (ja) | 内視鏡及び内視鏡システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |