CN114945825A - 癌症判定装置、癌症判定方法以及程序 - Google Patents
癌症判定装置、癌症判定方法以及程序 Download PDFInfo
- Publication number
- CN114945825A CN114945825A CN202080089076.XA CN202080089076A CN114945825A CN 114945825 A CN114945825 A CN 114945825A CN 202080089076 A CN202080089076 A CN 202080089076A CN 114945825 A CN114945825 A CN 114945825A
- Authority
- CN
- China
- Prior art keywords
- cancer
- tissue
- image
- determination
- uterine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/636—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited using an arrangement of pump beam and probe beam; using the measurement of optical non-linear properties
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6486—Measuring fluorescence of biological material, e.g. DNA, RNA, cells
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
- G01N33/4833—Physical analysis of biological material of solid biological material, e.g. tissue samples, cell cultures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/62—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
- G01N21/63—Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
- G01N21/64—Fluorescence; Phosphorescence
- G01N21/6428—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes"
- G01N2021/6439—Measuring fluorescence of fluorescent products of reactions or of fluorochrome labelled reactive substances, e.g. measuring quenching effects, using measuring "optrodes" with indicators, stains, dyes, tags, labels, marks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Biomedical Technology (AREA)
- Immunology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Theoretical Computer Science (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Pathology (AREA)
- Molecular Biology (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Radiology & Medical Imaging (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
- Medicinal Chemistry (AREA)
- Food Science & Technology (AREA)
- Urology & Nephrology (AREA)
- Hematology (AREA)
- Biophysics (AREA)
- Chemical Kinetics & Catalysis (AREA)
- Nonlinear Science (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种癌症判定装置、癌症判定方法以及程序。癌症判定装置具备:照射部,对组织照射激励光;三次谐波图像获取部,基于通过三次谐波产生而产生的光来获取组织的三次谐波图像,其中,上述三次谐波产生因组织与激励光的相互作用而产生;以及癌症组织判定部,基于三次谐波图像中的细胞核的状态,来判定组织是癌症组织的可能性。
Description
技术领域
本发明涉及癌症判定装置、癌症判定方法以及程序。
本申请基于2019年10月23日在日本申请的日本特愿2019-192469号以及日本特愿2019-192470主张优先权,在此引用其内容。
背景技术
在病理诊断中,细胞核的形态是重要的信息,在病理组织的标本中细胞核的染色是必需的处置。另一方面,已知有通过对拍摄有生物体组织的图像进行解析来判定癌症组织的技术。在通过图像解析来判定癌症组织的情况下,使用对生物体组织染色并拍摄到的图像。
例如,已知有一种癌症检查装置,具备判定部,该判定部对涂覆有染色剂的生物体细胞组进行拍摄,并基于得到的图像的生物体细胞组的染色状态,来判定生物体细胞组的癌变的恶性度等级,其中,上述染色剂将生物体细胞的癌症相关基因产物选择性地染色成彩色(专利文献1)。
以往,难以在细胞水平上解析非染色组织的状态。
专利文献1:国际公开第2017/200066号
发明内容
本发明的一个方式是一种癌症判定装置,具备:照射部,对组织照射激励光;三次谐波图像获取部,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及癌症组织判定部,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
本发明的一个方式是一种癌症判定方法,具有:照射工序,对组织照射激励光;三次谐波图像获取过程,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及癌症组织判定过程,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
本发明的一个方式是一种程序,使计算机执行如下步骤:照射步骤,对组织照射激励光;三次谐波图像获取步骤,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及癌症组织判定步骤,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
附图说明
图1是表示第一实施方式的子宫癌判定***的一个例子的图。
图2是用于对利用第一实施方式的三次谐波产生的细胞核的可视化进行说明的小鼠的皮肤组织的拍摄图像的一个例子的图。
图3是表示第一实施方式的人体的子宫组织的拍摄图像的一个例子的图。
图4是表示第一实施方式的子宫癌判定装置的结构的一个例子的图。
图5是表示第一实施方式的核区域图像的一个例子的图。
图6是表示第一实施方式的特征量的一个例子的图。
图7是表示第一实施方式的子宫癌判定处理的一个例子的图。
图8是表示第一实施方式的核区域图像生成处理的一个例子的图。
图9是表示第一实施方式的Z堆栈核区域图像的一个例子的图。
图10是表示第一实施方式的学习处理的一个例子的图。
图11是表示第一实施方式的细胞核的测量的一个例子的图。
图12是表示第一实施方式的判定处理的一个例子的图。
图13是表示第一实施方式的判定结果的一个例子的图。
图14是表示第二实施方式的子宫癌判定装置的一个例子的图。
图15是表示第二实施方式的核区域图像生成部使用的深层学习的一个例子的图。
图16是表示第二实施方式的核区域学习处理的一个例子的图。
图17是表示第二实施方式的核区域判定处理的一个例子的图。
图18是表示第二实施方式的核区域图像和核区域注释图像的一个例子的图。
图19是表示第二实施方式的核区域判定处理的结果的一个例子的图。
图20是表示有关第二实施方式的Z堆栈核区域图像的整体的F值的一个例子的图。
图21是表示第二实施方式的判定结果的一个例子的图。
图22是表示第三实施方式的二次谐波图像的一个例子的图。
图23A是表示第三实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
图23B是表示第三实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
图24是表示第三实施方式的子宫癌判定装置的一个例子的图。
图25是表示第三实施方式的子宫癌判定处理的一个例子的图。
图26是表示第三实施方式的癌症前期***判定处理的一个例子的图。
图27是表示第三实施方式的纤维状结构图像的一个例子的图。
图28是表示第三实施方式的检测像素比率的一个例子的图。
图29是表示有关第三实施方式的检测像素比率的子宫组织的浅部的平均值的一个例子的图。
图30是表示示出第三实施方式的癌症进展度判定部的判定率的ROC曲线的一个例子的图。
图31是表示第三实施方式的癌症进展度判定部的判定阈值与判定率的关系的一个例子的图。
图32是表示第四实施方式的子宫癌进展度判定***的一个例子的图。
图33是表示第四实施方式的二次谐波产生图像的一个例子的图。
图34A是表示第四实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
图34B是表示第四实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
图35是表示第四实施方式的癌症进展度判定装置的一个例子的图。
图36是表示第四实施方式的癌症进展度判定处理的一个例子的图。
图37是表示第四实施方式的纤维状结构图像的一个例子的图。
图38是表示第四实施方式的检测像素比率的一个例子的图。
图39是表示有关第四实施方式的检测像素比率的子宫组织的浅部的平均值的一个例子的图。
图40是表示示出第四实施方式的癌症进展度判定部的判定率的ROC曲线的一个例子的图。
图41是表示第四实施方式的癌症进展度判定部的判定阈值与判定率的关系的一个例子的图。
具体实施方式
(第一实施方式)
以下,参照附图对第一实施方式进行详细说明。图1是表示本实施方式的子宫癌判定***ST的一个例子的图。子宫癌判定***ST具备子宫癌判定装置1、多光子显微镜2以及显示装置3。在子宫癌判定***ST中,子宫癌判定装置1对由多光子显微镜2拍摄到的被检测者的子宫组织亦即Z堆栈拍摄图像ZP1进行解析,判定Z堆栈拍摄图像ZP1中拍摄到的子宫组织是癌症组织的可能性。子宫癌判定装置1使判定出的结果显示于显示装置3。
在本实施方式中,所谓的子宫组织,作为一个例子,是宫颈组织。此外,子宫组织也可以包含子宫体。另外,在本实施方式中,将子宫组织作为一个例子进行说明,但组织并不限于此。
Z堆栈拍摄图像ZP1是Z堆栈图像。所谓的Z堆栈图像是指通过在Z轴方向上改变距子宫组织的距离并拍摄的多个图像的组。Z堆栈拍摄图像ZP1由拍摄各Z坐标的子宫组织的图像所得的多个图像构成。在这里,所谓的拍摄各Z坐标的子宫组织的图像是指改变物镜与子宫组织的距离并拍摄子宫组织的图像。所谓的Z堆栈拍摄图像ZP1是指改变子宫组织与透镜的距离而由多光子显微镜2拍摄到的多个图像。
在本实施方式中,在从子宫组织的上皮组织朝向内部的方向上选择Z轴。换句话说,拍摄面越接近子宫上皮组织,Z坐标的值越小,随着拍摄面深入子宫组织的内部,Z坐标的值增大。Z轴的原点选择在接近子宫上皮组织的较浅的位置。
像这样,所谓的Z堆栈拍摄图像ZP1是与被检测者的子宫上皮组织的深度方向垂直的多个剖面图像,也仅称为剖面图像。此外,所谓的深度方向是从表层朝向基底层的方向,多个剖面图像无需与被检测者的子宫上皮组织的深度方向完全垂直,也可以倾斜±5度左右。
多光子显微镜2在未染色的状态下观察并拍摄被检测者的子宫组织。多光子显微镜2利用非线性光学现象拍摄子宫组织。在多光子显微镜2用于拍摄的非线性光学现象中,有二次谐波产生(SHG:Second Harmonic Generation)、三次谐波产生(THG:ThirdHarmonic Generation)。
SHG是产生激励光的2倍频率的光的现象。SHG是通过与胶原纤维等非线性光学晶体的相互作用而产生的。
THG是产生激励光的3倍频率的光的现象。THG是通过与界面、层状结构的相互作用而产生的。
在本实施方式中,多光子显微镜2利用THG拍摄子宫组织,生成三次谐波图像。三次谐波图像是基于从多光子显微镜2的照射部照射的激励光和通过与子宫组织的相互作用引起的三次谐波产生而产生的光生成的子宫组织的剖面的图像。Z堆栈拍摄图像ZP1所包含的拍摄图像是利用THG拍摄子宫组织得到的图像亦即三次谐波图像。以下,将三次谐波图像称为THG图像。
以下,将Z堆栈拍摄图像ZP1称为Z堆栈THG图像ZT1。Z堆栈THG图像ZT1是在Z轴方向上改变距子宫组织的距离利用THG拍摄子宫组织得到的多个THG图像。换句话说,被检测者的子宫组织的三次谐波图像是被检测者的子宫上皮组织的多个剖面图像。
另外,将Z堆栈THG图像ZT1所包含的多个图像中的每个图像称为THG图像PTi(i=1、2、…、N:N为Z堆栈THG图像ZT1所包含的图像的数量)等。
多光子显微镜2利用THG将被检测者的子宫组织中的细胞核可视化。被检测者的子宫组织预先暴露于乙酸。
在这里,参照图2和图3,对利用THG能够将细胞核可视化的情况进行说明。图2是表示用于对利用THG的细胞核的可视化进行说明的小鼠的皮肤组织的拍摄图像的一个例子的图。
THG图像PA10、THG图像PA11、THG图像PA12以及THG图像PA13是利用THG拍摄小鼠的皮肤组织得到的图像。荧光图像PA20、荧光图像PA21、荧光图像PA22以及荧光图像PA23是利用荧光色素对小鼠的皮肤组织的细胞核进行染色并利用荧光拍摄到的图像。所谓的荧光色素是Hoechst33342。合成图像PA30、合成图像PA31、合成图像PA32以及合成图像PA33是合成利用THG拍摄到的图像和利用Hoechst33342染色并利用荧光拍摄到的图像而成的图像。
THG图像PA10以及荧光图像PA20是在未添加荧光色素和乙酸的状态下拍摄小鼠的皮肤组织得到的图像。在THG图像PA10和荧光图像PA20中,拍摄有皮肤组织的共用的部分。合成图像PA30是合成THG图像PA10和荧光图像PA20而成的图像。
THG图像PA11以及荧光图像PA21是在添加了荧光色素的状态下拍摄小鼠的皮肤组织得到的图像。在THG图像PA11和荧光图像PA21中,拍摄有皮肤组织的共用部分。合成图像PA31是合成THG图像PA11和荧光图像PA21而成的图像。
THG图像PA12以及荧光图像PA22是在添加了荧光色素和乙酸的状态下拍摄小鼠的皮肤组织得到的图像。在THG图像PA12和荧光图像PA22中,拍摄有皮肤组织的共用部分。合成图像PA32是合成THG图像PA12和荧光图像PA22而成的图像。
THG图像PA13以及荧光图像PA23是在添加了乙酸的状态下拍摄小鼠的皮肤组织得到的图像。在THG图像PA13以及荧光图像PA23中,拍摄有皮肤组织的共用部分。合成图像PA33是合成THG图像PA13和荧光图像PA23而成的图像。
若观察荧光图像PA22,拍摄有细胞核。在这里,若观察合成图像PA32,可知THG图像PA12所示的细胞核的图像与荧光图像PA22所示的被染色的细胞核的图像一致。可知在添加了荧光色素和乙酸的状态下利用THG拍摄到的细胞核的图像中,与在添加了乙酸的状态下利用荧光拍摄到的细胞核的图像同样地拍摄有细胞核。
接下来,若对THG图像PA13和THG图像PA12进行比较可知,在THG图像PA13中,与THG图像PA12同样地拍摄有细胞核的图像。换句话说,可知在添加了乙酸的状态下利用THG拍摄到的图像中,与在添加了荧光色素和乙酸的状态下利用THG拍摄到的图像同样地拍摄有细胞核。
因此,在THG图像PA13中,与荧光图像PA22同样地拍摄有细胞核。换句话说,在添加了乙酸的状态下利用THG拍摄到的图像中,与在添加了乙酸的状态下利用荧光拍摄到的细胞核的图像同样地拍摄有细胞核。
像这样,通过在添加了乙酸的状态下利用THG,不用对细胞核染色就能够拍摄细胞核的图像。
图3是表示本实施方式的人体的子宫组织的拍摄图像的一个例子的图。在图3所示的拍摄图像中,拍摄有人体的子宫组织中的宫颈组织。THG图像PB10以及THG图像PB11是利用THG拍摄人体的正常的宫颈组织得到的图像。THG图像PB20以及THG图像PB21是利用THG拍摄作为人体的癌症组织的宫颈组织得到的图像。
染色图像PB12以及染色图像PB22是用于与THG图像比较的图像。染色图像PB12是利用染色剂对人体的正常的宫颈组织进行染色并拍摄到的图像。染色图像PB22是利用染色剂对作为人体的癌症组织的宫颈组织进行染色并拍摄到的图像。所谓的染色剂是苏木素。
在THG图像PB10以及THG图像PB20中,在未添加乙酸的状态下拍摄有宫颈组织。另一方面,在THG图像PB11以及THG图像PB21中,在添加了乙酸的状态下拍摄有宫颈组织。
若对THG图像PB11与THG图像PB21、以及THG图像PB10与THG图像PB20进行比较可知,在添加了乙酸的状态下拍摄到的THG图像与在未添加乙酸的状态下拍摄到的THG图像相比,清晰地拍摄有细胞核。
若对THG图像PB11与THG图像PB21、以及染色图像PB12与染色图像PB22进行比较可知,THG图像PB11以及THG图像PB21与染色图像PB12以及染色图像PB22同样地能够拍摄有细胞核。
换句话说,在人体的宫颈组织中也与在图2中示出的小鼠的皮肤组织同样地、通过在添加了乙酸的状态下利用THG,不用对细胞核进行染色就能够拍摄细胞核的图像。
以往,在由多光子显微镜拍摄到的THG图像中,拍摄有细胞核的组织较少。与此相对,在由多光子显微镜2拍摄到的THG图像中,拍摄有子宫组织的细胞核。
(子宫癌判定装置的结构)
接下来,参照图4对子宫癌判定装置1的结构进行说明。图4是表示本实施方式的子宫癌判定装置1的结构的一个例子的图。作为一个例子,子宫癌判定装置1是计算机。
子宫癌判定装置1具备核区域图像生成部10、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14、输出部15以及操作输入部16。核区域图像生成部10、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14以及输出部15分别是通过CPU(Central Processing Unit:中央处理器)从ROM(Read Only Memory:只读存储器)读入程序并执行处理来实现的模块。
核区域图像生成部10根据由多光子显微镜2拍摄到的Z堆栈THG图像ZT1生成Z堆栈核区域图像ZN1。在这里,所谓的Z堆栈核区域图像ZN1是对Z堆栈THG图像ZT1所包含的多个图像亦即THG图像PTi(i=1、2、…、N:N为Z堆栈THG图像ZT1所包含的图像的数量)中的每个图像,判定出表示子宫组织的细胞核的区域的多个图像。
将Z堆栈核区域图像ZN1所包含的多个图像中的每个图像称为核区域图像PNi(i=1、2、…、N:N为Z堆栈核区域图像ZN1所包含的图像的数量)。
在本实施方式中,作为一个例子,表示细胞核的区域亦即核区域由子宫癌判定装置1的用户来判定。子宫癌判定装置1的用户通过目视观察确认Z堆栈拍摄图像ZP1,并基于知识和经验来判定核区域。
在这里,参照图5,对核区域图像PNi的一个例子进行说明。图5是表示本实施方式的核区域图像PNi的一个例子的图。在核区域图像PNn中,在正常的子宫组织的THG图像PTi中,判定核区域,并对判定出的核区域的轮廓着色。在核区域图像PNc中,在作为癌症组织的子宫组织的THG图像PTi中,判定表示细胞核的区域,并对判定出的核区域的轮廓着色。
返回到图4继续子宫癌判定装置1的结构的说明。
核区域图像生成部10具备THG图像获取部100、核判定操作接受部101以及图像处理部102。
THG图像获取部100获取由多光子显微镜2拍摄到的Z堆栈拍摄图像ZP1。
核判定操作接受部101经由操作输入部16,从子宫癌判定装置1的用户接受核判定操作。在这里,所谓的核判定操作是在Z堆栈拍摄图像ZP1所包含的THG图像PTi中的每个图像中判定表示子宫组织的细胞核的区域的操作。
图像处理部102基于由核判定操作接受部101接受的核判定操作,根据Z堆栈拍摄图像ZP1生成Z堆栈核区域图像ZN1。
特征量处理部11从Z堆栈核区域图像ZN1中提取特征量C1,并对提取出的特征量C1进行各种处理。特征量C1是表示细胞核的状态的特征量,对每个核区域图像PNi提取。在本实施方式中,细胞核的状态从由细胞核的面积、细胞核的密度、细胞核的形状构成的组选择的至少一个。
特征量处理部11具备核区域图像获取部110、核测量部111、特征量提取部112、Z位置修正部113以及特征量缩放部114。
核区域图像获取部110获取从核区域图像生成部10供给的Z堆栈核区域图像ZN1。
核测量部111基于Z堆栈核区域图像ZN1中拍摄到的细胞核的图像,对每一个细胞核进行各种测量。在这里,作为一个例子,各种测量包含面积、圆度以及最近距离。
特征量提取部112基于由核测量部111测量出的结果,对Z堆栈核区域图像ZN1所包含的每个核区域图像PNi提取特征量C1。
在这里,参照图6,对特征量C1的详细内容进行说明。图6是表示本实施方式的特征量C1的一个例子的图。在特征量C1中,作为一个例子,包含细胞核的面积、细胞核的圆度、细胞核间的最近距离以及细胞核的数量。特征量C1中的面积、圆度以及最近距离计算中央值以及中央值绝对误差来使用。
通过多光子激发成像对正常的宫颈组织拍摄的图像根据距表面的深度,细胞核显示出显著的特征,与病理学的知识也一致。在这里,距表面的深度被分类为上层、中层以及下层。在图6中,距表面的每个深度的特征量的定性特征用“大”、“中”以及“小”的值来分类并表示。
在子宫癌判定装置1中,为了判定子宫组织是癌症组织的可能性而预先选定有效的细胞核的特征量。
例如,就细胞核的面积的中央值而言,对正常组织来说,上层为“小”,中层为“中”,下层为“中”。换句话说,就面积的中央值而言,对于正常组织来说,任何层都不显示“大”。另一方面,由于面积的中央值在第一个癌症组织中为“大”,并确认出显示“大”的癌症组织,所以面积的中央值为“大”是至少第一个癌症组织的特征,可以认为是可以区分癌症组织和正常组织的特征。
该面积的中央值为“大”对应于细胞核肿大这样的病理学特征。
同样地,细胞核的面积的中央值绝对误差为“大”、细胞核的圆度的中央值为“小”、细胞核的圆度的中央值绝对误差为“大”、细胞核间的最近距离的中央值为“小”、细胞核间的最近距离的中央值绝对误差为“大”、细胞核的个数为“多”分别可以认为是可以区分癌症组织与正常组织的特征。
细胞核的面积的中央值绝对误差为“大”对应于核尺寸的不均匀性这样的病理学特征。细胞核的圆度的中央值为“小”对应于细胞核为异型这样的病理学特征。细胞核的圆度的中央值绝对误差为“大”对应于细胞核为异型这样的病理学特征。细胞核间的最近距离的中央值为“小”对应于细胞核的密度为高密度这样的病理学特征。细胞核间的最近距离的中央值绝对误差为“大”对应于细胞核的某个区域中的分布的不均匀性这样的病理学特征。细胞核的个数为“多”对应于细胞核的密度为高密度这样的病理学特征。
综上所述,作为癌症组织的子宫组织的细胞核的特征具有以下的(i)~(vi)的特征。
(i)细胞核的平均面积大于正常的子宫组织;(ii)细胞核的面积偏差大于正常的子宫组织;(iii)细胞核的密度大于正常的子宫组织;(iv)细胞核的密度偏差大于正常的子宫组织;(v)细胞核的形状的变形大于正常的子宫组织;(vi)细胞核的形状偏差大于正常的子宫组织。
返回到图4继续子宫癌判定装置1的结构的说明。
Z位置修正部113对Z堆栈核区域图像ZN1,进行有关Z轴方向的修正。
特征量缩放部114对由特征量提取部112提取出的特征量C1,基于归一化、标准化来进行缩放。
数据分割部12将特征量处理部11提取出的特征量C1分割为用于学习的学习用特征量数据CL1和用于判定的判定用特征量数据CE1。
分类模型生成部13使用学习用特征量数据CL1,基于机器学习来生成分类模型M1。在这里,作为一个例子,所谓的分类模型生成部13所使用的机器学习是非线性支持向量机。
癌症组织判定部14基于判定用特征量数据CE1和分类模型生成部13生成的分类模型M1,来判定子宫组织是癌症组织的可能性。
输出部15将癌症组织判定部14的判定结果A输出至显示装置3。判定结果A表示子宫组织是癌症组织还是正常组织。本实施方式的判定结果A是一个例子,癌症组织判定部14也可以将表示是癌症组织还是正常组织的概率输出至显示装置3,也可以与用于学习的学习用特征量数据CL1并列地输出至显示装置3。
操作输入部16从子宫癌判定装置1的用户接受各种操作。作为一个例子,操作输入部16是触摸面板、或鼠标、或键盘等。
显示装置3显示由子宫癌判定装置1判定出的判定结果A。作为一个例子,显示装置3是显示器。
(子宫癌判定***的处理)
接下来,对作为子宫癌判定***ST的处理的子宫癌判定处理进行说明。图7是表示本实施方式的子宫癌判定处理的一个例子的图。
步骤S10:多光子显微镜2拍摄被检测者的子宫组织的Z堆栈拍摄图像ZP1。在这里,如上所述,在本实施方式中,Z堆栈拍摄图像ZP1是Z堆栈THG图像ZT1。多光子显微镜2将拍摄到的Z堆栈拍摄图像ZP1输出至子宫癌判定装置1。
步骤S20:子宫癌判定装置1基于由多光子显微镜2拍摄到的Z堆栈拍摄图像ZP1,来进行正常组织癌症组织判定处理,该正常组织癌症组织判定处理是判定被检测者的子宫组织是正常组织还是癌症组织的处理。对于正常组织癌症组织判定处理的详细内容,参照图8后述。
步骤S30:子宫癌判定装置1的输出部15基于判定结果A来进行处理。在判定为被检测者的子宫组织是正常组织的情况下(步骤S30;是),输出部15将表示被检测者的子宫组织是正常组织的结果输出至显示装置3。之后,显示装置3执行步骤S40的处理。
另一方面,在判定为被检测者的子宫组织不是正常组织,换句话说是癌症组织的情况下(步骤S30;否),输出部15将表示被检测者的子宫组织是癌症组织的结果输出至显示装置3。之后,显示装置3执行步骤S50的处理。
步骤S40:显示装置3显示表示被检测者的子宫组织是正常组织的结果。
步骤S50:显示装置3显示表示被检测者的子宫组织是癌症组织的结果。
至此,子宫癌判定***ST结束子宫癌判定处理。
(子宫癌判定装置1的处理)
接下来,对子宫癌判定装置1的正常组织癌症组织判定处理的详细内容进行说明。正常组织癌症组织判定处理中有用于生成Z堆栈核区域图像ZN1的核区域图像生成处理、用于生成分类模型M1的学习处理、以及基于分类模型M1来判定子宫组织是癌症组织的可能性的判定处理。
图8是表示本实施方式的核区域图像生成处理的一个例子的图。
步骤S110:THG图像获取部100获取由多光子显微镜2拍摄到的Z堆栈拍摄图像ZP1。换句话说,THG图像获取部100获取由多光子显微镜2得到的被检测者的子宫组织的三次谐波图像。
THG图像获取部100将获取到的Z堆栈拍摄图像ZP1供给至核判定操作接受部101。
在这里,参照图9,对Z堆栈核区域图像ZN1的详细内容进行说明。图9是表示本实施方式的Z堆栈核区域图像ZN1的一个例子的图。在本实施方式中,Z堆栈核区域图像ZNZP1是多个图像。Z堆栈拍摄图像ZP1所包含的THG图像PTi(i=1、2、…、317)由512×512的像素构成。
Z堆栈拍摄图像ZP1由拍摄有作为癌症组织的子宫组织的157张THG图像PTi和拍摄有作为正常组织的子宫组织的160张THG图像PTi构成。在拍摄有作为癌症组织的子宫组织的THG图像PTi和拍摄有作为正常组织的子宫组织的THG图像PTi的拍摄中,分别使用了9个子宫组织样本。
作为一个例子,子宫癌判定装置1在判定处理中使用拍摄有作为癌症组织的子宫组织的THG图像PTi中的有关某一个样本的图像。子宫癌判定装置1将拍摄有作为癌症组织的子宫组织的THG图像PTi的未被用于判定处理的剩余图像和拍摄有作为正常组织的子宫组织的THG图像PTi的有关17个样本的图像用于学习处理。
作为用于学习处理的多个THG图像PTi的学习用三次谐波图像是子宫上皮组织的多个剖面图像。
返回到图8,继续核区域图像生成处理的说明。
步骤S120:核判定操作接受部101经由操作输入部16,从子宫癌判定装置1的用户接受核判定操作。核判定操作接受部101将表示接受到的核判定操作的信息和Z堆栈拍摄图像ZP1供给至图像处理部102。
在这里,核判定操作接受部101例如使由THG图像获取部100获取到的Z堆栈拍摄图像ZP1显示于显示装置3。子宫癌判定装置1的用户一边确认被显示于显示装置3的Z堆栈拍摄图像ZP1所包含的THG图像PTi,一边在各个THG图像PTi中判定表示子宫组织的细胞核的区域。子宫癌判定装置1的用户经由操作输入部16输入判定为表示细胞核的区域的操作。作为一个例子,核判定操作在被显示于作为显示器的显示装置3的THG图像PTi上,经由作为鼠标的操作输入部16,通过用鼠标指示器描绘判定为表示细胞核的区域的区域的轮廓来进行。
此外,核判定操作也可以通过在显示于作为触摸面板的显示装置3的THG图像PTi中,使用作为触控笔的操作输入部16,描绘判定为表示细胞核的区域的区域轮廓来进行。
步骤S130:图像处理部102基于核判定操作接受部101接受的核判定操作,根据Z堆栈拍摄图像ZP1生成Z堆栈核区域图像ZN1。在这里,图像处理部102基于核判定操作,在各个THG图像PTi中对表示子宫组织的细胞核的区域的轮廓着色,生成Z堆栈核区域图像ZN1。
步骤S140:图像处理部102将所生成的Z堆栈核区域图像ZN1输出至特征量处理部11。
至此,子宫癌判定装置1结束核区域图像生成处理。
接下来,参照图10对子宫癌判定装置1的学习处理进行说明。图10是表示本实施方式的学习处理的一个例子的图。
步骤S210:核区域图像获取部110获取从核区域图像生成部10供给的Z堆栈核区域图像ZN1。在这里,从核区域图像生成部10供给的Z堆栈核区域图像ZN1是在上述的核区域图像生成处理中生成的,预先明确拍摄有作为癌症组织的子宫组织的核区域图像PNi和拍摄有作为正常组织的子宫组织的核区域图像PNi。核区域图像获取部110将获取到的Z堆栈核区域图像ZN1供给至核测量部111。
步骤S220:核测量部111基于在核区域图像获取部110获取到的Z堆栈核区域图像ZN1中拍摄到的细胞核的图像,对每个细胞核进行面积、圆度以及最近距离的测量。核测量部111将测量结果提供给特征量提取部112。
在这里,参照图11,对由核测量部111进行的细胞核的测量进行说明。图11是表示本实施方式的细胞核的测量的一个例子的图。
核测量部111测量细胞核区域的像素数×每个像素的面积。在这里,每个像素的面积与多光子显微镜2的倍率相应,作为一个例子,为1μm2。
核测量部111测量4π×(面积)/(周长的平方),作为圆度。圆度可以取0到1的值。细胞核的轮廓越接近圆,圆度取越接近1的值。
核测量部111使标签与细胞核对应,计算从测量对象的标签的重心到最接近该重心的其他标签的重心的欧几里得距离,作为最近距离。
返回到图10,继续学习处理的说明。
步骤S230:特征量提取部112基于由核测量部111测量出的结果,对Z堆栈核区域图像ZN1所包含的每个核区域图像PNi提取特征量C1。
步骤S240:特征量提取部112对每个核区域图像PNi判定细胞核的数量是否多于0个。如上所述,细胞核的数量包含于特征量C1,特征量提取部112基于特征量C1来进行判定。
所谓的在核区域图像PNi中拍摄到的细胞核的数量为0个的情况,例如,为由于子宫组织的上皮相对于垂直于Z轴方向的方向倾斜,所以在上皮附近的拍摄中在子宫组织不包含于拍摄面的状态下进行拍摄的情况。
在特征量提取部112判定为在每个核区域图像PNi中细胞核的数量多于0个的情况下(步骤S240;是),特征量处理部11执行步骤S250的处理。另一方面,在特征量提取部112判定为在每个核区域图像PNi中细胞核的数量为0个的情况下(步骤S240;否),特征量处理部11执行步骤S2130的处理。
步骤S250:Z位置修正部113对Z堆栈核区域图像ZN1,进行Z轴方向的修正。在这里,Z位置修正部113从被特征量提取部112判定为细胞核的数量多于一个的核区域图像PNi中,例如,以与Z坐标最小的核区域图像PNi对应的拍摄面的Z坐标成为Z轴的原点的方式修正Z坐标的值。
此外,Z位置修正部113对于Z堆栈核区域图像ZN1所包含的核区域图像的数量为一张的情况,也优选进行有关Z轴方向的修正。
步骤S260:特征量缩放部114对Z堆栈核区域图像ZN1所包含的核区域图像PNi计算由特征量提取部112提取出的特征量C1的每个种类的平均值以及标准偏差。
步骤S270:特征量缩放部114对由特征量提取部112提取出的特征量C1,使用按每个种类计算出的平均值、标准偏差进行缩放。在这里,作为一个例子,特征量缩放部114基于归一化、标准化对特征量C1进行缩放。例如,特征量缩放部114通过归一化,统一特征量C1所包含的不同种类的特征量可以取的值的范围。或者,特征量缩放部114通过标准化,将特征量C1所包含的不同种类的特征量的平均值设为0,将方差设为1。
步骤S280:数据分割部12将特征量缩放部114进行了缩放的特征量C1分割为用于学习的学习用特征量数据CL1和用于判定的判定用特征量数据CE1。数据分割部12将特征量C1中的从对拍摄有作为癌症组织的子宫组织的THG图像PTi中的有关某一个样本的图像中提取出的特征量作为判定用特征量数据CE1。数据分割部12将特征量C1中的剩余的特征量作为学习用特征量数据CL1。
在这里,如上所述,在步骤S210中由核区域图像获取部110获取到的Z堆栈核区域图像ZN1中,预先明确了拍摄有作为癌症组织的子宫组织的核区域图像PNi和拍摄有作为正常组织的子宫组织的核区域图像PNi。数据分割部12对学习用特征量数据CL1的每个数据,与区分从拍摄有作为癌症组织的子宫组织的核区域图像PNi提取出的特征量和从拍摄有作为正常组织的子宫组织的核区域图像PNi提取出的特征量的标签建立对应关系。
步骤S290:数据分割部12将学习用特征量数据CL1输出至分类模型生成部13。数据分割部12将判定用特征量数据CE1输出至癌症组织判定部14。
步骤S2100:分类模型生成部13获取从数据分割部12输出的学习用特征量数据CL1。
步骤S2110:分类模型生成部13使用获取到的学习用特征量数据CL1,基于机器学习来生成分类模型M1。在这里,作为一个例子,分类模型生成部13基于非线性支持向量机来生成分类模型M1。此外,分类模型生成部13也可以基于非线性支持向量机以外的机器学习来生成分类模型M1。
如上所述,从Z堆栈核区域图像ZN1中提取学习用特征量数据CL1,该Z堆栈核区域图像ZN1根据由拍摄有作为癌症组织的子宫组织的THG图像PTi和拍摄有作为正常组织的子宫组织的THG图像PTi构成的Z堆栈拍摄图像ZP1生成。因此,所谓的分类模型M1是使用由多光子显微镜获得的正常的子宫组织的学习用三次谐波图像和/或由多光子显微镜获得的子宫癌组织的学习用三次谐波图像来学习的分类模型。
步骤S2120:分类模型生成部13将所生成的分类模型M1输出至癌症组织判定部14。
至此,子宫癌判定装置1结束学习处理。
步骤S2130:特征量提取部112放弃判定为细胞核的数量为0个的核区域图像PNi。换句话说,特征量提取部112在以后的处理(步骤S250至步骤S2130的处理)中不使用判定为细胞核的数量为0个的核区域图像PNi。
接下来,参照图12,对子宫癌判定装置1的判定处理进行说明。图12是表示本实施方式的判定处理的一个例子的图。
步骤S300:癌症组织判定部14获取从数据分割部12输出的判定用特征量数据CE1。
步骤S310:癌症组织判定部14获取从分类模型生成部13输出的分类模型M1。
步骤S320:癌症组织判定部14使用判定用特征量数据CE1和分类模型M1判定在Z堆栈THG图像ZT1中拍摄到的子宫组织是癌症组织的可能性。在这里,如上所述,对根据Z堆栈THG图像ZT1生成的Z堆栈核区域图像ZN1所包含的每个核区域图像PNi提取特征量C1。因此,能够使用判定用特征量数据CE1,来判定与提取出该判定用特征量数据CE1的核区域图像PNi对应的THG图像PTi中拍摄到的子宫组织是癌症组织的可能性。
另外,如上所述,特征量C1是表示在Z堆栈核区域图像ZN1所包含的核区域图像PNi中拍摄到的细胞核的状态的特征量。因此,癌症组织判定部14基于被检测者的子宫组织的三次谐波图像中的细胞核的状态,来判定被检测者的子宫组织是癌症组织的可能性。
另外,如上所述,癌症组织判定部14基于分类模型M1来判定在Z堆栈THG图像ZT1中拍摄到的子宫组织是癌症组织的可能性。另外,如上所述,分类模型M1是使用由多光子显微镜获得的正常的子宫组织的学习用三次谐波图像和/或由多光子显微镜获得的子宫癌组织的学习用三次谐波图像来学习的分类模型。因此,癌症组织判定部14参照使用由多光子显微镜获得的正常的子宫组织的学习用三次谐波图像和/或由多光子显微镜获得的子宫癌组织的学习用三次谐波图像来学习的分类模型M1,基于被检测者的子宫组织的三次谐波图像中的细胞核的状态,来判定被检测者的子宫组织是癌症组织的可能性。
另外,如上所述,分类模型M1是使用特征量C1来执行机器学习而得到的模型。在特征量C1中,包含细胞核的面积的中央值和中央值绝对误差、细胞核的圆度的中央值和中央值绝对误差、以及细胞核彼此的最近距离的中央值和中央值绝对误差。
癌症组织判定部14在符合以下的至少一个条件的情况下,判定为被检测者的子宫组织是癌症组织的可能性较高:
(i)细胞核的平均面积大于正常的子宫组织;(ii)细胞核的面积偏差大于正常的子宫组织;(iii)细胞核的密度大于正常的子宫组织;(iv)细胞核的密度偏差大于正常的子宫组织;(v)细胞核的形状的变形大于正常的子宫组织;以及(vi)细胞核的形状偏差大于正常的子宫组织。
在这里,作为一个例子,癌症组织判定部14基于被判定为是癌症组织的可能性较高的判定用的Z堆栈拍摄图像ZP1相对于所有判定用的Z堆栈拍摄图像ZP1的比例,来计算子宫组织是癌症组织的可能性。首先,癌症组织判定部14对判定用的Z堆栈拍摄图像ZP1所包含的多个THG图像PT1中的每个图像判定所拍摄的子宫组织是癌症组织的可能性。接下来,癌症组织判定部14基于被判定为是癌症组织的可能性较高的判定用的Z堆栈拍摄图像ZP1相对于所有判定用的Z堆栈拍摄图像ZP1的比例,来计算子宫组织是癌症组织的可能性。
换句话说,癌症组织判定部14对被检测者的子宫组织的多个三次谐波图像中的每个图像判定是癌症组织的可能性,并基于被判定为是癌症组织的可能性较高的三次谐波图像相对于所有三次谐波图像的比例,来计算被检测者的子宫组织是癌症组织的可能性。
步骤S330:癌症组织判定部14将判定结果A输出至输出部15。
至此,子宫癌判定装置1结束判定处理。
图13是表示本实施方式的判定结果A的一个例子的图。作为计算出正确的判定结果的判定用的Z堆栈拍摄图像ZP1的张数相对于用于判定处理的判定用的Z堆栈拍摄图像ZP1的张数的比例,通过百分比来表示判定精度。图13的样本“q1607”是用于判定的样本,针对样本“q1607”的判定精度为83.3%。
此外,在图13中,也示出有关相对于包含癌症组织的THG图像和正常组织的THG图像的学***均值为90.1%。根据子宫癌判定装置1,在90%左右的判定精度中,能够判定子宫组织是癌症组织的可能性。
(总结)
如以上说明的那样,本实施方式的子宫癌判定装置1具备THG图像获取部100和癌症组织判定部14。
THG图像获取部100获取由多光子显微镜2获得的被检测者的子宫组织的三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)。
癌症组织判定部14基于被检测者的子宫组织的三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)中的细胞核的状态,来判定被检测者的子宫组织是癌症组织的可能性。
根据该结构,本实施方式的子宫癌判定装置1由于能够基于被检测者的子宫组织的三次谐波图像中的细胞核的状态来判定被检测者的子宫组织是癌症组织的可能性,所以不用对子宫组织进行染色,就能够判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,细胞核的状态是从由细胞核的面积、细胞核的密度、细胞核的形状以及核小体的状态构成的组中选择的至少一个。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够基于从由被检测者的子宫组织的三次谐波图像中的细胞核的面积、细胞核的密度、细胞核的形状以及核小体的状态构成的组选择的至少一个来判定被检测者的子宫组织是癌症组织的可能性,所以与未基于从该群选择的至少一个的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,癌症组织判定部14在符合以下的至少一个条件的情况下,判定为上述被检测者的子宫组织是癌症组织的可能性较高:
(i)细胞核的平均面积大于正常的子宫组织;(ii)细胞核的面积偏差大于正常的子宫组织;(iii)细胞核的密度大于正常的子宫组织;(iv)细胞核的密度偏差大于正常的子宫组织;(v)细胞核的形状的变形大于正常的子宫组织;以及(vi)细胞核的形状偏差大于正常的子宫组织。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够基于与有关子宫组织中的癌症组织中的细胞核的病理学的知识一致的特征亦即(i)~(vi)来判定子宫组织是癌症组织的可能性,所以与未基于(i)~(vi)的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,被检测者的子宫组织预先暴露于乙酸。
根据该结构,在本实施方式的子宫癌判定装置1中,由于与未将子宫组织预先暴露于乙酸的情况相比,能够更加清晰地拍摄被检测者的子宫组织的三次谐波图像中的细胞核,所以与子宫组织未预先暴露于乙酸的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,癌症组织判定部14参照使用由多光子显微镜2获得的正常的子宫组织的学习用三次谐波图像和/或由多光子显微镜2获得的子宫癌组织的学习用三次谐波图像来学习的分类模型M1,并基于被检测者的子宫组织的三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)中的细胞核的状态,来判定被检测者的子宫组织是癌症组织的可能性。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够参照分类模型M1来判定被检测者的子宫组织是癌症组织的可能性,所以与未参照分类模型M1的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,学习用三次谐波图像是子宫上皮组织的多个剖面图像。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够使用子宫上皮组织的多个剖面图像来执行学习,所以与在学习中使用一张剖面图像的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,被检测者的子宫组织的三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)是被检测者的子宫上皮组织的多个剖面图像。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够对被检测者的子宫上皮组织的每个深度方向判定子宫组织是癌症组织的可能性,所以与使用一张剖面图像进行判定的情况相比,能够以更高的精度来判定子宫组织是癌症组织的可能性。
另外,在本实施方式的子宫癌判定装置1中,癌症组织判定部14对被检测者的子宫组织的多个三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)中的每个图像判定是癌症组织的可能性进行判定,并基于被判定为是癌症组织的可能性较高的三次谐波图像相对于所有三次谐波图像(在这一个例子中,为Z堆栈THG图像ZT1)的比例,来计算被检测者的子宫组织是癌症组织的可能性。
根据该结构,在本实施方式的子宫癌判定装置1中,由于能够基于被判定为是癌症组织的可能性较高的三次谐波图像相对于被检测者的子宫组织的多个三次谐波图像的比例来计算被检测者的子宫组织是癌症组织的可能性,所以能够对被检测者的子宫组织的深度方向的整体计算是癌症组织的可能性。
(第二实施方式)
以下,参照附图对第二实施方式进行详细说明。
在上述第一实施方式中,在子宫癌判定装置中,对基于从用户接受核判定操作的核判定操作根据THG图像生成核区域图像的情况进行了说明。在本实施方式中,对子宫癌判定装置基于机器学习来判定THG图像所包含的区域中的核区域并生成核区域图像的情况进行说明。
将本实施方式的子宫癌判定装置称为子宫癌判定装置1a。
(子宫癌判定装置的结构)
图14是表示本实施方式的子宫癌判定装置1a的一个例子的图。若对本实施方式的子宫癌判定装置1a(图14)和第一实施方式的子宫癌判定装置1(图4)进行比较,则在代替核区域图像生成部10a以及操作输入部16而具备存储部17的点不同。在这里,其他构成要素(特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14以及输出部15)所具有的功能与第一实施方式相同。省略与第一实施方式相同的功能的说明,在第二实施方式中,以与第一实施方式不同的部分为中心来进行说明。
子宫癌判定装置1a具备核区域图像生成部10a、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14、输出部15以及存储部17。
核区域图像生成部10a基于机器学习根据Z堆栈拍摄图像ZP1生成Z堆栈核区域图像ZN1a。在这里,作为一个例子,所谓的核区域图像生成部10a所使用的机器学习是深层学习。
在这里,参照图15,对核区域图像生成部10a所使用的深层学习的概要进行说明。图15是表示本实施方式的核区域图像生成部10a所使用的深层学习的一个例子的图。
作为一个例子,核区域图像生成部10a使用作为深层学习的架构而已知的U-Net作为核区域提取模型M20。U-Net是卷积神经网络(Convolutional Neural Network:CNN),在医疗用图像中的分割中报告了较高的精度。通过使用U-Net,能够捕捉图像整体的特征,并能够针对整个图像以多分辨率使正确图像(细胞核和非细胞核的分布)的误差最小。U-Net的所有层由卷积层构成,朝向输出层具备Up-conv层。
作为核区域提取模型M20的参数,输入尺寸为Z堆栈拍摄图像ZP1的图像的尺寸亦即512×512。
核区域图像生成部10a使用学习用Z堆栈THG图像LT和核区域注释图像PA,基于核区域提取模型M20来执行学习。在这里,核区域注释图像PA是对学习用Z堆栈THG图像LT所包含的多个THG图像中的每个图像示出核区域的图像。
核区域图像生成部10a作为执行学习的结果生成核区域提取模型M21。核区域图像生成部10a应用对判定用Z堆栈THG图像ET生成的核区域提取模型M21,输出判定出判定用Z堆栈THG图像ET的核区域的图像亦即核区域图像PN1。
返回到图14继续子宫癌判定装置1a的结构的说明。
核区域图像生成部10a具备THG图像获取部100a、核区域注释图像获取部103a、核区域提取模型生成部140a、核区域判定部105a以及图像处理部106a。
THG图像获取部100a获取Z堆栈拍摄图像ZP1。THG图像获取部100a具备学习用THG图像获取部101a和判定用THG图像获取部102a。在THG图像获取部100a所获取的Z堆栈拍摄图像ZP1中有学习用Z堆栈THG图像LT和判定用Z堆栈THG图像ET。
学习用THG图像获取部101a获取学习用Z堆栈THG图像LT。
判定用THG图像获取部102a获取判定用Z堆栈THG图像ET。
核区域注释图像获取部103a从存储部17获取核区域注释图像PA。
核区域提取模型生成部140a使用学习用Z堆栈THG图像LT和核区域注释图像PA,基于核区域提取模型M20来执行学习,作为学习结果生成核区域提取模型M21。
核区域判定部105a基于由核区域提取模型生成部140a生成的核区域提取模型M21,对判定用Z堆栈THG图像ET进行核区域的判定。
图像处理部106a基于核区域判定部105a的判定结果来生成Z堆栈核区域图像ZN1a。
存储部17存储各种信息。该各种信息包含核区域注释图像PA以及阈值信息TH。阈值信息TH是表示在图像处理部106a所进行的图像处理中使用的各种阈值的信息。
(核区域图像生成处理)
接下来,对子宫癌判定装置1a生成Z堆栈核区域图像ZN1a的核区域图像生成处理的详细内容进行说明。核区域图像生成处理中有用于生成核区域提取模型M21的核区域学习处理和基于核区域提取模型M21来判定核区域的核区域判定处理。
图16是表示本实施方式的核区域学习处理的一个例子的图。
步骤S400:学习用THG图像获取部101a获取学习用Z堆栈THG图像LT。学习用THG图像获取部101a将获取到的学习用Z堆栈THG图像LT供给至核区域提取模型生成部140a。
步骤S410:核区域注释图像获取部103a从存储部17获取核区域注释图像PA。核区域注释图像获取部103a将获取到的核区域注释图像PA供给至核区域提取模型生成部140a。
步骤S420:核区域提取模型生成部140a使用从学习用THG图像获取部101a供给的学习用Z堆栈THG图像LT和从核区域注释图像获取部103a供给的核区域注释图像PA,基于核区域提取模型M20来执行学习,作为学习结果生成核区域提取模型M21。在这里,核区域提取模型生成部140a基于学习用Z堆栈THG图像LT和核区域注释图像PA,变更核区域提取模型M20的节点间的权重来生成核区域提取模型M21。
步骤S430:核区域提取模型生成部140a将所生成的核区域提取模型M21输出至核区域判定部105a。
接下来,参照图17,对核区域判定处理进行说明。图17是表示本实施方式的核区域判定处理的一个例子的图。
步骤S500:判定用THG图像获取部102a获取判定用Z堆栈THG图像ET。判定用THG图像获取部102a将获取到的判定用Z堆栈THG图像ET供给至核区域判定部105a。
步骤S510:核区域判定部105a获取从核区域提取模型生成部140a输出的核区域提取模型M21。
步骤S520:核区域判定部105a对从判定用THG图像获取部102a供给的判定用Z堆栈THG图像ET,基于获取到的核区域提取模型M21来判定核区域。在这里,核区域判定部105a对判定用Z堆栈THG图像ET所包含的多个THG图像PTi中的每个像素判定核区域。核区域判定部105a作为判定结果,使表示是核区域的可能性的概率值与多个THG图像PTi中的每个像素建立对应。
核区域判定部105a将核区域的判定结果供给至图像处理部106a。
步骤S530:图像处理部106a基于从核区域判定部105a供给的核区域的判定结果,生成Z堆栈核区域概率值图像。Z堆栈核区域概率值图像是在THG图像PTi中的每个像素中示出表示是核区域的可能性的概率值的图像。在这里,表示是核区域的可能性的概率值例如通过灰度来表示。
步骤S540:图像处理部106a从存储部17获取二值化阈值。在这里,二值化阈值包含于阈值信息TH。
步骤S550:图像处理部106a执行二值化处理。图像处理部106a对所生成的Z堆栈核区域概率值图像,基于获取到的二值化阈值来执行二值化处理。图像处理部106a通过二值化处理根据Z堆栈核区域概率值图像生成Z堆栈二值化图像。
在这里,对于Z堆栈核区域概率值图像的各像素,在表示是核区域的可能性的概率值为二值化阈值以上的情况下,图像处理部106a对该像素例如分配亮度的二值中的一方的亮度值1(例如,对应于白色的亮度值)。对于Z堆栈核区域概率值图像的各像素,在表示是核区域的可能性的概率值小于二值化阈值的情况下,图像处理部106a对该像素分配亮度的二值中的另一方亮度值2(例如,对应于黑色的亮度值)。
步骤S560:图像处理部106a对所生成的Z堆栈二值化图像进行填充孔洞处理。在这里,图像处理部106a例如使用闭运算(Closing)、开运算(Opening)作为填充孔洞处理。图像处理部106a通过填充孔洞处理,根据Z堆栈二值化图像生成Z堆栈填充孔洞图像。
步骤S570:图像处理部106a从存储部17获取面积阈值以及圆度阈值。在这里,面积阈值以及圆度阈值包含于阈值信息TH。
步骤S580:图像处理部106a进行滤波处理。图像处理部106a对所生成的Z堆栈填充孔洞图像,基于获取到的面积阈值以及圆度阈值进行滤波处理。
在这里,图像处理部106a将Z堆栈填充孔洞图像所包含的被分配亮度值1的像素(例如,被分配了白色的像素)中相邻的像素彼此作为一组,并判定为核区域的候补亦即候补区域。对于仅一个像素孤立的情况,图像处理部106a也判定为候补区域。
图像处理部106a对判定出的候补区域中的每个区域,测定面积和圆度。对于某个候补区域,在测定出的面积为面积阈值以上,并且测定出的圆度为圆度阈值以上的情况下,图像处理部106a判定为不除去该候补区域。另一方面,对于某个候补区域,在测定出的面积小于面积阈值或者测定出的圆度小于圆度阈值的情况下,图像处理部106a判定为除去该候补区域。
图像处理部106a将Z堆栈填充孔洞图像所包含的候补区域中的判定为除去的候补区域所包含的像素的亮度值变更为亮度值2。例如,在候补区域为白色的情况下,图像处理部106a使判定为除去的候补区域成为黑色。
步骤S590:图像处理部106a进行分割处理。图像处理部106a对滤波处理完毕的Z堆栈填充孔洞图像进行分割处理。图像处理部106a例如使用WaterShed作为分割处理的方法。图像处理部106a通过分割处理判定核区域的轮廓,并将滤波处理完毕的Z堆栈填充孔洞图像的区域分割为核区域和核区域以外的区域。
作为分割处理的结果,图像处理部106a生成Z堆栈核区域图像ZN1a。
步骤S5100:图像处理部106a将所生成的Z堆栈核区域图像ZN1a输出至特征量处理部11。
至此,核区域图像生成部10a结束核区域判定处理。
参照图18至图20,对核区域判定处理的结果进行说明。
图18是表示本实施方式的核区域图像和核区域注释图像的一个例子的图。在图18中,作为通过核区域判定处理得到的核区域图像的一个例子,示出核区域图像PNj。核区域注释图像PAj是用于生成该核区域图像PNj的核区域注释图像。
接下来,参照图19,对核区域判定处理的判定精度进行说明。
图19是表示本实施方式的核区域判定处理的结果的一个例子的图。通过核区域判定处理得到的核区域图像所表示的核区域具有第一区域和第二区域。所谓的第一区域是与核区域注释图像所表示的核区域一致的区域。所谓的第二区域是被误判定而与核区域注释图像所表示的核区域不一致的区域。另一方面,核区域注释图像所表示的核区域具有从判定中遗漏而不包含在核区域图像的核区域的区域亦即第三区域。
在图19中,在通过核区域判定处理得到的核区域图像,区分地示出第一区域和第二区域,进一步示出附加有第三区域的图像PC1和图像PC2。图像PC1是正常组织的核区域图像。图像PC2是癌症组织的核区域图像。
在这里,使用F值评价核区域判定处理的判定精度。所谓的F值是适合率和再现率的调和平均,在0到1的范围内取值,越接近1表示判定精度越高。所谓的适合率是提取出的核区域(第一区域和第二区域)的数量中第一区域的数量的比例。所谓的再现率是核区域注释图像所表示的核区域(第一区域和第三区域)的数量中第一区域的数量的比例。
通过使用F值,能够计算不依赖于在核区域图像中核区域所占的面积与核区域以外的背景所占的面积之比的判定精度。
图像PC1的F值为0.932,图像PC2的F值为0.909。
接下来,参照图20,表示有关Z堆栈核区域图像ZN1a的整体的F值。图20是表示有关本实施方式的Z堆栈核区域图像ZN1a的整体的F值的一个例子的图。Z堆栈核区域图像ZN1a的整体的平均的F值为0.854。在子宫癌判定装置1a中,图像PC1和图像PC2都以较高的精度提取核区域。
接下来,参照图21,对子宫癌判定装置1a的子宫癌判定处理的判定结果Aa进行说明。图21是表示本实施方式的判定结果Aa的一个例子的图。所谓的子宫癌判定装置1a的子宫癌判定处理是通过核区域判定处理生成Z堆栈核区域图像ZN1a的情况下的子宫癌判定处理。若核区域判定处理结束,则子宫癌判定装置1a通过进行与上述的图10的学习处理以及图12的判定处理同样的处理,来进行子宫癌判定处理。
针对反复样本数的量的将某个样本作为判定样本、将该样本以外作为学***均值为90.7%。根据子宫癌判定装置1a,即使在通过核区域判定处理来生成Z堆栈核区域图像ZN1a的情况下,也能够以90%左右的判定精度判定子宫组织是癌症组织的可能性。
(总结)
如以上说明的那样,本实施方式的子宫癌判定装置1a具备核区域图像生成部10a。核区域图像生成部10a基于机器学习生成Z堆栈核区域图像ZN1a,该Z堆栈核区域图像ZN1a是从Z堆栈拍摄图像ZP1判定出表示子宫组织的细胞核的区域的多个图像。
根据该结构,本实施方式的子宫癌判定装置1a由于能够基于机器学习生成Z堆栈核区域图像ZN1a,所以能够减轻从Z堆栈拍摄图像ZP1判定表示子宫组织的细胞核的区域的麻烦。
(第三实施方式)
以下,参照附图对第三实施方式进行详细说明。
在上述第一实施方式以及第二实施方式中,对子宫癌判定装置基于THG图像来判定被检测者的子宫组织是癌症组织的可能性的情况进行了说明。在本实施方式中,对针对子宫癌判定装置对基于THG图像判定为是癌症组织的可能性较高的子宫组织,基于二次谐波图像来判定癌症的进展度的情况进行说明。
将本实施方式的子宫癌判定***称为子宫癌判定***STb。另外,将本实施方式的子宫癌判定装置称为子宫癌判定装置1b,将多光子显微镜称为多光子显微镜2b。
若肿瘤发展,则在周边组织中产生纤维增生。因纤维增生而产生的纤维由包含各种胶原蛋白的分子构成。在纤维性胶原蛋白中有发生SHG的胶原蛋白。本实施方式的多光子显微镜2b除了THG图像以外,还利用SHG拍摄子宫组织,生成二次谐波图像。二次谐波图像是基于通过二次谐波产生而产生的光生成的子宫组织的剖面的图像。上述二次谐波产生是由从多光子显微镜2b的照射部照射的激励光与子宫组织的相互作用引起的。
在本实施方式中,Z堆栈拍摄图像所包含的拍摄图像包含THG图像和利用SHG拍摄子宫组织所得的图像亦即二次谐波图像。以下,将二次谐波图像称为SHG图像。另外,将SHG图像的Z堆栈拍摄图像称为Z堆栈SHG图像ZS1。换句话说,Z堆栈SHG图像ZS1是在Z轴方向上改变距子宫组织的距离并利用SHG拍摄子宫组织得到的多个SHG图像。
另外,将Z堆栈SHG图像ZS1所包含的多个图像中的每个图像称为SHG图像PSi(i=1、2、…、N:N为Z堆栈SHG图像ZS1所包含的图像的数量)等。
多光子显微镜2b对子宫组织的每个深度,拍摄THG图像和SHG图像。Z堆栈SHG图像ZS1所包含的SHG图像Psi和Z堆栈THG图像ZT1所包含的THG图像PTi是拍摄子宫组织的共用的深度的图像且对应。
在这里,参照图22,对由多光子显微镜2b拍摄的SHG图像进行说明。图22是表示本实施方式的SHG图像PS0的一个例子的图。在图22中,为了比较与SHG图像PS0一起示出纤维状结构图像F1。纤维状结构图像F1是通过机器学习从SHG图像PS0提取并检测出的图像。可知在由多光子显微镜2b拍摄的SHG图像PS0中,以与纤维状结构图像F1中拍摄到的程度相同程度拍摄有纤维状结构。
随着肿瘤发展,纤维增生从子宫组织的深部向浅部扩散。
在这里,参照图23,对纤维增生从子宫组织的深部向浅部扩散的情况进行说明。图23是表示本实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
在图23A中,在子宫组织的深部存在纤维状结构。再图23B中,是肿瘤发展的情况下的子宫组织的剖面,且在浅部产生了纤维增生。
在本实施方式中,在从子宫组织的上皮组织朝向内部的方向上设定Z轴。随着肿瘤发展,在子宫组织中,纤维增生从Z坐标的值较大的部位向Z坐标的值较小的部位扩散。
在子宫组织的浅部,在哪个深度产生纤维增生根据肿瘤的进展度而不同,因此提前不知道。在子宫癌判定装置1b中,通过使用Z堆栈SHG图像ZS1,无论在组织浅部的哪一深度产生纤维增生都能够提取纤维状结构。
(子宫癌判定装置的结构)
图24是表示本实施方式的子宫癌判定装置1b的一个例子的图。若对本实施方式的子宫癌判定装置1b(图24)和第二实施方式的子宫癌判定装置1a(图14)进行比较,则SHG图像获取部18b与癌症进展度判定部19b不同。在这里,其他构成要素(核区域图像生成部10a、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14以及输出部15)所具有的功能与第二实施方式相同。省略与第二实施方式相同的功能的说明,在第三实施方式中,以与第二实施方式不同的部分为中心进行说明。
子宫癌判定装置1b通过利用多光子显微镜2b从子宫组织的浅部的Z堆栈SHG图像ZS1提取纤维状结构特征并定量化为纤维增生量,对肿瘤的进展度进行分类。在这里,作为一个例子,肿瘤的进展度被分类为非浸润和浸润。非浸润对应于癌症前期,浸润对应于***。
子宫癌判定装置1b具备核区域图像生成部10a、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14、输出部15、存储部17、SHG图像获取部18b以及癌症进展度判定部19b。此外,子宫癌判定装置1b也可以代替核区域图像生成部10a,与第一实施方式的子宫癌判定装置1(图4)同样地具备核区域图像生成部10。
SHG图像获取部18b获取由多光子显微镜2b拍摄到的Z堆栈SHG图像ZS1。
在通过癌症组织判定部14判定为被检测者的子宫组织是癌症组织的可能性较高的情况下,癌症进展度判定部19b基于Z堆栈SHG图像ZS1所包含的SHG图像Psi中的纤维状结构的状态,来判定癌症的进展度。
癌症进展度判定部19b具备纤维状结构判定部190b、纤维增生量计算部191b以及癌症前期***判定部192b。
纤维状结构判定部190b对Z堆栈SHG图像ZS1进行纤维状结构的判定。在这里,在本实施方式中,作为一个例子,纤维状结构判定部190b基于机器学习来进行纤维状结构的判定。纤维状结构判定部190b基于判定结果根据Z堆栈SHG图像ZS1生成Z堆栈纤维状结构图像ZF1。Z堆栈纤维状结构图像ZF1是示出纤维状结构的Z堆栈图像。
将Z堆栈纤维状结构图像ZF1所包含的多个图像中的每个图像称为纤维状结构图像PFi(i=1、2、…、N:N为Z堆栈纤维状结构图像ZF1所包含的图像的数量)等。
纤维增生量计算部191b基于由纤维状结构判定部190b生成的Z堆栈纤维状结构图像ZF1,来计算被拍摄为Z堆栈SHG图像ZS1的子宫组织的浅部的纤维增生量。
癌症前期***判定部192b基于由纤维增生量计算部191b计算出的纤维增生量对判定为是癌症组织的可能性较高的子宫组织判定是癌症前期和***中的哪一个。
(子宫癌判定***的处理)
接下来,对作为子宫癌判定***STb的处理的子宫癌判定处理进行说明。图25是表示本实施方式的子宫癌判定处理的一个例子的图。
此外,由于步骤S610、步骤S620、步骤S630以及步骤S640的各处理与图7中的步骤S10、步骤S20、步骤S30以及步骤S40的各处理相同,所以省略说明。
步骤S650:子宫癌判定装置1b基于由多光子显微镜2b拍摄到的Z堆栈SHG图像ZS1,来进行癌症前期***判定处理,该癌症前期***判定处理是判定被检测者的子宫组织是癌症前期组织和***组织中的哪一个的处理。参照图26对癌症前期***判定处理的详细内容后述。
步骤S660:子宫癌判定装置1b的输出部15基于癌症进展度判定部19b的判定结果Ab来进行处理。判定结果Ab表示被检测者的子宫组织是癌症前期还是***。在判定为被检测者的子宫组织是癌症前期的情况下(步骤S660;是),输出部15将表示被检测者的子宫组织是癌症前期的结果输出至显示装置3。之后,显示装置3执行步骤S670的处理。
另一方面,在判定为被检测者的子宫组织不是癌症前期,换句话说是***的情况下(步骤S660;否),输出部15将表示被检测者的子宫组织是***的结果输出至显示装置3。
步骤S670:显示装置3显示表示被检测者的子宫组织是癌症前期的结果。
步骤S680:显示装置3显示表示被检测者的子宫组织是***的结果。
至此,子宫癌判定***STb结束子宫癌判定处理。
接下来,参照图26,对癌症前期***判定处理进行说明。图26是表示本实施方式的癌症前期***判定处理的一个例子的图。
步骤S700:SHG图像获取部18b获取由多光子显微镜2b拍摄到的Z堆栈SHG图像ZS1。换句话说,SHG图像获取部18b获取由多光子显微镜2b得到的被检测者的子宫组织的二次谐波图像。
SHG图像获取部18b将获取到的Z堆栈SHG图像ZS1供给至纤维状结构判定部190b。
步骤S710:纤维状结构判定部190b对Z堆栈SHG图像ZS1进行纤维状结构的判定。纤维状结构判定部190b基于判定结果根据Z堆栈SHG图像ZS1生成Z堆栈纤维状结构图像ZF1。纤维状结构判定部190b将所生成的Z堆栈纤维状结构图像ZF1供给至纤维增生量计算部191b。
在这里,作为一个例子,纤维状结构判定部190b基于机器学习来进行判定。纤维状结构判定部190b例如使用U-Net来作为机器学习。
在这里,参照图27,对由纤维状结构判定部190b生成的Z堆栈纤维状结构图像ZF1所包含的纤维状结构图像PF1进行说明。图27是表示本实施方式的纤维状结构图像PF1的一个例子的图。
纤维状结构图像PF1是基于Z堆栈SHG图像ZS1所包含的SHG图像PS1判定纤维状结构的图像。作为一个例子,SHG图像PS1是对从子宫组织的上皮组织向内部的深度为15μm的组织进行拍摄得到的SHG图像。
此外,在本实施方式中,对纤维状结构判定部190b使用机器学习对Z堆栈SHG图像ZS1进行纤维状结构的判定的情况的一个例子进行了说明,但并不限于此。纤维状结构的判定也可以由子宫癌判定装置1b的用户进行。在纤维状结构的判定由子宫癌判定装置1b的用户进行的情况下,癌症进展度判定部19b例如经由操作输入部16接受判定Z堆栈SHG图像ZS1中的纤维状结构的操作。癌症进展度判定部19b基于接受到的判定纤维状结构的操作,来生成Z堆栈纤维状结构图像ZF1。
返回到图26,继续癌症前期***判定处理的说明。
步骤S720:纤维增生量计算部191b基于由纤维状结构判定部190b生成的Z堆栈纤维状结构图像ZF1,来计算被拍摄为Z堆栈SHG图像ZS1的子宫组织的浅部的纤维增生量。纤维增生量计算部191b将计算出的纤维增生量供给至癌症前期***判定部192b。
在这里,纤维增生量计算部191b计算拍摄有纤维状结构的部分的面积相对于Z堆栈纤维状结构图像ZFi的整体面积的比例,作为纤维增生量。纤维增生量计算部191b基于像素数来计算面积。换句话说,纤维增生量计算部191b计算拍摄有纤维状结构的部分的像素数相对于Z堆栈纤维状结构图像ZFi的整体像素数的比例,作为纤维增生量。以下,将该比例称为检测像素比率。
在这里,参照图28以及图29,对由纤维增生量计算部191b计算的检测像素比率进行说明。图28是表示本实施方式的检测像素比率的一个例子的图。在图28中,针对16个***的子宫组织样本、5个癌症前期的子宫组织样本、15个正常的子宫组织样本,分别将检测像素比率相对于Z堆栈图像的Z轴示出。
此外,如上所述,癌症前期***判定处理在判定为子宫组织是癌症组织后被执行,但在图28中,除了癌症组织(***和癌症前期)以外,为了比较还示出使用正常组织的Z堆栈SHG图像计算出的检测像素比率。
随着Z轴的坐标的值增大,拍摄到的子宫组织的浅部距上皮组织的深度加深。上皮组织的Z坐标的值为0。另外,子宫组织的浅部与深部的边界的Z坐标的值为50。
图29是表示有关本实施方式的检测像素比率的子宫组织的浅部的平均值的一个例子的图。所谓的有关子宫组织的浅部的平均值是有关Z堆栈图像的Z轴的值的平均。图29所示的三个图表相对于表示各样本的编号示出有关检测像素比率的子宫组织的浅部的平均值。图表G1是有关***的子宫组织的检测像素比率的平均值。图表G2是有关癌症前期的子宫组织的检测像素比率的平均值。图表G3是有关正常的子宫组织的检测像素比率的平均值。
从图表G1、图表G2以及图表G3可知,癌症组织的检测像素比率大于正常组织的检测像素比率。另外,从图表G1以及图表G2可知,***的检测像素比率大于癌症前期的检测像素比率。随着癌症的进展度增大,检测像素比率增大。在这里,检测像素比率对应于子宫组织的浅部的纤维增生量。因此,随着癌症的进展度增大,子宫组织的浅部的纤维增生量增多。
返回到图26,继续癌症前期***判定处理的说明。
步骤S730:癌症前期***判定部192b基于由纤维增生量计算部191b计算出的检测像素比率,对被判定为是癌症组织的可能性较高的子宫组织判定是癌症前期和***中的哪一个。癌症前期***判定部192b将判定出的结果作为判定结果Ab供给至输出部15。
在这里,对于样本,在检测像素比率的平均值高于规定的判定阈值的情况下,癌症前期***判定部192b判定为***。另一方面,对于样本,在检测像素比率的平均值低于规定的判定阈值的情况下,癌症前期***判定部192b判定为癌症前期。
至此,癌症进展度判定部19b结束癌症前期***判定处理。
此外,使用有关本实施方式的检测像素比率的子宫组织的浅部的平均值进行了说明,但并不局限于此,例如也可以用浅部的检测像素比率的最大值代替平均值来进行判定。
在这里,参照图30以及图31,使用ROC(Receiver Operating Characteristic:接收器工作特性)曲线对癌症进展度判定部19b的判定率进行说明。图30是表示本实施方式的癌症进展度判定部19b的判定率的ROC曲线的一个例子的图。图31是表示本实施方式的癌症进展度判定部19b的判定阈值与判定率的关系的一个例子的图。
图30的ROC曲线表示相对于作为特异性的癌症前期的判定率的作为灵敏度的***的判定率。在图30中,使***对应于阳性、使癌症前期对应于阴性来进行评价。换句话说,癌症前期的判定率对应于真阴性率,***的判定率对应于真阳性率。在图30的ROC曲线中,AUC(Area under the ROC curve:曲线下面积)的值为0.88。
如图31所示,若使癌症前期***判定部192b所使用的判定阈值变化,则在判定阈值为0.0025的情况下,得到灵敏度为81.3%,并且特异性为80.0%的判定率。图30的ROC曲线的AUC的值是判定阈值为0.0025的情况下的值。
此外,在本实施方式中,对癌症进展度判定部19b判定符合癌症前期还是***的情况作为癌症的进展度的一个例子进行了说明,但并不限于此。癌症进展度判定部19b也可以判定符合以下的哪一个作为癌症的进展度。
(a)癌症前期;
(b)***;
(c)轻度不典型增生(CIN1)、或中度不典型增生(CIN2)、或重度不典型增生/上皮内癌(CIN3);
(d)微浸润性鳞状上皮癌或鳞状上皮癌;或者
(e)需要治疗的癌症或不需要治疗的癌症。
(总结)
如以上说明的那样,本实施方式的子宫癌判定装置1b具备二次谐波图像获取部(在这一个例子中,为SHG图像获取部18b)和癌症进展度判定部19b。
二次谐波图像获取部(在这一个例子中,为SHG图像获取部18b)获取由多光子显微镜2b得到的被检测者的子宫组织的二次谐波图像(在这一个例子中,为Z堆栈SHG图像ZS1)。
在通过癌症组织判定部14判定为被检测者的子宫组织是癌症组织的可能性较高的情况下,癌症进展度判定部19b基于二次谐波图像(在这一个例子中,为Z堆栈SHG图像ZS1)中的纤维状结构的状态,来判定癌症的进展度(在这一个例子中,分类为癌症前期和***)。
根据该结构,在本实施方式的子宫癌判定装置1b中,由于能够基于被检测者的子宫组织的浅部的二次谐波图像中的纤维状结构的状态,来判定癌症的进展度,所以不用对子宫组织进行染色,就能够判定子宫组织的癌症的进展度。换句话说,在子宫癌判定装置1b中,不用调查子宫组织的深部,并且不用对子宫组织进行染色,就能够判定子宫组织的癌症的进展度。
另外,在本实施方式的子宫癌判定装置1b中,癌症进展度判定部19b判定符合以下的哪一种状态作为癌症的进展度。
(a)癌症前期;
(b)***;
(c)轻度不典型增生(CIN1)、或中度不典型增生(CIN2)、或重度不典型增生/上皮内癌(CIN3);
(d)微浸润性鳞状上皮癌或鳞状上皮癌;或者
(e)需要治疗的癌症或不需要治疗的癌症。
根据该结构,在本实施方式的子宫癌判定装置1b中,由于能够基于被检测者的子宫组织的浅部的二次谐波图像中的纤维状结构的状态,来判定作为癌症的进展度是否符合上述的(a)~(e)的项目,所以不用对子宫组织进行染色,就能够判定作为癌症的进展度,是否符合上述的(a)~(e)的项目。
(第四实施方式)
以下,参照附图对第四实施方式进行详细说明。
在子宫癌中,有宫颈组织的癌症亦即***和子宫体组织的癌症亦即子宫体癌症。在***中,根据癌症发展的程度,从在上皮组织中产生癌症的宫颈上皮内癌症发展成***。已知若癌症发展,则会在周边组织产生纤维增生。
另一方面,已知有通过对拍摄有生物体组织的图像进行解析来判定癌症组织的技术。在通过图像解析来判定癌症组织的情况下,使用对生物体组织染色并拍摄到的图像。
例如,已知有一种癌症检查装置,具备判定部,该判定部对涂覆有染色剂的生物体细胞组进行拍摄,并基于得到的图像的生物体细胞组的染色状态,来判定生物体细胞组的癌变的恶性度等级,其中,上述染色剂将生物体细胞的癌症相关基因产物选择性地染色为彩色(专利文献1)。
以往,很难以在细胞水平上解析非染色组织的状态。
图32是表示本实施方式的子宫癌进展度判定***STc的一个例子的图。子宫癌进展度判定***STc具备癌症进展度判定装置1c、多光子显微镜2c以及显示装置3c。在子宫癌进展度判定***STc中,癌症进展度判定装置1c对由多光子显微镜2c拍摄到的被检测者的子宫组织亦即Z堆栈拍摄图像ZP1c进行解析,判定被检测者的子宫癌的进展度。
在本实施方式中,作为一个例子,所谓的子宫组织是子宫颈组织和子宫体组织。
Z堆栈拍摄图像ZP1c是Z堆栈图像。所谓的Z堆栈图像是指在Z轴方向上改变距子宫组织的距离而拍摄到的多个图像的集合。Z堆栈拍摄图像ZP1c由拍摄各Z坐标的子宫组织的图像所得的多个图像构成。在这里,所谓的拍摄各Z坐标的子宫组织的图像是通过改变物镜与子宫组织的各种距离来拍摄子宫组织的图像。所谓的Z堆栈拍摄图像ZP1c是改变子宫组织与透镜的距离由多光子显微镜2c拍摄到的多个图像。
在本实施方式中,在从子宫组织的上皮组织朝向内部的方向上选择Z轴。换句话说,拍摄面越接近子宫上皮组织,Z坐标的值越小,随着拍摄面向子宫组织的内部深入,Z坐标的值增大。Z轴的原点选择在接近子宫上皮组织的较浅的位置。
像这样,所谓的Z堆栈拍摄图像ZP1c是与被检测者的子宫上皮组织的深度方向垂直的多个剖面图像,也仅称为剖面图像。此外,所谓的深度方向是从表层朝向基底层的方向,多个剖面图像无需与被检测者的子宫上皮组织的深度方向完全垂直,也可以倾斜±5度左右。
多光子显微镜2c在未染色的状态下观察并拍摄被检测者的子宫组织。多光子显微镜2c利用非线性光学现象拍摄子宫组织。在多光子显微镜2c用于拍摄的非线性光学现象中,具有二次谐波产生(SHG:Second Harmonic Generation)。
SHG是产生激励光的2倍的频率的光的现象。SHG因与胶原纤维等非线性光学晶体的相互作用而产生。
若肿瘤发展,则在周边组织产生纤维增生。因纤维增生而产生的纤维由包含各种胶原蛋白的分子构成。在纤维性胶原蛋白中,具有发生SHG的胶原蛋白。在本实施方式中,多光子显微镜2c利用SHG拍摄子宫组织,生成二次谐波图像。二次谐波图像是基于从多光子显微镜2c的照射部照射的激励光和通过由与子宫组织的相互作用引起的二次谐波产生而产生的光生成的子宫组织的剖面的图像。以下,将二次谐波图像称为SHG图像。
在本实施方式中,由于Z堆栈拍摄图像ZP1c是SHG图像的Z堆栈拍摄图像,所以以下将Z堆栈拍摄图像ZP1c称为Z堆栈SHG图像ZS1c。换句话说,Z堆栈SHG图像ZS1c是在Z轴方向上改变距子宫组织的距离而利用SHG拍摄子宫组织得到的多个SHG图像。换句话说,Z堆栈SHG图像ZS1c是在子宫上皮组织的多个深度拍摄到的多个剖面图像。在这里,该剖面图像是由多光子显微镜2c得到的二次谐波产生图像。
另外,将Z堆栈SHG图像ZS1c所包含的多个图像中的每个图像称为SHG图像PSic(i=1、2、…、N:N为Z堆栈SHG图像ZS1c所包含的图像的数量)等。
多光子显微镜2c在子宫组织的每个深度拍摄SHG图像。
在这里,参照图33,对由多光子显微镜2c拍摄的SHG图像进行说明。图33是表示本实施方式的SHG图像PS0c的一个例子的图。在图33中,为了比较,与SHG图像PS0c一起示出纤维状结构图像F1c。可知在由多光子显微镜2c拍摄到的SHG图像PS0c中,以与纤维状结构图像F1c中拍摄到的程度相同的程度拍摄有纤维状结构。
随着肿瘤发展,纤维增生从子宫组织的深部向浅部扩散。
在这里,参照图34,对纤维增生从子宫组织的深部向浅部扩散的情况进行说明。图34是表示本实施方式的肿瘤的每个进展度的子宫组织的剖面的一个例子的图。
在图34A中,在子宫组织的深部存在纤维状结构。在图34B中,是肿瘤发展的情况下的子宫组织的剖面,在浅部产生纤维增生。
在本实施方式中,也在从子宫组织的上皮组织朝向内部的方向上设定Z轴。随着肿瘤发展,在子宫组织中,纤维增生从Z坐标的值较大的部位扩散到Z坐标的值较小的部位。
在子宫组织的浅部,由于在哪一深度产生纤维增生根据肿瘤的进展度而不同,所以提前不知道。在癌症进展度判定装置1c中,通过使用Z堆栈SHG图像ZS1c,无论在组织浅部的哪一深度产生纤维增生都能够提取纤维状结构。
(癌症进展度判定装置的结构)
接下来,参照图35,对癌症进展度判定装置1c的结构进行说明。图35是表示本实施方式的癌症进展度判定装置1c的一个例子的图。作为一个例子,癌症进展度判定装置1c为计算机。
癌症进展度判定装置1c具备剖面图像获取部10c、纤维像素提取部11c、纤维增生量计算部12c、癌症进展度判定部13c、输出部14c以及存储部15c。剖面图像获取部10c、纤维像素提取部11c、纤维增生量计算部12c、癌症进展度判定部13c以及输出部14c分别是通过CPU(Central Processing Unit)从ROM(Read Only Memory)读入程序并执行处理来实现的模块。
剖面图像获取部10c获取由多光子显微镜2拍摄到的Z堆栈SHG图像ZS1c。
纤维像素提取部11c对Z堆栈SHG图像ZS1c所包含的SHG图像PSic中的每个图像,提取像素中的拍摄有纤维状结构的像素亦即纤维像素。在这里,在本实施方式中,作为一个例子,纤维像素提取部11c基于机器学习提取纤维像素。纤维像素提取部11c基于提取出的纤维像素根据Z堆栈SHG图像ZS1c生成Z堆栈纤维状结构图像ZF1c。Z堆栈纤维状结构图像ZF1c是示出纤维状结构的Z堆栈图像。
将Z堆栈纤维状结构图像ZF1c所包含的多个图像中的每个图像称为纤维状结构图像PFic(i=1、2、…、N:N为Z堆栈纤维状结构图像ZF1c所包含的图像的数量)等。
纤维增生量计算部12c计算纤维像素提取部11c所生成的Z堆栈纤维状结构图像ZF1c中拍摄到的纤维状结构的量。以下,存在将Z堆栈SHG图像ZS1c中拍摄到的纤维状结构的量称为纤维增生量的情况。
癌症进展度判定部13c基于由纤维增生量计算部12c计算出的纤维增生量来判定被检测者的子宫癌的进展度。在本实施方式中,作为一个例子,子宫癌的进展度按照进行的程度从小到大的顺序分类为非癌症、癌症前期或***。
输出部14c将癌症进展度判定部13c的判定结果Ac输出至显示装置3c。判定结果Ac表示被检测者的子宫癌的进展度。
显示装置3c显示癌症进展度判定装置1c判定出的判定结果Ac。作为一个例子,显示装置3c是显示器。
存储部15c存储各种信息。作为一个例子,该各种信息包含从被检测者的病例图像计算出的阈值信息THc。阈值信息THc是表示有关纤维增生量的阈值的信息,包含第一阈值TH1c和第二阈值TH2c。第一阈值TH1c表示癌症前期纤维增生量与非癌症的纤维增生量的边界。第二阈值TH2c表示癌症前期的纤维增生量与***的纤维增生量的边界。第二阈值TH2c大于第一阈值TH1c。
(癌症进展度判定处理)
接下来,对癌症进展度判定装置1c判定被检测者的子宫癌的进展度的处理亦即癌症进展度判定处理进行说明。图36是表示本实施方式的癌症进展度判定处理的一个例子的图。
步骤S810:剖面图像获取部10c获取由多光子显微镜2c拍摄到的Z堆栈拍摄图像ZP1c。换句话说,剖面图像获取部10c获取被检测者的子宫上皮组织的剖面图像。
步骤S820:纤维像素提取部11c对Z堆栈SHG图像ZS1c所包含的SHG图像PSic中的每个图像,提取像素中的拍摄有纤维状结构的像素亦即纤维像素。纤维像素提取部11c基于提取出的结果根据Z堆栈SHG图像ZS1c生成Z堆栈纤维状结构图像ZF1c。纤维像素提取部11c将所生成的Z堆栈纤维状结构图像ZF1c供给至纤维增生量计算部12c。
在这里,纤维像素提取部11c基于规定基准判定在各像素中是否拍摄有纤维状结构,并基于判定结果来提取纤维像素。作为一个例子,纤维像素提取部11c基于机器学习来进行判定。换句话说,纤维像素提取部11c使用通过机器学习生成的基准,作为用于判定纤维状结构的规定基准。
纤维像素提取部11c例如使用Conditional GAN(GAN:Generative AdversarialNetworks:生成对抗网络)作为机器学习。Conditional GAN由被称为生成部的网络和被称为识别部的网络这两个网络构成。生成部学习未被识别部识破的伪图像的生成。另一方面,识别部学习能够识破由生成部生成的伪图像的识别器。
在本实施方式中,所谓的通过机器学习生成的基准是通过Conditional GAN的识别部判定为在像素中拍摄到纤维状结构。
此外,纤维像素提取部11c所使用的机器学习也可以是Conditional GAN以外的机器学习。
在这里,参照图37,对由纤维像素提取部11c生成的Z堆栈纤维状结构图像ZF1c所包含的纤维状结构图像PF1c进行说明。图37是表示本实施方式的纤维状结构图像PF1c的一个例子的图。
纤维状结构图像PF1c是基于Z堆栈SHG图像ZS1c所包含的SHG图像PS1c判定纤维状结构的图像。作为一个例子,SHG图像PS1c是对从子宫组织的上皮组织向内部的深度为15μm的组织进行拍摄得到的SHG图像。
如上所述,在本实施方式中,纤维像素提取部11c基于由剖面图像获取部10c获取到的Z堆栈拍摄图像ZP1c和通过机器学习生成的基准来提取纤维像素。
此外,在本实施方式中,对纤维像素提取部11c使用机器学习对Z堆栈SHG图像ZS1c进行纤维状结构的判定的情况的一个例子进行了说明,但并不限于此。纤维像素提取部11c也可以作为规定基准,例如,以包含于像素连续的区域,且为规定宽度以下且规定长度以上的形状的区域为基准,判定在像素中是否拍摄到纤维状结构。另外,Z堆栈SHG图像ZS1c也可以构成为不包含被分类为非癌症的图像。
换句话说,纤维像素提取部11c基于由剖面图像获取部10c获取到的Z堆栈拍摄图像ZP1c和规定基准,提取Z堆栈拍摄图像ZP1c的像素中的拍摄有纤维状结构的像素亦即纤维像素。
另外,此外,在本实施方式中,对由纤维像素提取部11c判定纤维像素的情况的一个例子进行了说明,但并不限于此。纤维像素的判定也可以由癌症进展度判定装置1c的用户进行。在由癌症进展度判定装置1c的用户进行纤维像素的判定的情况下,癌症进展度判定装置1c具备操作输入部,纤维像素提取部11c例如经由操作输入部接受判定Z堆栈SHG图像ZS1c中的纤维状结构的操作。纤维像素提取部11c基于接受的判定纤维状结构的操作,来生成Z堆栈纤维状结构图像ZF1c。
返回到图36继续癌症进展度判定处理的说明。
步骤S830:纤维增生量计算部12c基于由纤维像素提取部11c生成的Z堆栈纤维状结构图像ZF1c,来计算被拍摄为Z堆栈SHG图像ZS1c的子宫组织的浅部的纤维增生量。在这里,由纤维像素提取部11c生成的Z堆栈纤维状结构图像ZF1c是在由剖面图像获取部10c获取到的Z堆栈SHG图像ZS1c中示出纤维状结构的Z堆栈图像。换句话说,纤维增生量计算部12c计算由剖面图像获取部10c获取到的Z堆栈SHG图像ZS1c中拍摄到的纤维状结构的量。纤维增生量计算部12c将计算出的纤维增生量供给至癌症进展度判定部13c。
在这里,纤维增生量计算部12c基于由纤维像素提取部11c提取出的纤维像素来计算Z堆栈SHG图像ZS1c中拍摄到的纤维状结构的量(纤维增生量)。纤维增生量计算部12c计算拍摄有纤维状结构的部分的面积相对于Z堆栈纤维状结构图像ZFic的整体面积的比例,作为纤维增生量。纤维增生量计算部12c基于像素数来计算这些面积。换句话说,纤维增生量计算部12c计算拍摄有纤维状结构的部分的像素数相对于Z堆栈纤维状结构图像ZFic的整体的像素数的比例,作为纤维增生量。以下,将该比例称为检测像素比率。
此外,在本实施方式中,对纤维增生量计算部12c计算拍摄有纤维状结构的部分的面积相对于Z堆栈纤维状结构图像ZFic的整体面积的比例来作为纤维增生量的情况的一个例子进行了说明,但并不限于此。
纤维增生量计算部12c也可以计算Z堆栈纤维状结构图像ZFic中拍摄到的纤维状结构的面积来作为纤维增生量,也可以计算纤维状结构的长度、根数来作为纤维增生量。另外,纤维增生量计算部12c也可以为了计算纤维增生量,而对Z堆栈纤维状结构图像ZFic预先添加规定的前处理。作为一个例子,所谓的规定的前处理是二值化处理。由此,能够更加可靠地计算Z堆栈SHG图像ZS1c中拍摄到的纤维状结构的量。另外,前处理并不限于二值化处理,也可以添加平滑化处理、形态处理。
另外,纤维增生量计算部12c也可以计算Z堆栈SHG图像ZS1c所包含的多个Z堆栈纤维状结构图像ZFic中拍摄到的纤维状结构的合计的量、平均的量、或者上述纤维状结构的像素数相对于上述剖面图像的整体像素数的比例,作为纤维增生量。在计算多个Z堆栈纤维状结构图像ZFic中拍摄到的纤维状结构的合计的量、平均的量、或者上述纤维状结构的像素数相对于上述剖面图像的整体像素数的比例的情况下,当在Z堆栈SHG图像ZS1c所包含的SHG图像ZSic间在纤维增生量上存在偏差的情况下,能够抑制子宫癌的进展度的判定的精度下降。
在这里,参照图38和图39,对由纤维增生量计算部12c计算的检测像素比率进行说明。图38是表示本实施方式的检测像素比率的一个例子的图。在图38中,对于16个***的子宫组织的样本、3个癌症前期的子宫组织的样本、13个正常的子宫组织的样本,分别将检测像素比率示于Z堆栈图像的Z轴。
随着Z轴的坐标的值增大,所拍摄的子宫组织的浅部距上皮组织的深度越深。上皮组织的表面的Z坐标的值为0。另外,子宫组织的浅部与深部的边界的Z坐标的值为50。
图39是表示有关本实施方式的检测像素比率的子宫组织的浅部的平均值的一个例子的图。所谓的子宫组织的浅部的平均值是Z堆栈图像的Z轴的值的平均。图39所示的3个图表相对于表示各样本的编号示出有关检测像素比率的子宫组织的浅部的平均值。图表G1c是有关***的子宫组织的检测像素比率的平均值。图表G2c是有关癌症前期的子宫组织的检测像素比率的平均值。图表G3c是有关正常的子宫组织的检测像素比率的平均值。
从图表G1c、图表G2c以及图表G3c可知,就检测像素比率而言,癌症组织比正常组织大。另外,从图表G1c以及图表G2c可知,***的检测像素比率比癌症前期的检测像素比率大。随着癌症的进展度增大,检测像素比率增大。在这里,检测像素比率对应于子宫组织的浅部的纤维增生量。因此,随着癌症的进展度增大,子宫组织的浅部的纤维增生量增多。
返回到图36,继续癌症进展度判定处理的说明。
步骤S840:癌症进展度判定部13c基于由纤维增生量计算部12c计算出的检测像素比率和阈值信息THc所示的第一阈值TH1c以及第二阈值TH2c,来判定被检测者的子宫癌的进展度。在这里,癌症进展度判定部13c从存储部15c读出阈值信息THc。癌症进展度判定部13c将判定出的结果作为判定结果Ac供给至输出部14c。
在这里,在纤维状结构的量为第一阈值TH1c以下的情况下,癌症进展度判定部13c判定为子宫上皮组织是非癌症组织。另一方面,在纤维状结构的量超过第一阈值TH1c的情况下,癌症进展度判定部13c判定为被检测者患有子宫癌或者患有子宫癌的可能性较高。
在纤维状结构的量超过第一阈值TH1c且为第二阈值TH2c以下的情况下,癌症进展度判定部13c判定为被检测者的子宫癌是癌症前期的状态,其中,上述第二阈值TH2c大于第一阈值TH1c。在超过第二阈值TH2c的情况下,癌症进展度判定部13c判定为被检测者的子宫癌为***。
步骤S850:输出部14c将判定结果Ac输出至显示装置3c。
至此,癌症进展度判定装置1c结束癌症进展度判定处理。
在这里,参照图40和图41,使用ROC(Receiver Operating Characteristic)曲线对癌症进展度判定部13c的判定率进行说明。图40是表示示出本实施方式的癌症进展度判定部13c的判定率的ROC曲线的一个例子的图。图41是表示本实施方式的癌症进展度判定部13c的判定阈值与判定率的关系的一个例子的图。
图40的ROC曲线表示相对于作为特异性的癌症前期的判定率的作为灵敏度的***的判定率。在图40中,使***对应于阳性、使癌症前期对应于阴性来进行评价。换句话说,癌症前期的判定率对应于真阴性率,***的判定率对应于真阳性率。在图40的ROC曲线中,AUC(Area under an ROC curve)的值为0.88。
若如图41所示使癌症进展度判定部13c所使用的判定阈值变化,则在判定阈值为0.0025的情况下,得到灵敏度为81.3%,并且特异性为80.0%的判定率。图40的ROC曲线的AUC的值是判定阈值为0.0025的情况下的值。
此外,在本实施方式中,对癌症进展度判定部13c判定符合癌症前期和***中哪一种的情况作为癌症的进展度的一个例子进行了说明,但并不限于此。癌症进展度判定部13c也可以判定符合以下的哪一种作为癌症的进展度。
(a)癌症前期;
(b)***;
(c)轻度不典型增生(CIN1)、或中度不典型增生(CIN2)、或重度不典型增生/上皮内癌(CIN3);
(d)微浸润性鳞状上皮癌或鳞状上皮癌;或者
(e)需要治疗的癌症或不需要治疗的癌症。
如以上说明的那样,本实施方式的癌症进展度判定装置1c具备剖面图像获取部10c、计算部(在这一个例子中,为纤维增生量计算部12c)以及癌症进展度判定部13c。
剖面图像获取部10c获取被检测者的子宫上皮组织的剖面图像(在这一个例子中,为SHG图像PSic)。
计算部(在这一个例子中,为纤维增生量计算部12c)计算由剖面图像获取部10c获取到的剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的量。
癌症进展度判定部13c基于由计算部(在这一个例子中,为纤维增生量计算部12c)计算出的纤维状结构的量来判定被检测者的子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***)。
根据该结构,本实施方式的癌症进展度判定装置1c由于能够基于被检测者的子宫上皮组织的剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的量来判定被检测者的子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***),所以不用对子宫组织进行染色,就能够判定子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***)。
另外,在本实施方式的癌症进展度判定装置1c中,具备提取部(在这一个例子中,为纤维像素提取部11c)。
提取部(在这一个例子中,为纤维像素提取部11c)基于由剖面图像获取部10c获取到的剖面图像(在这一个例子中,为SHG图像PSic)和规定基准(在这一个例子中,为通过机器学习生成的基准),提取剖面图像(在这一个例子中,为SHG图像PSic)的像素中的拍摄有纤维状结构的像素亦即纤维像素。
另外,计算部(在这一个例子中,为纤维增生量计算部12c)基于由提取部(在这一个例子中,为纤维像素提取部11c)提取出的纤维像素来计算在剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的量。
根据该结构,在本实施方式的癌症进展度判定装置1c中,由于能够提取剖面图像(在这一个例子中,为SHG图像PSic)的像素中的拍摄有纤维状结构的像素亦即纤维像素,所以能够减轻提取剖面图像(在这一个例子中,为SHG图像PSic)的像素中的纤维像素的麻烦。
另外,在本实施方式的癌症进展度判定装置1c中,计算部(在这一个例子中,为纤维增生量计算部12c)计算剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的面积作为纤维状结构的量。
根据该结构,在本实施方式的癌症进展度判定装置1c中,由于能够计算剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的面积作为纤维状结构的量,所以能够基于剖面图像(在这一个例子中,为SHG图像PSic)中拍摄到的纤维状结构的面积,不用对子宫组织进行染色,判定子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***)。
另外,在本实施方式的癌症进展度判定装置1c中,剖面图像(在这一个例子中,为SHG图像PSic)是由多光子显微镜2c得到的二次谐波产生图像。
根据该结构,在本实施方式的癌症进展度判定装置1c中,由于能够使用利用二次谐波产生对肿瘤进展而产生的纤维状结构进行拍摄而得到的剖面图像(在这一个例子中,为SHG图像PSic),所以不用对子宫组织进行染色,能够使用基于二次谐波产生拍摄到的纤维状结构来判定子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***)。
不用对子宫组织进行染色,就能够判定。
另外,在本实施方式的癌症进展度判定装置1c中,剖面图像(在这一个例子中,为SHG图像PSic)是在被检测者的子宫上皮组织的多个深度中的每个深度拍摄到的多个剖面图像(在这一个例子中,为Z堆栈SHG图像ZS1c),计算部(在这一个例子中,为纤维增生量计算部12c)计算多个剖面图像(在这一个例子中,为Z堆栈SHG图像ZS1c)中拍摄到的纤维状结构的合计的量、或平均的量、或相对于剖面图像的像素数的比例。
根据该结构,在本实施方式的癌症进展度判定装置1c中,由于能够基于多个剖面图像(在这一个例子中,为Z堆栈SHG图像ZS1c)中拍摄到的纤维状结构的合计的量、或平均的量、或相对于剖面图像的像素数的比例来判定子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***),所以能够抑制当在多个剖面图像(在这一个例子中,为Z堆栈SHG图像ZS1c)间在纤维状结构的量上存在偏差的情况下,子宫癌的进展度(在这一个例子中,为非癌症、或癌症前期、或***)的判定的精度下降。
另外,在本实施方式的癌症进展度判定装置1c中,癌症进展度判定部13c判定符合以下的哪一种作为子宫癌的进展度。
(a)癌症前期;
(b)***;
(c)轻度不典型增生(CIN1)、或中度不典型增生(CIN2)、或重度不典型增生/上皮内癌(CIN3);
(d)微浸润性鳞状上皮癌或鳞状上皮癌;或者
(e)需要治疗的癌症或不需要治疗的癌症。
根据该结构,在本实施方式的癌症进展度判定装置1c中,由于能够基于剖面图像(在这一个例子中,为SHG图像PSic)中的纤维状结构的量,来判定作为子宫癌的进展度,是否符合上述的(a)~(e)的项目,所以不用对子宫组织进行染色,就能够判定作为子宫癌的进展度,是否符合上述的(a)~(e)的项目。
另外,在本实施方式的癌症进展度判定装置1c中,癌症进展度判定部13c在纤维状结构的量为第一阈值TH1c以下的情况下,判定为子宫上皮组织是非癌症组织,在纤维状结构的量超过第一阈值TH1c的情况下,判定为被检测者患有子宫癌或者患有子宫癌的可能性较高。
根据该结构,在本实施方式的癌症进展度判定装置1c中,基于剖面图像(在这一个例子中,为SHG图像PSic)中的纤维状结构的量,作为子宫癌的进展度,能够判定为是非癌症组织、或者患有子宫癌或患有子宫癌的可能性较高。
另外,在本实施方式的癌症进展度判定装置1c中,剖面图像是癌症前期或者***的图像,作为子宫癌的进展度,癌症进展度判定部13c在纤维状结构的量超过第一阈值TH1c且为第二阈值TH2c以下的情况下,判定为被检测者是癌症前期,在超过第二阈值TH2c的情况下,判定为被检测者是***,其中,第二阈值TH2c大于第一阈值TH1c。
根据该结构,在本实施方式的癌症进展度判定装置1c中,能够基于剖面图像(在这一个例子中,为SHG图像PSic)中的纤维状结构的量,来判定作为子宫癌的进展度,被检测者是癌症前期还是被检测者是***。
另外,在本实施方式的癌症进展度判定装置1c中,剖面图像是癌症前期或者***的剖面图像,癌症进展度判定部13c在被检测者的子宫癌的进展度是癌症前期或者***的情况下,当纤维状结构的量小于第一阈值TH1c时,判定为被检测者的子宫癌的进展度为癌症前期,当纤维状结构的量超过第一阈值TH1c时,判定为被检测者的子宫癌的进展度为***。
根据该结构,在本实施方式的癌症进行判定装置中,剖面图像(Z堆栈SHG图像ZS1c)是癌症前期或者***的剖面图像,通过根据被检测者的子宫上皮组织是癌症前期或者***的图像进行判定,能够高精度地进行癌症前期的判定。
此外,也可以通过计算机来实现上述的实施方式中的子宫癌判定装置1、子宫癌判定装置1a、子宫癌判定装置1b、癌症进展度判定装置1c的一部分,例如,核区域图像生成部10、特征量处理部11、数据分割部12、分类模型生成部13、癌症组织判定部14、输出部15、操作输入部16、核区域图像生成部10a、SHG图像获取部18b、癌症进展度判定部19b、剖面图像获取部10c、纤维像素提取部11c、纤维增生量计算部12c、癌症进展度判定部13c以及输出部14c。在该情况下,也可以通过将用于实现该控制功能的程序记录于计算机可读取的记录介质,并使计算机***读入记录于该记录介质的程序并执行来实现。此外,这里所说的“计算机***”是内置于子宫癌判定装置1、子宫癌判定装置1a、子宫癌判定装置1b、癌症进展度判定装置1c的计算机***,包含OS、周边设备等硬件。另外,所谓的“计算机可读取的记录介质”是指软盘、光磁盘、ROM、CD-ROM等可移动介质、内置于计算机***的硬盘等存储装置。进一步,所谓的“计算机可读取的记录介质”也可以包含如经由因特网等网络、电话线路等通信线路发送程序的情况下的通信线那样以短时间、动态地保持程序的结构、如成为该情况下的服务器、客户端的计算机***内部的易失性存储器那样将程序保持一定时间的结构。另外,上述程序也可以是用于实现上述功能的一部分的程序,进一步也可以是能够通过与已经记录在计算机***中的程序的组合来实现上述功能的程序。
另外,也可以将上述实施方式中的子宫癌判定装置1、子宫癌判定装置1a、子宫癌判定装置1b、癌症进展度判定装置1c的一部分或全部作为LSI(Large Scale Integration:大规模集成)等集成电路来实现。子宫癌判定装置1、子宫癌判定装置1a、子宫癌判定装置1b、癌症进展度判定装置1c的各功能模块可以分别独立地处理器化,也可以将一部分或全部集成并处理器化。另外,集成电路化的方法并不限于LSI,也可以通过专用电路、或者通用处理器来实现。另外,在随着半导体技术的进步出现了代替LSI的集成电路化的技术的情况下,也可以使用基于该技术的集成电路。
以上,参照附图对本发明的一个实施方式进行了详细说明,但具体的结构并不限于上述的结构,能够在不脱离本发明的主旨的范围内进行各种设计变更等。
附图标记说明
1、1a、1b…子宫癌判定装置,100…THG图像获取部,14…癌症组织判定部,ZT1…Z堆栈THG图像,1c…癌症进展度判定装置,10c…剖面图像获取部,11c…纤维像素提取部,12c…纤维增生量计算部,13c…癌症进展度判定部,PSic…SHG图像,ZS1c…Z堆栈SHG图像。
Claims (19)
1.一种癌症判定装置,具备:
照射部,对组织照射激励光;
三次谐波图像获取部,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及
癌症组织判定部,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
2.根据权利要求1所述的癌症判定装置,其中,
上述组织是子宫组织。
3.根据权利要求1或2所述的癌症判定装置,其中,
上述细胞核的状态是从由细胞核的面积、细胞核的密度以及细胞核的形状构成的组中选择的至少一个。
4.根据权利要求3所述的癌症判定装置,其中,
上述癌症组织判定部在符合以下至少一个条件的情况下,判定为上述组织是癌症组织的可能性较高:
(i)细胞核的平均面积大于正常组织;
(ii)细胞核的面积偏差大于正常组织;
(iii)细胞核的密度大于正常组织;
(iv)细胞核的密度偏差大于正常组织;
(v)细胞核的形状的变形大于正常组织;以及
(vi)细胞核的形状偏差大于正常组织。
5.根据权利要求1~4中任一项所述的癌症判定装置,其中,
上述组织预先暴露于乙酸。
6.根据权利要求1~5中任一项所述的癌症判定装置,其中,
上述癌症组织判定部参照使用正常组织的学习用三次谐波图像以及/或者癌症组织的学习用三次谐波图像学习的分类模型,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
7.根据权利要求6所述的癌症判定装置,其中,
上述学习用三次谐波图像是上皮组织的多个剖面图像。
8.根据权利要求6或7所述的癌症判定装置,其中,
上述三次谐波图像是上皮组织的多个剖面图像。
9.根据权利要求8所述的癌症判定装置,其中,
上述癌症组织判定部对多个上述三次谐波图像中的每个图像判定是癌症组织的可能性,基于被判定为是癌症组织的可能性较高的上述三次谐波图像相对于所有上述三次谐波图像的比例,来计算上述组织是癌症组织的可能性。
10.根据权利要求1~9中任一项所述的癌症判定装置,其中,还具备:
二次谐波图像获取部,基于通过二次谐波产生而产生的光来获取二次谐波图像,其中,上述二次谐波产生因上述组织与上述激励光的相互作用而产生;以及
癌症进展度判定部,在通过上述癌症组织判定部判定为组织是癌症组织的可能性较高的情况下,基于上述二次谐波图像中的纤维状结构的状态,来判定癌症的进展度。
11.根据权利要求10所述的癌症判定装置,其中,
上述癌症进展度判定部判定符合以下的哪一种状态来作为上述癌症的进展度:
(a)癌症前期;
(b)***;
(c)轻度不典型增生(CIN1)、中度不典型增生(CIN2)、或者重度不典型增生/上皮内癌(CIN3);
(d)微浸润性鳞状上皮癌或者鳞状上皮癌;或者
(e)需要治疗的癌症或者不需要治疗的癌症。
12.根据权利要求10或11所述的癌症判定装置,其中,
还具备计算部,上述计算部计算由上述二次谐波图像获取部获取到的上述二次谐波图像中拍摄到的上述纤维状结构的量,
上述纤维状结构的状态基于由上述计算部计算出的上述纤维状结构的量来判定。
13.根据权利要求12所述的癌症判定装置,其中,
还具备提取部,上述提取部基于上述二次谐波图像和规定基准,提取上述二次谐波图像的像素中的拍摄有纤维状结构的像素亦即纤维像素,
上述计算部基于上述提取部提取出的上述纤维像素来计算上述量。
14.根据权利要求12或13所述的癌症判定装置,其中,
上述计算部计算上述二次谐波图像中拍摄到的上述纤维状结构的面积作为上述量。
15.根据权利要求12~14中任一项所述的癌症判定装置,其中,
上述二次谐波图像是在上述组织的多个深度中的每个深度处拍摄到的多个剖面图像,
上述计算部计算上述多个剖面图像中拍摄到的纤维状结构的合计的量、或平均的量、或上述纤维状结构的像素数相对于上述剖面图像的整体像素数的比例。
16.根据权利要求12~15中任一项所述的癌症判定装置,其中,
作为上述癌症的进展度,
在上述纤维状结构的量超过第一阈值且为第二阈值以下的情况下,上述癌症进展度判定部判定为癌症前期,其中,上述第二阈值大于上述第一阈值,
在超过上述第二阈值的情况下,上述癌症进展度判定部判定为***。
17.根据权利要求12~15中任一项所述的癌症判定装置,其中,
上述二次谐波图像是癌症前期或者***的剖面图像,
作为上述癌症的进展度,
在上述纤维状结构的量为第一阈值以下的情况下,上述癌症进展度判定部判定为是癌症前期,
在上述纤维状结构的量超过第一阈值的情况下,上述癌症进展度判定部判定为是***。
18.一种癌症判定方法,具有:
照射工序,对组织照射激励光;
三次谐波图像获取过程,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及
癌症组织判定过程,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
19.一种程序,使计算机执行如下步骤:
照射步骤,对组织照射激励光;
三次谐波图像获取步骤,基于通过三次谐波产生而产生的光来获取上述组织的三次谐波图像,其中,上述三次谐波产生因上述组织与上述激励光的相互作用而产生;以及
癌症组织判定步骤,基于上述三次谐波图像中的细胞核的状态,来判定上述组织是癌症组织的可能性。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019192469 | 2019-10-23 | ||
JP2019192470 | 2019-10-23 | ||
JP2019-192470 | 2019-10-23 | ||
JP2019-192469 | 2019-10-23 | ||
PCT/JP2020/039977 WO2021080007A1 (ja) | 2019-10-23 | 2020-10-23 | がん判定装置、がん判定方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114945825A true CN114945825A (zh) | 2022-08-26 |
Family
ID=75620727
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080089076.XA Pending CN114945825A (zh) | 2019-10-23 | 2020-10-23 | 癌症判定装置、癌症判定方法以及程序 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220366561A1 (zh) |
EP (1) | EP4050326A4 (zh) |
CN (1) | CN114945825A (zh) |
WO (1) | WO2021080007A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020124084A1 (en) * | 2018-12-15 | 2020-06-18 | The Brigham And Women's Hospital, Inc. | Augmented digital microscopy for lesion analysis |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109414151B (zh) | 2016-05-18 | 2022-11-25 | 国立大学法人三重大学 | 癌症检测装置、癌症检测方法和用于癌症检测的染色剂 |
JP7131949B2 (ja) | 2018-04-24 | 2022-09-06 | 株式会社小糸製作所 | 車両用灯具 |
JP7079411B2 (ja) | 2018-04-24 | 2022-06-02 | トヨタ自動車株式会社 | 電極とこれを用いた電池 |
CN109299679A (zh) * | 2018-09-11 | 2019-02-01 | 东北大学 | 基于狭长型条件随机场的***组织病理图像诊断方法 |
-
2020
- 2020-10-23 WO PCT/JP2020/039977 patent/WO2021080007A1/ja unknown
- 2020-10-23 CN CN202080089076.XA patent/CN114945825A/zh active Pending
- 2020-10-23 EP EP20878152.6A patent/EP4050326A4/en active Pending
-
2022
- 2022-04-22 US US17/727,218 patent/US20220366561A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20220366561A1 (en) | 2022-11-17 |
WO2021080007A1 (ja) | 2021-04-29 |
JPWO2021080007A1 (zh) | 2021-04-29 |
EP4050326A1 (en) | 2022-08-31 |
EP4050326A4 (en) | 2023-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230419696A1 (en) | Image analysis method, apparatus, program, and learned deep learning algorithm | |
JP7076698B2 (ja) | 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム | |
JP6791245B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
Bengtsson et al. | Screening for cervical cancer using automated analysis of PAP‐smears | |
JP2021166062A (ja) | 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測 | |
EP1563457A2 (en) | Image analysis | |
US20210390278A1 (en) | System for co-registration of medical images using a classifier | |
Son et al. | Morphological change tracking of dendritic spines based on structural features | |
JPWO2017150194A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
WO2019181072A1 (ja) | 画像処理方法、コンピュータプログラムおよび記録媒体 | |
Harris et al. | A pulse coupled neural network segmentation algorithm for reflectance confocal images of epithelial tissue | |
JP5088329B2 (ja) | 細胞特徴量算出装置および細胞特徴量算出方法 | |
KR101929669B1 (ko) | 엔트로피를 이용하여 이미지를 분석하는 방법 및 장치 | |
Shakhawat et al. | Review of artifact detection methods for automated analysis and diagnosis in digital pathology | |
CN110246139B (zh) | 基于双阈值的浮游生物原位图像roi快速提取方法 | |
CN114945825A (zh) | 癌症判定装置、癌症判定方法以及程序 | |
Song et al. | New morphological features for grading pancreatic ductal adenocarcinomas | |
Medyukhina et al. | Automated seeding-based nuclei segmentation in nonlinear optical microscopy | |
US20210166387A1 (en) | System for analysis of microscopic data using graphs | |
Nagase et al. | Automatic calculation and visualization of nuclear density in whole slide images of hepatic histological sections | |
Palokangas et al. | Segmentation of folds in tissue section images | |
CN108074242B (zh) | 一种提高炎症识别准确度的方法及装置 | |
JPH1119077A (ja) | 放射線画像における腫瘤影の検出方法及び装置 | |
GB2478133A (en) | A method of Image classification based on duct and nuclei parameters | |
Friedrich et al. | Removing defocused objects from single focal plane scans of cytological slides |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |