CN116883325B - 一种免疫荧光图像分析方法和装置 - Google Patents
一种免疫荧光图像分析方法和装置 Download PDFInfo
- Publication number
- CN116883325B CN116883325B CN202310739039.4A CN202310739039A CN116883325B CN 116883325 B CN116883325 B CN 116883325B CN 202310739039 A CN202310739039 A CN 202310739039A CN 116883325 B CN116883325 B CN 116883325B
- Authority
- CN
- China
- Prior art keywords
- decoder
- image
- encoder
- ana
- immunofluorescence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010166 immunofluorescence Methods 0.000 title claims abstract description 63
- 238000003703 image analysis method Methods 0.000 title claims abstract description 15
- 238000012549 training Methods 0.000 claims abstract description 55
- 238000013528 artificial neural network Methods 0.000 claims abstract description 45
- 230000000306 recurrent effect Effects 0.000 claims abstract description 45
- 238000010191 image analysis Methods 0.000 claims abstract description 33
- 238000000034 method Methods 0.000 claims abstract description 25
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 22
- 102100032202 Cornulin Human genes 0.000 claims abstract 2
- 101000920981 Homo sapiens Cornulin Proteins 0.000 claims abstract 2
- 230000006870 function Effects 0.000 claims description 27
- 230000004913 activation Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 12
- 230000001575 pathological effect Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 10
- 238000000605 extraction Methods 0.000 claims description 6
- 238000002073 fluorescence micrograph Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 5
- 230000008014 freezing Effects 0.000 claims description 4
- 238000007710 freezing Methods 0.000 claims description 4
- 230000007246 mechanism Effects 0.000 abstract description 8
- 238000005070 sampling Methods 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 5
- 239000000284 extract Substances 0.000 abstract description 4
- 239000000523 sample Substances 0.000 description 18
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000007170 pathology Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 210000003855 cell nucleus Anatomy 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000013610 patient sample Substances 0.000 description 2
- 241000272522 Anas Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003460 anti-nuclear Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000012757 fluorescence staining Methods 0.000 description 1
- 238000012151 immunohistochemical method Methods 0.000 description 1
- 210000004185 liver Anatomy 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002966 serum Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
- G06T2207/10061—Microscopic image from scanning electron microscope
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种免疫荧光图像分析方法和装置，所述方法包括：获取目标患者在不同区域下的多个免疫荧光图像，将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。这样，该方案利用基于深度学习注意力机制的弱监督CRNN模型，CNN对同一患者各个采样区域提取特征图，将图像抽象成高维特征信息，所有的特征由RNN结合注意力机制进行归纳融合，能够提高图像分析的准确性，进而能够提供病例级别的ANA结论。
Description
技术领域
本发明涉及人工智能技术领域，具体涉及一种免疫荧光图像分析方法和装置。
背景技术
抗核抗体(antinuclearantibodies，ANA)泛指抗各种核成分的抗体，是一种广泛存在的自身抗体。由于细胞核成分的复杂性，不同成分的抗原性也不同，因此就会有多种不同的ANA。目前ANA常用的方法有免疫荧光法，免疫荧光法检测血清总ANA最常用的方法是荧光免疫组化法，多用小鼠肝切片或印片作为细胞核基质，结果比较稳定可靠，在荧光显微镜下见到的细胞核有荧光着色为阳性反应。
在已有的技术中，利用深度学习图像检测算法处理免疫荧光图像，使用多个空洞卷积层分别对待测免疫荧光图像进行特征提取获得多个空洞卷积特征图，然后进行特征融合获得多尺度特征图，并输入残差网络获得深层特征图，利用卷积层对深层特征图进行权值分配，最后将加权后的像素值高于指定阈值的特征区域确定为目标框，该目标框内的区域为感兴趣区域，其中多个空洞卷积层的空洞系数各不相同，通过将不同空洞系数的空洞卷积层提取到的特征进行多尺度融合，能够同时提取高低视野下的特征进行融合，得到更完整的语义信息，使得检测的感兴趣区域更具有针对性。
但是，针对单例免疫荧光样本，需要人工在显微镜下观察整张玻片样本，然后给出ANA结论。使用数字显微扫描仪通常可得到该样本下40倍倍率下多个区域的采样图像，但多个区域的采样图像并不一定都能得出统一的ANA阳性结论，因此，使用现有技术中提供的空洞卷积进行图像分析的准确性较差，无法提供病例级别的ANA结论。
发明内容
为此，本发明实施例提供一种免疫荧光图像分析方法和装置，以期能够提高图像分析的准确性，进而提供病例级别的ANA结论。
为了实现上述目的，本发明实施例提供如下技术方案：
本发明提供了一种免疫荧光图像分析方法，所述方法包括：
获取目标患者在不同区域下的多个免疫荧光图像；
将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理单任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果同步输入多个并列的解码器中，通过各解码器分别得到病例类别结果。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理多任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果输入解码器中，通过所述解码器得到病例类别结果，所述解码器的数量为一个。
在一些实施例中，利用ANA图像样本和对应的分类标签进行训练得所述编码器，具体包括：
将同一患者的多张ANA病理图像作为ANA图像样本，将该患者的ANA核型结果作为分类标签；
将所述ANA图像样本输入编码器进行训练，以得到图像类别结果；
将所述分类标签和所述图像分类结果输入优化器，以利用反向传播的梯度更新所述编码器的参数。
在一些实施例中，利用同一患者不同区域的荧光图像样本进行训练得到所述解码器，具体包括：
将同一患者的不同区域的多张ANA病理图像作为荧光图像样本；
冻结编码器参数，使得所述编码器的参数在所述解码器训练过程中不再更新，仅为编码器提供特征提取的功能；
从所述编码器中提取特征，并将提取的特征作为解码器的输入，由所述解码器输出该患者的ANA核型，优化器根据解码器输出的ANA核型与患者真实的ANA核型计算损失函数；
根据所述损失函数更新解码器的参数，以完成解码器训练。
在一些实施例中，在所述卷积递归神经网络中，CNN作为编码器，RNN作为解码器。
在一些实施例中，在处理多标签分类问题的情况下，所述卷积递归神经网络使用sigmoid激活函数；
在处理单标签分类问题的情况下，所述卷积递归神经网络使用softmax激活函数。
本发明还提供了一种免疫荧光图像分析装置，所述装置包括：
图像获取单元，用于获取目标患者在不同区域下的多个免疫荧光图像；
图像分析单元，用于将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。
本发明还提供了一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序时实现如上所述方法的步骤。
本发明还提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述方法的步骤。
本发明所提供的免疫荧光图像分析方法和装置，通过获取目标患者在不同区域下的多个免疫荧光图像，将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。这样，该方案利用基于深度学习注意力机制的弱监督CRNN模型，算法包含卷积神经网络CNN和递归神经网络RNN，CNN对同一患者各个采样区域提取特征图，将图像抽象成高维特征信息，所有的特征由RNN结合注意力机制进行归纳融合，能够提高图像分析的准确性，进而能够提供病例级别的ANA结论。
附图说明
为了更清楚地说明本发明的实施方式或现有技术中的技术方案，下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是示例性的，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图引伸获得其它的实施附图。
本说明书所绘示的结构、比例、大小等，均仅用以配合说明书所揭示的内容，以供熟悉此技术的人士了解与阅读，并非用以限定本发明可实施的限定条件，故不具技术上的实质意义，任何结构的修饰、比例关系的改变或大小的调整，在不影响本发明所能产生的功效及所能达成的目的下，均应仍落在本发明所揭示的技术内容得能涵盖的范围内。
图1为本发明所提供的免疫荧光图像分析方法的流程图之一；
图2为本发明所提供的免疫荧光图像分析方法的流程图之二；
图3为本发明所提供的免疫荧光图像分析方法的流程图之三；
图4为本发明所提供的编码器的训练流程图；
图5为本发明所提供的解码器的训练流程图；
图6为本发明所提供的免疫荧光图像分析装置的结构框图；
图7为本发明所提供的一种计算机设备的结构框图。
具体实施方式
以下由特定的具体实施例说明本发明的实施方式，熟悉此技术的人士可由本说明书所揭露的内容轻易地了解本发明的其他优点及功效，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
请参考图1，图1为本发明所提供的免疫荧光图像分析方法的流程图之一。
在一种具体实施方式中，本发明提供了一种免疫荧光图像分析方法包括以下步骤：
S110：获取目标患者在不同区域下的多个免疫荧光图像；
S120：将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。
例如，将制作好的免疫荧光玻片通过暗场扫描仪扫描得到数字病理图像，同一个患者可以有多个病理图像，每个图像都是免疫荧光玻片的某个区域，同一患者的多个ANA病理图像作为本算法的输入，输出量为该患者的ANA核型分类结果。
在实际使用场景中，进行图片分析的任务需求可能是单任务需求，也可能是多任务需求。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理单任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果同步输入多个并列的解码器中，通过各解码器分别得到病例类别结果。
如图2所示，将同一患者样本不同区域的多个荧光图像输入编码器中，将编码器得到的编码结果(例如可以为提取的特征)同步输入到多个解码器中，即同时输入到解码器1，2，……，n中，分别得到多个病例类别结果，即解码器1得到病例类别1，解码器2得到病例类别2，以此类推。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理多任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果输入解码器中，通过所述解码器得到病例类别结果，所述解码器的数量为一个。
如图3所示，将同一患者样本不同区域的多个荧光图像输入编码器中，将编码器得到的编码结果(例如可以为提取的特征)输入到一个解码器中，从而得到该解码器对应的病例类别。
在进行模型训练时，首先训练encoder(编码器)，此时decoder(解码器)不参与训练，输入为同一患者的多张ANA病理图像，患者的ANA核型结果作为分类标签，训练过程中优化器针对反向传播的梯度更新encoder的参数。其次训练decoder，此时输入为同一患者的多张ANA病理图像，然后encoder参数被冻结，此阶段不再更新，仅为decoder提供特征提取的功能，提取的特征(features)作为decoder的输入，由decoder输出患者的ANA核型，优化器根据decoder的输出与患者真实的ANA核型计算loss从而更新decoder的参数，达到训练的目的。
具体地，如图4所示，利用ANA图像样本和对应的分类标签进行训练得所述编码器，包括以下步骤：
将同一患者的多张ANA病理图像作为ANA图像样本，将该患者的ANA核型结果作为分类标签；
将所述ANA图像样本输入编码器进行训练，以得到图像类别结果；
将所述分类标签和所述图像分类结果输入优化器，以利用反向传播的梯度更新所述编码器的参数。
如图5所示，利用同一患者不同区域的荧光图像样本进行训练得到所述解码器，具体包括以下步骤：
将同一患者的不同区域的多张ANA病理图像作为荧光图像样本；
冻结编码器参数，使得所述编码器的参数在所述解码器训练过程中不再更新，仅为编码器提供特征提取的功能；
从所述编码器中提取特征，并将提取的特征作为解码器的输入，由所述解码器输出该患者的ANA核型，优化器根据解码器输出的ANA核型与患者真实的ANA核型计算损失函数；
根据所述损失函数更新解码器的参数，以完成解码器训练。
在一些实施例中，在所述卷积递归神经网络中，CNN作为编码器，RNN作为解码器。本发明所采用的的弱监督CRNN(Convolutional Recurrent Neural Network)，在结构上包含CNN(Convolutional Neural Network)和RNN(Recurrent Neural Network)两部分，具体来说，CNN作为encoder，RNN作为decoder，可使用目前常见的resnet、resnext、efficientnet、inceptionnet等CNN结构，使用ANA图像及其类别作为训练标签对encoder进行预训练，可以提高后续decoder的收敛速度，减少训练耗费的时间。Decoder的结构为RNN层或LSTM，在该实施例中还加入了self-attention，够更好地捕捉图像中的关键信息，提高分类准确率。Encoder在完成预训练后，CNN的梯度被冻结，使用CNN全连接层前输出的feature作为decoder的输入，该feature的大小统一为2048个元素。
在一些实施例中，在处理多标签分类问题的情况下，所述卷积递归神经网络使用sigmoid激活函数；在处理单标签分类问题的情况下，所述卷积递归神经网络使用softmax激活函数。
也就是说，在训练整个CRNN时，CNN的梯度被冻结，输出feature作为decoder的输入，decoder内的梯度是可更新的。根据decoder处理的问题不同，可配合不同的激活函数，如多标签分类问题，可使用sigmoid激活函数，单标签分类问题使用softmax激活函数。如果需要处理多任务项目时，可以根据任务需求增加decoder，即一个encoder可对应多个不同的decoder。本文提出的CRNN训练时所需的数据标签为患者的ANA类别，输入的数据为患者的ANA荧光图像，训练使用弱监督训练方法，因此数据标签无需对应到患者病例样本中的每一张图像，即使某一些图像区域中不包含该标签所属的任何特征。
在上述具体实施方式中，本发明所提供的免疫荧光图像分析方法，通过获取目标患者在不同区域下的多个免疫荧光图像，将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。这样，该方案利用基于深度学习注意力机制的弱监督CRNN模型，算法包含卷积神经网络CNN和递归神经网络RNN，CNN对同一患者各个采样区域提取特征图，将图像抽象成高维特征信息，所有的特征由RNN结合注意力机制进行归纳融合，能够提高图像分析的准确性，进而能够提供病例级别的ANA结论。
除了上述方法，如图6所示，本发明还提供了一种免疫荧光图像分析装置，所述装置包括：
图像获取单元610，用于获取目标患者在不同区域下的多个免疫荧光图像；
图像分析单元620，用于将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理单任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果同步输入多个并列的解码器中，通过各解码器分别得到病例类别结果。
在一些实施例中，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理多任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果输入解码器中，通过所述解码器得到病例类别结果，所述解码器的数量为一个。
在一些实施例中，利用ANA图像样本和对应的分类标签进行训练得所述编码器，具体包括：
将同一患者的多张ANA病理图像作为ANA图像样本，将该患者的ANA核型结果作为分类标签；
将所述ANA图像样本输入编码器进行训练，以得到图像类别结果；
将所述分类标签和所述图像分类结果输入优化器，以利用反向传播的梯度更新所述编码器的参数。
在一些实施例中，利用同一患者不同区域的荧光图像样本进行训练得到所述解码器，具体包括：
将同一患者的不同区域的多张ANA病理图像作为荧光图像样本；
冻结编码器参数，使得所述编码器的参数在所述解码器训练过程中不再更新，仅为编码器提供特征提取的功能；
从所述编码器中提取特征，并将提取的特征作为解码器的输入，由所述解码器输出该患者的ANA核型，优化器根据解码器输出的ANA核型与患者真实的ANA核型计算损失函数；
根据所述损失函数更新解码器的参数，以完成解码器训练。
在一些实施例中，在所述卷积递归神经网络中，CNN作为编码器，RNN作为解码器。
在一些实施例中，在处理多标签分类问题的情况下，所述卷积递归神经网络使用sigmoid激活函数；
在处理单标签分类问题的情况下，所述卷积递归神经网络使用softmax激活函数。
在上述具体实施方式中，本发明所提供的免疫荧光图像分析装置，通过获取目标患者在不同区域下的多个免疫荧光图像，将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。这样，该方案利用基于深度学习注意力机制的弱监督CRNN模型，算法包含卷积神经网络CNN和递归神经网络RNN，CNN对同一患者各个采样区域提取特征图，将图像抽象成高维特征信息，所有的特征由RNN结合注意力机制进行归纳融合，能够提高图像分析的准确性，进而能够提供病例级别的ANA结论。
在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图7所示。该计算机设备包括通过***总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作***、计算机程序和模型预测。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的模型预测用于存储静态信息和动态信息数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现上述方法实施例中的步骤。
本领域技术人员可以理解，图7中示出的结构，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
与上述实施例相对应的，本发明实施例还提供了一种计算机存储介质，该计算机存储介质中包含一个或多个程序指令。其中，所述一个或多个程序指令用于被执行如上所述的方法。
本发明还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，计算机程序可存储在非暂态计算机可读存储介质上，所述计算机程序被处理器执行时，计算机能够执行上述方法。
在本发明实施例中，处理器可以是一种集成电路芯片，具有信号的处理能力。处理器可以是通用处理器、数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现场可编程门阵列(FieldProgrammable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。处理器读取存储介质中的信息，结合其硬件完成上述方法的步骤。
存储介质可以是存储器，例如可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。
其中，非易失性存储器可以是只读存储器(Read-Only Memory，简称ROM)、可编程只读存储器(Programmable ROM，简称PROM)、可擦除可编程只读存储器(Erasable PROM，简称EPROM)、电可擦除可编程只读存储器(Electrically EPROM，简称EEPROM)或闪存。
易失性存储器可以是随机存取存储器(Random Access Memory，简称RAM)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的RAM可用，例如静态随机存取存储器(Static RAM，简称SRAM)、动态随机存取存储器(Dynamic RAM，简称DRAM)、同步动态随机存取存储器(Synchronous DRAM，简称SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data Rate SDRAM，简称DDRSDRAM)、增强型同步动态随机存取存储器(EnhancedSDRAM，简称ESDRAM)、同步连接动态随机存取存储器(Synchlink DRAM，简称SLDRAM)和直接内存总线随机存取存储器(Direct Rambus RAM，简称DRRAM)。
本发明实施例描述的存储介质旨在包括但不限于这些和任意其它适合类型的存储器。
本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明所描述的功能可以用硬件与软件组合来实现。当应用软件时，可以将相应功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质，其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
以上的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的技术方案的基础之上，所做的任何修改、等同替换、改进等，均应包括在本发明的保护范围之内。
Claims (7)
1.一种免疫荧光图像分析方法，其特征在于，所述方法包括：
获取目标患者在不同区域下的多个免疫荧光图像；
将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的；
利用ANA图像样本和对应的分类标签进行训练得所述编码器，具体包括：
将同一患者的多张ANA病理图像作为ANA图像样本，将该患者的ANA核型结果作为分类标签；
将所述ANA图像样本输入编码器进行训练，以得到图像类别结果；
将所述分类标签和所述图像分类结果输入优化器，以利用反向传播的梯度更新所述编码器的参数；
利用同一患者不同区域的荧光图像样本进行训练得到所述解码器，具体包括：
将同一患者的不同区域的多张ANA病理图像作为荧光图像样本；
冻结编码器参数，使得所述编码器的参数在所述解码器训练过程中不再更新，仅为编码器提供特征提取的功能；
从所述编码器中提取特征，并将提取的特征作为解码器的输入，由所述解码器输出该患者的ANA核型，优化器根据解码器输出的ANA核型与患者真实的ANA核型计算损失函数；
根据所述损失函数更新解码器的参数，以完成解码器训练；
在处理多标签分类问题的情况下，所述卷积递归神经网络使用sigmoid激活函数；
在处理单标签分类问题的情况下，所述卷积递归神经网络使用softmax激活函数；
在训练整个CRNN时，CNN的梯度被冻结，输出feature作为decoder的输入，decoder内的梯度是可更新的，根据decoder处理的问题不同，选择不同的激活函数。
2.根据权利要求1所述的免疫荧光图像分析方法，其特征在于，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理单任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果同步输入多个并列的解码器中，通过各解码器分别得到病例类别结果。
3.根据权利要求1所述的免疫荧光图像分析方法，其特征在于，将所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果，具体包括：
在处理多任务需求的情况下，将各所述免疫荧光图像输入编码器，以得到编码结果；
将所述编码结果输入解码器中，通过所述解码器得到病例类别结果，所述解码器的数量为一个。
4.根据权利要求1-3任一项所述的免疫荧光图像分析方法，其特征在于，在所述卷积递归神经网络中，CNN作为编码器，RNN作为解码器。
5.一种免疫荧光图像分析装置，用于实施如权利要求1-4任一项所述的方法，其特征在于，所述装置包括：
图像获取单元，用于获取目标患者在不同区域下的多个免疫荧光图像；
图像分析单元，用于将各所述免疫荧光图像输入卷积递归神经网络，以得到图像分析结果；
其中，所述卷积递归神经网络包括预先训练的编码器和至少一个预先训练的解码器，所述编码器是利用ANA图像样本和对应的分类标签进行训练得到的，所述解码器是利用同一患者不同区域的荧光图像样本进行训练得到的。
6.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-4任一项所述方法的步骤。
7.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-4任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310739039.4A CN116883325B (zh) | 2023-06-21 | 2023-06-21 | 一种免疫荧光图像分析方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310739039.4A CN116883325B (zh) | 2023-06-21 | 2023-06-21 | 一种免疫荧光图像分析方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116883325A CN116883325A (zh) | 2023-10-13 |
| CN116883325B true CN116883325B (zh) | 2024-04-30 |
Family
ID=88270623
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310739039.4A Active CN116883325B (zh) | 2023-06-21 | 2023-06-21 | 一种免疫荧光图像分析方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116883325B (zh) |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5798262A (en) * | 1991-02-22 | 1998-08-25 | Applied Spectral Imaging Ltd. | Method for chromosomes classification |
| CN109858428A (zh) * | 2019-01-28 | 2019-06-07 | 四川大学 | 基于机器学习和深度学习的ana荧光片自动识别方法 |
| CN111341405A (zh) * | 2020-05-15 | 2020-06-26 | 四川大学华西医院 | 医用数据处理***及方法 |
| CN112288706A (zh) * | 2020-10-27 | 2021-01-29 | 武汉大学 | 一种自动化的染色体核型分析以及异常检测方法 |
| US11076824B1 (en) * | 2020-08-07 | 2021-08-03 | Shenzhen Keya Medical Technology Corporation | Method and system for diagnosis of COVID-19 using artificial intelligence |
| CN113837255A (zh) * | 2021-09-15 | 2021-12-24 | 中国科学院心理研究所 | 预测以细胞为基质的抗体核型类别的方法、设备和介质 |
| CN113870280A (zh) * | 2021-09-15 | 2021-12-31 | 中国科学院心理研究所 | 预测以细胞为基质的抗体核型类别的方法、设备和介质 |
| WO2022035943A1 (en) * | 2020-08-13 | 2022-02-17 | Ventana Medical Systems, Inc. | Automated identification of necrotic regions in digital images of multiplex immunofluorescence stained tissue |
| CN114913371A (zh) * | 2022-05-10 | 2022-08-16 | 平安科技（深圳）有限公司 | 多任务学习模型训练方法、装置、电子设备及存储介质 |
| WO2022246294A1 (en) * | 2021-05-21 | 2022-11-24 | Ventana Medical Systems, Inc. | Automated segmentation of artifacts in histopathology images |
| WO2023033270A1 (ko) * | 2021-09-02 | 2023-03-09 | 광운대학교 산학협력단 | 딥러닝 기반 분석 결과 예측 방법 및 장치 |
| CN116228706A (zh) * | 2023-02-27 | 2023-06-06 | 南京理工大学 | 基于深度学习的细胞自噬免疫荧光图像分析***和方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017191274A2 (en) * | 2016-05-04 | 2017-11-09 | Curevac Ag | Rna encoding a therapeutic protein |
| US20200090035A1 (en) * | 2018-09-19 | 2020-03-19 | International Business Machines Corporation | Encoder-decoder memory-augmented neural network architectures |
-
2023
- 2023-06-21 CN CN202310739039.4A patent/CN116883325B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5798262A (en) * | 1991-02-22 | 1998-08-25 | Applied Spectral Imaging Ltd. | Method for chromosomes classification |
| CN109858428A (zh) * | 2019-01-28 | 2019-06-07 | 四川大学 | 基于机器学习和深度学习的ana荧光片自动识别方法 |
| CN111341405A (zh) * | 2020-05-15 | 2020-06-26 | 四川大学华西医院 | 医用数据处理***及方法 |
| US11076824B1 (en) * | 2020-08-07 | 2021-08-03 | Shenzhen Keya Medical Technology Corporation | Method and system for diagnosis of COVID-19 using artificial intelligence |
| WO2022035943A1 (en) * | 2020-08-13 | 2022-02-17 | Ventana Medical Systems, Inc. | Automated identification of necrotic regions in digital images of multiplex immunofluorescence stained tissue |
| CN112288706A (zh) * | 2020-10-27 | 2021-01-29 | 武汉大学 | 一种自动化的染色体核型分析以及异常检测方法 |
| WO2022246294A1 (en) * | 2021-05-21 | 2022-11-24 | Ventana Medical Systems, Inc. | Automated segmentation of artifacts in histopathology images |
| WO2023033270A1 (ko) * | 2021-09-02 | 2023-03-09 | 광운대학교 산학협력단 | 딥러닝 기반 분석 결과 예측 방법 및 장치 |
| CN113837255A (zh) * | 2021-09-15 | 2021-12-24 | 中国科学院心理研究所 | 预测以细胞为基质的抗体核型类别的方法、设备和介质 |
| CN113870280A (zh) * | 2021-09-15 | 2021-12-31 | 中国科学院心理研究所 | 预测以细胞为基质的抗体核型类别的方法、设备和介质 |
| CN114913371A (zh) * | 2022-05-10 | 2022-08-16 | 平安科技（深圳）有限公司 | 多任务学习模型训练方法、装置、电子设备及存储介质 |
| CN116228706A (zh) * | 2023-02-27 | 2023-06-06 | 南京理工大学 | 基于深度学习的细胞自噬免疫荧光图像分析***和方法 |
Non-Patent Citations (4)
| Title |
|---|
| ChroSegNet: An Attention-Based Model for Chromosome Segmentation with Enhanced Processing;Xiaoyu Chen 等;《applied sciences》;20230210;1-16 * |
| Learning to read chest X-rays： recurrent neural cascade model for automated image annotation;Shin H C 等;《Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition》;20161231;2497-2506 * |
| 基于卷积神经网络的染色体异常检测;雷雨佳;《中国优秀硕士学位论文全文数据库 医药卫生科技辑》;20210115;E060-506 * |
| 面向染色体信息数据的交互式处理识别***研究;齐成超;《中国优秀硕士学位论文全文数据库 基础科学辑》;20210930;A006-122 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116883325A (zh) | 2023-10-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11900260B2 (en) | Methods, devices and media providing an integrated teacher-student system | |
| CN110111334B (zh) | 一种裂缝分割方法、装置、电子设备及存储介质 | |
| CN108229673B (zh) | 卷积神经网络的处理方法、装置和电子设备 | |
| CN113780296A (zh) | 基于多尺度信息融合的遥感图像语义分割方法及*** | |
| Li et al. | Automatic bridge crack identification from concrete surface using ResNeXt with postprocessing | |
| US20230103635A1 (en) | Interaction information determining method, interaction information prediction model training method, device, and medium | |
| CN111680753A (zh) | 一种数据标注方法、装置、电子设备及存储介质 | |
| CN112115916A (zh) | 域适应Faster R-CNN半监督SAR检测方法 | |
| CN111612035A (zh) | 训练迁移模型的方法、故障检测的方法以及装置 | |
| CN117036843A (zh) | 目标检测模型训练方法、目标检测方法和装置 | |
| US20200151518A1 (en) | Regularized multi-metric active learning system for image classification | |
| CN114781605A (zh) | 缺陷检测模型训练方法、装置、电子设备及存储介质 | |
| CN116883325B (zh) | 一种免疫荧光图像分析方法和装置 | |
| CN110751061B (zh) | 基于sar网络的sar图像识别方法、装置、设备和存储介质 | |
| CN116433977B (zh) | 未知类别图像分类方法、装置、计算机设备及存储介质 | |
| CN112651467A (zh) | 卷积神经网络的训练方法和***以及预测方法和*** | |
| CN117351265A (zh) | 一种遥感图像场景分类方法、装置、存储介质及电子设备 | |
| CN112396594A (zh) | 变化检测模型获取方法及装置、变化检测方法、计算机设备及可读存储介质 | |
| CN116309612A (zh) | 基于频率解耦监督的半导体硅晶圆检测方法、装置及介质 | |
| CN116956102A (zh) | 分类模型的训练方法、装置、设备、存储介质及程序产品 | |
| CN114612401A (zh) | 一种模型训练方法、装置、设备和存储介质 | |
| CN114170271A (zh) | 一种具有自跟踪意识的多目标跟踪方法、设备及存储介质 | |
| CN112183601A (zh) | 空间目标分类方法、装置和存储介质 | |
| CN113591771B (zh) | 一种多场景配电室物体检测模型的训练方法和设备 | |
| CN116205916B (zh) | 电力小样本缺陷检测方法、装置、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |