CN113255766A - 一种图像分类方法、装置、设备和存储介质 - Google Patents
一种图像分类方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN113255766A CN113255766A CN202110570158.2A CN202110570158A CN113255766A CN 113255766 A CN113255766 A CN 113255766A CN 202110570158 A CN202110570158 A CN 202110570158A CN 113255766 A CN113255766 A CN 113255766A
- Authority
- CN
- China
- Prior art keywords
- decoupling
- class
- image
- feature map
- characteristic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000010586 diagram Methods 0.000 claims abstract description 93
- 238000000605 extraction Methods 0.000 claims abstract description 21
- 238000012545 processing Methods 0.000 claims abstract description 9
- 230000006870 function Effects 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 19
- 230000004913 activation Effects 0.000 claims description 18
- 230000004927 fusion Effects 0.000 claims description 11
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 21
- 206010003694 Atrophy Diseases 0.000 description 10
- 230000037444 atrophy Effects 0.000 description 10
- 238000012549 training Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 210000004220 fundus oculi Anatomy 0.000 description 2
- 208000001491 myopia Diseases 0.000 description 2
- 230000004379 myopia Effects 0.000 description 2
- 241000282373 Panthera pardus Species 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
本申请适用于图像处理技术领域,提供了一种图像分类方法、***和存储介质。上述图像分类方法包括:提取待分类图像的多通道特征图;解耦所述多通道特征图获得多个单类解耦特征图;根据解耦得到的各所述单类解耦特征图获取类间关系;针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;根据各单类解耦特征图的分类概率确定所述待分类图像的类别。本申请通过特征解耦和类间关系提取,对可能共存的特征单独计算其存在的概率,分别判断这些特征标签是否存在,提升了对图像特征分类的精确度。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及一种图像分类方法、装置、设备和存储介质。
背景技术
图像识别场景中,几个相似特征经常同时出现在一张图像上。现有的机器学习模型对这类样本进行学习时,会学习到特征之间共存的现象。使用这样的机器学习模型对图像进行识别,对样本中共存现象较多的多个特征,模型通常会认为一个特征出现时,其它特征也会出现,而难以单独识别不同特征,出现结果混淆,即影响分类准确性。
以近视眼底彩照的识别为例,目前,近视眼底彩照的识别可以通过训练多标签分类卷积神经网络实现。训练集中的单个样本可能同时包含豹纹状眼底、弥漫性萎缩、斑块状萎缩和黄斑萎缩中的一个或多个分类标签;但在模型训练的过程中,并未考虑各个分类标签之间的依赖关系,当训练集中大量存在类别共存的情况时,导致卷积神经网络学习到大量耦合特征,从而在推理预测时难以单独区分不同特征标签,容易混淆共存频率较高的标签类别。例如,训练集中包含较多豹纹状眼底和斑块状萎缩共存的图像,网络模型在推断具有豹纹状眼底的图像时,便倾向于认为同时存在斑块状萎缩,如此将导致分类预判的结果出现偏差。
发明内容
本申请实施例提供了一种图像分类方法、装置、设备和存储介质,可以提升图像分类的准确性。
第一方面,本申请实施例提供了一种图像分类方法,包括:
提取待分类图像的多通道特征图;
解耦所述多通道特征图获得多个单类解耦特征图;
根据解耦得到的各所述单类解耦特征图获取类间关系;
针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;
根据各单类解耦特征图的分类概率确定所述待分类图像的类别。
其中,所述解耦所述多通道特征图获得多个单类解耦特征图,包括:
对所述多通道特征图进行卷积运算,得到卷积特征图;
基于预设的激活函数对所述卷积特征图进行处理,得到多个单类特征图;
将每个所述单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
具体的,所述多通道特征图包括浅层特征图和深层特征图,所述单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图;
所述解耦所述多通道特征图获得多个单类解耦特征图,包括:
分别解耦所述浅层特征图和所述深层特征图,得到单类浅层解耦特征图和单类深层解耦特征图。
示例性的,所述类间关系包括类间关系矩阵;
所述根据解耦得到的各所述单类解耦特征图获取类间关系,包括:
将所述单类浅层解耦特征图和所述单类深层解耦特征图融合,生成类间关系矩阵;
所述针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率,包括:
将所述单类深层解耦特征图和所述类间关系矩阵输入预设的图卷积网络,得到每个所述单类解耦特征图的第一分类概率;
所述根据各单类解耦特征图的分类概率确定所述待分类图像的类别,包括:
根据各单类解耦特征图的所述第一分类概率确定所述待分类图像的类别。
作为一种可能的实现方式,所述提取待分类图像的多通道特征图之后,还包括:
通过全连接层计算所述多通道特征图的第二分类概率;
融合所述第一分类概率和所述第二分类概率,得到第三分类概率;
所述根据各单类解耦特征图的分类概率确定所述待分类图像的类别,包括:
根据各单类解耦特征图的所述第三分类概率确定所述待分类图像的类别。
第二方面,本申请实施例提供了一种图像分类装置,包括:
特征提取模块,用于提取待分类图像的多通道特征图;
特征解耦模块,用于解耦所述多通道特征图获得多个单类解耦特征图;
类间关系提取模块,用于根据解耦得到的各所述单类解耦特征图获取类间关系;针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;
分类模块,用于根据各单类解耦特征图的分类概率确定所述待分类图像的类别。
其中,所述特征解耦模块包括:
卷积单元,包括具有1*1卷积核的卷积网络,用于对所述多通道特征图进行卷积运算,得到卷积特征图;
激活单元,包括激活函数,用于基于预设的激活函数对所述卷积特征图进行处理,得到多个单类特征图;
解耦单元,用于将每个所述单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
其中,所述单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图;
相应的,所述类间关系提取模块包括:
融合单元,用于将所述单类浅层解耦特征图和所述单类深层解耦特征图融合,生成类间关系矩阵;
图卷积单元,用于将所述单类深层解耦特征图和所述类间关系矩阵输入预设的图卷积网络,得到每个所述单类解耦特征图的第一分类概率。
第三方面,本申请实施例提供了一种图像分类设备,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上第一方面任一项所述的图像分类方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,包括:所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上第一方面所述的图像分类方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项所述的图像分类方法。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
本申请实施例与现有技术相比存在的有益效果是:通过对图像的多通道特征图进行解耦,获得多个单类特征图,提取单类特征图的类间关系,并根据所述类间关系确定图像的每个特征标签存在的可能性,以对图像进行标签分类。通过特征解耦和类间关系提取,对可能共存的特征单独计算其存在的概率,分别判断这些特征标签是否存在,提升了对图像特征分类的精确度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的图像分类方法的流程示意图;
图2是本申请另一实施例提供的图像分类方法的流程示意图;
图3是本申请一实施例提供的图像分类装置的结构示意图;
图4是本申请一实施例提供的卷积网络模型的结构示意图;
图5是本申请另一实施例提供的图像分类设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本实施例提供一种图像分类方法,适用于对图像进行特征识别并根据图像特征进行标签分类的场景。例如对风景照中的树木分类,对人物照片进行性别或年龄分类,对冰箱中的食物分类等,尤其适用于对眼底彩照的图像表征进行分类。图像的类别通过类别标签来表示,类别标签对应图像的不同特征,在眼底彩照分类中,类别标签包括豹纹状、弥漫性萎缩、斑块状萎缩和黄斑萎缩等,不同眼底彩照中,多个类别标签可能共存。
通过图像采集设备采集待分类图像,根据具体应用场景,图像采集设备可以是数码照相机、手机、眼底照相机等。所述图像分类方法由相应的图像分类装置来执行,图像采集设备与图像分类装置可以为独立的设备,二者建立通信连接,图像分类装置可以是PC机、平板电脑、服务器、云计算端等具备图像处理能力的设备,其上集成有存储器和处理器;在本申请其他实现方式中,图像分类装置可与图像采集设备集成。在眼底彩照分类场景中,通过眼底照相机进行眼底彩照采集,通过PC机对眼底彩照进行分类。
当图像采集设备与图像分类装置独立设置时,图像采集设备与图像分类装置还分别设置通信单元,通信单元为图像采集设备与图像分类装置之间提供有线或无线通信,图像采集设备将采集到的待分类图像发送到图像分类装置。
接下来,以针对眼底彩照进行分类为例进行示例性说明。图1是本实施例提供的图像分类方法的流程示意图。如图1所示,该图像分类方法由图像分类装置来执行,包括如下步骤:
S11,提取待分类图像的多通道特征图。
将待分类图像输入主干神经网络(backbone)提取空间语义特征,获得多通道特征图。输入的待分类图像通常为三通道彩色图像,多通道特征图包括浅层特征图和深层特征图。
backbone采用Resnet50网络结构,Resnet50包括四组残差块,待分类图像作为第1组残差块的输入,第1组残差块的输出作为第2组残差块的输入,第2组残差块的输出作为第3组残差块的输入,以此类推,分别从第2组残差块的卷积计算结果输出浅层特征图,从第4组残差块的卷积计算结果输出深层特征图。
S12,解耦多通道特征图获得多个单类解耦特征图。
通过具有1*1卷积核的卷积网络对多通道特征图进行卷积运算提取特征,得到卷积特征图;1*1卷积核能够在不改变特征图尺寸的情况下,降低特征图的通道数量,使其通道数与分类标签数量一致。将通道数量与标签数量一致的特征图输入预设的激活函数,由激活函数输出与分类标签对应的多个单类特征图。将每个单类特征图分别与多通道特征图相乘,得到单类解耦特征图。
相应的,分别对浅层特征图和深层特征图进行特征解耦,对应于每个类别标签,得到的单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图。
S13,根据解耦得到的各单类解耦特征图获取类间关系。
对于每个类别标签的单类解耦特征图,通过concat融合操作将其单类浅层解耦特征图和单类深层解耦特征图融合,生成类间关系矩阵。通过类间关系矩阵表示类别标签的类间关系。
S14,针对每个单类解耦特征图,根据类间关系和单类解耦特征图计算相应的单类解耦特征图的分类概率。
将单类深层解耦特征图和类间关系矩阵输入预设的图卷积网络,计算得到每个所述单类解耦特征图的第一分类概率。第一分类概率是基于类间关系的分类概率。
S15,根据各单类解耦特征图的分类概率确定待分类图像的类别。
对于不同的类别标签,分别设置概率阈值,当该类别标签的分类概率达到概率阈值,则认为待分类图像中的图像特征具备该类别标签。例如对眼底彩照的分类,当斑块状萎缩的单类特征图的分类概率达到概率阈值,则认为该眼底彩照具备斑块状萎缩的标签。
本实施例通过对图像的多通道特征图进行解耦,获得对应于类别标签的多个单类解耦特征图,提取单类解耦特征图的类间关系,并根据类间关系确定图像的标签共存情况,以对图像进行标签分类。这种分类方式考虑了类别标签之间的客观关系,避免了传统卷积网络模型训练中,因样本不均衡导致的训练出的模型对类别标签共存情况的误判,提升了对图像特征分类的精确度。
图2是另一实施例提供的图像分类方法的流程示意图。在上述实施例的基础上,对于待分类图像中图像特征之间区别不明显、混合共存较多的情况,需要综合考虑类间关系与图像特征,进行更精准地分类。
如图2所示,图像分类方法包括如下步骤:
S21,提取待分类图像的多通道特征图。
多通道特征图包括浅层特征图和深层特征图。
S22,通过全连接层计算多通道特征图的第二分类概率。
全连接层用于进行基于特征的分类任务,计算所述多通道特征图的第二分类概率。第二分类概率是基于图像特征的分类概率。
S23,解耦多通道特征图获得多个单类解耦特征图。
解耦浅层特征图获得单类浅层解耦特征图,解耦深层特征图获得单类深层解耦特征图。
S24,根据解耦得到的各单类解耦特征图获取类间关系。
将单类浅层解耦特征图和单类深层解耦特征图融合,生成类间关系矩阵,用于表示类间关系。
S25,针对每个单类解耦特征图,根据类间关系和单类解耦特征图计算相应的单类解耦特征图的第一分类概率。
将单类深层解耦特征图和类间关系矩阵输入预设的图卷积网络,得到每个单类解耦特征图的第一分类概率。
S26,融合第一分类概率和第二分类概率,得到第三分类概率。
对于每个单类解耦特征图对应的类别标签,最简单的融合方式是取第一分类概率和第二分类概率的平均值,作为该类别标签的第三分类概率。
还可以根据实际应用场景中图像的复杂程度,为第一分类概率和第二分类概率分别设置权重进行融合。
S27,根据各单类解耦特征图的第三分类概率确定待分类图像的类别。
对于不同的类别标签,分别设置概率阈值,当该类别标签的分类概率达到概率阈值,则认为待分类图像中的图像特征具备该类别标签。
本实施例在上述方法实施例的基础上,基于类间关系获得第一分类概率,基于图像特征获得第二分类概率,根据待分类图像的复杂程度综合考虑二者的值,使得图像分类的结果既不受特征共存的影响,也不遗漏经常共存的特征。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。内容相同的步骤不再赘述其工作过程。
进一步的,本实施还提供一种图像分类装置,该装置由软件和/或硬件组成,用于执行上述图像分类方法。图3是本实施例提供的图像分类装置的结构示意图。如图3所示,所述图像分类装置包括:
特征提取模块,用于提取待分类图像的多通道特征图,多通道特征图包括浅层特征图和深层特征图;
特征解耦模块,用于解耦所述多通道特征图获得多个单类解耦特征图,所述单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图;
类间关系提取模块,用于根据解耦得到的各所述单类解耦特征图获取类间关系;针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;
分类模块,用于根据各单类解耦特征图的分类概率确定所述待分类图像的类别。
其中,所述特征解耦模块包括:卷积单元、激活单元和解耦单元。
卷积单元包括具有1*1卷积核的卷积网络,用于对所述多通道特征图进行卷积运算,得到卷积特征图;
激活单元包括预设的激活函数,基于预设的激活函数对所述卷积特征图进行处理,得到多个单类特征图;
解耦单元,用于将每个所述单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
相应的,所述类间关系提取模块包括:融合单元和图卷积单元。
融合单元用于将所述单类浅层解耦特征图和所述单类深层解耦特征图融合,生成类间关系矩阵;
图卷积单元用于将所述单类深层解耦特征图和所述类间关系矩阵输入预设的图卷积网络,得到每个所述单类解耦特征图的第一分类概率。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
具体的,该图像分类装置的特征提取模块、特征解耦模块和类间关系提取模块组成了一个卷积网络模型。图4是本实施例提供的卷积网络模型的结构示意图。
特征提取模块通过卷积层的主干神经网络(backbone)提取空间语义特征,主干神经网络包括多组残差块,每组所述残差块包括多个残差模块。在一些实施例中,特征提取模块可以采用残差网络(Residual Network,Resnet),例如Resnet50网络结构。残差网络对数据的波动更敏感,更利于对近似的图像特征的识别和提取。
作为一非限制性示例,如图4所示,Resnet50网络包括四组残差块,四组残差块依次包括3、4、6、3个残差模块(Residual Block)。多组所述残差块用于依次提取待分类图像的多通道特征图,分别获得浅层特征图和深层特征图。具体的,待分类图像作为第1组残差块的输入,第1组残差块的输出作为第2组残差块的输入,第2组残差块的输出作为第3组残差块的输入,以此类推,分别从第2组残差块和第4组残差块的卷积计算结果输出浅层特征图和深层特征图。
特征解耦模块用于对所述浅层特征图和所述深层特征图分别进行特征解耦,得到每个单类解耦特征图的单类浅层解耦特征图和单类深层解耦特征图。
特征解耦模块包括具有1*1卷积核的卷积网络、激活函数和解耦计算单元;卷积网络用于对所述多通道特征图进行卷积运算提取特征,得到卷积特征图;1*1的卷积核能够在不改变特征图尺寸的情况下,降低特征图的通道数量,得到与类别标签数量一致的特征图数量。将每个卷积特征图输入所述激活函数,所述激活函数计算输出与类别标签对应的单类特征图,激活函数可选用sigmoid函数,在其他应用场景中可以选择Tanh函数或ReLU函数。所述解耦计算单元将每个单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
类间关系提取模块包括融合计算单元和一个两层的图卷积网络(GraphConvolutional Network,GCN)。融合计算单元通过融合(concat)操作将单类浅层解耦特征图和单类深层解耦特征图融合,生成类间关系矩阵(Correlation Matrix)。将单类深层解耦特征图和类间关系矩阵作为图卷积网络的输入,计算得到所述单类解耦特征图的第一分类概率。第一分类概率是基于类间关系的分类概率。
在其他实施例中,特征提取模块还包括全连接层,全连接层用于进行分类任务,计算所述多通道特征图的第二分类概率。第二分类概率是基于图像特征的分类概率。
类间关系提取模块还用于将所述第一分类概率和所述第二分类概率融合,得到第三分类概率。对于每个单类解耦特征图对应的类别标签,最简单的融合方式是取两者的平均值作为该类别标签的分类概率。在其他实施例中,还可以通过为第一分类概率和第二分类概率分别设置权重来将二者融合。
所述类间关系提取模块具体用于根据第一分类概率或第三分类概率确定所述待分类图像的类别。对于待分类图像中图像特征之间区别明显的情况,可以仅采用第一分类概率对待分类图像进行标签分类,反之则应采用第三分类概率进行标签分类。
对于不同的类别标签,分别设置概率阈值,当该类别标签的分类概率达到概率阈值,则认为待分类图像中的图像特征具备该类别标签。
在实际应用前,需要对该卷积网络模型进行训练,卷积网络模型对样本图像进行特征提取和特征解耦,获得多个单类解耦特征图,分别对每个单类解耦特征图标注其类别标签,供卷积网络模型进行学习,通过对大量样本图像的学习,卷积网络模型可得出类别标签之间的类间关系,进一步学习得到分类概率。
应用中,卷积网络模型对待分类图像进行特征提取和特征解耦,基于学习到的类间关系,根据单类解耦特征图计算输出每个类别标签的分类概率,进一步地,由分类概率和概率阈值确定待分类图像是否具备对应的类别标签。
现有的机器学习模型只进行图像特征提取,输出的分类概率忽略了类别标签之前的关系,容易受到训练样本的影响,当训练样本不够全面而均衡,学习到的分类概率将不够准确。本实施例提供的卷积网络模型对特征进行解耦,提取共存特征之间的关系,削弱了训练样本偏差对共存特征的影响,使得分类更客观。
图5是本申请另一实施例提供的图像分类设备的结构示意图。如图5所示,本实施例还提供一种图像分类设备,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上方法实施例所述的图像分类方法。
具体的,存储器中存储了上述经训练的卷积网络模型,处理器通过调用所述卷积网络模型实现如上方法实施例所述的图像分类方法,用于确定待分类图像的类别。
所称处理器可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器在一些实施例中可以是图像采集设备或图像分类装置的内部存储单元,例如硬盘或内存,在另一些实施例中也可以是图像采集设备或图像分类装置的外部存储设备,例如插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器还可以既包括内部存储单元也包括外部存储设备。所述存储器用于存储操作***、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,例如计算机程序的程序代码等。所述存储器还可以用于暂时地存储已经输出或者将要输出的数据,例如采集到的待分类图像、各类特征图等。
处理器可通过上述经训练的卷积网络模型确定待分类图像的类别,例如对眼底彩照进行分类。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动终端上运行时,使得移动终端执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种图像分类方法,其特征在于,包括:
提取待分类图像的多通道特征图;
解耦所述多通道特征图获得多个单类解耦特征图;
根据解耦得到的各所述单类解耦特征图获取类间关系;
针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;
根据各单类解耦特征图的分类概率确定所述待分类图像的类别。
2.如权利要求1所述的图像分类方法,其特征在于,所述解耦所述多通道特征图获得多个单类解耦特征图,包括:
对所述多通道特征图进行卷积运算,得到卷积特征图;
基于预设的激活函数对所述卷积特征图进行处理,得到多个单类特征图;
将每个所述单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
3.如权利要求1所述的图像分类方法,其特征在于,所述多通道特征图包括浅层特征图和深层特征图,所述单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图;
所述解耦所述多通道特征图获得多个单类解耦特征图,包括:
分别解耦所述浅层特征图和所述深层特征图,得到单类浅层解耦特征图和单类深层解耦特征图。
4.如权利要求3所述的图像分类方法,其特征在于,所述类间关系包括类间关系矩阵;
所述根据解耦得到的各所述单类解耦特征图获取类间关系,包括:
将所述单类浅层解耦特征图和所述单类深层解耦特征图融合,生成类间关系矩阵;
所述针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率,包括:
将所述单类深层解耦特征图和所述类间关系矩阵输入预设的图卷积网络,得到每个所述单类解耦特征图的第一分类概率;
所述根据各单类解耦特征图的分类概率确定所述待分类图像的类别,包括:
根据各单类解耦特征图的所述第一分类概率确定所述待分类图像的类别。
5.如权利要求4所述的图像分类方法,其特征在于,所述提取待分类图像的多通道特征图之后,还包括:
通过全连接层计算所述多通道特征图的第二分类概率;
融合所述第一分类概率和所述第二分类概率,得到第三分类概率;
所述根据各单类解耦特征图的分类概率确定所述待分类图像的类别,包括:
根据各单类解耦特征图的所述第三分类概率确定所述待分类图像的类别。
6.一种图像分类装置,其特征在于,包括:
特征提取模块,用于提取待分类图像的多通道特征图;
特征解耦模块,用于解耦所述多通道特征图获得多个单类解耦特征图;
类间关系提取模块,用于根据解耦得到的各所述单类解耦特征图获取类间关系;针对每个单类解耦特征图,根据所述类间关系和所述单类解耦特征图计算相应的单类解耦特征图的分类概率;
分类模块,用于根据各单类解耦特征图的分类概率确定所述待分类图像的类别。
7.根据权利要求6所述的图像分类装置,其特征在于,所述特征解耦模块包括:
卷积单元,包括具有1*1卷积核的卷积网络,用于对所述多通道特征图进行卷积运算,得到卷积特征图;
激活单元,包括激活函数,用于基于预设的激活函数对所述卷积特征图进行处理,得到多个单类特征图;
解耦单元,用于将每个所述单类特征图分别与所述多通道特征图相乘,得到单类解耦特征图。
8.根据权利要求6所述的图像分类装置,其特征在于,所述单类解耦特征图包括单类浅层解耦特征图和单类深层解耦特征图;
所述类间关系提取模块包括:
融合单元,用于将所述单类浅层解耦特征图和所述单类深层解耦特征图融合,生成类间关系矩阵;
图卷积单元,用于将所述单类深层解耦特征图和所述类间关系矩阵输入预设的图卷积网络,得到每个所述单类解耦特征图的第一分类概率。
9.一种图像分类设备,其特征在于,包括:存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的图像分类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110570158.2A CN113255766B (zh) | 2021-05-25 | 2021-05-25 | 一种图像分类方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110570158.2A CN113255766B (zh) | 2021-05-25 | 2021-05-25 | 一种图像分类方法、装置、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113255766A true CN113255766A (zh) | 2021-08-13 |
CN113255766B CN113255766B (zh) | 2023-12-22 |
Family
ID=77184151
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110570158.2A Active CN113255766B (zh) | 2021-05-25 | 2021-05-25 | 一种图像分类方法、装置、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113255766B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023068330A1 (ja) * | 2021-10-20 | 2023-04-27 | DeepEyeVision株式会社 | 情報処理装置、情報処理方法及びコンピュータ読み取り可能な記録媒体 |
CN116503639A (zh) * | 2023-03-14 | 2023-07-28 | 苏州大学 | 一种视网膜oct图像病变多标签分类***和方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180075628A1 (en) * | 2016-09-12 | 2018-03-15 | Zebra Medical Vision Ltd. | Systems and methods for automated detection of an indication of malignancy in a mammographic image |
US20180189325A1 (en) * | 2016-12-29 | 2018-07-05 | Shutterstock, Inc. | Clustering search results based on image composition |
CN109145743A (zh) * | 2018-07-19 | 2019-01-04 | 叶涵 | 一种基于深度学习的图像识别方法及装置 |
CN109886273A (zh) * | 2019-02-26 | 2019-06-14 | 四川大学华西医院 | 一种cmr图像分割分类*** |
CN111488945A (zh) * | 2020-04-17 | 2020-08-04 | 上海眼控科技股份有限公司 | 图像处理方法、装置、计算机设备和计算机可读存储介质 |
CN111507403A (zh) * | 2020-04-17 | 2020-08-07 | 腾讯科技(深圳)有限公司 | 图像分类方法、装置、计算机设备和存储介质 |
CN111553419A (zh) * | 2020-04-28 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 一种图像识别方法、装置、设备以及可读存储介质 |
CN111914775A (zh) * | 2020-08-06 | 2020-11-10 | 平安科技(深圳)有限公司 | 活体检测方法、装置、电子设备及存储介质 |
US20210117687A1 (en) * | 2019-10-22 | 2021-04-22 | Sensetime International Pte. Ltd. | Image processing method, image processing device, and storage medium |
CN112749653A (zh) * | 2020-12-31 | 2021-05-04 | 平安科技(深圳)有限公司 | 行人检测方法、装置、电子设备及存储介质 |
-
2021
- 2021-05-25 CN CN202110570158.2A patent/CN113255766B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180075628A1 (en) * | 2016-09-12 | 2018-03-15 | Zebra Medical Vision Ltd. | Systems and methods for automated detection of an indication of malignancy in a mammographic image |
US20180189325A1 (en) * | 2016-12-29 | 2018-07-05 | Shutterstock, Inc. | Clustering search results based on image composition |
CN109145743A (zh) * | 2018-07-19 | 2019-01-04 | 叶涵 | 一种基于深度学习的图像识别方法及装置 |
CN109886273A (zh) * | 2019-02-26 | 2019-06-14 | 四川大学华西医院 | 一种cmr图像分割分类*** |
US20210117687A1 (en) * | 2019-10-22 | 2021-04-22 | Sensetime International Pte. Ltd. | Image processing method, image processing device, and storage medium |
CN111488945A (zh) * | 2020-04-17 | 2020-08-04 | 上海眼控科技股份有限公司 | 图像处理方法、装置、计算机设备和计算机可读存储介质 |
CN111507403A (zh) * | 2020-04-17 | 2020-08-07 | 腾讯科技(深圳)有限公司 | 图像分类方法、装置、计算机设备和存储介质 |
CN111553419A (zh) * | 2020-04-28 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 一种图像识别方法、装置、设备以及可读存储介质 |
CN111914775A (zh) * | 2020-08-06 | 2020-11-10 | 平安科技(深圳)有限公司 | 活体检测方法、装置、电子设备及存储介质 |
CN112749653A (zh) * | 2020-12-31 | 2021-05-04 | 平安科技(深圳)有限公司 | 行人检测方法、装置、电子设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023068330A1 (ja) * | 2021-10-20 | 2023-04-27 | DeepEyeVision株式会社 | 情報処理装置、情報処理方法及びコンピュータ読み取り可能な記録媒体 |
CN116503639A (zh) * | 2023-03-14 | 2023-07-28 | 苏州大学 | 一种视网膜oct图像病变多标签分类***和方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113255766B (zh) | 2023-12-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3493101B1 (en) | Image recognition method, terminal, and nonvolatile storage medium | |
CN110889312B (zh) | 活体检测方法和装置、电子设备、计算机可读存储介质 | |
CN111881707B (zh) | 图像翻拍检测方法、身份验证方法、模型训练方法及装置 | |
CN110188829B (zh) | 神经网络的训练方法、目标识别的方法及相关产品 | |
CN112633297B (zh) | 目标对象的识别方法、装置、存储介质以及电子装置 | |
KR20170026222A (ko) | 이미지의 객체를 분류하기 위한 방법 및 디바이스, 및 대응하는 컴퓨터 프로그램 제품 및 컴퓨터 판독가능한 매체 | |
CN109784385A (zh) | 一种商品自动识别方法、***、装置及存储介质 | |
CN113255766B (zh) | 一种图像分类方法、装置、设备和存储介质 | |
CN114419363A (zh) | 基于无标注样本数据的目标分类模型训练方法及装置 | |
CN112949459A (zh) | 吸烟图像的识别方法及装置、存储介质、电子设备 | |
CN111931859A (zh) | 一种多标签图像识别方法和装置 | |
CN112613508A (zh) | 一种物体识别方法、装置及设备 | |
CN113537248A (zh) | 图像识别方法和装置、电子设备和存储介质 | |
CN110659631A (zh) | 车牌识别方法和终端设备 | |
CN112580750A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN112257628A (zh) | 一种户外比赛运动员的身份识别方法、装置及设备 | |
CN115713669A (zh) | 一种基于类间关系的图像分类方法、装置、存储介质及终端 | |
CN114612965A (zh) | 一种人脸活体检测方法、***及介质 | |
CN112699707B (zh) | 一种视频检测方法、设备及存储介质 | |
CN114610942A (zh) | 基于联合学习的图像检索方法及装置、存储介质、电子设备 | |
CN113761278A (zh) | 视频标签的确定方法和装置、存储介质及电子设备 | |
CN113420801A (zh) | 一种网络模型的生成方法、装置、终端和存储介质 | |
Gavilan Ruiz et al. | Image categorization using color blobs in a mobile environment | |
CN111881187A (zh) | 一种自动建立数据处理模型的方法及相关产品 | |
CN111144298A (zh) | 一种行人识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20221031 Address after: 518000 Guangdong, Shenzhen, Futian District Futian street Fu'an community Yitian road 5033, Ping An financial center, 23 floor. Applicant after: PING AN TECHNOLOGY (SHENZHEN) Co.,Ltd. Applicant after: SHANDONG EYE INSTITUTE Address before: 518000 Guangdong, Shenzhen, Futian District Futian street Fu'an community Yitian road 5033, Ping An financial center, 23 floor. Applicant before: PING AN TECHNOLOGY (SHENZHEN) Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |