CN113792742A - 遥感图像的语义分割方法和语义分割模型的训练方法 - Google Patents
遥感图像的语义分割方法和语义分割模型的训练方法 Download PDFInfo
- Publication number
- CN113792742A CN113792742A CN202111094429.8A CN202111094429A CN113792742A CN 113792742 A CN113792742 A CN 113792742A CN 202111094429 A CN202111094429 A CN 202111094429A CN 113792742 A CN113792742 A CN 113792742A
- Authority
- CN
- China
- Prior art keywords
- semantic segmentation
- images
- remote sensing
- sub
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 191
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000012549 training Methods 0.000 title claims abstract description 48
- 238000012545 processing Methods 0.000 claims abstract description 24
- 230000008569 process Effects 0.000 claims description 18
- 238000013145 classification model Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 13
- 238000012805 post-processing Methods 0.000 claims description 8
- 238000000137 annealing Methods 0.000 claims description 5
- 238000004422 calculation algorithm Methods 0.000 abstract description 8
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 235000002566 Capsicum Nutrition 0.000 description 1
- 239000006002 Pepper Substances 0.000 description 1
- 235000016761 Piper aduncum Nutrition 0.000 description 1
- 235000017804 Piper guineense Nutrition 0.000 description 1
- 244000203593 Piper nigrum Species 0.000 description 1
- 235000008184 Piper nigrum Nutrition 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013501 data transformation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 150000003839 salts Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开至少提供了一种遥感图像的语义分割方法和语义分割模型的训练方法,涉及遥感图像处理、计算机视觉、大数据、人工智能、深度学习等领域。具体实现方案包括:获取目标遥感图像;利用不同的语义分割模型分别对目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;根据各预测图像上每个像素点的投票结果,确定出目标遥感图像的语义分割结果。本公开的技术方案可以利用模型的差异性,提供多种遥感图像的语义分割算法,有效提高遥感图像语义分割的识别准确度和精度。
Description
技术领域
本公开涉及图像技术领域,尤其涉及遥感图像处理、计算机视觉、大数据、人工智能、深度学习等领域,具体涉及一种遥感图像的语义分割方法、语义分割模型的训练方法、装置、设备、***、存储介质和计算机程序产品。
背景技术
我国当前正处于传统农业向现代农业的加速转型期,地区地块的差异大,种植结构复杂。我们用观测卫星和无人机遥感测量来获取大尺度的农作物的遥感影像数据,通过遥感图像分割的人工智能算法对作物分类,识别相关农作物、建筑等类型,改善作物识别的准确性,可以减少对人工实地勘察的依赖,提升识别作物效率和农业管理能力。这类图像语义分割的特点是类别之间不平衡、噪声较多、不同的类别之间往往具有相似性、场景泛化能力较弱等等,分割难度较大,给技术人员造成了不少困难。
发明内容
本公开提供了一种遥感图像的语义分割方法、语义分割模型的训练方法、装置、设备、***、存储介质和计算机程序产品。
根据本公开的第一方面,提供了一种遥感图像的语义分割方法,包括:
获取目标遥感图像;
利用不同的语义分割模型分别对目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
根据各预测图像上每个像素点的投票结果,确定出目标遥感图像的语义分割结果。
根据本公开的第二方面,提供了一种语义分割模型的训练方法,包括:
获取样本遥感图像;
按照不同的尺寸标准分别对样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
根据本公开的第三方面,提供了一种遥感图像的语义分割装置,包括:
目标遥感图像获取模块,用于获取目标遥感图像;
预测模块,用于利用不同的语义分割模型分别对目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
投票模块,用于根据各预测图像上每个像素点的投票结果,确定出目标遥感图像的语义分割结果。
根据本公开的第四方面,提供了一种语义分割模型的训练装置,包括:
样本遥感图像模块,用于获取样本遥感图像;
分割模块,用于按照不同的尺寸标准分别对样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
训练模块,用于利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
根据本公开的第五方面,提供了一种遥感图像的语义分割***,包括本公开任意实施例提供的遥感图像的语义分割装置以及本公开任意实施例提供的语义分割模型的训练装置。
根据本公开的第六方面,提供了一种电子设备,包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开任意实施例提供的方法。
根据本公开的第七方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行本公开任意实施例提供的方法。
根据本公开的第八方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现本公开任意实施例提供的方法。
本公开实施例的技术方案可以利用模型的差异性,提供多种遥感图像的语义分割算法,有效提高遥感图像语义分割的识别准确度和精度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的遥感图像的语义分割方法的流程图;
图2是根据本公开实施例的一个应用示例图;
图3是根据本公开实施例的语义分割模型的训练方法的流程图;
图4是根据本公开实施例的遥感图像的语义分割装置的框图;
图5是根据本公开实施例的语义分割模型的训练装置的框图;
图6是根据本公开实施例的遥感地图的语义分割***的应用示例图;
图7是用来实现本公开实施例的方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
目前对遥感图像的语义分割主要关注点在于算法模型的优化上,多以优化单模型为主,但是往往忽略了现实情况是错综复杂的,噪声多、不同类别之间的不平衡性、泛化能力差。本公开旨在提供一种语义分割模型的训练方法以及遥感图像的语义分割方法和***,以提高遥感图像语义分割的稳定性和泛化能力。
图1示出根据本公开实施例的语义分割模型的训练方法的流程图。如图1所示,该训练方法包括:
步骤S101:获取样本遥感图像;
步骤S102:按照不同的尺寸标准分别对样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
步骤S103:利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
本公开实施例中,遥感图像(样本遥感图像或目标遥感图像)可以由遥测卫星或无人机遥感测量等途径采集。
样本遥感图像的分辨率很大,通常过万,因此,***需要对输入的样本遥感图像进行分割处理,从而提高模型的预测速度,降低内存。另外,由于样本遥感图像的尺寸不一样,因此,分割处理可以使输入同一初始网络的图像的大小一致。
示例性地,对于同一个样本遥感图像,采用第一尺寸标准进行分割处理,得到多个第一尺寸标准的样本子图像,从而得到第一样本子图像集合,第一样本子图像用于训练第一初始网络,从而得到第一语义分割模型;采用第二尺寸标准进行分割处理,得到多个第二尺寸标准的样本子图像,从而得到第二样本子图像集合,第二样本子图像用于训练第二初始网络,从而得到第二语义分割模型;采用第三尺寸标准进行分割处理,得到多个第三尺寸标准的样本子图像,从而得到第三样本子图像集合,第三样本子图像用于训练第三初始网络,从而得到第三语义分割模型……
其中,在步骤S102中,对样本遥感图像的分割处理可以采用滑窗。示例性地,可以根据机器的配置,设置滑窗大小分别为1024*1024、512*512等,从而实现对样本遥感图像进行不同尺寸标准的分割处理。例如:设置滑窗大小为1024*1024,对样本遥感图像进行分割处理,从而得到多个1024*1024的样本子图像,多个1024*1024的样本子图像构成了尺寸标准为1024*1024的样本子图像集合。进一步地,设置滑窗大小为512*512,对样本遥感图像进行分割处理,从而得到多个512*512的样本子图像,多个512*512的样本子图像构成了尺寸标准为512*512的样本子图像集合。
为了使正负类别均衡,在分割处理过程中,对于图像无效占比大于第一阈值(如6/7)的区域,可以直接过滤;当图像的背景类别占比小于第二阈值(如1/3)时,缩短滑窗步长,增大采样率。
进一步地,***可以对样本子图像进行增强处理,例如顺序分割、随机分割、模糊操作、光照调整操作、增加噪声(高斯噪声,椒盐噪声)等处理。对于样本子图像及其对应的标签图,还可以进行不同角度的旋转操作或镜像操作等。示例性地,增强处理可采用开源栅格空间数据转换库(Geospatial Data Abstraction Library,GDAL),也可以根据需要编写增强函数。
示例性地,初始网络可以包括SegNet、U-Net、DeeplabV3+等网络。例如:如图2所示,第一初始网络可以为SegNet,采用512*512尺寸标准的样本子图像进行训练,进而得到第一语义分割模型;第二初始网络可以为U-Net,采用1024*1024尺寸标准的样本子图像进行训练,进而得到第二语义分割模型;第三初始网络可以为DeeplabV3+,采用512*1024尺寸标准的样本子图像进行训练,进而得到第三语义分割模型。
其中,SegNet是一个编码-解码结构,网络层次清晰,训练速度较快,本实施例中,在用SegNet做语义分割时,在SegNet末端加上了条件随机场(Conditional RandomFields,CRF)模块做后处理,可以提升图片边缘的分割结果。U-Net采用全卷积神经网络,通过先下采样,再上采样,把高级特征与低级特征联合在一块,优势是在小数据集上也能够表现的不错,同时训练速度很快,短时间内可以得到一个较好的结果。DeeplabV3+也是通过编码-解码进行多尺度信息的融合,本实施例中,DeeplabV3+的骨干网络可以采用Xception-65、ResNet-101、DenseNet-121等模型,来提高语义分割的健壮性和运行速度。
示例性地,可以设置每个初始网络的超参数,例如设置一次训练所选取的样本数(Batch Size)为18,期(epoch)为20等。训练时,可以保留训练过程中效果组好的模型参数,并绘制损失率/准确率曲线。
在一种实施方式中,在步骤S103中可以包括:对于任一初始网络,在初始网络的训练过程中,利用余弦退火学习率调整初始网络的网络参数。
相较于传统的将学习率(learning rate)固定为一个数值的方式,如在某个范围内,将学习率设置为0.001、0.0001、0.00001等数值,本实施例采用余弦退火学习率的方式,调整学习率先快速下降,然后上升,随着epoch增加,不断重复此过程,可以避免模型陷入局部最优解。
对于训练后得到的多个语义分割模型,不同的语义分割模型用于对同一目标遥感图像进行语义分割,进而得到多个预测图像,对多个预测图像进行投票决策可以得到最终的语义分割结果。根据本公开实施例的技术方案,可以基于不同模型之间的差异性,提供多种遥感图像的语义分割算法,不仅可以有效提高遥感图像语义分割的识别准确度和精度,还可以提高稳定性和泛化能力。
图3示出根据本公开实施例的遥感图像的语义分割方法。如图3所示,该方法包括:
步骤S301:获取目标遥感图像;
步骤S302:利用不同的语义分割模型分别对目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
步骤S303:根据各预测图像上每个像素点的投票结果,确定出目标遥感图像的语义分割结果。
不同的语义分割模型用于对同一目标遥感图像进行语义分割,进而得到多个预测图像,对多个预测图像进行投票决策可以得到最终的语义分割结果。
其中,目标遥感图像可以是测试集中的遥感图像,其对应有语义分割标签,也可以是用户提供的遥感图像,需要根据本公开实施例的方法预测语义分割结果。
示例性地,语义分割模型的差异表现在:输入模型的图像尺寸标准不同以及网络结构不同。例如:不同的语义分割模型包括上述训练过程中所述的第一语义分割模型、第二语义分割模型和第三语义分割模型。
在一种实施方式中,在步骤S302中可以包括:对于任一语义分割模型,按照语义分割模型的尺寸标准,将目标遥感图像分割成多个目标子图像,按预设顺序将多个目标子图像分别输入语义分割模型,以得到与多个目标子图像分别对应的预测子图像,根据预设顺序拼接各预测子图像,以得到与语义分割模型对应的预测图像。
其中,任一语义分割模型可以为第一语义分割模型或第二语义分割模型或第三语义分割模型。下面以第一语义分割模型进行示例。
示例性地,可以先对目标遥感图像做填充(padding)0操作,同时生产一张和目标遥感图像尺寸相同的全0图备份文件(bak)。第一语义分割模型的尺寸标准为512*512,因此将目标遥感图像补齐为512的倍数,然后以步长512将目标遥感图像分割成多个尺寸为512*512的目标子图像;然后按照预设顺序将分割得到的这些目标子图像依次送入第一语义分割模型进行预测,得到多个预测子图像;再按照预设顺序将多个预测子图像放在图bak的相应位置上,从而拼接成大图;最后将该大图裁剪回与目标遥感图像相同的尺寸,即得到第一语义分割模型对目标遥感图像的预测图像。
***通过对输入的目标遥感图像进行分割处理,可以提高模型的预测速度,降低内存。
在一种实施方式中,按照语义分割模型的尺寸标准,将目标遥感图像分割成多个目标子图像,可以包括:按照语义分割模型的尺寸标准设置滑窗;采用大于滑窗尺寸的滑窗步长,对目标遥感图像进行分割处理。
这种采用交叠滑窗的方式分割目标遥感图像,可以在预测的时候舍弃掉预测不准的图像边缘,只保留预测结果的中心区域,从而提高预测的准确度和精度。
在一种实施方式中,按预设顺序将多个目标子图像分别输入语义分割模型,以得到与多个目标子图像分别对应的预测子图像,包括:对于任一目标子图像,对目标子图像旋转不同角度,以得到多个待测子图像,将多个待测子图像分别输入语义分割模型,以得到多个待选子图像,从多个待选子图像中确定出与目标子图像对应的预测子图像。
这种测试增强的方式可以进行多次预测,然后再对待选子图像取平均,进而得到预测子图像,可以提升准确度。由于预测时间会变长,因此,这种方式可根据时间要求和实际需求进行配置。
在一种实施方式中,拼接各预测子图像,可以包括:进行填充孔洞和/或去除小连通域的图像后处理。
在一个示例中,在样本子图像集合中,比如田野中的碎石样本子图像或树木样本子图像,其对应的标签图依然是田野。在预测过程中,对于碎石或树木这样的目标子图像,语义分割模型输出的预测子图像可以正常预测这些情况,因此导致在拼接后的预测图像(大图)中会出现孔洞的情况,而填充孔洞的图像后处理方式可以用田野图像来填充这些不合理的结果,提高预测准确度。
在又一个示例中,在拼接过程中,已拼接好的图像周围的预设范围内可能会出现面积小于阈值的一些小连通域,去除小连通域的图像后处理可以删除这些小连通域,进而去除掉一些不合理的结果,提高预测准确度。
在一种实施方式中,在步骤S302中可以包括:在语义分割模型为二分类模型的情况下,针对每一类别的分类任务,利用二分类模型对目标遥感图像进行一轮预测,以得到各类别分别对应的分类图像,合并叠加各分类图像,以得到与语义分割模型对应的预测图像。
本公开实施例的方法可以用于多分类的任务。示例性地,多分类任务可以为五分类任务,语义分割模型可以为二分类模型,对于每一个类别的分类任务,该二分类模型进行单独预测,并使用相应的二分类标签,进而得到五张分类图像,将五张分类图像合并叠加得到一张完成的五分类预测图像,即为该语义分割模型(二分类模型)的五分类预测图像。
针对多分类任务,基于二分类模型的多轮预测,要比直接使用多分类模型进行预测的准确度高,因此可以提高预测准确度。
当然,在节约时间的需求条件下,可以采用多分类模型进行一轮预测,直接得到多分类的预测图像,本公开实施例并不对此进行限定。
进一步地,在步骤S303中,对于各语义分割模型输出的预测图像上的每个像素点,进行投票表决,得到多的类别就是该像素点的类别。这种集成学习和模型融合的方式,可以改善一些明显的错误预测点。
示例性地,如图2所示,目标遥感图像经过第一语义分割模型、第二语义分割模型和第三语义分割模型预测后,分别得到第一预测图像、第二预测图像和第三预测图像,通过热编码(onehot)的编码方式标记类别变量,在经过自变量函数(argmax)得到目标遥感图像的语义分割结果(图像)。
图4示出根据本公开实施例的一种遥感图像的语义分割装置的结构框图。如图4所示,该装置包括:
目标遥感图像获取模块401,用于获取目标遥感图像;
预测模块402,用于利用不同的语义分割模型分别对目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
投票模块403,用于根据各预测图像上每个像素点的投票结果,确定出目标遥感图像的语义分割结果。
在一种实施方式中,预测模块402具体用于:
对于任一语义分割模型,按照语义分割模型的尺寸标准,将目标遥感图像分割成多个目标子图像,按预设顺序将多个目标子图像分别输入语义分割模型,以得到与多个目标子图像分别对应的预测子图像,根据预设顺序拼接各预测子图像,以得到与语义分割模型对应的预测图像。
在一种实施方式中,预测模块402具体用于:
按照语义分割模型的尺寸标准设置滑窗;
采用大于滑窗尺寸的滑窗步长,对目标遥感图像进行分割处理。
在一种实施方式中,预测模块402具体用于:
对于任一目标子图像,对目标子图像旋转不同角度,以得到多个待测子图像,将多个待测子图像分别输入语义分割模型,以得到多个待选子图像,从多个待选子图像中确定出与目标子图像对应的预测子图像。
在一种实施方式中,预测模块402具体用于:进行填充孔洞和/或去除小连通域的图像后处理。
进行填充孔洞和/或去除小连通域的图像后处理具体用于:
在语义分割模型为二分类模型的情况下,针对每一类别的分类任务,利用二分类模型对目标遥感图像进行一轮预测,以得到各类别分别对应的分类图像,合并叠加各分类图像,以得到与语义分割模型对应的预测图像。
图5示出根据本公开实施例的一种语义分割模型的训练装置结构框图。如图5所示,该装置包括:
样本遥感图像模块501,用于获取样本遥感图像;
分割模块502,用于按照不同的尺寸标准分别对样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
训练模块503,用于利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
在一种实施方式中,训练模块503具体用于:
对于任一初始网络,在初始网络的训练过程中,利用余弦退火学习率调整初始网络的网络参数。
本公开实施例还提供一种遥感图像的语义分割***,包括以上任一实施例的遥感图像的语义分割装置以及以上任一实施例的训练装置。
在一个应用示例中,如图6所示,该***可以包括数据处理单元、核心算法单元和集成学习单元。其中,数据处理单元可以包括数据预处理子单元和数据增强子单元。数据预处理子单元用于执行上述实施例中的图像分割处理,数据增强子单元用于执行上述实施例中对样本子图像的增强处理。核心算法单元包括训练子单元和预测子单元,分别用于执行上述实施例中的训练过程和预测过程。集成学习单元用于执行上述实施例中的的投票过程。
本公开实施例各装置中的各模块的功能可以参见上述方法中的对应描述,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,该电子设备包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储该电子设备操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
该电子设备中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许该电子设备通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理。例如,在一些实施例中,上文所描述的各个方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到该电子设备上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文所描述的各个方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行上文所描述的各个方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者车道线球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (20)
1.一种遥感图像的语义分割方法,包括:
获取目标遥感图像;
利用不同的语义分割模型分别对所述目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
根据各预测图像上每个像素点的投票结果,确定出所述目标遥感图像的语义分割结果。
2.根据权利要求1所述的方法,其中,利用不同的语义分割模型分别对所述目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像,包括:
对于任一语义分割模型,按照所述语义分割模型的尺寸标准,将所述目标遥感图像分割成多个目标子图像,按预设顺序将所述多个目标子图像分别输入所述语义分割模型,以得到与所述多个目标子图像分别对应的预测子图像,根据所述预设顺序拼接各预测子图像,以得到与所述语义分割模型对应的预测图像。
3.根据权利要求2所述的方法,其中,按照所述语义分割模型的尺寸标准,将所述目标遥感图像分割成多个目标子图像,包括:
按照所述语义分割模型的尺寸标准设置滑窗;
采用大于所述滑窗尺寸的滑窗步长,对所述目标遥感图像进行分割处理。
4.根据权利要求2所述的方法,其中,按预设顺序将所述多个目标子图像分别输入所述语义分割模型,以得到与所述多个目标子图像分别对应的预测子图像,包括:
对于任一目标子图像,对所述目标子图像旋转不同角度,以得到多个待测子图像,将所述多个待测子图像分别输入所述语义分割模型,以得到多个待选子图像,从所述多个待选子图像中确定出与所述目标子图像对应的预测子图像。
5.根据权利要求2所述的方法,其中,拼接各预测子图像,包括:
进行填充孔洞和/或去除小连通域的图像后处理。
6.根据权利要求1所述的方法,其中,利用不同的语义分割模型分别对所述目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像,包括:
在所述语义分割模型为二分类模型的情况下,针对每一类别的分类任务,利用所述二分类模型对所述目标遥感图像进行一轮预测,以得到各类别分别对应的分类图像,合并叠加各分类图像,以得到与所述语义分割模型对应的预测图像。
7.一种语义分割模型的训练方法,包括:
获取样本遥感图像;
按照不同的尺寸标准分别对所述样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
8.根据权利要求7所述的训练方法,其中,利用各样本子图像集合中的样本子图像分别训练不同的初始网络,包括:
对于任一初始网络,在所述初始网络的训练过程中,利用余弦退火学习率调整所述初始网络的网络参数。
9.一种遥感图像的语义分割装置,包括:
目标遥感图像获取模块,用于获取目标遥感图像;
预测模块,用于利用不同的语义分割模型分别对所述目标遥感图像进行语义分割,以得到与各语义分割模型分别对应的预测图像;
投票模块,用于根据各预测图像上每个像素点的投票结果,确定出所述目标遥感图像的语义分割结果。
10.根据权利要求9所述的装置,其中,所述预测模块具体用于:
对于任一语义分割模型,按照所述语义分割模型的尺寸标准,将所述目标遥感图像分割成多个目标子图像,按预设顺序将所述多个目标子图像分别输入所述语义分割模型,以得到与所述多个目标子图像分别对应的预测子图像,根据所述预设顺序拼接各预测子图像,以得到与所述语义分割模型对应的预测图像。
11.根据权利要求10所述的装置,其中,所述预测模块具体用于:
按照所述语义分割模型的尺寸标准设置滑窗;
采用大于所述滑窗尺寸的滑窗步长,对所述目标遥感图像进行分割处理。
12.根据权利要求10所述的装置,其中,所述预测模块具体用于:
对于任一目标子图像,对所述目标子图像旋转不同角度,以得到多个待测子图像,将所述多个待测子图像分别输入所述语义分割模型,以得到多个待选子图像,从所述多个待选子图像中确定出与所述目标子图像对应的预测子图像。
13.根据权利要求10所述的装置,其中,所述预测模块具体用于:
进行填充孔洞和/或去除小连通域的图像后处理。
14.根据权利要求9所述的装置,其中,所述预测模块具体用于:
在所述语义分割模型为二分类模型的情况下,针对每一类别的分类任务,利用所述二分类模型对所述目标遥感图像进行一轮预测,以得到各类别分别对应的分类图像,合并叠加各分类图像,以得到与所述语义分割模型对应的预测图像。
15.一种语义分割模型的训练装置,包括:
样本遥感图像模块,用于获取样本遥感图像;
分割模块,用于按照不同的尺寸标准分别对所述样本遥感图像进行分割处理,以得到与各尺寸标准分别对应的样本子图像集合;
训练模块,用于利用各样本子图像集合中的样本子图像分别训练不同的初始网络,以得到多个语义分割模型,其中,多个语义分割模型用于对同一个目标遥感图像进行语义分割。
16.根据权利要求15所述的训练装置,其中,所述训练模块具体用于:
对于任一初始网络,在所述初始网络的训练过程中,利用余弦退火学习率调整所述初始网络的网络参数。
17.一种遥感图像的语义分割***,包括权利要求9至14任一项所述的遥感图像的语义分割装置以及权利要求15或16所述的语义分割模型的训练装置。
18.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至8中任一项所述的方法。
19.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至8中任一项所述的方法。
20.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111094429.8A CN113792742A (zh) | 2021-09-17 | 2021-09-17 | 遥感图像的语义分割方法和语义分割模型的训练方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111094429.8A CN113792742A (zh) | 2021-09-17 | 2021-09-17 | 遥感图像的语义分割方法和语义分割模型的训练方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113792742A true CN113792742A (zh) | 2021-12-14 |
Family
ID=78878847
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111094429.8A Pending CN113792742A (zh) | 2021-09-17 | 2021-09-17 | 遥感图像的语义分割方法和语义分割模型的训练方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113792742A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114565759A (zh) * | 2022-02-22 | 2022-05-31 | 北京百度网讯科技有限公司 | 图像语义分割模型优化方法、装置、电子设备及存储介质 |
CN114677567A (zh) * | 2022-05-27 | 2022-06-28 | 成都数联云算科技有限公司 | 模型训练方法、装置、存储介质及电子设备 |
CN115359261A (zh) * | 2022-10-21 | 2022-11-18 | 阿里巴巴(中国)有限公司 | 图像识别方法、计算机可读存储介质以及电子设备 |
CN116090559A (zh) * | 2023-02-03 | 2023-05-09 | 深圳智现未来工业软件有限公司 | 一种基于晶圆图检测数据生成知识点的方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107977624A (zh) * | 2017-11-30 | 2018-05-01 | 国信优易数据有限公司 | 一种语义分割方法、装置以及*** |
CN108319972A (zh) * | 2018-01-18 | 2018-07-24 | 南京师范大学 | 一种针对图像语义分割的端到端差异网络学习方法 |
WO2019024808A1 (zh) * | 2017-08-01 | 2019-02-07 | 北京市商汤科技开发有限公司 | 语义分割模型的训练方法和装置、电子设备、存储介质 |
CN110245710A (zh) * | 2019-06-18 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 语义分割模型的训练方法、语义分割方法及装置 |
CN110390251A (zh) * | 2019-05-15 | 2019-10-29 | 上海海事大学 | 一种基于多神经网络模型融合处理的图像文字语义分割方法 |
CN111582175A (zh) * | 2020-05-09 | 2020-08-25 | 中南大学 | 一种共享多尺度对抗特征的高分遥感影像语义分割方法 |
CN111783782A (zh) * | 2020-05-29 | 2020-10-16 | 河海大学 | 融合改进UNet和SegNet的遥感图像语义分割方法 |
CN111860207A (zh) * | 2020-06-29 | 2020-10-30 | 中山大学 | 基于多尺度的遥感影像地物分类方法、***、装置及介质 |
-
2021
- 2021-09-17 CN CN202111094429.8A patent/CN113792742A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019024808A1 (zh) * | 2017-08-01 | 2019-02-07 | 北京市商汤科技开发有限公司 | 语义分割模型的训练方法和装置、电子设备、存储介质 |
CN107977624A (zh) * | 2017-11-30 | 2018-05-01 | 国信优易数据有限公司 | 一种语义分割方法、装置以及*** |
CN108319972A (zh) * | 2018-01-18 | 2018-07-24 | 南京师范大学 | 一种针对图像语义分割的端到端差异网络学习方法 |
CN110390251A (zh) * | 2019-05-15 | 2019-10-29 | 上海海事大学 | 一种基于多神经网络模型融合处理的图像文字语义分割方法 |
CN110245710A (zh) * | 2019-06-18 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 语义分割模型的训练方法、语义分割方法及装置 |
CN111582175A (zh) * | 2020-05-09 | 2020-08-25 | 中南大学 | 一种共享多尺度对抗特征的高分遥感影像语义分割方法 |
CN111783782A (zh) * | 2020-05-29 | 2020-10-16 | 河海大学 | 融合改进UNet和SegNet的遥感图像语义分割方法 |
CN111860207A (zh) * | 2020-06-29 | 2020-10-30 | 中山大学 | 基于多尺度的遥感影像地物分类方法、***、装置及介质 |
Non-Patent Citations (2)
Title |
---|
张全新: "《深度学习中的图像分类与对抗技术》", 31 March 2020, 北京:北京理工大学出版社, pages: 69 * |
罗善威等: "基于双重相似度孪生网络的小样本实例分割", 《武汉科技大学学报》, vol. 43, no. 1, 29 February 2020 (2020-02-29), pages 59 - 66 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114565759A (zh) * | 2022-02-22 | 2022-05-31 | 北京百度网讯科技有限公司 | 图像语义分割模型优化方法、装置、电子设备及存储介质 |
CN114677567A (zh) * | 2022-05-27 | 2022-06-28 | 成都数联云算科技有限公司 | 模型训练方法、装置、存储介质及电子设备 |
CN114677567B (zh) * | 2022-05-27 | 2022-10-14 | 成都数联云算科技有限公司 | 模型训练方法、装置、存储介质及电子设备 |
CN115359261A (zh) * | 2022-10-21 | 2022-11-18 | 阿里巴巴(中国)有限公司 | 图像识别方法、计算机可读存储介质以及电子设备 |
CN116090559A (zh) * | 2023-02-03 | 2023-05-09 | 深圳智现未来工业软件有限公司 | 一种基于晶圆图检测数据生成知识点的方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11321593B2 (en) | Method and apparatus for detecting object, method and apparatus for training neural network, and electronic device | |
CN108171260B (zh) | 一种图片识别方法及*** | |
CN113792742A (zh) | 遥感图像的语义分割方法和语义分割模型的训练方法 | |
CN113139543B (zh) | 目标对象检测模型的训练方法、目标对象检测方法和设备 | |
CN113379718A (zh) | 一种目标检测方法、装置、电子设备以及可读存储介质 | |
CN112560874A (zh) | 图像识别模型的训练方法、装置、设备和介质 | |
CN113379627A (zh) | 图像增强模型的训练方法和对图像进行增强的方法 | |
CN113344089B (zh) | 模型训练方法、装置及电子设备 | |
CN113361578A (zh) | 图像处理模型的训练方法、装置、电子设备及存储介质 | |
CN114743196B (zh) | 文本识别的方法及装置、神经网络的训练方法 | |
CN112989970A (zh) | 文档版面分析方法、装置、电子设备及可读存储介质 | |
US20230306081A1 (en) | Method for training a point cloud processing model, method for performing instance segmentation on point cloud, and electronic device | |
CN113537192B (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN113947188A (zh) | 目标检测网络的训练方法和车辆检测方法 | |
CN112862005A (zh) | 视频的分类方法、装置、电子设备和存储介质 | |
CN113989760A (zh) | 高精地图检测车道线的方法、装置、设备以及存储介质 | |
CN110633716A (zh) | 一种目标对象的检测方法和装置 | |
CN115620081A (zh) | 一种目标检测模型的训练方法及目标检测方法、装置 | |
CN113569911A (zh) | 车辆识别方法、装置、电子设备及存储介质 | |
CN114549904A (zh) | 视觉处理及模型训练方法、设备、存储介质及程序产品 | |
CN113569912A (zh) | 车辆识别方法、装置、电子设备及存储介质 | |
CN115457329B (zh) | 图像分类模型的训练方法、图像分类方法和装置 | |
CN116168132A (zh) | 街景重建模型获取及街景重建方法、装置、设备及介质 | |
CN114494782B (zh) | 图像处理方法、模型训练方法、相关装置及电子设备 | |
CN115761698A (zh) | 一种目标检测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |