CN116306875B - 基于空间预学习与拟合的排水管网样本增量学习方法 - Google Patents
基于空间预学习与拟合的排水管网样本增量学习方法 Download PDFInfo
- Publication number
- CN116306875B CN116306875B CN202310559996.9A CN202310559996A CN116306875B CN 116306875 B CN116306875 B CN 116306875B CN 202310559996 A CN202310559996 A CN 202310559996A CN 116306875 B CN116306875 B CN 116306875B
- Authority
- CN
- China
- Prior art keywords
- learning
- space
- model
- training
- class
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 230000007547 defect Effects 0.000 claims abstract description 46
- 238000004088 simulation Methods 0.000 claims description 28
- 230000006870 function Effects 0.000 claims description 15
- 238000001514 detection method Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 9
- 238000005094 computer simulation Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 claims description 3
- 230000015556 catabolic process Effects 0.000 abstract 1
- 238000006731 degradation reaction Methods 0.000 abstract 1
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001125 extrusion Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/182—Network patterns, e.g. roads or rivers
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
- Y02A10/40—Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于空间预学习与拟合的排水管网样本增量学习方法,属于图像分类识别领域,包括(1)获取初始数据集,(2)训练得到能识别排水管网多种缺陷类别的初始模型,(3)为下次学习出现的未知新数据预分配空间,微调初始模型,(4)执行增量学习任务时,从数据集中选择部分训练数据,与上一模型的特征空间进行拟合,并同时为下一学习任务进行空间预分配。本发明通过提前为可能出现的新排水管网图像数据预分配空间,同时在新排水管网图像数据学习时进行新数据选择,并使其尽可能拟合预先分配的空间,使模型能避免新旧数据因特征差异大造成的模型整体识别性能下降,提升识别准确率。
Description
技术领域
本发明涉及一种样本增量学习方法,尤其涉及一种基于空间预学习与拟合的排水管网样本增量学习方法。
背景技术
目前的排水管网缺陷识别通常主要通过电视检测和潜望镜检测来采集图像或视频数据,并通过人工判读的方法进行识别,费时费力,且效率地下。
随着近年来深度学习的快速发展,目前已经开始对排水管道缺陷进行智能检测,该方法为:首先通过CCTV内窥机器人进行地下管网视频拍摄,然后通过基于深度神经网络的智能识别模型识别视频帧中的管网缺陷,基于深度神经网络的管网缺陷智能识别模型一般在一组提前收集及标注的数据集上训练获得。
然而在实际管网检测作业中,采集的管道图像数据随时间推移逐渐增加,同时由于作业场景不同,新旧图像数据特征和缺陷特征也存在差异,微调的方法可能造成模型的整体识别性能降低,而从零训练的方法需要耗费大量的计算与存储资源。所以需要提出一种新的识别方法,不仅能不断从新采集的数据中进行迭代学习,以提高管网缺陷的识别性能,还能减少计算与存储资源的消耗。
发明内容
本发明的目的就在于提供一种解决上述问题,随着识别图像的增加、时间的延长,能不断迭代学习、提升识别准确率,且能有效减少计算与存储资源的消耗的,基于空间预学习与拟合的排水管网样本增量学习方法。
为了实现上述目的,本发明采用的技术方案是这样的:一种基于空间预学习与拟合的排水管网样本增量学习方法,包括以下步骤:
(1)大量采集不同场景下的排水管网图像,对每张排水管网图像,标记其缺陷类别作为标签,将带标签的排水管网图像作为训练样本,所有训练样本构成初始数据集D0,所述D0中缺陷类别为n类,n为正整数;
构建一用于增量学习的任务组t={t1,t2,…,tN},对应的训练数据流为D={D1,D2,…,DN},第i个任务ti对应数据集为Di,学习结束后得到的模型为Mi,Di中包含多个训练样本,类别集和D0相同,i=1~N,N为数据集的总数;
(2)建立基础学习任务t0:用初始数据集D0训练ResNet网络模型,得到能识别n类缺陷类别的初始模型,其特征空间为H0,损失函数为loss1,
(3)为下次学习预分配空间,包括步骤(31)~(33);
(31)将D0中训练样本按缺陷类别分为n个类别集,从每个类别集中选择数个训练样本生成模拟特征,其中一个训练样本x通过下式生成模拟特征h(f(x));
。
式中,f(x)为ResNet网络模型对x提取的特征,λ∈(0,1)为生成模拟特征的权重,xn为x所属类别集中与x欧氏距离最远的训练样本;
(32)按步骤(31),使每个类别集得到多个模拟特征,对每个类别集,用其中所有模拟特征计算一中心值,作为该类别集的模拟中心值;
(33)通过下式计算模型微调与预分配空间学习的目标函数loss2对初始模型进行调整,得到模型M0,其特征空间为H1,包含D0和模拟样本的特征,将H1作为下次学习的预分配空间;
式中,y为训练样本x的标签,C(f(x))为初始模型对x的预测分类结果,C(h(f(x)))为初始模型对xn的预测分类结果,lce(C(f(x)),y)为计算C(f(x))与y的交叉熵损失,lpf(C(h(f(x))),y)为计算C(h(f(x)))与y的交叉熵损失,γ∈(0,1)为loss2权重;
(4)依次学习任务组t中的任务,每次学习结束得到该任务对应的模型,其中任务ti的学习方法包括步骤(41)~(42);
(41)对任务ti,根据Di-1中每个类别集的模拟中心值,从Di中为每个类别集选择数个训练样本,构成已选数据集D*i;
(42)用D*i训练Mi-1,包括用D*i与任务ti-1得到的预分配空间拟合,并同时用D*i为任务ti+1预分配空间,得到ti+1的预分配空间Hi+1,学习结束后得到的模型为Mi。
作为优选:步骤(1)中,所述缺陷类别包括但不限于非检测作业图像、缺陷管网图像或无缺陷管网图像。
作为优选:对于数据集Di,为完成任务ti-1后,一段时间内不断获取的新的训练样本的总和。
作为优选:步骤(2)中,ResNet网络模型由特征提取器和分类器组成,训练样本x送入ResNet网络模型中,先由特征提取器提取特征f(x)、再经分类器输出预测分类结果C(f(x)),ResNet网络模型的损失函数loss1采用下式计算:
。
作为优选:所述步骤(32)通过下式计算中心值:
。
c为类别集,xk为c的第k个训练样本,uc为c的中心值,Nc为c中训练样本总数。
作为优选:步骤(41)从Di中为每个类别集选择数个训练样本具体为;
(a1)将Di-1中一个类别集的模拟中心值,与Di对应类别集中的每个训练样本算距离,并按距离从小到大排序,选取前Q个训练样本;
(a2)按步骤(a1)的方法,用Di-1中其余类别集的模拟中心值,分别在Di对应类别集中选取Q个训练样本,共得到n×Q个训练样本,构成已选数据集D*i。
作为优选:步骤(42)中,用D*i训练Mi-1得到Mi的目标函数为loss3,采用下式计算:
式中,lfit为拟合预分配空间损失,||·||2为L2范数,ε为拟合预分配空间损失的权重。
关于步骤(1):本发明基于样本增量学习,不断在新采集到训练数据集中进行样本增量学习,在第i次样本增量学习中,仅能读取数据集Di中的数据,学习结束后得到的模型为Mi。
本发明中,初始数据集D0与训练数据集Dt中的类别集是相同的,例如,D0中的缺陷类别为三类:非检测作业图像、缺陷管网图像或无缺陷管网图像,分别标记为类1、类2、类3,那么Dt中的缺陷类别也为此三类,也就是N=3。当然缺陷类别可根据实际情况进行设计,不局限于上述三类。另外,初始数据集D0前期大量在不同环境、不同场景下大量采集得到的,数据量大于Dt。
关于步骤(2),这一步是基于初始数据集D0训练得到初始模型。当第一次得到初始数据集D0后,首先进行排水管网缺陷识别初始模型的学习,本发明采用ResNet网络模型,由一个特征提取器f(·)和一个分类器C(·)组成。模型的输入为初始数据集D0中的一个训练样本,标记为x,通过特征提取器f(·)提取特征f(x),随后由分类器输出预测分类结果C(f(x)),模型的学习中损失函数采用交叉熵损失loss1。
关于步骤(3),这一步是为下次学习预分配空间。这是因为在下一次学习时必然会引入新的训练样本,由于作业场景的不同,不同时间采集排水管网图像数据在特征和缺陷上存在一定的差异,新旧数据因特征差异大会造成的模型整体识别性能下降,所以我们通过分析本次任务的数据库,去模拟生成一批模拟数据,和本次任务的数据库一起,通过loss2对模型进行调整,从而得到调整后的模型,其特征空间同时包含了本轮数据库中训练样本的特征和所有模拟数据的特征,对基础学习任务t0而言,初始模型的特征空间为H0,仅包含D0的特征空间,但调整后的模型的M0特征空间为H1。由于生成模拟数据依照本发明步骤(31)规则,能通过使用新数据对预分配空间进行拟合,使得模型具有向后兼容的学习能力,更适合实际应用场景。
关于步骤(41),本次任务训练样本的选择。本发明是用上一任务的模拟数据,去本次任务的数据库中筛选部分训练样本,而不是直接利用本次任务数据库中的全部样本。例如,对任务t1,对应的数据库为D1,要用D0生成的模拟特征去筛选。具体是:先按本发明步骤(31),D0中每个类别集都生成了一批模拟特征,再按本发明步骤(32)对D0中每个类别集各计算一模拟中心值,去D1中对应类别集中选择训练样本,选择的标准基于训练样本与模拟中心值的距离大小,仅保留距离小的,以便于更好的拟合预分配空间,假设缺陷类别有三类,每个数据集的类别集就有3个,模拟中心值也有三个,用D0的3个模拟中心值,分别去D1对应的类别集中各选Q个训练样本,构成的已选数据集D*1则包含3×Q个训练样本,通拿过来,缺陷类别为n个,D*1则包含n×Q个训练样本。
关于步骤(42),对任务ti,同时完成两部分工作,一方面,将D*i 的特征嵌入拟合上一任务得到预分配空间Hi另一方面,还需要用D*i为任务ti+1预分配空间,得到ti+1的预分配空间Hi+1。预分配空间的方法同本发明步骤(3)。步骤(42)通过调整目标函数loss3实现,其中为拟合预分配空间损失的权重。目的是使得模型在学习新排水管网图像数据时,使得它在新特征空间中的特征接近上一阶段预分配的空间中心,避免对旧排水管网图像数据特征嵌入的挤压与覆盖,学习结束后得到的模型为Mi,新学习的预分配空间为Hi+1。
与现有技术相比,本发明的优点在于:
(1)本发明能克服在实际管网检测作业中,采集的管道图像数据随时间推移逐渐增加或作业场景不同,新旧图像数据特征和缺陷特征也存在差异,从而导致识别模型精度降低的缺陷,无需使用已学习的旧排水管网图像数据,节省了存储资源;且通过空间预学习为新数据提前分配嵌入空间,避免新旧数据因特征差异大造成的模型整体识别性能下降;并通过使用新数据对预分配空间进行拟合,使得模型具有向后兼容的学习能力,更适合实际应用场景。
(2)本发明虽基于样本增量学习方法,但与现有增量识别不同,现有样本增量,是随着学习任务的增加,每次增加识别的类别,但本发明不增加识别缺陷类别数量,而是通过不断学习同类别的缺陷数据,从而不断提升检测精度,最终能达到95%以上的识别准确率。同时本文提出的方法对排水管道缺陷图像的识别速度也非常的快,在RTX2080显卡,i5-5850 Cpu的设备下,识别速度能达到约24.5ms/帧。
附图说明
图1为本发明学习方法流程图;
图2为预分配空间示意图。
实施方式
下面将结合附图对本发明作进一步说明。
实施例1:参见图1和图2,一种基于空间预学习与拟合的排水管网样本增量学习方法,包括以下步骤:
(1)大量采集不同场景下的排水管网图像,对每张排水管网图像,标记其缺陷类别作为标签,将带标签的排水管网图像作为训练样本,所有训练样本构成初始数据集D0,所述D0中缺陷类别为n类,n为正整数。
构建一用于增量学习的任务组t={t1,t2,…,tN},对应的训练数据流为D={D1,D2,…,DN},第i个任务ti对应数据集为Di,学习结束后得到的模型为Mi,Di中包含多个训练样本,类别集和D0相同,i=1~N,N为数据集的总数。
(2)建立基础学习任务t0:用初始数据集D0训练ResNet网络模型,得到能识别n类缺陷类别的初始模型,其特征空间为H0,损失函数为loss1。
(3)为下次学习预分配空间,包括步骤(31)~(33);
(31)将D0中训练样本按缺陷类别分为n个类别集,从每个类别集中选择数个训练样本生成模拟特征,其中一个训练样本x通过下式生成模拟特征h(f(x));
式中,f(x)为ResNet网络模型对x提取的特征,λ∈(0,1)为生成模拟特征的权重,xn为x所属类别集中与x欧氏距离最远的训练样本。
(32)按步骤(31),使每个类别集得到多个模拟特征,对每个类别集,用其中所有模拟特征计算一中心值,作为该类别集的模拟中心值。
(33)通过下式计算模型微调与预分配空间学习的目标函数loss2对初始模型进行调整,得到模型M0,其特征空间为H1,包含D0和模拟样本的特征,将H1作为下次学习的预分配空间;
。
式中,y为训练样本x的标签,C(f(x))为初始模型对x的预测分类结果,C(h(f(x)))为初始模型对xn的预测分类结果,lce(C(f(x)),y)为计算C(f(x))与y的交叉熵损失,lpf(C(h(f(x))),y)为计算C(h(f(x)))与y的交叉熵损失,γ∈(0,1)为loss2权重。
(4)依次学习任务组t中的任务,每次学习结束得到该任务对应的模型,其中任务ti的学习方法包括步骤(41)~(42);
(41)对任务ti,根据Di-1中每个类别集的模拟中心值,从Di中为每个类别集选择数个训练样本,构成已选数据集D*i。
(42)用D*i训练Mi-1,包括用D*i与任务ti-1得到的预分配空间拟合,并同时用D*i为任务ti+1预分配空间,得到ti+1的预分配空间Hi+1,学习结束后得到的模型为Mi。
本实施例中,步骤(1)中,所述缺陷类别包括但不限于非检测作业图像、缺陷管网图像或无缺陷管网图像。但不局限于次,例如,可以针对缺陷管网图像对缺陷进行具体分类。
对于数据集Di,为完成任务ti-1后,一段时间内不断获取的新的训练样本的总和。其数量小于D0,但属于一段时间累积所得的新数据。
步骤(2)中,ResNet网络模型由特征提取器和分类器组成,训练样本x送入ResNet网络模型中,先由特征提取器提取特征f(x)、再经分类器输出预测分类结果C(f(x)),ResNet网络模型的损失函数loss1采用下式计算:
。
所述步骤(32)通过下式计算中心值。
。
c为类别集,xk为c的第k个训练样本,uc为c的中心值,Nc为c中训练样本总数。
步骤(41)从Di中为每个类别集选择数个训练样本具体为:
(a1)将Di-1中一个类别集的模拟中心值,与Di对应类别集中的每个训练样本算距离,并按距离从小到大排序,选取前Q个训练样本。
(a2)按步骤(a1)的方法,用Di-1中其余类别集的模拟中心值,分别在Di对应类别集中选取Q个训练样本,共得到n×Q个训练样本,构成已选数据集D*i。
步骤(42)中,用D*i训练Mi-1得到Mi的目标函数为loss3,采用下式计算:
式中,lfit为拟合预分配空间损失,||·||2为L2范数,ε为拟合预分配空间损失的权重。
实施例2:参见图1和图2,我们在实施例1的基础上,给出一种具体方法:
关于步骤(1):在不同场景去获取5000张的排水管网图像,缺陷类别分为三类,分别为非检测作业图像、缺陷管网图像或无缺陷管网图像,对5000张排水管网图像分别标记缺陷类别,构成5000个训练样本,合成初始数据集D0。
关于步骤(2):用D0训练ResNet网络模型,得到能识别三类缺陷类别的初始模型,其特征空间为H0,损失函数为loss1。
关于步骤(3)为下次学习预分配空间:
D0中训练样本按缺陷类别分为3个类别集,分别为类1到类3,分别包含1500、1500、2000个训练样本,对类1,按步骤(31)生成一批模拟特征,并按步骤(32)计算中心值,对类2、类3同样操作,得到D0中类1到类3的模拟中心值;再按步骤(33),用5000个训练样本和所有模拟特征一起,对初始模型进行调整,假设每个类别集生成了200个模拟特征,则共5000+200×3=5600个特征参与到初始模型的调整过程中。最终调整后,得到模型M0,其特征空间为H1。
接下来学习任务t1:
先用D0中类1到类3的模拟中心值,去D1中为每个类别集选择200个训练样本,共600个训练样本,构成已选数据集D*1;再用D*1训练M0,包括用D*1与H1拟合,并同时用D*1为任务t2预分配空间,得到t2的预分配空间H2,训练完成后得到任务t1的模型。用D*1为任务t2预分配空间的方法与步骤(3)相同,还是先生成模拟特征、算中心值、再用loss2 对M0进行调整。
同理学习任务t2、t3等,与任务t1相同。
实施例3:参见图1和图2,在实施例2的基础上,我们调整数据集中训练样本的数量,D0中,非检测作业图像1500张、缺陷管网图像1500张、无缺陷管网图像2000张,通过5次增量学习,每次上述三类图像分别增量150、150、200张,识别准确率从90%上升到95%以上,且识别速度达到约24.5ms/帧。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.一种基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,包括以下步骤:
(1)大量采集不同场景下的排水管网图像,对每张排水管网图像,标记其缺陷类别作为标签,将带标签的排水管网图像作为训练样本,所有训练样本构成初始数据集D0,所述D0中缺陷类别为n类,n为正整数;
构建一用于增量学习的任务组t={t1,t2,…,tN},对应的训练数据流为D={D1,D2,…,DN},第i个任务ti对应数据集为Di,学习结束后得到的模型为Mi,Di中包含多个训练样本,类别集和D0相同,i=1~N,N为数据集的总数;
(2)建立基础学习任务t0:用初始数据集D0训练ResNet网络模型,得到能识别n类缺陷类别的初始模型,其特征空间为H0,损失函数为loss1,
(3)为下次学习预分配空间,包括步骤(31)~(33);
(31)将D0中训练样本按缺陷类别分为n个类别集,从每个类别集中选择数个训练样本生成模拟特征,其中一个训练样本x通过下式生成模拟特征h(f(x));
式中,f(x)为ResNet网络模型对x提取的特征,λ∈(0,1)为生成模拟特征的权重,xn为x所属类别集中与x欧氏距离最远的训练样本;
(32)按步骤(31),使每个类别集得到多个模拟特征,对每个类别集,用其中所有模拟特征计算一中心值,作为该类别集的模拟中心值;
(33)通过下式计算模型微调与预分配空间学习的目标函数loss2对初始模型进行调整,得到模型M0,其特征空间为H1,包含D0和模拟样本的特征,将H1作为下次学习的预分配空间;
式中,y为训练样本x的标签,C(f(x))为初始模型对x的预测分类结果,C(h(f(x)))为初始模型对xn的预测分类结果,lce(C(f(x)),y)为计算C(f(x))与y的交叉熵损失,lpf(C(h(f(x))),y)为计算C(h(f(x)))与y的交叉熵损失,γ∈(0,1)为loss2权重;
(4)依次学习任务组t中的任务,每次学习结束得到该任务对应的模型,其中任务ti的学习方法包括步骤(41)~(42);
(41)对任务ti,根据Di-1中每个类别集的模拟中心值,从Di中为每个类别集选择数个训练样本,构成已选数据集D*i;
(42)用D*i训练Mi-1,包括用D*i与任务ti-1得到的预分配空间拟合,并同时用D*i为任务ti+1预分配空间,得到ti+1的预分配空间Hi+1,学习结束后得到的模型为Mi,其中,用D*i训练Mi-1得到Mi的目标函数为loss3,采用下式计算:
式中,lfit为拟合预分配空间损失,||·||2为L2范数,ε为拟合预分配空间损失的权重,c为类别集,uc为c的中心值,xi为D*i中的一个训练样本,f(xi)为ResNet网络模型对xi提取的特征。
2.根据权利要求1所述的基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,步骤(1)中,所述缺陷类别包括但不限于非检测作业图像、缺陷管网图像或无缺陷管网图像。
3.根据权利要求1所述的基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,对于数据集Di,为完成任务ti-1后,一段时间内不断获取的新的训练样本的总和。
4.根据权利要求1所述的基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,步骤(2)中,ResNet网络模型由特征提取器和分类器组成,训练样本x送入ResNet网络模型中,先由特征提取器提取特征f(x)、再经分类器输出预测分类结果C(f(x)),ResNet网络模型的损失函数loss1采用下式计算:
。
5.根据权利要求1所述的基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,所述步骤(32)通过下式计算中心值:
c为类别集,xk为c的第k个训练样本,uc为c的中心值,Nc为c中训练样本总数。
6.根据权利要求4所述的基于空间预学习与拟合的排水管网样本增量学习方法,其特征在于,步骤(41)从Di中为每个类别集选择数个训练样本具体为;
(a1)将Di-1中一个类别集的模拟中心值,与Di对应类别集中的每个训练样本算距离,并按距离从小到大排序,选取前Q个训练样本;
(a2)按步骤(a1)的方法,用Di-1中其余类别集的模拟中心值,分别在Di对应类别集中选取Q个训练样本,共得到n×Q个训练样本,构成已选数据集D*i。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310559996.9A CN116306875B (zh) | 2023-05-18 | 2023-05-18 | 基于空间预学习与拟合的排水管网样本增量学习方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310559996.9A CN116306875B (zh) | 2023-05-18 | 2023-05-18 | 基于空间预学习与拟合的排水管网样本增量学习方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116306875A CN116306875A (zh) | 2023-06-23 |
CN116306875B true CN116306875B (zh) | 2023-08-01 |
Family
ID=86785287
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310559996.9A Active CN116306875B (zh) | 2023-05-18 | 2023-05-18 | 基于空间预学习与拟合的排水管网样本增量学习方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116306875B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113344144A (zh) * | 2021-07-29 | 2021-09-03 | 中国人民解放军国防科技大学 | 半监督的小样本类别增量学习方法、装置及分类识别方法 |
WO2022042002A1 (zh) * | 2020-08-31 | 2022-03-03 | 华为技术有限公司 | 一种半监督学习模型的训练方法、图像处理方法及设备 |
CN115828100A (zh) * | 2022-12-08 | 2023-03-21 | 上海成电福智科技有限公司 | 基于深度神经网络的手机辐射源频谱图类别增量学习方法 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102525795B (zh) * | 2012-01-16 | 2014-07-09 | 沈阳理工大学 | 一种足部按摩机器人快速自动定位方法 |
CN104331459B (zh) * | 2014-10-31 | 2018-07-06 | 百度在线网络技术(北京)有限公司 | 一种基于在线学习的网络资源推荐方法及装置 |
CA2983880A1 (en) * | 2015-05-05 | 2016-11-10 | Kyndi, Inc. | Quanton representation for emulating quantum-like computation on classical processors |
US20220180975A1 (en) * | 2019-01-28 | 2022-06-09 | The Broad Institute, Inc. | Methods and systems for determining gene expression profiles and cell identities from multi-omic imaging data |
CN110077126B (zh) * | 2019-05-31 | 2020-02-14 | 西北工业大学 | 人工智能辅助印刷电子技术自引导优化提升方法 |
CN111199242B (zh) * | 2019-12-18 | 2024-03-22 | 浙江工业大学 | 一种基于动态修正向量的图像增量学习方法 |
US20210241112A1 (en) * | 2020-02-05 | 2021-08-05 | Samsung Electronics Co., Ltd. | Neural network update method, classification method and electronic device |
CN111931807B (zh) * | 2020-06-24 | 2024-02-23 | 浙江大学 | 一种基于特征空间组合的小样本类增量学习方法 |
CN112115967B (zh) * | 2020-08-06 | 2023-08-01 | 中山大学 | 一种基于数据保护的图像增量学习方法 |
CN112258496A (zh) * | 2020-11-02 | 2021-01-22 | 郑州大学 | 一种基于全卷积神经网络的地下排水管道病害分割方法 |
CN113361635A (zh) * | 2021-06-30 | 2021-09-07 | 成都理工大学 | 基于表示预测的小样本类增量学习方法 |
CN114386482B (zh) * | 2021-12-15 | 2023-09-26 | 同济大学 | 一种基于半监督增量学习的图片分类***及分类方法 |
CN114529752A (zh) * | 2022-01-04 | 2022-05-24 | 成都理工大学 | 一种基于深度神经网络的样本增量学习方法 |
CN114460936B (zh) * | 2022-01-13 | 2024-04-02 | 华中科技大学 | 基于离线增量学习的自动驾驶汽车路径规划方法及*** |
CN115201777A (zh) * | 2022-07-26 | 2022-10-18 | 电子科技大学 | 一种基于嵌入预定的雷达一维像目标增量识别方法 |
CN115249313A (zh) * | 2022-08-11 | 2022-10-28 | 西北工业大学 | 一种基于元模块融合增量学习的图像分类方法 |
CN115496983A (zh) * | 2022-09-23 | 2022-12-20 | 西安交通大学 | 一种受语义知识指导的类增量学习方法及*** |
CN115438755B (zh) * | 2022-11-08 | 2024-04-02 | 腾讯科技(深圳)有限公司 | 分类模型的增量训练方法、装置和计算机设备 |
CN115879533A (zh) * | 2022-12-02 | 2023-03-31 | 西安交通大学 | 一种基于类比学习的类增量学习方法及*** |
CN115937524A (zh) * | 2022-12-30 | 2023-04-07 | 天津大学 | 一种基于动态知识蒸馏的类增量语义分割方法 |
CN116071592A (zh) * | 2023-02-16 | 2023-05-05 | 中国农业大学 | 基于高光谱可增量更新的玉米种子品种鉴定方法及*** |
-
2023
- 2023-05-18 CN CN202310559996.9A patent/CN116306875B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022042002A1 (zh) * | 2020-08-31 | 2022-03-03 | 华为技术有限公司 | 一种半监督学习模型的训练方法、图像处理方法及设备 |
CN113344144A (zh) * | 2021-07-29 | 2021-09-03 | 中国人民解放军国防科技大学 | 半监督的小样本类别增量学习方法、装置及分类识别方法 |
CN115828100A (zh) * | 2022-12-08 | 2023-03-21 | 上海成电福智科技有限公司 | 基于深度神经网络的手机辐射源频谱图类别增量学习方法 |
Also Published As
Publication number | Publication date |
---|---|
CN116306875A (zh) | 2023-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110516596B (zh) | 基于Octave卷积的空谱注意力高光谱图像分类方法 | |
CN107633255A (zh) | 一种深度学习模式下的岩石岩性自动识别分类方法 | |
CN112308158A (zh) | 一种基于部分特征对齐的多源领域自适应模型及方法 | |
CN111340123A (zh) | 一种基于深度卷积神经网络的图像分数标签预测方法 | |
CN109272500B (zh) | 基于自适应卷积神经网络的织物分类方法 | |
CN112347970B (zh) | 一种基于图卷积神经网络的遥感影像地物识别方法 | |
CN111899254A (zh) | 基于半监督学习自动标注工业产品外观缺陷图像的方法 | |
CN113610035B (zh) | 一种基于改进编解码网络的水稻分蘖期杂草分割识别方法 | |
CN115810191A (zh) | 基于多注意力融合和高精度分割网络的病理细胞分类方法 | |
CN111626357B (zh) | 一种基于神经网络模型的图像识别方法 | |
CN114581486A (zh) | 基于全卷积孪生网络多层特征的模板更新目标跟踪算法 | |
CN112926485A (zh) | 一种少样本水闸图像分类方法 | |
CN111161244A (zh) | 基于FCN+FC-WXGBoost的工业产品表面缺陷检测方法 | |
CN113111716A (zh) | 一种基于深度学习的遥感影像半自动标注方法和装置 | |
CN113610024B (zh) | 一种多策略的深度学习遥感影像小目标检测方法 | |
CN115272225A (zh) | 一种基于对抗学习网络的带钢表面缺陷检测方法及*** | |
CN109740672B (zh) | 多流特征距离融合***与融合方法 | |
CN113077438B (zh) | 针对多细胞核彩色图像的细胞核区域提取方法及成像方法 | |
CN114359167A (zh) | 一种复杂场景下基于轻量化YOLOv4的绝缘子缺陷检测方法 | |
CN116306875B (zh) | 基于空间预学习与拟合的排水管网样本增量学习方法 | |
CN113095479A (zh) | 一种基于多尺度注意力机制的冰下层结构提取方法 | |
CN111369124A (zh) | 一种基于自生成全局特征和注意力的图像美学预测方法 | |
CN113283578B (zh) | 一种基于标记风险控制的数据去噪方法 | |
CN113496485B (zh) | 卫星遥感图像质量评价方法及装置 | |
CN114111647A (zh) | 一种基于人工智能的绝缘子伞裙破损面积测量方法及测量*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |