CN114187452A - 一种基于主动标注的鲁棒深度图像分类模型训练方法 - Google Patents
一种基于主动标注的鲁棒深度图像分类模型训练方法 Download PDFInfo
- Publication number
- CN114187452A CN114187452A CN202210135383.8A CN202210135383A CN114187452A CN 114187452 A CN114187452 A CN 114187452A CN 202210135383 A CN202210135383 A CN 202210135383A CN 114187452 A CN114187452 A CN 114187452A
- Authority
- CN
- China
- Prior art keywords
- image
- model
- labeled
- training
- classification model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000013145 classification model Methods 0.000 title claims abstract description 20
- 238000002372 labelling Methods 0.000 title claims abstract description 16
- 238000012163 sequencing technique Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于主动标注的鲁棒深度图像分类模型训练方法。包括:一、收集大量的无标注图像集合和少量已标注训练图像数据集合;二、对已标注图像集中的每一个图像增添噪声扰动,得到含噪标注图像集;三、将含噪标注图像集作为训练集,初始化图像分类模型;四、对未标注图像集中每张图像进行多次扰动,计算每张未标注图像的价值评分S。五、对评分S排序,得到相应的用户反馈;六、更新已标注图像集L和未标注图像集,并更新预测模型;七、返回步骤四或结束并输出预测模型f。本发明通过主动学习技术,自动选择高效用图像标注,在提升模型鲁棒性的同时,能最大限度地降低用户的标注代价。
Description
技术领域
本发明属于数字图像自动标注技术领域,具体涉及一种基于主动标注的鲁棒深度图像分类模型训练方法。
背景技术
现阶段在图像分类领域深度模型已经能够获得较高的精度,然而在现实应用场景中,模型往往受到噪声干扰而导致性能严重下降。例如,在自动驾驶任务中,图像视频识别模型通常会受到雾、霜、雪、沙尘暴等天气的干扰,而难以准确地识别出路标。因此,提高模型的鲁棒性已经成为机器学习领域的重要任务。最新的研究表明,通过对训练图像添加噪声扰动进行训练能有效地提升深度模型的鲁棒性。然而,该训练过程往往需要大量已标注图像。在许多实际应用中,准确地标注每张图像的标记信息往往代价高昂且异常困难,尤其是那些对专业知识要求很高的领域。主动学习是降低样本标注代价的主要方法,其通过主动选择最有价值的图像进行标注,在提高模型性能的同时,能最大限度地降低查询标记的代价。然而传统的主动标注方法仅考虑了图像用以提升模型性能的潜在效用,例如,通过衡量分类模型对于未标注图像的不确定性来作为其效用的一个估计,难以直接用于提升模型鲁棒性。因此,如何设计有效的主动标注策略以提升模型的鲁棒性是一个亟待解决的问题,具有重要的现实意义。
发明内容
发明目的:为了克服真实任务中目标域数据获取困难,模型鲁棒性难以提升的问题,本发明提供一种基于主动标注的鲁棒深度图像分类模型训练方法。
技术方案:为实现上述目的,本发明采用的技术方案为:
一种基于主动标注的鲁棒深度图像分类模型训练方法,包括以下步骤:
步骤7、返回步骤4或结束并输出预测模型f。
进一步的,所述步骤3初始化图像分类模型f的具体方法为:
利用预测模型对含噪标注图像集中图像类别进行预测,为预测模型的
参数。用表示第幅图像在模型f上的输出, 其中代表图像被预测为第个类别的概率,代表图像总类别数。用表示第
幅图像的真实标记,形式为one-hot编码。按照公式计算模型在每张含噪图像上的损失
值,所述公式为:
有益效果:本发明提出了一种基于主动标注的鲁棒深度图像分类模型训练方法,将主动学习技术运用于鲁棒深度模型的学习中,通过主动选择最有价值的图像,以最小的标注代价有效地提高深度图像分类模型的鲁棒性。具体的,本发明每次挑选出对于提升模型鲁棒性最有帮助的一批图像进行查询,让用户给出图像类别信息。一般来说,鲁棒模型的预测往往具有稳定性,也就是说,当对输入图像添加微小扰动时,模型的输出应保持一致。然而,在同样程度的扰动下,模型在不同图像上的预测稳定性也是不同的,对于某些图像,在遇到噪声扰动时,模型的预测结果非常不稳定,将这些图像加入已标注集用以训练模型,能够有效提高模型的鲁棒性。因此在选择图像时,本发明提出基于不一致性的主动标注方法,通过生成系列扰动图像并采用其预测差异衡量每个未标注图像对于提升模型鲁棒性的潜在效用,并挑选不一致性值最大的图像用于深度模型的训练。并且,在训练过程中,本发明采用对训练图像增添噪声扰动的方式进行训练,希望模型在拟合含噪图像的过程中逐渐提高对噪声的鲁棒性。
附图说明
图1是本发明机制的流程图;
图2是计算示例评分的流程图;
图3是更新标注模型的流程图。
具体实施方式
下面结合附图对本发明作更进一步的说明。
实施例
如图1所示为本发明机制的流程图。假设初始时存在由少量已标注图像组成的数
据集,以及由大量未标注图像组成的数据集。首对,装置已标注集中每张图像增添噪
声扰动以构造含噪标注图像集,并基于训练得到基本预测模型。随后,模型对未标
注图像数据集的图像进行预测,得到每张未标注图像的预测结果。根据模型输出计算得
到每张图像的效用评分。将图像按照效用得分大小排序,从高到低向用户查询标记信息。接
着,用户给出图像的标记信息,将这些图像加入到训练集,同样,对更新后的已标注集中
每张图像增添噪声扰动得到含噪标注图像集。最后用含噪标注图像集更新模型。
查询过程将循环执行,直至标记开销达到预算。
图2所示为计算示例效用评分的流程图。首先,对每一张未标注图像添加次扰
动,得到对应的扰动图像集合,其中,,是一个从高斯分布随机标注的扰动值。接着,按照公式计算模
型在上的预测结果与在干净图像上预测结果不一致的概率,所述公式为:
则含噪声标注图像集,其中为已标注图像数量。随后,利用
预测模型对含噪标注图像集中图像类别进行预测,用表示第幅
图像在模型f上的输出, 其中代表图像被预测为第个类别的概率,代表图像总类
别数。用表示第幅图像的真实标记,形式为one-hot编码。按照公式计算
模型在每张含噪图像上的损失值,所述公式为:
最后,通过梯度下降算法更新模型参数。上述训练流程将循环执行直至模型收敛或达到最大迭代次数。
Claims (5)
1.一种基于主动标注的鲁棒深度图像分类模型训练方法,其特征在于,包括以下步骤:
步骤7、返回步骤4或结束并输出预测模型f。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210135383.8A CN114187452A (zh) | 2022-02-15 | 2022-02-15 | 一种基于主动标注的鲁棒深度图像分类模型训练方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210135383.8A CN114187452A (zh) | 2022-02-15 | 2022-02-15 | 一种基于主动标注的鲁棒深度图像分类模型训练方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114187452A true CN114187452A (zh) | 2022-03-15 |
Family
ID=80545908
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210135383.8A Pending CN114187452A (zh) | 2022-02-15 | 2022-02-15 | 一种基于主动标注的鲁棒深度图像分类模型训练方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114187452A (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113313178A (zh) * | 2021-06-03 | 2021-08-27 | 南京航空航天大学 | 一种跨域图像示例级主动标注方法 |
CN113313166A (zh) * | 2021-05-28 | 2021-08-27 | 华南理工大学 | 基于特征一致性学习的船舶目标自动标注方法 |
-
2022
- 2022-02-15 CN CN202210135383.8A patent/CN114187452A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113313166A (zh) * | 2021-05-28 | 2021-08-27 | 华南理工大学 | 基于特征一致性学习的船舶目标自动标注方法 |
CN113313178A (zh) * | 2021-06-03 | 2021-08-27 | 南京航空航天大学 | 一种跨域图像示例级主动标注方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103927394B (zh) | 一种基于svm的多标签主动学习分类方法及*** | |
CN112132014B (zh) | 基于非督导金字塔相似性学习的目标重识别方法及*** | |
CN112052818B (zh) | 无监督域适应的行人检测方法、***及存储介质 | |
CN116644755B (zh) | 基于多任务学习的少样本命名实体识别方法、装置及介质 | |
CN110458022B (zh) | 一种基于域适应的可自主学习目标检测方法 | |
CN113469186B (zh) | 一种基于少量点标注的跨域迁移图像分割方法 | |
CN112001422B (zh) | 一种基于深度贝叶斯学习的图像标记估计方法 | |
CN108596204B (zh) | 一种基于改进型scdae的半监督调制方式分类模型的方法 | |
CN112115264B (zh) | 面向数据分布变化的文本分类模型调整方法 | |
CN113283467B (zh) | 一种基于平均损失和逐类选择的弱监督图片分类方法 | |
CN103559510B (zh) | 一种利用相关主题模型识别社会群体行为的方法 | |
CN116189671B (zh) | 一种用于语言教学的数据挖掘方法及*** | |
CN114187452A (zh) | 一种基于主动标注的鲁棒深度图像分类模型训练方法 | |
CN115186670B (zh) | 一种基于主动学习的领域命名实体识别方法及*** | |
CN116433909A (zh) | 基于相似度加权多教师网络模型的半监督图像语义分割方法 | |
CN113379037B (zh) | 一种基于补标记协同训练的偏多标记学习方法 | |
CN116071544A (zh) | 面向弱监督指向性视觉理解的图像描述预测方法 | |
CN113313178B (zh) | 一种跨域图像示例级主动标注方法 | |
CN114595695A (zh) | 一种用于少样本意图识别***的自训练模型构建方法 | |
CN114220086A (zh) | 一种成本高效的场景文字检测方法及*** | |
CN103646407B (zh) | 一种基于成分距离关系图的视频目标跟踪方法 | |
CN112860903B (zh) | 一种融入约束信息的远程监督关系抽取方法 | |
CN113705439B (zh) | 基于弱监督和度量学习的行人属性识别方法 | |
CN109800923A (zh) | 一种分散式风力发电短期功率组合预测方法 | |
CN113269226B (zh) | 一种基于局部与全局信息的图片选择标注方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220315 |