CN109978029B - 一种基于卷积神经网络的无效图像样本筛选方法 - Google Patents
一种基于卷积神经网络的无效图像样本筛选方法 Download PDFInfo
- Publication number
- CN109978029B CN109978029B CN201910188287.8A CN201910188287A CN109978029B CN 109978029 B CN109978029 B CN 109978029B CN 201910188287 A CN201910188287 A CN 201910188287A CN 109978029 B CN109978029 B CN 109978029B
- Authority
- CN
- China
- Prior art keywords
- sample
- invalid
- model
- samples
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 17
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 15
- 238000012216 screening Methods 0.000 title claims abstract description 13
- 238000001914 filtration Methods 0.000 claims abstract description 10
- 238000004140 cleaning Methods 0.000 claims description 8
- 238000009776 industrial production Methods 0.000 claims description 2
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法,原始样本通过经由卷积神经网络构建的过滤样本模型,将大量模糊、空拍及残损等无效样本(冗余样本)图像筛选出,其余样本即为质量更好、具有更多代表性的图像样本,可作为图像分类的有效样本集。该方法最终可以实现:将无效样本通过算法筛选出,减少将大量无效样本筛选出所耗费的工时,降低人工成本。
Description
技术领域
本发明涉及机器学习领域,特别是涉及一种基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法。
背景技术
在在卷积神经网络进行图像分类时,需要大量图像样本进行分类作为样本库,用于构建模型。在实际的工业过程中,相对于正常工业过程而言,采集到的产品图像数据中往往存在一些无效的图像数据,例如流水线生产时会采集到的模糊图像、空拍图像以及残损图像等,这类图像对于模型的构建属于无效数据,所以该方法用于将模糊图像、空拍图像等从采集到的样本中筛选出,实现原始样本的清洗,减少筛选图像所耗费的工时,降低人工成本。
发明内容
本发明主要解决的技术问题是提供一种基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法,能够花费更少的工时和人工成本将模糊图像、空拍图像等从采集到的样本中筛选出,实现原始样本的清洗。
为解决上述技术问题,本发明采用的一个技术方案是:将未标注的部分样本图像进行模糊处理,筛选出该部分样本极度模糊的图像,进行一次模糊清理。
处理过后的样本经过人工分类,分为无效图像即模糊图像、空拍图像等和有效样本图像。
经过过滤器处理的极度模糊图像也划分到无效图像一类,形成两种类型的图像划分,形成一个样本库。
CNN算法采用该样本库构建一个包含两种分类情况的分类器模型,之后用该模型进行样本清洗,实现筛选出大量样本中的无效样本,对样本进行清理。
本发明的有益效果是:本发明采用卷积神经网络进行样本清洗,实现筛选出大量样本中的无效样本,减少筛选图像所耗费的工时,降低人工成本。
附图说明
图1是基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法的流程示意图;
图2是一种构建过滤样本模型的流程示意图;
具体实施方式
下面结合附图对本发明的较佳实施例进行详细阐述,以使本发明的优点和特征能更易于被本领域技术人员理解,从而对本发明的保护范围做出更为清楚明确的界定。
请参阅图1和图2,本发明实施例包括:
一种基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法,运用卷积神经网络构建模型,将模型运用到采集样本中,花费更少的工时和人工成本将模糊图像、空拍图像等无效数据从采集到的样本中筛选出,实现原始样本的清洗。
实施例一:模糊、精化样本
(1)原始样本准备:在工业生产中采集生产产品的图像数据,以1000张作为基础数量。
(2)模糊过滤器:可以用opencv的cv2.Laplacian()方法,实现过滤模糊程度很高的图片,对样本实现一次清洗工作。
模糊、精化样本得到方式:将已准备的基础样本经过模糊过滤器,过滤出模糊程度较高的图片作为模糊样本、其余剩余样本则作为精化样本。
实施例二:样本集合
(1)人工过滤:在没有过滤样本模型时,需要采取人工过滤的方式,将精化样本分类成无效样本类型和有效样本类型。
(2)无效样本类型:将模糊图像、空拍图像以及残损等样本图像作为无效样本类型。
(3)有效样本类型:其他图片清晰、特征明显的图像作为有效样本类型。
(4)样本集合:无效样本和有效样本两个类型组成一个样本集合。
实施例三:构建过滤样本模型
(1)算法:基于深度卷积神经元网络算法实现样本清洗。
(2)判断样本数量以及比例:若正负样本不均衡可以采用以下方法:
过采样:增加样本中少数类样本的数量。复制少数样本或者在少数样本中加入随机噪声,干扰数据通过一定的规则生成一定的样本。
下采样:减少多数样本的数量。随机的去掉多数类样本,直到多数样本和少数样本相同。
(3)构建模型,当样本集合中正负样本数量合适且比例均衡时,开始计算模型,如图2的流程。
召回率(recall)是覆盖面的度量,度量有多个正例被分为正例:
当模型准确率ACC较低或者召回率recall较小时,计算的模型不符合要求。
(4)将计算好的新模型放入图1流程中,进行处理。
实施例四:满足需求的样本库
(1)判断样本库是否满足需求:样本库的数量等是否满足需求。
(2)循环处理:一般一次是无法得到一个数量充足的样本库,所以当样本库未达到需求时,开启循环,原始样本经过模糊过滤器过滤模糊图像,经过滤样本模型对样本图像进行分类,判断出新图像所属分类,实现样本清洗。
Claims (5)
1.一种基于建立卷积神经网络过滤样本模型进行无效图像样本筛选的方法,该方法包括以下步骤:
S1:收集工业生产中产品的图像数据,作为基础,形成原始样本集;
S2:构建模糊过滤器,实现过滤模糊程度高的图片;
S3:将经过模糊过滤器过滤后的剩余图像即精化样本经过人工分类形成无效样本类型和有效样本类型,经过模糊过滤器处理的极度模糊图像也划分到无效样本一类,无效样本类型包括:模糊图像、空拍图像以及残损图像;
S4:无效样本和有效样本两个类型组成一个样本集合;
S5:构建一个卷积神经网络过滤样本模型;
S6:利用S2的模糊过滤器和S5的模型循环将大量原始样本图像进行分类,实现样本清洗,直至建好一个满足需求的样本库。
2.根据权利要求1所述的方法,其特征在于:在S3步骤之前,先在S2步骤中加入模糊过滤器,提前过滤掉模糊程度高的样本图像。
3.根据权利要求1所述的方法,其特征在于:S3步骤中精化样本经过人工处理。
4.根据权利要求1所述的方法,其特征在于:S5步骤中当样本集合中正负样本数量合适且比例均衡时计算模型,当模型召回率和准确率不符合要求,则放弃该模型。
5.根据权利要求1所述的方法,其特征在于:当样本库未达到需求时,在S6步骤开启循环,对大量原始样本图像进行分类,实现样本清洗。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910188287.8A CN109978029B (zh) | 2019-03-13 | 2019-03-13 | 一种基于卷积神经网络的无效图像样本筛选方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910188287.8A CN109978029B (zh) | 2019-03-13 | 2019-03-13 | 一种基于卷积神经网络的无效图像样本筛选方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109978029A CN109978029A (zh) | 2019-07-05 |
CN109978029B true CN109978029B (zh) | 2021-02-09 |
Family
ID=67078702
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910188287.8A Active CN109978029B (zh) | 2019-03-13 | 2019-03-13 | 一种基于卷积神经网络的无效图像样本筛选方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109978029B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110990917A (zh) * | 2019-11-19 | 2020-04-10 | 北京长空云海科技有限公司 | Bim模型展示的方法、装置及*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5590218A (en) * | 1993-10-18 | 1996-12-31 | Bayer Corporation | Unsupervised neural network classification with back propagation |
CN106067020A (zh) * | 2016-06-02 | 2016-11-02 | 广东工业大学 | 实时场景下快速获取有效图像的***和方法 |
CN108960409A (zh) * | 2018-06-13 | 2018-12-07 | 南昌黑鲨科技有限公司 | 标注数据生成方法、设备及计算机可读存储介质 |
CN109379557A (zh) * | 2018-09-30 | 2019-02-22 | 田东县文设芒果专业合作社 | 基于图像识别的芒果虫害智能监控*** |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7991223B2 (en) * | 2006-09-05 | 2011-08-02 | Bruker Daltonik Gmbh | Method for training of supervised prototype neural gas networks and their use in mass spectrometry |
KR102592076B1 (ko) * | 2015-12-14 | 2023-10-19 | 삼성전자주식회사 | 딥러닝 기반 영상 처리 장치 및 방법, 학습 장치 |
CN107909566A (zh) * | 2017-10-28 | 2018-04-13 | 杭州电子科技大学 | 一种基于深度学习的皮肤癌黑色素瘤的图像识别方法 |
CN108171175B (zh) * | 2017-12-29 | 2020-06-23 | 苏州科达科技股份有限公司 | 一种深度学习样本增强***及其运行方法 |
CN108154134B (zh) * | 2018-01-11 | 2019-07-23 | 天格科技(杭州)有限公司 | 基于深度卷积神经网络的互联网直播色情图像检测方法 |
CN108764372B (zh) * | 2018-06-08 | 2019-07-16 | Oppo广东移动通信有限公司 | 数据集的构建方法和装置、移动终端、可读存储介质 |
CN108986075A (zh) * | 2018-06-13 | 2018-12-11 | 浙江大华技术股份有限公司 | 一种优选图像的判断方法及装置 |
CN109165671A (zh) * | 2018-07-13 | 2019-01-08 | 上海交通大学 | 基于样本到决策边界距离的对抗样本检测方法 |
CN109117887A (zh) * | 2018-08-17 | 2019-01-01 | 哈尔滨工业大学 | 一种针对低维数据样本筛选的支持向量机加速方法及装置 |
CN109241903B (zh) * | 2018-08-30 | 2023-08-29 | 平安科技(深圳)有限公司 | 样本数据清洗方法、装置、计算机设备及存储介质 |
-
2019
- 2019-03-13 CN CN201910188287.8A patent/CN109978029B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5590218A (en) * | 1993-10-18 | 1996-12-31 | Bayer Corporation | Unsupervised neural network classification with back propagation |
CN106067020A (zh) * | 2016-06-02 | 2016-11-02 | 广东工业大学 | 实时场景下快速获取有效图像的***和方法 |
CN108960409A (zh) * | 2018-06-13 | 2018-12-07 | 南昌黑鲨科技有限公司 | 标注数据生成方法、设备及计算机可读存储介质 |
CN109379557A (zh) * | 2018-09-30 | 2019-02-22 | 田东县文设芒果专业合作社 | 基于图像识别的芒果虫害智能监控*** |
Non-Patent Citations (3)
Title |
---|
Consensus of Ambiguity: Theory and Application of Active Learning for Biomedical Image Analysis;Scott Doyle 等;《pattern recognition in bioinformatics-5th IAPR international conference》;20100930;314-324 * |
Efficient Multiple Instance Convolutional Neural Networks for Gigapixel Resolution Image Classification;Le Hou 等;《arXiv:1504.07947v3》;20150519;1-9 * |
基于卷积神经网络的小样本图像识别方法;段萌 等;《计算机工程与设计》;20180131;第39卷(第1期);224-229 * |
Also Published As
Publication number | Publication date |
---|---|
CN109978029A (zh) | 2019-07-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110782399B (zh) | 一种基于多任务cnn的图像去模糊方法 | |
CN109064418B (zh) | 一种基于非局部均值的非均匀噪声图像去噪方法 | |
CN107248148B (zh) | 图像降噪方法及*** | |
CN105894460A (zh) | 图像滤波方法及装置 | |
CN106910169A (zh) | 一种防止边缘模糊的图像椒盐噪声去除方法 | |
CN111598918B (zh) | 一种基于参考帧优选和前后景分离的视频稳像运动估计方法 | |
CN110458789B (zh) | 一种图像清晰度评测方法、装置及电子设备 | |
CN106709879A (zh) | 一种基于简单透镜计算成像的空间变化点扩散函数平滑方法 | |
CN106910170B (zh) | 一种图像椒盐噪声的去除方法 | |
CN113554649B (zh) | 一种缺陷检测方法、装置、计算机设备及存储介质 | |
CN109118434A (zh) | 一种图像预处理方法 | |
CN108107611A (zh) | 一种自适应缺陷检测方法、装置及电子设备 | |
CN109978029B (zh) | 一种基于卷积神经网络的无效图像样本筛选方法 | |
CN110942436A (zh) | 一种基于图像质量评价的图像去模糊方法 | |
CN113537182A (zh) | 染色体中期***相显微图像的自动识别方法与*** | |
CN113034404A (zh) | 一种基于多尺度对抗学习的交通图像去模糊方法及装置 | |
CN108288274A (zh) | 模具检测方法、装置以及电子设备 | |
CN114663427A (zh) | 基于图像处理的锅炉零件尺寸检测方法 | |
CN111104976B (zh) | 一种基于时间序列图像的蓝藻覆盖率计算方法 | |
CN115761259B (zh) | 基于类别平衡损失函数的厨余垃圾目标检测方法和*** | |
CN114913092B (zh) | 一种在线铁谱反射光图像增强方法及*** | |
CN114486916A (zh) | 基于机器视觉的手机玻璃盖板缺陷检测方法 | |
CN114120192A (zh) | 基于视频信号的多工况模型自动选择方法及装置 | |
CN103886551A (zh) | 一种图像滤波处理器 | |
CN114897214A (zh) | 一种基于图形化处理的金属增材制造时间预测***和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20240129 Address after: Room 401-55, No. 821 Lianting Road, Min'an Street, Xiang'an District, Xiamen City, Fujian Province, 361101 Patentee after: Xiamen Xinhang Century Information Technology Co.,Ltd. Country or region after: China Address before: 100876 Beijing city Haidian District Xitucheng Road No. 10 Patentee before: Beijing University of Posts and Telecommunications Country or region before: China |
|
TR01 | Transfer of patent right |