CN112818785A - 一种气象纸质表格文档的快速数字化方法及*** - Google Patents
一种气象纸质表格文档的快速数字化方法及*** Download PDFInfo
- Publication number
- CN112818785A CN112818785A CN202110090678.3A CN202110090678A CN112818785A CN 112818785 A CN112818785 A CN 112818785A CN 202110090678 A CN202110090678 A CN 202110090678A CN 112818785 A CN112818785 A CN 112818785A
- Authority
- CN
- China
- Prior art keywords
- image
- characters
- module
- meteorological
- character
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000000605 extraction Methods 0.000 claims abstract description 48
- 238000007781 pre-processing Methods 0.000 claims abstract description 39
- 238000012795 verification Methods 0.000 claims abstract description 21
- 238000001514 detection method Methods 0.000 claims abstract description 10
- 230000011218 segmentation Effects 0.000 claims abstract description 7
- 238000012937 correction Methods 0.000 claims description 9
- 238000013135 deep learning Methods 0.000 claims description 8
- 238000012549 training Methods 0.000 claims description 7
- 230000000977 initiatory effect Effects 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 6
- 238000013136 deep learning model Methods 0.000 claims description 5
- 230000009467 reduction Effects 0.000 claims description 5
- 230000000007 visual effect Effects 0.000 claims description 4
- 230000004927 fusion Effects 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 abstract description 5
- 238000004458 analytical method Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/416—Extracting the logical structure, e.g. chapters, sections or page numbers; Identifying elements of the document, e.g. authors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
- G06V10/23—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on positionally close patterns or neighbourhood relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/148—Segmentation of character regions
- G06V30/153—Segmentation of character regions using recognition of characters or words
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Character Input (AREA)
- Character Discrimination (AREA)
Abstract
本发明提供了一种气象纸质表格文档的快速数字化方法及***,属于气象数据处理领域。所述快速数字化方法包括:获取气象纸质表格文档的图像;对图像进行预处理后,提取表格线并进行字符识别,完成对字符的提取和定位,存储为第一类字符;对处理完的表格文档图像进行切割,对每个子图像进行文字录入;将录入的文字对第一类字符进行定位匹配及校验;校验通过时,存储字符;校验不通过时,丢弃字符,以当前子图像作为表格文档图像,转入预处理;遍历所有子图像且校验通过时,输出所有字符作为数字化结果。本发明实现了气象表格文档的快速数字化,简化了基于语义分割的文字检测,实现了对包含印刷和手写字符的表格文档高精度、高准确度的字符提取。
Description
技术领域
本发明属于气象数据处理领域,具体涉及一种气象纸质表格文档的快速数字化方法及***。
背景技术
在气象观测中,初始的观测结果是气象图像,各地方通过对气象图像的数字化,采集到地方气象数据,并上传到气象中心,气象中心对所有气象数据进行统计与分析。各地方在进行气象数据采集时,由于气象数据的时间序列性及多参数性,通常需要通过表格来对数据进行整理;气象纸质表格文档的整理,一般通过人工观测并手写填写纸质表格,再通过对纸质表格的识别,例如,人工智能中的OCR文字识别方法,获得数字化表格文档图像文件;再通过数字化表格文档图像文件获得气象表格信息。
现有技术中,中国气象局对各省数字化图像资料进行收集外,还没有一个统一的***将收集的数字化图像文件进行数据校验,无法保证数字化图像文件中提取的气象表格信息的准确性。
表格是一种高度精炼,集中信息表达的手段,纸质表格中的大量信息常常需要输入到计算机进行整理、归类、排序和分析等。对纸质表格信息的提取,一般首先获取表格文档图像,再对图像进行处理获取表格信息。纸质表格文档图像的信息提取方法,是字符识别过程。其中,表格字符准确识别与定位是表格字符提取最困难也是最关键的环节之一。
表格字符提取,可以通过基于深度学习的网络模型自动获取图像中的文本特征,结合分类和回归进行字符定位。基于边界框回归的方法进行了文本定位,在图像上按区域设置大量不同大小形状的边界框,经过卷积网络的特征学习,判断边界框内是否含有字符,一般按标签边界框与实际标签所重合的面积(IOU,Intersection Over Union)大小判定,字符定位一般以IOU>=0.7为标准判定边界框内是否存在字符目标。然后对边界框的位置进行回归,定位精确的边界。基于边界框回归的方法依赖边界框形状大小的设置,若设置形状与所要检查的目标差别较大,则定位效果较差。基于语义分割法的字符定位,通过卷积与反卷积对每一个像素做一个二分类,判别每一个像素是否属于字符像素,最终根据字符区域定位。
目前,对上述数字化表格字符的识别及定位方法,包括图像倾斜校正、图像二值化、表格字符定位、单任务分组统计校验及可视化展示。在图像倾斜校正中,目前无法保证对含手写数字的表格文档图像取得较好的精度。在图像二值化过程中,二值化方法比较单一,在实际应用中往往无法较好的适应各种不同条件下的情况,如:扫描结果亮度不均匀、笔划灰度较浅、图像直方图灰度值分布较均匀等。在表格字符定位过程中,包括利用先验知识定位和通过表格线检测定位;其中,先验知识方法需要借助先验知识,无法自动适应各种不同格式的表格;表格线检测方法包括侧向投影法、轮廓提取法、表格线交叉点分析法、霍夫变换法;侧向投影法简单、速度快,但较容易受到表格倾斜和字符粘连表格线的影响;轮廓提取法也很容易因表格线断裂或字符粘连表格线而产生错误;表格线交叉点分析法则通过对相邻交叉点进行分类和匹配来迭代地构建出表格中的所有单元格,但该方法比较耗时,且容易受断裂表格线的影响。
发明内容
鉴于上述问题,本发明实施例提供了一种气象纸质表格文档的快速数字化方法及***,在获取文档图像的基础上,通过基于语义分割的DB模型进行表格字符定位,同时通过众筹式人工输入对定位字符进行检验,从而完成气象表格文档的快速数字化,简化基于分割方法的文字检测,实现对包含印刷字符和手写字符的表格文档图像中字符的高精度、高准确度的提取。
为了实现上述目的,本发明实施例采用的技术方案如下:
第一方面,本发明提供了一种气象纸质表格文档的快速数字化方法,所述快速数字化方法包括如下步骤:
步骤S1,获取所述气象纸质表格文档的图像;
步骤S2,对表格文档图像进行预处理;
步骤S3,从所述处理完的表格文档图像中提取表格线;
步骤S4,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符存储为第一类字符;
步骤S5,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起众筹,对每个子图像进行文字录入;
步骤S6,将录入的文字与第一类字符进行定位匹配,对相同位置处的第一类字符进行校验;校验通过时,将当前第一类字符存储在临时文档中;校验不通过时,丢弃第一类字符,以当前子图像作为表格文档图像,转入步骤S2;遍历所有子图像且全部校验通过时,进入步骤S7。
步骤S7,输出临时文档中的所有第一类字符,作为当前气象纸质表格文档的数字化结果。
作为本发明的一个优选实施例,所述步骤S2中的预处理,包括对获取的表格文档图像进行倾斜校正和降噪。
作为本发明的一个优选实施例,所述降噪,采用适用于表格文档图像的自适应阈值二值化方法,去除表格文档图像的噪声。
作为本发明的一个优选实施例,步骤S3中表格线,包括表格横线、竖线和边框。
作为本发明的一个优选实施例,步骤S3采用霍夫变换方法实现表格线提取,具体步骤如下:
步骤S31,采用霍夫变换方法进行表格线检测。根据表格线与周围像素灰度差异,最短直线长度和最长直线长度,确定表格横线、竖线和边框,获取表格线初步提取结果;
步骤S32,对初步提取表格线进行结果优化,获得完整的表格线。
作为本发明的一个优选实施例,所述对初步提取表格线进行结果优化,包括:
直线融合,对断裂的直线进行连线,获得完整的表格横线和竖线;
直线筛选,对多提的直线且不属于表格线的部分去除;
表格边框补齐,对表格边界进行补齐。
作为本发明的一个优选实施例,所述步骤S4采用基于语义分割的DB深度学习模型实现表格字符定位,具体实现步骤如下:
步骤S41,采集字符定位数据集;
步骤S42,基于深度学习算法,构建字符提取和定位的DB模型;
步骤S43,基于所采信的字符定位数据集,对DB模型进行训练;
步骤S44,采用训练获得的DB模型,对所述表格文档图像进行字符提取和定位,将带有定位信息的字符存储为第一类字符。
作为本发明的一个优选实施例,所述步骤S43中对表格文档图像进行字符提取和定位,将扫描并预处理后的气象表格文档图像送入训练过的DB模型,得到表格中的字符坐标与中心点坐标,将中心点坐标对比表格线坐标得到字符目标与表格的一一对应位置,完成定位。
作为本发明的一个优选实施例,步骤S5具体包括:
步骤S51,将需要数字化的气象纸质表格文档图像汇交至数据中心,在数据中心统一对表格文档图像进行批量分割;
步骤S52,将分割的图片进行按照图片来源地理位置、图片id、图片名、图片路径等信息存储在数据库中;对各省汇交数据进行入库,日志信息录入数据库表;
步骤S53,在数据中心服务器上搭建图片访问服务器;
步骤S54,通知相关用户登录图片访问服务器,访问相应切割后的子图像,并根据图片信息执行录入操作,将录入结果上传至数据中心,完成文字录入。
作为本发明的一个优选实施例,所述气象纸质表格文档的数字化方法,还包括:
步骤S8,搭建可视化展示框架,对所述数字化结果进行展示;
步骤S9,基于数据中心设置统一访问接口,通过所述统一访问接口为用户提供数据服务。
第二方面,本发明实施例还提供了一种气象纸质表格文档的快速数字化***,所述***包括图像获取模块、图像预处理模块、表格线提取模块、字符识别模块、图像切割众筹模块、字符匹配模块、输出模块及存储模块;其中,
所述图像获取模块与所述图像预处理模块相连,用于获取所述气象纸质表格文档的图像,并发送给所述图像预处理模块;
所述图像预处理模块与所述表格线提取模块、字符识别模块和图像切割众筹相连,用于对图像获取模块发送的表格文档图像进行预处理;
所述表格线提取模块与所述字符识别模块相连,用于读取图像预处理模块预处理完成的图像,并从所述处理完的表格文档图像中提取表格线,并将所提取的表格线发送给所述字符识别模块;
所述字符识别模块与所述存储模块相连,用于读取表格线提取模块所提供的表格线,并读取图像预处理模块预处理完的与所述表格线对应的表格文档图像,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符作为第一类字符存储在存储模块中;
所述图像切割众筹模块与所述存储模块相连,同时具有外网连接接口,用于读取图像预处理模块预处理完的当前表格文档图像,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起网络众筹,对每个子图像进行文字录入,并将录入的文字存储在存储模块中;
所述字符匹配模块与所述存储模块、预处理模块和输出模块相连,用于从所述存储模块中读取当前表格文档的第一类字符和录入文字,将录入的文字与第一类字符进行定位匹配,对相同位置处的第一类字符进行校验;校验通过时,将当前第一类字符存储在临时文档中;校验不通过时,丢弃第一类字符,以当前子图像作为表格文档图像,发送给所述预处理模块;遍历所有子图像且全部校验通过时,将所有第一类字符发送给输出模块;
所述输出模块用于输出临时文档中的所有第一类字符,作为当前气象纸质表格文档的数字化结果。
本发明具有如下有益效果:
(1)本发明通过霍夫变换算法和深度学习DB模型实现了高精度的表格字符定位。适用于不同形式的表格字符,如印刷体汉字、数字、字母和复杂多变的手写字体。解决了表格数据自动获取,为后续的字符识别提供保障,从而实现表格字符自动识别和录入,大大减少人工成本,提高效率。
(2)针对收集的数字化图像观测数据进行分割,实现了从单纯依赖专门数字化公司录入气象表格文档图像数据,到发动气象数据用户共同完成气象表格文档图像的数字化;同时结合深度学习模型识别提取结果,进行联合校验,确保数据的准确定性。
(3)对符号图标进行分类存储、完整的数字化图像与切分的数字化图像进行分表存储、数字化各省统计进行存储,极大减轻了数据存储数据本身给数据库带来的压力,提高检索效率,使用户可以更快,更便捷的检索需要的数据。
(4)使用rest和web service相结合的方式访问接口,用户可通过在浏览器中,使用REST服务的URI,在页面中直接查看数据,提高了用户访问效率。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施方式提供的气象纸质表格文档的数字化方法流程图;
图2是本发明实施方式中通过DB模型对文档图像进行字符识别的流程图;
图3是本发明实施方式提供的气象纸质表格文档的数字化***结构示意图。
具体实施方式
下面通过参考示范性实施例,并结合附图,对本发明技术问题、技术方案和优点进行详细阐明。以下所述示范性实施例仅用于解释本发明,而不能解释为对本发明的限制。本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语)具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非在这里进行定义,否则不会用理想化或过于正式的含义来解释。
本发明实施方式提供了一种气象纸质表格文档的快速数字化方法,在获得表格文档图像的基础上,采用深度学***台建立的气象大数据资源在线汇交***中,用户在登录全国数据资源汇交***时录入文档图像内容,最终实现对气象表格文档的精准、快速数字化。
所述快速数字化方法涉及以下几部分内容:表格文档图像获取、图像预处理、表格线提取、字符提取、图像切割、众筹式录入、校验及输出数字化结果。图1示出了本发明实施方式所提供的气象纸质表格文档的快速数字化方法流程图。如图1所示,所述快速数字化方法包括如下步骤:
步骤S1,获取所述气象纸质表格文档的图像。
本步骤中,一般通过扫描获取表格文档图像。
步骤S2,对表格文档图像进行预处理。
本步骤中,所述预处理,包括对获取的表格文档图像进行降噪、倾斜校正等处理。
在表格文档扫描成图像的过程中,表格在图像中或多或少会出现一定角度的倾斜,直接给表格单元格定位、字符定位等造成困难,本步骤通过对图像进行倾斜校正避免倾斜对数字化过程带来的影响。优选地,本发明实施方式中采用霍夫变换方法进行图像的倾斜校正。
同时,本实施方式中采用中值滤波算法对表格文档图像降噪,获得平滑的表格文档图像。倾斜校正之后,为了进一步提取出表格文档图像前景中的表格线和字符,还必须对图像进行二值化处理,基于表格文档图像的特点,本实施方式中采用适用于表格文档图像的自适应阈值二值化方法,能够获得较好的二值化效果。
步骤S3,从所述处理完的表格文档图像中提取表格线。
本步骤中,利用霍夫变换提取表格文档图像中的表格线,并进行优化,获得干净完整的表格线,包括表格横线、竖线和边框。
本发明实施方式中表格线提取包括直线检测及提取。优选地,采用霍夫变换方法实现表格线提取。具体步骤如下:
步骤S31,采用霍夫变换方法进行表格线检测。根据表格线与周围像素灰度差异,最短直线长度和最长直线长度,确定表格横线、竖线和边框,获取表格线初步提取结果。
步骤S32,对初步提取表格线结果优化,获得完整的表格线。
初步结果中存在直线断开、直线多提等问题,针对这些问题,对结果进行优化,包括:
①直线融合,对断裂的直线进行连线,获得完整的表格横线和竖线;
②直线筛选,对多提的直线且不属于表格线的部分去除;
③表格边框补齐,对表格边界进行补齐。
所述表格线提取过程,去除了干扰直线,便于后续的表格字符定位。
步骤S4,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符存储为第一类字符。
本步骤中,基于深度学习的DB模型,实现表格字符的定位和提取。
优选地,本发明实施方式采用基于语义分割的DB深度学习模型实现表格字符定位。如图2所示,具体实现步骤如下:
步骤S41,采集字符定位数据集。
DB模型的训练依赖于大量的数据,因此制作字符定位数据集是至关重要的一步。随机选取500张扫描获取的表格文档图像,使用LabelImg软件进行标签的人工勾画,对要识别的字符部分进行人工标注,使每一张图像对应一张字符标注后标签。
步骤S42,基于深度学习算法,构建字符提取和定位的DB模型。
本步骤中,以Tensorflow平台为开发环境,搭建DB网络,对字符定位数据集进行学习和训练。
步骤S43,基于所采信的字符定位数据集,对DB模型进行训练。
步骤S44,采用训练获得的DB模型,对所述表格文档图像进行字符提取和定位,将带有定位信息的字符存储为第一类字符。
本步骤中,将扫描并预处理后的气象表格文档图像,经过中值滤波降噪、图像二值化、霍夫直线检测、倾斜校正、表格线提取,在输入模型前,判断是否完成所有汇交图像完成表格线提取,若未完成,可通过人工修正完成表格线提取;完成表格线提取后,将所述表格文档图像送入训练过的DB模型,得到表格中的字符坐标与中心点坐标,将中心点坐标对比表格线坐标得到字符目标与表格的一一对应位置,完成定位。将定位信息绑定在相应的字符信息中,存储为第一类字符。
步骤S5,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起众筹,对每个子图像进行文字录入。
本步骤具体包括:
步骤S51,将需要数字化的气象纸质表格文档图像汇交至数据中心,在数据中心统一对表格文档图像进行批量分割;
步骤S52,将分割的图片进行按照图片来源地理位置、图片id、图片名、图片路径等信息存储在数据库中;对各省汇交数据进行入库,日志信息录入数据库表;
步骤S53,在数据中心服务器上搭建图片访问服务器;
步骤S54,通知相关用户登录图片访问服务器,访问相应切割后的子图像,并根据图片信息执行录入操作,将录入结果上传至数据中心,完成文字录入。
进一步地,本发明实施方式提供的气象纸质表格文档的数字化方法,还可以包括:
步骤S8,搭建可视化展示框架,对所述数字化结果进行展示。
步骤S9,基于数据中心设置统一访问接口,通过所述统一访问接口为用户提供数据获取功能,包括:表格文档图像路径查询、特殊符号图标查询、各省纸质表格文档图像汇总情况查询等。
本发明还提供了一种气象纸质表格文档的快速数字化***。如图3所示,所述***包括图像获取模块10、图像预处理模块20、表格线提取模块30、字符识别模块40、图像切割众筹模块50、字符匹配模块60、输出模块70及存储模块80。
其中,所述图像获取模块10与所述图像预处理模块20相连,用于获取所述气象纸质表格文档的图像,并发送给所述图像预处理模块20;
所述图像预处理模块20与所述表格线提取模块30、字符识别模块40和图像切割众筹50相连,用于对图像获取模块发送的表格文档图像进行预处理;
所述表格线提取模块30与所述字符识别模块40相连,用于读取图像预处理模块预处理完成的图像,并从所述处理完的表格文档图像中提取表格线,并将所提取的表格线发送给所述字符识别模块40;
所述字符识别模块40与所述存储模块80相连,用于读取表格线提取模块30所提供的表格线,并读取图像预处理模块20预处理完的与所述表格线对应的表格文档图像,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符作为第一类字符存储在存储模块80中;
所述图像切割众筹模块50与所述存储模块80相连,同时具有外网连接接口,用于读取图像预处理模块20预处理完的当前表格文档图像,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起网络众筹,对每个子图像进行文字录入,并将录入的文字存储在存储模块80中;
所述字符匹配模块60与所述存储模块80、预处理模块20和输出模块70相连,用于从所述存储模块80中读取当前表格文档的第一类字符和录入文字,将录入的文字与第一类字符进行定位匹配,对相同位置处的第一类字符进行校验;校验通过时,将当前第一类字符存储在临时文档中;校验不通过时,丢弃第一类字符,以当前子图像作为表格文档图像,发送给所述预处理模块20;遍历所有子图像且全部校验通过时,将所有第一类字符发送给输出模块70;
所述输出模块70用于输出临时文档中的所有第一类字符,作为当前气象纸质表格文档的数字化结果。
需要说明的是,本实施例中所述气象表格文档图像的快速数字化***与所述气象表格文档图像的快速数字化方法是对应的,对所述快速数字化方法的描述与限定同样适用于所述快速数字化***,在此不再赘述。
由以上技术方案可以看出,本发明实施方式所提供的气象表格文档图像的快速数字化方法及***,采用表格框线检测和字线分离算法,合理地采用深度学***台、易拓展、兼容性好等优势;使用Rest和web service相结合方式统一访问接口,提供数据获取功能,包括:图片信息查询、数字化图像汇总情况查询等,根据不同的应用模式和开发运行环境,提供包括REST服务和web service服务的多种服务方式,实现前后台交互使用。
以上所述是本发明的优选实施方式,应当指出,本发明并不受限于以上所公开的示范性实施例,说明书的实质仅仅是帮助相关领域技术人员综合理解本发明的具体细节。对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,在本发明揭露的技术范围做出的若干改进和润饰、可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种气象纸质表格文档的快速数字化方法,其特征在于,所述快速数字化方法包括如下步骤:
步骤S1,获取所述气象纸质表格文档的图像;
步骤S2,对表格文档图像进行预处理;
步骤S3,从所述处理完的表格文档图像中提取表格线;
步骤S4,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符存储为第一类字符;
步骤S5,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起众筹,对每个子图像进行文字录入;
步骤S6,将录入的文字与第一类字符进行定位匹配,对相同位置处的第一类字符进行校验;校验通过时,将当前第一类字符存储在临时文档中;校验不通过时,丢弃第一类字符,以当前子图像作为表格文档图像,转入步骤S2;遍历所有子图像且全部校验通过时,进入步骤S7。
步骤S7,输出临时文档中的所有第一类字符,作为当前气象纸质表格文档的数字化结果。
2.根据权利要求1所述的气象纸质表格文档的快速数字化方法,其特征在于,所述步骤S2中的预处理,包括对获取的表格文档图像进行倾斜校正和降噪。
3.根据权利要求1所述的气象纸质表格文档的快速数字化方法,其特征在于,步骤S3中表格线,包括表格横线、竖线和边框。
4.根据权利要求3所述的气象纸质表格文档的快速数字化方法,其特征在于,步骤S3采用霍夫变换方法实现表格线提取,具体步骤如下:
步骤S31,采用霍夫变换方法进行表格线检测。根据表格线与周围像素灰度差异,最短直线长度和最长直线长度,确定表格横线、竖线和边框,获取表格线初步提取结果;
步骤S32,对初步提取表格线进行结果优化,获得完整的表格线。
5.根据权利要求4所述的气象纸质表格文档的快速数字化方法,其特征在于,所述对初步提取表格线进行结果优化,包括:
直线融合,对断裂的直线进行连线,获得完整的表格横线和竖线;
直线筛选,对多提的直线且不属于表格线的部分去除;
表格边框补齐,对表格边界进行补齐。
6.根据权利要求1所述的气象纸质表格文档的快速数字化方法,其特征在于,所述步骤S4采用基于语义分割的DB深度学习模型实现表格字符定位,具体实现步骤如下:
步骤S41,采集字符定位数据集;
步骤S42,基于深度学习算法,构建字符提取和定位的DB模型;
步骤S43,基于所采信的字符定位数据集,对DB模型进行训练;
步骤S44,采用训练获得的DB模型,对所述表格文档图像进行字符提取和定位,将带有定位信息的字符存储为第一类字符。
7.根据权利要求6所述的气象纸质表格文档的快速数字化方法,其特征在于,所述步骤S43中对表格文档图像进行字符提取和定位,将扫描并预处理后的气象表格文档图像送入训练过的DB模型,得到表格中的字符坐标与中心点坐标,将中心点坐标对比表格线坐标得到字符目标与表格的一一对应位置,完成定位。
8.根据权利要求1所述的气象纸质表格文档的快速数字化方法,其特征在于,步骤S5具体包括:
步骤S51,将需要数字化的气象纸质表格文档图像汇交至数据中心,在数据中心统一对表格文档图像进行批量分割;
步骤S52,将分割的图片进行按照图片来源地理位置、图片id、图片名、图片路径等信息存储在数据库中;对各省汇交数据进行入库,日志信息录入数据库表;
步骤S53,在数据中心服务器上搭建图片访问服务器;
步骤S54,通知相关用户登录图片访问服务器,访问相应切割后的子图像,并根据图片信息执行录入操作,将录入结果上传至数据中心,完成文字录入。
9.根据权利要求1至8任一项所述的气象纸质表格文档的快速数字化方法,其特征在于,所述气象纸质表格文档的数字化方法,还包括:
步骤S8,搭建可视化展示框架,对所述数字化结果进行展示;
步骤S9,基于数据中心设置统一访问接口,通过所述统一访问接口为用户提供数据服务。
10.一种气象纸质表格文档的快速数字化***,其特征在于,所述***包括图像获取模块、图像预处理模块、表格线提取模块、字符识别模块、图像切割众筹模块、字符匹配模块、输出模块及存储模块;其中,
所述图像获取模块与所述图像预处理模块相连,用于获取所述气象纸质表格文档的图像,并发送给所述图像预处理模块;
所述图像预处理模块与所述表格线提取模块、字符识别模块和图像切割众筹相连,用于对图像获取模块发送的表格文档图像进行预处理;
所述表格线提取模块与所述字符识别模块相连,用于读取图像预处理模块预处理完成的图像,并从所述处理完的表格文档图像中提取表格线,并将所提取的表格线发送给所述字符识别模块;
所述字符识别模块与所述存储模块相连,用于读取表格线提取模块所提供的表格线,并读取图像预处理模块预处理完的与所述表格线对应的表格文档图像,基于表格线,对表格文档图像进行字符识别,完成对字符的提取和定位,将带有定位信息的字符作为第一类字符存储在存储模块中;
所述图像切割众筹模块与所述存储模块相连,同时具有外网连接接口,用于读取图像预处理模块预处理完的当前表格文档图像,对所述处理完的表格文档图像进行切割,并基于切割后的子图像发起网络众筹,对每个子图像进行文字录入,并将录入的文字存储在存储模块中;
所述字符匹配模块与所述存储模块、预处理模块和输出模块相连,用于从所述存储模块中读取当前表格文档的第一类字符和录入文字,将录入的文字与第一类字符进行定位匹配,对相同位置处的第一类字符进行校验;校验通过时,将当前第一类字符存储在临时文档中;校验不通过时,丢弃第一类字符,以当前子图像作为表格文档图像,发送给所述预处理模块;遍历所有子图像且全部校验通过时,将所有第一类字符发送给输出模块;
所述输出模块用于输出临时文档中的所有第一类字符,作为当前气象纸质表格文档的数字化结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110090678.3A CN112818785B (zh) | 2021-01-22 | 2021-01-22 | 一种气象纸质表格文档的快速数字化方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110090678.3A CN112818785B (zh) | 2021-01-22 | 2021-01-22 | 一种气象纸质表格文档的快速数字化方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112818785A true CN112818785A (zh) | 2021-05-18 |
CN112818785B CN112818785B (zh) | 2022-01-11 |
Family
ID=75859013
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110090678.3A Active CN112818785B (zh) | 2021-01-22 | 2021-01-22 | 一种气象纸质表格文档的快速数字化方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112818785B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113239893A (zh) * | 2021-06-10 | 2021-08-10 | 深圳智子系科技有限公司 | 一种文档录入复核方法、***、电子设备及介质 |
CN113610043A (zh) * | 2021-08-19 | 2021-11-05 | 海默潘多拉数据科技(深圳)有限公司 | 一种工业图纸表格结构化识别方法及*** |
CN113688795A (zh) * | 2021-09-27 | 2021-11-23 | 上海合合信息科技股份有限公司 | 一种将图像中表格转换为电子表格的方法及装置 |
CN113792677A (zh) * | 2021-09-17 | 2021-12-14 | 日立楼宇技术(广州)有限公司 | 一种表格识别方法、装置、计算机设备和存储介质 |
CN114973263A (zh) * | 2022-05-13 | 2022-08-30 | 中国石油大学(华东) | 一种大批量关键业务数据的自动快速采集分析*** |
CN115618852A (zh) * | 2022-11-22 | 2023-01-17 | 山东天成书业有限公司 | 一种文本数字化自动校对*** |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103107509A (zh) * | 2013-02-28 | 2013-05-15 | 尤田柱 | 基于电子表格的全自动继电保护定值整定计算及校验方法 |
CN107679024A (zh) * | 2017-09-11 | 2018-02-09 | 畅捷通信息技术股份有限公司 | 识别表格的方法、***、计算机设备、可读存储介质 |
CN108388894A (zh) * | 2017-12-26 | 2018-08-10 | 新智数字科技有限公司 | 一种数字表读数的识别方法、装置及设备 |
CN104881641B (zh) * | 2015-05-18 | 2019-01-25 | 上海交通大学 | 基于移动设备的问卷和表格数字化识别方法及*** |
CN109445948A (zh) * | 2018-11-15 | 2019-03-08 | 济南浪潮高新科技投资发展有限公司 | 一种基于智能合约的数据标注众包平台***及众包数据标注方法 |
CN110309746A (zh) * | 2019-06-21 | 2019-10-08 | 国网辽宁省电力有限公司鞍山供电公司 | 无通信互联的高等级信息安全区表格数据信息提取方法 |
CN111626145A (zh) * | 2020-05-08 | 2020-09-04 | 西安工业大学 | 一种简捷有效的残缺表格识别及跨页拼接方法 |
CN112052853A (zh) * | 2020-09-09 | 2020-12-08 | 国家气象信息中心 | 一种基于深度学习的手写气象档案资料的文本定位方法 |
-
2021
- 2021-01-22 CN CN202110090678.3A patent/CN112818785B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103107509A (zh) * | 2013-02-28 | 2013-05-15 | 尤田柱 | 基于电子表格的全自动继电保护定值整定计算及校验方法 |
CN104881641B (zh) * | 2015-05-18 | 2019-01-25 | 上海交通大学 | 基于移动设备的问卷和表格数字化识别方法及*** |
CN107679024A (zh) * | 2017-09-11 | 2018-02-09 | 畅捷通信息技术股份有限公司 | 识别表格的方法、***、计算机设备、可读存储介质 |
CN108388894A (zh) * | 2017-12-26 | 2018-08-10 | 新智数字科技有限公司 | 一种数字表读数的识别方法、装置及设备 |
CN109445948A (zh) * | 2018-11-15 | 2019-03-08 | 济南浪潮高新科技投资发展有限公司 | 一种基于智能合约的数据标注众包平台***及众包数据标注方法 |
CN110309746A (zh) * | 2019-06-21 | 2019-10-08 | 国网辽宁省电力有限公司鞍山供电公司 | 无通信互联的高等级信息安全区表格数据信息提取方法 |
CN111626145A (zh) * | 2020-05-08 | 2020-09-04 | 西安工业大学 | 一种简捷有效的残缺表格识别及跨页拼接方法 |
CN112052853A (zh) * | 2020-09-09 | 2020-12-08 | 国家气象信息中心 | 一种基于深度学习的手写气象档案资料的文本定位方法 |
Non-Patent Citations (4)
Title |
---|
LUIS VON AHN 等: "reCAPTCHA: Human-Based Character Recognition via Web Security Measures", 《WWW.SCIENCEMAG.ORG》 * |
余若男 等: "基于深度学习的场景文字检测研究进展", 《华东师范大学学报(自然科学版)》 * |
姚曼青: "基于数据共享的参与式设计研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
李庆昌: "基于神经树的英文字符识别技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113239893A (zh) * | 2021-06-10 | 2021-08-10 | 深圳智子系科技有限公司 | 一种文档录入复核方法、***、电子设备及介质 |
CN113610043A (zh) * | 2021-08-19 | 2021-11-05 | 海默潘多拉数据科技(深圳)有限公司 | 一种工业图纸表格结构化识别方法及*** |
CN113792677A (zh) * | 2021-09-17 | 2021-12-14 | 日立楼宇技术(广州)有限公司 | 一种表格识别方法、装置、计算机设备和存储介质 |
CN113792677B (zh) * | 2021-09-17 | 2023-10-17 | 日立楼宇技术(广州)有限公司 | 一种表格识别方法、装置、计算机设备和存储介质 |
CN113688795A (zh) * | 2021-09-27 | 2021-11-23 | 上海合合信息科技股份有限公司 | 一种将图像中表格转换为电子表格的方法及装置 |
CN114973263A (zh) * | 2022-05-13 | 2022-08-30 | 中国石油大学(华东) | 一种大批量关键业务数据的自动快速采集分析*** |
CN115618852A (zh) * | 2022-11-22 | 2023-01-17 | 山东天成书业有限公司 | 一种文本数字化自动校对*** |
Also Published As
Publication number | Publication date |
---|---|
CN112818785B (zh) | 2022-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112818785B (zh) | 一种气象纸质表格文档的快速数字化方法及*** | |
CN109840519B (zh) | 一种自适应的智能单据识别录入装置及其使用方法 | |
CN107633239B (zh) | 基于深度学习和ocr的票据分类及票据字段提取方法 | |
Hochberg et al. | Automatic script identification from document images using cluster-based templates | |
CN103488983B (zh) | 一种基于知识库的名片ocr数据修正方法和*** | |
KR20190123790A (ko) | 전자 문서로부터 데이터 추출 | |
CN111027297A (zh) | 一种对图像型pdf财务数据关键表格信息的处理方法 | |
CN111626146A (zh) | 一种基于模板匹配的合并单元格表格分割识别方法 | |
CN112508011A (zh) | 一种基于神经网络的ocr识别方法及设备 | |
CN112016481B (zh) | 基于ocr的财务报表信息检测和识别方法 | |
CN105740857A (zh) | 一种基于ocr的快速纸笔投票结果自动采集与识别*** | |
CN103902993A (zh) | 文档图像识别方法和设备 | |
JP2000293626A (ja) | 文字認識方法及び装置ならびに記憶媒体 | |
CN110490185A (zh) | 一种基于多次对比矫正ocr名片信息识别改进方法 | |
CN114463767A (zh) | 信用证识别方法、装置、计算机设备和存储介质 | |
CN112733828A (zh) | 一种进行字符识别的方法及*** | |
CN114529932A (zh) | 一种征信报告识别方法 | |
CN111340032A (zh) | 一种基于金融领域应用场景的字符识别方法 | |
KR100655916B1 (ko) | 방대한 데이터의 디지털화를 위한 문서영상처리 및검증시스템 및 그 방법 | |
CN115830620B (zh) | 一种基于ocr的档案文本数据处理方法及*** | |
CN108133205B (zh) | 复制图像中文本内容的方法及装置 | |
CN116403233A (zh) | 一种基于数字化档案图像定位及识别方法 | |
CN114758340A (zh) | 物流地址智能识别方法、装置、设备及存储介质 | |
CN112348022A (zh) | 一种基于深度学习的自由格式文档识别方法 | |
CN105913547A (zh) | 一种账票光学识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |