CN115116080A - 表格解析方法、装置、电子设备和存储介质 - Google Patents
表格解析方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN115116080A CN115116080A CN202210781115.3A CN202210781115A CN115116080A CN 115116080 A CN115116080 A CN 115116080A CN 202210781115 A CN202210781115 A CN 202210781115A CN 115116080 A CN115116080 A CN 115116080A
- Authority
- CN
- China
- Prior art keywords
- information
- detection box
- text detection
- sub
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/414—Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/177—Editing, e.g. inserting or deleting of tables; using ruled lines
- G06F40/18—Editing, e.g. inserting or deleting of tables; using ruled lines of spreadsheets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/002—Image coding using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/14—Image acquisition
- G06V30/146—Aligning or centring of the image pick-up or image-field
- G06V30/147—Determination of region of interest
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/18—Extraction of features or characteristics of the image
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了表格解析方法、装置、电子设备和存储介质,涉及人工智能技术领域,具体为深度学习、图像处理、计算机视觉技术领域,可应用于OCR等场景。实现方案为:获取待处理的表格图像;对表格图像进行编码,以获取表格图像对应的特征图;对特征图进行解码,获取表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容;根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息;根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。该方法实现了表格内容的解析,以及表格行信息和列信息的解析,从而实现了对表格图像的结构化解析。
Description
技术领域
本申请涉及人工智能技术领域,具体为深度学习、图像处理、计算机视觉技术领域,可应用于OCR(Optical Character Recognition,光学字符识别)等场景,具体涉及一种表格解析方法、装置、电子设备和存储介质。
背景技术
文档是保存信息的重要途径,其中表格是文档中最常见也最直观的一种信息组织形式,包含了用户的很多结构化的信息,获取这些结构化信息有助于构建庞大的数据库来进行数据的存储和管理。
相关技术中,可以获取的通常是图像形式的文档,那么如何从图像形式的文档表格中解析出所需的结构化信息,是亟待解决的技术问题。
发明内容
本申请提供了一种表格解析方法、装置、电子设备和存储介质。
根据本申请的一方面,提供了一种表格解析方法,包括:
获取待处理的表格图像;
对所述表格图像进行编码,以获取所述表格图像对应的特征图;
对所述特征图进行解码,以获取所述表格图像中各文本检测框的第一位置信息及各所述文本检测框中的文本内容;
根据所述特征图和所述第一位置信息,确定所述文本检测框对应的第一行信息及列信息;
根据所述文本内容、所述第一行信息、和所述列信息,生成所述表格图像对应的解析结果。
根据本申请的另一方面,提供了一种表格解析装置,包括:
第一获取模块,用于获取待处理的表格图像;
第二获取模块,用于对所述表格图像进行编码,以获取所述表格图像对应的特征图;
第三获取模块,用于对所述特征图进行解码,以获取所述表格图像中各文本检测框的第一位置信息及各所述文本检测框中的文本内容;
确定模块,用于根据特征图和所述第一位置信息,确定所述文本检测框对应的第一行信息及列信息;
生成模块,用于根据所述文本内容、所述第一行信息、和所述列信息,生成所述表格图像对应的解析结果。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述实施例所述的方法。
根据本申请的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述实施例所述的方法。
根据本申请的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述实施例所述方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请一实施例提供的表格解析方法的流程示意图;
图2为本申请另一实施例提供的表格解析方法的流程示意图;
图3为本申请另一实施例提供的表格解析方法的流程示意图;
图4为本申请另一实施例提供的表格解析方法的流程示意图;
图5为本申请一实施例提供的表格解析过程示意图;
图6为本申请一实施例提供的表格解析装置的结构示意图;
图7是用来实现本申请实施例的表格解析方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
人工智能是研究使用计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术领域也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术包括计算机视觉技术、语音识别技术、自然语言处理技术以及深度学习、大数据处理技术、知识图谱技术等几大方向。
深度学习是机器学习领域中一个新的研究方向。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。
计算机视觉是一门研究如何使机器“看”的科学,是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。
下面参考附图描述本申请实施例的表格解析方法、装置、电子设备和存储介质。
图1为本申请一实施例提供的表格解析方法的流程示意图。
本申请实施例的表格解析方法,可以由本申请实施例的表格解析装置执行,该装置可以配置于电子设备中,以通过特征图得到各文本检测框的第一位置信息和各文本检测框中的文本内容,并根据文本检测框的第一位置信息和表格图像的特征图,确定文本检测框对应的第一行信息和列信息,从而实现了对表格图像的结构化解析。
其中,电子设备可以为任一具有计算能力的设备,例如可以为个人电脑、移动终端、服务器等,移动终端例如可以为车载设备、手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作***、触摸屏和/或显示屏的硬件设备。
如图1所示,该表格解析方法包括:
步骤101,获取待处理的表格图像。
其中,表格图像是指包含表格的图像,表格图像可以是直接对纸质表格、终端上显示的表格等进行拍摄得到的,也可以是从文档图像中提取的,本申请对此不作限定。
步骤102,对表格图像进行编码,以获取表格图像对应的特征图。
本申请中,可以采用神经网络模型对表格图像进行编码,获取表格图像对应的特征图。
在实现时,对表格图像的文本检测和文本识别可以由两个模型来完成的,也就是先利用文本检测模型对表格图像进行文本检测,基于文本检测结果再利用只进行文本识别的模型进行文本识别,那么可以将表格图像输入到文本检测模型,文本检测模型可以对表格图像进行编码,得到特征图。
或者,对表格图像的文本检测和文本识别也可以是由一个模型完成的,那么可以将表格图像输入到该文本识别模型中,该文本识别模型对表格图像进行编码,得到表格图像对应的特征图。
步骤103,对特征图进行解码,以获取表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容。
本申请中,可以根据特征图,确定表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容。
其中,文本检测框可以是包围表格图像中文本内容的四边形,比如,文本检测框可以是包围表格中单元格中文本内容的四边形;文本检测框的第一位置信息可以包括四边形的四个顶点在表格图像中的坐标信息。
若特征图是由文本检测模型进行编码得到的,那么对特征图进行编码,可以获取表格图像中每个文本检测框的第一位置信息,之后根据每个文本检测框的第一位置信息和表格图像再进行文本识别,可以获取每个文本检测框中的文本内容。
若特征图是由完成文本检测和文本识别两个任务的模型编码得到的,那么对特征图进行解码,可以直接获取各文本检测框的第一位置信息和各文本检测框中的文本内容。
步骤104,根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息。
本申请中,可以根据文本检测框的第一位置信息,确定特征图中文本检测框对应的特征,并基于文本检测框对应的特征,确定文本检测框的第一行信息和列信息。
其中,文本检测框的第一行信息和列信息,是指文本检测框在表格中的第几行和第几列。
步骤105,根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。
本申请中,可以根据每个文本检测框中的文本内容,及每个文本检测框对应的第一行信息和列信息,确定每个文本检测框中的文本内容在表格中的第几行和第几列,从而根据各文本检测框中的文本内容对应的第一行信息和列信息,可以生成表格图像对应的解析结果。
本申请实施例中,通过对待处理的表格图像对应的特征图进行解码,得到表格图像中各文本检测框的第一位置信息和各文本检测框中的文本内容,并根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息,由此结合文本检测框中的文本内容,得到表格图像的表格解析结果,从而实现了表格图像的结构化解析。另外,基于各文本检测框的第一位置信息,确定各文本检测框对应的第一行信息及列信息,可以提高行之间及列之间边界定位的准确性,进而可以提高解析结果的准确性。
图2为本申请另一实施例提供的表格解析方法的流程示意图。
如图2所示,该表格解析方法包括:
步骤201,获取待处理的表格图像。
步骤202,对表格图像进行编码,以获取表格图像对应的特征图。
步骤203,对特征图进行解码,以获取表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容。
本申请中,步骤201-步骤203与上述实施例中记载的内容类似,故在此不再赘述。
步骤204,根据第一位置信息对特征图进行切分处理,以获取文本检测框对应的第一子特征。
本申请中,可以根据表格图像的尺寸和特征图的尺寸,确定特征图中与每个文本检测框的第一位置信息对应的特征区域,并根据特征图中与每个文本检测框的第一位置信息对应的特征区域,从特征图中切分出每个文本检测框对应的第一子特征。由此,基于文本检测框的第一位置信息,获取文本检测框对应的第一子特征,提高了文本检测框对应的第一子特征的准确性。
比如,表格图像的尺寸与特征图的尺寸相同,可以将特征图中与文本检测框的第一位置信息对应的特征区域,作为文本检测框对应的第一子特征所在特征区域。
步骤205,根据第一子特征,确定第一行信息和列信息。
本申请中,在根据文本检测框对应的第一子特征,确定文本检测框对应的列信息和文本检测框对应的第一行信息时,可以采用不同的方式确定。
如果某类表格包括的属性位于表格的第一行,可以将每列上的属性看作一个类别,那么在对该类表格图像进行解析时,可以根据各文本检测框对应的第一子特征,确定每个文本检测框对应的类别,从而根据预设的各类别对应的列信息,可以确定每个文本检测框对应的列信息。在确定每个文本检测框对应的第一行信息时,可以根据各文本检测框对应的第一子特征之间的距离,确定属于同一行的第一子特征,并根据各文本检测框的第一位置信息,确定属于同一行的第一子特征对应的行信息,从而可以确定每个文本检测框对应的第一行信息。
比如,某类表格包括的属性位于表格的第一行,分别是“姓名”、“性别”和“年龄”,这三个属性所在的列依次是表格中的第1列、第2列、第3列,可以将每列上的属性看作一个类别。那么,在对该类表格进行解析时,可以根据表格中每个文本检测框对应的第一子特征,确定每个文本检测框对应的类别,从而根据“姓名”、“性别”和“年龄”三个类别对应的列信息,可以确定每个文本检测框对应的列信息。
如果某类表格包括的属性位于表格的第一列,可以将每行上的属性看作一个类别,那么在对该类表格图像进行解析时,可以根据每个文本检测框对应的第一子特征,确定每个文本检测框对应的类别,从而根据预设的各类别对应的行信息,可以确定每个文本检测框对应的行信息。在确定各文本检测框对应的列信息时,可以根据各文本检测框对应的第一子特征之间的距离,确定属于同一列的第一子特征,并根据各文本检测框的第一位置信息,确定属于同一列的第一子特征对应的列信息,从而可以确定每个文本检测框对应的列信息。
步骤206,根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。
本申请中,步骤206与上述实施例记载的内容类似,故在此不再赘述。
本申请实施例中,在根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息时,可以根据文本检测框的第一位置信息对特征图进行切分处理,以获取文本检测框对应的第一子特征,并根据文本检测框对应的第一子特征,确定文本检测框对应的第一行信息及列信息,由此基于文本检测框对应的第一子特征,可以实现文本检测框的列信息和行信息的解析,并且基于文本检测框对应的第一子特征进行行信息和列信息的解析,提高了表格解析结果的准确性。
图3为本申请另一实施例提供的表格解析方法的流程示意图。
如图3所示,该表格解析方法包括:
步骤301,获取待处理的表格图像。
步骤302,对表格图像进行编码,以获取表格图像对应的特征图。
步骤303,对特征图进行解码,以获取表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容。
步骤304,根据第一位置信息对特征图进行切分处理,以获取文本检测框对应的第一子特征。
本申请中,步骤301-步骤304与上述实施例记载的内容类似,故在此不再赘述。
步骤305,对第一子特征进行列属性的分类,以确定列信息。
本申请中,若待处理的表格图像中的表格,是属性位于表格的第一行这种类型的表格,可以对文本检测框对应的第一子特征进行列属性的分类,确定文本检测框中的文本内容属于每个类别的概率,并根据文本检测框中的文本内容属于每个类别的概率,从多个类别中确定出文本检测框中的文本内容所属的类别,从而根据文本检测框中的文本内容所属类别所在的列,可以确定文本检测框对应的列信息。
在实际应用中,由于表格中不同单元格中文本内容的长度可能不同,那么各文本检测框的大小可能不同,相应地各文本检测框对应的第一子特征的大小也可能不同。
基于此,本申请中,在确定文本检测框中文本内容属于每个类别的概率时,可以将每个文本检测框对应的第一子特征,处理为统一大小的特征并进行一维向量化,之后将每个文本检测框对应的一维向量化后得到的特征矩阵与预设的矩阵进行相乘,得到的矩阵中包括各文本检测框中的文本内容属于每个类别的概率。其中,预设的矩阵可以是通过模型训练得到的。
比如,某类表格的列属性有3个,也即有3个类别,对该类表格的某表格的图像进行解析,可以将该表格的n个文本检测框对应的第一子特征,都统一为10*10大小并进行一维向量化,从而可以得到n*100的矩阵,之后将n*100的矩阵与100*3的矩阵相乘得到n*3的一个矩阵,也即每个文本检测框对应一个维度为3的向量,维度为3的向量中每个元素值表示每个文本检测框中的文本内容属于每个类别的概率。
步骤306,根据第一子特征并通过聚类方式,确定第一行信息。
本申请中,在模型训练时,可以使同一行的文本内容的特征之间的距离更小,而不同行的文本内容的特征之间的距离更大,那么在模型应用阶段时,可以根据表格图像中各文本检测框对应的第一子特征,通过聚类确定各文本检测框对应的第一行信息。
作为一种可能的实现方式,可以对各文本检测框对应的第一子特征进行聚类,以获取至少两个第一类簇,其中,每个第一类簇中的第一子特征对应的文本检测框属于同一行,之后可以根据每个第一类簇中第一子特征对应的文本检测框的第二位置信息,确定每个第一类簇对应的第二行信息,并根据每个第一类簇对应的第二行信息,确定每个第一类簇中第一子特征对应的文本检测框对应的第一行信息,从而可以确定表格图像中每个文本检测框的第一行信息。其中,第二位置信息可以是指第一类簇中第一子特征对应的文本检测框在表格图像中的位置信息;第二行信息与第一行信息相同。
比如,某表格中包括9个文本检测框,通过对9个文本检测框对应的第一子特征进行聚类,得到3个类簇,说明该表格共有3行,每个类簇对应表格中的一行,根据3个类簇中第一子特征对应的文本检测框的第二位置信息,可以确定每个类簇对应的第二行信息,比如某类簇对应表格的第1行,说明该类簇中的第一子特征对应的文本检测框位于表格的第1行。
由此,通过对文本检测框对应的第一子特征进行聚类,可以确定每个文本检测框对应的第一行信息,从而实现了对表格行信息的解析。另外,通过聚类将属于同一行的文本检测框的第一子特征聚合在一起,由此确定文本检测框对应的第一行信息,提高了表格行信息解析结果的准确性。
作为另一种可能的实现方式,可以先将文本检测框对应的第一子特征映射到多维空间,以获取文本检测框对应的第二子特征,之后对各文本检测框对应的第二子特征进行聚类,以获取至少两个第二类簇,并根据每个第二类簇中第二子特征对应的文本检测框的第二位置信息,确定每个第二类簇对应的第三行信息,并根据每个第二类簇对应的第三行信息,确定每个第二类簇中第二子特征对应的文本检测框对应的第一行信息,从而可以确定表格图像中每个文本检测框的第一行信息。其中,第三位置信息可以是指第二类簇中第二子特征对应的文本检测框在表格图像中的位置信息;第三行信息与第一行信息相同。
比如,某表格的各文本检测框对应的第一子特征构成k*5*2的三维矩阵,其中,k表示文本检测框的数量,可以将三维矩阵中后两维拼接成一维,得到k*10的矩阵,之后可以将k*10的矩阵与模型学习得到的10*20的映射矩阵相乘,得到k*20的矩阵,也即每个文本检测框对应的第二子特征可以用一个长度为20维的向量表示。之后,可以对k个文本检测框对应的第二子特征进行聚类,以将属于同一行的文本检测框对应的第二子特征聚到一起,得到至少两个第二类簇,每个第二类簇对应表格中的一行。
由此,通过将文本检测框对应的第一子特征映射到多维空间,得到文本检测框对应的第二子特征,之后再对第二子特征进行聚类,确定各文本检测框对应的第一行信息,从而实现了对表格行信息的解析,并且通过聚类将属于同一行的文本检测框的第二子特征聚合在一起,由此确定各文本检测框对应的第一行信息,提高了表格行信息解析结果的准确性。另外,将第一子特征映射到多维空间,使得第二子特征相比第一子特征在聚类时更容易区分,进一步提高了表格行信息解析结果的准确性。
本申请中,在对各文本检测框对应的第一子特征或者第二子特征进行聚类时,可以采用多种聚类算法进行聚类,比如K均值、DBSCAN(Density-Based Spatial Clusteringof Applications with Noise,基于密度的含噪应用空间聚类)等,本申请对此不作限定。
步骤307,根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。
本申请中,步骤307与上实施例记载的内容类似,故在此不再赘述。
本申请实施例中,在根据文本检测框对应的第一子特征,确定文本检测框对应的第一列信息及行信息时,通过对第一子特征进行列属性的分类,以确定文本检测框对应的列信息,并根据第一子特征并通过聚类方式,确定文本检测框对应的第一行信息,从而实现了对表格行信息和列信息的解析。另外,通过聚类方式确定文本检测框对应的第一行信息,提高了表格行信息解析结果的准确性。
需要说明的是,对于属性位于表格的第一列的类型的表格,可以对表格图像中每个文本检测框对应的第一子特征进行行属性的分类,以确定每个文本检测框对应的行信息,这与上述列属性的分类,确定文本检测框对应的列信息的类似,故在此不再赘述。对于列信息的解析,可以根据文本检测框对应的第一子特征并通过聚类方式,确定文本检测框对应的列信息,这与上述通过聚类,确定文本检测框对应的第一行信息类似,故在此不再赘述。
图4为本申请另一实施例提供的表格解析方法的流程示意图。
如图4所示,该表格解析方法包括:
步骤401,获取待处理的表格图像。
本申请中,步骤401与上述实施例记载的内容类似,故在此不再赘述。
步骤402,对表格图像进行编码,以获取表格图像对应的特征图。
本申请中,对于表格图像的文本检测和文本识别可以分别建立模型,可以先利用文本检测模型中的编码层对表格图像进行编码,得到表格图像对应的特征图。
步骤403,对特征图进行解码,以获取第一位置信息。
本申请中,可以利用文本检测模型中解码层对特征图进行解码,得到每个文本检测框的第一位置信息。
其中,文本检测框可以是包围表格图像中文本内容的四边形,比如,文本检测框可以是包围表格中单元格中文本内容的四边形;文本检测框的第一位置信息可以包括四边形的四个顶点在表格图像中的坐标信息。
步骤404,根据第一位置信息,从表格图像中提取各文本检测框对应的图像区域。
本申请中,可以根据每个文本检测框的第一位置信息,确定表格图像中每个文本检测框所包围的图像区域,由此可以从表格图像中提取各文本检测框对应的图像区域。其中,文本检测框对应的图像区域中包括文本内容的图像。
步骤405,对图像区域进行文本识别,以获取文本内容。
本申请中,可以将每个文本检测框对应的图像区域,分别输入到文本识别模型中进行文本识别,以获取每个文本检测框中的文本内容,从而实现表格内容的解析。
步骤406,根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息。
步骤407,根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。
本申请,步骤406-步骤407与上述实施例记载的内容类似,故在此不再赘述。
本申请实施例中,可以先对表格图像对应的特征图进行解码,获取各文本检测框的第一位置信息,之后根据每个文本检测框的第一位置信息,从表格图像中提取每个文本检测框对应的图像区域,并对每个文本检测框对应的图像区域进行文本识别,获取每个文本检测框中的文本内容,从而实现了表格内容的解析。
为了便于理解,下面结合图5进行说明,图5为本申请一实施例提供的表格解析过程示意图。其中,图5中示出的是对表格行信息和列信息的解析过程。
如图5所示,可以将待处理的表格图像输入CNN(Convolutional NeuralNetworks,卷积神经网络)进行编码,得到该表格图像对应的特征图,对特征图进行解码,可以得到文本置信度矩阵和文本区域位置矩阵。
其中,文本置信度矩阵是一个二维矩阵,文本置信度矩阵中每个元素用于表示对应区域包含文本内容的概率;文本区域位置矩阵是一个三维矩阵,第三维包含8个值,8个值表征对应的区域的四个顶点的8个坐标值。
之后,可以利用文本置信度矩阵中置信度大于阈值的区域的位置信息,对特征图进行切分,得到9个区域分别对应的子特征,这9个区域也就是上述实施例中的文本检测框,图5中每个小矩形表示一个文本检测框对应的第一子特征。
可以理解的是,也可以先基于文本置信度矩阵,确定出置信度大于阈值的区域,也即确定出文本检测框,利用这些文本检测框的第一位置信息,从特征图中切分出每个文本检测框对应的第一子特征。
之后,对这9个文本检测框对应的第一子特征进行列属性的分类,以确定每个文本检测框属于3个类别“项目”、“数量”、“金额”中哪一个类别,从而根据每个类别所在列,可以确定每个文本检测框对应的列信息。并且,可以将这9个文本检测框对应的第一子特征映射到多维空间后进行聚类,从而将同一行的文本检测框对应的第一子特征聚到一起,得到3个类簇,其中每个类簇对应表格的一行。
另外,根据各文本检测框的第一位置信息,可以从该表格图像中提取到每个文本检测框对应的图像区域,并对每个文本检测框对应的图像区域进行文本识别,得到每个文本检测框中的文本内容。由此,根据各文本检测框对应的行信息和列信息,以及各文本检测框中的文本内容,可以生成该表格图像的解析结果。
为了实现上述实施例,本申请实施例还提出一种表格解析装置。图6为本申请一实施例提供的表格解析装置的结构示意图。
如图6所示,该表格解析装置600包括:
第一获取模块610,用于获取待处理的表格图像;
第二获取模块620,用于对表格图像进行编码,以获取表格图像对应的特征图;
第三获取模块630,用于对特征图进行解码,以获取表格图像中各文本检测框的第一位置信息及各文本检测框中的文本内容;
确定模块640,用于根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息;
生成模块650,用于根据文本内容、第一行信息、和列信息,生成表格图像对应的解析结果。
在本申请实施例一种可能的实现方式中,确定模块640,包括:
获取单元,用于根据第一位置信息对特征图进行切分处理,以获取文本检测框对应的第一子特征;
确定单元,用于根据第一子特征,确定第一行信息和列信息。
在本申请实施例一种可能的实现方式中,获取单元,用于:
确定特征图中与第一位置信息对应的特征区域;
根据特征区域,对特征图进行切分,得到第一子特征。
在本申请实施例一种可能的实现方式中,确定单元,用于:
对第一子特征进行列属性的分类,以确定列信息;
根据第一子特征并通过聚类方式,确定第一行信息。
在本申请实施例一种可能的实现方式中,确定单元,用于:
对第一子特征进行聚类,以获取至少两个第一类簇;
根据每个第一类簇中第一子特征对应的文本检测框的第二位置信息,确定每个第一类簇对应的第二行信息;
根据第二行信息,确定第一。
在本申请实施例一种可能的实现方式中,确定单元,用于:
将第一子特征映射到多维空间,以获取文本检测框对应的第二子特征;
对第二子特征进行聚类,以获取至少两个第二类簇;
根据每个第二类簇中第二子特征对应的文本检测框的第二位置信息,确定每个第二类簇对应的第三行信息;
根据第三行信息,确定第一行信息。
在本申请实施例一种可能的实现方式中,第三获取模块630,用于:
对特征图进行解码,以获取第一位置信息;
根据第一位置信息,从表格图像中提取各文本检测框对应的图像区域;
对图像区域进行文本识别,以获取文本内容。
需要说明的是,前述表格解析方法实施例的解释说明,也适用于该实施例的表格解析装置,故在此不再赘述。
本申请实施例中,通过对待处理的表格图像对应的特征图进行解码,得到表格图像中各文本检测框的第一位置信息和各文本检测框中的文本内容,并根据特征图和第一位置信息,确定文本检测框对应的第一行信息及列信息,由此结合文本检测框中的文本内容,得到表格图像的表格解析结果,从而实现了表格图像的结构化解析。另外,基于各文本检测框的第一位置信息,确定各文本检测框对应的第一行信息及列信息,可以提高行之间及列之间边界定位的准确性,进而可以提高解析结果的准确性。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本申请的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,设备700包括计算单元701,其可以根据存储在ROM(Read-OnlyMemory,只读存储器)702中的计算机程序或者从存储单元708加载到RAM(Random AccessMemory,随机访问/存取存储器)703中的计算机程序,来执行各种适当的动作和处理。在RAM703中,还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。I/O(Input/Output,输入/输出)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于CPU(Central Processing Unit,中央处理单元)、GPU(Graphic Processing Units,图形处理单元)、各种专用的AI(Artificial Intelligence,人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(Digital SignalProcessor,数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如表格解析方法。例如,在一些实施例中,表格解析方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的表格解析方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行表格解析方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、FPGA(Field Programmable Gate Array,现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit,专用集成电路)、ASSP(Application Specific StandardProduct,专用标准产品)、SOC(System On Chip,芯片上***的***)、CPLD(ComplexProgrammable Logic Device,复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory,可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Disc Read-Only Memory,便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode-Ray Tube,阴极射线管)或者LCD(Liquid Crystal Display,液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:LAN(LocalArea Network,局域网)、WAN(Wide Area Network,广域网)、互联网和区块链网络。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(VirtualPrivate Server,虚拟专用服务器)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
根据本申请的实施例,本申请还提供了一种计算机程序产品,当计算机程序产品中的指令处理器执行时,执行本申请上述实施例提出的表格解析方法。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (17)
1.一种表格解析方法,包括:
获取待处理的表格图像;
对所述表格图像进行编码,以获取所述表格图像对应的特征图;
对所述特征图进行解码,以获取所述表格图像中各文本检测框的第一位置信息及各所述文本检测框中的文本内容;
根据所述特征图和所述第一位置信息,确定所述文本检测框对应的第一行信息及列信息;
根据所述文本内容、所述第一行信息、和所述列信息,生成所述表格图像对应的解析结果。
2.如权利要求1所述的方法,其中,所述根据所述特征图和所述第一位置信息,确定所述文本检测框对应的第一行信息及列信息,包括:
根据所述第一位置信息对所述特征图进行切分处理,以获取所述文本检测框对应的第一子特征;
根据所述第一子特征,确定所述第一行信息和所述列信息。
3.如权利要求2所述的方法,其中,所述根据所述第一位置信息对所述特征图进行切分处理,以获取所述文本检测框对应的第一子特征,包括:
确定所述特征图中与所述第一位置信息对应的特征区域;
根据所述特征区域,对所述特征图进行切分,得到所述第一子特征。
4.如权利要求2所述的方法,其中,所述根据所述第一子特征,确定所述第一行信息和所述列信息,包括:
对所述第一子特征进行列属性的分类,以确定所述列信息;
根据所述第一子特征并通过聚类方式,确定所述第一行信息。
5.如权利要求4所述的方法,其中,所述根据所述第一子特征并通过聚类方式,确定所述第一行信息,包括:
对所述第一子特征进行聚类,以获取至少两个第一类簇;
根据每个所述第一类簇中第一子特征对应的文本检测框的第二位置信息,确定每个所述第一类簇对应的第二行信息;
根据所述第二行信息,确定所述第一行信息。
6.如权利要求4所述的方法,其中,所述根据所述第一子特征并通过聚类方式,确定所述第一行信息,包括:
将所述第一子特征映射到多维空间,以获取所述文本检测框对应的第二子特征;
对所述第二子特征进行聚类,以获取至少两个第二类簇;
根据每个所述第二类簇中第二子特征对应的文本检测框的第二位置信息,确定每个所述第二类簇对应的第三行信息;
根据所述第三行信息,确定所述第一行信息。
7.如权利要求1所述的方法,其中,所述对所述特征图进行解码,以获取所述表格图像中各文本检测框的第一位置信息及各所述文本检测框中的文本内容,包括:
对所述特征图进行解码,以获取所述第一位置信息;
根据所述第一位置信息,从所述表格图像中提取各所述文本检测框对应的图像区域;
对所述图像区域进行文本识别,以获取所述文本内容。
8.一种表格解析装置,包括:
第一获取模块,用于获取待处理的表格图像;
第二获取模块,用于对所述表格图像进行编码,以获取所述表格图像对应的特征图;
第三获取模块,用于对所述特征图进行解码,以获取所述表格图像中各文本检测框的第一位置信息及各所述文本检测框中的文本内容;
确定模块,用于根据所述特征图和所述第一位置信息,确定所述文本检测框对应的第一行信息及列信息;
生成模块,用于根据所述文本内容、所述第一行信息、和所述列信息,生成所述表格图像对应的解析结果。
9.如权利要求8所述的装置,其中,所述确定模块,包括:
获取单元,用于根据所述第一位置信息对所述特征图进行切分处理,以获取所述文本检测框对应的第一子特征;
确定单元,用于根据所述第一子特征,确定所述第一行信息和所述列信息。
10.如权利要求9所述的装置,其中,所述获取单元,用于:
确定所述特征图中与所述第一位置信息对应的特征区域;
根据所述特征区域,对所述特征图进行切分,得到所述第一子特征。
11.如权利要求9所述的装置,其中,所述确定单元,用于:
对所述第一子特征进行列属性的分类,以确定所述列信息;
根据所述第一子特征并通过聚类方式,确定所述第一行信息。
12.如权利要求11所述的装置,其中,所述确定单元,用于:
对所述第一子特征进行聚类,以获取至少两个第一类簇;
根据每个所述第一类簇中第一子特征对应的文本检测框的第二位置信息,确定每个所述第一类簇对应的第二行信息;
根据所述第二行信息,确定所述第一行信息。
13.如权利要求11所述的装置,其中,所述确定单元,用于:
将所述第一子特征映射到多维空间,以获取所述文本检测框对应的第二子特征;
对所述第二子特征进行聚类,以获取至少两个第二类簇;
根据每个所述第二类簇中第二子特征对应的文本检测框的第二位置信息,确定每个所述第二类簇对应的第三行信息;
根据所述第三行信息,确定所述第一行信息。
14.如权利要求8所述的装置,其中,所述第三获取模块,用于:
对所述特征图进行解码,以获取所述第一位置信息;
根据所述第一位置信息,从所述表格图像中提取各所述文本检测框对应的图像区域;
对所述图像区域进行文本识别,以获取所述文本内容。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现权利要求1-7中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210781115.3A CN115116080A (zh) | 2022-07-04 | 2022-07-04 | 表格解析方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210781115.3A CN115116080A (zh) | 2022-07-04 | 2022-07-04 | 表格解析方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115116080A true CN115116080A (zh) | 2022-09-27 |
Family
ID=83331060
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210781115.3A Pending CN115116080A (zh) | 2022-07-04 | 2022-07-04 | 表格解析方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115116080A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115497113A (zh) * | 2022-09-30 | 2022-12-20 | 北京百度网讯科技有限公司 | 信息生成方法、装置、电子设备以及存储介质 |
-
2022
- 2022-07-04 CN CN202210781115.3A patent/CN115116080A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115497113A (zh) * | 2022-09-30 | 2022-12-20 | 北京百度网讯科技有限公司 | 信息生成方法、装置、电子设备以及存储介质 |
CN115497113B (zh) * | 2022-09-30 | 2023-11-14 | 北京百度网讯科技有限公司 | 信息生成方法、装置、电子设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112966522B (zh) | 一种图像分类方法、装置、电子设备及存储介质 | |
CN114155543B (zh) | 神经网络训练方法、文档图像理解方法、装置和设备 | |
EP3570208A1 (en) | Two-dimensional document processing | |
EP4040401A1 (en) | Image processing method and apparatus, device and storage medium | |
CN109284371B (zh) | 反欺诈方法、电子装置及计算机可读存储介质 | |
CN113989593A (zh) | 图像处理方法、检索方法、训练方法、装置、设备及介质 | |
US11861919B2 (en) | Text recognition method and device, and electronic device | |
CN114549874A (zh) | 多目标图文匹配模型的训练方法、图文检索方法及装置 | |
CN113221743A (zh) | 表格解析方法、装置、电子设备和存储介质 | |
CN114494784A (zh) | 深度学习模型的训练方法、图像处理方法和对象识别方法 | |
CN113627439A (zh) | 文本结构化处理方法、处理装置、电子设备以及存储介质 | |
CN113177449A (zh) | 人脸识别的方法、装置、计算机设备及存储介质 | |
CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
CN114429633A (zh) | 文本识别方法、模型的训练方法、装置、电子设备及介质 | |
CN113537192A (zh) | 图像检测方法、装置、电子设备及存储介质 | |
US20230096921A1 (en) | Image recognition method and apparatus, electronic device and readable storage medium | |
US11881044B2 (en) | Method and apparatus for processing image, device and storage medium | |
CN115116080A (zh) | 表格解析方法、装置、电子设备和存储介质 | |
CN114661904B (zh) | 文档处理模型的训练方法、装置、设备、存储介质及程序 | |
CN114842482B (zh) | 一种图像分类方法、装置、设备和存储介质 | |
CN115082598A (zh) | 文本图像生成、训练、文本图像处理方法以及电子设备 | |
CN114842489A (zh) | 表格解析方法及装置 | |
CN114881227A (zh) | 模型压缩方法、图像处理方法、装置和电子设备 | |
CN113806541A (zh) | 情感分类的方法和情感分类模型的训练方法、装置 | |
CN114707638A (zh) | 模型训练、对象识别方法及装置、设备、介质和产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |