CN112115865B - 用于处理图像的方法、装置、设备以及存储介质 - Google Patents
用于处理图像的方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN112115865B CN112115865B CN202010987108.XA CN202010987108A CN112115865B CN 112115865 B CN112115865 B CN 112115865B CN 202010987108 A CN202010987108 A CN 202010987108A CN 112115865 B CN112115865 B CN 112115865B
- Authority
- CN
- China
- Prior art keywords
- sub
- coordinate
- text information
- feature vector
- piece
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012545 processing Methods 0.000 title claims abstract description 49
- 239000013598 vector Substances 0.000 claims abstract description 144
- 230000000007 visual effect Effects 0.000 claims abstract description 49
- 230000004931 aggregating effect Effects 0.000 claims description 19
- 230000015654 memory Effects 0.000 claims description 19
- 230000002776 aggregation Effects 0.000 claims description 14
- 238000004220 aggregation Methods 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 9
- 238000013145 classification model Methods 0.000 abstract description 22
- 238000001514 detection method Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000003058 natural language processing Methods 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 7
- 238000004590 computer program Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012015 optical character recognition Methods 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 240000000233 Melia azedarach Species 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/412—Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Character Input (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种用于处理图像的方法、装置、设备以及存储介质，涉及图像处理、云计算、深度学习、自然语言处理领域。具体实现方案为：获取目标图像；识别目标图像中的文字信息；确定文字信息对应的语义特征向量和视觉特征向量；根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域，其中，预训练的二分类模型用于根据文字信息对应的语义特征向量和视觉特征向量判断文字信息是否位于表格区域；输出表格区域的信息。本实现方式通过根据语义特征向量和视觉特征向量确定表格区域，可以使得对表格区域的检测更加精准，并且普适性更高。
Description
技术领域
本申请涉及图像处理领域，具体涉及图像处理、云计算、深度学习、自然语言处理领域，尤其涉及一种用于处理图像的方法、装置、设备以及存储介质。
背景技术
随着人工智能技术的不断进步，使用人工智能来进行影像文档的智能分析越来越多。人工智能可以对影像进行方向和歪斜矫正、进行布局分析、进行内容识别等等，这些能力可以极大的方便各类涉及对影像文档进行录入、审核等的工作人员，极大的提升各类业务流程的智能化。
针对含有表格的文档影像，进行表格区域的检测，是很多表格智能化应用的基础。目前针对文档影像的表格区域检测的准确性不高，检测效果不理想。
发明内容
本公开提供了一种用于处理图像的方法、装置、设备以及存储介质。
根据本公开的一方面，提供了一种用于处理图像的方法，包括：获取目标图像；识别目标图像中的文字信息；确定文字信息对应的语义特征向量和视觉特征向量；根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域，其中，预训练的二分类模型用于根据文字信息对应的语义特征向量和视觉特征向量判断文字信息是否位于表格区域；输出表格区域的信息。
根据本公开的另一方面，提供了一种用于处理图像的装置，包括：获取单元，被配置成获取目标图像；识别单元，被配置成识别目标图像中的文字信息；特征向量确定单元，被配置成确定文字信息对应的语义特征向量和视觉特征向量；表格区域确定单元，被配置成根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域，其中，预训练的二分类模型用于根据文字信息对应的语义特征向量和视觉特征向量判断文字信息是否位于表格区域；输出单元，被配置成输出表格区域的信息。
根据本公开的再一方面，提供了一种用于处理图像的电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如上述用于处理图像的方法。
根据本公开的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，上述计算机指令用于使计算机执行如上述用于处理图像的方法。
根据本申请的技术解决了对文档影像中表格区域检测的准确性不高的问题，通过根据语义特征向量和视觉特征向量确定表格区域，可以使得对表格区域的检测更加精准，并且普适性更高。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是本申请的一个实施例可以应用于其中的示例性***架构图；
图2是根据本申请的用于处理图像的方法的一个实施例的流程图；
图3是根据本申请的用于处理图像的方法的一个应用场景的示意图；
图4是根据本申请的用于处理图像的方法的另一个实施例的流程图；
图5是根据本申请的用于处理图像的装置的一个实施例的结构示意图；
图6是用来实现本申请实施例的用于处理图像的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于处理图像的方法或用于处理图像的装置的实施例的示例性***架构100。
如图1所示，***架构100可以包括相机101、扫描仪102，网络103和终端设备104。网络103用以在相机101、扫描仪102和终端设备104之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
相机101、扫描仪102可以通过网络103与终端设备104交互，以接收或发送消息。相机101、扫描仪102可以采集图像，并将采集的图像发送给终端设备104，或者存储于本地。
终端设备104可以从相机101、扫描仪102处获取采集的图像，并对图像进行处理，并将处理结果输出，以识别采集的图像中的表格区域的信息。终端设备104上可以安装有各种通讯客户端应用，例如图像处理类应用等。
终端设备104可以是硬件，也可以是软件。当终端设备104为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、车载电脑、膝上型便携计算机和台式计算机等等。当终端设备104为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是，本申请实施例所提供的用于处理图像的方法可以由终端设备104执行。相应地，用于处理图像的装置可以设置于终端设备104中。
应该理解，图1中的相机、扫描仪、网络和终端设备的数目仅仅是示意性的。根据实现需要，可以具有任意数目的相机、扫描仪、网络和终端设备。
继续参考图2，示出了根据本申请的用于处理图像的方法的一个实施例的流程200。本实施例的用于处理图像的方法，包括以下步骤：
步骤201，获取目标图像。
本实施例中，用于处理图像的执行主体(例如图1中的终端设备104)可以通过有线连接或无线连接的方式，从扫描仪、数码相机、带摄像头的移动终端等设备获取所采集的目标图像。目标图像可以是公司年报扫描图、幻灯片图像等。目标图像可以包含表格、文字等内容。目标图像的表格、文字可以为白色、黑色、红色、黄色、蓝色等颜色，本申请对此不做具体限定。目标图像的背景颜色与目标图像中的表格、文字的颜色不同。
步骤202，识别目标图像中的文字信息。
执行主体在获取目标图像后，可以识别目标图像中的文字信息。具体地，执行主体可以通过光学字符识别(OCR，Optical Character Recognition)技术识别目标图像中的文字信息，将目标图像中的文字信息转换为可编辑的文本。目标图像中的文字信息包括文字内容和文字位置。文字内容可以是标题、具体的文字描述等，本申请对此不做具体限定。文字位置可以是各文字之间的相对距离、各文字与页边框的距离等，本申请对此不做具体限定。例如，识别到的文字内容为：猫眼电影，华联影院(回龙观店)，绿皮书(原版2D)2D，1号激光厅，上述文字内容相对应的文字位置分别为：宽度：352，高度：83，左间距：588，上间距：315；宽度：355，高度：55，左间距：603，上间距：458；宽度：382，高度：54，左间距：607，上间距：513；宽度：215，高度：59，左间距：615，上间距：582。
步骤203，确定文字信息对应的语义特征向量和视觉特征向量。
执行主体在识别得到目标图像中的文字信息后，可以确定文字信息对应的语义特征向量和视觉特征向量。具体地，执行主体可以通过预训练的Word2vec模型对文字信息的语义特征进行提取，并获取代表语义的特征向量即语义特征向量。具体地，文字信息可以由多个词组成，Word2vec模型可用来映射每个词到一个向量，称为词向量，该词向量可用来表示词对词之间的关系，词向量具有良好的语义特性，是表示词特征的常用方式。词向量每一维的值代表一个具有一定的语义和语法上解释的特征，该特征捕获了有用的句法和语义特性。所以，可以将词向量的每一维称为一个词特征。词向量将词的不同句法和语义特征分布到它的每一个维度表示。具体地，执行主体可以通过预训练的神经网络模型对文字信息中的视觉特征向量进行提取。示例的，文字信息中的视觉特征向量可以为文字信息中的各词所处的位置所对应的特征向量。例如，可以是文字信息中各词所对应的三维位置坐标等，本申请对此不做具体限定。
步骤204，根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域。
执行主体在确定文字信息对应的语义特征向量和视觉特征向量后，可以根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域。具体地，预训练的二分类模型用于根据文字信息对应的语义特征向量和视觉特征向量判断文字信息是否位于表格区域。对二分类模型的预训练可以包括如下步骤：将各语义特征向量和视觉特征向量作为二分类模型的输入向量，将各语义特征向量和视觉特征向量对应的文字信息是否在表格区域中的信息作为二分类模型的输出预测值，对二分类模型进行训练调优，获得具有分类能力的二分类模型。执行主体可以将语义特征向量、视觉特征向量输入具有分类能力的二分类模型中，得到语义特征向量、视觉特征向量对应的文字信息是否在表格区域中的预测值，从而根据预测值所指示的在表格区域中的语义特征向量、视觉特征向量对应的文字信息，确定目标图像中的表格区域。对于预测值，例如，文字信息在/不在表格区域中对应的二分类模型的输出预测值可以为1/0或1/-1、2/-1、2/-2等，本申请对此不做具体限定。
步骤205，输出表格区域的信息。
执行主体在确定目标图像中的表格区域后，可以在识别的文字信息中标注出表格区域并通过显示屏输出表格区域的信息。
继续参考图3，其示出了根据本申请的用于处理图像的方法的一个应用场景的示意图。在图3的应用场景中，相机301采集目标图像302，计算机304获取目标图像302，并识别目标图像302中的文字信息305，计算机304确定文字信息305对应的语义特征向量和视觉特征向量。计算机304根据语义特征向量和视觉特征向量以及计算机304中预训练的二分类模型，确定目标图像302中的表格区域，其中，预训练的二分类模型用于根据文字信息305对应的语义特征向量和视觉特征向量判断文字信息305是否位于表格区域；输出表格区域的信息306。
本实施例本通过根据语义特征向量和视觉特征向量确定表格区域，可以使得对表格区域的检测更加精准，并且普适性更高。
继续参考图4，其示出了根据本申请的用于处理图像的方法的另一个实施例的流程400。如图4所示，本实施例的用于处理图像的方法，可以包括以下步骤：
步骤401，获取目标图像。
步骤402，识别目标图像中的文字信息。
步骤403，确定文字信息对应的语义特征向量和视觉特征向量。
步骤404，根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域。
步骤401～步骤404的原理与步骤201～步骤204的原理类似，此处不再赘述。
具体地，步骤404可以通过以下步骤4041～步骤4043来实现：
本实施例中，文字信息包括识别为同一行的至少一个子文字信息。
步骤4041，对于每个子文字信息，组合该子文字信息对应的语义特征向量和视觉特征向量，得到组合特征向量。
执行主体在确定文字信息对应的语义特征向量和视觉特征向量后，可以对每个子文字信息对应的语义特征向量和视觉特征向量进行组合拼接，得到组合特征向量。具体地，在进行特征向量拼接时，对语义特征向量和视觉特征向量拼接的先后顺序不做具体限定。
步骤4042，根据各组合特征向量和预训练的二分类模型，确定各组合特征向量对应的标识。
本实施例中，将各组合特征向量输入预训练的二分类模型中，输出对各组合特征向量分类的预测值，该预测值可以用分类标识来表示。其中，预训练的二分类模型用于表征特征向量和标识之间的对应关系。
步骤4043，根据目标图像、各子文字信息以及各标识，确定目标图像中的表格区域。
执行主体在得到各组合特征向量对应的标识后，可以根据目标图像、各子文字信息以及各标识，确定目标图像中的表格区域。具体地，执行主体可以根据指示表格区域的标识对应的组合特征向量，确定这些组合特征向量对应的子文字信息，然后根据这些子文字信息以及各子文字信息在目标图像中的位置和相对关系，确定目标图像中的表格区域。
本实施例通过将文字信息的语义特征向量和视觉特征向量进行组合，得到组合特征向量，从而使得根据各组合特征向量，在利用预训练的二分类模型对文字信息进行分类时，分类结果更准确，分类过程更高效，适用于多种场景。
在本实施例的一些可选的实现方式中，当图像中只存在一个表格时，标识包括第一标识；以及步骤4043可以包括以下步骤：聚合第一标识对应的各子文字信息；确定聚合后的各子文字信息对应的标注框为表格区域。
具体地，第一标识可以用于指示表格区域。当图像中只存在一个表格时，执行主体可以聚合指示表格区域的第一标识对应的各子文字信息；并将聚合后的各子文字信息对应的标注框确定为表格区域。具体地，聚合后的各子文字信息对应的标注框，可以通过聚合后各子文字信息的最小外接矩形所包围的区域来确定。具体地可以通过计算聚合后各子文字信息的最小外接矩形的四个顶点的坐标来确定表格区域。
本实现方式在图像中只存在一个表格的情况下，通过聚合指示表格区域的标识所对应的各字文字信息，并根据该各子文字信息对应的标注框确定表格区域，使得对表格区域的确定更高效、准确且适用性广，可以适用于有线或无线表格检测。
具体地，当图像中存在多个表格时，步骤4043可以通过以下步骤40431～步骤40433来实现：
本实施例中，标识包括第一标识和第二标识，视觉特征向量包括多个与子文字信息对应的子视觉特征向量。
步骤40431，根据第一标识对应的各子文字信息对应的各子视觉特征向量，确定第一标识对应的各子文字信息的第一位置信息。
执行主体在区分好第一标识和第二标识后，可以根据第一标识对应的各子文字信息对应的各子视觉特征向量，确定第一标识对应的各子文字信息的第一位置信息。具体地，第一标识用于指示表格区域。各子视觉特征向量用于指示对应的各子文字信息的位置。位置，具体地可以用各子文字信息的坐标表示。通过确定第一标识对应的各子文字信息的第一位置信息，可以得到位于表格区域的各子文字信息的位置，也就是可以得到位于表格区域的各子文字信息的坐标。第一位置信息，可以为位于表格区域的各子文字信息的坐标。
步骤40432，根据第二标识对应的各子文字信息对应的各子视觉特征向量，确定第二标识对应的各子文字信息的第二位置信息。
具体地，第二标识用于指示非表格区域。各子视觉特征向量用于指示对应的各子文字信息的位置。位置，具体地可以用各子文字信息的坐标表示。通过确定第二标识对应的各子文字信息的第二位置信息，可以得到位于非表格区域的各子文字信息的位置，也就是可以得到位于非格区域的各子文字信息的坐标。第二位置信息，可以为位于非表格区域的各子文字信息的坐标。
步骤40433，根据目标图像、第一位置信息和第二位置信息，确定目标图像中的表格区域。
执行主体在得到第一位置信息和第二位置信息后，可以根据目标图像、第一位置信息和第二位置信息，确定目标图像中的表格区域。具体地，执行主体可以通过判断第一位置信息和第二位置信息的相对位置关系，确定表格区域和非表格区域中的各子文字信息的交叉情况，从而确定目标图像中的表格区域的位置以及表格区域的个数。
本实施例分别通过确定目标图像中的表格区域和非表格区域对应的各子文字信息的位置信息，来确定表格区域和非表格区域中的各子文字信息的交叉情况，从而可以更精确地确定出目标图像中的表格区域，且均适用于有线表格和无线表格，适用范围广。
具体地，步骤40433可以通过以下步骤404331～步骤404332，以及步骤404333～步骤404334来实现：
本实施例中，第一位置信息包括第一坐标和第二坐标，第二位置信息包括第三坐标和第四坐标，其中，第二坐标高于第一坐标，第四坐标高于第三坐标。
步骤404331，响应于确定第四坐标低于第一坐标或第三坐标高于第二坐标，聚合第一标识对应的各子文字信息。
步骤404332，确定聚合后的各文字信息对应的标注框为表格区域。
执行主体在确定第一坐标、第二坐标、第三坐标、第四坐标后，可以判断第一坐标、第二坐标、第三坐标、第四坐标之间的相对位置关系，以确定表格区域和非表格区域中的各子文字信息的交叉情况，从而根据各文字信息的交叉情况准确区分目标图像中的表格区域和非表格区域。执行主体响应于确定第四坐标低于第一坐标或第三坐标高于第二坐标，聚合第一标识对应的各子文字信息。也就是说，当第四坐标低于第一坐标或第三坐标高于第二坐标时，表示表格区域和非表格区域中的各子文字信息没有交叉，此时，聚合第一标识对应的各子文字信息得到的文字信息对应的区域即为表格区域。聚合第一标识对应的各子文字信息，并非指将第一标识对应的各子文字信息改变原有的坐标聚集在一起，而是基于各子文字信息原有的坐标，将第一标识对应的各子文字信息所处的区域归为表格区域。
本实施例通过判断表格区域的各子文字信息对应的最低坐标和最高坐标，以及非表格区域的各子文字信息对应的最低坐标和最高坐标之间的坐标高低关系，可以准确、快速地确定出目标图像中的表格区域，并且适用范围广。
步骤404333，响应于确定第三坐标高于第一坐标，并且第四坐标低于第二坐标，聚合第一坐标和第三坐标之间的第一标识对应的各子文字信息，得到第一聚合子文字信息；以及聚合第四坐标和第二坐标之间的第一标识对应的各子文字信息，得到第二聚合子文字信息。
执行主体在确定第一坐标、第二坐标、第三坐标、第四坐标后，可以判断第一坐标、第二坐标、第三坐标、第四坐标之间的相对位置关系，以确定表格区域和非表格区域中的各子文字信息的交叉情况，从而根据各文字信息的交叉情况准确区分目标图像中的表格区域和非表格区域。当第三坐标高于第一坐标，并且第四坐标低于第二坐标时，表示表格区域的各子文字信息与非表格区域的各子文字信息有交叉，表示目标图像中存在至少两个表格。本申请以目标图像中存在两个表格为例，当第三坐标高于第一坐标，并且第四坐标低于第二坐标时，表示在第一坐标和第三坐标之间的各子文字信息位于表格区域，以及在第四坐标和第二坐标之间的各子文字信息位于表格区域。此时，聚合第一坐标和第三坐标之间的第一标识对应的各子文字信息，得到位于第一个表格区域的第一聚合子文字信息；以及聚合第四坐标和第二坐标之间的第一标识对应的各子文字信息，得到位于第二个表格区域的第二聚合子文字信息。
步骤404334，确定第一聚合子文字信息对应的标注框和第二聚合子文字信息对应的标注框为表格区域。
执行主体在得到位于第一个表格区域的第一聚合子文字信息和位于第二个表格区域的第二聚合子文字信息后，可以确定第一聚合子文字信息对应的标注框和第二聚合子文字信息对应的标注框为表格区域。具体地，第一聚合子文字信息对应的标注框可以通过计算第一聚合子文字信息所处区域的外接矩形的四个顶点的坐标来确定；第二聚合子文字信息对应的标注框可以通过计算第二聚合子文字信息所处区域的外接矩形的四个顶点的坐标来确定。
本实施例通过判断表格区域的各子文字信息对应的最低坐标和最高坐标，以及非表格区域的各子文字信息对应的最低坐标和最高坐标之间的坐标高低关系，可以准确、快速地确定出目标图像中的表格区域，对多表格的情况也适用，适用范围广。
步骤405，输出表格区域的信息。
步骤405的原理与步骤205的原理类似，此处不再赘述。
进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于处理图像的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，本实施例的用于处理图像的装置500包括：获取单元501、识别单元502、特征向量确定单元503、表格区域确定单元504和输出单元505。
获取单元501，被配置成获取目标图像。
识别单元502，被配置成识别目标图像中的文字信息。
特征向量确定单元503，被配置成确定文字信息对应的语义特征向量和视觉特征向量。
表格区域确定单元504，被配置成根据语义特征向量、视觉特征向量以及预训练的二分类模型，确定目标图像中的表格区域，其中，预训练的二分类模型用于根据文字信息对应的语义特征向量和视觉特征向量判断文字信息是否位于表格区域。
输出单元505，被配置成输出表格区域的信息。
在本实施例的一些可选的实现方式中，文字信息包括识别为同一行的至少一个子文字信息；以及表格区域确定单元504进一步被配置成：对于每个子文字信息，组合该子文字信息对应的语义特征向量和视觉特征向量，得到组合特征向量；根据各组合特征向量和预训练的二分类模型，确定各组合特征向量对应的标识，其中，预训练的二分类模型用于表征特征向量和标识之间的对应关系；根据目标图像、各子文字信息以及各标识，确定目标图像中的表格区域。
在本实施例的一些可选的实现方式中，标识包括第一标识；以及表格区域确定单元504进一步被配置成：聚合第一标识对应的各子文字信息；确定聚合后的各子文字信息对应的标注框为表格区域。
在本实施例的一些可选的实现方式中，标识包括第一标识和第二标识，视觉特征向量包括多个与子文字信息对应的子视觉特征向量；以及表格区域确定单元504进一步被配置成：根据第一标识对应的各子文字信息对应的各子视觉特征向量，确定第一标识对应的各子文字信息的第一位置信息；根据第二标识对应的各子文字信息对应的各子视觉特征向量，确定第二标识对应的各子文字信息的第二位置信息；根据目标图像、第一位置信息和第二位置信息，确定目标图像中的表格区域。
在本实施例的一些可选的实现方式中，第一位置信息包括第一坐标和第二坐标，第二位置信息包括第三坐标和第四坐标，其中，第二坐标高于第一坐标，第四坐标高于第三坐标；以及表格区域确定单元504进一步被配置成：响应于确定第四坐标低于第一坐标或第三坐标高于第二坐标，聚合第一标识对应的各子文字信息；确定聚合后的各文字信息对应的标注框为表格区域。
在本实施例的一些可选的实现方式中，表格区域确定单元504进一步被配置成：响应于确定第三坐标高于第一坐标，并且第四坐标低于第二坐标，聚合第一坐标和第三坐标之间的第一标识对应的各子文字信息，得到第一聚合子文字信息；以及聚合第四坐标和第二坐标之间的第一标识对应的各子文字信息，得到第二聚合子文字信息；确定第一聚合子文字信息对应的标注框和第二聚合子文字信息对应的标注框为表格区域。
应当理解，用于处理图像的装置500中记载的单元501至单元505分别与参考图2中描述的方法中的各个步骤相对应。由此，上文针对用于处理图像的方法描述的操作和特征同样适用于装置500及其中包含的单元，在此不再赘述。
根据本申请的实施例，本申请还提供了一种用于处理图像的电子设备和一种可读存储介质。
如图6所示，是根据本申请实施例的用于处理图像的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线605互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线605与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器***)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的用于处理图像的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的用于处理图像的方法。
存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及单元，如本申请实施例中的用于处理图像的方法对应的程序指令/单元(例如，附图5所示的获取单元501、识别单元502、特征向量确定单元503、表格区域确定单元504和输出单元505)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的用于处理图像的方法。
存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储根据用于处理图像的电子设备的使用所创建的数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至用于处理图像的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用于处理图像的方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线605或者其他方式连接，图6中以通过总线605连接为例。
输入装置603可接收输入的数字或字符信息，以及产生与用于处理图像的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案，通过根据语义特征向量和视觉特征向量确定表格区域，可以使得对表格区域的检测更加精准，并且普适性更高。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。
Claims (10)
1.一种用于处理图像的方法，包括：
获取目标图像；
识别所述目标图像中的文字信息，所述文字信息包括识别为同一行的至少一个子文字信息；
确定所述文字信息对应的语义特征向量和视觉特征向量；
对于每个子文字信息，组合该子文字信息对应的语义特征向量和视觉特征向量，得到组合特征向量；
根据各所述组合特征向量和所述预训练的二分类模型，确定各所述组合特征向量对应的标识，其中，所述预训练的二分类模型用于表征特征向量和标识之间的对应关系，所述标识包括第一标识；
聚合所述第一标识对应的各子文字信息；
确定聚合后的各子文字信息对应的标注框为表格区域；
输出所述表格区域的信息。
2.根据权利要求1所述的方法，其中，所述标识还包括第二标识，所述视觉特征向量包括多个与子文字信息对应的子视觉特征向量；以及
所述根据所述目标图像、各所述子文字信息以及所述标识，确定所述目标图像中的表格区域，包括：
根据所述第一标识对应的各子文字信息对应的各子视觉特征向量，确定所述第一标识对应的各子文字信息的第一位置信息；
根据所述第二标识对应的各子文字信息对应的各子视觉特征向量，确定所述第二标识对应的各子文字信息的第二位置信息；
根据所述目标图像、所述第一位置信息和所述第二位置信息，确定所述目标图像中的表格区域。
3.根据权利要求2所述的方法，其中，所述第一位置信息包括第一坐标和第二坐标，所述第二位置信息包括第三坐标和第四坐标，其中，所述第二坐标高于所述第一坐标，所述第四坐标高于所述第三坐标；以及
所述根据所述目标图像、所述第一位置信息和所述第二位置信息，确定所述目标图像中的表格区域，包括：
响应于确定所述第四坐标低于所述第一坐标或所述第三坐标高于所述第二坐标，聚合所述第一标识对应的各子文字信息；
确定聚合后的各文字信息对应的标注框为表格区域。
4.根据权利要求3所述的方法，其中，所述根据所述目标图像、所述第一位置信息和所述第二位置信息，确定所述目标图像中的表格区域，包括：
响应于确定所述第三坐标高于所述第一坐标，并且所述第四坐标低于所述第二坐标，聚合所述第一坐标和所述第三坐标之间的所述第一标识对应的各子文字信息，得到第一聚合子文字信息；以及聚合所述第四坐标和所述第二坐标之间的所述第一标识对应的各子文字信息，得到第二聚合子文字信息；
确定所述第一聚合子文字信息对应的标注框和所述第二聚合子文字信息对应的标注框为表格区域。
5.一种用于处理图像的装置，包括：
获取单元，被配置成获取目标图像；
识别单元，被配置成识别所述目标图像中的文字信息，所述文字信息包括识别为同一行的至少一个子文字信息；
特征向量确定单元，被配置成确定所述文字信息对应的语义特征向量和视觉特征向量；
表格区域确定单元，被配置成：对于每个子文字信息，组合该子文字信息对应的语义特征向量和视觉特征向量，得到组合特征向量；根据各所述组合特征向量和所述预训练的二分类模型，确定各所述组合特征向量对应的标识，其中，所述预训练的二分类模型用于表征特征向量和标识之间的对应关系，所述标识包括第一标识；聚合所述第一标识对应的各子文字信息；确定聚合后的各子文字信息对应的标注框为表格区域；
输出单元，被配置成输出所述表格区域的信息。
6.根据权利要求5所述的装置，其中，所述标识还包括第二标识，所述视觉特征向量包括多个与子文字信息对应的子视觉特征向量；以及
所述表格区域确定单元进一步被配置成：
根据所述第一标识对应的各子文字信息对应的各子视觉特征向量，确定所述第一标识对应的各子文字信息的第一位置信息；
根据所述第二标识对应的各子文字信息对应的各子视觉特征向量，确定所述第二标识对应的各子文字信息的第二位置信息；
根据所述目标图像、所述第一位置信息和所述第二位置信息，确定所述目标图像中的表格区域。
7.根据权利要求6所述的装置，其中，所述第一位置信息包括第一坐标和第二坐标，所述第二位置信息包括第三坐标和第四坐标，其中，所述第二坐标高于所述第一坐标，所述第四坐标高于所述第三坐标；以及
所述表格区域确定单元进一步被配置成：
响应于确定所述第四坐标低于所述第一坐标或所述第三坐标高于所述第二坐标，聚合所述第一标识对应的各子文字信息；
确定聚合后的各文字信息对应的标注框为表格区域。
8.根据权利要求6所述的装置，其中，所述表格区域确定单元进一步被配置成：
响应于确定所述第三坐标高于所述第一坐标，并且所述第四坐标低于所述第二坐标，聚合所述第一坐标和所述第三坐标之间的所述第一标识对应的各子文字信息，得到第一聚合子文字信息；以及聚合所述第四坐标和所述第二坐标之间的所述第一标识对应的各子文字信息，得到第二聚合子文字信息；
确定所述第一聚合子文字信息对应的标注框和所述第二聚合子文字信息对应的标注框为表格区域。
9. 一种用于处理图像的电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010987108.XA CN112115865B (zh) | 2020-09-18 | 2020-09-18 | 用于处理图像的方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010987108.XA CN112115865B (zh) | 2020-09-18 | 2020-09-18 | 用于处理图像的方法、装置、设备以及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112115865A CN112115865A (zh) | 2020-12-22 |
| CN112115865B true CN112115865B (zh) | 2024-04-12 |
Family
ID=73801017
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010987108.XA Active CN112115865B (zh) | 2020-09-18 | 2020-09-18 | 用于处理图像的方法、装置、设备以及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112115865B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112612911A (zh) * | 2020-12-30 | 2021-04-06 | 华为技术有限公司 | 一种图像处理方法、***、设备及介质、程序产品 |
| CN113033431B (zh) * | 2021-03-30 | 2023-08-08 | 北京百度网讯科技有限公司 | 光学字符识别模型训练和识别方法、装置、设备及介质 |
| CN114218233A (zh) * | 2022-02-22 | 2022-03-22 | 子长科技(北京)有限公司 | 一种年报的处理方法、装置、电子设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110390269A (zh) * | 2019-06-26 | 2019-10-29 | 平安科技（深圳）有限公司 | Pdf文档表格提取方法、装置、设备及计算机可读存储介质 |
| CN110569846A (zh) * | 2019-09-16 | 2019-12-13 | 北京百度网讯科技有限公司 | 图像文字识别方法、装置、设备及存储介质 |
| CN111382717A (zh) * | 2020-03-17 | 2020-07-07 | 腾讯科技（深圳）有限公司 | 一种表格识别方法、装置和计算机可读存储介质 |
| CN111611990A (zh) * | 2020-05-22 | 2020-09-01 | 北京百度网讯科技有限公司 | 用于识别图像中表格的方法和装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10127199B2 (en) * | 2014-03-28 | 2018-11-13 | Adobe Systems Incorporated | Automatic measure of visual similarity between fonts |
-
2020
- 2020-09-18 CN CN202010987108.XA patent/CN112115865B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110390269A (zh) * | 2019-06-26 | 2019-10-29 | 平安科技（深圳）有限公司 | Pdf文档表格提取方法、装置、设备及计算机可读存储介质 |
| CN110569846A (zh) * | 2019-09-16 | 2019-12-13 | 北京百度网讯科技有限公司 | 图像文字识别方法、装置、设备及存储介质 |
| CN111382717A (zh) * | 2020-03-17 | 2020-07-07 | 腾讯科技（深圳）有限公司 | 一种表格识别方法、装置和计算机可读存储介质 |
| CN111611990A (zh) * | 2020-05-22 | 2020-09-01 | 北京百度网讯科技有限公司 | 用于识别图像中表格的方法和装置 |
Non-Patent Citations (1)
| Title |
|---|
| 基于机器视觉的PDF学术文献结构识别;于丰畅;陆伟;;情报学报;20190424(04);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112115865A (zh) | 2020-12-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112115865B (zh) | 用于处理图像的方法、装置、设备以及存储介质 | |
| US11176443B1 (en) | Application control and text detection from application screen images | |
| US10572725B1 (en) | Form image field extraction | |
| CN111860506B (zh) | 识别文字的方法和装置 | |
| EP4116867A1 (en) | Vehicle tracking method and apparatus, and electronic device | |
| US11694461B2 (en) | Optical character recognition method and apparatus, electronic device and storage medium | |
| CN113378833B (zh) | 图像识别模型训练方法、图像识别方法、装置及电子设备 | |
| US9256795B1 (en) | Text entity recognition | |
| EP3869397A2 (en) | Method, apparatus, device and storage medium for processing image | |
| US20210209765A1 (en) | Image labeling method, electronic device, apparatus, and storage medium | |
| CN111598164B (zh) | 识别目标对象的属性的方法、装置、电子设备和存储介质 | |
| US20170039193A1 (en) | Language generation from flow diagrams | |
| CN111753717B (zh) | 用于提取文本的结构化信息的方法、装置、设备及介质 | |
| CN112508003B (zh) | 字符识别处理方法和装置 | |
| US20110052062A1 (en) | System and method for identifying pictures in documents | |
| CN112052825B (zh) | 用于处理图像的方法、装置、设备以及存储介质 | |
| CN112541359B (zh) | 文档内容识别方法、装置、电子设备及介质 | |
| CN111611990B (zh) | 用于识别图像中表格的方法和装置 | |
| US20170039192A1 (en) | Language generation from flow diagrams | |
| US10839244B2 (en) | Method and device for generating image | |
| KR20210040306A (ko) | 문자 인식 방법, 장치, 전자기기, 컴퓨터 판독 가능 저장매체 및 프로그램 | |
| JP7389824B2 (ja) | オブジェクト識別方法と装置、電子機器及び記憶媒体 | |
| US11921276B2 (en) | Method and apparatus for evaluating image relative definition, device and medium | |
| Akinbade et al. | An adaptive thresholding algorithm-based optical character recognition system for information extraction in complex images | |
| CN112926700B (zh) | 针对目标图像的类别识别方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |