CN110633399A - 一种数据处理方法、装置和用于数据处理的装置 - Google Patents
一种数据处理方法、装置和用于数据处理的装置 Download PDFInfo
- Publication number
- CN110633399A CN110633399A CN201810555878.XA CN201810555878A CN110633399A CN 110633399 A CN110633399 A CN 110633399A CN 201810555878 A CN201810555878 A CN 201810555878A CN 110633399 A CN110633399 A CN 110633399A
- Authority
- CN
- China
- Prior art keywords
- picture
- page
- webpage
- around
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 238000012545 processing Methods 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 58
- 238000000638 solvent extraction Methods 0.000 claims abstract description 19
- 239000013598 vector Substances 0.000 claims description 60
- 230000000903 blocking effect Effects 0.000 claims description 18
- 230000008569 process Effects 0.000 abstract description 11
- 238000009877 rendering Methods 0.000 abstract description 10
- 238000013145 classification model Methods 0.000 description 70
- 238000012549 training Methods 0.000 description 19
- 238000004891 communication Methods 0.000 description 11
- 238000013507 mapping Methods 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000003058 natural language processing Methods 0.000 description 3
- 238000012706 support-vector machine Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000007477 logistic regression Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 244000089409 Erythrina poeppigiana Species 0.000 description 1
- 235000009776 Rathbunia alamosensis Nutrition 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 235000012813 breadcrumbs Nutrition 0.000 description 1
- 230000009193 crawling Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供了一种数据处理方法、装置和用于数据处理的装置。其中的方法具体包括：依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；依据所述图片特征，判断对应的图片是否为目标图片。本发明实施例可以节省网页的渲染过程中消耗的***资源和时间资源，且可以提高目标图片的召回效率。
Description
技术领域
本发明涉及互联网信息处理技术领域，尤其涉及一种数据处理方法、装置和用于数据处理的装置。
背景技术
图片搜索是指依据用户的搜索请求，从图片数据中查找并按照相关性等指标，返回排序后的图片结果给用户的信息检索过程，图片搜索可以满足用户在互联网上找图的需求。在图片数据的积累过程中，网页的目标图片的召回对图片搜索中的排序结果有着重要的影响。网页的目标图片可以指网页中与正文内容紧密相关的图片。与目标图片相对应的概念可以包括：广告图片、推荐内容图片、网站LOGO(商标，LOGOtype)等等与正文内容关联较小的图片，以下简称为非目标图片。
一种相关技术可以对网页进行渲染，并在渲染后的网页的基础上对目标图片进行召回；然而，网页的渲染过程中需要消耗较多的***资源和时间资源，且使得目标图片的召回效率较低。
发明内容
本发明实施例提供一种数据处理方法、装置和用于数据处理的装置，可以节省网页的渲染过程中消耗的***资源和时间资源，且可以提高目标图片的召回效率。
为了解决上述问题，本发明实施例公开了一种数据处理方法，包括：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
另一方面，本发明实施例公开了一种数据处理装置，包括：
网页分块模块，用于依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
图片特征确定模块，用于确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；以及
目标图片判断模块，用于依据所述图片特征，判断对应的图片是否为目标图片。
再一方面，本发明实施例公开了一种用于数据处理的装置，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
又一方面，本发明实施例公开了一种机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得装置执行如前述一个或多个所述的数据处理方法。
本发明实施例包括以下优点：
本发明实施例依据网页源码所包括的页面元素，对网页进行分块，可以在不对网页进行渲染的情况下进行，因此可以节省网页的渲染过程中消耗的***资源和时间资源，且可以提高目标图片的召回效率。
并且，本发明实施例以页面块为单位进行图片特征的确定，可以实现不同图片之间的图片特征的区分，可以克服在整个网页内进行图片特征的确定、导致的不同图片之间图片特征的区分度较低的问题，也即，可以提高不同图片之间图片特征的区分度；在此基础上，依据区分度更高的图片特征，判断对应的图片是否为目标图片，可以提高目标图片的判断准确率。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例的一种数据处理方法的应用环境的示意；
图2是本发明的一种数据处理方法实施例一的步骤流程图；
图3本发明实施例的一种树形结构的示意；
图4是本发明的一种数据处理方法实施例二的步骤流程图；
图5是本发明的一种数据处理方法实施例三的步骤流程图；
图6是本发明的一种页面块所对应图片的示意；
图7是本发明的一种数据处理装置实施例的结构框图；
图8是本发明的一种用于数据处理的装置800的框图；及
图9是本发明的一些实施例中服务器的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例提供了一种数据处理方案，该方案可以依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；确定所述页面块所对应图片的图片特征；所述图片特征可以包括：图片周围环绕文本特征和页面结构特征；以及依据所述图片特征，判断对应的图片是否为目标图片。
本发明实施例依据网页源码所包括的页面元素，对网页进行分块，可以在不对网页进行渲染的情况下进行，因此可以节省网页的渲染过程中消耗的***资源和时间资源，且可以提高目标图片的召回效率。
并且，本发明实施例以页面块为单位进行图片特征的确定，可以实现不同图片之间的图片特征的区分，可以克服在整个网页内进行图片特征的确定、导致的不同图片之间图片特征的区分度较低的问题，也即，可以提高不同图片之间图片特征的区分度；在此基础上，依据区分度更高的图片特征，判断对应的图片是否为目标图片，可以提高目标图片的判断准确率。
本发明实施例提供的数据处理方法可以应用于例如网站和/或APP(应用程序，Application)的应用环境中，以实现网页的目标图片的召回。
本发明实施例提供的数据处理方法可应用于图1所示的应用环境中，如图1所示，客户端100与服务器200位于有线或无线网络中，通过该有线或无线网络，客户端100与服务器200进行数据交互。
在本发明的一种实施例中，可以提供图片召回接口以供调用，该图片召回接口可用于召回网页中的目标图片，具体地，该图片召回接口可以依据输入的网页，利用本发明实施例的数据处理方法召回该网页中的目标图片，并输出该目标图片。可选地，用户在调用该图片召回接口的过程中，可以上传网页的网页代码，或者，可以上传网页的URL(统一资源定位符，Uniform Resource Locator)等信息。
在本发明的另一种实施例中，服务器(例如图片搜索服务器)可以确定网页库，并利用本发明实施例的数据处理方法召回上述网页库的网页中的目标图片。召回的图片可用于图片搜索场景中。可选地，网页库的网页可以通过网页爬取方式得到。
可以理解，本发明上述图片召回接口和图片搜索场景只是作为本发明实施例的应用场景的示例，本发明实施例对于具体的应用场景不加以限制。本发明实施例中网页的类别可以包括：新闻类别、博客类别、论坛类别等，本发明实施例对于网页的具体类别不加以限制。
可选地，客户端100可以运行在终端上，上述终端具体包括但不限于：智能手机、平板电脑、电子书阅读器、MP3(动态影像专家压缩标准音频层面3，Moving Picture ExpertsGroup Audio Layer III)播放器、MP4(动态影像专家压缩标准音频层面4，Moving PictureExperts Group Audio Layer IV)播放器、膝上型便携计算机、车载电脑、台式计算机、机顶盒、智能电视机、可穿戴设备等等。
方法实施例一
参照图2，示出了本发明的一种数据处理方法实施例一的步骤流程图，具体可以包括如下步骤：
步骤201、依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
步骤202、确定所述页面块所对应图片的图片特征；所述图片特征可以包括：图片周围环绕文本特征和页面结构特征；
步骤203、依据所述图片特征，判断对应的图片是否为目标图片。
图2所示实施例的至少一个步骤可由服务器和/或客户端执行，当然本发明实施例对于各个步骤的具体执行主体不加以限制。
在步骤201中，网页源码可以指网页的源代码，其可以表示网页的语言构成。
网页代码对应的计算机语言主要包括：HTML(超文本标记语言，Hypertext MarkupLanguage)语言、VB(Visual Basic)语言、JAVA语言等。其中，HTML是最常用也是最基本的语言，网页中不可或缺的语言。网页的标题、框架、背景、字体、超链接、颜色等等页面元素的设置都可由HTML语言来完成。当然，本发明实施例对于网页代码对应的具体计算机语言不加以限制。
网页源码实际上就是由许许多多各种各样的页面元素构成的网页文件，并且浏览器通常可以直接运行例如HTML文件的网页文件。页面元素可以作为构成网页文件的基本对象。页面元素可以通过标签进行定义。
标签用来标记HTML元素。位于起始标签和结束标签之间的文本可以作为页面元素的内容。在一种示例中，标签可以为<head>(用于定义关于文档的信息)、<body>(用于定义文档的主体)、<table>(用于定义表格)等被尖括号“<”和“>”包起来的对象，一些标签都是成对出现的，如<table></talbe>、<form></form>，其中<form>表示用于定义供用户输入的HTML表单。当然，还有一些标签不是成对出现的，如<br>(用于定义简单的折行)、<hr>(用于定义水平线)等。本发明实施例的标签与页面元素之间具有对应关系，因此可以通过标签来表征页面元素。
页面元素还对应有属性。属性用于为页面元素提供附加信息。属性可以以"属性名＝属性值"这种名值对的形式出现，且属性可以在页面元素的开始标签中进行定义。
步骤201可以依据网页源码所包括的页面元素之间的关系，对网页进行分块，以得到所述网页包括的多个页面块。
在本发明的一种可选实施例中，步骤201具体可以包括：依据网页源码中的页面元素，得到对应的一维向量；依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块。
根据一种实施例，可以采用树形结构表征网页源码所包括的页面元素之间的关系，树形结构可以包括DOM(文档对象模型，Document Object Model)树等。根据HTML DOM标准，HTML文档中的内容可被作为DOM树中的结点：
整个文档是一个文档结点；
HTML元素是元素结点；
HTML元素内的文本是文本结点；
HTML属性是属性结点；以及
注释是注释结点。
本发明实施例可以将树形结构转换为一维向量，其中，一维向量的元素可以表示树形结构中的结点。上述将树形结构转换为一维向量的过程可以包括：将根结点作为一维向量的第一个元素，并按照从左到右的顺序，将根结点之下的分支对应的结点排列在所述第一个元素之后。具体地，将根结点之下的左数第1个分支的结点排列在的第一个元素之后，将根结点之下的左数第2个分支的结点排列在的第1个分支的最后一个结点之后，…将根结点之下的左数第(i+1)个分支的结点排列在的第i个分支的最后一个结点之后，其中，i为自然数。
参照图3，示出了本发明实施例的一种树形结构的示例，其对应的页面元素包括：html元素、head元素、body元素、p元素和img元素，页面元素之间的关系包括：
<html><head></head><body><p></p><img/></body></html>
其中，<p>用于定义段落。
将图3所示树形结构转换成一维向量：[html,head,body,p,img]。
本发明实施例依据预设边界元素，对所述一维向量进行分块；其中，预设边界元素可以起到边界的作用。
在本发明的一种可选实施例中，上述预设边界元素可以包括：样式(style用于为HTML文档定义样式信息)元素、脚本(script用于定义客户端脚本，比如JavaScript)元素、注释(comment)元素、外部内容(article)元素、或者包含非数字标识(ID，Identity)的元素。
上述预设边界元素通常可以表示一个逻辑单元的结束，故可以作为边界。一般具有ID的页面元素，属于页面编辑者重点关注的区域，包含正文图片的概率比较高；但是具有数字的ID，较大可能来自层级结构的头像图片，一般不属于正文有效图片，类似论坛用户头像的图片，因此可以将包含非数字ID的元素作为预设边界元素。
可选地，所述包含非数字标识的元素具体可以包括：包含非数字标识的表格(table)元素、包含非数字标识的节(div)元素、或者包含非数字标识的无序列表(ul)元素等。
可以理解，本领域技术人员可以根据实际应用需求，将具有边界性质的元素作为预设边界元素，本发明实施例对于具体的预设边界元素不加以限制。
在本发明的一种应用示例中，假设一维向量为：
[body,p,div,img,comment,div,p,span,text,script,text,div(id＝’foot’)]
则可以将该一维向量划分成如下页面块：
[body,p,div,img,comment|,div,p,span,text,script|,text,div(id＝’foot’)]
其中，“|”表示分割点，span用于表示文档中的节，text用于表示页面元素内的文本；本示例将comment、div、script作为边界元素进行一维向量的分割，以得到对应的4个页面块。
步骤201将网页划分为多个页面块，其中，一个页面块中可以包括页面元素img(用于表示图片)元素，或者，一个页面块中可以不包括img元素。本发明实施例可以将一个页面块中img元素对应的图片作为页面块所对应图片。本发明实施例可以针对页面块所对应图片，提取对应的图片特征。本发明实施例以页面块为单位进行图片特征的确定，可以实现不同图片之间的图片特征的区分，可以克服在整个网页内进行图片特征的确定、导致的不同图片之间图片特征的区分度较低的问题，也即，可以提高不同图片之间图片特征的区分度。
本发明实施例的图片特征可以包括：图片周围环绕文本特征和页面结构特征。
其中，图片周围环绕文本特征可用于表征图片周围环绕文本的性质。
根据一种实施例，图片周围环绕文本的性质可以包括：图片周围环绕文本的密集程度。通常，该密集程度越高，则图片是目标图片的概率越大；反之，该密集程度越低，则图片是目标图片的概率越小。
根据另一种实施例，图片周围环绕文本的性质可以包括：图片周围环绕文本的变化程度。通常，该变化程度越大，则图片是目标图片的概率越大；反之，该变化程度越小，表示图片周围环绕文本的长度越相似，则图片是目标图片的概率越小。
根据再一种实施例，图片周围环绕文本的性质可以包括：图片周围的推荐文本。推荐文本的例子可以包括：“猜您喜欢”、“热门短视频推荐”、“推荐”、“看了还会看”、“花絮片段”等。在图片周围出现推荐文本的情况下，图片是目标图片的概率较小。
在本发明的一种可选实施例中，所述图片周围环绕文本特征可以包括但不限于如下特征中的至少一种：
特征A1、推荐文本特征；
特征A2、图片周围环绕文本长度的方差；
特征A3、图片周围环绕文本总数；
特征A4、图片周围环绕文本的平均长度；以及
特征A5、图片周围环绕文本中超链接文本的比例。
特征A1用于表征图片周围的推荐文本，可选地，推荐文本还可以对应有位置特征，该位置特征用于表征推荐文本与图片之间的位置关系。上述位置特征可以包括：图片相对于推荐文本的第一位置特征，或者，推荐文本相对于图片的第二位置特征。因此，本发明实施例的推荐文本特征可以包括：推荐文本和位置特征。以“猜您喜欢”为例，图片通常位于“猜您喜欢”的下方，因此，第一位置特征为“下方”。
本发明实施例可以通过判断方法，判断网页中的短文本是否为推荐文本，由此可以实现推荐文本的收集。判断方法可以包括：自然语言处理相关算法、人工筛选方法等。其中，自然语言处理相关算法可以包括：语法分析方法、或者机器分类方法等。其中，语法分析方法用于从语法层次判断网页中的短文本是否为推荐文本，机器分类方法用于从分类层次判断网页中的短文本是否为推荐文本。自然语言处理相关算法可以挖掘得到更多的推荐文本，因此可以提高推荐文本的覆盖率，且可以提高目标图片的判断准确率。
本发明实施例还可以针对收集得到的推荐文本，确定其对应的位置特征。以位置特征为第一位置特征为例，第一位置特征可以包括：“下方”、“上方”、“左方”、或者“右方”等，可以理解，本发明实施例对于具体的位置特征不加以限制。
特征A2用于表征图片周围环绕文本的变化程度。一种图片周围环绕文本长度的方差的确定过程可以包括：针对页面块对应图片，统计其所在页面块内该图片前后N个文本的长度变化；其中，N可以为大于1的自然数，例如N可以为2、3、4、或5等数值。“前后”可以遵循一维向量内元素的顺序。例如，某页面块所在的向量片段为[a,b,c,img,e,f,g]，则可以在该向量片段内从img元素前后分别取N个非空的text元素，确定N个text文本的长度，并计算N个text文本对应的方差。
特征A3和特征A4用于表征图片周围环绕文本的密集程度。其中，特征A3为图片周围环绕文本的总字符数；特征A4为图片周围环绕文本的总字符数的平均值。
特征A5中，超链接是指单击链接，就会跳转到链接指向的页面的链接。超链接可以链接图片、程序、音乐、视频、甚至非页面元素等。图片周围环绕文本中超链接文本的比例越高，则图片为推荐内容图片的概率越高，也即图片为目标图片的概率越低。反之，图片周围环绕文本中超链接文本的比例越低，则图片为推荐内容图片的概率越低，也即图片为目标图片的概率越高。
在图片周围环绕文本较多的情况下，图片周围环绕文本特征可以为图片是否为目标图片的判断起到较好的判断依据作用。然而，对于短文本页面或者单图片页面而言，其中的目标图片对应的图片周围环绕文本较少，而其中的非目标图片也对应一定的图片周围环绕文本，因此通常无法有效地区分该短文本页面或者该单图片页面中的目标图片和非目标图片，进而导致目标图片的判断准确率较低，也即导致目标图片的召回效果较差。
页面结构特征可以指页面块所对应的页面结构、也即图片所在页面块内容的布局。上述页面结构特征可以反映与图片周围环绕文本特征不同的特征，因此，可以作为图片周围环绕文本特征的补充。尤其地，在图片对应的图片周围环绕文本较少的情况下，结合图片周围环绕文本特征和页面结构特征，可以提高目标图片的判断准确率，也即可以提高目标图片的召回效果。
在本发明的一种可选实施例中，所述页面结构特征可以包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
页面块特征可以在一定程度上反映页面块的类型。例如，页面块的类型可以包括：正文类型、评论类型、目录区域类型、个人信息类型、或者推荐区域类型等。若页面块的类型为正文类型，则图片为目标图片的概率较大。若页面块的类型为评论类型、目录区域类型、个人信息类型、或者推荐区域类型，则图片为目标图片的概率较小。
可选地，所述页面块特征可以包括如下特征中的至少一种：
特征B1、页面块所包括页面元素的第一数量；
特征B2、页面块所包含页面元素的第一数量相对于网页所包括页面元素的第二数量的比例；
特征B3、页面块所包含时间信息的第三数量；
特征B4、页面块所包含时间信息的第三数量相对于网页所包括时间信息的第四数量的比例；
特征B5、页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
特征B6、页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
特征B1的例子可以包括：页面块所包括li元素的第一数量、或者页面块所包括br元素的第一数量、或者页面块所包括p元素的第一数量等。其中，li元素用于定义列表的项目，br元素用于定义简单的拆行，p元素用于定义段落。
特征B2的例子可以包括：页面块所包括li元素的第一数量相对于网页所包括li元素的第二数量的比例、或者页面块所包括br元素的第一数量相对于网页所包括br元素的第二数量的比例、或者页面块所包括p元素的第一数量相对于网页所包括p元素的第二数量的比例等。
特征B1和特征B2均可以反映页面块所包含页面元素的多少。在本发明的一种示例中，若页面块包含较多的br元素和p元素，则页面块的类型可能是正文类型。
对于特征B3和特征B4，时间信息可以指“x年x月x日”、“x月x日”、“x点x分”等表征时间的信息。若页面块包含较多的时间信息，则属于评论类型的概率较大。
对于特征B5和特征B6，超链接文本和超链接图片均属于超链接，若页面块所包含超链接的数量相对于页面块所包含正常文本或正常图片的数量的比例较高，则说明页面块为推荐区域类型的概率较大。
在本发明的一种可选实施例中，所述图片周围页面元素特征具体可以包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
图片周围页面元素的数量可以包括：图片前(后)包含h1元素(用于定义HTML标题)、h2元素(用于定义HTML标题)、h3元素(用于定义HTML标题)、h4元素(用于定义HTML标题)、input元素(用于定义输入控件)、select元素(用于定义选择列表(下拉列表))、form元素(用于定义供用户输入的HTML表单)、option元素(用于定义选择列表中的选项)、p元素、div元素、span元素、li元素、ol元素(用于定义有序列表)、a元素(用于定义锚)、br元素、或者img元素的数量等。图片周围超链接图片的比例可以指图片所在页面块内图片周围的超链接图片的第九数量相对于页面块所包含图片的第八数量的比例。图片周围超链接图片的比例可以包括：图片前超链接图片的比例、和/或、图片后超链接图片的比例等等。
图片周围页面元素的情况，可以一定程度上反映图片是否为目标图片。比如对于非list(列表)页，图片周围包含较多li元素，则图片周围内容可能是推荐内容，也即图片为目标图片的概率较小。又如，对于图片周围含有input元素，则图片可能是搜索框附近的小图，也即图片为目标图片的概率较小。
在本发明的一种可选实施例中，上述图片特征还可以包括：图片自身特征和/或图片对应的页面特征，可以提高图片特征的多样性，进而可以提高目标图片的判断准确率。
图片自身特征具体可以包括但不限于：URL长度、图片名字长度、图片名字含有的数字比例、图片的宽度高度属性值、alt属性与HTML标题的相似性、图片非常规属性的个数、图片在网页源码中的位置、图片是否为超链接图片、图片是否在内容标题的下方、以及图片对应DOM树的高度等。
其中，alt属性是一个用于网页语言HTML和XHTML(可扩展超文本标记语言)、为输出纯文字的参数属性，作用是当HTML元素本身的物件无法被渲染时，就显示alt(替换)文字作为一种补救措施。
其中，图片元素的非常规属性，主要是指网页编辑者自己定义的一些属性，主要是用来区分常规属性(比如width宽、height高、class类名等)。
图片自身的特征属于强特征，可以用来很好的区分目标图片和非目标图片。
以URL长度为例，通常URL越长，图片为正文图片的概率越大。例如，图片1的URL为：http://static.nipic.com/images/oh_help.jpg，图片2的URL 为：http://pic158.nipic.com/file/20180322/10185515_142500532000_2.jpg。单纯从URL长度这一特征来看，图片2为目标图片的概率较大。
图片对应的页面特征可用于确定网页的类别，网页的类别可以进一步作为图片是否为目标图片的判断依据。上述页面特征可以包括但不限于：页面包含楼主/发帖等关键信息的数量、页面是否包含标题、页面标题的位置、页面面包屑的位置、页面页码的位置等。例如，若页面包含楼主/发帖等关键信息，则可以说明网页的类别为论坛类别。
步骤203中，依据所述图片特征，判断对应的图片是否为目标图片。
在本发明的一种可选实施例中，可以预置图片特征的组合与目标图片的判断结果之间的映射关系，则步骤203可以利用该映射关系，判断对应的图片是否为目标图片。
参照表1，示出了本发明实施例的一种映射关系的示例。
在一种映射关系的记录中，图片周围环绕文本特征A为“图片周围未出现推荐文本”，页面结构特征A为“页面块包含较多的br元素和p元素”，则图片为目标图片。
在另一种映射关系的记录中，图片周围环绕文本特征B为“图片周围出现推荐文本”，页面结构特征B为“图片周围包含较多li元素”，则图片为非目标图片。
在再一种映射关系的记录中，图片周围环绕文本特征C为“图片周围环绕文本长度的方差较大”，页面结构特征C为“页面块包含较多的br元素和p元素、图片周围不包含时间信息”，图片的URL较长，则图片为目标图片。
在又一种映射关系的记录中，图片周围环绕文本特征D为“图片周围环绕文本长度的方差较大”，页面结构特征D为“页面块包含较多的br元素和p元素、图片周围不包含时间信息”，图片的URL较长，页面包含发帖等关键信息，则图片为目标图片。
可以理解，上述映射关系的记录只是作为示例，本领域技术人员可以根据实际应用需求确定所需的映射关系，本发明实施例对于具体的映射关系不加以限制。
表1
在本发明的另一种可选实施例中，步骤203依据所述图片特征，判断对应的图片是否为目标图片的过程，具体可以包括：依据所述图片特征，得到特征向量；将所述特征向量输入分类模型，以得到所述分类模型输出的分类结果；所述分类模型对应的类别可以包括：目标图片类别和非目标图片类别。
分类模型可以为两类分类模型，也即，分类模型输出的分类结果可以包括：目标图片类别、或者非目标图片类别。
本方案将目标图片的召回问题，看作页面图片的二分类问题，以图片为样本进行分类，通过分析网页源码来抽取图片特征，利用机器学习算法学习大规模的训练数据，训练分类模型，并通过分类模型预测页面块对应的图片是否为正文图片。
在实际应用中，可以采用机器学习算法对训练数据进行训练，以得到上述分类模型。上述训练数据可以包括：目标图片样本和非目标图片样本分别对应的图片特征。上述机器学习算法的例子可以包括：近邻分类、贝叶斯、LR(逻辑回归，Logistic Regression)、SVM(支持向量机，Support Vector Machine)、Adaboost(自适应增强)、神经网络等，可以理解，本申请实施例对于分类模型对应的机器学习算法不加以限制。
在本申请的一种应用示例中，假设上述训练数据对应的集合为{(xi,yi)}，其中，i＝1,...,n，xi为目标图片样本和非目标图片样本分别对应的图片特征，yi为该xi对应的图片类别，yi的种类数量可以与图片类别的种类数量一致，具体到本发明实施例，图片类别的种类可以为2种：目标图片类别和非目标图片类别，则yi的值1或者-1可以分别代表目标图片类别和非目标图片类别；则采用机器学习算法训练得到的SVM模型可以表示
其中，sgn为符号函数，b*为分类阈值，αi *为训练得到的最优分类参数，x表示图片特征，f(x)为输出函数。
本发明实施例对于训练数据的确定方式不加以限制。可选地，可以线下采用渲染网页的方式获取目标图片，然后以此为训练数据，训练本发明实施例的分类模型，提高目标图片的判断准确率和召回率。
在本发明的一种可选实施例中，本发明实施例可能召回错误的目标图片，也即，步骤203的判断出现错误。此种情况下，可以将错误的目标图片作为非目标图片样本，进行分类模型的参数的更新。并且，本发明实施例还可以针对错误的目标图片所在的网页，获取对应的相似网页，并针对相似图片获取对应的非目标图片，将该非目标图片作为非目标图片样本，进行分类模型的参数的更新。因为一般对于相似网页，会错误召回相同位置的图片，因此本发明实施例获取的非目标图片中可以包括：容易错误召回的图片。
上述方案可以一定程度上提高目标图片召回的准确性，降低错误召回非目标图片的问题；并且，可以增加更多的训练数据，提高分类模型的整体效果，同时降低训练数据收集所花费的人工成本；并且，可以有效的减少错误召回非目标图片的情况。
综上，本发明实施例的数据处理方法，依据网页源码所包括的页面元素，对网页进行分块，可以在不对网页进行渲染的情况下进行，因此可以节省网页的渲染过程中消耗的***资源和时间资源，且可以提高目标图片的召回效率。
并且，本发明实施例以页面块为单位进行图片特征的确定，可以实现不同图片之间的图片特征的区分，可以克服在整个网页内进行图片特征的确定、导致的不同图片之间图片特征的区分度较低的问题，也即，可以提高不同图片之间图片特征的区分度；在此基础上，依据区分度更高的图片特征，判断对应的图片是否为目标图片，可以提高目标图片的判断准确率。
方法实施例二
参照图4，示出了本发明的一种数据处理方法实施例二的步骤流程图，具体可以包括如下步骤：
步骤401、依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
步骤402、确定所述页面块所对应图片的图片特征；所述图片特征可以包括：图片周围环绕文本特征和页面结构特征；
步骤403、依据所述图片特征，得到特征向量；
步骤404、若所述网页为列表页，则将所述特征向量输入第一分类模型，以得到所述第一分类模型输出的第一分类结果；所述第一分类模型可以为依据所述列表页对应的训练数据得到；或者
步骤405、若所述网页为非列表页，则将所述特征向量输入第二分类模型，以得到所述第二分类模型输出的第二分类结果；所述第二分类模型可以为依据所述非列表页对应的训练数据得到。
相对于图2所示方法实施例一，本实施例通过步骤403至步骤405细化了依据所述图片特征，判断对应的图片是否为目标图片的过程。在实际应用中，可以执行步骤403和步骤404，或者，可以执行步骤403和步骤405。
由于非列表页的推荐图片对应的布局与列表页的目标图片对应的布局相似，因此为了避免分类模型将非列表页的推荐图片错误识别为目标图片，本发明实施例分别针对列表页和非列表页单独训练分类模型，具体地，针对列表页训练第一分类模型，针对非列表页训练第二分类模型。这样，可以提高第一分类模型和第二分类模型的分类效果。
本发明实施例对于判断网页是否为列表页的判断方法不加以限制。例如，该判断方法可以为规则判断方法，或者该判断方法可以为网址匹配方法，或者，该判断方法为分类方法等。
并且，本发明实施例对于判断网页是否为列表页的执行时机不加以限制。例如，可以在步骤403之前判断网页是否为列表页，或者，在步骤403之后判断网页是否为列表页，或者，与步骤403同时判断网页是否为列表页，等等。
综上，本发明实施例的数据处理方法，针对列表页训练第一分类模型，针对非列表页训练第二分类模型，可以避免第二分类模型将非列表页的推荐图片错误识别为目标图片。
方法实施例三
参照图5，示出了本发明的一种数据处理方法实施例三的步骤流程图，具体可以包括如下步骤：
步骤501、根据网页源码，利用机器学习算法判断网页是否为列表页，以得到对应的判断结果；
例如，对于URL为http://blog.sina.com.cn/s/blog_4cd1c1670102x4ku.html的网页，可以确定其为非列表页。
步骤502、将网页源码中的页面元素转换成一维向量，并依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块；
步骤503、针对页面块所对应图片，提取对应的图片特征；
比如，对于图6所示的热点事件对应的页面，该页面具体可以包括：图片A、以及位于图片A上方的文本1和位于图片A下方的文本2，图片A对应的URL为：
http://s5.sinaimg.cn/mw690/001pdJDVzy7g3dSt8FKd4&690
图片A对应的图片特征如下：
推荐文本特征：图片周围未出现推荐文本；
图片自身特征：URL长度是52，含有数字的比例是：14/52；
图片周围元素特征：图片前(后)环绕文本总数是：301(501)；
图片所在页面特征：存在标题。
步骤504、将图片特征对应的特征向量输入所述判断结果对应的分类模型，以得到所述分类模型输出的分类结果。
对于图6所示图片，第二分类模型将输出1，即该图片为目标图片。
综上，本发明实施例的数据处理方法，针对非列表页训练第二分类模型，可以避免第二分类模型将非列表页的推荐图片错误识别为目标图片。
需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请实施例并不受所描述的动作顺序的限制，因为依据本申请实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本申请实施例所必须的。
装置实施例
参照图7，示出了本发明的一种数据处理装置实施例的结构框图，具体可以包括：网页分块模块701、图片特征确定模块702和目标图片判断模块703。
其中，网页分块模块701，用于依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
图片特征确定模块702，用于确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；以及
目标图片判断模块703，用于依据所述图片特征，判断对应的图片是否为目标图片。
可选地，所述页面结构特征可以包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
可选地，所述页面块特征可以包括如下特征中的至少一种：
页面块所可以包括页面元素的第一数量；
页面块所包含页面元素的第一数量相对于网页所可以包括页面元素的第二数量的比例；
页面块所包含时间信息的第三数量；
页面块所包含时间信息的第三数量相对于网页所可以包括时间信息的第四数量的比例；
页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
可选地，所述图片周围页面元素特征可以包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
可选地，所述图片周围环绕文本特征可以包括如下特征中的至少一种：
推荐文本特征；
图片周围环绕文本长度的方差；
图片周围环绕文本总数；
图片周围环绕文本中超链接文本的比例；以及
图片周围环绕文本的平均长度。
可选地，所述图片特征还可以包括：图片自身特征和/或图片对应的页面特征。
可选地，所述网页分块模块701可以包括：
一维向量确定子模块，用于依据网页源码中的页面元素，得到对应的一维向量；以及
向量分块子模块，用于依据预设边界元素，对所述一维向量进行分块，以得到网页可以包括的多个页面块。
可选地，所述预设边界元素可以包括：样式元素、脚本元素、注释元素、外部内容元素、或者包含非数字标识的元素。
可选地，所述图片判断模块703可以包括：
特征向量确定子模块，用于依据所述图片特征，得到特征向量；以及
模型判断子模块，用于将所述特征向量输入分类模型，以得到所述分类模型输出的分类结果；所述分类模型对应的类别可以包括：目标图片类别和非目标图片类别。
可选地，所述图片判断模块703可以包括：
特征向量确定子模块，依据所述图片特征，得到特征向量；
第一模型判断子模块，用于若所述网页为列表页，则将所述特征向量输入第一分类模型，以得到所述第一分类模型输出的第一分类结果；所述第一分类模型为依据所述列表页对应的训练数据得到；或者
第二模型判断子模块，用于若所述网页为非列表页，则将所述特征向量输入第二分类模型，以得到所述第二分类模型输出的第二分类结果；所述第二分类模型为依据所述非列表页对应的训练数据得到。
对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
本发明实施例提供了一种用于数据处理的装置，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；依据所述图片特征，判断对应的图片是否为目标图片。
图8是根据一示例性实施例示出的一种用于数据处理的装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图8，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理组件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理***，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音数据处理模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口，上述***接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频数据处理(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图9是本发明的一些实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异，可以包括一个或一个以***处理器(central processingunits，CPU)1922(例如，一个或一个以上处理器)和存储器1932，一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中，存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1922可以设置为与存储介质1930通信，在服务器1900上执行存储介质1930中的一系列指令操作。
服务器1900还可以包括一个或一个以上电源1926，一个或一个以上有线或无线网络接口1950，一个或一个以上输入输出接口1958，一个或一个以上键盘1956，和/或，一个或一个以上操作***1941，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行图2或图3或图4或图5所示的数据处理方法。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行一种数据处理方法，所述方法包括：依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；依据所述图片特征，判断对应的图片是否为目标图片。
本发明实施例公开了A1、一种数据处理方法，所述方法包括：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
A2、根据A1所述的方法，所述页面结构特征包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
A3、根据A2所述的方法，所述页面块特征包括如下特征中的至少一种：
页面块所包括页面元素的第一数量；
页面块所包含页面元素的第一数量相对于网页所包括页面元素的第二数量的比例；
页面块所包含时间信息的第三数量；
页面块所包含时间信息的第三数量相对于网页所包括时间信息的第四数量的比例；
页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
A4、根据A2所述的方法，所述图片周围页面元素特征包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
A5、根据A1所述的方法，所述图片周围环绕文本特征包括如下特征中的至少一种：
推荐文本特征；
图片周围环绕文本长度的方差；
图片周围环绕文本总数；
图片周围环绕文本中超链接文本的比例；以及
图片周围环绕文本的平均长度。
A6、根据A1至A5中任一所述的方法，所述图片特征还包括：图片自身特征和/或图片对应的页面特征。
A7、根据A1至A5中任一所述的方法，所述对网页进行分块，包括：
依据网页源码中的页面元素，得到对应的一维向量；
依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块。
A8、根据A7所述的方法，所述预设边界元素包括：样式元素、脚本元素、注释元素、外部内容元素、或者包含非数字标识的元素。
A9、根据A1至A5中任一所述的方法，所述依据所述图片特征，判断对应的图片是否为目标图片，包括：
依据所述图片特征，得到特征向量；
将所述特征向量输入分类模型，以得到所述分类模型输出的分类结果；所述分类模型对应的类别包括：目标图片类别和非目标图片类别。
A10、根据A1至A5中任一所述的方法，所述依据所述图片特征，判断对应的图片是否为目标图片，包括：
依据所述图片特征，得到特征向量；
若所述网页为列表页，则将所述特征向量输入第一分类模型，以得到所述第一分类模型输出的第一分类结果；所述第一分类模型为依据所述列表页对应的训练数据得到；或者
若所述网页为非列表页，则将所述特征向量输入第二分类模型，以得到所述第二分类模型输出的第二分类结果；所述第二分类模型为依据所述非列表页对应的训练数据得到。
本发明实施例公开了B11、一种数据处理装置，包括：
网页分块模块，用于依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
图片特征确定模块，用于确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；以及
目标图片判断模块，用于依据所述图片特征，判断对应的图片是否为目标图片。
B12、根据B11所述的装置，所述页面结构特征包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
B13、根据B12所述的装置，所述页面块特征包括如下特征中的至少一种：
页面块所包括页面元素的第一数量；
页面块所包含页面元素的第一数量相对于网页所包括页面元素的第二数量的比例；
页面块所包含时间信息的第三数量；
页面块所包含时间信息的第三数量相对于网页所包括时间信息的第四数量的比例；
页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
B14、根据B12所述的装置，所述图片周围页面元素特征包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
B15、根据B11所述的装置，所述图片周围环绕文本特征包括如下特征中的至少一种：
推荐文本特征；
图片周围环绕文本长度的方差；
图片周围环绕文本总数；
图片周围环绕文本中超链接文本的比例；以及
图片周围环绕文本的平均长度。
B16、根据B11至B15中任一所述的装置，所述图片特征还包括：图片自身特征和/或图片对应的页面特征。
B17、根据B11至B15中任一所述的装置，所述网页分块模块包括：
一维向量确定子模块，用于依据网页源码中的页面元素，得到对应的一维向量；以及
向量分块子模块，用于依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块。
B18、根据B17所述的装置，所述预设边界元素包括：样式元素、脚本元素、注释元素、外部内容元素、或者包含非数字标识的元素。
B19、根据B11至B15中任一所述的装置，所述图片判断模块包括：
特征向量确定子模块，用于依据所述图片特征，得到特征向量；以及
模型判断子模块，用于将所述特征向量输入分类模型，以得到所述分类模型输出的分类结果；所述分类模型对应的类别包括：目标图片类别和非目标图片类别。
B20、根据B11至B15中任一所述的装置，所述图片判断模块包括：
特征向量确定子模块，依据所述图片特征，得到特征向量；
第一模型判断子模块，用于若所述网页为列表页，则将所述特征向量输入第一分类模型，以得到所述第一分类模型输出的第一分类结果；所述第一分类模型为依据所述列表页对应的训练数据得到；或者
第二模型判断子模块，用于若所述网页为非列表页，则将所述特征向量输入第二分类模型，以得到所述第二分类模型输出的第二分类结果；所述第二分类模型为依据所述非列表页对应的训练数据得到。
本发明实施例公开了C21、一种用于数据处理的装置，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
C22、根据C21所述的装置，所述页面结构特征包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
C23、根据C22所述的装置，所述页面块特征包括如下特征中的至少一种：
页面块所包括页面元素的第一数量；
页面块所包含页面元素的第一数量相对于网页所包括页面元素的第二数量的比例；
页面块所包含时间信息的第三数量；
页面块所包含时间信息的第三数量相对于网页所包括时间信息的第四数量的比例；
页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
C24、根据C22所述的装置，所述图片周围页面元素特征包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
C25、根据C21所述的装置，所述图片周围环绕文本特征包括如下特征中的至少一种：
推荐文本特征；
图片周围环绕文本长度的方差；
图片周围环绕文本总数；
图片周围环绕文本中超链接文本的比例；以及
图片周围环绕文本的平均长度。
C26、根据C21至C25中任一所述的装置，所述图片特征还包括：图片自身特征和/或图片对应的页面特征。
C27、根据C21至25中任一所述的装置，所述对网页进行分块，包括：
依据网页源码中的页面元素，得到对应的一维向量；
依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块。
C28、根据C27所述的装置，所述预设边界元素包括：样式元素、脚本元素、注释元素、外部内容元素、或者包含非数字标识的元素。
C29、根据C21至C25中任一所述的装置，所述依据所述图片特征，判断对应的图片是否为目标图片，包括：
依据所述图片特征，得到特征向量；
将所述特征向量输入分类模型，以得到所述分类模型输出的分类结果；所述分类模型对应的类别包括：目标图片类别和非目标图片类别。
C30、根据C21至C25中任一所述的装置，所述依据所述图片特征，判断对应的图片是否为目标图片，包括：
依据所述图片特征，得到特征向量；
若所述网页为列表页，则将所述特征向量输入第一分类模型，以得到所述第一分类模型输出的第一分类结果；所述第一分类模型为依据所述列表页对应的训练数据得到；或者
若所述网页为非列表页，则将所述特征向量输入第二分类模型，以得到所述第二分类模型输出的第二分类结果；所述第二分类模型为依据所述非列表页对应的训练数据得到。
本发明实施例公开了D31、一种机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得装置执行如A1至A10中一个或多个所述的数据处理方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
以上对本发明所提供的一种数据处理方法、一种数据处理装置和一种用于数据处理的装置，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种数据处理方法，其特征在于，所述方法包括：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
2.根据权利要求1所述的方法，其特征在于，所述页面结构特征包括：图片对应的页面块特征、和/或、图片周围页面元素特征。
3.根据权利要求2所述的方法，其特征在于，所述页面块特征包括如下特征中的至少一种：
页面块所包括页面元素的第一数量；
页面块所包含页面元素的第一数量相对于网页所包括页面元素的第二数量的比例；
页面块所包含时间信息的第三数量；
页面块所包含时间信息的第三数量相对于网页所包括时间信息的第四数量的比例；
页面块所包含超链接文本的第五数量相对于页面块所包含文本的第六数量的比例；
页面块所包含超链接图片的第七数量相对于页面块所包含图片的第八数量的比例。
4.根据权利要求2所述的方法，其特征在于，所述图片周围页面元素特征包括：图片周围页面元素的数量、和/或、图片周围超链接图片的比例。
5.根据权利要求1所述的方法，其特征在于，所述图片周围环绕文本特征包括如下特征中的至少一种：
推荐文本特征；
图片周围环绕文本长度的方差；
图片周围环绕文本总数；
图片周围环绕文本中超链接文本的比例；以及
图片周围环绕文本的平均长度。
6.根据权利要求1至5中任一所述的方法，其特征在于，所述图片特征还包括：图片自身特征和/或图片对应的页面特征。
7.根据权利要求1至5中任一所述的方法，其特征在于，所述对网页进行分块，包括：
依据网页源码中的页面元素，得到对应的一维向量；
依据预设边界元素，对所述一维向量进行分块，以得到网页包括的多个页面块。
8.一种数据处理装置，其特征在于，包括：
网页分块模块，用于依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
图片特征确定模块，用于确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；以及
目标图片判断模块，用于依据所述图片特征，判断对应的图片是否为目标图片。
9.一种用于数据处理的装置，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：
依据网页源码所包括的页面元素，对网页进行分块，以得到所述网页包括的多个页面块；
确定所述页面块所对应图片的图片特征；所述图片特征包括：图片周围环绕文本特征和页面结构特征；
依据所述图片特征，判断对应的图片是否为目标图片。
10.一种机器可读介质，其上存储有指令，当由一个或多个处理器执行时，使得装置执行如权利要求1至7中一个或多个所述的数据处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810555878.XA CN110633399A (zh) | 2018-06-01 | 2018-06-01 | 一种数据处理方法、装置和用于数据处理的装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810555878.XA CN110633399A (zh) | 2018-06-01 | 2018-06-01 | 一种数据处理方法、装置和用于数据处理的装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110633399A true CN110633399A (zh) | 2019-12-31 |
Family
ID=68967545
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810555878.XA Pending CN110633399A (zh) | 2018-06-01 | 2018-06-01 | 一种数据处理方法、装置和用于数据处理的装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110633399A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113343046A (zh) * | 2021-05-20 | 2021-09-03 | 成都美尔贝科技股份有限公司 | 一种智能搜索排序*** |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101706793A (zh) * | 2009-11-16 | 2010-05-12 | 中兴通讯股份有限公司 | 搜索图片的方法和装置 |
| US20110082868A1 (en) * | 2009-10-02 | 2011-04-07 | Aravind Musuluri | System and method for block segmenting, identifying and indexing visual elements, and searching documents |
| CN102663023A (zh) * | 2012-03-22 | 2012-09-12 | 浙江盘石信息技术有限公司 | 一种提取网页内容的实现方法 |
| CN103473338A (zh) * | 2013-09-22 | 2013-12-25 | 北京奇虎科技有限公司 | 网页内容抽取方法和网页内容抽取*** |
| CN103942211A (zh) * | 2013-01-21 | 2014-07-23 | 腾讯科技（深圳）有限公司 | 一种正文页的识别方法及装置 |
| CN104679788A (zh) * | 2013-12-02 | 2015-06-03 | ***通信集团广东有限公司 | 一种图片处理方法、装置及终端设备 |
| CN105183478A (zh) * | 2015-09-11 | 2015-12-23 | 中山大学 | 一种基于颜色传递的网页重构方法及其装置 |
| CN105528758A (zh) * | 2016-01-12 | 2016-04-27 | 武汉精测电子技术股份有限公司 | 基于可编程逻辑器件的图像重映射方法及装置 |
| CN106446139A (zh) * | 2016-09-20 | 2017-02-22 | 微梦创科网络科技（中国）有限公司 | 一种提取网页内容的方法及装置 |
| CN106649767A (zh) * | 2016-12-27 | 2017-05-10 | 东软集团股份有限公司 | 一种网页信息抽取方法及装置 |
| WO2017177957A1 (en) * | 2016-04-14 | 2017-10-19 | Mediatek Inc. | Non-local adaptive loop filter |
| CN107341162A (zh) * | 2016-05-03 | 2017-11-10 | 北京搜狗科技发展有限公司 | 网页处理方法和装置、用于网页处理的装置 |
-
2018
- 2018-06-01 CN CN201810555878.XA patent/CN110633399A/zh active Pending
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110082868A1 (en) * | 2009-10-02 | 2011-04-07 | Aravind Musuluri | System and method for block segmenting, identifying and indexing visual elements, and searching documents |
| CN101706793A (zh) * | 2009-11-16 | 2010-05-12 | 中兴通讯股份有限公司 | 搜索图片的方法和装置 |
| CN102663023A (zh) * | 2012-03-22 | 2012-09-12 | 浙江盘石信息技术有限公司 | 一种提取网页内容的实现方法 |
| CN103942211A (zh) * | 2013-01-21 | 2014-07-23 | 腾讯科技（深圳）有限公司 | 一种正文页的识别方法及装置 |
| CN103473338A (zh) * | 2013-09-22 | 2013-12-25 | 北京奇虎科技有限公司 | 网页内容抽取方法和网页内容抽取*** |
| CN104679788A (zh) * | 2013-12-02 | 2015-06-03 | ***通信集团广东有限公司 | 一种图片处理方法、装置及终端设备 |
| CN105183478A (zh) * | 2015-09-11 | 2015-12-23 | 中山大学 | 一种基于颜色传递的网页重构方法及其装置 |
| CN105528758A (zh) * | 2016-01-12 | 2016-04-27 | 武汉精测电子技术股份有限公司 | 基于可编程逻辑器件的图像重映射方法及装置 |
| WO2017177957A1 (en) * | 2016-04-14 | 2017-10-19 | Mediatek Inc. | Non-local adaptive loop filter |
| CN107341162A (zh) * | 2016-05-03 | 2017-11-10 | 北京搜狗科技发展有限公司 | 网页处理方法和装置、用于网页处理的装置 |
| CN106446139A (zh) * | 2016-09-20 | 2017-02-22 | 微梦创科网络科技（中国）有限公司 | 一种提取网页内容的方法及装置 |
| CN106649767A (zh) * | 2016-12-27 | 2017-05-10 | 东软集团股份有限公司 | 一种网页信息抽取方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| 高乐等: "基于视觉的Web页面分块算法的改进与实现", 《计算机***应用》, no. 04, 15 April 2009 (2009-04-15) * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113343046A (zh) * | 2021-05-20 | 2021-09-03 | 成都美尔贝科技股份有限公司 | 一种智能搜索排序*** |
| CN113343046B (zh) * | 2021-05-20 | 2023-08-25 | 成都美尔贝科技股份有限公司 | 一种智能搜索排序*** |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109819284B (zh) | 一种短视频推荐方法、装置、计算机设备及存储介质 | |
| CN109740085B (zh) | 一种页面内容的展示方法、装置、设备及存储介质 | |
| CN109614482B (zh) | 标签的处理方法、装置、电子设备及存储介质 | |
| US10878044B2 (en) | System and method for providing content recommendation service | |
| CN106095453B (zh) | 一种信息展示方法、装置及电子设备 | |
| CN109325223B (zh) | 文章推荐方法、装置及电子设备 | |
| CN110222256B (zh) | 一种信息推荐方法、装置和用于信息推荐的装置 | |
| US20170109339A1 (en) | Application program activation method, user terminal, and server | |
| CN110598098A (zh) | 一种信息推荐方法、装置和用于信息推荐的装置 | |
| WO2021017238A1 (zh) | 一种文本生成方法和装置 | |
| CN111382339B (zh) | 一种搜索处理方法、装置和用于搜索处理的装置 | |
| CN107515870B (zh) | 一种搜索方法和装置、一种用于搜索的装置 | |
| CN110309324B (zh) | 一种搜索方法及相关装置 | |
| CN109101505A (zh) | 一种推荐方法、推荐装置和用于推荐的装置 | |
| CN107491453B (zh) | 一种识别作弊网页的方法及装置 | |
| CN112612949B (zh) | 推荐数据集合的建立方法及装置 | |
| CN107784037B (zh) | 信息处理方法和装置、用于信息处理的装置 | |
| CN113407775B (zh) | 视频搜索方法、装置及电子设备 | |
| CN108268507B (zh) | 一种基于浏览器的处理方法、装置及电子设备 | |
| CN111274389B (zh) | 一种信息处理方法、装置、计算机设备及存储介质 | |
| CN110110046B (zh) | 同名实体推荐方法及装置 | |
| CN106886541B (zh) | 一种数据搜索方法、装置以及一种用于数据搜索的装置 | |
| CN110633399A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
| CN110020335B (zh) | 收藏夹的处理方法和装置 | |
| CN110929122B (zh) | 一种数据处理方法、装置和用于数据处理的装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20220729 Address after: 100084. Room 9, floor 01, cyber building, building 9, building 1, Zhongguancun East Road, Haidian District, Beijing Applicant after: BEIJING SOGOU TECHNOLOGY DEVELOPMENT Co.,Ltd. Address before: 100084. Room 9, floor 01, cyber building, building 9, building 1, Zhongguancun East Road, Haidian District, Beijing Applicant before: BEIJING SOGOU TECHNOLOGY DEVELOPMENT Co.,Ltd. Applicant before: SOGOU (HANGZHOU) INTELLIGENT TECHNOLOGY Co.,Ltd. |
|
| TA01 | Transfer of patent application right |