CN102880726B - 一种图像过滤方法及*** - Google Patents

Abstract

本发明涉及图像处理领域，提供了一种图像过滤方法包括，对所述图像进行图像特征的提取；根据提取的图像特征，对所述图像进行图像指纹的提取；根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。本发明还提供了一种图像过滤***。采用本发明的技术方案，能过滤掉图像主体一致，但是在图像尺寸、压缩质量、色度、对比度、logo上存在细微差别的近似重复图像，进一步地可以避免了对全部图像进行特征提取和通过检索的方式过滤相似图的步骤，使用布隆滤波器进行近似重复图像过滤的效率较高，且所耗费的存储和计算资源较少。

Description

一种图像过滤方法及***

技术领域

本发明涉及图像处理领域，特别地涉及一种图像过滤方法及***。

背景技术

随着信息***时代的来临，互联网上充斥着着大量的重复信息，有效地识别它们是一个很有意义的课题。例如，对于搜索引擎的爬虫***来说，收录重复的图片是毫无意义的，只会造成存储和计算资源的浪费；同时，展示重复的信息对于用户来说也并不是最好的体验。对于图片来说，产生重复图片的原因主要包括：

镜像网站，图像的统一资源定位符url虽然不同，但图像的内容完全相同。

图像的转载，图像内容主体一致，但使用了图像处理工具对图像进行了进一步处理：比如添加网站logo、对图像尺寸进行缩放、对图像内容进行细微裁剪、改变图像的压缩质量、改变图像的色度、饱和度等等。

传统的图像去重方法大多在爬虫***中进行，通过图像的url或附加一些图像的尺寸、大小等信息等拼成一个字符串，对此字符串使用HASH函数进行指纹化，再使用布隆滤波器（bloom filter）判断此图像是否被爬取过，如果没有，进行图片下载，否则放弃，这样可以防止同一地址的图片被重复下载。

但是对于上述的两种情况的重复图片，在爬虫阶段都不能直接过滤掉，需要后续通过图像处理算法对重复图片进行识别和删除。在现有的近似重复图像过滤***中，多数采用基于检索的方式对被检测图像的特征或指纹进行全库检索，如中国专利申请号200910146726.5的专利，就是使用的这种方法，该专利介绍的***虽然通过聚类的方法对图像数据库进行了分类，缩小了检索图像的规模，但是基于检索的近似重复图像过滤***在效率上相对较低，如何更为有效地进行图像过滤成为一个有待解决的问题。

发明内容

本发明解决的技术问题在于提供了一种图像过滤方法及***，以有效地进行图像过滤，提高过滤效率。

为解决上述问题，本发明提供了一种图像过滤方法，包括，对所述图像进行图像特征的提取；根据提取的图像特征，对所述图像进行图像指纹的提取；根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

本发明还提供了一种图像过滤***，包括，图像特征提取模块，用于对所述图像进行图像特征的提取；图像指纹提取模块，用于根据提取的图像特征，对所述图像进行图像指纹的提取；图像过滤模块，用于根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

采用本发明的技术方案，能过滤掉图像主体一致，但是在图像尺寸、压缩质量、色度、对比度、logo上存在细微差别的近似重复图像，进一步地可以避免了对全部图像进行特征提取和通过检索的方式过滤相似图的步骤，使用布隆滤波器进行近似重复图像过滤的效率较高，且所耗费的存储和计算资源较少。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是本发明第一实施例流程图；

图2是本发明第二实施例结构图。

具体实施方式

为了使本发明所要解决的技术问题、技术方案及有益效果更加清楚、明白，以下结合附图和实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在本发明的实施例中， 多次使用了布隆滤波器，首先介绍一下布隆滤波器的概念和工作原理。

布隆滤波器（Bloom filter）是由 Howard Bloom 在 1970 年提出的二进制向量数据结构，它具有很好的空间和时间效率，被用来检测一个元素是不是集合中的一个成员。Bloom filter 采用的是哈希函数的方法，将一个元素映射到一个 m 长度的阵列上的一个点，当这个点是 1 时，那么这个元素在集合内，反之则不在集合内。这个方法的缺点就是当检测的元素很多的时候可能有冲突，解决方法就是使用 k 个哈希函数对应 k 个点，如果所有点都是 1 的话，那么元素在集合内，如果有 0 的话，元素则不在集合内。

如图1所示，是本发明第一实施例流程图，提供了一种图像过滤方法，具体包括，

步骤S101，对所述图像进行图像特征的提取；

在该方法中， 为了使对近似重复的图像的描述更加全面和精确，所述图像特征包括图像的颜色、轮廓、LAB特征。

其中颜色特征的提取步骤如下：

（1）将彩色图像由RGB颜色模型转化为HSV颜色模型；

（2）将HSV颜色空间内的所有颜色进行量化；具体量化的方式为对H、S和V三个分量分别量化成Nh，Ns，Nv个bins，组合起来便将所有颜色量化到L=Nh*Ns*Nv个级别内；

（3）将图像划分成M（M可取4、9、16等）个大小相等的区域，在每个区域内分别统计量化后的各颜色的分布情况，每个区域内便可得到一个L维的颜色直方图；

（4）将各个区域内的颜色直方图进行归一化，使直方图的各个分量都可以用0~255的整数表示，将M个直方图连接起来得到图像的M*L维颜色特征。

轮廓特征的提取步骤如下：

（1）将彩色图像转化为灰度图像；

（2）在灰度图像上提取图像的Canny边缘；对边缘点的像素分别计算边缘的方向，边缘的方向可通过计算，其中dy=I(i,j+1)-I(i,j-1)，dx=I(i+1,j)-I(i-1,j)，I(i,j)表示灰度图像中第i行，第j列的图像的像素值。对边缘点的方向进行量化，量化到8个方向。

（3）将图像划分成N（N可取4、9、16等）个大小相等的区域，在每个区域内分别统计量化后的边缘方向的直方图，每个区域可得到一个8维的边缘方向直方图。

（4）将各个区域内的边缘方向直方图进行归一化，使直方图的各个分量可以用0~255的整数表示，N个区域的直方图连接起来得到8*N维的轮廓特征。

LAB特征的提取步骤如下：

（1）将彩色图像转化为灰度图像；

（2）将灰度图像划分成O（O可取4、9、16、25、36等）个大小相等的区域；

（3）将每个区域划分成3*3的子区域，分别统计子区域的像素的累积灰度值；

（4）将3*3个子区域中的***8个子区域的累积灰度值与中心子区域的累积灰度值进行比较，若前者大，记1，反之，记0，这样便可得到8个由0、1构成的LAB特征，可用一个字节表示，将O个区域的LAB特征连接起来便得到一个由O个字节表示的特征串。

步骤S102，根据提取的图像特征，进行图像指纹的提取；

具体地，提取的步骤如下：

（1）将图像的颜色和轮廓特征进行embedding，即将图像和轮廓特征中各个分量按其取值范围转化为一系列0、1组成的二进制序列。例如，如果某分量的最大取值为255，最小取值为0，则把该分量用255个二进制序列表示，若该分量的取值为n，则此二进制序列的前n位取为1，后255-n位为0。将颜色和轮廓特征的各个分量都按上述方法进行embedding后，将其结果连接起来，如此便可得到由颜色和轮廓特征组成的二进制序列。因为近似重复的图像的特征比较接近，因此转化后的二进制序列的海明hamming距离也比较小。

（2）将颜色和轮廓特征embedding转化后得到的二进制序列同LAB特征连接起来就得到了图像的一个二进制序列描述。对此描述进行随机采样，将结果按长度L连接起来便可得到图像的一个L位的二进制指纹。指纹的长度越长，对近似重复图的判别精度越高。为了提高近似重复图判断的召回率，通常会提取K（K>1）个指纹，所提取的指纹数目越多，召回率越高，但是由于算法不能达到100%的准确，所选的指纹越多时误判为近似重复图的概率也会增大，可能会降低判断的准确率。值得注意的是，虽然指纹是由对二进制序列随机采样得到的，但须保证，对每张图的采样方式是相同的，这样才能保证近似重复图的指纹能得以匹配。

步骤S103，根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

具体地，对图像的K个指纹分别进行哈希hashing，仍选择最常用的MD5算法，将hash后的结果分别到K个布隆滤波器中进行查看对应位置上是否为1，统计各个指纹是否已经存在。设定一个阈值T，若图像的K个指纹中有超过T个指纹已经存在，则判定此图像已有近似重复图被保存，舍掉该图像，否则，将图像的各个特征所在的布隆滤波器的相应位置1，并将图像存入图像数据库中。如此，便使得存入图像数据库中的图像都是不存在近似重复图的图像。

在对所述图像进行图像特征的提取之前，还包括，

步骤S1011，根据图像的url进行去重；

在爬虫阶段，通过对图片的url进行hash化，将其放入一个布隆过滤器中，如果图像的url在之前已经被爬取过，在布隆滤波器中就会有所记录，防止同一个url上的图片被重复下载。具体地，所使用的方法为：对图像的url进行hash，hash函数的选取可以选择比较常用的MD5算法或SHA算法。将得到的hash值放入布隆滤波器一中，若相应位上值为1，则此url中包含的图像已经被下载过，舍掉此url，不再进行后续处理。如果相应位上为0，则说明此url是一个全新的url，将图像下载，并将布隆滤波器中的相应位置置1，将该图像进入到下一过滤步骤。

在对所述图像进行图像特征的提取之前，还可以包括，

步骤S1012，根据图像的内容进行去重。

如果同一张图像被不同的网址转载，则其url不相同，在根据url进行过滤过程中不会被过滤出去。因此，需要对图像的文件进行hash化，使用另外一个布隆滤波器，对由图像内容得到的指纹进行过滤，如果布隆滤波器中标记某张图像的内容已存在，则这张图像会被舍弃掉。具体地，对整个图像文件进行hash，hash函数也使用常用的MD5算法。将得到的hash值放入布隆滤波器二中，如果对应位的值为1，则此图像文件在库中已经存在过，舍掉该图不进行后续流程。反之，则说明此图像是一张新图，将布隆滤波器的对应位置置1，进行下一步过滤。

如图2所示，本发明还提供了一种图像过滤***，包括，

图像特征提取模块，用于对所述图像进行图像特征的提取；

图像指纹提取模块，用于根据提取的图像特征，对所述图像进行图像指纹的提取；

图像过滤模块，用于根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

上述***中，所述图像特征包括图像的颜色、轮廓、LAB特征。

上述***中，还包括，

url去重模块，用于根据图像的url进行去重；和/或

图像内容去重模块，用于根据图像的内容进行去重。

采用本发明的技术方案，避免了对全部图像进行特征提取和通过检索的方式过滤相似图的步骤，使用布隆滤波器进行近似重复图像过滤的效率较高，且所耗费的存储和计算资源较少。

上述说明示出并描述了本发明的一个优选实施例，但如前所述，应当理解本发明并非局限于本文所披露的形式，不应看作是对其他实施例的排除，而可用于各种其他组合、修改和环境，并能够在本文所述发明构想范围内，通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围，则都应在本发明所附权利要求的保护范围内。

Claims (7)

1.一种图像过滤方法，其特征在于，包括，

对图像进行图像特征的提取，包括图像的颜色特征、轮廓特征、LAB特征；

根据提取的图像特征，对所述图像进行图像指纹的提取；具体为：将图像的颜色特征和轮廓特征进行embedding，即将所述颜色特征和轮廓特征中各个分量按其取值范围转化为0、1组成的二进制序列；将颜色特征和轮廓特征转化得到的二进制序列与图像的LAB特征连接起来，得到图像的二进制序列描述；对所述二进制序列描述进行随机K个采样，将每个采样结果按长度L连接起来，得到图像的K个L位的二进制指纹，其中，K>1；

根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

2.根据权利要求1所述的方法，其特征在于，

颜色特征的提取包括，

(1)将彩色图像由RGB颜色模型转化为HSV颜色模型；

(2)将HSV颜色空间内的所有颜色进行量化，具体量化的方式为对H、S和V三个分量分别量化成Nh，Ns，Nv个bins，进行组合将所有颜色量化到L＝Nh*Ns*Nv个级别内；

(3)将图像划分成M个大小相等的区域，在每个区域内分别统计量化后的各颜色的分布情况，每个区域内便可得到一个L维的颜色直方图；

(4)将各个区域内的颜色直方图进行归一化，使直方图的各个分量都可以用0～255的整数表示，将M个直方图进行连接得到图像的M*L维颜色特征；

轮廓特征的提取包括，

(1)将彩色图像转化为灰度图像；

(2)在灰度图像上提取图像的Canny边缘；对边缘点的像素分别计算边缘的方向，边缘的方向可通过计算，其中dy＝I(i,j+1)-I(i,j-1)，dx＝I(i+1,j)-I(i-1,j)，I(i,j)表示灰度图像中第i行，第j列的图像的像素值；对边缘点的方向进行量化，量化到8个方向；

(3)将图像划分成N个大小相等的区域，在每个区域内分别统计量化后的边缘方向的直方图，每个区域可得到一个8位的边缘方向直方图；

(4)将各个区域内的边缘方向直方图进行归一化，使直方图的各个分量可以用0～255的整数表示，N个区域的直方图连接起来得到8*N的轮廓特征；

LAB特征的提取包括，

(1)将彩色图像转化为灰度图像；

(2)将灰度图像划分成O个大小相等的区域；

(3)将每个区域划分成3*3的子区域，分别统计子区域的像素的累积灰度值；

(4)将3*3个子区域中的***8个子区域的累积灰度值与中心子区域的累积灰度值进行比较，若前者大，记1，反之，记0，得到8个由0、1构成的LAB特征，用一个字节表示，将O个区域的LAB特征连接得到一个由O个字节表示的特征串。

3.根据权利要求1所述的方法，其特征在于，所述通过布隆滤波器对所述图像进行过滤具体包括，

对图像的K个指纹分别进行哈希，将哈希后的结果分别到K个布隆滤波器中进行查看对应位置上是否为1，统计各个指纹是否已经存在；设定一个阈值T，若图像的K个指纹中有超过T个指纹已经存在，则判定此图像已有近似重复图被保存，舍掉该图像，否则，将图像的各个特征所在的布隆滤波器的相应位置1，并将图像存入图像数据库中。

4.根据权利要求1至3任一所述的方法，其特征在于，在对所述图像进行图像特征的提取之前，还包括，根据图像的url进行去重，具体为，在爬虫阶段，通过对图片的url进行哈希化，将其放入一个布隆过滤器中，如果图像的url在之前已经被爬取过，在布隆滤波器中就会有所记录，舍掉该url。

5.根据权利要求4所述的方法，其特征在于，还包括，根据图像的内容进行去重，具体为，对图像的文件进行哈希化，使用另外一个布隆滤波器，对由图像内容得到的指纹进行过滤，如果布隆滤波器中标记该图像的内容已存在，则这张图像会被舍弃掉。

6.一种图像过滤***，其特征在于，包括，

图像特征提取模块，用于对所述图像进行图像特征的提取；包括图像的颜色特征、轮廓特征、LAB特征；

图像指纹提取模块，用于根据提取的图像特征，对所述图像进行图像指纹的提取；具体为：将图像的颜色特征和轮廓特征进行embedding，即将所述颜色特征和轮廓特征中各个分量按其取值范围转化为0、1组成的二进制序列；将颜色特征和轮廓特征转化得到的二进制序列与图像的LAB特征连接起来，得到图像的二进制序列描述；对所述二进制序列描述进行随机K个采样，将每个采样结果按长度L连接起来，得到图像的K个L位的二进制指纹，其中，K>1；

图像过滤模块，用于根据提取的图像指纹，通过布隆滤波器对所述图像进行过滤。

7.根据权利要求6所述的***，其特征在于，还包括，

url去重模块，用于根据图像的url进行去重；和/或

图像内容去重模块，用于根据图像的内容进行去重。