CN102637298A - 基于高斯混合模型与支持向量机的彩色图像分割方法 - Google Patents

Abstract

本发明公开了一种结合高斯混合模型(Gaussian Mixture Model，GMM)和支持向量机(Support Vector Machine，SVM)进行彩色图像分割的方法。主要包括图像特征的提取、高斯混合模型的建立以及利用支持向量机进行分类。具体流程包括：首先对图像进行颜色特征和纹理特征的提取；然后建立高斯混合模型，将提取的原始特征利用高斯混合模型得到新特征；其次由新特征得到初分割结果；最后根据初分割结果选取训练样本，利用支持向量机进行分类得到最终的分割结果。在进行特征描述时，不再以原始特征为基础，而是根据经过高斯混合模型(GMM)得到的新特征来进行初始分割，进而利用支持向量机(SVM)得到最终分割结果。本发明充分利用了图像的时空域信息，弥补了高斯混合模型(GMM)仅采用时域信息对复杂背景建模的不足，有效的提高了分割的准确性。

Description

基于高斯混合模型与支持向量机的彩色图像分割方法

技术领域

本发明属于多媒体信息处理的图像分割技术领域，具体涉及一种结合高斯混合模型与支持向量机的彩色图像分割方法。 

背景技术

目前图像分割的方法有很多，早期的图像研究主要将分割方法分为两大类，一种是基于边界的分割方法，另一种是基于区域的分割方法。基于区域的分割方法依赖于图像的空间局部特征，如灰度、纹理及其他像素统计特性的均匀性等。典型的基于区域分割方法有区域生长、区域***及区域生长和***相结合的方法等。由于这些方法依赖于图像的灰度值，因此它们的主要优点是对噪声不敏感，但是这些方法常常造成图像的过分割问题，而且，分割结果很大程度依赖于种子点的选择，分割所得区域的形状也依赖于所选择的分割算法。基于边界的分割方法主要是利用梯度信息确定目标的边界，包括局部微分算子，如Roberts算子、Sobel算子、Prewitt梯度算子和Laplacian二阶差分算子等。这些方法不依赖于已处理像素的结果，适于并行化，但缺点是对噪声敏感，而且当边缘像素值变化不明显时，容易产生假(false)边界或不连续的边界。 

当前的图像分割研究已经进入了一个新的阶段，主要表现在统计工具的广泛使用。基于统计模型的图像分割方法包括基于多尺度变换域统计模型的图像分割方法和基于空域统计模型的图像分割方法，前者是在原始图像经过某一变换后，根据变换域信息进行建模，常见的有基于Wavelet、Contourlet等隐马尔可夫树模型(HMT)的分割方法；后者则是直接在原始图像基础上对感兴趣的特征进行建模，常见的有基于高斯混合模型(GMM)、基于空域马尔可夫随机场(MRF)模型的图像分割方法。这类分割方法借助统计模型捕获了图像的特征，相比于传统的分割方法，得到了更加准确的分割结果。 

发明内容

本发明针对以上问题的提出，而研制的一种基于高斯混合模型与支持向量机的彩色图像分割方法，具有如下步骤： 

S1.提取图像的颜色和纹理特征； 

S2.利用提取的颜色和纹理特征，构建高斯混合模型，利用高斯模型对图像进行初始分割； 

S3.利用支持向量机，将S2中初始分割后的图像，再进行分割，完成对图像的分割； 

所述步骤S1提取图像的颜色和纹理特征具有如下步骤： 

S101.颜色特征的提取； 

S102.纹理特征的提取：利用Sobel算子表示梯度特征、对比度特征的提取和方向性的提取； 

高斯模型的建立具有如下步骤： 

S201.建立高斯混合模型 

设X＝{X_i|i＝1，2，...，N}(N是像素个数)是d维随机变量，此处d＝4，即 

它的概率密度函数能写成k个成分分布的和 

$p\left(X_i\right|\mathrm{\Θ})=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j{p}_j\left(X_i\right|{\mathrm{\θ}}_j)$

其中，参数Θ＝(α₁，...，α_k，θ₁，...，θ_k)，对每一个概率密度函数p_j，其参数θ_j＝{μ_j，∑_j}，μ_j为均值向量，∑_j为方差矩阵，α_j是每个成分的先验概率，满足 

${\mathrm{\α}}_j>0,{\mathrm{\Σ}}_{j=1}^k{\mathrm{\α}}_j=1.$

概率密度函数用d维高斯函数分布表示： 

$G(X,{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)=\frac{1}{{\left(2\mathrm{\π}\right)}^{d/2}{\left|{\mathrm{\Σ}}_j\right|}^{1/2}}\exp \{-\frac{1}{2}{(X-{\mathrm{\μ}}_j)}^T{\mathrm{\Σ}}_j^{-1}(X-{\mathrm{\μ}}_j)\}$

为求上述公式中的参数，一般采用迭代方法，即先建立样本的最大似然方程，然后采用EM算法对参数进行估计。 

最大似然估计的基本假设是所有N个样本的集合X＝{X_i|i＝1，2，...，N}是独立的，其似然函数可定义为： 

$l\left(\mathrm{\Θ}\right)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}p\left(X_i\right|\mathrm{\Θ})$

所谓最大似然估计，就是找到使上式的对数似然函数最大的Θ的估计值Θ^*，即 

${\mathrm{\Θ}}_{\mathrm{ML}}^{*}=\arg \underset{\mathrm{\θ}\∈\mathrm{\Θ}}{\max }\log l\left(\mathrm{\Θ}\right)=\underset{i=1}{\overset{N}{\mathrm{\Σ}}}\log \underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j{p}_j\left(X_i\right|{\mathrm{\θ}}_j)$

S202.E-step 

首先初始化参数α_j、μ_j和∑_j，根据得到的参数计算样本属于第j类的后验概率： $P_j^n\left(X_i\right)=\frac{{\mathrm{\α}}_j^n{p}_j\left(X_i\right|{\mathrm{\θ}}_j)}{{\mathrm{\Σ}}_{j=1}^k{\mathrm{\α}}_j^n{p}_j\left(X_i\right|{\mathrm{\θ}}_j)}.$

S203.M-step 

在第n+1步迭代中，得到新的参数值，具体公式为： 

${\mathrm{\α}}_j^{n+1}=\frac{1}{N}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{P}_j^n\left(X_i\right)$

${\mathrm{\μ}}_j^{n+1}=\frac{{\mathrm{\Σ}}_{i=1}^N{x}_i{P}_j^n\left(X_i\right)}{{\mathrm{\Σ}}_{i=1}^N{P}_j^n\left(X_i\right)}$

${\mathrm{\Σ}}_j^{n+1}=\frac{{\mathrm{\Σ}}_{i=1}^N{P}_j^n\left(X_i\right)(X_i-{\mathrm{\μ}}_j^{n+1}){(X_i-{\mathrm{\μ}}_j^{n+1})}^T}{{\mathrm{\Σ}}_{i=1}^N{P}_j^n\left(X_i\right)}$

S204.循环迭代直到满足收敛条件。迭代收敛后，可以得到样本属于第j类的后验概率，这一结果可以用于数据分类、图像分割等。 

根据贝叶斯规则进行分类： 

$j\left(X_i\right)=\arg \left[\underset{1\≤j\≤k}{\max }\right\{P_j^n\left(X_i\right)\left\}\right],$

其中j(X_i)表示像素X_i所属的类的标签。 

由于采用了上述技术方案，本发明提供的基于高斯混合模型与支持向量机的彩色图像分割方法，通过一种简单的结构实现了，可以有效的降低图像噪声，图像处理速度快，并且不会大幅度影响机硬件的处理速度，对硬件配置要求不高，便于大规模推广。 

附图说明

为了更清楚的说明本发明的实施例或现有技术的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做一简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。 

图1：基于GMM和SVM的彩色图像分割流程图 

图2：像素点的局部邻近区域 

图3：待处理的原始图像 

图4(a)：彩色图像“虎”的纹理特征——梯度表示结果 

图4(b)：彩色图像“虎”的纹理特征——对比度表示结果 

图4(c)：彩色图像“虎”的纹理特征——方向性表示结果 

图5：利用GMM得到的初分割实验结果 

图6：利用GMM和SVM相结合的最终实验结果 

图7：图像库中部分图像的实验结果及图像库中的手绘结果 

具体实施方式

为使本发明的实施例的目的、技术方案和优点更加清楚，下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚完整的描述，显然，所描述的实施例是本发明的一部分实施例，而不是全部实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明的保护范围。 

如图1-图6所示；基于高斯混合模型与支持向量机的彩色图像分割方法的具体实现流程如附图1所示，特征提取，建立高斯混合模型以及用支持向量机分类的具体步骤如下： 

1)颜色特征 

一般来说，图像是由RGB颜色空间显示的，而我们选择更符合人类视觉感知特征的CIEL*a*b颜色空间，利用如下公式把RGB颜色空间转换成CIEL*a*b颜色空间： 

X＝0.490×R+0.310×G+0.200×B 

Y＝0.177×R+0.813×G+0.011×B 

Z＝0.000×R+0.010×G+0.990×B 

再将CIEXYZ颜色转换为CIEL*a*b： 

L＝25×(100×Y/Y₀)^1/3-16 

a＝500×[(X/X₀)^1/3-(Y/Y₀)^1/3] 

b＝200×[(Y/Y₀)^1/3-(Z/Z₀)^1/3] 

为计算图像像素点(i，j)的颜色特征，我们需构造出像素点(i，j)的局部邻近区 域M×M。本发明选取以点(i，j)为中心的8个像素点为邻近区域M×M(此处M为3)，如图2所示。 

颜色特征表示为： 

${\stackrel{\→}{c}}_{\mathrm{ij}}={\left[\frac{1}{M\×M}\underset{i,j=1}{\overset{M}{\mathrm{\Σ}}}{c}_{\mathrm{ij}\_L}\frac{1}{M\×M}\underset{i,j=1}{\overset{M}{\mathrm{\Σ}}}{c}_{\mathrm{ij}\_a^{*}}\frac{1}{M\×M}\underset{i,j=1}{\overset{M}{\mathrm{\Σ}}}{c}_{\mathrm{ij}\_b^{*}}\right]}^T$

2)纹理特征 

a梯度(Gradient) 

用Sobel算子表示梯度特征，将得到的梯度值归一化到[0，255]，如图4(a)所示，其中近似白色的区域就是图像的边缘而黑色的区域表示没有覆盖到边缘。 

b对比度(Contrast) 

一幅图像中较大的对比数值显示更多的明显差异。为了计算对比度，我们利用像素(x，y)的3×3邻域来估计像素的对比水平，公式如下： 

$F_{\mathrm{con}}(x,y)=\frac{\mathrm{\σ}(x,y)}{{[\mathrm{\η}(x,y)/{\mathrm{\σ}}^4(x,y)]}^{1/4}}$

其中，σ(x，y)是标准差，μ(x，y)是像素(x，y)邻域的均值，η(x，y)是每一个邻域块的四阶均值，表示为： 

$\mathrm{\σ}(x,y)=\sqrt{\frac{1}{9}\underset{j=-1}{\overset{1}{\mathrm{\Σ}}}\underset{i=-1}{\overset{1}{\mathrm{\Σ}}}{[f(x+i,y+j)-\mathrm{\μ}(x,y)]}^2}$

$\mathrm{\η}(x,y)=\frac{1}{9}\underset{j=-1}{\overset{1}{\mathrm{\Σ}}}\underset{i=-1}{\overset{1}{\mathrm{\Σ}}}{[f(x+i,y+j)-\mathrm{\μ}(x,y)]}^4$

$\mathrm{\μ}(x,y)=\frac{1}{9}\underset{j=-1}{\overset{1}{\mathrm{\Σ}}}\underset{i=-1}{\overset{1}{\mathrm{\Σ}}}f(x+i,y+j)$

经过归一化后，如图4(b)所示，较低对比度的值小而且用深色表示，较大对比度的值大而且用近似白色显示。 

c方向性(Directionality) 

方向性一般用来描述方向差异度，一个大的价值的指向性表示更大程度的方向性变化。 

首先根据在x方向的梯度Δ_x(x，y)和y方向的梯度Δ_y(x，y)计算梯度角度θ(x，y)，再计算平均梯度角度 

公式如下： 

$\mathrm{\θ}(x,y)={\tan }^{-1}\left(\frac{{\mathrm{\Δ}}_y(x,y)}{{\mathrm{\Δ}}_x(x,y)}\right)+\mathrm{\π}$

$\stackrel{\‾}{\mathrm{\θ}}(x,y)=\frac{1}{9}\underset{j=-1}{\overset{1}{\mathrm{\Σ}}}\underset{i=-1}{\overset{1}{\mathrm{\Σ}}}\mathrm{\θ}(x+i,y+j)$

再定义整幅图像梯度大小的均值作为阈值T_θ，θ^p(x，y)为所要求的方向性。 

$\mathrm{\θ}(x,y)=\left\{\begin{array}{c}\mathrm{\θ},\mathrm{\Δ}\≥T_{\mathrm{\θ}}\\ 0,\mathrm{\Δ}＜T_{\mathrm{\θ}}\end{array}\right.$

${\mathrm{\θ}}^p(x,y)=\frac{1}{9}[\mathrm{\θ}(x,y)-\stackrel{\‾}{\mathrm{\θ}}(x,y)]$

方向性θ^p(x，y)经过归一化后如图4(c)所示，黑色区域表示差异小而近似白色的区域表示差异大。 

高斯混合模型(GMM)是应用最广泛的统计模型之一，具有鲁棒性好，参数少且易于调整，概率统计分布描述能力强等优点，但是也有一般统计模型过于依赖先验假设的缺点，因此本发明在建模初期，采用非参数的混合模型，以解决传统的统计模型方法过于依赖先验假设的问题。方法如下： 

1)建立非参数的混合模型 

设X＝{X_i|i＝1，2，...，N}(N是像素个数)是d维随机变量，此处d＝4，即 

它的概率密度函数能写成k个成分分布的和 

$p\left(X_i\right|\mathrm{\Θ})=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j{p}_j\left(X_i\right|{\mathrm{\θ}}_j)$

其中，参数Θ＝(α₁，...，α_k，θ₁，...，θ_k)，对每一个概率密度函数p_j，其参数θ_j＝{μ_j，∑_j}，μ_j为均值向量，∑_j为方差矩阵，α_j是每个成分的先验概率，满足 

${\mathrm{\α}}_j>0,{\mathrm{\Σ}}_{j=1}^k{\mathrm{\α}}_j=1.$

概率密度函数用d维高斯函数分布表示： 

$G(X,{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)=\frac{1}{{\left(2\mathrm{\π}\right)}^{d/2}{\left|{\mathrm{\Σ}}_j\right|}^{1/2}}\exp \{-\frac{1}{2}{(X-{\mathrm{\μ}}_j)}^T{\mathrm{\Σ}}_j^{-1}(X-{\mathrm{\μ}}_j)\}$

为求上述公式中的参数，一般采用迭代方法，即先建立样本的最大似然方程，然后采用EM算法对参数进行估计。 

最大似然估计的基本假设是所有N个样本的集合X＝{X_i|i＝1，2，...，N}是独立的，其似然函数可定义为： 

$l\left(\mathrm{\Θ}\right)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}p\left(X_i\right|\mathrm{\Θ})$

所谓最大似然估计，就是找到使上式的对数似然函数最大的Θ的估计值Θ^*，即 

${\mathrm{\Θ}}_{\mathrm{ML}}^{*}=\arg \underset{\mathrm{\θ}\∈\mathrm{\Θ}}{\max }\log l\left(\mathrm{\Θ}\right)=\underset{i=1}{\overset{N}{\mathrm{\Σ}}}\log \underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j{p}_j\left(X_i\right|{\mathrm{\θ}}_j)$

本发明中，假设k＝2，混合模型的初始参数由K均值求出，即 

${\mathrm{\α}}_j^0=\frac{N_j^0}{N}$

${\mathrm{\μ}}_j^0=\frac{1}{N_j^0}\underset{i=1}{\overset{N_j^0}{\mathrm{\Σ}}}{e}_0\left(X_i\right)$

其中， 

是根据K均值得到的属于第j类的像素个数。e是切比雪夫正交多项式(Chebyshev orthogonal polynomial)，表示为： 

e_n(x)＝cos(n arccos x)，n＝0，1，2，... 

切比雪夫正交***表示为： 

$f_{1/s}\left(x\right)=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j\left\{\underset{i=1}{\overset{k_{N_j}}{\mathrm{\Σ}}}{a}_{i,j}\cos \left(n\arccos x\right)\right\}$

$=\underset{j=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\α}}_j\left\{\underset{i=1}{\overset{N_j^{1/s}}{\mathrm{\Σ}}}{a}_{i,j}\cos \left(n\arccos x\right)\right\}$

其中，1/s是平滑参数，决定混合模型的收敛度， 

是傅立叶系数的条件概率密度函数的估计。 

2)E-step 

根据上一步得到的参数计算后验概率： 

3)M-step 

在第n+1步迭代中，得到新的参数值，具体公式为： 

${\mathrm{\α}}_j^{n+1}=\frac{1}{N}\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{P}_j^n\left(X_i\right)$

${\mathrm{\μ}}_j^{n+1}=\frac{{\mathrm{\Σ}}_{i=1}^N{e}_n\left(X_i\right)P_j^n\left(X_i\right)}{{\mathrm{\Σ}}_{i=1}^N{P}_j^n\left(X_i\right)}$

4)循环迭代直到满足收敛条件。迭代收敛后，可以得到样本属于第j类的后验概率，这一结果可以用于数据分类、图像分割等。 

根据贝叶斯规则进行分类： 

$j\left(X_i\right)=\arg \left[\underset{1\≤j\≤k}{\max }\right\{P_j^n\left(X_i\right)\left\}\right],$

其中j(X_i)表示像素X_i所属的类的标签。 

利用GMM得到的初分割结果如图5所示。 

3SVM分类 

为了弥补GMM仅采用时域信息对复杂背景建模不足，结合SVM分类器进行分割，这样就充分利用了图像的时空域信息，而且综合了GMM的概率统计分布描述能力强和和SVM分类性能好的优点 

利用GMM得到的初分割结果，构造SVM分类器的训练样本，再对SVM进行训练，最后用SVM进行分类，根据输入的测试数据由SVM分类器进行预测，将图像分为前景区的背景区，从而得到最终结果(如图6、图7所示)。 

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。 

Claims (2)

1.一种基于高斯混合模型与支持向量机的彩色图像分割方法，其特征在于具有如下步骤：

S1.提取图像的颜色和纹理特征；

S2.利用提取的颜色和纹理特征，构建高斯混合模型，利用高斯模型对图像进行初始分割；

S3.利用支持向量机，将S2中初始分割后的图像，再进行分割，完成对图像的分割；

所述步骤S1提取图像的颜色和纹理特征具有如下步骤：

S101.颜色特征的提取；

S102.纹理特征的提取：利用Sobel算子表示梯度特征、对比度特征的提取和方向性的提取。

2.根据权利要求1所述的基于高斯混合模型与支持向量机的彩色图像分割方法，其特征还在于所述：所述高斯模型的建立具有如下步骤：

S201.利用非参数的混合模型初始化参数 

S202.利用EM算法训练得到最终参数值 

S203.将参数代入公式，求出后验概率 

S204.求得最大后验概率 

S201.建立高斯混合模型

设X＝{X_i|i＝1，2，...，N}(N是像素个数)是d维随机变量，此处d＝4，即 

它的概率密度函数能写成k个成分分布的和

其中，参数Θ＝(α₁，...，α_k，θ₁，...，θ_k)，对每一个概率密度函数p_j，其参数θ_j＝{μ_j，∑_j}，μ_j为均值向量，∑_j为方差矩阵，α_j是每个成分的先验概率，满足

概率密度函数用d维高斯函数分布表示：

为求上述公式中的参数，一般采用迭代方法，即先建立样本的最大似然方程，然后采用EM算法对参数进行估计。

最大似然估计的基本假设是所有N个样本的集合X＝{X_i|i＝1，2，...，N}是独立的，其似然函数可定义为：

所谓最大似然估计，就是找到使上式的对数似然函数最大的Θ的估计值Θ^*，即

S202.E-step

首先初始化参数α_j、μ_j和∑_j，根据得到的参数计算样本属于第j类的后验概率：

S203.M-step

在第n+1步迭代中，得到新的参数值，具体公式为：

S204.循环迭代直到满足收敛条件。迭代收敛后，可以得到样本属于第j类的后验概率，这一结果可以用于数据分类、图像分割等。

根据贝叶斯规则进行分类：

其中j(X_i)表示像素X_i所属的类的标签。 

Images