CN106599848A - 基于深度视觉特征和支持向量机的地表纹理识别算法 - Google Patents

Abstract

本发明提供一种基于深度视觉特征和支持向量机的地表纹理识别算法，包括以下步骤：步骤1，获取不同种非结构化道路的图片，并将每类图片的一部分存入训练集另一部分存入测试集，训练集和测试集构成地表纹理数据库；步骤2，采用AlexNet卷积神经网络模型，获取地表纹理数据库所有图像的深度视觉特征并保存；步骤3，在建立的地表纹理数据库中，对不同种非结构化道路分别定义标签，采用支持向量机算法分析训练集的深度视觉特征得到判决函数，分析测试集的深度视觉特征得到测试集的预测标签和分类准确率；步骤4，判断准确率是否高于设定值，若高于设定值则保留地表纹理数据库；否则，从新获取不同种非结构化道路的图片。

Description

基于深度视觉特征和支持向量机的地表纹理识别算法

技术领域

本发明涉及一种模式识别技术，特别是一种基于深度视觉特征和支持向量机的地表纹理识别算法。

背景技术

智能车辆技术是一个新兴的学科，融合了计算机、现代传感、信息融合、通讯、人工智能及自动控制等技术，广泛应用于军事、民用领域。在民事领域中，它为驾驶者带来便利的同时，可以有效地避免突发状况的发生，减少交通事故的发生。该技术的第一层技术是智能感知/预警***，利用各种传感器信息来获得对车辆自身、车辆行驶的周围环境及驾驶员本身的站台感知，必要时发出预警消息，是辅助驾驶***和车辆自动驾驶***这后两层技术的基础。

由于智能车不仅在户外的越野环境中行驶时，必须先对地表进行识别，分析道路的变化，然后进行不同的操作从而实现车辆的自主导航。道路大体可以分为结构化道路与非结构化道路，针对道路结构的不同，地表分类的研究也有所不同。在特征提取方面，结构化道路路表的颜色、纹理等特征较为稳定、统一，便于进行针对性的研究，主要通过识别道路线和道路标志的形状来建模分析，目前的研究比较成熟而且有了较大的进展。而非结构化道路的地表分类由于受外界环境影响较大，例如阳光、雨雪、季节对等室外环境下，路表分类的结果就相应较差，仍然处于研究阶段且极具挑战性，亟需不断开拓和完善。

发明内容

本发明的目的在于提供一种基基于深度视觉特征和支持向量机的地表纹理识别算法。本发明能够在已知的户外采集到的地表纹理数据库中，较好地消除阳光、雨雪、季节对等室外环境对非结构化道路的影响，抽取具有稳健性和辨别力的深度视觉特征，并且进行道路分类，分类准确率高。

一种基于深度视觉特征和支持向量机的地表纹理识别算法，包括以下步骤：

步骤1，获取不同种非结构化道路的图片，并将每类图片的一部分存入训练集另一部分存入测试集，训练集和测试集构成地表纹理数据库；

步骤2，采用AlexNet卷积神经网络模型，获取地表纹理数据库所有图像的深度视觉特征并保存；

步骤3，在建立的地表纹理数据库中，对不同种非结构化道路分别定义标签，采用支持向量机算法分析训练集的深度视觉特征得到判决函数，分析测试集的深度视觉特征得到测试集的预测标签和分类准确率；

步骤4，判断准确率是否高于设定值，若高于设定值则保留地表纹理数据库；否则，从新获取不同种非结构化道路的图片。

本发明与现有技术相比，具有以下优点：(1)本发明优点在于基于“Caffe”深度学习框架，采用AlexNet卷积神经网络模型得到地表纹理数据库抽取所有输入图像的深度视觉特征，单个输入图像经过5个卷积层和2个全连接层输出一个4096维的特征向量，较好地消除了阳光、雨雪、季节对等室外环境对非结构化道路的影响，抽取具有稳健性和辨别力的深度视觉特征；(2)利用支持向量机(Support Vector Machine,SVM)算法对深度视觉特征进行分析，进而达到识别地表纹理图像的目的，具有很高的识别准确率。

下面结合说明书附图对本发明做进一步描述。

附图说明

图1为本发明实施例基于深度视觉特征和支持向量机的地表纹理识别算法的流程示意图。

图2为南京理工大学越野地表纹理数据库样本示意图。

图3为卷积神经网络模型结构示意图。

具体实施方式

一种基于深度视觉特征和支持向量机的地表纹理识别算法，其特征在于，包括以下步骤：

步骤1，获取不同种非结构化道路的图片，并将每类图片的一部分存入训练集另一部分存入测试集，训练集和测试集构成地表纹理数据库；

步骤2，采用AlexNet卷积神经网络模型，获取地表纹理数据库所有图像的深度视觉特征并保存；

步骤3，在建立的地表纹理数据库中，对不同种非结构化道路分别定义标签，采用支持向量机算法分析训练集的深度视觉特征得到判决函数，分析测试集的深度视觉特征得到测试集的预测标签和分类准确率；

步骤4，判断准确率是否高于设定值，若高于设定值则保留地表纹理数据库；否则，从新获取不同种非结构化道路的图片。

步骤2中，每一张图像经过5个卷积层和2个全连接层输出深度视觉特征向量。

步骤4所述的支持向量机算法具体为：

步骤4.1.1，建立n维的数据空间中的一个超平面，其表达式为

ω^Tx+b＝0

ω为n维向量，b为常数；

步骤4.1.2，构造分类函数使得超平面有效地将两类数据分开，分类函数为：

f(x)＝ω^Tx+b

步骤4.1.3，确定最大间隔分类器的目标，表达式为：

步骤4.1.4，将最大化问题转化为最小化问题，目标转化为：

步骤4.1.5，利用Lagrange对偶性引入Lagrange对偶变量α，给每一个约束条件加上一个Lagrange乘子，将约束条件融入到目标函数中，问题归结为：

s.t.0≤α_i≤C,i＝1,2,…,n

步骤4.1.6，在两个不等式作为约束条件下求解极值，存在唯一最优解则方程的解为：

步骤4.1.7，最终得到的最优超平面方程为：

所述步骤4中采用支持向量机算法分析训练集的深度视觉特征得到判决函数，具体过程为：

步骤4.2.1，在建立的地表纹理数据库中，对不同种非结构化道路分配不同标签；

步骤4.2.2，利用libsvm-weights-3.20中的svmtrain函数对训练集的深度视觉特征进行训练，得到训练好的模型；

步骤4.2.3，用libsvm-weights-3.20中的svmpredict函数分析测试集的深度视觉特征得到测试集的预测标签和分类准确率。

实施例

结合图1，本实施例的实施步骤如下：

步骤1，在南京理工大学越野地表纹理数据库中，抽取600张图像，其中三类非结构化道路的图片，分别为泥土(dirt)路200幅、砂石(gravel)路200幅、水(water)200幅，每一类图片各100张训练集图片(traindata)和100张测试集图片(testdata)分别用于训练和测试，建立地表纹理数据库；

步骤2，采用AlexNet卷积神经网络模型，使用地表纹理数据库抽取所有600张输入图像的深度视觉特征，存为文本文档，共600个4096维的特征向量。每个输入图像经过5个卷积层和2个全连接层输出一个4096维的特征向量；

步骤3，使用matlab读入上述文本文档中的数据，对数据进行重组，得到600*4096大小的矩阵alldata作为支持向量机算法输入；

步骤4，将矩阵alldata分为训练集traindata和测试集testdata两个矩阵，其中训练集中包括了深度视觉特征数据中泥土(dirt)路、砂石(gravel)路、水(water)每一类的前100个，测试集中包括了深度视觉特征数据中泥土(dirt)路、砂石(gravel)路、水(water)每一类的后100个；

步骤5，在建立的地表纹理数据库中，对泥土、砂石、水的标签label分别定义为标签1、标签2、标签3；

步骤6，svmtrain函数用于对训练集traindata的数据进行训练，得到训练好的模型model；

步骤7，svmpredict函数用于分析测试集的深度视觉特征得到测试集的预测标签和predict_label和分类准确率accuracy；

步骤8，将上述分类准确率作为结果进行输出；

步骤1中，首先需要建立地表纹理数据库，得到600张像素均为25*25*3的彩色RGB图像集。

如图2所示，三类非结构化道路的地表由于受外界环境影响较大，例如阳光、雨雪、季节对等室外环境因素，路表分类的结果就相应较差，所以需要通过卷积神经网络训练地表纹理数据库来得到稳健、强有力的深度视觉特征，从而更好地进行地表分类。

卷积神经网络相比传统神经网络更复杂，神经元共享连接权重，每两层神经元以局部连接的方式进行连接，以及时间和空间上采用降维采样，充分利用了数据。

对于图像识别，将相同分辨率的图像作为输入，之后每一层神经网络的输出作为下一层的输入，网络中的神经元只与相邻神经元连接，从而形成局部感知。神经元可以在这样的结构中提取出图像的局部特征，而提取出的局部特征也可以表征整体图像。

采用AlexNet卷积神经网络模型得到地表纹理数据库抽取所有600张输入图像的深度视觉特征，单个输入图像经过5个卷积层和2个全连接层输出一个4096维的特征向量。结合图3，步骤2的具体步骤为：

步骤2.1，第一层卷积：5×5大小的卷积核96个，每个GPU上48个。第一层最大池化：2×2的核；

步骤2.2，第二层卷积：3×3卷积核256个，每个GPU上128个。第二层最大池化：2×2的核；

步骤2.3，第三层卷积：与上一层是全连接，3*3的卷积核384个。分到两个GPU上个192个；

步骤2.4，第四层卷积：3×3的卷积核384个，两个GPU各192个。该层与上一层连接没有经过池化层；

步骤2.5，第五层卷积：3×3的卷积核256个，两个GPU上个128个。第五层最大池化：2×2的核；

步骤2.6，第一层全连接：4096维，将第五层最大池化的输出连接成为一个一维向量，作为该层的输入；

步骤2.7，第二层全连接：4096维，作为输出供后续SVM分类器使用。

步骤2中通过卷积层既保留了图像的信息也缩小了参数的规模。卷积即一个小矩阵作用于像素矩阵上，定义一个m*n的卷积核，卷积核按照固定步长作用于图像的每个位置，这样连接像素的神经元个数减小，简化了训练过程。

步骤2中通过池化层(最大池化层)既降低了计算的复杂度又保证了结果的正确。采用一个过滤器和一个相同长度的步幅，对过滤器中的每个矩形取最大值并记录至另一矩阵。

步骤2中通过池化层使得每个神经元都会与下一层的每个神经元相连。经过卷积层和池化层后网络获取了高阶的不变性的特征，这些特征反馈到全连接层，由全连接层对这些特征进行分类。经过全连接隐藏层和输出层信息变换和计算处理，就完成了一次学习的正向传播处理过程，最终结果由输出层向外界输出。

步骤2中采用了ReLU函数，其表达式为：

f(x)＝max(0,x)

ReLU是一种非线性函数，形式为,若计算值小于0，则令其等于0，其余值不变。，ReLU非线性函数只是进行比较，不需要复杂的数据计算，从而使训练的神经网络能够更快地收敛。

步骤2中采用了特征归一化，即为了使同一特征图的相邻位置以及不同特征图的同一位置的特征更均匀，需要对同一位置的特征进行除法归一化操作。设a_x,y为原神经元的激活，b_x,y为新神经元的激活，神经元新生成的激活的计算其表达式为：

步骤2中采用Dropout方法以防止网络出现过拟合。Dropout是指以50％的概率将每个隐藏层神经元置零，阻止特征之间的相互依赖，可以有效地降低测试错误。

步骤2，采用AlexNet卷积神经网络模型，使用地表纹理数据库抽取所有600张输入图像的深度视觉特征，存为文本文档，共600个4096维的特征向量。每个输入图像经过5个卷积层和2个全连接层输出一个4096维的特征向量；

步骤3中，使用matlab调用importdata函数读入上述文本文档中的数据，调用reshape函数对数据进行重组，得到600*4096大小的矩阵alldata作为支持向量机算法输入；

步骤6中，根据是训练样本的类标trainlabel和训练样本的特征traindata，调用libsvm-weights-3.20的svmtrain函数用于对训练集traindata的数据进行训练，得到训练好的模型model，具体表达式为：

model＝svmtrain([],trainlabel,traindata,'-t 0')。

其中trainlabel是训练样本的类标,traindata是训练样本的特征，-t是核函数类型，0表示线性核函数，1表示多项式核函数，2表示RBF(径向基)核函数，3表示sigmoid核函数，取t＝1。

步骤7中，支持向量机考虑的是一个二分类问题，数据点用x来表示，这是一个n维向量，而类别用y来表示，可以取1或者–1，分别代表两个不同的类。学***面，其方程可以表示为：

ω^Tx+b＝0

。

定义分类函数为：

f(x)＝ω^Tx+b。

分类函数的使得超平面有效地将两类数据分开，即两类之间的间隔最大化，最大间隔分类器的目标是：

再将最大化问题转化为最小化问题，目标转化为

从而把求分类函数的问题转化到求最大分类间隔，继而再转化为对ω和b的最优化问题，即凸二次规划问题。

利用Lagrange对偶性引入Lagrange对偶变量α，给每一个约束条件加上一个Lagrange乘子，将约束条件融入到目标函数中，问题归结为

s.t.0≤α_i≤C,i＝1,2,…,n

在两个不等式作为约束条件下求解极值，存在唯一最优解则方程的解为：

步骤4.1.7，最终得到的最优超平面方程为：

步骤7中，根据测试样本的标签testlabel和测试样本的特征矩阵testdata，调用libsvm-weights-3.20的svmpredict函数用于分析测试集的深度视觉特征得到测试集的预测标签和predict_label和分类准确率accuracy，具体表达式为：

[predict_label,accuracy,prob_estimates]＝svmpredict(testlabel,testdata,model)。

其中testlabel是测试样本的标签,testdata是测试样本的特征矩阵。结果输出predict_label是预测得到的标签,accuracy是分类准确率。

步骤8中，将上述分类准确率作为结果进行输出，表1展示了本发明方法对三类非结构化道路的分类准确率，砂石路的准确率高达95％，泥土路和水这两类的准确率则达到100％(完全无误)。基于深度视觉特征和支持向量机的地表纹理识别算法能够在建立的地表纹理数据库上的识别率达到98.33％。此外，还直接用支持向量机对本发明所用的数据库进行分类，识别率仅为62％，本发明提出的算法与之相比将分类准确率提高了31.33％。本发明提出的算法具有很高的有效性、准确性和鲁棒性,这对于地表纹理识别和无人驾驶技术有着重要的意义。

表1

非结构化道路种类	泥土路	砂石路	水
				预测标签结果正确的图片数	100	95	100
分类准确率	100％	95％	100％

Claims (4)

1.一种基于深度视觉特征和支持向量机的地表纹理识别算法，其特征在于，包括以下步骤：

步骤1，获取不同种非结构化道路的图片，并将每类图片的一部分存入训练集另一部分存入测试集，训练集和测试集构成地表纹理数据库；

步骤2，采用AlexNet卷积神经网络模型，获取地表纹理数据库所有图像的深度视觉特征并保存；

步骤3，在建立的地表纹理数据库中，对不同种非结构化道路分别定义标签，采用支持向量机算法分析训练集的深度视觉特征得到判决函数，分析测试集的深度视觉特征得到测试集的预测标签和分类准确率；

步骤4，判断准确率是否高于设定值，若高于设定值则保留地表纹理数据库；否则，从新获取不同种非结构化道路的图片。

2.根据权利要求1所述的方法，其特征在于，步骤2中，每一张图像经过5个卷积层和2个全连接层输出深度视觉特征向量。

3.根据权利要求1所述的的方法，其特征在于，步骤4所述的支持向量机算法具体为：

步骤4.1.1，建立n维的数据空间中的一个超平面，其表达式为

ω^Tx+b＝0

ω为n维向量，b为常数；

步骤4.1.2，构造分类函数使得超平面有效地将两类数据分开，分类函数为：

f(x)＝ω^Tx+b

步骤4.1.3，确定最大间隔分类器的目标，表达式为：

$max\frac{1}{\left|\right|\mathrm{\ω}\left|\right|}s.t.y_i({\mathrm{\ω}}^T{x}_i+b)\≥1,i=1,2,\mathrm{...},n$

步骤4.1.4，将最大化问题转化为最小化问题，目标转化为：

$min\frac{1}{2}\left|\right|\mathrm{\ω}|{|}^{2}s.t.y_i({\mathrm{\ω}}^T{x}_i+b)\≥1,i=1,2,\mathrm{...},n$

步骤4.1.5，利用Lagrange对偶性引入Lagrange对偶变量α，给每一个约束条件加上一个Lagrange乘子，将约束条件融入到目标函数中，问题归结为：

$\max W\left(\mathrm{\&alpha;}\right)=\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i-\frac{1}{2}\underset{i,j=1}{\overset{n}{\&Sigma;}}{y}_i{y}_j{\mathrm{\&alpha;}}_i{\mathrm{\&alpha;}}_j<x_i,x_j>$

s.t.0≤α_i≤C,i＝1,2,…,n

$\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i{y}_i=0;$

步骤4.1.6，在两个不等式作为约束条件下求解极值，存在唯一最优解则方程的解为：

${\mathrm{\&omega;}}^{*}=\underset{i=1}{\overset{n}{\&Sigma;}}{y}_i{\mathrm{\&alpha;}}_i^{*}{x}_i$

$b^{*}=y_j\underset{i=1}{\overset{n}{\&Sigma;}}{y}_i{\mathrm{\&alpha;}}_i<x_i,x_j>$

步骤4.1.7，最终得到的最优超平面方程为：

$f\left(x\right)=\mathrm{sgn}({\left({\mathrm{\&omega;}}^{*}\right)}^{T}x+b^{*})=\mathrm{sgn}(\underset{i=1}{\overset{n}{\&Sigma;}}{\mathrm{\&alpha;}}_i^{*}{y}_i{x}_i^{*}x+b^{*}).$

4.根据权利要求1所述的方法，其特征在于，所述步骤4中采用支持向量机算法分析训练集的深度视觉特征得到判决函数，具体过程为：

步骤4.2.1，在建立的地表纹理数据库中，对不同种非结构化道路分配不同标签；

步骤4.2.2，利用libsvm-weights-3.20中的svmtrain函数对训练集的深度视觉特征进行训练，得到训练好的模型；

步骤4.2.3，用libsvm-weights-3.20中的svmpredict函数分析测试集的深度视觉特征得到测试集的预测标签和分类准确率。