CN103902968B - 一种基于AdaBoost分类器的行人检测模型训练方法 - Google Patents

Abstract

本发明公开了一种基于AdaBoost训练器的行人检测模型训练方法，首先在AdaBoost训练过程中实时统计样本权重值的和，当其退化到一定程度时，则用当前已经训练好的弱分类器组去扫描非行人图像中的误检窗口，并作为困难样本添加到负样本训练集中，然后减小退化程度阈值，以降低样本更新频率，最后通过随机抽样剔除部分负样本，减少负样本训练集数量，以减少训练过程计算量。该方法能在不改变特征提取方法的前提下，最大限度的提升分类器的训练效果，提升最终检测精度。

Description

一种基于AdaBoost分类器的行人检测模型训练方法

技术领域：

本发明主要涉及到基于静态图像的行人检测领域，特指一种基于AdaBoost分类器的行人检测模型训练方法。

背景技术：

交通事故是和平时期造成人员伤亡和财产损失的重要原因，其中，有行人参与的交通事故约占交通事故总量的14%，行人在道路交通中的安全问题倍受全社会广泛关注，研究人员开始致力于车辆辅助驾驶技术来降低行人在道路交通中的事故率，行人检测技术在其中显得尤为重要。由于行人兼具刚性和柔性物体的特性，外观易受穿着、尺度、遮挡、姿态和视角等影响[4]，使得行人检测成为计算机视觉的研究难点与热点。

近些年来，机器学习的方法被引入到行人检测的研究中来，检测准确率得到了提升，目前行人检测的研究主要集中于特征提取和分类器的选择。Pepageorgios等人第一次提出了滑窗的方法用于检测，他们采用了SVM和多尺度Haar小波过完备基结合的方式进行检测，Viola和Jones等人基于这种思路，引入了积分图思想和AdaBoost快速分类器（VJ）。上述两种思路构成了如今行人检测算子的基石。而后Dalal等人基于行人整体轮廓特征，提出方向梯度直方图特征（HOG），HOG特征结合SVM分类器，检测准确率取得了革命性的进步。Dollar等人融合Viola和Dalal的思想，提出积分通道特征（ChnFtr），结合AdaBoost分类器，提升了检测速度和检测准确度。

AdaBoost，是英文“Adaptive Boosting”（自适应增强）的缩写，是一种机器学习方法，由Yoav Freund和Robert Schapire提出^[1]。AdaBoost方法是一种迭代算法，在每一轮中加入一个新的弱分类器，直到达到某个预定的足够小的错误率或者达到预定的弱分类器数。AdaBoost方法的自适应在于：前一个分类器分错的样本会被用来训练下一个分类器。AdaBoost方法对于噪声数据和异常数据很敏感。但在一些问题中，相比于大多数学习算法，AdaBoost方法相对于大多数其它学习算法而言，不会很容易出现过拟合现象。AdaBoost方法中使用的分类器可能很弱（比如出现很大错误率），但只要它的分类效果比随机好一点（比如两类问题分类错误率略小于0.5），就能够改善最终得到的模型。而错误率高于随机分类器的弱分类器也是有用的，因为在最终得到的多个分类器的线性组合中，可以给它们赋予负系数，同样也能提升分类效果。

无论基于何种方法，都需要大量样本训练出一个准确率高的分类器用于检测。为了更好的对比不同算法的效果，研究者们提出了一系列标准数据集用于行人检测算法的研究，常用的有MIT数据集、INRIA数据集、ETH数据集和Caltech数据集，这些数据集都由两部分样本集组成，分别用于训练和测试，每部分数据集都包含行人图像集合和非行人图像集合，即为正样本图像和负样本图像。其中MIT和INRIA由静态图像构成，ETH和Caltech由视频帧序列组成。在获取训练集过程中，正样本需要根据注释文件，从正样本图像中提取固定分辨率的行人图像，一般全部用于分类器的训练，负样本可以从负样本图像帧框图获得海量的非行人图像，研究者可以根据自己实际需求进行裁剪和筛选，所获取的正负样本训练集的图像分辨率均为64*128。近些年来，在行人检测领域的研究中，研究者们大多只关注特征设计和分类器选择，而忽视了训练样本信息的合理利用，不能充分挖掘出所使用方法的效果。对于海量的负样本信息，如何对其进行充分合理的裁剪和筛选，对降低分类器的误检率、提升分类器训练效率起着至关重要的作用。

发明内容：

本发明要解决的技术问题在于：目前大部分行人检测方法主要关注于特征和分类器的选择以及优化上，而忽视了训练过程中对海量负样本的合理应用，本发明旨在提供一种基于AdaBoost分类器的行人检测模型训练方法，结合AdaBoost弱分类器训练过程，根据样本训练集权值的退化程度，对负样本训练集进行合理的动态调整，保持负样本训练集的多样性，提升弱分类器的训练效率，能有效提升最终分类模型的准确度，优化训练过程的效率，减少训练时间。

为了解决上述技术问题，本发明提出的技术方案是：一种基于AdaBoost分类器的行人检测模型训练方法，其特征在于：首先通过已知的标准行人数据集确定初始正负样本训练集及正负样本的权重,然后在AdaBoost训练过程中实时统计训练集中样本权重值的和，当训练集发生明显的权重退化时，用当前已经训练好的弱分类器组去滑窗扫描检测原始数据集中的非行人图像，并将误检窗口图像作为困难样本添加到负样本训练集中,然后通过随机抽样剔除部分负样本；最后减小退化程度阈值，降低训练集更新频率，继续AdaBoost训练过程，直至最终得到行人检测模型。

上述基于AdaBoost分类器的行人检测模型训练方法的具体实现步骤是：

1)确定初始正负样本训练集：

首先，选择一个行人检测标准数据集，其中包括包含行人的正样本图像和不包含行人的负样本图像。根据数据集的注释文件，从正样本图像中框图获取64*128的行人图像并进行镜面处理后提取图像积分通道特征，构成了正样本训练集其中N=2416，负样本图像中框图获取无数64*128的非行人图像，将其看作海量负样本原始数据集 $S_{\∞}^{-}=\{(x_1,-1),\·\·\·,(x_{N_{\mathrm{\ω}}^{-}},-1)\},(N_{\∞}^{-}\→\∞),$ 再通过在每幅负样本图像上随机框取固定数量的非行人图像，从S^-中获取初始负样本训练集其中N^-=20,000。因此，初始训练集为 $S=S^{+}\∪S_0^{-}=\{(x_1,y_1),\·\·\·,(x_N,y_N)\},$ 其中N=N⁺+N^-；

2)初始化正负样本训练集的权重为：

$\mathrm{\ω}=\{{\mathrm{\ω}}_1,{\mathrm{\ω}}_2,\·\·\·,{\mathrm{\ω}}_N\}=\left\{\begin{array}{c}{\mathrm{\ω}}^{+}=\left\{{\mathrm{\ω}}_i^{+}\right|{\mathrm{\ω}}_i^{+}=1/2N^{+},i=\mathrm{1,2},\·\·\·,N^{+}\}\\ {\mathrm{\ω}}^{-}=\left\{{\mathrm{\ω}}_i^{-}\right|{\mathrm{\ω}}_i^{-}=1/2N^{-},i=\mathrm{1,2},\·\·\·,N^{-}\}\end{array}\right.$

其中和分别代表正样本和负样本的权重；

3)初始化困难样本添加上限设置权值退化程度阈值的初始值τ=0.1；

4)设AdaBoost弱分类器数为T=2048，初始化t=0；

5)t=t+1，当t>T时转到步骤13)；

6)根据已知的弱分类器训练方法（详见具体实施方法），基于步骤1）和步骤2）得到的训练集S和其权重集ω，训练获得第t个弱分类器ht(x)∈{-1,1}；

7)统计弱分类器在样本中的分类错误率则该弱分类器h_t(x)的权重为α_t=log((1-err_t)err_t)；

8)更新样本权重ω_n=ω_nexp(α_th_t(x_n))，并计算负样本权重和 ${\mathrm{loss}}_t=\underset{y_n=-1}{\underset{{\mathrm{\ω}}_n\∈\mathrm{\ω}}{\mathrm{\Σ}}}{\mathrm{\ω}}_n;$

9)如果loss_t>τ，则训练集S保持不变，跳转至步骤5)；否则，令τ=τ/10，继续如下步骤；

10)将已经训练好的t个弱分类器作为当前分类器在原始负样本图像上，运用当前分类器H_t(x)扫描N^FP个误检滑窗FP（False Positives），提取积分通道特征后添加到负样本训练集S^-中，其中其中为困难样本添加上限；

11)从负样本训练集S^-中随机剔除一部分负样本，使得最终负样本数目为

12)更新负样本训练集S^-中新添加的困难样本的权重ω_n=exp(H_t(x_n))2N^-，其中(x_n,y_n)∈FP，FP指困难样本，然后跳转至步骤5)；

13)得到最终分类模型 $H\left(x\right)=\mathrm{sign}\left(\underset{t=1}{\overset{T}{\mathrm{\Σ}}}{\mathrm{\α}}_t{h}_t\left(x\right)\right).$

综上所述，本发明所述基于充分利用了负样本训练集信息，降低了最终模型的误检率，并且通过动态控制训练集样本数量，提升了训练效率。在基于相同特征提取方法的基础上，本发明训练所得分类模型具有更高的检测精准度。

参考文献：

[1]Freund Y,Schapire R E.A desicion-theoreticgeneralization of on-line learning and an application toboosting[C]//Computational learning theory.Springer BerlinHeidelberg,1995:23-37.

[2]Dollár P,Tu Z,Perona P,et al.Integral ChannelFeatures[C]//BMVC.2009,2(4):5.

[3]Dollár P,Belongie S,Perona P.The Fastest PedestrianDetector in the West[C]//BMVC.2010,2(3):7.

[4]Dollar P,Wojek C,Schiele B,et al.Pedestrian detection:An evaluation of the state of the art[J].Pattern Analysis andMachine Intelligence,IEEE Transactions on,2012,34(4):743-761.

附图说明：

图1是本发明的流程图；

图2(a)、图2（b）分布是正负样本训练集的获取方式，正样本训练集是从正样本图像中框取64*128的行人图像，负样本训练集是从背景图像中根据一定策略框取相应64*128的非行人图像；

图3一副行人图像的10个通道的积分图；

图4是基于不同阈值下的训练效果对比图，该图是应用训练好的分类器在测试集上进行检测后所得的ROC曲线，其中横坐标fppi(falsepositive per-image)代表每幅图像的平均误检率，纵坐标miss rate代表漏检率；

图5是不同训练集更新方式下的训练效果对比图，通过对比负样本在t=[16642561024]时刻更新和均匀更新的训练效果，来突出前期训练过程的重要性，验证了动态阈值下训练效果优秀的内在原因，其中横坐标fppi代表每幅图像的平均误检率，纵坐标miss rate代表漏检率；

图6（a）是随机抽取不同数量负样本训练集下的分类模型效果对比图，（b）是通过不同轮次的Bootstrapping方法添加困难样本，在不同样本多样性条件下训练出的模型效果对比图，其中横纵坐标定义如上图，通过两幅图可以看出，训练样本的多样性对最终分类模型的影响更显著；

图7是在基于积分通道特征方法下，本发明训练方法和Dollar原始训练方法所训练出的最终分类模型的对比图。

具体实施方式：

如图1所示，本实施例提供一种基于AdaBoost分类器的行人检测模型训练方法：

1.正负样本初始训练集的确定：

首先，选择一个合适的行人检测标准数据集，例如INRIA数据集，其中包括包含行人的正样本图像和不包含行人的负样本图像。根据数据集的注释文件，从正样本图像中框图获取64*128的行人图像并进行镜面对称处理复制后，采用文献3提出的提取图像积分通道特征[2]（后述第4点有详细描述），也就是对所有正样本行人图像进行反向对称复制后，加入到正样本训练集中。通过上述方式构成了正样本训练集其中N=2416，负样本图像中可以框图获取无数64*128的非行人图像，我们将其看作海量负样本原始数据集 $S_{\∞}^{-}=\{(x_1,-1),\·\·\·,(x_{N_{\mathrm{\ω}}^{-}},-1)\},(N_{\∞}^{-}\→\∞),$ 可以通过在每幅负样本图像上随机框取固定数量的非行人图像，从S^-中获取初始负样本训练集其中N^-=20,000。因此，初始训练集为 $S=S^{+}\∪S_0^{-}=\{(x_1,y_1),\·\·\·,(x_N,y_N)\},$ 其中N=N⁺+N^-；

并初始化这些正负样本训练集的权重：

$\mathrm{\ω}=\{{\mathrm{\ω}}_1,{\mathrm{\ω}}_2,\·\·\·,{\mathrm{\ω}}_N\}=\left\{\begin{array}{c}{\mathrm{\ω}}^{+}=\left\{{\mathrm{\ω}}_i^{+}\right|{\mathrm{\ω}}_i^{+}=1/2N^{+},i=\mathrm{1,2},\·\·\·,N^{+}\}\\ {\mathrm{\ω}}^{-}=\left\{{\mathrm{\ω}}_i^{-}\right|{\mathrm{\ω}}_i^{-}=1/2N^{-},i=\mathrm{1,2},\·\·\·,N^{-}\}\end{array}\right.$

其中和分别代表正样本和负样本的权重。

该权重集表示训练样本集在训练弱分类器过程中的重要程度，被弱分类器分类错误次数越多的样本，权重越大，以后每完成一个分类器的训练，权重按照如下规则更新：

ω_n=ω_nexp(α_th_t(x_n))      (2)

则：ω_n=exp(H_t(x_n))2N^-，     (3)其中 $H_t\left(x\right)=\underset{k=1}{\overset{t}{\mathrm{\Σ}}}{\mathrm{\α}}_k{h}_k\left(x\right),$ (x_n,y_n)∈FP；

最后，根据权重集训练弱分类器h_t(x)∈{-1,+1}，统计该弱分类器错误率err_t，并计算该弱分类器权值α_t，计算过程如下：

${\mathrm{err}}_t=\underset{i=1}{\overset{N}{\mathrm{\Σ}}}{\mathrm{\ω}}_i\·1[y_i\≠h_i\left(x_i\right)]---\left(4\right)$

α_t=log((1-err_t)err_t)       (5)

运用最终的T个弱分类器构成最终强分类器

其中弱分类器训练方法为文献3已公开的内容，具体见此部分第5点描述。

2.根据权值退化控制负样本训练集更新：

用负样本的权值和来表示负样本训练集的权值退化程度：

${\mathrm{loss}}_t=\underset{y_n=-1}{\underset{{\mathrm{\ω}}_n\∈\mathrm{\ω}}{\mathrm{\Σ}}}{\mathrm{\ω}}_n---\left(6\right)$

其中权重ω_n=ω_nexp(α_th_t(x_n))

将前t个弱分类器组看成当前分类器H_t(x)，则权值退化程度由公式(6)看出，当权值退化程度loss_t远小于1/2时，说明大部分负样本满足H_t(x_i)<0，即当前分类器H_t(x)对负样本训练集已经具备很好的区分能力，则当前负样本训练集发生了严重退化，对接下来的分类器训练过程的影响显著性变差，需要从原始背景图像中重新获取新的困难样本，设置权值退化程度loss_t阈值的初始值τ=0.1，当小于阀值时，更新负样本训练集；并更新权重退化阈值τ=τ/10，这样可以逐步降低负样本更新频率，将计算资源更多的用于前期的训练过程，在保证训练效果的同时，最大限度的较少训练时间。

在基于softcascade的AdaBoost分类器中，往往大部分检测窗口只需要前数个弱分类器就能确定为非行人，所以在实际的检测过程中，AdaBoost弱分类器组中越靠前的分类器使用频率越高，则其重要程度也就越显著，那么在训练过程中应该更加关注训练前期弱分类器的训练。

3.动态控制负样本训练集数量：

相比样本数量，样本多样性对于训练效果的影响更加明显，在训练过程中为缩短训练时间，动态控制负样本数量，每次完成负样本训练集更新后，随机剔除掉部分负样本，使得新的负样本训练集的数目满足：这样，在训练前期负样本的数量要大于训练后期的负样本数量，降低了弱分类器的平均计算量，实现了训练过程的加速。

4.积分通道特征:

本发明使用了文献3中已公开的积分通道特征提取方法，其核心思想就是对输入图像进行多种线性或者非线性的变换，并以积分图的形式存储，以类似于Harr特征的矩形区域和作为特征，可以通过积分图实现特征的快速计算。

假设输入图像为I，Ω代表某通道图像与源图像I的映射关系，可由此得到相应通道映射图C=Ω(I)，并将C转换为积分图f的形式，其中Dollar在试验中使用了十类积分通道C_k(k=1,2,…,10)，分别是三个LUV颜色通道、一个梯度赋值通道、六个梯度方向通道（如图3所示）。

(1)LUV颜色通道：输入原始图像I为RGB颜色空间，将其转化为LUV颜色空间表示，图像I在LUV颜色空间上的三个通道信息组成LUV颜色通道图，即k=1,2,3。

(2)梯度赋值通道：梯度赋值通道C₄的计算基于图像I的灰度图I^gray，计算方法如下：

$C_4(x,y)=\sqrt{{\left(\frac{{\&PartialD;I}^{\mathrm{gray}}(x,y)}{\&PartialD;x}\right)}^2+{\left(\frac{{\&PartialD;I}^{\mathrm{gray}}(x,y)}{\&PartialD;y}\right)}^2}.$

(3)梯度方向通道：首先要要基于灰度图I^gray计算每个像素位置的梯度方向：

$\mathrm{\&Theta;}(x,y)={\tan }^{-1}\left(\frac{\frac{{\&PartialD;I}^{\mathrm{gray}}}{\&PartialD;x}(x,y)}{\frac{{\&PartialD;I}^{\mathrm{gray}}}{\&PartialD;y}(x,y)}\right),$

然后把离散为六个梯度方向得到六个方向上的梯度赋值通道图： $C_k(x,y)=C_4(x,y)\&CenterDot;1[\mathrm{\&Theta;}(x,y)={\mathrm{\&theta;}}_{k-5}],$ 其中k=5,6,…,10。

为实现特征的快速计算，Dollar将特征定义为通道图上随机矩形区域的像素值和，可以通过通道积分图在常数复杂度下完成计算，即：

$\underset{y_1<y<y_2}{\underset{x_1<x<x_2}{\mathrm{\&Sigma;}}}{C}_k(x,y)=f_k(x_2,y_2)-f_k(x_1,y_2)-f_k(x_2,y_1)+f_k(x_1,y_1).$

积分通道属于多特征融合的一种特征，但它用积分图的方法解决了多特征融合速度慢的缺点，并且在检测过程中，空间定位准确性更高，具有较少的参数设置，很适合跟级联分类器结合，达到更快的检测速度。

5.本发明采用了文献3所公开的弱分类器的训练和筛选：

对于每个样本图像，我们首先求取10个通道的积分图，然后在通道积分图上随机10,000个4*4的矩形，以矩形内的通道图的像素值的和作为特征值，该值可通过积分图的形式，在常数复杂度下快速求出。

当训练第t个弱分类器时，我们对于10,000维特征中未曾参与最终弱分类器训练的特征分别运用AdaBoost的方式训练出多个弱分类器，并统计它们的错误率，我们将分类错误率最低的弱分类器作为最终的第t个弱分类器，完成对弱分类器的筛选，并标记相应维特征不再应用于接下来的训练过程，保留下来的弱分类器最终参与构成AdaBoost强分类器。

上述技术方案的具体实现方法流程说明如下：

输入：

●行人检测训练集（包括正样本行人图像和负样本非行人图像）；

●AdaBoost弱分类器数T；

●困难样本（FP）添加上限和负样本训练集容量N^-。

初始化：

●将正样本行人图像作为正样本训练集S⁺，初始负样本训练集S^-从非行人图像中随机滑窗框取获得，样本数为N^-，构成AdaBoost训练集S=S⁺∪S^-。

●初始化正样本权值和负样本权值 ${\mathrm{\&omega;}}^{-}=\left\{{\mathrm{\&omega;}}_n^{-}\right|{\mathrm{\&omega;}}_n^{-}=1/2N^{-}\},$ 构成权重集ω=ω⁺∪ω^-；

●设置权值退化程度阈值τ=0.1。

流程：

For t=1,…,T

1.基于训练集(S,ω)，训练第t个弱分类器ht(x)∈{-1,1}；

2.计算错误率则α_t=log((1-err_t)err_t)；

3.更新样本权重ω={ω_n|ω_n=ω_nexp(α_th_t(x_n))}，计算负样本权重和： ${\mathrm{loss}}_t=\underset{{\mathrm{\&omega;}}_n^{-}\&Element;{\mathrm{\&omega;}}^{-}}{\mathrm{\&Sigma;}}{\mathrm{\&omega;}}_n^{-};$

4.If loss_t<τ

4.1在原始非行人图像上，通过当前分类器扫描小于的误检窗口添加到负样本训练集S^-中；

4.2从S^-中随机抽取个负样本，构成新的负样本训练集S^-；

4.3更新S^-中新添加的困难样本的权重ω_n=exp(H_t(x_n))2N^-,(x_n,y_n)∈FPs；

5.得到最终分类模型 $H\left(x\right)=\mathrm{sign}\left(\underset{t=1}{\overset{T}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_t{h}_t\left(x\right)\right)$

为验证本发明的效果，本实施例基于Dollar等人提出的积分通道特征，根据上述方法改进，进行了编程实现，训练出最终分类器与Dollar原始方法训练出的分类器进行对比，如图7所示，在同一特征方法下，通过本实施例训练方法所训练出的最终分类模型效果优于原始方法，具有更高的检测精度。

Claims (1)

1.一种基于AdaBoost分类器的行人检测模型训练方法，其特征在于：首先通过已知的标准行人数据集确定初始正负样本训练集及正负样本的权重,然后在AdaBoost训练过程中实时统计训练集中样本权重值的和，当训练集发生明显的权重退化时，用当前已经训练好的弱分类器组去滑窗扫描检测原始数据集中的非行人图像，并将误检窗口图像作为困难样本添加到负样本训练集中,然后通过随机抽样剔除部分负样本；最后减小退化程度阈值，降低训练集更新频率，继续AdaBoost训练过程，直至最终得到行人检测模型；该方法具体包括如下步骤：

1)确定初始正负样本训练集：

首先，选择一个行人检测标准数据集，其中包括包含行人的正样本图像和不包含行人的负样本图像；根据所述数据集的注释文件，从正样本图像中框图获取64*128的行人图像并进行镜面处理后提取图像积分通道特征，构成了正样本训练集其中N＝2416，负样本图像中框图获取无数64*128的非行人图像，并将其看作海量负样本原始数据集再通过在每幅负样本图像上随机框取固定数量的非行人图像，从S^-中获取初始负样本训练集其中N^-＝20,000；因此，初始训练集为 $S=S^{+}\&cup;S_0^{-}=\{(x_1,y_1),...,(x_N,y_N)\},$ 其中N＝N⁺+N^-；

2)初始化正负样本训练集的权重为：

$\mathrm{\&omega;}=\{{\mathrm{\&omega;}}_1,{\mathrm{\&omega;}}_2,...,{\mathrm{\&omega;}}_N\}=\left\{\begin{array}{c}{\mathrm{\&omega;}}^{+}=\left\{{\mathrm{\&omega;}}_i^{+}\right|{\mathrm{\&omega;}}_i^{+}=1/2N^{+},i=\mathrm{1,2},...,N^{+}\}\\ {\mathrm{\&omega;}}^{-}=\left\{{\mathrm{\&omega;}}_i^{-}\right|{\mathrm{\&omega;}}_i^{-}=1/2N^{-},i=\mathrm{1,2},...,N^{-}\}\end{array}\right.$

其中和分别代表正样本和负样本的权重；

3)初始化困难样本添加上限设置权值退化程度阈值的初始值τ＝0.1；

4)设AdaBoost弱分类器数为T＝2048，初始化t＝0；

5)t＝t+1，当t>T时转到步骤13)；

6)根据弱分类器训练方法，基于步骤1)和步骤2)得到的训练集S和其权重集ω，训练获得第t个弱分类器h_t(x)∈{-1,1}；

7)统计弱分类器在样本中的分类错误率则该弱分类器h_t(x)的权重为α_t＝log((1-err_t)/err_t)；

8)更新样本权重ω_n＝ω_n exp(α_th_t(x_n))，并计算负样本权重和 ${\mathrm{loss}}_t=\underset{\underset{y_n=-1}{{\mathrm{\&omega;}}_n\&Element;\mathrm{\&omega;}}}{\mathrm{\&Sigma;}}{\mathrm{\&omega;}}_n;$

9)如果loss_t>τ，则训练集S保持不变，跳转至步骤5)；否则，令τ＝τ/10，继续如下步骤；

10)将已经训练好的t个弱分类器作为当前分类器在原始负样本图像上，运用当前分类器H_t(x)扫描N^FP个误检滑窗FP，提取积分通道特征后添加到负样本训练集S^-中，其中其中为困难样本添加上限；

11)从负样本训练集S^-中随机剔除一部分负样本，使得最终负样本数目为

12)更新负样本训练集S^-中新添加的困难样本的权重ω_n＝exp(H_t(x_n))/2N^-，其中(x_n,y_n)∈FP，然后跳转至步骤5)；

13)得到最终分类模型 $H\left(x\right)=\mathrm{sign}\left(\underset{t=1}{\overset{T}{\mathrm{\&Sigma;}}}{\mathrm{\&alpha;}}_t{h}_t\left(x\right)\right).$