CN103631758A - 一种改进和声搜索算法求解非线性规划及绝对值方程的方法 - Google Patents

Abstract

本发明公开了一种改进和声搜索算法求解非线性规划及绝对值方程的方法。求解非线性规划包括：定义问题与和参数值；初始化和声记忆库；通过学习和声记忆库、嵌入正态分布的音调微调、随机选择音调生成新的和声；对新解进行评估；检查是否达到算法终止条件；求解绝对值方程方法为：定义问题与参数值；初始化和声记忆库；通过学习和声记忆库、音调微调、随机选择音调生成新的和声，设定一个概率WSR，通过比较随机数Rand与WSR来选取待更新的和声；之后对新解进行评估；检查是否达到算法终止条件。本发明应用改进后的算法求解了非线性规划及绝对值方程，提高了数值稳定性、运算速度和精度。

Description

一种改进和声搜索算法求解非线性规划及绝对值方程的方法

技术领域

本发明属于改进和声搜索算法技术领域，尤其涉及一种改进和声搜索算法求解非线性规划及绝对值方程的方法。 

背景技术

和声搜索(Harmony search，HS)算法是2001年韩国学者Geem Z W等人提出的一种新颖的智能优化算法。算法模拟了音乐创作中乐师们凭借自己的记忆，通过反复调整乐队中各乐器的音调，最终达到一个美妙的和声状态的过程。目前，该方法已在多维多极值函数优化、管道优化设计、土坡稳定分析等问题中得到了广泛应用。 

非线性规划是运筹的一个重要分支，它研究在一定的约束条件下目标函数的极值问题。传统的求解非线性规划方法大都基于传统的梯度类算法，并依赖于初始点的选取，而在一些实际问题中如何选取合适的初始点本身是一个比较困难的问题，总体来看，目前这些算法大都基于传统的梯度类算法，求得的结果也只是局部最优，目前求解全局最优解仍然是一个挑战性难题。 

随着各种智能算法的出现，用智能算法求解非线性规划问题的研究也已开始。具体方法就是构造非线性规划问题的适应度函数，然后采用智能算法进行求解。近年来，遗传算法、粒子群算法、差分进化算法、蚁群算法、文化算法、细菌觅食算法等已经被广泛应用到非线性规划问题的求解上，并取得了很大的进展。 

绝对值方程是指： 

Ax-|x|=b 

其中A∈R^n×n，x,b∈Rⁿ，|x|表示对x的各个分量取绝对值，该问题称之为绝对值 方程(Absolute Value Equations)，简记为AVE。它是Jiri Rohn提出的绝对值矩阵方程的重要子类。绝对值方程的研究来源于两个方面，一个是区间线性方程。区间线性方程是指方程的系数和常数项不是已知确定的，而是位于某一区间内，且方程个数与未知量个数相等。另一个来源是线性互补问题(线性互补问题是一类具有广泛实际应用背景的优化问题，它为线性规划、二次规划提供了一个统一研究的框架)。目前对于绝对值方程的研究主要集中在理论与算法两个方面，前者主要研究其解的存在性、唯一性；而后者主要建立其有效的求解方法和相应的收敛性分析。Louis Caccetta在2010年发表的文章中给出了求解绝对值方程的一个光滑牛顿法，该算法用一个光滑函数替代原绝对值方程中的绝对值函数，并证明了该光滑化方法具有二次收敛性。这是目前有关绝对值方程研究最好的理论结果。有关绝对值方程的应用研究也已开始。 

现有研究的是存在唯一解绝对值方程，给出算法并进行相应的收敛性分析。算法是在给定一个初始点的情况下进行求解的，因此不可能求出所有的解；针对存在多个解的绝对值方程如何求出所有解，这是一个比较困难的问题。群体智能算法是一种随机搜索算法，该算法在可行域内随机产生初始点，通过一系列的操作(选择、变异等)最后收敛到原问题的近似解，由于群体智能算法是多点开始的，因此就有可能找尽可能多的解。 

发明内容

本发明实施例的目的在于提供一种改进和声搜索算法求解非线性规划及绝对值方程的方法，旨在解决传统的求解非线性规划方法如何选取合适的初始点比较困难、绝对值方程求解方法对存在多个解的绝对值方程不能求出所有解的问题。 

本发明实施例是这样实现的，一种改进和声搜索算法求解非线性规划的方法，该改进和声搜索算法求解非线性规划的方法包括以下步骤： 

第一步，定义问题与参数值：假设问题为最小化，形式如下minf(x)， s.t.x_i∈X_i，i＝1，2，…，N，f(x)是目标函数，x是由决策变量x_i构成的解向量(i=1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数，算法参数有：和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数； 

第二步，初始化和声记忆库： 

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群，和声记忆库如下： 

$\mathrm{HM}=\left[\begin{array}{c}{x}^1\\ x^2\\ .\\ .\\ .\\ x^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]=\left[\begin{array}{cccc}{x}_1^1& x_2^1& ...& x_N^1\\ x_1^2& x_2^2& ...& x_N^2\\ .& .& & .\\ .& .& ...& .\\ .& .& & .\\ x_1^{\mathrm{HMS}}& x_2^{\mathrm{HMS}}& ...& x_N^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right];$

第三步，生成一个新的和声： 

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，新和声的每一个音调x_i′(i=1，2，…，N)通过以下三种机理产生：学习和声记忆库，音调微调，随机选择音调； 

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外，且在变量范围内的任何一个值，同样的，其它变量的生成方式如下： 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数； 

其次，如果新的和声x′_i来自和声记忆库HM，音调微调时采用如下操作 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}+\mathrm{NR}\&times;\mathrm{bw},& \mathrm{ifrand}<\mathrm{PAR}\\ x_i^{\&prime;},& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

其中，bw为音调微调带宽，PAR为音调微调概率；NR是一个服从标准正态分布的随机数，这里u₁和u₂均表示上均匀分布的随机数； 

第四步，更新和声记忆库 

对第三步中的新解进行评估，如果优于和声记忆库中的函数值最差的一 个，则将新解更新至和声记忆库(HM)中，具体操作如下： 

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;};$

第五步，检查是否达到算法终止条件 

重复第三步和第四步，直到创作次数达到Tmax。 

进一步，在第一步中，和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数要被初始化。 

本发明实施例的另一目的在于提供一种改进和声搜索算法求解绝对值方程的方法，该改进和声搜索算法求解绝对值方程的方法包括以下步骤： 

第一步，定义问题与参数值：假设问题为最小化，形式如下minf(x)，s.t.x_i∈X_i，i=1，2，…，N，这里f(x)是目标函数，x是由决策变量x_i构成的解向量(i=1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数，算法参数有：和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数，各参数在第一步均要被初始化； 

第二步，初始化和声记忆库： 

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群； 

第三步，生成一个新的和声： 

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，在生成新和声X_new时，设定一个概率WSR，产生一个随机数Rand，如果Rand<WSR，则对当前和声库HM中的最差解进行更新；否则，对当前和声库HM中的最好解进行更新，同时，在种群更新过程中以一定的概率在可行域内选取，记改进后的算法为HSWB，新和声的每一个音调x_i′(i=1，2，…，N)通过以下三种机理产生：学习和声记忆库，音调微调，随机选择音调； 

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外(且在变量范围内)的任何一个值，同样的，其它变量的生成方式如下： 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数； 

其次，如果新的和声x′_i来自和声记忆库，要行音调微调，具体操作如下： 

第四步，更新和声记忆库 

对第三步中的新解进行评估，如果优于HM中的函数值最差的一个，则将新解更新至HM中，具体操作如下： 

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;};$

第五步，检查是否达到算法终止条件 

重复第三步和第四步，直到创作(迭代)次数达到Tmax。 

进一步，在第二步中，和声记忆库表示为： 

$\mathrm{HM}=\left[\begin{array}{c}{x}^1\\ x^2\\ .\\ .\\ .\\ x^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]=\left[\begin{array}{cccc}{x}_1^1& x_2^1& ...& x_N^1\\ x_1^2& x_2^2& ...& x_N^2\\ .& .& & .\\ .& .& ...& .\\ .& .& & .\\ x_1^{\mathrm{HMS}}& x_2^{\mathrm{HMS}}& ...& x_N^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right].$

本发明提供的改进和声搜索算法求解非线性规划及绝对值方程的方法，本发明对和声搜索算法进行了改进，应用改进后的算法求解了非线性规划问题，并和原算法进行了对比，从数值结果明显看到改进后的算法无论是数值稳定性还是运算速度和精度都是非常成功的，且具有较快的收敛速度。 

本发明通过对具有唯一解和多解绝对值方程的求解，结果表明改进后的和声搜索算法具有较快的收敛速度，且能够找到原问题尽可能多的解，本发明的算法简单直观，参数少，容易实现，是求解绝对值方程的一种有效算法。 

附图说明

图1是本发明实施于提供的改进和声搜索算法求解非线性规划的方法流程 图； 

图2是本发明实施于提供的两种随机数的分布的示意图； 

图3是本发明实施于提供的f₁(x)的收敛曲线示意图； 

图4是本发明实施于提供的f₂(x)的收敛曲线示意图； 

图5是本发明实施于提供的f₃(x)的收敛曲线示意图； 

图6是本发明实施于提供的f₄(x)的收敛曲线示意图； 

图7是本发明实施于提供的f₅(x)的收敛曲线示意图； 

图8是本发明实施于提供的f₆(x)的收敛曲线示意图； 

图9是本发明实施于提供的改进和声搜索算法求解绝对值方程的方法流程图； 

图10是本发明实施于提供的AVE1、AVE2、AVE3适应值收敛曲线示意图； 

图11是本发明实施于提供的AVE4的求解结果示意图； 

图12是本发明实施于提供的AVE5的求解结果示意图。 

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施仅仅用以解释本发明，并不用于限定本发明。 

下面结合附图及具体实施例对本发明的应用原理作进一步描述。 

如图1所示，本发明实施例的改进和声搜索算法求解非线性规划的方法包括以下步骤： 

S101：定义问题与和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数的参数值； 

S102：初始化和声记忆库； 

S103：通过学习和声记忆库、音调微调、随机选择音调生成新的和声； 

S104：对新解进行评估，如果优于和声记忆库中的函数值最差的一个，则将新解更新至和声记忆库中； 

S105：检查是否达到算法终止条件，直到创作(迭代)次数达到Tmax。 

本发明中的和声搜索算法模拟了音乐创作中乐师们凭借自己的记忆，通过反复调整乐队中各乐器的音调，最终达到一个美妙的和声状态的过程。和声搜索算法将乐器声调的和声类比于优化问题的解向量，评价即是各对应的目标函数值。算法引入两个主要参数，即记忆库取值概率(HMCR)和微调概率(PAR)。算法首先产生HMS个初始解(和声)放入和声记忆库HM(Harmony memory)内；然后，在和声记忆库内随机搜索新解，产生新解的概率由HMCR决定，即随机产生0～1的随机数rand。如果rand<HMCR，则新解在HM内随机搜索得到；否则在和声记忆库外，且是变量的可行域内搜索取值。再以微调概率PAR对取自HM内的新解进行局部扰动。最后，判断新解目标函数值是否优于HM内的最差解，若是，则更新和声库，并不断迭代，直至达到预定迭代次数Tmax为止。 

本发明的改进和声搜索算法求解非线性规划的方法具体步骤为： 

第一步，定义问题与参数值： 

假设问题为最小化，其形式如下minf(x)，s.t.x_i∈X_i，i＝1，2，…，N，这里f(x)是目标函数，x是由决策变量x_i构成的解向量(i＝1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数。算法参数有：①和声记忆库的大小(HMS)、②学习和声记忆库概率(HMCR)、③音调微调概率(PAR)、④音调微调带宽(bw)、⑤创作的次数(Tmax)，各参数在第一步均要被初始化。 

第二步，初始化和声记忆库： 

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群。和声记忆库如下： 

$\mathrm{HM}=\left[\begin{array}{c}{x}^1\\ x^2\\ .\\ .\\ .\\ x^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]=\left[\begin{array}{cccc}{x}_1^1& x_2^1& ...& x_N^1\\ x_1^2& x_2^2& ...& x_N^2\\ .& .& & .\\ .& .& ...& .\\ .& .& & .\\ x_1^{\mathrm{HMS}}& x_2^{\mathrm{HMS}}& ...& x_N^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]$

第三步，生成一个新的和声： 

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，新和声的每一个音调x_i′(i=1，2，…，N)通过以下三种机理产生：①学习和声记忆库，②音调微调，③随机选择音调。 

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外(且在变量范围内)的任何一个值。同样的，其它变量的生成方式如下： 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数。 

其次，如果新的和声x′_i来自和声记忆库HM，音调微调时采用如下操作 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}+\mathrm{NR}\&times;\mathrm{bw},& \mathrm{ifrand}<\mathrm{PAR}\\ x_i^{\&prime;},& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

其中，bw为音调微调带宽，PAR为音调微调概率；NR是一个服从标准正态分布的随机数，NR采用Box-Muller方法生成，即

这里u₁和u₂均表示上均匀分布的随机数。 

第四步，更新和声记忆库 

对第三步中的新解进行评估，如果优于和声记忆库(HM)中的函数值最差的一个，则将新解更新至和声记忆库(HM)中，具体操作如下： 

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;}.$

第五步，检查是否达到算法终止条件 

重复第三步和第四步，直到创作次数达到Tmax。 

通过以下验证对本发明的改进和声搜索算法求解非线性规划的方法做进一步说明： 

本发明的改进后和声搜索算法采用标准正态分布随机数，图2给出了两种随机数的分布，显然，采用标准正态分布随机数能够提高种群的群体多样性(扩大了搜索范围，有效逃离局部最优)，从而改进后的算法具有较好的收敛性。 

数值实验 

为了比较改进后和声搜索(HS)算法的性能，本发明使用如下6个Benchmark测试函数(选取n=30)，如表1所示，和声搜索(HS)算法程序用Matlab7.1编写，参数选取：HMS=10，HMCR=0.85，PAR=0.45，bw=0.01，算法终止的最大迭代代数Tmax=5000。音调微调时分别采用[0，1]上均匀分布随机数和标准正态分布随机数，虚线表示音调微调时采用[0，1]上均匀分布随机数时的结果，实线表示音调微调时采用标准正态分布随机数时的结果，算例1～算例6的收敛曲线如图3～图8所示。 

表1.6个Benchmark测试函数 

如图9所示，本发明实施例提供的改进和声搜索算法求解绝对值方程的方法包括以下步骤： 

S901：定义问题与和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数的参数值； 

S902：初始化和声记忆库； 

S903：通过学习和声记忆库、音调微调、随机选择音调生成新的和声，设定一个概率WSR，产生一个随机数Rand，确定是否更新和声记忆库； 

S904：对新解进行评估，如果优于和声记忆库中的函数值最差的一个，则将新解更新至和声记忆库中； 

S905：检查是否达到算法终止条件，直到创作(迭代)次数达到Tmax。 

本发明的改进和声搜索算法求解绝对值方程的方法具体步骤为： 

第一步，定义问题与参数值： 

假设问题为最小化，其形式如下minf(x)，s.t.x_i∈X_i，i=1，2，…，N，这里f(x)是目标函数，x是由决策变量x_i构成的解向量(i=1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数。算法参数有：①和声记忆库的大小(HMS)、②学习和声记忆库概率(HMCR)、③音调微调概率(PAR)、④音调微调带宽(bw)、⑤创作的次数(Tmax)，各参数在第一步均要被初始化。 

第二步，初始化和声记忆库： 

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群。和声记忆库如下： 

$\mathrm{HM}=\left[\begin{array}{c}{x}^1\\ x^2\\ .\\ .\\ .\\ x^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]=\left[\begin{array}{cccc}{x}_1^1& x_2^1& ...& x_N^1\\ x_1^2& x_2^2& ...& x_N^2\\ .& .& & .\\ .& .& ...& .\\ .& .& & .\\ x_1^{\mathrm{HMS}}& x_2^{\mathrm{HMS}}& ...& x_N^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]$

第三步，生成一个新的和声： 

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，在生成新和声时，设定一个概率WSR，产生一个随机数Rand，如果Rand<WSR，则对当前和声库HM中的“最差解”进行更新；否则，对当前和声库HM中的“最好解”进行更新。同时，在种群更新过程中以一定的概率(RSR)在可行域内选取，记改进后的算法为HSWB(Harmony Search with Worst and Best：最坏最好和声搜索)，新和声的每一个音调x_i′(i＝1，2，…，N)通过以下三种机理产生：①学习和声记忆库，②音调微调，③随机 选择音调。 

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外(且在变量范围内)的任何一个值。同样的，其它变量的生成方式如下： 

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数。 

其次，如果新的和声x′_i来自和声记忆库HM，要对其进行音调微调，具体操作如下： 

第四步，更新和声记忆库 

对第三步中的新解进行评估，如果优于HM中的函数值最差的一个，则将新解更新至HM中，具体操作如下： 

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;}.$

第五步，检查是否达到算法终止条件 

重复第三步和第四步，直到创作(迭代)次数达到Tmax。 

通过以下验证对本发明的改进和声搜索算法求解绝对值方程的方法做进一步说明： 

本发明选取参数WSR=0.7×(1-k／Tmax)+0.3，即参数WSR随着迭代次数k的增大而动态减小，这就保证起初的迭代主要更新HM中“最差解”，后期主要更新HM中“最好解”；这样该算法既能更新“最差解”(后推)，同时也能改进“最好解”(前拉)，能有效防止早熟，且加速收敛(如同一个爬山的火车，前后各有一个车头，后面的车头从后向前推动火车，前面的车头不断牵引，这样火车就能更快地到达山顶)。参数RSR的选取能够提高种群的多样性，一般在[0.1，0.3]之间选取较好。 

数值实验 

为了测试本文算法的求解性能，大规模AVE问题进行测试，算法程序用MatlabR2009a编写，算法参数选取：HMS=15，HMCR=0.8，PAR=0.5，bw=0.01，算法终止的最大进化代数Tmax=10000，RSR=0.15；为消除随机性对算法的影响，HS算法和HSWB算法各运行10次，AVE1，AVE2，AVE3具有唯一解；AVE4，AVE5具有多个解。 

AVE1.矩阵A满足A^T=A，其元素为a_ii=500，a_ij=1+rand，i≠j，这里rand表示[0，1]中的随机数，b＝(A-I)e；该问题满足定理1的条件(A的奇异值大于1)，因此该问题存在唯一解，且唯一解为x=(1，1，…，1)^T。 

AVE2.矩阵A满足 

a_ii＝4n，a_i,i+1=a_i+1，i＝n；其余的a_ij=0.5，i，j=1，2，…，n， 

b＝(A-I)e；该问题满足定理1的条件(A的奇异值大于1)，因此该问题存在唯一解，且唯一解为x＝(1，1，…，1)^T。 

AVE3.奇异值大于1矩阵A由如下Matlab命令随机产生 

rand(′state′,0)； 

A=rand(n,n)′*rand(n,n)+n*eye(n)； 

b＝rand(n，1)； 

说明：给出矩阵维数n后，读者可以用上述代码产生和本文相同的数据，该问题具有唯一解。 

表2、表3分别给出了100维与200维的AVE问题运行10次的最优适应值、平均适应值、最差适应值和标准差。 

表2两种算法运行10次的统计结果比较(n=100) 

表3两种算法运行10次的统计结果比较(n=200) 

从表2和表3中的统计结果可以看出，HSWB算法求解结果明显好于HS算法，这表明HSWB算法具有更强的搜索能力. 

为了更清楚地给出两种算法的搜索能力，图10给出了n＝200时两种算法运行10次的平均适应值收敛曲线. 

AVE4.考虑如下问题 

$A=\left[\begin{array}{cc}0.1& 0.02\\ 0.2& 0.01\end{array}\right],b=\left[\begin{array}{c}-1\\ -2\end{array}\right],$

由于γ=min_i|b_i|／max_i|b_i|＝0.5，||A||_∞=0.21<γ/2，所以该问题具有2²＝4个解.这四个解为xⁱ=D_i(AD_i-I)^-1b，i=1，2，3，4. 

这里 $D_1=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right],D_2=\left[\begin{array}{cc}1& 0\\ 0& -1\end{array}\right],D_3=\left[\begin{array}{cc}-1& 0\\ 0& 1\end{array}\right],D_4=\left[\begin{array}{cc}-1& 0\\ 0& -1\end{array}\right];$

因此 

$x^1=\left[\begin{array}{c}1.1612\\ 2.2548\end{array}\right],x^2=\left[\begin{array}{c}1.0624\\ -2.1906\end{array}\right],x^3=\left[\begin{array}{c}-0.9424\\ 1.8298\end{array}\right],x^4=\left[\begin{array}{c}-0.8762\\ -1.8067\end{array}\right];$

HS算法和HSWB算法各运行10次，结果如图11所示。 

AVE5.考虑如下问题 

$A=\left[\begin{array}{ccc}0.01& 0.02& 0.03\\ 0.02& 0.03& 0.01\\ 0.03& 0.02& 0.01\end{array}\right],b=\left[\begin{array}{c}-1\\ -2\\ -3\end{array}\right],$

由于γ=min_i|b_i|／max_i|b_i|＝1／3，||A||_∞=0.06<γ/2，所以该问题具有2³=8个解.这八个解为 

x¹=D_i(AD_i-I)^-1b，i=1，2，…，8，D_i=diag(d₁，d₂，d₃)，d_i=±1，i=1，2，3. 

HS算法和HSWB算法各运行10次，结果如图12所示。 

更多的算例表明，HSWB算法的收敛性能好，且通过较少的代价(运行次数)，HSWB算法能够找到原问题尽可能多的解，且得到每个解的概率基本一致。 

本发明对和声搜索算法进行了改进，应用改进后的算法求解了非线性规划问题，并和原算法进行了对比，从数值结果明显看到改进后的算法无论是数值稳定性还是运算速度和精度都是非常成功的，且具有较快的收敛速度。 

本发明通过对具有唯一解和多解绝对值方程的求解，结果表明改进后的和声搜索算法具有较快的收敛速度，且能够找到原问题尽可能多的解，本发明的算法简单直观，参数少，容易实现，是求解绝对值方程的一种有效算法。 

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。 

Claims (3)

1.一种改进和声搜索算法求解非线性规划的方法，其特征在于，该改进和声搜索算法求解非线性规划的方法包括以下步骤：

第一步，定义问题与参数值：假设问题为最小化，形式如下minf(x)，s.t.x_i∈X_i，i=1，2，…，N，f(x)是目标函数，x是由决策变量x_i构成的解向量(i=1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数，算法参数有：和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数；

第二步，初始化和声记忆库：

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群，和声记忆库如下：

$\mathrm{HM}=\left[\begin{array}{c}{x}^1\\ x^2\\ .\\ .\\ .\\ x^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right]=\left[\begin{array}{cccc}{x}_1^1& x_2^1& ...& x_N^1\\ x_1^2& x_2^2& ...& x_N^2\\ .& .& & .\\ .& .& ...& .\\ .& .& & .\\ x_1^{\mathrm{HMS}}& x_2^{\mathrm{HMS}}& ...& x_N^{\mathrm{HMS}}\end{array}\right.|\left.\begin{array}{c}f\left(x^1\right)\\ f\left(x^2\right)\\ .\\ .\\ .\\ f\left(x^{\mathrm{HMS}}\right)\end{array}\right];$

第三步，生成一个新的和声：

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，新和声的每一个音调x_i′(i=1，2，…，N)通过以下三种机理产生，学习和声记忆库，音调微调，随机选择音调；

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外，且在变量范围内的任何一个值，同样的，其它变量的生成方式如下：

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数；

其次，如果新的和声x′_i来自和声记忆库HM，音调微调时采用如下操作

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}+\mathrm{NR}\&times;\mathrm{bw},& \mathrm{ifrand}<\mathrm{PAR}\\ x_i^{\&prime;},& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

其中，bw为音调微调带宽，PAR为音调微调概率；NR是一个服从标准正态分布的随机数，

这里u₁和u₂均表示上均匀分布的随机数；

第四步，更新和声记忆库

对第三步中的新解进行评估，如果优于和声记忆库中的函数值最差的一个，则将新解更新至和声记忆库(HM)中，具体操作如下：

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;};$

第五步，检查是否达到算法终止条件

重复第三步和第四步，直到创作次数达到Tmax。

2.如权利要求1所述的改进和声搜索算法求解非线性规划的方法，其特征在于，在第一步中，和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数要被初始化。

3.一种改进和声搜索算法求解绝对值方程的方法，其特征在于，该改进和声搜索算法求解绝对值方程的方法包括以下步骤：

第一步，定义问题与参数值：假设问题为最小化，形式如下minf(x)，s.t.x_i∈X_i，i＝1，2，…，N，这里f(x)是目标函数，x是由决策变量x_i构成的解向量(i=1，2，…，N)，每一个变量的值域为X_i：x_i ^L≤X_i≤x_i ^U，N为决策变量个数，算法参数有：和声记忆库的大小、学习和声记忆库概率、音调微调概率、音调微调带宽、创作的次数，各参数在第一步均要被初始化；

第二步，初始化和声记忆库：

随机生成HMS个和声x¹，x²，…，x^HMS放入和声记忆库，和声记忆库可以类比于遗传算法中的种群；

第三步，生成一个新的和声：

生成新的和声x_i′=(x′₁，x′₂，…，x′_N)，在生成新和声时，设定一个概率WSR，产生一个随机数Rand，如果Rand<WSR，则对当前和声库HM中的最差解进行更新；否则，对当前和声库HM中的最好解进行更新，同时，在种群更新过程中概率在可行域内选取，记改进后的算法为HSWB，新和声的每一个音调x_i′(i＝1，2，…，N)通过以下三种机理产生：学习和声记忆库，音调微调，随机选择音调；

新解的第一个变量x′₁有HMCR的概率选自HM中

的任何一个值，有1-HCMR的概率选自HM外(且在变量范围内)的任何一个值，同样的，其它变量的生成方式如下：

$x_i^{\&prime;}=\left\{\begin{array}{cc}{x}_i^{\&prime;}\&Element;(x_i^1,x_i^2,...,x_i^{\mathrm{HMS}}),& \mathrm{ifrand}<\mathrm{HMCR}\\ x_i^{\&prime;}\&Element;X_i,& \mathrm{otherwise}\end{array}\right.;(i=\mathrm{1,2},...,N)$

rand表示[0，1]上的均匀分布的随机数；

其次，如果新的和声x′_i来自和声记忆库，要行音调微调，具体操作如下：

第四步，更新和声记忆库

对第三步中的新解进行评估，如果优于HM中的函数值最差的一个，则将新解更新至HM中，具体操作如下：

$\mathrm{If\; f}\left(x^{\&prime;}\right)<f\left(x^{\mathrm{worst}}\right)=\underset{j=\mathrm{1,2},...,\mathrm{HMS}}{\max }f\left(x^j\right),\mathrm{then}{x}^{\mathrm{worst}}=x^{\&prime;};$

第五步，检查是否达到算法终止条件；

重复第三步和第四步，直到创作迭代次数达到Tmax。

Images