CN110750948A - 一种基于多目标获取函数集成并行贝叶斯优化的模拟电路优化算法 - Google Patents

Abstract

本发明属集成电路设计中模拟电路设计参数自动优化领域，具体涉及一种基于高斯过程模型(Gaussian Process)，采用并行贝叶斯优化(Batch Bayesian Optimization)算法的电路优化方法，本方法在每次迭代中，首先构建高斯过程模型，然后由高斯过程模型构建多个获取函数，并对这些获取函数进行多目标优化，得到获取函数的帕累托前沿(Pareto front)，并从帕累托前沿上选择多个进行电路仿真的点。该方法能大幅减少优化过程中电路的仿真次数，获得符合性能要求的模拟电路设计参数，同时可以利用并行优化技术加速电路优化。

Description

一种基于多目标获取函数集成并行贝叶斯优化的模拟电路优 化算法

技术领域

本发明属集成电路设计领域，涉及集成电路设计中模拟电路设计参数自动优化方法，具体涉及一种基于高斯过程模型(Gaussian Process)，采用并行贝叶斯优化(BatchBayesian Optimization)算法的电路优化方法，该方法能大幅减少优化过程中电路的仿真次数，获得符合性能要求的模拟电路设计参数，同时可以利用并行优化技术加速电路优化。

背景技术

数字集成电路目前已经进入10nm工艺节点，模拟电路特征尺寸亦快速逼近10nm节点以降低功耗、减小面积、提升性能和集成度。随着新的工艺的采用，模拟电路设计中的晶体管模型日趋复杂，高阶效应和工艺偏差对电路性能影响越来越严重。在time-to-market的要求下，通过传统的手工设计实现满足市场需求的高性能，低功耗的模拟电路越来越困难。近年来通过自动化的方法提高模拟电路设计的效率已是集成电路设计自动化领域的研究热点之一。

模拟电路的优化依赖对指定设计参数下的电路性能指标的评估。由于模拟电路的规模日趋庞大，器件模型的越来越复杂，对模拟电路进行仿真来评估电路性能指标所需的时间越来越长；如高性能的锁相环电路(PLL)、模数转换电路(ADC)、60-100GHz的射频/微波电路等的仿真时间通常可达数小时到数天；如何在模拟电路优化过程中，尽可能减少电路仿真次数，并尽可能达到更优的优化结果，是模拟电路自动优化的核心科学问题。

模拟电路优化问题可以被抽象为一个全局优化问题，并采用全局优化算法如模拟退火(Simulated Annealing)[1]、差分进化(Differential Evolution)[2]等优化算法进行求解。近年来，基于高斯过程模型(Gaussian process)[3]的贝叶斯优化(Bayesianoptimization)[4]方法在目标函数非解析、计算代价高的优化领域取得了较大进展。相比传统的优化方法，基于高斯过程模型的贝叶斯优化方法可以极大的降低目标函数计算次数，获得可靠的优化结果。

在现有技术[5]中，贝叶斯优化被用来进行自动化模拟电路设计，其实验结果显示相比其他优化方法，贝叶斯优化可以用更少的电路仿真完成电路优化，在现有技术[6]中，贝叶斯优化方法被用来进行模拟电路以及内存单元的良率优化。

贝叶斯优化方法在优化过程中需要的仿真次数更少，但是，贝叶斯优化是一种串行优化算法，在每次迭代过程中，它通过优化从高斯过程模型中构建的获取函数(acquisition function)来选择进行电路仿真的点，因而无法充分利用并行资源。

基于现有技术的现状，本发明拟提出一种基于多目标获取函数集成(multi-objective acquisition function ensemble)的并行贝叶斯优化方法，在每次迭代中，首先构建高斯过程模型，然后由高斯过程模型构建多个获取函数，并对这些获取函数进行多目标优化，得到获取函数的帕累托前沿(Pareto front)，并从帕累托前沿上选择多个进行电路仿真的点。

与本发明相关的参考文献有：

[1]O.Okobiah，S.Mohanty，and E.Kougianos，“Fast design optimizationthrough simple kriging metamodeling：A sense amplifier case study，”IEEETransactions on Very Large Scale Integration(VLSI)Systems，vol.22，no.4，pp.932-937，April 2014.

[2]B.Liu，D.Zhao，P.Reynaert，and G.G.E.Gielen，“Synthesis of IntegratedPassive Components for High-Frequency RF ICs Based on EvolutionaryComputation and Machine Learning Techniques，”IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems，vol.30，no.10，pp.1458-1468，Oct.2011.

[3]C.E.Rasmussen，“Gaussian processes for machine learning，”2006.

[4]B.Shahriari，K.Swersky，Z.Wang，R.P.Adams，and N.de Freitas，“Takingthe Human Out of the Loop：A Review of Bayesian Optimization，”Proceedings ofthe IEEE，vol.104，no.1，pp.148-175，Jan.2016.

[5]W.Lyu，P.Xue，F.Yang，C.Yan，Z.Hong，X.Zeng，and D.Zhou，“An efficientbayesian optimization approach for automated optimization of analogcircuits，”IEEE Transactions on Circuits and Systems I：Regular Papers，2017.

[6]M.Wang，W.Lv，F.Yang，C.Yan，W.Cai，D.Zhou，and X.Zeng，“Efficient yieldoptimization for analog and sram circuits via gaussian process regression andadaptive yield estimation，”IEEE Transactions on Computer-Aided Design ofIntegrated Circuits and Systems，2017.

[7]T.

and B.

“DEMO：Differential evolution for multiobjectiveoptimization，”in Evolutionary multi-criterion optimization，2005，pp.520-533.

[8]T.Desautels，A.Krause，and J.W.Burdick，“Parallelizing exploration-exploitation tradeoffs in gaussian process bandit optimization，”The Journalof Machine Learning Research，vol.15，no.1，pp.3873-3923，2014.

[9]J.González，Z.Dai，P.Hennig，and N.Lawrence，“Batch bayesianoptimization via local penalization，”in Artificial intelligence andstatistics，2016，pp.648-657.

[10]J.Wu and P.Frazier，“The parallel knowledge gradient method forbatch bayesian optimization，”in Advances in neural information processingsystems，2016，pp.3126-3134.

[11]C.Chevalier and D.Ginsbourger，“Fast computation of the multi-points expected improvement with applications in batch selection，”inInternational conference on learning and intelligent optimization，2013，pp.59-69

发明内容

本发明的目的在于基于现有技术的现状，提供一种基于多目标集成并行贝叶斯优化的模拟电路自动化设计方法，具体涉及一种基于多目标获取函数集成并行贝叶斯优化的模拟电路优化算法。

本发明的方法通过下述技术方案实现：首先在设计空间内随机均匀采样；在每次迭代中，对优化目标使用当前仿真所得的数据作为训练集，构建高斯过程模型；针对每个目标，构建期望提升函数(Expected Improvement，EI)、提升概率函数(Probability ofImprovement，PI)，低置信区间函数(Lower Confidence Bound，LCB)；并对这三种函数进行多目标优化，最后在多目标优化所得的帕累托前沿上选择一个点进行电路仿真，然后进入下一次迭代，直到满足算法终止条件后退出。

具体的，本发明提出了一种基于多目标获取函数集成(multi-objectiveacquisition function ensemble)的并行贝叶斯优化方法，在每次迭代中，首先构建高斯过程模型，然后由高斯过程模型构建多个获取函数，并对这些获取函数进行多目标优化，得到获取函数的帕累托前沿(Pareto front)，并从帕累托前沿上选择多个进行电路仿真的点。

本发明的优势在于：(1)通过对多个获取函数进行集成，在单线程情况下，优化效果好于使用单个获取函数；(2)在多线程情况下，可以对贝叶斯优化进行并行加速

更具体的，本发明的基于多目标获取函数集成并行贝叶斯优化的模拟电路优化算法包括如下步骤：

输入参数：

1、模拟电路网表、制造工艺文件、电路仿真器

2、模拟电路设计参数，以及设计参数允许的变化范围

3、初始随机采样点数N_init

4、每次迭代中并行仿真的设计参数个数B

5、电路性能指标f(x)

6、算法终止条件，如最大允许的电路仿真次数

输出结果：

针对性能指标进行优化所得的电路设计参数。

本发明中，

步骤1：在设计参数空间均匀随即采样N_init个点，并调用电路仿真工具获得所有采样点的性能指标Y_p，p＝1...N_init；

步骤2：使用仿真数据做为训练集，构建高斯过程模型；

步骤3：经由高斯过程模型，构建期望提升函数(Expected Improvement，EI)、提升概率函数(Probability of Improvement，PI)，以及低置信区间函数(Lower ConfidenceBound，LCB)；

步骤4：采用[7]中所述多目标优化算法，对EI、PI、LCB函数做多目标优化，得到帕累托前沿；

步骤5：在步骤4所得的帕累托前沿上，随机选择B个点，进行电路仿真，若满足终止条件，则算法终止，否则，将电路仿真结果加入训练集，并转入步骤2。

本发明步骤2中，采用如下步骤构建高斯过程模型：

步骤2.1：选取高斯过程模型所用的均值函数与协方差函数，高斯过程模型可由一个均值函数m(x)和一个协方差函数k(x，y)来表征，在本发明中，采用常数均值函数m(x)＝μ₀，高斯协方差函数为：

其中，Λ＝diag(l₁，...，l_d)是一个对角矩阵，而l_i表示第i个维度上的特征长度(length scale)，i∈[1，d]，μ₀，σ_f以及Λ为GP模型的超参数；

步骤2.2：通过最大似然估计(Maximum Likelihood Estimation，MLE)估计高斯过程模型中的超参数向量θ＝[μ₀，σ_f，l₁，...，l_d]，给定训练集{X，y}，其中X＝{x₁，...，x_N}，y＝(f(x₁)，...，f(x_N))^T，N为已有仿真点的总数。对数似然函数可表示为：

其中，K_θ(i，j)＝k(x_i，x_j)。通过求解最大化式上式中的对数似然函数，可获得高斯过程模型中的超参数θ。

本发明步骤3中，采用如下方式构建EI、PI、LCB函数：

步骤3.1：给定一个设计参数向量x，高斯过程模型对性能指标的预测为一个高斯分布

其中，μ(x)与σ(x)分别为

其中，X为当前训练集设计参数X＝(x₁，...，x_N)，y为当前训练集电路性能指标。k(x，X)＝(k(x，x₁)，...k(x，x_N))^T，k(X，x)＝k(x，X)^T。

步骤3.2：定义EI与PI函数如下：

PI(x)＝Φ(λ)

EI(x)＝σ(x)(λΦ(λ)+φ(λ))

其中，τ表示当前优化过程中找到的最优电路性能指标值，Φ(.)为标准正态分布分布的CDF函数，φ(.)表示标准正态分布的PDF函数；

步骤3.3：定义LCB函数如下：

LCB(x)＝μ(x)-κσ(x)

τ_t＝2log(t^d/2+2π²/3δ)，

其中，d为设计参数维度，t为当前迭代次数，v与δ为算法参数，本发明中，固定v＝0.5，δ＝0.05。

本发明的优势在于：(1)通过对多个获取函数进行集成，在单线程情况下，优化效果好于使用单个获取函数；(2)在多线程情况下，可以对贝叶斯优化进行并行加速。

附图说明

图1运算放大器电路图。

图2不同算法在运算放大器测例上的收敛曲线。

图3功率放大器电路图。

图4不同算法在功率放大器上的收敛曲线。

具体实施方式

现通过具体算例的实施过程，描述本发明方法。

将本申请提出的多目标获取函数集成(Multi-Objective ACquisition functionEnsemble，MACE)方法与其他并行贝叶斯优化算法进行比较。待比较的方法包括，现有技术[8]中提出的BLCB算法、现有技术[9]中提出的local penalization(LP)算法，现有技术[10]中提出的qKG方法以及现有技术[11]中提出的qEI方法。

本发明使用三个算例对MACE算法进行测试，第一个算例为通用的解析测试函数，另外两个算例为实际模拟电路网表，包括一个运算放大器以及一个功率放大器。

实施算例1

采用8个通用解析测试函数，对MACE算法进行测试，这些测试函数的维度以及算搜索空间如表1所示。

表1通用解析测试函数总结

Function	Dimension	Search domain
			Branin	2	[-5，10]×[0，15]
Alpine1	5	[-10，10]<sup>5</sup>
			Hartmann6	6	[0，1]<sup>6</sup>
Eggholder	2	[-512，512]<sup>2</sup>
			Ackley2	2	[-32，32]<sup>2</sup>
Ackley10	10	[-32，32]<sup>10</sup>
			Rosenbrock2	2	[-5，10]<sup>2</sup>
Rosenbrock10	10	[-20，20]<sup>10</sup>

对于维度低于十维的测试函数，初始采点数N_init＝20，最大迭代次数为45；对于两个十维函数，初始采点数为100，最大迭代次数为175。分别在B＝1与B＝4下对所有算法与测试函数进行测试。每组实验重复十次。

实验结果如表2与表3所示，其中，MACE-1为MACE算法在单线程的优化结果，MACE-4为算法在4线程下的优化结果，结果显示，当算法在单线程运行时，优化结果好于单独使用LCB与EI函数，而在多线程运行时，相比单线程贝叶斯优化可以达到较大的加速比。

表2不同算法对Eggholder、Branin、Alpine1、Hartmann6函数的优化结果

Function	Eggholder	Branin	Alpine1	Hartmann6
					MACE-1	87.65±75.83	1.05e-5±1.31e-5	2.66305±1.05844	0.0646869±0.0621189
LCB-1	153.9±112.8	6.86e-5±1.13e-4	5.66812±1.76973	0.125565±0.122684
					EI-1	172.8±132.2	1.62e-2±1.63e-2	2.46061±1.56079	0.110561±0.146809
MACE-4	46.38±40.89	4.62e-6±6.64e-6	0.90±0.84	0.028±0.052
					BLCB-4	56.86±35.91	4.32e-5±6.33e-5	1.8843±0.938873	0.06447±0.0621176
EI-LP-4	44.68±56.45	2.11e-2±1.84e-2	1.0059±0.456865	0.0540446±0.0558557
					qKG-4	106.4±67.64	2.65e-1±2.70e-1	3.01513±1.13414	0.47134±0.18939
qEI-4	72.13±52.08	3.29e-4±1.14e-3	2.7074±1.05145	0.186088±0.116323

表3不同算法对Ackley2、Rosenbrock2、Ackley10、Rosenbrock10函数的优化结果

Function	Ackley2	Rosenbrock2	Ackley10	Rosenbrock10
					MACE-1	1.71474±1.12154	0.026173±0.051189	3.1348±0.447874	499.697±300.899
LCB-1	1.624±0.926437	0.0201124±0.0205367	3.14797±0.519164	517.944±288.955
					EI-1	1.0136±0.985858	13.5508±9.52734	18.8006±0.652136	1367.08±637.507
MACE-4	1.07906±0.886466	9.5e-4±9.4e-4	2.56±0.54	158.116±50.0024
					BLCB-4	1.40051±1.02849	0.00191986±0.00180895	3.27543±0.735501	406.819±127.351
EI-LP-4	0.284265±0.24634	2.73645±2.05923	18.2682±0.608564	721.351±327.365
					qKG-4	5.59394±1.80595	5.03976±3.72014	18.197±0.764103	705.112±412.762
qEI-4	2.87373±1.02405	10.1881±15.0432	18.3686±0.501869	655.208±340.954

实施算例2

采用运算放大器作为测例对本专利提出的MACE算法进行测试，并与现有技术[8]中提出的BLCB算法、现有技术[9]中提出的LP算法进行比较，运算放大器如图1所示。

所述运算放大器有十个设计变量，优化目标为：

FOM＝-1.2×gain-10×UGF-1.6×PM.

其中，gain为放大器增益，UGF为放大器单位增益频率，PM为放大器相位裕度。对三种算法，设置N_init＝100，最大迭代次数为100次，分别对单线程以及四线程算法进行测试；

收敛曲线如图2所示；

测试结果如表4所示，在单线程以及四线程的设定下，MACE算法的优化结果均优于基于EI、LCB的贝叶斯优化方法。

表4运算放大器优化结果

实施算例3

采用功率放大器作为测例对本专利提出的MACE算法进行测试，并与现有技术[8]中提出的BLCB算法、现有技术[9]中提出的LP算法进行比较，功率放大器电路图如图3所示；

所述运算放大器有12个设计变量，优化目标为：

FOM＝-3×PAE-Pout.

其中，PAE为功率放大器功率增加效率(Power added efficiency)，Pout为功率放大器输出功率；

收敛曲线如图4所示；

测试结果如表5所示，在单线程以及四线程的设定下，MACE算法的优化结果均优于基于EI、LCB的贝叶斯优化方法。

表5功率放大器优化结果

算法	优化结果
		MACE-1	-4.08608±0.296647
LCB-1	-3.78533±0.335532
		EI-1	-3.36407±0.307489
MACE-4	-4.32±0.347
		BLCB-4	-4.20266±0.211102
EI-LP-4	-4.07233±0.244436

Claims (3)

1.一种基于多目标集成并行贝叶斯优化的模拟电路自动化设计方法，其特征在于，其包括，首先在设计空间内随机均匀采样；在每次迭代中，对优化目标使用当前仿真所得的数据作为训练集，构建高斯过程模型；针对每个目标，构建期望提升函数(ExpectedImprovement，EI)、提升概率函数(Probability of Improvement，PI)，低置信区间函数(Lower Confidence Bound，LCB)；并对该三种函数进行多目标优化，最后在多目标优化所得的帕累托前沿上选择一个点进行电路仿真，然后进入下一次迭代，直到满足算法终止条件后退出，包括步骤：

输入参数：

1.模拟电路网表、制造工艺文件、电路仿真器；

2.模拟电路设计参数，以及设计参数允许的变化范围；

3.初始随机采样点数N_init；

4.每次迭代中并行仿真的设计参数个数B；

5.电路性能指标f(x)；

6.算法终止条件，如最大允许的电路仿真次数；

输出结果：

针对性能指标进行优化所得的电路设计参数；

其中，

步骤1：在设计参数空间均匀随即采样N_init个点，并调用电路仿真工具获得所有采样点的性能指标Y_p，p＝1...N_init；

步骤2：使用仿真数据做为训练集，构建高斯过程模型；

步骤3：经由高斯过程模型，构建期望提升函数(Expected Improvement，EI)、提升概率函数(Probability of Improvement，PI)，以及低置信区间函数(Lower ConfidenceBound，LCB)；

步骤4：采用多目标优化算法，对EI、PI、LCB函数做多目标优化，得到帕累托前沿；

步骤5：在步骤4所得的帕累托前沿上，随机选择B个点，进行电路仿真，若满足终止条件，则算法终止，否则，将电路仿真结果加入训练集，并转入步骤2。

2.按权利要求1所述方法，其特征是，在所述步骤2中，采用如下子步骤构建高斯过程模型，

步骤2.1：选取高斯过程模型所用的均值函数与协方差函数，高斯过程模型由一个均值函数m(x)和一个协方差函数k(x，y)表征；采用常数均值函数m(x)＝μ₀，高斯协方差函数为：

其中，Λ＝diag(l₁，...，l_d)是一个对角矩阵，l_i表示第i个维度上的特征长度(lengthscale)，i∈[1，d]，μ₀，σ_f以及Λ为GP模型的超参数；

步骤2.2：通过最大似然估计(Maximum Likelihood Estimation，MLE)估计高斯过程模型中的超参数向量θ＝[μ₀，σ_f，l₁，...，l_d]；给定训练集{X，y}，其中X＝{x₁，...，x_N}，y＝(f(x₁)，...，f(x_N))^T，N为已有仿真点的总数；对数似然函数表示为：

其中，K_θ(i，j)＝k(x_i，x_j)；通过求解最大化上式中的对数似然函数，获得高斯过程模型中的超参数θ。

3.按权利要求1所述方法，其特征是，在所述步骤3中，采用如下方式构建EI、PI、LCB函数：

步骤3.1：给定一个设计参数向量x，高斯过程模型对性能指标的预测为一个高斯分布

其中，μ(x)与σ(x)分别为

其中，X为当前训练集设计参数X＝(x₁，...，x_N)，y为当前训练集电路性能指标，k(x，X)＝(k(x，x₁)，...k(x，x_N))^T，k(X，x)＝k(x，X)^T；

步骤3.2：定义EI与PI函数为：

PI(x)＝Φ(λ)

EI(x)＝σ(x)(λΦ(λ)+φ(λ))

其中，τ表示当前优化过程中找到的最优电路性能指标值，Φ(.)为标准正态分布分布的CDF函数，φ(.)表示标准正态分布的PDF函数；

步骤3.3：定义LCB函数为：

LCB(x)＝μ(x)-κσ(x)

τ_t＝2log(t^d/2+2π²/3δ)，

其中，d为设计参数维度，t为当前迭代次数，v与δ为算法参数，固定v＝0.5，δ＝0.05。

Images