CN103106331A - 基于降维和增量式极限学习机的光刻线宽智能预测方法 - Google Patents
基于降维和增量式极限学习机的光刻线宽智能预测方法 Download PDFInfo
- Publication number
- CN103106331A CN103106331A CN2012105437716A CN201210543771A CN103106331A CN 103106331 A CN103106331 A CN 103106331A CN 2012105437716 A CN2012105437716 A CN 2012105437716A CN 201210543771 A CN201210543771 A CN 201210543771A CN 103106331 A CN103106331 A CN 103106331A
- Authority
- CN
- China
- Prior art keywords
- centerdot
- learning machine
- extreme learning
- line width
- test
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
基于降维和增量式极限学习机的光刻线宽智能预测方法,属于自动控制、信息技术和先进制造领域,具体涉及针对光刻线宽指标建模过程存在训练数据维数高且分批到达的特点,通过对基于结构风险最小化的批处理极限学习机进行矩阵求逆降维,实现对光刻线宽指标的智能在线预测,其特征在于包括以下步骤:对基于结构风险最小化的批处理极限学习机中的矩阵求逆采用矩阵求逆降维公式进行降维,以建立极限学习机模型参数与新到达数据的关系,实现对极限学习机模型参数的在线增量式学习和输出层权值更新。本发明所提出的基于矩阵求逆降维和增量式极限学习机的指标预测方法对光刻线宽指标具有较好的预测效果。
Description
技术领域
本发明属于自动控制、信息技术和先进制造领域,针对在对光刻线宽预测过程所存在的数据维数高且训练数据分批到达的特点,提出一种基于矩阵求逆降维获得在线增量式极限学习机的光刻线宽智能预测方法,其可实现对指标预测模型参数的在线调整,该方法具有较好的预测精度和效率。
背景技术
光刻线宽是影响微电子产品良率的关键工艺指标,但目前其检测结果存在较大滞后,难以实现对影响该指标的相关关键工艺操作参数的在线优化调整,从而影响了产品良率的改进,因而在微电子生产线中亟需实现对光刻线宽指标的实时预测。针对光刻线宽检测过程中所获得数据具有维数高、数据分批到达的特点,提出一种基于矩阵求逆降维和增量式极限学习机的光刻线宽预测算法。近年来,GAP-RBF、SAO-ELM、OS-ELM等多种可用于非线性***在线建模的神经网络方法已被提出,此类方法能够在新的数据到达时,对模型的结构或参数进行在线调整,从而避免对所有样本数据进行重新训练,减少了计算量,提高了计算效率。但由于上述方法都是基于经验风险最小化准则进行建模的,存在过拟合、隐层节点难以确定等缺陷,严重影响实际应用时的建模精度。如何提高建模算法的精度和效率,同时满足数据分批到达的特点,是建立光刻线宽预测模型的难点。本发明所提出的基于矩阵求逆降维和增量式极限学习机的指标预测方法对光刻线宽指标具有较好的预测效果。
发明内容
为了解决上述难点,本发明提出一种基于矩阵求逆降维变换和增量式极限学习机的光刻线宽智能预测方法,对基于结构风险最小化的批处理极限学习机中的矩阵求逆采用矩阵求逆降维公式进行降维,以建立极限学习机模型参数与新到达数据的关系,实现对极限学习机模型参数的在线增量式学习和输出层权值更新。
基于降维和增量式极限学习机的光刻线宽智能预测方法,其特征在于,所述方法是在计算机上依次按以下步骤实现的:
步骤(1):模型选择与参数初始化
对于给定的N个样本,其输入记为其中xi表示每i个样本由29维数据组成的向量,该向量包括如下参数:与待预测lot处于相同加工层次、相同品种的前5个lot对应的曝光剂量、光刻机焦距、曝光剂量的质量控制值、线宽测量值以及光刻胶厚度;当前待预测lot的曝光剂量、光刻机焦距、曝光剂量的质量控制值和光刻胶厚度;N个样本输入相对应的输出记为yi为光刻线宽测量值;
给定基于结构风险最小化的极限学习机的隐层节点数L,采用径向基函数作为特征变换函数,函数形式为 其中ai,bi为径向基函数的参数,ai维数为29维,其可从[-1 1]中随机选取,bi为1维,取值为从 随机选取;
于是,生成的极限学习机特征映射矩阵H(X)为:
步骤(2):算法初始化
对于时刻t而言,增量式极限学习机的权值参数Wt初始化值为:
其中:
Xt表示t时刻已经获得的样本,样本数量为N,于是产生的极限学习机映射矩阵为:
v为折中系数,采用经验值,取为2-15;
步骤(3):在线学习过程
t+1时刻极限学习机权值参数Wt+1按照如下方式更新:
Wt+1=KtWt+KtAt -1H(XIC)TYIC
其中:
Kt=I-At -1H(XIC)T[H(XIC)At -1H(XIC)T+Ik×k]-1H(XIC)
At+1 -1=KtAt -1
Ik×k为对角线为1的单位矩阵;
Kt、At -1为引入的中间变量,从而简化更新后权值参数Wt+1的表达形式;
步骤(4):训练过程终止
当所有的训练数据都参与训练后,训练过程终止,此时输出训练完成后的极限学习机权值参数W;
步骤(5):在线应用
假定需要进行光刻线宽预测的测试样本数量为Ntest,训练获得的极限学习机模型参数W,按照下式进行光刻线宽的智能预测:
其中Xtest为待预测的样本对应的输入,为光刻区线宽的预测值,H(Xtest)表达形式如下所示:
附图说明
图1:算法流程图,是本发明提出的光刻线宽预测算法的各个实现步骤;
图2:光刻线宽数据的测试精度,利用实际光刻线宽数据进行建模后,利用训练后的模型对线宽预测结果;
图3:本算法在企业使用过程中所需要的软硬件组成图。
具体实施方式
本发明提出基于降维和增量式极限学习机的光刻线宽智能预测方法,其主要优势在于预测精度高,同时采用在线学习方法,以适应数据分批到达的特点,实际应用过程中,若有新的数据到达时,便立刻进行模型学习,并及时更新模型参数;若无新数据到达时,则利用已训练过的模型进行预测。本发明的在线学习方法依赖于相关的数据采集***、算法服务器和用户客户端等硬件设备,并由基于矩阵求逆降维变换和增量式极限学习机的光刻线宽智能预测方法的智能预测软件实现。
步骤(1):采集光刻机的历史数据信息、加工lot的相关参数信息:
采集的初始化信息包括lot的加工菜单、涂胶厚度、曝光剂量、涂胶质量控制值、光刻机曝光剂量的质量控制值、线宽规范、历史测量值、光刻机焦距,将初始化信息存储至数据库中;
步骤(2):模型选择
对本发明提出的方法,模型选择主要涉及隐层节点数L的选择。对于隐层节点数,根据极限学习机算法的逼近理论,只要隐层节点数足够大,算法能够以任意精度逼近任意的函数,因此本发明中隐层节点数选取一个相对较大的值即可,取为L=100。
步骤(3):模型固定参数设置
模型的初始化主要是对算法中涉及的模型所有参数确定取值。发明中模型参数的取值包括径向基函数的参数ai、bi,初始化样本数N0,惩罚因子v选择。ai,bi为径向基函数的参数,ai维数为29维,其可从[-11]中随机选取,bi为1维,取值为从 随机选取;初始化样本数N0=L+200,L为给定的隐层节点数,L=100。对于惩罚因子v的选择,可在{2-24,2-23,…,224,225}范围内进行选择,经验取值为2-15。
步骤(4):算法初始化
对于时刻t而言,增量式极限学习机的权值参数Wt初始化值为:
其中:
Xt表示t时刻已经获得的样本,样本数量为N,于是产生的极限学习机映射矩阵为:
步骤(5):在线学习过程
t+1时刻极限学习机权值参数Wt+1按照如下方式更新:
Wt+1=KtWt+KtAt -1H(XIC)TYIC
其中:
Kt=I-At -1H(XIC)T[H(XIC)At -1H(XIC)T+Ik×k]-1H(XIC)
At+1 -1=KtAt -1
Ik×k为对角线为1的单位矩阵;
Kt、At -1为引入的中间变量,从而简化更新后权值参数Wt+1的表达形式;
步骤(6):训练过程终止
当所有的训练数据都参与训练后,训练过程终止,此时输出训练完成后的极限学习机权值参数W;
步骤(7):在线应用
假定需要进行光刻线宽预测的测试样本数量为Ntest,训练获得的极限学习机模型参数W,按照下式进行光刻线宽的智能预测:
本发明提出方法流程图如图1所示。
基于上述所提出的在线建模方法,本发明做了大量的仿真试验,由于篇幅所限,这里仅给出该发明应用到光刻线宽预测过程中的实际效果。数据输入由29维数据组成,主要为与待预测lot处于相同加工层次、相同品种的前5个lot对应的曝光剂量、光刻机焦距、曝光剂量的质量控制值、线宽测量值以及光刻胶厚度;以及当前待预测lot的曝光剂量、光刻机焦距、曝光剂量的质量控制值和光刻胶厚度。数据取自2012-2-9至2012-7-16之间的工业现场数据,共2250条,随意选取其中的1000条作为测试数据,其余的1250条作为训练数据。
相关参数取值如下表所示。
表1参数取值表
本发明与较好的在线算法OS-ELM(在线顺序极限学习机)和Fixed-LSSVM(固定大小最小二乘支持向量机)进行了比较,比较结果如表2所示
表2LS-IELM与OS-ELM、Fixed-LSSVM算法性能比较结果
从表中可以看出,本发明提出的在线算法相比OS-ELM、Fixed-LSSVM具有更好的测试精度,因此具有更好的泛化能力。
图2给出了对所有测试数据预测值和真实值之间的误差曲线,可以看到所有的预测误差都在[-0.1,0.1]之间,满足实际光刻线宽的规范范围要求。
Claims (1)
1.基于降维和增量式极限学习机的光刻线宽智能预测方法,其特征在于,所述方法是在计算机上依次按以下步骤实现的:
步骤(1):模型选择与参数初始化
对于给定的N个样本,其输入记为其中xi表示每i个样本,由29维数据组成的向量,该向量包括如下参数:与待预测lot处于相同加工层次、相同品种的前5个lot对应的曝光剂量、光刻机焦距、曝光剂量的质量控制值、线宽测量值以及光刻胶厚度;当前待预测lot的曝光剂量、光刻机焦距、曝光剂量的质量控制值和光刻胶厚度;N个样本输入相对应的输出记为yi为光刻线宽测量值;
给定基于结构风险最小化的极限学习机的隐层节点数L,采用径向基函数作为特征变换函数,函数形式为 其中ai,bi为径向基函数的参数,ai维数为29维,其可从[-1 1]中随机选取,bi为1维,取值为从 随机选取;
于是,生成的极限学习机特征映射矩阵H(X)为:
步骤(2):算法初始化
对于时刻t而言,增量式极限学习机的权值参数Wt初始化值为:
其中:
Xt表示t时刻已经获得的样本,样本数量为N,于是产生的极限学习机映射矩阵为:
v为折中系数,采用经验值,取为2-15;
步骤(3):在线学习过程
t+1时刻极限学习机权值参数Wt+1按照如下方式更新:
Wt+1=KtWt+KtAt -1H(XIC)TYIC
其中:
Kt=I-At -1H(XIC)T[H(XIC)At -1H(XIC)T+Ik×k]-1H(XIC)
At+1 -1=KtAt -1
Ik×k为对角线为1的单位矩阵;
Kt、At -1为引入的中间变量,从而简化更新后权值参数Wt+1的表达形式;
步骤(4):训练过程终止
当所有的训练数据都参与训练后,训练过程终止,此时输出训练完成后的极限学习机权值参数W;
步骤(5):在线应用
假定需要进行光刻线宽预测的测试样本数量为Ntest,训练获得的极限学习机模型参数W,按照下式进行光刻线宽的智能预测:
其中Xtest为待预测的样本对应的输入,为光刻区线宽的预测值,H(Xtest)表达形式如下所示:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210543771.6A CN103106331B (zh) | 2012-12-17 | 2012-12-17 | 基于降维和增量式极限学习机的光刻线宽智能预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210543771.6A CN103106331B (zh) | 2012-12-17 | 2012-12-17 | 基于降维和增量式极限学习机的光刻线宽智能预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103106331A true CN103106331A (zh) | 2013-05-15 |
CN103106331B CN103106331B (zh) | 2015-08-05 |
Family
ID=48314185
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210543771.6A Expired - Fee Related CN103106331B (zh) | 2012-12-17 | 2012-12-17 | 基于降维和增量式极限学习机的光刻线宽智能预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103106331B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104503420A (zh) * | 2014-09-19 | 2015-04-08 | 北京化工大学 | 一种基于新型fde-elm和时延efsm的非线性过程工业故障预测方法 |
CN104536412A (zh) * | 2014-12-23 | 2015-04-22 | 清华大学 | 基于指标预报和解相似度分析的光刻工序动态调度方法 |
CN106845144A (zh) * | 2017-03-17 | 2017-06-13 | 泉州装备制造研究所 | 一种基于工业大数据挖掘的状态预测方法 |
CN107346286A (zh) * | 2017-07-03 | 2017-11-14 | 武汉大学 | 一种基于核主成分分析和极限学习机的软件缺陷预测方法 |
CN107423547A (zh) * | 2017-04-19 | 2017-12-01 | 江南大学 | 基于半监督超限学习机的增量式定位算法 |
CN107563398A (zh) * | 2016-06-30 | 2018-01-09 | 中国矿业大学 | 一种基于多层极速学习机的风景图片多标记方法及*** |
TWI757855B (zh) * | 2019-09-06 | 2022-03-11 | 荷蘭商Asml荷蘭公司 | 用於在參數化模型預測中提高確定性的方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101807046A (zh) * | 2010-03-08 | 2010-08-18 | 清华大学 | 一种基于结构可调极限学习机的在线建模方法 |
CN102708381A (zh) * | 2012-05-09 | 2012-10-03 | 江南大学 | 融合最小二乘向量机回归学习思想的改进极限学习机 |
-
2012
- 2012-12-17 CN CN201210543771.6A patent/CN103106331B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101807046A (zh) * | 2010-03-08 | 2010-08-18 | 清华大学 | 一种基于结构可调极限学习机的在线建模方法 |
CN102708381A (zh) * | 2012-05-09 | 2012-10-03 | 江南大学 | 融合最小二乘向量机回归学习思想的改进极限学习机 |
Non-Patent Citations (2)
Title |
---|
谭建辉: "径向基函数神经网络的再学习算法及其应用", 《微电子学与计算机》 * |
郝井华 等: "一种基于LLM的高维时间序列数据异常检测方法", 《控制工程》 * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104503420A (zh) * | 2014-09-19 | 2015-04-08 | 北京化工大学 | 一种基于新型fde-elm和时延efsm的非线性过程工业故障预测方法 |
CN104503420B (zh) * | 2014-09-19 | 2017-02-15 | 北京化工大学 | 一种基于新型fde‑elm和时延efsm的非线性过程工业故障预测方法 |
CN104536412A (zh) * | 2014-12-23 | 2015-04-22 | 清华大学 | 基于指标预报和解相似度分析的光刻工序动态调度方法 |
CN107563398A (zh) * | 2016-06-30 | 2018-01-09 | 中国矿业大学 | 一种基于多层极速学习机的风景图片多标记方法及*** |
CN106845144A (zh) * | 2017-03-17 | 2017-06-13 | 泉州装备制造研究所 | 一种基于工业大数据挖掘的状态预测方法 |
CN107423547A (zh) * | 2017-04-19 | 2017-12-01 | 江南大学 | 基于半监督超限学习机的增量式定位算法 |
CN107346286A (zh) * | 2017-07-03 | 2017-11-14 | 武汉大学 | 一种基于核主成分分析和极限学习机的软件缺陷预测方法 |
CN107346286B (zh) * | 2017-07-03 | 2020-05-12 | 武汉大学 | 一种基于核主成分分析和极限学习机的软件缺陷预测方法 |
TWI757855B (zh) * | 2019-09-06 | 2022-03-11 | 荷蘭商Asml荷蘭公司 | 用於在參數化模型預測中提高確定性的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN103106331B (zh) | 2015-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103106331B (zh) | 基于降维和增量式极限学习机的光刻线宽智能预测方法 | |
Catalao et al. | An artificial neural network approach for short-term wind power forecasting in Portugal | |
CN106022521B (zh) | 基于Hadoop架构的分布式BP神经网络的短期负荷预测方法 | |
CN106874581A (zh) | 一种基于bp神经网络模型的建筑空调能耗预测方法 | |
CN112288164B (zh) | 一种计及空间相关性和修正数值天气预报的风功率组合预测方法 | |
CN104636985A (zh) | 一种改进bp神经网络的输电线路无线电干扰预测方法 | |
CN107274038A (zh) | 一种基于蚁狮优化的lssvm年用电量预测方法 | |
CN103942461A (zh) | 基于在线贯序极限学习机的水质参数预测方法 | |
CN108021773B (zh) | 基于dss数据库的分布式水文模型多场次洪水参数率定方法 | |
CN103793887B (zh) | 基于自适应增强算法的短期电力负荷在线预测方法 | |
CN110059867B (zh) | 一种swlstm结合gpr的风速预测方法 | |
CN104217258B (zh) | 一种电力负荷条件密度预测方法 | |
CN101825622A (zh) | 一种水质预测方法和装置 | |
CN102682345A (zh) | 基于双最优学习率快速学习神经网络的交通流预测方法 | |
CN106933649A (zh) | 基于移动平均和神经网络的虚拟机负载预测方法及*** | |
CN103778482A (zh) | 基于多尺度分析的水产养殖溶解氧短期预测方法 | |
CN107704962A (zh) | 一种基于不完整时间序列数据集的冶金企业蒸汽流量区间预测方法 | |
CN109599866B (zh) | 一种预测辅助的电力***状态估计方法 | |
CN109472105A (zh) | 半导体产品良率上限分析方法 | |
CN103268525A (zh) | 一种基于wd-rbf的水文时间序列模拟预测方法 | |
CN109325613B (zh) | 用平行序贯极限学习机对静态电压稳定裕度在线预测方法 | |
CN107844658A (zh) | 相关向量机与自回归滑动平均融合的舵机状态预测方法 | |
CN112686693A (zh) | 电力现货市场边际电价预测方法、***、设备及存储介质 | |
CN109376911A (zh) | 一种基于EMD-KELMs-SDPSO的微电网短期负荷预测方法 | |
CN107657349B (zh) | 一种水库分期发电调度规则提取方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20150805 Termination date: 20181217 |