CN112100916B - 用于构建强化学习模型的方法、装置、电子设备及介质 - Google Patents

用于构建强化学习模型的方法、装置、电子设备及介质 Download PDF

Info

Publication number
CN112100916B
CN112100916B CN202010948561.XA CN202010948561A CN112100916B CN 112100916 B CN112100916 B CN 112100916B CN 202010948561 A CN202010948561 A CN 202010948561A CN 112100916 B CN112100916 B CN 112100916B
Authority
CN
China
Prior art keywords
coal feeding
reinforcement learning
decomposing furnace
temperature
kiln
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010948561.XA
Other languages
English (en)
Other versions
CN112100916A (zh
Inventor
刘颖
解鑫
许铭
齐月震
李瑞锋
白璐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010948561.XA priority Critical patent/CN112100916B/zh
Publication of CN112100916A publication Critical patent/CN112100916A/zh
Priority to EP21164660.9A priority patent/EP3872432B1/en
Priority to JP2021055392A priority patent/JP7257436B2/ja
Priority to US17/215,932 priority patent/US20210216686A1/en
Priority to KR1020210051391A priority patent/KR102506122B1/ko
Application granted granted Critical
Publication of CN112100916B publication Critical patent/CN112100916B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • C—CHEMISTRY; METALLURGY
    • C04—CEMENTS; CONCRETE; ARTIFICIAL STONE; CERAMICS; REFRACTORIES
    • C04B—LIME, MAGNESIA; SLAG; CEMENTS; COMPOSITIONS THEREOF, e.g. MORTARS, CONCRETE OR LIKE BUILDING MATERIALS; ARTIFICIAL STONE; CERAMICS; REFRACTORIES; TREATMENT OF NATURAL STONE
    • C04B7/00—Hydraulic cements
    • C04B7/36—Manufacture of hydraulic cements in general
    • C04B7/361—Condition or time responsive control in hydraulic cement manufacturing processes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F27—FURNACES; KILNS; OVENS; RETORTS
    • F27B—FURNACES, KILNS, OVENS, OR RETORTS IN GENERAL; OPEN SINTERING OR LIKE APPARATUS
    • F27B7/00—Rotary-drum furnaces, i.e. horizontal or slightly inclined
    • F27B7/20—Details, accessories, or equipment peculiar to rotary-drum furnaces
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F27—FURNACES; KILNS; OVENS; RETORTS
    • F27B—FURNACES, KILNS, OVENS, OR RETORTS IN GENERAL; OPEN SINTERING OR LIKE APPARATUS
    • F27B7/00—Rotary-drum furnaces, i.e. horizontal or slightly inclined
    • F27B7/20—Details, accessories, or equipment peculiar to rotary-drum furnaces
    • F27B7/42—Arrangement of controlling, monitoring, alarm or like devices
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F27—FURNACES; KILNS; OVENS; RETORTS
    • F27D—DETAILS OR ACCESSORIES OF FURNACES, KILNS, OVENS, OR RETORTS, IN SO FAR AS THEY ARE OF KINDS OCCURRING IN MORE THAN ONE KIND OF FURNACE
    • F27D19/00—Arrangements of controlling devices
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F27—FURNACES; KILNS; OVENS; RETORTS
    • F27D—DETAILS OR ACCESSORIES OF FURNACES, KILNS, OVENS, OR RETORTS, IN SO FAR AS THEY ARE OF KINDS OCCURRING IN MORE THAN ONE KIND OF FURNACE
    • F27D21/00—Arrangements of monitoring devices; Arrangements of safety devices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F27—FURNACES; KILNS; OVENS; RETORTS
    • F27D—DETAILS OR ACCESSORIES OF FURNACES, KILNS, OVENS, OR RETORTS, IN SO FAR AS THEY ARE OF KINDS OCCURRING IN MORE THAN ONE KIND OF FURNACE
    • F27D19/00—Arrangements of controlling devices
    • F27D2019/0096—Arrangements of controlling devices involving simulation means, e.g. of the treating or charging step
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/08—Thermal analysis or thermal optimisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/14—Force analysis or force optimisation, e.g. static or dynamic forces

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Mechanical Engineering (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Ceramic Engineering (AREA)
  • Materials Engineering (AREA)
  • Structural Engineering (AREA)
  • Organic Chemistry (AREA)
  • Feedback Control In General (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Curing Cements, Concrete, And Artificial Stone (AREA)

Abstract

本申请实施例公开了用于构建强化学习模型的方法、装置、电子设备及计算机可读存储介质，涉及大数据、深度学习技术领域。该方法的一具体实施方式包括：建立分解炉喂煤量与分解炉温度之间的第一仿真模型；建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型。该实施方式将强化学习的概念应用于水泥行业熟料煅烧的喂煤量控制方面，实现了降本增效。

Description

用于构建强化学习模型的方法、装置、电子设备及介质
技术领域
本申请涉及数据处理技术领域，具体涉及大数据、深度学习技术领域，尤其涉及用于构建强化学习模型的方法、装置、电子设备及计算机可读存储介质。
背景技术
水泥的生产过程主要有三个阶段：生料的开采和研磨、生料煅烧成熟料、熟料的再加工。其中生料煅烧成熟料是一个非常复杂的过程，过程中消耗的煤电成本很大。在煅烧过程中，主要有煤电的消耗，其中煤耗比重最大，即如何在煅烧阶段合理的管控喂煤量，是水泥行业降本增效的关键。
发明内容
本申请实施例提出了一种用于构建强化学习模型的方法、装置、电子设备及计算机可读存储介质。
第一方面，本申请实施例提出了一种用于构建强化学习模型的方法，包括：建立分解炉喂煤量与分解炉温度之间的第一仿真模型；建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，喂煤量包括分解炉喂煤量和窑头喂煤量。
第二方面，本申请实施例提出了一种用于构建强化学习模型的装置，包括：第一仿真模型建立单元，被配置成建立分解炉喂煤量与分解炉温度之间的第一仿真模型；第二仿真模型建立单元，被配置成建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；预测模型建立单元，被配置成建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；强化学习模型构建单元，被配置成将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，喂煤量包括分解炉喂煤量和窑头喂煤量。
第三方面，本申请实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的用于构建强化学习模型的方法。
第四方面，本申请实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的用于构建强化学习模型的方法。
本申请实施例提供的用于构建强化学习模型的方法、装置、电子设备及计算机可读存储介质，首先，建立分解炉喂煤量与分解炉温度之间的第一仿真模型，以及建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；然后，建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；最后，将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，喂煤量包括分解炉喂煤量和窑头喂煤量。
区别于无法满足水泥煅烧这一复杂场景下需求的现有技术，本申请将强化学习的概念引入了水泥煅烧场景，基于建立的仿真模型和预测模型，在强化学习架构下构建出能够表征在多参数影响下输入的喂煤量与最终成品的游离钙含量间对应关系的强化学习模型，且由于强化学习模型区别于其它机器学习模型存在的补偿器特性，更匹配复杂、多参数的水泥煅烧场景，使得确定出的对应关系更加准确，同时强化学习模型所拥有的强大的泛化能力也能更简单的适用于其它同类场景。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请可以应用于其中的示例性***架构；
图2为本申请实施例提供的一种用于构建强化学习模型的方法的流程图；
图3为本申请实施例提供的另一种用于构建强化学习模型的方法的流程图；
图4为本申请实施例提供的在一应用场景下的用于构建强化学习模型的方法的流程示意图；
图5为本申请实施例提供的一种用于构建强化学习模型的装置的结构框图；
图6为本申请实施例提供的一种适用于执行用于构建强化学习模型的方法的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于构建强化学习模型的方法、装置、电子设备及计算机可读存储介质的实施例的示例性***架构100。
如图1所示，***架构100可以包括传感器101、102、103，网络104、服务器105、喂煤设备106。网络104用以在传感器101、102、103与服务器105之间、服务器105与喂煤设备106之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
传感器101、102、103采集到的各类信息可通过网络104发送给服务器105，服务器105可基于接收到的信息经处理后生成控制指令再通过网络104下发给喂煤设备106。具体的，实现上述通信的可以是安装在传感器101、102、103、服务器105以及喂煤设备106上的各种应用，例如信息传输类应用、喂煤量优化控制类应用、控制指令收发类应用等。
通常情况下，传感器101、102、103为设置在水泥煅烧相关设备(例如分解炉、熟料窑等)相关位置的物理元器件(例如压力传感器、温度传感器、电流传感器等)，以接收到来自实际设备产生的实际信号。但在测试和仿真场景下，传感器101、102、103也可以为设置在水泥煅烧的虚拟相关设备上的虚拟元器件，以接收测试场景预先给定的参数或仿真参数。服务器105可以是硬件，也可以是软件。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。在实际场景下，喂煤设备106可以具体表现为煤料输送带、煤料运送机等实体设备，在虚拟的测试场景下，可直接使用拥有受管控的煤料输送能力的虚拟设备代替。
服务器105通过内置的各种应用可以提供各种服务，以可以提供水泥煅烧中喂煤量优化控制服务的喂煤量优化控制类应用为例，服务器105在运行该喂煤量优化控制类应用时可实现如下效果：首先，接收指示本批次水泥熟料生产所要求的目标游离钙含量；然后，将目标游离钙含量输入预先构建好的表征喂煤量和游离钙含量之间对应关系的强化学习模型，得到该强化学习模型输出的理论喂煤量；接着，利用该理论喂煤量中包含的理论分解炉喂煤量和理论窑头喂煤量向喂煤设备106下发相应的喂煤量指示。
其中，服务器105在上述过程中使用的强化学习模型可基于以下方式构建得到：首先，通过网络104从传感器101、102、103接收到大量历史的分解炉喂煤量、分解炉温度、窑头喂煤量、窑电流、二次风温、烟室温度和篦下压力；然后，建立分解炉喂煤量与分解炉温度之间的第一仿真模型，以及建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；然后，建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；最后，将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型。
需要指出的是，用于构建仿真模型、预测模型的分解炉喂煤量、分解炉温度、窑头喂煤量、窑电流、二次风温、烟室温度和篦下压力等参数除可以从传感器101、102、103获取到之外，这些参数也可以预先以日志、生产检测数据报告等各种形式存储在服务器105本地。因此，当服务器105检测到本地已经存储有这些数据时，可选择直接从本地获取这些数据，在此种情况下，生成强化学习模型的过程也可以不需要传感器101、102、103和网络104。
由于基于大量参数构建仿真模型、预测模型、强化学习模型需要占用较多的运算资源和较强的运算能力，因此本申请后续各实施例所提供的用于构建强化学习模型的方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，用于构建强化学习模型的装置一般也设置于服务器105中。
应该理解，图1中的传感器、网络、服务器、喂煤设备的数目仅仅是示意性的。根据实现需要，可以具有任意数目的传感器、网络、服务器、喂煤设备。
请参考图2，图2为本申请实施例提供的一种用于构建强化学习模型的方法的流程图，其中流程200包括以下步骤：
步骤201：建立分解炉喂煤量与分解炉温度之间的第一仿真模型；
本步骤旨在由用于构建强化学习模型的方法的执行主体(例如图1所示的服务器105)建立分解炉喂煤量与分解炉温度之间的第一仿真模型。
其中，第一仿真模型用于表征分解炉喂煤量与分解炉温度之间的对应关系，为构建能够表征这一对应关系的第一仿真模型，需要大量历史分解炉喂煤量和对应的历史分解炉温度数据作为样本数据参与仿真模型的训练和构建，例如可将表征分解炉喂煤量与分解炉温度间对应关系的第一仿真模型构建为下述公式的形式：
y(k)＝a*y(k-1)+b*u(k-1)；
式中，y(k)为k时刻的分解炉温度，y(k-1)和u(k-1)分别为k-1(即K时刻的上一时刻)时刻的分解的温度和分解炉喂煤量；a和b分别为待定系数，具体数值可基于历史数据采用最小二乘法计算得到，例如在某一实验场景下，a为0.983，b为0.801。
步骤202：建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；
本步骤旨在由上述执行主体建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型。
区别于第一仿真模型，第二仿真模型用于表征窑头喂煤量与窑电流、二次风温、烟室温度之间的对应关系，为构建能够表征这一对应关系的第二仿真模型，需要大量历史窑头喂煤量和对应的历史窑电流、历史二次风温和历史烟室温度作为样本数据参与仿真模型的训练和构建。也可以将第二仿真模型构建为与上述公式相同的形式。
需要说明的是，上述执行主体之所以要通过步骤201、步骤202分别构建得到第一仿真模型和第二仿真模型，是因为在水泥熟料的煅烧过程中，可调变量主要有：喂料量、分解炉喂煤量、窑头喂煤量、窑速、高温风机转速、篦冷机篦速，受控变量主要有：分解炉出口温度、分解炉出口压力、二次风温、三次风温、窑内烧成带温度、窑头负压、窑尾温度、烟室温度、窑电流、篦下压力、立升重。受控变量是指该变量不可直接调试、但会受可调变量的影响的变量。
上述这些变量最终都作用在煅烧出的成品的游离钙含量这一指标上，因此为保障成品的熟料品质，就需要在整个煅烧过程中监控这些变量，以通过这些变量推算最终煅烧出的熟料成品的品质。经调研，游离钙含量主要与分解炉温度、窑电流、二次风温、烟室温度、篦下压力有关，而这些变量主要有分解炉喂煤量、窑头喂煤量、篦下压力这三个可调参数决定。因此在本申请主要关注因喂煤导致的煤量消耗与熟料品质(即游离钙含量)的情况下，就可以主要考虑三个可调变量：分解炉喂煤量、窑头喂煤量、篦下压力，主要考虑四个受控变量：分解炉温度、窑电流、二次风温、烟室温度，以及一个最终目标变量：游离钙含量。
为通过强化学习模型进行喂煤量的优化调参，那么在水泥煅烧过程中表征与喂煤量相关的参数变化的仿真模型的构建是必不可少的，因此上述执行主体分别通过步骤201构建了表征受控变量—分解炉温度与可调变量—分解炉喂煤量之间对应关系的第一仿真模型，通过步骤202构建了表征受控变量—窑电流、二次风温、烟室温度与可调变量—窑头喂煤量之间对应关系的第二仿真模型。
步骤203：建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；
在步骤201、步骤202的基础上，本步骤旨在由上述执行主体建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型。
在步骤202中已经说明，可认为熟料的品质指标—游离钙含量主要受篦下压力、分解炉温度、窑电流、二次风温、烟室温度这5个受控变量的影响，因此，本步骤则建立上述5个受控变量与游离钙含量之间的预测模型，即生成的预测模型可以基于给定的5个受控变量的实际值预测出对应的游离钙含量的预测值。
具体的，上述预测模型的建立需要大量历史数据参与训练，从而找到较为准确的各受控变量对游离钙含量的影响关系，可通过SVM(Support Vector Machine，支持向量机)、神经网络、树模型等各式支持多输入参数预测唯一输出参数的模型或算法，此处不做具体限定，可根据实际应用场景所有可能存在的影响因素来选择。
上述各步骤构建模型所需的大量作为样本的历史数据，均可以来自设置在熟料煅烧时所使用的相关设备上的各式传感器(例如图1中所示的传感器101、102、103)的采集，例如篦下压力可通过设置在篦冷机中的压力传感器采集得到，窑电流则可以通过设置在窑头中的电流传感器采集得到，各式温度则可以根据实际可能处于的温度区间选用不同性能、型号的温度传感器。
步骤204：将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型。
在步骤203的基础上，本步骤旨在由上述执行主体将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型。
虽然游离钙含量受篦下压力、分解炉温度、窑电流、二次风温、烟室温度这5个受控变量的影响，但这5个受控变量又分别受到分解炉喂煤量和窑头喂煤量这两个可调变量的管控，且基于本申请的主要目的，将根据表征可调变量与受控变量之间对应关系的仿真模型、受控变量与质量指标之间对应关系的预测模型，将其按照强化学习模型的架构构建为能够表征喂煤量与游离钙含量之间对应关系的强化学习模型。
强化学习(Reinforcement Learning,RL)，又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体(agent)在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。区别于其它仿真自生物神经网络的神经网络类深度学习算法，强化学习算法是智能体以“试错”的方式进行学习，通过与环境进行交互获得的奖赏指导行为，目标是使智能体获得最大的奖赏，强化学习不同于连接主义学习中的监督学习，主要表现在强化信号上，强化学习中由环境提供的强化信号是对产生动作的好坏作一种评价(通常为标量信号)，而不是告诉强化学习***RLS(reinforcement learning system)如何去产生正确的动作。由于外部环境提供的信息很少，RLS必须靠自身的经历进行学习。通过这种方式，RLS在行动-评价的环境中获得知识，改进行动方案以适应环境。深度学习模型也可以在强化学习中得到使用，进而形成效果更佳的深度强化学习(DRL)。
具体的，可选用Actor-critic(A2C)、PPO、TRPO等特性不同的强化学习模型的架构来构建本步骤所需的能够表征喂煤量与游离钙含量之间对应关系的强化学习模型。
区别于无法满足水泥煅烧这一复杂场景下需求的现有技术，本申请实施例提供的用于构建强化学习模型的方法，将强化学习的概念引入了水泥煅烧场景，基于建立的仿真模型和预测模型，在强化学习架构下构建出能够表征在多参数影响下输入的喂煤量与最终成品的游离钙含量间对应关系的强化学习模型，且由于强化学习模型区别于其它机器学习模型存在的补偿器特性，更匹配复杂、多参数的水泥煅烧场景，使得确定出的对应关系更加准确，同时强化学习模型所拥有的强大的泛化能力也能更简单的适用于其它同类场景本申请。
之所以说现有技术无法满足水泥煅烧这一复杂场景下需求，是因为PID控制只考虑了***的偏差、主要是对***设定值进行跟踪，但不支持水泥煅烧场景下熟料品质与能耗多目标的优化；另一方面，由于水泥生产过程中涉及多个参数的实时控制，MPC也很难实现多个参数的统一实时控制，同时MPC的泛化能力差，对类似场景的煅烧***，每次都需要重新建立模型。
请参考图3，图3为本申请实施例提供的另一种用于构建强化学习模型的方法的流程图，其中流程300包括以下步骤：
步骤301：建立分解炉喂煤量与分解炉温度之间的第一仿真模型；
步骤302：建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；
步骤303：建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；
步骤304：将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；
以上步骤301-304与如图2所示的步骤201-204一致，上述步骤可被归纳为强化学习模型的构建过程，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。
步骤305：接收目标场景下给定的目标游离钙含量；
在步骤304构建出可用的强化学习模型的基础上，本步骤旨在由上述执行主体接收用户针对目标场景下给定的目标游离钙含量。本步骤作为强化学习模型在指导水泥煅烧时的喂煤量的使用过程的第一步，即获取设定的熟料品质指标。
步骤306：利用强化学习模型确定与目标游离钙含量对应的理论喂煤量；
在步骤305的基础上，本步骤旨在由上述执行主体利用强化学习模型确定与目标游离钙含量对应的理论喂煤量，即由于强化学习模型可表征喂煤量与游离钙含量之间的对应关系，因此在给定目标游离钙含量的情况下，可根据该对应关系逆推出对应的理论喂煤量，其中，理论喂煤量包括理论分解炉喂煤量和理论窑头喂煤量。
步骤307：根据理论喂煤量指导目标场景下的分解炉喂煤操作和窑头喂煤操作。
在步骤306的基础上，本步骤旨在由上述执行主体根据理论喂煤量指导目标场景下的分解炉喂煤操作和窑头喂煤操作，例如控制喂煤设备(例如图1中所示的喂煤设备106)向分解炉和窑头喂入相应数量的煤。
由于本申请实施例包含了上一实施例的全部技术特征(即强化学习模型的构建步骤)，理应具有上一实施例的全部有益效果。在此基础上，本申请实施例还通过步骤305-步骤307给出了一种具体的如何基于构建出的强化学习模型来指导喂煤量的方案，以通过给出的合理的喂煤量来指导水泥煅烧过程的煤量投入，尽可能的在保障熟料品质的情况下投入数量尽可能少的煤，实现降本增效，节省下来的煤还相当于少向大气排放相应数量的二氧化碳，有利于争创环境友好型企业。
在上一实施例的基础上，虽然上述受控变量主要受到可调变量的影响，但又水泥煅烧是一个非常复杂的过程，存在很多其它的突发或不缺性因素，可能使得某些受控变量发生变化，进而影响熟料品质。因此还可以通过下述方案来确定是否需要采用其它方式来对受控变量进行调整：
针对分解炉温度：
获取当前的分解炉温度，并根据第一仿真模型确定与当前的分解炉温度对应的仿真分解炉喂煤量；
响应于仿真分解炉喂煤量与理论分解炉喂煤量间的第一差异超过第一预设阈值，根据第一差异的正负对分解炉进行温度调控。
同理，针对窑电流、二次风温、烟室温度：
获取当前的窑电流、二次风温、烟室温度，并根据第二仿真模型确定与当前的窑电流、二次风温、烟室温度对应的仿真窑头喂煤量；
响应于仿真窑头喂煤量与理论窑头喂煤量间的第二差异超过第二预设阈值，根据第二差异对窑电流、二次风温、烟室温度进行调整。
其中，温度调控包括且不限于物理降温、减少喂煤量等所有有效手段。
为加深理解，本申请还结合一个具体应用场景，给出了一种具体的实现方案，请参见如图4所示的示意图。
水泥煅烧的整个流程大体可参见图4左上角给出的装置示意图，首先喂入生料，然后依次经过预热器预热、分解炉加热、回转窑煅烧、篦冷机冷却四个工序后生成熟料，整个过程中涉及多个可控参数，例如分解炉喂煤量、窑头喂煤量等，这些参数都将直接影响到熟料的品质，即游离钙含量。实际生产中，企业通常要求在0.5％到1.5％之间，通过机理研究发现，游离钙含量越低是因为煅烧温度过高，导致过烧，对应喂煤量越高、煤耗越高。因此，在质量合格的前提下为保证较低的煤量消耗，本申请实施例在建模过程中的将游离钙含量调整为1％-1.5％之间，尽可能的在保障品质的情况下降低生产成本。
基于强化学习模型调整工艺参数，以在保证质量的情况下减少煤料的消耗，整个建模流程较复杂，下述对由服务器负责的强化学习模型构建过程的各部分进行详细介绍：
1)游离钙含量实时预测模型的构建
游离钙含量在生产过程中的测量约一小时一次，由于需要实时控制调整喂煤量等参数，因此需要建立游离钙含量的实时预测模型。由于游离钙含量需要主要与分解炉温度、窑电流、二次风温、烟室温度、篦下压力有关，因此建立的模型为：
游离钙含量＝f(分解炉温度，窑电流，二次风温，烟室温度，篦下压力)；实验中，将通过大量历史数据拟合f，本实施例具体将大量历史数据通过神经网络来构建该预测模型。
2)水泥生料煅烧仿真环境的构建
要想通过强化学习模型调参，构建水泥煅烧过程的仿真模型是必要的。即当喂煤量调整之后，受控变量如分解炉温度、窑电流、二次风温、烟室温度在煅烧过程中会如何变化。工业中常选用一阶惯性模型加滞后环节来模拟具有大惯性、纯滞后的复杂工业***。经查阅相关专业资料，分解炉温度主要和分解炉喂煤量有关，窑电流、二次风温、烟室温度主要和窑头喂煤量有关。可建立分解炉温度关于分解炉喂煤量***模型，窑电流、二次风温、烟室温度关于窑头喂煤量的***模型。
3)强化学习模型的构建
有了上述步骤中构建出的仿真模型和预测模型，将可以方便的建立强化学习模型。本实施例具体使用Actor-critic强化学习模型，将三个可调参数：分解炉喂煤量、窑头喂煤量、篦下压力作为强化学习模型的Action(动作)，并暂时忽略煅烧过程中的其他参数，目标为保证最终游离钙含量在1％-1.5％之间，同时设定在喂料量一定的情况下，使分解炉喂煤量、窑头喂煤量尽量少。由于煤耗的衡量标准为总喂煤量/喂料量，这里假设喂料量的速度固定，即单位时间内的喂料量是一定的，因此煤耗只需考虑分解炉喂煤量、窑头喂煤量即可。
具体地，模型细节如下：
Action(动作)：为三维向量，三维连续的action，分别为分解炉喂煤量、窑头喂煤量、篦下压力值。即每个时刻都输出这三个参数进行控制；
State(状态)：为一个14维(将t-2对应的部分参数削减后为10维)的向量，分别为分解炉温度t-2(可削减)，t-1，t时刻的值，窑电流、二次风温和烟室温度的t-2(可削减)，t-1，t时刻的值，篦下压力当前值，通过上述步骤构建出的游离钙含量预测模型给出的游离钙含量的预测值。其中，每次执行完成一个Action之后，State都会通过仿真环境进行更新；
Reward(奖赏/奖励值)：由于目标为保证质量的情况下减少燃煤消耗，因此Reward分为两部分，即游离钙含量是否在目标值范围内以及当前喂煤量。即Reward＝-(窑头喂煤量+分解炉喂煤量)+100*I_({1％≤实际游离钙含量≤1.5％})；其中，I为示性函数，当1％≤实际游离钙含量≤1.5％时，I的取值为1，否则I的取值为0。
由上述Reward公式可知，当游离钙的含量符合标准且总喂煤量越少时，Reward的取值越大。
其中，图4最下方的数据处理步骤为基于样本对Actor-critic强化学习模型的参数更新过程，首先从每个实际的Action中选取出样本(可将其中的参数命名为St、at、rt、St+1等)，然后，将这些样本以元组(tuple)的形式存储在存储介质(Memory database)中，接着从存储介质中以抽样(sampling)的方式选取一些数据用于更新Actor-critic强化学习模型的参数，从而通过此种更新方式保持Actor-critic强化学习模型的有效性和可用性。
在服务器安装上述构建步骤构建得到强化学习模型之后，后续就可以在相应的水泥煅烧场景下，基于给定的游离钙含量确定出最小化的喂煤量，从而实现降本增效。
进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于构建强化学习模型的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，本实施例的用于构建强化学习模型的装置500可以包括：第一仿真模型建立单元501、第二仿真模型建立单元502、预测模型建立单元503、强化学习模型构建单元504。其中，第一仿真模型建立单元501，被配置成建立分解炉喂煤量与分解炉温度之间的第一仿真模型；第二仿真模型建立单元502，被配置成建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；预测模型建立单元503，被配置成建立篦下压力、第一仿真模型输出的分解炉温度和第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；强化学习模型构建单元504，被配置成将第一仿真模型、第二仿真模型以及预测模型，按预设的强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，喂煤量包括分解炉喂煤量和窑头喂煤量。
在本实施例中，用于构建强化学习模型的装置500中：第一仿真模型建立单元501、第二仿真模型建立单元502、预测模型建立单元503、强化学习模型构建单元504的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-204的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，用于构建强化学习模型的装置500还可以包括：
给定参数接收单元，被配置成接收目标场景下给定的目标游离钙含量；
理论喂煤量确定单元，被配置成利用强化学习模型确定与目标游离钙含量对应的理论喂煤量；其中，理论喂煤量包括理论分解炉喂煤量和理论窑头喂煤量；
喂煤操作指导单元，被配置成根据理论喂煤量指导目标场景下的分解炉喂煤操作和窑头喂煤操作。
在本实施例的一些可选的实现方式中，用于构建强化学习模型的装置500还可以包括：
仿真分解炉温度确定单元，被配置成获取当前的分解炉温度，并根据第一仿真模型确定与当前的分解炉温度对应的仿真分解炉喂煤量；
第一调控单元，被配置成响应于仿真分解炉喂煤量与理论分解炉喂煤量间的第一差异超过第一预设阈值，根据第一差异的正负对分解炉进行温度调控。
在本实施例的一些可选的实现方式中，用于构建强化学习模型的装置500还可以包括：
仿真窑头喂煤量确定单元，被配置成获取当前的窑电流、二次风温、烟室温度，并根据第二仿真模型确定与当前的窑电流、二次风温、烟室温度对应的仿真窑头喂煤量；
第二调控单元，被配置成响应于仿真窑头喂煤量与理论窑头喂煤量间的第二差异超过第二预设阈值，根据第二差异对窑电流、二次风温、烟室温度进行调整。
在本实施例的一些可选的实现方式中，强化学习模型构建单元504可以包括：
A2C强化学习模型构建子单元，被配置成按Actor-Critic强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型。
在本实施例的一些可选的实现方式中，该A2C强化学习模型构建子单元可以进一步被配置成：
Action配置模块，被配置成将分解炉喂煤量、窑头喂煤量、篦下压力构建为以三维向量表示的Action；
State配置模块，被配置成至少将上一时刻的分解炉温度、窑电流、二次风温、烟室温度，当前时刻的分解炉温度、窑电流、二次风温、烟室温度、篦下压力，以及预测模型输出的游离钙含量的预测值分别作为一个维度，构建为以十维向量表示的State；每次执行完成一个Action之后，State都将通过预设的仿真环境更新；
Reward配置模块，被配置成将输出的游离钙含量的预测值是否在预设的目标值范围内、当前的喂煤量作为Reward；
A2C强化学习模型构建模块，被配置成基于Action、State和Reward构建得到表征喂煤量与游离钙含量之间关联的强化学习模型。
本实施例作为对应于上述方法实施例的装置实施例存在，区别于无法满足水泥煅烧这一复杂场景下需求的现有技术，本申请实施例提供的用于构建强化学习模型的装置，将强化学习的概念引入了水泥煅烧场景，基于建立的仿真模型和预测模型，在强化学习架构下构建出能够表征在多参数影响下输入的喂煤量与最终成品的游离钙含量间对应关系的强化学习模型，且由于强化学习模型区别于其它机器学习模型存在的补偿器特性，更匹配复杂、多参数的水泥煅烧场景，使得确定出的对应关系更加准确，同时强化学习模型所拥有的强大的泛化能力也能更简单的适用于其它同类场景。
根据本申请的实施例，本申请还提供了一种电子设备和一种计算机可读存储介质。
图6示出了一种适于用来实现本申请实施例的用于构建强化学习模型的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器***)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的用于构建强化学习模型的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的用于构建强化学习模型的方法。
存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的用于构建强化学习模型的方法对应的程序指令/模块(例如，附图5所示的第一仿真模型建立单元501、第二仿真模型建立单元502、预测模型建立单元503、强化学习模型构建单元504)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的用于构建强化学习模型的方法。
存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储该电子设备在执行用于构建强化学习模型的方法所创建的各类数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至适用于执行用于构建强化学习模型的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
适用于执行用于构建强化学习模型的方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接，图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息，以及产生适用于执行用于构建强化学习模型的方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷。
根据本申请实施例的技术方案，将强化学习的概念引入了水泥煅烧场景，基于建立的仿真模型和预测模型，在强化学习架构下构建出能够表征在多参数影响下输入的喂煤量与最终成品的游离钙含量间对应关系的强化学习模型，且由于强化学习模型区别于其它机器学习模型存在的补偿器特性，更匹配复杂、多参数的水泥煅烧场景，使得确定出的对应关系更加准确，同时强化学习模型所拥有的强大的泛化能力也能更简单的适用于其它同类场景。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (8)

1.一种用于构建强化学习模型的方法，包括：
建立分解炉喂煤量与分解炉温度之间的第一仿真模型；
建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；
建立篦下压力、所述第一仿真模型输出的分解炉温度和所述第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；
将所述第一仿真模型、所述第二仿真模型以及所述预测模型，按Actor-Critic强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，所述喂煤量包括分解炉喂煤量和窑头喂煤量；
其中，所述按Actor-Critic强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型，包括：
将分解炉喂煤量、窑头喂煤量、篦下压力构建为以三维向量表示的Action；
至少将上一时刻的分解炉温度、窑电流、二次风温、烟室温度，当前时刻的分解炉温度、窑电流、二次风温、烟室温度、篦下压力，以及所述预测模型输出的游离钙含量的预测值分别作为一个维度，构建为以十维向量表示的State；每次执行完成一个Action之后，State都将通过预设的仿真环境更新；
将输出的游离钙含量的预测值是否在预设的目标值范围内、当前的喂煤量作为Reward；
基于Action、State和Reward构建得到表征喂煤量与游离钙含量之间关联的强化学习模型；
还包括：接收目标场景下给定的目标游离钙含量；利用所述强化学习模型确定与所述目标游离钙含量对应的理论喂煤量；其中，所述理论喂煤量包括理论分解炉喂煤量和理论窑头喂煤量；根据所述理论喂煤量指导所述目标场景下的分解炉喂煤操作和窑头喂煤操作。
2.根据权利要求1所述的方法，还包括：
获取当前的分解炉温度，并根据所述第一仿真模型确定与当前的分解炉温度对应的仿真分解炉喂煤量；
响应于所述仿真分解炉喂煤量与所述理论分解炉喂煤量间的第一差异超过第一预设阈值，根据所述第一差异的正负对分解炉进行温度调控。
3.根据权利要求1所述的方法，还包括：
获取当前的窑电流、二次风温、烟室温度，并根据所述第二仿真模型确定与当前的窑电流、二次风温、烟室温度对应的仿真窑头喂煤量；
响应于所述仿真窑头喂煤量与所述理论窑头喂煤量间的第二差异超过第二预设阈值，根据所述第二差异对所述窑电流、所述二次风温、所述烟室温度进行调整。
4.一种用于构建强化学习模型的装置，包括：
第一仿真模型建立单元，被配置成建立分解炉喂煤量与分解炉温度之间的第一仿真模型；
第二仿真模型建立单元，被配置成建立窑头喂煤量与窑电流、二次风温、烟室温度之间的第二仿真模型；
预测模型建立单元，被配置成建立篦下压力、所述第一仿真模型输出的分解炉温度和所述第二仿真模型输出的窑电流、二次风温、烟室温度与游离钙含量之间的预测模型；
强化学习模型构建单元，被配置成将所述第一仿真模型、所述第二仿真模型以及所述预测模型，按Actor-Critic强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型；其中，所述喂煤量包括分解炉喂煤量和窑头喂煤量；
给定参数接收单元，被配置成接收目标场景下给定的目标游离钙含量；
理论喂煤量确定单元，被配置成利用所述强化学习模型确定与所述目标游离钙含量对应的理论喂煤量；其中，所述理论喂煤量包括理论分解炉喂煤量和理论窑头喂煤量；
喂煤操作指导单元，被配置成根据所述理论喂煤量指导所述目标场景下的分解炉喂煤操作和窑头喂煤操作；
所述强化学习模型构建单元包括被配置成按Actor-Critic强化学习模型架构构建表征喂煤量与游离钙含量之间关联的强化学习模型的A2C强化学习模型构建子单元，A2C强化学习模型构建子单元被进一步配置成：将分解炉喂煤量、窑头喂煤量、篦下压力构建为以三维向量表示的Action；至少将上一时刻的分解炉温度、窑电流、二次风温、烟室温度，当前时刻的分解炉温度、窑电流、二次风温、烟室温度、篦下压力，以及所述预测模型输出的游离钙含量的预测值分别作为一个维度，构建为以十维向量表示的State；每次执行完成一个Action之后，State都将通过预设的仿真环境更新；将输出的游离钙含量的预测值是否在预设的目标值范围内、当前的喂煤量作为Reward；基于Action、State和Reward构建得到表征喂煤量与游离钙含量之间关联的强化学习模型。
5.根据权利要求4所述的装置，还包括：
仿真分解炉温度确定单元，被配置成获取当前的分解炉温度，并根据所述第一仿真模型确定与当前的分解炉温度对应的仿真分解炉喂煤量；
第一调控单元，被配置成响应于所述仿真分解炉喂煤量与所述理论分解炉喂煤量间的第一差异超过第一预设阈值，根据所述第一差异的正负对分解炉进行温度调控。
6.根据权利要求4所述的装置，还包括：
仿真窑头喂煤量确定单元，被配置成获取当前的窑电流、二次风温、烟室温度，并根据所述第二仿真模型确定与当前的窑电流、二次风温、烟室温度对应的仿真窑头喂煤量；
第二调控单元，被配置成响应于所述仿真窑头喂煤量与所述理论窑头喂煤量间的第二差异超过第二预设阈值，根据所述第二差异对所述窑电流、所述二次风温、所述烟室温度进行调整。
7.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-3中任一项所述的用于构建强化学习模型的方法。
8.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-3中任一项所述的用于构建强化学习模型的方法。
CN202010948561.XA 2020-09-10 2020-09-10 用于构建强化学习模型的方法、装置、电子设备及介质 Active CN112100916B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010948561.XA CN112100916B (zh) 2020-09-10 2020-09-10 用于构建强化学习模型的方法、装置、电子设备及介质
EP21164660.9A EP3872432B1 (en) 2020-09-10 2021-03-24 Method, apparatus and electronic device for constructing reinforcement learning model
JP2021055392A JP7257436B2 (ja) 2020-09-10 2021-03-29 強化学習モデルを構築するための方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム
US17/215,932 US20210216686A1 (en) 2020-09-10 2021-03-29 Method, apparatus and electronic device for constructing reinforcement learning model and medium
KR1020210051391A KR102506122B1 (ko) 2020-09-10 2021-04-20 강화 학습 모델 구축 방법, 장치, 전자 기기 및 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010948561.XA CN112100916B (zh) 2020-09-10 2020-09-10 用于构建强化学习模型的方法、装置、电子设备及介质

Publications (2)

Publication Number Publication Date
CN112100916A CN112100916A (zh) 2020-12-18
CN112100916B true CN112100916B (zh) 2023-07-25

Family

ID=73750827

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010948561.XA Active CN112100916B (zh) 2020-09-10 2020-09-10 用于构建强化学习模型的方法、装置、电子设备及介质

Country Status (5)

Country Link
US (1) US20210216686A1 (zh)
EP (1) EP3872432B1 (zh)
JP (1) JP7257436B2 (zh)
KR (1) KR102506122B1 (zh)
CN (1) CN112100916B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7348451B2 (ja) 2019-12-02 2023-09-21 トヨタ車体株式会社 車体下部補強構造
CN113656945B (zh) * 2021-07-19 2024-06-07 首钢京唐钢铁联合有限责任公司 一种板坯燃耗确定方法、装置、服务器及存储介质
CN113657484B (zh) * 2021-08-13 2024-02-09 济南大学 水泥篦冷机典型工况划分与识别的方法
CN113673112A (zh) * 2021-08-27 2021-11-19 西安热工研究院有限公司 一种水电联产机组制水生产成本确定方法及***
CN114236104A (zh) * 2021-10-28 2022-03-25 阿里云计算有限公司 游离氧化钙测量方法、装置、设备、介质及产品
CN114585004B (zh) * 2022-03-03 2023-04-25 南京信息工程大学 一种基于Actor-Critic算法的多智能体异构网络资源优化方法
CN114622912B (zh) * 2022-03-17 2022-12-27 中国矿业大学 一种采煤机智能控制装置及其控制方法
CN114742312A (zh) * 2022-04-26 2022-07-12 西安热工研究院有限公司 一种磨煤机堵煤预警方法、装置、电子设备及存储介质
CN115186582B (zh) * 2022-07-05 2023-04-18 科大智能物联技术股份有限公司 一种基于机器学习模型的轧钢加热炉控制方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018076403A1 (zh) * 2016-10-25 2018-05-03 浙江邦业科技股份有限公司 一种预测水泥回转窑熟料质量的一维仿真方法
CN109761517A (zh) * 2019-03-13 2019-05-17 安徽海螺集团有限责任公司 一种基于游离钙预测数据控制熟料生产的方法
CN110187727A (zh) * 2019-06-17 2019-08-30 武汉理工大学 一种基于深度学习和强化学习的玻璃熔炉温度控制方法
CN111061149A (zh) * 2019-07-01 2020-04-24 浙江逸智信息科技有限公司 基于深度学习预测控制优化的循环流化床节煤降耗的方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1014240A1 (en) * 1998-12-17 2000-06-28 Siemens Aktiengesellschaft A system of case-based reasoning for sensor prediction in a technical process, especially in a cement kiln, method and apparatus therefore
DE60019152T2 (de) * 1999-11-04 2006-01-26 Pretoria Portland Cement Co. Ltd., Johannesburg Kontrollsystem für eine brennofenanlage
US8095479B2 (en) * 2006-02-28 2012-01-10 Hitachi, Ltd. Plant control apparatus and method having functions of determining appropriate learning constraint conditions
US7660639B2 (en) * 2006-03-27 2010-02-09 Hitachi, Ltd. Control system for control subject having combustion unit and control system for plant having boiler
JP6636358B2 (ja) * 2015-09-30 2020-01-29 太平洋セメント株式会社 フライアッシュセメントの品質または製造条件の予測方法
JP6639988B2 (ja) * 2016-03-29 2020-02-05 太平洋セメント株式会社 セメントクリンカーの製造条件の予測方法
CN106202946A (zh) * 2016-07-18 2016-12-07 燕山大学 基于深度信念网络模型的水泥熟料游离钙含量预测方法
CN109147878B (zh) * 2018-10-08 2021-10-15 燕山大学 一种水泥熟料游离钙软测量方法
CN109165798A (zh) * 2018-10-19 2019-01-08 燕山大学 一种水泥熟料游离氧化钙含量在线预测方法及***
CN110981240B (zh) * 2019-12-19 2022-04-08 华东理工大学 煅烧过程优化方法和***

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018076403A1 (zh) * 2016-10-25 2018-05-03 浙江邦业科技股份有限公司 一种预测水泥回转窑熟料质量的一维仿真方法
CN109761517A (zh) * 2019-03-13 2019-05-17 安徽海螺集团有限责任公司 一种基于游离钙预测数据控制熟料生产的方法
CN110187727A (zh) * 2019-06-17 2019-08-30 武汉理工大学 一种基于深度学习和强化学习的玻璃熔炉温度控制方法
CN111061149A (zh) * 2019-07-01 2020-04-24 浙江逸智信息科技有限公司 基于深度学习预测控制优化的循环流化床节煤降耗的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于BP神经网络的火电厂煤耗在线仿真;杜光程;廖立;张东欧;杨坤;;计算机仿真(第04期);全文 *

Also Published As

Publication number Publication date
JP2022023775A (ja) 2022-02-08
CN112100916A (zh) 2020-12-18
KR20210052412A (ko) 2021-05-10
EP3872432B1 (en) 2023-06-21
KR102506122B1 (ko) 2023-03-03
US20210216686A1 (en) 2021-07-15
JP7257436B2 (ja) 2023-04-13
EP3872432A1 (en) 2021-09-01

Similar Documents

Publication Publication Date Title
CN112100916B (zh) 用于构建强化学习模型的方法、装置、电子设备及介质
US11022965B2 (en) Controlling multi-stage manufacturing process based on internet of things (IOT) sensors and cognitive rule induction
Jin et al. Zeroing neural networks: A survey
JP6059375B1 (ja) 生産制御システムおよび統合生産制御システム
JP6530783B2 (ja) 機械学習装置、制御装置及び機械学習プログラム
Fister et al. Parameter tuning of PID controller with reactive nature-inspired algorithms
JP2017199077A (ja) 複数台の産業機械を有する生産システムの動作を最適化するセルコントローラ
CN109274314A (zh) 机器学习装置、伺服电动机控制装置、伺服电动机控制***以及机器学习方法
CN110520868A (zh) 分布式强化学习
CN105103059B (zh) 用于在plc中实现模型预测性控制的***和方法
CN110023850A (zh) 用于控制技术***的方法和控制装置
CN109342703B (zh) 一种水泥熟料游离钙含量测量方法及***
CN109254530A (zh) 基于磨矿过程基础回路的无模型自适应控制方法
Agarwal et al. A regret minimization approach to iterative learning control
WO2021014782A1 (ja) 学習モデル生成方法、学習モデル生成装置、高炉の溶銑温度制御方法、高炉の溶銑温度制御ガイダンス方法、及び溶銑の製造方法
Qu et al. Design and fault diagnosis of DCS sintering furnace’s temperature control system for edge computing
JP6947029B2 (ja) 制御装置、それを使用する情報処理装置、制御方法、並びにコンピュータ・プログラム
Haddad et al. Intelligent swarm algorithms for optimizing nonlinear sliding mode controller for robot manipulator
CN112859601B (zh) 机器人控制器设计方法、装置、设备及可读存储介质
Ding et al. Application of Fuzzy Immune Algorithm and Soft Computing in the Design of 2‐DOF PID Controller
CN116246724A (zh) 锌回转窑关键监测变量软测量方法、装置、终端及介质
Feng et al. Fuzzy predictive temperature control for a class of metallurgy lime kiln models
Wang et al. PID Decoupling Controller Design for Electroslag Remelting Process Using Cuckoo Search Algorithm with Self-tuning Dynamic Searching Mechanism.
Krupitzer et al. Using spreadsheet-defined rules for reasoning in self-adaptive systems
Zhaosheng The optimization design of PID controller parameters based on particle swarm optimization

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant