CN110515351A - 异常检测器 - Google Patents

异常检测器 Download PDF

Info

Publication number
CN110515351A
CN110515351A CN201910418473.6A CN201910418473A CN110515351A CN 110515351 A CN110515351 A CN 110515351A CN 201910418473 A CN201910418473 A CN 201910418473A CN 110515351 A CN110515351 A CN 110515351A
Authority
CN
China
Prior art keywords
manufacture
physical quantity
mechanical
action state
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910418473.6A
Other languages
English (en)
Other versions
CN110515351B (zh
Inventor
吉田弘智
大竹伸幸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Publication of CN110515351A publication Critical patent/CN110515351A/zh
Application granted granted Critical
Publication of CN110515351B publication Critical patent/CN110515351B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4063—Monitoring general control system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23Q—DETAILS, COMPONENTS, OR ACCESSORIES FOR MACHINE TOOLS, e.g. ARRANGEMENTS FOR COPYING OR CONTROLLING; MACHINE TOOLS IN GENERAL CHARACTERISED BY THE CONSTRUCTION OF PARTICULAR DETAILS OR COMPONENTS; COMBINATIONS OR ASSOCIATIONS OF METAL-WORKING MACHINES, NOT DIRECTED TO A PARTICULAR RESULT
    • B23Q17/00—Arrangements for observing, indicating or measuring on machine tools
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23Q—DETAILS, COMPONENTS, OR ACCESSORIES FOR MACHINE TOOLS, e.g. ARRANGEMENTS FOR COPYING OR CONTROLLING; MACHINE TOOLS IN GENERAL CHARACTERISED BY THE CONSTRUCTION OF PARTICULAR DETAILS OR COMPONENTS; COMBINATIONS OR ASSOCIATIONS OF METAL-WORKING MACHINES, NOT DIRECTED TO A PARTICULAR RESULT
    • B23Q17/00—Arrangements for observing, indicating or measuring on machine tools
    • B23Q17/09—Arrangements for observing, indicating or measuring on machine tools for indicating or measuring cutting pressure or for determining cutting-tool condition, e.g. cutting ability, load on tool
    • B23Q17/0952—Arrangements for observing, indicating or measuring on machine tools for indicating or measuring cutting pressure or for determining cutting-tool condition, e.g. cutting ability, load on tool during machining
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23Q—DETAILS, COMPONENTS, OR ACCESSORIES FOR MACHINE TOOLS, e.g. ARRANGEMENTS FOR COPYING OR CONTROLLING; MACHINE TOOLS IN GENERAL CHARACTERISED BY THE CONSTRUCTION OF PARTICULAR DETAILS OR COMPONENTS; COMBINATIONS OR ASSOCIATIONS OF METAL-WORKING MACHINES, NOT DIRECTED TO A PARTICULAR RESULT
    • B23Q17/00—Arrangements for observing, indicating or measuring on machine tools
    • B23Q17/09—Arrangements for observing, indicating or measuring on machine tools for indicating or measuring cutting pressure or for determining cutting-tool condition, e.g. cutting ability, load on tool
    • B23Q17/0952—Arrangements for observing, indicating or measuring on machine tools for indicating or measuring cutting pressure or for determining cutting-tool condition, e.g. cutting ability, load on tool during machining
    • B23Q17/0957—Detection of tool breakage
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/31—From computer integrated manufacturing till monitoring
    • G05B2219/31437—Monitoring, global and local alarms
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/32—Operator till task planning
    • G05B2219/32193—Ann, neural base quality management
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/32—Operator till task planning
    • G05B2219/32335—Use of ann, neural network
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/33—Director till display
    • G05B2219/33034—Online learning, training
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/33—Director till display
    • G05B2219/33321—Observation learning
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/34—Director, elements to supervisory
    • G05B2219/34465—Safety, control of correct operation, abnormal states
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/34—Director, elements to supervisory
    • G05B2219/34475—Detect abnormality of control system without inverted model, using input command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Mechanical Engineering (AREA)
  • Manufacturing & Machinery (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明提供一种异常检测器，具有根据从制造机械取得的物理量来检测异常的征兆并输出信号的信号输出部，并且具有机器学习装置，该机器学习装置具有：状态观测部，其从制造机械观测表示制造机械的动作有关的物理量的物理量数据，作为表示环境的当前状态的状态变量；标签数据取得部，其取得表示制造机械的动作状态的动作状态数据作为标签数据；学习部，其使用状态变量和标签数据，学习对应于物理量的该制造机械的动作状态；以及推定结果输出部，其使用学习部的学习结果来推定该制造机械的动作状态，输出其推定结果。

Description

异常检测器
技术领域
本发明涉及检测制造机械的异常的征兆的异常检测器。
背景技术
已知如下检测器：在机器人或机床等制造机械产生故障之前产生用于使装置的动作停止的表示异常的信号(警报)。在这样的检测器中，在产生表示异常的信号(警报)之前，根据在该制造机械、该制造机械的周边检测的物理量或该物理量的变化来检查异常的征兆。在检测器检测出异常的征兆时，产生警告(warning)。警告(warning)的产生条件例如是检测出的物理量的变动量超过预定量、检测出的物理量的符号反转、检测出的物理量从预先设定的规定值偏离。以往，这样的警告的产生条件在制造机械被制造时统一设定(例如，日本特开2005-233720号公报以及日本特开2008-076414号公报)。
此外，也已知在无法简单地设定用于检测特定异常的条件的情况下使用机器学***07-028502号公报)。在机器学习中，将异常时检测出的物理量或该物理量的变化量作为训练数据，学习神经网络的各层间的耦合加权系数。
一般情况下，制造机械受设置制造机械的地域、电源情况、工厂以及季节等使用环境的影响。此外，制造机械存在各种各样的种类，制造机械具有的机械轴也各不相同。此外，使用年限在各制造机械中也不同。因这样的使用环境等的不同，在各制造机械或在各制造机械的周边检测出的物理量以及该物理量的变化量互不相同。此外，作为针对该物理量的统计处理的结果而求出的判定值也在各制造机械中互不相同。即，异常时检测出的征兆也在各制造机械之间互不相同。因此，像现有技术那样，在制造时统一规定警告(warning)的产生条件的情况下，未必可以准确地预知异常。
此外，在将异常时检测出的物理量或该物理量的变化量作为训练数据，由控制装置学***时检测出的物理量、该物理量的变化量、或作为针对物理量的统计处理的结果而求出的判定值作为异常的征兆而进行学习。该情况下，存在如下问题：控制装置对耦合加权系数进行错误的加权，根据错误的已学习模型来进行错误的异常检测。
发明内容
因此，本发明的目的在于提供一种异常检测器，能够对因制造机械的动作环境而发生变化的制造机械的异常的征兆进行检测。
本发明的一实施方式有关的异常检测器在出厂后学习异常的征兆。因此，针对每一个异常检测器，根据使用环境规定判定为异常的征兆的条件。结果，本发明的异常检测器可以进行与使用环境对应的准确的异常的预测。本发明的一实施方式有关的异常检测器，使用异常时在制造机械或制造机械的周边检测出的物理量、与之后变为正常的情况下在制造机械或制造机械的周边检测出的物理量双方作为训练数据，给予正负回报来进行学习。通过这样，在制造机械或制造机械的周边检测出的波形被分类为成为异常的征兆的物理量的波形、表示稳定的物理量的波形以及与异常无关的物理量的波形这三种波形中的某一个。由此，异常检测器可以准确地捕捉异常的征兆。
并且，本发明的一实施方式提供一种异常检测器，输出表示检测出制造机械的异常的征兆的信号，所述异常检测器具有：信号输出部，其根据从所述制造机械、设置于该制造机械的传感器或设置于该制造机械的附近的传感器取得的物理量来检测所述制造机械的异常的征兆，并在检测出所述制造机械的异常的征兆的情况下输出信号；以及机器学习装置，其学习所述制造机械的动作状态，所述机器学习装置具有：状态观测部，其从所述制造机械、设置于该制造机械的传感器或设置于该制造机械的附近的传感器观测表示所述制造机械的动作有关的物理量的物理量数据，作为表示环境的当前状态的状态变量；标签数据取得部，其取得表示所述制造机械的动作状态的动作状态数据，作为标签数据；学习部，其使用所述状态变量和所述标签数据，学习与制造机械的动作有关的物理量相对应的该制造机械的动作状态；以及推定结果输出部，其根据所述状态观测部观测到的制造机械的动作有关的物理量，使用所述学习部的学习结果来推定该制造机械的动作状态，并输出其推定结果，所述信号输出部在检测出所述制造机械的异常的征兆时，根据所述推定结果输出部输出的制造机械的动作状态的推定结果，保留所述信号的输出。
通过本发明，能够对因制造机械的动作环境而发生变化的制造机械的异常的征兆进行检测。
附图说明
通过参照附图的以下实施例的说明可以清楚本发明的所述以及其他目的和特征。这些图中：
图1是第一实施方式的异常检测器的概略硬件结构图。
图2是第一实施方式的异常检测器的概略功能框图。
图3是表示异常检测器的一方式的概略功能框图。
图4是其他实施方式的异常检测器的概略功能框图。
具体实施方式
以下，与附图一起对本发明的实施方式进行说明。
图1是表示第一实施方式的异常检测器的主要部分的概略硬件结构图。异常检测器1例如安装于控制机器人或机床等制造机械的控制装置。此外，异常检测器1例如也可以安装于并设在控制制造机械的控制装置的个人计算机、经由有线/无线网络与控制装置连接的单元计算机、主计算机、边缘计算机、云服务器等计算机。在本实施方式中，示出异常检测器1安装于控制制造机械2的控制装置的情况的示例。
本实施方式的异常检测器1具有的CPU(Central Processing Unit：中央处理单元)11是对异常检测器1进行整体控制的处理器。CPU11经由总线20读出存储于ROM(ReadOnly Memory：只读存储器)12的***程序，按照该***程序来控制异常检测器1的整体。在RAM13中暂时存储临时的计算数据或显示数据、由操作员经由未图示的输入部输入的各种数据等。
非易失性存储器14例如通过未图示的电池而被备份供电。因此，非易失性存储器14即使断开异常检测器14的电源也可保持存储状态。在非易失性存储器14中存储有从外部读入的程序或经由显示器/MDI(Manual Data Input)单元70输入的程序、从异常检测器1的各部或制造机械2取得的各种数据(例如，从制造机械2取得的电动机的电压/电流、制造机械2具有的轴的位置的位移、速度、加速度、由设置于制造机械2或制造机械2的周边的传感器3检测出的温度、湿度、电磁场、声音、光量等)。存储于非易失性存储器14的程序或各种数据可以在执行时/利用时在RAM13中展开。此外，在ROM12中预先写入公知的解析程序等各种***程序(包含用于控制在后述的机器学习装置100与各部之间进行的信息的收发的***程序)。
显示器/MDI单元70是具有显示器或键盘等的手动数据输入装置。接口17接受来自显示器/MDI单元70的键盘的指令以及数据等，并转发给CPU11。接口18与操作盘71连接，该操作盘71具有在手动驱动各轴时使用的手动脉冲发生器等。
接口21是用于将异常检测器1的各部与机器学习装置100连接的接口。机器学习装置100具有：总体控制机器学习装置100整体的处理器101、存储***程序等的ROM102。此外，机器学习装置100具有：存储在机器学习有关的各处理中临时使用的数据等的RAM103、以及用于存储学习模型等的非易失性存储器104。机器学习装置100可以经由接口21观测异常检测器1的各部能够取得的各信息(例如，经由接口19从制造机械2取得的电动机的电压/电流、制造机械2具有的轴的位置的位移、速度、加速度、经由接口16从设置于制造机械2或制造机械2的周边的传感器3取得的温度、湿度、电磁场、声音、光量等)。此外，异常检测器1使用在机器学习装置100中导出的制造机械2的动作状态的推定结果来进行异常的征兆的检测控制。
图2是第一实施方式的包括机器学习装置100在内的异常检测器1的概略功能框图。图2所示的功能块的各功能通过图1所示的异常检测器1具有的CPU11以及机器学习装置100的处理器101执行各自的***程序，控制异常检测器1和机器学习装置100各部的动作来实现。
本实施方式的异常检测器1具有：信号输出部34，其判定在制造机械2是否产生了异常的征兆，在判定为制造机械2产生了异常的征兆的情况下，输出表示检测出异常的征兆的信号。信号输出部34在从制造机械2取得的物理量、该物理量的变化或作为针对该物理量的统计处理的结果而求出的判定值超过预先设定的阈值的情况下，判定为在制造机械2产生了异常的征兆。从制造机械2取得的物理量例如是电动机的电压/电流、制造机械2具有的轴的位置的位移、速度、加速度。此外，信号输出部34在由设置于制造机械2或制造机械2的周边的传感器3检测出的物理量、该物理量的变化或作为针对该物理量的统计处理的结果而求出的判定值超过预先设定的阈值的情况下判定为在制造机械2产生了异常的征兆。由设置于制造机械或其周边的传感器3检测的物理量例如是制造机械2或其周边的温度、湿度、电磁场、声音、光量。信号输出部34可以对从制造机械2或传感器3检测出的一个物理量判定为产生了异常的征兆。此外，信号输出部34也可以根据多个物理量复合性地判定为产生了异常的征兆。信号输出部34输出的表示检测出异常的征兆的信号例如用于对显示器/MDI单元70的警告显示、针对制造机械2或该制造机械2的周边装置的警报信号、以及对经由未图示的网络连接的单元计算机、主计算机等的警报信号。
信号输出部34如上所述，基本上在从制造机械2或传感器3取得的物理量、该物理量的变化或作为针对该物理量的统计处理的结果而求出的判定值超过预先设定的阈值的情况下输出表示检测出异常的征兆的信号。但是，即使是物理量、该物理量的变化或作为针对该物理量的统计处理的结果而求出的判定值超过预先设定的阈值的情况，在从机器学习装置100输出制造机械2在规定的动作的范围内这样的推定结果的情况下，信号输出部34保留表示检测出异常的征兆的信号。另外，在机器学习装置100将制造机械2在规定的动作的范围内进行动作的概率作为推定结果输出的情况下，也可以根据该概率(例如，输出的概率超过预先设定的阈值的情况、或根据表示异常的征兆的物理量、该物理量的变化或作为针对该物理量的统计处理的结果而求出的判定值从预先设定的阈值的偏移量、和制造机械2在规定的动作的范围内动作的概率来进行判定的情况等)，保留表示检测出异常的征兆的信号。
异常检测器1具有的机器学习装置100包含用于通过机器学习来进行学习的软件(学习算法等)和硬件(处理器101等)，该学习用于针对在制造机械或制造机械的周边检测的物理量推定制造机械2的动作状态为怎样的状态。异常检测器1具有的机器学习装置100生成表示在制造机械2或制造机械2的周边检测出的物理量、与检测出该物理量时的制造机械2的动作状态之间的相关性的模型构造。
如图2的功能块所示，异常检测器1具有的机器学习装置100具有：状态观测部106、标签数据取得部108以及学习部110。状态观测部106观测物理量数据S1作为表示环境的当前状态的状态变量S，所述物理量数据S1表示从配置于制造机械2或制造机械2的周边的传感器3取得的物理量。标签数据取得部108取得标签数据L，所述标签数据L包含表示制造机械2的动作状态的动作状态数据L1。学习部110使用状态变量S与标签数据L，学习在制造机械2或制造机械的周边检测出的物理量、与检测出该物理量时的制造机械2的动作状态之间的关系。
状态观测部106观测的状态变量S中的物理量数据S1是从制造机械2或传感器3取得的物理量的时序数据。从制造机械2或传感器3取得的物理量的时序数据是从制造机械2或传感器3按每预定周期取得的物理量依次排列而得的数据。状态观测部106例如可以从非易失性存储器14等存储器取得预定周期量的物理量作为时序数据，所述非易失性存储器14临时存储从制造机械2或传感器3取得的物理量。作为物理量数据S1而取得的物理量例如是从制造机械2取得的电动机的电压/电流、制造机械2具有的轴的位置的位移、速度、加速度、由设置于制造机械2或制造机械2的周边的传感器3检测出的温度、湿度、电磁场、声音、光量。学习部110可以将这些物理量中的一个时序数据作为设为学习和推定的对象的状态变量。此外，学习部110可以将这些物理量中的、多个物理量的时序数据的组作为设为学习和推定的对象的状态变量。
标签数据取得部108在学习时，例如取得由作业员从显示器/MDI单元70输入的制造机械2的动作状况有关的信息，作为动作状态数据L1。所谓制造机械2的动作状况有关的信息，例如是在通过信号输出部34输出了表示检测出制造机械2的异常的征兆的信号时，自动或通过作业员的操作而中断制造机械2的动作，作业员或维护人员确认了制造机械2的状态之后输入的信息(表示制造机械2有无异常的信息)。此外，所谓制造机械2的动作状况有关的信息，例如是在制造机械2产生些许异常而中断制造机械2的动作，作业员或维护人员确认了制造机械2的状态之后输入的信息(表示制造机械2存在异常的信息)。另外，标签数据取得部108在学习部110的学习时被利用，在学习部110的学习结束之后未必是机器学习装置100的必要结构。
学习部110按照统称为机器学习的任意学习算法，学习对应于状态变量S(表示从制造机械2或传感器3取得的物理量的物理量数据S1)的标签数据L(表示制造机械2的动作状态的动作状态数据L1)。即，学习部110学习状态变量S与标签数据L之间的相关性。学习部110例如学习状态变量S所包含的物理量数据S1与标签数据L所包含的动作状态数据L1之间的相关性。学习部110反复执行基于数据集合的学习，该数据集合包含状态变量S和标签数据L。
学习部110在标签数据取得部108取得作为标签数据L的动作状态数据L1的时间点，使用此前作为状态变量S而观测到的物理量数据S1来进行机器学习。标签数据取得部108例如在作业员或维护人员输入了制造机械2的动作状态时取得动作状态数据L1。学习部110至少在以下两个情况下执行机器学习。(1)学习部110在信号输出部34检测出制造机械2的异常的征兆，制造机械2实际上存在异常的情况下执行机器学习。(2)学习部110在信号输出部34检测出制造机械2的异常的征兆，制造机械2无异常的情况下执行机器学习。学习部110从取得动作状态数据L1之前作为状态变量S而观测到的物理量的时序数据中提取特征部分，设为物理量数据S1。学习部110执行使用了物理量数据S1与动作状态数据L1的机器学习。所谓特征部分，例如是表示物理量的波形的变动量或振幅、变动时间、变动次数、频率、从输出表示异常的信号的规定值的偏移量中的某一个或两个以上。所谓特征部分，例如是(a)变动量超过预定大小的部分、(b)从输出表示异常的信号的规定值的偏移量达到预定比例的部分、(c)从输出表示异常的信号的规定值的偏移量达到预定比例的部分且经过预定时间的部分、(d)表示比预先设定的振幅大的振幅在预定时间内比预定次数产生得多的部分、(e)表示比预先设定的频率大的频率以预定时间产生的部分、(f)表示预定时间内的波形的倾斜度或倾斜度的变化比预先设定的数值大的部分、(g)或者它们复合性地产生的部分。
此外，(3)学习部110也可以在尽管信号输出部34没有检测出制造机械2的异常的征兆，但制造机械2存在异常的情况下执行机器学习。此外，(4)学习部110可以在信号输出部34不检测制造机械2的异常的征兆，制造机械2也没有异常的情况下执行机器学习。在这些情况下，学习部110也使用执行机器学习之前作为状态变量S而观测到的物理量数据S1和动作状态数据L1来执行机器学习。就(4)而言，例如在存储于非易失性存储器14的从制造机械2或传感器3取得的物理量的历史记录中，存在与制造机械2中没有确认异常，且确认制造机械2中存在异常之前取得的物理量的时序数据的波形类似的波形的情况下，可以将该部分的波形观测为物理量数据S1而用于机器学习。(4)的学习对于使学习部110学习表示物理量的时序数据的波形并非一定表示异常的征兆是有用的。通过重复这样的学习，学习部110在设置有制造机械2的环境中，可以生成用于推定由信号输出部34输出的制造机械2的异常的征兆的检测结果的正确与否的模型。
通过重复这样的学习周期，学习部110自动解释从制造机械2或传感器3取得的物理量(物理量数据S1)与制造机械2的动作状态(动作状态数据L1)之间的相关性。在开始学习算法时，物理量数据S1与动作状态数据L1之间的相关性实际上是未知的。学习部110随着学习进展而逐渐解释物理量数据S1与动作状态数据L1之间的相关性。作为解释物理量数据S1与动作状态数据L1之间的关系的结果而获得的已学习模型用于推定对应于物理量数据S1的动作状态数据L1。
推定结果输出部122使用学习部110学习到的结果(已学习模型)，根据从制造机械2或传感器3取得的物理量来推定制造机械2的动作状态，输出推定出的制造机械2的动作状态。推定结果输出部122至少在信号输出部34检测出制造机械2的异常的征兆时，输出作为机器学习装置100而推定的制造机械2的动作状态。也就是说，推定结果输出部122输出信号输出部34的制造机械2的异常的征兆的检测结果的正确与否的推定结果。另外，推定结果输出部122可以使用学习部110的学习结果，例如输出制造机械2正常动作的概率。
在具有上述结构的机器学习装置100中，学习部110执行的学习算法没有特别限定，作为机器学习可以采用公知的学习算法。图3是图2所示的异常检测器1的其他方式。异常检测器1具备作为学习算法而执行监督学习的学习部110。在监督学习中，提供了输入和与其对应的输出的已知的数据集(称为训练数据)。学习部110从这些训练数据中识别暗示输入与输出之间的相关性的特征。由此，学习部110通过监督学习，生成用于推定对应于新的输入的输出的相关性模型。
在图3所示的异常检测器1具有的机器学习装置100中，学习部110具有：误差计算部112、模型更新部114。误差计算部112对根据从制造机械2或传感器3取得的物理量来推定制造机械2的动作状态的相关性模型M与从训练数据T识别的相关性特征之间的误差E进行计算。这里，所谓训练数据，是过去从制造机械2或传感器3取得的物理量以及从当时的制造机械2的动作状态的确认结果中获得的数据。模型更新部114更新相关性模型M以使相关性模型M与相关性特征之间的误差E缩小。在学习部110通过模型更新部114反复更新相关性模型M，使得相关性模型M接近与环境对应的最佳的模型。也就是说，在学习部110进行用于生成相关性模型M的学习，该相关性模型M用于推定对应于从制造机械2或传感器3取得的物理量的制造机械2的动作状态。
相关性模型M的初始值例如简化地(例如通过一次函数)表现了状态变量S与标签数据L之间的相关性，在开始监督学习之前提供给学习部110。训练数据T包含如上所述在过去取得的制造机械2的物理量的数据或从传感器3取得的物理量的数据与制造机械2的动作状态的确认结果的数据。训练数据T在异常检测器1运用时随时提供给学习部110。误差计算部112通过随时提供给学习部110的训练数据T，识别暗示从制造机械2或传感器3取得的物理量与制造机械2的动作状态之间的相关性的相关性特征。误差计算部112求出该相关性特征与当前状态下的状态变量S和标签数据L对应的相关性模型M之间的误差E。模型更新部114例如按照预先设定的更新规则，向误差E变小的方向更新相关性模型M。
在下一学习周期中，误差计算部112按照更新后的相关性模型M使用状态变量S来推定制造机械2的动作状态。此外，误差计算部112求出该推定的结果与实际取得的标签数据L之间的误差E。模型更新部114根据由误差计算部112求出的误差，再次更新相关性模型M。这样，逐渐明了未知环境的当前状态和与之对应的推定结果之间的相关性。
在进行所述的监督学习时，学习部110可以进行使用了神经网络的学习。在学习部110中进行学习时所使用的神经网络例如是具有输入层、中间层、输出层这三层的神经网络。此外，神经网络也可以是具有比三层多的层的神经网络。即，机器学习装置100还能够通过使用深层学习进行更有效的学习和推理。
此外，学习部110可以使用循环神经网络来进行学习和推理。在循环神经网络中，还考虑到以时间序列输入的数据中的过去输入的数据来进行学习和推理。
上述机器学习装置100的结构可以记述为处理器101执行的机器学习方法(或者软件)。该机器学习方法是学习从制造机械2或传感器3取得的物理量中推定制造机械2的动作状态的机器学习方法，具有由处理器101执行的如下步骤：观测从制造机械2或传感器3取得的物理量(物理量数据S1)作为表示当前状态的状态变量S的步骤；取得制造机械2的动作状态(动作状态数据L1)作为标签数据L的步骤；以及使用状态变量S和标签数据L，将从制造机械2或传感器3取得的物理量与制造机械2的动作状态关联起来进行学习的步骤。
图4是包括其他实施方式的机器学习装置在内的异常检测器的概略功能框图。在本实施方式中，示出针对制造机械具有的电动机或电源等每一个结构要素具备检测结构要素的异常的征兆的异常检测器的情况的示例。另外，虽然在图4中没有表示，但是本实施方式的异常检测器与图2所说明的实施方式一样具有信号输出部等功能单元。此外，机器学习装置具有状态观测部、标签取得部等各功能单元。
为了检测制造机械2具有的结构要素4A的异常的征兆而设置本实施方式的异常检测器1A。异常检测器1A从结构要素4A和设置于该结构要素4A附近的传感器3A取得物理量。此外，异常检测器1A具有的机器学习装置100A在学习部110A内具有用于学习和推定结构要素4A的动作状态的学习模型Aa、与用于学习和推定结构要素4B的动作状态的学习模型Ab。
异常检测器1A构成为能够直接或经由配置于网络上的计算机等与异常检测器1B通信。
具有这样的结构的异常检测器1A与第一实施方式一样，使用学习模型Aa进行将从结构要素4A和传感器3A取得的物理量与结构要素4A的动作状态关联起来的学习。此外，异常检测器1A使用学习模型Ab进行将从结构要素4A和传感器3A取得的物理量与结构要素4B的动作状态关联起来的学习。此时，异常检测器1A从异常检测器1B直接或经由配置于网络上的计算机等取得结构要素4B的动作状态即可。
另一方面，为了检测制造机械2具有的结构要素4B的异常的征兆而设置本实施方式的异常检测器1B。异常检测器1B从结构要素4B和设置于该结构要素4B附近的传感器3B取得物理量。此外，异常检测器1B具有的机器学习装置100B在学习部110B内具有用于学习和推定结构要素4B的动作状态的学习模型Bb与用于学习和推定结构要素4A的动作状态的学习模型Ba。
异常检测器1B构成为能够直接或经由配置于网络上的计算机等与异常检测器1A通信。
具有这样的结构的异常检测器1B与第一实施方式一样，使用学习模型Bb进行将从结构要素4B和传感器3B取得的物理量与结构要素4B的动作状态关联起来的学习。此外，异常检测器1B使用学习模型Ba进行将从结构要素4B和传感器3B取得的物理量与结构要素4A的动作状态关联起来的学习。此时，异常检测器1B从异常检测器1A直接或经由配置于网络上的计算机等取得结构要素4A的动作状态即可。
并且，异常检测器1A、1B具有的机器学习装置100A、100B与第一实施方式一样，在分别对结构要素4A、4B的异常的征兆进行检测时，推定结构要素4A、4B的动作状态。此外，当在结构要素4A中检测出异常的征兆时，机器学习装置100B根据从结构要素4B和传感器3B取得的物理量来推定结构要素4A的动作状态。当在结构要素4B中检测出异常时，机器学习装置100A根据从结构要素4A和传感器3A取得的物理量来推定结构要素4B的动作状态。并且，异常检测器1A、1B中的一方的异常检测器1A、1B对另一方的异常检测器1A、1B发送推定结果，作为辅助的推定结果。
并且，各异常检测器1A、1B根据基于从自身作为检测对象的结构要素(和传感器)取得的物理量的结构要素的动作状态的推定结果、与从其他异常检测器接收到的结构要素的动作状态的推定结果，来判定自身的信号输出部的异常的征兆的检测结果的正确与否。在该判定中，例如只有在由各异常检测器具有的机器学习装置推定出的结构要素的动作状态全部肯定信号输出部的判定结果的情况下，信号输出部可以进行针对自身的判定肯定的输出。此外，信号输出部也可以进行针对由各异常检测器具有的机器学习装置推定出的结构要素的动作状态赋予了预定权重的判定。
在图4中示出了对两个结构要素分别设置异常检测器的示例。但是，也可以对更多的结构要素的每一个设置异常检测器。该情况下，在各异常检测器具有的机器学习装置中设置学习各结构要素的动作状态的学习模型。此外，各异常检测器具有的机器学习装置可以相互利用各结构要素的动作状态的推定结果。
以上，对本发明的实施方式进行了说明，但是本发明并不限定于上述实施方式，可以通过增加适当的变更而以各种方式来实施。
例如，上述实施方式的异常检测器1不仅简单地用于检测制造机械2的异常的征兆，也可以解析进行了机械学习而得的已学习模型。由此，异常检测器1可以对设置有制造机械2的地域、供给到制造机械2的电源的电源情况、制造机械2的种类、机械轴、工厂、季节、年限这样的制造机械2的设置环境等导致的异常的征兆的条件(行为)进行分析，容易地确定异常的原因。
此外，在一个异常检测器1中学习到的已学习模型可以输入到其他异常检测器1中进行利用。通过这样，在与使用一个异常检测器1的环境类似的环境下使用的其他异常检测器1不进行机器学习，也可以高精度地检测异常的征兆。

Claims (3)

1.一种异常检测器，输出表示检测出制造机械的异常的征兆的信号，其特征在于，
所述异常检测器具有：
信号输出部，其根据从所述制造机械、设置于该制造机械的传感器或设置于该制造机械的附近的传感器取得的物理量来检测所述制造机械的异常的征兆，并在检测出所述制造机械的异常的征兆的情况下输出信号；以及
机器学习装置，其学习所述制造机械的动作状态，
所述机器学习装置具有：
状态观测部，其从所述制造机械、设置于该制造机械的传感器或设置于该制造机械的附近的传感器观测表示所述制造机械的动作有关的物理量的物理量数据，作为表示环境的当前状态的状态变量；
标签数据取得部，其取得表示所述制造机械的动作状态的动作状态数据，作为标签数据；
学习部，其使用所述状态变量和所述标签数据，学习与制造机械的动作有关的物理量相对应的该制造机械的动作状态；以及
推定结果输出部，其根据所述状态观测部观测到的制造机械的动作有关的物理量，使用所述学习部的学习结果来推定该制造机械的动作状态，并输出其推定结果，
所述信号输出部在检测出所述制造机械的异常的征兆时，根据所述推定结果输出部输出的制造机械的动作状态的推定结果，保留所述信号的输出。
2.根据权利要求1所述的异常检测器，其特征在于，
针对所述制造机械的每一个结构要素设置检测异常的征兆的所述异常检测器，所述学习部学习与从设为异常的征兆的检测对象的结构要素、设置于该结构要素的传感器或设置于该结构要素的附近的传感器取得的物理量相对应的该结构要素的动作状态，并且学习与从设为异常的征兆的检测对象的结构要素、设置于该结构要素的传感器或设置于该结构要素的附近的传感器取得的物理量相对应的其他结构要素的动作状态，所述推定结果输出部根据所述状态观测部观测到的制造机械的动作有关的物理量，使用所述学习部的学习结果来推定设为异常的征兆的检测对象的结构要素和其他结构要素的动作状态，并输出其推定结果，
所述信号输出部在检测出所述制造机械的异常的征兆时，根据所述推定结果输出部输出的制造机械的动作状态的推定结果和其他异常检测器具有的推定结果输出部输出的制造机械的动作状态的推定结果，保留所述信号的输出。
3.根据权利要求1或2所述的异常检测器，其特征在于，
所述学习部将从制造机械的动作有关的物理量中根据该物理量的变动量、振幅、变动时间、变动次数、频率、从输出表示异常的信号的规定值的偏差量的至少一个而提取出的该物理量的特征部分用于学习。
CN201910418473.6A 2018-05-21 2019-05-20 异常检测器 Active CN110515351B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018097018A JP6810097B2 (ja) 2018-05-21 2018-05-21 異常検出器
JP2018-097018 2018-05-21

Publications (2)

Publication Number Publication Date
CN110515351A true CN110515351A (zh) 2019-11-29
CN110515351B CN110515351B (zh) 2024-03-01

Family

ID=68419280

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910418473.6A Active CN110515351B (zh) 2018-05-21 2019-05-20 异常检测器

Country Status (4)

Country Link
US (1) US11592800B2 (zh)
JP (1) JP6810097B2 (zh)
CN (1) CN110515351B (zh)
DE (1) DE102019003382A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113448307A (zh) * 2020-03-24 2021-09-28 株式会社斯库林集团 模型生成方法、异常要因推定装置及方法、基板处理装置、学习方法、装置及数据制作方法

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019208372A1 (de) * 2019-06-07 2020-12-10 Robert Bosch Gmbh Verfahren und Vorrichtung zur Anomaliedetektion in technischen Systemen
JP7239022B2 (ja) * 2019-12-25 2023-03-14 日本電気株式会社 時系列データ処理方法
KR20210099346A (ko) * 2020-02-04 2021-08-12 한국전자통신연구원 제조 설비의 이상 감지 방법 및 장치
JP2021135780A (ja) * 2020-02-27 2021-09-13 株式会社東芝 状態監視装置、方法及びプログラム
JP7530988B2 (ja) * 2020-02-27 2024-08-08 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレイテッド 機械学習を用いた自動センサトレース検証
EP3876047A1 (de) * 2020-03-04 2021-09-08 Siemens Aktiengesellschaft Verfahren und sicherheitsgerichtete steuerungseinrichtung zur ermittlung und/oder auswahl eines sicheren zustands
DE102021113635A1 (de) 2020-05-26 2021-12-02 Ifm Electronic Gmbh Computerimplementiertes Verfahren zur Überwachung einer Pressenlinie mit einer vorgeschalteten Reinigungsvorrichtung
DE102020208642A1 (de) 2020-07-09 2022-01-13 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zur Anomaliedetektion in technischen Systemen
DE102020210530A1 (de) 2020-08-19 2022-02-24 Kuka Deutschland Gmbh Überwachung bei einem robotergestützten Prozess
JP7158624B2 (ja) * 2020-09-11 2022-10-21 三菱電機株式会社 異常検知装置
KR20220040695A (ko) 2020-09-24 2022-03-31 삼성전자주식회사 전자장치 및 그 제어방법
US20220129738A1 (en) * 2020-10-22 2022-04-28 Micron Technology, Inc. Deep Learning Accelerator in Memory Utilized in Factory Safety Monitoring Systems
CN115704110A (zh) * 2021-08-06 2023-02-17 株式会社电装 碳化硅晶体制造设备、其控制装置及生成学习模型和控制其的方法
DE102021126188A1 (de) * 2021-10-08 2023-04-13 Dürr Systems Ag Überwachungsverfahren für einen Roboter und zugehörige Roboteranlage
DE102021213918A1 (de) 2021-12-07 2023-06-07 Kuka Deutschland Gmbh Identifikation von Fehlerursachen auf Befehlsebene in Prozessen
DE102021133338A1 (de) 2021-12-15 2023-06-15 Balluff Gmbh Verfahren zur Überwachung mittels maschinellem Lernen
JP2023117991A (ja) 2022-02-14 2023-08-24 オムロン株式会社 監視装置
DE102022210131A1 (de) 2022-02-25 2023-08-31 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Steuergerät zum Erzeugen von zusätzlichen Daten zum Trainieren und/oder Validieren eines Anomaliedetektor

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08271573A (ja) * 1995-03-28 1996-10-18 Tokyo Electric Power Co Inc:The 部分放電検出方法
CN101675195A (zh) * 2007-08-09 2010-03-17 日立建机株式会社 工程机械的机器诊断装置及机器诊断***
JP2011065545A (ja) * 2009-09-18 2011-03-31 Panasonic Electric Works Co Ltd 信号識別装置および信号識別方法
CN106409120A (zh) * 2015-07-31 2017-02-15 发那科株式会社 机械学习方法及机械学习装置、以及故障预知装置及***
CN107024917A (zh) * 2016-01-29 2017-08-08 发那科株式会社 发现制造机械的异常的原因的单元控制装置
CN107272586A (zh) * 2016-04-08 2017-10-20 发那科株式会社 机械学习装置、机械学习方法、故障预知装置及***

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3020771B2 (ja) 1993-07-08 2000-03-15 株式会社東芝 プラント制御装置
JP3832281B2 (ja) * 2001-06-27 2006-10-11 日本電気株式会社 外れ値ルール生成装置と外れ値検出装置、その外れ値ルール生成方法と外れ値検出方法及びそのプログラム
JP4079892B2 (ja) 2004-02-18 2008-04-23 ファナック株式会社 エンコーダ及び電動機の制御装置
JP4537438B2 (ja) 2007-11-29 2010-09-01 ファナック株式会社 エンコーダ及び電動機の制御装置
US8253564B2 (en) * 2009-02-19 2012-08-28 Panasonic Corporation Predicting a future location of a moving object observed by a surveillance device
FR2944903B1 (fr) * 2009-04-24 2016-08-26 Thales Sa Systeme et methode pour detecter des evenements audio anormaux
CN102870057B (zh) * 2010-04-08 2015-01-28 株式会社日立制作所 机械设备的诊断装置、诊断方法及诊断程序
JP6416823B2 (ja) * 2016-05-16 2018-10-31 ファナック株式会社 加工セル及び加工セル管理システム
JP6426667B2 (ja) * 2016-08-10 2018-11-21 三菱重工工作機械株式会社 工作機械の工具の異常検知装置及び方法
JP2018156151A (ja) * 2017-03-15 2018-10-04 ファナック株式会社 異常検知装置及び機械学習装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08271573A (ja) * 1995-03-28 1996-10-18 Tokyo Electric Power Co Inc:The 部分放電検出方法
CN101675195A (zh) * 2007-08-09 2010-03-17 日立建机株式会社 工程机械的机器诊断装置及机器诊断***
JP2011065545A (ja) * 2009-09-18 2011-03-31 Panasonic Electric Works Co Ltd 信号識別装置および信号識別方法
CN106409120A (zh) * 2015-07-31 2017-02-15 发那科株式会社 机械学习方法及机械学习装置、以及故障预知装置及***
CN107024917A (zh) * 2016-01-29 2017-08-08 发那科株式会社 发现制造机械的异常的原因的单元控制装置
CN107272586A (zh) * 2016-04-08 2017-10-20 发那科株式会社 机械学习装置、机械学习方法、故障预知装置及***

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113448307A (zh) * 2020-03-24 2021-09-28 株式会社斯库林集团 模型生成方法、异常要因推定装置及方法、基板处理装置、学习方法、装置及数据制作方法

Also Published As

Publication number Publication date
CN110515351B (zh) 2024-03-01
US20190354080A1 (en) 2019-11-21
DE102019003382A1 (de) 2019-11-21
JP2019204155A (ja) 2019-11-28
JP6810097B2 (ja) 2021-01-06
US11592800B2 (en) 2023-02-28

Similar Documents

Publication Publication Date Title
CN110515351A (zh) 异常检测器
JP6444851B2 (ja) ノイズの発生原因を検出する学習機能を有する制御装置
CA2433941C (en) Adaptive modeling of changed states in predictive condition monitoring
CN108628253A (zh) 异常检测装置以及机器学习装置
CN107272586A (zh) 机械学习装置、机械学习方法、故障预知装置及***
CN108733027A (zh) 加工不良原因推定装置
CN106409120A (zh) 机械学习方法及机械学习装置、以及故障预知装置及***
US20070088550A1 (en) Method for predictive maintenance of a machine
Khalastchi et al. Online anomaly detection in unmanned vehicles
US10684608B2 (en) Abnormality detection apparatus and machine learning device
NO343417B1 (no) System og fremgangsmåte for tilstandsvurdering av nedihullsverktøy
US20070239629A1 (en) Cluster Trending Method for Abnormal Events Detection
CN109839915A (zh) 诊断装置、诊断方法及存储介质
CN107729985B (zh) 识别技术设施的过程异常的方法和相应的诊断***
CN110290018A (zh) 信息处理装置、机器学习装置以及***
JP7012888B2 (ja) 異常要因推定装置、異常要因推定方法、及びプログラム
KR20220062547A (ko) 센서 애그나스틱 기계적 기계 결함 식별
CN103324155A (zh) ***监控
Tsang et al. Data validation of intelligent sensor using predictive filters and fuzzy logic
CN108803690A (zh) 数值控制装置
Toubakh et al. Advanced data mining approach for wind turbines fault prediction
US11339763B2 (en) Method for windmill farm monitoring
US11604458B2 (en) Anomaly determination device and anomaly determination method
CN112912807A (zh) 异常诊断装置
CN109814499A (zh) 噪声产生原因推定装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant