CN111583199B - 样本图像标注方法、装置、计算机设备和存储介质 - Google Patents

样本图像标注方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN111583199B
CN111583199B CN202010335044.5A CN202010335044A CN111583199B CN 111583199 B CN111583199 B CN 111583199B CN 202010335044 A CN202010335044 A CN 202010335044A CN 111583199 B CN111583199 B CN 111583199B
Authority
CN
China
Prior art keywords
image
labeling
result
annotation
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010335044.5A
Other languages
English (en)
Other versions
CN111583199A (zh
Inventor
邵影
高耀宗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai United Imaging Intelligent Healthcare Co Ltd
Original Assignee
Shanghai United Imaging Intelligent Healthcare Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai United Imaging Intelligent Healthcare Co Ltd filed Critical Shanghai United Imaging Intelligent Healthcare Co Ltd
Priority to CN202010335044.5A priority Critical patent/CN111583199B/zh
Publication of CN111583199A publication Critical patent/CN111583199A/zh
Application granted granted Critical
Publication of CN111583199B publication Critical patent/CN111583199B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • G06T2207/30064Lung nodule

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Image Analysis (AREA)

Abstract

本申请涉及一种样本图像标注方法、装置、计算机设备和存储介质。该方法包括:将待标注样本图像输入分割标注模型,得到图像标注结果;基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。该方法可以大大提高标注数据的质量,进而提高训练得到的图像分割模型的性能。

Description

样本图像标注方法、装置、计算机设备和存储介质
技术领域
本申请涉及图像处理技术领域,特别是涉及一种样本图像标注方法、装置、计算机设备和存储介质。
背景技术
随着深度学习的迅速发展,利用深度学习进行医学图像的检测、分类、分割已经出现了大量的研究结果。图像分割(通常为语义分割)是指图像像素级别的分类,根据图像的语义信息来确定病灶区域的边缘位置,以对病灶区域进行分割。通常,在采用深度学习算法(或模型)进行图像分割前,需要大量精细标注的样本作为深度学习算法(或模型)的学习目标,以对该算法(或模型)进行训练。但是,图像分割标注是相对繁琐的任务,需要标记出病灶区域中每个像素点,若全部由人工进行标注会比较费时费力。
传统技术中,通常由医生先对少量样本进行数据标注,基于少量样本的标注先训练模型;再由一部分样本基于训练好的模型进行测试,医生在训练模型的测试结果上进行标注修改,通过修改的标注数据再次对模型进行训练。
然而,传统技术中对模型进行训练的标注数据最终仍都是人为确定的,会因人为标注质量的参差不齐影响标注数据的质量,进而影响训练得到的模型的性能。
发明内容
基于此,有必要针对传统技术中样本标注数据质量不高的问题,提供一种样本图像标注方法、装置、计算机设备和存储介质。
一种样本图像标注方法,该方法包括:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
在其中一个实施例中,图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值;上述根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库,包括:
对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值;
若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将待标注样本图像和图像标注结果存储至图像标注库。
在其中一个实施例中,标注质量指标包括图像标注相似度指标和/或图像连通域指标;上述对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值,包括:
计算图像标注结果与图像标注金标准之间的相似度;
基于相似度和相似度阈值,确定图像标注结果在图像标注相似度指标下的目标量化值;和/或,
基于图像标注结果确定目标连通域,确定目标连通域和连通域金标准之间的差异;
根据差异和差异阈值,确定图像标注结果在图像连通域指标下的目标量化值。
在其中一个实施例中,上述方法还包括:
若待标注样本图像未执行过分割标注模型的训练过程,获取用户对图像标注结果进行修改后的图像标注结果;
基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识。
在其中一个实施例中,在将待标注样本图像输入分割标注模型,得到图像标注结果之前,上述方法还包括:
判断当前是否存在执行过训练过程的分割标注模型;
若是,则执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤;
若否,获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识。
在其中一个实施例中,上述方法还包括:
当图像标注库中的样本图像数量达到预设阈值时,采用图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对图像分割模型进行训练。
在其中一个实施例中,待标注样本图像的训练标识包括0和1;0表征待标注样本图像未执行过分割标注模型的训练过程;1表征待标注样本图像执行过分割标注模型的训练过程。
一种样本图像标注装置,该装置包括:
分割标注模块,用于将待标注样本图像输入分割标注模型,得到图像标注结果;
判断模块,用于基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
存储模块,用于当待标注样本图像执行过分割标注模型的训练过程时,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现以下步骤:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以下步骤:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
上述样本图像标注方法、装置、计算机设备和存储介质,能够首先将待标注样本图像输入分割标注模型,得到图像标注结果;然后基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程,若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库,用于对图像分割模型进行训练。可以得知,最终用于图像分割模型训练的训练数据都是从图像标注库得来的,而图像标注库中的图像标注结果由分割标注模型所输出并符合图像标注标准的,其可以避免不同标记人员之间标注的差异性以及人为标注时上下层图像之间的不连续性、边界不平滑等问题。因此,本实施例的方法可以大大提高标注数据的质量,进而提高训练得到的图像分割模型的性能。
附图说明
图1为一个实施例中计算机设备的内部结构图;
图2为一个实施例中样本图像标注方法的流程示意图;
图2a为一个实施例中CT图像肺结节掩模的示意图;
图2b为一个实施例中CT图像新冠肺炎区域的标注示意图;
图2c为一个实施例中不同医生对同一病灶区域的不同标注结果示意图;
图2d为一个实施例中人为标注结果和分割标注模型输出的图像标注结果的效果对比图;
图3为另一个实施例中样本图像标注方法的流程示意图;
图4为又一个实施例中样本图像标注方法的流程示意图;
图5为又一个实施例中样本图像标注方法的流程示意图;
图6为又一个实施例中样本图像标注方法的流程示意图;
图7为一个实施例中样本图像标注装置的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请实施例提供的样本图像标注方法,可以适用于如图1所示的计算机设备。该计算机设备包括通过***总线连接的处理器、存储器,该存储器中存储有计算机程序,处理器执行该计算机程序时可以执行下述方法实施例的步骤。可选地,该计算机设备还可以包括通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器,该非易失性存储介质存储有操作***和计算机程序。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端通过网络连接通信。可选地,该计算机设备可以是个人计算机(personal computer,简称PC),还可以是个人数字助理,还可以是其他的终端设备,例如平板电脑(portable android device,简称PAD)、手机等等,还可以是云端或者远程服务器,本申请实施例对计算机设备的具体形式并不做限定。
在一个实施例中,如图2所示,提供了一种样本图像标注方法,以该方法应用于图1中的计算机设备为例进行说明,本实施例涉及的是计算机设备对待标注样本图像进行图像标注并得到图像标注库的具体过程,该方法包括以下步骤:
S101,将待标注样本图像输入分割标注模型,得到图像标注结果。
其中,待标注样本图像为对图像分割模型进行训练时所需要的样本图像,而在图像分割模型训练过程中,还需要样本图像的标注数据,作为图像分割模型的训练金标准(也可理解为学习目标)。可选地,上述图像分割模型可以为V-Net模型、U-Net模型,也可以为其他神经网络模型。以肺结节筛查为例,对于拍摄的患者胸部CT图像,医生需要标注出结节的掩膜(MASK),该掩膜的示意图可以参见图2a所示,进而根据CT图像和标注的掩膜对图像分割模型进行训练。而对于较复杂的病灶(如新冠肺炎)来说,医生需要根据丰富的病理知识判断并标注出CT图像中每一层切片上的肺炎区域,肺炎数据的标注示意图可以参见图2b所示,这无疑对医生的医学专业知识要求较高;并且,不同医生的人为标注质量也通常是参差不齐的(不同医生对同一病灶区域的不同标注结果可以参见图2c所示的示意图),那么由此得到的标注数据质量不一,也会影响训练的图像分割模型的性能。
本实施例中,借助一分割标注模型来得到待标注样本图像的标注结果,可选地,该分割标注模型的网络结构可以与所要进行训练的图像分割模型的网络结构相同,也可以不同,本实施例对此不做限制;当前的分割标注模型可以为经过了一定程度训练过程的模型。具体地,计算机设备将待标注样本图像输入该分割标注模型中,可以得到对应的图像标注结果,该图像标注结果可以为待标注样本图像中病灶区域的掩膜。
S102,基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程。
具体地,每个待标注样本图像还可以携带有训练标识,该训练标识用于表征该待标注样本图像是否执行过上述分割标注模型的训练过程。可选地,该训练标识可以包括0和1,0表征待标注样本图像未执行过分割标注模型的训练过程,1表征待标注样本图像执行过分割标注模型的训练过程。因此,计算机设备根据待标注样本图像的训练标识,可以直接判断出该待标注样本图像是否执行过上述分割标注模型的训练过程。
S103,若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
具体地,若待标注样本图像执行过分割标注模型的训练过程,那么分割标注模型已经学***滑等问题。关于人为标注结果和分割标注模型输出的图像标注结果的效果对比图可以参见图2d所示。
另外,上述图像标注标准用于表征图像标注结果的质量,可选地,包括但不限于标注边界的平滑度、标注结果的准确度等。可选地,当上述图像标注库中的样本图像数量达到预设阈值时(如达到训练图像分割模型所需的样本数据量),则计算机设备可以采用图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对图像分割模型进行训练。
本实施例提供的样本图像标注方法,计算机设备首先将待标注样本图像输入分割标注模型,得到图像标注结果;然后计算机设备基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程,若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库,用于对图像分割模型进行训练。可以得知,最终用于图像分割模型训练的训练数据都是从图像标注库得来的,而图像标注库中的图像标注结果由分割标注模型所输出并符合图像标注标准的,其可以避免不同标记人员之间标注的差异性以及人为标注时上下层图像之间的不连续性、边界不平滑等问题。因此,本实施例的方法可以大大提高标注数据的质量,进而提高训练得到的图像分割模型的性能。
在一个实施例中,上述图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值,本实施例涉及的是计算机设备根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库的具体过程。可选地,如图3所示,上述S103可以包括:
S201,对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值。
具体地,假设不同标注质量指标包括A指标和B指标,A指标对应的标准量化值为80,B指标对应的标准量化值为85,即某一图像标注结果在A指标下的量化结果大于或者等于80时才可认为其“合格”,在B指标下的量化结果大于或者等于85时才可认为其“合格”。那么计算机设备可以对上述分割标注模型输出的图像标注结果在不同标注质量指标下进行量化,可得到不同标注质量指标下的目标量化值。
可选地,上述标注质量指标可以包括图像标注相似度指标和/或图像连通域指标,则计算机设备可以计算上述图像标注结果与图像标注金标准之间的相似度(Dice函数);其中,因上述待标注样本图像是执行过分割标注模型的训练过程的,那么其在训练时会对应有一个图像标注金标准,计算机设备计算的是该图像标注金标准与同一待标注样本图像再次分割后的图像标注结果之间的相似度,而Dice函数是一种集合相似度量函数,通常用于计算两个图像(或样本或其他类型数据)的相似度,取值范围在[0,1]。可选地,Dice函数可以定义为Dice=2(Pt*Gt)/(Pt+Gt),Pt表示图像标注结果,Gt表示图像标注金标准。然后计算机设备基于得到的相似度和相似度阈值,确定图像标注结果在图像标注相似度指标下的目标量化值,其中,得到的相似度在大于相似度阈值的基础上,其值越大则目标量化值也越高,表示图像标注结果与图像标注金标准越接近。示例性的,针对不同的分割任务设置不同的相似度阈值,分割比较大的目标,比如肺炎区域,双肺,肝脏等,相似度阈值可以设置0.98;分割目标比较小的目标,比如肺结节,相似度阈值可以设置0.93等。
对于图像连通域指标,计算机设备可以基于图像标注结果确定目标连通域,其中,连通域是指图像中具有相同像素值且位置相邻的前景像素点组成的图像区域,彼此连通的点形成了一个区域,而不连通的点形成了不同的区域。然后计算机设备确定目标连通域和连通域金标准之间的差异,连通域金标准也可以为在待标注样本图像执行分割标注模型的训练过程时所标注的,示例性的,若得到的目标连通域为4个,连通域金标准为5个,则其差异为1。接下来,计算机设备根据该差异和差异阈值,确定图像标注结果在图像连通域指标下的目标量化值;若得到的差异在小于差异阈值的基础上,其值越小则目标量化越高,例如目标连通域个数与连通域金标准个数相等时(即差异为0),表示图像标注结果基本无误差(目标量化值可以为100),没有过分割产生新的假阳性区域,也没有欠分割,缺失一些目标分割区域等。示例性的,针对不同的连通域分割任务,可以设置不同的差异阈值,比如肺炎,分割目标多为多个连通域,可以设置差异阈值为3等。
S202,若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将待标注样本图像和图像标注结果存储至图像标注库。
具体地,计算机设备得到不同标注质量指标下的目标量化值之后,分别与对应的标准量化值进行比较,若其中的至少一个大于对应的标准量化值,则表征本次得到的图像标注结果“合格”,则可以将待标注样本图像和图像标注结果存储至图像标注库。示例性的,假设标注质量指标数量为1个,则当图像标注结果在该指标下的目标量化值大于标准量化值时,认为该图像标注结果“合格”;假设标注质量指标数量为2个(如A和B)时,则图像标注结果在A指标下的目标量化值大于对应的标准量化值,或者图像标注结果在B指标下的目标量化值大于对应的标准量化值,或者图像标注结果在A指标和B指标下的目标量化值均大于对应的标准量化值时,都可认为该图像标注结果“合格”。
本实施例提供的样本图像标注方法,计算机设备对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值,若该不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值时,则将待标注样本图像和图像标注结果存储至图像标注库。也即是说,存储至图像标注库中用于对图像分割模型训练的图像数据是经过“标准审核”后才存储的,其进一步提高了标注数据的质量,进而也提高了训练得到的图像分割模型的性能;同时也减少了不同标记人员之间标注的差异。
上述实施例介绍的是待标注样本图像执行过分割标注模型的训练过程的情况,下面介绍的是待标注样本图像未执行过分割标注模型的训练过程的情况,可选地,如图4所示,上述方法还包括:
S301,若待标注样本图像未执行过分割标注模型的训练过程,获取用户对图像标注结果进行修改后的图像标注结果。
具体地,若待标注样本图像未执行过分割标注模型的训练过程,即该分割标注模型还未学习过该待标注样本图像的图像特征,则其输出的图像标注结果可能误差较大,那么用户(如经验丰富的医生)通过观察图像标注结果的展示页面,可以对其中的误差进行修改,则计算机设备可以接收用户对图像标注结果修改后的图像标注结果。
S302,基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识。
具体地,基于待标注样本图像和上述用户修改后的图像标注结果,再次对分割标注模型执行训练过程,并将待标注样本图像的训练标识由0变更为1;需要说明的是,此处用户修改后的图像标注结果可以作为上述实施例中的图像标注金标准或连通域金标准。那么此时,待标注样本图像执行过分割标注模型的训练过程后,当重新获取到该待标注样本图像时,可以执行S101的步骤,得到新的图像标注结果和图像标注标准进行对比,判断是否满足图像标注标准,以确定能够加入图像标注库。
可以得知,对于所有待标注样本图像来说,无论之前是否执行过分割标注模型的训练过程,最终都会执行该训练过程,并与图像标注标准进行比较,以存储至图像标注库中。那么图像标注库中的图像数据都是由分割标注模型所输出并符合图像标注标准的,其可大大提高标注数据的质量,进而提高训练得到的图像分割模型的性能。
对于上述的实施例,分割标注模型通常为经过一定程度训练(或预训练)后的模型,但在一些场景中,分割标注模型可能是一个新搭建的模型且未进行过任何训练过程。那么在此场景下,如图5所示,上述方法还包括:
S401,判断当前是否存在执行过训练过程的分割标注模型。
S402,若是,则执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤。
S403,若否,获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识。
具体地,当获取到待标注样本图像后,计算机设备首先判断当前是否存在之前已执行过训练过程的分割标注模型,若是,则直接执行上述S101的步骤,即将待标注样本图像输入分割标注模型,得到图像标注结果;若否,则由用户(如经验丰富的医生)对该待标注样本图像进行标注,得到参考标注结果,则计算机设备可以获取该参考标注结果,并基于待标注样本图像和参考标注结果对初始分割标注模型(如新搭建的模型)执行训练过程,得到预训练的分割标注模型,以及将待标注样本图像的训练标识由0变更为1;需要说明的是,此处用户进行标注的参考标注结果可以作为上述实施例中的图像标注金标准或连通域金标准。那么此时存在执行过训练过程的分割标注模型,当重新获取到该待标注样本图像时,则可以执行S101的步骤,得到图像标注结果并与图像标注标准进行对比,判断是否满足图像标注标准,以确定能够加入图像标注库。
可以得知,对于当前是否存在经过执行过训练过程的分割标注模型,都会经过一系列的训练得到分割标注模型,对于所有待标注样本图像来说,无论之前是否执行过分割标注模型的训练过程,最终都会执行该训练过程,并与图像标注标准进行比较,以存储至图像标注库中。那么图像标注库中的图像数据都是由分割标注模型所输出并符合图像标注标准的,其可大大提高标注数据的质量,进而提高训练得到的图像分割模型的性能。
为更好的理解上述样本图像标注方法的整个过程,下面对该方法再次进行描述,如图6所示,该方法可以包括:
S501,获取待标注样本图像;
S502,判断当前是否存在执行过训练过程的分割标注模型;
S503,若是,将待标注样本图像输入分割标注模型,得到图像标注结果;并执行S505;
S504,若否,获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识;并返回执行S501;
S505,基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
S506,若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;
S507,若否,获取用户对图像标注结果进行修改后的图像标注结果;基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识;并返回执行S501。
关于本实施例中各步骤的实现过程,可以参见上述实施例中的描述,其实现原理和技术效果类似,在此不再赘述。
应该理解的是,虽然图2-图6的流程图中各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-图6中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图7所示,提供了一种样本图像标注装置,包括:分割标注模块11、判断模块12和存储模块13。
具体地,分割标注模块11,用于将待标注样本图像输入分割标注模型,得到图像标注结果。
判断模块12,用于基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程。
存储模块13,用于当待标注样本图像执行过分割标注模型的训练过程时,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
本实施例提供的样本图像标注装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值;存储模块13,具体用于对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值;若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将待标注样本图像和图像标注结果存储至图像标注库。
在一个实施例中,标注质量指标包括图像标注相似度指标和/或图像连通域指标;存储模块13,具体用于计算图像标注结果与图像标注金标准之间的相似度;基于相似度和相似度阈值,确定图像标注结果在图像标注相似度指标下的目标量化值;和/或,基于图像标注结果确定目标连通域,确定目标连通域和连通域金标准之间的差异;根据差异和差异阈值,确定图像标注结果在图像连通域指标下的目标量化值。
在一个实施例中,上述装置还包括训练模块,用于若待标注样本图像未执行过分割标注模型的训练过程,获取用户对图像标注结果进行修改后的图像标注结果;基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识。
在一个实施例中,上述判断模块12,还用于判断当前是否存在执行过训练过程的分割标注模型;若是,指示分割标注模块11执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤;若否,指示训练模块执行获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识。
在一个实施例中,上述训练模块,还用于当图像标注库中的样本图像数量达到预设阈值时,采用图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对图像分割模型进行训练。
在一个实施例中,待标注样本图像的训练标识包括0和1;0表征待标注样本图像未执行过分割标注模型的训练过程;1表征待标注样本图像执行过分割标注模型的训练过程。
关于样本图像标注装置的具体限定可以参见上文中对于样本图像标注方法的限定,在此不再赘述。上述样本图像标注装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图1所示。该计算机设备包括通过***总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作***和计算机程序。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种样本图像标注方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图1中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
本实施例提供的计算机设备,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
在一个实施例中,图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值;处理器执行计算机程序时还实现以下步骤:
对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值;
若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将待标注样本图像和图像标注结果存储至图像标注库。
在一个实施例中,标注质量指标包括图像标注相似度指标和/或图像连通域指标;处理器执行计算机程序时还实现以下步骤:
计算图像标注结果与图像标注金标准之间的相似度;
基于相似度和相似度阈值,确定图像标注结果在图像标注相似度指标下的目标量化值;和/或,
基于图像标注结果确定目标连通域,确定目标连通域和连通域金标准之间的差异;
根据差异和差异阈值,确定图像标注结果在图像连通域指标下的目标量化值。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
若待标注样本图像未执行过分割标注模型的训练过程,获取用户对图像标注结果进行修改后的图像标注结果;
基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
判断当前是否存在执行过训练过程的分割标注模型;
若是,则执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤;
若否,获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
当图像标注库中的样本图像数量达到预设阈值时,采用图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对图像分割模型进行训练。
在一个实施例中,待标注样本图像的训练标识包括0和1;0表征待标注样本图像未执行过分割标注模型的训练过程;1表征待标注样本图像执行过分割标注模型的训练过程。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于待标注样本图像的训练标识,判断待标注样本图像是否执行过分割标注模型的训练过程;
若是,根据图像标注结果和预设的图像标注标准,将待标注样本图像和图像标注结果存储至图像标注库;该图像标注标准用于表征图像标注结果的质量,图像标注库中的图像数据用于对图像分割模型进行训练。
本实施例提供的计算机可读存储介质,其实现原理和技术效果与上述方法实施例类似,在此不再赘述。
在一个实施例中,图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值;计算机程序被处理器执行时还实现以下步骤:
对图像标注结果在不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值;
若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将待标注样本图像和图像标注结果存储至图像标注库。
在一个实施例中,标注质量指标包括图像标注相似度指标和/或图像连通域指标;计算机程序被处理器执行时还实现以下步骤:
计算图像标注结果与图像标注金标准之间的相似度;
基于相似度和相似度阈值,确定图像标注结果在图像标注相似度指标下的目标量化值;和/或,
基于图像标注结果确定目标连通域,确定目标连通域和连通域金标准之间的差异;
根据差异和差异阈值,确定图像标注结果在图像连通域指标下的目标量化值。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
若待标注样本图像未执行过分割标注模型的训练过程,获取用户对图像标注结果进行修改后的图像标注结果;
基于待标注样本图像和修改后的图像标注结果,对分割标注模型执行训练过程,以及变更待标注样本图像的训练标识。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
判断当前是否存在执行过训练过程的分割标注模型;
若是,则执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤;
若否,获取用户对待标注样本图像的参考标注结果,基于待标注样本图像和参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更待标注样本图像的训练标识。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
当图像标注库中的样本图像数量达到预设阈值时,采用图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对图像分割模型进行训练。
在一个实施例中,待标注样本图像的训练标识包括0和1;0表征待标注样本图像未执行过分割标注模型的训练过程;1表征待标注样本图像执行过分割标注模型的训练过程。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种样本图像标注方法,其特征在于,所述方法包括:
将待标注样本图像输入分割标注模型,得到图像标注结果;
基于所述待标注样本图像的训练标识,判断所述待标注样本图像是否执行过所述分割标注模型的训练过程;
若是,根据所述图像标注结果和预设的图像标注标准,将所述待标注样本图像和所述图像标注结果存储至图像标注库;所述图像标注标准用于表征图像标注结果的质量,所述图像标注库中的图像数据用于对图像分割模型进行训练。
2.根据权利要求1所述的方法,其特征在于,所述图像标注标准包括不同标注质量指标和标注质量指标对应的标准量化值;所述根据所述图像标注结果和预设的图像标注标准,将所述待标注样本图像和所述图像标注结果存储至图像标注库,包括:
对所述图像标注结果在所述不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值;
若不同标注质量指标下的目标量化值中至少一个大于对应的标准量化值,则将所述待标注样本图像和所述图像标注结果存储至所述图像标注库。
3.根据权利要求2所述的方法,其特征在于,所述标注质量指标包括图像标注相似度指标和/或图像连通域指标;所述对所述图像标注结果在所述不同标注质量指标下进行量化,得到不同标注质量指标下的目标量化值,包括:
计算所述图像标注结果与图像标注金标准之间的相似度;
基于所述相似度和相似度阈值,确定所述图像标注结果在所述图像标注相似度指标下的目标量化值;和/或,
基于所述图像标注结果确定目标连通域,确定所述目标连通域和连通域金标准之间的差异;
根据所述差异和差异阈值,确定所述图像标注结果在所述图像连通域指标下的目标量化值。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
若所述待标注样本图像未执行过所述分割标注模型的训练过程,获取用户对所述图像标注结果进行修改后的图像标注结果;
基于所述待标注样本图像和所述修改后的图像标注结果,对所述分割标注模型执行训练过程,以及变更所述待标注样本图像的训练标识。
5.根据权利要求1-3任一项所述的方法,其特征在于,在所述将待标注样本图像输入分割标注模型,得到图像标注结果之前,所述方法还包括:
判断当前是否存在执行过训练过程的分割标注模型;
若是,则执行将待标注样本图像输入分割标注模型,得到图像标注结果的步骤;
若否,获取用户对所述待标注样本图像的参考标注结果,基于所述待标注样本图像和所述参考标注结果对初始分割标注模型执行训练过程,得到预训练的分割标注模型;以及变更所述待标注样本图像的训练标识。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述图像标注库中的样本图像数量达到预设阈值时,采用所述图像标注库中的全部样本图像和每个样本图像对应的图像标注结果对所述图像分割模型进行训练。
7.根据权利要求1所述的方法,其特征在于,所述待标注样本图像的训练标识包括0和1;所述0表征所述待标注样本图像未执行过所述分割标注模型的训练过程;
所述1表征所述待标注样本图像执行过所述分割标注模型的训练过程。
8.一种样本图像标注装置,其特征在于,所述装置包括:
分割标注模块,用于将待标注样本图像输入分割标注模型,得到图像标注结果;
判断模块,用于基于所述待标注样本图像的训练标识,判断所述待标注样本图像是否执行过所述分割标注模型的训练过程;
存储模块,用于当所述待标注样本图像执行过所述分割标注模型的训练过程时,根据所述图像标注结果和预设的图像标注标准,将所述待标注样本图像和所述图像标注结果存储至图像标注库;所述图像标注标准用于表征图像标注结果的质量,所述图像标注库中的图像数据用于对图像分割模型进行训练。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1-7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-7中任一项所述方法的步骤。
CN202010335044.5A 2020-04-24 2020-04-24 样本图像标注方法、装置、计算机设备和存储介质 Active CN111583199B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010335044.5A CN111583199B (zh) 2020-04-24 2020-04-24 样本图像标注方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010335044.5A CN111583199B (zh) 2020-04-24 2020-04-24 样本图像标注方法、装置、计算机设备和存储介质

Publications (2)

Publication Number Publication Date
CN111583199A CN111583199A (zh) 2020-08-25
CN111583199B true CN111583199B (zh) 2023-05-26

Family

ID=72112615

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010335044.5A Active CN111583199B (zh) 2020-04-24 2020-04-24 样本图像标注方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN111583199B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112348826B (zh) * 2020-10-26 2023-04-07 陕西科技大学 一种基于测地线距离和V-net的交互式肝脏分割方法
CN112767307A (zh) * 2020-12-28 2021-05-07 上海联影智能医疗科技有限公司 图像处理方法、装置、计算机设备和存储介质
CN112786189B (zh) * 2021-01-05 2022-07-01 重庆邮电大学 一种基于深度学习的新冠肺炎智能诊断***
CN113744288B (zh) * 2021-11-04 2022-01-25 北京欧应信息技术有限公司 用于生成经标注的样本图像的方法、设备和介质
CN114119645B (zh) * 2021-11-25 2022-10-21 推想医疗科技股份有限公司 一种图像分割质量的确定方法、***、设备及介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102436583A (zh) * 2011-09-26 2012-05-02 哈尔滨工程大学 基于对标注图像学习的图像分割方法
CN109741346A (zh) * 2018-12-30 2019-05-10 上海联影智能医疗科技有限公司 感兴趣区域提取方法、装置、设备及存储介质
CN109902672A (zh) * 2019-01-17 2019-06-18 平安科技(深圳)有限公司 图像标注方法及装置、存储介质、计算机设备
WO2019137196A1 (zh) * 2018-01-11 2019-07-18 阿里巴巴集团控股有限公司 图像标注信息助理方法、装置、服务器及***
CN110135425A (zh) * 2018-02-09 2019-08-16 北京世纪好未来教育科技有限公司 样本标注方法及计算机存储介质
CN110378438A (zh) * 2019-08-07 2019-10-25 清华大学 标签容错下的图像分割模型的训练方法、装置及相关设备
CN110610193A (zh) * 2019-08-12 2019-12-24 大箴(杭州)科技有限公司 标注数据的处理方法及装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102436583A (zh) * 2011-09-26 2012-05-02 哈尔滨工程大学 基于对标注图像学习的图像分割方法
WO2019137196A1 (zh) * 2018-01-11 2019-07-18 阿里巴巴集团控股有限公司 图像标注信息助理方法、装置、服务器及***
CN110135425A (zh) * 2018-02-09 2019-08-16 北京世纪好未来教育科技有限公司 样本标注方法及计算机存储介质
CN109741346A (zh) * 2018-12-30 2019-05-10 上海联影智能医疗科技有限公司 感兴趣区域提取方法、装置、设备及存储介质
CN109902672A (zh) * 2019-01-17 2019-06-18 平安科技(深圳)有限公司 图像标注方法及装置、存储介质、计算机设备
CN110378438A (zh) * 2019-08-07 2019-10-25 清华大学 标签容错下的图像分割模型的训练方法、装置及相关设备
CN110610193A (zh) * 2019-08-12 2019-12-24 大箴(杭州)科技有限公司 标注数据的处理方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Xiao Ke 等.end-to-end automatic image annotation based on deep CNN and multi-label data augmentation.《IEEE transactions on multimedia》.2019,第21卷(第8期),全文. *
王龙.基于视觉注意机制与支持向量机自动图像标注.《中国优秀硕士学位论文全文数据库 信息科技辑》.2013,第2019年卷(第09期),I138-458. *

Also Published As

Publication number Publication date
CN111583199A (zh) 2020-08-25

Similar Documents

Publication Publication Date Title
CN111583199B (zh) 样本图像标注方法、装置、计算机设备和存储介质
CN110930417B (zh) 图像分割模型的训练方法和装置、图像分割方法和装置
CN111445449B (zh) 感兴趣区域的分类方法、装置、计算机设备和存储介质
CN110310256B (zh) 冠脉狭窄检测方法、装置、计算机设备和存储介质
CN111709485B (zh) 医学影像处理方法、装置和计算机设备
CN111369542A (zh) 血管标记方法、图像处理***和存储介质
CN111325714B (zh) 感兴趣区域的处理方法、计算机设备和可读存储介质
CN112151179B (zh) 影像数据评估方法、装置、设备及存储介质
CN110969200B (zh) 基于一致性负样本的图像目标检测模型训练方法及装置
CN111369525A (zh) 图像分析方法、设备和存储介质
CN112070781A (zh) 颅脑断层扫描图像的处理方法、装置、存储介质及电子设备
CN111429482A (zh) 目标跟踪方法、装置、计算机设备和存储介质
CN111161279A (zh) 医学图像分割方法、装置及服务器
CN112102235B (zh) 人体部位识别方法、计算机设备和存储介质
CN112614144A (zh) 一种图像分割方法、装置、设备及存储介质
CN113034514A (zh) 天空区域分割方法、装置、计算机设备和存储介质
CN113160199B (zh) 影像识别方法、装置、计算机设备和存储介质
CN111724371A (zh) 一种数据处理方法、装置及电子设备
CN114266896A (zh) 图像标注方法、模型训练方法及装置、电子设备、介质
CN113724185B (zh) 用于图像分类的模型处理方法、装置及存储介质
CN114528913A (zh) 基于信任和一致性的模型迁移方法、装置、设备及介质
CN113705650A (zh) 一种人脸图片集的处理方法、装置、介质和计算设备
CN111489318B (zh) 医学图像增强方法和计算机可读存储介质
CN115861255A (zh) 用于图像处理的模型训练方法、装置、设备、介质及产品
CN111583264A (zh) 图像分割网络的训练方法、图像分割方法和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant