CN109166615B - 一种随机森林哈希的医学ct图像存储与检索方法 - Google Patents
一种随机森林哈希的医学ct图像存储与检索方法 Download PDFInfo
- Publication number
- CN109166615B CN109166615B CN201810757397.7A CN201810757397A CN109166615B CN 109166615 B CN109166615 B CN 109166615B CN 201810757397 A CN201810757397 A CN 201810757397A CN 109166615 B CN109166615 B CN 109166615B
- Authority
- CN
- China
- Prior art keywords
- hash
- images
- image
- similarity
- random forest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
Landscapes
- Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Engineering & Computer Science (AREA)
- Epidemiology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Public Health (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
本发明请求保护一种随机森林哈希学习的医学CT图像高效存储与检索的方法,具体是通过在医学CT图像集上训练得到随机森林哈希模型,保存模型及图像库对应的哈希码库。当用户输入一张需要检索的新的图像时,首先,模型将该图像映射为哈希码;然后在哈希码库中检索与之最近的K个哈希码;最后,将这个K个哈希码利用树的决策路径所定义的最大相容规则解码重构为图像并返回给用户。该方法的实现,有效地提高了图像检索的速度,并且极大地节省了图像的存储空间,有助于医生的医学诊断,减少医生的工作量,提高工作效率,提升医院存储设备的利用率。
Description
技术领域
本发明属于医学图像处理领域,尤其涉及医学CT图像存储与检索方法技术。
背景技术
大数据时代数据量大幅度增加,现代信息技术的基础设施必须能够处理巨大的数据,由此造成的存储、传输、管理等成本随之增加。事实上,与这些成本相比,在大型数据库中搜索相关内容变得更具挑战性。尤其是搜索诸如音频、图像和视频之类的媒体数据仍然是一个主要的挑战。除了广泛使用的基于文本的商业搜索引擎,如:谷歌、百度和必应,基于内容的图像检索在过去十年中引起了广泛的关注。基于内容的图像检索无需依赖基于文本关键字的索引结构,直接对媒体内容进行有效的索引,以便直接响应视觉查询。
在给定数据库中搜索类似的数据样本与最近邻搜索问题相关。高维数据检索本质上可以转换为最近邻查找问题,即给定一个分布在高维空间内的数据集和一个检索样例,在高维空间中返回与检索样例距离最近的数据或与之最接近的前K个数据。将查询点与数据库中的每个样本彻底比较是不可行的,因为线性时间复杂度在现实的大规模应用中往往是不可取的。除了不可扩展外,由于数据通常包含数千甚至数万个维度,所以在实际中的大规模应用也会受到数据维度的限制。因此,除了穷举搜索的计算成本的太大,将原始数据加载到存储器中占用的空间过大也是一个关键问题。
对于高维数据的处理,哈希索引技术能够表现出良好性能,近年来受到越来越多的研究者的关注。哈希方法通过学得一组哈希函数将原始特征映射为紧凑二进制哈希码,使得哈希码尽可能的保持原始空间中的近邻关系,即保持相似性。以图像数据为例,两张内容相近的图像经过哈希编码后,哈希码尽可能保持一致,而内容差别较大的图像经过哈希编码后,哈希码尽可能的不相同。并且哈希方法能够通过使用查找表或者基于排名的汉明距离实现快速的搜索。事实上,在汉明空间中计算索引样例与数据库中所有的样本之间的汉明距离也可以很迅速地完成。在汉明空间内进行近邻查找,一般使用遍历的方法将待检索的图像与图像库中的所有图像对比计算汉明距离。两个数据之间的汉明距离可以直接用计算机硬件通过“异或”操作实现,这样计算千万数量级数据的汉明距离所需的时间只在毫秒级。紧凑的二进制代码对于大规模的数据存储也非常有效。哈希学习方法通过机器学习机制将数据映射成二进制串的形式,能显著减少数据的存储和通信开销,从而有效提高学习***的效率。
然而,现有的哈希学习技术应用在图像检索中时,需要保存原始图像库,检索过程仍然需要利用到原始图像库,没有彻底地减少数据的存储空间。
发明内容
本发明旨在解决以上现有技术的问题。提出了一种提高检索准确性与检索速度,提高存储设备的利用率的方法。本发明的技术方案如下:
一种随机森林哈希的医学CT图像存储与检索方法,其包括以下步骤:
获取若干医学CT图像并作为训练集,计算所有医学CT图像的标签相似度和流形相似度,标签相似度直接根据图像的标签构建标签相似矩阵,流形相似度根据图像之间的欧氏距离定义相似度;
根据求得的标签相似矩阵,将所有图像分块,标签一致的图像分在一个块中;对于每一个块中的图像,利用流形相似度作为边的权值构建图,使用图分割算法为块中的所有图像初始化一位哈希码;将初始化的哈希码作为标签训练随机森林模型,模型的结果更新初始的哈希码;重复直到达到预设的哈希码位数;
保存所有随机森林模型,并将图像库中的图像映射为哈希码,得到与之对应的哈希码库;当用户输入一张待检索的图像时,随机森林模型将该图像映射为哈希码,在哈希码库中检索与之最近的K个哈希码,将这K个哈希码利用树的决策路径所定义的最大相容规则解码重构为图像返回给用户。
进一步地,所述步骤1)标签相似度的计算方法为:标签一致即为相似设为1,标签不一致即为不相似设为-1,无定义则设为0。模型的目标函数如下,i和j表示两张图像的索引,yij表示这两张图像的相似度,hr(x)表示哈希函数,Φ(·)表示哈希函数集,n表示图像的总数量,k表示哈希码位数,r表示哈希码的索引:
进一步地,所述步骤1)计算图像之间的距离,公式为,
其中d2(xi,xj)表示图像xi和xj之间的欧式距离,α和β是常数,再根据图像间的距离计算图像之间的相似度作为图中边的权值:
其中τ为常数。
进一步地,所述步骤3)-步骤6)应用图分割算法为所有图像初始化一位哈希码,这些哈希码将作为数据标签来训练随机森林分类器,随机森林输出的分类结果再更新初始化的哈希码,如此迭代直到达到预设的哈希码位数,因此,每一个随机森林模型作为一个哈希函数,将原始图像映射为哈希码。
进一步地,在所述步骤7)中,在哈希码库中检索与之最近的K个哈希码,具体包括:根据汉明相似度排序求得与待检索图像的哈希码距离最近的K个哈希码,汉明相似度计算公式如下:
进一步地,所述步骤7)中将检索到的哈希码解码到图像空间,由于随机森林是若干决策树的集成,树中的每一个叶子结点对应来自根的一条路径,可以基于叶子节点确定这个路径;其次,每条路径对应一个符号规则,可以根据这些规则推导出最大相容规则,这个最大相容规则的每个组成部分覆盖范围都不能扩大,否则就会与其他条件冲突,因此,原始样本不得超出最大相容规则定义的输入区域;最后,根据最大相容规则即可将哈希码解码重构为图像。
本发明的优点及有益效果如下:
本发明1、利用随机森林作为哈希函数实现了非线性的哈希映射具有较强的泛化能力,并且树型结构的模型训练速度很快。
2、随机森林可以提取规则集,因此具有很强的可解释性。
3、利用数据间的流形相似度作为图中边的权值,使原始空间中相似的CT图像尽可能地相似,不相似的图像差别尽可能大。
4、根据随机森林提取的规则集可以求得最大相容规则,利用最大相容规则可以将随机森林的结果解码到原始图像空间,这样使得可以只保存模型和哈希码库,大大减少存储消耗,提高存储设备的利用率。
附图说明
图1是本发明提供优选实施例本发明的操作流程图;
图2是本发明的模型训练示意图;
图3是本发明中图分割与随机森林迭代示意图;
图4是本发明中医学CT图像解码重构结果图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、详细地描述。所描述的实施例仅仅是本发明的一部分实施例。
本发明解决上述技术问题的技术方案是:
本发明是为了探索大规模医学CT图像的高效、准确的检索模型与算法。试图解决大规模医学CT图像的检索效率、存储空间限制等问题,提高检索准确性与检索速度,提高存储设备的利用率。树型结构的模型具有可解释性好,天然适用于并行计算,训练速度快等优势。使用哈希技术能够极大的提高检索速度,大大减少存储空间。本发明利用随机森林作为哈希函数,将基于树的方法和哈希学习方法结合起来处理具有高维度的医学CT图像数据,从而实现非线性的哈希映射使模型具有更强大的泛化能力。
为了实现上述目的,本发明提出了一种随机森林哈希的医学CT图像存储与检索方法,包括:通过在医学CT图像集上训练得到随机森林哈希模型,保存模型及图像库对应的哈希码库。当用户输入一张需要检索的新的图像时,首先,模型将该图像映射为哈希码;然后在哈希码库中检索与之最近的K个哈希码;最后,将这个K个哈希码利用树的决策路径所定义的最大相容规则解码重构为图像并返回给用户。
根据哈希学习任务中的哈希函数是人工设定还是通过学习学得,可以将哈希方法划分为两大类,数据独立方法和数据依赖方法。数据独立方法使用的哈希函数是人工设计或者随机生成,数据依赖方法则是从数据中自动地学习出哈希函数。非线性哈希函数由于其强大的泛化能力而优于线性哈希函数。研究表明,核函数通常用来实现哈希中的非线性映射,并且以较缓慢的评估和训练时间作为代价可以实现良好的检索性能。
随机森林作为一种分类算法,具有极高的准确率,能够有效地运行在大数据集上,能够处理具有高维特征的输入样本,而且不需要降维,能够评估各个特征在分类问题上的重要性,对于属性缺省值容忍度较高,并且随机森林可以提取规则集,具有很好的可解释性,训练速度快。因此利用随机森林作为哈希函数实现非线性映射。
对于大规模医学CT图像检索问题,需要处理的图像往往是海量并且具有很高的维度,快速地从海量的高维图像数据库中找到与某幅图像最相似的一幅或多幅图像成为了一个难点和热点问题,因此迫切需要新技术使得大规模图像检索具有较小的存储代价和高效的检索效率。利用分块的方式可以解决大规模检索问题,将数据分成不同的块,对每一个块构建一个图,数据之间的流形相似度作为图中边的权值,使得相似的图像具有相似或相同的编码,不同图像的哈希码差异较大。
下面详细说明本发明的技术方案:
步骤一:相似度计算
相似度分为标签相似度和流形相似度,标签相似度直接根据训练集中的所有医学CT图像的标签构建标签相似矩阵,标签一致即为相似设为1,标签不一致即为不相似设为-1,无定义则设为0;流形相似度根据图像之间的欧氏距离定义相似度,距离越远流形相似度越小,距离越近流形相似度越大。优选的,所述步骤1)标签相似度的计算为:标签一致即为相似设为1,标签不一致即为不相似设为-1,无定义则设为0。模型的目标函数如下,i和j表示两张图像的索引,yij表示这两张图像的相似度,hr(x)表示哈希函数,Φ(·)表示哈希函数集,n表示图像的总数量,k表示哈希码位数,r表示哈希码的索引:
优选的,所述步骤1)计算图像之间的距离,公式为
其中d2(xi,xj)表示图像xi和xj之间的欧式距离,α和β是常数,再根据两图像间的距离计算图像之间的相似度作为图中边的权值:
其中τ为常数。
步骤二:数据分块
为了解决大规模的医学CT图像检索问题,根据求得的标签相似矩阵,将所有图像分块,标签一致的图像分在一个块中,依次针对每个块做后续处理。
步骤三:初始化哈希码
对于每一个块中的图像,利用流形相似度作为边的权值构建图,使用图分割算法为块中的所有图像初始化一位哈希码。
步骤四:学习哈希码
将初始化的哈希码作为标签训练随机森林模型,模型的结果更新初始的哈希码。随机森林中树的个数是一个超参数,树的个数越多学习能力越强,训练时间也较长。
步骤五:重复步骤三和步骤四直到达到预设的哈希码位数。
步骤六:构建哈希码库
每一个随机森林模型对应一位哈希码,利用训练得到的随机森林模型将图像库中的图像映射为哈希码,得到与之对应的哈希码库,保存所有模型及哈希码库。
步骤七:检索图像
当用户输入一张待检索的图像时,随机森林模型将该图像映射为哈希码,在哈希码库中检索与之最近的K个哈希码,将这K个哈希码利用树的决策路径所定义的最大相容规则解码重构为图像返回给用户。
综上所述,本发明的创新和优势:
本发明提出的一种随机森林哈希的医学CT图像存储与检索方法,训练速度快,可解释性强,检索速度快,存储量小,检索精度高。
本发明提出的一种随机森林哈希的医学CT图像存储与检索方法,步骤清晰,针对性强。
本发明提出的一种随机森林哈希的医学CT图像存储与检索方法计算难度小,易理解,对存储设备利用率高。
以上这些实施例应理解为仅用于说明本发明而不用于限制本发明的保护范围。在阅读了本发明的记载的内容之后,技术人员可以对本发明作各种改动或修改,这些等效变化和修饰同样落入本发明权利要求所限定的范围。
Claims (4)
1.一种随机森林哈希的医学CT图像存储与检索方法,其特征在于,包括以下步骤:
1)获取若干医学CT图像并作为训练集,计算所有医学CT图像的标签相似度和流形相似度,标签相似度直接根据图像的标签构建标签相似矩阵,流形相似度根据图像之间的欧氏距离定义相似度;
2)根据求得的标签相似矩阵,将所有图像分块,标签一致的图像分在一个块中;
3)对于每一个块中的图像,利用流形相似度作为边的权值构建图,使用图分割算法为块中的所有图像初始化一位哈希码;
4)将初始化的哈希码作为标签训练随机森林模型,模型的结果更新初始的哈希码;
5)重复3)和4)直到达到预设的哈希码位数;
6)保存所有随机森林模型,并将图像库中的图像映射为哈希码,得到与之对应的哈希码库;
7)当用户输入一张待检索的图像时,随机森林模型将该图像映射为哈希码,在哈希码库中检索与之最近的K个哈希码,将这K个哈希码利用树的决策路径所定义的最大相容规则解码重构为图像返回给用户;
所述步骤1)标签相似度的计算方法为:标签一致即为相似设为1,标签不一致即为不相似设为-1,无定义则设为0,模型的目标函数如下,i和j表示两张图像的索引,yij表示这两张图像的相似度,hr(x)表示哈希函数,Φ(·)表示哈希函数集,n表示图像的总数量,k表示哈希码位数,r表示哈希码的索引:
所述步骤1)计算图像之间的距离,公式为
其中d2(xi,xj)表示图像xi和xj之间的欧式距离,α和β是常数,再根据图像间的距离计算图像之间的相似度作为图中边的权值:
其中τ为常数。
2.根据权利要求1所述的随机森林哈希的医学CT图像存储与检索方法,其特征在于,所述步骤3)-步骤6)应用图分割算法为所有图像初始化一位哈希码,这些哈希码将作为数据标签来训练随机森林分类器,随机森林输出的分类结果再更新初始化的哈希码,如此迭代直到达到预设的哈希码位数,因此,每一个随机森林模型作为一个哈希函数,将原始图像映射为哈希码。
4.根据权利要求1所述的随机森林哈希的医学CT图像存储与检索方法,其特征在于,所述步骤7)中将检索到的哈希码解码到图像空间,由于随机森林是若干决策树的集成,树中的每一个叶子结点对应来自根的一条路径,可以基于叶子节点确定这个路径;其次,每条路径对应一个符号规则,可以根据这些规则推导出最大相容规则,这个最大相容规则的每个组成部分覆盖范围都不能扩大,否则就会与其他条件冲突,因此,原始样本不得超出最大相容规则定义的输入区域;最后,根据最大相容规则即可将哈希码解码重构为图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810757397.7A CN109166615B (zh) | 2018-07-11 | 2018-07-11 | 一种随机森林哈希的医学ct图像存储与检索方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810757397.7A CN109166615B (zh) | 2018-07-11 | 2018-07-11 | 一种随机森林哈希的医学ct图像存储与检索方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109166615A CN109166615A (zh) | 2019-01-08 |
CN109166615B true CN109166615B (zh) | 2021-09-10 |
Family
ID=64897680
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810757397.7A Active CN109166615B (zh) | 2018-07-11 | 2018-07-11 | 一种随机森林哈希的医学ct图像存储与检索方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109166615B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109598716B (zh) * | 2018-12-05 | 2020-08-07 | 武汉楚精灵医疗科技有限公司 | 基于计算机视觉的肠镜退镜速度实时监测方法和*** |
CN109902714B (zh) * | 2019-01-18 | 2022-05-03 | 重庆邮电大学 | 一种基于多图正则化深度哈希的多模态医学图像检索方法 |
CN109829549A (zh) * | 2019-01-30 | 2019-05-31 | 宁波大学 | 基于演化树的哈希学习方法及其无监督的在线哈希学习方法 |
CN110674335B (zh) * | 2019-09-16 | 2022-08-23 | 重庆邮电大学 | 一种基于多生成多对抗的哈希码与图像双向转换方法 |
CN111191058B (zh) * | 2019-12-27 | 2023-08-29 | 青岛海洋科技中心 | 一种图片检索方法 |
CN111897982B (zh) * | 2020-06-17 | 2023-03-14 | 昆明理工大学 | 一种医学ct图像存储与检索方法 |
CN112528065B (zh) * | 2020-12-17 | 2022-12-27 | 重庆邮电大学 | 一种流形相似度保持自编码器的医学超声图像检索方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104462503A (zh) * | 2014-12-19 | 2015-03-25 | 中国科学院深圳先进技术研究院 | 确定数据点的相似度的方法 |
CN107239535A (zh) * | 2017-05-31 | 2017-10-10 | 北京小米移动软件有限公司 | 相似图片检索方法及装置 |
CN107423376A (zh) * | 2017-07-10 | 2017-12-01 | 上海交通大学 | 一种有监督深度哈希快速图片检索方法及*** |
CN107733851A (zh) * | 2017-08-23 | 2018-02-23 | 刘胜利 | 基于通信行为分析的dns隧道木马检测方法 |
CN107944502A (zh) * | 2017-12-06 | 2018-04-20 | 南京航空航天大学 | 一种基于随机哈希的异常检测算法 |
CN108256082A (zh) * | 2018-01-22 | 2018-07-06 | 北京邮电大学 | 一种基于深度多相似度哈希的多标签图像检索方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104834748B (zh) * | 2015-05-25 | 2018-08-03 | 中国科学院自动化研究所 | 一种利用基于深度语义排序哈希编码的图像检索方法 |
CN106126581B (zh) * | 2016-06-20 | 2019-07-05 | 复旦大学 | 基于深度学习的手绘草图图像检索方法 |
CN106503106B (zh) * | 2016-10-17 | 2019-10-18 | 北京工业大学 | 一种基于深度学习的图像哈希索引构建方法 |
CN107291936B (zh) * | 2017-07-04 | 2020-03-31 | 太原理工大学 | 一种基于视觉特征和征象标签的超图哈希图像检索实现肺结节征象识别的方法 |
-
2018
- 2018-07-11 CN CN201810757397.7A patent/CN109166615B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104462503A (zh) * | 2014-12-19 | 2015-03-25 | 中国科学院深圳先进技术研究院 | 确定数据点的相似度的方法 |
CN107239535A (zh) * | 2017-05-31 | 2017-10-10 | 北京小米移动软件有限公司 | 相似图片检索方法及装置 |
CN107423376A (zh) * | 2017-07-10 | 2017-12-01 | 上海交通大学 | 一种有监督深度哈希快速图片检索方法及*** |
CN107733851A (zh) * | 2017-08-23 | 2018-02-23 | 刘胜利 | 基于通信行为分析的dns隧道木马检测方法 |
CN107944502A (zh) * | 2017-12-06 | 2018-04-20 | 南京航空航天大学 | 一种基于随机哈希的异常检测算法 |
CN108256082A (zh) * | 2018-01-22 | 2018-07-06 | 北京邮电大学 | 一种基于深度多相似度哈希的多标签图像检索方法 |
Non-Patent Citations (1)
Title |
---|
Perceptual Image Hashing Using Random Forest for Content-based Image Retrieval;Farzad Sabahi 等;《2018 16th IEEE International New Circuits and Systems Conference (NEWCAS)》;20180627;348-351 * |
Also Published As
Publication number | Publication date |
---|---|
CN109166615A (zh) | 2019-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109166615B (zh) | 一种随机森林哈希的医学ct图像存储与检索方法 | |
CN108334574B (zh) | 一种基于协同矩阵分解的跨模态检索方法 | |
Arora et al. | Hd-index: Pushing the scalability-accuracy boundary for approximate knn search in high-dimensional spaces | |
Shashank et al. | Private content based image retrieval | |
Wu et al. | Semi-supervised nonlinear hashing using bootstrap sequential projection learning | |
Wang et al. | Trinary-projection trees for approximate nearest neighbor search | |
US20100106713A1 (en) | Method for performing efficient similarity search | |
CN106503223B (zh) | 一种结合位置和关键词信息的在线房源搜索方法及装置 | |
CN108509543B (zh) | 一种基于Spark Streaming的流式RDF数据多关键词并行搜索方法 | |
Xu et al. | Online product quantization | |
Bhattacharya | Fundamentals of database indexing and searching | |
WO2019165546A1 (en) | Layered locality sensitive hashing (lsh) partition indexing for big data applications | |
WO2017053779A1 (en) | Data storage and retrieval system using online supervised hashing | |
Zhang et al. | Graph regularized nonnegative sparse coding using incoherent dictionary for approximate nearest neighbor search | |
WO2005008519A1 (en) | Combined search method for content-based image retrieval | |
Song et al. | Brepartition: Optimized high-dimensional knn search with bregman distances | |
KR101467707B1 (ko) | 지식 베이스의 개체 매칭 방법 및 이를 위한 장치 | |
CN105740428A (zh) | 一种基于b+树的高维磁盘索引结构和图像检索方法 | |
Castelli | Multidimensional indexing structures for content‐based retrieval | |
CN111897982B (zh) | 一种医学ct图像存储与检索方法 | |
Wan et al. | Cd-tree: A clustering-based dynamic indexing and retrieval approach | |
Manoharan et al. | A comparison and analysis of soft computing techniques for content based image retrieval system | |
Springer et al. | Forest hashing: Expediting large scale image retrieval | |
Chiu et al. | Approximate asymmetric search for binary embedding codes | |
Yadav et al. | Wavelet tree based hybrid geo-textual indexing technique for geographical search |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |