CN104739510B - 一种新的构建序列影像与呼吸信号对应关系的方法 - Google Patents
一种新的构建序列影像与呼吸信号对应关系的方法 Download PDFInfo
- Publication number
- CN104739510B CN104739510B CN201410675421.4A CN201410675421A CN104739510B CN 104739510 B CN104739510 B CN 104739510B CN 201410675421 A CN201410675421 A CN 201410675421A CN 104739510 B CN104739510 B CN 104739510B
- Authority
- CN
- China
- Prior art keywords
- images
- corresponding relation
- lung
- breath signal
- infrared markers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明公开了一种构建序列影像与呼吸信号对应关系的方法,在运动追踪法框架下,利用双目立体视觉***,采集红外标记物的位移作为人体呼吸信号。采用新一代CT扫描机,获取受试者深呼吸模式下完整的肺部4D CT图像。结合体外标记物的距离移动信息,构造距离测度函数,提出距离对应关联法,通过标记物相同时间段内在4DCT中和呼吸信号中的位移量的比较,确定4D CT和呼吸信号的对应关系。该发明简化了呼吸信号获取的操作步骤,提高了数据测量精度,降低了实验时间以及受试者接收的辐射剂量。
Description
技术领域
本发明属于运动建模领域,具体涉及一种在影像导航手术中的构建序列影像与呼吸信号对应关系的方法,提高序列影像与呼吸信号对应的准确度。
背景技术
影像导航手术中,呼吸运动是引起病灶定位不准确的重要因素之一。此外,当规划肺癌患者的放疗方案时,若缺乏对呼吸运动的认识,肿瘤会接收不到足够的剂量,周围的健康组织会接收不必要的剂量,或两者兼有。因此需要构建肺部组织的运动模型,模拟和预测呼吸运动对病灶的影响。
为了构建肺部呼吸运动模型,需要同时获取4D肺部CT图像与呼吸信号,并确立两者之间的对应关系。
如申请号为201410209850.2、名称为“肺部CT的三维配准方法”的专利中提出了一种三维配准方法,能够将同一位置的结节在不同CT数据中的成像位置进行自动对应,该方法首先进行刚性配准,通过互信息将CT数据中的肺部区域进行整体对齐,然后在刚性配准的基础上利用提取的匹配特征点对结合局部单点互信息(SMI)最大化的方式进行非刚性配准,得到最终的精确配准结果,然后利用配准结果提供的空间变换信息,进行相同结节成像位置的对应,从而方便结节的特征变化进行对比。
获取呼吸信号时,一些方法通常采用运动追踪法获得,即在人体腹部贴上标记物,用摄像机在CT扫描过程中同步跟踪标记物,将得到的视频提取为单帧图像,再提取标记物质心,以质心坐标任意维度与时间的关系曲线作为呼吸曲线。如申请号为201410009192.2、名称为“下颌三维运动捕捉及可视化***及方法”;申请号为201420011840.3、名称为“下颌三维运动捕捉及可视化***与下颌运动追踪装置”的专利中均提出了三维运动捕捉及可视化***,其标记物表面覆盖有荧光材料,且用红外摄像头带有红外发射装置,标记物可通过荧光材料反射出红外发射装置发出的红外线,以反映运动轨迹。
获取4D肺部CT图像时,根据受试者呼吸模式的不同分为屏气模式和自由呼吸模式。屏气模式中,受试者在一个呼吸周期内多个时相点位置,采用屏气方式,同步获取CT图像与呼吸信号,由此可直接确定CT图像与呼 吸信号的对应关系。自由呼吸模式中,受试者在自由呼吸状态下,进行CT图像和呼吸曲线的同步获取。该模式适用于任何受试者,在临床中具有广泛的应用前景。然而由于CT技术的限制,现有方法获取完整肺部的4D CT图像时,通常采用图像堆积扫描方式。扫描过程中,每个床位需要获取25或30甚至更多的图像。为了覆盖整个肺部区域,每个受试者需要扫描3到4个连续的床位,整个过程大概需要70秒。
获得4D肺部CT图像和体外呼吸信号后,需要构建两者间的一一对应关系,即确定4D肺部CT图像中每一个3D肺部CT图像与体外信号在同一时刻获取,此处通常采用基于相位的关联法。利用高斯平滑滤波器对采集的呼吸曲线做平滑处理,滤除曲线上非对应于吸气末或呼气末的波峰和波谷;求取曲线上所有点的梯度,将梯度为零的点与该点附近最接近于受试者吸气末或呼气末状态的3D肺部CT对应;再将其他CT图像分布在完整的呼吸周期中。
然而,上述的体外呼吸信号获取的操作方法均存在不足:
1.获取体外呼吸信号的步骤繁琐,且在提取标记物质心过程中容易引入误差;
2.获取CT图像时,在屏气模式下,不易控制获取数据时的呼吸状态,不适合呼吸功能障碍患者;而且屏气状态与自由呼吸状态下肺部组织运动存在差异性,导致对应误差;
3.自由呼吸模式中,扫描时间长,可能引起受试者的不适,增加受试者接收的辐射剂量;
4.构建序列图像与体外信号对应关系时,所用方法不能确保受试者吸气末或呼气末肺部组织的实时解剖结构与选取作为肺部组织吸气末或呼气末状态的3D肺部CT相一致,导致对应误差;
5.同时,尽管通过该方法构建的肺部呼吸运动模型,可以估计呼吸周期中任意位置对应的当前的肺部状态,但是无法做到监测体外信号而实时的做出估计。
发明内容
为克服工业技术的限制,避免由于测量仪器以及构建序列图像与体外呼吸信号对应关系的方法的选取不足,本发明要研发的“一种新的构建序列影 像与呼吸信号对应关系的方法”,利用立体视觉技术,简化体外呼吸信号获取的操作步骤,提高获取数据的精度;降低实验时间以及受试者接收的辐射剂量,避免采集4D肺部CT时受试者长时间屏气,克服受试者在屏气状态与自由呼吸状态下肺部活动存在差异性的问题;提高序列影像与呼吸信号对应的准确度。
为了解决上述技术问题,实现上述目的,本发明通过以下技术方案实现:
本发明获取呼吸信号的方法是立体视觉技术,即采用两个或两个以上的相机搭建的立体视觉测量***,对放置在病人胸腹部的靶标进行实时空间(三维)定位,获取随时间变化的体表运动幅度曲线。
本发明的技术方案的硬件主体包括五个部分,即红外标记物、立体视觉测量单元、数据分析单元、通信单元、控制单元;关键技术在于结合标记物在4D CT中与呼吸信号中的移位信息,构建距离测度函数,同时确定所有CT图像对应的标记物的空间坐标。该技术方案的工作流程是:使用CT扫描仪采集4D肺部CT图像,该CT扫描仪能够完成自主呼吸状态的肺部动态扫描。使用实验室自行研制的双目立体视觉***采集体外呼吸信号,该***可直接记录标记物的相对空间坐标,且精度高。
数据采集时,受试者静卧在CT床上,将红外标记物黏贴于受试者胸部剑突位置的体表。首先开启双目立体视觉***,采集红外标记物位移数据。接着,CT操作者通过麦克指导受试者作呼吸运动,接着启动CT扫描仪进行肺部动态扫描,实验场景如图1所示。
通过上述方式获得了受试者自由深呼吸下的体外呼吸信号和完整肺部4D CT图像,结合标记物相同时间段内在4D肺部CT图像中和呼吸信号中的距离移动信息,构造距离测度函数,提出基于距离的对应关联法。通过计算距离测度函数可确定序列3D肺部CT图像与标记物空间坐标的一一对应关系,实验效果如图4所示。
现有技术构建4D CT与体外呼吸信号对应关系的方法通常是采用高斯平滑滤波器对采集的呼吸曲线做平滑处理,滤除曲线上非对应于吸气末或呼气末的波峰和波谷;求取曲线上所有点的梯度,将梯度为零的点与该点附近最接近于受试者吸气末或呼气末状态的3D肺部CT对应,再将其他CT图像分布在完整的呼吸周期中。与现有技术相比,本发明的有益效果是提高了序 列影像与呼吸信号对应的准确度,使得通过监测体外呼吸信号实时预测体内组织运动成为可能。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,并可依照说明书的内容予以实施,以下以本发明的较佳实施例并配合附图详细说明如后。本发明的具体实施方式由以下实施例及其附图详细给出。本发明多处仅仅对做出改进的部分进行描述,而其他未说明部分可以借助本领域的现有技术实现,亦即未说明部分通过现有技术实现,在此不进行详细说明。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明的试验场景图。
图1中,1和2为工业相机,3和4为红外滤光片,5和6为支架,7和8为数据连接线,9和10为相机电源线,11和12为采集卡,13为计算机,14为显示屏,16为红外LED,17为受试者,18为CT床,19为扫描架。
图2为本发明的硬件主体工作流程图。
图3为本发明的距离测度函数的序列的3D CT。
图4为本发明的实验效果图。
具体实施方式
下面结合附图和实施例对本发明的技术实施过程做进一步说明。
实施例:
本发明获取呼吸信号的方法是立体视觉技术,即采用两个或两个以上的相机搭建的立体视觉测量***,对放置在病人胸腹部的靶标进行实时空间(三维)定位,获取随时间变化的体表运动幅度曲线。
参见图1,本发明使用Toshiba Aquilion ONE 320-slice CT扫描仪,采用“Lungmass perfusion”扫描模式采集4D肺部CT图像,该CT扫描仪能够完成自主呼吸状态的肺部动态扫描。获取完整肺部10个连续的3D CT图像仅需18.5秒。同时,使用实验室自行研制的双目立体视觉***采集体外呼吸 信号。该***由红外标记物、两部可以检测红外线的相机和一部控制计算机组成,红外标记物为一个120°投射角、直径5㎜的红外发光二极管。该***可以实时记录标记物的相对空间坐标,且采样率为30HZ,该***硬件主体包括五个部分,即红外标记物、立体视觉测量单元、数据分析单元、通信单元、控制单元。关键技术在于结合标记物在4D CT中与呼吸信号中的移位信息,构建距离测度函数,同时确定所有CT图像对应的标记物的空间坐标。该技术方案的工作流程是:使用CT扫描仪采集4D肺部CT图像,该CT扫描仪能够完成自主呼吸状态的肺部动态扫描。使用实验室自行研制的双目立体视觉***采集体外呼吸信号,该***可直接记录标记物的相对空间坐标,且精度高。
接下来进一步的对本发明的技术环节进行详细说明。
1.红外标记物
红外标记物为一个120°投射角、直径5㎜的红外发光二极管,其支撑结构的底部具有容易放置或吸附在病人体表的结构,在病人进行呼吸运动时,红外标记物会随着体表进行运动。
2.立体视觉测量单元
立体视觉测量单元由两个或两个以上的数字相机、计算机或单片机处理器、机械结构等组成。首先,经过光学设计,确定相机的间距、夹角、分辨率、镜头焦距等参数,搭建立体定位***;其次,对各相机进行同步标定,获取各相机的内、外参数;再次,同步触发各相机,获取红外标记物的在各相机图像上的坐标序列;最后,利用相机的内、外参数和红外标记物的坐标序列重建红外标记物的空间坐标。该单元的工作指标包括定位精度、频率等,其主要技术流程如图2所示。
构造的距离测度函数的技术环节包括如下几点。
(1)标记物特征点高精度提取
双目视觉***每秒记录红外标记物30个空间坐标,CT扫描间隔为1.5秒,通过两者的采样频率,可得出,每获取相邻两个3D肺部CT图像,双目视觉***记录标记物46个空间坐标(含有45个采样间隔)。通过标记物相同时间段内在4D肺部CT图像中和呼吸信号中的位移量的比较,确定采集的3D肺部CT图像和记录的标记物的空间坐标的对应关系。
(2)构造的距离测度函数F的计算公式
构造的距离测度函数F的计算公式为:
式中,r=1,2,3代表x,y,z三个方向,qr为CT图像的空间分辨率。m-1为获取m个序列3D肺部CT图像I的时间间隔个数。Ci是标记物在第i个时间点的3D肺部CT图像Ii中的坐标,Dj为双目视觉***记录的红外标记物第j个时间点的相对空间坐标。具体推倒过程如下:
图3表示4D CT,即序列的3D CT,记为I={Ii|i=1,2,...,m},i为3D CT序列号。每一个3D CT的体积(即x,y和z三个方向体素的个数)为512×512×320,分辨率(即每一个体素的大小)为0.677×0.677×0.5㎜3
LED会被扫入每一个3D CT中,手动选取LED在每一个3D CT中的中心点,可以用体素坐标表示。用C={Ci|i=1,2,...,m}表示LED中心点在序列3D CT中的序列坐标,Ci=(Cix,Ciy,Ciz),此处m为10。那么,在相邻两个3D CT(以I1和I2为例)之间的时间间隔内LED中心点变化的欧几里得距离为:
同理,可以计算出Dis2_3,…,Dis9_10。
记双目立体视觉***记录的LED的相对空间坐标序列为D={Dj|j=1,2,...,n},Dj=(Djx,Djy,Djz)。
双目立体视觉***每秒记录30个LED的相对空间坐标,相邻两3D CT之间的时间间隔为1.5s,可以推出,每获取相邻两3D CT,双目立体视觉***记录LED的46个相对空间坐标(45个采样间隔)。那么相隔45个采样间隔的两个相对空间坐标Dj与Dj+45间的欧几里得距离为:
记Dj+45与Dj+90间的欧几里得距离为dis2,同理,依次可计算出dis3,…,dis9。
最终的距离测度函数F为:
通过计算距离测度函数F可得j使得CT图像I1与标记物空间坐标Dj相匹配,即I1与Dj是在同一时刻获取的,进而可确定序列3D肺部CT图像I与标记物十个空间坐标的一一对应关系,实验效果如图2所示。
3.数据分析单元
数据分析单元对立体视觉测量单元输出的空间坐标序列进行处理,并以曲线的形式显示呼吸信息。可以在呼吸曲线上设定阈值,阈值一般设定在呼吸运动处最小阶段时的深吸气或呼气时刻,此时给影像采集设备发出门控信号,获取具有较小运动伪影的医学影像信息。
4.通信单元
通信单元负责与影像设备进行交互,其主要任务是输出门控信号来触发影像设备进行采集。
5.控制单元
控制单元负责对立体测量单元、数据分析单元和通信单元进行控制,协调完成整个***功能。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (6)
1.一种新的构建序列影像与呼吸信号对应关系的方法,其特征在于:该方法的主体至少包括五个部分:红外标记物、立体视觉测量单元、数据分析单元、通信单元、控制单元;该方法结合标记物在4D CT中与呼吸信号中的移位信息,构建距离测度函数,同时确定所有CT图像对应的标记物的空间坐标,其步骤为:(1)、使用CT扫描仪采集4D肺部CT图像;该CT扫描仪能够完成自主呼吸状态的肺部动态扫描;(2)、使用立体视觉***采集体外呼吸信号,直接记录标记物的相对空间坐标;
所述的构造的距离测度函数F的计算公式为: 式中,r=1,2,3代表x,y,z三个方向,qr为CT图像的空间分辨率;m-1为获取m个序列3D肺部CT图像I的时间间隔个数;Ci是标记物在第i个时间点的3D肺部CT图像Ii中的坐标,Dj为双目视觉***记录的红外标记物第j个时间点的相对空间坐标。
2.根据权利要求1所述的新的构建序列影像与呼吸信号对应关系的方法,其特征在于:所述红外标记物为一个120°投射角、直径5㎜的红外发光二极管,其支撑结构的底部具有容易放置或吸附在病人体表的结构,在病人进行呼吸运动时,红外标记物会随着体表进行运动;所述立体视觉测量单元由两个或两个以上的数字相机、计算机或单片机处理器、机械结构组成。
3.根据权利要求2所述的新的构建序列影像与呼吸信号对应关系的方法,其特征在于:所述步骤(1)还包括:数据采集时,受试者静卧在CT床上,将红外标记物黏贴于受试者胸部剑突位置的体表;首先开启双目立体视觉***,采集红外标记物位移数据;接着,CT操作者通过麦克指导受试者作呼吸运动,接着启动CT扫描仪进行肺部动态扫描。
4.根据权利要求2所述的新的构建序列影像与呼吸信号对应关系的方法,其特征在于:所述步骤(2)还包括:结合标记物相同时间段内在4D肺部CT图像中和呼吸信号中的距离移动信息,构造距离测度函数;通过计算距离测度函数可确定序列3D肺部CT图像与标记物空间坐标的一一对应关系。
5.根据权利要求4所述的新的构建序列影像与呼吸信号对应关系的方法,其特征在于:所述控制单元负责对立体测量单元、数据分析单元和通信单元进行控制,协调完成整个***功能。
6.根据权利要求2-5中的任一项所述的新的构建序列影像与呼吸信号对应关系的方法,其特征在于:对于立体视觉测量单元的操作还包括如下过程:首先,经过光学设计,确定相机的间距、夹角、分辨率、镜头焦距参数,搭建立体定位***;其次,对各相机进行同步标定,获取各相机的内、外参数;再次,同步触发各相机,获取红外标记物的在各相机图像上的坐标序列;最后,利用相机的内、外参数和红外标记物的坐标序列重建红外标记物的空间坐标。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410675421.4A CN104739510B (zh) | 2014-11-24 | 2014-11-24 | 一种新的构建序列影像与呼吸信号对应关系的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410675421.4A CN104739510B (zh) | 2014-11-24 | 2014-11-24 | 一种新的构建序列影像与呼吸信号对应关系的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104739510A CN104739510A (zh) | 2015-07-01 |
CN104739510B true CN104739510B (zh) | 2017-05-17 |
Family
ID=53580154
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410675421.4A Active CN104739510B (zh) | 2014-11-24 | 2014-11-24 | 一种新的构建序列影像与呼吸信号对应关系的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104739510B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104992155A (zh) * | 2015-07-02 | 2015-10-21 | 广东欧珀移动通信有限公司 | 一种获取人脸位置的方法及装置 |
CN105498100B (zh) * | 2015-12-31 | 2018-09-07 | 上海联影医疗科技有限公司 | 一种监测生理运动曲线和体表轮廓的方法及*** |
JP6811960B2 (ja) * | 2016-11-15 | 2021-01-13 | 株式会社島津製作所 | X線透視方法およびx線透視装置 |
CN108078635A (zh) * | 2017-02-24 | 2018-05-29 | 宁波市北仑区人民医院 | 一种ct引导下经皮肺穿刺活检呼吸定位装置及其使用方法 |
CN107038342B (zh) * | 2017-04-11 | 2020-07-31 | 南京大学 | 一种基于体表变化信号预测体内组织运动信号的方法 |
CN110009604B (zh) * | 2019-03-20 | 2021-05-14 | 北京理工大学 | 造影图像序列的呼吸信号提取方法及装置 |
CN110051356A (zh) * | 2019-04-04 | 2019-07-26 | 北京贝麦克斯科技有限公司 | 人体呼吸状态信息的获取方法和装置 |
CN110269624B (zh) * | 2019-07-16 | 2024-02-06 | 浙江伽奈维医疗科技有限公司 | 一种基于rgbd相机的呼吸监测装置及其呼吸监测方法 |
CN111067622B (zh) * | 2019-12-09 | 2023-04-28 | 天津大学 | 一种面向肺部经皮穿刺的呼吸运动补偿方法 |
CN115209799B (zh) * | 2020-05-28 | 2024-06-25 | 上海联影医疗科技股份有限公司 | 用于患者监测的***和方法 |
CN112515763B (zh) * | 2020-11-27 | 2021-09-10 | 中国科学院深圳先进技术研究院 | 目标物的定位显示方法、***、装置和电子设备 |
CN113812971B (zh) * | 2021-08-27 | 2023-10-13 | 浙江大学 | 一种多自由度四维双能锥束ct成像***及方法 |
CN117281540B (zh) * | 2023-10-25 | 2024-07-16 | 山东新华医疗器械股份有限公司 | 一种呼吸信号获取方法、装置、设备及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8989349B2 (en) * | 2004-09-30 | 2015-03-24 | Accuray, Inc. | Dynamic tracking of moving targets |
WO2007136967A2 (en) * | 2006-05-17 | 2007-11-29 | Koninklijke Philips Electronics, N.V. | Retrospective sorting of 4d ct into breathing phases based on geometric analysis of imaging fiducials |
US9392962B2 (en) * | 2011-04-01 | 2016-07-19 | Varian Medical Systems, Inc. | Prediction of breathing signal and determining non-periodicity of breathing using signal-phase histogram |
CN103284743B (zh) * | 2012-02-29 | 2017-03-15 | Ge医疗***环球技术有限公司 | 确定标记物位置和患者呼吸曲线的方法及装置 |
KR102114415B1 (ko) * | 2013-01-29 | 2020-05-22 | 삼성전자주식회사 | 의료 영상 정합 방법 및 장치 |
CN203914924U (zh) * | 2014-01-08 | 2014-11-05 | 中山大学 | 下颌三维运动捕捉及可视化***与下颌运动追踪装置 |
-
2014
- 2014-11-24 CN CN201410675421.4A patent/CN104739510B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN104739510A (zh) | 2015-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104739510B (zh) | 一种新的构建序列影像与呼吸信号对应关系的方法 | |
JP6130811B2 (ja) | 動き補償に基づくct機器及び方法 | |
US9232928B2 (en) | Method and system for predictive physiological gating | |
US10646188B2 (en) | Method and system for radiation application | |
JP5797352B1 (ja) | 3次元物体を追跡するための方法 | |
CN104188682B (zh) | 胸部诊断辅助信息生成*** | |
CN101273919B (zh) | 使用更新方法和***的连续图像采集 | |
CN104739418B (zh) | 一种基于立体视觉的呼吸门控***及控制方法 | |
CN106687046A (zh) | 用于定位进行医学成像的患者的引导*** | |
US20100246925A1 (en) | Dynamic image processing system | |
CN111627521B (zh) | 增强现实在放疗中的应用 | |
JP2017124325A (ja) | 動態画像解析装置 | |
CN107049489B (zh) | 一种手术导航方法及*** | |
US10478143B2 (en) | System and method of generating and updatng a three dimensional model of a luminal network | |
CN108701170A (zh) | 用于产生解剖部分的三维(3d)视图的图像处理***和方法 | |
US11127153B2 (en) | Radiation imaging device, image processing method, and image processing program | |
CN114980970A (zh) | 确定放射参数的***和方法 | |
CN110446453A (zh) | 从光学图像导出的心脏运动信号 | |
CN116128838A (zh) | 基于双目视觉的呼吸检测***、4d-ct图像重建***和方法 | |
CN105662354B (zh) | 一种广视角光学分子断层成像导航***及方法 | |
CN104305996A (zh) | 基于图像识别技术的呼吸监测方法及*** | |
CN114831731B (zh) | 适用于手术室进行肺部病灶定位的手术导航设备和*** | |
CN107004270A (zh) | 用于计算感兴趣对象的位移的方法和*** | |
CN107492145A (zh) | 一种空间真实姿态的内窥三维重建技术 | |
TW201211937A (en) | Human face matching system and method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |