CN110675490B - 一种三维超声渲染成像方法及装置 - Google Patents
一种三维超声渲染成像方法及装置 Download PDFInfo
- Publication number
- CN110675490B CN110675490B CN201910924721.4A CN201910924721A CN110675490B CN 110675490 B CN110675490 B CN 110675490B CN 201910924721 A CN201910924721 A CN 201910924721A CN 110675490 B CN110675490 B CN 110675490B
- Authority
- CN
- China
- Prior art keywords
- data
- memory
- volume data
- dimensional
- thread
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
- G06T2207/10136—3D ultrasound image
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Generation (AREA)
Abstract
本发明涉及超声成像技术领域,公开了一种三维超声渲染成像方法,包括以下步骤:将待处理的体数据分解为三个维度的分数据,同一体数据的三个分数据等间隔存储于全局内存中;采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;运算完后采用同步线程束将所述体数据写回所述全局内存中。本发明具有体数据存取效率快,渲染成像实时性好的技术效果。
Description
技术领域
本发明涉及超声成像技术领域,具体涉及一种三维超声渲染成像方法及装置。
背景技术
针对传统二维超声成像技术的不足,近几年发展起来的三维超声成像技术逐渐成为一种主流的超声检查方法,已经广泛地应用于临床检查和辅助诊断中。三维超声成像技术又可以分为静态三维成像和实时三维成像两大类。与二维超声成像相比,静态三维超声成像技术不仅具有其全部功能和优势,而且还具有检查胎盘、羊水和脐带变化等二维超声成像无法实现的功能。实时三维超声成像技术是在静态三维超声成像上多加了一维时间,用整体显像法重建感兴趣区域实时活动的三维图像。因此,实时三维超声成像又被称为“四维”超声。与传统静态三维图像相比,实时三维超声成像显示的立体图像效果更加清晰、真实,而且延时性很低。因此在胎儿颜面部畸形、胆囊血管、小器官及膀胱等含液性器官的诊断效果相比于传统三维超声技术具有明显的优势。但是实时三维超声成像算法的数据量大,计算过程复杂,成像速度很慢,又由于“实时性”需要很低的计算延迟,严重影响了实时三维超声成像的使用体验。
目前主流技术都是使用GPU来处理。例如,在三维超声成像的渲染算法中,将光线采样这一高度并行的过程交给GPU来处理;将体数据绑定在CUDA的纹理内存中。
纹理内存是只读的,支持一维、二维和三维数组的存储形式,同时拥有缓存机制加快数据访问,因此不需要严格的对齐访问限制也能获得较高的带宽,且在数据量不是很大的随机访问情况下,效率也很高,最重要的是纹理内存拥有硬件级的插值滤波和类型转换功能,可以加快对采样点的三次线性插值以及灰度到RGBA的映射。但是当体绘制算法需要大量精细计算以获得更为清晰的高质量图像时,需要加大对体数据的采样频率,当采样频率过高,即对纹理内存的访问过于频繁时,纹理内存的效率会迅速下降,导致三维渲染过程的耗时急剧增加,影响“四维”超声的实时性。
发明内容
本发明的目的在于克服上述技术不足,提供一种三维超声渲染成像方法及装置,解决现有技术中体数据采样频率过高时,存取效率慢,导致数据实时性差的技术问题。
为达到上述技术目的,本发明的技术方案提供一种三维超声渲染成像方法,包括以下步骤:
将待处理的体数据分解为三个维度的分数据,同一体数据的三个分数据等间隔存储于全局内存中;
采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;
从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;
运算完后采用同步线程束将所述体数据写回所述全局内存中。
本发明还提供一种三维超声渲染成像装置,包括处理器以及存储器,所述存储器上存储有计算机程序,所述计算机程序被所述处理器执行时实现所述三维超声渲染成像方法。
本发明还提供一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现所述三维超声渲染成像方法。
与现有技术相比,本发明的有益效果包括:本发明将体数据的三个位数的分数据等间隔存储于全局内存筒,通过同步线程并发采集同一体数据的三个分数据,并存储至共享内存,从而将全局内存中的非对齐访问转换为对对齐访问,通过对共享内存的访问获取体数据进行运算实现超声渲染成像,成像完成后再将体数据写回至全局内存。由于共享内存为高度内存,因此即使体数据的采样频率很高,共享内存也可提供较高的读写速度,从而提高成像质量和成像速度。
附图说明
图1是本发明提供的三维超声渲染成像方法一实施方式的流程图;
图2是本发明提供的对全局内存中体数据进行对齐访问一实施方式的示意图;
图3是本发明提供的体数据存取一实施方式的流程示意图;
图4是相同采样间隔下本发明提供的三维超声渲染成像方法与其他方法的绘制效率对比图;
图5是不同采样间隔下本发明提供的三维超声渲染成像方法与其他方法的绘制效率对比图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
实施例1
如图1所示,本发明的实施例1提供了三维超声渲染成像方法,包括以下步骤:
S1、将待处理的体数据分解为三个维度的分数据,同一体数据的三个分数据等间隔存储于全局内存中;
S2、采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;
S3、从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;
S4、运算完后采用同步线程束将所述体数据写回所述全局内存中。
三维超声渲染成像过程中,体数据的存取效率影响成像效率,例如影响光线投射算法效率。针对体数据和光线投射算法的特点,本发明提出使用“全局共享内存交换法”优化体数据的存取效率。
全局内存占据了GPU显存的绝大部分,因此拥有较大的存储空间,是GPU所有内存中访问延迟最高的,所有线程都能对全局内存的任意位置进行读写操作,并且目前新架构的GPU,全局内存也有了缓存机制,能提供很高的带宽。但是对全局内存进行高效访问时,需要遵守对齐访问条件,否则就会造成带宽浪费。这些特点使全局内存可以被用来存储大量不需要经常访问的数据。
每个体数据的数值由三个维度的分数据组成,三个分数据均为float型数据,可以用float3型数据来表示体数据。每个采样点是根据周围的8个体数据进行三线性插值计算得来的,因此对体数据的采样需要读取8个体数据,每个半线程束需要读取1536B,不符合全局内存的对齐访问条件,很容易产生非对齐清空从而浪费了大量带宽。
共享内存是GPU片内的高速内存,在没有访问冲突的情况下,共享内存的读写速度能达到和寄存器一样快,远远超过全局内存的速度。并且共享内存还能进行线程间的通信,因此使用共享内存可以保证线程间的通信延迟达到最小。但是共享内存的容量较小,一般只有几十KB,装不了很大的数据。
通过对全局内存对齐访问条件的分析和研究,为解决数据访问不对齐以及间隔访问带来的访问效率低下和全局内存带宽的浪费。本发明提出的全局共享内存交换法利用全局内存与共享内存相结合的策略,充分利用这两种内存的优势。具体如图2所示,当对全局内存进行非合并访问时,将待处理的体数据分解为三个维度的分数据,三个维度的分数据分别为depth维、height维以及width维。利用共享内存充当缓冲区域,调整半线程束中线程的访问顺序,采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中,将全局内存中出现的非对齐访问转变成对齐访问。然后只需要从共享内存中读取体数据进行运算计算出体素,即可实现渲染成像。本发明提出的方法既能避免非对齐访问造成的性能下降,又能加快读取体数据的速度。
本发明能在不额外增加硬件成本的前提下,通过利用GPU上已配备的全局内存和共享内存,加快对三维超声体数据的存取效率,从而提升整个三维超声成像算法的效率,既能增加成像质量,又能提高四维超声的帧率。
优选的,同一体数据的三个分数据等间隔存储于全局内存中,具体为:
三个维度的分数据分别为高度数据、宽度数据和深度数据,各所述体数据的高度数据、各所述体数据的宽度数据以及各所述体数据的深度数据依次连续存储于所述全局内存中。
将待处理的体数据分解为三个维度的分数据,三个维度的分数据分别为depth维的深度数据、height维的高度数据以及width维的宽度数据。各体数据的高度数据、各体数据的宽度数据以及各体数据的深度数据依次连续存储,因此同一体数据的高度数据、宽度数据以及深度数据之间的存储间隔相同。
优选的,采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,具体为:
所述线程束包括多个同步的线程,所述线程束的线程数量与同一体数据的分数据之间的间隔数量相等,各所述线程以自身线程号为基准位置,分别以0、n、2n为偏移量并发读取全局内存中同一体数据的三个分数据,n为线程束所包含的线程数量。
将数据从全局内存交换到共享内存。本实施例中每一个分数据均为float型数据,我们将体数据的数据类型定义为float3型数据。将体数据的float3型数据以3个float型数据的形式从全局内存存到共享内存,这里需要注意的是,需用要同步线程以保证所有线程都将自己所需的数据存到了共享内存。这个步骤是最关键的,因为在这一步骤中实现了非对齐访问到对齐访问的转化。以每个线程束分配256个线程为例,如图3所示,图3中t0,t1,L,t255分别代表线程束的256个线程,每个线程读取以自己的线程号为起始位置,偏移量分别为0,256,512的3个float型数据,由于同一体数据的高度数据、宽度数据以及深度数据之间的存储间隔也为256,因此同一线程可读取到同一体数据的三个维度的分数据,线程t0-线程t255能连续的读取到256个float3型数据,后续根据线程号即可实现对齐访问,从而实现了符合对齐访问条件的访问。该步骤后,要强制使用同步命令以保证所有的数据都已经从全局内存交换到共享内存中。伪代码如下:
__share__float shareData[256*3];
shareData[threadIdx.x]=globalData[threadId];
shareData[threadIdx.x+256]=globalData[threadId+256];
shareData[threadIdx.x+512]=globalData[threadId+512];
__syncthreads()。
优选的,从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据,具体为:
从所述共享内存中读取待处理的体数据,采用光纤投射算法对所述体数据进行运算得到体素值,根据所述体素值进行三维超声渲染成像。
光纤投射算法的计算过程没有任何变化,区别只是现有方法是从纹理内存或全局内存中取出体数据用于计算,而本发明是根据线程号从共享内存中取出体数据用于计算,同一线程获取同一体数据的三个分数据。
优选的,运算完后采用同步线程将所述体数据写回所述全局内存中,具体为:
各所述线程分别以自身线程号为基准位置,以0、n、2n为偏移量读取共享内存中的同一体数据的三个分数据,并写回所述全局内存中。
将数据从共享内存交换到全局内存。该步骤与将数据从全局内存交换到共享内存刚好相反,每个线程将根据自己的线程号为起始位置的偏移分量为0,256,512的3个float型数据从共享内存中写回到全局内存中。最后也需要再次强制使用同步命令以保证所有数据都已经从共享内存交换到全局内存中。伪代码如下:
__share__float shareData[256*3];
globalData[threadId]=shareData[threadIdx.x];
globalData[threadId+256]=shareData[threadIdx.x+256];
globalData[threadId+512]=shareData[threadIdx.x+512];
__syncthreads()。
本发明提供的全局共享内存交换法,在全局内存中存储体数据的流程与普通的全局内存法一样,但是采样流程将单个float3型的体数据读取分解为3个float类型的数据并发读取,采样过程如图3所示。与全局内存法不同的是,通过使用共享内存配合后,从全局内存读取体数据的时候,将float3型数据分解成了3个float型数据,再通过线程束内的多个线程来进行符合对齐访问条件的并发读取,数据从全局内存读取到共享内存后,再以float3型格式读取数据。
为验证本发明提供的全局共享内存交换法的存取效率,本实施例针对全局内存法、纹理内存法和本发明提出的全局共享内存交换法的特征,设计了2组不同的实验来分析这3种方法的绘制效率。两组实验的硬件配置和处理的体数据大小完全一致,分别为NvidiaGT1030型号的GPU,三维体数据的大小为512×512×512。
第一个实验用于纵向比较3种方法在对体数据读取频率较低时的读取效率,本实验设置采样间距为0.4时绘制效率。实验的结果如图4所示。
从图4中可以看出,全局内存法的绘制效率最低,基本不适用于基于GPU的四维超声成像。纹理内存法和本发明提出的全局共享内存交换法的绘制效率都比较高,且纹理内存法的效率略高于全局共享内存交换法。
第二个实验针对纹理内存法在对纹理内存访问频繁的情况下效率会大幅降低的结论,通过逐步减小对体数据的采样间隔,增加对体数据读取的次数,来对比观察纹理内存方案与本发明提出的全局-共享内存交换方案的绘制效率。实验效果如图5所示。
从图5中可以看出,随着对体数据的采样间隔逐渐减小,即读取次数逐渐增多,纹理内存法的绘制效率下降得非常快,而本发明提出的全局共享内存交换法的绘制效率基本不因采样间隔减少而降低。因此,当需要对体数据进行频繁读取时,本发明提出的全局共享内存交换法能有效的提高绘制效率,增加四维超声成像的帧率。
实施例2
本发明的实施例2提供了三维超声渲染成像装置,包括处理器以及存储器,所述存储器上存储有计算机程序,所述计算机程序被所述处理器执行时实现以上实施例提供的三维超声渲染成像方法。
三维超声渲染成像方法具体包括以下步骤:
将待处理的体数据分解为三个维度的分数据,并存储于全局内存中;
采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;
从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;
运算完后采用同步线程将所述体数据写回所述全局内存中。
本发明实施例提供的三维超声渲染成像装置,用于实现三维超声渲染成像方法,因此,上述三维超声渲染成像方法所具备的技术效果,三维超声渲染成像装置同样具备,在此不再赘述。
实施例3
本发明的实施例3提供了计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以上实施例提供的三维超声渲染成像方法。
三维超声渲染成像方法具体包括以下步骤:
将待处理的体数据分解为三个维度的分数据,并存储于全局内存中;
采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;
从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;
运算完后采用同步线程将所述体数据写回所述全局内存中。
本发明实施例提供的计算机存储介质,用于实现三维超声渲染成像方法,因此,上述三维超声渲染成像方法所具备的技术效果,计算机存储介质同样具备,在此不再赘述。
以上所述本发明的具体实施方式,并不构成对本发明保护范围的限定。任何根据本发明的技术构思所做出的各种其他相应的改变与变形,均应包含在本发明权利要求的保护范围内。
Claims (7)
1.一种三维超声渲染成像方法,其特征在于,包括以下步骤:
将待处理的体数据分解为三个维度的分数据,同一体数据的三个分数据等间隔存储于全局内存中;
采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,并写入共享内存中;
从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据;
运算完后采用同步线程束将所述体数据写回所述全局内存中;
采用同步线程束从所述全局内存中并发读取同一体数据的三个分数据,具体为:
所述线程束包括多个同步的线程,所述线程束的线程数量与同一体数据的分数据之间的间隔数量相等,各所述线程以自身线程号为基准位置,分别以0、n、2n为偏移量并发读取全局内存中同一体数据的三个分数据, n为线程束所包含的线程数量。
2.根据权利要求1所述的三维超声渲染成像方法,其特征在于,同一体数据的三个分数据等间隔存储于全局内存中,具体为:
三个维度的分数据分别为高度数据、宽度数据和深度数据,各所述体数据的高度数据、各所述体数据的宽度数据以及各所述体数据的深度数据依次连续存储于所述全局内存中。
3.根据权利要求1所述的三维超声渲染成像方法,其特征在于,从共享内存中读取所述体数据并进行数据运算,得到三维超声渲染成像数据,具体为:
从所述共享内存中读取待处理的体数据,采用光纤投射算法对所述体数据进行运算得到体素值,根据所述体素值进行三维超声渲染成像。
4.根据权利要求1所述的三维超声渲染成像方法,其特征在于,运算完后采用同步线程将所述体数据写回所述全局内存中,具体为:
各所述线程分别以自身线程号为基准位置,以0、n、2n为偏移量读取共享内存中的同一体数据的三个分数据,并写回所述全局内存中。
5.一种三维超声渲染成像装置,其特征在于,包括处理器以及存储器,所述存储器上存储有计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1-4任一所述的三维超声渲染成像方法。
6.根据权利要求5所述的三维超声渲染成像装置,其特征在于,所述处理器为GPU。
7.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-4任一所述的三维超声渲染成像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910924721.4A CN110675490B (zh) | 2019-09-27 | 2019-09-27 | 一种三维超声渲染成像方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910924721.4A CN110675490B (zh) | 2019-09-27 | 2019-09-27 | 一种三维超声渲染成像方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110675490A CN110675490A (zh) | 2020-01-10 |
CN110675490B true CN110675490B (zh) | 2023-04-28 |
Family
ID=69079523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910924721.4A Active CN110675490B (zh) | 2019-09-27 | 2019-09-27 | 一种三维超声渲染成像方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110675490B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115775199B (zh) * | 2022-11-23 | 2024-04-16 | 海光信息技术股份有限公司 | 数据处理方法和装置、电子设备和计算机可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1923840A2 (en) * | 2006-11-20 | 2008-05-21 | Agfa HealthCare NV | Picking on fused 3D volume rendered images and updating corresponding views according to a picking action |
CN101849813A (zh) * | 2009-03-31 | 2010-10-06 | 上海交通大学医学院附属新华医院 | 三维心脏超声虚拟内窥镜*** |
CN102254339A (zh) * | 2011-03-28 | 2011-11-23 | 深圳市蓝韵实业有限公司 | 一种实时医学超声三维成像方法 |
CN102609393A (zh) * | 2012-02-08 | 2012-07-25 | 浪潮(北京)电子信息产业有限公司 | 一种线性方程组的数据处理方法及装置 |
CN103105432A (zh) * | 2011-11-15 | 2013-05-15 | 北京理工大学 | 超声显微的三维透视成像技术 |
CN109345632A (zh) * | 2018-09-17 | 2019-02-15 | 深圳达闼科技控股有限公司 | 一种获取图像的方法、相关装置及可读存储介质 |
-
2019
- 2019-09-27 CN CN201910924721.4A patent/CN110675490B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1923840A2 (en) * | 2006-11-20 | 2008-05-21 | Agfa HealthCare NV | Picking on fused 3D volume rendered images and updating corresponding views according to a picking action |
CN101849813A (zh) * | 2009-03-31 | 2010-10-06 | 上海交通大学医学院附属新华医院 | 三维心脏超声虚拟内窥镜*** |
CN102254339A (zh) * | 2011-03-28 | 2011-11-23 | 深圳市蓝韵实业有限公司 | 一种实时医学超声三维成像方法 |
CN103105432A (zh) * | 2011-11-15 | 2013-05-15 | 北京理工大学 | 超声显微的三维透视成像技术 |
CN102609393A (zh) * | 2012-02-08 | 2012-07-25 | 浪潮(北京)电子信息产业有限公司 | 一种线性方程组的数据处理方法及装置 |
CN109345632A (zh) * | 2018-09-17 | 2019-02-15 | 深圳达闼科技控股有限公司 | 一种获取图像的方法、相关装置及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110675490A (zh) | 2020-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109239631B (zh) | 一种磁共振成像方法和装置 | |
US20050285858A1 (en) | System and method for fast volume rendering | |
JP2000149048A (ja) | 実時間ボリュ―ムレンダリングを可能にする方法 | |
CN106102584B (zh) | 基于软件的超声波成像*** | |
CN208766715U (zh) | 3*3卷积算法的加速电路 | |
CN102819820A (zh) | 基于分块渲染的gpu中多管线渲染的实现方法 | |
CN110390382B (zh) | 一种带新型特征图缓存模块的卷积神经网络硬件加速器 | |
CN105550978B (zh) | 一种面向统一染色架构的gpu 3d引擎片上存储层次结构 | |
CN103971396A (zh) | ARM+GPU异构架构下的光线投射算法的OpenGL ES实现方法 | |
CN110675490B (zh) | 一种三维超声渲染成像方法及装置 | |
CN108874296B (zh) | 一种基于并行架构的三维波形映射方法 | |
CN114638863A (zh) | 基于fpga的差分动态显微图像处理方法、装置及*** | |
CN102254339A (zh) | 一种实时医学超声三维成像方法 | |
KR20060044124A (ko) | 3차원 그래픽 가속을 위한 그래픽 시스템 및 메모리 장치 | |
Zheng et al. | Cache-aware GPU memory scheduling scheme for CT back-projection | |
CN112329920B (zh) | 磁共振参数成像模型的无监督训练方法及无监督训练装置 | |
WO2020249026A1 (zh) | 一种基于双Buffer架构下的纹理贴图硬件加速器 | |
CN202093573U (zh) | 一种用于工业ct图像重建的并行加速装置 | |
Solteszova et al. | Output‐Sensitive Filtering of Streaming Volume Data | |
CN109343117B (zh) | 双缓存双线程地震数据显示方法 | |
KR100318044B1 (ko) | 화상합성시스템 | |
CN101789043A (zh) | 一种基于asic设计的bm3d集合装置 | |
Köhn et al. | A GPU-based fiber tracking framework using geometry shaders | |
DE102022113521A1 (de) | Techniken zur Verschachtelung von Texturen | |
Westermann et al. | Decoupling polygon rendering from geometry using rasterization hardware |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |