CN105078573A - 基于手持式扫描仪的神经导航空间配准方法 - Google Patents
基于手持式扫描仪的神经导航空间配准方法 Download PDFInfo
- Publication number
- CN105078573A CN105078573A CN201410196205.1A CN201410196205A CN105078573A CN 105078573 A CN105078573 A CN 105078573A CN 201410196205 A CN201410196205 A CN 201410196205A CN 105078573 A CN105078573 A CN 105078573A
- Authority
- CN
- China
- Prior art keywords
- cloud
- registration
- point
- scanner
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
本发明属于医学图像处理及应用领域,提供了一种基于手持式扫描仪的神经导航空间配准方法。本发明方法中使用手持式三维扫描仪获取***作对象整个头部表面的点云并将其直接转换到手术真实场景,无需标定和对扫描仪进行跟踪;然后使用解剖标记点实现手术真实场景和图像空间的粗配准,利用粗配准的结果与阈值分割算法实现外点的去除,最后使用优化的ICP算法进行精配准,使用结果表明,本方法实施简单,精度可靠,便于临床应用,可集成在现有导航***中,大幅度提高导航***精度,尤其是脑后部的配准精度。
Description
技术领域
本发明属医学图像处理及应用领域,涉及一种基于手持式扫描仪的神经导航空间配准方法。该方法能明显提高脑后部的配准精度,使手术导航在临床应用中更精确、实用和方便。
背景技术
现有技术公开了有关神经导航***能够帮助医生确定病灶位置和边界,减小医源性创伤,降低手术难度与手术风险。使用实践显示,神经导航***对术前病人CT或MR影像资料进行三维重建和可视化,获得虚拟模型,将手术部位与虚拟模型进行配准,使用高精度的定位***跟踪病人和手术器械的空间位置,使医生能在虚拟模型上看到手术器械相对于手术部位的位置,从而指导医生对病灶进行准确切除。实践还显示,神经导航***最重要的指标是定位精度,而对定位精度影响最大的是空间配准过程。
目前,神经导航***使用的空间配准方法主要有点配准和面配准。传统的导航***采用点配准进行空间配准。点配准的原理是在手术区域选择6-8个标记点,并在导航图像上人工识别出相应的标记点位置,对这些一一对应的点采用奇异值分解方法进行匹配;这种配准方法存在有以下缺点:在手术前需要专门为导航做一次影像扫描,增加了患者受辐射的程度和加重了患者的经济负担;粘贴在皮肤上的标记由于受皮肤偏移和膨胀的影响,容易发生移位,从而引起较大的配准误差;标记点配准过程消耗时间较长,增加了手术时间等等。针对这些缺点,有研究提出了面配准方法,所述的面配准方法不需要粘贴标记点,不需要专门为导航做一次影像扫描;该面配准原理是在病人空间用激光扫描仪获取病人面部点云,在图像空间提取一个代表病人面部轮廓的表面点云,通过迭代的方法对这两个点云进行匹配;然而,该面配准存尚存在以下缺点:由于病人皮肤偏移、膨胀导致面配准精度不稳定,由于面配准没有像点配准那样的理论依据,面配准的靶点配准误差较难把握,由于面配准提取的是面部信息,所以导致脑后部配准精度不高,以及三维扫描仪操作不方便,或者获取点云少等,由于上述缺点的存在,当前的面配准技术尚不能满足临床的需要。面配准脑后部精度不高的主要原因还在于临床上使用的扫描仪的扫描范围有限,这是扫描仪固定在三角架上且需要被跟踪造成的。
因此,目前临本申请的发明人拟提供一种基于手持式扫描仪的神经导航空间配准方法;该方法将能够获取整个头部表面的点云,使手术导航在临床应用中更精确、实用和方便,明显提高脑后部配准精度。
与本发明相关的现有技术有:
1G.Eggers,J.MuhlingandR.Marmulla,Image-to-patientregistrationtechniquesinheadsurgery,Int.J.Oral.Max.Surg.,2006,35:1081-1095
2K.S.Arun,T.S.HuangandS.D.Blostein,Least-squaresfittingoftwo3-Dpointsets,IEEETrans.Pattern.Anal.1987,PAMI-9:698-700.
3R.R.Shamir,M.Freiman,L.Joskowicz,S.SpektorandY.Shoshan,Surface-basedfacialscanregistrationinneuronavigationprocedures:aclinicalstudy:Clinicalarticle,J.Neurosurg.2009,111:1201-1206.
发明内容
本发明的目的在于提供一种基于手持式扫描仪的神经导航空间配准方法,该方法无需标定和对扫描仪进行跟踪,能够明显提高脑后部的配准精度,以及该方法能使手术导航在临床应用中更精确、实用和方便。
本发明的神经导航空间配准方法中,使用手持式三维扫描仪获取扫描对象整个头部表面的点云,使用粗配准和精配准结合的方法实现全局优化配准,即先将扫描到的点云直接转换到病人空间,再使用点配准方法获取较好的初始位置,利用粗配准后融合的图像和阈值分割算法去掉除头部点云以外的外点,最后使用优化的ICP算法完成配准。
具体的,本发明的基于手持式扫描仪的神经导航空间配准方法,其特征在于,包括步骤:
(1)使用手持式三维扫描仪获取病人(扫描对象)整个头部表面的点云,将点云从设备空间直接转换到病人空间,无需标定和对扫描仪进行跟踪;
(2)使用解剖标记点实现扫描仪获得的点云与影像数据分割重建而成的点云的粗配准;
(3)利用粗配准的结果和阈值分割算法去除外点;
(4)使用优化的ICP算法进行精配准。
本发明方法中,通过光学定位仪使病人空间(手术真实场景)与图像空间处于同一空间,并使用手持式三维扫描仪获取病人整个头部的点云,将其从设备坐标系直接转换到病人空间,无需标定和对扫描仪进行跟踪;本发明的实施例中,使用参考架上的五个目标点得到一个从设备坐标系到病人坐标系的线性转换关系,利用这个转换关系将扫描得到的点云从设备坐标系直接转换到病人空间;
其中,所述的设备空间的五个虚拟目标点和参考架上的五个目标点,通过SVD算法求解一种线性关系;
本发明方法中,选取三到四个解剖标记点,使用点配准方法实现粗配准;本发明的实施例中,使用外眦、鼻尖,鼻根等解剖标记点实现粗配准;粗配准后将扫描点云转换到图像空间,与影像数据进行融合,利用融合后的图像和阈值分割算法去除除头部区域外的外点;所述粗配准,外点去除,精配准是一个点配准,阈值分割,优化的ICP算法相结合的三步配准方法,它能获得一个全局最优解。粗配准不但提供给精配准一个较好的初始位置,还能结合阈值分割算法自动实现外点的去除。精配准通过优化的ICP算法完成最终的配准。
本发明方法中,最后使用优化的ICP算法完成精配准;本发明的实施例中将ICP算法的六个阶段重新组合成最适合神经导航空间配准的优化的ICP算法。
本发明的方法进行了实验试用,结果显示,
本方法能够完成扫描点云从设备空间直接转换到病人空间而无需标定和对扫描仪进行跟踪:
在参考架上贴五个目标点(如图1所示),该些目标点的直径为10mm,正面白色和黑色部分由反光材料组成,反面由不干胶构成(如图2所示),扫描仪能够自动识别所述目标点并计算它们在设备坐标系中的坐标;
在配准过程中,首先同时扫描参考架和病人头部部分表面(如图3所示),五个目标点以及整个头部表面点云(如图4所示)全部被扫描到后,利用扫描点云中的五个虚拟目标点的坐标和参考架上的五个目标点的坐标,计算设备坐标系到病人空间的转换关系,然后利用这个转换关系将扫描点云直接转换到病人空间;
扫描完成后,使用三步配准方法完成两个空间的配准,包括粗配准,外点去除,精配准,具体包括:
(1)分别在病人空间和图像空间选取外眦,鼻尖,鼻根四个解剖标记点,然后使用SVD算法求得一个空间转换关系,得到一个较好的初始位置;
(2)将扫描点云从设备空间转换到病人空间,与影像数据进行融合,通过融合后的图像和阈值分割算法完成外点的去除,将阈值设为粗配准中标记点配准误差的二到三倍,对扫描点云中的每个点,如果它到影像数据的每个点的距离的最小值大于这个点云,那么这个点属于外点;
(3)在被分为六个阶段的ICP算法的每个阶段选定最适合于神经导航策略,组成优化的ICP算法,其包括:
①均匀采样病人空间的点云;
②选择法向量夹角为45度以内的点对;
③点对的权重设为1;
去除距离最大的10%的点对;
点到点的欧氏距离作为误差矩阵;
“选择-匹配-最小化”迭代;
优化的ICP算法能明显提高导航的配准精度。
本发明的基于手持式扫描仪的神经导航空间配准方法与现有技术相比,具有以下优点:
(1)无需标定,使扫描仪不需要被光学定位仪跟踪,
(2)可直接将扫描到的点云从设备坐标系直接转换到病人坐标系,
(3)能够扫描到整个头部表面的点云,
(4)可自动去除外点,
(5)提高了脑后部的配准精度,减小了脑后部的靶点配准误差。
附图说明
图1和图2分别是参考架上贴五个目标点示意图。
图3是初始扫描位置示意图。
图4是扫描脑后部示意图。
图5是配准前,粗配准后,外点去除后,精配准后的结果示意图。
具体实施方式
实施例1采用本发明方法进行自动神经导航空间配准实验
包括以下步骤:
1.扫描点云直接转换到病人空间
在参考架上贴五个目标点,扫描仪能够自动识别这些目标点并计算它们在设备空间中的坐标;事先测量病人空间的五个目标点的坐标,所述五个目标点在参考架上的坐标分别为[22.389188.0218-10.5133,64.343986.9125-10.1229,45.164476.5587-14.3736,72.728137.4201-10.7621,25.214632.5206-10.5961];在配准过程中,首先同时扫描参考架和病人头部部分表面,待五个目标点全部被扫描到后,接着扫描整个头部表面点云,设备空间中五个虚拟目标点的坐标分别为[-30.8897-53.8451471.0523,11.0324-52.8639473.9003,-8.2330-43.2682466.7260,21.7977-19.1250438.3933,-25.2083-16.0004430.7617],扫描完成后,利用扫描点云中的五个虚拟目标点的坐标和参考架上的五个目标点的坐标,计算出它们之间的转换关系,即设备空间到病人空间的转换关系,然后利用该转换关系将扫描点云直接转换到病人空间;
2.三步配准方法
在扫描完成后,使用三步配准方法完成两个空间的配准,包括粗配准,外点去除,精配准:
(1)分别在病人空间和图像空间选取外眦,鼻尖,鼻根四个解剖标记点,然后使用SVD算法求得一个空间转换关系,从而得到一个较好的初始位置(如图5(b)所示);
(2)将扫描点云从设备坐标系转换到病人空间,与影像数据进行融合,通过融合后的图像和阈值分割算法完成外点的去除,将阈值设为粗配准中标记点配准误差的三倍,对扫描点云中的每个点,如果它到影像数据的每个点的距离的最小值大于这个点云,那么这个点属于外点(如图5(c)所示);
(3)通过优化的ICP算法实现最终配准(如图5(d)所示)。
本实施例的实验结果表明,本方法能解决现有面配准方法中脑后部配准精度不高的弊端;所述方法能够获取整个头部表面的点云,可自动去除外点;该方法无需标定,扫描仪不需要被光学定位仪跟踪,可直接将扫描到的点云从设备坐标系直接转换到病人坐标系;本发明提高了脑后部的配准精度,减小了脑后部的靶点配准误差;本方法实施简单,精度可靠,便于临床应用,可集成在现有导航***中,从而大幅度提高导航***精度,尤其是脑后部的配准精度。
Claims (5)
1.一种基于手持式扫描仪的神经导航空间配准方法,其特征在于,其包括步骤:
(1)使用手持式三维扫描仪获取扫描对象整个头部表面的点云,不需标定和对扫描仪进行跟踪,将点云从设备空间直接转换到真实场景;
(2)使用解剖标记点实现扫描仪获得的点云与影像数据分割重建的点云的粗配准;
(3)利用粗配准的结果和阈值分割算法去除外点;
(4)使用优化的ICP算法进行精配准。
2.根据权利要求1所述的方法,其特征在于,所述步骤(1)中,使用参考架上的五个目标点得到一个从设备坐标系到扫描对象坐标系的线性转换关系,利用该转换关系将扫描得到的点云从设备坐标系直接转换到真实场景;
所述五个目标点在参考架上的坐标分别为:22.389188.0218-10.5133,64.343986.9125-10.1229,45.164476.5587-14.3736,72.728137.4201-10.7621,25.214632.5206-10.5961。
3.根据权利要求1所述的方法,其特征在于,所述步骤(2)中选取三到四个解剖标记点,使用点配准方法实现粗配准。
4.根据权利要求1所述的方法,其特征在于,所述步骤(3)中粗配准后将扫描到的点云转换到图像空间,与影像数据进行融合,利用融合后的图像和阈值分割算法去除外点。
5.根据权利要求1所述的方法,其特征在于,所述步骤(4)中将ICP算法的六个阶段组合成优化的ICP算法,其包括:
①均匀采样真实场景的点云;
②选择法向量夹角为45度以内的点对;
③点对的权重设为1;
去除距离最大的10%的点对;
点到点的欧氏距离作为误差矩阵;
“选择-匹配-最小化”迭代。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410196205.1A CN105078573B (zh) | 2014-05-11 | 2014-05-11 | 基于手持式扫描仪的神经导航空间配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410196205.1A CN105078573B (zh) | 2014-05-11 | 2014-05-11 | 基于手持式扫描仪的神经导航空间配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105078573A true CN105078573A (zh) | 2015-11-25 |
CN105078573B CN105078573B (zh) | 2017-12-01 |
Family
ID=54560535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410196205.1A Expired - Fee Related CN105078573B (zh) | 2014-05-11 | 2014-05-11 | 基于手持式扫描仪的神经导航空间配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105078573B (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106214256A (zh) * | 2016-09-21 | 2016-12-14 | 华南理工大学 | 一种无标记点光学手术导航***及其导航方法 |
CN106600531A (zh) * | 2016-12-01 | 2017-04-26 | 深圳市维新登拓医疗科技有限公司 | 手持扫描仪、手持扫描仪点云拼接方法和装置 |
CN106780572A (zh) * | 2016-12-12 | 2017-05-31 | 首都医科大学附属北京安贞医院 | 基于迭代最近点的自动电解剖图与ct图像配准方法和装置 |
CN107918925A (zh) * | 2016-10-11 | 2018-04-17 | 韦伯斯特生物官能(以色列)有限公司 | 磁跟踪***与成像装置的配准 |
CN108175501A (zh) * | 2016-12-08 | 2018-06-19 | 复旦大学 | 一种基于探针的手术导航空间配准方法 |
CN108175500A (zh) * | 2016-12-08 | 2018-06-19 | 复旦大学 | 基于手持式三维扫描仪的手术导航空间配准方法 |
CN109965979A (zh) * | 2017-12-27 | 2019-07-05 | 上海复旦数字医疗科技股份有限公司 | 一种无需标志点的稳健的神经导航自动注册方法 |
CN110459301A (zh) * | 2019-07-29 | 2019-11-15 | 清华大学 | 基于热力图和面部关键点的脑部神经外科导航配准方法 |
CN111640143A (zh) * | 2020-04-12 | 2020-09-08 | 复旦大学 | 一种基于PointNet的神经导航快速面配准方法及*** |
CN112370163A (zh) * | 2020-11-11 | 2021-02-19 | 上海交通大学医学院附属第九人民医院 | 用于下颌骨重建的腓骨移植手术机器人 |
CN112826590A (zh) * | 2021-02-02 | 2021-05-25 | 复旦大学 | 基于多模态融合和点云配准的膝关节置换术空间注册*** |
CN113274130A (zh) * | 2021-05-14 | 2021-08-20 | 上海大学 | 用于光学手术导航***的无标记手术注册方法 |
CN114332076A (zh) * | 2022-03-01 | 2022-04-12 | 北京壹点灵动科技有限公司 | 骨盆配准的方法、装置、计算机可读存储介质和处理器 |
CN114681057A (zh) * | 2020-12-31 | 2022-07-01 | 华科精准(北京)医疗科技有限公司 | 一种空间配准方法、装置以及神经外科手术导航*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030231173A1 (en) * | 2002-06-17 | 2003-12-18 | Wojciech Matusik | Modeling 3D objects with opacity hulls |
CN101862220A (zh) * | 2009-04-15 | 2010-10-20 | 中国医学科学院北京协和医院 | 基于结构光图像的椎弓根内固定导航手术***和方法 |
CN102169579A (zh) * | 2011-03-31 | 2011-08-31 | 西北工业大学 | 密集点云模型快速精确配准方法 |
-
2014
- 2014-05-11 CN CN201410196205.1A patent/CN105078573B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030231173A1 (en) * | 2002-06-17 | 2003-12-18 | Wojciech Matusik | Modeling 3D objects with opacity hulls |
CN101862220A (zh) * | 2009-04-15 | 2010-10-20 | 中国医学科学院北京协和医院 | 基于结构光图像的椎弓根内固定导航手术***和方法 |
CN102169579A (zh) * | 2011-03-31 | 2011-08-31 | 西北工业大学 | 密集点云模型快速精确配准方法 |
Non-Patent Citations (2)
Title |
---|
王君臣等: "基于ICP算法的手术导航三维配准技术", 《北京航空航天大学学报》 * |
穆晓兰等: "神经外科导航***基于迭代局部最近点法技术的形态学三维数据场的快速配准与融合", 《解剖学杂志》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106214256A (zh) * | 2016-09-21 | 2016-12-14 | 华南理工大学 | 一种无标记点光学手术导航***及其导航方法 |
CN107918925A (zh) * | 2016-10-11 | 2018-04-17 | 韦伯斯特生物官能(以色列)有限公司 | 磁跟踪***与成像装置的配准 |
CN106600531A (zh) * | 2016-12-01 | 2017-04-26 | 深圳市维新登拓医疗科技有限公司 | 手持扫描仪、手持扫描仪点云拼接方法和装置 |
CN106600531B (zh) * | 2016-12-01 | 2020-04-14 | 深圳市维新登拓医疗科技有限公司 | 手持扫描仪、手持扫描仪点云拼接方法和装置 |
CN108175501A (zh) * | 2016-12-08 | 2018-06-19 | 复旦大学 | 一种基于探针的手术导航空间配准方法 |
CN108175500A (zh) * | 2016-12-08 | 2018-06-19 | 复旦大学 | 基于手持式三维扫描仪的手术导航空间配准方法 |
CN106780572A (zh) * | 2016-12-12 | 2017-05-31 | 首都医科大学附属北京安贞医院 | 基于迭代最近点的自动电解剖图与ct图像配准方法和装置 |
CN109965979A (zh) * | 2017-12-27 | 2019-07-05 | 上海复旦数字医疗科技股份有限公司 | 一种无需标志点的稳健的神经导航自动注册方法 |
CN110459301A (zh) * | 2019-07-29 | 2019-11-15 | 清华大学 | 基于热力图和面部关键点的脑部神经外科导航配准方法 |
CN110459301B (zh) * | 2019-07-29 | 2021-11-02 | 清华大学 | 基于热力图和面部关键点的脑部神经外科导航配准方法 |
CN111640143A (zh) * | 2020-04-12 | 2020-09-08 | 复旦大学 | 一种基于PointNet的神经导航快速面配准方法及*** |
CN111640143B (zh) * | 2020-04-12 | 2023-05-30 | 复旦大学 | 一种基于PointNet的神经导航快速面配准方法及*** |
CN112370163B (zh) * | 2020-11-11 | 2022-05-31 | 上海交通大学医学院附属第九人民医院 | 用于下颌骨重建的腓骨移植手术机器人 |
CN112370163A (zh) * | 2020-11-11 | 2021-02-19 | 上海交通大学医学院附属第九人民医院 | 用于下颌骨重建的腓骨移植手术机器人 |
CN114681057A (zh) * | 2020-12-31 | 2022-07-01 | 华科精准(北京)医疗科技有限公司 | 一种空间配准方法、装置以及神经外科手术导航*** |
CN112826590A (zh) * | 2021-02-02 | 2021-05-25 | 复旦大学 | 基于多模态融合和点云配准的膝关节置换术空间注册*** |
CN113274130A (zh) * | 2021-05-14 | 2021-08-20 | 上海大学 | 用于光学手术导航***的无标记手术注册方法 |
CN114332076B (zh) * | 2022-03-01 | 2022-06-14 | 北京壹点灵动科技有限公司 | 骨盆配准的方法、装置、计算机可读存储介质和处理器 |
CN114332076A (zh) * | 2022-03-01 | 2022-04-12 | 北京壹点灵动科技有限公司 | 骨盆配准的方法、装置、计算机可读存储介质和处理器 |
Also Published As
Publication number | Publication date |
---|---|
CN105078573B (zh) | 2017-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105078573B (zh) | 基于手持式扫描仪的神经导航空间配准方法 | |
US11717376B2 (en) | System and method for dynamic validation, correction of registration misalignment for surgical navigation between the real and virtual images | |
Wang et al. | Video see‐through augmented reality for oral and maxillofacial surgery | |
CN109785374B (zh) | 一种牙科增强现实手术导航的自动实时无标记图像配准方法 | |
EP3254621B1 (en) | 3d image special calibrator, surgical localizing system and method | |
CN107456278B (zh) | 一种内窥镜手术导航方法和*** | |
CN110946654A (zh) | 一种基于多模影像融合的骨科手术导航*** | |
CN103209656B (zh) | 配准过的表面下解剖部的可视化 | |
CA2797302C (en) | System and methods for intraoperative guidance feedback | |
CN103040525B (zh) | 一种多模医学影像手术导航方法及*** | |
Wu et al. | A multi-image shape-from-shading framework for near-lighting perspective endoscopes | |
CN106214256A (zh) | 一种无标记点光学手术导航***及其导航方法 | |
CN110236674A (zh) | 一种基于结构光扫描的肝脏手术导航方法及*** | |
JP7202737B2 (ja) | 歯科インプラントナビゲーション手術の追跡方法および装置 | |
US20080242978A1 (en) | Method and apparatus for registering a physical space to image space | |
CN106344152B (zh) | 腹部外科手术导航配准方法及*** | |
US20230410445A1 (en) | Augmented-reality surgical system using depth sensing | |
CN100418489C (zh) | 手术导航中基于基准面膜的多模式医学图像配准*** | |
CN102999902A (zh) | 基于ct配准结果的光学导航定位***及其导航方法 | |
CN110033465A (zh) | 一种应用于双目内窥镜医学图像的实时三维重建方法 | |
CN103948432A (zh) | 术中立体内窥视频与超声图像增强现实算法 | |
CN109498156A (zh) | 一种基于三维扫描的头部手术导航方法 | |
CN105701788A (zh) | 一种基于全局优化的神经导航自动空间配准方法 | |
CN106137395B (zh) | 应用于无标记点光学手术导航***的全自动病人注册方法 | |
CN112641512A (zh) | 一种应用于手术机器人前规划的空间配准方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20171201 Termination date: 20210511 |
|
CF01 | Termination of patent right due to non-payment of annual fee |