CN101425185A - 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法 - Google Patents

一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法 Download PDF

Info

Publication number
CN101425185A
CN101425185A CNA200810239082XA CN200810239082A CN101425185A CN 101425185 A CN101425185 A CN 101425185A CN A200810239082X A CNA200810239082X A CN A200810239082XA CN 200810239082 A CN200810239082 A CN 200810239082A CN 101425185 A CN101425185 A CN 101425185A
Authority
CN
China
Prior art keywords
point
target
black square
summits
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA200810239082XA
Other languages
English (en)
Other versions
CN101425185B (zh
Inventor
周富强
程骏超
蔡斐华
张广军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN200810239082XA priority Critical patent/CN101425185B/zh
Publication of CN101425185A publication Critical patent/CN101425185A/zh
Application granted granted Critical
Publication of CN101425185B publication Critical patent/CN101425185B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明属于测量技术领域,涉及一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法。本发明设计的复合型平面靶标由一个黑色方块和一个白色圆斑构成,白色圆斑的中心的与黑色方块的中心重合,圆斑半径小于黑色方块;利用点与圆的切点具有透视投影不变性的特点,本发明设计的复合型平面靶标产生多达12个具有透视投影不变性的高精度标定点;利用产生的12个标定点的世界坐标和图像坐标,采用非线性优化方法对摄像机进行标定。本发明设计的靶标结构简单,成本低,能够适用于各种不同视场大小的视觉测量的摄像机标定。

Description

一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法
技术领域
本发明属于视觉测量技术领域,涉及一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法。
背景技术
摄像机标定是指根据摄像机模型,利用标定点的提取图像坐标和已知世界坐标求解模型参数,从而建立图像像素位置与空间三维点之间的映射关系,是视觉测量中的关键和前提,是建立视觉测量***的一个重要环节。
视觉测量的摄像机标定需要能够提供标准标定点的参照物,称为靶标。靶标上的标定点要求世界坐标已知,标定点的图像坐标容易提取。靶标的形式主要有立体式和平面式两种。立体靶标可提供一定数量的非共面空间三维点坐标,通常由相互正交的两个或三个刚性平面构成,其上设置有足够多的标定点。立体靶标加工难度大,成本高,难以达到较高精度。另外,由光照遮挡、靶标表面局部反射等原因引起的所拍摄各面标定图像质量不均问题,将导致标定点图像坐标提取精度下降。平面靶标能够提供一组共面的三维空间点坐标,由一刚性平面构成,根据需要在其表面加工一定数量的不同标记以提供标定点。
目前,无论是在立体靶标还是平面靶标,靶面上设置的标定点为如图1所示的6种形式之一:圆的中心、方块中心、十字线的交点、米字线的交点、方块的顶点和棋盘的格点。圆的透视投影表现为椭圆特征,圆的中心不具有透视投影不变性,即空间圆的中心在图像平面的透视投影点并不准确对应图像中椭圆的中心点,因此只能应用于靶标平面大致垂直于摄像机光轴的情况。基于图1所示的6种形式的靶标单元结构所获得的标定点数量有限,单圆、以中心为标定点的单个方块、单个十字和单个米字线都只能获得1个标定点,以顶点为标定点的单个方块可以产生4个标定点,单个棋盘结构单元也只能获得4个标定点。摄像机标定至少需要6个标定点,因此需要多个单元结构的组合才足以实现摄像机的标定。
针对视场小,工作距离短的小尺寸视觉测量的摄像机标定,需要在小范围产生大量的高精度特征点。多单元结构的标定靶标需要在加工过程中保证各个单元结构本身的几何精度及相互之间的位置精度,因此加工难度较大,且提高了加工成本。此外,在标定过程中,需要保证多单元结构的靶标的标定点图像具有高质量,无遮挡,才能获得高精度的标定点图像坐标。研究具有简单结构的复合型平面靶标,通过有限数量的显性特征产生隐性特征以供小尺寸视觉测量的摄像机,对提高小尺寸视觉测量标定方法的柔性和精度具有重要的意义。
发明内容
本发明的目的是:提出一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法,通过少量的显性标定点产生更多具有透视投影不变性的隐性标定点,以实现小尺寸视觉测量的摄像机标定。
本发明的技术方案是:一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法,其特征在于,
1、设定复合型平面标定靶标,所说的靶标有一个承载标定点的平面基底,平面基底由玻璃或陶瓷材料构成,在该基底上有一个黑色方块和一个白色圆斑,有白色圆斑的中心的与黑色方块的中心重合,黑色方块边长为8mm~20mm,精度为0.005mm,圆斑半径为4mm~10mm,精度为0.005mm,圆斑半径小于黑色方块;
2、选取靶标上黑色方块的4个顶点以及4个顶点与白色圆斑的8个切点为标定点;
3、获取步骤2所说的标定点的世界坐标,具体步骤如下:
第一步,以靶标上黑色方块的4个顶点中任意一个顶点为原点,建立世界坐标系,根据靶标的具体尺寸,计算其余3个顶点的世界坐标;计算黑色圆斑对应圆在世界坐标系下的方程;
第二步,根据靶标上黑色方块的4个顶点的世界坐标和白色圆斑对应圆在世界坐标系下的方程,分别计算每个顶点与白色圆斑的2个切点,总共获得8个切点的世界坐标,加上步4个顶点,共得到12个标定点的世界坐标;
4、在摄像机的视场范围内,自由移动靶标至少3个位置,每移动一个位置,拍摄一幅图像,称为标定图像,要求靶标上的黑色方块和白色圆斑包含在标定图像内;
5、提取所有标定图像的标定点的图像坐标,具体步骤如下:
第一步,空间中的方块的透视投影为四边形,提取标定图像中的四边形的4个顶点的图像坐标,并与顶点的世界坐标对应;
第二步,空间圆的透视投影为椭圆,提取标定图像中的椭圆特征,获得椭圆在图像坐标系下的方程;
第三步,在图像坐标系下,计算4个顶点与椭圆的切点,获得8个切点的图像坐标,并与切点的世界坐标对应;
6、利用步骤5提取的所有标定点的图像坐标及对应的世界坐标标定摄像机参数,将摄像机参数保存在参数文件中,以备测量调用。
本发明的优点是:
1、本发明的复合型平面靶标只需一个黑色方块中融入一个白色圆斑,加工简单,成本低,且较容易保证加工精度。
2、通过黑色方块顶点和顶点与白色圆斑的切点,产生多达12个具有透视投影不变性的高精度标定点,使得小范围内标定点数量大大增加,从而适用于小尺寸视觉测量的摄像机标定。
3、通过增大该发明的复合型平面靶标的方块和圆斑尺寸,可以使该靶标适用于多种不同视场大小以及工作距离的视觉测量***的标定,从而提高靶标使用效率,降低成本。
附图说明
图1是常用的六种靶标特征点示意图。图中(a)的靶标特征点为圆的中心,图中(b)的靶标特征点为方块中心,图中(c)的靶标特征点为十字线的交点,图中(d)的靶标特征点为米字线的交点,图中(e)的靶标特征点为方块的顶点,图中(f)的靶标特征点为棋盘的格点。
图2是摄像机的数学模型示意图。
图3是本发明的复合型型平面靶标的结构示意图。
图4是本发明的复合型平面靶标产生标定点的示意图。图中1~4为方块的顶点,5~12分别为4个顶点与白色圆斑的切点。
具体实施方式
下面对本发明做出进一步详细说明。针对视场小,工作距离短的小尺寸视觉测量的摄像机标定,需要在小范围产生至少6个以上的高精度标定点。
如图2所示,oc-xcyczc为摄像机坐标系,ow-xwywzw为建立在靶标上的世界坐标系,ou-xuyu为图像坐标系,on-xnyn为投影坐标系。πn为投影平面,πu为图像平面。点op是直线oczc与πu的交点,称为摄像机的主点。定义ocxc‖ouxu‖onxn,ocyc‖ouyu‖onyn o c z c ⊥ π u 和πn‖πu。任意空间点Pi的世界坐标为Xwi=(xwi,ywi,zwi)T,摄像机坐标为Xci=(xci,yci,zci)T,对应的投影点为pi。则ow-xwywzw到oc-xcyczc的变换为:
X ci = R c w X wi + T c w - - - [ 1 ]
其中
Figure A200810239082D00062
为3×3的正交旋转矩阵,
Figure A200810239082D00063
为3×1的平移矢量。
设点pi的投影坐标为Xni=(xni,yni)T,图像坐标为Xui=(xui,yui)T,摄像机在x、y方向上的有效焦距为fx和fy,摄像机的主点坐标为(u0,v0),则有
Xni=[xci/Zci yci/zci]T            [2]
Xui=[fxxni+u0 fyyni+v0]T          [3]
公式[1]~[3]表示了空间点到图像坐标的投影模型,空间任意点可以确定惟一图像投影点。反之,如果已知摄像机内部参数,根据公式[1]~[3],由图像坐标可以求得空间点的投影坐标,从而获得投影点在oc-xcyczc下的坐标。由摄像机模型可知,摄像机的参数主要包括摄像机的有效焦距fx和fy,摄像机的主点(u0,v0)以及摄像机的外部参数
根据摄像机模型,本发明提出的基于复合型平面靶标的摄像机标定方法的具体步骤如下:
1、设定复合型平面标定靶标,所说的靶标有一个承载标定点的平面基底,平面基底由玻璃或陶瓷材料构成,在该基底上有一个黑色方块和一个白色圆斑,有白色圆斑的中心的与黑色方块的中心重合,黑色方块边长为8mm~20mm,精度为0.005mm,圆斑半径为4mm~10mm,精度为0.005mm,圆斑半径小于黑色方块。
2、选取靶标上黑色方块的4个顶点以及4个顶点与白色圆斑的8个切点为标定点。
3、获取步骤2所说的标定点的世界坐标,具体步骤如下:
第一步,以靶标上黑色方块的4个顶点中任意一个顶点为原点,建立世界坐标系,根据靶标的具体尺寸,计算其余3个顶点的世界坐标;计算黑色圆斑对应圆在世界坐标系下的方程。
第二步,根据靶标上黑色方块的4个顶点的世界坐标和白色圆斑对应圆在世界坐标系下的方程,分别计算每个顶点与白色圆斑的2个切点,总共获得8个切点的世界坐标,加上步4个顶点,共得到12个标定点的世界坐标。点与圆的切点的计算方法参见周长发译的“计算机图形学几何工具算法详解(GeometricTools for Computer Graphic)”,电子工业出版社,2005。
4、在摄像机的视场范围内,自由移动靶标至少3个位置,每移动一个位置,拍摄一幅图像,称为标定图像,要求靶标上的黑色方块和白色圆斑包含在标定图像内。
5、提取所有标定图像的标定点的图像坐标,具体步骤如下:
第一步,空间中的方块的透视投影为四边形,提取标定图像中的四边形的4个顶点的图像坐标,并与顶点的世界坐标对应。四边形的顶点的图像坐标提取算法参见周富强著《双目立体视觉检测的关键技术研究》,北京航空航天大学博士后研究工作报告,2002。
第二步,空间圆的透视投影为椭圆,提取标定图像中的椭圆特征,获得椭圆在图像坐标系下的方程。椭圆的提取方法参见周富强等的发明专利“一种复杂背景图像中椭圆图像特征的自动提取方法”,申请号:200710303877.8,高开日:2008年7月9日。
第三步,在图像坐标系下,计算4个顶点与椭圆的切点,获得8个切点的图像坐标,并与切点的世界坐标对应。
设椭圆的方程为F(x,y)=0,设椭圆外任意点的坐标为(x1,y1),则点与椭圆的切点是下列方程组的解
F ( x , y ) = 0 x . ∂ F ∂ x ( x 1 , y 1 ) + y . ∂ F ∂ y ( x 1 , y 1 ) = 0 - - - [ 4 ]
6、利用步骤5提取的所有标定点的图像坐标及对应的世界坐标标定摄像机参数,将摄像机参数保存在参数文件中,以备测量调用。
根据公式[1]~[3]表示的摄像机实际模型,利用特征点的世界坐标Xwi,得到标定点的计算图像坐标Xmi=(xmi,ymi)T。若摄像机参数不够准确,则Xmi与Xui存在误差,由此可以建立摄像机校准的优化目标函数
f ( f x , f y , u 0 , v 0 , R c w , T c w ) = Σ i = 1 12 d 2 ( X mi , X ui ) - - - [ 5 ]
其中d2(Xmi,Xui)表示标定点的计算图像坐标到标定点的实际图像坐标的距离。摄像机参数的初始值估计参见周富强著《双目立体视觉检测的关键技术研究》,北京航空航天大学博士后研究工作报告,2002。
根据公式[5]可以估算出全部摄像机内部参数,包括fx,fy,u0,v0
Figure A200810239082D00073
Figure A200810239082D00074
若摄像机内部参数已知,则根据公式[5],采用Levenberg-Marquardt非线性优化方法可以直接估计摄像机的外部参数(
Figure A200810239082D00075
Figure A200810239082D00076
)。Levenberg-Marquardt算法参见《最优化理论与方法》,(袁亚湘、孙文瑜著,科学出版社,1999年)。
实施例
图4是本发明的复合型平面靶标产生标定点的示意图。在光学玻璃上镀膜、腐蚀的方法制作高精度的复合型的平面靶标,靶标的黑色方块的边长为9mm,圆斑的直径为5mm,精度为0.005mm。对于制作的复合型靶标,以方格左上角点为原点,水平方向为x轴,垂直向下方向为y轴建立世界坐标系,计算靶标上所有标定点的世界坐标,如表1所示。
表1 靶标上标定点的世界坐标(单位:毫米)
Figure A200810239082D00081
表2 提取的靶标上标定点的图像坐标(单位:像素)
Figure A200810239082D00082
与靶标平面特征点对应的点的图像坐标,如表2所示。
采用得到的多幅标定图像的标定点的世界坐标及其对应的图像坐标,对一1/6英寸的摄像机进行了标定,图像采集分辨率为PAL制式。标定的摄像机内部参数为:
fx=1186.859pixels,fy=1171.695pixels
u0=308.212pixels,v0=286.413pixels
标定误差用特征点的再投影图像坐标的误差表示,在x和y方向的RMS误差分别为:Δx=0.182pixels,Δy=0.131pixels。

Claims (1)

1、一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法,其特征在于,
1.1、设定复合型平面标定靶标,所说的靶标有一个承载标定点的平面基底,平面基底由玻璃或陶瓷材料构成,在该基底上有一个黑色方块和一个白色圆斑,有白色圆斑的中心的与黑色方块的中心重合,黑色方块边长为8mm~20mm,精度为0.005mm,圆斑半径为4mm~10mm,精度为0.005mm,圆斑半径小于黑色方块;
1.2、选取靶标上黑色方块的4个顶点以及4个顶点与白色圆斑的8个切点为标定点;
1.3、获取步骤1.2所说的标定点的世界坐标,具体步骤如下:
第一步,以靶标上黑色方块的4个顶点中任意一个顶点为原点,建立世界坐标系,根据靶标的具体尺寸,计算其余3个顶点的世界坐标;计算黑色圆斑对应圆在世界坐标系下的方程;
第二步,根据靶标上黑色方块的4个顶点的世界坐标和白色圆斑对应圆在世界坐标系下的方程,分别计算每个顶点与白色圆斑的2个切点,总共获得8个切点的世界坐标,加上步4个顶点,共得到12个标定点的世界坐标;
1.4、在摄像机的视场范围内,自由移动靶标至少3个位置,每移动一个位置,拍摄一幅图像,称为标定图像,要求靶标上的黑色方块和白色圆斑包含在标定图像内;
1.5、提取所有标定图像的标定点的图像坐标,具体步骤如下:
第一步,空间中的方块的透视投影为四边形,提取标定图像中的四边形的4个顶点的图像坐标,并与顶点的世界坐标对应;
第二步,空间圆的透视投影为椭圆,提取标定图像中的椭圆特征,获得椭圆在图像坐标系下的方程;
第三步,在图像坐标系下,计算4个顶点与椭圆的切点,获得8个切点的图像坐标,并与切点的世界坐标对应;
1.6、利用步骤1.5提取的所有标定点的图像坐标及对应的世界坐标标定摄像机参数,将摄像机参数保存在参数文件中,以备测量调用。
CN200810239082XA 2008-12-08 2008-12-08 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法 Expired - Fee Related CN101425185B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN200810239082XA CN101425185B (zh) 2008-12-08 2008-12-08 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN200810239082XA CN101425185B (zh) 2008-12-08 2008-12-08 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法

Publications (2)

Publication Number Publication Date
CN101425185A true CN101425185A (zh) 2009-05-06
CN101425185B CN101425185B (zh) 2011-03-30

Family

ID=40615779

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200810239082XA Expired - Fee Related CN101425185B (zh) 2008-12-08 2008-12-08 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法

Country Status (1)

Country Link
CN (1) CN101425185B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101750021B (zh) * 2009-12-04 2011-05-11 深圳先进技术研究院 Ct***中几何参数的标定方法、装置
CN103606147A (zh) * 2013-11-06 2014-02-26 同济大学 多台不共视场量测相机的坐标系转换标定方法
CN104851104A (zh) * 2015-05-29 2015-08-19 大连理工大学 采用柔性靶标高速摄相机近景大视场标定方法
CN104180775B (zh) * 2014-08-05 2017-01-11 吉林大学 基于柱面坐标的汽车视觉检测***的摄像机标定靶标
CN108364317A (zh) * 2017-03-03 2018-08-03 奈特视讯科技股份有限公司 靶面取像装置的校正方法
CN110378966A (zh) * 2019-06-11 2019-10-25 北京百度网讯科技有限公司 相机外参标定方法、装置、计算机设备及存储介质
CN111340891A (zh) * 2020-02-25 2020-06-26 卡莱特(深圳)云科技有限公司 一种利用led屏幕进行相机标定的方法及***
CN113436268A (zh) * 2021-06-03 2021-09-24 山东大学 一种基于主轴平行二次曲线特征的摄像机标定方法及***
CN117629106A (zh) * 2023-12-29 2024-03-01 中国人民解放军国防科技大学 一种多参考面结构体靶标装置及其制备方法、测试方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1250942C (zh) * 2003-06-11 2006-04-12 北京航空航天大学 一种基于平面靶标的结构光视觉传感器标定方法
CN100453966C (zh) * 2005-01-10 2009-01-21 北京航空航天大学 一种摄像机空间三维位置姿态测量方法
CN101216895B (zh) * 2007-12-26 2010-11-03 北京航空航天大学 一种复杂背景图像中椭圆图像特征的自动提取方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101750021B (zh) * 2009-12-04 2011-05-11 深圳先进技术研究院 Ct***中几何参数的标定方法、装置
CN103606147A (zh) * 2013-11-06 2014-02-26 同济大学 多台不共视场量测相机的坐标系转换标定方法
CN103606147B (zh) * 2013-11-06 2016-10-19 同济大学 多台不共视场量测相机的坐标系转换标定方法
CN104180775B (zh) * 2014-08-05 2017-01-11 吉林大学 基于柱面坐标的汽车视觉检测***的摄像机标定靶标
CN104851104A (zh) * 2015-05-29 2015-08-19 大连理工大学 采用柔性靶标高速摄相机近景大视场标定方法
CN104851104B (zh) * 2015-05-29 2017-12-26 大连理工大学 采用柔性靶标高速摄相机近景大视场标定方法
CN108364317A (zh) * 2017-03-03 2018-08-03 奈特视讯科技股份有限公司 靶面取像装置的校正方法
CN110378966A (zh) * 2019-06-11 2019-10-25 北京百度网讯科技有限公司 相机外参标定方法、装置、计算机设备及存储介质
CN111340891A (zh) * 2020-02-25 2020-06-26 卡莱特(深圳)云科技有限公司 一种利用led屏幕进行相机标定的方法及***
CN111340891B (zh) * 2020-02-25 2021-02-19 卡莱特(深圳)云科技有限公司 一种利用led屏幕进行相机标定的方法及***
CN113436268A (zh) * 2021-06-03 2021-09-24 山东大学 一种基于主轴平行二次曲线特征的摄像机标定方法及***
CN117629106A (zh) * 2023-12-29 2024-03-01 中国人民解放军国防科技大学 一种多参考面结构体靶标装置及其制备方法、测试方法

Also Published As

Publication number Publication date
CN101425185B (zh) 2011-03-30

Similar Documents

Publication Publication Date Title
CN101425185B (zh) 一种基于复合型平面靶标的小尺寸视觉测量的摄像机标定方法
CN103499302B (zh) 基于结构光视觉成像***的凸轮轴直径尺寸在线测量方法
CN101419061B (zh) 一种镜像式结构光视觉测量***和测量方法
CN106920261B (zh) 一种机器人手眼静态标定方法
CN100562707C (zh) 双目视觉转轴标定方法
CN103110429B (zh) 超声波探头的光学标定方法
CN103530880B (zh) 基于投影高斯网格图案的摄像机标定方法
CN101526338B (zh) 线结构光视觉传感***结构参数的现场标定方法
CN1250942C (zh) 一种基于平面靶标的结构光视觉传感器标定方法
CN108053450A (zh) 一种基于多约束的高精度双目相机标定方法
CN109596059A (zh) 一种基于平行线结构光的飞机蒙皮间隙与阶差测量方法
CN111220130B (zh) 可对空间任意位置的物体测量的聚焦测量方法及终端
CN103353388B (zh) 一种具摄像功能的双目体式显微成像***标定方法及装置
CN101726855A (zh) 基于立方体投影对鱼眼图像畸变校正方法
CN109827521B (zh) 一种快速多线结构光视觉测量***标定方法
CN103337069B (zh) 基于复合摄像机的高质量三维彩色图像获取方法及装置
CN102982551B (zh) 空间三条不平行直线线性求解抛物折反射摄像机内参数
CN109272555A (zh) 一种rgb-d相机的外部参数获得及标定方法
CN107816942A (zh) 一种基于十字结构光视觉***的平面二维尺寸测量方法
CN104807405B (zh) 一种基于光线角度标定的三维坐标测量方法
CN106403838A (zh) 一种手持式线结构光视觉三维扫描仪的现场标定方法
CN103606147A (zh) 多台不共视场量测相机的坐标系转换标定方法
CN102081798B (zh) 一种鱼眼立体相机对的极线校正方法
CN104240233A (zh) 一种摄像机单应性矩阵和投影机单应性矩阵的求解方法
CN108180888A (zh) 一种基于可转动摄像头的距离检测方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20110330

Termination date: 20111208