CN106361345A - 基于摄像头标定的视频图像中人体身高测量的***及方法 - Google Patents

基于摄像头标定的视频图像中人体身高测量的***及方法 Download PDF

Info

Publication number
CN106361345A
CN106361345A CN201611070811.4A CN201611070811A CN106361345A CN 106361345 A CN106361345 A CN 106361345A CN 201611070811 A CN201611070811 A CN 201611070811A CN 106361345 A CN106361345 A CN 106361345A
Authority
CN
China
Prior art keywords
point
image
height
coordinate system
human
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611070811.4A
Other languages
English (en)
Inventor
王钧
段慧仙
王建
梅林�
刘娜
宋蕾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Third Research Institute of the Ministry of Public Security
Original Assignee
Third Research Institute of the Ministry of Public Security
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Third Research Institute of the Ministry of Public Security filed Critical Third Research Institute of the Ministry of Public Security
Priority to CN201611070811.4A priority Critical patent/CN106361345A/zh
Publication of CN106361345A publication Critical patent/CN106361345A/zh
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1072Measuring physical dimensions, e.g. size of the entire body or parts thereof measuring distances on the body, e.g. measuring length, height or thickness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1075Measuring physical dimensions, e.g. size of the entire body or parts thereof for measuring dimensions by non-invasive methods, e.g. for determining thickness of tissue layer
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1079Measuring physical dimensions, e.g. size of the entire body or parts thereof using optical or photographic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Dentistry (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本发明涉及一种基于摄像头标定的视频图像中人体身高测量的***,包括标定点选取模块、摄像头参数计算模块、体身高测量端点选取模块和人体身高计算模块;还包括一种基于摄像头标定的视频图像中人体身高测量的方法。采用该***及方法,在计算获得摄像头参数及其相应的空间变换矩阵后,仅依靠监控视频图像数据即可进行地面上直立人员身高的测量;简化了身高计算过程;通过同一位置点的图像空间坐标和实际空间坐标的对应关系计算摄像头参数;结合摄像头参数和脚底点、头顶点测量端点信息,利用身高计算算法,计算图像中地面上直立人员的身高。

Description

基于摄像头标定的视频图像中人体身高测量的***及方法
技术领域
本发明涉及计算机视觉技术领域,尤其涉及视频摄像头标定与视频图像目标测量技术领域,具体是指一种基于摄像头标定的视频图像中人体身高测量的***及方法。
背景技术
视频图像的目标测量方法有透视图测量法、现场重现测量法、空间映射法以及画面匹配法。透视作图测量法是基于透视学原理,通过绘图进行测量的方法。该方法操作简单,但要求掌握透视学的基本理论,且需要根据现场参照物准确找到“灭点”。现场重现测量法是一种基于犯罪现场重建的测量方法,在被检画面有条件进行现场重建时采用。该方法的测量精度取决于重现画面与被检画面影像的配准程度。空间映射法是利用摄像头参数获得实际空间和图像空间的映射关系,进行测算的一种方法。画面匹配法是基于现场三维坐标重建测量嫌疑人身高的方法。
本发明涉及的技术方法属于空间映射法。在没有外部参数约束的条件下,利用一个投影方向的二维图像数据完全求取三维空间的位置信息是不可能实现的。但是如果在二维图像空间中引入对三维空间目标的位置约束信息就有可能对满足约束条件的目标进行时空物理量的量测。本发明利用监控摄像头满足小孔成像原理、利用监控视频图像基本无畸变、所处地面平整等假设条件,设计摄像头参数求解算法计算监控摄像头的内外参数。同时,设计地平面上目标测量端点间的时空位置关系的算法实现对监控视频图像中人体身高的测量。
周小芹在其申请的发明专利“基于Kinect景深图像的快速身高和体重测量方法”[201510419297.X]中公开了一种基于Kinect景深图像的快速身高和体重测量方法,利用Kinect视角场几何推导来测量人体身高,不涉及骨骼关节点的差值计算,因此可以获得精确身高值,利用景深图像数据与实际数据之间的比例推算出每个深度图像帧像素宽度对应的实际宽度,再据此推算出精确的人体实际高度;同理,按照上述方法可以推算出精确的人体实际体宽;通过实际宽度和实际高度,可以估算出人体实际体重;本发明不仅精确而且速度快,只需人从摄像头前走过,就可以立即给出人体身高值和体重,省去了手工记录、录入数据的繁琐工序,减少了人力。
李跃威等在其申请的发明专利“视频图像中人体身高的测量方法”(申请号:201410544853.1)中公开了一种视频图像中人体身高的测量方法,步骤是:1,把具有当事人的视频图像分解成按时间顺序排列的多帧系列照片;2,在系列照片中找出关键帧照片;3,取具有视频图像和照片叠加程序的计算机,在计算机显示器上显示关键帧照片;4,用在原摄取点放置的摄像机摄取关键帧照片处视频图像,在计算机显示器上重合显示出来,5,计算机操作人员按显示器上重合显示的关键帧照片和关键帧照片处的视频图像,指导测量人员进入现场、把具有游标的塔尺下端抵在关键帧照片中站立的当事人脚下、让具有游标的塔尺通过当事人的头顶、把塔尺上的游标滑到当事人头顶,则游标指示的塔尺高度即是当事人的人体身高。本发明可以很方便、准确地测取视频图像中人体身高。
林哲祺等在其申请的发明专利“一种基于构造平面的单幅图像人体身高测量方法”[201310288619.2]中公开了一种基于构造平面的单幅图像人体身高测量方法。包括:1)在摄像机拍摄场景中任意布置四个等高度标杆;2)从图像中提取各个标杆的上下两个端点;3)利用各标杆上端点构造一平面,计算反映构造平面与地平面映射关系的单应性矩阵H;4)从图像中提取人体图像的两个端点,计算人体下端点在构造平面中映射点坐标,该映射点为人体与构造平面的交点;5)利用该交点、人体图像下端点以及任一标杆两个端点构造一平面,根据与标准矩形平面映射关系计算单应性矩阵Hs;6)利用Hs计算人体图像的上端点在标准矩形平面上的坐标,计算人体图像高度。本方法是计算机视觉单视测量的一种新方法,具有操作方便,成本低廉的优势。
赵星星在其申请的发明专利“身高测量***和方法”[201610158363.7]中公开了一种身高测量***和方法,属于身高测量技术领域,其可解决现有的通过图像分析测量身高的技术准确性差、被遮挡时不能实现、使用不便的问题。本发明的身高测量***包括:图像获取单元,用于获取深度图像;处理单元,用于分析得出所述深度图像中的地面和人体头顶,并计算出人体头顶与地面所在平面间的距离作为身高。
王飞等在其申请的发明专利“一种基于视频处理的人体身高测量方法”[201510851798.5]中公开了一种基于视频处理的人体身高测量方法,所述方法以单目相机作为实现平台。该方法首先通过对包含参考线的图像进行标定以获得三条参考线的投影参数,然后对包含待测人体的视频进行处理,具体包括1.准确识别出视频帧中的人体,2.运用图像处理算法分割出前景人体,3.提取人体特征点(头顶点与脚底点)像素坐标,最后将投影参数,相机高度,以及特征点像素坐标等数据输入核心投影算法便得到人体身高信息。该方法在硬件上只需要一台普通相机,其他皆由软件实现,简单易行,可信度高,大大提高了身高测量的效率。
王丽峰等在其申请的发明专利“一种身高测量方法”[201410704890.4]中涉及一种身高测量方法,包括以下步骤:步骤一,训练人脸分类器;步骤二:训练人脸身高模型;步骤三:通过分类器检测人脸;步骤四:获取目标人脸的图像数据;步骤五:将图像数据输入模型得到人体身高;该身高测量方法,它是机器学习算法与视觉算法的有效集成,能够在用户与摄像头距离不固定的情况下,无接触式测量身高,保证了一些特殊场所下测量身高数据的安全性。此方法突破传统测量工具的限制,操作方便,可以有效地节省成本和人力物力,可移植性强,今后可集成入多款智能产品中,创造一定的经济效益和实用价值。
柳林祥在其申请的发明专利“基于人体姿态识别的身高测量方法及装置”[201210137231.8]中公开了基于人体姿态识别的身高测量方法和装置,所述方法获取包括人体姿态的场景图像后,通过对人体姿态自动识别,对不同姿态的人体采用不同的身高计算方法,在人体处于难以直接计算身高的姿态时,通过分割人体图像中构成身高或臂展的不同部位,分别求取构成身高或臂展的不同部位的物理长度,并进一步求和估算人体身高。本发明大大提高了人体身高测量的自动化程度,和身高测量效率。
申琳等在其申请的发明专利“基于双目视觉技术的人体身高测量方法及其装置”[201310192474.6]中涉及计算机视觉技术领域,公开了一种基于双目视觉技术的人体身高测量方法及其装置。本发明中通过获取双目相机拍摄场景图像中人体目标的人头尖点的图像坐标和与之对应的深度信息,计算人头尖点在摄像机坐标系下的世界坐标,进而测量人体目标的身高。本发明要求被测人员配合度低,只需站到相机拍摄的可测量范围内便可完成身高测量,可以同时测量场景中多个人体目标的身高,且测量精度较高。
综上可知,现有的利用监控视频图像进行人体身高测量主要采用参照物计算比例,双目摄像头计算景深等方法将进行脚底点和头顶点的坐标求解。但这样的方法在诸如交通、治安等监控应用中,需要人员出现在现场时视频图像的场景里有相应的辅助设备,这对于实际应用会带来较大的人力、物力消耗。因而需要不依赖辅助设备,且能在事后对视频图像中地面上的人员进行身高测量的应用***,以快速计算视频图像中的人员身高。本发明首先计算摄像头内外参数矩阵信息,通过人机交互获取脚底点、头顶点的图像坐标,然后根据内外参数矩阵计算空间变换关系,根据身高测量时人员是直立于地面的假设,计算地面上人员的身高。
发明内容
本发明的目的是克服了上述现有技术的缺点,提供了一种能够实现仅依靠监控视频图像数据即可进行地面上直立人员身高的测量的基于摄像头标定的视频图像中人体身高测量的***及方法。
为了实现上述目的,本发明的基于摄像头标定的视频图像中人体身高测量的***及方法具有如下构成:
该基于摄像头标定的视频图像中人体身高测量的***,包括:
标定点选取模块,用于选取标定点,并确定标定点在世界坐标系与图像坐标系之间的对应关系;
摄像头参数计算模块,用于根据摄像机成像原理计算变换矩阵,并根据变换矩阵计算摄像头内外参数;
人体身高测量端点选取模块,用于通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
人体身高计算模块,用于根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
还包括一种上述***实现基于摄像头标定的视频图像中人体身高测量的方法,包括以下步骤:
(1)选取标定点,并确定各个标定点在世界坐标系下的坐标,进而建立标定点在世界坐标系与图像坐标系之间的对应关系;
(2)根据摄像机成像原理计算其变换矩阵,并根据变换矩阵计算摄像头内外参数;
(3)通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
(4)根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
较佳地,所述的步骤(1)包括以下步骤:
(1-1)在地面上或标定工具上选取一个点作为为原点O,并分别以地面上或标定工具上的相互垂直的直线作为X、Y轴,以垂直于XOY平面的直线为Z轴,建立世界坐标系;
(1-2)选取相对位置可以确定的点作为标定点;
(1-3)确定各个标定点在世界坐标系下的坐标;
(1-4)建立标定点在世界坐标系与图像坐标系之间的对应关系。
更佳地,所述的步骤(1-1)还包括以下步骤:
(1-1-1)把黑白棋盘格置于地面上,拍摄包含黑白棋盘格的视频图像;
(1-1-2)以所述的黑白棋盘格的左下角为原点O;
(1-1-3)分别以所述的黑白棋盘格的相互垂直的两边作为X、Y轴建立世界坐标系;
(1-1-4)以垂直于XOY平面的直线为Z轴。
更进一步地,所述的步骤(1-2)具体为:
在黑白棋盘格上选取至少五个标定点,获得标定点的图像坐标,其中任意三个标定点不共线。
较佳地,所述的步骤(2)包括:
(2-1)根据以下公式计算地面与图像平面之间的单应性矩阵H:
H=Kc(r1 r2 T),
R=(r1 r2 r3),
其中,Kc为摄像头内参数据,R为旋转矩阵,T为平移向量;
(2-2)拍摄包含标定工具的一副图像,根据监控摄像头的通用假设,通过以下公式估计摄像头焦距fc,旋转矩阵R和平移向量T:
h 1 T K c - T K c - 1 h 2 = 0 ,
h 1 T K c - T K c - 1 h 1 = h 2 T K c - T K c - 1 h 2 ,
其中,其中,hj为单应性矩阵H的第j列,为单应性矩阵H的转置矩阵的第j行,j=1,2;
(2-3)根据以下公式计算旋转矩阵R和平移向量T:
r 1 = αK c - 1 h 1 ,
r 2 = αK c - 1 h 2 ,
r3=r1×r2
T = αK c - 1 h 3 ,
其中,α为一任意常量,h1、h2和h3分别为单应性矩阵的第一列、第二列和第三列。较佳地,所述的步骤(4)包括以下步骤:
(4-1)根据以下公式计算脚底点在世界坐标系下的坐标:
α p m p = H x p y p 1 = H M ~ p ,
Mp=(xp,yp,0,1)T
其中,H为单应性矩阵,αp为一任意常量,mp为脚底点的图像坐标,H为单应性矩阵,Mp为脚底点在世界坐标系下的坐标,xh和yh分别为脚部特征点在世界坐标系下的坐标,为脚底点省略Z轴坐标后的平面坐标的齐次表示;
(4-2)根据单应性矩阵H解出xh和yh
(4-3)根据以下公式计算头顶点在世界坐标系中的坐标:
Mh=(xp,yp,zh,1)T
αhmh=Kc[R T]Mh=P3×4Mh
其中,αh为一个任意常量,mh为脚底点的图像坐标,P3×4为摄像机矩阵,Mh为头顶点在世界坐标系下的坐标,zh为人体头顶点在世界坐标系Z轴方向上的坐标;
(4-4)根据所述的摄像头内外参数解出zh,作为人体身高。
采用了该发明中的基于摄像头标定的视频图像中人体身高测量的***及方法,针对实际监控摄像头场景范围大,视距长,架设位置高等特点,基于对摄像头的参数进行标定及身高测量算法实现单个监控摄像头对地面上直立人员的身高的测量。对监控视频图像中的人员的身高进行测量,将有助于快速锁定嫌疑目标,将有助于提供线索、分析案情、辅助案事件处置;并为自动化的监控视频疑犯预警、目标筛选等的公共安全业务奠定基础。本发明的监控视频图像身高测量***将使得相关案(事)件处置过程中,节省大量的人力物力资源,提高工作效率,对维护社会安全、稳定具有重要的意义。
另外,视频监控目标测量不但对公共安全相关案(事)件处置业务具有现实而强有力的支撑,相关技术在其他领域也可以有非常广泛的应用,如,可用于无人机载摄像头目标跟踪与测量、自动驾驶视频图像分析、电商客户端VR体验等。因此,本发明的监控视频图像身高测量***具有广阔的市场前景。针对不同领域中不同的需求,结合图像处理技术的相关软件,该监控视频图像身高测量***将具有可观的经济效益。
本发明的监控视频图像身高测量***其身高测量方法不引入模型和算法方面的误差。在高清监控视频图像清晰,摄像头参数标定准确和头顶点和脚底点选择正确的条件下,对大于100像素的目标的身高测量的误差不大于视频图像像素离散性多带来的误差,也就是说在上述通常条件下,对身高的测量误差可以控制在2cm以下,这使得发明的监控视频图像身高测量***可以满足各类相关应用需求。
附图说明
图1为本发明的基于摄像头标定的视频图像中人体身高测量的***及方法测量***模块组成示意图。
图2为本发明的基于摄像头标定的视频图像中人体身高测量的***及方法测量***功能示意图。
图3为本发明的基于摄像头标定的视频图像中人体身高测量的***及方法摄像头内外参数标定流程图。
图4为本发明的基于摄像头标定的视频图像中人体身高测量的***及方法标定点选取示意图。
图5为本发明的基于摄像头标定的视频图像中人体身高测量的***及方法人体身高测量端点选取示意图。
附图标记说明:
301、302、303、304、305 标定点
401 头顶点
402 脚底点
具体实施方式
为了能够更清楚地描述本发明的技术内容,下面结合具体实施例来进行进一步的描述。
该基于摄像头标定的视频图像中人体身高测量的***,包括:
标定点选取模块,用于选取标定点,并确定标定点在世界坐标系与图像坐标系之间的对应关系;
摄像头参数计算模块,用于根据摄像机成像原理计算变换矩阵,并根据变换矩阵计算摄像头内外参数;
人体身高测量端点选取模块,用于通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
人体身高计算模块,用于根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
还包括一种上述***实现基于摄像头标定的视频图像中人体身高测量的方法,包括以下步骤:
(1)选取标定点,并确定各个标定点在世界坐标系下的坐标,进而建立标定点在世界坐标系与图像坐标系之间的对应关系;
(2)根据摄像机成像原理计算其变换矩阵,并根据变换矩阵计算摄像头内外参数;
(3)通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
(4)根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
较佳地,所述的步骤(1)包括以下步骤:
(1-1)在地面上或标定工具上选取一个点作为为原点O,并分别以地面上或标定工具上的相互垂直的直线作为X、Y轴,以垂直于XOY平面的直线为Z轴,建立世界坐标系;
(1-2)选取相对位置可以确定的点作为标定点;
(1-3)确定各个标定点在世界坐标系下的坐标;
(1-4)建立标定点在世界坐标系与图像坐标系之间的对应关系。
更佳地,所述的步骤(1-1)还包括以下步骤:
(1-1-1)把黑白棋盘格置于地面上,拍摄包含黑白棋盘格的视频图像;
(1-1-2)以所述的黑白棋盘格的左下角为原点O;
(1-1-3)分别以所述的黑白棋盘格的相互垂直的两边作为X、Y轴建立世界坐标系;
(1-1-4)以垂直于XOY平面的直线为Z轴。
更进一步地,所述的步骤(1-2)具体为:
在黑白棋盘格上选取至少五个标定点,获得标定点的图像坐标,其中任意三个标定点不共线。
较佳地,所述的步骤(2)包括:
(2-1)根据以下公式计算地面与图像平面之间的单应性矩阵H:
H=Kc(r1 r2 T),
R=(r1 r2 r3),
其中,Kc为摄像头内参数据,R为旋转矩阵,T为平移向量;
(2-2)拍摄包含标定工具的一副图像,根据监控摄像头的一般情况及通用假设,通过以下公式估计摄像头焦距fc,旋转矩阵R和平移向量T:
h 1 T K c - T K c - 1 h 2 = 0 ,
h 1 T K c - T K c - 1 h 1 = h 2 T K c - T K c - 1 h 2 ,
其中,hj为单应性矩阵H的第j列,为单应性矩阵H的转置矩阵的第j行,j=1,2;
(2-3)根据以下公式计算旋转矩阵R和平移向量T:
r 1 = αK c - 1 h 1 ,
r 2 = αK c - 1 h 2 ,
r3=r1×r2
T = αK c - 1 h 3 ,
其中,α为一任意常量,h1、h2和h3分别为单应性矩阵的第一列。第二列和第三列。
较佳地,所述的步骤(4)包括以下步骤:
(4-1)根据以下公式计算脚底点在世界坐标系下的坐标:
α p m p = H x p y p 1 = H M ~ p ,
Mp=(xp,yp,0,1)T
其中,H为单应性矩阵,αp为一任意常量,mp为脚底点的图像坐标,H为单应性矩阵,Mp为脚底点在世界坐标系下的坐标,xh和yh分别为脚部特征点在世界坐标系下的坐标,为脚底点省略Z轴坐标后的平面坐标的齐次表示;
(4-2)根据单应性矩阵H解出xh和yh
(4-3)根据以下公式计算头顶点在世界坐标系中的坐标:
Mh=(xp,yp,zh,1)T
αhmh=Kc[R T]Mh=P3×4Mh
其中,αh为一个任意常量,mh为脚底点的图像坐标,P3×4为摄像机矩阵,Mh为头顶点在世界坐标系下的坐标,zh为人体头顶点在世界坐标系Z轴方向上的坐标;
(4-4)根据所述的摄像头内外参数解出zh,作为人体身高。
如图1所示,监控视频图像身高测量***主要由标定点选取模块、摄像头参数计算模块、人体身高测量端点选取模块、人体身高计算模块组成。
1、标定点选取模块
用以确定受限条件下实际物理空间和图像空间中标定点的对应关系,进行标定点选取时,首先以地面上(或标定工具上)某一点为原点O分别以地面上(或标定工具上)已知垂直直线为X、Y轴建立世界坐标系,以垂直于XOY平面的直线为Z轴,并以已知相对位置的点作为标定点。由于已经知道图中各个标定点到原点的距离(标定工具上的点相对位置已知,而地面上的标定点可以通过测量得到),因此就可以确定各个标定点在世界坐标系下的坐标,进而建立标定点在世界坐标系与图像坐标系之间的对应关系。
2、摄像头参数计算模块
用以根据上述数据对应关系计算摄像头的相关参数,在确定了标定点在实际坐标系与图像坐标系之间的对应关系后就可以根据摄像机成像原理计算其变换矩阵,并依据变换矩阵计算摄像头内外参数作为后续人体身高计算所必需的摄像头属性信息。
3、人体身高测量端点选取模块
通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据。
4、人体身高计算模块
在获取了人体身高计算的测量端点信息后,即地面上直立的人员在图像空间的脚底点、头顶点坐标,结合摄像头内外参数及相应的空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离作为身高,完成人体身高计算。
如图2所示,本发明提出的监控视频图像人体身高测量方法包括以下步骤:
1、监控摄像头内外参数标定,如图3所示:
步骤1-1、把黑白棋盘格置于地面上,拍摄包含黑白棋盘格的视频图像;
步骤1-2、在包含黑白棋盘格的视频图像中选取标定点;
步骤1-3、输入标定点空间位置数据;
步骤1-4、利用摄像头参数计算模块估计出监控摄像头的内外参数。
在本发明的优选实例中,所述步骤1-2中标定点选取方法具体包括:
步骤1-2-1、如图3所示,标定工具为黑白棋盘格,大小为130cm*110cm,其中每块间隔为10cm。以黑白棋盘格左下角为原点O,分别以地面上(或标定工具上)已知垂直直线为X、Y轴建立世界坐标系,以垂直于XOY平面的直线为Z轴。
步骤1-2-2、如图3所示,在黑白棋盘格上至少选取5个标定点301,302,303,304,305,获得标定点的图像坐标,其中任意三个标定点不共线。选取多个标定点则可以提高监控摄像头参数标定精度。
进一步的,所述步骤1-3中输入标定点空间位置数据的方法为:
步骤1-3-1、由于黑白棋盘格中每块间隔为10cm,因此在步骤2-1中建立的O-XYZ世界坐标系下,标定点对应的空间坐标为
进一步的,所述步骤1-4中估计监控摄像头内外参数方法为:
步骤1-4-1、利用标定点及其对应的空间点坐标,建立标定点在世界坐标系与图像坐标系之间的对应关系,即求出地面与图像平面之间的单应性矩阵H,H=Kc(r1 r2 T),其中Kc为摄像头内参数据,R=(r1 r2 r3)为旋转矩阵,T为平移向量。
步骤1-4-2、拍摄包含标定工具的一副图像,则可对监控摄像头进行标定,即估计摄像头焦距fc,旋转矩阵R和平移向量T。
由于H=Kc(r1 r2 T),则有
h 1 T K c - T K c - 1 h 2 = 0
h 1 T K c - T K c - 1 h 1 = h 2 T K c - T K c - 1 h 2
其中,为单应性矩阵H的第j行,j=1,2。根据上式即可估计出摄像头焦距fc,从而估计出了摄像头的内参数矩阵Kc。进而,旋转矩阵R和平移向量T为:
r 1 = αK c - 1 h 1
r 2 = αK c - 1 h 2
r3=r1×r2
T = αK c - 1 h 3
2、人体身高测量
步骤2-1、如图5所示,通过人机交互界面,在图像上选取选择图像中直立于地面上的人员的脚底点402、头顶点401,并记录其对应的图像空间坐标作为人体身高计算的输入数据。
步骤2-2、在获取了人体身高计算的测量端点信息后,即地面上直立的人员在图像空间的脚底点、头顶点坐标,结合摄像头内外参数及相应的空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离作为身高,完成人体身高计算。
在本发明的优选实例中,所述步骤2-2中人体身高测量方法具体包括:
步骤2-2-1、估计脚底点在世界坐标系下的坐标。由摄像头成像过程有
α p m p = H x p y p 1 = H M ~ p
其中,αp常量,mp为脚底点402的图像坐标,H为单应性矩阵,Mp=(xp,yp,0,1)T为脚底点401在世界坐标系下的坐标。
由步骤1-4-1估计出的单应性矩阵H则可求解出xh和yh,即脚部特征点在世界坐标系下的坐标。
步骤2-2-2、计算人体身高。因为脚底点402是头顶点401在地面上的垂足,则头顶点402在世界坐标系中的坐标Mh=(xp,yp,zh,1)T只有zh是未知的。由摄像头成像过程有
αhmh=Kc[R T]Mh=P3×4Mh
其中,αp常量,mh为脚底点401的图像坐标,P3×4为摄像机矩阵,Mh为头顶点401在世界坐标系下的坐标。由步骤1-4-2估计出的摄像头内外参数即可求解出zh。因为zh是人体头顶点401在世界坐标系Z轴方向上的坐标,即得到了人体身高为zh
采用了该发明中的基于摄像头标定的视频图像中人体身高测量的***及方法,针对实际监控摄像头场景范围大,视距长,架设位置高等特点,基于对摄像头的参数进行标定及身高测量算法实现单个监控摄像头对地面上直立人员的身高的测量。对监控视频图像中的人员的身高进行测量,将有助于快速锁定嫌疑目标,将有助于提供线索、分析案情、辅助案事件处置;并为自动化的监控视频疑犯预警、目标筛选等的公共安全业务奠定基础。本发明的监控视频图像身高测量***将使得相关案(事)件处置过程中,节省大量的人力物力资源,提高工作效率,对维护社会安全、稳定具有重要的意义。
另外,视频监控目标测量不但对公共安全相关案(事)件处置业务具有现实而强有力的支撑,相关技术在其他领域也可以有非常广泛的应用,如,可用于无人机载摄像头目标跟踪与测量、自动驾驶视频图像分析、电商客户端VR体验等。因此,本发明的监控视频图像身高测量***具有广阔的市场前景。针对不同领域中不同的需求,结合图像处理技术的相关软件,该监控视频图像身高测量***将具有可观的经济效益。
本发明的监控视频图像身高测量***其身高测量方法不引入模型和算法方面的误差。在高清监控视频图像清晰,摄像头参数标定准确和头顶点和脚底点选择正确的条件下,对大于100像素的目标的身高测量的误差不大于视频图像像素离散性多带来的误差,也就是说在上述通常条件下,对身高的测量误差可以控制在2cm以下,这使得发明的监控视频图像身高测量***可以满足各类相关应用需求。
在此说明书中,本发明已参照其特定的实施例作了描述。但是,很显然仍可以作出各种修改和变换而不背离本发明的精神和范围。因此,说明书和附图应被认为是说明性的而非限制性的。

Claims (7)

1.一种基于摄像头标定的视频图像中人体身高测量的***,其特征在于,所述的***包括:
标定点选取模块,用于选取标定点,并确定标定点在世界坐标系与图像坐标系之间的对应关系;
摄像头参数计算模块,用于根据摄像机成像原理计算变换矩阵,并根据变换矩阵计算摄像头内外参数;
人体身高测量端点选取模块,用于通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
人体身高计算模块,用于根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
2.一种利用权利要求1所述的***实现基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的方法包括以下步骤:
(1)选取标定点,并确定各个标定点在世界坐标系下的坐标,进而建立标定点在世界坐标系与图像坐标系之间的对应关系;
(2)根据摄像机成像原理计算其变换矩阵,并根据变换矩阵计算摄像头内外参数;
(3)通过人机交互界面,在图像上选择图像中直立于地面上的人员的脚底点、头顶点,并记录其对应的图像空间坐标作为人体身高计算的输入数据;
(4)根据人体端点、摄像头内外参数和空间变换矩阵信息,计算脚底点和头顶点的实际物理空间距离,得到人体身高。
3.根据权利要求2所述的基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的步骤(1)包括以下步骤:
(1-1)在地面上或标定工具上选取一个点作为为原点O,并分别以地面上或标定工具上的相互垂直的直线作为X、Y轴,以垂直于XOY平面的直线为Z轴,建立世界坐标系;
(1-2)选取相对位置可以确定的点作为标定点;
(1-3)确定各个标定点在世界坐标系下的坐标;
(1-4)建立标定点在世界坐标系与图像坐标系之间的对应关系。
4.根据权利要求3所述的基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的步骤(1-1)还包括以下步骤:
(1-1-1)把黑白棋盘格置于地面上,拍摄包含黑白棋盘格的视频图像;
(1-1-2)以所述的黑白棋盘格的左下角为原点O;
(1-1-3)分别以所述的黑白棋盘格的相互垂直的两边作为X、Y轴建立世界坐标系;
(1-1-4)以垂直于XOY平面的直线为Z轴。
5.根据权利要求3所述的基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的步骤(1-2)具体为:
在黑白棋盘格上选取至少五个标定点,获得标定点的图像坐标,其中任意三个标定点不共线。
6.根据权利要求2所述的基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的步骤(2)包括:
(2-1)根据以下公式计算地面与图像平面之间的单应性矩阵H:
H=Kc(r1 r2 T),
R=(r1 r2 r3),
其中,Kc为摄像头内参数据,R为旋转矩阵,T为平移向量;
(2-2)拍摄包含标定工具的一副图像,根据监控摄像头的通用假设,通过以下公式估计摄像头焦距fc,旋转矩阵R和平移向量T:
h 1 T K c - T K c - 1 h 2 = 0 ,
h 1 T K c - T K c - 1 h 1 = h 2 T K c - T K c - 1 h 2 ,
其中,hj为单应性矩阵H的第j列,为单应性矩阵H的转置矩阵的第j行,j=1,2;
(2-3)根据以下公式计算旋转矩阵R和平移向量T:
r 1 = αK c - 1 h 1 ,
r 2 = αK c - 1 h 2 ,
r3=r1×r2
T = αK c - 1 h 3 ,
其中,α为一任意常量,h1、h2和h3分别为单应性矩阵的第一列、第二列和第三列。
7.根据权利要求2所述的基于摄像头标定的视频图像中人体身高测量的方法,其特征在于,所述的步骤(4)包括以下步骤:
(4-1)根据以下公式计算脚底点在世界坐标系下的坐标:
α p m p = H x p y p 1 = H M ~ p ,
Mp=(xp,yp,0,1)T
M ~ p = ( x p , y p , 1 ) T
其中,H为单应性矩阵,αp为一任意常量,mp为脚底点的图像坐标,H为单应性矩阵,Mp为脚底点在世界坐标系下的坐标,xh和yh分别为脚部特征点在世界坐标系下的坐标,为脚底点省略Z轴坐标后的平面坐标的齐次表示;
(4-2)根据单应性矩阵H解出xh和yh
(4-3)根据以下公式计算头顶点在世界坐标系中的坐标:
Mh=(xp,yp,zh,1)T
αhmh=Kc[R T]Mh=P3×4Mh
其中,αh为一个任意常量,mh为脚底点的图像坐标,P3×4为摄像机矩阵,Mh为头顶点在世界坐标系下的坐标,zh为人体头顶点在世界坐标系Z轴方向上的坐标;
(4-4)根据所述的摄像头内外参数解出zh,作为人体身高。
CN201611070811.4A 2016-11-29 2016-11-29 基于摄像头标定的视频图像中人体身高测量的***及方法 Pending CN106361345A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611070811.4A CN106361345A (zh) 2016-11-29 2016-11-29 基于摄像头标定的视频图像中人体身高测量的***及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611070811.4A CN106361345A (zh) 2016-11-29 2016-11-29 基于摄像头标定的视频图像中人体身高测量的***及方法

Publications (1)

Publication Number Publication Date
CN106361345A true CN106361345A (zh) 2017-02-01

Family

ID=57892417

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611070811.4A Pending CN106361345A (zh) 2016-11-29 2016-11-29 基于摄像头标定的视频图像中人体身高测量的***及方法

Country Status (1)

Country Link
CN (1) CN106361345A (zh)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107481283A (zh) * 2017-08-01 2017-12-15 深圳市神州云海智能科技有限公司 一种基于监控摄像机的机器人定位方法、装置及机器人
CN107767442A (zh) * 2017-10-16 2018-03-06 浙江工业大学 一种基于Kinect和双目视觉的脚型三维重建与测量方法
CN107798685A (zh) * 2017-11-03 2018-03-13 北京旷视科技有限公司 行人身高确定方法、装置及***
CN108416259A (zh) * 2018-01-24 2018-08-17 北汽福田汽车股份有限公司 人体生理特征信息采集方法、***及车辆
CN109146969A (zh) * 2018-08-01 2019-01-04 北京旷视科技有限公司 行人定位方法、装置及处理设备及其存储介质
CN109189226A (zh) * 2018-08-23 2019-01-11 凌宇科技(北京)有限公司 一种标定高度的方法及***
CN109394220A (zh) * 2018-11-28 2019-03-01 广东永衡良品科技有限公司 一种智能身高测量装置及其测量方法
CN109584843A (zh) * 2018-12-27 2019-04-05 章微微 高度自修正式白松古筝
CN110558988A (zh) * 2018-06-05 2019-12-13 北京远见医疗技术发展有限责任公司 一种头面全身参数测量方法和设备
CN111079589A (zh) * 2019-12-04 2020-04-28 常州工业职业技术学院 基于深度摄像和身高阈值像素标定的自动身高检测方法
CN111067530A (zh) * 2019-12-04 2020-04-28 常州工业职业技术学院 基于深度摄像的地铁乘客身高自动检测方法和***
CN111387987A (zh) * 2020-03-26 2020-07-10 苏州沃柯雷克智能***有限公司 一种基于图像识别的身高测量方法、装置、设备及存储介质
CN111803070A (zh) * 2020-06-19 2020-10-23 浙江大华技术股份有限公司 身高测量方法及电子设备
CN111862315A (zh) * 2020-07-25 2020-10-30 南开大学 一种基于深度相机的人体多尺寸测量方法及***
CN111985477A (zh) * 2020-08-27 2020-11-24 平安科技(深圳)有限公司 基于单目摄像头的动物体在线核赔方法、装置及存储介质
CN112232279A (zh) * 2020-11-04 2021-01-15 杭州海康威视数字技术股份有限公司 一种人员间距检测方法和装置
CN112419390A (zh) * 2020-11-26 2021-02-26 北京华捷艾米科技有限公司 一种人体身高测量方法及***
CN113643363A (zh) * 2021-06-29 2021-11-12 上海理工大学 一种基于视频图像的行人定位及轨迹跟踪方法
WO2022012019A1 (zh) * 2020-07-15 2022-01-20 华为技术有限公司 身高测量方法、身高测量装置和终端
WO2023004682A1 (zh) * 2021-07-29 2023-02-02 华为技术有限公司 身高检测方法、装置及存储介质
CN117218681A (zh) * 2023-11-09 2023-12-12 厦门瑞为信息技术有限公司 单目镜头的身高估计方法及小孩过闸装置与判断方法
CN111985477B (zh) * 2020-08-27 2024-06-28 平安科技(深圳)有限公司 基于单目摄像头的动物体在线核赔方法、装置及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102162738A (zh) * 2010-12-08 2011-08-24 中国科学院自动化研究所 摄像头与惯性传感器组合定位定姿***的标定方法
CN201977794U (zh) * 2010-12-10 2011-09-21 上海银晨智能识别科技有限公司 一种身高自动测量***
CN103578109A (zh) * 2013-11-08 2014-02-12 中安消技术有限公司 一种监控摄像机测距方法及装置
CN105913410A (zh) * 2016-03-03 2016-08-31 华北电力大学(保定) 一种基于机器视觉的远距离运动物体高度测量的装置与方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102162738A (zh) * 2010-12-08 2011-08-24 中国科学院自动化研究所 摄像头与惯性传感器组合定位定姿***的标定方法
CN201977794U (zh) * 2010-12-10 2011-09-21 上海银晨智能识别科技有限公司 一种身高自动测量***
CN103578109A (zh) * 2013-11-08 2014-02-12 中安消技术有限公司 一种监控摄像机测距方法及装置
CN105913410A (zh) * 2016-03-03 2016-08-31 华北电力大学(保定) 一种基于机器视觉的远距离运动物体高度测量的装置与方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ZHENGYOU ZHANG: "《Flexible camera calibration by viewing a plane from unknown orientations》", 《COMPUTER VISION, 1999. THE PROCEEDINGS OF THE SEVENTH IEEE INTERNATIONAL CONFERENCE ON》 *

Cited By (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107481283A (zh) * 2017-08-01 2017-12-15 深圳市神州云海智能科技有限公司 一种基于监控摄像机的机器人定位方法、装置及机器人
CN107767442A (zh) * 2017-10-16 2018-03-06 浙江工业大学 一种基于Kinect和双目视觉的脚型三维重建与测量方法
CN107767442B (zh) * 2017-10-16 2020-12-25 浙江工业大学 一种基于Kinect和双目视觉的脚型三维重建与测量方法
CN107798685A (zh) * 2017-11-03 2018-03-13 北京旷视科技有限公司 行人身高确定方法、装置及***
CN107798685B (zh) * 2017-11-03 2019-12-03 北京旷视科技有限公司 行人身高确定方法、装置及***
CN108416259B (zh) * 2018-01-24 2020-07-24 北汽福田汽车股份有限公司 人体生理特征信息采集方法、***及车辆
CN108416259A (zh) * 2018-01-24 2018-08-17 北汽福田汽车股份有限公司 人体生理特征信息采集方法、***及车辆
CN110558988A (zh) * 2018-06-05 2019-12-13 北京远见医疗技术发展有限责任公司 一种头面全身参数测量方法和设备
CN109146969A (zh) * 2018-08-01 2019-01-04 北京旷视科技有限公司 行人定位方法、装置及处理设备及其存储介质
CN109146969B (zh) * 2018-08-01 2021-01-26 北京旷视科技有限公司 行人定位方法、装置及处理设备及其存储介质
CN109189226B (zh) * 2018-08-23 2022-03-04 凌宇科技(北京)有限公司 一种标定高度的方法及***
CN109189226A (zh) * 2018-08-23 2019-01-11 凌宇科技(北京)有限公司 一种标定高度的方法及***
CN109394220A (zh) * 2018-11-28 2019-03-01 广东永衡良品科技有限公司 一种智能身高测量装置及其测量方法
CN109584843B (zh) * 2018-12-27 2022-02-11 余姚市恒正金属制品有限公司 高度自修正式白松古筝
CN109584843A (zh) * 2018-12-27 2019-04-05 章微微 高度自修正式白松古筝
CN111079589A (zh) * 2019-12-04 2020-04-28 常州工业职业技术学院 基于深度摄像和身高阈值像素标定的自动身高检测方法
CN111067530A (zh) * 2019-12-04 2020-04-28 常州工业职业技术学院 基于深度摄像的地铁乘客身高自动检测方法和***
CN111079589B (zh) * 2019-12-04 2022-09-20 常州工业职业技术学院 基于深度摄像和身高阈值像素标定的自动身高检测方法
CN111067530B (zh) * 2019-12-04 2022-09-20 常州工业职业技术学院 基于深度摄像的地铁乘客身高自动检测方法和***
CN111387987A (zh) * 2020-03-26 2020-07-10 苏州沃柯雷克智能***有限公司 一种基于图像识别的身高测量方法、装置、设备及存储介质
CN111803070A (zh) * 2020-06-19 2020-10-23 浙江大华技术股份有限公司 身高测量方法及电子设备
WO2022012019A1 (zh) * 2020-07-15 2022-01-20 华为技术有限公司 身高测量方法、身高测量装置和终端
CN111862315A (zh) * 2020-07-25 2020-10-30 南开大学 一种基于深度相机的人体多尺寸测量方法及***
CN111985477A (zh) * 2020-08-27 2020-11-24 平安科技(深圳)有限公司 基于单目摄像头的动物体在线核赔方法、装置及存储介质
CN111985477B (zh) * 2020-08-27 2024-06-28 平安科技(深圳)有限公司 基于单目摄像头的动物体在线核赔方法、装置及存储介质
CN112232279A (zh) * 2020-11-04 2021-01-15 杭州海康威视数字技术股份有限公司 一种人员间距检测方法和装置
CN112232279B (zh) * 2020-11-04 2023-09-05 杭州海康威视数字技术股份有限公司 一种人员间距检测方法和装置
CN112419390A (zh) * 2020-11-26 2021-02-26 北京华捷艾米科技有限公司 一种人体身高测量方法及***
CN113643363A (zh) * 2021-06-29 2021-11-12 上海理工大学 一种基于视频图像的行人定位及轨迹跟踪方法
CN113643363B (zh) * 2021-06-29 2023-12-26 上海理工大学 一种基于视频图像的行人定位及轨迹跟踪方法
WO2023004682A1 (zh) * 2021-07-29 2023-02-02 华为技术有限公司 身高检测方法、装置及存储介质
CN117218681A (zh) * 2023-11-09 2023-12-12 厦门瑞为信息技术有限公司 单目镜头的身高估计方法及小孩过闸装置与判断方法
CN117218681B (zh) * 2023-11-09 2024-02-06 厦门瑞为信息技术有限公司 单目镜头的身高估计方法及小孩过闸装置与判断方法

Similar Documents

Publication Publication Date Title
CN106361345A (zh) 基于摄像头标定的视频图像中人体身高测量的***及方法
Guan et al. Automated pixel-level pavement distress detection based on stereo vision and deep learning
CN104173054B (zh) 基于双目视觉技术的人体身高测量方法及其装置
CN104930985B (zh) 基于时空约束的双目视觉三维形貌测量方法
CN103099623B (zh) 一种人体运动学参数的提取方法
CN101443817B (zh) 用于确定场景的三维重建时的对应关系的方法和装置
CN106097348A (zh) 一种三维激光点云与二维图像的融合方法
CN109443209A (zh) 一种基于单应性矩阵的线结构光***标定方法
CN109658457A (zh) 一种激光与相机任意相对位姿关系的标定方法
CN101398886A (zh) 一种基于双目被动立体视觉的快速三维人脸识别方法
CN105286871A (zh) 一种基于视频处理的人体身高测量方法
CN106503605A (zh) 基于立体视觉技术的人体目标识别方法
CN104463899A (zh) 一种目标对象检测、监控方法及其装置
CN111996883B (zh) 一种检测公路路面宽度的方法
CN104634248A (zh) 一种双目视觉下的转轴标定方法
CN102914295A (zh) 基于计算机视觉立方体标定的三维测量方法
CN112084916A (zh) 基于遮挡率的城市三维天际轮廓线自动化生成与诊断方法
Zhang et al. Deep learning based object distance measurement method for binocular stereo vision blind area
CN110189347A (zh) 一种测量物体体积的方法及终端
CN106264537A (zh) 图像中人体姿态高度的测量***及方法
CN108257182A (zh) 一种立体摄像头模组的标定方法及装置
CN111311659A (zh) 一种基于斜交平面镜三维成像的校准方法
CN103260008B (zh) 一种影像位置到实际位置的射影转换方法
CN102999895A (zh) 利用两个同心圆线性求解摄像机内参数
CN113487726A (zh) 动作捕捉***和方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170201