CN108629294A - 基于变形图的人体与人脸网格模板拟合方法 - Google Patents
基于变形图的人体与人脸网格模板拟合方法 Download PDFInfo
- Publication number
- CN108629294A CN108629294A CN201810340618.0A CN201810340618A CN108629294A CN 108629294 A CN108629294 A CN 108629294A CN 201810340618 A CN201810340618 A CN 201810340618A CN 108629294 A CN108629294 A CN 108629294A
- Authority
- CN
- China
- Prior art keywords
- standard form
- data
- scan data
- human body
- follows
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000001514 detection method Methods 0.000 claims abstract description 22
- 230000009466 transformation Effects 0.000 claims abstract description 20
- 230000000694 effects Effects 0.000 claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims description 21
- 238000013519 translation Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 9
- 230000001815 facial effect Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 8
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 4
- 238000012937 correction Methods 0.000 claims description 4
- 210000001508 eye Anatomy 0.000 claims description 4
- 238000005303 weighing Methods 0.000 claims description 4
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 238000006073 displacement reaction Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000010408 sweeping Methods 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000002360 preparation method Methods 0.000 abstract description 4
- 230000009467 reduction Effects 0.000 abstract description 4
- 230000008921 facial expression Effects 0.000 abstract description 3
- 210000000988 bone and bone Anatomy 0.000 description 6
- 230000008859 change Effects 0.000 description 3
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000029052 metamorphosis Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/14—Transformations for image registration, e.g. adjusting or mapping for alignment of images
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种基于变形图的人体与人脸网格模板拟合方法,不需要作任何事前准备,亦可快速将标准人体或人脸模板向扫描数据变形并得到良好的拟合效果。该方法是首先对目标的扫描数据进行特征点检测,辅以人工校正,然后进行刚性对齐及变形图配准两种稀疏配准方法实现标准模板与扫描数据在空间上的统一以及姿态的变换,最后再作非刚性稠密配准来进行形状的拟合以及表面细节的还原。本发明采用变形图配准取替骨架驱动技术进行人体姿态或人脸表情的初步拟合,在姿态或表情基本一致的情况下再使用有对应点关系的非刚性稠密配准进行表面细节还原。具有事前准备简单、拟合效果好且效率高的优点,具有很好的推广利用前景。
Description
技术领域
本发明涉及计算机图形学和三维网格模型重构的技术领域,尤其是指一种基于变形图的人体与人脸网格模板拟合方法。
背景技术
近年来深度学习和数据驱动方法的应用越来越火热,其算法背后需要大量的数据库进行支撑,使用Kinect或者RGB-D摄像头扫描获得的模型数据具有噪声而且会出现大量缺口,不能直接用于搭建数据库,一般是使用一个标准人体或人脸模板模型对扫描数据进行拟合来获得一批具有相同拓扑结构而姿势形态不一的三维网格模型,因此快速实现标准人体与人脸模型向扫描数据拟合变形的方法日益显得迫切。
关于三维模型建模的研究已经发展了很长一段时间。早期的网格模型变形算法是将物体嵌入一个空间中,通过控制空间的变形来控制网格模型的变形,如Sederberg在提出的FFD算法,这种变形方式能对复杂的网格进行粗略的快速变形,但是在细节的处理上显得不足;后来为了在动画技术上实现模型姿态的快速变形,1988年Catmull提出了线性混合蒙皮技术,亦即骨架驱动的变形技术:骨骼的运动是单根骨头绕点旋转的刚性运动,皮肤表面的顶点受到所有骨头的影响,根据距离影响权重不一,顶点的运动即为各影响骨的不同权重的旋转变换的线性混合。骨骼驱动技术使姿态变换的效率提高,但是对皮肤表面形状的还原效果不理想;为了同时对模型的姿态以及形状作有语义的描述,出现了SCAPE和SMPL两种著名的参数化模型,通过对大量的人体与人脸模型进行主成分分析构建参数化空间,姿态以及形状均由高维向量表达,但这个方法同样需要大量数据库作支撑,而分析大量的模型也需要花很长的时间,因此参数化模型的方法所需的事前准备过于繁琐。
发明内容
本发明的目的在于克服现有技术的缺点和不足,提供一种行之有效、科学合理的基于变形图的人体与人脸网格模板拟合方法,使得无需任何事前准备便可快速构建拓扑结构统一的人体与人脸三维模型数据库。
为实现上述目的,本发明所提供的技术方案为:基于变形图的人体与人脸网格模板拟合方法,包括以下步骤:
1)使用马尔可夫(Markov)随机场检测人体扫描数据的73个特征点,或使用回归树的方法检测人脸扫描数据的68个特征点;
2)根据标准模板与扫描数据的对应特征点位置,实施从扫描数据到标准模板的刚性对齐粗配准;
3)以标准模板的简化网格为节点构建变形图,实施从标准模板到刚性对齐后的扫描数据的变形图粗配准;
4)使用最近邻算法找到变形后的标准模板与扫描数据的对应点关系,以此实施从标准模板到扫描数据的非刚性稠密配准得到最终结果。
在步骤1)之后,若认为检测的某些特征点位置还达不到要求,则能够手动对部分特征点进行重新标定,即人工修正。
在步骤1)中,人体直接使用基于Markov随机场的三维模型特征点检测方法,本质为根据一个包含节点与边的概率信息的无向图,计算73个特征点的联合概率最大化,其算法步骤如下:
1.1a)挑选人体轮廓和形状数据库(CAESAR)中数个已标注好73个特征点的人体模型,计算特征点形状描述子及其均值与方差;
1.2a)计算1.1a)中数个人体模型特征点的平均位置,以此为球心预设半径作球形候选区,预测特征点位置限制在落入该区域的扫描数据的点集中;
1.3a)根据1.1a)计算得到的参数及1.2a)得到的候选区域,使用贝叶斯信任传递方法计算73个特征点的联合概率最大化,公式如下:
其中,Z是归一化因子,φ(xi)表示xi落在人体表面上某一个点的概率,ψ(xi,xj)描述当xi和xj的取值构成一条边的联合概率;
人脸特征点检测先使用基于回归树算法的二维图像特征点检测方法,将特征点检测视为一个回归过程,再投影回三维网格模型上,其算法步骤如下:
1.1b)截取三维人脸网格模型的正前、左、右、下四个角度的二维图像,使用人脸识别工具包(dlib)训练好的回归器分别对四个图像进行特征点检测,回归过程公式如下:
其中为第t次特征点估计结果,I为输入的二维图片,rt为回归器;
1.2b)将1.1b)检测出的二维特征点正射投影回三维网格模型上,部分模型在眼睛、嘴巴、鼻子处存在空洞使得特征点穿过空洞投影到另一边的表面上,需要通过三维深度判断并修正,向远离空洞的方向查找邻近像素点并计算其深度,直到找到一个候选顶点满足深度要求作为新的特征点;
1.3b)将1.2b)投影完成的四个角度的部分三维特征点集整合为完整的脸部三维特征点集。
在步骤2)中,对扫描数据作刚性对齐使其空间位置、尺度、朝向与标准模板一致,即对整个扫描数据作用一组平移、缩放、旋转变换,该变换由两者的特征点决定,具体计算如下:
2.1)平移向量计算公式如下:
其中分别为标准模板与扫描数据特征点坐标的平均值;
2.2)缩放尺度计算公式如下:
s=stp/ssc
其中stp和ssc分别为标准模板与扫描数据的模型尺度,ntp和nSC分别为对应特征点数量,s为缩放尺度;
2.3)旋转矩阵计算公式如下:
TST=UΣVT
R=UVT
其中记R3×3为旋转矩阵,T3×k和S3×k分别为标准模板和扫毛数据的特征点坐标矩阵,U和VT分别为对TST奇异值分解后的左、右矩阵。
在步骤3)中,以标准模板的简化网格为节点{gj:j=1,…,m}构建变形图,通过标准模板与扫描数据的对应特征点坐标约束,为每个gj计算出一个旋转矩阵Rj与平移向量tj,标准模板的顶点vi的坐标变换由其到每一个节点gj的位移及对应gj的旋转与平移变换的加权线性混合所得,具体公式如下:
其中为vi变换后的坐标,wji为gj对vi的影响权重。
在步骤4)中,首先对扫描数据的顶点建立KD树,以步骤3)变形后的标准模板顶点为查询点,使用最近邻算法找到每一个顶点在扫描数据上的对应点作为目标位置;
然后对标准模板实施非刚性稠密配准,即对标准模板的每一个顶点pi施加一个4×4的仿射变换矩阵Ai,目的是使每一个顶点尽可能贴合到其目标位置而又保持整体平滑,Ai通过求解一个能量方程的最小化得到,其公式如下:
E=ωdataEdata+ωlndElnd+ωsmoothEsmooth
其中Edata、Elnd、Esmooth分别是数据项、特征项、平滑项,ωdata、ωlnd、ωsmooth为对应的权重,下面分别给出三项的具体公式:
数据项公式如下:
其中nTP是顶点数,NNi(S)表示顶点pi的对应点,若pi与NNi(S)的法向量夹角小于给定阈值则ωi取1,否则取0;
特征项公式如下:
其中K为特征点数量,li为扫描数据上与特征点pindex(i)对应的特征点;
平滑项公式如下:
其中pi与pj为相邻的两个顶点;
在每一次变换迭代计算出Ai后,进行下一次最近邻算法找对应点前,对该步变换后的标准模板作一次拉普拉斯平滑以求更好的拟合效果;定义一个误差为对应点间欧式距离的平均值作为终止条件,当该误差小于给定阈值时,非刚性稠密配准停止并输出标准模板最终的拟合结果。
本发明与现有技术相比,具有如下优点与有益效果:
1、与现有的网格控制变形方法及混合线性蒙皮方法相比,本发明的拟合效果更好。人体与人脸模型往往含有上万个网格,难以通过控制网格伸缩变形的方式使标准模板贴合扫描数据,网格控制变形算法更多用于简单的用户交互***;而混合线性蒙皮算法虽然能快速地改变标准模板的姿态,但因其顶点旋转矩阵是简单地由骨骼旋转矩阵线性混合所得,皮肤表面的细节得不到还原。本发明将人体姿态或人脸表情的拟合与皮肤表面细节还原分开处理,通过特征点构建的变形图使姿态或表情达到大概一致,再使每一个顶点都有其目标位置进行非刚性稠密配准,得到的拟合效果比较理想。
2、与现有的参数化模型方法相比,本发明的事前准备工作少且不需要数据库作支持。参数化模型的方法需要花长时间对数据库中的模型进行特征分析才能学习获得参数空间,而其建模过程实际上是获取目标的参数组后在数据库中找到最匹配的模型再作处理,离不开其参数空间对应的数据库;本发明仅在特征点识别模块中需要作一些预计算,而建模过程仅依赖一个标注好特征点的标准模板模型,非常简约方便。
附图说明
图1为本发明方法的流程图(细箭头表示该步骤的操作对象)。
图2为本发明对人体与人脸扫描数据特征点检测的结果图(深色圆点表示特征点位置,其中2A为人体,2B为人脸)。
图3为本发明对检测到的特征点进行人工修正的结果图(其中3A为人体,3B为人脸部)。
图4为对齐后标准模板与扫描数据的重合情况。
图5为变形图配准后标准模板与扫描数据的重合情况。
图6为非刚性稠密配准后标准模板与扫描数据的重合情况。
图7为本实验拟合后的结果与其他方法的对比图(其中自上至下分别为强壮男性、消瘦男性、肥胖男性、消瘦女性、微胖女性的不同体型的例子,自左至右分别为扫描数据、其他方法、本发明方法的对比)。
具体实施方式
下面结合具体实施例对本发明作进一步说明。
如图1所示,本实施例所提供的基于变形图的人体与人脸网格模板拟合方法,包括以下步骤:
1)使用Markov随机场检测人体扫描数据的73个特征点,或使用回归树的方法检测人脸扫描数据的68个特征点;图2为本发明对人体与人脸扫描数据特征点检测的结果图(深色圆点表示特征点位置,图中A为人体,图中B为人脸)。
我们对人体和人脸的特征点检测采用不同的处理方法。人体直接使用基于Markov随机场的三维模型特征点检测方法,本质为根据一个包含节点与边的概率信息的无向图,计算73个特征点的联合概率最大化,其算法步骤如下:
1.1a)挑选CAESAR数据库中数个已标注好73个特征点的人体模型,计算特征点形状描述子及其均值与方差;
1.2a)计算1.1a)中数个人体模型特征点的平均位置,以此为球心一定半径作球形候选区,预测特征点位置限制在落入该区域的扫描数据的点集中;
1.3a)根据1.1a)计算得到的参数及1.2a)得到的候选区域,使用贝叶斯信任传递方法计算73个特征点的联合概率最大化,公式如下:
其中Z是归一化因子,φ(xi)表示xi落在人体表面上某一个点的概率,ψ(xi,xj)描述当xi和xj的取值构成一条边的联合概率。
人脸特征点检测先使用基于回归树算法的二维图像特征点检测方法,将特征点检测视为一个回归过程,再投影回三维网格模型上,其算法步骤如下:
1.1b)截取三维人脸网格模型的正前、左、右、下四个角度的二维图像,使用dlib训练好的回归器分别对四个图像进行特征点检测,回归过程公式如下:
其中为第t次特征点估计结果,I为输入的二维图片,rt为回归器;
1.2b)将1.1b)检测出的二维特征点正射投影回三维网格模型上,部分模型在眼睛、嘴巴、鼻子处存在空洞使得特征点穿过空洞投影到另一边的表面上,需要通过三维深度判断并修正,向远离空洞的方向查找邻近像素点并计算其深度,直到找到一个候选顶点满足深度要求作为新的特征点;
1.3b)将1.2b)投影完成的四个角度的部分三维特征点集整合为完整的脸部三维特征点集。
其中,进行人脸特征点检测时,如图2中B所示,正面截图检测眼睛、嘴巴、鼻子及正脸其他的特征点;左截图检测左轮廓线上的特征点;右截图检测右轮廓线上的特征点;下截图检测下巴的特征点。
2)对上一步获得的特征点位置进行人工修正;
可以看出人体特征点检测脸部的4个特征点以及人脸特征点检测嘴唇的一圈特征点有着较大的误差,如图3所示为特征点修正后的结果图,其中图中A为人体,图中B为人脸。
3)根据标准模板与扫描数据的对应特征点位置,实施从扫描数据到标准模板的刚性对齐粗配准,具体如下:
对扫描数据作刚性对齐使其空间位置、尺度、朝向与标准模板一致,即对整个扫描数据作用一组平移、缩放、旋转变换,该变换由两者的特征点决定,具体计算如下:
3.1)平移向量计算公式如下:
其中分别为标准模板与扫描数据特征点坐标的平均值;
3.2)缩放尺度计算公式如下:
s=stp/ssc
其中stp和ssc分别为标准模板与扫描数据的模型尺度,ntp和nSC分别为对应特征点数量,s为缩放尺度;
3.3)旋转矩阵计算公式如下:
TST=UΣVT
R=UVT
其中记R3×3为旋转矩阵,T3×k和S3×k分别为标准模板和扫毛数据的特征点坐标矩阵,U和VT分别为对TST奇异值分解后的左、右矩阵。
根据公式分别计算出刚性对齐变换的平移向量t、缩放尺度s、旋转矩阵R,并将该组变换作用到扫描数据上,如图4所示为对齐后标准模板与扫描数据的重合情况,其中网格模型为扫描数据,点云为标准模板,图中A为本发明对人体扫描数据进行刚性对齐的结果图,图中B为本发明对人脸扫描数据进行刚性对齐的结果图。可以看出经过刚性对齐后,两者的空间位置、尺度、朝向都达到基本一致,但人体姿态和人脸表情还没有得到统一。
4)以标准模板的简化网格为节点构建变形图,实施从标准模板到刚性对齐后的扫描数据的变形图粗配准,具体如下:
以标准模板的简化网格为节点{gj:j=1,…,m}构建变形图,通过标准模板与扫描数据的对应特征点坐标约束,可以为每个gj计算出一个旋转矩阵Rj与平移向量tj,标准模板的顶点vi的坐标变换由其到每一个节点gj的位移及对应gj的旋转与平移变换的加权线性混合所得,具体公式如下:
其中为vi变换后的坐标,wji为gj对vi的影响权重。
我们通过二次误差测度法(QEM)进行网格化简,以简化后的网格构建变形图(其中人体变形图有1765个节点,人脸变形图有2385个节点)。公式中的权重wji由计算每个顶点到其最邻近的4个节点的测地距离所得(即只受最近的4个节点影响,其余节点的wji=0)。如图5所示为变形图配准后标准模板与扫描数据的重合情况,其中网格模型为标准模板,点云为扫描数据。图5中A为本发明对人体标准模板进行变形图粗配准的结果图。图中B为本发明对人脸标准模板进行变形图粗配准的结果图。可以看出经过变形图配准后,人体的姿态或人脸的表情大致相同,但表面细节仍然有非常大的差别。
5)使用最近邻算法找到变形后的标准模板与扫描数据的对应点关系,以此实施从标准模板到扫描数据的非刚性稠密配准,具体如下:
首先对扫描数据的顶点建立KD树,以步骤4)变形后的标准模板顶点为查询点,使用最近邻算法找到每一个顶点在扫描数据上的对应点作为目标位置。
然后对标准模板实施非刚性稠密配准,即对标准模板的每一个顶点pi施加一个4*4的仿射变换矩阵Ai,目的是使每一个顶点尽可能贴合到其目标位置而又保持整体平滑,Ai通过求解一个能量方程的最小化得到,其公式如下:
E=ωdataEdata+ωlndElnd+ωsmoothEsmooth
其中Edata、Elnd、Esmooth分别是数据项、特征项、平滑项,ωdata、ωlnd、ωsmooth为对应的权重,下面分别给出三项的具体公式:
5.1)数据项公式如下:
其中nTP是顶点数,NNi(S)表示顶点pi的对应点,若pi与NNi(S)的法向量夹角小于给定阈值则ωi取1,否则取0。
5.2)特征项公式如下:
其中K为特征点数量,li为扫描数据上与特征点pindex(i)对应的特征点。
5.3)平滑项公式如下:
其中pi与pj为相邻的两个顶点。
在每一次变换迭代计算出Ai后,进行下一次最近邻算法找对应点前,我们对该步变换后的标准模板作一次拉普拉斯平滑以求更好的拟合效果。我们定义一个误差为对应点间欧式距离的平均值作为终止条件,当该误差小于给定阈值时,非刚性稠密配准停止并输出标准模板最终的拟合结果。
我们先将所有仿射变换矩阵Ai初始化为单位矩阵,由于能量方程是凸函数,其梯度为0处即是最优解,而能量方程的梯度函数是关于Ai的线性方程组,我们直接使用Eigen库提供的线性求解器求解。其中,数据项中的法向夹角条件,我们取阈值为30°,即公式中若pi与NNi(S)的法向量夹角小于30°则ωi取1,否则取0;能量方程中的权重我们取初始值为[ωdata,ωlnd,ωsmooth]=[1,1,108],而在每一次变换迭代中减小ωlnd与ωsmooth的值,即ωlnd=0.5*ωlnd,ωsmooth=0.5*ωsmooth,以此逐渐增大数据项的影响,使得前几次迭代由特征项和平滑项主导,而后面的迭代着重还原皮肤表面细节。迭代终止条件的误差阈值我们设置为0.8(单位毫米)。如图6所示为非刚性稠密配准后标准模板与扫描数据的重合情况,其中网格模型为标准模板,点云为扫描数据。图6中A为本发明对人体标准模板进行非刚性稠密配准的结果图。图6中B为本发明对人脸标准模板进行非刚性稠密配准的结果图。可以看出经过最终的稠密配准后标准模板与扫描数据的重合度极高,拟合效果非常好。
本发明经过实验证明其可行性,能广泛应用于各种不同体型的人体模型及不同表情的人脸模型拟合。图7展示的是本发明对不同体型的人体模型进行拟合的效果及与其他方法的对比结果,对应的数据如下表1所示(仅展示人体模型拟合的对比结果,人脸模型因扫描数据的表情类型不够丰富不予展示)。
表1
可见,相比于基于S-SCAPE参数化模型的方法,我们的算法的配准效果及精确度显然更好,平均误差仅约1.3毫米,是对比方法的约十分之一;从图7可以看出我们的方法对于不同体型的人体模型都有很好的拟合效果;同时对单个模型的平均处理时间仅一分半钟,即使要建立包含上千个模型的数据库,也可以在1天左右的时间内完成,效率非常高。
综上所述,本发明的基于变形图的人体与人脸网格模板拟合方法,可以在无需大量事前准备以及不依赖数据库的情况下,依然能提供高效率的、细节还原较好的拟合结果。通过本方法拟合得到的网格模型,可以用在数据库建立、特征点自动检测等一系列应用,具有广泛的应用前景,值得推广。
以上所述之实施例子只为本发明之较佳实施例,并非以此限制本发明的实施范围,故凡依本发明之形状、原理所作的变化,均应涵盖在本发明的保护范围内。
Claims (6)
1.基于变形图的人体与人脸网格模板拟合方法,其特征在于,包括以下步骤:
1)使用马尔可夫随机场检测人体扫描数据的73个特征点,或使用回归树的方法检测人脸扫描数据的68个特征点;
2)根据标准模板与扫描数据的对应特征点位置,实施从扫描数据到标准模板的刚性对齐粗配准;
3)以标准模板的简化网格为节点构建变形图,实施从标准模板到刚性对齐后的扫描数据的变形图粗配准;
4)使用最近邻算法找到变形后的标准模板与扫描数据的对应点关系,以此实施从标准模板到扫描数据的非刚性稠密配准得到最终结果。
2.根据权利要求1所述的基于变形图的人体与人脸网格模板拟合方法,其特征在于:在步骤1)之后,若认为检测的某些特征点位置还达不到要求,则能够手动对部分特征点进行重新标定,即人工修正。
3.根据权利要求1所述的基于变形图的人体与人脸网格模板拟合方法,其特征在于:在步骤1)中,人体直接使用基于马尔可夫随机场的三维模型特征点检测方法,本质为根据一个包含节点与边的概率信息的无向图,计算73个特征点的联合概率最大化,其算法步骤如下:
1.1a)挑选人体轮廓与形状数据库中数个已标注好73个特征点的人体模型,计算特征点形状描述子及其均值与方差;
1.2a)计算1.1a)中数个人体模型特征点的平均位置,以此为球心预设半径作球形候选区,预测特征点位置限制在落入该区域的扫描数据的点集中;
1.3a)根据1.1a)计算得到的参数及1.2a)得到的候选区域,使用贝叶斯信任传递方法计算73个特征点的联合概率最大化,公式如下:
其中,Z是归一化因子,φ(xi)表示xi落在人体表面上某一个点的概率,ψ(xi,xj)描述当xi和xj的取值构成一条边的联合概率;
人脸特征点检测先使用基于回归树算法的二维图像特征点检测方法,将特征点检测视为一个回归过程,再投影回三维网格模型上,其算法步骤如下:
1.1b)截取三维人脸网格模型的正前、左、右、下四个角度的二维图像,使用人脸识别工具包训练好的回归器分别对四个图像进行特征点检测,回归过程公式如下:
其中为第t次特征点估计结果,I为输入的二维图片,rt为回归器;
1.2b)将1.1b)检测出的二维特征点正射投影回三维网格模型上,部分模型在眼睛、嘴巴、鼻子处存在空洞使得特征点穿过空洞投影到另一边的表面上,需要通过三维深度判断并修正,向远离空洞的方向查找邻近像素点并计算其深度,直到找到一个候选顶点满足深度要求作为新的特征点;
1.3b)将1.2b)投影完成的四个角度的部分三维特征点集整合为完整的脸部三维特征点集。
4.根据权利要求1所述的基于变形图的人体与人脸网格模板拟合方法,其特征在于:在步骤2)中,对扫描数据作刚性对齐使其空间位置、尺度、朝向与标准模板一致,即对整个扫描数据作用一组平移、缩放、旋转变换,该变换由两者的特征点决定,具体计算如下:
2.1)平移向量计算公式如下:
其中分别为标准模板与扫描数据特征点坐标的平均值;
2.2)缩放尺度计算公式如下:
s=stp/ssc
其中stp和ssc分别为标准模板与扫描数据的模型尺度,ntp和nSC分别为对应特征点数量,s为缩放尺度;
2.3)旋转矩阵计算公式如下:
TST=UΣVT
R=UVT
其中记R3×3为旋转矩阵,T3×k和S3×k分别为标准模板和扫毛数据的特征点坐标矩阵,U和VT分别为对TST奇异值分解后的左、右矩阵。
5.根据权利要求1所述的基于变形图的人体与人脸网格模板拟合方法,其特征在于:在步骤3)中,以标准模板的简化网格为节点{gj:j=1,…,m}构建变形图,通过标准模板与扫描数据的对应特征点坐标约束,为每个gj计算出一个旋转矩阵Rj与平移向量tj,标准模板的顶点vi的坐标变换由其到每一个节点gj的位移及对应gj的旋转与平移变换的加权线性混合所得,具体公式如下:
其中为vi变换后的坐标,wji为gj对vi的影响权重。
6.根据权利要求1所述的基于变形图的人体与人脸网格模板拟合方法,其特征在于:在步骤4)中,首先对扫描数据的顶点建立KD树,以步骤3)变形后的标准模板顶点为查询点,使用最近邻算法找到每一个顶点在扫描数据上的对应点作为目标位置;
然后对标准模板实施非刚性稠密配准,即对标准模板的每一个顶点pi施加一个4×4的仿射变换矩阵Ai,目的是使每一个顶点尽可能贴合到其目标位置而又保持整体平滑,Ai通过求解一个能量方程的最小化得到,其公式如下:
E=ωdataEdata+ωlndElnd+ωsmoothEsmooth
其中Edata、Elnd、Esmooth分别是数据项、特征项、平滑项,ωdata、ωlnd、ωsmooth为对应的权重,下面分别给出三项的具体公式:
数据项公式如下:
其中nTP是顶点数,NNi(S)表示顶点pi的对应点,若pi与NNi(S)的法向量夹角小于给定阈值则ωi取1,否则取0;
特征项公式如下:
其中K为特征点数量,li为扫描数据上与特征点pindex(i)对应的特征点;
平滑项公式如下:
其中pi与pj为相邻的两个顶点;
在每一次变换迭代计算出Ai后,进行下一次最近邻算法找对应点前,对该步变换后的标准模板作一次拉普拉斯平滑以求更好的拟合效果;定义一个误差为对应点间欧式距离的平均值作为终止条件,当该误差小于给定阈值时,非刚性稠密配准停止并输出标准模板最终的拟合结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810340618.0A CN108629294A (zh) | 2018-04-17 | 2018-04-17 | 基于变形图的人体与人脸网格模板拟合方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810340618.0A CN108629294A (zh) | 2018-04-17 | 2018-04-17 | 基于变形图的人体与人脸网格模板拟合方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108629294A true CN108629294A (zh) | 2018-10-09 |
Family
ID=63705345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810340618.0A Pending CN108629294A (zh) | 2018-04-17 | 2018-04-17 | 基于变形图的人体与人脸网格模板拟合方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108629294A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109395390A (zh) * | 2018-10-26 | 2019-03-01 | 网易(杭州)网络有限公司 | 游戏角色脸部模型的处理方法、装置、处理器及终端 |
CN109618097A (zh) * | 2018-12-29 | 2019-04-12 | 维沃移动通信有限公司 | 辅助拍照方法及终端设备 |
CN110288696A (zh) * | 2019-06-13 | 2019-09-27 | 南京航空航天大学 | 一种完备一致生物体三维特征表征模型的建立方法 |
CN110751679A (zh) * | 2019-10-23 | 2020-02-04 | 湖南大学 | 一种高效且稳健的人体图像与三维人体模型匹配技术 |
CN111079684A (zh) * | 2019-12-24 | 2020-04-28 | 河南中原大数据研究院有限公司 | 一种基于粗糙-精细拟合的三维人脸检测方法 |
CN111192300A (zh) * | 2019-12-30 | 2020-05-22 | 南京航空航天大学 | 一种用于局部形变测量的稀疏标志点数据配准方法及装置 |
CN111383308A (zh) * | 2018-12-29 | 2020-07-07 | 华为技术有限公司 | 生成动画表情的方法和电子设备 |
CN112419144A (zh) * | 2020-11-25 | 2021-02-26 | 上海商汤智能科技有限公司 | 人脸图像的处理方法、装置、电子设备及存储介质 |
CN112401369A (zh) * | 2020-11-23 | 2021-02-26 | 叠境数字科技(上海)有限公司 | 基于人体重建的身体参数测量方法、***、设备、芯片及介质 |
CN113426129A (zh) * | 2021-06-24 | 2021-09-24 | 网易(杭州)网络有限公司 | 自定义角色的相貌调整方法、装置、终端和存储介质 |
CN115309962A (zh) * | 2022-08-05 | 2022-11-08 | 重庆大学 | 人体姿态动作数据处理方法及*** |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102034275A (zh) * | 2010-12-10 | 2011-04-27 | 中国人民解放军国防科学技术大学 | 面向大尺度变形的非刚性注册方法 |
CN102663810A (zh) * | 2012-03-09 | 2012-09-12 | 北京航空航天大学 | 一种基于相位偏移扫描的三维人脸全自动建模方法 |
CN105310776A (zh) * | 2014-12-02 | 2016-02-10 | 复旦大学 | 一种基于子块的软组织表面变形追踪方法 |
US20160163104A1 (en) * | 2014-12-04 | 2016-06-09 | Vangogh Imaging, Inc. | Closed-form 3d model generation of non-rigid complex objects from incomplete and noisy scans |
CN106934824A (zh) * | 2017-03-16 | 2017-07-07 | 天津大学 | 可变形物体的全局非刚性配准与重建方法 |
-
2018
- 2018-04-17 CN CN201810340618.0A patent/CN108629294A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102034275A (zh) * | 2010-12-10 | 2011-04-27 | 中国人民解放军国防科学技术大学 | 面向大尺度变形的非刚性注册方法 |
CN102663810A (zh) * | 2012-03-09 | 2012-09-12 | 北京航空航天大学 | 一种基于相位偏移扫描的三维人脸全自动建模方法 |
CN105310776A (zh) * | 2014-12-02 | 2016-02-10 | 复旦大学 | 一种基于子块的软组织表面变形追踪方法 |
US20160163104A1 (en) * | 2014-12-04 | 2016-06-09 | Vangogh Imaging, Inc. | Closed-form 3d model generation of non-rigid complex objects from incomplete and noisy scans |
CN106934824A (zh) * | 2017-03-16 | 2017-07-07 | 天津大学 | 可变形物体的全局非刚性配准与重建方法 |
Non-Patent Citations (5)
Title |
---|
ALLEN B 等: ""The space of human body"", 《2003 ACM TRANSACTION ON GRAPHICS》 * |
S. WUHRER 等: ""Semi-Automatic Prediction of Landmarks on Human Models in Varying Poses"", 《 2010 CANADIAN CONFERENCE ON COMPUTER AND ROBOT VISION》 * |
SUMMER R W 等: ""Embedded deformation for shape manipulation"", 《2007 ACM TRANSACTIONS ON GRAPHICS》 * |
VAHID KAZEMI 等: ""One Millisecond Face Alignment with an Ensemble of Regression Trees"", 《2014 THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》 * |
梁君达 等: ""变形图驱动的人体与脸部网格模板拟合***"", 《计算机辅助设计与图形学学报 图形与可视化》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109395390A (zh) * | 2018-10-26 | 2019-03-01 | 网易(杭州)网络有限公司 | 游戏角色脸部模型的处理方法、装置、处理器及终端 |
CN109395390B (zh) * | 2018-10-26 | 2021-12-21 | 网易(杭州)网络有限公司 | 游戏角色脸部模型的处理方法、装置、处理器及终端 |
US11410369B2 (en) | 2018-12-29 | 2022-08-09 | Huawei Technologies Co., Ltd. | Method for generating animated expression and electronic device |
CN109618097A (zh) * | 2018-12-29 | 2019-04-12 | 维沃移动通信有限公司 | 辅助拍照方法及终端设备 |
CN111383308A (zh) * | 2018-12-29 | 2020-07-07 | 华为技术有限公司 | 生成动画表情的方法和电子设备 |
CN110288696A (zh) * | 2019-06-13 | 2019-09-27 | 南京航空航天大学 | 一种完备一致生物体三维特征表征模型的建立方法 |
CN110751679A (zh) * | 2019-10-23 | 2020-02-04 | 湖南大学 | 一种高效且稳健的人体图像与三维人体模型匹配技术 |
CN111079684A (zh) * | 2019-12-24 | 2020-04-28 | 河南中原大数据研究院有限公司 | 一种基于粗糙-精细拟合的三维人脸检测方法 |
CN111079684B (zh) * | 2019-12-24 | 2023-04-07 | 陕西西图数联科技有限公司 | 一种基于粗糙-精细拟合的三维人脸检测方法 |
CN111192300A (zh) * | 2019-12-30 | 2020-05-22 | 南京航空航天大学 | 一种用于局部形变测量的稀疏标志点数据配准方法及装置 |
CN111192300B (zh) * | 2019-12-30 | 2023-11-07 | 南京航空航天大学 | 一种用于局部形变测量的稀疏标志点数据配准方法及装置 |
CN112401369A (zh) * | 2020-11-23 | 2021-02-26 | 叠境数字科技(上海)有限公司 | 基于人体重建的身体参数测量方法、***、设备、芯片及介质 |
CN112419144A (zh) * | 2020-11-25 | 2021-02-26 | 上海商汤智能科技有限公司 | 人脸图像的处理方法、装置、电子设备及存储介质 |
CN112419144B (zh) * | 2020-11-25 | 2024-05-24 | 上海商汤智能科技有限公司 | 人脸图像的处理方法、装置、电子设备及存储介质 |
CN113426129A (zh) * | 2021-06-24 | 2021-09-24 | 网易(杭州)网络有限公司 | 自定义角色的相貌调整方法、装置、终端和存储介质 |
CN113426129B (zh) * | 2021-06-24 | 2024-03-01 | 网易(杭州)网络有限公司 | 自定义角色的相貌调整方法、装置、终端和存储介质 |
CN115309962A (zh) * | 2022-08-05 | 2022-11-08 | 重庆大学 | 人体姿态动作数据处理方法及*** |
CN115309962B (zh) * | 2022-08-05 | 2024-04-26 | 重庆大学 | 人体姿态动作数据处理方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108629294A (zh) | 基于变形图的人体与人脸网格模板拟合方法 | |
CN109636831B (zh) | 一种估计三维人体姿态及手部信息的方法 | |
US7643685B2 (en) | Viewpoint-invariant image matching and generation of three-dimensional models from two-dimensional imagery | |
CN102982578B (zh) | 单幅人物图像中着装人体三维模型估计方法 | |
CN109840940B (zh) | 动态三维重建方法、装置、设备、介质和*** | |
CN100543775C (zh) | 基于多目相机的三维人体运动跟踪的方法 | |
CN102999942B (zh) | 三维人脸重建方法 | |
US8411081B2 (en) | Systems and methods for enhancing symmetry in 2D and 3D objects | |
CN104794722A (zh) | 利用单个Kinect计算着装人体三维净体模型的方法 | |
CN103942822A (zh) | 一种基于单视频摄像机的面部特征点跟踪和人脸动画方法 | |
CN110399809A (zh) | 多特征融合的人脸关键点检测方法及装置 | |
CN110310285A (zh) | 一种精确的基于三维人体重建的烧伤面积计算方法 | |
CN108154104A (zh) | 一种基于深度图像超像素联合特征的人体姿态估计方法 | |
CN106780713A (zh) | 一种基于单幅照片的三维人脸建模方法及*** | |
Wei et al. | Intuitive interactive human-character posing with millions of example poses | |
CN109377563A (zh) | 一种人脸网格模型的重建方法、装置、设备和存储介质 | |
CN109655011B (zh) | 一种人体建模维度测量的方法及*** | |
CN113593001A (zh) | 目标对象三维重建方法、装置、计算机设备和存储介质 | |
Ye et al. | 3d morphable face model for face animation | |
CN110660132A (zh) | 一种三维模型构建方法及其装置 | |
WO2022222091A1 (zh) | 一种基于单张照片的人物浅浮雕模型生成方法 | |
Fua | Face models from uncalibrated video sequences | |
CN115471632A (zh) | 基于3d扫描的真实人体模型重建方法、装置、设备及介质 | |
CN110288696A (zh) | 一种完备一致生物体三维特征表征模型的建立方法 | |
CN113379890A (zh) | 一种基于单张照片的人物浅浮雕模型生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181009 |
|
RJ01 | Rejection of invention patent application after publication |