CN115019021A - 图像处理方法、装置、设备及存储介质 - Google Patents
图像处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115019021A CN115019021A CN202210626337.8A CN202210626337A CN115019021A CN 115019021 A CN115019021 A CN 115019021A CN 202210626337 A CN202210626337 A CN 202210626337A CN 115019021 A CN115019021 A CN 115019021A
- Authority
- CN
- China
- Prior art keywords
- model
- image
- displacement
- initial
- transformed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 238000006073 displacement reaction Methods 0.000 claims abstract description 108
- 230000009466 transformation Effects 0.000 claims abstract description 72
- 238000012545 processing Methods 0.000 claims abstract description 68
- 230000001131 transforming effect Effects 0.000 claims abstract description 24
- 238000000034 method Methods 0.000 claims description 42
- 230000001815 facial effect Effects 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 18
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000009877 rendering Methods 0.000 claims description 8
- 230000000694 effects Effects 0.000 abstract description 4
- 230000007704 transition Effects 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 10
- 238000004590 computer program Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 238000013475 authorization Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Architecture (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开实施例提供了一种图像处理方法、装置、设备及存储介质。对原始面部图像进行三维重建,获得初始3D模型;根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;对所述变换3D模型进行外扩处理,获得外扩3D模型;根据所述外扩3D模型和所述初始3D模型确定位移图像;根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。本公开实施例提供的图像处理方法,通过对变换3D模型进行外扩处理,可以解决面部与背景过渡不自然问题,通过位移图像对原始面部图像进行变换处理,可以解决模型边界锐利问题和模型面片相交引起的棱角问题,使得变换处理后的面部图像更真实自然,从而提高图像的显示效果。
Description
技术领域
本公开实施例涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、设备及存储介质。
背景技术
现有的人像编辑方式通过重建三维(3-dimension,3D)模型,在3D模型上实现对面部朝向和角度的调整后,再渲染到2D图像。该种方式会受到3D模型精度的限制,导致编辑后的面部图像不自然。
发明内容
本公开实施例提供一种图像处理方法、装置、设备及存储介质,可以实现对面部图像的变换处理,使得变换处理后的面部图像更自然,从而提高图像的显示效果。
第一方面,本公开实施例提供了一种图像处理方法,包括:
对原始面部图像进行三维重建,获得初始3D模型;
根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;
对所述变换3D模型进行外扩处理,获得外扩3D模型;
根据所述外扩3D模型和所述初始3D模型确定位移图像;
根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
第二方面,本公开实施例还提供了一种图像处理装置,包括:
初始3D模型获取模块,用于对原始面部图像进行三维重建,获得初始3D模型;
变换3D模块获取模块,用于根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;
外扩3D模型获取模块,用于对所述变换3D模型进行外扩处理,获得外扩3D模型;
位移图像确定模块,用于根据所述外扩3D模型和所述初始3D模型确定位移图像;
目标面部图像获取模块,用于根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开实施例所述的图像处理方法。
第四方面,本公开实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例所述的图像处理方法。
本公开实施例公开了一种图像处理方法、装置、设备及存储介质。对原始面部图像进行三维重建,获得初始3D模型;根据预设变换信息对初始3D模型进行变换,获得变换3D模型;对变换3D模型进行外扩处理,获得外扩3D模型;根据外扩3D模型和初始3D模型确定位移图像;根据位移图像对原始面部图像进行变换处理,获得目标面部图像。本公开实施例提供的图像处理方法,通过对变换3D模型进行外扩处理,可以解决面部与背景过渡不自然问题,通过位移图像对原始面部图像进行变换处理,可以解决模型边界锐利问题和模型面片相交引起的棱角问题,使得变换处理后的面部图像更真实自然,从而提高图像的显示效果。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1是本公开实施例所提供的一种图像处理方法的流程示意图;
图2a是本公开实施例所提供的一种确定变换3D模型的包围矩形框的示意图;
图2b是本公开实施例所提供的一种确定变换3D模型的包围矩形框的示意图;
图3是本公开实施例所提供的一种确定外扩顶点的示例图;
图4是本公开实施例所提供的构建的外扩网格的示例图;
图5是本公开实施例所提供的一种图像处理装置结构示意图;
图6是本公开实施例所提供的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
可以理解的是,在使用本公开各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
例如,在响应于接收到用户的主动请求时,向用户发送提示信息,以明确地提示用户,其请求执行的操作将需要获取和使用到用户的个人信息。从而,使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
作为一种可选的但非限定性的实现方式,响应于接收到用户的主动请求,向用户发送提示信息的方式例如可以是弹窗的方式,弹窗中可以以文字的方式呈现提示信息。此外,弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
可以理解的是,上述通知和获取用户授权过程仅是示意性的,不对本公开的实现方式构成限定,其它满足相关法律法规的方式也可应用于本公开的实现方式中。
可以理解的是,本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
现有面部图像编辑方法多数基于2D图像形变来实现,这些方式一般通过检测算法获取2D面部关键点,按照预设规则或用户自定义规则对面部关键点位置进行改变,并且根据改变前后的面部关键点位置对图像进行变形,来实现面部形变的功能。但是这种方法由于缺少面部的深度信息,无法在保持面部特征的情况下实现对面部朝向和角度的调整。
另外一种面部图像编辑方法通过重建3D模型,在3D模型上实现对面部朝向和角度的调整,再渲染到2D图像中。但是这种方法受到3D模型精度和重建算法准确性限制,渲染得到的面部边界锐利,存在模型面片相交引起的棱角问题,导致渲染结果不自然。
图1为本公开实施例所提供的一种图像处理方法的流程示意图,本公开实施例适用于对面部图像进行变换处理的情形,该方法可以由图像处理装置来执行,该装置可以通过软件和/或硬件的形式实现,可选的,通过电子设备来实现,该电子设备可以是移动终端、PC端或服务器等。
如图1所示,所述方法包括:
S110,对原始面部图像进行三维重建,获得初始3D模型。
其中,原始面部图像可以是待处理的包含面部的图像,可以是实时采集的面部图像,或者从网络数据库且授权使用的面部图像,或者从本地数据库获取的面部图像。3D模型可以是3D网格模型,网格由顶点和线构成。3D模型包含面部3D顶点的三维坐标信息及法线信息等。
本实施例中,可以采用任意的三维重建算法对原始面部图像进行三维重建,此处不做限定。例如:可以将原始面部图像输入训练好的三维重建神经网络模型中,输出初始3D模型。
S120,根据预设变换信息对初始3D模型进行变换,获得变换3D模型。
其中,预设变换信息可以包括面部角度和/或朝向的变换信息。预设变换信息可以根据预设变换参数确定或者根据用户触发的对面部图像的调整信息确定。
本实施例中,根据预设变换信息对初始3D模型进行变换,获得变换3D模型的方式可以是:根据预设变换信息生成变换矩阵;基于变换矩阵对初始3D模型进行变换,获得变换3D模型。
具体的,确定预设变换信息对应的变换向量,由变换向量构成变换矩阵。基于变换矩阵对初始3D模型进行变换的过程可以是:将变换矩阵与由初始3D模型的顶点数据构成矩阵进行点乘,获得变换3D模型。本实施例中,基于变换矩阵对初始3D模型进行变换,可以提高对3D模型变换的效率及准确性。
S130,对变换3D模型进行外扩处理,获得外扩3D模型。
其中,对变换3D模型进行外扩处理可以理解为将变化3D模型向外扩展。其过程可以是:首先在变换3D模型的***增加新的顶点,然后由新的顶点和变换3D模型上的设定顶点构建新的网格,将新的网格和变换3模型组成外扩3D模型。
本实施例中,对变换3D模型进行外扩处理,获得外扩3D模型的方式可以是:从变换3D模型中选取多个目标顶点;确定多个目标顶点分别对应的外扩顶点,获得多个外扩顶点;根据多个目标顶点和多个外扩顶点构建三角网格,获得外扩网格;将外扩网格和变换3D模型组成外扩3D模型。
其中,目标顶点可以是变换3D模型的面部边缘顶点。边缘顶点可以理解为将变换3D模型投影至二维平面后,二维图像面部边缘点对应的顶点。本实施例中,面部边缘顶点包含多个,目标顶点可以是所有的面部边缘顶点或者从面部边缘顶点中抽样获得的。
其中,确定多个目标顶点分别对应的外扩顶点的方式可以是:根据目标顶点的位置坐标增加对应的外扩顶点。本实施例中,确定多个目标顶点分别对应的外扩顶点的方式可以是:获取变换3D模型的包围矩形框;根据包围矩形框的尺寸信息在包围矩形框中心点与目标顶点连线的延长线上确定外扩顶点。
其中,包围矩形框的尺寸信息包括宽和/或高。包围矩形框可以是将变换3D模型投影至二维平面后,二维面部图像的外切矩形框。示例性的,图2a和图2b为确定的变换3D模型的包围矩形框,图2a为一正面面部部图,图2b为侧面面部图,如图2a和图2b所示,包围矩形框ABCD为面部图像的外切矩形框,也可以理解为面部顶点的在x轴和y轴上的范围框。其中x1=x3为面部顶点在x轴上的最小值,x2=x4为面部顶点在x轴上的最大值,y1=y2为面部顶点在y轴上的最大值,y3=y4为面部顶点在y轴上的最小值。x2-x1包围矩形框的宽,表示为w,y1-y3为包围矩形框的高,表示为h,面部中心点(即包围框中心点)O为AD或BC连线的交点。
其中,根据包围矩形框的尺寸信息在包围矩形框中心点与目标顶点连线的延长线上确定外扩顶点的过程可以理解为:在包围矩形框中心点与目标顶点连线的延长线上新增一外扩顶点,使得目标顶点与外扩顶点的距离为w/n,或者h/n,或者max(w/n,h/n)。其中,n为可调参数,可以取大于0的任意值,例如:n取5。示例性的,图3是本实施例中确定外扩顶点的示例图,如图3所示,O为包围框中心点,E为其中一个目标顶点,在OE连线的延长线上新增外扩顶点E’,其中EE’的长度为w/n,或者h/n,或者max(w/n,h/n)。本实施例中,根据包围矩形框的尺寸信息在包围矩形框中心点与目标顶点连线的延长线上确定外扩顶点,可约束模型外扩的尺寸。
本实施例中,在获得多个外扩顶点后,根据多个目标顶点和多个外扩顶点构建三角网格。示例性的,图4为本实施例中构建出的外扩网格的示例图,如图4所示,将多个目标顶点和多个外扩顶点按照一定规定连接成线,每三条线构成一个三角网格。最终,外扩网格和变换3D网格模型构成外扩3D网格模型,即外扩3D模型。本实施例中,通过对变换3D模型进行外扩处理,可以解决面部与背景过渡不自然问题。
S140,根据外扩3D模型和初始3D模型确定位移图像。
其中,位移图像用于表征外扩3D模型和初始3D模型的顶点间的位移信息。
可选的,根据外扩3D模型和初始3D模型确定位移图像的过程可以是:根据外扩3D模型和初始3D模型确定各顶点的位移信息;基于位移信息生成位移图像。
本实施例中,将外扩3D模型的3D顶点的位置坐标与初始3D模型中对应的3D顶点的位置坐标相减,获得3D顶点的位移信息,表示为T(Tx,Ty,Tz)。基于位移信息生成位移图像的方式可以是:取(Tx,Ty)值渲染到图像中获得位移图像。其中,位移图像可以是四通道图像,可以是RGBA四通道图像。取(Tx,Ty)值渲染为四通道图像的方式可以是:将Tx值乘以255取整后的值作为R通道值,将将Tx值乘以255取整后的余数乘以255作为G通道值,将Ty值乘以255取整后的值作为B通道值,将Ty值乘以255取整后的余数乘以255作为A通道值。或者,将Tx值作为R通道值,将Ty值作为G通道值,B通道和A通道的值设置为0。
本实施例中,由于外扩3D模型比初始3D模型多了外扩网格,对于外扩顶点的位移信息,可以确定为(0,0)。本实施例中,基于3D顶点的位移信息生成位移图像,可以提高位移图像生成的准确性。
S150,根据位移图像对原始面部图像进行变换处理,获得目标面部图像。
其中,原始面部图像中的像素点和位移图像中的像素点一一对应,位移图像各像素点的像素值表征原始面部图像中对应像素点的位移信息。本实施例中,根据位移图像对原始面部图像进行变换处理,获得目标面部图像的过程可以是:获取原始面部图像中像素点的初始坐标以及在位移图像中的对应的位移信息;根据初始坐标和位移信息确定变换坐标;将像素点的像素值渲染至变换坐标对应的位置,获得目标面部图像。
其中,根据初始坐标和位移信息确定变换坐标的方式可以是:将初始坐标和位移信息进行累加,获得变换坐标。例如:假设初始坐标为(x,y),位移信息为(Tx,Ty),则变换坐标为(x+Tx,y+Ty)。具体的,将像素点的像素值渲染至变换坐标对应的位置的过程可以是:首先创建与原始面部图像尺寸相同的空纹理,然后将原始面部图像中像素点的像素值渲染渲染至空纹理中变换坐标对应的位置,从而获得目标面部图像。或者,根据空纹理中像素点的位置坐标和位移图像中的位移信息确定其在原始面部图像中对应的初始坐标,然后将初始坐标中像素点的像素值渲染至空纹理中该像素点的位置中。本实施例中,将像素点的像素值渲染至变换坐标对应的位置,可以准确的对原始面部图像进行变换处理。
本实施例中,由于3D模型存在边界,模型面片相交处比较锐利,因此得到的位移图像相邻像素位移信息存在跳变,因此,需要对位移图像进行模糊处理。
可选的,根据位移图像对原始面部图像进行变换处理,获得目标面部图像的方式可以是:对位移图像进行模糊处理;根据模糊处理后的位移图像对原始面部图像进行变换处理,获得目标面部图像。
其中,对位移图像进行模糊处理的方式可以是:调用任意的模糊处理算法对位移图像进行处理。具体的,对位移图像进行模糊处理的方式可以是:确定模糊半径;基于模糊半径对位移图像进行模糊处理。
其中,模糊半径可以根据面部图像的包围矩形框的尺寸确定或者由用户设置。例如:模糊半径可以设置为一设定值、或者w/m,或者h/m,或者max(w/m,h/m)等,其中m为可调参数,可以取大于0的任意值。本实施例中,对位移图像进行模糊处理的方式可以是:对全图进行模糊处理,或者采用不同的模糊半径对不同的区域进行模糊处理。
本实施例中,确定模糊半径的方式可以是:将位移图像划分为面部区域和背景区域;将面部区域的模糊半径确定为第一模糊半径;将背景区域的模糊半径确定为第二模糊半径。
其中,第二模糊半径大于第一模糊半径。第一模糊半径可以是一设定值、或者w/m,或者h/m,或者max(w/m,h/m)等。本实施例中,将位移图像划分为面部区域和背景区域的方式可以是:将与面部中心点的距离小于设定值的像素点构成的区域确定为面部区域,将与面部中心点的距离大于或等于设定值的像素点构成的区域确定为背景区域。
其中,第二模糊半径随背景区域中像素点与面部中心点的距离变化,即第二模糊半径随像素点与面部中心点的距离的增大而增大。示例性的,假设面部区域的迷糊半径设置为A,则背景区域中的模糊半径随像素点与面部中心点的距离的增大由A递增。本实施例中,对于面部区域和背景区域采用不同的模糊半径进行模糊处理,可以最大程度的解决面部区域面片相交引起的棱角问题。
本实施例中,在对位移图像进行模糊处理后,根据模糊处理后的位移图像对所述原始面部图像进行变换处理,获得目标面部图像,使得获得的目标面部图像避免出现棱角问题及边界锐利问题。
本公开实施例的技术方案,对原始面部图像进行三维重建,获得初始3D模型;根据预设变换信息对初始3D模型进行变换,获得变换3D模型;对变换3D模型进行外扩处理,获得外扩3D模型;根据外扩3D模型和初始3D模型确定位移图像;根据位移图像对原始面部图像进行变换处理,获得目标面部图像。本公开实施例提供的图像处理方法,通过对变换3D模型进行外扩处理,可以解决面部与背景过渡不自然问题,通过位移图像对原始面部图像进行变换处理,可以解决模型边界锐利问题和模型面片相交引起的棱角问题,使得变换处理后的面部图像更真实自然,从而提高图像的显示效果。
图5为本公开实施例所提供的一种图像处理装置结构示意图,如图5所示,装置包括:
初始3D模型获取模块410,用于对原始面部图像进行三维重建,获得初始3D模型;
变换3D模块获取模块420,用于根据预设变换信息对初始3D模型进行变换,获得变换3D模型;
外扩3D模型获取模块430,用于对变换3D模型进行外扩处理,获得外扩3D模型;
位移图像确定模块440,用于根据外扩3D模型和初始3D模型确定位移图像;
目标面部图像获取模块450,用于根据位移图像对原始面部图像进行变换处理,获得目标面部图像。
可选的,变换3D模块获取模块420,还用于:
根据预设变换信息生成变换矩阵;
基于变换矩阵对初始3D模型进行变换,获得变换3D模型。
可选的,外扩3D模型获取模块430,还用于:
从变换3D模型中选取多个目标顶点;
确定多个目标顶点分别对应的外扩顶点,获得多个外扩顶点;
根据多个目标顶点和多个外扩顶点构建三角网格,获得外扩网格;
将外扩网格和变换3D模型组成外扩3D模型。
可选的,外扩3D模型获取模块430,还用于:
获取变换3D模型的包围矩形框;
根据包围矩形框的尺寸信息在包围矩形框中心点与目标顶点连线的延长线上确定外扩顶点;其中,包围矩形框的尺寸信息包括宽和/或高。
可选的,位移图像确定模块440,还用于:
根据外扩3D模型和初始3D模型确定各顶点的位移信息;
基于位移信息生成位移图像。
可选的,目标面部图像获取模块450,还用于:
对位移图像进行模糊处理;
根据模糊处理后的位移图像对原始面部图像进行变换处理,获得目标面部图像。
可选的,目标面部图像获取模块450,还用于:
确定模糊半径;
基于模糊半径对位移图像进行模糊处理。
可选的,目标面部图像获取模块450,还用于:
将位移图像划分为面部区域和背景区域;
将面部区域的模糊半径确定为第一模糊半径;
将背景区域的模糊半径确定为第二模糊半径;其中,第二模糊半径大于第一模糊半径。
可选的,第二模糊半径随背景区域中像素点与面部中心点的距离变化。
可选的,目标面部图像获取模块450,还用于:
获取原始面部图像中像素点的初始坐标以及在位移图像中的对应的位移信息;
根据初始坐标和位移信息确定变换坐标;
将像素点的像素值渲染至变换坐标对应的位置,获得目标面部图像。
本公开实施例所提供的图像处理装置可执行本公开任意实施例所提供的图像处理方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本公开实施例的保护范围。
图6为本公开实施例所提供的一种电子设备的结构示意图。下面参考图6,其示出了适于用来实现本公开实施例的电子设备(例如图6中的终端设备或服务器)500的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。编辑/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
本公开实施例提供的电子设备与上述实施例提供的图像处理方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例与上述实施例具有相同的有益效果。
本公开实施例提供了一种计算机存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述实施例所提供的图像处理方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperTextTransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:对原始面部图像进行三维重建,获得初始3D模型;根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;对所述变换3D模型进行外扩处理,获得外扩3D模型;根据所述外扩3D模型和所述初始3D模型确定位移图像;根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,提供了一种图像处理方法,包括:
对原始面部图像进行三维重建,获得初始3D模型;
根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;
对所述变换3D模型进行外扩处理,获得外扩3D模型;
根据所述外扩3D模型和所述初始3D模型确定位移图像;
根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
进一步地,根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型,包括:
根据预设变换信息生成变换矩阵;
基于所述变换矩阵对所述初始3D模型进行变换,获得变换3D模型。
进一步地,对所述变换3D模型进行外扩处理,获得外扩3D模型,包括:
从所述变换3D模型中选取多个目标顶点;
确定所述多个目标顶点分别对应的外扩顶点,获得多个外扩顶点;
根据所述多个目标顶点和所述多个外扩顶点构建三角网格,获得外扩网格;
将所述外扩网格和所述变换3D模型组成外扩3D模型。
进一步地,确定所述多个目标顶点分别对应的外扩顶点,包括:
获取所述变换3D模型的包围矩形框;
根据所述包围矩形框的尺寸信息在所述包围矩形框中心点与所述目标顶点连线的延长线上确定外扩顶点;其中,所述包围矩形框的尺寸信息包括宽和/或高。
进一步地,根据所述外扩3D模型和所述初始3D模型确定位移图像,包括:
根据所述外扩3D模型和所述初始3D模型确定各顶点的位移信息;
基于所述位移信息生成位移图像。
进一步地,根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像,包括:
对所述位移图像进行模糊处理;
根据模糊处理后的位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
进一步地,对所述位移图像进行模糊处理,包括:
确定模糊半径;
基于所述模糊半径对所述位移图像进行模糊处理。
进一步地,确定模糊半径,包括:
将所述位移图像划分为面部区域和背景区域;
将所述面部区域的模糊半径确定为第一模糊半径;
将所述背景区域的模糊半径确定为第二模糊半径;其中,所述第二模糊半径大于所述第一模糊半径。
进一步地,所述第二模糊半径随所述背景区域中像素点与面部中心点的距离变化。
进一步地,根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像,包括:
获取所述原始面部图像中像素点的初始坐标以及在位移图像中的对应的位移信息;
根据所述初始坐标和所述位移信息确定变换坐标;
将所述像素点的像素值渲染至所述变换坐标对应的位置,获得目标面部图像。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (13)
1.一种图像处理方法,其特征在于,包括:
对原始面部图像进行三维重建,获得初始3D模型;
根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;
对所述变换3D模型进行外扩处理,获得外扩3D模型;
根据所述外扩3D模型和所述初始3D模型确定位移图像;
根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
2.根据权利要求1所述的方法,其特征在于,根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型,包括:
根据预设变换信息生成变换矩阵;
基于所述变换矩阵对所述初始3D模型进行变换,获得变换3D模型。
3.根据权利要求1所述的方法,其特征在于,对所述变换3D模型进行外扩处理,获得外扩3D模型,包括:
从所述变换3D模型中选取多个目标顶点;
确定所述多个目标顶点分别对应的外扩顶点,获得多个外扩顶点;
根据所述多个目标顶点和所述多个外扩顶点构建三角网格,获得外扩网格;
将所述外扩网格和所述变换3D模型组成外扩3D模型。
4.根据权利要求3所述的方法,其特征在于,确定所述多个目标顶点分别对应的外扩顶点,包括:
获取所述变换3D模型的包围矩形框;
根据所述包围矩形框的尺寸信息在所述包围矩形框中心点与所述目标顶点连线的延长线上确定外扩顶点;其中,所述包围矩形框的尺寸信息包括宽和/或高。
5.根据权利要求1所述的方法,其特征在于,根据所述外扩3D模型和所述初始3D模型确定位移图像,包括:
根据所述外扩3D模型和所述初始3D模型确定各顶点的位移信息;
基于所述位移信息生成位移图像。
6.根据权利要求1所述的方法,其特征在于,根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像,包括:
对所述位移图像进行模糊处理;
根据模糊处理后的位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
7.根据权利要求6所述的方法,其特征在于,对所述位移图像进行模糊处理,包括:
确定模糊半径;
基于所述模糊半径对所述位移图像进行模糊处理。
8.根据权利要求7所述的方法,其特征在于,确定模糊半径,包括:
将所述位移图像划分为面部区域和背景区域;
将所述面部区域的模糊半径确定为第一模糊半径;
将所述背景区域的模糊半径确定为第二模糊半径;其中,所述第二模糊半径大于所述第一模糊半径。
9.根据权利要求8所述的方法,其特征在于,所述第二模糊半径随所述背景区域中像素点与面部中心点的距离变化。
10.根据权利要求1或6所述的方法,其特征在于,根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像,包括:
获取所述原始面部图像中像素点的初始坐标以及在位移图像中的对应的位移信息;
根据所述初始坐标和所述位移信息确定变换坐标;
将所述像素点的像素值渲染至所述变换坐标对应的位置,获得目标面部图像。
11.一种图像处理装置,其特征在于,包括:
初始3D模型获取模块,用于对原始面部图像进行三维重建,获得初始3D模型;
变换3D模块获取模块,用于根据预设变换信息对所述初始3D模型进行变换,获得变换3D模型;
外扩3D模型获取模块,用于对所述变换3D模型进行外扩处理,获得外扩3D模型;
位移图像确定模块,用于根据所述外扩3D模型和所述初始3D模型确定位移图像;
目标面部图像获取模块,用于根据所述位移图像对所述原始面部图像进行变换处理,获得目标面部图像。
12.一种电子设备,其特征在于,所述电子设备包括:一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-10中任一所述的图像处理方法。
13.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-10中任一所述的图像处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210626337.8A CN115019021A (zh) | 2022-06-02 | 2022-06-02 | 图像处理方法、装置、设备及存储介质 |
PCT/CN2023/096612 WO2023231926A1 (zh) | 2022-06-02 | 2023-05-26 | 图像处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210626337.8A CN115019021A (zh) | 2022-06-02 | 2022-06-02 | 图像处理方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115019021A true CN115019021A (zh) | 2022-09-06 |
Family
ID=83072329
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210626337.8A Pending CN115019021A (zh) | 2022-06-02 | 2022-06-02 | 图像处理方法、装置、设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN115019021A (zh) |
WO (1) | WO2023231926A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023231926A1 (zh) * | 2022-06-02 | 2023-12-07 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1510973A3 (en) * | 2003-08-29 | 2006-08-16 | Samsung Electronics Co., Ltd. | Method and apparatus for image-based photorealistic 3D face modeling |
CN109767487A (zh) * | 2019-01-04 | 2019-05-17 | 北京达佳互联信息技术有限公司 | 人脸三维重建方法、装置、电子设备及存储介质 |
US11386633B2 (en) * | 2020-06-13 | 2022-07-12 | Qualcomm Incorporated | Image augmentation for analytics |
CN115019021A (zh) * | 2022-06-02 | 2022-09-06 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
-
2022
- 2022-06-02 CN CN202210626337.8A patent/CN115019021A/zh active Pending
-
2023
- 2023-05-26 WO PCT/CN2023/096612 patent/WO2023231926A1/zh unknown
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023231926A1 (zh) * | 2022-06-02 | 2023-12-07 | 北京字跳网络技术有限公司 | 图像处理方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2023231926A1 (zh) | 2023-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111243049B (zh) | 人脸图像的处理方法、装置、可读介质和电子设备 | |
CN114782613A (zh) | 图像渲染方法、装置、设备及存储介质 | |
WO2024016923A1 (zh) | 特效图的生成方法、装置、设备及存储介质 | |
CN114549722A (zh) | 3d素材的渲染方法、装置、设备及存储介质 | |
CN110728622A (zh) | 鱼眼图像处理方法、装置、电子设备及计算机可读介质 | |
WO2024016930A1 (zh) | 特效处理方法、装置、电子设备及存储介质 | |
CN114742934A (zh) | 图像渲染方法、装置、可读介质及电子设备 | |
CN114782648A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN115330925A (zh) | 图像渲染方法、装置、电子设备及存储介质 | |
WO2023231926A1 (zh) | 图像处理方法、装置、设备及存储介质 | |
CN111862342A (zh) | 增强现实的纹理处理方法、装置、电子设备及存储介质 | |
CN111833459A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
CN115761197A (zh) | 图像渲染方法、装置、设备及存储介质 | |
CN115272060A (zh) | 转场特效图的生成方法、装置、设备及存储介质 | |
CN115131471A (zh) | 基于图像的动画生成方法、装置、设备及存储介质 | |
CN116228956A (zh) | 一种阴影渲染方法、装置、设备及介质 | |
CN114723600A (zh) | 美妆特效的生成方法、装置、设备、存储介质和程序产品 | |
CN116363239A (zh) | 特效图的生成方法、装置、设备及存储介质 | |
CN115358959A (zh) | 特效图的生成方法、装置、设备及存储介质 | |
CN115578299A (zh) | 图像生成方法、装置、设备及存储介质 | |
CN114677469A (zh) | 渲染目标图像的方法、装置、电子设备及存储介质 | |
CN115861503A (zh) | 虚拟物体的渲染方法、装置、设备及存储介质 | |
CN114693859A (zh) | 高光渲染方法、装置、介质及电子设备 | |
CN114866706A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN114202617A (zh) | 视频图像处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |