CN108765265B - 图像处理方法、装置、终端设备和存储介质 - Google Patents
图像处理方法、装置、终端设备和存储介质 Download PDFInfo
- Publication number
- CN108765265B CN108765265B CN201810488648.6A CN201810488648A CN108765265B CN 108765265 B CN108765265 B CN 108765265B CN 201810488648 A CN201810488648 A CN 201810488648A CN 108765265 B CN108765265 B CN 108765265B
- Authority
- CN
- China
- Prior art keywords
- contour
- face contour
- unmatched
- segment
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 35
- 238000013507 mapping Methods 0.000 claims abstract description 40
- 230000008859 change Effects 0.000 claims description 14
- 210000000056 organ Anatomy 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 abstract description 13
- 230000000694 effects Effects 0.000 abstract description 11
- 238000010586 diagram Methods 0.000 description 12
- 239000002537 cosmetic Substances 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000003796 beauty Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000001125 extrusion Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 208000002874 Acne Vulgaris Diseases 0.000 description 1
- 206010000496 acne Diseases 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种图像处理方法、装置、终端设备和存储介质。其中,方法包括:将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取所述原始人脸轮廓与所述模型人脸轮廓之间的至少一个未匹配轮廓段;针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓。该方法可以使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像处理方法、装置、终端设备和计算机可读存储介质。
背景技术
用户在日常拍摄、社交等过程中,希望可以将一张图像中的人脸替换到另一张图像中,俗称换脸。现有的换脸应用常采用的做法是:通过贴图的方式直接将用户的人脸替换成模型(如明星)的人脸。但是,由于用户的脸型与模型脸型会存在差异,例如,用户人脸的脸型比较宽,模型的脸型比较窄,所呈现出的替换后的人脸的脸型容易出现不匹配的情况,所呈现的人脸效果不够真实,导致用户的换脸体验变差。
发明内容
本申请的目的旨在至少在一定程度上解决上述的技术问题之一。
为此,本申请的第一个目的在于提出一种图像处理方法。该方法可以使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
本申请的第二个目的在于提出一种图像处理装置。
本申请的第三个目的在于提出一种终端设备。
本申请的第四个目的在于提出一种计算机可读存储介质。
为达到上述目的,本申请第一方面实施例提出的图像处理方法,包括:将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取所述原始人脸轮廓与所述模型人脸轮廓之间的至少一个未匹配轮廓段;针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓。
根据本申请实施例的图像处理方法,可将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段,并针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。即在目标对象的原始人脸轮廓与待替换的模型人脸轮廓不匹配时,通过将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上的方式,得到所述目标对象替换后的人脸轮廓,使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
为达到上述目的,本申请第二方面实施例提出的图像处理装置,包括:匹配轮廓段获取模块,用于将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取所述原始人脸轮廓与所述模型人脸轮廓之间的至少一个未匹配轮廓段;处理模块,用于针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓。
根据本申请实施例的图像处理装置,可通过匹配轮廓段获取模块将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段,处理模块针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。即在目标对象的原始人脸轮廓与待替换的模型人脸轮廓不匹配时,通过将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上的方式,得到所述目标对象替换后的人脸轮廓,使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
为达到上述目的,本申请第三方面实施例提出的终端设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时,实现本申请第一方面实施例所述的图像处理方法。
为达到上述目的,本申请第四方面实施例提出的非临时性计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本申请第一方面实施例所述的图像处理方法。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是根据本申请一个实施例的图像处理方法的流程图;
图2是根据本申请一个具体实施例的图像处理方法的流程图;
图3是根据本申请一个实施例的图像处理装置的结构示意图;
图4是根据本申请一个具体实施例的图像处理装置的结构示意图;
图5是根据本申请另一个具体实施例的图像处理装置的结构示意图;
图6是根据本申请又一个具体实施例的图像处理装置的结构示意图;
图7是根据本申请再一个具体实施例的图像处理装置的结构示意图;
图8是根据本申请一个实施例的终端设备的结构示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的图像处理方法、装置、终端设备和计算机可读存储介质。
图1是根据本申请一个实施例的图像处理方法的流程图。需要说明的是,本申请实施例的图像处理方法可适用于目标对象的自拍或直播场景中,可应用于本申请实施例的图像处理装置,该图像处理装置可配置于终端设备上。其中,该终端设备可以是PC机、移动终端等,例如,可以是手机、平板电脑、个人数字助理等具有各种操作***的硬件设备。
如图1所示,该图像处理方法可以包括:
S110,将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段。
具体地,可先获取所述目标对象的人脸三维模型,并从该人脸三维模型中提取该目标对象的人脸轮廓作为所述原始人脸轮廓。作为一种示例,所述目标对象的人脸三维模型可以通过以下方式获得:可采集所述目标对象的多帧人脸图像,并对该多帧人脸图像进行关键点提取并重建,得到所述目标对象的人脸三维模型。
在得到所述目标对象的原始人脸轮廓时,可将该目标对象的原始人脸轮廓与模型人脸轮廓进行大小比较,若该原始人脸轮廓与模型人脸轮廓大小匹配,则无需对该原始人脸轮廓进行拉伸或挤压操作,可直接将该原始人脸轮廓替换成所述模型人脸轮廓,即得到所述目标对象的目标人脸轮廓。如果该原始人脸轮廓与模型人脸轮廓的大小不匹配,则可获取该原始人脸轮廓与模型人脸轮廓之间的未匹配轮廓段。
S120,针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。
作为一种示例,可先扩大该原始人脸轮廓,针对每个未匹配轮廓段,可根据原始人脸轮廓和扩大后的人脸轮廓上的特征点,得到该原始人脸轮廓上未匹配轮廓段对应的第一纹理信息,并根据模型人脸轮廓和扩大后的人脸轮廓上的特征点,得到该模型人脸轮廓上未匹配轮廓段对应的第二纹理信息,将该第一纹理信息映射到对应的第二纹理信息,得到所述目标对象的目标人脸轮廓。
根据本申请实施例的图像处理方法,可将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段,并针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。即在目标对象的原始人脸轮廓与待替换的模型人脸轮廓不匹配时,通过将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上的方式,得到所述目标对象替换后的人脸轮廓,使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
图2是根据本申请一个具体实施例的图像处理方法的流程图。
为了进一步提高换脸效果的真实性,提升用户的换脸体验,在本申请的实施例中,可扩大原始人脸轮廓以生成参考人脸轮廓,并针对每个未匹配轮廓段,根据原始人脸轮廓和参考人脸轮廓上的特征点,得到原始人脸轮廓上未匹配轮廓段对应的第一纹理信息,并根据模型人脸轮廓和参考人脸轮廓上的特征点,得到模型人脸轮廓上未匹配轮廓段对应的第二纹理信息,进而根据第一纹理信息和第二纹理信息之间的映射关系,得到所述目标人脸轮廓。具体地,如图2所示,该图像处理方法可以包括:
S210,将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段。
S220,扩大原始人脸轮廓以生成参考人脸轮廓。
可选地,在该原始人脸轮廓与模型人脸轮廓的大小不匹配时,可从所述原始人脸轮廓上选取两个轮廓点,并确定所述两个轮廓点之间的中心点,以所述中心点为放射点,将所述原始人脸轮廓上的轮廓点同比例扩大预设倍数,得到所述参考人脸轮廓。
例如,可从原始人脸轮廓上任意选取两个轮廓点,并计算这两个轮廓点之间的中心点,以该中心点为放射点,将该原始人脸轮廓上的轮廓点同比例都扩大一定倍数,得到扩大后的人脸轮廓点,并将该扩大后的人脸轮廓点所组成的轮廓作为所述参考人脸轮廓。
S230,针对每个未匹配轮廓段,根据原始人脸轮廓上未匹配轮廓段的第一特征点和参考人脸轮廓上与第一特征点对应的第二特征点,得到原始人脸轮廓上未匹配轮廓段对应的第一纹理信息。
作为一种示例,针对每个未匹配轮廓段,可基于原始人脸轮廓上第一特征点和所述第二特征点,形成第一未匹配区域,并对第一未匹配区域进行三角剖分,得到多个第一三角区域,提取每个第一三角区域的纹理信息,作为第一纹理信息。
例如,可提取原始人脸轮廓上未匹配轮廓段的特征点,并提取该参考人脸轮廓上的特征点,以该原始人脸轮廓上未匹配轮廓段的第一特征点为顶点,与该参考人脸轮廓上的第二特征点和另一个特征点为三角形底边上的两个顶点,建立多个三角形,该三角形即为所述第一三角区域。其中,所述参考人脸轮廓上的第二特征点与所述原始人脸轮廓上未匹配轮廓段的第一特征点相对应;所述另一个特征点可以是该参考人脸轮廓上除所述第二特征点之外的特征点。
在得到第一三角区域之后,可提取该第一三角区域的纹理信息,如像素点坐标、像素点的RGB值等信息,并将该第一三角区域的纹理信息作为所述第一纹理信息。
S240,根据模型人脸轮廓上未匹配轮廓段的第三特征点和参考人脸轮廓上的第二特征点,得到模型人脸轮廓上未匹配轮廓段对应的第二纹理信息。
作为一种示例,可基于模型人脸轮廓上所述第三特征点和参考人脸轮廓上第二特征点,形成第二未匹配区域,并对第二未匹配区域进行三角剖分,得到多个第二三角区域,提取每个第二三角区域的纹理信息,作为第二纹理信息。
例如,可提取模型人脸轮廓上的特征点,并以该模型人脸轮廓上未匹配轮廓段的第三特征点为顶点,与该参考人脸轮廓上的所述第二特征点和所述另一个特征点为三角形底边上的两个顶点,建立多个三角形,该三角形即为所述第二三角区域。
在得到第二三角区域之后,可提取该第二三角区域的纹理信息,如像素点坐标、像素点的RGB值等信息,并将该第二三角区域的纹理信息作为所述第二纹理信息。
S250,以第二纹理信息为参照,对第一纹理信息进行纹理映射,得到目标人脸轮廓。
可选地,将根据第一纹理信息和第二纹理信息之间的映射关系,将该第一纹理信息映射到该第二纹理信息,以得到所述目标对象的目标人脸轮廓,实现对该目标对象的换脸操作。
需要说明的是,在换脸过程中,目标对象的原始人脸轮廓与模型人脸轮廓的大小不匹配的情况包括两种:一种是该原始人脸轮廓超出该待替换的模型人脸轮廓;另一种该原始人脸轮廓小于该待替换的模型人脸轮廓。为此,本申请实施例的图像处理方法,可根据该未匹配的类型(即不匹配的两种情况),采用对应的纹理映射方式实现对纹理的映射,从而可以得到更加真实的换脸图像。作为一种示例,可确定所述未匹配人脸轮廓段的未匹配类型,并根据该未匹配类型确定所述第一纹理信息的纹理映射方式,并按照该纹理映射方式,将所述第一三角区域对应的第一纹理信息,映射到所述第二三角区域,其中,所述第一三角区域上的特征点与所述第二三角区域上的特征点为对应的特征点。
也就是说,在实现纹理映射时,可先确定所述未匹配人脸轮廓段的未匹配类型,其中,所述未匹配类型包括该原始人脸轮廓超出该待替换的模型人脸轮廓,和该原始人脸轮廓小于该待替换的模型人脸轮廓。之后,可根据该未匹配类型确定所述第一纹理信息的纹理映射方式,例如,当所述未匹配类型为该原始人脸轮廓超出该待替换的模型人脸轮廓时,可确定所述第一纹理信息的纹理映射方式为挤压方式,此时可通过挤压方式将所述第一三角区域对应的第一纹理信息映射到所述第二三角区域。又如,当所述未匹配类型为该原始人脸轮廓小于该待替换的模型人脸轮廓时,可确定所述第一纹理信息的纹理映射方式为拉伸方式,此时可通过该拉伸方式将第一三角区域对应的第一纹理信息映射到所述第二三角区域。最后,经过纹理映射后的图像即为该目标对象的目标人脸轮廓图像。
为了使得换脸后的图像更加真实和自然,保证换脸效果,可选地,在本申请的一个实施例中,在得到所述目标人脸轮廓之后,当所述未匹配轮廓段为所述原始人脸轮廓超出所述模型人脸轮廓的轮廓段时,可提取所述未匹配轮廓段周围的背景图像特征,并根据所述背景图像特征,填充所述原始人脸轮廓上未匹配轮廓段与所述模型人脸轮廓上未匹配轮廓段构成的区域。
也就是说,当所述未匹配轮廓段为所述原始人脸轮廓超出所述模型人脸轮廓的轮廓段时,若通过挤压的方式将该原始人脸轮廓未匹配轮廓段上的纹理映射到模型人脸轮廓上的纹理,此时该被挤压的纹理之前所在的位置会呈现空白色,此时,可通过提取该未匹配轮廓段周围的背景图像特征的方式,将该空白区域进行填充,以填充超出模型人脸轮廓部分的区域,从而可以使得换脸后的图像更加真实和自然,提升了用户的使用体验。
为了进一步提升用户的使用体验,可选地,在本申请的一个实施例中,在得到所述目标人脸轮廓之后,还可获取与所述模型人脸轮廓匹配的美妆信息,并根据所述美妆信息,对所述目标人脸轮廓内的人脸进行美化处理。例如,可获取该模型人脸轮廓内的人脸的美妆信息,并根据该美妆信息,对所述目标人脸轮廓内的人脸进行美化处理,可以使得该目标人脸轮廓内人脸的美妆与模型人脸轮廓内人脸的美妆相同。
又如,可为目标对象提供多种美妆,比如淡妆、烟熏妆、复古妆、去皮、去痘等,目标对象可根据自身需求和喜好从该多种美妆中进行选择或者自定义,这样,在得到所述目标人脸轮廓之后,可获取所述目标对象选择的或者自定义的美妆信息,并根据该美妆信息,对所述目标人脸轮廓内的人脸进行美化处理。
为了进一步提升用户的使用体验,可选地,在本申请的一个实施例中,在得到所述目标人脸轮廓之后,还可对所述目标对象进行图像采集,识别所述目标对象的器官特征点,并根据所述器官特征点的移动轨迹获取所述目标对象的表情变化信息,以及根据所述表情变化信息,调整所述目标人脸轮廓内的人脸中的表情。也就是说,在得到所述目标人脸轮廓之后,可采集该目标对象的图像,并识别这些图像中该目标对象的器官特征点,并根据这些图像中的器官特征点确定该器官特征点的移动轨迹,并根据该器官特征点的移动轨迹获取该目标对象的表情变化信息,如大笑、搞怪等,并根据该表情变化信息,调整所述目标人脸轮廓内的人脸中的表情。
根据本申请实施例的图像处理方法,可扩大原始人脸轮廓以生成参考人脸轮廓,并针对每个未匹配轮廓段,根据原始人脸轮廓和参考人脸轮廓上的特征点,得到原始人脸轮廓上未匹配轮廓段对应的第一纹理信息,并根据模型人脸轮廓和参考人脸轮廓上的特征点,得到模型人脸轮廓上未匹配轮廓段对应的第二纹理信息,进而根据第一纹理信息和第二纹理信息之间的映射关系,得到所述目标人脸轮廓,从而可以使得不匹配的人脸部分不会出现在换脸后的图像中,提高了换脸效果的真实性和自然性,提升了用户的使用体验。
与上述几种实施例提供的图像处理方法相对应,本申请的一种实施例还提供一种图像处理装置,由于本申请实施例提供的图像处理装置与上述几种实施例提供的图像处理方法相对应,因此在前述图像处理方法的实施方式也适用于本实施例提供的图像处理装置,在本实施例中不再详细描述。图3是根据本申请一个实施例的图像处理装置的结构示意图。如图3所示,该图像处理装置300可以包括:匹配轮廓段获取模块310和处理模块320。
具体地,匹配轮廓段获取模块310用于将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段。
处理模块320用于针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。
作为一种示例,如图4所示,该处理模块320可以包括:人脸轮廓扩大单元321、第一获取单元322、第二获取单元323和处理单元324。其中,人脸轮廓扩大单元321用于扩大原始人脸轮廓以生成参考人脸轮廓;第一获取单元322用于针对每个未匹配轮廓段,根据原始人脸轮廓上未匹配轮廓段的第一特征点和参考人脸轮廓上与第一特征点对应的第二特征点,得到原始人脸轮廓上未匹配轮廓段对应的第一纹理信息;第二获取单元323用于根据模型人脸轮廓上未匹配轮廓段的第三特征点和参考人脸轮廓上的第二特征点,得到模型人脸轮廓上未匹配轮廓段对应的第二纹理信息;处理单元324用于以第二纹理信息为参照,对第一纹理信息进行纹理映射,得到目标人脸轮廓。
可选地,人脸轮廓扩大单元321可从所述原始人脸轮廓上选取两个轮廓点,并确定所述两个轮廓点之间的中心点,并以所述中心点为放射点,将所述原始人脸轮廓上的轮廓点同比例扩大预设倍数,得到所述参考人脸轮廓。
在本申请的一个实施例中,第一获取单元322基于所述原始人脸轮廓上所述第一特征点和所述第二特征点,形成第一未匹配区域,并对所述第一未匹配区域进行三角剖分,得到多个第一三角区域,提取每个第一三角区域的纹理信息,作为所述第一纹理信息;第二获取单元323基于所述模型人脸轮廓上所述第三特征点和所述参考人脸轮廓上所述第二特征点,形成第二未匹配区域,并对所述第二未匹配区域进行三角剖分,得到多个第二三角区域,提取每个第二三角区域的纹理信息,作为所述第二纹理信息。
在本申请的一个实施例中,处理单元324可确定所述未匹配人脸轮廓段的未匹配类型,并根据所述未匹配类型确定所述第一纹理信息的纹理映射方式,并按照所述纹理映射方式,将所述第一三角区域对应的第一纹理信息,映射到所述第二三角区域,其中,所述第一三角区域上的特征点与所述第二三角区域上的特征点为对应的特征点。
为了使得换脸后的图像更加真实和自然,保证换脸效果,可选地,在本申请的一个实施例中,如图5所示,该图像处理装置300还可包括:提取模块330和区域填充模块340。其中,提取模块330用于在得到所述目标人脸轮廓之后,当未匹配轮廓段为原始人脸轮廓超出模型人脸轮廓的轮廓段时,提取未匹配轮廓段周围的背景图像特征;区域填充模块340用于根据背景图像特征,填充原始人脸轮廓上未匹配轮廓段与模型人脸轮廓上未匹配轮廓段构成的区域。
为了进一步提升用户的使用体验,可选地,在本申请的一个实施例中,如图6所示,该图像处理装置300还可包括:美妆信息获取模块350和美化处理模块360。其中,美妆信息获取模块350用于在得到所述目标人脸轮廓之后,获取与模型人脸轮廓匹配的美妆信息;美化处理模块360用于根据美妆信息,对目标人脸轮廓内的人脸进行美化处理。
为了进一步提升用户的使用体验,可选地,在本申请的一个实施例中,如图7所示,该图像处理装置300还可包括:表情变化信息获取模块370和表情调整模块380。其中,表情变化信息获取模块370用于在得到所述目标人脸轮廓之后,对目标对象进行图像采集,识别目标对象的器官特征点,并根据器官特征点的移动轨迹,获取目标对象的表情变化信息;表情调整模块380用于根据表情变化信息,调整目标人脸轮廓内的人脸中的表情。
根据本申请实施例的图像处理装置,可通过匹配轮廓段获取模块将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取原始人脸轮廓与模型人脸轮廓之间的至少一个未匹配轮廓段,处理模块针对每个未匹配轮廓段,将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上,得到目标对象的目标人脸轮廓。即在目标对象的原始人脸轮廓与待替换的模型人脸轮廓不匹配时,通过将原始人脸轮廓上的未匹配轮廓段对应的纹理映射到模型人脸轮廓上的方式,得到所述目标对象替换后的人脸轮廓,使得不匹配的人脸部分不会出现在换脸后的图像中,为用户提供了更加真实的呈现效果,提升了用户的换脸体验。
为了实现上述实施例,本申请还提出了一种终端设备。
图8是根据本申请一个实施例的终端设备的结构示意图。如图8所示,该终端设备800可包括:存储器810、处理器820及存储在存储器810上并可在处理器820上运行的计算机程序830。其中,处理器820执行所述程序830时,实现本申请上述任一实施例所述的图像处理方法。
为了实现上述实施例,本申请还提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本申请上述任一实施例所述的图像处理方法。
在本申请的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行***、装置或设备(如基于计算机的***、包括处理器的***或其他可以从指令执行***、装置或设备取指令并执行指令的***)使用,或结合这些指令执行***、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行***、装置或设备或结合这些指令执行***、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行***执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (18)
1.一种图像处理方法,其特征在于,包括以下步骤:
将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取所述原始人脸轮廓与所述模型人脸轮廓之间的至少一个未匹配轮廓段;
针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓;
其中,所述针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓,包括:
基于所述原始人脸轮廓上未匹配轮廓段确定的第一未匹配区域,得到所述原始人脸轮廓上未匹配轮廓段对应的第一纹理信息;
基于所述模型人脸轮廓上未匹配轮廓段确定的第二未匹配区域,得到所述模型人脸轮廓上未匹配轮廓段对应的第二纹理信息;
以所述第二纹理信息为参照,对所述第一纹理信息进行纹理映射,得到所述目标人脸轮廓。
2.根据权利要求1所述的图像处理方法,其特征在于,所述将所述原始人脸轮廓上的所述未匹配轮廓段的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓,包括:
扩大所述原始人脸轮廓以生成参考人脸轮廓;
针对每个未匹配轮廓段,根据所述原始人脸轮廓上未匹配轮廓段的第一特征点和所述参考人脸轮廓上与所述第一特征点对应的第二特征点,得到所述原始人脸轮廓上未匹配轮廓段对应的第一纹理信息;
根据所述模型人脸轮廓上未匹配轮廓段的第三特征点和所述参考人脸轮廓上的所述第二特征点,得到所述模型人脸轮廓上未匹配轮廓段对应的第二纹理信息;
以第二纹理信息为参照,对所述第一纹理信息进行纹理映射,得到所述目标人脸轮廓。
3.根据权利要求2所述的图像处理方法,其特征在于,所述根据所述原始人脸轮廓上未匹配轮廓段的第一特征点和所述参考人脸轮廓上与所述第一特征点对应的第二特征点,得到所述原始人脸轮廓上未匹配轮廓段对应的第一纹理信息,包括:
基于所述原始人脸轮廓上所述第一特征点和所述第二特征点,形成第一未匹配区域;
对所述第一未匹配区域进行三角剖分,得到多个第一三角区域,提取每个第一三角区域的纹理信息,作为所述第一纹理信息;
所述根据所述模型人脸轮廓上未匹配轮廓段的第三特征点和所述参考人脸轮廓上的所述第二特征点,得到所述模型人脸轮廓上未匹配轮廓段对应的第二纹理信息,包括:
基于所述模型人脸轮廓上所述第三特征点和所述参考人脸轮廓上所述第二特征点,形成第二未匹配区域;
对所述第二未匹配区域进行三角剖分,得到多个第二三角区域,提取每个第二三角区域的纹理信息,作为所述第二纹理信息。
4.根据权利要求3所述的图像处理方法,其特征在于,所述以第二纹理信息为参照,对所述第一纹理信息进行纹理映射,还包括:
确定所述未匹配人脸轮廓段的未匹配类型;
根据所述未匹配类型,确定所述第一纹理信息的纹理映射方式;
按照所述纹理映射方式,将所述第一三角区域对应的第一纹理信息,映射到所述第二三角区域,其中,所述第一三角区域上的特征点与所述第二三角区域上的特征点为对应的特征点。
5.根据权利要求4所述的图像处理方法,其特征在于,在得到所述目标人脸轮廓之后,还包括:
当所述未匹配轮廓段为所述原始人脸轮廓超出所述模型人脸轮廓的轮廓段时,提取所述未匹配轮廓段周围的背景图像特征;
根据所述背景图像特征,填充所述原始人脸轮廓上未匹配轮廓段与所述模型人脸轮廓上未匹配轮廓段构成的区域。
6.根据权利要求2所述的图像处理方法,其特征在于,扩大所述原始人脸轮廓以生成参考人脸轮廓,包括:
从所述原始人脸轮廓上选取两个轮廓点;
确定所述两个轮廓点之间的中心点;
以所述中心点为放射点,将所述原始人脸轮廓上的轮廓点同比例扩大预设倍数,得到所述参考人脸轮廓。
7.根据权利要求1所述的图像处理方法,其特征在于,在得到所述目标人脸轮廓之后,还包括:
获取与所述模型人脸轮廓匹配的美妆信息;
根据所述美妆信息,对所述目标人脸轮廓内的人脸进行美化处理。
8.根据权利要求1所述的图像处理方法,其特征在于,在得到所述目标人脸轮廓之后,还包括:
对所述目标对象进行图像采集,识别所述目标对象的器官特征点;
根据所述器官特征点的移动轨迹,获取所述目标对象的表情变化信息;
根据所述表情变化信息,调整所述目标人脸轮廓内的人脸中的表情。
9.一种图像处理装置,其特征在于,包括:
匹配轮廓段获取模块,用于将目标对象的原始人脸轮廓与预设的模型人脸轮廓进行比较,获取所述原始人脸轮廓与所述模型人脸轮廓之间的至少一个未匹配轮廓段;
处理模块,用于针对每个未匹配轮廓段,将所述原始人脸轮廓上的所述未匹配轮廓段对应的纹理映射到所述模型人脸轮廓上,得到所述目标对象的目标人脸轮廓;
所述处理模块,具体用于:
基于所述原始人脸轮廓上未匹配轮廓段确定的第一未匹配区域,得到所述原始人脸轮廓上未匹配轮廓段对应的第一纹理信息;
基于所述模型人脸轮廓上未匹配轮廓段确定的第二未匹配区域,得到所述模型人脸轮廓上未匹配轮廓段对应的第二纹理信息;
以所述第二纹理信息为参照,对所述第一纹理信息进行纹理映射,得到所述目标人脸轮廓。
10.根据权利要求9所述的图像处理装置,其特征在于,所述处理模块包括:
人脸轮廓扩大单元,用于扩大所述原始人脸轮廓以生成参考人脸轮廓;
第一获取单元,用于针对每个未匹配轮廓段,根据所述原始人脸轮廓上未匹配轮廓段的第一特征点和所述参考人脸轮廓上与所述第一特征点对应的第二特征点,得到所述原始人脸轮廓上未匹配轮廓段对应的第一纹理信息;
第二获取单元,用于根据所述模型人脸轮廓上未匹配轮廓段的第三特征点和所述参考人脸轮廓上的所述第二特征点,得到所述模型人脸轮廓上未匹配轮廓段对应的第二纹理信息;
处理单元,用于以第二纹理信息为参照,对所述第一纹理信息进行纹理映射,得到所述目标人脸轮廓。
11.根据权利要求10所述的图像处理装置,其特征在于,
所述第一获取单元具体用于:基于所述原始人脸轮廓上所述第一特征点和所述第二特征点,形成第一未匹配区域,并对所述第一未匹配区域进行三角剖分,得到多个第一三角区域,提取每个第一三角区域的纹理信息,作为所述第一纹理信息;
所述第二获取单元具体用于:基于所述模型人脸轮廓上所述第三特征点和所述参考人脸轮廓上所述第二特征点,形成第二未匹配区域,并对所述第二未匹配区域进行三角剖分,得到多个第二三角区域,提取每个第二三角区域的纹理信息,作为所述第二纹理信息。
12.根据权利要求11所述的图像处理装置,其特征在于,所述处理单元具体用于:
确定所述未匹配人脸轮廓段的未匹配类型;
根据所述未匹配类型,确定所述第一纹理信息的纹理映射方式;
按照所述纹理映射方式,将所述第一三角区域对应的第一纹理信息,映射到所述第二三角区域,其中,所述第一三角区域上的特征点与所述第二三角区域上的特征点为对应的特征点。
13.根据权利要求12所述的图像处理装置,其特征在于,所述装置还包括:
提取模块,用于在所述未匹配轮廓段为所述原始人脸轮廓超出所述模型人脸轮廓的轮廓段时,提取所述未匹配轮廓段周围的背景图像特征;
区域填充模块,用于根据所述背景图像特征,填充所述原始人脸轮廓上未匹配轮廓段与所述模型人脸轮廓上未匹配轮廓段构成的区域。
14.根据权利要求10所述的图像处理装置,其特征在于,所述人脸轮廓扩大单元具体用于:
从所述原始人脸轮廓上选取两个轮廓点;
确定所述两个轮廓点之间的中心点;
以所述中心点为放射点,将所述原始人脸轮廓上的轮廓点同比例扩大预设倍数,得到所述参考人脸轮廓。
15.根据权利要求9所述的图像处理装置,其特征在于,所述装置还包括:
美妆信息获取模块,用于获取与所述模型人脸轮廓匹配的美妆信息;
美化处理模块,用于根据所述美妆信息,对所述目标人脸轮廓内的人脸进行美化处理。
16.根据权利要求9所述的图像处理装置,其特征在于,所述装置还包括:
表情变化信息获取模块,用于对所述目标对象进行图像采集,识别所述目标对象的器官特征点,并根据所述器官特征点的移动轨迹,获取所述目标对象的表情变化信息;
表情调整模块,用于根据所述表情变化信息,调整所述目标人脸轮廓内的人脸中的表情。
17.一种终端设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时,实现如权利要求1至8中任一项所述的图像处理方法。
18.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至8中任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810488648.6A CN108765265B (zh) | 2018-05-21 | 2018-05-21 | 图像处理方法、装置、终端设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810488648.6A CN108765265B (zh) | 2018-05-21 | 2018-05-21 | 图像处理方法、装置、终端设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108765265A CN108765265A (zh) | 2018-11-06 |
CN108765265B true CN108765265B (zh) | 2022-05-24 |
Family
ID=64007368
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810488648.6A Active CN108765265B (zh) | 2018-05-21 | 2018-05-21 | 图像处理方法、装置、终端设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108765265B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110728621B (zh) * | 2019-10-17 | 2023-08-25 | 北京达佳互联信息技术有限公司 | 一种面部图像的换脸方法、装置、电子设备及存储介质 |
CN110807448B (zh) * | 2020-01-07 | 2020-04-14 | 南京甄视智能科技有限公司 | 人脸关键点数据增强方法 |
CN112750176A (zh) * | 2020-09-10 | 2021-05-04 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN113313785B (zh) * | 2021-08-02 | 2021-10-29 | 杭州安恒信息技术股份有限公司 | 一种边框生成方法、装置、设备及存储介质 |
CN116993576B (zh) * | 2023-06-21 | 2024-03-08 | 北京开普云信息科技有限公司 | 视频换脸方法、装置、存储介质及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102157007A (zh) * | 2011-04-11 | 2011-08-17 | 北京中星微电子有限公司 | 一种表演驱动的制作人脸动画的方法和装置 |
CN106652025A (zh) * | 2016-12-20 | 2017-05-10 | 五邑大学 | 一种基于视频流与人脸多属性匹配的三维人脸建模方法和打印装置 |
CN107392112A (zh) * | 2017-06-28 | 2017-11-24 | 中山职业技术学院 | 一种人脸表情识别方法及其应用的智能锁*** |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101826217A (zh) * | 2010-05-07 | 2010-09-08 | 上海交通大学 | 人脸动画快速生成方法 |
US8818131B2 (en) * | 2010-08-20 | 2014-08-26 | Adobe Systems Incorporated | Methods and apparatus for facial feature replacement |
CN102800129B (zh) * | 2012-06-20 | 2015-09-30 | 浙江大学 | 一种基于单幅图像的头发建模和肖像编辑方法 |
CN104134058B (zh) * | 2014-07-21 | 2017-07-11 | 成都万维图新信息技术有限公司 | 一种人脸图像处理方法 |
CN105184249B (zh) * | 2015-08-28 | 2017-07-18 | 百度在线网络技术(北京)有限公司 | 用于人脸图像处理的方法和装置 |
CN106652037B (zh) * | 2015-10-30 | 2020-04-03 | 深圳超多维光电子有限公司 | 一种人脸贴图处理方法及装置 |
CN106372333A (zh) * | 2016-08-31 | 2017-02-01 | 北京维盛视通科技有限公司 | 基于人脸模型的服装展示方法及装置 |
CN107145870B (zh) * | 2017-05-10 | 2020-01-21 | 成都优孚达信息技术有限公司 | 一种视频中人脸的识别*** |
CN107230181B (zh) * | 2017-06-05 | 2018-06-29 | 厦门美柚信息科技有限公司 | 实现人脸图像融合的方法及装置 |
CN107180238A (zh) * | 2017-07-27 | 2017-09-19 | 深圳市泰衡诺科技有限公司 | 一种智能终端的图像预览装置及方法 |
CN107610202B (zh) * | 2017-08-17 | 2020-11-03 | 北京觅己科技有限公司 | 人脸图像替换方法、设备及存储介质 |
CN107564080B (zh) * | 2017-08-17 | 2020-07-28 | 北京觅己科技有限公司 | 一种人脸图像的替换*** |
CN107507216B (zh) * | 2017-08-17 | 2020-06-09 | 北京觅己科技有限公司 | 图像中局部区域的替换方法、装置及存储介质 |
CN107784625B (zh) * | 2017-10-09 | 2019-03-08 | 平安科技(深圳)有限公司 | 电子装置、虚拟样本生成方法及存储介质 |
CN107730448B (zh) * | 2017-10-31 | 2020-11-27 | 北京小米移动软件有限公司 | 基于图像处理的美颜方法及装置 |
-
2018
- 2018-05-21 CN CN201810488648.6A patent/CN108765265B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102157007A (zh) * | 2011-04-11 | 2011-08-17 | 北京中星微电子有限公司 | 一种表演驱动的制作人脸动画的方法和装置 |
CN106652025A (zh) * | 2016-12-20 | 2017-05-10 | 五邑大学 | 一种基于视频流与人脸多属性匹配的三维人脸建模方法和打印装置 |
CN107392112A (zh) * | 2017-06-28 | 2017-11-24 | 中山职业技术学院 | 一种人脸表情识别方法及其应用的智能锁*** |
Also Published As
Publication number | Publication date |
---|---|
CN108765265A (zh) | 2018-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108765265B (zh) | 图像处理方法、装置、终端设备和存储介质 | |
CN108509846B (zh) | 图像处理方法、装置、计算机设备、存储介质及计算机程序产品 | |
CN108986016B (zh) | 图像美化方法、装置及电子设备 | |
CN113689540B (zh) | 基于rgb视频的物体重建方法和装置 | |
US20150356770A1 (en) | Street view map display method and system | |
CN107705240B (zh) | 虚拟试妆方法、装置和电子设备 | |
CN108109161B (zh) | 基于自适应阈值分割的视频数据实时处理方法及装置 | |
CN110163831B (zh) | 三维虚拟沙盘的物体动态展示方法、装置及终端设备 | |
CN110021000B (zh) | 基于图层变形的发际线修复方法及装置 | |
CN108111911B (zh) | 基于自适应跟踪框分割的视频数据实时处理方法及装置 | |
CN107638690B (zh) | 增强现实的实现方法、装置、服务器及介质 | |
CN107959798B (zh) | 视频数据实时处理方法及装置、计算设备 | |
CN108463823A (zh) | 一种用户头发模型的重建方法、装置及终端 | |
CN113657357B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112614229B (zh) | 基于深度学习的人脸重建方法和装置 | |
CN108921798B (zh) | 图像处理的方法、装置及电子设备 | |
CN110689626A (zh) | 游戏模型渲染方法和装置 | |
US10269155B1 (en) | Image artifact masking | |
CN113628327A (zh) | 一种头部三维重建方法及设备 | |
CN112541867A (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN112699885A (zh) | 一种基于对抗生成网络gan的语义分割训练数据增广方法和*** | |
CN110717962B (zh) | 动态照片生成方法、装置、拍照设备及存储介质 | |
CN111815784A (zh) | 现实模型的呈现方法及装置、电子设备和存储介质 | |
CN107492068B (zh) | 视频对象变换实时处理方法、装置及计算设备 | |
CN116977539A (zh) | 图像处理方法、装置、计算机设备、存储介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |