CN113780326A - 一种图像处理方法、装置、存储介质及电子设备 - Google Patents
一种图像处理方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN113780326A CN113780326A CN202110231306.8A CN202110231306A CN113780326A CN 113780326 A CN113780326 A CN 113780326A CN 202110231306 A CN202110231306 A CN 202110231306A CN 113780326 A CN113780326 A CN 113780326A
- Authority
- CN
- China
- Prior art keywords
- feature
- image
- migration
- attribute
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 230000005012 migration Effects 0.000 claims abstract description 200
- 238000013508 migration Methods 0.000 claims abstract description 200
- 238000000034 method Methods 0.000 claims abstract description 25
- 238000012545 processing Methods 0.000 claims abstract description 17
- 230000004927 fusion Effects 0.000 claims abstract description 8
- 238000000605 extraction Methods 0.000 claims description 26
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims description 9
- 230000009467 reduction Effects 0.000 claims description 4
- 230000011218 segmentation Effects 0.000 claims description 3
- 238000013526 transfer learning Methods 0.000 abstract description 21
- 238000010586 diagram Methods 0.000 description 14
- 238000012549 training Methods 0.000 description 12
- 238000012546 transfer Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000003786 synthesis reaction Methods 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/40—Analysis of texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种图像处理方法、装置、存储介质及电子设备，其中方法包括：获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。在形状特征和纹理特征两个维度上的迁移学习，提高了待处理图像迁移学习的精度以及目标图像的质量。
Description
技术领域
本发明实施例涉及自动驾驶技术，尤其涉及一种图像处理方法、装置、存储介质及电子设备。
背景技术
近年来，深度学习在很多领域都取得了非常好的效果，从图像分类、语音识别到自然语言处理等。目前深度学习在图像处理领域被广泛应用。
但是在实现本发明的过程中，发明人发现现有技术中至少存在以下技术问题：在图像迁移学习中，同一类型的迁移采用通用模式，学习到的图像个体差异性小，图像迁移精度低。
发明内容
本发明实施例提供一种图像处理方法、装置、存储介质及电子设备，以实现提供图像精度。
第一方面，本发明实施例提供了一种图像处理方法，包括：
获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；
将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；
将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；
基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
第二方面，本发明实施例还提供了一种图像处理方法，：
特征提取模块，用于获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；
形状特征迁移模块，用于将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；
纹理特征迁移模块，用于将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；
目标图像生成模块，用于基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
第三方面，本发明实施例还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明任一实施例提供的图像处理方法。
第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任一实施例提供的图像处理方法。
本发明实施例提供的技术方案，通过设置形状迁移模型和纹理迁移模型，将待处理图像在形状和纹理两个维度上进行解耦，并基于设置的形状迁移模型和纹理迁移模型分别对形状特征和纹理特征分别进行迁移学习，实现了对待处理图像的形状特征和纹理特征的分布独立的迁移学习，提高了各个维度特征的迁移学习精度，同时在形状特征和纹理特征两个维度上的迁移学习，提高的待处理图像迁移学习的全面性，进一步提高了待处理图像迁移学习的精度以及目标图像的质量。
附图说明
图1为本发明实施例一提供的一种图像处理方法的流程示意图；
图2是本发明实施例中形状迁移模型或纹理迁移模型的结构示意图；
图3是本发明实施例提供的一种属性迁移模块的结构示意图；
图4是本发明实施例二提供的一种图像处理方法的流程示意图；
图5是本发明实施例提供的纹理迁移模型的结构示意图；
图6是本发明实施例提供的属性迁移模块的结构示意图；
图7是本发明实施例提供的一种图像处理装置的结构示意图；
图8为本发明实施例四提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种图像处理方法的流程示意图，本实施例可适用于对图像进行迁移学***板电脑以及计算机等的电子设备上，具体包括如下步骤：
S110、获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征。
S120、将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征。
S130、将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征。
S140、基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
本实施例中，通过形状迁移模型和纹理迁移模型对待处理图像进行属性迁移处理，其中，属性可以是待处理图像的属性，例如图像风格等，还可以是待处理图像中所图像内容的属性，例如待处理图像中图像内容为人物，属性包括但不限于年龄、性别等。
本实施例中，设置形状迁移模型和纹理迁移模型，在形状特征和纹理特征两个方面同时对待处理图像进行迁移学习，得到迁移学习后的目标图像，从形状特征和纹理特征两个方面对待处理图像进行处理，提供迁移学习的全面性，避免单一特征迁移导致的迁移学习质量差，图像精度低的问题。
可选的，待处理图像为三维图像。对待处理图像进行特征提取，提取待处理图像中的当前属性特征、形状特征和纹理特征。在一些实施例中，待处理图像的形状特征uv map和纹理特征uv texture map可以是通过预先设置的特征提取模型得到，例如形状特征提取模型和纹理特则提取模型，形状特征提取模型和纹理特则提取模型例如可以是机器学习模型，具体可以是神经网络模型等，不限定形状特征提取模型和纹理特则提取模型的具体结构，可实现形状特征和纹理特征的提取即可。在一些实施例中，获取待处理图像的形状特征和纹理特征包括：将待处理图像通过所预设的归一化坐标编码预测网络的分析以获取归一化坐标编码图谱信息，从预先设置的基准归一化坐标编码图谱信息与基准UV空间坐标信息之间的对应关系中，查找与所述当前归一化坐标编码图谱信息对应的UV空间坐标信息，得到形状特征uv map；将当前归一化坐标编码图谱信息依次映射到UV空间坐标信息以形成UV空间纹理映射信息，即纹理特征uv texture map。
待处理图像的当前属性特征为待处理图像的专属特征，用于提高待处理图像在迁移学习过程中的差异性。其中，待处理图像的当前属性特征可以是基于预设的属性特征提取模型得到，该属性特征提取模型可以是根据属性需求设置，示例性的，属性为年龄，属性特征提取模型可以为年龄估计模型，该年龄估计模型可识别待处理图像中人物的年龄特征，该年龄特征可以是one-hot向量，即一个长度为n的向量。示例性的，属性为性别，属性特征提取模型可以为性别识别模型，该性别识别模型可识别待处理图像中人物的性别特征。示例性的属性为图像风格，属性特征提取模型可以为风格识别模型，该风格识别模型可识别待处理图像的图像风格。
待处理图像的目标属性特征为待处理图像的迁移学习目标，示例性的，若属性为年龄，则目标属性特征用于表征迁移学习的目标年龄，若属性为性别，则目标属性特征用于表征迁移学习的目标性别，若属性为图像风格，则目标属性特征用于表征迁移学习的目标图像风格。以属性为年龄为例，目标属性特征可以是一个长度为n的one-hot向量，其中n表示年龄段的个数，若该待处理图像中人物属于第i个年龄段，则该向量的第i维为1，其余维都为0，表示的是通用的年龄特征。需要说明的是，对于其他属性，可根据各属性特征的表征需求确定目标属性特征的表现形式，此处不作限定。
本实施例中，分别设置形状迁移模型和纹理迁移模型，用于对待处理图像的形状特征和纹理特征分别进行迁移学习。其中，形状迁移模型和纹理迁移模型可以是神经网络模型，二者的网络结构可以相同或不同，分别通过训练得到。在一些实施例中，形状迁移模型或纹理迁移模型可以是但不限于GAN(Generative Adversarial Networks生成式对抗网络)网络或者VAE(variational autoencode，变分自动编码器)。
对于形状特征的迁移学习，将待处理图像的当前属性特征、所述形状特征和所述目标属性特征作为形状迁移模型的输入信息，形状迁移模型对上述输入信息进行迁移学习，得到目标属性对应的形状特征。同理，对于纹理特征的迁移学习，将待处理图像的当前属性特征、所述纹理特征和所述目标属性特征作为纹理迁移模型的输入信息，纹理迁移模型对上述输入信息进行迁移学习，得到目标属性对应的纹理特征。
对于分别学习到的纹理特征和形状特征进行合成，以得到目标图像，可选的，可以是通过render合成方式将纹理特征和形状特征进行合成渲染，得到目标图像。
本实施例中，通过设置形状迁移模型和纹理迁移模型，将待处理图像在形状和纹理两个维度上进行解耦，并基于设置的形状迁移模型和纹理迁移模型分别对形状特征和纹理特征分别进行迁移学习，实现了对待处理图像的形状特征和纹理特征的分布独立的迁移学习，提高了各个维度特征的迁移学习精度，同时在形状特征和纹理特征两个维度上的迁移学习，提高的待处理图像迁移学习的全面性，进一步提高了待处理图像迁移学习的精度以及目标图像的质量。
在上述实施例的基础上，形状迁移模型和纹理迁移模型具有相同的网络结构。示例性的，参见图2，图2是本发明实施例中形状迁移模型或纹理迁移模型的结构示意图。对于形状迁移模型或纹理迁移模型，模型中包括特征提取模块和至少一个属性迁移模块，所述属性迁移模块基于所述特征提取模块的输出特征或前一属性迁移模块的输出特征、所述当前属性特征、所述目标属性特征生成当前输出特征，并输入至下一属性迁移模块。需要说明的是，图2仅为一种示例图，图2中属性迁移模块的数量可以3，还可以是其他数量，可根据用户需求设置。可选的，特征提取模块和属性迁移模块中可以是包括依次连接的至少一个卷积层，或者由预设数量的卷积层和其他网络块。输入特征可以是形状特征或纹理特征，在一些实施例中，可以是将最后一个属性迁移模块的输出特征确定为目标属性对应的形状特征或纹理特征，还可以是在图2所示的结构上连接有卷积块或全连接层等，对此不作限定。
在上述实施例的基础上，各属性迁移模块的结构可以相同，示例性的，参见图3，图3是本发明实施例提供的一种属性迁移模块的结构示意图。任一属性迁移模块包括：第一卷积层、第一风格迁移网络、第二风格迁移网络和第二卷积层；其中，所述第一卷积层用于对输入特征进行卷积操作，将卷积特征分别输入至所述第一风格迁移网络和所述第二风格迁移网络；所述第一风格迁移网络对所述当前属性特征和所述卷积特征进行迁移操作，生成第一迁移特征，所述第二风格迁移网络对所述目标属性特征和所述卷积特征进行迁移操作，生成第二迁移特征；所述第二卷积层对进行拼接的所述卷积特征、所述第一迁移特征和所述第二迁移特征进行降维处理，得到当前输出特征，使当前输出特征的维度和输入特征的维度保持一致。
本实施例中，第一风格迁移网络和第二风格迁移网络可以是AdaIN(AdaptiveInstance Normalization，自适应实例标准化)网络。通过该AdaIN分别对当前属性特征和目标属性特征分别进行处理得到第一迁移特征和第二迁移特征，进一步的，第二卷积层对卷积特征、第一迁移特征和第二迁移特征进行拼接降维处理后进行卷积处理，在迁移学习过程中，融合待处理图像本身的专属属性特征和目标属性特征，避免迁移学习得到的图像千篇一律的问题，突出了待处理图像的专属特征，提高了目标图像质量。
在上述实施例的基础上，对于形状迁移模型和纹理迁移模型，分别设置有第一参数转换模块和第二参数转换模块，所述第一参数转换模块用于将所述当前属性特征转换为第一风格迁移参数，输出至所述第一风格迁移网络，所述第二参数转换模块用于将所述目标属性特征转换为第二风格迁移参数，输入至所述第二风格迁移网络。在一些实施例中，第一参数转换模块和第二参数转换模块可以分别为一全连接层，以第一风格迁移网络和第二风格迁移网络为AdaIN网络为例，第一风格迁移参数和第二风格迁移参数可以为AdaIN网络所需的仿射变换参数β和γ。在其他实施例中，第一风格迁移参数和第二风格迁移参数可根据第一风格迁移网络和第二风格迁移网络的网络类型进行设置。
在上述实施例的基础上，形状迁移模型的训练方法为获取样本图像和该样本图像的目标属性对应的目标图像，基于形状特征提取模型分别提取该样本图像和目标图像的形状特征，将样本图像的形状特征、当前属性特征和目标属性特征输入至待训练的形状迁移模型中，得到训练形状特征，基于该训练形状特征和目标图像的形状特征确定损失函数，基于该损失函数对待训练的形状迁移模型进行网络参数调节。迭代执行上述训练过程，直到满足训练条件，例如满足迭代次数或者满足精度要求，确定形状迁移模型训练完成。
同理，纹理迁移模型的训练方法为获取样本图像和该样本图像的目标属性对应的目标图像，基于纹理特征提取模型分别提取该样本图像和目标图像的纹理特征，将样本图像的纹理特征当前属性特征和目标属性特征输入至待训练的纹理迁移模型中，得到训练纹理特征，基于该纹理迁移模型和目标图像的纹理特征确定损失函数，基于该损失函数对待训练的纹理迁移模型进行网络参数调节。迭代执行上述训练过程，直到满足训练条件，例如满足迭代次数或者满足精度要求，确定纹理迁移模型训练完成。
本实施例提供的纹理迁移模型和形状迁移模型分别对纹理特征和形状特征进行迁移学习，在迁移学习时输入待处理图像的当前属性特征和目标属性特征，融合了待处理图像本身的专属属性特征和目标属性特征，避免迁移学习得到的图像千篇一律的问题，突出了待处理图像的专属特征，提高了目标图像质量。
实施例二
图4是本发明实施例二提供的一种图像处理方法的流程示意图，在上述实施例的基础上进行了细化，可选的，所述待处图像为人脸图像，所述属性包括年龄属性。该方法具体包括：
S210、获取初始图像，对所述初始图像进行人脸分割，得到所述初始图像中的人脸图像和背景图像。
S220、提取所述人脸图像的当前属性特征、形状特征、纹理特征以及人脸图像的目标属性特征。
S230、将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征。
S240、将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征。
S250、将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征。
S260、将所述目标图像和所述背景图像进行合成。
本实施例中，对人脸图像的年龄属性进行迁移学习操作，在获取初始图像后，识别初始图像中的人脸区域，并对识别得到的人脸区域进行分割出来，得到人脸图像，对人脸图像进行年龄属性的迁移学习操作，避免背景图像在迁移学习操作过程中的干扰和无效处理。
针对于年龄属性，相应的，当前属性特征为当前年龄特征，目标属性特征为目标年龄特征，其中，当前年龄特征为基于年龄估计模型对待处理的人脸图像处理得到。目标年龄特征为根据迁移学习的目标年龄设置的，示例性的，目标年龄为70，该目标年龄所述年龄段为70-79，相应的，在长度为n的one-hot向量中，将年龄段70-79的数据设置为1，其他设置为0。目标年龄可以是任意需求的年龄，例如可以是小于人脸图像的人物的年龄，还可以是大于人脸图像的人物的年龄。需要说明的是，目标年龄特征中的年龄段可以是根据需求设置，对此不作限定。
基于预先设置的形状迁移模型对人脸图像进行形状迁移学习，得到目标年龄对应的形状特征，基于预先设置的纹理迁移模型对人脸图像进行纹理迁移学习，得到目标年龄对应的纹理特征，对目标年龄对应的纹理特征和形状特征进行特征融合得到目标年龄的目标人脸图像。
将该目标人脸图像和背景图像进行合成，得到包括背景图像和目标人脸图像的合成图像。在一些实施例中，可以是基于refine模型来将背景与目标人脸图像进行合成。需要说明的是，由于人脸图像的形状特征在迁移学习过程中发生变化，例如，可以是形态特征存在变大、变小等的变化，相应的，目标人脸图像与背景图像存在合成差异，导致合成图像质量差的问题。
可选的，将所述目标图像和所述背景图像进行合成，包括：基于所述目标图像调节所述背景图像；将所述目标图像和调节后的背景图像进行合并。具体的，根据目标图像(即目标人脸图像)的形状特征，调节背景图像的形状，使得调节后的背景图像的形状适应于目标人脸图像，将目标图像和调节后的背景图像进行合并得到高质量的合成图像。
本实施例的技术方案，通过对人脸图像提取当前年龄特征、形状特征、纹理特征，通过预先设置的形状迁移模型和纹理迁移模型分别在形状特征、纹理特征的两个维度上进行特征迁移学习，提高人脸图像在形状特征、纹理特征的两个维度上迁移学习的精度，同时通过当前年龄特征和目标年龄特征辅助形状特征、纹理特征的迁移学习，在迁移学习过程中兼顾了人脸图像的人性化特征，提高了目标人脸图像的差异化，避免了千篇一律的迁移学习，提高了目标人脸图像的质量。
在上述实施例的基础上，还提供了一种图像处理方法的优选示例，示例性的，参见图5和图6，图5是本发明实施例提供的纹理迁移模型的结构示意图，图6是本发明实施例提供的属性迁移模块的结构示意图。
图5和图6中输入图像为待处理的人脸图像，基于年龄估计模型对输入图像进行处理得到当前年龄特征，基于预先设置的形状特征提取模型提取输入图像的形状特征uvmap，基于预先设置的纹理特征提取模型提取输入图像的纹理特征uv texture map，图5中的纹理迁移模型，输入信息为当前年龄特征、纹理特征uv texture map以及目标年龄特征，该目标年龄特征为长度为n的one-hot向量，纹理迁移模型的输出信息为输出图像的纹理特征uv texture map。同理，形状迁移模型的结构可以是与纹理迁移模型的结构相同，形状迁移模型的输入信息为人脸图像的形状特征uv map、当前年龄特征和目标年龄特征，其输出信息为输出图像的形状特征uv map。通过render方法，基于输出图像的形状特征uv map和输出图像的纹理特征uv texture map合成转换后的人脸图像。通过refine模型来将背景等信息合成进去，同时优化第三步生成的人脸图像，得到更加逼真的人脸图像。
该纹理迁移模型中包括三个属性迁移模块，该属性迁移模块的结构参见图6。图6中每一个属性迁移模块中包括两个卷积层(即第一卷积层和第二卷积层)，两个AdaIN网络(即第一风格迁移网络和第二风格迁移网络)。该属性迁移模块的输入特征可以是特征提取模块的输出特征，或者上一属性迁移模块的输出特征。
实施例三
图7是本发明实施例提供的一种图像处理装置的结构示意图，该装置包括：
图像获取模块310，用于获取待处理图像。
特征提取模块320，用于提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；
形状特征迁移模块330，用于将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；
纹理特征迁移模块340，用于将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；
目标图像生成模块350，用于基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
在上述实施例的基础上，所述形状迁移模型和所述纹理迁移模型中分别包括特征提取模块和至少一个属性迁移模块，所述属性迁移模块基于所述特征提取模块的输出特征或前一属性迁移模块的输出特征、所述当前属性特征、所述目标属性特征生成当前输出特征，并输入至下一属性迁移模块。
在上述实施例的基础上，所述属性迁移模块包括：第一卷积层、第一风格迁移网络、第二风格迁移网络和第二卷积层；
其中，所述第一卷积层用于对输入特征进行卷积操作，将卷积特征分别输入至所述第一风格迁移网络和所述第二风格迁移网络；
所述第一风格迁移网络对所述当前属性特征和所述卷积特征进行迁移操作，生成第一迁移特征，所述第二风格迁移网络对所述目标属性特征和所述卷积特征进行迁移操作，生成第二迁移特征；
所述第二卷积层对进行拼接的所述卷积特征、所述第一迁移特征和所述第二迁移特征进行降维处理，得到当前输出特征。
在上述实施例的基础上，所述形状迁移模型和所述纹理迁移模型中分别第一参数转换模块和第二参数转换模块，所述第一参数转换模块用于将所述当前属性特征转换为第一风格迁移参数，输出至所述第一风格迁移网络，所述第二参数转换模块用于将所述目标属性特征转换为第二风格迁移参数，输入至所述第二风格迁移网络。
在上述实施例的基础上，所述待处图像为人脸图像，所述属性包括年龄属性。
在上述实施例的基础上，图像获取模块310用于：
获取初始图像，对所述初始图像进行人脸分割，得到所述初始图像中的人脸图像和背景图像；
在上述实施例的基础上，该装置还包括：
图像合成模块，用于将所述目标图像和所述背景图像进行合成。
在上述实施例的基础上，图像合成模块用于：
基于所述目标图像调节所述背景图像；
将所述目标图像和调节后的背景图像进行合并。
本发明实施例所提供的图像处理装置可执行本发明任意实施例所提供的图像处理方法，具备执行方法相应的功能模块和有益效果。
实施例四
图8为本发明实施例四提供的一种电子设备的结构示意图。图8示出了适于用来实现本发明实施方式的电子设备12的框图。图8显示的电子设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。设备12典型的是承担图像分类功能的电子设备。
如图8所示，电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于：一个或者多个处理器16，存储装置28，连接不同***组件(包括存储装置28和处理器16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，***总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture，ISA)总线，微通道体系结构(Micro Channel Architecture，MCA)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及***组件互连(Peripheral Component Interconnect，PCI)总线。
电子设备12典型地包括多种计算机***可读介质。这些介质可以是任何能够被电子设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
存储装置28可以包括易失性存储器形式的计算机***可读介质，例如随机存取存储器(Random Access Memory，RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机***存储介质。仅作为举例，存储***34可以用于读写不可移动的、非易失性磁介质(图8未显示，通常称为“硬盘驱动器”)。尽管图8中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory，CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储装置28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块26的程序36，可以存储在例如存储装置28中，这样的程序模块26包括但不限于操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网关环境的实现。程序模块26通常执行本发明所描述的实施例中的功能和/或方法。
电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、摄像头、显示器24等)通信，还可与一个或者多个使得用户能与该电子设备12交互的设备通信，和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，电子设备12还可以通过网关适配器20与一个或者多个网关(例如局域网(Local Area Network，LAN)，广域网Wide Area Network，WAN)和/或公共网关，例如因特网)通信。如图所示，网关适配器20通过总线18与电子设备12的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of Independent Disks，RAID)***、磁带驱动器以及数据备份存储***等。
处理器16通过运行存储在存储装置28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明上述实施例所提供的图像处理方法。
实施例五
本发明实施例五提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例所提供的图像处理方法。
当然，本发明实施例所提供的一种计算机可读存储介质，其上存储的计算机程序不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的图像处理方法。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的源代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的源代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机源代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。源代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网关——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种图像处理方法，其特征在于，包括：
获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；
将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；
将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；
基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
2.根据权利要求1所述的方法，其特征在于，所述形状迁移模型和所述纹理迁移模型中分别包括特征提取模块和至少一个属性迁移模块，所述属性迁移模块基于所述特征提取模块的输出特征或前一属性迁移模块的输出特征、所述当前属性特征、所述目标属性特征生成当前输出特征，并输入至下一属性迁移模块。
3.根据权利要求2所述的方法，其特征在于，所述属性迁移模块包括：第一卷积层、第一风格迁移网络、第二风格迁移网络和第二卷积层；
其中，所述第一卷积层用于对输入特征进行卷积操作，将卷积特征分别输入至所述第一风格迁移网络和所述第二风格迁移网络；
所述第一风格迁移网络对所述当前属性特征和所述卷积特征进行迁移操作，生成第一迁移特征，所述第二风格迁移网络对所述目标属性特征和所述卷积特征进行迁移操作，生成第二迁移特征；
所述第二卷积层对进行拼接的所述卷积特征、所述第一迁移特征和所述第二迁移特征进行降维处理，得到当前输出特征。
4.根据权利要求3所述的方法，其特征在于，所述形状迁移模型和所述纹理迁移模型中分别设置有第一参数转换模块和第二参数转换模块，所述第一参数转换模块用于将所述当前属性特征转换为第一风格迁移参数，输出至所述第一风格迁移网络，所述第二参数转换模块用于将所述目标属性特征转换为第二风格迁移参数，输入至所述第二风格迁移网络。
5.根据权利要求1-4任一所述的方法，其特征在于，所述待处理图像为人脸图像，所述属性包括年龄属性。
6.根据权利要求5所述的方法，其特征在于，所述获取待处理图像包括：
获取初始图像，对所述初始图像进行人脸分割，得到所述初始图像中的人脸图像和背景图像；
在得到目标属性对应的目标图像之后，所述方法还包括：
将所述目标图像和所述背景图像进行合成。
7.根据权利要求6所述的方法，其特征在于，所述将所述目标图像和所述背景图像进行合成，包括：
基于所述目标图像调节所述背景图像；
将所述目标图像和调节后的背景图像进行合并。
8.一种图像处理装置，其特征在于，包括：
特征提取模块，用于获取待处理图像，提取所述待处理图像的当前属性特征、形状特征、纹理特征以及待处理图像的目标属性特征；
形状特征迁移模块，用于将所述当前属性特征、所述形状特征和所述目标属性特征输入至预先训练的形状迁移模型中，生成所述目标属性对应的形状特征；
纹理特征迁移模块，用于将所述当前属性特征、所述纹理特征和所述目标属性特征输入至预先训练的纹理迁移模型中，生成所述目标属性对应的纹理特征；
目标图像生成模块，用于基于所述目标属性对应的纹理特征和所述形状特征进行特征融合，得到目标属性对应的目标图像。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-7中任一所述的图像处理方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的图像处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110231306.8A CN113780326A (zh) | 2021-03-02 | 2021-03-02 | 一种图像处理方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110231306.8A CN113780326A (zh) | 2021-03-02 | 2021-03-02 | 一种图像处理方法、装置、存储介质及电子设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113780326A true CN113780326A (zh) | 2021-12-10 |
Family
ID=78835648
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110231306.8A Pending CN113780326A (zh) | 2021-03-02 | 2021-03-02 | 一种图像处理方法、装置、存储介质及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113780326A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115147526A (zh) * | 2022-06-30 | 2022-10-04 | 北京百度网讯科技有限公司 | 服饰生成模型的训练、生成服饰图像的方法和装置 |
| WO2023125374A1 (zh) * | 2021-12-29 | 2023-07-06 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| WO2023168667A1 (zh) * | 2022-03-10 | 2023-09-14 | 深圳市大疆创新科技有限公司 | 图像处理方法、装置、神经网络训练方法及存储介质 |
-
2021
- 2021-03-02 CN CN202110231306.8A patent/CN113780326A/zh active Pending
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023125374A1 (zh) * | 2021-12-29 | 2023-07-06 | 北京字跳网络技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| WO2023168667A1 (zh) * | 2022-03-10 | 2023-09-14 | 深圳市大疆创新科技有限公司 | 图像处理方法、装置、神经网络训练方法及存储介质 |
| CN115147526A (zh) * | 2022-06-30 | 2022-10-04 | 北京百度网讯科技有限公司 | 服饰生成模型的训练、生成服饰图像的方法和装置 |
| CN115147526B (zh) * | 2022-06-30 | 2023-09-26 | 北京百度网讯科技有限公司 | 服饰生成模型的训练、生成服饰图像的方法和装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10380996B2 (en) | Method and apparatus for correcting speech recognition result, device and computer-readable storage medium | |
| CN108509915B (zh) | 人脸识别模型的生成方法和装置 | |
| JP7373554B2 (ja) | クロスドメイン画像変換 | |
| CN112699991A (zh) | 用于加速神经网络训练的信息处理的方法、电子设备和计算机可读介质 | |
| CN113780326A (zh) | 一种图像处理方法、装置、存储介质及电子设备 | |
| CN110009059B (zh) | 用于生成模型的方法和装置 | |
| JP2022177232A (ja) | 画像処理方法、テキスト認識方法及び装置 | |
| CN110516598B (zh) | 用于生成图像的方法和装置 | |
| CN115937033B (zh) | 图像生成方法、装置及电子设备 | |
| CN115861462B (zh) | 图像生成模型的训练方法、装置、电子设备及存储介质 | |
| CN114529574A (zh) | 基于图像分割的图像抠图方法、装置、计算机设备及介质 | |
| CN115359314A (zh) | 模型训练方法、图像编辑方法、装置、介质与电子设备 | |
| CN116564355A (zh) | 一种基于自注意力机制融合的多模态情感识别方法、***、设备及介质 | |
| CN111815748B (zh) | 一种动画处理方法、装置、存储介质及电子设备 | |
| CN113902789A (zh) | 图像特征处理、深度图像生成方法及装置、介质和设备 | |
| CN117315758A (zh) | 面部表情的检测方法、装置、电子设备及存储介质 | |
| CN111144374A (zh) | 人脸表情识别方法及装置、存储介质和电子设备 | |
| CN116363561A (zh) | 一种时序动作定位方法、装置、设备及存储介质 | |
| CN117011156A (zh) | 图像处理方法、装置、设备及存储介质 | |
| CN115861255A (zh) | 用于图像处理的模型训练方法、装置、设备、介质及产品 | |
| CN113065585B (zh) | 图像合成模型的训练方法、装置与电子设备 | |
| CN115457365A (zh) | 一种模型的解释方法、装置、电子设备及存储介质 | |
| CN115049546A (zh) | 样本数据处理方法、装置、电子设备及存储介质 | |
| CN114926322A (zh) | 图像生成方法、装置、电子设备和存储介质 | |
| CN114399708A (zh) | 一种视频动作迁移深度学习***和方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |