CN111860362A - 生成人脸图像校正模型及校正人脸图像的方法和装置 - Google Patents

生成人脸图像校正模型及校正人脸图像的方法和装置 Download PDF

Info

Publication number
CN111860362A
CN111860362A CN202010720935.2A CN202010720935A CN111860362A CN 111860362 A CN111860362 A CN 111860362A CN 202010720935 A CN202010720935 A CN 202010720935A CN 111860362 A CN111860362 A CN 111860362A
Authority
CN
China
Prior art keywords
face image
face
image
sample
confrontation network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010720935.2A
Other languages
English (en)
Inventor
王珂尧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202010720935.2A priority Critical patent/CN111860362A/zh
Publication of CN111860362A publication Critical patent/CN111860362A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了生成人脸图像校正模型的方法和装置、校正人脸图像的方法和装置,涉及人脸识别技术领域。具体实现方案为:获取样本集,其中,样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;从样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。该实施方式能够生成人脸图像校正模型,将不同角度的人脸图像转换成正脸图像后再进行表情识别,提高了表情识别的准确率和鲁棒性。

Description

生成人脸图像校正模型及校正人脸图像的方法和装置
技术领域
本申请涉及计算机技术领域,具体涉及人脸识别技术领域。
背景技术
大部分实验室采集样本都是人脸正对摄像头,头部姿态端正,人脸的姿态各式各样等问题。而现实场景中人脸表情是自发产生的,头部姿态偏差较大,增大了识别的难度。
目前,人脸表情识别一般使用传统方法或使用单模型卷积神经网络,将做完人脸矫正后的人脸表情图像作为输入,经过卷积神经网络或者人工提取表情特征,再通过分类器输出即为表情识别分类结果。对于真实场景中人脸姿态过大时鲁棒性较差,极易造成误识别,导致降低了算法准确性较低。
发明内容
本公开提供了一种生成人脸图像校正模型的方法、装置、设备以及存储介质以及一种校正人脸图像的方法、装置、设备以及存储介质。
根据本公开的第一方面,提供了一种生成人脸图像校正模型的方法,包括:获取样本集,其中,样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;从样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。
根据本公开的第二方面,提供了一种校正人脸图像的方法,包括:将待识别的头像输入人脸检测模型,得到人脸图像;将人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸;将对齐人脸输入采用如第一方面之一的方法生成的人脸图像校正模型,得到姿态校正后的正脸图像。
根据本公开的第三方面,提供了一种生成人脸图像校正模型的装置,包括:获取单元,被配置成获取样本集,其中,样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;训练单元,被配置成将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。
根据本公开的第四方面,提供了一种校正人脸图像的装置,包括:人脸检测单元,被配置成将待识别的头像输入人脸检测模型,得到人脸图像;关键点检测单元,被配置成将人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸;校正单元,被配置成将对齐人脸输入采用如第一方面之一的装置生成的人脸图像校正模型,得到姿态校正后的正脸图像。
根据本公开的第五方面,提供了一种电子设备,其特征在于,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行第一方面和第二方面中任一项的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,计算机指令用于使计算机执行权利要求1-7中任一项的方法。
根据本申请的技术方案,利用生成对抗网络(GAN)的方法可以将任意姿态的人脸图像转化成正面姿态的人脸表情图像,可以大大提高复杂环境下大姿态人脸表情识别的准确率和鲁棒性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请可以应用于其中的示例性***架构图;
图2是根据本申请生成人脸图像校正模型的方法的一个实施例的流程图;
图3是根据本申请生成人脸图像校正模型的方法的一个应用场景的示意图;
图4是根据本申请校正人脸图像的方法的一个实施例的流程图;
图5是根据本申请生成人脸图像校正模型的装置的一个实施例的结构示意图;
图6是根据本申请校正人脸图像的装置的一个实施例的结构示意图;
图7是用来实现本申请实施例的生成人脸图像校正模型的方法和校正人脸图像的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1示出了可以应用本申请实施例的生成人脸图像校正模型的方法、生成人脸图像校正模型的装置、校正人脸图像的方法或校正人脸图像的装置的示例性***架构100。
如图1所示,***架构100可以包括终端101、102,网络103、数据库服务器104和服务器105。网络103用以在终端101、102,数据库服务器104与服务器105之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端101、102通过网络103与服务器105进行交互,以接收或发送消息等。终端101、102上可以安装有各种客户端应用,例如模型训练类应用、人脸检测识别类应用、购物类应用、支付类应用、网页浏览器和即时通讯工具等。
这里的终端101、102可以是硬件,也可以是软件。当终端101、102为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、膝上型便携计算机和台式计算机等等。当终端101、102为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
当终端101、102为硬件时,其上还可以安装有图像采集设备。图像采集设备可以是各种能实现采集图像功能的设备,如摄像头、传感器等等。用户110可以利用终端101、102上的图像采集设备,来采集自身或他人的人脸图像。
数据库服务器104可以是提供各种服务的数据库服务器。例如数据库服务器中可以存储有样本集。样本集中包含有大量的样本。其中,样本可以包括同一人的正脸图像和任意姿态角度的侧脸图像。这样,用户110也可以通过终端101、102,从数据库服务器104所存储的样本集中选取样本。
服务器105也可以是提供各种服务的服务器,例如对终端101、102上显示的各种应用提供支持的后台服务器。后台服务器可以利用终端101、102发送的样本集中的样本,对初始模型进行训练,并可以将训练结果(如生成的人脸图像校正模型)发送给终端101、102。这样,用户可以应用生成的人脸图像校正模型进行人脸检测。
这里的数据库服务器104和服务器105同样可以是硬件,也可以是软件。当它们为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当它们为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的生成人脸图像校正模型的方法或校正人脸图像的方法一般由服务器105执行。相应地,生成人脸图像校正模型的装置或校正人脸图像的装置一般也设置于服务器105中。
需要指出的是,在服务器105可以实现数据库服务器104的相关功能的情况下,***架构100中可以不设置数据库服务器104。
应该理解,图1中的终端、网络、数据库服务器和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端、网络、数据库服务器和服务器。
继续参见图2,其示出了根据本申请的生成人脸图像校正模型的方法的一个实施例的流程200。该生成人脸图像校正模型的方法可以包括以下步骤:
步骤201,获取样本集。
在本实施例中,生成人脸图像校正模型的方法的执行主体(例如图1所示的服务器105)可以通过多种方式来获取样本集。例如,执行主体可以通过有线连接方式或无线连接方式,从数据库服务器(例如图1所示的数据库服务器104)中获取存储于其中的现有的样本集。再例如,用户可以通过终端(例如图1所示的终端101、102)来收集样本。这样,执行主体可以接收终端所收集的样本,并将这些样本存储在本地,从而生成样本集。
在这里,样本集中可以包括至少一个样本。其中,样本可以包括同一人的正脸图像和任意姿态角度的侧脸图像。GAN(Generative Adversarial Networks,生成对抗网络)训练时输入为同一个人的正脸姿态角度为0°的人脸表情图像和其任意姿态角度的人脸表情图像,目的是让GAN学习通过一个任意姿态角度的人脸表情图像生成正脸姿态角度为0°的人脸表情图像,同时保证人物id特征和表情特征没有变化。可使用Multi-PIE作为GAN的训练集,假设正脸姿态角度为0°,可得到不同姿态角度(姿态角度从-90°到90°)的人脸表情图像。另外,人脸表情根据人脸肌肉的变化分为7类基本表情,生气(Angry)、厌恶(Disgust)、恐惧(Fear)、高兴(Happiness)、悲伤(Sadness)、惊讶(Surprise)和中性(Neutral)。同时我们定义人脸包含72个关键点分别为(x1,y1)…(x72,y72),示意图如图3所示。
样本的生成过程如下所示:对摄像头采集的不同角度的图像进行图像预处理,首先得到一张包含人脸的图像,通过检测模型对人脸进行检测,得到人脸的大致位置区域;其中,检测模型可以是已有人脸检测模型,可以检测到人脸位置。其次根据检测到的人脸区域,通过人脸关键点检测模型对人脸关键点进行检测得到人脸的关键点坐标值;其中,人脸关键点检测模型为已有模型,调用已有模型,输入已检测到人脸的图像,得到72个人脸关键点坐标,分别为(x1,y1)…(x72,y72)。然后根据人脸的关键点坐标值对目标人脸进行人脸对齐,同时通过仿射变换截取仅包含人脸区域并调整到相同尺寸,例如224x224,人脸关键点坐标也根据仿射变换矩阵重新映射到新的坐标。样本中的正脸图像和侧脸图像包括人脸关键点坐标。
可选地,还可将得到的包含人脸图像区域进行图像归一化处理。本实施例中,图像归一化处理,是图像中的每一个像素依次进行归一化处理,归一化处理的方法可以是:每个像素的像素值减128再除以256,使每个像素的像素值在[-0.5,0.5]之间。这样可以降低图像处理的复杂度,提高处理速度。
可选地,还可将归一化处理后的图像进行随机数据增强处理。例如,旋转、缩放、裁剪、翻转等。这样可以增加训练样本的数量,从而使得训练出的模型更鲁棒。
步骤202,从样本集中选取样本。
在本实施例中,执行主体可以从步骤201中获取的样本集中选取样本,以及执行步骤203至步骤206的训练步骤。其中,样本的选取方式和选取数量在本申请中并不限制。例如可以是随机选取至少一个样本,也可以是从中选取人脸图像的清晰度较好(即像素较高)的样本。
步骤203,将选取的样本的侧脸图像输入生成对抗网络,得到合成图像。
在本实施例中,生成对抗网络可以是深度卷积生成对抗网络(DeepConvolutional Generative Adversarial Network,DCGAN)。其中,上述生成对抗网络可以包括生成网络和判别网络,上述生成网络可以用于对所输入的图像进行姿态调整并输出调整后的图像,上述判别网络可以用于确定所输入的图像是否为上述生成网络所输出的图像。需要说明的是,上述生成网络可以是用于进行图像处理的卷积神经网络(例如包含卷积层、池化层、反池化层、反卷积层的各种卷积神经网络结构,可以依次进行降采样和上采样);上述判别网络可以是卷积神经网络(例如包含全连接层的各种卷积神经网络结构,其中,上述全连接层可以实现分类功能)。此外,上述判别网络也可以是可以用于实现分类功能的其他模型结构,例如支持向量机(Support Vector Machine,SVM)。需要说明的是,将上述生成网络所输出的图像可以用RGB三通道的矩阵进行表达。此处,判别网络若判定输入的图像是上述生成网络所输出的图像(来自生成数据),则可以输出1;若判定输入的图像不是上述生成网络所输出的图像(来自真实数据,即上述第二图像),则可以输出0。需要说明的是,所述判别网络也可以基于预先设定是输出其他数值,不限于1和0。
基于机器学习方法,将样本中的侧脸图像作为上述生成网络的输入,将上述生成网络输出的图像和样本中的正脸图像作为上述判别网络的输入,对上述生成网络和上述判别网络进行训练,将训练后的上述生成对抗网络确定为人脸图像校正模型。具体地,可以首先固定生成网络和判别网络中的任一网络(可称为第一网络)的参数,对未固定参数的网络(可称为第二网络)进行优化;再固定第二网络的参数,对第一网络进行改进。不断进行上述迭代,使判别网络无法区分输入的图像是否是生成网络所生成的,直至最终收敛。此时,上述生成网络所生成的图像与第二图像接近,上述判别网络无法准确区分真实数据和生成数据(即准确率为50%),可以将此时的生成网络确定为人脸图像校正模型。
步骤204,将合成图像与对应的正脸图像进行分析,确定脸部特征损失值。
在本实施例中,执行主体可以将根据样本的侧脸图像生成的合成图像与和该样本的正脸图像进行分析,从而可以确定脸部特征损失值。例如可以将合成图像中的关键点坐标和正脸图像中的关键点坐标作为参数,输入指定的损失函数(loss function)中,从而可以计算得到两者之间损失值。
在本实施例中,损失函数通常是用来估量模型的预测值(如合成图像)与真实值(如正脸图像)的不一致程度。它是一个非负实值函数。一般情况下,损失函数越小,模型的鲁棒性就越好。损失函数可以根据实际需求来设置。
步骤205,如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。
在本实施例中,如果步骤202中选取有多个样本,那么在每个样本的脸部特征损失值均达到目标值的情况下,执行主体可以确定生成对抗网络训练完成。再例如,执行主体可以统计脸部特征损失值达到目标值的样本占选取的样本的比例。且在该比例达到预设样本比例(如95%),可以确定生成对抗网络训练完成。
步骤206,如果根据脸部特征损失值确定出生成对抗网络未训练完成,则调整生成对抗网络中的相关参数,继续执行步骤202-206。
在本实施例中,响应于确定脸部特征损失值未达到目标值,上述电子设备可以调整生成对抗网络的参数,即更新生成网络和/或判别网络,然后复用更新后的生成网络和判别网络重新执行上述训练步骤。由此,生成式对抗网络训练得到的人脸图像校正模型的参数不仅基于训练样本得到,且可以基于判别网络的反向传播而确定的,不需要依赖大量的有标注的样本即可实现生成模型的训练得到人脸图像校正模型,减少了人力成本,进一步提高了图像处理的灵活性。
进一步参见图3,图3是根据本实施例的生成人脸图像校正模型的方法的一个应用场景的示意图。在图3的应用场景中,用户所使用的终端上可以安装有模型训练类应用。当用户打开该应用,并上传样本集或样本集的存储路径后,对该应用提供后台支持的服务器可以运行生成人脸图像校正模型的方法,包括:
首先,可以获取样本集。其中,样本集中的样本可以包括正脸图像和任意姿态角度的侧脸图像。之后,可以从样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。
此时,服务器还可以向终端发送用于指示模型训练完成的提示信息。该提示信息可以是语音和/或文字信息。这样,用户可以在预设的存储位置获取到人脸图像校正模型。
本公开的上述实施例提供的方法,可以生成人脸图像校正模型。从而可将侧脸图像转成正脸图像,能够提高人脸识别的准确性。利用生成对抗网络(GAN)的方法可以将任意姿态的人脸图像转化成正面姿态的人脸表情图像,可以大大提高复杂环境下大姿态人脸表情识别的准确率和鲁棒性。
进一步参考图4,其示出了校正人脸图像的方法的实施例的流程400。该校正人脸图像的方法的流程400,包括以下步骤:
步骤401,将待识别的头像输入人脸检测模型,得到人脸图像。
在本实施例中,校正人脸图像的方法的执行主体(例如图1所示的服务器105)可以通过多种方式来获取检测对象的头像,头像除了包括面部之外还可能包括脖子等其它部位。例如,执行主体可以通过有线连接方式或无线连接方式,从数据库服务器(例如图1所示的数据库服务器104)中获取存储于其中的包括人脸的图像。再例如,执行主体也可以接收终端(例如图1所示的终端101、102)或其他设备采集的头像。
在本实施例中,检测对象可以是任意用户,例如使用终端的用户,或者出现在图像采集范围内的其他用户等。头像同样可以是彩色图像和/或灰度图像等等。且该头像的格式在本申请中也不限制。
通过检测模型对待识别的头像进行检测,得到人脸的大致位置区域;其中,检测模型为已有人脸检测模型,可以检测到人脸位置。
步骤402,将人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸。
在本实施例中,根据检测到的人脸区域,通过人脸关键点检测模型对人脸关键点进行检测得到人脸的关键点坐标值;其中,人脸关键点检测模型为已有模型,调用已有模型,输入已检测到人脸的图像,得到72个人脸关键点坐标,分别为(x1,y1)…(x72,y72)。然后根据人脸的关键点坐标值对目标人脸进行人脸对齐,同时通过仿射变换截取仅包含人脸区域并调整到相同尺224x224,人脸关键点坐标也根据仿射变换矩阵重新映射到新的坐标。
步骤403,将对齐人脸输入人脸图像校正模型,得到姿态校正后的正脸图像。
在本实施例中,将对齐人脸输入至通过步骤201-206训练出的GAN,得到一张由GAN矫正姿态后的正脸图像。
可选地,还可将正脸图像输入预先训练的表情检测模型,输出表情信息。表情检测模型是一种卷积神经网络,用于提取表情特征,卷积神经网络包括8个卷积层和5个最大池化层,最后通过一个全连接层得到人脸7分类表情信息。人脸表情根据人脸肌肉的变化分为7类基本表情,生气(Angry)、厌恶(Disgust)、恐惧(Fear)、高兴(Happiness)、悲伤(Sadness)、惊讶(Surprise)和中性(Neutral)。
可选地,该方法还可获取当前采集头像的场景信息,然后根据表情信息和场景信息进行服务质量评估。可根据服务质量评估结果实现信息推荐等辅助功能。精度的提高有利于提高诸多应用的服务质量,例如在广告投放方面,有利于辅助推荐更符合用户需求的搜索结果和精准广告投放;在远程教育方面,有利于识别学生的情绪来改善教学内容,提高远程教育质量;在驾驶员监控场景中,有利于识别驾驶员的情绪,对驾驶员进行相应提示,以保证驾驶员的安全。
需要说明的是,本实施例校正人脸图像的方法可以用于测试上述各实施例所生成的人脸图像校正模型。进而根据测试结果可以不断地优化人脸图像校正模型。该方法也可以是上述各实施例所生成的人脸图像校正模型的实际应用方法。采用上述各实施例所生成的人脸图像校正模型,来进行人脸图像校正,有助于提高人脸识别的性能。如找到的人脸较多,找到的人脸信息比较准确等。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种生成人脸图像校正模型的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的生成人脸图像校正模型的装置500包括:获取单元501和训练单元502。其中,获取单元501,被配置成获取样本集,其中,样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;训练单元502,被配置成从样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据脸部特征损失值确定出生成对抗网络训练完成,则将生成对抗网络作为人脸图像校正模型。
在本实施例的一些可选的实现方式中,装置500还包括调整单元503,被配置成:如果根据脸部特征损失值确定出生成对抗网络未训练完成,则调整生成对抗网络中的相关参数,以及从样本集中重新选取样本,使用调整后的生成对抗网络作为生成对抗网络,继续执行训练步骤。
在本实施例的一些可选的实现方式中,样本集中每个样本中的正脸图像和侧脸图像经过归一化处理。
在本实施例的一些可选的实现方式中,样本集中的样本通过以下至少一种方式进行随机数据增强处理:旋转、缩放、裁剪、翻转。
进一步参考图6,作为对上述各图所示方法的实现,本公开提供了一种校正人脸图像的装置的一个实施例,该装置实施例与图4所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,本实施例的校正人脸图像的装置600包括:人脸检测单元601、关键点检测单元602、校正单元603。其中,人脸检测单元601,被配置成将待识别的头像输入人脸检测模型,得到人脸图像;关键点检测单元602,被配置成将人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸;校正单元603,被配置成将对齐人脸输入采用如权利要求1-4之一的装置生成的人脸图像校正模型,得到姿态校正后的正脸图像。
在本实施例的一些可选的实现方式中,装置600还包括表情检测单元604,被配置成:将正脸图像输入预先训练的表情检测模型,输出表情信息。
在本实施例的一些可选的实现方式中,装置600还包括评估单元(附图中未示出),被配置成:获取场景信息;根据表情信息和场景信息进行服务质量评估。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图7所示,是根据本申请实施例的生成人脸图像校正模型的方法和校正人脸图像的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器***)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的生成人脸图像校正模型的方法和校正人脸图像的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的生成人脸图像校正模型的方法和校正人脸图像的方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的生成人脸图像校正模型的方法和校正人脸图像的方法对应的程序指令/模块(例如,附图5所示的xx模块X01、xx模块x02和xx模块x03)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的生成人脸图像校正模型的方法和校正人脸图像的方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需要的应用程序;存储数据区可存储根据生成人脸图像校正模型的方法和校正人脸图像的方法的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至生成人脸图像校正模型的方法和校正人脸图像的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
生成人脸图像校正模型的方法和校正人脸图像的方法的方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与生成人脸图像校正模型的方法和校正人脸图像的方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请的技术方案,利用生成对抗网络(GAN)的方法可以将任意姿态的人脸图像转化成正面姿态的人脸表情图像,可以大大提高复杂环境下大姿态人脸表情识别的准确率和鲁棒性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。

Claims (16)

1.一种生成人脸图像校正模型的方法,包括:
获取样本集,其中,所述样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;
从所述样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将所述合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据所述脸部特征损失值确定出所述生成对抗网络训练完成,则将所述生成对抗网络作为人脸图像校正模型。
2.根据权利要求1所述的方法,其中,所述方法还包括:
如果根据所述脸部特征损失值确定出所述生成对抗网络未训练完成,则调整所述生成对抗网络中的相关参数,以及从所述样本集中重新选取样本,使用调整后的生成对抗网络作为生成对抗网络,继续执行所述训练步骤。
3.根据权利要求1所述的方法,其中,所述样本集中每个样本中的正脸图像和侧脸图像经过归一化处理。
4.根据权利要求1-3中所述的方法,其中,所述样本集中的样本通过以下至少一种方式进行随机数据增强处理:
旋转、缩放、裁剪、翻转。
5.一种校正人脸图像的方法,包括:
将待识别的头像输入人脸检测模型,得到人脸图像;
将所述人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸;
将所述对齐人脸输入采用如权利要求1-4之一所述的方法生成的人脸图像校正模型,得到姿态校正后的正脸图像。
6.根据权利要求5所述的方法,其中,所述方法还包括:
将所述正脸图像输入预先训练的表情检测模型,输出表情信息。
7.根据权利要求6所述的方法,其中,所述方法还包括:
获取场景信息;
根据所述表情信息和所述场景信息进行服务质量评估。
8.一种生成人脸图像校正模型的装置,包括:
获取单元,被配置成获取样本集,其中,所述样本集中每个样本包括同一人的正脸图像和任意姿态角度的侧脸图像;
训练单元,被配置成从所述样本集中选取样本,以及执行以下训练步骤:将选取的样本的侧脸图像输入生成对抗网络,得到合成图像;将所述合成图像与对应的正脸图像进行分析,确定脸部特征损失值;如果根据所述脸部特征损失值确定出所述生成对抗网络训练完成,则将所述生成对抗网络作为人脸图像校正模型。
9.根据权利要求8所述的装置,其中,所述装置还包括调整单元,被配置成:
如果根据所述脸部特征损失值确定出所述生成对抗网络未训练完成,则调整所述生成对抗网络中的相关参数,以及从所述样本集中重新选取样本,使用调整后的生成对抗网络作为生成对抗网络,继续执行所述训练步骤。
10.根据权利要求8所述的装置,其中,所述样本集中每个样本中的正脸图像和侧脸图像经过归一化处理。
11.根据权利要求8-10中所述的装置,其中,所述样本集中的样本通过以下至少一种方式进行随机数据增强处理:
旋转、缩放、裁剪、翻转。
12.一种校正人脸图像的装置,包括:
人脸检测单元,被配置成将待识别的头像输入人脸检测模型,得到人脸图像;
关键点检测单元,被配置成将所述人脸图像输入人脸关键点检测模型,得到包括关键点的对齐人脸;
校正单元,被配置成将所述对齐人脸输入采用如权利要求1-4之一所述的装置生成的人脸图像校正模型,得到姿态校正后的正脸图像。
13.根据权利要求12所述的装置,所述装置还包括表情检测单元,被配置成:
将所述正脸图像输入预先训练的表情检测模型,输出表情信息。
14.根据权利要求13所述的装置,其中,所述装置还包括评估单元,被配置成:
获取场景信息;
根据所述表情信息和所述场景信息进行服务质量评估。
15.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
CN202010720935.2A 2020-07-24 2020-07-24 生成人脸图像校正模型及校正人脸图像的方法和装置 Pending CN111860362A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010720935.2A CN111860362A (zh) 2020-07-24 2020-07-24 生成人脸图像校正模型及校正人脸图像的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010720935.2A CN111860362A (zh) 2020-07-24 2020-07-24 生成人脸图像校正模型及校正人脸图像的方法和装置

Publications (1)

Publication Number Publication Date
CN111860362A true CN111860362A (zh) 2020-10-30

Family

ID=72951135

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010720935.2A Pending CN111860362A (zh) 2020-07-24 2020-07-24 生成人脸图像校正模型及校正人脸图像的方法和装置

Country Status (1)

Country Link
CN (1) CN111860362A (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112183492A (zh) * 2020-11-05 2021-01-05 厦门市美亚柏科信息股份有限公司 一种人脸模型精度矫正方法、装置及存储介质
CN112330781A (zh) * 2020-11-24 2021-02-05 北京百度网讯科技有限公司 生成模型和生成人脸动画的方法、装置、设备和存储介质
CN112395979A (zh) * 2020-11-17 2021-02-23 平安科技(深圳)有限公司 基于图像的健康状态识别方法、装置、设备及存储介质
CN113033288A (zh) * 2021-01-29 2021-06-25 浙江大学 一种基于生成对抗网络的侧脸图片生成正脸图片的方法
CN113033476A (zh) * 2021-04-19 2021-06-25 清华大学 一种跨姿态人脸识别方法
CN113191197A (zh) * 2021-04-01 2021-07-30 杭州海康威视***技术有限公司 一种图像还原方法及装置
CN113255788A (zh) * 2021-05-31 2021-08-13 西安电子科技大学 基于两阶段掩码指导的生成对抗网络人脸校正方法及***
CN113343931A (zh) * 2021-07-05 2021-09-03 Oppo广东移动通信有限公司 生成对抗网络的训练方法、图像视线校正方法与装置
CN113781540A (zh) * 2021-09-15 2021-12-10 京东鲲鹏(江苏)科技有限公司 网络生成方法、装置、电子设备和计算机可读介质
CN113822790A (zh) * 2021-06-03 2021-12-21 腾讯云计算(北京)有限责任公司 一种图像处理方法、装置、设备及计算机可读存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108446609A (zh) * 2018-03-02 2018-08-24 南京邮电大学 一种基于生成对抗网络的多角度面部表情识别方法
CN110222668A (zh) * 2019-06-17 2019-09-10 苏州大学 基于生成对抗网络的多姿态面部表情识别方法
CN110738161A (zh) * 2019-10-12 2020-01-31 电子科技大学 一种基于改进生成式对抗网络的人脸图像矫正方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108446609A (zh) * 2018-03-02 2018-08-24 南京邮电大学 一种基于生成对抗网络的多角度面部表情识别方法
CN110222668A (zh) * 2019-06-17 2019-09-10 苏州大学 基于生成对抗网络的多姿态面部表情识别方法
CN110738161A (zh) * 2019-10-12 2020-01-31 电子科技大学 一种基于改进生成式对抗网络的人脸图像矫正方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
RUI HUANG等人: "Beyond Face Rotation: Global and Local Perception GAN for Photorealistic and Identity Preserving Frontal View Synthesis", ARXIV:1704.04086V2, 4 August 2017 (2017-08-04), pages 1 - 11 *
范雪,杨鸿波,李永: "基于深度学习的人脸图像扭正算法", 《信息通信》, 31 July 2017 (2017-07-31), pages 5 - 9 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112183492A (zh) * 2020-11-05 2021-01-05 厦门市美亚柏科信息股份有限公司 一种人脸模型精度矫正方法、装置及存储介质
CN112183492B (zh) * 2020-11-05 2022-07-15 厦门市美亚柏科信息股份有限公司 一种人脸模型精度矫正方法、装置及存储介质
CN112395979A (zh) * 2020-11-17 2021-02-23 平安科技(深圳)有限公司 基于图像的健康状态识别方法、装置、设备及存储介质
CN112395979B (zh) * 2020-11-17 2024-05-10 平安科技(深圳)有限公司 基于图像的健康状态识别方法、装置、设备及存储介质
CN112330781A (zh) * 2020-11-24 2021-02-05 北京百度网讯科技有限公司 生成模型和生成人脸动画的方法、装置、设备和存储介质
CN113033288B (zh) * 2021-01-29 2022-06-24 浙江大学 一种基于生成对抗网络的侧脸图片生成正脸图片的方法
CN113033288A (zh) * 2021-01-29 2021-06-25 浙江大学 一种基于生成对抗网络的侧脸图片生成正脸图片的方法
CN113191197A (zh) * 2021-04-01 2021-07-30 杭州海康威视***技术有限公司 一种图像还原方法及装置
CN113191197B (zh) * 2021-04-01 2024-02-09 杭州海康威视***技术有限公司 一种图像还原方法及装置
CN113033476B (zh) * 2021-04-19 2022-08-12 清华大学 一种跨姿态人脸识别方法
CN113033476A (zh) * 2021-04-19 2021-06-25 清华大学 一种跨姿态人脸识别方法
CN113255788A (zh) * 2021-05-31 2021-08-13 西安电子科技大学 基于两阶段掩码指导的生成对抗网络人脸校正方法及***
CN113822790A (zh) * 2021-06-03 2021-12-21 腾讯云计算(北京)有限责任公司 一种图像处理方法、装置、设备及计算机可读存储介质
WO2022252372A1 (zh) * 2021-06-03 2022-12-08 腾讯云计算(北京)有限责任公司 一种图像处理方法、装置、设备及计算机可读存储介质
CN113822790B (zh) * 2021-06-03 2023-04-21 腾讯云计算(北京)有限责任公司 一种图像处理方法、装置、设备及计算机可读存储介质
CN113343931A (zh) * 2021-07-05 2021-09-03 Oppo广东移动通信有限公司 生成对抗网络的训练方法、图像视线校正方法与装置
CN113781540A (zh) * 2021-09-15 2021-12-10 京东鲲鹏(江苏)科技有限公司 网络生成方法、装置、电子设备和计算机可读介质

Similar Documents

Publication Publication Date Title
CN111860362A (zh) 生成人脸图像校正模型及校正人脸图像的方法和装置
CN109313490B (zh) 使用神经网络的眼睛注视跟踪
US20190392587A1 (en) System for predicting articulated object feature location
CN111598164B (zh) 识别目标对象的属性的方法、装置、电子设备和存储介质
CN111783620A (zh) 表情识别方法、装置、设备及存储介质
EP3665676A1 (en) Speaking classification using audio-visual data
CN111783622A (zh) 人脸表情识别的方法、装置、设备和计算机可读存储介质
CN112966742A (zh) 模型训练方法、目标检测方法、装置和电子设备
CN110741377A (zh) 人脸图像处理方法、装置、存储介质及电子设备
US20220051004A1 (en) Image processing method, apparatus, device and storage medium
CN111783621A (zh) 人脸表情识别及模型训练的方法、装置、设备及存储介质
CN111539897A (zh) 用于生成图像转换模型的方法和装置
WO2023098912A1 (zh) 图像处理方法、装置、存储介质及电子设备
US11921276B2 (en) Method and apparatus for evaluating image relative definition, device and medium
CN112241716B (zh) 训练样本的生成方法和装置
CN112561879A (zh) 模糊度评价模型训练方法、图像模糊度评价方法及装置
CN111523467A (zh) 人脸跟踪方法和装置
CN112328088B (zh) 图像的呈现方法和装置
CN112016523A (zh) 跨模态人脸识别的方法、装置、设备和存储介质
US11556183B1 (en) Techniques for generating data for an intelligent gesture detector
CN112200169B (zh) 用于训练模型的方法、装置、设备以及存储介质
CN115393488A (zh) 虚拟人物表情的驱动方法、装置、电子设备和存储介质
CN113128436B (zh) 关键点的检测方法和装置
CN115205806A (zh) 生成目标检测模型的方法、装置和自动驾驶车辆
CN112560678A (zh) 表情识别方法、装置、设备及计算机存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination