CN113920575A - 一种人脸表情识别方法、装置及存储介质 - Google Patents
一种人脸表情识别方法、装置及存储介质 Download PDFInfo
- Publication number
- CN113920575A CN113920575A CN202111528667.5A CN202111528667A CN113920575A CN 113920575 A CN113920575 A CN 113920575A CN 202111528667 A CN202111528667 A CN 202111528667A CN 113920575 A CN113920575 A CN 113920575A
- Authority
- CN
- China
- Prior art keywords
- facial
- facial expression
- image
- expression recognition
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种人脸表情识别方法、装置及存储介质,其中方法包括:获取人脸图像,将人脸图像进行对齐处理得到对齐人脸图像;基于重要关键点在对齐人脸图像中划分四个图像区域;标注对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;将训练集数据输入至预先设计好的神经网络结构中,进行模型训练得到人脸表情识别模型;将待识别人脸图像输入至人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,根据每一个图像区域对应的状态对人脸识别结果进行修正,得到最终的人脸识别结果。本发明实施例根据图像区域对应的状态对人脸表情识别结果进行修正,能够有效提高人脸表情识别的准确性。
Description
技术领域
本发明涉及图像识别技术领域,尤其是涉及一种人脸表情识别方法、装置及存储介质。
背景技术
在智能座舱***中,人脸图像的表情识别能够提供舱内人员的情绪信息。人类面部表情识别深受人们的文化、性别、种族、年龄等影响,难以给出精度较高的预测。随着人们对智能座舱的体验要求不断提高,提高人脸图像表情识别精度来判断舱内人员感受成为重要的研究方向之一。现有的人脸表情识别方法通常为基于2D人脸图像直接识别人脸表情,但是现有的人脸表情识别方法直接识别人脸表情,在复杂的实际环境下表情识别的准确率较低。
发明内容
本发明提供了一种人脸表情识别方法、装置及存储介质,以解决现有的人脸表情识别方法直接识别人脸表情,在复杂的实际环境下表情识别的准确率较低得技术问题。
本发明的一个实施例一种人脸表情识别方法,包括:
获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像;
根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域,所述四个图像区域包括左眼区域、右眼区域、嘴部区域和额头及鼻部区域;
标注所述对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
将所述训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
将待识别人脸图像输入至所述人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸识别结果进行修正,得到最终的人脸识别结果。
进一步的,获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像,包括:
采用人脸68点关键点检测算法获取所述人脸图像中的68个人脸关键点,并通过坐标点表示每一个人脸关键点的位置;
根据所述人脸图像中鼻部区域关键点、嘴部区域关键点、左眼部周边关键点和右眼部周边关键点进行仿射变换得到对齐人脸图像。
进一步的,根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域,包括:
根据人脸表情与面部器官的强关联性,获取左眼部对应的重要关键点、右眼部对应的重要关键点、嘴部对应的重要关键点,以及额头及鼻部对应的重要关键点,根据所有所述重要关键点的坐标均值在所述对齐人脸图像中划分四个图像区域。
进一步的,所述人脸表情包括平静、愤怒、高兴、悲伤、惊讶、厌恶和惊讶;
所述左眼部和右眼部的状态包括眼睛眯起、眼部放松和眼部圆瞪;
所述额头及鼻部区域的状态分为放松、皱眉和皱鼻;
所述嘴部区域的状态包括闭口放松、闭口紧闭、张口放松和张口收紧。
进一步的,进行模型训练得到人脸表情识别模型,包括:
将人脸表情的预测作为classes=7的分类问题,将额头及鼻部区域、左眼区域、右眼区域和嘴部区域的预测分别作为classes=3、3、3、4的分类问题,并采用交叉熵函数进行训练,得到人脸表情识别模型。
进一步的,所述交叉熵函数为:
其中,yi为预测的样本i的标签,c为样本i的真实标签,p(yi)为样本i标签为yi的概率,1{}为指示函数,当判断条件为真时,指示函数的值为1,当判断条件为假时,指示函数的值为0。
进一步的,所述在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸识别结果进行修正,得到最终的人脸识别结果,包括:
在所述人脸表情识别结果的概率在预设阈值范围时,检查与所述人脸表情识别结果强相关的图像区域对应的状态,若所述状态不支持所述人脸表情识别结果,则根据所述图像区域对应的状态修正所述人脸识别结果。
进一步的,在将所述训练集数据输入至预先设计好的神经网络结构中之前,采用数据增强方法对所述训练集数据进行预处理,所述数据增强方法包括水平翻转、对比度增强、加高斯噪声和随机单应性变换的至少一种。
本发明的一个实施例提供了一种人脸表情识别装置,包括:
人脸图像对齐模块,用于获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像;
图像区域划分模块,用于根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域;
图像标注模块,用于标注所述对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
模型训练模块,用于将所述训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
表情识别模块,用于将待识别人脸图像输入至所述人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸识别结果进行修正,得到最终的人脸识别结果。
本发明的一个实施例提供了一种计算机存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述的人脸表情识别的步骤。
本发明实施例根据人脸表情与面部器官的强相关性在人脸图像中划分四个图像区域,通过人脸表情识别模型得到人脸表情识别结果以及每个图像区域对应的状态,根据图像区域对应的状态对人脸表情识别结果进行修正,能够有效提高人脸表情识别的准确性,适用于复杂场景下的人脸表情识别。
附图说明
图1是本发明实施例提供的人脸表情识别方法的流程示意图;
图2是本发明实施例提供的人脸关键点分布以及区域划分示意图;
图3是本发明实施例提供的人脸表情示意图;
图4是本发明实施例提供的额头及鼻部区域状态示意图;
图5是本发明实施例提供的眼部区域状态示意图;
图6是本发明实施例提供的嘴部区域状态示意图;
图7是本发明实施例提供的多任务的神经网络模型的流程示意图;
图8是本发明实施例提供的人脸表情识别装置的结构式示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在本申请的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请的描述中,除非另有说明,“多个”的含义是两个或两个以上。
在本申请的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本申请中的具体含义。
请参阅图1,本发明的一个实施例一种人脸表情识别方法,包括:
S1、获取人脸图像,将人脸图像进行对齐处理得到对齐人脸图像;
在本发明实施例中,可通过视频截图或实时拍摄的方式获取人脸图像,也可以通过调用数据库得到人脸图像。本发明实施例可以采用人脸68个关键点检测算法得到人脸的68个关键点,根据每个关键点的坐标点实现人脸图像的对齐处理。
S2、根据人脸表情与面部器官的强关联性获取对齐人脸图像中的重要关键点,基于重要关键点在对齐人脸图像中划分四个图像区域,四个图像区域包括左眼区域、右眼区域、嘴部区域和额头及鼻部区域;
需要说明的是,与人脸表情强关联性的面部器官包括:眼部、眉部以及嘴部,本发明实施例根据眼部、眉部以及嘴部区域在对其人脸图像中划分为四个对应的图像区域,根据这四个图像区域所表现的状态来修正人脸表情识别结果。
S3、标注对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
请参阅图3,人脸表情包括平静、愤怒、高兴、悲伤、惊讶、厌恶和惊讶;请参阅图5,左眼部和右眼部的状态包括眼睛眯起、眼部放松和眼部圆瞪;请参阅图4,额头及鼻部区域的状态分为放松、皱眉和皱鼻;请参阅图6,嘴部区域的状态包括闭口放松、闭口紧闭、张口放松和张口收紧。
为消除表情数据标注的不确定性,本发明实施例采用是欧东标注的方式根据粉恋面部呈现的表情状态进行人脸表情以及每个图像区域的标注。
S4、将训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
在模型训练过程中,人脸表情识别以及每个图像区域对应的状态共为5个任务,其中人脸表情识别任务之间将整个特征图进行卷积处理,每个图像区域对应的任务根据每个图像区域对应的M层特征图进行卷积操作,且在训练过程中需要调整除最后全连接层的输入通过个数。需要说明的是,本发明实施例的5个任务的训练过程均为分类任务,其整体结构相同,训练的参数可根据实际需要进行调整。
S5、将待识别人脸图像输入至人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在人脸表情识别结果的概率在预设阈值范围时,根据每一个图像区域对应的状态对人脸识别结果进行修正,得到最终的人脸识别结果。
在本发明实施例中,根据人脸表情与面部器官的强相关性在人脸图像中划分四个图像区域,通过人脸表情识别模型得到人脸表情识别结果以及每个图像区域对应的状态,根据图像区域对应的状态对人脸表情识别结果进行修正,能够有效提高人脸表情识别的准确性,适用于复杂场景下的人脸表情识别。
在一个实施例中,获取人脸图像,将人脸图像进行对齐处理得到对齐人脸图像,包括:
采用人脸68点关键点检测算法获取人脸图像中的68个人脸关键点,并通过坐标点表示每一个人脸关键点的位置;
请参阅图2,68个关键点的位置及顺序如图2所示,每个关键点在同一坐标系后采用(x, y)坐标表示。
根据人脸图像中鼻部区域关键点、嘴部区域关键点、左眼部周边关键点和右眼部周边关键点进行仿射变换得到对齐人脸图像。
请继续参阅图2,本发明实施例根据68个点中的第30、48、54个点及左右眼部周边点坐标均值,通过仿射变换获取仿射变换矩阵,得到变换后的68个关键点坐标信息,在根据变换举证获取对齐后的人脸图像,在一种具体的实施方式中,对齐后的人连图像大小为(128,128)。
在一个实施例中,根据人脸表情与面部器官的强关联性获取对齐人脸图像中的重要关键点,基于重要关键点在对齐人脸图像中划分四个图像区域,包括:
根据人脸表情与面部器官的强关联性,获取左眼部对应的重要关键点、右眼部对应的重要关键点、嘴部对应的重要关键点,以及额头及鼻部对应的重要关键点,根据所有重要关键点的坐标均值在对齐人脸图像中划分四个图像区域。
本发明实施例根据对多种面部表情的面部表现,分析嘴部、鼻子、眉头、眼睛及眉毛特点,发现7类别表情与眼部、眉部、鼻子及嘴部存在强相关性。请继续参阅图2,左眼部对应17、19、27、28关键点构成的矩形区域,右眼部对应24、26、27、28关键点构成的矩形区域,嘴部对应关键点33水平线以下区域,眉部及鼻部对应关键点33以上、及关键点20、23之间组成的区域。即本发明实施例中重要关键点为17、19、20、23、24、26、27、28、33,通过统计上述关键点的坐标均值,准确划分四个图像区域。
在一个实施例中,进行模型训练得到人脸表情识别模型,包括:
将人脸表情的预测作为classes=7的分类问题,将额头及鼻部区域、左眼区域、右眼区域和嘴部区域的预测分别作为classes=3、3、3、4的分类问题,并采用交叉熵函数进行训练,得到人脸表情识别模型。
请参阅图7,为本发明实施例提供的一种多任务神经网络模型的流程示意图。本发明实施根据面部区域的位置,将面部区域对应神经网络的最后一个特征图(即图7中的M层)的区域,对该区域进行后续卷积和全连接处理,从而实现每个对应的面部区域的状态单独学习以及预测。
在一个实施例中,交叉熵函数为:
其中,yi为预测的样本i的标签,c为样本i的真实标签,p(yi)为样本i标签为yi的概率,1{}为指示函数,当判断条件为真时,指示函数的值为1,当判断条件为假时,指示函数的值为0。
在一个实施例中,在人脸表情识别结果的概率在预设阈值范围时,根据每一个图像区域对应的状态对人脸识别结果进行修正,得到最终的人脸识别结果,包括:
在人脸表情识别结果的概率在预设阈值范围时,检查与人脸表情识别结果强相关的图像区域对应的状态,若状态不支持人脸表情识别结果,则根据图像区域对应的状态修正人脸识别结果。
在一个具体的实施方式中,本发明实施例的人脸表情识别结果为7个,包括平静、愤怒、高兴、悲伤、惊讶、厌恶和惊讶,模型输出的人脸表情识别结果中有7个对应的概率值,概率最大的表情其概率值必定大于1/7,若该最大值概率值较小,如设置预设阈值范围为1/7至1/6,该概率值为1/13时,根据得到的人脸表情识别结果关联的面部区域的状态进行调整,例如,当人脸表情结果识别为惊讶时,若该识别结果的概率在预设范围,根据惊讶表情强相关的图像区域,例如左眼部和右眼部对应的状态进行调整,若此时眼部对应的状态均为圆瞪,则人脸识别结果可靠,最终的人脸识别结果为惊讶,若此时眼部对应的状态为放松或眯起,则该人脸图像的表情为非惊讶表情。
在一个实施例中,在将训练集数据输入至预先设计好的神经网络结构中之前,采用数据增强方法对训练集数据进行预处理,数据增强方法包括水平翻转、对比度增强、加高斯噪声和随机单应性变换的至少一种。
在本发明实施例中,在将训练集数据输入至预先设计好的神经网络结构中之前,还将训练接数据的人脸图像做归一化处理,具体为:(I- 128.0)/255.0,其中,I为人脸图像,128.0为均值,255.0为方差。
实施本发明实施例,具有以下有益效果:
在本发明实施例中,根据人脸表情与面部器官的强相关性在人脸图像中划分四个图像区域,通过人脸表情识别模型得到人脸表情识别结果以及每个图像区域对应的状态,根据图像区域对应的状态对人脸表情识别结果进行修正,能够有效提高人脸表情识别的准确性,适用于复杂场景下的人脸表情识别。
进一步的,本发明实施例将人脸表情与面部区域特征进行关联,在进行模型训练时候,仅需对人脸表情以及各个面部区域对应的状态进行标注即可,能够有效降低数据标注的难度,且以标注后的数据作为训练集,能够显著降低表情识别的训练数,从而能够有效降低训练的不确定性,以及提高模型训练的可靠性以及准确性。
请参阅图8,基于与上述实施例相同的技术构思,本发明的一个实施例提供了一种人脸表情识别装置,包括:
人脸图像对齐模块10,用于获取人脸图像,将人脸图像进行对齐处理得到对齐人脸图像;
图像区域划分模块20,用于根据人脸表情与面部器官的强关联性获取对齐人脸图像中的重要关键点,基于重要关键点在对齐人脸图像中划分四个图像区域;
图像标注模块30,用于标注对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
模型训练模块40,用于将训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
表情识别模块50,用于将待识别人脸图像输入至人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在人脸表情识别结果的概率在预设阈值范围时,根据每一个图像区域对应的状态对人脸识别结果进行修正,得到最终的人脸识别结果。
在一个实施例中,人脸图像对齐模块10具体用于:
采用人脸68点关键点检测算法获取人脸图像中的68个人脸关键点,并通过坐标点表示每一个人脸关键点的位置;
根据人脸图像中鼻部区域关键点、嘴部区域关键点、左眼部周边关键点和右眼部周边关键点进行仿射变换得到对齐人脸图像。
在一个实施例中,图像区域划分模块20具体用于:
根据人脸表情与面部器官的强关联性,获取左眼部对应的重要关键点、右眼部对应的重要关键点、嘴部对应的重要关键点,以及额头及鼻部对应的重要关键点,根据所有重要关键点的坐标均值在对齐人脸图像中划分四个图像区域。
在一个实施例中,人脸表情包括平静、愤怒、高兴、悲伤、惊讶、厌恶和惊讶;
左眼部和右眼部的状态包括眼睛眯起、眼部放松和眼部圆瞪;
额头及鼻部区域的状态分为放松、皱眉和皱鼻;
嘴部区域的状态包括闭口放松、闭口紧闭、张口放松和张口收紧。
在一个实施例中,模型训练模块40具体用于:
将人脸表情的预测作为classes=7的分类问题,将额头及鼻部区域、左眼区域、右眼区域和嘴部区域的预测分别作为classes=3、3、3、4的分类问题,并采用交叉熵函数进行训练,得到人脸表情识别模型。
在一个实施例中,交叉熵函数为:
其中,yi为预测的样本i的标签,c为样本i的真实标签,p(yi)为样本i标签为yi的概率,1{}为指示函数,当判断条件为真时,指示函数的值为1,当判断条件为假时,指示函数的值为0。
在一个实施例中,表情识别模块50具体用于:
在人脸表情识别结果的概率在预设阈值范围时,检查与人脸表情识别结果强相关的图像区域对应的状态,若状态不支持人脸表情识别结果,则根据图像区域对应的状态修正人脸识别结果。
在一个实施例中,还包括数据预处理模块,用于在将训练集数据输入至预先设计好的神经网络结构中之前,采用数据增强方法对训练集数据进行预处理,数据增强方法包括水平翻转、对比度增强、加高斯噪声和随机单应性变换的至少一种。
本发明的一个实施例提供了一种计算机存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上述的人脸表情识别的步骤。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也视为本发明的保护范围。
Claims (10)
1.一种人脸表情识别方法,其特征在于,包括:
获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像;
根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域,所述四个图像区域包括左眼区域、右眼区域、嘴部区域和额头及鼻部区域;
标注所述对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
将所述训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
将待识别人脸图像输入至所述人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸表情识别结果进行修正,得到最终的人脸识别结果。
2.如权利要求1所述的人脸表情识别方法,其特征在于,获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像,包括:
采用人脸68点关键点检测算法获取所述人脸图像中的68个人脸关键点,并通过坐标点表示每一个人脸关键点的位置;
根据所述人脸图像中鼻部区域关键点、嘴部区域关键点、左眼部周边关键点和右眼部周边关键点进行仿射变换得到对齐人脸图像。
3.如权利要求1所述的人脸表情识别方法,其特征在于,根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域,包括:
根据人脸表情与面部器官的强关联性,获取左眼部对应的重要关键点、右眼部对应的重要关键点、嘴部对应的重要关键点,以及额头及鼻部对应的重要关键点,根据所有所述重要关键点的坐标均值在所述对齐人脸图像中划分四个图像区域。
4.如权利要求1所述的人脸表情识别方法,其特征在于,
所述人脸表情包括平静、愤怒、高兴、悲伤、惊讶、厌恶和惊讶;
所述左眼区域和右眼区域的状态包括眼睛眯起、眼部放松和眼部圆瞪;
所述额头及鼻部区域的状态分为放松、皱眉和皱鼻;
所述嘴部区域的状态包括闭口放松、闭口紧闭、张口放松和张口收紧。
5.如权利要求1所述的人脸表情识别方法,其特征在于,进行模型训练得到人脸表情识别模型,包括:
将人脸表情的预测作为classes=7的分类问题,将额头及鼻部区域、左眼区域、右眼区域和嘴部区域的预测分别作为classes=3、3、3、4的分类问题,并采用交叉熵函数进行训练,得到人脸表情识别模型。
7.如权利要求1所述的人脸表情识别方法,其特征在于,所述在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸识别结果进行修正,得到最终的人脸识别结果,包括:
在所述人脸表情识别结果的概率在预设阈值范围时,检查与所述人脸表情识别结果强相关的图像区域对应的状态,若所述状态不支持所述人脸表情识别结果,则根据所述图像区域对应的状态修正所述人脸识别结果。
8.如权利要求1所述的人脸表情识别方法,其特征在于,在将所述训练集数据输入至预先设计好的神经网络结构中之前,采用数据增强方法对所述训练集数据进行预处理,所述数据增强方法包括水平翻转、对比度增强、加高斯噪声和随机单应性变换的至少一种。
9.一种人脸表情识别装置,其特征在于,包括:
人脸图像对齐模块,用于获取人脸图像,将所述人脸图像进行对齐处理得到对齐人脸图像;
图像区域划分模块,用于根据人脸表情与面部器官的强关联性获取所述对齐人脸图像中的重要关键点,基于所述重要关键点在所述对齐人脸图像中划分四个图像区域;
图像标注模块,用于标注所述对齐人脸图像中的人脸表情以及每个图像区域对应的状态,得到训练集数据;
模型训练模块,用于将所述训练集数据输入至预先设计好的神经网络结构中,以人脸表情以及每个图像区域对应的状态作为输出结果,进行模型训练得到人脸表情识别模型;
表情识别模块,用于将待识别人脸图像输入至所述人脸表情识别模型中得到人脸表情识别结果以及每个图像区域对应的状态,在所述人脸表情识别结果的概率在预设阈值范围时,根据所述每一个图像区域对应的状态对所述人脸表情识别结果进行修正,得到最终的人脸识别结果。
10.一种计算机存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的人脸表情识别的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111528667.5A CN113920575A (zh) | 2021-12-15 | 2021-12-15 | 一种人脸表情识别方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111528667.5A CN113920575A (zh) | 2021-12-15 | 2021-12-15 | 一种人脸表情识别方法、装置及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113920575A true CN113920575A (zh) | 2022-01-11 |
Family
ID=79248798
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111528667.5A Pending CN113920575A (zh) | 2021-12-15 | 2021-12-15 | 一种人脸表情识别方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113920575A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627218A (zh) * | 2022-05-16 | 2022-06-14 | 成都市谛视无限科技有限公司 | 一种基于虚拟引擎的人脸细微表情捕捉方法及装置 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107203773A (zh) * | 2016-03-17 | 2017-09-26 | 掌赢信息科技(上海)有限公司 | 一种嘴部表情迁移的方法及电子设备 |
CN107633203A (zh) * | 2017-08-17 | 2018-01-26 | 平安科技(深圳)有限公司 | 面部情绪识别方法、装置及存储介质 |
CN109635727A (zh) * | 2018-12-11 | 2019-04-16 | 昆山优尼电能运动科技有限公司 | 一种人脸表情识别方法及装置 |
CN110348331A (zh) * | 2019-06-24 | 2019-10-18 | 深圳和而泰家居在线网络科技有限公司 | 人脸识别方法及电子设备 |
CN110705467A (zh) * | 2019-09-30 | 2020-01-17 | 广州海昇计算机科技有限公司 | 一种人脸表情识别方法、***、装置和存储介质 |
WO2020103700A1 (zh) * | 2018-11-21 | 2020-05-28 | 腾讯科技(深圳)有限公司 | 一种基于微表情的图像识别方法、装置以及相关设备 |
CN111626113A (zh) * | 2020-04-20 | 2020-09-04 | 北京市西城区培智中心学校 | 一种基于面部动作单元的面部表情识别方法和装置 |
CN111626126A (zh) * | 2020-04-26 | 2020-09-04 | 腾讯科技(北京)有限公司 | 一种人脸情绪识别的方法、装置、介质及电子设备 |
CN112381019A (zh) * | 2020-11-19 | 2021-02-19 | 平安科技(深圳)有限公司 | 复合表情识别方法、装置、终端设备及存储介质 |
CN112686195A (zh) * | 2021-01-07 | 2021-04-20 | 风变科技(深圳)有限公司 | 情绪识别方法、装置、计算机设备和存储介质 |
-
2021
- 2021-12-15 CN CN202111528667.5A patent/CN113920575A/zh active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107203773A (zh) * | 2016-03-17 | 2017-09-26 | 掌赢信息科技(上海)有限公司 | 一种嘴部表情迁移的方法及电子设备 |
CN107633203A (zh) * | 2017-08-17 | 2018-01-26 | 平安科技(深圳)有限公司 | 面部情绪识别方法、装置及存储介质 |
WO2020103700A1 (zh) * | 2018-11-21 | 2020-05-28 | 腾讯科技(深圳)有限公司 | 一种基于微表情的图像识别方法、装置以及相关设备 |
CN109635727A (zh) * | 2018-12-11 | 2019-04-16 | 昆山优尼电能运动科技有限公司 | 一种人脸表情识别方法及装置 |
CN110348331A (zh) * | 2019-06-24 | 2019-10-18 | 深圳和而泰家居在线网络科技有限公司 | 人脸识别方法及电子设备 |
CN110705467A (zh) * | 2019-09-30 | 2020-01-17 | 广州海昇计算机科技有限公司 | 一种人脸表情识别方法、***、装置和存储介质 |
CN111626113A (zh) * | 2020-04-20 | 2020-09-04 | 北京市西城区培智中心学校 | 一种基于面部动作单元的面部表情识别方法和装置 |
CN111626126A (zh) * | 2020-04-26 | 2020-09-04 | 腾讯科技(北京)有限公司 | 一种人脸情绪识别的方法、装置、介质及电子设备 |
CN112381019A (zh) * | 2020-11-19 | 2021-02-19 | 平安科技(深圳)有限公司 | 复合表情识别方法、装置、终端设备及存储介质 |
CN112686195A (zh) * | 2021-01-07 | 2021-04-20 | 风变科技(深圳)有限公司 | 情绪识别方法、装置、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
言有三: "《深度学习之人脸图像处理 核心算法与案例实战》", 31 July 2020 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627218A (zh) * | 2022-05-16 | 2022-06-14 | 成都市谛视无限科技有限公司 | 一种基于虚拟引擎的人脸细微表情捕捉方法及装置 |
CN114627218B (zh) * | 2022-05-16 | 2022-08-12 | 成都市谛视无限科技有限公司 | 一种基于虚拟引擎的人脸细微表情捕捉方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110427867B (zh) | 基于残差注意力机制的面部表情识别方法及*** | |
US20210390706A1 (en) | Detection model training method and apparatus, computer device and storage medium | |
EP3916627A1 (en) | Living body detection method based on facial recognition, and electronic device and storage medium | |
CN110197146B (zh) | 基于深度学习的人脸图像分析方法、电子装置及存储介质 | |
US8085996B2 (en) | Image processing apparatus, image display apparatus, imaging apparatus, method for image processing therefor, and program | |
CN111310731A (zh) | 基于人工智能的视频推荐方法、装置、设备及存储介质 | |
CN108985232A (zh) | 人脸图像比对方法、装置、计算机设备及存储介质 | |
US20230081982A1 (en) | Image processing method and apparatus, computer device, storage medium, and computer program product | |
CN111695462B (zh) | 一种人脸识别方法、装置、存储介质和服务器 | |
CN111310705A (zh) | 图像识别方法、装置、计算机设备及存储介质 | |
CN110598638A (zh) | 模型训练方法、人脸性别预测方法、设备及存储介质 | |
CN110427881B (zh) | 基于人脸局部区域特征学习的跨库微表情识别方法及装置 | |
CN109376717A (zh) | 人脸对比的身份识别方法、装置、电子设备及存储介质 | |
CN113255557B (zh) | 一种基于深度学习的视频人群情绪分析方法及*** | |
US20210365836A1 (en) | Methods and systems for pre-optimizing input data for an ocr engine or other computer-implemented analysis process | |
CN111666845A (zh) | 基于关键帧采样的小样本深度学习多模态手语识别方法 | |
CN110929570B (zh) | 虹膜快速定位装置及其定位方法 | |
CN113920575A (zh) | 一种人脸表情识别方法、装置及存储介质 | |
Shukla et al. | Deep Learning Model to Identify Hide Images using CNN Algorithm | |
CN114399827B (zh) | 基于面部微表情的高校毕业生职业性格测试方法及*** | |
RU2768797C1 (ru) | Способ и система для определения синтетически измененных изображений лиц на видео | |
CN115205956A (zh) | 左右眼检测模型训练方法、识别左右眼的方法及装置 | |
CN115294621A (zh) | 一种基于两阶段自愈网络的表情识别***及方法 | |
CN114639132A (zh) | 人脸识别场景下的特征提取模型处理方法、装置、设备 | |
CN111325132A (zh) | 一种智能监控*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220111 |
|
RJ01 | Rejection of invention patent application after publication |