CN117237984A - 基于标签一致性的mt腿部识别方法、***、介质和设备 - Google Patents
基于标签一致性的mt腿部识别方法、***、介质和设备 Download PDFInfo
- Publication number
- CN117237984A CN117237984A CN202311115847.XA CN202311115847A CN117237984A CN 117237984 A CN117237984 A CN 117237984A CN 202311115847 A CN202311115847 A CN 202311115847A CN 117237984 A CN117237984 A CN 117237984A
- Authority
- CN
- China
- Prior art keywords
- model
- teacher
- leg
- neural network
- student
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 238000012549 training Methods 0.000 claims abstract description 65
- 238000013528 artificial neural network Methods 0.000 claims abstract description 50
- 238000000605 extraction Methods 0.000 claims abstract description 27
- 238000012360 testing method Methods 0.000 claims abstract description 15
- 239000011159 matrix material Substances 0.000 claims abstract description 14
- 238000007781 pre-processing Methods 0.000 claims abstract description 9
- 230000006870 function Effects 0.000 claims description 23
- 238000011176 pooling Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 16
- 238000010276 construction Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 9
- 238000013507 mapping Methods 0.000 claims description 7
- 101100533306 Mus musculus Setx gene Proteins 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Image Analysis (AREA)
Abstract
本发明涉及计算机视觉技术领域,公开一种基于标签一致性的MT腿部识别方法、***、介质和设备,包括:获取腿部姿态视频并预处理得到腿部姿态图像,分为训练集和测试集;构建神经网络识别模型,主干网络为用于提取图像特征并输入到全连接层中的三维残差网络,全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取;通过平均教师架构训练识别模型,平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估教师模型在特征空间中是否与学生模型一致;将测试集输入训练完成的识别模型得到识别结果。本发明可以降低数据集中的标签存在不平衡或偏斜时的影响、在有限的数据样本下提高复杂环境下的腿部姿态识别精度、提高泛化能力。
Description
技术领域
本发明涉及计算机视觉技术领域,尤其是指一种基于标签一致性的MT腿部识别方法、***、介质和设备。
背景技术
复杂环境下的腿部姿态识别是计算机视觉分类技术的重要组成部分,它对青少年时期的腿型及走路姿态校正有着关键作用,因此针对复杂环境下的腿部姿态识别的研究越来越得到了研究者的重视。
现有技术中有基于全卷积孪生网络的视频目标跟踪方法,该方法实现的具体步骤是:基于ImageNet2015数据库,利用预先在线学***衡或偏斜的问题,也会对腿部姿态的识别带来影响,进一步降低识别精度。
发明内容
为此,本发明所要解决的技术问题在于克服现有技术中的不足,提供一种基于标签一致性的MT腿部识别方法、***、介质和设备,可以降低数据集中的标签存在不平衡或偏斜时的影响、在有限的数据样本下提高复杂环境下的腿部姿态识别精度、提高泛化能力。
为解决上述技术问题,本发明提供了一种基于标签一致性的MT腿部识别方法,包括:
获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集;
构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络,所述三维残差网络用于提取图像特征并输入到全连接层中,所述神经网络识别模型的全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取;
通过平均教师架构,使用所述训练集训练所述神经网络识别模型得到训练完成的神经网络识别模型;所述平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致;训练前初始的所述学生模型和教师模型均为构建的所述神经网络识别模型,训练过程中使用所述教师模型指导所述学生模型训练,将训练完成的所述学生模型作为训练完成的神经网络识别模型;
将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
在本发明的一个实施例中,所述全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取,具体为:
设置所述水平特征提取模块的S个刻度,S个刻度的长度分别为1、2、…、S;提取到的图像特征经过所述水平特征提取模块中的每个刻度时,分别在高度维度被划分为22、23、…、2 S+1个条带;
使用全局池化层对每个条带进行全局池化,将全局池化后的属于同一个刻度划分的所有条带分别输入全连接层得到多个维度的局部特征。
在本发明的一个实施例中,使用全局池化层对每个条带进行全局池化时,计算方法为:
,
其中,z s,t 表示第s个刻度划分的第t个条带,s∈{1,2,…,S},t∈{22,23,…,2 S+1};表示全局池化后的第s个刻度划分的第t个条带,maxpool( )表示全局最大化池化操作,avgpool( )表示全局平局池化操作。
在本发明的一个实施例中,所述通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致,具体为:
将所述训练集中的数据x i 输入所述教师模型得到预测值,设置教师模型的硬目标/> ,/>表示使得/>取得最大值时所对应的变量点xi的集合,/>表示取预测得到的图像向量/>的第k个分量;
将所述训练集中的数据x j 输入所述学生模型得到预测值,设置学生模型的硬目标/>= />;
当且仅当=/>时,所述教师模型在特征空间中与所述学生模型一致。
在本发明的一个实施例中,通过平均教师架构,使用所述训练集训练所述神经网络识别模型时,总损失函数的建立过程为:
根据所述学生模型的预测结果计算交叉熵损失loss 1 ,结合所述学生模型的预测结果和教师模型的预测结果计算均方误差损失loss 2 ;
将教师模型和学生模型的分类器f分解为g和h,其中,h为将输入x i 、x j 映射到更高感受野的映射函数,g为输出层,经过h映射后得到的特征图为h(x i )、h(x j );
根据所述和/>构建系数矩阵W ij ,/>;结合所述h(x i )、h(x j )和W ij 构建相似度损失R S 为:
R S ,
其中,D表示训练集,( )表示相似度函数,/>表示h(x i )和h(x j )的相似度;/>( )表示加权函数,/>表示对/>和W ij 进行加权;
计算所述总损失函数L为:L=loss 1 +loss 2 +R S 。
在本发明的一个实施例中,所述根据所述学生模型的预测结果计算交叉熵损失loss 1 ,结合所述学生模型的预测结果和教师模型的预测结果计算均方误差损失loss 2 ,具体为:
对所述训练集中有标签的数据加噪声η后输入所述学生模型,根据所述学生模型的预测结果计算交叉熵损失loss 1 ;
对所述训练集中无标签的数据加噪声η后输入所述学生模型,得到学生模型的预测结果;对所述训练集中无标签的数据加噪声η’后输入所述教师模型,得到教师模型的预测结果/>,所述η和η’不相同;将所述预测结果/>和/>的均方误差作为均方误差损失loss 2 。
在本发明的一个实施例中,所述学生模型的模型权重使用梯度下降法更新,所述教师模型的模型权重结合所述学生模型的模型权重更新,更新公式为:
,
其中,为第t个迭代周期的教师模型的模型权重,/>第t个迭代周期的学生模型的模型权重,α为权重系数。
本发明还提供了一种基于标签一致性的MT腿部识别***,包括:
数据获取模块,用于获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集;
模型构建模块,用于构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络,所述三维残差网络用于提取图像特征并输入到全连接层中,所述神经网络识别模型的全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取;
训练模块,用于通过平均教师架构,使用所述训练集训练所述神经网络识别模型得到训练完成的神经网络识别模型;所述平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致;
识别模块,用于将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
本发明还提供了一种计算机可读存储介质,该计算机程序被处理器执行时实现所述的基于标签一致性的MT腿部识别方法。
本发明还提供了一种基于标签一致性的MT腿部识别设备,包括存储器、处理器和存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现所述的基于标签一致性的MT腿部识别方法。
本发明的上述技术方案相比现有技术具有以下优点:
本发明针对腿部姿态图像,通过结合使用三维残差网络作为主干网络、在全连接层中引入水平特征提取模块提取局部特征,实现了对腿部姿态图像特征的有效提取;通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致,可以降低数据集中的标签存在不平衡或偏斜时的影响,从而充分利用有限的数据样本,在有限的数据样本下提高复杂环境下的腿部姿态识别精度;本发明在训练神经网络识别模型时采用平均教师架构,通过平均教师架构中学生模型和教师模型的作用提高了识别模型的性能和泛化能力。
附图说明
为了使本发明的内容更容易被清楚的理解,下面根据本发明的具体实施例并结合附图,对本发明作进一步详细的说明,其中:
图1是本发明方法的流程图。
图2是本发明的结构示意图。
图3是本发明实施例中特征增强后的示意图。
图4是本发明实施例中第一层特征提取后的示例图。
图5是本发明实施例中最后一层特征提取后的示例图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明,以使本领域的技术人员可以更好地理解本发明并能予以实施,但所举实施例不作为对本发明的限定。
参照图1-图2所示,本发明公开了一种基于标签一致性的MT腿部识别方法,包括以下步骤:
S1:获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集。
本实施例中,将获取的腿部姿态视频按帧拆分成图片集,然后从定义增加或者减弱图片对比度、高斯模糊、随机裁剪图片边长比例、仿射变换、改变颜色、归一化处理等中随机选择进行预处理操作,预处理操作对整个图片集进行图片增强,将经过图片增强后的图片集组合成图像张量、即腿部姿态图像,作为模型输入分为训练集和测试集。
S2:构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络(3DResNet),所述三维残差网络(3DResNet)用于提取图像特征并将提取到的图像特征输入到全连接层中,所述神经网络识别模型的全连接(Full Connection,FC)层中引入水平特征提取模块(Horizontal Feature Extraction,HFE),水平特征提取模块(HFE)可以提高模型的性能和泛化能力对提取到的图像特征进行局部特征提取。
所述全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取,具体为:
(1)设置所述水平特征提取模块的S个刻度,S个刻度的长度分别为1、2、…、S;提取到的图像特征经过所述水平特征提取模块中的每个刻度时,分别在高度维度被划分为22、23、…、2 S+1个条带,被一个刻度划分的属于一种条带,一共个条带;本实施例中,S的取值根据实际情况确定。
(2)使用全局池化层作用域三维的条带提取一维特征,对每个条带z s,t ,t∈22、23、…、2 S+1表示条带在刻度中的索引,进行全局池化,计算方法为:
,
其中,z s,t 表示第s个刻度划分的第t个条带,s∈{1,2,…,S},t∈{22,23,…,2 S+1};表示全局池化后的第s个刻度划分的第t个条带,maxpool( )表示全局最大化池化操作,avgpool( )表示全局平局池化操作。
(3)将全局池化后的属于同一个刻度划分的所有条带分别输入全连接层得到多个维度的局部特征。属于同一个刻度划分的所有条带为一种条带,每一种条带使用一种全连接,使用全连接层将特征映射到一个可描述的空间。
S3:通过平均教师(Mean-Teacher,MT)架构,使用所述训练集训练所述神经网络识别模型,达到预定的最大迭代次数或总损失函数收敛时得到训练完成的神经网络识别模型,所述平均教师架构包括学生模型和教师模型。训练前初始的所述学生模型和教师模型均为构建的所述神经网络识别模型,训练过程中使用所述教师模型指导所述学生模型训练。所述学生模型通过前向传播生成预测结果,所述教师模型通过前向传播生成指导性的预测结果,通过模型间的知识传递提高学生模型性能。将训练完成的所述学生模型作为训练完成的神经网络识别模型。
训练模型时,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致,具体为:
将所述训练集中的数据x i 输入所述教师模型得到预测值,设置教师模型的硬目标/> ,/>表示使得/>取得最大值时所对应的变量点xi的集合,/>表示取预测得到的图像向量/>的第k个分量。将所述训练集中的数据x j 输入所述学生模型得到预测值/>,设置学生模型的硬目标=/>。当且仅当/>=/>时,所述教师模型在特征空间中与所述学生模型一致。k的取值根据实际情况确定,x i 和x j 可以相同、可以不同。
训练所述神经网络识别模型时,对所述训练集中的数据进行两种不同的加噪操作,将经过两种不同的加噪操作后的数据分别作为所述学生模型和教师模型的输入。总损失函数的建立过程为:
(1)对所述训练集中有标签的数据加噪声η后输入所述学生模型,根据所述学生模型的预测结果计算交叉熵损失loss 1。
(2)对所述训练集中无标签的数据加噪声η后输入所述学生模型,得到学生模型的预测结果;对所述训练集中无标签的数据加噪声η’后输入所述教师模型,得到教师模型的预测结果/>。将所述预测结果/>和/>的均方误差作为均方误差损失loss 2 。
(3)将教师模型和学生模型的分类器f分解为g和h,其中,h为将输入x i 、x j 映射到更高感受野的映射函数,g为输出层,g可以为带有softmax函数的全连接层;经过h映射后得到的特征图为h(x i )、h(xj);本发明中,将h(x i )和h(xj)作为输入的特征图。通常,特征空间可近似为线性可分的,为近似类别相似度。h(x i )和h(xj)的欧氏距离比和/>的欧氏距离更合适作为判断是否相似时的参数。因此,本发明中使用h(x i )和h(xj)来引导特征空间中的特征图,以实现更好的相似点区分。
根据所述和/>构建系数矩阵W ij ,/>;结合所述h(x i )、h(xj)和W ij 构建相似度损失RS为:
,
其中,D表示训练集,( )表示相似度函数,/>表示h(x i )和h(xj)的相似度,本实施例中相似度函数可以是欧氏距离或余弦相似度;/>( )表示加权函数,表示对/>和W ij 进行加权。
(4)计算所述总损失函数L为:L=loss 1 +loss 2 +R S 。本实施例中,总损失函数L还可以包含其他任务相关的损失项,例如分类损失或正则化项。
学生模型的模型权重使用梯度下降法更新。教师模型的模型权重通过指数移动平均值更新,具体为结合所述学生模型的模型权重更新,更新公式为:
,
其中,为第t个迭代周期的教师模型的模型权重,/>为第t-1个迭代周期的教师模型的模型权重,/>第t个迭代周期的学生模型的模型权重,α为权重系数,本实施例中α取值为0.75。
将总损失函数L作为平均教师架构训练时的损失函数,重复上述过程直到达到预设的最大迭代次数、或者总损失函数L收敛,将此时更新得到的学生模型的模型权重作为最终的权重,将最终的权重对应的学生模型作为训练完成的神经网络识别模型。
S4:将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
本发明还公开了一种基于标签一致性的MT腿部识别方***,包括数据获取模块、模型构建模块、训练模块、识别模块。
数据获取模块用于获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集。模型构建模块用于构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络,所述三维残差网络用于提取图像特征并输入到全连接层中,所述神经网络识别模型的全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取。训练模块用于通过平均教师架构,使用所述训练集训练所述神经网络识别模型得到训练完成的神经网络识别模型;所述平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致。识别模块用于将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
本发明还公开了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述的基于标签一致性的MT腿部识别方法。
本发明还公开了一种基于标签一致性的MT腿部识别设备,包括存储器、处理器和存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现所述的基于标签一致性的MT腿部识别方法。
与现有技术相比,本发明的优点有:
1、本发明针对腿部姿态图像,通过结合使用三维残差网络作为主干网络、在全连接层中引入水平特征提取模块提取局部特征,实现了对腿部姿态图像特征的有效提取,从而提高了复杂环境下的腿部姿态识别精度。
2、本发明通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致,可以降低数据集中的标签存在不平衡或偏斜时的影响,有助于识别模型更好地学习和识别类别。这样,学生模型可以逐渐从更可靠的目标中学习,从而充分利用有限的数据样本、缓解数据稀缺的问题,在有限的数据样本下提高复杂环境下的腿部姿态识别精度。
3、本发明中采用了平均教师架构和三维残差网络结合的识别模型,兼具了半监督学习方法和三维卷积神经网络的优势。使得本发明在视频目标跟踪中具有一定的优势,可以利用未标记的视频序列进行训练,减少了对大量标注数据的需求,提高了识别模型的性能和泛化能力、提高鲁棒性。
4、3DResNet结构是全卷积网络结构,将3DResNet作为主干网络能够输入输出任意大小的结构,不用受限制于要输入相同大小的图片尺寸,可以在跟踪的时候使用全图作为输入去比较,找到目标的位置,保证目标不丢失。使用3DResNet作为主干网络能够捕捉视频序列中的时间和空间特征,可以进一步提高对目标的识别能力。
因此,本发明可以在有限的标注数据和复杂的视频背景下进行有效的学习和推断,可以广泛应用于计算机视觉、图像处理和模式识别等领域,在视频处理领域中具有重要的应用潜力。
为了进一步说明本发明的有益效果,本实施例中使用本发明中的方法进行腿部姿态识别的仿真实验。图3是对采集到的视频进行增强后得到的图像集合的示意图。图3是原始图像,其中包含了腿部姿态的信息,但对于人眼来说并不直观。通过第一层特征提取,图4展示了经过初步处理后的特征图示意图。在图4中,可以观察到一些初步提取到的腿部姿态特征,例如腿部的轮廓、关节位置等,这些特征的可视化可以帮助我们更好地理解模型对于腿部姿态的学习和识别过程。在图5中,展示了经过最后一层特征提取后的示例图。尽管图5可能存在一定的模糊度,但仍能够呈现一些腿部姿态的关键特征。虽然图像的清晰度可能受到某些因素的影响,但仍可以观察到特征图呈现出更强烈和明确的腿部姿态特征,例如腿部的角度、弯曲程度等。这些特征的突出显示可以帮助更准确地分析和理解腿部姿态。尽管图5的清晰度可能有限,但仍可以通过其模糊的展示,初步理解模型在腿部姿态识别任务中对特定特征的学习和关注。这种特征图的变化和提取能够为腿部姿态识别提供更多的信息和洞察,从而达到更准确和可靠的腿部姿态识别效果。
因此,仿真实验证明了本发明确实可以提取到更加细化、精确的特征,从而提高腿部姿态识别的准确性和鲁棒性。
本领域内的技术人员应明白,本申请的实施例可提供为方法、***、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,上述实施例仅仅是为清楚地说明所作的举例,并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引申出的显而易见的变化或变动仍处于本发明创造的保护范围之中。
Claims (10)
1.一种基于标签一致性的MT腿部识别方法,其特征在于,包括:
获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集;
构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络,所述三维残差网络用于提取图像特征并输入到全连接层中,所述神经网络识别模型的全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取;
通过平均教师架构,使用所述训练集训练所述神经网络识别模型得到训练完成的神经网络识别模型;所述平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致;训练前初始的所述学生模型和教师模型均为构建的所述神经网络识别模型,训练过程中使用所述教师模型指导所述学生模型训练,将训练完成的所述学生模型作为训练完成的神经网络识别模型;
将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
2.根据权利要求1所述的基于标签一致性的MT腿部识别方法,其特征在于:所述全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取,具体为:
设置所述水平特征提取模块的S个刻度,S个刻度的长度分别为1、2、…、S;提取到的图像特征经过所述水平特征提取模块中的每个刻度时,分别在高度维度被划分为22、23、…、2 S +1个条带;
使用全局池化层对每个条带进行全局池化,将全局池化后的属于同一个刻度划分的所有条带分别输入全连接层得到多个维度的局部特征。
3.根据权利要求2所述的基于标签一致性的MT腿部识别方法,其特征在于:使用全局池化层对每个条带进行全局池化时,计算方法为:
,
其中,z s,t 表示第s个刻度划分的第t个条带,s∈{1,2,…,S},t∈{22,23,…,2 S+1};表示全局池化后的第s个刻度划分的第t个条带,maxpool( )表示全局最大化池化操作,avgpool( )表示全局平局池化操作。
4.根据权利要求1所述的基于标签一致性的MT腿部识别方法,其特征在于:所述通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致,具体为:
将所述训练集中的数据x i 输入所述教师模型得到预测值,设置教师模型的硬目标 ,/>表示使得/>取得最大值时所对应的变量点xi的集合,/>表示取预测得到的图像向量/>的第k个分量;
将所述训练集中的数据x j 输入所述学生模型得到预测值,设置学生模型的硬目标= />;
当且仅当=/>时,所述教师模型在特征空间中与所述学生模型一致。
5.根据权利要求4所述的基于标签一致性的MT腿部识别方法,其特征在于:通过平均教师架构,使用所述训练集训练所述神经网络识别模型时,总损失函数的建立过程为:
根据所述学生模型的预测结果计算交叉熵损失loss 1 ,结合所述学生模型的预测结果和教师模型的预测结果计算均方误差损失loss 2 ;
将教师模型和学生模型的分类器f分解为g和h,其中,h为将输入x i 、x j 映射到更高感受野的映射函数,g为输出层,经过h映射后得到的特征图为h(x i )、h(x j );
根据所述和/>构建系数矩阵W ij ,/>;结合所述h(x i )、h(x j )和W ij 构建相似度损失R S 为:
R S ,
其中,D表示训练集,( )表示相似度函数,/>表示h(x i )和h(x j )的相似度;/>( )表示加权函数,/>表示对/>和W ij 进行加权;
计算所述总损失函数L为:L=loss 1 +loss 2 +R S 。
6.根据权利要求5所述的基于标签一致性的MT腿部识别方法,其特征在于:所述根据所述学生模型的预测结果计算交叉熵损失loss 1 ,结合所述学生模型的预测结果和教师模型的预测结果计算均方误差损失loss 2 ,具体为:
对所述训练集中有标签的数据加噪声η后输入所述学生模型,根据所述学生模型的预测结果计算交叉熵损失loss 1 ;
对所述训练集中无标签的数据加噪声η后输入所述学生模型,得到学生模型的预测结果;对所述训练集中无标签的数据加噪声η’后输入所述教师模型,得到教师模型的预测结果/>,所述η和η’不相同;将所述预测结果/>和/>的均方误差作为均方误差损失loss 2 。
7.根据权利要求1所述的基于标签一致性的MT腿部识别方法,其特征在于:所述学生模型的模型权重使用梯度下降法更新,所述教师模型的模型权重结合所述学生模型的模型权重更新,更新公式为:
,
其中,为第t个迭代周期的教师模型的模型权重,/>第t个迭代周期的学生模型的模型权重,α为权重系数。
8.一种基于标签一致性的MT腿部识别***,其特征在于,包括:
数据获取模块,用于获取腿部姿态视频并进行数据预处理得到腿部姿态图像,将腿部姿态图像分为训练集和测试集;
模型构建模块,用于构建神经网络识别模型,所述神经网络识别模型的主干网络为三维残差网络,所述三维残差网络用于提取图像特征并输入到全连接层中,所述神经网络识别模型的全连接层中引入水平特征提取模块对提取到的图像特征进行局部特征提取;
训练模块,用于通过平均教师架构,使用所述训练集训练所述神经网络识别模型得到训练完成的神经网络识别模型;所述平均教师架构包括学生模型和教师模型,通过输出系数矩阵评估所述教师模型在特征空间中是否与所述学生模型一致;
识别模块,用于将所述测试集输入训练完成的神经网络识别模型,得到腿部姿态的识别结果。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:该计算机程序被处理器执行时实现如权利要求1-7任一项所述的基于标签一致性的MT腿部识别方法。
10.一种基于标签一致性的MT腿部识别设备,其特征在于:包括存储器、处理器和存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-7任一项所述的基于标签一致性的MT腿部识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311115847.XA CN117237984B (zh) | 2023-08-31 | 2023-08-31 | 基于标签一致性的mt腿部识别方法、***、介质和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311115847.XA CN117237984B (zh) | 2023-08-31 | 2023-08-31 | 基于标签一致性的mt腿部识别方法、***、介质和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117237984A true CN117237984A (zh) | 2023-12-15 |
CN117237984B CN117237984B (zh) | 2024-06-21 |
Family
ID=89092181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311115847.XA Active CN117237984B (zh) | 2023-08-31 | 2023-08-31 | 基于标签一致性的mt腿部识别方法、***、介质和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117237984B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113488023A (zh) * | 2021-07-07 | 2021-10-08 | 合肥讯飞数码科技有限公司 | 一种语种识别模型构建方法、语种识别方法 |
CN113505719A (zh) * | 2021-07-21 | 2021-10-15 | 山东科技大学 | 基于局部-整体联合知识蒸馏算法的步态识别模型压缩***及方法 |
CN114140876A (zh) * | 2021-11-24 | 2022-03-04 | 华中师范大学 | 一种课堂实时人体动作识别方法、计算机设备及可读介质 |
CN114170461A (zh) * | 2021-12-02 | 2022-03-11 | 匀熵教育科技(无锡)有限公司 | 基于特征空间重整化的师生架构含噪声标签图像分类方法 |
CN114330580A (zh) * | 2021-12-31 | 2022-04-12 | 之江实验室 | 基于歧义指导互标签更新的鲁棒知识蒸馏方法 |
JP2022178145A (ja) * | 2021-05-19 | 2022-12-02 | 株式会社朋栄 | 畳み込みニューラルネットワークを用いた自動特徴抽出による深層カラーマッチング処理方法と特徴抽出可視化方法とその装置 |
-
2023
- 2023-08-31 CN CN202311115847.XA patent/CN117237984B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022178145A (ja) * | 2021-05-19 | 2022-12-02 | 株式会社朋栄 | 畳み込みニューラルネットワークを用いた自動特徴抽出による深層カラーマッチング処理方法と特徴抽出可視化方法とその装置 |
CN113488023A (zh) * | 2021-07-07 | 2021-10-08 | 合肥讯飞数码科技有限公司 | 一种语种识别模型构建方法、语种识别方法 |
CN113505719A (zh) * | 2021-07-21 | 2021-10-15 | 山东科技大学 | 基于局部-整体联合知识蒸馏算法的步态识别模型压缩***及方法 |
CN114140876A (zh) * | 2021-11-24 | 2022-03-04 | 华中师范大学 | 一种课堂实时人体动作识别方法、计算机设备及可读介质 |
CN114170461A (zh) * | 2021-12-02 | 2022-03-11 | 匀熵教育科技(无锡)有限公司 | 基于特征空间重整化的师生架构含噪声标签图像分类方法 |
CN114330580A (zh) * | 2021-12-31 | 2022-04-12 | 之江实验室 | 基于歧义指导互标签更新的鲁棒知识蒸馏方法 |
Non-Patent Citations (1)
Title |
---|
XIONGHUI WANG: "Progressive Teacher-Student Learning for Early Action Prediction", 《2019 IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR)》, 9 January 2020 (2020-01-09) * |
Also Published As
Publication number | Publication date |
---|---|
CN117237984B (zh) | 2024-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107506761B (zh) | 基于显著性学习卷积神经网络的脑部图像分割方法及*** | |
CN109086811B (zh) | 多标签图像分类方法、装置及电子设备 | |
CN108288051B (zh) | 行人再识别模型训练方法及装置、电子设备和存储介质 | |
CN109993102B (zh) | 相似人脸检索方法、装置及存储介质 | |
CN112184752A (zh) | 一种基于金字塔卷积的视频目标跟踪方法 | |
CN112949740B (zh) | 一种基于多级度量的小样本图像分类方法 | |
CN109657567B (zh) | 一种基于3d指纹图像的弱监督的特征分析方法及*** | |
Triki et al. | Deep leaf: Mask R-CNN based leaf detection and segmentation from digitized herbarium specimen images | |
WO2022218396A1 (zh) | 图像处理方法、装置和计算机可读存储介质 | |
CN110245587B (zh) | 一种基于贝叶斯迁移学习的光学遥感图像目标检测方法 | |
Deng et al. | Efficient 3D face recognition using local covariance descriptor and Riemannian kernel sparse coding | |
CN113298146A (zh) | 一种基于特征检测的图像匹配方法、装置、设备及介质 | |
CN112489088A (zh) | 一种基于记忆单元的孪生网络视觉跟踪方法 | |
Böhland et al. | Influence of synthetic label image object properties on GAN supported segmentation pipelines | |
CN113223037B (zh) | 一种面向大规模数据的无监督语义分割方法及*** | |
CN112329771A (zh) | 一种基于深度学习的建筑材料样本识别方法 | |
CN110135435B (zh) | 一种基于广度学习***的显著性检测方法及装置 | |
Yang et al. | Shape-based classification of environmental microorganisms | |
CN111008630A (zh) | 一种基于弱监督学习的目标定位方法 | |
CN112949658B (zh) | 一种具有稳定性能的深度学习方法 | |
CN112329662B (zh) | 基于无监督学习的多视角显著性估计方法 | |
CN117437691A (zh) | 一种基于轻量化网络的实时多人异常行为识别方法及*** | |
CN116740362A (zh) | 一种基于注意力的轻量化非对称场景语义分割方法及*** | |
CN117237984B (zh) | 基于标签一致性的mt腿部识别方法、***、介质和设备 | |
Li et al. | Research on hybrid information recognition algorithm and quality of golf swing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |